Tekoälyä hyödynnetään jo monissa lääketurvan työvaiheissa. Sen käyttöön liittyy sekä mahdollisuuksia että riskejä, sillä tekoälyn tuottama tieto ei aina pidä paikkaansa. Siksi ihmisen tekemä tarkistus ja arviointi ovat tärkeä osa sen käyttöä.
Missä tekoälyä voidaan hyödyntää lääketurvassa?
Haittavaikutusten käsittelyssä tekoäly voi lukea lähdeaineistoa, auttaa tapausten luokittelussa ja tunnistaa mahdollisia päällekkäisiä tapauksia. Sitä voidaan käyttää myös tapauskuvausten luonnostelussa ja MedDRA-koodauksen tukena.
Lääketurvan kirjallisuusseurannassa tekoäly voi auttaa käymään läpi aineistoja ja tunnistamaan julkaisuja, jotka vaativat tarkempaa arviointia. Signaalinhallinnassa tekoälyä voidaan hyödyntää aineistojen analysoinnissa ja mahdollisten turvallisuussignaalien tunnistamisessa.
Tekoälyä voidaan hyödyntää myös määräaikaisessa turvallisuusraportoinnissa esimerkiksi tiedonhaussa, listausten muodostamisessa ja PSUR/PBRER-raporttien luonnostelussa. Lisäksi tekoäly voi auttaa tapaussarjojen yhdenmukaisuuden tarkistamisessa sekä laadun ja vaatimustenmukaisuuden seurannassa.
Tekoäly voi olla vakuuttavasti väärässä
Tekoälyn tekemää virhettä ei välttämättä ole helppo huomata, sillä sen tuottama sisältö voi vaikuttaa täysin uskottavalta.
Tekoäly voi esimerkiksi lisätä tapauskuvaukseen laboratorioarvoja tai tietoja potilaan sairaushistoriasta, joita alkuperäisessä aineistossa ei ole. Se voi myös ehdottaa MedDRA-koodausta, joka vaikuttaa sopivalta mutta on kliinisesti väärä.
Lääketurvan kirjallisuusseurannassa tekoäly voi tulkita kliinisen asiayhteyden väärin ja luokitella olennaisen artikkelin epäolennaiseksi. Signaalien tunnistamisessa koulutusdatan puutteet voivat puolestaan johtaa siihen, että turvallisuussignaaleja jää tunnistamatta. Tämä voi koskea esimerkiksi harvinaisia tapahtumia tai tiettyjä väestöryhmiä.
Virheitä voi syntyä myös datan valinnassa. Tekoälyn muodostama listaus voi näyttää oikealta, vaikka siinä olisi käytetty vääriä valintakriteerejä. Lisäksi tekoäly voi tuottaa samasta tapauksesta eri käsittelykerroilla erilaisen tapauskuvauksen tai erilaisia kliinisiä johtopäätöksiä.
Siksi tekoälyn tuottamat tiedot pitää tarkistaa alkuperäisestä lähteestä. Tekoälyä ei pidä käyttää tiedon lähteenä.
Ihminen säilyy mukana prosessissa
Lääketurvassa tekoälyn käyttöön liittyy human-in-the-loop -periaate. Käytännössä tämä tarkoittaa, että ihminen tarkistaa ja arvioi tekoälyn tekemän työn tai tekee lopullisen päätöksen.
Haittavaikutusten käsittelyssä ihminen vahvistaa luokittelun ja sen, miten tapaus käsitellään. Tapauskuvauksissa ja MedDRA-koodauksessa lääketieteellinen arvioija tarkistaa sisällön oikeellisuuden. Signaalinhallinnassa asiantuntija arvioi löydösten kliinisen merkityksen ja suosittelee tarvittavia jatkotoimia. Turvallisuusraportoinnissa tekoälyn tuottama sisältö tarkistetaan alkuperäistä dataa vasten.
Myös organisaation tasolla tarvitaan yhteisiä toimintatapoja. Organisaation pitää tietää, mitä tekoälytyökaluja käytetään, kuka niiden käytön hyväksyy ja miten niitä validoidaan ja valvotaan. Samalla on hyvä määritellä, missä lääketurvan työvaiheissa tekoälyä voidaan hyödyntää ja missä sen roolin pitää pysyä vain asiantuntijan tukena.
Tekoälyosaaminen ja sääntely ovat ajankohtaisia
Tekoälyä koskeva sääntely kehittyy nopeasti. EU AI Actin artikla 4 edellyttää, että tekoälyjärjestelmien tarjoajat ja käyttöönottajat huolehtivat henkilöstönsä tekoälyosaamisen kehittämisestä.
Myös EMA ja FDA ovat käsitelleet tekoälyn käyttöä lääkkeen elinkaaren aikana. EMA:n linjauksissa korostuvat muun muassa tekoälyn toiminnan selitettävyys, jäljitettävyys ja tarkastusvalmius. FDA ja EMA ovat lisäksi julkaisseet yhteisiä hyvän tekoälyn käytön periaatteita, jotka kattavat lääkkeen koko elinkaaren.
Lääketurvassa tekoälyn käyttäjän on tärkeää tunnistaa työkalun mahdolliset virheet ja rajoitukset. Tekoäly voi tukea asiantuntijan työtä, mutta vastuu säilyy ihmisellä ja viime kädessä myyntiluvan haltijalla.
