Tekoälyn koulutusaineistossa on huomioitava muutakin kuin tosiseikkojen oikeellisuus. Aineistossa piilevät vinoumat voivat johtaa esimerkiksi sukupuoleen liittyvien ennakkoasenteiden voimistamiseen.
Tekoälyjärjestelmät oppivat tekemään sitä, mitä niille koulutusaineistolla opetetaan. Tähän usein viitataan raflaavalla sanonnalla ”roskaa sisään, roskaa ulos”, jolla tarkoitetaan sitä, että huonolla aineistolla saa aikaan huonoja malleja. Koulutusaineistossa on huomioitava muutakin kuin tosiseikkojen oikeellisuus.
Aineistossa voi nimittäin piillä vinoumia, jotka voivat johtaa tekoälymallin epätoivottuun käytökseen, kuten koulutusdatassa piilevien sukupuoleen liittyvien ennakkoasenteiden voimistamiseen. Esimerkiksi ammattien ja sukupuolten väliset yhteydet eivät ole nyky-yhteiskunnassa tavoiteltavia, vaikka ne toistuvatkin internetin uutissyötteissä. Myös terveydenhuollosta peräisin oleva koulutusaineisto sisältää kaikki ne arvot ja ennakkoasenteet, joita kirjauksia tekevillä terveydenhuollon ammattilaisilla on, olivatpa ne sitten toivottavia tai eivät.
Näiden vinoumien tunnistaminen sekä korjaaminen on haastavaa, etenkin kielimallien aikakautena, jossa koulutusaineiston määrä on valtavasti suurempi kuin mitä yksittäinen ihminen voi käydä ajatuksella läpi. Vinoumien korjaaminen vaatii myös niiden tunnistamisen.
Koulutusaineistoista voi puuttua ihmisryhmiä
Tyypillinen ja helposti havaittava vinouman aiheuttaja on tiettyjen ryhmien puuttuminen koulutusdatasta. Esimerkiksi melanooman havaitsemiseen kehitetty tekoälyjärjestelmä pärjäsi tosielämässä huomattavasti koulutusympäristöä huonommin, sillä koulutusmateriaalissa oli lähinnä vaaleaihoisia amerikkalaisia, eurooppalaisia ja australialaisia.
Myös kielimallien on havaittu tekevän etniseen taustaan ja sukupuoleen liittyviä oletuksia lääketieteellisessä kontekstissa. Suomalaisessa järjestelmässä julkisen perusterveydenhuollon ja yksityisesti toteutetun työterveyshuollon vastaanotoilla näkyy selvä sosioekonominen jakolinja, eivätkä kummatkaan ryhmän aineistolla koulutetut algoritmit todennäköisesti toimi kovinkaan hyvin koulutusaineistosta puuttuneessa ryhmässä.
Suorien vinoumien lisäksi haasteena on usein myös se, että tekoäly oppii paremmin niitä asioita, joita esiintyy eniten koulutusaineistossa. Niinpä valikoimattomassa terveydenhuollon aineistossa ovat yliedustettuna pitkiä tekstejä suosivat erikoisalat ja ammattilaiset. Kaikki tekijät, jotka merkittävästi vaikuttavat tekstin määrään, peilautuvat tekoälymallien käytössä. Riskinä siis on, että tekoälyjen tuomat hyödyt tulevat kohdistumaan enemmän niille aloille ja potilasryhmille, jossa koulutusaineistoa tuotetaan enemmän. Tämä on luultavasti epäoptimaalinen valintaperuste.
Patenttiratkaisuja ei ole olemassa
Tekoälymalleihin datasta periytyvien vinoumien torjuntaan ei ole olemassa patenttiratkaisua, mutta välttämätön ensimmäinen askel on tiedostaa niiden mahdollinen olemassaolo. Ihmisten terveyteen vaikuttavien tekoälyjen toimintaa on tärkeää testata ja auditoida jatkuvasti, ei pelkästään kehitysvaiheessa.
Ongelman positiivinen puoli on se, että vinoumien löytämiseksi ja estämiseksi kehitetyt työkalut ja menettelyt voivat parhaimmillaan päästä käyttöön myös tekoälyjärjestelmien ulkopuolella. Silloin ne parantavat muidenkin prosessien tasa-arvoisuutta.
LT, FM Ville Vartiainen toimii tekoälytutkijana HUS-yhtymässä ja Helsingin yliopistolla. Erityisenä mielenkiinnon kohteena on luonnollisen kielen käsittely terveydenhuollon kirjauksissa.
FT Rami Luisto on tekoälytutkija Digital Workforcella. Hän on myös matematiikan dosentti Helsingin yliopistolla ja toimii osana Jyväskylän yliopiston Digitaalisen terveysälyn laboratoriota.
Lähteet
Bolukbasi et al., Man is to Computer Programmer as Woman is to Homemaker? Debiasing Word Embeddings. Annual Conference on Neural Information Processing Systems (NIPS) 2016.
Adamson & Smith. Machine Learning and Health Care Disparities in Dermatology. JAMA Dermatol 2018.
Zack et al., Assessing the potential of GPT-4 to perpetuate racial and gender biases in health care: a model evaluation study. Lancet Digit Health 2024.
Duodecim täyttää tämän vuoden marraskuussa 144 vuotta. Tässä Sairaan hyvä digiarki -blogisarjassa omien alojensa huippuammattilaiset pohtivat digitalisoituvan terveydenhuollon mahdollisuuksia ja sudenkuoppia.
Lue muut sarjassa ilmestyneet kirjoitukset:
Vinoumat voivat estää potilaan koko hoidon esimerkiksi silloin, jos konservatiivinen hoito toimii piilopriorisointina, kun hoitamattomuutta kutsutaan hoitopäätökseksi ilman yksilöllistä arviointia. Tai jos potilaita käsitellään massana, joka ei ymmärrä lääketieteestä – yksilöllinen kokemus ja tieto jätetään huomiotta.
Lääkärin autonomia, kollegiaalisuus ja erityisesti ylilääkärien asema voivat myös estää virheiden ja kirjausten oikaisemisen kokonaan.
Valvonnassa viranomaiset pitävät terveydenhuollon asiakirjoja oikeana – eli kantelun kohde on lähtökohtaisesti oikeassa ja tarkastelun kohteeksi vaihtuu kantelija. Näin hoitovirheen mahdollisuus katoaa ja virhettä aletaan etsiä potilaasta.
Lopulta järjestelmä käyttää omia kirjauksiaan todisteena siitä, ettei virhettä ole, vaikka juuri ne ovat vinouman tulos.
Kuinka potilas voi luovia tällaisessa umpikujassa – ja kuinka tällainen on edes mahdollista?
– Järjestelmässä elävä