Miksi tekoäly ei osaa sanoa ”en tiedä”?

ChatGPT:n kaltaisten tekoälyjärjestelmien tehokkuus perustuu syväoppimismalleihin. Tekoälytutkimuksessa on kuitenkin kiinnitetty huomiota järjestelmien liialliseen itsevarmuuteen sekä niiden heikkoon kykyyn arvioida omien ennusteidensa epävarmuutta. Eli vaikka tekoäly kohtaisi itselleen tuntemattoman tilanteen, se ei osaa sanoa, ettei se tiedä vastausta.

“Tämä on ongelmallista etenkin sovelluksissa, joissa turvallisuus on elintärkeää. Esimerkiksi itseohjautuvissa autoissa huonot päätökset voivat johtaa vakaviin seurauksiin”, sanoo koneoppimisen väitöskirjatutkija Lassi Meronen Aalto-yliopiston tietotekniikan laitokselta.

”Syväoppimismalli voisi auttaa esimerkiksi sairauksien diagnosoinnissa, jos sillä olisi kyky diagnosoida 90 prosenttia tapauksista luotettavasti. Tällöin vain 10 prosenttia epävarmoista tapauksista jäisi lääkärin tarkastettavaksi. Jos malli ei kuitenkaan pysty ilmaisemaan epävarmoja tapauksia, lääkäri joutuu tarkistamaan kaikki diagnoosit, jolloin siitä ei olisi lainkaan hyötyä.”

Meronen on tutkinut väitöskirjassaan eri menetelmiä, joilla syväoppimismallit voisivat arvioida näitä epävarmuusasteitaan paremmin. Malleista voisi näin olla enemmän hyötyä myös turvallisuutta vaativissa sovelluksissa.

”Väitöskirjani tärkeimmät tulokset on saatu hyödyntämällä matemaattisia yhteyksiä todennäköisyysmalleihin, jotka ovat tunnettuja hyvistä epävarmuusarvioistaan. Havaitut yhteydet mahdollistavat näiden hyödyllisten ominaisuuksien tuomisen myös syväoppimismalleihin”, sanoo Meronen. 

Kun syväoppimismallien kykyä arvioida ennusteidensa epävarmuutta parannetaan, ne voivat myös paremmin erottaa monimutkaiset syötteet yksinkertaisemmista, kertoo Meronen. Tämä säästää laskennallisia resursseja, kun raskas laskenta voidaan kohdistaa vain vaikeammille syötteille. Näin vähennetään myös syväoppimismallien energiankulutusta, mikä on yhä tärkeämpää, kun mallien koon kasvaessa myös niiden energiankulutus kasvaa jatkuvasti suuremmaksi.

Yhteistyö Saabin kanssa

Merosen väitöskirja koostuu useista merkittävistä tutkimusartikkeleista, joista kaksi julkaistiin tekoälytutkimuksen arvostetuimmassa tieteellisessä konferenssissa NeurIPS:ssä (the Conference on Neural Information Processing Systems) vuosina 2019 ja 2021. 

Hänen tutkimustaan vauhditti myös tiivis yhteistyö Saabin kanssa. Aalto-yliopisto ja Saab solmivat vuonna 2017 kymmenen vuoden strategisen yhteistyösopimuksen ja laajensivat ohjelmaa vuonna 2021 kattamaan myös uusia tieteenaloja. Kumppanuus on Saabille 23 miljoonan euron arvoinen investointi, ja se on jo poikinut useita tieteellisiä julkaisuja sekä patenttihakemuksia.

”Kun selvitimme meille parasta tutkimuskumppania, Aalto-yliopisto erottui edukseen”, sanoo Saab Finlandin teknologiajohtaja Petteri Alinikula. ”Aallolla on juuri sitä osaamista, jota me tarvitsemme ja Aallon asenne yritysyhteistyöhön on esimerkillinen. Tavoitteenamme on kouluttaa ainakin 20 uutta tohtoria kymmenvuotisen  ohjelman aikana.”

Merosen yhteistyö Saabin kanssa on keskittynyt turvallisuuskriittisiin syväoppimismalleihin.

”Saab työskentelee useiden eri sovellusten kanssa, jotka voisivat hyötyä syväoppimismallien käytöstä. Monissa sovelluksissa turvallisuus on keskeinen tekijä, mikä tekee omasta tutkimuksestani melko relevantin Saabille. Olen muun muassa kehittänyt automaattisen tutkasignaalin luokittelun, jota voi käyttää ilma-alusten tunnistamiseen. Tällaisen järjestelmän täytyy kyetä arvioimaan ennusteidensa epävarmuusasteita, koska liian itsevarman järjestelmän väärä arvio voi pahimmassa tapauksessa johtaa erittäin vakaviin seurauksiin”, sanoo Meronen.