ChatGPT on kallellaan vasemmalle? Totta vai tarua – viisi myyttiä tekoälyn luotettavuudesta

Teksti: Antti Kivimäki

1. ChatGPT ja muut tekoälypalvelut ovat objektiivisia

TARUA. ChatGPT:ltä saa samalla kysymyksellä aina hieman erilaisen vastauksen. Siihen, kuten muihinkin generatiivisiin tekoälyalgoritmeihin, on tarkoituksella rakennettu satunnaisuutta. Vastaus tuskin voi olla ”totta”, jos totuus vaihtuu uudestaan kysyessä.

Samoja ongelmia on kuvantunnistuspalveluissa. Olemme tutkineet niitä näyttämällä niille samoja kuvia. Eri palvelut tunnistivat kuvissa eri määrän asioita ja antoivat erilaisia vastauksia. Yksi palvelu väitti varmasti kuvassa olevan paloauton, vaikka muut palvelut eivät sitä havainneet – enkä havainnut minäkään.

Tekoälypalvelujen vastausta ei pidä ajatella totuutena vaan näkökulmana. Niillä on omat tulkintansa asioista aivan kuin meillä ihmisilläkin.

2. Tekoäly tuottaa vastaukset itsenäisesti

TARUA. Ihmiset osallistuvat monin tavoin tekoälypalveluiden tiedon tuottamiseen ja prosessointiin. 

Esimerkiksi ChatGPT:ssä moderaattorit seulovat pois epäsopivina pidettyjä vastauksia. Generatiivisen tekoälyn yritykset palkkaavat töihin runoilijoita, jotta vastausten retoriikkaa saataisiin viilattua kauniimmaksi ja soljuvammaksi. 

Ihmiset myös annotoivat koneoppimisen materiaalia, eli merkitsevät siitä erilaisia piirteitä. Jotta tekoäly voi tunnistaa kuvasta kissan, ihmisten on pitänyt ensiksi käydä läpi kuvia ja merkitä kissallisiin kuviin tiedoksi koneoppimismallille, että tässä kuvassa on kissa - eli annotoida kuvamateriaalia. Monet annotoijista ja moderoijista työskentelevät globaalissa etelässä pienellä palkalla.

Myös käyttäjät voivat vaikuttaa tekoälyn toimintaan. He voivat esimerkiksi peukuttaa ChatGPT:ssä hyvästä vastauksesta, mikä auttaa koneoppimisjärjestelmää kalibroimaan vastauksiaan. 

3. Tekoäly on poliittista

Totta ja tarua.

TOTTA. Harvat asiat maailmassa ovat täysin epäpoliittisia. Kun tekoäly avustaa yhä enemmän yhteiskunnan toiminnoissa, eri intressiryhmillä syntyy paljon ajatuksia, mihin sitä voisi hyödyntää ja toisaalta, miten sitä ei saisi käyttää. Esimerkiksi Hollywoodissa käsikirjoittajat lakkoilivat siinä pelossa, että tekoäly vie heiltä työt. 

TARUA. Haluamme helposti nähdä tekoälyn tietoisempana ja inhimillisempänä kuin se onkaan. Vaikka ChatGPT tuottaa poliittisesti latautuneita lauseita, se ei itse ”tajua” olevansa poliittisesti herkällä maaperällä. Se vain järjestelee ja prosessoi dataa tilastollisesti. 

4. ChatGPT on kallellaan vasemmalle

Totta ja tarua.

TOTTA siinä mielessä, että monissa tutkimuksissa ChatGPT:lle on esitetty arvoväittämiä, ja sen.vastausten on katsottu painottuvan enemmän vasemmalle kuin oikealle. Tämä on toki tapahtunut yhdysvaltalaisella mittapuulla, jossa demokraatit ovat vasemmalla ja republikaanit oikealla. 

Löydöstä voi yrittää selittää parilla teorialla.

Ehkä vasemmistolaisemmin ajattelevat tekevät enemmän tutkimusartikkeleita, jotka sitten näkyvät myös netissä, ja kirjoittavat muutenkin enemmän ajatuksiaan nettiin kuin oikeistolaisesti ajattelevat. Koska ChatGPT käy läpi netin koko sisältöä, aineisto voi olla vasemmalle painottunut.

Poliittisen korrektiuden nimissä tekoälyn vastauksia moderoidaan ja sensuroidaan jonkin verran. Voi olla, että oikeistolaisia mielipiteitä jää moderoijien haaviin hieman enemmän kuin vasemmistolaisia mielipiteitä.

Tai sitten selitys ChatGPT:n vasemmistolaisuuteen on jotain ihan muuta. Oikeastaan meidän on hyvin vaikea sanoa näistä monimutkaisista algoritmisista järjestelmistä tarkasti mitään.

TARUA sikäli, että kyseisten tutkimusten metodologiaa on laajasti kyseenalaistettu, enkä minäkään ole niistä kovin vakuuttunut. 

ChatGPT:n kanssa pienetkin kysymyksen muotoilut johtavat erilaisiin vastauksiin. Eli jos samaa asiaa kysyy hiukan eri tavalla, voi tulla ihan erilaisia vastauksia.

Lisäksi osassa tutkimuksia ei ole toistettu asioita tarpeeksi, jotta ChatGPT:n satunnaisuus olisi oikeasti otettu huomioon.

5. Tekoäly nostaa huimasti tuottavuutta

TARUA 

Isojen aineistojen käsittelyä on tekoälyllä saatu tehostettua. Tietotyöläiset voivat pyytää moniin rutiinitöihin apua tekoälyltä. ChatGPT voi vaikkapa muotoilla sähköpostiviesteihin ystävällisen sävyn, ja kuvantunnistusjärjestelmä erittelee nopeasti miljoonien kuvien sisällön. 

Hyöty on kuitenkin osin näennäistä. 

Tekoäly seuloo, luokittelee ja yhdistelee tehokkaasti, mutta se ei useinkaan tuota mitään kovin hyödyllistä. Jos koneoppimisalgoritmiä pyytää etsimään aineistosta kymmenen ryhmää, se löytää kymmenen ryhmää – niissä ei vain välttämättä ole päätä eikä häntää. Ihmisen pitää laittaa valot päälle ja arvioida löydöksen mielekkyyttä. 

Jos laskee faktantarkastukseen kuluvan ajan, tiedonhaku voi olla nopeampaa perinteisin keinoin kuin tekoälyn avulla.

Kun ihmisiä palkataan asiantuntijatyöhön, heidän toivotaan hallitsevan oman alueensa niin hyvin, ettei heidän työtään tarvitse juuri valvoa. Tekoälyllä ei ainakaan vielä ole kovinkaan syvällistä asiantuntemusta tai kykyä kokonaisharkintaan. Esihenkilön – eli ihmisen – pitää siksi alati valvoa tekoälyn toimintaa ja suhtautua sen tuloksiin epäillen. 

Matti Nelimarkan kollegoineen tekemä tutkimus, joka avaa tekoälyn ja algoritmien toimintaa byrokratian käsitteen kautta