Uutiset

Tutkimus paljastaa ihmisten sokean luottamuksen tekoälyyn

Pelkkä usko tekoälyn apuun saa ihmiset suoriutumaan tehtävistä paremmin. Vaikutus ei katoa edes silloin, kun kuvitteellisen tekoälyn kerrotaan heikentävän suoritusta.
tekoälyohjelma käynnistyy
Tutkimukseen osallistuville väitettiin, että heitä avustaa tehtävässä hyväksi tai huonoksi todettu tekoäly. Kuva: Otso Haavisto

Uusi tutkimus osoittaa, että ihmiset suoriutuvat tehtävistä paremmin, jos he uskovat tekoälyn auttavan heitä. Tämä niin kutsuttu plasebo-vaikutus ei yllättäen katoa edes silloin, kun tekoälyjärjestelmän kerrotaan olevan epäluotettava ja jopa suoritukselle haitallinen.

Tutkijat laittoivat kaksi osallistujaryhmää tekemään yksinkertaisen tehtävän, jossa näyttöruudulle ilmestyi vaihtelevalla nopeudella kirjaimia ja nämä tuli yhdistellä pareiksi. Toiselle ryhmälle kerrottiin, että heitä avustaa tehtävässä hyväksi todettu tekoäly. Toiselle puolestaan kerrottiin taustalla pyörivästä epäluotettavasta tekoälyohjelmasta, joka heikentäisi heidän suoritustaan. Molemmat ryhmät tekivät tehtävän myös ilman tekoälyn apua.

"Kumpaakaan tekoälyjärjestelmää ei todellisuudessa ollut olemassa, vaan osallistujille vain uskoteltiin, että tekoäly auttoi heitä", kertoo väitöskirjatutkija Agnes Kloft Aalto-yliopistosta.

Tutkijoiden hämmästykseksi molemmat ryhmät suorittivat harjoituksen paremmin– eli nopeammin ja tarkkaavaisemmin – kun he uskoivat tekoälyn myötävaikuttavan suoritukseen. 

"Huomasimme, että ihmisillä on erittäin korkeat odotukset näitä järjestelmiä kohtaan. Emme pysty muuttamaan heidän odotuksiaan vain kertomalla heille, että ohjelma ei toimi", sanoo apulaisprofessori Robin Welsch.

Alkuperäisten kokeiden jälkeen tutkijat vielä toistivat kokeen verkossa ja pyysivät samalla osallistujia kuvaamaan odotuksiaan ja asenteitaan tekoälyä kohtaan. Useimmat suhtautuivat tekoälyyn myönteisesti, ja yllättäen jopa muulla tavoin skeptisillä ihmisillä oli myönteisiä odotuksia tekoälyn suorituskyvystä.

Valtava haaste uusien ohjelmien todellisten hyötyjen arvioimiselle

Tulokset osoittavat, miten vaikeaa on oikeasti arvioida uusia tekoälyjärjestelmiä. 

“Tämä on tutkimuksestamme kumpuava suuri oivallus: plasebo-vaikutuksen vuoksi on valtavan haastavaa arvioida, auttavatko tekoälyohjelmat meitä oikeasti", Welsch sanoo.

Vaikka suurten kielimallien kaltaiset tehokkaat teknologiat epäilemättä kykenevät parantamaan tiettyjä suorituksia, ainakin ohjelmien eri versioiden väliset vähäiset erot saattavat näyttää kokoaan suuremmilta lumevaikutuksen vuoksi. Tätä myös hyödynnetään tehokkaasti markkinoinnissa.

Tulokset valaisevat myös merkittävää haastetta ihmisen ja tietokoneen välisen vuorovaikutuksen tutkimukselle. Johtopäätösten tekeminen ilman lumevaikutuksen kontrollointia voi johtaa pahasti harhaan.

"Tutkimuksemme viittaa siihen, että monet alan tutkimukset ovat saattaneet olla vinoutuneita tekoälyjärjestelmien hyväksi", Welsch toteaa.

Tutkijat esittelevät tuloksensa maineikkaassa CHI-konferenssissa toukokuun 14. päivä. Tutkimus on luettavissa täällä.

Illustration of a white-to-light-blue side profile of a human face with network nodes pointing out against a blue background

Tutkimus: Sokea usko uusien teknologioiden tehoon johtaa riskialttiimpaan käytökseen

Ihmiset luottavat uusiin teknologioiden tehoon, vaikka ne olisivat huijausta.

Uutiset
FCAI

Suomen tekoälykeskus FCAI (ulkoinen linkki)

Suomen tekoälykeskus FCAI on osaamiskeskittymä, jonka ovat käynnistäneet Aalto-yliopisto, Helsingin yliopisto ja Teknologian tutkimuskeskus VTT. FCAI:n tavoitteena on kehittää uudenlaista tekoälyä, joka voi toimia ihmisen kanssa monimutkaisessa ympäristössä ja auttaa uudistamaan suomalaista teollisuutta. FCAI on yksi Suomen Akatemian lippulaivoista.

  • Julkaistu:
  • Päivitetty:

Lue lisää uutisia

Kuva, jossa esitellään Cyber Citizen -hankkeen lopputuotteet: SecPort-portaali sekä kyberturvallisuuteen keskittyvä peli.
Tutkimus ja taide Julkaistu:

Cyber Citizen -hanke kehittää eurooppalaisten kyberturvataitoja pelillistämisen avulla

Aalto-yliopisto ja liikenne- ja viestintäministeriö ovat toteuttaneet laajan Cyber Citizen -hankkeen, jonka tavoitteena on kehittää arkipäivän kyberturvataitojen osaamista Euroopan unionin alueella.
A woman wearing a black jacket sits by a table in room, with sunlight beaming down from the windows above. She sits by the table looking at her laptop while holding onto a pen. A tablet and notebook lay open near the laptop. Pic by Kalle Kataila / Aalto University
Tutkimus ja taide Julkaistu:

Tilintarkastajan kokemus ilmastoriskeistä vaikuttaa asiakkaan ilmastoriskitiedottamisen laatuun

Tutkimus tehtiin kansainvälisessä yhteistyössä usean eri maan yliopiston kanssa.
Valaistu moottoritie, merta, rakennuksia ja taivasta
Yhteistyö, Mediatiedotteet, Tutkimus ja taide, Yliopisto Julkaistu:

Vahva sijoitus tekoälyyn – Suomeen perustetaan ELLIS-instituutti tehostamaan tutkimusta ja houkuttelemaan osaajia

Suomalainen tekoälytutkimus on saanut merkittävän tuen hallitukselta ja lahjoittajalta.
Samuel Girmay laboratoriossa, yllään valkoinen laboratoriotakki ja suojalasit.
Tutkimus ja taide Julkaistu:

Virtuaalilaboratoriot edistävät saavutettavaa ja kielitietoista luonnontieteen opetusta

Väitöskirjatutkija Samuel Girmay on saanut Jenny ja Antti Wihurin säätiöltä rahoituksen projektilleen, jonka tavoitteena on parantaa luonnontieteiden opetuksen saavutettavuutta ja kielitietoisuutta yläkouluissa virtuaalilaboratorioiden avulla.