Tietotekniikan inhimilliset tekijät

Tulevaisuudessa yhteiskuntien täytyy kyetä olemaan vihreitä ja digitaalisia, mutta niiden tulee myös olla oikeudenmukaisia. Yhdistyneet kansakunnat on ottanut siirtymän huomioon kestävän kehityksen tavoitteissaan (SDG:t). Niiden olennainen osa on tavoite, jolla pyritään edistämään inklusiivisia, läpinäkyviä sekä vastuullisia instituutioita (SDG16). Digisiirtymä on koetellut, ja tulee jatkossakin koettelemaan, yksilöiden sekä organisaatioiden yhteiskunnallisia suhteita. Nämä suhteet rakentuvat keskinäiselle luottamukselle, mutta ne voivat myös rapistua huonojen kokemusten myötä. Ilman luottamusta digitaalisten teknologioiden mahdollisuudet voivat valua hukkaan.

Tilanne ei ole jäänyt Euroopan unionilta huomaamatta. EU:n suunnitelmat vihreälle ja digitaaliselle siirtymälle pyrkivät konkretisoimaan kestävän kehityksen tavoitteita ja nopeuttamaan niiden toteutumista. Digisiirtymän suunnitelmassa 2020-luku on ristitty Euroopan digitaaliseksi vuosikymmeneksi ja siinä asetetaan useita tavoitteita, joilla digitalisaatiosta pyritään tekemään vastuullisempaa sekä tehokkaampaa.

”Euroopan digitaalinen vuosikymmen on viimeinen mahdollisuutemme saavuttaa kestävän kehityksen tavoitteet vuoteen 2030 mennessä”, sanoi Margrethe Vestager, EU:n digi- ja kilpailukomissaari kesällä 2021. ”Digitaalisilla teknologioilla on mahdollista edistää julkisten palvelujen inklusiivisuutta ja saatavuutta ympäri maailman.”

Digitalisaation ja kansalaisten välinen suhde on kuitenkin muuttumassa sitä jännitteisemmäksi, mitä pidemmälle yhteiskunnat digitalisoituvat. 2010-luvun taitteessa jyllännyt teknologiaoptimismi on muuttunut keskusteluksi tietotekniikan kielteisistä vaikutuksista yhteiskuntiin ja ihmisiin.

Autokraattiset valtiot ovat jo pitkään rakentaneet valvontajärjestelmiä, joiden avulla kerätään dataa sosiaalisiin luottoluokitusjärjestelmiin. Samalla demokraattiset valtiot kamppailevat suurten teknologiayritysten sääntelyn, vakoiluohjelmien käytön sekä muun muassa sisällön moderoinnin lukuisten ongelmien kanssa. Kielteisten vaikutusten listalla ei näytä olevan loppua.

Tilanne ei kuitenkaan ole täysin toivoton. Yhteiskuntien teknologisoitumisen ohella tietotekniikan tutkimus on kehittynyt yhä kokonaisvaltaisemmaksi alaksi. Se kykenee enenevässä määrin tarjoamaan tietoja ja ratkaisuja teknologiakehityksen aiheuttamiin yhteiskunnallisiin haasteisiin, kuten digitaalisten terveyspalvelujen käyttäjäkokemuksen muotoiluun.

”Tietotekniikan tutkimus ottaa yhä enemmän huomioon myös koneiden ulkopuolisia asioita”, sanoo Nitin Sawhney, työelämäprofessori Aalto-yliopiston tietotekniikan laitokselta. ”Ihmisten digitaalisilla arkikokemuksilla on nykyään väliä. Tutkimusala ja sen vaikutukset yhteiskuntaan ovat muuttuneet täysin kuluneiden 20 vuoden aikana, erityisesti massadatan ja tekoälyn vuoksi.”

Ihmisten asettaminen tutkimuksen keskiöön on ollut tärkeä muutoksen ajuri.

”Teknologioiden kehitystyöllä on ollut taipumus toimia ylhäältä alas -mentaliteetilla, ottamatta huomioon loppukäyttäjiä”, kertoo Sawhney. ”Meidän tulee kehittää uusia tapoja osallistaa kansalaisyhteiskuntaa ja ottaa huomioon monimuotoisuuteen liittyviä kysymyksiä.”

Aalto-yliopiston tietotekniikan laitoksella on useita tutkimusalueita, joissa selvitetään teknologioiden yhteiskuntavaikutuksia, digitalisaation eettisiä kysymyksiä sekä ihmiskeskeistä suunnittelua. ”Meillä on pitkä historia tietotekniikan ja yhteiskunnan välisten suhteiden tutkimuksesta, joka ulottuu 80-luvun käyttökokemuksen, ohjelmistokehityksen sekä lainsäädännön ja teknologian tutkimukseen”, kertoo Casper Lassenius, apulaisprofessori ja tutkimuksesta vastaava laitoksen varajohtaja. ”Laitoksellamme tehdään laajasti tutkimusta digitaalisen siirtymän prosesseista, toimijoista, työkaluista ja etiikasta.”

Lasseniuksen oma tutkimus keskittyy organisaatioiden digitaaliseen siirtymään. Erityisesti julkisen sektorin toimijat ovat ottaneet eettiset ja juridiset kysymykset keskiöön, koska ne liittyvät usein yhteiskunnalliseen luottamukseen.

”Automatisoitu sekä tekoälyavusteinen päätöksenteko on juridisesti haastavaa. Toisaalta siinä on myös kyse yhteiskunnallisesta luottamuksesta. Mikäli viranomaiset ottavat tekoälyä käyttöön päätöksenteossaan, on riski, että julkiset palvelut muuttuvat kasvottomiksi”, sanoo Lassenius. ”Mikä vaikutus tällä olisi yhteiskunnalliseen luottamukseen?”

Tekoäly: luottamuksen rakentaja vai rapauttaja?

Älykkäästä kaupungista on tullut suosittu käsite tulevaisuuden visioissa, joskin sillä tarkoitetaan laajaa joukkoa erilaisia asioita. Eräs populääri visio perustuu ajatukseen, jossa kaupungin virtauksia optimoidaan automatisoidun infrastruktuurin ja tekoälyn avulla. Optimointi vaatii kattavan sensorien verkoston, joka kerää dataa erilaisista virtauksista, kuten jalankulkijoista, jätehuollosta ja julkisesta liikenteestä.

Vuonna 2017 Torontossa aloitettiin Quayside-nimisen älykkään kaupunginosan suunnittelu. Hankkeesta piti tulla Alphabetin tytäryhtiö Sidewalk Labsin teknologian taidonnäyte robotteineen, lämmitettyine jalkateineen ja automatisoitune kierrätysjärjestelmineen. Kolmen vuoden suunnittelutyön jälkeen projekti jouduttiin lopettamaan paikallisten asukkaiden vastustuksesta johtuen. Kehityshankkeen toimijat eivät kuunnelleet asukkaiden tarpeita ja huolia riittävästi. Erityisesti yksityisyyteen liittyvät huolet sivuutettiin ja hankkeen toimijoista jäi kansalaisille piittaamaton ja ylimielinen kuva.

Quayside on yksi esimerkki siitä, miten sosiaalis-digitaalisten haasteiden ratkaiseminen voi epäonnistua, kun mennään pelkästään teknologia edellä. ”Älykaupunkiajattelussa on usein havaittavissa deterministinen ajattelutapa, jossa teknologiat mielletään ratkaisuksi sosiaalisiin ongelmiin”, kertoo digitaalista tasa-arvoa tutkiva Johanna Ylipulli, akatemiatutkija Aalto-yliopiston tietotekniikan laitokselta. ”Usein älykaupunkiajattelun liikevoima kulkee ylhäältä alas, sekä kaupallisuus ja teknologia edellä. Tällainen ajattelu voi rajoittaa kansalaisten roolia – joilla on tiettyjä luovuttamattomia oikeuksia – pelkiksi käyttäjiksi tai kuluttajiksi.”

Rakentaakseen uuden yhteiskuntasopimuksen informaatioaikakaudelle palveluntarjoajien tulisi aidosti kuunnella kansalaisia ja rakentaa luottamusta alhaalta ylös.

Euroopastakin löytyy jo muutamia ikäviä esimerkkejä, jotka ovat tuoneet esiin tekoälyyn perustuvien julkisten palvelujen heikkoudet. Hollannin veroviraston toeslagenaffaire-jupakka johti hallituksen eroon vuonna 2021, kun kävi ilmi, että veroviranomaisen vuodesta 2013 käyttämä itseoppiva algoritmi oli luokitellut yli 20 000 tukea hakevaa perhettä väärin perustein. Väärät luokittelut koskivat erityisesti etnisten vähemmistöjen jäseniä, maahanmuuttajia sekä matalapalkkaisia työntekijöitä algoritmin kyseenalaisten riski-indikaattorien vuoksi.

Algoritmin käytöllä on ollut surulliset jälkiseuraamukset. Kymmenet tuhannet perheet on ajettu köyhyyteen ja tuhansia lapsia on otettu huostaan.

“Mitä jos kääntäisimme teknologiavetoisen ajattelun ylösalaisin ja lähestyisimme ongelmia ihmiset edellä?”, kysyy Ylipulli.

Sosiaalisesti kestävän digitalisaation ajurit

Älykaupungin lisäksi tekoälykeskustelussa on noussut esille rohkeita väitteitä sen tulevasta itsetietoisuudesta sekä näyttäviä demoja tekoälyn luovuudesta. Keskustelu varmasti jatkuu, mutta jotkut tutkijat näkevät ilmiössä hopeareunuksen.

”Tekoälyn etiikasta käytävä keskustelu itsessään on erittäin positiivinen juttu”, sanoo Marjo Kauppinen, työelämäprofessori Aalto-yliopiston tietotekniikan laitokselta. ”Eettiset haasteet ovat kuitenkin tekoälyä laajempia.”

Ohjelmistot ovat digitalisaation selkäranka, mutta ne ovat onnistuneet pitkälti välttämään eettiset kysymykset mediassa sekä tutkimusalalla tekoälyn viedessä palstatilan. Kauppisen tutkimusryhmä on päättänyt tehdä tähän muutoksen. Ryhmä on tutkinut vuosikymmeniä käyttäjien ja sidosryhmien tarpeita ohjelmistokehityksessä ja alkanut sisällyttämään vastuullisuuskysymyksiä tutkimukseensa viime vuosina.

”Läpinäkyvyys, selitettävyys ja ymmärrettävyys ovat tärkeimpiä tekijöitä, kun pyritään rakentamaan luottamusta käyttäjien ja muiden sidosryhmien kanssa”, kertoo Kauppinen. ”Ne yritykset, joiden kanssa minä olen työskennellyt, ymmärtävät heidän palvelujensa vaikutuksen ihmisten arkeen. Jos he haluavat rakentaa luottamusta ihmisten kanssa, teot eivät voi jäädä juhlapuheiden tasolle.”

Tutkimusryhmä on perehtynyt viime aikoina tekoälytutkimukseen, jossa eettisiä kysymyksiä on tutkittu huomattavasti enemmän kuin ohjelmistokehityksen alalla. ”Ei riitä, että me kerromme, miten algoritmi toimii, vaan meidän täytyy osata katsoa asiaa laajemmin – miten tämä järjestelmä vaikuttaa yksilöihin, eri väestöryhmiin ja yhteiskuntaan.”

Kauppisen ryhmän seuraava askel on tuoda yhteiskuntavaikutusten arviointi osaksi ohjelmistokehityksen normaaleja prosesseja. ”Tämä on myös tietotekniikan tutkijoiden vastuulla – emme me voi jättää tätä pelkästään yhteiskuntatieteilijöiden kontolle.”

Vastuullisuuskysymysten tuominen ohjelmistokehityksen prosessien tasolle tulee näkymään myös ohjelmistokehittäjien uuden sukupolven opetuksessa. ”Parhaimmillaan saamme tuotua tutkimuskentän viimeisimmät tulokset ohjelmistokehityksen kursseille”, kertoo Kauppinen. ”Osa meidän opiskelijoista käyttää näitä havaintoja lopputöissään ja onnistuvat tuottamaan aidosti uutta tietoa.”

Väitöskirjatutkija Karolina Drobotowicz on Kauppisen entinen opiskelija ja nykyään mukana Citizen Agency in AI (CAAI) -tutkimushankkeessa, jota Sawhney johtaa. Hän tutkii ryhmänsä kanssa miten tekoälyyn perustuvista digitaalisista julkisista palveluista voisi tehdä kansalaisten silmissä luotettavampia.

Drobotowicz on haastatellut kansalaisia ja kysynyt heidän vaatimuksiaan luotettaville tekoälypalveluille. ”Yleisimmät harhaluulot tekoälystä johtuvat tekoälyavusteisten palvelujen vähäisestä läpinäkyvyydestä, heikosta algoritmien lukutaidosta sekä tekoälyn uutisoinnista. Näillä on merkittävä vaikutus luottamukseen tekoälypalveluita kohtaan”, kertoo Drobotowicz. Hänen tutkimustuloksensa alleviivaavat tarvetta paremmalle ymmärrykselle tekoälystä sekä tietoisuudelle siitä, miten ja missä tekoälyä käytetään.

”Ihmiset eivät aina tiedä, että tekoälyä käytetään julkisissa palveluissa. Tämä on ongelmallista demokratian, inklusiivisuuden ja digikansalaisten toimijuuden kannalta”, sanoo Drobotowicz. ”Yksilöiden oikeusturvan kannalta on tärkeää, että he ymmärtävät automatisoidun päätöksenteon roolin heidän käyttämissään palveluissa.”

Digitaaliset julkiset palvelut voivat myös vahvistaa eriarvoisuutta. ”Jos vain tietyllä väestöryhmällä on digitaalista toimijuutta, niin digitaalisesta tulevaisuudesta tulee myös eriarvoinen tulevaisuus.”

CAAI-hankkeen tutkimusryhmä on seurannut EU:n tekoälyn sääntelyehdotusta (AI Act) ja sen vaikutuksia tarkkaan. Hanke tarjoaa tietoa tekoälyavusteisten julkisten palvelujen parhaista käytännöistä ja keskeisistä haasteista sekä sääntelyehdotuksen vaikutuksista Suomessa ja EU:ssa. Tekoälyn sääntelyehdotuksen on arvioitu tuottavan myös globaaleja vaikutuksia, mikäli se tulee voimaan.

“Sääntely on mahdollisuus innovaatioille”, kertoo Sawhney, joka johtaa CAAI-hanketta. ”Jos Suomessa pystytään rakentamaan järjestelmiä, jotka ovat ymmärrettäviä ja vastuullisia sekä osoittamaan työkalumme ja käytäntömme luotettaviksi, meillä on kilpailuetu muuhun maailmaan nähden.”

Inklusiivisen ja luotettavan teknologian tekijät

Tietotekniikka on muuttunut kuluneiden vuosikymmenien aikana merkittävästi. Samalla on käynyt selväksi, että informaatioteknologiat eivät ole neutraaleja tai aina kaikkia hyödyttäviä. Erilaisten uusien teknologioiden vaikutukset yhteiskuntaan voivat olla myös kielteisiä ja eriarvoisuutta lisääviä. Yhteiskunnallisella luottamuksella on tärkeä rooli vastuullisessa digitaalisessa siirtymässä.

”Algoritmilla ei ole agendaa”, sanoo Risto Sarvas, työelämäprofessori tietotekniikan laitoksella. ”Sen kehittäjillä on. Meidän tulisi kiinnittää huomiomme heidän intresseihin ja motiiveihin.”

Tutkijat voivat auttaa kansalaisia ja päätöksentekijöitä ymmärtämään näitä teknologioita paremmin ja edistämään vastuullisuutta teknologioiden kehityksessä ja käyttöönotossa. Vääristyneen narratiivin kyseenalaistaminen, kansalaisyhteiskunnan eri toimijoiden ja väestöryhmien osallistaminen tai uuden sääntelyn tekeminen ymmärrettäväksi ovat vain osa keinoista, joilla tutkijat voivat kantaa vastuunsa.

Koulutus on elintärkeä liikevoima pitkän aikavälin uudentumiselle. Tietotekniikan laitoksella informaatioverkostojen pääaineessa on kouluttanut insinöörejä hyödyntämään teknisiä sekä ihmiskeskeisiä työkaluja jo 20 vuoden ajan. Uudessa teknillisen psykologian pääaineessa opiskelijat keskittyvät ihmisten käyttäytymisen ja teknologiakehityksen vuorovaikutukseen. Toisiaan tukevat pääaineet jakavat käsityksen teknologian yhteiskunnallisesta merkityksestä. Teknologia ei synny tyhjiössä, vaan sitä kehittävät ihmiset, jotka ovat tiettyjen historiallisten rakenteiden ja omien subjektiivisten arvovalintojensa ohjaamia.

Informaatioverkostojen maisteriohjelman johtajana Risto Sarvaksella on päivittäin tekemisissä tulevaisuuden teknologioiden kehittäjien kanssa. ”Uudella sukupolvella on sisäänrakennettu tietoisuus yhteiskunnallisista asioista ja tarve ratkaista näitä ongelmia.”

”Tietotekniikan tärkein yhteiskunnallinen muutosvoima tulee mielestäni niistä sadoista meiltä valmistuvista diplomi-insinööreistä, joilla on monitieteellistä tietoteknistä osaamista sekä intohimo käyttää sitä johonkin merkitykselliseen työhön.”