Väitös tietotekniikan alalta, DI Mika Juuti

Diplomi-insinööri Mika Juuti väittelee maanantaina 19.8.2019 klo 12 Aalto-yliopiston perustieteiden korkeakoulussa. Väitöskirjassa "Access Control and Machine Learning: Evasion and Defenses" tutkittiin koneoppimiseen pohjautuvia järjestelmiä käyttöoikeuksien valttuuttamiseen.

Koneoppimis- ja tekoälyjärjestelmät ovat kokeneet suunnatonta suosiota viime vuosina. Koneoppimista on myös yhä enemmän sovellettu tietoturvallisuuskriittisiin sovelluksiin, kuten käyttöoikeuksien valtuuttamiseen. Sillä voidaan tehdä turvallisuusjärjestelmistä helppokäyttöisempiä, mutta myös turvata järjestelmiä tietyiltä hyökkäyksiltä, kuten ”linkkihyökkäykseltä” (eng. relay attack).

Koneoppimisjärjestelmät ovat näissä käyttötarkoituksissa erityisen herkkiä viimeaikaiselle ”vihamielisen koneoppimisen” (eng. adversarial machine learning) kehitykselle, jossa koneoppimisen heikkouksia hyödynnetään tiettyjen turvallisuuskriittisten ominaisuuksien heikentämiseen. Esimerkiksi ”kiertohyökkäys” (eng. evasion) heikentää koneoppisjärjestelmän päätöksenteon eheyttä ja ”louhintahyökkäys” (eng. model extraction) heikentää koneoppimisjärjestelmän luottamuksellisuutta. Tämänlaisten epätoivottujen käyttäytymisten arvioinnista on tullut yhä tärkeämpää koneoppimisjärjestelmissä.

Tämä väitöskirja on jaettu kolmeen osaan. Ensimmäisessä osassa esitän, miten vaivattoman tietoturvan tietoturvaominaisuuksia voidaan edistää koneoppimisella, ja esitän, miten tällaisten järjestelmien tietoturvan tasoa pystytään arvioimaan. Toisessa osassa esitän alan tehokkaimpia kiertohyökkäyksiä ja louhintahyökkäyksiä kuvantunnistusalgoritmeja kohtaan. Kolmannessa osassa arvioin yksinkertaisten kiertohyökkäysten tehokkuutta vihapuheentunnistusalgoritmeja kohtaan, ja esitän menetelmän, jolla voidaan keinoälyllisesti tuottaa uskottavan näköisiä valearvioita ravintoloille.  Lopuksi esitän vielä yleisiä havaintojani ja päätelmiäni vaivattomasta tietoturvasta ja koneoppimisalgoritmien käytöstä muuan muassa moderointiin.

Vastaväittäjä: Associate Professor Nikolaj Tatti, Helsingin yliopisto

Kustos: professori N. Asokan, Aalto-yliopiston perustieteiden korkeakoulu, tietotekniikan laitos

Elektroninen väitöskirja: http://urn.fi/URN:ISBN:978-952-60-8651-4