Microsoftin toimitusjohtaja Satya Nadella ei halua typistää tekoälystä käytävää keskustelua valinnaksi nopean kehityksen ja täydellisen jarrutuksen välillä. Hän painottaa sen sijaan hallittua etenemistä, ihmisen määräysvaltaa ja järjestelmällisiä turvatoimia. Tavoitteena pitäisi olla tekoäly, joka tuottaa todellista hyötyä yhteiskunnalle ilman, että päätösvalta siirtyy ihmisiltä koneille.
Nadella esitteli näkemyksensä viestipalvelu X:ssä keskellä vilkastunutta keskustelua kaikkein kehittyneimpien tekoälymallien riskeistä. Hänen mukaansa superälyä ei ole mielekästä tavoitella, ellei teknologia palvele ihmiskuntaa ja pysy ihmisten ohjauksessa. Microsoft-johtaja liittää turvallisuuteen myös kysymyksen siitä, ketkä pääsevät hyötymään tekoälyn kehityksestä.
Keskustelun taustalla vaikuttaa tekoälyalan nopea eteneminen. Uudet mallit pystyvät käsittelemään entistä monipuolisempia tehtäviä, mutta samalla niiden toimintaa, vaikutuksia ja mahdollisia väärinkäyttötapoja täytyy arvioida aiempaa tarkemmin. Alan johtajat pohtivat nyt avoimesti, pitäisikö edistyneimpien järjestelmien kehitystä tarvittaessa hidastaa.
Vauhti ei ole ainoa kysymys
Nadella ei asetu yksiselitteisesti kehityksen hidastamista vastaan. Hän suhtautuu myönteisesti tutkimukseen, harkittuun etenemiseen ja työhön, jolla tekoälyjärjestelmien tavoitteet pyritään sovittamaan yhteen ihmisten etujen kanssa. Hänen linjauksensa kohdistuu ennen kaikkea liian yksinkertaiseen asetelmaan, jossa vaihtoehtoina nähdään vain rajaton kiihdytys tai kehityksen pysäyttäminen.
Microsoftin näkökulmasta turvallisuus pitäisi rakentaa osaksi koko kehitysprosessia. Mallien testaamisen, riskien tunnistamisen ja käytön valvonnan tulisi jatkua sekä ennen julkaisemista että sen jälkeen. Tämä lähestymistapa sallisi teknologian etenemisen, mutta tekisi turvatoimista jatkuvan velvoitteen yksittäisen tarkastuspisteen sijaan.
OpenAI on nostanut esille mahdollisuuden hidastaa edistyneimpien mallien kehitystä, mikäli myös alan muut keskeiset toimijat suostuisivat samaan. Nadellan kannanotto ei suoraan kiistä tällaisen menettelyn tarpeellisuutta. Hän kuitenkin siirtää huomion yhteisestä vauhtirajoituksesta käytännön valvontamekanismeihin ja koko alan vastuullisiin toimintatapoihin.
Ihmisen hallinta keskiöön
Nadellan viestin keskeisin periaate koskee ihmisen määräysvallan säilyttämistä. Tekoälyjärjestelmien pitäisi tukea ihmisten päätöksentekoa eikä muodostua itsenäiseksi vallankäyttäjäksi, jonka toimintaa ei pystytä ymmärtämään tai pysäyttämään. Periaate korostuu erityisesti silloin, kun malleja käytetään yritysten tärkeissä prosesseissa tai laajasti yhteiskuntaan vaikuttavissa palveluissa.
Microsoft on jo aiemmin nostanut vastuullisen tekoälyn periaatteisiin turvallisuuden, yksityisyyden, läpinäkyvyyden, oikeudenmukaisuuden ja vastuun. Nadellan uusi kannanotto kokoaa nämä tavoitteet osaksi laajempaa keskustelua tekoälyn kehityssuunnasta. Pelkkä tekninen suorituskyky ei tämän ajattelun mukaan riitä mittaamaan mallin onnistumista.
Ihmisen hallinta vaatii käytännössä selkeitä käyttöoikeuksia, toimivia rajoituksia ja mahdollisuutta tarkastaa järjestelmän toimintaa. Organisaation täytyy myös tietää, mitä tietoja malli käyttää ja miten tekoälyn tuottamia tuloksia hyödynnetään. Käyttäjän näkökulmasta olennaista on puolestaan tunnistaa, milloin palvelussa asioidaan tekoälyn kanssa ja kuka kantaa vastuun mahdollisista virheistä.
Avoimille ja suljetuille malleille tilaa
Nadella haluaa rakentaa tekoälymarkkinan, jossa sekä avoimen että suljetun lähdekoodin mallit voivat menestyä. Hän ei pidä tarkoituksenmukaisena sitä, että kaikkein edistyneimmän tekoälyn valvonta jäisi vain muutaman yrityksen tai muun toimijan käsiin. Päätöksenteossa pitäisi hänen mukaansa olla mukana eri maita, tieteenaloja, yrityksiä ja akateemista tutkimusta.
Laaja toimijajoukko voi parantaa kilpailua ja tuoda esille riskejä, joita yhden yrityksen sisäinen arviointi ei välttämättä tunnista. Avoimuus ei silti automaattisesti ratkaise kaikkia turvallisuusongelmia, sillä myös avoimia malleja voidaan käyttää haitallisiin tarkoituksiin. Suljetut järjestelmät puolestaan voivat tarjota tiukempaa keskitettyä valvontaa, mutta niiden toiminnasta saadaan usein vähemmän ulkopuolista tietoa.
Nadellan linja etsii tasapainoa näiden mallien välille. Käyttäjille ja yrityksille pitäisi tarjota valinnanvaraa tekoälypalvelun eri kerroksissa sen sijaan, että ne sidottaisiin yhteen malliin tai palveluntarjoajaan. Microsoftin laajempaa alustastrategiaa kuvaa myös se, että Azure saa oman liikevaihtorivinsä yhtiön uudistuvassa raportoinnissa.
Yritysten oma tieto suojattava
Nadella kiinnittää erityistä huomiota yritysten hallussa olevaan tietoon ja osaamiseen. Organisaatioiden pitäisi voida rakentaa omia jatkuvasti kehittyviä tekoälyratkaisujaan ilman täydellistä riippuvuutta yhdestä mallitoimittajasta. Yrityksen pitäisi myös säilyttää päätösvalta siitä, miten sen omaa tietoa liitetään malleihin ja miten oppimisen tulokset pidetään sen hallinnassa.
Tämä tavoite on tärkeä etenkin organisaatioille, joiden kilpailuetu perustuu sisäisiin prosesseihin, asiantuntijoiden kokemukseen tai vaikeasti dokumentoitavaan osaamiseen. Ulkopuolinen tekoälypalvelu voi tehostaa työntekoa, mutta samalla se voi synnyttää huolia tietojen luottamuksellisuudesta ja toimittajalukosta. Nadellan ehdottama malli korostaa yrityksen oikeutta hallita sekä omaa aineistoaan että siihen perustuvaa oppimista.
Microsoftin tekoälylinjaa ei voi erottaa yhtiön pilvipalveluista, ohjelmistoista ja laajasta laite-ekosysteemistä. Tekoälyominaisuudet siirtyvät yhä useampiin palveluihin, jolloin samat hallintakysymykset ulottuvat tietokeskuksista käyttäjien omille laitteille. Ekosysteemien lähentymisestä kertoo omalla tavallaan myös hanke, jossa Android-puhelimesta kaavaillaan Windows 11:n virtakytkintä.
Arviointi mukaan järjestelmiin
Nadella nostaa esille järjestelmien sisään rakennetut arvioijat yhtenä mahdollisena keinona parantaa turvallisuutta. Tällainen arviointi voisi seurata tekoälyn toimintaa jatkuvasti ja tunnistaa ongelmallisia vastauksia tai käyttäytymismalleja mahdollisimman varhain. Menetelmän käytännön tehokkuus riippuu silti siitä, millaisilla mittareilla järjestelmää arvioidaan ja kuka määrittelee hyväksyttävän toiminnan rajat.
Microsoft aikoo lisäksi avata omien MAI-malliensa toimintaperiaatteita julkiseen kuulemiseen tarkoitetulla käytännesäännöstöllä. Nadellan mukaan pelkät periaatejulistukset eivät riitä, vaan alan täytyy kehittää konkreettisia mekanismeja niiden toteuttamiseen. Julkinen palaute voi auttaa tunnistamaan puutteita, mutta lopullinen vastuu mallien turvallisuudesta säilyy niiden kehittäjillä ja käyttöönottajilla.
Jatkuva arviointi muuttaa myös käsitystä tekoälytuotteen valmistumisesta. Malli ei ole turvallisuuden näkökulmasta valmis pelkästään siksi, että se on julkaistu käyttäjille. Kehittäjien täytyy seurata todellisia käyttötapoja, korjata havaittuja puutteita ja varautua sellaisiin riskeihin, joita laboratoriotesteissä ei osattu ennakoida.
Mitä linja merkitsee käyttäjälle
Nadellan puheenvuoro käsittelee suuria periaatteita, mutta sen vaikutukset voivat näkyä lopulta tavallisissa sovelluksissa ja verkkopalveluissa. Käyttäjä tarvitsee ymmärrettäviä tietoja siitä, mitä tekoäly tekee, mihin sen vastaukset perustuvat ja miten omia tietoja käsitellään. Palvelun pitäisi lisäksi tarjota helppo tapa ilmoittaa virheistä ja tarvittaessa pyytää ihmistä tarkastamaan tekoälyn tekemä ratkaisu.
Yrityksille linja tarkoittaa tarvetta arvioida tekoälypalveluja muillakin perusteilla kuin hinnalla ja suorituskyvyllä. Sopimuksissa täytyy huomioida aineistojen omistajuus, tietojen sijainti, mallin valvonta ja mahdollisuus vaihtaa palveluntarjoajaa. Organisaation pitää myös nimetä vastuutaho, vaikka varsinainen malli toimisi ulkopuolisen pilvipalvelun kautta.
Nadellan kannanotosta nousee esille viisi käytännön tavoitetta:
- Tekoälyn täytyy tuottaa ihmisille tunnistettavaa hyötyä.
- Ihmisten on säilytettävä mahdollisuus ohjata ja rajoittaa järjestelmiä.
- Turvallisuutta on arvioitava koko mallin elinkaaren ajan.
- Yritysten pitää voida hallita omaa tietoa ja oppimisprosesseja.
- Avoimille ja suljetuille malleille on tarjottava tilaa kilpailla.
Lista osoittaa, ettei Microsoft esitä yhtä yksittäistä ratkaisua tekoälyn riskeihin. Yhtiö tavoittelee kokonaisuutta, jossa tekniset rajoitukset, yritysten hallintamallit, laaja kilpailu ja ulkopuolinen tutkimus täydentävät toisiaan. Malli vaatii onnistuakseen myös yhteisiä mittareita, sillä vastuullisuutta on vaikea valvoa ilman vertailukelpoisia testejä.
Luottamus ratkaisee käyttöönoton
Nadella pitää luottamusta tekoälyn laajan käyttöönoton edellytyksenä. Käyttäjät ja yritykset eivät ota järjestelmiä osaksi tärkeitä tehtäviä, elleivät ne voi luottaa teknologian turvallisuuteen ja hallittavuuteen. Luottamus syntyy käytännön näytöistä, joten kehittäjien täytyy osoittaa periaatteiden toimivan myös virhe- ja väärinkäyttötilanteissa.
Microsoftin linja ei siten tarkoita tekoälykehityksen ehdotonta kiihdyttämistä. Se hyväksyy harkitun etenemisen silloin, kun turvallisuuden varmistaminen sitä vaatii, mutta ei pidä yleistä pysäytystä ainoana vastauksena. Nadella haluaa yhdistää kehityksen, valvonnan ja hyötyjen laajan jakamisen samaan kokonaisuuteen.
Ratkaiseva kysymys koskee lopulta sitä, pystyykö ala muuttamaan tavoitteensa mitattaviksi käytännöiksi. Ihmisen hallinta, yritysten riippumattomuus ja jatkuva arviointi kuulostavat selkeiltä periaatteilta, mutta niiden toteuttaminen vaatii avoimuutta myös ongelmien ilmetessä. Nadellan puheenvuoro lisää painetta osoittaa, miten Microsoft aikoo soveltaa vaatimuksia omiin tekoälymalleihinsa ja palveluihinsa.
Tietolähteet
Mobiili.fi: Microsoftin toimitusjohtaja otti kantaa tekoälykehityksen hidastamiseen
Käytetty artikkelikuva
Artikkelikuvana käytetään lähdeartikkelin kuvaa. Kuvan lähde: alkuperäinen kuvatiedosto. Lähdeartikkeli: Microsoftin toimitusjohtaja otti kantaa tekoälykehityksen hidastamiseen.