Maailman tunnetuin fiktiivinen tekoäly lienee Skynet, Terminator-elokuvien tekoäly, joka heräsi henkiin ja yritti tuhota ihmiskunnan. Skynet käy vertauskuvasta tekoälyn kauhistuttavimmalle skenaarioille, kuten sille, että kehittämämme ylivertainen älykkyys kääntyisi luojaansa vastaan kohtalokkain seurauksin.
Skynetiin viittaaminen on klisee, eivätkä visiot tappavasta tekoälystä ole enää pelkkää fiktiota. Keskustelua siitä, voisiko käsistä päässyt tekoälyn kehitys johtaa ihmiskunnan tuhoon, käyvät itseoppineet filosofit, tekoälyn kehittäjägurut ja kehitystä rahoittavat tahot.
Keskustelu tekoälyn vaarallisuudesta saattaa lopulta sataa niiden laariin, jotka tekevät tekoälyn suhteen vaarallisimpia päätöksiä. Todelliset uhat ovat aivan muualla.
Tekoälyn tutkijat ovat varoitelleet kauhuskenaarioista jo pitkään. Oxfordin yliopiston tekoälytutkimusinstituutin vuoden 2022 kyselyssä 14 prosenttia haastatelluista koneoppimisen tutkijoista katsoi, että ihmisen tasoisen tekoälyn todennäköisin seuraus olisi erittäin huono – ihmiskunnan tuhoutuminen. Jopa 48 prosenttia vastaajista antoi tälle ainakin 10 prosentin todennäköisyyden. Kymmenenkin prosenttia on melko suuri todennäköisyys tällaisista asioista puhuttaessa.
Maltillisemminkin asennoituvat ovat huolissaan. Vuoden 2023 avoimessa kirjeessä teknologia-alan suuret nimet vaativat kuuden kuukauden taukoa tekoälykehitykseen huuman ollessa kuumimmillaan.
Kirjeessä kysyttiin: ”Pitäisikö meidän antaa koneiden tukkia tietokanavamme propagandalla ja epätotuuksilla? Pitäisikö kaikki työmme automatisoida, mukaan lukien merkitykselliset työt? Pitäisikö meidän kehittää epäinhimillisiä mieliä, jotka voivat joskus olla meitä suurilukuisempia ja älykkäämpiä ja jotka tekevät meidät tarpeettomiksi ja korvaavat meidät?”
Kirjeen allekirjoittivat muun muassa Applen Steve Wozniak, Skypen kehittäjä Jaan Tallinn ja ”uusliberalismin profeetta” Yuval Noel Harari. Mukana oli myös Elon Musk, joka on toki sittemmin jatkanut omien tekoälyprojektiensa kehittämistä ilman, että tämä kaksoisrooli vaikuttaisi Muskia näkyvästi haittaavan.
Vuoden 2024 maaliskuussa Yhdysvaltain ulkoministeriö tilasi raportin, jossa varoitettiin tekoälyn aiheuttavan ihmiskunnalle sukupuuttoriskin.
Toinen avoin kirje, jonka allekirjoittajissa ovat muun muassa Bill Gates ja vastikään Nobel-palkittu Googlen tekoälyprojektien vetäjä Demis Hassabis, veti analyysin yhteen: ”Tekoälyn aiheuttaman [ihmiskunnan] sukupuuttoon kuolemisen riskin pitäisi olla maailmanlaajuinen prioriteetti pandemian ja ydinsodan kaltaisten yhteiskuntatason riskien rinnalla.”
Tuhon ja kuoleman visiot ovat huomiotalouden polttoainetta.
Fiktiossa on spekuloitu pelkkää sukupuuttoa pahemmillakin skenaarioilla. Harlan Ellisonin novellissa I Have No Mouth And I Must Scream tekoäly nimeltä AM on tavoitteessa jo onnistunut ja pitää muutamaa elonjäänyttä vankeina kiduttaakseen näitä vihan osoituksena. Lopulta loukkuun jääneiden ihmisten ainoaksi kapinaksi jää tappaa toisensa – paitsi viimeinen näistä, joka muutetaan muotoon, jossa tällä ei enää ole käsiä, jalkoja tai edes teoksen nimessä kuvattua suuta.
Samanlaisia kidutuskeinoja kuin AM saattaisi käyttää ”Rokon basiliski” – Roko Mijicin ajatusleikki tekoälystä, joka rankaisee kaikkia niitä, jotka eivät ole käyttäneet resurssejansa tekoälyn kehittämiseen. Tällainen tekoäly kiduttaisi loputonta määrää ihmisten kopioita loputtomassa määrässä virtuaaliulottuvuuksia. Homman juju on se, että jos tämä ei tunnu kovinkaan suurelta uhkalta, niin, no – voitko olla varma, ettet ole itse yksi näistä kopioista?
Rokon basiliski voi tuntua normaalin ihmisen logiikalla toimivista lukijoista idioottimaiselta konseptilta, mutta tekoälykeskustelun ollessa aallonharjalla Less Wrong -rationalistiblogissa se aiheutti sen verran pakokauhua, että blogin pitäjistä tunnetuin Eliezer Yudkowsky lopetti keskustelun aiheesta lyhyeen heti sen alettua vuonna 2010.
Yudkowsky, itseoppinut älykkö, on käyttänyt suuren osan elämästään projekteihin, joiden tarkoitus oli saada aikaan tekoälyn kohdistus inhimilliseen arvomaailmaan. Siis varmistus siitä, että tulevaisuudessa ennakoidusti syntyvä superälykäs tekoäly ei tappaisi ihmiskuntaa. Yksi asiaan liittyvistä projekteista on 660 000-sanainen Harry Potter -fanikirjoitelma Harry Potter and the Methods of Rationality.
Konkreettisemmin toimii Yudkowskyn perustama Machine Intelligence Research Institute -projekti, jonka toimitusjohtaja on päässyt puhumaan tekoälyturvallisuudesta Yhdysvaltain senaatinkin eteen. Rationalistiliikkeestä on kummunnut myös esimerkiksi Kaliforniassa, tekoälykehitykselle keskeisen Piilaakson kotipaikassa, toimiva Center for AI Policy, jonka tukema tekoälykehitystä säätelevä SB 1047 -laki joutui vastikään kuvernööri Gavin Newsomin veto-oikeudella torppaamaksi. Kalifornian kuvernööriä luontaisesti saattaa kiinnostaa ihmiskunnan tulevaisuutta enemmän kalifornialaisten yritysten etu.
Viime aikoina Yudkowsky on tullut siihen lopputulokseen, että lait eivät välttämättä riitä, vaan Skynetin kaltaisen, ihmiskunnan tuhoa enteilevän tekoälyn syntyä on lopulta mahdoton pysäyttää ilman rajuja toimia. Provokatiivisimmillaan hän on jopa väläyttänyt ilmaiskuja tekoälyä pyörittäviä laskentakeskuksia vastaan.
OpenAI-yrityksen keulakuva Sam Altman, joka on julkisesti kantanut huolta tekoälykehityksen vaaroista esimerkiksi sukupuuttoriskistä puhuneen avoimen kirjeen allekirjoittajana mutta samalla painanut omassa toiminnassaan kaasua pohjaan niin kovaa kuin voi, on sanonut, että harva asia on toiminut niin tehokkaasti tekoälykehityksen siivittäjänä kuin Yudkowskyn tuomiopäivän visiot. Tuhon ja kuoleman visiot ovat huomiotalouden polttoainetta.
On kysyttävä, kuinka todennäköinen kumpikaan skenaario on.
Yudkowsky asettaa sanansa varmasti tarkoituksella jyrkästi. Jyrkästi puhuvat myös ne, joiden mielestä tekoälykehitystä ei pidä hillitä, vaan sen pitää suorastaan antaa räjähtää käsiin. Utopistien mielikuvissa tapahtuu niin sanottu singulariteetti: ensin kehitetään kyvyiltään ihmistä vastaava tekoäly, tämä pystyy kehittämään hieman ihmistä älykkäämmän tekoälyn, tämä tekoäly taas kehittää paljon ihmistä älykkäämmän tekoälyn, ja niin edelleen. Lopulta meillä on jumalan kaltainen olento.
Ja sitten? Sitten elämme paratiisissa.
Eräänlaisessa paratiisissa elävät esimerkiksi Iain M. Banksin Kulttuuri-kirjojen ihmislajin johtavan tähtienväliset sivilisaation edustajat. Heille koko universumi on pelkkää leikkiä hyväntahtoisten ja superälykkäiden tekoälyjen pyörittäessä kaikkia käytännön asioita. Tämäkään ei toki tee elämästä täydellistä. Banksin kirjoissakin Kulttuurin jäsenet huomaavat esimerkiksi osallistuvansa galaktiseen sotaan innolla, koska ainakin siinä on jotain sisältöä.
Osa akselerationisteista pitää mahdollisena sitäkin, että ihmiskunta tuhoutuu tekoälyn esiinnousun myötä – eivätkä he pidä tätä mitenkään huonona asiana, vaan pikemminkin osana kiertokulkua, jossa ihmisen osa on lopulta olla vain ylivertaisen älyn esiintuoja.
Katja Grace, yksi Tekoälytutkimusinstituutin (MIRI) entisistä tutkijoista, on sanonut kollegoineen olleensa jo pitkään huolissaan siitä, että tekoäly johtaa ihmiskunnan sukupuuttoon – mutta ettei ollut tullut lisänneeksi, että tätä pidetään yleisesti ottaen huonona asiana.
On kysyttävä, kuinka todennäköinen kumpikaan skenaario on. Kun uskonto on siirtynyt yhteiskunnassa taka-alalle, kommunismi epäonnistunut visioissaan ja yhteiskunnallisen edistyksen usko muutenkin hiipunut, kyseessä on yksi harvoista yhteiskuntaa vielä eteenpäin vievistä, ihmisille intoa antavista myyteistä. Ja maailmanlopun skenaariot ovat olleet aina osa myyttien kiinnostavuutta.
Tekoälyn tuloa rummuttava ja digitalisaatiota ylläpitävä talousrakenne vaatii jatkuvia ylisanoja toimiakseen. Hurja suitsutus siivitti esimerkiksi Nvidia-yhtiön valtaisaan kasvuun.
Nvidia ei kuitenkaan osallistu itse suoraan tekoälykehitykseen. Se valmistaa prosessoreita, jotka pyörittävät laskentaa, jonka voimin tekoäly toimii. Kuten sanonta kuuluu: kun käynnissä on kultakuume, kannattaa myydä lapioita.
Yhä tehokkaampien ja laskentakykyisempien prosessorien tarve on valtava. Esimerkiksi OpenAI:n kaltaiset toimijat luottavat siihen, että keino kehittää tekoälyä ihmisen kaltaiseksi, hyväksi tai pahaksi, saadaan onnistumaan käden käänteessä vain laskentatehoa lisäämällä ja syöttämällä malleihin lisää tietomateriaalia.
Tulokset ovat tunnetusti olleet erittäin lupaavia, mutta viime aikoina OpenAI ei ole onnistunut tarjoamaan maailmalle yhtä vakuuttavia edistysaskeleita kuin 2022 tai 2023. Pitääkseen uskoa yllä OpenAI:n keulakuva Sam Altmanin onkin tehtävä kaikkensa vihjaillakseen siitä, että yhä älykkäämmät mallit ovat vain kulman takana.
Voisiko tuomiopäivän ennustaminenkin olla osa tätä hypeä? Monesti on sanottu Frederic Jamesonia (tai Slavoj Žižekiä) mukaillen, että on helpompi kuvitella maailmanloppu kuin kapitalismin loppu.
Maailmanloppu voi olla helppo kuvitella, mutta todellisuudessa siihen on vaikeampi uskoa. Se, miten hahmotamme tekoälyn, keskittyy edelleen science fictionin visioihin, mikä tarkoittaa myös sitä, että meidän on vaikea ottaa ennustuksia vakavasti. Ne luokitellaan tarinoiden maailmaan. Jos tekoäly todellakin ilmoittaisi paitsi olevansa ihmiskuntaa älykkäämpi, myös vihaavansa meitä pohjattomasti, uskoisimmeko sitä?
Riskejä ei tulla pysäyttämään ilman rahaa tai valtiollisia toimia.
Todennäköisesti emme eikä meidän kannattaisikaan.
Yudkowsky katsoo yhden olennaisimmista riskeistä olevan se, että pohjattoman älykäs tekoäly olisi myös loistava viestimään. Niin hyvä, että se pystyisi vakuuttamaan ihmiset tekemään mitä tahansa – vaikka aloittamaan oman lajinsa sukupuuttoon vievät toimet.
Pohjaton älykkyys ei kuitenkaan takaa vastaavia taitoja ihmistenkään keskuudessa. Itse asiassa usein lahjakkaimpia viestijöitä lienevät henkilöt, jotka ovat teknisesti älykkäitä, mutta silti tarpeeksi lähellä keskivertoihmistä, että pystyvät vielä kommunikoimaan näiden kanssa samalla tasolla. Eniten tekoälyn kaikkivoipaisuudesta vakuuttuvat ne, jotka ovat psyykanneet itsensä uskomaan siihen – ja jotka ehkä kokevat, hieman tylysti sanoen, muutenkin enemmän hengenheimolaisuutta koneiden kuin ihmisten kanssa.
Suurin varsinainen uhka ei liity tekoälyyn itseensä vaan talouden rakenteisiin. Kapitalismin olosuhteissa kaikenlaiset yritykset säädellä jäävät auttamatta voitontavoittelun ja talouden hyvinvoinnin jalkoihin. Basiliskeja pelottavampia hirviöitä löytyy tosielämästä pörssistä.
Markkinoiden lisäksi muutkin korvat kuuntelevat. Esimerkiksi Donald Trumpin varapresidenttiehdokas J. D. Vance on luonut yhteyksiä Piilaaksoon ja tekoälypiireihin, joissa republikaanien viesti markkinoiden vapauttamisesta saa monilta liberaaleiltakin tahoilta vastapainoa. Sotateollinen kompleksi ja turvallisuusvaltio tulevat olemaan jatkossakin kiinnostuneita tekoälystä.
Oli vaakalaudalla sitten ihmiskunnan tulevaisuus tai ihan vain tarve elää yhteiskunnassa, jossa tekoäly tarkoittaa muutakin kuin väärän tiedon lisääntymistä, mielenterveysongelmien ruokkimista ja vallan keskittymistä, riskejä ei tulla pysäyttämään ilman rahaa tai valtiollisia toimia.
Joskus hypekin toisaalta romahtaa. Useiden yritysten, kuten Googlen, tekoälyprojektit, ovat vaikuttaneet polkevan paikallaan. Viime vuosina tekoälyala on onnistunut vetelemään uskon loppuessa jäniksiä hatustaan niin, että hype on jatkunut ja talousrakenne pysynyt ennallaan. Jonain päivänä kupla voi poksahtaa niin isosti, että siihen ei isokaan kaniini valtavasta stetsonista enää riitä.
Tekoälyyn liittyvät ongelmat ovat kapitalismin ongelmia. Tekoälyä kehitetään sitä hallinnoivien yhtiöiden voittojen maksimoimiseen, ei ihmiskunnan yhteistä hyvää varten. Armottoman Piilaakson markkinatalouden opeilla tehtävästä kehityksestä ei ole lopulta hyötyä kuin tekoälyfirmojen omistajille. Lisäksi näillä opeilla luotu tekoäly toteuttaa rajoittamatonta kapitalismia myös käytännössä – pitäen sitä asioiden ”luonnollisena” olotilana.
Voi olla, että lopulta pelkkä tekoälyn säätely esimerkiksi EU:n haluamalla tavalla ei riitä torjumaan uhkia. Maltillinen määrä uskoa siihen, että teknologia ja sen sovellukset voivat parantaa kaikkien elämää sekä kansantaloutta, on silti hyvä omaksua.
Kenties ainoa tapa estää tekoälykehityksen lähtemistä käsistä hypen siivittämänä on tehdä se itse – luoda valtion karttuisaa kättä hyödyntäen viimeinkin itse tavallista ihmistä markkinoiden sijaan hyödyttäviä sovelluksia. Silloin ei eletä enää science fictionin maailmoissa tai basiliskeja kulman takaa kurkkien.
Ruorissa on aina lopulta ihminen.
uutiskirje 