Kas teadus on alati kasulik? Kas see on lihtsalt teadmiste otsing või midagi palju enamat? Need küsimused pole sugugi uued. „Teadusuuringutes on nii palju ohte, nii palju valeradu!“ kirjutas Jean-Jacques Rousseau 1750. aastal oma arutluses teadustest ja kunstidest. „Kui palju tuleb tõeni jõudmiseks eksida, kusjuures eksituste ohtlikkus ületab tuhandekordselt kasu, mis tõest saadakse! Kahju on ilmne, sest vale võib esineda lõputute kombinatsioonidena, aga tõel on ainult üks olemisviis. Pealegi, kes teda nii siiralt otsibki?“¹ Isegi kui teadlane ise usub, et tema uuringute eesmärk on jõuda tõese teadmiseni, ei kehti see mingil juhul uute leiutiste kohta. Leiutist võib ju sama hästi kasutada võltsimiseks, moonutamiseks ja valede levitamiseks, rääkimata uutest vägivallavormidest, mille tulekule uus teaduslik tõde pahatihti uksed valla lööb.

Jacob Coxoni hiljutine avaldus, et tehisaru areng võib veel sel kümnendil hävitada inimkonna või meid kõiki pöördumatult kahjustada, aktualiseerib tõe küsimuse taas. Tõsi küll, samasugust ohutunnet sisendas juba kolme aasta eest Nobeli preemia laureaat Geoffrey Hinton, kes otsesõnu kahetses, et tema teadustöö on tekitanud erakordse hüppe tehisaru õppimisvõimes. Nüüd on aga Coxoni avaldusega kaasa tulnud terve hulk tema Anthropicu kolleege ning sama kinnitavad ka OpenAI uurijad.² Vastukaja võimendab tõsiasi, et ärevus saab alguse teadlaste endi kogukonnast. Siin pole tegemist mingi „objektiivse tõega“, mida võiks üht- ja teistpidi tõestada, kummutada ja oma huvides ära kasutada. Tehisaru ohtlikkus pole suvaline fakt. Oletagem siis praegu, et teadlaste hoiatused võiksid kuuluda valdkonda, mida Michel Foucault oma viimaseks jäänud seminaris nimetas tõejulguseks, kasutades selle kohta ka vanakreeka väljendit parrhesia, mis märgib kartmatut otsekohesust tõe välja­ütlemisel.³ Selline tõejulgus nõuab suurt riski (tõeütlejal on, mida kaotada) ja olulist lausumispositsiooni (tõeütleja asub paigas, kus tema sõnad äratavad tähelepanu). Tõejulguse klassikaline sümbol on Antigone, kelle saatus on Sophoklese samanimelise tragöödia keskmes.⁴ Antigone maetakse elavalt, sest tema parrhesia on talumatu. Müütilise eeskujuga võrreldes näeme küll, et teadlased oma eluga ei riski. Nende kasuks kõneleb ainult fakt, et Jacob Coxon on Anthropicust lahkunud ja Geoffrey Hinton jättis Google’iga ammu hüvasti.

Kuid mis on ikkagi tehisaru suurimad ohud? Ennekõike lähtuvad need tehisaru kasutamisest sõjaliseks otstarbeks. Juba praegu on tehisarul tähtis osa küberrünnakutes ja droonide juhtimises, kuid ulatuslikum taparobotite ehitamine alles algab. Juhtimise võib AI-le ka täielikult üle anda, ilma et ükski inimene peaks otsustama, kas ja kuidas sihtmärki tabada. Sellest veel ohtlikum on bioloogiliste relvade arendamine, mis on tehisaru abiga võrratult kiirem. Tehisaru lihtsustab nii bakterite kui ka viiruste uurimist. Tulemusi saab kasutada vaktsiinide tegemiseks, kuid samuti bioloogilisteks rünnakuteks, terrorismi või genotsiidi eesmärgil. Peale riiklikult rahastatud sõjaliste ettevõtmiste saavad tehisaru surmavat potentsiaali pruukida ka kurjategijad, sest keerukate operatsioonide teostamiseks pole enam vaja võimast meeskonda ega põhjalikke teadmisi. Anthropic on avaldanud 154-leheküljelise raporti, kus kõigi nende võimaluste kohta tuuakse arvukaid näiteid.⁵ Loetelu saaks aga pikendada.

Kui Anthropic kõrvale jätta, leiame mõistagi veel rohkesti kahjusid, mida tehisaru pealetung tekitab kodanikuühiskonnas ja ökoloogilisel tasandil. Paljud on märganud, et tehisaru ei ole bürokraatlikku asjaajamist sugugi õgvendanud. Vastupidi, seda on varasemast enam. Ka igasuguste kaebuste, nõuete ja laimu tekitamine on nüüd uskumatult lihtne, selleks pole kirja­oskust vajagi. Pealtnäha veenvate valede, libauudiste ja süvavõltsingute tootmine on juba sedavõrd igapäevane, et seda peetakse tavaliseks tüütuks müraks. Ometi on selle taga massiivne taristu, sumisevad andmekeskused, mida tuleb kiiresti järjest juurde ning mis sõna otseses mõttes hävitavad meie elukeskkonda. Andmekeskuste juures linnud ei laula. Asi pole ainult pöörases energiatarbimises ja puhta vee reostamises, vaid elupaikade kadumises, mis omakorda toob kaasa veel tõsisemaid ökoloogilisi probleeme. Lühidalt, selleks et saastada inforuumi, moonutada maailmataju ja eksitada mõtlemist, tuleb järjest rohkem saastada ka reaalset ruumi, mürgitada elusolendeid ja hävitada taastumatuid loodusvarasid. Rosin selle toksilise tordi peal on neuro­teadlaste mure, et tehisaru rutiinne kasutus vähendab aju konnektiivsust (ehk otse öeldes, teeb meid lollimaks). Tekib küsimus, miks me õieti peame seda kõike tegema? Milline utoopia võiks neist rusudest sündida?

Vastus on ehmatavalt lihtne. See peitub hüpnokraatia võimustruktuuris eneses. Hüpnoosi mõte ei olegi saavutada midagi muud peale hüpnoosi jätkumise. Ühtki väljaspoolset eesmärki polegi. Tehisaru arendamist on vaikimisi põhjendanud teaduse ja tehnika progress. Võiks seega kõnelda progressihüpnoosist, mis on alanud juba palju varem ja on õigupoolest hüpnosfääri tekkimise eeldus. Progressihüpnoos tähendab pimedat usku, et progress on juba iseenesest hea, et ta on ülim väärtus isegi siis, kui meie seda näha ei suuda, ja isegi siis, kui see meie meelest on kahjulik. Progress on ülemeeleline, üleloomulik, jumalik. Selle usu radikaalsemad vormid on transhumanism ja aktseleratsionism, omaette sektid, mis sarnanevad nelipühilaste või Jehoova tunnistajate hoiakule religiooni vallas.

Nii kerkib küsimus: mis oleks õieti tõejulgus hüpnosfääris? Kas Jacob Coxoni avaldus on võrreldav Greta Thunbergi kõnega Davosis, 2020. aasta Maailma Majandusfoorumil? Mulle tundub, et ei ole. Isegi kui tehisaru arendajad tekitavad paanikat, ei ole selle ajendiks mitte õiglusejanu, vaid päris tavaline hirm. See on nõiduse õpilase hirm – ta on kaotamas kontrolli oma maagiliste toimingute üle. „Vaimud kanged, saan teist jagu täpselt nagu õpetaja …“⁶ Aga nõiameistrit ei ole enam, ei ole õieti olnudki, ja appi ei tõtta keegi. Mis nüüd? Et rahustav mantra endiselt toimiks, et tal säiliks hüpnootiline jõud, tuleb teha nägu, et olukorda püütakse ohjeldada ja kõige hullem jääb sündimata. Niisiis polegi tegu mitte tõejulguse, vaid hoopis tõehirmuga. Tõde on aga see, et progressi­hüpnoos pole igavene, ükskord peab see paratamatult katkema.