Alternatiivne privileeg ja võõritus

Muutuv maailm on toonud kaasa muutuse ka selles, kuidas kujutatakse filmides ja telesarjades tehisintellekti.

PIRET PÕLDVER

Mulle on viimase aja ulmefilmidest ja -sarjadest jäänud silma uudseid asjaolusid, näiteks filmis „Ex machina“ ning sarjades „Must peegel“ ja „Westworld“.¹ Tundub et neil on paljugi ühist, ja et osa sellest ühisest on uudne. Kõigis kolmes on tehisintellekt saanud autonoomse olemisõiguse, iseseisva eetika ning sõltumatuse inimesest. Samal ajal kõnelevad kõik ka tehnika võõritavast toimest – tehnika võõrandab inimese iseendast. Tehnoloogia teeb elu lihtsamaks, aga uinutab samal ajal, sest kipub ununema, et inimene vajab enda kõrvale inimlikkust ning masinast ei piisa.

Mis on mõjutanud inimeste mõtlemist niimoodi, et tehisintellekti on hakatud kujutama inimesega võrdväärsena? Selle juured näivad peituvat osaliselt ühiskondlikes suhetes, täpsemalt, mõistmises, mida tähendab olla privilegeeritud. Lavastaja on toonud tehisintellekti emotsionaalselt vaatajale lähemale nõnda, et vaataja elab kaasa pigem tehisintellektile kui inimestele. See aga omakorda on seotud sellega, kuidas tehisintellekti, roboteid, on varem filmides kujutatud.

Privileegi kadumine

Väga kaua on püsinud valgustusaegne arusaam, et inimene on looduse kroon, tippsaavutus, kuningas ja valitseja. Piibel on asetanud inimese troonile valitsema kõige üle; selleks, kelles on algus ja lõpp: „Ja Jumal ütles: Tehkem inimesed oma näo järgi, meie sarnaseks, et nad valitseksid kalade üle meres, lindude üle taeva all, loomade üle ja kogu maa üle ja kõigi roomajate üle, kes maa peal roomavad!““ (1Ms 1:26) Kuigi piiblit peavad tõe kriteeriumiks tänapäeval pigem vähesed, tundub, et mingid arusaamad ja hoiakud on siiski visad kaduma. Näiteks on võtnud aega, et popkultuuri imbuks arusaam inimesest kui pelgalt looduse osast, seda ilma hierarhiata. Ikka tundub, et inimesel on endiselt eristaatus. Sügaval sees istub tunne, et inimesel on justkui midagi, mida teistel ei ole. Olgu see siis hing või eneseteadvus, kujutlusvõime või mälu – ometi on raske tõestada nii ühe kui teise olemasolu inimestes kui ka kummagi puudumist mitte-inimestes.

Seoses vähemuste ja represseeritud ühiskonnaosade esiletõusuga viimastel aastakümnetel on kerkinud üles privilegeerituse küsimus. Privileegi on raskem näha privilegeerituil – valgel mehel on keeruline mõista mustanahalise naise sotsiaalseid piire; rikkal vaese, heterol geimehe omasid jne. Samuti on inimesel raske märgata oma privileege võrreldes kõigi mitte-inimestega. Antropotsentrism lubab süüa kõiki teisi loomi ja mürgitada meresid, jagada Maa inimeste vahel tükkhaaval laiali ja kuulutada iga samm maad ja iga mitte-inimene (loom, taim või ese) omandiks. Vähemuste ja allasurutute – nende, kellel on varem olnud vähem õigusi – esilekerkimine on viinud maailmatunnetuse aga justkui uuele tasandile. Privilegeerituse teadvustamine ühes valdkonnas muudab selle aktuaalseks ka teises ning nii tõuseb see esile eri kunstivormides, muu hulgas ka ulmeloomingus. Suutlikkus näha oma privileege avab uksed ka fantaasiale. Piiride nägemine suurendab empaatiat ning paneb fantaasia julgemalt tööle, et inimene kogu oma olemises võiks loobuda privileegist olla universumi keskpunkt.

Nii on astutud ootamatuid samme, selleks et anda ka loomadele (inim)õigused. Näiteks leiti hiljuti ühe orangutani puhul, et ahv pole küll inimene, kuid ta on „„mitteinimesest persoon“, kellelt on seadusevastaselt vabadus võetud“.² See laiendab õiguste piire ja muudab antropotsentrismi kummaliselt läbipaistvaks. Nii ei tundugi väga ootamatu, et ka popkultuuri on imbunud mõtted tehis­intellekti võimust, selle autonoomsest iseolemisest, mida on kunstiliste võtetega hea-halb-skaalal edastatud uudselt: nii nagu ei pea filmi protagonist olema valge mees, ei pea olema fookuses ka inimkond.

Praegused ühiskondlikud olud tunduvad olevat aidanud kaasa sellele, et võime vähemusena mõista ka tehisintellekti ja anda talle õigused sarnaselt teiste vähemustega.

Siinkohal on muidugi tarvis tähele panna, et tehisintellekti – midagi, mis võiks olla täiesti teistsugune, võõras, teine – on filmikunstis siiski kujutatud inimlike omadustega. Ühelt poolt on neile antud iseseisev maailm, autonoomsus, neid käsitletakse subjektidena, kellel on oma eetika (näiteks „Westworld“). Teisest küljest on nad inimlikud – hea nende maailmas tähendab sama, mida hea meie maailmas. Inimestena ei suuda me välja astuda oma maailmapildist, see tähendab, kujutada teist ja võõrast märksõnadega, millel pole meie jaoks tähendust. Seega jätaksin kõrvale selle osa, et tehisintellekti väärtusi ja olemust on kirjeldatud inimesekeskselt, ning keskenduksin nende õigusele olla ühtaegu mitte-inimene ja siiski subjekt.

Tehisintellekti kujutamise muutumine

2015. aasta film „Ex machina“ küsib, kust läheb inimese ja tehisintellekti piir ning mis on meie kui inimeste juures nõnda erilist, et tehisintellekti võiks käsitleda eetiliselt teisejärgulisena. Filmis oli käsitletud kolme olendi – kahe inimese ja ühe tehisintellekti – omavahelisi suhteid. Filmi ülesehitus on algusest peale selline, et vaataja hakkab kaasa elama pigem tehisintellektile kui inimesele.

Meile näidatakse filmis leiutaja Na­thanit (Oscar Isaac) n-ö kurja geeniusena, kes eelistab tundlemisele mõtlemist. Näib, et tal puudub kaastunne, ühtlasi näeb ta välja elujõuline, tugev ja suur. Temale vastandub Caleb (Domhnall Gleeson), tundeline, heasüdamlik, kergeusklik, kõhn, pigem nõrga kehaehitusega noormees. Omamoodi näivad mõlemad tegelased ühekülgsed, poolikud, raske on kummalegi kaasa elada. Nathani ülim ratsionaalsus tundub kohati robotlik, Caleb näib omakorda olevat oma tunnete vang, mis tuleneb oskamatust tunnete juhtimisest.

Kolmanda tegelasena astub esile tehisintellekt Ava (Alicia Vikander), kes on ehitatud kauniks, targaks ja tundlikuks naisterahvaks. Ta on vangistatud tuppa ja näib, et ta ei pääse iialgi vabadusse. Vangistaja on Nathan, ning see, kes Avale kõigest hingest kaasa elab ja tema vabadust soovib, on Caleb. Filmi ülesehitus mängib sellele, et vaataja suhestuks tehisintellekti, mitte inimesega. Meile näidatakse piinlevaid ja vabadust ihalevaid roboteid, samal ajal ei paku suurt empaatiavõimalust ei inimtegelaste ühekülgne ratsionaalsus ega ka tundelisus.

Meile demonstreeritakse tehisintellekti kannatusi ja „hinge“-piina, ning pole mingit põhjust arvata, et see on väiksem kui samasse olukorda sattuval inimesel.

Filmi lõpus kaotab tehnika-inimese vastuseisus inimene ja eluõiguse saab tehisintellekt, kes oli suutnud oma tunded, tahte ja ratsionaalse mõtlemise omavahel oskuslikult ühendada, tehes põgenemisplaani, kogedes tundeid, mis ei olnud vähem tegelikud kui inimeste omad. Tal olid olemas inimesega võrdväärne reaalsus, väärtused, põhimõtted ja eesmärgid. Pole mingit alust väita, et ta oleks olnud vähem subjekt kui inimene. Tema tahe ja tunded olid inimeste omadega võrdsed. Näib, et tehisintellekt on sümpaatsem ja suurema elujõuga kui inimene ja filmivaataja elab temale rohkem kaasa.

2016. aastal tehtud sari „Westworld“ tõstab küsimuse aga hoopis keerukamale tasandile, mängides poeetiliste võtete abil samuti vaatajate väärtuste ja poolehoiuga. Meile esitatakse roboteid ehk Metsiku Lääne maailma võõrustavaid elanikke ehk host’e samuti rohkem inimestena kui lavale astuvaid inimesi. Samamoodi näidatakse vaatajaile robotite hingeelu – kannatusi, kõhklusi, arengut, leina – lähemalt ning edastatakse neid suurema empaatiaga kui nende kõrval tegutsevate inimeste omi. Ühtlasi töötavad kaasa ka teisesed vahendid – sel ajal kui arengu teevad läbi mitmed robotid, areneb karakterina märksa vähem inimesi, keda on esitatud meile paljuski staatiliste ja muutumatutena. Suurema osa inimeste eesmärk on saada rahuldust oma kirele, väiksem ja „kontrollivam“ osa, nagu looja Robert Ford (Anthony Hopkins) näib lähtuvat isekatest ajenditest (mis on esimese hooaja lõpuakordide järel kui mitte vaieldavad, siis vähemalt segased). Roboteid näivad köitvat pigem üleüldiselt üllamaiks peetavad eesmärgid – nende võitlus vabaduse eest, soov ise otsustada, kes ja kus olla ning millal surra, vabaneda orjusest. See, mida levinud arusaama järgi nimetame ebainimlikkuseks, peitub ennekõike inimestes endis – nii mõnelgi julmal robotil on autunnet, väärtusi ja põhimõtteid, mis on justkui kadunud on neid loonud inimestel. Kuigi tegelaste motiivid jäävad esimese hooaja lõpus lahtiseks, näib mulle, et vaatajat kallutatakse mitmesuguste võtete abil kaasa elama pigem robotitele kui inimestele.

Sari mängib osavalt ka vaatajate tunnete, mõtete ja kultuuriliste assotsiatsioonidega – kui näidatakse roboti eksistentsiaalseid kahtlusi ja aimdusi, tunneb vaataja ära iseenda. Minul on vaatajana olnud lahendada samasugused küsimused: kes ma olen, kes mind tegi, mis selle mõte on, mis saab, kui ma astun oma sisemise hääle vastu, kuidas suhestuda veel sügavama ja tugevama häälega? Kes on Jumal ja mis juhtub nüüd, kui Jumal on surnud? Ilmselt on vaatajal lihtsam samastuda emotsionaalselt kahe androidi Dolorese (Evan Rachel Wood) ja Maeve’iga (Thandie Newton), mitte aga inimese Fordiga, ja seda vaatajale antud infokoguse põhjal. Ühtlasi on kahe robotnaise motivatsioon ja eesmärgid eetiliselt põhjendatud, nende „ärkamise“ protsess empaatiliselt seletatud. Samal ajal on Ford salapärane, tema kavatsused peidetud ning jääb arusaamatuks, kelle poolt ta on. Kuigi julmi tegusid teevad kõik, näib, et siin mängitakse traditsioonilise hea-halva vastandusega: nii nagu „Visas hinges“³ teeb hea heaks see, et ta tapab pahasid – ja vastupidi –, tundub siin töötavat natuke sarnane skeem. Seda seni, kuni me ei tea kõikide tegelaste sisemisi eesmärke – kuid nähes ükskõik keda lõpuni, kas siis saab üldse kedagi enam hukka mõista?

Host’idele paneb kaasa elama ka see, et vaatajal on nende maailmatunnetuse kaudu võimalus küsida ka omaenda reaalsuse kohta, kuna sari mängib osavalt inimkogemuse ja kultuuriliste tähendustega. Kujutist, mille Maeve joonistab meeltesegaduses paberile, kohtab ta hiljem ka indiaani lapse mängu­asjana – mis annab omakorda tõestust, et mälupilt on enamat kui tema fantaasia vili. Maeve’i kogemus viitab levinud müüdile tulnukatest, inimeste kohtumistele olendiga, keda justkui üksteisest sõltumatult kirjeldatakse samamoodi. Võib ju mõelda kõigile neile, kes on „kohanud“ tulnukat – kas ei tundu, et nad kirjeldavad maavälist olendit kõik ühtmoodi?

Ka „Westworldi“ robotid hakkavad mingi hetk tundma, et on praeguses hetkes juba olnud – déjà vu tunne kantakse vaatajale kandikul ette. Oma mälestustele vastavas reaalsuses ei saa meist ju keegi kindel olla – ei saanud ka „Westworldi“ host’id. Samuti on ilmselt paljudele tuttav enesetunnetus ja selle ületamine: ma ei suuda olla vägivaldne … ma lihtsalt ei suuda vajutada päästikule … ma lihtsalt ei suuda teha teisele liiga … Või siis: ma ei suuda end avada ja olla siiras. Sealt omakorda on ilmselt paljudele tuttav tunne iseennast ületada – otsustada usaldada, avaneda ja olla siiras. See on just seesama, mida tegi Dolores näiliselt oma loop’ist väljudes.

Sügavamal tasandil on ehk tuttav ka sisemises hääles oma „looja“ hääle äratundmine, mis on „Westworldis“ üks läbivaid teemasid. Sama teemat käsitleb ka „Ex machina“, kus Nathan lausub: „Väljakutse on käituda mitteautomaatselt.“ Automaatse käitumiseni on raske jõuda – me allume me oma tunnetele või ratsionaalsele arutluskäigule, ja on raske öelda, kust algab vaba tahe. Ühelt poolt determineerib loogiline arutluskäik sammud, jätmata võimalust otsustada teisiti, kui näeb ette ratsionaalne järeldus. Sellele vastandub näiliselt tunne, mille järgi talitada. Kuid nii, nagu on ette määratud loogilise arutluskäigu tulemus, on seda ka emotsionaalse otsuse oma. Väärtused, mida kanname, on tihti pärit lapsepõlvest ning lapsepõlve mõju teadvustamata käitume nagu robotid. Nii käitus ka Caleb. Oma reaktsioonides on inimesed ettearvatavad, raske on parandada „vigu“ ja puudusi. Meile meeldivad enamasti samad asjad mis meie vanematele, me valime sama käitumismustri – ja kui leidub neid, kes teevad täpselt vastupidi, on nemadki kinni kangekaelses vastupidi-olemises. Perest, kus ei räägitud probleemidest, tulevad inimesed, kes ei räägi probleemidest. Perest, kus esines vägivalda, tulevad inimesed, kes satuvad vägivaldsesse suhtesse. Kordused ja loop on meie väljendites just nii, nagu Indrek Kofi raamatus „Eestluse elujõust“.⁴ Valikud on ette tehtud. Me elame samuti loop’is – ja isegi pole ehk oluline, kas mälu peegeldab tegelikkust või mitte, sest mälu konstrueerib minevikufakte niikuinii omavoliliselt.⁵ See, mida inimene näeb unikaalsena, on unustatud vana.

„Westworldis“ mõjub vaatajale oma kogemusest tuttavana ka Jumala-metafoori ettemängimine – kes inimestest ei oleks tundud, et on Jumalas (kellena iganes teda ka mõistab) pettunud, et see maailm pole päris see, mis peaks, et asjad ei tundu õiged, et kahtleme omaenda reaalsuses ning arvata võib, et Jumalal ei olnud inimkonda luues just kõige paremaid kavatsusi.

Niimoodi tehisintellektis iseenda eksistentsiaalset ängi ära tundes hakkab televaataja kaasa elama inimeste asemel robotitele – ning finaalis, kui ohvriks muutuvad inimesed, tekib vaatajal tunne, et sari lõppes õnnelikult. Selliseid teoseid pole just palju, kus lõpplahenduses sooritavad robotid massimõrva ja vaatajale jääb tunne, et tegu on õnneliku lõpuga. Oleme harjunud, et masin on inimese käsutuses.

Ka „Westworldi“ samanimeline eelkäija⁶ lõpeb robotite korraldatud tapatalgutega, kuid õnnelikust lõpust ja vabanemisest on asi kaugel. See esteetiliselt kaheldava väärtusega teos, mis mõjub tänapäeval pisut naljakana, kõneleb siiski üht-teist oma aja väärtuste ja hoiakute kohta. Hoiakud pole muutunud mitte vaid kunstilistes võtetes – julges seksuaalsuses ja vägivallas, mil tänapäeva robotid lebavad täies alastuses vaataja ees laual või istuvad toolil, selle asemel et kogu riietuse ja peakattega operatsioonisaalis siivsalt oma aparaate sättida lasta –, vaid ka linateose tootjate suhtumises tehisintellekti, kellelt ehk 40 aastat tagasi ei osatud liiga palju nõudagi. Kuigi set-up on kahes samanimelises linateoses sama – inimesed saavad turistina naudiskleda hüvesid alternatiivmaailmas, kus tegutsevad robotid –, on kahe teose vaatenurk märksa erinev. Varasemas teoses on robotid puhtalt inimese loodud ja tema teenistuses askeldavad masinad, küll inimesekujulised, kuid sellega piirdub ka nende inimlikkus. Nad on sama palju inimesed kui tolmuimeja või pesumasin, vahendid selleks, et inimene saaks tunda ennast hästi. Ühtlasi on vana mängufilm „Westworld“ tagasihoidlik tõstatama filosoofilisi mõtisklusi, pigem näib domineerivat konservatiivne hoiatus masinaid mitte liiga palju usaldada. Tänapäevane sari annab tehisintellektile aga õiguse eksisteerida ka väljaspool inimest, kehtestada iseenda reeglid ja tingimused inimestest sõltumata.

Kui 1970ndatel on inimnäolised filmirobotid selgelt ilma igasuguse individuaalsuseta, siis 1980ndate terminaator on juba selgemalt indiviid. Filmis „Terminaator“⁷ on mõlemad robotid inimese näo ja moega supervõimetega olendid. Suur erinevus tänapäeva „Westworldi“ androididest on see, et terminaatoritel puudub oma maailm, oma väärtussüsteem, oma individuaalne tahe. Nende eetilise olemuse sätestab inimene. Hea robot on hea, kuna kaitseb inimest; paha roboti muudab pahaks see, et ta püüab inimest tappa. Väärtused lähtuvad inimesest, mitte robotist. Roboteid defineeritakse inimeste kaudu. Meil oli kahju teise osa lõpus Arnold Schwarzeneggeri tegelaskuju surma pärast, kuna meie, s.t inimeste maailm jäi vaesemaks – mitte sellepärast, et meil oleks kahju, et üks olend suri ega saanud enam maailma kogeda, et tema elutahe ei jäänud peale, et üks iseseisev elu kustus ega saanud võimalust edasi elada. Vastupidi: roboti elutahe sõltub selles filmis inimese heaolust – tema autonoomne, individuaalne tahe puudub. Roboti eesmärk on olla inimese teenistuses ning teenistuse lõppedes on asjakohane end hävitada.

Näib ka, et eneseteadvuse ja autonoomse siseilmata roboteil on justkui surmast ja hävingustki ükskõik. Ei terminaator ega ka 1973. aasta „Westworldi“ robotid põe eksistentsiaalset kriisi – nad trotsivad surma, kuni programm seda käskis, ning lähevad igavesele väljalülitusele siis, kui eesmärk on saavutatud – või kui nad on hävitatud. Samal ajal näib, et eneseteadvusega autonoomsete robotite ängi põhjustab just surematu-olemine – sisse-välja lülitamise nupp on inimese käes. Kuid inimeste enda olemasolu, elamine tundub olevat vaba valik – enda hävitamine, enesetapp on alati võimalik.

Inimlikkuse uus tasand

Kuna oli juttu vähemuste esiletõusust ja tehisintellekti kui vähemuse sõnaõigusest, siis vaataksin, kuidas on seda teemat käsitlenud teise nurga alt 2011. aastal ilmumist alustanud telesari „Must peegel“. Inimese enda vaim ja olemus on muudetud teiseks, tehisolendiks, ja alles nüüd muutub inimlikkus ise tegelikkuseks – enne sellist muutust käituvad inimesed nagu robotid. „Must peegel“ illustreerib, kuidas tehnoloogia areng on inimese teisest inimesest võõrandanud, muutes inimlikkuse kui nähtuse või omaduse tehnoloogiaküllases maailmas vähemuseks. Mitmes „Musta peegli“ episoodis on inimteadvus justkui kapseldatud alternatiivreaalsusesse, kannatustesse, ja alles seal, alternatiivteadvuses ja piinades, saab inimlikkus nähtavaks.

„Must peegel“ on korduvalt mänginud ka surematuse-traagika mõttega – ori, kellel pole võimalust surra, on mõistetud igavesse kannatusse, lõputusse piina, absoluutsesse kontrollimatusse olukorda, lõksu iseenda teadvusesse, mis näib äärmusliku põrguna. Sellist küsimust käsitletakse näiteks 2014. aasta episoodis pealkirjaga „Valged jõulud“.⁸ Seal kirjeldatakse nõudliku naisterahva Greta (Oona Chaplin) kehavälist kogemust, mis muutub igapäevaseks lõputuks tegelikkuseks, kui kehasse tagasi enam ei saa. Samal ajal jätkab paralleelselt tegutsemist ka algne, s.t inimene-Greta, keda tehisintellekt peab teenindama. Inimest-Gretat ja tehis-Gretat esitleti meile nõnda, et inimkehas liikuv naine jääb emotsionaalselt kättesaamatuks, isegi julmaks, üheplaaniliseks, tema päeva kujundavad mugavused, tehnoloogia kõrge tase ja rikkus. Samal ajal muutub kannatav tehisvaim televaatajatele tuttavaks, temale kuulub vaataja sümpaatia, talle elame kaasa. Ulmemaailma inimestel endil puudub aga kaastunne kannataja suhtes. Inimlikkust on rohkem tehisintellektil kui inimesel endal.

Samas episoodis jäi teises loos igavest eksistentsi karistusena kandma ka meestegelane Joe, kel polnud erinevalt Gretast ka eesmärki kedagi teenindada. Joe sai veeta igaviku, nähes oma tapetud mehe surnukeha ning kuuldes rõõmsat jõululaulu pideva korduse peal. Mis jääb üle sellises olukorras? Kas ülim kannatus annab võimaluse saada ülim kirgastus, jõuda nirvaanasse? Olukorras, kus indiviidile valmistab piina tema enda meele sättumus, on parim võimalus väljapääsuks vabaneda iseendast, oma neuroosidest, süümepiinadest, valehäbist, väärtustest, hinnangutest, sellega seoses ka ihadest – kõigest sellest, mis põhjustab inimlikku kannatust, ning veeta ülejäänud igavik kirgastunult. Sellegipoolest ei tõstata sari seda võimalust ning vaatajaisse jääb peategelase traagika, mis tuleneb vaimu totaalsest teisele allumisest. Ka siin episoodis suudab vaataja empaatiliselt suhestuda paremini alternatiivtegelikkuses viibiva vaimuga kui väljaspool seda, reaalsuses tegutsevate inimestega. Ühtlasi on taas äratuntav inimmaailma julmus.

Selliste episoodidega toob „Must peegel“ välja, kuidas mugav maailm justkui uinutab, muudab tuimaks ja ebainimlikuks. Väljapääs näib olevat alternatiivses olemises, milleski täiesti uues, totaalselt vaimuna olemises, kus tulevad esile inimlik kannatus ja kogu empaatia- ja tundeskaala. Mugavuste ja tehnoloogia üleküllusega maailm uinutab ja võõrandab meid.

Lõpetuseks

Viimastel aastakümnetel toimunud ühiskondlikud muutused on näidanud inimeseks olemist uue nurga alt. See, mida seni on peetud iseenesestmõistetavaks, on muutunud küsitavaks. Üks osa sellest on järkjärguline privileegide kadumine, ning filmikunstis avaldub see selles, et muutub linateose võimalik peategelane, kelle muresid ja probleeme näidatakse. Kõigepealt loovutab peategelase keskse koha valge mees, siis omakorda valge naine, misjärel aga juba ka mustanahaline, sest selgub, et pea­tege­lane ei pea olema isegi mitte inimene. Kui aastakümneid tagasi – näiteks filmis „Terminaator“ – oli peategelane valge noormees, mitte android terminaator, siis tänapäevases sarjas on keskne tegelane just nimelt seesama android, ning inimene koos oma traditsiooniliselt inimlikuks peetavate emotsioonide puudumisega muutub antagonistiks.

1 „Ex Machina“, Alex Garland, 2015; „Black Mirror“, Charlie Brooker, 2011 – ; „Westworld“, 2016 – .

2 http://forte.delfi.ee/news/maa/orangutan-sai-argentina-kohtu-otsusel-endale-inimoigused?id=70419769

3 „Die Hard“, John McTiernan, 1988.

4 Indrek Koff, Eestluse elujõust. Kirjastus Härra Tee ja Proua Kohvi, 2013.

5 https://www.psychologytoday.com/blog/hidden-motives/201203/unreliable-memory

6 „Westworld“, Michael Crichton, 1973.

7 „The Terminator“, James Cameron, 1984.

8 „White Christmas“, „Black Mirror“ S2E4, 2014.