Nutikas veepudel I
Tunneme ängistust, et midagi väga suurt on väga valesti ja et keegi peaks midagi tegema, aga puudub tunnetuslik ja intellektuaalne võime probleemiga tegeleda ja oma käitumist kohandada.
Hans von Risbieter: Ega me laulatusele hiljaks ei jää?
Ivo Schenkenberg: [Raputab pead.]
Hans: Kas preili Agnes on ikka tervise juures?
Ivo: [Noogutab.]
Hans: Kas me oleme ikka õigel teel?
Ivo: [Lükkab tõllaukse lahti.] Te oletegi kohal.
Hans: Aga see? Mis?! Õõh aah. Pea kinni, oota, pea kinni! [Lask.] Aah-õõ-ooh … [Sureb.]1
Kas me oleme ikka õigel teel?
Kodumaine pahalane Ivo Schenkenberg ei olnud labane teeröövel pimedal keskajal, vaid ajastule omane tööriist püha risti teenistuses, mille mõju küündis tippajal tänapäeva rahvusvaheliste organisatsioonide, ettevõtete ja muu sellelaadse omani. Keskajaga võrreldes on meid õnnistatud suurusjärgu võrra enamate võimukate institutsioonidega, kelle käsutuses on eesmärkide saavutamiseks kosmiliselt vägevamad ja kirurgiliselt täpsemad vahendid. Tänapäeva väärtuslikuks reliikviaks on lihtne pidada isikuandmeid ja privaatsust,2 kuid iroonilise analoogiaga jätkates võime pealtnäha jõuka ja õnneliku Hans von Risbieterina privaatsuse mõttes täiusliku kadreeringuga vannistseeni järel kaotada midagi veel kallimat.
Arutlemaks, millisel teel oleme, võiks alustada praegust igapäevareaalsust üldistavalt kirjeldavast kolmest suurest komponendist (joonis): (1) üha ulatuslikumalt võimu koondavad institutsioonid, (2) eksponentsiaalne tehnoloogia koos eksikäsitlusega sellest kui millestki evolutsiooniliselt arenevast ja neutraalsest ning (3) ahvid. Üheskoos loovad need reaalsuse, milles privilegeeritud vähemuse – ise ei pruugitagi seda nõnda tajuda – teadlikud ja teadmata valikud, ihad ja hirmud määravad miljardite teiste elu, heaolu ja saatuse. Mitte alati nii, nagu ise sooviks või hea oleks. Seda reaalsust võiks kujutada nutika veepudelina, mis ütleb, millal ja kui palju vett on vaja juua. Võib olla palju põhjuseid, miks (arvame, et) keha bioloogilised mehhanismid sellest vajadusest märku ei anna. Näiteks kui oled ebainimliku töökoormusega heitlev Amazoni laotöötaja.3 Või kui nutika veepudeli reklaam on väga veenev ja pudel ise kauni, esteetilise väljanägemisega tehnikavidin. Reaalsuse teises otsas olemegi rumala enamusena tehnoloogiast ja institutsioonidest küllastunud maailmas kimbatuses, millele karvadeta ahvil on selle uudsuse tõttu keeruline pihta saada. Pidevalt tuntakse ängistust, et midagi väga suurt on väga valesti ja et keegi peaks midagi tegema, aga meil puudub tunnetuslik ja intellektuaalne võime probleemi käsitlemiseks ja oma käitumise kohandamiseks. Selle kimbatuse komponentidele on ka Sirp palju veerge pühendanud.4 On tähtis, et neid ja nende omavahelisi seoseid hakataks rohkem teadvustama ja märkama, et püüda selle kainenemise pinnalt meeldivamat tasakaalupunkti saavutada.
Deus ex machina
Pole pääsu tõdemusest, et praegu seisnevad hästi paljud ühiskondlikud muutused reaalsuse ja üha vägevamate institutsioonide digitaliseerumises ja andmestumises ning sellest tulenevate uute võimalustega eksperimenteerimises. Elame tehnoloogiliselt võimendatud institutsioonide eksperimentaalajastul, mille kõnekad näited on tehisintellekt ja täiustatud inimene (enhanced human5), aga miks mitte ka Facebooki hiljutise internetist kadumise kaudu kogetud selle teenuste mitmekesisus ja samaaegne haprus.6 Ei saa salata, et selle suure hüppega ei olda veel üldse kohanenud, ei indiviidide ega ühiskonnana.
Kohanematuse pingega kaasnevad häiringud ühiskonnakangas: see läheb kortsu või lausa rebeneb. Ning mitte alati igaühe jaoks ühtemoodi, vaid pigem ikka sedasi, et seal, kus ühel – näiteks valgel tasuva (IT-)tööga noormehel – tundub kõik olevat korras, on teisel – näiteks üsna samasugusel mustanahalisel noormehel linnaosas, kus politsei tehisintellekt7 on viimase 70 aasta andmete põhjal sätestanud kõrgema kuritegevustaseme – olukord juba düstoopiliselt keeruline.
Kuidas on juhtunud, et meie tsivilisatsioonis on loodud nii palju tehnoloogiaid, mis kahjustavad meid, ehkki tuumarelvana momentaalselt aurustamata, väga sügavalt ja mitmel moel? Põhjuseid võib otsida vastutuse jaotumisest, mis ajapikku on üksikisikult üha enam nihkunud elututele institutsioonidele, kelle valitsetavas maailmas treenivad meid juba põlvkondade kaupa istuma, astuma ja suud pidama sõim, lasteaed ja kool.8 Nii saab meist kuulekas, usaldav või lihtsalt manipuleeritav mass, kel nutikas veepudel ega nähtamatute riigiteenuste vastuolulised tooted küsimusi ei tekita. Või kohustus ainukese liiklejana öötunnil jalakäijate rohelist foorituld oodata. Miks see nii läheb? Ons asja taga tõepoolest lihtsalt karjaloomana autoriteedile alistumine?
Praegu olulisemad ja mõjukamad autoriteedid on kahtlemata mitte üksikisikud, vaid institutsioonid, kes, loomulikult neid esindavate inimeste kaudu, kalduvad aga reaalsust käsitlema eelkõige oma formaalsete põhieesmärkide parima saavutamise instrumendina ja inimest mitte enam subjekti, vaid pigem projektina.9 Reaalsuse väänaja suurusest ja mõjuulatusest tingituna on need käsitlused väga veenvad ka eestkostetutele: nende omavahelised või elementaarse loogikaga vastuolud on üksikisiku tunnetuskategooriatele hoomamatud. Näiteks kuidas saaksime ülal pidada sõjatööstust uskumata sõja- ja vaenuratta veeremise kestlikusse?10
Ühiskonnas, kus etteantud mõtlemise ja tunnetuslike raamide hulk ja/või kombinatsioon on tervisliku piiri ületanud, võib juhtuda, et omandatakse niivõrd determineeritud maailmapilt, et võimekust objekti ja taustsüsteemi eristada ei taga isegi doktorikraad. Kuidas teisiti seletada ühiskonnateadlasi, kelle arvates saavad inimesed ühiskonnast irduda, mitte vastupidi, mida raviks aga see, kui kõik vaatavad õhtul „Aktuaalset kaamerat“?11
See hea ja mõistlik käitumise suunamine
Mida suuremad institutsioonid, seda ulatuslikumad on nende tegutsemise ja maailmavaate puudused ja tagajärjed. See ei tähenda, et väiksemate vigade hulk sel tasemel proportsionaalselt kahaneks, kuna süsteem on ulatuslik ja nüansirikas. Süsteemsete vigade eiramist paistab praegu tasandavat institutsioonide ja neid toetava tehnoloogia vastastikune kinnitamine, et inimese käitumise teatav suunamine on mõistlik ja hea, olgu eesmärgiks seatud maksu- või maksekäitumise aktiveerimine. „Mõistlikkuse ja headuse“ kriteeriumi määratlemine kaldub aga arusaadaval põhjusel iga sellise organisatsiooni põhikirjalistest eesmärkidest tingitud instrumentaalsusesse. See on maailm, kus eraõiguslikel institutsioonidel on igasuguse avaliku aruteluta peaaegu piiramatu vabadus oma ärihuvist lähtuvalt ning inimese madalamatele instinktidele mängides luua uusi vajadusi ja (käitumis)norme. See on maailm, kus riik teeb poliitiliselt motiveeritud epidemioloogilisi otsuseid kujuteldava avaliku arvamuse põhjal.12 See on nutika veepudeli maailm, kus ei ole tegelikult teada, mida ja kust juuakse.
Tehnoloogiline paratamatus
Tehnoloogiasõbrad armastavad kirjeldada, justkui oleksime oma olukorda „sattunud“ mingite evolutsiooniliste protsesside tulemusel. Selline „tehnoloogiline paratamatus“13 tingivat, et tehnoloogiad ja teenused lihtsalt arenevad niisugusel trajektooril, millel kõige hea, kasuliku ja lõbusa kõrval on ka inimesi, nende tervist ja heaolu ning ühiskonda kahjustav mõju. Ent pime progressiusk ning alateadlik veendumus, et iga probleemi saab lahendada mõne uue vidinaga14 ei tee olematuks meie tänapäeva dikteerivate tehnoloogiate, disainivalikute ja ärimudelite vahetut mõju. Need kõik on kujunenud üüratuteks institutsionaalseteks teguriteks, mille mõju pole suutnud kahandada senised monopole, andmekaitset ja tehisintellekti reguleerida püüdvad algatused. Vähemalt mitte senikaua, kui nii riigi- kui erasektoris tegutsevad hoogsalt peamiselt need, kel huvi lajatada nii igipõlistele kui ka uudsetele probleemidele parajasti käes oleva haamriga, mille nimi on praegu tehnoloogia. Tehnoloogiliste lahenduste realiseerimise vääramatuse regilaulus kõlab põhirefräänina väide, nagu oskaks maarahvas ilma kiirelt liikuvate ja asju purustavate innovaatoriteta unistada vaid väledamatest hobustest. Nõnda on õigustatud isegi selliste „lahenduste“ rakendamine, mille toimimismehhanisme ei mõista enam päev pärast end ise täiendava masinõppeprogrammi käivitamist isegi selle leiutaja.
Tõhususpõhine mõtlemine
„Musta kastina“ toimivate tehisintellektilahenduste ülim eesmärk on ennustada võimalikult tõhusalt näiteks veebipoe külastaja käitumist. Selles peegeldub üleüldine pandeemselt levinud usk tõhususpõhisesse mõtlemisse, mis iseenesest on inimese argielus kõike muud kui loomupärane.15 Halvimad tagajärjed saavutatakse, kui tõhususpõhisus möllab nendes organisatsioonides, mille eesmärk ei ole ega tohiks olla (ainult) äriline – nagu oma riik (eriti, kui see on väike ja kallis) või suure ühiskonna polariseerimise potentsiaaliga ühismeediaplatvormid. Tehnoloogiate ja ärimudelite leiutajate tõhususejaht kahjustab nii üksikisikuid kui ka ühis- ja keskkonda ning hea, mis sellega sageli samuti kaasneb, ei õigusta kirjeldatud kitsaskohtadega leppimist ega passiivset tunnistajapositsiooni veel sürreaalsemas tulevikus.
Täiustatud inimene
Nagu on viidatud ka „Eesti digikultuuri manifestis“,16 olemegi selles suhteliselt uues „digitaalses olukorras“ tasapisi jõudmas faasi, kus peale paljulubava potentsiaali saavad ilmsiks ka sellega seotud riskid. Rakendatud tehnoloogiad on iseenesest küll vaid neutraalsed vahendid, ent kui teha nende abil täiesti enneolematuid asju või siis panna tavapäraseid asju enneolematult tõhusamalt toimuma, võimendab inimene ka oma pahupoolt – suundumusi, mis ei toeta meie individuaalset ega kogukondlikku heaolu või sisemist ja välist vabadust. Olgu siis asi lihtsalt ülemääraselt kleepuvale ekraanile pühendatud elupäevades, ebausaldusväärse teabe võimendumises ühismeedias või rassismi hälbivates tehistaibuotsustes. Inimene lihtsalt on niisugune tüüp, et meie hulgas – sh nende hulgas, kes kujundavad tehnoloogiaid – on palju neid, keda inspireerivad pahatihti pigem mugavus või kui tahes fantastilised võimalused (näiteks ükssarvikuna uuesti sündida või isikliku raketiga kosmosse põrutada) kui nende fantaasiate realiseerumisega otseselt või lateraalselt kaasuvad riskid ning laiem ühiskondlik mõju.17 Ent sellest nutipudelist juues jäädakse õige kähku kuivale.
Digitaalne ökoloogia
Selliste suboptimaalsete tingimuste kuhjumine maailma digitaalses ja tehnoloogilises sfääris on – kumbagi võimendada või pisendada soovimata – võrreldav meid samal ajal hõlmava füüsilise keskkonna kriisiga, mille komponendid on samuti inimtekkelised. Seepärast on paralleelselt vajadusega toetada ökokriisi ajastul uusi keskkonnahoidlikke hoiakuid ja väärtusi18 jõutud aega, mil läheb järjest raskemaks edasi minna ühiskonnana, kel puudub ühine arusaam ja tunnetus näiteks ühisel märgisüsteemil põhineva digitaalse ökoloogia suhtes. Mida see tänapäeval tähendada võiks?
Kõige üldisemas mõttes on vaja tõsta juba nimetatud uued suured teemad aktiivselt igapäevateadvusse, et endalt ja teistelt küsida, kas me oleme ikka õigel teel. Kui jabur siis ometi saab olla soov aru saada teenustest ja toodetest, mida igapäevaselt tarbitakse ja millel on vahetu mõju meie endi ja meie keskkondade vaimsele ja füüsilisele tervisele? Et need oleksid niipalju tuntud ja läbitunnetatud, et suudaksime üksikisiku ja kogukonnana otsustada, kas soovime neid kasutada vaid vastutustundlikult või siiski ka arutult? Selle asemel usaldatakse pimesi neid, kel juba praegu on võimu „inimese nüridest ja rutiinsetest tegevustest vabastamise“ mantrat korrates pakkuda „nähtamatuid ja ennetavaid“ teenuseid ja disainida (ainu)võimalikke reaalsusi.
Digitaalne autonoomia
Mida selline otsustamisvõime hõlmab? Veidi isiklikumalt võtmist küsimustes, mis on tegelikult juba veidi tüdimuseni tuttavad. Kas ma tean, kuidas telefoni avamiseks rakendatud näotuvastustehnoloogia toimib ja kuidas töödeldakse selleks toiminguks minu unikaalset biomeetrilist informatsiooni? Kus see toimub: kas seadmes või pilves? Missugune info iga toimingu puhul salvestub? Millisel otstarbel seda veel tarvitatakse? Kas mind huvitaks, et telefon hindab näoilmete, hääletooni ja tekstisisestuse põhjal jooksvalt ka mu depressiooni või dementsuse taset?19 Kas on aktsepteeritav, kui eriolukorras vaid veebi kaudu teenindav riik jätab inimese töötutoetusest ilma, kuna näotuvastus leiab, et tema nägu pole sama, mis dokumendil?20 Või on veel halvem see, kui näotuvastus töötab nii täiuslikult, et selle eest pole pääsu näiteks valitsusvastasel demonstratsioonil? Juttu jätkuks kauemakski, sest küsimusi on lapsesuiselt palju, ent praegu on oluliste küsimuste nimekirja terviklikkusest ning „vanemate“ ammendavatest vastustest tähtsam küsimuste tekkimine ise. Tegelemaks kripeldusega, et „midagi suurt on väga valesti“, pole tarvis saada kõiketeadjaks. Alustuseks piisab, kui avastada mõni võib-olla väga isiklik küsimus mingisuguse tänapäeva maailmakorra väga spetsiifilise aspekti kohta, mis aitab kogu pilti näha uues valguses. Põhiteema ei ole enam ekspertide usaldamine, vaid see, et ikka teadvustaksime väärtusi, millele toetudes loome ühise tuleviku.
Sest neutraalne tehnoloogia ei jää neutraalseks, kui seda rakendatakse ühiskonnas, mis on oma olemuselt sügavalt ebavõrdne. Kumba reaalsust eelistame, kui neist üks on nagu praegune – eri institutsioonide korraldusel ülimalt ahtaks määratud –, ent teises oleme tänu mingile ilmsele imele (tegelikult küll tänu teadlikele otsustele ja disainivalikutele) targemad, adekvaatsemad ja seetõttu oma potentsiaalsete institutsionaalsete suurte vendade suhtes võrdsemal ja autonoomsemal positsioonil? Kas elame üle, kui meie suurema isikliku vabaduse hind on see, et mõni uuendus, näiteks sündmuspõhine suguhaiguste tuvastamine koos automaatse arstiaja broneerimise ja tööandjalt karantiinimineku taotlemisega ei toimu nii kähku, kui sooviksid leiutamis-, äri- või võimuhuviga innovaatorid?
Sellist adekvaatsust ei too paanitsevad uudisnupud andmeleketest ega manitsevad küberturvalisuse kampaaniad. Tarvis on üksikisikute ja ühiskonnana süsteemselt mõista, missuguseks on kujunenud ja kuidas areneb edasi meie ühiskonna struktuur ja „operatsioonisüsteem“. Sest nagu viitab saksa digiühiskonna filosoof Richard David Precht: hoolimata pidevast ennustamisest „tulevik ei saabu, vaid seda teeme meie“.21 On väga vaja, et saaksime ja oskaksime tuleviku kujundamises üksikisikutena aktiivselt osaleda. Selleks vajame nimetatud fundamentaalsete teadmiste ja arusaamise pinnale ka uusi praktilisi oskusi, mis aitaksid tehnoloogiliselt võimendatud institutsioonide maailmas mõjuka üksikisikuna otsustusprotsessides osaleda ning oma õiguste ja soovitud maailma eest seista. Millised oskused need võiksid olla?
Suhe oma andmetega, andmepõhised suhted
Tänapäeva digikultuuri vundamendiks on kujunenud praktiliselt iga liigutuse talletamine andmetena suure hulga teada ja teadmata eraõiguslike ja avalike teenusepakkujate kätte. Andmete käitlemine toob kaasa privaatsuse murenemise, aga ka tarbijate eelistuste suunamise teenusepakkuja äritulu või muid (nt poliitilisi eesmärke) maksimeerivate kanalite ja sisu juurde ning tolle sisu üheülbastumise üleilmsete monopolide ärimudeleis.22 (Isiku)andmed on eluvesi või tuumakütus, mis käitab paljusid tänapäeval kriitilise tähtsusega ja meelelahutuslikke süsteeme. Samal ajal on isiklikud andmed ka midagi tõepoolest väga isiklikku ja nahalähedast. Eriti lihtne on seda seost tajuda biomeetria puhul. Nii mõneski käsitluses peetakse isiklikke andmeid samaväärselt võõrandamatuks nagu bioloogilisi organeid. Natukene järgitakse seda loogikat ka praeguses Euroopa andmekaitseõiguses, kus on määratletud isiklike andmete kuulumine inimesele. Ometigi on meie individuaalne arusaam meie kohta leiduvatest andmetest ja nende kasutamisest üldjuhul väga nigel ning piirdub tunnetuslikult olulise rolliga eelmainitud ängis, et midagi väga suurt on väga valesti.
Seetõttu on üksikisikul tänapäeval vaja omandada oskused, et kujundada oma andmetega – oma digitaalse minaga – teadlik ja adekvaatne suhe. See aitab luua psühholoogilise ja digitaalse terviklikkuse ning seeläbi saavutada ja säilitada autonoomsuse. Vaid siis on võimalik luua ja hallata tähendusrikkaid ja võrdseid andmepõhiseid suhteid igasuguste teiste eri tüüpi isikutega. Ei saa muidugi luua illusiooni, et tegemist on kuidagipidi vähem idealistliku plaaniga kui motiveerida inimpopulatsioone oma tervise eest hoolitsema (nt mitte alkoholi tarbima ja suitsetama või hoopis vaktsineerima). Kuidas liikuda sinnapoole punktist, kus meie senine suhe oma andmetega on piirdunud erikujuliste jah-nuppude vajutamisega, et need kõrvaldada ja jõuda ihaldatud teenusteni?
Digitaalne tundekasvatus
Probleem ehk tunnetatud vastuolu võib tekkida vaid inimese teadvuses ja vaid siis, kui meid olemuslikult mõjutaval teemal õnnestub teadvusesse tõusta, et siis iseenda jaoks hinnata, kas tegemist on meie arvates probleemiga või mitte, ütleb Ülo Vooglaid.23 Kui selline tunnetus on informeeritud ja kõrvalmõjudest vaba (versus manipuleeritud ja kallutatult hinnanguline), võib juhtuda, et vastutatakse isiklikus elus ja tarbimisvalikutes mõistlikumalt nii keskkonnahoiu kui ka tehnoloogiate soovimatute mõjude neutraliseerimise eest.
Võib-olla tekib oma isiklikke andmeid ja nende kasutust lähemalt uurides senise ükskõiksuse kõrvale hirm, trots, ebaõiglustunne, vajadus, motivatsioon, mis kihutab meid arutellu üksikisiku – igaühe – positsiooni, võimete ja võimaluste üle tänapäeva ühiskonna kõigi osaliste ja huvigruppide hulgas.
Selleks on oluline sõnastada, põhjendada ja uurida küsimusi, mida peaksime täieõiguslike ühiskonnaliikmetena pidevalt teadvustama ja esitama.24 Selleks on vaja kogeda alternatiivseid tegelikkusi, näiteks tehagi andmepäringuid ja uurida, kuidas meid profileeritakse. Selleks on vaja teadvustada motivatsiooni, mis paneb meid oma õiglase koha nimel niimoodi uuel moel pingutama, isegi kui esialgu on tulemus nõrk. Nõnda ehk suudame hoiduda olemast tehnoloogilise institutsionaalse masinavärgi objekt (õigemini tuhanded killustunud objektid) ning säilitada või taastada oma terviklikkuse ja sellele toetuva inimväärikuse, toimevõimekuse ja vaba tahte ka praegustes vähesoodsates tingimustes.
Kuidas seda teha, sellest edaspidi.
Artiklisarja järgmises osas kirjeldab psühholoogiadoktor Tanel Mällo, milliseid küsimusi tekitab meile (mõneti) kõige (hinge)lähedasem tehiskeskkond – e-Eesti.
1 Transkriptsiooni allikas: http://uisu50.blogspot.com/2017/08/13.html
4 Viimati nt Angela Hollo, Digimugavus või digiautonoomia? – Sirp 7. V 2021; Urmas Hõbepappel, Tehnodüstoopia. – Sirp 3. IX 2021.
5 The Enhanced Human: Risks and Opportunities. – The New York Academy of Sciences 21. V 2018. Livelink: https://livestream.com/newyorkacademyofsciences/enhancedhuman/videos/175292124
6 Tom Bateman, AP, Facebook, Instagram, Whatsapp down: How the social giant disappeared from the internet. – Euronews.next 5. I 2021.
7 AI in Police Work. – Appen 17. V 2021.
David Berreby, Can We Make Our Robots Less Biased Than We Are? – New York Times 22. XI 2020.
8 Signe Mällo, Tanel Mällo, Inimese ja ühiskonna koolikahjustused vajavad leevendamist. – Postimees, 15. VI 2021.
9 Hasso Krull, Imelihtne tulevik. Kaheksa kannaga manifest. – Sirp 11. V 2018.
10 Anon., Veerand Milrem Roboticsist kuulub nüüd sakslastele, suurtehingu summa jääb saladuseks. – Geenius 31. V 2021.
11 Doktorikraad ei taga immuunsust vandenõuteooriate vastu. Intervjuu Andero Uusbergiga. – Müürileht oktoober 2021 (111).
12 Hannes Sarv, Madise: valitsuse otsustes peegeldub kujuteldav avalik arvamus. – ERR 24. VIII 2021.
13 Vt nt Shoshana Zuboff, The Age of Surveillance Capitalism. – Profile Books, lk 15.
14 Mikael Raihhelgauz, Vaimsusvidin – etüüd mediteerimispeavõrust. – Müürileht 15. I 2020.
15 Richard David Precht, Kütid, karjused, kriitikud. Digiühiskonna utoopia. Tallinna Ülikooli Kirjastus, 2019, lk 21.
16 Indrek Ibrus, Marek Tamm, Katrin Tiidenberg, Eesti digikultuuri manifest. Tallinna Ülikooli Kirjastus 2020, lk 10; edaspidi EDM.
17 Nt Riho Paramonov, Novaatorluse vastu ehk Miks ei tundu Elon Musk enam nii sümpaatne? – Sirp 8. V 2020.
18 Juhani Hellermaa, Kasvatusteadlane: ökokriisi ajal on hariduse roll luua uusi väärtusi. – ERR 27. VII 2021.
19 Rolfie Winkler, Apple Is Working on iPhone Features to Help Detect Depression, Cognitive Decline. – Wall Street Journal, 21. IX 2021.
20 Mia Sato, The pandemic is testing the limits of face recognition. – MIT Technology Review 28. IX 2021.
21 Richard David Precht, Kütid, karjused, kriitikud. Digiühiskonna utoopia. Tallinna Ülikooli Kirjastus, 2019, lk 17.
22 EDM, lk 11.
23 Ülo Vooglaid, Elanikust kodanikuks. Ülo Vooglaiu Kirjastus OÜ 2019, lk 10–13. Vooglaid juhib tähelepanu, et „[…] meil on praegu üsna vähe võimalusi süvenemiseks suurte kandvate mõistete – nagu riik ja rahvas, võim, selle kandmine ja vastutus – sisusse ja seostesse. See on lihtne tõde, mis vajab üha meeldetuletamist: vajame teadmisi ja oskust neid ja teisi ühiskonnas ja kultuuris orienteerumiseks vajalikke sõnu kasutada selge ja kindla tähendusega mõistetena. Sel eesmärgil on haridusotstarve ühiskonna kõigil institutsioonidel, sealhulgas ka koolil (haridusvõrgul).“
24 Informeeritud isikud. Küsimused. https://pangks.ee/ii-1/kysimused