Nutikas veepudel III. Peldik oli õues

Kuni inimesel puudub teadlikkus, tunnetus ja vastutus oma andmete suhtes, on ta vaba tahteta objekt tehnoloogiate arendajate ja rakendajate meelevallas.

TANEL MÄLLO

Eelmistest artiklitest koorus tõdemus,^[1] et asja saab vaadata nii, et elame vana kena ahvina tehnoloogiliselt võimendatud institutsioonide ajastul ega saa toimunust veel üldse aru. Ei indiviidi ega ühiskonnana. Meie ahviaru on hõivanud kümned uued august tõugu urgitsemise tehnikad ning teist sama palju on säherdusi asju, mis hoopis meilt vägisi banaanid käest võtavad (vist). Võimustruktuurid on läinud palju võimsamaks kui ükski senine alfaisane või -emane, nii et enam ei mõista sedagi, kellele, millele või miks me allume. Ega hakkagi mõistma, kui oma vabadused üha enesestmõistetavamalt aina ahtamasse eluks määratud mugavustsooni pakime. Institutsionaalsete vaikeseadete levikut ühiskonnas, nt et õppimine tähendab koolimaja ja hindamist, et toit tähendab plastkarpi ja kiirkullerit, et lähisuhe tähendab seaduslikku kooseluõigust ning et omaenda tervis tähendab meditsiinisüsteemi, illustreerib see, et arengubioloogist presidentki tunnistab end uskuvat, et „me kõik oleme oma esimesed hingetõmbed siin ilmas teinud tänu meditsiinitöötajatele“.^[2] Hea, et meie institutsionaalse toe ootused kalana kuivale maale ronides nii kõrged polnud.

Selle olukorra üheks põhjuseks ja võimendajaks on tehnoloogiate kiirenev areng. Nende silmapaistvam osa on (veel täna) igasugused digitehnoloogiad (iseloomulikud näited on näotuvastus, mobiil(andme)side, ühismeedia eri vormid, automaatsüsteemid/tehisintellekt jne), ehkki üldisemalt käib see väide veel paljude teiste vähem või rohkem nähtavate/arusaadavate (söögitaimede geenimodifikatsioonid versus inimeste vaktsineerimine) või pehmete/kõvade tehnoloogiate kohta (poliitiline kommunikatsioon versus taastuvenergia jätkusuutlik salvestamine ja tarbimine). Üleüldiselt iseloomulik trend tehnoloogiate ja teenuste väljatöötamisel on püüd kujundada igasugused üksikisiku toimingud ja funktsioonid võimalikult lihtsaks, hõõrde- ja vastutusevabaks. Missugusesse reaalsusse meelitab meid selliste valikutega sireenihäälne bürokratt, nägime eelmises artiklis Eesti digiühiskonna arengukava (DÜAK) analüüsi näitel. Ent ükskõik kui segi oma pea ajanud oleme, tulevik siiski ei juhtu ega saabu, vaid seda loome ikka ise oma igapäevaste ja pikaajaliste valikutega. Illustreerisin neid tõdemusi näidetega, kus DÜAKis on valitud kasutada inimese ja kodaniku kui teenusetarbija kuvandit, kellele on ette kirjutatud, missugused tema olulised elusündmused on, mida siis riik saab hästi teenindada, jättes selle kuidas see toimub, inimesele nähtamatuks, eeldusel et „teadmatus on vabadus“ (vt ka „vabadus on orjus“). Seepärast saab praeguse kimbatuse lahendusi otsida vähemalt kahest juurprobleemist lähtuvalt: 1) tehnoloogia on liiga keerukas; 2) inimene on tehnoloogia keerukusega hakkama saamiseks alaarenenud. Kumma lahendamisele oleks mõistlik rohkem tähelepanu pühendada? Üleöö ei lahenda kumbagi. Küll aga saame uurida, mis siis on meie keeruka tehnoloogiaga alaägeda toimetuleku põhjused ja komponendid.

Mugavus- ja segadusseisundid

Nagu artiklisajas eespool mainitud, on nahalähedasim viis laiema nn digitaalse ökoloogia teadvustamiseks teadliku suhte kujundamine oma andmetega ning selle pinnalt andmepõhiste suhete teadvustamine ja kujundamine. Meie andmete käsitlemise viisidele valguse heitmine aitab mõista trende, mehhanisme ja motiive, mis tehnoloogialembeste ühiskondade tänast ja homset määratlevad. Nagu näiteks see, kuidas isikuandmete toel toimub meie käitumise suunamine.

Mis oleks, kui meie suhe oma andmetega mahuks kujundisse, mis kõlab nagu „eesti film on nagu oma sitt – ikka vaatad“?^[3] Kui panna kõrvuti mängima iganädalane rahvavalgustuslik Eesti reoveeuuringu-raport^[4] ja meie Googleʼi asukohaajalugu,^[5] võime saada elulise näite andmetest, millega meil tõepoolest on oma suhe. Aga see on vaid lihtne ühe-kahekihiline näide ja sellisena väga haruldane.

Isikuandmete töötlemine – üldjuhul inimese teadmata – on teenuste ja lahenduste tuumakütus. Ent nendega tunnetatult toimuva pideva alaägeda jama tõttu – või sellest hoolimata – puudub meil ikkagi huvi oma isikuandmete kasutamise vastu. Iga uut teenust aktsepteerides seisame lihtsa unesegase läti skaudina eeskojas ning soovime oma häda enam-vähem mugavalt ära ajada.

Üksikisikuna puudub meil adekvaatne tunnetus ja kontroll digimaailmas meie endi elu kohta käiva üle, milles toetutakse andmete kasutamisele. Ehkki isikuandmete kogumine ja töötlemine on ühiskonnas peaaegu kõike läbiv, ei ole olemasolevad isikuandmeid kasutavad lahendused ega regulatsioonid toetanud üksikisiku oskuse ja huvi kujunemist oma andmete haldamiseks. Need on uued tunnetuslikud kategooriad, mis arenevad ajapikku, ning kuni see toimub, peaksid lahendused hõlmama vähemalt võimalusi seotud riskide maandamiseks. Viimastel aastatel juurutatud regulatsioonid, nt Euroopa isikuandmete kaitse üldmäärus, annavad küll sõnas ja mõttes inimesele suurema kontrolli oma andmete üle, sest see on kooskõlas euroopaliku arusaamaga enesemääratlemisõigusest, ent seni ei ole sellega kaasnenud teadlikkuse suurendamise meetmeid, mis toetaksid üksikisiku võimet oma andmete eest vastutada ja nende üle suuremat kontrolli nõuda. See kehtib nii era- kui ka avaliku sektori kohta. Viimasest saab näitena tuua Eesti andmejälgija.^[6] Selle plusse ja miinuseid ei ole süsteemselt analüüsitud, ent on selge, et kuni andmejälgija vahendab praegusel kujul selgitusteta andmeridasid suuresti vaid juhusliku kitsa valiku andmekogude kohta, ei saa inimesel kujuneda terviklikku ülevaadet oma andmete koguhulgast ja nende kasutamisest. Andmejälgija praegune lahendus annab pigem mitu potentsiaalselt vastupidist tulemust: kodanik võib hakata arvama, et valikuliselt esitatud andmeread peegeldavadki kogu reaalselt toimunud andmetöötlust, või hoopis kahtlustama, et olulisem osa toimunud andmetöötlusest on tema eest kavalalt peitu pandud. Peamiselt peegeldub selles näites digisfääri struktuurne ajalooline ebavõrdsus: samal ajal kui andmete kasutamine oma protsesside ülesehitamiseks ja tõhususe tagamiseks on institutsioonidel juba ammune praktika, on see suhteliselt uus ning suuresti teadvustamata inimese jaoks, kes seetõttu ei oska ega märka diskussioonis osaledagi.

Mingisugust aimu sellest, kuidas inimesed oma andmeid ja kontrolli nende üle tunnetavad ning sellest tingitult toimivad, saab küsimuste põhjal, mida suvalisel ajahetkel veidra maailma kohta endale esitatakse.^[7] Tõsi, sellised küsimused ongi nii keerukad, et kogu napp arusaamine, temaatiline võimekus ja intellektuaalne ressurss kulub keskmisel kodanikul nende konstrueerimise peale ära ning vastustest ei osata unistadagi. Missuguseid andmeid, miks ja kus minu kohta kogutakse, kuidas neid kasutatakse, miks ja kuidas mul on mõistlik seda kontrollida? Missugune on minu toimevõimekus, digitaalne identiteet ja ajalugu ja kuidas see mõjutab seda, millisena teenusepakkujad jt institutsioonid mind näevad ja missuguse näo seetõttu minu poole pööravad? Miks ja kuidas tuvastada ja võib-olla integreerida oma erinevad digitaalsed identiteedid? Meie andmed ja digitaalne identiteet on ressurss, mille kasutamise reguleerimisest sõltub (info)ühiskonna kaugem mittetehnoloogiline areng. Ning soovime seda või mitte, mingil väga suunatud ja ettekirjutatud moel me juba haldame oma andmete kasutamist – iga kord mõnede kasutajatingimustega leppides või näiteks ühismeediaplatvormi seadeid reguleerides (rõõmustades siis saadud kontrolli-illusiooni üle või mitte). Ent paremini iseloomustab tegelikkust kätemeri, mis ei tõuse, kui kas või andmekaitsespetsialistide kogunemisel küsida, kes kohalolijatest on enda kohta mõne andmepäringu teinud. Isegi selle ala töötajad ei tunne iseenda andmete vastu huvi. Sest pole tunnet. Ehkki probleem on. Nii juhtub uudishimuga siis, kui miljon aastat normaalset keskkonda ja arengutrajektoori katkestatakse sooviga inimene tüütutest ülesannetest vabastada.

Autonoomne, mitte kaitsealune inimene

Inimese tunnetus ja võimekus oma andmete kasutamist reguleerida on oskus, mis paraneb ajapikku. Soovimata olla järjekordne spetsialist, kes leiab, et õppekavad peaksid rohkem just tema arvates kõige olulisemale teemale keskenduma, leian, et oma andmetega toimuva eest vastutusvõime kujunemiseks pole riigi poolt kindlasti parim praktika ka andmesubjekti lihtsalt külma vette viskamine. Riik on isikuandmeid kogudes võtnud kohustuse neid ka kaitsta, ent inimeste praeguste oskuste juures tähendab nt oma andmeid kolmandate osapooltega jagada võimaldava nõusolekuteenuse^[8] juurutamine sellega kaasnevaid riske tasakaalustamata vastutusest taganemist, täpsemalt, selle panekut ebapädeva kodaniku õlgadele. See oleks võrreldav eksperimentaalse ravimi kliinilistesse uuringutesse suunamise asemel kõikidele populatsioonigruppidele laiali jagamisega: vaatame, mida see teeb! Mõne aja pärast võib selline lahendus nõuda Instagrami-laadse kübaratrikina vaid nendest kasutajatest rääkimist, kelle enesehinnangut pildihindamiskeskkond veel pole suutnud negatiivselt mõjutada[9].

Rakendades nõusolekuteenuse juurutamisel liberaalset taktikat (luua inimesele võimalus kõiki oma andmeid vabalt jagada olukorras, kus suur osa neist ei oska selle tagajärgi teadvustada ja nende eest vastutada) eeldaks riik, et isikuandmete jagamisel kehtib täiuslik turuloogika, mille kohaselt inimene ei jaga andmeid ebaeetiliste andmekasutajatega. Reaalsuses puudub inimestel täna tunnetuslik võimekus ja informeeritus, et selliseid otsuseid teha. Pole harv juhus, kus näiteks ühismeedias jagatakse enda (või teiste) tervisega seonduvaid andmeid ilma privaatsuse ja andmekaitse pärast oluliselt muretsemata. Need on uued tunnetuslikud kategooriad, mis arenevad ajapikku, ning kuni see toimub, peavad lahendused hõlmama vähemalt võimalusi riskide maandamiseks.

Praegu küll arutletakse tehnoloogiate (nt tehisintellekti) eetika üle: kuidas tagada, et rakendatavate lahendustega suhtutaks inimesesse heatahtlikult ja hoidvalt. Ent selline patroneeriv suhtumine ei paku turvatunnet olukorras, kus näiteks nõusolekuteenuse loob riik lähtuvalt ettevõtete huvidest eesmärgiga ettevõtlust ja innovatsiooni hoogustada[10]. Hapras olukorras ning mõjuvõimsamate tegurite põrgukuumuses kipub praktiline eetika deformeeruma intellektuaalsete argumentide üksteise vastu kaalumiseks kuni argumenteerijale sobiva tulemuse saavutamiseni.^[11] Nii võib sisuliselt eetiline olla mõni asi esimese hooga siiski laialt rakendamata jätta, kuni oleme sellele nii individuaalsel tasandil kui ühiskonnana „järele arenenud“. Selle asemel, et hüpata homsesse uute rakendustega, mille kasutamiseks kodanikul võimed puuduvad, on mõistlik kaaluda samade ressursside pühendamist tänasega kohanemisele. See on naeruväärne soovitus maailmas kus me kõik oleme „juba lootusetult Hiinast maha jäänud“, ent võib pikemas perspektiivis anda meeldivama tulemuse kui „ehitame valmis ja vaatame kas lendab“ lähenemine. Kui joove on nii suur, et tuba pöörleb ka voodis lebades, aitab mõnikord jala põrandale panek. Kuni inimesel puudub teadlikkus, tunnetus ja vastutus oma andmete – oma digitaalse mina – suhtes, on ta vaba tahteta objekt tehnoloogiaarendajate meelevallas analoogselt sellega, kuidas me oma füüsilisest tervisest hoolimata toiduna ükskõik mis pahna sisse sööme, mida krõpsutootja heaks arvab pakki pista ja mõnusa maitseainega üle puistata. Ebameeldivalt realistlikus, ent positiivses tulevikustsenaariumis vastutab enda eetilise kohtlemise eest inimene ise – võrdväärse osapoolena oma andmete kasutamise ja toimevõime eest seistes. Kuniks aga meil isikuna pole kujunenud tähenduslikku sidet oma andmetega, on „eetiline andmekasutus/tehisintellekt“ jms sama silmakirjalikud väljendid nagu „eetiline karusloomakasvatus“.

Eelneva põhjal luban endale teha üldistuse, et suhe oma andmetega on fundamentaalne funktsioon, millele toetub ka hulk teisi vajalikke oskusi, näiteks teadlikkus omaenda ja kogukonna keskkonnamõjust. Mõlema puhul on ülioluline meie tegevuse keskkonnamõju (nii füüsilise kui digitaalse keskkonna) kohta käiva informatsiooni vastuvõtmine, läbitöötamine ja pikaajaliselt jätkusuutlikeks käitumisvalikuteks vormimine. Sest me ei pääse suuremast isiklikust vastutusest ja käitumise muutmisest ka praeguse füüsilise keskkonna olukorraga toimetulekul. Või siis aitab andmepõhine oma keskkonnnajalajälje teadvustamine vähemalt mõtestada ja mõista ning alistuda välistele regulatsioonidele nagu fossiilsete maavarade kasutamise piiramine jne.

Käitumise suunamine: vabadus emotsioonide nupuvõttes

Kaaslaste käitumise tahtlik ja tahtmatu suunamine on igivana ja igasuguste [(digi)tehno]loogiate-eelne. Emane ämblik suunab isase sugu tegema ja lõunalauale, viirus suunab inimese organismi kaitseseisundisse. Mis on tänapäeva tehnoloogiate juures oluline (ja geoloogilises mõõtmes pretsedenditu pärast viimase suure meteoriidi langemist), on nende ulatuse, varjatuse ja ebavõrdsuse määr selles osas, kuidas nende abil inimkäitumist reguleeritakse. Meil puudub teadlikkus, kes, miks, kuidas meie valikuid, eelistusi ja käitumist, mh meie andmete abil, otsesemalt ja kaudsemalt reguleerib. Seda võimaldab või õigemini tingib lihtne asjaolu: inimese ja institutsioonide positsioonide ebavõrdsus. Esimene ja viimane sõna igasuguse tehnoloogia, teenuste ja muu säherduse planeerimisel, projekteerimise ja ehitamisel on reeglina institutsioonidel (s.t mitte üksikisikutel). See tundub meie ülalt-alla maailmas paratamatu: keegi (väike grupp) peab tegema disainivalikud (suure grupi eest) – mingitest eesmärkidest ja põhimõtetest lähtuvalt. Miks standardstsenaarium on „soovisime parimat, aga …“ on juba дело техники.

Kindlasti varieerub sündmuste individuaalselt tunnetatud tähtsus ka subjektiivselt, ent on selliseid, mille ebaeetilisuse suhtes on raske mõistvaks jääda. Viimastel nädalatel on Instagram ja Facebook sunnitud tõtt vaatama juba eelmainitud tõdemusega, et on tõsiselt ja planeeritult teeninud raha oma aktsionäridele, sh iseendile, sellega, et õhutasid näiteks noorte raskemeelsust ja hullude pobinat ega tõmmanud informeeritusest hoolimata pidurit enne, kui vahele olid jäänud. Suusoojaks võib ju küsida, kuidas nüüd sel moel teenitud miljarditega tehtud kahju hüvitada ja tagajärgi siluda. Ent olulisem on mõista toimunu mehaanilis-instrumentaalset põhjust. Suur osa meie digitaalsest tähendusruumist on loodud reklaamimüügi tõhustamise eesmärkidel. Reklaamipõhise ärimudeliga virtuaalkeskkondi iseloomustab tugevate, sageli negatiivsete tunnete võimendumine, keeruka arutelu kiire taandumine ja vastandumise süvenemine (polariseerumine).^[12] Miks see nii on? 2019. aastal Euroopa Komisjoni „Õigusliku disaini“ ümarlauda avades iseloomustas Euroopa andmekaitseinspektor Giovanni Buttarelli veebikeskkondade status quo’d dehumaniseerivana.^[13] Mida ta silmas pidas, on asjaolu, et täna suunavad tehnoloogiad nende valdaja soovitud eesmärgi saavutamiseks samaaegselt väga paljude ahvide tähelepanu ning lühi- ja pikaajalist emotsionaalset seisundit.

See ongi kõige üldisem, mida minu arvates mõjutamise kohta teadma peaks: kui otsene, vahetu ja halastamatu see on. Peaaegu kõigi isikuandmeid kasutavate teenuste puhul lähtub andmete töötlemine teenusepakkuja vajadustest, mille nüansid ning eesmärgid ei ole inimese seisukohalt läbipaistvad, arusaadavad ega võrdsel alusel läbiräägitavad ja reguleeritavad. Sest organisatsioonid on üksikisikuga võrreldes tugevamal positsioonil, et oma põhikirjalisi eesmärke täita. Näiteks kasu teenida. Või teha kodanikkonna järelevalvet ja reguleerida inimeste käitumist, muutes ennetava korrigeerimise üha füüsiliselt sekkuvamaks seal, kus palju inimesi hulgakesi koos käib.

Mõnikord varjavad reaalsust kontrolli-illusiooni loovad disainilahendused. Loomulikult ma saan ise endale sõpru valida või Twitteri jälgimisi ja Youtube’i kanalite teemasid reguleerida. Aga infovoogu kontrollivad platvormialgoritmid, mis soosivad reklaame, prioriseerivad jagamisi, määravad informatsiooni tõelise voolu.^[14] Nii näiteks on Facebooki ajajoonel sõprade ja reklaamitud sisu mahu suhe aastatega kaldunud üha rohkem reklaamiostjate – platvormi tasuliste kasutajate poole. Teenusepakkuja lepingud põhinevad tüüptingimustel ning tarbijal puudub võimalus nende osas läbirääkimiseks. Seda isegi olukorras, kui tingimused ei vasta andmekaitse üldmääruses sätestatule või kahjustavad tarbijat muus mõttes ebamõistlikult. Ilma võimaluseta lepingutingimusi läbi rääkida piirduvad andmesubjekti valikud teenusetingimustega nõustumise või teenuse kasutamisest loobumisega. Peame teadma, et ka selle teise valiku eelistamine ei tee maailma õiglasemaks ega paremaks paigaks.

Kärbes demokraatia pissuaaris

Kõige ohtlikum on praegu see, kui tehnokraatlik maailmakäsitlus saab poliitilise võimaluse juhtida ühiskonda, mille paljud liikmed on juba ajupestud. Selline supp saab tingimata nügimis-, libertaarse paternalismi filosoofilistele printsiipidele tugineva võimutehnoloogia maitseline. Nagu Heiko Leesment kirjeldab, „iseloomustab tänapäeva võimu n-ö normaalsuse maksmapanek, millega soovitakse kujundada meie valikuid normile vastavas suunas“.^[15] Nügimine – (nii digitaalses kui füüsilises) keskkonnas teatud/soovitud käitumist tagavate disainivalikute rakendamine illustreerib tabavalt mõjutamise aluseks olevaid või seda põhjendavaid-õigustavaid väärtusi, mille taga on soov ja vajadus tagada populatsiooni käitumise ennustatavus. Selle juures pole ühtki tervemõistuslikku alust kindlustundeks, et nügimisvalikute arhitektid endale või teistele aru annavad, mil määral need kõigile subjektidele sobivad. Nügimise mõiste väärkasutamine olukordades, kus näiteks valitsusele sobiva normi poole nügitud inimesele tegelikku valikuvabadust ei jäägi, on selle juures vaat et vaid intellektuaalselt lõbus vahejuhtum.

Liikumine sellise „mõjutamisvalitsemise“ (ingl influence government) poole pärineb nügimisteooria ja interneti reklaami-infrastruktuuri abielust, mis loob kodanike käitumise korrastamiseks seninägematud võimalused. On kõlanud hoiatusi,^[16] et olukord, kus riigil on rahva kohta väga detailne demograafiline informatsioon (nagu ka igal teisel ühismeediasse reklaami soetajal) ning võimekus (või vähemalt eesmärk) reaalajas jälgida nügimise soovitud eesmärgi saavutamist, võib nende vahendite kombinatsioon meid demokraatlikust riigikorrast hästi kiirete sammudega kaugemale viia. Sellises maailmas on nügimise rakendamise spektri ühes otsas peenekoelised veebimänguhuviliste noorte hulgas küberkriminaalsuse tendentside jälgimise ja maandamisega töötavad programmid, teises aga „puust ja punaseks“ kampaaniad, kus kus e-Prismast küünlad ja tikud tellinud kodanik saab siseministeeriumilt tuleohutusnõuannetega sms-i.

Tõde on lihtne ja peesitab siinsamas mere kaldal kõrge männipuu oksal päikeselaigus: meie olekut tänapäeva maailmas iseloomustavad mugavus- ja segadusseisundid, mille alalhoidmine on mõistlik iga aruka institutsiooni seisukohalt, olgu see siis majanduslik, poliitiline või mis tahes muus mõttes oma väärtuseid järgiv ettevõte. Kui läti skautide viletsa distsipliini lahendus on nende segadusseisundi eetiliselt normide piires hoidmine, võib suvekodu trepikoja ukse jätkuvalt lukus hoida. Missugustele alusväärtustele see hoone toetub ja milline lipp võimlemisplatsil lehvib, sellest juba järgmisel korral.

Loe Tanel Mällo artikliseeria esimest osa „Nutikas veepudel I“

Loe Tanel Mällo artikliseeria teist osa „Nutikas veepudel II. Bürokrati unenäod (inimkomponendiga)“

^[1] Tanel Mällo, Nutikas veepudel I. – Sirp 8. X 2021.

Tanel Mällo, Nutikas veepudel II. Bürokrati unenäod (inimkomponendiga). – Sirp 22. X 2021.

^[2] President Alar Karise avaldus pärast kohtumist haiglajuhtidega. – kriis.ee 22. X 2021.

^[3] Andrei Liimets, Millest räägib 100-aastase Eesti film? – Vikerkaar juuli, 2019.

^[4] https://www.ut.ee/et/teadus/koroonaviiruse-seire-reovees

^[5] https://www.google.com/maps/timeline

^[6] Andmejälgija https://www.ria.ee/et/riigi-infosusteem/x-tee/andmejalgija.html

^[7] Informeeritud isikud. Küsimused. 

^[8] Nõusolekuteenus https://github.com/e-gov/NT/, aga vt ka Nõusolekuteenuse analüüsi aruanne, Ernst&Young 2021.

[9] Georgia Wells, Jeff Horwitz and Deepa Seetharaman, Facebook Knows Instagram Is Toxic for Teen Girls, Company Documents Show.  – Wall Street Journal 14. IX 2021.

[10] Nõusolekuteenuse analüüsi aruanne, peatükk 2.1 Nõusolekuteenuse eeldused ja ootused

^[11] Margit Sutrop: sain ettepaneku peale vaktsineeritud patsiendid prioritiseerida nii toetuskirju kui sõimu ja ähvardusi. – Eesti Päevaleht 1. X 2021.

^[12] Indrek Ibrus, Marek Tamm, Katrin Tiidenberg, Eesti digikultuuri manifest. Tallinna Ülikooli kirjastus 2020, lk 13.

^[13] Giovanni Buttarelli, Dark patterns in Data Protection: Law, Nudging, Design and the Role of Technology. Speech by Giovanni Buttarelli at Legal Design Roundtable, Brussels, Belgium 27. IV 2019.

^[14] Karen Kornbluh, Ellen P. Goodman, Bringing Truth to the Internet. – Democracy 2019, 53.

^[15] vt nt Heiko Leesment, Kõike ei saa nügida ja kõik ei ole nügimine. – Sirp 10. IX 2021.

^[16] Alex Hern, Study finds growing government use of sensitive data to ‘nudge’ behaviour. – The Guardian 8. IX 2021.