Tehisintellekt ja inimõigused

Tegevuste eesmärk on anda õiguspraktikutele tööriistad, mis aitaksid kaitsta inimeste ELi põhiõiguste hartas sätestatud põhiõigusi tehisintellekti kasutuselevõtuga kaasnevate ohtude eest. Keskendume tehisintellekti kujundamise, arendamise ja kasutuselevõtu seosele põhiõigustega, et tõsta arendajate teadlikkust põhiõiguste kaitse olulisusest ning pakkuda õiguspraktikutele lahendusi uute väljakutsetega toimetulekuks.

Tagame, et tehisintellekti arendamine ja kasutamine toimuks kooskõlas inimõiguste ja demokraatlike väärtustega, tugevdades samas ühiskonna sidusust ja usaldust uute tehnoloogiate vastu. Rohkem infot leiab projekti veebilehelt.

Juhtumiuuringud

Kohtuasja peamised asjaolud

2020. aastal esitas Illinois’ Ameerika kodanikuvabaduste liit (ACLU ehk American Civil Liberties Union) hagi USA-s asuva ettevõtte Clearview AI vastu, mis haldab näotuvastustehnoloogial toimivat veebipõhist luureplatvormi. Platvormil on kümneid miljardeid näokujutusi, mis on kogutud avalikust internetist, sealhulgas uudistemeediast, sotsiaalmeediast ja võrgustike veebisaitidelt. Clearview AI pakub platvormile juurdepääsu üksikisikutele, eraettevõtetele ja korrakaitseametile kohalikul, osariigi ja föderaalsel tasandil. ACLU väitis, et Clearview AI rikkus Illinois’ biomeetrilise teabe privaatsuse seadust (Biometric Information Privacy Act ehk BIPA), mis nõuab ettevõtetelt, mis koguvad, jäädvustavad või hangivad Illinois’ elanike biomeetrilisi tunnuseid – näiteks sõrmejälgi, näojälgi või iirise skaneeringuid – sellest isikutele esmalt teada andmist ja neilt kirjalikku nõusoleku saamist.

Kohtuasi lahendati 2022. aastal kokkuleppega, mis keelab Clearview’l oma näojälgede andmebaasi müümast mitte ainult Illinois’ vaid kogu USA-s, keelab ettevõttel oma andmebaasi alaliselt kättesaadavaks teha enamikule ettevõtetele või muudele eraõiguslikele üksustele kogu riigis ning keelab müümast juurdepääsu andmebaasile mis tahes Illinois’ üksusele, sealhulgas osariigi ja kohalikule politseile viieks aastaks. See juhtum loob Ameerika Ühendriikides olulise pretsedendi biomeetriliste andmete kasutamise kohta tehnoloogiagigantide ehk big techi poolt ja tugevdab selliseid osariigi privaatsusseadusi nagu BIPA. Mitmed EL-i liikmesriikide andmekaitseasutused on määranud Clearview AI-le trahvi IKÜM-i rikkumise eest.

Kohaldatavad seadused

Illinois’ biomeetrilise teabe privaatsuse seadus (BIPA) võeti vastu 2008. aastal. Eelnõu algatajaks oli Illinois’ ACLU. ACLU on mittetulunduslik kodanikuõiguste organisatsioon, mis on pühendunud põhiseaduslike vabaduste ja eraelu puutumatuse kaitsele ning neil on harusid kõigis 50 osariigis.

BIPA tagab, et üksikisikutel oleks kontroll oma biomeetriliste andmete üle – selle hulka kuuluvad näiteks võrkkesta või iirise skaneeringud, sõrmejäljed, häälejäljed, käte skaneeringud, näogeomeetria, DNA ja muu unikaalne bioloogiline teave. See keelab eraettevõtetel neid koguda, välja arvatud siis, kui nad:

  • teavitavad inimest kirjalikult, milliseid andmeid kogutakse või säilitatakse;
  • teavitavad inimest kirjalikult konkreetsest eesmärgist miks andmeid kogutakse, säilitatakse ja kasutatakse, ja kui kaua;
  • saavad inimeselt kirjaliku nõusoleku.

BIPA kehtestab biomeetrilise teabe käitlemise standardid ja keelab eraettevõtetel tarbijate biomeetrilist teavet müüa või muul viisil sellest kasu saada. Samuti muudab see eraettevõtete jaoks ebaseaduslikuks näotuvastustehnoloogia kasutamise inimeste tuvastamiseks ja jälgimiseks ilma nende nõusolekuta.

EL-i kontekstis kuuluvad biomeetrilised andmed vastavalt IKÜM-i artiklile 9 isikuandmete erikategooria alla. Nende kogumiseks on vaja selgesõnalist nõusolekut või väga kitsast õiguslikku erandit ning mitmed riiklikud andmekaitseasutused, sealhulgas Prantsusmaal, Kreekas, Itaalias ja Madalmaades on tuvastanud, et Clearview AI rikub IKÜM-i, ja määranud trahvid. Madalmaade andmekaitseasutus on väljastanud Madalmaade kodanike andmete töötlemise keelu ja keelanud riigisiseselt Clearview teenuste kasutamise.

EL-i tehisintellektimäärus keelab näokujutiste kindla suunitluseta kogumise internetist või videovalve salvestistest andmebaaside loomiseks või laiendamiseks. Clearview AI hallatav andmebaas kuulub sellesse kategooriasse ja selle kasutamine EL-is ei ole kooskõlas kehtivate õigusaktidega. EL-i tehisintellektimäärus piirab ka reaalajas toimuva biomeetrilise kaugtuvastamise kasutamist õiguskaitse jaoks. Need sätted üritavad tugevdada hartaga tagatud põhiõiguste kaitset.

Kaasatud tehisintellekti liik

Clearview AI näotuvastuse andmebaas töötati välja ekstraheerimistehnoloogia abil. Ekstraheerimine on automatiseeritud teabe tõmbamine veebilehtedelt ja sotsiaalmeediast, kasutades programme, mida kutsutakse veebiämblikeks või veebirobotiteks. Veebiämblikud koguvad, analüüsivad ja struktureerivad fotosid, videoid ja nendega seotud metaandmeid (nt linke ja asukohale ja tegevustele viitavaid andmeid).

Clearview AI kogub näokujutisi paljudelt avalikult kättesaadavatelt veebilehtedelt (nt uudistest, sotsiaalmeediast, videotest). Pärast inimeste näokujutiste internetist ektraheerimist muudab algoritm kõik näokujutised näojälgedeks (inimeste füüsiliste omaduste digitaalseks kujutiseks – biomeetriliseks malliks). Andmebaas toimib nagu otsingumootor: kasutaja laadib üles foto, mis seejärel sobitatakse kõigi sarnaste näojälgedega fotodega. Otsing toob kasutaja linkidele, mis viivad internetis avalikult kättesaadavatele piltidele, mis sisaldavad sageli täiendavat teavet tuvastatud isiku kohta. Inimesed, kelle pilte kogutakse ja andmebaasis esitatakse, ei ole teadlikud sellest, kuidas nende andmeid kasutatakse.

Rikutud õigused

BIPA tagab õiguse biomeetrilise teabe kaitsele. EL-i põhiõiguste harta artikkel 7 tagab õiguse eraelu austamisele, artikkel 8 aga puudutab isikuandmete kaitset – mis on mõlemad ohus, kui näokujutusi kogutakse ja töödeldakse ilma nõusolekuta. Clearview AI andmebaas toetub biomeetrilistele andmetele ning selle tehniline kasutamine võimaldab ametiasutustel või erasektoril teha järeldusi selliste tundlike isiklike omaduste kohta nagu tervis, rahvus, usulised tõekspidamised ja sotsiaalne käitumine, seades seega ohtu üksikisiku privaatsuse. Andmebaasi kasutamine võib rikkuda ka artiklit 1 (inimväärikus), vähendades üksikisikud masinloetavateks näojälgeks ja esemeistades neid viisil, mis õõnestab nende iseseisvust. Võimalik ahelreaktsioon on sõna- ja ühinemisvabaduse rikkumine (artiklid 10,11 ja 12) ning õiguse õiglasele kohtulikule arutamisele ja süütuse eelarvamuse õõnestamine (artiklid 47 ja 48), kui vigased või kallutatud näovasted mõjutavad uurimist või kohtumenetlust.

Kohtuasja tulemus

ACLU vs. Clearview AI tulemus tähistab olulist võitu biomeetrilistele privaatsusõigustele Illinois’s osariigi biomeetrilise teabe privaatsuse seaduse alusel (Biometric Information Privacy Act), kuna Clearview AI nõustus kokkuleppega, mis keelab tal müüa või pakkuda juurdepääsu oma näotuvastuse andmebaasile eraõigusliku sektori jaoks kõikjal USA-s, ning kehtestab täieliku juurdepääsukeelu osariigi valitsusele ja kohalikule omavalitsusele ning erasektorile Illinois’i piires viieks aastaks. Ettevõte peab Illinois’ elanikele säilitama ka loobumismehhanismi, filtreerima välja Illinois’st pärinevad fotod viieks aastaks ning lõpetama tasuta proovikontode pakkumise üksikutele politseinikele ilma tööandja teadmata. Need piirangud tugevdavad BIPA põhiprintsiipe: teadliku nõusoleku nõudmine, andmete kasutamise piiramine, üksikisikutele seadusliku viisi tagamine loata biomeetrilise järelevalve vaidlustamiseks.

Rahvusvaheliselt on Clearview AI pidanud tunnistama sama rangeid tulemusi vastavalt EL-i isikuandmete üldkaitse määrusele (IKÜM) ja EL-i põhiõiguste hartale. Prantsusmaa, Itaalia, Madalmaade ja teiste liikmesriikide ametiasutused leidsid, et Clearview on rikkunud IKÜM-i (artikli 5 lõike 1 punkte a , b, e) ja artiklit 6, artikli 9 punkti 1 ning artikleid 12–15), samuti hartat (artiklid 7 ja 8). Reguleerivad asutused määrasid mitme miljoni euro eest trahve, nõudsid ebaseaduslikult töödeldud andmete kustutamist ning nõudsid, et Clearview peataks andmete kogumise EL-is täielikult. Need otsused kordavad Illinois’ tulemust, kinnitades ühiselt, et massiline biomeetriline järelevalve ilma nõusoleku või õigusliku aluseta rikub põhiõigusi ning sellel on kasvavad õiguslikud tagajärjed.

Kohtuasja peamised asjaolud

Ajavahemikus märts 2023 ja mai 2024 kasutas 26-aastane Essexi baaritöötaja Brandon Tyler tehisintellekti, et luua seksuaalselt eksplitsiitseid süvavõltsitud pilte ja videoid vähemalt 20 naisest, keda ta isiklikult tundis, sealhulgas 16-aastasest tüdrukust. Kasutades sotsiaalmeediast hangitud pilte, genereeris Tyler 173 manipuleeritud postitust ja jagas neid veebifoorumites, mis propageerisid „vägistamiskultuuri“. Osale sisust oli lisatud ohvrite nimed, sotsiaalmeedia kasutajanimed ja telefoninumbrid. Tyler tuvastati lõpuks pärast kogemata enda Instagrami kasutajanime kaasamist kuvatõmmisesse ning ta arreteeriti.

Kohaldatavad seadused

Kohtuasja uuriti Ühendkuningriigi kriminaalõiguse alusel, hõlmates 18 süüdistust vägivallata ahistamises ja 15 süüdistust intiimfotode või videote jagamise eest seksuaalse rahulduse eesmärgil, mis muudeti 2023. aasta aprillis kuriteoks veebiohutuse seaduse muudatusega.

Kaasatud tehisintellekti liik

Tyler kasutas süvavõltsinguks genereerivat tehisintellekti, et manipuleerida olemasolevaid fotosid ja videoid naistest ja tüdrukutest, mida hankis Instagramist ja teistelt platvormidelt. Konkreetset tehisintellektitööriista ei ole saadaolevates allikates täpsustatud.

Rikutud õigused

  • Artikkel 1 – inimväärikus: Tyleri tegevus rikkus ohvrite inimväärikust, alandades ja dehumaniseerides neid nõusolekuta seksualiseeritud kujutluspiltide kaudu.
  • Artikkel 7 – era- ja perekonnaelu austamine: isiklike piltide manipuleerimine ja avaldamine ning nende nimede ja kontaktandmete levitamine nende nõusolekuta rikkus ohvrite õigust eraelu puutumatusele.
  • Artikkel 8 – isikuandmete kaitse: ohvrite isiklikke pilte ja identifitseerivat teavet töödeldi ja levitati nende teadmata või nõusolekuta.
  • Artikkel 21 – diskrimineerimiskeeld: sihitud kuritarvitamine mõjutas naisi, kajastades soopõhist diskrimineerimist.
  • Artikkel 24 – lapse õigused: üks manipuleeritud piltidest oli 16-aastasest tüdrukust, rikkudes tema kui alaealise õigust erilisele kaitsele ja hoolele.

Kohtuasja tulemus

2025. aasta 4. aprillil mõistis Chelmsford Crown Court Brandon Tyleri viieks aastaks vangi. Kohtunik kirjeldas tema käitumist kui „kõige hullemat liiki toksilist maskuliinsust“. Kohus tunnistas Tyleri tegude tõsist mõju ohvrite psühholoogilisele heaolule ja nende õigusele elada kartmata ahistamist ja ärakasutamist. Kohtuasi on üks esimesi suuremaid uurimisi uute süvavõltsitud pornograafia levitamist kriminaliseerivate sätete alusel Ühendkuningriigis.

Kohtuasja peamised asjaolud

2013. aastal võttis Hollandi maksuamet kasutusele pettuse tuvastamise vahendi, mida tunti „riskiliigitusmudelina“ – iseõppivate omadustega algoritmi, mis genereeris riskiprofiile lapsehoiuteenuse toetuse taotlejate kohta. Süsteemi poolt ära märgitud vanemate ja hooldajate hüvitised tihtipeale peatati ja neid uuriti ilma, et neile oleks öeldud miks, samas kui palveid täpsustuste järele regulaarselt eirati. Enamat kui 25 000 vanemat süüdistati ekslikult pettuses ning sunniti läbima hüvitiste tagastamise protsessi.

Skandaali keskseks elemendiks oli algoritmi tuginemine rahvusele. Süsteem otsesõnu kasutas „Hollandi kodakondsus: jah/ei“ parameetrina oma riskiarvutustes, mis tähendas, et topeltkodakondsusega või Hollandi kodakondsuseta taotlejad said automaatselt kõrgemad riskiskoorid. See praktika oli ebaproportsionaalselt suunatud sisserändajatest peredele, koheldes kodakondsust pettuseriski seosena ja kinnistades diskrimineerivad eeldused ametlikesse otsustesse. Selle tulemusena märgistati vähemustest pered märksa tõenäolisemalt, neid uuriti ja karistati, isegi väiksemate või tahtmatute vigade eest. Selline diskrimineeriv ülesehitus koos süsteemi musta kasti läbipaistmatusega õõnestas läbipaistvust, vastutust ja õigust tõhusale õiguskaitsevahendile. Kuigi valitsus on pärast seda pakkunud kompensatsiooni, tagasimaksed on standardiseeritud, ei käsitleta otseselt diskrimineerimist ja paljud ohvrid on jäetud piisava õiguskaitseta.

Kohaldatavad seadused

Hollandi seaduste kohaselt kujutas lastehoiuteenuse toetuse skandaal endast õigusriigi põhimõtete rikkumist, nagu tuvastas Hollandi parlamendi uurimiskomisjon. Lapsehoiuteenuse toetuse õigusakte koostati ja kohaldati liiga jäigalt, ilma proportsionaalsuseta, raskustest tulenevate tingimuste või üksikute asjaolude arvessevõtmiseta, mistõttu märgiti lapsevanemad ekslikult petturiteks. Maksu- ja tolliamet rakendas süsteemi massiprotsessina, et näidata algoritmipõhiste otsuste tegemise tõhusust, kohus kinnitas seda paindumatust, jättes tegutsemata individuaalsete õiguste kaitsjana. Vastusena nendele süsteemsetele läbikukkumistele on Madalmaad algoritmide kasutamisele kehtestanud kohustuslikud inimõiguste mõjuhinnangud (FRAIA – põhiõigused ja algoritmiline mõjuhinnang). Edaspidi kehtestaks ka EL-i tehisintellektimäärus kohustusi, mis nõuavad sellistelt suure riskiga süsteemidelt nagu nendelt, mida kasutatakse sotsiaaltoetuste saamise kõlbulikkuse hindamiseks põhiõiguste mõjuhinnangute (FRIA-de) läbimist, läbipaistvuse tagamist (avalikult kättesaadavas andmebaasis registreerimise kaudu), järelevalve ja õiguskaitse mehhanismide kaasamist, nende hulgas õigust selgitustele süsteemi tulemuste põhjal tehtud otsustele.

Kaasatud tehisintellekti liik

Kasutatud tehisintellektitehnoloogia oli iseõppival algoritmilisel otsustussüsteemil põhinev riskiliigitusmudel. Algoritm lõi lastehoiuteenuse toetuse taotlejate riskiprofiilid, kes suurema tõenäosusega võisid esitada petlikke või ebatäpseid taotlusi. Mudel õppis aja jooksul iseseisvalt ja autonoomselt uutest juhtumitest, kohandades oma otsustuskriteeriume viisil, mis ulatus kaugemale maksuameti arendajate otsesest programmeerimisest. Iseõppiv mudel oli ka tehniline musta kasti süsteem – süsteemi kasutavatel ametnikel puudus juurdepääs sellele, milliseid sisendeid ja arvutusi kasutati taotlejale konkreetse riskiskoori määramisel.

Rikutud õigused

Põhiõiguste harta:

  • Artikkel 8 – Isikuandmete kaitse: süsteem tugines isikuandmete töötlemisele ja seega mõjutas õigust andmekaitsele.
  • Artikkel 20 – Võrdsus seaduse ees: süsteemi põimitud kallutatuse tõttu ei hinnatud topeltkodakondsuse või Hollandi kodakondsuseta isikuid soodustusi andva seaduse ees järjepidavalt ja võrdselt.
  • Artikkel 21 – Diskrimineerimiskeeld: lisades riskihindamise mudelisse ühe tegurina kodakondsuse, nii et mitte-Hollandi kodanikud või topeltkodakondsusega kodanikud said automaatselt suurema pettuse riskiskoori, koheldi taotlejaid ebavõrdselt, diskrimineerivalt. Kuna see tava oli ebaproportsionaalselt suunatud rahvusvähemustest peredele, kujutas see endast ka rassilist profileerimist ja diskrimineerimist rassi ja rahvuse alusel.’
  • Artikkel 24(2) – Lapse õigused: toetuste määramise või petturite tuvastamise otsuste tegemine võib negatiivselt mõjutada õigust lastehoiule (rahaliste raskuste ja perede lahkuviimise kaudu), mis tuleneb algoritmi kallutatusest/rikkest.
  • Artikkel 33 (1) – Perekonna- ja tööelu: väärad süüdistused pettusest ja tagasimaksete karistav protsess mõjutas negatiivselt perekonna õigust „kogeda seaduslikku, majanduslikku ja sotsiaalset kaitset“.
  • Artikkel 34 – Sotsiaalkindlustus ja sotsiaalabi: paljud algoritmiga märgistatud inimesed pidid kogema ebaõiglast ja karistavat toetuste tagastamise protsessi. Need toetuste kärped kahjustasid ebaproportsionaalselt madala sissetulekuga inimesi, kelle hulgas on suur rahvusvähemuste osakaal.
  • Artikkel 41 – Õigus heale haldusele: osas, mis on seotud õigusega juurdepääsule teabele ja selgitustele selle kohta, kuidas riskiskoorid algoritmide poolt määrati, samuti õiguse osas saada kergendust tekitatud kahjust. Läbipaistvuse puudumine ja algoritmilise otsustussüsteemi musta kasti olemus tekitasid olukorra, kus isikud ei teadnud, kuidas nende õigusi mõjutavaid otsuseid tehti. Ilma teabele juurdepääsuta ei saa üksikisikud nõuda oma õigust tõhusale õiguskaitsevahendile.
  • Artikkel 42 – Õigus tutvuda dokumentidega: mis puudutab näiteks õigust saada kogu teavet tehisintellektisüsteemi/algoritmi riigihangete kohta, maksuameti otsused pidada kinni või piirata teavet lapsehoiuteenuse toetuste riski liigitusmudeli kohta – mis on õigustatud pettuse ärahoidmise ja sisemiste otsuste kaitsmise nimel – otseselt takistasid avalike ja järelevalveasutuste võimet kontrollida süsteemi diskrimineerivat mõju. Lisaks keeldus maksuamet sageli vanemate ja hooldajate taotlustest toimikutega tutvuda.
  • Artikkel 47 – Õigus tõhusale õiguskaitsevahendile ja õiglasele kohtulikule arutamisele: vanematel puudus läbipaistev, õigeaegne ja juurdepääsetav viis algoritmilise riskiliigitusmudeli tulemuste vaidlustamiseks. Süsteemi läbipaistmatus raskendas puudutatud isikutel otsuste tegemise viisi mõistmist või vaidlustamist, samuti ei vastatud nende teabenõuetele ning kaebused lükati olulisel määral edasi. Praegused kompensatsioonimeetmed ei kata ka algoritmiga seotud diskrimineerimist, jättes teatud kahjud käsitlemata.

Kohtuasja tulemus

Lastehoiuteenuse toetuste skandaali tulemusena tehti suuri poliitilisi muudatusi, kuid samas tehti väga vähe mõjutatud perede poolt kogetud ebaõigluse parandamiseks. 2021. aasta jaanuaris astus tagasi peaminister Mark Rutte ja kogu tema kabinet, tunnistades poliitilist vastutust ebaõigluse ees. Parlamentaarsel uurimisel jõuti järeldusele, et vanemad olid olnud „enneolematu ebaõigluse“ ohvrid ning valitsus kehtestas kannatanutele heastavad meetmed. Nagu eespool mainitud, ei kuulu heastavate meetmete hulka siiski õiguskaitse spetsiaalselt riskiliigitusmudeliga seotud diskrimineerimise eest. Lisaks on oluline märkida, et mõned kahjud ulatuvad kaugemale rahalisest heastamisest – näiteks kahju vaimsele tervisele ja isiklikele suhetele.

Kohtuasja peamised asjaolud

Alates 2015. aastast on Hollandi välisministeerium kasutanud algoritmilist profileerimissüsteemi (Informatie Ondersteund Beslissen ehk IOB), et kalkuleerida Madalmaade viisa taotlejate riskiskoori. Selle eesmärk oli hinnata viibimisaja ületamise, pettuse või turvariske. Aja jooksul muutus IOB Hollandi viisarežiimi otsuste tegemisel keskseks elemendiks. Süsteem toodi päevavalgele ajakirjanduslike uurimiste käigus, millest selgus, et see kasutab „riskiprofiilide“ genereerimiseks selliseid muutujaid nagu rahvus, sugu ja vanus. Taotlejad, keda tähistati „suure riskiga“ paigutati intensiivsele rajale – nad kogesid pikki viivitusi ja oluliselt kõrgemaid keeldumismäärasid.

Kuigi rass või rahvus ei olnud otseselt algoritmi sisse kodeeritud, tekitas võtmetegurina rahvusele tuginemine kaudset rahvusepõhist diskrimineerimist. Taotlejad muuhulgas Marokost, Surinamest ja Nepalist olid ebaproportsionaalselt huvi all, piirates nende võimet külastada pereliikmeid või teha lühikesi reise. Sisemised hoiatused ministeeriumi andmekaitseametnikult kirjeldasid tava õigusvastase ja drimineerivana, ometi jäi süsteem vaatamata poliitilisele ja avalikule kriitikale toimima. Lisaks tähendas süsteemi ümbritsev läbipaistmatus, et paljud mõjutatud isikud ei olnud teadlikud sellest, et nende taotlused olid automatiseeritud profileerimise tõttu kõrgendatud huvi all.

Kohaldatavad seadused

Hollandi seaduses sätestab põhiseaduse artikkel 1 mittediskrimineerimise põhimõtte, haldusõiguse üldseadus (General Administrative Law Act ehk Awb) nõuab haldusotsuste läbipaistvust, proportsionaalsust ja nõuetekohast põhjendamist. Viisaotsuseid reguleerib põhjalikumalt välismaalaste seadus (Vreemdelingenwet), mis kohustab riiki tagama seaduslikud ja kontrollitavad tulemused. EL-i seadustes sisaldavad Euroopa põhiõiguste harta (the European Charter of Fundamental Rights) ja isikuandmete kaitse üldmäärus (GDPR, eesti keeles IKÜM) selles olukorras kohaldatavaid sätteid, eriti IKÜM-i artikkel 5 (põhimõtted). Hollandi valitsus nimetas oma õiguslikuks aluseks IKÜM-i artikli 6 lõike 1 punkti e (avalikes huvides täidetava ülesande täitmine), kuigi eksperdid väidavad, et see ei õigusta kodakondsuse alusel kallutatud profiile ja potentsiaalselt rikub proportsionaalsuse nõudeid.

Kaasatud tehisintellekti liik

IOB süsteem on reeglipõhine profileerimisalgoritm, mis ei tugine masinõppele. See kasutab varasemaid viisaandmeid ja sisemisi ministeeriumi suuniseid, et genereerida taotlejate liigitus „madala“ või „kõrge riskiga“ isikuteks. Selle tegevus ammutab sellistest isikutunnustest nagu kodakondsus ja sugu, samuti muudest rändeahela osadest pärit andmetest. Algoritm toimib automatiseeritud otsuste toetamise tööriistana, tootes soovitusi, mis mõjutavad märkimisväärselt viisatulemusi.

Rikutud õigused

Euroopa põhiõiguste harta [KI1]:

  • Artikkel 1 – Inimväärikus: IOB profileerimisprotsessi stigmatiseeriv mõju võib kahjustada taotlejate väärikust, pannes nad nende tausta tõttu kogema ebaproportsionaalset kontrolli.
  • Artikkel 7 – Era- ja perekonnaelu austamine: IOB kasutamise tulemuseks on olnud perekondade pikendatud lahusolek ja liikuvuse piiramine, mis tõenäoliselt segas taotlejate õigust säilitada privaatseid ja perekondlikke suhteid.
  • Artikkel 8 – Isikuandmete kaitse: taotlejate isikuandmeid, sealhulgas rahvust ja sugu puudutavaid andmeid, töödeldi viisil, mis vastavalt ministeeriumi enda DPO-le, ei olnud õiglane ega läbipaistev, rikkudes seega õigust andmekaitsele
  • Artikkel 20 – Võrdsus seaduse ees: määrates teatud rahvusest taotlejatele kõrgemad riskiskoorid, võib IOB tekitada seaduse ees ebajärjekindlat ja ebavõrdset kohtlemist.
  • Artikkel 21 – Diskrimineerimiskeeld: kodakondsusele kui riskitegurile tuginemine võib viia kaudse etnilise diskrimineerimiseni, rikkudes mittediskrimineerimise põhimõtet rassi või rahvusliku päritolu alusel.
  • Artikkel 23 – Naiste ja meeste võrdõiguslikkus: selgesõnaliselt nõuab, et võrdõiguslikkus tuleb tagada kõikides valdkondades, kaasa arvatud tööhõive, töö ja palga osas, kuid laiemalt toetab põhimõtet, et profileerimine ei või sugusid omavoliliselt erinevalt kohelda.
  • Artikkel 24 – Lapse õigused: kui taotlejate lapsed on kaudselt mõjutatud (perekondade lahusolek, võimetus vanemaid/sugulasi külastada), võib see artikkel kehtida.
  • Artikkel 41 – Õigus heale haldusele: süsteemi läbipaistmatus ja piiratud inimjärelevalve võivad jätta taotlejad ilma õiglasestest, erapooletutest ja põhjendatud haldusotsustest.
  • Artikkel 47 – Õigus tõhusale õiguskaitsevahendile ja õiglasele kohtulikule arutamisele: kuna IOB otsused mõjutavad tugevalt viisatulemusi ilma piisavate kaitsemeetmete ja läbipaistvuseta, võidakse taotlejad ilma jätta tõhusatest viisidest negatiivseid otsuseid vaidlustada või parandada.

Kohtuasja tulemus

Vaatamata korduvatele sisemistele hoiatustele ja avalikule kriitikale, on IOB süsteem endiselt aktiivne. NRC ja Lighthouse Reportsi uurimised paljastasid, kuidas selle tuginemine rahvusele, soole ja vanusele andis diskrimineerivaid tulemusi, sama leidis ka Amnesty International Nederland. Meedia raportid tõid esile ebaproportsionaalsed tagasilükkamismäärad taotlejate puhul, keda märgiti „kõrgeks riskiks“ ning järgnev poliitiline arutelu kirjeldas seda sõnadega „lihtsalt šokeeriv“. Kuid süsteemi lammutamise asemel tellis välisministeerium välised hinnangud, sealhulgas vaidlustatud kallutatuse hinnangu SigmaRed Technologies poolt, mis pisendas probleeme, hoolimata varasematest tõenditest struktuurse rassismi kohta otsuste tegemisel. 2025. aasta augustis tegi Haagi ringkonnakohus ühe marokolanna esitatud asjas vaheotsuse, otsustades, et ministeeriumi suutmatus avaldada IOB kasutamist tema viisataotluse tagasilükkamisel õõnestas tema õigust tõhusale õiguskaitsevahendile ja nõudis ministeeriumilt põhiõiguste mõjuhinnangu läbiviimist.

Kohtuasja peamised asjaolud

2024. aasta jaanuaris algatas Iiri saatejuht Dave Fanning laimamismenetluse Dublini ülemkohtus, kuna tema foto ilmus 11. oktoobril 2023. aastal BNN Breakingu avaldatud veebiartiklis pealkirja all „Nimekat Iiri saatejuhti ootab kohtuasi väidetava seksuaalselt sündsusetu käitumise üle“. Artikkel ise viitas teisele saatejuhile, Fanningul ei olnud kohtuasjaga mingit seost. Fanning väitis, et artikkel tekitas tema mainele tõsist kahju, teda naeruvääristati ja põlastati avalikult.

Endiste töötajate sõnul kasutas BNN Breaking generatiivset tehisintellekti juturobotit, et parafraseerida teistest allikates pärit artikleid ja neile pilte lisada. Fanningu advokaadid väitsid, et tehisintellektitööriist, millega uudistesisu toodeti, oli teinud vea, mistõttu paigutati vääralt tema pilt laimava pealkirja kõrvale. Kui võeti ühendust Microsoftiga, mis haldab MSN uudisteagregaatorit, kus sisu ilmus, eemaldati artikkel 2023. asta 12. oktoobril. Menetlus algatati mitte ainult BNN-I vastu, vaid ka Microsoft Operations Ireland Ltd ja selle USA emaettevõtte Microsoft Corporationi vastu.

Fanningu kohtuasi on üks paljudest kaebustest, mis on esitatud Hongkongis asuva veebisaidi BNN Breakingu vastu, mis avaldas oma kahe tegutsemisaasta jooksul arvukalt valesid, mis tulenesid ilmsetest generatiivse tehisintellekti vigadest. Selle aja jooksul linkisid BNN-I lugudele sellised silmapaistvad uudisteorganisatsioonid nagu Washington Post, Politico ja Guardian ning Google News tõstis neid asta esile.

Kohaldatavad seadused

Menetlus algatati Iiri laimamisseaduse alusel (Defamation Act 2009). Kohtuasi tekitas küsimusi ka EL-I e-kaubanduse direktiivi (direktiiv 2000/31/EÜ) alusel, kuna Microsoft Operations Ireland Ltd astas kaitsena sellele, et on e-kaubanduse direktiivi tähenduses vahendajatest teenuseosutaja.

Kaasatud tehisintellekti liik

Endiste BNN-I töötajate sõnul oli suur keelemudel ePiphany tehisintellektitööriist, mida BNN Breaking kasutas oma lugude genereerimiseks. BNN Breakingu asutaja hr Chahal väitis, et ta on ePiphany looja, kuid see oli nii sarnane ChatGPT ja teiste tehisintellekti juturobotitega, et töötajad eeldasid, et ta oli litsentseerinud teise ettevõtte tarkvara.

Rikutud õigused

Kuigi Iiri õiguse kohaselt on tegemist laimamisjuhtumiga, mõjutab see ka mitmeid EL-I põhiõiguste hartaga kaitstud õigusi. Fanningu pildi väära seostamist seksuaalselt sündsusetu käitumise väidetega võib pidada harta artiklist 1 tuleneva inimväärikuse õiguse rikkumiseks. Samuti rikkus see artiklist 7 tulenevat õigust eraelu austamisele ja artiklist 8 tulenevat isikuandmete kaitse õigust, kuna tema isikuandmeid töödeldi ja jagati eksitavas ja kahjulikus kontekstis ilma tema nõusolekuta. Selline tehisintellekti kasutamine õõnestab ka artiklist 11 tulenevat õigust sõna- ja teabevabadusele, kuna saastab teabekeskkonda eksitava sisuga.

Kohtuasja tulemus

Viimase teabe kohaselt kohtumenetlus veel kestab. 2024. asta jaanuaris lubas Iirimaa ülemkohus Fanningul BNN-le kavandatud hagi esitada. Siiski leidis kohus, et teatud küsimused tuleb hagi esitamisel täpsustada seoses Microsofti USA-s asuva emaettevõttega, nimelt kas oli tõendeid, et artikkel avaldati mõnel MSN teenusel väljaspool Iirimaad või Microsofti USA emaettevõtte kontrolli all olevates jurisdiktsioonides. Kohtunik lükkas selle taotluse aspekti arutamise edasi.

Menetlus testib, kuidas olemasolevaid õigusraamistikke, näiteks laimamisseadust, saab rakendada tehisintellekti poolt infokeskkonnas tekitatud kahjude lahendamiseks, aga ka selgitab sisuloojate vastutust, kes tuginevad tehisintellektitööriistadele ja suurtele platvormidele, mis sellist sisu taasavaldavad.

 

Kohtuasja peamised asjaolud

2024. aasta keskpaigas avastasid kaks Madalmaade ING Bank klienti, et nende tehingud olid korduvalt blokeeritud või toimusid viivitusega üksnes seetõttu, et neil on nimed, mis ei kõla hollandipäraselt. ING rahapesu ja terrorismivastase kontrolli kohaselt märgistati ühe mehe 100-eurone ülekanne, sest saaja nimi oli araabiakeelne ning naise maksed külmutati, kuna tema abikaasa nimi oli välismaine. Selle põhjuseks oli „hägune“ vastendamine– tava, mille kohaselt algoritm märgistab ära sarnased nimed (nt Abdulhamid ja Abdul Hamid on tähistatud ühe ja samana). Mõlemal juhul nõudis ING, et kliendid esitaksid mainitud pereliikmete isikuandmed (täisnimi, aadress, sünniaeg), kuid ei andnud selget selgitust, miks neid tehinguid kahtlaseks peeti.

Uskudes, et nad valiti välja etnilise päritolu tõttu, esitasid kliendid kaebuse Madalmaade Inimõiguste Instituudile (NIHR ehk College voor de Rechten van de Mens). 25. juulil 2024. aastal otsustas NIHR, et ING tegevus kujutab endast ebaseaduslikku rassilist diskrimineerimist. Pank oli ebaseaduslikult külmutanud kontod ja allutanud kliendid täiendavale kontrollile üksnes seetõttu, et tehingu üksikasjadesse ilmus „mittehollandipärase kõlaga“ nimi – see tegevus kahjustas ebaproportsionaalselt mittehollandi päritolu inimesi. Samuti leidis NIHR, et ING käsitles vääralt vähemalt ühe kliendi kaebust, jättes tema kaebusele sisulise vastuse andmata. See otsus, mis oli esimene omataoline Madalmaade panga vastu, tõi esile laiema mustri, kuidas „välismaise nime“ profileerimine mõjutab paljusid pangandussektori kliente. Lisaks tuleks IKÜM-i artikli 5 lõike 1 punkti a kohaselt töödelda isikuandmeid „seaduslikult, õiglaselt ja läbipaistvalt“.

Kohaldatavad seadused

Hollandi ja EL-i õigus keelavad diskrimineerimise juurdepääsul teenustele, sealhulgas panganduses. Hollandi põhiseaduse artikkel 1 ja üldine haldusõiguse seadus (Algemene Wet Gelijke Behandeling ehk AWGB) keelavad diskrimineerimise rassi või etnilise päritolu alusel. EL-i tasandil sätestab EL-i põhiõiguste harta artikkel 21 õiguse mittediskrimineerimisele, harta artiklid 1, 7, 8, 20 ja 47 aga kaitsevad väärikust, eraelu, andmekaitset, võrdsust seaduse ees ja tõhusat õiguskaitsevahendit. Kuigi pankadel on Hollandi rahapesu ja terrorismi rahastamise vastase seaduse (WWFT) ja EL-i sanktsioonide seaduse alusel kohustused kahtlaste maksete jälgimiseks, tuleb neid kohustusi täita proportsionaalselt, läbipaistvalt ja mittediskrimineerivalt. Lisaks tuleks IKÜM-i artikli 5 lõike 1 punkt a kohaselt isikandmeid töödelda „seaduslikult, õiglaselt ja läbipaistvalt“.

Kaasatud tehisintellekti liik

ING poolt juurutatud süsteem oli reeglipõhine algoritmiline sõelumistööriist, mida kasutati rahapesuvastaste ja sanktsioonide määruste täitmiseks. Sellel oli kolm probleemi. Esiteks, selle „hägusa“ vastendamise kasutamine automaatselt skaneeris tehingu detaile, otsides nimesid või märksõnu, mis sarnanevad kirjetega rahvusvahelistes jälgimisnimekirjades, et leida osalisi või variantseid kirjaviise. Teiseks olid kehtestatud künnised nii madalad, et isegi nime ühekordne mainimine maksekirjelduses võis tehingu külmutada (nt oli kirjutatud „Mohamedile“). Viimaseks tekitas see ebaproportsionaalselt palju valepositiivseid vasteid mittehollandikeelse kõlaga nimedega klientide puhul. Kui tuvastati potentsiaalne vaste, märgistas süsteem makse inimtöötajale vastavuse kontrollimiseks ja otsuse tegemiseks või edasiseks küsitlemiseks. Tööriistal oli diskrimineeriv mõju, kuna see tugines suurel määral nimepõhistele riskinäitajatele.

Rikutud õigused

Euroopa põhiõiguste harta:

  • Artikkel 1 – Inimväärikus: kellegi ebaõiglaselt potentsiaalse terroristi või kurjategijana kohtlemine ainult tema nime tõttu on oma olemuselt häbimärgistav. ING sõelumine võib seega õõnestada inimeste väärikust ja väärtust.
  • Artikkel 7 – Era- ja perekonnaelu austamine: tehingute blokeerimine võib segada normaalset pere- või eraelu (nt sugulastele raha saatmist, perega seotud kulude eest tasumist). Omavoliline kontroll tungib põhjendamatult eraellu.
  • Artikkel 8 – Isikuandmete kaitse: algoritmiline sõelumine hõlmas klientide isikuandmete (nimede) töötlemist viisil, mis ei olnud ei õiglane ega läbipaistev. Nime kasutamine riski seosena, ilma kontekstita, võib rikkuda andmekaitse põhimõtteid.
  • Artikkel 20 – Võrdsus seaduse ees: kõik on seaduse ees võrdsed. Teatud klientide kohtlemine kõrgema riskiga klientidena üksnes nime alusel on selle põhimõttega vastuolus.
  • Artikkel 21 – Diskrimineerimiskeeld: ING praktika märgistada tehinguid üksnes isiku nime alusel, kujutas endast diskrimineerimist rassi / rahvusliku päritolu alusel. Kõigil isikutel on õigus võrdsele kohtlemisele teenuste osutamisel; uuritavate klientide valimine ainult välismaise kõlaga nime põhjal rikub tõenäoliselt seda õigust.
  • Artikkel 47 – Õigus tõhusale õiguskaitsevahendile ja õiglasele kohtulikule arutamisele: klientidel puudusid tõhusad võimalused ING nimepõhise sõeluuringu vaidlustamiseks. Kui pank jättis kaebustele sisuliselt vastamata, oli see õigus häiritud.

Kohtuasja tulemus

Oma märgilises otsuses jõudis NIHR järeldusele, et ING oli tegelenud kaudse rassilise diskrimineerimisega ja kohustas ING-d seda praktikat peatama. Kuigi otsus ei ole iseenesest õiguslikult siduv, kannab see märkimisväärset moraalset ja veenvat autoriteeti. See ajendas kõiki Hollandi panku läbi vaatama ja lõpetama sarnase nimepõhise algoritmilise profileerimise oma nõuetele vastavuse süsteemides. Vastusena otsusele vabandas ING avalikult, märkides, et oli „šokeeritud“, et kliendid tundsid end diskrimineerituna ja tõotas, et parandab oma protseduure. Pank lubas otsust väga tõsiselt võtta ning oma küsimusi ja tegusid klientidele edaspidi paremini selgitada. 2024. aasta lõpu seisuga oli NIHR-i menetluses veel kolmas seotud kaebus ING vastu. Sellegipoolest on juhtumil juba olnud laiemad tagajärjed: Hollandi seadusandjad ja diskrimineerimisvastased huvikaitsjad suurendasid survet finantsasutustele, tagamaks et rahapesuvastased algoritmid ei oleks ebaõiglaselt suunatud vähemuskogukondade pihta. ING intsident innustas valdkonnas arutelusid pidama selle üle, kuidas leida tasakaal range reeglitejärgimise ja  põhiõigustele vastamise vahel ning tõi esile vajaduse suurema järelevalve järele tehisintellektil põhinevate profileerimistööristade üle, et vältida süsteemset kallutatust panganduses.

 

Kohtuasja peamised asjaolud

2024. aastal teatasid kaks suuremat sotsiaalmeediaettevõtet Meta ja X oma kasutajate isikuandmete kasutamisest tehisintellektisüsteemide treenimiseks, või algatasid selle.

2024. aasta mais teavitas Meta oma kasutajaid, et uuendab oma privaatsuspoliitikat, et võimaldada kõigi alates 2007. aastast kogutud isikuandmete kasutamist (nii avalikku kui ka mitteavalikku sisu, välja arvatud privaatseid üks-ühele sõnumid) praeguste ja tulevaste tehisintellektitehnoloogiate treenimiseks. 2024. aasta 6. juunil esitas kodanikuühiskonna rühm Noyb kaebused 11 Euroopa riigis, paludes pädevatel andmekaitseasutustel algatada kiirmenetlus selle muudatuse viivitamatuks peatamiseks. Noyb väitis, et Meta käitumine on vastuolus IKÜM-iga, kuna kasutajatelt ei küsitud nõusolekut ega antud selgust töötlemise konkreetsete eesmärkide kohta. Selle asemel tugines Meta õigusliku alusena „õigustatud huvile“, vaatamata sellele, et Euroopa Liidu Kohus oli selle põhjenduse varem seotud kohtuasjas (sihitud reklaam, kohtuasi C-252/21) tagasi lükanud.

Paralleelselt hakkas X (endine Twitter) 2024. aasta mais kasutama enam kui 60 miljoni Euroopa kasutaja isikuandmeid oma Groki suurte keelemudelite treenimiseks ilma kasutajaid sellest eelnevalt teavitamata. Uudised sellest tavast tulid välja 2024. aasta juulis, kui selgus, et tehisintellekti oli vaikimisi treenitud juba üle kahe kuu. Noyb esitas kaebused 9-s EL-i liikmesriigis, väites, et selline andmetöötlus rikkus mitmeid IKÜM-i sätteid, eelkõige sellepärast, et sellel puudus kehtiv õiguslik alus.

Kohaldatavad seadused

Asjakohane õiguslik raamistik on isikuandmete kaitse üldmäärus (IKÜM), eriti artikli 6 lõige 1, mis nõuab isikuandmete töötlemiseks kehtivat õiguslikku alust. Teised Noybi kaebustes loetletud IKÜM-i sätted on: artikkel 5 (isikuandmete töötlemise põhimõtted), artikkel 9 (isikuandmete eriliikide töötlemine), artikkel 12 (selge teave, teavitamine ja andmesubjekti õiguste teostamise kord), artikkel 13 (teave, mis tuleb anda juhul, kui isikuandmed on kogutud andmesubjektilt), artikkel 17 (õigus andmete kustutamisele), artikkel 18 (õigus isikuandmete töötlemise piiramisele), artikkel 19 (kohustus teatada isikuandmete parandamisest, kustutamisest või isikuandmete töötlemise piiramisest), artikkel 21 (õigus esitada vastuväiteid), artikkel 25 (lõimitud andmekaitse ja vaikimisi andmekaitse).

Kaasatud tehisintellekti liik

Kohtuasjade kese on isikuandmete kasutamine suurte keelemudelite (LLM) treenimiseks. LLM on generatiivse tehisintellekti vorm. Täpsemalt on X-i LLM-i nimi Grok ning ettevõte on selle mudeli põhjal välja töötanud ka samanimelise tehisintellektipõhise juturoboti.

Rikutud õigused

Peamised ohus olevad õigused on õigus isikuandmete kaitsele (harta artikkel 8). Isikliku ja avaliku sotsiaalmeediasisu töötlemine tehisintellekti treenimiseks ilma teadliku nõusolekuta kahjustab üksikisikute kontrolli oma andmete üle ja võib viia selle kasutamiseni viisil, mida nad ei osanud ette näha.

Kohtuasja tulemus

Meta esialgne katse 2024. aastal töödelda kasutajaandmeid tehisintellekti treenimiseks peatati pärast kaebusi ja sekkumist Meta juhtiva järelevalveasutuse ehk Iirimaa andmekaitsekomisjoni (Irish Data Protection Commissioni ehk DPC) poolt. Kuid 2025. aastal, pärast oma lähenemisviisi redigeerimist läbipaistvamaks, loobumisvahendite ja täiendavate kaitsemeetmete parandamist, sai Meta DPC heakskiidu jätkata tehisintellekti treenimist EL-i kasutajaandmetega. DPC jätkab nõuete täitmise jälgimist, nõudes Metalt regulaarsete aruannete esitamist, sealhulgas 2025. aasta oktoobris ajakohastatud hinnangu esitamist. See otsus on pälvinud kriitikat huvikaitseühendustelt, kes hoiatavad võimalike IKÜM-i rikkumiste eest ja prognoosivad edasisi õiguslikke väljakutseid.

X-i kohtuasi jätkub. Kuigi DPC tagas piiratud toimimise, nõudes 2024. aasta maist augustini kasutatud andmete kustutamist, jätkas X pärast seda andmete töötlemist. 2025. aasta aprillis algatas DPC ametliku uurimise selle kohta, kas see, et X kasutab oma Groki mudelite treenimiseks EL-i kasutajate avalikke postitusi on seaduslik.

Kohtuasja peamised asjaolud

Metat kaevatakse kohtusse ligi 1,8 miljardi naela eest Etioopias toimunud inimõiguste rikkumiste ja tapmiste pärast, mis on põhjustatud vaenukõnest Facebookis. Kaebuse esitas 2022. aasta detsembris Keenia ülemkohtule Abrham Meareg – peale rünnakuid Facebooki postitustes mahalastud Etioopia akadeemiku poeg- , Katiba instituut ja Fisseha Tekle ning seda toetab kampaaniagrupp Foxglove. 2025. aasta aprillis kinnitas kohtunik Lawrence N. Mugambi, et Keenia kohtutel on pädevus kaebus läbi vaadata.

Kohtuasja kontekstiks oli Tigray tsiviilelanike etniline puhastus Lääne-Tigray piirkonnas, mille tagajärjel hukkus hinnanguliselt kuni 600 000 tsiviilisikut. Abrham Meareg väidab, et tema isa mõrvati pärast seda, kui kaks Facebooki postitust oli ta sihikule võtnud Tigray etnilise rühma liikmena. Amnesty Internationali sõnul sisaldasid postitused tema isikuandmeid, sealhulgas nime, fotot, töökohta ja väiteid selle kohta, et ta on seotud Tigray rahva vabastusrindega (TPLF ehk Tigray People’s Liberation Front).

Avaldajad väidavad, et Facebooki modereerimistõrked ja kaasamisalgoritm viisid etnilise sihtimiseni ja taotlevad:

  • umbes 200 miljardi Keenia šillingi suuruse restitutsioonifondi loomist Facebookis õhutatud vaenu ja vägivalla ohvritele ning veel 50 miljardit Keenia šillingit sarnase kahju eest sponsoreeritud postitustelt
  • et selle algoritm ei soovitaks „õhutavat, vaenavat ja ohtlikku sisu“
  • piisava arvu moderaatorite töölevõtmist, et tõlkida kohalikku sisu, tagada võrdsus Nairobi ja USA kasutajate vahel.

Kohaldatavad seadused

Avaldus esitati Keenia ülemkohtule ja seetõttu kohaldatakse Keenia seaduseid. Nagu kohtunik Mugambi viitas avalduse vastuvõtmisel, on selle kohtuasja aspektid Keenia põhiseaduse artiklitega vastuolus. Keenia ülemkohus on ka otsustanud, et künnis on piisavalt kõrge, et teha kindlaks, et need küsimused on üldise avaliku tähtsusega põhiõiguste ja -vabaduste kaitsega seoses, et võimaldada kohtualluvust Keenia põhiseaduse alusel. Kuna sellega kaasneb nõue korporatsioonile (ja mitte riigile), ei ole Keenia poolt ratifitseeritud inimõiguste konventsioonid siin kohaldatavad, kuid paljud neist õigustest on inkorporeeritud põhiseadusesse. 2018. aasta arvuti väärkasutuse ja küberkuritegude seadus (Computer Misuse and Cybercrimes Act) kriminaliseerib ka konkreetselt eksitavaid või fiktiivseid andmeid või väärinfot, mis propageerib sõda või õhutab vägivallale.

Kaasatud tehisintellekti liik

Selle kohtuasjaga seotud tehisintellekt on Facebooki algoritm, mis on tegelikkuses algoritmide kombinatsioon, mis otsustab, kuidas sisu sihtida ja järjestada. Facebooki vilepuhuja Frances Haugeni sõnul olid need masinõppe algoritmid, mis tähtsustasid kaasamist iga hinna eest, ning Amnesty Internationali sõnul viitavad sisemised Meta dokumendid sellele, et kaasamisalgoritm kasutas tulemusi algoritmilises võimenduses õhutava ja kahjuliku sisu jaoks.

Rikutud õigused

Kuna avaldus esitati Keenias, ei ole EL-i põhiõiguste harta kohaldatav. Juhtumiuuring pakub aga võimalust välja tuua rikkumiste tüübid, mis võivad esineda tehisintellekti algoritmide kaasamisel ja nende modereerimata jätmisel. Oli näha, et rikutud oli:

  • artikkel 1, inimväärikus
  • artikkel 2, õigus elule
  • artikkel 3, õigus isikupuutumatusele
  • artikkel 4, piinamise ning ebainimliku või alandava kohtlemise või karistamise keeld
  • artikkel 6, õigus vabadusele ja turvalisusele
  • artikkel 7, era- ja perekonnaelu austamine
  • artikkel 8, isikuandmete kaitse
  • artikkel 10, mõtte-, südametunnistuse- ja usuvabadus
  • artikkel 11, sõna- ja teabevabadus
  • artikkel 20, võrdsus seaduse ees
  • artikkel 21, diskrimineerimiskeeld
  • artikkel 22, kultuuriline, usuline ja keeleline mitmekesisus

Paljud neist õigustest, näiteks inimväärikus ja võrdsus seaduse ees, on kesksel kohal inimõiguste deklaratsioonis ja Keenia riiklikus õiguses ning neid mainitakse alustena asja arutamiseks Keenia ülemkohtus.

Kohtuasja tulemus

Avaldus esitati 2022. aasta detsembris ja Milimani ülemkohus kinnitas oma pädevust asja arutamiseks 4. aprillil 2025. aastal. Kohtuasi ootab nüüd kohtunike määramist peakohtuniku poolt.

Kohtuasja peamised asjaolud

Kohtuasi Mobley vs. Workday tekkis Derek Mobley kogemusest, kes kandideeris Workday platvormi kasutades rohkem kui sajale töökohale ja sai iga kord eitava vastuse. Workday on üks peamistest personalitarkvara pakkujatest, mis pakub tööandjatele tööriistu kandidaatide sõelumiseks ja hindamiseks. Mobley väitis, et Workday tehisintellektisüsteem diskrimineeris teda rassi, vanuse ja puude tõttu. Sarnaseid diskrimineerimisväiteid esitas veel neli tööle kandideerijat. Kõik kaebajad on üle 40 aasta vanad ja väidavad, et nad on Workday kaudu esitanud sadu töötaotlusi, kuid saanud iga kord eitava vastuse. Üks teine kaebaja, Jill Hughes, väitis, et sai automatiseeritud eitusi sadadele esitatud töötaotlustele sageli mõne tunni jooksul suvalistel kellaaegadel väljaspool tööaega, viidates sellele, et inimjärelevaatust ei ole toimunud.

Kohaldatavad seadused

Kaebus esitati Ameerika Ühendriikide föderaalõiguse alusel, nimelt tööhõives vanuselise diskrimineerimise seaduse (Age Discrimination in Employment Act ehk ADEA), puuetega ameeriklaste seaduse (Americans with Disabilities Act ehk ADA) ja 1964. aasta kodanikuõiguste seaduse (Civil Rights Act) VII jaotise alusel, mis keelab diskrimineerimise rassi, nahavärvi, religiooni, soo või rahvusliku päritolu alusel.

Kaasatud tehisintellekti liik

Üks programm, mida Workday kasutab, kannab nime HiredScore AI, mis kasutab täiustatud algoritme ja masinõpet kandidaatide andmete analüüsimiseks ja sobivate kandidaatide väljaselgitamiseks, võttes arvesse nii traditsioonilisi kvalifikatsioone kui ka selliseid tegureid nagu kultuuriline sobivus ja pehmed oskused.

Rikutud õigused

Kuigi kohtuasi jätkub USA föderaalõiguse alusel, on tõstatatud küsimused asjakohased Euroopa Liidu põhiõiguste harta alusel tagatud õiguste puhul. Õigus inimväärikusele (artikkel 1) on kaasatud, kui taotlejaid välistatakse automaatselt ilma individuaalse kaalumiseta. Mõjutatud on õigus teha tööd ja tegutseda vabalt valitud kutsealal (artikkel 15), kuna diskrimineeriv väljajätmine töölevõtuprotsessist kahjustab võrdset juurdepääsu tööle. Diskrimineerimiskeeld (artikkel 21) on keskse tähtsusega, arvestades väiteid rassi, vanuse ja puude tõttu väljaarvamise kohta. Vanusel ja puudel põhineva diskrimineerimise väiteid arvestades on asjaga samuti seotud eakate õigused (artikkel 25) ja puuetega inimeste integreerimine ühiskonda (artikkel 26).

Kohtuasja tulemus

Kalifornia kohus jättis 12. juulil 2024. aastal rahuldamata nõude, et Workday toimis USA föderaalseaduse alusel „tööhõiveagentuurina“, leides, et Workday tegevus ei vasta seadusjärgsele määratlusele tööandjatele töötajate „hankimisest“. Kohus lubas aga asja arutamist jätkata teooria kohaselt, et Workday käitus „agendina“. Workday väitis, et ta andis vaid tööriista, millega rakendada tööandjate kriteeriume, kuid kohus lükkas selle iseloomustuse tagasi. Kohus leidis, et Workday tarvara ei rakendanud lihtsalt tööandjate juhiseid mehaaniliselt, vaid osales otsustamisprotsessis, soovitades mõne kandidaadiga jätkamist ning teisele äraütlemist. See tähistas olulist sammu tehisintellektipakkujate võimaliku vastutuse tunnistamisel nende süsteemide poolt tekitatud diskrimineerivate tulemuste eest.

2025. aasta mais andis kohus täiendavalt esialgse tõendi kollektiivhagi kohta vanuselise diskrimineerimise seaduse (ADEA) alusel, võimaldades kohtuasja edasist arutamist vanemate kui 40-aastaste taotlejate nimel. Osapooled hakkavad nüüd tegelema klassiavastusega ning kaebajad võivad teatada sarnases olukorras olevatele isikutele kohtuasjast, andes neile võimaluse menetlusse astuda ja oma nõudeid kollektiivselt kaaluda.

Kohtuasja peamised asjaolud

2014. aastal võttis Poola töö- ja sotsiaalpoliitika ministeerium kasutusele algoritmilise profileerimissüsteemi, et liigitada töötud kolme rühma (profiilid I–III). Süsteem kasutas 24 küsimusega arvutipõhist uuringut kombineerituna registreerimisandmetega (nt vanus, sugu, puue, haridus, töötuse kestus). Sellest saadud hinne määras, millistele aktiivse tööturu programmidele inimene juurde pääses.

I profiil (u 2–5%) hõlmas töövalmeid isikuid, II profiil (u 65%) oli suunatud ümberõpet vajavatele isikutele ning III profiil (u 30%) hõlmas isikuid, keda peeti „tööturust kaugeks“ (puudega, üksikemad, kroonilised haiged). Praktikas sai III profiil väidetavalt ebapiisavalt toetust, sest tööbüroodel puudusid ressursid selle kategooriaga seotud programmide rakendamiseks.

Süsteem sai kiiresti kriitikat kodanikuühiskonnalt, andmekaitseasutustelt ja ombudsmanidelt. Muredeks oli läbipaistvuse puudumine, häbimärgistamine, haavatavate rühmade diskrimineerimine ja õiguskaitsevahendite puudumine. 2018. aastal tunnistas Poola konstitutsioonikohus õigusliku aluse põhiseadusega vastuolus olevaks, sest isikuandmete ulatus ja profileerimise reeglid olid kehtestatud ministri määrusega, mitte seadusega. Valitsus lõpetas süsteemi 2019. aasta detsembris.

Kohaldatavad seadused

EL-i põhiõiguste harta artikkel 1 kaitseb inimväärikust. Artiklid 7 ja 8 tagavad eraelu austamise ja isikuandmete kaitse. Artiklid 20 ja 21 tagavad võrdsuse seaduse ees ja keelavad diskrimineerimise. Artikkel 23 kinnitab naiste ja meeste võrdõiguslikkust, mida kahjustasid soopõhised punktiarvestuse reeglid. Artikkel 34 tunnustab õigust sotsiaalkindlustusele ja abile töötuse puhul. Artikkel 47 tagab õiguse tõhusale õiguskaitsevahendile. Lisaks mainiti Poola konstitutsioonikohtus Poola põhiseaduse artikleid 2 ja 51 – vastavalt õigusriigi tagamine ja andmekaitse – kui otseselt mõjutatud artikleid.

Kaasatud tehisintellekti liik

Süsteem oli riiklikusse Syirusz IT-platvormi sisse ehitatud reeglipõhine punktiarvestuse algoritm. See töötles 24 registreerimisdokumentidest ja arvutipõhisest intervjuust võetud andmepunkti, määrates hindeid, mis paigutasid isikud ühte kolmest profiilist. Kuigi see oli „poolautomaatne“, ei asendanud tegelikult töötajad sageli tulemusi, seega tegi algoritm sisuliselt lõpliku otsuse. See oli deterministlik liigitustööriist, mitte masinõppe süsteem, kuid sellel olid siiski märkimisväärsed tagajärjed sotsiaaltoetusele juurdepääsule ja kannatanute eludele.

Rikutud õigused

Euroopa põhiõiguste harta [KI1]:

  • Artikkel 1 – Inimväärikus: liigitades mõned töötud rühma „vähem-võimelised-tööle-värvatud-saama“ ja jättes nad toetuseta, õõnestas profileerimissüsteem nende väärikust ja enesest lugupidamist.
  • Artikkel 7 – Era- ja perekonnaelu austamine: süsteem küsis pealetükkivaid küsimusi isiklike asjaolude kohta ja töötles tundlikku teavet läbipaistmatult, rikkudes eraelu austamise õigust.
  • Artikkel 8 – Isikuandmete kaitse: paljusid isikuandmeid töödeldi läbipaistmatul viisil, ilma selgete õiguslike kaitsemeetmeteta või tegeliku nõusolekuta. Üksikisikutel puudus kontroll selle üle, kuidas nende teavet hinnati või kasutati.
  • Artikkel 20 – Võrdsus seaduse ees: sarnastes olukordades inimesi koheldi ebavõrdselt, kuna profileerimisreeglid otsustasid potentsiaalselt omavoliliselt juurdepääsu toetusele ilma õiglase või konsistentse põhjenduseta.
  • Artikkel 21 – Diskrimineerimiskeeld: haavatavad rühmad – näiteks naised, üksikemad, puuetega inimesed ja maapiirkondade elanikud, määrati ebaproportsionaalsel määral kõige vähem toetatud profiili rühma.
  • Artikkel 23 – Naiste ja meeste võrdõiguslikkus: sugu arvestati hindamisel faktorina, kinnistades stereotüüpe ja selle tulemusena sattusid naised suurema tõenäosusega kõige vähem toetatud kategooriasse.
  • Artikkel 34 – Sotsiaalkindlustus ja sotsiaalabi: III profiili paigutatud, sageli kõige rohkem abi vajavad inimesed, jäeti sisuliselt mõtestatud abist välja, õõnestades õigust sotsiaalabile töötuse korral.
  • Artikkel 47 – Õigus tõhusale õiguskaitsevahendile ja õiglasele kohtulikule arutamisele: üksikisikutel ei olnud sisulist õigust oma profiili liigitust edasi kaevata ega vaidlustada, jättes nad ilma võimalusest negatiivsed otsused edasi kaevata

Kohtuasja tulemus

2018. aastal otsustas Poola konstitutsioonikohus, et töötuse profileerimise süsteem oli põhiseadusega vastuolus, leides, et andmekogumise ja otsustamisreeglite ulatust ei saa kehtestada ministri määrusega, vaid see nõuab aluseks parlamendi poolt vastu võetud seadust. Kohus tõi välja ka probleemid läbipaistvuse, andmekaitse ja tõhusate õiguskaitsevahendite puudumise pärast. Selle kohtuotsuse järel ning kodanikuühiskonna ja järelevalveorganite survel muutis valitsus seadust ja kaotas profileerimismehhanismi täielikult 2019. aasta detsembriks. See kohtuasi on pretsedendiks, et algoritmiline otsuste tegemine hoolekandes peab vastama seaduslikkuse, võrdsuse ja põhiõiguste põhiseaduslikele tagatistele.

Kohtuasja peamised asjaolud

Kataloonia vanglasüsteem võttis RisCanvi riskihindamise tööriista esmakordselt kasutusele 2009. aastal. RisCanvi on mittekaubanduslik tööriist, mis on välja töötatud vanglateenistuse ja Barcelona ülikooli ühisalgatusena. Tööriist püüab parandada viie riskiliigi individualiseeritud prognoosimist: vägivaldne retsidivism (korduvkuritegevus), enesele tekitatud kahju, vägivald teiste kinnipeetavate vastu või kinnipidamisasutuse sees, vanglalubade rikkumine ja retsidivism üldiselt. Seda kasutatakse otsuste tegemisel, kas kinnipeetaval tuleks lasta minna ajutisele vabastusele vanglast, või olla tingimisi vabastatud.

RisCanvi on olemas kahes versioonis: RisCanvi Screening (RisCanvi-S), mis koosneb 10 riskitegurist, RisCanvi Complete (RisCanvi-C), mis koosneb 43 riskitegurist. Tööriistaga hõlmatud tegurid: kriminaalne/vangistuse ajalugu, biograafiline teave, perekondlik ja sotsiaalne keskkond, kliinilised tegurid (nt ainete kuritarvitamine) ja isiksuseomadused. Lisaks riskiteguritele on kõigil RisCanvi skaaladel neli muutujat, mis vähendavad algoritmis sisalduvate riskitegurite mõju: vanus (üle või alla 30), sugu (mees- või naissoost), päritoluriik (Hispaania või välismaa) ning vanglastaatus või olukord (kohtueelne kinnipeetav või süüdimõistetu). Need neli muutujat on erineva kaaluga sõltuvalt enesele suunatud vägivalla ennustavatest kriteeriumidest, institutsioonisisesest vägivallast, üldisest kuritegelikust retsidivismist, vägivaldsest kuritegelikust retsidivismist või lubade rikkumisest.

RisCanvi sõelumisvahendit kasutatakse kõigi vangistatud inimeste suhtes. RisCanvi Complete’i rakendatakse siis, kui sõelumisvahendi tulemus näitab suurt riski, samuti erikategooria õigusrikkujate puhul (nt seksuaalkurjategijad, retsidivismi taustaga seaduserikkujad).

Kaasatud tehisintellekti liik

RisCanvi tööriist ei kasuta masinõpet ega ole iseõppiv. See kasutab iga vangistatud kurjategija riski arvutamiseks eelnevalt määratletud vägivaldse retsidivismi valemit. RisCanvi-S-il on kaks riskitaset: madal ja kõrge. Iga riskiteguri hindamisel kasutatakse „jah-ei“ skaalat, hindamaks kas tegur on olemas või mitte. Kui kindla vastuse andmiseks ei ole piisavalt andmeid,  peab hindamist teostav meeskond püüdma koguda täiendavat teavet, et allesjäänud lünki täita. Kui RisCanvi-S näitab madalat riskiskoori, hindamisprotsess suletakse ja kinnipeetavat hinnatakse iga kuue kuu järel uuesti.

RisCanvi-C-l on kolm riskitaset: madal, keskmine ja kõrge. Iga riskiteguri hindamisel kasutatakse kolme vastusekategooriat: „jah“ – kui tegur on selgelt olemas, „tõenäoline“ – kui on märke, et tegur võib olemas olla ning „ei“ – kui tegurit ei ole. Hindamisprotsessi tulemuseks võib olla soovitus, et vajalik võib olla täiendav hindamine erivahendi kaudu.

RisCanvi kasutamise roll otsuste tegemisel

RisCanvi tööriistaga saadud tulemus on harva peamine määrav tegur kinnipeetavate staatuse või olukorraga seotud otsuste tegemisel. RisCanvi võtab arvesse vangide minevikust pärit staatilisi tegureid, mis mõjutavad negatiivselt üldist riskiskoori isegi siis, kui kinnipeetava käitumine on paranenud. Andmed näitavad, et RisCanvit koheldakse andmetöötluse tööriistana ja kui süsteemi poolt toodetud tulemus on vastuolus kinnipeetavatega igapäevaselt töötavate vanglameeskondade professionaalse hinnanguga, on viimane ülimuslik. See kehtib juhtudel, kui RisCanvi tööriist viitab keskmisele või suurele riskile.

Kuigi RisCanvi abil tehtud otsuseid saab edasi kaevata, märgivad juristid, et süsteemi tulemuste vaidlustamine on keeruline. Eelkõige ei ole sageli lihtne kindlaks teha, miks süsteem on teatud riskiskoorini jõudnud ja millistel teguritel on olnud hinde tootmisel suurim kaal.

RisCanvi piirangud

RisCanvi ennustusvõime on üsna hea madala riskiga isikute tuvastamisel, kuid tema hinnangud kõrge riskiga isikute suhtes sisaldavad suurt hulka valepositiivseid tulemusi. Vaja on selgeid suuniseid selle kohta, kuidas peaksid süsteemi tulemusi kohtlema ja kasutama kriminaalõiguse valdkonna asjaomased spetsialistid, et vältida põhjendamatult karmide meetmete ja piirangute kehtestamist kinnipeetavatele.

Mõned RisCanvi hindamisega seotud tegurid nõuavad isikuandmete kogumist, mis seab ohtu õiguse eraelu puutumatusele – eriti kui isik on eelvangistuses ja ootab kohtupidamist. Tööriist vajab hoolikat kontrolli, et teha kindlaks, kas kogu kogutud teabel on prognoosiv väärtus ning kuidas neid andmeid talletatakse ja käitletakse.

Kallutatus on veel üks tööriista toimimisega seotud probleem. Statistiline analüüs näitab, et RisCanvi kipub soovitama piiravamaid meetmeid vaimse tervise häiretega või ebasoodsa sotsiaal-majandusliku taustaga isikutele. Nendesse rühmadesse kuuluvaid isikuid hinnatakse ebaproportsionaaselt kõrge riskiga isikuteks ning neile ei anta tingimisi karistusest vabastamist või vanglast vabastamist. Samas näitavad andmed aga, et RisCanvi süsteem ei kohtle välismaalasi Hispaania kodanikega võrreldes vääralt. See tähendab, et etnilisi eelarvamusi, mis muudel asjaoludel võivad otsuste tegemist mõjutada, tööriista kasutamine tasakaalustab.

Kohtuasja peamised asjaolud

SCHUFA kohtuasi suunati Euroopa Liidu Kohtusse (CJEU) Saksamaa Wiesbadeni halduskohtu poolt. Saksamaa juhtiv krediidiagentuur SCHUFA Holding AG arvutab välja krediidiskoorid, mida pangad ja finantsasutused laialdaselt kasutavad, et otsustada, kas laenu või krediiti anda. Kaebuse esitajale keelduti laenu andmast kolmanda isiku poolt pärast seda, kui SCHUFA oli andnud talle negatiivse hinde. Kaebuse esitaja taotles SCHUFA-lt teavet oma registreeritud isikuandmete kohta ja osade väidetavalt ebaõigete andmete kustutamist. Vastuseks sellele taotlusele teavitas SCHUFA kaebuse esitajat tema hindest ja tõi laias laastus välja hinnete arvutamise meetodid. Ärisaladusele viidates keeldus ta siiski avaldamast erinevaid elemente, mida selle arvutamisel ja kaalumisel arvesse võeti.

Kaebuse esitaja esitas kaebuse pädevale andmekaitseasutusele – HBDI-le, taotledes, et nad nõuaksid SCHUFA-lt kaebuse esitaja teabe- ja kustutustaotluse täitmist. HBDI tagastas kaebuse ja kaebaja kaebas selle otsuse edasi Wiesbadeni halduskohtusse. Kohus peatas menetluse ja küsis Euroopa Kohtult, kas need automatiseeritud töötlemise tulemusel genereeritud krediidiskoorid kujutavad endast isikuandmete kaitse üldmääruse (IKÜM-i) artikli 22 kohast „automatiseeritud töötlusel põhinevate üksikotsuste tegemist“.

Kohaldatavad seadused

  • Euroopa Liidu õigus: isikuandmete kaitse üldmäärus (IKÜM), eriti artikkel 22 (automatiseeritud töötlusel põhinevate üksikotsuste tegemine ja profiilianalüüs)
  • Riiklik õigus: 2017. aasta 30. juuni Bundesdatenschutzgesetz (Saksamaa föderaalne andmekaitseseadus).

Kaasatud tehisintellekti liik

Kohtuasi hõlmas algoritmilist krediidihindamissüsteemi, mis teeb prognoosi isiku tulevase käitumise tõenäosuse kohta („hinne“), näiteks laenu tagasimaksmise kohta, mis põhineb selle isiku teatud omadustel, matemaatiliste ja statistiliste protseduuride alusel. Punktiarvestus põhineb eeldusel, et määrates inimese võrreldavate omadustega inimeste rühma, kes on teatud viisil käitunud, saab ennustada sarnast käitumist.

Rikutud õigused

Euroopa Liidu Kohus ei nimetanud otsesõnu EL-i põhiõiguste hartast tulenevaid õigusi, kuid kohtujuristi arvamus kohtuasjas viitas artiklile 8 (õigus isikuandmete kaitse) ja artiklile 7 (õigus eraelu austamisele). Arvamuses rõhutati, et hinde kehtestava kreediidiasutuse vastutavaks pidamine oleks kõige tõhusam viis nende põhiõiguste kaitsmiseks, sest hinde loomine on potentsiaalse kahju allikas.

Muud potentsiaalselt puudutatud õigused on artikkel 21 (mittediskrimineerimine), kuna automatiseeritud hindamine võib sõltuvalt algoritmi ja andmestiku võimalikest kalletest viia diskrimineerivate tulemusteni, samuti artikkel 47 (õigus tõhusale õiguskaitsevahendile), kuna SCHUFA hindest mõjutatud krediidiotsuste vaidlustamine on keeruline, kui puudub selge arusaam, kuidas hindeid genereeritakse.

Kohtuasja tulemus

2023. aasta detsembris otsustas Euroopa Liidu Kohus, et selliste asutuste nagu SCHUFA poolt krediidiskoori andmine on automatiseeritud töötlusel põhinevate üksikotsuste tegemine IKÜM-i artikli 22 tähenduses, kui laenuandjad tuginevad suures osas nendele hinnetele lepingute loomiseks, rakendamiseks või lõpetamiseks. Kohus täpsustas, et sellised automatiseeritud otsused on seaduslikud ainult rangetel tingimustel: nad peavad olema EL-i või liikmesriigi õigusega selgesõnaliselt lubatud, lepingu jaoks vajalikud või põhinema selgesõnalisel nõusolekul. Lisaks peavad olemas olema piisavad kaitsemeetmed, sealhulgas õigus inimsekkumisele ja otsuse vaidlustamisele.

Kohtuotsusel on mõju väljaspool krediidihindamist, laienedes ka sellistele sektoritele nagu värbamine, tervishoid ja kindlustus, kus kasutatakse sageli tehisintellektipõhist otsuste tegemist. Sarnased teenusepakkujad nendes valdkondades võivad eeldada, et klientidel lasub esmane vastutus õigusnormidele vastavuse riskide kandmisel, mis on seotud pakkuja sisendil põhinevate otsustega. Kohtuotsuses selgitatakse siiski, et IKÜM-i artiklit 22 kohaldatakse ka teenusepakkujate suhtes, eriti kui nende kliendid tuginevad otsuste tegemiselt tugevalt teenusepakkuja sisendile.

Kohtuasja peamised asjaolud

Kohtuasi R (Bridges) vs. Chief Constable of South Wales Police (SWP) puudutab näotuvastustehnoloogia juurutamist korrakaitse eesmärgil. Süsteem AFR Locate skaneerib valvekaameraid kasutades reaalajas nägusid ja võrdleb jäädvustatud kujutisi politseitöö eesmärgil loodud jälgitavate inimeste nimekirjadega. Taotleja Edward Bridges – Cardiffi kodanikuvabaduste aktivist, keda toetas sõltumatu kodanikuvabaduste organisatsioon Liberty, väitis, et selle tehnoloogia tema vastu kasutamine SWP poolt oli õigusvastane. Ta kirjeldas kahte konkreetset juurutust Cardiffis, kus tema kujutis oli jäädvustatud ilma sisuka etteteatamiseta. Ta väitis, et süsteemi kasutamine oli vastuolus Euroopa inimõiguste ja põhivabaduste kaitse konventsiooniga (EIÕK), eelkõige artikliga 8 (õigus austusele era- ja perekonnaelu vastu), aga ka artikliga 10 (sõnavabadus), artikliga 11 (kogunemiste ja ühingute moodustamise vabadus) ning Ühendkuningriigi andmekaitseseadusega.

SWP kaitses AFR Locate’i kasutamist, väites, et see oli olnud õiguspärane, proportsionaalne ja piisava õigusliku raamistikuga toetatud. Esimese astme kohus otsustas, et skaneeritute eraelu puutumatuse ja andmekaitse õiguse riive toimus õiguslikus raamistikus, mis tagab piisavad kaitsemeetmed näotuvastutehnoloogia kasutamiseks. Samuti otsustati, et tehnoloogia kasutamine elanike biomeetriliste andmete saamiseks toimus politsei üldise õiguse volituste raames kuritegevuse ennetamiseks ja avastamiseks.

Appellatsioonikohus rahuldas appellatsioonkaebuse kolmel põhjusel: 1) AFR Locate’i süsteemi kasutamine SWP poolt rikkus EIÕK artiklit 8, kuna see kogus ja töötles üldsuse biomeetrilisi andmeid automaatselt ja ilma nõusolekuta; 2) politsei poolt läbi viidud andmekaitse mõjuhinnagus ei hinnatud nõuetekohaselt ohte inimeste õigustele ja vabadustele kaasnevaid riske ning 3) SWP ei täitnud oma 2010. aasta Ühendkuningriigi võrdõiguslikkuse seadusest tulenevaid kohustusi, eelkõige kaudse diskrimineerimise riskide kindlakstegemisel.

Kohaldatavad seadused

Euroopa inimõiguste konventsiooni artikli 8 kohaselt on isikutel õigus eraelu austamisele, mis hõlmab nõusolekut tema pildistamiseks. Artiklid 10 ja 11 kaitsevad sõnavabadust ja rahumeelse kogunemise õigust, mida mõlemat võib massiline järelevalve kaudselt piirata. 1998. aasta andmekaitse seadus, mis kehtis esialgse AFR juurutamiste ajal, nõudis isikuandmete töötlemist õiglaselt ja seaduslikult. Selle õigusjärglane, 2018. aasta andmekaitseseadus, laiendas neid kohustusi, eriti seoses biomeetriliste ja tundlike andmetega ning volitab enne suure riskiga töötlemise algust läbi viima andmekaitse mõjuhinnangut (DPIA).

2012. aasta vabaduste kaitse seadusega (The Protection of Freedoms Act) kehtestati riiklik järelevalve järelevalvetehnoloogia üle ja loodi järelevalvekaamera voliniku roll (Surveillance Camera Commissioner), kes avaldas järelevalvekaamera praktikajuhendi (Surveillance Camera Code of Practice), et suunata politsei- ja riigiasutusi jälitustööriistade läbipaistval ja seaduslikul kasutamisel. 2010. aasta võrdõiguslikkuse seaduses kirjeldatud avaliku sektori võrdõiguslikkuse kohustus (PSED ehk The Public Sector Equality Duty) nõuab, et avalik-õiguslikud asutused hindaksid, kuidas nende poliitika ja tegevus mõjutab kaitstud tunnustega isikuid, sealhulgas kaudse diskrimineerimise riske.

EL-i tehisintellektimäärus keelab reaalajas toimuva biomeetrilise kaugtuvastamise (RBI) põhjendamatu kasutamise, sealhulgas näotuvastuse õiguskaitseasutuste poolt. Seadus sätestab RBI süsteemide juurutamise kriteeriumid, näiteks tõsiste kuritegude ohvrite leidmiseks, vältimaks vahetuid ohtusid avalikule julgeolekule ning tabamaks isikuid, keda süüdistatakse või kes on süüdi mõistetud raskete kuritegude toimepanemises. Selliste süsteemide arendajad ja juurutajad peavad vastama mitmele nõudele, et tagada põhiõiguste asjakohane kaitse.

Kaasatud tehisintellekti liik

Kohtuasja keskmes olev tehisintellekti tehnoloogia on automatiseeritud näotuvastus (AFR). AFR Locate’i süsteem hõlmab valvekaamerate kasutuselevõttu, et jäädvustada kodanike digitaalseid pilte, et ristviidata politsei jälgitavate inimeste nimekirjadele. Jälgitavate inimeste nimekirjad luuakse kujutistest, mida SWP hoiab andmebaasides osana tavapärasest politseitööst. Tehnoloogia kasutab algoritme, et tuvastada nägusid reaalajas tehtud salvestitest, ekstraktida näojooni igalt lähikonnas asuvalt inimeselt, teisendada need biomeetrilisteks mallideks (numbrilised esitused) ning sobitada need „sarnasusskoori“ genereerimiseks jälgitavate inimeste nimekirjade andmetega. Kui nägu ei loeta vasteks, kustutatakse see kohe süsteemist. Inimoperaator kontrollib manuaalselt iga võimalikku vastet, et otsustada, kas täiendavaid meetmeid on vaja või mitte.

AFR tehnoloogia kasutamine hõlmab laia teabevaliku kogumist, töötlemist ja säilitamist, hõlmates: 1) näokujutisi; 2) näojooni (s.t biomeetrilisi andmeid); 3) metaandmeid, sealhulgas aega ja asukohta; 4) teavet vastete kohta jälgitavate inimeste nimekirjas olevate isikutega. Kuigi AFR-i kasutamine ei ole varjatud, on siiski mõistlik eeldada, et suur osa inimesi, kelle näobiomeetrikat on SWP jäädvustanud ja töödelnud, ei ole AFR-i kasutamisest teadlikud. Rohkem kui 50 kasutusjuhtumi käigus, mis aastatel 2017 ja 2018 ette võeti, võidi skaneerida umbes 500 000 nägu. Valdavat enamikku isikutest, kelle biomeetrilisi andmeid SWP AFR Locate’i abil püüab ja töötleb, ei kahtlustatakse üheski väärteos ja nad ei paku ka muul viisil politseile huvi.

Rikutud õigused

Appellatsioonikohus otsustas, et SWP-poolne reaalajas näotuvastuse (AFR Locate) kasutamine häiris õigust eraelu puutumatusele (EIÕK artikkel 8), mis inkorporeeriti Ühendkuningriigi õigusesse 1998. aasta inimõiguste seadusega. Kohus põhjendas, et AFR tehnoloogia jäädvustab ja töötleb avalikus ruumis näobiomeetrilisi andmeid isikutel – sealhulgas neil, keda ei kahtlustata üheski väärteos – ning et need andmed on unikaalselt tuvastatavad, tundlikud ning neid töödeldakse ilma nõusolekuta. Kuigi AFR-i kasutati avalikult ja see ei säilitanud vasteta kujutisi, rõhutas kohus, et biomeetriliste andmete jäädvustamine ja võrdlemine iseenesest oli juba privaatsusõiguse riive. Lisaks leidsid kohtunikud, et AFR-i kasutamise õiguslik raamistik ei olnud selge, iseäranis selle asjus, keda võis politsei jälgitavate inimeste nimekirja panna ja millal tehnoloogiat juurutada – jättes liiga suure kaalutlusõiguse individuaalsete politseinike kätte, samuti puudus ennustatavus, mis on vajalik kaitse meelevaldse riikliku järelevalve eest.

Kuigi kohus tugines riiklikele õigusnormidele ja EIÕK sätetele, kehtib osa põhjendusest ka EL-i põhiõiguste hartas sätestatud õiguste kaitsmise suhtes. Kõige otsesemalt tagab harta artikkel 7 eraelu austamise, artikkel 8 aga isikuandmete kaitse, kaasates nõude, et isikuandmeid tuleb töödelda õiglaselt, kindlaksmääratud eesmärkidel ja selgel õiguslikul alusel. Kohtu kriitika – et AFR Locate’i süsteemi kasutamisel puudus piisavalt määratletud õiguskord, ei antud juhiseid tegevusalase kaalutlusõiguse kohta ja tekitati ebaproportsionaalse järelevalve oht – on kooskõlas harta nende standarditega. Lisaks väljendas apellant muret kaudse diskrimineerimise pärast, eelkõige seoses võimaliku rassilise või soolise kallutatusega AFR-i vastemäärades, mis puudutab harta artiklit 21 (mittediskrimineerimine). Kuigi kohus ei tuvastanud sellel põhjusel rikkumist, tunnistati, et sellised riskid nõuavad pidevat kontrolli.

Kohtuasja tulemus

Appellatsioonikohtu otsus viitab vajadusele selge õigusliku raamistiku järele, mis reguleeriks näotuvastustehnoloogia kasutamist. EL-i tasemel käsitleb tehisintellektimäärus seda lünka, tuues ära konkreetsed regulatiivsed nõuded, mis tuleb täita enne, kui reaalajas RBI-d saab kasutada korrakaitse eesmärgil.

Kohtuasja peamised asjaolud

Pa Edrissa Manjang töötas Oxfordshire’s Uber Eats kullerina alates 2019. aastast. Vaidlus ettevõttega tekkis siis, kui tal ei õnnestunud korduvalt platvormile juurde pääseda ebaõnnestunud automatiseeritud isikutuvastuse kontrolli tõttu. Uber Eats nõudis kulleritelt „elavate selfide“ (live selfies) esitamist, mida võrreldi salvestatud profiilipiltidega Microsofti jõul toimiva tehisintellekti näotuvastussüsteemi abil. Alates 2021. aastast ebaõnnestusid need kontrollid tema puhul korduvalt, mille tulemuseks oli esiteks tema konto peatamine ning lõpuks tema deaktiveerimine „jätkuvate mittevastavuste“ tõttu. Sel perioodil ei saanud hr Manjang töötada ja ei saanud praktiliselt mingit teavet tema väljaarvamise põhjuste või süsteemi protsesside kohta. Oluline on see, et tal puudus tõhus vahend tema elatise üle otsustavate automatiseeritud otsuste vaidlustamiseks. Võrdõiguslikkuse ja inimõiguste komisjoni (Equality and Human Rights Commission ehk EHRC) ning rakendusi kasutavate autojuhtide ja kullerite ühingu (App Drivers & Couriers Union ehk ADCU) toetusel esitas ta Uber Eatsi vastu nõude, tuues välja algoritmilisest haldusest tulenevad riskid vabakutselisi kasutavas tööstuses.

Kohaldatavad seadused

Kohtuasja arutati peamiselt Ühendkuningriigi võrdõiguslikkuse seaduse alusel, mis keelab diskrimineerimise selliste kaitstud tunnuste alusel nagu rass. Vaidlus seisnes selles, et näotuvastuse kontrollid ebaõnnestusid ebaproportsionaalselt mustanahalise töötaja puhul, põhjustades kaudse rassilise diskrimineerimise.

Lisaks võrdõiguslikkuse õigusaktile, kaasati diskussiooni ka andmekaitsealased õigusaktid, eelkõige Ühendkuningriigi isikuandmete kaitse üldmäärus (UK GDPR ehk IKÜM). Biomeetrilised andmed (näiteks näokujutised) on delikaatsed isikuandmed ning nende töötlemine peab vastama seaduslikkuse, õigluse, läbipaistvuse ja täpsuse nõuetele. Selge teabe puudumine menetlemise kohta ja süsteemi tõrked, asjakohaste tehniliste meetmete puudumine, samuti organisatsiooniliste meetmete puudumine –näiteks tõhusa edasikaebamismehhanismi  puudumine – tekitas muret õigusaktidele vastamise osas.

Kaasatud tehisintellekti liik

Kõnealune tehnoloogia oli automatiseeritud näotuvastus- ja kontrollisüsteem, mida kasutati kullerite isikusamasuse kinnitamiseks enne Uber Eats rakendusele juurdepääsu andmist. Sellistele süsteemidele tuginetakse üha enam platvormimajanduses, et ära hoida pettusi, kuid on hästi teada, et neil on erinevates demograafilistes rühmades erinevad veamäärad. Näotuvastustarkvara toimis tumedamate nahatoonidega inimeste puhul vähem täpselt, kinnistades seeläbi süsteemset kallutatust näiliselt neutraalsetes kinnitusprotsessides. Hr Manjangi puhul tähendas süsteemi läbipaistmatus ja piiratud inimjärelevalve, et turvameetmena kavandatu muutus takistuseks majanduslikule osalemisele.

Rikutud õigused

Selle juhtumi puhul rikuti mitut põhiõigust. Esiteks oli nõude kese mittediskrimineerimise õigus (artikkel 21), kuna süsteem näis käituvat rassiliselt eristavalt. Teiseks rikuti õigust töötada (artikkel 15), koos õigusega õiglastele töötingimustele (artikkel 31), kuna hr Manjangi väljaarvamine platvormilt võttis talt otseselt sissetuleku teenimise vahendid. Viimaseks rikuti õigust eraelu puutumatusele ja andmekaitsele (vastavalt artiklid 7 ja 8), eriti seoses biomeetriliste andmete kogumise ja töötlemisega, ilma piisava teabe ja läbipaistvuseta või muude kaitsemeetmeteta ebatäpsete tulemuste vastu.

Kohtuasja tulemus

Hr Manjang esitas oma nõuded esimest korda 1. oktoobril 2021. aastal. Uber taotles kohtult tema nõude väljaviskamist. Kohus jättis selle taotluse rahuldamata pärast 2022. aasta mais toimunud istungit, mis leidis suures osas kinnitust pärast täiendavat läbivaatamist 2023. aasta septembris. Menetlus lõppes Uber Eatsi ja hr Manjangi vahelise rahalise kokkuleppega. Kuigi Uber Eats ei tunnistanud vastutust, täheldati kokkuleppega märgatavat kahju tunnistamist, mida vigased tehisintellektisüsteemid võivad üksikutele töötajatele tekitada, eriti kui puudutatud isikutele ei teavitata korralikult või kui neile ei tagata otsuste vaidlustamise mehhanisme. Kulleri juurdepääs rakendusele taastati, ometi ei selgitanud ettevõtte täielikult tema konto peatamiseni viinud protsesse. Tulemus valgustab sellegipoolest tõsiseid lünki, mida kogevad sageli vabakutselised töötajad, samuti vastutusmehhanismide, läbipaistvusekohustuse ja tõhusate õiguskaitsevahendite aina suuremat tähtsust tööhõive kontekstis kasutatavate tehisintellektisüsteemide haldamisel.

 

Kohtuasja peamised asjaolud

2025. aasta märtsis võttis Ungari parlament vastu muudatused, millega kriminaliseeriti LGBTQIA+ meeleavaldused ja oluliselt laiendati näotuvastustehnoloogia (FRT) kasutamist. Täpsemalt peetakse nüüd osalemist kogunemistel, mis rikuvad „homoseksuaalsuse kujutamise või reklaamimise“ (vastavalt lastekaitseseadusele) keeldu trahviga karistatavaks rikkumiseks. See seadus laiendas ka näotuvastustehnoloogia kasutamist, lubades Ungari politseil seda tehnoloogiat kasutada igat liiki rikkumismenetlustes, sealhulgas keelatud kogunemistel osalemise puhul, kusjuures varem oli see lubatud vaid rikkumiste puhul, mida karistati vabadusekaotusega. Järelevalve laiem kasutamine põhineb videomaterjalil, sealhulgas avalikel meeleavaldustel salvestatul.

Kohaldatavad seadused

Mõjutatud on mitmed hartas märgitud õigused, eelkõige õigus eraelu puutumatusele, mittediskrimeerimisele ja õigus rahumeelsele kogunemisele. Alates 2025. aasta veebruarist kehtiva EL-i tehisintellektimääruse artikkel 5 keelab reaalajas biomeetrilise kaugtuvastamise süsteemide (RBI) kasutamise avalikus ruumis õiguskaitse eesmärgil, välja arvatud üksikutel kitsalt määratletud juhtudel. Lisaks kehtib isikuandmete töötlemisel süsteemi osana õiguskaitseasutuste direktiiv (Law Enforcement Directive ehk LED). 2025. aasta märtsis muudetud Ungari riiklike seaduste hulka kuuluvad kogunemiste seadus, rikkumiste seadus ja näokujutiste analüüsi registri ja süsteemi seadus. Teatud kogunemiste ärakeelamise õiguslikuks aluseks kasutatakse lastekaitse seadust.

Kaasatud tehisintellekti liik

Ungari politseil on näotuvastustehnoloogial (FRT) põhinev tehisintellektisüsteem, mida kasutati selle biomeetrilise kaugidentifitseerimise (RBI) kohtuasja puhul. Ungari süsteem võimaldab osana rikkumismenetlusest „automaatselt võrrelda“ liikumatuid kujutisi (sageli valvekaamera või politsei salvestistest meeleavaldustelt) valitsuse andmebaasiga, et isikuid tuvastada. Süsteem suudab automaatselt muuta näokujutisi biomeetrilisteks mallideks ja saata lähimate vastete ühenduskoodid politseile, kes teeb seejärel kindlaks kahtlustatava isiku. Viiteandmebaas, mida tuntakse näokujutise analüüsi registrina, koosneb biomeetrilistest mallidest, mis on saadud valitsuse andmebaasis olevatest kujutistest – ID-dest, passidest, juhilubadest ning karistus- või varjupaigaregistritest. Ungari näotuvastustehnoloogia seaduse muudatuste kohaselt on politseile antud võimalus otse süsteemiga ühendus luua ja võrdlusi läbi viia, mis võimaldab kiiret tuvastamist meeleavalduste ajal. Sel põhjusel võib seda süsteemi pidada „reaalajas“ või „kvaasireaalajas“ süsteemiks.

Rikutud õigused

  • Artikkel 1 – Inimväärikus: praidi rongkäigul osalejatele suunatud biomeetrilise järelevalve kasutamine stigmatiseerib LBGTQIA+ inimesi ja neid üksnes põhivabaduste kasutamise tõttu võimalike õigusrikkujatena käsitledes õõnestab nende väärikust.
  • Artikkel 7 – Era- ja perekonnaelu austamine: inimeste pidev salvestamine ja biomeetriline jälgimine praidil ja teistel kogunemistel võib sekkuda eraellu ja tekitada pärssiva mõju isiklikele ühendustele.
  • Artikkel 8 – Isikuandmete kaitse: näokujutiste automaatne töötlemine biomeetrilisteks mallideks riiklikest andmebaasidest toimub ilma kaitsemeetmete, nõusoleku või läbipaistvuseta, rikkudes tõenäoliselt andmekaitsestandardeid.
  • Artikkel 11 – Sõnavabadus: biomeetrilise järelevalve kaudu tuvastamise ja trahvitud saamise oht võib heidutada inimesi avaldamast meeleavaldustel oma seisukohti või identiteete.
  • Artikkel 12 – Kogunemis- ja ühinemisvabadus: praidi rongkäike kriminaliseerides ja lubades FRT-l osalejaid tuvastada ja karistada, võivad muudatused otseselt õõnestada õigust rahumeelseid kogunemisi korraldada ja nendega ühineda.
  • Artikkel 21 – Diskrimineerimiskeeld: muudatused on ebaproportsionaalselt suunatud LGBTQIA+ inimeste vastu, keelates praidi nn lastekaitseseaduse alusel, tuues tõenäoliselt kaasa ebavõrdse kohtlemise ning diskrimineerivad piirangud kogunemis- ja sõnavabadusele.
  • Artikkel 41 – Õigus heale haldusele: see õigus võib olla mõjutatud, kui teabevabaduse (FOI) taotlused FRT kasutamise kohta jäävad vastuseta, ja kui biomeetrilise järelevalve kasutamise järel trahvitud inimesi ei teavitata või neid otsuseid ei põhjendata.
  • Artikkel 47 – Õigus tõhusale õiguskaitsevahendile ja õiglasele kohtulikule arutamisele: inimestel, keda karistatakse praidil osalemise või FRT poolt skaneerimise eest, võivad puududa tõhusad õiguslikud viisid meetmete vaidlustamiseks, kuna riiklikud õiguskaitsevahendid on nõrgad ja põhiseaduslikud kaebused pakuvad vähest kaitset.

Kohtuasja tulemus

Alates 2025. aasta septembrist on seadus töös ja EL-i institutsioonid ei ole Ungari valitsuse vastu meetmeid kasutusele võtnud. 2025. aasta juunis kutsus ligi 50 kodanikuühiskonna organisatsiooni Euroopa Komisjoni üles viivitamatult Ungari uute seaduste vastu tegutsema. Nad saatsid EL-i kõrgetele ametnikele ühise avatud kirja, kutsudes komisjoni üles viivitamatult õigusaktidele hinnangut andma ja tagama, et praidi korraldajad ja osalejad saaksid ohutult oma õigusi kasutada. Organisatsioonid nõudsid iseäranis, et komisjon algataks rikkumismenetluse seoses EL-i õiguse rikkumisega, sealhulgas tehisintellektimääruse artikliga 5 ja sellega seotud põhiõiguste harta rikkumistega, eelkõige õigusega rahumeelsele kogunemisele. Samuti kutsusid nad komisjoni üles nõudma Ungari ametiasutustelt asjakohast teavet FRT kasutamise ja tehniliste üksikasjade kohta, kuna riigisisesed teabevabaduse taotlused ei olnud rahuldavad. Lisaks kutsusid nad komisjoni üles taotlema Euroopa Liidu Kohtult (CJEU) ajutiste meetmete kasutusele võtmist Ungari kehtiva 2021. aasta LBGT-vastase seaduse kohta, mis on keelu õiguslikuks aluseks. See olukord võib olla EL-i tehisintellekti eeskirjade jõustamise katsejuhtum. Muret on väljendanud ka Euroopa Parlament, Põhiõiguste amet ja Euroopa Kohtu kohtujurist. Kui sellega ei tegeleta, võib see luua murettekitava pretsedendi, viies potentsiaalselt selleni, et teised liikmesriigid võtavad vastu sarnased õigusaktid.

 

Kohtuasja peamised asjaolud

2025. aastal ründas Hispaanias naist surmavalt tema endine elukaaslane. Kolm nädalat enne intsidenti võttis naine politseiga ühendust, kuna kartis oma turvalisuse pärast. Tema juhtum lasti läbi VioGen algoritmist, mis on Hispaania politsei poolt kasutatav veebipõhine tööriist kodu- või lähisuhtevägivalla riski hindamiseks. Tööriist kasutab riskinäitajaid, et anda igale juhtumile individuaalne hinne. See hinne määrab seejärel, millist kaitset politsei ja kohtud pakuvad. Kõnealusele naisele anti hinnang „keskmine“ risk ja sellest tulenevalt keeldus kohus lähenemiskeeldu andmast. Politsei pidi temaga kuu hiljem ühendust võtma. Kuid enne kui nad seda teha said, kägistas naise tema endine elukaaslane, kes seejärel pani põlema tema maja, kui lapsed veel sees olid. Lapsed said põgenema ja mees võeti seejärel kinni ja pandi kohtu alla. VioGeni tööriista kasutamine politsei poolt on pälvinud märkimisväärset tähelepanu, eriti kuna mõned uuringud viitavad sellele, et korrakaitsjad tuginevad suuresti tööriista ennustustele.

Kaasatud tehisintellekti liik

Terviklik seiresüsteem soopõhise vägivalla juhtumite jaoks – VioGen on veebirakendus, mis koosneb kahest elektroonilisest vormist: VPR (politsei riskihinnang) ja VPER (politsei riskievolutsiooni hinnang). See tööriist aitab analüüsida taasohvristamise riski ning soovitab vastavalt riskitasemele naiste kaitseks asjakohaseid meetmeid. VioGeni hinnanguid viib läbi ainult politsei, kuid tulemustele pääsevad ligi erinevad haldusorganid, mis on seotud kas ohvrite kaitse ja hooldamisega või kurjategijate järelevalve ja kontrolliga (nt kinnipidamisasutused, kohtud, uurimisasutused, võrdõiguslikkuse asutused, sotsiaalteenused).

VioGen ennustab soopõhise vägivalla riski, mida mõistetakse füüsilise, seksuaalse või psühholoogilise vägivallana, või sellega ähvardamisena, sealhulgas kohtuotsuste mittetäitmisena. Tööriist võeti esmakordselt kasutusele 2007. aastal ja selle kõige uuem versioon (väljastatud 2019. aastal) sisaldab konkreetset skaalat väga tõsise või surmava vägivalla tõenäosuse hindamiseks, samuti konkreetseid hoiatusi kui ohus on alaealised. Tööriista VPR osa sisaldab 35 riskinäitajat, mis on grupeeritud viide mõõtmesse (vägivaldne ajalugu, vägivallatseja tunnused, ohvri haavatavus, lastega seotud asjaolud ja raskendavad asjaolud). VPER osas on 36 riskinäitajat, mis on grupeeritud kuude mõõtmesse (vägivaldne ajalugu, ennetavate kohtulike meetmete järgimata jätmine või kriminaalkaristuste või julgeolekumeetmete rikkumine pärast viimast hindamist; kallaletungija omadused ja käitumine; kallaletungija positiivse käitumise tõendid; ohvri käitumise ja asjaolude tõendid; riski tajumine ja korrigeerimine).

VPR viiakse läbi siis, kui politsei saab teate soopõhisest vägivallaaktist. Seega on peamine infoallikas kannatanu. VPER-i läbiviimisel näitavad politseinikud, kuidas nad on ristkontrollinud kannatanu poolt esitatud teavet teiste allikatega, näiteks teiste politseinikega, kuriteo täideviijaga, naabrite või tunnistajatega, perekonnaliikmetega, võimaluse korral ka tehniliste aruannetega, näiteks terviseandmetega. Nii VPR kui ka VPER on aktuaarsed tööriistad algorimipõhiseks automaatseks riskihindamiseks. Algoritmi keskmes olevat valemit avalikult ei avalikustata, mistõttu ei ole võimalik kindlaks teha igale üksikule riskitegurile omistatud kaalu. Ei VPR ega VPER ei ole iseõppivad. Küll aga on plaanis sisestada tööriistale arenenud masinõppe analüütika ning juba on tehtud kontseptuaalset tööd prototüübi väljatöötamiseks.

Süsteem annab pärast vormide täitmist automaatselt riskihinnangu viie riskiastmega järjestusskaalal: „hindamata“, „madal“, „keskmine“, „kõrge“ ja „äärmiselt kõrge“. VioGeni tööriista kõige uuem versioon hindab konkreetselt mõrvariski. Kui selline risk on olemas, isegi kui üldine hinnang näitab, et üldise retsidivismi risk on „hindamata“ või „madal“, tõstab süsteem selle automaatselt „keskmiseks“ või „kõrgeks“.

VioGeni täpsuse tase ja piirangud

Andmed VioGeni tööriista jõudluse kohta näitavad väga väikest valenegatiivide arvu. See tähendab, et kui süsteem näitab, et riskitase on „hindamata“ või „madal“, ei koge ohvrid üldjuhul korduvat vägivalda. Sel suundumusel on positiivne mõju, kuna see tagab, et vägivallakuriteos süüdistatavate isikute õigusi ei piirata tarbetult.

Samas tekitab tööriist arvestatava hulga valepositiivseid tulemusi. See tähendab, et enamikul juhtudel, mis on hinnatud „keskmiseks“ või „suureks“ riskiks, korduvat agressiooni ei esine. See suundumus tuleneb mingil määral VioGeni hinnangu järel kasutusele võetud kaitsemeetmetest. Kuid see tuleneb ka süsteemi sisemisest ülesehitusest, mille eesmärk on tagada, et ükski naine, kes võib vajada kaitset, ei jääks piisava toetuseta.

VioGeni peamine piirang on selle tööriista algoritmi läbipaistvuse puudumine. Teine probleem on seotud sisendandmete kvaliteediga. Kuna hindamisel kasutatavate andmete peamine allikas on kannatanu, ei ole võimalik tagada täpset ennustust uuesti ohvriks langemise kohta, välja arvatud juhul, kui ohvrid on politseile tunnistust andes ausad ja avatud.

 

Materjalid

Inimesed

Ostukorv
Maksma - 0 €
  • 0
  • 1