Tehisintellekt ja diskrimineerimine värbamisel

Üha enam kasutust leidval tehisintellektil on oma mõju ka inimõigustele. Kahtlemata enim on mõjutatud eraelu puutumatus, ent mõjusid on ka teistele inimõigustele, nagu näiteks õigusele võrdsele kohtlemisele. Nagu teame, on innovatsioon on alati poliitiline, st sõltub valikutest, mida ühiskonnas teeme ja väärtustest, mida oleme otsustanud järgida. Nii võib suurandmetel põhineva andmekorje tulemusel seniseid diskrimineerivaid mustreid veelgi kinnistada, aga see võib olla ka võimalus inimlikest eelarvamustest mööda saamiseks.

Tehisintellekti all mõistetakse paljusid tehnoloogiaid, mille käigus algoritmid suurtest andmemassidest kujunenud mustritest “õpivad” ja seega “targemaks muutuvad,” et teha nende põhjal otsuseid ka tulevikus ette tulevate olukordade jaoks. Seda kasutatakse igapäevaselt: kasvõi internetiotsingu tegemisel järjestab tulemusi tehisintellekt, aga neid otsuseid kasutatakse ka laenu ja liisinguotsuste tegemisel, klienditeeninduse vestlusbotides ja paljudes muudes kohtades. Räägime täna konkreetsest olukorrast, mis võib puudutada ka Eestis töötajaid värbavaid tööandjaid.

Diskrimineerimise ohte on tehisintellekti puhul mitmeid. Näiteks siis, kui algoritm kasutab õppimiseks andmekogusid, mis on ajalooliselt juba ühe või teise vähemuse osas vigane või puudulik. Kui näiteks treenida värbamisalgoritm vanuse või soo alusel diskrimineerivate andmetega, siis on ka algoritm ise diskrimineeriv. Kuna tehisintellekti “sisse” selle keerulisuse tõttu ei nähta, siis on sellise diskrimineerimise avastamine eriti keeruline. Näiteid selle kohta, kuidas tehisintellekti otsused eelistavad värbamisel meessoost kandidaate või põhinevad muul ebarelevantsel infol, on paraku juba palju.

Tehisintellekti kasutamine ei ole õigustus värbamisel diskrimineerida, seadused kehtivad ka sellisel juhul. Samuti tuleb tehisintellekti kasutamisel valmis olla selleks, et selle põhjal tehtud otsuseid vaidlustatakse ja nõutakse nende ülevaatamist inimese poolt, nagu isikuandmete kaitse üldmäärus ette näeb.

Kuna oled siin...

Halvad asjad juhtuvad seetõttu, et head inimesed on liiga passiivsed. Kui ka Sind on häirinud sallimatus ja inimõigustele vastandumine, siis tegutse!

Aruanne “Inimõigused Eestis 2018-2019” tuleb peagi! Selleks, et aruanne 10. detsembril ilmuda saaks, on meil vaja veel sinu toetust. Inimõigused kuuluvad kõigile ja meie soov on, et inimesed oleksid Eesti olukorrast teadlikud. Toeta teadmiste levikut.

Annetan

Samas võib algoritmi abil värbamine olla õiglasem kui inimeste abil. Oma teadvustatud või teadvustamata eelarvamustest on raske üle olla ning seetõttu on diskrimineerimise risk värbamisel niigi üpris suur. Nooruse või eakuse, puude või muude aluste tõttu kõrvale jäetuks saamise risk on suurem. Kui aga appi võtta läbipaistev ja esinduslik, demograafiliselt tasakaalus tehisintellekt, võivad kandideerimisel võimaluse saada ka need, kellest tavapärases protsessi mööda vaadatakse.

Tehisintellekt on värbamisel juba üpris palju kasutusel. Kui näiteks otsite töötajaid LinkedIn-is või Google reklaamidega, siis kasutate juba täna tehisintellekti osana värbamisprotsessist ning te ei pruugi tegelikult omada selget ülevaadet, kellele ja mis alusel teie ettevõtte töökuulutust näidatakse ja kellele mitte. Seetõttu tasub kasutada tehisintellekti kõrval ka traditsioonilisi kanaleid ning hoolitseda selle eest, et tehisintellekti kasutamine oleks läbipaistev ja arusaadav nii endale kui värvatavatele.

Eesti Inimõiguste Keskus toob kokku teadmised ja oskused nii diskrimineerimise vastu võitlemise kui privaatsuse ja isikuandmete kaitse vallas. Koordineerime ka tööandjate koostööd mitmekesisuse ja kaasatuse edendamisel läbi mitmekesisuse kokkuleppe, märgise “austame erinevus” ja mitmekesisuse päeva.

#ettevotlus-ja-inimoigused #mitmekesisus #mitmekesisuse-kokkulepe #margis #vordne-kohtlemine