AI on meie igapäevaelus muutumas järjest olulisemaks, kuid koos sellega kaasneb ka uusi väljakutseid, sealhulgas võimalik diskrimineerimine. 27.11.2023 toimus Taltechi ärikoolis Diskrimineerimise päev, kus tegin loengu käsitledes juhtumeid, kus tehisintellekt on tahtmatult toetanud diskrimineerivaid mustreid ja otsuseid.
Loeng keskendus kolmele peamisele küsimusele:
- Näited juhtumitest, kus AI diskrimineerib.
- Kuidas AI võib tahtmatult aidata kaasa diskrimineerimisele?
- Millised on AI diskrimineerimise põhjused ja mida saab nende vältimiseks teha?
Juhtumite illustreerimiseks esitasin mitu näidet:
- Lemonade Insurance: Kindlustusettevõtte AI analüüsis videoid, et tuvastada pettuse võimalikkust. Kasutades mitteverbaalseid vihjeid, võis süsteem tahtmatult luua eelarvamusi.
- Näotuvastus ja õiguskaitse: Robert Williams vahistati vigase näotuvastuse alusel kuriteo eest, mida ta ei olnud sooritanud.
- Amazoni värbamismudel: Automatiseeritud CV-de analüüsimise tööriist õppis minevikus tehtud valikute põhjal eelistama mehi, jättes naiste CV-d sageli kõrvale.
Miks AI diskrimineerib – põhjuseid on mitmeid:
- Kallutatud andmed: Kui treeningandmetes on ajaloolised eelarvamused, kanduvad need edasi mudelisse.
- Mitterepresentatiivsed valimid: Kui teatud gruppe ei esindata piisavalt, kipuvad mudelid nende suhtes eksima.
- Algoritmiline kallutatus: Mudelid võivad tugevdada eelarvamusi, kui nende arendamisel ei pöörata tähelepanu neutraalsusele.
- Arendusmeeskonna kallutatus: Inimesed, kes mudeleid loovad, võivad teadlikult või alateadlikult jätta tähelepanuta kriitilisi aspekte.
Kuidas vältida AI diskrimineerimist? Rääkisime ka lahendustest, mis aitavad AI-l diskrimineerimist vältida:
- Andmete tasakaalustamine ja mitmekesistamine.
- Algoritmide läbipaistvuse suurendamine.
- Regulatiivse raamistiku järgimine, nagu Euroopa Liidu põhiõiguste harta ja Eesti Soolise võrdõiguslikkuse seadus.
- Pidev monitooring ja tagasiside kogumine.
Loengu eesmärk oli tõsta teadlikkust AI ja diskrimineerimise teemadel ning näidata, et kuigi AI võib olla võimas tööriist, vajab see hoolikat järelevalvet ja vastutustundlikku kasutust. Loodan, et osalejad lahkusid loengust parema arusaamaga sellest, kuidas tehnoloogia võib mõjutada meie igapäevaelu ja kuidas seda mõju vastutustundlikult juhtida.