Amazoni tehisintellekt, mille eesmärk oli sortida tööotsijate elulookirjeldusi, reastas mehed naistest kõrgemale. Eelkõige lükkas ta tagasi CV-d sõnaga “naiselik” ja pakkus tööle palgata kandidaate, kes kasutasid oma kõnes tüüpilisi mehelikke verbe, isegi kui neil inimestel puudusid vajalikud oskused. Selle tulemusel pidi ettevõte projekti sulgema.
Tehisoskuse intelligentsus
Amazoni masinõppe eksperdid leidsid, et tehisintellekt, mis töötleb ettevõtte ametikohtade kandidaatide jätkamist, diskrimineerib naissoost tööotsijaid, vahendas Reuters. Seda funktsiooni ei olnud süsteemi tahtlikult lisatud - see oli masinõppe tulemus.
Tehisintellektil põhinevat jätkamissorteerimise mootorit on Amazon'is arendatud alates 2014. aastast 12-liikmelise meeskonna poolt Edinburghis. Juba 2015. aastal märkas ettevõte, et tarkvara arendamise ametikohtade kandidaatide ja muude tehniliste vabade ametikohtade hindamisel ei järginud uus süsteem soolise neutraalsuse põhimõtet.
Varsti mõistsid nad põhjuse: tõsiasi on see, et süsteemi koolitati ettevõtte poolt viimase 10 aasta jooksul sisestatud residentide osas. Enamik neist jätkamist olid meeste käes, mis kajastab üldjoontes IT-tööstuse olukorda. Selle tulemusel sai Amazoni tehisintellekt teada, et mehi eelistatakse naistele tööotsijaid.
Keeleline tagasilükkamine
Reklaamvideo:
Selle tulemusel hakkas tehisintellekt ära jätma CV-d, mis sisaldavad sõna "naine" sellistes väljendites nagu "naiste maleklubi kapten". Mehhanism alandas ka kahe naiskolledži lõpetajate palgaastmeid, kuid Reutersi allikad ei täpsustanud nende nimesid. Jätkamiste hindamisel andis tehisintellekt neile ühe kuni viie tärni - see on väga sarnane sellele, kuidas ostjad tooteid Amazonil hindavad.
Süsteem pööras tähelepanu ka teistele sõnadele. Arendajad on loonud 500 arvutimudelit erinevate töökohustuste ja geograafiliste asukohtade jaoks. Kõiki mudeleid koolitati ära tundma umbes 50 tuhat signaalsõna, mis olid olemas kaebaja CV-s.
On tähelepanuväärne, et mehhanism eiras IT-spetsialistide tööstuses sageli välja toodud oskusi tähistavaid sõnu, näiteks võime kirjutada erinevaid koode jne. Selle asemel jälgis süsteem kandidaatide enesekirjelduses näiteks meeskõne tüüpilisi tegusõnu, näiteks "täidetud" (hukatud) või "kinni pandud", nagu neid nähti korrapäraselt vanas CV-s, millest masin õppis. Selle lähenemisviisi korral polnud sooline diskrimineerimine ainus probleem - mehhanism soovitas sageli inimesi, kellel polnud ametikoha jaoks vajalikke oskusi.
Projekti edasine saatus
Amazon on süsteemi kohandanud nii, et see ei reageeri enam signaalsõnadele. See ei olnud aga garantii, et mehhanism ei leia muud viisi naiste omanduses olevate elulookirjelduste tuvastamiseks. 2017. aasta alguseks oli ettevõte projektist pettunud ja meeskonna laiali saatnud. Reutersi allikad väidavad, et personalispetsialistid võtsid süsteemi soovitusi arvesse, kuid ei lootnud kunagi ainult neile.
Üks allikatest ütleb, et projekt on suletud. Teine väidab, et mehhanismi väljatöötamise jätkamiseks moodustati Edinburghis uus meeskond, kuid seekord keskenduti õiglusele ja kaasamisele. Veel üks allikas teatas, et rutiinsete tööde tegemiseks, näiteks duplikaatide jätkamise eemaldamine andmebaasist, kasutatakse nüüd mootori tugevalt muudetud versiooni.