Uus uuring on näidanud, et eelarvamuste ilmutamine teiste suhtes ei vaja erilist luureandmeid ja see võib kergesti areneda kunstlikult intelligentsetes masinates.
Cardiffi ülikooli ja MIT-i psühholoogid ja infotehnoloogiaspetsialistid on näidanud, et autonoomsete masinate rühmad võivad avaldada eelarvamusi, lihtsalt määratledes sellist käitumist, kopeerides seda ja õpetades seda vastastikku.
Võib tunduda, et eelarvamus on puhtalt inimlik nähtus, mis nõuab inimese intelligentsusest arvamuse või stereotüübi kujundamist inimese või rühma kohta. Ehkki teatud tüüpi arvutialgoritmides on juba avalikkuse arhivaalide ja muude inimeste loodud andmete uurimise põhjal ilmnenud selliseid eelarvamusi nagu rassism ja seksism, demonstreerib uus töö AI võimet iseseisvalt rühmi arendada eelarvamustega.
Uurimistöö on avaldatud ajakirjas Scientific Reports. See põhineb arvutisimulatsioonidel, kuidas erapoolikud virtuaalagendid saavad rühmi moodustada ja üksteisega suhelda. Simulatsiooni käigus otsustab iga inimene, kas aidata kedagi oma grupist või teisest, sõltuvalt selle inimese mainetest ja ka enda strateegiast, mis hõlmab nende eelarvamuste taset kõrvaliste suhtes. Pärast tuhandete simulatsioonide läbiviimist õpib iga inimene uusi strateegiaid, kopeerides teisi - olgu nad siis oma rühma liikmed või kogu "elanikkond".
Agentide omaduste suhteline kumulatiivne sagedus eelarvamuste taseme järgi / Roger M. Whitaker.
“Pärast nende simulatsioonide käitamist tuhandeid ja tuhandeid kordi järjest hakkasime aru saama, kuidas eelarvamused arenevad ja millised tingimused on vajalikud selle viljelemiseks või ärahoidmiseks,” ütles uuringu kaasautor, professor Roger Whitaker kriminaal- ja turbeuuringute instituudist ning Cardiffi ülikooli arvutiteaduse ja arvutiteaduse koolist. „Meie simulatsioonid näitavad, et erapoolikkus on võimas loodusjõud ja evolutsiooni kaudu saab seda virtuaalsetes populatsioonides stimuleerida, et kahjustada laiemaid seoseid teistega. Kaitse eelarvamustega rühmade eest võib tahtmatult viia teiste eelarvamustega rühmade moodustumiseni, mis kutsub esile suurema elanikkonna jaotuse. Sellist laialt levinud eelarvamust on raske ümber pöörata.”
Uurimisandmed hõlmavad ka isikuid, kes suurendavad oma eelarvamuste taset, kopeerides eelistatavalt need, kes saavad parimaid lühiajalisi tulemusi, mis omakorda tähendab, et sellised otsused ei vaja tingimata erilisi võimeid.
"On täiesti usutav, et autonoomsed masinad, mis on võimelised tuvastama diskrimineerimist ja kopeerima teisi, võivad tulevikus olla vastuvõtlikud eelarvamuste nähtustele, mida me ühiskonnas näeme," jätkab professor Whitaker. „Paljud AI arengud, mida me täna näeme, hõlmavad autonoomiat ja enesekontrolli, see tähendab, et seadmete käitumist mõjutavad ka ümbritsevad inimesed. Viimaste näidete hulka kuuluvad transport ja asjade Internet. Meie uurimistöö pakub teoreetilist ülevaadet sellest, kus simuleeritud agendid pöörduvad perioodiliselt ressursside poole."
Reklaamvideo:
Teadlased leidsid ka, et teatud tingimustel, sealhulgas sama ühiskonna jagunenud alampopulatsioonide olemasolul, on eelarvamusi keerulisem tugevdada.
„Suure hulga alampopulatsioonidega saavad erapooletud rühmaliidud koostööd teha ilma, et neid ära kasutataks. See vähendab ka nende vähemuse staatust, vähendades samal ajal nende vastuvõtlikkust eelarvamuste kehtestamiseks. See nõuab aga ka olukordi, kus agendid on soodsamalt suhtlemisele oma grupist väljaspool, “lõpetas professor Whitaker.
Vladimir Guillen
