Massachusettsi tehnoloogiainstituudi teadlaste uuringust selgus tehisintellekti abil andmete analüüsimise protsessi üksikasju, mida otsuste tegemisel juhinduvad sageli seksistlikud ja rassistlikud stereotüübid. Mitmed katses osalenud süsteemid näitasid vastuvõtlikkust inimeste eelarvamustele.
Briti ajaleht "The Daily Mail" kirjutab, et pärast uuringu tulemuste saamist kohustus teadlaste meeskond tehisintellekti ümber programmeerida, kõrvaldades varasemad probleemid. Massachusettsi tehnoloogiainstituudis töötava Irene Cheni sõnul kipuvad arvutiteadlased kiirustama järeldusele, et ainus viis rassismi ja seksismi elementide kõrvaldamiseks tehisintellekti algoritmides on tarkvarakoodi täiustamine. Algoritmide kvaliteet on otseselt võrdeline andmetega, milles nad töötavad. Cheni uuring koos David Sontagi ja Fredrik D. Johannsoniga näitab, et rohkem saadaolevaid andmeid võib radikaalselt asju paremaks muuta.
Ühes katses vaatas meeskond süsteemi, mis ennustas inimese sissetulekut olemasoleva teabe põhjal. Analüüs on näidanud, et 50% -l juhtudest kaldub algoritm ennustama, et naise sissetulek on keskmiselt väiksem kui mehe sissetulek. Kui suurendasite saadaolevate andmete hulka kümme korda, leidsid teadlased, et sellise vea tegur vähenes 40%.
Veelgi enam, haiglates kasutatava süsteemi uuringus, mis ennustab raske operatsiooniga patsientide ellujäämist, oli ennustuste täpsus Mongoloidi rassi osas palju madalam kui kaukaaslaste ja neegeride puhul. Teadlased väidavad siiski, et täiustatud analüüsimeetodi kasutamine võib märkimisväärselt vähendada prognoosimise täpsust patsientidel, kes ei kuulu Mongoloidi rassi. See näitab, et rohkem saadaolevaid andmeid ei pruugi alati parandada algoritmi vigu. Selle asemel peaksid teadlased saama rohkem teavet diskrimineeritud rühmade kohta.
Uus meetod tõstatab masinõppega teadlaste jaoks veel ühe küsimuse, kuidas andmeid tõhusalt analüüsida ilma olemasoleva diskrimineerimiseta.
Kuidas masinõpe AI-toega süsteemides töötab?
Tehisintellekti süsteemid põhinevad kunstlikel närvivõrkudel (ANNs), mis ekstrapoleerivad inimese aju kasutatud teabe salvestamise ja õppimise tehnikaid mehaanilistele süsteemidele. ANNS koolitab leidma olemasolevaid teabeallikaid, sealhulgas kõnet, teksti ja pilte. Andmeanalüüsi täpsuse parandamine on üks peamisi eeltingimusi, mis eelneb tehisintellekti uusimatele arengutele.
"Tavaline" tehisintellekt kasutab sisendandmeid, et öelda algoritm analüüsi objekti kohta, töötades samal ajal tohutu hulga teabega.
Reklaamvideo:
Masinõppe praktiliste rakenduste hulka kuuluvad Google'i tõlketeenused, Face Facebooki fotode näotuvastus ja Snapchati filtrid, mis skaneerivad nägusid enne visuaalefektide rakendamist veebis.
Andmesisestuse protsess on sageli aeganõudev ja seda piirab tavaliselt teabe liikumine uuritava objekti ühe aspekti kohta. Uut tüüpi ANN - generatiivne võistlev närvivõrk - seisab vastu kahe tehisintellektiga erineva roboti võimalustele korraga, provotseerides vähem intelligentse süsteemi õppima teise arvel ilma inimeste osaluseta. See tehnika parandab dramaatiliselt masinõppe tõhusust ja kiirust, parandades samal ajal andmete analüüsi kvaliteeti.
Oliy Kurilov
