Tehisintellekt luges Redditi kasutajate agressiivseid kommentaare ja mõistis, kuidas teisi inimesi vihkavad inimesed räägivad. Teda on keerulisem petta kui tavalist boti moderaatorit.
Internetti elavad rasvad ja õhukesed trollid ning lihtsalt ebaviisakad inimesed, kes ei lähe sõnade pärast taskusse. Interneti käsitsi modereerimine on raske ja tänamatu töö. Botid, mis on programmeeritud otsima sõnu "keelatud nimekirjast", teevad paremini, kuid nad ei saa teada, millal kaustne kommentaar koodsõnadega on kahjutu nali ja millal see on kuri verbaalne rünnak.
Kanada teadlased on õpetanud tehisintellekti eristama ebaviisakaid nalju haiget tegevatest naljadest ja seda, mida sotsioloogid nimetavad "vihakõneks".
AI üks loojatest Dana Wormsley märgib, et "vihakõnet" on keeruline vormistada. Formaalselt solvavaid sõnu võib tõepoolest kasutada nii irooniaga kui ka nende kergemas tähenduses; ainult mõned selliseid sõnu sisaldavad tekstid õhutavad ja alandavad tõsiselt. Me ei anna näiteid, sest Venemaal Internetti reguleerivatel valitsusorganisatsioonidel pole veel tehisintellekti).
Neuraalvõrku koolitati kogukonna liikmete avalduste valimite järgi, mis olid tuntud vaenulikkuse osas elanikkonna erinevate rühmade suhtes. Neuraalvõrk õpiti saidi Reddit postitustest - platvormilt, kus leiate väga erinevaid huvirühmi, kodanikuõiguste aktivistidest radikaalsete misogünistideni. Süsteemi üles laaditud tekstid solvasid kõige sagedamini afroameeriklasi, ülekaalulisi inimesi ja naisi.
Sel viisil koolitatud närvivõrk andis vähem valepositiivseid tulemusi kui programmid, mis määravad märksõna järgi "vihakõne". Süsteem haaras rassismi, kus indikaatorisõnu polnud üldse. Kuid hoolimata heast esitusest pole AI moderaatori loojad kindlad, et nende arengut hakatakse laialdaselt kasutama. Siiani on ta Redditist edukalt vihakõnesid leidnud, kuid kas ta saab sama teha ka Facebookis ja muudel platvormidel, pole teada. Lisaks on süsteem ebatäiuslik, kaotades mõnikord paljud näiliselt ebaviisakatest rassistlikest väidetest, mida märksõnaotsingumootor ei jätaks kasutamata. Ainus, kes suudab eristada solvanguid süütust naljast, kuni inimene jääb.
