Ameerika Ühendriikide presidendivalimiste kampaania on ametlikult alanud, mis omakorda tähendab hulgaliselt kummalisi ja salakavalaid viise, kuidas tehnoloogia moonutab poliitikat. Üks suurimaid ohte on kunstlikud isiksused, kes osalevad kirglikult poliitilistes vaidlustes. Ühelt poolt areneb tehisintellektil põhineva teksti genereerimise tehnoloogia kiiremini kui kunagi varem, teisalt on suhtlusvõrgustikes olevad vestlussaated peaaegu täiuslikkuseni jõudnud. Need arvutiga loodud "inimesed" uputavad varsti veebis tõelised inimlikud arutelud.
Teksti genereerimise tarkvara on piisavalt arenenud, et lollitada peaaegu kõiki. Arvuti sobib suurepäraselt uudiste kirjutamiseks, eriti spordi ja rahanduse alal, klientide nõustamiseks investeerimissaitidel, kaasateabeartiklite kirjutamiseks muudel uudisteemadel (kuigi piirangud on olemas).
Samal ajal on juba olemas algoritmid, mis võivad genereerida sisu, mida tavakasutajate postitused ei erista. 2017. aastal pidas FCC avalikku arutelu oma kavatsusest lõpetada võrgu neutraalsus. Selle teema kohta laekus uskumatult 22 miljonit kommentaari. Paljud neist - võib-olla pooled - olid võltsitud, ründajad kasutasid varastatud isikutunnistuse andmeid. Mõned kommentaarid olid ebaviisakad, 1,3 miljonit genereeriti samalt mallilt - osa sõnu muudeti nendes sõnumite ainulaadseks muutmiseks.
Ja selle valdkonna tehnoloogiad arenevad aktiivselt. Harvardi teadlane Max Weiss kasutas oma katses vastuseks valitsuse Medicaidi algatusele teksti genereerimistarkvara, et luua 1000 kommentaari. Kõik need kommentaarid olid ainulaadsed ja nägid välja nagu need oleksid kirjutatud tõeliste inimeste poolt, kes toetavad teatud poliitilist positsiooni. Neil õnnestus petta Medicaid.gov administraatoritel arvata, et need on tõeliste inimeste tõelised hirmud. Hiljem paljastas Weiss uurimistöö käigus, et kommentaarid olid võltsitud, ja palus need eemaldada. Kuid teine inimene või sissetungijate rühm, kes seda teed järgib, pole tõenäoliselt nii kõlbeline.
Vestlusbotte on sotsiaalmeedia aruteludes kajastatud juba aastaid. Ühe hinnangu kohaselt avaldati robotite kaudu umbes viiendik kõigist 2016. aasta presidendivalimisi puudutavatest säutsudest ja umbes kolmandik samal aastal Brexiti poolt hääletamisest. Oxfordi ülikooli eelmise aasta raportis leidsid teadlased tõendeid, et 50 riigis kasutatakse propaganda levitamiseks roboteid. Reeglina olid need lihtsad programmid, läbimõtlematult hüüdlausete kordamine: näiteks veerand miljonit Saudi-meelset säutsu "Me kõik usume Mohammed bin Salmani" pärast Jamal Khashoggi mõrva 2018. aastal. Paremate robotite leidmine on palju raskem. Ja nende robotite efektiivsust on keeruline mõõta. Need kõik moonutavad avalikku arvamust ja usku hästi põhjendatud poliitilisse arutellu. Tegelikult,oleme kõik uue sotsiaalse eksperimendi keskel.
Aastate jooksul on algoritmilised robotid arendanud terveid isiksusi. Neil on võltsnimed, võltsitud elulood ja võltsfotod, mõnikord arvuti loodud. Selle asemel, et propagandat lõputult ajada, saadavad nad sõnumeid vaid aeg-ajalt. Teadlased võivad postitusmustrite põhjal leida, et need on robotid, mitte inimesed, kuid robotitehnoloogia on kogu aeg täiustatud, edestades katseid nende jälitamiseks. Tuleviku robotid on paremini varjatud sotsiaalseteks inimrühmadeks, nende sotsiaalsete gruppidega seotud teemade kohta kodeeritakse propaganda peenelt säutsudesse.
Varsti saavad programmi kontrollitavad simsid kirjutada isikupärastatud kirju ajalehtedele, peaministrites valitud ametnikele, pakkuda isikupärastatud kommentaare avalike reeglite väljatöötamise protsesside jaoks ja rääkida arukalt sotsiaalmeedias poliitilistel teemadel. Nad saavad kommenteerida postitusi sotsiaalvõrgustikes, uudiste saitidel jne. Luuakse püsivaid tegelasi, kes tunduvad tõelised isegi neile, kes neid uurivad. Nad saavad end sotsiaalmeedias tutvustada ja isikupärastatud tekste saata. Nad kopeerivad miljonites ja saadavad ööpäevaringselt miljardeid sõnumeid, nii pikki kui lühikesi. Üheskoos saavad nad kõik tõelised arutelud Internetist välja uputada. Mitte ainult sotsiaalmeedias, vaid kõikjal, kus on kommentaare.
Võib-olla kontrollivad neid tegelasi välismaised sissetungijad. Võib-olla on need sisepoliitilised rühmitused. Võib-olla saavad sellest kandidaadid ise. Tõenäoliselt kasutavad seda kõik. 2016. aasta valimiste kõige olulisem õppetund desinformatsiooni kohta pole see, et desinformatsioon avaldati; kuid seda on odavalt ja lihtne inimesi desinfitseerida. Edasine tehnoloogia areng muudab selle kõik veelgi soodsamaks.
Reklaamvideo:
Meie tulevik on vägivaldne poliitiline arutelu, kus robotid vaidlevad enamasti teiste robotitega. Seda ei kujuta me ette, kui kiidame ideede turgu või mis tahes demokraatlikku poliitilist protsessi. Demokraatia nõuetekohaseks toimimiseks on vaja kahte asja: teavet ja esindatust. Kunstlikud tegelased tabasid mõlemat asja.
Probleemi lahendus pole veel ilmne. Me võime proovida reguleerida robotite kasutamist - kavandatud California seadus nõuab robotite endi tuvastamist -, kuid see on efektiivne ainult selliste seaduslike mõjutuskampaaniate korral nagu reklaamid. Varjatud mõju on palju raskem tuvastada. Kõige ilmsem kaitse on paremate autentimismeetodite väljatöötamine ja standardimine. Kui sotsiaalvõrgustikud on kindlad, et iga konto taga on tõeline inimene, saavad nad võltsitud inimesi paremini roojata. Kuid võltskontosid luuakse juba regulaarselt, kasutades päris inimeste andmeid ilma nende teadmise või nõusolekuta. Meil pole privaatsust kaitsvat autentimissüsteemi, mis võib jõuda miljarditeni kasutajateni.
Võib vaid loota, et meie võime kunstlikke isiksusi tuvastada jõuab järele nende võimele neid maskeerida. Kuid praegu on ründajad alati sammu võrra ees.
Päeva lõpus peavad kõik otsused olema mittetehnilised. Peame tunnistama Internetis toimuva poliitilise mõttevahetuse piiratust ja tähtsustama taas näost näkku suhtlemist. Seda on raskem automatiseerida ja me teame, et inimesed, kellega räägime, on päris inimesed. Kuid seni näib see kultuuriline nihe täiesti ebareaalse lahendusena ja desinformatsiooni katsed on laialt levinud kogu maailmas ja neid viiakse läbi enam kui 70 riigis. See on tavapärane propagandaviis autoritaarse režiimiga riikides ja sellest saab poliitilise kampaania läbiviimise viis.
Kunstlikud tegelased on propaganda tulevik. Ja kuigi nad võivad arutelu mõnele nimetajale viimisel olla ebaefektiivsed, võivad nad arutelu hõlpsalt uppuda.
BRUCE SCHNEIER on Harvard Kennedy kooli teadur ja lektor.
