Kujutage ette, et ühel päeval mõtleb mõni imelaps välja tehnoloogia, mis võimaldab inimestel või materiaalsetel esemetel seintest läbi pääseda, ja postitab internetti juhised, kuidas sellist imemasinat odavatest majapidamismaterjalidest odavalt ehitada. Kuidas maailm muutuks?
Tõenäoliselt muutuvad paljud tööstusharud oluliselt produktiivsemaks. Kui saaksite uste kasutamise asemel läbi seinte kõndida, oleks inimestel hõlpsam kontorites ringi liikuda, kaupu ladudes liigutada ja lugematu arv igapäevaseid majapidamistöid teha. Negatiivsed tagajärjed võivad siiski positiivsed üles kaaluda. Väärisesemete luku ja võtme all hoidmine kaotaks igasuguse mõtte. Igaüks pääseb hõlpsasti lattu, pääseb panga seifi või majja.
Enamik meetodeid, mida eraomandi kaitsmiseks kasutame, hõlmavad ühel või teisel viisil seinu, nii et need kõik oleksid üleöö kasutud. Vargad tegutsesid karistamatult, kuni ühiskond mõtles välja alternatiivseid viise selliste kuritegude ärahoidmiseks. Sündmuste sellise arengu tulemus võib olla majanduslik kokkuvarisemine või sotsiaalne kaos.
Eeltoodu illustreerib üldpõhimõtet: tehnoloogiline innovatsioon ei ole ühiskonnale alati vähemalt lühiajaliselt kasulik. Tehnoloogiad on võimelised tekitama negatiivseid välismõjusid, välismõjusid. See majanduslik mõiste tähendab kolmandatele isikutele või isikutele tekitatud kahju. Kui need negatiivsed välismõjud kaaluvad üles tehnoloogia enda kasulikkuse, muudab leiutis maailma vähemalt mõneks ajaks tegelikult halvemaks, mitte paremaks.
Masinõpe, eriti variatsioon, mida nimetatakse sügavaks õppimiseks, on vaieldamatult kõige kuumem tehnoloogiline läbimurre planeedil. See annab arvutitele õiguse täita paljusid ülesandeid, mida varem said teha ainult inimesed: tunnustada pilte, juhtida autosid, kaubelda aktsiaturul ja palju muud. See on tekitanud mõnel inimesel ärevust, et masinõpe võib muuta inimesed töökohal ebavajalikuks ja kasutuks. Ja see on tegelikult võimalik, kuid masinõppest tuleneb palju tõsisem oht, millele pole seni piisavalt tähelepanu pööratud. Asi on selles, et kui masinad on võimelised õppima, siis saavad nad õppida ka valetama.
Tänapäeva inimesed võivad võltsida selliseid pilte nagu fotod, kuid see on töömahukas ja keeruline protsess. Ja hääle- või videopildi võltsimine ületab tavaliselt tavainimese võimalusi. Kuid peagi on tänu masinõppele tõenäoliselt võimalik hõlpsasti luua usaldusväärseid võltsitud videopilte kellegi näost ja jätta mulje, et inimene räägib oma häälega. Juba on olemas huulte liigutuste sünkroonimise tehnoloogia, mis võib sõna otseses mõttes suvalised sõnad suhu panna. See on vaid jäämäe tipp. Varsti saavad 12-aastased lapsed oma magamistubades oma magamistubades luua fotorealistlikke ja usutavalt kõlavaid võltspilte poliitikutest, ärijuhtidest, nende sugulastest või sõpradest, öeldes kõik, mida nad ette kujutavad.
See iseenesest kutsub esile ilmse väärkohtlemise. Poliitilised pettused, nn "võltsuudised" või "teabetäitmine", levivad kulutulena. Muidugi avastatakse pettus esimesel võimalusel - ükski digitaalne tehnoloogia ei saa olla nii hea, et muu tehnoloogia ei suudaks võltsingut tuvastada. Kuid see juhtub alles siis, kui kahjulik idee on juba sellesse uskuvate inimeste teadvusse tunginud. Kujutage ette täiuslikult väljamõeldud võltsvideot, kus presidendikandidaadid karjuvad rassiteadusi või tunnistavad tõsiseid kuritegusid.
See on siiski alles algus. Kujutage ette potentsiaali aktsiaturuga manipuleerimiseks. Oletame, et keegi levitas võltsvideot, milles Tesla tegevjuht Elon Musk tunnistab, et Tesla autod pole ohutud. Video levib Internetis ja ettevõtte aktsiad kukuvad kokku. Varsti pärast võltsingu avastamist nende hind taastub, kuid selle aja jooksul saavad manipulaatorid teenida tohutut raha, mängides Tesla aktsiate vähendamiseks.
Reklaamvideo:
Ja see pole kaugeltki kõige ekstreemsem stsenaarium. Kujutage ette, et selline naljamees loob president Donald Trumpi kohta realistliku võltsvideo, milles öeldakse, et streik Põhja-Korea sihtmärkidele on lähedal, ja seejärel postitage see video sinna, kus põhjakorealased seda näevad. Kui suur on tõenäosus, et Põhja-Korea juhtkond mõistab, et see on võlts, enne kui nad peavad otsustama alustada sõda?
Need, kes kipuvad selliseid äärmuslikke stsenaariume häirijaks pidama, juhivad mõistlikult tähelepanu sellele, et on võimalik tuvastada mis tahes võltsinguid, kuna nende tuvastamiseks kasutatakse samu masinõppe tehnoloogiaid kui loomingu jaoks. Kuid see ei tähenda, et meid ei ähvardaks sattuda üldlevinud võltsingutega täidetud maailma. Kui võltsingud muutuvad piisavalt usutavaks, et inimesed ei suuda neid ise avastada, kaotame igaveseks usalduse nähtu ja kuuldu suhtes. Oma meelte usaldamise asemel oleme sunnitud lootma võltsingute tuvastamiseks ja teabe autentimiseks kasutatavatele algoritmidele. Kogu evolutsiooni jooksul oleme õppinud usaldama oma tundeid,ja nende funktsioonide ülekandmine masinluurele võib olla enamiku inimeste jaoks liiga drastiline.
See võib olla halb uudis majandusele. Äri- ja kaubandusvõrgud on üles ehitatud usaldusele ja suhtlusele. Kui masinõpe viskab ühel päeval avalikku infosfääri lõputu illusioonide ja võltsingute orkaani, varisevad evolutsiooni loodud seinad tegelikkuse ja fiktsiooni eristamiseks. Sel juhul võib usalduse tase ühiskonnas kiiresti langeda, mis ei aeglustu ja mõjutab negatiivselt inimkonna globaalset heaolu.
Sel põhjusel peaks valitsus tõenäoliselt astuma samme, et tagada digitaalse võltsimise karm karistamine. Kahjuks ei tee praegune administratsioon tõenäoliselt sellist sammu armastusest kitsaste erakondade uudiste vastu. Ja Venemaa-sugused valitsused kalduvad tõenäoliselt veelgi vähem neid tavasid pidurdama. Lõppkokkuvõttes kujutab halva valitsemistava kombineerimine võimsate uute tehnoloogiatega inimühiskonnale palju suuremat ohtu kui tehnoloogiad ise.
Autor Noah Smith - Bloombergi uudiste kolumnist
Igor Abramov
