Võltsingute loomiseks kasutatakse tehisintellekti süsteeme ning tehnoloogiaid video- ja helivõltside genereerimiseks.
Igaühe jaoks individuaalse uudisepildi loomiseks ja selles valitud meediaväljaannete võltsimiseks piisab täna ühe programmeerija pingutustest. Tehisintellekti ja küberturvalisuse spetsialistid rääkisid sellest Izvestijale. Viimasel ajal oli nende hinnangul vaja mitme meeskonna tööd. Selline kiirendamine sai võimalikuks närvivõrkude rünnakute tehnoloogia arendamise ning heli- ja videovõltsingute genereerimise abil, kasutades selleks “sügavate võltsingute” loomise programme. Ajaleht Izvestia läbis hiljuti sarnase rünnaku, kui kolm Liibüa uudisteportaali avaldasid korraga teate, mis väidetavalt ilmus ühes numbris. Asjatundjate sõnul võib 3-5 aasta jooksul oodata robotmanipulaatorite sissetungi, mis suudab automaatselt luua palju võltsinguid.
Vapper uus maailm
Järjest rohkem on olnud projekte, mis kohandavad infopilti konkreetsete kasutajate arusaamadega. Nende töö üheks näiteks oli kolme Liibüa portaali hiljutine tegevus, mis avaldas uudised, mis väidetavalt trükiti Izvestija väljaandes 20. novembril. Võltsingu loojad muutsid ajalehe esilehte, postitades sellele teate marssal Khalifa Haftari ja Rahvusliku Leppe valitsuse (PNS) peaministri Fayez Sarraj'i vahelistest läbirääkimistest. Võltskirjaga Izvestia oli kaasas foto kahe juhi poolt 2017. aasta mais tehtud fotodest. Väljaande logoga silt lõigati välja 20. novembri tegelikust väljaandest ja kõik muud lehel olevad tekstid alates 23. oktoobri numbrist.
Spetsialistide arvates saab lähitulevikus selliseid võltsinguid teha automaatselt.
“Tehisintellekti tehnoloogiad on nüüd täiesti avatud ning andmete vastuvõtmise ja töötlemise seadmed miniseeruvad ja muutuvad odavamaks,” rääkis Izvestija Venemaa füüsika- ja matemaatikateaduste doktorile, Venemaa teaduste akadeemia professorile, FSUE “GosNIIAS” osakonna juhatajale Juri Vilsiterile. - Seetõttu on suure tõenäosusega, et lähitulevikus ei suuda isegi riik ja suured ettevõtted, vaid lihtsalt eraisikud meid pealt kuulata ja nuhkida ning tegelikkusega manipuleerida. Lähiaastatel on kasutajate eelistusi analüüsides võimalik teda uudistevoogude ja väga nutikate võltside kaudu mõjutada.
Reklaamvideo:
Juri Vilsiteri sõnul on juba olemas tehnoloogiad, mida saab kasutada selliseks vaimse keskkonna sekkumiseks. Teoreetiliselt võib manipuleerija robotite sissetungi oodata mõne aasta pärast, ütles ta. Piiravaks hetkeks võib siin osutuda vajalikuks koguda suuri andmebaase, kus on näiteid inimeste reaalsetest reageeringutest kunstlikele stiimulitele koos pikaajaliste tagajärgede jälgimisega. Tõenäoliselt nõuab selline jälgimine veel mitu aastat uurimist, enne kui sihipäraseid rünnakuid järjepidevalt saadakse.
Nägemisrünnak
SearchInfordi analüüsiosakonna juhataja Aleksei Parfentiev nõustub Juri Vilsiteriga. Tema sõnul ennustavad eksperdid juba rünnakuid närvivõrkude vastu, ehkki praegu selliseid näiteid praktiliselt pole.
- Gartneri teadlased usuvad, et aastaks 2022 on 30% kõigist küberrünnakutest suunatud närvivõrgu treenitavate andmete rikkumisele ja valmis masinõppe mudelite varastamisele. Siis võivad näiteks mehitamata sõidukid ootamatult jalakäijaid teiste objektide ees eksitada. Ja me ei räägi rahalisest ega maineriskist, vaid tavainimeste elust ja tervisest, usub ekspert.
Arvutinägemissüsteemide rünnakuid tehakse praegu uuringute osana. Selliste rünnakute eesmärk on sundida närvivõrku tuvastama pildil seda, mida seal pole. Või vastupidi, et mitte näha, mida plaaniti.
“Üks närvivõrgustiku koolituse valdkonnas aktiivselt arenevaid teemasid on niinimetatud võistlusrünnakud (“võistlusrünnakud - Izvestia”),” selgitas Kaspersky Labi veebianalüütik Vladislav Tushkanov. - Enamasti on need suunatud arvutinägemissüsteemidele. Sellise rünnaku läbiviimiseks peab enamikul juhtudel olema täielik juurdepääs närvivõrgule (nn valge kasti rünnakud) või selle töö tulemustele (musta kasti rünnakud). Puuduvad meetodid, mis suudaksid 100% juhtudest petta mis tahes arvutinägemissüsteemi. Lisaks on juba loodud tööriistad, mis võimaldavad teil testida närvivõrgustikke vastuseisu rünnakute suhtes ja suurendada nende vastupanuvõimet.
Sellise rünnaku käigus üritab ründaja tuvastatud pilti kuidagi muuta, et närvivõrk ei töötaks. Sageli asetatakse fotol müra, mis sarnaneb halvasti valgustatud ruumis pildistamisel tekkiva müraga. Inimene ei märka sellist häiret tavaliselt hästi, kuid närvivõrk hakkab talitlushäireid tegema. Kuid sellise rünnaku läbiviimiseks vajab ründaja juurdepääsu algoritmile.
Neuroset Ashmanovi peadirektori Stanislav Ashmanovi sõnul pole selle probleemiga tegelemiseks praegu ühtegi meetodit. Lisaks on see tehnoloogia kõigile kättesaadav: keskmine programmeerija saab seda kasutada, laadides vajaliku avatud lähtekoodiga tarkvara alla Githubi teenusest.
- Rünnak närvivõrgu vastu on närvivõrgu petmise tehnika ja algoritmid, mis muudavad selle valeandmete saamiseks ja tegelikult lõhuvad selle nagu ukselukk, - usub Ashmanov. - Näiteks on nüüd üsna lihtne panna näotuvastussüsteem mõtlema, et see pole mitte teie, vaid Arnold Schwarzenegger selle ees - seda tehakse segades närvisüsteemi sisenevatesse andmetesse inimsilmale tajumatud lisandid. Samad rünnakud on võimalikud kõnetuvastus- ja analüüsisüsteemide puhul.
Asjatundja on kindel, et see läheb ainult hullemaks - need tehnoloogiad on läinud massidesse, petturid juba kasutavad neid ja nende vastu pole vahendeid kaitstud. Kuna video- ja helivõltsimiste automatiseeritud loomise eest pole kaitset.
Sügavad võltsingud
Sügaval õppimisel põhinevad sügavtehnoloogiad (närvivõrkude süvaõppe tehnoloogiad - Izvestia) kujutavad endast juba reaalset ohtu. Video- või helivõltsingud luuakse kuulsate inimeste nägude redigeerimise või katmisega, kes väidetavalt hääldavad vajaliku teksti ja täidavad süžees vajalikku rolli.
„Deepfake võimaldab teil huulte liigutused ja inimkõned asendada videotega, mis loob toimuva realistlikkuse tunde,“ütleb Group-IB uuendusliku kaubamärgi kaitse ja intellektuaalomandi osakonna direktor Andrey Busargin. - Võltskuulsused “pakuvad” kasutajatele sotsiaalvõrgustikes kasutajaid, et osaleda väärtuslike auhindade (nutitelefonid, autod, rahasummad) loosimisel jne. Nendest videotest pärit lingid viivad sageli petturlikele ja andmepüügisaitidele, kuhu kasutajatel palutakse sisestada isiklik teave, sealhulgas pangakaardi andmed. Sellised skeemid ohustavad nii tavakasutajaid kui ka reklaamides mainitud avaliku elu tegelasi. Selliste shenaniganide tõttu seostatakse kuulsuste pilte petuskeemide või reklaamitud kaupadega.ja see on koht, kus võime isiklikke kaubamärke kahjustada,”ütleb ta.
Veel üks oht on seotud võltshäälte kasutamisega telefonipettuste jaoks. Näiteks Saksamaal kasutasid küberkurjategijad häälteavet, et panna Suurbritannia tütarettevõtte juht telefonivestluses kiirelt kandma 220 000 eurot Ungari tarnija kontole, poseerides ettevõtte juhiks. Briti firma juht kahtlustas trikki, kui tema "boss" küsis teist rahakäsku, kuid kõne tuli Austria numbrilt. Selleks ajaks oli esimene osa juba üle kantud Ungaris asuvale kontole, kust raha Mehhikosse välja viidi.
Selgub, et praegused tehnoloogiad võimaldavad luua võltsuudistega täidetud individuaalse uudisepildi. Pealegi on peagi võimalik võltsinguid eristada tegelikust videost ja heli ainult riistvara järgi. Ekspertide sõnul on närvivõrkude arendamist keelavad meetmed tõenäoliselt ebatõhusad. Seetõttu elame varsti maailmas, kus on vaja kõike pidevalt kontrollida.
“Peame selleks valmistuma ja peame sellega leppima,” rõhutas Juri Vilsiter. - Inimkond ei lähe esimest korda ühest reaalsusest teise. Meie maailm, eluviis ja väärtused erinevad kardinaalselt maailmast, milles meie esivanemad elasid 60 000 aastat tagasi, 5000 aastat tagasi, 2000 aastat tagasi ja isegi 200–100 aastat tagasi. Lähitulevikus võetakse inimeselt privaatsus suuresti ära ja seetõttu sunnitakse teda mitte midagi varjama ja käituma ausalt. Samal ajal ei saa ümbritsevas reaalsuses ja enda isiksuses midagi usku võtta, kõik tuleb kahtluse alla seada ja seda pidevalt kontrollida. Kuid kas see tulevikureaalsus on kohutav? Mitte. See on lihtsalt täiesti erinev.
Anna Urmantseva
