Akna välisküljel on 2022. Sõidate isesõitva autoga, nagu tavaliselt, läbi linna. Auto läheneb stoppmärgile, millest ta on mitu korda möödas, kuid seekord ei peatu selle ees. Teie jaoks on see stopp-märk nagu teised. Kuid auto puhul on see täiesti erinev. Mõni minut varem oli ründaja kellegi ette hoiatamata kleepinud sildile väikese tahvli, mis on inimese silmale nähtamatu, kuid mida tehnoloogia ei suuda märkamata jätta. See tähendab, et pisike sildil olev kleebis muutis stoppmärgi millekski erinevaks stoppmärgist.
Kõik see võib tunduda uskumatu. Kuid kasvav uurimisvaldkond tõestab, et tehisintellekti saab millekski selliseks meelitada, kui see näeb mõnda pisikest detaili, mis on inimestele täiesti nähtamatu. Kuna masinaõppe algoritmid ilmuvad üha enam meie teedele, meie rahaasjad, tervishoiusüsteem ja arvutiteadlased loodavad saada lisateavet selle kohta, kuidas neid selliste rünnakute eest kaitsta - enne, kui keegi neid tegelikult lollitada üritab.
"See on masinõppe ja AI kogukonnas kasvav mure, eriti kuna neid algoritme kasutatakse üha enam," ütleb Oregoni ülikooli arvuti- ja infoteaduste osakonna abiprofessor Daniel Lode. „Kui rämpspost läbib mitu blokeeringut või on selle blokeerinud, pole see maailma lõpp. Kuid kui tugineda isesõitvas autos olevale visioonisüsteemile, mis ütleb autole, kuidas sõita ilma millegi alla kukkumata, on panused palju kõrgemad.”
Ükskõik, kas masin laguneb või häkkima hakkab, kannatavad masinaõppe algoritmid, mis maailma "näevad". Ja nii autole näeb panda välja nagu gibbon ja koolibuss näeb välja nagu jaanalind.
Ühes katses näitasid Prantsusmaa ja Šveitsi teadlased, kuidas sellised häired võivad põhjustada arvuti eksimuseks orava halli rebase ja kohvikannu papagoi jaoks.
Kuidas on see võimalik? Mõelge, kuidas teie laps õpib numbreid ära tundma. Vaadates sümboleid ükshaaval, hakkab laps märkama mõnda ühist tunnust: mõned on pikemad ja saledamad, kuused ja üheksad sisaldavad ühte suurt silmust ja kaheksad sisaldavad kahte jne. Kui nad on piisavalt näiteid leidnud, tunnevad nad uusi numbreid kiiresti neljakesi, kaheksateks või kolmikuteks - isegi kui tänu fondile või käekirjale ei näe need täpselt välja nagu kõik teised neljakandid, kaheksad või kolmikud, mis neil kunagi on. varem nähtud.
Masinõppe algoritmid õpivad maailma lugema mõnevõrra sarnase protsessi kaudu. Teadlased toidavad arvutit sadu või tuhandeid (tavaliselt märgistatud) näiteid selle kohta, mida nad sooviksid arvutis leida. Kui masin andmeid läbi sõelub - see on arv, see pole, see on arv, see pole -, hakkab ta märkama funktsioone, mis viivad vastuseni. Varsti võib ta pilti vaadata ja öelda: "See on viis!" suure täpsusega.
Reklaamvideo:
Nii saavad nii inimlapsed kui ka arvutid õppida ära tundma suurt hulka objekte, alates numbritest kuni kassideni, paatidest kuni üksikute inimese nägudeni.
Kuid erinevalt inimese lapsest ei pööra arvuti tähelepanu kõrgetasemelistele detailidele - näiteks kasside karvastele kõrvadele või nelja eristatavale nurgakujule. Ta ei näe kogu pilti.
Selle asemel vaadeldakse pildi üksikuid piksleid - ja kiireim viis objektide eraldamiseks. Kui valdaval osal ühikutest on teatud punktis must piksel ja teistes punktides paar valget pikslit, õpib masin väga kiiresti neid pikslite järgi määrama.
Nüüd tagasi stoppmärgi juurde. Kujutise piksleid lubamatult parandades - eksperdid nimetavad seda häiret "häirituseks" - saate arvutit petta mõeldes, et stoppmärki tegelikult pole.
Wyomingi ülikooli ja Cornelli ülikooli evolutsioonilise tehisintellekti laboratooriumi sarnased uuringud on tekitanud üsna palju tehisintellekti optilisi illusioone. Need psühhedeelsed abstraktsete mustrite ja värvide kujutised on inimesele mitte millegi poolest erinevad, kuid arvuti tunneb neid kiiresti madude või püssidena. See räägib sellest, kuidas AI saab midagi vaadata ja mitte objekti näha või hoopis midagi muud näha.
See nõrkus on tavaline igat tüüpi masinõppe algoritmides. "Võib eeldada, et igal algoritmil on auk soomuses," ütleb Jevgeni Vorobeichik, Vanderbilti ülikooli arvutiteaduse ja informaatika assistent. "Me elame väga keerulises mitmemõõtmelises maailmas ja algoritmid mõjutavad oma olemuselt ainult väikest osa sellest."
Sparrow on "äärmiselt kindel", et kui need haavatavused on olemas, mõtleb keegi, kuidas neid ära kasutada. Tõenäoliselt on keegi seda juba teinud.
Mõelge rämpsposti filtritele, automatiseeritud programmidele, mis filtreerivad kõik ebamugavad meilid. Rämpspostitajad võivad proovida sellest tõkkest mööda pääseda, muutes sõnade õigekirja (Viagra asemel - vi @ gra) või lisades loetelu "headest sõnadest", mida tavaliselt leidub tavalistes tähtedes: näiteks "aha", "mina", "rõõmus". Samal ajal võivad rämpspostitajad proovida eemaldada rämpspostis sageli esinevaid sõnu, näiteks "mobiil" või "võita".
Kust saavad petturid ühe päevaga hakkama? Peatumismärgisega petetud isesõitv auto on klassikaline stsenaarium, mille mõtlesid välja asjatundjad. Täiendavad andmed võivad aidata pornograafial liikuda läbi turvaliste filtrite. Teised võivad proovida kontrollimiste arvu suurendada. Häkkerid saavad korrakaitsest kõrvalehoidmiseks näpistada pahatahtliku tarkvara koodi.
Ründajad saavad aru saada, kuidas puuduvaid andmeid luua, kui nad saavad koopia masinõppe algoritmist, mida nad tahavad petta. Kuid see ei pea olema algoritmi läbimine. Selle saab lihtsalt jõhkra jõuga murda, visates sinna e-posti või piltide pisut erinevaid versioone, kuni need mööduvad. Aja jooksul võis seda kasutada isegi täiesti uue mudeli jaoks, mis teab, mida head poisid otsivad ja milliseid andmeid toota, et neid lollitada.
"Inimesed on masinõppe süsteemidega manipuleerinud juba pärast nende esmakordset tutvustamist," ütleb Pennsylvania ülikooli arvutiteaduse ja tehnikateaduste professor Patrick McDaniel. "Kui inimesed neid meetodeid kasutavad, ei pruugi me sellest isegi teada."
Neid meetodeid saavad kasutada mitte ainult petturid - inimesed saavad end kaasaegsete tehnoloogiate röntgenikiirguse eest varjata.
"Kui olete repressiivrežiimi ajal mingi poliitiline dissident ja soovite sündmusi läbi viia luureagentuuride teadmata, peate võib-olla vältima automaatseid vaatlusmeetodeid, mis põhinevad masinõppel," ütleb Lode.
Ühes oktoobris avaldatud projektis lõid Carnegie Melloni ülikooli teadlased prillipaari, mis võib näotuvastussüsteemi peensusteni eksitada, põhjustades arvutil eksituse näitlejanna Reese Witherspoonile Russell Crowe jaoks. See kõlab naeruväärselt, kuid selline tehnoloogia võib olla abiks kõigile, kes soovivad meeleavalduses vältida võimulolijate tsensuuri.
Mida selle kõigega peale hakata? "Ainus viis selle täielikuks vältimiseks on täiusliku mudeli loomine, mis on alati õige," ütleb Lode. Isegi kui me suudaksime luua tehisintellekti, mis ületaks inimestel igal viisil, võib maailm ikkagi siga ootamatus kohas libistada.
Masinõppe algoritmide üle hinnatakse tavaliselt nende täpsust. Programm, mis tunnistab toole 99% ajast, on selgelt parem kui see, mis tunneb ära 6 tooli kümnest. Kuid mõned eksperdid soovitavad veel ühte viisi, kuidas hinnata algoritmi võimet rünnakuga hakkama saada: mida raskem, seda parem.
Teine lahendus võiks olla see, et eksperdid saaksid programmide tempot seada. Looge oma arvates kurjategijate võimaluste põhjal labori rünnakute näited ja näidake neid seejärel masinõppe algoritmile. See võib aidata tal aja jooksul vastupidavamaks muutuda - muidugi juhul, kui testrünnakud on seda tüüpi, mida reaalmaailmas testitakse.
“Masinõppe süsteemid on mõtlemise tööriist. Peame olema intelligentsed ja ratsionaalsed selle suhtes, mida me neile anname ja mida nad meile ütlevad,”sõnas McDaniel. "Me ei tohiks käsitleda neid kui täiuslikke oraakleid."
ILYA KHEL
