Massachusettsi tehnoloogiainstituudi (MIT) teadlased on välja töötanud tehisintellekti (AI) tekstianalüüsi petmise tehnika, vahendas Wired 23. veebr.
Teadlased on märganud, et fraasi kerge muutmine, mis on inimesele arusaadav, võib AI-d petta. Nad töötasid välja algoritmi sõnade asendamiseks sünonüümidega ja trükkimiseks AI äratundmistekstist. Nüanss on see, et ründav algoritm kasutab sünonüümide valimiseks AI-d.
Näitena võiks öelda fraasi "võimatult keerukates olukordades valatud tegelased on tegelikkusest täiesti võõrandunud". ("Uskumatult väljamõeldud olukordades mängitud tegelased on tegelikkusega täiesti väljas"), mis on filmi negatiivne arvustus.
Kui asendame selles olevad sõnad sünonüümidega, siis fraas „Võimatult kujundatud oludes valatud tegelased on tegelikkusest täielikult võõrandunud” („Uskumatult osavates oludes mängitud tegelased on tegelikkusest täielikult lahus”), siis peab AI arvustust positiivseks.
Samuti võib petta muud tüüpi AI-süsteeme; sel juhul demonstreeriti haavatavust peamiselt pildi- ja kõnetuvastussüsteemides.
Teadlased märkisid, et sellised peened andmete moonutused võivad AI-d petta ja neid saab süsteemide ründamiseks kasutada, mis muutub märkimisväärseks, kui AI levib rahanduse, tervishoiu ja muudes valdkondades.
