Enam kui saja maailma juhtiva tehisintellektiga tegeleva ettevõtte juhid tunnevad suurt muret "tapurobotite" arendamise pärast. ÜRO-le avatud kirjas hoiatasid need ärijuhid, sealhulgas Tesla juht Elon Musk ja Google'i DeepMindi asutajad, et terroristid ja despoodid võivad autonoomse relvatehnoloogia kasutamist vastu võtta või rohkem või vähem häkkida.
Kuid tegelik oht on palju tõsisem - ja see pole ainult inimeste väärkäitumine, vaid ka masinate väärkäitumine. Keerukate süsteemide uurimine näitab, et nad saavad käituda palju ettearvamatumalt, kui üksikute toimingute summast järeldada võib. Ühelt poolt tähendab see, et inimühiskond võib üksikisikute käitumist uurides käituda väga erinevalt, kui võiksite eeldada. Teisest küljest kehtib sama ka tehnoloogia kohta. Isegi lihtsate tehisintellekti programmide ökosüsteemid - mida me nimetame lollideks, headeks robotiteks - võivad meid üllatada. Isegi üksikud robotid võivad kohutavalt käituda.
Üksikud elemendid, mis moodustavad keerukaid süsteeme, nagu majandusturud või globaalsed ilmastikuolud, ei kipugi omavahel lihtsalt lineaarselt suhtlema. See muudab nende süsteemide modelleerimise ja mõistmise väga raskeks. Näiteks on isegi pärast aastaid kestnud kliimauuringuid võimatu ennustada ilmastiku pikaajalist käitumist. Need süsteemid on väikseimate muutuste suhtes sama tundlikud, kuna reageerivad plahvatuslikult. Sellise süsteemi täpset olekut on igal hetkel väga raske teada saada. Kõik see muudab need süsteemid sisemiselt ettearvamatuks.
Kõik need põhimõtted kehtivad suurte omal moel tegutsevate inimrühmade kohta, olgu need siis inimühiskonnad või kunstlikult intelligentsete robotite rühmad. Teadlased uurisid hiljuti mõnda tüüpi keerukat süsteemi, mis kasutas häid roboteid Wikipedia artiklite automaatseks redigeerimiseks. Need mitmekesised robotid on välja töötatud, kirjutatud ja kasutatud usaldusväärsete Vikipeedia toimetajate poolt ning nende aluseks olev tarkvara on avatud lähtekoodiga ja kõigile kättesaadav. Individuaalselt on neil ühine eesmärk entsüklopeedia täiustamist. Nende kollektiivne käitumine osutus aga üllatavalt ebaefektiivseks.
Väljakujunenud reeglid ja konventsioonid on selle kohta, kuidas need robotid Vikipeedias töötavad, kuid kuna veebisaidil puudub tsentraalne juhtimissüsteem, pole erinevate robotite haldajate vahel tõhusat koordineerimist. Tulemustest selgus paar robotit, mis tühistasid üksteise muudatused mitmeks aastaks ja keegi ei märganud. Ja muidugi, kuna need robotid ei õpi üldse, ei pannud nad kumbagi tähele.
Need robotid on mõeldud redigeerimise kiirendamiseks. Kuid väikesed erinevused robotite kujundamisel või neid kasutavate inimeste vahel võivad käimasolevas "toimetamissõjas" põhjustada ressursside tohutu raiskamise, mille toimetajad suudavad lahendada palju kiiremini.
Teadlased leidsid ka, et robotid käitusid Vikipeedia erinevates keeleversioonides erinevalt. Tundub, et reeglid on peaaegu samad, eesmärgid on identsed, tehnoloogiad on sarnased. Kuid saksakeelses Vikipeedias oli botide koostöö palju tõhusam ja tulemuslikum kui näiteks portugali keeles. Seda saab seletada ainult erinevustega inimeste toimetajate vahel, kes käitasid neid robotid erinevates keskkondades.
Reklaamvideo:
Plahvatuslik segadus
Vikipeedia robotitel puudub lai autonoomia ja süsteem ei tööta enam vastavalt üksikute robotite eesmärkidele. Kuid Wikimedia Foundation kavatseb kasutada AI-d, mis annab neile robotitele suurema autonoomia. Ja see viib tõenäoliselt veelgi ettearvamatuma käitumiseni.
Hea näide sellest, mis juhtuda võib, on robotid, mis on mõeldud inimestega rääkimiseks, kui nad on sunnitud omavahel suhtlema. Meid ei üllata enam selliste isiklike abistajate vastused nagu Siri. Kuid pange nad üksteisega suhtlema ja nad hakkavad kiiresti ootamatult käituma, üksteist vaidlema ja isegi solvama.
Mida suuremaks süsteem muutub ja mida autonoomsemaks iga robot muutub, seda keerukam ja ettearvamatum on selle süsteemi käitumine tulevikus. Vikipeedia on näide suure hulga suhteliselt lihtsate robotite kohta tööl. Vestlusboti näide on näide väikesest arvust suhteliselt keerukatest ja leidlikest robotitest - mõlemal juhul tekivad ettenägematud konfliktid. Isiksuse lisamisel süsteemi kasvab keerukus ja seega ka ettearvamatus. Seetõttu, kui tulevikus ilmuvad suure hulga väga keerukate robotitega süsteemid, ületab nende ettearvamatus meie kujutlusvõimet.
Lõõmav hullumeelsus
Näiteks isesõitvad autod lubavad teha läbimurde efektiivsuses ja liiklusohutuses. Kuid me ei tea veel, mis juhtub, kui meil on suur täiesti autonoomsete sõidukite süsteem. Nad saavad käituda erinevalt isegi väikese sõidukipargi korral kontrollitavas keskkonnas. Ja veelgi ettearvamatum käitumine võib avalduda siis, kui isesõitvad autod, mida erinevad inimesed erinevates kohtades "koolitavad", hakkavad üksteisega suhtlema.
Inimesed saavad uute reeglite ja konventsioonidega suhteliselt kiiresti kohaneda, kuid neil on keeruline süsteemide vahel vahetada. Kunstlikud ained võivad olla veelgi raskemad. Näiteks kui näiteks Saksamaale sõidab auto, mis on „koolitatud Saksamaale“, siis me ei tea, kuidas see õnnestub kirjutamata kultuurilistele tavadele, mida järgivad paljud teised „Itaaliasse koolitatud“autod. Midagi sellist ilmalikku nagu ristmiku ületamine võib muutuda surmavalt riskantseks, sest me lihtsalt ei tea, kas autod hakkavad vastastikku suhtuma või kui nad käituvad ettearvamatult.
Mõelge nüüd mõrvarobotitele, mis ahistavad Muski ja tema kolleege. Üks tapjarobot võib valedesse kätesse sattudes olla väga ohtlik. Kuidas on ettearvamatute tapurobotite süsteemiga? Mõelge ise.
Ilja Khel
