Kuidas arvutid teevad kummalisi otsuseid
Tehisintellekt areneb nii kiiresti, et paljud hakkavad tundma ärevust: kui see varsti suudab emotsioone kogeda ja ise otsuseid vastu võtta. Olgu selleks robot, autonoomne sõiduk või äri- ja teadustegevuses osaleja: tehisintellekt on tungiv meie elu ja ühiskonna kõigisse valdkondadesse. Masina ajusid peetakse loogilisteks, emotsionaalseteks ja erapooletuteks, kuid praktika näitab, et nad ei otsusta alati kõike avatud meelega.
Tehisintellekt on hädavajalik, kui on oluline ära tunda suures koguses andmetes esinevaid mustreid ja teha nende põhjal otsuseid. Kuid tulevikus võiks tehisintellekti süsteeme kasutada ka nendes piirkondades, kus meie heaolu ja isegi meie elu sõltuvad otseselt järeldustest - meditsiinis, töökohtade valimisel, laenude väljastamisel ja õigusemõistmisel.
Kui objektiivselt ja moraalselt õigesti teeb tehisintellekt otsuse? Kas me võime tõesti usaldada masinaju selliste potentsiaalselt oluliste otsuste langetamiseks?
Tehisintellekti kasutatakse kõigis valdkondades
Isegi praegu kasutatakse adaptiivseid algoritme paljudes meie igapäevaelu valdkondades. Häälkäskluste ja küsimuste mõistmiseks on olemas digitaalsed assistendid. Internetis aitavad veebibotid veebisaite hallata ja juhtida, nii et neid on inimestest raske eristada. Isegi võltsuudiste ja pildimanipulatsioonide avastamise korral on kaasatud tehisintellekti süsteemid.
Reklaamvideo:
AI-süsteemid teevad oma tööd ka tööstuses, ettevõtluses ja isegi valitsuses. Nad optimeerivad ja kontrollivad tootmisprotsesse, reguleerivad konteinersadamate ja suurte ladude logistikat või peavad raamatupidamisarvestust. Kindlustusseltsidel ja pankadel on juba esimesed nutikad programmid esitatud taotluste kontrollimiseks või maksete üle otsustamiseks. Ikeas, Deutsche Telekomis ja paljudes teistes ettevõtetes, UNICEFis või raamatukogudes tegelevad klienditeenindusega virtuaalsed assistendid.
Treenimiseks töödeldakse suurt hulka andmeid
Kõik see on võimalik tänu AI-süsteemide võimele kiiresti analüüsida tohutul hulgal andmeid, tuvastada mustreid ja korrelatsioone. Näiteks õpib algoritm lugematute fotode hulgast lemmikloomadest koos sobivate nimedega. Pärast väljaõppeperioodi saab süsteem valida täiesti uued fotod soovitud liikidest. Ta tunnistab erinevusi iseseisvalt.
Paljud teised AI-süsteemid kasutavad õppimise alusena teksti. Nad hindavad sõna seisukorda ja uurivad selle semantilist tähendust, samuti suhteid sarnaste sõnade või sünonüümidega. Need semantilised seosed muudavad programmid matemaatilisteks väljenditeks ja õpivad seeläbi isegi keerulisi semantilisi kontekste.
Ainult tänu sellele võimele suudab tehisintellekt hinnata näiteks meditsiinilisi andmeid ja haiguslugude andmeid ning nende põhjal kliiniliste piltide omadusi järeldada. Nendele tulemustele tuginedes kasutatakse AI-süsteeme juba diagnostiliste abivahenditena, need suudavad ära tunda erinevat tüüpi vähktõbe, Alzheimeri tõve märke, suitsidaalseid seisundeid ja suhkru suhkru ohtlikku taset.
Kuid nii atraktiivne, kui see kõlab, on üha enam AI-l suuri puudusi. Mida kaugemale tehisintellekt tungib praktiliselt kõigisse meie ühiskonna sfääridesse, seda suuremad on selle otsuste võimalikud tagajärjed. Inimese rahaline või ametialane tulevik või isegi tema elu sõltub tema otsustusvõimest.
AI lahendused, mis võivad maksta elusid
Näiteks kui AI diagnoosib meditsiinis valesti, ilma et teda oleks küsitletud, võib patsient läbida vale ravi või isegi surra. Sõjavägi kasutab autonoomset relvasüsteemi, mis teeb valesid otsuseid. Näiteks ei suuda AI eristada põgenevat sõpra vaenlasest, süütu sureb.
AI algoritme kasutatakse juba Ameerika Ühendriikide kohtutes. Nad ennustavad õigusrikkujatele korduva korduvkuritegevuse tõenäosust kohtus. Nende hinnang mõjutab sageli kohtu otsust ja sellest tulenevalt süüdimõistetu karistust.
Kui AI otsustab laenude üle
Samuti võib finants- ja kindlustusotsus mõjutada seda, kas inimene saab laenu või mitte. Neid süsteeme koolitatakse tavaliselt andmebaaside abil.
Ja siin otsib AI mustreid: millised inimesed maksavad tavaliselt oma laenud tagasi ja millised mitte? Ta töötab välja oma hindamisprotseduurid ja teeb vastavad otsused. Eelkõige tähendab see, et vale elukoha või elukohaga inimesed ei saa laenusid, hoolimata nendest asjaoludest, ükskõik kui palju nad on nõus maksma.
Sellise arvutitega seotud kohustuste jaotuse korral on inimene vaid küberaju otsuste täitmisel abistaja. Ja see juba toimub.
Kes vastutab vigade eest?
Teine probleem AI arendamisel: mida keerukamad on otsustamise põhimõtted, seda keerulisem on inimestel neist aru saada. Samuti tõstatub küsimus, kes vastutab vigade eest.
Autopiloodil autodega sõites on juhtunud õnnetuste juhtumeid: kes on süüdi selles, et mõnda olukorda ei salvestata mällu või AI teeb valed järeldused. Või äkki teeb ta oma järeldused? Selliseid näiteid on juba olemas.
Mängurobotid on mängu jooksul välja töötanud oma reeglid
Selle uuringu jaoks lubasid teadlased 100 nutikat robotit üksteisega kontsessioonimängus suhelda. Igaüks neist peab otsustama, kas nad annetavad midagi oma meeskonna mängijale või mängust osavõtjale väljastpoolt.
Üllataval kombel on robotid aja jooksul üha enam välistest gruppidest välja tõrjutud ja annetavad ainult oma meeskonna liikmetele.
Põhjus: nutikad robotid kohandasid oma mängustrateegiat, kopeerides seltsimeeste käitumist, kes kogusid kõige rohkem raha ja olid kõige edukamad. Nii tekkisid robotirühmad, kes käitusid samamoodi ja jätsid järjekindlalt välja sõltumatud mänguosalised. Pidevalt luues midagi, mis arvutab, analüüsib ja langetab otsuseid kiiremini kui see, kaotab inimkond ühel päeval kontrolli oma loomingu üle, mille tegevusi ta ei suuda jälgida.
Teadlaste sõnul on see ilmne: tehisintellekt ei vaja kunstlike andmete kallutamist, piisab, kui selle ümber on teised masinad. Sest isegi see võib luua rühmalikkuse, mida teatakse inimkogukondadest. Seetõttu peaksid inimesed AI kasutamise korral jätma otsuse ise.
Vasilik Svetlana
