Teadlased ja programmeerijad on lakanud mõistmast, kuidas tehisintellekt otsuseid langetab. Sellest probleemist teatasid mitmed spetsialistid Long Beachil (Californias) peetud AI peakonverentsil - neuronite infotöötlussüsteemid.
Quartzi küsitletud eksperdid väidavad, et enne süsteemi liiga keerukaks muutmist tuleb tegutseda.
"Me ei taha võtta AI-otsuseid iseenesestmõistetavana, mõistmata nende loogikat," ütleb Jason Yosinski Uberist. "Et ühiskond aktsepteeriks masinõppe mudeleid, peame teadma, kuidas AI teatud järeldustele jõuab."
Probleem, mida paljud eksperdid nimetavad mustaks kasti, on tõesti tõsine. Varasemad kogemused on näidanud, et AI-l on kalduvus teha kallutatud otsuseid ja joonistada analooge seal, kus nad ei peaks. Kuna närvivõrgud on infiltreerumas järk-järgult korrakaitsesse, tervishoiusüsteemi, teadusuuringutesse ja algoritmidesse, mis määravad teie Facebooki uudistevoo nägu, võib AI viga olla väga kulukas.
Näitena nimetab Jet Propolusion Labi (NASA) AI ekspert Kiri Wagstaff missiooni Marsile. Seadmed asuvad Maast 200 miljoni miili kaugusel ja maksavad sadu miljoneid dollareid, nii et AI töös esinevad vead on lihtsalt vastuvõetamatud.
“Inimesed peavad teadma, mida AI teeb ja miks. Muidu, kuidas nad saavad teda usaldada kallite seadmete kontrollimiseks?”Arutleb Wagstaff.
Praegu töötab teadlane algoritmi, mis sorteerib erinevate NASA kosmoselaevade tehtud pilte. Kuna piltide arv on miljonites, võimaldab arvuti kõige huvitavamaid sorteerida ja esile tõsta, kulutamata sellele protsessile tohutult aega. Probleem seisneb aga selles, et sageli teab ainult üksi AI, miks tema valitud pildid on ebaharilikud.
Seega järeldab Wagstaff, kui selle algoritmi sees on tõrge, võib ühel päeval jääda väga olulisest teabest puudu.
Reklaamvideo:
"Põhimõtteliselt annab arvuti teile pildi ja ütleb:" Vaata, see on huvitav. " Kuid te ei saa alati aru, miks see huvitav on: objektide värvi, kuju või nende asukoha tõttu ruumis - tõenäoliselt ei tea te seda,”arvab teadlane.
Microsofti vanemteadur Hannah Wallach nõustub kolleegide järeldustega.
„Kuna masinõpe levib ja panused tõusevad, ei saa me neid süsteeme enam mustade kastidena käsitleda. Peame mõistma, mis nende sees toimub ja mida nad teevad, “ütles uurija.
Teadlased üritavad õnneks leida meetodeid tehisintellekti loogika mõistmiseks. Nii esitas Google'i teadlane Mitra Raghu raporti, mis kirjeldab närvivõrgu üksikute "neuronite" toimingute jälgimise protsessi. Miljonite operatsioonide analüüsimisel suutis ta välja mõelda, millistes tehislikest "neuronitest" keskenduti väärarusaamadele, ja need välja lülitada. See tõestab, et närvivõrkude töö tõlkimine inimese arusaadavale kujule pole nii võimatu ülesanne.
Teine võimalus probleemi lahendamiseks on regulaarselt testida tehisintellekti arendatud oskusi.
"See on nagu kooliõpetajad, kes paluvad lastel oma sõnadega ümber jutustada, mida nad õpetaja selgitusest aru said," ütleb Wagstaff.
Sellegipoolest ei ole algoritmi sisemiste osapoolte mõistmine oluline mitte ainult selleks, et takistada hüpoteetilist marsruuti Marsi kaljult maha kukkumast; rikke mõistmisel saate olemasolevaid süsteeme veelgi paremaks muuta.
"Kui teie süsteem ei tööta ja te ei tea, miks, on selle vastu midagi väga raske teha," ütleb Yosinski. "Kui teate, mis juhtus, siis saab olukorda alati parandada."
Kasutatud saidi hightech.fm materjalid
