Võib-olla oli masint intelligentsuse üks raskemaid teste peaaegu 20 aastat tagasi arvuti Deep Blue ja male maailmameistri Garry Kasparovi vahel toimunud malemäng. Auto võitis. Hetkel on lõppenud mängu loogikamängu mängude sari, kus võistlesid DeepMindi (Google'i omanik) AI AlphaGo ja legendaarne go-meister Hiinast Li Si Dol. Viiest mängust neljas võitis masin, näidates selles mängus oma paremust inimese ees. Uskumatult keeruline mäng inimese ja tehisintellekti vahel näitab, et masina intelligentsus on selle aja jooksul väga tugevalt arenenud. Tundub, et saatuslik päev, mil masinad saavad tõepoolest inimestest targemaks, on nüüd lähemal kui kunagi varem. Tundub siiski, et paljud ei saa üldse aru, vaid pigem eksivad tagajärgedes, mis võivad meid tulevikus oodata.
Me alahindame tehisintellekti arendamise mõningaid väga tõsiseid ja isegi ohtlikke tagajärgi. Eelmisel aastal avaldas SpaceXi asutaja Elon Musk avalduse, milles väljendas muret tehisintellekti võimaliku maailma orjastamise pärast, mis omakorda ajendas tohutult kommenteerima nii selle arvamuse toetajaid kui ka vastaseid.
Sellise põhimõtteliselt revolutsioonilise tuleviku jaoks, mis meid võib oodata, on üllatav, et tänapäeval on nii palju erimeelsusi selle üle, kas see üldse juhtub ja milliseks see lõpuks kujuneb. Eriti kummaline on eitada uskumatuid eeliseid, mida võime saada tõeliselt nutika tehisintellekti loomisest, võttes muidugi arvesse kõiki võimalikke riske. Kõiki neid küsimusi on uskumatult raske õigete vastuste saamiseks, kuna tehisintellekt võib, erinevalt teistest inimkonna leiutistest, seda inimkonda tõesti "noorendada" või täielikult hävitada.
Nüüd on raske aru saada, mida uskuda ja mida loota. Kuid tänu arvutiteaduse pioneeridele, neuroteadlastele ja tehisintellekti arendamise teoreetikutele hakkab selge pilt aeglaselt selginema. Allpool on loetelu tehisintellektiga seotud levinumatest väärarusaamadest ja müütidest.
Me ei loo kunagi tehisintellekti humanoidintelligentsiga
Reaalsus omakorda viitab sellele, et meil on juba praegu arvuteid, mis vastavad mõnes piirkonnas inimese võimekusele ja isegi ületavad seda. Võtke male või sama mäng, börsil kauplemine või virtuaalse vestluspartneri roll. Arvutid ja neid juhtivad algoritmid muutuvad aja jooksul ainult paremaks ja see on ainult aja küsimus, kuni nad saavad võrdseks inimvõimalustega.
Reklaamvideo:
New Yorgi ülikooli teadlane Gary Markus ütles kunagi, et "peaaegu kõik", kes töötavad tehisintellektiga, usuvad, et masinad ületavad meid ühel päeval:
"Ainus vaidlus pooldajate ja skeptikute vahel on selle sündmuse aeg."
Futuristid, nagu Ray Kurzweil, usuvad, et see võib juhtuda järgmistel aastakümnetel, teised aga ütlevad, et see võtab mitu sajandit.
Tehisintellekti skeptikud ei ole oma tõendites veenvad, et tehisintellekti kui millegi ainulaadse loomine ja tehnoloogilises mõttes väga sarnane reaalse elus inimese ajuga on kuskil reaalsuse taga. Ka meie aju on masin. Bioloogiline masin. See eksisteerib samas maailmas ja järgib samu füüsikaseadusi nagu kõik muu. Ja aja jooksul saame kogu selle töö põhimõtte täiesti selgeks.
Tehisintellektil on teadvus
Üldiselt ollakse üksmeelel, et masinluure on teadlik. See tähendab, et tehisintellekt mõtleb samamoodi nagu inimene. Lisaks arvavad mõned kriitikud, näiteks Microsofti asutaja Paul Allen, et ebatäieliku teoreetilise baasi tõttu, mis kirjeldab eneseteadvuse mehhanisme ja põhimõtteid, pole me veel loonud isegi üldist tehisintellekti, st intelligentsust, mis oleks võimeline täitma mis tahes intellektuaalseid ülesandeid, millega inimene saab hakkama. Kuid Londoni Imperial College'i kognitiivse robootika osakonna dotsendi Murray Shanahani sõnul ei tohiks me neid kahte samastada.
"Eneseteadvus on kindlasti väga huvitav ja oluline uurimisobjekt, kuid ma ei usu, et eneseteadvus peaks olema inimesetaolise tehisintellekti kohustuslik omadus," ütleb Shanahan.
"Üldiselt kasutame terminit" eneseteadvus "ainult mitme psühholoogilise ja kognitiivse atribuudi tähistamiseks, mis on inimeses tavaliselt seotud."
On võimalik ette kujutada väga nutikat autot, millel puudub üks või mitu neist omadustest. Kunagi suudame ehitada tõeliselt uskumatult intelligentse tehisintellekti, kuid samas puudub eneseteadvuse võime, samuti subjektiivne ja teadlik arusaam ümbritsevast maailmast. Shanahan märgib, et intelligentsuse ja eneseteadvuse ühendamine masina sees on endiselt võimalik, kuid me ei tohi tähelepanuta jätta asjaolu, et need on kaks täiesti eraldiseisvat mõistet.
Ja kuigi "Turingi testi" üks variantidest, kus masin näitas, et see ei erine inimesest, õnnestus edukalt sooritada, ei tähenda see sugugi, et sellel masinal oleks teadvust. Meie (inimese) vaatepunktist võib arenenud tehisintellekt meile tunduda midagi eneseteadvust omavat, kuid masin ise ei tea endast rohkem kui sama kivi või kalkulaator.
Me ei peaks kartma tehisintellekti
Selle aasta jaanuaris jagas Facebooki asutaja Mark Zuckerberg mõtteid selle kohta, kuidas me ei peaks AI-d kartma, lisades, et see tehnoloogia võib tuua tohutut kasu kogu maailmas. Tõsi on see, et tal on õigus vaid osaliselt. Me võime tõepoolest saada hämmastavat kasu meie käsutuses oleva tehisintellektiga (alates isejuhtivatest autodest kuni uute avastusteni meditsiinis), kuid keegi ei saa garanteerida, et iga tehisintellekti rakendamine oleks kasulik.
Äärmiselt intelligentne süsteem teab ehk kõike, mis on vajalik teatud ülesannete täitmiseks (näiteks keerulise globaalse finantsolukorra lahendamiseks või vaenlase arvutisüsteemide häkkimiseks), kuid väljaspool kõrgelt spetsialiseeritud ülesandeid on tehisintellekti potentsiaal endiselt täiesti ebaselge ja seetõttu potentsiaalselt ohtlik. Näiteks DeepMindi süsteem on spetsialiseerunud go-mängule, kuid sellel puudub võime (ja põhjus) uurida piirkondi väljaspool seda valdkonda.
Flame arvutiviirus, mille ülesandeks oli Lähis-Ida riikide jälitamine
Paljud neist süsteemidest võivad põhjustada tõsiseid turvariske. Hea näide on võimas ja ülimalt kaval Stuxneti viirus, militariseeritud uss, mille USA ja Iisraeli sõjavägi lõid Iraani tuumaelektrijaamadesse sissetungimiseks ja ründamiseks. Ainult see pahatahtlik programm nakatas kuidagi (kogemata või tahtlikult) ka ühe Venemaa tuumajaama.
Teine näide on Lähis-Idas suunatud küberspionaaži jaoks välja töötatud leegi viirus. On lihtne ette kujutada, kuidas Stuxneti ja Flame'i viiruste "tulevased versioonid" ületavad iseseisvalt neile määratud ülesandeid ja suudavad nakatada peaaegu kogu riigi infrastruktuuri. Ja nad teevad seda väga vaikselt ja märkamatult.
Kunstlik superluure on vigade tegemiseks liiga tark
Richard Luzmore, matemaatik, tehisintellekti uurija ja robootikaettevõtte Surfing Samurai Robots asutaja, usub, et enamik tehisintellekti maailmalõpu stsenaariume näib ebatõenäoline, sest need kõik põhinevad üldjoontes sellel, mida tehisintellekt ühel päeval ütleb: „Ma saan aru, et hävitamine inimesed on minu programmikoodis viga, kuid pean siiski ülesannet järgima."
Luzmore usub, et kui tehisintellekt käitub selle stsenaariumi järgi, tuleb tal silmitsi loogiliste vastuoludega, mis seavad kogu tema kogunenud teadmistebaasi kahtluse alla ja viivad lõpuks tema enda teadlikkuseni oma rumalusest ja kasutusest.
Teadlane usub ka, et eksivad need inimesed, kes ütlevad, et "tehisintellekt teeb ainult seda, mis on selle programmis sisalduv", täpselt nagu need inimesed, kes kunagi ütlesid samu sõnu, kuid arvutite poole, deklareerides, et arvutisüsteemidel pole kunagi universaalsust.
Peter McIntyre ja Stuart Armstrong, mõlemad Oxfordi ülikooli inimkonna tuleviku instituudis, ei nõustu omakorda selle arvamusega, väites, et tehisintellekti käitumine on kohustuslik ja suuresti õigustatud programmikoodeksiga. Teadlased ei usu, et tehisintellekt ei tee kunagi vigu või on vastupidi liiga tumm, et mõista täpselt, mida me neilt tahame.
"Definitsiooni järgi on tehisintellekt (ISI) agent, kelle intelligentsus ületab mitu korda inimkonna parimaid mõtteid peaaegu kõigis valdkondades," ütleb McIntyre.
"Ta saab kindlasti aru, mida me temalt tahame."
McIntyre ja Armstrong usuvad, et tehisintellekt täidab ainult neid ülesandeid, milleks see oli programmeeritud, kuid kui see kuidagi iseenesest areneb, siis suure tõenäosusega püüab ta välja mõelda, kui palju tema tegevus erineb inimese ülesannetest ja selles sätestatust. seadused.
McIntyre võrdleb inimeste tulevast olukorda hiirte olukorraga. Hiirtel on võimas vaist toidu ja peavarju leidmiseks, kuid nende eesmärgid lähevad sageli vastuollu inimesega, kes ei taha neid oma kodus näha.
"Nagu meie teadmised hiirtest ja nende soovidest, võib ka superluuresüsteem teada meie kohta kõike ja teada, mida me tahame, kuid samas on see meie soovide suhtes täiesti ükskõikne."
Lihtne lahendus välistab tehisintellekti juhtimise probleemi
Nagu on näidatud filmis "Masinast", on tehisintellekti juhtimine, mis on meist palju nutikam, juhtida
Kui eeldame, et ühel päeval loome superintelligentsi, mis on targem kui inimesed, siis peame silmitsi seisma tõsise probleemiga, kontrolliprobleemiga. Futuristid ja tehisintellekti teoreetikud ei ole veel suutnud selgitada, kuidas me suudame ISI-d hallata ja seda ohjeldada pärast selle loomist. Samuti on ebaselge, kuidas saame tagada, et ta oleks inimeste suhtes sõbralik. Hiljuti soovitasid Georgia tehnoloogiainstituudi (USA) teadlased naiivselt öelda, et tehisintellekt võib õppida ja omastada inimväärtusi ja teadmisi sotsiaalsetest normidest, lugedes lihtsalt lihtsaid muinasjutte. Jah, jah, lihtsad lastejutud ja lood, mida vanemad meile lapsepõlves ette loevad. Kuid tegelikult osutub kõik palju keerulisemaks kui see kõik.
"Tehisintellekti kontrollimiseks on välja pakutud palju niinimetatud" lahendusi "," ütleb Stuart Armstrong.
Üks näide sellistest lahendustest võib olla ISI programmeerimine nii, et see püüaks inimesele pidevalt meeldida või meeldida. Alternatiiv oleks integreerida lähtekoodi sellised mõisted nagu armastus või austus. Ja selleks, et vältida stsenaariumi sellist arengut, mille kohaselt tehisintellekt saab kõiki neid mõisteid lihtsustada ja tajuda seda maailma nende ülilihtsustatud mõistete prisma kaudu, jagades selle ainult mustvalgeks, saab seda programmeerida mõistma ja aktsepteerima intellektuaalset, kultuurilist ja sotsiaalset mitmekesisust.
Isaac Asimovi loodud kolm robootikaseadust sobivad suurepäraselt ilukirjanduse kontseptsiooni, kuid tegelikkuses vajame juhtimise küsimusega tegelemiseks midagi põhjalikumat
Paraku on need lahendused liiga lihtsad ja näevad välja nagu katse sobitada kogu inimese meeldimise ja mittemeeldimise keerukus ühe üldise määratluse või mõiste raamidesse või katse sobitada kogu inimväärtuste keerukus ühte sõnasse, fraasi või ideesse. Proovige näiteks sobitada sellesse raamistikku järjepidev ja adekvaatne määratlus sellisele asjale nagu "austus".
Muidugi ei tohiks arvata, et sellised lihtsad võimalused on täiesti kasutud. Paljud neist pakuvad suurepärast põhjust mõtlemiseks ja ehk stimuleerivad ka ülimale probleemile lahenduse otsimist,”ütleb Armstrong.
"Kuid me ei saa loota ainult neile ilma keerukama tööta, ilma selgete uuringuteta ja teatud lahenduste kasutamise tagajärgede otsimiseta."
Kunstlik superluure hävitab meid
Keegi ei saa garanteerida, et tehisintellekt ühel päeval meid hävitab, nagu ka keegi ei saa kindlalt öelda, et me ei suuda leida võimalusi tehisintellekti juhtimiseks ja kasutamiseks oma eesmärkidel. Nagu kunagi ütles Ameerika tehisintellekti ekspert Eliezer Yudkowski: "Tehisintellekt ei saa teid armastada ega vihata, kuid teie koosseisu kuuluvad aatomid, mida see võiks kasutada millekski muuks."
Oxfordi filosoof Nick Bostrom kirjutab oma raamatus "Superintelligence: viisid, ohud ja strateegiad", et tõeline superluure suudab ühel päeval ennast realiseerida, mis muudab selle ohtlikumaks kui ükski inimese loodud leiutis. Kaasaegsed silmapaistvad mõtlejad, nagu Elon Musk, Bill Gates ja Stephen Hawking (kellest paljud arvavad, et "tehisintellekt võib olla inimkonna ajaloo kõige hullem viga"), nõustuvad selle arvamusega tõenäolisemalt ja annavad juba häiret.
Peter McIntyer usub, et enamiku ülesannete jaoks, mida superluure võib endale seada, näevad inimesed välja nagu lisalüli.
"Tehisintellekt saab ühel päeval järeldada - ja tuleb märkida, et see arvutab selle üsna õigesti -, et inimesed ei soovi seda kasutada iga konkreetse ettevõtte kasumlikkuse maksimeerimiseks iga hinna eest, olenemata tagajärgedest tarbijatele, keskkonnale ja elusolenditele. Seetõttu on tal tohutu stiimul plaani ja strateegia väljatöötamiseks, tänu millele ei saa inimene sekkuda ülesande lahendamisse, seda muutes või isegi tehisintellekti välja lülitades."
McIntyeri sõnul annab see tehisintellekti ülesannetele täpselt vastupidise ülesande, mis annab meile suurepärased põhjused, miks ta ei lase meil seda peatada. Ja kui arvestada, et tema intelligentsuse tase on meie omast palju kõrgem, on teda tõesti väga-väga raske peatada, kui see vähegi võimalik on.
Kuid praegu on võimatu midagi kindlalt öelda ja keegi ei oska öelda, millise tehisintellekti vormiga peame tegelema ja kuidas see võib inimkonda ohustada. Nagu Elon Musk kunagi ütles, saab tehisintellekti tegelikult kasutada teiste tehisintellektide juhtimiseks, jälgimiseks ja juhtimiseks. Ja võib-olla viiakse sellesse sisse inimlikud väärtused ja esmane sõbralikkus inimeste vastu.
Kunstlik superluure on sõbralik
Filosoof Immanuel Kant uskus, et intelligentsus on tugevalt seotud moraali põhimõtetega. Neuroteadlane David Chalmers võttis oma teoses „Singulaarsus: filosoofiline analüüs“aluseks Kanti kuulsa idee ja püüdis seda rakendada kunstliku superluure tekke analüüsimiseks.
„Kui käesolevas töös kirjeldatud põhimõtted on õiged, peaks koos tehisintellekti järsu arenguga ootama ka moraalsete põhimõtete järsku arengut. Edasine areng viib ISI-süsteemide tekkimiseni, millel on ülimoraalne ja -luure. Seetõttu peaksime ootama ainult nende heatahtlikke omadusi."
Tõde on see, et arenenud tehisintellekti idee, millel on moraalsed põhimõtted ja erakordne voorus, ei hoia vett. Nagu Armstrong märgib, on maailm täis arukaid sõjakurjategijaid. Näiteks intellekt ja moraal inimeses ei ole kuidagi seotud, seetõttu seab teadlane kahtluse alla, kas selline suhe eksisteerib ka teistes intelligentsuse vormides.
„Nutikad inimesed, kes käituvad amoraalselt, kipuvad tekitama palju rohkem probleeme ja valu kui nende vähem intelligentsed kolleegid. Intelligentsus annab neile võimaluse olla keerukam oma halbade kui heade tegude korral,”ütleb Armstrong.
McIntyre selgitab, et agendi võimel antud ülesannet täita pole midagi pistmist selle ülesandega.
Meil on väga vedanud, kui meie tehisintellektid muutuvad moraalsemaks, mitte ainult targaks. Õnnele lootmine on selles küsimuses muidugi viimane asi, kuid võib-olla määrab just õnn meie positsiooni tulevikus,”ütleb teadlane.
Tehisintellekti ja robootikaga seotud riskid on samad
See on eriti levinud väärarusaam, mida kasutatakse meedias, aga ka Hollywoodi kassahittides nagu The Terminator.
Kui näiteks tehisintellekt, nagu näiteks Skynet, tahab tõesti kogu inimkonna hävitada, siis on ebatõenäoline, et ta kasutab paramilitaarseid androide, kus mõlemas käes on kuulipildujad. Tema kaval ja tõhus mõtlemine võimaldab tal mõista, et palju mugavam on kasutada näiteks uut tüüpi bioloogilist katku või näiteks mõnda nanotehnoloogilist katastroofi. Või äkki võtab ja hävitab ta lihtsalt meie planeedi atmosfääri. Tehisintellekt on potentsiaalselt ohtlik mitte ainult seetõttu, et selle areng on tihedalt seotud robootika arenguga. Tema võimaliku ohu põhjus peitub meetodites ja vahendites, mille kaudu ta saab oma kohalolekut maailmale deklareerida.
Ulmekirjanduses kajastatud tehisintellekt peegeldab meie tulevikku
Kahtlemata on kirjanikud ja ulmekirjanikud juba aastaid kasutanud ulmekeskkonda hüppelauana meie tegeliku tuleviku aimamiseks, kuid ISI tegelik loomine ja selle tegelikud tagajärjed jäävad ikkagi meie tegelike teadmiste silmapiirile. Veelgi enam, tehisintellekti selline kunstlik ja selgelt ebainimlik olemus ei võimalda meil isegi kindlalt oletada, milline see tehisintellekt tegelikult saab olema.
Enamikus ulmelistes teostes on tehisintellekt inimestele võimalikult lähedal.
“Enne meid on tegelikult terve spekter kõige mitmekesisemaid võimalikke meeltüüpe. Isegi kui võtame ainult inimese kuju. Näiteks pole teie meel kaugeltki identne naabri mõttega. Kuid see võrdlus on vaid tilk kogu võimaliku meelsuse mitmekesisuses, mis võiks eksisteerida,”ütleb McIntyre.
Enamik ulmelisi väljamõeldisi on loomulikult loodud eelkõige loo jutustamiseks, mitte selleks, et olla teaduslikult võimalikult veenev. Kui oleks vastupidi (teadus on olulisem kui süžee), siis oleks selliste teoste jälgimine ebahuvitav.
Kujutage vaid ette, kui tüütud oleksid kõik need lood, kus tehisintellekt hävitab ilma eneseteadvuseta võime rõõmustada, armastada või vihata kõiki inimesi oma eesmärgi saavutamiseks praktiliselt ilma igasuguse vastupanuta, mis, muide, ei pruugi samuti olla eriti huvitav lugejale või vaatajale,”kommenteerib Armstrong.
Tehisintellekt võtab meie tööd
Tehisintellekti võime automatiseerida protsesse, mida me käsitsi teeme, ja tema potentsiaal hävitada kogu inimkond ei ole sama asi. Raamatu „Rise of the Robots: Technology and the Threat of Jobless Future“autori Martin Fordi sõnul püütakse neid mõisteid sageli võrrelda ja ühendada ühtseks tervikuks. Muidugi on väga tore, et proovime ennustada tehisintellekti loomise seniseid tagajärgi, kuid ainult siis, kui need jõupingutused ei juhi meid tähelepanu kõrvale probleemidelt, millega me midagi tegemata paarikümne aasta pärast kokku puutuda võime. Ja üks peamisi selliseid probleeme on massi automatiseerimine.
Vähesed väidavad, et tehisintellekti üks väljakutseid on leida viis automatiseerida paljusid töökohti tehase töökohtadest mõnede valgekraede töödeni. Mõned eksperdid ennustavad, et vähemalt USA-s võivad pooled töökohad olla lähitulevikus automatiseeritud.
Kuid see ei tähenda sugugi, et me ei saa selliste muudatustega nõustuda. On oluline mõista, et soov vabaneda töö käigus tekkivast ebavajalikust füüsilisest ja psühholoogilisest stressist on tegelikult olnud meie inimliigi unistus juba pikka aega.
„Mõne aastakümne pärast asendab tehisintellekt inimesi paljudel töökohtadel. Ja see on tegelikult päris hea. Näiteks asendavad autojuhte isejuhtivad autod, mis omakorda ei vähenda mitte ainult kaupade saatmise, vaid ka kauba enda maksumust. Kui töötate veokijuhina, siis jääte loomulikult äärmuslikuks, kuid kõik teised saavad sel juhul suurema tõenäosusega palgatõusu. Ja mida rohkem saab seda raha kokku hoida, seda rohkem saab seda raha kulutada muudele kaupadele ja teenustele, millega inimesed oma töökohal tegelevad."
Suure tõenäosusega otsib tehisintellekt uusi heaolu viise ja toidab inimesi samal ajal, kui nad muud teevad. Tehisintellekti arenguga kaasnevad edukused teistes valdkondades. Eriti töötlevas sektoris. Tulevikus see kõik tõenäoliselt pigem lihtsustab kui raskendab meie põhivajaduste rahuldamist.
