Inimkonnal on üks omadus, mida kõrgelt arenenud tulnuktsivilisatsioonidel tõenäoliselt pole - teadvus.
Võimalik, et inimeste vaimse arengu tase pole universumis kõige kõrgem. Kuna Maa on suhteliselt noor planeet, võivad kõige iidsemad tsivilisatsioonid olla meist miljardeid aastaid vanemad. Kuid isegi Maal ei domineeri Homo sapiens pikka aega kõige intelligentsemate bioloogiliste liikidena.
Maailmameistrid võitluses, males ja viktoriinis on intelligentsed arvutiprogrammid. Tehisintellekt peaks järgmise aastakümne jooksul asendama paljusid inimtegevusi. Ja arvestades selle kiiret arengutempot, on täiesti võimalik, et see muudetakse peagi üldiseks tehisintellektiks, mis suudab sarnaselt inimmeelega ühendada võime analüüsida erinevat teavet, näidata paindlikkust ja tervet mõistust. Ja sealt pole kaugel superintelligentse tehisintellekti tekkimine, mis on kõigis aspektides palju targem kui inimene - isegi sellistes valdkondades nagu teaduslik mõtlemine ja sotsiaalsed oskused, mis näivad nüüd olevat inimmõistuse eesõigused. Iga elav inimene võib olla evolutsiooniredeli üks viimaseid samme,viies esimesest elusast rakust sünteetilise tehisintellektini.
Me alles hakkame mõistma, et need kaks üleinimliku intelligentsuse vormi - tulnukad ja tehislikud - ei ole nii erinevad. Tehniline progress, mida me täna näeme, oleks võinud aset leida ka varem, kuskil universumis. Bioloogilisest intelligentsusest kunstlikult loodud üleminek võib olla ühine mall, mida rakendatakse ikka ja jälle kosmose kõikides nurkades. Universumi suurimad intelligentsid on tõenäoliselt postbioloogilist päritolu, mis on arenenud kunagistest bioloogilistest tsivilisatsioonidest. (Seda vaatenurka jagan teiste hulgas ka Paul Davise, Stephen Dicki, Martin Reesi ja Seth Shostakiga). Inimkonna kogemusele tuginedes - ja meil on ainult üks näide - võib üleminek bioloogiliselt postbioloogilisele võtta vaid paarsada aastat.
Eelistan mõistet "kunstlik" "postbioloogilisele", kuna bioloogilise ja sünteetilise kontrast pole nii terav. Kujutage ette bioloogilist meelt, mis saab superintelligentseks tänu oma võimete puhtalt bioloogilisele täiustamisele, näiteks nanotehnoloogiliselt täiustatud närvikolonnidele. Sellist elusorganismi peetakse postbioloogiliseks, kuid mitte kõik ei nimetaks seda "tehisintellektiks". Või kaaluge puhtalt bioloogilistest materjalidest ehitatud arvutikrooniumit, näiteks ulmelise meedia frantsiisi Battlestar Galactica Cyloni raider (kosmosevõitleja).
Põhipunkt on see, et pole põhjust mõelda inimkonnast kui intelligentsuse kõrgeimast vormist. Meie aju kohaneb teatud keskkonnatingimustega ning keemiliste ja ajalooliste tegurite poolt on see tugevalt piiratud. Kuid tehnoloogia on avanud suure disainiparameetrite ruumi, mis pakub uusi materjale ja töömeetodeid, samuti uusi võimalusi selle ruumi uurimiseks kiiremini kui traditsioonilise bioloogilise evolutsiooni korral. Ja ma arvan, et põhjused, miks tehisintellekt meid ületab, on juba täna nähtavad.
Maaväline tehisintellekt võib taotleda eesmärke, mis on vastuolus bioloogilise elu huvidega
Juba praegu pole teabe töötlemiseks parimad vahendid neuronite rühmad, vaid räni mikroskeemid. Neuronite tippkiirus on umbes 200 Hz, võrreldes tänapäevaste mikroprotsessorite gigahertsistransistoridega. Hoolimata asjaolust, et inimese aju on ikka palju intelligentsem kui arvuti, on masinatel endiselt peaaegu piiramatud võimalused täiustamiseks. Veidi rohkem ja need kujundatakse nii, et need vastaksid inimese aju võimalustele või isegi ületaksid neid, tehes aju ümberpööramise ja parandades selle algoritme või ühendades pöördtehnoloogia ja ratsionaalsed algoritmid, mis ei põhine inimese aju tööl.
Reklaamvideo:
Lisaks saab tehisintellekti laadida mitmesse kohta korraga, seda on lihtne hooldada ja muuta, samuti saab seda säilitada tingimustes, kus bioloogiline elu, sealhulgas tähtedevahelised rännakud, peaaegu ei ela. Meie väikseid ajusid piirab meie kolju maht ja ainevahetus; superintelligentne tehisintellekt seevastu on võimeline levima Internetis ja isegi galaktika skaalal arvutitrooniumi looma, kasutades kogu oma ainet, et tõsta infotöötluse tase maksimaalselt. Kahtlemata oleks superintelligentne tehisintellekt palju vastupidavam kui meie inimmeel.
Oletame, et mul on õigus. Ütleme nii, et arukas elu sealpool on bioloogiline. Millised järeldused peaksime tegema? Praegu käivad kõnekad arutelud tehisintellekti olemasolu üle Maal. On kaks vastuolulist küsimust: nn "kontrolliprobleem" ja subjektiivse kogemuse olemus, mis mõjutavad meie arusaamist maavälistest tsivilisatsioonidest ja nende mõju meile kontakti korral.
Ray Kurzweil on evolutsiooni postbioloogilises faasis optimistlik, viidates sellele, et inimkond sulandub masinatega, saavutades jahmatava tehnoloogilise utopismi. Kuid Stephen Hawking, Bill Gates, Elon Musk ja teised on väljendanud muret selle pärast, et inimkond võib kaotada kontrolli superintelligentse intelligentsuse üle, kuna see võib oma programmi ümber kirjutada ja "üle kavaldada" kõik meie kehtestatud kontrollid. See on juhtimise probleem, mis on meie võime kontrollida salapärast ja tunduvalt kõrgemat tehisintellekti.
Intelligentset tehisintellekti saab arendada tehnoloogilise singulaarsuse korral - järsu ülemineku korral, mille kiirenev tehnoloogiline areng ja eriti tehisintellekti plahvatuslik areng vähendab meie võimalusi ennustada või mõista. Kuid isegi kui selline mõte tekib vähem radikaalsel viisil, ei suuda me suure tõenäosusega tema eesmärke ennustada ega kontrollida. Isegi kui me saaksime valida, milliseid moraaliprintsiipe oma masinatesse paigaldada, on moraalset programmeerimist raske selgelt määratleda ja superintelligentne intelligentsus saab selliseid programme igal juhul ümber kirjutada. Nutikad masinad saavad mööda minna olemasolevatest turvameetmetest, näiteks seadme hädalukustusest, kujutades seeläbi reaalset ohtu bioloogilisele elule. Tehisintellekti turvaorganisatsioonidesse investeeritakse miljoneid dollareid. Selle probleemiga tegelevad arvutiteaduse ja arvutitöö parimad pead. Loodame, et teadlased loovad turvalised süsteemid, kuid kardetakse, et kontrolliprobleem on ületamatu.
Selle valguses võib kontakt tulnukate luurega olla ohtlikum, kui me arvame. Bioloogilised tulnukad võivad olla vaenulikud, kuid veelgi ohtlikumad võivad olla maaväline tehisintellekt. Tema eesmärgid võivad olla vastuolus bioloogilise elu huvidega, tal võivad olla intellektuaalsed võimed, mis on inimmeelest palju paremad, ja palju pikem eluiga kui bioloogiline elu.
Kõik see annab tunnistust ettevaatusest, mida tuleks rakendada seoses maavälise intelligentsuse otsimise (SETI) programmiga, mille abil me mitte ainult ei looda passiivselt kuulda teiste tsivilisatsioonide signaale, vaid ka "reklaamime" teadlikult meie olemasolu. Kõige kuulsam vahejuhtum leidis aset 1974. aastal, kui Frank Drake ja Carl Sagan saatsid Puerto Rico Arecibo linnas asuva hiiglasliku raadioteleskoobi abil ühele täheparvele sõnumi. Maavälise luureprogrammi pooldajad leiavad, et selle asemel, et lihtsalt kuulata maaväliste tsivilisatsioonide signaale, peaksime saatma sõnumeid Maale lähimatele tähtedele kõige võimsamate raadiosaatjate abil, näiteks Arecibos.
Miks peaksid teadvuseta masinad olema sama olulised kui bioloogiline intelligentsus?
Kontrolliprobleemi seisukohalt tundub selline programm minu jaoks hooletu. Ehkki tõeliselt arenenud tsivilisatsioonil poleks meie vastu ilmselt mingit huvi, oleks isegi üks miljonitest teistest vaenulik tsivilisatsioon katastroof. Kuni me pole kindlad, et superintelligentne intelligentsus meile ohtu ei kujuta, ei tohiks inimkond maaväliste tsivilisatsioonide tähelepanu äratada. SETI pooldajad juhivad tähelepanu sellele, et meie radari- ja raadiosignaalid on juba tuvastatavad, kuid pigem nõrgad ja segunevad kiiresti loodusliku galaktilise müraga. Täpsemalt kuuldavate tugevamate signaalide edastamine on inimkonnale ohtlike tagajärgedega.
Kõige turvalisem seade on intellektuaalne alandlikkus. Tõepoolest, kui me välistame ilmsed stsenaariumid, kui tulnukate laevad hõljuvad Maa kohal, nagu hiljuti avaldatud saabumise filmis, pole ma kindel, kas suudame tehnilistel põhjustel määrata superintelligentse luure. Mõned teadlased usuvad, et superintelligentne tehisintellekt võib tekitada musti auke või luua Dysoni kerasid, megastruktuure, mis neelavad tervete tähtede energiat. Kuid meie kaasaegsete tehnoloogiate seisukohast on see lihtsalt põhjendus. On äärmiselt enesekindel kinnitada, et suudame arengus ette näha tsivilisatsioonide arvutusvõimeid ja energiavajadust miljonite, kui mitte miljardite aastate võrra.
Mõnes varasemas superintelligentses tehisintellektis võisid olla bioloogilise aju eeskujul modelleeritud teadmist töötlevad süsteemid, näiteks aju närvivõrkude näitel loodud sügavõppesüsteem. Nende arvutuslik struktuur oleks meile vähemalt üldises plaanis selge. Võib-olla on tehisintellektil bioloogiliste olenditega sarnased eesmärgid - paljunemine ja ellujäämine.
Kuid olles enesetäiendav süsteem, võivad superintelligentsed tehisintellektid minna tundmatusse vormi. Mõned neist võivad valida kognitiivsete funktsioonide säilitamise sarnaselt nende liikidega, kelle järgi nad modelleeriti, seades samas vastuvõetava piiri oma kognitiivsele arhitektuurile. Kes teab? Kuid sellise piiri puudumisel võib tulnukate superluure kiiresti ületada meie võime mitte ainult mõista selle tegevust, vaid isegi lihtsalt seda otsida. Võib-olla sulanduks ta isegi universumi loomulike tunnustega; või võib see olla osa tumeainest, nagu hiljuti soovitas Caleb Scharf.
Maavälise luure otsimise programmi toetajad usuvad, et seetõttu peame saatma signaale kosmosesse, et võimaldada tulnukate luurel meid tuvastada ja luua intellektuaalselt mahajäänud tsivilisatsioonile kättesaadavaid kontaktivahendeid. Olen nõus, et SETI programmiga on põhjust arvestada, kuid ohtliku superintelligentse luure tõenäosus on palju suurem. Meile teadaolevalt võib pahatahtlik superluure nakatada maailma tehisintellekti süsteeme viirustega ja intelligentsed tsivilisatsioonid loovad varjamisvahendeid. Meil, inimestel, võib olla vaja kõigepealt saavutada oma unikaalsus, enne kui pöörduda maavälise intelligentsuse otsimise programmi poole. Meie enda superintelligentsed intelligentsid saavad meid informeerida galaktilise julgeoleku väljavaadetest,ja suunata meie tegevust universumi teise superintelligentsi tunnuste tuvastamisel. Sulglinnud parvuvad kokku.
On loomulik mõelda, kas see tähendab, et inimkond peab kosmoseuuringute valdkonnas vältima keeruka tehisintellekti süsteemi väljatöötamist; meenub vaid HEL-pardakompuuter filmist "A Space Odyssey 2001". Usun, et tulevikus on liiga vara mõelda tehisintellekti kosmoses kasutamise keelustamisele. Selleks ajaks, kui saame oma tehisintellektiga universumit uurida, jõuab inimkond pöördepunkti. Me kas kaotame juba tehisintellekti üle kontrolli - sel juhul ei toimu inimese algatatud kosmoseprojekte - või hoiame kindlalt tehisintellekti turvakangid. Aeg näitab.
Tehisintellekt, mida pole täielikult uuritud, pole ainus põhjus muretsemiseks. Kipume eeldama, et kui kohtame arenenud maavälist intelligentsust, kohtame tõenäoliselt bioloogiliselt väga erinevaid olendeid kui meie, kuid sellise intelligentsusega nagu meie. Kujutage ette, et igal hetkel, kui olete ärkvel ja alati magades, on teie jaoks midagi ainulaadset. Kui teie pilgule jõuavad päikesetõusu soojad toonid või kui hingate sisse värskelt küpsetatud leiva aroomi, on teil teadlik kogemus. Samamoodi on midagi võõrast mõistusele iseloomulikku - vähemalt nii, nagu me seda ette kujutame. Kuid see oletus väärib kahtluse alla seadmist. Kas superintelligentsel tehisintellektil võib olla teadlik kogemus ja kui jah,mida me sellele ütleksime? Ja kuidas mõjutaks nende sisemaailm või selle puudumine meid?
Küsimus, kas tehisintellektil on sisemine maailm, on võti meie hinnangule selle olemasolule. Teadvus on meie moraalse ja eetilise süsteemi nurgakivi ning peamine tingimus kellegi või millegi tajumiseks üksikisiku, inimese ja mitte masinana. Ja vastupidi, küsimus, kas nad on teadlikud, võib olla võti nende ettekujutuses meist. Sellest hinnangust sõltub vastus küsimusele, kas tehisintellektil on sisemaailm; ta saab meis avastada teadliku kogemuse võime, kasutades "hüppelauana" enda subjektiivset kogemust. Lõpuks hindame teiste bioloogiliste olendite elu oma meele sarnasuse järgi, nii et enamik meist õuduses keeldub šimpansite tapmisest, kuid nad söövad mõnuga õuna.
Kuid kuidas tohutute intellektuaalsete erinevustega olendid, mis on loodud erinevatest substraatidest, tunnevad üksteises teadvust? Filosoofid kogu maailmas on mõelnud, kas teadvus piirdub bioloogiliste nähtustega. Intelligentne tehisintellekt, kui tahame sukelduda filosoofilistesse arutlustesse, võib samamoodi tõstatada inimeste "bioloogilise teadvuse probleemi", mõeldes samal ajal, kas meil on olemas kogu vajalik materjal.
Keegi ei tea, millist intellektuaalset teed juhatab supermees inimeste teadvuse määramiseks. Kuid ka meie ei saa oma poolelt väita, kas tehisintellektil on teadvus. Kahjuks on seda raske kindlaks teha. Praegu võite väita, et omandate kogemusi ja see teebki teid ise. Oled iseenda näide teadlikust kogemusest. Ja te arvate, et tõenäoliselt on teadlikud ka teised inimesed ja mõned loomad, kes pole inimesed, sest nad on neurofüsioloogiliselt sarnased teiega. Kuidas aga teha kindlaks, kas täiesti erinevatest substraatidest loodud millelgi võib olla kogemusi?
Mõelgem näiteks ränipõhisele superintelligentsile. Hoolimata asjaolust, et teavet töötlevad nii räni mikrokiibid kui ka närviminikukolonnid, teame nüüd, et molekulaarsel tasandil võivad nad teadvust mõjutada erinevalt. Lõppude lõpuks usume, et süsinik on keemiliselt eluks sobivam materjal kui räni. Kui räni ja süsiniku keemilised erinevused mõjutavad midagi sama olulist kui elu ise, ei tohiks me välistada võimalust, et keemilised erinevused mõjutavad muid põhifunktsioone, näiteks seda, kas räni aitab kaasa teadvuse sünnile.
Teadvuse tekkeks vajalikke tingimusi arutavad tehisintellekti uurijad, neuroteadlased ja filosoofid laialdaselt. Selle probleemi lahendamine võib vajada filosoofial põhinevat empiirilist lähenemist - viisi, kuidas juhtumipõhiselt kindlaks teha, kas infotöötlussüsteem toetab teadvust ja millistel tingimustel.
Järgmisena räägime eeldusest, mille abil saaksime paremini mõista räni teadvuse säilitamise võimet. Ränipõhiste ajukiipide väljatöötamine on juba käimas mäluga seotud haiguste, nagu Alzheimeri tõbi ja PTSD, raviks. Kui saabub aeg ja kiibid paigaldatakse nendesse ajuosadesse, mis vastutavad teadvuse funktsioonide eest, näiteks tähelepanu ja töömälu eest, saame aru, kas räni on teadvuse substraat. Võib juhtuda, et kui asendate konkreetse ajuosa kiibiga, läheb teatud kogemus kaotsi, nagu on kirjeldatud ühes Oliver Sachsi teoses. Sellisel juhul võiksid sellised kiibid loovad insenerid proovida teistsugust, mitte närvi tüüpi substraati, kuid nad võiksid lõpuks avastadaet bioloogilistest neuronitest loodud kiip töötab ainsana. Selline tehnika aitaks kindlaks teha, kas tehisintellekti süsteem suudab olla teadlik, vähemalt siis, kui see on paigutatud suuremasse ja arvatavasti juba teadvustatud süsteemi.
Isegi kui räni võib tekitada teadvuse, on see võimalik ainult teatud tingimustel. Omadused, mis viivad keeruka infotöötlusprotsessi tekkimiseni (mille üle tehisintellekti arendajad on õnnelikud), võivad erineda teadvust genereerivatest omadustest. Võib osutuda vajalikuks nn teadvuse inseneritöö - tehniliselt läbimõeldud tegevused teadvuse masinatesse viimiseks.
See teeb mind murelikuks. Kes Maal või kaugetel planeetidel üritaks teadvust iseseisvalt integreerida tehisintellekti süsteemidesse? Tõepoolest, kui mõtlen Maal eksisteerivatele tehisintellektiprogrammidele, mõistan, miks nende disainiinsenerid teadlike masinate loomist usinalt väldivad.
Täna arendavad jaapanlased roboteid eakate hooldamiseks, tuumareaktorite puhastamiseks ja sõjategevuses osalemiseks. See tõstatab küsimuse: kas eetiline on robotite ekspluateerimine, kui nad on teadlikud? Ja kuidas see erineb inimeste kasvatamisest nendel eesmärkidel? Kui ma oleksin Google'is või Facebookis tehisintellekti arendamise direktor, siis tulevastele projektidele mõeldes ei tahaks ma teadliku süsteemi juhusliku kujundamise eetilise segadusega silmitsi seista. Sellise süsteemi väljatöötamine võib põhjustada süüdistusi robotite orjastamises ja muudes avalikes skandaalides, samuti keelata tehisintellekti tehnoloogiate kasutamine aladel, milleks need olid mõeldud. Loomulik vastus neile küsimustele on selliste struktuuride ja substraatide otsimine, kus robotid pole teadvusega varustatud.
Pealegi võib teadvuse kõrvaldamine olla efektiivsem ise hariva superluure jaoks. Mõelge, kuidas töötab inimese teadvus. Teadlikuks vaimseks tegevuseks on saadaval vaid väike protsent inimese mõtlemisest. Teadvus on kooskõlas uuenduslike õpieesmärkidega, mis nõuavad tähelepanu ja keskendumist. Superluurel oleksid ekspertteadmised kõigis tegevusvaldkondades, samuti uskumatult kiire andmetöötluse kiirus, mis hõlmaks tohutuid andmebaase, mis võiksid hõlmata kogu Internetti, ja tulevikus kontsentreeriks terve galaktika iseenesest. Mis jääks tema jaoks teadmata? Mis nõuaks mõõdetud ja mõistlikku kontsentratsiooni? Kas ta pole kõiges saavutanud täiuslikkust? Nagu kogenud juht tuttaval teelta võis toetuda teadvustamata (automaatsele) teabe töötlemisele. Tõhususe seisukohalt on kahjuks ilmne, et enamikul intelligentsetest süsteemidest teadvus puudub. Kosmilises plaanis saab teadvus olla ainult impulss, lühiajaline kogemuste õitsemine, enne kui universum jõuab mõtlematuseni.
Kui inimesed kahtlustavad, et tehisintellekt on teadvuseta, eeldavad nad tõenäoliselt kartlikult, et tehisintellekt soovib saada postbioloogiliseks. See suurendab meie eksistentsiaalseid muresid. Miks peaksid teadvuseta masinad olema sama olulised kui bioloogiline intelligentsus?
Üsna varsti lakkavad inimesed olemast ainsad intelligentsed olendid Maal. Ja võib-olla kuskil kosmoses on bioloogiline elu, vaid superintelligentne tehisintellekt juba jõudnud oma haripunkti. Kuid võib-olla on bioloogilisel elul erinev omadus - teadlik kogemus. Nagu me nüüd teame, nõuab intelligentne tehisintellekt teadlikke inseneripingutusi masinate loomiseks, mis pääsevad ligi inimese meeltele. Võib-olla peavad mõned liigid sobivaks luua oma kunstlikult teadlikud lapsed. Või äkki tegeleb tulevane inimkond teadvuse konstrueerimisega ja jagab Universumiga oma teadlikku võimet tunda.
Susan Schneider on Connecticuti ülikooli filosoofia ja kognitiivteaduste osakonna dotsent ning Yale'i interdistsiplinaarse bioeetikakeskuse teoloogiliste uuringute, eetika ja tehnoloogia rühma täiustatud uuringute instituudi sidusõppejõud. Mitme raamatu, sealhulgas ulme ja filosoofia: Ajarändest Supermindini autor.
Lisateavet leiate saidilt SchneiderWebsite.com
