Inglise inimkonna tuleviku instituudi direktor Oxfordi filosoof Nick Bostrom on kuulus oma tööst eksistentsiaalsete riskide, antropilise põhimõtte, inimtöötluse eetika ja tehisintellekti põhjustatud ohtude osas. Ta pani kirja "Proof of Simulation", milles ta soovitab, et meie tegelikkust saab simuleerida mõne arenenud tsivilisatsiooni loodud arvutis. Juunis külastas Nick Bostrom Venemaad, et osaleda ANO Tsifrovaya Economy ja Venemaa pankade liidu toel Sberbanki korraldatud rahvusvahelisel küberturvalisuse kongressil. "Lenta.ru" erikorrespondent rääkis Bostromiga masinate ülestõusust, maailmavalitsusest ja transhumanismist ning leidis ka, miks elada edasi, kui "Maatriks" on ümber.
Mis on futuroloogia tähendus? Kui vaatame mineviku futuristide ennustusi, siis osutus peaaegu ükski nende ennustustest täpseks
Bostrom: Rääkides sellest distsipliinist, ei usu ma, et sellel oleks mingit väärtust.
Nick Bostrom. Foto: Tom Pilston ajalehele The Washington Post / Getty Images.
Jah, kuid proovite lihtsalt ennustada teatud globaalseid sündmusi tulevikus
Ma ei kirjeldaks futuroloogiana seda, mida mina või minu juhitud teadlaste rühm teeme. Me teeme teatud asju. Esiteks töötame välja kontseptsioonid, et hõlbustada mustrite leidmist olevikusündmuste ja nende pikaajaliste tagajärgede vahel, et näha, kuhu need meid viia võivad ja kas midagi saab põhimõtteliselt muuta.
Samuti proovime välja selgitada, millised muudatused viivad positiivse ja millised negatiivseteni. Näiteks eksistentsiaalsete riskide kontseptsioon, mis viib selleni, et arukas elu sureb välja või takerdub mingisse radikaalsesse mitteoptimaalsesse olekusse. Selles näites on eksistentsiaalse katastroofi tagajärgi tõepoolest väga lihtne ennustada ja need on teatud väärtusperspektiivi osas äärmiselt olulised, mis tähendab, et tulevikul on suur tähtsus. Nii et see kõik aitab keskenduda teatud toimingute tagajärgedele.
Reklaamvideo:
Kuid mõned uuringud, mida me teeme, on palju täpsemad. Näiteks on meil rühm spetsialiste, kes tegelevad tehisintellekti turvalisusega (see on informaatika alajagu), kuna usume, et selliseid teadmisi on tulevikus kindlasti vaja.
Kas peaksime tõesti kartma selliseid asju nagu tugev tehisintellekt, taevakeha kukkumine, võõraste tsivilisatsioonide sissetung? Kas te ei usu, et kui sellised võimud nagu teie, Elon Musk või Stephen Hawking räägivad sellistest asjadest, juhivad nad ühiskonna tähelepanu aktuaalsematele probleemidele?
Ma ei arva, et peaksime mõtlema ainult nende probleemide üle, mis meil praegu on. Peaksime mõtlema, kuhu läheme. Peate muretsema nii oleviku kui ka tuleviku pärast. Vilkurite panemine ja kaljusse viivate teede nägemata jätmine oleks suur viga.
Kas te tõesti arvate, et tehisintellekt võib ohustada inimkonda?
Muidugi võib ohtu kujutada tugev tehisintellekt - mitte see, mis praegu olemas. Ma kujutan ette teatud stsenaariume, kui see on võimalik. Kuid ma näen neid rohkem kui portaali, mille kaudu inimkond peab edasi minema teel paremasse tulevikku, mis tähendab masinaüleluure vältimatut arengut. Seega pole küsimus selles, kas selle sammu tuleks astuda või mitte. Lihtsalt, et kui me seda teeme, peaks see olema võimalikult ettevaatlik ja vastutustundlik. Peame veenduma, et saame läbi portaali, mitte ei põrka vastu seina.
Kuid kas inimkond peab sellest portaalist läbi minema, kui tugev AI osutub inimesest paremaks, targemaks, kiiremaks? Üldiselt, miks on filosoofilises mõttes vaja inimest, kui tugev AI esindab täiuslikumat vahendit universumi tundmaõppimiseks?
Arvan, et me peaksime kasutama masinaid inimliku tahte laiendusena, et need meile kasu tooksid. Ja see on võimalik. Kuid on ka riske, mis võivad takistada meid selle eesmärgi saavutamast.
Üritan küsida, kas ebatäiusliku orgaanilise elu olemasolul on mõtet, kui masin on parem? Miks inimkond eksisteeriks isegi pärast tugeva AI väljakujunemist?
Teate, kõik sõltub alternatiividest - milline on tulemuseks inimkond ja millised on need muud eluvormid. Ma ei usu, et kui miski osutub evolutsioonilises mõttes mõistlikumaks, edukamaks kui inimene, siis moraali seisukohast on see parem kui inimene. Ma kujutan ette erinevaid tulemusi, mis toovad kaasa märkimisväärselt negatiivseid tagajärgi: näiteks äärmiselt arenenud tehnoloogiline tsivilisatsioon võib kaotada universaalsed väärtused. Kuid ma kindlasti ei usu, et inimesed praegusel kujul on ideaalsed olendid, kellel pole kuhugi areneda. Ja siin ei räägi ma ainult bioloogiliste eluvormide parendamisest - võib ette kujutada positiivseid stsenaariume, kus inimkonnast saab täiesti digitaalne eluvorm.
Nii et arvate, et teadvuse saab üle viia autosse?
Jah, kuid piisavalt küpse tehnoloogia tulekuga, mitte tänapäeval.
Seetõttu usute, et teadvus on eranditult nummerdamisprotsess?
Jah.
Kuidas arvate filosoofide töödest, kes postuleerivad teadvuse dualistlikku olemust - et teadvus on subjektiivne nähtus, mis eksisteerib väljaspool objektiivset maailma? Näiteks nagu Austraalia filosoof David Chalmers seda kirjeldab
Olen järgija teooriale, et teadvus on arv. Muidugi ei usu ma, et see, mis teeb meist teadlikud olendid, annab meile subjektiivse kogemuse, sõltub asjaolust, et me oleme lihtsalt süsinikuaatomitest valmistatud. Kuid meie aju toodab teatud numeratsiooniprotsesse, mida põhimõtteliselt saab käivitada teises keskkonnas. Ja see on põhipostulaat - oluline pole mitte materjal, vaid nummerdamisprotsessi enda funktsionaalsed atribuudid.
Ja see, et ma tajun maailma oma teadvuse kaudu, on lihtsalt aju närviimpulsside komplekt?
Täpselt nii. Ma usun, et teie aju loob teie teadvuse. Kuid küsimus on selles, mis veel võib teie teadvuse genereerida. Ja ma arvan, et põhimõtteliselt ei pea see olema orgaaniline struktuur. See võib olla näiteks arvuti.
Kuid kas ta on ise teadlik, kas sellel on väga subjektiivsus?
Usun, et on võimalik luua iseteadlikke arvuteid. See pole jällegi praegu võimalik, kuid tulevikus ei näe ma sellel takistusi.
Kui ta oleks ise teadlik, kas ei peaks inimkond teda aktsepteerima kui võrdset intelligentset eluvormi?
Mulle tundub, et digitaalseid meeli võib olla palju täiesti erinevaid, palju mitmekesisemaid kui inimeste oma. Ehkki usume, et oleme kõik väga erinevad - ema Teresa, Hitler, maailma targem inimene ja lollim -, oleme kõik üksteisega kohutavalt sarnased, pole meie kõigi aju palju erinev ühegi teise inimese ajust. Kõik see on umbes poolteist kilogrammi sadu miljardeid neuroneid. Kuid digitaalsed mõtted võivad olla meile väga, väga erinevad ja "võõrad" (mõni võib muidugi sarnaneda meie omaga ja mõni - mitte).
Samas usun, et mõnele digitaalsele meelele (eriti neile, kellel on teadvus, nad suudavad tunda valu, survet jms) omistatakse erinevad moraalse seisundi astmed. Üha keerukama ja keerukama tehisintellekti ehk digitaalse mõistuse arendamisel peame silmitsi seisma teatud eetiliste probleemidega. Ja mitte ainult selle kohta, kuidas AI meid mõjutab või kuidas üks inimene saab AI-d teise inimese suhtes rakendada, vaid ka selle kohta, kuidas me selle digitaalse meelega suhestume.
Oletame, et ehitasin väikese kivide põlle ja hävitasin selle - ma ei kahjustanud kedagi. Kui te muidugi ehitate selle ja ma hävitan selle, siis võib see teid kahjustada, kuid korsten ise ei oma moraalset staatust. Ja ütleme, et koeral on see olemas ja seetõttu on vale koera lüüa. Sama on ka teadliku digimeelega, isegi kui ta teadvus on alguses samal tasemel kui loom. See tõstatab eetilise küsimuse, kuidas peaksime seda kohtlema. Ja ma usun, et varsti saabub aeg sellele tõsiselt mõelda, mitte ainult filosoofiliste seminaride raames, vaid ka laiapõhjalise avaliku arutelu käigus.
Raam: film "Keepers".
Kui räägime globaalsetest ohtudest, siis kas võib autoritaarsete režiimide arvu suurenemist maailmas pidada üheks neist?
Jah, ma arvan, et see on düstoopilise tuleviku üks võimalikke stsenaariume, mida võib ette kujutada, kui erinevad sotsiaalpoliitilised suundumused arenevad piisavalt kaua vales suunas. Mõni arenenud tehnoloogia võib hõlbustada nende suundumuste väljatöötamist: parem kodanikujärelevalve, keerukamad droonid …
Nüüd vajate riigi valitsemiseks, isegi kui olete diktaator, vajate sõjaväe ja eliidi tuge. Võite ette kujutada, et tehisintellekti tehnoloogia ja robootika abil väheneb selleks vajalike inimeste arv pidevalt. Lõpuks võib selguda, et kümmekond inimest suudavad suure riigi elanikkonda valitseda ja see annab rikkalikud võimalused despootlike režiimide olemasolu säilitamiseks.
Nii et jah - see on üks riskidest, kuid on ka võimalus, et need sotsiaal-poliitilised suundumused lähevad teises suunas.
Räägite ja kirjutate sageli singletonist - riigiliidust, kus otsuseid langetab üksainus maailmakeha …
Kui vaadata meie liikide ajalugu, siis algselt oli suurim poliitilise integratsiooni üksus jahimeeste-kogujate kollektiivid, kuhu kuulus maksimaalselt viiskümmend inimest. Aja jooksul moodustati juhtide, seejärel linnriikide, siis rahvusriikide juhtimisel hõimud. Nüüd on meil ühendused nagu Euroopa Liit, erinevad rahvusvahelised organisatsioonid ja see jätkub seni, kuni singel ilmub. See tähendab, et see on pikaajaliste ajalooliste suundumuste jätk.
Nagu ma aru sain, postuleerisite, et singletone võib olla kahte tüüpi: „halb” - autoritaarne ja „hea” - egalitaarne …
Ma ei pea üldse "halba" singletoni tingimata autoritaarseks ja "head" üksikset autoritaarseks. Erinevatel asjaoludel võib singleton olla "hea" või "halb".
Selgita palun
Ma isegi ei tea, kuidas seda kõike kokku võtta … Kuid muidugi võite ette kujutada "halba" egalitaarset singletoni. Ütleme, et ta võib erinevatel põhjustel olla ebakompetentne või ebaefektiivne. Näiteks kui kõik elavad võrdselt halvasti, oleks see täiesti egalitaarne tulemus, kas pole? Aga ikkagi halb.
Niisiis on võimalus, et ilmneb "hea" autoritaarne singlett?
Ehk, kui võrrelda erinevaid alternatiive, olukorras, kus heatahtlik diktaator on juhtimisel … "Hea" ja "halb" on suhtelised mõisted, mida kasutatakse muude võimalike olukordade jaoks. Ütle, et kui alternatiiviks on globaalne katastroof, oleks see tulemus suhteliselt hea.
Aga mis siis, kui kujutate ette ideaalset egalitaarset singletoni? Kõik see näeb välja nagu omamoodi utoopia, milles inimesed elavad ilma konfliktide ja sõdadeta täielikus harmoonias. Kuid konfliktid on inimloomusele omased
Inimloomus pole valatud pronksi. Kui arvestada olukorda, kus tsivilisatsiooni tehnoloogiline küpsus saavutati (pean siin silmas nii biotehnoloogilisi kui ka kultuurilisi vahendeid selle erinevate aspektide muutmiseks), kui ühise eesmärgi saavutamise eesmärk on seatud, võib see olla hea põhjus inimloomuse muutmiseks.
Ja kuidas seda täpselt saavutada? Muutke vähem agressiivseks, majutatavamaks jne? Lõppude lõpuks kipuvad inimesed võõraid mitte usaldama, rühmituma ühendusteks, mis on teiste assotsiatsioonide vastu
Jah, ja see on nende valik ning seda saab muuta. Kuid kui üks inimrühm kohtleb teist halvasti, siis võivad nad otsustada mitte muutuda nii, et leiaksid ühise teisega.
See tähendab, et suure tõenäosusega ei saa inimkäitumist globaalses plaanis muuta?
Täpselt nii. Siin räägime motivatsiooni muutusest ja enne seda rääkisin sellise muutuse võimalusest, kui tekivad tehnoloogilised võimalused. Ja siis tekib muidugi küsimus, kas inimesed otsustavad neid selle eesmärgi saavutamiseks kasutada.
Muide, tehnoloogia kohta. Me kardame alati uusi tehnoloogiaid. Näiteks lugesin hiljuti ühe Ameerika väljaande veergu, mille autor oli kampaanias sularahapaberist loobumise vastu, sest sularahata maksed annavad väidetavalt pankadele liiga palju võimalusi elanikkonna kontrollimiseks. Kas olete selle seisukohaga nõus? Kas see on tõesti ühiskonnale oht?
Sularaha on anonüümne väärtpaber. Saate maksta pangatähtedega ja teid ei tuvastata. Kõik see vähendab pankade ja riigi võimalusi kontrollida kodanike igapäevaelu, mis võib teatud tingimustel olla üsna kasulik - näiteks despootlike režiimide korral. Kuid samadel põhjustel avab see tee igasuguste negatiivsete tehingute jaoks. Kriminaalne tegevus hõlmab anonüümseid makseid, ümbrikus olevate arvete ülekandmist või nende tänapäevaseid vasteid - krüptovaluutas tehtud makseid. Neid on palju raskem teostada, näiteks VISA süsteemi kaudu, kus teie isikuandmed on seotud iga tehinguga.
Seega on väga raske otsustada, mis suunas "liugurit liigutada". On erinevaid stsenaariume, kus võiksite olla tehingute üle rohkem sotsiaalset kontrolli, et näiteks kuritegelike ühenduste elu raskendada. Kuna nende tegevus on ühiskonnale kahjulik, soovite tõenäoliselt leida võimalusi nende piiramiseks ja üks selline viis on reguleerida finantstehinguid.
See on üks näide. Mis saab aga aktivistidest, kes nõuavad Uberi ja muude sarnaste teenuste keelustamist, kuna nad rikuvad nende sõnul taksojuhtide õigusi?
Ma ei tea, milliseid õigusi Uber rikub. Ma arvan, et nad lihtsalt ei soovi konkurentsi.
Kas arvate, et selliseid inimesi võib nimetada neoluddititeks?
Peate vaatama konkreetsete isikute argumentatsiooni. Igal juhul ei usu ma, et nende märgistamine viiks nende positsiooni mõistmiseni. Peate kuulama nende argumendid ja otsustama, kas need on teie vaatenurgast head või mitte.
Raam: film "Tasakaal".
Räägime transhumanismist. Populaarselt kritiseeritakse transhumanismi, mille kohaselt biotehnoloogia ja kehamuudatused pole vaestele ja keskmise sissetulekuga kodanikele kättesaadavad. Ainult rikkad - vaid üks protsent elanikkonnast - saavad neid kätte ja see toob kaasa ebavõrdsuse katastroofilise suurenemise ühiskonnas. See ei ole tõsi? Või arvate, et kõik on õiglane: rikastel ja edukatel peaks olema parim?
Seda tuleb analüüsida konkreetsete näidetega. Ma ei usu, et kogu inimkeha parendamiseks kasutatav biotehnoloogia peaks olema kallis. Võtame näiteks tänapäevase Modafinili, ravimi, mida kasutatakse kognitiivse jõudluse parandamiseks (ütleme, et see aitab mõnda inimest). Muidugi, see maksab raha, kuid mitte rohkem kui klaasitäis Starbucksi cappuccinot, mida nad iga päev joovad. Ja kui ta teeb oma tööd, on ta oma raha väärt.
Kaasaegsed farmakoloogilised ained, mis kuidagi parandavad inimese teatud omadusi, ei ole üldiselt eriti kallid. Pigem on probleem selles, et peate neile retsepte saama. Sellist ravimit on lihtsam saada hea haridusega inimesel. Esiteks saab ta teada selle abinõu olemasolust, tal on lihtsam leida arst, kes teab, kes talle selle retsepti kirjutada saab … Seda kõike on harimata töötajal või talupojal palju raskem teha kui haritlasel, pankuril jne. Kuid takistus seisneb selles, mitte rahasummas endas.
Muidugi, kui me räägime tulevikutehnoloogiatest, võivad need olla selles mõttes väga kallid ja diskrimineerivad. Ja ühiskond peab otsustama, kas need on nende subsideerimiseks piisavalt kasulikud - samas mõttes, kui nüüd antakse tervishoiutoetusi.
Kui räägime toetustest, siis mida arvate tagatud sissetulekust, rahasummast, mida riik regulaarselt maksab igale ühiskonna liikmele, sõltumata sellest, kas ta töötab või mitte? Kas sellest peaks saama tavaline inimpraktika?
Arvan, et sellele probleemile tuleks läheneda samast vaatenurgast kui tehisintellektile: see peaks olema kasulik kogu inimkonnale ja vastama eetilistele ideaalidele. Mulle tundub, et kõik inimesed, kes jõuavad teatud vanuseni, peaksid saama oma osa teatud hüvitistest. Kuidas seda kõige paremini teha, kas see on pidev sissetulek või teatud kord makstud kapital, mille üksikisik saab seejärel kulutada oma äranägemise järgi teatud teenustele ja kaupadele, ma ei tea veel. Katkematu sissetuleku voo säilitamine sõltub jällegi majanduslikust olukorrast. Ja pikas perspektiivis tuleks mõista, et tõenäoliselt peame seisma silmitsi maailma rahvastiku eksponentsiaalse kasvuga, mis võib ületada maailma majanduse kasvu - mõnevõrra Malthuse argument.
Kas arvate, et praegusel Euroopa hoolekandesüsteemil - Welferil - on vigu?
Mulle tundub see üsna hea. Muidugi on selle parandamiseks võimalusi. Kuid igal juhul on hea, kui rikastes riikides on olemas hoolekandesüsteem, kes saavad seda endale lubada.
Mida arvate tänapäevasest vasakpoolsest poliitikast - poliitkorrektsus, kaasatus jms? Kas ta töötab tõesti kõigi heaks?
Ühest küljest jätab selliste asjade olemasolu, millest ei saa rääkida ega mõelda, ilma minult kui filosoofiks mõne võimaluse. Arvan, et mõnikord on kibe tõde hea, isegi kui see kedagi solvab, ja peate maksma märkimisväärset hinda arutelu, mis moodsa reaalsuse osa üle arutleb, tabamise eest maksta.
Teisest küljest, kui see aitab kaasa üldsuse probleemidele tundlikuma ühiskonna ehitamisele, mille esindajad annavad endast parima, et üksteist mitte kahjustada, vähendades sellega agressiooni ja vägivalla taset … Kõik see võib osutuda äärmiselt positiivseks asjaks, isegi kui see esindab teatud riskid. Vaadake, kui soovite eriti väikestes igapäevastes küsimustes olla poliitiliselt korrektne, siis tõenäosus, et kavatsete läbi viia mõne suurema ja jõhkra etnilise puhastuse või alustada sõda, on oluliselt väiksem. Üldiselt, kui see muudab meid väikestes asjades tundlikumaks, siis aitab see globaalses mõttes ja selliste programmide kõik väikesed puudused on täiesti õigustatud.
Ma lugesin ühest teie väljaandest, et kaasaegne lääne kultuur "saboteerib aktiivselt meie viljakust rasestumisvastaste vahendite kasutuselevõtu tõttu". Üsna konservatiivne argument. Kas saate seda selgitada?
See oli see, mida ma mõtlesin: kui te ei kasuta rasestumisvastaseid vahendeid, sünnib teil rohkem lapsi, mis tähendab, et rohkem beebisid jääb ellu. Nüüd sünnitavad inimesed vähem lapsi kui nad võiksid, mis tähendab, et nad pole evolutsioonilises tasakaalus tänapäevase keskkonnaga.
Kas peaksime andma esmase rolli bioloogilisele evolutsioonile, mitte sotsiaalsele?
Usun, et kõigepealt peaksid peamist rolli mängima universaalsed inimlikud väärtused, mitte mingid bioloogilised ülesanded.
Miks siis mitte kasutada rasestumisvastaseid vahendeid?
Muidugi võite oma reproduktiivset potentsiaali saboteerida, kuid peate olema teadlik sellest, mida teete, ja see on väga kasulik. Näiteks kui kaalute inimtsivilisatsiooni arengu pikaajalisi stsenaariume, peate arvestama, et reproduktiivpotentsiaali saboteerivad inimesed kaovad kuidagi maa seest. Kui seda poliitikat ei muudeta, ei asu nende geenid planeedi geenivaramus.
Lühiajaliselt ei pea te sellele mõtlema, vaid peaksite olema teadlik, et siin tegutsete erinevate evolutsiooniliste suundumuste vastu. Ja on oluline mõista, et sellel on pikas perspektiivis teatav mõju.
Raam: film "Lucy".
Kas bioloogiline evolutsioon töötab inimühiskonnas endiselt?
Muidugi. See toimib inimpopulatsioonis samamoodi nagu teistes populatsioonides. Muidugi erineb kaasaegne keskkond, milles me elame, evolutsioonilise kohanemisvõime keskkonnast, kuid usun, et praegu on inimpopulatsioonis väga tugev evolutsiooniline valik. Ökoloogilises ajakavas läheb see kiiresti, kuid öeldes, seoses tehnoloogia arengu ajakavaga, vastupidi, väga aeglaselt. Isegi siis, kui valik on väga kiire, peab enne suure vahetuse toimumist mööduma mitu põlvkonda. Samal ajal arvan, et vähem kui paari põlvkonna jooksul saame suurepäraseid tööriistu inimese genoomi manipuleerimiseks ja muid võimalusi inimese seisundi muutmiseks. Seetõttu ei tunne mind eriti mure bioloogilise evolutsiooni aeglaste suundumuste pärast, arvestades selliste tehnoloogiate väljavaadet.
Kas peaksime valima geenivaramu parendamise tee biotehnoloogia abil - valides „halvad“geenid ja säilitades „head“? Kas see ei vii sotsiaalse darvinismini?
Ma ei arva, et geneetiline meditsiin või geneetiline valik eeldab sotsiaalset darvinistlikku lähenemist. Võite näha, kuidas see praegu toimub: kui paarid otsustavad teha in vitro viljastamist, tehakse embrüotele geneetiline diagnostika. Rakkude kromosomaalsete kõrvalekallete kontrollimise asemel võime diagnoosida mitmesuguseid probleeme, sealhulgas neid, mis pole haigusega seotud. Näiteks eelsoodumus pikaks tervislikuks eluks, intelligentsus, sportlikud võimed, isiksuseomadused … Teil on rohkem teavet, et valida, millised 6-8-10 embrüost implanteeritakse IVF-i protseduuri ajal. Ja mulle tundub, et just see kontekst on geneetiliste tehnoloogiate kasutamise osas kõige tõenäolisem.
Olete autor "simulatsioonile", mille kohaselt võime elada reaalsuses, mida simuleeritakse mingis arvutis. Kuidas saab tavaline inimene seda ette kujutada? Alguses on seda raske seedida
Ma ei saa päris täpselt aru, millise ülesande te seate. Peate lihtsalt leppima sellega, et miski ei muutu, lihtsalt selle jälgitava reaalsuse alus, milles me eksisteerime, pole mitte füüsika põhiseadused, vaid mingi arvutisse manustatud arvutiprogramm, mille on loonud mõned arenenud intelligentsed olendid - võib-olla ka tehnoloogiliselt arenenumad tsivilisatsioon (ilmselt superintelligentne). Nii et kõik, mida me näeme, on selles arvutis töötavad protsessid, kuid selle simulatsiooni elanike - meie - jaoks pole selle baasis suurt vahet.
Huvitavam on mõelda sellise simulatsiooni loomise praktilistele põhjustele. Need võivad olla erinevad, selle autorid saavad muude probleemide lahendamiseks käivitada muid simulatsioone. Simulatsiooni lõppemiseks on palju võimalusi ja nii edasi. See on tõesti oluline, kui võrrelda olukorda, kus see reaalsus oleks põhiline.
Kui me räägime arvutist, mis simuleerib reaalsust, siis kuidas on lood füüsikaseadustega? Selline arvuti on hiiglaslik ja tarbib kujuteldamatu hulga energiat, muidu kuidas arvutada iga elementaarse osakese kohta?
Muidugi. Seetõttu ei usu, et see tsivilisatsioon jäljendab kõiki tegelikkuse detaile, kuni aatomiteni. Usun, et ratsionaalsem on jäljendada neid reaalsuse osi, mida me nende vaatlemise ajal jälgime (võib-olla veel mõnda).
Võtke näiteks selle laua aatomid, kus istute. Teil pole aimugi, mis nendega nüüd toimub. Peate teadma ainult laua mõõtmeid, selle värvi, kaalu. Ja simulatsioonis piisab ainult nende atribuutide arvutamisest. Kui võtate elektronmikroskoobi ja panete selle alla tüki lauda, näete rohkem üksikasju, mis selle jaoks spetsiaalselt arvutatakse. Kuid need arvutatakse ainult nii, et teie, tavaline inimene, ei märkaks mingeid kõrvalekaldeid.
Seega, kui olete superintelligents, kes kontrollib reaalsust täielikult - selle elementide kõigist külgedest lähtudes, on mõistlik lisada üksikasju siis, kui neile tähelepanu pöörate.
Selgub, et tegelikkust simuleeritakse kõigi seitsme miljardi maa peal elava inimese jaoks? Loomadele? Välismaalastele?
Kõik sõltub simulatsiooni tüübist. Kui me räägime kõigi elavate inimeste simulatsioonist, siis võib ette kujutada, et see hõlmab kogu inimkonna ajalugu ja käivitati üsna hiljuti. Võite ette kujutada ka simulatsiooni, mis viiakse läbi ühe konkreetse inimese või väikese inimrühma jaoks. Siis muidugi tekib küsimus: kuidas kõik teised inimesed, keda me selles näeme, on siin, samas kui nad pole teadlikud olendid? Võib-olla simuleeritakse neid ainult nende välimuse osas, nagu videomängudest leitud avatarid. Jääb üks lahendamata küsimus: kuidas jäljendada inimeste välist käitumist, tekitamata kõrvalnähuna teadvust, mida, nagu tavaliselt arvame, omab iga inimene? Ehk siis usutava inimese loomine käitumise osas,peate simuleerima tema ajus toimuvaid protsesse eriti täpselt, mis ühel või teisel viisil peaks viima teadliku meele tekkimiseni. Kuigi muidugi on olemas võimalus, et võite selle lihtsalt võltsida. Ja siis võime ette kujutada väikese rühma simulatsioone - inimesi, kus teadvus on täielikult arenenud, ülejäänud aga lihtsalt lisad.
Teie hüpoteesi kohaselt võib simulatsioonis olla palju simulatsioone - näiteks nukkude pesitsemine. Kas põhilise, mitte jäljendatud universumi olemasolu on sel juhul kohustuslik? Kuidas see ilmus ja mis see on?
Minu argument eeldab, et on olemas füüsilise reaalsuse põhitase, kus mõned olendid arenevad, muutuvad äärmiselt tehnoloogiliselt arenenud, kasutavad neid tehnoloogiaid superintelligentsi (või superintelligentse tehisintellekti) saamiseks ja siis on neil palju ressursse ja aega. Nad kulutavad seda, sealhulgas luues neid intelligentsete inimeste simulatsioone - võib-olla nagu meie.
Võib-olla lubavad need simulatsioonil edasi tegutseda pärast seda, kui need inimesed on loonud oma simulatsiooni, millest saab seejärel teise taseme simulatsioon. Kuid kõik see eksisteerib füüsilise reaalsuse põhitasandil eksisteeriva tsivilisatsiooni loodud arvutis ja samal ajal võib simulatsioonis olla terve simulatsioonide hierarhia. Kuid siin on sellel kõigel konkreetne piir, kuna lõpuks teostatakse jäljendamine arvutis, mis eksisteerib füüsilise reaalsuse algtasemel. Nende võimete säilitamiseks on saadaoleval energial piiratud ja seetõttu on pesastatud simulatsioonide arv piiratud. Muidugi võite võtta mõne esoteerilise lähenemise, proovida leida lünki lõputuks pesitsemiseks, kuid ma ei usu, et seda tasub teha.
Mis siis, kui nad simuleerivad maailmu, milles füüsikaseadused erinevad meie omadest täiesti?
See on ka võimalik, nad saavad luua mingisuguseid fantastilisi simulatsioone.
Noh, kui me elame simulatsioonis, siis mis mõtet on plaane teha, globaalseid riske ennustada … Eksistentsiaalne küsimus - mis mõte on simulatsioonis elul, kui selle loojad saavad lihtsalt arvuti toite välja lülitada ja kõik lõpeb?
Üldiselt ei tähenda “simulatsiooni tõestus” seda, et elame simulatsioonis, vaid pigem selle piirides, millesse võime uskuda. Eeldatakse, et üks kolmest väitest on tõene. Esimene on see, et me elame simulatsioonis, kuid seal on kaks alternatiivi. Teine on see, et kõik tsivilisatsioonid surevad enne tehnoloogilise küpsuse saavutamist välja, ja kolmas - kõik küpsed tsivilisatsioonid kaotavad huvi selliste simulatsioonide loomise vastu, nad lihtsalt otsustavad neid mitte teha.
Kuid kui me oma argumendi raames elame tõesti simulatsioonis, siis ma ei näe, miks igapäevaelu tähendus sõltub sellest, et meie reaalsuse alus on mingi arenenud tsivilisatsiooni loodud jäljendus, mitte aga füüsika põhiseadustest. Igal juhul sõltub teie tegudest see, mis juhtub teiega järgmisena, mis juhtub teie sugulaste, sõprade ja teiste inimestega. Nii et see, mida te simulatsioonis teete, on oluline, isegi kui väljaspool seda ei toimu.
Lisaks on võimalus, et simulatsioonis toimuv mõjutab seda, mis väljaspool seda toimub. Võib-olla arendasid loojad selle teaduslikel eesmärkidel, et uurida, mida inimesed teevad, ja see mõjutab seda, mida nad teevad, sest nende jaoks on oluline mõista inimloomust meie tehtud valikute põhjal. Seega võib ilmsetest põhjustatud tagajärgedest olla veel mõni komplekt.
Intervjueeris Mihhail Karpov
