Enne kui olete teine osa sarjast "Oota, kuidas see kõik võib olla tõsi, miks sellest ikka veel iga nurga taga räägitakse". Eelmises seerias sai teatavaks, et intelligentsuse plahvatus hiilib järk-järgult Maa planeedi inimeste poole, see üritab areneda kitsalt fokusseeritud universaalsest intelligentsusest ja lõpuks tehisintellektist.
"Võib-olla seisame silmitsi äärmiselt keeruka probleemiga ja pole teada, kui palju aega sellele lahendusele kulub, kuid selle lahendusest võib sõltuda inimkonna tulevik." - Nick Bostrom.
Artikli esimene osa algas piisavalt süütult. Arutasime kitsalt keskendunud tehisintellekti (AI, mis on spetsialiseerunud ühe konkreetse probleemi lahendamisele, nagu marsruutide määramine või male mängimine), meie maailmas on seda palju. Siis analüüsisid nad, miks on nii raske kasvatada üldist suundlikku tehisintellekti (AGI ehk AI, mida intellektuaalsete võimete osas saab mõne probleemi lahendamisel võrrelda inimesega), nii keeruline. Tegime järelduse, et tehnoloogia arengu hüppeline tempo vihjab, et AGI võib üsna pea nurga taga olla. Lõpuks otsustasime, et niipea kui masinad jõuavad inimluureni, võib juhtuda järgmist:
Nagu tavaliselt, vaatame ekraani, uskumata, et tehislik superintelligentsus (ISI, mis on palju targem kui ükski inimene) võib meie elu jooksul ilmuda, ja valides emotsioonid, mis kajastaksid kõige paremini meie arvamust selles küsimuses.
Reklaamvideo:
Enne kui me sukeldume ISI eripärasse, tuletagem endale meelde, mida tähendab masina ülitäpsus.
Peamine erinevus seisneb kiire superintelligentsi ja kvaliteetse superintelligentsi vahel. Sageli on esimene asi, mis superintelligentsele arvutile mõeldes meelde tuleb, see, et see suudab mõelda palju kiiremini kui inimene - miljoneid kordi kiiremini ja viie minutiga saab aru, mida inimesel oleks kümme aastat kulunud. ("Ma tean, kung fu!")
See kõlab muljetavaldavalt ja ISI peaks tõesti mõtlema kiiremini kui keegi teine - kuid peamine eraldav omadus on tema intellekti kvaliteet, mis on hoopis teine. Inimesed on ahvidest palju nutikamad mitte sellepärast, et nad kiiremini mõtlevad, vaid sellepärast, et nende aju sisaldab mitmeid geniaalseid tunnetusmooduleid, mis viivad läbi keerukaid keelelisi esitusi, pikaajalist planeerimist, abstraktset mõtlemist, milleks ahvid pole võimelised. Kui kiirendada ahvi aju tuhat korda, ei saa see meist targemaks - isegi kümne aasta pärast ei suuda ta juhendite järgi ehitajat kokku panna, mis võtaks inimesel maksimaalselt paar tundi aega. On asju, mida ahv kunagi ei õpi, hoolimata sellest, mitu tundi ta veedab või kui kiiresti tema aju töötab.
Lisaks ei tea ahv, kui inimlikult, sest tema aju pole lihtsalt võimeline mõistma teiste maailmade olemasolu - ahv võib küll teada saada, mis inimene on ja mis on pilvelõhkuja, kuid ei saa kunagi aru, et pilvelõhkuja ehitasid inimesed. Tema maailmas kuulub kõik loodusele ja makaak ei saa mitte ainult pilvelõhkujat üles ehitada, vaid saab ka aru, et seda saab ehitada igaüks. Ja see on luurekvaliteedi väikeste erinevuste tulemus.
Arukuse üldises skeemis, millest me räägime, või lihtsalt bioloogiliste olendite standardite järgi, on inimeste ja ahvide luurekvaliteedi erinevus väike. Eelmises artiklis asetasime bioloogilised kognitiivsed võimed redelile:
Ülintelligentse masina tõsiseks mõistmiseks asetage see kahe sälgu võrra kõrgemale kui sellel redelil olev inimene. See masin võib olla lihtsalt pisut ülitark, kuid selle paremus meie kognitiivsete võimete ees on sama nagu meie oma - ahvide üle. Ja nagu šimpans ei saa kunagi aru, et pilvelõhkujat saab ehitada, ei pruugi me kunagi mõista, mida mõni samm kõrgemal asuv masin mõistab, isegi kui masin proovib seda meile selgitada. Kuid see on vaid paar sammu. Nutikam masin näeb meis sipelgaid - see õpetab meile oma positsioonilt aastaid lihtsamaid asju ja need katsed on täiesti lootusetud.
See ülivõrkuse tüüp, millest täna räägime, asub sellest redelist kaugemal. See on intelligentsuse plahvatus - mida targemaks saab auto, seda kiiremini saab see suurendada enda intelligentsust, suurendades järk-järgult hoogu. Võib kuluda aastaid, kuni selline masin šimpansitest intelligentsuses ületab, kuid võib-olla paar tundi, et meist paari sammu võrra ületada. Sellest hetkest alates saab auto hüpata juba üle nelja sammu igal sekundil. Sellepärast peaksime mõistma, et kohe pärast esimeste uudiste ilmumist, et masin on jõudnud inimese intelligentsuse tasemele, võime me silmitsi seista Maa kooseksisteerimise reaalsusega, mis on palju kõrgem kui meil sellel redelil (või võib-olla, ja miljoneid kordi suurem):
Ja kuna oleme tuvastanud, et täiesti kasutu on proovida mõista masinat, mis asub meist vaid kaks sammu kõrgemal, siis määratlegem lõplikult, et ISI ei saa kuidagi aru, mida ISI teeb ja millised on selle tagajärjed meile. Igaüks, kes väidab vastupidist, ei saa lihtsalt aru, mida ülintelligents tähendab.
Evolutsioon on sadade miljonite aastate jooksul aeglaselt ja järk-järgult välja arendanud bioloogilise aju. Kui inimesed loovad ülintelligentse masina, ületame evolutsioon teatud mõttes. Või saab see osa evolutsioonist - võib-olla töötab evolutsioon nii, et intelligentsus areneb järk-järgult, kuni jõuab pöördepunktini, mis kuulutab kõigile elusolenditele uut tulevikku:
Hiljem arutatavatel põhjustel usub tohutu osa teadusringkondi, et küsimus pole selles, kas jõuame sellesse tippu, vaid millal.
Kuhu me pärast seda jõuame?
Ma arvan, et keegi siin maailmas, ei mina ega teie, ei suuda öelda, mis juhtub, kui tipptasemele jõuame. Oxfordi filosoof ja AI juhtiv teoreetik Nick Bostrom usub, et võime kõik võimalikud tulemused jagada kahte suurde kategooriasse.
Esiteks teame ajalugu vaadates elust järgmist: liigid ilmuvad, eksisteerivad teatud aja jooksul ja langevad siis paratamatult elu tasakaalust välja ning surevad välja.
"Kõik liigid surevad välja" on olnud ajaloos sama usaldusväärne reegel kui "kõik inimesed surevad ühel päeval". 99,9% liikidest on langenud elupalgist ja on üsna selge, et kui liik püsib sellel palgil liiga kaua, muudab loodusliku tuule puhkemine või äkiline asteroid palgi üle. Bostrom nimetab väljasuremist ligitõmbajaks - kohaks, kus kõik liigid tasakaalustuvad, et mitte langeda sinna, kuhu ükski liik pole tagasi tulnud.
Ja kuigi enamik teadlasi möönab, et ISI-l on võime inimesi väljasuremisele hukutada, usuvad paljud ka, et ISI võimaluste kasutamine võimaldab üksikisikutel (ja liikidel tervikuna) saavutada ligitõmbaja teise oleku - liikide surematuse. Bostrom usub, et liigi surematus on samavõrd ligitõmbaja kui liigi väljasuremine, st kui me selleni jõuame, siis oleme hukule määratud igavesele eksistentsile. Seega, isegi kui kõik liigid kuni selle päevani langesid sellelt pulgalt väljasuremise tippu, usub Bostrom, et palgil on kaks külge ja Maa peal ei ilmunud lihtsalt sellist intelligentsust, mis mõistaks, kuidas teisele poole kukkuda.
Kui Bostromil ja teistel on õigus ja kui otsustada kogu meie käsutuses oleva teabe põhjal, võivad nad nii olla, peame leppima kahe väga šokeeriva faktiga:
1. ISI esmakordne ilmumine ajaloos avab liigile võimaluse saavutada surematus ja välja langeda surmaga lõppenud väljasuremistsüklist.
2. ISI tekkimisel on kujutlematult tohutu mõju, mis tõenäoliselt tõukab inimkonna sellest valgusvihust ühes või teises suunas.
Võimalik, et kui evolutsioon jõuab sellisesse pöördepunkti, lõpetab see alati inimeste suhted eluvooluga ja loob uue maailma, koos inimestega või ilma.
See tõstatab huvitava küsimuse, mida ainult põrutaja ei küsiks: millal me selle tipunurgani jõuame ja kuhu see meid paneb? Keegi maailmas ei tea sellele topeltküsimusele vastust, kuid paljud nutikad inimesed on aastakümneid püüdnud seda välja mõelda. Ülejäänud artikli jaoks selgitame välja, kust nad tulid.
* * *
Alustame selle küsimuse esimese osaga: millal peaksime jõudma tippu? Teisisõnu: kui palju aega on jäänud, kuni esimene masin jõuab superluureni?
Arvamused erinevad juhtumiti. Paljud, sealhulgas professor Vernor Vinge, teadlane Ben Herzel, Sun Microsystemsi kaasasutaja Bill Joy, futurist Ray Kurzweil, leppisid masinõppe eksperdi Jeremy Howardiga kokku, kui ta TED Talkis tutvustas järgmist graafikut:
Need inimesed jagavad arvamust, et ISI on varsti tulemas - see eksponentsiaalne kasv, mis meile täna tundub aeglane, plahvatab sõna otseses mõttes järgmise paari aastakümne jooksul.
Teised, näiteks Microsofti kaasasutaja Paul Allen, uuringute psühholoog Gary Marcus, arvutiekspert Ernest Davis ja tehnikaettevõtja Mitch Kapor, arvavad, et Kurzweili-sugused mõtlejad alahindavad probleemi ulatust tõsiselt ning arvavad, et me polegi nii lähedal tipptasemele.
Kurzweili laager väidab, et ainus tekkiv alahindamine on eksponentsiaalse kasvu ignoreerimine ja kahtlejaid võib võrrelda nendega, kes vaatasid 1985. aastal aeglaselt õitsevat Internetti ja väitsid, et see ei mõjuta lähitulevikus maailma.
Kahtlejad võivad tõrjuda, et intelligentsuse eksponentsiaalse arengu osas on progressil raskem iga järgmist sammu teha, mis neutraliseerib tehnoloogia arengu tüüpilise eksponentsiaalse olemuse. Jne.
Kolmas laager, kus asub Nick Bostrom, ei nõustu ei esimese ega teisega, väites, et a) see kõik võib lähitulevikus täiesti juhtuda; ja b) pole garantiid, et see üldse juhtub või et see võtab kauem aega.
Teised, nagu filosoof Hubert Dreyfus, usuvad, et kõik kolm gruppi usuvad naiivselt, et seal saab üldse tippaja ja tõenäoliselt ei jõua me kunagi ISI-le.
Mis juhtub, kui kõik need arvamused kokku panna?
2013. aastal viis Bostrom läbi küsitluse, milles ta küsitles sadu tehisintellekti eksperte konverentside sarja raames järgmisel teemal: "Millised on teie prognoosid AGI saavutamiseks inimese tasandil?" ja palus meil nimetada optimistlik aasta (kus meil on AGI 10-protsendilise tõenäosusega), realistlik eeldus (aasta, kus meil on AGI 50-protsendilise tõenäosusega) ja kindel eeldus (varaseim aasta, mil AGI ilmub pärast 90. aastat) -protsendi tõenäosus). Siin on tulemused:
- Keskmine optimistlik aasta (10%): 2022
- Keskmine realistlik aasta (50%): 2040
- Keskmine pessimistlik aasta (90%): 2075
Keskmised vastajad usuvad, et 25 aasta pärast on meil pigem AGI kui mitte. 90-protsendiline tõenäosus AGI tekkeks aastaks 2075 tähendab, et kui olete praegu veel üsna noor, juhtub see tõenäoliselt teie elus.
Eraldi uuring, mille viisid hiljuti läbi James Barratt (paljukiidetud ja väga hea raamatu Meie viimane leiutis autor, katkendid, millest juhtisin Hi-News.ru lugejate tähelepanu) ja Ben Hertzel iga-aastasel AGI konverentsil AGI Conference, näitasid lihtsalt inimeste arvamust Võrreldes aastaga jõuame AGI-ni: 2030, 2050, 2100, hiljem või mitte kunagi. Siin on tulemused:
- 2030. aastaks: 42% vastanutest
- aastaks 2050: 25%
- 2100. aastaks: 20%
- Pärast 2100: 10%
- mitte kunagi: 2%
Sarnane Bostromi tulemustega. Barratt 'küsitluses usub enam kui kaks kolmandikku küsitletutest, et 2050. aastaks on AGI siin, ja vähem kui pooled usuvad, et AGI ilmub järgmise 15 aasta jooksul. Samuti on silmatorkav, et põhimõtteliselt ainult 2% vastanutest ei näe AGI-d meie tulevikus.
Kuid AGI pole selline tipptase, nagu ISI. Millal on ekspertide sõnul meil ISI?
Bostrom küsis ekspertide käest, millal jõuame ASI-ni: a) kaks aastat pärast AGI-ni jõudmist (see tähendab peaaegu kohe luureplahvatuse tõttu); b) 30 aasta pärast. Tulemused?
Keskmine arvamus on, et kiire üleminek AGI-lt ISI-le toimub 10% tõenäosusega, kuid 30 aasta jooksul või vähem toimub see 75% tõenäosusega.
Nendest andmetest ei tea me, milliseks kuupäevaks vastajad nimetaksid ASI 50-protsendiliseks tõenäosuseks, kuid eelpool toodud kahe vastuse põhjal eeldame, et see on 20 aastat. See tähendab, et maailma juhtivad AI eksperdid usuvad, et pöördepunkt saabub 2060. aastal (AGI ilmub 2040. aastal + AGI-lt ISI-le üleminekuks kulub 20 aastat).
Muidugi on kogu ülaltoodud statistika spekulatiivne ja esindab lihtsalt tehisintellekti valdkonna ekspertide arvamust, kuid need viitavad ka sellele, et suurem osa asjassepuutuvatest inimestest nõustub, et tõenäoliselt saabub AI aastaks 2060. Ainult 45 aasta pärast.
Liigume teise küsimuse juurde. Kui jõuame tipupunkti, siis milline pool saatuslikust valikust meid määrab?
Ülintelligentsusel on kõige võimsam jõud ja meie jaoks on kriitiline küsimus järgmine:
Kes või mis seda võimu kontrollib ja mis on nende motivatsioon?
Vastus sellele küsimusele sõltub sellest, kas ISI saab uskumatult võimsa arengu, mõõtmatult hirmutava arengu või on midagi vahepealset.
Muidugi püüab ekspertkogukond vastata ka neile küsimustele. Bostromi küsitluses analüüsiti AGI mõju inimkonnale võimalike tagajärgede tõenäosust ja selgus, et 52-protsendilise tõenäosusega läheb kõik väga hästi ja 31-protsendilise tõenäosusega läheb kõik kas halvasti või äärmiselt halvasti. Selle teema eelmise osa lõpus lisatud küsitlus, mille viisite läbi teie, kallid Hi-Newsi lugejad, näitas umbes samu tulemusi. Suhteliselt neutraalse tulemuse korral oli tõenäosus vaid 17%. Teisisõnu, me kõik usume, et AGI saab olema suur asi. Samuti väärib märkimist, et see uuring puudutab AGI tekkimist - ISI korral on neutraalsuse protsent madalam.
Enne kui süveneme küsimuse heade ja halbade külgede mõtlemisse, ühendame küsimuse mõlemad pooled - "millal see juhtub?" ja "kas see on hea või halb?" tabelisse, mis katab enamiku ekspertide arvamused.
Pealaagrist räägime mõne minutiga, kuid kõigepealt otsustame teie positsiooni. Suure tõenäosusega olete samas kohas, kus ma olin, enne kui selle teema kallale asusin. On mitmeid põhjuseid, miks inimesed selle teema peale üldse ei mõtle:
- Nagu esimeses osas mainitud, ajasid filmid inimesi ja fakte tõsiselt segadusse, esitades ebareaalseid stsenaariume tehisintellektiga, mille tulemusel me ei peaks AI-d üldse tõsiselt võtma. James Barratt hindas seda olukorda haiguste tõrje keskuste (CDC) poolt välja antud tõsiseks hoiatuseks meie tuleviku vampiiride kohta.
- Nn kognitiivsete eelarvamuste tõttu on meil väga raske uskuda, et midagi on tõeline, kuni meil pole tõendusmaterjali. Võib kindlalt ette kujutada, kuidas 1988. aasta arvutiteadlased arutavad regulaarselt Interneti kaugeleulatuvaid tagajärgi ja seda, mis sellest võib saada, kuid vaevalt uskusid inimesed, et see muudab nende elu, kuni see tegelikult juhtub. Asi on selles, et arvutid ei teadnud 1988. aastal, kuidas seda teha, ja inimesed lihtsalt vaatasid oma arvuteid ja mõtlesid: “Tõesti? Kas see muudab maailma? Nende kujutlusvõimet piirasid need, mida nad olid isiklikust kogemusest õppinud, nad teadsid, mis on arvuti, ja oli raske ette kujutada, milleks arvuti tulevikus võimeline oleks. Sama juhtub ka nüüd AI-ga. Kuulsime, et sellest saab tõsine asikuid kuna me pole seda veel näost näkku kohanud ja üldiselt täheldame AI üsna nõrku ilminguid meie kaasaegses maailmas, on meil üsna raske uskuda, et see muudab meie elu radikaalselt. Nende eelarvamuste vastu seisavad vastu arvukad eksperdid kõigist leeridest, aga ka huvilised, kes üritavad meie tähelepanu haarata igapäevase kollektiivse egotsentrismi müra kaudu.
- Isegi kui me sellesse kõike usuksime - mitu korda olete täna mõelnud sellele, et veedate ülejäänud igaviku tühjalt? Natuke, nõustuge. Isegi kui see fakt on palju olulisem kui kõik, mida teete päevast päeva. Selle põhjuseks on asjaolu, et meie ajud on tavaliselt keskendunud väikestele, igapäevastele asjadele, hoolimata sellest, kui pettunud on meie pikaajaline olukord. See on lihtsalt see, et me oleme tehtud.
Selle artikli üks eesmärke on viia teid laagrist välja, mille nimi on “Mulle meeldib mõelda muudele asjadele”, ja panna teid ekspertide laagrisse, isegi kui te seisate lihtsalt ristteel ülaltoodud kasti kahe punktiirjoone vahel, täiesti otsustamata.
Uurimistöö käigus selgub, et enamiku inimeste arvamused triivivad kiiresti “põhilaagri” suunas ja kolmveerand ekspertidest jagunevad põhilaagri kaheks alamlaagriks.
Külastame mõlemat laagrit täies mahus. Alustame naljaga.
Miks võiks tulevik olla meie suurim unistus?
AI-maailma uurides leiame oma mugavustsoonis üllatavalt palju inimesi. Paremas ülanurgas olevad inimesed sumisevad põnevusega. Nad usuvad, et langeme palgi heale küljele, ja nad usuvad ka, et jõuame selleni paratamatult. Nende jaoks on tulevik kõik ainult parim, millest võib vaid unistada.
Asi, mis neid inimesi teistest mõtlejatest eristab, pole mitte see, et nad tahaksid olla õnnelikud, vaid see, et nad on kindlad, et ta meid ootab.
See usaldus tuleb välja poleemikat. Kriitikute arvates tuleneb see pimestavast põnevusest, mis varjutab võimalikud negatiivsed küljed. Kuid pooldajate sõnul on sünged ennustused alati naiivsed; tehnoloogia jätkub ja aitab meid alati rohkem kui kahjustada.
Võite vabalt valida ükskõik millise neist arvamustest, kuid pange skeptitsism kõrvale ja vaadake tasakaalustala õnnelikku külge hästi, püüdes leppida tõsiasjaga, et kõik, mida te lugesite, võis juba aset leida. Kui näeksite jahimeestele-kogujatele meie mugavuse, tehnika ja lõputu külluse maailma, näeks see neile maagilise väljamõeldisena - ja me käitume üsna tagasihoidlikult, suutmata tunnistada, et seesama arusaamatu ümberkujundamine ootab meid ka tulevikus.
Nick Bostrom kirjeldab kolme teed, mille abil saab intelligentset AI-süsteemi kulgeda:
Oraakkel, mis suudab vastata mis tahes täpsele küsimusele, sealhulgas keerukatele küsimustele, millele inimesed ei oska vastata - näiteks "kuidas muuta automootor efektiivsemaks?" Google on primitiivne "oraakli" tüüp.
Geenius, kes täidab mis tahes kõrgetasemelist käsku - kasutades mootori montaaži abil uue, efektiivsema mootori versiooni loomist - ja ootab järgmist käsku.
Suverään, kellel on lai juurdepääs ja võimalus maailmas vabalt tegutseda, langetades oma otsuseid ja parandades protsessi. Ta leiutab odavama, kiirema ja turvalisema eratranspordi viisi kui auto.
Need küsimused ja ülesanded, mis meile tunduvad rasked, tunduvad ülivõimsale süsteemile justkui keegi paluks olukorda parandada: “mu pliiats kukkus laualt maha”, mille käigus sa selle lihtsalt kätte võtaks ja tagasi paneks.
Ameerika tehisintellekti ekspert Eliezer Yudkowski ütles hästi:
“Pole raskeid probleeme, on ainult probleemid, mis on teatud intelligentsustasandi jaoks rasked. Minge üks samm kõrgemale (intelligentsuse osas) ja mõned probleemid liiguvad ootamatult kategooriast „võimatu“kategooriasse „ilmne“. Üks aste kõrgemal - ja need kõik saavad ilmsiks."
On palju kannatamatuid teadlasi, leiutajaid ja ettevõtjaid, kes on meie toidulaualt valinud enesekindla mugavuse tsooni, kuid selleks, et parimate maailmade parimate seas jalutada, on vaja ainult ühte juhendit.
Ray Kurzweil on mitmetähenduslik. Mõni idoliseerib tema ideid, mõni põlgab. Mõni jääb keskele - Dozlas Hofstadter, arutades Kurzweili raamatute ideid, märkis ilukõneliselt, et "on justkui nagu te võtsite palju head toitu ja väikese koera kaka ning segasite siis kõik kokku nii, et on võimatu aru saada, mis on hea ja mis halb."
Ükskõik, kas teile meeldivad tema ideed või mitte, on võimatu neid huvipakkuva varjuta läbi viia. Ta hakkas teismelistena asju leiutama ja järgmistel aastatel leiutas mitu olulist asja, sealhulgas esimene lameskanner, esimene skanner, mis teisendas teksti kõneks, tuntud Kurzweili muusikasüntesaator (esimene päris elektriline klaver) ja esimene kaubanduslikult edukas kõnetuvastus. Ta on ka viie sensatsioonilise raamatu autor. Kurzweili hinnatakse julgete ennustuste eest ja tema tulemused on üsna head - 80ndate lõpus, kui Internet oli alles lapsekingades, ennustas ta, et 2000. aastaks saab veebist ülemaailmne nähtus. Wall Street Journal nimetas Kurzweili "rahutuks geeniumiks", Forbes "globaalse mõtlemise masinaks", Inc. Ajakiri - "Edisoni õigustatud pärija", Bill Gates - "parim neistkes ennustab tehisintellekti tulevikku. " 2012. aastal kutsus Google'i kaasvõitleja Larry Page Kurzweili CTO ametikohale. 2011. aastal asutas ta NASA võõrustaja Singularity University, mida osaliselt toetab ka Google.
Tema elulugu on oluline. Kui Kurzweil räägib oma tulevikunägemusest, kõlab see hullumeelselt hullumeelselt, kuid tegelikult on selle jaoks hullumeelne asi see, et ta pole kaugeltki hull - ta on uskumatult tark, haritud ja mõistlik inimene. Võite arvata, et ta on oma ennustustes eksinud, kuid ta pole loll. Kurzweili ennustusi jagavad paljud mugavustsoonide eksperdid, Peter Diamandis ja Ben Herzel. Tema arust see juhtub.
Kronoloogia
Kurzweil usub, et arvutid jõuavad 2029. aastaks üldise tehisintellekti (AGI) tasemele ja 2045. aastaks pole meil ainult tehisintellekt, vaid ka täiesti uus maailm - nn singulaarsuse aeg. Selle AI kronoloogiat peetakse siiani äärmiselt liialdatuks, kuid viimase 15 aasta jooksul on väga keskendunud tehisintellekti (AI) süsteemide kiire areng sundinud paljusid eksperte Kurzweiliga ühinema. Tema ennustused on endiselt ambitsioonikamad kui Bostromi küsitlus (AGI 2040. aastaks, ISI 2060. aastaks), kuid mitte palju.
Kurzweili sõnul juhivad 2045. aasta ainulaadsust kolm samaaegset revolutsiooni biotehnoloogias, nanotehnoloogias ja mis veelgi olulisem - AI. Kuid enne kui me kaugemale läheme - ja nanotehnoloogia jälgib tähelepanelikult tehisintellekti - võtame nanotehnoloogia jaoks minut.
Paar sõna nanotehnoloogia kohta
Tavaliselt nimetatakse nanotehnoloogia tehnoloogiaid, mis käsitlevad mateeriaga manipuleerimist vahemikus 1-100 nanomeetrit. Nanomeeter on üks neljandik meetrit või miljon millimeeter; vahemikus 1-100 nanomeetrit mahub viirusi (läbimõõduga 100 nm), DNA (laiusega 10 nm), hemoglobiini molekule (5 nm), glükoosi (1 nm) ja palju muud. Kui nanotehnoloogiast saab kunagi meie subjekt, on järgmine samm manipuleerimine üksikute aatomitega, mille suurusjärk on väiksem kui üks suurusjärk (~, 1 nm).
Hüppame suuremale skaalale, et mõista, kus inimestel tekib probleeme, üritades mateeriaga sellisel määral manipuleerida. Rahvusvaheline kosmosejaam asub Maast 481 kilomeetri kõrgusel. Kui inimesed oleksid hiiglased ja lööksid ISS-i peaga pähe, oleksid nad 250 000 korda suuremad kui praegu. Kui suurendate midagi vahemikus 1 kuni 100 nanomeetrit 250 000 korda, saate 2,5 sentimeetrit. Nanotehnoloogia on samaväärne inimesega, kes tiirleb ümber ISS-i ja üritab manipuleerida asjadega, mille suurus on liivatera või silmamuna. Järgmisele tasemele jõudmiseks - üksikute aatomite juhtimiseks - peab hiiglane hoolikalt paigutama objekte läbimõõduga 1/40 millimeetrit. Tavalised inimesed vajavad nende nägemiseks mikroskoopi.
Esimest korda rääkis Richard Feynman nanotehnoloogiast 1959. aastal. Siis ütles ta: „Füüsika põhimõtted, niipalju kui ma võin öelda, ei räägi võimalusest juhtida asju aatomite kaupa. Põhimõtteliselt võiks füüsik sünteesida mis tahes kemikaali, mille keemik on kirja pannud. Kuidas? Pannes aatomid sinna, kus keemik ütleb, et nad saavad ainet. See on kogu lihtsus. Kui teate üksikute molekulide või aatomite liigutamist, saate teha peaaegu kõike.
Nanotehnoloogiast sai tõsine teadusvaldkond 1986. aastal, kui insener Eric Drexler tutvustas oma alust oma loomingulises raamatus Machines of Creation, kuid Drexler ise usub, et need, kes soovivad nanotehnoloogia tänapäevastest ideedest rohkem teada saada, peaksid lugema tema 2013. aasta raamatut. Täielik arvukus (radikaalne küllus).
Kui oleme jõudnud nanotehnoloogia põhja, saame selle abil luua tehnilisi seadmeid, rõivaid, toitu, biotooteid - vererakke, viiruste ja vähiga võitlejaid, lihaskoe ja nii edasi - mida iganes. Ja maailmas, kus kasutatakse nanotehnoloogiat, ei seota materjali maksumus enam selle vähesuse või valmistamisprotsessi keerukusega, vaid pigem selle aatomistruktuuri keerukusega. Nanotehnoloogia maailmas võiks teemant olla odavam kui kustutuskumm.
Me pole seal isegi lähedal. Ja pole täiesti selge, kas me alahindame või alahindame selle tee keerukust. Kõik läheb aga nii kaugele, et nanotehnoloogia pole kaugel. Kurzweil eeldab, et 2020. aastaks on need olemas. Maailmariigid teavad, et nanotehnoloogia võib lubada suurt tulevikku ja seetõttu investeerivad nad neisse palju miljardeid.
Kujutage vaid ette, milliseid võimalusi superintelligentne arvuti saaks, kui see jõuaks usaldusväärse nanomõõtmetes koostajani. Kuid nanotehnoloogia on meie idee ja me üritame sellega sõita, see on meie jaoks keeruline. Mis siis, kui need on vaid ISI süsteemi naljad ja ISI ise tuleb välja tehnoloogiatega, mis on kordades võimsamad kui miski, mida me põhimõtteliselt eeldada võime? Leppisime kokku: keegi ei suuda ette kujutada, milleks tehisintellekt on võimeline? Arvatakse, et meie ajud ei suuda isegi minimaalselt ette näha, mis juhtub.
Mida saaks AI meie heaks teha?
Relvatud ülluure ja kogu tehnoloogia abil, mida ülluure võib luua, suudab ISI tõenäoliselt lahendada kõik inimkonna probleemid. Globaalne soojenemine? ISI peatab kõigepealt süsinikuheite, leiutades hulga tõhusaid mittefossiilseid kütuseid energia tootmiseks. Seejärel pakub ta välja tõhusa ja uuendusliku viisi liigse CO2 eemaldamiseks atmosfäärist. Vähk ja muud haigused? Pole probleem - tervishoid ja meditsiin muutuvad viisil, mida on võimatu ette kujutada. Maailma nälg? ISI kasutab nanotehnoloogiat, et luua liha, mis on identne loodusliku, nullist pärit, päris lihaga.
Nanotehnoloogia suudab muuta hunniku prügi värske liha või muu toidu vaadiks (mitte tingimata isegi tavapärasel kujul - kujutage ette hiiglaslikku õunakuubikut) ja jaotada kogu see toit maailmas täiustatud transpordisüsteemide abil. Muidugi on see suurepärane loomade jaoks, kes ei pea enam toidu pärast surema. ISI saab teha ka paljusid muid asju, näiteks säilitada ohustatud liike või isegi tuua säilinud DNAst välja surnud liigid tagasi. ISI suudab lahendada meie kõige keerulisemad makromajanduslikud probleemid - meie kõige raskemad majanduslikud arutelud, eetilised ja filosoofilised küsimused, globaalne kaubandus -, mis kõik on ISI-le valusalt ilmsed.
Kuid seal on midagi väga erilist, mida ISI saaks meie heaks teha. See ahvatlev ja ahvatlev muudaks kõike: ISI aitab meil surelikkusega hakkama saada. Järk-järgult mõistes AI võimeid, mõtlete võib-olla uuesti läbi kõik oma ideed surma kohta.
Evolutsioonil polnud põhjust pikendada meie eluiga kauem kui praegu. Kui elame piisavalt kaua, et sünnitada ja kasvatada lapsi nii kaugele, et nad saaksid ise enda eest kaitsta, siis piisab evolutsioonist. Evolutsioonilisest seisukohast piisab arenguks 30+ aastast ning mutatsioonidel pole põhjust elu pikendada ja loodusliku valiku väärtust vähendada. William Butler Yates nimetas meie liike "sureva looma külge kinnitatud hingeks". Pole eriti lõbus.
Ja kuna me kõik ühel päeval sureme, elame mõttega, et surm on vältimatu. Mõtleme aja jooksul vananemisele - jätkame edasiliikumist ega suuda seda protsessi peatada. Surma mõte on aga reetlik: selle tabatud, unustame elada. Richard Feynman kirjutas:
„Bioloogias on imeline asi: selles teaduses pole midagi sellist, mis räägiks surma vajalikkusest. Kui tahame luua pidevat liikumismasinat, mõistame, et oleme füüsikas leidnud piisavalt seadusi, mis kas osutavad selle võimatusele või on seadused valed. Kuid bioloogias pole midagi sellist, mis viitaks surma vältimatusele. See paneb mind uskuma, et see pole nii vältimatu ja on vaid aja küsimus, enne kui bioloogid avastavad selle probleemi - selle kohutava universaalse haiguse - põhjuse, see ravitakse."
Fakt on see, et vananemisel pole ajaga mingit pistmist. Vananemine on see, kui keha füüsilised materjalid kuluvad. Ka autoosad lagunevad - aga kas vananemine on vältimatu? Kui jätkate oma auto remonti, kui osad kuluvad, kestab see igavesti. Inimkeha ei erine - lihtsalt keerulisem.
Kurzweil räägib intelligentsetest, WiFi-ühendusega nanobotidest vereringes, mis võiksid inimeste tervise jaoks täita lugematuid ülesandeid, sealhulgas kulunud rakkude regulaarset parandamist või asendamist kõikjal kehas. Selle protsessi täiustamine (või nutikama ASI pakutud alternatiivi leidmine) ei hoia mitte ainult keha tervena, vaid võib ka vananemise tagasi pöörata. Erinevus 60-aastase ja 30-aastase keha vahel seisneb käputäis füüsilistes küsimustes, mida saaks õige tehnoloogia abil parandada. ISI võiks ehitada auto, kuhu inimene siseneks siis, kui ta on 60-aastane, ja lahkuks, kui ta oleks 30-aastane.
Isegi halvenenud aju saaks uuendada. ISI teaks kindlasti, kuidas seda teha ilma ajuandmeid (isiksus, mälestused jne) mõjutamata. 90-aastane mees, kes kannatab aju täieliku lagunemise all, võib läbida ümberõppe, uuendada ja naasta oma elu algusesse. See võib tunduda absurdne, kuid keha on käputäis aatomeid ja ISI saaks kindlasti hõlpsalt nendega manipuleerida, mis tahes aatomistruktuuridega. See pole nii absurdne.
Samuti usub Kurzweil, et kunstlikud materjalid integreeruvad aja möödudes üha enam kehasse. Alustuseks võiks elundid asendada ülitäpsemate masinaversioonidega, mis kestaksid igavesti ja ei nurjuks kunagi. Siis saaksime teha kogu keha ümberkujundamise, asendades punased verelibled täiuslike nanobotidega, mis liiguvad iseseisvalt, välistades vajaduse südame järele. Samuti saaksime parandada oma kognitiivseid võimeid, hakata miljardeid kiiremini mõtlema ja pilve kaudu pääsema juurde kogu inimkonnale kättesaadavale teabele.
Uute silmaringi mõistmise võimalused oleksid tõeliselt lõputud. Inimestel on õnnestunud seksi seostada uue eesmärgiga, nad teevad seda huviks, mitte ainult taastootmiseks. Kurzweil arvab, et saame sama teha ka toiduga. Nanobotid saaksid ideaalse toitumise otse keharakkudesse, võimaldades ebatervislikel ainetel kehas läbi liikuda. Nanotehnoloogia teoreetik Robert Freitas on juba välja töötanud vererakkude asendaja, mis inimese kehas rakendatuna võib lubada tal mitte 15 minutit hingata - ja selle leiutas inimene. Kujutage ette, millal ISI võimu saab.
Lõppude lõpuks usub Kurzweil, et inimesed jõuavad punkti, kus nad muutuvad täiesti kunstlikuks; aeg, mil vaatame bioloogilisi materjale ja mõtleme, kui primitiivsed need olid; aeg, mil loeme inimajaloo varastest etappidest, hämmastunud, kuidas mikroobe, õnnetused, haigused või lihtsalt vanadus võivad inimese tappa tema tahte vastaselt. Lõppkokkuvõttes võidavad inimesed omaenda bioloogia ja muutuvad igaveseks - see on tee tasakaalupalli õnneliku poole juurde, millest me oleme algusest peale rääkinud. Ja inimesed, kes sellesse usuvad, on ka kindlad, et selline tulevik ootab meid väga-väga kiiresti.
Ilmselt ei imesta, et Kurzweili ideed on karmi kriitikat pälvinud. Selle eripära 2045. aastal ja sellele järgnenud inimeste igavest elu nimetati "nohikute tõusuks" või "inimeste intelligentseks loomiseks, kelle IQ on 140". Teised seadsid kahtluse alla optimistliku ajaraami, inimkeha ja aju mõistmise, meenutasid Moore'i seadust, mis pole veel kuhugi kadunud. Iga eksperdi kohta, kes usub Kurzweili ideedesse, on kolm, kes arvavad, et ta eksib.
Kuid kõige huvitavam on see, et enamik temaga mitte nõustuvaid eksperte ei ütle üldiselt, et see on võimatu. Selle asemel, et öelda "jama, seda ei juhtu kunagi", ütlevad nad midagi sellist: "kõik see juhtub, kui me jõuame ISI-sse, kuid see on probleem." Bostrom, üks tunnustatud AI eksperte, kes hoiatab AI ohtu, tunnistab samuti:
„Vaevalt on jäänud ühtegi probleemi, mida superluure ei suuda lahendada ega isegi aidata meil lahendada. Haigused, vaesus, keskkonna hävitamine, igasugused kannatused - kogu see nanotehnoloogia abil teostatav ülivõimlemine suudab hetkega lahendada. Ülintelligentsus võib anda meile ka piiramatu eluea, peatades ja pöörates vananemisprotsessi nanomeditsiini abil või võime meid pilve üles laadida. Ülintelligentsus võib luua ka võimalusi intellektuaalsete ja emotsionaalsete võimete lõputuks suurendamiseks; ta võib aidata meil luua maailma, kus elame rõõmus ja mõistvalt, lähenedes oma ideaalidele ja tehes regulaarselt oma unistusi."
See on tsitaat ühelt Kurzweili kriitikult, kes tunnistab, et see kõik on võimalik, kui suudame luua turvalise ASI. Kurzweil määratles lihtsalt, milliseks kunstlikuks superintelligentsiks peaks saama, kui see üldse võimalik on. Ja kui ta on hea jumal.
Mugavustsooni pooldajate kõige ilmsem kriitika on see, et nad võivad ISI tuleviku hindamisel neetud eksida. Kurzweil pühendas oma raamatus „Singulaarsus“20 potentsiaalset ISI ohtu 700 leheküljest. Küsimus pole selles, kui jõuame ISI-ni, küsimus on selles, mis saab selle motivatsioonist. Kurzweil vastab sellele küsimusele ettevaatlikult: „ISI tuleneb paljudest erinevatest pingutustest ja integreeritakse sügavalt meie tsivilisatsiooni infrastruktuuri. Tegelikult on see tihedalt seotud meie keha ja ajuga. Ta kajastab meie väärtusi, sest ta on meiega üks."
Aga kui vastus on, siis miks muretsevad nii paljud nutikad inimesed siin maailmas tehisintellekti tuleviku pärast? Miks ütleb Stephen Hawking, et ISI arendamine "võib tähendada inimkonna lõppu"? Bill Gates ütleb, et ta "ei saa aru inimestest, keda see ei häiri". Elon Musk kardab, et kutsume kokku deemoni. Miks peavad paljud eksperdid ISI inimkonnale suurimaks ohuks?
Põhineb saidil waitbutwhy.com leiduvatel materjalidel, koostanud Tim Urban. Artiklis on kasutatud materjale Nick Bostromi, James Barratt, Ray Kurzweili, Jay Niels-Nilssoni, Stephen Pinkeri, Vernor Vinge, Moshe Vardy, Russ Roberts, Stuart Armstrog ja Kai Sotal, Susan Schneider, Stuart Russell ja Peter Norvig, Theodore Modis töödest. Marcus, Karl Schulman, John Searle, Jaron Lanier, Bill Joy, Kevin Keley, Paul Allen, Stephen Hawking, Kurt Andersen, Mitch Kapor, Ben Herzel, Arthur Clark, Hubert Dreyfus, Ted Greenwald, Jeremy Howard.
Autor: Ilja Khel
Kolmas osa: miks see võib olla meie viimane leiutis?
