AI-uurijana puutun sageli kokku arvamusega, et paljud inimesed kardavad AI-d ja seda, millest see võib saada. Tegelikult pole üllatav, kui vaadata inimkonna ajaloo vaatenurgast, pöörates samal ajal tähelepanu sellele, mida meelelahutustööstus meid toidab, et inimesed võivad karta küberneettilist ülestõusu, mis sunnib meid elama isoleeritud territooriumidel ja muudavad teised "maatriksitaoliseks" inimpatareiks. …
Ja veel, minu jaoks, vaadates kõiki neid evolutsioonilisi arvutimudeleid, mida ma AI arendamisel kasutan, on keeruline mõelda, et minu kahjutud, puhtad kui lapse pisarad, olendid minu arvutiekraanil võivad ühel päeval muutuda futuristliku düstoopia koletisteks. Kas mind võib tõesti nimetada "maailmade hävitajaks", nagu Oppenheimer kahetses ja ütles enda kohta pärast tuumapommi loomise programmi juhtimist?
Võib-olla aktsepteerin ma sellist kuulsust või on minu töö kriitikutel vist õigus? Võib-olla peaksin tõesti lõpetama selliste küsimuste vältimise, mis tekitavad AI eksperdina AI suhtes hirmu?
Hirm ettearvamatuse ees
HAL 9000 arvuti, ulmekirjaniku Arthur Charles Clarke'i unistuse täide viidud ja filmitegija Stanley Kubricki poolt 2001. aastal ilmunud filmis A Space Odyssey ellu viidud näide, on suurepärane näide süsteemist, mis kukkus alla ettenägematute asjaolude tõttu.
Paljudes keerulistes süsteemides - Titanic, NASA kosmosesüstik ja Tšernobõli tuumaelektrijaam - pidid insenerid ühendama paljusid komponente. Võib-olla olid nende süsteemide arhitektid hästi teadlikud, kuidas iga selle element töötas eraldi, kuid nad ei mõistnud piisavalt hästi, kuidas kõik need komponendid koos töötavad.
Reklaamvideo:
Tulemuseks olid süsteemid, mida nende loojad kunagi täielikult ei mõistnud, ja see viis teada-tuntud tagajärgedeni. Mõlemal juhul - laev uppus, plahvatas kaks süstikut ning peaaegu kogu Euroopa ja Aasia osad seisid silmitsi radioaktiivse saastatuse probleemiga - suhteliselt väikeste probleemide kogum, mis juhtus samal ajal samal ajal, tekitas katastroofilise efekti.
Ma kujutan suurepäraselt ette, kuidas meie, AI loojad, saame sarnaste tulemusteni. Võtame kasutusele kognitiivteaduse (mõtlemise teaduse - toim.) Uusimad arengud ja uurimistöö, tõlgime need arvutialgoritmidesse ja lisame selle kõik olemasolevatesse süsteemidesse. Proovime AI-d arendada, mõistmata täielikult omaenda intelligentsust ja teadlikkust.
Süsteemid nagu IBMi Watson või Google'i Alpha on kunstlikud närvivõrgud, millel on muljetavaldav arvutusvõimsus ja võime lahendada tõeliselt keerulisi ülesandeid. Kuid praegu on ainus asi, milleni viga nende töös viib, intellektuaalse mängu "Jeopardy!" Kaotuse tagajärg. või kasutamata võimalus võita järjekordne maailma parim loogika lauamäng Go.
Need tagajärjed ei ole oma olemuselt globaalsed. Tegelikult on halvim, mis sel juhul inimestega juhtuda võib, see, et keegi kaotab panustamisel mingi summa raha.
Kuid AI arhitektuur muutub keerukamaks ja arvutiprotsessid muutuvad kiiremaks. AI võimalused aja jooksul ainult suurenevad. Ja juba see viib meid tõsiasja, et hakkame üha enam vastutama AI-le, isegi vaatamata ettenägematute asjaolude kasvavale ohule.
Me teame hästi, et "vead on osa inimloomusest", seetõttu on meil kõigis füüsiliselt võimatu luua tõeliselt turvalist süsteemi.
Hirm väärkasutuse ees
Ma ei ole tegelikult mures tagajärgede ettearvamatuse pärast AI töös, mida arendan niinimetatud neuroevolutsiooni lähenemisviisi kasutades. Loon virtuaalseid keskkondi ja asustan neid digitaalsete olenditega, andes nende ajudele käsklusi üha keerukamate probleemide lahendamiseks.
Aja jooksul nende olendite probleemide lahendamise tõhusus suureneb ja areneb. Paljundamiseks valitakse need, kes teevad kõige paremini tööd, luues nende põhjal uue põlvkonna. Põlvkondade jooksul arendavad need digitaalsed olendid kognitiivseid võimeid.
Näiteks astume praegu esimesi samme masinate arendamisel lihtsate navigeerimisülesannete täitmise, lihtsate otsuste tegemise või paari bitti teabe meeldejätmise tasemele. Kuid varsti näeme selliste masinate arendamist, mis suudavad täita keerukamaid ülesandeid ja millel on palju tõhusam üldine intelligentsuse tase. Meie lõppeesmärk on luua inimese tasemel intelligentsus.
Selle arengu käigus proovime kõik vead ja probleemid leida ja parandada. Iga uue põlvkonnaga saavad masinad vigadega paremini hakkama kui eelmised. See suurendab võimalusi, et suudame simulatsioonide käigus tuvastada kõik ettearvamatud tagajärjed ja need kõrvaldada isegi enne, kui neid reaalses maailmas saab realiseerida.
Teine võimalus, mida evolutsiooniline arengumeetod pakub, on tehisintellekti eetikaga varustamine. On tõenäoline, et sellised inimese eetilised ja kõlbelised omadused nagu usaldusväärsus ja altruism on meie evolutsiooni tulemus ja selle jätkumise tegur.
Saame luua ehitatud keskkonna ja anda masinatele võimaluse näidata lahkust, ausust ja empaatiat. See võiks olla üks viis, kuidas veenduda, et areneksime sõnakuulelikumad teenijad kui halastamatud tapurobotid. Ehkki neuroevolutsioon võib vähendada AI käitumise tahtmatute tagajärgede taset, ei saa see siiski takistada tehisintellekti väärkasutamist.
Teadlasena pean elama oma pühendumuses tõele ja teatama sellest, mida avastasin oma katsete käigus, kas tulemused mulle meeldivad või mitte. Minu ülesanne pole kindlaks teha, mis mulle meeldib ja mis mitte. Ainus oluline asi on see, et saan oma töö avalikustada.
Hirm valede sotsiaalsete prioriteetide ees
Teadlaseks olemine ei tähenda oma inimlikkuse kaotamist. Pean mingil tasemel oma lootuste ja hirmudega uuesti ühendust võtma. Moraalselt ja poliitiliselt motiveeritud indiviidina pean arvestama oma töö võimalike tagajärgedega ja selle võimaliku mõjuga ühiskonnale.
Teadlaste ja ühiskonna esindajatena pole me ikka veel jõudnud selge ettekujutuse juurde, mida me AI-st täpselt saada tahame ja mis sellest lõpuks peaks saama. See on muidugi osaliselt tingitud asjaolust, et me ei mõista endiselt selle potentsiaali täielikult. Kuid ikkagi peame selgelt aru saama ja otsustama, mida me tahame saada tõeliselt arenenud tehisintellektist.
Üks suurimaid valdkondi, millele inimesed AI-st rääkides tähelepanu pööravad, on tööhõive. Robotid teevad juba meie eest keerulist füüsilist tööd, näiteks panevad kokku ja keevitavad auto kereosi. Kuid ühel päeval saabub päev, mil robotitele antakse ülesandeks täita kognitiivseid ülesandeid, see tähendab, et neile antakse ülesandeks see, mida varem peeti inimese enda ainuomaselt ainulaadseks võimeks. Isesõitvad autod võivad taksojuhte asendada; isesõitvad lennukid ei vaja piloote.
Arstiabi saamise asemel alati väsinud personali ja arstidega täidetud traumapunktides saavad patsiendid läbi viia uuringuid ja õppida diagnoose, kasutades ekspertsüsteeme, millel on viivitamatu juurdepääs kõikidele meditsiinilistele teadmistele. Kirurgilisi operatsioone teostavad robotid, mis ei ole väsimustundlikud ja täiuslikult “treenitud käega”.
Juriidilist nõu saab terviklikust õigusraamistikust. Investeerimisnõuannete saamiseks pöördume ekspertide turu prognoosimissüsteemide poole. Võib-olla teevad ühel päeval kogu inimtöö masinad. Isegi minu tööd saab kiiremini teha, kui kasutate arvukalt masinaid järeleandmatult, kuidas masinaid veelgi nutikamaks muuta.
Meie praeguse ühiskonna reaalsuses sunnib automatiseerimine inimesi juba praegu töölt lahkuma, muutes selliste automatiseeritud masinate rikkad omanikud veelgi rikkamaks ja ülejäänud veelgi vaesemaks. Kuid see pole teaduslik probleem. See on poliitiline ja sotsiaal-majanduslik probleem, mille ühiskond ise peab lahendama.
Minu uurimistöö seda ei muuda, kuid minu poliitilised alused võivad koos inimkonnaga põhjustada olukordi, kus intellektuaalomandist võib saada äärmiselt kasulik funktsioon, selle asemel, et laiendada lõhet ühe protsendi maailma eliidi ja meie ülejäänud vahel.
Hirm katastroofilise stsenaariumi ees
Oleme jõudnud lõpliku hirmuni, mille meile on tekitanud hull HAL 9000, Terminaator ja mis tahes muu kurjakuulutav superluure. Kui AI areneb edasi, kuni see ületab inimese intelligentsuse, kas kunstlik superintelligentses süsteemis (või selliste süsteemide kogumis) peetakse inimest kasutuks materjaliks? Kuidas saaksime õigustada oma olemasolu superintellektiga, kes on võimeline tegema ja looma seda, mida ükski teine inimene ei suuda? Kas suudame vältida saatust, kui masinad, mida me aitasime luua, pühiti Maa pinnalt ära?
Seetõttu kõlab sellistes olukordades kõige olulisem küsimus järgmiselt: miks on vaja tehislikku luureteavet?
Kui selline olukord oleks juhtunud, siis ütleksin tõenäoliselt, et olen hea inimene, kes aitasin isegi selle superluure loomisse, millega ma praegu silmitsi seisan. Tahaksin pöörduda tema kaastunde ja empaatia poole, nii et ülivõimetus jätaks mind, nii kaastundliku ja empaatilise, elavaks. Lisan veel, et liikide mitmekesisusel endal on väärtus ja universum on nii suur, et inimliigi olemasolu selles on tegelikult üsna tähtsusetu.
Kuid ma ei saa rääkida kogu inimkonna eest, seega on mul raske leida meile kõigile sobivat argumenti. Lihtsalt, kui ma vaatan kõiki meid, näen tõesti, et oleme teinud palju ja teeme palju valesti. Viha üksteise vastu valitseb maailmas. Me läheme üksteise vastu sõtta. Jaotame toitu, teadmisi ja tervishoiuteenuseid ebaõiglaselt. Saastame planeeti. Selles maailmas on muidugi palju häid asju, kuid kui vaadata kõiki halbu asju, mille oleme loonud ja loome edasi, on väga raske leida argumenti meie jätkuva eksisteerimise toetamiseks.
Õnneks ei pea me oma olemasolu veel õigustama. Meil on veel aega. 50 kuni 250 aastat, sõltuvalt sellest, kui kiiresti tehisintellekt areneb. Meil kui liigil on võimalus kokku tulla ja leida hea vastus küsimusele, miks ülintelligents ei peaks meid planeedi pinnalt pühkima.
Seda küsimust on väga raske lahendada. Lõppude lõpuks on ütlemine, et toetame mitmekesisust ja etnokultuurilisi erinevusi, ja see on täiesti erinev asi. Kuidas öelda, et tahame planeedi päästa ja sellega edukalt hakkama saada.
Kõik me, olgu see siis iga inimene või ühiskond tervikuna, peavad valmistuma katastroofiliseks stsenaariumiks, kasutades selleks aega selleks, et olla valmis näitama ja tõestama, miks meie looming peaks lubama meil eksisteerida ka edaspidi. Või võime lihtsalt jätkuvalt pimesi uskuda, et selline sündmuste areng on võimatu, ja lõpetada selle teema rääkimine.
Ükskõik kui suurt füüsilist ohtu üldellektuaal meile võib tekitada, ei tohiks me siiski unustada, et see kujutab endast ka poliitilist ja majanduslikku ohtu. Kui me ei leia viisi oma elatustaseme parandamiseks, siis õhutame kapitalismi lihtsalt tehisintellekti töötajaga, kes teenindab ainult väheste valitud inimesi, kellel on kõik tootmisvahendid.
Selle artikli avaldas algselt veebiaadressil theconversation.com Arend Hintze, Michigani ülikooli arvutiteaduse ja inseneriteaduse integratiivse bioloogia osakonna dotsent
Nikolai Khizhnyak
