Mida sügavamale sukeldume 21. sajandisse, seda selgemini avanevad meie ees avanevad fantastilised võimalused. Ja seda selgemini kogeme tumedaid tundeid, kui neile mõelda. Siin on kümme hirmutavat tehnoloogiat, mida poleks kunagi olnud. Nendega tuttavaks saades selgub, et paljusid neist tehnoloogiatest saaks hästi kasutada. Kuid on oluline tõmmata eraldusjoon tehnoloogia kui sellise ja selle kasutamise vahel.
Võtame näiteks nanotehnoloogia. Nende väljatöötamisel saab neid kasutada jätkuva nappuse lõpetamiseks, keskkonna puhastamiseks ja inimese bioloogia ümbertegemiseks. Kuid neid saab kasutada ka meie planeedi väga kiireks hävitamiseks. Nii et kui on aeg neid futuristlikke tehnoloogiaid välja töötada ja kasutada, peame sellele lähenema vastutustundlikult. Võib-olla jõuame järeldusele, et eraldi seeria tehnoloogia arengut ja sellega seotud riske pole kasu väärt. Näiteks tehisintellekt.
Mõni tehnoloogia on objektiivselt ohtlik. California Polütehnilise Riikliku Ülikooli eetika + arenevate teaduste rühma direktor Patrick Lin ütleb:
„Idee, et tehnoloogia on neutraalne või moraaliga mitteseotud, on müüt, mis tuleb ümber lükata. Disainer võib anda loomingule eetikat, isegi kui objektil pole iseenesest moraalset agenti. See funktsioon võib enamikul juhtudel olla liiga peen, kuid mõned tehnoloogiad on sündinud kurjusest ja neil pole kasulikku kasutust, näiteks gaasikambrid. Pealegi, kuigi tehnoloogia võib olla oma olemuselt hea või halb, nõustub igaüks, et enamikul tehnoloogiatel on nii häid kui halbu kasutusviise. Kui tõenäosus, et kurjuse nimel kasutatakse tehnoloogiat, on suurem kui hea nimel, ei pruugi seda tehnoloogiat arendada."
Sõjaline nanotehnoloogia
Vaevalt saab miski muu lõpetada meie valitsemise Maal kiiremini kui sõjaväe - või halvasti vigane - molekulaarse komplekteerimise nanotehnoloogia.
See oht tuleneb kahest äärmiselt võimsast jõust: kontrollimatu enese taastootmine ja eksponentsiaalne kasv. Nihilistlik valitsus, valitsusväline esindaja või eraisik saab välja töötada mikroskoopilisi masinaid, mis kulutavad kulutulena (väga kiiresti) meie planeedi kriitilisi ressursse, paljunedes samas tohutul hulgal ja jättes oma teele kasutud kõrvalsaadused - futuristid nimetavad seda stsenaariumi halliks lima."
Reklaamvideo:
Nanotehnoloogia teoreetik Robert Freitas on välja pakkunud mitu võimalikku stsenaariumi planeeti hävitava nanotehnoloogia tekkeks, sealhulgas hall tolm, hall plankton, hallid samblikud ja nn biomassi tapjad. Hall tolm katab meid päikesevalguse eest; hall plankton koosneb ookeanipõhja replikaatoritest, mis toituvad kogu maismaa süsinikurikkast ökoloogiast; hallid samblikud hävitavad maapealset geoloogiat ja biomassi tapjad ründavad mitmesuguseid organisme.
Freitase sõnul võtab "globaalse ökofaagia" halvim stsenaarium umbes 20 kuud, mis on tõhusa kaitse kujundamiseks enam kui piisav. Kaitse all tähendab Freitas vastumeetmeid isereplaaniva nanotehnoloogia või süsteemi kujul, mis muudab nanobootide sisemised masinad võimatuks. Teise võimalusena võiksime aktiivsed kilbid enne tähtaega paigutada, kuid enamik nanotehnoloogia eksperte nõustub, et see oleks kasutu. Sellest tulenevalt on vaja välja töötada ja säilitada moratoorium sõjalise nanotehnoloogia loomisele.
Arukad masinad
Kui me esitame kunstliku teadvusega masinaid, on see juba enesestmõistetav. Kuid enne sellise tuleviku poole liikumist peame mõtlema väga tõsiselt. Funktsionaalse aju ehitamine arvutisse võib olla liiga julm - ja see kehtib nii loomade kui inimeste emuleerimise kohta.
Veel 2003. aastal väitis filosoof Thomas Metzinger, et tarkvara väljatöötamine, mis võib kannatada, oleks koletult ebaeetiline:
"Mida te ütleksite, kui keegi tuleks ja ütleks:" Me tahame vaimse alaarenguga inimese lapsi geneetiliselt modifitseerida! Mingil põhjusel, mis rahuldab teaduse arengut, vajame teatud kognitiivsete ja emotsionaalsete puuetega lapsi, et uurida nende sünnitusjärgset psühholoogilist arengut - vajame selle olulise ja uuendusliku uurimistüübi jaoks kiiresti raha! Arvate, et see pole mitte ainult absurdne ja küsitav, vaid ka ohtlik idee. Ükski eetikakomisjon demokraatlikus maailmas ei jätaks seda kasutamata. Kuid praegused eetikakomiteed ei näe, et esimesed masinad, mis vastavad teadliku kogemuse miinimumtingimustele, võiksid olla sarnaselt vaimse alaarenguga lapsed. Nad võivad kannatada igasuguste funktsionaalsete ja esinduslike puudujääkide all. Ja nad tunnevad seda puudujääki subjektiivselt. Lisaksneil ei ole kaitset ega esindatust eetikakomiteedes."
Futuroloog Louis Helm nõustub:
“Arvutid on eriti head, sest nad suudavad tabelis lugeda miljonite veergude summa ja ei väsi ega tüdine. Kuna plaanime vaimse töö asendajana kasutada tehisintellekti, oleks minu arvates intelligentsete programmide loomine ebamoraalne. Teadliku olendi masinasse vangistamine ja selle enda jaoks tööle panemine on praktiliselt orjus. Pealegi on teadvus habras. Inimeste mitmed valesti kodeeritud geenid võivad põhjustada Downi sündroomi, skisofreeniat, autismi või epilepsiat. Mis tunne on valesti programmeeritud teadvuse vormis? Näiteks soovivad mitmed hästi sponsoreeritud tehisintellektide arendajad inimaju luua masinatesse, jäljendades inimese aju bioloogilist struktuuri. Ma loodan ja isegi natuke loodan, et need esimesed modelleerimiskatsed on liiga karmid,et tõesti läbi põleda. Kuid kui see on "edukas", tekitavad esimesed tulemused tõenäoliselt kummalise, ebameeldiva ja ümberlõigatud subjektiivse kogemuse seisundi. Programmeerijana olen iseteadliku tehisintellekti vastu. Mitte sellepärast, et see ei oleks lahe. Aga sellepärast, et olen moraalselt orjuse, piinamise ja halva koodeksi vastu."
Kunstlik superluure
Nagu ütles selle aasta alguses Stephen Hawking, võib tehisintellekt olla meie ajaloo suurim viga. Oleme mitu korda arutanud, et üliinimliku luure tekkimine võib olla katastroof. Meist palju kiiremate ja nutikamate süsteemide tekkimine heidab meid tagaplaanile. Jääme armu, mida kunstlik superluure soovib - ja pole selge, kas suudame luua sõbraliku tehisintellekti. Peame selle probleemi lahendama nii kiiresti kui võimalik, vastasel juhul võib kunstliku superluure arendamine inimkonna lõpetada.
Ajas reisimine
Asi pole selles, et ma usun tugevalt ajas rändamise võimalikkusse (kas me pole praegu kõik ajas rändavad?), Kuid seda ei tohiks allahinnata. Pealegi peame temast eemale hoidma.
Ajarännak võib olla neetult ohtlik. Iga film sassis ajajoonte kohta räägib teile potentsiaalsetest ohtudest, sealhulgas vastikutest paradoksidest. Ja isegi kui mingisugune kvantne ajas rändamine saab võimalikuks - kui luuakse täiesti uued ja eraldi ajajooned -, siis tõenäoliselt ei lõppe kultuuri- ja tehnoloogiavahetus erinevate tsivilisatsioonide vahel hästi.
Mõtte lugemise seadmed
Muret tekitab võimalus masinatest, mis suudavad inimeste mõtteid ja mälestusi kaugelt lugeda, ilma nende nõusolekuta või ilma. Kuid tõenäoliselt pole see võimalik enne, kui inimese aju on võrgu ja muude sidekanalitega tihedamalt integreerunud.
Näiteks eelmisel aastal kasutasid Hollandi teadlased aju skaneerimise ja arvutialgoritmide abil kindlaks, milliseid tähti inimene vaatab. See läbimurre näitas võimet rekonstrueerida inimlikke mõtteid enneolematu üksikasjalikult kolmanda osapoole poolt - kaasa arvatud see, mida me näeme, mida mõtleme ja mida mäletame. Kui sellised seadmed satuvad totalitaarse režiimi või politseiriigi küüsi, muutub elu võimatuks ja talumatuks. Maailm sarnaneb Orwellianiga, kus karistatakse isegi mõtetes toime pandud kuritegusid.
Aju häkkimise seadmed
On võimalus, et meie teadvust saab koos teadmiste ja mälestustega muuta. Niipea, kui kiibid ajusse satuvad ja kõik tõkked langevad, on meie teadvus avatud kogu Internetile ja kõigile selle pahedele.
Esimese sammu selle eesmärgi suunas oleme juba teinud. Hiljuti alustas rahvusvaheline neuroloogide rühm eksperimenti, mis võimaldab osalejatel Interneti kaudu ajust ajuni suhelda. Lahe, võite arvata, kuid selline tehniline telepaatia avab terve Pandora kasti. Ründajal võib olla võimalik muuta ohvri mälestusi ja kavatsusi. Mis juhtub, kui selle võimaluse saavad terved organisatsioonid või paranoilised valitsused?
Autonoomsed robotid inimeste hävitamiseks
Autonoomsete masinate potentsiaal inimesi tappa hirmutab kõiki - ja see on ilmselt esimene päevakorrapunkt, millega võitlema hakata.
Futurist Michael Latorra ütleb järgmist:
"Meil pole veel masinaid, mille üldine intelligentsus oleks inimese tasemele lähedane. Kuid surmavate võimalustega autonoomsete robotite toimimiseks pole inimtasemel intelligentsust vaja. Igasuguste robootiliste sõjaväesõidukite ehitus on juba täies hoos. Tankrobotid, lennukid, laevad, allveelaevad, robotisõdurid - see kõik on tänapäeval võimalik. Erinevalt kaugjuhitavatest droonidest suudavad sõjaväerobotid sihtmärke tuvastada ja neid hävitada, ilma et inimene näpuga näitaks ja käskuks. Sellise tehnoloogia ohud peaksid olema ilmsed, kuid ei tohiks piirduda "sõbraliku tule" ohuga, kui robotid tapavad kogemata konflikti poolel inimesi või isegi süütuid kodanikke. Kus on suurem oht, mis võib peituda rahvusvahelisel võidurelvastumisel,kui mõni riik hakkab ehitama autonoomseid võitlusroboteid. Pärast mitut täiustamistsüklit võib võistlus veelgi võimsamate sõjaliste robotite loomiseks ületada künnise, kus uusima põlvkonna autonoomsed robotid suudavad ületada inimese juhitava sõjalise süsteemi. Ja siis võib kogemata või tahtlikult inimkond sattuda kohutavasse olukorda, teda hävitavad lahingurobotite ohvrid."
Võidelda patogeenide vastu
See on teine teema, mis muret teeb paljusid. 2005. aastal märkisid Ray Kurzweil ja Bill Joy, et surmavate viiruste genoomide avaldamine maailmas oleks tapja retsept. Alati leidub mõni idioot või kamp fanaatikuid, kes võtavad selle teabe kasutusele ja rekonstrueerivad viiruse täiesti nullist või muudavad olemasolevaid viiruseid, muutes need veelgi ohtlikumaks, ja lasevad siis maailma. On arvutatud näiteks, et modifitseeritud linnugripp võib hävitada poole maailma elanikkonnast. Ja Hiina teadlased on lindude ja seagripi täielikult ühendanud, luues tõelise mutandi. Nende eesmärk oli muidugi mõista, vaenlast ära tunda ja välja töötada võimalikud vastumeetmed enne tõelise pandeemia puhkemist. Kuid alati on oht, et viirus pääseb laborist välja ja tekitab inimeste seas kaose. Või et nad võtaksid ta teenistusse ja laseksid ketist lahti.
On aeg mõelda sellele süngele võimalusele, enne kui juhtub midagi kohutavat.
Virtuaalsed vanglad ja piinamine
Millised on piinamised ja vanglad, kui inimesed saavad elada sadu või tuhandeid aastaid? Mis juhtub vangidega, kui nende meeled on virtuaalsesse maailma laetud? Eetik Rebecca Roach uurib neid kohutavaid stsenaariume:
Surematuse eelised on ilmsed - kuid koos sellega võib karistus suureneda. Kui kolmekümneaastast vangistust peetakse liiga leebeks karistuseks, võib süüdlasele oodata eluea pikendamist, arvestades eluea pikenemist. Eluaegne vanglakaristus saab näiteks mitusada aastat. Tõsi, ühiskonnale võib selliste kurjategijate toetamine olla kallim. Kuid kui eluea pikenemine muutub üldlevinuks, panustavad saja-aastased kahtlemata pikaealise tööjõuna.
Kuriteo toime pannud isiku teadvuse allalaadimine ja miljon korda kiirendamine võimaldab tal kuriteo 1000 aasta karistusega kaheksa ja poole tunni jooksul "välja töötada". See on odavam kui kurjategija hoidmine maksumaksja rahaga sama 1000 aasta jooksul. Sellele kontsentreeritud karistusele võib järgneda rehabilitatsioon, ka mitu tundi."
See on kohutav. Loodame, et inimkond pole sellega nõus.
Põrgu loomine
See valik sarnaneb eelmisega. Mõned futuristid näevad ette paradiisi loomist - arenenud tehnoloogia kasutamist, sealhulgas teadvuse üleslaadimist ja virtuaalset reaalsust, mis muudab Maa paradiisiks. Kuid kui suudate luua taeva, saate luua põrgu. See väljavaade on eriti hirmutav, kui arvestada määramata eluiga ning psühholoogilise ja füüsilise karistuse peaaegu piiramatuid võimalusi. Raske on ette kujutada, et keegi tahaks sellist asja põhimõtteliselt arendada. Kuid see keegi võiks olla kunstlik superluure. Kas mäletate Basilisk Roco probleemi?
ILYA KHEL
