Kuulus Briti füüsik Stephen Hawking ütles ulmefilmist "Transcendence" inspireeritud artiklis Johnny Deppiga peaosas, et tehisintellekti ohu alahindamine võib olla inimkonna ajaloo suurim viga.
California Berkeley ülikooli arvutiteaduse professori Stuart Russelli ning MIT-i füüsikaprofessorite Max Tegmarki ja MIT-i füüsikaprofessorite kaasabil viitab Hawking mõnele tehisintellekti edusammudele, märkides isesõitvaid autosid, Siri hääleabimeest ja superarvutit. mehe võitja Jeopardy TV viktoriinimängus.
„Kõik need saavutused kahvatuvad taustal, mis meid järgmistel aastakümnetel ees ootab. Tehisintellekti edukas loomine saab olema inimajaloo suurim sündmus. Kahjuks võib see osutuda viimaseks, kui me ei õpi riskide vältimiseks,”tsiteerib Hawkingi Briti ajaleht The Independent.
Professorid kirjutavad, et tulevikus võib juhtuda, et keegi ja mitte miski ei suuda ebainimliku intelligentsusega masinatel enesetäiendamist peatada. Ja see käivitab nn tehnoloogilise singulaarsuse protsessi, mis tähendab ülikiiret tehnoloogia arengut. Depa osavõtul filmis kasutatakse selles mõttes sõna "transtsendentsus".
Kujutage ette, et selline tehnoloogia ületab inimesi ja ajab finantsturge, teadusuuringuid, inimesi ja relvade arendamist väljaspool meie arusaamist. Kui tehisintellekti lühiajaline toime sõltub sellest, kes seda kontrollib, siis pikaajaline mõju sõltub sellest, kas seda on üldse võimalik kontrollida.
Raske on öelda, milliseid tagajärgi võib tehisintellekt inimesele põhjustada. Hawking usub, et väljaspool selliseid mittetulundusühinguid nagu Cambridge'i eksistentsiaalsete riskide uuringu keskus, inimkonna tuleviku instituut ning masinluure ja tulevase elu uurimisinstituudid on nendele teemadele pühendatud vähe tõsiseid uuringuid.
Tema sõnul peaks igaüks meist endalt küsima, mida saaksime nüüd ära teha, et vältida tulevikus halvimat stsenaariumi.
