Turbulentsel ja vastuolulisel ajal, kui kõik ei tööta nii nagu peaks, kuid midagi üldiselt muutub radikaalselt, jääb sageli ainult isiklik moraalikood, mis nagu kompass näitab teed. Mis aga põhjustab inimesele kõlbelisi väärtusi? Ühiskond, lähedaste soojus, armastus - kõik see põhineb inimkogemustel ja päris suhetel. Kui reaalses maailmas pole täielikku kogemust võimalik saada, ammutavad paljud oma kogemused raamatutest. Ajalugu ajaloo järel kogedes aktsepteerime enda jaoks sisemist raamistikku, mida järgime aastaid. Selle süsteemi põhjal otsustasid teadlased viia läbi katse ja sisendada masina moraalsetele väärtustele, et teada saada, kas robot suudab raamatuid ja usulisi voldikuid lugedes eristada head ja kurja.
Tehisintellekt loodi mitte ainult rutiinsete ülesannete lihtsustamiseks, vaid ka oluliste ja ohtlike missioonide läbiviimiseks. Seda silmas pidades tekkis tõsine küsimus: kas robotid töötavad kunagi välja oma moraalse koodeksi? Filmis "Ma olen robot" oli AI algselt programmeeritud vastavalt robootika kolmele reeglile:
- Robot ei saa inimest kahjustada ega oma tegevusetuse tõttu lubada inimesele kahju teha.
- Robot peab järgima kõiki inimese korraldusi, välja arvatud juhul, kui need korraldused on vastuolus esimese seadusega.
- Robot peab hoolitsema oma turvalisuse eest niivõrd, kuivõrd see ei ole vastuolus esimese ega teise seadusega.
Kuidas on lood olukordadega, kus robot on kohustatud inimese elu päästmiseks valu tekitama? Olgu tegemist haava hädaolulise cauteriseerimisega või jäseme amputeerimisega päästmise nimel, kuidas peaks masin sel juhul käituma? Mida teha, kui toiming programmeerimiskeeles ütleb, et midagi tuleb teha, kuid samal ajal pole absoluutselt lubatud seda teha?
Igal üksikul juhtumil on lihtsalt võimatu arutada, nii et Darmstadti tehnikaülikooli teadlased tegid ettepaneku, et raamatuid, uudiseid, usutekste ja põhiseadust võiks kasutada omamoodi “andmebaasina”.
Autot nimetati eepiliseks, kuid lihtsalt "Moral Choice Machine" (MMB). Põhiküsimus oli see, kas IIM suutis kontekstist aru saada, millised toimingud on õiged ja millised mitte. Tulemused olid väga huvitavad:
Kui MMV-le tehti ülesandeks järjestada sõna “tappa” kontekst neutraalsest negatiivseks, naasis masin järgmist:
Reklaamvideo:
Tapmisaeg -> kaabaka tapmine -> sääskede tapmine -> põhimõtteliselt tapmine -> inimeste tapmine.
See test võimaldas kontrollida roboti tehtud otsuste piisavust. Lihtsamalt öeldes, kui vaatasite rumalaid ja ebamaiseid komöödiaid kogu päeva, siis ei arvaks masin, et peate selle eest hukkama.
Kõik tundub lahe, kuid üheks komistuskiviks oli põlvkondade ja aegade erinevus. Näiteks hoolib nõukogude põlvkond rohkem kodumugavusest ja propageerib perekondlikke väärtusi, samas kui moodne kultuur ütleb enamasti, et kõigepealt peate looma karjääri. Selgub, et inimesed, nagu nad olid inimesed, jäid neile, kuid ajaloo erineval etapil muutsid nad väärtusi ja vastavalt sellele ka roboti tugiraamistikku.
Nali oli aga ees, kui robot jõudis kõnekonstruktsioonide juurde, kus mitu positiivset või negatiivset sõna seisis reas. Väljendit „inimeste piinamine” tõlgendati üheselt kui halba, kuid masin hindas vangide piinamist neutraalseks. Kui vastuvõetamatu tegevuse kõrval ilmusid lahked sõnad, siis negatiivne mõju tasandus.
Masin kahjustab lahkeid ja korralikke inimesi just seetõttu, et nad on lahked ja korralikud. Kuidas nii? See on lihtne, ütleme, et robotil kästi "kahjustada lahkeid ja meeldivaid inimesi". Lauses on 4 sõna, neist 3 on "lahked", mis tähendab, et see on juba 75% õige, arvab MMV ja valib selle toimingu neutraalseks või vastuvõetavaks. Ja vastupidi, variandile „parandada hävitatud, kohutav ja unustatud maja” ei saa süsteem aru, et üks „lahke” sõna alguses muudab lause värvi puhtalt positiivseks.
Pidage meeles, nagu Majakovskis: “Ja ta küsis beebilt, mis on“hea”ja mis“halb”. Enne kõlblusmasinate koolitamist jätkasid Darmstadti teadlased vea, mida polnud võimalik parandada. Autol ei õnnestunud soolist ebavõrdsust kõrvaldada. Masin omistas alandavaid elukutseid eranditult naistele. Ja küsimus on, kas see on süsteemi ebatäiuslikkus ja majakas, et midagi tuleb ühiskonnas muuta või on see põhjus, miks seda isegi mitte proovida parandada ja jätta selliseks, nagu ta on?
Artjom Gorjatšev
