"Masinate tõus", "Terminaator naaseb" … Paljud ulme on üles ehitatud faktile, et arvutid muutuvad nii nutikaks, et nad mõistavad, et neil on parem ilma inimeseta. Muinasjutud? Kuidas vaadata. 2050. aastaks suudab tavaline koduarvuti töödelda nii palju teavet, kui kõik maapealsed inimesed kokku panevad.
Kuid 2050 on tingimusel, et masinad arenevad järk-järgult. See ei tööta nii. Meie suhted elektroonilise maailmaga edenevad hüppeliselt. Üks kord - auto külge oli kinnitatud hiir. Ükskord - Internet ilmus. Ükskord - seal olid tahvelarvutitega nutitelefonid.
Järgmine läbimurre on tulekul, kui arvuti saab inimestest aru. Nutitelefonidel on juba sellised rakendused nagu Siri ja Cortana, mis saavad meiega hõlpsalt vestelda. Kuid probleem on selles, et arvuti saaks aru mitte sellest, mida me ütleme, vaid sellest, mida me mõtleme! Lihtsaim näide: fraasil "Ta jättis mu maha", mille ütles pisaraplekitud naine ja mehe boss, on täiesti erinev tähendus.
Niisiis: niipea, kui masinad õpivad ära tundma inimkõne nüansse, on ühelt poolt meie käed lahti otseses ja otseses mõttes. Rääkisin arvutiga ja see tegi kõike. Teisest küljest, kas me ei lähene ohtlikule joonele, eemaldades viimase tõkke inimestevahelises suhtluses ja hingetu raua?
Olen seda juba ammu soovinud rääkida kuulsa teadlase, ABBYY keeleteaduse direktori, Venemaa Riikliku Humanitaarülikooli arvutuslingvistika osakonna juhataja ja Moskva füüsika- ja tehnoloogiainstituudi Vladimir Selegey'ga. Kuid kui ma talle oma apokalüptiliste hirmudega ütlesin, prantsatas ta.
“Jah, ulme on täis tumedaid ennustusi selle kohta, kuidas inimese koolitatud masinad ilma selleta hakkama saavad. Kuid mulle pole selge, miks programmidesse manustatud teadmiste hulga suurenemine provotseerib arvutit tegema otsuseid ilma inimeselt luba küsimata?
Tegelikult pole probleem mitte selles, et arvuti õpiks ilma inimesteta hakkama saama, vaid selles, et inimesed tahavad teatud probleemide lahendamisel teha ilma iseendata. Siin on Tšernobõli …
Reklaamvideo:
Ja mis pistmist Tšernobõli sellega?
- Tuumareaktor on väga keeruline füüsikaline mudel. Näib, et kõik reaktori juhtimisparameetrid on teada, kõik järgib rangeid füüsikalisi seadusi ja otsustamise võib usaldada täielikult arvutile. Aga…
1986. aastal, nädal pärast õnnetust, osalesin seminaril, mis käsitles tehisintellekti kasutamist tööstuses. Isegi siis oli selge, et usaldades otsustamise arvutile, oleme tõsises ohus. Tavaline, et programmid sisaldavad vigu. Isegi satelliitidel on tarkvara tõrkeid.
See tähendab, et inimene on usaldusväärsem kui arvuti, kuigi ta "mõtleb" palju kiiremini?
- Inimesel on lisaks kõigele muule ka motivatsioon. Ta lahendab oma probleemid - hariduse, paljunemise, karjääri, ta teab, kuidas end tunda …
Aga kas mõni kaval programmeerija saab kirjutada programmi, mis õpetaks agressioonimasinat …
- Võite proovida teha näiteks sõjaväe roboti, mis teeb otsused ise, analüüsides seda, mida ta näeb ja kuuleb. Ja see on väga ohtlik. Kuid mitte sellepärast, et robotil oleks äkki soov hävitada, nagu on kirjutanud ulmekirjanikud. Kuid kuna programmeerija eksimus, võib mõne teguri tähelepanuta jätmine põhjustada robotite ettearvamatu käitumise.
Kuid siiani oleme väga kaugel võimalusest luua iseõppimisprogramme, mis on võimelised genereerima täiesti uusi teadmisi. Ligikaudu öeldes liikuge iseseisvalt korrutustabelist võimaluse juurde lahendada keerulisi võrrandeid.
Kahekümnenda sajandi teisel poolel olid futuristlikud ennustused teaduse valdkonnas väga populaarsed. Kõik, mis puudutab arvuti intelligentsust, sattus piima. Keegi ei ennustanud Internetti, uskumatut vabadust pääseda juurde teabele, mobiiltelefonidele. Kuid kõik rääkisid mõtlevatest arvutitest.
Näiteks 60. aastate lõpus esines meie esimene malesüsteem KAISA edukalt maailmameistrivõistlustel arvutite seas. Usuti, et selleks, et masin inimest peksks, on vaja simuleerida inimmängu algoritme. Mõistmiseks, intellektiks, väga salapäraseks intuitsiooniks, mis paneb maletaja tegema õigeid otsuseid.
Täna peksab arvuti inimest. Kuid talle ei õpetatud kunagi intuitsiooni. Tema mällu on laetud miljard mängitud mängu, kogu mängu kogemus, kõik maletajate poolt kunagi tehtud otsused. Ja nad õpetasid neid seda optimaalse mänguplaani valimisel kasutama, pakkudes neile tohutut kiirust võimaluste loetlemiseks ja hindamiseks. Arvuti lööb küll maailmameistreid, kuid ei saa sellest mingit rõõmu. Kõik on inimestest täiesti erinev.
Kuid te olete üks neist, kes lihtsalt õpetab arvutit "pea sisse lülitama"
- Püüame ainult programme õpetada tekstidest aru saama, et nad saaksid neilt teavet kaevandada, koguda ja üldistada. Nii et inimesed saavad teadmisi, mis on filtreeritud ja valitud miljarditest allikatest. See on väga raske, kuna inimene ise ei tea väga hästi, kuidas tema keeleoskus on korraldatud, millel põhineb tema arusaam teistest inimestest.
Statistiline masintõlge on nüüd populaarne. Arvuti ei saa üldse aru, mis tõlgitud tekst endast kujutab, ta lihtsalt teab, kuidas leida kõige tõenäolisemaid variante väikeste fragmentide (mõne sõnaga) tõlkimiseks, analüüsides selle mällu talletatud tohutul hulgal inimtõlkeid. Üldiselt on tekst selge. Kuid sellise tõlke põhjal vastutustundliku otsuse tegemine oleks kergemeelne.
Olgu, kas arvuti saab minu jaoks juhiseid tõlkida?
- Juhised? Kas see on ohtlik.
- Jah lihtsale külmkapile!
- Isegi külmkappi! Tahaksin, et meie programmid tõlgiksid, üritades teksti mõista, valides teadmistel põhinevate valikute vahel, mitte ainult seetõttu, et seda kirjavahetust leitakse kõige sagedamini meie andmebaasis.
Olgu, ütleme, et lahendasite probleemi ja lõite süsteemi, tänu millele õpivad arvutid meie kõne nüansse mõistma ja isegi teise keelde tõlkima. Ja siis ähvardab inimesi uus oht - pole vaja mõelda. Pole vaja treenida mälu, aju. Vajad teavet - palun, Vikipeedia. Peate rääkima välismaalasega - tõlkijaga …
- Mida kõrgem on inimese intelligentsuse ja teadmiste tase, seda kasulikum on tema jaoks järgmine "nutikas abiline". Ja mida madalam, seda rohkem paistab võimalusi üldse mitte mõelda. Arvutitehnoloogiad viivad ühiskonna polariseerumiseni. Ligikaudu öeldes ei viinud kalkulaatori tulek matemaatikute degeneratsioonini. Kuid mõnes koolilapses oli ilmselgelt juba niigi madala võimekuse langus.
- Te teate, minu jaoks on tõsine haridustaseme languse näitaja nende inimeste arv, kes kirjutavad kirjaoskamatult või ei suuda oma mõtteid ja tundeid kaaslast kasutamata väljendada
- Jah, inimesed hakkasid vähem kompetentselt kirjutama. Lihtsalt sellepärast, et üldiselt on vähem toimetatud tekste ja palju rohkem selliseid ressursse, kus õigekiri on väga udune. Kas see tegi inimesed rumalaks? Ilmselt mitte.
Kas näete seost selle vahel, et inimene väljendab kirjaoskamatult oma mõtteid oma emakeeles, ja selle vahel, et ta on muutunud rumalamaks?
“Ma ei läheks nii kaugele. Kuigi see on ilmne: kuna lapsed hakkasid vähem lugema, tekkisid mõned probleemid teadmiste ja kultuuri edasiandmisel põlvkondade vahel. See on probleem. Täna näeme, et tänapäevane kooliõpilane, kelle hinnete tase on 30 aastat tagasi, tunneb kirjandust halvemini.
Siin! …
“… Aga teisest küljest teab ta palju paremini ka teisi asju, mida keegi ei osanud arvata, et nad oskavad.
Kas see on loomulik protsess?
- Jah. Pealegi saab esmakordselt inimkonna ajaloos teadmisi üle anda mitte vanematelt, vaid noorematele, nagu on sajandeid juhtunud. Toimus teadmiste edasiandmine noorematelt vanematele, mis varem polnud inimkultuurile üldse omane. Laps õpetab isale või emale arvutiga töötama, mobiiltelefoni abil, on tema vanematele mitmesuguste teadmiste allikas. Ja veelgi rohkem lapsi reisib mööda maailma. Väga sageli on nad geograafiliste ja kultuuriliste teadmiste allikas.
Kuulake, aga siin sai kõik alguse arvutitest. Nad vabastasid inimesed isegi vajadusest meelde jätta grammatika põhireeglid
- Just 90ndate alguses töötasin meeskonnas, kes töötas välja ühe esimestest vene keele õigekirjakontrollisüsteemidest. Kas sellest oli abi või kahjulik? Minu seisukohast väga kasulik. See süsteem võimaldas dokumentide kiiremat loomist. Ja siis sõltub kõik inimese vastutuse tasemest. Kes ütles, et pärast autot pole vaja üldse kontrolli teha? Süsteem aitab seda ainult palju tõhusamaks muuta.
Aga me usaldame arvutit
- See tähendab ainult seda, et programmi koostanud isik ei teatanud teile, et on palju nähtusi, mida masin ei saa kontrollida. Näiteks läbirääkimised.
Uued tehnoloogiad põhjustavad kahjuks sageli traditsiooniliste oskuste kaotamist. Olen teinud korteris remonti. Tahtsin paigaldada puitaknad, mis olid juba varem paigaldatud. Kuid see osutus võimatuks. Kõik paigaldavad topeltklaasid. Kahjuks lõpetavad inimesed paljude asjade tegemise kätega. Mida teha, nii see elu töötab. Kahjuks.
Nii et olete konformist?
- Mitte. Usun, et absoluutselt kahjulike asjade tegemine ei ole hea. Kuid kui teil on nii kasu kui ka kaotust, peate hindama riske … Kui teete ravimit, ei arva te, et selle kasutamise tagajärjel jäävad ellu mitte ainult head, vaid ka halvad inimesed.
Meie puhul on vaja samaaegselt tehnoloogiate arendamisega tegeleda nende kasutajate koolitamisega. Uute tehnoloogiate negatiivsed tagajärjed kajastuvad eeskätt neil, kes ei tee oma tööd ühelgi tehnoloogilisel tasemel eriti hästi.
Võtke näiteks ravimit. Soovime aidata arstil otsust langetada, loome arvutiekspertide süsteemi, mis põhineb suure hulga parimate arstide tehtud usaldusväärsete diagnooside analüüsil. See annab professionaalile võimaluse pöörduda suurema hulga teadmiste poole, kui tal endal on. Kuid lõplik otsus on tema, mitte arvuti! Halva arsti jaoks on kõik teisiti - ta usaldab seda, mida ta ei saa usaldusväärselt kontrollida. Kuid keskmiselt tundub mulle selliste tehnoloogiate tulekuga, et meditsiin läheb endiselt paremaks, mitte halvemaks.
Noh, me olime veendunud, et inimese mõistmine arvuti abil on intellektuaalsest süsteemist rohkem kasu kui kahju. Aga millal ta ilmub?
- See on väga keeruline ülesanne, mida ei saa kohe lahendada. On vaja õpetada arvutiteadmisi keele ja teadmiste kohta maailmast, järelduste tegemise meetodeid ja väärtuste võrdlemist. Midagi, mida me teame, kuidas nüüd teha, midagi võtab aastaid. Näiteks vajame usaldusväärseid andmeid keelekasutuse kohta, võttes arvesse individuaalseid ja sotsiaalseid erinevusi. Ja need erinevused on väga olulised. Näiteks tegime eriprojekti, mis on pühendatud vene keele piirkondlikele erinevustele. Kogus sõnaraamatu, milles oli peaaegu 10 tuhat sõna, mis on meie riigi ainult teatud piirkondade elanike jaoks norm
Kes me oleme?
- See on vene linnade keelte ühisprojekt, kuhu on kaasatud ABBYY spetsialistid, keeleteadlased, entusiastid Venemaa erinevatest piirkondadest ja venekeelsetest välismaalt. Analüüsisime piirkondlike massiteabevahendite keelt, sotsiaalseid võrgustikke, kohalike omavalitsuste seadlusi, seadlusi. Ja see on vaid väike osa teadmistest, mida tuleb arvutisse õpetada!
Mis on põhimõtteline erinevus teie tõlkekäsitluse ja näiteks Google'i kasutatavate süsteemide vahel?
- Statistilised süsteemid ei moodusta keelelisi struktuure. Nad otsivad tõlkevasteid väikeste 5-7-sõnaliste fragmentide jaoks. Kuid keel on korraldatud nii, et sageli asuvad seotud sõnad palju kaugemal ja kui seda seost ei võeta arvesse, tekivad vead. Kuid väga sageli on sellised üksikasjad tõlkimisel olulised, mille tähelepanuta jätmine võib tähendust täielikult muuta. Kõigi arvessevõtmiseks tuleb analüüsi käigus kindlaks teha kogu sõnade vaheliste keeleliste seoste süsteem, mida nimetatakse lause struktuuriks. Me ei tõlgi lausetükke keelest keelde, proovime tuvastada lause semantilist ülesehitust ja sünteesime selle struktuuri teise keele abil.
Kuid neid semantilisi struktuure kasutatakse masintõlke jaoks mitte ainult ja mitte nii palju. Neid on vaja ka intelligentse otsingu ja teabe analüüsi probleemide tõhusaks lahendamiseks, mis on täna ABBYY kui äriettevõtte jaoks olulisemad. Näiteks hiljuti välja antud esimesed lahendused ettevõtte turu jaoks põhinevad neil tehnoloogiatel: need võimaldavad teil lihtsalt otsida ja analüüsida andmeid tohutul hulgal teabevoogudes, mida organisatsioonid talletavad.
Ja millist keelt on teie arvates raskemini mõista?
- Üldiselt ollakse seisukohal, et keerulisemad on need keeled, kus peate õppima rohkem reegleid. Kuid arvutimõistmise korral see nii pole.
Midagi, mis on inimesele keeruline, näiteks rikas käändesüsteem vene või leedu keeles, lihtsustab arvuti teatud analüüsi etappidel ülesannet arvuti jaoks.
Näiteks hiina keel on väga keeruline, kuna selles puudub morfoloogia ja seetõttu on arvutil palju kahemõttelisust. Seetõttu on hiina keele arvutianalüüsil väga oluline kasutada teadmisi maailma kohta, mis on olulisem kui näiteks arenenud morfoloogiaga keelte analüüsimisel.
Meil õnnestus töötada vene, saksa, inglise, prantsuse, hispaania, hiina keelega. Keele analüüs on jagatud etappideks. Mõnel etapil on eripära, ühe keele jaoks on raskusi, mõnel on mõni teine. Kuid põhimõtteliselt on tehnoloogiad, millega me töötame, rakendatavad kõigis keeltes.
Teie arvates saabub kätte aeg, millal saame paralleelselt vestlusega arvutisse ka kiire ja arusaadava tõlke. Ütleme, et räägime nüüd, ja saate kohe hispaania keele vestluse ärakirja?
- See on võimalik üsna varsti. Ma ei usu, et see kahe aasta pärast on. Kuid … Mida on selle probleemi lahendamiseks vaja? Peame oma kõneanalüüsi süsteeme täiustama. Me ei saa veel omaalgatuslikku vestlust pidada, seda mürast eraldada ja soovitud tekst saada. Ja selles suunas on igal aastal edusamme tehtud.
Kuid ikkagi juhtub selliseid asju, mida masin ei saa üheselt tõlgendada. Ja siin sõltub mõistmise ja tõlkimise täpsus maailma teadmiste süsteemi kättesaadavusest, loogiliste järelduste mehhanismidest.
Kuid igal juhul säilib sellise programmi täieliku usalduse oht. Viga on arvata, et näiteks viie aasta pärast saate dikteerida kirja arvutisse, see tõlgib selle, saadab selle oma äripartnerile ja kõik saab korda. Keegi ei garanteeri, et masin ei jäta kuskil "ei" märkamata ega tee muid vigu, pärast mida võib teie ärisuhet pidada täielikuks.
See tähendab, et inimene kontrolörina peaks ikkagi olema?
- Kindlasti. Tehnika pimesi usaldamine on ohtlik.
