Päris palju kõik, mida te tänapäeval tehisintellekti kohta kuulete, pärineb sügavast õppimisest. See algoritmide kategooria töötab statistika abil andmete mustrite leidmiseks ja on osutunud äärmiselt võimsaks inimoskuste, näiteks meie võime näha ja kuulda, matkimisel. Väga kitsal määral võib see isegi jäljendada meie mõistmisvõimet. Need algoritmid toetavad Google'i otsingut, Facebook Newsfeedit, Netflixi soovitusmootorit ja kujundavad selliseid tööstusi nagu tervishoid ja haridus.
Kui sügav õppimine areneb
Hoolimata asjaolust, et sügav õppimine tõi praktiliselt ühe käega avalikkuse ette tehisintellekti, kujutab see inimkonna ajaloolises ülesandes omaenda intelligentsuse taastootmiseks vaid väikest välku. See on olnud selle otsingu esirinnas vähem kui kümme aastat. Kui jätta kõrvale kogu selle piirkonna ajalugu, on lihtne aru saada, et varsti võib see ka kaduda.
Ta ütles, et mitmesuguste meetodite järsud tõusud ja mõõnad on AI-uuringuid juba ammu iseloomustanud. Igal kümnendil on erinevate ideede vahel olnud tihe konkurents. Siis aeg-ajalt vilgub lüliti ja kogu kogukond hakkab ühte asja ajama.
Meie kolleegid MIT Technology Review'is tahtsid neid mured ja algust visualiseerida. Sel eesmärgil pöördusid nad arXiv-i nime all tuntud avalike teadusartiklite ühe suurima andmebaasi poole. Nad laadisid katkendid kokku 16 625 artiklist, mis olid AI sektsioonis saadaval kuni 18. novembrini 2018, ja jälgisid aastate jooksul mainitud sõnu, et näha, kuidas valdkond on arenenud.
Nende analüüsi kaudu ilmnesid kolm peamist suundumust: nihkumine masinõppele 90ndate lõpus ja 2000ndate alguses, neuraalvõrkude populaarsuse kasv, mis algas 2010ndate alguses, ja tugevdusõppe tõus viimastel aastatel.
Reklaamvideo:
Kuid kõigepealt mõned hoiatused. Esiteks pärineb arXiv jaotis AI-ga 1993. aastast ja mõiste "tehisintellekt" pärineb 1950. aastatest, nii et andmebaas ise tähistab ainult valdkonna ajaloo viimaseid peatükke. Teiseks, andmebaasile igal aastal lisatud dokumendid moodustavad ainult murdosa selles valdkonnas praegu tehtavatest töödest. ArXiv pakub aga suurepärast ressurssi mõne peamise uurimistöö suundumuse väljaselgitamiseks ja erinevate ideoloogiliste leeride vahelise sõjakäigu nägemiseks.
Masinõppe paradigma
Suurim nihe, mille teadlased leidsid, oli liikumine teadmistepõhistest süsteemidest 2000. aastate alguse poole. Sellised arvutisüsteemid põhinevad ideel, et kõiki inimeste teadmisi on võimalik kodeerida reeglisüsteemi. Selle asemel pöördusid teadlased masinõppe poole - algkategooriate vanema kategooriasse, mis hõlmavad sügavat õppimist.
Mainitud 100 sõna hulgas vähenes kõige rohkem teadmistepõhiste süsteemidega seotud seos - "loogika", "piirangud" ja "reegel". Ja kõige rohkem kasvasid need, mis on seotud masinõppega - "andmed", "võrk", "jõudlus".
Ilmamuutuse põhjus on väga lihtne. 80-ndatel aastatel said teadmistepõhised süsteemid fännide seas populaarsuse tänu põnevust pakkuvatele ambitsioonikatele projektidele, mis üritasid masinates mõistust taastada. Kuid kui need projektid ilmnesid, seisid teadlased silmitsi suure väljakutsega: selleks, et süsteem saaks midagi kasulikku teha, tuli liiga palju reegleid kodeerida. See tõi kaasa kulude suurenemise ja aeglustas märkimisväärselt käimasolevaid protsesse.
Selle probleemi vastus on masinõpe. Selle asemel, et nõuda inimestelt sadade tuhandete reeglite käsitsi kodeerimist, programmeerib see lähenemisviis masinaid nende reeglite automaatseks väljavõtmiseks andmehunnikust. Samuti on see valdkond eemaldunud teadmistepõhistest süsteemidest ja pöördunud masinõppe parandamise poole.
Neuraalvõrkude buum
Masinõppe uue paradigma raames ei toimunud üleminek sügavale õppimisele üleöö. Selle asemel näitas võtmetähtsuste analüüs, et teadlased testisid lisaks närvivõrkudele ka mitmesuguseid meetodeid, mis on sügava õppimise peamised mehhanismid. Muud populaarsed meetodid hõlmasid Bayes'i võrke, tugivektorimasinaid ja evolutsioonilisi algoritme, mis kõik kasutavad andmestiku mustrite leidmiseks erinevaid lähenemisviise.
1990ndatel ja 2000ndatel oli nende meetodite vahel tugev konkurents. Siis, 2012. aastal viis dramaatiline läbimurre ilmastiku veel ühe muutumiseni. Iga-aastase arvutinägemise edendamise võistluse ImageNet jooksul saavutas Jeffrey Hinton nimega teadlane koos oma kolleegidega Toronto ülikoolist parima pildituvastuse täpsuse veidi üle 10% -lise veaga.
Tema kasutatud sügav õppimistehnika on tekitanud uue uurimistöö laine, kõigepealt visualiseerimisringkonnas ja seejärel kaugemal. Kuna üha enam teadlasi hakkas seda muljetavaldavate tulemuste saavutamiseks kasutama, on selle tehnika populaarsus koos närvivõrkude populaarsusega tõusnud.
Täiendusõppe kasv
Analüüs näitas, et mõni aasta pärast sügava õppimise õhtupäeva on AI-uuringutes toimunud kolmas ja viimane nihe.
Lisaks mitmesugustele masinõppemeetoditele on ka kolme erinevat tüüpi: juhendatud õpe, juhendamata õpe ja tugevdusõpe. Kõige sagedamini kasutatakse tänapäeval juhendatud õpet, mis hõlmab märgistatud andmete sisestamist masinasse. Kuid viimastel aastatel on tugevdusõpe, mis jäljendab loomade õppimisprotsessi porgandite ja tikkude, karistuste ja preemiate kaudu, viinud teoste viidete kiire kasvu.
Idee ise pole uus, kuid see pole töötanud mitu aastakümmet. “Juhendatud õppespetsialistid naersid tugevdusõppe spetsialistide üle,” ütleb Domingos. Kuid nagu sügava õppimise puhul, tõi ka üks pöördepunkt äkki meetodi esiplaanile.
See hetk saabus oktoobris 2015, kui tugevdusega treenitud DeepMindi AlphaGo alistas muistses minekumängus maailmameistri. Mõju teadusringkondadele oli vahetu.
Järgmine kümme aastat
MIT-i tehnoloogiaülevaade pakub ainult uusimat pilti konkurentsist AI-uuringuid iseloomustavate ideede vahel. Kuid see illustreerib luureandmete dubleerimise taotlemise ebajärjekindlust. "Oluline on mõista, et keegi ei tea, kuidas seda probleemi lahendada," ütleb Domingos.
Paljud meetodid, mida on kasutatud 25 aastat, tekkisid umbes samal ajal 1950. aastatel ega ole suutnud vastata iga kümnendi väljakutsetele ja õnnestumistele. Näiteks olid närvivõrgud haripunktis 60ndatel ja pisut 80ndatel, kuid surid peaaegu enne oma populaarsuse taastamist tänu sügavale õppimisele.
Teisisõnu on igal kümnendil täheldatud erineva tehnika domineerimist: närvivõrgud 50ndate lõpus ja 60ndatel, mitmesugused sümboolsed katsed 70ndatel, teadmistepõhised süsteemid 80ndatel, Bayesia võrgud 90ndatel, võrdlusvektorid null ja närvivõrgud taas 2010. aastatel.
2020. aastad ei erine teisiti, väidab Domingos. See tähendab, et sügava õppimise ajastu võib varsti läbi saada. Kuid mis edasi saab - vana tehnika uues hiilguses või täiesti uus paradigma -, see on kogukonnas ägedate poleemikate teema.
Ilja Khel
