Ameerika läänerannikul üritavad maailma kõige väärtuslikumad ettevõtted tehisintellekti nutikamaks muuta. Google ja Facebook kiidavad eksperimente, kus kasutatakse miljardeid fotosid ja tuhandeid suure jõudlusega protsessoreid. Kuid eelmise aasta lõpus ületas Tennessee idaosas asuv projekt vaikselt kõigi ettevõtte AI laborite ulatuse. Ja seda juhtis USA valitsus.
USA valitsuse superarvuti purustab rekordid
Rekordiline projekt hõlmas maailma võimsaimat superarvutit Summit Oak Ridge'i riiklikus laboris. See auto võitis krooni mullu juunis, naastes tiitli USA-le viis aastat hiljem, kui Hiina edetabelis edetabelis oli. Kliimauuringute projekti raames käivitas hiiglaslik arvuti masinõppe eksperimendi, mis oli kiirem kui kunagi varem.
Kahe tenniseväljakuga samaväärset ala katval tippkohtumisel kasutati selles projektis enam kui 27 000 võimsat GPU-d. Ta kasutas nende jõudu sügavate õppimisalgoritmide koolitamiseks, see on just tehnoloogia, mis toetab arenenud tehisintellekti. Süvaõppes täidavad algoritmid harjutusi miljardi miljardi toiminguga sekundis, mis on superarvutiringides tuntud kui eeskuju.
„Sügav õppimine pole kunagi varem sellist tulemuslikkuse taset saavutanud,” ütleb Lawrence Berkeley riikliku labori riikliku energiauuringute keskuse uurimisrühma juht Prabhat. Tema meeskond tegi koostööd tippkohtumise peakorteri Oak Ridge'i riikliku labori teadlastega.
Nagu arvata võis, keskendus maailma võimsaima arvuti AI koolitus ühele maailma suurimatest väljakutsetest - kliimamuutustest. Tehnoloogiaettevõtted koolitavad nägude või liiklusmärkide tuvastamise algoritme; valitsuse teadlased on koolitanud neid ilmastikuolude, näiteks tsüklonite äratundmiseks kliimamudelitest, mis tihendavad Maa atmosfääri saja-aastaseid prognoose kolmeks tunniks. (Siiski pole selge, kui palju energiat projekt nõudis ja kui palju süsinikku selle protsessi käigus õhku eraldus).
Reklaamvideo:
Tippkohtumise eksperiment mõjutab tehisintellekti ja klimatoloogia tulevikku. Projekt näitab sügava õppe kohandamise teaduslikku potentsiaali superarvutites, mis tavapäraselt simuleerivad füüsikalisi ja keemilisi protsesse, nagu tuumaplahvatused, mustad augud või uued materjalid. See näitab ka, et masinõppele võib suurema arvutusvõimsuse korral kasuks tulla - kui leiate selle - ja pakkuda tulevikus läbimurdeid.
"Me ei teadnud, et seda saab sellisel skaalal teha, kuni me seda ei teinud," ütleb Rajat Monga, Google'i tehniline juht. Tema ja teised Google'i töötajad aitasid projekti, kohandades ettevõtte avatud lähtekoodiga TensorFlow masinõppe tarkvara Summiti hiiglaslikuks skaalaks.
Suur osa süvaõppeskaala mõõtmise tööst on tehtud Interneti-ettevõtete andmekeskustes, kus serverid töötavad probleemide lahendamisel koos, eraldades need seetõttu, et nad on suhteliselt hajutatud, mitte aga ühte hiiglaslikku arvutisse koondatud. Superarvutitel, nagu näiteks Summit, on erinev arhitektuur, spetsiaalsete kiirete ühendustega, mis ühendavad tuhandeid protsessoreid ühtseks süsteemiks, mis töötab tervikuna. Kuni viimase ajani on masinaõppe kohandamisega sellist tüüpi riistvaraga tehtud suhteliselt vähe.
Monga sõnul toetab TensorFlow Summiti skaalaga kohandamine ka Google'i jõupingutusi oma sisemise tehisintellekti süsteemide laiendamiseks. Selles projektis osalesid ka Nvidia insenerid, tagades, et kümned tuhanded Nvidia GPU-d selles masinas töötaksid ilma tõmblusteta.
Süvaõppe algoritmides suurema arvutusvõimsuse kasutamise võimaluste leidmine on olnud tehnoloogia praeguses arengus abiks. Sama tehnoloogia, mida Siri kasutab hääletuvastuseks ja Waymo autosid liiklusmärkide lugemiseks, sai kasulikuks 2012. aastal pärast seda, kui teadlased kohandasid selle Nvidia GPU-dega töötamiseks.
Eelmise aasta mais avaldatud analüüsis hindasid Elon Muski asutatud San Francisco uurimisinstituudi OpenAI teadlased, et suurimate avalike masinõppekatsete arvutusvõimsus on alates 2012. aastast kahekordistunud umbes iga 3,43 kuu tagant; see tähendaks ühekordistunud kasvu aastas. See edasiliikumine aitas tähestiku robotil võita meistrid keerukates laua- ja videomängudes ning parandas märkimisväärselt ka Google'i tõlgi täpsust.
Selle suundumuse jätkamiseks loovad Google ja muud ettevõtted praegu uut tüüpi AI-toega kiibid. Google väidab, et tuhandete AI-kiipidega tihedalt paigutatud kaablid - dubleeritud tensorprotsessorid ehk TPU-d - võivad pakkuda 100 petaflopi töötlemisvõimsust, mis on kümnendik tippkohtumise saavutatud kiirusest.
Tippkohtumise panus kliimateadustesse näitab, kuidas hiiglaslik AI võib parandada meie arusaamist tulevastest ilmastikuoludest. Kui teadlased genereerivad sajandivanuseid ilmaennustusi, muutub saadud prognoosi lugemine keeruliseks. „Kujutage ette, et teil on YouTube'i film, mida on käitatud 100 aastat. Selles filmis pole kõiki kasse ja koeri käsitsi võimalik leida,”ütleb Prabhat. Tavaliselt kasutatakse selle protsessi automatiseerimiseks tarkvara, kuid see pole täiuslik. Tippkohtumise tulemused näitasid, et masinõppimisega saab seda teha palju paremini, mis peaks aitama ennustada selliseid tormid nagu üleujutused.
California ülikooli Irvine'i professori Michael Pritchardi sõnul on süvaõppe käivitamine superarvutites suhteliselt uus idee, mis tuli kliimateadlaste jaoks sobival ajal. Traditsiooniliste protsessorite arengu aeglustumine on pannud insenerid varustama superarvuteid järjest suurema hulga graafikakiipidega, et tulemuslikkust järjepidevamalt parandada. "On kätte jõudnud aeg, kui te ei saa enam tavapärasel viisil töötlemisvõimsust suurendada," ütleb Pritchard.
See nihe viis traditsioonilise modelleerimise seisma ja seetõttu tuli sellega kohaneda. See avab ukse ka sügava õppimise jõu rakendamiseks, mis loomulikult sobib ka graafikakiipideks. Võib-olla saame oma kliima tulevikust selgema pildi.
Ilja Khel