Poliitikutel ja kapitalistidel on reede pärastlõunase traditsiooniga korraldada palju uudiseid, et nende vahel halbu uudiseid varjata. Nii et see oli pisut imelik, et elektrisõidukite tootja Tesla asutaja Elon Musk ja tuntud tehnikainkubaatori Y Combinator president Sam Altman avalikustasid oma uue AI-teemalise ettevõtte möödunud aasta detsembris Montrealis toimunud nädalapikkuse AI-konverentsi lõpus.
OpenAI tutvustamine nii hilisel tunnil oli põhjus. Mitte sellepärast, et keegi ei jälginud. Sest kõik vaatasid. Kui mõned Silicon Valleys kõige võimsamad ettevõtted tajusid, et tuul puhub, hakkasid nad äsja tõstetud OpenAI AI talgulistele tohutult suuri summasid pakkuma, et neid geeniusi kodus hoida. Viimasel minutil kasvasid ettepanekud - mõned tehti konverentsil ise - nii suureks, et Musk ja Altman pidid uue startupi teadaannet edasi lükkama. "Summad jõudsid hullumeelsuse piirini," ütleb Wojciech Zaremba, teadlane, kes liitus OpenAI-ga pärast Google'i ja Facebooki praktikakohta ning oli nende seas, kes said kell 23:00 suured pakkumised.
Mitu dollarit on hulluse piir? Kaks aastat tagasi, kui uusimate masinõppetehnoloogiate turg hakkas soojenema, ütles Microsofti teadusuuringute osakonna asepresident Peter Lee, et tipptasemel AI-teadlaste kulud on ületanud Rahvusliku Jalgpalli Liiga parima veerandmängija kulud - ja see on tavaolukorras, mitte siis, kui suurimad ettevõtjad Silicon Valley üritab parimate talentide salaküttimist. Zaremba ütleb, et kui OpenAI kokku sai, pakuti sellele kaks kuni kolm korda turuväärtust.
OpenAI ei vastanud neile soovitustele. Kuid ta pakkus midagi teistsugust: võime teha teadusuuringuid keskendus ainult tulevikule, mitte toodetele ja kvartalikasumile ning jagada lõppkokkuvõttes enamikku - kui mitte kõiki - teadusuuringutest kõigi vahel, kes seda soovivad. Täpselt nii: Musk, Altman ja ettevõte otsustasid kinkida ära selle, mis võiks olla 21. sajandi kõige transformatiivsem tehnoloogia, ja anda see tasuta ära.
Zaremba sõnul lükkavad hullumeelsuse piiril olevad ettepanekud teda tegelikult eemale - hoolimata tohutust austusest selliste ettevõtete vastu nagu Google ja Facebook. Ta leidis, et raha suunati OpenAI loomise takistamiseks, mis tugevdas veelgi tema pühendumust helde ettevõtte loomisele. "Sain aru," ütleb Zaremba, "et OpenAI on minu jaoks parim koht."
Kas tunnete selle loo keskmes irooniat? Kui maailma suurimad tehnoloogiaettevõtted üritavad oma teadlasi sama tugevalt kinni hoida, kui NFL-i meeskonnad üritavad oma tähelisi tagasilööke säilitada, tahavad teadlased ise lihtsalt oma teadmisi jagada. AI-alase uurimistöö keerukas maailmas juhivad säravamaid meeli mitte ainult järgmine tootetsükkel või kasum või pole neid üldse kinnisideeks. Nad tahavad muuta AI paremaks ja seda on võimatu paremaks muuta, kui hoiate oma uusimaid arenguid enda peal.
OpenAI andis hiljuti välja esimese partii AI-tarkvara, tööriistakomplekti tehisintellekti süsteemide ehitamiseks, mida nimetatakse tugevdusõppeks nimetataval tehnoloogial. See on üks võtmetehnoloogiaid, mis viisid AlphaGo, Google'i AI loomiseni, mis üllatas maailma oma võimalustega. käi mänge. Selle tööriistakomplekti abil saate üles ehitada süsteeme, mis avavad uue põlvkonna roboteid, mängida Atari mänge ja jah, võita Goi maailmameistrid.
Reklaamvideo:
Kuid mänguasjad on alles algus. OpenAI on miljardi dollarine missioon, et lükata AI nii kaugele kui võimalik. Kuidas ettevõte kokku sai ja millised on tema plaanid, näete järgmist uut innovatsioonilainet. Me ei tea veel, kas OpenAI on nende muudatuste peamine mootor. Kuid selle üsna ebatavalise käivituse loomise jõud näitavad, et AI järgmine põlvkond ei muuda mitte ainult tehnoloogiat, vaid ka selle toimimisviisi.
Tehisintellekt on igal pool
Silicon Valleys on kirg liialdada. Julgelt kõlavaid avaldusi tuleks alati täita soolateraga. Kuid tehisintellekti valdkonnas toimuvad muutused tõepoolest. Sellistes ettevõtetes nagu Google ja Facebook aitavad süvaõppe tehnoloogiad juba Interneti-teenustel tuvastada fotodel olevad näod, ära tunda nutitelefonides häälkäsklused ja vastata Interneti-otsingutele. Ja see sama tehnoloogia võiks tulevikus lahendada palju muid probleeme. See võib aidata masinatel õppida mõistma looduskeelt - mida me, inimesed, oleme harjunud rääkima ja kirjutama. See võib aidata välja töötada uut tüüpi roboteid, võimaldada automaatidel mitte ainult oma ülesandeid täita, vaid ka lennult õppida. Ja mõned usuvad, et see annab lõppkokkuvõttes masinatele midagi sarnast mõistusele - võime mõelda tõeliselt nagu inimene.
Ja selliste lubaduste kõrval sünnib sügav ärevus. Musk ja Altman on mures, et kui inimesed saavad luua AI-sid, mis teevad suuri asju, saavad nad luua AI-sid, mis teevad kohutavaid asju. Nad pole oma hirmudes üksi. Ehkki see võib tunduda vastuoluline, usuvad Musk ja Altman ka, et parim viis pahatahtliku AI vastu võitlemiseks ei ole juurdepääsu piiramine tehisintellektile, vaid selle laiendamine. Just see püüdlus viib noorte ja intelligentsete idealistide meeskonnani.
OpenAI ilmus mullu suvel ühel õhtul Silicon Valleys asuva Rosewoodi hotelli privaatsesse tuppa - kallis linnahotellis, mis asub sõna otseses mõttes riskikapitalistliku maailma keskmes. Elon Musk lõunatas koos Ilja Sutskeveriga, kes oli siis Google Brainis, ettevõttes, mis arendas sügavaid närvivõrke - tehisintellekti süsteeme, mis saavad õppida ülesandeid täitma, analüüsides tohutul hulgal digitaalseid andmeid, sealhulgas tuvastama fotosid ja kirjutama e-kirju, õppima kirjavahetusest. Suckever oli üks projekti juhtivaid arendajaid.
Ilja Sutskever
Sam Altman, kelle Y Combinator aitas kujundada selliseid ettevõtteid nagu Airbnb, Dropbox ja Coinbase, vahendas kohtumist, koondades mitu AI teadlast ja noore, kuid veteranifirma ehitaja Greg Brockmani, kes oli endine start-up Stripe tehnoloogiajuht, teine ettevõte Y Kombinaator. See oli eklektiline grupp. Kuid kõigil oli eesmärk: luua uut tüüpi AI labor, mis töötaks väljaspool Google'i, aga ka kõigi teiste kontrolli all. "Parim asi, mida ma võiksin väljakutsena ette kujutada," ütleb Brockman, "on liikuda inimkonna poole tõelise AI loomiseks ohutul teel."
Musk oli seal oma pika sõpruse tõttu Altmaniga - ja seetõttu, et AI on kriitiline nii tema erinevate ettevõtmiste kui ka tuleviku jaoks tervikuna. Tesla vajab AI-d, kui ta soovib isejuhtivaid autosid ehitada. Teine Muski ettevõte SpaceX vajab AI-d, et viia inimesed kosmosesse ja hoida neid seal turvalisena ja heli all. Kuid Musk on ka üks esimesi (ja valjemaid), kes hoiatas, et ühel päeval võib inimkond kaotada kontrolli süsteemide üle, mis on iseseisvalt õppimiseks piisavalt võimsad.
Ilmnes probleem: palju inimesi, kes olid piisavalt osavad kõigi nende probleemide lahendamiseks, töötasid juba Google'is (nagu ka Microsoft, Facebook, Baidu ja Twitter). Ja keegi polnud sellel õhtusöögil täiesti kindel, et neid teadlasi saab meelitada uude startupi, isegi kui Musk ja Altman oleksid selle taga. Ja vähemalt üks võtmemängija oli valmis laevalt lahkuma. "Mõistsin riske," ütleb Suckever, "kuid teadsin ka, et oleks huvitav proovida."
Murra ring
Innustatud vestlustest Muski, Altmani ja teistega Rosewoodil, otsustas Brockman peagi ehitada labori, mida neil kõigil meeles oli. Olles kindlalt pühendunud projektile, tõi ta sisse Yoshua Bengio, Montreali ülikooli teadlase ja sügava õppimise liikumise ühe asutaja. Kaks muud tööstuse pioneerit - Jeff Hinton ja Ian LeCun - töötavad vastavalt Google'is ja Facebookis, kuid Bengio pürgis elusse akadeemilises maailmas, kus nad asuvad väljaspool tööstuslikke kombitsaid. Ta visandas välja valdkonna parimate teadlaste nimekirja ja järgmise paari nädala jooksul võttis Brockman ühendust kõigi oma võimalustega, sealhulgas mitmete teistega.
Paljud neist teadlastest tervitasid seda ideed, kuid olid sellise hüppe võimalikkuse suhtes ettevaatlikud. Üritades ringist lahti saada, valis Brockman kümme maadeavastajat, keda ta kõige rohkem näha tahtis, ja kutsus neid veetma laupäeva veini, suupistete ja vestlustega Napa oru veinikeldris. Brockmani jaoks oli projekti katalüsaatoriks isegi reis Napasse. "See on alahinnatud viis inimeste kokkusaamiseks, eriti nendel aegadel, kui teil pole kuhugi kiirustada, et oma eesmärki saavutada," ütleb ta. "Peate sinna minema, aga peate ka rääkima." Ja kui nad veini juurde jõudsid, siis see õhkkond püsis. Nagu Suckever ütleb, oli vein vestluse jaoks teisejärguline.
Greg Brockman
Päeva lõpuks kutsus Brockman kõiki kümme teadlast laboriga liituma ja andis neile kolm nädalat mõtlemisaega. Ametiaja lõpus oli käsul üheksa. Ja nad jäid sellesse vaatamata Silicon Valley hiiglaste suurtele pakkumistele. "Sain väga atraktiivse pakkumise jääda, nii et otsus polnud kerge," ütleb Suckever Google'ist, oma endisest tööandjast. "Lõpuks otsustasin minna OpenAI-sse, osalt väga tugeva inimrühma ja muidugi peamiselt nende missiooni tõttu."
Süvaõppe liikumine sai alguse akadeemilistes ringkondades. Alles hiljuti otsustasid ettevõtted, nagu Google, Microsoft ja Facebook, selle valdkonnaga tegeleda, kuna jõhkra arvutusvõime saavutamine on muutnud need sügavad närvivõrgud reaalsuseks, mitte ainult teoreetiliseks võimaluseks. Inimesed, nagu Hinton ja LeCune, on nende ettevõtete tohutute ressursside tõttu lahkunud Google'i ja Facebooki akadeemiast. Kuid jäi tihedalt seotud teiste valdkonna teoreetikutega. Nagu LeCun selgitab, nõuab sügav õppimine teadusuuringute käigus ideede vaba liikumist. "Kui teete salajast uurimistööd," ütleb ta, "kukute tagasi."
Selle tulemusel on suurte ettevõtete käsutuses nüüd suur osa AI-uuringutest. See on suur trump, eriti Google'i jaoks, kes on juba pikka aega oma veebimpeeriumi tehnoloogiat saladuses hoidnud. Mitte nii kaua aega tagasi avas Google närvivõrkudega töötava tarkvara mootori lähtekoodi. Kuid palju jääb selle tulevikuvõistluse lukku ja võtmesse. Brockman, Altman ja Musk püüavad avatuse mõtet veelgi edasi lükata, öeldes, et nad ei soovi, et üks või kaks suurt korporatsiooni kontrolliksid tehisintellekti tulevikku.
Avatuse piirid
See kõik kõlab suurepäraselt. Kuid kõigi OpenAI idealismi suhtes võivad teadlased sattuda samadesse tingimustesse, mis sundisid neid vanu töid tegema. Avatusel on oma piirid. Ja AI pikaajaline visioon pole selle mängu ainus huvi. OpenAI heategevustööd ei tee. Muski ettevõtted saavad käivitamisest suurt kasu ja ka Altmani Y-kombinaator. “Konkurentsipunkte on kindlasti ka,” ütleb Lecun. - See on mittetulundusühing, kuid sellel on tihedad suhted Y Combinatoriga. Ja inimestele makstakse selle tööstuse eest palka."
Labor ei maksa samu astronoomilisi palkasid, mida Google ja Facebook pakkusid AI uurijatele, ütles Brockman. Kuid ta ütleb ka, et labor "soovib neile hästi maksta" ning pakub hüvitist aktsiaoptsioonide näol, kõigepealt Y Combinatoris ja hiljem võimaluse korral SpaceXis (mis erinevalt Teslast on eraettevõte).
Sellegipoolest nõuab Brockman, et OpenAI ei näe ette seotud ettevõtete erikohtlemist. OpenAI on uurimisalgatus, mitte konsultatsioonifirma. OpenAI idealismil on aga omad piirangud. Ettevõte ei pruugi avada koodi kõige jaoks, mida toodab, ehkki lõppeesmärk on ikkagi suurema osa selle levitamine, olgu selleks siis teadustööd või Interneti-teenused. „Avamine pole tingimata parim variant. Peate ideed toitma, vaatama, kuhu see viib, ja seejärel avaldama, ütleb Brockman. - Valmistame palju avatud lähtekoodiga koode. Kuid meil on ka palju asju, mis pole veel vabastamiseks valmis."
Suzkever lisab ka, et OpenAI võiks minna mõne oma töö patenteerimisse. "Me ei patenteeri midagi kiiresti," ütleb Brockman. "Kuid me oleme valmis taktikat pikaajaliselt muutma, kui arvame, et see on maailmale parem." Näiteks võib OpenAI proaktiivset patenteerimist teha, et teisi patente hankimast takistada.
Mõni võib pidada patente kasumi motiiviks. Kuid see on kogu patent.
Ülintelligentsuse probleem
Kui Musk ja Altman OpenAI-d tutvustasid, kirjeldasid nad projekti ka viisina, kuidas neutraliseerida pahatahtliku üleluure intelligentsus. Muidugi võib selline superluure tuleneda OpenAI tööst, kuid nad rõhutavad, et tehnoloogia kõigile kättesaadavaks tegemine leevendab igasugust ohtu. "Meie arvates on palju tõenäolisem, et paljud AI-d suudavad peatada juhuslikud halvad näitlejad," ütleb Altman.
Kuid mitte kõik selles valdkonnas ei usu sellisesse tulemusesse. Oxfordi filosoof Nick Bostrom, kes nagu Musk hoiatas ka AI ohtude eest, juhib tähelepanu sellele, et kui jagate oma uurimistööd ilma piiranguteta, saavad "halvad näitlejad" nad kinni püüda, enne kui kõik on kindlad, et nad on turvalised. "Kui teil on nupp, mis muudab maailma paslikuks," arvab Bostrom, "ei taha te ilmselt kõigile seda juurde anda." Kui teisest küljest otsustab OpenAI uuringuid pidurdada, et halbadel poistel sellele juurde ei pääseks, küsib Bostrom: kuidas see erineb Google'ist või Facebookist?
Ta ütleb jah, OpenAI mittetulundusühingu staatus võib asju muuta või mitte. Projekti tõeline tugevus on tema sõnul see, et seda saavad kontrollida Google ja Facebook. „See suudab vähendada üldeluure monopoliseerimise tõenäosust. See suudab eemaldada ühe võimaliku põhjuse, miks mõnel inimesel või rühmal on juurdepääs paremale AI-le kui kõigil teistel."
Filosoof selgitas oma hiljutises töös, et OpenAI-taolise algatuse - algatuse tehtud tööd vabalt jagada - peamine mõju on tehisintellekti arengu kiirendamine, vähemalt lühikese aja jooksul. Ja see võib pikas perspektiivis edusamme kiirendada, tingimusel et säilitatakse suurem läbipaistvuse tase, kui see oleks äriliselt optimaalne.
"Võib juhtuda, et heategevuslikult motiveeritud teadus- ja arendustegevuse investor võib avatud teaduspoliitika järgimisega tõsiselt arengut kiirendada," ütleb ta.
Kuidas Xerox PARC
Jaanuari alguses kogunes üheksa Brockmani teadlast tema korterisse San Franciscos. Projekt oli nii uus, et neil polnud isegi tahvleid. (Kujutage ette.) Nad ostsid samal päeval paar ja said tööle.
Brockman väidab, et OpenAI alustab tugevdusõppe uurimist - probleemide masinpõhist õppimisviisi, korrates neid ikka ja jälle ning jälgides, millised meetodid annavad parimaid tulemusi. Teine suur väljakutse on niinimetatud "juhendamata õppimine" - masinate loomine, mis suudavad tõeliselt ise õppida ilma inimese abita. Täna sõltub sügav õppimine hoolikalt märgistatud andmetest. Kui soovite õpetada närvivõrku kasside fotode äratundmiseks, peate talle lisama teatud arvu näiteid - ja need näited tuleks märgistada kasside fotodega. Selliseid koolitusi viiakse läbi inimeste abiga. Kuid nagu paljud teisedki teadlased, plaanib OpenAI ehitada närvivõrke, mis saavad õppida ilma andmete hoolika valimiseta.
"Kui teil on tõesti hea õpetamismetoodika ilma õpetajata, saavad masinad õppida Internetis saadud teadmiste põhjal - nagu inimene, lihtsalt ringi vaadates - või raamatuid lugedes," ütleb Brockman.
Ta näeb OpenAIt kui 1970. aastatel eksisteerinud tehnoloogiauuringute labori Xerox PARC tänapäevast kehastust. Nii nagu PARCi avatud ja tasuta uurimistöö on andnud alust kõigele, alates graafilistest kasutajaliidestest ja laserprintimisest kuni objektorienteeritud programmeerimiseni, tahavad Brockman ja tema meeskond sukelduda sellesse, mis varem oli ulme. PARC kuulus Xeroxile, kuid seda toideti paljude teiste ettevõtete, sealhulgas Apple'i käes, kuna Steve Jobs-sugused inimesed tervitasid selle uurimist. Brockman soovib, et kõik tervitaksid OpenAI uuringuid.
Selle dünaamilise tõuke lootuses värbasid Brockman ja ettevõte veel mitu silmapaistvat teadlast, kelle hulgas oli ka Google Braini meeskonna teine vanemtüürimees Ian Goodfellow. Brockman ütleb, et PARC sai põhimõtteliselt hunniku nutikaid inimesi kokku ja otsustas toimunut vaadata. "Te vajate ühist visiooni ilma keskse juhtimiseta."
Kontrolli puudumine on ideaali jaoks hädavajalik. Kui tuua kollektiivsesse eesmärki piisavalt inimesi, võidab lõpptulemus kõik, mille sa salaja valmistasid. Kuid kui AI muutub nii võimsaks kui lubatud, muutub võrrand. Vajame kindlust, et uus asutatud AI järgib samu egalitaarseid ideaale, mis viisid selle loomiseni. Musk, Altman ja Brockman usuvad inimestesse, rahvamassi. Ja kui neil osutub õigeks, ei saa see rahvahulk ühel päeval täielikult inimlikuks.
ILYA KHEL
