Politicienii și capitaliștii au o tradiție de vineri după-amiază de a arunca o mulțime de știri pentru a ascunde veștile proaste dintre ei. Așa că a fost un pic ciudat că Elon Musk, fondatorul Tesla, producător de vehicule electrice, și Sam Altman, președintele renumitului incubator tehnologic Y Combinator, și-au prezentat noua companie cu temă AI la sfârșitul unei conferințe AI de o săptămână în decembrie anul trecut.
Există un motiv pentru introducerea OpenAI la o oră atât de târzie. Nu pentru că nimeni nu privea. Pentru că toată lumea privea. Când unele dintre cele mai puternice companii din Silicon Valley au simțit că vântul bate, au început să ofere sume uriașe de bani talentului nou OpenAI AI pentru a-i ține acasă. În ultima clipă, propunerile - unele făcute chiar în cadrul conferinței - au crescut atât de mari încât Musk și Altman au trebuit să amâne anunțarea noii startup-uri. „Sumele au ajuns la marginea nebuniei”, spune Wojciech Zaremba, un om de știință care s-a alăturat OpenAI după stagii la Google și Facebook și a fost printre cei care au primit oferte majore la 23:00.
Câți dolari este granița nebuniei? În urmă cu doi ani, când piața celei mai noi tehnologii de învățare a mașinilor a început să se încălzească, vicepreședintele Microsoft Research, Peter Lee, a declarat că costul cercetătorilor de top din AI a depășit costul unui quarterback de top în Liga Națională de Fotbal - și asta în condiții normale, nu atunci când sunt antreprenori de top. Silicon Valley încearcă să poacă cel mai bun talent. Zaremba spune că atunci când OpenAI s-a reunit, i s-a oferit de două până la trei ori valoarea sa de piață.
OpenAI nu a îndeplinit aceste sugestii. Dar el a oferit ceva diferit: capacitatea de a se angaja în cercetări axate exclusiv pe viitor, mai degrabă decât pe produse și profituri trimestriale și, în cele din urmă, a împărțit majoritatea - dacă nu toate - din cercetare între cei care doresc. Așa este: Musk, Altman și compania și-au propus să ofere ceea ce ar putea fi cea mai transformatoare tehnologie din secolul 21 și să o ofere gratuit.
Zaremba spune că propunerile în prag de nebunie l-au lăsat de fapt - în ciuda respectului uriaș pentru companii precum Google și Facebook. El a considerat că banii au fost direcționați pentru a împiedica crearea OpenAI, ceea ce a consolidat în continuare angajamentul său pentru o pornire generoasă. „Mi-am dat seama”, spune Zaremba, „OpenAI este cel mai bun loc pentru mine.”
Simțiți ironia în centrul acestei povești? În timp ce cele mai mari companii tehnologice din lume încearcă să-și păstreze cercetătorii la fel de tare, deoarece echipele NFL încearcă să-și păstreze sferturile de stele, cercetătorii înșiși doresc doar să împărtășească ideile lor. În lumea sofisticată a cercetării AI, cele mai strălucitoare minți sunt conduse nu numai de următorul ciclu de produs sau de profit, sau deloc obsedat de ele. Vor să îmbunătățească AI-ul și este imposibil să îmbunătățească AI-ul atunci când îți păstrezi ultimele noutăți.
OpenAI a lansat recent primul lot de software AI, un set de instrumente pentru crearea de sisteme de inteligență artificială bazate pe tehnologie numită învățare de armare, una dintre tehnologiile cheie care a dus la crearea AlphaGo, AI-ul Google care a surprins lumea cu capacitățile sale. mergi jocuri. Cu acest set de instrumente, puteți construi sisteme care să deschidă o nouă generație de roboți, să jucați jocuri Atari și, da, să bată campionii mondiali la Go.
Video promotional:
Dar jucăriile sunt doar începutul. OpenAI este o misiune de un miliard de dolari pentru a împinge AI pe cât posibil. În modul în care compania s-a reunit și care sunt planurile sale, puteți vedea următorul nou val de inovație. Nu știm încă dacă OpenAI va fi principalul motor al acestor modificări. Dar forțele din spatele creării acestei startup-uri destul de neobișnuite arată că următoarea generație de AI nu va schimba doar tehnologia, ci și modul în care tehnologia este dezvoltată.
Inteligența artificială este peste tot
Silicon Valley are o pasiune pentru exagerare. Declarațiile cu sunet îndrăzneț trebuie întotdeauna respectate cu un bob de sare. Dar, în domeniul inteligenței artificiale, au loc într-adevăr schimbări. În cadrul companiilor precum Google și Facebook, tehnologiile de învățare profundă ajută deja serviciile de Internet să identifice fețele din fotografii, să recunoască comenzile vocale pe smartphone-uri și să răspundă la căutările de pe Internet. Și această aceeași tehnologie ar putea rezolva multe alte probleme în viitor. Poate ajuta mașinile să învețe să înțeleagă limbajul natural - pe care noi oamenii suntem obișnuiți să-l vorbim și să scriem. Poate ajuta la dezvoltarea unei noi rase de roboți, permite automatelor nu numai să își îndeplinească sarcinile, ci și să învețe din zbor. Și unii consideră că acest lucru va oferi mașinilor un fel de bun simț - capacitatea de a gândi cu adevărat ca un om.
Și alături de astfel de promisiuni, se naște anxietate profundă. Musk și Altman sunt îngrijorați că, dacă oamenii pot crea AIs care fac lucruri grozave, pot construi AIs care fac lucruri groaznice. Nu sunt singuri în temerile lor. Deși acest lucru poate părea contraintuitiv, Musk și Altman consideră, de asemenea, că cea mai bună modalitate de a combate AI-ul rău intenționat nu este limitarea accesului la inteligența artificială, ci extinderea acesteia. Această aspirație este cea care duce la o echipă de idealisti tineri și inteligenți.
OpenAI a apărut într-o seară vara trecută într-o cameră privată la hotelul Rosewood din Silicon Valley, un hotel de lux, care se află literalmente în centrul lumii capitaliste de risc. Elon Musk a luat prânzul cu Ilya Sutskever, care era atunci la Google Brain, o companie care dezvoltă rețele neuronale profunde - sisteme de inteligență artificială care pot învăța să îndeplinească sarcini analizând cantități masive de date digitale, inclusiv recunoașterea fotografiilor și scrierea de e-mailuri, învățarea din corespondență. Suckever a fost unul dintre dezvoltatorii principali ai proiectului.
Ilya Sutskever
Sam Altman, al cărui Y Combinator a ajutat la modelarea companiilor precum Airbnb, Dropbox și Coinbase, a intermediat întâlnirea, reunind mai mulți cercetători AI și tânăr, dar veteran constructor al companiei, Greg Brockman, fost ofițer tehnologic principal la start-up Stripe, o altă companie Y Combinator. Era un grup eclectic. Dar toată lumea a avut un scop: să creeze un nou tip de laborator AI care să funcționeze în afara controlului nu numai al Google, ci al tuturor celorlalți. „Cel mai bun lucru pe care mi-l puteam imagina ca o provocare”, spune Brockman, „este să îndrepți umanitatea spre crearea unei adevărate AI pe o cale sigură.”
Musk a fost acolo datorită îndelungatei sale prietenii cu Altman - și pentru că AI este esențială pentru viitorul diferitelor sale inițiative și pentru viitorul său în ansamblu. Tesla are nevoie de IA dacă vrea să construiască mașini cu autovehicule. SpaceX, o altă companie a companiei Musk, are nevoie de AI pentru a-i duce pe oameni în spațiu și pentru a-i păstra în siguranță și să sune acolo. Dar Musk este, de asemenea, unul dintre primii (și cei mai zgomotosi) care avertizează că într-o zi umanitatea ar putea pierde controlul asupra sistemelor care sunt suficient de puternice pentru a învăța de unul singur.
A existat o problemă: o mulțime de oameni suficient de calificați pentru a rezolva toate aceste probleme au lucrat deja la Google (precum Microsoft, Facebook, Baidu și Twitter). Și nimeni la acea cină nu era complet sigur că acești cercetători ar putea fi ademeniți într-o nouă pornire, chiar dacă Musk și Altman erau în spatele ei. Și cel puțin un jucător cheie era gata să părăsească nava. „Am înțeles riscurile”, spune Suckever, „dar știam și că ar fi interesant să încerc.”
Rupe cercul
Încurajat de conversațiile cu Musk, Altman și alții de la Rosewood, Brockman a decis curând să construiască laboratorul pe care toți îl aveau în minte. Cu un angajament puternic față de proiect, el a adus Yoshua Bengio, un om de știință al Universității din Montreal și unul dintre părinții fondatori ai mișcării de învățare profundă. Alți doi pionieri ai industriei - Jeff Hinton și Jan Lecun - lucrează la Google și, respectiv, Facebook, dar Bengio a aspirat la o viață în lumea academică, undeva dincolo de atingerea tentaculelor industriale. El a schițat o listă cu cei mai buni cercetători în domeniu, iar în următoarele săptămâni, Brockman a luat legătura cu toți cei pe care i-a putut, inclusiv pe alții.
Mulți dintre acești cercetători au salutat ideea, dar s-au ferit de posibilitatea unui astfel de salt. În încercarea de a rupe cercul, Brockman a ales cei zece exploratori pe care dorea să-i vadă cel mai mult și i-a invitat să petreacă sâmbăta cu vin, gustări și conversații la o crama din Valea Napa. Pentru Brockman, chiar și o călătorie la Napa a fost catalizatorul proiectului. „Acesta este un mod subestimat de a reuni oamenii, în special în momentele în care nu ai nicio clipă în care să te grăbești să-ți atingi obiectivul”, spune el. "Trebuie să mergi acolo, dar trebuie să vorbești și tu." Iar când au ajuns la vin, acea atmosferă a rămas. După cum spune Suckever, „vinul a fost secundar conversației”.
Greg Brockman
Până la sfârșitul zilei, Brockman i-a invitat pe toți cei zece cercetători să se alăture laboratorului și le-a dat trei săptămâni să se gândească. La sfârșitul mandatului, nouă erau la comandă. Și au rămas în ea, în ciuda ofertelor mari din partea gigantilor din Silicon Valley. „Am primit o ofertă foarte atractivă pentru a rămâne, deci decizia nu a fost ușoară”, spune Suckever de Google, fostul său angajator. "În cele din urmă, am decis să merg la OpenAI, în parte din cauza grupului foarte puternic de oameni și, desigur, mai ales din cauza misiunii lor."
Mișcarea de învățare profundă a început în mediul academic. Abia recent companiile precum Google, Microsoft și Facebook au decis să abordeze acest domeniu, deoarece progresele puterii de calcul brute au făcut din aceste rețele neuronale profunde o realitate, nu doar o posibilitate teoretică. Oameni ca Hinton și LeCune au plecat din mediul academic la Google și Facebook din cauza resurselor uriașe la aceste companii. Dar a rămas strâns legat în colaborare cu alți teoreticieni ai domeniului. Cu toate acestea, așa cum explică LeCun, cercetarea aprofundată necesită fluxul liber de idei. „Când faceți cercetări în secret”, spune el, „cădeți înapoi”.
Drept urmare, companiile mari au acum la dispoziție o mare parte din cercetările AI. Acesta este un trump card important, în special pentru Google, care a păstrat de mult tehnologia imperiului său online secret. Nu cu mult timp în urmă, Google a deschis codul sursă pentru motorul software care își rulează rețelele neuronale. Dar multe rămân încuiate și cheie în această cursă pentru viitor. Brockman, Altman și Musk încearcă să împingă și mai departe noțiunea de deschidere spunând că nu doresc ca una sau două mari corporații să controleze viitorul inteligenței artificiale.
Limitele deschiderii
Totul sună minunat. Dar, pentru tot idealismul OpenAI, cercetătorii se pot găsi în aceleași condiții care i-au obligat să lucreze la joburi vechi. Deschiderea își are limitele. Iar viziunea pe termen lung a AI nu este singurul interes pentru acest joc. OpenAI nu face activități de caritate. Companiile lui Musk vor beneficia foarte mult de activitatea startup-ului, la fel și Combinatorul Y al lui Altman. „Cu siguranță, există anumite puncte concurente”, spune Lecun. - Este o organizație non-profit, dar are o relație strânsă cu Y Combinator. Și oamenii vor fi plătiți pentru a lucra în această industrie.
Laboratorul nu plătește aceleași salarii astronomice pe care Google și Facebook le-au oferit cercetătorilor AI, au spus Brockman. Dar el mai spune că laboratorul „vrea să le plătească bine” și oferă compensații sub formă de opțiuni de stoc, mai întâi la Y Combinator și mai târziu la SpaceX (care, spre deosebire de Tesla, este o companie privată).
Cu toate acestea, Brockman insistă că OpenAI nu prevede un tratament special pentru companiile conexe. OpenAI este o inițiativă de cercetare, nu o firmă de consultanță. Cu toate acestea, idealismul OpenAI are limitele sale. Este posibil ca compania să nu deschidă codul pentru tot ceea ce produce, deși obiectivul final este să distribuie cea mai mare parte, fie că este vorba de lucrări științifice sau servicii de internet. „Deschiderea nu este neapărat cea mai bună opțiune. Trebuie să hrănești ideea, să vezi unde conduce și apoi să publici, spune Brockman. - Vom produce o mulțime de coduri open source. Dar vom avea, de asemenea, o mulțime de lucruri care nu sunt încă pregătite pentru lansare."
Suzkever adaugă, de asemenea, că OpenAI ar putea merge în măsura în care să breveteze o parte din activitatea sa. „Nu vom breveta nimic în curând”, spune Brockman. „Dar suntem gata să schimbăm tactica pe termen lung, dacă ne gândim că va fi mai bine pentru lume”. De exemplu, OpenAI poate face brevetare proactivă pentru a descuraja pe alții să obțină brevete.
Unii pot vedea brevetele ca motiv pentru profit. Dar acesta este punctul complet al brevetelor.
Problema de superinteligență
Când Musk și Altman au prezentat OpenAI, ei au prezentat, de asemenea, proiectul ca o modalitate de a neutraliza amenințarea de superinteligență rău intenționată. Desigur, o astfel de superinteligență ar putea rezulta din activitatea OpenAI, dar ei insistă că orice amenințare va fi atenuată, punând tehnologia la dispoziția tuturor. „Credem că este mult mai probabil ca o multitudine de AIs să oprească actorii răi întâmplători”, spune Altman.
Dar nu toată lumea din acest domeniu crede într-un astfel de rezultat. Nick Bostrom, un filosof din Oxford care, la fel ca Musk, a avertizat despre pericolele AI, subliniază că, dacă împărtășiți cercetările fără restricții, „actorii răi” îi pot prinde înainte ca toată lumea să fie sigură că sunt în siguranță. „Dacă aveți un buton care face ca lumea să fie mai puțină”, spune Bostrom, „probabil că nu doriți să le oferiți acces la toată lumea”. Dacă, pe de altă parte, OpenAI decide să retragă cercetările pentru a-i împiedica pe cei răi să-l acceseze, Bostrom se întreabă: cum va diferi acest lucru de Google sau Facebook?
El spune că da, statutul non-profit al OpenAI poate schimba sau nu lucrurile. Ponderea reală a proiectului, spune el, este că acesta poate fi verificat de Google și Facebook. „Va putea reduce probabilitatea ca superinteligența să fie monopolizată. Acesta va putea elimina unul dintre posibilele motive pentru care unii indivizi sau grupuri vor avea acces la o AI mai bună decât toată lumea."
Într-o lucrare recentă, filozoful explică că principalul efect al unei inițiative precum OpenAI - o inițiativă de a împărtăși liber ceea ce se face - este de a accelera progresul inteligenței artificiale, cel puțin pe termen scurt. Și poate accelera progresul pe termen lung, cu condiția să se mențină un nivel mai mare de transparență decât ar fi optim din punct de vedere comercial.
„S-ar putea ca un investitor în cercetare și dezvoltare motivat filantropic să accelereze serios progresul urmărind politici științifice deschise”, spune el.
Cum Xerox PARC
La începutul lunii ianuarie, nouă dintre cercetătorii lui Brockman s-au adunat la apartamentul său din San Francisco. Proiectul a fost atât de nou încât nici măcar nu au avut tablouri. (Imaginează-ți.) Au cumpărat câțiva în aceeași zi și au ajuns la muncă.
Brockman spune că OpenAI va începe prin explorarea învățării prin consolidare, o modalitate bazată pe mașini de a învăța problemele, repetându-le din nou și din nou, urmărind care metode produc cele mai bune rezultate. O altă provocare majoră este așa-numita „învățare nesupravegheată” - crearea de mașini care se pot învăța cu adevărat de sine fără asistență umană. Astăzi, învățarea profundă depinde de date etichetate cu atenție. Dacă doriți să învățați o rețea neurală să recunoască fotografiile pisicilor, trebuie să o alimentați cu un anumit număr de exemple - iar aceste exemple trebuie etichetate ca fotografii cu pisici. O astfel de pregătire se realizează cu ajutorul oamenilor. Dar, la fel ca mulți alți oameni de știință, OpenAI intenționează să construiască rețele neuronale care pot învăța fără o selecție atentă a datelor.
„Dacă aveți o metodologie de predare foarte bună fără un profesor, mașinile pot învăța din toate cunoștințele de pe Internet - ca un om, doar privind în jur - sau citind cărți”, spune Brockman.
El vede OpenAI drept încarnarea modernă a Xerox PARC, un laborator de cercetare tehnologică care a existat în anii '70. La fel cum cercetarea deschisă și gratuită a PARC a dat naștere la toate, de la interfețe grafice de utilizator și imprimare laser până la programarea orientată spre obiecte, Brockman și echipa sa vor să se plimbe în ceea ce obișnuia să fie science fiction. PARC a fost deținută de Xerox, dar a fost alimentată de multe alte companii, inclusiv Apple, pentru că oameni ca Steve Jobs au salutat cercetările. Brockman vrea ca toată lumea să salveze cercetările OpenAI.
În speranța de a împinge această dinamică, Brockman și compania au recrutat câțiva alți cercetători notabili, printre care Ian Goodfellow, un alt coleg senior din echipa Google Brain. Brockman spune că PARC practic a adunat o grămadă de oameni deștepți și a decis să vadă ce s-a întâmplat. "Ai nevoie de o viziune partajată fără control central."
Lipsa controlului este esențială pentru ideal. Dacă aduceți destui oameni în obiectivul colectiv, rezultatul final va câștiga peste orice ați gătit în secret. Dar, dacă AI devine la fel de puternic pe cât a promis, ecuația se va schimba. Avem nevoie de asigurare că noua AI va respecta aceleași idealuri egalitare care au dus la crearea sa în primul rând. Musk, Altman și Brockman cred în oameni, în mulțime. Și dacă se va dovedi a fi drept, într-o bună zi, această mulțime nu va fi complet umană.
ILYA KHEL
