Pe coasta de vest a Americii, cele mai valoroase companii din lume încearcă să facă inteligența artificială mai inteligentă. Google și Facebook se laudă cu experimente folosind miliarde de fotografii și mii de procesoare performante. Însă la sfârșitul anului trecut, un proiect din estul Tennessee a depășit în mod liniștit scara oricărui laborator AI de afaceri. Și a fost condus de guvernul SUA.
Supercomputerul guvernamental din SUA înregistrează recorduri
Proiectul care a înregistrat recorduri a implicat cel mai puternic supercomputer din lume, Summit, la Oak Ridge National Laboratory. Această mașină a câștigat coroana în iunie trecută, întorcând titlul în Statele Unite cinci ani mai târziu, când China a ocupat lista. Ca parte a unui proiect de cercetare climatică, un computer uriaș a lansat un experiment de învățare a mașinilor care a fost mai rapid ca niciodată.
Summit-ul, care acoperă o suprafață echivalentă cu două terenuri de tenis, a folosit peste 27.000 de GPU-uri puternice în acest proiect. El și-a folosit puterea pentru a antrena algoritmi de învățare profundă, însăși tehnologia care stă la baza inteligenței artificiale avansate. În învățarea profundă, algoritmii efectuează exerciții la un miliard de miliarde de operații pe secundă, cunoscute în cercurile de supercomputare ca exaflop.
„Învățarea profundă nu a atins niciodată acest nivel de performanță înainte”, spune Prabhat, liderul echipei de cercetare la Centrul Național de Cercetări Energetice de la Laboratorul Național Lawrence Berkeley. Echipa sa a colaborat cu cercetătorii la sediul Summit-ului, Oak Ridge National Laboratory.
După cum s-ar putea ghici, instruirea AI a celui mai puternic computer din lume s-a concentrat pe una dintre cele mai mari provocări ale lumii - schimbările climatice. Companiile tehnice antrenează algoritmi pentru a recunoaște fețele sau indicatoarele rutiere; Cercetătorii guvernamentali i-au instruit să recunoască tiparele meteorologice precum ciclonii din modelele climatice care comprimă prognozele centenare ale atmosferei Pământului în trei ore. (Cu toate acestea, nu este clar, câtă energie necesară proiectului și cât de mult a fost degajat carbon în aer în acest proces).
Video promotional:
Experimentul Summit-ului are implicații pentru viitorul inteligenței artificiale și al climatologiei. Proiectul demonstrează potențialul științific de adaptare a învățării profunde la supercomputere care, în mod tradițional, simulează procese fizice și chimice, cum ar fi explozii nucleare, găuri negre sau materiale noi. De asemenea, arată că învățarea mașină poate beneficia de mai multă putere de calcul - dacă o puteți găsi - și poate oferi descoperiri în viitor.
„Nu știam că se poate realiza la această scară până nu am reușit”, spune Rajat Monga, CTO la Google. El și alți Googlers au ajutat proiectul prin adaptarea software-ului TensorFlow de învățare automată cu sursă deschisă a companiei la scara gigantică a Summit-ului.
O mare parte a lucrărilor la scalarea profundă a învățării a fost realizată în centrele de date ale companiilor de internet, unde serverele lucrează împreună la probleme, separându-le pentru că sunt relativ disjuncte, mai degrabă decât încorporate într-un singur computer gigant. Supercomputere precum Summit au o arhitectură diferită, cu conexiuni specializate de mare viteză care leagă mii de procesoare într-un singur sistem care poate funcționa în ansamblu. Până de curând, s-au lucrat relativ puțin la adaptarea învățării mașinilor la funcționarea cu acest tip de hardware.
Monga spune că munca de adaptare a TensorFlow la scara Summit va contribui, de asemenea, la eforturile Google de a-și extinde sistemele interne de informații artificiale. Inginerii Nvidia au luat parte și la acest proiect, asigurându-se că zeci de mii de GPU-uri Nvidia din această mașină funcționează fără un cârlig.
Găsirea modalităților de a valorifica mai multă putere de calcul în algoritmii de învățare profundă a fost un instrument în dezvoltarea curentă a tehnologiei. Aceeași tehnologie pe care o folosește Siri pentru recunoașterea vocii și mașinile Waymo pentru citirea semnelor de trafic a devenit utilă în 2012, după ce oamenii de știință au adaptat-o pentru a funcționa pe GPU-uri Nvidia.
Într-o analiză publicată în luna mai a trecut, oamenii de știință de la OpenAI, un institut de cercetare din San Francisco fondat de Elon Musk, a estimat că cantitatea de putere de calcul din cele mai mari experimente publice de învățare a mașinilor s-a dublat aproximativ la fiecare 3,43 luni din 2012; aceasta ar reprezenta o creștere de 11 ori mai mare într-un an. Această evoluție a ajutat botul Alfabet să-și bată campionii în jocuri video de jocuri provocatoare și, de asemenea, a îmbunătățit semnificativ acuratețea traducătorului Google.
Google și alte companii creează în prezent noi tipuri de cipuri compatibile AI pentru a continua această tendință. Google spune că podurile cu mii de cipuri AI sale distanțate strâns - procesoarele de tensiune dublate sau TPU - pot oferi 100 de petaflop de putere de procesare, o zecime din viteza atinsă de Summit.
Contribuțiile Summit-ului la știința climatică arată cum AI-ul gigantic poate îmbunătăți înțelegerea noastră despre condițiile meteorologice viitoare. Când cercetătorii generează previziuni meteorologice vechi de secole, citirea prognozei rezultate devine dificilă. „Imaginează-ți că ai un film pe YouTube care rulează de 100 de ani. Nu există nicio modalitate de a găsi manual toate pisicile și câinii din acest film , spune Prabhat. De obicei software-ul este folosit pentru automatizarea acestui proces, dar nu este perfect. Rezultatele Summit-ului au arătat că învățarea mașinii poate face acest lucru mult mai bine, ceea ce ar trebui să contribuie la prezicerea furtunilor precum inundațiile.
Potrivit lui Michael Pritchard, profesor la Universitatea din California, Irvine, lansarea învățării profunde pe supercomputere este o idee relativ nouă care a venit la un moment convenabil pentru cercetătorii în domeniul climatului. Încetinirea dezvoltării procesoarelor tradiționale i-a determinat pe ingineri să echipeze supercomputerele cu un număr din ce în ce mai mare de cipuri grafice pentru a îmbunătăți performanța mai consistent. „A sosit momentul când nu mai puteți crește puterea de procesare în mod obișnuit”, spune Pritchard.
Această schimbare a condus modelarea tradițională la un blocaj și, prin urmare, a trebuit să se adapteze. De asemenea, deschide ușa pentru a valorifica puterea învățării profunde, care se împrumută în mod firesc chipurilor grafice. Poate că vom obține o imagine mai clară a viitorului climatului nostru.
Ilya Khel