Doi miliardari care și-au făcut avere online, proprietarul Tesla și Space X, Elon Musk și fondatorul Facebook, Mark Zuckerberg, s-au apucat de o dispută absentă pentru pericolele inteligenței artificiale.
Ambii antreprenori sunt încrezători că crearea de inteligență artificială cu drepturi depline (AI) este o problemă a viitorului apropiat. Dar Musk consideră că este timpul ca umanitatea să se gândească la reglementarea evoluțiilor în acest domeniu, iar Zuckerberg este încrezător că inteligența artificială va îmbunătăți semnificativ viața oamenilor.
La jumătatea lunii iulie, Elon Musk a vorbit cu guvernanții statelor americane și a îndemnat autoritățile să se gândească la introducerea restricțiilor legislative privind dezvoltarea AI.
Zuckerberg a răspuns întrebării despre pericolele AI atunci când discutați cu utilizatorii Facebook. El a fost întrebat fără voie dacă crede că temerile lui Musk sunt valabile. Creatorul Facebook a spus că nu a înțeles cum Musk poate solicita în mod serios o încetinire a progresului.
El a răspuns prin tweeting „Am vorbit despre asta cu Mark. El înțelege limitat această problemă :
Present Tense publică pe deplin discursurile celor doi miliardari.
„Până când nu vom vedea roboți care merg pe străzi și ucid oameni, nu vom ști cum să reacționeze”. Temerile lui Elon Musk
Video promotional:
Am acces la cele mai recente din AI. Și cred că oamenii ar trebui cu adevărat să fie preocupați de această problemă. Știu cum sună, dar până când oamenii nu văd roboți mergând pe străzi și ucigând oameni, nu vor ști să reacționeze.
Pare irealist. Cred că trebuie să ne facem griji pentru AI. Și cred că acesta este un caz rar când noi, în restricțiile noastre legislative, trebuie să fim în fața curbei și să nu luăm decizii mai târziu, când este prea târziu.
De obicei, restricțiile funcționează astfel: la început, se întâmplă o mulțime de lucruri rele, societatea protestează, iar după mulți ani există organe de reglementare pentru această industrie. Companiile care nu le place controlul exterior rezistă și durează foarte mult. În trecut, acest lucru a dus deja la consecințe proaste, dar nu a reprezentat o amenințare fundamentală pentru existența umanității.
AI este un risc fundamental pentru existența umană. Și acesta este tipul de risc pe care nu l-au avut niciodată accidentele de mașină, nici accidentele de avion, nici drogurile cu probleme, nici mâncarea proastă. Nu erau o amenințare. Poate că erau pentru persoane specifice, dar nu erau un risc pentru întreaga societate.
AI este o amenințare existențială fundamentală pentru civilizație și nu cred că oamenii sunt pe deplin conștienți de acest lucru. Da, a fi restricționat nu este distractiv. Dar în industria auto suntem controlați de Departamentul Transporturi și de mulți alții. Și fiecare țară are organe de reglementare. În industria spațială, suntem controlați de către Administrația Aviației Federale. Dar dacă întrebi o persoană obișnuită, „Hei, vrei să scapi de managementul aviației civile și speri doar că producătorii nu economisesc în avion, pentru că profiturile au scăzut în acest trimestru”, persoana va răspunde: „Bineînțeles că nu”. Sună așa.
Cred că chiar și oameni cu opinie liberală ar spune în continuare: „Să urmărim producătorii de aeronave, trebuie să ne asigurăm că fac avioane bune”. Mașini drăguțe, chestii de genul ăsta. Deci regulatorii au un rol de jucat. Desigur, sunt împotriva unui control strict. Dar cred că ar fi mai bine să ne grăbim cu AI.
Desigur, această [invenție a AI] va duce la pierderi de locuri de muncă, deoarece roboții pot face totul mai bine decât noi. Adică, mai bine decât noi toți. Da. Nu știu ce să fac cu asta. Aceasta este cea mai grea problemă pentru mine. Da, sunt de fapt sigur că vom avea nevoie de controlul statului, deoarece astfel putem asigura siguranța publică.
Companiile se grăbesc, trebuie să aibă timp pentru a face AI, altfel vor deveni necompetitive. Dacă concurentul tău se grăbește să facă AI și nu ești, el te va distruge. Iar companiile spun: „Nu vrem să murim, se pare că trebuie să creăm și AI.”
Și aici trebuie să intre comenzile: „Băieți, trebuie să încetiniți și să vă asigurați că este în siguranță”. Dacă recenzorii sunt convinși că este sigur, atunci puteți continua să lucrați. În caz contrar, încetiniți. Dar auditorii trebuie să facă acest lucru pentru toți cei care o fac, altfel acționarii vor spune: „Hei, de ce nu dezvolți AI mai repede decât concurenții tăi? Ar fi necesar!"
Cred că acesta este cel mai mare risc pe care îl asumăm ca civilizație. Cred că rolul statului este să aibă grijă de societate și să acorde atenție la ceea ce o amenință. De aici limitările. În primul rând, trebuie să înveți cât mai mult despre acest lucru pentru a înțelege natura problemei, pentru a observa progresul și realizările incredibile în domeniul AI.
Anul trecut, într-un joc în care este destul de greu de câștigat și în care oamenii credeau că computerul nu va bate niciodată cel mai bun jucător uman sau că se va întâmpla la 20 de ani de acum, anul trecut, AlphaGo, creat de DeepMind, compania cumpărată de Google a bătut cel mai bun jucător din lume. Și acum poate juca cu 150 de jucători în același timp și să-i învingă pe toți.
Aceasta este o rată de progres impresionantă și va apărea din ce în ce mai des. Robotica, de exemplu. Există roboți care învață să meargă de la zero în câteva ore. Mai repede decât orice specie. Dar cel mai periculos - și acesta este cel mai greu de înțeles - pentru că nu este ceva fizic, este inteligență.
S-ar părea, bine, ce poate face inteligența puternică [artificială] pe Web? Ei bine, de exemplu, începe un război. De exemplu, prin crearea de știri false, comunicate de presă false și adrese poștale și pur și simplu manipularea informațiilor. Stiloul e mai puternic decât sabia.
Ca exemplu - vreau să subliniez, nu cred că acest lucru s-a întâmplat cu adevărat, spun acest lucru pur ipotetic - îți amintești acel avion din Malaezia, care a fost doborât peste granița dintre Rusia și Ucraina? Acest lucru a sporit mult frecarea dintre Rusia și UE.
Imaginează-ți dacă ai avea inteligență artificială și obiectivul său era să maximizezi valoarea unui portofoliu de acțiuni, o modalitate ar fi să cumperi stocuri de apărare, stocuri de consum scurt și să începi un război.
Cum ar putea să o facă? Hackează Malaysian Airlines, servere de rute pentru avioane, trasee de complot pe o zonă de război și apoi trimiteți un mesaj anonim că „un avion inamic zboară peste voi”.
„Toate tehnologiile pot fi folosite pentru rău și bine.” Optimismul lui Mark Zuckerberg
Am credințe destul de puternice în acest sens. Sunt foarte optimist. Sunt o persoană optimistă în general. Cred că putem crea lucruri care să facă lumea un loc mai bun și sunt deosebit de optimist în ceea ce privește AI. Cred că nu înțeleg doar oameni care sunt întotdeauna sceptici și care se intimidează constant cu aceste scenarii ale sfârșitului iminent al lumii. Cred că acest lucru este într-adevăr foarte rău și iresponsabil, deoarece în următorii cinci-zece ani, AI va putea îmbunătăți și îmbunătăți calitatea vieții noastre.
Dacă sunteți îngrijorat de siguranța și sănătatea oamenilor, atunci AI ajută deja la diagnosticarea mai bună a bolilor și la selectarea medicamentelor pentru oameni, în funcție de ce sunt bolnavi și cum pot fi vindecați mai bine. Multe persoane vor primi îngrijiri de sănătate mai bune ca niciodată.
În ceea ce privește mașinile cu autovehicule, acestea vor fi mai sigure decât mașinile care sunt conduse de oameni. E doar o chestiune de timp. Accidentele auto rămân una dintre principalele cauze de deces. Și dacă ar putea fi eliminate cu ajutorul AI, aceasta ar îmbunătăți mult viața oamenilor.
Când aud raționamentul „Oh, știi, AI va face rău oamenilor în viitor”, cred că într-adevăr, toată tehnologia poate fi folosită atât pentru rău, cât și pentru bine. Și trebuie să fii atent când creezi ceva, trebuie să fii atent și să te gândești la modul în care va fi aplicat.
Dar când oamenii insistă să încetinească procesul AI, consider că este foarte controversat. Îmi este foarte greu să înțeleg acest lucru, pentru că dacă ești împotriva AI, atunci ești împotriva mașinilor mai sigure, care nu vor intra în accidente, împotriva posibilității de a diagnostica mai bine bolile. Și pur și simplu nu înțeleg cum pot face unii oameni fără viclean. Deci, în general, sunt mult mai optimist în legătură cu această [creație AI] decât poate că sunt mulți oameni.
