Poate că unul dintre cele mai dificile teste ale inteligenței mașinilor a fost jocul de șah care a avut loc în urmă cu aproape 20 de ani între computerul Deep Blue și campionul mondial la șah Garry Kasparov. Mașina a câștigat. În acest moment, s-a încheiat seria de jocuri din jocul de logică go, unde au concurat AI AlphaGo de la DeepMind (proprietarul Google) și legendarul campion de go din China Li Si Dol. În patru din cele cinci jocuri, mașina a câștigat, arătându-și superioritatea față de om în acest joc. Jocul incredibil de complex dintre om și AI arată că inteligența mașinii sa dezvoltat foarte puternic în acest timp. Se pare că ziua fatidică, când mașinile devin cu adevărat mai inteligente decât oamenii, este acum mai aproape ca niciodată. Cu toate acestea, se pare că mulți nu înțeleg deloc, ci mai degrabă chiar se înșală cu privire la consecințele care ne pot aștepta în viitor.
Subestimăm unele consecințe foarte grave și chiar periculoase ale dezvoltării inteligenței artificiale. Anul trecut, co-fondatorul SpaceX, Elon Musk, a emis o declarație în care își exprima îngrijorarea cu privire la posibila înrobire a lumii de către inteligența artificială, ceea ce a determinat, la rândul său, o cantitate imensă de comentarii atât din partea susținătorilor, cât și a opozanților acestei opinii.
Pentru un viitor atât de fundamental revoluționar care ne poate aștepta, este surprinzător faptul că există atât de multe dezacorduri astăzi cu privire la dacă se va întâmpla deloc și la ce se va dovedi în cele din urmă. Este deosebit de ciudat să negăm beneficiile incredibile pe care le putem obține din crearea unei IA cu adevărat inteligente, desigur, luând în considerare toate riscurile posibile. Toate aceste întrebări sunt incredibil de dificile pentru a obține răspunsurile corecte, întrucât AI, spre deosebire de orice alte invenții ale omenirii, poate „întineri” cu adevărat această omenire sau o poate distruge complet.
Acum este dificil să înțelegem ce să credem și ce să sperăm. Cu toate acestea, datorită pionierilor în informatică, neurologilor și teoreticienilor dezvoltării AI, o imagine clară începe să se lămurească încet. Mai jos este o listă cu cele mai frecvente concepții greșite și mituri cu privire la inteligența artificială.
Nu vom crea niciodată AI cu inteligență umanoidă
La rândul său, realitatea sugerează că avem deja computere care se potrivesc și chiar depășesc capacitățile umane în anumite domenii. Luați șah sau același joc de go, tranzacționare la bursă sau rolul unui interlocutor virtual. Calculatoarele și algoritmii care le controlează se vor îmbunătăți numai în timp și este doar o chestiune de timp până când vor deveni egali cu capacitățile umane.
Video promotional:
Cercetătorul Universității din New York Gary Markus a spus odată că „practic toată lumea” care lucrează cu AI crede că mașinile ne vor întrece într-o zi:
„Singura dispută dintre susținători și sceptici este momentul acestui eveniment”.
Futuriști precum Ray Kurzweil cred că acest lucru s-ar putea întâmpla în deceniile următoare, în timp ce alții spun că va dura câteva secole.
Scepticii AI sunt neconcludenți în dovezile lor că crearea inteligenței artificiale ca ceva unic și foarte asemănător cu creierul uman viu în termeni tehnologici este undeva dincolo de realitate. Creierul nostru este, de asemenea, o mașină. Mașină biologică. Există în aceeași lume și respectă aceleași legi ale fizicii ca orice altceva. Și în timp, vom descoperi pe deplin întregul principiu al activității sale.
AI va avea conștiință
Există un consens general că inteligența mașinii va fi conștientă. Adică, AI va gândi în același mod ca și un om. În plus, unii critici, de exemplu, cofondatorul Microsoft, Paul Allen, consideră că, datorită unei baze teoretice incomplete care descrie mecanismele și principiile conștiinței de sine, nu am creat încă nici măcar inteligența artificială generală, adică inteligența capabilă să îndeplinească orice sarcini intelectuale cu care o persoană se poate descurca. Totuși, potrivit lui Murray Shanahan, profesor asociat de robotică cognitivă la Imperial College din Londra, nu ar trebui să le echivalăm pe cele două.
„Conștiința de sine este cu siguranță un subiect foarte interesant și important de cercetare, dar nu cred că conștiința de sine ar trebui să fie un atribut obligatoriu al inteligenței artificiale de tip uman”, spune Shanahan.
„În general, folosim termenul„ conștiință de sine”numai pentru a indica mai multe atribute psihologice și cognitive care sunt de obicei legate de o persoană.”
Este posibil să vă imaginați o mașină foarte inteligentă căreia îi lipsește unul sau mai multe dintre aceste atribute. Într-o zi vom putea construi o IA cu adevărat incredibil de inteligentă, dar în același timp lipsită de capacitatea de conștientizare de sine, precum și de înțelegere subiectivă și conștientă a lumii din jurul nostru. Shanahan notează că unificarea inteligenței și a conștiinței de sine în cadrul mașinii va fi încă posibilă, dar nu trebuie să trecem cu vederea faptul că acestea sunt două concepte complet separate.
Și, deși una dintre variantele „Testului Turing”, în care o mașină a arătat că nu diferă de o persoană, a fost trecută cu succes, acest lucru nu înseamnă deloc că această mașină are conștiință. Din punctul nostru de vedere (uman), inteligența artificială avansată ne poate părea ca ceva care posedă conștiință de sine, dar mașina însăși nu va fi conștientă de ea însăși decât aceeași piatră sau calculator.
Nu ar trebui să ne fie frică de IA
În ianuarie a acestui an, fondatorul Facebook, Mark Zuckerberg, și-a împărtășit gândurile cu privire la modul în care nu ar trebui să ne fie frică de AI, adăugând că această tehnologie poate aduce beneficii extraordinare în întreaga lume. Adevărul este că nu are decât parțial dreptate. Vom putea într-adevăr să obținem beneficii uimitoare cu AI la dispoziția noastră (de la mașini cu conducere automată la noi descoperiri în medicină), dar nimeni nu poate garanta că fiecare aplicație de AI va aduce în mod necesar beneficii.
Un sistem extrem de inteligent, probabil, va ști tot ce este necesar pentru anumite sarcini (de exemplu, rezolvarea unei situații financiare globale complexe sau piratarea sistemelor informatice ale inamicului), dar în afara sarcinilor extrem de specializate, potențialul AI este încă complet neclar și, prin urmare, potențial periculos. De exemplu, sistemul DeepMind este specializat în jocul go, dar îi lipsește capacitatea (și rațiunea) de a explora zone din afara acelui tărâm.
Virus de computer Flame, a cărui sarcină era de a urmări țările din Orientul Mijlociu
Multe dintre aceste sisteme pot prezenta riscuri grave de securitate. Un bun exemplu este virusul Stuxnet puternic și extrem de viclean, un vierme militarizat creat de armata SUA și israeliană pentru a se infiltra și a ataca centralele nucleare iraniene. Doar acest program rău intenționat cumva (accidental sau deliberat) a infectat și una dintre centralele nucleare rusești.
Un alt exemplu este virusul Flame, dezvoltat pentru spionajul cibernetic vizat în Orientul Mijlociu. Este ușor să ne imaginăm cum „versiunile viitoare” ale virușilor Stuxnet și Flame vor trece independent dincolo de sarcinile atribuite și vor putea infecta aproape întreaga infrastructură a unei țări. Și o vor face foarte liniștit și imperceptibil.
Superinteligența artificială va fi prea inteligentă pentru a greși
Richard Luzmore, matematician, cercetător în inteligență artificială și fondator al companiei de robotică Surfing Samurai Robots, consideră că majoritatea scenariilor de finalizare a AI arată puțin probabil, deoarece toate se bazează pe ceea ce AI va spune într-o zi: „Înțeleg că distrugerea oamenii reprezintă o greșeală în codul programului meu, dar trebuie să urmez sarcina."
Luzmore consideră că, dacă AI se comportă conform acestui scenariu, se va confrunta cu contradicții logice care vor pune la îndoială întreaga sa bază de cunoștințe acumulate și, în cele din urmă, vor duce la propria conștientizare a prostiei și inutilității sale.
Cercetătorul crede, de asemenea, că acei oameni care spun că „AI va face doar ceea ce este inclus în programul său” se înșeală, la fel ca acei oameni care au spus odată aceleași cuvinte, dar față de computere, declarând că sistemele informatice nu vor avea niciodată universalitate.
Peter McIntyre și Stuart Armstrong, ambii la Institutul pentru Viitorul Umanității de la Universitatea Oxford, la rândul lor, nu sunt de acord cu această opinie, argumentând că comportamentul AI va fi obligatoriu și în mare parte justificat de codul programului. Oamenii de știință nu cred că AI nu va face niciodată greșeli sau, dimpotrivă, va fi prea prost ca să înțeleagă exact ce vrem de la ei.
„Prin definiție, superinteligența artificială (ISI) este un agent a cărui inteligență va depăși de multe ori cele mai bune minți ale umanității în aproape toate domeniile”, spune McIntyre.
„Cu siguranță va înțelege ce vrem de la el”.
McIntyre și Armstrong consideră că AI va îndeplini doar acele sarcini pentru care a fost programată, dar dacă se dezvoltă cumva pe cont propriu, atunci, cel mai probabil, va încerca să-și dea seama cât de mult acțiunile sale vor diferi de sarcinile umane și inerente ei. legile.
McIntyre compară situația viitoare a oamenilor cu cea cu care se confruntă șoarecii. Șoarecii au un instinct puternic de a găsi hrană și adăpost, dar obiectivele lor sunt adesea în conflict cu o persoană care nu vrea să-i vadă în casa sa.
„La fel ca cunoștințele noastre despre șoareci și dorințele lor, sistemul de suprainteligență poate ști tot despre noi și poate ști ce vrem, dar în același timp va fi complet indiferent față de dorințele noastre”.
Soluția simplă elimină problema controlului AI
După cum se arată în filmul „De la mașină”, va fi foarte dificil să controlezi AI, care va fi mult mai inteligent decât noi
Dacă presupunem că într-o zi vom crea superinteligență care va fi mai inteligentă decât oamenii, atunci va trebui să ne confruntăm cu o problemă serioasă, problema controlului. Futuriștii și teoreticienii inteligenței artificiale nu au fost încă în măsură să explice cum putem gestiona și conține ISI după crearea sa. De asemenea, nu este clar cum ne putem asigura că va fi prietenos cu oamenii. Mai recent, cercetătorii de la Georgia Institute of Technology (SUA) au sugerat naiv că AI poate învăța și absorbi valorile umane și cunoașterea normelor sociale prin simpla citire a basmelor simple. Da, da, povești simple și povești pentru copii pe care părinții ni le citeau în copilărie. Dar, în realitate, totul se va dovedi a fi mult mai complicat decât toate acestea.
„Au fost propuse multe așa-numite„ soluții”pentru controlul inteligenței artificiale”, spune Stuart Armstrong.
Un exemplu de astfel de soluții poate fi programarea ISI în așa fel încât să încerce în mod constant să mulțumească sau să mulțumească o persoană. O alternativă ar fi integrarea conceptelor precum dragostea sau respectul în codul său sursă. Și pentru a evita o astfel de dezvoltare a scenariului conform căruia AI poate simplifica toate aceste concepte și percepe această lume prin prisma acestor concepte prea simplificate, împărțind-o doar în alb și negru, poate fi programată pentru a înțelege și a accepta diversitatea intelectuală, culturală și socială.
Cele trei legi ale roboticii create de Isaac Asimov se încadrează perfect în conceptul de ficțiune, dar în realitate avem nevoie de ceva mai cuprinzător pentru a aborda problema controlului
Din păcate, aceste soluții sunt prea simple și arată ca o încercare de a se potrivi cu toată complexitatea plăcerilor și a antipatiilor umane într-o singură definiție sau concept general sau o încercare de a încadra toată complexitatea valorilor umane într-un singur cuvânt, frază sau idee. Încercați, de exemplu, să încadrați în acest cadru o definiție consecventă și adecvată pentru un lucru precum „respectul”.
„Desigur, nu ar trebui să credem că astfel de opțiuni simple sunt complet inutile. Mulți dintre ei oferă un motiv excelent pentru a gândi și poate stimula căutarea unei soluții la problema finală”, spune Armstrong.
"Dar nu ne putem baza doar pe ele fără o muncă mai complexă, fără cercetări clare și căutând consecințele utilizării anumitor soluții".
Vom fi distruși de superinteligența artificială
Nimeni nu poate garanta că IA ne va distruge într-o zi, așa cum nimeni nu poate spune cu certitudine că nu vom putea găsi modalități de a controla și de a folosi AI în propriile noastre scopuri. Așa cum a spus odată expertul american în inteligență artificială Eliezer Yudkowski: „AI nu te poate iubi sau ură, dar ești făcut din atomi pe care i-ar putea folosi pentru altceva”.
Filosoful Oxford Nick Bostrom, în cartea sa Superinteligența: căi, pericole și strategii, scrie că superinteligența reală va putea într-o bună zi să se realizeze, ceea ce o va face mai periculoasă decât orice invenție creată vreodată de om. Gânditori contemporani proeminenți precum Elon Musk, Bill Gates și Stephen Hawking (dintre care mulți cred că „crearea AI ar putea fi cea mai gravă greșeală din istoria omenirii”), mai mulți sunt de acord cu această opinie și dau deja semnalul de alarmă.
Peter McIntyer crede că pentru majoritatea sarcinilor pe care superinteligența și le poate stabili, oamenii vor arăta ca o legătură suplimentară.
„AI va putea într-o bună zi să concluzioneze - și trebuie remarcat faptul că va calcula acest lucru foarte corect - că oamenii nu vor să o folosească pentru a maximiza profitabilitatea unei anumite companii cu orice preț, indiferent de consecințele pentru consumatori, mediu și ființe vii. Prin urmare, el va avea un stimulent imens pentru a dezvolta un plan și o strategie, datorită cărora o persoană nu va putea interfera cu soluția sarcinii, schimbând-o sau chiar dezactivând AI."
Potrivit lui MacIntyer, dacă sarcinile AI sunt direct opuse celei noastre, atunci îi va oferi motive excelente să nu ne lase să-l oprim. Și dacă considerăm că nivelul inteligenței sale va fi mult mai mare decât al nostru, va fi cu adevărat foarte, foarte dificil să-l oprim, dacă este posibil.
Cu toate acestea, acum este imposibil să spunem ceva cu certitudine și nimeni nu va putea spune cu ce formă de AI vom avea de-a face și cum poate amenința umanitatea. După cum a spus Elon Musk odată, AI poate fi de fapt folosit pentru a controla, urmări și controla alte AI. Și poate că valorile umane și o prietenie inițială cu oamenii vor fi introduse în ea.
Superinteligența artificială va fi prietenoasă
Filosoful Immanuel Kant credea că inteligența este puternic interconectată cu principiile moralei. În lucrarea sa Singularitate: o analiză filozofică, neurologul David Chalmers a luat celebra idee a lui Kant ca bază și a încercat să o aplice pentru a analiza formarea superinteligenței artificiale.
„Dacă principiile descrise în această lucrare sunt corecte, atunci împreună cu dezvoltarea bruscă a IA, ar trebui să ne așteptăm la o dezvoltare bruscă a principiilor morale. Dezvoltarea ulterioară va duce la apariția sistemelor ISI, care vor avea supermorale și superinteligență. Prin urmare, ar trebui să ne așteptăm doar la calități binevoitoare din partea lor."
Adevărul este că ideea unei IA avansate cu principii morale și virtute excepțională nu reține apa. După cum subliniază Armstrong, lumea este plină de criminali de război inteligenți. Intelectul și moralitatea unei persoane, de exemplu, nu sunt legate în niciun fel, de aceea omul de știință pune la îndoială că o astfel de relație va exista în alte forme de inteligență.
„Oamenii inteligenți care se comportă imoral tind să creeze mult mai multe probleme și durere decât omologii lor mai puțin inteligenți. Inteligența le oferă abilitatea de a fi mai sofisticat în acțiunile lor rele, mai degrabă decât bune , spune Armstrong.
McIntyre explică faptul că abilitatea unui agent de a îndeplini o sarcină dată nu are nicio legătură cu ceea ce este acea sarcină.
„Vom fi foarte norocoși dacă AI-urile noastre devin mai morale, nu doar inteligente. Bazându-se pe noroc este, desigur, ultimul lucru în această chestiune, dar poate că norocul va determina poziția noastră în viitor”, spune cercetătorul.
Riscurile asociate cu IA și robotică sunt aceleași
Aceasta este o concepție greșită deosebit de utilizată în mass-media, precum și în blockbuster-urile de la Hollywood, cum ar fi The Terminator.
Dacă superinteligența artificială, cum ar fi Skynet, de exemplu, dorește cu adevărat să distrugă întreaga omenire, atunci este puțin probabil să folosească androizi paramilitari cu mitraliere în fiecare mână. Gândirea sa vicleană și eficientă îi va permite să înțeleagă că va fi mult mai convenabil să folosim, să zicem, un nou tip de ciumă biologică sau, de exemplu, un dezastru nanotehnologic. Sau poate doar va lua și distruge atmosfera planetei noastre. AI este potențial periculos nu doar pentru că dezvoltarea sa este strâns legată de dezvoltarea roboticii. Motivul potențialului său pericol constă în metodele și mijloacele prin care își poate declara prezența lumii.
AI prezentat în science fiction reflectă viitorul nostru
Fără îndoială, de mulți ani, scriitorii și scriitorii de ficțiune științifică au folosit mediul științifico-fantastic ca o trambulină pentru a specula despre viitorul nostru real, dar crearea efectivă a ISI și consecințele reale ale acestui lucru sunt încă dincolo de orizontul cunoașterii noastre reale. Mai mult, o astfel de natură artificială și clar inumană a IA nu ne permite nici măcar să presupunem cu certitudine cum va fi de fapt această IA.
În majoritatea lucrărilor SF, AI este cât mai aproape de oameni.
„În fața noastră este de fapt un întreg spectru al celor mai diverse tipuri de minte posibile. Chiar dacă luăm doar forma umană. De exemplu, mintea ta este departe de a fi identică cu cea a aproapelui tău. Dar această comparație este doar o picătură în mare a tuturor diversității posibile a minților care ar putea exista”, spune McIntyre.
Majoritatea ficțiunilor SF sunt, desigur, create în primul rând pentru a spune o poveste, pentru a nu fi cât se poate de convingătoare din punct de vedere științific. Dacă ar fi invers (știința este mai importantă decât complotul), atunci nu ar fi interesant să urmezi astfel de lucrări.
„Imaginați-vă cât de plictisitoare ar fi toate aceste povești, în care AI, fără conștiința de sine, capacitatea de a se bucura, de a iubi sau de a urî, distruge practic toți oamenii fără nici o rezistență pentru a-și atinge scopul, care, de altfel, s-ar putea să nu fie nici foarte interesant. pentru cititor sau spectator”, comentează Armstrong.
AI ne va ocupa locurile de muncă
Capacitatea AI de a automatiza procesele pe care le facem manual și potențialul său de a distruge întreaga umanitate nu sunt același lucru. Cu toate acestea, potrivit lui Martin Ford, autorul cărții Rise of the Robots: Technology and the Threat of a Jobless Future, aceste concepte sunt adesea încercate să fie comparate și combinate într-un întreg coerent. Desigur, este minunat că încercăm să anticipăm consecințele creării AI până acum, dar numai dacă acest efort nu ne distrage atenția de la problemele cu care ne putem confrunta în câteva decenii dacă nu facem nimic. Iar una dintre principalele astfel de probleme este automatizarea în masă.
Puțini ar susține că una dintre provocările inteligenței artificiale va fi să găsească o modalitate de a automatiza multe locuri de muncă, de la locuri de muncă din fabrică la unele locuri de muncă cu guler alb. Unii experți prezic că jumătate din toate locurile de muncă, cel puțin în SUA, ar putea fi automatizate în viitorul apropiat.
Dar acest lucru nu înseamnă deloc că nu vom putea accepta astfel de schimbări. Este important să înțelegem că dorința de a se elibera de stresul fizic și psihologic inutil la locul de muncă a fost de fapt un vis al speciei noastre umane de mult timp.
„În câteva decenii, AI va înlocui într-adevăr oamenii în multe locuri de muncă. Și asta este de fapt destul de bine. De exemplu, autoturismele care conduc singuri vor înlocui camioanele, care, la rândul lor, nu numai că vor reduce costurile de expediere a mărfurilor, ci și mai mici costurile mărfurilor. Dacă lucrați ca șofer de camion, atunci rămâneți, desigur, ultimul, dar toți ceilalți din acest caz au mai multe șanse să primească o creștere a salariilor. Și cu cât acești bani pot fi economisiți, cu atât acești bani pot fi cheltuiți pe alte bunuri și servicii în care oamenii vor fi angajați la locul lor de muncă.
Cel mai probabil, inteligența artificială va căuta noi modalități de bunăstare și va hrăni oamenii în timp ce fac alte lucruri. Progresele în dezvoltarea AI vor fi însoțite de succese în alte domenii. Mai ales în sectoarele de fabricație. În viitor, toate acestea vor simplifica mult mai degrabă decât să complice satisfacerea nevoilor noastre de bază.
