Îngrijorat de dezvoltarea inteligenței artificiale create de el, Google dezvoltă un „buton” care poate opri AI în caz de pericol și amenințare pentru o persoană. Această știre, difuzată de reporteri în iunie 2016, a adăugat un plus de anxietate pentru relațiile viitoare dintre roboți și oameni.
În 2016, publicațiile autoritare occidentale au raportat că Google dezvolta un „buton roșu mare” conceput pentru a opri AI în cazul în care inteligența artificială amenință umanitatea. Potrivit jurnaliștilor, pentru aceasta, specialiștii diviziei Google - Deep Mind - au făcut echipă cu oameni de știință de la Universitatea Oxford. 400 de milioane de lire sterline au fost alocate cercetării. „Dacă agentul (AI) lucrează în timp real sub control uman, operatorul are nevoie de un buton roșu mare care poate fi apăsat pentru a preveni acțiuni nedorite de la agent”, explică publicațiile online.
Mai devreme, într-adevăr, a fost postat pe Web un document intitulat „Agenți interrupbili în siguranță”. Autorii săi sunt Lauren Orso de la Deep Mind și Stuart Armstrong de la Universitatea Oxford. Documentul descrie un posibil cartier viitor de oameni cu inteligență artificială, opunându-se dorințelor și aspirațiilor umanității, precum fantasticul Skynet și Terminator. Acest lucru nu pare nebun având în vedere că nu cu atât de mult timp în urmă, cel mai vechi și mai mare cabinet de avocatură american Baker & Hostetler a „angajat” un avocat robot pentru a ajuta la procedură. Inteligența artificială este alimentată de supercomputerul IBM Watson. În ceea ce privește Deep Mind, mai devreme eroul de știri a fost inteligența artificială dezvoltată de compania Alpha Go, care l-a bătut pe unul dintre cei mai puternici jucători, Grandmaster Lee Sedol. Această victorie a fost motivul pentru un impuls accentuat din partea Coreei de Sud de a dezvolta propria informație artificială și de a aloca fonduri semnificative din buget pentru acest lucru. Ar trebui adăugat că șeful Deep Mind, Demis Hassabis, a îndemnat oamenii să fie atenți la informațiile transmise publicului. În contul său de Twitter, el a menționat că, în ciuda zvonurilor care circulă pe Internet, compania nu prezice încă viitorul inteligenței artificiale Alpha Go. „Pe măsură ce decidem, vom face o declarație oficială”, a explicat șeful companiei. Compania nu prezice încă viitorul inteligenței artificiale Alpha Go „Pe măsură ce decidem, vom face o declarație oficială”, a explicat șeful companiei.compania nu prezice încă viitorul inteligenței artificiale Alpha Go. „Pe măsură ce decidem, vom face o declarație oficială”, a explicat șeful companiei.
Campionul european Fan Hui jucând go / wikipedia.
Elon Musk: „Suntem deja cyborgi”
Preocuparea pentru complicațiile viitoare în relația dintre roboți și oameni este în creștere. Mai mult decât atât, principalii adepți ai progresului științific și tehnologic sunt cei care vorbesc despre această anxietate. De exemplu, Elon Musk, care a anunțat în august 2014 că tehnologia inteligenței artificiale este „mai periculoasă decât armele nucleare”. Și câteva luni mai târziu, vorbind cu studenții de la Massachusetts Institute of Technology, creatorul Tesla și SpaceX a numit AI „cea mai mare amenințare pentru existența noastră”. În același timp, până la sfârșitul anului 2015, Musk însuși a co-fondat compania de cercetare non-profit OpenAI, explicându-și obiectivul prin necesitatea de a deschide procesul de creare a inteligenței artificiale. „Dacă aveți un„ buton”care poate face lucruri rele în lume, nu doriți să-l împărtășiți”, a explicat Musk.
La sfârșitul lunii mai 2016, vorbind la conferința anuală Recode, Elon Musk a vorbit despre un anumit proiect, sau poate doar despre ideea de „dantelă neurală”, care ar trebui să reducă riscul umanității de a deveni o jucărie preferată în mâinile de fier ale roboților. „De exemplu, ai sistemul limbic, cortexul cerebral și acesta este al treilea sistem, stratul digital care funcționează bine cu corpul tău. Pe măsură ce creierul funcționează în simbioză cu sistemul limbic, astfel acest strat digital va funcționa în armonie cu restul corpului”, a spus Musk. Acest sistem neuronal ar trebui să crească nivelul de recepție și transmitere a informațiilor de către o persoană, capacitatea de a o prelucra. „Suntem deja cyborgi”, a spus Musk, explicând că internetul, telefoanele mobile și alte gadgeturi, de fapt, au dezvoltat superputeri la om. „Dar suntem limitați la primirea și transmiterea informațiilor. Mai ales în program ,Adăugă Musk. Oamenii sunt capabili să primească și să interpreteze o cantitate destul de mare de informații, însă generarea acestor informații este mult mai dificilă. O persoană poate vorbi rapid, scrie rapid sau tasta. „Dantela neurală”, prin conectarea unei persoane la un sistem de comunicații digitale, ar putea depăși această limitare biologică. Musk nu a explicat dacă această „dantelă” va fi implantată în corp sau crescută natural, cum ar fi prin editarea genelor, dar a remarcat că ar putea trece „prin vene și artere” care oferă căi pentru neuroni.ar putea depăși această limitare biologică. Musk nu a explicat dacă această „dantelă” va fi implantată în corp sau crescută natural, cum ar fi prin editarea genelor, dar a remarcat că ar putea trece „prin vene și artere” care oferă căi pentru neuroni.ar putea depăși această limitare biologică. Musk nu a explicat dacă această „dantelă” va fi implantată în corp sau crescută natural, cum ar fi prin editarea genelor, dar a remarcat că ar putea trece „prin vene și artere” care oferă căi pentru neuroni.
Video promotional:
Cu toate acestea, există și un punct de vedere opus. Președintele consiliului de administrație al Alphabet (Google), Eric Schmidt, într-un interviu cu Tech Insider, s-a arătat sceptic cu privire la discursurile lui Elon Musk și ale colegului său, Stephen Hawking, care au avertizat anterior și despre posibila hegemonie a AI. „Stven Hawking este cu siguranță un geniu, dar nu este un expert în informatică. Elon este, de asemenea, o persoană minunată, dar este, de asemenea, mai mult un fizician decât un informatician ", a spus Schmidt. Despre un potențial scenariu de viitor, în care roboții distrug umanitatea, el a declarat următoarele: „Un astfel de scenariu descrie pur și simplu scenariul în care calculatoarele devin atât de inteligente încât, la un moment dat, din cauza, să zicem o eroare din program, decid să distrugă umanitatea. Întrebarea mea pentru tine este aceasta: nu crezică oamenii vor observa acest lucru și vor începe să închidă calculatoarele? Vom avea o cursă între oamenii care opresc calculatoarele și AI, care încearcă frenetic să se deplaseze pe un dispozitiv care nu a fost încă oprit. Și așa mai departe până la ultimul computer. Și nu o putem opri. Este un film, un film. Starea actuală de lucruri din lume nu acceptă un astfel de scenariu."
Robotizare la scară largă
Neil Jacobstein, co-președinte al Universității Singularitate NASA, a declarat pentru PCmag că companiile globale au investit peste 3 miliarde de dolari în cercetarea AI între 2011 și 2015. Pe lângă investitorii mari, inclusiv Facebook și Google, există și o serie de startup-uri mai puțin cunoscute. De exemplu, Brighterion este angajat în utilizarea inteligenței artificiale în analiza cloud și IoT industrial, Feedzai antrenează roboți pentru a detecta frauda în tranzacțiile bancare, Experfy folosește AI pentru a rezolva eficient problemele comerciale ale comercianților ș.a. Adică, scara de dezvoltare a inteligenței artificiale în lume nu se limitează acum la o duzină de jucători importanți pe piața IT - este mult mai mare. În interviul său, Jacobstein a continuat, în esență, gândul lui Musk,insistând, de asemenea, pe necesitatea dezvoltării creierului uman pentru a contracara cele sintetice. „Cu toții avem aceleași probleme. Creierul este limitat la viteză, memorie, lățime de bandă și părtinire , a spus Neil Yakobstein.
Potrivit savantului, tendința dezvoltării AI se îndreaptă acum spre crearea unui neocortex artificial (o nouă cortexă, care constituie cea mai mare parte a cortexului la oameni, spre deosebire de mamiferele inferioare) și hipocampului. Astfel, creierul robotului va fi ca un om, doar de multe ori mai puternic și mai rapid. „AI devine din ce în ce mai puternic și trebuie să decidem cum ne vom comporta în cadrul co-evoluției în curs. Atât în ceea ce privește sarcinile pe care le-am propus pentru inteligența artificială, cât și în ceea ce privește modul în care vrem să ne construim relațiile fără a pierde stima de sine umană”, a explicat Yakobstein. Potrivit savantului, inițial, interacțiunea oamenilor și roboților va fi un „proces de elită”, dar apoi va intra în viața de zi cu zi, așa cum a făcut odată telefoanele mobile. „Prin intermediul unui smartphone, creierul tău are acces la toate cunoștințele lumii și la inteligența artificială puternică,procesarea informatiilor digitale. Aveți deja o simbioză cu AI”, a concluzionat Jacobstein.
Carnea de carne
Cu toate acestea, s-ar putea dovedi că amenințarea pentru umanitate nu va veni dintr-un set de glande și fire, ci din „carne din carne” organică. La sfârșitul lunii mai 2016, comunitatea științifică mondială a fost intrigată de „întâlnirea secretă de la Harvard”, ai cărei participanți vor să creeze un genom artificial artificial și, în consecință, umanul însuși de la zero. Detaliile reuniunii din paginile Științei Vii au fost comunicate de absolventul Universității Harvard, biolog molecular specializat în editarea genelor, Jeff Bessen. Așa cum s-a dovedit, nu vorbim despre un creier al lui Frankenstein. Peste 130 de oameni de știință, industriași și eticieni s-au reunit la Harvard pentru a discuta despre Proiectul Genomului Uman (HGP). Numele este, de fapt, o referire la un proiect similar,ca urmare a faptului că în 2003 a fost posibilă secvențarea completă a genomului uman. Acest proiect a început în 1990, sub conducerea lui James Watson, sub auspiciile Organizației Naționale a Sănătății din SUA, iar obiectivul său a fost să stabilească succesiunea nucleotidelor care alcătuiesc ADN-ul și să identifice 20-25 de mii de gene în genomul uman.
Creația genomului are propria sa istorie. În 2010, biologul american John Craig Venter a descifrat primul genom al unui microorganism - bacteriile Haemophilus influenzae - și a anunțat crearea unei celule artificiale. Venter a introdus primul organism artificial din lume, o bacterie sintetică numită Cynthia. De atunci, oamenii de știință au încercat sistematic să avanseze în continuare în cercetare, inclusiv organizatorul întâlnirii de la Harvard - geneticianul american Jeff Bouquet, care a fost primul care a creat un cromozom eucariot funcțional conținut în drojdie.
Cu toate acestea, o astfel de muncă are un cost. Crearea unei bacterii sintetice pentru același Venter a costat mai mult de 40 de milioane de dolari și a luat ani de muncă. Experții consideră că în condițiile actuale, producția unui genom uman va costa aproximativ 90 de milioane de dolari. Cu toate acestea, dacă afacerea este „pusă pe flux” și se aplică tehnologiile dovedite, până în 2036 această sumă poate fi redusă la 100 mii dolari. În plus, există o problemă industrială - capacitatea tuturor laboratoarelor care operează în lume, potrivit lui Jeff Bessen, astăzi nu este suficient pentru a crea un singur genom uman.
De la învățare la creare
După cum a menționat Jeff Bessen, la întâlnirea de la Harvard, oamenii de știință au solicitat trecerea de la citirea genomului la crearea acestuia din blocurile de construcție ale ADN-ului. Așa cum a fost conceput de maestrul HGP, inclusiv geneticianul George Church, colegul său american Jeff Bouquet și avocatul biotehnologiei la Autodesk Nancy Kelly, este posibil să „sintetizăm complet genomul uman într-o linie celulară”. Procesul de creare a ADN-ului artificial, potrivit lui Jeff Bessen, este similar cu procesul de imprimare offset - principalul lucru este să punem totul în ordine corectă. Rezultatul este identic din punct de vedere chimic cu macromolecula naturală. Piața mondială a ADN-ului sintetizat (vorbim despre crearea de elemente ADN individuale, nu un genom complet) este estimată acum la aproximativ un miliard de dolari pe an. O macromoleculă artificială are aplicații practice:aceasta este cultivarea organelor umane pentru transplant, crearea imunității la virusuri, boli oncologice, crearea de noi medicamente și așa mai departe. Participanții Harvard și-au exprimat speranța că munca lor va ajuta la „dezvoltarea unei terapii mai sigure, mai puțin costisitoare și mai eficiente”.
Halo secret în jurul acestei întâlniri poate fi ușor explicat: proiectul este suficient de complex din punct de vedere etic și nu se știe cum ideile oamenilor de știință vor fi percepute de publicul larg. În special, acum organizatorii au vetat de fapt orice comentarii cu privire la întâlnire înainte de publicarea oficială a rezultatelor întâlnirii.
Există într-adevăr multe întrebări pentru HGP. "Cât de bine va fi să studiezi și apoi să creezi genomul Einstein?" - Bioinginerul uluit de la Stanford Drew Andy. Dr. Biserica și bioinginerul Andy, apropo, lucrează împreună de mult timp - împreună au creat compania Gen9, a cărei specializare este clară din denumire. Unii experți consideră că participarea oamenilor de afaceri la întâlnire și presupusa finanțare privată a proiectului vor duce în cele din urmă la "privatizarea tehnologiei de modificare genetică". S-a sugerat, de asemenea, că cercetătorii eclozează planuri subterane de a clona omul folosind ADN sintetic. Potrivit lui Jeff Bessen, producția chimică a genomului uman - colecția de instrucțiuni genetice conținute în fiecare celulă - poate da într-adevăr un sens nou termenului „eprubetă”. „Dacă o astfel de tehnologie ar exista,genomul oricărei persoane ar putea fi descifrat și apoi sintetizat la cererea cuiva ", avertizează Bessen.
Clone din viitor
Teama nu este neîntemeiată. Oamenii de știință chinezi, care au prezentat un proiect „fabrică de clone” la sfârșitul anului 2015, au anunțat ulterior disponibilitatea de a clona oamenii. Grupul Chinei Boyalife va construi cea mai mare instalație de clonare din lume, în colaborare cu Fundația de cercetare Sooam Biotech din Coreea de Sud și Academia Chineză de Științe din Tianjin, China de Nord. Volumul producției de vaci clonate, potrivit oamenilor de știință, până în 2020 se va ridica la un milion pe an. În viitor, „fabrica de clone” intenționează, de asemenea, să se angajeze în producția de cai de curse și câini de poliție cu abilități specializate (simțul crescut al mirosului și căutării). Un alt domeniu de interes pentru întreprindere este clonarea primatelor pentru experimente medicale. Prin urmare, declarația conducerii viitoarei fabrici despre disponibilitatea sa de a trece de la primate la oameni a devenit logică.„Tehnologia este deja acolo. Dacă este permis oficial, nu cred că cineva va face față mai bine decât Boyalife”, a declarat reporterilor Xu Xiaochong, directorul executiv al viitoarei fabrici. El a subliniat că compania nu a efectuat niciun experiment în domeniul clonării umane.
Și totuși, în ciuda nevoii de a aborda problemele etice, conform Bessen, crearea genomului uman este încă un vis. Astăzi, nu există nici un mod eficient de a transplanta un genom artificial într-o celulă umană. Chiar și cele mai impresionante realizări în această privință, cum ar fi proiectul „drojdie” al doctorului Bouquet, sunt de sute de ori mai mici la scară decât provocarea actuală. Fabricarea genomului muștei sau nematodului fructului este de zece ori mai ușor și mai sigur din punct de vedere al eticii, poate răspunde la aceleași întrebări pe care doresc să le obțină sintetizând genomul uman”, consideră biologul molecular.
"Ultima cină" de la Harvard, a spus el, a expus o altă problemă în știința modernă - conservatorismul său. Jurnaliștii au aflat despre proiect pe internet, în rețelele de socializare. Informațiile oficiale au un drum lung de parcurs. „Odată ce eu și colegii mei am așteptat șase luni pentru publicarea publicației științifice necesare”, adaugă Bessen. Potrivit savantului, colegii săi trebuie acum să găsească un echilibru între controlul publicațiilor și dreptul jurnaliștilor de a-și face treaba, ceea ce afectează în cele din urmă informațiile științifice.
Alexandru Kornev
