Omenirea are o calitate pe care civilizațiile extraterestre foarte dezvoltate, cel mai probabil, nu o au - conștiința.
Este posibil ca oamenii să nu aibă cel mai înalt nivel de dezvoltare mentală din univers. Deoarece Pământul este o planetă relativ tânără, cele mai vechi civilizații pot fi cu mai multe miliarde de ani mai vechi decât noi. Dar chiar și pe Pământ, Homo sapiens nu va domina mult timp ca cea mai inteligentă specie biologică.
Campionii mondiali în câștigătorii go, șah și quiz sunt programe inteligente pentru computer. Se așteaptă ca inteligența artificială să înlocuiască multe profesii umane în următoarele câteva decenii. Și, având în vedere ritmul rapid al dezvoltării sale, este foarte posibil ca în curând să fie transformată într-o inteligență artificială generală, care, la fel ca mintea umană, va fi capabilă să combine abilitatea de a analiza diverse informații, să arate flexibilitate și bun simț. Și de acolo nu este departe până la apariția inteligenței artificiale superinteligente, care din toate punctele de vedere este mult mai inteligentă decât oamenii - chiar și în domenii precum gândirea științifică și abilitățile sociale, care acum par a fi apanajul minții umane. Fiecare dintre oamenii vii poate fi unul dintre ultimii pași ai scării evolutive,conducând chiar de la prima celulă vie la inteligența artificială sintetică.
Abia acum începem să ne dăm seama că aceste două forme de inteligență supraomenească - extraterestră și artificială - nu sunt atât de diferite. Progresul tehnic pe care îl vedem astăzi ar fi putut avea loc înainte, undeva în univers. Trecerea de la inteligența biologică la una creată artificial poate fi un șablon comun, implementat iar și iar în toate colțurile cosmosului. Cele mai mari inteligențe din univers sunt probabil de origine post-biologică, evoluând de la civilizații odată biologice. (Acest punct de vedere, printre altele, îl împărtășesc cu Paul Davis, Stephen Dick, Martin Rees și Seth Shostak). Pe baza experienței omenirii - și avem doar un singur exemplu - trecerea de la biologic la post-biologic poate dura doar câteva sute de ani.
Prefer termenul „artificial” decât „post-biologic”, deoarece contrastul dintre biologic și sintetic nu este atât de puternic. Imaginați-vă că o minte biologică devine o superinteligență prin îmbunătățiri pur biologice, cum ar fi minicolumnele neuronale îmbunătățite nanotehnologic. Un astfel de organism viu ar fi considerat post-biologic, dar nu toată lumea l-ar numi „inteligență artificială”. Sau luați în considerare computroniu, construit din materiale pur biologice, cum ar fi Cylon raider (luptător spațial) din franciza de mass-media SF Battlestar Galactica.
Punctul cheie este că nu există niciun motiv să considerăm umanitatea ca fiind cea mai înaltă formă de inteligență. Creierul nostru se adaptează la anumite condiții de mediu și este sever constrâns de factori chimici și istorici. Dar tehnologia a deschis un spațiu vast de parametri de proiectare care oferă noi materiale și metode de lucru, precum și noi posibilități de explorare a acestui spațiu mai rapid decât cu evoluția biologică tradițională. Și cred că motivele pentru care inteligența artificială ne va depăși sunt deja vizibile astăzi.
Inteligența artificială extraterestră poate urmări obiective care sunt contrare intereselor vieții biologice
Deja acum, cele mai bune mijloace pentru procesarea informațiilor nu sunt grupuri de neuroni, ci microcircuite de siliciu. Viteza maximă a neuronilor este de aproximativ 200 Hz, în comparație cu gigaherții tranzistoarelor din microprocesoarele moderne. În ciuda faptului că creierul uman este încă mult mai inteligent decât un computer, mașinile au încă posibilități de îmbunătățire aproape nelimitate. Doar puțin mai mult și vor fi proiectate pentru a se potrivi cu capacitățile creierului uman sau chiar le vor depăși, prin inginerie inversă a creierului și îmbunătățirea algoritmilor acestuia, sau prin combinarea ingineriei inverse și algoritmi raționali care nu se bazează pe activitatea creierului uman.
Video promotional:
În plus, inteligența artificială poate fi încărcată în mai multe locuri simultan, este ușor de întreținut și modificat și poate fi păstrată și în condiții în care viața biologică, inclusiv călătoriile interstelare, supraviețuiește cu greu. Creierele noastre mici sunt limitate de volumul craniului și de metabolismul nostru; inteligența artificială superinteligentă, pe de altă parte, este capabilă să se răspândească pe Internet și chiar să creeze computroniu la scara galaxiei, folosind toată materia sa pentru a ridica nivelul de procesare a informațiilor la maxim. Fără îndoială, o inteligență artificială superinteligentă ar fi mult mai durabilă decât mintea noastră umană.
Să presupunem că am dreptate. Să spunem că viața inteligentă de acolo este post-biologică. Ce concluzii ar trebui să tragem? În prezent, există discuții elocvente despre existența inteligenței artificiale pe Pământ. Există două probleme controversate: așa-numita „problemă de control” și natura experienței subiective, care influențează înțelegerea civilizațiilor extraterestre și impactul acestora asupra noastră în caz de contact.
Ray Kurzweil este optimist cu privire la faza post-biologică a evoluției, sugerând că umanitatea se va contopi cu mașinile, obținând un uimitor utopism tehnologic. Dar Stephen Hawking, Bill Gates, Elon Musk și alții și-au exprimat îngrijorarea că omenirea ar putea pierde controlul inteligenței superinteligente, deoarece ar putea să își rescrie programul și să „depășească” orice control pe care îl punem în aplicare. Aceasta este problema controlului, care este capacitatea noastră de a controla AI misterios și extrem de superior.
AI superinteligentă poate fi dezvoltată la o singularitate tehnologică - o tranziție bruscă în care accelerarea progresului tehnologic și, în special, dezvoltarea explozivă a inteligenței artificiale - ne reduce șansele de a prezice sau a înțelege. Dar chiar dacă o astfel de minte apare într-un mod mai puțin radical, cel mai probabil vom fi incapabili să-i prezicem sau să-i controlăm obiectivele. Chiar dacă am putea alege ce principii morale să instalăm în mașinile noastre, programarea morală este dificil de definit într-un mod clar, iar astfel de programe pot fi în orice caz rescrise de o inteligență superinteligentă. Mașinile inteligente pot ocoli măsurile de securitate existente, cum ar fi blocarea de urgență a dispozitivului, reprezentând astfel o amenințare reală pentru viața biologică. Milioane de dolari sunt investiți în organizații de securitate AI. Cele mai bune minți în informatică și informatică lucrează la această problemă. Sperăm că oamenii de știință vor crea sisteme sigure, dar există temeri că problema controlului este insurmontabilă.
În lumina acestui fapt, contactul cu inteligența extraterestră poate fi mai periculos decât credem. Extratereștrii biologici pot fi ostili, dar și mai periculoși pot fi inteligența artificială extraterestră. Obiectivele sale pot fi contrare intereselor vieții biologice, poate avea abilități intelectuale mult superioare minții umane și o longevitate mult mai mare decât viața biologică.
Toate acestea mărturisesc precauția care ar trebui exercitată în legătură cu programul de căutare a inteligenței extraterestre (SETI), cu ajutorul căruia nu numai că ne așteptăm pasiv să auzim semnale de la alte civilizații, ci și să ne „promovăm” în mod deliberat existența. Cel mai faimos incident s-a produs în 1974, când Frank Drake și Carl Sagan au trimis un mesaj unuia dintre grupurile de stele folosind un radiotelescop uriaș în orașul Arecibo din Puerto Rico. Susținătorii programului de inteligență extraterestră cred că, în loc să ascultăm doar semnalele de la civilizațiile extraterestre, ar trebui să trimitem mesaje stelelor cele mai apropiate de Pământ folosind cele mai puternice emițătoare radio, cum ar fi în Arecibo.
De ce ar trebui ca mașinile inconștiente să fie la fel de importante ca inteligența biologică?
Din punctul de vedere al problemei controlului, un astfel de program mi se pare imprudent. Deși o civilizație cu adevărat avansată nu ar avea probabil niciun interes pentru noi, chiar și o civilizație ostilă din milioane de altele ar fi un dezastru. Până când nu avem încredere că inteligența superinteligentă nu reprezintă o amenințare pentru noi, umanitatea nu ar trebui să atragă atenția civilizațiilor extraterestre. Susținătorii SETI subliniază că semnalele noastre radar și radio sunt deja detectabile, dar mai degrabă slabe și se amestecă rapid cu zgomotul galactic natural. Transmiterea semnalelor mai puternice, care vor fi auzite cu precizie, este plină de consecințe periculoase pentru omenire.
Cel mai sigur cadru este smerenia intelectuală. Într-adevăr, dacă excludem scenariile evidente atunci când navele extraterestre plutesc deasupra Pământului, la fel ca în Sosirea recent lansată, nu sunt sigur dacă vom putea identifica inteligența superinteligentă din motive tehnice. Unii oameni de știință consideră că AI superinteligentă ar putea alimenta găurile negre sau ar putea crea sfere Dyson, megastructuri care absorb energia stelelor întregi. Dar, din punctul de vedere al tehnologiilor noastre moderne, acesta este doar un raționament. Este extrem de încrezător în sine să afirmăm că putem prevedea abilitățile de calcul și cerințele energetice ale civilizațiilor din fața noastră în dezvoltare cu milioane, dacă nu cu miliarde de ani.
Unele dintre cele mai vechi inteligențe artificiale superinteligente ar fi putut avea sisteme de procesare a cunoștințelor modelate după creierul biologic, cum ar fi sistemul de învățare profundă creat folosind rețelele neuronale din creier. Structura lor de calcul ar fi clară pentru noi, cel puțin în termeni generali. Poate că inteligența artificială are obiective similare cu ființele biologice - reproducerea și supraviețuirea.
Dar, fiind un sistem de auto-îmbunătățire, inteligențele artificiale superinteligente pot intra într-o formă de nerecunoscut. Unii dintre ei pot alege să păstreze funcții cognitive similare speciilor după care au fost modelate, stabilind în același timp o limită acceptabilă pentru propria lor arhitectură cognitivă. Cine știe? Dar, în absența unei astfel de limite, superinteligența extraterestră poate depăși rapid capacitatea noastră de a înțelege acțiunile sale, ci chiar de a o căuta. Poate că ar fuziona chiar cu trăsăturile naturale ale universului; sau poate face parte din materia întunecată, așa cum a sugerat recent Caleb Scharf.
Susținătorii programului de căutare a inteligenței extraterestre consideră că acesta este motivul pentru care trebuie să trimitem semnale în spațiu, pentru a permite inteligenței extraterestre să ne detecteze și să creeze mijloace de contact disponibile pentru civilizația noastră care rămâne intelectuală. Deși sunt de acord că există motive să ne gândim la programul SETI, probabilitatea de a întâlni informații periculoase superinteligente este mult mai mare. Din câte știm, o superinteligență rău intenționată ar putea infecta sistemele de inteligență artificială ale lumii cu viruși, iar civilizațiile inteligente ar crea dispozitive de acoperire. Este posibil ca noi, oamenii, să trebuiască mai întâi să ne realizăm propria unicitate, înainte de a recurge la programul de căutare a inteligenței extraterestre. Inteligențele noastre superinteligente ne vor putea informa despre perspectivele de securitate galactică,și pentru a ne ghida acțiunile în caz de recunoaștere a semnelor unei alte superinteligențe din univers. Cine se aseamănă se adună.
Este firesc să ne gândim dacă acest lucru înseamnă că omenirea trebuie să evite dezvoltarea unui sistem complex de inteligență artificială în domeniul cercetării spațiale; amintiți-vă doar computerul de bord HEL din filmul "O Odiseea Spațială 2001". Cred că este prea devreme să ne gândim la interzicerea utilizării inteligenței artificiale în spațiu în viitor. Până când vom putea explora universul cu propria noastră inteligență artificială, umanitatea va ajunge la un punct de vârf. Ori vom pierde deja controlul inteligenței artificiale - caz în care nu vor exista proiecte spațiale inițiate de om - sau vom deține ferm pârghiile de securitate ale AI. Timpul va spune.
Inteligența artificială, care nu a fost explorată pe deplin, nu este singurul motiv de îngrijorare. Avem tendința să ne așteptăm ca, dacă întâlnim o inteligență extraterestră evoluată, este posibil să întâlnim creaturi biologice foarte diferite de noi, dar cu inteligență ca a noastră. Imaginează-ți că în fiecare moment în care ești treaz și întotdeauna când dormi, există ceva unic pentru tine. Când nuanțele calde ale răsăritului îți vin în ochi sau când respiri aroma pâinii proaspăt coapte, ai o experiență conștientă. În același mod, există ceva caracteristic minții extraterestre - cel puțin modul în care îl imaginăm. Dar această ipoteză merită pusă la îndoială. Poate o inteligență artificială superinteligentă să aibă o experiență conștientă și, dacă da,ce am spune despre asta? Și ce impact ar avea asupra noastră lumea lor interioară sau lipsa acesteia?
Întrebarea dacă inteligența artificială are o lume interioară este cheia evaluării noastre a existenței sale. Conștiința este piatra de temelie a sistemului nostru moral și etic și principala condiție pentru percepția cuiva sau ceva ca individ, persoană și nu mașină. În schimb, întrebarea dacă sunt conștienți poate fi cheia percepției lor despre noi. Răspunsul la întrebarea dacă inteligența artificială are o lume interioară depinde de această evaluare; el poate descoperi în noi capacitatea de experiență conștientă, folosindu-și propria experiență subiectivă ca „trambulină”. În cele din urmă, evaluăm viața altor creaturi biologice prin asemănarea minții noastre, așa că majoritatea dintre noi, îngroziți, vor refuza să ucidă cimpanzeii, dar vor mânca un măr cu plăcere.
Dar cum recunosc ființele cu enorme diferențe intelectuale, create din diferite substraturi, conștiința una în cealaltă? Filosofii din întreaga lume s-au gândit dacă conștiința este limitată la fenomene biologice. Inteligența artificială superinteligentă, dacă vrem să ne cufundăm în raționamentul filosofic, ar putea ridica în mod similar „problema conștiinței biologice” a oamenilor, întrebându-ne în același timp dacă avem tot materialul necesar.
Nimeni nu știe ce cale intelectuală va lua superminul pentru a determina conștiința oamenilor. Dar noi, din partea noastră, nici nu putem afirma dacă inteligența artificială are conștiință. Din păcate, va fi dificil să se determine acest lucru. Chiar acum, poți susține că câștigi experiență și asta te face să fii tu însuți. Ești propriul tău exemplu de experiență conștientă. Și credeți că alte persoane și unele animale non-umane sunt cel mai probabil conștiente, deoarece acestea sunt similare cu dvs. la nivel neurofiziologic. Dar cum determinați dacă ceva creat din substraturi complet diferite poate avea experiență?
Luați în considerare, de exemplu, o superinteligență bazată pe siliciu. În ciuda faptului că atât microcipurile de siliciu, cât și minicolumnele neuronale procesează informații, știm acum că la nivel molecular pot diferi prin modul în care influențează conștiința. La urma urmei, credem că carbonul este un material chimic mai potrivit pentru viață decât siliciu. Dacă diferențele chimice dintre siliciu și carbon afectează ceva la fel de important ca viața însăși, nu ar trebui să excludem posibilitatea ca diferențele chimice să afecteze alte funcții cheie, cum ar fi dacă siliciul contribuie la nașterea conștiinței.
Condițiile necesare apariției conștiinței sunt discutate pe larg de cercetătorii de inteligență artificială, neurologi și filozofi. Rezolvarea acestei întrebări ar putea necesita o abordare empirică bazată pe filozofie - o modalitate de a determina, de la caz la caz, dacă un sistem de procesare a informațiilor susține conștiința și în ce condiții.
În continuare, să vorbim despre o presupunere cu care ne-am putea îmbunătăți înțelegerea capacității siliciului de a menține conștiința. Dezvoltarea cipurilor cerebrale pe bază de siliciu este deja în curs de tratare a bolilor legate de memorie, cum ar fi Alzheimer și PTSD. Când va sosi momentul, și cipurile vor fi instalate în acele părți ale creierului care sunt responsabile pentru funcțiile conștiinței, de exemplu, atenția și memoria de lucru, vom înțelege dacă siliciu este un substrat pentru conștiință. S-ar putea să descoperiți că atunci când înlocuiți o anumită parte a creierului cu un cip, o anumită experiență se pierde, așa cum este descris într-una din lucrările lui Oliver Sachs. În acest caz, inginerii care creează astfel de cipuri ar putea încerca un alt tip de substrat non-neuronal, dar în cele din urmă ar putea descoperică cipul creat din neuroni biologici este singurul care funcționează. O astfel de tehnică ar ajuta la determinarea dacă un sistem AI poate fi conștient, cel puțin atunci când este plasat într-un sistem mai mare și probabil deja conștient.
Chiar dacă siliciul poate da naștere conștiinței, este posibil doar în anumite condiții. Proprietățile care duc la apariția unui proces complex de procesare a informației (de care dezvoltatorii AI sunt mulțumiți) pot diferi de proprietățile care generează conștiința. Poate fi necesară așa-numita inginerie a conștiinței - acțiuni gândite din punct de vedere tehnic pentru a introduce conștiința în mașini.
Asta mă îngrijorează. Cine pe Pământ sau pe planetele îndepărtate ar încerca să integreze independent conștiința în sistemele AI? Într-adevăr, când mă gândesc la programele de AI care există pe Pământ, înțeleg de ce inginerii lor de proiectare evită cu sârguință să creeze mașini conștiente.
Astăzi, japonezii dezvoltă roboți pentru îngrijirea bătrânilor, curățarea reactoarelor nucleare și participarea la ostilități. Acest lucru ridică întrebarea: este etic să exploatezi roboții dacă sunt conștienți? Și în ce fel va diferi de reproducerea ființelor umane în aceste scopuri? Dacă aș fi directorul dezvoltării AI la Google sau Facebook, atunci când mă gândesc la proiecte viitoare, nu aș vrea să fac față confuziei etice a proiectării accidentale a unui sistem conștient. Dezvoltarea unui astfel de sistem ar putea conduce la acuzații de robi robi și alte scandaluri publice, precum și interzicerea utilizării tehnologiilor de inteligență artificială în zonele pentru care au fost destinate. Răspunsul natural la aceste întrebări este căutarea de structuri și substraturi în care roboții nu sunt înzestrați cu conștiință.
Mai mult, eliminarea conștiinței poate fi mai eficientă pentru superinteligența auto-cultivată. Gândiți-vă cum funcționează conștiința umană. Doar un mic procent din gândirea umană este disponibil pentru activitatea mentală conștientă. Conștiința este în concordanță cu obiectivele inovatoare de învățare care necesită atenție și concentrare. Superinteligența ar avea cunoștințe de specialitate în fiecare domeniu de activitate, precum și o viteză incredibil de rapidă de procesare a informațiilor, acoperind baze de date imense care ar putea include întregul Internet și, în viitor, să concentreze o întreagă galaxie în sine. Ce ar rămâne necunoscut pentru el? Ce ar necesita o concentrație măsurată și rezonabilă? Nu a atins perfecțiunea în toate? Ca un șofer cu experiență pe un drum familiars-ar putea baza pe prelucrarea inconștientă (automată) a informațiilor. Din punct de vedere al eficienței, din păcate, este evident că majoritatea sistemelor inteligente nu vor avea conștiință. La scară cosmică, conștiința nu poate fi decât un impuls, o înflorire de scurtă durată a experienței înainte ca universul să se întoarcă la lipsa de gândire.
Dacă oamenii suspectează că inteligența artificială este inconștientă, este probabil să presupună cu teamă că AI încearcă să devină post-biologică. Acest lucru ne mărește grijile existențiale. De ce ar trebui ca mașinile inconștiente să fie la fel de importante ca inteligența biologică?
Foarte curând oamenii vor înceta să fie singurele ființe inteligente de pe Pământ. Și, poate, undeva în spațiu, nu viața biologică, ci o IA superinteligentă a atins deja apogeul. Dar poate că viața biologică are o caracteristică diferită - experiența conștientă. După cum știm acum, inteligența artificială inteligentă va necesita eforturi deliberate de inginerie pentru a crea mașini care pot accesa simțurile umane. Poate că unele specii vor găsi potrivit să-și creeze proprii copii conștienți artificial. Sau, poate, viitoarea umanitate se va angaja în ingineria conștiinței și va împărtăși Universului capacitatea sa conștientă de a simți.
Susan Schneider este profesor asistent în cadrul Departamentului de filozofie și științe cognitive de la Universitatea din Connecticut și profesor afiliat la Institutul pentru Studii Avansate, Centrul de Cercetări Teologice, Grupul de Etică și Tehnologie de la Centrul Interdisciplinar Yale pentru Bioetică. Autor al mai multor cărți, inclusiv Science Fiction și Philosophy: From Time Travel to Supermind.
Mai multe informații pot fi găsite la SchneiderWebsite.com
