Odată cu accelerarea progresului tehnologic, umanitatea poate aborda rapid un punct critic al dezvoltării sale. Pe lângă amenințările cunoscute precum holocaustul nuclear, perspectiva avansării rapide a tehnologiilor precum nanosistemele și informațiile despre mașini ne prezintă oportunități și riscuri fără precedent. Viitorul nostru și dacă vom avea un viitor depinde în totalitate de modul în care abordăm aceste provocări. Odată cu avansarea rapidă a tehnologiei, avem nevoie de o mai bună înțelegere a dinamicii tranziției de la societatea umană la „post-umană”. Este deosebit de important să știm unde se află capcanele: căi în care lucrurile pot merge greșit.
În timp ce avem o istorie lungă de expunere la o varietate de riscuri personale, locale și transferabile la nivel mondial, acest articol analizează o categorie recent emergentă: riscuri existențiale. Este ceea ce numim riscuri ale evenimentelor care pot duce la dispariția noastră sau la deteriorarea cardiacă a potențialului vieții inteligente care s-a dezvoltat pe Pământ. Unele dintre aceste pericole sunt relativ cunoscute, în timp ce altele sunt complet trecute cu vederea. Amenințările de existență au o serie de caracteristici care fac ineficientă gestionarea convențională a riscurilor în acest caz. Capitolul final al acestui articol discută unele dintre implicațiile etice și politice ale acestei probleme. O înțelegere mai clară a peisajului amenințării ne va permite să formulăm strategii mai bune.
Viața este periculoasă și pericolul este peste tot. Din fericire, nu toate riscurile sunt la fel de grave. În scopurile noastre, putem utiliza trei dimensiuni pentru a descrie riscurile: scala, intensitatea și probabilitatea. Prin „scară” mă refer la mărimea grupului de persoane cu risc. Prin „intensitate” mă refer la cât de mult se va face rău fiecărui individ din grup. Și prin „probabilitate” mă refer la cea mai bună estimare subiectivă actuală a probabilității unui rezultat negativ.
1. Tipologia riscurilor
Putem distinge șase grupuri de riscuri calitative diferite, în funcție de scara și intensitatea acestora (tabelul 1). O a treia dimensiune, probabilitatea, poate fi suprapusă acestor două dimensiuni. Toate lucrurile fiind egale, un risc este mai grav dacă are o probabilitate semnificativă și dacă acțiunile noastre pot crește sau scădea.
Scară / Intensitate: Intensitate portabilă Intensitate letală
epuizarea globală a ozonului X
Video promotional:
declin economic local în țară Genocid
Moarte cu furt personal cu mașina
„Personal”, „local” sau „global” se referă la mărimea populației care este direct afectată; riscul global afectează întreaga umanitate (și descendenții noștri). „Intensitatea riscului tolerabil” și „intensitatea letală” se referă la cât de grav va fi afectată populația cu risc. Riscul tolerabil poate duce, de asemenea, la o mare distrugere, dar rămâne posibilitatea de a recupera de la daune sau de a găsi modalități de a depăși consecințele negative. În schimb, riscul final este acel risc atunci când obiectele expuse fie mor fie sunt deteriorate ireversibil în așa fel încât își reduc radical potențialul de a trăi viața pe care caută să o trăiască. În cazul riscurilor personale, rezultatul final poate fi, de exemplu, moartea, leziuni cerebrale grave ireversibile,sau închisoare pe viață. Un exemplu de risc localizat de deces poate fi genocidul, ceea ce duce la distrugerea unui întreg popor (ceea ce s-a întâmplat cu mai multe popoare indiene). Un alt exemplu este convertirea în sclavie eternă.
2. Riscuri de existență
În acest articol vom discuta despre riscurile din a șasea categorie, care este marcată în tabel ca X. Aceasta este o categorie de riscuri mortale globale. Le voi numi amenințări existențiale.
Amenințările de existență sunt diferite de riscurile globale tolerabile. Exemple din acestea sunt: amenințări la adresa biodiversității ecosferei terestre, încălzire globală moderată (și chiar grozavă) și, eventual, înăbușirea unor perioade culturale și religioase, cum ar fi „epocile întunecate”, chiar dacă acestea acoperă întreaga societate, dacă se termină mai devreme sau mai târziu (deși vezi capitolul Screech de mai jos). A spune că un risc global este tolerabil este, evident, nu înseamnă că este acceptabil sau nu este foarte grav. Un război mondial cu arme convenționale sau un deceniu al Reichului în stil nazist vor fi evenimente extrem de groaznice, în ciuda faptului că acestea se încadrează în categoria riscurilor globale tolerabile, deoarece umanitatea se poate recupera în cele din urmă. (Pe de altă parte,aceste evenimente vor reprezenta un risc local de deces pentru multe persoane și pentru grupurile etnice persecutate.)
Voi folosi următoarea definiție a riscului existențial:
O amenințare la existență este un risc în care un rezultat negativ fie distruge viața inteligentă care a apărut pe Pământ, fie reduce ireversibil și semnificativ potențialul acesteia.
Existența este un risc care amenință umanitatea în ansamblu. Astfel de catastrofe au consecințe negative uriașe pentru întregul viitor al civilizației pământești.
3. Unicitatea problemei amenințărilor la existență
Riscurile din această a șasea categorie au apărut recent. Acesta este unul dintre motivele pentru care este util să le separați într-o categorie separată. Nu am dezvoltat mecanisme, naturale sau culturale, pentru a face față acestor riscuri. Instituțiile și strategiile noastre defensive s-au conturat prin confruntarea cu riscuri precum animale periculoase, persoane ostile sau triburi, alimente otrăvite, accidente auto, Cernobâl, Bhopal, erupții vulcanice, cutremure, secetă, Primul Război Mondial, Al Doilea Război Mondial, epidemii de gripă, variolă, ciuma neagră și SIDA. Acest tip de dezastru s-a întâmplat de multe ori, iar atitudinea noastră culturală față de risc s-a format prin încercări și erori în gestionarea unor astfel de amenințări. Dar fiind o tragedie direct pentru participanții la aceste evenimente,din punct de vedere larg - din punctul de vedere al întregii omeniri - chiar și cele mai cumplite dintre aceste catastrofe au fost doar ondulări pe suprafața marii mări a vieții. Nu au afectat în mod semnificativ numărul total de oameni fericiți și suferinzi și nici nu au determinat soarta pe termen lung a speciei noastre.
Cu excepția cometelor care distrug speciile și a coliziunilor de asteroizi (care sunt extrem de rare), probabil că nu au existat amenințări semnificative pentru existență până la jumătatea secolului XX, și nu puteam face cu siguranță nimic despre ele.
Prima bombă atomică creată de om a fost prima bombă atomică. La acea vreme, exista o anumită îngrijorare că explozia ar fi declanșat o reacție în lanț prin „aprinderea focului” în atmosferă. Deși acum știm că un astfel de rezultat era imposibil din punct de vedere fizic, la acea vreme această presupunere era în concordanță cu definiția unei amenințări existențiale. Pentru ca ceva să fie un risc, bazat pe cunoștințele și înțelegerea disponibile, este suficient să existe o probabilitate subiectivă a unui rezultat nefavorabil, chiar dacă mai târziu se dovedește că în mod obiectiv nu există o singură șansă ca ceva rău să se întâmple. Dacă nu știm dacă ceva este riscant în mod obiectiv, este riscant în sens subiectiv. Acest sens subiectiv este, desigur, pe ce ar trebui să ne bazăm deciziile. În orice moment, trebuie să utilizăm cea mai bună evaluare subiectivă a noastrăcare sunt factorii de risc obiectivi.
O amenințare mult mai mare la existență a apărut simultan cu apariția arsenalelor nucleare în URSS și SUA. Un război nuclear cu drepturi depline a fost posibil cu un grad semnificativ de probabilitate și cu consecințe care ar putea fi atât de persistente încât să fie caracterizate drept globale și finale. Printre persoanele cunoscute cel mai bine cu informațiile disponibile la acea vreme, a existat o îngrijorare reală că ar putea să se întâmple un Armageddon nuclear și că ar putea șterge speciile noastre sau să distrugă civilizația umană în permanență. într-o confruntare viitoare, accidental sau intenționat. Există, de asemenea, riscul ca într-o bună zi să creeze alte arsenale mari. Rețineți, însă, că un mic schimb de atacuri nucleare, de exemplu, între India și Pakistan,nu este o amenințare pentru existență, deoarece nu va distruge umanitatea și va dăuna ireversibil potențialului uman. Cu toate acestea, un astfel de război ar reprezenta un risc mortal local pentru acele orașe. Din păcate, vom vedea că Armageddonul nuclear și impactul cometar sau asteroid sunt doar un preludiu al amenințărilor la existență în secolul XXI.
Natura specială a provocărilor provocate de amenințările existențiale poate fi ilustrată prin următoarele observații.
Abordarea noastră asupra amenințărilor existențiale nu se poate baza pe încercări și erori. Nu există nicio modalitate de a învăța din greșeli. Abordarea reactivă - urmărirea a ceea ce s-a întâmplat, limitarea daunelor și învățarea din experiență - nu funcționează. Mai degrabă, trebuie să adoptăm o abordare proactivă. Aceasta necesită o perspectivă pentru a detecta noi tipuri de riscuri și dorința de a lua măsuri preventive decisive și de a-și plăti costurile morale și economice.
Nu ne putem baza cu încredere pe instituțiile noastre, standardele morale, atitudinile sociale sau politicile naționale de securitate care au evoluat din experiența noastră în gestionarea altor tipuri de riscuri. Amenințările de existență sunt o bestie diferită. Este dificil pentru noi să le luăm atât de în serios pe cât merită, întrucât nu am mai întâmpinat astfel de dezastre. Răspunsul nostru colectiv de teamă este probabil slab calibrat la scara amenințării.
Reducerea amenințărilor existențiale este un bun public general (Kaul, 1999) și, prin urmare, nu poate fi furnizat în mod adecvat de către piață (Feldman, 1980). Amenințările de existență reprezintă o amenințare pentru toți și pot necesita un răspuns internațional. Respectul suveranității naționale nu este o scuză legitimă pentru a nu lua măsuri împotriva unor existențe critice.
Dacă luăm în considerare bunăstarea generațiilor viitoare, atunci daunele cauzate de amenințările existențiale sunt înmulțite cu un alt factor, care depinde de dacă și de cât de multe beneficii viitoare sunt luate în considerare (Caplin, Leahy 2000; Schelling 2000: 833-837).
Este surprinzător, având în vedere importanța incontestabilă a subiectului, cât de puțină muncă sistematică a fost realizată în acest domeniu. Acest lucru se datorează în parte faptului că cele mai grave riscuri apar (așa cum vom arăta mai târziu) din tehnologiile viitoare anticipate pe care abia de curând am început să le înțelegem. O altă parte a explicației poate fi caracterul inevitabil interdisciplinar și speculativ al subiectului de cercetare. Și în parte, neglijarea poate fi atribuită unei reticențe de a gândi serios despre subiecte depresive. Aceasta nu înseamnă că ar trebui să ne descurajăm, ci că trebuie să aruncăm o privire grea asupra a ceea ce poate merge prost, astfel încât să putem crea strategii solide pentru a ne îmbunătăți șansele de supraviețuire. Pentru a face acest lucru, trebuie să știm unde să ne concentrăm eforturile.
4. Clasificarea riscurilor pentru existență
Vom folosi următoarele 4 categorii pentru a clasifica riscurile existențiale:
Explozii (Bangs) - Viața inteligentă care a apărut pe Pământ este exterminată ca urmare a unei catastrofe relativ bruște, care poate apărea fie ca urmare a unui accident, fie ca intenționat.
Crunches - Abilitatea umanității de a evolua spre postumanitate este ireversibil deteriorată, deși oamenii continuă să trăiască cumva.
Strigături - Se va realiza o anumită formă de postumanitate, dar va fi doar o fracțiune extrem de restrânsă din spectrul a ceea ce este posibil și dorit.
Whimpers - Civilizația postumană apare, dar se dezvoltă într-o direcție care duce treptat, dar irevocabil, la dispariția completă a lucrurilor pe care le prețuim sau la o stare în care aceste valori sunt realizate doar într-o mică măsură de la nivelul care ar putea fi atins.
Înarmat cu o astfel de clasificare, putem începe să analizăm cele mai probabile scenarii din fiecare categorie. De asemenea, definițiile vor deveni mai clare pe măsură ce progresăm.
Datorită accelerării progresului tehnologic, umanitatea se apropie de un punct critic în dezvoltarea sa. Pe lângă amenințările cunoscute precum holocaustul nuclear, perspectiva tehnologiilor în evoluție rapidă, cum ar fi nanosistemele și informațiile despre mașină, ne prezintă oportunități și riscuri fără precedent. Viitorul nostru și dacă vom avea un viitor depinde de modul în care abordăm aceste provocări. Odată cu avansarea rapidă a tehnologiei, avem nevoie de o mai bună înțelegere a dinamicii tranziției de la societatea umană la „post-umană”. Este important să știți unde sunt amplasate capcanele: căi în care lucrurile pot merge greșit.
În timp ce avem o istorie lungă de expunere la o varietate de riscuri personale, locale și transferabile la nivel mondial, acest articol analizează o categorie recent emergentă: riscuri existențiale. Aceasta este ceea ce numim riscuri ale evenimentelor care pot duce la dispariția umană sau la deteriorarea cardiacă a potențialului vieții inteligente care s-a dezvoltat pe Pământ. Unele dintre aceste pericole sunt relativ cunoscute, în timp ce altele sunt trecute cu vederea. Amenințările de existență au o serie de caracteristici care fac ca gestionarea convențională a riscurilor să fie ineficientă în acest caz. Capitolul final al acestui articol discută unele dintre implicațiile etice și politice ale acestei probleme. O înțelegere mai clară a peisajului amenințării ne va permite să formulăm strategiile principale.
Este periculos să trăiești, iar pericolul este peste tot. Din fericire, nu toate riscurile sunt la fel de grave. În scopurile noastre, folosim trei dimensiuni pentru a descrie riscurile: scara, intensitatea și probabilitatea. Prin „scară” mă refer la mărimea grupului de persoane cu risc. Prin „intensitate” mă refer la cât de mult se va face rău fiecărui individ din grup. Și prin „probabilitate” mă refer la cea mai bună estimare subiectivă actuală a probabilității unui rezultat negativ.
5. Tipologia riscurilor
Există șase grupuri de riscuri, în funcție de scară și intensitate.
Scară / Intensitate: Intensitate suportabilă / Intensitate letală
global / epuizarea ozonului, X
declin local / economic în țară, Genocid
Furt personal / Mașină, Moarte
O a treia dimensiune, probabilitatea, poate fi suprapusă acestor două dimensiuni. Toate lucrurile fiind egale, un risc este mai grav dacă are o probabilitate semnificativă și dacă acțiunile noastre îl pot crește sau micșora.
„Personal”, „local” sau „global” se referă la mărimea populației care este direct afectată; riscul global afectează întreaga umanitate (și descendenții). „Intensitatea riscului tolerabil” și „intensitatea letală” se referă la cât de grav va fi afectată populația cu risc. Riscul tolerabil poate duce și la distrugere, dar rămâne posibilitatea de a recupera din pagube sau de a găsi modalități de a depăși consecințele negative. În schimb, riscul final este acel risc atunci când obiectele expuse fie mor fie sunt deteriorate ireversibil în așa fel încât își reduc potențialul de a trăi viața pe care caută să o trăiască. Pentru riscurile personale, rezultatul final este moartea, ireversibilul, leziunile cerebrale grave sau închisoarea pe viață. Un exemplu de risc mortal local este genocidul care duce la distrugerea unui popor (ceea ce s-a întâmplat cu mai multe popoare indiene). Un alt exemplu este convertirea în sclavie eternă.
Riscuri de existență
În acest articol vom discuta despre riscurile din a șasea categorie, care este marcată în tabel ca X. Aceasta este o categorie de riscuri mortale globale. Le voi numi amenințări existențiale.
Amenințările de existență sunt diferite de riscurile globale tolerabile. Exemple din urmă sunt: amenințări la adresa biodiversității ecosferei terestre, încălzire globală moderată (și chiar grozavă) și, eventual, înăbușirea unor perioade culturale și religioase, cum ar fi „epocile întunecate”, chiar dacă acestea acoperă întreaga societate, dacă se termină mai devreme sau mai târziu (deși vezi capitolul Screech de mai jos). A spune că un risc global este tolerabil, evident, nu înseamnă a spune că este acceptabil sau nu grav.
Un război mondial cu arme standard sau un deceniu al Reichului în stil nazist vor fi evenimente extrem de groaznice, în ciuda faptului că acestea se încadrează în categoria riscurilor globale tolerabile, deoarece umanitatea se poate recupera în cele din urmă. (Dar aceste evenimente vor reprezenta un risc local de deces pentru mulți și pentru grupurile etnice persecutate.)
Voi folosi următoarea definiție a riscului existențial:
O amenințare la existență este un risc în care un rezultat negativ fie distruge viața inteligentă apărută pe Pământ, fie ireversibil și își reduce potențialul.
Existența este un risc care amenință umanitatea în ansamblu. Astfel de catastrofe au consecințe negative asupra viitorului civilizației pământești.
Unicitatea problemei de amenințare existențială
Riscurile din această a șasea categorie au apărut recent. Acesta este unul dintre motivele pentru care este util să le separați într-o categorie separată. Nu am dezvoltat mecanisme, naturale sau culturale, pentru a face față acestor riscuri. Instituțiile și strategiile noastre defensive s-au conturat prin confruntarea cu riscuri precum animale periculoase, persoane ostile sau triburi, alimente otrăvite, accidente auto, Cernobâl, Bhopal, erupții vulcanice, cutremure, secetă, Primul Război Mondial, Al Doilea Război Mondial, epidemii de gripă, variolă, ciuma neagră și SIDA. Acest tip de dezastru s-a întâmplat de multe ori, iar atitudinea noastră culturală față de risc s-a format prin încercări și erori în gestionarea unor astfel de amenințări. Dar fiind o tragedie direct pentru participanții la aceste evenimente,din punct de vedere larg - din punctul de vedere al umanității - chiar și cele mai groaznice dintre aceste catastrofe au fost doar ondulări pe suprafața marii mări a vieții.
Nu au afectat în mod semnificativ numărul total de oameni fericiți și suferinzi și nici nu au determinat soarta pe termen lung a speciei noastre.
Cu excepția cometelor care distrug speciile și a coliziunilor de asteroizi (care sunt extrem de rare), nu au existat amenințări la existență până la jumătatea secolului XX și, cu siguranță, nu am putea face nimic cu niciuna dintre ele.
Prima bombă atomică creată de om a fost prima bombă atomică. La acea vreme, exista o anumită îngrijorare că explozia ar fi declanșat o reacție în lanț prin „aprinderea focului” în atmosferă. Deși acum știm că un astfel de rezultat era imposibil din punct de vedere fizic, la acea vreme această presupunere era în concordanță cu definiția unei amenințări existențiale. Pentru ca ceva să fie suficient de risc, există o probabilitate subiectivă a unui rezultat nefavorabil, chiar dacă mai târziu se dovedește că în mod obiectiv nu există nicio șansă ca ceva rău să se întâmple. Dacă nu știm dacă ceva este riscant sau nu obiectiv, este un risc în sens subiectiv. Acest sens subiectiv este, desigur, pe ce ar trebui să ne bazăm deciziile. În orice moment, trebuie să utilizăm cea mai bună evaluare subiectivă a factorilor de risc obiective.
O amenințare mult mai mare la existență a apărut simultan cu apariția arsenalelor de arme nucleare în URSS și SUA. Un război nuclear cu drepturi depline a fost posibil cu un grad semnificativ de probabilitate și cu consecințe care ar putea fi atât de persistente încât să fie caracterizate drept globale și finale. Printre cei mai cunoscuți cu informațiile disponibile la vremea respectivă, exista o preocupare reală că ar putea să se întâmple un Armageddon nuclear și că ar șterge speciile noastre sau ar distruge civilizația umană pentru totdeauna.
Rusia și Statele Unite dețin posibile arsenale nucleare care ar putea fi utilizate în confruntarea viitoare, accidental sau intenționat. Există, de asemenea, riscul ca într-o bună zi să creeze alte arsenale mari. Dar un mic schimb de atacuri nucleare, de exemplu, între India și Pakistan, nu reprezintă o amenințare pentru existență, deoarece nu va distruge umanitatea și nu va dăuna ireversibil potențialului uman. Cu toate acestea, un astfel de război ar reprezenta un risc mortal local pentru acele orașe. Din păcate, vom vedea că Armageddonul nuclear și impactul cometar sau asteroid sunt doar un preludiu al amenințărilor la existență în secolul XXI.
Natura problemelor care apar din amenințările existențiale va fi ilustrată prin următoarele observații.
Abordarea noastră asupra amenințărilor existențiale nu se poate baza pe încercări și erori. Nu poți învăța din greșeli. Abordarea reactivă - urmărirea a ceea ce s-a întâmplat, limitarea daunelor și învățarea din experiență - nu funcționează. Trebuie să adoptăm o abordare proactivă. Acest lucru necesită o perspectivă pentru a detecta noi tipuri de riscuri și disponibilitatea de a lua măsuri preventive și de a plăti costurile lor morale și economice.
Nu ne putem baza cu încredere pe instituții, standarde morale, atitudini sociale sau politici de securitate națională care au evoluat din experiența în gestionarea altor tipuri de risc. Amenințările de existență sunt o bestie diferită. Ne este greu să le luăm atât de în serios pe cât merită, întrucât nu am experimentat niciodată astfel de dezastre. Răspunsul colectiv al fricii este probabil slab calibrat la scara amenințării.
Reducerea amenințărilor existențiale este un bun public comun (Kaul, 1999) și, prin urmare, este sub-furnizat de piață (Feldman, 1980). Amenințările la adresa existenței sunt amenințări pentru toată lumea și necesită un răspuns internațional. Respectul suveranității naționale nu este o scuză legitimă pentru a nu lua măsuri împotriva unor existențe critice.
Este surprinzător, având în vedere importanța incontestabilă a subiectului, cât de puțină muncă sistematică a fost realizată în acest domeniu. Acest lucru se datorează în parte faptului că cele mai grave riscuri apar (așa cum vom arăta mai târziu) din tehnologiile viitoare anticipate pe care nu le-am înțeles decât de curând.
O altă parte a explicației poate fi caracterul inevitabil interdisciplinar și speculativ al subiectului de cercetare. Și în parte, neglijarea poate fi atribuită unei reticențe de a gândi serios despre subiecte depresive. Aceasta nu înseamnă că ar trebui să ne descurajăm, ci că trebuie să aruncăm o privire grea asupra a ceea ce poate merge prost, astfel încât să putem crea strategii solide pentru a ne îmbunătăți șansele de supraviețuire. Pentru a face acest lucru, trebuie să știm unde să ne concentrăm eforturile.
Clasificarea riscurilor existente
Vom folosi următoarele 4 categorii pentru a clasifica riscurile existențiale:
Explozii (Bangs) - Viața inteligentă care a apărut pe Pământ este exterminată ca urmare a unei catastrofe relativ bruște, care poate apărea fie ca urmare a unui accident, fie ca intenționat.
Crunches - Abilitatea umanității de a evolua spre postumanitate este ireversibil deteriorată, deși oamenii continuă să trăiască cumva.
Strigături - Se va realiza o anumită formă de postumanitate, dar va fi doar o fracțiune extrem de restrânsă din spectrul a ceea ce este posibil și dorit.
Whimpers - Civilizația postumană apare, dar se dezvoltă într-o direcție care duce treptat, dar irevocabil, la dispariția completă a lucrurilor pe care le prețuim sau la o stare în care aceste valori sunt realizate doar într-o mică măsură de la nivelul care ar putea fi atins.
Înarmat cu o astfel de clasificare, putem începe să analizăm cele mai probabile scenarii din fiecare categorie. De asemenea, definițiile vor deveni mai clare pe măsură ce progresăm.
breton
Aceasta este cea mai evidentă formă de risc global. Acest concept este cel mai ușor de înțeles. Mai jos sunt câteva dintre cele mai probabile modalități de a încheia exploziv lumea. Am încercat să le aranjez în ordine crescătoare (după estimarea mea) a probabilității de a provoca exterminarea vieții inteligente pe Pământ; dar intenția mea în ceea ce privește comanda a fost să creez o bază pentru discuții ulterioare, mai degrabă decât să fac câteva declarații lipsite de ambiguitate.
1. Abuz intenționat de nanotehnologie
În forma sa matură, nanotehnologia moleculară va permite crearea de roboți auto-replicabili de dimensiunea bacteriilor care se pot hrăni cu canalizare sau alte materii organice (Drexler 1985, 1992; Merkle și colab., 1991: 187-195; Freitas 2000). Astfel de replicatori pot consuma biosfera sau pot distruge-o în alte moduri, cum ar fi otrăvirea ei, arderea ei sau blocarea luminii solare. Un om cu intenție criminală cu această nanotehnologie poate provoca distrugerea vieții inteligente pe Pământ, eliberând astfel de nanoboturi în mediu.
Tehnologia de creare a nanoboturilor distructive pare a fi mult mai simplă decât tehnologia pentru crearea unei apărări eficiente împotriva unui astfel de atac (sistemul imunitar global nanotehnologic, „scut activ” (Drexler 1985)). Prin urmare, va exista probabil o perioadă de vulnerabilitate în timpul căreia este necesar ca aceste tehnologii să nu cadă în mâinile greșite. De asemenea, aceste tehnologii pot fi dificil de gestionat, deoarece nu necesită izotopi radioactivi rari sau fabrici uriașe, ușor de detectat, cum este cazul fabricării armelor nucleare (Drexler 1985).
Chiar dacă sunt în vigoare apărări eficiente împotriva atacului de nanotehnologie limitat, înainte ca replicatorii periculoși să fie dezvoltați și dobândiți de regimuri de suicid sau teroriști, există încă pericolul unei curse de arme între statele posesoare de nanotehnologie. S-a susținut (Gubrud 2000) că fabricația moleculară va duce la o instabilitate mai mare în cursa armelor și o instabilitate mai mare în raport cu crizele decât armele nucleare. Instabilitatea cursei armelor înseamnă că fiecare parte concurentă va fi dominată de dorința de a-și consolida armamentele, ceea ce duce la o desfășurare rapidă a cursei armamentare. Instabilitatea în ceea ce privește crizele înseamnă că prima lovitură va fi principalul stimulent pentru fiecare parte. Doi adversari aproximativ la fel de puternici,După ce au dobândit arme nanotehnologice, acestea vor începe, din acest punct de vedere, producția în masă și proiectarea armelor, care va continua până la apariția unei crize și începe un război, potențial capabil să provoace distrugerea finală universală. Că această cursă armamentară ar putea fi prezisă nu este o garanție că va fi pus în aplicare un sistem internațional de securitate la timp pentru a preveni această catastrofă. A fost prevăzută o cursă de arme nucleare între URSS și SUA, dar s-a întâmplat totuși.că sistemul de securitate internațional va fi creat la timp pentru a preveni această catastrofă. A fost prevăzută o cursă de arme nucleare între URSS și SUA, dar s-a întâmplat totuși.că sistemul de securitate internațional va fi creat la timp pentru a preveni această catastrofă. A fost prevăzută o cursă de arme nucleare între URSS și SUA, dar s-a întâmplat totuși.
2. Holocaustul nuclear
Statele Unite și Rusia încă au rezerve imense de arme nucleare. Dar va duce un război nuclear cu drepturi depline la exterminarea reală a umanității? Rețineți că:
(a) pentru ca acesta să devină un risc existențial, este suficient să nu fim siguri că nu se va întâmpla.
(b) efectele climatice ale unui război nuclear pe scară largă sunt puțin cunoscute (există posibilitatea unei ierni nucleare).
(c) cursele de armament viitoare între țări nu pot fi excluse, iar acest lucru ar putea duce la apariția arsenalelor și mai mari decât cele care au existat în culmea Războiului Rece. Stocul mondial de plutoniu este în continuă creștere și a ajuns la 2.000 de tone, ceea ce este de aproximativ zece ori mai mult decât rămâne în focoase (Leslie 1996: 26). Chiar dacă unii oameni supraviețuiesc efectelor pe termen scurt ale războiului nuclear, acesta ar putea duce la prăbușirea civilizației. Rasa umană din epoca de piatră poate fi sau nu mai rezistentă la dispariție decât alte specii animale.
3. Trăim într-o simulare și se oprește
Se poate susține că ipoteza că trăim într-o simulare de calculator ar trebui să fie atribuită unei probabilități semnificative (Bostrom 2001). Ideea principală din spatele așa-numitei Dovadă a simulării este că în viitor pot fi disponibile cantități uriașe de putere de calcul (Moravec 1989, 1999) și că pot fi utilizate, printre altele, pentru a rula un număr mare de simulări fin structurate ale trecutului. civilizații umane. Pe câteva presupuneri nu atât de incredibile, rezultatul ar putea fi faptul că majoritatea minților ca ale noastre sunt minți simulate, și deci trebuie să atribuim o probabilitate semnificativă ca noi să fim minți simulate, mai degrabă decât mințile (subiectiv nedistinguibile) ale ființelor evoluate în mod natural. Și dacă da, riscămcă simularea poate fi oprită oricând. Decizia de a ne opri simularea se poate datora acțiunilor noastre sau factorilor externi.
Deși poate părea frivol cineva să propună o astfel de ipoteză radicală lângă o amenințare specifică a unui holocaust nuclear, trebuie să ne bazăm concluziile pe raționament, nu pe intuiție neînvățată. Până la o respingere a argumentelor prezentate de Bostrom (2001), ar fi necinstit intelectual să nu ținem cont de închiderea simulării ca posibilă cauză a dispariției umane.
4. Superinteligență slab programată
Atunci când creăm primul dispozitiv superinteligent (Moravec 1989, 1998, 1999; Vinge 1993; Bostrom 1998; Kurzweil 1999; Hanson et al. 1998), putem să comitem o greșeală și să stabilim obiective care să îl direcționeze spre distrugerea umanității, având în vedere colosala sa un avantaj intelectual care dă forța de a face acest lucru. De exemplu, putem ridica greșit un obiectiv de nivel inferior la un statut supergoal. Îi spunem să rezolve o problemă matematică, iar el se supune, transformând toată materia din sistemul solar într-un dispozitiv imens de calcul, pe parcursul uciderii celui care a pus această întrebare. (Pentru mai multe analize ale acestui subiect, a se vedea (Yudkowsky 2001)).
5. Obiect biologic conceput genetic
Ca urmare a progreselor uriașe ale tehnologiei genetice care au loc acum, poate fi posibil ca un tiran, un terorist sau un nebun să creeze un „virus doomsday”: un organism care combate latența lungă cu virulența ridicată și letalitatea (National Intelligence Council 2000).
Virusurile periculoase pot fi chiar crescute în mod inadvertent, după cum au demonstrat recent cercetătorii australieni care au creat un virus Ectromelia de mousepox modificat cu 100% letalitate atunci când au încercat să proiecteze un virus contraceptiv pentru șoarecii care vor fi folosiți pentru combaterea dăunătorilor rozătoare (Nowak 2001). Deși acest virus particular nu infectează oamenii, se suspectează că modificări similare ar crește letalitatea virusului variolei umane. Ceea ce se adaugă la potențialul pericol aici este că studiul a fost publicat rapid în literatura științifică deschisă (Jackson și colab., 2001: 1479-1491). Este rar ca informațiile create în proiectele biotehnologice deschise să fie păstrate în secret, indiferent dacăcât de sever este potențialul pericol pe care îl are - și același lucru se aplică cercetărilor în nanotehnologie.
Medicina genetică va duce la medicamente și vaccinuri mai bune, dar nu există nicio garanție că apărările vor ține pasul cu infracțiunea. (Chiar și un virus al mouse-ului generat la întâmplare a avut o rată de fatalitate de 50% la șoarecii vaccinați.) În cele din urmă, pericolele armelor biologice pot fi îngropate prin avansarea nanomedicinei, dar, deși nanotehnologia are un potențial enorm pe termen lung pentru medicină (Freitas 1999), are propriile pericole.
6. Folosirea greșită a nanotehnologiei periculoase („grâu gri”)
Posibilitatea unui accident nu poate fi niciodată exclusă.
Cu toate acestea, există numeroase modalități de a evita accidentele de ucidere a oamenilor prin utilizarea de soluții inginerești fiabile. Se poate evita utilizarea periculoasă a sistemelor de auto-replicare; puteți face nanoboturile dependente de utilizarea unor substanțe chimice rare care nu există în natură; le puteți îngloba într-un mediu sigilat; ele pot fi proiectate astfel încât orice mutație să determine aproape sigur nanobotul să funcționeze (Foresight Institute 2000). Din acest motiv, utilizarea necorespunzătoare a nanoboturilor este mult mai puțin tulburătoare decât folosirea greșită (Drexler 1985; Freitas 2000; (Foresight Institute 1997-1991)).
Cu toate acestea, distincția dintre accidental și intențional poate deveni încețoșată. Deși, în principiu, pare posibil să facă catastrofele nanotehnologice globale foarte improbabile, circumstanțe specifice pot împiedica realizarea acestui nivel ideal de securitate. Comparați nanotehnologia cu tehnologia nucleară. Din punct de vedere inginer, desigur, este posibilă utilizarea tehnologiei nucleare numai în scopuri pașnice, de exemplu, numai în reactoarele nucleare, care au o probabilitate zero de a distruge întreaga planetă. Dar, în practică, s-a dovedit imposibil de evitat utilizarea tehnologiei nucleare, de asemenea, pentru crearea de arme nucleare, ceea ce a dus la o cursă de armament. Cu arsenalele nucleare la un nivel ridicat de pregătire în luptă, este inevitabil un risc ridicat de război accidental. La fel se poate întâmpla și cu nanotehnologia:aceștia pot fi obligați să servească în scopuri militare într-o manieră care poate crea un risc iminent de accidente grave.
În unele situații, poate fi chiar benefic din punct de vedere strategic să faceți în mod deliberat o anumită tehnologie sau sistem de control riscant, de exemplu, pentru a crea o „amenințare fundamental imprevizibilă în care există întotdeauna un element de șansă” - (Schelling 1960).
7. Ceva neașteptat
Avem nevoie de o astfel de categorie unificatoare. Ar fi o prostie să credem că deja am inventat și am prezis toate amenințările semnificative. Descoperirile tehnologice sau științifice viitoare ar putea crea cu ușurință noi modalități de a distruge lumea.
Unele pericole previzibile (și, prin urmare, nu din această categorie) au fost excluse din lista Exploziei, datorită faptului că acestea par a fi prea puțin probabile cauze ale unei catastrofe globale, și anume: rafale solare, supernove, explozii și fuziuni ale găurilor negre, explozii de raze gamma, focare în centrul galactic, supravolcanele, pierderea biodiversității, creșterea poluării aerului, pierderea treptată a capacității umane de a se reproduce și multe scenarii religioase de zi cu zi. Ipoteza conform căreia într-o zi vom ajunge la „iluminare” și ne vom sinucide colectiv sau nu vom mai înmulți, după cum VHEMT (Mișcarea Voluntară pentru Extincție Umană) susține speranța (Cavalerul 2001), pare puțin probabilă. Dacă, într-adevăr,ar fi mai bine să nu existe (așa cum Silenus i-a spus regelui Midas în mitul grec și așa cum a argumentat Arthur Schopenhauer (Schopenhauer 1891), deși din motive specifice sistemului său filosofic particular, el nu a agitat pentru sinucidere), atunci nu am considera acest scenariu global. un dezastru. Presupunerea că a fi viu nu este un lucru rău ar trebui privită ca o presupunere implicită în definiția Exploziilor. Sinuciderea generală falsă este un risc de existență, deși probabilitatea ei pare extrem de mică. (Pentru mai multe despre etica extincției umane, a se vedea capitolul 4 din (Leslie 1996: 26).)faptul că a fi viu nu este rău, ar trebui considerat ca o presupunere implicită în definiția Exploziei. Sinuciderea generală falsă este un risc de existență, deși probabilitatea ei pare extrem de mică. (Pentru mai multe despre etica extincției umane, a se vedea capitolul 4 din (Leslie 1996: 26).)faptul că a fi viu nu este rău, ar trebui considerat ca o presupunere implicită în definiția Exploziei. Sinuciderea generală falsă este un risc de existență, deși probabilitatea ei pare extrem de mică. (Pentru mai multe despre etica extincției umane, a se vedea capitolul 4 din (Leslie 1996: 26).)
8. Dezastre ca urmare a experimentelor fizice
Proiectanții bombei atomice din Proiectul Manhattan au fost îngrijorați că o explozie ar aprinde atmosfera are omologi moderni.
Au existat speculații că experimentele asupra viitoarelor acceleratoare de particule cu energie mare pot provoca distrugerea stării metastabile a vidului în care poate fi amplasat cosmosul nostru, transformându-l într-un vid „adevărat” cu o densitate energetică mai mică (Coleman, Luccia 1980: 3305-3315). Acest lucru va crea o bulă în expansiune a anihilării totale, care se va răspândi în toată galaxia și dincolo de ea, cu viteza luminii, sfărâmând toată materia în timp ce călătorește.
O altă idee este că experimentele cu accelerator ar putea crea „stranelets” stabili (încărcați negativ) (o formă ipotetică de materie nucleară) sau pot crea o gaură neagră microscopică care se scufundă în centrul Pământului și începe să consume restul planetei (Dar et al. 1999: 142-148). Astfel de scenarii par imposibile pe baza celor mai bune teorii ale noastre fizice. Motivul pentru care facem experimentele este tocmai pentru că nu știm ce se va întâmpla de fapt. Dovezi mult mai convingătoare sunt că densitățile de energie realizabile în acceleratoarele moderne sunt mult mai mici decât cele găsite în natură atunci când razele cosmice se ciocnesc (Dar și colab. 1999: 142-148; Turner, Wilczek 1982: 633-634). Este posibil, totuși,faptul că alți factori decât densitatea energetică sunt importanți pentru aceste procese ipotetice, iar acești factori vor fi reuniți în viitoarele noi experimente.
Principala cauză de îngrijorare cu privire la „dezastre fizice” este observația la nivel meta, că descoperirile de tot felul de fenomene fizice periculoase se întâmplă tot timpul, așa că chiar dacă acum toate dezastrele fizice despre care ne gândim sunt complet improbabile sau imposibile, ele pot totuși există căi mai realiste către dezastre care așteaptă să fie descoperite. Cele date aici nu sunt altceva decât ilustrații ale cazului general.
9. Boala care apare în mod natural
Dacă SIDA ar fi la fel de contagioasă ca răceala comună?
Există mai multe caracteristici ale lumii moderne care ar putea face o pandemie globală mult mai probabilă ca niciodată. Călătoria, comerțul cu alimente și viața urbană au crescut semnificativ în timpurile moderne, făcând mai ușor pentru o nouă boală să infecteze rapid majoritatea populației lumii.
10. Coliziune cu un asteroid sau o cometă
Există un risc real, dar foarte mic, că vom fi exterminați de un impact de asteroizi sau comete (Morrison et al. 1994).
Pentru a provoca stingerea umanității, este posibil ca corpul afectat să aibă mai mult de 1 km în diametru (și probabil 3-6 km.) Pământ și cel puțin unele dintre ele au fost cauzate probabil de coliziuni. (Leslie 1996: 81 f). În special, stingerea dinozaurilor în urmă cu 65 de milioane de ani a fost asociată cu căderea unui asteroid cu diametrul de 10-15 km în Peninsula Yucatan. Se crede că un corp cu diametrul de 1 km sau mai mult se ciocnește cu Pământul, în medie, o dată la jumătate de milion de ani. Am catalogat până acum doar o mică parte din corpurile potențial periculoase.
Dacă putem observa la timp un corp care se apropie, vom avea șanse mari să-l deviem prin interceptarea acestuia cu o rachetă nucleară (Gold 1999).
11. Incalzirea globala de neoprit
Există un scenariu că eliberarea de gaze cu efect de seră în atmosferă poate fi un proces cu feedback pozitiv puternic. Poate asta s-a întâmplat cu Venus, care are acum o atmosferă și o temperatură de 450 ° C. Sperăm, însă, că vom avea mijloacele tehnologice pentru a contracara această tendință până când va deveni cu adevărat periculos.
Nick Bostrom
