Aproape toți cei care se scufundă chiar puțin în tema inteligenței artificiale ajung la concluzia că, fie că ne va conduce la o apocalipsă aprinsă, fie la o utopie magică. Nu există practic opțiuni între. Desigur, acest lucru se datorează parțial faptului că sloganuri precum „Sfârșitul este aproape!” sau "Utopia vine!" Dar inca…
O parte din aceasta se rezumă la modul în care oamenii se simt în legătură cu schimbările, mai ales cele mari. Milenialismul nu are nimic de-a face cu a fi milenar, să fii născut în anii 90 și să-ți amintești de Buffy câștigătorul vampirului. Este un stil de gândire la viitor care este asociat cu un profund sentiment al destinului. Milenialismul este „așteptarea că lumea va fi distrusă și înlocuită de o lume perfectă și că va veni un răscumpărător care va doborî răul și va mângâia pe cei drepți”.
Prin urmare, credințele milenare leagă strâns ideile de distrugere și creație. Printre acestea se numără ideile unor schimbări uriașe, apocaliptice, seismice, care vor distruge țesătura lumii vechi și vor construi ceva complet nou. Un sistem de credințe similar există în multe dintre marile religii ale lumii și chiar în religiile nu prea ateiste și agnostice care cred în tehnologie.
Vedeți, de exemplu, cum futuristii așteaptă o singularitate tehnologică. Potrivit lui Ray Kurzweil, Singularitatea este crearea paradisului. Toată lumea va deveni nemuritoare grație biotehnologiei care ne va vindeca bolile; creierele noastre pot fi încărcate în cloud; inegalitatea și suferința vor dispărea ca fenomene. „Distrugerea lumii” este înlocuită de termenul favorit al Silicon Valley: întrerupere sau schimbare radicală a industriei. Și, ca și în cazul altor credințe milenare, punctul tău de vedere final depinde dacă aștepți sfârșitul lumii sau nașterea unei utopii.
Există multe motive întemeiate pentru a fi sceptici cu privire la acest tip de gândire. Poate că cel mai convingător dintre acestea este că credințele mileniilor reflectă pur și simplu atitudinea oamenilor față de schimbare; uită-te doar câte variante ale acestor credințe au crescut în lume.
Aceste credințe sunt prezente în aspecte ale teologiei creștine, deși au devenit populare în forma lor modernă în secolele XIX și XX. Idei precum necazul etern - mulți ani de suferință și greutăți - și Răpirea, când cei drepți vor fi înviați și răul va fi pedepsit. După această distrugere, lumea va fi reconstruită sau oamenii vor merge în cer.
În ciuda ateismului dogmatic, existau multe credințe similare în marxism. Singura întrebare este legată de istorie. La fel cum credincioșii caută semnale care indică împlinirea profeției, marxiștii caută semne că suntem în etapele finale ale capitalismului. Ei cred că societatea se va degrada inevitabil și va degenera până la fund - de fapt, așa cum cred creștinii.
Potrivit marxismului, atunci când exploatarea clasei muncitoare de către bogați devine nedurabilă, clasa muncitoare adună și răstoarnă opresorul. „Durerea” este înlocuită cu „revoluția”. Uneori, figuri revoluționare precum Lenin sau Marx însuși sunt salutate ca mesiași care apropie Mileniul; retorica lor conține inevitabil apeluri la distrugerea vechiului sistem, pe ale cărui ruine „vom construi ale noastre, vom construi o lume nouă”. Muncitorii drepți își vor obține dreptul, iar burghezia rea va fi distrusă.
Video promotional:
Chiar și în mitologia nordică există un element al acestui lucru, așa cum remarcă James Hughes în eseul său din cartea lui Nick Bostrom Global Catastrophic Risks. În Ragnarok, atât oamenii, cât și zeii sunt învinși în bătălia finală apocaliptică, dar din moment ce totul este puțin sumbru, scandinavii au adăugat ideea unui nou pământ pe care supraviețuitorii vor trăi în armonie.
Doomsday a devenit, de asemenea, un traseu cultural. Luați vechii egipteni și credințele lor despre viața de apoi; stăpânul lumii interlope Osiris cântărește inima unui muritor împreună cu o pană. Dacă inima decedatului este prea împovărată de nelegiuiri, demonul o va mânca și speranța pentru viața de apoi va dispărea.
Poate că așa ceva se va întâmpla în timpul singularității. Pe măsură ce tehnologia noastră se îmbunătățește și, prin urmare, puterea noastră, inimile noastre, inimile oamenilor, vor fi cântărite împotriva penelor. Dacă se vor dovedi prea grele - cu prostie, aroganță, prejudecăți, rău - vom eșua testul și vom fi distruși. Dar dacă trecem și ieșim din singularitate, cerul ne așteaptă. Ca și în cazul altor sisteme de credință, nu există loc pentru necredincioși; întreaga societate se va schimba radical, indiferent dacă vă place sau nu. Admirația tehnologică.
Se pare că fiecare dezvoltare majoră provoacă un astfel de răspuns. Și și armele nucleare. Fie va fi ultima paie și ne vom distruge pe noi înșine, fie energia nucleară poate fi folosită pentru a crea o lume mai bună. În primele zile ale erei nucleare, oamenii vorbeau despre electricitatea „prea ieftină pentru a fi socotită”. Oamenii de știință care au lucrat la bombă au crezut adesea că, având o astfel de putere distructivă în mâinile omului, ar trebui pur și simplu să ne reunim și să lucrăm împreună ca specie.
Când vedem același răspuns, iar și iar, în circumstanțe diferite, apărând în domenii diferite, fie că este vorba de știință, religie sau politică, trebuie să luăm în considerare părtinirea umană. Iubim credințele mileniilor, așa că atunci când apare ideea inteligenței artificiale care depășește inteligența umană, impunem imediat un model familiar.
Nu ne plac faptele. Nu ne plac informațiile. Nu suntem la fel de raționali pe cât credem că suntem. Creăm narațiuni. Fizicienii observă lumea și noi împletim propriile noastre observații în teorii narative, povești de mici bile de biliard care zboară ici și colo și se ciocnesc între ele, sau spațiu și timp care se îndoaie, se îndoaie și se extinde. Istoricii încearcă să dea sens unui flux nesfârșit de evenimente. Ne plac poveștile: poveștile care ne-au prezentat trecutul, prezentul și ne pregătesc și pentru viitor.
Narațiunea milenară este frumoasă și convingătoare. El îți aduce schimbări sociale. El îți poate justifica suferința zilnică dacă te întristezi. El îți dă speranța că viața ta este importantă și semnificativă. Vă oferă un sentiment al lucrurilor care progresează într-o anumită direcție, conform regulilor, și nu doar în haos. El promite că cei drepți vor fi mântuiți și ereticii pedepsiți, chiar dacă există suferință pe drum. În cele din urmă, narațiunea milenară promite cerul la capătul tunelului.
Ar trebui să fim atenți la narațiunea milenară atunci când ne gândim la dezvoltarea tehnologică, singularitate și riscuri existențiale. Am strigat „lupi!” De multe ori când nu erau acolo. Poate că nici acum lumea nu se află în pragul dezastrului. Desigur, această poveste nu este atât de atractivă. Desigur, toată lumea își dorește un final încântător.
Dar săpați mai adânc și veți descoperi că credințele milenare nu sunt întotdeauna cele mai promițătoare, deoarece scot agentul uman din ecuație. Va trebui să credem în nuanțe de gri și să abandonăm sinistra apocalipsă cu AI cu ochi roșii și fabuloasa utopie cu AI atotputernic care adoră oamenii.
Ilya Khel
