Aproape toți cei care s-au scufundat chiar puțin în tema inteligenței artificiale trebuie să ajungă la concluzia că inteligența artificială fie ne va conduce către o apocalipsă teribilă, fie direct către o utopie fabuloasă. Și practic nu există opțiuni intermediare. Desigur, acest lucru este parțial dictat de faptul că sloganuri puternice precum „Sfârșitul este aproape!” sau, de exemplu, „Utopia vine!” Dar inca…
Se rezumă parțial la modul în care oamenii simt despre schimbare, în special schimbările mari. Milenialismul nu are nimic de-a face cu a fi născut în anii 90, a fi un „milenar” și a aminti seria despre Buffy, câștigătoarea vampirului. Este un stil de gândire la viitor care este asociat cu un profund sentiment al destinului. Milenialismul este „așteptarea ca lumea noastră să fie distrusă și înlocuită de o lume perfectă și că va apărea un răscumpărător care va arunca tot răul și va putea mângâia pe cei drepți”.
În consecință, credințele mileniilor leagă strâns ideile de creație și distrugere. Printre acestea se numără ideile unor schimbări apocaliptice, uriașe, seismice, care pot distruge țesătura lumii vechi și construi ceva complet nou. Un sistem de credințe similar există în multe religii majore ale lumii și chiar în religiile nu atât de agnostice și ateiste, care cred în tehnologie mai degrabă decât în esențe divine.
Luați în considerare, de exemplu, modul în care futuristii anticipează o singularitate tehnologică. Potrivit lui Ray Kurzweil, singularitatea este asemănătoare cu crearea paradisului. Toată lumea va fi nemuritoare, deoarece va apărea o biotehnologie care ne poate vindeca bolile; iar creierul nostru poate fi încărcat în cloud; suferința și inegalitatea vor dispărea ca fenomene. „Distrugerea lumii” este înlocuită de termenul favorit al Silicon Valley: întrerupere, care este o schimbare radicală în industrie. Și, așa cum se întâmplă cu alte credințe milenare, viziunea voastră finală depinde în mare măsură de ceea ce vă așteptați: nașterea unei utopii sau sfârșitul lumii.
Există multe motive foarte bune pentru a fi sceptici cu privire la acest tip de gândire. Poate că cel mai convingător dintre aceste motive este că toate credințele mileniilor reflectă pur și simplu atitudinea oamenilor față de schimbare; vezi doar câte variante ale acestor credințe au crescut în lume.
Aceste credințe se regăsesc în aspecte ale teologiei creștine, deși au devenit populare în forma lor modernă în secolele XIX și XX. Idei precum Durerea veșnică, mulți ani de greutăți și suferințe și Răpirea, când cei drepți sunt înviați și răul este pedepsit. După toată această distrugere, lumea va fi recreată sau oamenii vor merge în cer.
În ciuda ateismului dogmatic, existau și multe credințe similare în marxism. Singura întrebare este legată de istorie. La fel cum credincioșii caută semnale care pot sugera împlinirea tuturor profețiilor, marxiștii caută semne că suntem în etapele finale ale capitalismului. Ei cred că societatea se degradează și va degenera inevitabil până la fund - de fapt, așa cum cred și creștinii.
După cum susține marxismul, atunci când exploatarea clasei muncitoare de către bogați este nedurabilă, clasa muncitoare adună și răstoarnă pe opresor. „Durerea” este înlocuită cu „revoluția”. Uneori figuri revoluționare precum Lenin sau Marx însuși sunt proclamate ca mesiași care apropie Mileniul; retorica lor conține întotdeauna apeluri la distrugerea vechiului sistem, pe ale cărui ruine „vom construi ale noastre, vom construi o lume nouă”. Muncitorii drepți vor obține ceea ce merită, iar burghezia rea va fi distrusă.
Video promotional:
Chiar și în mitologia nordică există un element al acestui lucru, după cum a remarcat James Hughes în eseul său din cartea lui Nick Bostrom Global Catastrophic Risks. În Ragnarok, atât oamenii, cât și zeii sunt învinși în bătălia finală apocaliptică, dar din moment ce totul este puțin sumbru, scandinavii au adăugat ideea unui nou pământ pe care supraviețuitorii vor trăi în armonie.
Doomsday a devenit, de asemenea, un traseu cultural. Luați vechii egipteni și credințele lor despre viața de apoi; stăpânul lumii interlope Osiris cântărește inima unui muritor împreună cu o pană. Dacă inima decedatului este prea împovărată de nelegiuiri, demonul o va mânca și speranța pentru viața de apoi va dispărea.
Probabil că ceva similar se va întâmpla în timpul singularității. Pe măsură ce tehnologia noastră se îmbunătățește și, prin urmare, puterea noastră, inimile noastre, inimile oamenilor, vor fi cântărite împotriva penelor. Dacă se vor dovedi prea grele - cu prostie, aroganță, prejudecăți, rău - vom eșua testul și vom fi distruși. Dar dacă trecem și ieșim din singularitate, cerul ne așteaptă. Ca și în cazul altor sisteme de credință, nu există loc pentru necredincioși; întreaga societate se va schimba radical, indiferent dacă vă place sau nu. Admirația tehnologică.
Fiecare dezvoltare majoră pare să provoace un răspuns similar. Și armele nucleare, de asemenea. Fie va fi ultima paie și ne vom distruge pe noi înșine, fie energia nucleară poate fi folosită pentru a crea o lume mai bună. În primele zile ale erei nucleare, oamenii vorbeau despre electricitatea „prea ieftină pentru a fi socotită”. Oamenii de știință care lucrează la bombă au crezut adesea că, cu o asemenea putere distructivă în mâinile oamenilor, ar trebui pur și simplu să ne reunim și să lucrăm împreună ca specie.
Când vedem același răspuns, iar și iar, în circumstanțe diferite, apărând în domenii diferite, fie că este vorba de știință, politică sau religie, trebuie să luăm în considerare părtinirea umană. Iubim credințele mileniilor, așa că atunci când apare ideea inteligenței artificiale care depășește inteligența umană, impunem imediat un model familiar.
Nu ne plac faptele. Nu ne plac informațiile. Nu suntem la fel de raționali pe cât credem că suntem. Creăm narațiuni. Fizicienii observă lumea și noi împletim propriile noastre observații în teorii narative, povești de mici bile de biliard care zboară ici și colo și se ciocnesc între ele, sau spațiu și timp care se îndoaie, se îndoaie și se extinde. Istoricii încearcă să dea sens unui flux nesfârșit de evenimente. Ne plac poveștile: poveștile care ne-au prezentat trecutul, prezentul și ne pregătesc și pentru viitor.
Narațiunea milenară este foarte frumoasă și convingătoare. El îți aduce schimbări sociale. El îți poate justifica suferința zilnică dacă te întristezi. El îți dă speranța că viața ta este importantă și semnificativă. Vă oferă un sentiment al lucrurilor care progresează într-o anumită direcție, conform regulilor, și nu doar în haos. El promite că cei drepți vor fi mântuiți și ereticii pedepsiți, chiar dacă există suferință pe drum. În cele din urmă, narațiunea milenară promite cerul la capătul tunelului.
Trebuie să fim atenți la narațiunea milenară atunci când ne gândim la dezvoltarea tehnologică, singularitate și riscuri existențiale. Am strigat „lupi!” De multe ori când nu erau acolo. Poate că nici acum lumea nu se află în pragul dezastrului. Desigur, această poveste nu este atât de atractivă. Desigur, toată lumea își dorește un final încântător.
Dar săpați mai adânc și veți descoperi că credințele milenare nu sunt întotdeauna cele mai promițătoare, deoarece scot agentul uman din ecuație. Va trebui să credem în nuanțe de gri și să abandonăm sinistra apocalipsă cu AI cu ochi roșii și fabuloasa utopie cu AI atotputernic care adoră oamenii.
