Takmer každý, kto sa čo i len trochu ponoril do témy umelej inteligencie, musí prísť na to, že umelá inteligencia nás dovedie buď k strašnej apokalypse, alebo priamo k rozprávkovej utópii. A neexistujú prakticky žiadne stredné možnosti. Čiastočne to samozrejme závisí od skutočnosti, že hlasné slogany ako „Koniec sa blíži!“alebo napríklad „Utopia sa blíži!“Ale aj tak…
Čiastočne to závisí od toho, ako ľudia cítia zmenu, najmä veľkú zmenu. Millennialism nemá nič spoločné s tým, že sa narodil v 90. rokoch, bol „millennial“a spomenul si na sériu o Buffy, víťazke upírov. Je to štýl myslenia o budúcnosti, ktorý je spojený s hlboko zakoreneným pocitom osudu. Millennialism je „očakávanie, že náš svet bude zničený a nahradený dokonalým svetom a že sa objaví vykupiteľ, ktorý zvrhne všetko zlo a bude môcť utešiť spravodlivých“.
Viera miléniových obyvateľov preto úzko spája myšlienky stvorenia a zničenia. Medzi nimi - nápady na apokalyptické, obrovské, seizmické posuny, ktoré môžu zničiť štruktúru starého sveta a vybudovať niečo úplne nové. Podobný systém viery existuje v mnohých významných svetových náboženstvách a dokonca aj v nie veľmi agnostických a ateistických náboženstvách, ktoré veria skôr v technológie ako v božské podstaty.
Zvážte napríklad to, ako futuristi očakávajú technologickú jedinečnosť. Podľa Raya Kurzweila je jedinečnosť podobná vytvoreniu raja. Každý bude nesmrteľný, pretože sa objavia biotechnológie, ktoré môžu liečiť naše choroby; a naše mozgy je možné načítať do cloudu; utrpenie a nerovnosť zmiznú ako javy. „Zničenie sveta“nahrádza obľúbený výraz Silicon Valley: prerušenie, čo je radikálna zmena v priemysle. A ako to už býva v prípade iných tisícročných presvedčení, váš konečný pohľad veľmi závisí od toho, čo očakávate: od narodenia utópie alebo od konca sveta.
Existuje veľa veľmi dobrých dôvodov na to, aby ste boli voči tomuto druhu myslenia skeptickí. Asi najpútavejším z týchto dôvodov je, že všetky viery mileniálov jednoducho odrážajú samotný postoj ľudí k zmenám; stačí sa pozrieť na to, koľko variácií týchto presvedčení vo svete narástlo.
Tieto viery možno nájsť v aspektoch kresťanskej teológie, aj keď v modernej podobe sa stali populárnymi v devätnástom a dvadsiatom storočí. Myšlienky ako Večný smútok, mnoho rokov trápenia a utrpenia a Vytrhnutie, keď spravodliví budú vzkriesení a zlo bude potrestané. Po celej tejto deštrukcii bude svet znovu stvorený, alebo ľudia pôjdu do neba.
Napriek dogmatickému ateizmu existovalo veľa podobných viery aj v marxizmus. Jediná otázka je vo vzťahu k histórii. Rovnako ako veriaci hľadajú signály, ktoré môžu naznačovať splnenie všetkých proroctiev, marxisti hľadajú znaky toho, že sme v posledných fázach kapitalizmu. Veria, že spoločnosť sa zhoršuje a nevyhnutne bude degenerovať až na samé dno - v skutočnosti, ako si myslia aj kresťania.
Ako tvrdí marxizmus, keď je vykorisťovanie robotníckej triedy boháčmi nestabilné, robotnícka trieda zhromažďuje a zvrhuje utláčateľa. Výraz „smútok“sa nahrádza výrazom „revolúcia“. Niekedy sú revolučné osobnosti ako Lenin alebo sám Marx vyhlásení za mesiášov, ktorí približujú Milénium; ich rétorika vždy obsahuje výzvy na zničenie starého systému, na ktorého ruinách „postavíme náš, postavíme nový svet“. Spravodliví pracovníci dostanú, čo si zaslúžia, a zlá buržoázia bude zničená.
Propagačné video:
Dokonca aj v severskej mytológii existuje jeden prvok, ktorý poznamenal James Hughes vo svojej eseji v knihe Nicka Bostroma Global Catastrophic Risks. V Ragnaroku sú ľudia i bohovia porazení v záverečnej apokalyptickej bitke, ale keďže je to všetko trochu ponuré, Škandinávci pridali myšlienku novej krajiny, na ktorej budú pozostalí žiť v harmónii.
Doomsday sa stal tiež kultúrnym chodníkom. Vezmime si starých Egypťanov a ich viery o posmrtnom živote; pán podsvetia Osiris váži srdce smrteľníka spolu s pierkom. Ak je srdce zosnulého príliš zaťažené priestupkami, démon ho zje a nádej na posmrtný život zmizne.
Pravdepodobne sa niečo podobné stane počas singularity. Keď sa naša technológia bude zlepšovať, a teda aj naša sila, naše srdcia, srdcia ľudí, budú vážené proti periu. Ak sa ukážu ako príliš ťažké - s hlúposťou, aroganciou, predsudkami, zlom - v teste neuspejeme a budeme zničení. Ale ak prejdeme a vyjdeme z jedinečnosti, čaká nás nebo. Rovnako ako v iných systémoch viery, ani tu nie je priestor pre neveriacich; celá spoločnosť sa radikálne zmení, či sa vám to páči alebo nie. Technologický obdiv.
Zdá sa, že každý väčší vývoj vyvoláva podobnú odpoveď. A jadrové zbrane tiež. Buď to bude posledná kvapka a zničíme sa, alebo sa dá pomocou jadrovej energie vytvoriť lepší svet. V počiatkoch nukleárneho veku ľudia hovorili o elektrine „príliš lacná na to, aby sa dala počítať“. Vedci pracujúci na bombe si často mysleli, že s takou ničivou silou v rukách ľudí by sme sa jednoducho museli dať dokopy a spolupracovať ako druh.
Keď vidíme stále dokola tú istú odpoveď, za rôznych okolností, ktoré sa objavujú v rôznych oblastiach, či už ide o vedu, politiku alebo náboženstvo, musíme brať do úvahy ľudskú zaujatosť. Milujeme vieru mileniálov, takže keď sa objaví myšlienka umelej inteligencie, ktorá prevyšuje ľudskú inteligenciu, okamžite zavedieme známy vzor.
Nemáme radi fakty. Nepáčia sa nám informácie. Nie sme takí racionálni, ako si myslíme. Vytvárame príbehy. Fyzici pozorujú svet a svoje vlastné pozorovania pretkávame do naratívnych teórií, príbehov o maličkých biliardových loptičkách, ktoré lietajú sem a tam a navzájom sa zrazia, alebo o priestore a čase, ktorý sa ohýba, ohýba a rozširuje. Historici sa snažia dať zmysel nekonečnému prúdu udalostí. Milujeme príbehy: príbehy vyskladané z našej minulosti, našej súčasnosti a tiež nás pripravujú na budúcnosť.
Tisícročné rozprávanie je veľmi pekné a pútavé. Prináša vám spoločenskú zmenu. Ak smútite, môže ospravedlniť vaše každodenné utrpenie. Dáva vám nádej, že váš život je dôležitý a zmysluplný. Poskytne vám pocit, že veci napredujú určitým smerom, podľa pravidiel, nielen v chaose. Sľubuje, že spravodliví budú spasení a kacíri potrestaní, aj keď na ceste bude utrpenie. Napokon tisícročné rozprávanie sľubuje nebo na konci tunela.
Keď uvažujeme o technologickom vývoji, jedinečnosti a existenčných rizikách, musíme byť opatrní pri príbehu tisícročia. Kričali sme „vlci!“Mnohokrát, keď tam neboli. Možno ani teraz nie je svet na pokraji katastrofy. Tento príbeh samozrejme nie je taký atraktívny. Samozrejme, každý chce očarujúci koniec.
Ale poďte hlbšie do hĺbky a zistíte, že tisícročné viery nie sú vždy najsľubnejšie, pretože vylučujú ľudského agenta z rovnice. Budeme musieť veriť v sivé odtiene a opustiť zlovestnú apokalypsu s červenookou AI a rozprávkovú utópiu so všemocnou AI, ktorá ľudí zbožňuje.