Vďaka zrýchleniu technologického pokroku sa ľudstvo môže rýchlo blížiť ku kritickému bodu svojho rozvoja. Vyhliadky rýchlo sa rozvíjajúcich technológií, ako sú nanosystémy a strojová inteligencia, predstavujú okrem známych hrozieb, ako je jadrový holokaust, bezprecedentné príležitosti a riziká. Naša budúcnosť a to, či budeme mať vôbec budúcnosť, závisí od toho, ako sa s týmito výzvami vysporiadame. Pri rýchlo sa rozvíjajúcej technológii potrebujeme lepšie porozumieť dynamike prechodu z ľudskej na „post-ľudskú“spoločnosť. Je obzvlášť dôležité vedieť, kde sa nachádzajú pasce: cesty, kde sa veci môžu zhoršiť.
Aj keď máme dlhú históriu vystavenia rôznym osobným, miestnym a prenosným celosvetovým nebezpečenstvám, tento článok analyzuje novovznikajúcu kategóriu: existenčné riziká. To je to, čomu hovoríme riziká udalostí, ktoré môžu viesť k nášmu vyhynutiu alebo srdcovému poškodeniu potenciálu inteligentného života, ktorý sa vyvinul na Zemi. Niektoré z týchto nebezpečenstiev sú pomerne dobre známe, zatiaľ čo iné sú úplne prehliadané. Existujúce hrozby majú množstvo funkcií, vďaka ktorým je konvenčné riadenie rizík v tomto prípade neúčinné. Záverečná kapitola tohto článku rozoberá niektoré etické a politické dôsledky tohto problému. Jasnejšie pochopenie oblasti hrozieb nám umožní formulovať lepšie stratégie.
Život je nebezpečný a nebezpečenstvo je všade. Našťastie nie všetky riziká sú rovnako závažné. Na naše účely môžeme na opis rizík použiť tri dimenzie: mierka, intenzita a pravdepodobnosť. Výrazom „mierka“mám na mysli veľkosť skupiny ohrozených ľudí. Pod pojmom „intenzita“mám na mysli to, koľko škôd vznikne jednotlivcovi v skupine. A „pravdepodobnosťou“mám na mysli najlepší súčasný subjektívny odhad pravdepodobnosti negatívneho výsledku.
1. Typológia rizík
Rozlišujeme šesť kvalitatívne rôznych skupín rizík v závislosti od ich rozsahu a intenzity (tabuľka 1). Pravdepodobnosť tretieho rozmeru sa dá prekrývať s týmito dvoma rozmermi. Ak sú všetky veci rovnaké, riziko je vážnejšie, ak má značnú pravdepodobnosť a ak ho naše konanie môže zvýšiť alebo znížiť.
Mierka / intenzita: smrteľná intenzita únosnej intenzity
globálne vyčerpanie ozónu X
Propagačné video:
miestny ekonomický pokles v krajine genocída
Smrť osobných automobilov
„Osobný“, „miestny“alebo „globálny“sa vzťahuje na veľkosť populácie, ktorá je priamo ovplyvnená; globálne riziko ovplyvňuje celé ľudstvo (a našich potomkov). „Prípustná intenzita rizika“a „smrteľná intenzita“sa týkajú toho, ako nepriaznivo bude ohrozená ohrozená populácia. Prípustné riziko môže tiež viesť k veľkému zničeniu, ale stále zostáva možnosť zotaviť sa zo škôd alebo nájsť spôsoby, ako prekonať negatívne následky. Naopak, najvyššie riziko je toto riziko, keď predmety, ktoré sú mu vystavené, buď zomrú alebo sú nezvratne poškodené takým spôsobom, že radikálne znižujú svoj potenciál žiť život, ktorý chcú žiť. V prípade osobných rizík môže byť konečným výsledkom napríklad smrť, nezvratné vážne poškodenie mozgu,alebo doživotné väzenie. Príkladom lokalizovaného rizika smrti môže byť genocída, ktorá vedie k zničeniu celého ľudu (čo sa stalo niekoľkým indickým národom). Ďalším príkladom je konverzia na večné otroctvo.
2. Existujúce riziká
V tomto článku sa budeme venovať rizikám šiestej kategórie, ktorá je v tabuľke označená ako X. Toto je kategória globálnych smrteľných rizík. Budem im hovoriť existenčné hrozby.
Hrozby existencie sa líšia od globálne tolerovateľných rizík. Ako príklad možno uviesť: hrozby pre biodiverzitu pozemskej ekosféry, mierne globálne otepľovanie (a dokonca veľké) a prípadne potláčanie kultúrnych a náboženských období, ako sú „temné veky“, aj keď pokrývajú celú spoločnosť, ak skôr či neskôr končia (aj keď pozri kapitolu Screech nižšie). Hovoriť, že globálne riziko je prijateľné, samozrejme neznamená, že je prijateľné alebo málo závažné. Svetová vojna s konvenčnými zbraňami alebo desaťročie nacistického typu Ríšskej ríše budú mimoriadne hroznými udalosťami, napriek tomu, že spadajú do kategórie tolerovateľných globálnych rizík, pretože ľudstvo sa môže nakoniec zotaviť. (Na druhej strane,tieto udalosti budú predstavovať miestne riziko smrti pre mnohých jednotlivcov a pre prenasledované etnické skupiny.)
Budem používať nasledujúcu definíciu existenciálneho rizika:
Hrozba pre existenciu je riziko, pri ktorom negatívny výsledok zničí inteligentný život, ktorý vznikol na Zemi, alebo nezvratne a výrazne zníži jeho potenciál.
Existencia predstavuje riziko, ktoré ohrozuje celé ľudstvo. Takéto katastrofy majú obrovské negatívne dôsledky na celú budúcnosť pozemskej civilizácie.
3. Jedinečnosť problému ohrozenia existencie
Nedávno sa objavili riziká v tejto šiestej kategórii. To je jeden z dôvodov, prečo je užitočné ich rozdeliť do samostatnej kategórie. Nevyvinuli sme mechanizmy, prírodné ani kultúrne, na riešenie týchto rizík. Naše inštitúcie a obranné stratégie boli formované čelením rizikám, ako sú nebezpečné zvieratá, nepriateľské osoby alebo kmene, otrávené jedlo, automobilové nehody, Černobyľ, Bhopal, sopečné výbuchy, zemetrasenie, sucho, prvá svetová vojna, druhá svetová vojna, epidémie chrípky, kiahne., čierny mor a AIDS. Tento druh katastrofy sa stal mnohokrát a náš kultúrny prístup k riziku sa formoval skúšaním a chybou pri riadení takýchto hrozieb. Ale tragédia priamo pre účastníkov týchto udalostí,zo širokého hľadiska - z hľadiska celého ľudstva - aj najstrašnejšie z týchto katastrof boli iba vlnky na povrchu veľkého mora života. Nemali výrazný vplyv na celkový počet šťastných a trpiacich ľudí, ani neurčili dlhodobý osud nášho druhu.
Okrem komét ničiacich druhy a zrážok s asteroidmi (ktoré sú veľmi zriedkavé) pravdepodobne neexistovali významné ohrozenia existencie až do polovice 20. storočia a s ničím z nich sa určite nedalo robiť nič.
Prvou hrozbou pre existenciu človeka bola prvá atómová bomba. V tom čase existovali určité obavy, že výbuch by spustil reťazovú reakciu „zapálením“atmosféry. Aj keď vieme, že takýto výsledok bol fyzicky nemožný, v tom čase bol tento predpoklad v súlade s definíciou existenčnej hrozby. Na to, aby niečo predstavovalo riziko, stačí na základe dostupných znalostí a porozumenia stačiť, že existuje subjektívna pravdepodobnosť nepriaznivého výsledku, aj keď sa neskôr ukáže, že objektívne neexistovala šanca, že sa niečo zlé stalo. Ak nevieme, či je niečo objektívne riskantné, je to subjektívne riskantné. Tento subjektívny význam je, samozrejme, na čom by sme mali zakladať svoje rozhodnutia. Kedykoľvek musíme použiť naše najlepšie subjektívne hodnotenie toho, čiaké sú objektívne rizikové faktory.
Oveľa väčšie ohrozenie existencie nastalo súčasne so vznikom arzenálu jadrových zbraní v ZSSR a USA. Plnohodnotná jadrová vojna bola možná so značnou pravdepodobnosťou as dôsledkami, ktoré by mohli byť také trvalé, aby sa dali charakterizovať ako globálne a konečné. Medzi ľuďmi, ktorí sa v tom čase dobre zoznámili s informáciami, ktoré tu boli k dispozícii, existovali skutočné obavy, že by sa mohol stať jadrový Armageddon a že by to trvalo zničilo náš druh alebo trvalo zničilo ľudskú civilizáciu. v budúcej konfrontácii, náhodou alebo úmyselne. Existuje tiež riziko, že iné krajiny môžu jedného dňa vybudovať veľké arzenály. Upozorňujeme však, že malá výmena jadrových štrajkov, napríklad medzi Indiou a Pakistanom,nie je hrozbou pre existenciu, pretože nezničí ľudstvo a nezvratne nepoškodí ľudský potenciál. Takáto vojna by však bola miestnym smrteľným rizikom pre cieľové mestá. Bohužiaľ uvidíme, že jadrový Armageddon a vplyv na kometériu alebo asteroid sú iba predohrou k hrozbám existencie v 21. storočí.
Osobitný charakter problémov, ktoré predstavujú existenčné hrozby, možno ilustrovať nasledujúcimi poznámkami.
Náš prístup k existenciálnym hrozbám nemôže byť založený na pokusoch a omyloch. Neexistuje spôsob, ako sa poučiť z chýb. Reaktívny prístup - sledovanie toho, čo sa stalo, obmedzenie škôd a poučenie sa zo skúseností - nefunguje. Skôr musíme zaujať aktívny prístup. To si vyžaduje prezieravosť na odhalenie nových druhov rizík a ochotu prijať rozhodné preventívne opatrenia a zaplatiť ich morálne a ekonomické náklady.
Nemôžeme sa s istotou spoľahnúť na naše inštitúcie, morálne normy, sociálne postoje alebo národné bezpečnostné politiky, ktoré sa vyvinuli na základe našich skúseností s riadením iných druhov rizík. Existujúce hrozby sú inou šelmou. Môže byť pre nás ťažké brať ich tak vážne, ako si zaslúžia, pretože sme také katastrofy nikdy nezažili. Naša kolektívna reakcia na strach je pravdepodobne zle kalibrovaná na mieru hrozby.
Zníženie existenčných hrozieb je všeobecným verejným statkom (Kaul, 1999), a preto ho trh nemusí primerane zásobovať (Feldman, 1980). Hrozby existencie sú hrozbou pre všetkých a môžu si vyžadovať medzinárodnú reakciu. Dodržiavanie národnej suverenity nie je legitímnou ospravedlnením za neprijatie protiopatrení proti kritickým existenciám.
Ak vezmeme do úvahy blaho budúcich generácií, škody spôsobené existenčnými hrozbami sa znásobia ďalším faktorom, ktorý závisí od toho, či a do akej miery sa budú zvažovať budúce prínosy (Caplin, Leahy 2000; Schelling 2000: 833-837).
Vzhľadom na nepopierateľný význam témy je prekvapujúce, ako málo systematickej práce sa v tejto oblasti vykonalo. Je to čiastočne preto, že najzávažnejšie riziká (ako ukážeme neskôr) vyplývajú z očakávaných budúcich technológií, ktorým sme len nedávno začali rozumieť. Ďalšou časťou vysvetlenia môže byť nevyhnutne interdisciplinárna a špekulatívna povaha výskumného subjektu. A sčasti možno zanedbanie pripísať neochote vážne uvažovať o depresívnych témach. To neznamená, že by sme sa mali odrádzať, ale že musíme dôkladne preskúmať, čo sa môže pokaziť, aby sme mohli vytvoriť spoľahlivé stratégie na zlepšenie našich šancí na prežitie. Aby sme to dosiahli, potrebujeme vedieť, kam zamerať svoje úsilie.
4. Klasifikácia rizík pre existenciu
Na klasifikáciu existenčných rizík použijeme nasledujúce 4 kategórie:
Výbuchy (tresky) - Inteligentný život, ktorý vznikol na Zemi, je vyhladený v dôsledku pomerne náhlej katastrofy, ktorá sa môže vyskytnúť buď v dôsledku nehody alebo úmyselne.
Drtí - Schopnosť ľudstva vyvinúť sa na posmrtnosť je nezvratne poškodená, hoci ľudia nejakým spôsobom žijú.
Výkriky - Dosiahne sa určitá forma posmrtnosti, ale bude to iba extrémne úzka časť spektra toho, čo je možné a žiaduce.
Whimpers - Posthumánska civilizácia sa vynára, ale vyvíja sa smerom, ktorý vedie postupne, ale neodvolateľne k úplnému vymiznutiu vecí, ktoré si ceníme, alebo k stavu, v ktorom sa tieto hodnoty realizujú iba v malej miere z úrovne, ktorá sa dá dosiahnuť.
Vyzbrojení takouto klasifikáciou môžeme začať analyzovať najpravdepodobnejšie scenáre v každej kategórii. Definície sa budú tiež jasnejšie, keď budeme napredovať.
Vďaka zrýchleniu technologického pokroku sa ľudstvo blíži ku kritickému bodu svojho rozvoja. Vyhliadky rýchlo sa rozvíjajúcich technológií, ako sú nanosystémy a strojová inteligencia, predstavujú okrem známych hrozieb, ako je jadrový holokaust, bezprecedentné príležitosti a riziká. Naša budúcnosť a to, či budeme mať budúcnosť, závisí od toho, ako sa vysporiadame s týmito výzvami. Pri rýchlo sa rozvíjajúcej technológii potrebujeme lepšie porozumieť dynamike prechodu z ľudskej na „post-ľudskú“spoločnosť. Je dôležité vedieť, kde sa nachádzajú pasce: cesty, kde sa veci môžu zhoršiť.
Aj keď máme dlhú históriu vystavenia rôznym osobným, miestnym a prenosným celosvetovým nebezpečenstvám, tento článok analyzuje novovznikajúcu kategóriu: existenčné riziká. Tomu hovoríme riziká udalostí, ktoré môžu viesť k vyhynutiu ľudí alebo k srdcovému poškodeniu potenciálu inteligentného života, ktorý sa vyvinul na Zemi. Niektoré z týchto nebezpečenstiev sú pomerne dobre známe, zatiaľ čo iné sú prehliadané. Existujúce hrozby majú množstvo funkcií, vďaka ktorým je konvenčné riadenie rizík v tomto prípade neúčinné. Záverečná kapitola tohto článku rozoberá niektoré etické a politické dôsledky tohto problému. Jasnejšie pochopenie oblasti hrozieb nám umožní formulovať hlavné stratégie.
Je nebezpečné žiť a nebezpečenstvo je všade. Našťastie nie všetky riziká sú rovnako závažné. Na naše účely popisujeme riziká v troch rozmeroch: mierka, intenzita a pravdepodobnosť. Výrazom „mierka“mám na mysli veľkosť skupiny ohrozených ľudí. Pod pojmom „intenzita“mám na mysli to, koľko škôd vznikne jednotlivcovi v skupine. A „pravdepodobnosťou“mám na mysli najlepší súčasný subjektívny odhad pravdepodobnosti negatívneho výsledku.
5. Typológia rizík
Existuje šesť skupín rizík v závislosti od rozsahu a intenzity.
Stupnica / Intenzita: Dobrá intenzita / Letálna intenzita
globálna / ozónová deplécia, X
miestny / hospodársky pokles v krajine, genocída
Krádež osobných údajov, smrť
Pravdepodobnosť tretieho rozmeru môže byť položená na tieto dva rozmery. Ak sú všetky veci rovnaké, riziko je vážnejšie, ak má značnú pravdepodobnosť a ak ho naše konanie môže zvýšiť alebo znížiť.
„Osobný“, „miestny“alebo „globálny“sa vzťahuje na veľkosť populácie, ktorá je priamo ovplyvnená; globálne riziko ovplyvňuje celé ľudstvo (a jeho potomkov). „Prípustná intenzita rizika“a „smrteľná intenzita“sa týkajú toho, ako nepriaznivo bude ohrozená ohrozená populácia. Prípustné riziko môže tiež viesť k zničeniu, ale stále zostáva možnosť zotaviť sa z poškodenia alebo nájsť spôsoby, ako prekonať negatívne následky. Naopak, najvyšším rizikom je to riziko, keď predmety, ktorým sú vystavené, buď zomrú alebo sú nezvratne poškodené takým spôsobom, že znižujú ich potenciál žiť život, ktorý chcú žiť. V prípade osobných rizík je konečným výsledkom smrť, nezvratné, vážne poškodenie mozgu alebo doživotné väzenie. Príkladom miestneho smrteľného rizika je genocída, ktorá vedie k zničeniu ľudí (čo sa stalo niekoľkým indickým národom). Ďalším príkladom je konverzia na večné otroctvo.
Riziká existencie
V tomto článku sa budeme venovať rizikám šiestej kategórie, ktorá je v tabuľke označená ako X. Toto je kategória globálnych smrteľných rizík. Budem im hovoriť existenčné hrozby.
Hrozby existencie sa líšia od globálne tolerovateľných rizík. Ako príklad možno uviesť: hrozby pre biodiverzitu pozemskej ekosféry, mierne globálne otepľovanie (a dokonca veľké) a prípadne potláčanie kultúrnych a náboženských období, ako sú „temné veky“, aj keď pokrývajú celú spoločnosť, ak skôr či neskôr končia (aj keď pozri kapitolu Screech nižšie). To, že globálne riziko je prijateľné, samozrejme neznamená, že je prijateľné alebo nie vážne.
Svetová vojna so štandardnými zbraňami alebo desaťročie nacistického typu Ríšskej ríše budú mimoriadne hroznými udalosťami, napriek tomu, že patria do kategórie tolerovateľných globálnych rizík, pretože ľudstvo sa môže nakoniec zotaviť. (Tieto udalosti však budú pre mnohých a pre prenasledované etnické skupiny znamenať miestne riziko smrti.)
Budem používať nasledujúcu definíciu existenciálneho rizika:
Hrozba pre existenciu je riziko, pri ktorom negatívny výsledok zničí inteligentný život, ktorý vznikol na Zemi, alebo nezvratne a zníži jeho potenciál.
Existencia predstavuje riziko, ktoré ohrozuje celé ľudstvo. Takéto katastrofy majú negatívne dôsledky pre budúcnosť pozemskej civilizácie.
Jedinečnosť problému existenčnej hrozby
Nedávno sa objavili riziká v tejto šiestej kategórii. To je jeden z dôvodov, prečo je užitočné ich rozdeliť do samostatnej kategórie. Nevyvinuli sme mechanizmy, prírodné ani kultúrne, na riešenie týchto rizík. Naše inštitúcie a obranné stratégie boli formované čelením rizikám, ako sú nebezpečné zvieratá, nepriateľské osoby alebo kmene, otrávené jedlo, automobilové nehody, Černobyľ, Bhopal, sopečné výbuchy, zemetrasenie, sucho, prvá svetová vojna, druhá svetová vojna, epidémie chrípky, kiahne., čierny mor a AIDS. Tento druh katastrofy sa stal mnohokrát a náš kultúrny prístup k riziku sa formoval skúšaním a chybou pri riadení takýchto hrozieb. Ale tragédia priamo pre účastníkov týchto udalostí,zo širšieho hľadiska - z hľadiska ľudskosti - aj najstrašnejšie z týchto katastrof boli iba vlnky na povrchu veľkého mora života.
Nemali výrazný vplyv na celkový počet šťastných a trpiacich ľudí, ani neurčili dlhodobý osud nášho druhu.
S výnimkou komét ničiacich druhy a zrážok s asteroidmi (ktoré sú veľmi zriedkavé) neexistovali až do polovice 20. storočia žiadne ohrozenia existencie a určite by sme s nimi nemohli nič urobiť.
Prvou hrozbou pre existenciu človeka bola prvá atómová bomba. V tom čase existovali určité obavy, že výbuch by spustil reťazovú reakciu „zapálením“atmosféry. Aj keď vieme, že takýto výsledok bol fyzicky nemožný, v tom čase bol tento predpoklad v súlade s definíciou existenčnej hrozby. Aby niečo bolo dosť riskantné, existuje subjektívna pravdepodobnosť nepriaznivého výsledku, aj keď sa neskôr ukáže, že objektívne neexistovala šanca, že sa niečo zlé stalo. Ak nevieme, či je niečo objektívne riskantné alebo nie, ide o subjektívne riziko. Tento subjektívny význam je, samozrejme, na čom by sme mali zakladať svoje rozhodnutia. V každom okamihu musíme použiť naše najlepšie subjektívne hodnotenie toho, čo sú objektívne rizikové faktory.
Oveľa väčšie ohrozenie existencie nastalo súčasne so vznikom arzenálu jadrových zbraní v ZSSR a USA. Plnohodnotná jadrová vojna bola možná so značnou pravdepodobnosťou as dôsledkami, ktoré by mohli byť také trvalé, aby sa dali charakterizovať ako globálne a konečné. Medzi ľuďmi, ktorí sa najlepšie oboznámili s informáciami dostupnými v čase, keď by sa mohol stať jadrový Armageddon, sa vyskytli rozsiahle obavy a že navždy zlikviduje náš druh alebo zničí ľudskú civilizáciu.
Rusko a Spojené štáty americké majú obrovské jadrové arzenály, ktoré by sa mohli použiť v budúcej konfrontácii náhodou alebo úmyselne. Existuje tiež riziko, že iné krajiny môžu jedného dňa vybudovať veľké arzenály. Malá výmena jadrových štrajkov, napríklad medzi Indiou a Pakistanom, však nie je hrozbou pre existenciu, pretože nezničí ľudstvo a nezvratne nepoškodí ľudský potenciál. Takáto vojna by však bola miestnym smrteľným rizikom pre cieľové mestá. Bohužiaľ uvidíme, že jadrový Armageddon a vplyv na kometériu alebo asteroid sú iba predohrou k hrozbám existencie v 21. storočí.
Povahu problémov vyplývajúcich z existenčných hrozieb ilustrujú nasledujúce poznámky.
Náš prístup k existenciálnym hrozbám nemôže byť založený na pokusoch a omyloch. Nemôžete sa poučiť z chýb. Reaktívny prístup - sledovanie toho, čo sa stalo, obmedzenie škôd a poučenie sa zo skúseností - nefunguje. Musíme zaujať aktívny prístup. Vyžaduje si to predvídavosť pri zisťovaní nových druhov rizík a ochotu prijať preventívne opatrenia a platiť za ich morálne a ekonomické náklady.
Nemôžeme sa s istotou spoľahnúť na inštitúcie, morálne normy, sociálne postoje alebo národné bezpečnostné politiky, ktoré sa vyvinuli na základe skúseností s riadením iných druhov rizík. Existujúce hrozby sú inou šelmou. Je pre nás ťažké brať ich tak vážne, ako si zaslúžia, pretože takéto katastrofy sme nikdy nezažili. Kolektívna reakcia na strach je pravdepodobne zle kalibrovaná na mieru hrozby.
Znižovanie existenčných hrozieb je spoločným verejným statkom (Kaul, 1999), a preto ho trh nedostatočne zásobuje (Feldman, 1980). Hrozby pre existenciu sú hrozbou pre všetkých a vyžadujú medzinárodnú reakciu. Dodržiavanie národnej suverenity nie je legitímnou ospravedlnením za neprijatie protiopatrení proti kritickým existenciám.
Vzhľadom na nepopierateľný význam témy je prekvapujúce, ako málo systematickej práce sa v tejto oblasti vykonalo. Je to čiastočne preto, že najzávažnejšie riziká (ako ukážeme neskôr) vyplývajú z očakávaných budúcich technológií, ktorým sme len nedávno porozumeli.
Ďalšou časťou vysvetlenia môže byť nevyhnutne interdisciplinárna a špekulatívna povaha výskumného subjektu. A sčasti možno zanedbanie pripísať neochote vážne uvažovať o depresívnych témach. To neznamená, že by sme sa mali odrádzať, ale že musíme dôkladne preskúmať, čo sa môže pokaziť, aby sme mohli vytvoriť spoľahlivé stratégie na zlepšenie našich šancí na prežitie. Aby sme to dosiahli, potrebujeme vedieť, kam zamerať svoje úsilie.
Klasifikácia existenčného rizika
Na klasifikáciu existenčných rizík použijeme nasledujúce 4 kategórie:
Výbuchy (tresky) - Inteligentný život, ktorý vznikol na Zemi, je vyhladený v dôsledku pomerne náhlej katastrofy, ktorá sa môže vyskytnúť buď v dôsledku nehody alebo úmyselne.
Drtí - Schopnosť ľudstva vyvinúť sa na posmrtnosť je nezvratne poškodená, hoci ľudia nejakým spôsobom žijú.
Výkriky - Dosiahne sa určitá forma posmrtnosti, ale bude to iba extrémne úzka časť spektra toho, čo je možné a žiaduce.
Whimpers - Posthumánska civilizácia sa vynára, ale vyvíja sa smerom, ktorý vedie postupne, ale neodvolateľne k úplnému vymiznutiu vecí, ktoré si ceníme, alebo k stavu, v ktorom sa tieto hodnoty realizujú iba v malej miere z úrovne, ktorá sa dá dosiahnuť.
Vyzbrojení takouto klasifikáciou môžeme začať analyzovať najpravdepodobnejšie scenáre v každej kategórii. Definície sa budú tiež jasnejšie, keď budeme napredovať.
ofina
Toto je najzreteľnejšia forma globálneho rizika. Tento koncept je najjednoduchšie pochopiteľný. Nižšie sú uvedené niektoré z najpravdepodobnejších spôsobov výbušného ukončenia sveta. Pokúsil som sa ich usporiadať vzostupne (podľa môjho odhadu) pravdepodobnosti, že spôsobia vyhladenie inteligentného života na Zemi; mojím zámerom v súvislosti s objednávkou bolo skôr vytvoriť základ pre ďalšiu diskusiu, ako urobiť jednoznačné vyhlásenia.
1. Úmyselné zneužívanie nanotechnológií
V zrelej forme umožní molekulárna nanotechnológia vytvorenie samoreprodukujúcich sa robotov s veľkosťou baktérií, ktoré sa môžu živiť odpadovými vodami alebo inými organickými látkami (Drexler 1985, 1992; Merkle a kol. 1991: 187-195; Freitas 2000). Takíto replikátori môžu biosféru jesť alebo ju zničiť inými spôsobmi, ako je napríklad otrava, spálenie alebo blokovanie slnečného žiarenia. Muž s kriminálnymi úmyslami s touto nanotechnológiou môže spôsobiť zničenie inteligentného života na Zemi uvoľnením takýchto nanobotov do životného prostredia.
Zdá sa, že technológia na vytváranie deštruktívnych nanobotov je omnoho jednoduchšia ako technológia na vytvorenie účinnej obrany proti takémuto útoku (globálny nanotechnologický imunitný systém, „aktívny štít“(Drexler 1985)). Preto pravdepodobne nastane obdobie zraniteľnosti, počas ktorého bude potrebné zabrániť tomu, aby sa tieto technológie dostali do nesprávnych rúk. Tieto technológie môžu byť tiež ťažko zvládnuteľné, pretože nevyžadujú zriedkavé rádioaktívne izotopy ani veľké, ľahko zistiteľné továrne, ako je to v prípade výroby jadrových zbraní (Drexler 1985).
Aj keď existuje účinná ochrana proti obmedzenému útoku na nanotechnológie skôr, ako sa vyvinú a získajú nebezpečné replikátory samovražednými režimami alebo teroristami, stále existuje nebezpečenstvo pretekov v zbrojení medzi štátmi vlastniacimi nanotechnológie. Tvrdilo sa (Gubrud 2000), že molekulárna výroba povedie k väčšej nestabilite v zbrojení a väčšej nestabilite vo vzťahu ku krízam ako jadrové zbrane. Nestabilita pretekov v zbrojení znamená, že každej konkurenčnej strane bude dominovať túžba posilniť zbrojenie, čo povedie k rýchlemu rozvinutiu pretekov v zbrojení. Nestabilita vo vzťahu ku krízam znamená, že štrajkujúci prvý bude hlavným stimulom pre každú stranu. Dvaja približne rovnako silní oponenti,Po získaní nanotechnologických zbraní začnú z tohto hľadiska hromadná výroba a návrh zbraní, ktoré budú pokračovať až do vzniku krízy a vojny, ktorá bude potenciálne spôsobovať všeobecné konečné zničenie. To, že tento preteky v zbrojení bolo možné predvídať, nie je zárukou zavedenia medzinárodného bezpečnostného systému včas, aby sa zabránilo tejto katastrofe. Predpokladalo sa preteky v jadrových zbraniach medzi ZSSR a USA, napriek tomu sa však stalo.že medzinárodný bezpečnostný systém sa vytvorí včas, aby sa zabránilo tejto katastrofe. Predpokladalo sa preteky v jadrových zbraniach medzi ZSSR a USA, napriek tomu sa však stalo.že medzinárodný bezpečnostný systém sa vytvorí včas, aby sa zabránilo tejto katastrofe. Predpokladalo sa preteky v jadrových zbraniach medzi ZSSR a USA, napriek tomu sa však stalo.
2. Jadrový holokaust
USA a Rusko majú stále obrovské zásoby jadrových zbraní. Ale povedie plnohodnotná jadrová vojna k skutočnému vyhladeniu ľudstva? Poznač si to:
a) na to, aby sa stalo existenčným rizikom, stačí, ak si nie sme istí, že sa tak nestane.
b) klimatické účinky rozsiahlej jadrovej vojny sú málo známe (existuje možnosť jadrovej zimy).
c) nie je možné vylúčiť budúce preteky v zbrojení medzi krajinami, čo by mohlo viesť k vzniku ešte väčších arzenálov, ako sú tie, ktoré existovali na vrchole studenej vojny. Svetová zásoba plutónia neustále rastie a dosiahla 2 000 ton, čo je asi desaťkrát viac, ako zostáva v hlaviciach (Leslie 1996: 26). Aj keď niektorí ľudia prežijú krátkodobé účinky jadrovej vojny, mohlo by to viesť k rozpadu civilizácie. Ľudská rasa v dobe kamennej môže alebo nemusí byť odolnejšia voči vyhynutiu ako iné živočíšne druhy.
3. Žijeme v simulácii a vypne sa
Možno tvrdiť, že hypotéza, že žijeme v počítačovej simulácii, by sa mala pripísať značnej pravdepodobnosti (Bostrom 2001). Hlavnou myšlienkou tzv. Proof of Simulation je, že v budúcnosti môže byť k dispozícii obrovské množstvo výpočtového výkonu (Moravec 1989, 1999) a že ich možno okrem iného použiť na spustenie veľkého počtu jemne štruktúrovaných simulácií minulosti. ľudské civilizácie. Podľa niekoľkých nie tak neuveriteľných predpokladov môže byť výsledkom to, že väčšina myslí, ako je tá naša, sú simulované mysle, a preto musíme pripisovať významnú pravdepodobnosť, že sme simulovanými myslami, a nie (subjektívne nerozoznateľnými) myseľami prirodzene sa vyvíjajúcich bytostí. A ak áno, riskujemeže simuláciu je možné kedykoľvek vypnúť. Rozhodnutie zastaviť našu simuláciu môže byť spôsobené našimi činmi alebo externými faktormi.
Aj keď sa môže zdať niekomu zbytočné predkladať takúto radikálnu hypotézu vedľa konkrétnej hrozby jadrového holokaustu, mali by sme vychádzať z odôvodnení a nie z netrénovanej intuície. Pokiaľ nedôjde k vyvráteniu argumentov, ktoré predložil Bostrom (2001), bolo by intelektuálne nečestné ignorovať zastavenie simulácie ako možnú príčinu vyhynutia človeka.
4. Zle naprogramovaná superinteligencia
Keď vytvoríme prvé superinteligentné zariadenie (Moravec 1989, 1998, 1999; Vinge 1993; Bostrom 1998; Kurzweil 1999; Hanson a kol. 1998), môžeme urobiť chybu a stanoviť ciele, ktoré ho nasmerujú k zničeniu ľudstva vzhľadom na jeho kolosálny intelektuálna výhoda, ktorá mu dáva silu. Napríklad, môžeme mylne povýšiť cieľ nižšej úrovne na nadprirodzený stav. Hovoríme mu, aby vyriešil nejaký matematický problém, a poslúcha, premieňajúc všetku hmotu v slnečnej sústave na obrovské počítačové zariadenie a tým zabíjajú osobu, ktorá položila túto otázku. (Pre ďalšiu analýzu tejto témy, pozri (Yudkowsky 2001)).
5. Geneticky upravený biologický objekt
V dôsledku obrovského pokroku v genetickej technológii, ktorý v súčasnosti prebieha, môže byť možné, že tyran, terorista alebo šialenec vytvorí „vírus doomsday“: organizmus, ktorý kombinuje dlhé oneskorenie s vysokou virulenciou a letalitou (National Intelligence Council 2000).
Nebezpečné vírusy môžu byť dokonca pestované neúmyselne, ako to nedávno preukázali austrálski vedci, ktorí vytvorili modifikovaný vírus mctepoxu Ectromelia so 100% letalitou, keď sa pokúšali navrhnúť antikoncepčný vírus pre myši, ktorý sa má použiť na kontrolu škodcov hlodavcov (Nowak 2001).). Aj keď tento konkrétny vírus neinfikuje ľudí, predpokladá sa, že podobné zmeny by zvýšili letalitu vírusu ľudských kiahní. Potenciálnym nebezpečenstvom je, že štúdia bola rýchlo uverejnená v otvorenej vedeckej literatúre (Jackson a kol. 2001: 1479-1491). Je zriedkavé, aby informácie vytvorené v otvorených biotechnologických projektoch zostali utajené, bez ohľadu na to, čiaké závažné potenciálne riziko má - a to isté platí pre výskum v nanotechnológiách.
Genetická medicína povedie k lepším liekom a vakcínám, ale nie je zaručené, že obrana bude s trestným činom držať krok. (Dokonca aj náhodne generovaný vírus mousepoxu mal u očkovaných myší 50% úmrtnosť.) Nakoniec, nebezpečenstvo biologických zbraní môže byť pochované pokrokom nanomedicíny, hoci nanotechnológia má obrovský dlhodobý potenciál pre medicínu (Freitas 1999), má však svoje vlastné nebezpečenstvo.
6. Nesprávne použitie nebezpečných nanotechnológií („sivé goo“)
Nikdy nie je možné úplne vylúčiť možnosť nehody.
Existuje však mnoho spôsobov, ako zabrániť nehodám spôsobeným usmrtením ľudí pomocou spoľahlivých technických riešení. Je možné vyhnúť sa nebezpečnému použitiu samoreprodukujúcich sa systémov; môžete urobiť nanoboty závislými od použitia nejakej vzácnej chemikálie, ktorá v prírode neexistuje; môžete ich uzavrieť v uzavretom prostredí; môžu byť navrhnuté tak, aby akákoľvek mutácia takmer určite spôsobila, že nanobot prestane fungovať (Foresight Institute 2000). Z tohto dôvodu je náhodné zneužitie nanobotov oveľa menej znepokojujúce ako škodlivé zneužitie (Drexler 1985; Freitas 2000; (Foresight Institute 1997-1991)).
Rozdiel medzi náhodným a úmyselným sa však môže stať nejasným. Aj keď sa zdá, že globálne nanotechnologické katastrofy sú v zásade veľmi nepravdepodobné, osobitné idey môžu zabrániť realizácii tejto ideálnej úrovne bezpečnosti. Porovnajte nanotechnológiu s jadrovou technológiou. Z technického hľadiska je samozrejme možné využívať jadrovú technológiu iba na mierové účely, napríklad iba v jadrových reaktoroch, ktoré majú nulovú pravdepodobnosť zničenia celej planéty. V praxi sa však ukázalo, že nie je možné vyhnúť sa použitiu jadrovej technológie aj na výrobu jadrových zbraní, ktoré viedli k pretekom v zbrojení. S jadrovými arzenálmi na vysokej úrovni pripravenosti na boj je nevyhnutné vysoké riziko náhodnej vojny. To isté sa môže stať pri nanotechnológiách:môžu byť nútení slúžiť na vojenské účely spôsobom, ktorý by mohol spôsobiť bezprostredné riziko vážnych nehôd.
V niektorých situáciách môže byť dokonca strategicky výhodné, ak sa zámerne riskuje určitá technológia alebo riadiaci systém, napríklad, ak sa vytvorí „zásadne nepredvídateľná hrozba, v ktorej vždy existuje prvok náhody“- (Schelling 1960).
7. Niečo neočakávané
Potrebujeme takú zjednocujúcu kategóriu. Bolo by hlúpe veriť, že sme už vymysleli a predvídali všetky významné hrozby. Budúce technologické alebo vedecké objavy by mohli ľahko vytvoriť nové spôsoby, ako zničiť svet.
Niektoré predvídateľné riziká (a preto nie z tejto kategórie) boli vylúčené zo zoznamu výbuchov v dôsledku skutočnosti, že sa zdajú byť príliš nepravdepodobné príčiny globálnej katastrofy, konkrétne: slnečné erupcie, supernovy, výbuchy a zlúčenia čiernych dier, gama lúče, ohniská v galaktickom centre, supervolkány, strata biodiverzity, zvýšené znečistenie ovzdušia, postupná strata ľudskej schopnosti rozmnožovania sa a veľa náboženských scenárov súdneho dňa. Hypotéza, že jedného dňa dosiahneme „osvietenie“a dopustíme sa kolektívnej samovraždy alebo sa zastaví množenie, pretože VHEMT (Dobrovoľné hnutie za ľudské vyhynutie) obhajuje nádej (Knight 2001), sa zdá nepravdepodobná. Ak skutočnebolo by lepšie neexistovať (ako povedal Silenus kráľovi Midasovi v gréckom mýte a ako argumentoval Arthur Schopenhauer (Schopenhauer 1891), hoci z dôvodov špecifických pre jeho konkrétny filozofický systém nepremýšľal o samovražde), potom by sme tento scenár nepovažovali za globálny pohroma. Predpoklad, že byť nažive, nie je zlou vecou, by sa mal v definícii explózií považovať za implicitný predpoklad. Falošná všeobecná samovražda je riziko existencie, hoci jej pravdepodobnosť sa zdá byť extrémne nízka. (Viac informácií o etike ľudského vyhynutia nájdete v kapitole 4 (Leslie 1996: 26).)skutočnosť, že nažive nie je zlé, by sa mala v definícii explózií považovať za implicitný predpoklad. Falošná všeobecná samovražda je riziko existencie, hoci jej pravdepodobnosť sa zdá byť extrémne nízka. (Viac informácií o etike ľudského vyhynutia nájdete v kapitole 4 (Leslie 1996: 26).)skutočnosť, že nažive nie je zlé, by sa mala v definícii explózií považovať za implicitný predpoklad. Falošná všeobecná samovražda je riziko existencie, hoci jej pravdepodobnosť sa zdá byť extrémne nízka. (Viac informácií o etike ľudského vyhynutia nájdete v kapitole 4 (Leslie 1996: 26).)
8. Katastrofy v dôsledku fyzikálnych experimentov
Návrhári atómovej bomby v Manhattane sa obávali, že výbuch by zapálil atmosféru, majú moderných náprotivkov.
Existujú špekulácie, že experimenty s budúcimi vysokoenergetickými urýchľovačmi častíc môžu spôsobiť zničenie metastabilného stavu vákua, v ktorom sa môže nachádzať náš vesmír, a zmeniť ho na „skutočné“vákuum s nižšou hustotou energie (Coleman, Luccia 1980: 3305-3315). Takto sa vytvorí rozširujúca sa bublina úplného zničenia, ktorá sa bude šíriť po celej galaxii a ďalej rýchlosťou svetla a počas cestovania sa bude všetka hmota oddeľovať.
Ďalšou myšlienkou je, že experimenty s urýchľovačom by mohli vytvárať negatívne nabité stabilné „strangelety“(hypotetická forma jadrovej hmoty) alebo vytvoriť mikroskopickú čiernu dieru, ktorá sa ponorí do stredu Zeme a začne spotrebovávať zvyšok planéty (Dar et al. 1999: 142 - 148). Takéto scenáre sa zdajú nemožné na základe našich najlepších fyzikálnych teórií. Dôvod, prečo robíme experimenty, je presne preto, že nevieme, čo sa v skutočnosti stane. Oveľa presvedčivejším dôkazom je, že hustoty energie dosiahnuteľné v moderných urýchľovačoch sú oveľa nižšie ako hustoty nájdené v prírode pri zrážkach kozmického žiarenia (Dar et al. 1999: 142-148; Turner, Wilczek 1982: 633-634). Je však možné,že iné faktory ako energetická hustota sú dôležité pre tieto hypotetické procesy a tieto faktory sa spoja v budúcich nových experimentoch.
Hlavnou príčinou obáv z „fyzických katastrof“je metaúrovňové pozorovanie, že neustále dochádza k objavom všetkých druhov nebezpečných fyzikálnych javov, takže aj keď teraz sú všetky fyzické katastrofy, o ktorých uvažujeme, úplne nepravdepodobné alebo nemožné, stále môžu existuje realistickejšia cesta k katastrofe, ktorá čaká na odhalenie. Tie, ktoré sú tu uvedené, nie sú ničím iným, iba ilustráciami všeobecného prípadu.
9. Prirodzene sa vyskytujúca choroba
Čo keby bol AIDS rovnako nákazlivý ako nachladnutie?
Existuje niekoľko čŕt moderného sveta, ktoré by mohli spôsobiť globálnu pandémiu oveľa pravdepodobnejšie ako kedykoľvek predtým. Cestovanie, obchod s potravinami a mestský život sa v modernej dobe výrazne zvýšili, čím sa novej chorobe uľahčí rýchle infikovanie väčšiny svetovej populácie.
10. Kolízia s asteroidom alebo kométou
Existuje reálne, ale veľmi malé riziko, že budeme vyhubení dopadom asteroidov alebo komét (Morrison et al. 1994).
Aby mohlo dôjsť k zániku ľudstva, môže mať nárazové teleso priemer v priemere viac ako 1 km (a pravdepodobne 3 až 6 km). Bolo zaznamenaných najmenej päť a možno aj viac ako tucet hromadných vyhynutí. Zem a aspoň niektoré z nich boli pravdepodobne spôsobené kolíziami. (Leslie 1996: 81 f). Najmä vyhynutie dinosaurov pred 65 miliónmi rokov bolo spojené s poklesom asteroidu s priemerom 10 až 15 km na polostrove Yucatán. Predpokladá sa, že teleso s priemerom 1 km alebo viac sa v priemere zráža so Zemou raz za pol milióna rokov. Zatiaľ sme zaregistrovali iba malú časť potenciálne nebezpečných telies.
Ak dokážeme včas zistiť blížiaci sa orgán, budeme mať dobrú šancu na jeho vychýlenie tým, že ho zachytíme jadrovou raketou (Gold 1999).
11. Nezastaviteľné globálne otepľovanie
Existuje scenár, že uvoľňovanie skleníkových plynov do atmosféry môže byť proces so silnou pozitívnou spätnou väzbou. Možno sa to stalo aj s Venušou, ktorá má teraz teplotu 450 ° C a teplotu. Dúfajme však, že budeme mať technologické prostriedky, aby sme mohli čeliť tomuto trendu v čase, keď sa stane skutočne nebezpečným.
Nick Bostrom