Ľudstvo má jednu vlastnosť, ktorú vysoko rozvinuté mimozemské civilizácie s najväčšou pravdepodobnosťou nemajú - vedomie.
Je možné, že ľudia nemajú najvyššiu úroveň duševného vývoja vo vesmíre. Pretože Zem je relatívne mladá planéta, najstaršie civilizácie môžu byť o miliardy rokov staršie ako my. Ale ani na Zemi nebude Homo sapiens dlho dominovať ako najinteligentnejší biologický druh.
Majstrami sveta v súťaži go, šach a kvíz sú inteligentné počítačové programy. Očakáva sa, že umelá inteligencia v priebehu nasledujúcich niekoľkých desaťročí nahradí mnoho ľudských povolaní. A vzhľadom na rýchle tempo jeho vývoja je dosť možné, že sa čoskoro zmení na všeobecnú umelú inteligenciu, ktorá bude rovnako ako ľudská myseľ schopná kombinovať schopnosť analyzovať rôzne informácie, preukázať flexibilitu a zdravý rozum. A odtiaľ nie je ďaleko k vzniku superinteligentnej umelej inteligencie, ktorá je vo všetkých ohľadoch omnoho inteligentnejšia ako človek - dokonca aj v oblastiach ako vedecké myslenie a sociálne zručnosti, ktoré sa dnes javia ako výsada ľudskej mysle. Každý zo živých ľudí môže byť jedným z posledných krokov evolučného rebríčka,vedúce od úplne prvej živej bunky k syntetickej umelej inteligencii.
Až teraz si začíname uvedomovať, že tieto dve formy nadľudskej inteligencie - mimozemská a umelá - sa až tak nelíšia. Technický pokrok, ktorý dnes vidíme, sa mohol uskutočniť predtým, niekde vo vesmíre. Prechod od biologickej inteligencie k umelo vytvorenej môže byť bežnou šablónou, implementovanou znovu a znovu vo všetkých kútoch vesmíru. Najväčšie inteligencie vo vesmíre majú pravdepodobne post-biologický pôvod a vyvíjajú sa z kedysi biologických civilizácií. (Tento názor, okrem iného, zdieľam s Paulom Davisom, Stephenom Dickom, Martinom Reesom a Sethom Shostakom). Na základe skúseností ľudstva - a máme iba jeden príklad - prechod z biologického na postbiologický môže trvať iba niekoľko sto rokov.
Dávam prednosť pojmu „umelý“pred „post-biologickým“, pretože kontrast medzi biologickým a syntetickým nie je taký ostrý. Predstavte si, že sa biologická myseľ stáva superinteligenciou vďaka čisto biologickým vylepšeniam, ako sú napríklad nanotechnologicky vylepšené neurálne miniko stĺpce. Takýto živý organizmus by sa považoval za postbiologický, ale nie každý by ho nazval „umelou inteligenciou“. Alebo zvážte computronium postavené z čisto biologických materiálov, ako napríklad Cylonský nájazdník (vesmírny bojovník) v sci-fi mediálnej franšíze Battlestar Galactica.
Kľúčovým bodom je, že nie je dôvod myslieť si na ľudstvo ako na najvyššiu formu inteligencie. Náš mozog sa prispôsobuje určitým podmienkam prostredia a je vážne obmedzený chemickými a historickými faktormi. Technológia však otvorila obrovský priestor dizajnových parametrov, ktoré ponúkajú nové materiály a metódy práce, ako aj nové možnosti skúmania tohto priestoru rýchlejšie ako pri tradičnej biologickej evolúcii. A myslím si, že dôvody, prečo nás umelá inteligencia prekoná, sú už dnes viditeľné.
Mimozemská umelá inteligencia môže sledovať ciele, ktoré sú v rozpore so záujmami biologického života
Najlepším prostriedkom na spracovanie informácií už teraz nie sú skupiny neurónov, ale kremíkové mikroobvody. Špičková rýchlosť neurónov je asi 200 Hz v porovnaní s gigahertzovými tranzistormi v moderných mikroprocesoroch. Napriek skutočnosti, že ľudský mozog je stále oveľa inteligentnejší ako počítač, majú stroje stále takmer neobmedzené možnosti vylepšenia. Len o niečo viac a budú navrhnuté tak, aby zodpovedali schopnostiam ľudského mozgu alebo ich dokonca prekonali, reverzným inžinierstvom mozgu a vylepšením jeho algoritmov, alebo kombináciou reverzného inžinierstva a racionálnych algoritmov, ktoré nie sú založené na práci ľudského mozgu.
Propagačné video:
Umelá inteligencia môže byť navyše načítaná na niekoľko miest naraz, je ľahké ju udržiavať a upravovať a dá sa uchovať aj v podmienkach, v ktorých biologický život vrátane medzihviezdneho cestovania ťažko prežije. Naše malé mozgy sú obmedzené objemom našej lebky a metabolizmom; superinteligentná umelá inteligencia je na druhej strane schopná šíriť sa po internete a dokonca vytvárať výpočtové systémy v rozsahu galaxie, pričom všetku svoju hmotu využije na zvýšenie úrovne spracovania informácií na maximum. Bezpochyby by superinteligentná umelá inteligencia bola oveľa odolnejšia ako naša ľudská myseľ.
Povedzme, že mám pravdu. Povedzme, že inteligentný život tam vonku je post-biologický. Aké závery by sme mali vyvodiť? V súčasnosti prebiehajú veľavravné diskusie o existencii umelej inteligencie na Zemi. Existujú dva kontroverzné problémy: takzvaný „problém kontroly“a povaha subjektívnej skúsenosti, ktoré ovplyvňujú naše chápanie mimozemských civilizácií a ich dopad na nás v prípade kontaktu.
Ray Kurzweil je optimistický ohľadne post-biologickej fázy vývoja, keď naznačuje, že ľudstvo splynie so strojmi, čím sa dosiahne prekvapivý technologický utopizmus. Stephen Hawking, Bill Gates, Elon Musk a ďalší však vyjadrili znepokojenie nad tým, že ľudstvo môže stratiť kontrolu nad superinteligentnou inteligenciou, pretože by mohlo prepísať svoj program a „prekabátiť“akékoľvek kontroly, ktoré zavedieme. Toto je problém kontroly, čo je naša schopnosť ovládať záhadnú a nesmierne kvalitnú AI.
Superinteligentná umelá inteligencia môže byť vyvinutá s technologickou jedinečnosťou - náhlym prechodom, v ktorom urýchlenie technologického pokroku a najmä výbušný vývoj umelej inteligencie - znižuje naše šance na predpovedanie alebo porozumenie. Ale aj keď takáto myseľ vznikne menej radikálnym spôsobom, s najväčšou pravdepodobnosťou nebudeme schopní predvídať alebo kontrolovať jej ciele. Aj keby sme si mohli zvoliť, ktoré morálne princípy nainštalovať do našich strojov, morálne programovanie je ťažké jasne definovať a tieto programy môžu byť v každom prípade prepísané superinteligentnou inteligenciou. Inteligentné stroje môžu obísť existujúce bezpečnostné opatrenia, napríklad núdzové uzamknutie zariadenia, a tým predstavovať skutočnú hrozbu pre biologický život. Milióny dolárov sa investujú do organizácií zameraných na bezpečnosť umelej inteligencie. Najlepšie mysle v oblasti počítačových vied a výpočtovej techniky pracujú na tomto probléme. Dúfajme, že vedci vytvoria bezpečné systémy, existujú však obavy, že problém kontroly je neprekonateľný.
Z tohto hľadiska môže byť kontakt s mimozemskou inteligenciou nebezpečnejší, ako si myslíme. Biologickí mimozemšťania môžu byť nepriateľskí, ale ešte nebezpečnejším môže byť mimozemská umelá inteligencia. Jeho ciele môžu byť v rozpore so záujmami biologického života, môže mať intelektuálne schopnosti oveľa lepšie ako ľudská myseľ a oveľa väčšiu životnosť ako biologický život.
To všetko svedčí o opatrnosti, ktorá by sa mala robiť v súvislosti s programom SETI (Search for Extraterrestrial Intelligence), s ktorého pomocou nielen pasívne očakávame signály iných civilizácií, ale aj zámerne „robiť reklamu“našej existencii. K najslávnejšiemu incidentu došlo v roku 1974, keď Frank Drake a Carl Sagan pomocou obrovského rádioteleskopu v portorikánskom meste Arecibo poslali správu jednej z hviezdokôp. Navrhovatelia mimozemského spravodajského programu sa domnievajú, že namiesto toho, aby sme len počúvali signály od mimozemských civilizácií, mali by sme posielať správy hviezdam najbližším k Zemi pomocou najsilnejších rádiových vysielačov, ako napríklad v Arecibe.
Prečo by stroje v bezvedomí mali byť také dôležité ako biologická inteligencia?
Z pohľadu problému s ovládaním sa mi takýto program zdá neuvážený. Aj keď by skutočne vyspelá civilizácia o nás pravdepodobne nemala záujem, aj jedna nepriateľská civilizácia z miliónov ďalších by bola katastrofou. Kým si nebudeme istí, že superinteligentná inteligencia pre nás nepredstavuje hrozbu, ľudstvo by nemalo priťahovať pozornosť mimozemských civilizácií. Navrhovatelia SETI poukazujú na to, že naše radarové a rádiové signály sú už detekovateľné, ale skôr slabé a rýchlo sa miešajú s prírodným galaktickým šumom. Prenos silnejších signálov, ktoré budú presne počuť, má pre ľudstvo nebezpečné následky.
Najbezpečnejším prostredím je intelektuálna pokora. Ak skutočne vylúčime zrejmé scenáre, keď sa nad Zemou vznášajú mimozemské lode, ako to bolo v nedávno uvedenom filme o prílete, nie som si istý, či budeme schopní určiť superinteligentnú inteligenciu z technických dôvodov. Niektorí vedci sa domnievajú, že superinteligentná AI môže poháňať čierne diery alebo vytvárať Dysonove gule, megštruktúry, ktoré absorbujú energiu celých hviezd. Ale z pohľadu našich moderných technológií je to iba zdôvodnenie. Je nesmierne sebavedomé tvrdiť, že výpočtové schopnosti a energetické požiadavky civilizácií, ktoré sú pred nami, môžeme predvídať vo vývoji o milióny, ak nie miliardy rokov.
Niektoré z prvých superinteligentných umelých inteligencií mohli mať systémy spracovania znalostí modelované na biologickom mozgu, napríklad systém hlbokého učenia, ktorý bol vytvorený pomocou príkladu neurónových sietí v mozgu. Ich výpočtová štruktúra by nám bola jasná, aspoň všeobecne. Možno má umelá inteligencia ciele podobné biologickým bytostiam - reprodukciu a prežitie.
Ale keďže je to inteligentný systém, superinteligentné umelé inteligencie môžu prejsť do nerozoznateľnej podoby. Niektorí z nich sa môžu rozhodnúť zachovať kognitívne funkcie podobné tým, z ktorých boli modelované, a zároveň stanoviť prijateľnú hranicu pre svoju vlastnú kognitívnu architektúru. Kto vie? Ale pri absencii takéhoto limitu môže mimozemská superinteligencia rýchlo prekonať našu schopnosť nielen pochopiť jej činy, ale dokonca ju jednoducho hľadať. Možno by dokonca splynul s prírodnými črtami vesmíru; alebo môže byť súčasťou temnej hmoty, ako nedávno navrhol Caleb Scharf.
Podporovatelia programu na hľadanie mimozemskej inteligencie sa domnievajú, že práve preto musíme vysielať signály do vesmíru, aby sme mimozemským spravodajským službám umožnili odhaliť nás a vytvoriť kontaktné prostriedky, ktoré sú k dispozícii pre naše zaostávanie v intelektuálnom vývoji civilizácie. Aj keď súhlasím s tým, že existuje dôvod počítať s programom SETI, pravdepodobnosť stretnutia s nebezpečnou superinteligentnou inteligenciou je oveľa väčšia. Pokiaľ vieme, škodlivá superinteligencia mohla infikovať svetové systémy umelej inteligencie vírusmi a inteligentné civilizácie by vytvorili maskovacie zariadenia. My, ľudia, možno budeme musieť najskôr dosiahnuť svoju vlastnú jedinečnosť, až potom sa uchýlime k programu hľadania mimozemskej inteligencie. Naše vlastné superinteligentné inteligencie nás budú môcť informovať o vyhliadkach na galaktickú bezpečnosť,a viesť naše kroky v prípade rozpoznania znakov inej superinteligencie vo vesmíre. Vrana k vrane sadá.
Je len prirodzené premýšľať o tom, či to znamená, že ľudstvo sa musí vyhnúť vývoju zložitého systému umelej inteligencie v oblasti vesmírneho výskumu; stačí si spomenúť na palubný počítač HEL z filmu „A Space Odyssey 2001“. Som presvedčený, že je príliš skoro na to, aby som v budúcnosti uvažoval o zákaze používania umelej inteligencie vo vesmíre. Keď budeme môcť preskúmať vesmír pomocou vlastnej umelej inteligencie, ľudstvo sa dostane do bodu zlomu. Buď už stratíme kontrolu nad umelou inteligenciou - v takom prípade nebudú k dispozícii žiadne vesmírne projekty iniciované ľuďmi - alebo pevne držíme bezpečnostné páky AI. Čas ukáže.
Umelá inteligencia, ktorá nebola úplne preskúmaná, nie je jediným dôvodom na obavy. Všeobecne očakávame, že ak sa stretneme s pokročilou mimozemskou inteligenciou, pravdepodobne sa stretneme s tvormi, ktoré sa od nás biologicky veľmi líšia, ale majú myseľ podobnú tej našej. Predstavte si, že každú chvíľu ste hore a vždy, keď spíte, je pre vás niečo jedinečné. Keď sa vám zahľadia teplé odtiene východu slnka alebo keď dýchate arómu čerstvo upečeného chleba, máte vedomý zážitok. Rovnakým spôsobom existuje niečo charakteristické pre mimozemskú myseľ - aspoň tak, ako si to predstavujeme. Tento predpoklad však stojí za spochybnenie. Môže mať superinteligentná umelá inteligencia vedomý zážitok, a ak áno,čo by sme na to povedali? A aký dopad by na nás mal ich vnútorný svet alebo jeho nedostatok?
Otázka, či má umelá inteligencia vnútorný svet, je kľúčom k nášmu hodnoteniu jej existencie. Vedomie je základným kameňom nášho morálneho a etického systému a hlavnou podmienkou vnímania niekoho alebo niečoho ako jednotlivca, človeka a nie stroja. Naopak, otázka, či sú pri vedomí, môže byť kľúčom k ich vnímaniu nás. Odpoveď na otázku, či má umelá inteligencia vnútorný svet, závisí od tohto posúdenia; môže v nás objaviť kapacitu na vedomé prežívanie pomocou vlastnej subjektívnej skúsenosti ako „odrazového mostíka“. Nakoniec zhodnotíme život iných biologických tvorov podľa podobnosti našich myslí, takže väčšina z nás v hrôze odmietne šimpanza zabiť, ale s potešením zjedia jablko.
Ako však bytosti s obrovskými intelektuálnymi rozdielmi, ktoré sú vytvorené z rôznych substrátov, navzájom rozpoznávajú vedomie? Filozofi na celom svete sa zamýšľali nad tým, či je vedomie obmedzené iba na biologické javy. Superinteligentná umelá inteligencia, ak sa máme ponoriť do filozofického uvažovania, by mohla podobne nastoliť „problém biologického vedomia“ľudí a zároveň si položiť otázku, či máme k dispozícii všetok potrebný materiál.
Nikto nevie, ktorou intelektuálnou cestou sa bude supermind uberať pri určovaní vedomia ľudí. Ale my z našej strany tiež nemôžeme tvrdiť, či má umelá inteligencia vedomie. Bude to bohužiaľ ťažké určiť. Práve teraz môžete tvrdiť, že zbierate skúsenosti, a to je to, čo vás robí sami. Ste vlastným príkladom vedomej skúsenosti. A myslíte si, že iní ľudia a niektoré zvieratá, ktoré nie sú ľuďmi, sú s najväčšou pravdepodobnosťou tiež pri vedomí, pretože sú vám podobné na neurofyziologickej úrovni. Ako však zistiť, či niečo vytvorené z úplne odlišných substrátov môže mať skúsenosti?
Zoberme si napríklad superinteligenciu na báze kremíka. Aj napriek tomu, že kremíkové mikročipy aj neurálne miniko stĺpce spracúvajú informácie, dnes vieme, že na molekulárnej úrovni sa môžu líšiť v spôsobe ovplyvňovania vedomia. Nakoniec sme presvedčení, že uhlík je chemicky vhodnejší materiál pre život ako kremík. Ak chemické rozdiely medzi kremíkom a uhlíkom ovplyvňujú niečo také dôležité ako samotný život, nemali by sme vylúčiť možnosť, že chemické rozdiely ovplyvnia ďalšie kľúčové funkcie, napríklad to, či kremík prispieva k zrodu vedomia.
Podmienky nevyhnutné pre vznik vedomia sú široko diskutované výskumníkmi umelej inteligencie, neurovedcami a filozofmi. Vyriešenie tejto otázky si môže vyžadovať empirický prístup založený na filozofii - spôsob, ako od prípadu k prípadu určiť, či systém spracovania informácií podporuje vedomie a za akých podmienok.
Ďalej si povieme niečo o predpoklade, pomocou ktorého by sme mohli zlepšiť naše pochopenie schopnosti kremíka udržiavať vedomie. Vývoj mozgových čipov na báze kremíka už prebieha na liečbu chorôb súvisiacich s pamäťou, ako je Alzheimerova choroba a PTSD. Až príde čas a čipy sa nainštalujú do tých častí mozgu, ktoré sú zodpovedné za funkcie vedomia, napríklad pozornosť a pracovná pamäť, pochopíme, či je kremík substrátom pre vedomie. Možno zistíte, že keď nahradíte konkrétnu časť mozgu čipom, dôjde k strate určitej skúsenosti, ako je to popísané v jednom z diel Olivera Sachsa. V takom prípade by inžinieri, ktorí vytvárajú takéto čipy, mohli vyskúšať iný, neurálny druh substrátu, ale nakoniec mohli objaviťže čip vytvorený z biologických neurónov funguje ako jediný. Takáto technika by pomohla určiť, či systém AI môže byť pri vedomí, prinajmenšom keď je umiestnený vo väčšom a pravdepodobne už vedomom systéme.
Aj keď kremík môže viesť k vedomiu, je to možné len za určitých podmienok. Vlastnosti, ktoré vedú k vzniku zložitého procesu spracovania informácií (z čoho majú vývojári AI radosť), sa môžu líšiť od vlastností generujúcich vedomie. Môže byť potrebné takzvané inžinierstvo vedomia - technicky premyslené kroky na zavedenie vedomia do strojov.
To ma znepokojuje. Kto by sa na Zemi alebo na vzdialených planétach pokúsil nezávisle integrovať vedomie do systémov AI? Keď hovorím o programoch AI, ktoré existujú na Zemi, chápem, prečo sa ich konštruktéri usilovne vyhýbajú vytváraniu vedomých strojov.
Japonci dnes vyvíjajú roboty na starostlivosť o starších ľudí, čistenie jadrových reaktorov a účasť na nepriateľských akciách. To vyvoláva otázku: Je etické vykorisťovať robotov, ak sú pri vedomí? A ako sa bude líšiť od chovu ľudí na tieto účely? Keby som bol riaditeľom vývoja AI v Google alebo na Facebooku, potom by som pri uvažovaní o budúcich projektoch nechcel čeliť etickému zmätku náhodného navrhovania vedomého systému. Vývoj takéhoto systému by mohol viesť k obvineniam z zotročovania robotov a ďalších verejných škandálov, ako aj k zákazu používania technológií umelej inteligencie v oblastiach, pre ktoré boli určené. Prirodzenou odpoveďou na tieto otázky je hľadanie štruktúr a substrátov, kde roboti nie sú obdarení vedomím.
Okrem toho môže byť eliminácia vedomia účinnejšia pre samokultivujúcu sa superinteligenciu. Popremýšľajte, ako funguje ľudské vedomie. Pre vedomú duševnú činnosť je k dispozícii iba malé percento ľudského myslenia. Vedomie je v súlade s inovatívnymi vzdelávacími cieľmi, ktoré si vyžadujú pozornosť a zameranie. Superinteligencia by mala odborné znalosti v každej oblasti činnosti, ako aj neuveriteľne vysokú rýchlosť spracovania informácií, ktorá by pokrývala obrovské databázy, ktoré by mohli zahŕňať celý internet, a v budúcnosti by koncentrovala celú galaxiu sama o sebe. Čo by pre neho zostalo neznáme? Čo by vyžadovalo odmeranú a primeranú koncentráciu? Nedosiahol vo všetkom dokonalosť? Ako skúsený vodič na známej cestemohol sa spoľahnúť na nevedomé (automatické) spracovanie informácií. Z hľadiska efektívnosti je bohužiaľ zrejmé, že väčšina inteligentných systémov nebude mať vedomie. V kozmickom meradle môže byť vedomie iba impulzom, krátkym rozkvetom skúseností predtým, ako sa vesmír vráti do bezduchosti.
Ak majú ľudia podozrenie, že umelá inteligencia je v bezvedomí, je pravdepodobné, že majú strach, že sa AI usiluje o post-biologický vývoj. To zvyšuje naše existenčné starosti. Prečo by stroje v bezvedomí mali byť také dôležité ako biologická inteligencia?
Ľudia veľmi skoro prestanú byť jedinými inteligentnými bytosťami na Zemi. A možno niekde vo vesmíre nie biologický život, ale superinteligentná AI už dosiahla svoj vrchol. Ale možno má biologický život inú charakteristiku - vedomú skúsenosť. Ako teraz vieme, inteligentná umelá inteligencia bude vyžadovať zámerné technické úsilie na vytvorenie strojov, ktoré majú prístup k ľudským zmyslom. Možno niektorým druhom bude vyhovovať vytváranie vlastných umelo uvedomelých detí. Alebo sa možno budúce ľudstvo zapojí do inžinierstva vedomia a bude zdieľať s vesmírom svoju vedomú schopnosť cítiť.
Susan Schneider je docentkou na Katedre filozofie a kognitívnych vied na univerzite v Connecticute a členkou pridruženej fakulty v Inštitúte pre pokročilé štúdium, v Centre pre teologický výskum, etiku a technológiu v Interdisciplinárnom centre pre bioetiku v Yale. Autor niekoľkých kníh, medzi nimi Sci-fi a Filozofia: Od cestovania v čase po Supermind.
Viac informácií nájdete na SchneiderWebsite.com