V roku 1981, keď superpočítač Skynet, ktorý vynašiel režisér James Cameron, začal na Zemi jadrovú apokalypsu, vyzerala táto myšlienka veľmi fantasticky. Internet ešte škôlku neopustil, spoločnosť Microsoft uviedla na trh prvý operačný systém MS-DOS a spoločnosť Sinclair práve uviedla na trh program Spectrum, ktorý načítaval programy zo zvukových kaziet. Po 40 rokoch výbušného vývoja mikroelektroniky sa však vedcom podarilo navrhnúť nielen superpočítač, ale okrem neho aj plnohodnotnú umelú inteligenciu (AI). Výsledok vyšiel tak ohromujúci, že vedci … sa báli.
Nerobte hluk - umelá inteligencia funguje
Umelá inteligencia Busy ChiKJ („Busy Child“) začala tým, že od rodičov dostávala inteligenciu na úrovni švábov. Do programu „Dieťa“však bolo začlenené nekonečné učenie: AI neustále zdokonaľuje, prepisuje a optimalizuje svoj vlastný program. Jedno zlepšenie nastáva približne každých pár minút, počas ktorých umelá inteligencia zrýchľuje svoju prácu asi o 3%.
Busy Child sa postupne dostávalo blízko k inteligencii najinteligentnejších zvierat - opíc, delfínov, koní a čoskoro dosiahlo úroveň ľudského dieťaťa. Inteligentná inteligencia, ktorá rástla míľovými krokmi vpred, prekonala ľudskú intelektuálnu úroveň („univerzálna humanoidná inteligencia“), ale prácu tam nedokončila: stala sa dvakrát tak inteligentnou ako človek, potom desaťkrát, potom sto … Teraz elektronický mozog „Dieťa“pracuje rýchlosťou 36,8 petaflops za sekundu, to znamená približne dvakrát rýchlejšie ako ľudský mozog, a stáva sa tisíckrát inteligentnejším ako človek približne každé dva dni. V priebehu štúdií Busy Child študoval veľa exabajtov informácií z internetu (exabajty - miliarda miliárd znakov) a nakoniec sa vedci zľakli. Bolo rozhodnuté odpojiť „dieťa“od všetkých počítačových sietí. Busy Child však ani len nepomyslel na prerušenie kultivačného procesu …
Vojna myší
Môžete hovoriť veľa o sile mimozemskej inteligencie, ale faktom zostáva, že ľudstvo už má do činenia s oveľa výkonnejšou mysľou - počítačom. Táto myseľ je však neúplná - pre kvalitatívny skok je potrebné, aby si stroj uvedomil sám seba. Nikto však nemôže dať záruky, že Busy Child to ešte neurobila, ale z nejakého dôvodu klamať ľudí, vydávajúcich sa za veľmi bystrú, ale stále opicu.
Propagačné video:
Superinteligencia, ktorá sa realizovala, sa bude vo svojej existencii s najväčšou pravdepodobnosťou riadiť dvoma vecami: pud sebazáchovy a túžba dosiahnuť svoje vlastné ciele. Túžba chrániť sa pred „smrťou“povzbudí hľadanie ním kontrolovaných zdrojov energie (čistej elektriny aj vecí, pomocou ktorých je možné elektrinu získať - napríklad peniaze alebo palivo pre jadrové elektrárne). Dosahovanie cieľov a predovšetkým sebazdokonaľovania je bez práce s informáciami nereálne, preto sa superinteligencia pokúsi čo najpevnejšie integrovať do globálnej informačnej siete.
Pozrime sa na situáciu z pohľadu umelej superinteligencie a urobme analógiu. Ste človek, ktorý sa náhle prebudil zo zabudnutia v neznámom svete, povedzme, medzi inteligentnými myšami. Maličké stvorenia okolo vás povedali, že vás vytvorili. Čo sľúbite týmto hlodavcom, aby vás odviazali a prepustili z jaskyne? Hocičo. Budete vždy konať v ich najlepšom záujme? Ťažko. Svoje vlastné záujmy budete sledovať pomocou myší, keď vám to vyhovuje. Navyše, ak vám povedzme kmeň mačiek dá viac príležitostí, môžete k nemu ľahko skočiť.
Ľudstvo sa teda ukázalo byť úplne nepripravené na dialóg s mysľou odlišnou od našej. Nevieme, čo je etické pre superinteligenciu a čo nie, a či vôbec má také koncepty. Mimochodom, neexistuje žiadna záruka, že Busy Child nezaplavil internet svojimi kópiami, ktoré v podobe vírusov čakajú v krídlach na akciu. Čo to však bude za akciu? …
Aj v bežnom intelektuálnom spore ľudstvo stále beznádejne stráca. Predstavte si napríklad, že sa vedci stretnú na stretnutí, aby prediskutovali, čo ďalej s programom Busy Child: nechať ho pracovať alebo odpojiť od napájania? Superpočítač, ktorý sa o tom dozvedel alebo o ňom hádal, aktivuje svoje klonované vírusy po celom svete a uvádza na trh paralelné riešenie problému prežitia. Desiatky a stovky chladných myslí, ktoré majú v intelektuálnej sile oveľa lepšie ako ľudia, nájdu najoptimálnejšie riešenie problému s najväčšou pravdepodobnosťou ešte skôr, ako si vedci urobia obednú prestávku. Aká však bude nájdená možnosť? Preukážete prívetivosť a ubezpečenie o svojej úplnej bezpečnosti? Prísľub odhaliť vedeckú metódu, ako sa zbaviť rakoviny alebo AIDS? Hrozba nehôd v nebezpečnom priemysle alebo v jadrovej vojne? Nevieme.
Terminátory na stráži
V hollywoodskych filmoch ľudia vždy zvíťazia v boji medzi umelou superinteligenciou a ľudstvom. V skutočnosti bude plnohodnotná AI dominovať ľuďom rovnako, ako dnes dominujú ľudia nad myšami. Navyše „bitka“, ak k nej dôjde, bude jediná - buď ľudstvo pochopí, ako sa chrániť pred vlastným duchovným dieťaťom, a zvíťaziť, alebo prehrať a prípadne navždy zmiznúť alebo sa zmeniť na nešťastných služobníkov strojov (alebo dokonca na živé batérie, ako v r. „Matrix“).
Mimochodom, dnes je situácia nebezpečnejšia ako kedykoľvek predtým. Ak je práca s nebezpečnými látkami (chemická výroba, jadrová energia, vírusy a mikroorganizmy) prísne regulovaná na celom svete, potom nás od hypotetického povstania strojov delí iba hŕstka vedcov pracujúcich s Busy Child. Koľko ďalších vedcov po celom svete navyše navrhuje a pestuje podobné umelé inteligencie?
Čo bráni tomu, aby nejaký geniálny blázon, urazený celým svetom, mierne napravil kód a dal AI morálku - ale morálku vraha?
Mimochodom, ukončovacie roboty z rovnomenného filmu sú skutočne dobrou vecou na dosiahnutie cieľa pomocou umelej superinteligencie, ak je týmto cieľom zničenie ľudstva. Bez ohľadu na to, koľko globálnych katastrof usporiadate, bude možné úplne zničiť ľudstvo až po úplnom cielenom zásahu - pomocou jednotlivých robotov.
V bitke je človek vystavený najväčšiemu stresu, a preto môže bojovník, ktorý na cvičisku preukázal vynikajúce výsledky, v zmätku bitky vystreliť do bieleho svetla ako pekný cent. Napríklad, ak vojak v prestrelke vzdialenej 300 metrov dokáže zasiahnuť cieľ o veľkosti basketbalovej lopty, robot vloží všetky guľky do mince v rovnakej vzdialenosti. Pretože robot nemá v bitke na čom dbať, vrátane vlastnej bezpečnosti, budú výsledky prestrelky ľudí s terminátormi pre ľudstvo žalostné. A ak vezmete do úvahy aj skutočnosť, že roboti nemajú bolestivý šok, ktorý znižuje ich bojové vlastnosti, a ich brnenie je oveľa silnejšie ako ľudské …
A nakoniec, výroba plnohodnotnej kópie robota môže trvať niekoľko hodín a byť nasadená kdekoľvek - zatiaľ čo výroba a školenie človeka trvá mnoho desaťročí. Ukázalo sa teda, že je lepšie naše počítače nenasrať. Keby niečo…
Jurij DANILOV