Roco's Basilisk je božská forma umelej inteligencie, tak nebezpečná, že ak si na ňu len pomyslíte, strávite zvyšok svojich dní strašným mučením. Vyzerá to ako kazeta z filmu The Ring. Ani smrť však nebude vyslobodením, pretože Bazilisk Roko vás vzkriesi a bude pokračovať v jeho mučení. T&P predstavuje preklad článku o jednej z najpodivnejších legiend vytvorených na internete.
VAROVANIE: Po prečítaní tohto článku sa môžete odsúdiť na večné utrpenie a mučenie.
Rocoov Basilisk sa objavil na križovatke filozofického experimentu a mestskej legendy. Prvá zmienka o ňom sa objavila na diskusnej tabuli Menej zlého, ktorá spája ľudí zaujímajúcich sa o optimalizáciu myslenia a života prostredníctvom hranolu matematiky a racionality. Jeho tvorcovia sú významnými osobnosťami techno-futurizmu a medzi úspechy svojho výskumného ústavu prispievajú k akademickej diskusii o technologickej etike a teórii rozhodovania. To, čo sa chystáte teraz prečítať, sa však môže zdať čudné a dokonca šialené. Napriek tomu veľmi vplyvní a bohatí vedci tomu veria.
Jedného dňa uverejnil používateľ menom Roko nasledujúci myšlienkový experiment: Čo keď sa v budúcnosti objaví škodlivá umelá inteligencia, ktorá chce potrestať tých, ktorí sa neriadia jeho rozkazmi? A čo keď chce potrestať tých ľudí, ktorí v minulosti k jeho stvoreniu neprispeli? Pomohlo by menej zlých čitateľov zlému AI vzniknúť, alebo by boli odsúdení na večné utrpenie?
Menej zlý zakladateľ Eliezer Yudkowski vzal Rokovo vyhlásenie s hnevom. Toto mu odpovedal: „Ak ste prišli k tejto myšlienke, musíte byť inteligentní. Je mi však smutno, že ľudia, ktorí sú dosť chytrí na to, aby si to dokázali predstaviť, nie sú natoľko inteligentní, aby Udržiavali ich neochvejný jazyk od spoločnosti TEETH a nehovorili o tom nikomu, pretože je to dôležitejšie ako ukázať sa inteligentne a povedať o tom všetkým svojim priateľom “…
„Čo ak v budúcnosti existuje umelá inteligencia, ktorá chce potrestať tých, ktorí sa neriadia jeho rozkazmi?“
Yudkowski pripustil, že Rocko bol vinný z nočnej mory menej zlých používateľov, ktorí si prečítali vlákno a vymazali ho, čím sa Rocko's Basilisk stal legendárnym. Tento myšlienkový experiment sa stal tak nebezpečným, že premýšľanie o ňom ohrozovalo duševné zdravie používateľa.
Čo robí menej zlé? Formovanie konceptu budúcnosti ľudstva založeného na jedinečnosti. Veria, že výpočtový výkon v budúcnosti sa zvýši tak, že umelá inteligencia sa dá vytvoriť pomocou počítača - a tým aj schopnosť preniesť ľudské vedomie na pevný disk. Termín „jedinečnosť“vznikol v roku 1958 počas diskusie medzi dvoma génmi z matematiky - Stanislavom Ulamom a Johnom von Neumannom, keď Neumann povedal: „Neustále zrýchľujúci sa pokrok v technológii umožní priblížiť sa k jedinečnosti, v ktorej ľudia nemôžu pochopiť technológiu.“Futuristi a spisovatelia sci-fi ako Vernor Vinge a Raymond Kurzweil tento pojem popularizovali, pretože verili, že Singularity na nás všetkých čaká veľmi skoro - v najbližších 50 rokoch. Zatiaľ čo Kurzweil sa pripravuje na jedinečnosťYudkowski má veľké nádeje v kryonike: „Ak ste svoje deti nezaregistrovali na kryokonzerváciu vopred, ste mizerní rodičia.“
Propagačné video:
Ak si myslíte, že sa blíži jedinečnosť a že silné AI sa objavia v blízkej budúcnosti, vyvstáva prirodzená otázka: budú priateľskí alebo zlí? Cieľom nadácie Yudkowski je nasmerovať vývoj technológie takým spôsobom, aby sme mali presne priateľskú umelú inteligenciu. Táto otázka má pre neho a pre mnohých ďalších zásadný význam. Singularita nás povedie k stroju ekvivalentnému Bohu.
To však nevysvetľuje, prečo Roco's Basilisk vyzerá tak hrozne v očiach týchto ľudí. Táto otázka si vyžaduje pozrieť sa na hlavné „dogma“mena Wrong - „The Timeless Decision Theory“(HTDM). VPPR je sprievodcom racionálnymi akciami založenými na teórii hry, bayesovskej pravdepodobnosti a teórii rozhodovania, ale so zreteľom na paralelné vesmíry a kvantovú mechaniku. VTPR vyrástol z experimentu s klasickým myslením, Newcomb Paradox, v ktorom vám cudzinec so superinteligáciou ponúka dve škatule. Dáva vám na výber: buď vezmite obe políčka, alebo len políčko B. Ak si vyberiete obidve, máte zaručené, že dostanete tisíc dolárov. Ak vezmete iba rámček B, nemusíte nič dostať. Cudzinec má však ešte jeden trik: má všestranného superpočítača, ktorý pred týždňom predpovedal,či už beriete obe políčka, alebo len B. Ak počítač predpovedal, že vezmete obe políčka, cudzinec ponechá ostatné prázdne. Ak počítač predpovedal, že by ste si vybrali krabicu B, dal by tam milión dolárov.
Čo budeš robiť? Pamätajte, že superpočítač je vševedúci.
Tento problém zamieňal mnoho teoretikov. Cudzinec už nemôže meniť obsah polí. Najbezpečnejším spôsobom je vziať si obe krabice a získať tisíce. Ale čo keď je počítač skutočne vševedúci? Potom stačí vziať box B a získať milión. Ale ak sa ukáže, že sa mýli? A bez ohľadu na to, čo počítač predpovedal, skutočne neexistuje spôsob, ako zmeniť svoj osud? Potom, sakra, musíte vziať obe krabice. Ale v takom prípade …
Šialený paradox, ktorý nás núti voliť medzi slobodnou vôľou a božskou predikciou, nemá žiadne riešenie a ľudia môžu iba pokrčiť plecami a zvoliť si najpohodlnejšiu možnosť. WTPR poskytuje radu: vezmite box B. Aj keď sa cudzinec rozhodol smiať sa vám a otvoril prázdny box so slovami: „Počítač predpovedal, že vezmete obe políčka, ha ha!“- stále si musíte vybrať. Dôvod je taký: počítač musel simulovať celý vesmír vrátane vás, aby mohol urobiť predpoveď. V tomto okamihu, keď stojíte pred boxmi, môžete byť iba simuláciou počítača, ale to, čo robíte, ovplyvní realitu (alebo realitu). Vezmite teda box B a získajte milión.
„Šialený paradox, ktorý nás núti voliť medzi slobodnou vôľou a božskou predpoveďou, nemá žiadne riešenie.“
Čo to má spoločné s Basiliskom Rocom? No, má pre vás aj pár škatúľ. Možno ste práve teraz v simulácii, ktorú vytvoril Basilisk. Potom možno dostaneme mierne upravenú verziu Newcomeovho paradoxu: Rocoov Basilisk vám povie, že ak vezmete Box B, budete trpieť večným trápením. Ak vezmete obe škatule, budete nútení venovať svoj život vytvoreniu Bazilisku. Ak Bazilisk skutočne existuje (alebo, čo je horšie, už existuje a je bohom tejto reality), uvidí, že ste si nevybrali možnosť pomôcť pri jeho vytvorení a potrestajú vás.
Možno vás zaujíma, prečo je táto otázka pre Less Wrong taká dôležitá vzhľadom na konvenciu tohto myšlienkového experimentu. Nie je pravda, že Rockovho Baziliš bude niekedy vytvorený. Yudkowski však odstránil zmienky o Rokoovom baziliku nie preto, že verí v jeho existenciu alebo bezprostredný vynález, ale preto, že považuje baziliška za nebezpečný pre ľudstvo.
Preto je Rockov Bazilisk nebezpečný iba pre tých, ktorí v neho veria - v dôsledku toho majú členovia Menej zlého, ktorí podporujú Baziliskovu myšlienku, určitý druh zakázaného poznania, ktoré nám pripomína Lovecraftove strašidelné príbehy o Cthulhu alebo Necronomicon. Pokiaľ sa však neprihlásite na všetky tieto teórie a nebudete sa cítiť v pokušení poslúchať zákerný stroj z budúcnosti, Roco's Basilisk pre vás nepredstavuje žiadnu hrozbu.
Mám viac starostí o ľudí, ktorí si myslia, že prekročili tradičné morálne štandardy. Rovnako ako Yudkowského očakávaný priateľský umelý inteligencia, aj on je utilitár: verí, že najväčší dobro pre celé ľudstvo je eticky opodstatnené, aj keď niekoľko ľudí musí na ceste k nemu zomrieť alebo trpieť. Nie každý môže čeliť takejto voľbe, ale bod je iný: čo keď novinár píše o experimente s myšlienkami, ktorý môže zničiť vedomie ľudí, čím by poškodil ľudstvo a bránil pokroku vo vývoji umelej inteligencie a jedinečnosti? V tomto prípade musí každé dobro, ktoré som urobil vo svojom živote, vyvažovať škodu, ktorú som spôsobil svetu. Alebo možno Yudkowski budúcnosti, ktorý vstal z kryogénneho spánku, sa spojil s jedinečnosťou a rozhodol sa ma simulovať v tejto situácii:prvé pole - tento článok napíšem, druhé - nie. Prosím, všemohúci Yudkowski, neubližuj mi.