Napriek rozsiahlej pozornosti venovanej rozvoju umelej inteligencie je na svete niekoľko ľudí, ktorí sa domnievajú, že potenciál výrazne zlepšenej ľudskej inteligencie (AI) je oveľa vyšší. Otázka, čo príde skôr, zostáva otvorená, ale verí sa, že technologicky vyspelý mozog môže byť rovnako silný (a úprimne povedané, rovnako nebezpečný) ako AI.
Človek ako druh rozvinul svoje myslenie po mnoho tisícročí. Alebo sa to aspoň pokúsil urobiť. Pri snahe prekonať svoje kognitívne obmedzenia používali ľudia všetko, čo môžu, od písomných, jazykových a meditatívnych techník po moderné nootropiká.
Prečo by nebolo lepšie zamerať sa na ľudský mozog a jeho ešte ďaleko od úplne odomknutého potenciálu, namiesto toho, aby sme sa snažili rozvíjať všeobecnú umelú inteligenciu (AGI) alebo dokonca umelou superinteligenciu (ISI)? Koniec koncov, významné zlepšenie mysle - či už prostredníctvom genetiky, kybernetiky alebo síl externých zariadení - môže viesť k rovnakému výsledku, aký očakávame od vytvorenia pokročilej AI.
Portál Gizmodo sa rozhodol kontaktovať futurológa Michail Anisimov, blogera portálu Accelerating Future a spoluzakladateľa udalosti Summit Singularity a zistiť pravdepodobné vyhliadky na vývoj smeru zlepšovania ľudského mozgu. Anisimov berie túto otázku veľmi vážne a je presvedčený, že by sme mali mať na pozore pred AI rovnako ako AI.
Michael, keď hovoríme o zvyšovaní inteligencie, čo tým vlastne myslíme? Hovoríme o vytvorení nových Einsteínov? Alebo je to niečo ešte ambicióznejšie?
Skutočným cieľom smerovania AI je skôr vytvoriť „supereinsteíny“, ľudí, ktorí sú oveľa múdrejší ako ktorýkoľvek človek, ktorý kedy žil na Zemi. Na dosiahnutie tohto cieľa bude potrebné urobiť niekoľko kľúčových krokov.
Prvým krokom je vytvorenie priameho neurálneho spojenia s informáciami. Myslite na to ako na „telepatické vyhľadávanie Google“.
Ďalším bude vývoj rozhraní mozog-počítač, ktoré zlepší prácu časti mozgu zodpovednej za vizuálne vnímanie. Tým sa zlepší nielen naša vízia, ale tiež sa výrazne zvýši efektívnosť spracovania informácií. Len si predstavte, že budete môcť takmer okamžite vytvoriť v mozgu komplexnú schému objektu v detaile, alebo si teraz môžete zapamätať schému, ktorú ste videli veľmi podrobne. Zvýšenie sa bude vyžadovať aj v iných oblastiach senzorickej kôry zodpovedných za dotyk a sluch.
Propagačné video:
Tretím krokom bude zväčšenie prefrontálnej kôry. Toto je svätý grál výskumu UI - zlepšenie efektívnosti vnímania a integrácia senzorických informácií do konceptov. Konečným výsledkom bude vznik ľudí schopných preukázať takmer nemožné intelektuálne schopnosti. Hovoríme napríklad o schopnosti ovládať iných ľudí silou rozumu, porozumieť všetkým víťazným pozíciám na akciovom trhu alebo napríklad vytvoriť vynálezy, ktoré môžu zmeniť svet takmer za jeden deň. Teraz sa to môže zdať nemožné, rovnako ako sa naše moderné úspechy zdali nemožné v očiach ľudí v dobe kamennej. Táto možnosť je však skutočne reálna.
Čo sa bude ďalej vyvíjať, keď sa pozrieme do nasledujúcich desiatich rokov? Môže s tým ľudský mozog skutočne súťažiť?
Ľudský mozog sa naozaj nedá príliš zmeniť. Koniec koncov, je to už výsledok siedmich miliónov rokov evolučnej optimalizácie a doladenia, ktoré, musím pripustiť, boli vzhľadom na svoje obmedzenia veľmi úspešné. Pokusy o „pretaktovanie“ho spravidla vedú k jeho zlyhaniu, ak vezmeme do úvahy túto otázku, aspoň z hľadiska príkladu účinkov sprevádzaných amfitaminickou závislosťou.
Trailer k filmu Areas of Darkness
Chemikálie nie sú schopné zlepšiť kognitívne schopnosti človeka. A všetko, čo sa dáva v prospech účinnosti súčasných „mozgových urýchľovačov“, vyzerá v skutočnosti veľmi kontroverzne a pochybne. Skutočný úspech si bude vyžadovať použitie mozgových implantátov pripojených k miliónom neurónov. To bude zase vyžadovať milióny malých elektród a vyhradený riadiaci systém na ich synchronizáciu. V súčasnosti má najmodernejší dizajn rozhrania počítač-mozog nanajvýš asi 1000 takýchto spojení. Inými slovami, moderný vývoj sa musí zvýšiť viac ako tisícnásobne, aby sa dosiahol niečo skutočne zaujímavé. Aj keď vezmeme do úvahy exponenciálny rast, dosiahnutie výsledkov bude trvať najmenej 15 až 20 rokov.
Vývoj UI je založený predovšetkým na pokroku vo vývoji nanoprodukcie. A výsledky inžinierov pracujúcich na rozhraniach mozog-počítač, ako napríklad Ed Boyden z Massachusetts Institute of Technology, úplne závisia od pokroku v tomto smere. Vzhľadom na zanedbateľnú úroveň rozvoja výrobných technológií na atómovej úrovni vyzerá samonontáž nanoúrovne ako najviditeľnejší spôsob rozvoja rozhraní mozog-počítač s miliónmi elektród. Malo by sa poznamenať, že nanoúrovňová sebazostavenie nie je atómovo presným spôsobom výroby, ale je dostatočne presná podľa štandardov základnej výroby a fotolitografie.
Aké sú potenciálne psychologické vedľajšie účinky u ľudí s výrazne lepšou inteligenciou? Dajú sa z tohto hľadiska všeobecne považovať za ľudí?
Jedným z najbežnejších vedľajších účinkov bude šialenstvo. Ľudský mozog je neuveriteľne jemne vyladený stroj. A akákoľvek zmena v spôsobe jeho fungovania vedie k tomu, čo zvyčajne nazývame „šialenstvo“. Existuje mnoho rôznych druhov šialenstva, omnoho viac ako vzorce správania v zdravom rozume. Napríklad skryté šialenstvo z hľadiska vonkajšieho prostredia sa môže javiť ako celkom zdravé správanie, preto s najväčšou pravdepodobnosťou budeme čeliť ťažkostiam pri identifikácii takýchto jedincov trpiacich šialenstvom.
Aj pri úplnom zdravom rozume sa môžu vyskytnúť rôzne vedľajšie účinky vrátane záchvatov, preťaženia informáciami a možno aj pocitov egománie a úplného odcudzenia. Inteligentní ľudia majú tendenciu cítiť sa viac odcudzení od sveta okolo seba, takže s vedomím, že ste najchytrejší na svete, tento efekt mnohokrát zosilnia.
Väčšina veľmi inteligentných ľudí nie je príliš spoločenských a veselých, ako napríklad americký vedec Richard Feynman alebo moderný Neil DeGrasse Tyson. Hemingway raz povedal: „Inteligentný človek je niekedy nútený opiť sa, aby vydržal komunikáciu s blázonmi.“Čo sa však stane, keď alkoholová intoxikácia už nestačí na udržanie kamarátstva a vzájomnej náklonnosti? To môže viesť k strate empatie, čo nakoniec vedie k psychopatii.
Čo teda bude skôr? Zosilnená alebo umelá inteligencia?
Je veľmi ťažké predvídať. Existuje veľká túžba, aby sa pred AI objavila vylepšená inteligencia. Všetky tieto umelecké diela a hry, v ktorých má protagonista takéto UI, sú do veľkej miery zodpovedné za túto túžbu. Malo by sa však chápať, že zaujatosť voči používateľskému rozhraniu v skutočnosti neumožňuje ľahšie pracovať na technologickej zložitosti. Ale osobne si myslím, že používateľské rozhranie príde skôr.
Realizácia oboch smerov je však veľmi náročná. Jeden z nich možno neuvidíme skôr ako v 60., 20. A 70. rokoch. Nakoniec oba smery rozvoja dosiahnu svoje ciele. Ak o tom premýšľate, v spravodajských službách nie je teraz nič prekvapujúce, takže potreba jeho vylepšenia je neuveriteľne veľká. A pravdepodobne to bude globálne povstanie Luddites (účastníkov spontánnych protestov v prvom štvrťroku 19. storočia proti zavedeniu strojov počas priemyselnej revolúcie v Anglicku - ed.) Zastaviť postup technologického rozvoja, ktorý nás dovedie k požadovaným výsledkom.
Aké sú výhody a nevýhody týchto dvoch rôznych prístupov k rozvoju?
Hlavná výhoda pri výbere vývojovej cesty AI spočíva v neúmerne lacnejších a ľahších vývojových procesoch. AI na papieri av kóde už bola vyvinutá. Zostáva iba správne zostaviť. Najvýznamnejší výskum v oblasti používateľského rozhrania je teraz jednoducho nezákonný. Vážny výskum UI si bude vyžadovať veľmi sofistikované experimenty v neurochirurgii a mozgových implantátoch. Implantáty mozgu môžu zase zlyhať a spôsobiť záchvaty, šialenstvo alebo dokonca smrť. Zlepšenie ľudskej inteligencie z hľadiska kvalitného spôsobu sebarealizácie nie je len záležitosťou, aby ste si vzali niekoľko tabletiek, aby ste získali superveľmoci. Tu musíte skutočne experimentovať s mozgovými implantátmi, ak chcete dosiahnuť vážne výsledky.
Väčšina výskumov v tejto oblasti je veľmi kontrolovaná a neuveriteľne drahá. Všetky experimenty so zvieratami sú vždy drahé. Napríklad Theodor Berger už mnoho rokov pracuje na hipokampálnom implantáte, aby obnovil a zlepšil výkon pamäte. V roku 2004 sa uskutočnili prvé testy týkajúce sa živého tkaniva, ale odvtedy boli správy veľmi zriedkavé. Každých pár rokov sú v správach samozrejme nejaké poznámky, ale pokiaľ ide o konečný výsledok, som veľmi skeptický. Teraz sa pozrite na úroveň rozvoja, ktorú sme dosiahli pri vývoji umelej inteligencie!
Vyzerá AI bezpečnejšie ako AI, pokiaľ ide o predvídateľnosť a kontrolu? Čo je dôležitejšie na vytvorenie prvej, AI alebo super výkonnej AI?
Zvýšená inteligencia sa v porovnaní so super výkonnou AI považuje za viac nepredvídateľnú a nekontrolovateľnú. A z dlhodobého hľadiska to vyzerá ešte nebezpečnejšie. Nedávno som napísal článok o globálnej politickej transformácii vyvolanej masívnou silou sústredenou v rukách malej skupiny ľudí s umelou inteligenciou alebo výhradným prístupom k molekulárnej výrobe. V ňom som razil výraz „Maximilián“, čo znamená „najlepší z najlepších“, aby som opísal vysoko vplyvného vodcu, ktorý sám používa vylepšené spravodajské technológie na to, aby sa pozdvihol nad všetkých ostatných.
Kognitívne vylepšený Reginald Barkley zo Star Trek: Nová generácia v epizóde X
Kľúčovým bodom môjho zdôvodnenia v článku je, že v prípade zlepšenej inteligencie musíte rokovať s ľuďmi a človek, ako viete, je nedokonalý. Môže sa ukázať, že si ľudia s lepšou inteligenciou pravdepodobne zachovajú určitú úroveň ľudskej morálky, ale s najväčšou pravdepodobnosťou začnú využívať všetku silu svojej mysle na hedonistické účely a prípadne aj na genocídu.
Umelá superinteligencia môže byť vytvorená od nuly a môže byť jednoducho nútená nasledovať súbor svojich vlastných motivácií (ktoré budú tiež v nej obsiahnuté), ktoré majú dobrý štart, stabilitu a majú pozitívnu spätnú väzbu.
Ľudia sa pýtajú: „Odmietli by ISI tieto motivácie?“Nie, nebude, pretože tieto motivácie budú tvoriť jadro jeho hodnôt, ak, samozrejme, sú správne naprogramované. Nebude žiaden „duch v aute“schopný ignorovať alebo odmietnuť predprogramované motívy.
Filozof Nick Bostrom urobil vo svojej práci Vôle superinteligencie úžasnú analýzu. Kľúčovou myšlienkou je, že sebecké ciele sa nemôžu objaviť samy osebe, ak systém kľúčových úloh AI je spočiatku zásadne súbor nezištných cieľov a ak samotnou podstatou existencie stroja je udržanie tejto nesebeckosti. Evolúcia ukázala, že sebecké ciele zohrávajú pri prežití dôležitú úlohu, najmä ak berieme do úvahy vývojové konštrukčné obmedzenia živých organizmov, ale to neznamená, že my sami nedokážeme naprogramovať nezainteresovaných pôvodcov od nuly?
Aké ťažkosti (technologické, lekárske alebo etické) stoja v ceste rozvoju?
Najväčšia výzva spočíva vo vývoji vhodných výrobných technológií. Teraz tomu ani nie sme blízko. Ďalším úskalím je zistiť, za čo presne je zodpovedný každý jednotlivý neurón, a určiť presné umiestnenie týchto neurónov v jednej osobe. Znovu sme sa k tomu ani nepriblížili.
Po tretie, musíme vyvinúť rýchly spôsob testovania mnohých teórií o mozgovej funkcii. Ed Boyden to nazýva „vysokovýkonné obvody skríningu nervových sietí“. Najvhodnejším a najzreteľnejším riešením tejto otázky môže byť nejaký spôsob, ako vytvoriť ľudskú bytosť v bezvedomí a experimentovať s ňou bez záchvatu svedomia alebo morálnych dilem. Mám však pocit, že väčšina etických výborov bude s touto myšlienkou nesúhlasiť.
Ak takáto príležitosť neexistuje, musíme nájsť spôsob, ako vytvoriť bezprecedentne podrobný model ľudského mozgu. A nehovoríme o dnešných ťažkých pokusoch o projekt „modelovania mozgu“, okolo ktorého je toľko humbuk. Hovoríme o bezprecedentnej novej úrovni, ktorú nebudeme môcť dosiahnuť až do roku 2050 - 2080. Oxfordova analýza ukazuje, že ide skôr o 20-te roky 20. storočia. Teraz to všetko samozrejme vyzerá ako veštenie na káve, ale stále bližšie k realite.
NIKOLAY KHIZHNYAK