Pred vami je druhá časť článku zo série „Počkaj, ako to všetko môže byť skutočné, prečo sa o ňom stále nehovorí v každom rohu“. V predchádzajúcej sérii sa ukázalo, že výbuch inteligencie sa postupne plazí až k ľuďom planéty Zem, snaží sa vyvinúť z úzko zameraného na univerzálnu inteligenciu a nakoniec na umelú superinteligenciu.
"Možno čelíme nesmierne zložitému problému a nie je známe, koľko času je vyčlenených na jeho riešenie, ale budúcnosť ľudstva môže závisieť od jeho riešenia." - Nick Bostrom.
Prvá časť článku začala dosť nevinne. Diskutovali sme o úzko zameranej umelej inteligencii (AI, ktorá sa špecializuje na riešenie jedného konkrétneho problému, ako je určenie trasy alebo hranie šachu), v našom svete je toho veľa. Potom analyzovali, prečo je také ťažké pestovať všeobecnú smerovú umelú inteligenciu (AGI, alebo AI, ktorá je z hľadiska intelektuálnych schopností porovnateľná s človekom pri riešení akéhokoľvek problému) tak zložitá. Dospeli sme k záveru, že exponenciálne tempo technologického pokroku naznačuje, že AGI môže byť skoro za rohom. Nakoniec sme sa rozhodli, že len čo stroje dosiahnu ľudskú inteligenciu, môže sa stať, že:
Ako obvykle sa pozeráme na obrazovku a neveríme, že by sa počas nášho života mohla objaviť umelá superinteligencia (ISI, ktorá je oveľa múdrejší ako ktorákoľvek iná osoba), a vyberáme si emócie, ktoré by najlepšie odrážali náš názor na túto otázku.
Propagačné video:
Predtým, ako sa ponoríme do špecifík ISI, pripomeňme si, čo to znamená, aby bol stroj superinteligentný.
Hlavný rozdiel spočíva v rýchlej superinteligencii a kvalitnej superinteligencii. Pri premýšľaní o superinteligentnom počítači je často prvou vecou, že dokáže premýšľať oveľa rýchlejšie ako človek - miliónkrát rýchlejšie a za päť minút pochopí, čo by človek strávil desať rokov. („Poznám kung-fu!“)
Znie to pôsobivo a ISI by si mal myslieť rýchlejšie ako ktorýkoľvek z ľudí - hlavnou oddeľujúcou vlastnosťou však bude kvalita jeho intelektu, ktorá je úplne iná. Ľudia sú oveľa múdrejší ako opice, nie preto, že myslia rýchlejšie, ale preto, že ich mozgy obsahujú množstvo dômyselných kognitívnych modulov, ktoré vykonávajú zložité jazykové reprezentácie, dlhodobé plánovanie, abstraktné myslenie, ktoré opice nie sú schopné. Ak tisíckrát zrýchlite mozog opice, nebude to múdrejší ako my - ani po desiatich rokoch nebude schopný zostaviť stavebnicu podľa pokynov, čo by osobe trvalo najviac pár hodín. Sú veci, ktoré sa opica nikdy nedozvie, bez ohľadu na to, koľko hodín strávi alebo ako rýchlo funguje jej mozog.
Opica navyše nevie, ako ľudsky, pretože jej mozog jednoducho nedokáže uvedomiť existenciu iných svetov - opica môže vedieť, čo je človek a čo je mrakodrap, ale nikdy nechápe, že mrakodrap bol postavený ľuďmi. Vo svojom svete všetko patrí k prírode a makak nielenže nedokáže postaviť mrakodrap, ale aj pochopiť, že ho môže postaviť niekto. A to je výsledok malého rozdielu v kvalite spravodajských informácií.
Vo všeobecnej schéme inteligencie, o ktorej hovoríme, alebo jednoducho podľa štandardov biologických bytostí, je rozdiel v kvalite inteligencie medzi ľuďmi a opicami malý. V predchádzajúcom článku sme na rebrík umiestnili biologické kognitívne schopnosti:
Aby ste pochopili, aký vážny bude superinteligentný stroj, umiestnite ho na tento rebrík o dva zárezy vyššie ako osoba. Tento stroj môže byť len trochu superinteligentný, ale jeho nadradenosť nad našimi kognitívnymi schopnosťami bude rovnaká ako u našich - nad opicami. A rovnako ako šimpanz nikdy nepochopí, že mrakodrap sa dá postaviť, nikdy nebudeme rozumieť tomu, čo stroj, o pár krokov vyššie, pochopí, aj keď sa nám ho stroj pokúsi vysvetliť. Je to však len pár krokov. Chytrejší stroj uvidí mravce v nás - naučí nás najjednoduchšie veci zo svojej pozície roky a tieto pokusy budú úplne beznádejné.
Typ superintelligence, o ktorom dnes hovoríme, leží ďaleko za týmto rebríkom. Toto je výbuch inteligencie - keď sa inteligentnejšie auto stáva, tým rýchlejšie môže zvýšiť svoju inteligenciu a postupne zvyšovať rýchlosť. Môže trvať roky, kým stroj, ako je tento, prekoná šimpanzy v inteligencii, ale možno o pár hodín, aby nás prekonal o pár krokov. Od tejto chvíle môže auto už každú sekundu preskočiť o štyri kroky. Preto by sme mali pochopiť, že veľmi skoro po tom, čo sa objavia prvé správy o tom, že stroj dosiahol úroveň ľudskej inteligencie, môžeme čeliť realite koexistencie na Zemi s niečím, čo bude v tomto rebríčku oveľa vyššie ako my (alebo možno a milióny krát vyššie):
A keďže sme dokázali, že je úplne zbytočné snažiť sa pochopiť silu stroja, ktorý je len dva kroky nad nami, definujme raz a navždy, že neexistuje spôsob, ako pochopiť, čo ISI urobí a aké to bude mať pre nás dôsledky. Každý, kto tvrdí, že práve naopak, nechápe, čo to znamená superintelligence.
Evolúcia pomaly a postupne vyvinula biologický mozog v priebehu stoviek miliónov rokov, a ak ľudia vytvoria superinteligentný stroj, v istom zmysle prekročíme evolúciu. Alebo to bude súčasťou evolúcie - možno evolúcia funguje tak, že inteligencia sa vyvíja postupne, až kým nedosiahne bod zlomu, ktorý ohlasuje novú budúcnosť pre všetky živé veci:
Z dôvodov, o ktorých budeme diskutovať neskôr, sa veľká časť vedeckej komunity domnieva, že otázkou nie je, či sa dostaneme k tomuto bodu zvratu, ale kedy.
Kde potom skončíme?
Myslím si, že nikto na tomto svete ani ja ani vy nebudeme môcť povedať, čo sa stane, keď dosiahneme bod zvratu. Oxfordský filozof a popredný teoretik AI Nick Bostrom verí, že všetky možné výsledky môžeme variť do dvoch širokých kategórií.
Najprv, pri pohľade na históriu, vieme o živote nasledovné: druhy sa objavujú, existujú určitý čas a potom nevyhnutne odpadnú z rovnováhy života a vymiznú.
„Všetky druhy vymreli“boli v histórii rovnako spoľahlivým pravidlom ako „všetci ľudia jedného dňa zomrú“. 99,9% druhov pokleslo zo žurnálu života a je celkom zrejmé, že ak druh zostane na tomto žľabe príliš dlho, guľka prírodného vetra alebo náhly asteroid zvráti guľatinu. Bostrom nazýva vyhynutie stavom atraktora - miestom, kde sa všetky druhy vyvážia tak, aby neklesli tam, kde sa žiadny druh nevrátil.
A hoci väčšina vedcov pripúšťa, že ISI bude mať možnosť odsúdiť ľudí na vyhynutie, mnohí sa tiež domnievajú, že využitie schopností ISI umožní jednotlivcom (a druhom ako celkom) dosiahnuť druhý stav príťažlivosti - druh nesmrteľnosti. Bostrom verí, že nesmrteľnosť druhu je rovnako príťažlivá ako vyhynutie druhu, čo znamená, že ak sa k tomu dostaneme, budeme odsúdení na večnú existenciu. Preto aj keď všetky druhy až do dnešného dňa padli z tejto palice do vyhasnutia, Bostrom verí, že kmeň má dve strany, a na Zemi sa jednoducho neobjavila taká inteligencia, ktorá by pochopila, ako padnúť na druhú stranu.
Ak má spoločnosť Bostrom a iní pravdu a podľa všetkých informácií, ktoré máme k dispozícii, môže to tak byť, musíme prijať dve veľmi šokujúce skutočnosti:
1. Vznik ISI prvýkrát v histórii otvorí druhu možnosť dosiahnuť nesmrteľnosť a vypadnúť z fatálneho cyklu vyhynutia.
2. Vznik ISI bude mať taký nepredstaviteľne obrovský vplyv, že s najväčšou pravdepodobnosťou vytlačí ľudstvo z tohto lúča jedným alebo druhým smerom.
Je možné, že keď evolúcia dosiahne taký zlom, vždy skončí vzťah ľudí s prúdom života a vytvorí nový svet, s ľuďmi alebo bez nich.
To vyvoláva zaujímavú otázku, ktorú by sa nepýtal iba čmeliak: Kedy sa dostaneme k tomuto bodu zvratu a kam nás to zavedie? Nikto na svete nevie odpoveď na túto dvojitú otázku, ale veľa inteligentných ľudí sa ju pokúšalo zistiť už desaťročia. Zvyšok článku zistíme, odkiaľ prišli.
* * *
Začnime prvou časťou tejto otázky: kedy by sme mali dosiahnuť bod zlomu? Inými slovami: koľko času zostáva, kým prvý stroj nedosiahne kontrolu?
Názory sa v jednotlivých prípadoch líšia. Mnohí, vrátane profesora Vernora Vinge, vedca Ben Herzela, spoluzakladateľa Sun Microsystemsa Billa Joya, futuristu Ray Kurzweila, súhlasili s odborníkom na strojové učenie Jeremyho Howarda pri prezentácii nasledujúceho grafu na TED Talk:
Títo ľudia zdieľajú názor, že ISI sa blíži - tento exponenciálny rast, ktorý sa nám dnes zdá pomalý, bude v najbližších niekoľkých desaťročiach doslova explodovať.
Iní, ako napríklad spoluzakladateľ spoločnosti Microsoft Paul Allen, výskumný psychológ Gary Marcus, počítačový expert Ernest Davis a technický podnikateľ Mitch Kapor, sa domnievajú, že myslitelia ako Kurzweil vážne podceňujú závažnosť problému a myslia si, že nie sme tak blízko bodu zvratu.
Kurzweilov tábor tvrdí, že jediným podceňovaním, ktoré sa vyskytuje, je ignorovanie exponenciálneho rastu a pochybovatelia sa dajú porovnať s tými, ktorí sa pozerali na pomaly sa rozvíjajúci internet v roku 1985 a tvrdili, že v blízkej budúcnosti nebude mať vplyv na svet.
Pochybnosti sa môžu odraziť v tom, že je ťažšie, aby pokrok urobil každý ďalší krok, pokiaľ ide o exponenciálny rozvoj inteligencie, ktorý neutralizuje typickú exponenciálnu povahu technologického pokroku. Atď.
Tretí tábor, v ktorom je Nick Bostrom, nesúhlasí ani s prvým, ani s druhým, argumentujúc tým, že a) to všetko sa môže v blízkej budúcnosti úplne stať; a b) neexistuje žiadna záruka, že k tomu vôbec dôjde alebo že to bude trvať dlhšie.
Iní, ako filozof Hubert Dreyfus, sa domnievajú, že všetky tri skupiny naivne veria, že dôjde k obratu a že k ISI sa s najväčšou pravdepodobnosťou nikdy nedostaneme.
Čo sa stane, keď spojíme všetky tieto názory?
V roku 2013 spoločnosť Bostrom uskutočnila prieskum, v rámci ktorého uskutočnil rozhovory so stovkami odborníkov v oblasti umelej inteligencie počas série konferencií na túto tému: „Aké budú vaše predpovede na dosiahnutie AGI na ľudskej úrovni?“a požiadali o optimistický rok (v ktorom budeme mať AGI s 10-percentnou pravdepodobnosťou), realistický predpoklad (rok, v ktorom budeme mať AGI s 50-percentnou pravdepodobnosťou) a spoľahlivý predpoklad (najskorší rok, v ktorom sa AGI objaví od 90 rokov pravdepodobnosť v percentách). Tu sú výsledky:
- Priemerný optimistický rok (10%): 2022
- Priemerný realistický rok (50%): 2040
- Priemerný pesimistický rok (90%): 2075
Priemerní respondenti sa domnievajú, že za 25 rokov budeme mať AGI skôr ako nie. 90-percentná šanca na výskyt AGI do roku 2075 znamená, že ak ste už teraz dosť mladí, pravdepodobne sa to stane počas vášho života.
Samostatná štúdia, ktorú nedávno vypracovali James Barratt (autor uznávanej a veľmi dobrej knihy Naša najnovšia invencia, ukážky, z ktorej som upozornil čitateľov Hi-News.ru) a Ben Herzel na výročnej konferencii AGI, jednoducho ukázali názory ľudí. v porovnaní s rokom sa dostávame k AGI: 2030, 2050, 2100, neskôr alebo nikdy. Tu sú výsledky:
- Do roku 2030: 42% respondentov
- Do roku 2050: 25%
- Do roku 2100: 20%
- Po roku 2100: 10%
- Nikdy: 2%
Podobné výsledky Bostromu. Podľa prieskumu Barratta bude viac ako dve tretiny opýtaných presvedčených, že AGI bude do roku 2050, a menej ako polovica verí, že sa AGI objaví v nasledujúcich 15 rokoch. Je tiež zarážajúce, že iba 2% respondentov v zásade nevidí AGI v našej budúcnosti.
Ale AGI nie je bod zvratu ako ISI. Kedy podľa odborníkov budeme mať ISI?
Bostrom sa opýtal expertov, kedy dosiahneme ASI: a) dva roky po dosiahnutí AGI (to je takmer okamžite kvôli výbuchu inteligencie); b) po 30 rokoch. Výsledok?
Priemerný názor je, že k rýchlemu prechodu z AGI na ISI dôjde s pravdepodobnosťou 10%, ale za 30 rokov alebo menej dôjde k pravdepodobnosti 75%.
Z týchto údajov nevieme, aký dátum by respondenti nazvali 50-percentnou pravdepodobnosťou ASI, ale na základe dvoch vyššie uvedených odpovedí predpokladajme, že je to 20 rokov. To znamená, že poprední svetoví odborníci na inteligenciu sú presvedčení, že zlom nastane v roku 2060 (AGI sa objaví v roku 2040 +, prechod z AGI na ISI bude trvať 20 rokov).
Všetky uvedené štatistiky sú, samozrejme, špekulatívne a predstavujú iba názor expertov v oblasti umelej inteligencie, ale tiež naznačujú, že väčšina zainteresovaných ľudí súhlasí s tým, že do roku 2060 pravdepodobne dorazí AI. Len za 45 rokov.
Poďme k druhej otázke. Keď sa dostaneme k bodu zvratu, ktorá strana fatálnej voľby nás určí?
Superinteligencia bude mať najsilnejšiu moc a kritickou otázkou pre nás bude táto:
Kto alebo čo bude riadiť túto moc a aká bude ich motivácia?
Odpoveď na túto otázku bude závisieť od toho, či ISI získa neuveriteľne silný vývoj, neznesiteľne desivý vývoj alebo niečo medzi tým.
Odborná komunita sa samozrejme snaží zodpovedať aj na tieto otázky. Prieskum spoločnosti Bostrom analyzoval pravdepodobnosť možných dôsledkov dopadu AGI na ľudstvo a ukázalo sa, že pri 52-percentnej pravdepodobnosti všetko pôjde veľmi dobre a pri 31-percentnej pravdepodobnosti všetko pôjde buď zle alebo extrémne zle. Prieskum pripojený na konci predchádzajúcej časti tejto témy, uskutočnený medzi vami, vážení čitatelia Hi-News, ukázal približne rovnaké výsledky. Pri relatívne neutrálnom výsledku bola pravdepodobnosť iba 17%. Inými slovami, všetci veríme, že AGI bude veľkým problémom. Je tiež potrebné poznamenať, že tento prieskum sa týka vzniku AGI - v prípade ISI bude percento neutrality nižšie.
Skôr ako sa hlbšie zamyslíme nad dobrými a zlými stránkami otázky, spojme obidve strany otázky - „kedy sa to stane?“a „je to dobré alebo zlé?“do tabuľky, ktorá obsahuje názory väčšiny odborníkov.
O hlavnom tábore sa porozprávame o minútu, ale najprv sa rozhodnite o svojej pozícii. Pravdepodobne ste na tom istom mieste, kde som bol predtým, ako som začal pracovať na tejto téme. Existuje niekoľko dôvodov, prečo ľudia na túto tému vôbec nemyslia:
- Ako sa uvádza v prvej časti, filmy vážne zmätili ľudí a fakty a predstavovali nereálne scenáre s umelou inteligenciou, čo viedlo k skutočnosti, že by sme AI nemali brať vôbec vážne. James Barratt prirovnal túto situáciu k vydaniu Centier pre kontrolu chorôb (CDC) s vážnym upozornením na upírov v našej budúcnosti.
- Kvôli tzv. Kognitívnym predsudkom je pre nás veľmi ťažké uveriť, že niečo je skutočné, kým nebudeme mať dôkaz. Dá sa s istotou predstaviť, že počítačoví vedci z roku 1988 pravidelne diskutujú o ďalekosiahlych dôsledkoch internetu a o tom, čo by sa mohlo stať, ale ľudia sotva verili, že by to zmenilo ich životy, kým by sa to skutočne nestalo. Je to len to, že počítače nevedeli, ako to urobiť v roku 1988, a ľudia sa len pozerali na svoje počítače a mysleli si: „Naozaj? Je to to, čo zmení svet? “Ich predstavivosť bola obmedzená tým, čo ich osobná skúsenosť naučila, vedeli, čo je počítač, a bolo ťažké predstaviť si, čo by bol počítač schopný v budúcnosti. To isté sa teraz deje s AI. Počuli sme, že sa to stane vážnou vecouAle keďže sme sa s ňou ešte nestretli tvárou v tvár a všeobecne pozorujeme skôr slabé prejavy AI v našom modernom svete, je pre nás dosť ťažké uveriť, že radikálne zmení náš život. Je proti týmto predsudkom, že mnohí odborníci zo všetkých táborov, ako aj zainteresovaní ľudia sú proti snahe upútať našu pozornosť hlukom každodenného kolektívneho egocentrizmu.
- Aj keby sme tomu všetkému verili - koľkokrát ste dnes mysleli na skutočnosť, že zvyšok večnosti strávite v ničote? Trochu, súhlasím. Aj keď je táto skutočnosť oveľa dôležitejšia ako čokoľvek, čo robíte každý deň. Je to preto, že naše mozgy sa zvyčajne zameriavajú na malé každodenné veci, bez ohľadu na to, ako klamlivá je dlhodobá situácia, v ktorej sa nachádzame. Len sme stvorení.
Jedným z cieľov tohto článku je dostať vás z tábora s názvom „Rád premýšľam o iných veciach“a dostať vás do odborného tábora, aj keď stojíte na križovatke medzi dvoma bodkovanými čiarami v rámčeku vyššie, úplne nerozhodnutými.
V priebehu výskumu je zrejmé, že názory väčšiny ľudí sa rýchlo unášajú smerom k „hlavnému táboru“a tri štvrtiny odborníkov spadajú do dvoch táborov v hlavnom tábore.
Obidva tieto tábory navštívime v plnom rozsahu. Začnime zábavou.
Prečo by mohla byť budúcnosť náš najväčší sen?
Pri skúmaní sveta AI nachádzame prekvapivo veľa ľudí v našej zóne pohodlia. Ľudia na pravom hornom námestí bzučia vzrušením. Sú presvedčení, že padneme na dobrú stranu protokolu, a tiež sa domnievajú, že k tomu nevyhnutne prídeme. Budúcnosť je pre nich iba to najlepšie, o čom človek len sníva.
To, čo odlišuje týchto ľudí od ostatných mysliteľov, nie je to, že chcú byť šťastní - ale že sú si istí, že na nás čaká.
Táto dôvera vychádza z kontroverzie. Kritici sa domnievajú, že pochádza z oslnivého vzrušenia, ktoré zatieni potenciálne negatívne stránky. Podľa zástancov sú pochmúrne predpovede vždy naivné; technológia pokračuje a vždy nám pomôže viac ako ublížiť.
Môžete si zvoliť ktorýkoľvek z týchto názorov, ale odložte skepticizmus a dobre sa pozrite na šťastnú stranu lúča vyváženia, pričom sa snažíte akceptovať skutočnosť, že sa už mohlo stať všetko, o čom ste čítali. Ak ste ukázali lovcom-zberačom náš svet pohodlia, technológie a nekonečného množstva, zdá sa im magická fikcia - a my sa správame skromne, neschopní pripustiť, že nás v budúcnosti čaká rovnaká nepochopiteľná transformácia.
Nick Bostrom popisuje tri cesty, ktoré môže absolvovať superinteligentný systém AI:
Oracle, ktorý dokáže zodpovedať akúkoľvek presnú otázku, vrátane zložitých otázok, na ktoré ľudia nedokážu odpovedať - napríklad „ako zefektívniť motor automobilu?“Google je primitívny typ „Oracle“.
Džin, ktorý vykoná akýkoľvek príkaz na vysokej úrovni - pomocou molekulárneho assemblera vytvorí novú, efektívnejšiu verziu automobilu - a bude čakať na ďalší príkaz.
Zvrchovaný, ktorý bude mať široký prístup a schopnosť slobodne fungovať vo svete, robiť vlastné rozhodnutia a zlepšovať tento proces. Vymyslí lacnejší, rýchlejší a bezpečnejší spôsob súkromnej dopravy ako auto.
Tieto otázky a úlohy, ktoré sa nám zdajú ťažké, sa zdajú superinteligentnému systému, akoby niekto požiadal o zlepšenie situácie „moja ceruzka spadla zo stola“, v ktorej by ste ju jednoducho vyzdvihli a položili späť.
Eliezer Yudkowski, americký expert na umelú inteligenciu, to vyjadril dobre:
„Nie sú žiadne ťažké problémy, iba problémy, ktoré sú pre určitú úroveň inteligencie ťažké. Choďte o krok vyššie (pokiaľ ide o inteligenciu) a niektoré problémy sa zrazu presunú z kategórie „nemožné“do tábora „zjavných“. O krok vyššie - a všetky budú zrejmé. ““
Existuje veľa netrpezlivých vedcov, vynálezcov a podnikateľov, ktorí si vybrali zónu sebavedomého pohodlia na našom stole, ale potrebujeme iba jedného sprievodcu, ktorý by v tomto najlepšom svete mohol chodiť čo najlepší.
Ray Kurzweil je nejednoznačný. Niektorí idolizujú jeho myšlienky, iní pohŕdajú. Niektorí zostávajú uprostred - Douglas Hofstadter, diskutujúci o myšlienkach Kurzweilových kníh, výrečne poznamenal, že „je to, akoby ste si vzali veľa dobrého jedla a malého hovädzieho mäsa, a potom všetko zmiešali tak, že nie je možné pochopiť, čo je dobré a čo zlé.“
Či už máte radi jeho nápady alebo nie, je nemožné ich obísť bez tieňa záujmu. Začal vymýšľať veci ako dospievajúci av nasledujúcich rokoch vymyslel niekoľko dôležitých vecí, vrátane prvého plochého skenera, prvého skenera na prevod textu na reč, známeho hudobného syntetizátora Kurzweil (prvý skutočný elektrický piano) a prvého komerčne úspešného rozpoznávača reči. Je tiež autorom piatich senzačných kníh. Kurzweil je oceňovaný za jeho odvážne predpovede a jeho doterajšie výsledky sú celkom dobré - na konci 80. rokov, keď bol internet ešte stále v plienkach, predpokladal, že v roku 2000 sa web stane globálnym fenoménom. Wall Street Journal nazval Kurzweil „nepokojným géniusom“, „Forbesom“stroj na globálne myslenie”Inc. Časopis - „Edisonov právoplatný dedič“, Bill Gates - „to najlepšie z nichktorý predpovedá budúcnosť umelej inteligencie. ““V roku 2012 spoluzakladateľ spoločnosti Google Larry Page pozval Kurzweila na post CTO. V roku 2011 bol spoluzakladateľom Singularity University, ktorej hostiteľom je NASA a je čiastočne sponzorovaný spoločnosťou Google.
Jeho biografia záleží. Keď Kurzweil hovorí o svojej vízii budúcnosti, vyzerá to ako šialený blázon, ale skutočne šialené je to, že nie je ani zďaleka blázon - je neuveriteľne inteligentný, vzdelaný a zdravý človek. Možno si myslíte, že sa vo svojich predpovediach mýli, ale nie je hlupák. Predpovede Kurzweilu zdieľajú mnohí odborníci na zóny pohodlia, Peter Diamandis a Ben Herzel. To si myslí, že sa stane.
chronológia
Kurzweil verí, že počítače dosiahnu úroveň všeobecnej umelej inteligencie (AGI) do roku 2029 a do roku 2045 budeme mať nielen umelú superinteligenciu, ale aj úplne nový svet - čas tzv. Singularity. Jeho chronológia AI sa stále považuje za prehnane zveličenú, ale za posledných 15 rokov rýchly vývoj vysoko zameraných systémov umelej inteligencie (AI) prinútil mnohých odborníkov, aby sa postavili na stranu Kurzweilu. Jeho predpovede zostávajú stále ambicióznejšie ako Bostromov prieskum (AGI do roku 2040, ISI do roku 2060), ale nie príliš.
Podľa Kurzweila vedú k jedinečnosti roku 2045 tri súčasné revolúcie v biotechnológii, nanotechnológii a, čo je dôležitejšie, AI. Ale predtým, ako pôjdeme ďalej - a nanotechnológia dôkladne sleduje umelú inteligenciu - venujme chvíľu nanotechnológii.
Niekoľko slov o nanotechnológiách
Zvyčajne nazývame nanotechnologické technológie, ktoré sa zaoberajú manipuláciou s hmotou v rozsahu 1 - 100 nanometrov. Nanometer je jedna miliardtina metra alebo milióntina milimetra; v rozmedzí 1 až 100 nanometrov sa môžu ubytovať vírusy (priemer 100 nm), DNA (šírka 10 nm), molekuly hemoglobínu (5 nm), glukóza (1 nm) a ďalšie. Ak sa nanotechnológia niekedy stane našim predmetom, ďalším krokom bude manipulácia s jednotlivými atómami, ktoré sú menšie ako jeden rád (~ 1 nm).
Aby sme pochopili, kde sa ľudia stretávajú s problémami pri manipulácii s hmotou v takomto rozsahu, preskočte do väčšieho rozsahu. Medzinárodná vesmírna stanica je 481 kilometrov nad Zemou. Keby boli ľudia giganty a zasiahli by ISS hlavami, boli by 250 000-krát väčšie ako v súčasnosti. Ak zväčšíte čokoľvek od 1 do 100 nanometrov 250 000 krát, získate 2,5 cm. Nanotechnológia je ekvivalent človeka, ktorý obieha okolo ISS a snaží sa manipulovať vecami s veľkosťou zrnka piesku alebo očnej gule. Aby sa dostal na ďalšiu úroveň - ovládal jednotlivé atómy - musí obrie starostlivo umiestniť objekty s priemerom 1/40 milimetra. Bežní ľudia budú potrebovať mikroskop, aby ich videli.
Po prvýkrát Richard Feynman hovoril o nanotechnológiách v roku 1959. Potom povedal: „Fyzické princípy, pokiaľ viem, nehovoria proti možnosti ovládať veci atómom atómom. Fyzik by v zásade mohol syntetizovať akúkoľvek chemikáliu, ktorú chemik zapísal. Ako? Umiestnením atómov tam, kde chemik hovorí, že získa látku. ““Toto je celá jednoduchosť. Ak viete, ako pohybovať jednotlivými molekulami alebo atómami, môžete urobiť takmer čokoľvek.
Nanotechnológia sa stala vážnym vedeckým odborom v roku 1986, keď inžinier Eric Drexler predstavil svoje základy vo svojej kľúčovej knihe Stroje tvorby, sám Drexler sa však domnieva, že tí, ktorí sa chcú dozvedieť viac o moderných nápadoch v nanotechnológii, by si mali prečítať jeho knihu z roku 2013. Plná hojnosť “(radikálna hojnosť).
Keď sa dostaneme na samé dno nanotechnológií, môžeme ich použiť na vytvorenie technických zariadení, odevov, potravín, bioproduktov - krvných buniek, vírusových a rakovinových bojovníkov, svalového tkaniva atď. - čokoľvek. A vo svete, ktorý používa nanotechnológie, už nebudú náklady na materiál viazané na jeho nedostatok alebo zložitosť jeho výrobného procesu, ale skôr na zložitosť jeho atómovej štruktúry. Vo svete nanotechnológií môže byť diamant lacnejší ako guma.
Ešte tu nie sme ani blízko. A nie je úplne jasné, či podceňujeme alebo preceňujeme zložitosť tejto cesty. Všetko sa však týka toho, že nanotechnológia nie je ďaleko. Kurzweil predpokladá, že do roku 2020 ich budeme mať. Svetové štáty vedia, že nanotechnológia môže sľúbiť veľkú budúcnosť, a preto do nich investujú veľa miliárd.
Len si predstavte, aké možnosti by dostal superinteligentný počítač, ak by sa dostal k spoľahlivému zostaviteľovi nanočlánkov. Ale náš nápad je nanotechnológia a my sa ju snažíme jazdiť, je to pre nás ťažké. Čo ak sú iba žartom pre systém ISI a samotný ISI príde s technológiami, ktoré budú mnohokrát silnejšie ako čokoľvek, čo v zásade môžeme predpokladať? Dohodli sme sa: nikto si nevie predstaviť, čo umelé superintelligence bude schopné? Predpokladá sa, že naše mozgy nedokážu predpovedať ani minimum toho, čo sa stane.
Čo pre nás môže urobiť AI?
Vyzbrojení superintelligence a všetkou technológiou, ktorú by superintelligence mohla vytvoriť, ISI bude pravdepodobne schopná vyriešiť všetky problémy ľudstva. Globálne otepľovanie? ISI najskôr zastaví emisie uhlíka vymýšľaním množstva účinných nefosílnych palív na výrobu energie. Potom príde s efektívnym a inovatívnym spôsobom, ako odstrániť prebytočný CO2 z atmosféry. Rakovina a iné choroby? To nie je problém - zdravotná starostlivosť a medicína sa zmenia spôsobmi, ktoré si nemožno predstaviť. Svetový hlad? ISI použije nanotechnológiu na výrobu mäsa, ktoré je identické s prírodným, od nuly, skutočným mäsom.
Nanotechnológia bude schopná premeniť hromadu odpadkov na nádobu s čerstvým mäsom alebo inými potravinami (nie nevyhnutne ani v obvyklej podobe - predstavte si obrovskú kocku jabĺk) a distribuovať všetko toto jedlo do celého sveta pomocou vyspelých dopravných systémov. To bude, samozrejme, skvelé pre zvieratá, ktoré už nemusia zomrieť na jedlo. ISI môže robiť aj mnoho ďalších vecí, napríklad chrániť ohrozené druhy alebo dokonca priviesť späť zaniknuté druhy zo zachovanej DNA. ISI môže vyriešiť naše najťažšie makroekonomické problémy - naše najťažšie ekonomické diskusie, etické a filozofické otázky, globálny obchod - to všetko bude pre ISI bolestne zrejmé.
Existuje však niečo veľmi zvláštne, čo pre nás môže ISI urobiť. Lákavé a vzrušujúce, ktoré by zmenili všetko: ISI nám môže pomôcť vyrovnať sa s úmrtnosťou. Postupným pochopením schopností AI pravdepodobne prehodnotíte všetky svoje predstavy o smrti.
Neexistoval dôvod na to, aby evolúcia predĺžila našu životnosť dlhšie ako teraz. Ak žijeme dosť dlho na to, aby sme rodili a vychovávali deti do tej miery, že sa o seba môžu postarať, stačí evolúcia. Z evolučného hľadiska je na vývoj postačujúcich 30+ rokov a nie je dôvod, aby mutácie predĺžili životnosť a znížili hodnotu prírodného výberu. William Butler Yates nazval náš druh „dušou pripútanou k umierajúcemu zvieraťu“. Nie moc zábavy.
A keďže raz všetci zomrieme, žijeme s myšlienkou, že smrť je nevyhnutná. Premýšľame o starnutí v priebehu času - naďalej napredujeme a nedokážeme tento proces zastaviť. Ale myšlienka na smrť je zradná: zajatá tým, zabudneme žiť. Richard Feynman napísal:
„V biológii je úžasná vec: v tejto vede nie je nič, čo by hovorilo o nevyhnutnosti smrti. Ak chceme vytvoriť stroj s neustálym pohybom, uvedomujeme si, že sme vo fyzike našli dosť zákonov, ktoré buď naznačujú nemožnosť tohto, alebo že zákony sú zlé. V biológii však nič nenaznačuje nevyhnutnosť smrti. To ma vedie k presvedčeniu, že to nie je také nevyhnutné, a je len otázkou času, ako biológovia objavia príčinu tohto problému, túto hroznú univerzálnu chorobu, bude vyliečená. ““
Faktom je, že starnutie nemá nič spoločné s časom. Starnutie je vtedy, keď sa opotrebujú fyzické materiály tela. Časti automobilov sa tiež zhoršujú - je však starnutie nevyhnutné? Ak stále opravujete svoje auto, pretože sa jeho časti opotrebujú, vydrží to navždy. Ľudské telo sa nelíši - len zložitejšie.
Kurzweil hovorí o inteligentných nanobotoch pripojených k Wi-Fi v krvnom riečisku, ktoré by mohli vykonávať nespočetné množstvo úloh pre ľudské zdravie, vrátane pravidelnej opravy alebo výmeny opotrebovaných buniek kdekoľvek v tele. Zlepšenie tohto procesu (alebo nájdenie alternatívy navrhnutej inteligentnejšou ASI) nielen udržuje telo zdravé, ale môže zvrátiť starnutie. Rozdiel medzi telom 60-ročného a 30-ročného spočíva v hrsti fyzických problémov, ktoré by bolo možné napraviť správnou technológiou. ISI by mohol postaviť auto, do ktorého by osoba vstúpila, keď by mala 60 rokov, a odísť, keď bude 30 rokov.
Dokonca aj degradovaný mozog by sa mohol obnoviť. ISI by určite vedel, ako to urobiť bez ovplyvnenia mozgových údajov (osobnosť, spomienky atď.). 90-ročný muž trpiaci úplnou degradáciou mozgu by sa mohol podrobiť rekvalifikácii, obnoveniu a návratu na začiatok svojho života. Môže sa to zdať absurdné, ale telo je hrsť atómov a ISI by ich určite mohol ľahko manipulovať, s akýmikoľvek atómovými štruktúrami. Nie je to také absurdné.
Kurzweil sa tiež domnieva, že umelé materiály sa budú v priebehu času stále viac integrovať do tela. Na začiatok by mohli byť orgány nahradené super-pokročilými strojovými verziami, ktoré by vydržali večne a nikdy zlyhali. Potom by sme mohli urobiť kompletný redizajn tela, ktorý by nahradil červené krvinky dokonalými nanobotmi, ktoré by sa pohybovali samy od seba, čo by úplne eliminovalo potrebu srdca. Mohli by sme tiež zlepšiť naše kognitívne schopnosti, začať premýšľať miliardy krát rýchlejšie a prostredníctvom cloudu získať prístup k všetkým informáciám, ktoré má ľudstvo k dispozícii.
Možnosti pochopenia nových horizontov by boli skutočne nekonečné. Ľudia dokázali vybaviť sex novým účelom, robia to pre potešenie, nielen pre reprodukciu. Kurzweil si myslí, že to isté môžeme urobiť aj s jedlom. Nanoboty by mohli dodávať ideálnu výživu priamo do buniek tela, čo by umožnilo prenikanie nezdravých látok do tela. Teoretik nanotechnológie Robert Freitas už vyvinul náhradu za krvné bunky, ktoré, keď sú implementované do ľudského tela, mu môžu dovoliť, aby nedýchali 15 minút - a to vymysleli ľudia. Predstavte si, kedy ISI získa moc.
Kurzweil je koniec koncov presvedčený, že ľudia sa dostanú do bodu, keď sa stanú úplne umelou; čas, keď sa pozrieme na biologické materiály a premýšľame o tom, aké primitívne boli; čas, keď budeme čítať o raných štádiách ľudskej histórie, prekvapení, ako môžu baktérie, nehody, choroby alebo jednoducho staroba zabiť človeka proti jeho vôli. Nakoniec, ľudia porazia svoju vlastnú biológiu a stanú sa večnými - to je cesta k šťastnej strane lúča rovnováhy, o ktorej hovoríme od samého začiatku. A ľudia, ktorí tomu veria, si tiež sú istí, že takáto budúcnosť nás veľmi, veľmi skoro čaká.
Pravdepodobne nebudete prekvapení, že Kurzweilove nápady vyvolali tvrdú kritiku. Jeho jedinečnosť v roku 2045 a následný večný život pre ľudí sa nazýval „vzostup hlupákov“alebo „inteligentné stvorenie ľudí s IQ 140“. Iní pochybovali o optimistickom časovom rámci, o porozumení ľudského tela a mozgu, pripomenuli Mooreov zákon, ktorý ešte neodišiel. Pre každého odborníka, ktorý verí v Kurzweilove myšlienky, sú traja, ktorí si myslia, že sa mýli.
Najzaujímavejšie na tom je však to, že väčšina odborníkov, ktorí s ním nesúhlasia, vo všeobecnosti nehovorí, že je to nemožné. Namiesto toho, aby hovorili „kecy, toto sa nikdy nestane“, hovoria niečo ako „všetko sa to stane, ak sa dostaneme k ISI, ale toto je problém.“Bostrom, jeden z uznávaných odborníkov na AI, ktorý varuje pred nebezpečenstvom AI, tiež pripúšťa:
„Zostáva takmer žiadny problém, ktorý by superinteligencia nedokázala vyriešiť, alebo dokonca pomôcť vyriešiť. Choroba, chudoba, ničenie životného prostredia, utrpenie všetkého druhu - to všetko táto superinteligencia pomocou nanotechnológií môže vyriešiť za okamih. Superintelligence nám tiež môže poskytnúť neobmedzenú životnosť zastavením a zvrátením procesu starnutia pomocou nanomedicíny alebo schopnosťou nás preniesť do cloudu. Superinteligencia môže tiež vytvárať príležitosti na nekonečné zvyšovanie intelektuálnych a emocionálnych schopností; môže nám pomôcť vytvoriť svet, v ktorom budeme žiť v radosti a porozumení, priblížiť sa k našim ideálom a pravidelne plniť naše sny. ““
Toto je citát od kritikov Kurzweilu, ktorý však pripúšťa, že všetko je možné, ak dokážeme vytvoriť bezpečný ASI. Kurzweil jednoducho definoval, čo by sa malo stať, ak je to možné, umelým dozorom. A ak je dobrý boh.
Najzreteľnejšou kritikou obhajcov zóny pohodlia je to, že pri hodnotení budúcnosti ISI môžu byť prekliatí. Vo svojej knihe Singularity venoval Kurzweil 20 strán zo 700 možných hrozieb ISI. Otázka nie je, keď sa dostaneme k ISI, otázkou je, aká bude jej motivácia. Kurzweil na túto otázku odpovedá opatrne: „ISI vychádza z mnohých odlišných snáh a bude hlboko integrovaná do infraštruktúry našej civilizácie. V skutočnosti bude pevne zabudovaná do nášho tela a mozgu. Odzrkadlí naše hodnoty, pretože bude s nami. ““
Ale ak je odpoveď, prečo sa toľko inteligentných ľudí v tomto svete obáva o budúcnosť umelej inteligencie? Prečo hovorí Stephen Hawking, že vývoj ISI „by mohol znamenať koniec ľudskej rasy“? Bill Gates hovorí, že „nerozumie ľuďom, ktorí sa neobťažujú“. Elon Musk sa obáva, že „vyvoláme démona“. Prečo mnohí odborníci považujú ISI za najväčšiu hrozbu pre ľudstvo?
Na základe materiálov z waitbutwhy.com, kompilácia Tim Urban. Článok používa materiály z diel Nicka Bostroma, Jamesa Barratta, Ray Kurzweila, Jay Niels-Nilssona, Stephena Pinkera, Vernora Vingla, Moshe Vardyho, Russa Robertsa, Stuarta Armstroga a Kai Sotala, Susan Schneidera, Stuarta Russella a Petra Norviga, Theodora Modisa. Marcus, Karl Schulman, John Searle, Jaron Lanier, Bill Joy, Kevin Keley, Paul Allen, Stephen Hawking, Kurt Andersen, Mitch Kapor, Ben Herzel, Arthur Clark, Hubert Dreyfus, Ted Greenwald, Jeremy Howard.
Autor: Ilya Khel
Tretia časť: Prečo by to mohol byť náš posledný vynález?