Jednu sobotu minulého mesiaca sa na prestavanom autosalóne v San Franciscu sebavedome vynorilo päť mužov vo veku od 19 do 26 rokov z oblaku fialového dymu. Sedeli za radom počítačových klávesníc a hlasno ich vítal dav niekoľkých stoviek ľudí. Po deväťdesiatich minútach intenzívneho klikania myšou sa úsmev päťky otupil a potlesk bol upokojujúci. Tím OG, svetový šampión najziskovejšej konkurenčnej hry na svete Dota 2, prehral s tímom robotov AI dve hry za sebou.
Tento výsledok je pozoruhodný, pretože zložité videohry sú matematicky náročnejšie ako stolové hry ako šach alebo go. A napriek tomu, opierajúci sa o múr v zákulisí, pocítil sviatok úľavy Sam Altman - generálny riaditeľ výskumného ústavu OpenAI, ktorý vyvinul týchto robotov.
Umelá inteligencia verzus bodky
"Všetci sme boli ráno dosť nervózni - myslel som si, že pravdepodobnosť je 60 až 40," hovorí Altman. V marci sa stal generálnym riaditeľom OpenAI po tom, čo odstúpil z funkcie prezidenta vplyvného startupového inkubátora YCombinator. Aby mohol Altman uspieť vo svojej novej úlohe, potreboval robotov, ktorí vo videohrách nebili iba ľudí - potreboval vo všetkom lepších robotov ako ľudia.
Deklarovanou misiou OpenAI je zabezpečiť, aby každá budúca AI, ktorá dokáže prekonať výkon „ľudí v nákladovo najefektívnejšej práci“, bola prínosom pre celé ľudstvo. Takéto technológie - všeobecná umelá inteligencia, „silná“umelá inteligencia alebo AGI - ešte ani nie sú na obzore, OpenAI však tvrdí, že tak ona, ako aj ostatní rýchlo napredujú. Organizácia preukázala, že môže uskutočňovať výskum na úrovni najlepších na svete. A získala obvinenia z vytvárania humbuk AI, ako aj z fixovania na AGI a potenciálnych hrozieb AI.
Podľa Altmanovho plánu by mal výskum OpenAI - a provokácie - iba naberať na tempe. Bývalý predseda správnej rady organizácie nastúpil na pozíciu výkonného riaditeľa po tom, čo pomohol presunúť väčšinu neziskového personálu do novej obchodnej spoločnosti v nádeji, že priláka investorov miliardami potrebnými na formovanie osudu AI a ľudstva. Altman tvrdí, že veľké technologické laboratóriá v spoločnosti Alphabet a inde by mali byť pod tlakom kolegov, ktorí sa neusilujú o zvýšenie hodnoty pre svojich akcionárov. „Nechcem byť vo svete, v ktorom jedna spoločnosť vytvára AGI, využíva všetku jeho hodnotu a robí všetky rozhodnutia,“hovorí.
Propagačné video:
Generálny riaditeľ spoločnosti Tesla Elon Musk na podujatí MIT koncom roka 2014 označil výskum umelej inteligencie za pokus „vyvolať démona“. V lete 2015 hovoril s Altmanom a niekoľkými ďalšími pri večeri a navrhol vytvorenie výskumného laboratória nezávislého od technologického segmentu, ktoré by riadilo AI pozitívnym smerom. V tom istom roku vznikol OpenAI, v ktorom boli Altman a Musk. Na začiatku roku 2018 Musk opustil predstavenstvo s odvolaním sa na potenciálne konflikty s ostatnými svojimi úlohami.
Počas svojho krátkeho života sa OpenAI umiestnila ako vážne miesto pre výskum AI. Ilya Sutskever, spoluzakladateľ organizácie, ktorá odstúpila z vedenia výskumu AI v spoločnosti Google, dohliada na zamestnancov, ktorí zahŕňajú bývalých zamestnancov spoločností Google, Facebook, Microsoft a Intel. Ich práca v oblasti robotiky a strojového učenia sa objavila na najprestížnejších konferenciách. Víťazstvo nad tímom OG v hre Dota 2 im prinieslo rešpekt v oblasti AI a hier.
Transformácia OpenAI na komerčnú spoločnosť bola vyvolaná pocitom, že na to, aby bolo možné držať krok s gigantmi ako Alphabet, bude potrebný prístup k neustále rastúcim výpočtovým zdrojom. V roku 2015 spoločnosť OpenAI uviedla, že má hotovosť v hodnote 1 miliardy dolárov od spoločností Altman, Musk, spoluzakladateľa LinkedIn Reida Hoffmana, bývalého investora Facebooku Petera Thiela a Amazonu. Altman teraz tvrdí, že jedna miliarda nebude stačiť. „Množstvo peňazí, ktoré potrebujeme na to, aby bola misia úspešná, je oveľa viac, ako som si myslel,“hovorí.
Podania IRS ukazujú, že v roku 2017, keď OpenAI odhalil svojho prvého dota roba, minul na cloud computing 8 miliónov dolárov. Odvtedy sa jej výdavky pravdepodobne výrazne zvýšili. V roku 2018 spoločnosť OpenAI oznámila, že predchodca systému, ktorý porazil OG, je prepojenie viac ako 120 000 procesorov prenajatých od cloudovej divízie spoločnosti Google v priebehu niekoľkých týždňov. Šampiónska verzia trénovala 10 mesiacov, čo je ekvivalent 45 000 rokov hrania hry Dota 2 proti sebe. Koľko to stálo? Greg Brockman, technický riaditeľ OpenAI, tvrdí, že projekt šiel do „miliónov dolárov“, podrobnosti však nezverejnil.
Altman nie je presvedčený, že OpenAI sa bude aj naďalej spoliehať na konkurenčné cloudové služby - je stále otvorený nákupu alebo dokonca vývoju hardvéru umelej inteligencie. Organizácia pozorne sleduje nové čipy vyvíjané spoločnosťou Google a množstvom startupov, ktoré majú z algoritmov strojového učenia vytlačiť ešte viac.
S cieľom získať finančné prostriedky potrebné na prístup k budúcemu vybaveniu sa spoločnosť Altman pokúsila predať túto myšlienku investorom v schéme, ktorá by bola divoká aj v Silicon Valley. Investujte do OpenAI, počkajte, a spoločnosť vám stonásobne vráti investíciu - hneď ako vymyslí roboty, ktoré prekonajú ľudí v ekonomicky najcennejších úlohách.
Altman hovorí, že splnenie týchto očakávaní bolo „najzaujímavejšou skúsenosťou so získavaním finančných prostriedkov v mojom živote - nezmestí sa do iného modelu.“Najväčší záujem je podľa neho o bohatých ľudí zaujímajúcich sa o AI. Hoffman a firma rizikového kapitálu Khosla Ventures investovali do nového komerčného OpenAI, ale neodpovedali na žiadosti o komentár. Nikto nehovorí, kedy má očakávať vrátenie peňazí, ale stávky na OpenAI nie sú pre netrpezlivých. Spoločnosti sú informované, že ich doby vrátenia môžu presiahnuť priemyselný štandard (desať rokov). "Okamžite im hovoríme, že v priebehu nasledujúcich 10 rokov nebudete dostávať finančné prostriedky," hovorí Altman.
Napriek maximálnemu úsiliu je vedúci predstavitelia odvetvia často kritizovaní OpenAI. Vo februári spoločnosť odhalila podrobnosti o softvéri na spracovanie jazykov, ktorý bol schopný generovať prekvapivo živý text. Niektorí okamžite označili vynález za „nebezpečný“a vyjadrili obavy, že by mohol byť poškodený vrhom sociálnych sietí.
Niekoľko prominentných ľudí v oblasti výskumu AI bolo naštvaných, vrátane šéfa AI pre Facebook Iana Lekuna. Vo svojich príspevkoch na Facebooku obhajoval otvorené zverejnenie výskumu o AI a vtipkoval, že ľudia by mali prestať mať deti, pretože jedného dňa budú zverejňovať falošné správy.
Pre niektorých táto epizóda zdôraznila, že poslanie OpenAI sa príliš nelíši od iných podnikových alebo akademických laboratórií. „Robia, dávajú alebo berú rovnaký výskum ako ostatní, chcú však získať miliardy dolárov,“hovorí Zachary Lipton, profesor strojového učenia na univerzite Carnegie Mellon University. „Jediný spôsob, ako to urobiť, je trochu skrútiť srdce.“
Altman pripúšťa, že OpenAI možno spustil poplach príliš skoro, ale tvrdí, že je to lepšie ako neskoro. "Technologický priemysel neurobil veľmi dobrú prácu v snahe byť aktívny v oblasti zneužívania," hovorí. Autocenzúru vyžaduje samotné OpenAI.
Po porážke OG minulý mesiac sa OpenAI, aby prejavila sympatie, rozhodla uskutočniť druhý experiment s cieľom predstaviť dobrú stránku nadľudskej AI. Odborníci z Dota 2 a niekoľko nováčikov hrali v tímoch po boku robotov.
Softvér, ktorý nemal šťastie na to, že spolupracoval s noobmi v tíme, preukázal nadľudskú ľahostajnosť pri pomoci začínajúcim hráčom. Namiesto toho sa sústredila na víťazstvo, nasledovali inštinkty vycibrené mesiacmi nákladného tréningu.
Nikto nevie, ako zvýšiť flexibilitu vysoko cielenej AI alebo aké komponenty môžu byť potrebné na to, aby sa AGI stala viac ako technologickou fantáziou. Aj Altmana zastrašuje rozsah problému. "Mám dni, keď verím, že sa to všetko stane, a dni, keď sa to všetko bude javiť ako sen o rúre," hovorí.
Čo myslíte, uspeje?
Iľja Khel