Politici a kapitalisti majú v piatok popoludní tradíciu ukladania množstva správ, aby medzi nimi skryli zlé správy. Bolo tak trochu divné, že Elon Musk, zakladateľ Tesla, výrobcu elektrického vozidla, a Sam Altman, prezident renomovaného technologického inkubátora Y Combinator, predstavili svoju novú spoločnosť zameranú na AI na samom konci týždňovej konferencie AI v Montreale v decembri minulého roku.
Tam bol dôvod pre OpenAI predstavenie v tak neskoro hodinu. Nie preto, že by ich nikto nepozeral. Pretože všetci sledovali. Keď niektoré z najmocnejších spoločností v Silicon Valley zistili, že vietor fúka, začali novo získaným talentom OpenAI AI ponúkať obrovské sumy peňazí, aby si udržali týchto géniov doma. Na poslednú chvíľu sa návrhy - niektoré z nich predložili na samotnej konferencii - natoľko zväčšili, že Musk a Altman museli odložiť oznámenie o novom uvedení do prevádzky. „Sumy dosiahli hranicu šialenstva,“hovorí vedec Wojciech Zaremba, ktorý sa pridal k OpenAI po stážích v službách Google a Facebook a bol medzi tými, ktorí dostali hlavné ponuky o 23:00.
Koľko dolárov je hranica šialenstva? Pred dvoma rokmi, keď sa trh s najnovšími technológiami strojového učenia začal zahrievať, viceprezident spoločnosti Microsoft pre výskum Peter Lee povedal, že náklady na špičkových výskumných pracovníkov v oblasti umelej inteligencie prekročili náklady na najvyššiu štvrtinu v národnej futbalovej lige - a to za normálnych okolností, nie v prípade najväčších podnikateľov. Silicon Valley sa snaží vylúpiť najlepší talent. Zaremba hovorí, že keď sa OpenAI spojili, ponúkla sa dvoj- až trojnásobok trhovej hodnoty.
OpenAI tieto návrhy nesplnil. Ponúka však niečo iné: schopnosť vykonávať výskum zameraný výlučne na budúcnosť, a nie na výrobky a štvrťročné zisky, a nakoniec zdieľať väčšinu - ak nie všetky - výskumu medzi tým, koho si to želajú. Správne: Musk, Altman a spoločnosť sa rozhodli rozdávať to, čo môže byť najviac transformačná technológia 21. storočia, a rozdávať ju zadarmo.
Zaremba hovorí, že návrhy na pokraj šialenstva ho skutočne odložili - napriek obrovskému rešpektu voči spoločnostiam ako Google a Facebook. Cítil, že peniaze boli smerované, aby sa zabránilo vytvoreniu OpenAI, čo ešte viac posilnilo jeho odhodlanie veľkorysého uvedenia na trh. „Uvedomil som si,“hovorí Zaremba, „že OpenAI je pre mňa najlepším miestom.“
Cítite ironiu v jadre tohto príbehu? Zatiaľ čo najväčšie technologické spoločnosti na svete sa snažia udržať svojich výskumníkov tak tvrdo ako tímy NFL sa snažia udržať svoje hviezdne quarterbacky, samotní vedci sa chcú podeliť o svoje poznatky. V sofistikovanom svete výskumu AI sú najjasnejšie mysle poháňané nielen ďalším cyklom produktu alebo ziskom, alebo ich vôbec nie sú posadnutí. Chcú vylepšiť AI a je nemožné vylepšiť AI, keď si budete udržiavať svoj najnovší vývoj pre seba.
OpenAI nedávno vydala prvú dávku softvéru AI, súpravu nástrojov na vytváranie systémov umelej inteligencie založenej na technológii nazývanej zosilňovanie učenia, jednej z kľúčových technológií, ktorá viedla k vytvoreniu AlphaGo, AI spoločnosti Google, ktorá svojimi schopnosťami prekvapila svet. ísť hry. S touto sadou nástrojov môžete vytvárať systémy, ktoré otvoria novú generáciu robotov, hrajú hry Atari a áno, porazia majstrov sveta na Go.
Propagačné video:
Hračky sú však len začiatok. OpenAI je misia v hodnote miliárd dolárov, ktorá tlačí AI pokiaľ je to možné. V spôsobe, akým sa spoločnosť spojila a aké sú jej plány, môžete vidieť ďalšiu novú vlnu inovácií. Zatiaľ nevieme, či bude OpenAI hlavným hnacím motorom týchto zmien. Sily, ktoré stoja za vytvorením tohto dosť neobvyklého spustenia, však ukazujú, že nová generácia AI nielen zmení technológiu, ale aj spôsob, akým funguje.
Umelá inteligencia je všade
Silicon Valley má vášeň pre preháňanie. Tučné výrazy by sa mali vždy stretávať so zrnkom soli. Ale v oblasti umelej inteligencie skutočne dochádza k zmenám. V spoločnostiach ako Google a Facebook už technológie hĺbkového vzdelávania pomáhajú internetovým službám identifikovať tváre na fotografiách, rozpoznávať hlasové povely v smartfónoch a reagovať na vyhľadávanie na internete. A táto rovnaká technológia by mohla v budúcnosti vyriešiť mnoho ďalších problémov. Môže pomôcť strojom naučiť sa porozumieť prirodzenému jazyku - ktorý my, ľudia, sme zvyknutí hovoriť a písať. Môže pomôcť vyvinúť nové plemeno robotov, umožní automatom nielen vykonávať ich úlohy, ale aj učiť sa za behu. A niektorí veria, že to nakoniec prinesie strojom niečo ako zdravý rozum - schopnosť myslieť skutočne ako človek.
A spolu s týmito sľubmi sa rodí hlboká úzkosť. Musk a Altman sa obávajú, že ak ľudia môžu vytvárať AI, ktoré robia skvelé veci, môžu vytvárať AI, ktoré robia hrozné veci. Vo svojich obavách nie sú sami. Aj keď sa to môže zdať kontraintuitívne, Musk a Altman sa tiež domnievajú, že najlepším spôsobom boja proti škodlivej umelej inteligencii nie je obmedziť prístup k umelej inteligencii, ale rozšíriť ju. Práve toto úsilie vedie k tímu mladých a inteligentných idealistov.
OpenAI sa minulý rok v lete objavil v súkromnej miestnosti v hoteli Rosewood v Silicon Valley, luxusnom mestskom hoteli, ktorý doslova sedí v centre rizikového kapitalistického sveta. Elon Musk mal obed s Ilyou Sutskeverovou, ktorá bola v spoločnosti Google Brain, spoločnosťou vyvíjajúcou hlboké neurónové siete - systémy umelej inteligencie, ktoré sa môžu naučiť plniť úlohy analyzovaním veľkého množstva digitálnych údajov vrátane rozpoznávania fotografií a písania e-mailov, učenia sa z korešpondencie. Suckever bol jedným z hlavných vývojárov projektu.
Ilya Sutskever
Sam Altman, ktorého Y Combinator pomohol formovať spoločnosti ako Airbnb, Dropbox a Coinbase, sprostredkoval stretnutie, na ktorom sa zišlo niekoľko výskumných pracovníkov AI a mladý, ale veteránsky tvorca spoločnosti Greg Brockman, predtým hlavný technologický riaditeľ spoločnosti Start-up Stripe, iná spoločnosť Y Combinator. Bola to eklektická skupina. Každý však mal cieľ: vytvoriť nový typ laboratória AI, ktoré by mohlo fungovať mimo kontroly nielen spoločnosti Google, ale aj všetkých ostatných. "To najlepšie, čo by som si mohol predstaviť ako výzvu," hovorí Brockman, "je posunúť ľudstvo smerom k vytváraniu skutočnej AI po bezpečnej ceste."
Musk tam bol kvôli jeho dlhému priateľstvu s Altmanom - a pretože AI je kritická pre budúcnosť jeho rôznych podnikov a pre budúcnosť ako celok. Tesla potrebuje AI, ak chce stavať autá s vlastným riadením. SpaceX, ďalšia zo spoločností spoločnosti Musk, potrebuje AI, aby vzala ľudí do vesmíru a udržala ich v bezpečí a zvuku tam. Musk je však tiež jedným z prvých (a najhlasnejších) varujúcich, že jedného dňa môže ľudstvo stratiť kontrolu nad systémami, ktoré sú dostatočne silné na to, aby sa samy učili.
Vyskytol sa problém: Mnoho ľudí, ktorí sú dostatočne kvalifikovaní na to, aby vyriešili všetky tieto problémy, ktoré už v spoločnosti Google fungovali (ako aj Microsoft, Facebook, Baidu a Twitter). A nikto na tej večeri si nebol úplne istý, či sa títo vedci môžu nalákať do nového startupu, aj keď za nimi boli Musk a Altman. A aspoň jeden kľúčový hráč bol pripravený opustiť loď. „Porozumel som rizikám,“hovorí Suckever, „ale tiež som vedel, že by bolo zaujímavé skúsiť to.“
Prelomte kruh
Povzbudený rozhovormi s Muskom, Altmanom a ďalšími v Rosewoode sa Brockman čoskoro rozhodol vybudovať laboratórium, na ktoré všetci mali na mysli. So silným odhodlaním k projektu priviedol Yoshua Bengia, univerzitu v Montreale a jedného zo zakladateľov hnutia hlbokého učenia. V spoločnosti Google a Facebook pracujú dvaja ďalší priekopníci v odbore - Jeff Hinton a Jan Lecun, ale Bengio sa usiloval o život v akademickom svete, niekde mimo dosahu priemyselných chápadiel. Načrtol zoznam najlepších vedcov v teréne a počas niekoľkých nasledujúcich týždňov Brockman kontaktoval všetkých, koľko mohol, vrátane niekoľkých ďalších.
Mnohí z týchto vedcov túto myšlienku privítali, ale mali na pozore možnosť takéhoto skoku. V snahe prelomiť kruh vybral Brockman desať prieskumníkov, ktorých chcel vidieť najviac, a vyzval ich, aby sobotu strávili s vínom, občerstvením a konverzáciou vo vínnej pivnici v údolí Napa. Pre Brockman bol katalyzátorom projektu aj výlet do Napa. „Je to podceňovaný spôsob spájania ľudí, najmä v čase, keď nemáte kam ponáhľať, aby ste dosiahli svoj cieľ,“hovorí. „Musíte tam ísť, ale musíte si tiež pohovoriť.“A keď prišli k vínu, tá atmosféra zostala. Ako hovorí Suckever, „víno bolo pre konverzáciu druhoradé.“
Greg Brockman
Na konci dňa Brockman pozval všetkých desať vedcov, aby sa pripojili k laboratóriu, a dal im tri týždne na premýšľanie. Na konci funkčného obdobia bolo velených deväť. A zostali v nej aj napriek veľkým ponukám gigantov Silicon Valley. „Dostal som veľmi atraktívnu ponuku na pobyt, takže rozhodnutie nebolo ľahké,“hovorí Suckever z Google, jeho bývalý zamestnávateľ. „Nakoniec som sa rozhodol ísť na OpenAI, čiastočne kvôli veľmi silnej skupine ľudí a, samozrejme, hlavne kvôli ich poslaniu.“
Hĺbkové vzdelávanie sa začalo v akademickej obci. Až nedávno sa spoločnosti ako Google, Microsoft a Facebook rozhodli túto oblasť riešiť, pretože pokrok v brutálnej výpočtovej sile urobil tieto hlboké neurónové siete realitou, nielen teoretickou možnosťou. Ľudia ako Hinton a LeCune opustili akademickú obec v službách Google a Facebook kvôli obrovským zdrojom v týchto spoločnostiach. Ale zostal úzko spojený v spolupráci s ostatnými teoretikmi v odbore. Napriek tomu, ako LeCun vysvetľuje, výskum hlbokého vzdelávania si vyžaduje voľný tok nápadov. „Keď robíš výskum v tajnosti,“hovorí, „ustúpiš.“
Výsledkom je, že veľké spoločnosti majú teraz k dispozícii veľkú časť svojho výskumu AI. Toto je hlavná tromfová karta, najmä pre spoločnosť Google, ktorá už dlho chránila technológiu svojho online impéria v tajnosti. Nie je to tak dávno, spoločnosť Google otvorila zdrojový kód pre softvérový modul, ktorý poháňa jeho neurónové siete. Ale veľa zostáva pod zámkom a kľúčom k tejto rase pre budúcnosť. Brockman, Altman a Musk sa snažia presadiť myšlienku otvorenosti ešte viac tým, že tvrdia, že nechcú, aby jedna alebo dve veľké spoločnosti kontrolovali budúcnosť umelej inteligencie.
Limity otvorenosti
Znie to skvele. Ale pre všetok idealizmus OpenAI sa vedci môžu ocitnúť v rovnakých podmienkach, ktoré ich prinútili pracovať na starých zamestnaniach. Otvorenosť má svoje limity. A dlhodobá vízia AI nie je jediným záujmom o túto hru. OpenAI nevykonáva charitatívne činnosti. Spoločnosti muškety budú mať z činnosti startupu veľký úžitok, rovnako ako aj spoločnosť Altman's Y Combinator. „Určite existujú nejaké konkurenčné body,“hovorí Lecun. - Je to nezisková organizácia, ale má úzky vzťah s Y Combinator. A ľudia budú odmeňovaní za prácu v tomto odvetví. ““
Laboratórium neplatí rovnaké astronomické platy, aké poskytli Google a Facebook výskumníci AI, povedal Brockman. Ale tiež hovorí, že laboratórium "chce zaplatiť dobre," a ponúka kompenzáciu vo forme akciových opcií, najprv v Y Combinator a neskôr možno v SpaceX (čo je na rozdiel od Tesly súkromná spoločnosť).
Brockman napriek tomu trvá na tom, že OpenAI nestanovuje osobitné zaobchádzanie s prepojenými spoločnosťami. OpenAI je výskumná iniciatíva, nie konzultačná spoločnosť. Idealizmus OpenAI však má svoje obmedzenia. Spoločnosť nemusí otvoriť kód pre všetko, čo vytvára, hoci konečným cieľom je stále distribuovať väčšinu z toho, či už ide o vedecké práce alebo internetové služby. „Otvorenie nie je nevyhnutne najlepšou možnosťou. Musíte nápad vyživovať, zistiť, kam vedie a potom ho zverejniť, hovorí Brockman. - Vyrábame veľa otvoreného zdrojového kódu. Ale budeme mať aj veľa vecí, ktoré ešte nie sú pripravené na prepustenie. ““
Suzkever tiež dodáva, že OpenAI by mohla ísť až tak ďaleko, ako by patentovala časť svojej práce. "Čoskoro nebudeme patentovať nič," hovorí Brockman. "Ale sme pripravení zmeniť taktiku z dlhodobého hľadiska, ak si myslíme, že to bude pre svet lepšie." Napríklad OpenAI môže urobiť proaktívne patentovanie, aby odradilo ostatných od získania patentov.
Niektorí môžu vidieť patenty ako motív pre zisk. Ale to je celý zmysel patentov.
Problém superintelligence
Keď Musk a Altman predstavili OpenAI, načrtli tiež projekt ako spôsob, ako neutralizovať hrozbu škodlivej superinteligencie. Takáto dozorná služba by, samozrejme, mohla vyplývať z práce organizácie OpenAI, ale trvajú na tom, že ak sa táto technológia sprístupní všetkým, zmierni sa všetky hrozby. "Myslíme si, že je oveľa pravdepodobnejšie, že množstvo AI dokáže zastaviť náhodné zlé herce," hovorí Altman.
Ale nie každý v tejto oblasti verí v taký výsledok. Nick Bostrom, Oxfordský filozof, ktorý rovnako ako Musk varoval pred nebezpečenstvami AI, poukazuje na to, že ak zdieľate svoj výskum bez obmedzenia, „zlí herci“ich môžu chytiť skôr, ako si budú všetci istí, že sú v bezpečí. „Ak máte gombík, vďaka ktorému je svet na hovno,“hovorí Bostrom, „pravdepodobne nechcete dať každému prístup.“Ak sa naopak OpenAI rozhodne zdržať výskum, aby k nemu nepristúpili prístupní, Bostrom sa pýta: ako sa to bude líšiť od služieb Google alebo Facebook?
Hovorí áno, neziskový štatút OpenAI môže alebo nemusí veci zmeniť. Skutočnou silnou stránkou projektu je, že ho môže overiť spoločnosť Google a Facebook. „Bude schopná znížiť pravdepodobnosť monopolizácie dohľadu. Bude schopný odstrániť jeden z možných dôvodov, prečo budú mať niektorí jednotlivci alebo skupiny prístup k lepšej AI ako ktokoľvek iný. ““
V nedávnej práci filozof vysvetľuje, že hlavným dôsledkom iniciatívy ako OpenAI - iniciatívy slobodného zdieľania toho, čo sa robí - je urýchlenie pokroku v oblasti umelej inteligencie, aspoň v krátkodobom horizonte. A z dlhodobého hľadiska môže urýchliť pokrok za predpokladu, že sa zachová vyššia úroveň transparentnosti, ako by bolo komerčne optimálne.
„Je možné, že filantropicky motivovaný investor v oblasti výskumu a vývoja by mohol vážne urýchliť pokrok uskutočňovaním otvorených vedeckých politík,“hovorí.
Ako Xerox PARC
Začiatkom januára sa v jeho byte v San Franciscu zišlo deväť Brockmanových vedcov. Projekt bol taký nový, že nemali ani tabule. (Predstavte si.) Kúpili pár v ten istý deň a začali pracovať.
Brockman hovorí, že OpenAI začne skúmaním posilňovacieho učenia, strojového spôsobu učenia sa problémov opakovaním znovu a znovu a sledovaním, ktoré metódy prinášajú najlepšie výsledky. Ďalšou veľkou výzvou je takzvané „učenie bez dozoru“- vytvorenie strojov, ktoré sa môžu skutočne učiť bez ľudskej pomoci. Hĺbkové vzdelávanie dnes závisí od starostlivo označených údajov. Ak chcete naučiť neurónovú sieť rozpoznávať fotografie mačiek, musíte do nej vložiť určitý počet príkladov - a tieto príklady by sa mali označiť ako fotografie s mačkami. Takéto školenie sa uskutočňuje s pomocou ľudí. Ale rovnako ako mnoho iných vedcov, OpenAI plánuje vybudovať neurónové siete, ktoré sa môžu učiť bez starostlivého výberu údajov.
„Ak máte skutočne dobrú metodiku výučby bez učiteľa, stroje sa môžu učiť zo všetkých vedomostí na internete - ako človek, len sa rozhliadnuť - alebo čítaním kníh,“hovorí Brockman.
OpenAI vníma ako modernú inkarnáciu Xerox PARC, technologického výskumného laboratória, ktoré existovalo v 70. rokoch 20. storočia. Rovnako ako otvorený a bezplatný výskum PARC priniesol všetko od grafických užívateľských rozhraní a laserovej tlače až po objektovo orientované programovanie, Brockman a jeho tím sa chcú ponoriť do toho, čo bývalo sci-fi. PARC bol vo vlastníctve spoločnosti Xerox, ale bol kŕmený v rukách mnohých ďalších spoločností vrátane spoločnosti Apple, pretože ľudia ako Steve Jobs tento výskum privítali. Brockman chce, aby každý privítal výskum OpenAI.
V nádeji, že sa táto dynamika dotkne, Brockman a spoločnosť prijali nových významných vedcov, vrátane Iana Goodfellowa, ďalšieho vedúceho výskumného tímu v tíme Google Brain. Brockman hovorí, že PARC v podstate spojil skupinu inteligentných ľudí a rozhodol sa vidieť, čo sa stalo. „Potrebujete spoločnú víziu bez centrálnej kontroly.“
Nedostatočná kontrola je nevyhnutná pre ideál. Ak privediete do kolektívneho cieľa dostatok ľudí, konečný výsledok zvíťazí nad tým, čo ste tajne uvarili. Ale ak sa AI stane tak silnou, ako sme sľúbili, rovnica sa zmení. Potrebujeme ubezpečenie, že novo nájdená umelá inteligencia bude v prvom rade dodržiavať rovnaké rovnostárske ideály, ktoré viedli k jej vytvoreniu. Musk, Altman a Brockman veria v ľudí, v dav. A ak sa ukáže, že majú pravdu, jedného dňa nebude tento dav úplne ľudský.
ILYA KHEL