Jedného večera v auguste 2010 vystúpil v konferenčnej miestnosti v oblasti San Francisco Bay Area 34-ročný Londoner menom Demis Hassabis. Lezie na pódium s predstieranou chôdzou človeka, ktorý sa snaží ovládať svoje nervy, zatlačil pery do krátkeho úsmevu a povedal: „No, dnes chcem hovoriť o rôznych prístupoch k stvoreniu …“. Zastavil sa, akoby si uvedomil, ako nahlas deklaruje svoje ambície. A povedal: „AGI“.
AGI je skratka pre General Artificial Intelligence, hypotetický počítačový program, ktorý dokáže vykonávať intelektuálne úlohy, ako aj ľudské, alebo dokonca lepšie. AGI bude môcť vykonávať konkrétne úlohy, ako napríklad rozpoznávanie ľudí na fotografiách alebo prekladanie jazykov, ktoré sú v súčasnosti schopné vykonávať v našich telefónoch a počítačoch mnoho samostatných umelých inteligencií. Budú môcť pokračovať v konverzácii, hrať šach a hovoriť francúzsky. Budú schopní porozumieť knihách fyziky, písať romány, rozvíjať investičné stratégie a udržiavať neformálny rozhovor s cudzími ľuďmi. Budú monitorovať jadrové reakcie, riadiť energetické siete a dopravu a bez námahy uspieť vo všetkom ostatnom. AGI urobí z najmodernejších AI, ktoré dnes vyzerajú ako vreckové kalkulačky.
Jediným intelektom, ktorý je v súčasnosti schopný vykonávať všetky tieto úlohy, sú ľudia. Ľudská myseľ je však obmedzená veľkosťou lebky, v ktorej je umiestnený mozog. Jeho sila je obmedzená malým množstvom energie, ktorú telo môže poskytnúť. Pretože program AGI bude bežať na počítačoch, nebudú tieto obmedzenia netrpieť. Jeho inteligencia bude obmedzená iba počtom dostupných spracovateľov. AGI môže začať monitorovaním jadrových reakcií. Ale čoskoro objaví nové zdroje energie a strávi viac fyzickej práce za sekundu, ako človek dokáže za tisíc rokov. Inteligencia na ľudskej úrovni, podporovaná rýchlosťou a škálovateľnosťou počítačov, nám ušetrí problémy. Hassabis britským novinám Observer povedal, že očakáva, že spoločnosť AGI bude okrem iných disciplín riešiť také problémy, ako je „rakovina“,klimatické zmeny, energetika, genomika, makroekonomika a finančné systémy. ““
Konferencia, na ktorej vystúpil Hassabis, sa volala samit Singularity Summit. Singularita - prvá časť názvu - podľa futurológov označuje najpravdepodobnejší dôsledok vzniku AGI. Pretože AGI bude spracovávať informácie vysokou rýchlosťou, stane sa veľmi inteligentnou veľmi rýchlo. Rýchle cykly samoobsluhy vedú k výbuchu inteligencie strojov, takže ľudia môžu čuchať kremíkový prach. Keďže táto budúcnosť je založená výlučne na neoverených predpokladoch, takmer nábožensky sa predpokladá, že singularita bude buď utópiou alebo peklom.
Podľa názvov prejavov účastníci konferencie verili viac v prvý výsledok: „Myseľ a ako ju vybudovať“, „AI proti starnutiu“, „Výmena našich tiel“, „Úprava hranice medzi životom a smrťou“. Hassabisova reč sa naopak zdala nudná: „Systematický neurovedecký prístup k vytváraniu AGI.“
Hassabis prešiel po stupňoch víťazov medzi pódiom a obrazovkou. Mal na sebe vínový sveter a biele gombíky ako školák. Zdalo sa, že jeho malá postava zdôrazňuje iba jeho inteligenciu. Až doteraz Hassabis vysvetlil, že vedci sa priblížili k AGI z dvoch strán. Jeden prístup, známy ako symbolická AI, sa pokúsil opísať a naprogramovať všetky pravidlá potrebné pre systém, ktorý by mohol myslieť ako človek. Tento prístup bol populárny v 80. a 90. rokoch, ale nepriniesol požadované výsledky. Hassabis veril, že mentálna architektúra mozgu je príliš jemná na to, aby sa opísala týmto spôsobom.
Ďalší prístup priviedol vedcov, ktorí sa pokúšajú digitálne replikovať fyzické mozgové siete. Dávalo to určitý zmysel. Mozog je koniec koncov ľudskou inteligenciou. Ale títo vedci boli tiež na nesprávnej ceste, povedal Hassabis. Ich úlohou bolo vytvoriť mapu všetkých hviezd vo vesmíre. Podrobnejšie sa zameriavali na nesprávnu úroveň fungovania mozgu. Bolo to ako pokúsiť sa prísť na to, ako Microsoft Excel funguje hackovaním do počítača a učením sa, ako tranzistory interagujú.
Namiesto toho Hassabis ponúkol strednú cestu: AGI by sa mal inšpirovať skôr zo širokých spôsobov, akými mozog spracúva informácie, než z fyzických systémov alebo zo špecifických pravidiel, ktoré uplatňuje v konkrétnych situáciách. Inými slovami, mal by sa zamerať na porozumenie softvéru mozgu, nie jeho hardvéru. Nové techniky, ako napríklad funkčné zobrazovanie pomocou magnetickej rezonancie (fMRI), ktoré umožňovali nahliadnutie do mozgu počas jeho fungovania, naznačujú, že také porozumenie je možné. Nedávne štúdie, povedal Hassabis, ukazujú, že mozog sa učí opakovaním svojich skúseností počas spánku, aby odhalil všeobecné princípy. Výskumníci AI musia takýto systém napodobňovať.
Propagačné video:
V pravom dolnom rohu úvodnej snímky logo v tvare okrúhleho modrého víru. Dve slová vedľa neho sú vytlačené nižšie: DeepMind. Toto bolo prvýkrát, keď bola spoločnosť verejne spomenutá. Hassabis strávil viac ako rok pokusom o pozvanie na samit Singularity Summit. Prednáška bola jeho obálkou. V skutočnosti potreboval minútu s miliardárom Silicon Valley Peterom Thielom, ktorý konferenciu financoval. Hassabis chcel Thielovu investíciu.
Hassabis nikdy nehovoril o tom, prečo potrebuje Thielovu podporu. Ale Thiel veril v AGI ešte viac ako Hassabis. Thiel v rozhovore na samite Singularity v roku 2009 povedal, že jeho najväčšou obavou z budúcnosti nebolo povstanie robotov. Viac sa obával, že singularita neprichádza skoro. Svet potreboval nové technológie na potlačenie hospodárskeho poklesu.
DeepMind nakoniec získala 2 milióny GBP, z čoho Thiel bol 1,4 milióna. Keď spoločnosť Google kúpila spoločnosť v januári 2014 za 600 miliónov dolárov, Thiel a iní prví investori dosiahli návratnosť svojich investícií vo výške 5 000%.
Pre mnohých zakladateľov by to bol šťastný koniec. Dalo by sa oddýchnuť, urobiť krok späť, tráviť čas sám s peniazmi. Pre Hassabisa bola akvizícia spoločnosti Google ďalším krokom v jeho hľadaní spoločnosti AGI. Väčšinu roku 2013 strávil rokovaním o podmienkach dohody. DeepMind musela pracovať oddelene od svojho majiteľa. Potrebovala získať výhody, ktoré vlastní spoločnosť Google, napríklad prístup k peňažným tokom a výpočtový výkon bez straty kontroly.
Hassabis si myslel, že DeepMind by sa mohol stať hybridom: mal by spúšťací motor, mozgy najväčších univerzít a hlboké vrecká jednej z najcennejších spoločností na svete. Každá zložka bola na mieste, aby urýchlila príchod AGI a eliminovala príčiny ľudského utrpenia.
Hu od pána Hassabisa
Demis Hassabis sa narodil v severnom Londýne v roku 1976 gréckej Cypre a čínskej rodine singapurských. Bol najstarším z troch súrodencov. Jeho matka pracovala v britskom obchodnom dome John Lewis a jeho otec prevádzkoval hračkárstvo. Hassabis sám začal šachy vo veku štyroch rokov a sledoval hru svojho otca a strýka. O pár týždňov už bil dospelých. Vo veku 13 rokov sa stal druhým najlepším šachovým hráčom svojej doby. Vo veku ôsmich sa naučil programovať na jednoduchom počítači.
Hassabis získal vysokoškolské vzdelanie v roku 1992, dva roky pred termínom. Pracoval ako programátor videohier v spoločnosti Bullfrog Productions. Hassabis napísal Theme Park, v ktorom hráči vytvárajú a spravujú virtuálny zábavný park. Hra bola veľkým úspechom a predala 15 miliónov kópií, čím sa vytvoril celý žáner simulačných hier, v ktorých cieľom nebolo poraziť nepriateľa, ale optimalizovať fungovanie obrovského komplexného systému, ako je obchod alebo mesto.
Okrem vytvárania hier ich Demis dobre hral. Ako teenager behal medzi podlahami v súťažiach stolových hier, zatiaľ čo súťažil v šachoch, scrabble, poker a backgammon. V roku 1995, počas štúdia informatiky na univerzite v Cambridge, Hassabis súťažil v študentskom turnaji. Go je starodávna strategická stolná hra, ktorá je výrazne náročnejšia ako šach. Ovládanie musí vyžadovať intuíciu získanú dlhoročnými skúsenosťami. Nikto nevedel, či Hassabis predtým hral Go.
Hassabis najprv vyhral turnaj pre začiatočníkov. Potom porazil víťaza skúsených hráčov, aj keď s hendikepom. Charles Matthews, Cambridge Go Master, ktorý hostila turnaj, pripomína šok z toho, že ho zničil 19-ročný nováčik. Matthews vzal Hassabisa pod jeho krídla.
Hassabisova inteligencia a ambície boli v hrách vždy zrejmé. Hry zase oživili jeho vášeň pre inteligenciu. Keď sledoval svoj vývoj v šachu, premýšľal, či sa počítače nedajú naprogramovať tak, aby sa učili rovnakým spôsobom ako získavaním skúseností. Hry ponúkali vzdelávacie prostredie, ktoré sa nezhodovalo so skutočným svetom. Boli prísne a uzavreté. Keďže hry sú oddelené od skutočného sveta, môžu sa praktizovať bez rušenia a efektívne sa učiť. Hry urýchľujú čas: hráči za pár dní vytvoria zločinecký syndróm a niekoľko minút bojujú proti Somme.
V lete 1997 cestoval Hassabis do Japonska. V máji toho roku porazil počítač IBM Deep Blue Garry Kasparov, majstra sveta v šachu. Prvýkrát počítač porazil veľmajstra. Zápas upútal pozornosť na celom svete a vyvolal obavy z rastúcej sily a potenciálnej hrozby počítačov. Keď sa Hassabis stretol s japonským majstrom stolových hier Masahiko Futszuvera, hovoril o plánoch, ktoré by spojili jeho záujmy v oblasti strategických hier a umelej inteligencie: jedného dňa vyvinul počítačový program na porazenie najväčšieho hráča v hre.
Hassabis sa ku svojej kariére priblížil metodicky. „Vo veku 20 rokov Hassabis veril, že niektoré veci musia byť zavedené skôr, ako sa umelá inteligencia dostane na úroveň, ktorú potrebuje,“hovorí Matthews. "Mal plán."
V roku 1998 založil vlastné herné štúdio Elixir. Hassabis sa sústredil na jednu veľmi ambicióznu hru Republic: Revolúcia, komplexná politická simulácia. Pred niekoľkými rokmi, keď bol ešte v škole, Hassabis povedal svojmu priateľovi Mustafovi Suleimanovi, že svet potrebuje veľkolepé simulácie, aby mohol modelovať svoju komplexnú dynamiku a vyriešiť najzložitejšie sociálne problémy. Teraz sa to pokúsil urobiť v hre.
Bolo ťažšie zakódovať jeho túžby, ako sa očakávalo. Elixir nakoniec vydal uvoľnenú verziu hry, aby získal teplé recenzie. Ostatné hry zlyhali. V apríli 2005 Hassabis zavrel Elixír. Matthews verí, že spoločnosť Hassabis založila spoločnosť jednoducho preto, aby získala skúsenosti s riadením. Hassabisovi teraz chýbala iba jedna dôležitá oblasť odbornosti, než mohol začať hľadať AGI. Musel rozumieť ľudskému mozgu.
V roku 2005 získal Hassabis doktorát z neurovedy na University College London. Publikoval vysoko vplyvnú štúdiu pamäti a fantázie. Jedna štúdia, ktorá bola odvtedy citovaná viac ako 1 000-krát, ukázala, že ľuďom s amnéziou je tiež ťažké predstaviť si nové skúsenosti, čo naznačuje spojenie medzi zapamätaním a vytvorením mentálnych obrazov. Hassabis vybudoval pochopenie mozgu potrebného na zvládnutie AGI. Väčšina jeho práce sa zredukovala na jednu otázku: Ako ľudský mozog prijíma a uchováva koncepty a vedomosti?
Hassabis oficiálne založil DeepMind 15. novembra 2010. Poslanie spoločnosti bolo rovnaké ako v súčasnosti: „rieši inteligenciu“a potom ju používa na riešenie všetkého ostatného. Ako povedal Hassabis na samite Singularity, znamená to, že naše chápanie toho, ako mozog plní úlohy, sa premieta do softvéru, ktorý môže používať rovnaké metódy na výučbu.
Hassabis v žiadnom prípade netvrdí, že veda úplne pochopila ľudskú myseľ. Plán implementácie AGI sa nemohol naučiť zo stoviek neurovedeckých štúdií. Jednoznačne sa však domnieva, že je celkom možné začať pracovať na AGI spôsobom, ktorý ho osloví. Je však tiež možné, že jeho dôvera prekoná realitu. Stále vieme veľmi málo o tom, ako mozog skutočne funguje. V roku 2018 tím austrálskych vedcov spochybnil Hassabisove vlastné zistenia. Toto je, samozrejme, iba jeden dokument, ale ukazuje, že veda za prácou DeepMindovej nie je ani zďaleka dokázaná.
Ako spoluzakladatelia sa pripojili Suleiman a Shane Legg, novozélandský posadnutý AGI, s ktorým sa stretol aj Hassabis na univerzite. Dobré meno spoločnosti rástlo rýchlo. Hassabis prekvital. „Priťahuje to ako magnet,“hovorí Ben Faulkner, bývalý výkonný riaditeľ spoločnosti Deep Mind. Mnohí rekruti pochádzajú z Európy. Možno najväčším úspechom DeepMindu bolo aktívne nábor talentovaných ľudí čoskoro a udržanie tých najjasnejších a najlepších z nich.
Jedna z techník strojového učenia, na ktoré sa spoločnosť zamerala, vyrastala z duše Hassabisovej duše pre hry a neurovedy: posilnenie výučby. Takýto program je navrhnutý tak, aby zhromažďoval informácie o životnom prostredí a potom sa z neho poučil a reprodukoval svoje skúsenosti znova a znova - rovnako ako Hassabis opísal mozgovú aktivitu počas spánku vo svojej prednáške na samite Singularity Summit.
Výučba posilnenia sa začína čistou bridlicou. Programu sa zobrazuje virtuálne prostredie, o ktorom nevie nič okrem pravidiel, ako je šachový simulátor alebo videohra. Program obsahuje najmenej jeden komponent známy ako neurónová sieť. Pozostáva z vrstiev výpočtových štruktúr, ktoré prechádzajú informáciami, aby identifikovali konkrétne vlastnosti alebo stratégie. Každá vrstva skúma prostredie na svojej vlastnej úrovni abstrakcie. Spočiatku majú tieto siete minimálny úspech, ale ich chyby - a to je dôležité - sú v nich tiež zakódované. Postupne sa stávajú inteligentnejšími a inteligentnejšími, experimentujú s rôznymi stratégiami a ak uspejú, dostanú odmeny. Ak program presunie šachovú figúrku a v dôsledku toho prehrá hru, už neurobí takú chybu. Veľa z mágie umelej inteligencie spočíva v rýchlosti, s akou tieto úlohy opakuje.
Práca spoločnosti DeepMind dosiahla svoj vrchol v roku 2016, keď tím vyvinul program umelej inteligencie, ktorý využíval zosilnenie učenia spolu s inými metódami hrania. Program s názvom AlphaGo zdvihol obočie po tom, čo v roku 2016 porazil majstra sveta v zápase piatich hier v Soule. Víťazstvo stroja, ktoré sledovalo 280 miliónov ľudí, sa stalo o desať rokov skôr, ako stroje predpovedali. Nasledujúci rok vylepšená verzia AlphaGo porazila čínskeho šampióna Go.
Rovnako ako Deep Blue v roku 1997, AlphaGo zmenil vnímanie ľudského úspechu. Ľudskí šampióni, brilantné mysle planéty, už viac nestáli na vrchole intelektuálnej pyramídy. Takmer 20 rokov potom, čo Hassabis oznámil svoje ambície Fuzuverovi, splnil ich. Hassabis povedal, že tento zápas ho priviedol k slzám. Bol Matthewsovi vďačný.
DeepBlue zvíťazil vďaka hrubej sile a výpočtovej rýchlosti, ale štýl AlphaGo sa cítil umelecký, takmer ľudský. Jeho elegancia a sofistikovanosť, jeho vynikajúci výpočtový výkon ukázali, že DeepMind predbiehala konkurenciu pri vytváraní programu, ktorý by mohol liečiť choroby a riadiť mestá.
DeepMind a umelá inteligencia
Hassabis vždy hovoril, že DeepMind zmení svet k lepšiemu. O AGI však nie je žiadna istota. Ak sa niekedy objaví, nevieme, či to bude k lepšiemu alebo horšiemu, či sa podrobí ľudskej kontrole. Ak áno, kto bude držať opraty?
Hassabis sa od začiatku snažil brániť nezávislosť DeepMindu. Vždy trval na tom, aby DeepMind zostala v Londýne. Keď spoločnosť Google kúpila spoločnosť v roku 2014, otázka kontroly sa stala naliehavejšou. Hassabis nemusel predávať DeepMind spoločnosti Google. S dostatkom hotovosti v ruke načrtol obchodný model, v ktorom by spoločnosť vyvíjala hry na financovanie výskumu. Sľúbili veľa peňazí v spoločnosti Google, ale nechcel previesť spoločnosť, ktorú získal. V rámci dohody spoločnosť DeepMind uzavrela dohodu, ktorá zabráni spoločnosti Google jednostranne prevziať kontrolu nad duševným vlastníctvom spoločnosti. V roku vedúcom k akvizícii zdroje uvádzajú, že obe strany podpísali dohodu - dohodu o etike a bezpečnosti. Túto dohodu vypracovali starší právnici v Londýne.
Táto dohoda prenáša kontrolu nad hlavnou technológiou AGI DeepMind, ak existuje, na Správnu radu pre etiku. Podľa toho istého zdroja nie je Etická rada v žiadnom prípade kozmetickým ústupkom spoločnosti Google, ale skôr poskytuje spoločnosti DeepMind solídnu právnu podporu na udržanie kontroly nad najhodnotnejšou a potenciálne najnebezpečnejšou technológiou. Mená komisárov neboli zverejnené, ale ďalší zdroj blízky DeepMind a Google uviedol, že na tabuli sú všetci traja zakladatelia DeepMindu. Samotná spoločnosť nič nezverejňuje.
Hassabis môže určiť osud DeepMindu inými spôsobmi. Jedným z nich je oddanosť. Zamestnanci, bývalí aj súčasní, tvrdia, že výskumný program spoločnosti Hassabis je jednou z najväčších silných stránok spoločnosti DeepMind. Jeho program, ktorý ponúka vzrušujúcu a dôležitú prácu bez tlaku akademickej obce, prilákal stovky najtalentovanejších odborníkov na svete. DeepMind má pobočky v Paríži a Alberte. Mnohí zamestnanci sa cítia viac spojení s Hassabisom a jeho poslaním ako s materskou spoločnosťou, ktorá chce iba príjem. Pokiaľ si Hassabis zachováva osobnú lojalitu, má značnú moc nad jediným akcionárom. Je lepšie nechať talent pre DeepMind pracovať na diaľku, ako skončiť na Facebooku alebo Apple.
DeepMind má ďalší zdroj pákového efektu, hoci si vyžaduje neustále doplňovanie: priaznivý halo. Spoločnosť sa tomu podarila. AlphaGo bola skvelá reklama. Od akvizície spoločnosti Google spoločnosť opakovane vytvárala zázraky, ktoré upútali pozornosť na celom svete. Jedným z príkladov softvéru môže byť detekcia obrazcov skenovania očí, ktoré sú indikátormi makulárnej degenerácie. Ďalší program sa naučil hrať šach od nuly pomocou architektúry podobnej AlphaGo a stal sa najväčším hráčom všetkých čias po deviatich hodinách hrania so sebou samým. V decembri 2018 sa ukázalo, že AlphaFold je presnejšia ako konkurencia pri predpovedaní trojrozmernej štruktúry proteínov zo zoznamu zlúčenín, ktoré by mohli potenciálne liečiť choroby, ako sú Parkinsonova choroba a Alzheimerova choroba.
DeepMind je obzvlášť hrdá na algoritmy, ktoré vyvinula a ktoré vypočítavajú najúčinnejšie riešenia chladenia pre dátové centrá Google, ktoré obsahujú približne 2,5 milióna počítačových serverov. V roku 2016 DeepMind uviedla, že znížila účet spoločnosti Google za elektrinu o 40%. Niektorí zasvätenci však tvrdia, že táto chvála je prehnaná. Google používal algoritmy na optimalizáciu svojich dátových centier dlho predtým, ako prišla spoločnosť DeepMind. Verí sa, že DeepMind nadhodnocuje svoje zásluhy, aby získala hodnotu v očiach abecedy. Materská spoločnosť Google Alphabet platí spoločnosti DeepMind za podobné služby. V roku 2017 vydala posledná menovaná spoločnosť Alphabet faktúru za 54 miliónov GBP. Tieto čísla blednú v porovnaní s réžiou DeepMindu. V tom istom roku strávila 200 miliónov GBP zamestnancami. všeobecne platí,v roku 2017 DeepMind stratila 282 miliónov libier.
To je cent pre bohatého obra. Ale ďalšie dcérske spoločnosti abecedy upútali pozornosť Ruth Porat, nepríjemného finančného riaditeľa abecedy. Google Fiber, pokus o vybudovanie poskytovateľa internetových služieb, bol pozastavený potom, čo sa ukázalo, že investícia bude trvať desaťročia, kým sa vyplatí. Vedci z oblasti umelej inteligencie tiež premýšľajú o tom, či bude DeepMind zmätená.
Postupné zverejňovanie pokroku spoločnosti DeepMind v oblasti AI je súčasťou stratégie, ktorá postupne buduje povesť spoločnosti. Toto je obzvlášť cenné v čase, keď je spoločnosť Google obviňovaná z porušovania súkromia používateľov a šírenia falošných správ. DeepMind má také šťastie, že má podporovateľa na najvyššej úrovni: Larry Page, jeden z dvoch zakladateľov spoločnosti Google, teraz generálny riaditeľ spoločnosti Alphabet. Paige je veľmi blízko k Hassabisu. Page otec, Karl, študoval neurónové siete v 60. rokoch. Na začiatku svojej kariéry Page povedal, že vytvoril spoločnosť Google výlučne na založenie spoločnosti AI.
Dôsledná kontrola spoločnosti DeepMind nad tlačou nie je v súlade s akademickým duchom, ktorý prechádza spoločnosťou. Niektorí vedci sa sťažujú, že je pre nich ťažké publikovať svoju prácu: musia prekonať vrstvy interného schválenia skôr, ako môžu dokonca predložiť príspevok na konferenciu alebo časopis. DeepMind sa domnieva, že je potrebné postupovať obozretne, aby nedošlo k vystrašeniu verejnosti s ohľadom na AGI. Príliš tvrdé obvinenia však môžu zničiť akademickú atmosféru a oslabiť lojalitu zamestnancov.
Päť rokov po akvizícii spoločnosti Google sa stáva otázka, kto riadi DeepMind, kritická. Zakladatelia a prví zamestnanci spoločnosti sa blížia k prahu, keď môžu odísť s finančnou kompenzáciou, ktorú dostali za kúpu spoločnosti (akcie Hassabis majú pravdepodobne hodnotu približne 100 miliónov libier). Zdroj z blízkej spoločnosti však naznačuje, že spoločnosť Alphabet už niekoľko rokov potlačuje platby zakladateľom. Vzhľadom na jeho neúnavné zameranie je nepravdepodobné, že by Hassabis skočil z lode. O peniaze sa zaujíma iba vtedy, ak mu to pomáha pri dosahovaní cieľa celého jeho života. Niektorí moji kolegovia však odišli. Od začiatku roka 2019 spoločnosť opustili traja inžinieri AI. Ben Laurie, jeden z najvýznamnejších bezpečnostných inžinierov na svete, je späť v spoločnosti Google. To rozhodne nie je veľaDeepMind však ponúka takú úžasnú misiu a slušnú odmenu, ktorú by nikto nemal opustiť.
Spoločnosť Google zatiaľ DeepMind neobťažovala. Jeden nedávny vývoj však vyvolal obavy, ako dlho bude spoločnosť schopná udržať si nezávislosť.
DeepMind, Medicine and Artificial Intelligence
DeepMind vždy plánovala používať AI na zlepšenie zdravotnej starostlivosti. Vo februári 2016 bola vytvorená nová divízia spoločnosti DeepMind Health pod vedením Mustafa Suleimana, jedného zo spoluzakladateľov spoločnosti. Suleiman, ktorého matka bola zdravotnou sestrou, dúfal, že vytvorí program s názvom Streams, ktorý upozorní lekárov, keď sa zhoršuje zdravie pacienta. DeepMind by bola odmenená na základe metrík. Pretože táto práca vyžadovala prístup k dôverným informáciám o pacientovi, spoločnosť Suleiman zriadila nezávislý kontrolný panel (IRP), ktorý zamestnával dobrých anglických zdravotníckych a technologických odborníkov. DeepMind bol dosť múdry, aby bol opatrný. Britský komisár pre informácie následne zistil, že jeden z nemocničných partnerov pri spracovávaní údajov o pacientovi porušil zákon. Do konca roku 2017 však Suleiman podpísala dohody so štyrmi hlavnými nemocnicami.
8. novembra 2018 spoločnosť Google oznámila vytvorenie svojej vlastnej divízie zdravia - Google Health. O päť dní neskôr bolo oznámené, že DeepMind Health sa má pripojiť k úsiliu materskej spoločnosti. DeepMind nebol varovaný. Podľa informácií získaných na základe žiadostí FOI oznámila zmenu partnerským nemocniciam iba tri dni vopred. Spoločnosť DeepMind odmietla zverejniť informácie o začiatku fúzie, uviedla však, že krátka doba medzi oznámením a verejným vyhlásením je v záujme transparentnosti. V roku 2016 Suleiman napísal, že „údaje o pacientovi nebudú nikdy priradené k účtom, produktom alebo službám Google.“Jeho sľub sa zdal byť porušený.
Pripojenia spoločnosti Google rozhorčili zamestnancov spoločnosti DeepMind Health. Po dokončení procesu prevzatia plánuje opustiť spoločnosť viac zamestnancov, podľa ľudí v blízkosti zdravotníckeho tímu.
Táto epizóda ukazuje, že periférne časti práce spoločnosti DeepMind sú zraniteľné voči spoločnosti Google. DeepMind uviedla, že „všetci sme sa zhodli, že má zmysel kombinovať toto úsilie do jedného spoločného úsilia so zvýšenými zdrojmi.“To vyvoláva otázku, či bude spoločnosť Google uplatňovať rovnakú logiku pri práci spoločnosti DeepMind na AGI.
Vo veľkej miere spoločnosť DeepMind urobila veľké pokroky. Už vytvorila softvér, ktorý sa dokáže naučiť vykonávať úlohy na nadľudskej úrovni. Hassabis často odkazuje na Breakout, videohru pre konzolu Atari. Hráč ovláda netopier, ktorý sa môže pohybovať horizontálne a pomocou jeho pomoci odrazí lopty, nasmeruje ich do blokov nad nimi, ktoré sú zničené pri zrážke. Hráč vyhrá, keď sú všetky bloky zničené. Straty, ak lopta spadne mimo platformu. Bez ľudskej výučby sa DeepMind nielen naučil hrať hru, ale tiež hádzať gule do vesmíru za bloky, aby využil odrazy. Toto demonštruje silu zosilnenia učenia a nadprirodzené schopnosti počítačových programov DeepMindu.
Demonštrácia je určite pôsobivá. Hassabis však o niečom mlčí. Ak sa virtuálna platforma zdvihne ešte o niečo vyššie, program urobí chybu. Zručnosť, ktorú DeepMind získala, je taká obmedzená, že nedokáže reagovať ani na malé zmeny v prostredí, ktoré by človek mohol ľahko prekonať. Ale vo svete je veľa jemností. Pokiaľ ide o diagnostické informácie, žiadne dva orgány tela nie sú podobné. Pokiaľ ide o mechanickú inteligenciu, dva podobné motory nikdy nebudú pri ladení rovnaké. Preto je ťažké vypustiť programy do voľnej prírody.
Druhým, o ktorom DeepMind zriedka hovorí, je to, že úspech vo virtuálnych prostrediach závisí od funkcie odmeny: signálu, ktorý umožňuje softvéru merať jeho pokrok. Program sa dozvie, že odrazenie sa od zadnej steny zvyšuje jeho skóre. Veľa z DeepMindovej práce s AlphaGo bolo vytvoriť funkciu odmeňovania, ktorá je kompatibilná s tak komplexnou hrou. Skutočný svet bohužiaľ neponúka jednoduché odmeny. V jednotlivých bodoch sa pokrok zriedka meria. Ľudský mozog dostáva signál o úspechu úlohy priamo v procese jej implementácie a nie potom.
DeepMind vymyslel spôsob, ako sa tomu vyhnúť, a to pomocou obrovského množstva výpočtovej sily. AlphaGo hrá tisíce rokov ľudského času, aby sa niečo naučil. Mnoho filozofov umelej inteligencie má podozrenie, že toto riešenie je neprijateľné pre úlohy, ktoré ponúkajú slabšie odmeny. DeepMind uznáva takéto nejasnosti. Nedávno sa zapojila do počítačovej strategickej hry StarCraft 2. Rozhodnutia prijaté na začiatku hry majú následky, ktoré sa objavia neskôr, čo je dosť typické pre krivú a oneskorenú spätnú väzbu o skutočných problémoch. V januári softvér spoločnosti DeepMind porazil niektorých najlepších hráčov na svete a napriek prísnym obmedzeniam to bolo celkom pôsobivé. Programy tiež začali skúmať funkcie odmeňovania sledovaním spätnej väzby ľudí. Ale zahrnutie ľudských pokynov do slučky predstavuje riziko straty rozsahu a rýchlosti.
Súčasní aj bývalí vedci z DeepMind a Google za podmienky anonymity vyjadrili skepticizmus, že DeepMind bude schopná dosiahnuť AGI pomocou týchto metód. Túžba dosiahnuť vysoký výkon v simulovanom prostredí pre nich sťažuje riešenie problému funkcie odmeňovania. Tento prístup je však v centre DeepMindu. V spoločnosti existuje vnútorná súťaž, v ktorej programy konkurenčných tímov súťažia o nadvládu.
Hassabis vždy videl život ako hru. Veľa z jeho kariéry sa venoval ich výrobe, väčšinu času trávil hraním. V spoločnosti DeepMind ich používa na rozvoj silnej umelej inteligencie. Rovnako ako jeho softvér, aj Hassabis sa učí zo svojich vlastných skúseností. Snaha o AGI môže v konečnom dôsledku viesť k slepej uličke, vymýšľať užitočnú lekársku technológiu a premáhať najlepších hráčov v ich schopnostiach. Môže však tiež vytvárať AGI priamo pod nosom spoločnosti Google, ale mimo jej kontrolu. A ak sa mu to podarí, Demis Hassabis vyhrá najťažšiu hru zo všetkých.
Ilja Khel