Takmer všetko, čo dnes počujete o umelej inteligencii, pochádza z hlbokého učenia. Táto kategória algoritmov pracuje so štatistikami pri hľadaní vzorcov v údajoch a preukázala sa ako veľmi účinná pri napodobňovaní ľudských zručností, ako je naša schopnosť vidieť a počuť. Do veľmi úzkej miery môže dokonca napodobňovať našu schopnosť uvažovať. Tieto algoritmy podporujú vyhľadávanie Google, Facebook Newsfeed, motor odporúčaní Netflix a formujú odvetvia ako zdravotníctvo a vzdelávanie.
Ako sa učí hlboké vzdelávanie
Napriek tomu, že hlboké učenie prakticky prinieslo umelú inteligenciu na verejnosti, predstavuje len malú záblesk v historickej úlohe ľudstva reprodukovať svoju vlastnú inteligenciu. Bolo to v popredí tohto hľadania už menej ako desať rokov. Ak odložíme celú históriu tejto oblasti, je ľahké pochopiť, že čoskoro to môže zmiznúť.
Výpadky rôznych metód už dlho charakterizujú výskumy AI. Každú dekádu intenzívne súťažili rôzne myšlienky. Potom z času na čas prepínač prepne a celá komunita začne robiť jednu vec.
Naši kolegovia z MIT Technology Review chceli tieto problémy predstaviť a začať. Za týmto účelom sa obrátili na jednu z najväčších databáz otvorených vedeckých prác známych ako arXiv. Do 18. novembra 2018 stiahli úryvky z celkom 16 625 článkov dostupných v časti AI a sledovali slová uvedené v priebehu rokov, aby zistili, ako sa v tejto oblasti vyvíjal.
Ich analýzou sa objavili tri hlavné trendy: posun k strojovému vzdelávaniu koncom 90. a začiatkom 2000. rokov, nárast popularity neurónových sietí, ktorý sa začal začiatkom roka 2010, a nárast učenia o posilňovaní v posledných rokoch.
Propagačné video:
Najprv však niekoľko upozornení. Po prvé, sekcia arXiv s AI sa datuje do roku 1993 a termín „umelá inteligencia“sa datuje do 50. rokov 20. storočia, takže samotná databáza predstavuje iba posledné kapitoly z histórie poľa. Po druhé, dokumenty, ktoré sa každý rok pridávajú do databázy, predstavujú iba zlomok práce, ktorá sa v tejto oblasti v súčasnosti vykonáva. ArXiv však ponúka vynikajúci zdroj na identifikáciu niektorých hlavných výskumných trendov a na sledovanie ťahu medzi rôznymi ideologickými tábormi.
Paradigma strojového učenia
Najväčší posun, ktorý vedci zistili, bol posun od systémov založených na vedomostiach k začiatku 21. storočia. Takéto počítačové systémy sú založené na myšlienke, že je možné zakódovať všetky ľudské vedomosti do systému pravidiel. Namiesto toho sa vedci obrátili na strojové učenie, rodičovskú kategóriu algoritmov, ktoré zahŕňajú hlboké vzdelávanie.
Spomedzi 100 uvedených slov sa najviac znížili tie, ktoré súvisia so systémami založenými na vedomostiach - „logika“, „obmedzenia“a „pravidlo“. A tie, ktoré sa týkajú strojového učenia - „dáta“, „sieť“, „výkon“- rástli najviac.
Dôvod tejto zmeny počasia je veľmi jednoduchý. V 80. rokoch si systémy fanúšikov založené na vedomostiach získavali na popularite medzi fanúšikmi vďaka vzrušeniu z ambicióznych projektov, ktoré sa pokúšali obnoviť zdravý rozum v strojoch. Keď sa však tieto projekty rozvinuli, vedci čelili veľkej výzve: Systém musel urobiť príliš veľa pravidiel, aby mohol urobiť čokoľvek užitočné. To viedlo k zvýšeniu nákladov a výrazne spomalilo prebiehajúce procesy.
Odpoveďou na tento problém je strojové učenie. Namiesto toho, aby ľudia vyžadovali manuálne kódovanie stoviek tisícok pravidiel, tento prístup programuje stroje tak, aby automaticky extrahovali tieto pravidlá z hromady údajov. Podobne sa táto oblasť posunula od systémov založených na vedomostiach a obrátila sa na zlepšenie strojového učenia.
Rozmach neurónových sietí
V rámci novej paradigmy strojového učenia sa prechod na hlboké učenie neuskutočnil cez noc. Namiesto toho analýza kľúčových pojmov ukázala, že vedci testovali mnoho neurónových sietí, čo sú hlavné mechanizmy hlbokého učenia. Medzi ďalšie populárne metódy patrili bayesovské siete, podporné vektorové stroje a vývojové algoritmy, ktoré všetky používajú rôzne prístupy k nájdeniu vzorov v údajoch.
V priebehu 90. a 2000. rokov medzi týmito metódami existovala silná konkurencia. Potom, v roku 2012, dramatický prielom viedol k ďalšej zmene počasia. Počas každoročnej súťaže ImageNet zameranej na urýchlenie pokroku v počítačovom videní dosiahol vedec menom Jeffrey Hinton spolu so svojimi kolegami z University of Toronto najlepšiu presnosť rozpoznávania obrázkov s mierou chýb len niečo vyše 10%.
Technika hlbokého učenia, ktorú použil, vytvorila novú vlnu výskumu, najskôr vo vizualizačnej komunite a potom ďalej. Keď ho stále viac vedcov používalo na dosahovanie pôsobivých výsledkov, popularita tejto techniky spolu s popularitou neurónových sietí stúpala.
Rast učenia posilnenia
Analýza ukázala, že niekoľko rokov po rozkvetu hlbokého vzdelávania došlo k tretiemu a poslednému posunu vo výskume AI.
Okrem rôznych metód strojového učenia existujú tri rôzne typy: učenie pod dohľadom, učenie bez dozoru a učenie posilnenia. Dozorované učenie, ktoré zahŕňa dodávanie označených údajov do stroja, je najbežnejšie používaným a dnes má aj najpraktickejšie aplikácie. V posledných niekoľkých rokoch však posilňovacie učenie, ktoré napodobňuje vzdelávací proces zvierat prostredníctvom mrkvy a paličiek, trestov a odmien, viedlo k rýchlemu nárastu referencií v dielach.
Samotná myšlienka nie je nová, ale nefungovala už mnoho desaťročí. „Vedení odborníci na vzdelávanie sa smiali odborníkom na posilnenie učenia,“hovorí Domingos. Ale ako pri hlbokom učení, jeden zlomový bod náhle priviedol túto metódu do popredia.
Ten okamih prišiel v októbri 2015, keď AlphaGo spoločnosti DeepMind, trénovaný posilnením, porazil majstra sveta v starodávnej hre go. Dopad na výskumnú komunitu bol okamžitý.
Ďalších desať rokov
Recenzia technológie MIT poskytuje iba najnovšiu snímku o súťaži medzi nápadmi, ktoré charakterizujú výskum AI. Poukazuje však na nejednotnosť vôle duplikovať inteligenciu. „Je dôležité pochopiť, že nikto nevie, ako vyriešiť tento problém,“hovorí Domingos.
Mnoho metód, ktoré sa používali 25 rokov, sa objavilo približne v 50-tych rokoch 20. storočia a nedokázali zodpovedať výzvam a úspechom každého desaťročia. Napríklad neurónové siete vrcholili v 60. rokoch a mierne v 80. rokoch, ale vďaka hlbokému učeniu takmer zomreli skôr, ako znovu získali svoju popularitu.
Inými slovami, každé desaťročie dominovalo odlišnou technikou: neurónové siete na konci 50. a 60. rokov, rôzne symbolické pokusy v 70. rokoch, systémy založené na znalostiach v 80. rokoch, Bayesovské siete v 90. rokoch, referenčné vektory v nulové a neurónové siete opäť v roku 2010.
Do roku 2020 sa nič nezmení, hovorí Domingos. To znamená, že obdobie hlbokého učenia sa môže čoskoro skončiť. Čo sa však bude diať ďalej - stará technika v novej sláve alebo úplne nová paradigma - to je predmetom intenzívnej diskusie v komunite.
Ilja Khel