Drobná, samoorganizovaná sieť umelých synapsií si pamätá svoje skúsenosti a môže vyriešiť jednoduché problémy. Jeho tvorcovia dúfajú, že jedného dňa sa na základe tohto umelého mozgu vytvoria zariadenia, ktoré sú rovnako energeticky účinné ako výpočtová sila mozgu. Vo všeobecnosti sú mozgy, ak vynecháme ich úspechy v myslení a riešení problémov, vo svojej energetickej účinnosti dokonalé. Mozog potrebuje rovnaké množstvo energie, aby pracoval ako 20-wattová žiarovka absorbuje. Jeden z najvýkonnejších a najrýchlejších superpočítačov na svete, Computer K v Kobe v Japonsku, využíva až 9,89 megawattov energie - približne rovnako ako 10 000 domácností. Ale v roku 2013 aj pri tejto energii trvalo stroju 40 minút simulovať 1% aktivity ľudského mozgu za 1 sekundu.
Preto výskumní inžinieri v kalifornskom inštitúte NanoSystems na kalifornskej univerzite v Los Angeles dúfajú, že vďaka systémom, ktoré odrážajú štruktúru mozgu, budú súperiť s výpočtovými a energeticky úspornými schopnosťami mozgu. Vytvárajú zariadenie, možno prvé svojho druhu, ktoré je „inšpirované mozgom k vytváraniu vlastností, ktoré mozgu umožňujú robiť to, čo robí,“hovorí Adam Stig, vedecký pracovník a docent na inštitúte, ktorý vedie projekt s Jimom Gimrzewským, profesorom chémie na Kalifornskej univerzite. V Los Angeles.
Ich dizajn vôbec nie je ako bežné počítače, ktoré sú založené na malých drôtoch natlačených na kremíkových mikroobvodoch vo vysoko usporiadaných obvodoch. Aktuálna experimentálna verzia je mriežka strieborných nanočastíc 2 x 2 mm spojená umelými synapsiami. Na rozdiel od kremíkových obvodov s geometrickou presnosťou je toto zariadenie tkané ako „dobre premiešaná špagetová miska,“hovorí Stig. Okrem toho je jeho jemná štruktúra usporiadaná z náhodných chemických a elektrických procesov a nie je starostlivo navrhnutá.
Táto strieborná sieť sa vo svojej zložitosti podobá mozgu. Existuje miliarda umelých synapsií na štvorcový centimeter mriežky, čo je niekoľko rádov odlišných od skutočného mozgu. Elektrická aktivita siete tiež vykazuje vlastnosť jedinečnú pre zložité systémy, ako je mozog: „kriticita“, stav medzi poriadkom a chaosom, ktorý naznačuje maximálnu účinnosť.
Táto sieť vysoko vzájomne prepojených nanočastíc môže vyzerať chaoticky a náhodne, ale jej štruktúra a správanie sa podobajú neurónom v mozgu. Vedci z NanoSystems ho vyvíjajú ako mozgové zariadenie na učenie a prácu s počítačom.
Predbežné experimenty navyše ukazujú, že táto neuromorfná (t.j. mozgovo podobná) strieborná drôtená sieťovina má veľký funkčný potenciál. Už môže vykonávať jednoduché vzdelávacie a logické operácie. Môže odstrániť nežiaduci šum z prijatého signálu, dôležitú schopnosť rozpoznávania hlasu a podobné úlohy, ktoré spôsobujú problémy v tradičných počítačoch. A jeho existencia dokazuje princíp, že jedného dňa bude možné vytvoriť zariadenia s energetickou účinnosťou blízkou mozgu.
Tieto výhody sú obzvlášť zvedavé na pozadí blížiaceho sa limitu miniaturizácie a účinnosti kremíkových mikroprocesorov. „Mooreov zákon je mŕtvy, polovodiče sa už nemôžu zmenšovať a ľudia začínajú kvíliť o tom, čo robiť,“hovorí Alex Nugent, generálny riaditeľ spoločnosti Knowm, neuromorfná počítačová spoločnosť, ktorá sa nezúčastňuje na projekte UCLA. „Tento nápad, tento smer sa mi páči. Konvenčné výpočtové platformy sú miliónkrát menej efektívne. ““
Propagačné video:
Prepína ako synapsie
Keď Gimrzewski začal pracovať na svojom projekte striebornej siete pred 10 rokmi, nemal vôbec záujem o energetickú účinnosť. Znudil sa. Po použití skenovacieho tunelového mikroskopu na štúdium elektroniky v atómovej mierke po dobu 20 rokov, nakoniec povedal: „Som unavený z dokonalosti a presnej kontroly a trochu unavený z redukcionizmu.“
Malo by sa predpokladať, že redukcionizmus je základom všetkých moderných mikroprocesorov, keď zložité javy a obvody možno vysvetliť pomocou jednoduchých javov a prvkov.
V roku 2007 bol požiadaný, aby študoval jednotlivé atómové spínače (alebo spínače) vyvinuté skupinou Masakazu Aono z Medzinárodného centra pre materiály o nanoarchitektonike v japonskom Tsukube. Tieto spínače obsahovali tú istú zložku, ktorá zmení farbu striebornej lyžice na čiernu, keď sa dotkne vajíčka: sulfid železa vložený medzi tvrdé kovové striebro.
Napätie na zariadenia tlačí pozitívne nabité ióny striebra v sulfide striebra smerom k vrstve katódy striebra, kde sa redukujú na kovové striebro. Atómové strieborné vlákna rastú a nakoniec uzatvárajú medzeru medzi kovovými striebornými stranami. Spínač je zapnutý a prúd môže pretekať. Obrátenie prúdu má opačný účinok: strieborné mostíky sa skrátia a spínač sa vypne.
Krátko po vývoji prepínača však skupina Aono začala pozorovať nezvyčajné správanie. Čím častejšie sa spínač používal, tým ľahšie sa zapol. Ak sa nejaký čas nepoužíval, postupne sa sám vypínal. V zásade si prepínač pamätal svoju históriu. Aono a jeho kolegovia tiež zistili, že spínače vzájomne spolupracujú, takže zapnutie jedného spínača niekedy zablokuje alebo vypne ostatných v jeho blízkosti.
Väčšina v skupine Aono chcela postaviť tieto zvláštne vlastnosti mimo výhybiek. Gimrzewski a Stig (ktorý práve dokončil doktorát v skupine Gimrzewski) si však pamätali synapsie, prepínače medzi nervovými bunkami v ľudskom mozgu, ktoré tiež menia vzťahy so skúsenosťami a interakciami. A tak sa tento nápad zrodil. "Pomysleli sme si, prečo to neskúšať pretransformovať do štruktúry podobnej mozgovej kôre cicavcov a študovať ju?" Hovorí Stig.
Vytvorenie takejto komplexnej štruktúry bolo určite ťažké, ale Stig a Odrius Avicenis, ktorí sa práve pripojili k skupine ako postgraduálny študent, vypracovali protokol. Nalievaním dusičnanu strieborného na malé medené gule by mohli spôsobiť rast mikroskopicky tenkých priesečníkov striebra. Prostredníctvom tejto mriežky by potom mohli prečerpať plynný síru, aby vytvorili vrstvu strieborného sulfidu medzi striebornými drôtmi, ako v atómovom spínači pôvodného tímu Aono.
Samostatne organizovaná kritickosť
Keď Gimzewski a Stig rozprávali ostatným o svojom projekte, nikto neveril, že to bude fungovať. Niektorí tvrdili, že zariadenie bude ukazovať jeden typ statickej aktivity a usadiť sa na ňom, pripomenul Stig. Iní navrhli opak: „Povedali, že prepínač by sa kaskádoval a celá štruktúra by sa jednoducho spálila,“hovorí Gimzewski.
Ale zariadenie sa neroztopilo. Naopak, keď ho Gimzewski a Stig sledovali prostredníctvom infračervenej kamery, vstupný prúd naďalej menil cesty, ktorými prešiel cez zariadenie - čo dokazuje, že aktivita na sieti nebola lokalizovaná, ale skôr distribuovaná, ako v mozgu.
Jedného jesenného dňa v roku 2010, keď Avicenis a jeho kolega Henry Sillin zvyšovali vstupné napätie do zariadenia, náhle si všimli, že výstupné napätie začalo náhodne vibrovať, akoby akoby ožila drôtená sieť. "Sadli sme si a pozreli sme sa na to, boli sme šokovaní," hovorí Sillin.
Hádali, že našli niečo zaujímavé. Keď spoločnosť Avicenis analyzovala údaje z monitorovania počas niekoľkých dní, zistil, že sieť zostala na rovnakej úrovni aktivity krátkodobo častejšie ako dlhodobo. Neskôr zistili, že malé oblasti činnosti boli častejšie ako tie veľké.
"Moja čeľusť klesla," hovorí Avicenis, pretože je to prvýkrát, čo sa zo zariadenia naučili zákon o napájaní. Zákony moci opisujú matematické vzťahy, v ktorých sa jedna premenná mení ako sila druhej. Vzťahujú sa na systémy, v ktorých sú väčšie stupnice, dlhšie udalosti menej bežné ako menšie a kratšie, ale sú rozšírené a nie náhodou. Per Bac, dánsky fyzik, ktorý zomrel v roku 2002, najprv navrhol energetické zákony ako charakteristický znak všetkých druhov komplexných dynamických systémov, ktoré sa dajú usporiadať na veľké vzdialenosti a na veľké vzdialenosti. Toto správanie naznačuje, že komplexný systém vyvažuje a funguje na základe zlatého priemeru medzi poriadkom a chaosom v stave „kritickosti“a všetky jeho časti interagujú a vzájomne sa prepájajú, aby sa dosiahla maximálna účinnosť.
Ako predpovedal Buck, v ľudskom mozgu sa pozorovalo mocenské správanie: v roku 2003 Dietmar Plenz, neurofyziológ z Národných ústavov zdravia, pozoroval, že skupiny nervových buniek aktivovali iných, ktoré zase aktivovali iné, a často spúšťali systémové kaskády aktivácií. Plenz zistil, že veľkosť týchto kaskád sleduje distribúciu podľa mocenského zákona a mozog skutočne konal takým spôsobom, aby maximalizoval šírenie činnosti bez toho, aby riskoval stratu kontroly nad jeho šírením.
Skutočnosť, že zariadenie z University of California tiež preukázalo výkonový zákon v akcii, je veľmi dôležitá, hovorí Plentz. Pretože z toho vyplýva, že rovnako ako v mozgu má krehkú rovnováhu medzi aktiváciou a inhibíciou, čo udržuje súčet jeho častí funkčný. Aktivita nenarušuje množinu, ale nezastavuje sa.
Neskôr Gimzewski a Stig našli ďalšiu podobnosť medzi striebornou sieťou a mozgom: rovnako ako spiaci ľudský mozog vykazuje menej krátkych kaskád aktivácie ako prebudený mozog, krátky aktivačný stav v striebornej sieti sa stáva menej bežným pri nižších vstupných energiách. Určitým spôsobom zníženie spotreby energie zariadenia môže vytvoriť stav pripomínajúci spiaci stav ľudského mozgu.
Učenie a výpočtová technika
A tu je otázka: Ak sieť strieborných drôtov má vlastnosti podobné mozgu, môže to vyriešiť počítačové problémy? Predbežné experimenty ukázali, že odpoveď je áno, hoci zariadenie samozrejme nie je ani vzdialene porovnateľné s bežným počítačom.
Po prvé, neexistuje žiadny softvér. Namiesto toho vedci využívajú skutočnosť, že sieť môže skresliť prichádzajúci signál rôznymi spôsobmi, v závislosti od toho, kde sa meria výstup. Toto ponúka možné použitie na rozpoznávanie hlasu alebo obrazu, pretože zariadenie musí byť schopné vyčistiť hlučný vstupný signál.
Z toho tiež vyplýva, že zariadenie sa môže použiť na takzvané výpočty rezervoárov. Pretože jediný vstup môže v zásade generovať veľa miliónov miliónov výstupov (teda rezervoár), používatelia môžu vybrať alebo kombinovať výstupy tak, že výsledkom je požadovaný výpočet vstupu. Napríklad, ak stimulujete zariadenie na dvoch rôznych miestach súčasne, existuje šanca, že jeden z miliónov rôznych výstupov bude predstavovať súčet týchto dvoch vstupov.
Úlohou je nájsť správne závery a dekódovať ich a zistiť, ako najlepšie kódovať informácie, aby ich sieť mohla pochopiť. To sa dá urobiť školením zariadenia: spustením úlohy stokrát alebo tisíckrát, najskôr s jedným typom vstupu, potom s iným a porovnaním toho, ktorý výstup sa s úlohou lepšie vyrovná. „Nenaprogramujeme zariadenie, ale vyberáme najlepší spôsob kódovania informácií, aby bolo správanie siete užitočné a zaujímavé,“hovorí Gimrzewski.
V práci, ktorá bude čoskoro uverejnená, vedci vysvetlia, ako vyškolili sieť drôtov na vykonávanie jednoduchých logických operácií. A v nepublikovaných experimentoch školili sieť na vyriešenie jednoduchého problému s pamäťou, ktorý sa zvyčajne podáva potkanom (T-bludisko). V T-bludisku je potkan odmenený, ak urobí správne otočenie v reakcii na svetlo. S vlastnou verziou pre školenia si sieť môže zvoliť správnu voľbu 94% času.
Doteraz boli tieto výsledky len o niečo viac ako len dôkaz zásadné, hovorí Nugent. „Drobná krysa, ktorá sa rozhoduje v T-bludisku, sa nikdy nedostane k niečomu v strojovom učení, ktoré dokáže vyhodnotiť jej systémy,“hovorí na tradičnom počítači. Pochybuje, že v najbližších rokoch bude možné z tohto zariadenia urobiť užitočný čip.
Ale potenciál je obrovský, zdôrazňuje. Pretože sieť, rovnako ako mozog, neoddeľuje spracovanie a pamäť. Tradičné počítače potrebujú prenášať informácie medzi rôznymi doménami, ktoré spracúvajú tieto dve funkcie. "Celá táto ďalšia komunikácia sa hromadí, pretože káble potrebujú energiu," hovorí Nugent. Pri použití tradičných počítačov by ste museli vypnúť Francúzsko, aby ste mohli dôstojne rozlíšiť kompletný ľudský mozog. Ak zariadenia ako Silver Network dokážu vyriešiť problémy s účinnosťou algoritmov strojového učenia bežiacich na tradičných počítačoch, môžu spotrebovať miliardu krát menej energie. A potom je záležitosť malá.
Zistenia vedcov tiež podporujú názor, že inteligentné systémy môžu byť za správnych okolností tvorené samoorganizáciou bez šablóny alebo postupu ich rozvoja. Sieť Silver Network „sa objavila spontánne“, hovorí Todd Hilton, bývalý manažér DARPA, ktorý projekt podporoval na začiatku.
Gimrzewski verí, že sieť strieborných drôtov alebo podobných zariadení môže byť pri predpovedaní zložitých procesov lepšia ako tradičné počítače. Tradičné počítače modelujú svet pomocou rovníc, ktoré často popisujú zložité javy iba približne. Neuromorfné siete s atómovým prepínačom spájajú svoju vlastnú vnútornú štruktúrnu zložitosť s javom, ktorý simulujú. A tiež to robia rýchlo - stav siete sa môže pohybovať rýchlosťou až desiatok tisíc zmien za sekundu. „Používame komplexný systém na pochopenie komplexných javov,“hovorí Gimrzewski.
Začiatkom tohto roka predstavili na stretnutí Americkej chemickej spoločnosti v San Franciscu Gimzewski, Stig a ich kolegovia výsledky experimentu, v ktorom kŕmili zariadenie prvé tri roky šesťročného súboru údajov o premávke v Los Angeles sériou impulzov s uvedením počtu prechádzajúce automobily za hodinu. Po stovkách hodín školenia výstup konečne predpovedal štatistický trend druhej polovice súboru údajov a celkom dobre, aj keď to nebolo na zariadení zobrazené.
Možno jedného dňa, vtipy Gimrzewski, používa sieť na predpovedanie akciového trhu.
Ilja Khel