Neurónové siete sú výkonné veci, ale veľmi nenásytné. Inžinieri z Massachusetts Institute of Technology (MIT) dokázali vyvinúť nový čip, ktorý znižuje spotrebu energie neurónovej siete o 95%, čo by im teoreticky mohlo umožniť pracovať dokonca aj na mobilných zariadeniach s batériami. Smartfóny sú v dnešnej dobe inteligentnejšie a inteligentnejšie a ponúkajú viac služieb poháňaných AI, ako sú virtuálni asistenti a preklady v reálnom čase. Neurónové siete zvyčajne spracovávajú údaje pre tieto služby v cloude a smartfóny prenášajú údaje iba tam a späť.
Nie je to ideálne, pretože si vyžaduje silný komunikačný kanál a predpokladá sa, že citlivé údaje sa prenášajú a ukladajú mimo dosahu používateľa. Obrovské množstvo energie potrebnej na napájanie neurónových sietí napájaných GPU však nemôže byť poskytnuté v zariadení napájanom malou batériou.
Inžinieri MIT vyvinuli čip, ktorý dokáže znížiť túto spotrebu energie o 95%. Čip drasticky znižuje potrebu prenosu dát tam a späť medzi pamäťou čipu a procesormi.
Neurónové siete sú tvorené tisíckami vzájomne prepojených umelých neurónov usporiadaných do vrstiev. Každý neurón prijíma vstup od niekoľkých neurónov v základnej vrstve, a ak kombinovaný vstup prechádza určitým prahom, prenáša výsledok na niekoľko neurónov nad. Sila spojenia medzi neurónmi je určená hmotnosťou, ktorá je stanovená počas tréningového procesu.
To znamená, že pre každý neurón musí čip extrahovať vstup pre konkrétne pripojenie a hmotnosť pripojenia z pamäte, vynásobiť ich, uložiť výsledok a potom opakovať postup pre každý vstup. Tam a tam putuje veľa údajov a premrhá sa veľa energie.
Nový čip MIT to eliminuje výpočtom všetkých vstupov paralelne v pamäti pomocou analógových obvodov. To výrazne znižuje množstvo údajov, ktoré je potrebné predbiehať, a vedie k významným úsporám energie.
Tento prístup vyžaduje, aby váha spojení bola binárna, nie rozsah, ale predchádzajúca teoretická práca ukázala, že to nebude mať výrazný vplyv na presnosť, a vedci zistili, že výsledky čipu sa líšili o 2-3% od obvyklej verzie neurónovej siete, ktorá pracuje. na štandardnom počítači.
Nie je to prvýkrát, čo vedci vytvorili čipy, ktoré spracúvajú procesy v pamäti, čím sa znižuje spotreba energie neurónovej siete, ale toto je prvýkrát, keď sa tento prístup použil na prevádzkovanie výkonnej neurónovej siete známej pre svoje spracovanie obrazu.
Propagačné video:
„Výsledky ukazujú pôsobivé špecifikácie pre energeticky efektívnu implementáciu koľajových operácií v pamäťovom poli,“povedal Dario Gil, viceprezident pre umelú inteligenciu v IBM.
„Toto rozhodne otvára možnosti na použitie sofistikovanejších konvolučných neurónových sietí na klasifikáciu obrázkov a videí na internete vecí v budúcnosti.“
A to je zaujímavé nielen pre výskumné a vývojové skupiny. Túžba dať AI na zariadenia ako smartphony, domáce spotrebiče a všetky druhy IoT zariadení tlačí mnoho v Silicon Valley k nízkoenergetickým čipom.
Spoločnosť Apple už integrovala svoj Neural Engine do zariadenia iPhone X, aby napájala napríklad technológiu rozpoznávania tváre, a Amazonovi sa hovorí, že vyvíja svoje vlastné AI čipy pre ďalšiu generáciu digitálnych asistentov Echo.
Veľké spoločnosti a výrobcovia čipov sa čoraz viac spoliehajú aj na strojové učenie, ktoré ich núti, aby zvyšovali energetickú účinnosť svojich zariadení. Začiatkom tohto roka spoločnosť ARM predstavila dva nové čipy: procesor Arm Machine Learning, ktorý sa zaoberá všeobecnými úlohami AI od prekladu po rozpoznávanie tváre, a procesor Arm Object Detection, ktorý detekuje napríklad tváre v obrazoch.
Najnovší mobilný čip Qualcomm, Snapdragon 845, má GPU a je poháňaný silne AI. Spoločnosť tiež predstavila model Snapdragon 820E, ktorý by mal fungovať v robotoch, robotoch a priemyselných zariadeniach.
Pri pohľade do budúcnosti vyvíjajú IBM a Intel neuromorfické čipy s architektúrou inšpirovanou ľudským mozgom a neuveriteľnou energetickou účinnosťou. Teoreticky by to umožnilo spoločnostiam TrueNorth (IBM) a Loihi (Intel) vykonávať výkonné strojové učenie s použitím iba zlomku sily konvenčných čipov, ale tieto projekty sú stále veľmi experimentálne.
Bude veľmi ťažké prinútiť čipy, ktoré oživujú neurónové siete, aby šetrili energiu batérie. Ale pri súčasnom tempe inovácií vyzerá toto „veľmi ťažké“celkom reálne.
Ilja Khel