Michail Burtsev, vedúci laboratória neurónových systémov a hlbokého učenia na Moskovskom inštitúte fyziky a technológie, hovorí o tom, či je možné vytvoriť plnohodnotný počítačový analóg ľudskej mysle, a vysvetľuje, prečo ho vedci vyvíjajú a ako ho chrániť pred útokmi trollov.
Koncom júla vyhlásili vedci z MIPT medzinárodnú súťaž pre „hovorené“systémy umelej inteligencie schopné napodobňovať živého človeka a vyzvali všetkých, aby s nimi hovorili a hodnotili výsledné dialógy. Vedci dúfajú, že pomocou dobrovoľníkov vytvoria v nasledujúcich troch rokoch hlasového asistenta, ktorý bude schopný komunikovať s človekom rovnako dobre ako so žijúcim partnerom.
Súťaž spoluorganizovali vedci z univerzít v Montreale, McGill a Carnegie Mellon. Kliknutím na odkaz sa môžete zúčastniť testovania dialógových systémov.
V skutočnosti tieto nápady neboli vynájdené dnes - moderné hlasové asistentky od spoločnosti Google, Apple, Amazon a ďalších IT spoločností majú korene v hlbokej minulosti, na úplnom začiatku počítačovej éry. Prvý takýto hovoriaci prístroj s názvom ELIZA bol vyrobený v roku 1966 a išlo v skutočnosti o žart, paródiu na psychoterapeuta, ktorý pacientovi dával zbytočné rady.
V nasledujúcich rokoch a desaťročiach programátori vytvorili čoraz zložitejšie a „živé“systémy na komunikáciu s počítačom. Najpokročilejšie z týchto systémov dokážu rozpoznať náladu majiteľa, spomenúť si na jeho staré túžby a preferencie a vyriešiť pre neho niektoré bežné úlohy a úlohy v domácnosti, objednávanie potravín alebo tovaru v obchode alebo hranie role operátora v call centrách.
Michail, od vzniku spoločnosti ELIZA uplynulo takmer 50 rokov. Čo sa počas tejto doby zmenilo všeobecne a dá sa v zásade očakávať, že v budúcnosti budú vedci schopní vytvoriť taký systém, ktorý ľudia nedokážu odlíšiť od žijúceho partnera?
- Myslím si, že v blízkej budúcnosti bude možné vytvoriť technológiu hovorenej inteligencie, ktorá stroju umožní priblížiť sa k úrovni ľudského dialógu. Na tejto úlohe pracujeme v rámci projektu iPavlov, ktorý je súčasťou Národnej technologickej iniciatívy.
Užívateľ by mal mať tak pohodlnú komunikáciu s automatickým dialógovým systémom ako so živým človekom. To umožní vytvárať informačné systémy, ktoré sú schopné lepšie pochopiť, čo od nich človek chce, a reagovať na ne prirodzeným jazykom.
Propagačné video:
Konverzačnú inteligenciu je možné použiť na automatizáciu mnohých hlasových a textových rozhraní, vrátane poslov ako Telegram. Ako ukazujú štatistické údaje, poslovia sú dnes využívaní aktívnejšie ako sociálne siete a veľmi veľké množstvo informácií prechádza textovými komunikačnými kanálmi.
Napríklad sa pohodlne používajú v doprave a pridanie interaktívneho asistenta - chatovacieho robota - umožní používateľom nielen vzájomne komunikovať, ale aj prijímať potrebné informácie, nakupovať a robiť veľa ďalších vecí. To povedie k tomu, že instant messenger a hlasoví asistenti postupne nahradia bežné webové stránky a aplikácie a tiež budú hrať úlohu online konzultantov a špecialistov call centra.
Môže tu vzhľadom na prítomnosť spoločností Apple, Google a Amazon na tomto trhu konkurovať Rusko? Existuje niečo v ruskom jazyku, čo by mohlo brániť potenciálnym konkurentom ruských spoločností a vedcov?
- Ruský jazyk je samozrejme zložitejší a niektoré z metód, ktoré sa dnes používajú pri vývoji dialógových systémov a hlasových asistentov vo svete, nemožno uplatniť bez zdokonalenia a výrazných úprav, ktoré by im umožnili pracovať s bohatšou gramatikou.
Na druhej strane, základné algoritmy, ktoré sa používajú pri práci Siri, Cortana, Google a ďalších digitálnych asistentov, nikto neskrýva - sú nám dostupné aspoň na úrovni výskumu a konceptov. Články v oblasti výskumu a programový kód sú často verejne dostupné - v zásade je možné ich prispôsobiť ruskému jazyku.
Michail Burtsev, vedúci laboratória neurónových systémov a hlbokého učenia, MIPT
Navyše nie je veľa pokusov o implementáciu na „priemyselnej“úrovni. Jediný veľký projekt prevádzkuje spoločnosť Yandex, ktorá vyvíja asistenta pre projekt Alice.
V našom projekte sa snažíme vytvoriť nástroje, ktoré by zjednodušili a urýchlili tvorbu takýchto „priemyselných“dialógových systémov určených na rôzne účely. Ale vývoj univerzálneho hlasového asistenta schopného vyriešiť akýkoľvek problém je nesmierne náročná úloha aj pre veľké spoločnosti.
Na druhej strane je oveľa jednoduchšie implementovať automatizáciu malého podniku, ktorý bude využívať systém špecializovaného dialógu. Dúfame, že nástroje, ktoré vytvoríme, pomôžu podnikateľom a programátorom vyriešiť tieto problémy dostatočne rýchlo, bez hlbokých znalostí a bez vynaloženia veľkého úsilia.
Mnoho vedcov, ako napríklad Roger Penrose alebo Stuart Hameroff, sa domnieva, že ľudská myseľ je kvantovej povahy a že je nemožné v zásade vytvoriť strojový analóg. Súhlasíte s nimi alebo nie?
- Podľa môjho názoru, ak sa pozriete na to, čo dnes vieme o štruktúre mozgu a povahe ľudského vedomia, potom zatiaľ nemáme žiadne zásadné prekážky, aby sme jeho prácu reprodukovali pomocou počítača.
Penrose a Hameroff majú súbor hypotéz, ktoré podľa nich vysvetľujú, prečo to nemožno urobiť. Neurofyziológovia doteraz nenašli nijaké experimentálne dôkazy o správnosti týchto hypotéz a naša súčasná vedomostná základňa hovorí v prospech opaku.
Ďalšou vecou je, že časový rámec, kedy bude takýto stroj vytvorený, nie je úplne definovaný. Zdá sa mi, že k tomu môže dôjsť minimálne za 50, alebo dokonca 100 rokov.
Bude si to vyžadovať zásadne nové technológie a počítače, ktoré sú svojimi princípmi fungovania bližšie k neurónom ako k digitálnej logike?
- Ak veríme, že ľudská inteligencia je založená na nejakej forme výpočtu, potom môže akýkoľvek univerzálny výpočtový systém ekvivalentný Turingovmu stroju teoreticky napodobňovať prácu ľudského mozgu.
Ďalšia vec je, že tento stroj môže bežať veľmi pomaly, čo ho z praktického hľadiska stane nepoužiteľným. Dnes je ťažké uhádnuť, aké technológie na výrobu počítačov tu budeme potrebovať.
Aké ďalšie úlohy môžu digitálni asistenti vyriešiť okrem toho, čo dnes robia? Dajú sa pomocou nich dešifrovať texty v mŕtvych jazykoch alebo šifry, ako je napríklad rukopis Voynichov?
- V tejto chvíli, pokiaľ viem, sa nikto nepokúšal pomocou neurónových sietí odhaľovať tajomstvá mŕtvych jazykov a dešifrovať texty, ale zdá sa mi, že sa o to v blízkej budúcnosti niekto pokúsi. My sme zase o také veci zatiaľ nemali záujem.
„Pomocník“je v skutočnosti veľmi široký pojem, ktorý môže obsahovať veľa veľmi odlišných vecí. Ak si vezmeme napríklad tú istú ELIZU, virtuálnu „psychoterapeutku“, naskytne sa otázka: je asistentkou alebo nie?
Dialógové systémy sa dajú využiť nielen na riešenie praktických problémov, ale aj na pobavenie ľudí alebo udržanie ich nálady. Otázkou v skutočnosti je, čo myslíme pod pojmom osobný asistent a aký je široký alebo úzky. V najširšom slova zmysle môžu takéto systémy vyriešiť všetky problémy spojené s komunikáciou, aj keď s rôznou úspešnosťou.
Konverzačné rozhrania možno okrem priamej komunikácie s ľuďmi použiť aj na výučbu strojov na rýchle vyhľadanie spoločného jazyka a na prenos informácií z jedného systému do druhého.
Týmto sa obíde problém nadviazania spojení a prenosu údajov medzi existujúcimi a vytvorenými službami, pretože na vzájomnú komunikáciu nebudú musieť poznať špecifikácie API toho druhého. Budú si môcť vymieňať údaje pomocou prirodzených jazykov alebo vlastného umelého jazyka, ktorý na také účely vymyslia stroje alebo ľudia.
Zhruba povedané, aj systémy, ktoré si navzájom „nie sú známe“, sa budú môcť dohodnúť, že pre ne budú používať spoločný komunikačný jazyk, a nie pevné pravidlá výmeny informácií. Ak im niečo nie je jasné, môžu sa navzájom pýtať na neznáme veci, čo neskutočne spružní celú infraštruktúru poskytovania služieb a služieb na internete a umožní jej rýchlu integráciu nových služieb bez pomoci ľudí.
V tejto súvislosti sa vynára otázka - kto by mal byť zodpovedný za odporúčania „psychoterapeutky“ELIZA, počítačových lekárov a iných hlasových asistentov, ktorých rady môžu výrazne ovplyvniť pohodu a zdravie človeka?
- Je to veľmi zložitá otázka, pretože dnes neexistujú jasné kritériá, ktoré by nám pomohli pochopiť, ako v takýchto prípadoch konať. Mnoho internetových služieb a služieb, ktoré vydávajú odporúčania pre používateľov, začne pracovať až potom, čo používateľ vyjadrí súhlas so zmluvnými podmienkami a dôsledkami, ktoré môžu vzniknúť v dôsledku práce s nimi.
Zdá sa mi, že práca chatovacích robotov a hlasových asistentov - aspoň v počiatočných fázach ich existencie - by mohla byť regulovaná podobným spôsobom. Napríklad, ak robot jednoducho prehľadáva a analyzuje informácie a správa sa rovnakým spôsobom ako vyhľadávač, môžu sa na ne vzťahovať rovnaké pravidlá. V prípade, že poskytne lekárske alebo právne poradenstvo, forma zodpovednosti by mala byť iná.
Takéto systémy by napríklad mali jasne informovať používateľa o dôsledkoch voľby medzi umelou inteligenciou a bežným lekárom. Človek bude mať na výber - dôverovať lekárovi, ktorý sa napríklad bude mýliť v 10% prípadov, alebo staviť na stroj, ktorý nesprávne odpovie v 3% prípadov. V prvom prípade bude za chybu zodpovedný lekár a v druhom prípade samotný používateľ.
V minulom roku spoločnosť Microsoft uviedla chatbot Tay. AI, ktorý musel vypnúť doslova o deň neskôr, pretože sieťoví vlastníci vytvorili z „dospievajúceho dievčaťa“skutočného rasistu. Je možné chrániť také dialógové systémy pred trolmi a vtipkármi?
- Zdá sa mi, že sa môžete brániť, ale či to stojí za to urobiť, závisí od účelu systému. Je zrejmé, že ak by systém nemal dávať žiadne konkrétne poznámky - hrubé alebo extrémistické, môžeme jeho reakcie filtrovať. K tomuto filtrovaniu môže dôjsť buď vo fáze školenia systému, alebo už počas generovania odpovedí.
Mimochodom, podobnú úlohu hodnotenia kvality dialógu riešili tímy v rámci vedeckého školského hackathon DeepHack Turing, ktorý sa pred pár týždňami uskutočnil na MIPT. Jeho účastníci vyvinuli algoritmy, ktoré dokázali na základe dialógov predvídať, aké hodnotenie dá človek systému dialógu.
Ďalším krokom vo vývoji tohto prístupu je vytvorenie programu, ktorý by hodnotil prijateľnosť fráz alebo spoľahlivosť zdrojov použitých na generovanie odpovedí na dotazy používateľov. Zdá sa mi, že by to pomohlo vyriešiť tento problém.