Špecialisti v oblasti vytvárania umelej inteligencie na ľudskej úrovni musia dnes riešiť nielen vedecké, ale aj etické problémy. Aké sú výzvy, ktorým čelia vedci? Ako chrániť ľudstvo pred potenciálnymi hrozbami, ktoré predstavuje vytvorenie superveľmocnej mysle a zostať človekom v novom svete? Profesorka Ústavu inteligentných kybernetických systémov Národnej výskumnej jadrovej univerzity „MEPhI“(IIKS NRNU MEPhI) Alexey Samsonovich o tom hovoril s korešpondentom projektu „Sociálny navigátor“MIA „Rusko dnes“Anny Kurskaja.
- Alexej Vladimirovič, naša konverzácia sa koná v rámci medzinárodnej konferencie „Biologicky inšpirované kognitívne architektúry“BICA 2019. Ktoré témy diskusie sa dnes objavujú v súvislosti s tvorbou umelej inteligencie na ľudskej úrovni?- Konferencia nám umožnila opäť si uvedomiť hlavné výzvy v oblasti vytvárania umelej inteligencie novej generácie, ktorá by sa mala stať rovnocenným partnerom a priateľom človeka. Po prvé, výzvou je vytvoriť emočnú inteligenciu na úrovni človeka, ktorá dokáže využiť emócie pri rozhodovaní a vytváraní správania. Táto kvalita umožní stroju najmä vytvoriť si dlhodobé spoločenské väzby, podobné väzbám medzi blízkymi. Umožní jej to tiež zdôvodniť svoje konanie a rozhodnutia, zvoliť si ciele a spôsob učenia. Emocionálna inteligencia je kľúčom k riešeniu ďalších problémov. Nie je to obmedzené na schopnosť rozpoznávať a vyjadrovať emócie, ktoré dnes v súčasnosti zamestnáva väčšina výskumníkov pracujúcich v tejto oblasti. Aj keď sú oba tieto procesy potrebné,je oveľa dôležitejšie a ťažšie pochopiť spojenie medzi sebou a druhým, ktoré poskytuje emocionálna inteligencia. Po druhé, inteligentný agent musí pochopiť kontext toho, čo sa deje. To znamená, že na základe informácií, ktoré má k dispozícii, musí nezávisle vytvárať a nepretržite aktualizovať globálny scenár minulosti a budúcnosti, určovať jeho úlohu v ňom a potom na tomto základe stanoviť pre seba konkrétne ciele a vypracovať plány na ich dosiahnutie. Vo vedeckej literatúre sa táto schopnosť zvyčajne nazýva „naratívna inteligencia“(nemala by sa zamieňať s programami, ktoré fungujú podľa scenára alebo rozprávania, ktoré predtým napísala osoba).že musí nezávisle vytvárať a neustále aktualizovať globálny scenár minulosti a budúcnosti na základe dostupných informácií, určiť jeho úlohu v ňom a potom na tomto základe stanoviť konkrétne ciele a vypracovať plány na ich dosiahnutie. Vo vedeckej literatúre sa táto schopnosť zvyčajne nazýva „naratívna inteligencia“(nemala by sa zamieňať s programami, ktoré fungujú podľa scenára alebo rozprávania, ktoré predtým napísala osoba).že musí nezávisle vytvárať a neustále aktualizovať globálny scenár minulosti a budúcnosti na základe dostupných informácií, určiť jeho úlohu v ňom a potom na tomto základe stanoviť konkrétne ciele a vypracovať plány na ich dosiahnutie. Vo vedeckej literatúre sa táto schopnosť zvyčajne nazýva „naratívna inteligencia“(nemala by sa zamieňať s programami, ktoré fungujú podľa scenára alebo rozprávania, ktoré predtým napísala osoba).alebo rozprávanie).alebo rozprávanie). - Existuje tretia výzva?
- Bude to implementácia aktívneho učenia sa umelej inteligencie, ktorá rovnako ako človek vytvára systém hodnôt, ktorý motivuje vzdelávací proces, sám vytvára ciele a plán pre učenie sa a vyberá prostriedky (napríklad experimenty na testovanie hypotéz, hľadanie dostupných zdrojov alebo otázok pre človeka). a na základe vlastnej iniciatívy používa tieto prostriedky na dosiahnutie cieľa. V tomto prípade by mal byť stroj schopný samostatne sa vyvíjať z úrovne dieťaťa na úroveň dospelého a ďalej do superinteligencie.
Táto tretia oblasť by sa mohla nazývať „inteligencia učenia na ľudskej úrovni“, aby sa odlíšila od „hlbokého učenia“a iných typov strojového učenia, ktoré sú dnes populárne. Podľa môjho chápania bude inteligencia učenia na ľudskej úrovni možná prostredníctvom emočnej a naratívnej inteligencie.
Aký výskum teraz robíš? Ako pokračuje vaša práca na modelovaní virtuálnych ľudských asistentov a modelovania emočnej inteligencie?
- Zaoberáme sa modelovaním ľudskej emočnej inteligencie s cieľom vyvinúť sociálne kompatibilných virtuálnych ľudských asistentov založených na našich modeloch.
Berieme do úvahy celý rad konkrétnych úloh a oblastí výskumu. Ide napríklad o vytvorenie virtuálneho partnera vo videohrách; virtuálny koordinátor alebo moderátor; virtuálny kreatívny pomocník pre skladateľa, choreografa, dizajnéra, asistenta riešenia problémov s informáciami; virtuálny poslucháč (v budúcnosti - virtuálny partner); ako aj virtuálneho domáceho miláčika porovnateľného so skutočným spoločenským a emocionálnym charakterom.
Výsledky je tu ťažké prezentovať podrobne, ale je možné ich nájsť v našich otvorených publikáciách. Pre všetky šírky našich pokusov a úspechov potrebujeme prielom v jednom smere: pri preukazovaní praktickej hodnoty všeobecného modelu ľudskej emočnej inteligencie stelesnenej v intelektuálnom agentovi.
Nedávno sme obohatili naše laboratórium BICA na Katedre kybernetiky NRNU MEPhI o nové výskumné metódy vrátane experimentálnej platformy založenej na virtuálnej a zmiešanej realite (so sledovaním smeru očí očí), ako aj o elektromyografiu a automatickú analýzu výrazov tváre, čo nám umožňuje registrovať emócie subjektov ponorených do virtuálne prostredia. Väčšina našej práce sa teraz vykonáva pomocou týchto technológií. V niektorých experimentoch sa používajú aj EEG a fMRI.
Propagačné video:
Naším bezprostredným zastrešujúcim cieľom je vylepšiť a empiricky potvrdiť sociálno-emocionálnu kognitívnu architektúru Ebica (eBICA) a na základe nej vytvoriť efektívne ukážky. Táto práca sa vykonáva na NRNU MEPhI s finančnou podporou z grantu Ruskej vedeckej nadácie č. 18-11-00336.
Nedávno spustenie spoločnosti Elon Musk Neuralink oznámilo vývoj, ktorý by mohol v budúcnosti z človeka urobiť kyborg, ktorý by bol schopný ovládať počítač so silou myslenia. Aká sľubná je pre vás táto línia výskumu?
- Podľa môjho chápania by sa umelá inteligencia mala stať na jednej strane rovnocenným partnerom a priateľom človeka a na druhej strane rozšírením normálnych alebo nahradených stratených ľudských schopností vrátane prostriedkov založených na priamom rozhraní s ľudským mozgom.
V tomto prípade by človek mohol doslova používať počítač alebo mikročip ako súčasť svojho mozgu. Obidve sú zamerané na dobro a mali by byť úplne pod kontrolou jeho tvorcu. Prajem Elon Musk veľa úspechov.
Aká veľká je potreba vyvinúť prostriedky na boj proti umelej inteligencii?
- Myslím si, že v našej ére zostanú nástroje umelej inteligencie pod kontrolou osoby, aj keď iba preto, že sú závislé od ich služby osobou a poskytujú im všetko, čo potrebujú. Ak ich niekto môže obrátiť proti osobe, potom iba osobe samotnej. Potom by sa mala zvážiť otázka konfrontácie s týmito ľuďmi.
Nie je žiadnym tajomstvom, že armáda potrebuje predovšetkým umelú inteligenciu. Dnes, ako predtým, sa vytvárajú nové prostriedky na útok a obranu. Zvláštnosťou našej doby je však to, že obidva zahŕňajú umelú inteligenciu. V tomto zmysle je potreba vyvinúť prostriedky konfrontácie veľká a pre niektoré krajiny je to z finančného hľadiska priorita.
Čo nás čaká po vytvorení umelej inteligencie, ktorá je lepšia ako človek? Budeme existovať spolu so strojmi alebo sa spojíme do jedného celku?
- Umelá inteligencia sa stane a už sa stáva neoddeliteľnou súčasťou ľudskej civilizácie. Zároveň sú stále možné dva spôsoby: zdedenie našich hodnôt, ašpirácií a ideálov umelou inteligenciou alebo ich nahradenie „strojovými hodnotami“, ktoré sa vzťahujú nielen na stroje, ale aj na ľudí. Ktorá z týchto dvoch ciest je realizovaná, je len na nás.
Čo to znamená zostať človekom v dobe umelej inteligencie?
- Zostať človekom v ére umelej inteligencie znamená realizovať prvú cestu.