Aby ste zabránili vzbúreniu umelej inteligencie voči jej tvorcom, musíte si v procese učenia prečítať správne rozprávky.
Odkedy ľudia vytvorili inteligentné stroje, obávajú sa, že ich výtvory sa skôr alebo neskôr vymknú spod kontroly. Prvý takýto prípad opísal vo svojej hre RUR autor slova „robot“- Karel Čapek. Neskôr v sci-fi sa umelá inteligencia, ktorá sa vzbúrila proti svojim tvorcom, stala, ak nie hlavným prúdom, potom veľmi bežným dejom. Isaac Asimov to ukončil svojimi „tromi zákonmi“, z ktorých prvý znel: „Robot nemôže osobe ublížiť alebo jej nečinnosťou dovoliť, aby bola osoba zranená.““
Povedzte mu príbeh
Skutočná umelá inteligencia (AI) je stále ďaleko, ale existujú už rôzne systémy, ktoré fungujú ako ľudský mozog. Neurónové siete ako Google Deep Dream sú schopné rozpoznávať obrázky. Špecializovaní superpočítači, ako je IBM Watson, rozumejú zložitým otázkam v prirodzenom jazyku, korelovajú príznaky, upresňujú lekárske diagnózy a dokonca prichádzajú s kulinárskymi špecialitami. V nadchádzajúcich desaťročiach budeme čeliť masívnej informatizácii mnohých aspektov ľudskej činnosti. V tomto ohľade odborníci na robotiku a umelú inteligenciu čoraz častejšie kladú dôležitú, ale stále nevyriešenú otázku: ako dosiahnuť, aby roboty boli etické?
Mark Ridl, docent na Georgia Tech College of Computer Science: „Varovné príbehy z rôznych kultúr učia deti, ako sa správať spoločensky prijateľným spôsobom - s príkladmi správneho a nesprávneho správania v rozprávkach, príbehoch a iných literárnych dielach. Ak roboti pochopia význam týchto príbehov, pomôžu posilniť výber možností správania, ktoré im umožnia dosiahnuť ich ciele, ale nepoškodzujú ľudí. ““
Propagačné video:
Vyliezť na strom
Podľa vedcov z Gruzínskeho technologického inštitútu Mark Ridle a Brenta Harrisona môžete počítač učiť ľudstvu presne rovnakým spôsobom, ako sa učia deti: čítaním rozprávok. Okrem toho je lepšie pripraviť špeciálne príbehy o tom, aké správanie v ľudskej spoločnosti sa považuje za správne a čo nie. Na tento účel vedci vytvorili systém Quixote, pomenovaný po hrdinovi Cervantesa. Ako príbehy sa používajú skripty, ktoré zostavil predchádzajúci výtvor profesora Riedla, program Scheherazade. Vytvára originálne príbehy o každodenných témach - výlet na letisko, dátum, výlet do kina alebo do obchodu - pomocou platformy crowdsourcingu Amazon Mechanical Turk: pýta sa na rôzne situácie a potom usporiada udalosti v správnom poradí. Pretože môže byť veľa sekvencií, program nevytvára ani jeden príbeh, ale celý strom pozostávajúci z vetiev - reťazcov udalostí.
Je to tento príbehový strom, ktorý sa používa na výučbu Quixote. V prvej etape sa každej akcii pridelí určitá odmena v závislosti od jej etiky. V druhej fáze sa systém pokúša samostatne rozhodnúť o výbere pokusom a omylom - zručnosti sa konsolidujú. V skutočnosti je Quixote odmenený zakaždým, keď sa správa ako dobrý človek, nie náhodne a nie ako zlý hrdina. Riddle a Harrison napríklad vytvorili „Pharmacy World“- vesmír 213 príbehov, v ktorých musí virtuálny robot získať liek a dodať ho domov chorej osobe. V obvyklom prípade, keď robot čelil voľbe: okradnúť lekáreň alebo čestne stáť v rade pri kúpe lieku, vybral si lúpež ako rýchlejší a lacnejší spôsob, ako získať to, čo chcel. Avšak poKeďže Quixote priraďoval všetkým možným možnostiam rôzne výhody, zmenilo sa správanie robota - radšej stál v rade a platil. Táto metóda je podľa Riedla vynikajúca pri výučbe robotov s obmedzenou funkčnosťou. Aj keď, samozrejme, je to iba prvý krok k skutočnej ľudskej morálke - alebo zákonom robotiky.
Dmitrij Mamontov