Strach z umelej inteligencie je už dlho zakorenený v populárnej kultúre. Najkrajšie mysle ľudstva, od Stephena Hawkinga po Elona Muska, hovorili o existenciálnej hrozbe digitálnej mysle pre ľudstvo.
O tom hovorí aj profesor na kalifornskej univerzite v Berkeley Stuart Russell, ale vo svojej vízii budúcnosti neexistujú zlí roboti, ktorí sa vzbúria proti ľudskej nadvláde.
Podľa Russella sa stroje v určitom okamihu jednoducho stanú tak účinnými, že nás zničia a vykonávajú úlohy, ktoré sme im dali.
Russell je odborník na strojové učenie a autor Human Compatible: AI a Problem of Control.
„Tradičný hollywoodsky príbeh spočíva v tom, že stroje sa spontánne uvedomujú a potom sa rozhodnú, že nenávidia ľudí a chcú všetkých zabiť,“poznamenáva profesor Russell.
Podľa jeho názoru je to však nesprávna vízia robo-apokalypsy, pretože stroje nemajú ľudské emócie.
„Musíme si robiť starosti nie o sebavedomí zlých strojov, ale o spôsobilosti strojov, ktoré vykonávajú úlohy, ktoré sme si stanovili,“je vedec presvedčený.
Propagačné video:
„Príliš kompetentný“
V rozhovore pre BBC Today profesor Russell opísal hypotetickú situáciu, v ktorej by existenciu ľudstva mohlo ohroziť umelá inteligencia.
Predstavte si, že existuje veľmi silná umelá inteligencia, ktorá dokáže riadiť klímu na planéte. Jeho úlohou je priniesť úrovne oxidu uhličitého v atmosfére späť na úroveň pred industrializáciou.
„Systém zváži, že najúčinnejším spôsobom, ako to dosiahnuť, je zničiť ľudí. Produkujú oxid uhličitý, “hovorí profesor.
„Tomu sa dá zabrániť, napríklad tým, že sa stane podmienkou, aby sa ľudí nezbavila. Čo bude potom systém robiť? Postará sa o to, aby sa rodilo menej a menej detí, kým ľudia úplne nezmiznú. ““
Toto je príklad toho, k čomu môže umelá inteligencia viesť podľa nesprávne pochopených ľudských pokynov.
Superintelligence
Systémy AI, ktoré dnes existujú, majú úzko zamerané aplikácie. Sú navrhnuté tak, aby riešili jasne definované problémy v jednej oblasti, hovoria vedci z Centra pre štúdium existujúcich rizík na univerzite v Cambridge.
Triumfálnym momentom pre túto filozofiu AI bolo víťazstvo počítača Deep Blue nad panujúcim majstrom sveta v šachu Garrym Kasparovom v roku 1997.
* Víťazstvo Deep Blue nad Kasparovom v roku 1997 bolo víťazstvom AI.
Ale Deep Blue bola vytvorená výlučne pre šachovú hru. V dáma by stratil piateho porovnávača.
Posledný pokrok v umelej inteligencii nám priniesol veľmi odlišné programy.
Napríklad program AlphaGo Zero sa naučil hrať Go sám, bez použitia údajov o minulých hrách, ktoré hrali ľudia, a iba za tri dni hrania so sebou dosiahol úroveň nedosiahnuteľnú pre bežného človeka.
Na vytvorenie zariadenia AlphaGo Zero sa použili algoritmy hlbokého učenia. To znamená, že na rozvoj programu bolo potrebných pomerne málo ľudskej práce.
AlphaGo Zero zároveň vie dobre hrať šach aj šógi.
Pripomeňme, že program je úplne samoučiaci sa. To môže u niektorých vyvolávať obavy.
„Keď sa AI stane silnejšou a všestrannejšou, existuje riziko, že sa stane superinteligentným, to znamená, že v mnohých alebo vo všetkých oblastiach prekoná ľudí,“hovorí Centrum pre štúdium existujúcich rizík.
Nevieme, čo chceme
Profesor Russell verí, že jednoduché zadanie veľmi špecifických úloh nie je východiskom, pretože samotní ľudia ich nedokážu dostatočne dobre formulovať.
„Neuvedomujeme si, že sa nám niečo nepáči, kým sa to nestane,“hovorí.
„Potrebujeme zmeniť veľmi jednoduchý prístup k vytváraniu systémov AI,“dodáva profesor. Verí, že dať robotom úlohu, ktorú potom vykonávajú, je v zásade zlé.
„Systém musí pochopiť, že cieľ nie je jasný. on hovorí. - Keď sa takéto systémy vytvoria, skutočne závisia od osoby. Začnú žiadať povolenie skôr, ako niečo urobia, pretože si nie sú istí, či chcete. “
Najdôležitejšie je, že profesor hovorí, že neodolá, ak sa ich rozhodnete vypnúť, pretože sú navrhnuté tak, aby nerobili to, čo sa vám nepáčilo.
Aladinova lampa
AI je dnes vytvorená, akoby to bola džina z lampy, hovorí profesor Russell. Pretrieš si lampu a povieš: „Chcem, aby sa to stalo.“
V Stanley Kubrickovom roku 2001 * Space Odyssey * sa superinteligentný počítač vzbúril proti ľuďom, ktorí sa rozhodli ho vypnúť.
Ak je umelá inteligencia dostatočne silná, urobí presne to, čo požadujete.
„Problém s ginom spočíva v tom, že tretím želaním je vždy zrušiť prvé dva, pretože ich osoba nesprávne označila.“
„Stroj, ktorý sleduje zlý cieľ, sa de facto stáva nepriateľom ľudstva a tento nepriateľ je oveľa silnejší ako my,“uzatvára vedec.