Autor je znepokojený rastúcou úlohou robotov vo vojne. Od roku 1991, od vojny v Perzskom zálive, pomáhali generálom. A teraz bol vytvorený „zabijací robot“- stroj, ktorý sa nezávisle rozhoduje zničiť nepriateľov, ak je to v súlade so všeobecnou politikou „kontrolného strediska“.
Vývojár umelej inteligencie DeepMind oznámil novinku - robota s názvom AlphaStar, ktorý bude hrať populárnu online stratégiu Starcraft-2 na úrovni „veľmajstra“.
Toto nie je prvýkrát, čo robot zbil ľudí v strategickej vojnovej hre. V roku 1981 vyhral program s názvom Eurisko, ktorý vyvinul jeden z priekopníkov umelej inteligencie Doug Lenat, majstrovstvá USA v cestovaní, vysoko zložitú strategickú vojnovú hru, v ktorej musí hráč dokončiť svoju vlastnú flotilu a bojovať proti nepriateľskej flotile. Eurisko bolo nakoniec ocenené titulom Honorary Admiral Traveler. V roku 1982 sa zmenili pravidlá turnaja v snahe zmariť počítač. Eurisko však vyhralo každého dva roky za sebou. Keď sponzori sľúbili zrušiť turnaj, ak počítač znova vyhrá, Lenat ustúpil.
DeepMind PR by vás rád presvedčil, že StarCraft „sa objavil konsenzom ako ďalšia veľká výzva (v počítačových hrách)“a „bol výzvou pre vývojárov AI už viac ako 15 rokov.“
Na poslednom šampionáte v Starcraft boli podané iba 4 prihlášky z laboratórií akademického alebo priemyselného výskumu. Zvyšných deväť robotov bolo napísaných jednotlivcami a nie ako súčasť hlavného prúdu výskumu umelej inteligencie (AI).
V skutočnosti počet autorov (42) článku DeepMind uverejneného 31. októbra v Prírode výrazne prevyšuje počet ľudí pracujúcich na robotoch Starcraft vo zvyšku sveta. Nechcem zatieniť úspech tejto technickej spolupráce. Ak však do riešenia problému investujete dostatok zdrojov, je zaručený úspech.
Na rozdiel od nedávnych víťazstiev v počítačových šachoch, AlphaStar nebol trénovaný hraním proti sebe. Naučil sa to napodobňovaním najlepších epizód z takmer milióna hier hraných najlepšími ľudskými hráčmi. Pred tým utrpel AlphaStar nepopierateľnú porážku v 19 z 20 bojov, keď si zahral so skutočnými ľuďmi na hernom serveri StarCraft. AlphaStar hral anonymne, aby zabránil ľuďom zneužívať slabiny, ktoré sa mohli vyskytnúť v predchádzajúcich hrách.
Vlani v decembri AlphaStar porazil jedného z najlepších svetových profesionálnych hráčov - Grzegorza MaNu Komincza. Jednalo sa však o verziu AlphaStar s reflexmi, ktoré boli výrazne rýchlejšie ako ľudské, a tiež s neobmedzenou víziou ihriska (na rozdiel od ľudských hráčov, ktorí naraz vidia iba jednu časť). Sotva sa dá nazvať rovnaké podmienky.
Propagačné video:
StarCraft má však niektoré vlastnosti, vďaka ktorým je AlphaStar pôsobivým vývojom, ak nie skutočným prielomom. Na rozdiel od šachu alebo východnej hry (strategická hra, ktorá používa dosku s poľom 361 - ed.), Hráči StarCraft majú nedokonalé porozumenie stavu vecí v hre, ale počet možných akcií v nej je oveľa väčší. Boj StarCraft sa odohráva v reálnom čase, vyžaduje si však dlhodobé plánovanie.
Robot Wars
Vynára sa otázka - uvidíme v budúcnosti, ako sa roboti nielen zúčastňujú vojny, ale aj ich plánujú? V skutočnosti sa obaja už dejú.
Napriek mnohým varovaniam od výskumníkov v oblasti umelej inteligencie (ako som ja), zakladateľov robotických spoločností, laureátov Nobelovej ceny a vedúcich cirkví, už bola vytvorená úplne samostatná zbraň známa ako „zabijací robot“a čoskoro bude použitá.
V roku 2020 Turecko rozmiestni bezpilotné lietadlá na hranici so Sýriou. Tieto bezpilotné lietadlá využijú počítačové videnie na identifikáciu, sledovanie a zabíjanie ľudí bez ľudského zásahu.
Toto je hrozný vývoj. Počítače nemajú morálnu schopnosť urobiť morálne vyvážené rozhodnutie o tom, kto bude žiť a kto zomrie. Chýba im empatia alebo súcit. Zabijaci roboti zmenia samotnú podstatu konfliktu k horšiemu.
A čo „robotickí generáli“? Počítače pomohli generálom naplánovať vojnu na celé desaťročia. Na začiatku 90. rokov, počas operácie Desert Storm počas vojny v Perzskom zálive, sa nástroje umelej inteligencie (AI) používali na plánovanie vybudovania Blízkeho východu pred konfliktom. Americký generál mi krátko nato povedal, že množstvo ušetrených peňazí sa rovnalo súčtu všetkého, čo bolo predtým vynaložené na rozvoj AI.
Generáli tiež používajú počítače na vývoj mnohorozmerných vojenských stratégií, ktoré môžu byť náhle potrebné. Nenechávame však všetky rozhodnutia na bojisku v rukách jedného vojaka, a preto presunúť všetku zodpovednosť z mozgu generála na počítačový procesor zachádza príliš ďaleko.
Stroj nemôže byť braný na zodpovednosť za svoje rozhodnutia. Zodpovedajú iba ľudia. A to je základný kameň medzinárodného humanitárneho práva. Generáli sa však budú vo svojich rozhodnutiach stále viac spoliehať na počítačovú podporu pri prelomení vojnovej hmly a riešení obrovského množstva informácií prichádzajúcich spredu.
Ak by to malo za následok menej civilných obetí, menej priateľský požiar a väčšie dodržiavanie medzinárodného humanitárneho práva, mali by sme uvítať takúto počítačovú pomoc. Konečné rozhodnutie však musí urobiť človek, nie stroj.
Tu je ešte jedna posledná otázka, o ktorej sa treba zamyslieť. Ak technické spoločnosti ako Google naozaj nechcú, aby sme sa báli strojového povstania, prečo stavajú roboty, aby vyhráli virtuálne vojny namiesto toho, aby sa sústredili na niečo pokojnejšie, ako sú mierové elektronické hry? So všetkou úctou k športovým fanúšikom musíme pripustiť, že podiel na nevojenských hrách je oveľa nižší.
Toby Walsh je profesor umelej inteligencie na Univerzite Nového Južného Walesu a vo výskumnej komunite Data61.