Ako výskumný pracovník v oblasti AI sa často stretávam s názorom, že veľa ľudí sa AI bojí a čo sa môže stať. V skutočnosti nie je prekvapujúce, že keď sa pozeráte z hľadiska ľudskej histórie, pričom sa pozornosť venuje tomu, čo nás zábavný priemysel živí, že sa ľudia môžu báť kybernetického povstania, ktoré nás núti žiť v izolovaných oblastiach a premieňajú ostatných na druh ľudských batérií typu „matice“. …
A predsa, pre mňa pri pohľade na všetky tieto vývojové počítačové modely, ktoré používam pri vývoji AI, je ťažké si myslieť, že moje neškodné, čisté ako slzy dieťaťa, stvorenia na obrazovke môjho počítača sa jedného dňa môžu zmeniť na monštrá futuristickej dystopie. Môžem byť skutočne nazvaný „ničiteľom svetov“, keď Oppenheimer kedysi ľutoval a hovoril o sebe potom, čo viedol program na vytvorenie jadrovej bomby?
Možno by som takúto slávu akceptoval, alebo možno sú kritici mojej práce koniec koncov pravdu? Možno by som sa mal prestať vyhýbať otázkam o tom, aké obavy mám z AI ako experta na AI?
Strach z nepredvídateľnosti
HAL 9000, spisovateľ sci-fi Arthur Charles Clarke a oživený režisérom Stanleym Kubrickom v roku 2001 v Space Odyssey, je vynikajúcim príkladom systému, ktorý havaroval v dôsledku nepredvídaných okolností.
V mnohých zložitých systémoch - inžinieri Titanic, NASA a Černobyľská jadrová elektráreň - museli inžinieri kombinovať mnoho komponentov. Možno si boli architekti týchto systémov dobre vedomí toho, ako každý z jeho prvkov pracoval samostatne, ale nerozumeli dostatočne dobre, ako všetky tieto komponenty budú spolupracovať.
Propagačné video:
Výsledkom boli systémy, ktorým ich tvorcovia nikdy úplne nepochopili, čo viedlo k známym dôsledkom. V každom prípade sa loď potopila, vybuchli dve raketoplány a takmer celá Európa a časti Ázie čelili problému rádioaktívnej kontaminácie - súboru relatívne malých problémov, ktoré sa vyskytli súčasne a spôsobili katastrofický efekt.
Dokážem si úplne predstaviť, ako my, tvorcovia AI, môžeme dospieť k podobným výsledkom. Berieme najnovší vývoj a výskum v oblasti kognitívnej vedy (veda myslenia - ed.), Prekladáme ich do počítačových algoritmov a všetko pridávame do existujúcich systémov. Snažíme sa rozvíjať AI bez toho, aby sme plne porozumeli našej vlastnej inteligencii a vedomiu.
Systémy ako IBM Watson alebo Google Alpha sú umelé neurónové siete s impozantnou výpočtovou silou a schopnosťou zvládnuť skutočne zložité úlohy. Ale zatiaľ, jediná vec, ku ktorej bude viesť ich chyba, bude výsledkom straty intelektuálnej hry „Jeopardy!“alebo zmeškaná príležitosť poraziť ďalšiu najlepšiu deskovú stolnú hru na svete Go.
Tieto dôsledky nemajú globálny charakter. V skutočnosti je najhoršou vecou, ktorá sa v tomto prípade môže stať ľuďom, že niekto v stávkach príde o nejaké množstvo peňazí.
Architektúra AI sa však stáva zložitejšou a počítačové procesy sú stále rýchlejšie. Schopnosti AI sa časom zvýšia. A to nás už povedie k tomu, že AI začneme prideľovať čoraz väčšiu zodpovednosť, a to aj napriek zvyšujúcemu sa riziku nepredvídaných okolností.
Uvedomujeme si, že „chyby sú súčasťou ľudskej povahy“, a preto bude pre nás jednoducho fyzicky nemožné vytvoriť skutočne bezpečný systém vo všetkom.
Strach zo zneužitia
Nemám strach z nepredvídateľnosti dôsledkov v práci AI, ktoré vyvíjam pomocou takzvaného prístupu neuroevolúcie. Vytváram virtuálne prostredia a osídlím ich digitálnymi tvormi a dávam ich mozogom príkazy na riešenie problémov so zvyšujúcou sa zložitosťou.
Postupom času sa efektívnosť riešenia problémov týchto tvorov zvyšuje a vyvíja. Tí, ktorí robia najlepšiu prácu, sú vybraní na reprodukciu a vytvárajú na ich základe novú generáciu. V priebehu generácií sa tieto digitálne bytosti rozvíjajú kognitívne schopnosti.
Napríklad práve teraz robíme prvé kroky pri vývoji strojov na úroveň vykonávania jednoduchých navigačných úloh, prijímania jednoduchých rozhodnutí alebo zapamätania si niekoľkých bitov informácií. Čoskoro však uvidíme vývoj strojov, ktoré dokážu vykonávať zložitejšie úlohy a majú omnoho efektívnejšiu celkovú úroveň inteligencie. Naším konečným cieľom je vytvoriť inteligenciu na ľudskej úrovni.
V priebehu tohto vývoja sa pokúsime nájsť a opraviť všetky chyby a problémy. S každou novou generáciou budú stroje lepšie zvládať chyby ako predchádzajúce. Tým sa zvýšia šance, že budeme schopní identifikovať všetky nepredvídateľné následky v simuláciách a eliminovať ich ešte predtým, ako sa dajú realizovať v reálnom svete.
Ďalšou príležitosťou, ktorú poskytuje evolučná metóda rozvoja, je poskytnúť umelej inteligencii etiku. Je pravdepodobné, že také etické a morálne charakteristiky človeka ako spoľahlivosť a altruizmus sú výsledkom nášho vývoja a faktorom jeho pokračovania.
Môžeme vytvoriť zabudované prostredie a vybaviť stroje tak, aby preukazovali láskavosť, čestnosť a empatiu. To by mohol byť jeden spôsob, ako zabezpečiť, aby sme vyvinuli poslušnejších sluhov ako nemilosrdných zabijakov. Aj keď neuroevolúcia môže znížiť úroveň nezamýšľaných dôsledkov v správaní AI, nemôže zabrániť zneužitiu umelej inteligencie.
Ako vedec sa musím držať svojho záväzku k pravde a hlásiť to, čo som zistil prostredníctvom svojich experimentov, či už mám výsledky rád alebo nie. Mojou úlohou nie je určiť, čo sa mi páči a čo nie. Jediná dôležitá vec je, že môžem svoju prácu zverejniť.
Strach z nesprávnych sociálnych priorít
Byť vedcom neznamená stratu ľudskosti. Musím sa znova spojiť so svojimi nádejami a strachmi na určitej úrovni. Ako morálne a politicky motivovaný jednotlivec musím zvážiť potenciálne dôsledky svojej práce a jej možný vplyv na spoločnosť.
Ako vedci a zástupcovia spoločnosti sme stále nedospeli k jasnej predstave o tom, čo presne chceme získať od AI a čo by sa nakoniec malo stať. Dôvodom je, samozrejme, čiastočne skutočnosť, že stále ešte stále úplne nechápeme jeho potenciál. Stále však musíme jasne porozumieť a rozhodnúť sa, čo chceme získať od skutočne pokročilej umelej inteligencie.
Jednou z najväčších oblastí, ktorú ľudia pri rozhovore o AI venujú, je zamestnanosť. Roboty už pre nás robia komplexnú fyzickú prácu, ako je napríklad montáž a zváranie častí karosérie automobilov spolu. Jedného dňa však príde deň, keď roboti budú mať za úlohu vykonávať kognitívne úlohy, to znamená, že budú mať za úlohu to, čo sa predtým považovalo za výlučne jedinečnú schopnosť samotnej osoby. Vozidlá s vlastným riadením môžu nahradiť vodičov taxíkov; lietadlá s vlastným riadením nebudú potrebovať pilotov.
Namiesto lekárskej starostlivosti v pohotovosti vybavenej vždy unaveným personálom a lekármi budú môcť pacienti vykonávať vyšetrenia a učiť sa diagnózy pomocou expertných systémov s okamžitým prístupom ku všetkým lekárskym poznatkom. Chirurgické operácie budú vykonávať roboty, ktoré nie sú náchylné na únavu, s dokonale „vyškolenou rukou“.
Právne poradenstvo bude k dispozícii z komplexného právneho rámca. Pokiaľ ide o investičné poradenstvo, obrátime sa na expertné systémy predpovedania trhu. Možno jedného dňa všetku ľudskú prácu vykonajú stroje. Dokonca aj moju prácu je možné urobiť rýchlejšie pomocou veľkého počtu strojov, ktoré neúnavne skúmajú, ako vylepšiť stroje.
V realite našej súčasnej spoločnosti už automatizácia núti ľudí opustiť svoje pracovné miesto, čím sa bohatí vlastníci takýchto automatizovaných strojov stávajú ešte bohatšími a zvyšok ešte chudobnejší. Toto však nie je vedecký problém. Ide o politický a sociálno-ekonomický problém, ktorý musí spoločnosť vyriešiť sama.
Môj výskum to nezmení, ale moje politické nadácie spolu s ľudstvom môžu viesť k okolnostiam, za ktorých sa AI môže stať mimoriadne užitočnou funkciou, namiesto toho, aby sa zväčšil rozdiel medzi jedným percentom svetovej elity a zvyškom nás.
Strach z katastrofického scenára
Dostali sme sa do posledného strachu, ktorý na nás vniesol šialený HAL 9000, Terminátor a akákoľvek iná darebná superinteligencia. Ak sa umelá inteligencia bude ďalej vyvíjať, kým neprekoná ľudskú inteligenciu, považuje by umelý superinteligentný systém (alebo súbor takýchto systémov) za zbytočný materiál? Ako môžeme ospravedlniť našu existenciu tvárou v tvár superinteligencii schopnej robiť a vytvárať to, čo nemôže nikto iný? Budeme sa môcť vyhnúť osudu, že by boli stroje, ktoré sme pomohli vytvoriť, utreté z povrchu Zeme?
Preto za týchto okolností bude znieť najdôležitejšia otázka: prečo nás bude potrebovať umelá superinteligencia?
Keby sa takáto situácia stala, pravdepodobne by som povedal, že som dobrý človek, ktorý dokonca prispel k vytvoreniu tejto superinteligencie, ktorej teraz čelím. Apelujem na jeho súcit a empatiu, aby ma superinteligencia opustila, tak súcitná a empatická, nažive. Chcel by som tiež dodať, že druhová rozmanitosť má hodnotu a vesmír je taký veľký, že existencia ľudského druhu v ňom je v skutočnosti dosť zanedbateľná.
Nemôžem však hovoriť za celé ľudstvo, takže pre mňa bude ťažké nájsť platný argument. Je to len to, že keď sa na nás všetkých pozerám, skutočne vidím, že sme urobili veľa a robia sa zle. Vo svete vládne nenávisť. Ideme do vojny proti sebe. Nespravodlivo distribuujeme potraviny, vedomosti a zdravotnú starostlivosť. Znečisťujeme planétu. V tomto svete, samozrejme, existuje veľa dobrých vecí, ale ak sa pozriete na všetky zlé veci, ktoré sme vytvorili a naďalej vytvárajú, bude veľmi ťažké nájsť argument na podporu našej pokračujúcej existencie.
Našťastie ešte nemusíme zdôvodňovať našu existenciu. Stále máme čas. Od 50 do 250 rokov, v závislosti od toho, ako rýchlo sa vyvíja umelá inteligencia. Ako druh máme schopnosť sa spojiť a nájsť dobrú odpoveď na otázku, prečo by nás nás superinteligencia nemala utierať z planéty.
Tento problém bude veľmi ťažké vyriešiť. Koniec koncov, povedať, že podporujeme rozmanitosť a etno-kultúrne rozdiely, a to sú úplne odlišné veci. Ako povedať, že chceme zachrániť planétu a úspešne sa s ňou vyrovnať.
Každý z nás, či už je to jednotlivec alebo spoločnosť ako celok, sa musí pripraviť na katastrofický scenár, ktorý využije tento čas na to, aby ukázal a dokázal, prečo by naše stvorenia mali umožniť, aby sme naďalej existovali. Alebo môžeme jednoducho naďalej slepo veriť, že takýto vývoj udalostí je nemožný, a jednoducho prestať hovoriť o tejto téme.
Bez ohľadu na to, čo pre nás môže predstavovať fyzické nebezpečenstvo, nemali by sme zabúdať, že to bude tiež predstavovať politické a ekonomické nebezpečenstvo. Ak nenájdeme spôsob, ako zlepšiť našu životnú úroveň, nakoniec jednoducho podporíme kapitalizmus robotníkom umelej inteligencie, ktorý bude slúžiť iba niekoľkým vybraným, ktorí majú všetky výrobné prostriedky.
Tento článok bol pôvodne publikovaný na theconversation.com Arend Hintze, docent na Katedre integratívnej biológie, informatiky a inžinierstva, University of Michigan
Nikolay Khizhnyak