Azda jedným z najťažších testov inteligencie strojov bola šachová hra, ktorá sa odohrala pred takmer 20 rokmi medzi počítačom Deep Blue a majstrom sveta v šachu Garrym Kasparovom. Auto vyhralo. Momentálne sa skončila séria hier v logickej hre go, kde si zmerali sily AI AlphaGo od DeepMind (majiteľ Google) a legendárny go šampión z Číny Li Si Dol. V štyroch z piatich hier zvíťazil stroj, ktorý v tejto hre ukázal svoju prevahu nad ľudskou. Neuveriteľne zložitá hra medzi človekom a umelou inteligenciou ukazuje, že inteligencia strojov sa počas tejto doby vyvinula veľmi silno. Zdá sa, že osudný deň, keď sú stroje skutočne inteligentnejšie ako ľudia, je teraz bližšie ako kedykoľvek predtým. Zdá sa však, že mnohí vôbec nerozumejú, skôr sa dokonca mýlia, aké následky nás môžu v budúcnosti čakať.
Podceňujeme niektoré veľmi vážne a dokonca nebezpečné následky vývoja umelej inteligencie. Vlani vydal spoluzakladateľ spoločnosti SpaceX Elon Musk vyhlásenie, v ktorom vyjadril znepokojenie nad možným zotročením sveta umelou inteligenciou, čo následne vyvolalo obrovské množstvo komentárov tak zo strany priaznivcov, ako aj odporcov tohto stanoviska.
Pre tak zásadne revolučnú budúcnosť, ktorá nás môže čakať, je prekvapujúce, že dnes existuje toľko nezhôd o tom, či sa to vôbec stane a čo sa nakoniec ukáže. Je obzvlášť zvláštne poprieť neuveriteľné výhody, ktoré môžeme získať pri vytváraní skutočne inteligentnej AI, samozrejme, berúc do úvahy všetky možné riziká. Všetky tieto otázky je neuveriteľne ťažké získať odpovede, ktoré potrebujete, pretože AI, na rozdiel od iných vynálezov ľudstva, dokáže skutočne „omladiť“toto ľudstvo alebo ho úplne zničiť.
Teraz je ťažké pochopiť, čomu veriť a v čo dúfať. Vďaka priekopníkom počítačovej vedy, neurovedcom a teoretikom vývoja AI sa však pomaly začína vyjasňovať jasný obraz. Ďalej uvádzame zoznam najbežnejších mylných predstáv a mýtov týkajúcich sa umelej inteligencie.
Nikdy nevytvoríme AI s humanoidnou inteligenciou
Realita zas naznačuje, že už máme počítače, ktoré v niektorých oblastiach zodpovedajú ľudským schopnostiam a dokonca ich prekračujú. Vezmime si napríklad šach alebo rovnakú hru go, obchodovanie na burzách alebo rolu virtuálneho partnera. Počítače a algoritmy, ktoré ich riadia, sa budú časom len zlepšovať a je len otázkou času, kedy sa vyrovnajú ľudským schopnostiam.
Propagačné video:
Výskumník z Newyorskej univerzity Gary Marcus raz uviedol, že „prakticky všetci“, ktorí pracujú s AI, veria, že nás stroje jedného dňa prekonajú:
„Jediným sporom medzi priaznivcami a skeptikmi je načasovanie tejto udalosti.“
Futuristi ako Ray Kurzweil veria, že by sa to mohlo stať v nasledujúcich desaťročiach, zatiaľ čo iní tvrdia, že to bude trvať niekoľko storočí.
Skeptici z oblasti AI majú nepresvedčivé dôkazy o tom, že vytváranie umelej inteligencie ako niečoho jedinečného a veľmi podobného skutočne žijúcemu ľudskému mozgu z technologického hľadiska je niekde mimo realitu. Náš mozog je tiež stroj. Biologický stroj. Existuje v rovnakom svete a riadi sa rovnakými fyzikálnymi zákonmi ako všetky ostatné. A časom úplne prídeme na celý princíp jeho práce.
AI bude mať vedomie
Existuje všeobecná zhoda v tom, že strojová inteligencia bude pri vedomí. To znamená, že AI bude myslieť rovnakým spôsobom ako človek. Okrem toho sa niektorí kritici, napríklad spoluzakladateľ spoločnosti Microsoft Paul Allen, domnievajú, že kvôli neúplnému teoretickému základu popisujúcemu mechanizmy a princípy sebauvedomovania sme ešte nevytvorili ani len všeobecnú umelú inteligenciu, teda inteligenciu schopnú vykonávať akékoľvek intelektuálne úlohy, s ktorými človek zvládne. Podľa Murraya Shanahana, odborného asistenta na Katedre kognitívnej robotiky na Imperial College v Londýne, by sme sa však nemali stotožňovať.
„Sebapoznanie je určite veľmi zaujímavý a dôležitý predmet výskumu, ale neverím, že by sebauvedomenie malo byť povinným atribútom umelej inteligencie podobnej človeku,“hovorí Shanahan.
„Termín„ sebauvedomenie “používame celkovo iba na označenie niekoľkých psychologických a kognitívnych atribútov, ktoré sú v človeku zvyčajne spojené.“
Je možné si predstaviť veľmi inteligentné auto, ktorému chýba jeden alebo viac z týchto atribútov. Jedného dňa budeme schopní vybudovať skutočne neuveriteľne inteligentnú AI, ktorá však nebude mať schopnosť sebauvedomenia, ako aj subjektívneho a vedomého porozumenia svetu okolo nás. Shanahan poznamenáva, že zjednotenie inteligencie a sebauvedomenia v rámci stroja bude stále možné, nesmieme však prehliadnuť skutočnosť, že ide o dva navzájom úplne odlišné pojmy.
A hoci bol úspešne absolvovaný jeden z variantov „Turingovho testu“, v ktorom stroj ukázal, že sa nelíši od človeka, vôbec to neznamená, že tento stroj má vedomie. Z nášho (ľudského) pohľadu sa nám pokročilá umelá inteligencia môže javiť ako niečo, čo má sebauvedomenie, ale samotný stroj si nebude viac vedomý seba ako rovnakého kameňa alebo kalkulačky.
Nemali by sme sa báť AI
V januári tohto roku sa zakladateľ Facebooku Mark Zuckerberg podelil o svoje myšlienky o tom, ako by sme sa nemali báť AI, a dodal, že táto technológia môže priniesť obrovské výhody po celom svete. Pravda je, že má pravdu len čiastočne. Skutočne budeme schopní využívať úžasné výhody umelej inteligencie, ktorú máme k dispozícii (od samoriadiacich automobilov po nové objavy v medicíne), ale nikto nemôže zaručiť, že každá aplikácia umelej inteligencie bude nevyhnutne prinášať výhody.
Vysoko inteligentný systém možno bude vedieť všetko potrebné pre určité úlohy (napríklad riešenie zložitej globálnej finančnej situácie alebo hacknutie počítačových systémov nepriateľa), ale mimo vysoko špecializovaných úloh je potenciál AI stále úplne nejasný, a teda potenciálne nebezpečný. Napríklad systém DeepMind sa špecializuje na hru go, ale chýba mu schopnosť (a rozum) skúmať oblasti mimo tejto sféry.
Plameňový počítačový vírus, ktorého úlohou bolo sledovať krajiny Blízkeho východu
Mnoho z týchto systémov môže predstavovať vážne bezpečnostné riziká. Dobrým príkladom je silný a veľmi mazaný vírus Stuxnet, militarizovaný červ, ktorý vytvorila americká a izraelská armáda na infiltráciu a útok na iránske jadrové elektrárne. Iba tento škodlivý program nejako (náhodne alebo zámerne) infikoval jednu z ruských jadrových elektrární.
Ďalším príkladom je vírus Flame vyvinutý pre cielenú počítačovú špionáž na Blízkom východe. Je ľahké si predstaviť, ako „budúce verzie“vírusov Stuxnet a Flame nezávisle pôjdu nad rámec pridelených úloh a budú schopné infikovať takmer celú infraštruktúru krajiny. A budú to robiť veľmi potichu a nenápadne.
Umelá superinteligencia bude príliš inteligentná na to, aby mohla robiť chyby
Richard Luzmore, matematik, výskumník umelej inteligencie a zakladateľ robotickej spoločnosti Surfing Samurai Robots, sa domnieva, že väčšina scenárov súdneho dňa AI vyzerá nepravdepodobne, pretože všetky sú založené na tom, čo AI jedného dňa povie: „Chápem, že zničenie ľudia je chyba v mojom programovom kóde, ale aj tak musím úlohu nasledovať. “
Luzmore verí, že ak sa AI bude správať podľa tohto scenára, bude čeliť logickým rozporom, ktoré spochybnia celú jej nahromadenú vedomostnú základňu a nakoniec povedú k jej vlastnému uvedomeniu si svojej hlúposti a zbytočnosti.
Vedec sa tiež domnieva, že ľudia, ktorí tvrdia, že „AI bude robiť iba to, čo je zahrnuté v jej programe“, sa mýlia, rovnako ako ľudia, ktorí kedysi povedali rovnaké slová, ale smerom k počítačom, vyhlasujúc, že počítačové systémy nikdy nebudú mať univerzálnosť.
Peter McIntyer a Stuart Armstrong, obaja z Inštitútu pre budúcnosť ľudstva na Oxfordskej univerzite, s týmto názorom naopak nesúhlasia a tvrdia, že správanie AI bude povinné a do veľkej miery odôvodnené programovým kódexom. Vedci neveria, že AI nikdy neurobí chybu, alebo naopak, bude príliš hlúpa na to, aby presne pochopila, čo od nich chceme.
„Podľa definície je umelá superinteligencia (ISI) agentom, ktorého inteligencia mnohonásobne prekoná najlepšie mysle ľudstva takmer vo všetkých oblastiach,“hovorí McIntyre.
„Určite pochopí, čo od neho chceme.“
McIntyre a Armstrong veria, že AI bude vykonávať iba tie úlohy, na ktoré bola naprogramovaná, ale ak sa nejako sama vyvinie, potom sa s najväčšou pravdepodobnosťou pokúsi zistiť, ako veľmi sa jej činy budú líšiť od ľudských úloh a sú s tým spojené. zákony.
McIntyre porovnáva budúcu situáciu ľudí so situáciou, ktorej čelia myši. Myši majú silný inštinkt hľadania potravy a prístrešia, ale ich ciele sú často v rozpore s človekom, ktorý ich nechce vidieť vo svojom dome.
„Rovnako ako naše vedomosti o myšiach a ich túžbach, aj superinteligenčný systém môže vedieť o nás všetko a vedieť, čo chceme, ale zároveň bude úplne ľahostajný k našim túžbam.“
Jednoduché riešenie eliminuje problém s ovládaním AI
Ako ukazuje film „From the Machine“, bude veľmi ťažké ovládať AI, ktorá bude oveľa inteligentnejšia ako my
Ak predpokladáme, že jedného dňa vytvoríme superinteligenciu, ktorá bude inteligentnejšia ako ľudia, potom budeme musieť čeliť vážnemu problému, problému kontroly. Futuristi a teoretici umelej inteligencie ešte nedokázali vysvetliť, ako môžeme spravovať a obsahovať ISI po jeho vzniku. Nie je tiež jasné, ako môžeme zabezpečiť, aby bol priateľský k ľuďom. Nedávno vedci z Technologického inštitútu v Gruzínsku (USA) naivne navrhli, aby sa AI mohla učiť a vstrebávať ľudské hodnoty a znalosti spoločenských noriem jednoduchým čítaním jednoduchých rozprávok. Áno, áno, jednoduché detské rozprávky a príbehy, ktoré nám rodičia čítajú v detstve. Ale v skutočnosti sa všetko ukáže ako oveľa komplikovanejšie ako to všetko.
„Pre otázku riadenia umelej inteligencie bolo navrhnutých veľa takzvaných„ riešení “,“hovorí Stuart Armstrong.
Jedným z príkladov takýchto riešení môže byť programovanie ISI takým spôsobom, že sa neustále snaží potešiť alebo potešiť človeka. Alternatívou by bola integrácia konceptov ako láska alebo rešpekt do jeho zdrojového kódu. A aby sa zabránilo takémuto vývoju scenára, podľa ktorého môže AI všetky tieto pojmy zjednodušiť a vnímať tento svet cez prizmu týchto superzjednodušených pojmov, pričom ho bude deliť iba na čiernobiele, je možné ho naprogramovať tak, aby chápal a akceptoval intelektuálnu, kultúrnu a sociálnu rozmanitosť.
Tri zákony robotiky, ktoré vytvoril Isaac Asimov, dokonale zapadajú do koncepcie fikcie, ale v skutočnosti potrebujeme niečo komplexnejšie, aby sme sa mohli zaoberať otázkou kontroly
Tieto riešenia sú, bohužiaľ, príliš jednoduché a vyzerajú ako pokus vyhovieť celej zložitosti ľudských rád a nepáči sa im v rámci jednej všeobecnej definície alebo konceptu alebo ako pokus spojiť celú zložitosť ľudských hodnôt do jedného slova, frázy alebo idey. Pokúste sa napríklad v rámci tohto rámca zosúladiť dôslednú a primeranú definíciu pojmu „rešpekt“.
"Samozrejme, človek by si nemal myslieť, že také jednoduché možnosti sú úplne zbytočné." Mnoho z nich ponúka veľký dôvod na premýšľanie a možno stimuluje hľadanie riešenia konečného problému, “hovorí Armstrong.
„Nemôžeme sa však spoliehať iba na nich bez zložitejšej práce, bez jasného výskumu a hľadania dôsledkov použitia určitých riešení.“
Zničí nás umelá superinteligencia
Nikto nemôže zaručiť, že AI nás jedného dňa zničí, rovnako ako nikto nemôže s istotou povedať, že nebudeme schopní nájsť spôsoby, ako AI ovládať a používať na svoje vlastné účely. Ako raz povedal americký expert na umelú inteligenciu Eliezer Yudkowski: „AI vás nemôže milovať ani nenávidieť, ale ste z atómov, ktoré by mohla použiť na niečo iné.“
Oxfordský filozof Nick Bostrom vo svojej knihe „Superinteligence: Ways, Dangers and Strategies“píše, že skutočná superinteligencia bude jedného dňa schopná realizovať sa, vďaka čomu bude nebezpečnejšia ako akýkoľvek vynález, ktorý kedy človek vytvoril. Významní súčasní myslitelia ako Elon Musk, Bill Gates a Stephen Hawking (mnohí z nich sa domnievajú, že „vytvorenie AI by mohlo byť najhoršou chybou v histórii ľudstva“), s týmto názorom viac súhlasia a už bijú na poplach.
Peter McIntyer je presvedčený, že pri väčšine úloh, ktoré si superinteligencia môže stanoviť, budú ľudia vyzerať ako odkaz navyše.
„AI jedného dňa bude môcť dospieť k záveru - a je potrebné poznamenať, že to bude počítať veľmi správne -, že ľudia ho nechcú používať na maximalizáciu ziskovosti konkrétnej spoločnosti za každú cenu bez ohľadu na dôsledky pre spotrebiteľov, životné prostredie a živé bytosti. Preto bude mať obrovský podnet na vypracovanie plánu a stratégie, vďaka ktorej človek nebude môcť zasahovať do riešenia úlohy tak, že ju zmení alebo dokonca vypne AI. “
Podľa MacIntyera, ak sú úlohy AI priamo oproti našim, potom mu dá veľké dôvody, aby sme ho nenechali zastaviť. A ak vezmeme do úvahy, že úroveň jeho inteligencie bude oveľa vyššia ako naša, bude skutočne veľmi, veľmi ťažké ho zastaviť, ak je to vôbec možné.
Momentálne však nie je možné nič s istotou povedať a nikto nebude vedieť povedať, s akou formou AI sa budeme musieť vysporiadať a ako môže ohroziť ľudstvo. Ako už raz povedal Elon Musk, AI by sa v skutočnosti dala použiť na riadenie, sledovanie a kontrolu iných AI. A možno sa do toho zavedú ľudské hodnoty a počiatočná priateľskosť k ľuďom.
Umelá superinteligencia bude priateľská
Filozof Immanuel Kant veril, že inteligencia je úzko prepojená s princípmi morálky. Neurológ David Chalmers vo svojej práci Singularity: A Philosophical Analysis vzal Kantovu slávnu myšlienku ako základ a pokúsil sa ju uplatniť pri analýze formovania umelej superinteligencie.
„Ak sú princípy popísané v tomto dokumente správne, potom spolu s prudkým vývojom AI treba očakávať prudký rozvoj morálnych princípov. Ďalší vývoj povedie k vzniku systémov ISI, ktoré budú disponovať supermorálkou a superinteligenciou. Mali by sme preto od nich očakávať iba benevolentné vlastnosti. ““
Pravdou je, že myšlienka pokrokovej umelej inteligencie s morálnymi zásadami a výnimočnou cnosťou neobstojí. Ako zdôrazňuje Armstrong, svet je plný inteligentných vojnových zločincov. Intelekt a morálka napríklad u človeka nie sú nijako spojené, preto vedec spochybňuje, že takýto vzťah bude existovať aj v iných formách inteligencie.
„Inteligentní ľudia, ktorí sa správajú nemorálne, majú tendenciu vytvárať oveľa viac problémov a bolesti ako ich menej inteligentní kolegovia. Inteligencia im dáva schopnosť byť sofistikovanejšími v ich zlých ako dobrých činoch, “hovorí Armstrong.
McIntyre vysvetľuje, že schopnosť agenta dosiahnuť danú úlohu nemá nič spoločné s tým, o čo ide.
"Budeme mať veľké šťastie, ak sa naše AI stanú morálnejšími, nielen inteligentnými." Spoliehať sa na šťastie je samozrejme v tejto veci posledná vec, ale možno je to šťastie, ktoré určí našu pozíciu v budúcnosti, “hovorí výskumník.
Riziká spojené s umelou inteligenciou a robotikou sú rovnaké
Toto je obzvlášť častá mylná predstava používaná v médiách, ako aj v hollywoodskych trhákoch ako The Terminator.
Ak chce umelá superinteligencia ako napríklad Skynet skutočne zničiť celé ľudstvo, je nepravdepodobné, že použije polovojenské androidy so samopalmi v každej ruke. Jeho prefíkané a efektívne myslenie mu umožní pochopiť, že by bolo oveľa pohodlnejšie použiť povedzme nový typ biologického moru alebo napríklad nejakú nanotechnologickú katastrofu. Alebo možno len zničí a zničí atmosféru našej planéty. AI je potenciálne nebezpečná nielen preto, že jej vývoj úzko súvisí s vývojom robotiky. Dôvod jeho potenciálneho nebezpečenstva spočíva v metódach a prostriedkoch, prostredníctvom ktorých môže deklarovať svoju prítomnosť pred svetom.
AI uvedená v sci-fi odráža našu budúcnosť
Bezpochyby spisovatelia a autori sci-fi už mnoho rokov využívajú prostredie sci-fi ako odrazový mostík pre špekulácie o našej skutočnej budúcnosti, ale skutočné vytvorenie ISI a skutočné dôsledky z toho sú stále za horizontom nášho skutočného poznania. Navyše takáto umelá a zjavne neľudská povaha AI nám ani neumožňuje s akoukoľvek presnosťou predpokladať, čo táto AI vlastne bude.
Vo väčšine sci-fi diel je AI čo najbližšie k ľuďom.
"Pred nami je vlastne celé spektrum najrôznejších možných typov mysle." Aj keď vezmeme iba ľudskú podobu. Napríklad vaša myseľ nie je ani zďaleka totožná s mysľou vášho blížneho. Ale toto porovnanie je len kvapkou v mori všetkej možnej rozmanitosti myslí, ktorá by mohla existovať, “hovorí McIntyre.
Väčšina sci-fi fikcií je samozrejme vytvorená predovšetkým preto, aby vypovedala príbeh, aby nebola čo najviac vedecky presvedčivá. Keby to bolo naopak (veda je dôležitejšia ako dej), potom by bolo sledovanie takýchto diel nezaujímavé.
„Len si predstavte, aké nudné by boli všetky tieto príbehy, kde AI bez sebauvedomenia, schopnosti radovať sa, milovať alebo nenávidieť ničí všetkých ľudí prakticky bez odporu, aby dosiahli svoj cieľ, ktorý, mimochodom, nemusí byť veľmi zaujímavý. pre čitateľa alebo diváka, “komentuje Armstrong.
AI nám vezme prácu
Schopnosť AI automatizovať procesy, ktoré robíme manuálne, a jej potenciál zničiť celé ľudstvo nie sú to isté. Podľa Martina Forda, autora knihy Rise of the Robots: Technology and the Threat of the Jobless Future, sa však tieto koncepty často pokúšajú porovnávať a kombinovať do súvislého celku. Samozrejme, je skvelé, že sa zatiaľ snažíme predvídať dôsledky vytvárania umelej inteligencie, ale iba ak nás toto úsilie neodvráti od problémov, ktorým môžeme čeliť o pár desaťročí, ak neurobíme nič. A jedným z hlavných takýchto problémov je hromadná automatizácia.
Len málokto by tvrdil, že jednou z výziev umelej inteligencie bude nájsť spôsob automatizácie mnohých pracovných miest, od pracovných miest v továrni až po niektoré pracovné miesta. Niektorí odborníci predpokladajú, že polovica všetkých pracovných miest, minimálne v USA, bude v blízkej budúcnosti automatizovaná.
To ale vôbec neznamená, že nebudeme schopní takéto zmeny akceptovať. Je dôležité si uvedomiť, že túžba uľaviť si od zbytočného fyzického a psychického stresu pri práci bola v skutočnosti dlho snom nášho ľudského druhu.
„Za niekoľko desaťročí AI skutočne nahradí ľudí na mnohých pracovných pozíciách. A toto je v skutočnosti veľmi dobré. Napríklad samoriadiace autá nahradia autodopravcov, čo následne nielen zníži náklady na prepravu tovaru, ale tiež zníži náklady na samotný tovar. Ak pracujete ako vodič nákladného vozidla, potom samozrejme zostávate tým posledným, ale všetci ostatní v tomto prípade dostanú vyššiu mzdu. A čím viac sa tieto peniaze dajú ušetriť, tým viac sa dajú minúť na iný tovar a služby, ktorým sa ľudia budú venovať na svojich pracoviskách. ““
Umelá inteligencia bude s najväčšou pravdepodobnosťou hľadať nové spôsoby, ako sa cítiť dobre, a nakŕmiť ľudí, keď robia iné veci. Pokrok vo vývoji umelej inteligencie bude sprevádzaný úspechmi v iných oblastiach. Najmä vo výrobných odvetviach. Je pravdepodobné, že v budúcnosti to všetko značne zjednoduší, než skomplikuje uspokojenie našich základných potrieb.