Vynález umelej inteligencie je ústrednou témou sci-fi už od 19. storočia. Z príbehu E. M. Forster's Stoping the Cars (1909) až do nedávneho televízneho seriálu HBO Západný svet, autori majú tendenciu túto možnosť vykresliť ako nekontrolovateľnú katastrofu.
Ale táto otázka už nie je fikciou. Významní moderní vedci a inžinieri sa teraz obávajú, že super-AI môže jedného dňa prekonať ľudskú inteligenciu a stať sa „najhoršou chybou“ľudstva.
Súčasné trendy naznačujú, že ľudstvo sa chystá vstúpiť na medzinárodný závod v zbrojení pre túto technológiu. Bez ohľadu na to, či high-tech spoločnosť alebo vládne laboratórium vynaložilo prvé AI, bude mať potenciálne dominantnú technológiu na svete.
Takže pre tých, ktorí chcú zastaviť takúto udalosť, je otázkou, ako odradiť preteky v zbrojení tohto druhu alebo aspoň prinútiť konkurenčné tímy, aby nezanedbávali bezpečnosť super-AI.
Ako poznamenal filozof Nick Bostrom, umelá inteligencia predstavuje pre vynálezcov dva základné problémy. Jedným z nich je problém kontroly, ktorým je zabezpečiť, aby umelá inteligencia mala rovnaké ciele ako ľudstvo.
Bez tohto môže AI úmyselne, náhodne alebo neúmyselne zničiť ľudstvo.
Druhým je politický problém, ktorým je zabezpečiť, aby výhody novej technológie neboli rozšírené iba na elitu, ale boli dostupné pre celé ľudstvo.
Ak dôjde k zbrojeniu v AI, mohlo by to viesť k tomu, že konkurenčné skupiny tieto problémy ignorovali, aby mohli rýchlejšie rozvíjať svoje technológie. To môže viesť k vzniku nepriateľského super-AI.
Propagačné video:
Jedným z navrhovaných riešení je použitie verejnej politiky, ktorá sťažuje preteky, znižuje počet konkurenčných skupín. Čím menej súperov, tým menší bude tlak.
Ako však môžu vlády týmto spôsobom obmedziť hospodársku súťaž?
V typickom závode o nové technológie budú súťažiť iba najkonkurenčnejšie tímy.
Je to preto, že pravdepodobnosť vymýšľania super-AI je veľmi malá a rasa je veľmi drahá z dôvodu veľkých investícií do výskumu a vývoja.
To naznačuje, že zníženie počtu konkurenčných skupín nie je v súčasnosti najdôležitejšou prioritou. Ale aj s menším počtom pretekárov v súťaži môže intenzita súťaže viesť k vyššie uvedeným problémom.
Aby sa znížila intenzita hospodárskej súťaže medzi skupinami, ktoré sa snažia vytvoriť super-AI a zvýšili svoje schopnosti, môžu sa vlády obrátiť na vládne obstarávanie a dane.
Samozrejme, všetko záleží na tom, či je super-AI skutočne hrozbou pre ľudstvo. A niektorí vedci si to nemyslia. Prirodzene by sme sa nakoniec mohli zbaviť rizík spojených s jeho vývojom. Niektorí ľudia si myslia, že ľudia sa môžu dokonca spojiť s AI.
Nech už je to akokoľvek, naša planéta a jej obyvatelia budú mať obrovský úžitok z toho, aby získali čo najlepšie z AI, technológie, ktorá je stále v plienkach. Aby sme to dosiahli, musíme pochopiť, akú úlohu môže hrať ľudstvo.