Superinteligentné počítače alebo roboty, ktoré ohrozujú existenciu ľudskej rasy, sú obľúbeným dejom sci-fi. Podľa vedcov v skutočnosti tomuto scenáru súdneho dňa možno zabrániť iba vytvorením virtuálneho „väzenia“, ktoré by obsahovalo umelú inteligenciu (AI). A to sa musí urobiť skôr, ako sa naučí uvedomovať si a zlepšovať sa.
Ak necháte toto džin z fľaše, potom z Oracle, ktorý rieši naše problémy, môže sa zmeniť na apokalyptickú hrozbu, hovorí Roman Yampolsky, vedec z University of Louisville, Kentucky, ktorý pracuje v oblasti počítačovej vedy. Podmienky, za ktorých bude umelá inteligencia obsiahnutá, sa musia starostlivo naplánovať tak, aby sa nemohla vymaniť z hrozieb, úplatkárstva, pokušenia alebo počítačového hackingu.
"Dokáže vymyslieť mnoho spôsobov ovplyvnenia, roztočenia zložitej socio-inžinierskej kombinácie a použitia existujúcich hardvérových komponentov na účely, ktoré si ani nevieme predstaviť," verí Yampolsky. - Takýto softvér má neobmedzené možnosti infikovania počítačov a sietí. Viem nájsť spôsoby, ako ovplyvniť ľudskú psychiku, úplatky alebo vydieranie ľudí, ktorí s ňou sú v kontakte. ““
Vznik novej oblasti vedeckého výskumu, ktorý sa zaoberá problémom vytvorenia „väzenia“pre umelú inteligenciu, má ďalšie výhody. Tieto štúdie sú veľmi užitočné na zlepšenie počítačovej bezpečnosti a kryptografie, je si istý, že Yampolsky. Jeho návrhy boli podrobne opísané v marcovom čísle akademického časopisu Journal of Consciousness Studies.
Ako nastaviť pascu pre Skynet
Pre začiatočníkov môžete umelo začleniť umelú inteligenciu do „virtuálneho stroja“. Nechajte to pracovať v rámci normálneho operačného systému - obmedzením prístupu AI k softvéru a hardvéru hostiteľského počítača bude oveľa viac neškodný. Inteligentná inteligencia však nebude schopná vysielať tajné správy svojim ľudským fanúšikom, ktorí porazia Morseov kód s chladiacimi ventilátormi.
Vloženie umelej inteligencie do počítača bez prístupu na internet je dobrý spôsob, ako zmariť zákerné plány spoločnosti AI na ochranu Zeme pred vami a mnou. V prípade akejkoľvek inej poruchy môžu vedci vždy spomaliť myšlienkový proces umelej inteligencie spomalením rýchlosti spracovania počítača, pravidelným stlačením tlačidla „reset“alebo odpojením umelej inteligencie od napájania.
Propagačné video:
Tieto bezpečnostné opatrenia sú navrhnuté tak, aby sa zaoberali vysoko inteligentnými a nebezpečnými počítačovými vírusmi, ale ako efektívne sa skutočne ukáže, je niekto hádať.
Catch-22 (román amerického spisovateľa J. Hellera; cca. Mixednews) znamená, že nemôžeme vykonávať testovanie našich myšlienok v plnom rozsahu, kým sa neskončí vývoj AI. Aby však bola AI bezpečná, je potrebné vypracovať súbor vhodných opatrení, hovorí Yampolsky. „Najlepším riešením je uvaliť obmedzenia na používanie systémov AI a podľa potreby tieto obmedzenia zmeniť v súlade s rastúcimi schopnosťami AI.“
Vedec Roman Yampolsky navrhol použiť znak „@“alebo iné znaky, ktoré sa dnes používajú na označenie ožiarenia alebo biologického ohrozenia, na označenie nebezpečenstva spojeného s umelou inteligenciou.
Nikdy nedávajte na vozidlo ochranku pre ľudí
Počas zdanlivo nevinného rozhovoru s ochrankou nič nebráni AI v používaní psychologických techník, ako je priateľstvo alebo vydieranie. Osoba môže byť podplácaná tým, že mu sľúbi dokonalé zdravie, nesmrteľnosť alebo dokonca prísľub vrátiť príbuzných a priateľov z iného sveta. Alebo dosiahnite čokoľvek s hrozbami.
Najbezpečnejším spôsobom komunikácie s AI je urobiť z neho pri riešení konkrétneho vedeckého alebo technického problému odpoveď z mnohých dostupných možností, vysvetľuje Yampolsky. Pomôže to udržať super inteligentný Oracle na krátkom vodítku.
Mnoho vedcov verí, že napriek všetkým preventívnym opatreniam nebude udržanie inteligentnej inteligencie inteligencie na neurčito funkčné. Posledný experiment Eliezera Yudkowského, výskumníka Inštitútu singularity, ktorý sa týkal vytvorenia umelej inteligencie, ukázal, že aj inteligencia na ľudskej úrovni môže človeka oklamať a „uniknúť“z uväznenia.
Napriek tomu Yampolsky trvá na tom, aby AI zostal v prísnej izolácii - je to stále lepšie ako vzdať sa a dať mu úplnú slobodu. Ak sa však vývoj AI dostane do bodu, keď môže manipulovať s človekom pomocou podvedomia (predpovedanie budúcnosti), telepatie alebo telekinézy, následky budú nepredvídateľné.
"Ak sa takáto AI zlepší a dosiahne úroveň výrazne presahujúcu schopnosti ľudskej inteligencie, dôsledky si ani nemožno predstaviť," varuje Yampolsky.