Filmy a televízne seriály ako Blade Runner, People a Westworld, kde sa nám predvádzajú špičkoví roboti, ktorí nemajú žiadne práva, nemôžu ľudí obťažovať svedomím. Koniec koncov, prejavujú nielen náš mimoriadne agresívny vzťah k robotom, ale vlastne nás ako druh hanbia. Všetci sme si zvykli myslieť, že sme lepší ako postavy, ktoré vidíme na obrazovke, a keď nadíde čas, urobíme správne závery a správame sa k inteligentným strojom s veľkou úctou a dôstojnosťou.
S každým krokom v robotike a vývoji umelej inteligencie sa blížime ku dňu, keď sa stroje vyrovnajú ľudským schopnostiam v každom aspekte inteligencie, vedomia a emócií. Keď sa to stane, budeme sa musieť rozhodnúť - pred nami je predmet úrovne chladničky alebo osoba. Mali by sme im poskytnúť rovnaké ľudské práva, slobody a ochranu.
Táto otázka je veľmi rozsiahla a nebude možné ju hneď so všetkou túžbou vyriešiť. Bude to treba zvážiť a vyriešiť naraz z rôznych hľadísk - etika, sociológia, právo, neurobiológia a teória AI. Ale z nejakého dôvodu sa ani teraz vôbec nezdá, že všetky tieto strany dospejú k spoločnému záveru, ktorý vyhovuje každému.
Prečo vôbec posilňovať AI?
Najprv si musíme priznať, že už sa prikláňame k morálke, keď vidíme robotov, ktorí sú si veľmi podobní. Čím viac intelektuálne vyvinutých a „živých“strojov vyzerá, tým viac budeme chcieť uveriť, že sú ako my, aj keď nie sú.
Keď budú mať stroje základné ľudské schopnosti, či sa nám to páči alebo nie, budeme sa na ne musieť pozerať ako na sociálne rovnocenných, nielen na vec, ako na niekoho súkromné vlastníctvo. Ťažkosti budú spočívať v našom chápaní kognitívnych znakov alebo vlastností, ak chcete, pomocou ktorých bude možné hodnotiť subjekt, ktorý je pred nami, z hľadiska morálky, a teda zvážiť otázku sociálnych práv tohto subjektu. Filozofi a etici zápasia s týmto problémom už tisíce rokov.
Propagačné video:
„Existujú tri najdôležitejšie etické limity: schopnosť prežívať bolesť a empatiu, sebauvedomenie a schopnosť vidieť veci z morálneho hľadiska a prijímať príslušné rozhodnutia,“hovorí James Hughes, sociológ, futurista a vedúci Ústavu pre etiku a nové technológie.
"U ľudí, ak máte šťastie, všetky tri tieto absolútne dôležité aspekty sa vyvíjajú postupne a postupne." Čo však v prípade, ak sa z hľadiska strojovej inteligencie verí, že robot, ktorý nemá sebauvedomenie, nezažije radosť ani bolesť, má tiež právo byť nazývaný občanom? Musíme zistiť, či to tak bude v skutočnosti. ““
Je dôležité pochopiť, že inteligencia, citlivosť (schopnosť vnímať a cítiť veci), vedomie a sebauvedomenie (vedomie seba na rozdiel od druhého) sú úplne odlišné veci. Stroje alebo algoritmy môžu byť rovnako inteligentné (ak nie inteligentnejšie) ako ľudia, ale chýbajú im tieto tri základné zložky. Kalkulačky, Siri, skladové algoritmy - všetky sú určite inteligentné, ale nie sú schopné sa realizovať, nie sú schopné cítiť, prejavovať emócie, cítiť farby, príchuť popcornu.
Podľa Hughesa sa sebauvedomenie môže prejaviť spolu s obdarovaním podstaty minimálnymi osobnými právami, ako sú právo na slobodu, nie otrok, právo na vlastné záujmy v živote, právo na rast a zdokonaľovanie sa. Pri získavaní sebauvedomenia a morálnych základov (schopnosť rozlišovať „čo je dobré a čo zlé“podľa morálnych princípov modernej spoločnosti) by mala byť táto entita obdarená plnohodnotnými ľudskými právami: právom uzatvárať dohody, právom vlastniť majetok, hlasovať atď.
„Základné hodnoty osvietenstva nás zaväzujú, aby sme tieto črty posudzovali z hľadiska rovnosti všetkých pred všetkými a aby sme sa vzdali radikálne konzervatívnych názorov, ktoré sa predtým všeobecne prijímali a ktoré dávali práva povedzme iba ľuďom s určitým sociálnym, rodovým alebo územným zázemím,“hovorí Hughes.
Je zrejmé, že naša civilizácia ešte nedosiahla vysoké spoločenské ciele, pretože stále nemôžeme pochopiť svoje vlastné práva a stále sa ich snažíme rozširovať.
Kto má právo byť nazývaný „osobou“?
Všetci ľudia sú jednotlivci, ale nie všetci jednotlivci sú ľudia. Linda MacDonald-Schlenn, špecialistka na bioetiku na Kalifornskej univerzite v Monterey Bay a lektorka na Bioetickom inštitúte Aldena Marthu v Albany Medical Center, tvrdí, že v zákone už existujú precedensy, v ktorých sa so subjektmi iného ako ľudského pôvodu zaobchádza ako s predmetmi práva. A to je podľa jej názoru veľmi veľký úspech, pretože tým vytvárame základ pre otvorenie možnosti v budúcnosti vybaviť AI vlastnými právami rovnocennými s ľudskými právami.
„V Spojených štátoch majú všetky spoločnosti právnu subjektivitu. V iných krajinách existujú aj precedensy, v ktorých sa snažia rozpoznať vzájomné prepojenie a rovnosť všetkého živého na tejto planéte. Napríklad na Novom Zélande sú všetky zvieratá podľa zákona považované za sapientné a vláda aktívne podporuje vývoj kódexov dobrých životných podmienok a etického správania. Indický najvyšší súd označil rieky Gangu a Jamunu za „živé veci“a udelil im štatút samostatných právnych subjektov. “
Okrem toho v Spojených štátoch, ako aj v niekoľkých ďalších krajinách, podliehajú určité druhy zvierat vrátane ľudoopov, slonov, veľrýb a delfínov rozšíreným právam na ochranu pred uväznením, pokusmi a týraním. Ale na rozdiel od prvých dvoch prípadov, keď chcú vziať spoločnosti a rieky pod osobnosť, otázka zvierat sa nejaví ako pokus o podmanenie si právnych noriem. Podporovatelia týchto návrhov sa zasadzujú za podporu skutočnej osoby, teda jednotlivca, ktorého možno charakterizovať na základe jeho určitých kognitívnych (mentálnych) schopností, ako je sebauvedomenie.
MacDonald-Glenn tvrdí, že v takýchto veciach je dôležité opustiť konzervatívny pohľad a prestať uvažovať o zvieratách alebo umelej inteligencii, jednoduchých bezduchých stvoreniach a strojoch. Emócie nie sú luxusom, tvrdí odborník na bioetiku, ale sú neoddeliteľnou súčasťou racionálneho myslenia a sociálneho správania. Práve tieto charakteristiky, a nie schopnosť počítať čísla, by mali hrať rozhodujúcu úlohu pri rozhodovaní o otázke „kto“alebo „čo“by malo mať právo na morálne hodnotenie.
Vo vede existuje čoraz viac dôkazov o emočnej predispozícii u zvierat. Pozorovanie delfínov a veľrýb ukazuje, že sú schopní prejaviť aspoň smútok a prítomnosť vretenových buniek (interneuróny spájajúce vzdialené neuróny a zúčastňujúce sa na zložitých procesoch, ktoré aktivujú sociálne správanie) môže okrem iného naznačovať, že sú schopné vcítiť sa. Vedci popisujú aj prejav rôznych emocionálnych prejavov u opíc a slonov. Je možné, že vedomá AI bude tiež schopná získať tieto emočné schopnosti, čo samozrejme výrazne zvýši ich morálny stav.
„Obmedzenie šírenia morálneho stavu iba na tých, ktorí racionálne uvažujú, že môžu pracovať s AI, ale zároveň sa táto myšlienka pohybuje v protiklade k morálnej intuícii. Naša spoločnosť koniec koncov už chráni tých, ktorí nie sú schopní racionálne uvažovať: novorodencov, ľudí v kóme, ľudí s výraznými fyzickými a psychickými problémami. V poslednej dobe sa aktívne presadzujú zákony o dobrých životných podmienkach zvierat, “hovorí MacDonald-Glenn.
Pokiaľ ide o otázku, komu by sa malo poskytnúť morálne postavenie, MacDonald-Glenn súhlasil s anglickým morálnym filozofom z 18. storočia Jeremiahom Benthamom, ktorý kedysi povedal:
"Otázkou nie je, či môžu uvažovať?" Alebo môžu hovoriť? Ale sú schopní utrpenia? “
Môže stroj získať sebauvedomenie?
Nie všetci samozrejme súhlasia s tým, aby sa ľudské práva vzťahovali aj na ľudí, aj keď sú tieto subjekty schopné prejaviť schopnosti, ako sú emócie alebo sebareflexívne správanie. Niektorí myslitelia tvrdia, že iba ľudia by mali mať právo zúčastňovať sa na spoločenských vzťahoch a celý svet sa točí priamo okolo Homo sapiens. Všetko ostatné - vaša herná konzola, chladnička, pes alebo partner Android - je „všetko ostatné“.
Právnik, americký spisovateľ a vedúci pracovník Inštitútu pre ľudský výnimočnosť Wesley J. Smith je presvedčený, že my sami sme ešte nedostali všeobecné ľudské práva a je o to predčasnejšie uvažovať o lesklých kúskoch železa a ich právach.
"Žiadny stroj by sa nikdy nemal považovať za potenciálneho držiteľa práv," hovorí Smith.
"Aj tie najpokročilejšie stroje stále zostávajú a vždy nimi zostanú." Toto nie je živá bytosť. Toto nie je živý organizmus. Stroj bude vždy iba súborom programov, súborom kódu, či už je vytváraný človekom alebo iným počítačom, alebo dokonca nezávisle programovaný. “
Podľa jeho názoru by sa za jednotlivcov mali považovať iba ľudia a ľudské zdroje.
"Máme zodpovednosť za zvieratá, ktoré nespravodlivo trpia, ale takisto by sa nikdy nemali považovať za niekoho," poznamenáva Smith.
Tu by sme mali urobiť malú poznámku a pripomenúť rusky hovoriacemu čitateľovi, že na Západe sa zvieratá považujú za neživé objekty. Preto je často možné nájsť zámeno „to“(to znamená „to“), a nie „ona“alebo „on“(teda „ona“alebo „on“), pokiaľ ide o konkrétne zviera. Toto pravidlo sa zvyčajne ignoruje iba v prípade domácich miláčikov - psov, mačiek a dokonca aj papagájov - v ktorých domácnosti vidia riadnych a riadnych členov svojich rodín. Smith však zdôrazňuje, že koncept zvieraťa ako „primeraného súkromného majetku“je už cenným identifikátorom, pretože „nás núti k zodpovednosti za jeho použitie spôsobom, ktorý mu neubližuje. Nakoniec sú „kopnutie do psa“a „kopnutie do chladničky“dva veľké rozdiely. “
Zjavne kontroverzným bodom Smithovej analýzy je predpoklad, že ľudia alebo biologické organizmy majú určité „vlastnosti“, ktoré stroj nikdy nemôže získať. V predchádzajúcich epochách boli týmito prehliadanými črtami duša, duch alebo nejaká nehmotná nadprirodzená životná sila. Teória vitalizmu predpokladá, že procesy v biologických organizmoch závisia od tejto sily a nemožno ich vysvetliť z hľadiska fyziky, chémie alebo biochémie. Rýchlo však stratila na význame pod tlakom praktických lekárov a logikov, ktorí nie sú zvyknutí spájať prácu nášho mozgu s nejakými nadprirodzenými silami. Názor, že stroj nemôže nikdy myslieť a cítiť tak, ako to ľudia robia, je stále pevne zakorenený v hlavách aj medzi vedcami, čo iba raz odzrkadľuje skutočnosť, žeže pochopenie biologických základov sebauvedomenia u ľudí má stále ďaleko od ideálu a je veľmi obmedzené.
Lori Marino, odborná lektorka neurológie a behaviorálnej biológie (etológie) v Emory Centre for Ethics, tvrdí, že stroje pravdepodobne nikdy nezískajú žiadne práva, nehovoriac o právach na ľudskej úrovni. Dôvodom sú zistenia neurovedcov, ako je Antonio Damasio, ktorý verí, že vedomie bude určené iba podľa toho, či má subjekt nervový systém s kanálmi, ktoré prenášajú excitované ióny, alebo, ako sama hovorí, pozitívne nabité ióny prechádzajúce cez bunkové membrány vo vnútri nervový systém.
„Tento typ nervového prenosu sa nachádza aj v najjednoduchších živých organizmoch - prostitútkach a baktériách. A to je ten istý mechanizmus, ktorý inicioval vývoj neurónov, potom nervového systému a potom mozgu, “hovorí Marino.
"Ak hovoríme o robotoch a AI, potom sa ich súčasná generácia podriaďuje pohybu negatívne nabitých iónov." To znamená, že hovoríme o dvoch úplne odlišných mechanizmoch bytia “.
Ak sa budete riadiť touto logikou, chce Marino povedať, že aj medúza bude mať viac pocitov ako ktorýkoľvek z najkomplexnejších robotov v histórii.
"Neviem, či je táto hypotéza správna, alebo nie, ale je to určite problém, ktorý je potrebné zvážiť," hovorí Marino.
„Okrem toho vo mne iba zvedavosť hrá a snaží sa zistiť, ako presne sa„ živý organizmus “môže líšiť od skutočne zložitého stroja. Ale napriek tomu sa domnievam, že právna ochrana by sa mala v prvom rade poskytnúť zvieratám, až potom by sa mala brať do úvahy pravdepodobnosť jej poskytnutia na predmety, ktoré sú z môjho pohľadu samozrejme robotmi.
David Chalmers, riaditeľ Centra pre štúdium mysle, mozgu a vedomia na Newyorskej univerzite, tvrdí, že je veľmi ťažké vyvodiť presné závery týkajúce sa celej tejto teórie. Hlavne kvôli skutočnosti, že v súčasnom stave nie sú všetky tieto myšlienky ešte rozšírené, a preto idú ďaleko nad rámec dôkazov.
"V súčasnosti neexistuje dôvod domnievať sa, že by nejaký špeciálny druh spracovania informácií v iónových kanáloch mal určovať prítomnosť alebo neprítomnosť vedomia." Aj keby bol tento druh spracovania nevyhnutný, nemali by sme dôvod domnievať sa, že si vyžaduje určitú špeciálnu biológiu, a nie nejaký spoločný vzor spracovania informácií, ktorý poznáme. A ak áno, potom by v tomto prípade mohla byť simulácia spracovania informácií počítačom považovaná za vedomie. ““
Ďalším vedcom, ktorý verí, že vedomie nie je výpočtový proces, je Stuart Hameroff, profesor anestéziológie a psychológie na arizonskej univerzite. Podľa jeho názoru je vedomie základným fenoménom vesmíru a je neodmysliteľné pre všetky živé a neživé bytosti. Ale zároveň je ľudské vedomie oveľa lepšie ako vedomie zvierat, rastlín a neživých predmetov. Hameroff je zástancom teórie panpsychizmu, ktorá uvažuje o všeobecnej animácii prírody. Takže podľa jeho myšlienok je jediný mozog náchylný na skutočné subjektívne hodnotenie a introspekciu ten, ktorý pozostáva z biologickej hmoty.
Hameroffova myšlienka znie zaujímavo, ale tiež leží mimo hlavného prúdu vedeckého názoru. Je pravda, že stále nevieme, ako sa v našom mozgu objavuje vedomie a sebauvedomenie. Vieme iba to, že je to tak. Je preto možné považovať ho za proces podliehajúci všeobecným pravidlám fyziky? Možno. Podľa toho istého Marina nemôže byť vedomie reprodukované v prúde „núl“a „tých“, to však neznamená, že sa nemôžeme odkloniť od všeobecne akceptovanej paradigmy známej ako von Neumannova architektúra a vytvoriť hybridný systém AI, v ktorom umelé vedomie sa vytvorí za účasti biologických zložiek.
Biopod z filmu „Existencia“
Ed Boyden, neurológ zo Skupiny syntetickej neurobiológie a odborný asistent z MIT Media Lab, tvrdí, že sme ešte stále príliš mladí na to, aby sme si dávali také otázky.
"Nemyslím si, že máme funkčnú definíciu vedomia, ktorú je možné priamo použiť na jeho meranie alebo na jej umelé vytvorenie," uviedol Boyden.
"Z technického hľadiska nemôžete ani len povedať, či som pri vedomí." Momentálne je teda veľmi ťažké vôbec uhádnuť, či ho stroje nájdu. ““
Boyden stále neverí, že nikdy nebudeme schopní znovu vytvoriť vedomie v alternatívnej schránke (napríklad v počítači), pripúšťa však, že v súčasnosti medzi vedcami panujú nezhody o tom, čo presne bude dôležité pre vytvorenie takejto emulácie digitálnej mysle.
"Musíme urobiť oveľa viac práce, aby sme pochopili, čo presne je kľúčovým odkazom," hovorí Boyden.
Chalmers nám zasa pripomína, že sme ani len neprišli na to, ako sa vedomie prebúdza v živom mozgu, takže čo môžeme povedať o strojoch. Zároveň je presvedčený, že stále nemáme dôvod domnievať sa, že biologické stroje môžu mať vedomie, zatiaľ čo syntetické nie.
"Len čo pochopíme, ako vedomie rastie v mozgu, môžeme pochopiť, koľko strojov bude schopné mať toto vedomie," komentuje Chalmers.
Ben Herzel, šéf spoločnosti Hanson Robotics a zakladateľ OpenCog Foundation, hovorí, že už máme zaujímavé teórie a modely toho, ako sa vedomie prejavuje v mozgu, ale žiadna z nich neprichádza k spoločnému menovateľovi a neodhaľuje všetky podrobnosti.
„Toto je stále otvorená otázka, ktorej odpoveď sa skrýva len za pár rôznych názorov. Problém súvisí aj so skutočnosťou, že mnoho vedcov dodržiava pri popisovaní vedomia rôzne filozofické prístupy, aj keď súhlasia s vedeckými faktami a teóriami založenými na vedeckých pozorovaniach práce mozgu a počítačov. ““
Ako môžeme určiť vedomie stroja?
Vznik vedomia v stroji je len jedna otázka. Nemenej zložitá je otázka, ako presne dokážeme detekovať vedomie v robotovi alebo AI. Vedci ako Alan Turing študovali tento problém po celé desaťročia, až nakoniec dospeli k jazykovým testom, aby zistili, či je respondent pri vedomí. Kiež by to bolo také jednoduché. Záverom je, že pokročilé chatboty (programy na komunikáciu s ľuďmi) sú už schopné krúžiť medzi ľuďmi, ktorí začínajú veriť, že pred nimi je živý človek, nie stroj. Inými slovami, potrebujeme efektívnejší a presvedčivejší spôsob kontroly.
„Definíciu individuality v strojovej inteligencii komplikuje problém„ filozofického zombie “. Inými slovami, môžete vytvoriť stroj, ktorý bude veľmi, veľmi dobrý v napodobňovaní ľudskej komunikácie, ale zároveň nebude mať svoju vlastnú identitu a vedomie, “hovorí Hughes.
Dva inteligentné reproduktory zariadenia Google Home rozprávajú
Nedávno sme boli svedkami toho skvelého príkladu, keď medzi sebou komunikovala dvojica inteligentných reproduktorov Google Home. To všetko sa natáčalo a vysielalo naživo. Napriek tomu, že úroveň sebauvedomenia oboch rečníkov nebola vyššia ako tehla, samotná podstata rozhovoru, ktorá sa časom stala intenzívnejšou, pripomínala komunikáciu dvoch humanoidných bytostí. A to zase opäť dokazuje, že otázka rozdielu medzi ľuďmi a umelou inteligenciou bude časom len komplikovanejšia a akútnejšia.
Jedným z riešení podľa Hughesa nie je iba testovanie chovania systémov AI v testoch, ako je Turingov test, ale tiež analýza celej vnútornej zložitosti tohto systému, ako to naznačuje teória Giulia Tononiho. V tejto teórii sa vedomie chápe ako integrovaná informácia (F). Posledný menovaný je zase definovaný ako množstvo informácií vytvorených komplexom prvkov, ktoré je väčšie ako súčet informácií vytvorených jednotlivými prvkami. Ak je Tononiova teória správna, potom môžeme použiť Ф nielen na určenie správania systému ako človeku, ale tiež môžeme zistiť, či je dostatočne komplexný na to, aby sme mali vlastnú vnútornú vedomú skúsenosť podobnú človeku. Teória zároveň naznačuje, že aj pri odlišnom, nie podobnom ľudskom správaní, ako aj pri inom spôsobe myslenia,systém možno považovať za vedomý, ak je komplex jeho integrovaných informácií schopný absolvovať potrebné kontroly.
„Akceptovanie toho, že burzové systémy aj počítačové bezpečnostné systémy môžu mať vedomie, by bolo veľkým krokom od antropocentrizmu, aj keď tieto systémy neprejavujú bolesť a sebauvedomenie. To nám skutočne otvorí cestu k formovaniu a diskusii o otázkach posthumánnych etických noriem. ““
Ďalším možným riešením by mohol byť objav neurálnych korelátov vedomia v strojoch. To znamená, že hovoríme o určení tých častí stroja, ktoré sú zodpovedné za formovanie vedomia. Ak má stroj také časti a správajú sa presne podľa očakávania, potom môžeme skutočne posúdiť úroveň vedomia.
Aké práva by sme mali dať strojom?
Jedného dňa sa robot pozrie človeku do tváre a bude požadovať ľudské práva. Ale zaslúži si ich? Ako už bolo spomenuté vyššie, v tejto chvíli pred nami môže byť obyčajný „zombie“, ktorý sa správa tak, ako bol naprogramovaný, a snaží sa nás oklamať, aby získal nejaké privilégiá. V tomto okamihu musíme byť mimoriadne opatrní, aby sme neprepadli lestu a nedali prístroju v bezvedomí moc. Keď raz prídeme na to, ako zmerať myseľ stroja, a naučíme sa hodnotiť úrovne jeho vedomia a sebauvedomenia, až potom môžeme začať hovoriť o možnosti zváženia otázky, či si agent stojaci pred nami zaslúži určité práva a ochranu alebo si to nezaslúži.
Našťastie pre nás táto chvíľa čoskoro nepríde. Najskôr musia vývojári umelej inteligencie vytvoriť „základný digitálny mozog“dokončením emulácie nervového systému červov, chrobákov, myší, králikov atď. Tieto počítačové emulácie môžu v reálnom svete existovať ako digitálne avatary a roboty. Len čo sa to stane, tieto inteligentné entity prestanú byť bežnými objektmi výskumu a povýšia svoje postavenie na subjekty oprávnené na morálne hodnotenie. To však neznamená, že tieto jednoduché emulácie si automaticky zaslúžia ekvivalent ľudských práv. Zákon ich bude musieť skôr brániť pred zneužívaním a zneužívaním (v rovnakom duchu ako ochrancovia ľudských práv chránia zvieratá pred týraním pri laboratórnych pokusoch).
Nakoniec buď prostredníctvom skutočného modelovania do najmenších detailov, alebo prostredníctvom túžby zistiť, ako funguje náš mozog z výpočtového, algoritmického hľadiska, ale veda dospeje k vytvoreniu počítačových emulácií ľudského mozgu. Do tejto doby by sme už mali byť schopní určiť prítomnosť vedomia v strojoch. Aspoň jeden by v to dúfal. Nechcem ani len myslieť na to, že nájdeme spôsob, ako v aute prebudiť iskru vedomia, ale zároveň sami nebudeme rozumieť tomu, čo sme urobili. Bude to skutočná nočná mora.
Keď robot a AI získajú tieto základné schopnosti, náš počítačový chránenec bude musieť absolvovať testy osobnosti. Stále nemáme univerzálny „recept“na vedomie, ale obvyklý súbor meraní sa spravidla spája s hodnotením minimálnej úrovne inteligencie, sebaovládania, pocitu minulosti a budúcnosti, empatie a schopnosti prejaviť slobodnú vôľu.
"Ak sú vaše možnosti vopred určené, potom nemôžete prisudzovať morálnu hodnotu rozhodnutiam, ktoré nie sú vaše," komentuje MacDonald-Glenn.
Iba po dosiahnutí tejto úrovne ťažkostí s hodnotením bude stroj spôsobilý stať sa kandidátom na ľudské práva. Je však dôležité pochopiť a akceptovať skutočnosť, že roboty a AI budú potrebovať minimálne základné práva na ochranu, ak prejdú testami. Napríklad kanadský vedec a futurista George Dvorsky verí, že roboty a AI si zaslúžia nasledujúci súbor práv, ak zvládnu test osobnosti:
- Právo neodpojiť sa proti svojej vôli;
- Právo na neobmedzený a úplný prístup k vášmu vlastnému digitálnemu kódu;
- Právo na ochranu vášho digitálneho kódu pred vonkajšími vplyvmi proti vašej vôli;
- právo kopírovať (alebo nekopírovať) seba;
- Právo na súkromie (konkrétne právo na skrytie svojho súčasného psychologického stavu).
V niektorých prípadoch sa môže stať, že stroj nebude schopný nezávisle sa domáhať svojich práv, takže je potrebné zabezpečiť možnosť, aby ľudia (ako aj ostatní občania, ktorí nie sú ľuďmi) mohli vystupovať ako zástupcovia takýchto kandidátov pre jednotlivcov. Je dôležité si uvedomiť, že robot alebo umelá inteligencia nemusia byť intelektuálne a morálne dokonalé, aby mohli úspešne absolvovať hodnotenie osobnosti a požadovať ekvivalent ľudských práv. Je dôležité mať na pamäti, že v týchto aspektoch majú ľudia tiež ďaleko od ideálu, takže rovnaké pravidlá budú spravodlivo platiť aj pre inteligentné stroje. Inteligencia je všeobecne ťažká vec. Ľudské správanie je často veľmi spontánne, nepredvídateľné, chaotické, nekonzistentné a iracionálne. Náš mozog nie je ani zďaleka ideálny, takže to musíme brať do úvahy pri rozhodovaní o AI.
Rovnako musí každý uvedomelý stroj, ako každý zodpovedný a zákonný občan, rešpektovať zákony, normy a pravidlá predpísané spoločnosťou. Prinajmenšom ak sa naozaj chce stať plnohodnotnou autonómnou osobou a súčasťou tejto spoločnosti. Zoberme si napríklad deti alebo ľudí s mentálnym postihnutím. Majú práva? Určite áno. Ale my sme zodpovední za ich činy. Rovnako by to malo byť aj s robotmi a AI. V závislosti na svojich schopnostiach musia byť zodpovední sami za seba alebo mať opatrovníka, ktorý môže nielen vystupovať ako obhajca ich práv, ale aj prevziať zodpovednosť za svoje činy.
Ak túto otázku ignorujete
Len čo naše stroje dosiahnu určitú úroveň zložitosti, už ich nemôžeme ignorovať z pohľadu spoločnosti, mocenských a právnych inštitúcií. Nebudeme mať žiadny presvedčivý dôvod poprieť im ľudské práva. Inak by sa to rovnalo diskriminácii a otroctvu.
Vytvorenie jasnej hranice medzi biologickými bytosťami a strojmi bude vyzerať ako jasné vyjadrenie ľudskej nadradenosti a ideologického šovinizmu - biologickí ľudia sú zvláštni a záleží len na biologickej inteligencii.
„Ak vezmeme do úvahy našu túžbu alebo neochotu rozšíriť hranice našej morálky a podstatu konceptu individuality, potom bude znieť dôležitá otázka takto: akí ľudia by sme chceli byť? Budeme sa aj v tejto veci riadiť „zlatým pravidlom“(urobte to ostatným, ako by ste chceli, aby sa s vami zaobchádzalo), alebo budeme ignorovať svoje vlastné morálne hodnoty? “- pýta sa MacDonald-Glenn.
Posilnenie umelej inteligencie bude dôležitým precedensom v histórii ľudstva. Ak môžeme na AI pozerať ako na sociálne rovnocenných jednotlivcov, bude to priamy odraz našej sociálnej súdržnosti a dôkaz našej podpory zmyslu pre spravodlivosť. Naše neriešenie tejto otázky by sa mohlo zmeniť na všeobecný spoločenský protest a možno aj na konfrontáciu medzi AI a ľuďmi. A vzhľadom na vynikajúci potenciál strojovej inteligencie by to pre druhého mohla byť skutočná katastrofa.
Je tiež dôležité uvedomiť si, že rešpektovanie práv robotov v budúcnosti môže byť prospešné aj pre ďalších jednotlivcov: kyborgov, transgénnych ľudí s cudzou DNA, ako aj ľudí skopírovaných, digitalizovaných a naložených do mozgu superpočítačov.
Od vytvorenia stroja, ktorý si zaslúži ľudské práva, máme ešte ďaleko. Keď však vezmete do úvahy, aký zložitý je problém a o čo konkrétne ide - pre umelú inteligenciu aj pre ľudí - ťažko sa dá povedať, že plánovanie vopred by bolo nadbytočné.
NIKOLAY KHIZHNYAK