Umelá inteligencia sa čoskoro vyvinie na úroveň inteligencie u myší alebo psov, čo predstavuje pre spoločnosť etický problém.
Je čas premýšľať o tom, či si umelá inteligencia zaslúži etickú ochranu, ktorú spoločnosť poskytuje zvieratám, a za akých podmienok by ju mala dostávať, nalieha na vydanie Aeon. Tento problém je potrebné vyriešiť skôr, ako dokážeme vytvoriť AI, ktorá je rovnaká alebo vyššia ako u ľudí.
Na celom svete už existuje veľa komunít a výborov, ktoré zabezpečujú, aby zvieratá neboli zbytočne obetované a neprimerané utrpenie. Ak sa počas výskumu používajú ľudské kmeňové bunky alebo ľudské mozgové bunky, sú etické požiadavky ešte prísnejšie. Etická stránka využívania umelej inteligencie ešte nebola študovaná, oveľa menej kontrolovaná. Možno by to malo byť tak.
Dá sa predpokladať, že si AI nezaslúži druh etickej ochrany poskytovanej ľuďom a zvieratám pre nedostatok vedomia a emócií, ako je radosť alebo utrpenie. Možno. Potom však čelíme zložitej filozofickej otázke: ako vieme, že sme vytvorili niečo, čo je schopné prežiť radosť a utrpenie? Ak je AI dostatočne pokročilá na to, aby sa sťažovala a hájila svoje práva, to je jedna vec. Ale čo keď je ako intelekt myši alebo psa a nemôže povedať o svojich zážitkoch?
Vzniká tu problém, pretože vo vede sa ešte nedospelo k zhode v tom, čo je vedomie a ako určiť, či je alebo nie je prítomné. Predpokladá sa, že na existenciu vedomia je potrebný iba určitý druh dobre organizovaného spracovania informácií: flexibilný informačný model systému vo vzťahu k objektom v jeho prostredí, s kontrolovanými možnosťami pozornosti a dlhodobým plánovaním akcií. Možno v blízkej budúcnosti ľudia vytvoria niečo podobné. Ďalším konzervatívnejším názorom je, že vedomie môže vyžadovať veľmi špecifické biologické vlastnosti, napríklad mozog, ktorý vyzerá ako mozog cicavcov. Stále sme ďaleko od tejto úrovne umelého vedomia.
Nie je jasné, ktorá z týchto myšlienok je správna a či sa v blízkej budúcnosti môže objaviť nová definícia vedomia. Ak je však prvý pohľad správny, môžeme čoskoro vytvoriť mnoho nehumánnych AI, ktoré budú potrebovať ochranu práv.
Práva zvierat a ľudí sa začali brániť až po zaznamenaní závažných etických porušení v ich vzťahu - zbytočné vivisekcie, nacistické lekárske vojnové zločiny, ako aj výskum syfilisov v meste Tuskegee (USA), kde boli touto chorobou infikovaní zdraví ľudia. Možno sa niečo podobné stane v oblasti ochrany AI práv.