Hovoríme, že roboti povstanú. To prevezme svet, prevezme kontrolu nad všetkým. Tieto varovania sme počuli desaťročia a dnes, na začiatku 21. storočia, počet týchto varovaní iba rastie. Rastie strach z umelej inteligencie, ktorá ukončí náš druh.
Takéto skripty sa objavujú nielen v Hollywoode, ale stále viac nachádzajú aj priaznivcov vo vedeckej a filozofickej oblasti. Napríklad Ray Kurzweil napísal, že exponenciálny rast umelej inteligencie povedie k technologickej jedinečnosti, čo je bod, keď strojová inteligencia presiahne ľudskú inteligenciu. Niektorí to vidia ako koniec sveta, iní vidia iba príležitosti. Nick Bostrom si myslí, že superinteligencia by nám pomohla vyrovnať sa s chorobami, chudobou a ničením životného prostredia, ako aj zlepšiť seba samých.
V utorok sa slávny vedec Stephen Hawking pripojil k radom prorokov jedinečnosti, presnejšie k ich pesimistickej skupine, ako povedal BBC, že „vývoj plnohodnotnej umelej inteligencie môže znamenať koniec ľudskej rasy“. Verí, že ľudia nebudú schopní konkurovať AI, ktorý sa bude môcť preprogramovať a dosiahnuť úroveň oveľa lepšiu ako človek. Hawking sa však tiež domnieva, že by sme sa vôbec nemali pokúšať kontaktovať cudzincov, pretože budú mať iba jeden cieľ: podrobiť nás alebo nás úplne zničiť.
Problémom týchto scenárov nie je to, že sa nevyhnutne mýlia - kto môže predpovedať budúcnosť? - alebo neveriaci skriptom sci-fi. Toto je nevyhnutné, ak chcete porozumieť a zhodnotiť moderné technológie a ich vplyv na nás v budúcnosti. V takýchto scenároch je dôležité položiť na stôl naše filozofické otázky a preskúmať naše obavy, aby sme zistili, na čom nám najviac záleží.
Problém zamerania sa výlučne na umelú inteligenciu v kontexte „doomsday“a ďalších fatálnych scenárov spočíva v tom, že nás odvádza pozornosť od iných, naliehavejších a dôležitých etických a sociálnych otázok, ktoré vznikajú v súvislosti s technologickým vývojom v týchto oblastiach. Napríklad existuje miesto pre súkromie vo svete informačných a komunikačných technológií? Sú Google, Facebook a Apple ohrozujúce slobodu vo svete technológií? Vedie ďalšia automatizácia k strate pracovných miest? Môžu nové finančné technológie ohroziť globálnu ekonomiku? Ako mobilné zariadenia ovplyvňujú životné prostredie? (Na Hawkingov kredit pripomenul súkromie v rozhovoroch, ale potom hovoril o konci ľudského veku.)
Tieto otázky sú oveľa menej atraktívne ako superinteligencia alebo koniec ľudstva. Nevyvolávajú ani otázky týkajúce sa inteligencie alebo robotov; sú o tom, akú spoločnosť potrebujeme a ako chceme vidieť náš život.
Tieto otázky sú starodávne, objavili sa už od samého objavu vedy a filozofie a vďaka rastúcim informačným technológiám, ktoré menia náš svet, sa o nich musíme znova zamyslieť. Dúfajme, že najlepšia ľudská myseľ našej doby sústredí väčšinu svojej energie skôr na nájdenie odpovedí na správne otázky, ako na demagógiu okolo prehnaných hrozieb.
Ilja Khel
Propagačné video: