Začiatkom tohto roka podpísalo 116 technologických predstaviteľov otvorený list, v ktorom vyzýva OSN, aby zakázala „smrtiace autonómne zbraňové systémy“. Veria, že to môže viesť k ozbrojeným konfliktom nebývalých rozmerov. The Independent poznamenal, že „po prvý raz odborníci v oblasti AI a robotické spoločnosti v tejto otázke prijali spoločné rozhodnutie.“
Ale nie všetci pozorovatelia sa tak obávajú. Andrew Ng, ktorý donedávna pracoval ako hlavný vedec v spoločnosti Baidu, dospel k záveru, že starosti so zabíjačskými robotmi sú ako obavy z preplnenia na Marse, a budeme mať dostatok času si to uvedomiť.
V prvých rokoch 21. storočia vyvolalo len málo tém väčší záujem alebo debaty energickejšie ako umelá inteligencia, počnúc samotným pochopením tohto pojmu. Tento rok v marci jeden pozorovateľ poznamenal, že „existuje asi toľko definícií AI, koľko je vedcov vyvíjajúcich túto technológiu“. Robbie Whiting, zakladateľ konzultačnej spoločnosti Junior, tvrdí, že „AI nie je len módne slovo - zmení svet.““
Aj keď preháňanie existuje, AI už prestavuje celé odvetvia, ako sú doprava, financie a zdravotníctvo. ČTÚ spoločnosti Facebook verí, že AI „môže vyriešiť problémy v celom planéte“. Elon Musk medzitým tvrdí, že „AI predstavuje zásadné riziko pre existenciu ľudskej civilizácie“. Väčšina technológií nie je ani užitočná, ani škodlivá - záleží na tom, kto ich používa a prečo.
Málokto nesúhlasí s tým, že AI sa vyvíja oveľa rýchlejšie, ako sa snažíme pochopiť jej zložitú povahu, viac dimenzií a ďalekosiahle dôsledky pre národnú bezpečnosť. V nedávnej správe Gregoryho Allena a Thaniela Chana, postgraduálnych študentov na Harvardovej univerzite, sa žiada, aby vláda vytvorila niečo ako spoločnosť RAND pre AI.
Vedci RAND sa zasa hlásia k slovám harvardského tímu.
Navrhujú zvážiť štyri oblasti, v ktorých môže byť vplyv AI významný, ale neistý.
Propagačné video:
Pracoviska
Kai Fu Lee, predseda predstavenstva SinovationVentures, je presvedčený, že AI je „zameraná na znižovanie počtu pracovných miest vo veľkom rozsahu“, zatiaľ čo bohatstvo sústreďuje do rúk spoločností, ktoré rozvíjajú alebo prijímajú AI. Iní sa domnievajú, že podobné obavy boli prítomné aj s nástupom všetkých technológií, ktoré menia svet, až po tlačiarenský stroj v 15. storočí.
The Economist presviedča čitateľov, že „AI vytvára dopyt po pracovných miestach“a rastúci počet ľudí na celom svete „poskytuje digitálne služby na internete“. Ktoré spoločnosti a krajiny budú v ére AI prosperovať? Aké segmenty zmiznú, zmenia sa, budú vytvorené? Ako sa zmení charakter práce?
Vojna
Priaznivci bojových dronov tvrdia, že také zbrane môžu zasiahnuť ciele s oveľa vyššou presnosťou ako ľudia; a čím väčšiu úlohu hrajú vo vojnovom divadle, tým menej často ich technici využijú na ublíženie.
Čo však v prípade, že sa takáto zbraň osamostatní a bude fungovať nezávisle, bez ľudského zásahu? Povedie vyradenie ľudí zo zoznamu vojenského personálu k ešte závažnejším a nezastaviteľným závodom v zbrojení?
Otvorený list, ktorý bol zverejnený na Medzinárodnej konferencii o umelej inteligencii v roku 2015, varoval, že autonómne zbrane „nevyžadujú drahé ani ťažko dostupné suroviny, takže sa stanú všadeprítomnými a lacnými pre všetky významné vojenské sily na hromadnú výrobu“. Bude éra automatizovaných zbraní pokojnejšia alebo agresívnejšia?
Vedci z RAND požadujú analytický rámec a medzinárodné úsilie o využitie bojových dronov dlhého dosahu v boji proti terorizmu a cieleným vraždám.
Robiť rozhodnutia
Politici sú neustále konfrontovaní s nespočetným výberom a motívmi - v dobách sociálnych médií ich je oveľa viac ako pred dvadsiatimi rokmi. Takéto preťaženie informáciami neumožňuje vyrovnať sa so situáciou počas krízy, nehovoriac o viacerých krízach.
Nedávno sa objavil návrh, aby sa „všetky rozhodnutia prezidenta uskutočnili cez počítač - neurobilo konečné rozhodnutie, ale pomohlo vodcovi v osobe človeka“.
Ale zatiaľ čo AI je v súčasnosti väčšinou bez hriechu, výskum spoločnosti RAND zdôrazňuje riziká algoritmického skreslenia pri filtrovaní správ, ovplyvňovaní trestného práva a dokonca pri poskytovaní dávok sociálneho zabezpečenia a vydávaní víz. Aké rozhodnutia by sa mali robiť s AI? Čo by malo zostať v rukách človeka? V rukách tímu ľudí?
Tvorba
Svet je zvyknutý na AI, ktorá dokáže predvádzať vzrušujúce výpočtové výkony a poraziť ľudí v populárnych stolných hrách (uplynulo len niečo vyše 20 rokov, čo superpočítač IBMDeepBlue skvele porazil šachového veľmajstra Garryho Kasparova). Ako bude ďalej napredovať v tvorivom priestore ľudí?
Výskumník umelej inteligencie Jesse Engel verí, že „transformuje tvorivý proces … pomocou inteligentných nástrojov, ktoré poskytujú nové spôsoby vyjadrovania“. Iné nie sú také optimistické. Novinárka Adrienne Lafrance poznamenáva, že AI už môže „flirtovať“, „písať romány“a „falošné slávne obrazy s úžasnou presnosťou“. Čo to znamená byť kreatívny? Čo navyše znamená byť človekom?
Diskusie o umelej inteligencii idú často do extrémov, či už je to prísľub utópie zbavenej ľudského utrpenia alebo nebezpečenstvo dystopie, keď roboti zotročujú svojich ľudských tvorcov. Vyžaduje sa vyváženejšia a dôslednejšia analýza, ktorá pomôže formovať politiky na zníženie rizík a maximalizáciu prínosov. Je potrebné podniknúť určité kroky na prekonanie obáv, že AI bude fungovať pre štát a spoločnosť.
Ako môže AI ovplyvniť národné záujmy krajiny? Aké typy AI, ak existujú, možno považovať za strategické technológie na základe vládnych kritérií? Kde by mali hrať trhové sily a kde je politika? Aj keď AI zostáva prevažne doménou sci-fi, tieto problémy získavajú čoraz väčší význam.
Iľja Khel