Predstavte si, že jedného dňa nejaký zázrak vymyslí technológiu, ktorá umožní ľuďom alebo materiálnym predmetom prechádzať cez steny, a zverejní na internete pokyny, ako lacno postaviť taký zázračný stroj z bežne dostupných domácich materiálov. Ako by sa zmenil svet?
Mnoho priemyselných odvetví sa pravdepodobne stane výrazne produktívnejším. Možnosť prechádzať stenami namiesto použitia dverí by ľuďom uľahčila pohyb po kanceláriách, prepravu tovaru v skladoch a vykonávanie nespočetných každodenných domácich úloh. Negatívne dôsledky by však mohli dobre prevážiť nad pozitívnymi. Udržiavanie cenných vecí pod zámkom by stratilo akýkoľvek význam. Ktokoľvek mohol ľahko vstúpiť do skladu, dostať sa do bankového trezoru alebo domu.
Väčšina metód, ktoré používame na ochranu súkromného vlastníctva, sa týka tak či onak múrov, takže všetky by boli cez noc zbytočné. Zlodeji by konali beztrestne, kým spoločnosť nepríde s alternatívnymi spôsobmi, ako takýmto zločinom zabrániť. Výsledkom takéhoto vývoja udalostí by mohol byť hospodársky kolaps alebo sociálny chaos.
Vyššie uvedené ilustruje všeobecnú zásadu: technologické inovácie nie sú pre spoločnosť vždy prinajmenšom z krátkodobého hľadiska prospešné. Technológie sú schopné vytvárať negatívne externality, externality. Tento ekonomický výraz znamená škodu spôsobenú tretím stranám alebo stranám. Ak tieto negatívne externality prevažujú nad užitočnosťou samotnej technológie, vynález v skutočnosti aspoň na chvíľu zhoršuje, nie zlepšuje svet.
Strojové učenie, najmä variácia známa ako hlboké učenie, je pravdepodobne najteplejším technologickým prielomom na planéte. Umožňuje počítačom vykonávať mnoho úloh, ktoré predtým mohli robiť iba ľudia: rozpoznávať obrázky, riadiť autá, obchodovať na trhoch s akciami a ďalšie. To u niektorých ľudí vyvolalo strach, že vďaka strojovému učeniu môžu byť ľudia na pracovisku nepotrební a zbytoční. A to je skutočne možné, ale existuje oveľa vážnejšie nebezpečenstvo zo strojového učenia, ktorému sa doteraz nevenovala dostatočná pozornosť. Ide o to, že ak sú stroje schopné učiť sa, môžu sa naučiť tiež klamať.
Ľudia dnes môžu falšovať obrázky, napríklad fotografie, ale je to namáhavý a zložitý proces. A falšovanie hlasu alebo obrazu je všeobecne nad možnosti bežného človeka. Ale čoskoro bude vďaka strojovému učeniu pravdepodobne možné ľahko vytvoriť vierohodné falošné videozáznamy tváre niekoho človeka a vytvoriť dojem, že daná osoba hovorí vlastným hlasom. Už existuje technológia na synchronizáciu pohybov pier, ktorá dokáže človeku doslova vložiť akékoľvek slová do úst. Toto je iba vrchol ľadovca. Dvanásťroční ľudia budú čoskoro schopní vytvárať fotorealistické a vierohodne znejúce falošné obrazy politikov, vedúcich podnikateľov, ich príbuzných alebo priateľov v ich spálňach a rozprávať všetko, čo si vedia predstaviť.
To samo o sebe vyvoláva zjavné zneužitie. Politické hoaxy, takzvané „falošné správy“alebo „vypchávanie informácií“, sa budú šíriť ako požiare. Samozrejme, podvod bude odhalený čo najskôr - žiadna digitálna technológia nemôže byť taká dobrá, aby iná technológia nedokázala odhaliť faloš. To sa ale stane až potom, keď škodlivá myšlienka už prenikla do myslí ľudí, ktorí v ňu veria. Predstavte si perfektne vymyslené falošné video prezidentských kandidátov, ktorí kričia rasové nadávky alebo sa priznávajú k závažným zločinom.
Je to však iba začiatok. Predstavte si potenciál manipulovať s akciovým trhom. Predpokladajme, že niekto šíril falošné video, na ktorom výkonný riaditeľ Tesly Elon Musk pripúšťa, že automobily Tesla nie sú bezpečné. Video sa rozšíri po internete a akcie spoločnosti sa zrútia. Čoskoro po odhalení falošného tovaru sa ich cena obnoví, avšak počas tejto doby budú manipulátori schopní zarobiť obrovské peniaze a hrať tak na znížení akcií spoločnosti Tesla.
Propagačné video:
A to zďaleka nie je najextrémnejší scenár. Predstavte si, že taký vtipálek vytvorí realistické falošné video prezidenta Donalda Trumpa s vyhlásením, že hrozí úder na severokórejské ciele, a potom zverejní toto video tam, kde ho môžu vidieť Severokórejčania. Aké sú šance, že si severokórejské vedenie uvedomí, že ide o falošnú správu, skôr ako sa bude musieť rozhodnúť začať vojnu?
Tí, ktorí majú tendenciu považovať také extrémne scenáre za poplašné, budú rozumne poukazovať na to, že je možné zistiť akékoľvek falošné, pretože na ich detekciu sa použijú rovnaké technológie strojového učenia. To však neznamená, že nám nehrozí, že skončíme vo svete plnom všadeprítomných falzifikátov. Keď budú falzifikáty dostatočne vierohodné, že ich ľudia sami nedokážu odhaliť, navždy stratíme dôveru v to, čo vidíme a počujeme. Namiesto toho, aby sme dôverovali svojim vlastným zmyslom, budeme nútení spoliehať sa na algoritmy používané na detekciu falzifikátov a autentifikáciu informácií. Počas evolúcie sme sa naučili dôverovať vlastným pocitom,a prenos týchto funkcií do strojovej inteligencie môže byť pre väčšinu ľudí príliš prudký.
To by mohla byť zlá správa pre ekonomiku. Obchodné a obchodné siete sú postavené na dôvere a komunikácii. Ak strojové učenie jedného dňa vrhne do verejnej informačnej sféry nekonečnú búrku ilúzií a falzifikátov, steny vytvorené evolúciou na rozlíšenie reality od fikcie sa zrútia. V takom prípade môže úroveň dôvery v spoločnosť rýchlo klesnúť, čo sa nespomalí, aby negatívne ovplyvnilo globálny blahobyt ľudstva.
Z tohto dôvodu by vláda mala pravdepodobne podniknúť určité kroky na zabezpečenie prísneho trestania digitálneho falšovania. Bohužiaľ je nepravdepodobné, že by súčasná administratíva urobila takýto krok z lásky k správam úzkych strán. A vlády ako Rusko budú mať pravdepodobne ešte menej sklon tieto praktiky obmedzovať. Kombinácia zlého riadenia a výkonných nových technológií v konečnom dôsledku predstavuje pre ľudskú spoločnosť oveľa väčšiu hrozbu ako samotné technológie.
Autor: Noah Smith - publicista spravodajskej agentúry Bloomberg
Igor Abramov