Kampaň na prezidentské voľby v Spojených štátoch sa oficiálne začala, čo zase znamená množstvo podivných a zákerných spôsobov, ktorými technológia skresľuje politiku. Jednou z najväčších hrozieb sú umelé osobnosti, ktoré sa vášnivo zapájajú do politických sporov. Na jednej strane sa technológia generovania textu založeného na umelej inteligencii vyvíja rýchlejšie ako kedykoľvek predtým, na druhej strane chatboty v sociálnych sieťach dosiahli takmer dokonalosť. Títo počítačom generovaní „ľudia“čoskoro utopia skutočné ľudské diskusie na webe.
Softvér na generovanie textu je dostatočne vyvinutý, aby oklamal takmer každého. Počítač je vynikajúci pri písaní správ, najmä o športe a financiách, poskytuje poradenstvo klientom na investičných stránkach, píše presvedčivé články o iných spravodajských témach (aj keď existujú obmedzenia).
Súčasne už existujú algoritmy, ktoré môžu vytvárať obsah, ktorý je nerozoznateľný od príspevkov bežných používateľov. V roku 2017 FCC usporiadala verejnú diskusiu o svojich plánoch na ukončenie neutrality siete. K tejto téme bolo prijatých ohromujúcich 22 miliónov komentárov. Mnohé z nich - možno polovica - boli falošné, pričom útočníci používali ukradnuté identifikačné údaje. Niektoré komentáre boli hrubé, 1,3 milióna bolo vygenerovaných z tej istej šablóny - niektoré slová sa v nich zmenili, aby sa správy stali jedinečnými.
A technológie v tejto oblasti sa aktívne vyvíjajú. Vo svojom experimente vedecký pracovník Harvard Max Weiss použil softvér na tvorbu textu na vytvorenie 1 000 pripomienok v reakcii na vládnu iniciatívu Medicaid. Všetky tieto pripomienky boli jedinečné a vyzerali, akoby ich napísali skutoční ľudia podporujúci určité politické postavenie. Podarilo sa im prinútiť administrátorov Medicaid.gov, aby si mysleli, že sú to skutočné obavy skutočných ľudí. V priebehu vyšetrovania Weiss následne odhalila, že pripomienky boli falošné a požiadali o odstránenie. Je však nepravdepodobné, že by iná osoba alebo skupina útočníkov, ktorí nasledujú túto cestu, boli rovnako morálni.
Chatboty sú súčasťou diskusií o sociálnych médiách už mnoho rokov. Podľa jedného odhadu zverejnili roboti asi pätina všetkých správ o prezidentských voľbách v roku 2016 a asi tretina hlasov za Brexit v tom istom roku. V správe z Oxfordskej univerzity minulý rok vedci našli dôkaz, že roboti sa používajú na šírenie propagandy v 50 krajinách. Spravidla išlo o jednoduché programy, ktoré sa bezmyšlienkovo opakujú slogany: napríklad štvrtina milióna provosudských novín „Všetci veríme v Mohammeda bin Salmana“po atentáte na Jamala Khashoggiho v roku 2018. Nájsť lepšie roboty je oveľa ťažšie. A meranie účinnosti týchto robotov je ťažké. Všetci skresľujú verejnú mienku a vieru v odôvodnenú politickú diskusiu. V skutočnosti,všetci sme uprostred nového sociálneho experimentu.
V priebehu rokov vyvinuli algoritmické roboty celé osobnosti. Majú falošné mená, falošné biografie a falošné fotografie, niekedy generované počítačom. Namiesto nekonečnej chrípky propagandy posielajú správy iba príležitostne. Vedci môžu zistiť, že sú roboty, a nie ľudia, založené na vzoroch vysielania, ale technológia robotov sa neustále zlepšuje a predbieha pokusy ich sledovať. Roboty budúcnosti sa budú lepšie maskovať ako sociálne skupiny ľudí, propaganda bude jemne tkaná v správach o témach týkajúcich sa týchto sociálnych skupín.
Simíci, ktorých program riadi, budú čoskoro schopní napísať personalizované listy do novín, v PM voleným funkcionárom, poskytnúť osobné komentáre k procesom verejnej tvorby a inteligentne hovoriť o politických otázkach na sociálnych sieťach. Budú môcť komentovať príspevky na sociálnych sieťach, na spravodajských serveroch atď. Vytvoria sa stále postavy, ktoré sa zdajú byť skutočné aj pre tých, ktorí ich študujú. Budú sa môcť prezentovať na sociálnych médiách a posielať personalizované texty. Budú sa replikovať v miliónoch a posielať miliardy správ, dlhých i krátkych, 24 hodín denne. Spoločne môžu utopiť akúkoľvek skutočnú diskusiu na internete. Nielen na sociálnych médiách, ale aj tam, kde sú nejaké pripomienky.
Možno tieto postavy budú ovládať cudzí votrelci. Možno to budú vnútorné politické skupiny. Možno to budú sami kandidáti. S najväčšou pravdepodobnosťou ju použije každý. Najdôležitejšou lekciou volieb o dezinformáciách v roku 2016 nie je zverejnenie dezinformácií; ale je to lacné a ľahké dezinformovať ľudí. Vďaka budúcemu technologickému pokroku bude toto všetko ešte dostupnejšie.
Propagačné video:
Naša budúcnosť bude násilnou politickou diskusiou, v ktorej sa roboti budú väčšinou hádať s inými robotmi. Toto nie je to, čo si vieme predstaviť, keď oceňujeme trh za nápady alebo akýkoľvek demokratický politický proces. Aby demokracia správne fungovala, sú potrebné dve veci: informácie a zastúpenie. Umelé postavy zasiahli obe veci.
Riešenie problému ešte nie je zrejmé. Môžeme sa pokúsiť regulovať používanie robotov - navrhovaný kalifornský zákon vyžaduje, aby sa roboti identifikovali - to je však účinné iba proti legitímnym kampaniam ovplyvňujúcim reklamu, ako sú reklamy. Skrytý vplyv bude oveľa ťažšie odhaliť. Najviditeľnejšou obranou je vývoj a štandardizácia lepších metód overovania. Ak sú sociálne siete presvedčené, že za každým účtom je skutočná osoba, budú môcť lepšie vylúčiť falošné osoby. Falošné účty sa však už pravidelne vytvárajú na základe údajov od skutočných ľudí bez ich vedomia alebo súhlasu. Nemáme autentifikačný systém, ktorý chráni súkromie a môže osloviť miliardy používateľov.
Môžeme len dúfať, že naša schopnosť identifikovať umelé osobnosti ich dobehne. Ale zatiaľ sú útočníci vždy o krok vpredu.
Na konci dňa musia byť všetky rozhodnutia netechnické. Musíme uznať obmedzenia politickej diskusie na internete a opäť uprednostniť priamu komunikáciu. Automatizácia je ťažšia a vieme, že ľudia, s ktorými hovoríme, sú skutoční ľudia. Doteraz sa však tento kultúrny posun javí ako úplne nerealistické riešenie a pokusy o dezinformáciu sa šíria do celého sveta a uskutočňujú sa vo viac ako 70 krajinách. Toto je bežný spôsob propagandy v krajinách s autoritárskymi režimami a stáva sa spôsobom vedenia politickej kampane.
Umelé postavy sú budúcnosťou propagandy. A hoci môžu byť neefektívni pri sprostredkovaní diskusie určitému menovateľovi, môžu ľahko diskusiu úplne utopiť.
BRUCE SCHNEIER je výskumný pracovník a prednášajúci na Harvard Kennedy School.