Vedci z Chicagskej univerzity (USA) uskutočnili štúdiu, počas ktorej ukázali, ako sa dá AI použiť na písanie zložitých falošných recenzií. Takéto recenzie sú od moderných metód na nerozoznanie od skutočných a nič netušiaci čitatelia ich považujú za spoľahlivé.
Recenzie na reštaurácie sa generovali pomocou opakujúcich sa neurónových sietí (techniky hlbokého učenia), ktoré sa predtým trénovali na tisícoch skutočných recenzií dostupných online.
Podľa vedcov boli vygenerované recenzie prakticky na nerozoznanie od skutočných. Autori práce teda ukázali, že používatelia nielenže nerozpoznali falošné recenzie, ale tiež ich považovali za rovnako užitočné ako skutočné od ľudí.
To druhé je pravdepodobne najviac alarmujúce. Pretože to v podstate znamená, že recenzie napísané AI plnia svoju hlavnú funkciu - účelovo ovplyvňujú názor ľudí.
Je potrebné poznamenať, že pri takýchto kontrolách (pomocou softvéru) bol plagiát zaznamenaný len zriedka. Je to tak kvôli skutočnosti, že AI ich generovala podľa znakov a nevytrhávala slová zo skutočných recenzií.
Dnes existuje pomerne veľký podzemný priemysel, kde ľudia píšu falošné recenzie (pre peniaze). Ako však uviedol profesor Chicagskej univerzity Ben Y. Zhao v rozhovore pre Business Insider, zavedenie AI to môže narušiť. Vedec tvrdí, že zatiaľ nevie o použití takýchto algoritmov v tomto priemysle. Nie je ale zaručené, že niekto niečo podobné nepríde a nevyužije to na osobný prospech.
Vedci zároveň píšu, že reakcie neurónovej siete stále neboli ideálne. Ukázalo sa, že algoritmus používal menšiu skupinu znakov - a to nebolo ťažké vidieť. Podľa autorov práce však môžu byť budúce neurónové siete ešte zložitejšie, a podľa toho bude zložitejšie odhaliť spätnú väzbu, ktorú generujú.
Zhao poznamenáva, že nejde iba o falošné recenzie reštaurácií: takéto technológie môžu vo všeobecnosti vyvrátiť našu vieru v to, čo je skutočné a čo nie.
Propagačné video:
Text štúdie nájdete tu.