Upravené videá sa objavujú na internete, v ktorom ľudia hovoria určitými slovami (aj keď ich v skutočnosti nehovorili) alebo vykonávajú určité akcie (hoci ich vlastne neurobili). Vďaka novému vývoju založenému na umelej inteligencii sa kvalita takýchto video falzifikátov výrazne zvýši.
Technológie na vytváranie falošných videí sa dnes neobmedzujú iba na pohyby pier a tváre osoby v pôvodných rámoch - systém založený na umelej inteligencii je schopný pripraviť realistické video, v ktorom upravený digitálny obraz osoby môže pohybovať hlavou rôznymi smermi, blikať a prejavovať emócie. Všetky akcie a slová herca, ktorý je natočený v pôvodnom videu, sa prenesú do falošného videa.
Vývojový tím porovnal nový algoritmus s existujúcimi systémami manipulácie s videom a fotografiami, s ktorými sú spojené Facebook a Google. Nový algoritmus predčil existujúce techniky a účastníci experimentu nemohli sotva určiť pravosť videí.
Výskumníci boli čiastočne financovaní spoločnosťou Google. Tvorcovia systému dúfajú, že nová technológia zlepší virtuálnu realitu. AI potrebuje iba študovať niekoľko minút zdrojového materiálu, aby mohla začať vytvárať upravené video. Vedci preto tvrdia, že vysokokvalitný softvér na úpravu videa sa stane dostupnejším.
Vývojári chápu, že ich vynález môže vyvolať určité obavy v komunite.
Vedecký pracovník Justus Tees povedal The Register, že sa obáva etickej stránky problému. Výsledky štúdie boli zverejnené s cieľom upozorniť ľudí na pokrok v manipulačných technikách, uviedol Tees.
Vedci opäť „varovali pred nebezpečenstvom“, pokračovali v zdokonaľovaní podozrivých technológií. V texte štúdie sa etická otázka spomínala len prechodne: vývojári sa domnievajú, že niekto by mal vylepšiť systém vodoznakov alebo prísť s iným spôsobom, ako zistiť falšovanie videa.
Samotní výskumníci sa nechcú zaoberať týmto problémom, pretože sa zaoberajú zlepšovaním nástroja na vytváranie falošných videí.
Propagačné video:
Anton Komarov