Všetci čakáme na okamih, keď sa umelá inteligencia, programy, technológie naučia robiť to isté prakticky, potom sme. To všetko je celkom skutočné. Ale zatiaľ si len málokto myslí, že to isté nebude tento proces pre stroje a ľudí.
Napríklad skupina vedcov z Kyushu University objavila spôsob, ako oklamať programy na rozpoznávanie vzorov zmenou jedného pixla v obraze. Tento pixel je umiestnený tak, že zamieňa neurónové siete zodpovedné za identifikáciu a začnú zamieňať psy za mačky a kone za autá.
Testovacie obrázky boli obmedzené iba na tisíc pixelov, ale pre vyššie rozlíšenie a milióny pixelov pravidlo funguje. Iba je potrebné zmeniť nie jeden pixel, ale niekoľko stoviek.
Druhá skupina vedcov, tentoraz z Massachusettsovho technologického inštitútu, dokázala ísť ešte ďalej. Podarilo sa im vytlačiť sochu korytnačky pomocou 3D tlačiarne, ktorú program, dokonca aj zo všetkých strán a z akéhokoľvek uhla, vzal na pušku. Tento experiment predstavuje oveľa väčší problém pre technológiu rozpoznávania obrazu, pretože celá vec sa stala v skutočnosti a program mal možnosť analyzovať objekt zo všetkých uhlov, ale stále neurčil jeho skutočný tvar.
Spoločne obidve štúdie ukazujú, ako musia roboti a programy cestovať, skôr ako dosiahnu ľudskú úroveň. Naše mozgy sa nakoniec nedajú oklamať výmenou jedného alebo stovky pixelov.
Jediná škoda je, že zdroje neposkytujú vysvetlenie, ako sa ukazuje, že klamajú program. Co si myslis? Čo je tajomstvom „zlomených pixelov“a ako môžete podvádzať 3D model?
Nikolay Kudryavtsev
Propagačné video: