Algoritmus spoločnosti Compas, ktorý pracoval pre americkú políciu od roku 1998, analyzoval údaje obžalovaných a na základe získaných informácií potom pomohol napríklad pri rozhodovaní o tom, či má byť zločinec prepustený na kauciu alebo do väzby. Pri výbere miery premáhania systém bral do úvahy vek, pohlavie a výsledky v trestnej činnosti. Za 20 rokov „služby“algoritmus vyhodnotilo viac ako milión ľudí, ale nedávno bol vyhlásený za nekompetentný, potom bol okamžite odvolaný.
Vedci z Dartmouth College testovali, aký presný je systém a či mu možno dôverovať. Na tento účel prijali nezávislých pracovníkov, obyčajných ľudí bez právnického vzdelania, ktorí sa mohli rozhodovať na základe krátkych informácií o ľuďoch a poskytujúcich subjektom informácie o pohlaví, veku, kriminálnej histórii a niekoľkých ďalších parametroch.
Presnosť prognózy nezávislých pracovníkov, ktorí mali malú dokumentáciu, bola takmer 70 percent, zatiaľ čo program zaostával za ľuďmi o päť percent, pričom sa opieral o 137 biografických bodov. Analýza úsudkov algoritmu ukázala, že program má podozrenie na čiernych väzňov.
„Chyby v takýchto prípadoch môžu byť veľmi drahé, preto stojí za zváženie, či by sa tento algoritmus mal vôbec použiť na vynesenie súdnych verdiktov,“tvrdí jeden z autorov štúdie.
Po preštudovaní princípu algoritmu vedci dospeli k záveru, že čím je obžalovaný mladší a čím viac zatknutých má za sebou, tým vyššia je pravdepodobnosť relapsu, preto odborníci v oblasti AI považovali túto technológiu za nespoľahlivú.
Viacheslav Larionov