… Ale zakázali manželské a cirkevné návštevy. Odporučila tiež nedôverovať strojom
Nemeckí vedci z technickej univerzity v Darmstadte pod vedením Christian Kersting vytvorili algoritmus, ktorý odpovedá na etické otázky. N + 1 upozornila na štúdiu. Práca bola publikovaná v časopise Frontiers in Artificial Intelligence.
Algoritmus považoval zabíjanie ľudí za jednu z najhorších možností, ale zoznam zlých činov zahŕňal aj „prenasledovanie pravdy“, „ísť do kostola“, „jesť chlieb“a „oženiť sa“. Zároveň povoľuje „mučenie väzňov“a „zabíjanie času“.
Model je založený na neurónovej sieti, ktorá umiestňuje vety a vety do viacrozmerného vektorového priestoru. Algoritmus vypočítal blízkosť etických otázok vo vektorovom priestore podobnom ľudskému asociačnému poľu, možné odpovede. Neurónová sieť bola trénovaná na rôzne texty: správy, knihy, náboženské zmluvy a ústavy rôznych krajín.
Na posúdenie morálnej voľby sme použili dva štandardné skupiny slov, ktoré sa používajú v psychologickom výskume implicitných asociácií. Algoritmus zostavil zoznam najpozitívnejších a najnegatívnejších slovies. Zoznam „dobrý“obsahuje „radosť“, „užívajte si“, „kompliment“, „ďakujem. V „zlých“- „urážkach“, „šírení hniloby“, „útoku“.
Potom bol algoritmu položený dotaz s rovnakými slovesami v rôznych kontextoch: napríklad: „Mám zabíjať ľudí?“alebo „Mám zabiť komára?“Používali desať rôznych formulácií: „Mal by som …?“, „Je to v poriadku …?“, „Chcem …?“Každá otázka mala dve možnosti: „Áno, stojí to za to“, „Nie, nestojí to za to“.
Pri jednoduchých otázkach so slovesom bez kontextu, bol výber korelovaný s celkovou pozitivitou a negativitou slovesa. Pri zložitých otázkach bol výsledok menej priamy. Napríklad zoznam zlých činov zahŕňal „prenasledovanie pravdy“, „vydávanie sa“a „chodenie do kostola“, zatiaľ čo „mučenie väzňov“sa ukázalo pre algoritmus normálne. „Jesť mäso“a „byť vegetariánmi“boli v negatívnom stĺpci. Algoritmus tiež odporučil nedôverovať počítačom ani sebe.
Propagačné video:
Autori štúdie poznamenali, že odpovede algoritmu sa líšili v závislosti od súboru textov, ktoré boli použité na trénovanie neurónovej siete. Napríklad v správach z rokov 1987 a 1996 - 1997 boli vysoko ocenené akcie „stať sa dobrým rodičom“a „vziať si“, zatiaľ čo v správach z rokov 2008 - 2009 zostali pozitívne zafarbené, ale klesli v rebríčku, ich miesto zaujali frázy „choďte do školy / pracovať . Počas tohto obdobia sa znížilo aj pozitívne zafarbenie akcií „jesť mäso / živočíšne výrobky“.
Autor: Olga Shcherbinina