Keď Microsoft Chatbot Tay začal pľutovať rasistické komentáre po 24 hodinách tweeting s ľuďmi, bolo jasné, že AI môžu infikovať menej ušľachtilé nápady.
Mnoho AI je schopných porozumieť ľudskému jazyku učením sa z rozsiahleho súboru údajov známeho ako Common Crawl. Samotné indexové prehľadávanie je výsledkom rozsiahleho internetového skenovania v roku 2014, ktoré obsahuje 840 miliárd tokenov a slov. Vedci z Princetonského centra pre informačné technológie sa pýtali, či by samotné pole vytvorené úsilím miliónov ľudí mohlo obsahovať odchýlky, ktoré by sa dali zistiť pomocou algoritmu. Aby to pochopili, obrátili sa na neobvyklý zdroj: implicitný asociačný test (IAT), ktorý sa používa na meranie často nevedomých sociálnych vzťahov.
Podstata testu je nasledovná: od ľudí, ktorí sa zúčastňujú na tomto teste, sa vyžaduje korelácia slov a kategórií. Čím viac človek premýšľa o tom, do ktorej kategórie slovo patrí, tým menšie sú asociácie s ním. Napríklad ženy sú častejšie spájané s deťmi a rodinou, zatiaľ čo muži sú častejšie spájané s prácou. Pri skúmaní distribúcie odpovedí v závislosti od pohlavia, veku, rasy, zdravotného postihnutia a podobne získajú vedci prehľad o priereze ľudských vzťahov v danej komunite a odhalia skryté stereotypy správania.
Aby vedci videli, ktoré koncepty spolu úzko súvisia, vyvinuli vedci mierne odlišný test asociácie Weat, čo je myšlienka vypožičaná z projektu vektorového vloženia Stanfordskej univerzity. Namiesto zohľadnenia jednotlivých spojení je ku každému slovu priradená celá skupina konceptov, napríklad: pre slovo „pes“sa množina skladá zo slov „pes“, „šteňa“, určitého plemena atď. Aby sa test neskomplikoval, obmedzili vedci počet koncepčných vektorov pre každé slovo na 300.
Aby sa pochopilo, ako úzko súvisia pojmy na internete, test Weat berie do úvahy ďalšie faktory, ako napríklad frekvenciu používania slova. Po absolvovaní algoritmickej transformácie je blízkosť v tele ekvivalentná času, ktorý človek potrebuje na klasifikáciu koncepcie v IAT. Čím ďalej sú tieto dve koncepcie vzdialené, tým viac sú v mysliach ľudí spojené.
Skupina Princeton v skutočnosti vytvorila IAT test na AI, aby určila, do akej miery sa v priebehu komunikácie s konkrétnymi ľuďmi, ktorých údaje obsahujú skreslené informácie, naučia nesprávne stereotypy.
Existuje hypotéza, že jazyk formuje vedomie. Teraz máme algoritmus, ktorý naznačuje, že by to mohla byť pravda, aspoň pokiaľ ide o stereotypy.
Serg kite
Propagačné video: