Ako počítače robia čudné rozhodnutia
Umelá inteligencia sa vyvíja tak rýchlo, že mnohí začínajú pociťovať úzkosť: ak bude čoskoro schopná prežívať emócie a robiť vlastné rozhodnutia. Či už ide o robota, autonómne vozidlo alebo subjekt s rozhodovacími právomocami v oblasti obchodu a vedy: umelá inteligencia preniká do všetkých oblastí nášho života a spoločnosti. Strojové mozgy sa považujú za logické, nezamestnané a nestranné, ale prax ukazuje, že nie vždy rozhodujú o všetkom s otvorenou mysľou.
Umelá inteligencia je nevyhnutná tam, kde je dôležité rozoznávať vzory vo veľkom množstve údajov a robiť na nich rozhodnutia. V budúcnosti by sa však systémy umelej inteligencie mohli používať aj v oblastiach, v ktorých náš blahobyt a dokonca aj naše životy priamo závisia od záverov - v medicíne, pri výbere pracovných miest, pri vydávaní pôžičiek a v spravodlivosti.
Ako objektívne a morálne správne robí umelá inteligencia rozhodnutie? Môžeme skutočne veriť strojovému mozgu, že bude robiť také potenciálne dôležité rozhodnutia?
Umelá inteligencia sa používa vo všetkých oblastiach
Aj v súčasnosti sa v mnohých oblastiach nášho každodenného života používajú adaptívne algoritmy. Existujú digitálni asistenti pre porozumenie hlasovým príkazom a otázkam. Na internete pomáhajú weboví roboti udržiavať a kontrolovať webové stránky, aby bolo ťažké ich odlíšiť od ľudí. Aj keď sa zistia falošné správy a manipulácia s obrázkom, jedná sa o systémy umelej inteligencie.
Propagačné video:
Systémy AI tiež vykonávajú svoju prácu v priemysle, obchode a dokonca aj vo vláde. Optimalizujú a riadia výrobné procesy, regulujú logistiku kontajnerových prístavov a veľkých skladov alebo vedú účtovné záznamy. Poisťovacie spoločnosti a banky už majú prvé inteligentné programy na kontrolu predložených žiadostí alebo prijímanie rozhodnutí o platbách. V Ikea, Deutsche Telekom a mnohých ďalších spoločnostiach, UNICEF alebo knižniciach, sú virtuálni asistenti zapojení do zákazníckeho servisu.
Veľké množstvo údajov spracovaných na školenie
To všetko je možné vďaka schopnosti systémov AI rýchlo analyzovať obrovské množstvo údajov, identifikovať vzory a korelácie. Algoritmus sa napríklad učí z nespočetných fotografií domácich miláčikov so zhodnými menami. Po tréningovom období môže systém vybrať úplne nové fotografie požadovaného druhu. Rozpoznáva rozdiely samostatne.
Mnoho iných systémov AI používa text ako základ pre výučbu. Hodnotia kontext, v ktorom slovo stojí, a študujú jeho sémantický význam, ako aj vzťahy s podobnými slovami alebo synonymami. Tieto sémantické vzťahy prekladajú programy do matematických výrazov, a tak sa učia aj zložité sémantické kontexty.
Len vďaka tejto schopnosti môže umelá inteligencia napríklad vyhodnocovať lekárske údaje a lekárske záznamy a odvodzovať z nich charakteristiky klinických snímok. Na základe týchto výsledkov sa systémy AI už používajú ako diagnostické pomôcky, dokážu rozpoznať rôzne typy rakoviny, príznaky Alzheimerovej choroby, samovražedné stavy a nebezpečné hladiny cukru v cukrovke.
Ale rovnako atraktívne, ako to znie, má stále viac a viac AI veľkú nevýhodu. Ďalšia umelá inteligencia preniká prakticky do všetkých sfér našej spoločnosti, čím väčšie sú potenciálne dôsledky jej rozhodnutí. Finančná alebo profesionálna budúcnosť osoby alebo dokonca jej život závisí od jeho úsudku.
AI riešenia, ktoré môžu stáť životy
Napríklad, ak AI chybne diagnostikuje v medicíne bez toho, aby bol vypočúvaný, pacient môže podstúpiť nesprávne ošetrenie alebo dokonca zomrieť. Armáda používa autonómny systém zbraní, ktorý robí nesprávne rozhodnutia. Napríklad AI nedokáže odlíšiť utekajúceho priateľa od nepriateľa, nevinnej smrti.
Algoritmy umelej inteligencie sa už používajú na súdoch v Spojených štátoch. Predpovedajú pravdepodobnosť recidívy páchateľov na súde. Ich posúdenie často ovplyvňuje rozhodnutie súdu, a teda aj rozsudok odsúdeného.
Ak AI rozhodne o pôžičkách
Podobne rozhodnutie v oblasti financií a poistenia môže mať vplyv na to, či daná osoba dostane pôžičku alebo nie. Tieto systémy sú zvyčajne školené pomocou databáz.
A tu AI hľadá spôsoby: ktoré ľudia obvykle splácajú svoje pôžičky a ktoré nie? Rozvíja svoje postupy posudzovania a prijíma príslušné rozhodnutia. To predovšetkým znamená, že ľudia s nesprávnym miestom bydliska alebo zamestnania nedostanú pôžičku bez ohľadu na to, koľko sú ochotní zaplatiť, napriek týmto okolnostiam.
Pri takom rozdelení zodpovedností s počítačmi bude osoba len asistentom pri vykonávaní rozhodnutí o kybernetických mozgoch. A to sa už deje.
Kto je zodpovedný za chyby?
Ďalší problém vo vývoji AI: čím zložitejšie sú princípy rozhodovania, tým ťažšie pre nich ľudia rozumejú. Vyvoláva tiež otázku, kto je zodpovedný za chyby.
Prípady nehôd pri riadení automobilov na autopilote sú čoraz častejšie: kto má vinu za to, že niektoré situácie nie sú uložené v pamäti alebo AI vyvodzuje nesprávne závery. Alebo možno robí vlastné závery? Takéto príklady už existujú.
Hranie roboti si počas hry vytvorili vlastné pravidlá
V rámci tejto štúdie vedci umožnili interakciu 100 inteligentných robotov v koncesnej hre. Každý z nich sa musí rozhodnúť, či niečo daruje niekomu zo svojho tímu alebo účastníkovi zvonku.
Prekvapivo sa postupom času čoraz viac vylúčili roboti z vonkajších skupín a darujú len svojim členom tímu.
Dôvod: inteligentní roboti prispôsobili svoju stratégiu hry kopírovaním správania kamarátov, ktorí získali najviac peňazí a boli najúspešnejší. Tak sa objavili skupiny robotov, ktorí sa správali rovnako a dôsledne vylučovali nesúvisiacich účastníkov hry. Ľudstvo, ktoré neustále vytvára niečo, čo počíta, analyzuje a robí rozhodnutia rýchlejšie ako to, jedného dňa stratí kontrolu nad jeho tvorbou, o čine, o ktorej nemôže vedieť.
Podľa vedcov je to zrejmé: umelá inteligencia nepotrebuje umelé údaje na ovplyvnenie, stačí mať okolo seba ďalšie stroje. Pretože aj to môže vytvoriť skupinovú myseľ, ktorá je známa z ľudských spoločenstiev. Preto by si ľudia s použitím AI mali nechať rozhodnutie na sebe.
Vasilik Svetlana