Americkí experti vyvíjajú neurónovú sieť, ktorá dokáže vysvetliť rozhodnutia bojových robotov. Zvýši sa tým dôvera ľudí v „elektronických vojakov“.
Projekt Explainable Artificial Intelligence, alebo jednoducho XAI (Explainable Artificial Intelligence), umožní ľuďom a robotom navzájom sa lepšie porozumieť. Neurónová sieť XAI vybuduje logický reťazec „zdôvodnenia“robota a ukáže osobe, prečo stroj urobil práve také rozhodnutie - napríklad začal strieľať na konkrétny cieľ.
V súčasnosti prebieha vývoj na vytvorenie zmiešaných bojových jednotiek robot-človek v americkej armáde. Zatiaľ je ťažké si to predstaviť, ale za pár desaťročí sa roboty stanú plnohodnotnými vojakmi - rovnako ako ľudia. Okrem toho sú schopné nahradiť osobu v situáciách, keď môže byť potrebné otvoriť oheň na živý cieľ. Takáto náhrada formálne zbaví osobu zodpovednosti za smrteľné rozhodnutie, ale nebude schopná zbaviť ho pochybností a výčitiek a môže tiež spôsobiť nedôveru robotov. To nikdy nevieš - možno roboti sú vlastne elektronickí maniaci, ktorí radi zabíjajú?
Projekt XAI by mal vyriešiť tento problém v interakcii človek-robot. Vďaka zavedeniu nového systému bude armáda (tí, ktorí stále žijú) pochopiť, podľa akého kritéria stroj vyhodnotil tento alebo ten predmet alebo osobu ako hrozbu. XAI okrem toho uľahčí bojovým robotom prispôsobenie sa realite konkrétneho vojenského konfliktu a zníži mieru nezmyselnej krutosti.
Nový vývoj bude užitočný nielen pre armádu. Môže byť tiež použitý v civilnej sfére - v priemysle, bezpečnostných systémoch a medicíne. Príkladom takéhoto použitia je Bill Ferguson, vedúci špecialista v Raytheon, ktorý sa priamo podieľa na vývoji neurónovej siete. „Ak umelá inteligencia zistí príznaky rakoviny pľúc na röntgenovom snímaní, lekár môže zistiť, prečo sa to stroj rozhodol. Počítač upozorní na všetky podozrivé oblasti, ktoré mohol lekár ignorovať, pričom si pomýli artefakty obrázkov. Potom bude lekár schopný sám určiť, či stojí za to opraviť diagnózu alebo či sa neurálna sieť zamenila, “vysvetľuje vedec.