Vedci a programátori prestali chápať, ako umelá inteligencia prijíma rozhodnutia. Tento problém oznámili viacerí odborníci na hlavnej konferencii AI - Neural Information Processing Systems - v Long Beach v Kalifornii.
Odborníci, s ktorými sa uskutočnil rozhovor s Quartzom, tvrdia, že musia konať skôr, ako bude systém príliš zložitý.
"Nechceme prijať rozhodnutia AI ako samozrejmé bez pochopenia ich logiky," hovorí Jason Yosinski z Uber. „Aby spoločnosť mohla akceptovať modely strojového učenia, musíme vedieť, ako AI dospieva k určitým záverom.“
Problém, ktorý mnohí odborníci nazývajú „čiernou skrinkou“, je skutočne vážny. Predchádzajúce skúsenosti ukázali, že AI má tendenciu robiť neobjektívne rozhodnutia a kresliť analógie tam, kde by nemali. Keďže neurónové siete dnes postupne prenikajú do oblasti presadzovania práva, systému zdravotnej starostlivosti, vedeckého výskumu a algoritmov, ktoré určujú, čo vidíte vo svojom informačnom kanáli na Facebooku, chyba AI môže byť veľmi nákladná.
Napríklad Kiri Wagstaff, expert na AI v Jet Propolusion Lab (NASA), cituje misiu na Mars. Zariadenia sa nachádzajú 200 miliónov kilometrov od Zeme a stoja stovky miliónov dolárov, takže akékoľvek chyby v práci AI sú jednoducho neprijateľné.
„Ľudia musia vedieť, čo AI robí a prečo. Ako inak mu môžu veriť, že ovláda drahé vybavenie? “Hovorí Wagstaff.
V súčasnosti vedec pracuje na algoritme, ktorý triedi obrázky nasnímané rôznymi kozmickými loďami NASA. Pretože počet obrázkov je v miliónoch, počítač vám umožňuje triediť a zvýrazňovať tie najzaujímavejšie bez toho, aby ste na tento proces museli tráviť obrovské množstvo času. Problém však spočíva v tom, že často iba AI vie, prečo sú určité obrázky, ktoré vyberie, neobvyklé.
Preto uzatvára Wagstaff, ak sa v tomto algoritme vyskytne chyba, jedného dňa môže zmeškať veľmi dôležité informácie.
Propagačné video:
„V podstate vám počítač poskytne obraz a hovorí:„ Pozri, toto je zaujímavé. “Ale vždy nemôžete pochopiť, prečo je to zaujímavé: kvôli farbe, tvaru objektov alebo ich umiestneniu v priestore - pravdepodobne to neviete, “hovorí vedec.
Hannah Wallach, vedecká pracovníčka v spoločnosti Microsoft, súhlasí so závermi svojich kolegov.
„Keď sa strojové učenie rozšíri a stúpa podiel, nemôžeme tieto systémy vnímať ako čierne skrinky. Musíme pochopiť, čo sa v nich deje a čo robia, “uviedol výskumný pracovník.
Vedci sa našťastie snažia nájsť metódy na pochopenie logiky umelej inteligencie. Výskumník Google Mitra Raghu tak predstavil správu, ktorá popisuje proces sledovania činnosti jednotlivých „neurónov“neurónovej siete. Pri analýze miliónov operácií dokázala zistiť, ktorý z umelých „neurónov“sa zameral na mylné predstavy, a vypnúť ich. To dokazuje, že prevádzka práce neurónových sietí do formy prístupnej ľudskému porozumeniu nie je taká nemožná úloha.
Ďalšou možnosťou riešenia problému je pravidelné testovanie zručností vyvinutých umelou inteligenciou.
„Je to ako učitelia škôl, ktorí žiadajú deti, aby svojimi vlastnými slovami precvičovali, čo pochopili z vysvetlenia učiteľa,“hovorí Wagstaff.
Ako už bolo povedané, dôležitosť pochopenia vnútorných prvkov algoritmu nie je len zabrániť tomu, aby hypotetický rover spadol z marťanskej skaly; uvedomujúc si zlyhanie, môžete vylepšiť existujúce systémy.
„Ak váš systém nefunguje a vy neviete prečo, potom je veľmi ťažké s tým niečo urobiť,“hovorí Yosinski. „Ak viete, čo sa stalo, potom je vždy možné situáciu napraviť.“
Použité materiály z webu hightech.fm