Žijeme v zlatom veku vedeckých údajov, obklopení obrovskými rezervami genetických informácií, lekárskych snímok a astronomických údajov. Súčasné schopnosti algoritmov strojového učenia umožňujú umelej inteligencii študovať tieto dáta tak rýchlo a súčasne veľmi opatrne, čo často otvára dvere potenciálne novým vedeckým objavom. Nemali by sme však slepo veriť výsledkom vedeckého výskumu, ktorý vykonáva AI, hovorí vedecký pracovník Rice University Genever Allen. Aspoň nie na súčasnej úrovni rozvoja tejto technológie. Podľa vedcov problém spočíva v tom, že moderné systémy AI nemajú schopnosť kriticky vyhodnotiť výsledky svojej práce.
Podľa Allena môžu byť systémy AI, ktoré používajú metódy strojového učenia, to znamená, keď sa učenie objavuje v procese riešenia mnohých podobných problémov, a to nielen zavádzaním a dodržiavaním nových pravidiel a predpisov, spoľahlivé pri prijímaní niektorých rozhodnutí. Presnejšie povedané, je celkom možné prideliť úlohy AI pri riešení problémov v oblastiach, v ktorých môže konečný výsledok ľahko skontrolovať a analyzovať samotný človek. Ako príklad môžeme uviesť počítanie počtu kráterov na Mesiaci alebo predpovedanie otrasov po zemetrasení.
Presnosť a efektívnosť zložitejších algoritmov, ktoré sa používajú na analýzu veľmi veľkého množstva údajov na nájdenie a určenie predtým neznámych faktorov alebo vzťahov medzi rôznymi funkciami, je však oveľa ťažšie overiť, “poznamenáva Allen. Preto nemožnosť overiť údaje, ktoré zodpovedajú takýmto algoritmom, môže viesť k chybným vedeckým záverom.
Vezmite si napríklad precíznu medicínu, kde odborníci analyzujú metaúdaje pacientov s cieľom nájsť konkrétne skupiny ľudí s podobnými genetickými charakteristikami, aby sa vyvinula účinná liečba. Niektoré programy AI určené na preosievanie prostredníctvom genetických údajov sú skutočne účinné pri identifikácii skupín pacientov s podobnými predispozíciami, ako je napríklad rozvoj rakoviny prsníka. Ukázalo sa však, že sú úplne neúčinné pri identifikácii iných typov rakoviny, napríklad kolorektálneho karcinómu. Každý algoritmus analyzuje údaje odlišne, takže pri kombinovaní výsledkov môže často dôjsť ku konfliktu pri klasifikácii vzorky pacienta. To zase vedie vedcov k tomu, aby si AI nakoniec dôverovali.
Tieto rozpory vznikajú v dôsledku skutočnosti, že algoritmy na analýzu údajov sú navrhnuté tak, aby sa riadili pokynmi stanovenými v týchto algoritmoch, ktoré neponechávajú priestor na nerozhodnosť, neistotu, vysvetľuje Allen.
Vedci nemajú radi neistotu. Tradičné metódy na určovanie neistôt merania sú však navrhnuté pre prípady, keď je potrebné analyzovať údaje, ktoré boli špeciálne vybrané na vyhodnotenie konkrétnej hypotézy. Takto nefungujú programy AI na získavanie údajov. Tieto programy nie sú poháňané žiadnou hlavnou myšlienkou a jednoducho analyzujú zozbierané súbory údajov bez osobitného účelu. Preto veľa výskumných pracovníkov v oblasti AI vrátane samotnej Allen teraz vyvíja nové protokoly, ktoré umožnia systémom AI novej generácie vyhodnotiť presnosť a reprodukovateľnosť ich objavov.
Propagačné video:
Výskumník vysvetľuje, že jedna z nových metód ťažby bude založená na koncepcii prevzorkovania. Napríklad, ak má AI systém urobiť dôležitý objav, napríklad identifikuje skupiny pacientov klinicky dôležité pre výskum, tento objav by sa mal zobraziť v iných databázach. Pre vedcov je veľmi nákladné vytvárať nové a väčšie súbory údajov na overenie vzorkovania AI. Preto je podľa Allana možné použiť prístup, v ktorom „sa použije existujúci súbor údajov, informácie, v ktorých sa náhodne zmiešajú tak, aby napodobňovali úplne novú databázu“. A ak dokáže AI stále a znova určovať charakteristické vlastnosti, ktoré umožňujú vykonať potrebnú klasifikáciu, „potom bude možné zvážiťže máte skutočne skutočný objav vo vašich rukách, “dodáva Allan.
Nikolay Khizhnyak