Umelá inteligencia už môže predpovedať budúcnosť. Polícia pomocou nej zostaví mapu, ktorá ukazuje, kedy a kde môže dôjsť k trestnej činnosti. Lekári pomocou neho predpovedajú, kedy môže mať pacient mozgovú príhodu alebo infarkt. Vedci sa dokonca snažia dať AI predstavivosť, aby mohla predvídať neočakávané udalosti.
Mnoho rozhodnutí v našom živote si vyžaduje dobré predpovede a agenti AI sú v nich takmer vždy lepší ako ľudia. Napriek všetkým týmto technologickým pokrokom nám stále chýba dôvera v predpovede, ktoré poskytuje umelá inteligencia. Ľudia nie sú zvyknutí spoliehať sa na AI a radšej dôverujú ľudským odborníkom, aj keď sa títo odborníci mýlia.
Ak chceme, aby umelá inteligencia bola prospešná pre ľudí, musíme sa naučiť dôverovať jej. Aby sme to dosiahli, musíme pochopiť, prečo ľudia tak vytrvalo odmietajú dôverovať AI.
Dôverujte Dr. Robotovi
Pokus spoločnosti IBM predstaviť superpočítačový program onkológom (Watson for Oncology) zlyhal. AI sa zaviazala poskytnúť vysokokvalitné odporúčania liečby pre 12 druhov rakoviny, čo predstavuje 80% svetových prípadov. Doteraz dostalo na základe jeho výpočtov odporúčanie viac ako 14 000 pacientov.
Ale keď sa lekári prvýkrát stretli s Watsonom, dostali sa do dosť zložitej situácie. Na jednej strane, ak Watson poskytol liečebné pokyny zodpovedajúce ich vlastným názorom, lekárska profesia nevidela v odporúčaniach AI veľkú hodnotu. Superpočítač im jednoducho hovoril, čo už vedia, a tieto odporúčania nezmenili skutočné zaobchádzanie. Toto mohlo dať lekárom pokoj a sebadôveru v ich vlastné rozhodnutia. IBM však musí dokázať, že Watson skutočne zvyšuje mieru prežitia rakoviny.
Propagačné video:
Na druhej strane, ak Watson vydal odporúčania, ktoré boli v rozpore s odborným názorom, lekári dospeli k záveru, že Watson bol nekompetentný. A stroj nemohol vysvetliť, prečo by jeho liečba fungovala, pretože jeho algoritmy strojového učenia boli pre ľudí príliš zložité na to, aby ich pochopili. V dôsledku toho to viedlo k ešte väčšej nedôvere a mnoho lekárov jednoducho ignorovalo odporúčania týkajúce sa umelej inteligencie a spoliehalo sa na svoje vlastné skúsenosti.
Výsledkom bolo, že hlavný lekársky partner IBM Watson, MD Anderson Cancer Center, nedávno oznámil, že program ruší. Dánska nemocnica taktiež uviedla, že od programu upustila, keď zistila, že onkológovia nesúhlasili s Watsonom dvakrát z troch prípadov.
Problémom Watsonovej onkológie bolo, že mu lekári jednoducho neverili. Dôvera ľudí často závisí od nášho chápania toho, ako myslia ostatní, a od našich vlastných skúseností, ktoré budujú dôveru v ich názor. To vytvára psychologický pocit bezpečia. AI je na druhej strane relatívne nová a pre človeka nepochopiteľná. Robí rozhodnutia na základe sofistikovaného analytického systému, aby identifikoval potenciálne skryté vzorce a slabé signály z veľkého množstva údajov.
Aj keď sa to dá technicky vysvetliť, rozhodovací proces o AI je zvyčajne príliš zložitý na to, aby ho väčšina ľudí pochopila. Interakcia s niečím, čomu nerozumieme, môže spôsobiť úzkosť a vytvoriť pocit straty kontroly. Mnoho ľudí jednoducho nechápe, ako a s čím AI funguje, pretože sa to deje niekde za obrazovkou, na pozadí.
Z rovnakého dôvodu si akútnejšie uvedomujú prípady, keď sa AI mýli: pouvažujte nad algoritmom Google, ktorý klasifikuje farebných ľudí ako gorily; chatbot spoločnosti Microsoft, ktorý sa stal nacistom za necelý deň; Vozidlo Tesla v režime autopilota, ktoré malo za následok smrteľnú nehodu. Týmto nešťastným príkladom sa venovala neprimeraná pozornosť médií a zdôraznili program, že sa nemôžeme spoliehať na technológiu. Strojové učenie nie je stopercentne spoľahlivé, čiastočne preto, že ho ľudia navrhujú.
Rozkol v spoločnosti?
Pocity, ktoré umelá inteligencia vyvoláva, siahajú hlboko do podstaty ľudskej bytosti. Vedci nedávno uskutočnili experiment, v ktorom skúmali ľudí, ktorí sledovali filmy o umelej inteligencii (fantasy) o automatizácii v každodennom živote. Ukázalo sa, že bez ohľadu na to, či bola AI zobrazená pozitívne alebo negatívne, jednoduché sledovanie filmového zobrazenia našej technologickej budúcnosti polarizuje postoje účastníkov. Optimisti sa stávajú ešte optimistickejšími a skeptici sa ešte viac uzatvárajú.
To naznačuje, že ľudia sú zaujatí voči AI na základe svojich vlastných úvah, hlboko zakorenenej tendencie zaujatosti potvrdzovania: tendencie vyhľadávať alebo interpretovať informácie takým spôsobom, aby potvrdili už existujúce koncepty. Pretože sa AI čoraz viac objavuje v médiách, môže prispieť k hlbokým rozdielom v spoločnosti, čo je rozkol medzi ľuďmi, ktorí používajú AI, a tými, ktorí ju odmietajú. Prevažujúca skupina ľudí môže získať veľkú výhodu alebo hendikep.
Tri cesty z krízy dôvery v AI
Našťastie máme niekoľko myšlienok, ako sa vysporiadať s dôverou v AI. Samotné skúsenosti s AI môžu dramaticky zlepšiť postoj ľudí k tejto technológii. Existujú tiež dôkazy, že čím častejšie používate určité technológie (napríklad internet), tým viac im dôverujete.
Ďalším riešením by mohlo byť otvorenie čiernej skrinky algoritmov strojového učenia a zvýšenie transparentnosti ich fungovania. Spoločnosti ako Google, Airbnb a Twitter už zverejňujú správy o transparentnosti vládnych dotazov a zverejnení. Tento druh praxe v systémoch AI pomôže ľuďom získať potrebné pochopenie toho, ako sa rozhodujú algoritmy.
Výskum ukazuje, že zapojenie ľudí do rozhodovania o AI tiež zvýši dôveru a umožní AI, aby sa poučila z ľudskej skúsenosti. Štúdia zistila, že ľudia, ktorí dostali príležitosť mierne upraviť algoritmus, sa cítili spokojnejší s výsledkami svojej práce, pravdepodobne kvôli pocitu nadradenosti a schopnosti ovplyvňovať budúce výsledky.
Nemusíme chápať zložité vnútorné fungovanie systémov AI, ale ak poskytneme ľuďom čo i len trochu informácií a kontrolu nad tým, ako sú tieto systémy implementované, budú mať väčšiu dôveru a túžbu zahrnúť AI do ich každodenného života.
Iľja Khel