Inteligentné stroje sa naučili blufovať, prekonávať profesionálov v šachu alebo go, prekladať a rozpoznávať ľudský hlas. Každý týždeň sa dozvedáme o ďalších a ďalších výhodách počítačových programov, ktoré už vedia robiť lekárske diagnózy, kresliť aj Rembrandt, spievať alebo generovať text. Mal by sa človek báť umelej inteligencie?
Umelá inteligencia (AI) sa stala za posledných pár rokov skutočne horúcou témou. Vedci to spájajú s rýchlym rozvojom neurónových sietí (jedna z oblastí výskumu v oblasti umelej inteligencie), ktorý sa zasa stal možným s príchodom výkonných počítačov.
„Od začiatku 2010-tych rokov, ovplyvnená pôsobivým úspechom dosiahnutým použitím viacvrstvových neurónových sietí (hlavne konvolučných a opakujúcich sa), si táto oblasť priťahovala vážnu pozornosť vedcov i technikov a investorov,“komentuje autor jeden z ruských šachových programov, špecialista na strojové učenie Sergej Markov.
Vedecká komunita môže polemizovať o načasovaní vzniku inteligentných strojov, ale zhodujú sa v jednej veci: vývoj technológií bude mať v budúcnosti bezpodmienečný dopad na spoločnosť, ekonomiku a vzťahy medzi ľuďmi. Už existujú výzvy, aby ste zvážili etické princípy vývoja umelej inteligencie a zaistili, aby sa umelá inteligencia vyvíjala smerom, ktorý je pre ľudí bezpečný.
Ekonomický vplyv a vplyv na trh práce
Vedecká fantastika a Hollywood formovali koncept „umelej inteligencie“ako ďalšej formy života na planéte, ktorá má zotročiť ľudstvo v Matrixe alebo pre ňu zorganizovať jadrový súdny deň. Pozostalí budú zakončení Terminátorom.
Vedci a špecialisti pripúšťajú, že napriek nedávnemu pokroku v oblasti umelej inteligencie sú inteligentné bytosti stroja ešte ďaleko. Tí, aj ostatní, však teraz odporúčajú venovať pozornosť niektorým aspektom.
Propagačné video:
Podľa výskumnej organizácie McKinsey Global Institute v priebehu nasledujúcich desiatich rokov nové technológie radikálne zmenia pracovný trh na planéte, čo ušetrí asi 50 biliónov dolárov.
Zmeny sa dotknú stoviek miliónov pracovných miest. Čoraz viac ľudí presunie niektoré zo svojich pracovných úloh a veľa bežných úloh na stroj, čo im umožní sústrediť sa na tvorivú prácu.
„Z určitého hľadiska má ľudstvo ako celok dôležitú a zaujímavú úlohu - vyvíjať pre každého jednotlivca oveľa rýchlejšie, ako ľudstvo vyvíja systémy umelej inteligencie,“uviedol Grigory Bakunov, expert, riaditeľ technologickej distribúcie v spoločnosti Yandex.
Ale spolu s automatizáciou bude nevyhnutne trpieť aj menej kvalifikovaný personál a teraz je potrebné myslieť na to, ako ho chrániť, preškoliť a pripraviť na nový život.
Prax ukazuje, že môžu trpieť nielen robotnícke obojky, ale aj vedomostní pracovníci. Pred niekoľkými dňami spoločnosť Goldman Sachs nahradila tím 600 obchodníkov dvoma ľuďmi a automatizovanými algoritmickými obchodnými programami, pre ktoré bolo najatých 200 programátorov.
Umelá inteligencia sama o sebe nie je totožná s automatizáciou procesov, ale vývoj AI povedie k tomu, že čoraz viac úloh bude v silách počítačového programu.
Medzi možnosti riešenia problému vysídľovania ľudí strojom na trhu práce, ako upozornila Allison Dutman, programová koordinátorka Inštitútu Foresight, neziskovej organizácie so sídlom v Silicon Valley, ktorá propaguje nové technológie, je zavedenie konceptu „univerzálneho základného príjmu“, ktorý by dostával každý bez ohľadu na úrovne príjmu a zamestnanosti. Takýto príjem by bol financovaný z takzvanej inovatívnej dane z pozemkovej hodnoty, o zavedení ktorej sa teraz v Silicon Valley aktívne diskutuje.
Je umelá inteligencia človek?
Je robotický systém človek? Môže inteligentný počítač hlasovať? Akého je pohlavia? Poslanci už diskutujú o vzťahu medzi človekom a inteligentným strojom a zaujímajú sa o to, či by mali mať budúce roboty status „elektronickej osobnosti“.
Ako Dutmann zdôrazňuje, ľudia sa zdráhajú zdieľať svoje práva s tými, ktorým nerozumejú, čo znamená, že budú odolávať „humanizácii“AI.
„Ak vezmeme do úvahy, ako dlho ľudstvo trvalo, kým poskytlo rovnaké práva všetkým ľuďom, bez ohľadu na ich farbu pleti, rasu alebo pohlavie, už teraz môžeme predpokladať, že okamžite neuznávajú stroje ako rovnocenné.
Spolu s etickými sa objavujú aj právne jemnosti: kto prevezme zodpovednosť v prípade nehody bezpilotného vozidla alebo poruchy inteligentného zdravotníckeho prístroja - a morálne otázky: stojí za to vyvinúť bezpilotnú zbraň schopnú konať bez vedomia osoby?
O treťom etickom rébusu sa diskutuje častejšie ako o iných a oveľa viac ho znepokojuje ľudstvo: čo teoreticky môže ľudstvo urobiť superinteligenciou, skutočným inteligentným strojom?
Vyučujte etiku AI
Špecialisti na vývoj umelej inteligencie pripúšťajú: aj keď nie v najbližších 20 - 30 rokoch, ľudstvo sa ešte dožije vývoja skutočnej umelej inteligencie, ktorá bude inteligentnejšia ako jej tvorca.
„Posledná bašta sa vezme, keď sa vytvorí takzvaná„ silná AI “(Strong AI, Artificial General Intelligence), teda AI, ktorá bude schopná vyriešiť neurčito širokú škálu intelektuálnych úloh,“hovorí Sergey Markov.
A čo je najdôležitejšie, takáto AI bude schopná myslieť samostatne.
Mnoho inštitúcií, vrátane Future of Life Institute, Foresight Institute, Future of Humanity Institute, OpenAI a ďalších, sa zaoberá výskumom hrozieb, ktoré predstavuje AI, ako aj etickými otázkami spojenými s novými technológiami.
Allison Dutman z Foresight Institute sa rozhodol nechať počítač prečítať všetku vedeckú literatúru, vedecké články zaoberajúce sa problematikou etiky a urobiť z týchto informácií základ pre jeho budúce rozhodnutia.
Čo sú neurónové siete a aká je ich budúcnosť?
Väčšina odborníkov spája pokrok vo vývoji AI s vývojom neurónových sietí.
Neurónové siete sú jednou z línií výskumu v oblasti umelej inteligencie založenej na modelovaní biologických procesov, ktoré sa vyskytujú v ľudskom mozgu.
Práve im vďačíme za pôsobivé výsledky v rozpoznávaní reči a obrazu, lekárskych diagnóz, prekladu a tvorby textu, generovania reči a hudobnej kompozície.
Dnes, ako odborníci pripúšťajú, sú neurónové siete považované za jeden z najlepších algoritmov strojového učenia a riešenia na nich založené ukazujú momentálne najvýraznejšie výsledky.
A to aj napriek tomu, že moderné neurónové siete sú jeden a pol tisíckrát jednoduchšie ako mozog potkana.
„Zatiaľ sú neurónové siete, ktoré vytvárame, v porovnaní s neurónovou sieťou ľudského mozgu relatívne malé a navyše sú veľmi zjednodušeným analógom prírodných neurónových sietí. Preto zatiaľ pomocou neurónových sietí riešime hlavne čisto aplikované problémy, “hovorí Sergey Markov.
Teraz sa vytvárajú špecializované procesory na trénovanie takýchto sietí (tzv. Neuromorfné procesory), ktoré zvýšia rýchlosť výpočtov o niekoľko rádov.
Vývojári sa teraz zaoberajú nielen zvyšovaním počtu neurónov v sieti, ale aj zmenou dizajnu sietí. „Zložité systémy konfigurácie siete sú tie, s ktorými sa realizuje najväčší počet experimentov,“hovorí Grigory Bakunov.
A skutočnosť, že sa tieto systémy stali relatívne prístupnými veľkému množstvu bežných vývojárov, viedla k vzniku startupov experimentujúcich s neurónovými sieťami, napríklad Prisma (aplikácia umožňuje spracovávať fotografie a meniť ich na štylizáciu obrazov slávnych umelcov) a Mubert (online skladateľ elektronickej hudby). …
Čo nás čaká v blízkej budúcnosti
Nick Lane, profesor na University College London a hlavný vedecký pracovník spoločnosti Nokia Bell Labs, predpovedá, že človeka obklopia ešte viac „inteligentných vecí“. Stanú sa menšími a efektívnejšími.
Profesor uvádza príklad: ak si senzor zabudovaný v stene skôr mohol uvedomiť iba to, že niekto prešiel okolo, potom v budúcnosti bude vedieť nielen to, kto presne prešiel, ale aj to, ako sa daný človek správa, nepotrebuje nič, nereprezentuje či už predstavuje hrozbu pre seba alebo pre ostatných.
Senzor veľkosti tlačidla môže upozorniť osobu v prípade nebezpečenstva.
Grigorij Bakunov z Yandexu súhlasí aj s profesorom: „V blízkej budúcnosti uvidíme rozmach vývoja úzkych umelých inteligencií, ktoré pomôžu vyriešiť jeden dosť jednoduchý problém, ktorý však vyriešia ešte lepšie ako človek.“
Napríklad systém rozpoznávania hlasu už rozpoznáva niektoré hlasové príkazy a adresy lepšie ako človek.
„Najpravdepodobnejšou cestou pre rozvoj našej civilizácie je cesta syntézy človeka a stroja: palica, oblečenie, auto, mobilný telefón, kardiostimulátor alebo kochleárny implantát - ako sa vyvíjame, naše nástroje čoraz viac pripomínajú rozšírenie nášho tela. Zajtra budú stroje schopné prijímať mentálne príkazy od človeka, vnímať mentálne formované vizuálne obrazy, prenášať informácie priamo do mozgu - takéto projekty už existujú za stenami najpokročilejších technologických laboratórií, “zhŕňa Sergey Markov.
Potrebujete ešte novinárov?
Financial Times minulý rok uskutočnili pomerne riskantný experiment a súčasne vyzvali k napísaniu textu svojmu korešpondentovi v profile a inteligentnému programu s názvom Emma. Redaktor denníka Financial Times potom musel prečítať oba články a hádať, za ktorou z dvoch poznámok sa novinár nachádzal a za ktorým počítačom.
Pred týmto zvláštnym „nárazovým testom“korešpondent Financial Times pripustil: „Myslím si, že program si s touto úlohou určite poradí rýchlejšie ako ja. Ale dúfam, že to dokážem lepšie. ““
A tak sa stalo: Emma sa skutočne ukázala byť rýchlejšia - program vygeneroval text založený na štatistikách miery nezamestnanosti v Británii za 12 minút. Novinárom to trvalo 35 minút. A ako sama neskôr priznala, Emma prekonala svoje očakávania. Program nielen šikovne spracoval fakty, ale uviedol do kontextu aj novinky, ktoré naznačujú, ako môže situáciu zmeniť prípadný „brexit“(bol to v máji 2016, pred referendom o vystúpení Británie z EÚ).
Emma však urobila niečo horšie ako novinárka. "Emmin článok bol napísaný trochu nemotornejším jazykom." Ale čo je najdôležitejšie, malo to veľa čísel, pripustil redaktor FT. „A možno je to najdôležitejšie, že sa tu snažíme vyberať iba skutočne dôležité čísla.“
Emma je produktom startupu Stealth. Spoločnosť tvrdí, že Emma má tím živých pomocníkov, ale hovoria, že všetko, čo píše alebo robí, je produktom jej „mozgu“.
A napriek tomu - mali by sme sa báť AI?
Mnoho, ak nie všetci, ľudia podieľajúci sa na vývoji systémov umelej inteligencie dnes ľahko pripúšťajú, že vďaka AI nebude čoskoro človek zbytočný. Práve preto, že umelá inteligencia ešte nie je taká inteligentná. To hlavné, čo mu dnes chýba, je autonómna schopnosť myslieť.
"Teraz by si sa nemal báť AI v akejkoľvek podobe." Môžete čakať 30 - 40 rokov, kým dôjde k nejakým radikálnym zmenám, “uviedol Bakunov.
Ale niečo sa už deje: hranica medzi prácou alebo úlohou, ktorú vykonáva človek, a úlohou, ktorú vykonáva stroj, sa pomaly stiera. Ako vysvetľujú odborníci, aj teraz je niekedy ťažké pochopiť, kto sedí v systéme - človek alebo stroj.
"Neexistujú žiadne kritériá, keď budeme schopní pochopiť, že vo vnútri stroja vzniklo vedomie," pýta sa Bakunov.
Z človeka sa stane kancelárska sponka?
Známy prívrženec poplašného uhla pohľadu, v rámci ktorého sa hrôzy popísané v Terminátorovi môžu stať skutočnosťou, filozof Nick Bostrom zastáva názor, že AI, ktorá dosiahla intelektuálnu úroveň človeka, bude schopná zničiť ľudstvo.
Bostrom vysvetľuje sponkami: spochybňujete umelú inteligenciu, aby boli kancelárske sponky čo najväčšie a lepšie. AI si v určitom okamihu uvedomuje, že človek predstavuje hrozbu, pretože môže vypnúť počítač, čo by bolo v rozpore s úlohou vyrobiť čo najviac sponiek. V prípade, že človek nie je hrozbou, AI rozhodne, že ľudské telá sú vyrobené z atómov, z ktorých sa dajú vyrábať veľké kancelárske sponky. Výsledkom je, že počítač privedie ľudstvo k sponkám na papier.
Tento scenár sa mnohým javí ako prehnaný. Podľa Sergeja Markova napríklad „vysoká účinnosť dosiahnutia absurdného cieľa nie je zlučiteľná s absurdnosťou tohto cieľa - zhruba povedané, AI schopná transformovať celý svet na kancelárske sponky bude nevyhnutne dostatočne inteligentná na to, aby sa takého cieľa vzdala.“
Umelá inteligencia je ako zlatá rybka
Margaret Bodenová, britská špecialistka na umelú inteligenciu a profesorka kognitívnych vied na univerzite v Sussexe, je skeptická voči bezprostrednému príchodu inteligentných strojov.
Profesor uvádza príklad „zlatej rybky“, keď rybár výmenou za slobodu vysloví tri želania. Jednou z túžob je vrátiť syna z vojny, druhou je 50-tisíc dolárov a treťou je možnosť urobiť si ďalšie prianie nasledujúce ráno.
V ten istý večer došlo k klepaniu na rybársky dom. Syn bol vrátený z vojny - v rakve. Rybár dostal poistenie na 50-tisíc dolárov.
"V tomto podobenstve nahraďte ryby AI, a všetko bude jasné," vysvetľuje Boden. „Och, áno, na druhý deň rybár využil tretie želanie a - zrušil predchádzajúce dve.“
Je možné preniesť vedomie do auta?
Sergej Markov:
„Ak hovoríme o možnosti úplného prenosu vedomia, potom modernými predchodcami takejto technológie budúcnosti sú projekty ako Blue Brain zamerané na vytváranie funkčných elektronických analógov mozgu, ako aj projekty zamerané na vytváranie rozhraní mozog-stroj (BCI) - prístroje na protetiku strateného videnia., sluch, náhrada stratených končatín, dokonca aj častí mozgu.
Optogenetika je veľmi zaujímavá a sľubná oblasť (v zásade platí, že na prepojenie mozgu a prístroja je možné meniť nielen prístroje, ale aj samotné nervové tkanivo a vytvárať v ňom umelé fotoreceptory).
Keď sa v rámci takýchto súkromných projektov vyrieši široká škála inžinierskych problémov, myslím si, že úloha prenosu vedomia sa stane celkom riešiteľnou. Už teraz snívajúci navrhujú hypotetické schémy na realizáciu takéhoto projektu.
Napríklad Jan Korchmariuk, ktorý svojho času navrhol názov „Setleretika“pre smerovanie výskumu súvisiaceho s prenosom vedomia, sa domnieva, že najsľubnejšou schémou je použitie špecializovaných nanorobotov implantovaných do neurónov ľudského mozgu. Pre úspešnú implementáciu takejto schémy je však potrebné vyriešiť množstvo zložitých inžinierskych problémov. ““
Ksenia Gogitidze