"Rise of the Machines", "The Terminator Returns" … Veľa sci-fi je postavené na skutočnosti, že počítače sa stávajú tak inteligentnými, že chápu, že budú mať lepšiu prácu bez človeka. Rozprávky? Ako vyzerať. Do roku 2050 bude typický domáci počítač schopný spracovať toľko informácií, ako všetci ľudia na Zemi dajú dohromady.
Ale rok 2050 je pod podmienkou, že stroje sa budú vyvíjať postupne. Takto to nefunguje. Náš vzťah s elektronickým svetom postupuje skokmi a hranicami. Raz - k vozidlu bola pripojená myš. Raz - objavil sa internet. Raz boli smartfóny s tabletami.
Ďalší prielom nastáva, keď počítač môže ľuďom porozumieť. Smartfóny už majú aplikácie ako Siri a Cortana, ktoré s nami môžu viesť jednoduchý rozhovor. Problém však spočíva v tom, aby počítač pochopil, nie to, čo hovoríme, ale čo máme na mysli! Najjednoduchší príklad: veta „Nechal ma“, ktorú uviedla žena so slzami a šéf muža má úplne iný význam.
Takže: akonáhle sa stroje naučia rozpoznávať nuansy ľudskej reči, na jednej strane budú naše ruky rozviazané v doslovnom a obraznom zmysle. Hovoril som s počítačom a urobil všetko. Na druhú stranu, nepribližujeme sa k nebezpečnej línii a neodstraňujeme poslednú bariéru v komunikácii medzi ľuďmi a bezduchým železom?
Dlho som o tom chcel hovoriť so známym vedcom, riaditeľom lingvistického výskumu v ABBYY, vedúcim odborov výpočtovej lingvistiky na Ruskej štátnej univerzite pre humanitné vedy a Moskovským ústavom fyziky a technológie, Vladimírom Selegeyom. Ale keď som mu povedal svoje apokalyptické obavy, zamračil sa.
„Áno, sci-fi je plná temných predpovedí o tom, ako budú stroje vyškolené človekom robiť bez toho. Nie je mi však jasné, prečo zvýšenie množstva vedomostí obsiahnutých v programoch vyprovokuje počítač k rozhodovaniu bez toho, aby o to niekto požiadal?
Problémom v skutočnosti nie je to, že počítač sa naučí robiť bez ľudí, ale že ľudia sa budú chcieť obísť bez riešenia problémov. Tu je Černobyľ …
Propagačné video:
A čo s tým Černobyľ súvisí?
- Jadrový reaktor je veľmi komplexný fyzikálny model. Zdá sa, že všetky kontrolné parametre reaktora sú známe, všetko sa riadi prísnymi fyzikálnymi zákonmi a rozhodovanie môže byť počítaču úplne zverené. Ale…
V roku 1986, týždeň po nehode, som sa zúčastnil seminára o používaní umelej inteligencie v priemysle. Dokonca aj potom bolo jasné, že zverením rozhodovania počítaču sme vážne ohrození. Je bežné, že programy obsahujú chyby. Dokonca aj satelity majú softvérové chyby.
To znamená, že človek je spoľahlivejší ako počítač, hoci „myslí“oveľa rýchlejšie?
- Osoba má okrem všetkého iného motiváciu. Rieši svoje problémy - vzdelanie, rozmnožovanie, kariéru, vie, ako sa cítiť …
Ale môže nejaký mazaný programátor napísať program, ktorý by naučil agresívny stroj …
- Môžete sa pokúsiť urobiť napríklad vojenského robota, ktorý sa sám rozhodne, analyzuje, čo vidí a počuje. A bude to veľmi nebezpečné. Ale nie preto, že robot bude mať zrazu túžbu zničiť, ako napísali autori sci-fi. Ale pretože chyba programátora môže zanedbanie niektorých faktorov viesť k nepredvídateľnému správaniu robotov.
Ale zatiaľ sme veľmi ďaleko od schopnosti vytvárať samoučiace sa programy, ktoré sú schopné generovať úplne nové vedomosti. Zhruba povedané, nezávisle prejdite od multiplikačnej tabuľky k schopnosti riešiť zložité rovnice.
V druhej polovici dvadsiateho storočia boli veľmi populárne futuristické predpovede v oblasti vedy. Všetko o inteligencii počítača sa dostalo do mlieka. Nikto nepredpovedal internet, neuveriteľnú slobodu prístupu k informáciám, mobilné telefóny. Ale všetci hovorili o počítačoch, ktoré myslia.
Napríklad na konci 60. rokov sa náš prvý šachový systém KAISA úspešne umiestnil na majstrovstvách sveta medzi počítačmi. Verilo sa, že na to, aby stroj porazil človeka, bolo potrebné simulovať algoritmy ľudskej hry. Položiť myseľ, intelekt, veľmi záhadnú intuíciu, ktorá robí šachistu správnym rozhodnutím.
Dnes počítač bije človeka. Nikdy ho však nenaučili intuíciu. Miliarda hraných hier, všetky skúsenosti z hry, všetky rozhodnutia, ktoré kedy šachoví hráči urobili, boli nahraté do jeho pamäte. A naučili ich, aby to používali pri výbere optimálneho herného plánu a poskytovali im obrovskú rýchlosť vymenovania a vyhodnotenia možností. Počítač porazil majstrov sveta, ale z toho nemal žiadne potešenie. Všetko je úplne odlišné od ľudí.
Ale vy ste jeden z tých, ktorí práve učia počítač „obrátiť sa na hlavu“
- Snažíme sa iba učiť programy „porozumieť“textom, aby z nich mohli extrahovať informácie, hromadiť ich a zovšeobecňovať ich. Aby ľudia dostali filtrované vedomosti, vybrané z miliárd zdrojov. Je to veľmi ťažké, pretože človek sám nevie, ako je usporiadaná jeho jazyková spôsobilosť, na ktorej je založené porozumenie iných ľudí.
Štatistický strojový preklad je teraz populárny. Počítač vôbec nechápe, o čom je preložený text, len vie, ako nájsť najpravdepodobnejšie varianty prekladu malých fragmentov (niekoľkými slovami) a analyzovať obrovské množstvá ľudských prekladov uložených v jeho pamäti. Vo všeobecnosti je text jasný. Bolo by však zbytočné robiť zodpovedné rozhodnutie na základe takéhoto prekladu.
Dobre, môže mi počítač preložiť pokyny?
- Inštrukcie? Je to nebezpečné.
- Áno jednoduchej chladničke!
- Dokonca aj do chladničky! Bol by som rád, keby sa naše programy prekladali, snažili sa porozumieť textu, vyberali si medzi možnosťami založenými na znalostiach a nielen preto, že táto korešpondencia sa najčastejšie nachádza v našej databáze.
Dobre, povedzme, že ste problém vyriešili a vytvorili ste systém, vďaka ktorému sa počítače naučia porozumieť nuansám našej reči a dokonca ju presne preložiť do iného jazyka. A potom nové nebezpečenstvo ohrozuje ľudí - nebude potrebné premýšľať. Nie je potrebné trénovať pamäť, mozog. Potrebujete informácie - prosím, Wikipedia. Musíte sa porozprávať s cudzincom - prekladateľom …
- Čím vyššia je úroveň inteligencie a vedomostí o osobe, tým je pre ňu užitočnejší ďalší „inteligentný asistent“. A čím nižšie, tým viac možností sa zdá, že vôbec nemyslia. Počítačové technológie vedú k polarizácii spoločnosti. Zhruba povedané, príchod kalkulačky neviedol k degenerácii matematikov. U niektorých žiakov však samozrejme došlo k poklesu už tak nízkej úrovne schopností.
- Viete, pre mňa je vážnym ukazovateľom poklesu úrovne vzdelania počet ľudí, ktorí píšu negramotne alebo nie sú schopní vyjadriť svoje myšlienky a pocity bez použitia kamaráta
- Áno, ľudia začali písať menej kompetentne. Jednoducho preto, že vo všeobecnosti dochádza k menšiemu čítaniu upravených textov a oveľa viac takých zdrojov, kde je pravopis veľmi rozmazaný. Urobili to ľudia hlúpejšími? Pravdepodobne nie.
Vidíte súvislosť medzi skutočnosťou, že človek negramotne prejavuje svoje myšlienky vo svojom rodnom jazyku a skutočnosťou, že sa stal hlúpejším?
"Nechcel som ísť tak ďaleko." Aj keď je to zrejmé: pretože deti začali čítať menej, objavili sa problémy s prenosom vedomostí a kultúry medzi generáciami. Toto je problém. Dnes vidíme, že moderný školák s rovnakými stupňami ako pred 30 rokmi pozná literatúru horšie.
Tu! …
„… Ale na druhej strane vie omnoho lepšie veci, o ktorých si nikto nemyslel, že to vedia.
Je to prirodzený proces?
- Áno. Navyše, prvýkrát v histórii ľudstva sa vedomosti nemôžu prenášať nie od starších k mladším, ako sa to stalo po stáročia. Došlo k prenosu poznatkov z mladších na starších, čo predtým nebolo vôbec charakteristické pre ľudskú kultúru. Dieťa učí svojho otca alebo mamu pracovať s počítačom pomocou mobilného telefónu a je zdrojom rôznych vedomostí pre svojich rodičov. A ešte viac detí cestuje po celom svete. Veľmi často sú zdrojom geografických a kultúrnych znalostí.
Počúvajte, ale tu to všetko začalo počítačmi. Oslobodili ľudí dokonca od potreby zapamätať si základné pravidlá gramatiky
- Len začiatkom 90. rokov som pracoval v tíme, ktorý vyvinul jeden z prvých systémov kontroly pravopisu v ruskom jazyku. Bolo to užitočné alebo škodlivé? Z môjho pohľadu veľmi užitočné. Tento systém umožnil rýchlejšie vytváranie dokumentov. A potom všetko závisí od úrovne zodpovednosti osoby. Kto povedal, že po aute už nemusíte robiť kontrolu? Systém pomáha len zefektívniť.
Ale dôverujeme počítaču
- Znamená to len, že osoba, ktorá vytvorila program, vás neinformovala o tom, že existuje mnoho javov, ktoré zariadenie nemôže overiť. Napríklad vyjednávanie.
Nové technológie, bohužiaľ, často vedú k strate tradičných zručností. Robil som opravy v byte. Chcel som nainštalovať drevené okná, ktoré boli nainštalované predtým. Ukázalo sa však, že to nie je možné. Všetky inštalujú okná s dvojitým zasklením. Ľudia, bohužiaľ, prestávajú robiť veľa vecí rukami. Čo robiť, život funguje. Bohužiaľ.
Takže si konformista?
- Nie. Verím, že robiť absolútne škodlivé veci nie je dobré. Ale ak máte zisk aj stratu, musíte posúdiť riziká … Ak vyrábate lieky, nemyslíte si, že vďaka jeho použitiu prežijú nielen dobrí ľudia, ale aj zlí ľudia.
V našom prípade je potrebné súčasne s vývojom technológií zapojiť sa do odbornej prípravy tých, ktorí ich používajú. Negatívne dôsledky nových technológií sa odrážajú predovšetkým na tých, ktorí svoju prácu veľmi dobre nevykonávajú na žiadnej technologickej úrovni.
Napríklad užívajte lieky. Chceme pomôcť lekárovi pri rozhodovaní, robíme počítačový expertný systém založený na analýze veľkého množstva spoľahlivých diagnóz najlepších lekárov. Poskytuje odborníkovi príležitosť obrátiť sa na väčšie množstvo vedomostí, ako má on sám. Ale konečné rozhodnutie je jeho, nie počítač! Pre zlého lekára je všetko iné - bude veriť tomu, čo nemôže spoľahlivo skontrolovať. V priemere sa však s nástupom takýchto technológií zdá, že medicína sa stále zlepšuje, nie horšie.
Presvedčili sme sa, že intelektuálny systém porozumenia človeka pomocou počítača prinesie viac výhod ako ublíženia. Ale kedy sa objaví?
- Je to veľmi ťažká úloha, ktorú nie je možné vyriešiť okamžite. Je potrebné učiť počítačové znalosti jazyka a znalosti sveta, metód inferencie a porovnávania hodnôt. Niečo, čo vieme teraz, niečo bude trvať roky. Potrebujeme napríklad spoľahlivé údaje o používaní jazyka, pričom zohľadňujeme individuálne a spoločenské rozdiely. A tieto rozdiely sú veľmi významné. Napríklad sme pripravili špeciálny projekt venovaný regionálnym rozdielom v ruskom jazyku. Zhromaždil slovník, v ktorom takmer 10 tisíc slov, ktoré sú normou pre obyvateľov iba určitých regiónov našej krajiny
Kto sme?
„Jedná sa o spoločný projekt s názvom Jazyky ruských miest, do ktorého sú zapojení odborníci ABBYY, lingvistickí vedci, nadšenci z rôznych častí Ruska a rusky hovoriacich krajín. Analyzovali sme jazyk regionálnych médií, sociálnych sietí, dekrétov a rozhodnutí miestnych orgánov. A to je len malá časť vedomostí, ktoré je potrebné naučiť počítaču!
Aký je napríklad zásadný rozdiel medzi vašim prístupom k prekladu a systémami, ktoré používa spoločnosť Google?
- Štatistické systémy nevytvárajú jazykové štruktúry. Hľadajú prekladové zhody pre malé fragmenty 5 až 7 slov. Jazyk je však usporiadaný tak, že súvisiace slová sa často nachádzajú oveľa ďalej, a ak sa toto spojenie nezohľadní, vzniknú chyby. Ale veľmi často sú také podrobnosti dôležité v preklade, ktorých zanedbanie môže úplne zmeniť význam. Aby sa vzalo do úvahy všetko, je potrebné počas analýzy identifikovať celý systém jazykových súvislostí medzi slovami, čo sa nazýva štruktúra vety. Neprenášame vety z jazyka do jazyka, snažíme sa identifikovať sémantickú štruktúru vety a potom ju syntetizovať pomocou iného jazyka.
Ale tieto sémantické štruktúry sa používajú nielen a nie tak pre účely strojového prekladu. Potrebné sú aj na efektívne riešenie problémov inteligentného vyhľadávania a analýzy informácií, ktoré sú dnes pre spoločnosť ABBYY ako obchodnú spoločnosť dôležitejšie. Napríklad nedávno vydané prvé riešenia pre podnikový trh sú založené na týchto technológiách: umožňujú vám prehľadávať a analyzovať údaje v obrovskom množstve informácií uložených v organizáciách.
A ktorý jazyk je z vášho pohľadu ťažšie pochopiteľný?
- Všeobecne sa uznáva, že ťažšie sú jazyky, v ktorých sa musíte naučiť viac pravidiel. Ale v prípade počítačového porozumenia tomu tak nie je.
Niečo, čo je pre človeka ťažké, napríklad bohatý inflexný systém v ruštine alebo v litovčine, zjednodušuje úlohu počítača v určitých fázach analýzy.
Napríklad čínsky jazyk je veľmi náročný, pretože v ňom nie je žiadna morfológia, a teda veľká nejednoznačnosť, ktorej počítač čelí. Preto je pre počítačovú analýzu čínskeho jazyka veľmi dôležité používať znalosti o svete, dôležitejšie ako napríklad pri analýze jazykov s rozvinutou morfológiou.
Podarilo sa nám spolupracovať s ruským, nemeckým, anglickým, francúzskym, španielskym, čínskym. Analýza jazyka je rozdelená do niekoľkých etáp. Niektoré fázy majú špecifickosť, ťažkosti s jedným jazykom, iné s iným. V podstate sú však technológie, s ktorými pracujeme, použiteľné vo všetkých jazykoch.
Podľa vášho názoru, kedy príde deň, keď budeme mať možnosť získať rýchly a zrozumiteľný preklad na počítači súbežne s našou konverzáciou. Povedzme, že hovoríme teraz, a okamžite získate prepis rozhovoru v španielčine?
- Bude to možné skoro. Nemyslím si, že za dva roky. Ale … Čo je potrebné na vyriešenie tohto problému? Musíme zlepšiť naše systémy na analýzu reči. Zatiaľ nemôžeme uskutočniť spontánny rozhovor, oddeliť ho od hluku a získať požadovaný text. A týmto smerom sa každý rok dosahuje pokrok.
Budú však také veci, ktoré stroj nedokáže jednoznačne interpretovať. A tu bude presnosť porozumenia a prekladu závisieť od dostupnosti systému vedomostí o svete, od mechanizmov logickej inferencie.
V každom prípade však bude existovať riziko úplnej dôvery v takýto program. Je chybou si myslieť, že za päť rokov môžete diktovať list do počítača, preložiť ho, poslať vášmu obchodnému partnerovi a všetko bude v poriadku. Nikto nezaručuje, že stroj niekde nevynechá „nie“alebo neurobí iné chyby, po ktorých možno považovať váš obchodný vzťah za kompletný.
To znamená, že osoba ako kontrolór by mala byť stále?
- Určite. Slepá dôvera v technológiu je nebezpečná.