Smartphony, roboty a počítače uľahčujú náš život, ale možno v tomto procese niečo stratíme? Reportér z jednej z publikácií hovoril s americkým spisovateľom Nicholasom Carrom o nebezpečenstvách a dokonca hrozbách nadmernej automatizácie.
Všeobecne sa verí, že automatizácia všetkého a každého zlepšuje kvalitu nášho života. Počítače nám pomáhajú dosahovať špičkový výkon. Softvérové aplikácie uľahčujú a uľahčujú úlohy. Roboti preberajú únavnú a tvrdú prácu. Neustály prúd inovácií zo Silicon Valley iba posilňuje presvedčenie ľudí, že nové technológie zlepšujú život.
Existuje však iný názor. Spisovateľ Nicholas Carr podrobuje postuláty moderného digitálneho sveta nestrannej analýze. Jeho esej „Dáva nám spoločnosť Google hlúposť?“, Uverejnenú v atlantickom časopise v roku 2008, je stále kontroverzná, rovnako ako jeho bestsellerová kniha z roku 2010 The Shallows.
Carr vidia prívrženci teórie, že technológia zachráni náš svet ako jedného z ich najsilnejších oponentov. A tí, ktorí sa obávajú dôsledkov technologického pokroku pre ľudstvo, ho rešpektujú za vyváženého zdôvodnenia.
Teraz sa Carr zaujíma o novú otázku: mali by sme sa báť, že pre nás nebudú vo svete postupne žiadne ťažké úlohy? Budú naše životy vďaka novým technológiám príliš efektívne?
Pred nejakým časom sa novinár (T. C.) stretol so spisovateľom, aby hovoril o svojej novej knihe The Glass Cage: Automation and Us a o tom, čo ju prinútilo napísať.
1. Odhaľovať hlavný mýtus o nových technológiách
Propagačné video:
„Mysleli sme si, že účinnosť a pohodlie sú štandardne dobré. Tento prístup je dosť naivný.“
Tom Chatfield: Ak rozumiem správne, v The Glass Cage sa snažíte odhaliť mýtus, že zjednodušenie našich životov prostredníctvom technologického pokroku je nevyhnutne pozitívnym javom.
Nicholas Carr: Na osobnej aj inštitucionálnej úrovni sme si zvyknutí myslieť, že účinnosť a pohodlie sú v predvolenom nastavení dobré, a ich maximalizácia je určite hodným cieľom. Zdá sa mi, že tento prístup k technológiám vo všetkých jeho formách, najmä vo forme počítačovej automatizácie, je dosť naivný. Platí to aj pre naše vlastné túžby a skutočný život v modernom svete.
Nahradia počítače niekedy ľudia?
T. Ch.: Napriek tomu väčšina prívržencov technologického pokroku sa pridržiava utilitárneho hľadiska, podľa ktorého najväčšie chyby, ktoré robíme, sú dôsledkom zanedbania efektívnosti a logiky, av skutočnosti sami nevieme, čo je pre nás dobré. Úlohou technologického pokroku je preto z ich hľadiska identifikovať nedostatky ľudského myslenia a potom vytvoriť systémy, ktoré by tieto nedostatky kompenzovali. Je tento názor nesprávny?
N. K.: Na jednej strane mnoho inovácií vo vývoji výpočtovej techniky a vývoji automatizovaných systémov nemá nič spoločné s tvrdením, že ľudia sú v porovnaní s počítačmi veľmi nedokonalí. Áno, počítač možno naprogramovať tak, aby vykonával určité operácie na neurčito v stálej kvalite. A je pravda, že človek to nie je schopný.
Niektorí však idú ešte ďalej a tvrdia, že ľudia sú príliš nedokonalí, že ich úloha by mala byť čo najviac obmedzená a počítače by mali byť zodpovedné za všetky základné úlohy. Nejde len o pokus o kompenzáciu ľudských nedostatkov - ide o to, aby sa ľudský faktor odstránil úplne, v dôsledku čoho sa podľa nášho názoru náš život zlepší.
TC: Zdá sa, že to nie je najlepší nápad. Existuje optimálna úroveň automatizácie?
N. K.: Podľa môjho názoru nejde o to, či musíme automatizovať túto alebo túto zložitú úlohu. Otázkou je, ako využívame automatizáciu, ako presne používame počítače na doplnenie ľudských vedomostí a zručností, ako kompenzovať nedostatky v ľudskom myslení a správaní a ako motivovať ľudí, aby čo najlepšie využili svoje vlastné skúsenosti a dosiahli nové výšky.
Nadmerné spoliehanie sa na softvér nás môže zmeniť na pozorovateľov počítačového monitora a operátorov toku procesov. Počítače môžu hrať veľmi dôležitú úlohu, pretože sme iba ľudia - môžeme sa stať obeťou predsudkov alebo vynechať dôležité informácie. Nebezpečenstvo však spočíva v tom, že je príliš ľahké zadať všetky naše funkcie počítačom, čo by podľa môjho názoru bolo nesprávne rozhodnutie.
2. Potrebujete priblížiť skutočný život k scéne videohry?
„Počítačové hry sa nám páčia práve preto, že nie je ľahké hrať.“
TC: S potešením som si všimol, že vo svojej knihe citujete videohry ako príklad interakcie v systéme „človek-stroj“, v ktorom ide o to, aby ste prekonali ťažkosti a nevyhýbali sa im. Najpopulárnejšie hry sú druhom práce, ktorá dáva hráčovi pocit spokojnosti. Môžeme sa len sťažovať, že práca, ktorú mnohí z nás musia robiť každý deň, vyžaduje oveľa menej zručností a prináša nám omnoho menej radosti.
N. K.: Videohry sú veľmi zaujímavé, pretože ich koncept je v rozpore so všeobecne prijatými zásadami vývoja softvéru. Účelom počítačových hier nie je vôbec zbaviť užívateľa nepríjemností. Naopak, stimulujú hráča, aby vyvinul väčšie úsilie a maximalizoval využitie mozgu. Videohry sa nám páčia práve preto, že sú pre nás výzvou s neustále rastúcimi výzvami. Neustále sa nachádzame v ťažkých situáciách - ale nie v situáciách, ktoré spôsobujú zúfalstvo. Prekonanie každej novej úrovne iba vylepšuje naše zručnosti.
Tento proces je veľmi podobný tomu, ako človek získa životné skúsenosti v reálnom živote. Ako vieme, na rozvoj schopností musí človek znova a znova čeliť vážnym prekážkam a prekonávať ich pomocou všetkých svojich vedomostí a zručností. Postupne človek dosiahne novú úroveň, po ktorej sa zvyšujú ťažkosti s prekážkami.
Myslím si, že ľudia milujú videohry z toho istého dôvodu, že sú spokojní s získavaním nových skúseností a prekonávaním prekážok. Riešenie náročnej úlohy, pri ktorej sa získavajú nové vedomosti potrebné na prekonanie nových, ešte zložitejších problémov, dáva človeku veľkú radosť.
Jednou z hlavných obáv, ktoré v knihe vyjadrujem, je to, že náš postoj k pokroku súvisí s túžbou vyhnúť sa čo najväčšiemu riešeniu zložitých problémov. Zdá sa mi, že tento pohľad je v rozpore so samotným poňatím životnej spokojnosti a sebarealizácie.
3. Vylúčia počítače potrebu ľudí?
„Ľudia jednoducho nemôžu držať krok s počítačmi pri obchodovaní s finančnými nástrojmi“
TC: Na rozdiel od videohier, v skutočnom svete nemusí byť tvrdá práca odmenená. Skutočný svet je nespravodlivý a nevyvážený. Možno najznepokojivejším trendom je, že záujmy jednotlivca (psychologicky, osobne a dokonca aj pokiaľ ide o prežitie) sa čoraz viac prikrývajú s predstavami o vhodnosti pre podniky a vlády. Bojíte sa, že počítače konečne nahradia ľudí?
N. K.: Keď som zbieral materiál pre knihu, veľmi ma vystrašil článok (citácie, z ktorých citujem text) napísané odborníkom na vojenskú stratégiu. Podľa neho, vzhľadom na rastúcu mieru využívania počítačových technológií na bojisku, veľmi skoro nemusí existovať priestor pre osoby vo vojenských záležitostiach. Rýchlosť rozhodovania sa natoľko zvýšila, že ľudia jednoducho nedokážu držať krok s počítačmi. Nevyhnutne smerujeme k plne automatizovanému bojovaniu: roboti sa sami rozhodnú, kedy budú strieľať rakety na terče, a robotickí vojaci na zemi sa rozhodnú, kedy budú strieľať.
Podľa môjho názoru je táto situácia pozorovaná nielen vo vojenských záležitostiach, ale aj v mnohých ďalších oblastiach - napríklad vo svete financií. Napríklad pri obchodovaní s finančnými nástrojmi ľudia jednoducho nedržia krok s počítačmi.
Čo nás čaká? Nemôžeme stratiť len našu schopnosť kriticky posúdiť naše vlastné činy, ktoré nás odlišujú od počítačov - možno tieto systémy implementujeme bezmyšlienkovo a veríme, že hlavnou vecou je rýchlosť rozhodovania. A potom, ak sme presvedčení, že sme sa mýlili, zistíme, že sa nedá vrátiť späť. Ukazuje sa, že nie je možné integrovať osobu do systému pôvodne postaveného na počítačovej technológii.
TC: Bol som tiež zdesený, keď som si vo vašej knihe prečítal pasáž o automatizovanom boji. Mám pocit, že proces, ktorý nás dovedie k plne nezávislým bojovým systémom, sa nedá zastaviť. Časť môjho hrôzy pochádza zo spomienok na finančnú krízu v roku 2008, ktorá prakticky zničila bilióny dolárov. Aspoň teraz sú ľudia zodpovednejší za svoje financie. Ak sa to však stane vo vojenskej oblasti, ničia sa nielen doláre, ale ľudské životy.
Okrem toho sa mi zdá, že existuje myšlienka, ktorá odkazuje na vašu predchádzajúcu knihu „Empty“: dnešní ľudia v biologickom zmysle sa príliš nelíšia od našich predkov, ktorí žili pred stovkami rokov, ale žijeme v úplne novom svete. Dôsledky určitých činov už dávno prekročili rýchlosť, na ktorú sme zvyknutí. To isté platí pre nové vynálezy - samy o sebe, vo forme informácií a algoritmov, ako aj ich dôsledky, sa šíria ohromujúcim tempom.
Budúcnosť bez ľudí?
N. K.: Nejde iba o to, že nové technológie, najmä technológie v oblasti softvéru, sa dnes dajú veľmi rýchlo replikovať a distribuovať. Ide o to, že všetky tieto procesy prebiehajú v konkurenčnom prostredí. Či už hovoríme o pretekoch v zbrojení alebo o obchodnej súťaži, akonáhle jeden zo súperov získa krátkodobú výhodu na úkor konkrétnej technológie, okamžite ju začnú zavádzať, kedykoľvek je to možné - pretože nikto nechce zostať v nevýhode.
Myslím si, že v tejto situácii je príliš ľahké zabudnúť na skutočnosť, že v podstate sme zvieratá. Ľudia prešli tisícročia evolučnou cestou kvôli tomu, aby mohli žiť a prežiť. Úloha ľudstva, ako aj naše pocity uspokojenia a sebarealizácie úzko súvisia s našou skúsenosťou so životom vo svete, ktorý určuje naše zvyčajné tempo.
Preto, keď stojíme proti osobe so všetkými jej fyzickými výhodami a nevýhodami proti rýchlemu a presnému počítaču, existuje túžba vzdať sa počítačov celý život. Zabúdame však, že úplné odovzdanie sa počítaču nás povedie k životu, v ktorom bude malý priestor na sebarealizáciu.
4. Ako automatizujeme svet?
„Môžete inteligentne inovovať, ale môžete to urobiť ľahko.“
TC: Myslím, že musíme byť kritickí voči novým technológiám, ale obávam sa, že ľudia premieňajú zbytočné ťažkosti a antitechnologickú „autenticitu“na fetiš. Existuje taká moderná myšlienková škola, ktorá chváli tvrdú fyzickú prácu a tvrdí, že všetko, čo robíme, musí byť umelecké a autentické. Podľa môjho názoru takáto pozícia naráža na snobstvo a nezohľadňuje obrovské množstvo pozitívnych úspechov, ktoré so sebou priniesla demokratizácia technologického pokroku.
N. K.: Úplne s vami súhlasím. V rozhovore sa ma opýtali, ako by môj opatrný prístup k pokroku pomohol napríklad ľuďom pracujúcim v drsných podmienkach v závodoch na spracovanie mäsa. Odpovedal som, že, samozrejme, vždy bude miesto pre automatizáciu výroby, kde sa musia zlepšiť pracovné podmienky ľudí. Je to len to, že môžete inteligentne inovovať alebo to môžete urobiť bezdôvodne; nájdeme spôsob, ako zohľadniť hodnotu ľudskej skúsenosti a dôležitosť sebarealizácie, alebo môžeme jednoducho rozšíriť schopnosti počítačov. Správny výber nie je jednoduchý. Ak túto úlohu vnímame výlučne čiernobielo - buď slepo stojíme za tvrdou, vyčerpávajúcou fyzickou prácou v každej situácii, alebo naopak vidíme zmysel života v sybarizme - to nepomôže.
Ľudia neustále vytvárajú a používajú nástroje. Od nepamäti musíme robiť rozhodnutia týkajúce sa deľby práce a rozdelenia množstva práce medzi osobu a nástrojov, ktoré má k dispozícii. A zdá sa mi, že úžasná účinnosť počítačov pri vykonávaní širokej škály úloh iba komplikuje proces takýchto rozhodnutí.
5. Čo nás čaká?
„Musíme sa snažiť zabezpečiť, aby počítače obohatili našu životnú skúsenosť, a aby sme sa z nás nestali pasívnymi pozorovateľmi obrazoviek monitorov.“
T. Ch.: Takže, kam smeruje ľudstvo?
NK: Historik prírodnej histórie Thomas Hughes, ktorý minulý rok zomrel, navrhol koncept technologického impulzu. Veril, že technológie zakomponované do spoločenských štruktúr a procesov sa začínajú rozvíjať samy osebe a spolu s nimi tiahnu spoločnosť. Je celkom možné, že naša trajektória už bola stanovená a že budeme pokračovať na našej súčasnej ceste bez toho, aby sme sa pýtali, či sa uberáme správnym smerom. Ja naozaj neviem, čo sa stane. Najviac, čo môžem urobiť, je pokúsiť sa zdôvodniť tieto skutočne ťažké otázky podľa môjho najlepšieho vedomia.
Dúfam, že my ako jednotlivci a ako členovia spoločnosti si dokážeme udržať určitú úroveň pochopenia toho, čo sa s nami deje, ako aj určitú úroveň zvedavosti a že sa rozhodneme na základe našich dlhodobých záujmov, a nie na obvyklých koncepciách pohodlia, rýchlosti, presnosti. a efektívnosť.
Zdá sa mi, že sa musíme snažiť zabezpečiť, aby počítače obohatili našu životnú skúsenosť a otvorili nám nové príležitosti, a nie z nás urobili pasívnych pozorovateľov monitorov. Stále si myslím, že ak z nových technológií dosiahneme viac, budú schopní urobiť to, čo technológie a nástroje urobili v histórii ľudstva - vytvoriť okolo nás zaujímavejší svet a pomôcť nám, aby sme sa zlepšili. Nakoniec všetko závisí od nás samých.
Tom Chatfield