Kapitola z knihy vydanej Polytechnickým múzeom
Človek a robot - kde je hranica medzi nimi a aké nebezpečenstvo prináša naša blízkosť? Na základe osobných skúseností, početných rozhovorov a údajov z najnovšieho výskumu ponúka najuznávanejší vedec v odbore David Mindell pohľad na najinovatívnejšie aplikácie robotiky v pozadí. Indicaror. Ru publikuje kapitolu zo svojej knihy „Rise of the Machines is an Canceled! Mýty o robotizácii “.
Ľudské ovládanie - diaľkové - autonómne
Hlboko v noci vysoko nad Atlantickým oceánom v rozľahlom otvorenom priestore medzi Brazíliou a Afrikou bol pravidelný osobný dopravný prostriedok zachytený v zlom počasí. Zamrznutý ľad upchal malé trubice v nose lietadla, čo určilo jeho rýchlosť a prenášal údaje do počítačov riadiacich lietadlo. Počítače by mohli naďalej lietať bez týchto informácií, ale program, ktorý je v nich zabudovaný, takéto zarovnanie nezabezpečil. Automatický systém „fly-by-wire“sa vzdal a vypol a prenášal kontrolu na ľudí - pilotov, ktorí sedia v kokpite pilota: 32-ročný Pierre-Cedric Bonin a 37-ročný David Robert. Bonin a Robert, uvoľnení a trochu unavení, boli prekvapení, keď zrazu zistili, že za zlých poveternostných podmienok, dokonca aj v noci, budú musieť manuálne lietať s obrovským dopravným lietadlom. A za priaznivejších podmienok by bola náročná úloha, ktorej sa piloti nedávno nestáli. Veliteľ posádky, 58-ročný Marc Dubois, v tom okamihu nelietal, ale odpočíval v kabíne. Piloti museli stráviť drahocenný čas, aby ho zavolali do kokpitu. Napriek tomu, že v okamihu, keď boli počítače vypnuté, lietadlo bolo na úrovni priameho letu, pre pilotov nebolo ľahké pochopiť skromné parametre vzduchu. Jeden z nich vytiahol ovládaciu páku smerom k sebe, druhý ju posunul dopredu. Dopravné lietadlo pokračovalo v priamej rovine asi minútu a potom začalo klesať. Piloti museli stráviť drahocenný čas, aby ho zavolali do kokpitu. Napriek tomu, že v okamihu, keď boli počítače vypnuté, lietadlo bolo na úrovni priameho letu, pre pilotov nebolo ľahké pochopiť skromné parametre vzduchu. Jeden z nich vytiahol ovládaciu páku smerom k sebe, druhý ju posunul dopredu. Dopravné lietadlo pokračovalo v priamej rovine asi minútu a potom začalo klesať. Piloti museli stráviť drahocenný čas, aby ho zavolali do kokpitu. Napriek tomu, že v okamihu, keď boli počítače vypnuté, bolo lietadlo na úrovni horizontálneho letu, pre pilotov bolo ťažké pochopiť skromné parametre vzduchu. Jeden z nich vytiahol ovládaciu páku smerom k sebe, druhý ju posunul dopredu. Dopravné lietadlo pokračovalo v priamej rovine asi minútu a potom začalo klesať.a potom začal padať.a potom začal padať.
1. júna 2009 sa spoločnosť Air France Flight 447 točila do oceánu a zabila viac ako 200 cestujúcich a posádku. Zmizol do vĺn takmer bez stopy. V celosvetovo prepojenom systéme medzinárodných leteckých spoločností je nemysliteľné, aby lietadlo jednoducho zmizlo. Zorganizovala sa rozsiahla koordinovaná rešerš. O niekoľko dní neskôr sa na dno oceánu našli stopy lietadla. Napriek tomu s cieľom nájsť väčšinu trosiek dopravného lietadla a čiernych skriniek, vďaka ktorým by bolo možné zistiť príčinu tragédie, bolo potrebné vykonať prieskumy na rozsiahlom území dna oceánu, ktoré sa beznádejne pohybovali pomaly. O viac ako dva roky neskôr, v hĺbke 3,2 km, takmer v mieste, kde lietadlo narazilo na hladinu oceánu,autonómne podvodné vozidlo zvané Remus 6000 ticho kĺzalo temnotou pod obludným tlakom vodného stĺpca. Robot v tvare torpéda sa pohyboval o niečo rýchlejšie ako chodec a udržiaval konštantnú výšku asi 60 m nad dnom. V tejto polohe jeho akustický skener prijal najjasnejšie obrázky. Akustický signál prešiel asi 800 m vo všetkých smeroch, robot zhromažďoval gigabajty informácií prostredníctvom vrátených signálov.robot zbieral gigabajty informácií prostredníctvom vrátených signálov.robot zbieral gigabajty informácií prostredníctvom vrátených signálov.
Povrch bol hornatý, takže dno oceánu prudko stúplo. Napriek svojej umelej inteligencii robot občas narazil na povrch, najčastejšie bez akýchkoľvek následkov. Traja z týchto robotov harmonicky pracovali v tandeme: zatiaľ čo dvaja z nich hľadali pod vodou, tretí bol na palube lode na hladine. Takáto „zastávka v boxoch“trvala tri hodiny, počas ktorých ľudia slúžiaci robotovi prepísali informácie, nabili batérie a stanovili nové plány vyhľadávania. Na lodi pracoval tím dvanástich inžinierov z oceánografického výskumného ústavu Woods Hole pod vedením Mika Purcella, ktorý bol priekopníkom v návrhu a vývoji prehľadávacích vozidiel, dvanásťhodinový posun. Boli naložené ako akýkoľvek mechanický tím Formuly 1.
Keď sa zariadenie zdvihlo na povrch, inžinierom trvalo približne 45 minút, kým stiahli informácie, ktoré zhromaždili, do počítača, potom ďalšiu polhodinu, kým sa spracovali tak, aby sa dali rýchlo zobraziť na monitore. Francúzski a nemeckí vyšetrovatelia a predstavitelia Air France hľadeli na plecia. Ich akcie sa zdali byť vypočítané a rozvážne, ale vo vzduchu viselo napätie: podiely boli príliš vysoké, pokiaľ ide o národnú hrdosť Francúzov, reputáciu výrobcu Airbusu a bezpečnosť všetkých leteckých ciest.
Propagačné video:
Niekoľko predchádzajúcich expedícií bolo neúspešných. Vo Francúzsku, Brazílii a na celom svete rodiny obetí čakali na správy. Oddeľovanie informácií od akustického skenera vyžaduje starostlivú analýzu, ktorej počítač nemôže úplne dôverovať. Purcell a jeho inžinieri sa spoliehali na dlhoročné skúsenosti. Na svojich monitoroch študovali skalný spodný kilometer po kilometri. Táto rutinná práca trvala päť dní, kým sa jej monotónnosť neprerušila: na obrazovke sa objavila nahromadená troska a potom sa vedci dostali do oblasti katastrofy - dostali silný signál od objektov umelého pôvodu v oceánskej púšti. Aspoň tak predpokladali, ale stále nemohli povedať s istotou. Inžinieri preprogramovali vozidlá tak, aby sa vrátili do oblasti katastrofy a pohybovali sa tam a späť. Tentoraz museli roboti priblížiť kamery dosť blízko na to, aby mohli fotografovať vo výške asi 9 m nad spodnou časťou vzhľadom na bočné svetlá. Keď vozidlá priniesli obrázky na povrch, inžinieri a vyšetrovatelia uvideli oblasť katastrofy a dostali odpoveď: našli trosky dopravného lietadla, ktoré sa stalo hrobom pre stovky ľudí. Čoskoro sa ďalší tím vrátil na miesto tragédie s iným typom robota - diaľkovo ovládaným podvodným vozidlom. Čoskoro sa ďalší tím vrátil na miesto tragédie s iným typom robota - diaľkovo ovládaným podvodným vozidlom. Čoskoro sa ďalší tím vrátil na miesto tragédie s iným typom robota - diaľkovo ovládaným podvodným vozidlom.
Išlo o ťažké zariadenie špeciálne určené na prácu v hĺbke. K lodi sa pripojil pomocou kábla. Pomocou map vygenerovaných úspešným vyhľadaním ROV umiestnil čierne skrinky - diktafón lietadla a záznamník údajov - a zdvihol ich na povrch. Záznamy o záverečných minútach odsúdených pilotov sa získali z hlbín oceánu a vyšetrovatelia teraz dokázali obnoviť osudové okolnosti, ktoré viedli k zmätku na palube robotického lietadla. Potom sa podvodné vozidlo pustilo do smutnej misie - načítať zvyšky mŕtvych.
Pád lietadla Air France Flight 447 a operácia zameraná na nájdenie jeho vraku spájajú modernú automatizáciu a robotiku v dvoch extrémnych prostrediach: na okraji stratosféry a v hlbinách mora. Lietadlo spadlo do oceánu kvôli chybám v interakcii človeka s automatizovanými systémami. Jeho fragmenty potom ľudia objavili pomocou diaľkovo riadených a autonómnych robotov.
Hoci slová „automatizované“a „autonómne“(v ich najbežnejších významoch) naznačujú, že takéto systémy fungujú nezávisle, v oboch prípadoch zlyhanie alebo úspech nebolo spôsobené strojmi a ľuďmi, ktorí konajú samostatne, ale kombinovaným pôsobením strojov. a ľudia. Ľudskí piloti bojovali o život lietadla, ktoré bolo automatizované pre väčšiu bezpečnosť a spoľahlivosť; mnoho vzájomne prepojených lodí, satelitov a voľne plávajúcich bójí pomohlo lokalizovať miesto havárie; Inžinieri spracovali informácie prijaté od robotov a konali podľa nich.
Automatizované a autonómne vozidlá sa neustále vracali k svojim tvorcom - ľuďom - kvôli informáciám, energii a smeru. Tragédia letu Air France Flight 447 jasne ukázala, že neustálym prispôsobovaním sa a úpravou nášho prostredia sa pretvárame. Ako môžu byť piloti natoľko závislí na počítačoch, že na mori padli dokonale pracovnú rovinu? Aká je úloha ľudí v takých oblastiach, ako sú doprava a preprava, výskum a vojenské činnosti, keď sa zdá, že stále viac a viac úloh má na starosti strojové vybavenie? Extrémny názor je, že ľudia sú takmer „mimo prevádzky“, že roboti „doslova potrebujú jednu aktualizáciu softvéru“, aby sa stali plne autonómnymi, ako nedávno napísal vedecký Američan. Tento pohľad nám hovoríže roboty postupujú - čoraz častejšie sa s nimi stretávame v známom prostredí. Obavy z neznámych a pochybných schopností umelej inteligencie vyplývajú z presvedčenia, že sme na vrchole „superintelligence“. Náš svet je na pokraji zmeny, v skutočnosti sa už mení pod vplyvom robotov a automatizácie.
Zrazu sa objavujú nové projekty, ktoré stelesňujú staré sny inteligentných strojov, ktoré nám pomáhajú plniť naše profesionálne povinnosti, uľahčujú fyzickú prácu a rutinné úlohy v každodennom živote. Roboty, ktoré existujú a pracujú v bezprostrednej blízkosti ľudí na fyzickej, kognitívnej a emocionálnej úrovni, sa stávajú čoraz rozsiahlejšou a sľubnejšou výskumnou témou. Autonómia - sen, ktorý sa roboti jedného dňa budú správať ako úplne nezávislé entity - zostáva zdrojom inšpirácie, inovácie a strachu. Vzrušenie je spôsobené závažnosťou experimentu; presné formy týchto technológií nie sú ani zďaleka úplné a ešte menej isté sú ich sociálne, psychologické a kognitívne dôsledky.
Ako nás zmenia naši roboti? V akom obraze a podobe ich vyrobíme? Čo zostane z našich tradičných oblastí činnosti - vedec, právnik, lekár, vojak, vedúci a dokonca vodič a školník - keď tieto úlohy budú vykonávať stroje? Ako budeme žiť a pracovať? Nepotrebujeme špekulovať: zväčša táto budúcnosť už dnes prišla, ak nie v každodennom živote, potom v extrémnych podmienkach, kde roboti a automatizáciu využívame už desaťročia. Človek nemôže existovať sám v horných vrstvách atmosféry, v hĺbkach oceánu, vo vesmíre. Kvôli potrebe poslať ľudí do týchto nebezpečných podmienok bola robotika a automatizácia vytvorená a implementovaná v týchto oblastiach skôr ako v iných oblastiach činnosti, ktoré sú nám známe.
V extrémnych prostrediach je vzťah medzi človekom a robotmi testovaný na silu. V takomto prostredí sa objavujú najinovatívnejšie udalosti. Tu majú inžinieri najväčšiu slobodu experimentovať. Napriek fyzickej izolácii sa tu začali prejavovať kognitívne a sociálne účinky rôznych zariadení. So zreteľom na ľudské životy, drahé vybavenie a kritické misie musí byť autonómia vždy obmedzená z hľadiska bezpečnosti a spoľahlivosti. V takých podmienkach márnosť a záležitosti každodenného života dočasne ustupujú do pozadia a nachádzame izolovaný od okolitej temnoty fragmentárne strašidelné alegórie ľudského života vo svete technológie. Sociálne a technologické procesy v kabíne dopravného lietadla alebo vo vozidle na otvorenom mori sa zásadne nelíšia od podobných procesov v továrni, v kancelárii alebo v aute. V extrémnych podmienkach sa však javia jasnejšie, a preto sú ľahšie pochopiteľné.
Každý let lietadla je príbeh, rovnako ako každá oceánografická expedícia, vesmírny let alebo vojenská operácia. Prostredníctvom týchto príbehov konkrétnych ľudí a strojov dokážeme spojiť údaje o jemnej dynamike. V extrémnych podmienkach si predstavujeme našu blízku budúcnosť, keď je možné takéto technológie implementovať v takých oblastiach ľudskej činnosti, ako je cestná doprava, zdravotníctvo, vzdelávanie atď. Zariadenia ovládané osobou na diaľku alebo autonómne odhaľujú kvalitatívne nové možnosti interakcie medzi ľuďmi a strojmi nové formy prítomnosti a nové skúsenosti a zároveň upozorňujú na nebezpečenstvo, etické aspekty a nežiaduce následky života okolo inteligentných strojov. Vidíme budúcnosť, v ktorej sa ľudská prítomnosť a vedomosti stanú dôležitejšími,ako inokedy, ale spôsobom, ktorý je nezvyčajný a neznámy. A tieto autá sú jednoducho úžasné.
Nie som jediný človek, ktorý celý život obdivoval lietadlá, vesmírne lode a ponorky. Hrdinovia príbehov, ktoré rozpíšem nižšie, sa v skutočnosti riadili nielen hľadaním praktických výhod, ale aj túžbou po nových technológiách. Nie je náhoda, že takéto príbehy boli často opísané v dielach science fiction o ľuďoch a strojoch. Príbehy ľudí a strojov interagujúcich na hranici svojich možností sú podmanivé, prekvapujúce a prebúdzajúce nádeje, pre ktorých sa môžeme stať. Toto nadšenie sa niekedy odráža v naivnej viere v perspektívu technológie. Takýto záujem nás však postupne vedie k hlavným filozofickým a humanistickým otázkam:kto sme? Ako sme spojení s našou prácou a navzájom? Ako naše výtvory rozširujú naše skúsenosti? Ako môžeme žiť v tomto meniacom sa svete? Tieto otázky sa objavujú samostatne, keď začnete hovoriť s ľuďmi, ktorí vytvárajú a kontrolujú roboty a stroje. Chcem sa s vami podeliť o informácie, ktoré som dostal z prvej ruky z hĺbkových rozhovorov a výsledkov najnovšieho výskumu z Massachusetts Institute of Technology a ďalších organizácií, ktoré testujú robotiku a automatizáciu v extrémnych podmienkach hlbín oceánov, počas leteckých letov (civilných a vojenských). a vo vesmíre. Toto nie je fiktívna budúcnosť, ale to, čo sa dnes deje: uvidíme, ako ľudia riadia roboty a prijímajú informácie prostredníctvom autonómnych zariadení, analyzujeme, ako tieto interakcie ovplyvňujú ich prácu,životné skúsenosti, zručnosti a schopnosti.
Náš príbeh sa začína tam, kde som sám začal - v hlbinách oceánu. Pred dvadsiatimi piatimi rokmi, keď som bol inžinierom vývoja vstavaných počítačov a nástrojov pre roboty na hlbokom mori, som bol prekvapený zistením, že táto technika mení nepredvídateľným spôsobom oceánografiu, vedecké metódy a dokonca aj samotnú povahu profesie oceánografov. Toto porozumenie ma viedlo k dvom paralelným zamestnaniam. Ako vedec som študoval interakcie medzi ľuďmi a strojmi, od obrnených lodí počas americkej občianskej vojny až po počítače a softvér, ktorý pomohol astronautom Apolla pristáť na Mesiaci.
Ako inžinier som integroval údaje získané z tohto výskumu do moderných projektov - vývoj robotov a zariadení pre použitie v úzkej interakcii s ľuďmi. V niektorých príbehoch sa objavujem ako účastník, v iných - ako pozorovateľ a v iných - v obidvoch týchto maskách naraz. Počas rokov zhromažďovania skúseností, hľadania a rozhovoru s ľuďmi som sa presvedčil, že musíme zmeniť názor na roboty. Dokonca ani jazyk, v ktorom o nich hovoríme, je skôr prevzatý zo sci-fi 20. storočia a nemá nič spoločné s technickými úspechmi našej doby. Napríklad diaľkovo ovládané lietadlá sa nazývajú bezpilotné lietadlá, akoby to boli bezduché automaty, keď sú v skutočnosti prísne ovládané ľuďmi.
Roboty sa často prezentujú (a predávajú) ako úplne autonómni sprostredkovatelia, ale aj dnešná obmedzená autonómia často existuje iba v ľudskej fantázii. Roboty, ktoré používame tak široko a rôznorodo, sú automaty s hrozbami len ťažko - sú zabudované do sociálnych a technických sietí ako my. Ďalej sa pozrieme na mnoho príkladov toho, ako spolupracujeme s našimi strojmi. Je to všetko o kombináciách. Je čas zvážiť, aké funkcie moderné roboty skutočne vykonávajú, aby lepšie porozumeli nášmu vzťahu s týmito často úžasne zručnými výtvormi ľudských rúk. Ponúkam vám empirický záver podporovaný výskumom: bez ohľadu na to, čo roboty robia v laboratóriu, v skutočnosti sú to ľudské životy a skutočné zdroje,usilujeme sa obmedziť ich autonómiu na veľké množstvo požadovaných schválení a príležitostí na zásah človeka.
Netvrdím, že stroje sú inteligentné, a nehovorím, že jedného dňa nemusia byť dosť chytré. Skôr tvrdím, že takéto stroje nie sú izolované od ľudí. Vymenujme tri mýty 20. storočia týkajúce sa robotiky a automatizácie. Prvým mýtom je lineárny pokrok - myšlienka, že technológia sa posunie od priameho ľudského riadenia k diaľkovému ovládaniu a potom k úplne samostatným robotom. Podstatu tohto mýtu zachytávajú slová filozofa Petra Singera, ktorý neustále hovorí v obrane autonómnych systémov. Píše, že „schopnosť ľudí udržať si kontrolu nad tým, čo sa deje, je anulovaná tak u kormidla, ako aj priamo z technológie, a preto budú ľudia čoskoro vylúčení z kontrolnej slučky.“Nie je však dôvod predpokladaťže evolúcia bude nasledovať túto cestu, že „samotná technológia“, ako píše Singer, povedie k niečomu podobnému. V skutočnosti existujú dôkazy, že ľudia postupne prichádzajú do hlbšieho kontaktu so svojimi strojmi.
Neustále zisťujeme, že ľudia, ktorí sú nimi diaľkovo ovládaní a autonómne vozidlá, sa vyvíjajú paralelne a vzájomne sa ovplyvňujú. Napríklad letecké dopravné prostriedky bez posádky by nemohli lietať v národnom vzdušnom priestore USA bez primeraných zmien vo vozidlách s posádkou. Alebo si zoberme ďalší príklad: nové pokroky v robotike v oblasti údržby kozmických lodí sa odrážajú v práci astronautov pomocou Hubbleovho vesmírneho teleskopu. Najpokrokovejšie (a najkomplexnejšie) technológie nie sú tie, ktoré pracujú oddelene od ľudí, ale technológie, ktoré sú najhlbšie začlenené do sociálneho systému a rýchlejšie reagujú na to, čo sa v ňom deje. Druhým je substitučný mýtus, myšlienka, že stroje postupne začnú preberať všetky úlohy, ktoré ľudia vykonávajú. Tento mýtus je verziou dvadsiateho storočia, ktorú nazývam fenoménom Iron Horse.
Ľudia si spočiatku mysleli, že železnice popierajú potrebu koní, ale vlaky sa ukázali ako veľmi nedôležité. Železnice zaujali miesto, keď sa ľudia s pomocou naučili robiť úplne nové veci. Výskumníci v oblasti ľudských faktorov a kognitívni vedci tvrdia, že automaty len zriedka „mechanizujú“ľudské úlohy. Skôr majú sklon sťažovať úlohu, často zvyšovaním pracovnej záťaže (alebo jej prerozdeľovaním). Diaľkovo ovládané lietadlá nevykonávajú rovnaké úlohy ako lietadlá s posádkou; preberajú nové funkcie. Diaľkovo ovládané roboty na Marse nereplikujú prácu geológov v teréne;oni a ľudia, ktorí s nimi pracujú, sa učia vykonávať terénny výskum v novom prostredí pomocou vzdialených mechanizmov.
Nakoniec máme tretí mýtus - mýtus úplnej autonómie, utopická myšlienka, že roboti môžu dnes alebo v budúcnosti konať úplne nezávisle. Áno, automaty, samozrejme, môžu prevziať niektoré z úloh, ktoré predtým vykonávali ľudia, a sú skutočne schopné konať na obmedzený čas nezávisle na reakciách na zmeny prostredia. Stroje, ktoré nie sú závislé od ľudského smerovania, sú však zbytočnými strojmi. Iba kameň môže byť skutočne autonómny (ale aj kameň bol vytvorený a umiestnený na svoje miesto vďaka svojmu prostrediu). Automatizácia mení mieru zapojenia ľudí do prevádzky stroja, ale nevylučuje to úplne. V každom systéme, dokonca aj zdanlivo autonómnom systéme, vždy nájdeme rozhranie, vďaka ktorému človek môže riadiť svoju prácu,čítať informácie a vďaka ktorým sa stáva užitočným. Aby som citoval jednu z posledných správ Ministerstva obrany USA, „Neexistujú žiadne úplne autonómne systémy, rovnako ako neexistujú žiadne úplne autonómne vojaci, námorníci, letci alebo námorníci“.
Aby sme mohli uvažovať v termínoch 21. storočia a zmeniť naše názory na robotiku, automatizáciu a najmä novšiu predstavu o autonómii, musíme pochopiť, ako ľudské úmysly, plány a predpoklady menia podstatu stroja, ktorý vytvárajú. Každý operátor, ktorý riadi jeho stroj, komunikuje s dizajnérmi a programátormi, ktorých prítomnosť v stroji je nemenná - dokonca aj vo forme štrukturálnych prvkov alebo riadkov kódu vytvorených pred mnohými rokmi. Palubné počítače Air France Flight 447 mohli lietať lietadlom aj s obmedzenými údajmi o rýchlosti letu, ale ľudia ich naprogramovali tak, aby to nemohli. Aj keď softvér podniká kroky, ktoré nemožno predvídať, správa sa v rámci schém a obmedzení stanovených jeho tvorcami. že,ako bol systém vyvinutý, kým a na aké účely určuje jeho schopnosti a spôsoby interakcie s ľuďmi, ktorí ho používajú. Mojím cieľom je zbaviť sa týchto mýtov a pochopiť pojem autonómie v kontexte 21. storočia.
Prostredníctvom príbehov, ktoré nasledujú, mám v úmysle pretvoriť verejný diskurz a vytvoriť koncepčnú mapu pre novú éru. Aby som vytvoril takúto mapu, hovoriac o zariadeniach a robotoch v tejto knihe, budem pracovať s konceptmi ľudsky riadeného, vzdialeného a autonómneho. Prvý je analógom nie vždy vhodného slova „obsluhovaný“, preto v niektorých prípadoch „kontrolovaný“bude znamenať „ovládaný osobou vo vozidle“. Sú to samozrejme staré a známe typy prístrojov, ako sú lode, lietadlá, vlaky a automobily - stroje, cez ktoré ľudia cestujú. Spravidla sa systémy riadené človekom vôbec nepovažujú za robotov, hoci sa čoraz viac podobajú robotom s ľuďmi vo vnútri. Diaľkové ovládanie, skrátená forma diaľkovo ovládaného vozidla, jednoducho označuje, kde sa vodič nachádza vo vzťahu k vozidlu. Aj keď sa kognitívna úloha ovládania vzdialeného systému takmer úplne zhoduje s úlohou priamo vykonávanou fyzicky prítomným operátorom, prítomnosť alebo neprítomnosť operátora a súvisiace riziká majú veľký kultúrny význam.
Najvýraznejším príkladom sú vzdialené vojny tisíce kilometrov od vojnovej zóny. Je to zážitok úplne odlišný od úloh bežného vojaka. Ako kognitívny jav je prítomnosť človeka prepojená so sociálnym aspektom. Automatizácia je tiež myšlienka dvadsiateho storočia a stále odráža mechanistický názor, že stroje postupujú krok za krokom vopred stanovené postupy. Pojem „automatizovaný“sa bežne používa na opis počítačov na palube lietadla, hoci obsahuje moderné, skôr zložité algoritmy. Autonómia je dnes modernejšie slovo a je jednou z najvyšších výskumných priorít stále sa zmenšujúceho ministerstva obrany USA. Niektorí vedci jasne rozlišujú medzi autonómiou a automatizáciou, ale podľa môjho názorurozdiel medzi autonómiou spočíva iba vo väčšej miere nezávislého rozhodovania ako jednoduchá spätná väzba; navyše pojem „autonómia“zahŕňa a zjednocuje mnoho myšlienok vypožičaných z teórie umelej inteligencie a iných disciplín. A, samozrejme, myšlienka autonómie jednotlivcov a skupín sa stáva príčinou neustáleho rozporu v politike, filozofii, medicíne a sociológii. To by nemalo byť žiadnym prekvapením, pretože technici si často požičiavajú podmienky od spoločenských vied, aby opísali svoje stroje.myšlienka autonómie jednotlivcov a skupín sa stáva príčinou neustáleho sporu v politike, filozofii, medicíne a sociológii. To by nemalo byť žiadnym prekvapením, pretože technici si často požičiavajú podmienky od spoločenských vied, aby opísali svoje stroje.myšlienka autonómie jednotlivcov a skupín sa stáva príčinou neustáleho sporu v politike, filozofii, medicíne a sociológii. To by nemalo byť žiadnym prekvapením, pretože technici si často požičiavajú podmienky od spoločenských vied, aby opísali svoje stroje.
Dokonca aj v dizajnérskom priemysle môže mať pojem „autonómia“niekoľko rôznych významov. Autonómia pri navrhovaní kozmických lodí spočíva v spracovaní údajov, ktoré sú potrebné na prevádzku kozmickej lode na palube (či už ide o automatickú stanicu na obežnej dráhe alebo mobilný robot), oddelene od úloh, ako je plánovanie misií. V Massachusetts Institute of Technology, kde vyučujem, sa obsah kurzov autonómie inžinierstva týka predovšetkým „plánovania trás“- ako sa dostať z jedného bodu do druhého, stráviť primerané množstvo času a bez toho, aby sa do ničoho ničilo. V iných systémoch je autonómia analogická inteligencii, schopnosti robiť rozhodnutia, ktoré by človek urobil v určitých situáciách, alebo schopnosti konať v podmienkachktoré tvorcovia zariadenia neočakávali ani nepredvídali.
Autonómne ponorky sa nazývajú preto, že fungujú samostatne a sú na rozdiel od diaľkovo ovládaných vozidiel, ktoré sú k lodi spojené dlhými káblami. Napriek tomu inžinieri, ktorí vytvárajú takéto autonómne ponorky, tvrdia, že ich zariadenia sú čiastočne autonómne, pretože iba v zriedkavých prípadoch fungujú bez kontaktu s operátorom. Pojem „autonómny“znamená väčšiu slobodu konania. Opisuje spôsob prevádzky zariadenia, čo je potenciálne prchavý faktor. V nedávnej štúdii sa navrhuje pojem „zvyšujúca sa autonómia“: autori tak zdôrazňujú relatívnu povahu autonómie a tvrdia, že „úplná“autonómia, tj stroje, ktoré nemusia prijímať informácie od osoby, bude vždy nedosiahnuteľná.
V tejto knihe bude pracovnou definíciou autonómie: prostriedky vyvinuté človekom na transformáciu informácií z prostredia do cielených plánov a akcií. Znenie záležitostí a dáva kontroverzii inú príchuť. Ale nemali by sme na nich bývať. Často sa budem spoliehať na jazyk (ktorý môže byť niekedy nepresný) používaný ľuďmi, s ktorými pracujem. Zmyslom tejto knihy nie je definícia, ale opisy skutočnej práce - ako ľudia používajú tieto systémy v reálnom svete, získavajú nové skúsenosti, skúmajú alebo dokonca bojujú a zabíjajú. Čo sa vlastne deje? Ak budete venovať pozornosť životným zážitkom dizajnérov a tých, ktorí používajú roboty, potom sa všetko vyjasní. Napríklad,slovo „dron“skryje prirodzenú ľudskú povahu robotov a pripisuje ich negatívne stránky abstraktným myšlienkam, ako sú „technológia“alebo „samostatnosť“. Keď skúmame vnútorné fungovanie operátorov Predátora, zistíme, že nevedú vojnu automatickými zariadeniami - ľudia stále vymýšľajú, programujú a kontrolujú stroje.
Existuje dlhá debata o etike a politikách diaľkového vraždenia dronmi so vzdialenými operátormi alebo o utajení takýchto zariadení fungujúcich vo vnútornom vzdušnom priestore USA. Tieto diskusie však súvisia s povahou, miestom a načasovaním ľudských rozhodnutí, nie s nezávislými strojmi. V dôsledku toho nejde o porovnanie vozidiel s posádkou a bez posádky a nie o porovnanie vozidiel s ľudskou posádkou s autonómnymi vozidlami. Hlavné otázky tejto knihy sú: „Kde sú tí ľudia?“, „Kto sú títo ľudia?“, „Čo robia?“, „Kedy to robia?“Kde sú ľudia? (Na lodi … vo vzduchu … vo vnútri auta … alebo v kancelárii?) Manipulácia operátora Predátora sa podobá činnosti pilota lietadla - monitoruje stav palubných systémov, vníma informácie,prijíma rozhodnutia a podniká určité kroky. Jeho telo je však na inom mieste, možno niekoľko tisíc kilometrov od výsledkov jeho práce. Tento rozdiel je dôležitý. Úlohy sú rôzne. Riziká sú rôzne, rovnako ako rovnováha síl.
Ľudská myseľ je schopná cestovať na iné miesta, iné krajiny, na iné planéty. Vedomosti získané prostredníctvom mysle a zmyslov sa líšia od vedomostí získaných prostredníctvom tela (kde jete, spíte, komunikujete, defekujete). V závislosti od konkrétnej situácie sa rozhodujeme, ktorá z dvoch ciest získavania vedomostí má následky, a to má dôsledky pre tých, ktorí sú do procesu zapojení. Kto sú títo ľudia? (Piloti … inžinieri … vedci … nekvalifikovaní pracovníci … manažéri?) Zmeniť techniku a potom sa zmení aj úloha a podstata špecialistu, ktorý na tom pracuje. V skutočnosti zmeníte celý kontingent ľudí schopných riadiť systém. Stať sa pilotom trvá roky štúdia a odbornej prípravy a táto profesia je na vrchole personálnej hierarchie. Vyžaduje diaľkové ovládanie lietadla rovnaké zručnosti a vlastnosti? Z ktorých sociálnych tried možno prijať pracovníkov?
Nárast automatizácie komerčných lietadiel zodpovedá rozšíreniu demografických údajov pilotov v priemyselných krajinách aj na celom svete. Je vedec niekto, kto cestuje v nebezpečných podmienkach, alebo niekto, kto sedí doma pred počítačom? Máte radosť zo života na palube, aby ste sa stali oceánografom? Môžete preskúmať Mars, keď ste na invalidnom vozíku? Čo sú títo noví piloti, vedci a vedci, ktorí pracujú so vzdialeným prístupom? Čo robia? (Fly … ovládanie … informácie o procese … komunikovať?) Fyzické úsilie sa premieňa na spracovanie vizuálnych informácií a potom na kognitívnu úlohu. To, čo predtým vyžadovalo silu, si teraz vyžaduje pozornosť, trpezlivosť a rýchlu reakciu. Udržiava pilot ruky priamo na ovládacích pákach,kedy letí lietadlom? Alebo zadajte kľúčové príkazy do autopilota alebo letového počítača na programovanie letovej dráhy lietadla? Aká je úloha osoby pri hodnotení situácie? Aká je úloha inžiniera, ktorý programoval palubný počítač, alebo leteckého technika, ktorý ho nastavil?
Kedy to robia? (V reálnom čase … s určitým oneskorením … vopred, roky alebo mesiace pred misiou?) Let obyčajného lietadla sa koná v reálnom čase: človek okamžite reaguje na udalosti, ktoré sa vyskytnú, a jeho konanie má okamžitý účinok. V prípade vesmírneho letu môže byť zariadenie na Marse (alebo sa blížiť k vzdialenému asteroidu), v takom prípade bude trvať 20 minút, kým zariadenie dostane príkaz, a 20 minút, kým operátor uvidí, že sa niečo stalo. Alebo môžeme povedať, že plavidlo pristáva „v automatickom režime“, keď v skutočnosti chápeme, že pristane pod kontrolou programátorov, ktorí opustili pokyny niekoľko mesiacov alebo rokov pred pristátím (aj keď tu možno budeme musieť upraviť samotný koncept "ovládať"). Ovládanie automatizovaného systému sa môže podobať interakcii s duchom. Tieto jednoduché otázky nás upozorňujú na prerozdelenie a nové vyrovnanie.
Nové formy ľudskej prítomnosti a činnosti nie sú bežné a nie sú rovnocenné so starými - kultúrna identita pilota, ktorý riskuje, že jeho život letí lietadlom na bojisku, sa líši od osoby, ktorá diaľkovo ovláda vozidlo z pozemnej stanice. Tieto zmeny sú však tiež neočakávané - vzdialený operátor sa môže na bojisku cítiť viac ako pilot, ktorý nad ním letí vysoko. Vedecké informácie o mesiaci môžu byť rovnaké alebo dokonca úplnejšie, ak sú zhromažďované diaľkovo ovládaným vozidlom a nie osobou, ktorá pristála priamo na planéte. Ale kultúrny zážitok z lunárneho prieskumu je v tomto prípade úplne iný. Nahradme staromódne predstavy bohatými animovanými obrázkami o tom, ako ľudia skutočne vytvárajú a kontrolujú roboty a automatické systémy v reálnom svete. Príbehy nižšie sú vedecké, technické a humanistické.
Uvidíme, že ľudské, vzdialené a autonómne stroje umožňujú pohyb a presmerovanie ľudskej prítomnosti a konania v čase a priestore. Podstata tejto knihy sa scvrkáva na toto: nie je dôležitá samotná opozícia človekom riadených a autonómnych systémov, ale otázky - „Kde sú ľudia?“, „Kto sú títo ľudia?“, „Čo robia a kedy?“Posledná, najťažšia otázka bude: „Ako sa zmení vnímanie ľudí?“„A prečo na tom záleží?“