Myšlienka, že umelá inteligencia nás nevyhnutne povedie k scenáru, v ktorom sa stroje vzbúria proti ľuďom, je celkom populárna. Umelá superinteligencia sa zdá byť najväčšou možnou hrozbou a fantastické príbehy, podľa ktorých nás nebudeme potrebovať vo svete vlastnenom technológiou, nikdy nestratili popularitu.
Je to nevyhnutné?
Literárne a filmové zobrazenie inteligentných počítačových systémov zo šesťdesiatych rokov pomohlo formovať a zhrnúť naše očakávania do budúcnosti, keď sa púšťame na cestu vytvárania strojovej inteligencie, ktorá prevyšuje ľudskú inteligenciu. AI už určite prekonala ľudí v určitých konkrétnych úlohách, ktoré si vyžadujú zložité výpočty, ale stále zaostáva v rade ďalších schopností. Ako súčasne zvýšiť silu tohto tvrdého nástroja a udržať si nad ním našu ekonomickú pozíciu.
Keďže umelá inteligencia už hrá a bude v budúcnosti zohrávať významnú úlohu, je nevyhnutné preskúmať naše možnosti koexistencie s týmito komplexnými technológiami.
Kevin Abosch, zakladateľ spoločnosti Kwikdesk, spoločnosti zaoberajúcej sa spracovaním údajov a umelej inteligencie, sa o tom podelil. Domnieva sa, že umelá inteligencia by mala byť rýchla, nenápadná, spoľahlivá, gramotná a etická. Áno, etické.
Etický rámec
Propagačné video:
Koncept umelej neurónovej siete, modelovaný po biologickej neurónovej sieti, nie je ničím novým. Jednotky výpočtového výkonu nazývané neuróny sa navzájom spájajú a vytvárajú sieť. Každý neurón aplikuje na vstup sofistikovaný algoritmus učenia, pred prenosom údajov do iných neurónov, až kým sa neurón na výstupe neaktivuje a neotvorí možnosť čítania. Expertné systémy sa spoliehajú na to, že ľudia „učia“systém a pestujú semená znalostí. Logické motory hľadajú zhody, robia rozhodnutia, nastavujú pravidlá vedomostnej základne vtedy-vtedy-vtedy. V tomto procese sa do vedomostnej základne pridajú nové vedomosti. Čistá neurónová sieť sa učí v procese získavania nelineárnych skúseností, nemá problém s nasadením znalostí odborníkom. Hybridné siete sa osvedčiliktoré zlepšujú učebné schopnosti strojov.
Teraz sa pozrime na etické otázky takýchto systémov. Ďalej od prvej osoby.
„Zlý kód“verzus dobrý kód
Autor používa slová na ponorenie čitateľa do fiktívneho sveta a robí to rôznymi spôsobmi, ale veľkí autori to robia veľmi elegantne. Softvérový inžinier píše riadky kódu, ktoré uľahčujú spracovanie a pohyb údajov. Aj on si môže vybrať z množstva možností rôznymi spôsobmi, ale pôvabní programátori sú ľudovci informatiky. Progresívny kodér sa zameriava na to, ako enkapsulovať čo najviac a lepšie v krátkom a elegantnom kóde. Redundantný kód sa udržiava na minime. Skvelý kód tiež udržuje okno otvorené pre budúce pridania. Ostatní inžinieri môžu pridať kód so svojou prirodzenou eleganciou a produkt sa vyvíja bez problémov.
Akýkoľvek umelý produkt je založený na úmysle. Veci, ktoré robia ľudia, sú nasýtené zámermi a do istej miery sú nositeľmi samotnej podstaty stvoriteľa. Niektorým ľuďom je ťažké predstaviť si neživý predmet tohto druhu. Ale mnohí by s tým súhlasili. Energia zámerov existuje už tisíce rokov, zjednocuje, rozdeľuje, zjednocuje, transformuje spoločnosť. Nemala by sa podceňovať ani sila jazyka. Nezabudnite, že riadky kódu sú napísané v špecifickom programovacom jazyku. Som preto presvedčený, že kód, ktorý sa stáva softvérom používaným v počítačoch alebo mobilných zariadeniach, je veľmi „živý“.
Bez ohľadu na múdrosť a duchovnosť v súvislosti s počítačovou vedou a možné dôsledky umelej inteligencie môžeme stále vnímať statický kód ako jednu jednotku s potenciálom „robiť dobro“alebo „robiť zlo“. Tieto výstupy sa nachádzajú iba v procese používania aplikácií ľuďmi. Je to jasné rozhodnutie, ktoré ľudia urobia a ktoré ovplyvňujú povahu aplikácie. Možno ich prezerať v miestnom systéme, ktorý určuje pozitívny alebo negatívny vplyv na tento systém, alebo na základe súboru preddefinovaných štandardov. Rovnako ako novinár však nemôže byť 100% nestranný v procese písania článku, aj inžinier dobrovoľne alebo nevedomky pridá do kódu povahu svojich zámerov. Niektorí by mohli argumentovať, že písanie kódu je logický proces a skutočná logika neponecháva prírode žiadny priestor.
Som si však istý, že v okamihu, keď vytvoríte pravidlo, blok kódu alebo celý kód, je to všetko obohatené prvkom ľudskej povahy. S každým ďalším pravidlom sa penetrácia druhu prehlbuje. Čím zložitejší je kód, tým viac v ňom je táto povaha. Preto vyvstáva otázka: „Môže byť povaha kódexu dobrá alebo zlá?“
Je zrejmé, že vírus vyvinutý hackerom, ktorý zlomyseľne prelomí obranu vášho počítača a spôsobí zmätok vo vašom živote, je nasýtený zlou povahou. Ale čo vírus, ktorý vytvorili dobrí chlapci, aby prenikol do počítačov teroristickej organizácie, aby zabránil teroristickým útokom? Aká je jeho povaha? Technicky by to mohlo byť totožné s jeho nebezpečným náprotivkom, ktorý sa používa iba na „dobré“účely. Takže jeho povaha je láskavá? Toto je celý etický paradox škodlivého softvéru. Nemohli sme to však ignorovať, keď sme mysleli na „zlý“kód.
Podľa môjho názoru existuje kód, ktorý neodmysliteľne vedie k „zlu“a existuje kód, ktorý je neodmysliteľne ovplyvňovaný dobrou vôľou. Toto je dôležitejšie v súvislosti s počítačmi offline.
V spoločnosti Kwikdesk vyvíjame AI framework a protokol založený na mojom expertnom systéme / hybridnom návrhu neurónovej siete, ktorý sa najviac podobá biologickému modelu. Neuróny sa prejavujú ako I / O moduly a virtuálne zariadenia (v istom zmysle autonómni agenti) spojené „axónmi“, bezpečnými oddelenými kanálmi šifrovaných údajov. Tieto dáta sú dešifrované pri vstupe do neurónu a po určitých procesoch sú šifrované pred odoslaním do nasledujúceho neurónu. Predtým, ako môžu neuróny navzájom komunikovať prostredníctvom axónu, musí dôjsť k výmene kľúčov medzi účastníkom a kanálom.
Som presvedčený, že do takýchto sietí by sa mala zabudovať bezpečnosť a oddelenie od najnižšej úrovne. Nadstavby odrážajú vlastnosti ich najmenších komponentov, takže čokoľvek menšie ako bezpečné stavebné bloky budú mať za následok nebezpečnú prevádzku celej linky. Z tohto dôvodu musia byť dáta lokálne chránené a pri lokálnom prenose dešifrované.
Implementácia a záruky
Kvalita nášho života spolu so strojmi, ktoré sú múdrejší a múdrejší, je pochopiteľne znepokojivá a som si úplne istý, že musíme podniknúť kroky na zabezpečenie zdravej budúcnosti pre budúce generácie. Hrozby pre inteligentné stroje sú potenciálne rozmanité, možno ich však rozdeliť do nasledujúcich kategórií:
Rezervácia. Na pracoviskách budú ľudia nahradení strojmi. Tento posun prebieha už desaťročia a bude sa len zrýchľovať. Potrebné je primerané vzdelanie, aby sa ľudia pripravili na budúcnosť, v ktorej jednoducho prestanú existovať stovky miliónov tradičných pracovných miest. Je to komplikované.
Zabezpečenie. Spoliehame sa na stroje úplne a budeme sa aj naďalej spoliehať. Keď čoraz viac dôverujeme počítačom, keď sa pohybujeme z bezpečnej oblasti do potenciálne nebezpečnej oblasti, môžeme čeliť riziku chyby počítača alebo škodlivého kódu. Napríklad premýšľajte o doprave.
Zdravie. Osobné diagnostické zariadenia a lekárske údaje prepojené do siete. AI sa bude naďalej vyvíjať v preventívnej medicíne a analyzovať genetické údaje z viacerých zdrojov. Opäť platí, že musíme mať istotu, že tieto stroje sa nijako nezaoberajú škodlivou subverziou a žiadnym spôsobom nám neubližujú.
Osud. AI s rastúcou presnosťou predpovedá, kam pôjdete a čo budete robiť. Ako sa bude táto oblasť rozvíjať, bude vedieť, aké rozhodnutia robíme, kam pôjdeme budúci týždeň, aké výrobky si kúpime alebo dokonca aj keď zomrieme. Chceme, aby ostatní mali prístup k týmto údajom?
Vedomosti. Stroje de facto zhromažďujú vedomosti. Ale ak získajú vedomosti rýchlejšie, ako ich môžu ľudia vyskúšať, ako môžeme veriť jeho integrite?
Na záver chcem poznamenať, že náš spôsob je ostražitý a zodpovedný prístup k AI na zmiernenie potenciálnych problémov pri technologickej explózii supernovy. Buď skrotíme potenciál AI a modlíme sa, aby prinieslo ľudstvu len to najlepšie, alebo vyhoríme jeho potenciál, ktorý bude odrážať to najhoršie v nás.
Ilja Khel