Dvaja miliardári, ktorí urobili šťastie online, majiteľ Tesla a Space X, Elon Musk a zakladateľ Facebooku Mark Zuckerberg, sa dostali do sporu o nebezpečenstvo umelej inteligencie.
Obaja podnikatelia sú presvedčení, že vytvorenie plnohodnotnej umelej inteligencie (AI) je vecou blízkej budúcnosti. Musk je však presvedčený, že je čas, aby ľudstvo premýšľalo o regulácii vývoja v tejto oblasti, a Zuckerberg je presvedčený, že umelá inteligencia významne zlepší životy ľudí.
V polovici júla Elon Musk hovoril s guvernérmi amerických štátov a vyzval orgány, aby uvažovali o zavedení legislatívnych obmedzení týkajúcich sa rozvoja v oblasti AI.
Zuckerberg odpovedal na otázku o nebezpečenstve AI pri rozhovore s používateľmi Facebooku. Priamo sa ho pýtali, či si myslí, že Muskove obavy sú platné. Tvorca Facebooku povedal, že nechápe, ako môže Musk vážne požiadať o spomalenie prebiehajúceho procesu.
Odpovedal tweeting: „O tom som hovoril s Markom. Má obmedzené chápanie tohto problému “:
Present Tense v plnom rozsahu uverejňuje príhovory dvoch miliardárov.
„Kým neuvidíme robotov, ktorí kráčajú po uliciach a zabíjajú ľudí, nebudeme vedieť, ako reagovať.“Obavy Elon Muska
Propagačné video:
Mám prístup k najnovším v AI. A myslím si, že ľudia by sa touto otázkou mali skutočne zaoberať. Viem, ako to znie, ale kým ľudia neuvidia roboty, ako chodia po uliciach a zabíjajú ľudí, nebudú vedieť, ako zareagovať.
Vyzerá to nereálne. Myslím si, že sa skutočne musíme obávať AI. A myslím si, že je to zriedkavý prípad, keď my, v našich legislatívnych obmedzeniach, musíme byť pred krivkou a robiť rozhodnutia neskôr, keď je neskoro.
Obmedzenia zvyčajne fungujú takto: spočiatku sa stáva veľa zlých vecí, protesty spoločnosti a po mnohých rokoch sú pre toto odvetvie regulačné orgány. Spoločnosti, ktoré nemajú radi vonkajšiu kontrolu, odolávajú a trvá veľmi dlho. V minulosti to už viedlo k zlým dôsledkom, ale nepredstavovalo to zásadnú hrozbu pre existenciu ľudstva.
AI predstavuje základné riziko pre ľudskú existenciu. A to je také riziko, aké nemali nikdy automobilové nehody, havárie lietadla, problémové drogy ani zlé jedlo. Neboli hrozbou. Možno boli pre konkrétnych ľudí, ale nepredstavovali riziko pre celú spoločnosť.
AI je základnou existenčnou hrozbou pre civilizáciu a nemyslím si, že si to ľudia plne uvedomujú. Áno, byť obmedzený nie je zábava. Ale v automobilovom priemysle nás kontroluje Ministerstvo dopravy a mnoho ďalších. Každá krajina má regulačné orgány. Vo vesmírnom priemysle nás kontroluje Federálna letecká správa. Ale ak sa spýtate obyčajnej osoby, „Hej, chcete sa zbaviť riadenia civilného letectva a len dúfať, že výrobcovia neušetria v lietadle, pretože zisk klesol v tomto štvrťroku,“táto osoba odpovie: „Samozrejme, že nie.“Znie to tak.
Myslím si, že aj veľmi liberálno-zmýšľajúci ľudia by stále hovorili: „Pozrime sa na výrobcov lietadiel, musíme sa ubezpečiť, že vyrábajú dobré lietadlá.“Pekné autá, podobné veci. Regulačné orgány teda musia zohrávať svoju úlohu. Som samozrejme proti prísnej kontrole. Ale myslím, že by sme sa mali poponáhľať s AI.
Tento vynález [AI] samozrejme povedie k strate pracovných miest, pretože roboti dokážu robiť všetko lepšie ako my. To je lepšie ako my všetci. Áno. Neviem, čo s tým. Toto je pre mňa najhorší problém. Áno, som si skutočne istý, že budeme potrebovať štátnu kontrolu, pretože týmto spôsobom môžeme zaistiť verejnú bezpečnosť.
Spoločnosti sa ponáhľajú, potrebujú mať čas na vytvorenie AI, inak sa stanú nekonkurencieschopnými. Ak sa váš konkurent chystá spracovať AI a vy nie ste, zničí vás. A spoločnosti hovoria: „Nechceme zomrieť, vyzerá to, že musíme tiež vytvoriť AI.“
A tu by mali prísť tieto ovládacie prvky: „Chlapci, všetci musíte spomaliť a ubezpečiť sa, že je to bezpečné.“Ak sú recenzenti presvedčení, že je to bezpečné, môžete pokračovať v práci. Inak spomalte. Audítori to však musia urobiť pre každého, kto to robí, inak akcionári povedia: „Hej, prečo nevyvíjate AI rýchlejšie ako vaši konkurenti? Bolo by to potrebné! “
Som presvedčený, že toto je najväčšie riziko, ktoré berieme ako civilizácia. Myslím si, že úlohou štátu je starať sa o spoločnosť a venovať pozornosť tomu, čo jej hrozí. Preto obmedzenia. Najprv sa o tom musíte čo najviac naučiť, aby ste pochopili podstatu problému, sledovali pokrok a neuveriteľné úspechy v oblasti AI.
Minulý rok, v hre go, ktorá je dosť ťažká na výhru, a v ktorej si ľudia mysleli, že by počítač nikdy neporazil toho najlepšieho ľudského hráča, alebo že by sa to stalo o 20 rokov neskôr, minulý rok AlphaGo, ktorý vytvoril DeepMind, spoločnosť kúpená spoločnosťou Google porazila najlepšieho hráča na svete. A teraz môže hrať so 150 hráčmi súčasne a poraziť ich všetkých.
Je to pôsobivá miera pokroku a bude sa objavovať čoraz častejšie. Napríklad robotika. Existujú roboty, ktoré sa naučia chodiť od nuly za niekoľko hodín. Rýchlejšie ako akýkoľvek druh. Ale najnebezpečnejší - a toto je najťažšie pochopiteľné - pretože to nie je niečo fyzického, je to inteligencia.
Zdá sa, že, čo môžu silné [umelé] inteligencie urobiť na webe? Napríklad, začnite vojnu. Napríklad vytvorením falošných správ, falošných tlačových správ a poštových adries a jednoducho manipuláciou s informáciami. Pero je mocnejšie ako meč.
Ako príklad - chcem zdôrazniť, nemyslím si, že sa to skutočne stalo, hovorím to čisto hypoteticky - pamätáte si, že malajzijské lietadlo, ktoré bolo zostrelené nad hranicou medzi Ruskom a Ukrajinou? Tým sa výrazne zvýšilo napätie medzi Ruskom a EÚ.
Predstavte si, že by ste mali umelú inteligenciu a jej cieľom bolo maximalizovať hodnotu akciového portfólia. Jedným zo spôsobov by bolo kúpiť obranné zásoby, krátke zásoby pre spotrebiteľov a začať vojnu.
Ako to mohol urobiť? Hack Malaysia Airlines, letecké dopravné servery, vykreslujú trasy cez vojnovú zónu a potom posielajú anonymnú správu, že „nepriateľské lietadlo letí nad hlavou“.
„Všetky technológie môžu byť použité na ublíženie a dobré.“Optimizmus Marka Zuckerberga
Mám o tom dosť presvedčenia. Som veľmi optimistický. Som optimistický človek všeobecne. Myslím, že dokážeme vytvoriť veci, vďaka ktorým je svet lepším miestom, a pokiaľ ide o AI, som obzvlášť optimistický. Myslím si, že jednoducho nerozumiem ľuďom, ktorí sú vždy skeptickí a neustále zastrašovaní týmito scenármi hroziaceho konca sveta. Myslím si, že je to skutočne veľmi zlé a nezodpovedné, pretože v nasledujúcich piatich až desiatich rokoch bude AI schopná zlepšovať a zlepšovať kvalitu našich životov.
Ak máte obavy o bezpečnosť a zdravie ľudí, AI už pomáha pri lepšej diagnostike chorôb a pri výbere liekov pre ľudí v závislosti od toho, s čím sú chorí a ako ich možno lepšie vyliečiť. Mnoho ľudí dostane lepšiu zdravotnú starostlivosť ako kedykoľvek predtým.
Pokiaľ ide o vozidlá s vlastným riadením, budú bezpečnejšie ako autá, ktoré riadia ľudia. Je to len otázka času. Autonehody zostávajú jednou z hlavných príčin smrti. A ak by sa dali odstrániť pomocou AI, výrazne by to zlepšilo životy ľudí.
Keď začujem uvažovanie: „Ó, vieš, AI v budúcnosti ubližuje ľuďom,“myslím si, že skutočne môže byť všetka technológia použitá na poškodenie aj dobro. Keď niečo vytvárate, musíte byť opatrní, musíte byť opatrní a premýšľať o tom, ako sa bude uplatňovať.
Keď však ľudia trvajú na spomalení procesu AI, považujem to za veľmi kontroverzné. Je pre mňa ťažké pochopiť to, pretože ak ste proti AI, potom ste proti bezpečnejším strojom, ktoré sa nedostanú k nehodám, proti možnosti lepšej diagnostiky chorôb. A ja len nechápem, ako to niektorí ľudia dokážu urobiť bez mazania. Takže som vo všeobecnosti oveľa optimistickejší k tomuto [vytvoreniu umelej inteligencie], ako je možno veľa ľudí.