Predstavte si toho najhoršieho, najhoršieho, cynického a prefíkaného svetového vodcu. Teraz si predstavte, že táto osoba nie je človekom, ale sieťou miliónov počítačov po celom svete. A tento digitálny diktátor má okamžitý prístup aj k najmenším dokumentovaným informáciám o každej osobe, ktorá žije alebo kedy žila na Zemi. A môže tiež vykonať milióny výpočtov za zlomok sekundy, kontrolovať svetovú ekonomiku, všetky počítačové ozbrojené systémy a, najhoršie zo všetkých, má nesmrteľnosť v tej či onej podobe.
Vznik takého neuveriteľného digitálneho diktátora je podľa zakladateľa Tesly a SpaceX Elona Muska jedným z najtemnejších možných scenárov budúcnosti ľudstva, ak rozvoj umelej inteligencie pokračuje bez vážneho regulačného dohľadu.
"Je úplne jasné, že sa rýchlo presúvame smerom k vzniku digitálnej superinteligencie, ktorá prekoná každú osobu," - poznamenal Elon Musk v novom dokumente Dôverujete tomuto počítaču? („Veríte tomuto počítaču?“) Réžia Chris Payne, ktorý tiež režíroval dokument „Kto zabil elektrické auto?“(„Kto zabil elektrické auto?“).
„Ak jedna spoločnosť alebo malá skupina ľudí dokáže vytvoriť digitálnu superinteligenciu podobnú Bohu, prevezme to svet.“
Ľudská história obsahuje mnoho príkladov jednotlivcov, ktorí sa pokúsili dobyť celý svet naraz. Alexander Veľký, Charlemagne, Napoleon, Hitler sú len niektoré z mien na tomto zozname. Podľa Muska však bude mať autoritárska umelá inteligencia nad všetkými týmito ľuďmi jednu hroznú výhodu.
„Každý, dokonca aj tí najhorší a odpornejší diktátori, bol zjednotený jednou vecou - boli smrteľníkmi. Pre AI však nebude existovať vôbec nič ako smrť. Bude schopný existovať navždy. Ľudia nebudú mať kam sa pred takýmto zlom ukrývať, “povedal Musk.
Podľa toho istého pižma tento hypotetický diktátor AI nebude musieť byť skutočne zlý, aby predstavoval nebezpečenstvo pre celé ľudstvo.
„Ak má AI určitú úlohu a vyvíja sa tak, že ľudstvo bude stáť v ceste riešeniu tejto úlohy, AI ju samozrejme jednoducho zničí. Bez váhania a morálneho utrpenia. Je to ako stavať cestu, na ktorej spôsobe bol mravenisko. Nenávidíme mravce, iba staviame cestu. Zbohom mravcovi, “dodal Musk.
Propagačné video:
Nikolay Khizhnyak