Slávny britský fyzik Stephen Hawking v článku inšpirovanom sci-fi filmom „Transcendencia“v hlavnej úlohe Johnnyho Deppa uviedol, že podcenenie hrozby umelej inteligencie môže byť najväčšou chybou v dejinách ľudstva.
V článku, ktorý bol spoluautorom profesora počítačovej vedy Stuart Russell z Kalifornskej univerzity v Berkeley a profesorov fyziky Max Tegmark a Frank Wilczek z MIT, Hawking poukazuje na niektoré pokroky v umelej inteligencii, zaznamenávajúc samohybné autá, asistenta hlasu Siri a superpočítač. víťaz tohto muža v televíznej kvízi s hrozbou nebezpečenstva.
„Všetky tieto úspechy blednú na pozadí toho, čo nás v nasledujúcich desaťročiach čaká. Úspešné vytvorenie umelej inteligencie bude najväčšou udalosťou v dejinách ľudstva. Nanešťastie sa môže stať posledným, ak sa nebudeme naučiť vyhnúť sa rizikám, “citujú Hawking britské noviny The Independent.
Profesori píšu, že v budúcnosti sa môže stať, že nikto a nič nedokážu zastaviť stroje s neľudskou inteligenciou od sebazlepšenia. A tým sa spustí proces tzv. Technologickej jedinečnosti, čo znamená mimoriadne rýchly technologický rozvoj. Vo filme s účasťou Deppa sa v tomto zmysle používa slovo „transcendencia“.
Predstavte si, že takáto technológia presahuje ľudí a poháňa finančné trhy, vedecký výskum, ľudí a vývoj zbraní, ktoré nie sú v našich silách. Ak krátkodobý účinok umelej inteligencie závisí od toho, kto ju riadi, potom dlhodobý účinok závisí od toho, či sa dá vôbec kontrolovať.
Je ťažké povedať, aké následky môže mať umelá inteligencia na ľudí. Hawking je presvedčený, že týmto neziskovým organizáciám, ako je Cambridgeovo centrum pre štúdium existenčných rizík, Inštitút pre budúcnosť ľudstva, a výskumné ústavy pre strojovú inteligenciu a budúci život, sa venuje týmto problémom len veľmi malý výskum.
Podľa neho by sa každý z nás mal pýtať, čo môžeme urobiť, aby sme sa vyhli najhoršiemu scenáru budúcnosti.