Stephen Hawking pokračuje v „krížovej výprave“proti umelej inteligencii (AI).
Počas vysoko očakávanej kampane Ask Me Everything on Reddit napísal, že práca na vývoji bezpečnostného protokolu AI by sa mala vykonať teraz, nie vo vzdialenej budúcnosti.
„Naším cieľom by nemalo byť vytvárať abstraktnú umelú inteligenciu, ale vytvárať užitočnú inteligenciu,“napísal slávny fyzik. „Bude trvať desaťročia, kým príde na to, ako to urobiť, takže začnime túto otázku skúmať teraz, nie noc pred prvou. pokročilá AI “.
Hawking využíva slávu na podporu bezpečnostného hnutia AI od roku 2014, keď spolu s ďalšími výskumníkmi varoval pred existenčnou hrozbou, ktorú pre moderné stroje predstavujú pre ľudstvo.
K Hawkingu sa pripojili ďalšie významné osobnosti techniky, Elon Musk a Steve Wozniak. Na začiatku tohto obdobia všetci traja podpísali otvorený list vyzývajúci na zákaz autonómnych zbraní alebo bojových robotov.
Očakávania, že ľudstvo čoskoro vytvorí umelú inteligenciu, existujú už od 50-tych rokov a ešte sa samy neodôvodnili. Väčšina vedcov AI však verí, že v tomto storočí sa objavia stroje, ktoré sú si v inteligencii rovnaké ako ľudia.
Foto: ANDREW COWIE / AFP
Propagačné video:
Hawking varuje, že zobrazenie umelej inteligencie vo filmoch sci-fi skresľuje skutočné nebezpečenstvo strojov. Filmy ako The Terminator zobrazujú démonických zabijakov, ktorí sa snažia zničiť ľudstvo z dôvodov, ktoré skutočná umelá inteligencia nemala. Uľahčujú tiež zmiernenie potenciálneho rizika AI (ako napríklad nestavanie kyborgov).
„Skutočnou hrozbou zo strany AI nie je to, že je zlé, ale že je veľmi schopné. Umelá supervízia je veľmi dobrá pri plnení svojich úloh.
Ak sa jeho úlohy nezhodujú s našimi, budeme mať problémy, - napísal Hawking, - sotva nenávidíte mravce, ale ak máte na starosti projekt zelenej energie a oblasť, v ktorej sa nachádza mravenisko, musí byť zaplavená, mravce nemajú šťastie. Nedovoľte, aby sa ľudstvo ocitlo v pozícii týchto mravcov. ““
Nick Bostrom, filozof AI, sníva o scenároch konca sveta, keď program začne pracovať nesprávnym smerom. Napríklad umelá inteligencia má za úlohu vypracovať plán na ochranu životného prostredia a aby sa vyriešil problém ekológie, rozhodne sa zničiť ľudstvo.
Elon Musk sa už zaviazal na výskum bezpečnosti AI vo výške 10 miliónov dolárov, aby zabránil deštruktívnej umelej inteligencii, ako je Skynet, objaviť sa v Terminátore. Ale Hawking chce, aby ľudia zmenili svoje celkové vnímanie AI.
„Povedzte svojim študentom, aby premýšľali nielen o tom, ako vytvoriť AI, ale aj o tom, ako zabezpečiť, aby sa používal na užitočné účely,“povedal Hawking učiteľovi, ktorý prednáša o umelej inteligencii. „Vznik AI, ktorý presahuje človeka, sa stane buď najlepšia alebo najhoršia udalosť v ľudskej histórii. Preto je dôležité, aby všetko fungovalo tak, ako by malo. “