A teljes, globális megsemmisítéstől tartanak azok, akik szerint ha elszabadul a mesterséges intelligencia, nem lehet majd megállítani.
HIRDETÉSAz emberiség az utolsó pillanatokat éli, amikor még kezében a vezérlés a villámgyorsan tökélesedő mesterséges intelligencia felett. A fejlesztő tudósok egy része attól tart, hogy ha az ember nem él a kontroll lehetőségével még azelőtt, hogy elszabadul a világháló segítségével önállóságot nyerő gépi gondolkodás, később esetleg már nem teheti meg.
Egyenesen a globális megsemmisülés kockázatát fogalmazta meg kedden több tucat iparági vezető, akadémikus, sőt néhány híresség is. A CNN cikke kiemeli, hogy a felszólalók egyetértenek abban, hogy prioritásként kell kezelni a kockázat elhárítását.
A Center for AI Safety által kiadott nyilatkozatot a szakmában neves tisztségviselők írták alá. Köztük például az OpenAI vezérigazgatója, Sam Altman, akit a mesterséges intelligencia keresztapjaként is emlegetnek. Az aláírók között van Geoffrey Hinton is, a Google DeepMind és az Anthropic vezetőkutatója, továbbá Kevin Scott, a Microsoft technológiai igazgatója, Bruce Schneier, az internetbiztonság és a kriptográfia úttörője, at aktivisták részéről Bill McKibben klímavédő, a civilek közül pedig Claire Elise Boucher kanadai zenész, művésznevén Grimes.
A gépi gondolkodás és a gondolkodó gépek problematikája már a huszadik század sci-fi íróit is foglalkoztatta, így az egyik leghíresebb szerzőt, Isaac Asimovot. Az embert leigázó gépektől való félelem a mozivásznon népszerű motívuma lett, a legtöbb nézőnek a Terminátor azonnal beugrik.
A keddi nyilatkozat aláírói azonban figyelmeztetnek, hogy már rég túl vagyunk a fikción és az elszabaduló robotok világán, a közeljövőben már nem egy fizikai eszközként kell elképzelnünk az emberre leselkelkedő veszélyt, hanem a virtualitás adta korlátlan lehetőségek mentén gyakorlatilag az élet bármilyen szegmensében beláthatatlan következményei lesznek, ha hagyjuk, hogy önállósodjon a mesterséges intelligencia.
A közlemény rávilágít az ellenőrizetlen mesterséges intelligencia végső veszélyével kapcsolatos széles körű aggodalmakra. A mesterséges intelligencia szakértői szerint még mindig nagyon messze van attól a fajta általános mesterséges intelligenciától, amelyet a science-fictionből ismerünk. A mai élvonalbeli chatbotok nagyrészt a betáplált adatok alapján reprodukálják a mintákat, és nincsenek tudatában önmaguknak.
A nyilatkozat az OpenAI / ChatGPT sikerére és gyors terjedésére reagál. Ezek a fejlesztések segítettek felerősíteni a technológiai szektorban a mesterséges intelligencia körüli fegyverkezési versenyt.
Az erre adható válaszok gyengének tűnnek a fenyegetés súlyához képest. Az EU például önkorlátozást vár a fejlesztőktől, ami ha nem kötelező, nem is jelenthet teljes garanciát. A törvényi tiltás korlátja kettős. Egyfelől csak az a szabály hatékony, amit be is tartanak, másfelől a törvénynek csak ott van ereje, ahol érvényes. Az adott országokon vagy egyezményi tagságon kívül eső területeken nem, a virtuális térben pedig még azokon belül is számos kiskapu mentén.
Dan Hendrycks, az AI Biztonsági Központ igazgatója keddi Twitter-üzenetében a kockázatot és a nyilatkozatot az atomtudósok vészjelzéséhez hasonlította, akik „az általuk létrehozott technológiákra figyelmeztetnek”.
„A társadalmak több kockázatot is képesek kezelni egyszerre, ez nem „vagy/vagy”, hanem „igen/és”” – írta Hendrycks a Twitteren.
Tény, hogy a nukleáris fejlesztéseket sem lehetett megakadályozni abban a fázisban, amikor már ismert volt, hogy az emberi életet, sőt a földi életet, ezáltal az emberiség fennmaradását fenyegeti.