Vezető fejlesztők szerint lassítani kellene az MI-fejlesztést, mert nő a nyomás, hogy a profit helyett a biztonság kapjon elsőbbséget; hétfőn estek a technológiai részvények.
A japán SoftBank Group befektetési konglomerátum, az OpenAI egyik fő befektetője részvényei hétfőn több mint 10 százalékot estek a többi technológiai papírral együtt, miután a világ vezető mesterségesintelligencia-vállalatainak néhány vezetője támogatta azokat a felhívásokat, amelyek szerint „az óvatosságot a gyorsaság, a megfontoltságot pedig a profit elé” kell helyezni.
HIRDETÉS
HIRDETÉS
A kifejezést az Anthropic vezérigazgatója, Dario Amodei használta, aki szombaton arra szólította fel az MI-cégeket, hogy egy összehangolt, a legfejlettebb modelljeik fejlesztését lassító lépéssel „fékezzék az élvonal tempóját”, így több időt hagyva a kockázatok megértésére és kezelésére.
Fő aggodalmai között szerepel az úgynevezett „rekurzív önfejlesztés”, amikor az MI-rendszerek segítenek a következő generációs MI-modellek megalkotásában.
„Ha szabadjára engedjük, könnyen túlnőhet azon a képességünkön, hogy megértsük és ellenőrizzük ezeket a rendszereket, ezért ezt a területet, ha egyáltalán, rendkívül óvatosan szabad csak tovább vinni” – írta Amodei.
Az OpenAI vezérigazgatója, Sam Altman és az xAI-t irányító Elon Musk nyilvánosan támogatták a figyelmeztetését, Musk pedig úgy fogalmazott: „Dario-nak igaza van.”
Altman a Fortune magazinnak a szombaton megjelent interjúban azt is elmondta, hogy az OpenAI idén nem lép tőzsdére, mivel a vállalat a biztonságra összpontosít.
Az OpenAI és az Anthropic egyaránt magántulajdonban van. Úgy tudni, hogy az Anthropic a következő hónapokban egy esetleges tőzsdei bevezetésre készül.
A nyilatkozatok azt követték, hogy távozott az Anthropic egyik kutatója, Jacob Coxon, aki arra figyelmeztetett, hogy a technológia kicsúszhat az emberi ellenőrzés alól.
Ezután Evan Hubinger, az Anthropic egy másik, a cégnél maradó kutatója azt írta: „Tényleg őszintén hisszük, hogy az MI képes lehet kiirtani az egész emberiséget!” Szerinte ennek valószínűsége a következő évtizedben meghaladja a 10 százalékot.
Donald Trump amerikai elnök vasárnap elutasította a figyelmeztetéseket, az MI kritikusait „nagyon negatív erőknek” nevezte, és azt mondta, hogy az általuk felvázolt forgatókönyvek nem fognak bekövetkezni. Mike Johnson házelnök szintén arra kérte az embereket, hogy ne essenek pánikba.
A befektetők mindazonáltal hétfőn technológiai részvényeket adtak el.
A SoftBank árfolyamesése „valószínűleg azt a lehetőséget tükrözi, hogy a szabályozó hatóságok lassíthatják az MI-fejlesztést, hogy megpróbálják elkerülni azokat a legrosszabb forgatókönyveket, amelyekről az Anthropic és az OpenAI beszélt” – mondta Dan Baker, a Morningstar befektetési kutatócég elemzője.
„És talán azt a lehetőséget is, hogy az újabb MI-modellek feletti ellenőrzés elvesztésének bármely további példája szintén lassíthatja az MI-fejlesztést” – tette hozzá.
Ázsiában más, az MI-hez köthető részvények is estek. A dél-koreai memóriachip-gyártó SK Hynix 5,3 százalékot veszített értékéből, a Samsung Electronics kurzusa 2,8 százalékkal csökkent. A japán, chipgyártó berendezéseket előállító Tokyo Electron 0,9 százalékot esett, a memóriachip-gyártó Kioxia Holdings pedig 6 százalékkal gyengült.
Versenyfutás Kínával
Amodei szigorúbb korlátozásokat sürgetett Kína hozzáférésére a fejlett MI-chipekhez és félvezetőgyártó berendezésekhez is, azzal érvelve, hogy az ország mesterségesintelligencia-képességeit nagyrészt ezek a chipek határozzák meg.
Ugyanakkor a CBS Newsnak elismerte, hogy a „legnehezebb dilemma” az, hogy Kína valószínűleg nem csatlakozna egy összehangolt lassításhoz.
A kínai állami hátterű Global Times „rövidlátónak” minősítette álláspontját, és azzal vádolta, hogy egy „MI-hidegháborúval” próbálja korlátozni Kína fejlődését. Közben Hszi Csin-ping elnök egy BRICS nyílt forráskódú MI-övezetet javasolt az MI-modellekkel és -képzéssel kapcsolatos együttműködés elmélyítésére.