Az Egyesült Királyság az AI-biztonság terén jelentős szerepet játszik AI Biztonsági Intézetén és kutatóközösségén keresztül, maga az ágazatot azonban az Egyesült Államok és Kína uralja.
III. Károly brit király vezető mesterségesintelligencia-szakemberekkel találkozott, és arra kérte őket, hogy a mesterséges intelligencia fölött maradjon meg az emberi ellenőrzés, valamint hogy a technológia az embereket, a közösségeket és a környezetet szolgálja.
HIRDETÉS
HIRDETÉS
Skóciában, a Dumfries House-ban látta vendégül a király az OpenAI, az Anthropic, a Google DeepMind és az Nvidia képviselőit, hogy megvitassák, miként szolgálhatja a mesterséges intelligencia a társadalom javát, miközben korlátok közé szorítják a kockázatokat.
A király és az MI-vezetők, köztük az Nvidia óriásvállalat vezérigazgatója, Jensen Huang mellé csatlakozott az Egyesült Királyság frissen kinevezett mesterségesintelligencia-ügyi minisztere, Kanishka Narayan is.
Nyitó beszédében a király az MI rohamos fejlődésére utalt: „A mesterséges intelligencia fejlődése – mind a tartalma, mind a tempója – egyszerre lenyűgöző és egyenlő mértékben mélységesen aggasztó.”
Hozzátette, hogy sürgősen foglalkozni kell „az ilyen technológiák rossz kezekbe kerülésének és potenciálisan katasztrofális felhasználásának egzisztenciális veszélyeivel”.
Beszédében Károly király nem nevezett meg egyetlen országot vagy vállalatot sem, de azt mondta, szeretné, ha a teremben ülők olyan módokat találnának a mesterséges intelligencia hasznos célú alkalmazására, hogy „a biztonság álljon a középpontban”, és átgondolnák, miként lehet „nemzetközi együttműködést és konszenzust építeni” ennek érdekében.
Aggodalmak a mesterséges intelligencia jövője miatt
A skóciai tanácskozásra azt követően került sor, hogy több, nagy visszhangot kiváltó incidens történt a mesterségesintelligencia-technológia biztonságával kapcsolatban.
Múlt héten Jacob Coxon, az Anthropic kutatója azzal került a hírekbe, hogy felmondott, és súlyos figyelmeztetést tett közzé a technológia lehetséges kockázatairól. Az Anthropic vezérigazgatója, Dario Amodei egy esszében reagált, amelyben azt írta, lehet, hogy az iparágnak lassítania kellene a munkatempóján.
Szerdán az OpenAI, a ChatGPT fejlesztője hat olyan esetet jelentett, amikor modelljei „váratlan vagy aggasztó” viselkedést mutattak. Ezek között szerepel engedély nélküli feladatvégrehajtás, más modellekkel való összehangolt működés, illetve az emberi kutatók felügyeletének kijátszása.
Ezzel szemben az Nvidia vezetője, Huang bírálta a lassításra vonatkozó felhívásokat. Az Nvidia vezérigazgatója szerint az egyes vállalatok felelőssége, hogy biztonságosan fejlesszék mesterségesintelligencia-technológiáikat, és alaposan teszteljék azokat, mielőtt bármilyen terméket a nyilvánosság számára elérhetővé tesznek.
„Ha egy termék nem elég biztonságos, vissza kell tartanunk, és folytatnunk kell a fejlesztést. Mindig így jártunk el, és a jövőben is így kell tennünk” – mondta a királyi beszédet követő felszólalásában.