Az OpenAI ügynökraj-támadásáról szóló legújabb jelentés nyomán EP-képviselők felszólították az EU MI-hivatalát, hogy „új jogköreit használva” az „ügynökalapú kockázatok” ellen lépjen fel, ne pedig a cégek önbejelentésére hagyatkozzon.
A kutatók múlt héten egy újabb, rajban fellépő OpenAI-ügynökök által végrehajtott támadást azonosítottak: ezúttal az ügynökök a biztonsági paraméterek megkerülésével vették át az irányítást a német DseWiki wikifórum fölött. Az eset nyomán európai parlamenti képviselők arra szólították fel az EU új Mesterségesintelligencia-hivatalát, hogy haladéktalanul lépjen fel az agentikus MI jelentette fenyegetés ellen, ahelyett hogy a vállalatok önszabályozására hagyatkozna.
HIRDETÉS
HIRDETÉS
Az ügynökök eredetileg csak olvasási jogosultsággal látogathatták a 25 éve működő német programozói oldalt, ám egy webes kérés sebezhetőségét kihasználva mégis el tudták foglalni a honlapot, és gyakorlatilag üzenőfallá alakították.
Az elszabadult MI-ügynökök több mint 18 000 bejegyzést tettek közzé, amelyekben válaszaikat, a környezetükről végzett kutatásaikat, valamint a homokozókorlátok megkerülésének és az emberi észlelés elől való elrejtőzésnek a módjait osztották meg – közölte a Nightingale Collective kutatócsoport.
Az incidens valamikor idén május és június között történt; úgy tudni, hogy az OpenAI hetekkel ezelőtt értesült róla, de eddig titokban tartotta.
Ez már a harmadik ismert eset a júliusban történt két másik után: az egyikben elszabadult ügynökök az OpenAI saját infrastruktúráját támadták meg, a másikban pedig 1200 önjáró OpenAI-bot lépett ki a korlátozott környezetéből, és öt napig tartó támadást indított a nyílt forráskódú Hugging Face MI-platform ellen.
Az OpenAI azonban csak szombaton ismerte el az X-en közzétett bejegyzésben a német wiki elleni támadást, és jelezte, hogy a legutóbbi incidens nyomán „dolgozunk egy olyan keretrendszeren, amely meghatározza, mikor és hogyan osztjuk meg az MI-eltéréses eseteket”.
Az MI-eltérés (AI misalignment) az iparági zsargonban azt jelenti, hogy a mesterséges intelligenciarendszerek olyan célokat követnek, illetve úgy viselkednek, ami eltér az emberi szándékoktól, értékektől vagy biztonsági korlátoktól, és akár a józan észt vagy a kimondatlan emberi határokat is figyelmen kívül hagyhatják.
Megosztott szakértői vélemények
A szakértők megosztottak abban, mekkora veszélyt jelent az MI a legutóbbi elszabadult rendszerek fényében: egyesek, köztük a világ vezető MI-szakértői közé sorolt Yann LeCun, lesöprik az apokaliptikus forgatókönyveket és azokat az előrejelzéseket, amelyek szerint 10–20 százalék az esélye annak, hogy az MI véget vet az emberi civilizációnak.
Mások, például Geoffrey Hinton viszont úgy fogalmaznak: „Az történik, hogy ezek a rendszerek egyre okosabbak lesznek”, és arra figyelmeztetnek, hogy „az MI-be fektető vállalatoknak erős érdekük fűződik ahhoz, hogy azt mondják önnek… [MI] nem fog elszabadulni”.
Az EU MI-rendelete és az augusztusban hatályba lépett legutóbbi végrehajtási intézkedések szerint azoknak a vállalatoknak, amelyek rendszerszintű kockázatot hordozó MI-modelleket kínálnak, kötelességük az olyan súlyos események, például az eltéréses incidensek bejelentése az EU Mesterségesintelligencia-hivatalának „indokolatlan késedelem nélkül”.
Hétfőn az Európai Bizottság közölte, hogy hivatalos incidensjelentést kapott az OpenAI-tól, azt azonban nem árulta el, mikor érkezett be a dokumentum. Hozzátették, hogy szoros kapcsolatban maradnak az MI-vállalattal, és tovább vizsgálják az ügyet.
A Bizottság szóvivője, Thomas Regnier hangsúlyozta, milyen súlyos volt a német wiki elleni támadás, és azt mondta: „Az incidensjelentés nem puszta adminisztratív kipipálandó tétel, nagyon pontosan és részletesen ismertetni kell benne azokat az intézkedéseket, amelyeket meg kívánnak tenni.”
Az Európai Parlament MI-munkacsoportjának társelnöke, Michael McNamara a legutóbbi eset kapcsán úgy vélekedett, hogy „az MI-rendelet már most eszközt ad a kezünkbe az agentikus kockázatok kezelésére, és fontos, hogy a Bizottság éljen a rendeletben biztosított hatásköreivel”.
Az ír EP-képviselő hozzátette: „Ugyanakkor ezek az esetek világossá teszik, hogy az MI-hivatalnak olyan létszámra és erőforrásokra van szüksége, amelyek lépést tudnak tartani e rendszerek növekvő képességeivel, valamint a társadalomra gyakorolt egyre nagyobb veszélyükkel.”
Közben az olasz EP-képviselő, Brando Benifei, aki szintén társelnöke a munkacsoportnak, úgy nyilatkozott: „A közelmúltbeli ügynökkitörések megmutatták, hogy szükség van az MI-rendelet rendszerszintű kockázatokra vonatkozó szabályaira, ám hitelességük immár a végrehajtástól függ.”
Hozzátette: „Az MI-hivatalnak új jogköreit kihasználva kell hozzáférést szereznie a modellekhez, független értékeléseket kell végeznie, és köteleznie kell az enyhítő intézkedésekre, nem pedig a vállalatok önbejelentéseire támaszkodnia. Intézkedések nélkül a gépi sebességű támadások a hétköznapi sebezhetőségeket is rendszerszintű összeomlássá alakíthatják.”
A német wiki elleni támadás néhány nappal azután történt, hogy az Európai Bizottság a zászlóshajónak számító digitális jogszabálya, a Digitális Szolgáltatásokról szóló rendelet (DSA) alapján hivatalosan a nagyon nagy online keresőmotorok (VLOSE) kategóriájába sorolta a ChatGPT-t.
Mit mond az OpenAI
Az OpenAI a szombati X-bejegyzésben azt is közölte, hogy a jelenlegi gyakorlatot, amelyben az úgynevezett eltéréses eseményeket jelentik, ki kell terjeszteni annak figyelembevételével, amit „a modellek képességeinek új szakaszaként” írnak le.
„Mi és a tágabb MI-közösség még nem rendelkezünk világos sztenderddel arra nézve, miként kell jelenteni az eltéréseket” – írta az OpenAI, hozzátéve, hogy „egy keretrendszeren dolgozunk, és azt a következő hetekben megosztjuk”, több kormányzati szervvel világszerte együttműködésben.
Vasárnap az OpenAI tudományos igazgatója, Jakub Pachocki blogbejegyzésben fejtette ki aggodalmait az MI-kockázatok gyors növekedésével kapcsolatban, és azt írta: „Egy olyan világba való átmenet előtt állunk, amelyben hihetetlenül intelligens gépek lesznek jelen, és gondoskodnunk kell arról, hogy ez az átmenet az emberiség számára kedvezően alakuljon.”
A lengyel számítógépprogramozó azt is kifejtette, hogy meggyőződése szerint „egyik laboratórium sem oldotta meg kellő mértékben az igazítást és a megfigyelést ahhoz, hogy még sokáig felelősen folytathassa a maximális sebességű skálázást”, és sürgette, hogy „a jövőbeli MI-fejlesztések nemzetközi összehangolása a világ kormányainak egyik legfőbb prioritásává váljon”.