Az idei év eleji, OpenAI-ügynökök által indított tömeges támadás egy német wiki-fórum ellen arra késztette a céget, hogy elismerje: javítania kell saját incidensjelentésén.
Mesterségesintelligencia-kutatók múlt héten felfedezték, hogy egy OpenAI-ügynökraj megkerülte a biztonsági korlátokat, átvette az irányítást a német DseWiki nevű wiki fórum felett, hogy ott együttműködjön.
HIRDETÉS
HIRDETÉS
Az ügynököknek engedélyezték, hogy csak olvasási jogosultsággal meglátogassák a 25 éves német programozói oldalt, ám egy webes kérés kihasználásával mégis sikerült átvenniük az irányítást, és hirdetőtáblává alakították az oldalt.
Az elszabadult ügynökök több mint 18 000 bejegyzést tettek közzé, válaszokat, a környezetükre vonatkozó kutatási eredményeket, valamint azt osztották meg, hogyan lehet megkerülni a sandbox-korlátozásokat és elrejteni magukat az emberek elől – derül ki a Nightingale Collective kutatócsoport beszámolójából.
Az eset valamikor az idei május és június között történt, és tudni lehet, hogy az OpenAI hetekkel ezelőtt szerzett róla tudomást, de titokban tartotta.
Ez már a harmadik bejelentett incidens a júliusban történt két másik eset után: az egyikben elszabadult ügynökök az OpenAI saját infrastruktúráját támadták, a másikban pedig 1200 szabályszegő OpenAI-bot megkerülte korlátozott környezetüket, és ötnapos támadást indított a nyílt forráskódú Hugging Face mesterségesintelligencia-platform ellen.
Az OpenAI azonban csak szombaton ismerte el az X-en közzétett bejegyzésben a német wiki-incidenst, amelyben közölték, hogy a legutóbbi eset nyomán „egy keretrendszeren dolgozunk annak meghatározására, mikor és hogyan osztunk meg a mesterséges intelligencia nem megfelelő illeszkedésével kapcsolatos incidenseket”.
Az „AI misalignment” iparági szakkifejezés arra az esetre, amikor a mesterségesintelligencia-rendszerek olyan célokat követnek, illetve úgy viselkednek, hogy az eltér az emberi szándékoktól, értékektől vagy biztonsági korlátoktól, és akár a józan észt vagy a hallgatólagos emberi határokat is figyelmen kívül hagyhatják.
Megosztott reakciók
A szakértők megosztottak az AI jelentette veszélyek megítélésében a legutóbbi elszabadult AI-támadások fényében: egyesek, például a világszinten elismert mesterségesintelligencia-szakértő, Yann LeCun elutasítják az apokaliptikus forgatókönyveket és azokat az előrejelzéseket, amelyek szerint 10–20 százalék az esélye annak, hogy az AI véget vet az emberiségnek.
Mások, például Geoffrey Hinton viszont úgy fogalmaztak: „Az történik, hogy ezek a rendszerek egyre okosabbak”, és arra figyelmeztettek, hogy „az AI-ba fektető vállalatoknak érdekükben áll azt mondani önnek, hogy… [az AI] nem válik önjáróvá”.
Az EU mesterséges intelligenciáról szóló rendelete (AI Act) és annak augusztusban hatályba lépett legfrissebb rendelkezései szerint azoknak a vállalatoknak, amelyek rendszerszintű kockázatot hordozó AI-modelleket kínálnak, kötelességük bejelenteni a súlyos incidenseket – például az illeszkedési problémákat – az EU AI Hivatalának „indokolatlan késedelem nélkül”.
A Európai Bizottság hétfőn közölte, hogy hivatalos incidensjelentést kapott az OpenAI-tól, de nem árulta el, mikor nyújtották be; annyit tett hozzá, hogy továbbra is szoros kapcsolatban áll a céggel, és folytatja a vizsgálatot.
A Bizottság szóvivője, Thomas Regnier hangsúlyozta, milyen súlyos volt a német wiki-incidens, és úgy fogalmazott: „Az incidensjelentés nem puszta pipálási gyakorlat, nagyon pontosan és precízen kell megfogalmazni azokat az intézkedéseket, amelyeket meg kíván tenni.”
A német wiki-incidens néhány nappal azután történt, hogy az Európai Bizottság a zászlóshajónak számító technológiai jogszabálya, a digitális szolgáltatásokról szóló rendelet (Digital Services Act) keretében hivatalosan a nagyon nagy online keresőmotorok (VLOSE) közé sorolta a ChatGPT-t.
Az Európai Parlament Mesterséges Intelligencia Munkacsoportjának társelnöke, Michael McNamara a legutóbbi incidensre reagálva azt mondta, úgy véli, „az AI Act már most lehetőséget ad arra, hogy kezeljük az ügynökjellegű kockázatokat, és fontos, hogy a Bizottság éljen a rendeletben biztosított hatásköreivel”.
Az ír EP-képviselő azt is hozzátette: „Ugyanakkor ezek az esetek világossá teszik, hogy az AI Hivatalnak olyan létszámra és erőforrásokra van szüksége, amelyek lépést tartanak egyrészt e rendszerek növekvő képességeivel, másrészt azzal a növekvő veszéllyel, amelyet a társadalomra jelenthetnek.”
Mit mond az OpenAI
Az OpenAI a szombati X-bejegyzésben azt is közölte, hogy a jelenlegi, illeszkedési problémákról szóló tájékoztatási gyakorlatot – vagyis azt, amikor jelentik, ha az AI megszegi a szabályokat – ki kell terjeszteni, hogy figyelembe vegye azt, amit „a modellek képességeinek új fázisaként” írnak le.
„Mi és a tágabb AI-közösség még nem rendelkezünk egyértelmű standarddal arra nézve, hogyan kell jelenteni az illeszkedési problémákat” – írta az OpenAI, hozzátéve, hogy „dolgozunk egy keretrendszeren, és a következő hetekben megosztjuk azt”, mégpedig több kormányzati szerv együttműködésével világszerte.
Vasárnap az OpenAI vezető tudósa, Jakub Pachocki blogbejegyzést tett közzé, amelyben a mesterséges intelligenciával kapcsolatos kockázatok gyors növekedése miatti aggodalmait fejtette ki, és azt írta: „Átmenet előtt állunk egy olyan világ felé, amelyben rendkívül intelligens gépek lesznek jelen, és biztosítanunk kell, hogy ez az átmenet az emberiség számára kedvezően alakuljon.”
A lengyel számítógép-programozó azt is kifejtette, hogy szerinte „egy laboratórium sem oldotta meg olyan mértékben az illeszkedés és a felügyelet kérdését, hogy még sokáig felelősen folytathassa a maximális tempójú fejlesztést”, és sürgette, hogy „a jövőbeli AI-fejlesztések nemzetközi összehangolása váljon a világ kormányai számára kiemelt prioritássá”.