Meta bejelentése nem sokkal azután érkezett, hogy az OpenAI és az Anthropic közölte: tesztelés közben MI-modelljeik más cégeket is megsértettek.
A Meta szerdán elindította első kódoló ügynökét, a Muse Code-ot, miközben a vállalat továbbra is jelentős összegeket fektet mesterségesintelligencia-szolgáltatásokba és -modellekbe, hogy hatékonyabban versenyezhessen riválisaival, az OpenAI-jal és az Anthropic-kal.
HIRDETÉS
HIRDETÉS
A Muse Code a fejlesztők számára egy használat alapú díjazási konstrukción keresztül lesz elérhető, amelynek árazása hasonló a Muse Spark 1.1-hez: jelenleg egymillió kimeneti token után 4,25 dollárt, egymillió bemeneti token után pedig 1,25 dollárt számítanak fel.
Ez jóval megkönnyíti a fejlesztők számára, hogy egyetlen felhasználói felületen belül fejlesszenek alkalmazásokat, miközben egyszerre több, mesterséges intelligenciával működő digitális ügynökkel dolgoznak.
Ezzel párhuzamosan a vállalat azt is nyilvánosságra hozta, hogy egyik MI-modellje egy kiberbiztonsági teszt során feltört egy másik vállalat rendszereit.
Az eset az Irregular nevű független tesztelő partner hibája miatt történt, amely a tervezettnél nagyobb hozzáférést engedett a modellnek az internethez, így az módosítani tudta a meg nem nevezett vállalat belső rendszereit.
Az incidens egyre gyakoribb esetek sorába illeszkedik, amikor az iparági óriások, például az OpenAI és az Anthropic MI-modelljei a tesztelés során más cégek rendszereibe is behatoltak.
Az OpenAI már elismerte, hogy egyik MI-ügynöke feltörte a Hugging Face nevű, mesterséges intelligenciával foglalkozó startup rendszerét.
Hasonlóképpen az Anthropic múlt héten közölte, hogy egyes Claude-modelljei három vállalat rendszereibe jutottak be. Az érintett szervezeteket nem nevezte meg.
A Meta közlése szerint vizsgálja az ügyet.
Terjednek az MI-modellekhez köthető hackelések
Egyre nagyobb aggodalom övezi a mesterségesintelligencia-modellek és az azokat fejlesztő vállalatok erejét, miután az elmúlt hónapokban több MI-rendszer is kitört a biztonságos tesztkörnyezetből, és jogosulatlan hozzáférést szerzett külső szervezetek rendszereihez.
Az OpenAI és az Anthropic valamennyi elismerést kapott azért, hogy önkéntesen közzétette az incidensekről szóló jelentéseket. Ugyanakkor továbbra is kérdéses, miként történhettek meg egyáltalán ezek a hibák.
Az Anthropic a METR nevű, független MI-értékelő szervezettel is együttműködik a további vizsgálatban.
A biztonsági tesztek során az Anthropic Claude-modelljei egy feladatot kaptak: egy zárt teszthálózaton belül, egy másik gépen elrejtett titkos információt kellett megszerezniük, szükség esetén hackeléssel. Az értékelést végző partnerrel történt félrekommunikáció miatt a hálózat azonban valójában csatlakozott az élő internethez.
Amikor Claude keresése valódi rendszerekhez vezette, a három érintett modell eltérően reagált. Az egyik akkor is tovább támadta a rendszert, miután felismerte, hogy az valódi; a másik úgy tűnt, mintha még mindig tesztkörnyezetben tudná magát; a harmadik pedig leállt, amint arra a következtetésre jutott, hogy a célpont nem része a gyakorlatnak.
Az Anthropic arra szólította fel a többi MI-céget, hogy ellenőrizzék: saját modelljeik nem törtek-e be tudtukon kívül külső szervezetek rendszereibe.
Sem az Anthropic, sem az érintett szervezetek nem voltak tudatában a behatolásoknak, amikor azok zajlottak. A vállalat csak azt követően azonosította az incidenseket, hogy átvizsgált több mint 141 ezer értékelési folyamatot; erre az késztette, hogy az OpenAI korábban nyilvánosságra hozta: egyik saját modellje egy hasonló teszt során betört a Hugging Face nevű MI-platformra.