Nem hetekre, csak órákra volt szükség ahhoz, hogy egy Anthropic MI-modell sebezhetőségeket találjon minősített amerikai kormányzati rendszerekben.
Az Anthropic által fejlesztett egyik mesterségesintelligencia-modell biztonsági réseket azonosított az amerikai kormány rendkívül érzékeny számítógépes rendszereiben egy tesztelési gyakorlat során – közölte egy amerikai tisztviselő az Associated Press hírügynökséggel.
HIRDETÉS
HIRDETÉS
A névtelenséget kérő tisztviselő elmondta, hogy az Anthropic az amerikai hírszerző ügynökségekkel együttműködve végezte a teszteket a vállalat Mythos nevű modelljével.
A modell néhány órán belül bizonyos sérülékenységeket azonosított, ám ez nem jelenti azt, hogy ugyanennyi idő alatt ki is tudta volna használni ezeket – tette hozzá a tisztviselő.
A vizsgálatot az Anthropic Project Glasswing nevű kezdeményezése keretében végezték, amely technológiai vállalatokat fog össze azzal a céllal, hogy megvédjék a kritikus szoftvereket attól a „súlyos” következményektől, amelyeket a Mythos a közbiztonságra, a nemzetbiztonságra és a gazdaságra nézve okozhat.
A virginiai demokrata szenátor, Mark Warner röviden megemlítette a tesztelést a Szenátus Bankügyi, Lakhatási és Városfejlesztési Bizottsága előtt június 11-én tartott meghallgatáson.
„Ez az eszköz szinte valamennyi minősített rendszerünkbe betört, nem hetek, hanem órák alatt” – mondta, az információt a Nemzetbiztonsági Ügynökség (NSA) és az amerikai Kibervédelmi Parancsnokság vezetőjének, Joshua Rudd tábornoknak tulajdonítva.
Erősödő feszültségek
Az Anthropic és az amerikai ügynökségek közötti együttműködés ellenére egyre feszültebb a viszony a kaliforniai székhelyű vállalat és a Trump-adminisztráció között.
Az Anthropic aggodalmát fejezte ki amiatt, hogy az amerikai hadsereg miként kívánja használni mesterséges intelligenciáját, miközben az adminisztráció lépéseket tett egyes modelljeinek használatának korlátozására.
A hónap elején az adminisztráció olyan irányelvet adott ki, amely előírja az Anthropic számára, hogy megakadályozza külföldi állampolgárok hozzáférését legújabb, Fable 5 és Mythos 5 néven ismert modelljeihez.
Az Anthropic a Fable modellt a hónapban széles körben elérhetővé tette – ez a fejlettebb Mythos korlátozott változata, amelyhez a vállalat a kiberbiztonsági aggályok miatt szigorúan korlátozza a hozzáférést.
Az irányelv tíz nappal azután született, hogy Donald Trump elnök aláírta azt a végrehajtási rendeletet, amely keretet teremt a szövetségi kormány számára, hogy a nyilvános megjelenést megelőzően akár egy hónapig is vizsgálhassa a legfejlettebb MI-rendszerek által jelentett nemzetbiztonsági kockázatokat.
A rendelet szerint a fejlesztők részvétele önkéntes lenne.
Az Anthropic közölte, hogy az irányelvnek megfelelve minden ügyfelénél letiltotta a modellek használatát, ugyanakkor hozzátette, nem gondolja, hogy a kormány lépései indokolhatók lennének az általa jelzett biztonsági kockázattal.
Iparági ellenállás
Több mint száz kiberbiztonsági szakértő és olyan vállalatok, köztük az Adobe és az Nvidia vezetői írtak levelet a kormánynak, felszólítva, hogy vonja vissza az irányelvet, és figyelmeztetve, hogy a lépés végső soron inkább az Egyesült Államok ellenfeleinek válhatna előnyére, mintsem ártana nekik.
A levélben az aláírók azt írták, hogy az Anthropic Mythos modelljei „kifejezetten jók” a szoftverhibák feltárásában és a sebezhetőségek támadási célú kihasználásában – de „nem egyedülállóan jók” ezekben a feladatokban.
Sokan jelezték, hogy rendszeresen használnak más, alap- és nyílt forráskódú modelleket biztonsági auditokra és képzésre, és arra figyelmeztettek, hogy veszélyes a legjobb kibervédelmi képességek „jó ok nélkül” történő korlátozása egy olyan időszakban, amikor az Egyesült Államok ellenfelei gyors ütemben fejlődnek.