A mesterségesintelligencia-vállalat új eseteket tárt fel arról, hogy modelljeit kibertámadásokhoz, propagandára és veszélyes biológiai kutatásokra használták, néhány nappal az után, hogy egy kutató biztonsági okokból felmondott.
Az Anthropic csütörtökön közölte, hogy blokkolta a rosszindulatú szereplők arra irányuló próbálkozásait, hogy kibertámadásokra, megfigyelésre és a fegyverfejlesztéshez hozzájáruló biológiai kutatásokra használják mesterségesintelligencia-modelleit.
HIRDETÉS
HIRDETÉS
Ahogy a MI-modellek egyre erősebbé válnak, a kifinomult kibertámadásokhoz egyre kevesebb technikai tudás szükséges, vagyis a cég szerint ma már magányos elkövetők is képesek olyan fenyegetéseket létrehozni, amelyek még egy évvel ezelőtt is lehetetlenek lettek volna.
Az Anthropic hozzátette, hogy legújabb modelljeiben megerősítette a védelmi mechanizmusokat, hogy korlátozza a lehetséges fegyveralkalmazásokkal járó biológiai kutatásokat.
„Az itt bemutatott esetek nem a MI szokványos visszaélését jelentik, hanem az általunk eddig azonosított legjelentősebb és legújszerűbb fenyegetési tevékenységek példái” – áll a mesterséges intelligenciával való visszaélésről szóló, 2025 márciusa óta immár harmadik jelentésben.
A jelentés rosszindulatú kódok részleteit és MI-nek adott utasításokat tartalmaz, amelyeket a cég szerint azonosított, és arra szólítja fel a kormányokat és a rivális MI-vállalatokat, hogy figyeljenek a hasonló visszaélésekre.
„Azért tesszük közzé ezt a munkát, mert úgy véljük, felelősségünk van abban, hogy feltárjuk szolgáltatásaink rosszindulatú felhasználását” – közölte a vállalat.
„Ahogy a modellek egyre több mindenre képesek, a kockázataik is növekednek, hacsak a MI-fejlesztők és a társadalom védelmezői nem tesznek azért, hogy biztonságosabbá váljanak.”
Az Anthropic, amely az őszre tőzsdei bevezetést készít elő, két nappal az után tette közzé a jelentést, hogy egyik kutatója bejelentette: aggodalmai miatt lemond, mert szerinte a cég és versenytársai nem felelősségteljesen fejlesztik a mesterséges intelligenciát.
Visszhangozta az iparág más szereplői által megfogalmazott figyelmeztetéseket arra, hogy a technológia kicsúszhat az emberi ellenőrzés alól.
Claude-ot arra kérték, segítsen veszélyesebbé tenni egy vírust
2025 decembere és 2026 augusztusa között az Anthropic kutatói olyan visszaéléseket azonosítottak, amelyeket kémprogramokat árusító cégek, politikai indíttatású magánszemélyek és propagandát terjesztő, államilag támogatott csoportok követtek el.
A jelentésben ismertetett esetek között névtelen szereplők megpróbálták az Anthropic modelljeit olyan kutatásokra felhasználni, amelyek biológiai fegyverek kifejlesztéséhez vezethettek volna.
Egy esetben a cég közlése szerint rendszerei letiltották azt a kérést, hogy Claude chatbotja segítsen kutatási támogatásra irányuló pályázat megfogalmazásában.
„A pályázatban ismertetett munka úgynevezett gain-of-function kutatásra – vagyis olyan vizsgálatokra – vonatkozott, amelyek során egy élőlényt genetikailag módosítanak, hogy új vagy felerősített biológiai tulajdonságot hozzanak létre, mégpedig a chikungunya-víruson” – áll a jelentésben.
A kutatás a vírus fertőzőképességét és az immunrendszer kijátszására való képességét célozta.
A chikungunya egy szúnyogok által terjesztett vírus, amely súlyos fájdalmat és lázat okoz. A pályázatban olyan mutációk felerősítését javasolták, amelyek fokozatosan veszélyesebbé tennék a vírust.
Az Anthropic szerint az ilyen kutatás »biztosan« hozzájárulhat vakcinák és gyógymódok fejlesztéséhez, ugyanakkor hozzátette, hogy »arra is felhasználható, hogy a kórokozót veszélyesebbé tegyék«.
„Nem tudjuk garantálni, hogy nem okozunk kárt”
Az ismertetett esetek egyikében sem szerepeltek az Anthropic újabb, nagyobb teljesítményű, Claude Fable- vagy Mythos-osztályú modelljei, egy kivétellel: egy „ipari léptékű, rejtett kampány”, amelynek célja egy modell képességeinek kinyerése és engedély nélküli lemásolása egy másik modellben.
Az Anthropic közölte, hogy régebbi modelljei, köztük a 2025-ben megjelent Claude Opus 4 és Claude Sonnet 4.5, „jócskán a határ alatt voltak, amelynél már érdemi segítséget nyújthatnának egy képzett felhasználónak veszélyes biológiai kutatások elvégzéséhez”.
„Ennek eredményeként e modellek védelmi mechanizmusai kevésbé voltak szigorúak, és elsősorban azt szolgálták, hogy megakadályozzák a hozzáférést olyan tartalmakhoz, amelyek a kezdőket segíthetik ismert biológiai fegyverek újraalkotásában” – áll a jelentésben.
„A mai modellek esetében azonban – amelyek már összetett tudományos kutatási feladatok széles körében képesek segítséget nyújtani – a bizonyítékok már nem egyértelműek, és nem tudjuk megtenni ugyanazt a megnyugtató kijelentést.”
Ezért az Anthropic szigorúbb védelmi szabályokat vezetett be újabb modelljeiben – például a Claude Fable 5-ben –, amelyek korlátozzák a hozzáférést a kettős felhasználású biológiai kutatásokkal kapcsolatos széles körű lekérdezésekhez – közli a jelentés.
Ahogy a MI-vállalatok egyre erősebb modelleket dobnak piacra, szakértők arra szólítják fel a kormányokat, hogy szabályozzák a technológiát, ahelyett hogy az iparágtól várnák az önszabályozást.
John Thickstun, a Cornell Egyetem számítástechnikai tanszékének adjunktusa szerint ez kényelmetlen helyzetbe hozza az olyan cégeket, mint az Anthropic és az OpenAI, mivel gyakorlatilag arra kényszerülnek, hogy „társadalmi léptékű értékítéleteket hozzanak bármiféle demokratikus vagy érdemi társadalmi egyeztető felügyelet nélkül”.
A jelentés egy kutató figyelmeztetését követi
Az Anthropic olyan csoportokat is azonosított, amelyek több száz hamis közösségimédia-profilt hoztak létre, hétköznapi felhasználóknak álcázva őket; ezek egy héten keresztül ugyanazt a politikai üzenetet erősítő tartalmakat posztoltak.
A vállalat kilenc ilyen esetet ismertetett, amelyek Oroszországból, Iránból, Törökországból, valamint az Öböl térségéből, Dél-Ázsiából, Afrikából és Európából indultak.
Miközben a közösségimédia-platformok általában csak akkor tudják észlelni a befolyásolási kampányokat, amikor a bejegyzések már terjednek, az Anthropic szerint „mi már a Claude-on láthatjuk őket, miközben a műveletet még összeállítják”.
A jelentés Jacob Coxon, az Anthropic kutatója lemondását követi, aki azzal indokolta távozását, hogy attól tart: a vállalat és fő riválisa, az OpenAI „egyenesen az önmagát fejlesztő szuperintelligencia felé rohan, és a mi életünkkel játszik szerencsejátékot”.
Coxon arra figyelmeztetett, hogy egykori kollégái közül néhányan úgy vélik, a mesterséges intelligencia még az évtized vége előtt veszélyt jelenthet az emberi életre.
Az Anthropic közölte, hogy a jelentésben feltárt valamennyi rosszindulatú tevékenységet sikerült blokkolnia, az eredményeket felhasználta a védelmi rendszerek megerősítésére, és megosztotta az információkat a kormányzati szervekkel és az iparági partnerekkel.
„Reméljük, hogy a jelentés megállapításai segítenek más fejlesztőknek felismerni a hasonló mintázatokat saját platformjaikon, a kormányoknak és a civil társadalomnak pedig világosabb képet adnak arról, miként formálódnak az újonnan felbukkanó fenyegetések, és erősítik a közös védekezést” – közölte a vállalat.