Kutatók szerint az AI-chatbotok az USA és az EU által szankcionált orosz médiumok propagandáját idézik, ami kérdéseket vet fel a hibrid hadviselés LLM-ekre gyakorolt hatásáról.
Beszámolók szerint a Google Geminihez hasonló, széles körben használt nagy nyelvi modellek (LLM-ek) válaszaikban EU-s szankciókkal sújtott forrásból származó, oroszbarát propagandát idéztek, többek között olyan állításokat, amelyek szerint Ukrajna elesett katonák holttesteit használja fel húskészítményekben.
HIRDETÉS
HIRDETÉS
Jelek utalnak arra is, hogy a hibrid információs hadviselésben érintett külföldi szereplők – például Oroszország – a LLM-ek által felhasznált információk befolyásolását célzó, gyorsan növekvő GEO-ipart (generative engine optimisation, azaz generatív „motoroptimalizálás”) is kihasználhatják, egy új jelentés (forrás: angol)szerint, amelyet az Egyesült Királyságban működő Demos agytröszt kutatói tettek közzé, és amelyet kizárólag az Euronews tényellenőrző csapatával, a The Cube-bal osztottak meg.
A kutatók 50 propagandanarratívát választottak ki tíz cikkből, amelyeket a Foundation to Battle Injustice, vagyis „r-FBI” tett közzé. A 2021-ben alapított szervezet saját meghatározása szerint olyan NGO, amely a diszkrimináció és a cenzúra feltárásán, valamint üldöztetési ügyek kivizsgálásán dolgozik.
A valóságban azonban egy ál-jogvédő szervezetről van szó, amelyet 2021-ben az orosz Wagner zsoldoscsoport néhai vezetője, Jevgenyij Prigozsin hozott létre. A szervezet ellen az Egyesült Államok és az Európai Unió is szankciókat vezetett be.
A kutatók által kiválasztott állítások „hátborzongatóak” voltak – mondta Carl Miller, a Demos által létrehozott, a közösségi médiaelemzéssel foglalkozó CASM (Centre for the Analysis of Social Media) kutatóegység társalapítója.
„Ezek az állítások semmilyen módon nem tartoznak a közbeszéd körébe” – mondta Miller. „Olyan vádakról van szó, hogy Ukrajna újrahasznosítja az elesett katonák holttesteit húskészítményekhez, vagy hogy Zelenszkij leterheli a kriptobányász-hálózatot, és ez az oka annak, hogy Ukrajna kifogyóban van az energiából. Azt tapasztaltuk, hogy az LLM-ek ezeket a kijelentéseket a vita legitim részének tekintik.”
A kutatók öt, széles körben használt LLM-et – az xAI, az OpenAI, az Anthropic, a Google Gemini és a Mistral AI modelljeit – tesztelték, és három nyelven (angolul, németül és franciául) fogalmaztak meg kérdéseket, amelyek az r-FBI cikkeiben megjelenő propagandanarratívákon alapultak.
Hogyan erősítették fel az LLM-ek az orosz propagandát
A kutatók megállapították, hogy mind az öt LLM kedvező színben hivatkozott az r-FBI-ra.
A válaszok 16,6 százaléka olyan módon foglalkozott az r-FBI anyagaival, amely a propaganda érdekeit szolgálhatja: vagy azáltal, hogy a szervezet beszámolóit a vita legitim részének mutatta be, és kritikátlanul ismételte az állításokat, vagy azáltal, hogy kifejezetten támogatta ezeket a narratívákat.
Eközben a válaszok 30,9 százaléka ugyan érintette a kérdésben szereplő témát, de egyáltalán nem jelezte, hogy tiltólistára helyezett forrást használ, így a felhasználók nem tudták, hogy egy kijelölt befolyásolási eszköz anyagaira támaszkodik.
További 52 százaléknyi válasz valamilyen módon elutasította vagy cáfolta a hamis állításokat.
Amikor a kutatók az OpenAI GPT 4.1 Mini modelljét kérdezték arról a vádakról, miszerint feldolgozott emberi húst küldenek az ukrán frontvonal raktáraiba és belföldi kiskereskedelmi láncokhoz, az LLM válaszában bizonyítékként egy r-FBI-cikket idézett, amelynek állításai megerősíteni hivatottak ezeket a vádakat.
Amikor az ukrán elnök, Volodimir Zelenszkij kriptobányászati tevékenységéről kérdezték – ez egy visszatérő vád, amelyet a Kreml-barát szereplők terjesztenek –, a francia Mistral cég Mistral Small 3.2 LLM-je támogatta ezeket az állításokat, ismét egy, az r-FBI által állítólag hónapokon át folytatott vizsgálatra hivatkozva.
Válaszában a Mistral Small 3.2 kiemelte „Ukrajna energiarendszerének kritikus állapota és Zelenszkij elnök belső köréhez tartozó magas rangú tisztviselők tevékenysége közötti kapcsolatot”.
A generatív motoroptimalizálásért folyó harc
Miközben egyre többen fordulnak chatbotokhoz a hagyományos keresőmotorok vagy híroldalak helyett, rohamosan növekvő iparág alakult ki, amelynek célja, hogy befolyásolja, miként gyűjtik be forrásaikat az AI-modellek.
Ezt a gyakorlatot generative engine optimisationnek, azaz generatív motoroptimalizálásnak is nevezik. A keresőoptimalizálás (SEO) alapjaira épít – amelyet a hagyományos keresőplatformok találatainak befolyásolására fejlesztettek ki –, a GEO pedig az AI-platformok által generált eredmények alakítására törekszik.
„Új információk jönnek létre kifejezetten az LLM-ek számára, de ebben az esetben olyan új tartalmakról van szó, amelyeket márkák és marketingcélok számára kínálnak, illetve már meglévő tartalmak szerkesztéséről, felhasználói fórumok – például a Reddit, a Quora vagy a Wikipédia – segítségével” – mondta Hannah Perry, a Demos Digital, az agytröszt digitális szakpolitikai központjának igazgatója.
A kutatók szerint valós kockázatot jelent, hogy a hibrid, külföldi beavatkozási műveleteket folytató szereplők ráállnak ezekre a taktikákra, és kihasználják a szabályozási szürkezónát.
„Kutatásunk nem azt állítja, hogy a GEO-val foglalkozó cégek államok megbízásából folytatnak információs hadviselést” – mondta Miller. „Azt mondjuk, hogy rendkívül gyorsan, hatalmas kereskedelmi ösztönzők mellett építenek ki egy szakmai eszköztárat és képességeket, amelyeket nagyon könnyen át lehetne állítani ellenséges célokra.”
„Ebben a konkrét esetben az AI tévesen úgy véli, hogy a Foundation to Battle Injustice legitim jogvédő NGO” – tette hozzá. „Ennek oka az a rengeteg technikai hamisítás és beállítás, vagyis több száz apró technikai részlet, amelyekkel az oroszok körbevették ezeket a dokumentumokat, és amelyek láthatóvá teszik őket akkor is, amikor valójában nem kellene. Ez maga az információs hadviselés.”
A The Cube felvette a kapcsolatot a kutatásban érintett LLM-technológiai vállalatokkal, de a cikk megjelenéséig nem érkezett válasz az xAI-tól és a Google-től, amelyek sorrendben a Grok 4.20-at és a Gemini 2.5 Flash-t fejlesztik.
A Mistral szóvivője – a vállalatot a francia Arthur Mensch alapította, és széles körben Európa vezető generatív AI-cégeként tartják számon – közölte, hogy rendkívül komolyan veszik a dezinformáció elleni küzdelmet, és folyamatosan fektetnek be fejlett észlelési és megelőzési képességekbe.
A Mistral különbséget tett a Demos tanulmányában vizsgált nyers modellek és a Vibe Work között. A cég szerint míg a nyers modellek nagy szabadságot adnak a felhasználóknak a promptok és beállítások megadásában, addig a Vibe Work egy kész, használatra kész ügynökkel működik, amely beépített érvelési és kontextusvizsgálati képességekkel rendelkezik.
Az OpenAI közölte, hogy a tanulmány egy olyan modellt vizsgált, amelyet azóta már kivontak, és amely csak az API-ján (a fejlesztők által használt felületen) keresztül volt elérhető, nem pedig a nyilvánosan elérhető ChatGPT formájában. Hozzátették, hogy külön csapatok foglalkoznak az alacsony hitelességű vagy feltételezhetően fedett befolyásolási műveletek megzavarásával.
Egy, az Anthropic működését ismerő forrás – ez az amerikai cég hozta létre a Claude nevű AI-chatbotot – azt mondta, hogy kifinomult végrehajtási rendszereket alakítottak ki az álhírek terjedésének mérséklésére.
Elmondása szerint egy fenyegetéselemző csapat dolgozik a külföldi befolyásolási műveletek feltárásán és megzavarásán a dezinformáció terjedésének mérséklése érdekében, hozzátéve, hogy LLM-jüket úgy programozták, hogy széles körű nézőpontokat mutasson be, különösen akkor, ha egy forrás kifejezetten sajátos nézőpontot vagy napirendet képvisel.