Az EU mesterségesintelligencia-rendelete előírja, hogy a deepfake-eket és az MI által generált tartalmakat jelölni kell. Szakértők viszont arra figyelmeztetnek, hogy a technikai hiányosságok és az egységes szabványok hiánya gyengítheti a végrehajtást.
Az EU mesterségesintelligencia-törvénye új kötelezettségeket ír elő a mesterséges intelligenciát fejlesztő vállalatok számára: a deepfake-eket és más, MI által létrehozott tartalmakat egyértelműen mesterségesként kell jelölniük.
HIRDETÉS
HIRDETÉS
A technikai kihívások azonban kétségessé teszik, mennyire lesznek hatékonyak ezek a szabályok.
Két évvel ezelőtt az EU átfogó szabályokat fogadott el a mesterséges intelligencia szabályozására, és létrehozta az AI Hivatalt (European AI Office), amely a mérföldkőnek számító jogszabály végrehajtásának felügyeletéért felel.
A számos előírás között az AI-törvény a világ első átláthatósági szabályait vezeti be a szintetikus médiára, és kötelezi az olyan generatív MI-rendszerek szolgáltatóit, mint az Anthropic Claude-ja és az OpenAI ChatGPT-je, hogy az általuk mesterségesen előállított vagy manipulált tartalmak felismerhetők legyenek mint ilyenek.
A deepfake-ekre vonatkozó szabályok még szigorúbbak: ezek a különösen élethű, MI által generált vagy MI-vel manipulált képek, hang- és videófelvételek valós személyek megjelenését, hangját vagy mozdulatait utánozzák úgy, hogy az emberek könnyen elhihetik, a felvételen látható személy olyasmit mondott vagy tett, ami valójában meg sem történt.
A szatírától a manipulációig
Mint minden technológia, a mesterséges intelligencia is felhasználható alkotó és káros célokra egyaránt.
Brüsszel elismeri, hogy nem minden szintetikus tartalom félrevezető: az egyértelműen művészi, kreatív, szatirikus vagy fikciós célból létrehozott tartalmak általában nem esnek a deepfake-ekre vonatkozó közzétételi kötelezettségek hatálya alá.
Ennek látványos példája volt 2023-ban, amikor világszerte vírusként terjedt egy MI-vel készített kép Ferenc pápáról, amelyen a pápa egy divatos, fehér pufikabátot viselt. A kép hamis volt, de a többség tréfának tekintette.
Ugyanez a technológia azonban jóval ártalmasabb célokra is bevethető.
2024-ben Taylor Swift világhírű popsztár vált egy sor, beleegyezése nélkül terjesztett, MI által generált pornográf kép célpontjává, ami újra fellobbantotta a vitát a szintetikus média kockázatairól.
A deepfake-ek politikai manipulációs eszközként is megjelentek.
2022-ben, nem sokkal azután, hogy Oroszország megindította Ukrajna elleni teljes körű invázióját, felbukkant egy hamis videó, amelyen Volodimir Zelenszkij ukrán elnök a katonákat megadásra szólította fel. A felvételt gyorsan leleplezték, de jól megmutatta, hogyan lehet a szintetikus médiát háborús fegyverként használni.
Sokan attól tartanak, hogy a közösségi médiaplatformok által felerősített, egyre élethűbb MI által generált tartalmak megnehezítik az állampolgárok számára, hogy megkülönböztessék a valós információkat a kitalált anyagoktól.
A deepfake-ek szabályozása
A kihívás kezelésére az Európai Bizottság önkéntes magatartási kódexet dolgozott ki, amely keretet ad arra, hogy a cégek miként jelezzék a szintetikus tartalmak mesterséges eredetét géppel olvasható jelölésekkel, illetve a deepfake-ek esetében jól látható címkékkel.
Az alapelv egyszerű: az embereknek tudniuk kell, ha olyan tartalmat látnak, amelyet mesterséges intelligencia hozott létre vagy módosított. Ezért vonatkoznak a szabályok mind a technológiát fejlesztő vállalatokra, mind azokra, amelyek hivatásszerűen használnak MI-t, a magáncélú felhasználás pedig nem tartozik a rendelet hatálya alá.
A magatartási kódex nemcsak a jelölésre, hanem a kapcsolódó észlelési mechanizmusokra is kiterjed, amelyek működtetéséhez az érintett szereplők – MI-fejlesztő cégek, közösségimédia-platformok, civil szervezetek és tényellenőrzők – együttműködésére van szükség.
A nehezebb kérdés az, hogy a technológia mennyire tudja megbízhatóan teljesíteni ezt az ígéretet.
Egy szabály, sok akadály
Az első kihívás földrajzi jellegű. Az EU csak azokat a vállalatokat tudja szabályozni, amelyek az európai piacon működnek vagy azt célozzák meg, miközben az online tartalom nem áll meg a határoknál. Egy Európán kívül létrehozott deepfake néhány percen belül európai felhasználók millióihoz juthat el.
A második kihívás a technológiai fejlettség. A nagy MI-vállalatok, például az OpenAI és a Google alapvetően támogatják az átláthatósági követelményeket, és aláírták a Bizottság magatartási kódexét. Ugyanakkor figyelmeztetnek, hogy az észlelésre és jelölésre szolgáló technológiák folyamatosan változnak, mozgó célpontot jelentenek.
Jelenleg nincs egységes, ágazati szinten elfogadott megoldás. A cégek különféle módszerekkel kísérleteznek – vízjelezéssel, metaadatokkal, tartalomszármazási rendszerekkel –, amelyek nem feltétlenül kompatibilisek egymással, és nem mindig működnek együtt.
A harmadik kihívás, hogy a digitális nyomok sérülékenyek. Szakértők szerint a vízjeleket el lehet távolítani, módosítani vagy elveszíthetik őket a tartalmak szerkesztése, tömörítése vagy platformok közötti megosztása során. Egy MI által generált kép vagy videó teljes történetét, a rajta elvégzett módosítások sorozatát visszakövetni rendkívül nehéz lehet.
E korlátok miatt a kutatók úgy vélik, egyetlen technológia önmagában nem lesz elég; a vállalatoknak inkább töbrétegű megközelítést kell alkalmazniuk, amely több módszert kombinál.
„A megoldások kombinációja hatékonyabb, mint bármelyik intézkedés önmagában. Ezért a bevált gyakorlat az, hogy a MI által generált tartalmakra többféle jelölési és észlelési réteget alkalmazzanak” – állapította meg a témáról készült Európai Bizottság műszaki tanulmánya (forrás: angol).
Lépést tartani a tempóval
Az EU élen jár az MI-korszak egyik legnagyobb kihívásának kezelésében: abban a világban, ahol a szintetikus tartalmakat egyre nehezebb megkülönböztetni a valóságtól.
Az azonban, hogy Brüsszel képes-e lépést tartani a rendkívüli sebességgel fejlődő technológiával, végső soron azt fogja meghatározni, hogy a mesterségesintelligencia-törvény átláthatósági szabályai valódi védőhálót jelentenek-e, vagy csupán feliratot egy olyan problémán, amely folyton eléjük vág.