Az X elleni hivatalos vizsgálatra azután került sor, hogy felháborodást keltettek a valós emberekről - köztük gyerekekről - készült szexuális tartalmú AI-generált képek.
Az Európai Bizottság hivatalos vizsgálatot indított Grok, az X chatbotja ellen, miután a beépített mesterséges intelligencia eszköz képszerkesztő funkcióját széles körben használták arra, hogy valódi nők és kiskorú lányok képeit virtuálisan levetkőztessék, beleegyezésük nélkül.
Amint arról a Handelsblatt elsőként beszámolt, a vizsgálat azt fogja vizsgálni, hogy a közösségi médiaplatform eleget tett-e annak érdekében, hogy csökkentse a képek elkészítésének és terjesztésének kockázatát.
Ha bebizonyosodik, hogy az X megsértette a digitális szolgáltatásokról szóló uniós törvény (DSA) online platformokra vonatkozó szabályrendszerét, a Bizottság a vállalatot éves globális forgalmának akár 6 százalékáig terjedő bírsággal sújthatja.
Tavaly decemberben az Európai Bizottság 120 millió eurós bírságot szabott ki Elon Musk közösségi hálózatára a fiókellenőrzési jelölések és a hirdetési gyakorlat miatt.
Az aggályok tavaly nyáron merültek fel, miután a platform beépített mesterséges intelligencia eszközét, a Grokot egy "Spicy Mode" nevű fizetős funkcióval bővítették, amely lehetővé tette a felhasználók számára, hogy explicit tartalmak létrehozására ösztönözzék a chatbotot.
Elon Musk az X-en közzétett bejegyzésben gúnyolódott az ezt követő felháborodáson.
A hónap elején, amikor világszerte egyre nagyobb lett a felháborodás a funkció miatt, a Bizottság szóvivője a leghatározottabban elítélő nyilatkozatot tett ez ügyben.
"Ez nem 'pikáns, hanem illegális. Megdöbbentő. Undorító. Ennek nincs helye Európában".
A közvélemény dühére és riadalmára válaszul az X végül intézkedéseket vezetett be annak megakadályozására, hogy a Grok lehetővé tegye a valós emberek képének szerkesztését, hogy leleplező ruhákban és szexuális helyzetekben jelenjenek meg - a korlátozások minden felhasználóra vonatkoznak, beleértve a fizetősöket is.
Az X azt is közölte, hogy a Grokkal készített szexuális tartalmú, gyermekeket ábrázoló képeket eltávolították a platformról, és az ezek létrehozásában részt vevő felhasználókat kitiltották.
"Az X-en található illegális tartalmak, köztük a gyermekek szexuális zaklatására szolgáló anyagok (Child Sexual Abuse Material, CSAM) ellen az eltávolításukkal, a fiókok végleges felfüggesztésével, valamint szükség esetén a helyi önkormányzatokkal és a bűnüldöző szervekkel való együttműködéssel lépünk fel" - tette közzé az X Safety fiókja.
Nem ez az első eset, hogy a Grok az európai jog megsértésének gyanúja miatt vizsgálat alá kerül. Tavaly novemberben az AI chatbot holokauszttagadó tartalmakat generált.
A platform chatbotjával kapcsolatos vizsgálatok jelenleg Franciaországban, az Egyesült Királyságban és Németországban, valamint Ausztráliában folynak. Indonéziában és Malajziában a Grokot teljesen betiltották.
A Bizottság közölte, hogy a DSA alapján információt kért Elon Musk közösségi platformjától, és még elemzi a választ.