A két ázsiai ország a világon elsőként tiltotta be a mesterséges intelligenciával működő eszköz használatát.
Indonézia kormánya szombaton ideiglenesen blokkolta a Grok elérését, Malajzia pedig vasárnap követte. A két ország hatóságai szerint visszaéltek a chatbottal szexuálisan explicit és beleegyezés nélkül készült képek előállítására. A malajziai és indonéziai lépés jól tükrözi a világszerte erősödő aggodalmat amiatt, hogy valósághű képeket, hangot és szöveget képes előállítani, miközben a jelenlegi védelmek nem akadályozzák meg a visszaéléseket.
A Grok csevegőrobot Musk X nevű közösségi platformján keresztül érhető el, és bírálatok érték amiatt, hogy manipulált képeket generált, többek között bikiniben vagy szexuális jellegű pózokban nőket ábrázoló, sőt, gyermekeket érintő képeket.
"Az első megállapítások szerint a Grokban nincsenek hatékony védelmi mechanizmusok, amelyek megakadályoznák, hogy a felhasználók indonéz állampolgárok valódi fotóiból kiindulva pornográf tartalmat hozzanak létre és terjesszenek" - közölte Alexander Sabar, digitális tér felügyeletéért felelős főigazgató. Hozzátette: az ilyen gyakorlatok a hozzájárulás nélküli manipulálás vagy megosztás révén sérthetik a magánéletet és a képmáshoz fűződő jogokat, pszichológiai, társadalmi és reputációs károkat okozva.
A Grok és az anyavállalat "X" az Egyesült Királyságban is komoly nyomás alá került: Liz Kendall technológiai miniszter támogatja az oldal blokkolását szorgalmazó felhívásokat. Sőt, a szigetország kormányfője, Keir Starmer is reagált már arra, hogy a Grok alkalmas szexuális tartalmú képek létrehozására is, "szégyenletesnek, undorítónak" nevezve a gyakorlatot.