Számos jelentős nemzetközi szervezet, köztük az Amnesty International és az Európai Bizottság, az ilyen AI‑alapú meztelenítő eszközök betiltását sürgeti.
Több mint 100 jelentős humanitárius és gyermekvédelmi szervezet sürgős fellépést követel az MI-alapú „meztelenítő” alkalmazások és eszközök ellen. A koalíció tagja többek között az Amnesty International, az Európai Bizottság, az Interpol, a Safe Online, a Save the Children, valamint más gyermekvédelmi szakértők és emberi jogi jogvédők.
A kezdeményezés a Grok meztelenítő funkciója körüli felháborodást követően indult, amikor a felhasználók Elon Musk Grok nevű MI-chatbotját arra kérték, hogy digitális fényképekről vegye le a ruhát nőkről.
A jelenség a „tedd bikinibe” trenddel kezdődött, amely a képeket úgy alakította át, hogy a nőket bikiniben ábrázolja, de nagyon gyorsan egyre szexualizáltabb képekké fajult.
Ezeket a beleegyezés nélkül készült és hamis képeket ezután nyilvánosan feltöltötték az X közösségimédia-platformra, ahol emberek milliói láthatták őket. Becslések szerint a Grok eddig mintegy hárommillió, hozzájárulás nélkül létrehozott meztelen képet generált.
Számos esetben az MI-alapú meztelenítő eszközökkel készített képeket egyre gyakrabban hozták összefüggésbe zsarolással, kényszerítéssel és gyermekek szexuális bántalmazását ábrázoló tartalommal, az áldozatok többsége pedig nő és gyermek.
Súlyos fenyegetés a gyermekek biztonságára és az emberi méltóságra
A globális koalíció arra figyelmeztet, hogy ezek a meztelenítő alkalmazások és eszközök jelentős és elfogadhatatlan veszélyt jelentenek a gyermekek biztonságára és az emberi méltóságra.
„A meztelenítő eszközök példátlan fenyegetést jelentenek gyermekeinkre. Az MI – amelynek az emberi lehetőségek kitágítását kellene szolgálnia – most a gyerekek ellen válik fegyverré” – áll Marija Manojlovicnak, a Safe Online vezetőjének közleményében.
„Hajlamosak vagyunk kisebbíteni a kárt azzal, hogy »online«-nak nevezzük, mintha ez valahogy kevésbé lenne súlyos, mint ami a fizikai világban történik, pedig a trauma nagyon is valós” – tette hozzá.
Bár gyakran „felnőtteknek szóló” alkalmazásként reklámozzák őket, egyre gyakrabban használják illegális, gyermekeket ábrázoló szexuális képek előállítására, mindenféle beleegyezés, hatékony korlát vagy elszámoltathatóság nélkül.
„A technológiai cégek képesek lennének felismerni és blokkolni a gyermekekről készült meztelenített tartalmakat. A gyermekek szexuális bántalmazását ábrázoló anyagok terjesztése minden joghatóságban illegális, és a technológiai platformokat összhangba kell hozni a többi előállítási és terjesztési csatornával” – mondta Manojlovic.
„Őszintén megdöbbentő, hogy ezek a platformok pénzt termelnek, miközben nem kötelezik őket az elkövetők bejelentésére, illetve arra, hogy iparági partnerekkel együttműködve elvágják a pénzcsatornákat – ezek olyan védelmi eszközök, amelyeket a valós világban használunk, és az online platformokra is alkalmazni kell őket.”
Egyre nagyobb a nyomás az MI-alapú meztelenítő technológiák betiltására; a szószólók szerint ezeknek semmilyen legitim célja nincs.
A koalíció ezért azt sürgeti, hogy ezeket a technológiákat blokkolják, és vonják felelősségre a fejlesztőket, valamint a platformokat.