Az elmúlt években virágzik a vetkőztető alkalmazások piaca. Egy pillanatkép az MI-vel néhány kattintással bikinis, akt vagy akár pornófelvétellé alakítható át. A nudify szinte kizárólag csak női testtel működik. Soha nem fejlesztették ki arra a szintre, hogy pucéran mutassa be a férfiakat.
HIRDETÉS
Egy dél-spanyolországi kisvárosban és az amerikai New Jersey-ben is sokkolta a lakosokat, hogy iskolás lányokról készítettek meztelen képeket egy alkalmazás és mesterséges intelligencia segítségével iskolatársaik. Mindkét ügynek jogi eljárás lett az eredménye.
„A lányoknak igazságot szolgáltattak, és remélhetőleg a fiúk is okultak az esetből” – így nyugtázta a Spiegelnek adott interjújában Miriam al Adib, hogy a szülők a bíróságon végül megegyezésre jutottak. „Anyu, szeretnék valamit mutatni” – ezzel várta 14 éves lánya egy alkalommal, amikor hazatért egyik üzleti útjáról. A tizenéves kioldotta telefonját, és megmutatta édesanyjának a látszólag róla készült, semmit sem rejtő fotókat.
„Sokkoló volt, amikor megláttam” – mondta a négygyermekes anya, aki nőgyógyászként dolgozik a spanyolországi Almendralejóban. Az aktkép teljesen valósághű volt.
„Ha nem ismerném a lányom testét, azt hittem volna, hogy a kép valódi” – tette hozzá a tekintélyes orvos, aki több rendelőt vezet, és jónéhány szakkönyvet jelentetett meg.
A kép azonban egyértelműen deepfake, mélyhamisítás volt; egyike annak a több tucat, az almendralejoi iskolás lányokról a mesterséges intelligencia segítségével készült meztelen képeknek, amelyek hetek óta keringtek a fiú iskolatársaik által létrehozott WhatsApp-csoportban.
A valódi bűnösök nem kerültek igazságszoltatás elé
Néhány lány szégyenében nem volt hajlandó iskolába járni. Mások pánikrohamot kaptak. Olyanok is akadtak, akiket megzsaroltak vagy nyilvánosan zaklattak.
„Attól tartottam, hogy a képek eljutottak olyan pornóoldalakra, amelyekről semmit sem tudunk” – mondta Al Adib.
A gyermeke mellett legkevesebb húsz 11-17 év közötti lányt vetkőztettek meztelenre tudtuk vagy jóváhagyásuk nélkül – egy mesterséges intelligenciával felvértezett alkalmazás segítségével.
Ez a kiberzaklatás új, és általában figyelmen kívül hagyott formája – figyelmeztetett a szakorvos, aki szerint az ilyen MI-képek rendkívül veszélyesek lehetnek a fiatalok lelki világára. „Olyan esetek is voltak, amikor a kiberzaklatás áldozatai végső kétségbeesésükben öngyilkosságot követtek el” – emlékeztetett Al Adib.
Az elkövetők egy helyi kiskorúkból álló társaság tagjai közül kerültek ki.
Al Adib lánya esetében például egy, a WhatsApp-on szabadon elérhető, valós fotót választottak ki, amit feltöltöttek a ClothOff – szabad fordításban: ruhát le – oldalára. A mesterséges intelligencia segítségével a portál – némi díjazás ellenében – megszabadította a fényképen szereplő lányt ruhájától, és egy megszólalásig élethű, de hamis képet generált, amelyen a fiúk jókat derülhettek.
Mások esetében az Instagramról csentek fotókat, vagy röplabdázás közben fényképezték le a potenciális áldozatot.
A fiúk ellen gyermekpornográfia terjesztése miatt emeltek vádat, és egy év felfüggesztett büntetést kaptak. Az ítélet kihirdetése után a lányok és a fiúk szülei békét kötöttek, Al Adibot azonban nem hagyták nyugton a történtek.
A valódi bűnösök, a ClothOff üzemeltetői ugyanis nem kerültek az igazságszolgáltatás elé.
„Etikátlannak tartom, hogy továbbra is elkövethetőek olyan bűncselekmények, mint amilyeneket a lányom és sok más lány ellen követtek el világszerte” – nyilatkozta Miriam Al Adib.
A Vegyék le-törvény
A legnagyobb hírverést a Taylor Swiftről tavaly januárban készült, a 4chan-en és az X-en megosztott deepfake fotók kapták. A képek viharos gyorsasággal terjedtek, és az egyiket több mint 47 millióan látták, mielőtt órák elteltével eltávolították.
A botrány kirobbanása után a Microsoft továbbfejlesztette mesterséges intelligencia alkalmazását, amely szöveges leírás alapján generál hamis képeket. Még az is felmerült, hogy törvényben szabályozzák a deepfake pornográfia előállítását és terjesztését, előrelépés azonban egy darabig nem történt az ügyben.
A spanyolországi incidenssel egyidejűleg egy feltűnően hasonló eset történt a tengerentúlon, egy amerikai középiskolában. A Westfield fiú diákjai lány iskolatársaikról generáltak a mesterséges intelligencia segítéségével explicit fotókat, azzal a parányi különbséggel, hogy ezeket nem a WhatsAppon, hanem Snapchaten terjesztették.
Az áldozatok egyike, a 14 éves Francesca Mani az arcát vállalva mesélte el, milyen megpróbáltatásokon esett át „élete legkaotikusabb napján”, amikor felfedezte, hogy a mesterséges intelligencia segítségével generált meztelen, sőt, pornográf fotókat osztottak meg róla, és több mint 30 iskolatársáról.
A New Jersey-ben történt kiberzaklatás után polgári per indult, amely nem kis mértékben járult hozzá ahhoz, hogy az amerikai kongresszusban kétpárti támogatással elfogadták a Take It Down, a Vegyék le-törvényt, amely betiltja a nem konszenzusos alapon történt deepfake képek készítését és terjesztését.
Hasonló szabályozást vezettek be Dél-Koreában is, ahol több mint 500 iskolában és egyetemen készítettek deepfake fotókat a lányokról és nőkről, amelyek közül néhánnyal még zsarolták is a jóváhagyásukat nem adó célszemélyeket.
A spanyol és az amerikai iskolában egyaránt a ClothOff segítségével készültek az áldozatok számára megalázó és lelki gyötrelmet okozó képek.
A vetkőztető portál
A portál üzleti modellje a végletekig egyszerű: némi ellentételezés fejében – a mesterséges intelligencia bevetésével – megszabadítja ruháitól a nőt, akinek felöltözött fotóját töltik fel.
Az elmúlt két évben virágzik a nudify-alkalmazások piaca. Több mint 60 jelent meg, bár alapvetően egyformán működnek: egy pillanatkép az MI-vel néhány kattintással bikinis vagy akár pornófelvétellé alakítható át.
A képeket azonban nem az internet legsötétebb bugyraiban, a Darkneten és titkos platformokon osztják meg, hanem szabadon elérhetők a világhálón.
Egyetlen kivétellel: a nudify-alkalmazások szinte kizárólag csak női testtel működnek. A vetkőztető portálok által alkalmazott mesterséges intelligenciát soha nem fejlesztették ki arra a szintre, hogy pucéran mutassák be a férfiakat.
A lányok/nők fehérneműs képei általában ingyenesek, a tipikusan pornográf pózban látható alanyokról készült deepfake fotók pedig néhány euróért tekinthetők vagy vásárolhatók meg.
A ClothOff az egyik vezető alkalmazás a piacon. Tavaly az év első hat hónapjában 27 millió látogatója volt, miközben naponta átlagosan kétszázezer képet dolgozott fel az oldal. Minden bizonnyal fiatal nők ezrei váltak az alkalmazás áldozatává.
A ClothOff az egyik leggátlástalanabb nudify-szolgáltató, amelynek kínálatában tinilányok tekinthetők meg iskolai egyenruhában vagy akár terhes nők szexpózban. A képek mindegyike deepfake.
A portál nemrég lehetővé tette, hogy egy fotóból mozgó felvételt varázsoljanak. A cég szerint ezt a funkciót már több mint egymillió alkalommal használták.
Az applikáció alkalmazottaira a Szovjetunió árnyéka vetül
"A ClothOff alkalmazásában állni kezdetben olyan érzés volt, mintha egy izgalmas startupnál kaptam volna munkát" – idézte fel egy bennfentes, aki a megtorlástól való félelmében a neve elhallgatását kérte. „Idővel azonban mindenki cinikussá keményedett, és a pénz rabjává vált” – mondta egykori kollégáiról.
Kezdetben őt is a pénz vonzotta, mostanra azonban részben magát is felelősnek tartja azért, ahová a vetkőztető alkalmazás süllyedt. Ezért döntött úgy, hogy megosztja információit.
A német oknyomozó újságírók is megerősítették értesülését, miszerint a ClothOff tíz másik nudify-portált vásárolt meg, amelyek havi látogatottsága a százezer és a több millió között mozog. A ClothOff éves költségvetése hárommillió euró, és legalább három tucat embert foglalkoztat.
Németországban is váltak fiatal nők a mesterséges intelligenciával történő visszaélés kárvallottjaivá. „Tudok olyan iskolákról, ahol a fiúk hamis meztelen képekkel kínozták osztálytársaikat, és ezzel a hírnevükön ejtettek csorbát” – mondta egy baden-württembergi médiapedagógus. Saskia Nakari szerint a traumatikus következmények mellett a vetkőztető alkalmazások a szexualitásról veszélyesen pontatlan képet közvetítenek.
A vállalat az országban professzionális, ugyanakkor arcátlan kampányt indított, amelyben a felhasználók választhatják ki a hírességek közül, hogy kit kívánnak levetkőztetni. A győztest a „legdögösebb bombázó” címmel koronázzák meg.
Az új rostálás gyakorlatilag stratégiaváltást jelent az iskolai kiberzaklatás után, mert celebeket eddig inkább más alkalmazások szabadítottak meg a ruhájuktól.
A ClothOff üzemeltetői habár másokról „lerántják a leplet”, saját identitásukat féltve őrizték egészen tavaly nyárig, amikor véletlenül elérhetővé tették saját belső adatbázisukat. Ebből kiderült, hogy a négy vezető beosztott az orosz Alekszandr G., a belorusz Dása és Alekszandr B., illetve az ukrán Jevgenyij B. Ez utóbbi, 30 éves férfi webdesignerként és művészként mutatkozik be. Azt állítja magáról, hogy nagyra értékeli az őszinteséget és a családot.
A szivárogtató megerősítette, hogy a ClothOff összes alkalmazottja olyan országban dolgozik, amely korábban a Szovjetunió része volt. Ezt igazolja, hogy a belső kommunikáció orosz nyelvű, az e-mail szolgáltatást pedig Oroszországban működtetik.
A cégvezetés nemcsak saját anonimitását próbálja szavatolni, hanem állítólag a felhasználókét is. „Nem mentünk el semmilyen adatot” – olvasható az impresszumban.
A svájci családapa, aki más lányáról gyártat képeket
Ez azonban nem igaz. A Spiegel egy másik forrása egy több ezer, e-mail címmel kiegészített nevet tartalmazó listát adott át azokról, akik fizettek, hogy különösen explicit deepfake képeket készítsenek a ClothOff mesterséges intelligenciájának a használatával.
A listán számos, német ajkú kliens neve szerepelt, több országból. Az egyikük egy 49 éves svájci családapa. Amikor az újságíró felhívta, és a ClothOffról kérdezte, ideges nevetés hallatszott a vonal túlsó végén.
Csak azzal a feltétellel volt hajlandó beszélni az alkalmazásról, ha a nevét nem teszik közzé. Saját bevallása szerint nagyjából 40 eurót költött „hobbijára”, hamisított szexfotók készítésére egy ismert amerikai énekesnőről.
„Ki akartam próbálni, és persze a kéjvágy is vezérelt” – ismerte el zavartan. A képek némelyikén egyértelműen látszott, hogy hamisítvány, mások azonban valósághűnek tűntek. Egy alkalommal az alkalmazás nem volt hajlandó képet generálni, mert az énekesnő kiskorúnak tűnt. A svájci férfi három nappal később újra próbálkozott ugyanazzal a képpel, és a ClothOff ezúttal tökéletesen levetkőztette a modellt.
Amikor az újságíró szóvá tette, hogy soha nem kapott engedélyt a képen szereplő nőtől arra, hogy szexképeket készítsen róla, azzal védekezett, hogy az „internet tele van róla készült képekkel”.
Váltig állította, hogy nem tett semmi rosszat, hisz a képeket nem osztotta meg, és nem terjesztette – csak a saját kedvtelésére tárolta gépén. Magánszemélyről soha nem töltene fel képet a ClothOffra – mondta.
„Ha tudomást szereznék arról, hogy valaki ilyen készít a lányomról, elborzadnék” – ismerte el. Arról megfeledkezett, hogy nyilván az adott énekesnőnek is van édesapja...