Bár minden online szereplő azt mondja, hogy nem engedi a pedofil tartalmakat, a gyakorlatban mégis új virágzásnak indult az ilyen képek kereskedelme. Pedig attól, hogy a kép nem valódi gyerekeket ábrázol, a jogi státusza ugyanaz.
HIRDETÉSA pedofil tartalmak reneszánszát is elhozta a mesterséges intelligencia alapó képgenerátorok a BBC összeállítása szerint. A kiskorúakat - gyakran mindössze két-három éves gyerekeket - explicit helyzetben ábrázoló képek piaca korábban is jelentős volt, a Stable Diffusion és hozzá hasonló szoftverek azonban még inkább megkönnyítik az ilyen képek előállítását.
A pedofil képek készítése és kereskedelme a brit jog szerint ugyanúgy bűncselekmény akkor is, ha azokat egy szoftver generálja, és nem valódi gyerekekről készülnek a felvételek. A folyamathoz a hálózatok olyan nagy online platformokat használnak, amelyeknek a menedzsmentje állítja, hogy mindent megtesznek az ilyen tartalmak kiszűrésére, de az eredmény azt mutatja, hogy az automatizált szűrőfolyamatokat és a rendszerbe épített szoftveres fékeket könnyedén kerülik meg azok, akik tilosban járnak.
Legális terjesztési felületek és ipari méretek
A BBC cikke a Stable Diffusion nevű képgenerátort emeli ki, amivel abszolút életszerű pedofil tartalmakat állítanak elő. A Stable Diffusiont globális együttműködésben hozták létre különböző cégek és vállalatok egy brit cég, a Stability AI vezetésével. Ennek megfelelően ahogy fejlődött, több változatot is publikáltak belőle. A létrehozók ugyan beépítettek olyan korlátokat, hogy bizonyos típusú képeket ne lehessen létrehozni a szoftverrel, de egy korábbi, nyílt forráskódú változat segítségével ezeket a korlátokat viszonylag könnyen ki lehet iktatni.
A pedofil képek terjesztésének a következő fontos állomása egy Pixiv nevű japán site, ahol jellemzően manga és anime alkotók árulják a képeiket. Japánban legális kiskorúakat erotikusan ábrázoló képeket publikálni, ez azonban csak az a site, ahol a pedofil képeket előállítók kapcsolatba lépnek a vásárlóikkal. A Pixiv azt közölte a BBC-vel, hogy május 31-el betiltotta a kiskorúakkal folytatott nemi aktust expliciten ábrázoló, fotorealisztikus tartalmakat, és ennek megfelelően megerősítette a kikerülő tartalmak ellenőrzését. Ugyanakkor egy, a témával foglalkozó brit újságíró, Octavia Sheepshanks több csoportba is felirakozott, és olyan képeket látott, amelyek egyértelműen megszegik ezeket a szabályokat.
Végső soron nem számít, hogy a kép igazi vagy generált
Az ellenőrzés szigorodásával elindult egy olyan változás, hogy a nem explicit képeket publikálják a Pixiven, majd az explicit képeket egy másik site-on, jellemzően a Patreonon értékesítik. Ugyanakkor a Pixiven a felhasználók kommentjeiből egyértelműen kiderül, hogy olyan képeket keresnek, amelyek kiskorúak szexuális kihasználását ábárzolják. Sheepshanks szerint ipari tételben állítják elő a képeket, egy alkotó akár havi ezer darabot is értékesít.
A másik jellemző felület, ahol ezek a képek forognak, a Patreon, ahol rengeteg ismert, legális tartalomelőállító kínálja a portékáját. Ugyanakkor a BBC több olyan fiókot is talált, amelyen fotorealisztikus pedofil tartalmakat árultak előfizetéses rendszerben. A Patreon ezeket eltávolította, a vállalat azt mondta a BBC-nek, hogy a kiskorúakat erotizáló, szexuálisan kihasználó témákkal kapcsolatban zéró tolerancia van érvényben náluk.
A brit Rendőrfönökök Nemzeti Tanácsa (NPCC) kifejtette, hogy az AI által generált ilyen képek készítésére és kereskedelmére ugyanazok a szabályok vonatkoznak, mint azokra a képekre, amelyek valóban létező kiskorúakat ábrázolnak. Egyrészt azért, mert a pedofil bűnelkövetőknél gyakran megfigyelhető, hogy az ilyen képek beszerzése csak az első lépés számukra, és tevékenységük kiskorúak valódi kihasználásával ér véget. A másik probléma, amit az AI-generált képek özöne okoz, hogy a ténylegesen létező kiskorúakat ábrázoló képek eredetének és a legsúlyosabb gyerekbántalmazási eseteknek a felderítését is megnehezíti.