NewsletterHírlevélEventsEsemények
Loader

Find Us

FlipboardLinkedin
Apple storeGoogle Play store
HIRDETÉS

Az MI által generált pornográf tartalmak áldozatai a nők és a gyerekek

Képünk illusztráció
Képünk illusztráció Szerzői jogok Fotó: Pixabay
Írta: Tamas Fencsik
A cikk megosztásaKommentek
A cikk megosztásaClose Button

Globális szinten kiált szabályozásért a mesterséges intelligencia, de a jogalkotók lassúak. A rendszerre épített szoftverek és appok segítségével közben pornográf tartalmak tömkelegét állítják elő.

HIRDETÉS

Szakértők közölték: a mesterséges intelligencia (MI) térnyerésével párhuzamosan terjednek a deepfake pornográf tartalmak az interneten. Ezzel kapcsolatban kiemelik 

  • a nőket digitálisan levetkőztető alkalmazásokat, 
  • a szexuális zsarolás érdekében manipulált képeket, 
  • és a mesterséges intelligencia által generált lányok szexuális tartalmú üzeneteit.

 

Miként a mesterséges intelligencia fejlődése általában, úgy ezek a változások is felkészületlenül érik a jogalkotókat. Az elmúlt hónapokban számos manipulált fotó terjedt az interneten például Ferenc pápáról vagy Donald Trump korábbi amerikai elnökről, noha ennél jóval mélyebb, amikor az MI algoritmusait pornográf tartalmak előállításához használják, ráadásul az érintettek tudta nélkül. Sophie Maddocks, a Pennsylvaniai Egyetem kutatója szerint az MI által gyártott pornográf tartalmak terjedése normalizálja a nők kihasználását. Megjegyzendő: a gyerekekét is: 

Összefoglalójában az MTI említ egy amerikai Twitch-felhasználót, bizonyos QTCinderellát, aki egy videóban elmondja, hogy a saját példáján tanulta meg, mekkora károkat okozhat a deepfake. Képeit pornográf célokra használták fel, utána sokan támadták és kritizálták. Később könnyes szemmel nyilatkozva mondta, hogy elege van a nők "konstans kizsákmányolásából és tárgyiasításából".

A deepfake tartalom jól illusztrálja a mesterséges intelligencia veszélyeit. Egy 2019-es holland tanulmány szerint az interneten megtalálható fake videók 96 százaléka pornográf tartalmú, és nagyrészt nőket ábrázol. Volt ilyen videó Taylor Swift énekesnőről és Emma Watson színésznőről is. 

Roberta Duffield MI-szakértő szerint az MI-nek köszönhetően az egykor magánjellegű szexuális fantáziák a technológia segítségével megjelenhetnek a nagy nyilvánosság előtt. Kiemelte a felügyelet hiányát, és hangsúlyozta, hogy az MI a nők kizsákmányolásának új eszközévé teszi ezeket a technológiákat.

Az FBI a múlt hónapban figyelmeztetést adott ki a szexuális tartalmú deepfake-en alapuló zsarolások terjedése miatt, és hogy a zsarolók pénzt akarnak kiszedni az áldozataikból vagy családtagjaikból a hamis képekért cserébe, amiket pénz híján terjesztenének az interneten. Számos szakértő mondja, hogy a jogalkotásnak fel kell vennie a lépést, még mielőtt az MI ennél is jobban elszabadul. 

A szabályozásra már az OpenAI feje is figyelmeztetett

„A kormányok szabályozási beavatkozása elengedhetetlen lesz annak érdekében, hogy az egyre nagyobb teljesítményű modellek kockázatait minimalizálni lehessen" – közölte Sam Altman, az OpenAI vezérigazgatója májusban  az Egyesült Államok kongresszusa előtti meghallgatásán, melyről az Euronews is készített összefoglalót. Altman úgy véli, hogy a mesterséges intelligenciát az emberiség javára lehet fordítani, és felszólította az amerikai kongresszust, hogy szabályozza a mesterséges intelligencia fejlesztését és felhasználását, mivel annak alkalmazása az orvostudománytól kezdve a klímaválság elleni küzdelemig mindenhol hasznot hajthat.

Altman szerint az 

"új technológiához új keretrendszerre van szükség.

Az amerikai döntéshozók nem egyszer adtak hangot azon aggodalmuknak, hogy a mesterséges intelligencia nem várt hatásokkal lesz majd a társadalomra, amire a fentebb említett deepfake pornó elrettentő példa. 

A kongresszusi meghallgatáson felszólalt Gary Marcus, az AI-val kapcsolatban szkeptikus nézeteket valló tudós, aki szerint az USA és más államok is „túl lassan cselekedtek, amikor a közösségi média szabályozásáról volt szó", és leszögezte, hogy az AI-vel kapcsolatban nem szabad ugyanebbe a hibába esni, sőt mielőbb meg kell hozni a megfelelő döntéseket. Marcus egy új, kabinetszintű ügynökség létrehozását javasolta az ágazat szabályozására, és úgy látszott, hogy ezt az OpenAI vezetője is támogatná. 

Előrelépés az USA-ban és az EU-ban is

Múlt héten megírtuk: a mesterséges intelligenciával foglalkozó legnagyobb vállalatok önkéntes vállalásokat tettek Joe Biden amerikai elnöknek azért, hogy biztonságosabbá tegyék az MI-t.

Biden a mesterséges intelligenciára alapuló szoftvereket fejlesztő nagyvállalatok vezetőit látta vendégül a Fehér Házban, a találkozón részt vettek a ChatGPT-t kiadó OpenAI, a vele társult Microsoft, a Google-t kiadó Alphabet, a Facebookért és az Instagramért felelős Meta, valamint az Amazon, az Anthropic és az Inflection képviselői is.

A fent nevezett cégek önként vállalták, hogy szigorú teszteknek vetik majd alá a mesterséges intelligenciát alkalmazó szoftvereket még megjelenés előtt, és különböző módszerekkel próbálják biztonságosabbá tenni az eszközök használatát. Ezek egyike a  vízjel, ami a tervek szerint arról tájékoztatja majd a felhasználókat, hogy nem egy ember, hanem egy számítógép hozta létre azt, amit éppen néznek.

Az Egyesült Államok mellett természetesen az Európai Unió is futja a maga versenyét az MI fejlődésével, és próbálja megteremteni a mesterséges intelligencia felhasználásának jogi kereteit. Az Európai Parlament júniusban döntött arról, hogy kemény szabályokat hoznak majd az MI kordában tartására: a törvény véglegesítése után kötelező lesz jelezni, ha egy tartalmat a mesterséges intelligencia hozott létre, valószínűleg hasonlóan az Egyesült Államokban tervezett vízjelhez.

A cikk megosztásaKommentek

kapcsolódó cikkek

Védené az online pornótól a gyerekeket a spanyol kormány

Deepfake: az esetek negyedében nem ismerjük fel, hogy nem valódi ember beszél hozzánk

Dolgozók százait küldi el a Bild, és a mesterséges intelligenciára bízza a munkájukat