Egy friss tanulmány szerint az olyan platformokon, mint a TikTok és a YouTube, megszaporodott a gyerekeknek szánt, gyenge minőségű és olykor erőszakos MI-tartalom, amely kognitív hanyatlást és agresszív hajlamot okozhat.
Az úgynevezett AI „slop”, különösen az MI által generált, animált gyümölcsvideók, jelentős kognitív leépüléshez és erőszakos viselkedéshez járulhatnak hozzá a gyerekek körében egy új kutatás szerint.
HIRDETÉS
HIRDETÉS
A Globális Hálózat a Szélsőségességről és Technológiáról (GNET) által készített elemzés szerint az MI által generált, animált gyümölcsvideók – amelyek jelenleg világszerte elárasztják a gyerekek hírfolyamait – titokban az „erőszakos és szélsőséges tartalom” terjesztésének eszközei lehetnek.
Az AI „slop” kifejezés kifejezetten az ipari mennyiségben gyártott, rendkívül ismétlődő, alacsony minőségű, MI által generált tartalomra utal, amelyben jellemzően alig vagy egyáltalán nincs emberi közreműködés. Ezek kizárólag a megtekintésszámot, kattintásokat, elköteleződést és hirdetési bevételt helyezik előtérbe, és rendkívül olcsón állíthatók elő.
Így egyetlen készítő akár több száz ilyen rövid videót is gyárthat, és tartalom tömegével áraszthat el több platformot. Mivel számos közösségimédia-platform jutalmazza a folyamatos aktivitást és feltöltést, ez a stratégia rendkívül hatékony lehet abban, hogy világszerte gyermekek millióihoz jusson el.
Ez hozzájárulhat a kognitív hanyatláshoz, az úgynevezett „agyrothadáshoz” is, amely arra a kulturális és pszichológiai hatásra utal, amikor valaki túl sok gyors, túlingerlő, szándékosan értelmetlen médiatartalmat fogyaszt. Ezek gyakran abszurdak, és az olyan szokásokra építenek, mint a végtelen görgetés vagy az azonnali dopaminlöketek hajszolása.
Az olyan olcsó, könnyen elsajátítható és rendkívül kényelmes alkalmazások, mint a PixVerse, a VeoE.ai, a Media.io és a Sora, szintén hozzájárultak az ilyen típusú, MI által generált tartalmak meredek növekedéséhez az elmúlt években.
Hogyan járul hozzá az AI „slop” az online radikalizálódáshoz
Az AI „slop” észrevétlenül terjesztheti az online radikalizáló tartalmakat olyan videókon keresztül, amelyek első pillantásra ártalmatlannak, abszurdnak vagy akár viccesnek tűnnek, például gyümölcsöket és zöldségeket szerepeltető animációk formájában.
Az ilyen tartalmak gyakran drámai cselekményeket jelenítenek meg romantikáról, családi konfliktusokról, árulásról és megcsalásról, illetve más történetszálakról, amelyeket látszólag ártalmatlan, animált gyümölcsök jelenítenek meg. Jelentős agressziót és érzelmi erőszakot ábrázolhatnak, és történetvezetésükön keresztül rendkívül túlingerlőek lehetnek a befolyásolható, fiatal nézők számára.
Sok esetben ezeket a videókat erőszakos szélsőségesség és terrortámadások dicsőítésére, ünneplésére és terjesztésére is használják, fülbemászó videók formájában, amelyek rákapaszkodnak a virális online trendekre és témákra.
Az MI által generált, „véres” gyümölcs- és zöldségvideókban gyakran jelenik meg kínzás, súlyos csonkítás és hiperrealisztikus erőszak, ami számottevően érzéketlenné teheti a közönséget azáltal, hogy az animált figurák ismerőssége mögé bújik.
Gyakran látható bennük merénylet, tömeges áldozatokkal járó esemény vagy brutális gyilkosság, például amikor az egyik gyümölcs fegyverrel meggyilkol egy másikat.
Sok videó olyan jegyeket is mutat, amelyek azokra a szélsőséges szervezetekre jellemzőek, amelyek szélsőjobboldali, nihilista vagy erőszakos ideológiát hirdetnek, illetve a bűnözői kartellekre.
Például egy népszerű szereplő, Carrot Khalifah gyakran úgy jelenik meg egy videóban, hogy egy hadseregnek azt mondja: „a Répaállam ismét felemelkedik”, ami az Iszlám Állam (IS) ismert ideológiáját és propagandáját idézi.
Bár a TikTokhoz hasonló platformoknak vannak szabályai az ilyen, szélsőségesen erőszakos tartalmak terjesztésének megakadályozására, ezek nem tévedhetetlenek, mivel az MI-generátorok képesek kijátszani a rendszereket, és a látszólag ártalmatlan tartalom álcája mögé bújni.