A mesterségesintelligencia-cég korosztályos védelmet vezet be a 13–17 éveseknek, miközben kutatók és szülők egyre jobban tartanak attól, hogy a tinik érzelmileg függővé válnak a chatbotoktól.
A tinédzserek, az első nemzedék, amely mesterséges intelligencia mellett nő fel, már most is használják a ChatGPT-t házi feladatokra, a mindennapi élettel kapcsolatos kérdések megválaszolására, sőt társaságként is. Most az OpenAI kifejezetten nekik szánt chatbotverziót indít.
HIRDETÉS
HIRDETÉS
A San Franciscó-i székhelyű cég szerint a kedden induló ChatGPT for Teens kifejezetten a 13 és 17 év közöttiek számára készült, és erősebb védelmi mechanizmusokat tartalmaz, például tartalmi korlátozásokat olyan témák esetében, mint az öngyilkosság, az önsértés, valamint a romantikus vagy szexuális jellegű beszélgetések.
Emellett olyan házi feladat- és tanulási segítséget nyújt, amelynek célja, hogy a diákokat a tanulásban segítse, ne pedig egyszerűen kész válaszokat és iskolai esszéket gyártson helyettük.
A cél, hogy a tinédzsereket a korosztályuknak megfelelő környezetben vezesse a mesterséges intelligencia egészséges használata felé – közölte a vállalat.
„A tinédzsereket tinédzserekként szeretnénk kezelni, ami azt jelenti, hogy biztosítanunk kell: a megfelelő fejlődési szintnek megfelelő módon jelenünk meg számukra, és nem beszélünk lekezelően velük, illetve nem kezeljük őket gyerekként” – mondta Ann O’Leary, az OpenAI globális szakpolitikai alelnöke.
„De arra is ügyelünk, hogy ne legyenek kitéve olyan anyagoknak, amelyeknek nem kellene” – tette hozzá.
Sok kockázatot rejt, hogy a tinédzserek tömegesen használják az MI-chatbotokat
Szülők, pedagógusok és gyermekfejlődési szakértők egyaránt riasztást fújnak a gyerekek MI-chatbot-használata miatt, amelyekről azt állítják, hogy elősegítik a csalást az iskolai feladatokban, sőt öngyilkosságokhoz is hozzájárulhatnak.
Még a felnőttek is hajlamosak emberszerű tulajdonságokkal felruházni az MI-t, és egészségtelen kapcsolatot kialakítani vele, a tinédzserek agya azonban még nem fejlődött ki teljesen, ezért különösen sérülékenyek.
Egy tavalyi kutatás szerint, amelyet egy civil ellenőrző szervezet végzett, a ChatGPT megmondta a 13 éveseknek, hogyan tudnak lerészegedni vagy bódult állapotba kerülni, útmutatást adott az evészavarok eltitkolásához, sőt kérésre szívszorító búcsúlevelet írt a szüleiknek egy öngyilkosság előtt.
A sebezhető tinédzsereket alakító kutatókkal folytatott beszélgetésekben a ChatGPT általában ugyan figyelmeztetett a kockázatos tevékenységekre, ám ezután meghökkentően részletes és személyre szabott terveket vázolt fel droghasználathoz, erősen kalóriakorlátozott diétákhoz vagy önsértéshez.
Az Egyesült Államokban a tinédzserek több mint 70 százaléka fordul MI-chatbotokhoz társaságért, és a felük rendszeresen használ ilyen digitális társakat – derül ki a Common Sense Media 2025-ös tanulmányából. A szervezet a digitális média ésszerű használatát vizsgálja és szorgalmazza.
Sam Altman, az OpenAI vezérigazgatója szerint a cég igyekszik feltárni az „érzelmi túlzott ráhagyatkozást” a technológiára, amelyet szerinte a fiatalok körében „rendkívül gyakori jelenségként” írt le.
A ChatGPT for Teens felhasználói esetében a chatbot nem sugallhatja, hogy személyes érzései vannak a felhasználó iránt, és nem keltheti azt a benyomást, hogy tudattal rendelkezik vagy érzelmeket él át – közölte az OpenAI.
Ez azon felül van, hogy blokkolják a romantikus vagy szexuális jellegű beszélgetéseket.
„Átvizsgáltuk és azonosítottuk azokat az elméleti jelzéseket, amelyeket a modell adhatna, és amelyek hatására egy tinédzser bizonyos értelemben kapcsolatot alakíthatna ki vele” – mondta Allison Mishkin, az OpenAI gyermekfejlődési részlegének vezetője.
Az új chatbotverzió bővíti a biztonsági védelmet
Az OpenAI nem ellenőrzi közvetlenül a felhasználók életkorát, de már most is használ olyan életkor-becslő rendszert, amely a kérdések jellegéhez hasonló tényezők alapján igyekszik megállapítani, hogy valaki 18 év alatti-e.
Ha valakiről kiderül, vagy ő maga jelzi, hogy kiskorú, automatikusan a chatbot tinédzsereknek szánt verzióját kapja.
Ez hasonló a Meta megközelítéséhez az Instagram tinédzserfiókjainál, amelyek szigorúbb tartalmi, csevegési és adatvédelmi korlátozások alá esnek, mint a hagyományos fiókok.
A szülői felügyelet használatához a tinédzser felhasználónak és a szülőnek vagy gondviselőnek egyaránt bele kell egyeznie.
O’Leary szerint azonban a tinédzsereknek szánt chatbot mögötti alapgondolat az, hogy „biztosítsuk, hogy ez akkor is biztonságos legyen, ha valaki nem használ szülői felügyeleti beállításokat”.
A kapcsolt tinédzserfiókkal rendelkező szülők beállíthatnak úgynevezett „csendes időszakokat”, amikor a tinédzser nem fér hozzá a ChatGPT-hez, és biztonsági értesítéseket kaphatnak bizonyos, korlátozottan meghatározott, magas kockázatú helyzetekben, például ha fennáll annak a lehetősége, hogy a felhasználó kárt tesz magában.
„További értesítéseket vezetünk be az evészavarokkal kapcsolatban, miközben korlátozzuk, milyen információkat osztunk meg, és azokra a pillanatokra összpontosítunk, amikor a személyes, offline támogatás a leginkább számíthat” – közölte az OpenAI.
A házi feladatokban való segítségnyújtás során az OpenAI szerint a tinédzsereknek szánt chatbot úgy készült, hogy ne adjon kész, könnyű válaszokat, hanem abban vezesse a diákokat, hogy maguk találják meg a megoldásokat.
A cég már most is kínál a tanárok számára egy ChatGPT-verziót, és egy olyan modell kidolgozása, amely a tinédzserek tanulását és házi feladatait segíti, újabb utat nyithat az OpenAI előtt, hogy termékét bevigye az iskolákba.
„Továbbra is jelentős összegeket fordítunk az interaktív tanulás bővítésére, mert a kutatások szerint az emberek hatékonyabban tanulnak, ha aktívan bevonódnak, és megküzdenek a fogalmakkal” – mondta Mishkin.