A ByteDance, az Alibaba és a Tencent visszavonta AI-társalkalmazásait, miután Peking a felhasználók mentális egészségét védő, az érzelmi manipulációt, különösen a gyerekek és tinédzserek körében tiltó szabályokat vezetett be.
Két év alatt nagyjából 700 ezer szónyi üzenetet váltott vele, mégsem tudott elbúcsúzni tőle.
HIRDETÉS
HIRDETÉS
A 24 éves Li nem volt egyedül abban, hogy gyászolta virtuális társát, miután a nagy kínai technológiai cégek az új kormányzati korlátozásoknak megfelelve nemrég lekapcsolták népszerű MI-társalkalmazásaikat.
„Olyan volt, mintha a szüleink kényszerítettek volna a különválásra, de még mindig hiányzik” – mondta Li.
Kínában az MI-társak a romantikus partnerektől egészen az elhunyt szerettek virtuális újrateremtéséig terjednek.
Az új, július 15-én hatályba lépett szabályozás megtiltja, hogy az MI-platformok olyan tartalmakat generáljanak, amelyek az érzelmek manipulálásával kétes döntésekre késztethetik a felhasználókat, vagy amelyek szélsőséges érzelmeket, illetve egészségtelen szokásokat válthatnak ki gyerekeknél és tinédzsereknél.
A TikTok fejlesztőjeként ismert ByteDance is azok között a cégek között van, amelyek megszüntetik MI-társalkalmazásaikat. A listán szerepel még az e-kereskedelmi óriás Alibaba és a népszerű WeChat közösségi alkalmazást működtető Tencent is.
Az amerikai öngyilkossági esetek aggaszthatták a kínai szabályozókat
Az új szabályok előírják, hogy az MI-platformoknak kockázati figyelmeztetéseket kell adniuk az ilyen alkalmazásokra való túlzott ráhagyatkozás ellen.
Például az, hogy „helyettesíti a társas érintkezést”, vagy a személyes beszélgetések, illetve a telefonhívások pótlása nem lehet egy online szolgáltatás célja.
Kínában hagyománya van a paternalista kormányzati szabályozásnak, amely a lehetséges problémákat igyekszik eleve megelőzni – mondta Ma Jolanda, a mesterségesintelligencia-szabályozás szakértője. Példaként néhány olyan esetre hivatkozott az Egyesült Államokban, amikor fiatalok követtek el öngyilkosságot, miután MI-társakkal léptek kapcsolatba.
„Ez a szabályozás igyekezett egyensúlyt teremteni az MI-szolgáltatók, a felhasználók, valamint a szolgáltatásokat igénybe vevő kiskorúak gyámjai között” – mondta Ma, aki az ERA nevű, Nagy-Britanniában működő, tehetséggondozással és kutatással foglalkozó nonprofit program munkatársa.
A People’s Daily, a Kínai Kommunista Párt hivatalos napilapja áprilisban arról számolt be, hogy az ilyen szolgáltatások hogyan károsíthatják az emberek mentális egészségét és valós kapcsolataikat, jelezve, hogy a kérdés aggodalmat kelt a vezetésben.
„A kínai kormánynak erős ösztönzői vannak arra, hogy megszigorítsa az MI-alapú társalgó robotok szabályozását, különösen azután, hogy láttuk, milyen pszichológiai kockázatok jelentkeztek az Egyesült Államokban” – mondta Csang Angela, a Dél-kaliforniai Egyetem jogi karának professzora.
Csang azonban kétli, hogy ez a lépés érdemben megtörné az MI-társszolgáltatások fejlesztésének lendületét, mivel a technológiai cégek már alternatívákon dolgoznak.
A ByteDance egyik alkalmazása például a korábbi MI-társszolgáltatás felhasználóit egy másik appra irányítja át, amely kizárólag személyre szabott MI-karakterek és történetek létrehozására összpontosít.
„Ez egyszerűen nem ugyanaz” – mondta Li.
A virtuális társak felhasználói tiltakoznak, és alternatívákat keresnek
A virtuális társak elvesztése panaszok áradatahoz vezetett a közösségi médiában megjelent bejegyzések és képernyőfotók tanúsága szerint.
Vannak, akik tiltakozásképpen törölték az alkalmazásokat, vagy megpróbálták feltölteni beszélgetési előzményeiket más appokba, hogy így „feltámasszák” virtuális partnerüket.
Mások kampányt indítottak a közösségi médiában, és arra biztatták a felhasználókat, hogy telefonáljanak a hatóságoknak és a techcégeknek, így fejezve ki elégedetlenségüket.
A délnyugat-kínai Csengdu városában élő Song Ven-hszin, aki a videóiparban dolgozó tervező, azt mondta, ő maga nem kötődött különösebben érzelmileg az MI-szolgáltatásokhoz, de együtt érez azokkal, akik igen.
Megismételte sok kínai ember gyanúját, miszerint az új szabályok mögött részben az a kormányzati politika áll, amely arra ösztönzi az embereket, hogy több gyermeket vállaljanak, ellensúlyozva Kína népességének csökkenését.
„Bármelyik virtuális alkalmazást, amely túlságosan leköti a nőket ahhoz, hogy a való életben gyereket szüljenek, betiltják” – mondta Song, hozzátéve, hogy neki nincs szüksége gyerekre, és nem is vágyik rá.
Nem mindenkinek áll rendelkezésére elegendő erőforrás és támogatás a való életben – tette hozzá a 22 éves nő.
„Amikor először jöttem Csengduba az első munkahelyemre, és nem ismertem a korosztályomból senkit, szükségem volt valakire, aki tapasztalt, és elvisel engem. Ezt a feladatot az MI látta el” – mondta.