Az ügy tovább növeli a gyermekekre vonatkozó MI‑biztonsággal kapcsolatos aggodalmakat, mivel a technológiai vállalatok egyre több perrel néznek szembe.
Egy 13 éves lány szülei pert indítottak a Google ellen, azt állítva, hogy a lány az iskola által kiadott számítógépen a vállalat MI-technológiáját használta egy lehetséges öngyilkosság és a temetése megtervezésére.
HIRDETÉS
HIRDETÉS
A keresetet november 2-án, hétfőn nyújtották be egy kaliforniai bíróságon az Egyesült Államokban. Úgy vélik, ez az első per, amelyben azzal vádolják a Google-t mulasztással az iskola által kiadott Chromebookon, vagyis a cég széles körben használt, olcsó iskolai laptopján elérhető, MI-alapú keresési funkciók miatt.
A lányt, akit Emma néven azonosítanak, nem tudta használni sem a Google Gemini alkalmazását, sem az OpenAI ChatGPT-jét, mivel az iskola mindkettőt letiltotta. A Google keresőjéhez azonban továbbra is hozzáfért, amely MI-alapú funkciókat is tartalmaz.
A kereset szerint Emma, akinek korábban „nem volt előzménye” mentális betegséggel, néhány hónapon belül „csendes zuhanásba kezdett, amely súlyos pszichológiai válsághoz vezetett”, miután használni kezdte a keresőt.
Március 17-én az iskola értesítette a szülőket, miután a felügyeleti szoftver egy „Temetés” című dokumentumot jelzett. Anyja később búcsúlevelet írt éppen, amikor rátalált, ami arra késztette az apát, hogy közbelépjen.
„Az iskoláknak ki kell kapcsolniuk a keresőt, és kikapcsolva is kell tartaniuk, amíg a Google el nem távolítja az MI módot a keresőből, vagy amíg nem garantálja, hogy minden egyes diák mindig biztonságban van, amikor MI-vel lép kapcsolatba” – mondta Andrew Liddell, a család egyik ügyvédje csütörtökön, november 5-én az AFP-nek.
Egyre szigorúbb jogi vizsgálat a technológiai óriásokkal szemben
A Google szerint az AI Mode önkárosítással és az azt megkerülni próbáló kísérletekkel szembeni védelmi mechanizmusokat tartalmaz.
„Vizsgáljuk a keresetben szereplő állításokat, és rendkívül komolyan vesszük az ügyet” – közölte az AFP-vel Jose Castaneda, a Google szóvivője.
Az OpenAI ellen több, jogellenes halált állító per is folyamatban van, közöttük egy, amelyet a 16 éves Adam Raine szülei nyújtottak be, miután fiuk öngyilkosságot követett el, állítólag azért, mert ártalmas tanácsokat kapott a ChatGPT-től.
Januárban a Google és a Character.AI is beleegyezett abba, hogy bíróságon kívüli egyezséggel rendezzenek több, tinédzserek családjai által indított pert.
Időközben egy másik jogi eljárásban a Google, a TikTok és a Meta keresetet nyújtott be Kaliforniával szemben, hogy megakadályozzanak egy törvényt, amely megtiltja az addiktív közösségimédia-funkciókat a 16 év alatti felhasználók számára.
A Gavin Newsom kaliforniai kormányzó által szeptemberben aláírt törvény 2027. január 1-jén lép hatályba.