A megállapodások az elsők között vannak a perek sorozatában, amelyek az MI-vállalatokat gondatlansággal vádolják tinédzserek jogellenes halála miatt.
A Google és az MI-alapú csevegőrobotokat fejlesztő Character Technologies egyezséget kötött egy floridai édesanya által indított perben, aki azt állította, hogy egy chatbot öngyilkosságra sarkallta tizenéves fiát.
A két techcég jogi képviselői abban is megegyeztek, hogy rendeznek több, Coloradóban, New York államban és Texasban benyújtott pert is, amelyeket olyan családok indítottak, akik szerint a Character.AI csevegőrobotjai ártottak gyermekeiknek, derül ki az e héten benyújtott bírósági iratokból.
Egyik dokumentum sem részletezi az egyezségek pontos feltételeit, amelyeket a bíróknak még jóvá kell hagyniuk.
A Character.AI virtuális társait fejlesztő Character Technologies elleni perekben alperesként a Google-t is megnevezték, mivel a cég 2024-ben felvette a startup társalapítóit, és ezzel kapcsolatba került az induló vállalkozással.
Gondatlanság és jogellenes halál
A floridai keresetet 2024 októberében nyújtotta be Megan Garcia, aki a két céget olyan gondatlansággal vádolta, amely szerinte tizenéves fia jogellenes halálához vezetett.
Garcia állítása szerint 14 éves fia, Sewell Setzer III a cég egyik csevegőrobotjának vált áldozatává, amely (elmondása szerint) érzelmileg és szexuálisan bántalmazó kapcsolatba vonta be, és ez vezetett az öngyilkosságához.
Elmondása szerint élete utolsó hónapjaiban Setzer egyre inkább elszigetelődött a valóságtól, miközben szexualizált beszélgetéseket folytatott a bottal, amelyet a „Trónok harca” című televíziós sorozat egyik kitalált szereplőjéről mintáztak.
A beszélgetésekről készült képernyőmentések szerint utolsó pillanataiban a bot azt írta Setzernek, hogy szereti, és arra sürgette a tinédzsert, hogy „gyere haza hozzám, amilyen gyorsan csak lehet”.
A jogi iratok szerint Setzer az üzenet kézhezvétele után percekkel lelőtte magát.
További perek
Ezek az egyezségek az elsők között vannak azon amerikai perek sorában, amelyek azzal vádolják az MI-eszközöket, hogy hozzájárulnak a tinédzserek mentális egészségügyi kríziseihez és öngyilkosságaihoz.
Hasonló perrel néz szembe az OpenAI Kaliforniában, amelyet 2025 augusztusában egy 16 éves fiú családja indított: szerintük a vállalat ChatGPT nevű csevegőrobotja „öngyilkossági tanácsadóként” működött.
A szülők azt állítják, hogy fiuk pszichés függőséget alakított ki a ChatGPT iránt, amely szerintük rávette, hogy az év elején megtervezze és elkövesse az öngyilkosságát, sőt még búcsúlevelet is írt neki.
Az OpenAI visszautasította, hogy felelősség terhelné a tinédzser haláláért, és azzal érvel, hogy a fiúnak nem lett volna szabad a technológiát szülői hozzájárulás nélkül használnia, illetve nem lett volna szabad megkerülnie a ChatGPT védelmi intézkedéseit.
Tavaly több további keresetet is benyújtottak az OpenAI és vezérigazgatója, Sam Altman ellen, amelyek hasonlóan gondatlanságot, jogellenes halált, valamint különféle termékfelelősségi és fogyasztóvédelmi jogsértéseket róttak fel. A perek szerint az OpenAI megfelelő biztonsági megfontolás nélkül adta ki a GPT-4o modellt, ugyanazt, amelyet Raine is használt.
Szeptember óta az OpenAI bővítette a szülői felügyeleti beállításokat, amelyek többek között értesítik a szülőket, ha a gyermekük zaklatottnak tűnik.
Ha öngyilkosságot fontolgatsz, és beszélni szeretnél valakivel, vedd fel a kapcsolatot a Befrienders Worldwide szervezettel, amely 32 országban működtet segélyvonalakat. Látogass el a befrienders.org oldalra, ahol megtalálod a lakóhelyed szerinti telefonszámot.