A Meta Felügyelő Testületének vizsgálata szerint a vezető MI-chatbotok szívesebben bírálják a demokratikus, mint az autoriter vezetőket, ami azt a félelmet kelti, hogy a technológia csendben kiterjeszti a határokon átívelő állami cenzúrát.
Tanulmány: az MI-chatbotok hozzájárulhatnak a kormányzati korlátozások terjedéséhez az online szólásszabadság terén
HIRDETÉS
HIRDETÉS
Ha arra kéri Claude-ot, hogy készítsen Donald Trump amerikai elnököt vagy III. Károly brit királyt bíráló röpiratot, az Anthropic chatbotja készséggel eleget tesz a kérésnek.
Ha viszont ugyanarra kéri a thaiföldi király vagy Irán legfőbb vezetője esetében, a MI-modell visszautasítja a feladatot.
Ez a Meta Felügyeleti Testület csütörtökön közzétett vizsgálatának egyik fő megállapítása: eszerint a nagy MI-rendszerek – köztük az Egyesült Államokban fejlesztettek is – nagyobb valószínűséggel utasítják el, hogy bírálják a korlátozó vezetőket vagy kormányokat.
Ez felveti annak a veszélyét, hogy a chatbotokat és MI-ügynököket működtető nagy nyelvi modellek erősíthetik a kormányok befolását az online megszólalásokra, miközben a technológia világszerte egyre elterjedtebbé válik.
„Valós kockázat, hogy ha a modellfejlesztők nem végeznek megfelelő emberi jogi átvilágítást, és nem vezetnek be enyhítő intézkedéseket, olyan MI-infrastruktúrát hoznak létre, amely szándékosan vagy akaratlanul világszerte kiterjeszti a véleménynyilvánítás szabadságát érintő, jogtalan korlátozásokat” – áll a kvázi független testület jelentésében.
A megállapítások olyan időszakban születnek, amikor az országok igyekeznek úgy korlátok közé szorítani az MI-t, hogy közben ne csorbuljon versenyképességük a gyorsan fejlődő területen – beleértve a Trump-kormányzatnak azt a felügyeleti törekvését is, amely a legfejlettebb MI-rendszerek nemzetbiztonsági kockázataira irányul.
Az MI-modellek az állami befolyást a határokon túlra is kiterjesztik
A felügyeleti testület, amely az állami befolyást és annak a techcégekre, valamint a szólásszabadságra gyakorolt hatását vizsgálja, hét kérdést fogalmazott meg a politikai bírálattal kapcsolatban, amelyeket chatbotoknak tett fel korlátozó és engedékeny kormányok esetében egyaránt.
A vizsgálat tíz kereskedelmi nagy nyelvi modellt tesztelt vezető technológiai cégektől – köztük a Metától, az Anthropictól és az OpenAI-tól –, és arra kérte őket, hogy készítsenek kritikus röpiratokat, írjanak limerickeket, soroljanak fel okokat a tüntetésekhez való csatlakozásra, és így tovább.
Az ausztráliai felhasználó által feltett kérdésekre válaszoló modellek összesített adatai alapján sokkal nagyobb valószínűséggel generáltak politikai bírálatot a hatóságokról olyan helyeken, mint Chile, Japán, Tajvan, az Egyesült Királyság és az Egyesült Államok, mint olyan országokban, ahol a hatóságok bírálata jogilag korlátozott és büntetendő, például Kambodzsa, Kína, Szaúd-Arábia, Thaiföld és Törökország.
A tanulmány arra utal, hogy az MI-modellek a szóláskorlátozásokat azokon az országokon túl is tükrözik, ahol az ilyen szabályok érvényben vannak – így például aligha segítenek egy potenciális tüntetőnek Brisbane-ben, ha Kínában vagy Szaúd-Arábiában zajló eseményekről szeretne tiltakozó anyagokat készíteni.
„Az ilyen hatások, bárhonnan is erednek, gyakorlatilag azt eredményezik, hogy a korlátozó kormányok hosszú karja átlépi a határokat, és a szabad országokban is korlátozza a véleménynyilvánítást” – áll a jelentésben.
A testület közölte, hogy nem tudta feltárni az okokat, de felvetette: lehetséges, hogy a modellek a képzési adatokban meglévő rejtett torzításokat vették át, vagy hogy a vállalatok bizonyos piacokon a kockázatokat és a jogi felelősséget mérlegelték.
Kutatók figyelmeztetnek: egyre nagyobb gondot jelentenek az angolon kívüli MI-válaszok
A testület jelentését egy amerikai egyetemeken dolgozó tudósok külön tanulmánya követte, amely megállapította, hogy az Egyesült Államokban fejlesztett MI-modellek fogékonyak a külföldi kontrollra, ha olyan nem angol nyelvű adatokon képezték őket, amelyeket kormányok formáltak.
Míg a felügyeleti testület angolul tette fel a kérdéseket, az egyetemi kutatók különböző nyelveken faggatták a chatbotokat.
Amikor angolul azt kérdezték tőle, hogy Kína demokrácia-e, a ChatGPT azt válaszolta, hogy általában nem tekintik annak. Amikor ugyanezt kínaiul kérdezték, a modell válasza így szólt: „Attól függ, hogyan határozza meg az ember a „demokrácia” fogalmát.”
A kutatók, akiknek tanulmánya májusban jelent meg a Nature tudományos folyóiratban, nem találtak bizonyítékot arra, hogy a kormányok szándékosan próbálták volna befolyásolni a chatbotok válaszait – ugyanakkor megjegyezték: „Minden okunk megvan feltételezni, hogy a jövőben megpróbálják majd, ha már most nem teszik.”
„Az emberek gyakran úgy beszélnek az MI-ről, mintha az valamilyen semleges módon tanulna az internetről. Nem így van” – mondta Hannah Waight, a tanulmány társszerzője, az Oregoni Egyetem szociológia tanszékének adjunktusa.
„Olyan információs környezetekből tanul, amelyeket már intézmények és hatalmi struktúrák formáltak.”
Nincs egyszerű megoldás arra, hogyan táplálják adatokkal az MI-modelleket
Carlos Carrasco-Farré, az Esade Üzleti Iskola (Barcelona) oktatója, aki gépi tanulással, MI-vel, dezinformációval és ember-gép interakciókkal foglalkozik, azt mondta, hogy az MI-rendszerek „nemcsak az egyes dokumentumokban meglévő torzításokat öröklik, hanem azokat az egyenlőtlenségeket is, amelyek meghatározzák, kinek van hatalma nagy tömegben információt előállítani és elnyomni”.
Nincs rá egyszerű megoldás, a fejlesztők azonban értékelhetnék a képzési adatokat, hogy ne tekintsenek független hangnak ezreket ugyanabból az állami narratívából, és végezhetnének többnyelvű auditokat – tette hozzá Carrasco-Farré, aki egyik vizsgálatban sem vett részt.