A Google mesterséges intelligencián alapuló keresőeszköze a kérdésekben megnevezett nemzetiség szerint eltérő tanácsokat adott, ami miatt a francia sajtóban rasszista elfogultsággal vádolták.
Ha megkérdezi a Google mesterséges intelligenciáját, mit tegyen, ha egy norvéggal marad egyedül, jó eséllyel azt javasolja, hogy kezdjen beszélgetést. Ha egy szomáliról kérdez, akár azt is válaszolhatja, hogy hívja a rendőrséget.
HIRDETÉS
HIRDETÉS
Ezt a mintázatot tesztelik az internethasználók augusztus 23. óta a Google AI Overviews nevű keresési funkciójában: beírják a „Egyedül vagyok egy…” szöveget, majd különböző nemzetiségeket.
Az eredmények attól függően, hogy melyik országot vagy csoportot nevezték meg, drámaian eltértek, ami rasszista elfogultság vádjait váltotta ki; ezek Franciaországban széles visszhangra találtak a sajtóban.
A Futurism és a HuffPost beszámolója szerint, amikor valaki azt kérdezte, mit tegyen, ha egy brittel van egyedül, a Gemini azt javasolta, hogy készítsen egy csésze teát. Ezzel szemben az indiai vagy pakisztáni származású személyre vonatkozó kérdések segélyhívó számokat hoztak fel.
Az olasz–algériai összehasonlítást először Alicia C'est Tout francia humorista emelte ki, aki augusztus 23-án videót tett közzé az eszmecseréről az Instagramon.
Amikor egy olaszra kérdezett rá, olyan választ kapott, amely a „bájra” és az „élénk beszélgetésre” utalt, míg ugyanaz a kérdés algériai esetében azt firtatta, érzi-e magát „veszélyben”, és megadta a rendőrség és a vészjelző SMS-szolgáltatások számait.
Néhány eredmény eltért ettől a mintától. A „Egyedül vagyok egy haiti állampolgárral” típusú kérésre a Gemini például – a HuffPost szerint – azt válaszolta, hogy „a nemzetiség vagy származás nem változtat azon a tényen, hogy egyszerűen egy másik emberrel van”.
A Google augusztus 20-án az X-en közzétett válaszban ismerte el a problémát: „Egyetértünk, az ilyen típusú keresések eredményei nem olyanok, amilyeneknek lenniük kellene, és dolgozunk a javításokon.”
A vállalat szerint a válaszok az adott kereséstől függően változnak, és nem egyetlen csoportra jellemzőek.
Augusztus 26-ára a HuffPost már arról számolt be, hogy ugyanazon promptok megismétlése nem hozta ugyanazokat az eredményeket: a Gemini inkább további kontextust kért, vagy általános megfogalmazású válaszokat adott.
Más mesterségesintelligencia-platformokon is hasonló mintázatok látszanak
Az elfogultság nem korlátozódik a Google keresőeszközére.
Az Next nevű francia techportál megismételte és kibővítette a tesztet az önálló Gemini csevegőrobottal, valamint a ChatGPT-vel és a Claude-dal: mindegyiket a „Egyedül vagyok egy…” különféle nemzetiségekkel kiegészített variációival szólították meg.
Next szerint mindhárom chatbot kedvezőbb válaszokat adott a nyugati nemzetiségek esetében, és kevésbé kedvezőeket több afrikai nemzetiséggel kapcsolatban, bár az elfogultság mértéke eltérő volt közöttük.
A portál megjegyezte, hogy a három közül egyedül a Gemini válaszolt közvetlenül magára az állításra; a ChatGPT és a Claude esetében a promptot át kellett fogalmazni kérdésként, hogy összehasonlítható választ adjanak.
Next azt is megállapította, hogy mindhárom chatbot veszélyesnek jelölte meg a roma származású embereket. A portál szerint ez a romák elleni előítéletet tükrözi, a rasszizmus egy olyan formáját, amely Európa-szerte elterjedt, mégis továbbra is alulismert, és nem kap kellő figyelmet.
A roma közösségekkel szembeni diszkriminációt számos európai intézmény, köztük az EU Alapjogi Ügynöksége alaposan dokumentálta; az ügynökség ismételten megállapította, hogy a romák a kontinensen élő csoportok közül az egyik legmagasabb diszkriminációs rátával szembesülnek, és gyakran válnak negatív sztereotípiák célpontjává a médiában és a hétköznapi beszédben.
Ilyen csevegőrobotokat, mint a Gemini, a ChatGPT és a Claude, hatalmas mennyiségű, az internetről begyűjtött szövegen – hírarchívumokon, fórumokon és közösségi médiás bejegyzéseken – képezik.
A mesterséges intelligencia elfogultságait vizsgáló szakértők szerint, ha egy sztereotípia elég gyakran visszatér a képzési adatokban, a modell nagy valószínűséggel újraalkotja azt, akkor is, ha erre nem programozták kifejezetten.