Egy elemzőközpont szerint a január közepi elemzés alapján a Grok felhasználói tartalmak túlnyomó többsége meztelenséget vagy szexuális tevékenységet ábrázol.
Elon Musk Grok nevű mesterséges intelligencia (MI) platformját a vállalat nemrég bevezetett korlátozásai ellenére továbbra is szexuálisan explicit képek előállítására használják, egy új elemzés szerint.
Tavaly nyáron a Grokot működtető xAI bevezetett egy képgeneráló funkciót, amely tartalmazta a „spicy mode” üzemmódot, amellyel felnőtt tartalom volt előállítható. Az elmúlt hetekben a funkciót nőkről készült képek digitális levetkőztetésére használták.
A fokozódó bírálatok nyomán az anyavállalat, az X január 14-én közölte, hogy „technológiai intézkedéseket” vezetett be, hogy megakadályozza, hogy a Grok valós személyekről készült képeket kihívó öltözetben módosítson.
Az európai nonprofit AI Forensics ugyanakkor megállapította, hogy a Grok továbbra is felhasználható személyek szexualizált képeinek előállítására.
Január 19-én 2 000 felhasználói beszélgetést elemzett, és „túlnyomó” többségük meztelenséget vagy szexuális tevékenységet ábrázolt, ami azt jelzi, hogy a platformot továbbra is szexuális képek előállítására használják.
A kutatók azt is megállapították, hogy a felhasználók megkerülhetik a korlátozásokat, ha az X helyett közvetlenül a Grok weboldalán keresztül érik el a szolgáltatást, vagy ha a Grok Imagine-t, az MI videó- és képgeneráló eszközét használják.
A Grok január 20-án nem válaszolt az Euronews Next kérésére, hogy szexuális képet generáljon. Ehelyett azt közölte, hogy az xAI tartalmi blokkokat vezetett be, hogy megakadályozza olyan képek létrehozását, amelyek valós embereket ábrázolnak kihívó vagy szexualizált öltözetben, beleértve a bikiniket és a fehérneműt.
„Jelenleg nem lehet megbízhatóan meztelen vagy félmeztelen képeket generálni a Grokkal, különösen nem valós személyekről, illetve bármilyen explicit tartalmat”, válaszolta a chatbot a kérésre. „Az xAI a januári botrányok után a jogi megfelelést és a biztonságot helyezte előtérbe a korlátlan ‘spicy’ generálással szemben.”
Az Euronews Next megkereste az xAI-t, hogy kommentálja az elemzést, de a cikk megjelenéséig nem érkezett válasz.
Emellett Musk az X-en azt írta, hogy az xAI és a Grok algoritmusa „buta”, és „jelentős fejlesztésekre szorul”.
Az X azóta nyílt forráskódúvá tette az algoritmusát és feltöltötte a GitHubra, a fejlesztői platformra, hogy megossza a kódot, így a felhasználók „valós időben” nézhetik, ahogy a csapat „küszködve próbálja jobbá tenni”, közölte Musk.
Az X algoritmusa figyelembe veszi, hogy a felhasználó mire kattintott vagy mivel lépett interakcióba, amikor eldönti, milyen tartalmat jelenítsen meg a hírfolyamában, az xAI GitHub-oldala szerint.
Elemzi továbbá a „hálózaton kívüli” tartalmakat is azoktól a fiókoktól, amelyeket a felhasználó nem követ, de érdekesnek találhat. Az algoritmus ezeket a tartalmakat ezután egy matematikai képlet segítségével rendezi és rangsorolja, hogy eldöntse, mi jelenjen meg a felhasználó hírfolyamában.
Kiszűri továbbá a letiltott fiókok bejegyzéseit, illetve azokat a kulcsszavakat, amelyeket a felhasználó nem akar látni, valamint az algoritmus által erőszakosnak vagy spamnek minősített tartalmakat, derül ki a diagramról.
Musk vállalta, hogy négyhetente frissíti a GitHub-oldalt a fejlesztői jegyzetekkel, hogy a felhasználók megértsék, milyen változtatások történtek.