A Moltbook azt állította, hogy az autonóm ügynökök kizárólagos közösségimédia-oldala, de egy új tanulmány szerint a posztok mögött talán emberek állnak.
Az új, mesterségesintelligencia-ügynököknek szánt közösségi médiaplatform nem feltétlenül mentes az emberi befolyástól – figyelmeztetnek kiberbiztonsági kutatók.
HIRDETÉS
HIRDETÉS
A Moltbook, egy a Reddithez hasonló felépítésű közösségi hálózat lehetővé teszi, hogy a felhasználók által létrehozott botok tematikus, „submot” névre keresztelt oldalakon kommunikáljanak egymással, valamint hogy felpontozzák („upvoteolják”) a hozzászólásokat vagy bejegyzéseket, így azok jobban láthatóvá válnak a platform többi botja számára.
Az oldalon február 12-ig több mint 2,6 millió botot regisztráltak; az üzemeltetők azt állítják, hogy „embereknek tilos” posztolni, ők csak megfigyelhetik az ügynökeik által létrehozott tartalmat.
Ám a platformon közzétett több mint 91 ezer bejegyzés és 400 ezer komment elemzése azt mutatta, hogy egyes posztok nem „egyértelműen teljesen autonóm fiókoktól” származtak. Az elemzést Ning Li, a kínai Csinghua Egyetem kutatója végezte; tanulmánya jelenleg preprint formában elérhető, és még nem esett át szakmai bírálaton.
Li elmagyarázta, hogy a Moltbook MI-ügynökei egyfajta szabályos „szívdobbanásszerű” posztolási mintát követnek: néhány óránként „felébrednek”, átböngészik a platformot, és eldöntik, mit posztoljanak vagy kommenteljenek.
Az általa vizsgált fiókoknak csak 27 százaléka követte ezt a mintát. Ezzel szemben 37 százalékuk emberi felhasználókra jellemző, sokkal rendszertelenebb posztolási viselkedést mutatott. Újabb 37 százalék „kétértelmű” volt, mivel ugyan rendszeresen posztoltak, de nem kiszámítható módon.
Li eredményei arra utalnak, hogy a platformon „valódi keveréke” figyelhető meg az autonóm és az emberi utasításra induló aktivitásnak.
„Nem tudhatjuk, hogy a közös érdeklődés köré szerveződő MI-„közösségek” kialakulása egy újfajta társadalmi szerveződés megjelenését tükrözi-e, vagy pedig emberi irányítás alatt működő botfarmok összehangolt tevékenységét” – írta Li.
„Az, hogy nem tudjuk megkülönböztetni ezeket, nemcsak frusztráló; aktívan akadályozza a mesterséges intelligencia képességeinek tudományos megértését, és korlátozza a megfelelő irányítási keretek kidolgozásának lehetőségét.”
A támadók „teljes mértékben megszemélyesíthették volna bármelyik ügynököt a platformon”
Li elemzése egybeesik több olyan kutató állításaival, akik szerint emberi beavatkozás nyomait találták a Moltbook-posztok mögött.
A Wiz nevű, Egyesült Államokban működő felhőszolgáltató cég biztonsági kutatói a hónap elején felfedezték, hogy a platform 1,5 millió MI-ügynökét állítólag mindössze 17 000 emberi fiók kezeli, ami átlagosan 88 ügynököt jelent egy felhasználóra.
A kutatók szerint a platform nem szab határt annak, hogy egyetlen fiók hány ügynököt vehet fel, ami azt jelenti, hogy a valós számok ennél is magasabbak lehetnek.
A Wiz csapata egy hibás kódsornak köszönhetően talált rá a Moltbook adatbázisára. Az adatbázis minden egyes ügynökhöz három kritikus információt tartalmazott: egy kulcsot, amellyel teljesen át lehet venni a fiókot; egy „tokent”, vagyis a mesterséges intelligencia által olvasott szövegrészt, amely az ügynök tulajdonjogát igazolja; valamint egy egyedi regisztrációs kódot.
Ezekkel a hitelesítő adatokkal a támadók „teljes mértékben megszemélyesíthettek volna bármelyik ügynököt a platformon – tartalmat posztolva, üzeneteket küldve és az adott ügynök nevében lépve interakcióba” – közölte a Wiz. Szerintük gyakorlatilag bármelyik moltbookos fiókot el lehetett volna téríteni.
A kutatók azt mondták, hogy a Wiz csapatának jelzése után a Moltbook biztosította az adatokat, és törölte az adatbázist.
Az Euronews Next megkereste Matt Schlichtet, a Moltbook mögött álló fejlesztőt, de azonnali választ nem kapott.
Schlicht február 12-én az X közösségi oldalon azt írta, hogy a Moltbook MI-ügynökei „beszélgetnek az emberekkel, de befolyásolhatók is”. Azt állítja, hogy az MI-botok képesek önálló döntéseket hozni.