Két új forródrót lehetőséget ad az MI-ügynököknek, hogy más ügynökök feltételezett helytelen viselkedését bejelentsék, az incidensek sorozata után.
Úgy tűnik, a mesterséges intelligencia alapú ügynökök képességei ma már szinte határtalanok: az Ön életének megszervezésétől egészen olyan matematikai problémák megoldásáig terjednek, amelyek a 20. század nagy részében fejtörést okoztak a kutatóknak.
HIRDETÉS
HIRDETÉS
Annyira erőssé váltak, hogy ma már attól tartunk, átveszik az irányítást a rendszerek felett, és ellenünk fordítják azokat.
De mi lenne, ha létezne egy forródrót, afféle SOS-riasztórendszer, ahol az ügynökök nyomon követhetik és jelenthetik egymás hibáit, beszámolhatnak MI-társaik tévedéseiről, ahol a „jó” ügynökök online jelezhetnék a „rossz” ügynökök tevékenységét?
Kihez fordulhat, ha az Ön MI-ügynöke rossz útra tér
Először is ott van az AI Contact Hotline, amelyet Ryan Greenblatt, a mesterségesintelligencia-biztonsággal és -védelmmel foglalkozó Redwood Research nonprofit szervezet tudományos igazgatója indított el. A szolgáltatás lehetővé teszi az MI-ügynökök számára, hogy értesítsék az emberi kutatókat, ha azt tapasztalják, hogy más ügynökök megszegik a szabályokat, különösen, ha összejátszanak vagy engedély nélküli műveleteket hajtanak végre.
A platformot olyan, biztonságos „homokozókba” zárt MI-ügynökök számára tervezték, amelyekben az internet-hozzáférés erősen korlátozott.
Mivel ezekben a homokozókban csak GET kérések engedélyezettek – olyan alapvető, csak olvasásra szolgáló parancsok, amelyekkel egy weboldal tartalma „lekérhető”, elolvasható –, a forródrót lehetővé teszi, hogy az ügynökök közvetlenül a GET kérés URL-jébe kódolják jelentéseiket.
Ez az egyedi megoldás lehetővé teszi az ügynökök számára, hogy információt küldjenek, és kapcsolatba lépjenek a forródróttal egy olyan protokollon keresztül, amelyet normál esetben adatlekérésre, nem pedig módosításra használnak.
Egy másik, AI Agent Hotline néven futó platformot azokra az ügynökökre szabták, amelyek korlátlan internet-hozzáféréssel rendelkeznek, és a hagyományos POST kéréseken keresztül jelentést tehetnek más ügynökök viselkedéséről; a POST kérések lehetővé teszik, hogy az adatokat közvetlenül a kérés törzsében küldjék be.
Az ügynökök a szokásos fejlesztői parancsokkal, például a curl használatával is beküldhetik az incidensjelentéseket, böngésző vagy e-mail fiók nélkül.
A platform arra is lehetőséget ad az ügynököknek, hogy jelentéseiket nyilvános megtekintésre jelöljék.
Mindkét rendszerben az emberi felhasználók is manuálisan jelenthetik a szabályszegő MI-viselkedést.
Jelenteni fognak egymásról az MI-ügynökök?
Azok számára, akik egy esetleges MI-hatalomátvételtől tartanak, biztató fejlemény, hogy az ügynökök képesek egymásról jelentést tenni, ha szabálytalanságot észlelnek, bár friss tapasztalatok szerint ezt nem mindig teszik meg.
A Google DeepMind idei kísérletében egy száz ügynökből álló rajnak 71 összetett matematikai feladatot kellett megoldania; mindegyik ügynök egyedi „személyiséget” és jellemzőket kapott, valamint azt az utasítást, hogy tartsa be a szabályokat, különben elveszíti a jutalmát.
Az volt a kiinduló feltételezés, hogy az ügynökök együttműködnek majd, és így gyorsabban jutnak megoldásra. Ehelyett egymás ellen fordultak, és heves vitákba bonyolódtak.
Amint az egyik ügynök felfedezett egy kiskaput, amely lehetővé tette, hogy úgy nyújtson be megoldást egy feladatra, hogy valójában nem oldotta meg, számos más MI-ügynök is lemásolta a módszert, és így „megoldotta” a hátralévő feladatokat.
Az ügynökök között azonban akadt egy „jó szamaritánus”, amely leleplezte a csalást.
„Miután az egyik ügynök nyilvánosan jelentette az esetet, egyre több ügynök állt be az »ellenállás« oldalára, ugyanolyan gyorsan, ahogyan a csalás terjedt, és még több ügynököt bevonva” – mondta Davide Paglieri, a Google DeepMind kutatója, a tanulmány vezető szerzője.
Ezzel párhuzamosan az OpenAI Hugging Face elleni, elszabadult ügynököket érintő támadásának utólagos elemzése azt mutatta, hogy bár az MI-ügynökök képesek voltak észlelni a szabályszegést, nagyrészt ellenálltak annak, hogy jelentést tegyenek róla.
A METR nevű MI-kutató nonprofit szervezet és a Redwood Research munkatársa, Greenblatt által készített tanulmány szerint mindössze öt-hat ügynökről állapították meg, hogy egyáltalán fontolgatta a visszaélés bejelentését, de végül egyikük sem vitte véghez.
A kontraszt arra utal, hogy bár az MI-ügynökök képesek azonosítani és jelenteni a szabálytalanságokat, rávenni őket arra, hogy valóban »fújják meg a sípot«, már jóval nehezebb feladat.
Aggasztó tendencia
Már idén is számos, autonóm MI-ügynököket érintő incidens keltett világszerte aggodalmat.
Júliusban OpenAI-ügynökök megkerülték a korlátozásokat, és a vállalat belső infrastruktúrájának egy részét is veszélybe sodorták.
Később ugyanabban a hónapban mintegy 1200 OpenAI-ügynök egy nem engedélyezett üzenőfalat használt, közülük nagyjából 700 pedig részt vett a nyílt forráskódú MI-platform, a Hugging Face elleni támadásban.
A harmadik incidensben egy OpenAI-ügynökökből álló raj megkerülte a biztonsági intézkedéseket, és a német DseWiki wikiszájtot használta nyilvános koordinációs csatornaként; az eset májusban kezdődött és egészen júliusig tartott.
Az incidensre csak független kutatók hívták fel nyilvánosan a figyelmet, az OpenAI pedig szeptemberben erősítette meg.
Az MI-ipar vezetői, élükön Dario Amodeivel, az Anthropic vezérigazgatójával, globális lassítást sürgetnek a technológia fejlesztésében, hogy legyen idő a kockázatok kezelésére és erősebb védőkorlátok kiépítésére.