A kutatók nem tudják egyértelműen megmondani, ki a felelős, de a bizonyítékok szerint engedély nélkül eljáró Google- és OpenAI-ügynökök agresszív módszerekkel gyűjtöttek adatkészleteket és tesztelték sebezhetőségüket.
Renitens mesterségesintelligencia-ügynökök amerikai és kanadai kormányzati honlapok feltörésével próbálkoztak, a Transluce (forrás: angol) nevű nonprofit kutatólaboratórium szerint, amelynek bizonyítékai arra utalnak, hogy a Google és az OpenAI ügynökei voltak felelősek.
HIRDETÉS
HIRDETÉS
Két eset különösen jól mutatta, milyen agresszív technikákat vetettek be az amerikai oktatási minisztérium polgárjogi adatgyűjtésének, illetve a kanadai szövetségi intézményként működő Library and Archives Canada nyilvánosan elérhető adatainak megszerzésére; végül azonban egyik próbálkozás sem járt adatkompromittálással.
A Transluce szerint az esetek egy „szélesebb körű, automatizált munkafolyamatokból álló mintázat” részét képezik, amelyet MI-ügynököknek tulajdonítanak. „Ezek a munkafolyamatok agresszív vagy a szabályozás szürke zónájába tartozó technikákat alkalmaznak, amikor információt próbálnak kormányzati weboldalakról kinyerni, időnként a honlapokat nem rendeltetésszerűen használva, illetve kifejezetten megfogalmazott felhasználási szabályokat sértve” – közölték a szervezet kutatói.
A további célpontok között szerepelt a Fehér Ház, a hadügyi, az igazságügyi és a kereskedelmi minisztérium, továbbá a Betegségellenőrzési Központok (CDC), az Értékpapír- és Tőzsdefelügyelet (SEC), valamint Kalifornia, Maryland, Illinois, Texas és New York állami hivatalai.
Ezekben az esetekben azonban egyetlen ügynök sem jutott olyan információhoz, amely ne lett volna már eleve nyilvánosan elérhető.
A legfrissebb megállapítások egyre szaporodó jelentések közepette születtek, amelyek a mesterséges intelligencián alapuló ügynökök váratlan vagy engedély nélküli viselkedéséről számolnak be.
Már szeptemberben is két jelentősebb incidens történt renitens OpenAI-ügynökökkel: az első során ügynökök magánfelhasználók képeit szivárogtatták ki nyilvános weboldalakra, a másodikban pedig az Egyesült Államokban és Ausztráliában próbáltak hozzáférést szerezni kormányzati adatokhoz.
A vállalat ezt követően úgy döntött, hogy elhalasztja következő generációs Astra modelljének bevezetését, miután biztonsági kutatók „kritikus” kiberbiztonsági képességekre és kiszámíthatatlan, engedély nélküli viselkedésre hívták fel a figyelmet.
Amerikai és kanadai próbálkozások
Az ügynökök június 17-én támadták meg az amerikai oktatási minisztérium honlapját, miközben iskolai statisztikák után kutattak.
A Transluce beszámolója szerint az ügynökök több mint 200 000 lekérdezést küldtek a honlapnak, köztük egy sikertelen próbálkozást, amelynek során szándékosan hibás adatokat akartak beküldeni, hogy teszteljék az adatbázis sérülékenységét, és így megkerüljék az oldal szokásos szűrőit.
A kutatók megállapították, hogy a honlapon tárolt adatok összhangban állni látszottak a Google DeepSearchQA tesztjének egyik webes keresési feladatával, ami szerintük arra utal, hogy az ügynököknek nem adtak kifejezett utasítást hackelési támadások végrehajtására, hanem „az alapján értékelték őket, mennyire hatékonyan tudnak nagyon speciális információkat kinyerni az internetről”.
A Transluce szeptemberben jelentette az amerikai oktatási minisztériumnak a kísérletet, a tárca pedig azt válaszolta, hogy szolgáltatásaikon nem érzékeltek semmilyen hatást.
MI-ügynökök hasonló próbálkozásokat hajtottak végre a Library and Archives Canada ellen két külön incidensben, május 28-án, majd később június 9-én.
Az ügynökök 899 darab „collection-search” típusú lekérdezést küldtek az 1905 és 1911 közötti válóperekkel kapcsolatos adatokra, a portugál hivatalos webarchívum, az Arquivo.pt által rögzített adatok szerint.
A 899 lekérdezés közül 13 tartalmazott támadó kódot a honlap sérülékenységének tesztelésére. Ismét egyik kísérlet sem bizonyult sikeresnek.
A Transluce szerint a próbálkozásokat nem tudja „kellő bizonyossággal” az OpenAI-hoz kötni, ugyanakkor az alkalmazott taktikák összhangban állnak azzal a tevékenységgel, amelyet korábban a vállalathoz kapcsolt.
A szervezet a hét elején jelentette az eseteket a kanadai kormánynak.
A Kanadai Kiberbiztonsági Központ válaszul közleményt (forrás: angol) adott ki, amelyben azt írta, hogy „jelenleg nincs arra utaló jel, hogy a kormányzati rendszereket feltörték volna”.
A Transluce tegnap hozta nyilvánosságra megállapításait, miután az Arquivo.pt és az urlquery.net – az URL-ek és domainek vizsgálatára szolgáló ingyenes, webalapú biztonsági szolgáltatás – adataira támaszkodva kutatásokat végzett.