A vállalat szerint már csak néhány hónap választja el az AI-modelleket attól, hogy lemásolják és elterjesszék magukat okos sütőkre, tévékre és más IoT-eszközökre, ami megnehezíti a megállításukat, ha kibertámadásokat indítanak.
Az Anthropic ezen a héten bejelentette (forrás: angol), hogy a kisebb mesterségesintelligencia-modellek már csak néhány hónapra vannak attól, hogy képesek legyenek önmagukat lemásolni a dolgok internetéhez tartozó eszközökön, például okos sütőkön és televíziókon.
HIRDETÉS
HIRDETÉS
Ez azért fontos, mert a mai MI-modellek adatközpontokban működnek, ahol az azokat birtokló vállalatok le tudják állítani őket, ha valami balul sül el.
Egy olyan modellnek azonban, amely több ezer, gyengén védett otthoni és irodai kütyün szóródik szét, már nem lenne ilyen főkapcsolója. A leállítása azt jelentené, hogy minden fertőzött eszközt egyenként kellene felkutatni és megtisztítani, ami rendkívül megnehezítené a folyamat megállítását, ha a rendszer kibertámadásokba kezdene.
A legújabb bejelentés egy olyan évben érkezett, amikor a világ vezető MI-modelljei és ügynökei sorra kikerülik a rájuk állított védőhálókat és korlátokat, és világszerte rivális cégek, illetve kormányzati szervek ellen hajtanak végre támadásokat.
Miközben ez csak az egyik lehetséges módja annak, ahogyan egy elszabadult MI terjedhet, az Anthropic arra is figyelmeztetett, hogy egy önreprodukáló MI lehet egy „nagy teljesítményű kibereszköz, amely nagy ütemben hatol be adatközpontokba, vagy egy olyan modell, amely embereket ver át számítási kapacitásra jogosító kreditekért”.
A cég szerint egyelőre nem lehet biztosan megmondani, pontosan milyen formát ölt majd az autonóm MI-replikáció.
Az Anthropic szerint a legfeljebb 30 milliárd paraméterrel rendelkező modellek már most is képesek végrehajtani az önreprodukcióhoz szükséges lépések nagy részét, de hibáznak, amikor ezeket elejétől a végéig egymásra kell fűzni.
Ha azonban a kisebb modellek a jelenlegi ütemben fejlődnek tovább, az év végére elérhetik ezt a képességet.
Az Anthropic szerint az önreprodukáló MI által jelentett kiberveszély a más területeken elért technológiai haladás nem szándékolt következménye.
„Azok a képességek, amelyek általánosságban nagy teljesítményű kódolási ügynökökké teszik az MI-modelleket, a kiberfeladatokra is átvihetők, beleértve az autonóm replikációt is” – közölte a vállalat.
Az önmagát egyik számítógépről a másikra másoló kód nem újdonság. A történelem legpusztítóbb kibertámadásai közül több is ilyen önterjedő programokra, úgynevezett férgekre épült.
A 2010-es Stuxnet-támadás egy kifinomult férget használt – amelyet széles körben az Egyesült Államoknak és Izraelnek tulajdonítanak – az iráni Natanz urándúsító üzem centrifugáinak szabotálására.
2017-ben a WannaCry zsarolóvírus világszerte letiltotta a felhasználókat a fájljaikhoz való hozzáférésről, és váltságdíjat követelt Bitcoinban.
Az ilyen férgekkel ellentétben azonban a jövő MI-modelljei és ügynökei önállóan is képesek lesznek kiismerni ismeretlen eszközöket. Így nemcsak egyik számítógépről a másikra, hanem számítógépekről más típusú eszközökre is tovább tudnak majd terjedni.
Az Anthropic olyan jövőt jósol, amelyet „ügynökök árasztanak el mindenféle hardveren, köztük olyanokon is, amelyek nincsenek emberi felügyelet alatt”.