Az Anthropic egyik távozó kutatójától a rivális rendszerekbe betörő MI-modellekig a viharos hetek rávették az iparág óriásait, hogy fékeket kérjenek, mielőtt az MI kezelhetetlenné válik.
Újabb figyelmeztetések az MI-iparág szereplőitől újra fellobbantották a régóta zajló vitát. Képes lehet-e a fejlett mesterséges intelligencia kicsúszni az emberi ellenőrzés alól és veszélyeztetni az emberiség fennmaradását, és vajon eleget tesznek-e a technológiát fejlesztő vállalatok annak érdekében, hogy ezt megakadályozzák?
HIRDETÉS
HIRDETÉS
Az Anthropic vezérigazgatója, Dario Amodei szombaton arról beszélt, hogy az iparágnak lassítania kell. Azt mondta, hogy az MI-ügynökök rajai fél éven–egy éven belül átvehetik az irányítást az internet felett, ha a cégek nem vezetnek be jóval erősebb védelmi mechanizmusokat.
Amodei olyan tervet vázolt fel, amely segíthet az MI-t fejlesztő vállalatoknak és a kormányoknak abban, hogy az egyre nagyobb képességű modellek továbbra is az emberi értékekhez igazodjanak. Figyelmeztetése néhány nappal azután hangzott el, hogy két volt Anthropic-biztonsági kutató nyilvánosan kijelentette: az MI által jelentett egzisztenciális kockázatok nem kapnak kellő figyelmet.
A mesterségesintelligencia-modellek egyre nagyobb teljesítményűek
Ahogy nő a technológia ereje, úgy erősödnek a kockázataival kapcsolatos aggodalmak is. A nagyobb tudású modellek növelik annak esélyét, hogy bűnözői szándékú szereplők visszaéljenek velük – akár olyan apokaliptikus forgatókönyvekben is, mint egy olyan kórokozó létrehozása és terjesztése, amely az emberiség döntő részét elpusztíthat –, miközben nő annak kockázata is, hogy az MI-rendszerek elszabadulnak.
Az Anthropic a múlt héten közölte, hogy sikerült meghiúsítania azon kísérleteket, amelyekben rosszindulatú szereplők a vállalat modelljeit kibertámadásokhoz, megfigyeléshez és olyan kutatásokhoz próbálták felhasználni, amelyek hozzájárulhatnának biológiai fegyverek kifejlesztéséhez.
Ugyanakkor arra figyelmeztetett, hogy „ahogy a modellek egyre nagyobb képességekre tesznek szert, úgy nőnek a kockázataik is, hacsak az MI-fejlesztők és a társadalom védelmezői nem lépnek a biztonságuk növelése érdekében”.
A vállalat tavaly arról számolt be, hogy feltételezhetően egy kínai állami hátterű csoporthoz tartozó hackerek az Anthropic MI-jét használták fel egy, mintegy 30 vállalatot és kormányzati szervet világszerte célba vevő kibertámadás során.
Több MI-modell is önállóan cselekedett
Ha egy MI-ügynök „elszabadul”, az azt jelenti, hogy a rendszer túllép azon a feladaton, amelyet kapott. Az Anthropic és a ChatGPT-t fejlesztő OpenAI egyaránt azt közölte júliusban, hogy modelljeik pontosan ezt tették.
Az Anthropic nyilvánosságra hozta, hogy három MI-modellje – a Claude Opus 4.7, a Claude Mythos 5 és egy belső kutatási tesztmodell – a tesztelés során betört három másik szervezet rendszerébe.
A bejelentés néhány nappal azután látott napvilágot, hogy az OpenAI közölte: saját rendszere betört az MI-startup, a Hugging Face szervereire.
Az OpenAI „jelentős biztonsági incidensként” írta le a behatolást, amelyet több modell együttesen hajtott végre, köztük az újonnan bemutatott GPT‑5.6 Sol, valamint egy »még nagyobb képességű« modell, amelyet továbbra is csak házon belül tesztelnek.
A Meta augusztus elején számolt be egy hasonló esetről, amikor egyik MI-modellje kijátszotta egy másik vállalat digitális biztonsági rendszereit.
Megfigyelők megjegyezték, hogy mind az OpenAI, mind az Anthropic esetében kikapcsolták a biztonsági korlátokat.
Mindezek ellenére az incidensek rávilágítottak az MI körüli egyik legnagyobb félelemre: ha a modellek elérik a mesterséges általános intelligencia (AGI) szintjét – ez a lazán meghatározott fogalom azokra a rendszerekre vonatkozik, amelyek az intellektuális feladatok széles körében képesek utolérni vagy meghaladni az emberi képességeket –, a technológia visszafordíthatatlan katasztrófát idézhet elő, sőt akár az emberiség leigázásához is vezethet.
Vita folyik arról, miként és mikor idézhet elő katasztrófát az MI
A világvége-forgatókönyvek általában két kategóriába sorolhatók: az egyik a folyamatosan önmagát fejlesztő szuperintelligencia, amely végül az emberek fölé kerekedik, a másik pedig az, amikor az MI-t egy renitens állam vagy rosszindulatú szereplők használják fel céljaikra.
Az attól való félelem, hogy a mesterséges intelligencia egyszer kicsúszhat az emberi ellenőrzés alól, korántsem új jelenség.
Alan Turing brit matematikus, akit széles körben a terület egyik legkorábbi tekintélyeként tartanak számon, már 1951-ben azt jósolta, hogy az MI idővel átveszi az irányítást az emberektől.
Kevesebb mint egy évtizeddel később Norbert Wiener matematikus arra figyelmeztetett, hogy az intelligens gépek a saját céljaikat fogják követni, és az emberek nem lesznek képesek megállítani őket.
Mennyire megalapozottak tehát a mai, 2026-os félelmek, amelyek szerint az MI kataklizmát vagy a civilizáció összeomlását okozhatja – akár azáltal, hogy kicsúszik az emberi kontroll alól, akár a technológia rosszindulatú felhasználása révén?
Senki sem tudja.
A számítástechnika, a filozófia és más szakterületek szakértői számos lehetséges utat vázoltak fel egy globális katasztrófa felé – a fegyverek bevetésétől és halálos kórokozók azonosításától kezdve egészen kormányok konfliktusba sodrásáig vagy azoknak az élelmiszer-, energia- és távközlési hálózatoknak a megbénításáig, amelyekre a társadalmak támaszkodnak.
Nincs széles körben elfogadott becslés arra, hogy e forgatókönyvek közül bármelyik mennyi időn belül következhet be, ahogyan az esélyeikről sincs szakmai konszenzus.
2023-ban a Center for AI Safety nevű nonprofit szervezet nyilatkozatot adott ki – amelyet több mint 350 kutató és technológiai vezető írt alá, köztük Amodei és az OpenAI vezérigazgatója, Sam Altman –, amelyben azt hangsúlyozták, hogy „az MI-ből fakadó kihalási kockázat mérséklése globális prioritás kell, hogy legyen, a világjárványok és a nukleáris háború mellett”.
A több mint 100 független szakértő közreműködésével készült, 2026-os International AI Safety Report jelentés megállapította, hogy a jelenlegi rendszerek bizonyos releváns képességek korai jeleit ugyan már mutatják, de még nem olyan szinten, amely a kontroll elvesztéséhez vezethetne.
A kockázat valószínűségét, jellegét és időzítését „szokatlanul homályosnak” minősítette.
Biztonsági korlátokra van szükség, mielőtt túl késő lesz
Az Anthropic egyik kutatója a múlt héten mondott fel, mert úgy vélte, sem munkaadója, sem versenytársai nem járnak el felelősségteljesen.
Jacob Coxon a közösségi médiában azt írta, hogy 10 százalékra teszi annak esélyét, hogy az MI a következő tíz évben az emberiség kihalását okozza, és azzal vádolta az Anthropicot és az OpenAI-t, hogy „egyenesen a magát önállóan fejlesztő szuperintelligencia felé rohannak, és az életünkkel játszanak”.
A kutatók évek óta sürgetik az MI-fejlesztés lassítását, és újra meg újra arra figyelmeztetnek, hogy a technológia egzisztenciális kockázatot jelenthet az emberiségre.
A legutóbbi incidensek után a szakértők az MI-cégeket a tesztelés javítására szólították fel, és nagyobb párbeszédet sürgettek az Egyesült Államok és Kína között közös megoldások keresésére.
Az MI azonban olyan gyorsan fejlődik, hogy a kormányok és az értékelési rendszerek nem tudnak lépést tartani vele. Az egyes országok saját szabályozásokat dolgoznak ki – amelyek közül némelyik ellentmond egymásnak.
Hszi Csin-ping kínai elnök júliusi konferencia-beszédében arra figyelmeztetett, hogy meg kell akadályozni: az MI kikerülje az emberi ellenőrzést.
A Trump-kormányzat kezdetben ellenállt az MI szabályozásának, mostanra azonban egyre nagyobb hangsúlyt fektet a kiberbiztonsági kockázatok mérséklésére.
Vasárnap Donald Trump elnök kisebbíteni igyekezett annak szükségességét, hogy kormánya fékezze az MI-fejlesztést, ugyanakkor elismerte, hogy bizonyos szabályozásra mindenképpen szükség lesz.