Dario Amodei, az Anthropic vezérigazgatója szerint szabályozni kell az MI használatát, különben autokratikus kormányok alakulhatnak ki, és azzal elnyomhatják a lakosságot.
A világ az MI-fejlesztés egy olyan szakaszába lép, amely „próbára teszi, kik vagyunk mint faj”, figyelmeztet az Anthropic vezérigazgatója egy nagy ívű esszében.
Dario Amodei szerint az emberiség a „technológiai kamaszkor” korába lép, ahol az MI gyorsabban fejlődik, mint ahogy a jogrendszerek, a szabályozási keretek és a társadalom lépést tudnának tartani.
Azt állítja, hogy az MI akár két éven belül „okosabbá válhat, mint egy Nobel-díjas” a legtöbb releváns területen, például a biológiában, programozásban, matematikában, mérnöki tudományokban és írásban.
Ha ezek az MI-rendszerek együtt dolgoznak, Amodei szerint olyanok, mint „egy adatközpontban működő zsenik országa”, amely képes összetett feladatokat legalább tízszer gyorsabban elvégezni az embernél olyan területeken, mint a szoftvertervezés, a kiberhadműveletek vagy akár a kapcsolatépítés.
Ez a szuperemberi intelligencia, autonómia és az irányíthatóság nehézségeinek kombinációja „egyszerre valószerű, és egyben az egzisztenciális veszély receptje”, írta.
„Az emberiségnek fel kell ébrednie, és ez az esszé egy kísérlet (talán hiábavaló, de érdemes megpróbálni), hogy felrázzuk az embereket”, mondta.
Amodei esszéje azt követően született, hogy cége múlt héten közzétette a Claude csevegőrobot számára írt 80 oldalas „alkotmányt”, amely rögzíti, miként segíti a vállalat, hogy az MI biztonságosan és etikusan viselkedjen.
Nem csak ő figyelmeztet az MI lehetséges veszélyeire. Egy 2025-ös jelentés30 ország támogatásával arra figyelmeztetett, hogy a fejlett MI-rendszerek rendkívüli új kockázatokat teremthetnek, például tömeges munkahelyvesztést, a terrorizmus lehetővé tételét vagy a technológia feletti kontroll elvesztését.
Más technológiai vezetők, köztük az OpenAI vezérigazgatója, Sam Altman és az Apple társalapítója, Steve Wozniak, szintén figyelmeztettek az MI kockázataira.
Az MI „civilizációs kihívás”
Bár Amodei nem állítja, hogy a katasztrófa elkerülhetetlen, arra figyelmeztet, hogy az MI súlyos „civilizációs kihívás”.
„Az MI olyan erős, olyan csillogó díj, hogy az emberi civilizációnak rendkívül nehéz bármiféle korlátozást is rákényszerítenie rá”, írta.
Amodei hozzátette, hogy a nagy teljesítményű MI-rendszerek kormányoknak, szervezeteknek vagy egyéneknek is adhatnak tanácsot geopolitikai, diplomáciai vagy katonai tervezésben.
Szerinte a legnagyobb veszély, hogy az autokraták az MI által generált tanácsokat arra használják, hogy „tartósan elrabolják” az általuk irányított polgárok szabadságát, és „olyan totalitárius államot kényszerítsenek rájuk, amelyből nincs menekvés”.
Hozzátette: az MI tömeges alkalmazását megfigyelésre emberiség elleni bűncselekményként kellene tekinteni.
Amodei szerint fennáll a veszélye annak, hogy a világ autokratikus befolyási övezetekre szakad, amelyek mindegyike az MI-vel figyeli és elnyomja a saját lakosságát.
„Egy nagy teljesítményű MI, amely emberek millióitól származó milliárdnyi beszélgetést vizsgál át, képes lenne felmérni a közhangulatot, észlelni az illojalitás kialakuló gócait, és még növekedésük előtt felszámolni őket”, áll az esszében.
Amodei a kínai kormányt nevezi meg elsődleges aggodalomként, tekintettel az MI-ben mutatott képességeire, autokratikus berendezkedésére és a már kiépített, csúcstechnológiás megfigyelési infrastruktúrájára.
Amodei azt is mondta, hogy az MI-ben versenyképes demokráciák, a nagy adatközpontokkal rendelkező nem demokratikus országok, valamint maguk az MI-vállalatok is potenciális szereplők, akik visszaélhetnek a technológiával.
A chipek a „legnagyobb szűk keresztmetszet”
Szerinte a leginkább hatékony ellenlépés az, ha ellenőrzés alatt tartják az MI-modellek betanításához használt fejlett számítógépes chipek értékesítését.
Amodei szerint a demokráciáknak nem szabadna ezeket a technológiákat autoriter államoknak, különösen Kínának, amelyet az Egyesült Államok fő versenytársának tartanak az MI-versenyben, eladniuk.
„A chipek és a chipgyártáshoz szükséges eszközök jelentik az erős MI egyetlen legnagyobb szűk keresztmetszetét, és a blokkolásuk egyszerű, ám rendkívül hatékony intézkedés, talán a legfontosabb, egyetlen lépés, amit tehetünk”, mondta.
Az exportkorlátozásokon túl Amodei ágazati szintű összehangolást és társadalmi felügyeletet szorgalmaz. Átláthatósági törvényeket sürget, amelyek kötelezik az MI-cégeket, hogy tegyék közzé, miként irányítják modelljeik viselkedését.
Példaként Kalifornia SB-53-as törvényét említi, amely Transparency in Frontier Artificial Intelligence Act (TFAIA) néven ismert.
A törvény arra kötelezi az MI-cégeket, hogy a weboldalukon olyan keretrendszereket tegyenek közzé, amelyek leírják, miként építi be a vállalat a hazai és nemzetközi bevált gyakorlatokat és szabványokat az MI-modelljeibe, Gavin Newsom, Kalifornia állam kormányzója szerint.
Amodei ugyanakkor az MI jövőjével kapcsolatban is derűlátó.
„Úgy vélem, ha határozottan és körültekintően cselekszünk, a kockázatok leküzdhetők, sőt, azt mondanám, jók az esélyeink. És a túloldalon egy sokkal jobb világ vár. De értenünk kell, hogy ez komoly civilizációs kihívás”, mondta.