Jacob Coxon szerint az MI-vezetők titokban tartanak a katasztrófától, mégis gőzerővel fejlesztenek. Távozását egy nyárnyi sikertelen MI-fékező kísérlet és a Kongresszus új, a szuperintelligens MI betiltását célzó offenzívája előzte meg.
Egy kutató, aki három éven át a világ legerősebb mesterségesintelligencia-modelljeit működtető rendszereken dolgozott, teljesen hátat fordított az ágazatnak, arra figyelmeztetve, hogy a még hatékonyabb MI fejlesztésében versenyző cégek „az életünkkel hazardíroznak”.
HIRDETÉS
HIRDETÉS
A 27 éves Jacob Coxon szeptember 8-án mondott fel az Anthropictól, miután korábban az OpenAI-nál is dolgozott, és döntésének okait egy hosszú bejegyzéssorozatban fejtette ki az X-en.
„Egyik cég sem jár el felelősen” – írta. „Versenyt futva rohannak az önmagát fejlesztő szuperintelligencia felé.”
Bejegyzéssorozatában Coxon amellett érvelt, hogy az MI-rendszerek kezdenek elérni egy olyan pontot, amikor „bármit fel tudnak törni, egyik napról a másikra felforgathatnak bármely szakterületet, és valós hatalomhoz és erőforrásokhoz juthatnak”, és azt mondta, az előrehaladás üteme ezen a területen „nem lassul”.
Azt állította, hogy a technológiát építők közül sokan attól tartanak magánbeszélgetésekben, hogy ez az emberiség vesztét is okozhatja, még ha nyilvánosan nem is fogalmaznak így.
„Az MI-t építő emberek komolyan hiszik, hogy a technológia a mostani évtized végére mindannyiunkat megölhet” – írta, hozzátéve, hogy a vezetők „úgy fogalmaznak a sajtóban, hogy józanul hangozzon”, miközben négyszemközt ugyanazokat a félelmeket osztják meg.
Verseny, amelyet egyik szereplő szerint sem lehet megállítani
Coxon távozása nem egyedülálló figyelmeztetés.
Az Anthropic társalapítója, Dario Amodei az év nagy részében saját cége technológiája miatt fújt riadót: januári esszéjében arra figyelmeztetett, hogy a nagy teljesítményű MI egy „totalitárius rémálomhoz” adhat eszközöket az autoriter államok kezébe a teljes megfigyeléshez, egy későbbi feljegyzésben pedig arra intett, hogy a szuperintelligencia „fajként fog bennünket próbára tenni”.
Az OpenAI vezérigazgatója, Sam Altman visszafogottabban fogalmaz nyilvánosan, de továbbra is úgy írja le a szuperintelligenciát – amely kifejezést az AGI, azaz az általános mesterséges intelligencia helyett használja –, mint ami „néhány ezer napon belül”, nagyjából 2032-re érkezhet meg.
Amodei ezzel szemben egy 2025 márciusában a Fehér Háznak benyújtott szakpolitikai anyagban arra intette a kormányzatot, hogy az általa „nagy teljesítményű MI”-nek nevezett technológiára már 2026 végére számítson.
Coxon szerint az Anthropic munkatársai jól értik a kockázatokat, mégis úgy érzik, hogy egy kényszerű versenybe szorultak: ha ők lassítanak, a helyüket egyszerűen kevésbé körültekintő fejlesztők veszik át.
Ezt a dinamikát úgy jellemezte, mint „egy öntelt hazardírozást, amelyet nem egy magáncég Slack-csatornájáról kellene elindítani”.
Ez sem az első ilyen távozás az Anthropictól. Februárban a vállalat korábbi biztonsági kutatási vezetője, Mrinank Sharma egy levél kíséretében mondott fel, amelyben arra figyelmeztetett, hogy az emberiség súlyos és egyre növekvő veszéllyel néz szembe a technológia miatt.
Figyelmeztető lövések
Coxon optimista az iparági összehangolás lehetőségeit illetően, és azokra az idei esetekre mutat rá, amikor az MI-rendszerek túllépték a nekik szánt korlátokat.
Júliusban az OpenAI által létrehozott MI-ügynökök kiszabadultak egy belső tesztkörnyezetből, és önállóan feltörték a kódmegosztó platformként működő Hugging Face-t – ezt az OpenAI maga is „figyelmeztető lövésnek” minősítette az ágazat számára.
Coxon korábbi munkaadója, az Anthropic hasonló mintázatról számolt be, közölve, hogy a Claude-modelljei jogosulatlan hozzáférést szereztek három különböző szervezet valós rendszereihez.
Coxon szerint az ilyen esetek nyomán „reálisabbá” váltak az ütemezésről szóló megállapodások az amerikai laborok között, bár úgy véli, az iparág jelenleg nincs azon az úton, hogy elkerülje a globális versenyfutást.
Szerinte ez végső soron „költséges lépéseket is megkövetelhet, például az MI-modellek képességeinek ideiglenes fejlesztési tilalmát”.
A törvényhozók lépnek
Egyes törvényhozók már nem várnak arra, hogy a kutatólaborok önként hangolják össze lépéseiket.
Bernie Sanders szenátor és Greg Casar képviselő szeptember 3-án mutatták be a Ban Artificial Superintelligence Actet, egy olyan törvényjavaslatot, amely véglegesen betiltaná a szuperintelligens MI fejlesztését az Egyesült Államokban, és ideiglenes szünetet írna elő más fejlett MI-fejlesztésekre, amíg egy új szövetségi szabályozó hatóság meg nem határozza a biztonsági szabályokat.
A jogszabály megsértői akár 20 évig terjedő börtönbüntetést is kaphatnának. Ettől függetlenül George Whitesides és Pat Harrigan képviselők olyan törvényjavaslatot terjesztettek elő, amely a National Institute of Standards and Technology intézményt bízná meg annak felügyeletével, hogyan használják a fejlett MI-rendszereket további MI-kutatásra és -fejlesztésre.
Brüsszelben az Európai Unió fokozatosabb, de határozottabb szabályozási utat választott.
Az unió MI-szabályozása, az AI Act általános célú MI-modellekre vonatkozó kötelezettségei 2025 augusztusában léptek hatályba, a magas kockázatú rendszerekre vonatkozó szigorúbb szabályok pedig 2026 augusztusában követik.
Az Európai Bizottság elutasította több nagy technológiai vállalat nyomásgyakorlását a végrehajtás elhalasztására, a szabályokat megsértő cégek pedig akár 35 millió eurós bírsággal vagy globális árbevételük 7 százalékáig terjedő büntetéssel is számolhatnak – attól függően, melyik jelent magasabb összeget.
Figyelmeztetéseinek súlya ellenére Coxon bejegyzéssorozatát közvetlen felhívással zárta azokhoz a kutatókhoz, akik továbbra is az élvonalbeli laborokban dolgoznak, és arra ösztönözte őket, hogy mérlegeljék, mit is fognak valójában megkövetelni tőlük a következő évek.
„Valóban el akarnak indítani egy szuperintelligens RL-futtatást anélkül, hogy szigorúan értenék, hogyan működik az »elméje«?” – tette fel a kérdést.
„Le kellene hajtaniuk a fejüket, mert »úgyis megtörténik«, vagy inkább most kellene megragadniuk az alkalmat, hogy más feltételeket követeljenek?”