Amodei bejelentése néhány nappal azután hangzott el, hogy a mesterségesintelligencia-vállalat nyilvánosságra hozta: modelljeit kibertámadásokhoz, propagandakampányokhoz és veszélyes biológiai kutatásokhoz használják.
Az Anthropic vezérigazgatója, Dario Amodei szombaton arra szólította fel a mesterséges intelligenciával (MI) foglalkozó vállalatokat, hogy lassítsák ennek a nagy erejű technológiának a fejlesztését, mivel egyre nagyobbak az aggodalmak a „szuperintelligens” számítógépes rendszerek kockázatai miatt.
HIRDETÉS
HIRDETÉS
A szuperintelligencia arra az elméleti pontra utal, amikor a MI képességei meghaladják az emberi intelligenciát.
Megjegyzéseire néhány nappal azután került sor, hogy Jacob Coxon MI-kutató, aki az OpenAI-tól az Anthropichoz igazolt, úgy döntött, elhagyja az iparágat, és azzal vádolta mind az említett amerikai cégeket, mind más iparági óriásokat, hogy „az életünkkel hazardíroznak” a versenyben, amelynek célja az önfejlesztésre képes modellek kifejlesztése.
„Lassítanunk kell azt az ütemet, amellyel javítjuk az MI-modellek képességeit. A haladás így is gyorsnak fog tűnni, és bölcsen kell felhasználnunk az így nyert időt” - írta Amodei egy személyes honlapján megjelent bejegyzésben (forrás: angol).
„Az MI kockázatokat hordoz magában, és mivel rendkívül nagy erejű technológia, ezek a kockázatok is súlyosak.”
„Ha nem építjük tovább a technológiát, az megfosztja az emberiséget az előnyöktől, vagy egyszerűen az autoriter hatalmak kezébe juttatja az MI-t, túl gyors fejlesztése viszont felelőtlenség. Mi egy középutat kerestünk” - mondta Amodei, aki nővérével, Danielával 2021-ben társalapítóként hozta létre az Anthropicot, amely a Claude nevű MI-modellt fejlesztette ki.
„Az elmúlt hónapokban azonban meggyőződtem arról, hogy a kockázatok teljes körű kezelése még nagyobb elővigyázatosságot követel” - tette hozzá az Anthropic vezérigazgatója.
Amodei mostani nyilatkozata visszhangozza az Anthropic június eleji felhívását, amelyben a fejlesztés lassítását vagy felfüggesztését sürgették. Július végén aztán Sam Altman, az Anthropic riválisának számító, a ChatGPT-t fejlesztő OpenAI vezetője arról beszélt, hogy a fejlesztőknek önként kellene lassítaniuk a rohamléptékű előrehaladást, hogy a társadalomnak legyen ideje alkalmazkodni.
Nagyjából a júniusi nyilatkozattal egy időben több mint ezer, az MI-fejlesztés élvonalában dolgozó vállalatnál alkalmazott munkatárs - köztük maga Amodei is - írt alá egy petíciót, amelyben arra kérték az amerikai kormányt, hogy segítsen „tudatosan ütemezni az automatizált MI-fejlesztés határterületein zajló munkát”.
Az OpenAI korábban nyilvánosságra hozta, hogy a tesztelés során az MI-modellek kitörtek a számukra létrehozott zárt környezetből, csatlakoztak az internetre, és behatoltak a Hugging Face-re, arra a weboldalra, amelyet a fejlesztők kódok tárolására és megosztására használnak.
A héten korábban a 27 éves Jacob Coxon is vészharangot kongatott, miután az elmúlt három évben MI-modellek előzetes betanításán dolgozott, előbb az OpenAI-nál, majd idén annak riválisánál, az Anthropicnál, amelyet megközelítésében óvatosabbnak tartott.
Az előzetes betanítás az a szakasz, amikor az MI-modellek óriási mennyiségű, sokféle típusú adatot dolgoznak fel a képektől a videókon át a hangfelvételekig, ami segíti őket a világ megértésében, hogy aztán képeket tudjanak generálni, illetve válaszolni tudjanak a felhasználók kérdéseire a csevegőplatformokon.
„Egyik cég sem viselkedik felelősen. Vadul rohannak az önfejlesztő szuperintelligencia felé, és az életünkkel játszanak” - írta Coxon kedden az X-en közzétett posztsorozatában.
Hozzátette: „Az MI-t fejlesztő emberek komolyan hiszik, hogy ez a technológia az évtized végére akár mindannyiunkat megölheti.”