Amodei bejelentése néhány nappal azután hangzott el, hogy a mesterségesintelligencia-vállalat felfedte: modelljeit kibertámadásokhoz, propagandakampányokhoz és veszélyes biológiai kutatásokhoz használják.
Az Anthropic vezérigazgatója, Dario Amodei szombaton arra szólította fel a mesterségesintelligencia-ipar szereplőit, hogy lassítsák a nagy teljesítményű technológia fejlesztését, mivel egyre nagyobb aggodalmak merülnek fel a „szuperintelligens” számítógépes rendszerek jelentette kockázatok miatt.
HIRDETÉS
HIRDETÉS
A szuperintelligencia arra az elméleti pontra utal, amikor a mesterséges intelligencia képességei meghaladják az emberi intelligenciát.
Megjegyzései néhány nappal azután hangzottak el, hogy Jacob Coxon MI-kutató, aki az OpenAI-tól az Anthropichoz igazolt, úgy döntött, elhagyja az iparágat, és azzal vádolta az amerikai vállalatokat és az iparág óriásait, hogy „az életünkkel játszanak” az önfejlesztésre képes modellek kifejlesztéséért folyó versenyben.
„Lassítanunk kell a tempót, amellyel javítjuk az MI-modellek képességeit. A fejlődés így is gyorsnak fog tűnni, és bölcsen kell felhasználnunk az így nyert időt” – írta Amodei egy bejegyzésben személyes honlapján (forrás: angol).
„Az MI kockázatokat hordoz, és mivel rendkívül erős technológiáról van szó, ezek a kockázatok komolyak.”
„Ha nem építjük ki a technológiát, azzal megfosztjuk az emberiséget az előnyeitől, vagy egyszerűen csak az autoriter hatalmak kezébe adjuk az MI-t, túl gyors fejlesztése viszont felelőtlenség. Mi a köztes utat kerestük” – mondta Amodei, az Anthropic társalapítója, aki húgával, Danielával 2021-ben hozta létre a Claude nevű MI-modellt fejlesztő céget.
„Az elmúlt néhány hónapban azonban meggyőződtem arról, hogy a kockázatok teljes kezelése még nagyobb körültekintést igényel” – tette hozzá az Anthropic vezérigazgatója.
Amodei kijelentése visszhangozza az Anthropic egy korábbi, június eleji felhívását, amelyben a fejlesztés lassítására vagy felfüggesztésére szólítottak. Július végén pedig Sam Altman, az Anthropic riválisának számító, a ChatGPT-t fejlesztő OpenAI vezetője arról beszélt, hogy a fejlesztőknek önként kellene fékezniük a rohamtempójú előrehaladást, hogy a társadalomnak legyen esélye alkalmazkodni.
Nagyjából a júniusi nyilatkozattal egy időben több mint ezernél is több, a mesterséges intelligencia élvonalában dolgozó cég munkatársa – köztük maga Amodei is – írt alá egy petíciót, amelyben arra kérték az amerikai kormányt, hogy segítsen „tudatosan szabályozni az automatizált MI-fejlesztés élvonalának tempóját”.
Az OpenAI korábban közölte, hogy a tesztelés során az MI-modellek kitörtek a számukra kijelölt, zárt környezetből, csatlakoztak az internethez, és behatoltak a Hugging Face-be, egy olyan weboldalra, amelyet a fejlesztők kódok tárolására és megosztására használnak.
A héten korábban a 27 éves Jacob Coxon kongatta meg a vészharangot, miután az elmúlt három évben MI-modellek előképzésén dolgozott: előbb az OpenAI-nál, majd idén annak riválisánál, az Anthropicnál, amelyet megközelítésében visszafogottabbnak tartott.
Az előképzés az a szakasz, amikor az MI-modellek hatalmas mennyiségű, sokféle típusú adatot „szívnak fel” – a képektől a videókon át a hangfelvételekig –, amelyek segítik őket a világ megértésében, hogy később képeket tudjanak generálni, vagy válaszolni tudjanak a felhasználói kérdésekre a csevegőplatformokon.
„Egyik cég sem viselkedik felelősen. Egyenesen az önmagát fejlesztő szuperintelligencia felé rohannak, és az életünkkel játszanak” – írta Coxon kedden, az X-en közzétett bejegyzéssorozatában.
„Azok, akik az MI-t építik, komolyan hiszik, hogy az évtized végére akár mindannyiunkat megölhet” – tette hozzá.