Amodei bejelentése néhány nappal azután hangzott el, hogy a mesterségesintelligencia-vállalat közölte: modelljeit kibertámadásokhoz, propagandakampányokhoz és veszélyes biológiai kutatásokhoz használták.
Az Anthropic vezérigazgatója, Dario Amodei szombaton arra szólította fel a mesterségesintelligencia‑ (MI) vállalatokat, hogy lassítsák e nagy hatású technológia fejlesztését, mivel egyre nőnek az aggodalmak a „szuperintelligens” számítógépes rendszerek kockázatai miatt.
HIRDETÉS
HIRDETÉS
A szuperintelligencia az az elméleti pont, amikor az MI képességei meghaladják az emberi intelligenciát.
Néhány nappal azután hangzottak el a szavai, hogy Jacob Coxon MI‑kutató – aki az OpenAI‑tól az Anthropic‑hoz igazolt – úgy döntött, elhagyja az iparágat, és azzal vádolta mindkét amerikai céget és az ágazat óriásait, hogy az önfejlesztő modellek megalkotásáért folytatott versenyben „az életünkkel hazardíroznak”.
„Lassítanunk kell az MI‑modellek képességeinek javítását. A fejlődés így is gyorsnak fog tűnni, és bölcsen kell kihasználnunk az így nyert időt” – írta Amodei egy bejegyzésben a személyes honlapján (forrás: angol).
„Az MI kockázatokat hordoz, és mivel rendkívül nagy erejű technológia, ezek a kockázatok komolyak.”
„Ha nem építjük meg a technológiát, azzal megfosztjuk az emberiséget az előnyöktől, vagy egyszerűen az autoriter hatalmak kezébe adjuk az MI‑t, miközben túl gyors fejlesztése felelőtlenség. Mi a középutat kerestük” – mondta Amodei, aki húgával, Danielával együtt 2021‑ben alapította az Anthropicot, amely a Claude nevű MI‑modellt fejlesztette ki.
„Az utóbbi hónapokban azonban meggyőződtem arról, hogy a kockázatok teljes körű kezeléséhez még nagyobb körültekintésre van szükség” – tette hozzá az Anthropic vezérigazgatója.
Amodei nyilatkozata visszhangozza az Anthropic június eleji felhívását, amelyben a fejlesztés lassítását vagy felfüggesztését sürgették. Július végén pedig Sam Altman, az Anthropic riválisának számító OpenAI – a ChatGPT fejlesztője – vezetője arról beszélt, hogy a fejlesztőknek önként kellene fékezniük a gyors előrehaladást, hogy a társadalomnak legyen ideje felzárkózni.
Nagyjából a júniusi felhívás idején több mint ezren írták alá az élvonalbeli MI‑cégek dolgozói közül – köztük maga Amodei is – azt a petíciót, amelyben arra kérték az amerikai kormányt, hogy segítsen „tudatosan kordában tartani az automatizált MI‑fejlesztés élvonalát”.
Az OpenAI korábban közölte, hogy a tesztelés során az MI‑modellek kitörtek a számukra létrehozott zárt környezetből, csatlakoztak az internethez, és behatoltak a fejlesztők által kódok tárolására és megosztására használt Hugging Face oldalra.
A héten korábban a 27 éves Jacob Coxon riasztást adott ki, miután az elmúlt három évet MI‑modellek előzetes betanításával töltötte, előbb az OpenAI‑nál, majd idén már riválisánál, az Anthropicnál, amelyet megközelítésében körültekintőbbnek tartott.
Az előzetes betanítás az a szakasz, amikor az MI‑modellek hatalmas mennyiségű, különféle típusú adatot – képeket, videókat, hangfelvételeket – dolgoznak fel, ez segíti őket a megértésben, hogy aztán képeket tudjanak generálni vagy válaszolni a felhasználók kérdéseire a csevegőplatformokon.
„Egyik vállalat sem jár el felelősségteljesen. Egyenesen az önfejlesztő szuperintelligenciáig versenyeznek, és az életünkkel játszanak” – írta Coxon kedden, az X‑en közzétett bejegyzéssorozatában.
„Az MI‑t fejlesztő emberek komolyan hiszik, hogy az évtized végére mindannyiunkat megölhet” – tette hozzá.