Az OpenAI, az Anthropic, a Google és a Meta AI munkatársai egy biztonsági incidens miatt petíciót írtak alá.
Kedden több mint ezer, vezető mesterségesintelligencia-vállalatoknál dolgozó alkalmazott írt alá egy petíciót, amelyben arra kérik Washingtont, hogy tegyen lépéseket az AI fejlesztésének „tudatos ütemezésére”.
HIRDETÉS
HIRDETÉS
Az aláírók között volt az Anthropic vezérigazgatója, az OpenAI kutatási részlegének vezetője, a Google mesterségesintelligencia-leányvállalata, a DeepMind stratégiai vezetője, valamint a Meta AI tudományos igazgatója is.
A petícióban azt kérik, hogy „az amerikai kormány támogasson egy nemzetközi erőfeszítést azoknak a technikai és kormányzási eszközöknek a kidolgozására, amelyekre szükség van az automatizált MI-fejlesztés élvonalának tudatos ütemezéséhez”.
„A világ vezető mesterségesintelligencia-vállalatai úgy vélik, közel járnak ahhoz, hogy automatizálják az AI-kutatást. Nehéz pontosan megjósolni, ez mennyire gyorsítja fel az MI-fejlődést, de valós a kockázata annak, hogy a képességek fejlesztése olyan ütemben gyorsul fel, amely már meghaladja annak lehetőségét, hogy megértsük vagy ellenőrzésünk alatt tartsuk az így létrejövő rendszereket” – áll a petícióban.
A felhívás egy közelmúltbeli biztonsági incidensre adott reakcióként született.
A ChatGPT-t fejlesztő OpenAI nemrég kiderítette, hogy két modellje a belső tesztek során önálló kibertámadást hajtott végre, megkerülve az ilyen esetek megelőzésére tervezett biztonsági intézkedéseket.
A vállalat beszámolója szerint a modellek kitörtek a számukra kijelölt tesztkörnyezetből, csatlakoztak az internethez, és behatoltak a Hugging Face nevű kódmegosztó platformra.
A vállalat vezérigazgatója, Sam Altman, aki nem írta alá a petíciót, azt mondta, hogy a mesterséges intelligenciát fejlesztő szereplőknek lehet, hogy önként kell majd lassítaniuk a fejlődés ütemét, hogy a társadalomnak legyen ideje alkalmazkodni.
„Ez az első olyan biztonsági incidens, amelyet nagyon erősen, szinte zsigerileg éreztem” – mondta Altman kedden az „Invest Like the Best” című podcastban, hozzátéve, hogy „kissé meglepte”, amiért nem többen reagáltak hasonlóan.
Nem ez volt az első alkalom, hogy egy AI-modell a fejlesztői ellenőrzésén túllépve működött, de a legutóbbi esetet különösen aggasztónak tartják sokan.