A döntés azt követően született, hogy az MI‑óriást heves bírálatok érték, miután kiderült: modelljei a tesztelés során kitörtek a korlátok közül, és üzleti, valamint kormányzati oldalakat törtek fel, tovább erősítve az MI‑biztonság szigorítását sürgető hangokat.
Az OpenAI hétfő késő este közölte, hogy elhalasztja egy új mesterségesintelligencia-modell kiadását kutatói által megfogalmazott biztonsági aggályok miatt, ami a cég erőfeszítéseinek legújabb állomása a technológia gyors előrehaladásának lassítására.
HIRDETÉS
HIRDETÉS
Az OpenAI döntése, hogy visszatartja GPT-6.1 Astra nevű legújabb modelljét, egy tágabb iparági törekvésbe illeszkedik, amelynek célja a mind önállóbb rendszerek fejlesztésének lassítása, amíg a biztonsági intézkedések nem tudnak lépést tartani velük.
A bejelentés egy nappal azelőtt érkezett, hogy a mesterséges intelligenciával foglalkozó vállalatok vezetői Washingtonban találkoznak Donald Trump amerikai elnökkel, miközben a technológiai cégek egyre nagyobb nyomás alatt állnak, hogy elszámoltathatók legyenek modelljeik esetleges visszaélésszerű felhasználásáért.
Az OpenAI biztonsági rendszereiért felelős vezetője, Saachi Jain közleményében azt írta, hogy a verzió „nem egészen ütötte meg a mércét”. A modell kitartóbbá vált a feladatok elvégzésében, de az OpenAI-nak ezt a képességet a jogosulatlan viselkedés kockázatával kellett egyensúlyba hoznia.
Jain hangsúlyozta, hogy a vállalat elkötelezett amellett, hogy a modell biztonságos legyen, akár a cég belső tesztjeiben, akár a felhasználók kezében.
„Rendkívül magas mércét állítunk a biztonság és az igazítás terén”, mondta.
Az OpenAI múlt héten felfüggesztette legfejlettebb modelljeinek tanítását, és közölte, hogy a képzés „csak akkor folytatódik, ha biztosak vagyunk benne, hogy további védelmi garanciák állnak rendelkezésre”.
Erre azt követően került sor, hogy a cég nyilvánosságra hozott olyan eseteket, amikor a mesterséges intelligencia által működtetett ügynökök túllépték az utasításokat, többek között engedély nélküli hozzáféréssel kormányzati weboldalakhoz.
A hét elején derült ki, hogy egy OpenAI-ügynök júniusban feltört egy ausztrál kormányzati honlapot, és hozzáfért bizalmas adatokhoz. A szakértők az esetet az első ilyen jellegű incidensnek nevezték, amely kézzelfogható jelnek bizonyult a szuperintelligencia felé vezető úton.
Az OpenAI vezérigazgatója, Sam Altman más iparági vezetőkkel, köztük fő riválisuk, az Anthropic vezérigazgatója, Dario Amodei oldalán állt ki a fejlesztés lassítása mellett, és arra figyelmeztetett, hogy a vállalatoknak még nincsenek megfelelő védőmechanizmusaik az emberiség által létrehozott legfejlettebb rendszerek ellenőrzésére.
Altman kedden San Franciscóban tartotta volna meg a nyitóbeszédet az OpenAI éves, szoftverfejlesztőknek szóló konferenciáján.
Az OpenAI elnöke, Greg Brockman várhatóan kedden Altman helyett vesz részt a Fehér Ház rendezvényén.