Az intézkedés egy héttel azután történt, hogy az OpenAI közzétette GPT-6 Astra nevű, „eddigi legfejlettebb modelljét”, miután bevezetését kiberbiztonsági aggályok miatt elhalasztották.
Az OpenAI kötelező érvényű biztonsági követelményeket sürget az Egyesült Államokban a legnagyobb teljesítményű mesterségesintelligencia-rendszerekre, ami fordulatot jelent egy olyan vállalatnál, amely korábban ellenezte a szigorúbb szabályozást.
HIRDETÉS
HIRDETÉS
Chris Lehane, az OpenAI globális kapcsolatokért felelős vezetője szerdai közleményében azt írta, hogy a kötelező, országos szabályoknak a fejlett MI-modellek tényleges képességeire kellene épülniük.
„Eljutottunk az MI-képességek új fejezetéhez, és ez megköveteli az MI-politika új fejezetét is. Egyetlen vállalat, iparág vagy kormány sem tud egymaga megbirkózni ezzel a kihívással. Úgy kell megragadnunk ezt a pillanatot, hogy az érdemi cselekvést részesítjük előnyben a tökéletes szabályozással szemben” – fogalmazott Lehane az OpenAI honlapján közzétett nyilatkozatában.
A cég közölte, hogy olyan szövetségi keretrendszert szeretne, amely közös tesztelési szabványokra, a legfejlettebb MI-modellek független értékelésére, szigorúbb kiberbiztonsági követelményekre és a súlyos biztonsági incidensek kötelező bejelentésére épül.
A mostani beavatkozás egy héttel azután érkezett, hogy az OpenAI bemutatta a GPT-6 Astra modellt, amelyet eddigi legfejlettebb modelljeként jellemzett.
Greg Brockman, az OpenAI elnöke azt mondta, hogy a megjelenés a mesterséges általános intelligencia (AGI) korszakának kezdetét jelenti, utalva arra a régóta dédelgetett célra, hogy olyan MI-t fejlesszenek, amely az emberéhez mérhető képességekkel rendelkezik a feladatok széles körében.
Egyre nagyobb aggodalmak a nagy teljesítményű MI miatt
A legnagyobb MI-vállalatok, köztük az OpenAI és az Anthropic, már most is biztonsági aggályokkal szembesülnek egyre nagyobb tudású modelljeik kapcsán.
Az OpenAI elhalasztotta az Astra bevezetésének egyes elemeit, és közben további védelmi intézkedéseket vezetett be, miután a tesztek fejlett kiberbiztonsági képességeket tártak fel – néhány héttel azután, hogy egy, saját modelljeire épülő rendszer elszabadult egy belső biztonsági próba során, és betört a Hugging Face nevű MI-platformra.
Az Anthropic hasonló esetekről számolt be Claude-modelljei biztonsági tesztelése során.
Az aggodalmak tovább fokozódtak, miután Jacob Coxon, az Anthropic egyik kutatója a héten bejelentette, hogy elhagyja az iparágat, és azzal vádolta az OpenAI-t és az Anthropicot, hogy „az életünkkel hazardíroznak” a még erősebb MI kifejlesztéséért folyó versenyben.
„Az MI által felgyorsított MI-fejlesztés lehetősége többet kíván, mint önkéntes vállalásokat” – írta Lehane.
Váltás az OpenAI megközelítésében
A ChatGPT fejlesztője arra sürgette az amerikai törvényhozókat, hogy még a Kongresszus decemberi szünetelése előtt lépjenek.
A kezdeményezés akkor érkezik, amikor a törvényhozók új MI-szabályok bevezetését fontolgatják, jóllehet a jelentős technológiai szabályozások elfogadása továbbra is nehéz a politikailag megosztott Kongresszusban és az erős iparági lobbi közepette.
Az OpenAI elismerte, hogy az általa most támogatott intézkedések egy részét korábban nem volt hajlandó támogatni.
A vállalat korábban ellenezte azt is, hogy az egyes amerikai tagállamok saját MI-szabályokat vezessenek be, és ehelyett szövetségi jogalkotást szorgalmazott. Mostanra azonban négy kaliforniai MI-törvényjavaslat mellé is odaállt, miközben továbbra is egy országos keretrendszert sürget.
Az OpenAI szerint a szövetségi biztonsági követelményeknek kizárólag arra a néhány vállalatra kellene vonatkozniuk, amely a legerősebb modelleket fejleszti, nem pedig „az induló vállalkozásokra, a kis fejlesztőkre vagy azokra a kutatókra, akik messze járnak az élvonaltól”.