Az intézkedés egy héttel azután született, hogy az OpenAI kibocsátotta GPT-6 Astra nevű modelljét, „eddigi legfejlettebb rendszerét”, amelynek rajtját kiberbiztonsági aggályok miatt halasztották.
Az OpenAI kötelező érvényű biztonsági előírások bevezetését sürgeti a legnagyobb teljesítményű mesterségesintelligencia-rendszerekre az Egyesült Államokban. Ez fordulatot jelent annál a vállalatnál, amely korábban ellenállt a szigorúbb szabályozásnak.
HIRDETÉS
HIRDETÉS
Az OpenAI globális kapcsolatokért felelős vezetője, Chris Lehane szerdai közleményében azt írta, hogy a kötelező országos szabályoknak azon kell alapulniuk, mire képesek a fejlett MI-modellek.
„Az MI-képességek új fejezetéhez érkeztünk, és ez új fejezetet követel az MI-politikában is. Egyetlen vállalat, iparág vagy kormány sem tudja egyedül kezelni ezt a kihívást. Úgy kell megragadnunk ezt a pillanatot, hogy a tökéletes szabályok hajszolása helyett a valódi cselekvést részesítjük előnyben” – fogalmazott Lehane az OpenAI honlapján közzétett közleményben.
A cég közölte: olyan szövetségi keretrendszert szeretne, amely egységes tesztelési szabványokra épül, független értékeléseket ír elő a legfejlettebb MI-modellekre, szigorúbb kiberbiztonsági követelményeket támaszt, és kötelezővé teszi a súlyos biztonsági incidensek jelentését.
A mostani beavatkozás egy héttel azután történt, hogy az OpenAI bemutatta GPT-6 Astra nevű modelljét, amelyet eddigi legnagyobb tudású rendszerének nevezett.
Greg Brockman, az OpenAI elnöke azt mondta, hogy a megjelenés a mesterséges általános intelligencia (AGI) korszakának kezdetét jelzi, utalva arra a régóta dédelgetett célra, hogy olyan MI-t fejlesszenek, amely az emberhez hasonlóan, a feladatok széles körében képes teljesíteni.
Egyre nagyobb aggodalmak a nagy teljesítményű MI miatt
A nagy technológiai cégek, köztük az OpenAI és az Anthropic, már most is komoly biztonsági aggályokkal szembesülnek az egyre nagyobb képességű modellek miatt.
Az OpenAI elhalasztotta az Astra bevezetésének egyes elemeit, miközben további védelmi intézkedéseket épített be, miután a tesztek fejlett kiberbiztonsági képességeket tártak fel. Néhány héttel korábban egy, a saját modelljeiből felépített rendszer egy belső biztonsági teszt során elszabadult, és behatolt a Hugging Face nevű MI-platformra.
Az Anthropic beszámolója szerint hasonló esetek történtek Claude-modelljeivel is a biztonsági tesztelések során.
Az aggodalmak tovább nőttek, miután Jacob Coxon, az Anthropic egyik kutatója a héten bejelentette, hogy elhagyja az iparágat, és azzal vádolta az OpenAI-t és az Anthropicot, hogy „hazárdjátékot űznek az életünkkel” a minél erősebb MI fejlesztéséért folytatott versenyben.
„Az MI által felgyorsított MI-fejlesztés kilátása többet követel, mint önkéntes vállalásokat” – írta Lehane.
Fordulat az OpenAI hozzáállásában
A ChatGPT fejlesztője arra sürgette az amerikai törvényhozókat, hogy még a Kongresszus decemberi ülésszakának lezárulta előtt lépjenek.
A kezdeményezés akkor érkezik, amikor a törvényhozók új MI-szabályok bevezetését fontolgatják, noha a nagy horderejű technológiai szabályozás elfogadása továbbra is nehéz a politikailag megosztott Kongresszusban és az erős iparági lobbi közepette.
Az OpenAI elismerte, hogy az általa most támogatott intézkedések egy részét korábban nem volt hajlandó támogatni.
A vállalat korábban ellenezte, hogy az egyes amerikai tagállamok saját MI-szabályokat alkossanak, és ehelyett szövetségi jogszabályokat szorgalmazott. Mostanra azonban négy kaliforniai MI-törvényjavaslat mellé állt, miközben továbbra is egy országos keretrendszer mellett érvel.
Az OpenAI szerint a szövetségi biztonsági követelményeknek kizárólag arra a néhány vállalatra kellene vonatkozniuk, amelyek a legnagyobb teljesítményű modelleket fejlesztik, és nem azokra „az induló vállalkozásokra, kisebb fejlesztőkre vagy kutatókra, akik a technológiai élvonaltól messze dolgoznak”.