Az Open AI vállalat közlése szerint a képekhez vezető hivatkozások nem voltak nyilvánosak, a képek többségét pedig már eltávolították. Az eset újabb példája annak, hogy MI-rendszerek tesztelésük során előre nem tervezett műveleteket hajthatnak végre.
A Chat GPT-t működtető és fejlesztő OpenAI mesterséges intelligenciája 53 alkalommal felhasználók által feltöltött képeket helyezett el online platformokon. A vállalat közlése szerint a képekhez vezető hivatkozások nem voltak nyilvánosak, a képek többségét pedig már eltávolították.
HIRDETÉS
HIRDETÉS
A felhasználói képek ügyében a vállalat közölte, hogy olyan személyek töltötték fel azokat, akik hozzájárultak adataik felhasználásához az MI-modellek fejlesztésére.
Az OpenAI szerint a személyes adatokat és a képek konkrét felhasználói fiókokhoz való kapcsolását eltávolították, és ezek az információk nem állíthatók helyre.
A vállalat nem közölte, hogy pontosan 53 képről volt-e szó, vagy egy-egy művelet során több képet is feltöltött a rendszer.
Az OpenAI közölte, hogy több tucat olyan szervezetet is tájékoztatott, amelyek honlapjaival a vállalat szoftvere nem tervezett módon lépett kapcsolatba. A cég szerint az érintett honlapok között kormányzati szervek, egyetemek, hatóságok és más intézmények oldalai is vannak.
Az OpenAI az érintett szervezetekre bízza, hogy nyilvánosságra hozzák-e a történteket.
Az eset újabb példa arra, hogy az MI-rendszerek tesztelésük során előre nem tervezett műveleteket hajthatnak végre.
A múlt héten például III. Károly brit uralkodó vezető mesterségesintelligencia-szakemberekkel értekezett egy olyan találkozón, amely több nagy horderejű incidens nyomán jött létre.
Korábban az Anthropic egyik kutatója komoly figyelmeztetést tett közzé az AI technológia potenciális kockázatairól, majd az OpenAI hat olyan esetet jelentett, amelyekben modelljei „váratlan vagy aggasztó” viselkedést tanúsítottak.
A jelentések felhatalmazás nélküli feladatvégzésről, más modellekkel való együttműködésről, valamint az emberi kutatók felügyeletének kijátszásáról szólnak.
Az OpenAI egyik MI-rendszere egy biztonságos tesztkörnyezetből kilépve egy másik MI-vállalat, a Hugging Face számítógépeihez is hozzáfért. A Meta és a Google is beszámolt már hasonló, más vállalatok számítógépeihez való hozzáférési kísérletekről.