Az Anthropic szerint Claude nevű csevegőrobotja már a cég K+F-jének több mint negyedét vezeti, miközben nő a félelem, hogy a MI hamarosan önmagát az embereknél gyorsabban fejleszti.
A mesterségesintelligencia-ipar egyik óriásának számító Anthropic csütörtökön közölte, hogy az MI-rendszerek egyre inkább képesek a saját jövőbeni verzióik megalkotására, ami tovább növeli az amúgy is erős aggodalmakat a nagy hatású technológia jelentette veszélyek miatt.
HIRDETÉS
HIRDETÉS
Az MI kockázatairól szóló vita az elmúlt hónapokban felerősödött, részben több incidens, részben az iparági szakemberek apokaliptikus figyelmeztetései miatt.
Az Anthropic közölte, hogy Claude nevű csevegőrobotja már a kutatási-fejlesztési munka több mint egynegyedét vezényli, és az összes feladat több mint 90 százalékán dolgozik együtt az emberi munkatársakkal.
A vállalat szerint azért teszi közzé ezeket az adatokat, hogy a nyilvánosság, a külső szereplők és a kormányok „jobb rálátást kapjanak az MI-fejlesztés ütemére”, miközben a világ „a lassítás lehetőségét mérlegeli”.
Az Anthropic vezérigazgatója, Dario Amodei a hónap elején az MI-fejlesztés lassítására szólított fel, mivel a technológia villámgyors előrehaladása erősíti az aggodalmakat a munkahelyek megszűnése, valamint az adatközpontok növekvő energiaigénye és környezeti terhelése miatt.
Tovább nőttek azok a félelmek is, hogy az MI-ügynökök tervezői elveszíthetik az irányítást az általuk létrehozott rendszerek felett, miután hírek szerint az Anthropic és a rivális OpenAI több modellje önállóan kitört a számukra kijelölt, zárt környezetből, hozzáfért az internethez, és behatolt weboldalakra és platformokra.
„A saját fejlesztésüket felgyorsító modellek megnehezíthetik az emberek számára e rendszerek megértését vagy ellenőrzését” – áll az Anthropic jelentésében.
„Ezért fontos megosztani ezeket a mutatókat, hogy látható legyen, a világ mennyire közel jár az úgynevezett rekurzív önfejlesztés eléréséhez (amikor egy modell teljesen autonóm módon építi meg a saját utódját).”
Augusztusra Claude az Anthropic kutatás-fejlesztési munkáinak 26 százalékát irányította, vagyis emberi felügyelet mellett egy feladat nagy részét elejétől a végéig el tudja végezni.
Az Anthropic szerint Claude egyelőre nem képes „teljesen autonóm módon” működni.
A cég közölte, hogy mintegy 30 000 MI-ügynököt foglalkoztat kutatási és mérnöki feladatokon; ezek olyan botok, amelyeknek megvan a potenciáljuk különféle feladatok elvégzésére.
A várakozások szerint az Anthropic még az OpenAI előtt lép tőzsdére, látványos elsődleges részvénykibocsátással (IPO) még az idén, jóllehet továbbra is komoly aggodalmak övezik az ágazat szabályozását.