A kritikusok attól tartanak, hogy a kibertámadásoktól a biológiai fegyverekig terjedő kockázatokról szóló megállapításait esetleg úgy finomítják, hogy az a technológiai iparnak kedvezzen.
Az Egyesült Államokban működő, a fejlett mesterséges intelligencia biztonsági vizsgálatával foglalkozó kormányzati szervnek nincs állandó vezetője, és felhagyott kutatásainak nyilvánosságra hozásával, az Associated Press hírügynökség szerint.
HIRDETÉS
HIRDETÉS
Két volt kormánytisztviselő a hírügynökségnek elmondta, hogy a Kereskedelmi Minisztériumhoz tartozó Center for Advancing Innovation and Standards for Super Intelligence (CAISSI) munkatársait nemrég arra kérték, hogy informálisan egy Fehér Házi irodának jelentsenek.
A bírálók szerint ez a változás politikai befolyás alá vonhatja a központ munkáját. Arra figyelmeztetnek, hogy az eredményeket visszafoghatják vagy tompíthatják, hogy megfeleljenek a MI-vállalatok érdekeinek, amelyeknek nagyrészt maguknak kell ellenőrizniük saját tevékenységüket.
Caroline Siegel Singh, a Federation of American Scientists munkatársa szerint a cél az volt, hogy „pártoktól független vagy kétpárti technokrata szakértők” alakítsák a közpolitikát a közérdeknek megfelelően.
Mások viszont azzal érvelnek, hogy Donald Trump elnökhöz fűződő szorosabb kapcsolatok növelhetnék a központ láthatóságát, és több forrást hozhatnának. A CAISSI évente 10 millió dollárt (8,94 millió eurót) kap, ami nagyjából az Egyesült Királyságban működő megfelelő intézmény költségvetésének egy nyolcada.
Ezzel szemben az Európai Bizottságon belül működő EU AI Office, amelynek augusztus óta jogában áll bírságot kiszabni a legfejlettebb MI-modellek fejlesztőire, több mint 125 embert foglalkoztat, és a hírek szerint további 40 munkatársat toboroz.
Nincs vezető, nincs jelentés, nincs felügyelet
A CAISSI-nek nehézséget okoz, hogy vezetőt tartson meg. Collin Burns, az Anthropic volt kutatója, áprilisban mindössze négy nap után távozni kényszerült igazgatói posztjáról, állítólag a vállalathoz fűződő kapcsolatai miatt.
Utódja, Chris Fall három hónappal később lemondott.
Jelenleg Arvind Raman, a központot felügyelő National Institute of Standards and Technology vezetője tölti be az ügyvezető igazgatói posztot. A Kongresszus augusztusban azt kérdezte, miért hagyta fel a központ a biztonsági jelentések közzétételét.
Szeptemberben Trump arra szólította fel a MI-vállalatokat, hogy egy önkéntes megállapodás keretében vállaljanak „rendkívül szigorú önellenőrzést”, de kormánya nem közölte, miként fogja ellenőrizni, hogy betartják-e a vállalásaikat.
A Fehér Ház nem válaszolt a CAISSI-vel kapcsolatos kérdésekre. Ehelyett Trump új Super Intelligence Force nevű szervezetére hivatkozott, amelyet Jay Clayton nemzeti hírszerzési igazgató vezet.
Amos Toh, a Brennan Center for Justice munkatársa az AP-nek azt mondta, hogy ha a MI-biztonságot nemzetbiztonsági kérdésként kezelik, azzal kockáztatják a fogyasztóvédelem, az adatvédelem és a polgári jogok háttérbe szorítását.
„Ezeknek a döntéseknek óriási társadalmi következményeik vannak, és a nyilvánosság előtt kellene megmagyarázni és indokolni őket” – mondta Toh. „Ez pedig nem történik meg.”