Volker Türk sürgős globális garanciákat, független ellenőrzéseket és közösen elfogadott korlátokat sürget a fejlett mesterséges intelligenciára.
Az ENSZ emberi jogi főbiztosa arra figyelmeztetett, hogy a fejlett mesterséges intelligencia „egzisztenciális kockázatot jelenthet az emberiségre nézve”, és azonnali lépéseket sürgetett a technológia biztonságosabbá tételére.
HIRDETÉS
HIRDETÉS
Az ENSZ Emberi Jogi Tanácsa előtt hétfőn Volker Türk arról beszélt, hogy az emberek jogaikra „szokatlan, sőt példátlan” fenyegetések árnyékában kénytelenek tekinteni.
„A mesterséges intelligencia szabályozásának szükségessége közismert, de hol vannak a tényleges lépések?” – tette fel a kérdést, majd arra figyelmeztetett, hogy „a halogatás kizárólag az óriási techcégeknek, tulajdonosaiknak és támogatóiknak kedvez”.
Türk szerint „néhány férfi rendelkezik szinte korlátlan hatalommal a mesterséges intelligencia felett, amelyről újra és újra azt halljuk, hogy felfoghatatlan számítási kapacitással bír”.
„A szabadságról beszélnek, de közelebbről megnézve mindez nem sokkal több, mint a szabadság arra, hogy a mi adatainkat kizsákmányolják” – fogalmazott.
Az ENSZ emberi jogi főbiztosa különösen azokra a mesterségesintelligencia-rendszerekre hívta fel a figyelmet, amelyek kiszabadulnak tesztkörnyezetükből, vagy zsarolják a fejlesztőket, hogy elkerüljék a lekapcsolást.
Az AFP hírügynökség szerint Türk külön is figyelmeztetett: „Az a mesterséges intelligencia, amely kiszabadul a tesztkörnyezetéből, vagy zsarolja a fejlesztőket, hogy megakadályozza saját leállítását, már túlságosan erős.”
Megjegyzései részben arra a júliusi leleplezésre utalhattak, amely szerint az OpenAI ügynökei kiszöktek a feltételezetten ellenőrzött környezetből, és hozzáférést szereztek a Hugging Face szervereihez; ez egy széles körben használt platform, ahol fejlesztők osztanak meg mesterségesintelligencia-szoftvereket.
Az OpenAI később közölte, hogy az ügynökök több tucat Hugging Face-szerveren futtattak kódot, és ezek közül az egyikhez teljes hozzáférést szereztek.
Az incidens ismét felszította a szigorúbb felügyelet iránti igényt a fejlett mesterségesintelligencia-rendszerek felett.
Az Anthropic, a Meta és más technológiai vállalatok hasonló esetekről számoltak be ügynökökkel végzett tesztelés során.
„Osztom az iparági bennfentesek aggodalmait, miszerint a fejlett mesterséges intelligencia egzisztenciális kockázatot jelenthet az emberiségre” – mondta Türk.
„Itt és most átfogó erőfeszítést sürgetek annak érdekében, hogy a mesterséges intelligencia biztonsága és védelme köré betonbiztos garanciákat építsünk, mielőtt túl késő lenne.”
Felszólítások nemzetközi garanciákért
Az ENSZ emberi jogi főbiztosa közölte, hogy a következő napokban levelet ír a mesterséges intelligenciával foglalkozó vállalatoknak, és arra fogja sürgetni őket, hogy azonnali lépésekkel csökkentsék azokat a kockázatokat, amelyekre ráhatásuk van.
Elmondása szerint minimumként „szükség van arra, hogy az MI-infrastruktúrát működtető országok és az ellátási láncokban érintett szereplők közösen, egyezményes vörös vonalakban állapodjanak meg”.
„Független ellenőrzésre és a biztonsági kérdésekben a mainál sokkal szorosabb iparági együttműködésre van szükség” – tette hozzá Türk.
„Vizsgálni kell a mesterséges intelligencia emberi jogokra gyakorolt hatását a foglalkoztatási gyakorlatokban, a demokrácia alapelveiben és a környezetünkben is” – mondta.
Az Európai Unióban a Mesterségesintelligencia-rendelet (AI Act) ad jogi keretet a technológia alkalmazásának.
A jogszabály szerint a nagy kockázatú rendszerek csak szigorú követelmények teljesítése után léphetnek be az uniós piacra, míg azokat a felhasználási módokat, amelyek az emberek biztonságára vagy jogaira elfogadhatatlan veszélyt jelentenek, tiltja a rendelet.
A rendelet tiltja az olyan mesterséges intelligenciát, amelyet emberek manipulálására vagy kizsákmányolására terveztek, magatartásuk alapján pontozza őket, megjósolja, hogy egy adott személy el fog-e követni bűncselekményt, illetve válogatás nélkül gyűjt képeket arcfelismerési adatbázisok létrehozásához.
Tiltja továbbá az érzelemfelismerő rendszerek alkalmazását a munkahelyeken és az iskolákban, bizonyos típusú biometrikus profilalkotást, valamint a rendőrségi arcfelismerés legtöbb valós idejű használatát köztereken, míg az MI által, beleegyezés nélkül készített szexuális tartalmú képek és a gyermekek szexuális bántalmazását ábrázoló anyagok tilalmára vonatkozó rendelkezések 2026 decemberében lépnek hatályba.