A mesterséges intelligencia már nemcsak elemzi a harctéri adatokat, hanem célpontokat rangsorol, drónokat vezet és felgyorsítja a támadási döntéseket. A nagyhatalmak egyetértenek abban, hogy szükség volna korlátokra, de egyikük sem akar technológiai hátrányba kerülni.
Egy magasan fejlett autonóm fegyverrendszer ma már menet közben is képes módosítani támadásának kijelölt célpontját. Ha érzékelői és mesterséges intelligenciája "meglát" egy magasabb prioritású, nagyobb katonai értékű vagy közvetlenebb veszélyt jelentő célpontot, akkor "átirányíthatja magát". Ez az a vörös vonal, aminek átlépése visszafordíthatatlanná teszi a veszélyes folyamatokat, mert a felelősség innentől megállapíthatatlan.
HIRDETÉS
HIRDETÉS
Itt merül fel a legnehezebb kérdés: elegendő-e, hogy az ember előzetesen megszabja a célpontok körét, vagy minden egyes támadáshoz külön emberi jóváhagyásra volna szükség? A mesterséges intelligencia katonai alkalmazásának ilyen veszélyeiről és szabályozásáról folyt a fő vita a pekingi Hsziangszan Fórumon, Kína legfontosabb nemzetközi biztonságpolitikai rendezvényén.
A több mint száz országból érkezett mintegy kétezer katonai vezető, diplomata és kutató közül többen arra figyelmeztettek, hogy az MI ellenőrizetlen fejlesztése nemcsak a hadviselést alakíthatja át, hanem a válságok kiszámíthatatlanságát is növelheti.
A thaiföldi és a pakisztáni delegáció képviselői nemzetközi szabályokat, biztonsági mechanizmusokat és az emberi ellenőrzés megőrzését sürgették. A felszólalások mögött egy egyszerű, de nehezen megválaszolható kérdés áll: meddig segítheti a gép a katonát, és hol kezdődik az a pont, amelytől már valójában az algoritmus dönt emberéletekről?
Különösen kérdéses, hogy fenntartható-e a teljes emberi ellenőrzés egy több ezer eszközből álló drónraj bevetésekor? Az ember még kijelölheti a műveleti területet, a célpontok típusát és a támadás korlátait, de az egyes drónok mozgását, célválasztását és fegyverhasználatát már aligha képes valós időben, egyenként felügyelni.
Elvileg elképzelhető egyfajta központi „Master Intelligencia” létrehozása, amely a teljes támadó tömeg működését egyidejűleg összehangolja, kiosztja a célpontokat, megakadályozza a felesleges kettős támadásokat, és minden egységnél érvényesíti az ember által meghatározott korlátokat.
Ez azonban nem jelentene teljes humán kontrollt minden egyes döntés felett. Az ember a küldetés célját és szabályait adná meg, míg azok másodpercről másodpercre történő végrehajtását már a gép intézné. A központi irányítás viszont veszélyes gyenge ponttá is válhatna, mert ha feltörik, megtévesztik vagy egyszerűen csak hibás következtetésre jut, akkor nem csak egyetlen drónt, hanem az egész támadó köteléket rossz irányba térítheti.
Nem csak robotkatonákról van szó, és nem is mindenhatókról
A katonai mesterséges intelligenciát gyakran az önállóan célpontot kereső és támadó „gyilkos robotokkal” azonosítják, alkalmazási területe azonban ennél sokkal szélesebb. MI-rendszerek elemzik a műholdak, radarok, felderítő repülőgépek és drónok hatalmas adattömegét, keresnek ellenséges alakulatokat, terveznek útvonalakat, irányítják a logisztikát, és segítenek kiválasztani a bevethető fegyvert.
Az MI legnagyobb katonai előnye nem az, hogy „okosabb” az embernél, hanem hogy sokkal gyorsabban képes feldolgozni az információt. Lerövidítheti az úgynevezett felderítési–támadási láncot, vagyis azt az létfontosságú időt, amely a célpont észlelésétől a parancs kiadásáig és a csapásig eltelik. Aki például előbb észleli, azonosítja és megsemmisíti az ellenséges tüzérségi üteget, akkor már nem kell elszenvednie annak következő sortüzét – talán ez a legélesebb katonai bizonyítéka a mondásnak, hogy aki időt nyer, életet nyer.
Ukrajna már használ MI-vel támogatott drónokat, képfelismerő rendszereket és harctéri adatfeldolgozó platformokat. Az Egyesült Államok Project Maven programja pedig évek óta gépi látással elemzi a légi és műholdas felvételeket. Hasonló képességeket fejleszt Kína, Oroszország, Izrael és több európai állam is. A technológia emellett lehetővé teszi, hogy a drónok navigációs vagy kommunikációs zavarás esetén is folytassák feladatukat.
A gép is téved – csak sokkal gyorsabban
A gyorsaság azonban önmagában is veszélyforrás. Egy tévesen azonosított radarkép, manipulált adat vagy hibás algoritmikus következtetés percek alatt támadási javaslattá válhat a túloldalról. Ha a parancsnok túlságosan megbízik a rendszerben, az emberi jóváhagyás könnyen puszta formasággá silányulhat.
Ezt nevezik automatizációs torzításnak, amikor az ember hajlamos elfogadni a számítógép ajánlását akkor is, ha saját tapasztalata vagy más információk óvatosságra intenék. Háborús körülmények között ráadásul az adatok rendszerint hiányosak, a célpontok mozognak, katonák és civilek keveredhetnek, az ellenfél pedig szándékosan igyekszik megtéveszteni a felderítést.
Az MI nemcsak meghibásodhat, de ő maga is támadható. Folyamatos veszély, hogy az ellenfél hamis rádiójelekkel, megtévesztő hőképekkel, különleges álcázással vagy manipulált digitális adatokkal félrevezetheti a rendszert. Megpróbálhat bejutni a szoftverellátási láncba, megmérgezheti a betanításhoz használt adatokat is. Alkalmazhat olyan apró módosításokat, amelyek miatt a gép egy civil járművet katonai célpontnak lát. Ezért állítják egyre hevesebben a katonai szakértők és vezetők, hogy az MI látszólagos előnyei legalább annyi veszélyt is hordoznak saját gazdája számára.
Hogyan lehet védekezni az előnyök adta hátrányokkal szemben?
A biztonságos katonai MI ezért nem egyetlen tiltókapcsolót jelent, hanem egymásra épülő védelmi rétegeket. A rendszereket valósághű és szándékosan megtévesztő helyzetekben is tesztelni kell, folyamatosan ellenőrizve az adatforrásokat, és a kritikus döntéseknél több független érzékelő és elemzési módszer megerősítésére lehet szükség.
Fontos követelmény az is, hogy utólag visszakereshető legyen, hogy milyen adatokból és milyen utasítások alapján született a döntés. Ha egy rendszer hibázik, nem maradhat válasz nélkül a felelős személye, a parancsnok, az üzemeltető, a programozó, a gyártó vagy az a politikai vezetés, amely engedélyezte a használatát.
Az autonóm fegyverek működését időben, földrajzilag és célponttípus szerint is korlátozni lehet. Egy légvédelmi rendszer például kijelölt körzetben, rövid ideig és pontosan meghatározott repülő objektumok ellen kaphat önálló működési jogot. Egészen más kockázatot jelentene egy olyan rendszer, amely városi környezetben, hosszabb időn keresztül maga választ ki emberi célpontokat. A civil veszteségek ebben a körben lehetnek a legnagyobbak.
A valóban érdemi emberi ellenőrzéshez az operátornak értenie kell a rendszer korlátait, elegendő idővel és információval kell rendelkeznie a döntés felülvizsgálatához, és tényleges lehetőséget kell kapnia a támadás leállítására, vagy a célpont korrigálására.
Mindenki szabályozná a rendszereket – de persze a saját feltételei szerint
Washington korábban politikai nyilatkozatot kezdeményezett a katonai MI felelős használatáról. Az amerikai elvek a megfelelő emberi döntési szintet, szigorú tesztelést, világos parancsnoki felelősséget és a nemzetközi humanitárius jog betartását követelik meg. A dokumentum azonban csak politikai vállalás, nem pedig ellenőrizhető és számon kérhető fegyverzetkorlátozási szerződés.
Kína nyilvánosan szintén az emberi ellenőrzés és a nemzetközi szabályok fontosságát hangsúlyozza. Peking ugyanakkor különbséget tesz a teljesen autonóm fegyverek alkalmazásának és fejlesztésének korlátozása között. Ez mozgásteret hagy számára a kutatás és a technológiai verseny folytatására.
Oroszország következetesen óvatos a kötelező nemzetközi tilalmakkal szemben, és elsősorban a már létező hadijog alkalmazását tartja elegendőnek. Számos közepes és kisebb állam, valamint a Nemzetközi Vöröskereszt ezzel szemben kétlépcsős rendszert támogatna, előbb betiltaná a kiszámíthatatlan vagy emberi ellenőrzés nélkül működő fegyvereket, majd a többi autonóm rendszert szigorú korlátok közé szorítaná.
A nagyhatalmak óvatossága mögött katonai racionalitás húzódik. Egyetlen állam sem akar lemondani egy technológiáról, ha attól tart, hogy riválisa közben zavartalanul fejleszti azt. A katonai MI szabályozása ezért ugyanabba a bizalmi csapdába került, mint korábban több fegyverzetkorlátozási kezdeményezés is, így például a kozmikus fegyverkezés, ahol mindenki tart a veszélyektől, de senki sem akar elsőként lemaradni.
A nukleáris küszöb a legvastagabb vörös vonal
A legsúlyosabb kérdés az MI bevetése a nukleáris parancsnoki, előrejelző és döntéstámogató rendszerekben. Washington és Peking korábban egyaránt jelezte, hogy a nukleáris fegyverek alkalmazásáról mindig humán döntésnek kell születnie. Amerikai és kínai biztonságpolitikai szakértők most ennél részletesebb biztosítékokat javasolnak: közös fogalommeghatározást az érdemi emberi ellenőrzésről, valamint az autonóm rendszerekkel kapcsolatos incidensekre szolgáló forródrótot, és az MI kizárását bizonyos nukleáris döntésekből.
A veszély ugyanis nem feltétlenül az, hogy egy számítógép önállóan elindít egy nukleáris rakétát. Elég lehet az is, ha hibásan támadást jelez, túlzottan magabiztos értékelést ad, vagy annyira lerövidíti a politikai vezetők rendelkezésére álló időt, hogy azok ellenőrizetlen információ alapján döntenek. Az MI tehát pontosabbá és gyorsabbá teheti a hadviselést, csökkentheti a saját katonák veszélyeztetését, és bizonyos helyzetekben a civil áldozatok számát is. Ugyanez a technológia azonban ipari méretűvé teheti a tévedést és elhomályosíthatja a felelősséget.
A pekingi tanácskozáson ezért nem is azon volt a valódi vita, hogy szükség van-e szabályokra, hanem hogy ki írja meg őket, és ki hajlandó akkor is betartani, amikor a harctéren tizedmásodpercek is számítanak.