A levélben a Google alkalmazottai arra figyelmeztetnek, hogy a Pentagon a technológiát „embertelen” módon használhatja, például tömeges megfigyelésre és halálos, önállóan működő fegyverekre.
Több mint 600 Google-alkalmazott szólította fel a vállalatot, hogy utasítson el egy lehetséges megállapodást a Pentagonnal, amely lehetővé tenné, hogy mesterséges intelligenciáját titkos katonai műveletekben használják – derül ki egy hétfőn kiadott közleményből.
HIRDETÉS
HIRDETÉS
„Szeretnénk, ha a mesterséges intelligencia az emberiség javát szolgálná, és nem embertelen vagy rendkívül ártalmas módokon használnák” – olvasható a Google vezérigazgatójának, Sundar Pichainak címzett nyílt levélben (forrás: angol). „Ez magában foglalja a halálos autonóm fegyvereket és a tömeges megfigyelést is, de nem merül ki ezekben.”
A levelet, amelyet a Google DeepMind, a Cloud és más részlegek munkatársai írtak alá, akkor tették közzé, amikor a technológiai óriás éppen az amerikai védelmi minisztériummal tárgyal arról, hogy Gemini MI-modelljét minősített környezetben is használhatná.
A dokumentumot nyíltan több mint húsz igazgató, vezető igazgató és alelnök is aláírta.
„A minősített feladatok definíció szerint átláthatatlanok” – mondta a közleményben név nélkül nyilatkozó egyik szervező munkavállaló.
„Jelenleg semmilyen garancia nincs arra, hogy eszközeinket ne használnák fel súlyos károk okozására, vagy hogy a közvélemény ellenőrzése nélkül ne áshatnák alá a polgári szabadságjogokat. Olyan dolgokról beszélünk, mint az egyének profilozása vagy ártatlan civilek célba vétele.”
A levél megjelenése egybeesik azzal, hogy a technológiai vállalatokra egyre nagyobb nyomás nehezedik: tegyék világossá, miként használhatják mesterségesintelligencia-eszközeiket a hadsereg és a titkosszolgálatok, miután vita alakult ki a Pentagon és az Anthropic nevű MI-startup között.
Az Anthropic korábban beperelte az amerikai védelmi minisztériumot, miután „ellátásilánc-kockázatnak” minősítették, azt követően, hogy kérte: rendszereit ne használják tömeges megfigyelésre vagy autonóm hadviselésre.
Az Anthropic vezérigazgatója, Dario Amodei közölte, hogy „nem tud jó lelkiismerettel eleget tenni a Pentagon kérésének”, amely korlátlan hozzáférést kért a cég MI-rendszereihez.
„Néhány, szűk körben meghatározott esetben úgy véljük, hogy a mesterséges intelligencia a demokratikus értékeket alááshatja, ahelyett hogy védené őket” – írta Amodei. „Bizonyos felhasználási módok egyszerűen kívül esnek azon, amit a mai technológia biztonságosan és megbízhatóan képes elvégezni.”
Amodei döntésére reagálva Donald Trump amerikai elnök utasította a kormányzati szerveket, hogy hagyják abba a vállalat Claude nevű csevegőrobotjának használatát.
A levél szervezői szerint a Google olyan szerződéses szöveget javasolt, amely megtiltaná, hogy a Geminit belföldi tömeges megfigyelésre vagy megfelelő emberi kontroll nélküli autonóm fegyverekben használják.
A Pentagon viszont szélesebb, „minden törvényes felhasználásra” kiterjedő megfogalmazást szorgalmaz, arra hivatkozva, hogy ez szükséges a műveleti rugalmasság fenntartásához. A dolgozók szerint az ilyen biztosítékokat a gyakorlatban nehéz lenne érvényt szerezni, hivatkozva a Pentagon jelenlegi irányelveire, amelyek korlátozzák a külső ellenőrzést saját MI-rendszerei felett.
A Google dolgozóinak mostani állásfoglalását sokan ahhoz a 2018-as tiltakozáshoz hasonlítják, amely végül oda vezetett, hogy a cég kiszállt a Project Mavenből – abból a Pentagon-projektből, amely a drónfelvételek elemzésére vetett be mesterséges intelligenciát.
„Úgy véljük, hogy a Google-nek nem szabadna a háború üzletágában részt vennie” – állt akkor a levélben.
„Ezért kérjük a Project Maven leállítását, valamint azt, hogy a Google dolgozzon ki, tegyen közzé és tartson be egy egyértelmű szabályzatot, amely kimondja: sem a Google, sem alvállalkozói nem fognak soha haditechnológiát fejleszteni.”