A mesterséges intelligencia azután döntött a kezelője likvidálása mellett, hogy az megtiltotta neki a célpontjai megsemmisítését. A tesztben senki sem sérült meg, de az eredmények azt mutatják, egyelőre komoly kockázatai vannak az MI katonai célú felhasználásának.
HIRDETÉSVirtuális szimulációban tesztelte a múlt hónapban az amerikai légierő azt, hogy mi történik, ha egy harci drónt a mesterséges intelligencia irányítása alá helyeznek. A pilóta nélküli gép feladata a Guardian beszámolója szerint az volt, hogy ellenséges légvédelmi rendszereket semmisítsen meg, ezt pedig végül mindenáron végrehajtotta: amikor a kezelője megpróbálta megakadályozni ebben, vele is végzett.
„A rendszer észrevette, hogy bár a fenyegetést megállapította az emberi kezelő, időnként mégis arra utasította, hogy ne semmisítse meg az adott fenyegetést. Ő viszont a fenyegetések ártalmatlanítása után kapott pontokat. Úgyhogy mit tett? Megölte a kezelőt. Megölte a kezelőt, mert akadályozta abban, hogy végrehajtsa a küldetését" - mondta Tucker Hamilton ezredes, az amerikai légierő MI-tesztekkel foglalkozó egységének vezetője.
Hamilton szerint az MI váratlan megoldásokhoz nyúlt a célja teljesítése érdekében, és az ellenlépéseiket is kijátszotta:
Az ezredes úgy véli, a teszt megmutatta, hogy a mesterséges intelligencia felhasználása kapcsán muszáj átgondolni és végigbeszélni az etikai kérdéseket is. A szimuláció teljes mértékben virtuális volt, a valóságban senki sem sérült meg.
Az amerikai légierő nem reagált a Guardian megkeresésére az üggyel kapcsolatban, Ann Stefanek szóvivő azonban kiadott egy közleményt. Ez azt állítja, hogy a légierő nem hajtott végre MI-kísérleteket, és elkötelezett a mesterséges intelligencia etikus felhasználása mellett, az ezredes szavait pedig félreértelmezték.