Egy tanár kicsinyes bosszúból hamis felvételt generált igazgatója hangjával, mert kirúgással fenyegették. A fájlt milliók osztották meg, és emberek életét keseríti meg a mai napig. Hátborzongató belegondolni, milyen következményekkel jár, ha államilag vezérelt kiberbűnözők élnek vissza az MI-vel.
HIRDETÉS
„Azonnal meneszteni kell az iskolából” – követelte az igazgató távozását Davina McCain. A fia a Pikesville Gimnáziumba járt, amely Eric Eiswert irányítása alatt állt.
„Hallgatni is szörnyű, hogy ilyeneket mond a gyerekekről” – háborgott a szülő.
A dühét egy hangfelvétel váltotta ki, amelyen az iskolaigazgatóként bemutatkozó személy az afroamerikai diákok teszteredményeit becsmérelte. A folytatásban a tanintézmény szintén afroamerikai alkalmazottaira tett igencsak sértő megjegyzéseket, majd a helyi zsidó közösség tagjait gyalázta.
A hangfelvétel az év elején felkerült a közösségi médiára, ahol viharos sebességgel terjedt, és órák alatt kétmilliós kattintást ért el csak az egyik platformon. Csaknem hatvanszor annyian hallgatták meg, mint ahányan Pikesville-ben élnek.
A helység tulajdonképpen a marylandi Baltimore külvárosa. A lakosság egyötöde fekete, egyötöde zsidó, akiknek askenázi ősei az orosz birodalomból vándoroltak ki a 19. század végén és a 20. elején az Egyesült Államokba.
A feketéket és zsidókat különösen érzékenyen érintette az igazgató nyers pocskondiázása.
A botrány azonban nem állt meg Pikesville határainál. A rasszista és antiszemita megállapítások országos botrányt dagasztottak.
Eiswert otthona előtt tévés stábok táboroztak le, a kopogtatásra, csengetésre azonban senki sem nyitott ajtót. „Nyilván arra kíváncsi, kinek az oldalán állnak” – mondta belülről valaki nagysokára, aztán hozzátette: „Úgysem fogja senki elhinni a történetét, úgyhogy nem igazán számít”.
A szülők szerint az ilyen alpári megjegyzéseket tevő igazgatónak le kellene mondania.
A Baltimore megyei iskolák testülete, a BCPS haladéktalanul levelet küldött a pikesville-i középiskolában tanuló diákok szüleinek, egy másikat pedig a tantestületnek.
A megjegyzések „mélységesen felkavaróak, és nem tükrözik az iskolarendszer értékeit” – írta a tanfelügyelő, és hozzáfűzte: „nem tudja megerősíteni a felvétel valódiságát, ezért vizsgálatot indít”.
„A terjesztett állítások visszataszítóak. A megyei kormányzat maradéktalan támogatásáról biztosítja a BCPS-t” – tudatta közleményében Johnny Olszewski, megyei vezető.
A deepfake
Dühös telefonhívások tömege árasztotta el az iskolát. Az alkalmazottak rettegtek. A biztonsági intézkedéseket megszigorították. A rendőrség nyomozni kezdett.
Eric Eiswert igazgatót azonnal hatállyal felfüggesztették, és fizetett szabadságra küldték. Az igazgató több életveszélyes fenyegetést kapott.
„A világ jobb hely lenne, ha a szutyok túloldalára kerülnél” – üzente Eiswertnek egy ismeretlen.
Az igazgató rendületlenül tagadta bűnösségét. Váltig állította, hogy nem az ő hangja hallatszik a felvételen. Szerinte a fájlt a mesterséges intelligencia segítségével manipulálták, egyszóval deepfake hamisítvány.
Három hónap elteltével a nyomozók igazat adtak neki.
„Meggyőző bizonyítékok igazolják, hogy a felvétel nem hiteles” – jelentette be áprilisban Robert McCullough, a baltimore-i rendőrfőnök.
És azt is tudni vélték, ki készítette a szinte tökéletes hamisítványt.
A kicsinyes bosszú
A nyomozók a 31 éves Dazhon Darien, a gimnázium 31 éves tornatanárát, az iskolai sportklub igazgatóját gyanúsították a többi között sikkasztással, tanú elleni bosszúval és zaklatással.
Maga Eiswert indított először vizsgálatot még tavaly, miután kiderült, hogy Darien egy szobatársának 1916 dollárt utaltatott azzal az indoklással, hogy az iskolai amerikaifoci-csapat segédedzője. Az igazgató azonban egy kollégájával együtt kiderítette, hogy az illető ilyen munkát sosem végzett. Eiswert szembesítette Darient a tényekkel, aki azzal mentegetőzött, hogy bizonyára „tévedésről” van szó. Az igazgató azt is felrótta, hogy Darien „munkateljesítményével kapcsolatban kifogások merültek fel”, majd kilátásba helyezte, hogy a tornatanár szerződését nagy valószínűséggel nem fogják meghosszabbítani.
A munkahelyi összetűzés Darien úgy döntött, nem hagyja annyiban a történteket. A rendőrök elmélete szerint azt remélte, hogy kirúgása előtt megleckézteti és lejáratja munkahelyi főnökét.
A nyomozók kiderítették, hogy a tornatanár hamisította a hangfájlt, a mesterséges intelligencia eszközeinek eléréséhez pedig a közoktatási intézmények számítógépes hálózatát használta. A deepfake változatot egy hozzá köthető szerverről továbbította.
Január derekán egy TJFOUST9 nevű gmail-felhasználó e-mailt küldött három tanárnak, köztük Dariennek is, iskolai címükre. „Pikesville-i igazgató, a nyugalom megzavarására alkalmas felvétel” – ez állt a tárgy mezőben.
A csatolt hangfájlon egy férfi volt hallható, aki két iskolai tanárt szapult, a zsidókat szidalmazta, a fekete tanítványokról pedig a többi között azt mondta, hogy „még egy papírtasakból sem képesek egyedül kitalálni”.
Az egyik tanár, aki amúgy sem szívlelte Eiswertet, elismerte, hogy megosztotta a felvételt egy diákkal. Tudta, hogy a gyermek „gyorsan elterjeszti fájlt a különböző közösségi médiafelületeken és az egész iskolában” – áll a rendőrségi jelentésben. Maga a tanár a felvételt a médiának és a NAACP-nak, az Egyesült Államok egyik legrégebbi és legbefolyásosabb polgárjogi szervezetének továbbította.
A kétely
Néhányan azonnal megkérdőjelezték a felvétel hitelességét, köztük a közoktatási intézmények szakszervezeti képviselője. Billy Burke szerint a felvétel párbeszédnek tűnik, de hiányolta a környezeti zajt. Az iskolák forgalmas, hangos helyek, ebből azonban semmi sem hallatszott. Ezt fölöttébb gyanúsnak találta, ráadásul a tartalom is inkább egy forgatókönyvre emlékeztetett.
Találkozott Eiswerttel, és az iskola több más vezetőjével. „A hangjukból és a történetükből kiéreztem, hogy a felvétel nem valódi” – nyilatkozta a CNN-nek.
Ennek ellenére az igazgatót felfüggesztették. A vizsgálat során tagadta, hogy a felvételen az ő hangja hallatszik, és már a nyomozás kezdetén Darienre mutogatott, aki „technológiailag értett hozzá”, és köztudottan „ismerte a mesterséges intelligenciát”.
A nyomozók a felvétel eredetére összpontosítottak. A Google-nak küldött felszólítás alapján azonosították azt az IP-címet, amelyen a TJFOUST9 fiókot létrehozták. Darien egyik rokonához vezették vissza. A gmail helyreállítási telefonszáma Dazhon Dariené volt.
A hangfájlt két igazságügyi szakértő elemezte. Az egyik szerint a „felvétel nyomokban mesterséges intelligencia által generált szöveget tartalmazott, amelyet utólagosan emberi szerkesztéssel, a realizmus érdekében háttérzajokkal egészítettek ki”. A másik szakértő szerint a „felvételt manipulálták, és több felvételt ismeretlen szoftverrel illesztettek össze”.
Ezek után letartóztatási parancsot adtak ki, másnap azonban Darien a Baltimore/Washington nemzetközi repülőtéren megkísérelt felszállni egy Houstonba tartó járatra. Vesztére volt nála egy fegyver, ezért a biztonságiak leállították, és a csomagolásáról faggatták. Akkor szereztek tudomást a letartóztatási parancsról.
A rendőrök nem biztosak abban, hogy a deepfake hamisító tornatanár szökni próbált. Ötezer dolláros óvadék ellenében szabadult a decemberre hirdetett büntetőtárgyalásáig.
A meghurcolt Eric Eiswert nem került vissza a Pikesville Gimnáziumba, de továbbra is a „Baltimore megyei állami iskolák alkalmazásában marad” – közölték a hatóságok.
„Megkönnyebbültünk, hogy legalább kiderült a hang eredete” – jelentette ki ezúttal a megyei vezető. Johnny Olszewski szerint ugyanakkor nyugtalanító, hogy a mesterséges intelligencia „aggasztó határokat lép át”.
Az utóhatás
A pikesville-i történet csak látszólag fejeződött be csaknem fél éve.
Sokan ugyanis a hangfelvételt mind a mai napig igazinak tartják annak ellenére, hogy a rendőrség már rég lezárta a nyomozást, a hamisító gyanúsított pedig a vádlottak padján végzi.
„Tényleg nem értem, miért kell ezeket az idiótákat elviselnem nap mint nap” – így kezdődött a Pikesville Gimnázium igazgatójának hosszúra nyúlt, rasszista, antiszemita és egyéb sértő megjegyzésekkel tarkított tirádája. Úgy hangzott, mintha titokban rögzítették volna.
A megszólaló szánakozva beszélt a „hálátlan fekete gyerekekről” és a zsidó közösségről.
Miután ismerősei közül sokan megosztották a felvételt, Alfie Malone egy pillanatig sem kételkedett a fájl eredetiségében.
„Az ember legbelül abban hisz, hogy a többiek valójában tényleg így vélekednek rólunk” – magyarázkodott utólag a Baltimore-ban élő fekete férfi. Óvatosságból megnézte Eric Eiswert egyéb szerepléseit a közösségi médiában, és azok is hasonlóan hangzottak.
A részmunkaidős postás és podcastos ezek után fenntartás nélkül maga is megosztotta az inkriminált felvételt.
A hangfájl eljutott a helyi lap oktatási szerkesztőjéhez is, aki kezdetben azt hitte: egy viszonylag átlátható történet egy pedagógusról, aki sértő megjegyzéseivel lebukott.
Bevett gyakorlatként azonban Kristen Griffith lehetőséget akart adni Eric Eiswertnek, hogy elmondhassa saját véleményét. Helyette a szakszervezeti vezetőbe botlott, aki beszélt az igazgatóval, és megerősítette, hogy nem az ő hangja hallatszik a felvételen, amelynek a tartalmát egyébként Eiswert élesen elítélte.
Az újságíróban ekkor merült fel először, hogy a vihart korbácsoló felvétel akár hamisítvány is lehet.
Felvetésével azonban a lap olvasóit nem győzte meg. Olajat öntött a tűzre, és inkább újabb ellenérzéseket váltott ki azokból, akik szerint a hamisítás csak próbálkozás a felelőségre vonás elkerülésére.
Viszont a helyi rendőrség ezek után tényleg nyomozni kezdett az ügyben.
Az átverés
A felvételnek csak audiotartalma volt. Nem voltak vizuális árulkodó nyomok – például robotszerű mozdulatok –, amelyek a mesterséges intelligencia manipulációjáról tanúskodnak. A szakzsargon, például az „osztályszintű elvárások” és más részletek, köztük a személyzet neve azt bizonyította, hogy a főszereplő az iskolához igencsak közel álló személy.
Figyelmes meghallgatással feltűnnek a mondatok közötti vágások, a hang pedig – amely valóban hasonlít Eiswert baritonjára – meglehetősen monoton.
Az emberek zömének azonban ezek a részletek nem tűntek fel. Elhitték, hogy a felvétel valódi, mert a tartalmát igaznak találták – véli Malone.
Amikor a felvételen a fekete diákokat lustának nevezik, Malone-nak azonnal eszébe jutott a diszkrimináció és szidalmak, amelyekkel először az iskolában, majd a munkahelyén szembesült.
A hangfelvétel befolyása alatt élnek az emberek a mai napig.
„Ez egy zsidó környék, és ha a közösséggel kapcsolatban ennyire gyújtó hatású megnyilvánulás hangzik el, az nagyon felkavaró” – mondta a minap egy, csak Sharonként bemutatkozó nagymama, aki az unokájával ért haza a gimnáziummal szemközti házába.
A nő percekig úgy beszélt, mintha a felvétel eredeti lett volna.
„Ha az emberek ilyeneket mondanak, mások is csatlakoznak hozzájuk, és ez még ijesztőbb” – mondta, de ekkor már a férje is emlékeztette, hogy a fájl hamisítvány.
Ezt végül Sharon is elismerte, de hozzátette: még mindig dühös.
A kicsinyes bosszúnak induló átverés messze túllőtt a célon: sebeket tépett fel, és emberi kapcsolatokat mételyezett meg egy életre.
Alfie Malone egyik barátjának például fogalma sem volt arról, hogy a gyalázkodó hangfelvételt a mesterséges intelligencia generálta.
„Őszintén hiszem, sokan itt a városban nem igazán tudják, hogy a felvétel hamis” – mondta Malone. Hozzátette: kétszer is meggondolná, mielőtt újra megosztana egy ilyen állományt.
Hátborzongató belegondolni is, milyen kárt okozhat, ha államilag vezérelt kiberbűnözők élnek vissza a mesterséges intelligencia szinte határtalan lehetőségeivel.