Ki tudja-e szűrni a dezinformációt a Grok az X-en Izrael és Irán konfliktusáról?
Számos felhasználó a mesterséges intelligenciával vezérelt chatbotokhoz fordult, hogy tájékozódjon az Izrael és Irán közötti konfliktusról. Egy új tanulmány azt mutatja, hogy a Grok - az ingyenesen használható chatbot - többször valótlan állításokkal vezette félre a felhasználókat.
Egy videó a tel-avivi repülőtér elleni megtorló iráni támadás pusztítását mutatja be a terjesztői szerint, miközben mesterséges intelligencia által generált tartalom. De amikor a hitelesség ellenőrzésére kérték, a Grok azt válaszolta, hogy valószínűleg valódi felvétel, nem mesterséges intelligencia által generált.
Az Euroverify több olyan esetet is talált, amikor a Grok hamisan állítja, hogy a mesterséges intelligencia által generált videók hitelesek. Olyan eseteket is észlelni, amikor a Grok teljesen más témájú videókat kapcsol össze a jelenlegi konfliktussal.
Ezt a videót – amely a franciaországi Hellfest fesztiválozóit mutatja – a Grok úgy írja le, hogy izraeliek menekülnek az egyiptomi Taba határátkelőhelyén történt konfliktus elől. Egy malajziai robbanásról készült videóról azt állítja, hogy egy Tel-Avivot eltaláló iráni rakétát mutat június 19-én.
Egy nemzetközi digitális törvényszéki labor, a DFRLab kutatói szerint a Grok olyan médiajelentésekre alapozza válaszait, amelyek a konfliktus gyors tempója miatt gyorsan elavulnak. A chatbot gyakran nem igazolja a források hitelességét. Például több dezinformációt terjesztő X-fiókokról állítja, hogy hivatalos kormányzati vagy katonai fiók.
A szakértők szerint a felhasználók egyre inkább ezekre az eszközökre támaszkodnak a tények ellenőrzéséhez. Közben ezzel a dezinformációt és az összeesküvés-elméleteket erősítik.