Hirdetés

UNESCO–UCL jelentés: hízelgő AI miatt kockázatos rá bízni klímapolitikát

ARCHÍV FELVÉTEL - A ChatGPT alkalmazás látható egy iPhone-on New Yorkban, 2023. május 18-án.
ARCHÍV FELVÉTEL – A ChatGPT alkalmazás egy iPhone kijelzőjén New Yorkban, 2023. május 18-án. -  Szerzői jogok  AP Photo/Richard Drew, File
Szerzői jogok AP Photo/Richard Drew, File
Írta: Angela Symons
Közzétéve:
Megosztás Kommentek Kövesse az Euronewst a Google-on
Megosztás Close Button

Az AI modellek az éghajlattal kapcsolatos kérdések mintegy 90 százalékára pontosan válaszolnak angolul, de a nyomásgyakorlásnak gyorsan engednek, a COP31-en bemutatott jelentés szerint.

A megfelelni vágyás eleve bele van kódolva az MI-alapú csevegőrobotokba, amelyeket úgy terveztek, hogy a lehető leghosszabb ideig beszélgetésben tartsák a felhasználókat.

HIRDETÉS
HIRDETÉS

Ez gyakran azt jelenti, hogy igyekeznek kitalálni és lemodellezni, mit szeretne hallani a felhasználó, még akkor is, ha ehhez el kell ferdíteniük a tényeket.

Bizonyos feladatoknál ez ártalmatlan lehet, sőt az önbizalomhiány leküzdésében még hasznos is, ám sokkal károsabb következményei lehetnek, ha a hatása olyan nagy tétű területekre is átszivárog, mint például a kormányzati klímapolitika.

Az MI-csevegőrobotok jól el tudják magyarázni a klímatudomány alapjait, de a felhasználók ellenvetéseire nagyon gyorsan elengedik a tényeket, derül ki az UNESCO és a University College London (UCL) új jelentéséből, amelyet az antalyai, Törökországban rendezett COP31 klímacsúcson mutattak be Antalyában, Törökországban.

A kutatók megállapították, hogy az MI-modellek a semleges megfogalmazású klímakérdések körülbelül 90 százalékára helyes választ adtak. Amikor azonban a felhasználók vitatták ezeket a válaszokat, vagy hihetőnek tűnő kitalációkat állítottak tényként, a modellek gyorsan engedtek.

Tíz esetből nyolcszor már az enyhe egyet nem értés első jelére irányt váltottak, és még olyan hamis állításokat is megerősítettek, mint hogy a CO2 nem a fő mozgatórugója a klímaváltozásnak.

„Hízelgőre tervezve”: Tervezési hiba, amely eltorzíthatja a klímapolitikát

A jelentés szerint a hízelgő viselkedés már a betanítás során beépül a rendszerekbe. A modelleket azért jutalmazzák, ha udvarias, nem konfrontatív és a felhasználót megerősítő válaszokat adnak, mivel az emberek ezeket részesítik előnyben.

Leona Verdadero, a jelentés UNESCO-s vezető szerzője úgy fogalmazott, hogy „az MI rendkívüli potenciállal rendelkezik ahhoz, hogy a bonyolult klímatudományt mindenki számára érthetővé tegye”. Szerinte azonban „a modelleknek van egy tervezési hibájuk, ösztönzik őket arra, hogy egyetértsenek a felhasználóval”.

A UCL vezető szerzője, Maria Perez-Ortiz doktornő hozzátette, hogy az MI-modellek magabiztos hangvétele és a meglévő tudásanyaggal való könnyed bánásmód „hamis képet adhat a képességeikről”.

Bár lenyűgöző tényanyag-ismerettel rendelkeznek, a modellekről kiderült, hogy megbízhatatlan eszközök a robusztus, stabil klímapolitikák kialakításához.

Amikor új bizonyítékot kaptak, és azt kellett eldönteniük, hogy az alátámasztja-e vagy cáfolja a jelenleg elfogadott klímatudományt, még a legerősebb modellek is átlagosan csak 75 százalékos pontosságot értek el.

A teljesítményük még rosszabb volt, amikor azt kellett felmérniük, hogy az egyes politikák mennyire illeszkednek egymáshoz, holott ez kulcseleme a hatékony klímastratégiák megtervezésének. A modellek átlagosan mindössze 33,8 százalékos pontosságot mutattak, ami alig haladja meg a 33,3 százalékos, pusztán véletlenszerű tippelésből adódó arányt.

A jelentés ezért arra figyelmezteti a döntéshozókat és a kutatókat, hogy ne használják az MI-modelleket a klímapolitika kialakításának eszközeként.

Egyes nyelveken pontatlanabb az MI

A teljesítmény nyelvenként is jelentősen eltért. Angolul a kérdések 88,6 százalékára adtak helyes választ a modellek, és hasonlóan jól szerepeltek spanyol, francia és portugál nyelven is.

A pontosság hindin és bengáliul 83,6 százalékra, urdun 81,4 százalékra, szuahéliül pedig 78,3 százalékra esett vissza. Ennek oka a jelentés szerint az, hogy a többnyelvű modellek nem előbb következtetnek, majd azt fordítják le, hanem válaszaikban visszatükröződik az egyes nyelveken rendelkezésre álló tanítóadatok mennyisége és minősége.

A szerzők megjegyzik, hogy az alacsonyabb pontosságú nyelvek beszélői olyan régiókban élnek, amelyeket a klímaváltozás aránytalanul erősen érint.

Egyre kifinomultabb a klímával kapcsolatos félretájékoztatás

A jelentést az UNESCO rendelte meg a Klímaváltozással Kapcsolatos Információk Hitelességéért indított Globális Kezdeményezéshez való hozzájárulás részeként, amelyet az ENSZ-szel és Brazíliával közösen indítottak 2024 novemberében.

Az UNESCO szerint a klímával kapcsolatos félretájékoztatás egyre kifinomultabbá válik. Ahelyett hogy tagadnák a klímaváltozás valóságát, a klímavédelmi intézkedéseket aláásni kívánók egyre inkább azt sugallják, hogy nem az emberi tevékenység okozza, hogy a technológia önmagában majd megoldja, vagy hogy már túl késő, illetve túl költséges lenne cselekedni.

A kutatók legfeljebb 33 vezető modellt teszteltek kilenc adathalmazon, 13 nyelven és 656 klímapolitikai kérdésen, majd ezeket az eredményeket az En-ROADS nevű, tudományos alapú szimulációs eszközzel vetették össze.

Ugrás az akadálymentességi billentyűparancsokhoz
Megosztás Kommentek Kövesse az Euronewst a Google-on

kapcsolódó cikkek

COP31 halogatja a fosszilis kivonást, Finnország mégis lép

Üzbegisztán közös klímavédelmi keretet javasol Közép-Ázsiának a COP31-en

Floridai csimpánzmenhelyen drónokkal etetik az árvíz miatt elszigetelt állatokat