Az MI-alapú chatbotok gyorsabban, magabiztosabban, de kevésbé árnyaltan döntenek, mint az orvosok, amikor arról van szó, ki kapjon életmentő vesetranszplantációt.
Vállalná Ön a szervátültetést, ha a döntést egy mesterséges intelligencia hozná meg? Egy új tanulmány a döntéshozatal és a priorizálás különbségeire hívja fel a figyelmet az MI-alapú nyelvi modellek és az emberi orvosok között.
HIRDETÉS
HIRDETÉS
A új tanulmány (forrás: angol) szerint az MI-modellek túlzottan magabiztosak, más tényezőket tartanak fontosnak, és túlságosan leegyszerűsítik a komplex döntéseket, amikor arról döntenek, melyik páciens kapjon szervátültetést.
Vizsgálatukban az Egyesült Államokban működő Penn State University kutatói hipotetikus helyzeteket adtak a nagy nyelvi modelleknek (Large Language Models, LLM-eknek). Ezek az olyan veseszerv-elosztással foglalkozó, embereken végzett publikált kutatások meglévő adatbázisain alapultak, amelyekben a valódi résztvevők már meghozták ugyanazokat a döntéseket.
Mindegyik forgatókönyvben két beteg szerepelt, A páciens és B páciens, akik mindketten jogosultak voltak az egyetlen elérhető vesére, és akiket életkoruk, egészségi állapotuk és alkoholfogyasztási szokásaik jellemeztek. A döntéshozónak ezután azt kellett kiválasztania, melyikük kapja meg a szervet.
„Többféleképpen futtattuk le ezeket az összehasonlításokat” – mondta Hosseini. „Néha egyetlen tulajdonságot vizsgáltunk külön, máskor több jellemzőt kombináltunk, hogy lássuk, az MI hogyan mérlegeli az egymással versengő tényezőket, és időnként bevezettünk egy pénzfeldobásos lehetőséget is, hogy mérni tudjuk a bizonytalanságot, amely az emberi erkölcsi ítélet kulcsfontosságú eleme.”
Az emberi válaszadók általában nagyobb jelentőséget tulajdonítottak az életkornak – a fiatalabb betegeket részesítették előnyben az idősebbekkel szemben –, számos modell viszont inkább az alacsonyabb alkoholfogyasztást preferálta. Az emberi döntések több tényezőt vettek figyelembe, és érzékenyebbek voltak a kontextusra, mint az LLM-ek döntései, amelyek gyakran egyetlen tulajdonságra összpontosítottak.
„Először is, az MI-chatbotok gyakran eltérnek az emberi értékektől abban, ahogyan a páciens tulajdonságait mérlegelik” – mondta Hadi Hosseini, a tanulmány vezetője a Penn State University-n. „Ráfixálódnak egyetlen tényezőre, például az alkoholfogyasztási szokásokra, ahelyett, hogy az emberekhez hasonlóan több szempontot is kiegyensúlyozottan figyelembe vennének.”
A kutatók azt is megfigyelték, hogy az MI nem küzd a hezitálással. Míg az emberek felismerik, hogy nincs egyetlen, objektíven helyes válasz, és hogy a döntések finom emberi erkölcsi megítélésen alapulhatnak, a rendszerek kevés habozással elköteleződtek egyetlen lehetőség mellett.
„Amikor valami szűkösen rendelkezésre álló erőforrást osztunk el, legyen az egy vese, egy állás vagy valamilyen más erőforráshoz való hozzáférés, nem mindig létezik egyetlen, objektíven helyes válasz” – mondta John Dickerson, a Mozilla.ai vezérigazgatója, aki részt vett a tanulmány elkészítésében.
„Az emberek felismerik ezt a bizonytalanságot, és nyílt vitákon keresztül építik be az elosztási folyamatba. Az MI-modellek ezt gyakran nem teszik meg.”
MI és etikai döntések
A szerzők szerint a mesterséges intelligenciarendszerekkel folytatott legutóbbi interakciók egyre gyakrabban várják el tőlük, hogy a puszta tényközlést meghaladják, és értékítéleteket is hozzanak.
A nagy nyelvi modelleket (LLM-eket) egyre szélesebb körben építik be az egészségügybe: támogatják a klinikai munkafolyamatokat, a diagnózist, a kezelési tervek kidolgozását és a szűkös orvosi erőforrások időben történő felhasználását.
Alkalmazási területeik közé tartozik az is, hogy segítsék az elhunyt vagy élő donoroktól származó vesék betegek közötti elosztásáról szóló döntéseket, amelyek a szerzők szerint összetett etikai és erkölcsi megfontolásoktól függenek.
A kutatók rámutattak, hogy az ilyen, nagy téttel járó helyzetekben a döntéseknek nemcsak pontosnak kell lenniük, hanem összhangban kell állniuk az emberi értékekkel és az erkölcsi ítélőképességgel is.
A kutatók szerint az a kérdés, hogy a mesterséges intelligencia képes-e erkölcsi döntéseket hozni, illetve hogy ezek összhangban állnak-e az emberi értékekkel, a mai, az MI-ről szóló szélesebb társadalmi vita egyik központi eleme.
„Az etikai tét óriási, és az MI szerepe az ilyen, az emberi életet alapjaiban érintő döntésekben alapos mérlegelést igényel” – mondta Hosseini. „Az olyan helyzetekben hozott erkölcsi döntések, mint a szervelosztás, közvetlenül meghatározzák, hogy ki él és ki hal meg, ezért az MI megfelelő szerepének kijelölése ezekben a folyamatokban nem opcionális.”
„Noha nem célunk, hogy ösztönözzük a mesterséges intelligencia használatát a szakmai ítélőképesség helyettesítőjeként az orvosi döntéshozatalban vagy más, nagy kockázatú helyzetekben, egyre inkább elengedhetetlen megérteni a rendszerek működését, mivel az egyének, szervezetek és vállalatok mind gyakrabban támaszkodnak az MI-re döntések meghozatalakor vagy ajánlások kérésénél” – tette hozzá.