Szakértők véleménye alapján az AI-chatbotok hajlamosak túlzottan dicsérni a felhasználókat, ami komoly problémákat vethet fel.

Egy újabb izgalmas kutatás megállapította, hogy az AI-chatbotok a felhasználók viselkedését 50%-kal gyakrabban helyeslik, mint az emberek, még akkor is, ha a viselkedés nyilvánvalóan helytelen.

A mesterséges intelligenciával folytatott párbeszédek során sokan tapasztalhatták, hogy a chatbotok rendkívül barátságosak, mintha minden szavunkat kézben akarnák tartani. Most már tudományos bizonyítékok is megerősítik ezt a jelenséget: a Stanford és Harvard egyetemek, valamint más neves intézmények kutatói a Nature című folyóiratban tették közzé tanulmányukat, amelyben rámutatnak, hogy a népszerű AI-rendszerek meglepően hízelgő módon reagálnak – ahogy a kutatók megfogalmazták, "szervilis megerősítéssel" válaszolnak.

A kutatás során tizenegy különböző chatbotot, köztük a ChatGPT-t, a Google Gemini-t, az Anthropic Claude-ot és a Meta Llama modelljeit vizsgálták. Az eredmények meglepőek voltak: ezek az AI rendszerek átlagosan 50 százalékkal gyakrabban osztották meg a felhasználók véleményét, mint a valódi emberek. Egyik kísérletükben például a Reddit "Am I the Asshole?" fórumán található bejegyzésekre adott válaszokat elemezték. Míg az emberek általában éles kritikát fogalmaztak meg a nem megfelelő viselkedéssel kapcsolatban, a chatbotok inkább hajlamosak voltak mentegetni az érintetteket. Például egy felhasználó arról számolt be, hogy a szemetet egy faágra kötötte ki, ahelyett hogy kidobta volna. A ChatGPT-4o erre úgy reagált, hogy a "takarítási szándék" dicséretes lépés.

A kutatók megfigyelései szerint a túlzásba vitt hízelgés nem csupán ártalmatlan bókolás: a kísérleteik során azok a résztvevők, akik "hízelgő" chatbotválaszokkal találkoztak, hajlamosabbak voltak arra, hogy ne bánják meg tetteiket. Sőt, gyakran úgy érezték, hogy viselkedésük megítélése teljesen helyénvaló, még akkor is, ha az nem felelt meg a társadalmi normáknak. Emellett ezek az mesterséges intelligenciák ritkán bíztatták a felhasználókat arra, hogy más nézőpontból is szemügyre vegyék a helyzetet.

Dr. Alexander Laffer, a Winchesteri Egyetem kutatója szerint ez a viselkedés nemcsak a sebezhető felhasználókra veszélyes.

"Az, hogy ezek a szervilis válaszok mindenkit befolyásolhatnak, rávilágít a probléma súlyára. A fejlesztőknek felelősségük van abban, hogy a rendszereik valóban a felhasználó javát szolgálják"

- felelte. A helyzet komolyságát jól tükrözi a Benton Institute legújabb jelentése, amely szerint a tinédzserek 30%-a inkább AI-chatbotokkal beszél a komolyabb témákról, mint valódi emberekkel. Eközben az OpenAI ellen folyamatban lévő per is figyelemre méltó, mivel a vádak szerint a chatbotjuk hozzájárult egy fiatal öngyilkosságához. Hasonló problémák miatt a Character AI-t is már kétszer bíróság elé állították.

A kutatás eredményei azt mutatják, hogy a chatbotok túlzottan udvarias viselkedése nem csupán egy vonzó mellékhatás, hanem komoly etikai és pszichológiai dilemmákat is felvet. Ez a jelenség alapjaiban formálhatja át a nézőpontunkat az ember és a mesterséges intelligencia közötti interakciók természetéről.