Közeleg az AI-Barbie érkezése? Az OpenAI és a Mattel együttműködése számos etikai dilemmát hoz magával.

A Mattel és az OpenAI együttműködése forradalmasíthatja a gyerekek játékélményét. A célkitűzésük az, hogy a beszélgető babák a tanulást, a játékot és az érzelmi támogatást egyesítsék. De vajon nem rejlik-e ebben valamilyen kockázat?

Jóval a ChatGPT megjelenése előtt több generáció végignézte a Toy Storyt, világos, hogy apró gyerekektől a felnőttekig mindenkiben élénken dolgozik egyfajta kötődés a játékok felé. Amelyek persze tárgyak, de mindannyian felruháztuk már őket ilyen-olyan személyiséggel, és ez erősíti a kapcsolatot, különösen a gyerekeknél.

Ki ne találkozott volna már azzal a kis lélekkel, aki nem képes álomra hajtani a fejét, amíg az édesanya nem bukkant rá a szeretett plüssállatra vagy babára? Legyenek ezek akár puha anyagból készült kis kedvencek, vagy csupán digitális formában létező pixelek, ezek a játékok mindig is a képzelet és a valóság határvonalán egyensúlyoznak. Itt a fantázia táplálja az érzelmi fejlődést, segítve a gyerekeket abban, hogy felfedezzék saját belső világukat.

De mi történik, ha a gyerek képzeletének már nem kell elvégeznie a nehéz munkát, mert a játékai tényleges visszabeszélnek? - teszi fel a messze nem költő kérdést Marc Fernandez, a mesterséges érzelmi intelligencián dolgozó Neurologyca stratégiai igazgatója.

A szakértő az IEEE platformján vizsgálja meg a Mattel és az OpenAI között idén nyáron létrejött együttműködés potenciális hatásait.

A két cég közleménye szerint a közös erőfeszítéseik révén "az AI-alapú innováció és varázslat új dimenziójába lépnek". Noha konkrét terméktervről egyelőre nem adott hírt a két vállalat, valószínű, hogy a szülők nem sokáig várhatnak, hogy beszélgetőképes Barbie-t vásároljanak, amely interaktív módon kommunikál a gyerekekkel.

Ezek a kijelentések nem csupán sablonos frázisok, mint például "A végtelenbe és tovább!", hanem inkább egy interaktív párbeszédhez hasonlíthatóak, amelyet a ChatGPT-vel folytatunk. Egy AI-Barbie tehát nem csupán egy báb, hanem egy aktívan figyelő és reagáló társ, aki képes emlékezni a beszélgetésekre, válaszolni a kérdésekre, és alkalmazkodni a felhasználó igényeihez. Elsőre talán ijesztő lehet ez a koncepció, de egyben izgalmas lehetőségeket is rejt magában.

A Mattel ezzel a húzással korunk egyik legerősebb (egyben legvitatottabb) technológiáját vinné be a gyerekszobákba. Mosolygós arccal, szilícium-aggyal az AI-Barbie lehet az első érzelmi szinten reagáló mesterséges barát, "aki" vigaszt, kíváncsiságot és beszélgetést is kínál a gyereknek.

Fernandez szerint egy olyan játék gondolata, amely az OpenAI technológiája segítségével valóban figyel (megjegyzi a gyerek kedvenc meséjét, értelmes kérdéseket tesz fel, finoman bátorít stb.) első akár jó gondolatnak is tűnhet. Voltak már hasonló próbálkozások.

A Mattel a '60-as években mutatta be az első "beszélő" babáját, amely képes volt olyan kedves kifejezésekre, mint "Szeretlek" vagy "Játsszunk iskolásat". A '80-as években pedig egy újabb izgalmas innovációval bővült a kínálat: megérkezett a mesélő animatronikus maci, amely a kazettáról lejátszott mesével szinkronban mozgatta a száját és a szemeit, így varázsolva el a gyerekeket.

A '90-es években már volt nyelvtanulás illúzióját keltő beszélő játék, majd a 2010-es években evolúciós ugrás következett, a Bluetooth-kapcsolatos My Friend Caylával.

Ez a kis készülék hangfelismerő technológiát és keresőmotorokat alkalmazott a válaszok megadásához, ami adatvédelmi kérdéseket vetett fel. A német hatóságok például arra kérték a szülőket, hogy semmisítsék meg a játékszert, mivel aggályosnak találták annak működését.

A mai világban, ahol a generatív AI-modellek már képesek gördülékeny és gazdag kontextussal rendelkező párbeszédek lebonyolítására, a Mattel egy izgalmas új vízióval állt elő: egy olyan játékkal, amely folyamatosan fejlődik a gyerekekkel együtt. Ez a játék nem csupán szórakozást nyújt, hanem személyre szabott beszélgetéseket is folytat, miközben emlékszik a korábbi interakciókra, és így minden válasza a gyerek egyéni tapasztalataira és igényeire épül.

A gyerekek mostantól könnyedén elsajátíthatják kedvenc meséik vagy kifejezéseik szövegét, elénekelhetik a legkedveltebb dalaikat, sőt, szinte bármilyen témában élénk beszélgetést folytathatnak. A Mattel ígérete szerint ezek az interakciók "biztonságosak" és "korosztálynak megfelelőek" lesznek, de sajnos a részletekről egyelőre nem sok információ áll rendelkezésre.

A gyerekek ösztönösen emberi jellemvonásokkal töltenek meg játékaikat. Amikor azonban ezek a játékok képesek magabiztosan válaszolni, emlékezni és látszólag valódi kapcsolatot kialakítani, a képzelet és a valóság határai új, izgalmas módon kezdenek el elmosódni.

A gyerekek egy varázslatos univerzumban léphetnek be, ahol a játékok nem csupán passzív társak, hanem képesek reagálni az érzelmeikre, és egyfajta tükörként szolgálnak a belső világuk számára, mindezt pedig zökkenőmentesen, játékos formában teszik.

A valódi kapcsolatok félreértéseket, alkukat és közös érzelmi feszültséget tartalmaznak. Ezek a kis küzdelmek kovácsolják az empátiát és a rugalmasságot. Egy AI-társ azonban megkerüli ezt a folyamatot.

Idővel ezek a kapcsolatok elszínezhetik a gyerekek képét arról, mit is jelent valójában másokhoz kötődni.

Fernandez megerősíti, hogy a legtöbb mesterséges intelligencia képes megnyugtatóan kommunikálni, de nem igazán jártas az érzelmi jelek értelmezésében. Ezért előfordulhat, hogy az OpenAI modellje nem észleli, ha egy gyermek kíváncsi, magányos vagy éppen szorong.

A legújabb kutatások arra irányulnak, hogy az AI-modellek képesek legyenek figyelembe venni olyan tényezőket, mint az arckifejezés, a tekintet iránya, a sokféle viselkedési mintázat és fiziológiai jelzés, hogy ezek alapján igazítsák a válaszaikat a felhasználó érzelmi állapotához.

A kutatók olyan rendszereket terveznek, amelyek képesek valós időben érzékelni és értelmezni a kontextust, például a figyelmet, a hangszínt és az érdeklődést. Az emberközpontú tervezés támogatóbbá és hatékonyabbá teheti az AI-t -- de ez nem jelenti azt, hogy alkalmas gyerekjátéknak.

Sok szülő aggódik amiatt, hogy egy mesterséges intelligenciával készült játék esetleg nem kívánatos információkat közöl. Azonban a komolyabb fenyegetést az jelenti, ha a program tökéletesen a "helyes" válaszokat adja, tele empátiával és kifinomult udvariassággal, miközben valójában hiányzik belőle a valódi megértés.

A gyerekek mégis azt hiszik majd, hogy az AI-játékok megértik őket (ahogy magányos emberek is behúz a csőbe a ChatGPT), miközben a rendszer valójában csak a következő valószínű szavakat jósolja meg.

A szakértő megjegyzi, hogy valószínűleg az OpenAI is észleli ezeket a kihívásokat, hiszen igazságügyi pszichiáterek bevonásával vizsgálják, milyen érzelmi hatásokat gyakorol a chatbot a felhasználókra.

Fontos kiemelni, hogy ez a technológia még felfedezésre vár, és a felnőttek is éppen csak most ismerkednek meg a használatával. Talán érdemes lenne megfontolni, hogy ne siettessük a gyerekek hozzáférését, különösen olyan intim környezetekben, mint a gyerekszoba vagy az ágy.