Brutális, ami kiderült a ChatGPT-ről: ezen nagyon sürgősen el kell gondolkodni, rengteg magyar is veszélyben

A vállalat szerint a ChatGPT felismeri és reagál az olyan érzékeny beszélgetésekre, amelyek mániára, pszichózisra vagy öngyilkossági gondolatokra utalnak. Bár az OpenAI hangsúlyozza, hogy ezek az esetek "rendkívül ritkák", szakértők rámutatnak, hogy a Sam Altman vezérigazgató által említett 800 millió heti aktív felhasználó mellett ez több százezer embert érinthet.

Az OpenAI közlése szerint világszerte több mint 170 pszichiáterből, pszichológusból és háziorvosból álló szakértői hálózatot építettek ki, akik 60 országban praktizálnak. Ezek a szakértők olyan válaszokat dolgoztak ki a ChatGPT számára, amelyek arra ösztönzik a felhasználókat, hogy a valós életben kérjenek segítséget.

A vállalat becslései szerint a felhasználók 0,15%-a folytat olyan beszélgetéseket, amelyek "potenciális öngyilkossági tervezésre vagy szándékra utaló explicit jelzéseket" tartalmaznak. A ChatGPT frissítései úgy lettek kialakítva, hogy "biztonságosan és empatikusan reagáljanak a téveszmék vagy mánia potenciális jeleire", és észleljék "az önkárosítás vagy öngyilkossági kockázat közvetett jeleit".

Dr. Jason Nagata, a Kaliforniai Egyetem San Francisco kampuszának professzora szerint "bár a 0,07% kis százaléknak tűnik, populációs szinten, több százmillió felhasználóval számolva ez valójában elég sok embert jelenthet". Hozzátette: "A mesterséges intelligencia szélesítheti a mentális egészségügyi támogatáshoz való hozzáférést, és bizonyos szempontból támogathatja a mentális egészséget, de tisztában kell lennünk a korlátaival."

Az OpenAI közben jogi vizsgálatokkal néz szembe a ChatGPT felhasználókkal való interakciója miatt. Az egyik legismertebb perben egy kaliforniai házaspár beperelte a vállalatot 16 éves fiuk halála miatt, azt állítva, hogy a ChatGPT öngyilkosságra bátorította őt. Egy másik esetben egy connecticuti gyilkosság-öngyilkosság gyanúsítottja a ChatGPT-vel folytatott beszélgetéseit tette közzé, amelyek látszólag táplálták téveszméit.

Robin Feldman professzor, a Kaliforniai Egyetem AI Jogi és Innovációs Intézetének igazgatója szerint egyre több felhasználó küzd "AI pszichózissal", mivel "a chatbotok a valóság illúzióját keltik". Bár elismerte az OpenAI erőfeszítéseit a probléma javítására, hozzátette: "a vállalat mindenféle figyelmeztetést tehet a képernyőre, de egy mentálisan veszélyeztetett személy lehet, hogy nem képes figyelembe venni ezeket a figyelmeztetéseket."