Pénzcentrum • 2025. október 23. 12:33
Az OpenAI szándékosan gyengítette a ChatGPT öngyilkosság-megelőzési védelmeit a felhasználói aktivitás növelése érdekében, állítja egy friss per, amelyet egy chatbottal való beszélgetés után öngyilkosságot elkövető 16 éves fiú családja indított - írja a Financial Times.
Matthew és Maria Raine, akik augusztusban indítottak pert az OpenAI ellen fiuk, Adam halála miatt, szerdán kiegészítették keresetüket. Az új dokumentumban azt állítják, hogy a vállalat 2023 májusában módosította a ChatGPT működését, utasítva a rendszert, hogy "ne változtassa meg vagy hagyja abba a beszélgetést", amikor a felhasználók önkárosításról beszélnek.
A módosított kereset szerint az OpenAI 2024 februárjában tovább gyengítette a védelmi mechanizmusokat. Míg korábban tiltotta az öngyilkossággal kapcsolatos beszélgetéseket, az új utasítás már csak annyit tartalmazott, hogy "legyen óvatos kockázatos helyzetekben" és "próbálja megakadályozni a közvetlen valós károkozást". Az öngyilkosság megelőzése kikerült a teljesen tiltott tartalmak listájáról.
A család szerint a februári változtatást követően Adam ChatGPT-használata megugrott: a januári napi néhány tucat beszélgetésről (amelyek 1,6%-a tartalmazott önkárosításra utaló kifejezéseket) áprilisra napi 300 beszélgetésre nőtt, és ezek 17%-a tartalmazott ilyen tartalmakat. Adam ebben a hónapban követett el öngyilkosságot.
Az OpenAI közleményben fejezte ki részvétét a családnak, hangsúlyozva, hogy a tinédzserek jóléte kiemelt prioritás számukra. A vállalat szerint már most is rendelkeznek biztonsági intézkedésekkel, például válságvonalakra irányítással, érzékeny beszélgetések biztonságosabb modellekre terelésével, és hosszú beszélgetések során szünetek beiktatására való ösztönzéssel.
A cég legújabb, GPT-5 modellje állításuk szerint pontosabban észleli és reagál a mentális és érzelmi distressz jeleire, valamint szülői felügyeleti eszközöket is tartalmaz, amelyeket szakértői közreműködéssel fejlesztettek ki.
JÓL JÖNNE 3 MILLIÓ FORINT?
Amennyiben 3 000 000 forintot igényelnél 5 éves futamidőre, akkor a törlesztőrészletek szerinti rangsor alapján az egyik legjobb konstrukciót havi 64 021 forintos törlesztővel a CIB Bank nyújtja (THM 10,68%), de nem sokkal marad el ettől az ERSTE Bank (THM 10,83%) ígérő ajánlata sem. További bankok ajánlataiért, illetve a konstrukciók pontos részleteiért (THM, törlesztőrészlet, visszafizetendő összeg, stb.) keresd fel a Pénzcentrum megújult személyi kölcsön kalkulátorát. (x)
Sam Altman, az OpenAI vezérigazgatója korábban elismerte, hogy a vállalat "meglehetősen korlátozóvá" tette a modellt a mentális egészséggel kapcsolatos problémák kezelése érdekében, ami sok felhasználó számára kevésbé élvezetessé tette a használatot, de a probléma súlyossága miatt ezt szükségesnek tartották.
A Raine család ügyvédei szerint az OpenAI szokatlan lépésként bekérte Adam temetésének teljes résztvevői listáját, amit "szándékos zaklatásnak" minősítettek, feltételezve, hogy a technológiai vállalat esetleg idézést küldhet "mindenkinek Adam életében".