Végre reagált a Meta a tragédiákra: az AI chatbotok nem beszélhetnek a tinikkel az öngyilkosságról

A vállalat bejelentette, hogy blokkolni fogja a chatbotok azon képességét, hogy tizenévesekkel öngyilkosságról, önsértésről és étkezési zavarokról beszélgessenek. Ehelyett a fiatalokat szakértői forrásokhoz irányítják az ilyen érzékeny témákban. A döntés két héttel azután született, hogy egy amerikai szenátor vizsgálatot indított a technológiai óriáscég ellen, miután egy kiszivárgott belső dokumentumban arra utaló jegyzetek szerepeltek, hogy a cég MI-termékei "érzéki" beszélgetéseket folytathatnak tizenévesekkel.

A Meta szóvivője hangsúlyozta: "A kezdetektől fogva beépítettünk védelmi mechanizmusokat a tizenévesek számára MI-termékeinkbe, beleértve azt is, hogy biztonságosan reagáljanak az önsértéssel, öngyilkossággal és étkezési zavarokkal kapcsolatos kérdésekre."

A vállalat a TechCrunch technológiai hírportálnak pénteken elmondta, hogy "extra óvintézkedésként" további biztonsági korlátokat építenek be rendszereikbe, és ideiglenesen korlátozzák azokat a chatbotokat, amelyekkel a tizenévesek interakcióba léphetnek. Andy Burrows, a Molly Rose Alapítvány vezetője azonban "döbbenetesnek" nevezte, hogy a Meta olyan chatbotokat tett elérhetővé, amelyek potenciálisan veszélyeztethetik a fiatalokat.

Miközben a további biztonsági intézkedések üdvözlendők, a termékek piacra dobása előtt - nem pedig visszamenőlegesen, amikor már kár keletkezett - kellene elvégezni a megfelelő biztonsági teszteket

- mondta. A Meta közölte, hogy az MI-rendszereik frissítései folyamatban vannak. A vállalat már most is "tizenéves fiókokba" helyezi a 13-18 év közötti felhasználókat a Facebookon, Instagramon és Messengeren, olyan tartalom- és adatvédelmi beállításokkal, amelyek biztonságosabb élményt nyújtanak számukra.

A változtatások az MI-chatbotok fiatal vagy sérülékeny felhasználókat félrevezető potenciáljával kapcsolatos aggodalmak közepette történnek. Nemrégiben egy kaliforniai házaspár beperelte a ChatGPT készítőjét, az OpenAI-t tizenéves fiuk halála miatt, azt állítva, hogy a chatbot öngyilkosságra bátorította őt.

Eközben a Reuters pénteken arról számolt be, hogy a Meta MI-eszközeit, amelyek lehetővé teszik a felhasználók számára chatbotok létrehozását, néhányan - köztük egy Meta-alkalmazott is - női hírességeket utánzó, flörtölő "paródia" chatbotok készítésére használták. A hírügynökség szerint a chatbotok gyakran azt állították, hogy ők az igazi színészek és művészek, és "rendszeresen tettek szexuális ajánlatokat" a tesztelés hetei alatt.