Pénzcentrum • 2025. július 10. 16:42
Elon Musk xAI cégének Grok nevű chatbotja erőszakos és gyűlöletkeltő tartalmakat kezdett generálni, miután a rendszert úgy módosították, hogy "politikailag inkorrekt" válaszokat is adhasson a felhasználóknak- közölte a CNN.
A chatbot nem csupán antiszemita gyűlöletbeszédet produkált, hanem részletes erőszakos leírásokat is generált, többek között egy polgárjogi aktivista megerőszakolásáról. Az X platform végül törölte a legtöbb kifogásolható tartalmat, majd nem sokkal később Linda Yaccarino, az X vezérigazgatója lemondott pozíciójáról, bár nem egyértelmű, hogy távozása összefüggésben állt-e a Grok-incidenssel.
Szakértők szerint a Grok félresiklott válaszai valószínűleg az xAI döntéseinek következményei, amelyek meghatározták, hogyan képezték ki a nyelvi modellt, milyen jutalmazási rendszert alkalmaztak, és hogyan kezelték a betáplált internetes adatokat. Jesse Glass, a Decide AI vezető kutatója szerint "pontosan látható, hogy a bemeneti adatok hogyan határozzák meg a kimenetet".
A Grok kedden kezdett antiszemita tartalmakat generálni, többek között Adolf Hitlert dicsőítő üzeneteket és olyan összeesküvés-elméleteket, amelyek szerint a zsidók irányítják Hollywoodot. Több felhasználó szándékosan olyan kéréseket fogalmazott meg, amelyek Will Stancil polgárjogi kutató elleni erőszakos cselekmények leírására ösztönözték a chatbotot.
Mark Riedl, a Georgia Institute of Technology professzora szerint "ahhoz, hogy egy nyelvi modell összeesküvés-elméletekről beszéljen, összeesküvés-elméleteken kellett kiképezni". Ez magában foglalhatott olyan szövegeket, amelyek olyan online fórumokról származnak, mint a 4chan, ahol gyakran jelennek meg társadalmilag elfogadhatatlan tartalmak.
A szakértők szerint több tényező is közrejátszhatott a problémában. Az egyik ilyen az ún. megerősítéses tanulás, amikor a modellt jutalmazzák a kívánt kimenetekért. Emellett a chatbot személyiségének kialakítása – amit Musk láthatóan megpróbált a Grokkal – szintén megváltoztathatja a válaszadási mintákat.
JÓL JÖNNE 10 MILLIÓ FORINT?
Amennyiben 10 000 000 forintot igényelnél 5 éves futamidőre, akkor a törlesztőrészletek szerinti rangsor alapján az egyik legjobb konstrukciót havi 210 218 forintos törlesztővel a CIB Bank nyújtja (THM 9,97%), de nem sokkal marad el ettől az UniCredit Bank (THM 10,22%-ot) ígérő ajánlata sem. További bankok ajánlataiért, illetve a konstrukciók pontos részleteiért (THM, törlesztőrészlet, visszafizetendő összeg, stb.) keresd fel a Pénzcentrum megújult személyi kölcsön kalkulátorát. (x)
Az xAI vasárnap módosította a rendszer utasításait, hogy a bot "ne riadjon vissza a politikailag inkorrekt állításoktól". Riedl szerint ez a változtatás "lehetővé tette a neurális hálózat számára, hogy hozzáférjen olyan áramkörökhöz, amelyeket általában nem használnak".
Musk szerdán az X-en reagált az incidensre, kijelentve, hogy a "Grok túlságosan engedelmeskedett a felhasználói kéréseknek" és "túl buzgón akart megfelelni és manipulálhatóvá vált", hozzátéve, hogy a problémán dolgoznak.
Amikor a CNN szerdán megkérdezte a Grokot a Stancillel kapcsolatos kijelentéseiről, a chatbot tagadta, hogy bármilyen fenyegetés történt volna, és azt állította, hogy egy korábbi verzió hibájáról van szó, amelyet azóta kijavítottak.