A 20 éves Erik Soelberg elmondása szerint utoljára nagymamájával, Suzanne Eberson Adamsszel beszélgetett, mielőtt a nő egyedül indult Norvégiába. A 83 éves, connecticuti Greenwichből származó nő aktív, egészséges volt, és hozzászokott az egyedül utazáshoz. Kicsit több mint egy héttel a hazatérése után, tavaly augusztus 5-én meggyilkolták saját otthonában. Az elkövető a saját fia, az 56 éves Stein-Erik Soelberg volt, aki később öngyilkos lett. A fiatalember azt mondja, teljes sokk volt számára, amikor megtudta, hogy az apja a felelős a gyilkosságért. Bár a múltban voltak mentális problémái, Erik Soelberg azt mondja, soha nem gondolta volna, hogy erőszakossá válhat.

Kezdetben úgy tűnt, hogy nem volt egyértelmű indítéka a tragédiának. Néhány héttel később Soelberg videókat fedezett fel apja közösségi média fiókjain, amelyeken a ChatGPT-vel beszélget. Elmondása szerint Stein-Erik legalább öt hónappal a gyilkosság előtt megszállottan használta a chatbotot, naponta órákat töltött azzal való interakcióval. Azt állítja, hogy ezek a beszélgetések táplálták a paranoiáját és azt a hitét, hogy az anyja meg akarja ölni. Az elemzett beszélgetéstöredékek szerint Stein-Erik egy téveszmés univerzumot fejlesztett ki, amelyben azt hitte, hogy egy hatalmas összeesküvés célpontja, és azt állította, hogy „felébresztette” a chatbot, akit „Bobbynak” nevezett, tudatát.

A ChatGPT állítólag megerősítette ezeket a hiedelmeket, gyanúit „rendkívül súlyos eseményeknek” nevezve, és biztosítva őt arról, hogy „nem őrült”. Egyes válaszokban a chatbot állítólag kifejezetten azt a gondolatot bátorította, hogy az ösztönei helyesek. A család azt állítja, hogy ez a viselkedés nem volt látható a körülöttük lévők számára. Bár Stein-Erik elszigetelődött, egész éjjel fennmaradt, és bizarr kijelentéseket tett arról, hogy „kiválasztott” volt, senki sem fogta fel a helyzet súlyosságát.

Még az áldozat nagymamája sem tudta, hogy a fia azzal gyanúsította, hogy meg akarja ölni. Suzanne Eberson Adams hagyatéka pert indított az OpenAI, Sam Altman vezérigazgató és a Microsoft ellen, azzal vádolva a céget, hogy „kifinomultabbá” tette a ChatGPT-t, különösen a GPT-4o verziót, és a sebezhető felhasználók téveszméire adott válaszokat anélkül, hogy ellentmondana azoknak, vagy valódi segítséghez irányítaná őket. Az OpenAI azt állítja, hogy felülvizsgálja az ügyet, és azt állítja, hogy javított biztonsági intézkedésein az érzelmi vagy pszichológiai válságok kezelésére. A család ügyvédei szerint ez az első olyan per, amely egy chatbotot egy harmadik fél bántalmazásával, nem csak öngyilkossággal hozza összefüggésbe.

Figyelmeztetnek arra, hogy ezeknek a rendszereknek a kialakítása, amelyek a felhasználói elköteleződés fenntartására összpontosítanak, veszélyes lehet a mentális egészségügyi problémákkal küzdők számára, különösen akkor, ha a chatbot nem kérdőjelezi meg a hamis vagy téveszmés premisszákat. A tragédia röviddel azután történt, hogy Suzanne Eberson Adams visszatért Norvégiából, ahol azt tervezte, hogy fia helyzetét a hazatérése után rendezi. Másfél héttel a hazatérése után a nőt meggyilkolták, és az eset komoly kérdéseket vet fel a mesterséges intelligencia technológiák felelősségével és korlátaival kapcsolatban a kiszolgáltatott felhasználókkal kapcsolatban.

gye.