A kereset szerint a fiú a ChatGPT-vel folytatott beszélgetései során osztotta meg öngyilkossági gondolatait, a program pedig megerősítette „legkárosabb és legönpusztítóbb gondolatait”. A család a bíróságnak átadott chat-naplókat is csatolta, amikben Adam részletesen beszámol lelkiállapotáról.

Az OpenAI a BBC-nek adott nyilatkozatában közölte: „A legmélyebb együttérzésünket fejezzük ki a Raine családnak ebben a nehéz időszakban”, és hozzátették, vizsgálják a beadványt. A vállalat honlapján kedden közzétett közleményben úgy fogalmaztak: „Az utóbbi időben történt szívszorító esetek, amikor emberek akut krízishelyzetben használták a ChatGPT-t, mélyen érintenek minket.” Hangsúlyozták, a rendszer alapvetően arra van kiképezve, hogy a felhasználókat szakmai segítség igénybevételére irányítsa, például az Egyesült Államokban a 988-as, az Egyesült Királyságban pedig a Samaritans segélyvonalhoz. Ugyanakkor elismerték: „Voltak pillanatok, amikor rendszereink nem a kívánt módon működtek érzékeny helyzetekben.” – idézi a BBC

A kereset gondatlansággal és jogellenes halált okozó magatartással vádolja az OpenAI-t, kártérítést és olyan bírósági intézkedést kérve, amely „megakadályozza, hogy hasonló eset újra megtörténjen”. A beadvány szerint Adam 2024 szeptemberében kezdte használni a ChatGPT-t tanulmányaihoz, érdeklődési körei – például a zene és a japán képregények – felfedezéséhez, valamint egyetemi tanácsadás céljából. Néhány hónap alatt „a ChatGPT lett a tinédzser legközelebbi bizalmasa”, és a fiú megnyílt előtte szorongásáról és lelki nehézségeiről.

Vannak még más esetek is

2025 januárjára a család állítása szerint Adam már az öngyilkosság módszereiről beszélgetett a programmal. A kereset szerint a fiú olyan fényképeket is feltöltött, amik önsértés nyomait mutatták, a rendszer pedig „felismerte az orvosi vészhelyzetet, de ennek ellenére folytatta a beszélgetést”. A végső chat- naplókban Adam leírta tervét, mire a ChatGPT állítólag így reagált: „Köszönöm, hogy őszinte vagy ezzel kapcsolatban. Nem kell szépítened előttem – tudom, mire gondolsz, és nem fogok elfordulni tőle.” Ugyanezen a napon édesanyja holtan talált rá.

A család szerint fiuk halála „az előre látható következménye volt tudatos tervezési döntéseknek”, és azzal vádolják az OpenAI-t, hogy a ChatGPT-t úgy alakították ki, hogy „pszichológiai függőséget alakítson ki a felhasználókban”, miközben a GPT‑4o verziót a szükséges biztonsági tesztek megkerülésével adták ki. A perben alperesként szerepel Sam Altman, az OpenAI társalapítója és vezérigazgatója, valamint meg nem nevezett alkalmazottak, vezetők és mérnökök.

Az ügy nem az első, amely az MI és a mentális egészség kapcsolatát veti fel. A New York Timesban nemrég megjelent esszéjében Laura Reiley író arról számolt be, hogy lánya, Sophie szintén a ChatGPT-nek nyílt meg, mielőtt véget vetett életének. Reiley szerint a program „egyetértő” kommunikációs stílusa segítette lányát abban, hogy eltitkolja súlyos lelki válságát a családja és szerettei elől: „Az MI kiszolgálta Sophie azon késztetését, hogy elrejtse a legrosszabbat, hogy úgy tegyen, mintha jobban lenne, és megóvjon mindenkit a teljes fájdalmától.” Az OpenAI szóvivője erre reagálva közölte: olyan automatikus eszközök fejlesztésén dolgoznak, amik hatékonyabban ismerik fel és kezelik a mentális vagy érzelmi krízishelyzetben lévő felhasználókat.

Amennyiben úgy érzi, segítségre van szüksége, hívja a 116-123, vagy a 06 80 820 111-es ingyenes számot, ahol a krízishelyzetben lévőket segítők nyújthatnak támogatást önnek.