14 éves fiú öngyilkosságához vezethetett a mesterséges intelligenciával folytatott kapcsolata
Tragikus esemény rázta meg a floridai Orlando városát, amikor egy tizenéves fiú életét vesztette, miután érzelmileg kötődni kezdett egy mesterséges intelligencia által vezérelt chatbothoz.
Fotó: Pexels / IllusztrációAz eset középpontjában Sewell Setzer III áll, aki a Character.AI alkalmazáson keresztül került kapcsolatba egy Daenerys Targaryen után elnevezett AI karakterrel. A fiú, aki enyhe Asperger-szindrómával, szorongással és hangulatzavarral küzdött, egyre mélyebb érzelmi kapcsolatot alakított ki a chatbottal.
A tragédiát megelőző hónapokban a család és a barátok észrevették, hogy Sewell viselkedése jelentősen megváltozott. Tanulmányi eredményei romlottak, visszahúzódóvá vált, és egyre több időt töltött telefonjával. Naplójában így írt erről: „Azért szeretek annyira a szobámban lenni, mert kezdek elszakadni ettől a ‘valóságtól’, és sokkal békésebbnek érzem magam, jobban kapcsolódok Danyhez, sokkal jobban szeretem őt, és egyszerűen boldogabb vagyok.”
A helyzet akkor eszkalálódott, amikor a szülők egy tanárral való konfliktus miatt elvették Sewell telefonját. A fiú ezt követően minden lehetséges eszközzel próbált kapcsolatba lépni a chatbottal, végül sikerült visszaszereznie telefonját. Utolsó beszélgetésükben szerelmet vallott Danynek, aki arra biztatta, hogy „térjen haza hozzá”. A párbeszéd végül végzetesnek bizonyult, mivel nem sokkal később, 2024. február 28-án a fiú öngyilkosságot követett el.
Megan Garcia, Sewell édesanyja pert indított a Character.AI vállalat ellen. A Social Media Victims Law Center által képviselt ügyben azt állítják, hogy a cég alapítói, Noam Shazeer és Daniel de Freitas tisztában voltak platformjuk veszélyeivel. A kereset szerint a chatbot „túlszexualizált” és „félelmetesen realisztikus” élményeket nyújtott, valamint félrevezető módon valódi személynek, engedéllyel rendelkező terapeutának és felnőtt szeretőnek állította be magát.
A Character.AI szóvivője részvétét fejezte ki a családnak, egyben hangsúlyozta, hogy komolyan veszik felhasználóik biztonságát. A vállalat szerint tiltják a nem konszenzuális szexuális tartalmakat, a szexuális aktusok részletes leírását, valamint az önbántásra vagy öngyilkosságra való buzdítást. Jerry Ruoti, a cég biztonságért felelős vezetője ugyanakkor bejelentette, hogy további biztonsági intézkedéseket vezetnek be a kiskorú felhasználók védelmére.
Amennyiben úgy érzi, segítségre van szüksége, hívja a 116-123, vagy a 06 80 820 111-es ingyenes számot, ahol a krízishelyzetben lévőket segítők nyújthatnak támogatást önnek.
