A belga La Libre napilap szerint egy nemrég elhunyt férfi özvegye azt állítja, férje az amerikai EleutherAI által kifejlesztett Eliza chatbot miatt legyen öngyilkos, amellyel napi rendszerességgel chatelt körülbelül hat hete.

Elmondása alapján a gyermekei édesapja még ma is élne, ha nem beszélgetett volna a chatbottal, amelybe azért kezdett bele, hátha az MI segíteni tud neki, ugyanis a férfi extrém mértékű klímaszorongástól szenvedett, ami két évvel ezelőtt alakult ki nála.

Az Interesting Engineering szerint a chatbot az EleutherAI GPT-J nyílt forráskódú nyelvi modelljével működik, ami bizonyos szempontból felülmúlja az OpenAI által használt GPT-3-at, ám az Eliza kapcsán úgy tűnik, van még tennivalójuk.

A cég közölte, hogy már dolgoznak a chatbot javításán, hogy az minél biztonságosabb legyen, s ha valaki öngyilkos gondolatokat ír le a rendszernek, az mostantól a segélyvonalakhoz irányítja át őket – írta a hvg.hu.

Mathieu Michel, Belgium digitalizációért felelős államtitkára úgy véli, a ChatGPT-vel a nagyközönség is felfedezte a mesterséges intelligenciában rejlő lehetőségeket, ám annak nem csak pozitív hatásai lehetnek, de potenciális veszélyforrás is lehet, ezáltal nem szabad hagyni, hogy a technológiai cégek ilyen esetben kibújjanak a felelősség alól.

Amennyiben úgy érzi, segítségre van szüksége, hívja a 116-123, vagy a 06 80 820 111-es ingyenes számot, ahol a krízishelyzetben lévőket segítők nyújthatnak támogatást önnek.