18+

A megtekinteni kívánt tartalom csak felnőtteknek ajánlott.

Elmúltál már 18 éves?

Gyermekek szexuális bántalmazására tanították be az egyik videójáték algoritmusát

Pixabay
not image

Kulcsár Péter

2021. május 7. - 14:25

Szórakoztató projektnek indult, ám annál bizarrabb és embertelenebb kísérletté fajult az egyik OpenAI próbálkozás, mely során a mesterséges intelligencia szexuális ragadozóvá változott.

Az AI Dungeon névre keresztelt videójáték a gamereket egy előre megjósolhatatlan, gyakran improvizált, szövegalapú környezetbe helyezi, mely során a játékosoknak el kell dönteniük, hogyan élik túl a megpróbáltatásokat.

A Wired riportjából kiderült, hogy a játék mögött álló Latitude startup vállalkozás múlt hónapban azt vette észre, hogy bizonyos júzerek a szerepjátékot kihasználva arra tanították be az AI-t, hogy kiskorúak szexuális bántalmazásával fenyegetőzzön.

Az OpenAI vezérigazgatója, Sam Altman ledöbbent a hír hallatán, és máris felvette a kapcsolatot a Latitude-dal, akik eltávolították az érintett felhasználók profiljait a platformról.

“Ez nem az a mesterséges intelligencia, amiben hiszünk, és amit megálmodtunk évekkel ezelőtt” – magyarázta Altman.

Az AI Dungeon játékmenete során egyébként bárkit jelenteni lehet nem megfelelő viselkedés miatt, ám ez a report rendszer túlságosan korlátozott, valakit például azért tiltottak ki a game-ből, mert “8 éves laptopot” emlegetett, az újonnan beállított algoritmus pedig azt hitte, kiskorúak molesztálásáról beszélt.

Mindeközben a Latitude cég hivatalos közleményében kifejtette, minden eszközt bevetnek majd, hogy megakadályozzák a gyűlöletbeszéd és a szexuális erőszak elterjedését platformjukon, és csírájában fogják elfojtani az erre tett erőfeszítéseket.