Gyermekek szexuális bántalmazására tanították be az egyik videójáték algoritmusát
Szórakoztató projektnek indult, ám annál bizarrabb és embertelenebb kísérletté fajult az egyik OpenAI próbálkozás, mely során a mesterséges intelligencia szexuális ragadozóvá változott.
Pixabay
Az AI Dungeon névre keresztelt videójáték a gamereket egy előre megjósolhatatlan, gyakran improvizált, szövegalapú környezetbe helyezi, mely során a játékosoknak el kell dönteniük, hogyan élik túl a megpróbáltatásokat.
A Wired riportjából kiderült, hogy a játék mögött álló Latitude startup vállalkozás múlt hónapban azt vette észre, hogy bizonyos júzerek a szerepjátékot kihasználva arra tanították be az AI-t, hogy kiskorúak szexuális bántalmazásával fenyegetőzzön.
Az OpenAI vezérigazgatója, Sam Altman ledöbbent a hír hallatán, és máris felvette a kapcsolatot a Latitude-dal, akik eltávolították az érintett felhasználók profiljait a platformról.
„Ez nem az a mesterséges intelligencia, amiben hiszünk, és amit megálmodtunk évekkel ezelőtt” – magyarázta Altman.
Az AI Dungeon játékmenete során egyébként bárkit jelenteni lehet nem megfelelő viselkedés miatt, ám ez a report rendszer túlságosan korlátozott, valakit például azért tiltottak ki a game-ből, mert „8 éves laptopot” emlegetett, az újonnan beállított algoritmus pedig azt hitte, kiskorúak molesztálásáról beszélt.
Mindeközben a Latitude cég hivatalos közleményében kifejtette, minden eszközt bevetnek majd, hogy megakadályozzák a gyűlöletbeszéd és a szexuális erőszak elterjedését platformjukon, és csírájában fogják elfojtani az erre tett erőfeszítéseket.
