Az egyre szélesebb körben elérhető mesterséges intelligenciával működő deepfake alkalmazások komoly aggodalmat keltenek a brit szakértők körében, különösen azok a szoftverek, amelyek gyermekekről készült fényképeket manipulálnak szexuális tartalmú képekké. 

Dame Rachel de Souza, brit gyermekjogi biztos nemrég nyilvánosságra hozott jelentésében részletesen feltárta a technológia által jelentett fenyegetéseket, amelyek már most is jelentős pszichológiai terhet rónak a fiatalokra.

Mélyreható társadalmi következmények

A jelentés megállapításai szerint a probléma olyan méreteket öltött, hogy számos fiatal lány már eleve tartózkodik a közösségi médiában való megjelenéstől, tartva attól, hogy fényképeiket illetéktelenek manipulálhatják. 

„A gyermekek kifejezték felém azt a félelmüket, amit ennek a technológiának a puszta létezése okoz, nem beszélve annak tényleges felhasználásáról. Rettegnek attól, hogy bárki – egy idegen, egy osztálytárs vagy akár egy barát – mobiltelefonjával manipulálhatja őket, meztelen képeket hozva létre ezekkel az alkalmazásokkal” – nyilatkozta Dame Rachel de Souza.

Szabályozási hiányosságok és megoldási javaslatok

Bár a gyermekekről készült szexuális tartalmú anyagok előállítása és megosztása egyértelműen törvénybe ütközik, a deepfake alkalmazások gyakran kicsúsznak a konkrét szabályozás alól, számos esetben megőrizve legális státuszukat. A gyermekjogi biztos jelentésében kiemelte, hogy ezek az AI-alapú eszközök könnyedén elérhetők a legnépszerűbb platformokon, keresőmotorokban és alkalmazásboltokban, ráadásul aránytalanul nagy mértékben célozzák meg a lányokat és fiatal nőket.

A szakember határozott fellépést sürget a brit kormánytól, javasolva a szexuálisan explicit deepfake-ek készítésére alkalmas alkalmazások teljes betiltását. Emellett szorgalmazza, hogy a generatív AI fejlesztőit kötelezzék termékeik gyermekekre gyakorolt kockázatainak felmérésére és hatékony védelmi mechanizmusok beépítésére.

Előremutató lépések és további teendők

Nagy-Britannia tett már lépéseket a technológia visszaszorítására, ugyanis új büntetőjogi tényállásokat vezetett be a szexuálisan explicit deepfake-ek előállítására és terjesztésére vonatkozóan. A kormány emellett bejelentette, hogy büntethetővé kívánja tenni a beleegyezés nélküli intim fotók és videók készítését is.

A gyermekjogi biztos most nyilvánosságra hozott jelentése ugyanakkor ennél is mélyebbre ás, részletesen feltárva a technológia fiatalokra gyakorolt káros hatásait. A The Guardian által is idézett dokumentum aggasztó összefüggéseket mutat ki a deepfake-alapú visszaélések, valamint az öngyilkossági gondolatok és a poszttraumás stressz szindróma között is.