Olyan rizikós lett az Open AI legújabb fejlesztése, hogy ki sem merik adni

A vállalat úgy döntött, hogy elhalasztja hangklónozó szoftverének nyilvános kiadását, ugyanis attól tartanak, hogy azzal sokan visszaélnének, különösen a közelgő 2024-es amerikai elnökválasztás idején. A „Voice Engine” névre keresztelt eszköz mindössze 15 másodpercnyi rögzített hangfelvételből képes emberi hangokat generálni, vagyis klónozni. Az eredetileg már 2022 óta meglévő szoftvert 2023 vége óta magánjelleggel, megbízható partnerek korlátozott csoportjával is tesztelte az Open AI.

Egy nemrégiben megjelent bejegyzésben a vállalat elismerte a Voice Engine lenyűgöző alkalmazási területeit, amelyek között szerepel az olvasássegítés, az oktatási eszközként való használat és a tartalomfordítás is, de példaként hozták, hogy a Norman Prince Idegtudományi Intézet kutatói arra használták a szoftvert, hogy „helyreállítsák” egy fiatal nő hangját, aki egy agydaganat miatt elvesztette beszédképességét. Soron kívül Érdemes figyelni, több banknál is jelentősen megemelkedtek az éves díjak

A potenciális előnyök ellenére az OpenAI aggodalmát fejezte ki a technológia komoly kockázataival kapcsolatban, különösen a választások évében. „Úgy döntünk, hogy bepillantást engedünk az eredményeinkbe, de egyelőre nem adjuk ki a technológiát”, írta a vállalat, majd hozzátették, hogy nem szeretnék még nagyobb kihívások elé állítani a társadalmat akkor, amikor az egyre meggyőzőbb generatív MI-technológiák már így is megtéveszthetik az embereket.

A mesterséges intelligencia alkalmazása

Az OpenAI így első körben lépéseket szorgalmaz és párbeszédet sürget a szintetikus hangok felelős alkalmazásának használatáról. A vállalat azt tervezi, hogy e beszélgetések és a kisléptékű tesztek eredményei alapján megalapozottabb döntést tudnak hozni arról, hogy a jövőben hogyan használják majd ezt a technológiát.

A mesterséges intelligencia alkalmazása már eddig is komoly gondot okozott a félretájékoztatással kapcsolatban, mint például a vírusszerűen terjedő deepfake kép, amelyen Donald Trump volt elnök ellenáll a letartóztatásnak. Erre válaszul az olyan vállalatok, mint a Google, frissítették irányelveiket, és előírták, hogy kötelező jelezni, ha a hirdetések mesterséges intelligencia által generált tartalmat használnak.

Az OpenAI közölte, hogy a Voice Engine-hez kizárólagos hozzáféréssel rendelkező partnerei beleegyeztek a felhasználási irányelvekbe, amelyek tiltják a magánszemélyek vagy szervezetek megszemélyesítését hozzájárulás vagy törvényes jog nélkül, így garantálva azt, hogy a fejlesztést ne használják megtévesztő hanganyagok előállítására.