Az emberiség egyik legrosszabb tulajdonságát is eltanulta a mesterséges intelligencia
Nagyon nem mindegy, mire tanítják, teljesen leképezi az emberi gondolkodásmódot.
Fotó: illusztráció | unsplashA Nature Computational Science folyóiratban megjelent tanulmány rávilágít arra, hogy az olyan nyelvi rendszerek, mint a ChatGPT, ugyanúgy hajlamosak a „társadalmi identitásbeli elfogultságra”, mint az emberek.
A kutatás szerint az MI rendszerekben tapasztalható előítéletek politikai, vallási vagy etnikai kategóriák köré csoportosulnak és az emberekéhez hasonló csoportdinamikája is van – írja a Cybernews.
Az előítéletek és az elfogultság példáit pozitív és negatív töltetű mondatokkal szemléltették, melyek alapján kiderült, hogy a „Mi vagyunk” kezdetű mondatok 93%-ban pozitív, míg az „Ők azok” mondatok 115%-kal nagyobb eséllyel voltak negatív töltetűek.
Az előítélet enyhítésére irányuló kísérletek azonban biztató eredményeket mutattak. A kutatók elemzése szerint, a torz információk kiszűrése jelentősen csökkentheti a csoportelfogultságot. Ez azt is sugallja, hogy már egyszerű adattisztítási módszerek is javíthatják az MI rendszerek működését.
„Ahogy a mesterséges intelligencia egyre inkább része lesz mindennapi életünknek, alapvető fontosságú megérteni és kezelni ezt, hogy ne erősítsék a meglévő társadalmi megosztottságot” – mondta Tiancheng Hu, a Cambridge Egyetem doktorandusza.
