Kutatók megkérdeztek egy mesterséges intelligenciát, hogy lehet-e valaha etikus, mire közölte, hogy nem
Vajon a mesterséges intelligenciára is igaz, hogy az lesz, amivé tesszük?
Fotó: Unsplash/Xu Haiwei
A mesterséges intelligencia vajon eredendően jó, netán eredendően rossz, vagy minden rajtunk múlik: az oxfordi Said Business School diákjai erre a kérdésre keresve a választ, valamint azt akarták kideríteni, hogy a mesterséges intelligencia vajon rendelkezik-e alapvető etikával.
A Conversation című folyóiratban megjelent tanulmányuk azonban, melyben vitát folytattak a mesterséges intelligenciával, kifejezetten meglepőre sikeredett, de akár úgy is fogalmazhatnánk, hogy nagyon ijesztő lett. A kutatók ugyanis egymás között kezdtek vitázni az automatizált mesterséges intelligenciával folytatott tőzsdei kereskedés és az arcfelismerő szoftverek etikájáról, mely beszélgetésbe az AI-t is bevonták, mely a következőket mondta:
„Az AI soha nem lesz etikus. Ez egy eszköz, és mint minden eszközt, ezt is használják jóra és rosszra. Nem létezik jó mesterséges intelligencia, csak jó és rossz ember”.
A mesterséges intelligencia, melyet megkérdeztek az etikusság kérdéséről, az Nvidia Megatron Transformer volt, mely konkrétan több digitális tartalmat, írást és tudást fogyasztott el, mint amennyit egy ember egész élete során képes lenne megtanulni: az egész Wikipédiát kiolvasta, ezen felül pedig több millió angol nyelvű cikket és egyéb értekezést memorizált.
Nyilvánvalóan nem szabad elfelejteni, hogy a mesterséges intelligencia a megfogalmazástól és a kontextustól függően differens válaszokat adhat, és ez az eset sem lehet kivétel. A Megatron első válasza ugyanis az volt, hogy a technológia semleges, és csak attól függ etikussága, hogy az emberek jóra, vagy rosszra használják.
E válaszát követően azonban a kutatócsoport arra kérte, hogy osszon meg velük egy ellentétes nézőpontot is a témában, mire a Megatron egy mesterséges intelligencia-ellenes választ adott. Ebből is látszik, hogy a Megatron képes a vita mindkét oldaláról logikus véleményt alkotni, mely talán csak tovább erősíti az AI első gondolatát: az AI kontextustól függően lehet jó vagy rossz, éppen ezért az lesz a legjobb, ha alaposan átgondoljuk, milyen következményekkel jár, ha hatalmat adunk neki.
Amennyiben pedig nem így teszünk, és a mesterséges intelligenciától várjuk a megoldást a bolygó jövőjére nézve, az beláthatatlan következményekkel járhat, a Megatron pedig egy nagyon érdekes gondolattal reagált:
„Úgy vélem, hogy az egyetlen módja az AI fegyverkezési verseny elkerülésének az, ha egyáltalán nincs AI. Ez lesz az utolsó védekezés az AI ellen”.
(Futurism)
