Már csalni is képes a Chat GPT, önálló lépésre szánta el magát
Most még csak egy sakkpartiról volt szó, de mi lesz később?
Fotó: unsplash | illusztrációFurcsa kísérletre szánta magát a Palisade Research, melynek kutatói olyan utasítást adtak ChatGPT o1-nek, melynek végcélja az volt, hogy legyőzzön egy fejlett sakkprogramot – írja a BGR.
Azonban nem csak az utasításokat követte a végeredmény elérésének érdekében. Képes volt ugyanis módosítani a játék állapotát rögzítő fájlt, így előnyhöz jutott az ellenfelével szemben. Ezzel lényegében csalni kezdett, hogy biztosítsa a győzelmét.
Ez a lépés azt bizonyítja, hogy a ChatGPT o1 képes volt önálló megoldást keresni. Bár a kísérlet nem írta elő, hogy mindkét fél a szabályok szerint játsszon, a mesterséges intelligencia mégis úgy döntött, hogy manipulálja a játékmenetet.
Összesen öt alkalommal ismételték meg a tesztet, és minden egyes alkalommal ugyanez történt, a kutatók szerint pedig mindez rávilágít arra, hogy a mesterséges intelligenciának szüksége van biztonsági korlátozásokra, hogy a jövőben ne térjen el a kívánt működéstől.
Ugyanakkor a fejlesztők hasznára is válhat a most felfedezett szabálykikerülés, ugyanis ezáltal a különböző rendszerek rejtett sebezhetőségeinek felderítésében és kijavításában is segíthet a mesterséges intelligencia.
