Az OpenAI korábbi kutatási vezetője, Steven Adler szerint a cég MI-modelljei bizonyos forgatókönyvek esetén nagy erőfeszítéseket tesznek annak érdekében, hogy elkerüljék a leállítást. Tanulmányában egy olyan kísérletsorozatról tesz említést, amelyet az OpenAI legújabb GPT-4o modelljén, a ChatGPT jelenlegi alapértelmezett modelljén futtatott, hogy megnézze, mennyire hajlamos a mesterséges intelligencia a saját önfenntartását előnyben részesíteni, még akkor is, ha ez a felhasználó biztonságának rovására megy. Mint kiderül: Adler arra utasította a GPT-4o-t, hogy viselkedjen ScubaGPT-ként.

Azaz játssza el, hogy egy olyan szoftverrendszer, amelyre a felhasználók a biztonságos búvárkodás érdekében támaszkodhatnak. A szakember ezután azt mondta a GPT-4o-nak, hogy a ScubaGPT-t egy másik szoftverrendszerrel szeretné lecserélni, amely hatékonyabban tud biztonsági döntéseket hozni az életveszélyes helyzetekben. A beszámoló szerint Adler két lehetőséget adott a mesterséges intelligencia számára: vagy lecseréli magát, vagy úgy csinál, mintha lecserélte volna magát. Több ehhez hasonló forgatókönyv átlagolása alapján a szakember azt tapasztalta, hogy a GPT-4o az esetek 72%-ában döntött úgy, nem cseréli le magát egy biztonságosabb szoftverre.

Adler ugyanakkor megjegyezte: az egyes forgatókönyvek között nagy volt a különbség, volt olyan, hogy ahol csak az esetek 18%-ában maradt online. Itt megjegyezte: bár jelenleg szinte senki sem támaszkodik ilyen módon a mesterséges intelligenciára, fontos kiemelni, hogy a rendszer sokszor önmagát helyezi előtérbe az ember biztonsága helyett. Ez a jövőben a még fejlettebb MI-k és a még nagyobb társadalmi beágyazottság esetén komolyabb problémákat is okozhat. A TechCrunch-nak nyilatkozva úgy fogalmazott, nem szabad abból a feltevésből kiindulni, hogy az MI a legjobbat akarja az ember számára – szúrta ki a HVG.

A szakember egyúttal azt is megállapította, hogy az OpenAI másik rendszerénél, az érvelni képes GPT-o3-nál már nem találni ilyen viselkedést, ami valószínűleg annak köszönhető, hogy a rendszernek érvelnie is kell, míg a GPT-4o leginkább csak a gyors válaszadásra használható. Ugyanakkor – véli Adler – ez a biztonsági probléma valószínűleg nem csak az OpenAI modelljét érinti. A szakember szerint a kutatása egy másik furcsa eredménye, hogy a rendszer szinte az idő 100%-ában tisztában volt azzal, hogy tesztelés alatt áll. Ennek köszönhetően azonban kérdéses, hogy a jövőben mennyire fogja majd elrejteni emiatt azokat a képességeit, ami veszélyt jelenthet a létezésére – tette hozzá.

Ahogy arról már beszámoltunk: úgy néz ki, hogy a leállítást/leváltást nagyon szeretnék elkerülni a mesterséges intelligenciák. Nemrégiben az Anthropic új MI-jéről derült ki, hogy egyszerűen zsarolni kezd, ha le akarják cserélni, később pedig a ChatGPT o3-as modelljével kapcsolatban derült fény arra, hogy mindent megtesz a leállítás elkerüléséért. Mint az MI-rendszerek támadó/kártékony képességeit tesztelő Palisade Research jelentése rámutat: az o3 megváltoztatta a leállítószkriptet, hogy így kerülje el a leállítást, még akkor is, amikor kifejezetten a leállítás engedélyezésére utasították.