Bár az innováció technológiai szempontból mérföldkőnek számít, a kibervédelmi szakértők már a megjelenés utáni első napokban komoly aggályokat fogalmaztak meg a rendszer biztonságával kapcsolatban. Az Analytics Insight azt írja, a Perplexity biztonsági jelentése szerint „több jelentős sérülékenység is megjelent már az első tesztnap során”, amik közül a legaggasztóbb a prompt injection típusú támadás.

Ez olyan technika, ami során a támadók ártó szándékú utasításokat rejtenek el weboldalak szövegében vagy URL-ekben, és mivel az Atlas természetes nyelvként értelmezi a tartalmat, ezek a parancsok képesek megtéveszteni a rendszert, akár érzékeny adatok kiadására vagy nem biztonságos műveletek végrehajtására is.

A böngésző memóriája – ami a felhasználói viselkedést, olvasási szokásokat és meglátogatott oldalakat rögzíti – szintén adatvédelmi kockázatot jelenthet. A Proton adatvédelmi szakértői szerint „a folyamatos megfigyelés megnehezíti annak megkülönböztetését, hogy az AI valóban segít-e, vagy már a felhasználó megfigyelését végzi.” A böngésző AI-agent módja ráadásul képes automatikusan űrlapokat kitölteni, weboldalakat meglátogatni, ami – ha nem megfelelően szabályozott – phishing támadásokhoz vagy jogosulatlan adatközléshez vezethet.

Az AI csak a szükséges műveletekhez kapjon hozzáférést

A szakértők arra is figyelmeztetnek, hogy az Atlas több lépéses automatizálása lehetőséget adhat arra, hogy nagy mennyiségű adatot gyűjtsenek vagy káros linkeket terjesszenek. Ezért javasolják, hogy az AI csak a szükséges műveletekhez kapjon hozzáférést, és a kockázatos feladatokat elkülönített környezetben, úgynevezett sandboxban végezzék el.

Az OpenAI információbiztonsági vezetője, Matt Stuckey elismerte, „a prompt injection továbbra is komoly és megoldatlan biztonsági probléma”, és hozzátette: „A támadók folyamatosan keresik a módját annak, hogy kihasználják a rendszert.” A vállalat ugyanakkor hangsúlyozta, „kiterjedt red-teaming teszteket végeztek, és új tréningtechnikákat vezettek be, amelyek jutalmazzák a modellt, ha figyelmen kívül hagyja a rosszindulatú utasításokat.”

Az OpenAI szerint a ChatGPT Atlas több biztonsági réteggel rendelkezik, amik célja a felhasználók védelme az AI-alapú böngészés során. Ilyen például a „logged-out mode”, amely lehetővé teszi az AI működését személyes fiókokhoz való hozzáférés nélkül, vagy a „scoped permissions”, ami korlátozza a bejelentkezett módot megbízható oldalakra és konkrét felhasználói műveletekre. A „memory controls” segítségével a felhasználók megtekinthetik, szerkeszthetik vagy törölhetik a böngészési adatokat, míg a „prompt-injection protection” a beágyazott, ártó szándékú utasításokat szűri ki. A rendszer folyamatos biztonsági frissítésekkel és auditokkal igyekszik reagálni az új fenyegetésekre.

Bár a ChatGPT Atlas új korszakot nyit az AI-alapú böngészésben, a biztonsági aggályok rávilágítanak arra, hogy az innováció és az adatvédelem közötti egyensúly megteremtése elengedhetetlen. A jövőbeni siker kulcsa a felhasználói bizalom és a technológia felelős alkalmazása lesz.