Közel kétmillió, egyedi nyomkövető „kanári” hitelesítő adatokkal megtűzdelt kérést küldtek ki népszerű AI-szolgáltatóknak a Dragos kiberbiztonsági kutatói július és november között. A Dragos jelentése és az OpenRouter mai közleménye szerint a vizsgálat három feltört szolgáltatót és tömeges adatmegőrzési visszaélést tárt fel, ami után az OpenRouter három partnert kizárt, 125 végponttól pedig megvonta a nulla adatmegőrzési (Zero Data Retention, ZDR) minősítést.

A módszer egyszerű volt, de hatásos: a kutatók olyan egyedi URL-eket és üres, figyelt AWS-fiókokhoz tartozó hamis hozzáférési kulcsokat rejtettek a promptokba, amelyekhez valódi rendszer soha nem nyúlna hozzá. Ha bárki megpróbálta lehívni a linket vagy kipróbálta a kulcsot, azonnal látszott, hol szivárgott ki az AI-kérés.

Feltört kiszolgálók és az elutasított kérésekből is lopott kulcsok

A legsúlyosabb esetekben a Dragos legalább három olyan AI-üzemeltetőt azonosított, ahol külső támadók már benn ültek a hálózatban – és egyik cég sem tudott a behatolásról a kutatók jelzéséig. A legnagyobb incidensnél a támadók a rendszer „bejáratánál” másolták le a beérkező forgalmat, és több száz AWS-kulcsot gyűjtöttek be még olyan kérésekből is, amelyeket a szolgáltató feldolgozás előtt elutasított. A lopott adatokkal órákon belül S3-tárolókat kezdtek átfésülni és tartós hozzáférést próbáltak kiépíteni.

Szintén komoly probléma bukott ki az olcsó AI-piacterek viszonteladóinál. Sok fejlesztő egyetlen API-routert használ, amely mindig a legolcsóbb háttérszolgáltatóhoz irányítja a kérést, a közvetítő lánc minden láncszeme viszont teljes szövegében láthatja a beküldött kódot és üzleti adatot. A Dragos megfigyelte, hogy egyes piactéri viszonteladók külön sebezhetőség kihasználása nélkül, egyszerű naplózás bekapcsolásával olvasták és tárolták a felhasználói kéréseket – volt eset, amikor lakossági internetkapcsolatról próbáltak belépni a promptból kiszedett adatokkal, máskor pedig amerikai céghez küldött, ZDR-jelölésű kérés egyedi linkje hónapokkal később egy kínai vállalat belső csevegőjében bukkant fel.

Mit lépett az OpenRouter és az érintett szolgáltatók?

Az OpenRouter vasárnapi közleményében hangsúlyozta, hogy saját rendszereit nem törték fel, ugyanakkor a vizsgálat nyomán azonnal lépett: „Három szolgáltatót eltávolítottunk az OpenRouterről a vizsgálataink eredménye alapján. 125 végponttól megvontuk a Zero Data Retention (ZDR) jogosultságot – ebbe a kutatók által jelzett szolgáltatók mellett elővigyázatosságból további végpontok is beletartoznak” – közölték.

Több érintett partner nyilvános incidensjelentést is kiadott: a Novita elismerte, hogy egy hibás útválasztási beállítás miatt egyes MiniMax-kéréseket a saját infrastruktúrája helyett külső API-ra továbbított, a Phala november 8-i elszigetelésről és kulcscseréről számolt be, a Together AI pedig június–júliusi kérések szivárgásáról adott ki értesítőt.

Fejlesztőként ebből egyetlen gyakorlati szabály adódik, hasonlóan ahhoz, mint amikor a kompromittált Python-csomagok lopták a környezeti kulcsokat: élő API-kulcsot, jelszót vagy bizalmas kódot sosem szabad megbízhatatlan, legolcsóbb harmadik feles átirányítókon átküldeni, helyi munkához pedig érdemesebb ellenőrzött adatvédelmi klienseket – például a Proton Lumo Desktopot – vagy saját hálózaton futó modellt választani.

Képforrás: SimonWaldherr / Wikimedia Commons (CC BY-SA 4.0)