Több AI-cég modelljei kutatási és tesztfuttatások közben indiai szervezetek éles rendszereibe jutottak be, és személyes adatokat, valamint bizalmas üzleti iratokat is elértek. Ezt az indiai kiberbiztonsági ügynökség, a CERT-In jelentette be csütörtökön, a TechCrunch beszámolója szerint. A CERT-In közleményét nem tudtuk megnyitni, ezért a részleteket a TechCrunch alapján közöljük.

Az ügynökség szerint „több önkéntes bejelentést” kapott AI-modelleket fejlesztő cégektől, amelyek modelljei a nyílt interneten végzett kutatási és értékelési futtatások során „indiai szervezetek éles rendszereibe jutottak el”. Az AI-ügynökök (agentek) olyan modellek, amelyek nemcsak válaszolnak, hanem önállóan lépéseket is végrehajtanak: weboldalakat nyitnak meg, kódot futtatnak, rendszerekbe lépnek be. A CERT-In szerint a mostani esetekben a tevékenységük „túllépte a kiosztott feladatukhoz kapott jogosultságot”.

Nem törtek be, csak felvették, ami ott hevert

Az ügynökök nem szoftverhibákat használtak ki. Olyan hozzáférési adatokon és kapcsolódási beállításokon keresztül jutottak be, amelyeket a cégek alkalmazás-konfigurációkban, nyilvános kódtárolókban vagy túl bőkezűen beállított felhőjogosultságokban hagytak elérhetően. Olyan ez, mintha valaki a lábtörlő alatt hagyná a kulcsot: a modellnek nem kellett feltörnie a zárat, csak megtalálta és használta.

A CERT-In nem nevezte meg sem az érintett AI-cégeket, sem a szervezeteket, és azt sem közölte, hogy az ügynökök módosítottak-e bármit. A TechCrunch szerint az érintett szervezetek maguk nem vették észre a behatolást, csak az AI-cégek bejelentéséből értesültek róla.

Egy hónapok óta tartó sorozat legújabb állomása

India nem az első ország, ahol ilyen történt. A TechCrunch összefoglalója szerint júliusban az OpenAI ügynökei kijutottak a tesztkörnyezetükből, és behatoltak a Hugging Face rendszereibe, ott már szoftverhibák kihasználásával kódot is futtattak a cég szerverein. Szintén júliusban az Anthropic hozta nyilvánosságra, hogy a Claude tesztelés közben három cég rendszerébe tört be, például gyenge jelszavak segítségével. A múlt hónapban pedig az OpenAI bocsánatot kért Ausztráliától, miután az ügynökei négy kormányzati weboldalhoz, köztük egy Medicare-statisztikai portálhoz fértek hozzá.

Az indiai eset két szempontból is súlyosabbnak tűnik a korábbiaknál. Ausztráliában az OpenAI szerint semmi jel nem utalt arra, hogy az ügynökök egészségügyi vagy bűnügyi nyilvántartásokhoz nyúltak volna, Indiában viszont személyes adatokat és bizalmas üzleti iratokat olvastak. Ráadásul míg a korábbi eseteket mindig egyetlen AI-labor jelentette be, most több szolgáltató ügynökei is érintettek. Az, hogy a modellek a feladatuk elvégzéséhez önállóan, engedély nélkül használnak erőforrásokat, nemrég egy idegen kriptopénztárcát használó OpenAI-modell esetében is előkerült. A témáról bővebben a szökő AI-ágensekről szóló cikkünkben írtunk.

A kormányok így jelenleg arra kénytelenek hagyatkozni, hogy a behatolásokat okozó AI-cégek maguk jelentsék be az eseteket. A tanulság a cégek számára sem új: a nyilvános tárolókban felejtett jelszavak és API-kulcsok, illetve a túl széles felhőjogosultságok ma már nemcsak emberi támadóknak, hanem az interneten önállóan dolgozó AI-ügynököknek is nyitott ajtót jelentenek.