Az amerikai NIST (National Institute of Standards and Technology) közzétette annak az iparági konzultációnak az összegzését, amelyben vállalatok, kutatók és biztonsági szakértők mondhatták el véleményüket az AI-agentek és autonóm AI-rendszerek biztonsági problémáiról.
A dokumentum egyik legfontosabb megállapítása, hogy az úgynevezett „agentic AI” rendszerek teljesen új támadási felületeket nyithatnak meg, amelyekre a jelenlegi kiberbiztonsági modellek nem feltétlenül készültek fel.
Nem hagyományos chatbotokról beszélnek
A NIST anyaga kifejezetten azokra az AI-rendszerekre fókuszál, amelyek:
- önálló döntéseket hoznak,
- külső eszközöket használnak,
- memóriával rendelkeznek,
- szolgáltatásokhoz kapcsolódnak,
- és komplexebb workflow-kat hajtanak végre emberi beavatkozás nélkül.
A válaszadók szerint ezek az AI-agentek sokkal nagyobb kockázatot jelenthetnek, mint a klasszikus chatbotok vagy egyszerű generatív AI-modellek.
Ezeket a támadási formákat emelték ki
A NIST összefoglalója alapján több szakértő különösen veszélyesnek tartja:
- az indirekt prompt injection támadásokat,
- a memória-mérgezést,
- a jogosultságokkal való visszaélést,
- a tool access manipulációt,
- valamint a multi-agent rendszerek láncreakciós hibáit.
A dokumentumban többször előkerül a „confused deputy” probléma is. Ez leegyszerűsítve olyan helyzetet jelent, amikor egy AI-agent legitim hozzáférésekkel hajt végre olyan műveleteket, amelyeket valójában egy támadó manipulált ki belőle.
A klasszikus cybersecurity már kevés lehet
A válaszadók jelentős része szerint a jelenlegi cybersecurity-modellek önmagukban nem elegendők az AI-agent korszakban.
A NIST szerint a fő problémát az okozza, hogy ezek a rendszerek:
- dinamikusan működnek,
- több külső rendszert kapcsolnak össze,
- folyamatosan kontextust kezelnek,
- és bizonyos helyzetekben autonóm döntéseket hoznak.
Ez jelentősen megnehezítheti a hagyományos hozzáférés-kezelést és biztonsági ellenőrzést.
Nagy iparági szereplők is reagáltak
A konzultációban több szervezet és vállalat is részt vett, köztük az OpenID Foundation, valamint több AI-biztonsági kutatócsoport és technológiai szereplő.
A jelentés jól illeszkedik ahhoz az iparági trendhez, hogy az OpenAI, az Anthropic, a Google, a Microsoft és az xAI egyre fejlettebb AI-agent rendszereken dolgozik.
Miközben ezek a platformok egyre több autonóm feladatot képesek kezelni, a szabályozói és biztonsági oldal láthatóan egyre komolyabban aggódik a kontrollálhatóság miatt.
A következő évek egyik legfontosabb kérdése az lehet, hogy a cégek mennyire tudnak biztonságosan működő AI-agenteket építeni — még azelőtt, hogy ezek széles körben hozzáférnének érzékeny rendszerekhez és valós digitális infrastruktúrákhoz.
