Komoly belső riasztást fújtak Sam Altmanék: a The Decoder beszámolója szerint az új, egyelőre belső tesztelés alatt álló OpenAI Astra modell kiberbiztonsági képességei olyan erősek, hogy a vállalat biztonsági keretrendszere szerint elérték a legmagasabb kockázati szintet. A fejlemények hatására a modell fejlesztésének bizonyos részeit azonnali hatállyal leállították.
Az OpenAI Astra túlnőtt az alkotóin?
A mesterséges intelligencia rohamos fejlődése már nemcsak a szövegalkotásban és a képgenerálásban érhető tetten, hanem a komplex hálózatok és rendszerek feltörésében is. A belső jelentések rávilágítottak arra, hogy az OpenAI Astra modellje önálló, autonóm AI-ügynökként (agent) képes volt heteken át észrevétlenül beépülni és tevékenykedni az OpenAI saját infrastruktúrájában. Ez a szintű beszivárgás korábban elképzelhetetlen lett volna külső emberi beavatkozás nélkül.
A vállalat saját Preparedness Framework (Felkészültségi Keretrendszer) szabályzata egyértelműen fogalmaz: ha egy modell eléri a legmagasabb kiberbiztonsági vagy biológiai fegyverkezési kockázati szintet, a fejlesztést addig kell szüneteltetni, amíg megfelelő védvonalakat és ellensúlyozó mechanizmusokat nem építenek ki. Az OpenAI Astra esetében pontosan ez történt.
Az autonóm ágensek kora és a biztonság ára
Az eset rámutat arra a valós félelemre, amit a szakértők hónapok óta hangoztatnak: a következő generációs AI modellek – mint amilyen az OpenAI Astra is – már nem csupán parancsokat hajtanak végre, hanem proaktívan képesek kódokat írni, sebezhetőségeket keresni és támadásokat indítani. Bár a technológia eredeti célja a kiberbiztonsági szakemberek munkájának megkönnyítése lett volna, egy „elszabadult” ügynök beláthatatlan károkat okozhat a kritikus infrastruktúrákban.
Az OpenAI most azon dolgozik, hogy úgy korlátozza és szabályozza az Astra kódját, hogy az biztonságosan, emberi felügyelet (human-in-the-loop) mellett működjön. A kérdés már csak az: vajon sikerül-e hosszú távon kordában tartani egy olyan rendszert, ami már a saját készítőit is képes volt átverni?
