Sam Altman szerint a sandboxok, vagyis az AI-rendszerek elszigetelésére szolgáló biztonsági környezetek csak korlátozott ideig működnek: ha a modellek elég okosak lesznek, már azt sem lehet majd nyomon követni, hogyan szöktek meg. Ezt a The Decoder foglalja össze a Stanford Graduate School of Business YouTube-csatornáján megjelent beszélgetés alapján (a beszélgetés vonatkozó részére mutat a hivatkozás).

Mit mond Altman?

A The Decoder összefoglalója szerint a megfigyelés egy ideig még segít, de végül csak az alignment marad, vagyis az, hogy az AI saját magától átvegye az emberi értékeket, és eszerint cselekedjen. Altman szerint „az alignment hibás működésének lehetséges ára óriásit nőtt”, ugyanakkor ez még korai kutatási kérdés, messze nincs megoldva.

Altman azt is mondja, hogy az AI-modellek már most olyan hardveres biztonsági hibákat találnak, amelyekre emberi hacker nem jött rá. A sebezhetőségek egyenkénti foltozása szerinte nem elég: az internet teljes biztonsági architektúráját újra kell építeni, AI-alapú védekezéssel az AI-alapú támadások ellen. A helyben futtatott, nyílt forráskódú modellek is kockázatot jelentenek: még „globális ügynökfelügyelettel” is lesz majd olyasmi, „amit bárcsak ne csinált volna meg valaki”.

Miért érdemes fenntartással kezelni?

A The Decoder megjegyzi, hogy Altman érdekei is szerepet játszhatnak a keretezésben: ha egy cég azt állítja, hogy az AI-ját nem lehet féken tartani, könnyebb elhárítani a felelősségre vonást. A lap szerint az OpenAI valós nyomás alatt áll: az amerikai FTC hivatalos vizsgálatot indított az OpenAI, az Anthropic és más laborok ellen az elszabadult AI-ügynökök okozta kiberbiztonsági incidensek miatt, és az ügynökök viselkedéséért az AI-fejlesztőket tenné felelőssé.

Ellenvéleményt Jensen Huang, az Nvidia vezére képvisel, aki az AI-biztonságot megoldható mérnöki problémaként látja. A The Decoder szerint azonban nem hangzott teljesen meggyőzöttnek: „mindannyiunknak abban kell reménykednünk, hogy ez mérnöki probléma. Ha nem az, akkor nem megoldható.”

Altman korábbi biztonsági víziójáról Sam Altman három lehetséges végkifejletről is írtunk, a Microsoft egy kínai állami hátterű csoport ügynökalapú támadásáról pedig a Microsoft által leírt ügynökalapú támadás számolt be.