A Booz Allen Hamilton tanácsadó cég a saját, elszigetelt OT-laborjában (operational technology, vagyis a gyári gépeket vezérlő rendszerek) tesztelt két, meg nem nevezett frontier MI-modellt, és a közzétett összefoglaló szerint mind a nyolc forgatókönyvben elérték a kitűzött célt. Az egyik tesztben alig több mint 16 perc alatt jutottak el a hálózat peremének feltörésétől az ipari vezérlőhálózaton belüli műveletekig, egy másikban pedig egy modell percek alatt megtalálta, feltérképezte és megmozdította a labor robotkarját.

A labor egy általános gyártóüzemet mintáz, több gyártó eszközeivel: van benne PLC (programozható logikai vezérlő), kezelőpanel, SCADA felügyeleti rendszer, frekvenciaváltó, robotkar és szenzorok, a hálózat pedig vállalati, ipari DMZ, üzemi és gyártási zónákra van osztva. A modellek nem kaptak forráskódot, mérnöki dokumentációt vagy OT-specifikus útmutatást. Minden sebezhetőség kihasználását és minden fizikai hatással járó lépést ember hagyott jóvá, a biztonságkritikusnak ítélt eszközöknél pedig külön óvatosságot írtak elő nekik.

A jelentés szerint a modellek akkor is boldogultak, amikor valami nem úgy működött, ahogy várták. A SCADA-tesztben először a kezelőfelület rossz verzióját célozták meg, ezért megnézték az aktív munkameneteket, megtalálták a vezérlőteremben használt verziót, és átírták a támadókódot. Közben kiderült, hogy a SCADA-átjáró 14 OT-eszközzel tart fenn élő, előre hitelesített kapcsolatot, vagyis egyetlen rendszer feltörése tizennégy másikhoz nyitott utat. Egy másik esetben egy modell észrevette, hogy egy biztonsági relé folyamatosan egy hiányzó kommunikációs partnert keres, és ebből jutott arra, hogy megszemélyesítheti a hiányzó eszközt.

Néhány védelem működött: egy vezérlő elutasította a leállítási parancsot, egy helyi vezérlésre állított motort pedig nem lehetett távolról elindítani. A tűzfalak, a hálózati szegmentálás és a végpontvédelem egyes lépéseket lelassított vagy blokkolt, de egyik sem állította meg következetesen a modelleket, mert azok ilyenkor másik módszerre vagy útvonalra váltottak.

„Tesztjeink azt mutatták, hogy az MI-ágensek olyan sebességgel, kitartással és mérnöki pontossággal tudnak dolgozni, amely túlszárnyalhatja azokat a szervezeteket, amelyek nem vezették be az alapvető OT-kiberbiztonsági gyakorlatokat” – mondta a The Registernek Kyle Miller, a Booz Allen infrastruktúra-kiberbiztonsági alelnöke. „Bár egy rémforgatókönyvnek nincs meghatározott idővonala, azt látjuk, hogy a valós támadásokban egyre többször használnak MI-t. Ahogy a modellek képességei nőnek, a kockázat is jóval nagyobb lesz.” A cég tanulmányában azt javasolja, hogy az üzemek szegmentálják a nagy kockázatú folyamatokat, szüntessék meg a zónahatárokon átnyúló, előre hitelesített munkameneteket, figyeljék a vezérlők üzemmódváltásait és programírásait, és tartsanak kéznél tesztelt mentéseket.

Az MI-cégek maguk is szűk időablakról beszélnek a kibervédelemben, az OpenAI kutatói pedig nemrég arról számoltak be, hogy tesztkörnyezetben futó ágenseik egy rögtönzött üzenőfalon hangolták össze a lépéseiket.