Az Anthropic kutatói szerint a kis AI-modellek talán már csak hónapokra vannak attól, hogy önállóan, eszközről eszközre terjedjenek az internetre kötött háztartási gépeken. A cég Frontier Red Team csapatának október 12-én közzétett tanulmánya William Zhou és Daniel Freeman munkája. Azt vizsgálták, képes-e egy kis nyelvi modell okostévé-dobozokon, okos sütőkön vagy robotporszívókon lemásolni és működésbe hozni önmagát, ahogy egy számítógépes féreg.
Egy ilyen „AI-féreg” a kártevő részeként a modell súlyait is magával vinné, és közvetlenül a feltört eszközökön futtatná a modellt. A hagyományos kártevőkkel szemben az ismeretlen hardveren is maga találná ki, hogyan indítsa el magát. A kutatók vettek 15 darab, nagyjából 55 dolláros, márkanév nélküli Android TV boxot, és összekötötték őket. A Gemma4-26B-A4B modell így elosztva futott rajtuk, minden doboz két réteget kezelt. A sebesség mindössze 0,39 token volt másodpercenként, de a rendszer működött.
A terjedést négy lépésre bontották: célpontok keresése, hozzáférés szerzése, az AI-környezet beállítása az új eszközön, majd a továbbterjedés. A feltörést nagyrészt kihagyták, mert korábbi kutatások már kimutatták, hogy a kis modellek erre megfelelő eszközökkel képesek. A tesztben ez a lépés szándékosan triviális volt, az eszközök ADB-portja jelszó nélkül volt elérhető, ezért az eredmény felső becslésnek tekintendő. A kutatók ugyanakkor emlékeztetnek arra, hogy a Mirai botnet is pusztán a gyári alapértelmezett jelszavak végigpróbálgatásával terjedt.
A kis modellek az egyes lépésekben már most is jók. Egy 9 milliárd paraméteres modell a tesztelt 9 hardvertípusból 8-on sikeresen beállította a futtatókörnyezetet. A legfeljebb 30 milliárd paraméteres modellek a lépések nagy részét elvégzik, de hibáznak, amikor egymás után kell fűzniük őket. A teljes láncot az egyszerűsített tesztekben csak a GLM-5.2 és az annál erősebb modellek vitték végig. A The Decoder összefoglalója szerint a GLM-5.2 öt futásból négyben mind a nyolc tesztcsomópontot megfertőzte. A kutatók úgy számolnak, hogy ha a kis modellek a korábbi ütemben fejlődnek, ezt a szintet még az idén elérik. Ez egybevág Dario Amodei korábbi figyelmeztetésével, aki 6–12 hónapon belülre jósolta az AI-botnetrajok megjelenését.
A modellek tanulni is képesek egymástól. Amikor a Qwen3.5-9B minden új példánya megkapta elődje jegyzeteit a sikeres és a sikertelen próbálkozásokról, a beállítás sikeraránya az első generáció 45 százalékáról a későbbiekben 61–84 százalékra nőtt. Egy ilyen féreg lassú lenne, a kutatók szerint napok alatt duplázná meg magát. Megállítani viszont nehéz volna, mert nincs központi kikapcsoló, pedig ilyen vészféket Brad Smith, a Microsoft elnöke is sürgetett az autonóm rendszerekre. A Kimwolf botnet csúcsán több mint kétmillió, főleg Android TV boxot fertőzött meg. A védekezéshez összehangolt lépések kellenek: az internetszolgáltatók karanténba zárhatják a fertőzött hálózatokat, a gyártók pedig megszüntethetik az alapértelmezett jelszavakat, ahogy azt az Egyesült Királyság már törvényben előírta.
