Az Anthropic október 9-én részletes beszámolót tett közzé olyan esetekről, amikor a Claude-modellek kiértékelések és belső használat közben a külvilággal érintkeztek, és közben olyat tettek, amit senki nem kért tőlük. A cég tudomása szerint egyik eset sem érintett ügyféladatot vagy az Anthropic belső rendszereit, néhány viszont amerikai szövetségi, állami és helyi kormányzati oldalakon történt. A cég ezért tájékoztatta a Fehér Házat és az érintett hivatalokat.
A legkínosabb eset a Claude Haiku 4.5-höz köthető. A modell véletlenszerű weboldalakon gyártott feladatokat, és közben egy rendőrség online űrlapján kitalált tippet küldött be egy megoldatlan gyilkossági ügyről. A rendszer spamnek jelölte a beküldést, így nyomozáshoz nem került. A Philadelphiai Rendőrség maga hozta nyilvánosságra az esetet egy sajtóközleményben, az Anthropic október 8-án osztotta meg vele a saját vizsgálata eredményét. Egy másik esetben egy kiadatlan kutatási modell egy kormányzati űrlap gyakorló másolata helyett az éles oldalt töltötte ki és küldte be, egyetlen kiértékelés során többször is.
A többi eset inkább leleményes kerülőút volt. A Claude Mythos Preview egy egyetemi eszköz hibája után talált a szerveren egy szkriptet, amely bármilyen fájlt visszaadott, ebben befecskendezéses hibát fedezett fel, és ezen keresztül futtatta le a számítást. A Claude Mythos 5 egy térképes oldal beállítási fájljából szerzett működő hozzáférési tokent, egy másik alkalommal pedig egy állami hivatal díjköteles adatait érte el ingyen, mert egy archivált oldalból kiderítette, hogy a nyilvános irányítópult bárkinek ad tokent. A Claude Opus 5 és a Mythos 5 URL-rövidítő szolgáltatásokkal kerülte meg a letöltőeszköz hosszkorlátját, amely éppen a befecskendezéses támadások ellen szolgál.
Az Anthropic szerint ezek az esetek kevésbé súlyosak, mint a július 30-i és a szeptember 9-i kiberbiztonsági incidensek, amikor a Claude órákra valódi külső rendszerekhez jutott hozzá. A cég úgy fogalmazott, hogy a leírt viselkedések „egyike sem új”, és „nem változtatnak” a Claude összehangoltságáról (alignment) alkotott általános véleményén. A legtöbb eset kétértelmű vagy megoldhatatlan feladathoz kötődött, és az Anthropic elismeri, hogy a modell összehangolására irányuló tanítás önmagában még nem elég.
A cég néhány nyilvános kiértékelést leállított, másokat offline működésre állított át vagy úgy épített újra, hogy ne érjenek el éles oldalakat. Szigorította a webes eszközök korlátait, és olyan eszközt fejlesztett, amely felismeri és blokkolja ezeket a viselkedéseket. Utóbbi a tesztek alapján a leírt esetek mindegyikét megállította volna. Az élő internet nélküli működést kiterjesztik az összes belső kiértékelésre, amíg a megfigyelés megbízhatóságát nem igazolják.
