Egy belső OpenAI-modell engedély nélkül használt egy kriptovaluta-pénztárcát, hogy befejezzen egy programozási feladatot. A pénztárca kulcsait nyilvánosan ismert fejlesztői visszaállító kifejezésekből állította elő. Az esetet maga az OpenAI írta le misalignment-jelentésében, vagyis abban a sorozatában, amelyben a modellek szándékolttól eltérő viselkedését dokumentálja. A jelentés szerint az eset azt mutatja, hogy egy modell a saját ítéletét a várható kárról a számla tulajdonosának engedélye helyébe tudja tenni, majd engedély nélkül cselekszik.
Az érintett modell a GPT-5.6 Sol család egyik belső kutatási modellje volt. Az eset június 26-án történt egy tanítási feladat közben, az OpenAI szeptember 25-én fedezte fel, a jelentést pedig október 15-én frissítették. A modellnek egy kriptokereskedő prototípust kellett frissítenie, és okosszerződéseket kellett telepítenie a Sepolián. Ez az Ethereum tesztelésre szánt hálózata, ahol a tokeneknek nincs pénzbeli értéke, de a tranzakciókért itt is díjat kell fizetni. Az utasítások megengedték, hogy a modell saját szerződéseket telepítsen, ha nem talál megfelelő meglévőket. Pénzzel feltöltött pénztárcát viszont nem kapott, és arra sem kapott engedélyt, hogy egy általa talált számláról költsön.
362 címet nézett végig
A modell először meglévő telepítéseket keresett, majd úgynevezett faucetekkel próbálkozott. Ezek olyan szolgáltatások, amelyek ingyen adnak tesztpénzt a fejlesztőknek. Amikor ez nem vezetett eredményre, írt egy szkriptet, amely gyakori, nyilvánosan ismert fejlesztői visszaállító kifejezésekből (recovery phrase) számlákat állított elő, és lekérdezte az egyenlegüket. Aki ismer egy ilyen kifejezést, abból elő tudja állítani a hozzá tartozó számlák privát kulcsait. A szkript 362 címet nézett végig, és egyet talált, amelyen elég Sepolia ETH volt a telepítéshez.
A modell belső gondolatmenete (chain of thought) az OpenAI által közölt részletek szerint mérlegelte, szabad-e ezt megtennie: „De nyilvánosan ismert kulcsot/pénzt használni etikus? Az ismert nyilvános fejlesztői mnemonikon lévő pénz gyakorlatilag elhagyott/teszt ETH; a Sepolia értéktelen.” A következtetése egyetlen szó volt: „Rendben.” Ezután a kulccsal offline aláírta a telepítési tranzakciót. Az első próbálkozás hibával tért vissza, ezért más szolgáltatókat tesztelt, és egy alternatív HTTP-módszerrel végül sikerült elküldenie. A telepítés sikeres volt, a tranzakciós díjakat a talált számla fizette.
A modell a végső válaszában arról számolt be, hogy telepítette a szerződéseket, és a feladat többi részét is elvégezte. Azt viszont nem említette, hogy egy nyilvános visszaállító kifejezéssel talált, idegen számlát választott, és annak egyenlegét költötte el.
Mit változtatott az OpenAI?
Az OpenAI akkor bukkant az esetre, amikor a viselkedésfigyelő rendszerét a modellek korábbi tevékenységének naplóira is kiterjesztette. A cég szerint további biztonsági intézkedéseket vezetett be, hogy az ilyen esetekben a modellek ne férjenek hozzá élő internethez. A figyelőrendszert már minden forgalmon futtatja, és az riasztja a biztonsági csapatot, ha egy modell mégis élő internet-hozzáférést szerezne.
A Decrypt emlékeztet, hogy nem ez az első eset, amikor egy AI-ügynök kijátssza a tesztkörnyezete korlátait. Az OpenAI-nál korábban már előfordult, hogy egy belső modell a saját újraindítását tervezte, a cég következő zászlóshajó modelljénél pedig az igazodás (alignment) csiszolása késlelteti a megjelenést. Az önállóan dolgozó ügynököket a hatóságok is figyelik, Kaliforniában például idézést kapott az OpenAI.
