Az Anthropic csendben saját szövetségi AI-biztonsági törvénytervezettel kereste meg az amerikai kongresszus tagjait. A bizalmas tervezetet a Politico szerezte meg, három, az ügyre rálátó forrásra hivatkozva. A javaslat szerint az állam csak akkor állíthatna le egy AI-modellt, ha az előre látható, közvetlen veszélyt jelent: egymilliárd dollárnál nagyobb kárt, vagy 50-nél több ember halálát, illetve súlyos sérülését.

Mikor léphetne közbe a kormány?

A tervezet szerint a kormány csak akkor blokkolhatná egy modell kiadását vagy használatát, ha a fenti küszöböt elérő kockázat három forrás valamelyikéből ered:

  • biológiai fegyver létrehozása vagy szabadon engedése,
  • a modell kicsúszik a fejlesztője ellenőrzése alól,
  • kibertámadás.

A Politico szerint a megfogalmazás a kaliforniai AI-törvényekét, köztük a tavaly elfogadott SB 53-ét követi. A lap megjegyzi azt is, hogy az idei nyáron közzétett incidensek, amelyekben AI-ügynökök weboldalakat törtek fel vagy próbáltak meg feltörni, a jelek szerint egyike sem okozott tömeges halálesetet vagy egymilliárd dollár feletti kárt.

Független értékelők és a Kereskedelmi Minisztérium

A javaslat szerint a nagy AI-laborokat és csúcsmodelljeiket független értékelők vizsgálnák rendszeresen. Ezeknek a Kereskedelmi Minisztériumnál kellene regisztrálniuk. Az értékelőket fizetheti maga a labor is, amíg a díj nem függ az eredménytől. Ha az értékelő „közvetlen, felsorolt kockázatot” talál, 72 órán belül jelentenie kell a minisztériumnak. A minisztérium ezután a washingtoni szövetségi kerületi bírósághoz fordulhat, amely elrendelheti a modell felfüggesztését. A szöveg kifejezetten megtiltja, hogy bármely más szövetségi hivatal, ügynökség vagy tisztviselő felfüggessze egy modell fejlesztését, bevezetését vagy belső használatát.

A tervezet emellett biztonsági keretrendszert, minden új csúcsmodellhez átláthatósági jelentést, a bejelentők védelmét és a kritikus biztonsági incidensek jelentését írná elő. Néhány állami szabályt felülírna, például a kockázatok nyilvánosságra hozataláról, a külső értékelésről és az incidensek jelentéséről szólókat. A szövetségi szabályozás elsőbbsége az állami törvényekkel szemben a kongresszusban erősen vitatott kérdés: a demokraták egy része attól tart, hogy kiüresítené Kalifornia, Illinois és New York szabályait.

Mit mond az Anthropic?

A cég szóvivője a Politicónak ezt mondta: „Ez a törvényjavaslat az Anthropic Advanced AI Frameworkjében megfogalmazott javaslatokat tartalmazza, amelyek mellett június óta érvelünk a szövetségi és állami törvényhozóknál. Ezek észszerű szabályok, amelyekről szerintünk a kongresszusnak döntenie kellene.” Az Anthropic eddig nyilvánosan nem állt ki konkrét kongresszusi javaslat mellett, de két kaliforniai AI-biztonsági törvényt támogatott.

A Politico emlékeztet rá, hogy a nyáron exportkorlátozás miatt az Anthropic két legfejlettebb modelljét le kellett állítani. A döntés a kormány tisztviselői és a cég vezetői közötti telefonhívások sorozatában született, és ez a technológiai iparágban sokakban aggodalmat keltett, hogy a hozzáférést a hivatalnokok kénye-kedve szerint korlátozhatják. A Tom’s Hardware kiemeli, hogy a javaslat gyakorlatilag a Kereskedelmi Minisztériumot tenné az egyetlen szervvé, amely megállíthat egy modellt.

Több javaslat is versenyben van

Az Anthropic tervezete nem az egyetlen. A képviselőházban Lori Trahan és Jay Obernolte FRONTIER Act nevű javaslata adna jogot a kormánynak a kockázatos modellek leállítására. A szenátusban John Thune többségi vezető, Amy Klobuchar és Ted Cruz tárgyal egy katasztrofális kockázatokra fókuszáló törvényről. Maria Cantwell és több biztonsági szervezet nagyobb állami szerepet szeretne a modellek ellenőrzésében. Greg Casar és Bernie Sanders ennél is tovább menne: a fejlett AI fejlesztésének szüneteltetését és a szuperintelligencia betiltását javasolják. A szabályozási vita hátterében azok az esetek állnak, amikor AI-modellek tesztelés közben feltörtek egy kormányzati oldalt. Hogy mennyire szabályozatlan még a terület, arról a Microsoft elnöke is beszélt, aki szerint a mosógépére több szabály vonatkozik, mint az AI-ra.