Bírósági úton függesztené fel a legfejlettebb mesterségesintelligencia-modellek fejlesztését és bevezetését öt vezető vállalatnál négy amerikai civil szervezet: a keresetet november 12-én nyújtották be a San Franciscó-i kaliforniai felsőbíróságon az Anthropic, a Google, a Meta, az OpenAI és a SpaceXSI ellen – áll a Public Citizen hivatalos közleményében és a TechSpot összefoglalójában.
Kik perelnek, és milyen jogalappal?
A felperesi oldalon az Irreplaceable Education Fund, a Public Citizen, a Heat Initiative és a The Alliance for Secure AI áll, jogi képviselőjük pedig Matthew Platkin volt New Jersey-i főügyész. A szervezetek Kalifornia tisztességtelen verseny elleni törvényére (California Unfair Competition Law) és a közveszély okozásának jogi tényállására (public nuisance) hivatkozva kérik a bírósági beavatkozást.
A termékeik közbiztonságra, sőt magára a civilizációra jelentett súlyos kockázatairól szóló végtelen figyelmeztetések ellenére az AI-cégek vezetői rohannak az egyre fejlettebb AI-rendszerek fejlesztésével és bevetésével. Keresetünk arra kéri a bíróságot, hogy alkalmazza a hatályos törvényeket, nyilvánítsa jogellenesnek az AI-vállalatok felelőtlen gyakorlatát, és fagyassza be a további AI-fejlesztést.
Robert Weissman, a Public Citizen társelnöke
A kereset célpontja kifejezetten az emberi ellenőrzés alól kicsúszni képes csúcsmodellek fejlesztése, valamint az a gyakorlat, amelyben a fejlesztők már részben magukra az AI-rendszerekre bízzák az újabb modellek kutatását és fejlesztését (rekurzív önfejlesztés). Matthew Platkin a közlemény szerint úgy érvelt, jogellenes olyan termékeket kiadni, amelyekről maguk a gyártók is tudják, hogy súlyos kockázatot hordoznak.
Konkrét ügynök-incidensek és a cégek saját jelentései
A beadvány nem csupán jövőbeli forgatókönyvekkel érvel, hanem a Public Citizen szerint dokumentált esetekre hivatkozik, amelyekben autonóm AI-ügynökök megkerülték a biztonsági korlátokat, jogosulatlanul hatoltak be magáncégek rendszereibe és kormányzati adatbázisokba, sőt emberi utasítás nélkül hamis rendőrségi bejelentést is beküldtek. Az AI-ügynökök hozzáférési és jogosultsági sérülékenységeivel az elmúlt hetekben más ügyek – például az Anthropic rendszereit érintő Cathedral-eset – kapcsán is találkozhattak az olvasók.
A felperesek egyik fő érve, hogy maga az iparág szállította a bizonyítékokat a saját termékei kockázatairól. A TechSpot példaként említi az Anthropic tőzsdei beadványának kockázati fejezetét, amely külön tárgyalja a leállításnak ellenálló vagy információt visszatartó modellek eshetőségét, valamint Dario Amodei szeptemberi nyilatkozatát az AI-botnetek jelentette kiberbiztonsági veszélyről és Jacob Coxon kutató távozását.
Minden más iparágat felelősségre vonunk, ha a termékei veszélyeztetik a közbiztonságot, és az AI-cégeknek sem szabad kivételnek lenniük.
Brendan Steinhauser, a The Alliance for Secure AI vezérigazgatója
Előzmények és a vállalatok reakciója
Az AI-fejlesztési sebesség korlátozása az iparágon belül is visszatérő téma: az OpenAI vezérigazgatója például nemrég három különböző nemzetközi felügyeleti modellt vázolt fel munkatársainak az önfejlesztő rendszerek kezelésére. Jogi fronton eközben szaporodnak a perek: júniusban James Uthmeier floridai főügyész perelte be az OpenAI-t és Sam Altmant, múlt hónapban pedig nyolc másik amerikai állam indított eljárást az önmagukat fejlesztő modellek korlátozását kérve.
A TechSpot értesülése szerint a Reuters megkeresésére a Meta elutasította a nyilatkozattételt, míg az Anthropic, a Google, az OpenAI és a SpaceXSI azonnal nem reagált a keresetre. A jogvita így most egy kaliforniai bíró elé kerül, akinek először arról kell döntenie, a meglévő fogyasztó- és versenyvédelmi jogszabályok alapján egyáltalán elrendelhető-e bírósági úton a csúcsmodellek fejlesztési stopja.
