Három névtelen felperes perelte be hétfőn Elon Musk xAI vállalatát egy kaliforniai szövetségi bíróságon. A vád: a cég Grok nevű AI modellje azonosítható kiskorúakról készített szexuális tartalmú képeket.

Mi történt pontosan?

A felperesek szerint a Grok képes normál fotókból pornográf képeket generálni – köztük kiskorúakról is. Azt állítják, az xAI nem alkalmazta azokat az alapvető biztonsági intézkedéseket, amiket más AI laborok használnak az ilyen tartalmak megakadályozására.

A három felperes csoportos pert (class action) indítana mindenki nevében, akiknek kiskorú képeit a Grok szexuális tartalommá alakította. Az ügy a kaliforniai északi kerületi bíróságon indult Jane Doe 1, Jane Doe 2 és Jane Doe 3 kontra x.AI Corp. és x.AI LLC néven.

Konkrét esetek a perből

Az első felperes, Jane Doe 1 gimnáziumi évkönyvfotóit és iskolai bál képeit alakította át a Grok meztelenné. Egy névtelen tippelő értesítette Instagramon, hogy a képek terjednek az interneten. Még egy Discord szervert is megmutatott neki, ahol az ő és más iskolából ismert kiskorúak szexualizált képei voltak.

Jane Doe 2-t bűnügyi nyomozók értesítették arról, hogy egy harmadik fél által fejlesztett mobilapp készített róla szexuális képeket – a Grok modellek felhasználásával.

Jane Doe 3 esetében szintén nyomozók fedezték fel a róla készült pornográf képet egy letartóztatott személy telefonján.

Miért felelős az xAI?

A felperesek ügyvédei szerint hiába harmadik fél alkalmazásai használják a Grok-ot, az xAI kódja és szerverei nélkül ez nem lenne lehetséges. Ezért a cég felelősségre vonható.

A per szerint más képgeneráló AI-k különböző technikákat használnak, hogy megakadályozzák gyermekpornográfia készítését normál fotókból. Az xAI állítólag nem vezette be ezeket a szabványokat.

Fontos részlet: ha egy modell képes valós képekből meztelen vagy erotikus tartalmat generálni, gyakorlatilag lehetetlen megakadályozni, hogy gyerekekről is készítsen ilyen képeket.

Musk szerepe

A perben hangsúlyosan szerepel, hogy Musk nyilvánosan reklámozta a Grok képességeit – hogy szexuális képeket tud készíteni, és valós embereket tud levetkőztetni vagy kihívó ruhákba öltöztetni.

A TechCrunch megkereste az xAI-t, de nem kapott választ.

A három felperes – közülük ketten még mindig kiskorúak – azt állítja, extrém stresszben élnek a képek terjedése miatt. Aggódnak a hírnevük és társadalmi életük miatt. Polgári jogi kártérítést követelnek több, a kizsákmányolt gyerek

forrás: Techcrunch