A The Guardian beszámolója szerint a brit Report Remove szolgálathoz 2026 első hat hónapjában 420 bejelentés érkezett gyerekektől olyan képek miatt, amelyeken a saját arcuk szerepelt explicit, mesterségesen manipulált tartalmon. Ez már most több, mint a teljes 2025-ös 397 eset.
Egy ártatlan fotóból is fegyver lehet
A Report Remove olyan szolgáltatás, amely névtelenül fogadja a kiskorúak bejelentéseit, majd digitális ujjlenyomatot, úgynevezett hasht készít a képről. Ezt a partnerplatformok felhasználhatják a tartalom eltávolítására vagy újbóli feltöltésének megakadályozására. A rendszer eredetileg intim képek terjedésének visszaszorítására készült, de a mesterséges intelligenciával manipulált fotók miatt új jelölést is be kellett vezetniük.
Dan Sexton, az Internet Watch Foundation technológiai vezetője szerint a probléma lényege, hogy egy nyilvánosan elérhető, ártatlan gyerekfotóból is készülhet szexuális tartalom. A manipulációhoz nem kell feltörni a gyerek fiókját, és az áldozat sokszor csak akkor értesül róla, amikor valaki zsarolni kezdi.
A bejelentések többsége már a legsúlyosabb kategóriába esik
Az IWF szerint a 2025-ben és 2026-ban bejelentett manipulált képek többsége olyan súlyos volt, hogy elérte a gyermekek szexuális bántalmazását ábrázoló tartalmakra vonatkozó küszöböt. Az Egyesült Királyságban az ilyen AI-tartalom előállítása és terjesztése is jogellenes, de a jogi tiltás önmagában nem akadályozza meg, hogy a képek pillanatok alatt több platformra kerüljenek.
Az ügyek egy része szextorzióhoz kapcsolódik: a támadó pénzt kér, vagy további képeket követel azzal a fenyegetéssel, hogy közzéteszi a hamis tartalmat. A Report Remove ezért nem egyszerű törlési szolgáltatás, hanem sok áldozat első biztonságos kapcsolódási pontja is.
A platformoknál kezdődik a felelősség
Az NSPCC szerint a technológiai cégek nem adhatnak ki új képalkotó eszközöket úgy, hogy a védelem később, külön frissítésként érkezik hozzájuk. A szervezet erősebb alapértelmezett korlátozásokat sürget, különösen a gyerekek arcával készített képek és a nudifikáló alkalmazások esetében.
A brit bűnüldöző szervek és a gyermekvédelmi szervezetek közben arra kérik a szülőket, hogy a gyerekekről készült felismerhető képeket lehetőleg ne nyilvános profilokon tegyék közzé. Ez nem oldja meg a problémát, csak csökkenti a könnyen hozzáférhető alapanyag mennyiségét. A valódi fordulatot az hozná, ha a platformok már a feltöltés előtt felismernék és blokkolnák a manipulált tartalmat.
