A TikTok egészségügyi találatai között már AI-val létrehozott vagy módosított orvosvideók is osztanak tanácsokat, gyakran milliós közönségnek. A Hallam július elején közzétett vizsgálata 1198 népszerű videót nézett át, és az egészségügyi keresések első találatai között átlagosan 40 százalékban talált AI használatára utaló jeleket. A gond nem az, hogy egy videóhoz AI-t használtak. Az a veszélyes, amikor az AI-val készített vagy módosított kép, hang, háttér és szakmai történet együtt hiteles orvosi közlésnek látszik.
A hitelességet is le lehet gyártani
A Guardian által összegyűjtött példákban fehér köpenyes, magabiztosan beszélő figurák állították, hogy a mikrohullámú sütőben melegített műanyag, a dezodor vagy az ágy mellett hagyott telefon rákot okozhat. Más videók kólát és hagymát ajánlottak fájdalomra, illetve egy nem létező, Hyalethinap Plus Pro Max nevű készítményt reklámoztak. A Guardian szerint az utóbbit ajánló avatar többéves betegellátási tapasztalatot tulajdonított magának, a lap azonban magának a terméknek sem találta nyomát.
A Guardian nyitóképén szereplő férfi viszont nem kitalált személy. Ő Dr. Myroslav „Myro” Figura, a UCLA nyilvántartása szerint valódi, szakvizsgázott aneszteziológus. A lap képaláírása mégis AI-generált orvosként azonosítja. Az állóképből nem állapítható meg, hogy a konkrét videó hangját, hátterét, szövegét vagy más elemét módosították-e AI-val, illetve hogy eredeti vagy újraközölt felvételről van-e szó. Figura videói rendszeresen használnak bevágásokat, animációkat és magyarázó képeket, így az AI-jelölés akár egy ilyen szemléltető elemre is vonatkozhat. Ettől sem a szereplő, sem az egész videó nem válik automatikusan hamissá. Ez egyben a Hallam kézi besorolásának korlátját is megmutatja: az AI használatára utaló jel nem feltétlenül jelent mesterséges arcot, hamis orvost vagy félretájékoztatást.
Ezek közül több állítás régóta ismert tévhit. A Cancer Research UK összefoglalója szerint a műanyag ételtartók, a mikrohullámú melegítést is beleértve, nem okoznak rákot, ha az edényt a rendeltetésének megfelelően használják. A szervezet a dezodorok és a mobiltelefonok rákkeltő hatására sem talált megbízható bizonyítékot. Egy valódinak látszó digitális orvos ettől még könnyen hihetővé teszi ugyanazt a hamis állítást.
A 40 százalék erős adat, de nem a teljes TikTokot méri
A kutatásnál fontos a módszertan. A Hallam 25 keresőkifejezést vizsgált egy frissen létrehozott fiókkal, majd a legelőrébb rangsorolt videókat kézzel értékelte. Szintetikus hangot, mesterségesnek tűnő képet, ismétlődő forgatókönyvet, jellegzetes feliratozást és vizuális hibákat kerestek. A health tips keresés első ötven videójából 42-t, vagyis 84 százalékot soroltak az AI-val készült vagy AI-val segített tartalmak közé. Más egészségügyi kifejezéseknél jóval alacsonyabb arányt kaptak.
Ez egy marketingügynökség kutatása, nem szakmailag lektorált tanulmány. Egyetlen fiók ajánlásai, kiválasztott keresések és emberi megítélés alapján készült, így nem bizonyítja, hogy a TikTok összes egészségügyi videójának 40 százaléka mesterséges. Azt viszont jól jelzi, hogy a legláthatóbb találatok között az AI már tömegjelenség. A Guardian szerint az elemzett AI-egészségvideók átlagosan 2,5 millió megtekintést értek el, a teljes mintában pedig az AI-tartalmakat 9 százalékkal többször osztották meg.
A platform szabályai papíron már kezelik ezt
A TikTok közösségi irányelvei előírják a valósághű, AI-val létrehozott vagy jelentősen módosított emberek és jelenetek jelölését. A káros egészségügyi félretájékoztatást, valamint a hiteles intézménynek vagy szakértőnek álcázott forrásokat a platform eltávolíthatja, illetve kizárhatja az ajánlásokból. A TikTok vitatta, hogy a Hallam mintája a teljes szolgáltatást képviselné, és azt közölte, hogy együttműködik többek között a WHO-val és az NHS-szel.
A Guardian a kifogásolt videókat elküldte a platformnak, amely ezután eltávolította őket. Ez működő utólagos ellenőrzést mutat, de azt is, hogy a tartalmak addigra már nagy közönséget érhettek el. Emma Runswick, a Brit Orvosi Szövetség tanácsának alelnöke közbiztonsági kockázatnak nevezte a jelenséget. Az NHS szakértői és a brit háziorvosi szakmai testület szintén arra figyelmeztettek, hogy az ilyen videók valódi kezeléstől téríthetik el a nézőket.
Egy egészségügyi videónál ezért már az alapellenőrzés is számít: van-e a szereplőnek ellenőrizhető neve, valódi munkahelye és szakmai nyilvántartása, megjelöl-e külső orvosi forrást, és ígér-e gyanúsan egyszerű gyógymódot. Diagnózist, gyógyszerváltást vagy kezelést nem érdemes közösségi médiás videóra alapozni. A fehér köpeny eddig is csak kellék lehetett. Az AI korában már az arc és az állítólagos életrajz is az.
