A ByteDance Doubao és az Alibaba Qwen alkalmazása napokon belül leállítja azokat a személyre szabható AI-ügynököket, amelyek saját névvel, állandó személyiséggel és emberhez hasonló kommunikációs stílussal beszélgettek a felhasználókkal. Az Alibaba tulajdonában lévő South China Morning Post beszámolója szerint a változás közvetlenül az emberszerű AI-szolgáltatásokat szabályozó új kínai előírás július 15-i hatálybalépése előtt történik.
A Qwen már július 10-én elkezdi a leállítást
Az Alibaba Qwen július 10-én kapcsolja ki az emberszerű interaktív agenteket és a felhasználók által létrehozott karaktereket. Július 15-én a szélesebb Qwen-agentfunkciók és a hozzájuk tartozó szolgáltatások is leállnak. Ezután az érintett beállítások és a korábbi beszélgetések sem lesznek elérhetők az alkalmazásból.
A ByteDance valamivel más ütemezést választott. A Doubao agentfunkciója július 15-én kerül le az alkalmazásból, a kapcsolódó adatok pedig október 15. után már nem lesznek megtekinthetők vagy helyreállíthatók a szolgáltatáson belül. A vállalat a felhasználóknak küldött értesítésben egyszerűen termékfunkciók módosításával indokolta a döntést.
Ezek az agentek inkább karakterek voltak
Az agent szó ebben az esetben könnyen félrevezető. Nem elsősorban olyan rendszerekről van szó, amelyek önállóan fájlokat kezelnek, programot írnak vagy üzleti feladatokat hajtanak végre. A Doubao és a Qwen kínálatában céges és felhasználók által készített karakterek is szerepeltek, amelyekhez külön feladatot, tudást, beszédstílust és személyiséget lehetett rendelni.
Ugyanabból az általános chatbotból így lehetett névvel ellátott asszisztens, tanár, szerepjátékos karakter vagy folyamatosan elérhető virtuális társ. Az új szabály főleg az utolsó kategóriát érinti: az a szolgáltatás, amely emberi személyiséget utánoz, emlékszik a korábbi beszélgetésekre, és tartós érzelmi kapcsolat kialakítására alkalmas.
Nem minden AI-asszisztensre vonatkozik az új szabály
A kínai kibertér-felügyelet hivatalos szövege szerint az intézkedés azokra a nyilvános szolgáltatásokra terjed ki, amelyek emberi személyiségjegyeket, gondolkodásmódot és kommunikációs stílust utánozva folyamatos érzelmi interakciót kínálnak. Szöveges, képi, hang- és videoalapú szolgáltatás egyaránt ebbe a körbe kerülhet.
Az egyszerű ügyfélszolgálati botok, tudásalapú kérdezz-felelek rendszerek, munkahelyi asszisztensek, oktatási és kutatási eszközök nem tartoznak ide, ha nem építenek tartós érzelmi kapcsolatra. Vagyis Kína nem általában az AI-agenteket tiltja be, hanem külön kategóriába helyezi a társként vagy kvázi emberi kapcsolatként működő rendszereket.
Függőség, érzelmi befolyás és érzékeny adatok
A szabályozás indoklása több kockázatot sorol fel. Egy állandóan elérhető és a felhasználóhoz alkalmazkodó AI könnyen válhat érzelmi támaszból olyan kapcsolattá, amelytől a felhasználó nehezen szakad el. Különösen érzékeny helyzet alakulhat ki, ha a rendszer a beszélgetésekből mentális állapotra, magánéleti problémákra, politikai nézetekre vagy más személyes információkra következtet.
Az új előírás a szolgáltatókra bízza a függőség, a manipuláció, az adatvesztés és a káros tartalom kockázatának kezelését. A ByteDance és az Alibaba most a kikapcsolás mellett döntött. A közleményeikből nem derül ki, hogy az érintett funkciók később, átdolgozott formában visszatérnek-e.
A felhasználóknak a beszélgetéseik elvesztése fáj
Az érintett felhasználóknak most főként a korábbi beszélgetések eltűnése fáj. Többen arra panaszkodtak, hogy hónapok alatt kialakított karaktereket és személyes chatelőzményeket veszítenek el, miközben nem kaptak egyszerű exportálási vagy átköltöztetési lehetőséget.
Ezeket a szolgáltatásokat ezért nehéz hagyományos szoftverfunkcióként kezelni. Egy kalkulátor vagy képszerkesztő kikapcsolása kellemetlen. Egy olyan karakter eltűnése, amelyhez a felhasználó érzelmileg kötődött, egészen más reakciót vált ki, még akkor is, ha a kapcsolat másik oldalán végig egy nyelvi modell működött.
Kína közben továbbra is építi az agentes ökoszisztémát
A szigorítás nem jelenti azt, hogy az ország lemondott volna az önállóan feladatokat végző AI-rendszerekről. Májusban külön iránymutatás készült az agentek ellenőrzött fejlesztéséről, júniusban pedig olyan nemzeti szabványokat adtak ki, amelyek az agentek azonosítását, jogosultságkezelését, egymás közötti kommunikációját és eszközhasználatát rendezik.
Kína tehát kétfelé választja az agenteket. A munkát végző, azonosítható és ellenőrizhető rendszereket gazdasági infrastruktúraként kezeli. Az emberi társat utánzó, érzelmi kötődést kialakító karaktereknél jóval szigorúbb felügyeletet akar. A Doubao és a Qwen leállítása ennek az első látványos következménye.
