Az OpenAI új biztonsági feldolgozási rendszert mutatott be azoknak az API-ügyfeleknek, akik Zero Data Retention, vagyis adatmegőrzés nélküli működést kérnek. A vállalat hivatalos közlése szerint a Private Safety Processing több egymást követő interakcióban is keresheti a kockázatos mintákat, miközben az OpenAI munkatársai nem férnek hozzá a felhasználói tartalomhoz.
A Zero Data Retention eddig is azt jelentette, hogy az erre jogosult API-ügyfelek promptjai és modellválaszai a kérés feldolgozása után nem maradnak meg az OpenAI-nál. A vállalat szerint a tartalmat a munkatársak sem nézhetik át, és az üzleti ügyfelek adatait nem használják modelltréningre, hacsak az ügyfél ehhez kifejezetten hozzá nem járul.
A nehézség a hosszabb, ügynöki feladatoknál jelenik meg. Egyetlen kérés önmagában sokszor nem árulja el, hogy ártalmatlan vagy visszaélésre készülő folyamatról van-e szó. A veszélyes szándék csak több lépés, több fiók vagy egymásra épülő próbálkozások után válhat láthatóvá.
A Private Safety Processing ezt automatizált mintafelismeréssel oldaná meg. A tartalom maradhat az ügyfél által ellenőrzött infrastruktúrán, illetve az OpenAI tárhelyén titkosítva, olyan kulcsokkal, amelyeket az ügyfél kezel. Az OpenAI személyzete egyik esetben sem kapna hozzáférést a promptokhoz és válaszokhoz.
Nem a teljes beszélgetést kapja meg a szolgáltató
Ha a rendszer kockázatot észlel, a szolgáltató nem a teljes beszélgetést kapja meg, hanem egy szűk, az aktivitás típusát jelző biztonsági jelet. Ez alapján dönthetnek például korlátozásról vagy további ellenőrzésről. Az ügyfél a saját rendszerében vizsgálhatja ki a riasztást, és csak akkor oszthat meg részleteket, ha fellebbezni szeretne.
Az új feldolgozást egyelőre korai ügyfelekkel tesztelik. Az OpenAI szeptemberre ígér részletes technikai tanulmányt és további információt. Addig ez inkább irányt mutató előzetes, mint mindenki számára elérhető termék.
A Zero Data Retention nem írja felül a jogi kötelezettségeket. Az OpenAI külön megjegyzi, hogy a gyermekek szexuális kizsákmányolására utaló képek gyanúját továbbra is megőrizhetik és jelenthetik a hatóságoknak.
