A Substack eredeti bejelentése szerint a platform a Pangrammal együtt olyan ellenőrzést vezet be, amely becslést ad arról, mennyire lehetett AI-val segített egy szöveg. A fontos különbség az, hogy ez nem automatikus figyelmeztető címke: az olvasó kérheti le, a szerző pedig vitathatja vagy eltávolíttathatja a szerinte hibás eredményt.
A jelzés csak kérésre jelenik meg
A Substack nem akar minden hosszabb bejegyzésre látványos AI-bélyeget tenni. A Pangram által készített becslés az olvasók számára kérhető le, vagyis alaphelyzetben nem ez fogadja a cikk alatt az embert.
A rendszer az új, legalább száz szavas jegyzeteket, válaszokat, kommenteket és bejegyzéseket vizsgálja. Weben és iOS-en már elérhető, az androidos változatot későbbre ígérik.
A Pangram is csak becslést ad
A cég maga is hangsúlyozza, hogy a detektor nem hibátlan. Megpróbálhatja felismerni az AI használatának jeleit, de nem tudja megmondani, hogy a szerző mennyit dolgozott a szöveggel, csak ötleteléshez használta-e a modellt, vagy épp egy forrást foglaltatott össze vele.
Ez a legkényesebb része az egésznek. Egy jó detektor sem tudja egyszerűen számmá fordítani a szerzői munkát, a rossz találat pedig könnyen bizalmi problémát okozhat. A Substack ezért nem ítéletként, hanem egy lekérhető tájékoztatóként próbálja kezelni az eredményt.
A szerzőknek is adnak eszközöket
A bejelentés szerint a készítők még publikálás előtt lefuttathatják a Pangram ellenőrzését. Készíthetnek egy rövid „How I make this” leírást is, amelyben elmondják, hogyan dolgoznak, és kérhetik egy tévesnek tartott eredmény felülvizsgálatát vagy eltávolítását.
- az olvasó kérhet becslést a szöveg AI-segítettségéről
- a vizsgálat az új, száz szónál hosszabb szövegekre vonatkozik
- a szerző előre ellenőrizheti a saját bejegyzését
- a vitatott találat ellen lehet jelezni a platformnak
Nem az a kérdés, gép írta-e az egészet
A Substack a jelenséget „Claudefishingnek” nevezi: amikor a szöveg emberinek próbál látszani, miközben valójában többnyire modell állította elő. A probléma valós, de a határ nem mindig éles. Egy szerző kérhet javítási ötleteket egy AI-tól, majd teljesen újraszerkesztheti az anyagot; egy másik változtatás nélkül átvehet egy kész választ.
Egy százalékos becslés ezért nem minőségi pecsét. Arra jó lehet, hogy az olvasó kérdezzen, a szerző pedig egyértelműbben beszéljen a munkafolyamatáról. Az, hogy ettől jobb lesz-e a platform, azon múlik, mennyire óvatosan kezelik a hibákat és mennyire nem csinálnak belőle újabb automatikus gyanúsítgatást.
