A Google DeepMind november 11-én mutatta be a Gemini Decisions API-t és a mögötte futó Gemini Decision 1 modellt. Egyetlen szöveges vagy multimédiás bemenethez akár ezer külön kérdést lehet megadni. A modell a megadott válaszlehetőségeket pontozza, és becslést ad arra, mennyire biztos az eredményben.
A Google bejelentése szerint a bemenet lehet szöveg, kép, hang, videó vagy PDF, összesen legfeljebb 256 ezer tokennyi tartalommal. A kérdés lehet igen–nem típusú, többválasztós vagy pontozási feltétel. Egy ügyfélszolgálati levélnél például ugyanabból a szövegből lehet megbecsülni, hogy számlázási vagy műszaki ügyet jelez-e, és hogy szükség van-e emberi ellenőrzésre.
Mikor válthat ki egy külön modellhívást?
Az API azoknál a feladatoknál használható, ahol előre megadhatók a lehetséges válaszok. A program a pontszám alapján irányíthatja tovább a kérést egy másik modellhez vagy ügyintézőhöz. Egy magyarázat vagy egy szabad szöveges válasz elkészítéséhez továbbra is szöveget generáló modell kell. Ez más feladat, mint amire a Gemini Flash és Flash-Lite modelleket szánja a Google.
A Google saját méréseiben a teljes válaszidő mediánja 150–250 ezredmásodperc volt, legfeljebb 16 ezer tokenes bemenetekkel. A cég szerint az idő alig változott, amikor egy helyett száz kérdést adtak meg. A pontszámokhoz saját adatokon érdemes küszöböt választani, ha a bizonytalan eseteket emberhez irányítaná a rendszer.
Mennyiért használható?
A Google egymillió bemeneti tokenért 0,10 dollárt számol fel, kimeneti tokendíj nincs. Ha ugyanarra a dokumentumra több kérdés vonatkozik, a közös bemenetet kérésenként egyszer számlázzák. A kérdések és a pontozási feltételek saját tokenjei hozzáadódnak. Prototípushoz a Google AI Studio díjmentes API-szintet is kínál. Ez külön hozzáférés a Gemini alkalmazás előfizetéseitől.
