A The Information két, a projektre rálátó forrást idéző beszámolója szerint a Google egy Frozen v2 kódnevű szerverchipen dolgozik, amelynél a Gemini neurális hálózati architektúrájának egy részét magába a szilíciumba építené. A cél az inferencia olcsóbbá és takarékosabbá tétele, de ez még nem bejelentett Google-termék: a vállalat szóvivője a lapnak csak annyit mondott, hogy nem minden kutatási projekt jut el gyártásig.
A chip kevesebb döntést hagyna futás közbenre
Egy mai TPU vagy GPU sokféle modellt tud futtatni, ezért futás közben is sok döntést kell meghoznia arról, hogyan kezelje az adott hálózat egyes részeit, az adatokat és a memóriamozgatást. Ez a rugalmasság ára. A Frozen v2-nél a jelentés szerint bizonyos, a Geminihez kötődő lépések már a tranzisztorok szintjén rögzítve lennének, így a rendszernek kevesebb adatot kellene ide-oda mozgatnia egy válasz előállításakor.
A Google itt nem egy általánosabb gyorsítót keres, hanem egy szűkebb feladatra szabott szerverchipet. Ez akkor lehet különösen vonzó, amikor ugyanazt a modellcsaládot rengeteg felhasználó szolgálja ki egyszerre keresésben, levelezőben, asszisztensben vagy vállalati felhős szolgáltatásban. Ilyenkor egy-egy lekérdezésnél megspórolt lépésből hamar komoly szerveroldali költség lesz.
A 6–10-szeres adat nem független mérés
A The Information szerint a projekten dolgozó mérnökök arra számítanak, hogy a chip a Google legújabb saját AI-gyorsítóinál hatszor-tízszer több tokent tudna kiszolgálni egységnyi energiából. Ez nem publikált benchmark és nem is olyan eredmény, amelyet külső labor ellenőrzött. Belső előrejelzés, amely ráadásul egy még fejlesztés alatt álló hardverre vonatkozik.
Maga a mérőszám viszont jól mutatja, miért érdekes a kísérlet. Egy modellnél nem kizárólag a válaszidő számít, hanem az is, mennyi áram, hűtés és szerverkapacitás kell ugyanannyi token kiküldéséhez. Ha a Gemini kiszolgálásának darabköltsége jelentősen esik, abból a Google nem látványos új funkciót, hanem olcsóbban fenntartható, nagyobb léptékű szolgáltatást kap.
A korábbi Frozen-terv túl merev lett volna
A beszámoló szerint a Google egy korábbi elképzelésben még a modell súlyait is közvetlenül a chiphez kötötte volna. Ez nagyon agresszív optimalizálás lett volna, de egyetlen modellverzióra korlátozta volna a szilícium élettartamát. A Frozen v2 állítólag ennél óvatosabb: az architektúrát rögzítené, a súlyokat továbbra is frissíthetővé hagyná.
Így is megmarad a kemény korlát. Ha a jövőbeli Gemini-modellek alapvető felépítése túlságosan eltér attól, amire a chip készült, a speciális hardver előnye gyorsan elolvadhat. A jelentés szerint a Google még azt sem döntötte el véglegesen, mennyi részt érdemes ténylegesen beégetni. Pont ez a projekt nehéz része: a takarékosság és a használható élettartam között kell eltalálni az arányt.
2028 felmerült, de ebből még nem lesz megjelenési dátum
A The Informationra hivatkozó szakmai beszámolók 2028-at említenek lehetséges első bevetési időpontként. Ezt érdemes fenntartással kezelni, mert a Google nem adott ki ütemtervet, és a cég válasza sem erősítette meg, hogy a Frozen v2 egyáltalán sorozatgyártásig jut. A jelentés szerint a chip a TPU-k mellett élne, kisebb volumenben, inkább tesztpályaként a még célzottabb AI-szilikonhoz.
Nem arról szól tehát a történet, hogy a Google holnap lecseréli a TPU-vonalat. Inkább arról, hogy az AI-modellek és a mögöttük dolgozó hardver egyre kevésbé választható szét: ahol elég stabil a modell felépítése, ott már érdemes lehet a szoftver egy részét fizikailag is közelebb húzni a chiphez.
