A Mistral AI hivatalos bejelentése szerint a vállalat platformja mostantól külső, nyílt súlyú modelleket is futtatna regionális végpontokon. Az első ilyen partner a Z.ai GLM-5.2 modellje, amely ugyanazokat a régiós vezérlési és szolgáltatási feltételeket kaphatja meg, mint a Mistral saját modelljei.
Ez elsőre egyszerű modellbővítésnek hangzik, valójában a Mistral ennél nagyobb dolgot épít. A cég olyan infrastruktúrát kínál, ahol egy vállalat vagy akár egy állami intézmény nemcsak azt választhatja ki, melyik modellt használja, hanem azt is, hogy hol fusson az adatfeldolgozás, milyen kapacitás álljon rendelkezésre, és mennyire maradjon saját kézben az egész rendszer.
A GLM-5.2 nem külön szigeten futna
A Mistral szerint a Z.ai GLM-5.2 és a később érkező külső nyílt modellek ugyanazon a platformon működnek majd, mint a vállalat saját modelljei. Ez azért érdekes, mert a modellválasztás eddig gyakran külön szolgáltatók, eltérő adatkezelési szabályok és más üzemeltetési környezetek között oszlott meg. A Mistral most azt ígéri, hogy a nyílt modellek használata nem jelenti automatikusan a régiós kontroll feladását.
A cég regionális végpontjai jelenleg Európára és az Egyesült Államokra adnak választási lehetőséget. A Mistral leírása szerint az inferencia és a kapcsolódó feldolgozás a kiválasztott régióban marad, bár a szolgáltatási lánc egyes részein korlátozott, biztosítékokkal kezelt alvállalkozói adatátadás előfordulhat. Ez fontos különbség: a „régiós” nem azt jelenti, hogy minden egyes bájt minden körülmények között ugyanabban az országban marad.
A prioritásos kapacitás a másik fele
A Mistral Priority Tier nyilvános előzetesként kötelezett szolgáltatási szinteket, egyedi sebességlimiteket és rendelkezésre állási garanciát ad a kritikus munkafolyamatokhoz. Ez azoknak a cégeknek lehet lényeges, amelyek nem engedhetik meg maguknak, hogy egy modell népszerűségi hulláma miatt elfogyjon a kapacitás. A modell képessége önmagában kevés, ha a csúcsidőben nem lehet megbízhatóan elérni.
A bejelentés másik nagy része az európai számítási kapacitás. A Mistral egy olyan vállalati koalíciót szervez, amely többéves lekötésekkel segítené az új infrastruktúra felépítését. A cég 2030-ig akár 1 gigawattnyi kapacitást is kiépítene, és European Compute Units néven többéves hozzáférést biztosító konstrukciót vázolt fel.
Ez már nem pusztán modellpiaci bejelentés. Európában egyre több szervezet szeretne úgy AI-t használni, hogy közben ne adja ki teljesen a kezéből az adatot, a futtatási környezetet és a később felépített tudást. A Mistral most azt próbálja megmutatni, hogy a nyílt modellek, a regionális feldolgozás és a garantált infrastruktúra egyetlen szolgáltatási rétegben is összehozható. A gyakorlati kérdés az lesz, hogy a régiós végpontok és a többéves kapacitásígéretek milyen ár mellett, milyen modellekkel és milyen valódi adatkezelési korlátokkal működnek majd.
