A The Information értesülése szerint a Microsoft azon dolgozik, hogy a Moonshot Kimi K3 modelljét Azure-on is elérhetővé tegye, és közben azt vizsgálja, lehet-e helye a Copilot egyes feladataiban. A lap által idézett belső számítás akár 600 millió dolláros inference-megtakarítással számol. Ez nem bejelentett modellcsere, hanem egy jelentésen alapuló, folyamatban lévő értékelés.
Nem arról szól, hogy holnap eltűnik a GPT a Copilotból
A Microsoft saját dokumentációja ma is több modellcsaládot sorol a Copilot környezetében: az Azure OpenAI szolgáltatáson keresztül érkező GPT-modellek mellett Anthropic Claude-modellek is megjelentek egyes Microsoft 365 Copilot-funkciókban. A Kimi K3 esetleges bevonása ezért nem feltétlenül teljes szakítás lenne, inkább folytatása annak, hogy a cég egyre kevésbé akar egyetlen modellszállítótól függeni.
Az is fontos, hogy az „Azure-on elérhető” és a „Copilot alapmodellje” két külön állítás. Egy modell bekerülhet az Azure AI kínálatába úgy is, hogy az ügyfelek, fejlesztők vagy egy szűkebb termékfunkció használja, miközben a Copilot fő útvonala változatlan marad. A The Information riportja éppen azt állítja, hogy a Microsoft a második lehetőséget egyelőre csak méri.
Miért kerül egyáltalán képbe a Kimi K3?
A Moonshot friss modellje azért lett hirtelen érdekes, mert nyílt súlyú rendszerként érkezett, nagy, 2,8 ezermilliárdos paraméterszámmal, és a cég szerint hosszú kódolási, következtetési és ügynökös feladatokra készült. A nyílt súly itt nem azt jelenti, hogy ingyen üzemeltethető: a vállalati futtatáshoz továbbra is komoly géppark, felügyelet és biztonsági munka kell. Viszont több szabadságot adhat abban, hogy ki, hol és milyen költségen szolgálja ki a kéréseket.
A 600 millió dolláros becslést ezért sem érdemes úgy kezelni, mint a Kimi K3 tarifacéduláját. A végösszeg attól függne, mely Copilot-feladatokat mozgatnának át, milyen hardveren futna a modell, mennyi lenne a kihasználtság, és mennyi pluszköltséget hozna a biztonság, a finomhangolás vagy az üzemeltetés. A riport alapján ez egy belső üzleti eset, nem publikus ígéret.
A kínai modell miatt a technika csak az egyik fele a történetnek
Egy amerikai óriásvállalatnál egy kínai fejlesztésű, nyílt súlyú modell használata nem pusztán teljesítmény- és költségkérdés. Adatkezelési, ellátási láncbeli és politikai vizsgálatokat is maga után vonhat. A lényeges különbség az, hogy a jelentés szerint a Microsoft saját felhős infrastruktúráján futtatná a modellt; ez nem azonos azzal, mintha ügyféladatok egy kínai szolgáltatásba kerülnének át. Ettől még a modell eredete és az esetleges amerikai korlátozások körüli vita nem tűnik el.
A Copilot valójában modellválasztóvá válik
A Microsoft számára ez a történet akkor is fontos, ha a Kimi K3 végül nem kerül Copilotba. A generatív AI költsége most már nem csak arról szól, melyik modell a legokosabb egy teszten. Számít a válasz sebessége, a tokenfogyasztás, a hosszú feladatok hibaaránya, az adatvédelem és az is, hogy a szolgáltató mennyire tudja saját infrastruktúrában tartani a teljes folyamatot.
A Microsoft eddig is abba az irányba ment, hogy több modell közül válogasson. Ha valóban tesztelik a Kimi K3-at, annak a legérdekesebb része nem az, hogy „lecserélik-e a GPT-t”, hanem az, hogy a Copilot mögött lassan egy olyan modellréteg rajzolódik ki, ahol feladatonként dönthetnek a minőség, a költség és a szabályozási kockázat között.
