Drasztikus infrastruktúra-bővítési kényszerrel szembesülhet a Meta, amennyiben a nemrég útjára indított Muse személyes asszisztens ágens eléri a 100 milliós aktív felhasználói bázist. A felhőalapú feladatvégzésre és önálló böngészésre tervezett autonóm rendszer ugyanis felhasználónként egy dedikált virtuális gépet (VM) igényel a háttérben. Dylan Patel iparági elemző kalkulációja és a Wccftech elemzése szerint a szolgáltatás fenntartásához legrosszabb esetben 1,58 millió darab csúcskategóriás szerverprocesszorra, 800 petabájt rendszermemóriára és 10 000 petabájtnyi háttértárra lenne szükség.
Egyéni virtuális gép és Sentinel felügyelő minden fiókhoz
A megszokott chatbotokkal ellentétben a Muse nem egyszerű kérdezz-felelek felület. Az ágens képes önállóan megnyitni egy távoli böngészőt, végigkattintani weboldalakat, űrlapokat kitölteni, repülőjegyeket összehasonlítani vagy épp bevásárlólistákat kezelni akkor is, ha a felhasználó időközben bezárta a telefonos alkalmazást. Az adatvédelmi aggályok és a jelszavak szivárgásának elkerülésére a vállalat minden felhasználónak egy elszigetelt, felhős virtuális környezetet garantál. Minden egyes ilyen gépre 2 vCPU számítási kapacitást, 8 GB memóriát és 100 GB SSD-tárhelyet allokálnak.
A virtuális gépek felett egy második védelmi vonal, az úgynevezett Sentinel őrködik. Ez a biztonsági mechanizmus valós időben pásztázza az ágens tevékenységét, és megakadályozza, hogy a rendszer a felhasználó explicit jóváhagyása nélkül véglegesítsen bármilyen banki tranzakciót vagy vásárlást. Az állandó felügyelet és az elszigetelt konténerek fenntartása viszont hatalmas erőforrás-tartalékot köt le a szerverparkokban.
A 100 milliós álomhatár hardveres ára
Ha a Muse eléri a 100 milliós felhasználói tábort, a dedikált architektúra 200 millió vCPU-t feltételez. Modern, 126–128 magos szerverprocesszorokkal (például AMD EPYC vagy Intel Xeon lapkákkal) számolva ez minimális magmegosztás esetén körülbelül 1,58 millió fizikai CPU-t követel meg. A terhelés dinamikus ütemezéssel mérsékelhető: 50 százalékos egyidejű kihasználtság mellett 790 ezer processzorra csökken a szükséglet, míg 10 százalékos aktív terhelésnél megközelítőleg 158 ezer CPU elég az igények kielégítésére.
A rendszermemória és a tárhely oldalán sokkal szűkebb a mozgástér. Mivel az állapotmegőrző virtuális gépeknek a nap 24 órájában készenlétben kell állniuk az azonnali háttérfeladatokhoz, a 100 millió aktív fiók 800 petabájt (azaz 800 000 terabájt) RAM-ot és 10 000 petabájt (10 exabájt) tartós SSD-kapacitást kötne le. Bár az inaktív gépek RAM-tartalma idővel diszkre menthető, a gyors válaszidő megköveteli a hatalmas memória-pufferek készenlétben tartását.
A 40:1 CPU-arány: a háttérfolyamatok hardverigénye
Az elmúlt években a mesterséges intelligencia fejlesztése kizárólag a grafikus gyorsítókról (GPU) és a tenzormagokról szólt. Az autonóm ágensek elterjedése azonban alapjaiban borítja fel az adatközponti arányokat. A szöveggenerálás és a logikai döntéshozatal ugyan a gyorsítókon fut, de az ágensek munkaidejének túlnyomó részét klasszikus operációsrendszer-szintű feladatok teszik ki. Egyetlen komplex utazási árajánlat összeállítása a Funda AI mérései szerint akár 146 különböző keresési és böngészési lépést vált ki.
A fejtelen (headless) böngészők futtatása, a DOM-fák feldolgozása, az API-hívások kezelése és az adatbázis-szinkronizáció mind szekvenciális kód, amit dedikált x86 és ARM processzorok tudnak hatékonyan elvégezni. A piaci elemzők, köztük a Goldman Sachs szakértői arra számítanak, hogy a szerverparkokban a CPU–GPU telepítési arány 4:1 és 40:1 közé tolódhat a központi egységek javára, ami a rövid lejáratú beruházási költségekben (CapEx) máris tetten érhető.
Ellátási plafon a félvezetőknél
A kapacitáshiány a gyárakban is megmutatkozik: Lip-Bu Tan, az Intel vezérigazgatója nyilvánosan elismerte, hogy vállalata jelenleg a vezető AI-fejlesztő cégek CPU-igényének mindössze 50 százalékát képes legyártani és leszállítani. Korábban már beszámoltunk az AMD processzortervezési prioritásainak átrendeződéséről, ahol a hatalmas gyorsítótárak és a 256 magos EPYC szerverprocesszorok épp ezekre a szerteágazó felhős terhelésekre készülnek.
A kapacitáshiány magyarázatot ad a Meta legutóbbi lépéseire is: a közösségi óriás tavasszal az Arm AGI szerverchipek elsődleges fejlesztési partnerévé vált, miközben több tízmillió AWS Graviton processzormagot kötött le a felhőben. Ha a Muse integrációja a terveknek megfelelően megnyílik a WhatsApp és az Instagram többmilliárdos felhasználói tábora előtt, az ágensek hardveres kiszolgálása közvetlenül a globális félvezető- és memóriagyártás fizikai kapacitáskorlátait feszegeti.
