A Meta szerint az AI-adatközpontok következő nagy kérdése nem csak az, hány gyorsító fér el egy rackben, hanem az is, hogyan lehet elvezetni a hőt. A vállalat hivatalos magyarázata szerint az új AI-ra optimalizált létesítmények többségében zárt körű folyadékhűtést használnak: a víz és a glikol a szerverekben, hőcserélőkben és a hűtőberendezésekben kering, majd ugyanabba a körbe tér vissza.
Ez nem azt jelenti, hogy a Meta eltünteti a vízfogyasztást. A rendszerben lévő folyadékot újra és újra felhasználják, de a hőcserélőknek és a száraz hűtőknek továbbra is energiára van szükségük. A különbség az, hogy a hőt nem a teremben keringő óriási légáramlat próbálja elvinni, hanem közvetlenül a legforróbb alkatrészek mellől vezetik ki.
A levegővel már túl nagy lenne a szerver
A nagy nyelvi modellek és a többi generatív AI-rendszer sűrűbben rakja egymás mellé a GPU-kat, mint a hagyományos vállalati szerverparkok. Meta állítása szerint ha ugyanazt a teljesítményt teljesen levegővel próbálnák lehűteni, a szervertálcák közel kétszer akkorára nőnének. Ez nem pusztán helyhiányt okozna: a nagyobb légcsatornák, ventilátorok és tápegységek több áramot kérnének, miközben a zaj és a karbantartás is nőne.
A direct-to-chip megoldásnál a hűtőlap közvetlenül a processzor és a gyorsító fölött ül. A folyadék a hőcserélő felé viszi a meleget, az adatközpont másik oldalán pedig száraz hűtők adják le azt a környezeti levegőnek. A Meta ezt azért tartja fontosnak, mert így több AI-gyorsító kerülhet ugyanabba a rackbe anélkül, hogy minden egyes alkatrészt egyre erősebb ventilátorokkal kellene körbefújni.
A Meta a vízhasználatot is számszerűsíti, de ezt érdemes vállalati összehasonlításként kezelni. A cég szerint egy tipikus, AI-ra optimalizált zárt körű rendszer száraz hűtőkkel együtt évente kevesebb vizet fogyaszt, mint néhány teljes körű szolgáltatást nyújtó étterem. Ez jól hangzó viszonyítás, viszont nem helyettesít egy független, helyszínre és időjárásra bontott mérleget. A tényleges fogyasztást a páratartalom, a hűtők mérete, az áramforrás és a víz visszanyerése is befolyásolja.
A zárt kör nem egyenlő a gond megoldásával
A folyadékhűtés a fizika oldaláról logikus válasz, de az infrastruktúra- és ellátási lánc kérdéseit nem tünteti el. A víz és a glikol csövei, a tömítések, a hőcserélők és a szivattyúk külön karbantartást igényelnek. Egy szivárgás ritka, de a sűrűn pakolt AI-rackekben komoly leállást okozhat, ezért a szerverek körül érzékelők, redundáns körök és gyorsan cserélhető egységek kellenek.
A Meta nyílt szabványokban gondolkodik. A vállalat az Open Compute Projecten keresztül oszt meg terveket, az IcePack nevű hálózati rackplatformot pedig úgy mutatja be, mint más gyártók által is továbbfejleszthető alapot. Ettől még nem lesz minden adatközpont egyforma, de csökkentheti annak kockázatát, hogy minden üzem saját, egymással össze nem illő hűtési rendszert építsen.
Miért fontos ez az otthoni gép előtt ülve is?
A változás elsőként a felhőben látszik majd. Ha egy szolgáltató több gyorsítót tud ugyanabba a terembe tenni, az növelheti a modellkiszolgálás kapacitását, és ideális esetben a késleltetés vagy az ár is javulhat. A hűtés azonban bekerül a teljes költségbe: a szerver önmagában hiába gyorsabb, ha a hőcserélő, a szivattyú és az áramellátás elviszi a nyereség egy részét.
A Meta bejelentése ezért nem egy új, varázslatos víztakarékos trükk története. Inkább arról szól, hogy az AI-számítás sűrűsége elérte azt a pontot, ahol a régi légkondicionálás már nem skálázódik kényelmesen. A zárt körű folyadékhűtés a következő adatközponti alapréteg lehet, de a víz- és energiaigényt továbbra is mérni kell, nem csak egy jól hangzó hasonlathoz viszonyítani.
A gyakorlati megvalósításnál a hűtőfolyadék minősége is számít. A víz és a glikol aránya, a korrózió elleni védelem, a szűrés és a hőcserélők tisztasága mind hat a rendszer élettartamára. Ezek láthatatlan részletek, mégis ugyanúgy meghatározzák, mennyi ideig marad stabil az AI-szolgáltatás, mint maga a GPU teljesítménye.
A Meta által bemutatott rendszer ráadásul nem csak a saját telephelyeire érdekes. A nyílt rack- és hűtési tervek megkönnyíthetik, hogy más adatközpont-üzemeltetők ugyanazokat a csatlakozásokat és érzékelőket használják. Ha több beszállító készít kompatibilis alkatrészt, az csökkenti a várakozási időt és kevésbé teszi egyetlen gyártótól függővé a bővítést.
