NVIDIA H100 Tensor Core
A leggyorsabb GPU architektúra LLM transzformátor modellekhez. 80GB HBM3 memória és 4. generációs Tensor magok a maximális áteresztőképességért.
Részletek →
Hardver és Teljesítmény
GPU és Infrastruktúra Zalaegerszegen.
A mesterséges intelligencia modellek tanítása nem szoftveres, hanem nyers számítási kapacitás kérdése. Zalaegerszegi központunkban a legmodernebb NVIDIA H100 és A100 rendszerekkel biztosítjuk a lokális LLM fejlesztés alapjait.
Iratkozzon fel hírlevelünkre
Csak fontos tartalom — nincs spam.
NVLink Interconnect
900 GB/s sávszélesség a GPU-k között. Ez teszi lehetővé, hogy több kártya egyetlen hatalmas logikai egységként működjön a tanítás során.
Adatkezelés →InfiniBand Hálózat
Alacsony késleltetésű, 400 Gbps sebességű hálózati topológia a klaszterek közötti szinkronizációhoz és a gyors adatátvitelhez.
Implementáció → Számítási kapacitás
2.4 PetaFLOPS
Zalaegerszegi adatközpontunk FP8 számítási teljesítménye egyetlen rack egységben. Ez a kapacitás elengedhetetlen a 70B+ paraméteres modellek finomhangolásához.
640 GB
Összesített VRAM
400 Gbps
Hálózati sebesség
Az infrastruktúra kritikus elemei
A Magyar Markdex zalaegerszegi telephelyén kiépített infrastruktúra alapja a redundancia és a skálázhatóság. Nem csupán szervereket üzemeltetünk; egy olyan környezetet hoztunk létre, ahol a hardver és a szoftver szimbiózisban működik. Az AI modellek tanítása során keletkező hőterhelés és energiaigény speciális elektromos hálózatot igényel, amelyet saját transzformátorállomással és szünetmentes tápegységekkel (UPS) biztosítunk.
A lokális fejlesztés legnagyobb előnye az adatbiztonság. Mivel a számítási kapacitás helyben, Zalaegerszegen áll rendelkezésre, az érzékeny vállalati adatok soha nem hagyják el a belső hálózatot. Ez kritikus szempont a adatvédelmi irányelveink betartása során, különösen ipari és pénzügyi szektorban tevékenykedő partnereink számára.
Mérnöki megjegyzés:
"A GPU klaszterek hatékonysága nem csak a kártyák számától függ, hanem a köztük lévő kommunikációs csatornák késleltetésétől. Az NVLink topológia alkalmazásával elkerüljük a PCIe busz szűk keresztmetszeteit, így a tanítási idő akár 40%-kal is csökkenhet."
A hardveres környezet kialakításakor figyelembe vettük a jövőbeli bővíthetőséget is. A moduláris rack kialakítás lehetővé teszi, hogy a növekvő igényeknek megfelelően újabb számítási csomópontokat adjunk a rendszerhez anélkül, hogy a meglévő folyamatokat le kellene állítani. Ez a folytonosság alapvető a tanítási folyamat zavartalanságához.
Technikai Specifikációk
| Komponens | Standard Konfiguráció | Enterprise Szint |
|---|---|---|
| GPU Típus | 4x NVIDIA A100 (80GB) | 8x NVIDIA H100 (80GB) |
| CPU Kapacitás | 2x AMD EPYC 7763 (128 Cores) | 2x Intel Xeon Platinum 8480+ |
| Rendszermemória | 512 GB DDR4 ECC | 2 TB DDR5 ECC |
| Tároló (NVMe) | 15.36 TB Gen4 SSD | 60 TB Gen5 SSD Raid 10 |
| Hálózati Kártya | 2x 100GbE Mellanox | 4x 400GbE NDR InfiniBand |
Hűtés és Energiahatékonyság
Egy teljes terhelésen futó GPU klaszter jelentős mennyiségű hőt termel. Zalaegerszegi központunkban zárt folyosós (Cold Aisle Containment) rendszert alkalmazunk, amely elválasztja a hideg és meleg levegőt, így minimalizálva az energiaveszteséget. A hűtési hatékonyságunkat (PUE) 1.2 alatt tartjuk, ami kiemelkedő az AI adatközpontok körében.
- Folyadékhűtéses opciók a nagy sűrűségű rackekhez.
- Intelligens szenzorhálózat a valós idejű hőmérséklet-monitorozáshoz.
- Automatikus terheléselosztás a túlmelegedés megelőzésére.
1.18
PUE Index
Készen áll a skálázásra?
Ne pazarolja idejét a felhőalapú szolgáltatók várólistáira. Használja ki a lokális infrastruktúra előnyeit Zalaegerszegen.
Projekt indítása