ASUS एक्सपर्टसेंटर प्रो ET900N G3 दूसरा GB300 DGX स्टेशन है जिसका हमने परीक्षण किया है और पहला जिसे हमने अपनी प्रयोगशाला में हाथों-हाथ मूल्यांकन किया है; हमारा MSI XpertStation WS300 परीक्षण दूरस्थ रूप से आयोजित किया गया था। यह MSI XpertStation WS300 में देखे गए समान NVIDIA सिलिकॉन का उपयोग करता है: 72 ग्रेस कोर के साथ एक ग्रेस ब्लैकवेल अल्ट्रा डेस्कटॉप सुपरचिप, एक B300 GPU, 252GB HBM3e, 496GB LPDDR5X, और एक ConnectX-8 सुपरNIC जो दोहरे 400GbE पोर्ट से सुसज्जित है। ASUS ने इस फिक्स्ड कोर प्लेटफॉर्म को एक कॉम्पैक्ट डेस्कसाइड AI टॉवर के अंदर पैकेज किया है, जिसमें WS300 से अनुपस्थित सुविधाओं को जोड़ा गया है: दो टॉप-माउंटेड कैरी हैंडल, कनेक्टएक्स -8 ऑप्टिक्स केज को लक्षित करने वाला एक समर्पित पंखा, और 1,600W 80 PLUS टाइटेनियम बिजली की आपूर्ति।
![]()
ASUS ने लगभग एक सप्ताह के बेंचमार्किंग, इमेजिंग और भौतिक निरीक्षण के लिए ET900N G3 को हमारी प्रयोगशाला में भेजा, जिसे RTX PRO 2000 के साथ पूर्व-कॉन्फ़िगर किया गया था। बेस प्लेटफ़ॉर्म, B300, ग्रेस, NVLink-C2C, MIG और DGX स्टेशन के बुनियादी सिद्धांतों को कवर करने वाले विवरण हमारी पिछली MSI XpertStation WS300 समीक्षा में शामिल हैं। यह विश्लेषण सुपरचिप के आसपास ASUS के कार्यान्वयन पर केंद्रित है और क्या इसका प्रदर्शन हमारे द्वारा परीक्षण किए गए पहले GB300 टॉवर से मेल खाता है।
ASUS एक्सपर्टसेंटर प्रो ET900N G3 विशिष्टताएँ
| वर्ग | वस्तु | विनिर्देश |
|---|---|---|
| प्लेटफार्म अवलोकन | सुपरचिप | NVIDIA GB300 ग्रेस ब्लैकवेल अल्ट्रा डेस्कटॉप सुपरचिप |
| CPU | NVIDIA ग्रेस, 72 आर्म नियोवर्स V2 कोर | |
| जीपीयू | NVIDIA ब्लैकवेल अल्ट्रा (B300), विरलता के साथ 20 PFLOPS NVFP4 तक | |
| सीपीयू-जीपीयू इंटरकनेक्ट | NVLink-C2C, 900GB/s द्विदिशात्मक | |
| याद | सुसंगत स्मृति | 748GB |
| जीपीयू मेमोरी | 252GB HBM3e, 7.1TB/s | |
| सीपीयू मेमोरी | 496GB LPDDR5X, 396GB/s, 4x SOCAMM | |
| भंडारण | बूट ड्राइव | 2x M.2 2280 PCIe 5.0 x4 (कुंजी एम), RAID 1 में 2x 2TB NVMe के साथ पॉपुलेटेड |
| विस्तार ड्राइव | 2x फ़ैक्टरी-खाली M.2 2280 (कुंजी M), PCIe 6.0 x4 | |
| नेटवर्किंग | सुपरएनआईसी | NVIDIA ConnectX-8, 2x QSFP112 400GbE |
| ईथरनेट | 1x मार्वेल 10जीबीई, 1x रियलटेक 1जीबीई (बीएमसी) | |
| विस्तार | पीसीआईई स्लॉट | 1x पीसीआईई 5.0 x16; 2x PCIe 5.0 x16 (x8 सिग्नल) |
| ऐड-इन जीपीयू |
एक NVIDIA RTX PRO ब्लैकवेल कार्ड तक का समर्थन करता है; समीक्षा इकाई RTX PRO 2000 ब्लैकवेल के साथ भेजी गई |
|
| मैं/ओ | सामने |
2x USB 10Gbps टाइप-सी, 2x USB 10Gbps टाइप-ए, 1x USB 2.0, हेडफोन और माइक्रोफोन जैक |
| पिछला |
4x USB 10Gbps टाइप-ए, 1x माइक्रो-यूएसबी COM (बीएमसी सीरियल कंसोल), 1x मिनी डिस्प्लेपोर्ट (बीएमसी), 3x ऑडियो जैक |
|
| प्रबंधन एवं सुरक्षा | बीएमसी | एएमआई मेगाआरएसी फर्मवेयर, आईपीएमआई और रेडफिश के साथ एएसपीईड एएसटी2600 |
| सुरक्षा | ऑनबोर्ड टीपीएम 2.0 | |
| शक्ति एवं शीतलता | बिजली की आपूर्ति | 1x 1,600W ATX, 80 प्लस टाइटेनियम |
| शीतलक | GB300, SOCAMM और ConnectX-8 पर कोल्ड प्लेट्स के साथ क्लोज्ड-लूप AIO लिक्विड कूलिंग; फ्रंट और टॉप रेडिएटर, रियर चेसिस पंखा और QSFP112 केज पर समर्पित पंखा | |
| परिचालन तापमान | 10°C से 35°C | |
| सॉफ्टवेयर और फॉर्म फैक्टर | ऑपरेटिंग सिस्टम | NVIDIA AI डेवलपर टूल के साथ उबंटू; विंडोज़ एआई विकास समर्थन की योजना बनाई गई |
| DIMENSIONS | 584 x 232 x 565 मिमी (23.0 x 9.1 x 22.3 इंच) | |
| वज़न | 27 किलो शुद्ध, 32 किलो सकल |
डिज़ाइन और निर्माण
ASUS ET900N G3 को ब्रश्ड सिल्वर चेसिस, डार्क मेश फ्रंट पैनल, कैप और पैरों पर क्रोम ट्रिम और लो-प्रोफाइल ASUS फ्रंट बैज के साथ एक बिजनेस वर्कस्टेशन के रूप में रखता है। इसके आयाम आंतरिक प्लेटफ़ॉर्म द्वारा निर्धारित होते हैं: 584 x 232 x 565 मिमी, WS300 की तुलना में थोड़ा लंबा और थोड़ा संकीर्ण। 27 किलोग्राम पर, इसे आसानी से नहीं ले जाया जा सकता है, जो ASUS की व्यावहारिक डिजाइन पसंद को प्रेरित करता है: दो शीर्ष धातु हैंडल (आगे और पीछे) दो लोगों को चेसिस पैनलों को पकड़ने के बिना टावर को डेस्क या कार्ट पर उठाने की अनुमति देते हैं। जब तक आप एक भारी GB300 टावर को प्रयोगशाला में नहीं ले जाते, तब तक ये हैंडल कार्यालय कार्य केंद्र पर जगह से बाहर दिखते हैं।
फ्रंट पैनल में पावर बटन, दो 10 जीबीपीएस यूएसबी टाइप‑ए पोर्ट, दो 10 जीबीपीएस यूएसबी टाइप‑सी पोर्ट, एक यूएसबी 2.0 पोर्ट और अलग-अलग ऑडियो जैक हैं जो जाल के ऊपर दाईं ओर लंबवत व्यवस्थित हैं। साइड पैनल एक बड़ी हवादार प्लेट है, जिसमें रेडिएटर सेवन के लिए एक लंबा छिद्रित फ्रंट सेक्शन और सिस्टम प्रशंसकों के लिए एक छोटा रियर ग्रिल है। लक्ष्य खरीदार की प्राथमिकताओं से मेल खाने वाली कोई खिड़की या आरजीबी प्रकाश व्यवस्था नहीं है।
पीछे की ओर, लेआउट वर्कस्टेशन I/O को अंतर्निहित सर्वर हार्डवेयर से अलग करता है। ऊपरी क्लस्टर में सेटअप के लिए चार 10 जीबीपीएस यूएसबी टाइप‑ए पोर्ट, 10 जीबीई और 1 जीबीई आरजे45 पोर्ट, तीन ऑडियो जैक, बीएमसी माइक्रो‑यूएसबी कंसोल और बीएमसी मिनी डिस्प्लेपोर्ट शामिल हैं। ConnectX-8 के लिए दो QSFP112 पिंजरे एक निकास पंखे के बगल में I/O शील्ड के ऊपर स्थित हैं; तीन विस्तार स्लॉट कवर केंद्र के नीचे चलते हैं, और C19 इनलेट बिजली की आपूर्ति नीचे बैठती है। WS300 की तरह, मिनी डिस्प्लेपोर्ट प्रारंभिक सेटअप और समस्या निवारण के लिए केवल बीएमसी है; डेस्कटॉप डिस्प्ले आउटपुट के लिए RTX PRO ऐड-इन कार्ड की आवश्यकता होती है।
ET900N G3 के अंदर
साइड पैनल को हटाने के बाद, ET900N G3 काफी हद तक WS300 जैसा दिखता है, जैसा कि अपेक्षित था, दोनों में समान NVIDIA बेसबोर्ड है। GB300 सुपरचिप चेसिस के बाईं ओर एक कॉपर कोल्ड प्लेट के नीचे स्थित है, SOCAMM मॉड्यूल के बगल में समर्पित कॉपर प्लेट हैं, और ConnectX-8 को रियर I/O के पास एक तीसरी कोल्ड प्लेट द्वारा ठंडा किया जाता है। ब्रेडेड कूलेंट टयूबिंग ठंडी प्लेटों से चेसिस क्रॉसमेम्बर मैनिफोल्ड तक, फिर रेडिएटर्स तक चलती है। तीन पूर्ण-लंबाई वाले PCIe स्लॉट सुपरचिप के नीचे स्थित हैं, बिजली की आपूर्ति निचले सामने के कोने पर है, और एक धातु कफन नीचे केबल रूटिंग को कवर करता है।
आंतरिक एयरफ्लो लेआउट WS300 को प्रतिबिंबित करता है: सामने की जाली के पीछे एक ऊर्ध्वाधर रेडिएटर, शीर्ष पर लगा दूसरा रेडिएटर, प्रत्येक में पंखे की व्यवस्था, साथ ही एक रियर चेसिस पंखा लगा होता है। शीतलक लाइनें आस्तीन वाली होती हैं और हुक-एंड-लूप पट्टियों से सुरक्षित होती हैं, और मैनिफोल्ड चार ठंडी प्लेटों से लाइनों को समेकित करता है, इसलिए प्रत्येक रेडिएटर को केवल दो ट्यूब फ़ीड करते हैं।
प्रकाशिकी प्रशंसक
ET900N G3 के लिए अद्वितीय एक शीतलन घटक कनेक्टएक्स-8 कोल्ड प्लेट के ऊपर एक छोटा ब्रैकेट-माउंटेड पंखा है, जिसका लक्ष्य सीधे QSFP112 पिंजरों पर है। तरल लूप सुपरएनआईसी सिलिकॉन को स्वयं ठंडा करता है, लेकिन 400G ऑप्टिकल ट्रांससीवर्स धातु के पिंजरों के अंदर महत्वपूर्ण गर्मी उत्पन्न करते हैं जो केवल ठंडी प्लेट से प्रवाहकीय शीतलन प्राप्त करते हैं। हमारे पूर्व परीक्षण में उल्लेख किया गया है कि कनेक्टएक्स-8 निरंतर लोड के तहत गर्म चलता है और ऑप्टिकल मॉड्यूल गर्म हो सकते हैं, इसलिए पिंजरों पर समर्पित वायु प्रवाह निरंतर फाइबर कनेक्शन चलाने वाले उपयोगकर्ताओं के लिए एक मूल्यवान डिजाइन सुविधा है। DAC केबलों का उपयोग करते समय, इस इकाई को दूसरे GB300 स्टेशन से जोड़ने वाले चल रहे क्लस्टर्ड अनुमान परीक्षण के लिए हमारा सेटअप, यह पंखा हल्का कार्यभार देखता है।
भंडारण, विस्तार और शक्ति
ASUS ने ग्रेस के माध्यम से जुड़े PCIe 5.0 x4 M.2 2280 स्लॉट की जोड़ी पर OS और NVIDIA सॉफ़्टवेयर के लिए एक 2TB NVMe ड्राइव के साथ ET900N G3 भेजा। M.2 स्लॉट की दूसरी जोड़ी ConnectX-8 के एकीकृत PCIe स्विच में टैप होती है और फ़ैक्टरी से खाली हो जाती है।
हमारी समीक्षा इकाई PCIe 5.0 x16 स्लॉट में स्थापित NVIDIA RTX PRO 2000 ब्लैकवेल के साथ आई, जो ASUS के समर्थित कॉन्फ़िगरेशन में से एक है। यह कार्ड GB300 पावर बजट से बहुत अधिक खर्च किए बिना डिस्प्ले आउटपुट की आपूर्ति करता है; ASUS का कहना है कि चेसिस केवल एक RTX PRO ब्लैकवेल कार्ड का समर्थन करता है। हमने अपनी WS300 परीक्षण स्थितियों से मेल खाते हुए, सुपरचिप के लिए पूर्ण त्वरक पावर बजट आरक्षित करने के लिए बेंचमार्किंग से पहले RTX PRO 2000 को हटा दिया। हमने इस चेसिस में उच्च-शक्ति वाले आरटीएक्स प्रो कार्ड का परीक्षण नहीं किया; साझा पावर हेडरूम पर उनके प्रभाव को भविष्य में GB300 स्टेशन की समीक्षा में शामिल किया जाएगा।
1,600W ATX बिजली आपूर्ति में 80 PLUS टाइटेनियम प्रमाणन है, जो WS300 की प्लेटिनम इकाई का अपग्रेड है। टाइटेनियम को 115V इनपुट पर 50% लोड पर 94% दक्षता की आवश्यकता होती है, जबकि प्लैटिनम को 92% की आवश्यकता होती है, और यह 10% लोड पर न्यूनतम दक्षता रेटिंग लागू करता है, इसलिए ET900N G3 पूर्ण GB300 लोड के तहत कम दीवार वाट बर्बाद करता है। पावर साझा रहती है: ग्रेस, B300, पंप, पंखे, स्टोरेज और कोई भी RTX PRO कार्ड समान 1,600W पूल से आते हैं। NVIDIA की vsloshd सेवा पावर ड्रॉ के आधार पर सुपरचिप और ऐड-इन जीपीयू के बीच उपलब्ध हेडरूम को गतिशील रूप से स्थानांतरित करती है, जिसमें किसी भी घटक के लिए कोई निश्चित हार्ड कैप नहीं होती है। यह पावर फ्रेमवर्क WS300 समीक्षा से अपरिवर्तित है। उत्तरी अमेरिकी तैनाती के लिए एक समर्पित 20A विद्युत सर्किट की आवश्यकता होती है।
कनेक्टिविटी
ConnectX-8 के दोहरे QSFP112 पोर्ट ET900N G3 के स्टोरेज, दूसरे DGX स्टेशन या क्लस्टर नेटवर्किंग के प्राथमिक फैब्रिक लिंक के रूप में काम करते हैं। हमारी प्रयोगशाला में, ये पोर्ट अलग-अलग आगामी क्लस्टर अनुमान विश्लेषण के लिए 400G DAC के माध्यम से दूसरे GB300 स्टेशन से जुड़ते हैं। मार्वल 10 जीबीई पोर्ट नियमित होस्ट ट्रैफ़िक को संभालता है, जबकि रियलटेक 1 जीबीई पोर्ट विशेष रूप से बीएमसी प्रबंधन के लिए आरक्षित है।
परीक्षण नोट्स
सभी परिणाम प्रयोगशाला नमूने के स्टॉक मेमोरी कॉन्फ़िगरेशन का उपयोग करते हैं: 252GB HBM3e प्लस 496GB LPDDR5X। परीक्षण RTX PRO कार्ड स्थापित किए बिना चला, जिससे GB300 सुपरचिप पूर्ण त्वरक पावर बजट और WS300 परीक्षण स्थितियों का मिलान हुआ। सॉफ्टवेयर स्टैक, वीएलएलएम कॉन्फ़िगरेशन, वर्कलोड प्रोफाइल और समवर्ती स्वीप समान हैं, जो सीधे साइड-बाय-साइड टावर तुलना को सक्षम करते हैं। यह समीक्षा पूरी तरह से अनुमान प्रदर्शन पर केंद्रित है; हमने इस इकाई पर पावर ड्रॉ या थर्मल टेलीमेट्री नहीं मापी।
हमने सभी स्थानीय एआई हार्डवेयर में उपयोग किए जाने वाले दो मानक वीएलएलएम लाइव-इंफरेंस प्रोफाइल चलाए: 512 इनपुट / 512 आउटपुट टोकन के साथ एक संतुलित कार्यभार, और 8,192 इनपुट / 1,024 आउटपुट टोकन के साथ एक प्रीफिल-भारी वर्कलोड, 1 से 128 स्ट्रीम तक व्यापक संगामिति। फ्रंटियर-स्केल मॉडल के लिए, हम दो या चार RTX PRO 6000 कार्ड वाले GPU सर्वर से तुलना करते हैं, जो इन मॉडल चौकियों के लिए निकटतम सिंगल-बॉक्स विकल्प है। छोटे मॉडलों के लिए, हम एक ही सर्वर में एक RTX PRO 6000, दूसरे एंटरप्राइज़ सर्वर में एक एकल H200 NVL और WS300 समीक्षा में उपयोग किए गए समान GB10 DGX स्पार्क सिस्टम के विरुद्ध बेंचमार्क करते हैं। ET900N G3 मेट्रिक्स कच्चे लॉग मान हैं; तुलनात्मक आंकड़े हमारे संग्रहीत परिणाम चार्ट से आते हैं।
अनुमान प्रदर्शन
सुसंगत मेमोरी पूल पर फ्रंटियर मॉडल
GB300 को उन मॉडलों को होस्ट करने के लिए बनाया गया है जो B300 की 252GB HBM3e सीमा को पूरा करते हैं। हमने इस सीमा तक फैली चार चौकियों का परीक्षण किया: डीपसीक वी4 फ्लैश और मिनीमैक्स एम2.7 बची हुई क्षमता के साथ एचबीएम के भीतर पूरी तरह से फिट हैं; MiniMax M3 बमुश्किल फिट बैठता है और विशेषज्ञ परतों के एक सबसेट को ग्रेस मेमोरी में लोड करता है; GLM-5.2 अपने भार का लगभग आधा भार वहन करता है। प्रत्येक चार्ट निकटतम सिंगल-बॉक्स विकल्प के विपरीत परिणाम देता है: एंटरप्राइज़ सर्वर के अंदर आरटीएक्स प्रो 6000 कार्ड, जरूरत पड़ने पर मेमोरी होस्ट करने के लिए विशेषज्ञों को ऑफलोड करना।
डीपसीक वी4 फ्लैश एक सीधा परीक्षण है: एक ~20 जीबी देशी एफपी8 चेकपॉइंट जिसे बी300 द्वारा आसानी से नियंत्रित किया जाता है। संतुलित कार्यभार आउटपुट थ्रूपुट 1 स्ट्रीम पर 152 टोकन/सेकंड से बढ़कर 32 स्ट्रीम पर 1,766 टोकन/सेकंड हो गया, कुल टोकन थ्रूपुट 3,532 तक पहुंच गया। प्रीफ़िल-हैवी प्रोफ़ाइल के लिए, ET900N G3 को 148 से बढ़ाकर 954 आउटपुट टोकन/सेकंड किया गया, कुल थ्रूपुट 8,587 तक पहुंच गया। एक दोहरी आरटीएक्स प्रो 6000 सेटअप संतुलित कार्यभार पर 800 आउटपुट टोकन/सेकंड और लंबे संकेतों पर ~490 के करीब पहुंच गया, कम संगामिति पर असमान प्रदर्शन के साथ।
NVFP4 परिमाणीकरण में MiniMax M2.7 ~125GB HBM पर कब्जा करता है और चार मॉडलों की सबसे मजबूत स्केलिंग प्रदान करता है। संतुलित कार्यभार आउटपुट एक स्ट्रीम पर 214 टोकन/सेकंड से बढ़कर 128 स्ट्रीम पर 4,793 हो गया, कुल थ्रूपुट 9,586 तक पहुंच गया। प्रीफ़िल-भारी परीक्षण को 64 स्ट्रीम पर 1,744 आउटपुट टोकन/सेकंड और 15,700 कुल टोकन/सेकंड तक बढ़ाया गया। दो आरटीएक्स प्रो 6000 कार्डों ने समान सामान्य वक्र का अनुसरण किया, लेकिन आधे से भी कम थ्रूपुट तक पहुंच गए, संतुलित कार्यभार के लिए 1,930 आउटपुट टोकन/सेकंड और लंबे संकेतों के लिए ~510 तक पहुंच गए।
MiniMax M3 सीधे मेमोरी थ्रेशोल्ड पर ऑपरेशन को दर्शाता है। NVFP4 चेकपॉइंट 252GB से छोटा है, लेकिन रनटाइम स्थिति और KV कैश अतिरिक्त स्थान की खपत करते हैं, इसलिए विशेषज्ञ परतों का हिस्सा ग्रेस मेमोरी में रहता है; उन विशेषज्ञों तक पहुँचने वाला प्रत्येक डिकोड चरण NVLink-C2C को पार करता है। EAGLE3 सट्टा डिकोडिंग के साथ, ET900N G3 संतुलित कार्यभार के लिए 32 स्ट्रीम पर 1,041 आउटपुट टोकन/सेकंड तक पहुंच गया। प्रीफ़िल-हैवी प्रोफ़ाइल दो धाराओं में 282 टोकन/सेकंड पर पहुंच गई, चार धाराओं में 271 रखी गई, फिर आठ धाराओं में 103 तक गिर गई क्योंकि लंबे समय तक उपलब्ध कैश समाप्त हो गया। एक ही सट्टा डिकोडर का उपयोग करते हुए चार आरटीएक्स प्रो 6000 कार्डों ने आठ स्ट्रीम के माध्यम से गति बनाए रखी, 16 स्ट्रीम पर ~1,180 आउटपुट टोकन/सेकंड तक आगे खींचे, फिर 32 स्ट्रीम पर लगभग 760 तक गिर गए। प्रीफ़िल-हेवी वर्कलोड पर, चार-जीपीयू सिस्टम ने डीजीएक्स स्टेशन के लिए 271 की तुलना में चार स्ट्रीम पर ~349 आउटपुट टोकन/सेकंड बनाए रखा। बिल्कुल एचबीएम क्षमता पर बैठा यह मॉडल इस सेट में एकमात्र मामला है जहां चार कार्डों में 384 जीबी कुल वीआरएएम 252 जीबी एचबीएम प्लस ग्रेस ऑफलोड के साथ प्रतिस्पर्धा करता है।
GLM-5.2 एक कार्यभार का प्रतिनिधित्व करता है जिसे केवल सुसंगत मेमोरी पूल सक्षम करता है। एमटीपी सट्टा डिकोडिंग का उपयोग करते हुए, एनवीएफपी4 चेकपॉइंट ग्रेस मेमोरी में ~215जीबी विशेषज्ञ वजन रखता है। ET900N G3 ने एक स्ट्रीम के लिए 35 आउटपुट टोकन/सेकंड और संतुलित वर्कलोड के तहत 32 स्ट्रीम के लिए 139 आउटपुट टोकन दिए, कुल थ्रूपुट 277 तक पहुंच गया। 32 स्ट्रीम तक प्रीफिल-हैवी परीक्षणों के लिए, इसने 120 आउटपुट टोकन/सेकंड और 1,079 कुल टोकन/सेकंड तक पहुंचाया। चार RTX PRO 6000 कार्ड, प्रत्येक होस्ट मेमोरी के लिए ~30GB ऑफलोड करता है, 32 स्ट्रीम पर ~40 आउटपुट टोकन/सेकंड प्रबंधित करता है और लंबे संकेतों के लिए आगे की चार स्ट्रीम से लगभग 9-10 टोकन/सेकंड तक फ़्लैट किया जाता है। कोई भी सिस्टम इस 433GB मॉडल को तेज महसूस नहीं कराता है, लेकिन GB300 का 396GB/s LPDDR5X और 900GB/s NVLink-C2C लिंक ऑफलोडेड विशेषज्ञों के लिए स्केलिंग बनाए रखता है जहां PCIe-संलग्न होस्ट मेमोरी चार GPU स्टालों में रुकती है।
एमएसआई डब्लूएस300 की तुलना में, ईटी900एन जी3 फ्रंटियर-मॉडल परिणाम सभी मिलान परीक्षण बिंदुओं पर लगभग 1% के भीतर बैठते हैं: दोनों टावरों पर 32 स्ट्रीम पर डीपसीक वी4 फ्लैश के लिए 1,766 आउटपुट टोकन/सेकंड; 128 स्ट्रीम पर मिनीमैक्स एम2.7 के लिए 4,793 बनाम 4,801; दोनों पर 32 स्ट्रीम पर मिनीमैक्स एम3 के लिए 1,041; और दोनों पर 32 स्ट्रीम पर जीएलएम-5.2 के लिए 139।
RTX PRO 6000, H200 NVL और DGX स्पार्क के विरुद्ध साझा मॉडल
दूसरा बेंचमार्क समूह छोटे मॉडल का उपयोग करता है, सभी परीक्षण प्रणालियाँ मेमोरी में पूरी तरह से फिट हो सकती हैं: GPT-OSS-20B और 120B देशी MXFP4; लामा 3.1 8बी बीएफ16 और एफपी8; मिस्ट्रल स्मॉल 24बी बीएफ16 और एफपी8; Qwen3 कोडर 30B BF16 और FP8। WS300 समीक्षा की तुलना में नया एक एकल H200 NVL, NVIDIA का 141GB हॉपर त्वरक है, जो तुलना सेट में एक पूर्व-पीढ़ी डेटा सेंटर GPU जोड़ता है।
GPT-OSS-20B सबसे आसान कार्यभार है, जिसे प्रत्येक हार्डवेयर उम्मीदवार द्वारा आसानी से लोड किया जा सकता है। संतुलित कार्यभार के तहत, ET900N G3 को 128 स्ट्रीम (कुल 44,082) पर 22,041 आउटपुट टोकन/सेकंड तक बढ़ाया गया, जबकि RTX PRO 6000 के लिए ~7,920, H200 NVL के लिए 6,010 और DGX स्पार्क के लिए 1,420 था। स्टेशन के लिए सिंगल-स्ट्रीम प्रदर्शन 536 आउटपुट टोकन/सेकंड तक पहुंच गया, जबकि आरटीएक्स प्रो 6000 पर 354, एच200 एनवीएल पर 489 और स्पार्क पर 120 था। प्रीफ़िल-हेवी रन ने अंतर को चौड़ा कर दिया: ET900N G3 के लिए 128 स्ट्रीम पर 9,555 आउटपुट टोकन/सेकंड और 85,994 कुल टोकन/सेकंड, जबकि RTX PRO 6000 के लिए ~2,480, H200 NVL के लिए 3,410 और स्पार्क के लिए 445।
GPT-OSS-120B प्रतिस्पर्धी हार्डवेयर में मेमोरी सीमाओं को उजागर करता है। ET900N G3 ने 128 स्ट्रीम पर संतुलित वर्कलोड पर 9,280 आउटपुट टोकन/सेकंड, RTX PRO 6000 के 3,060 के लगभग तीन गुना, H200 NVL के 3,370 के 2.8 गुना और स्पार्क के 480 के 19 गुना से अधिक तक पहुंच बनाई। लंबे संकेतों के लिए, छोटे सिस्टम ने KV कैश क्षमता को जल्दी समाप्त कर दिया: RTX PRO 6000 के करीब पहुंच गया। 1,170 आउटपुट टोकन/सेकंड और एच200 एनवीएल लगभग 1,820, जबकि स्टेशन ने 128 धाराओं के माध्यम से चढ़ना जारी रखा और 45,205 टोकन/सेकंड के कुल थ्रूपुट के साथ 5,023 आउटपुट टोकन/सेकंड पर समाप्त हुआ।
लामा 3.1 8बी एफपी8 इस परीक्षण सूट में उच्चतम एकल थ्रूपुट संख्या प्रदान करता है। ET900N G3 ने संतुलित वर्कलोड (कुल 51,205) पर 128 स्ट्रीम में 25,602 आउटपुट टोकन/सेकंड को पुश किया, जबकि RTX PRO 6000 पर ~8,060 और H200 NVL पर 11,040 था। बीएफ16 से एफपी8 पर स्विच करने से स्टेशन थ्रूपुट लगभग 50% (17,074 से 25,602) बढ़ गया, जबकि आरटीएक्स प्रो 6000 में ~70% और एच200 एनवीएल ~37% की वृद्धि हुई। प्रीफ़िल-भारी परिणामों ने सभी स्कोर को संकुचित कर दिया: स्टेशन ने 6,164 आउटपुट टोकन/सेकंड, आरटीएक्स प्रो 6000 1,480, एच200 2,040 को हिट किया।
मिस्ट्रल स्मॉल 24बी एफपी8 ने सबसे बड़ा प्रदर्शन अनुपात उत्पन्न किया। ET900N G3 संतुलित कार्यभार के तहत 11,075 आउटपुट टोकन/सेकंड, 3.4x RTX PRO 6000 के 3,240, 2.4x H200 NVL के 4,610 और लगभग 20x स्पार्क के 559 पर चरम पर पहुंच गया। लंबे संकेतों पर, RTX PRO 6000 पहले 480 टोकन/सेकंड के आसपास 32 स्ट्रीम पर पहुंच गया। गिरावट; H200 NVL 854 टोकन/सेकंड के करीब शीर्ष पर रहा, जबकि स्टेशन 128 स्ट्रीम पर 2,302 टोकन/सेकंड तक पहुंच गया।
Qwen3 कोडर 30B, कम सक्रिय पैरामीटर गिनती के साथ विशेषज्ञों का मिश्रण मॉडल, एकल-स्ट्रीम अंतराल को कम करता है। एक स्ट्रीम संतुलित कार्यभार पर, RTX PRO 6000 ने स्टेशन के 319 और H200 NVL के 308 की तुलना में ~232 आउटपुट टोकन/सेकंड वितरित किए। बैचिंग प्रदर्शन पदानुक्रम को पुनर्स्थापित करता है: 128 स्ट्रीम FP8 पर, ET900N G3 ने 12,439 आउटपुट टोकन/सेकंड, 3.1x GPU के 3,990 और 1.7x को हिट किया। H200 NVL की 7,450. स्टेशन के लिए प्रीफिल-हेवी रन 3,837 आउटपुट टोकन/सेकंड तक पहुंच गया; आरटीएक्स प्रो 6000 64 स्ट्रीम पर 880 के करीब, एच200 एनवीएल 1,820 के करीब पहुंच गया।
इन साझा मॉडलों में, ET900N G3 ने एकल RTX PRO 6000 का 2.8-3.4x थ्रूपुट और पूर्ण संगामिति पर 1.7-3.7x H200 NVL प्रदान किया। इसकी बढ़त लंबे संकेतों पर बढ़ती है क्योंकि प्रतिस्पर्धी हार्डवेयर केवी कैश हेडरूम को कम करता है। WS300 की तुलना में, ये चार मॉडल फिर से 1% के भीतर बैठते हैं: GPT-OSS-20B के लिए 22,041 बनाम 22,161; जीपीटी-ओएसएस-120बी के लिए 9,280 बनाम 9,294; मिस्ट्रल स्मॉल एफपी8 के लिए 11,075 बनाम 11,157; Qwen3 कोडर FP8 के लिए 12,439 बनाम 12,425। सभी 14 मॉडलों की पूर्ण तुलना अगले भाग में दिखाई देगी।
दो टावर, एक बेसबोर्ड: ASUS ET900N G3 बनाम MSI WS300
ET900N G3 और MSI XpertStation WS300 समान NVIDIA GB300 DGX स्टेशन बेसबोर्ड को अलग-अलग OEM चेसिस में पैक करते हैं। दोनों ने समान 14 मॉडल, दो वर्कलोड प्रोफाइल और मिलान वीएलएलएम बिल्ड का उपयोग करके समवर्ती स्वीप चलाया। नीचे दी गई तालिका सभी मॉडलों में WS300 के मुकाबले ET900N G3 पीक आउटपुट थ्रूपुट की तुलना करती है।
कुल 28 मॉडल-वर्कलोड जोड़ियों में से 24 परिणाम एक-दूसरे के 2% के भीतर आते हैं, जिनमें से अधिकांश डब्लूएस300 के लिए आंशिक प्रतिशत लाभ दर्शाते हैं। चार इस बैंड के बाहर बैठते हैं, तीन संतुलित कार्यभार पर: लामा 3.1 8बी एफपी8, डब्ल्यूएस300 से 3.5% कम (25,602 बनाम 26,536), क्वेन3 कोडर 30बी बीएफ16 4.6% कम (10,000 बनाम 10,486), नेमोट्रॉन 3 अल्ट्रा 550बी 5.2% कम (159 बनाम) 168), प्लस क्यूवेन3 कोडर 30बी बीएफ16 फिर से लंबे संकेतों पर 2.1% कम पर। सभी डेटा बिंदु प्रत्येक टावर के लिए एकल-रन माप हैं, इसलिए 14 में से तीन मॉडलों में 2-5% भिन्नता को चेसिस डिज़ाइन के लिए जिम्मेदार नहीं ठहराया जा सकता है; हम बस देखे गए डेल्टा का दस्तावेजीकरण करते हैं। सुसंगत मेमोरी पूलिंग, मिनीमैक्स एम3 और जीएलएम-5.2 पर निर्भर मॉडल, दोनों वर्कलोड पर डब्लूएस300 के प्रदर्शन से मेल खाते हैं या उससे अधिक हैं, यह पुष्टि करते हुए कि ग्रेस ऑफलोड पथ एएसयूएस और एमएसआई बाड़ों में समान रूप से व्यवहार करता है।
| नमूना |
डब्लूएस300 512/512 |
ET900N जी3 512/512 |
डेल्टा |
डब्लूएस300 8,192/1,024 |
ET900N G3 8,192/1,024 |
डेल्टा |
|---|---|---|---|---|---|---|
| GPT-OSS-20B MXFP4 | 22,161 | 22,041 | -0.5% | 9,572 | 9,555 | -0.2% |
| जीपीटी-ओएसएस-120बी एमएक्सएफपी4 | 9,294 | 9,280 | -0.2% | 5,038 | 5,023 | -0.3% |
| लामा 3.1 8बी बीएफ16 | 17,278 | 17,074 | -1.2% | 3,520 | 3,498 | -0.6% |
| लामा 3.1 8बी एफपी8 | 26,536 | 25,602 | -3.5% | 6,189 | 6,164 | -0.4% |
| लामा 3.1 8बी एनवीएफपी4 | 28,698 | 28,400 | -1.0% | 6,744 | 6,737 | -0.1% |
| मिस्ट्रल स्मॉल 24बी बीएफ16 | 7,922 | 7,861 | -0.8% | 1,643 | 1,633 | -0.6% |
| मिस्ट्रल स्मॉल 24बी एफपी8 | 11,157 | 11,075 | -0.7% | 2,316 | 2,302 | -0.6% |
| Qwen3 कोडर 30B BF16 | 10,486 | 10,000 | -4.6% | 3,830 | 3,749 | -2.1% |
| Qwen3 कोडर 30B FP8 | 12,425 | 12,439 | +0.1% | 3,851 | 3,837 | -0.4% |
| डीपसीक वी4 फ्लैश एफपी8 | 1,766 | 1,766 | 0.0% | 948 | 954 | +0.6% |
| मिनीमैक्स एम2.7 एनवीएफपी4 | 4,801 | 4,793 | -0.2% | 1,743 | 1,744 | +0.1% |
| मिनीमैक्स एम3 एनवीएफपी4 | 1,041 | 1,041 | 0.0% | 278 | 282 | +1.3% |
| जीएलएम-5.2 एनवीएफपी4 | 138 | 139 | +0.4% | 118 | 120 | +1.7% |
| नेमोट्रॉन 3 अल्ट्रा 550बी एनवीएफपी4 | 168 | 159 | -5.2% | 142 | 140 | -1.1% |
GPT-OSS-20B, उच्चतम-थ्रूपुट सघन मॉडल, और GLM-5.2, ऑफलोड-केंद्रित कार्यभार, लगभग पूर्ण ओवरलैप दिखाते हैं: WS300 का प्रदर्शन ET900N G3 को लगभग बिंदु-दर-बिंदु दर्शाता है।
हम इस बेंचमार्क ढांचे को जारी रखेंगे क्योंकि अतिरिक्त GB300 टावर हमारी प्रयोगशाला में आ जाएंगे। HP का ZGX अगली पंक्ति में है, इसके बाद अन्य OEM बिल्ड हैं। प्रत्येक इकाई इस समान समवर्ती स्वीप को चलाती है, इसलिए OEM कार्यान्वयन के बीच कोई भी अंतर इस बेंचमार्क ढांचे में दिखाई देगा, व्यक्तिगत मॉडल चार्ट कच्चे प्रदर्शन वक्र को बनाए रखेंगे।
निष्कर्ष



