कंपनी की खबर हुआवेई का ओशनस्टोर केवी कैश स्टोरेज हाइपर-स्केल एआई डेटा सेंटरों के लिए

Huawei ने OceanStor M900 की घोषणा की है, जो एक स्केल-आउट, ऑल-फ्लैश स्टोरेज क्लस्टर है जो अपने Atlas 960 SuperPoDs के लिए 64 PB KV कैश बेस टियर तक प्रदान करता है; Nvidia के SuperPODs के तुलनीय रैक-स्केल AI एक्सेलेरेटर।

Nvidia ने अपने GPUs, BlueField NICs, Spectrum-X स्विच और AI सॉफ़्टवेयर को स्टोरेज सिस्टम के साथ एकीकृत करने के लिए एक संदर्भ डिज़ाइन परिभाषित किया है, जो GPUDirect, RDMA और इसके Dynamo सॉफ़्टवेयर और CMX योजना के माध्यम से KV कैश एक्सटेंशन का समर्थन करता है। यह मल्टी-टियर आर्किटेक्चर GPU की हाई-बैंडविड्थ मेमोरी (HBM) का उपयोग सबसे तेज़ टॉप टियर के रूप में करता है, इसके बाद संबंधित X86 सर्वर की DRAM को लेवल 2 के रूप में, सर्वर के स्थानीय SSDs को L3 के रूप में, और एक फ्लैश स्टोरेज सर्वर के भीतर इंटेलिजेंट BlueField-4 NIC-कनेक्टेड NVMe SSDs को L3.5 के रूप में उपयोग करता है। ये माइक्रोसेकंड-क्लास लेटेंसी के साथ एक सिंगल नेटवर्क हॉप में GPU के HBM तक पहुंच सकते हैं।

Huawei अब Nvidia के SuperPOD डिज़ाइन को हाइपरस्केल AI डेटा सेंटरों के लिए निर्मित अपने SuperPoDs के साथ चुनौती दे रहा है। सिस्टम 10-ट्रिलियन पैरामीटर मॉडल और मिलियन-प्लस टोकन कॉन्टेक्स्ट विंडो को लक्षित करते हैं, जिसका अर्थ है कि एक सिंगल एक्सेलेरेटर की हाई-बैंडविड्थ मेमोरी सभी आवश्यक की-वैल्यू टोकन को नहीं रख सकती है, जिसके लिए एक कैशिंग मैकेनिज्म की आवश्यकता होती है।

कंपनी का कहना है कि एक Atlas 960E SuperPoD 4,096 NPUs (न्यूरल प्रोसेसिंग यूनिट्स) तक स्केल कर सकता है, जो 8 EFLOPS FP8 कंप्यूट परफॉर्मेंस, 1 पेटाबाइट तक HBM क्षमता और 256 TB यूनिफाइड मेमोरी पूल प्रदान करता है। यूनिफाइडबस (NPO) से लैस 5,500 Hi-ONE यूनिट्स को तैनात करने से पारंपरिक रूप से सभी NPUs को इंटरकनेक्ट करने के लिए आवश्यक 48,000 800G ऑप्टिकल मॉड्यूल की तुलना में बिजली की खपत 550 किलोवाट से अधिक कम हो जाती है। यह सिस्टम के फॉल्ट-फ्री ऑपरेटिंग टाइम को भी दोगुना करता है और 99.8 प्रतिशत सिस्टम उपलब्धता तक पहुंचता है।

Huawei OceanStor M900
SuperPoD एक मल्टी-टियर KV कैशिंग फ्रेमवर्क को अपनाता है, जहां M900 L3.5 लेयर के लिए पेटाबाइट-स्केल KV कैश की आपूर्ति करता है। प्रत्येक क्लस्टर इस टियर के लिए ऑप्टिकल नेटवर्किंग पर 4 PB तक साझा L3.5 KV कैश क्षमता और 40 TB/sec का एग्रीगेट बैंडविड्थ प्रदान करता है, जो प्रति NPU कई टेराबाइट्स KV कैश क्षमता प्रदान करता है। Huawei का दावा है कि विशिष्ट AI इन्फेरेंस वर्कलोड के तहत, यह आर्किटेक्चर इन्फेरेंस क्लस्टर के टोकन थ्रूपुट को दोगुना करता है और फर्स्ट टोकन (TTFT) तक के समय को आधा कर देता है।

फर्म नोट करती है कि 40 TB/sec बैंडविड्थ प्रतिस्पर्धी समाधानों की तुलना में 1.5 गुना अधिक है, बिना स्पष्ट रूप से विक्रेताओं का नाम लिए। यह आम तौर पर DDN, Everpure, IBM (Storage Scale), MinIO और VAST Data सिस्टम को संदर्भित करता है जिनके क्लस्टर बैंडविड्थ 10-25 TB/sec के बीच है।

M900 में एक एकीकृत डिज़ाइन है जो CPU, नेटवर्क कंट्रोलर और NAND कंट्रोलर को एक यूनिट में जोड़ता है, जिससे SuperPoD NPUs को SSDs से सीधा, एक-हॉप लिंक स्थापित करने में सक्षम बनाता है। यह एक्सेस लेटेंसी को मिलीसेकंड से लगभग 60 माइक्रोसेकंड तक कम करता है।

डेविड वांग, Huawei के उप चेयरमैन और रोटेटिंग चेयरमैन ने कहा: "OceanStor M900 हाइब्रिड मीडिया और एक अनुकूलित रिटेंशन एल्गोरिथम का भी उपयोग करता है, जो SSD रीड/राइट लाइफस्पैन को 16 गुना बढ़ाता है। यह उच्च KV कैश हिट रेट के साथ-साथ शुरू से ही दीर्घकालिक स्थिरता और विश्वसनीयता सुनिश्चित करता है।"

आगे के विवरण में, Huawei का कहना है कि M900 KV-अवेयर एडैप्टिव स्टोरेज टेक्नोलॉजी की सुविधा देता है जो KV कैश डेटा के प्रत्येक सेगमेंट के अपेक्षित जीवनकाल और मूल्य का अनुमान लगाता है। इन भविष्यवाणियों के आधार पर, यह डेटा को विभिन्न मीडिया टियर पर शेड्यूल और वितरित करता है: ऑन-चिप मेमोरी, DRAM, और SSDs। Huawei का कहना है कि यह अनुकूलित प्लेसमेंट और रिटेंशन रणनीति SSDs को प्रति दिन 24 ड्राइव राइट्स (DWPD) तक बनाए रखने में सक्षम बनाती है, जो एक उल्लेखनीय रूप से उच्च आंकड़ा है, और SSD सहनशक्ति को 16 गुना बढ़ाती है, जिससे कम ड्राइव प्रतिस्थापन के साथ तीन साल के स्थिर संचालन का समर्थन होता है।

Huawei के लिए M900 डेटाशीट और तकनीकी ब्रीफिंग जारी करना अभी बहुत जल्दी है, इसलिए नोड रैक यूनिट आकार, कंट्रोलर, ड्राइव की मात्रा और क्षमता, क्लस्टर नोड काउंट और अन्य विशिष्टताओं जैसे विवरण अभी उपलब्ध नहीं हैं।

NPU फ़ुटनोट
NPUs Huawei Ascend न्यूरल प्रोसेसिंग यूनिट्स हैं, जो Huawei का कहना है कि AI के लिए मूल रूप से निर्मित हैं (GPU के विपरीत जो ग्राफिक्स चिप्स के रूप में उत्पन्न हुए थे)। वे क्यूब (मैट्रिक्स) कोर और वेक्टर कोर के साथ Huawei के Da Vinci आर्किटेक्चर को अपनाते हैं, और बड़े मॉडल के लिए इन्फेरेंस और ट्रेनिंग को तेज करने के लिए FP8 और FP4 सहित लो-प्रिसिजन फॉर्मेट का समर्थन करते हैं। जब Huawei के यूनिफाइडबस ऑल-ऑप्टिकल इंटरकनेक्ट के माध्यम से बड़े सिस्टम में असेंबल किया जाता है, तो वे हजारों या यहां तक कि लाखों NPUs को एक लॉजिकल मशीन के रूप में संचालित करने के लिए स्केल कर सकते हैं। हाल के ऑफर जैसे Atlas 350 (Ascend 950PR का उपयोग करके) और आगामी Atlas 960 SuperPoDs को चीनी बाजार में Nvidia GPUs के विकल्प के रूप में स्थान दिया गया है।

बीजिंग कियानक्सिंग जिएटोंग टेक्नोलॉजी कं, लिमिटेड
सैंडी यांग/ग्लोबल स्ट्रेटेजी डायरेक्टर
WhatsApp / WeChat: +86 13426366826
ईमेल: yangyd@qianxingdata.com
वेबसाइट: www.qianxingdata.com/www.storagesserver.com
व्यावसायिक फोकस:
ICT उत्पाद वितरण/सिस्टम एकीकरण और सेवाएँ/बुनियादी ढाँचा समाधान
20+ वर्षों के IT वितरण अनुभव के साथ, हम विश्वसनीय उत्पाद और पेशेवर सेवाएँ प्रदान करने के लिए अग्रणी वैश्विक ब्रांडों के साथ साझेदारी करते हैं।
"एक बुद्धिमान दुनिया बनाने के लिए प्रौद्योगिकी का उपयोग करना" आपके विश्वसनीय ICT उत्पाद सेवा प्रदाता!