Hindi
एएमडी ने आधिकारिक तौर पर इंस्टिंट एमआई 350 पी जारी किया है, जो अपने मौजूदा डेटा सेंटर बुनियादी ढांचे में ओवरहाल के बिना ऑन-प्रिमाइसेस एआई निष्कर्ष की तलाश करने वाले एंटरप्राइज उपयोगकर्ताओं के लिए डिज़ाइन किया गया एक नया पीसीआईई त्वरक है।दो-स्लॉट के साथ, पूर्ण ऊंचाई और पूर्ण लंबाई के आकार कारक, यह ग्राफिक्स कार्ड पारंपरिक हवा से ठंडा सर्वर के साथ पूरी तरह संगत है।यह लगभग चार वर्षों में मानक सर्वर स्लॉट के लिए डिज़ाइन किए गए वर्तमान पीढ़ी के इंस्टिंट चिप के AMD की पहली रिलीज़ को भी चिह्नित करता है.
एएमडी इंस्टिनक्ट एमआई350पी
एएमडी की पीसीआईई-आधारित इंस्टिनक्ट उत्पाद लाइन 2022 की शुरुआत में एमआई210 के लॉन्च के बाद स्थिर रही। एमआई300एक्स, एमआई325एक्स और ओएएम-फॉर्मैट एमआई350एक्स सहित सभी बाद की पीढ़ियां,स्वीकृत ओएएम सॉकेट मॉड्यूल जो समर्पित सार्वभौमिक बेसबोर्ड पर लगाए जाते हैंइन मॉड्यूलों को एक ही ट्रे में आठ 1,000W वर्ग के त्वरक का समर्थन करने के लिए मजबूत शक्ति वितरण और वायु प्रवाह के साथ अनुकूलित संलग्नक की आवश्यकता होती है।ऐसी हार्डवेयर आर्किटेक्चर हाइपरस्केल क्लाउड प्रदाताओं के लिए उपयुक्त है जो थोक में GPU रैक खरीदते हैं, फिर भी यह नियमित उद्यमों को समायोजित करने में विफल रहता है जो साइट पर निष्कर्ष निकालने के कार्यों के लिए अनुकूलित एआई रैक को तैनात करने के लिए तैयार नहीं हैं या सक्षम नहीं हैं। एमआई 350 पी इस बाजार के अंतर को ठीक से भरता है। वर्तमान में,एनवीडिया के पास इस सेगमेंट में हाई-एंड सर्वर-ग्रेड पीसीआईई प्रतियोगी का अभाव हैएएमडी को अस्थायी रूप से बाजार की विशेषता मिलती है।
हार्डवेयर तुलनाः MI350P बनाम MI350X OAM
MI350P MI350X का कट-डाउन संस्करण नहीं है; AMD ने इस नए मॉडल के लिए एक स्वतंत्र सुव्यवस्थित चिप तैयार की।एमआई350एक्स में दो आई/ओ मिरर जोड़े जाते हैं और आठ एक्सेलेरेटर कॉम्प्लेक्स मिरर (एक्ससीडी) होते हैं।, कुल मिलाकर 256 कंप्यूटिंग यूनिट प्रदान करता है। इसके विपरीत, एमआई 350 पी में एक आई / ओ डाइ और चार एक्ससीडी होते हैं, जो 128 कंप्यूटिंग इकाइयों के बराबर होते हैं। सिलिकॉन पैमाने को आधा करने के बावजूद, यह एक समान 2 बनाए रखता है।उच्चतम स्तर के समकक्ष के रूप में 2 गीगाहर्ट्ज पीक क्लॉक आवृत्तिमेमोरी कॉन्फ़िगरेशन एक ही डाउनग्रेड विनिर्देश का पालन करता हैः चार एचबीएम3ई स्टैक (आठ के विपरीत), 4,096-बिट मेमोरी बस (8,192-बिट से नीचे),144 जीबी मेमोरी क्षमता और 4 टीबी/सेकंड बैंडविड्थ के साथ, एमआई350एक्स के 288 जीबी और 8 टीबी/सेकंड के थ्रूपुट की तुलना में।
एएमडी इंस्टिनक्ट एमआई350पी आर्किटेक्चर
पीक कंप्यूटिंग थ्रूपुट भी आधे से कम हो जाता है। MI350P प्रीमियम मॉडल के 4.6 PFLOPS की तुलना में 2,300 FP8 TFLOPS के साथ, MI350X के 9.2 PFLOPS के मुकाबले 4,600 MXFP4 TFLOPS तक पहुंचता है।BF16 के लिए प्रदर्शन मीट्रिक, FP16 और अन्य परिशुद्धता मानकों में समान आनुपातिक गिरावट का पालन किया गया है। विशेष रूप से, AMD ने पारदर्शिता के लिए चरम और वास्तविक दुनिया के निरंतर प्रदर्शन डेटा दोनों को प्रकाशित किया है। कार्ड 2,050 से अधिक प्रति सेकंड की क्षमता प्रदान करता है।एमएक्सएफपी4 के तहत 299 टीएफएलओपीएस, FP8 के तहत 1,529 TFLOPS और BF16 के तहत 713 TFLOPS। ये व्यावहारिक आंकड़े 600W पावर लिफाफे के भीतर वास्तविक आउटपुट को दर्शाते हैं,जहां शक्ति बाधाओं और स्मृति बैंडविड्थ सीमाओं अनिवार्य रूप से सैद्धांतिक चोटी प्रदर्शन कम.
संपादकीय टीम ने पहले सुपरमाइक्रो के जंपस्टार्ट कार्यक्रम के माध्यम से MI350X प्लेटफॉर्म का मूल्यांकन किया था और इसकी मजबूत निष्कर्ष कार्यभार क्षमताओं को मान्यता दी थी।टीम एमआई350पी का परीक्षण करने के लिए उत्सुक है।, विश्लेषण कैसे इस PCIe-फॉर्म-कारक त्वरक मानक कमोडिटी सर्वर चेसिस के भीतर प्रदर्शन करता है।
MI350P में 50% बिजली की कमी नहीं है, इसके आधा सिलिकॉन पैमाने के बावजूद। यह 600W TBP पावर रेटिंग रखता है, जो MI350X की 1000W सीमा के लगभग 60% के बराबर है।यह पीक वाट पीसीआईई सीईएम विनिर्देश की ऊपरी सीमा तक पहुंचता है, स्लॉट की अधिकतम थर्मल सीमा पर कार्ड चलाने के लिए। एक कम 450W ऑपरेटिंग मोड अपर्याप्त शीतलन के साथ सर्वर के लिए उपलब्ध है, मध्यम प्रदर्शन कटौती के साथ।एक ही पावर ब्रैकेट में स्थित, MI350P सीधे उद्यम खरीद के लिए NVIDIA के H200 NVL और RTX Pro 6000 सर्वर के साथ प्रतिस्पर्धा करता है।
एनवीवीएल4 हाई-स्पीड इंटरकनेक्ट के साथ एनवीआईडीआईएएच 200 के विपरीत, एमआई 350 पी इन्फिनिटी फैब्रिक एक्सपोजर को अक्षम करता है। सभी अंतर-जीपीयू डेटा ट्रांसमिशन पीसीआईई जेन 5 एक्स 16 के 128 जीबी / एस बैंडविड्थ तक सीमित है।
आठ-जीपीयू वायु-कूल्ड तैनाती
एक मानक दो स्लॉट एफएचएफएल पीसीआईई कार्ड के रूप में, एमआई 350 पी मौजूदा उद्यम सर्वरों के साथ संगत है। प्रमुख ओईएम घने आठ-जीपीयू वायु-कूल्ड मॉडल प्रदान करते हैं,जिसमें पहले की समीक्षा की गई Dell PowerEdge XE7740 और HPE ProLiant DL380a Gen12 शामिल हैं600W के त्वरक के लिए अनुकूलित, इन प्लेटफार्मों को कस्टम रैक, तरल शीतलन या ओएएम बेसबोर्ड की आवश्यकता नहीं होती है।
आठ-कार्ड MI350P कॉन्फ़िगरेशन 1,152GB HBM3E और 32 TB/s कुल बैंडविड्थ प्रदान करता है, जो एक वायु-कूल्ड चेसिस के भीतर MXFP4 परिशुद्धता में ट्रिलियन-पैरामीटर मॉडल को होस्ट करने के लिए पर्याप्त है।यह समर्पित स्केलिंग कपड़े का त्याग करता हैजबकि एमआई350एक्स तेजी से अंतर-मॉड्यूल संचार के लिए इन्फिनिटी फैब्रिक का उपयोग करता है, एमआई350पी केवल पीसीआईई जेन 5 पर निर्भर करता है।यह आर्किटेक्चर अनुमान के लिए नोड-लोकल टेन्सर समानांतरता और क्रॉस-नोड डेटा समानांतरता के लिए उपयुक्त है, जबकि ओएएम आधारित एमआई350एक्स बैंडविड्थ-गहन एआई प्रशिक्षण कार्यों के लिए बेहतर बना हुआ है।
सटीक प्रारूप
MI350P बिना अपग्रेड के MI350X से सभी परिशुद्धता प्रारूपों को विरासत में लेता है। MXFP4, MXFP6 और MXFP8 सहित OCP ब्लॉक-स्केलिंग प्रकार एआई मॉडल विकास के लिए मुख्यधारा बन गए हैं,कम सटीकता वाले प्रशिक्षण को सक्षम करना और गुणवत्ता में नगण्य गिरावट. एमएक्सएफपी 4 एफपी 8 की दोगुनी गति और बीएफ 16 के चार गुना से अधिक थ्रूपुट प्रदान करता है। ओपनएआई जीपीटी-ओएस और किमी के 2.6 जैसे वास्तविक दुनिया के मामले देशी कम-बिट क्वांटिज़ेशन के मूल्य को साबित करते हैं।चूंकि MXFP4 और INT4 भार केवल 25% BF16 मेमोरी स्थान पर कब्जा करते हैं, ट्रिलियन-पैरामीटर मॉडल को एक एकल आठ-जीपीयू सर्वर के अंदर तैनात किया जा सकता है, जो ऑन-प्रिमाइसेस उद्यमों के लिए बोझिल मल्टी-नोड क्लस्टर को समाप्त करता है।
निचला रेखा
अधिकांश ऑन-प्रिमाइसेस एआई उद्यम कच्चे कंप्यूटिंग क्षमता के बजाय शक्ति, शीतलन, घनत्व और बजट द्वारा सीमित हैं। ड्रॉप-इन एमआई 350 पी प्रभावी रूप से इन तैनाती बाधाओं को कम करता है।इस खंड में एक प्रमुख पीसीआईई सर्वर जीपीयू की कमी के साथ एनवीआईडीआईएएएमडी के आधिकारिक इंस्टेंट वेबपेज पर अधिक जानकारी उपलब्ध है।
बीजिंग कियानक्सिंग जीएटोंग टेक्नोलॉजी कं, लिमिटेड
सैंडी यांग/वैश्विक रणनीति निदेशक
व्हाट्सएप / वीचैटः +86 13426366826
ईमेलः yangyd@qianxingdata.com
वेबसाइटः www.qianxingdata.com/www.storagesserver.com
व्यापार फोकसः
आईसीटी उत्पाद वितरण/सिस्टम एकीकरण और सेवाएं/पूर्वाधार समाधान
20+ वर्षों के आईटी वितरण अनुभव के साथ, हम विश्वसनीय उत्पादों और पेशेवर सेवाओं को वितरित करने के लिए अग्रणी वैश्विक ब्रांडों के साथ साझेदारी करते हैं।
एक बुद्धिमान दुनिया के निर्माण के लिए प्रौद्योगिकी का उपयोग करना आपका विश्वसनीय आईसीटी उत्पाद सेवा प्रदाता!
सैंडी यांग/वैश्विक रणनीति निदेशक
व्हाट्सएप / वीचैटः +86 13426366826
ईमेलः yangyd@qianxingdata.com
वेबसाइटः www.qianxingdata.com/www.storagesserver.com
व्यापार फोकसः
आईसीटी उत्पाद वितरण/सिस्टम एकीकरण और सेवाएं/पूर्वाधार समाधान
20+ वर्षों के आईटी वितरण अनुभव के साथ, हम विश्वसनीय उत्पादों और पेशेवर सेवाओं को वितरित करने के लिए अग्रणी वैश्विक ब्रांडों के साथ साझेदारी करते हैं।
एक बुद्धिमान दुनिया के निर्माण के लिए प्रौद्योगिकी का उपयोग करना आपका विश्वसनीय आईसीटी उत्पाद सेवा प्रदाता!