Hindi
वीएएसटी डेटा ने क्लाउड और एंटरप्राइज प्लेटफार्मों के लिए एआई बुनियादी ढांचे को आगे बढ़ाने के लिए एएमडी के साथ अपनी साझेदारी का विस्तार किया है जो मॉडल प्रशिक्षण, निष्कर्ष, पुनर्प्राप्ति-वर्धित पीढ़ी (आरएजी),और एजेंटिक एआई कार्यभारएकीकृत स्टैक VAST AI ऑपरेटिंग सिस्टम को 6 वीं पीढ़ी के AMD EPYC प्रोसेसर, AMD Instinct GPUs, AMD नेटवर्क हार्डवेयर और ROCm सॉफ्टवेयर के साथ एकजुट करता है।
यह सहयोग एक प्रमुख उद्योग बदलाव के साथ संरेखित करता हैः एआई बुनियादी ढांचा केवल प्रशिक्षण-केवल क्लस्टर से परे विकसित हो रहा है ताकि निरंतर संदर्भ, उच्च प्रतिस्पर्धा अनुमान,और बहु-चक्र एजेंट कार्यप्रवाहआधुनिक एआई तैनाती में कुशल डेटा आंदोलन, अनुकूलित केवी कैश प्रबंधन, उच्च जीपीयू उपयोग और बड़े मॉडल और प्रासंगिक डेटासेट तक कम विलंबता पहुंच को प्राथमिकता दी जाती है।
VAST की विघटित साझा सब कुछ (DASE) वास्तुकला इन आधुनिक एआई वातावरणों के लिए एकीकृत साझा डेटा परत के रूप में कार्य करती है। यह फ़ाइल और ऑब्जेक्ट स्टोरेज, डेटाबेस,घटना स्ट्रीमिंग, और एकल वैश्विक नामस्थान के तहत कोर डेटा सेवाएं, जबकि विभिन्न समवर्ती ग्राहक और अनुप्रयोग कार्यों को चलाने वाले एआई क्लाउड के लिए मल्टी-टेंनेंसी और वर्कलोड अलगाव प्रदान करते हैं।
AMD EPYC 9006 पावरज़ नेक्स्ट-जेन वीएएसटी हार्डवेयर
VAST अपने आगामी 6 वीं पीढ़ी के CBox और 3 वीं पीढ़ी के EBox सिस्टम के लिए 6 वीं पीढ़ी के AMD EPYC 9006-सीरीज़ (वेनिस) प्रोसेसर को अपना रहा है, जो VAST AI ऑपरेटिंग सिस्टम की हार्डवेयर नींव बनाते हैं।EPYC 9006 प्लेटफार्म VAST के हार्डवेयर लाइनअप में PCIe Gen6 कनेक्टिविटी का परिचय देता है, प्रति पीढ़ी I/O बैंडविड्थ को दोगुना करना।
अद्यतन फ़ाइल और ऑब्जेक्ट स्टोरेज थ्रूपुट को बढ़ाता है और VAST डेटाबेस और डेटाइंजन द्वारा समर्थित डेटाबेस, डेटा वेयरहाउस और इवेंट स्ट्रीमिंग वर्कलोड के लिए विलंबता को कम करता है।बढ़ी हुई I/O बैंडविड्थ कंप्यूटिंग में बाधाओं को कम करती है, नेटवर्किंग और NVMe स्टोरेज, मॉडल लोडिंग, पुनर्प्राप्ति पाइपलाइन, चेकपॉइंट एक्सेस, और बाहरी KV कैश वर्कफ़्लो का लाभ उठाते हैं जो देशी GPU मेमोरी सीमाओं से अधिक हैं।
एएमडी और ड्राइवनेट्स के साथ त्रि-खिलाड़ी संदर्भ वास्तुकला
VAST, AMD और DriveNets संयुक्त रूप से एक एकीकृत AI बुनियादी ढांचा संदर्भ वास्तुकला का निर्माण कर रहे हैं, जो AMD के रैक-स्केल हेलियोस AI बुनियादी ढांचे, VAST AI OS और DriveNets AI Fabric नेटवर्किंग को जोड़ती है।ढांचा एआई प्रशिक्षण के लिए मानकीकृत तैनाती मार्गदर्शन प्रदान करता है, निष्कर्ष, सुदृढीकरण सीखने और केवी कैश कार्यभार,साझा डेटा बुनियादी ढांचे और उच्च प्रदर्शन नेटवर्किंग के साथ एआई कारखानों का निर्माण करने वाले उद्यमों के लिए आकार और उपलब्धता सर्वोत्तम प्रथाओं को प्रदान करना.
VAST ने एजेंटिक एआई उपयोग मामलों के लिए उत्पादन-ग्रेड अनुमान वास्तुकला पर ध्यान केंद्रित करते हुए, अनुमान विक्रेताओं TensorMesh और EmbeddedLLM के साथ अपने पारिस्थितिकी तंत्र संबंधों का भी विस्तार किया है,विशिष्ट एकीकरण और लॉन्च विवरण अभी तक खुलासा नहीं किया गया है.
उच्च-समानता अनुमान के लिए अनुकूलित KV कैश ऑफलोड
अद्यतन सहयोग का एक केंद्र बिंदु एएमडी इंस्टेंट जीपीयू, एएमडी इन्फिनिटी कॉन्टेक्स्ट, आरओसीएम सॉफ्टवेयर और वास्ट एआई ओएस का लाभ उठाते हुए, उन्नत केवी कैश ऑफलोडिंग है।केवी कैश बहु-चक्र बातचीत और लंबे संदर्भ वाले एआई कार्यभार को तेज करने के लिए निष्कर्ष-जनित ध्यान स्थिति डेटा संग्रहीत करता है, फिर भी बड़े कैश आकार तेजी से सीमित जीपीयू मेमोरी का उपभोग करते हैं।
केवी कैश को उच्च प्रदर्शन वाले साझा भंडारण में उतारने या टियर करने से सक्रिय कार्यों के लिए जीपीयू मेमोरी मुक्त हो जाती है जबकि बाद के निष्कर्ष अनुरोधों के लिए प्रासंगिक डेटा को संरक्षित किया जाता है।AMD Instinct MI355X GPU पर प्रारंभिक परीक्षण ने 9 गुना तेज़ समय-से-पहले टोकन और 9 गुना तेज़ समय प्रदान किया।.7 गुना अधिक टोकन थ्रूपुट उच्च-समानता वाले एजेंटिक एआई वर्कलोड के लिए वीएएसटी-संचालित केवी कैश ऑफलोड के माध्यम से, हार्डवेयर बेसलाइन, वर्कलोड और स्टोरेज कॉन्फ़िगरेशन के अनुसार प्रदर्शन भिन्न होता है।
इसके अतिरिक्त, VAST की स्वचालित जीवनचक्र नीतियां KV कैश डेटा पर लागू होती हैं, जिससे कैश की गई सामग्री की नियोजित समाप्ति और हटाने की अनुमति मिलती है, जो संवेदनशील डेटा को संभालने के लिए एक महत्वपूर्ण विशेषता है।व्यक्तिगत या विनियमित निष्कर्ष डेटा.
उच्च गति वाले जीपीयू-स्टोरेज इंटरकनेक्ट Pensando Pollara 400 के माध्यम से
आर्किटेक्चर AMD Pensando Pollara 400 AI NICs को AMD Instinct GPUs को VAST स्टोरेज क्लस्टर से जोड़ने के लिए तैनात करता है।एनआईसी कुशल जीपीयू से स्टोरेज डेटा ट्रांसफर को सक्षम करता हैकेवी कैश और सामान्य निष्कर्ष कार्यभार के लिए एनवीएम-आधारित वीएएसटी स्टोरेज तक कम विलंबता तक पहुंच प्रदान करना।
यह डिजाइन भौतिक जीपीयू मेमोरी सीमाओं से संदर्भ प्रबंधन स्केलिंग को अलग करता है।VAST अपने प्लेटफॉर्म को वितरित मॉडल प्रबंधन के लिए एक एकीकृत डेटा और निष्पादन परत के रूप में तैनात करता हैएआई क्लाउड प्रदाताओं के लिए, आर्किटेक्चर जीपीयू उपयोग और परिचालन दक्षता को बढ़ाता है,बैच प्रशिक्षण और GPU किराए पर लेने से लगातार निष्कर्ष निकालने और एजेंटिक एआई सेवाओं के लिए उद्योग के संक्रमण का समर्थन करना.
बीजिंग कियानक्सिंग जीएटोंग टेक्नोलॉजी कं, लिमिटेड
सैंडी यांग/वैश्विक रणनीति निदेशक
व्हाट्सएप / वीचैटः +86 13426366826
ईमेलः yangyd@qianxingdata.com
वेबसाइटः www.qianxingdata.com/www.storagesserver.com
व्यापार फोकसः
आईसीटी उत्पाद वितरण/सिस्टम एकीकरण और सेवाएं/पूर्वाधार समाधान
20+ वर्षों के आईटी वितरण अनुभव के साथ, हम विश्वसनीय उत्पादों और पेशेवर सेवाओं को वितरित करने के लिए अग्रणी वैश्विक ब्रांडों के साथ साझेदारी करते हैं।
एक बुद्धिमान दुनिया के निर्माण के लिए प्रौद्योगिकी का उपयोग करना आपका विश्वसनीय आईसीटी उत्पाद सेवा प्रदाता!
सैंडी यांग/वैश्विक रणनीति निदेशक
व्हाट्सएप / वीचैटः +86 13426366826
ईमेलः yangyd@qianxingdata.com
वेबसाइटः www.qianxingdata.com/www.storagesserver.com
व्यापार फोकसः
आईसीटी उत्पाद वितरण/सिस्टम एकीकरण और सेवाएं/पूर्वाधार समाधान
20+ वर्षों के आईटी वितरण अनुभव के साथ, हम विश्वसनीय उत्पादों और पेशेवर सेवाओं को वितरित करने के लिए अग्रणी वैश्विक ब्रांडों के साथ साझेदारी करते हैं।
एक बुद्धिमान दुनिया के निर्माण के लिए प्रौद्योगिकी का उपयोग करना आपका विश्वसनीय आईसीटी उत्पाद सेवा प्रदाता!