सप्ताहांत में वैश्विक फ्लैश और मेमोरी क्षेत्र में तीव्र गतिविधि देखी गई, जिसमें माइक्रोन-एप्पल विवाद, एंथ्रोपिक की एसके हाइनेक्स के साथ चिप सोर्सिंग वार्ता, एक नई एनवीडिया-एसके हाइनेक्स साझेदारी, एसके हाइनेक्स की 3डी डीएम की प्रगति, और सैमसंग की सीएक्सएल मेमोरी पूलिंग नवाचार शामिल थे।
एसके हाइनेक्स ने हाल की उद्योग की सुर्खियों पर हावी रहा। सिट्रीनी विश्लेषक जुकान ने पुष्टि की कि फर्म 3डी स्टैक्ड डीएम विकसित कर रही है, जिसे उसकी सैन जोस स्थित अमेरिकी सहायक कंपनी के माध्यम से 3डी-स्टैक्ड डीएम-ऑन-लॉजिक डिज़ाइन इंजीनियरों की रणनीतिक भर्ती का समर्थन प्राप्त है। भर्ती का लक्ष्य ऐसे प्रतिभाओं को लक्षित करना है जो कई अमेरिकी-आधारित ग्राहकों के साथ 3डी-स्टैक्ड डीएम लॉजिक डाइस को सह-डिजाइन करने में सक्षम हों।
नई वास्तुकला सिस्टम सेमीकंडक्टर प्रोसेसर के ऊपर 3डी डीएम स्टैक को परत करती है। एक ही डाई पर डीएम और लॉजिक को एकीकृत करने से पारंपरिक पैकेज-ऑन-पैकेज (पीओपी) बॉन्डिंग की तुलना में तेज इंटर-चिप कनेक्टिविटी और कम बिजली की खपत होती है।
जुका नोट करता है कि यह तकनीक एआई वर्कलोड उपकरणों को लक्षित करती है, जिन्हें उच्च मेमोरी बैंडविड्थ और कम बिजली की खपत की आवश्यकता होती है, विशेष रूप से स्मार्टफोन मोबाइल एप्लिकेशन प्रोसेसर - एसके हाइनेक्स के लिए एप्पल को एक प्रमुख संभावित ग्राहक के रूप में स्थापित करता है।
एसके ग्रुप ने एनवीडिया के साथ अपनी रणनीतिक साझेदारी का विस्तार किया है, जो औपचारिक आशय पत्रों के माध्यम से 500 अरब डॉलर से अधिक के सहयोग का गठन करता है। एसके टेलीकॉम वैश्विक कंप्यूटिंग मांग को पूरा करने के लिए एक नए क्लाउड प्रदाता के रूप में 2-गीगावाट एनवीडिया वेरा रुबिन डीएसएक्स एआई फैक्ट्री का निर्माण करेगा। वेरा रुबिन चिप्स एसके हाइनेक्स के एचबीएम4 मेमोरी को अपनाएंगे, जिसमें पहली एआई फैक्ट्री 2027 में लॉन्च होने वाली है।
साझेदारी का उद्देश्य बड़े पैमाने पर एआई बुनियादी ढांचे के विकास को तेज करना है, जिसमें संप्रभु, भौतिक, एजेंटिक और उद्यम एआई सेवाएं शामिल हैं, और दक्षिण कोरिया और व्यापक एशिया-प्रशांत क्षेत्र में बढ़ती एआई मांग को पूरा करना है। एसके हाइनेक्स एनवीडिया के साथ एक दीर्घकालिक एआई मेमोरी साझेदारी भी शुरू करेगा, जिससे एनवीडिया के लिए अगली पीढ़ी की एआई मेमोरी की स्थिर आपूर्ति सुनिश्चित होगी, जबकि एसके हाइनेक्स की उत्पादन क्षमता बढ़ेगी। दोनों पक्ष एलएलएम प्रशिक्षण, एजेंटिक और भौतिक एआई परिदृश्यों के लिए एचबीएम और अन्य एआई मेमोरी समाधानों को सह-विकसित और अनुकूलित करेंगे।
एसके ग्रुप के अध्यक्ष चेय ताए-वॉन ने कहा कि सहयोग एसके हाइनेक्स की एआई मेमोरी और एसके टेलीकॉम के बुनियादी ढांचे की ताकत का लाभ उठाकर एक विश्व स्तरीय एआई फैक्ट्री का निर्माण करेगा, जिससे दक्षिण कोरिया एक एआई अपनाने वाले से एक वैश्विक एआई नवाचार केंद्र में बदल जाएगा।
पूर्व इंटेल सीईओ पैट गेल्सिंगर ने कोरियाई उद्योग की एक फायरसाइड चैट के दौरान खुले तौर पर एचबीएम की आलोचना की, इसे एक अपूर्ण मेमोरी समाधान कहा। उन्होंने एचबीएम की प्रमुख खामियों को बताया: थर्मल स्टैकिंग मुद्दे, जीपीयू एज शोरलाइन द्वारा सीमित कनेक्टिविटी सीमाएं, खराब बिजली दक्षता, और बिट अक्षमता - लगभग चार मेमोरी बिट्स प्रति प्रभावी परिचालन बिट का त्याग। गेल्सिंगर ने फिर भी स्वीकार किया कि एचबीएम आज उपलब्ध सबसे अच्छा व्यवहार्य समाधान है।
एसके हाइनेक्स एसवीपी होशिक किम ने आंशिक रूप से गेल्सिंगर के दृष्टिकोण का समर्थन किया, यह कहते हुए कि एचबीएम एआई की अंतर्निहित मेमोरी वॉल बाधा को मौलिक रूप से हल नहीं कर सकता है। उन्होंने स्पष्ट किया कि एचबीएम केवल एक अस्थायी शमन उपाय के रूप में कार्य करता है, जबकि एसके हाइनेक्स सक्रिय रूप से मुख्य मेमोरी वॉल चुनौती से निपटने के लिए वैकल्पिक समाधान विकसित कर रहा है।
ब्लूमबर्ग के अनुसार, प्रमुख अमेरिकी एआई फर्म एंथ्रोपिक अपने कस्टम इन-हाउस एआई प्रोसेसर का समर्थन करने के लिए समर्पित मेमोरी चिप आपूर्ति के लिए एसके हाइनेक्स के साथ बातचीत कर रही है। एसके ग्रुप के अध्यक्ष चेय ताए-वॉन ने जुलाई 2024 के सैन फ्रांसिस्को एआई शिखर सम्मेलन में यह खबर दी, जहां एंथ्रोपिक के सीईओ डारियो एमोडी ने भी बात की, एनवीडिया के जीपीयू प्रभुत्व को तोड़ने के व्यापक उद्योग प्रयासों के बीच एंथ्रोपिक के महत्वाकांक्षी हार्डवेयर विकास लक्ष्यों की प्रशंसा की। एमोडी ने टिप्पणियों पर सार्वजनिक रूप से प्रतिक्रिया नहीं दी।
सैमसंग ने अपने आधिकारिक टेक ब्लॉग के अनुसार, केवी कैश ऑफलोडिंग के लिए बाहरी सीएक्सएल पूल्ड मेमोरी का उपयोग करके एआई अनुमान वर्कलोड के लिए लगभग मूल डीएम प्रदर्शन हासिल किया है। एलएलएम अनुमान विलंबता और अनावश्यक कंप्यूटिंग को कम करने के लिए गणना किए गए ध्यान कुंजी और मानों को संग्रहीत करने के लिए केवी कैश पर निर्भर करते हैं, फिर भी बड़े मॉडल को सैकड़ों गीगाबाइट कैश की आवश्यकता होती है, जो ऑन-बोर्ड एआई प्रोसेसर मेमोरी से आसानी से अधिक हो जाता है। पारंपरिक एसएसडी या नेटवर्क-आधारित ऑफलोडिंग क्षमता सीमाओं को आसान बनाती है लेकिन अतिरिक्त विलंबता और बैंडविड्थ ओवरहेड पेश करती है।
सीएक्सएल तकनीक उच्च-बैंडविड्थ सुसंगत पीसीआईई इंटरकनेक्ट के माध्यम से पारंपरिक डीएम भौतिक बाधाओं को तोड़ती है, जिससे सीएक्सएल स्विच के माध्यम से कई उपकरणों में स्केलेबल मेमोरी पूलिंग सक्षम होती है। सैमसंग का सीएमएम-डी (सीएक्सएल मेमोरी मॉड्यूल-डीएम) इस विस्तारित मेमोरी आर्किटेक्चर के लिए विशेष रूप से बनाया गया है।
सैमसंग ने पीसीआईई जेन5 पर एनवीडिया आरटीएक्स प्रो 6000 ब्लैकवेल जीपीयू के साथ अपने सीएमएम-डी मॉड्यूल का परीक्षण किया, वीएलएलएम और एलएमसीैश सॉफ्टवेयर अनुकूलन के साथ 1टीबी सीएक्सएल मेमोरी पूल बनाया। परीक्षणों ने सत्यापित किया कि पूल लगभग डीएम प्रदर्शन के साथ बड़े पैमाने पर केवी कैश ऑफलोडिंग का समर्थन करता है। सिंगल-जीपीयू सेटअप में, अनुकूलित सीएक्सएल पूलिंग ने एलएमसीैश बैकएंड के रूप में डीएम प्रदर्शन से मिलान किया। आठ-जीपीयू मल्टी-जीपीयू वातावरण में, इसने मूल डीएम थ्रूपुट का 92% बनाए रखा, जिसमें बहुत बड़ी मेमोरी क्षमता थी।
आगे के परीक्षणों में बढ़ते केवी कैश लोड के तहत 512 जीबी स्थानीय डीएम सेटअप और 1 टीबी सीएक्सएल पूल की तुलना की गई। स्थानीय डीएम ने क्षमता से अधिक होने पर बार-बार कैश पुनर्गणना से गंभीर प्रदर्शन गिरावट का अनुभव किया, जबकि सीएक्सएल पूल ने स्थिर प्रदर्शन बनाए रखा और बहुत बड़े कैश फुटप्रिंट का समर्थन किया। पूर्ण परीक्षण विवरण सैमसंग के डाउनलोड करने योग्य श्वेत पत्र में उपलब्ध हैं।
सैमसंग नोट करता है कि वर्तमान सीएक्सएल स्विच परिनियोजन के लिए एलएमसीैश और अन्य घटकों के लिए होस्ट-स्तरीय कर्नेल और सॉफ्टवेयर समायोजन की आवश्यकता होती है। फिर भी, सीएक्सएल 3.0-आधारित मेमोरी पूलिंग मजबूत अनुप्रयोग क्षमता दिखाती है, जिसमें इंटेल डीएमआर, एएमडी वेनिस और नए सीएक्सएल 3.0 स्विच प्लेटफॉर्म के माध्यम से मौजूदा तकनीकी सीमाओं को खत्म करने के लिए चल रहे पारिस्थितिकी तंत्र परिपक्वता शामिल है।
अंत में, माइक्रोन और एप्पल के बीच एक बढ़ता हुआ दरार उभरा है। डब्ल्यूएसजे रिपोर्टों का हवाला देते हुए, सिट्रीनी के जुकान ने खुलासा किया कि एप्पल अपने उपकरणों में चीन की इकाई-सूचीबद्ध सीएक्सएमटी डीएम को तैनात करने की मंजूरी के लिए व्हाइट हाउस की पैरवी कर रहा है, जबकि माइक्रोन सीएक्सएमटी चिप अपनाने को अवरुद्ध करने के लिए प्रति-अपील दायर कर रहा है। यह घर्षण माइक्रोन के सीईओ संजय मेहरात्रा द्वारा रखे गए एक लंबे समय से चले आ रहे प्रतिशोध से उपजा है, जो उनके सैंडिस्क कार्यकाल से वापस आता है जब एप्पल ने खरीदार के बाजार के दौरान कम फ्लैश मेमोरी मूल्य निर्धारण को मजबूर किया था। वर्तमान मेमोरी बाजार आपूर्तिकर्ताओं के पक्ष में होने के साथ, मेहरात्रा कथित तौर पर एप्पल के लिए मूल्य निर्धारण और आपूर्ति बाधाओं को कम करने के इच्छुक नहीं हैं।
बीजिंग कियानक्सिंग जिएटोंग टेक्नोलॉजी कंपनी लिमिटेड
सैंडी यांग/ग्लोबल स्ट्रैटेजी डायरेक्टर
व्हाट्सएप / वीचैट: +86 13426366826
ईमेल: yangyd@qianxingdata.com
वेबसाइट: www.qianxingdata.com/www.storagesserver.com
व्यावसायिक फोकस:
आईसीटी उत्पाद वितरण/सिस्टम एकीकरण और सेवाएं/बुनियादी ढांचा समाधान
20+ वर्षों के आईटी वितरण अनुभव के साथ, हम विश्वसनीय उत्पाद और पेशेवर सेवाएं प्रदान करने के लिए अग्रणी वैश्विक ब्रांडों के साथ साझेदारी करते हैं।
“एक बुद्धिमान दुनिया बनाने के लिए प्रौद्योगिकी का उपयोग करना”आपका विश्वसनीय आईसीटी उत्पाद सेवा प्रदाता!