एसके हाइनिक्स ने यूएस एआई इन्फेरेंस स्टार्टअप एटच्ड (Etched) का समर्थन किया है, जो अपने मालिकाना लो वोल्टेज इन्फेरेंस (LVI) और क्लस्टर स्केल मेमोरी (CSM) तकनीकों के साथ रैक-स्केल सिस्टम का निर्माण कर रहा है।
एटच्ड एक महत्वपूर्ण उद्योग बाधा को हल करता है: पारंपरिक जीपीयू (GPU) अत्यधिक कंप्यूटिंग शक्ति प्रदान करते हैं, फिर भी बड़े पैमाने पर एआई इन्फेरेंस के लिए अपर्याप्त मेमोरी होती है, जिससे बोझिल मल्टी-टियर केवी कैशिंग (KV caching) फ्रेमवर्क बनते हैं। इसके अनुकूलित इन्फेरेंस चिप्स बिजली की खपत को कम करते हैं और मेमोरी बैंडविड्थ और क्षमता में पारंपरिक जीपीयू एचबीएम (HBM) से बेहतर प्रदर्शन करते हैं, जिससे केवी कैशिंग से संबंधित विलंबता और डिजाइन जटिलता कम होती है।
यह निवेश इज़राइली स्टार्टअप मैजेस्टिक लैब्स (Majestic Labs) के स्टील्थ मोड से बाहर निकलने के बाद आया है, जो बड़े पैमाने पर साझा मेमोरी पूल के साथ कस्टम-प्रोसेसर इन्फेरेंस सर्वर भी बना रहा है।
2023 में सैन जोस में तीन हार्वर्ड अंडरग्रेजुएट्स द्वारा स्थापित, जिन्होंने पढ़ाई छोड़ दी थी, एटच्ड की मुख्य टीम में सीईओ गैविन उबेर्टी (Gavin Uberti), अध्यक्ष रॉबर्ट वाचें (Robert Wachen) और क्रिस झू (Chris Zhu) शामिल हैं। टीम ने अपने शुरुआती विकास को बढ़ावा देने के लिए दो साल का $250,000 का थील फेलोशिप (Thiel Fellowship) प्राप्त किया।
टीम ने इन्फेरेंस दक्षता को बढ़ावा देने के लिए अनुकूलित एलवीआई प्रीफिल प्रोसेसिंग (LVI prefill processing) और सीएसएम साझा मेमोरी (CSM shared memory) का निर्माण किया। इन-हाउस चिप्स, पैकेजिंग, पीसीबी (PCBs) और इंटरकनेक्शन मॉड्यूल को एकीकृत करने वाला इसका फुल-स्टैक समाधान बड़े पैमाने पर वाणिज्यिक इन्फेरेंस परिनियोजन को सक्षम बनाता है।
झू ने बताया कि मुख्यधारा के एआई चिप्स उच्च लोड के तहत गंभीर थर्मल थ्रॉटलिंग (thermal throttling) से पीड़ित होते हैं: बढ़ी हुई बिजली की खपत क्लॉक स्पीड को कम करती है, जिससे वास्तविक इन्फेरेंस थ्रूपुट (throughput) उसके सैद्धांतिक शिखर के आधे से भी कम हो जाता है। एटच्ड की चिप्स सामान्य उद्योग वोल्टेज के आधे पर अंकगणितीय इकाइयों को चलाती हैं, जिससे कंप्यूटिंग घनत्व में काफी वृद्धि होती है।
उन्होंने प्रमुख हार्डवेयर ट्रेड-ऑफ (tradeoffs) को भी संबोधित किया: एचबीएम-युक्त एआई चिप्स मेमोरी और इंटरकनेक्शन सीमाओं के कारण डिकोडिंग गति में एसआरएएम (SRAM) से पीछे रह जाती हैं, जबकि शुद्ध एसआरएएम चिप्स तेज पहुंच के लिए कंप्यूटिंग घनत्व और क्षमता से समझौता करती हैं, जिससे समग्र थ्रूपुट कम हो जाता है।
यह बड़े एमओई (MoE) मॉडल संचालन में बाधा डालता है, क्योंकि कई मेमोरी परतों में क्रॉस-लेयर टोकन ट्रांसमिशन विलंबता का निर्माण करता है। एटच्ड की वास्तुकला इस समस्या को हल करने के लिए अनावश्यक मेमोरी परतों को हटा देती है।
एटच्ड की सीएसएम वास्तुकला स्केलेबल हार्डवेयर के लिए एक एकीकृत कम-विलंबता साझा मेमोरी पूल बनाती है, जो क्रॉस-चिप मेमोरी एक्सेस को तेज करने के लिए मालिकाना उच्च-गति इंटरकनेक्शन का लाभ उठाती है।
इसका हाइब्रिड एचबीएम/एसआरएएम डिज़ाइन मेमोरी क्षमता और क्रॉस-चिप विलंबता को संतुलित करता है, जिससे उच्च-थ्रूपुट इंटरैक्टिव इन्फेरेंस प्राप्त होता है। सीएसएम शुद्ध एसआरएएम, 3डी डीएमएएम (3D DRAM) और ऑप्टिकल चिप समाधानों की लागत, स्थिरता, थर्मल और प्रदर्शन दोषों से बचता है।
यह नवाचार एचबीएम स्टैक को जीपीयू आर्किटेक्चरल बाधाओं से अलग करता है, बिखरे हुए मेमोरी संसाधनों को समेकित करता है, और उन्नत इंटरकनेक्शन तकनीक के माध्यम से एसआरएएम-स्तरीय एक्सेस गति प्रदान करता है।
एटच्ड के रैक सिस्टम में एक उच्च-इंटरकनेक्शन लेआउट (high-interconnection layout) है, जिसमें 16 समर्पित केबल आठ कोर हार्डवेयर इकाइयों से पीछे के पोर्ट को जोड़ते हैं।
सिस्टम मुख्यधारा के एलएलएम (LLMs), एमओई मॉडल और गैर-ट्रांसफार्मर आर्किटेक्चर जैसे मम्बा (Mamba) का समर्थन करता है, जिसमें कंपनी फुल-सिस्टम आर एंड डी (R&D) और वाणिज्यिक बिक्री पर ध्यान केंद्रित करती है।
एटच्ड फंडिंग इतिहास
2022 - कंपनी की स्थापना
2023 - $5.4 मिलियन सीड राउंड
2024 - $120 मिलियन सीरीज ए
2025 - $500 मिलियन सीरीज बी
2026 - $300 मिलियन सीरीज सी
अब तक कुल फंडिंग: $925.4 मिलियन
सीकोइया कैपिटल (Sequoia Capital) ने एटच्ड के 2026 सीरीज सी राउंड का नेतृत्व किया, जिसमें आंद्रेसेन होरोविट्ज़ (Andreessen Horowitz), जेन स्ट्रीट (Jane Street) और एसके हाइनिक्स (SK Hynix) की भागीदारी थी। इस राउंड में फर्म का मूल्यांकन $10.3 बिलियन है, जो 2024 सीरीज बी मूल्यांकन से दोगुना है।
इसकी लगातार वार्षिक धन उगाहने की गति मजबूत ग्राहक मांग और ठोस निवेशक विश्वास द्वारा समर्थित, चल रहे उत्पाद पुनरावृति को दर्शाती है।
वाचें ने कहा कि नई पूंजी इन्फेरेंस क्लस्टर के बड़े पैमाने पर उत्पादन को गति देगी। फर्म ने प्रोटोटाइपिंग और विनिर्माण दक्षता को बढ़ाने के लिए मिल्पिटास (Milpitas) में 10-मेगावाट (MW) उत्पादन स्थल खोला है।
मुख्य वास्तुकार सप्टदीप पाल (Saptadeep Pal) ने खुलासा किया कि एटच्ड के पास 400 से अधिक कर्मचारी हैं और बुक किए गए ग्राहक ऑर्डर $1 बिलियन से अधिक हैं। इसका ताइवान आर एंड डी (R&D) और विनिर्माण आधार 24 घंटे संचालन को सक्षम बनाता है, जो तेजी से स्केलिंग का समर्थन करने के लिए आपूर्तिकर्ता सहयोग और उत्पाद परीक्षण को अनुकूलित करता है।
इसके मुख्य ग्राहक बड़े उद्यमों, उभरते क्लाउड प्रदाताओं और इन्फेरेंस-एज-ए-सर्विस (inference-as-a-service) समाधानों की पेशकश करने वाले वैश्विक हाइपरस्केलर्स (hyperscalers) को कवर करते हैं।
टिप्पणी
यदि एटच्ड और मैजेस्टिक लैब्स के नए इन्फेरेंस रैक पारंपरिक केवी कैशिंग (KV caching) से आगे बढ़ते हैं, तो वे एंटरप्राइज स्टोरेज मार्केट को नया आकार देंगे। इन सिस्टमों के लिए उच्च-गति, कम-विलंबता स्टोरेज की आवश्यकता होती है, जिससे डेल (Dell), एचपीई (HPE), नेटएप (NetApp) और वास्ट डेटा (VAST Data) जैसे विक्रेताओं के लिए इष्टतम प्रदर्शन के लिए स्टोरेज ऐरे को अगली पीढ़ी के इन्फेरेंस सर्वर के साथ जोड़ने के सहयोग के अवसर पैदा होते हैं।
बीजिंग कियानक्सिंग जिएटोंग टेक्नोलॉजी कं, लिमिटेड (Beijing Qianxing Jietong Technology Co., Ltd.)
सैंडी यांग/ग्लोबल स्ट्रेटेजी डायरेक्टर
व्हाट्सएप / वीचैट: +86 13426366826
ईमेल: yangyd@qianxingdata.com
वेबसाइट: www.qianxingdata.com/www.storagesserver.com
व्यावसायिक फोकस:
आईसीटी उत्पाद वितरण/सिस्टम एकीकरण और सेवाएं/बुनियादी ढांचा समाधान
20 से अधिक वर्षों के आईटी वितरण अनुभव के साथ, हम विश्वसनीय उत्पाद और पेशेवर सेवाएं प्रदान करने के लिए अग्रणी वैश्विक ब्रांडों के साथ साझेदारी करते हैं।
"एक बुद्धिमान दुनिया बनाने के लिए प्रौद्योगिकी का उपयोग करना" आपके विश्वसनीय आईसीटी उत्पाद सेवा प्रदाता!
आपका संदेश 20-3,000 अक्षरों के बीच होना चाहिए!
Hindi
