कंपनी की खबर मिनियो ने एनवीडिया जीपीयू निष्कर्षण के लिए पेटाबाइट-स्केल मेमकेवी कैश जोड़ा

अनुमान लगाने वाले जीपीयू क्लस्टर को संदर्भ, वेक्टरकृत टोकन और मध्यवर्ती कुंजी-मूल्य (केवी) जोड़े को संग्रहीत करने के लिए उच्च-बैंडविड्थ मेमोरी (एचबीएम) की आवश्यकता होती है। एक बार जब GPU HBM संतृप्त हो जाता है, तो डेटा CPU DRAM और NVMe SSDs तक पहुंच जाता है, जिसे Nvidia BlueField-4 (BF4) DPUs द्वारा प्रबंधित किया जाता है। जब ये स्तर क्षमता तक पहुँच जाते हैं, तो MiniIO AIStor अंतिम स्टोरेज बैकअप के रूप में कार्य करता है। एनवीडिया का एसटीएक्स आर्किटेक्चर इस मल्टी-लेयर कैश पदानुक्रम को नियंत्रित करता है, और मेमकेवी बेहतर पैमाने पर जीपीयू क्लस्टर में लगातार, साझा संदर्भ प्रदान करने के लिए मानक का अनुपालन करता है।