Proxmox VE (PVE) में GPU वर्चुअलाइजेशन एनवायरनमेंट को डिप्लॉय करने से पहले कुछ पूर्वापेक्षाओं को पूरा करना होगा। अन्य एंटरप्राइज-ग्रेड डेटा सेंटर टूल्स की तरह, NVIDIA का vGPU सॉफ़्टवेयर मुफ्त में उपलब्ध नहीं है। आपको उनके वर्चुअल GPU सॉफ़्टवेयर के मूल्यांकन संस्करण के लिए लाइसेंस खरीदना या साइन अप करना होगा, साथ ही एक NVIDIA एंटरप्राइज खाता बनाना होगा। अगला, आपको एक vGPU-संगत ग्राफिक्स कार्ड प्राप्त करना होगा और NVIDIA लाइसेंसिंग पोर्टल से संबंधित ड्राइवरों को डाउनलोड करना होगा। "Linux KVM" ड्राइवरों के नवीनतम संस्करण प्राप्त करना सुनिश्चित करें। न्यूनतम, आपको निम्नलिखित डाउनलोड करने की आवश्यकता होगी:

• vGPU सॉफ़्टवेयर: 18.0
• होस्ट ड्राइवर: 570.124.03
• लिनक्स गेस्ट ड्राइवर: 570.124.06
• विंडोज गेस्ट ड्राइवर: 572.60

हमने इस प्रोजेक्ट के लिए NVIDIA L40S और एक Dell PowerEdge R760 का उपयोग किया।

इसके अतिरिक्त, आपको अपने गेस्ट पर vGPU कार्यक्षमता को सक्रिय करने के लिए एक समर्पित लाइसेंसिंग सर्वर (DLS) या क्लाउड लाइसेंसिंग सर्वर (CLS) की आवश्यकता होगी। आप यहां क्लिक करके एक त्वरित प्रारंभ गाइड पा सकते हैं। सैंडी यांग/ग्लोबल स्ट्रेटेजी डायरेक्टर WhatsApp / WeChat: +86 13426366826

आपको UEFI मेनू में ये सभी सुविधाएँ नहीं मिल सकती हैं, क्योंकि कुछ उपयोगकर्ता को उजागर नहीं की जा सकती हैं।अंत में, जांचें कि आप Proxmox VE का एक उपयुक्त संस्करण उपयोग कर रहे हैं। vGPU कार्यक्षमता के लिए न्यूनतम, pve-manager संस्करण 8.3.4, कर्नेल 6.18.12-8-pve या नए की आवश्यकता होती है। आप वांछित सर्वर पर "सारांश" टैब पर जाकर अपने PVE नोड के सॉफ़्टवेयर संस्करणों की जांच कर सकते हैं, जैसा कि नीचे दिखाया गया है:सबसे अधिक वाला होस्ट (Proxmox होस्ट vGPU सेटअप)अब जब सब कुछ तैयार है, तो Proxmox VE सर्वर को कॉन्फ़िगर करने का समय आ गया है। अपने Proxmox VE सर्वर के वेब इंटरफ़ेस में, स्क्रीन के बाईं ओर सर्वर नाम पर क्लिक करें और "शैल" टैब का चयन करें। दिखाई देने वाली कंसोल विंडो में यह कमांड टाइप करें और समाप्त होने पर एंटर दबाएं:अगला, NVIDIA के vGPU होस्ट ड्राइवर को सर्वर पर लोड करने की आवश्यकता है। सर्वर के रीबूट होने के बाद, होस्ट ड्राइवर को नोड पर कॉपी करने के लिए WinSCP जैसे SSH या SCP ट्रांसफर टूल का उपयोग करें।यह सुनिश्चित करेगा कि vGPU सेटअप टूल आपके सर्वर पर स्थापित है, इसे Proxmox vGPU समर्थन के लिए तैयार कर रहा है। सर्वर द्वारा स्क्रिप्ट को स्थापित करने के बाद या आपको सूचित करने के बाद कि यह पहले से मौजूद है, टूल को निष्पादित करने के लिए एक और कमांड चलाएं।अगला, NVIDIA के vGPU होस्ट ड्राइवर को सर्वर पर लोड करने की आवश्यकता है। सर्वर के रीबूट होने के बाद, होस्ट ड्राइवर को नोड पर कॉपी करने के लिए WinSCP जैसे SSH या SCP ट्रांसफर टूल का उपयोग करें।किसी भी प्रश्न का उत्तर "Y" दें, और कंसोल विंडो वापस आने और स्क्रिप्ट समाप्त होने तक आगे बढ़ें। सर्वर के "सारांश" टैब पर जाकर या "शैल" टैब कंसोल में रीबूट कमांड टाइप करके सर्वर को जल्दी से रीस्टार्ट करें और एंटर दबाएं।अगला, NVIDIA के vGPU होस्ट ड्राइवर को सर्वर पर लोड करने की आवश्यकता है। सर्वर के रीबूट होने के बाद, होस्ट ड्राइवर को नोड पर कॉपी करने के लिए WinSCP जैसे SSH या SCP ट्रांसफर टूल का उपयोग करें।नोट: यदि आपने सभी ड्राइवरों को एक संपीड़ित (.zip) फ़ोल्डर के रूप में डाउनलोड किया है, तो आपको पहले इसकी सामग्री को निकालने और "Host_Drivers" फ़ोल्डर से ".run" फ़ाइल चुनने की आवश्यकता हो सकती है।फ़ाइल को सर्वर के "/home" निर्देशिका में रखें, और निम्नलिखित कमांड के साथ इंस्टॉलर चलाने के लिए तैयार करें। cd /home chown root NVIDIA-Linux-x86_64-570.124.03-vgpu-kvm.run chmod +X NVIDIA-Linux-x86_64-570.124.03-vgpu-kvm.run ./NVIDIA-Linux-x86_64-570.124.03-vgpu-kvm.run --dkms नोट: "NVIDIA-Linux-x86_64-570.124.03-vgpu-kvm.run" को आपके द्वारा डाउनलोड किए गए ड्राइवर के वास्तविक नाम से बदलें। आप "/home" निर्देशिका में रखे जाने के बाद फ़ाइल का नाम दिखाने के लिए "ls" कमांड का उपयोग कर सकते हैं।

हमने एक क्लाउड लाइसेंस सर्वर का उपयोग किया और सक्रियण के लिए गेस्ट पर रखने के लिए एक टोकन फ़ाइल प्राप्त की। इस फ़ाइल को गेस्ट पर ले जाएं और इसे "C:Program FilesNVIDIA CorporationvGPU LicensingClientConfigToken" फ़ोल्डर में कॉपी करें। systemctl enable --now pve-nvidia-sriov@ALL.service

अंत में, हम GPU के संसाधनों को मैप कर सकते हैं ताकि उन्हें VMs के बीच ठीक से विभाजित किया जा सके। Proxmox VE सर्वर के वेब इंटरफ़ेस पर, शीर्ष-बाईं ओर "Datacenter" पर क्लिक करें और "Resource Mappings" टैब का चयन करने के लिए नीचे स्क्रॉल करें।

पृष्ठ के "PCI Devices" अनुभाग के नीचे "Add" बटन पर क्लिक करें, और अगले विंडो में "Name:" फ़ील्ड को उस नाम से भरें जो आप मैप किए जा रहे GPU का वर्णन करता है।

अगला, "Use with Mediated Devices" लेबल वाले बॉक्स को चेक करें और सुनिश्चित करें कि "Mapping on Node" ड्रॉप-डाउन मेनू में GPU वाले सर्वर को मैप किया जा रहा है। डिवाइस की सूची को नीचे स्क्रॉल करें, यह पुष्टि करते हुए कि सभी डिवाइस आईडी में "Vendor" कॉलम में "NVIDIA Corporation" मौजूद है। यदि यह सत्य है, तो सभी डिवाइस का चयन करने के लिए टेबल के शीर्ष बाईं ओर चेकबॉक्स पर क्लिक करें; अन्यथा, केवल "NVIDIA Corporation" को विक्रेता के रूप में वाले डिवाइस का चयन करें।

नोट:

यदि आपके सिस्टम में कई GPUs स्थापित हैं, तो आप प्रत्येक कार्ड के साथ जाने वाले आईडी को निर्धारित करने के लिए वांछित सर्वर पर "Shell" टैब में "lspci" कमांड का उपयोग कर सकते हैं।

डिवाइस का चयन समाप्त करने के बाद, अपने चयन की पुष्टि करने के लिए पॉप-अप विंडो के नीचे-दाईं ओर "Create" बटन पर क्लिक करें। आपका NVIDIA GPU अब आपके Proxmox VE सर्वर के गेस्ट के लिए vGPUs में विभाजित होने के लिए तैयार है!

गेस्ट की सेवा करना (वर्चुअल मशीनों को vGPUs असाइन करना)

अब हम अपनी वर्चुअल मशीनों पर vGPUs को असाइन करना और उपयोग करना शुरू कर सकते हैं। एक नई वर्चुअल मशीन बनाकर शुरू करें, जैसा कि सामान्य है, या मौजूदा VM का उपयोग करके। हमारे प्रदर्शन के लिए, हम एक विंडोज सर्वर 2025 वर्चुअल मशीन का उपयोग करेंगे।Proxmox VE सर्वर के वेब इंटरफ़ेस में, वर्चुअल मशीन को किसी भी विधि से बंद करें (noVNC कंसोल, गेस्ट पावर मेनू, आदि), और गेस्ट के "Hardware" टैब पर क्लिक करें।"Add" बटन पर क्लिक करने के बाद दिखाई देने वाले ड्रॉप-डाउन मेनू में, "PCI Device" का चयन करें।

जंकशॉप और क्लासरूम बेंचमार्क समान कहानियां बताते हैं, जिसमें चार में से तीन VMs के लिए प्रदर्शन में बड़ी गिरावट आती है और एक गेस्ट को दूसरों की तुलना में बहुत अधिक स्कोर मिलता है।अगला, "MDev Type:" फ़ील्ड पर क्लिक करें और प्रस्तुत मध्यस्थ डिवाइस प्रकार विकल्पों की सूची देखें। आप नोटिस कर सकते हैं कि प्रत्येक विकल्प में एक संख्या और अक्षर पदनाम है। संख्या गेस्ट को आवंटित VRAM की मात्रा (गीगाबाइट में) का प्रतिनिधित्व करती है, जबकि "A", "B", और "Q" vGPU के उपयोग के मामले को संदर्भित करते हैं:

Q – RTX एंटरप्राइज ड्राइवर्स के साथ वर्चुअल वर्कस्टेशन (RTX vWS लाइसेंस की आवश्यकता है)

B – वर्चुअल डेस्कटॉप (NVIDIA वर्चुअल पीसी लाइसेंस या RTX vWS लाइसेंस की आवश्यकता है)

हमने एक क्लाउड लाइसेंस सर्वर का उपयोग किया और सक्रियण के लिए गेस्ट पर रखने के लिए एक टोकन फ़ाइल प्राप्त की। इस फ़ाइल को गेस्ट पर ले जाएं और इसे "C:Program FilesNVIDIA CorporationvGPU LicensingClientConfigToken" फ़ोल्डर में कॉपी करें।नोट: आप विभिन्न vGPU प्रोफाइल और उनके आवश्यक लाइसेंस के बारे में यहां अधिक पढ़ सकते हैं।

इस प्रदर्शन के लिए, हमने "NVIDIA L40S-12Q" प्रोफ़ाइल का उपयोग किया। अपना वांछित मध्यस्थ डिवाइस प्रकार चुनने के बाद, "PCI-Express" चेकबॉक्स को चेक करके और नीले "Add" बटन पर क्लिक करके समाप्त करें।VM को अब एक vGPU असाइन किया गया है, लेकिन हमें अभी भी गेस्ट ड्राइवर और लाइसेंसिंग टोकन स्थापित करने की आवश्यकता है। आप अब वर्चुअल मशीन को पावर ऑन कर सकते हैं और लॉग इन कर सकते हैं।लॉग इन करने के बाद, पहले प्राप्त NVIDIA vGPU गेस्ट ड्राइवर को लाइसेंसिंग पोर्टल से VM में किसी भी तरह से स्थानांतरित करें (SMB, SCP, डायरेक्ट डाउनलोड, आदि)। वैकल्पिक रूप से, आप ImgBurn जैसे सॉफ़्टवेयर का उपयोग करके अपने PVE सर्वर के स्टोरेज में ड्राइवर युक्त वर्चुअल सीडी-रोम फ़ाइल (.iso) बना और अपलोड कर सकते हैं ताकि कई vGPU-सक्षम गेस्ट को एक साथ डिप्लॉय किया जा सके।

ड्राइवर इंस्टॉलर फ़ाइल को निष्पादन योग्य पर डबल-क्लिक करके चलाएं और दिखाई देने वाले इंस्टॉलेशन मेनू में निर्देशों का पालन करें।

ड्राइवर को "Extraction path:" फ़ील्ड में डिफ़ॉल्ट स्थान पर निकालें, और संकेत मिलने पर "Express" इंस्टॉलेशन विकल्प चुनें।

ड्राइवर इंस्टॉलेशन पूरा होने के बाद, मेनू से बाहर निकलने के लिए "CLOSE" बटन पर क्लिक करें।

अगला, हमें गेस्ट पर vGPU लाइसेंस को सक्रिय करने की आवश्यकता होगी। सक्रियण विधियां समर्पित लाइसेंस सर्वर (DLS) या क्लाउड लाइसेंस सर्वर (CLS), और आपके ऑपरेटिंग सिस्टम के आधार पर काफी भिन्न हो सकती हैं। अपने विशिष्ट सेटअप के लिए क्लाइंट को सक्रिय करने के चरणों के लिए NVIDIA के लाइसेंस सिस्टम क्विक स्टार्ट गाइड और क्लाइंट लाइसेंसिंग यूजर गाइड का पालन करें।

हमने एक क्लाउड लाइसेंस सर्वर का उपयोग किया और सक्रियण के लिए गेस्ट पर रखने के लिए एक टोकन फ़ाइल प्राप्त की। इस फ़ाइल को गेस्ट पर ले जाएं और इसे "C:Program FilesNVIDIA CorporationvGPU LicensingClientConfigToken" फ़ोल्डर में कॉपी करें।अगला, सक्रियण प्रक्रिया को पूरा करने के लिए गेस्ट को रीबूट करना आवश्यक है।

यहां विस्तृत सभी होस्ट और गेस्ट कॉन्फ़िगरेशन चरणों का पालन करने के बाद, आपको GPU की आवश्यकता वाले प्रोग्राम और एप्लिकेशन चलाने के लिए तैयार होना चाहिए। रीबूट के बाद अपने गेस्ट पर रिमोट डेस्कटॉप प्रोटोकॉल (RDP) को सक्षम करना या अपना पसंदीदा रिमोट डेस्कटॉप सॉफ़्टवेयर स्थापित करना न भूलें ताकि GPU-त्वरित रिमोट व्यूइंग का आनंद लिया जा सके!

इंजन को रेव करना (Proxmox vGPU को आज़माना)

अब जब हमारे पास वर्चुअल GPUs के साथ कुछ वर्चुअल सर्वर हैं, तो आइए उन्हें एक स्पिन दें! हमारे प्रत्येक VM को 8 पिन किए गए Intel Xeon Platinum 8580 vCPUs (4 हाइपरथ्रेडेड कोर), 32 गीगाबाइट DDR5 4800 MT/s रजिस्टर्ड ECC RAM, और NVIDIA L40S-12Q (वर्चुअल वर्कस्टेशन) vGPU प्रोफ़ाइल के साथ 12 गीगाबाइट VRAM के साथ कॉन्फ़िगर किया गया है। आप नीचे वर्चुअल मशीनों का पूरा हार्डवेयर कॉन्फ़िगरेशन देख सकते हैं:

Cinebench 2024

Maxon के Cinema 4D मॉडलिंग और एनिमेशन सॉफ़्टवेयर पर आधारित, Cinebench 2024 vGPUs पर रेंडरिंग प्रदर्शन का एक दिलचस्प और वस्तुनिष्ठ दृष्टिकोण प्रदान करता है। आइए "48Q" (सभी 48 गीगाबाइट VRAM) प्रोफ़ाइल के पूर्ण L40S की तुलना एक वर्चुअल मशीन के साथ करें बनाम चार VMs "12Q" प्रोफ़ाइल चला रहे हैं।

हालांकि एक वर्चुअल मशीन को पूरे L40S को अपने कब्जे में रखना समझ में नहीं आता है, हम देख सकते हैं कि सिंगल-पास GPU बेंचमार्क में 21,147 अंकों पर प्रदर्शन प्रभावशाली है। हालांकि, GPU को चार तरीकों से विभाजित करने से NVIDIA के समय-स्लाइसिंग दृष्टिकोण का प्रभाव दिखाई देता है, जिसमें सभी VMs में एक साथ बेंचमार्क चलाने पर व्यक्तिगत स्कोर 2,514 से 2,567 तक होता है।

एक वर्चुअल मशीन पर "12Q" प्रोफ़ाइल के साथ परीक्षण को फिर से चलाना, और अन्य तीन VMs निष्क्रिय होने पर, स्कोर को 15,133 तक बढ़ा देता है। यह पूर्ण GPU के स्कोर पर वापसी नहीं है, लेकिन यह एक विभाजित vGPU के लिए अभी भी सम्मानजनक है।

• Blender बेंचमार्क
• आइए Blender के साथ कुछ और रेंडरिंग बेंचमार्क के साथ जारी रखें। Cinebench 2024 के समान रुझानों का पालन करते हुए, GPU को चार तरीकों से विभाजित करने से एक ही प्रोफ़ाइल में समान वर्कलोड चलाने वाली एक वर्चुअल मशीन की तुलना में कुल प्रदर्शन में काफी कमी आती है।
• जैसा कि मॉन्स्टर बेंचमार्क में प्रदर्शित किया गया है, GPU की कंप्यूटिंग शक्ति साझा करने वाले केवल चार VMs का मतलब है कि व्यक्तिगत रेंडर प्रदर्शन समान प्रोफ़ाइल वाले एकल VM के 8% जितना कम हो सकता है। हालांकि, हमने देखा कि एक वर्चुअल मशीन ने दूसरों पर काफी बढ़त हासिल की - सबसे खराब प्रदर्शन करने वाले के स्कोर के 2.4 गुना तक।

जंकशॉप और क्लासरूम बेंचमार्क समान कहानियां बताते हैं, जिसमें चार में से तीन VMs के लिए प्रदर्शन में बड़ी गिरावट आती है और एक गेस्ट को दूसरों की तुलना में बहुत अधिक स्कोर मिलता है।बीजिंग कियानक्सिंग जिएतोंग टेक्नोलॉजी कं, लिमिटेड सैंडी यांग/ग्लोबल स्ट्रेटेजी डायरेक्टर WhatsApp / WeChat: +86 13426366826

ईमेल: yangyd@qianxingdata.com

वेबसाइट: www.qianxingdata.com/www.storagesserver.com

व्यावसायिक फोकस: ICT उत्पाद वितरण/सिस्टम एकीकरण और सेवाएँ/बुनियादी ढाँचा समाधान 20+ वर्षों के आईटी वितरण अनुभव के साथ, हम विश्वसनीय उत्पाद और पेशेवर सेवाएँ प्रदान करने के लिए अग्रणी वैश्विक ब्रांडों के साथ साझेदारी करते हैं। "एक बुद्धिमान दुनिया बनाने के लिए प्रौद्योगिकी का उपयोग करना"आपका विश्वसनीय ICT उत्पाद सेवा प्रदाता!