एआई को अपनाने में वर्तमान में उच्च टोकन खर्च और एआई अनुरोधों के लिए अग्रिम मूल्य निर्धारण स्पष्टता की कमी के कारण बाधा आ रही है, जिसके परिणामस्वरूप अनियंत्रित टोकन का अधिक खर्च होता है। एआई एजेंटों द्वारा इस जोखिम को काफी बढ़ा दिया जाता है, जो वर्तमान में अंतर्निहित टोकन लागत प्रतिबंधों के बिना काम करते हैं और अत्यधिक लागत वृद्धि को ट्रिगर कर सकते हैं।
यह लेख बताता है कि एआई टोकन क्या हैं, टोकन मूल्य निर्धारण कैसे काम करता है, और विनाशकारी टोकन खर्च को रोकने के लिए कार्रवाई योग्य रणनीतियाँ। एक अच्छी तरह से प्रलेखित एंटरप्राइज़ मामले में एक संगठन ने एंथ्रोपिक के क्लाउड प्लेटफ़ॉर्म पर केवल कर्मचारी उपयोग सीमा की कमी के कारण $500,000,000 का बिल जमा किया। अलग से, उबर की इंजीनियरिंग टीम ने कथित तौर पर अपने पूरे 2026 एआई बजट को समय से पहले समाप्त कर दिया है। टोकन वे मौलिक इकाइयाँ हैं जिनका उपयोग बड़े भाषा मॉडल (एलएलएम) और चैटबॉट मानव भाषा संकेतों को तोड़ने और सुसंगत एआई आउटपुट उत्पन्न करने के लिए करते हैं।
उदाहरण के लिए, इनपुट प्रॉम्प्ट 'अवसादन के बारे में मुझे बताएं' को अलग-अलग टोकन घटकों में विभाजित किया गया है:
-बताएं
-मुझे
-बारे में
-अवसाद
-ेशन
एकल शब्द 'अवसादन' के लिए यह पांच-टोकन ब्रेकडाउन एलएलएम को शब्द संरचना और अर्थ की सटीक व्याख्या करने में मदद करता है। मूल 'अवसाद' और प्रत्यय 'ेशन' को विभाजित करने से मॉडल को कई संज्ञाओं में प्रत्यय के लगातार उपयोग को पहचानने की अनुमति मिलती है, जिसमें कैपिटलाइज़ेशन, कंप्यूटराइज़ेशन और कराधान शामिल हैं। यह दृष्टिकोण मॉडल के डेटाबेस में खोज दायरे को संकीर्ण करता है, हर प्रत्यय-युक्त शब्द को व्यक्तिगत रूप से स्कैन करने के बजाय प्रसंस्करण समय को कम करता है।
मुख्य डेटा इकाइयों के रूप में, टोकन को वेक्टर एम्बेडिंग में परिवर्तित किया जाता है - गणितीय संख्यात्मक स्ट्रिंग जो अर्थ संबंधी अर्थ को एन्कोड करते हैं और मॉडल इंडेक्स में संग्रहीत होते हैं। 'बिल्ली' शब्द का एक उदाहरण लें: मॉडल इसके बहु-आयामी गुणों का प्रतिनिधित्व करने के लिए कई वैक्टर उत्पन्न करता है, जैसे जीवित जीव, पालतू जानवर, बिल्ली के लक्षण, शारीरिक आकार और बहुत कुछ। ये अद्वितीय वेक्टर सेट 'बिल्ली' को निर्जीव वस्तुओं, कुत्तों और बाघों जैसी अन्य प्रजातियों और सिंथेटिक बिल्ली के खिलौनों से अलग करते हैं।
शब्द 'बिल्ली' के लिए एक काल्पनिक पांच-आयामी वेक्टर एम्बेडिंग को [1.5, -0.4, 7.2, 19.6, 20.2] के रूप में व्यक्त किया जा सकता है।
सभी वेक्टर डेटा एक एकीकृत वेक्टर स्पेस में मौजूद होते हैं, जिससे मॉडल वेक्टर बिंदुओं के बीच स्थानिक निकटता को मापकर अर्थ संबंधी समान सामग्री की पहचान कर सकते हैं।
एक बार वैक्टर में परिवर्तित होने के बाद, टोकन को उच्च-बैंडविड्थ मेमोरी से लैस उच्च-लागत जीपीयू सर्वर पर संसाधित किया जाता है। 32 नोड्स और 256 कुल जीपीयू की सुविधा वाले एनवीडिया डीजीएक्स सुपरपॉड की लागत $12 मिलियन से $20 मिलियन के बीच है। 140 डीजीएक्स एच100 नोड्स, क्वांटम-2 इन्फिनीबैंड नेटवर्किंग, पूर्ण भंडारण और नेटवर्क अवसंरचना, और सहायक प्रणालियों के साथ एक अधिक उन्नत संदर्भ वास्तुकला $100 मिलियन से अधिक हो सकती है। ये पर्याप्त अवसंरचना लागत सीधे मुख्यधारा के फाउंडेशन मॉडल की टोकन मूल्य निर्धारण योजनाओं में परिलक्षित होती हैं।
ओपनएआई और एंथ्रोपिक सहित प्रमुख एलएलएम और चैटबॉट प्रदाता टोकन-आधारित बिलिंग मॉडल अपनाते हैं, जिसमें टेक्स्ट सामग्री के लिए अनुमानित टोकन रूपांतरण नियम होते हैं। मोटे तौर पर, एक अंग्रेजी टोकन लगभग चार वर्णों या 0.75 शब्दों के बराबर होता है, जिसका अर्थ है कि 750 शब्द लगभग 1,000 टोकन के बराबर होते हैं। विशेष रूप से, इनपुट प्रॉम्प्ट और उत्पन्न आउटपुट प्रतिक्रियाएं दोनों टोकन का उपभोग करती हैं। उदाहरण के लिए, 750-शब्द इनपुट प्रॉम्प्ट के साथ 2,000-शब्द एआई आउटपुट लगभग 3,667 टोकन का उपभोग करता है।
उच्च टोकन खपत सीधे एआई प्रतिक्रिया विलंबता को बढ़ाती है। एक एकल प्रॉम्प्ट-प्रतिक्रिया सत्र से सभी टोकन एक सीमित क्षमता वाले संदर्भ विंडो के भीतर समाहित होते हैं। डेकागन डेटा के अनुसार, 100,000-टोकन संदर्भ विंडो लगभग 75,000 अंग्रेजी शब्दों को रख सकती है, जो 300-पृष्ठ की पुस्तक के बराबर है।
अपर्याप्त संदर्भ विंडो क्षमता के कारण एलएलएम प्रासंगिक जानकारी खो देते हैं, जिससे अपूर्ण या गलत एआई आउटपुट होते हैं। जैसे-जैसे फाउंडेशन मॉडल विकसित होते हैं, संदर्भ विंडो का आकार बढ़ता रहता है: जीपीटी-4ओ 128,000 टोकन तक का समर्थन करता है, क्लाउड 3.5 सॉनेट 200,000 टोकन तक पहुंचता है, और चुनिंदा जेमिनी 1.5 प्रो एंटरप्राइज़ उपयोगकर्ता 2-मिलियन-टोकन संदर्भ विंडो तक पहुंच सकते हैं।
टोकन मूल्य निर्धारण मॉडल विक्रेताओं के बीच भिन्न होता है। इंट्यूशन लैब्स का चैटजीपीटी मूल्य निर्धारण ब्रेकडाउन उद्योग बिलिंग तंत्र को स्पष्ट करता है:
इंट्यूशन लैब्स के अनुसार, ओपनएआई का चैटजीपीटी एपीआई एक शुद्ध टोकन-आधारित बिलिंग संरचना पर संचालित होता है। प्रत्येक मॉडल इनपुट टोकन और आउटपुट टोकन के लिए अलग-अलग निश्चित इकाई मूल्य निर्धारित करता है, जिसमें आउटपुट टोकन की लागत आमतौर पर अधिक होती है। मूल्य निर्धारण कैश की गई प्रतिक्रिया स्थिति के आधार पर भी बदलता रहता है। प्रत्येक एपीआई कॉल में दो अलग-अलग शुल्क लगते हैं: एक प्रॉम्प्ट इनपुट टोकन के लिए और एक एआई-जनित आउटपुट टोकन के लिए। एक व्यावहारिक उदाहरण के रूप में, 100 इनपुट टोकन और 400 आउटपुट टोकन के लिए प्रति मिलियन आउटपुट टोकन $10 पर मूल्यवान मॉडल का उपयोग करने से इनपुट लागत $10×(100/1,000,000) और आउटपुट लागत $10×(400/1,000,000) होती है, जिसमें कुल व्यय दो आंकड़ों के योग के बराबर होता है।
उद्यम टोकन खर्च को सीमित करने के लिए लक्षित शासन नियंत्रण तैनात कर सकते हैं, जिसमें प्रति-उपयोगकर्ता या प्रति-सीट कोटा, उपयोग-आधारित यातायात थ्रॉटलिंग, प्रति-परियोजना खर्च सीमा और मॉडल टियर प्रतिबंध शामिल हैं। यह शासन क्षेत्र तेजी से विकसित हो रहा है, क्योंकि एआई विक्रेता सेवा की गुणवत्ता को अनुकूलित करने, राजस्व धाराओं को संतुलित करने और ओपन-सोर्स एआई मॉडल के साथ प्रतिस्पर्धा करने के लिए प्रतिस्पर्धा करते हैं।
एआई एजेंट टोकन लागत जोखिम की एक पूरी नई परत पेश करते हैं। सख्त परिचालन गार्डरेल्स के बिना, स्वायत्त एजेंट बड़े पैमाने पर, अनियोजित टोकन खपत को ट्रिगर कर सकते हैं। उद्योग विशेषज्ञों ने एआई एजेंटों को डिजिटल कर्मचारियों के रूप में मानने की सिफारिश की है, जिसमें फिनऑप्स टीमें लागत आपदाओं से बचने के लिए चौबीसों घंटे सख्त खर्च की निगरानी लागू करती हैं।
बीजिंग कियानक्सिंग जिएटोंग टेक्नोलॉजी कं, लिमिटेड
सैंडी यांग/ग्लोबल स्ट्रेटेजी डायरेक्टर
व्हाट्सएप / वीचैट: +86 13426366826
ईमेल: yangyd@qianxingdata.com
वेबसाइट: www.qianxingdata.com/www.storagesserver.com
व्यावसायिक फोकस:
आईसीटी उत्पाद वितरण/सिस्टम एकीकरण और सेवाएँ/अवसंरचना समाधान
20+ वर्षों के आईटी वितरण अनुभव के साथ, हम विश्वसनीय उत्पाद और पेशेवर सेवाएं प्रदान करने के लिए अग्रणी वैश्विक ब्रांडों के साथ साझेदारी करते हैं।
"प्रौद्योगिकी का उपयोग करके एक बुद्धिमान दुनिया का निर्माण" आपका विश्वसनीय आईसीटी उत्पाद सेवा प्रदाता!
आपका संदेश 20-3,000 अक्षरों के बीच होना चाहिए!
Hindi
