कृत्रिम बुद्धिमत्ता (Artificial Intelligence) जसजशी विकसित होत आहे आणि विविध उद्योगांमध्ये एकत्रित होत आहे, तसतसे व्यवसायांना एक महत्त्वपूर्ण आव्हान आहे: या शक्तिशाली तंत्रज्ञानापासून मिळणारे मूल्य जास्तीत जास्त करणे. या आव्हानाचा एक महत्त्वाचा भाग म्हणजे अनुमानाचे अर्थशास्त्र (Economics of Inference) समजून घेणे. प्रशिक्षित AI मॉडेल वापरून नवीन डेटावरून अंदाज किंवा आउटपुट निर्माण करण्याची ही प्रक्रिया आहे.
मॉडेल प्रशिक्षणाच्या तुलनेत अनुमानामध्ये (Inference) एक अद्वितीय संगणकीय मागणी असते. प्रशिक्षणात प्रचंड डेटासेटवर प्रक्रिया करण्यासाठी आणि नमुने ओळखण्यासाठी महत्त्वपूर्ण प्रारंभिक खर्च असतो, तर अनुमानामध्ये प्रत्येक परस्परसंवादासह सतत खर्च येतो. मॉडेलला सादर केलेला प्रत्येक सूचना किंवा इनपुट टोकन निर्मितीला (Token generation) चालना देतो. टोकन हे डेटाचे मूलभूत एकक आहे आणि प्रत्येक टोकनला संगणकीय खर्च येतो.
त्यामुळे, AI मॉडेल जसजसे अधिक अत्याधुनिक आणि व्यापकपणे वापरले जातात, तयार होणाऱ्या टोकनची संख्या वाढते, ज्यामुळे जास्त संगणकीय खर्च येतो. AI चा प्रभावीपणे उपयोग करू पाहणाऱ्या संस्थांसाठी, इष्टतम गती, अचूकता आणि सेवेची गुणवत्ता राखताना संगणकीय खर्च नियंत्रणात ठेवून मोठ्या प्रमाणात टोकन तयार करणे हे ध्येय असले पाहिजे.
AI इकोसिस्टम (AI ecosystem) सातत्याने अनुमानाचा खर्च कमी करण्यासाठी आणि कार्यक्षमता सुधारण्यासाठी प्रयत्नशील आहे. मॉडेल ऑप्टिमायझेशनमधील (Model optimization) प्रगती, ऊर्जा-कार्यक्षम प्रवेगक संगणकीय पायाभूत सुविधा (Energy-efficient accelerated computing infrastructure) आणि सर्वसमावेशक फुल-स्टॅक सोल्यूशन्सच्या (Full-stack solutions) विकासामुळे गेल्या काही वर्षांपासून अनुमानाच्या खर्चात घट झाली आहे.
स्टॅनफोर्ड युनिव्हर्सिटी इन्स्टिट्यूट फॉर ह्यूमन-सेंटर्ड AI च्या 2025 AI इंडेक्स रिपोर्टनुसार, GPT-3.5-स्तरीय कार्यक्षमतेच्या प्रणालीसाठी अनुमानाचा खर्च नोव्हेंबर 2022 ते ऑक्टोबर 2024 दरम्यान मोठ्या प्रमाणात कमी झाला आहे. हार्डवेअर खर्चही (Hardware costs) कमी झाला आहे, आणि ऊर्जा कार्यक्षमतेत (Energy efficiency) दरवर्षी सुधारणा होत आहे. याव्यतिरिक्त, ओपन-वेट मॉडेल्स (Open-weight models) बंद मॉडेल्ससह (Closed models) कार्यक्षमतेतील अंतर कमी करत आहेत, ज्यामुळे प्रगत AI स्वीकारण्याचे अडथळे आणखी कमी झाले आहेत.
मॉडेल्स जसजसे प्रगत होत आहेत आणि जास्त मागणी निर्माण करत आहेत आणि अधिक टोकन तयार करत आहेत, तसतसे संस्थांनी त्यांच्या प्रवेगक संगणकीय संसाधनांचा (Accelerated computing resources) विस्तार करणे आवश्यक आहे, जेणेकरून AI च्या पुढील पिढीतील तर्क साधनांना (AI reasoning tools) पुरवता येईल. असे करण्यात अयशस्वी झाल्यास खर्च आणि ऊर्जा वापर वाढू शकतो.
हा लेख अनुमानाच्या अर्थशास्त्राची (Economics of inference) मूलभूत माहिती देतो, ज्यामुळे संस्थांना कार्यक्षम, खर्च-प्रभावी आणि स्केलेबल AI सोल्यूशन्स विकसित करता येतील.
AI अनुमानाच्या अर्थशास्त्रातील मुख्य संकल्पना
AI अनुमानाच्या अर्थशास्त्राचे महत्त्व समजून घेण्यासाठी त्याच्या आवश्यक संज्ञांशी परिचित असणे महत्त्वाचे आहे.
टोकन (Tokens): AI मॉडेलमधील डेटाचे मूळ एकक, जे प्रशिक्षण दरम्यान मजकूर (text), प्रतिमा (images), ऑडिओ (audio) आणि व्हिडिओमधून (video) घेतले जातात. टोकनायझेशनमध्ये (Tokenization) डेटाला लहान, व्यवस्थापित करण्यायोग्य युनिट्समध्ये विभाजित करणे समाविष्ट आहे. प्रशिक्षणादरम्यान, मॉडेल टोकन दरम्यानचे संबंध शिकते, ज्यामुळे ते अनुमान लावण्यास आणि अचूक आउटपुट तयार करण्यास सक्षम होते.
थ्रूपुट (Throughput): मॉडेल एका विशिष्ट वेळेत किती डेटावर प्रक्रिया करू शकते आणि आउटपुट देऊ शकते, हे सहसा टोकन प्रति सेकंदात (tokens per second) मोजले जाते. उच्च थ्रूपुट पायाभूत सुविधा संसाधनांचा (infrastructure resources) अधिक कार्यक्षम वापर दर्शवते.
लेटन्सी (Latency): प्रॉम्प्ट इनपुट (prompt input) केल्यानंतर मॉडेलचा प्रतिसाद (model’s response) मिळण्यास लागणारा वेळ. कमी लेटन्सी म्हणजे जलद प्रतिसाद आणि वापरकर्त्याचा चांगला अनुभव. मुख्य लेटन्सी मेट्रिक्समध्ये (latency metrics) हे समाविष्ट आहेत:
- पहिला टोकन मिळण्यास लागणारा वेळ (Time to First Token - TTFT): वापरकर्त्याच्या प्रॉम्प्ट (user prompt) प्राप्त झाल्यानंतर मॉडेलला पहिला आउटपुट टोकन तयार करण्यासाठी लागणारा वेळ, जो प्रारंभिक प्रक्रिया वेळेला (initial processing time) दर्शवतो.
- प्रति आउटपुट टोकन वेळ (Time per Output Token - TPOT): त्यानंतरचे टोकन तयार करण्यासाठी लागणारा सरासरी वेळ, ज्याला ‘इंटर-टोकन लेटन्सी’ (inter-token latency) किंवा ‘टोकन-टू-टोकन लेटन्सी’ (token-to-token latency) म्हणून देखील ओळखले जाते.
TTFT आणि TPOT उपयुक्त बेंचमार्क (benchmark) असले तरी, केवळ त्यांच्यावर लक्ष केंद्रित केल्याने अपेक्षेपेक्षा कमी कार्यक्षमता (suboptimal performance) किंवा वाढलेला खर्च येऊ शकतो.
गुडपुट (Goodput): एक समग्र मेट्रिक (holistic metric) जे लक्ष्यित TTFT आणि TPOT पातळी राखताना प्राप्त केलेले थ्रूपुट मोजते. गुडपुट सिस्टमच्या कार्यक्षमतेचा अधिक व्यापक दृष्टिकोन प्रदान करते, ऑपरेशनल कार्यक्षमता (operational efficiency) आणि सकारात्मक वापरकर्ता अनुभव (positive user experience) सुनिश्चित करण्यासाठी थ्रूपुट, लेटन्सी आणि खर्चात समन्वय साधते.
ऊर्जा कार्यक्षमता (Energy Efficiency): AI प्रणाली किती प्रभावीपणे ऊर्जेचे रूपांतरण संगणकीय आउटपुटमध्ये करते याचे हे माप आहे, जे प्रति वॅट कार्यप्रदर्शन (performance per watt) म्हणून व्यक्त केले जाते. प्रवेगक संगणकीय प्लॅटफॉर्म्स (Accelerated computing platforms) संस्थांना प्रति वॅट टोकनची संख्या वाढविण्यात आणि ऊर्जा वापर कमी करण्यात मदत करू शकतात.
स्केलिंग नियम आणि अनुमानाचा खर्च (Scaling Laws and Inference Cost)
तीन AI स्केलिंग नियम (AI scaling laws) अनुमानाच्या अर्थशास्त्रावर (economics of inference) अधिक प्रकाश टाकतात:
प्रीट्रेनिंग स्केलिंग (Pretraining Scaling): हा मूळ स्केलिंग नियम आहे, जो दर्शवितो की प्रशिक्षण डेटासेटचा आकार (training dataset size), मॉडेल पॅरामीटरची संख्या (model parameter count) आणि संगणकीय संसाधने (computational resources) वाढवल्याने मॉडेलची बुद्धिमत्ता आणि अचूकता सुधारते.
पोस्ट-ट्रेनिंग (Post-training): ही एक प्रक्रिया आहे जिथे विशिष्ट कार्ये आणि ऍप्लिकेशन्ससाठी मॉडेल्सना फाइन-ट्यून (fine-tuned) केले जाते. रिट्रीव्हल-ऑगमेंटेड जनरेशन (Retrieval-augmented generation - RAG) सारख्या तंत्रांमुळे एंटरप्राइझ डेटाबेसमधून (enterprise databases) संबंधित माहिती मिळवून अचूकता वाढवता येते.
टेस्ट-टाइम स्केलिंग (Test-time Scaling): याला ‘लांब विचार’ (long thinking) किंवा ‘तर्क’ (reasoning) म्हणूनही ओळखले जाते. सर्वोत्तम उत्तर निवडण्यापूर्वी अनेक संभाव्य परिणामांचे मूल्यांकन करण्यासाठी अनुमानादरम्यान (inference) अतिरिक्त संगणकीय संसाधने (computational resources) वाटप करणे यात समाविष्ट आहे.
पोस्ट-ट्रेनिंग (Post-training) आणि टेस्ट-टाइम स्केलिंग तंत्र (Test-time scaling) अधिकाधिक अत्याधुनिक होत असताना, प्रीट्रेनिंग (Pretraining) मॉडेल स्केलिंगचा आणि या प्रगत तंत्रांना समर्थन देण्याचा एक महत्त्वाचा भाग आहे.
फुल-स्टॅक दृष्टिकोणातून फायदेशीर AI साध्य करणे (Achieving Profitable AI with a Full-Stack Approach)
टेस्ट-टाइम स्केलिंगचा (Test-time scaling) वापर करणारी मॉडेल्स जटिल समस्यांचे निराकरण करण्यासाठी अनेक टोकन तयार करतात, त्यामुळे अधिक अचूक आणि संबंधित आउटपुट मिळतात, परंतु प्रीट्रेनिंग (Pretraining) आणि पोस्ट-ट्रेनिंग (Post-training) केलेल्या मॉडेल्सच्या तुलनेत संगणकीय खर्च (computational costs) जास्त असतो.
हुशार AI सोल्यूशन्सना (Smarter AI solutions) जटिल कार्ये सोडवण्यासाठी अधिक टोकन तयार करण्याची आवश्यकता असते, तर उच्च-गुणवत्तेच्या वापरकर्त्याच्या अनुभवासाठी (high-quality user experience) हे टोकन शक्य तितक्या लवकर तयार करणे आवश्यक आहे. AI मॉडेल जितके अधिक बुद्धिमान आणि जलद असेल, तितके ते व्यवसाय आणि ग्राहकांना अधिक मूल्य प्रदान करते.
संस्थांना त्यांची प्रवेगक संगणकीय संसाधने (Accelerated computing resources) वाढवण्याची आवश्यकता आहे, जेणेकरून AI तर्क साधने (AI reasoning tools) जटिल समस्या सोडवणे, कोडिंग (coding) आणि मल्टीस्टेप प्लॅनिंग (multistep planning) जास्त खर्च न करता हाताळू शकतील.
यासाठी प्रगत हार्डवेअर (advanced hardware) आणि पूर्णपणे ऑप्टिमाइझ्ड सॉफ्टवेअर स्टॅकची (fully optimized software stack) आवश्यकता आहे. NVIDIA चा AI फॅक्टरी प्रोडक्ट रोडमॅप (AI factory product roadmap) या संगणकीय मागण्या पूर्ण करण्यासाठी आणि कार्यक्षमतेत सुधारणा करताना अनुमानातील (inference) गुंतागुंत दूर करण्यासाठी डिझाइन केलेले आहे.
AI फॅक्टरी उच्च-कार्यक्षमतेचे AI इन्फ्रास्ट्रक्चर (high-performance AI infrastructure), हाय-स्पीड नेटवर्किंग (high-speed networking) आणि ऑप्टिमाइझ्ड सॉफ्टवेअर (optimized software) एकत्रित करते, ज्यामुळे मोठ्या प्रमाणात बुद्धिमत्ता सक्षम होते. हे घटक लवचिक (flexible) आणि प्रोग्रामेबल (programmable) करण्यासाठी डिझाइन केलेले आहेत, ज्यामुळे व्यवसायांना त्यांच्या मॉडेल्स किंवा अनुमानाच्या गरजांसाठी महत्त्वपूर्ण असलेल्या क्षेत्रांना प्राधान्य देता येते.
मोठ्या AI तर्क मॉडेल्स (AI reasoning models) तैनात करताना ऑपरेशन्स सुलभ करण्यासाठी, AI फॅक्टरी उच्च-कार्यक्षमता, कमी-लेटन्सी अनुमान व्यवस्थापन प्रणालीवर (low-latency inference management system) चालते. ही प्रणाली सुनिश्चित करते की AI तर्कासाठी आवश्यक असलेली गती आणि थ्रूपुट (throughput) शक्य तितक्या कमी खर्चात पूर्ण केली जाईल, ज्यामुळे टोकन महसूल निर्मिती (token revenue generation) वाढेल.
अनुमानाच्या अर्थशास्त्राला (economics of inference) समजून घेऊन आणि त्यावर लक्ष केंद्रित करून, संस्था AI ची पूर्ण क्षमता अनलॉक करू शकतात आणि त्यांच्या गुंतवणुकीवर महत्त्वपूर्ण परतावा (returns on their investments) मिळवू शकतात. कार्यक्षम, खर्च-प्रभावी आणि फायदेशीर AI ऍप्लिकेशन्स (profitable AI applications) तयार करण्यासाठी, मुख्य मेट्रिक्स (key metrics), स्केलिंग नियम (scaling laws) आणि फुल-स्टॅक सोल्यूशनच्या (full-stack solution) महत्त्वाची जाणीव असणे आवश्यक आहे.