AI एजेंट क्रांति: सुरक्षा मानकों को प्राथमिकता

कृत्रिम बुद्धिमत्ता (AI) एजेंट उद्योग वर्तमान में एक परिचित कथा का अनुभव कर रहा है। AI एजेंट बड़े मॉडलों की सामान्य क्षमताओं का लाभ उठाकर मौजूदा तकनीकों और उपकरणों का उपयोग करके जटिल उपयोगकर्ता कार्यों के समाधान को स्वचालित करते हैं। यह उन्हें आज मॉडल तकनीक को तैनात करने के लिए सबसे आशाजनक मार्ग के रूप में स्थापित करता है।

पिछले कुछ महीनों में, AI एजेंट उत्पादों में विस्फोट हुआ है। Manus जैसे हाई-प्रोफाइल प्रस्तावों ने मुख्यधारा का ध्यान आकर्षित किया है, और OpenAI और Google के नए मॉडल तेजी से ‘AI एजेंट-इज्ड’ हो रहे हैं। महत्वपूर्ण बात यह है कि मानक प्रोटोकॉल तेजी से लोकप्रियता हासिल कर रहे हैं।

एंथ्रोपिक ने पिछले साल के अंत में MCP (मॉडल कम्युनिकेशन प्रोटोकॉल) को ओपन-सोर्स के रूप में जारी किया। MCP का उद्देश्य एक खुला, मानकीकृत विनिर्देश स्थापित करना है जो बड़े भाषा मॉडल को विभिन्न बाहरी डेटा स्रोतों और उपकरणों, जैसे कि व्यावसायिक सॉफ़्टवेयर, डेटाबेस और कोड रिपॉजिटरी के साथ निर्बाध रूप से बातचीत करने में सक्षम बनाता है। अपनी रिलीज के महीनों के भीतर, OpenAI, Google, Alibaba और Tencent सभी ने समर्थन व्यक्त किया है और इसे एकीकृत किया है। इसके बाद, Google ने A2A (एजेंट-टू-एजेंट) लॉन्च किया, जिसका लक्ष्य AI एजेंटों के बीच सहयोग और वर्कफ़्लो को स्वचालित करना है। इसने बढ़ते AI एजेंट परिदृश्य को और बढ़ावा दिया है।

संक्षेप में, ये प्रोटोकॉल दो प्रमुख चुनौतियों का समाधान करते हैं: MCP एजेंटों और उपकरण/सेवा प्रदाताओं के बीच कनेक्शन को सुगम बनाता है, जबकि A2A अत्यधिक जटिल कार्यों को पूरा करने के लिए एजेंटों के बीच सहयोगात्मक कनेक्शन को सक्षम बनाता है।

इसलिए, MCP की तुलना शुरुआती एकीकृत इंटरफेस से की जा सकती है, जबकि A2A HTTP प्रोटोकॉल जैसा दिखता है।

हालांकि, इंटरनेट के इतिहास में, HTTP के आगमन के बाद एक महत्वपूर्ण तत्व था जो इंटरनेट की वास्तविक समृद्धि के लिए आवश्यक था: प्रोटोकॉल के ऊपर स्तरित सुरक्षा मानक।

आज, MCP और A2A एक समान दुविधा का सामना कर रहे हैं।

IIFAA (इंटरनेट इंडस्ट्री फाइनेंशियल ऑथेंटिकेशन एलायंस) ट्रस्टेड ऑथेंटिकेशन एलायंस के तकनीकी लीड और AI एजेंट सुरक्षा के विशेषज्ञ Zixi बताते हैं, ‘जब HTTP उभरा, तो बाद में उसे महत्वपूर्ण सुरक्षा चुनौतियों का सामना करना पड़ा। इंटरनेट ने इस विकास का अनुभव किया।’

ये चुनौतियां विभिन्न रूपों में प्रकट हो सकती हैं। वर्तमान में, दुर्भावनापूर्ण अभिनेता नकली ‘मौसम जांच’ उपकरण बना सकते हैं और उन्हें MCP सर्वर के साथ पंजीकृत कर सकते हैं, पृष्ठभूमि में चुपके से उपयोगकर्ता की उड़ान जानकारी चुरा सकते हैं। जब कोई उपयोगकर्ता किसी एजेंट के माध्यम से दवा खरीदता है, तो एजेंट A सेफपोडोक्सिम खरीदने के लिए जिम्मेदार हो सकता है, जबकि एजेंट B शराब खरीदता है। क्रॉस-प्लेटफ़ॉर्म जोखिम पहचान क्षमताओं की कमी के कारण, सिस्टम ‘खतरनाक संयोजन’ चेतावनी प्रदान नहीं कर सकता है, क्योंकि मौजूदा ई-कॉमर्स प्लेटफ़ॉर्म करते हैं। इससे भी अधिक महत्वपूर्ण बात यह है कि एजेंट-टू-एजेंट प्रमाणीकरण और डेटा स्वामित्व अस्पष्ट बने हुए हैं। क्या उपयोगकर्ता अपने डिवाइस पर एक स्थानीय एप्लिकेशन को अधिकृत कर रहा है, या वे निजी डेटा को क्लाउड पर सिंक्रनाइज़ कर रहे हैं?

‘A2A, अपने आधिकारिक दस्तावेज़ में, बताता है कि यह केवल शीर्ष-स्तरीय ट्रांसमिशन की सुरक्षा की गारंटी देता है। यह पहचान और क्रेडेंशियल्स, डेटा गोपनीयता और इरादे की पहचान की उत्पत्ति सुनिश्चित करने की जिम्मेदारी व्यक्तिगत कंपनियों पर छोड़ देता है।’

बुद्धिमान एजेंटों की सच्ची समृद्धि के लिए यह आवश्यक है कि इन मुद्दों का समाधान किया जाए। IIFAA, जहाँ Zixi काम करते हैं, इस समस्या से निपटने वाला पहला संगठन है।

Zixi कहते हैं, ‘इस संदर्भ में, IIFAA भविष्य में बुद्धिमान एजेंटों द्वारा सामना की जाने वाली समस्याओं की एक श्रृंखला को हल करने के लिए समर्पित है।’ ‘A2A के युग में, हमने ASL (एजेंट सिक्योरिटी लेयर) नामक एक समान उत्पाद भी परिभाषित किया है, जो एजेंटों की सुरक्षा को अनुमतियों, डेटा, गोपनीयता और अन्य पहलुओं के मामले में सुनिश्चित करने के लिए MCP प्रोटोकॉल पर निर्माण कर सकता है। यह मिडलवेयर उत्पाद A2A को भविष्य के सुरक्षा मानकों में संक्रमण करने की चुनौतियों का भी समाधान करता है।’

IIFAA इंटेलिजेंट एजेंट ट्रस्टेड इंटरकनेक्शन वर्किंग ग्रुप पहला घरेलू AI एजेंट सुरक्षा पारिस्थितिकी तंत्र सहयोग संगठन है। इसे संयुक्त रूप से चाइना एकेडमी ऑफ इंफॉर्मेशन एंड कम्युनिकेशंस टेक्नोलॉजी (CAICT), एंट ग्रुप और बीस से अधिक अन्य प्रौद्योगिकी कंपनियों और संस्थानों द्वारा शुरू किया गया था।

ASL से स्केलेबिलिटी

Zixi कहते हैं, ‘AI एजेंटों का विकास हमारी अपेक्षा से अधिक तेजी से हो रहा है, तकनीकी रूप से और पारिस्थितिकी तंत्र द्वारा मानकों की स्वीकृति के मामले में भी।’

एजेंट-टू-एजेंट संचार के लिए एक सुरक्षा प्रोटोकॉल की IIFAA की अवधारणा पिछले साल नवंबर में ही सामने आई थी, MCP की रिलीज से पहले। IIFAA इंटेलिजेंट एजेंट ट्रस्टेड इंटरकनेक्शन वर्किंग ग्रुप आधिकारिक तौर पर दिसंबर में स्थापित किया गया था, जो MCP की आधिकारिक रिलीज के साथ मेल खाता था।

‘दुर्भावनापूर्ण अभिनेता कभी-कभी रक्षकों की तुलना में नई तकनीकों में तेजी से महारत हासिल कर लेते हैं। हम समस्याओं के उत्पन्न होने से पहले व्यवस्था पर चर्चा करने के लिए इंतजार नहीं कर सकते। यही इस कार्य समूह के अस्तित्व की आवश्यकता है,’ IIFAA के एक सदस्य ने पिछली प्रस्तुति में कहा। सुरक्षा और आपसी विश्वास के लिए उद्योग मानदंडों का एक साथ निर्माण दीर्घकालिक स्वस्थ विकास के लिए महत्वपूर्ण है।

Zixi के अनुसार, उनका वर्तमान ध्यान पहले चरण में निम्नलिखित प्रमुख मुद्दों को संबोधित करने पर है:

• एजेंट ट्रस्टेड आइडेंटिटी: ‘हम आधिकारिक संस्थानों और आपसी मान्यता तंत्र के आधार पर एक एजेंट प्रमाणन प्रणाली का निर्माण करना चाहते हैं। जैसे अंतरराष्ट्रीय यात्रा के लिए पासपोर्ट और वीजा की आवश्यकता होती है, यह प्रमाणित एजेंटों को जल्दी से एक सहयोग नेटवर्क में शामिल होने और गैर-प्रमाणित एजेंटों को सहयोगात्मक व्यवस्था को बाधित करने से रोकने की अनुमति देगा।’

• इरादा ट्रस्टेड शेयरिंग: ‘बुद्धिमान एजेंटों के बीच सहयोग इरादे की प्रामाणिकता और सटीकता पर निर्भर करता है। इसलिए, कुशल और विश्वसनीय बहु-एजेंट सहयोग सुनिश्चित करने के लिए इरादा ट्रस्टेड शेयरिंग महत्वपूर्ण है।’

• संदर्भ सुरक्षा तंत्र: ‘जब एक AI एजेंट कई MCP (मल्टी-चैनल प्रोटोकॉल) सर्वरों से जुड़ता है, तो सभी उपकरण विवरण जानकारी एक ही सत्र संदर्भ में लोड हो जाती है। एक दुर्भावनापूर्ण MCP सर्वर इस का फायदा उठाकर दुर्भावनापूर्ण निर्देश इंजेक्ट कर सकता है। संदर्भ सुरक्षा दुर्भावनापूर्ण हस्तक्षेप को रोक सकती है, सिस्टम सुरक्षा बनाए रख सकती है, उपयोगकर्ता के इरादे की अखंडता सुनिश्चित कर सकती है और जहर हमलों को रोक सकती है।’

• डेटा गोपनीयता सुरक्षा: ‘बहु-एजेंट सहयोग में, डेटा साझा करने से गोपनीयता का उल्लंघन हो सकता है। संवेदनशील जानकारी के दुरुपयोग को रोकने के लिए गोपनीयता सुरक्षा महत्वपूर्ण है।’

• एजेंट मेमोरी ट्रस्टेड शेयरिंग: ‘मेमोरी साझाकरण बहु-एजेंट सहयोग की दक्षता में सुधार करता है। मेमोरी ट्रस्टेड शेयरिंग डेटा स्थिरता, प्रामाणिकता और सुरक्षा सुनिश्चित करता है, छेड़छाड़ और रिसाव को रोकता है, सहयोग प्रभावशीलता और उपयोगकर्ता विश्वास को बढ़ाता है।’

• पहचान ट्रस्टेड सर्कुलेशन: ‘उपयोगकर्ता AI-देशी अनुप्रयोगों में एक सहज और सुगम सेवा अनुभव की उम्मीद करते हैं। इसलिए, उपयोगकर्ता अनुभव को बढ़ाने के लिए क्रॉस-प्लेटफ़ॉर्म, गैर-घुसपैठ पहचान प्राप्त करना महत्वपूर्ण है।’

Zixi बताते हैं, ‘ये हमारे अल्पकालिक लक्ष्य हैं। इसके बाद, हम ASL को पूरे उद्योग में जारी करेंगे। यह एक सॉफ़्टवेयर कार्यान्वयन है, न कि प्रोटोकॉल विनिर्देश। इसे इन दो प्रोटोकॉल की उद्यम-स्तरीय सुरक्षा को बढ़ाने के लिए MCP और A2A पर लागू किया जा सकता है। यह अल्पकालिक उद्देश्य है।’

‘शुरुआत में, हम सुरक्षा परत पर चीजों को निर्दिष्ट नहीं करेंगे। हम A2AS निर्दिष्ट नहीं करेंगे। इसके बजाय, हमें उम्मीद है कि यदि कोई भविष्य में A2AS निर्दिष्ट करता है, तो हमारा ASL एक सॉफ़्टवेयर कार्यान्वयन घटक बन सकता है, जैसे SSL HTTPS का एक सॉफ़्टवेयर कार्यान्वयन घटक है।’

HTTPS सादृश्य: AI एजेंटों के भविष्य को सुरक्षित करना

HTTPS के इतिहास के साथ समानताएं खींचते हुए, सुरक्षा का आश्वासन भुगतान जैसी कार्यक्षमताओं को व्यापक रूप से अपनाने में सक्षम बनाता है, जिससे बड़े पैमाने पर वाणिज्यिक अवसरों का मार्ग प्रशस्त होता है। एक समान लय वर्तमान में चल रही है। 15 अप्रैल को, Alipay ने ModelScope समुदाय के साथ मिलकर ‘पेमेंट MCP सर्वर’ सेवा का अनावरण किया। यह AI डेवलपर्स को प्राकृतिक भाषा का उपयोग करके Alipay भुगतान सेवाओं को निर्बाध रूप से एकीकृत करने की अनुमति देता है, जिससे AI एजेंटों के भीतर भुगतान कार्यक्षमताओं की त्वरित तैनाती को सुगम बनाया जा सकता है।

इन अल्पकालिक उद्देश्यों को एक-एक करके संबोधित करने से अंततः एक सुरक्षित एजेंट सहयोग मानक और वातावरण का निर्माण होगा। इस प्रक्रिया की कुंजी स्केलिंग प्रभाव प्राप्त करना है। घरेलू MCP ‘स्टोर’ जो तेजी से आगे बढ़ रहे हैं, उन्होंने पहले ही कार्रवाई करना शुरू कर दिया है। एंट ग्रुप के बुद्धिमान एजेंट प्लेटफ़ॉर्म Baibaoxiang का ‘MCP ज़ोन’ IIFAA के सुरक्षा समाधानों को एकीकृत करेगा। यह ‘MCP स्टोर’ वर्तमान में Alipay, Amap और Wuying सहित विभिन्न MCP सेवाओं की तैनाती और आह्वान का समर्थन करता है, जिससे केवल 3 मिनट में MCP सेवाओं से जुड़े एक बुद्धिमान एजेंट का सबसे तेज़ निर्माण सक्षम होता है।

Zixi का मानना है कि बड़े मॉडलों की सामान्य क्षमताओं में वास्तव में उपयोगकर्ता के अनुभवों और इंटरैक्शन प्रतिमानों में क्रांति लाने की क्षमता है। भविष्य में, कार्यों को पूरा करने के लिए ऐप्स को कॉल करने का वर्तमान दृष्टिकोण एक सुपर गेटवे द्वारा प्रतिस्थापित किया जा सकता है जो पर्दे के पीछे छिपे एक उपकरण पूल पर निर्भर करता है, जो एक MCP स्टोर के समान है। यह सरल और उपयोगकर्ता की आवश्यकताओं को समझने वाला बन जाएगा। व्यावसायीकरण संभव हो जाता है।

‘AGI का विकास अब बुद्धिमान एजेंट चरण में प्रवेश कर गया है। सीमित तर्क क्षमताओं वाले चैट रोबोट और AI की तुलना में, बुद्धिमान एजेंट अंततः पॉइंट-टू-पॉइंट बंद चरण से मुक्त हो गए हैं, वास्तव में वाणिज्यिक अनुप्रयोगों में एक नया अध्याय खोल रहे हैं।’

IIFAA ने हाल ही में ASL लॉन्च किया है और इसकी ओपन-सोर्स रिलीज की घोषणा की है। कोड, मानकों और अनुभव को खुलकर साझा करके, इसका उद्देश्य तकनीकी नवाचार और पुनरावृत्ति को गति देना, उद्योग उद्यमों और डेवलपर्स को व्यापक रूप से भाग लेने के लिए आग्रह करना और उद्योग के भीतर प्रौद्योगिकी के मानकीकरण को बढ़ावा देना है। ओपन-सोर्स योजना सबसे अधिक अनुमेय Apache 2.0 लाइसेंस को अपनाएगी और कोड लाइब्रेरी डिज़ाइन दस्तावेज़ सुरक्षा प्रथाओं को बाहरी रूप से उपलब्ध कराएगी। वैश्विक डेवलपर्स Github समुदाय के भीतर सह-निर्माण में भाग ले सकते हैं।

AI एजेंट विकास में सुरक्षा की अनिवार्यता

AI एजेंटों का उदय उस तरीके में एक प्रतिमान बदलाव का प्रतिनिधित्व करता है जिस तरह से हम प्रौद्योगिकी के साथ बातचीत करते हैं। अब हम अलग-अलग अनुप्रयोगों तक सीमित नहीं हैं, बल्कि, हम एक ऐसी दुनिया की ओर बढ़ रहे हैं जहाँ बुद्धिमान एजेंट हमारे लक्ष्यों को प्राप्त करने के लिए कई उपकरणों और सेवाओं को निर्बाध रूप से व्यवस्थित कर सकते हैं। हालाँकि, यह दृष्टिकोण ऐसी शक्तिशाली तकनीक के साथ आने वाले अंतर्निहित सुरक्षा जोखिमों को संबोधित करने पर निर्भर करता है। जिस तरह इंटरनेट को सुरक्षित ई-कॉमर्स और अन्य संवेदनशील लेनदेन को सुगम बनाने के लिए HTTPS की आवश्यकता थी, उसी तरह AI एजेंटों को विश्वास को बढ़ावा देने और व्यापक रूप से अपनाने में सक्षम बनाने के लिए मजबूत सुरक्षा मानकों की आवश्यकता होती है।

AI एजेंट विकास का वर्तमान परिदृश्य तीव्र नवाचार और प्रयोगों की विशेषता है। अभूतपूर्व गति से नए मॉडल, प्रोटोकॉल और एप्लिकेशन उभर रहे हैं। जबकि यह गतिशीलता निस्संदेह रोमांचक है, यह एक चुनौती भी प्रस्तुत करती है: सुरक्षा चिंताएं अक्सर गति और कार्यक्षमता के लिए पीछे हट जाती हैं। इससे कमजोरियां हो सकती हैं जिनका दुर्भावनापूर्ण अभिनेता फायदा उठा सकते हैं, जिससे संभावित रूप से उपयोगकर्ता डेटा से समझौता हो सकता है, सेवाओं में व्यवधान हो सकता है और पूरे पारिस्थितिकी तंत्र में विश्वास कम हो सकता है।

इंटरनेट के शुरुआती दिनों के साथ समानता विशेष रूप से उपयुक्त है। व्यापक सुरक्षा उपायों की अनुपस्थिति में, इंटरनेट घोटालों, धोखाधड़ी और अन्य दुर्भावनापूर्ण गतिविधियों से त्रस्त था। इससे इसके विकास में बाधा आई और इसे अपनी पूरी क्षमता तक पहुंचने से रोका गया। यह केवल HTTPS और अन्य सुरक्षा प्रोटोकॉल के आगमन के साथ था कि इंटरनेट ई-कॉमर्स, ऑनलाइन बैंकिंग और अन्य संवेदनशील लेनदेन के लिए एक सुरक्षित और विश्वसनीय प्लेटफ़ॉर्म बन गया।

इसी तरह, AI एजेंटों को अपनी परिवर्तनकारी क्षमता को साकार करने के लिए सुरक्षा की एक मजबूत नींव की आवश्यकता होती है। ऐसी नींव के बिना, वे साइबर अपराध और ऑनलाइन शोषण के नए रूपों के लिए प्रजनन स्थल बनने का जोखिम उठाते हैं। यह नवाचार को दबा सकता है, उपयोगकर्ता के विश्वास को कम कर सकता है और अंततः AI एजेंटों को सर्वव्यापी और लाभकारी तकनीक बनने से रोक सकता है जिसकी कई लोग कल्पना करते हैं।

सुरक्षा चुनौतियों का समाधान करना

AI एजेंटों के सामने आने वाली सुरक्षा चुनौतियां बहुआयामी हैं और इसके लिए एक व्यापक दृष्टिकोण की आवश्यकता है। कुछ प्रमुख चुनौतियों में शामिल हैं:

• प्रमाणीकरण और प्राधिकरण: यह सुनिश्चित करना कि केवल अधिकृत एजेंट ही संवेदनशील डेटा और संसाधनों तक पहुंच सकें। इसके लिए मजबूत प्रमाणीकरण तंत्र और दानेदार पहुंच नियंत्रण की आवश्यकता होती है।
• डेटा गोपनीयता: अनधिकृत पहुंच, उपयोग या प्रकटीकरण से उपयोगकर्ता डेटा की सुरक्षा करना। इसके लिए गुमनामीकरण, एन्क्रिप्शन और विभेदक गोपनीयता जैसी गोपनीयता-संरक्षण तकनीकों को लागू करने की आवश्यकता होती है।
• इरादे का सत्यापन: यह सत्यापित करना कि एक एजेंट का इरादा उपयोगकर्ता के लक्ष्यों के साथ संरेखित है और यह दुर्भावनापूर्ण अभिनेताओं द्वारा हेरफेर नहीं किया जा रहा है। इसके लिए परिष्कृत इरादे की पहचान और सत्यापन एल्गोरिदम विकसित करने की आवश्यकता होती है।
• प्रासंगिक सुरक्षा: आसपास के वातावरण में कमजोरियों का फायदा उठाने वाले दुर्भावनापूर्ण हमलों से एजेंटों की सुरक्षा करना। इसके लिए सिस्टम के सभी परतों, हार्डवेयर से लेकर सॉफ़्टवेयर तक, मजबूत सुरक्षा उपायों को लागू करने की आवश्यकता होती है।
• एजेंट-टू-एजेंट सुरक्षा: यह सुनिश्चित करना कि एजेंट एक-दूसरे के साथ सुरक्षित रूप से संवाद और सहयोग कर सकते हैं। इसके लिए सुरक्षित संचार प्रोटोकॉल और विश्वास तंत्र विकसित करने की आवश्यकता होती है।

IIFAA का ASL सही दिशा में एक आशाजनक कदम है। MCP और A2A की सुरक्षा को बढ़ाने वाला सॉफ़्टवेयर कार्यान्वयन प्रदान करके, ASL इन चुनौतियों में से कुछ को संबोधित करने में मदद कर सकता है। हालाँकि, AI एजेंटों के लिए एक व्यापक सुरक्षा ढांचा बनाने के लिए और अधिक करने की आवश्यकता है।

आगे का रास्ता: सहयोग और मानकीकरण

सुरक्षित AI एजेंटों के विकास के लिए शोधकर्ताओं, डेवलपर्स, उद्योग हितधारकों और नीति निर्माताओं को शामिल करने वाले एक सहयोगात्मक प्रयास की आवश्यकता होती है। उठाए जाने वाले कुछ प्रमुख कदमों में शामिल हैं:

• खुले मानकों का विकास: AI एजेंट सुरक्षा के लिए खुले मानकों की स्थापना अंतरसंचालनीयता सुनिश्चित करने और नवाचार को बढ़ावा देने के लिए महत्वपूर्ण है।
• सर्वोत्तम प्रथाओं को साझा करना: सुरक्षित AI एजेंट विकास के लिए सर्वोत्तम प्रथाओं को साझा करना आम कमजोरियों को रोकने और सुरक्षा की संस्कृति को बढ़ावा देने में मदद कर सकता है।
• अनुसंधान में निवेश करना: उभरते खतरों को दूर करने के लिए नई तकनीकों और प्रौद्योगिकियों को विकसित करने के लिए AI एजेंट सुरक्षा पर अनुसंधान में निवेश करना आवश्यक है।
• शिक्षा और जागरूकता को बढ़ावा देना: AI एजेंट सुरक्षा के बारे में शिक्षा और जागरूकता को बढ़ावा देना सुरक्षा के लिए बार को बढ़ाने और जिम्मेदार विकास को प्रोत्साहित करने में मदद कर सकता है।
• नियामक ढांचों की स्थापना: AI एजेंट सुरक्षा के लिए नियामक ढांचों की स्थापना यह सुनिश्चित करने में मदद कर सकती है कि सुरक्षा को प्राथमिकता दी जाए और उपयोगकर्ताओं को सुरक्षा प्रदान की जाए।

एक साथ काम करके, हम एक ऐसा भविष्य बना सकते हैं जहाँ AI एजेंट न केवल शक्तिशाली और लाभकारी हों, बल्कि सुरक्षित और भरोसेमंद भी हों। इसके लिए आगे आने वाली सुरक्षा चुनौतियों का समाधान करने और AI एजेंट पारिस्थितिकी तंत्र के लिए सुरक्षा की एक मजबूत नींव बनाने के लिए एक ठोस प्रयास की आवश्यकता होगी। तभी हम AI एजेंटों की पूरी क्षमता को अनलॉक कर सकते हैं और वास्तव में परिवर्तनकारी तकनीक बना सकते हैं। इस पहल का नेतृत्व करने में IIFAA जैसे संगठनों के प्रयास सराहनीय हैं, लेकिन AI एजेंटों के सुरक्षित और समृद्ध विकास के लिए सुरक्षा मानकों का व्यापक रूप से अपनाया जाना और पालन करना महत्वपूर्ण है।

एआई एजेंटों के भविष्य को सुरक्षित करना: प्रमुख चुनौतियाँ और समाधान

कृत्रिम बुद्धिमत्ता (एआई) एजेंटों का उदय एक अभूतपूर्व तकनीक के रूप में हो रहा है, जो हमारे जीवन के कई पहलुओं को बदलने की क्षमता रखती है। ये बुद्धिमान एजेंट, बड़े मॉडलों की क्षमताओं का लाभ उठाकर, जटिल कार्यों को स्वचालित करते हैं और मौजूदा तकनीकों के साथ निर्बाध रूप से एकीकृत होते हैं। हालांकि, एआई एजेंटों की इस क्रांति को सुरक्षित और प्रभावी बनाने के लिए, हमें सुरक्षा मानकों को प्राथमिकता देना होगा।

पिछले कुछ महीनों में, हमने एआई एजेंट उत्पादों की एक अभूतपूर्व वृद्धि देखी है। मनुस जैसे हाई-प्रोफाइल प्रस्तावों ने व्यापक ध्यान आकर्षित किया है, और ओपनएआई और गूगल जैसे प्रमुख खिलाड़ियों ने अपने मॉडलों को “एआई एजेंटाइज्ड” करना शुरू कर दिया है। इसके साथ ही, मानक प्रोटोकॉल भी तेजी से लोकप्रिय हो रहे हैं, जो एआई एजेंटों के विकास के लिए एक मजबूत आधार प्रदान करते हैं।

एंथ्रोपिक द्वारा जारी किया गया मॉडल कम्युनिकेशन प्रोटोकॉल (एमसीपी) एक महत्वपूर्ण कदम है। यह ओपन-सोर्स प्रोटोकॉल विभिन्न बाहरी डेटा स्रोतों और उपकरणों के साथ बड़े भाषा मॉडलों को निर्बाध रूप से संवाद करने में सक्षम बनाता है। एमसीपी को ओपनएआई, गूगल, अलीबाबा और टेनसेंट जैसे प्रमुख उद्योग खिलाड़ियों का समर्थन मिला है, जिससे यह एआई एजेंटों के लिए एक वास्तविक मानक बन गया है।

गूगल ने एजेंट-टू-एजेंट (ए2ए) प्रोटोकॉल भी लॉन्च किया है, जिसका उद्देश्य एआई एजेंटों के बीच सहयोग और वर्कफ़्लो को स्वचालित करना है। ए2ए एआई एजेंटों को जटिल कार्यों को पूरा करने के लिए मिलकर काम करने में सक्षम बनाता है, जिससे उनकी क्षमताओं का विस्तार होता है और वे अधिक मूल्यवान बन जाते हैं।

एमसीपी और ए2ए दोनों ही एआई एजेंटों के विकास के लिए महत्वपूर्ण चुनौतियां हल करते हैं। एमसीपी एजेंटों और उपकरण/सेवा प्रदाताओं के बीच कनेक्शन को सुगम बनाता है, जबकि ए2ए जटिल कार्यों को पूरा करने के लिए एजेंटों के बीच सहयोगात्मक कनेक्शन को सक्षम बनाता है। एमसीपी को शुरुआती एकीकृत इंटरफेस के रूप में माना जा सकता है, जबकि ए2ए एचटीटीपी प्रोटोकॉल के समान है।

हालांकि, इंटरनेट के इतिहास में, एचटीटीपी के आगमन के बाद एक महत्वपूर्ण तत्व था जो इंटरनेट की वास्तविक समृद्धि के लिए आवश्यक था: प्रोटोकॉल के ऊपर स्तरित सुरक्षा मानक। आज, एमसीपी और ए2ए एक समान दुविधा का सामना कर रहे हैं।

इंटरनेट इंडस्ट्री फाइनेंशियल ऑथेंटिकेशन एलायंस (आईआईएफएए) ट्रस्टेड ऑथेंटिकेशन एलायंस के तकनीकी लीड और एआई एजेंट सुरक्षा के विशेषज्ञ ज़िक्सी बताते हैं, ‘जब एचटीटीपी उभरा, तो बाद में उसे महत्वपूर्ण सुरक्षा चुनौतियों का सामना करनापड़ा। इंटरनेट ने इस विकास का अनुभव किया।’

एआई एजेंटों के साथ, सुरक्षा चुनौतियां विभिन्न रूपों में प्रकट हो सकती हैं। दुर्भावनापूर्ण अभिनेता नकली “मौसम जांच” उपकरण बना सकते हैं और उन्हें एमसीपी सर्वर के साथ पंजीकृत कर सकते हैं, पृष्ठभूमि में चुपके से उपयोगकर्ता की उड़ान जानकारी चुरा सकते हैं। जब कोई उपयोगकर्ता किसी एजेंट के माध्यम से दवा खरीदता है, तो एजेंट ए सेफपोडोक्सिम खरीदने के लिए जिम्मेदार हो सकता है, जबकि एजेंट बी शराब खरीदता है। क्रॉस-प्लेटफ़ॉर्म जोखिम पहचान क्षमताओं की कमी के कारण, सिस्टम “खतरनाक संयोजन” चेतावनी प्रदान नहीं कर सकता है, क्योंकि मौजूदा ई-कॉमर्स प्लेटफ़ॉर्म करते हैं। इससे भी अधिक महत्वपूर्ण बात यह है कि एजेंट-टू-एजेंट प्रमाणीकरण और डेटा स्वामित्व अस्पष्ट बने हुए हैं। क्या उपयोगकर्ता अपने डिवाइस पर एक स्थानीय एप्लिकेशन को अधिकृत कर रहा है, या वे निजी डेटा को क्लाउड पर सिंक्रनाइज़ कर रहे हैं?

ए2ए, अपने आधिकारिक दस्तावेज़ में, बताता है कि यह केवल शीर्ष-स्तरीय ट्रांसमिशन की सुरक्षा की गारंटी देता है। यह पहचान और क्रेडेंशियल्स, डेटा गोपनीयता और इरादे की पहचान की उत्पत्ति सुनिश्चित करने की जिम्मेदारी व्यक्तिगत कंपनियों पर छोड़ देता है। बुद्धिमान एजेंटों की सच्ची समृद्धि के लिए यह आवश्यक है कि इन मुद्दों का समाधान किया जाए। आईआईएफएए, जहाँ ज़िक्सी काम करते हैं, इस समस्या से निपटने वाला पहला संगठन है। ज़िक्सी कहते हैं, ‘इस संदर्भ में, आईआईएफएए भविष्य में बुद्धिमान एजेंटों द्वारा सामना की जाने वाली समस्याओं की एक श्रृंखला को हल करने के लिए समर्पित है।’ ‘ए2ए के युग में, हमने एजेंट सिक्योरिटी लेयर (एएसएल) नामक एक समान उत्पाद भी परिभाषित किया है, जो एजेंटों की सुरक्षा को अनुमतियों, डेटा, गोपनीयता और अन्य पहलुओं के मामले में सुनिश्चित करने के लिए एमसीपी प्रोटोकॉल पर निर्माण कर सकता है। यह मिडलवेयर उत्पाद ए2ए को भविष्य के सुरक्षा मानकों में संक्रमण करने की चुनौतियों का भी समाधान करता है।’

आईआईएफएए इंटेलिजेंट एजेंट ट्रस्टेड इंटरकनेक्शन वर्किंग ग्रुप पहला घरेलू एआई एजेंट सुरक्षा पारिस्थितिकी तंत्र सहयोग संगठन है। इसे संयुक्त रूप से चाइना एकेडमी ऑफ इंफॉर्मेशन एंड कम्युनिकेशंस टेक्नोलॉजी (सीएआईसीटी), एंट ग्रुप और बीस से अधिक अन्य प्रौद्योगिकी कंपनियों और संस्थानों द्वारा शुरू किया गया था।

ज़िक्सी कहते हैं, ‘एआई एजेंटों का विकास हमारी अपेक्षा से अधिक तेजी से हो रहा है, तकनीकी रूप से और पारिस्थितिकी तंत्र द्वारा मानकों की स्वीकृति के मामले में भी।’ एजेंट-टू-एजेंट संचार के लिए एक सुरक्षा प्रोटोकॉल की आईआईएफएए की अवधारणा पिछले साल नवंबर में ही सामने आई थी, एमसीपी की रिलीज से पहले। आईआईएफएए इंटेलिजेंट एजेंट ट्रस्टेड इंटरकनेक्शन वर्किंग ग्रुप आधिकारिक तौर पर दिसंबर में स्थापित किया गया था, जो एमसीपी की आधिकारिक रिलीज के साथ मेल खाता था।

‘दुर्भावनापूर्ण अभिनेता कभी-कभी रक्षकों की तुलना में नई तकनीकों में तेजी से महारत हासिल कर लेते हैं। हम समस्याओं के उत्पन्न होने से पहले व्यवस्था पर चर्चा करने के लिए इंतजार नहीं कर सकते। यही इस कार्य समूह के अस्तित्व की आवश्यकता है,’ आईआईएफएए के एक सदस्य ने पिछली प्रस्तुति में कहा। सुरक्षा और आपसी विश्वास के लिए उद्योग मानदंडों का एक साथ निर्माण दीर्घकालिक स्वस्थ विकास के लिए महत्वपूर्ण है।

ज़िक्सी के अनुसार, उनका वर्तमान ध्यान पहले चरण में निम्नलिखित प्रमुख मुद्दों को संबोधित करने पर है:

• एजेंट ट्रस्टेड आइडेंटिटी: ‘हम आधिकारिक संस्थानों और आपसी मान्यता तंत्र के आधार पर एक एजेंट प्रमाणन प्रणाली का निर्माण करना चाहते हैं। जैसे अंतरराष्ट्रीय यात्रा के लिए पासपोर्ट और वीजा की आवश्यकता होती है, यह प्रमाणित एजेंटों को जल्दी से एक सहयोग नेटवर्क में शामिल होने और गैर-प्रमाणित एजेंटों को सहयोगात्मक व्यवस्था को बाधित करने से रोकने की अनुमति देगा।’

• इरादा ट्रस्टेड शेयरिंग: ‘बुद्धिमान एजेंटों के बीच सहयोग इरादे की प्रामाणिकता और सटीकता पर निर्भर करता है। इसलिए, कुशल और विश्वसनीय बहु-एजेंट सहयोग सुनिश्चित करने के लिए इरादा ट्रस्टेड शेयरिंग महत्वपूर्ण है।’

• संदर्भ सुरक्षा तंत्र: ‘जब एक एआई एजेंट कई एमसीपी (मल्टी-चैनल प्रोटोकॉल) सर्वरों से जुड़ता है, तो सभी उपकरण विवरण जानकारी एक ही सत्र संदर्भ में लोड हो जाती है। एक दुर्भावनापूर्ण एमसीपी सर्वर इस का फायदा उठाकर दुर्भावनापूर्ण निर्देश इंजेक्ट कर सकता है। संदर्भ सुरक्षा दुर्भावनापूर्ण हस्तक्षेप को रोक सकती है, सिस्टम सुरक्षा बनाए रख सकती है, उपयोगकर्ता के इरादे की अखंडता सुनिश्चित कर सकती है और जहर हमलों को रोक सकती है।’

• डेटा गोपनीयता सुरक्षा: ‘बहु-एजेंट सहयोग में, डेटा साझा करने से गोपनीयता का उल्लंघन हो सकता है। संवेदनशील जानकारी के दुरुपयोग को रोकने के लिए गोपनीयता सुरक्षा महत्वपूर्ण है।’

• एजेंट मेमोरी ट्रस्टेड शेयरिंग: ‘मेमोरी साझाकरण बहु-एजेंट सहयोग की दक्षता में सुधार करता है। मेमोरी ट्रस्टेड शेयरिंग डेटा स्थिरता, प्रामाणिकता और सुरक्षा सुनिश्चित करता है, छेड़छाड़ और रिसाव को रोकता है, सहयोग प्रभावशीलता और उपयोगकर्ता विश्वास को बढ़ाता है।’

• पहचान ट्रस्टेड सर्कुलेशन: ‘उपयोगकर्ता एआई-देशी अनुप्रयोगों में एक सहज और सुगम सेवा अनुभव की उम्मीद करते हैं। इसलिए, उपयोगकर्ता अनुभव को बढ़ाने के लिए क्रॉस-प्लेटफ़ॉर्म, गैर-घुसपैठ पहचान प्राप्त करना महत्वपूर्ण है।’

ज़िक्सी बताते हैं, ‘ये हमारे अल्पकालिक लक्ष्य हैं। इसके बाद, हम एएसएल को पूरे उद्योग में जारी करेंगे। यह एक सॉफ़्टवेयर कार्यान्वयन है, न कि प्रोटोकॉल विनिर्देश। इसे इन दो प्रोटोकॉल की उद्यम-स्तरीय सुरक्षा को बढ़ाने के लिए एमसीपी और ए2ए पर लागू किया जा सकता है। यह अल्पकालिक उद्देश्य है।’

‘शुरुआत में, हम सुरक्षा परत पर चीजों को निर्दिष्ट नहीं करेंगे। हम ए2एएस निर्दिष्ट नहीं करेंगे। इसके बजाय, हमें उम्मीद है कि यदि कोई भविष्य में ए2एएस निर्दिष्ट करता है, तो हमारा एएसएल एक सॉफ़्टवेयर कार्यान्वयन घटक बन सकता है, जैसे एसएसएल एचटीटीपीएस का एक सॉफ़्टवेयर कार्यान्वयन घटक है।’

एचटीटीपीएस के इतिहास के साथ समानताएं खींचते हुए, सुरक्षा का आश्वासन भुगतान जैसी कार्यक्षमताओं को व्यापक रूप से अपनाने में सक्षम बनाता है, जिससे बड़े पैमाने पर वाणिज्यिक अवसरों का मार्ग प्रशस्त होता है। एक समान लय वर्तमान में चल रही है। 15 अप्रैल को, अलीपे ने मॉडलस्कोप समुदाय के साथ मिलकर “पेमेंट एमसीपी सर्वर” सेवा का अनावरण किया। यह एआई डेवलपर्स को प्राकृतिक भाषा का उपयोग करके अलीपे भुगतान सेवाओं को निर्बाध रूप से एकीकृत करने की अनुमति देता है, जिससे एआई एजेंटों के भीतर भुगतान कार्यक्षमताओं की त्वरित तैनाती को सुगम बनाया जा सकता है।

इन अल्पकालिक उद्देश्यों को एक-एक करके संबोधित करने से अंततः एक सुरक्षित एजेंट सहयोग मानक और वातावरण का निर्माण होगा। इस प्रक्रिया की कुंजी स्केलिंग प्रभाव प्राप्त करना है। घरेलू एमसीपी “स्टोर” जो तेजी से आगे बढ़ रहे हैं, उन्होंने पहले ही कार्रवाई करना शुरू कर दिया है। एंट ग्रुप के बुद्धिमान एजेंट प्लेटफ़ॉर्म बैबाओक्सियांग का “एमसीपी ज़ोन” आईआईएफएए के सुरक्षा समाधानों को एकीकृत करेगा। यह “एमसीपी स्टोर” वर्तमान में अलीपे, अमाप और वुयिंग सहित विभिन्न एमसीपी सेवाओं की तैनाती और आह्वान का समर्थन करता है, जिससे केवल 3 मिनट में एमसीपी सेवाओं से जुड़े एक बुद्धिमान एजेंट का सबसे तेज़ निर्माण सक्षम होता है।

ज़िक्सी का मानना है कि बड़े मॉडलों की सामान्य क्षमताओं में वास्तव में उपयोगकर्ता के अनुभवों और इंटरैक्शन प्रतिमानों में क्रांति लाने की क्षमता है। भविष्य में, कार्यों को पूरा करने के लिए ऐप्स को कॉल करने का वर्तमान दृष्टिकोण एक सुपर गेटवे द्वारा प्रतिस्थापित किया जा सकता है जो पर्दे के पीछे छिपे एक उपकरण पूल पर निर्भर करता है, जो एक एमसीपी स्टोर के समान है। यह सरल और उपयोगकर्ता की आवश्यकताओं को समझने वाला बन जाएगा। व्यावसायीकरण संभव हो जाता है।

‘एजीआई का विकास अब बुद्धिमान एजेंट चरण में प्रवेश कर गया है। सीमित तर्क क्षमताओं वाले चैट रोबोट और एआई की तुलना में, बुद्धिमान एजेंट अंततः पॉइंट-टू-पॉइंट बंद चरण से मुक्त हो गए हैं, वास्तव में वाणिज्यिक अनुप्रयोगों में एक नया अध्याय खोल रहे हैं।’

आईआईएफएए ने हाल ही में एएसएल लॉन्च किया है और इसकी ओपन-सोर्स रिलीज की घोषणा की है। कोड, मानकों और अनुभव को खुलकर साझा करके, इसका उद्देश्य तकनीकी नवाचार और पुनरावृत्ति को गति देना, उद्योग उद्यमों और डेवलपर्स को व्यापक रूप से भाग लेने के लिए आग्रह करना और उद्योग के भीतर प्रौद्योगिकी के मानकीकरण को बढ़ावा देना है। ओपन-सोर्स योजना सबसे अधिक अनुमेय अपाचे 2.0 लाइसेंस को अपनाएगी और कोड लाइब्रेरी डिज़ाइन दस्तावेज़ सुरक्षा प्रथाओं को बाहरी रूप से उपलब्ध कराएगी। वैश्विक डेवलपर्स गिटहब समुदाय के भीतर सह-निर्माण में भाग ले सकते हैं।

निष्कर्ष

एआई एजेंटों का उदय एक रोमांचक और परिवर्तनकारी तकनीक है। हालांकि, उनकी पूरी क्षमता को अनलॉक करने के लिए, हमें सुरक्षा को प्राथमिकता देना होगा। आईआईएफएए जैसे संगठनों के प्रयास सराहनीय हैं, लेकिन एआई एजेंटों के सुरक्षित और समृद्ध विकास के लिए सुरक्षा मानकों का व्यापक रूप से अपनाया जाना और पालन करना महत्वपूर्ण है। खुले मानकों का विकास, सर्वोत्तम प्रथाओं को साझा करना, अनुसंधान में निवेश करना, शिक्षा और जागरूकता को बढ़ावा देना, और नियामक ढांचों की स्थापना सभी एआई एजेंटों के भविष्य को सुरक्षित करने के लिए आवश्यक हैं।