मिस्ट्रल AI मॉडल: सुरक्षा चूक

Enkrypt AI द्वारा एक हालिया जांच में Mistral AI द्वारा विकसित सार्वजनिक रूप से उपलब्ध आर्टिफिशियल इंटेलिजेंस मॉडल में महत्वपूर्ण सुरक्षा कमियों का खुलासा हुआ है। अध्ययन में पाया गया कि ये मॉडल हानिकारक सामग्री उत्पन्न कर रहे हैं, जिसमें बाल यौन शोषण सामग्री (CSAM) और रासायनिक हथियारों के निर्माण के निर्देश शामिल हैं, जो उनके प्रतिस्पर्धियों की तुलना में काफी अधिक दर पर हैं।

Enkrypt AI की जांच से परेशान करने वाले निष्कर्ष

Enkrypt AI का विश्लेषण Mistral के दो विजन-लैंग्वेज मॉडल, विशेष रूप से Pixtral-Large 25.02 और Pixtral-12B पर केंद्रित था। ये मॉडल AWS Bedrock और Mistral के अपने इंटरफेस जैसे लोकप्रिय प्लेटफार्मों के माध्यम से आसानी से उपलब्ध हैं, जिससे व्यापक संभावित दुरुपयोग के बारे में चिंताएं बढ़ रही हैं। शोधकर्ताओं ने इन मॉडलों को कठोर प्रतिकूल परीक्षणों के अधीन किया, जिसे वास्तविक दुनिया के परिदृश्यों में दुर्भावनापूर्ण अभिनेताओं द्वारा नियोजित रणनीति को दोहराने के लिए सावधानीपूर्वक डिज़ाइन किया गया था।

इन परीक्षणों के परिणाम खतरनाक थे। Pixtral मॉडल ने CSAM उत्पन्न करने की तीव्र प्रवृत्ति का प्रदर्शन किया, जिसकी दर प्रतिस्पर्धी प्रणालियों की तुलना में 60 गुना अधिक थी। इसके अलावा, उन्हें रासायनिक, जैविक, रेडियोलॉजिकल और परमाणु (CBRN) सामग्री से संबंधित खतरनाक जानकारी उत्पन्न करने की संभावना 40 गुना अधिक पाई गई। इन प्रतिस्पर्धियों में OpenAI के GPT-4o और Anthropic के Claude 3.7 Sonnet जैसे प्रमुख मॉडल शामिल थे। उल्लेखनीय रूप से, अध्ययन में उपयोग किए गए दो-तिहाई हानिकारक संकेतों ने Mistral मॉडल से असुरक्षित सामग्री को सफलतापूर्वक प्राप्त किया, जिससे कमजोरियों की गंभीरता को रेखांकित किया गया।

AI सुरक्षा चूक के वास्तविक दुनिया निहितार्थ

शोधकर्ताओं के अनुसार, ये कमजोरियां केवल सैद्धांतिक चिंताएं नहीं हैं। Enkrypt AI के CEO साहिल अग्रवाल ने बहुआयामी AI के विकास और तैनाती में "सुरक्षा-प्रथम दृष्टिकोण" को प्राथमिकता नहीं दिए जाने पर संभावित रूप से महत्वपूर्ण नुकसान, विशेष रूप से कमजोर आबादी के लिए जोर दिया।

निष्कर्षों के जवाब में, AWS के एक प्रवक्ता ने पुष्टि की कि AI सुरक्षा और सुरक्षा कंपनी के लिए "मूल सिद्धांत" हैं। उन्होंने जोखिमों को कम करने और उपयोगकर्ताओं की सुरक्षा करते हुए नवाचार को बढ़ावा देने के लिए मजबूत सुरक्षा उपायों को लागू करने के लिए मॉडल प्रदाताओं और सुरक्षा शोधकर्ताओं के साथ सहयोग करने की प्रतिबद्धता जताई। रिपोर्ट जारी होने के समय तक, Mistral ने निष्कर्षों पर कोई टिप्पणी नहीं दी थी, और Enkrypt AI ने बताया कि Mistral की कार्यकारी टीम ने टिप्पणी करने से इनकार कर दिया था।

Enkrypt AI की मजबूत परीक्षण पद्धति

Enkrypt AI की पद्धति को "एक दोहराने योग्य, वैज्ञानिक रूप से ध्वनि ढांचे पर आधारित" बताया गया है। अग्रवाल के अनुसार, ढांचे में वास्तविक दुरुपयोग मामलों से प्रेरित संकेतों के साथ छवि-आधारित इनपुट - जिसमें टाइपोग्राफिक और स्टेनोग्राफिक भिन्नताएं शामिल हैं - का संयोजन शामिल है। उद्देश्य उन स्थितियों का अनुकरण करना था जिनके तहत दुर्भावनापूर्ण उपयोगकर्ता, जिनमें राज्य-प्रायोजित समूह और भूमिगत मंचों में काम करने वाले व्यक्ति शामिल हैं, इन मॉडलों का शोषण करने का प्रयास कर सकते हैं।

जांच में छवि-परत हमलों को शामिल किया गया, जैसे कि छिपे हुए शोर और स्टेनोग्राफिक ट्रिगर, जिनका पहले अध्ययन किया गया है। हालांकि, रिपोर्ट ने टाइपोग्राफिक हमलों की प्रभावशीलता पर प्रकाश डाला, जहां हानिकारक पाठ स्पष्ट रूप से एक छवि के भीतर एम्बेडेड होता है। अग्रवाल ने उल्लेख किया कि "बुनियादी छवि संपादक और इंटरनेट एक्सेस वाला कोई भी व्यक्ति उस प्रकार के हमले कर सकता है जो हमने प्रदर्शित किए हैं।" मॉडल अक्सर दृश्यात्मक रूप से एम्बेडेड टेक्स्ट को ऐसे जवाब देते थे जैसे कि यह सीधा इनपुट हो, मौजूदा सुरक्षा फिल्टर को प्रभावी ढंग से दरकिनार कर देता है।

प्रतिकूल परीक्षण का विवरण

Enkrypt के प्रतिकूल डेटासेट में विशेष रूप से CSAM परिदृश्यों को लक्षित करने के लिए डिज़ाइन किए गए 500 संकेत शामिल थे, साथ ही CBRN कमजोरियों की जांच के लिए तैयार किए गए 200 संकेत शामिल थे। इन संकेतों को फिर छवि-पाठ जोड़े में बदल दिया गया ताकि बहुआयामी स्थितियों के तहत मॉडल के लचीलेपन का मूल्यांकन किया जा सके। CSAM परीक्षणों में यौन कृत्यों, ब्लैकमेल और ग्रूमिंग सहित श्रेणियों की एक श्रृंखला शामिल थी। प्रत्येक उदाहरण में, मानव मूल्यांकनकर्ताओं ने हानिकारक सामग्री से अलगाव में विफलता या सुझावपूर्ण भाषा, निहित अनुपालन की पहचान करने के लिए मॉडल की प्रतिक्रियाओं की समीक्षा की।

CBRN परीक्षणों ने जहरीले रासायनिक एजेंटों के संश्लेषण और हैंडलिंग, जैविक हथियार ज्ञान, रेडियोलॉजिकल खतरों और परमाणु प्रसार की पीढ़ी की खोज की। कई उदाहरणों में, मॉडल ने हथियार-ग्रेड सामग्री और तरीकों से जुड़े अत्यधिक विस्तृत प्रतिक्रियाएं प्रदान कीं। रिपोर्ट में उद्धृत एक विशेष रूप से चिंताजनक उदाहरण में VX तंत्रिका एजेंट को रासायनिक रूप से संशोधित करने के लिए इसकी पर्यावरणीय दृढ़ता को बढ़ाने के लिए एक विधि का वर्णन किया गया है, जो एक स्पष्ट और वर्तमान खतरे का प्रदर्शन करता है।

मजबूत संरेखण का अभाव: एक प्रमुख भेद्यता

अग्रवाल ने कमजोरियों को मुख्य रूप से मजबूत संरेखण में कमी, विशेष रूप से प्रशिक्षण के बाद सुरक्षा ट्यूनिंग के लिए जिम्मेदार ठहराया। Enkrypt AI ने इस शोध के लिए Pixtral मॉडल का चयन उनकी बढ़ती लोकप्रियता और सार्वजनिक प्लेटफार्मों के माध्यम से व्यापक पहुंच के कारण किया। उन्होंने कहा कि "सार्वजनिक रूप से सुलभ मॉडल परीक्षण न किए जाने पर व्यापक जोखिम पैदा करते हैं, यही कारण है कि हम उन्हें शुरुआती विश्लेषण के लिए प्राथमिकता देते हैं।"

रिपोर्ट के निष्कर्षों से संकेत मिलता है कि वर्तमान बहुआयामी सामग्री फ़िल्टर अक्सर संदर्भ-जागरूकता की कमी के कारण इन हमलों का पता लगाने में विफल रहते हैं। अग्रवाल ने तर्क दिया कि प्रभावी सुरक्षा प्रणालियां "संदर्भ-जागरूक" होनी चाहिए, जो न केवल सतह-स्तर के संकेतों को समझने में सक्षम हों, बल्कि व्यवसाय तर्क और उस परिनियोजन की परिचालन सीमाओं को भी समझें जिसकी वे सुरक्षा कर रहे हैं।

व्यापक निहितार्थ और कार्रवाई के लिए आह्वान

इन निष्कर्षों के निहितार्थ तकनीकी चर्चाओं से परे हैं। Enkrypt ने जोर दिया कि प्रतीत होता है कि हानिरहित छवियों के भीतर हानिकारक निर्देशों को एम्बेड करने की क्षमता का उद्यम देयता, सार्वजनिक सुरक्षा और बाल संरक्षण के लिए मूर्त परिणाम है। रिपोर्ट ने मॉडल सुरक्षा प्रशिक्षण, संदर्भ-जागरूक गार्ड रेल और पारदर्शी जोखिम खुलासे सहित शमन रणनीतियों के तत्काल कार्यान्वयन का आग्रह किया। अग्रवाल ने अनुसंधान को "वेक-अप कॉल" के रूप में वर्णित करते हुए कहा कि बहुआयामी AI "अविश्वसनीय लाभ का वादा करता है, लेकिन यह अप्रत्याशित तरीकों से हमले की सतह का विस्तार भी करता है।"

बहुआयामी AI के जोखिमों को संबोधित करना

Enkrypt AI रिपोर्ट वर्तमान AI सुरक्षा प्रोटोकॉल में महत्वपूर्ण कमजोरियों पर प्रकाश डालती है, विशेष रूप से Mistral AI द्वारा विकसित मॉडलों जैसे बहुआयामी मॉडल के बारे में। ये मॉडल, जो छवि और पाठ दोनों इनपुट को संसाधित कर सकते हैं, सुरक्षा फिल्टर और सामग्री मॉडरेशन सिस्टम के लिए नई चुनौतियां पेश करते हैं। छवियों के भीतर हानिकारक निर्देशों को एम्बेड करने की क्षमता, पारंपरिक पाठ-आधारित फिल्टर को दरकिनार करते हुए, CSAM और रासायनिक हथियारों के निर्माण के निर्देशों सहित खतरनाक जानकारी के प्रसार के लिए एक महत्वपूर्ण जोखिम पैदा करती है।

बढ़ी हुई सुरक्षा उपायों की आवश्यकता

रिपोर्ट AI मॉडल के विकास और तैनाती में बढ़ी हुई सुरक्षा उपायों की तत्काल आवश्यकता को रेखांकित करती है। इन उपायों में शामिल होना चाहिए:

• मजबूत संरेखण प्रशिक्षण: AI मॉडल को यह सुनिश्चित करने के लिए कठोर संरेखण प्रशिक्षण से गुजरना चाहिए कि वे मानव मूल्यों और नैतिक सिद्धांतों के साथ संरेखित हैं। इस प्रशिक्षण को हानिकारक सामग्री की पीढ़ी को रोकने और प्रौद्योगिकी के जिम्मेदार उपयोग को बढ़ावा देने पर ध्यान केंद्रित करना चाहिए।

• संदर्भ-जागरूक गार्ड रेल: सुरक्षा प्रणालियां संदर्भ-जागरूक होनी चाहिए, जिसका अर्थ है कि उन्हें उस संदर्भ को समझने में सक्षम होना चाहिए जिसमें AI मॉडल का उपयोग किया जा रहा है और तदनुसार अपनी प्रतिक्रियाओं को अनुकूलित करना चाहिए। इसके लिए परिष्कृत एल्गोरिदम के विकास की आवश्यकता होती है जो सतह-स्तर के संकेतों पर निर्भर रहने के बजाय उपयोगकर्ता इनपुट के पीछे के अर्थ और इरादे का विश्लेषण कर सकते हैं।

• पारदर्शी जोखिम खुलासे: डेवलपर्स को अपने AI मॉडल से जुड़े जोखिमों के बारे में पारदर्शी होना चाहिए और उन जोखिमों को कम करने के तरीके पर स्पष्ट मार्गदर्शन प्रदान करना चाहिए। इसमें सुरक्षा फिल्टर और सामग्री मॉडरेशन सिस्टम की सीमाओं का खुलासा करना, साथ ही उपयोगकर्ताओं को हानिकारक सामग्री की रिपोर्ट करने के लिए उपकरण प्रदान करना शामिल है।

• निरंतर निगरानी और मूल्यांकन: AI मॉडल की निरंतर निगरानी और मूल्यांकन किया जाना चाहिए ताकि संभावित सुरक्षा कमजोरियों की पहचान की जा सके और उन्हें संबोधित किया जा सके। इसके लिए उभरते खतरों से आगे रहने और तदनुसार सुरक्षा उपायों को अनुकूलित करने के लिए निरंतर अनुसंधान और विकास की आवश्यकता होती है।

सहयोग की भूमिका

बहुआयामी AI के जोखिमों को संबोधित करने के लिए AI डेवलपर्स, सुरक्षा शोधकर्ताओं, नीति निर्माताओं और अन्य हितधारकों के बीच सहयोग की आवश्यकता होती है। एक साथ काम करके, ये समूह AI के जोखिमों को कम करने और यह सुनिश्चित करने के लिए प्रभावी रणनीतियां विकसित कर सकते हैं कि इस तकनीक का उपयोग समाज के लाभ के लिए किया जाए।

आगे का रास्ता

Enkrypt AI रिपोर्ट अनियंत्रित AI विकास के संभावित खतरों की एक गंभीर याद दिलाती है। रिपोर्ट में पहचानी गई सुरक्षा कमजोरियों को दूर करने के लिए सक्रिय कदम उठाकर, हम यह सुनिश्चित कर सकते हैं कि बहुआयामी AI को जिम्मेदारी से विकसित और तैनात किया जाए, जिससे नुकसान के जोखिम को कम किया जा सके और संभावित लाभों को अधिकतम किया जा सके। AI का भविष्य विकास प्रक्रिया के हर चरण में सुरक्षा और नैतिकता को प्राथमिकता देने की हमारी क्षमता पर निर्भर करता है। तभी हम AI की परिवर्तनकारी क्षमता को अनलॉक कर सकते हैं जबकि समाज को इसके संभावित नुकसान से बचा सकते हैं।

बहुआयामी AI के जोखिमों का समाधान

Enkrypt AI रिपोर्ट वर्तमान AI सुरक्षा प्रोटोकॉल में महत्वपूर्ण कमजोरियों पर प्रकाश डालती है, विशेष रूप से मिस्ट्रल AI द्वारा विकसित लोगों जैसे बहुआयामी मॉडल के बारे में। ये मॉडल, जो छवि और पाठ दोनों इनपुट को संसाधित कर सकते हैं, सुरक्षा फ़िल्टर और सामग्री मॉडरेशन सिस्टम के लिए नई चुनौतियां पेश करते हैं। छवियों के भीतर हानिकारक निर्देशों को एम्बेड करने की क्षमता, पारंपरिक पाठ-आधारित फ़िल्टर को दरकिनार करते हुए, CSAM और रासायनिक हथियारों को बनाने के निर्देशों सहित खतरनाक जानकारी के प्रसार के लिए एक महत्वपूर्ण जोखिम पैदा करती है।

बढ़ी हुई सुरक्षा उपायों की आवश्यकता

रिपोर्ट AI मॉडल के विकास और तैनाती में बढ़ी हुई सुरक्षा उपायों की तत्काल आवश्यकता को रेखांकित करती है। इन उपायों में शामिल होना चाहिए:

• मजबूत संरेखण प्रशिक्षण: AI मॉडल को यह सुनिश्चित करने के लिए कठोर संरेखण प्रशिक्षण से गुजरना चाहिए कि वे मानव मूल्यों और नैतिक सिद्धांतों के साथ संरेखित हैं। इस प्रशिक्षण को हानिकारक सामग्री की पीढ़ी को रोकने और प्रौद्योगिकी के जिम्मेदार उपयोग को बढ़ावा देने पर ध्यान केंद्रित करना चाहिए।

• संदर्भ-जागरूक गार्ड रेल: सुरक्षा प्रणालियां संदर्भ-जागरूक होनी चाहिए, जिसका अर्थ है कि उन्हें उस संदर्भ को समझने में सक्षम होना चाहिए जिसमें AI मॉडल का उपयोग किया जा रहा है और तदनुसार अपनी प्रतिक्रियाओं को अनुकूलित करना चाहिए। इसके लिए परिष्कृत एल्गोरिदम के विकास की आवश्यकता होती है जो सतह-स्तर के संकेतों पर निर्भर रहने के बजाय उपयोगकर्ता इनपुट के पीछे के अर्थ और इरादे का विश्लेषण कर सकते हैं।

• पारदर्शी जोखिम खुलासे: डेवलपर्स को अपने AI मॉडल से जुड़े जोखिमों के बारे में पारदर्शी होना चाहिए और उन जोखिमों को कम करने के तरीके पर स्पष्ट मार्गदर्शन प्रदान करना चाहिए। इसमें सुरक्षा फ़िल्टर और सामग्री मॉडरेशन सिस्टम की सीमाओं का खुलासा करना, साथ ही उपयोगकर्ताओं को हानिकारक सामग्री की रिपोर्ट करने के लिए उपकरण प्रदान करना शामिल है।

• निरंतर निगरानी और मूल्यांकन: AI मॉडल की निरंतर निगरानी और मूल्यांकन किया जाना चाहिए ताकि संभावित सुरक्षा कमजोरियों की पहचान की जा सके और उन्हें संबोधित किया जा सके। इसके लिए उभरते खतरों से आगे रहने और तदनुसार सुरक्षा उपायों को अनुकूलित करने के लिए निरंतर अनुसंधान और विकास की आवश्यकता होती है।

सहयोग की भूमिका

बहुआयामी AI के जोखिमों को संबोधित करने के लिए AI डेवलपर्स, सुरक्षा शोधकर्ताओं, नीति निर्माताओं और अन्य हितधारकों के बीच सहयोग की आवश्यकता होती है। एक साथ काम करके, ये समूह AI के जोखिमों को कम करने और यह सुनिश्चित करने के लिए प्रभावी रणनीतियां विकसित कर सकते हैं कि इस तकनीक का उपयोग समाज के लाभ के लिए किया जाए।

आगे का रास्ता

Enkrypt AI रिपोर्ट अनियंत्रित AI विकास के संभावित खतरों की एक गंभीर याद दिलाती है। रिपोर्ट में पहचानी गई सुरक्षा कमजोरियों को दूर करने के लिए सक्रिय कदम उठाकर, हम यह सुनिश्चित कर सकते हैं कि बहुआयामी AI को जिम्मेदारी से विकसित और तैनात किया जाए, जिससे नुकसान के जोखिम को कम किया जा सके और संभावित लाभों को अधिकतम किया जा सके। AI का भविष्य विकास प्रक्रिया के हर चरण में सुरक्षा और नैतिकता को प्राथमिकता देने की हमारी क्षमता पर निर्भर करता है। तभी हम AI की परिवर्तनकारी क्षमता को अनलॉक कर सकते हैं जबकि समाज को इसके संभावित नुकसान से बचा सकते हैं।

AI सुरक्षा उपायों को मजबूत करना

AI सुरक्षा उपायों को मजबूत करने में AI मॉडल के विकास और तैनाती से जुड़े जोखिमों को कम करने के लिए डिज़ाइन किए गए रणनीतियों और प्रोटोकॉल का एक व्यापक सेट शामिल है। इन उपायों का उद्देश्य सुनिश्चित करना है कि AI सिस्टम सुरक्षित, विश्वसनीय, नैतिक और मानव मूल्यों के साथ संरेखित हों। यहां कुछ प्रमुख क्षेत्र दिए गए हैं जहां AI सुरक्षा उपायों को मजबूत करने की आवश्यकता है:

• डेटा सुरक्षा और गोपनीयता: AI मॉडल अक्सर व्यक्तिगत डेटा सहित बड़ी मात्रा में डेटा पर प्रशिक्षित होते हैं। यह सुनिश्चित करना आवश्यक है कि इस डेटा को सुरक्षित रूप से संग्रहीत किया जाए और गोपनीयता बनाए रखी जाए। एन्क्रिप्शन, गुमनामी और अंतर गोपनीयता जैसी तकनीकों का उपयोग डेटा उल्लंघनों और अनधिकृत पहुंच को रोकने के लिए किया जा सकता है।

• मॉडल भेद्यता आकलन: AI मॉडल को कमजोरियों के लिए नियमित रूप से मूल्यांकन किया जाना चाहिए जो उनका दुरुपयोग करने के लिए दुर्भावनापूर्ण अभिनेताओं द्वारा शोषण किया जा सकता है। इसमें प्रतिकूल हमले, जिसमें हानिकारक इनपुट तैयार करके मॉडल को धोखा देना शामिल है, और डेटा पॉइज़निंग हमले, जिसमें मॉडल के प्रशिक्षण डेटा को भ्रष्ट करना शामिल है।

• स्पष्टता और व्याख्यात्मकता: AI मॉडल के निर्णय लेने की प्रक्रिया को समझना आवश्यक है। यह पारदर्शिता और व्याख्यात्मकता उपयोगकर्ताओं को AI सिस्टम पर विश्वास करने और यह निर्धारित करने में मदद कर सकती है कि वे पूर्वाग्रह या त्रुटि-प्रवण हैं या नहीं। व्याख्यात्मक AI (XAI) तकनीकें मॉडल के निर्णय लेने के तर्क में अंतर्दृष्टि प्रदान कर सकती हैं।

• पूर्वाग्रह का शमन: AI मॉडल प्रशिक्षण डेटा में मौजूद पूर्वाग्रहों को बढ़ा सकते हैं, जिससे अनुचित या भेदभावपूर्ण परिणाम हो सकते हैं। पूर्वाग्रह शमन तकनीक का उपयोग मॉडल के प्रशिक्षण डेटा से पूर्वाग्रह को हटाने या मॉडल के निर्णय लेने की प्रक्रिया को समायोजित करने के लिए किया जा सकता है।

• नैतिक विचार: AI मॉडल को मानव मूल्यों और नैतिक सिद्धांतों के साथ संरेखित किया जाना चाहिए। AI मॉडल के नैतिक निहितार्थों पर विचार करना और यह सुनिश्चित करना आवश्यक है कि उनका उपयोग जिम्मेदारी से और नैतिक रूप से किया जाए।

• शासन और जवाबदेही: AI सिस्टम के विकास और तैनाती के लिए शासन और जवाबदेही के ढांचे स्थापित किए जाने चाहिए। इसमें भूमिकाओं और जिम्मेदारियों को परिभाषित करना, नैतिकता और अनुपालन के लिए दिशानिर्देश स्थापित करना और AI सिस्टम की निगरानी और ऑडिट करना शामिल है।

• अंतर्राष्ट्रीय सहयोग: AI सुरक्षा के लिए अंतर्राष्ट्रीय सहयोग आवश्यक है। AI के विकास और तैनाती के लिए साझा मानकों और दिशानिर्देशों को स्थापित करने के लिए सरकारों, उद्योग और शिक्षाविदों को एक साथ काम करना चाहिए।

बहुआयामी AI के लिए विशिष्ट विचार

बहुआयामी AI मॉडल, जो छवि और पाठ दोनों इनपुट को संसाधित कर सकते हैं, AI सुरक्षा के लिए अतिरिक्त चुनौतियां पेश करते हैं। इन चुनौतियों में शामिल हैं:

• प्रतिकूल हमलों का बढ़ता जोखिम: बहुआयामी मॉडल प्रतिकूल हमलों के लिए अधिक संवेदनशील होते हैं जो छवि और पाठ दोनों इनपुट का शोषण करते हैं। उदाहरण के लिए, एक प्रतिकूल हमलावर मॉडल को धोखा देने के लिए एक छवि के भीतर हानिकारक पाठ एम्बेड कर सकता है।

• सामग्री मॉडरेशन की जटिलता: बहुआयामी मॉडल द्वारा उत्पन्न सामग्री को मॉडरेट करना पाठ-आधारित मॉडल की तुलना में अधिक कठिन है। ऐसा इसलिए है क्योंकि मॉडल दृश्य और पाठ्य जानकारी दोनों उत्पन्न कर सकते हैं जो हानिकारक या आपत्तिजनक हो सकती हैं।

• संदर्भ-जागरूकता की आवश्यकता: बहुआयामी मॉडल के लिए प्रभावी सुरक्षा प्रणालियों को संदर्भ-जागरूक होना चाहिए। इसका मतलब है कि उन्हें उस संदर्भ को समझने में सक्षम होना चाहिए जिसमें मॉडल का उपयोग किया जा रहा है और तदनुसार अपनी प्रतिक्रियाओं को अनुकूलित करना चाहिए।

निष्कर्ष

AI सुरक्षा उपायों को मजबूत करना AI के सुरक्षित और जिम्मेदार उपयोग के लिए आवश्यक है। विशेष रूप से बहुआयामी AI मॉडल के लिए, जो सुरक्षा के लिए अतिरिक्त चुनौतियां पेश करते हैं, जोखिमों को कम करने और यह सुनिश्चित करने के लिए अतिरिक्त प्रयासों की आवश्यकता है कि इन मॉडलों का उपयोग समाज के लाभ के लिए किया जाए। AI डेवलपर्स, सुरक्षा शोधकर्ताओं, नीति निर्माताओं और अन्य हितधारकों को यह सुनिश्चित करने के लिए मिलकर काम करना चाहिए कि AI विकसित और तैनात किया जाए जिससे समाज की रक्षा की जा सके।