सैंड एआई, एक चीनी वीडियो स्टार्टअप, ने हाल ही में वीडियो निर्माण के लिए एक ओपन-सोर्स एआई मॉडल लॉन्च किया है, जिसने माइक्रोसॉफ्ट रिसर्च एशिया के संस्थापक निदेशक काई-फू ली जैसे प्रमुख हस्तियों से प्रशंसा हासिल की है। हालांकि, टेकक्रंच के परीक्षण से पता चलता है कि सैंड एआई अपने मॉडल के सार्वजनिक रूप से होस्ट किए गए संस्करण को सेंसर करता है, जिससे ऐसी छवियों का निर्माण रोका जा सकता है जो चीनी नियामकों के गुस्से को भड़का सकती हैं।
मैगी-1: एक आशाजनक लेकिन प्रतिबंधित मॉडल
इस सप्ताह की शुरुआत में, सैंड एआई ने मैगी-1 का अनावरण किया, जो फ्रेम के अनुक्रमों की “ऑटोरग्रेसिवली” भविष्यवाणी करके वीडियो उत्पन्न करने में सक्षम एक मॉडल है। कंपनी का दावा है कि यह मॉडल उच्च-गुणवत्ता, नियंत्रणीय फुटेज का उत्पादन कर सकता है जो अपने ओपन-सोर्स प्रतियोगियों की तुलना में भौतिकी को अधिक सटीक रूप से कैप्चर करता है।
अपनी क्षमता के बावजूद, मैगी-1 वर्तमान में अधिकांश उपभोक्ता हार्डवेयर के लिए अव्यावहारिक है। 24 बिलियन मापदंडों का दावा करते हुए, इसे प्रभावी ढंग से कार्य करने के लिए चार और आठ एनवीडिया एच100 जीपीयू के बीच की आवश्यकता होती है। पैरामीटर आंतरिक चर हैं जिनका उपयोग एआई मॉडल भविष्यवाणियां करने के लिए करते हैं। टेकक्रंच पत्रकार सहित कई उपयोगकर्ताओं के लिए, जिन्होंने इसका परीक्षण किया, सैंड एआई प्लेटफॉर्म मैगी-1 का मूल्यांकन करने के लिए एकमात्र सुलभ एवेन्यू है।
कार्रवाई में सेंसरशिप: कौन सी छवियां अवरुद्ध हैं?
प्लेटफ़ॉर्म को वीडियो निर्माण शुरू करने के लिए एक टेक्स्ट प्रॉम्प्ट या एक प्रारंभिक छवि की आवश्यकता होती है। हालांकि, सभी प्रॉम्प्ट स्वीकार्य नहीं हैं, जैसा कि टेकक्रंच ने जल्दी ही खोज लिया। सैंड एआई सक्रिय रूप से छवियों को अपलोड करने से रोकता है जिसमें शामिल हैं:
- शी जिनपिंग
- तियानमेन स्क्वायर और टैंक मैन
- ताइवानी ध्वज
- हांगकांग की मुक्ति का समर्थन करने वाले संकेत
फ़िल्टरिंग छवि स्तर पर होती हुई प्रतीत होती है, क्योंकि छवि फ़ाइलों का नाम बदलने से ब्लॉक बाईपास नहीं हुआ।
सेंसरशिप लागू करने में सैंड एआई अकेला नहीं है
सैंड एआई अपने दृष्टिकोण में अद्वितीय नहीं है। शंघाई स्थित मिनीमैक्स द्वारा संचालित एक जेनरेटिव मीडिया प्लेटफॉर्म हैलुओ एआई, राजनीतिक रूप से संवेदनशील छवियों को अपलोड करने से भी रोकता है, विशेष रूप से शी जिनपिंग को दर्शाने वाली छवियों को। हालांकि, सैंड एआई की फ़िल्टरिंग विशेष रूप से कड़े प्रतीत होती है, क्योंकि हैलुओ एआई तियानमेन स्क्वायर की छवियों की अनुमति देता है।
चीन में एआई सेंसरशिप का कानूनी परिदृश्य
जैसा कि वायर्ड ने जनवरी के एक लेख में समझाया, चीन में काम करने वाले एआई मॉडल सख्त सूचना नियंत्रण के अधीन हैं। 2023 का एक कानून इन मॉडलों को ऐसी सामग्री उत्पन्न करने से रोकता है जो “राष्ट्रीय एकता और सामाजिक सद्भाव को खतरे में डालती है।” इसे ऐसी सामग्री के रूप में व्याख्या किया जा सकता है जो सरकार के ऐतिहासिक और राजनीतिक आख्यानों का खंडन करती है। इन नियमों का पालन करने के लिए, चीनी स्टार्टअप अक्सर प्रॉम्प्ट-स्तर के फिल्टर या फाइन-ट्यूनिंग के माध्यम से अपने मॉडल को सेंसर करते हैं।
सेंसरशिप में एक विपरीत: राजनीति बनाम पोर्नोग्राफी
दिलचस्प बात यह है कि जहां चीनी एआई मॉडल राजनीतिक अभिव्यक्ति को अवरुद्ध करते हैं, वहीं अमेरिकी समकक्षों की तुलना में अक्सर पोर्नोग्राफिक सामग्री के खिलाफ कम फिल्टर होते हैं। 404 ने हाल ही में बताया कि चीनी कंपनियों द्वारा जारी किए गए कई वीडियो जेनरेटर में गैर-सहमति वाली स्पष्ट छवियों के निर्माण को रोकने के लिए बुनियादी सुरक्षा उपायों का अभाव है।
एआई सेंसरशिप के निहितार्थ
सैंड एआई और अन्य चीनी एआई कंपनियों द्वारा नियोजित सेंसरशिप प्रथाएं चीन में एआई विकास और पहुंच के भविष्य के बारे में महत्वपूर्ण सवाल उठाती हैं। ये प्रथाएं न केवल उत्पन्न की जा सकने वाली सामग्री की श्रेणी को प्रतिबंधित करती हैं, बल्कि उन व्यापक राजनीतिक और सामाजिक बाधाओं को भी दर्शाती हैं जिनके तहत ये कंपनियां काम करती हैं।
अवरुद्ध छवियों का विस्तृत विश्लेषण
सैंड एआई द्वारा अवरुद्ध विशिष्ट छवियां चीनी सरकार की संवेदनशीलता की एक खिड़की प्रदान करती हैं। उदाहरण के लिए, शी जिनपिंग की छवियों की सेंसरशिप, सरकार के अपने नेता की सावधानीपूर्वक क्यूरेटेड छवि को बनाए रखने पर जोर देती है। इसी तरह, तियानमेन स्क्वायर और टैंक मैन की छवियों को अवरुद्ध करना 1989 के विरोधों की चर्चा और स्मरण को दबाने के सरकार के प्रयासों को उजागर करता है। ताइवान के ध्वज और हांगकांग की मुक्ति का समर्थन करने वाले संकेतों की सेंसरशिप इन राजनीतिक रूप से संवेदनशील मुद्दों पर सरकार के रुख को दर्शाती है।
सेंसरशिप के तकनीकी पहलू
तथ्य यह है कि सैंड एआई की सेंसरशिप छवि स्तर पर काम करती है, एक परिष्कृत फ़िल्टरिंग प्रणाली का सुझाव देती है जो विशिष्ट दृश्य सामग्री की पहचान और ब्लॉक कर सकती है। यह प्रणाली संभवतः अपलोड की गई छवियों का विश्लेषण करने और प्रतिबंधित सामग्री के डेटाबेस के खिलाफ उनकी तुलना करने के लिए छवि पहचान तकनीक का उपयोग करती है। तथ्य यह है कि छवि फ़ाइलों का नाम बदलने से ब्लॉक बाईपास नहीं होता है, यह इंगित करता है कि सिस्टम केवल फ़ाइल नामों पर निर्भर नहीं है, बल्कि वास्तव में छवि डेटा का विश्लेषण कर रहा है।
एआई सेंसरशिप का वैश्विक संदर्भ
जबकि एआई सेंसरशिप के लिए चीन का दृष्टिकोण विशेष रूप से कड़ा है, यह एकमात्र देश नहीं है जो एआई-जनित सामग्री को विनियमित करने के तरीके के मुद्दे से जूझ रहा है। संयुक्त राज्य अमेरिका और यूरोप में, नीति निर्माता गलत सूचना, डीपफेक और कॉपीराइट उल्लंघन जैसे मुद्दों को संबोधित करने के लिए नियमों पर विचार कर रहे हैं। हालांकि, विशिष्ट दृष्टिकोण और प्राथमिकताएं चीन की तुलना में काफी भिन्न हैं।
ओपन-सोर्स एआई की भूमिका
तथ्य यह है कि सैंड एआई ने अपने मैगी-1 मॉडल को ओपन-सोर्स के रूप में जारी किया, नवाचार और सेंसरशिप के बीच संतुलन के बारे में दिलचस्प सवाल उठाता है। एक ओर, ओपन-सोर्स एआई शोधकर्ताओं और डेवलपर्स को कोड को स्वतंत्र रूप से एक्सेस और संशोधित करने की अनुमति देकर नवाचार और सहयोग को बढ़ावा दे सकता है। दूसरी ओर, यह तकनीक के उपयोग को नियंत्रित करना और इसे दुर्भावनापूर्ण उद्देश्यों के लिए उपयोग करने से रोकना भी अधिक कठिन बना सकता है।
चीन में एआई का भविष्य
चीन में एआई का भविष्य संभवतः तकनीकी नवाचार को बढ़ावा देने की सरकार की इच्छा और सामाजिक और राजनीतिक नियंत्रण बनाए रखने की उसकी प्रतिबद्धता के बीच चल रहे तनाव से आकार लेगा। चीनी एआई कंपनियों को एक जटिल नियामक परिदृश्य को नेविगेट करने और अपनी तकनीक को विकसित और तैनात करने के तरीके खोजने की आवश्यकता होगी जो नवीन और सरकारी नियमों के अनुपालन दोनों हों।
व्यापक निहितार्थ
सैंड एआई का मामला अभिव्यक्ति की स्वतंत्रता और सूचना तक पहुंच के लिए एआई सेंसरशिप के व्यापक निहितार्थों को उजागर करता है। जैसे-जैसे एआई तकनीक अधिक शक्तिशाली और व्यापक होती जाती है, इसके उपयोग के नैतिक और सामाजिक निहितार्थों पर विचार करना और यह सुनिश्चित करना तेजी से महत्वपूर्ण होता जाता है कि इसका उपयोग असंतोष को दबाने या सूचना तक पहुंच को सीमित करने के लिए नहीं किया जाता है।
अन्य प्लेटफार्मों के साथ तुलनात्मक विश्लेषण
हैलो एआई के साथ सैंड एआई की सेंसरशिप प्रथाओं की तुलना से पता चलता है कि चीनी एआई कंपनियों के बीच सेंसरशिप की कठोरता में कुछ भिन्नता है। तथ्य यह है कि हैलो एआई तियानमेन स्क्वायर की छवियों की अनुमति देता है, यह सुझाव देता है कि इसकी सेंसरशिप नीतियां सैंड एआई की तुलना में कम व्यापक हैं। यह भिन्नता कंपनियों की जोखिम सहनशीलता, सरकारी नियमों की उनकी व्याख्या या उनकी तकनीकी क्षमताओं में अंतर को दर्शा सकती है।
सेंसरशिप का आर्थिक प्रभाव
चीन में एआई-जनित सामग्री की सेंसरशिप के आर्थिक निहितार्थ भी हो सकते हैं। एक ओर, यह घरेलू कंपनियों को उन विदेशी फर्मों से प्रतिस्पर्धा से बचा सकता है जो समान सेंसरशिप आवश्यकताओं के अधीन नहीं हैं। दूसरी ओर, यह नवाचार को भी बाधित कर सकता है और वैश्विक बाजार में प्रतिस्पर्धा करने के लिए चीनी एआई कंपनियों की क्षमता को सीमित कर सकता है।
नवाचार और नियंत्रण को संतुलित करने की चुनौती
चीनी सरकार को एआई नवाचार को बढ़ावा देने की अपनी इच्छा को सामाजिक और राजनीतिक नियंत्रण बनाए रखने की अपनी प्रतिबद्धता के साथ संतुलित करने की चुनौती का सामना करना पड़ता है। बहुत अधिक सेंसरशिप नवाचार को बाधित कर सकती है और चीनी एआई कंपनियों की क्षमता को सीमित कर सकती है। बहुत कम सेंसरशिप गलत सूचना के प्रसार और सामाजिक और राजनीतिक स्थिरता के क्षरण का कारण बन सकती है।
वैश्विक एआई परिदृश्य
एआई परिदृश्य तेजी से विकसित हो रहा है, नई तकनीकों और अनुप्रयोगों के साथ हर समय उभर रहा है। चीन एआई क्षेत्र में एक प्रमुख खिलाड़ी है, लेकिन इसे सेंसरशिप, डेटा गोपनीयता और प्रतिभा तक पहुंच से संबंधित चुनौतियों का सामना करना पड़ता है। एआई का भविष्य इस बात पर निर्भर करेगा कि इन चुनौतियों का समाधान कैसे किया जाता है और देश किस हद तक निष्पक्ष और खुले तरीके से सहयोग और प्रतिस्पर्धा कर सकते हैं।
नैतिक विचार
एआई के उपयोग से कई नैतिक विचार उठते हैं, जिनमें पूर्वाग्रह, निष्पक्षता, पारदर्शिता और जवाबदेही से संबंधित मुद्दे शामिल हैं। एआई के विकास और तैनाती के लिए नैतिक दिशानिर्देशों और मानकों को विकसित करना महत्वपूर्ण है ताकि यह सुनिश्चित किया जा सके कि इसका उपयोग एक जिम्मेदार और लाभकारी तरीके से किया जाता है।
पारदर्शिता का महत्व
एआई सिस्टम में विश्वास बनाने के लिए पारदर्शिता आवश्यक है। यह समझना महत्वपूर्ण है कि एआई मॉडल कैसे काम करते हैं और वे निर्णय कैसे लेते हैं। इसके लिए डेटा, एल्गोरिदम और निर्णय लेने की प्रक्रियाओं तक पहुंच प्रदान करने की आवश्यकता है। पारदर्शिता पूर्वाग्रहों की पहचान और उन्हें कम करने, निष्पक्षता सुनिश्चित करने और जवाबदेही को बढ़ावा देने में मदद कर सकती है।
शिक्षा की भूमिका
शिक्षा व्यक्तियों और समाजों को एआई युग के लिए तैयार करने में महत्वपूर्ण भूमिका निभाती है। लोगों को एआई तकनीक, इसके संभावित लाभों और जोखिमों और इसके नैतिक और सामाजिक निहितार्थों के बारे में शिक्षित करना महत्वपूर्ण है। शिक्षा एआई साक्षरता, महत्वपूर्ण सोच और जिम्मेदार नवाचार को बढ़ावा देने में मदद कर सकती है।
काम का भविष्य
एआई का भविष्य में काम पर महत्वपूर्ण प्रभाव पड़ने की संभावना है। कुछ नौकरियां स्वचालित हो सकती हैं, जबकि अन्य बनाई या रूपांतरित हो सकती हैं। एआई-संचालित अर्थव्यवस्था में सफल होने के लिए आवश्यक कौशल और प्रशिक्षण प्रदान करके श्रमिकों को इन परिवर्तनों के लिए तैयार करना महत्वपूर्ण है।
सहयोग का महत्व
एआई द्वारा प्रस्तुत चुनौतियों और अवसरों को संबोधित करने के लिए सहयोग आवश्यक है। इसमें शोधकर्ताओं, डेवलपर्स, नीति निर्माताओं और जनता के बीच सहयोग शामिल है। सहयोग यह सुनिश्चित करने में मदद कर सकता है कि एआई को एक ऐसे तरीके से विकसित और तैनात किया जाए जो सभी के लिए फायदेमंद हो।
एआई और राष्ट्रीय सुरक्षा
एआई राष्ट्रीय सुरक्षा में भी तेजी से महत्वपूर्ण भूमिका निभा रहा है। इसका उपयोग निगरानी, खुफिया जानकारी एकत्र करने और स्वायत्त हथियार प्रणालियों जैसे अनुप्रयोगों के लिए किया जा रहा है। राष्ट्रीय सुरक्षा में एआई का उपयोग जटिल नैतिक और रणनीतिक प्रश्न उठाता है जिन पर सावधानीपूर्वक विचार करने की आवश्यकता है।
विनियमन की आवश्यकता
एआई का विनियमन एक जटिल और विकसित मुद्दा है। कुछ लोगों का तर्क है कि संभावित नुकसान को रोकने के लिए एआई को भारी रूप से विनियमित किया जाना चाहिए, जबकि अन्य का तर्क है कि अत्यधिक विनियमन नवाचार को बाधित कर सकता है। नवाचार को बढ़ावा देने और जोखिमों से बचाने के बीच संतुलन बनाना महत्वपूर्ण है।
एआई और हेल्थकेयर
एआई में कई तरीकों से स्वास्थ्य सेवा को बदलने की क्षमता है। इसका उपयोग बीमारियों के निदान, उपचार और रोकथाम में सुधार के लिए किया जा सकता है। एआई का उपयोग स्वास्थ्य सेवा को व्यक्तिगत बनाने और इसे अधिक सुलभ और सस्ती बनाने के लिए भी किया जा सकता है।
एआई और शिक्षा
शिक्षा को बेहतर बनाने के लिए एआई का भी उपयोग किया जा सकता है। इसका उपयोग सीखने को निजीकृत करने, प्रतिक्रिया प्रदान करने और प्रशासनिक कार्यों को स्वचालित करने के लिए किया जा सकता है। एआई का उपयोग नए शैक्षिक उपकरण और संसाधन बनाने के लिए भी किया जा सकता है।
एआई और पर्यावरण
एआई का उपयोग जलवायु परिवर्तन, प्रदूषण और संसाधनों की कमी जैसी पर्यावरणीय चुनौतियों का सामना करने के लिए किया जा सकता है। इसका उपयोग ऊर्जा की खपत को अनुकूलित करने, कृषि पद्धतियों में सुधार करने और पर्यावरणीय परिस्थितियों की निगरानी करने के लिए किया जा सकता है।
एआई की शक्ति
एआई एक शक्तिशाली तकनीक है जिसमें हमारे जीवन के कई पहलुओं को बदलने की क्षमता है। यह सुनिश्चित करने के लिए कि यह सभी मानवता के लिए फायदेमंद है, एआई को एक जिम्मेदार और नैतिक तरीके से विकसित और तैनात करना महत्वपूर्ण है। चीन में सेंसरशिप प्रथाएं नियंत्रण और दमन के उद्देश्यों के लिए एआई के उपयोग की क्षमता की एक स्पष्ट याद दिलाती हैं। जैसे-जैसे एआई विकसित होता जा रहा है, इसके नैतिक निहितार्थों के बारे में चल रहे संवाद और बहस में शामिल होना और यह सुनिश्चित करना महत्वपूर्ण है कि इसका उपयोग स्वतंत्रता, न्याय और मानव कल्याण को बढ़ावा देने के लिए किया जाता है। कुछ एआई मॉडल की ओपन-सोर्स प्रकृति इस संबंध में अवसर और चुनौतियां दोनों प्रदान करती है। जबकि ओपन-सोर्स एआई नवाचार और सहयोग को बढ़ावा दे सकता है, यह तकनीक के उपयोग को नियंत्रित करना और इसे दुर्भावनापूर्ण उद्देश्यों के लिए उपयोग करने से रोकना भी अधिक कठिन बना देता है। चुनौती एआई की शक्ति का दोहन करते हुए इसके जोखिमों को कम करने और यह सुनिश्चित करने के तरीके खोजना है कि इसका उपयोग सभी के लाभ के लिए किया जाए। इसके लिए एक बहुआयामी दृष्टिकोण की आवश्यकता होती है जिसमें नैतिक दिशानिर्देश, नियम, शिक्षा और चल रहे संवाद और बहस शामिल हैं।
अंतर्राष्ट्रीय सहयोग की भूमिका
एआई का विकास और तैनाती वैश्विक प्रयास हैं जिनके लिए अंतर्राष्ट्रीय सहयोग की आवश्यकता होती है। देशों को सामान्य मानकों को विकसित करने, सर्वोत्तम प्रथाओं को साझा करने और एआई के नैतिक और सामाजिक निहितार्थों को संबोधित करने के लिए मिलकर काम करने की आवश्यकता है। अंतर्राष्ट्रीय सहयोग यह सुनिश्चित करने में मदद कर सकता है कि एआई का उपयोग सभी के लिए शांति, सुरक्षा और समृद्धि को बढ़ावा देने के लिए किया जाता है।
निष्कर्ष
सैंड एआई और इसकी सेंसरशिप प्रथाओं की कहानी एआई द्वारा प्रस्तुत बड़ी चुनौतियों और अवसरों का एक सूक्ष्म जगत है। जैसे-जैसे एआई विकसित होता जा रहा है और अधिक व्यापक होता जा रहा है, इसके उपयोग के नैतिक, सामाजिक और राजनीतिक निहितार्थों को संबोधित करना आवश्यक है। एआई का भविष्य हमारी भलाई के लिए इसकी शक्ति का दोहन करने की हमारी क्षमता पर निर्भर करेगा जबकि इसके जोखिमों को कम किया जाएगा और यह सुनिश्चित किया जाएगा कि इसका उपयोग स्वतंत्रता, न्याय और मानव कल्याण को बढ़ावा देने के लिए किया जाए। एआई के बारे में चल रहा संवाद और बहस इसके भविष्य को आकार देने और यह सुनिश्चित करने के लिए आवश्यक है कि इसका उपयोग सभी के लिए एक बेहतर दुनिया बनाने के लिए किया जाए।