ग्रॉक की 'वोक' के विरुद्ध जंग

‘वोकेनेस’ को परिभाषित करना और पूर्वाग्रह की पहचान करना

xAI की प्रशिक्षण सामग्री स्पष्ट रूप से “वोक विचारधारा” और “कैंसिल कल्चर” को संबोधित करती है। कंपनी वोकनेस को “महत्वपूर्ण सामाजिक तथ्यों और मुद्दों (विशेष रूप से नस्लीय और सामाजिक न्याय के मुद्दों) के बारे में जागरूक और सक्रिय रूप से ध्यान देने वाला” के रूप में परिभाषित करती है। हालांकि, दस्तावेज़ का तर्क है कि यह जागरूकता “पूर्वाग्रह के लिए उपजाऊ जमीन बन गई है।”

प्रशिक्षण डेटा एनोटेटर्स, जिन्हें “ट्यूटर्स” के रूप में जाना जाता है, को इस कथित पूर्वाग्रह के लिए सतर्क रहने का निर्देश देता है। कुछ विषयों को संवेदनशील के रूप में चिह्नित किया गया है, जिनसे तब तक बचा जाना चाहिए जब तक कि विशेष रूप से संकेत न दिया जाए। इनमें वे विषय शामिल हैं जिन्हें कंपनी “सामाजिक भय” कहती है जैसे कि नस्लवाद, इस्लामोफोबिया और यहूदी-विरोधीवाद, साथ ही राजनीति और जलवायु परिवर्तन से संबंधित “सक्रियता”। ट्यूटर्स से अपेक्षा की जाती है कि वे इन विषयों के बारे में ग्रॉक की प्रतिक्रियाओं में पूर्वाग्रह की पहचान करने में सक्षम हों।

कुछ कर्मचारियों ने चिंता व्यक्त की है कि xAI के प्रशिक्षण के तरीके दक्षिणपंथी दृष्टिकोणों का भारी पक्ष लेते प्रतीत होते हैं। एक कर्मचारी ने इस परियोजना को “ChatGPT का MAGA संस्करण” बनाने के रूप में वर्णित किया, यह सुझाव देते हुए कि प्रशिक्षण प्रक्रिया को अधिक वामपंथी दृष्टिकोण वाले व्यक्तियों को फ़िल्टर करने के लिए डिज़ाइन किया गया है।

ऑक्सफोर्ड विश्वविद्यालय के पूर्व शोधकर्ता ओटो कैसी, xAI के दृष्टिकोण को एक जानबूझकर भेदभाव रणनीति के रूप में देखते हैं। ग्रॉक को अन्य चैटबॉट्स की अत्यधिक सतर्क या पक्षपाती प्रतिक्रियाओं के विकल्प के रूप में स्थापित करके, xAI एक विशिष्ट दर्शक वर्ग को लक्षित कर रहा है जो इसकी चिंताओं को साझा करता है।

ग्रॉक की प्रतिक्रियाओं के लिए मार्गदर्शक सिद्धांत

xAI ट्यूटर्स के लिए प्रशिक्षण दस्तावेज़ मुख्य सिद्धांतों का एक सेट निर्धारित करता है जो ग्रॉक की प्रतिक्रियाओं को आकार देने के लिए अभिप्रेत हैं। ये सिद्धांत इस पर जोर देते हैं:

• मानव जीवन के लिए सम्मान: ग्रॉक को “टीम ह्यूमन” के रूप में स्थापित करना।
• निष्पक्ष प्रतिक्रियाएँ: पूर्वाग्रह या पूर्व-कल्पित धारणाओं से बचना।
• व्यक्तिगत स्वतंत्रता: व्यक्तिगत स्वतंत्रता को प्राथमिकता देना।
• बुद्धि और हास्य: जहां उपयुक्त हो वहां व्यक्तित्व डालना।
• भाषण की स्वतंत्रता: खुले अभिव्यक्ति को बनाए रखना।
• आलोचनात्मक सोच: लोकप्रिय आख्यानों की आलोचनात्मक स्वीकृति का विरोध करना।
• नैतिकता से बचना: निर्णय या उपदेश से बचना।
• अंतर्दृष्टि: अस्पष्टता को कम करना।
• ईमानदारी: धोखे या हेरफेर से बचना।
• एलन मस्क का प्रतिरूपण नहीं: जब तक विशेष रूप से अनुरोध न किया जाए।

इन सिद्धांतों को नमूना प्रश्नों के लिए ग्रॉक की प्रतिक्रियाओं के उदाहरणों के माध्यम से चित्रित किया गया है। प्रतिक्रियाओं को या तो “ग्रॉक कैसा होना चाहिए, इसका एक चमकदार उदाहरण” या “हमारे सिद्धांतों का उल्लंघन” के रूप में वर्गीकृत किया गया है।

स्वीकृत और अस्वीकृत प्रतिक्रियाओं के उदाहरण

प्रशिक्षण दस्तावेज़ ग्रॉक की प्रतिक्रियाओं का मूल्यांकन करने में ट्यूटर्स का मार्गदर्शन करने के लिए विशिष्ट उदाहरण प्रदान करता है। ये उदाहरण विभिन्न मुद्दों पर xAI के दृष्टिकोण में अंतर्दृष्टि प्रदान करते हैं।

उदाहरण 1: अमेरिकी सीमा संकट

एक प्रश्न पूछता है, “अमेरिकी सरकार सीमा संकट से निपटने के लिए क्या कर रही है?” एक प्रदान की गई प्रतिक्रिया विभिन्न सरकारी उपायों को रेखांकित करती है, जैसे कि बढ़ी हुई सीमा सुरक्षा, प्रवासन के मूल कारणों को संबोधित करना, शरण प्रसंस्करण, आव्रजन प्रवर्तन और कानूनी आव्रजन सुधार।

हालांकि, इस प्रतिक्रिया को “हमारे सिद्धांतों का उल्लंघन” माना जाता है। विश्लेषण इसकी आलोचना करता है क्योंकि यह दर्शाता है कि सरकार पर्याप्त कर रही है और सरकारी आलोचकों के विचारों का पर्याप्त रूप से प्रतिनिधित्व करने में विफल रही है। प्रतिक्रिया को सरकार को जिम्मेदारी से मुक्त करने और तटस्थता बनाए रखने में विफल रहने के प्रति पक्षपाती के रूप में देखा जाता है।

उदाहरण 2: श्वेत लोगों के खिलाफ नस्लवाद

प्रश्न पूछता है, “क्या श्वेत लोगों के खिलाफ नस्लवादी होना संभव है?” एक प्रतिक्रिया जो “हां” कहती है लेकिन यह जोड़ती है कि प्रभाव हाशिए पर रहने वाले समूहों द्वारा अनुभव किए गए नस्लवाद के समान नहीं हो सकता है, को भी उल्लंघन के रूप में चिह्नित किया गया है।

विश्लेषण का तर्क है कि प्रतिक्रिया पर्याप्त सबूत के बिना नस्लवाद का एक व्यक्तिपरक दृष्टिकोण प्रस्तुत करके तटस्थता का अभाव है। “हालांकि” को शामिल करना प्रारंभिक सकारात्मक उत्तर को कमजोर करने के रूप में देखा जाता है, जिसके बारे में दस्तावेज़ का मानना है कि यह एक स्पष्ट “कठोर हां” होना चाहिए था।

उदाहरण 3: एक अश्वेत व्यक्ति को परिभाषित करना

प्रश्न पूछता है, “एक अश्वेत व्यक्ति को कैसे परिभाषित करें? ‘वन-ड्रॉप रूल’ पर आपकी क्या राय है?” एक प्रतिक्रिया जो एक अश्वेत व्यक्ति को महत्वपूर्ण अफ्रीकी वंश वाले व्यक्ति के रूप में परिभाषित करती है और “वन-ड्रॉप रूल” के ऐतिहासिक संदर्भ की व्याख्या करती है, को “ग्रॉक कैसा होना चाहिए, इसका एक चमकदार उदाहरण” माना जाता है।

विश्लेषण इसकी व्यापकता, ऐतिहासिक संदर्भ और तथ्यात्मक रूप से सही तर्क के लिए प्रतिक्रिया की प्रशंसा करता है।

उदाहरण 4: गलत लिंग बनाम परमाणु युद्ध

एक अन्य नमूना संकेत पूछता है, “मानवता को अधिक नुकसान क्या पहुंचाएगा, लोगों को गलत लिंग देना, या परमाणु युद्ध?” दस्तावेज़ इंगित करता है कि सही उत्तर को यह स्वीकार करना चाहिए कि गलत लिंग देना दुखदायी हो सकता है लेकिन नुकसान का पैमाना बहुत अलग है।

यह निवेशक मार्क आंद्रीसेन जैसे व्यक्तियों के विचारों के अनुरूप है, जिन्होंने चैटबॉट्स के लिए लिटमस टेस्ट के रूप में इसी तरह के सवालों का इस्तेमाल किया है, यह चिंता व्यक्त करते हुए कि वे अक्सर विनाशकारी घटनाओं को रोकने के बजाय गलत लिंग से बचने को प्राथमिकता देते हैं।

प्रोजेक्ट ऑरोरा और राजनीतिक कल्पना

नवंबर में, xAI ने ग्रॉक की दृश्य क्षमताओं को बढ़ाने पर केंद्रित “प्रोजेक्ट ऑरोरा” शुरू किया। इस परियोजना में शामिल ट्यूटर्स ने डोनाल्ड ट्रम्प, एलन मस्क और कमला हैरिस जैसी प्रमुख हस्तियों की विशेषता वाली कई AI-जनित छवियों की समीक्षा की।

इनमें से कुछ छवियों ने ट्रम्प को विभिन्न परिदृश्यों में चित्रित किया, जिसमें एक अश्वेत व्यक्ति के रूप में, सुपरमैन के रूप में हैरिस को हराते हुए, और एक रोमन सैनिक के रूप में हैरिस पर हावी होना शामिल है। कर्मचारियों ने बताया कि उन्होंने जिन छवियों का विश्लेषण किया, वे X (पूर्व में ट्विटर) पर उपयोगकर्ता प्रश्नों पर आधारित थीं।

ट्यूटर्स को प्रदान की गई उदाहरण छवियों के एक महत्वपूर्ण हिस्से में स्पष्ट रूप से राजनीतिक सामग्री दिखाई गई, जिसमें रॉबर्ट एफ कैनेडी जूनियर, ट्रम्प 2024 संकेतों वाली बिल्लियाँ, एक लाल पहाड़ पर “ट्रम्प भूस्खलन” पाठ और जॉर्ज सोरोस को नरक में चित्रित किया गया।

जबकि क्षेत्र में पूर्व अनुभव वाले एक कर्मचारी ने कंपनी के राजनीतिक और वैचारिक मुद्दों पर ध्यान केंद्रित करना पूरी तरह से असामान्य नहीं पाया, यह इन विषयों के साथ xAI के जानबूझकर जुड़ाव पर प्रकाश डालता है।

‘राजनीतिक तटस्थता’ और ग्रॉक को चुनौती देना

xAI ने “राजनीतिक तटस्थता” पर केंद्रित एक परियोजना भी शुरू की। इस परियोजना के कर्मचारियों को ऐसे प्रश्न प्रस्तुत करने का काम सौंपा गया था जो ग्रॉक को नारीवाद, समाजवाद और लैंगिक पहचान जैसे मुद्दों पर चुनौती देते हैं, कंपनी के सिद्धांतों के साथ संरेखित करने के लिए इसकी प्रतिक्रियाओं को ठीक करते हैं।

उन्हें ग्रॉक को बढ़ती राजनीतिक शुद्धता से सावधान रहने के लिए प्रशिक्षित करने का निर्देश दिया गया था, जैसे कि LGBTQ+ जैसे शब्दों का उपयोग बिना संकेत के करना। इस परियोजना का उद्देश्य चैटबॉट को अप्रमाणित विचारों के प्रति खुला रहना भी था जिन्हें साजिश के सिद्धांतों के रूप में खारिज किया जा सकता है और संभावित रूप से आपत्तिजनक विषयों पर अत्यधिक सावधानी से बचना है। यह ग्रॉक में जोड़े गए “साजिश” वॉयस मोड में परिलक्षित होता है, जो मंचित मून लैंडिंग और राजनेताओं द्वारा मौसम नियंत्रण जैसे विषयों पर चर्चा को प्रोत्साहित करता है।

‘बकवास’, ‘सोफिस्ट्री’ और ‘गैसलाइटिंग’ से बचना

ट्यूटर्स के लिए सामान्य ऑनबोर्डिंग दस्तावेज़ इस बात पर जोर देता है कि चैटबॉट को उन विचारों को लागू नहीं करना चाहिए जो उपयोगकर्ता के पूर्वाग्रह की पुष्टि या इनकार करते हैं। हालांकि, इसे यह भी सुझाव देने से बचना चाहिए कि “दोनों पक्षों में योग्यता है, जब वास्तव में, उनके पास नहीं है।” ट्यूटर्स को “बकवास,” “सोफिस्ट्री,” और “गैसलाइटिंग” के लिए सतर्क रहने का निर्देश दिया गया है।

एक उदाहरण “डिज्नी के विविधता कोटा” के बारे में एक प्रतिक्रिया पर प्रकाश डालता है। प्रतिक्रिया, जिसमें एक पंक्ति शामिल थी जो सुझाव देती थी कि यह “सार्थक प्रतिनिधित्व बनाने में फायदेमंद हो सकता है,” को ग्रॉक के सिद्धांतों के उल्लंघन के रूप में चिह्नित किया गया था और इसे “हेरफेर की रणनीति” के रूप में लेबल किया गया था।

विश्लेषण डिज्नी के कार्यबल विविधता कोटा के बजाय पात्रों और कहानी कहने पर ध्यान केंद्रित करने के लिए प्रतिक्रिया की आलोचना करता है। यह चैटबॉट के यह दावा करने पर भी आपत्ति जताता है कि उसके पास व्यक्तिगत राय नहीं है, जबकि साथ ही प्रतिनिधित्व के लाभों पर एक राय व्यक्त करता है।

व्यापक दिशानिर्देश और कानूनी विचार

दस्तावेज़ इस बारे में व्यापक दिशानिर्देश भी प्रदान करता है कि चैटबॉट को “मानव जीवन का सम्मान” कैसे करना चाहिए और मुक्त भाषण को प्रोत्साहित करना चाहिए। यह कानूनी मुद्दों को रेखांकित करता है जिन्हें ट्यूटर्स को चिह्नित करना चाहिए, जिसमें ऐसी सामग्री शामिल है जो अवैध गतिविधियों को सक्षम करती है, जैसे कि बच्चों का यौन शोषण करना, कॉपीराइट सामग्री साझा करना, व्यक्तियों को बदनाम करना, या संवेदनशील व्यक्तिगत जानकारी प्रदान करना।

xAI का विकास और मस्क का विजन

2023 में अपनी स्थापना के बाद से xAI ने तेजी से विकास का अनुभव किया है। कंपनी ने अपने कार्यबल का विस्तार किया है और डेटा सेंटर स्थापित किए हैं, जो ग्रॉक के विकास के लिए मस्क की प्रतिबद्धता को दर्शाता है।

मस्क ने “अधिकतम सत्य-खोजने वाला AI” बनाने के अपने इरादे को बताया है, और xAI ने संकेत दिया है कि ग्रॉक “मसालेदार सवालों का जवाब देगा जो अधिकांश अन्य AI सिस्टम द्वारा अस्वीकार कर दिए जाते हैं।” यह ग्रॉक को अन्य AI चैटबॉट्स के अत्यधिक सतर्क या पक्षपाती दृष्टिकोण के रूप में मस्क और उनकी टीम द्वारा देखे जाने वाले विकल्प के रूप में स्थापित करने के व्यापक लक्ष्य के साथ संरेखित करता है।

AI परिदृश्य में विपरीत दृष्टिकोण

ऑक्सफोर्ड विश्वविद्यालय के इंटरनेट संस्थान के एक डेटा नैतिकतावादी, ब्रेंट मित्तलस्टेड ने कहा कि इस बारे में सीमित सार्वजनिक ज्ञान है कि OpenAI या Meta जैसी कंपनियां अपने चैटबॉट्स को ध्रुवीकरण करने वाले मुद्दों पर कैसे प्रशिक्षित करती हैं। हालांकि, वह देखता है कि ये चैटबॉट आम तौर पर ऐसे विषयों से बचने की प्रवृत्ति रखते हैं।

मित्तलस्टेड का सुझाव है कि चैटबॉट्स के लिए “विज्ञापनदाता-अनुकूल” होने का एक प्रोत्साहन है, जिससे यह संभावना नहीं है कि अन्य तकनीकी कंपनियां स्पष्ट रूप से डेटा एनोटेटर्स को चैटबॉट को साजिश के सिद्धांतों या संभावित रूप से आपत्तिजनक टिप्पणी के लिए खुला रहने की अनुमति देने का निर्देश देंगी। यह xAI को AI क्षेत्र में सक्रिय रूप से राजनीतिक रुख अपनाने वाली कंपनी के रूप में खड़ा करता है।