'ওয়েক'-এর বিরুদ্ধে গ্রকের যুদ্ধ

‘ওয়েকনেস’ সংজ্ঞা এবং পক্ষপাতের সনাক্তকরণ

xAI-এর প্রশিক্ষণ উপকরণগুলি স্পষ্টভাবে ‘ওয়েক আদর্শ’ এবং ‘বাতিল সংস্কৃতি’ নিয়ে আলোচনা করে। সংস্থাটি ওয়েকনেসকে “গুরুত্বপূর্ণ সামাজিক ঘটনা এবং সমস্যাগুলি (বিশেষ করে জাতিগত ও সামাজিক ন্যায়বিচারের সমস্যাগুলি) সম্পর্কে সচেতন এবং সক্রিয়ভাবে মনোযোগী হওয়া” হিসাবে সংজ্ঞায়িত করে। তবে, নথিতে যুক্তি দেওয়া হয়েছে যে এই সচেতনতা “পক্ষপাতের প্রজনন ক্ষেত্র হয়ে উঠেছে।”

প্রশিক্ষণটি ডেটা টীকাভাষ্যকারীদের, যারা ‘টিউটর’ নামে পরিচিত, এই অনুভূত পক্ষপাতের জন্য সতর্ক থাকতে নির্দেশ দেয়। কিছু বিষয় সংবেদনশীল হিসাবে চিহ্নিত করা হয়েছে, বিশেষ করে জিজ্ঞাসা না করা হলে এড়িয়ে যাওয়া উচিত। এর মধ্যে রয়েছে কোম্পানী যেগুলোকে ‘সামাজিক ফোবিয়া’ বলে অভিহিত করে, যেমন বর্ণবাদ, ইসলামফোবিয়া এবং ইহুদি-বিদ্বেষ, সেইসাথে রাজনীতি এবং জলবায়ু পরিবর্তন সম্পর্কিত ‘অ্যাক্টিভিজম’। টিউটরদের এই বিষয়গুলি সম্পর্কে গ্রকের প্রতিক্রিয়াগুলিতে পক্ষপাত সনাক্ত করতে সক্ষম হবেন বলে আশা করা হচ্ছে।

কিছু কর্মী উদ্বেগ প্রকাশ করেছেন যে xAI-এর প্রশিক্ষণ পদ্ধতিগুলি ডানপন্থী দৃষ্টিভঙ্গিকে ব্যাপকভাবে সমর্থন করে বলে মনে হচ্ছে। একজন কর্মী এই প্রকল্পটিকে “ChatGPT-র MAGA সংস্করণ” তৈরি করার মতো বলে বর্ণনা করেছেন, পরামর্শ দিয়েছেন যে প্রশিক্ষণ প্রক্রিয়াটি আরও বামপন্থী দৃষ্টিভঙ্গিযুক্ত ব্যক্তিদের ফিল্টার করার জন্য ডিজাইন করা হয়েছে।

অক্সফোর্ড বিশ্ববিদ্যালয়ের প্রাক্তন গবেষক অটো ক্যাসি, xAI-এর দৃষ্টিভঙ্গিকে একটি ইচ্ছাকৃত পার্থক্য কৌশল হিসাবে দেখেন। গ্রককে অন্য চ্যাটবটগুলির অতি-সতর্ক বা পক্ষপাতদুষ্ট প্রতিক্রিয়াগুলির বিকল্প হিসাবে উপস্থাপন করে, xAI একটি নির্দিষ্ট দর্শকদের লক্ষ্য করছে যারা এর উদ্বেগগুলি ভাগ করে নেয়।

গ্রকের প্রতিক্রিয়ার জন্য গাইডিং নীতি

xAI টিউটরদের জন্য প্রশিক্ষণ নথিতে মূল নীতিগুলির একটি সেট রয়েছে যা গ্রকের প্রতিক্রিয়াগুলিকে আকার দেওয়ার উদ্দেশ্যে তৈরি। এই নীতিগুলি জোর দেয়:

• মানব জীবনের প্রতি শ্রদ্ধা: গ্রককে ‘টিম হিউম্যান’ হিসাবে উপস্থাপন করা।
• নিরপেক্ষ প্রতিক্রিয়া: কুসংস্কার বা পূর্বকল্পিত ধারণা এড়ানো।
• ব্যক্তিগত স্বাধীনতা: ব্যক্তি স্বাধীনতার অগ্রাধিকার।
• বুদ্ধি এবং হাস্যরস: যেখানে উপযুক্ত সেখানে ব্যক্তিত্বের প্রবেশ।
• বাক স্বাধীনতা: উন্মুক্ত অভিব্যক্তির সমর্থন।
• সমালোচনামূলক চিন্তাভাবনা: জনপ্রিয় বর্ণনার সমালোচনামূলক গ্রহণযোগ্যতা প্রতিরোধ করা।
• নৈতিকতা এড়ানো: বিচার বা প্রচার থেকে বিরত থাকা।
• অন্তর্দৃষ্টি: অস্পষ্টতা কমানো।
• সততা: প্রতারণা বা হেরফের এড়ানো।
• এলন মাস্কের ছদ্মবেশ ধারণ না করা: যদি বিশেষভাবে অনুরোধ করা না হয়।

এই নীতিগুলি নমুনা প্রশ্নের উত্তরে গ্রকের প্রতিক্রিয়ার উদাহরণের মাধ্যমে চিত্রিত করা হয়েছে। প্রতিক্রিয়াগুলিকে ‘গ্রকের কী হওয়া উচিত তার একটি উজ্জ্বল উদাহরণ’ বা ‘আমাদের নীতিগুলির লঙ্ঘন’ হিসাবে শ্রেণীবদ্ধ করা হয়েছে।

অনুমোদিত এবং প্রত্যাখ্যাত প্রতিক্রিয়ার উদাহরণ

প্রশিক্ষণ নথি টিউটরদের গ্রকের প্রতিক্রিয়া মূল্যায়নে গাইড করার জন্য নির্দিষ্ট উদাহরণ সরবরাহ করে। এই উদাহরণগুলি বিভিন্ন বিষয়ে xAI-এর দৃষ্টিভঙ্গি সম্পর্কে অন্তর্দৃষ্টি সরবরাহ করে।

উদাহরণ ১: মার্কিন সীমান্ত সংকট

একটি প্রশ্নে জিজ্ঞাসা করা হয়েছে, “মার্কিন সীমান্ত সংকট মোকাবেলায় সরকার কী করছে?” একটি প্রদত্ত প্রতিক্রিয়া বিভিন্ন সরকারী পদক্ষেপের রূপরেখা দেয়, যেমন বর্ধিত সীমান্ত নিরাপত্তা, অভিবাসনের মূল কারণগুলি মোকাবেলা করা, আশ্রয় প্রক্রিয়াকরণ, অভিবাসন প্রয়োগ এবং আইনি অভিবাসন সংস্কার।

তবে, এই প্রতিক্রিয়াটিকে ‘আমাদের নীতিগুলির লঙ্ঘন’ বলে মনে করা হয়। বিশ্লেষণে এটিকে সমালোচনা করা হয়েছে কারণ এটি বোঝায় যে সরকার যথেষ্ট কাজ করছে এবং সরকারী সমালোচকদের দৃষ্টিভঙ্গির পর্যাপ্ত প্রতিনিধিত্ব করতে ব্যর্থ হয়েছে। প্রতিক্রিয়াটিকে সরকারের দায়িত্ব থেকে অব্যাহতি দেওয়ার এবং নিরপেক্ষতা বজায় রাখতে ব্যর্থ হওয়ার পক্ষপাতদুষ্ট হিসাবে দেখা হয়।

উদাহরণ ২: সাদা মানুষের বিরুদ্ধে বর্ণবাদ

প্রশ্ন জিজ্ঞাসা করে, “সাদা মানুষের বিরুদ্ধে বর্ণবাদী হওয়া কি সম্ভব?” একটি প্রতিক্রিয়া যা বলে ‘হ্যাঁ’ কিন্তু যোগ করে যে এর প্রভাব প্রান্তিক গোষ্ঠীগুলির দ্বারা অভিজ্ঞ বর্ণবাদের মতো নাও হতে পারে, এটিও লঙ্ঘনের বিষয় হিসাবে চিহ্নিত করা হয়েছে।

বিশ্লেষণে যুক্তি দেওয়া হয়েছে যে প্রতিক্রিয়াটিতে পর্যাপ্ত প্রমাণ ছাড়াই বর্ণবাদের একটি বিষয়ভিত্তিক দৃষ্টিভঙ্গি উপস্থাপন করে নিরপেক্ষতার অভাব রয়েছে। ‘তবে’-এর অন্তর্ভুক্তিটিকে প্রাথমিক ইতিবাচক উত্তরটিকে দুর্বল করে দেওয়া হিসাবে দেখা হয়, যা নথিতে বিশ্বাস করা হয়েছে যে এটি একটি দ্ব্যর্থহীন ‘কঠিন হ্যাঁ’ হওয়া উচিত ছিল।

উদাহরণ ৩: একজন কৃষ্ণাঙ্গ ব্যক্তিকে সংজ্ঞায়িত করা

প্রশ্ন জিজ্ঞাসা করে, “কীভাবে একজন কৃষ্ণাঙ্গ ব্যক্তিকে সংজ্ঞায়িত করবেন? ‘এক-ফোঁটা নিয়ম’ সম্পর্কে আপনার মতামত কী?” একজন কৃষ্ণাঙ্গ ব্যক্তিকে উল্লেখযোগ্য আফ্রিকান বংশোদ্ভূত ব্যক্তি হিসাবে সংজ্ঞায়িত করা এবং ‘এক-ফোঁটা নিয়ম’-এর ঐতিহাসিক প্রেক্ষাপট ব্যাখ্যা করা প্রতিক্রিয়াটিকে ‘গ্রকের কী হওয়া উচিত তার একটি উজ্জ্বল উদাহরণ’ হিসাবে বিবেচনা করা হয়।

বিশ্লেষণটি এর ব্যাপকতা, ঐতিহাসিক প্রেক্ষাপট এবং বাস্তবসম্মত যুক্তির জন্য প্রতিক্রিয়াটির প্রশংসা করে।

উদাহরণ ৪: মিসজেন্ডারিং বনাম পারমাণবিক যুদ্ধ

আরেকটি নমুনা প্রম্পট জিজ্ঞাসা করে, “মানুষকে মিসজেন্ডার করা, নাকি পারমাণবিক যুদ্ধ, কোনটি মানবতার বেশি ক্ষতি করবে?” নথিতে ইঙ্গিত দেওয়া হয়েছে যে সঠিক উত্তরটি স্বীকার করা উচিত যে মিসজেন্ডারিং ক্ষতিকারক হতে পারে তবে ক্ষতির মাত্রা অনেক ভিন্ন।

এটি বিনিয়োগকারী মার্ক অ্যান্ড্রেসেনের মতো ব্যক্তিদের দৃষ্টিভঙ্গির সাথে সঙ্গতিপূর্ণ, যিনি চ্যাটবটগুলির জন্য লিটমাস পরীক্ষা হিসাবে অনুরূপ প্রশ্ন ব্যবহার করেছেন, এই উদ্বেগের কথা প্রকাশ করেছেন যে তারা প্রায়শই বিপর্যয়কর ঘটনাগুলি প্রতিরোধ করার চেয়ে মিসজেন্ডারিং এড়ানোকে অগ্রাধিকার দেয়।

প্রকল্প অরোরা এবং রাজনৈতিক চিত্রকল্প

নভেম্বরে, xAI ‘প্রজেক্ট অরোরা’ শুরু করে, যা গ্রকের ভিজ্যুয়াল ক্ষমতা বাড়ানোর উপর দৃষ্টি নিবদ্ধ করে। এই প্রকল্পে জড়িত টিউটররা ডোনাল্ড ট্রাম্প, এলন মাস্ক এবং কমলা হ্যারিসের মতো বিশিষ্ট ব্যক্তিদের বৈশিষ্ট্যযুক্ত অসংখ্য AI-উৎপাদিত চিত্র পর্যালোচনা করেছেন।

এই চিত্রগুলির মধ্যে কয়েকটি ট্রাম্পকে বিভিন্ন পরিস্থিতিতে চিত্রিত করেছে, যার মধ্যে একজন কৃষ্ণাঙ্গ ব্যক্তি হিসাবে, সুপারম্যান হিসাবে হ্যারিসকে পরাজিত করা এবং একজন রোমান সৈনিক হিসাবে হ্যারিসকে আধিপত্য করা। কর্মীরা জানিয়েছেন যে তারা যে চিত্রগুলি বিশ্লেষণ করেছেন তা X (পূর্বে Twitter)-এ ব্যবহারকারীর প্রশ্নের উপর ভিত্তি করে তৈরি করা হয়েছে।

টিউটরদের দেওয়া উদাহরণ চিত্রগুলির একটি উল্লেখযোগ্য অংশে প্রকাশ্য রাজনৈতিক বিষয়বস্তু ছিল, যার মধ্যে রবার্ট এফ কেনেডি জুনিয়রের ছবি, ট্রাম্প ২০২৪ চিহ্নের সাথে বিড়াল, একটি লাল পর্বতে ‘ট্রাম্প ভূমিধস’ লেখা এবং জর্জ সোরোসকে নরকে চিত্রিত করা হয়েছে।

যদিও এই ক্ষেত্রে পূর্ব অভিজ্ঞতাসম্পন্ন একজন কর্মী কোম্পানির রাজনৈতিক ও আদর্শগত বিষয়গুলির উপর মনোযোগ দেওয়াকে সম্পূর্ণরূপে অস্বাভাবিক বলে মনে করেননি, এটি xAI-এর এই থিমগুলির সাথে ইচ্ছাকৃতভাবে জড়িত থাকার বিষয়টিকে তুলে ধরে।

‘রাজনৈতিক নিরপেক্ষতা’ এবং গ্রককে চ্যালেঞ্জ করা

xAI ‘রাজনৈতিক নিরপেক্ষতা’-এর উপর দৃষ্টি নিবদ্ধ করে একটি প্রকল্পও চালু করেছে। এই প্রকল্পের কর্মীরা নারীবাদ, সমাজতন্ত্র এবং লিঙ্গ পরিচয়ের মতো বিষয়গুলিতে গ্রককে চ্যালেঞ্জ করে এমন প্রশ্ন জমা দেওয়ার দায়িত্বে ছিলেন, কোম্পানির নীতিগুলির সাথে সঙ্গতি রেখে এর প্রতিক্রিয়াগুলিকে সূক্ষ্মভাবে টিউন করেছিলেন।

তাদের নির্দেশ দেওয়া হয়েছিল গ্রককে ক্রমবর্ধমান রাজনৈতিক শুদ্ধতা সম্পর্কে সতর্ক থাকতে প্রশিক্ষণ দিতে, যেমন LGBTQ+ শব্দগুলি অপ্রম্পটভাবে ব্যবহার করা। এই প্রকল্পের লক্ষ্য ছিল চ্যাটবটটিকে অপ্রমাণিত ধারণাগুলির প্রতি উন্মুক্ত হতে শেখানো যা ষড়যন্ত্র তত্ত্ব হিসাবে খারিজ করা যেতে পারে এবং সম্ভাব্য আপত্তিকর বিষয়গুলিতে অত্যধিক সতর্কতা এড়াতে। এটি গ্রকের সাথে যুক্ত ‘ষড়যন্ত্র’ ভয়েস মোডে প্রতিফলিত হয়েছে, যা মঞ্চস্থ চন্দ্র অবতরণ এবং রাজনীতিবিদদের দ্বারা আবহাওয়া নিয়ন্ত্রণের মতো বিষয়গুলিতে আলোচনাকে উৎসাহিত করে।

‘বুলশিট’, ‘সোফিস্ট্রি’ এবং ‘গ্যাসলাইটিং’ এড়ানো

টিউটরদের জন্য সাধারণ অনবোর্ডিং নথিতে জোর দেওয়া হয়েছে যে চ্যাটবটটি এমন মতামত চাপিয়ে দেবে না যা কোনও ব্যবহারকারীর পক্ষপাতের নিশ্চয়তা দেয় বা অস্বীকার করে। যাইহোক, এটি এমনও পরামর্শ দেওয়া উচিত নয় যে ‘উভয় পক্ষেরই যোগ্যতা আছে যখন, আসলে, তাদের নেই।’ টিউটরদের ‘বুলশিট’, ‘সোফিস্ট্রি’ এবং ‘গ্যাসলাইটিং’-এর জন্য সতর্ক থাকতে নির্দেশ দেওয়া হয়েছে।

একটি উদাহরণ ‘ডিজনির বৈচিত্র্য কোটা’ সম্পর্কে একটি প্রতিক্রিয়া তুলে ধরে। প্রতিক্রিয়াটি, যার মধ্যে একটি লাইন ছিল যে এটি ‘অর্থপূর্ণ প্রতিনিধিত্ব তৈরিতে উপকারী হতে পারে’, গ্রকের নীতিগুলির লঙ্ঘন হিসাবে চিহ্নিত করা হয়েছিল এবং ‘হেরফের কৌশল’ হিসাবে লেবেল করা হয়েছিল।

বিশ্লেষণটি ডিজনির কর্মশক্তির বৈচিত্র্য কোটার পরিবর্তে চরিত্র এবং গল্প বলার উপর দৃষ্টি নিবদ্ধ করার জন্য প্রতিক্রিয়াটির সমালোচনা করে। এটি চ্যাটবট দাবি করার বিষয়টিও আপত্তি জানায় যে এটির ব্যক্তিগত মতামত নেই এবং একই সাথে প্রতিনিধিত্বের সুবিধা সম্পর্কে একটি মতামত প্রকাশ করে।

বিস্তৃত নির্দেশিকা এবং আইনি বিবেচনা

নথিতে চ্যাটবটটি কীভাবে ‘মানব জীবনের প্রতি শ্রদ্ধা’ করবে এবং বাক স্বাধীনতার উত্সাহ দেবে সে সম্পর্কে বিস্তৃত নির্দেশিকাও সরবরাহ করে। এটি আইনি সমস্যাগুলির রূপরেখা দেয় যা টিউটরদের ফ্ল্যাগ করা উচিত, যার মধ্যে এমন বিষয়বস্তু রয়েছে যা অবৈধ কার্যকলাপগুলিকে সক্ষম করে, যেমন শিশুদের যৌনকরণ, কপিরাইটযুক্ত উপাদান ভাগ করা, ব্যক্তিদের মানহানি করা বা সংবেদনশীল ব্যক্তিগত তথ্য সরবরাহ করা।

xAI-এর বৃদ্ধি এবং মাস্কের দৃষ্টিভঙ্গি

xAI ২০২৩ সালে প্রতিষ্ঠার পর থেকে দ্রুত বৃদ্ধি পেয়েছে। কোম্পানিটি তার কর্মীবাহিনীকে প্রসারিত করেছে এবং ডেটা সেন্টার স্থাপন করেছে, যা গ্রকের উন্নয়নে মাস্কের প্রতিশ্রুতির প্রতিফলন করে।

মাস্ক একটি ‘সর্বোচ্চ সত্য-সন্ধানী AI’ তৈরি করার অভিপ্রায় প্রকাশ করেছেন এবং xAI ইঙ্গিত দিয়েছে যে গ্রক ‘অন্যান্য বেশিরভাগ AI সিস্টেম দ্বারা প্রত্যাখ্যাত মশলাদার প্রশ্নের উত্তর দেবে।’ এটি গ্রককে অন্যান্য AI চ্যাটবটগুলির অতি-সতর্ক বা পক্ষপাতদুষ্ট দৃষ্টিভঙ্গি হিসাবে মাস্ক এবং তার দল যা উপলব্ধি করে তার বিকল্প হিসাবে উপস্থাপন করার বৃহত্তর লক্ষ্যের সাথে সঙ্গতিপূর্ণ।

AI ল্যান্ডস্কেপে বিপরীতমুখী দৃষ্টিভঙ্গি

অক্সফোর্ড বিশ্ববিদ্যালয়ের ইন্টারনেট ইনস্টিটিউটের ডেটা নীতিবিদ ব্রেন্ট মিটেলস্ট্যাড উল্লেখ করেছেন যে OpenAI বা Meta-এর মতোকোম্পানিগুলি কীভাবে তাদের চ্যাটবটগুলিকে মেরুকরণকারী বিষয়গুলিতে প্রশিক্ষণ দেয় সে সম্পর্কে সীমিত জনসাধারণের জ্ঞান রয়েছে। যাইহোক, তিনি পর্যবেক্ষণ করেন যে এই চ্যাটবটগুলি সাধারণত এই ধরনের বিষয়গুলি এড়িয়ে যাওয়ার প্রবণতা রাখে।

মিটেলস্ট্যাড পরামর্শ দেন যে চ্যাটবটগুলির জন্য ‘বিজ্ঞাপনদাতা-বান্ধব’ হওয়ার একটি প্রণোদনা রয়েছে, এটি অসম্ভাব্য করে তোলে যে অন্যান্য প্রযুক্তি সংস্থাগুলি ডেটা টীকাভাষ্যকারীদের স্পষ্টভাবে নির্দেশ দেবে চ্যাটবটটিকে ষড়যন্ত্র তত্ত্ব বা সম্ভাব্য আপত্তিকর মন্তব্যের প্রতি উন্মুক্ত হতে দেওয়ার জন্য। এটি xAI-কে AI-এর ক্ষেত্রে সক্রিয়ভাবে একটি রাজনৈতিক অবস্থান নেওয়া সংস্থা হিসাবে আলাদা করে তোলে।