ভুল তথ্যের আশঙ্কায় গ্রক-এর ফ্যাক্ট-চেকার ব্যবহার

তথ্যের সত্যতা যাচাইকরণে AI-এর উত্থান

কৃত্রিম বুদ্ধিমত্তার (AI) উত্থান তথ্য প্রাপ্তির প্রক্রিয়াকে সহজ করার জন্য বিভিন্ন সরঞ্জাম নিয়ে এসেছে। X প্ল্যাটফর্মে xAI-এর Grok-এর সাথে ব্যবহারকারীদের কথোপকথনের সুযোগ দেওয়া হয়েছে। এটি Perplexity-র পদ্ধতির অনুরূপ, যারা X-এ একটি স্বয়ংক্রিয় অ্যাকাউন্ট পরিচালনা করে একই ধরনের অভিজ্ঞতা প্রদান করে।

xAI Grok-এর স্বয়ংক্রিয় উপস্থিতি X-এ প্রতিষ্ঠার পর, ব্যবহারকারীরা দ্রুত এর ক্ষমতা পরীক্ষা করতে শুরু করে, প্রশ্ন জিজ্ঞাসা করে এবং উত্তর খোঁজে। ভারতের মতো অঞ্চলে, একটি উদ্বেগজনক প্রবণতা দেখা গেছে: ব্যক্তিরা Grok ব্যবহার করে মন্তব্য এবং প্রশ্নের সত্যতা যাচাই করতে শুরু করে, যার মধ্যে অনেকগুলি নির্দিষ্ট রাজনৈতিক মতাদর্শকে লক্ষ্য করে করা হয়েছে।

মানব ফ্যাক্ট-চেকারদের উদ্বেগ

Grok-এর উপর এই নির্ভরতা, এবং এই ধরনের যেকোনো AI অ্যাসিস্ট্যান্টের উপর ফ্যাক্ট-চেকিংয়ের জন্য নির্ভর করা, গুরুতর উদ্বেগের কারণ। এই AI বটগুলির মূল বৈশিষ্ট্য হল যে তারা এমন প্রতিক্রিয়া তৈরি করতে পারে যা শুনতে বিশ্বাসযোগ্য, তথ্যের সঠিকতা নির্বিশেষে। এটি কেবল একটি তাত্ত্বিক উদ্বেগ নয়; Grok-এর নকল খবর এবং ভুল তথ্য প্রচারের ইতিহাস রয়েছে।

একটি উল্লেখযোগ্য ঘটনা ঘটেছিল, যেখানে বেশ কয়েকজন রাজ্য সচিব Musk-কে Grok-এ গুরুত্বপূর্ণ পরিবর্তন আনার জন্য অনুরোধ করেছিলেন। এই জরুরি অনুরোধটি AI অ্যাসিস্ট্যান্ট দ্বারা তৈরি বিভ্রান্তিকর তথ্যের কারণে হয়েছিল, যা নির্বাচনের আগে সামাজিক নেটওয়ার্কগুলিতে উদ্বেগের সৃষ্টি করেছিল।

Grok একা নয়। OpenAI-এর ChatGPT এবং Google-এর Gemini-সহ অন্যান্য বিশিষ্ট চ্যাটবটগুলিও নির্বাচন সম্পর্কিত ভুল তথ্য তৈরি করতে দেখা গেছে। ডিসইনফরমেশন গবেষকরা আরও অপব্যবহারের সম্ভাবনার উপর জোর দিয়েছেন, ২০২৩ সালে প্রকাশ করেছেন যে ChatGPT-র মতো AI চ্যাটবটগুলি বিভ্রান্তিকর বিবরণ সম্বলিত প্ররোচনামূলক পাঠ্য তৈরি করতে সহজেই ব্যবহার করা যেতে পারে।

প্রামাণ্যতার বিভ্রম

পয়েন্টারের ইন্টারন্যাশনাল ফ্যাক্ট-চেকিং নেটওয়ার্ক (IFCN)-এর পরিচালক অ্যাঞ্জি হোলান মূল সমস্যাটি তুলে ধরে বলেছেন, “Grok-এর মতো AI অ্যাসিস্ট্যান্টরা স্বাভাবিক ভাষা ব্যবহারে পারদর্শী এবং এমন উত্তর দেয় যা শুনে মনে হয় কোনো মানুষ বলেছে। এবং এইভাবে, AI পণ্যগুলির স্বাভাবিকতা এবং প্রামাণিক-শব্দযুক্ত প্রতিক্রিয়াগুলির উপর একটি দাবি রয়েছে, এমনকি যখন সেগুলি সম্ভাব্যভাবে খুব ভুল হয়। এখানেই বিপদ নিহিত।”

হোলান যেমনটি তুলে ধরেছেন, বিপদটি প্রামাণ্যতার প্রতারণামূলক উপস্থিতিতে নিহিত। AI-এর মানুষের ভাষা অনুকরণ করার ক্ষমতা বিশ্বাসযোগ্যতার একটি বিভ্রম তৈরি করে, এমনকি অন্তর্নিহিত তথ্য ত্রুটিপূর্ণ বা সম্পূর্ণ বানোয়াট হলেও।

মৌলিক পার্থক্য: AI বনাম মানব ফ্যাক্ট-চেকার

AI অ্যাসিস্ট্যান্ট এবং মানব ফ্যাক্ট-চেকারদের মধ্যে পার্থক্য স্পষ্ট। মানব ফ্যাক্ট-চেকাররা সতর্কতার সাথে তথ্যের সত্যতা যাচাই করে, একাধিক, বিশ্বাসযোগ্য উৎসের উপর নির্ভর করে। তারা স্বচ্ছতার সাথে কাজ করে, তাদের নামের সাথে নিজেদের এবং সংস্থার নাম যুক্ত করে, যার ফলে জবাবদিহিতা নিশ্চিত হয় এবং বিশ্বাসযোগ্যতা বাড়ে।

ভারতের অলাভজনক ফ্যাক্ট-চেকিং ওয়েবসাইট Alt News-এর সহ-প্রতিষ্ঠাতা প্রতীক সিনহা উল্লেখ করেছেন যে, যদিও Grok-এর প্রতিক্রিয়াগুলি বর্তমানে প্ররোচনামূলক মনে হতে পারে, তবে এর নির্ভুলতা মূলত এটি যে ডেটা পায় তার দ্বারা সীমাবদ্ধ। “কে ঠিক করবে যে এটিকে কোন ডেটা সরবরাহ করা হবে, এবং সেখানেই সরকারী হস্তক্ষেপ ইত্যাদি আসবে,” তিনি ডেটা উৎসের স্বচ্ছতার গুরুত্বপূর্ণ বিষয়টিকে তুলে ধরে বলেছিলেন।

স্বচ্ছতার অভাব, সিনহা জোর দিয়েছিলেন, সম্ভাব্য ক্ষতির একটি প্রজনন ক্ষেত্র। “স্বচ্ছতার অভাব রয়েছে এমন যেকোনো কিছুই ক্ষতির কারণ হবে কারণ স্বচ্ছতার অভাব রয়েছে এমন যেকোনো কিছুকে যেকোনো উপায়ে ঢেলে সাজানো যেতে পারে।”

Grok-এর নিজস্ব স্বীকারোক্তি: অপব্যবহারের সম্ভাবনা

কিছুটা হাস্যকরভাবে, X-এ Grok-এর অ্যাকাউন্ট, তার পোস্ট করা প্রতিক্রিয়াগুলির মধ্যে একটিতে স্বীকার করেছে যে এটিকে “অপব্যবহার করা যেতে পারে - ভুল তথ্য ছড়ানো এবং গোপনীয়তা লঙ্ঘন করার জন্য।”

এই স্বীকৃতি সত্ত্বেও, স্বয়ংক্রিয় অ্যাকাউন্টটি তার উত্তর গ্রহণকারী ব্যবহারকারীদের কোনও দাবিত্যাগ প্রদান করতে ব্যর্থ হয়। এই বাদ দেওয়া ব্যবহারকারীদের বিভ্রান্ত হওয়ার ঝুঁকিতে ফেলে, বিশেষ করে এমন ক্ষেত্রে যেখানে AI উত্তরটি “হ্যালুসিনেট” করেছে, AI-এর ক্ষেত্রে একটি সুপরিচিত ঘটনা যেখানে সিস্টেমটি মিথ্যা বা অর্থহীন তথ্য তৈরি করে।

ডিজিটাল ফিউচার ল্যাবের একজন গবেষণা সহযোগী অনুষ্কা জৈন এই বিষয়ে বিস্তারিত জানিয়েছেন, “এটি একটি প্রতিক্রিয়া প্রদানের জন্য তথ্য তৈরি করতে পারে।” তথ্য তৈরির এই প্রবণতা ফ্যাক্ট-চেকিংয়ের প্রেক্ষাপটে AI-এর অন্তর্নিহিত সীমাবদ্ধতাগুলিকে তুলে ধরে।

ট্রেনিং ডেটার সমস্যা

Grok-এর ট্রেনিং ডেটা নিয়ে প্রশ্নের কারণে জটিলতার আরেকটি স্তর তৈরি হয়। Grok X-এর পোস্টগুলিকে প্রশিক্ষণের উপাদান হিসাবে কতটা ব্যবহার করে এবং এই ধরনের পোস্টগুলির সত্যতা যাচাই করার জন্য কোনও গুণমান নিয়ন্ত্রণ ব্যবস্থা নিযুক্ত করা হয়েছে কিনা, তা নিয়ে অনিশ্চয়তা রয়েছে। পূর্বে প্রয়োগ করা একটি পরিবর্তন Grok-কে X ব্যবহারকারীর ডেটাতে ডিফল্ট অ্যাক্সেস দিয়েছে বলে মনে করা হয়েছিল, যা AI-এর প্ল্যাটফর্মে উপস্থিত ভুল তথ্য শোষণ এবং প্রচার করার সম্ভাবনা সম্পর্কে উদ্বেগ বাড়িয়েছিল।

AI-জেনারেট করা তথ্যের পাবলিক বনাম ব্যক্তিগত ব্যবহার

সোশ্যাল মিডিয়া প্ল্যাটফর্মগুলিতে Grok-এর মতো AI অ্যাসিস্ট্যান্টগুলির প্রকাশ্য প্রকৃতিকে ঘিরে আরেকটি উল্লেখযোগ্য উদ্বেগ রয়েছে। ChatGPT-র মতো চ্যাটবটগুলির সাথে কথোপকথনের বিপরীতে, যা সাধারণত একটি ব্যক্তিগত সেটিংয়ে ঘটে, Grok-এর প্রতিক্রিয়াগুলি সর্বজনীনভাবে বিতরণ করা হয়।

এই সর্বজনীন প্রচার এমন একটি পরিস্থিতি তৈরি করে যেখানে, এমনকি যদি একজন ব্যবহারকারী সচেতন হন যে AI দ্বারা প্রদত্ত তথ্যটি ভুল হতে পারে, প্ল্যাটফর্মের অন্যান্য ব্যবহারকারীরা এখনও এটিকে সত্য হিসাবে গ্রহণ করতে পারে। এটি গুরুতর সামাজিক পরিণতির দিকে পরিচালিত করতে পারে।

ঐতিহাসিক নজির বিদ্যমান। উদাহরণস্বরূপ, ভারত হোয়াটসঅ্যাপের মাধ্যমে প্রচারিত ভুল তথ্যের কারণে উত্তেজিত জনতার হাতে পিটিয়ে মারার মর্মান্তিক ঘটনার সাক্ষী হয়েছে। এই ঘটনাগুলি, জেনারেটিভ AI-এর ব্যাপক উপলব্ধতার আগের ঘটনা, অনিয়ন্ত্রিত ভুল তথ্যের বাস্তব-বিশ্বের বিপদগুলির একটি কঠোর অনুস্মারক হিসাবে কাজ করে। GenAI-এর আবির্ভাব, উল্লেখযোগ্যভাবে বাস্তবসম্মত সিন্থেটিক সামগ্রী তৈরি করার ক্ষমতা সহ, এই ঝুঁকিগুলিকে আরও বাড়িয়ে তুলেছে।

AI-এর ত্রুটির হার

IFCN-এর হোলান সতর্ক করে দিয়েছিলেন, “আপনি যদি এই Grok উত্তরগুলির অনেকগুলি দেখেন তবে আপনি বলবেন, আরে, ভাল, তাদের অধিকাংশই সঠিক, এবং এটি হতে পারে, তবে কিছু থাকবে যা ভুল। এবং কতগুলি? এটি একটি ছোট ভগ্নাংশ নয়। কিছু গবেষণা সমীক্ষায় দেখা গেছে যে AI মডেলগুলি ২০% ত্রুটির হারের শিকার… এবং যখন এটি ভুল হয়, তখন এটি বাস্তব-বিশ্বের পরিণতিগুলির সাথে সত্যিই ভুল হতে পারে।”

হোলান যেমনটি তুলে ধরেছেন, ২০% ত্রুটির হার একটি উল্লেখযোগ্য সংখ্যা। এটি এমন পরিস্থিতিতে AI-এর অন্তর্নিহিত অবিশ্বস্ততাকে তুলে ধরে যেখানে সঠিক তথ্যের প্রয়োজন। এবং, তিনি যেমন জোর দিয়েছেন, এই ত্রুটিগুলির পরিণতিগুলি গভীর হতে পারে, যা ডিজিটাল ক্ষেত্রের বাইরেও প্রসারিত হতে পারে।

AI: একটি হাতিয়ার, মানব বিচারের প্রতিস্থাপন নয়

যদিও xAI-সহ AI কোম্পানিগুলি ক্রমাগত তাদের মডেলগুলিকে আরও মানুষের মতো যোগাযোগের জন্য পরিমার্জিত করে, তবে মৌলিক বাস্তবতা রয়ে গেছে: AI মানব বিচারকে প্রতিস্থাপন করতে পারে না এবং করা উচিত নয়, বিশেষ করে ফ্যাক্ট-চেকিংয়ের গুরুত্বপূর্ণ ক্ষেত্রে।

প্রযুক্তি সংস্থাগুলির মধ্যে মানব ফ্যাক্ট-চেকারদের উপর নির্ভরতা কমানোর জন্য উপায় অনুসন্ধানের প্রবণতা উদ্বেগের কারণ। X এবং Meta-র মতো প্ল্যাটফর্মগুলি “কমিউনিটি নোটস”-এর মতো উদ্যোগগুলির মাধ্যমে ক্রাউডসোর্সড ফ্যাক্ট-চেকিংয়ের ধারণাটিকে গ্রহণ করেছে। এই পরিবর্তনগুলি, সম্ভাব্যভাবে কিছু সুবিধা প্রদান করার সাথে সাথে, কঠোর ফ্যাক্ট-চেকিং মানগুলির সম্ভাব্য ক্ষয় সম্পর্কেও প্রশ্ন তোলে।

মানব ফ্যাক্ট-চেকিংয়ে ফিরে আসা?

Alt News-এর সিনহা একটি আশাবাদী দৃষ্টিভঙ্গি প্রকাশ করেছেন, এই বলে যে লোকেরা শেষ পর্যন্ত মেশিনগুলির আউটপুট এবং মানব ফ্যাক্ট-চেকারদের কাজের মধ্যে পার্থক্য করতে শিখবে, শেষ পর্যন্ত পরবর্তীগুলির নির্ভুলতা এবং নির্ভরযোগ্যতাকে মূল্য দেবে।

IFCN-এর হোলান ভবিষ্যদ্বাণী করেছিলেন, “আমরা শেষ পর্যন্ত ফ্যাক্ট-চেকিংয়ের দিকে ফিরে যেতে দেখব।”

যাইহোক, তিনি সতর্ক করে দিয়েছিলেন যে, এর মধ্যে, ফ্যাক্ট-চেকারদের AI-জেনারেট করা তথ্যের দ্রুত বিস্তারের কারণে বর্ধিত কাজের চাপের মুখোমুখি হওয়ার সম্ভাবনা রয়েছে। চ্যালেঞ্জ হবে ভুল তথ্যের জোয়ারকে কার্যকরভাবে মোকাবেলা করা, এটি নিশ্চিত করা যে জনসাধারণ সত্য দ্বারা অবগত থাকবে, বিশ্বাসযোগ্য বিভ্রম দ্বারা নয়।

মূল প্রশ্ন: সত্যের প্রতি যত্নশীল হওয়া

বিষয়টির মূলে একটি মৌলিক প্রশ্ন রয়েছে: “আপনি কি সত্যিই যত্নশীল যে আসলে কী সত্য? নাকি আপনি কেবল এমন কিছুর বাহ্যিক রূপ খুঁজছেন যা সত্য না হয়েও শুনতে এবং অনুভব করতে সত্য বলে মনে হয়? কারণ AI সহায়তা আপনাকে সেটাই দেবে,” হোলান বলেছিলেন।

এই প্রশ্নটি তথ্য বিতরণে AI-এর উত্থানের দ্বারা সৃষ্ট জটিল দ্বিধাকে তুলে ধরে। আমরা কি, একটি সমাজ হিসাবে, সুবিধার জন্য এবং সত্যের উপস্থিতির জন্য, তথ্যের সত্যতা যাচাই করার কষ্টসাধ্য প্রক্রিয়াটিকে ত্যাগ করতে ইচ্ছুক? এই প্রশ্নের উত্তর শেষ পর্যন্ত তথ্যের ভবিষ্যতকে রূপ দেবে, এটি নির্ধারণ করবে যে আমরা কি তৈরি করা বাস্তবতার জগতে আত্মসমর্পণ করব নাকি সত্য ও নির্ভুলতার নীতিগুলিকে সমুন্নত রাখব।