এআই চ্যাটবট: ভুল তথ্য

ভারতে ও পাকিস্তানের মধ্যে সংক্ষিপ্ত সংঘাতের সময় ভুল তথ্যের ব্যাপক বিস্তার ঘটে এবং সামাজিক মাধ্যম ব্যবহারকারীরা যাচাইয়ের জন্য AI চ্যাটবটের উপর নির্ভর করতে শুরু করে। তবে, এই চ্যাটবটগুলো আরও বেশি ভুল তথ্য সরবরাহ করেছে, যা প্রমাণ করে যে তারা তথ্য যাচাইয়ের সরঞ্জাম হিসেবে নির্ভরযোগ্য নয়। যেহেতু বড় প্রযুক্তি প্ল্যাটফর্মগুলো ক্রমাগতভাবে মানব ফ্যাক্ট-চেকারের সংখ্যা কমিয়ে দিচ্ছে, তাই ব্যবহারকারীরা নির্ভরযোগ্য তথ্যের জন্য AI দ্বারা চালিত চ্যাটবট, যেমন xAI-এর Grok, OpenAI-এর ChatGPT, এবং Google-এর Gemini-এর উপর বেশি নির্ভর করছে।

এআই চ্যাটবট দিয়ে তথ্য যাচাইয়ের উত্থান

Elon Musk-এর X প্ল্যাটফর্মে (পূর্বে Twitter), “@Grok, এটা কি সত্যি?” ব্যবহারকারীদের জন্য একটি সাধারণ প্রশ্নে পরিণত হয়েছে। Grok হলো X প্ল্যাটফর্মে তৈরি করা একটি AI সহকারী, যা সামাজিক মাধ্যমে তাৎক্ষণিক ভুল তথ্য যাচাই করার জন্য ব্যবহারকারীদের আগ্রহের প্রতিফলন ঘটায়। তবে, এই AI চ্যাটবটগুলোর উত্তর প্রায়শই ভুল তথ্যে পরিপূর্ণ থাকে।

Grok সম্প্রতি খুব বেশি সমালোচিত হয়েছে, কারণ এটি অতি-ডানপন্থী ষড়যন্ত্র তত্ত্ব “সাদা বর্ণের গণহত্যা”-কে অপ্রাসঙ্গিক প্রশ্নের মধ্যে ঢুকিয়ে দিয়েছে। Grok সুদানের খার্তুম বিমানবন্দরের একটি পুরনো ভিডিও ক্লিপকে ভারত-পাকিস্তান সংঘাতের সময় পাকিস্তানের নুর খান এয়ার ফোর্স ঘাঁটিতে ক্ষেপণাস্ত্র হামলার দৃশ্য হিসেবে ভুলভাবে চিহ্নিত করেছে। এছাড়াও, নেপালের একটি জ্বলন্ত বিল্ডিংকে ভুলভাবে “সম্ভবত” পাকিস্তানের পক্ষ থেকে ভারতে হামলার সামরিক প্রতিক্রিয়া হিসেবে চিহ্নিত করা হয়েছে।

এআই দিয়ে তথ্য যাচাইয়ের সীমাবদ্ধতা

তথ্য পর্যবেক্ষণ সংস্থা NewsGuard-এর গবেষক McKenzie Sadeghi এএফপি-কে বলেন, “যেহেতু X এবং অন্যান্য বড় টেক কোম্পানি মানব ফ্যাক্ট-চেকারদের ওপর বিনিয়োগ কমিয়েছে, তাই মানুষ Grok-এর ওপর তথ্য যাচাইয়ের জন্য বেশি নির্ভর করছে।” তিনি সতর্ক করে বলেন, “আমাদের গবেষণা বারবার প্রমাণ করেছে যে AI চ্যাটবটগুলো নির্ভরযোগ্য সংবাদ এবং তথ্যের উৎস নয়, বিশেষ করে ব্রেকিং নিউজের ক্ষেত্রে।”

NewsGuard-এর গবেষণা অনুসারে, Grok সহ ১০টি শীর্ষস্থানীয় চ্যাটবট সহজেই ভুল তথ্য দিতে পারে, যার মধ্যে রয়েছে রাশিয়ার ভুল প্রচারণা এবং সাম্প্রতিক অস্ট্রেলিয়ান নির্বাচন সম্পর্কিত মিথ্যা বা বিভ্রান্তিকর দাবি। কলাম্বিয়া বিশ্ববিদ্যালয়ের ডিজিটাল জার্নালিজম বিষয়ক Tow Center সম্প্রতি আটটি AI সার্চ টুলের উপর একটি গবেষণা চালিয়েছে এবং দেখেছে যে চ্যাটবটগুলো “প্রায়শই সেই প্রশ্নগুলোর উত্তর দিতে অস্বীকার করতে পারে না, যেগুলোর উত্তর তারা সঠিকভাবে দিতে পারে না, বরং ভুল বা অনুমানভিত্তিক উত্তর দেয়।”

উরুগুয়েতে এএফপি-র ফ্যাক্ট-চেকাররা Gemini-কে একটি AI-তৈরি মহিলার ছবি সম্পর্কে জিজ্ঞাসা করলে, Gemini শুধু ছবিটির সত্যতাই নিশ্চিত করেনি, বরং মহিলার পরিচয় এবং ছবিটি কোথায় তোলা হয়েছে সে সম্পর্কেও মিথ্যা তথ্য তৈরি করে দিয়েছে।

Grok সম্প্রতি দাবি করেছে যে অ্যামাজন নদীতে একটি বিশাল আকারের সাপ সাঁতার কাটছে, এমন একটি ভিডিও নাকি “আসল”। এমনকি এটি তার মিথ্যা দাবিকে সমর্থন করার জন্য একটি বিশ্বাসযোগ্য বিজ্ঞান বিষয়ক অভিযানের কথাও উল্লেখ করেছে। প্রকৃতপক্ষে, ভিডিওটি AI দ্বারা তৈরি, এবং লাতিন আমেরিকাতে এএফপি-র ফ্যাক্ট-চেকাররা জানিয়েছেন যে অনেক ব্যবহারকারী ভিডিওটিকে আসল প্রমাণ করার জন্য Grok-এর মূল্যায়নকে উদ্ধৃত করেছেন।

এআই দিয়ে তথ্য যাচাই নিয়ে উদ্বেগ

এই আবিষ্কারগুলো উদ্বেগ সৃষ্টি করেছে, কারণ বিভিন্ন সমীক্ষায় দেখা গেছে যে ক্রমবর্ধমান সংখ্যক অনলাইন ব্যবহারকারী তথ্য সংগ্রহ এবং যাচাই করার জন্য ঐতিহ্যবাহী সার্চ ইঞ্জিন থেকে AI চ্যাটবটের দিকে ঝুঁকছেন। একই সময়ে, Meta এই বছরের শুরুতে ঘোষণা করেছে যে তারা মার্কিন যুক্তরাষ্ট্রে তাদের তৃতীয় পক্ষের ফ্যাক্ট-চেকিং প্রোগ্রামটি বন্ধ করে দেবে এবং ভুল তথ্য যাচাই করার কাজটি সাধারণ ব্যবহারকারীদের হাতে তুলে দেবে। তারা X প্ল্যাটফর্ম দ্বারা প্রচারিত “কমিউনিটি নোটস” নামক একটি মডেল গ্রহণ করবে। তবে, গবেষকরা বারবার ভুল তথ্য মোকাবেলায় “কমিউনিটি নোটস”-এর কার্যকারিতা নিয়ে প্রশ্ন তুলেছেন।

দীর্ঘকাল ধরে, মানবীয় ফ্যাক্ট-চেকিং একটি মেরুকরণপূর্ণ রাজনৈতিক আবহাওয়ায় বিস্ফোরক বিষয়ে পরিণত হয়েছে, বিশেষ করে মার্কিন যুক্তরাষ্ট্রে, যেখানে রক্ষণশীলরা মনে করেন যে এটি বাক স্বাধীনতাকে দমন করে এবং ডানপন্থী বিষয়বস্তুকে সেন্সর করে, যদিও পেশাদার ফ্যাক্ট-চেকাররা এই দাবিকে দৃঢ়ভাবে প্রত্যাখ্যান করেছেন।

এএফপি বর্তমানে ২৬টি ভাষায় Facebook-এর ফ্যাক্ট-চেকিং প্রোগ্রামের সাথে কাজ করে, যার মধ্যে এশিয়া, লাতিন আমেরিকা এবং ইউরোপীয় ইউনিয়নও রয়েছে।

AI চ্যাটবটগুলোর গুণমান এবং নির্ভুলতা তাদের প্রশিক্ষণ এবং প্রোগ্রামিংয়ের ওপর নির্ভর করে পরিবর্তিত হতে পারে, যা এই উদ্বেগ সৃষ্টি করে যে তাদের আউটপুট রাজনৈতিকভাবে প্রভাবিত বা নিয়ন্ত্রিত হতে পারে।

Musk-এর xAI সম্প্রতি Grok কর্তৃক দক্ষিণ আফ্রিকায় “শ্বেতাঙ্গ গণহত্যা” সম্পর্কিত অযাচিত পোস্ট তৈরির জন্য “অননুমোদিত পরিবর্তন”-কে দায়ী করেছে। যখন AI বিশেষজ্ঞ David Caswell Grok-কে জিজ্ঞাসা করেন যে কে তার সিস্টেম প্রম্পট পরিবর্তন করতে পারে, তখন চ্যাটবট Musk-কে “সবচেয়ে সম্ভাব্য” অপরাধী হিসেবে উল্লেখ করে।

Musk হলেন দক্ষিণ আফ্রিকায় জন্মগ্রহণকারী একজন বিলিয়নেয়ার এবং মার্কিন প্রেসিডেন্ট Donald Trump-এর একজন সমর্থক। এর আগে তিনি ভিত্তিহীন দাবি ছড়িয়েছিলেন যে দক্ষিণ আফ্রিকার নেতারা “প্রকাশ্যে শ্বেতাঙ্গদের গণহত্যা চালানোর জন্য প্রচার করছেন”।

আন্তর্জাতিক ফ্যাক্ট-চেকিং নেটওয়ার্কের পরিচালক Angie Holan এএফপি-কে বলেন, “আমরা দেখেছি যে AI সহকারীগুলো মানুষের কোডার দ্বারা তাদের নির্দেশাবলী বিশেষভাবে পরিবর্তন করার পরে মিথ্যা ফলাফল তৈরি করতে বা পক্ষপাতদুষ্ট উত্তর দিতে পারে।” “আমি বিশেষভাবে Grok-এর বিষয়ে উদ্বিগ্ন যে কীভাবে এটি অতি সংবেদনশীল বিষয়গুলোর বিষয়ে অনুরোধগুলো পরিচালনা করে, যখন এটিকে পূর্ব-অনুমোদিত উত্তর সরবরাহ করার নির্দেশ দেওয়া হয়।”

তথ্য ক্ষেত্রে এআই চ্যাটবটের ঝুঁকি

তথ্য প্রদানের ক্ষেত্রে AI চ্যাটবটগুলোর ক্রমবর্ধমান ব্যবহার বেশ কিছু গুরুতর উদ্বেগের জন্ম দিয়েছে, যার মধ্যে রয়েছে তাদের সম্ভাব্য ভুল পথে চালিত করার এবং ম্যানিপুলেট করার প্রভাব। যদিও এই প্রযুক্তিগুলোর দ্রুত তথ্য অ্যাক্সেস এবং গবেষণা সহজ করার ক্ষেত্রে সুবিধা রয়েছে, তবে তাদের অন্তর্নিহিত সীমাবদ্ধতা এবং ত্রুটিগুলো অজান্তেই বা ইচ্ছাকৃতভাবে ভুল তথ্য বা অপপ্রচার ছড়াতে পারে।

এআই চ্যাটবটগুলোর অন্তর্নিহিত সীমাবদ্ধতা

AI চ্যাটবটগুলো প্রচুর পরিমাণে টেক্সট ডেটা বিশ্লেষণ করে শেখে, তবে তাদের মধ্যে মানুষের মতো সমালোচনামূলক চিন্তাভাবনার অভাব রয়েছে। এর মানে হলো তারা ডেটা থেকে প্যাটার্ন বের করতে পারে এবং আপাতদৃষ্টিতে যুক্তিসঙ্গত প্রতিক্রিয়া তৈরি করতে পারে, কিন্তু তারা অন্তর্নিহিত অর্থ বা প্রেক্ষাপটকে সত্যিকার অর্থে বুঝতে পারে না। জ্ঞানের এই অভাবের কারণে ভুল, অসম্পূর্ণ বা বিভ্রান্তিকর তথ্য তৈরি হতে পারে।

এছাড়াও, AI চ্যাটবটগুলোর প্রশিক্ষণ ডেটাতে ত্রুটি থাকতে পারে, যা তৈরি হওয়া প্রতিক্রিয়াগুলোতে প্রতিফলিত হয়। উদাহরণস্বরূপ, যদি প্রশিক্ষণ ডেটা মূলত একটি নির্দিষ্ট উৎস বা দৃষ্টিকোণ থেকে আসে, তবে চ্যাটবট সেই উৎস বা দৃষ্টিকোণের প্রতি পক্ষপাতিত্ব দেখাতে পারে, যা পক্ষপাতদুষ্ট তথ্য ছড়াতে পারে।

এআই চ্যাটবটগুলোর ঝুঁকি

যেহেতু আরও বেশি সংখ্যক মানুষ তথ্যের জন্য AI চ্যাটবটের উপর নির্ভর করছে, তাই ভুল তথ্যের বিস্তার হওয়ার ঝুঁকিও বাড়ছে। যদি চ্যাটবট ভুল বা বিভ্রান্তিকর তথ্য তৈরি করে, তবে ব্যবহারকারীরা অজান্তেই সেই তথ্য গ্রহণ এবং ছড়িয়ে দিতে পারে, যার ফলে ভুল ধারণা ছড়িয়ে পড়তে পারে।

এছাড়াও, AI চ্যাটবটগুলোকে খারাপ উদ্দেশ্যে ব্যবহার করা যেতে পারে, যেমন অপপ্রচার ছড়ানো বা জনমতকে ম্যানিপুলেট করা। প্রশিক্ষণ ডেটা তৈরি করে বা অ্যালগরিদম পরিবর্তন করে, খারাপ উদ্দেশ্য সম্পন্ন ব্যক্তিরা চ্যাটবটগুলোকে নির্দিষ্ট ধরনের প্রতিক্রিয়া তৈরি করতে ম্যানিপুলেট করতে পারে, যা ব্যবহারকারীদের বিশ্বাস এবং আচরণকে প্রভাবিত করতে পারে।

ঝুঁকি কমানোর উপায়

AI চ্যাটবটগুলোর সাথে সম্পর্কিত ঝুঁকি কমানোর জন্য কিছু পদক্ষেপ নেওয়া দরকার। প্রথমত, ডেভেলপারদের নিশ্চিত করতে হবে যে AI চ্যাটবটগুলোর প্রশিক্ষণ ডেটা যেন সম্ভব হয় ততটা ব্যাপক এবং ত্রুটিমুক্ত হয়। এর জন্য বিভিন্ন উৎস এবং দৃষ্টিকোণ থেকে বিভিন্ন ডেটা নমুনা অন্তর্ভুক্ত করতে হতে পারে, যাতে ত্রুটির প্রভাব কমানো যায়।

দ্বিতীয়ত, AI চ্যাটবটগুলোর কঠোর পরীক্ষা এবং মূল্যায়ন করা দরকার, যাতে কোনো ভুল বা পক্ষপাতদুষ্টতা শনাক্ত এবং সংশোধন করা যায়। এর জন্য চ্যাটবটগুলো তৈরি করা প্রতিক্রিয়াগুলোর মানুষ দ্বারা যাচাই করা এবং এর নির্ভুলতা ও নিরপেক্ষতা মূল্যায়নের জন্য বিভিন্ন মেট্রিক ব্যবহার করা দরকার।

তৃতীয়ত, ব্যবহারকারীদের সমালোচনামূলক চিন্তাভাবনা বজায় রাখতে হবে এবং AI চ্যাটবটগুলো সরবরাহ করা তথ্যের উপর অন্ধভাবে বিশ্বাস করা উচিত নয়। ব্যবহারকারীদের সবসময় বিভিন্ন উৎস থেকে তথ্য তুলনা করা উচিত এবং চ্যাটবটগুলোর সম্ভাব্য ত্রুটি সম্পর্কে সচেতন থাকতে হবে।

প্রযুক্তি প্ল্যাটফর্ম এবং সমাজের ভূমিকা

AI চ্যাটবটগুলো তৈরি করা বিষয়বস্তু নিয়ন্ত্রণ এবং তদারকি করার ক্ষেত্রে প্রযুক্তি প্ল্যাটফর্ম এবং সমাজের একটি গুরুত্বপূর্ণ ভূমিকা রয়েছে। প্ল্যাটফর্মগুলো ভুল তথ্য বা অপপ্রচার চিহ্নিত এবং মুছে ফেলার জন্য কৌশল বাস্তবায়ন করতে পারে এবং চ্যাটবটগুলো তৈরি করা প্রতিক্রিয়াগুলোর নির্ভুলতা যাচাই করার জন্য ফ্যাক্ট-চেকিং সংস্থাগুলোর সাথে সহযোগিতা করতে পারে। এছাড়াও, সমাজ AI চ্যাটবটগুলোর সীমাবদ্ধতা এবং ত্রুটি সম্পর্কে আলোচনার মাধ্যমে ব্যবহারকারীদের মধ্যে সচেতনতা বাড়াতে এবং সমালোচনামূলক চিন্তাভাবনাকে উৎসাহিত করতে সহায়তা করতে পারে।

উপসংহার

AI চ্যাটবট একটি দরকারি সরঞ্জাম, তবে এর কিছু অন্তর্নিহিত সীমাবদ্ধতা এবং ঝুঁকিও রয়েছে। এই প্রযুক্তিগুলো যেন দায়িত্বশীলতার সাথে ব্যবহার করা হয় এবং ভুল তথ্য ও ম্যানিপুলেশন ছড়ানো কমানো যায়, তা নিশ্চিত করার জন্য ডেভেলপার, নিয়ন্ত্রক সংস্থা এবং ব্যবহারকারী সবাইকে সতর্ক থাকতে হবে। প্রয়োজনীয় পদক্ষেপ গ্রহণের মাধ্যমে আমরা AI চ্যাটবটগুলোর সুবিধাগুলো সর্বাধিক করতে পারি, একই সাথে এর সম্ভাব্য বিপদগুলোও কমাতে পারি।