এআই টুলস সূত্র উদ্ধৃতিতে ভুল করছে: রিপোর্ট

ভুল উদ্ধৃতির সমস্যা

দ্য টাও সেন্টার ফর ডিজিটাল জার্নালিজম এই গবেষণাটি পরিচালনা করেছে, এবং এর ফলাফলগুলি উদ্বেগজনক। গবেষণায় ইঙ্গিত দেওয়া হয়েছে যে বেশিরভাগ বিশিষ্ট AI সার্চ ইঞ্জিন সংবাদ নিবন্ধগুলিকে সঠিকভাবে উদ্ধৃত করতে সমস্যায় পড়ে। টুলগুলি প্রায়শই রেফারেন্স লিঙ্ক তৈরি করে বা উৎস সম্পর্কে জিজ্ঞাসা করা হলে উত্তর দিতে পারে না।

গবেষণায় একটি চার্টে বিভিন্ন AI চ্যাটবটের পারফরম্যান্স দৃশ্যমানভাবে উপস্থাপন করা হয়েছে, যা প্রাসঙ্গিক উদ্ধৃতি প্রদানের ক্ষেত্রে নির্ভরযোগ্যতার অভাব প্রকাশ করে। উল্লেখযোগ্যভাবে, xAI-এর Grok চ্যাটবট, যাকে Elon Musk ‘সবচেয়ে সত্যবাদী’ AI হিসাবে প্রচার করেছেন, এই ক্ষেত্রে সবচেয়ে কম নির্ভুল বা নির্ভরযোগ্য সম্পদগুলির মধ্যে ছিল।

রিপোর্টে বলা হয়েছে:

‘সামগ্রিকভাবে, চ্যাটবটগুলি ৬০% এর বেশি প্রশ্নের ভুল উত্তর দিয়েছে। বিভিন্ন প্ল্যাটফর্মে, ভুলের মাত্রা ভিন্ন ছিল, Perplexity ৩৭% প্রশ্নের ভুল উত্তর দিয়েছে, যেখানে Grok-এর ত্রুটির হার অনেক বেশি ছিল, ৯৪% প্রশ্নের ভুল উত্তর দিয়েছে।’

এটি বিভিন্ন AI সরঞ্জামগুলির নির্ভুলতার স্তরের মধ্যে একটি উল্লেখযোগ্য পার্থক্য তুলে ধরে, যেখানে কিছু অন্যদের তুলনায় যথেষ্ট খারাপ পারফর্ম করে।

সীমাবদ্ধ সামগ্রী অ্যাক্সেস করা

প্রতিবেদনে উন্মোচিত হওয়া আরেকটি উদ্বেগজনক দিক হল AI সরঞ্জামগুলির AI স্ক্র্যাপিং প্রতিরোধ করার জন্য প্রয়োগ করা পদক্ষেপ নেওয়া উৎসগুলি থেকে তথ্য অ্যাক্সেস এবং সরবরাহ করার ক্ষমতা।

রিপোর্টে উল্লেখ করা হয়েছে:

‘কিছু ক্ষেত্রে, চ্যাটবটগুলি হয় ভুল উত্তর দিয়েছে বা প্রকাশকদের প্রশ্নের উত্তর দিতে অস্বীকার করেছে যারা তাদের সামগ্রী অ্যাক্সেস করার অনুমতি দিয়েছে। অন্যদিকে, তারা কখনও কখনও এমন প্রকাশকদের সম্পর্কে প্রশ্নের সঠিক উত্তর দিয়েছে যাদের সামগ্রীতে তাদের অ্যাক্সেস থাকা উচিত ছিল না।’

এই পর্যবেক্ষণটি পরামর্শ দেয় যে কিছু AI প্রদানকারী robots.txt কমান্ডগুলিকে সম্মান নাও করতে পারে যা তাদের কপিরাইটযুক্ত সামগ্রী অ্যাক্সেস করা থেকে বিরত রাখার জন্য ডিজাইন করা হয়েছে। এটি AI সরঞ্জামগুলি এই সীমাবদ্ধতাগুলিকে ফাঁকি দেওয়ার নৈতিক ও আইনি প্রভাব সম্পর্কে প্রশ্ন উত্থাপন করে।

গবেষণার জন্য AI-এর উপর ক্রমবর্ধমান নির্ভরতা

মূল সমস্যাটি সার্চ ইঞ্জিন হিসাবে AI সরঞ্জামগুলির উপর ক্রমবর্ধমান নির্ভরতার মধ্যে নিহিত, বিশেষ করে তরুণ ব্যবহারকারীদের মধ্যে। অনেক তরুণ এখন ChatGPT-কে তাদের প্রাথমিক গবেষণার সরঞ্জাম হিসাবে ব্যবহার করে বড় হচ্ছে। AI সরঞ্জামগুলির সঠিক তথ্য সরবরাহ এবং ব্যবহারকারীদের গুরুত্বপূর্ণ বিষয়গুলিতে নির্ভরযোগ্যভাবে শিক্ষিত করার ক্ষেত্রে প্রদর্শিত অবিশ্বস্ততার পরিপ্রেক্ষিতে এই প্রবণতাটি উদ্বেগজনক।

গবেষণার ফলাফলগুলি একটি কঠোর অনুস্মারক হিসাবে কাজ করে যে AI-জেনারেটেড প্রতিক্রিয়াগুলি সর্বদা মূল্যবান বা ব্যবহারযোগ্য নয়। আসল বিপদটি হল এই সরঞ্জামগুলিকে প্রকৃত গবেষণার প্রতিস্থাপন এবং জ্ঞানের শর্টকাট হিসাবে প্রচার করা। বিশেষ করে তরুণ ব্যবহারকারীদের জন্য, এটি এমন এক প্রজন্মের দিকে পরিচালিত করতে পারে যারা কম অবগত, কম সজ্জিত এবং সম্ভাব্য ত্রুটিপূর্ণ সিস্টেমের উপর অত্যধিক নির্ভরশীল।

একটি হাতিয়ার হিসাবে AI, সমাধান নয়

মার্ক কিউবান, একজন সুপরিচিত ব্যবসায়ী, SXSW-তে একটি অধিবেশন চলাকালীন এই চ্যালেঞ্জটিকে কার্যকরভাবে সংক্ষিপ্ত করেছিলেন। তিনি জোর দিয়েছিলেন:

‘AI কখনই উত্তর নয়। AI হল হাতিয়ার। আপনার যাই দক্ষতা থাকুক না কেন, আপনি সেগুলিকে প্রসারিত করতে AI ব্যবহার করতে পারেন।’

কিউবানের দৃষ্টিভঙ্গি জোর দেয় যে AI সরঞ্জামগুলি সুবিধা দিতে পারে এবং কর্মক্ষমতা বাড়ানোর সম্ভাবনার জন্য অন্বেষণ করা উচিত, তবে সেগুলি স্বতন্ত্র সমাধান নয়।

AI ভিডিও সামগ্রী তৈরি করতে পারে, তবে এটি একটি আকর্ষক বর্ণনা তৈরি করার ক্ষমতা রাখে না, যা সবচেয়ে গুরুত্বপূর্ণ উপাদান। একইভাবে, AI অ্যাপ ডেভেলপমেন্টে সহায়তা করার জন্য কোড তৈরি করতে পারে, কিন্তু এটি নিজে অ্যাপ তৈরি করতে পারে না।

এই সীমাবদ্ধতাগুলি সমালোচনামূলক চিন্তাভাবনা এবং মানুষের দক্ষতার অপরিহার্য ভূমিকা তুলে ধরে। AI আউটপুট নিঃসন্দেহে বিভিন্ন কাজে সহায়তা করতে পারে, তবে তারা মানুষের উদ্ভাবনী ক্ষমতা এবং দক্ষতার মৌলিক চাহিদাকে প্রতিস্থাপন করতে পারে না।

সমালোচনামূলক মূল্যায়ন এবং দক্ষতা বিকাশের প্রয়োজনীয়তা

এই গবেষণার প্রেক্ষাপটে উদ্বেগ হল, তরুণদের বিশ্বাস করতে পরিচালিত করা হচ্ছে যে AI সরঞ্জামগুলি নির্দিষ্ট উত্তর দিতে পারে। যাইহোক, এই সমীক্ষা, অন্যান্য অসংখ্য গবেষণামূলক প্রচেষ্টার সাথে, ধারাবাহিকভাবে প্রদর্শন করে যে AI এই ক্ষেত্রে বিশেষভাবে পারদর্শী নয়।

ঐতিহ্যগত গবেষণা পদ্ধতির প্রতিস্থাপন হিসাবে AI-কে প্রচার করার পরিবর্তে, এই সিস্টেমগুলি কীভাবে তাদের বিদ্যমান ক্ষমতা বাড়াতে পারে সে সম্পর্কে ব্যক্তিদের শিক্ষিত করার দিকে মনোযোগ দেওয়া উচিত। AI-কে কার্যকরভাবে ব্যবহার করার জন্য, ব্যবহারকারীদের অবশ্যই প্রথমে শক্তিশালী গবেষণা এবং বিশ্লেষণাত্মক দক্ষতার পাশাপাশি প্রাসঙ্গিক ক্ষেত্রের দক্ষতা থাকতে হবে।

গভীরতর প্রভাব

এই গবেষণার প্রভাবগুলি ভুল উদ্ধৃতির তাৎক্ষণিক উদ্বেগের বাইরেও প্রসারিত। এটি বিশ্বের সম্পর্কে আমাদের বোধগম্যতা গঠনে AI-এর ভূমিকা এবং ভুল তথ্য দ্রুত ছড়িয়ে পড়ার সম্ভাবনা সম্পর্কে বিস্তৃত প্রশ্ন উত্থাপন করে।

১. তথ্যের উৎসের উপর বিশ্বাসের ক্ষয়:

যখন AI সরঞ্জামগুলি ধারাবাহিকভাবে ভুল বা বানোয়াট উদ্ধৃতি প্রদান করে, তখন এটি সামগ্রিকভাবে তথ্য ব্যবস্থার উপর বিশ্বাসকে ক্ষুণ্ণ করে। ব্যবহারকারীরা সমস্ত উৎসের প্রতি ক্রমবর্ধমান সন্দিহান হয়ে উঠতে পারে, যার ফলে বিশ্বাসযোগ্য এবং অবিশ্বস্ত তথ্যের মধ্যে পার্থক্য করা কঠিন হয়ে পড়ে।

২. শিক্ষা ও শেখার উপর প্রভাব:

গবেষণার জন্য AI সরঞ্জামগুলির উপর নির্ভরতা, বিশেষ করে তরুণ ব্যবহারকারীদের মধ্যে, শিক্ষা এবং শেখার উপর ক্ষতিকর প্রভাব ফেলতে পারে। শিক্ষার্থীরা বিষয়গুলির একটি অগভীর ধারণা তৈরি করতে পারে, তথ্যের কার্যকর মূল্যায়নের জন্য প্রয়োজনীয় সমালোচনামূলক চিন্তাভাবনার দক্ষতার অভাব থাকতে পারে।

৩. AI ডেভেলপারদের নৈতিক দায়িত্ব:

এই সমীক্ষার ফলাফলগুলি AI ডেভেলপারদের নৈতিক দায়িত্বগুলি তুলে ধরে। তাদের অবশ্যই তাদের সিস্টেমে নির্ভুলতা এবং স্বচ্ছতাকে অগ্রাধিকার দিতে হবে এবং নিশ্চিত করতে হবে যে AI সরঞ্জামগুলি ভুল তথ্য ছড়াতে বা তথ্যের উৎসগুলির সততাকে ক্ষুণ্ণ করতে ব্যবহার করা হচ্ছে না।

৪. মিডিয়া সাক্ষরতা এবং সমালোচনামূলক চিন্তাভাবনার প্রয়োজনীয়তা:

AI-জেনারেটেড সামগ্রী দ্বারা প্রভাবিত একটি যুগে, মিডিয়া সাক্ষরতা এবং সমালোচনামূলক চিন্তাভাবনার দক্ষতা আগের চেয়ে আরও বেশি গুরুত্বপূর্ণ। ব্যক্তিদের অবশ্যই তথ্য সমালোচনামূলকভাবে মূল্যায়ন করতে, পক্ষপাতিত্ব সনাক্ত করতে এবং বিশ্বাসযোগ্য এবং অবিশ্বস্ত উৎসগুলির মধ্যে পার্থক্য করতে সক্ষম হতে হবে।

৫. গবেষণা এবং তথ্য পুনরুদ্ধারে AI-এর ভবিষ্যত:

গবেষণাটি গবেষণা এবং তথ্য পুনরুদ্ধারের জন্য AI সরঞ্জামগুলির ক্রমাগত বিকাশ এবং পরিমার্জনার প্রয়োজনীয়তার উপর জোর দেয়। যদিও AI-এর এই ক্ষেত্রগুলিতে বিপ্লব ঘটানোর সম্ভাবনা রয়েছে, তবে বর্তমান সীমাবদ্ধতাগুলি সমাধান করা এবং এই সরঞ্জামগুলি দায়িত্বশীল এবং নৈতিকভাবে ব্যবহার করা নিশ্চিত করা অত্যন্ত গুরুত্বপূর্ণ।

নির্দিষ্ট উদ্বেগগুলির উপর সম্প্রসারণ

আসুন গবেষণায় উত্থাপিত কিছু নির্দিষ্ট উদ্বেগ নিয়ে আরও গভীরে যাওয়া যাক:

ক. ‘হ্যালুসিনেশন’ সমস্যা:

AI চ্যাটবটগুলি ‘হ্যালুসিনেশন’ বা সম্পূর্ণ বানোয়াট তথ্য তৈরি করার প্রবণতার জন্য পরিচিত। এটি বিশেষভাবে উদ্ধৃতির প্রেক্ষাপটে সমস্যাযুক্ত, যেখানে নির্ভুলতা সর্বাগ্রে। সমীক্ষায় দেখা গেছে যে AI সরঞ্জামগুলি প্রায়শই রেফারেন্স লিঙ্ক তৈরি করে, যা এই সমস্যার গুরুত্ব তুলে ধরে।

খ. পক্ষপাতিত্বের সমস্যা:

AI মডেলগুলিকে বিশাল ডেটাসেটের উপর প্রশিক্ষণ দেওয়া হয়, যার মধ্যে পক্ষপাতিত্ব থাকতে পারে যা সমাজের কুসংস্কার বা বিকৃত দৃষ্টিভঙ্গি প্রতিফলিত করে। এই পক্ষপাতিত্বগুলি AI-এর প্রতিক্রিয়াগুলিতে প্রকাশিত হতে পারে, যার ফলে ভুল বা বিভ্রান্তিকর তথ্য পাওয়া যায়। AI সরঞ্জামগুলি সংবেদনশীল বা বিতর্কিত বিষয়গুলি নিয়ে গবেষণা করার জন্য ব্যবহার করা হলে এটি বিশেষভাবে উদ্বেগজনক।

গ. স্বচ্ছতার সমস্যা:

অনেক AI মডেলের অভ্যন্তরীণ কাজগুলি প্রায়শই অস্বচ্ছ থাকে, যার ফলে তারা কীভাবে তাদের সিদ্ধান্তে পৌঁছায় তা বোঝা কঠিন হয়ে পড়ে। স্বচ্ছতার এই অভাব সিস্টেমের ত্রুটি বা পক্ষপাতিত্ব সনাক্ত করা এবং সংশোধন করা কঠিন করে তোলে।

ঘ. কপিরাইট সমস্যা:

সমীক্ষায় দেখা গেছে যে কিছু AI সরঞ্জাম এমন উৎস থেকে সামগ্রী অ্যাক্সেস করে যা তাদের ব্লক করেছে, যা গুরুতর কপিরাইট উদ্বেগ উত্থাপন করে। AI ডেভেলপারদের অবশ্যই মেধা সম্পত্তির অধিকারকে সম্মান করতে হবে এবং নিশ্চিত করতে হবে যে তাদের সরঞ্জামগুলি কপিরাইট লঙ্ঘনের জন্য ব্যবহার করা হচ্ছে না।

সামনের পথ: দায়িত্বশীল AI উন্নয়ন এবং শিক্ষা

সামনের পথের জন্য একটি দ্বি-মুখী পদ্ধতির প্রয়োজন: দায়িত্বশীল AI উন্নয়ন এবং ব্যাপক শিক্ষা।

১. দায়িত্বশীল AI উন্নয়ন:

AI ডেভেলপারদের অবশ্যই তাদের সিস্টেমের নকশা এবং বাস্তবায়নে নির্ভুলতা, স্বচ্ছতা এবং নৈতিক বিবেচনার অগ্রাধিকার দিতে হবে। এর মধ্যে রয়েছে:

• উদ্ধৃতির নির্ভুলতা উন্নত করা: AI সরঞ্জামগুলি সঠিক এবং যাচাইযোগ্য উদ্ধৃতি সরবরাহ করে তা নিশ্চিত করার জন্য কৌশল তৈরি করা।
• পক্ষপাতিত্ব মোকাবেলা করা: AI মডেলগুলিতে পক্ষপাতিত্ব কমানোর জন্য পদ্ধতিগুলি বাস্তবায়ন করা এবং নিশ্চিত করা যে তারা ন্যায্য এবং সুষম তথ্য সরবরাহ করে।
• স্বচ্ছতা বাড়ানো: AI মডেলগুলিকে আরও স্বচ্ছ এবং ব্যাখ্যাযোগ্য করে তোলা, ব্যবহারকারীদের বুঝতে সাহায্য করে যে তারা কীভাবে তাদের সিদ্ধান্তে পৌঁছায়।
• কপিরাইটকে সম্মান করা: AI সরঞ্জামগুলি মেধা সম্পত্তির অধিকারকে সম্মান করে এবং অনুমতি ছাড়া কপিরাইটযুক্ত সামগ্রী অ্যাক্সেস বা ব্যবহার করে না তা নিশ্চিত করা।

২. ব্যাপক শিক্ষা:

ব্যক্তি, বিশেষ করে তরুণদের, AI সরঞ্জামগুলির ক্ষমতা এবং সীমাবদ্ধতা সম্পর্কে শিক্ষিত করতে হবে। এর মধ্যে রয়েছে:

• মিডিয়া সাক্ষরতার প্রচার: সমালোচনামূলক চিন্তাভাবনার দক্ষতা এবং বিভিন্ন উৎস থেকে তথ্যের মূল্যায়নের ক্ষমতা শেখানো।
• গবেষণা দক্ষতার উপর জোর দেওয়া: ঐতিহ্যগত গবেষণা পদ্ধতির গুরুত্ব এবং স্বাধীনভাবে তথ্য যাচাই করার ক্ষমতাকে শক্তিশালী করা।
• AI-এর সীমাবদ্ধতা বোঝা: ব্যবহারকারীদের AI-এর ভুল বা পক্ষপাতদুষ্ট তথ্য তৈরি করার সম্ভাবনা সম্পর্কে শিক্ষিত করা।
• দায়িত্বশীল ব্যবহারের উৎসাহিত করা: AI সরঞ্জামগুলির দায়িত্বশীল এবং নৈতিক ব্যবহারের প্রচার করা।

দায়িত্বশীল AI উন্নয়নকে ব্যাপক শিক্ষার সাথে একত্রিত করে, আমরা AI-এর সম্ভাবনাকে কাজে লাগাতে পারি এবং এর ঝুঁকিগুলি কমাতে পারি। লক্ষ্য হল এমন একটি ভবিষ্যত তৈরি করা যেখানে AI শেখার এবং আবিষ্কারের জন্য একটি মূল্যবান হাতিয়ার হিসাবে কাজ করে, ভুল তথ্য এবং বিভ্রান্তির উৎস হিসাবে নয়। এই সমীক্ষার ফলাফলগুলি সামনের কাজের একটি গুরুত্বপূর্ণ অনুস্মারক সরবরাহ করে। একটি সত্যিকারের তথ্যপূর্ণ এবং AI-সাক্ষর সমাজের দিকে যাত্রা করার জন্য চলমান সতর্কতা, সমালোচনামূলক মূল্যায়ন এবং দায়িত্বশীল উদ্ভাবনের প্রতিশ্রুতির প্রয়োজন।