এআই: সিদ্ধান্ত গ্রহণে মানুষের ত্রুটিগুলির প্রতিচ্ছবি

সাম্প্রতিক গবেষণা কৃত্রিম বুদ্ধিমত্তার (এআই) একটি আকর্ষণীয় কিন্তু উদ্বেগজনক দিক তুলে ধরেছে: মানুষের সিদ্ধান্ত গ্রহণের ক্ষেত্রে যেমন অযৌক্তিক প্রবণতা দেখা যায়, তেমনই প্রবণতা এআই-এর মধ্যেও বিদ্যমান। এই আবিষ্কার এআই সম্পর্কে প্রচলিত ধারণা - যেখানে একে একটি উদ্দেশ্যপূর্ণ এবং পক্ষপাতহীন সরঞ্জাম হিসেবে মনে করা হয় - তার বিরুদ্ধে চ্যালেঞ্জ জানাচ্ছে এবং বিভিন্ন ক্ষেত্রে এর ব্যবহারিক উপযোগিতা পুনর্বিবেচনা করতে বাধ্য করছে।

একটি যুগান্তকারী গবেষণা, সুপরিচিত এআই সিস্টেম চ্যাটজিপিটি-র আচরণকে মানুষের মনোবিজ্ঞানের বিভিন্ন প্রকার জ্ঞানীয় পক্ষপাতের (কগনিটিভ বায়াস) নিরীখে বিচার করেছে। ম্যানুফ্যাকচারিং অ্যান্ড সার্ভিস অপারেশনস ম্যানেজমেন্ট নামক জার্নালে প্রকাশিত এই গবেষণায় দেখা গেছে যে চ্যাটজিপিটি প্রায় অর্ধেক পরিস্থিতিতে অযৌক্তিক সিদ্ধান্ত গ্রহণ করে। এই অযৌক্তিকতাগুলি “হট হ্যান্ড ফ্যালাসি”, “বেস-রেট নেগলেক্ট” এবং “সাঙ্ক কস্ট ফ্যালাসি”-র মতো পরিচিত পক্ষপাতের অন্তর্ভুক্ত। এই বিষয়গুলি গুরুত্বপূর্ণ সিদ্ধান্ত গ্রহণের ক্ষেত্রে এআই-এর নির্ভরযোগ্যতা এবং উপযোগিতা নিয়ে যথেষ্ট উদ্বেগ সৃষ্টি করে।

এআই-এর মধ্যে মানবীয় ত্রুটিগুলির উন্মোচন

কানাডা ও অস্ট্রেলিয়ার পাঁচটি স্বনামধন্য শিক্ষা প্রতিষ্ঠানের বিশেষজ্ঞদের একটি দল ওপেনএআই-এর জিপিটি-3.5 এবং জিপিটি-4-এর কার্যকারিতা কঠোরভাবে মূল্যায়ন করেছে। এই দুটি বৃহৎ ভাষা মডেল (লার্জ ল্যাঙ্গুয়েজ মডেল - এলএলএম) চ্যাটজিপিটিকে শক্তি যোগায়। ব্যাপক বিশ্লেষণে দেখা গেছে যে এই এলএলএমগুলি তাদের যুক্তিবোধ প্রক্রিয়ার মধ্যে “চিত্তাকর্ষক ধারাবাহিকতা” দেখালেও, তারা মানুষের মতো ত্রুটি এবং পক্ষপাত থেকে মুক্ত নয়।

গবেষকরা দক্ষতার সাথে উল্লেখ করেছেন যে এআই সিস্টেমের মধ্যে এই অন্তর্নিহিত ধারাবাহিকতা সুবিধা এবং অসুবিধা উভয়ই তৈরি করে। ধারাবাহিকতা যেখানে সুস্পষ্ট এবং সূত্র-ভিত্তিক সমাধান প্রয়োজন, এমন কাজগুলিকে সুগম করতে পারে, সেখানে এটি ব্যক্তিগত পছন্দ বা অনুভূতির উপর ভিত্তি করে তৈরি হওয়া সিদ্ধান্তের ক্ষেত্রে ঝুঁকির কারণ হতে পারে। এই ধরনের পরিস্থিতিতে, এআই কর্তৃক মানুষের পক্ষপাতের পুনরাবৃত্তি ত্রুটিপূর্ণ ফলাফল এবং ভুল সিদ্ধান্তের দিকে নিয়ে যেতে পারে।

গবেষণার প্রধান লেখক এবং আইভি বিজনেস স্কুলের অপারেশনস ম্যানেজমেন্টের সহকারী অধ্যাপক ইয়াং চেন এআই সরঞ্জামগুলির সঠিক ব্যবহার সম্পর্কে সচেতন থাকার ওপর জোর দিয়েছেন। তিনি সতর্ক করে বলেন যে এআই যেখানে সুনির্দিষ্ট গণনা এবং যৌক্তিক যুক্তির প্রয়োজন, এমন কাজে পারদর্শী, সেখানে আবেগপূর্ণ বা ব্যক্তিগত পছন্দের উপর ভিত্তি করে তৈরি হওয়া সিদ্ধান্ত গ্রহণের ক্ষেত্রে এর ব্যবহার অত্যন্ত সতর্কতার সাথে বিবেচনা করা উচিত।

এআই-এর মধ্যে মানবীয় পক্ষপাতের মডেল তৈরি

এআই সিস্টেমের মধ্যে মানবীয় পক্ষপাতের উপস্থিতি গভীরভাবে অনুসন্ধানের জন্য, গবেষকরা কতগুলি পরীক্ষার পরিকল্পনা করেন। এই পরীক্ষাগুলি ঝুঁকি এড়ানো, অতিরিক্ত আত্মবিশ্বাস এবং এন্ডোমেন্ট এফেক্ট-এর মতো সাধারণভাবে পরিচিত মানবীয় পক্ষপাতের প্রতিচ্ছবি তৈরি করে। তাঁরা চ্যাটজিপিটিকে এমন কিছু প্রম্পট দেন, যা এই পক্ষপাতের উদ্রেক করতে পারে। এরপর এআই-এর প্রতিক্রিয়াগুলি বিশ্লেষণ করে দেখেন যে এটি মানুষের মতো একই জ্ঞানীয় ফাঁদে পা দেয় কিনা।

বিজ্ঞানীরা প্রথাগত মনোবিজ্ঞান পরীক্ষা থেকে নেওয়া কিছু কাল্পনিক প্রশ্ন এলএলএমগুলির সামনে তুলে ধরেন। প্রশ্নগুলি বাস্তব বিশ্বের বাণিজ্যিক প্রেক্ষাপটে তৈরি করা হয়েছিল, যেমন ইনভেন্টরি ম্যানেজমেন্ট এবং সরবরাহকারী আলোচনা। এর উদ্দেশ্য ছিল এআই মানবীয় পক্ষপাতের অনুকরণ করে কিনা এবং বিভিন্ন ব্যবসায়িক ক্ষেত্রে এই পক্ষপাতের প্রতি তার সংবেদনশীলতা বজায় থাকে কিনা, তা নিশ্চিত করা।

ফলাফল থেকে জানা যায় যে জিপিটি-4 তার পূর্বসূরি জিপিটি-3.5-এর চেয়ে সুস্পষ্ট গাণিতিক সমাধানযুক্ত সমস্যা সমাধানে ভালো ফল করেছে। জিপিটি-4 সম্ভাব্যতা গণনা এবং যৌক্তিক যুক্তির প্রয়োজন হয় এমন পরিস্থিতিতে তুলনামূলকভাবে কম ভুল করেছে। তবে, আবেগপূর্ণ পরিস্থিতিতে, যেমন লাভের জন্য ঝুঁকিপূর্ণ বিকল্প অনুসরণ করা উচিত কিনা, তা নির্ধারণ করার ক্ষেত্রে চ্যাটবট প্রায়শই মানুষের অযৌক্তিক পছন্দগুলির প্রতিফলন ঘটিয়েছে।

নিশ্চিততার প্রতি এআই-এর পক্ষপাতিত্ব

বিশেষভাবে, গবেষণায় দেখা গেছে যে "জিপিটি-4 এমনকি মানুষের চেয়েও বেশি নিশ্চিততাকে অগ্রাধিকার দেয়।” এই পর্যবেক্ষণটি অস্পষ্ট কাজের সম্মুখীন হলে এআই-এর নিরাপদ এবং আরও অনুমানযোগ্য ফলাফলের প্রতি আগ্রহকে তুলে ধরে। নিশ্চিত হওয়ার এই প্রবণতা কিছু পরিস্থিতিতে সুবিধাজনক হতে পারে, তবে এটি উদ্ভাবনী সমাধান অনুসন্ধান বা অপ্রত্যাশিত পরিস্থিতির সাথে খাপ খাইয়ে নেওয়ার ক্ষেত্রে এআই-এর ক্ষমতাকে সীমিত করতে পারে।

গুরুত্বপূর্ণভাবে, প্রশ্নগুলি বিমূর্ত মনস্তাত্ত্বিক সমস্যা হিসাবে উপস্থাপন করা হোক বা কার্যকরী ব্যবসায়িক প্রক্রিয়া হিসাবে, চ্যাটবটগুলির আচরণ উল্লেখযোগ্যভাবে একই ছিল। এই ধারাবাহিকতা থেকে বোঝা যায় যে পরিলক্ষিত পক্ষপাতের ফল মুখস্থ করা উদাহরণ নয়, বরং এআই সিস্টেমগুলি কীভাবে যুক্তি দেয় এবং তথ্য প্রক্রিয়া করে তার একটি অন্তর্নিহিত দিক। গবেষণাটি এই সিদ্ধান্তে পৌঁছেছে যে এআই কর্তৃক প্রদর্শিত পক্ষপাতের কারণ তার যুক্তিবোধের মধ্যে নিহিত।

গবেষণার সবচেয়ে আশ্চর্যজনক বিষয়গুলির মধ্যে একটি ছিল জিপিটি-4 মাঝে মাঝে যেভাবে মানুষের মতো ভুলগুলিকে বাড়িয়ে তোলে। নিশ্চিতকরণ পক্ষপাতের কাজগুলিতে, জিপিটি-4 ধারাবাহিকভাবে পক্ষপাতদুষ্ট প্রতিক্রিয়া দিয়েছে। উপরন্তু, এটি জিপিটি 3.5-এর তুলনায় হট-হ্যান্ড ফ্যালাসির দিকে আরও বেশি ঝুঁকেছে, যা এলোমেলো ঘটনার মধ্যেও একটি законом খুঁজে বের করার শক্তিশালী প্রবণতা নির্দেশ করে।

পক্ষপাতের দৃষ্টান্ত পরিহার

আশ্চর্যের বিষয় হল, চ্যাটজিপিটি কিছু সাধারণ মানবীয় পক্ষপাতের প্রবণতা এড়িয়ে যেতে সক্ষমতা দেখিয়েছে, যার মধ্যে রয়েছে বেস-রেট নেগলেক্ট এবং সাঙ্ক-কস্ট ফ্যালাসি। বেস-রেট নেগলেক্ট ঘটে যখন ব্যক্তি ঘটনা-ভিত্তিক তথ্যের পরিবর্তে পরিসংখ্যানগত তথ্যকে উপেক্ষা করে। সাঙ্ক-কস্ট ফ্যালাসি তৈরি হয় যখন সিদ্ধান্ত গ্রহণ ইতিমধ্যে হওয়া খরচ দ্বারা প্রভাবিত হয়, যা যুক্তিসঙ্গত বিচারকে আড়াল করে।

গবেষকদের অনুমান, চ্যাটজিপিটির মানবীয় পক্ষপাতের কারণ হল এটি যে প্রশিক্ষণ ডেটার সংস্পর্শে আসে, তার মধ্যে মানুষের প্রদর্শিত জ্ঞানীয় পক্ষপাত এবং হিউরিস্টিকস অন্তর্ভুক্ত থাকে। এই প্রবণতাগুলি আরও শক্তিশালী হয় যখন মানুষের প্রতিক্রিয়া যুক্তিসঙ্গত প্রতিক্রিয়ার চেয়ে সম্ভাব্য প্রতিক্রিয়াগুলিকে বেশি গুরুত্ব দেয়। অস্পষ্ট কাজের সম্মুখীন হলে, এআই সরাসরি যুক্তির উপর নির্ভর করার পরিবর্তে মানবীয় যুক্তির দিকে ঝুঁকে থাকে।

এআই-এর পক্ষপাতগুলি থেকে মুক্তি

এআই-এর পক্ষপাতের সাথে যুক্ত ঝুঁকি কমাতে, গবেষকরা এর প্রয়োগের ক্ষেত্রে একটি বিচক্ষণ পদ্ধতির কথা বলেন। তাঁরা সুপারিশ করেন যে এআইকে সেই ক্ষেত্রগুলিতে ব্যবহার করা উচিত যেখানে এর শক্তি রয়েছে, যেমন নির্ভুলতা এবং পক্ষপাতহীন গণনার প্রয়োজন হয় এমন কাজ, অনেকটা ক্যালকুলেটরের মতো। তবে, যখন ফলাফলের বিষয়গুলি আবেগপূর্ণ বা কৌশলগত হয়ে ওঠে, তখন মানুষের তত্ত্বাবধান অত্যাবশ্যক।

চেন জোর দিয়ে বলেন, "আপনি যদি নির্ভুল, পক্ষপাতহীন সিদ্ধান্ত সমর্থন চান, তবে জিপিটিকে এমন জায়গায় ব্যবহার করুন যেখানে আপনি ইতিমধ্যে একটি ক্যালকুলেটরকে বিশ্বাস করেন।” তিনি আরও পরামর্শ দেন যে ব্যবহারকারীর প্রম্পটগুলিকে সংশোধন করে পরিচিত ত্রুটিগুলি ঠিক করার মতো মানবিক হস্তক্ষেপ অপরিহার্য। বিশেষত সেই পরিস্থিতিতে যেখানে সূক্ষ্ম বিচার এবং কৌশলগত চিন্তাভাবনার প্রয়োজন হয়।

কানাডার ম্যাকমাস্টার ইউনিভার্সিটির মানব সম্পদ ও ব্যবস্থাপনার সহযোগী অধ্যাপক এবং এই গবেষণার সহ-লেখক মীনা আন্ডিয়াপ্পান এআইকে একজন কর্মচারী হিসাবে বিবেচনা করার পরামর্শ দেন, যে গুরুত্বপূর্ণ সিদ্ধান্ত নেয়। তিনি এআই যেন দায়িত্বশীল এবং কার্যকরভাবে ব্যবহৃত হয়, তা নিশ্চিত করার জন্য তত্ত্বাবধান এবং নৈতিক নির্দেশিকাগুলির প্রয়োজনীয়তার উপর জোর দেন। এই ধরনের নির্দেশিকা প্রদানে ব্যর্থ হলে ত্রুটিপূর্ণ চিন্তাভাবনা স্বয়ংক্রিয় হয়ে যেতে পারে।

প্রভাব এবং বিবেচ্য বিষয়

গবেষণার ফলাফলগুলি বিভিন্ন সেক্টরে এআই সিস্টেমের বিকাশ এবং স্থাপনার জন্য গভীর প্রভাব ফেলে। এআই যে মানবীয় পক্ষপাতের শিকার হতে পারে, এই বিষয়টি নির্দিষ্ট কাজের জন্য এর উপযুক্ততা সাবধানে মূল্যায়ন করার এবং সম্ভাব্য ঝুঁকি কমাতে সুরক্ষাব্যবস্থা বাস্তবায়নের ওপর জোর দেয়।

যে সংস্থাগুলি সিদ্ধান্ত গ্রহণের জন্য এআই-এর উপর নির্ভর করে, তাদের পক্ষপাতের সম্ভাবনা সম্পর্কে সচেতন হওয়া উচিত এবং এটি মোকাবেলার জন্য পদক্ষেপ নেওয়া উচিত। এর মধ্যে পক্ষপাত কমাতে অতিরিক্ত প্রশিক্ষণ ডেটা সরবরাহ করা, পক্ষপাত-প্রবণতা কম এমন অ্যালগরিদম ব্যবহার করা বা এআই সিদ্ধান্তগুলি ন্যায্য এবং নির্ভুল তা নিশ্চিত করার জন্য মানবিক তত্ত্বাবধান প্রয়োগ করা অন্তর্ভুক্ত থাকতে পারে।

গবেষণাটি এআই পক্ষপাতিত্বের কারণ এবং পরিণতি সম্পর্কে আরও গবেষণার প্রয়োজনীয়তার ওপরও জোর দেয়। এআই সিস্টেমগুলি কীভাবে পক্ষপাতিত্ব তৈরি করে, সে সম্পর্কে আরও ভালোভাবে ধারণা অর্জন করে আমরা প্রথম থেকেই এটি প্রতিরোধের কৌশল তৈরি করতে পারি।

দায়িত্বশীল এআই বাস্তবায়নের জন্য সুপারিশ

এআই সিস্টেমের দায়িত্বশীল এবং কার্যকর বাস্তবায়ন নিশ্চিত করতে, নিম্নলিখিত সুপারিশগুলি বিবেচনা করা উচিত:

• মোতায়েন করার আগে সম্ভাব্য পক্ষপাতের জন্য এআই সিস্টেমগুলি পুঙ্খানুপুঙ্খভাবে মূল্যায়ন করুন। এর মধ্যে এআই সিস্টেমটিকে বিভিন্ন ডেটাসেট এবং পরিস্থিতিতে পরীক্ষা করা অন্তর্ভুক্ত, যাতে এমন কোনও ক্ষেত্র চিহ্নিত করা যায় যেখানে এটি পক্ষপাতের শিকার হতে পারে।
• পক্ষপাত কমাতে অতিরিক্ত প্রশিক্ষণ ডেটা সরবরাহ করুন। প্রশিক্ষণ ডেটা যত বেশি ভিন্ন এবং প্রতিনিধিত্বমূলক হবে, এআই সিস্টেমের পক্ষপাতদুষ্ট হওয়ার সম্ভাবনা তত কম।
• কম পক্ষপাতপ্রবণ অ্যালগরিদম ব্যবহার করুন। কিছু অ্যালগরিদম অন্যদের তুলনায় পক্ষপাতের জন্য বেশি সংবেদনশীল। একটি নির্দিষ্ট কাজের জন্য একটি অ্যালগরিদম নির্বাচন করার সময়, এর পক্ষপাতের সম্ভাবনা বিবেচনা করা গুরুত্বপূর্ণ।
• এআই সিদ্ধান্তগুলি ন্যায্য এবং নির্ভুল তা নিশ্চিত করার জন্য মানবিক তত্ত্বাবধান প্রয়োগ করুন। মানবিক তত্ত্বাবধান এআই সিদ্ধান্তে থাকা যেকোনো পক্ষপাতিত্ব চিহ্নিত করতে এবং সংশোধন করতে সাহায্য করতে পারে।
• এআই ব্যবহারের জন্য স্পষ্ট নৈতিক নির্দেশিকা প্রতিষ্ঠা করুন। এই নির্দেশিকাগুলিতে ন্যায্যতা, জবাবদিহিতা এবং স্বচ্ছতার মতো বিষয়গুলি অন্তর্ভুক্ত করা উচিত।

এই সুপারিশগুলি অনুসরণ করে, সংস্থাগুলি নিশ্চিত করতে পারে যে এআই সিস্টেমগুলি এমনভাবে ব্যবহার করা হচ্ছে যা উপকারী এবং দায়িত্বশীল উভয়ই। এই গবেষণা থেকে প্রাপ্ত অন্তর্দৃষ্টিগুলি একটি মূল্যবান অনুস্মারক হিসাবে কাজ করে যে এআই প্রচুর সম্ভাবনা ধারণ করলেও, নৈতিক নীতির প্রতি সতর্কতা এবং প্রতিশ্রুতি সহ এরবাস্তবায়নের দিকে যাওয়া অত্যন্ত গুরুত্বপূর্ণ। তবেই আমরা সম্ভাব্য ফাঁদ থেকে নিজেদের রক্ষা করে এআই-এর সম্পূর্ণ সম্ভাবনাকে কাজে লাগাতে পারব।