প্রতিশ্রুতি ভঙ্গ এবং অপূর্ণ অঙ্গীকার
গুগলের জেমিনি ২.৫ প্রো প্রকাশের সাথে নিরাপত্তা গবেষণা প্রতিবেদন প্রকাশ না করা পূর্বের প্রতিশ্রুতির লঙ্ঘন হিসেবে বিবেচিত হচ্ছে। জুলাই ২০২৩-এ, বাইডেন প্রশাসনের ডাকা হোয়াইট হাউসের বৈঠকে গুগল অন্যান্য বিশিষ্ট এআই কোম্পানির সাথে বেশ কয়েকটি অঙ্গীকারে স্বাক্ষর করে। একটি মূল প্রতিশ্রুতি ছিল অত্যাধুনিক এআই মডেলগুলির গুরুত্বপূর্ণ প্রকাশের সাথে প্রতিবেদন প্রকাশ করা। জেমিনি ২.৫ প্রো-এর অগ্রগতির কারণে এটি সম্ভবত হোয়াইট হাউস অঙ্গীকারের আওতায় আসবে।
সেই সময় গুগল জানিয়েছিল যে এই প্রতিবেদনগুলিতে নিম্নলিখিত বিষয়গুলি অন্তর্ভুক্ত থাকবে:
- বিপজ্জনক ক্ষমতাগুলির মূল্যায়ন সহ নিরাপত্তা মূল্যায়ন।
- গুরুত্বপূর্ণ কর্মক্ষমতা সীমাবদ্ধতা যা উপযুক্ত ব্যবহারের ক্ষেত্রে প্রভাব ফেলতে পারে।
- ন্যায্যতা এবং পক্ষপাতিত্বের মতো সামাজিক ঝুঁকির উপর মডেলটির প্রভাব নিয়ে আলোচনা।
- মডেলটির স্থাপনার জন্য উপযুক্ততা মূল্যায়নের জন্য প্রতিপক্ষীয় পরীক্ষার ফলাফল।
অক্টোবর ২০২৩-এ জাপানের হিরোশিমায় অনুষ্ঠিত জি৭ বৈঠকের পর, গুগল এবং অন্যান্য সংস্থাগুলি উন্নত এআই বিকাশের জন্য একটি স্বেচ্ছাসেবী আচরণবিধি মেনে চলার প্রতিশ্রুতি দেয়। এই জি৭ কোড উন্নত এআই সিস্টেমের ক্ষমতা, সীমাবদ্ধতা এবং উপযুক্ত ও অনুপযুক্ত অ্যাপ্লিকেশনগুলি প্রকাশ্যে জানানোর ওপর জোর দিয়েছে। এর লক্ষ্য ছিল এআই ক্ষেত্রে স্বচ্ছতা ও জবাবদিহিতা বৃদ্ধি করা।
মে ২০২৪-এ, সিউলে অনুষ্ঠিত এআই সুরক্ষা বিষয়ক আন্তর্জাতিক সম্মেলনে গুগল তার প্রতিশ্রুতি পুনর্ব্যক্ত করে। কোম্পানিটি মডেলের ক্ষমতা, সীমাবদ্ধতা, উপযুক্ত এবং অনুপযুক্ত ব্যবহারের ক্ষেত্রগুলি প্রকাশ্যে জানাতে এবং ঝুঁকি মূল্যায়ন ও ফলাফল সম্পর্কে স্বচ্ছতা বজায় রাখতে প্রতিশ্রুতিবদ্ধ ছিল।
গুগলের প্রতিক্রিয়া এবং বিলম্বিত স্বচ্ছতা
নিরাপত্তা প্রতিবেদনটির অনুপস্থিতি সম্পর্কে জিজ্ঞাসার জবাবে, জেমিনি মডেল তৈরির দায়িত্বে থাকা গুগল ডিপমাইন্ডের একজন মুখপাত্র জানান, সর্বশেষ জেমিনি মডেলটি প্রকাশের আগে অভ্যন্তরীণ উন্নয়ন মূল্যায়ন এবং নিশ্চয়তা মূল্যায়ন সহ প্রি-রিলিজ টেস্টিংয়ের মধ্য দিয়ে গেছে। মুখপাত্র আরও জানান যে অতিরিক্ত সুরক্ষা তথ্য এবং মডেল কার্ডসহ একটি প্রতিবেদন ‘আসন্ন’। তবে, ২ এপ্রিল তারিখে প্রাথমিক বিবৃতি জারি করা সত্ত্বেও আজ পর্যন্ত কোনো মডেল কার্ড প্রকাশ করা হয়নি।
নিরাপত্তা প্রতিবেদন অবহেলার একটি বিস্তৃত প্রবণতা
এআই সুরক্ষা বিষয়ক প্রতিশ্রুতি পালনে শুধু গুগলই সমালোচিত হচ্ছে না। এই বছরের শুরুতে, ওপেনএআই তাদের ডিপ রিসার্চ মডেলের জন্য সময় মতো মডেল কার্ড প্রকাশ করতে ব্যর্থ হওয়ায় সমালোচিত হয়েছিল। তারা প্রকল্পের প্রাথমিক প্রকাশের কয়েক সপ্তাহ পরে একটি সিস্টেম কার্ড প্রকাশ করেছিল। একইভাবে, মেটার সাম্প্রতিক লামা ৪-এর নিরাপত্তা প্রতিবেদনটি খুব সংক্ষিপ্ত এবং বিস্তারিত তথ্যের অভাবে সমালোচিত হয়েছে।
এই ঘটনাগুলি এআই শিল্পের মধ্যে একটি উদ্বেগজনক প্রবণতাকে তুলে ধরে, যেখানে কিছু প্রধান ল্যাব তাদের মডেল প্রকাশের সাথে সঙ্গতি রেখে নিরাপত্তা প্রতিবেদনকে অগ্রাধিকার দিচ্ছে না। এটি বিশেষভাবে উদ্বেগের বিষয়, কারণ এই সংস্থাগুলি মার্কিন সরকার এবং বিশ্ব সম্প্রদায়ের কাছে এই ধরনের প্রতিবেদন তৈরি করার স্বেচ্ছাসেবী অঙ্গীকার করেছিল। এই অঙ্গীকারগুলি মূলত ২০২৩ সালে বাইডেন প্রশাসনের কাছে করা হয়েছিল এবং পরবর্তীতে হিরোশিমায় জি৭ সম্মেলনে গৃহীত এআই আচরণবিধি মেনে চলার প্রতিশ্রুতির মাধ্যমে আরও জোরদার করা হয়েছিল।
সেন্টার ফর ডেমোক্রেসি অ্যান্ড টেকনোলজির এআই গভর্নেন্স বিষয়ক উপদেষ্টা কেভিন ব্যাঙ্কস্টন হতাশা প্রকাশ করে বলেন, এই ব্যর্থতাগুলি জড়িত সংস্থাগুলির বিশ্বাসযোগ্যতাকে দুর্বল করে এবং দায়িত্বশীল এআই বিকাশের প্রতি তাদের অঙ্গীকার নিয়ে প্রশ্ন তোলে।
অনুত্তরিত প্রশ্ন এবং বাহ্যিক মূল্যায়ন
গুগলের মুখপাত্রের বক্তব্যে জেমিনি ২.৫ প্রো-কে যুক্তরাজ্যের এআই নিরাপত্তা ইনস্টিটিউট অথবা মার্কিন এআই নিরাপত্তা ইনস্টিটিউটের মাধ্যমে বাহ্যিক মূল্যায়নের জন্য জমা দেওয়া হয়েছে কিনা, সেই বিষয়ে কোনো সুনির্দিষ্ট উত্তর দেওয়া হয়নি। এর আগে গুগল তাদের জেমিনি মডেলের আগের প্রজন্মগুলিকে যুক্তরাজ্যের এআই নিরাপত্তা ইনস্টিটিউটের কাছে মূল্যায়নের জন্য জমা দিয়েছিল।
সিউল নিরাপত্তা সম্মেলনে গুগল ‘ফ্রন্টিয়ার এআই সেফটি কমিটমেন্ট’-এ স্বাক্ষর করে, যেখানে নিরাপত্তা মূল্যায়ন বাস্তবায়নের ক্ষেত্রে স্বচ্ছতা বজায় রাখার অঙ্গীকার করা হয়। এর মধ্যে শুধুমাত্র সেই ক্ষেত্রগুলি অন্তর্ভুক্ত ছিল, যেখানে এটি ঝুঁকি বাড়াতে পারে অথবা সমাজের উপকারের তুলনায় বেশি সংবেদনশীল বাণিজ্যিক তথ্য প্রকাশ করতে পারে। অঙ্গীকারে আরও বলা হয়েছে যে যে তথ্যগুলো প্রকাশ্যে আনা সম্ভব নয়, তা গুগল যে দেশে অবস্থিত, সেই দেশের সরকারের (অর্থাৎ যুক্তরাষ্ট্রের) সাথে শেয়ার করতে হবে।
কোম্পানিগুলো তাদের এআই মডেলের ঝুঁকি মূল্যায়ন প্রক্রিয়ায় সরকার, সুশীল সমাজ, শিক্ষাবিদ এবং জনসাধারণের মতো বাহ্যিক অভিনেতারা কীভাবে জড়িত, তা ব্যাখ্যা করতে প্রতিশ্রুতিবদ্ধ ছিল। গুগল জেমিনি ২.৫ প্রোকে মার্কিন বা যুক্তরাজ্যের সরকারি মূল্যায়নকারীদের কাছে জমা দিয়েছে কিনা, সে বিষয়ে সরাসরি প্রশ্নের উত্তর দিতে ব্যর্থ হওয়ায়এই প্রতিশ্রুতি লঙ্ঘনের সম্ভাবনা রয়েছে।
স্বচ্ছতার চেয়ে দ্রুত স্থাপনকে অগ্রাধিকার
নিরাপত্তা প্রতিবেদনের অনুপস্থিতি নিয়ে উদ্বেগ দেখা দিয়েছে যে গুগল সম্ভবত স্বচ্ছতা এবং যথাযথ সুরক্ষা মূল্যায়নের চেয়ে দ্রুত স্থাপনাকে অগ্রাধিকার দিচ্ছে। অক্সফোর্ড ইন্টারনেট ইনস্টিটিউটের অধ্যাপক এবং সিনিয়র গবেষক সান্দ্রা ওয়াচার দায়িত্বশীল গবেষণা এবং উদ্ভাবনে স্বচ্ছতার ওপর জোর দেন। তিনি অন্যান্য শিল্পের সাথে তুলনা করে বলেন, ‘যদি এটি একটি গাড়ি বা বিমান হত, তাহলে আমরা বলতাম না: চলুন, যত দ্রুত সম্ভব এটি বাজারে নিয়ে আসি এবং আমরা পরে নিরাপত্তার দিকগুলো দেখব।’ ওয়াচার উদ্বেগ প্রকাশ করে বলেন যে জেনারেটিভ এআই ক্ষেত্রে একটি প্রচলিত ধারণা রয়েছে যে ‘এটা আগে প্রকাশ করি এবং পরে সমস্যাগুলো নিয়ে চিন্তা করি, অনুসন্ধান করি ও ঠিক করি।’
রাজনৈতিক পরিবর্তন এবং প্রতিযোগিতামূলক চাপ
সাম্প্রতিক রাজনৈতিক পরিবর্তন এবং বৃহৎ প্রযুক্তি কোম্পানিগুলির মধ্যে তীব্র প্রতিদ্বন্দ্বিতা সম্ভবত আগের সুরক্ষা প্রতিশ্রুতি থেকে সরে আসার ক্ষেত্রে অবদান রাখছে, কারণ কোম্পানিগুলি দ্রুত এআই মডেল স্থাপন করতে চাইছে। ওয়াচার উল্লেখ করেন, ‘এই কোম্পানিগুলোর জন্য দ্রুত হওয়া, প্রথম হওয়া, সেরা হওয়া, প্রভাবশালী হওয়ার চাপ আগের চেয়ে অনেক বেশি,’ তিনি আরও বলেন যে শিল্পজুড়ে সুরক্ষা মান কমে যাচ্ছে।
এই পিছিয়ে যাওয়া মানগুলির কারণ হতে পারে প্রযুক্তি দেশগুলো এবং কিছু সরকারের মধ্যে এই ক্রমবর্ধমান উদ্বেগ যে এআই সুরক্ষা পদ্ধতি উদ্ভাবনকে বাধা দিচ্ছে। মার্কিন যুক্তরাষ্ট্রে ট্রাম্প প্রশাসন বাইডেন প্রশাসনের তুলনায় এআই নিয়ন্ত্রণের ক্ষেত্রে কম কঠোর পদ্ধতি গ্রহণের ইঙ্গিত দিয়েছে। নতুন প্রশাসন ইতিমধ্যে বাইডেন-যুগের এআই বিষয়ক একটি নির্বাহী আদেশ বাতিল করেছে এবং প্রযুক্তি নেতাদের সঙ্গে ঘনিষ্ঠ সম্পর্ক গড়ে তুলেছে। প্যারিসে অনুষ্ঠিত সাম্প্রতিক এআই সম্মেলনে মার্কিন ভাইস প্রেসিডেন্ট জেডি ভ্যান্স বলেন, ‘এআইয়ের প্রবৃদ্ধি-বান্ধব নীতি’ সুরক্ষার চেয়ে বেশি অগ্রাধিকার দেওয়া উচিত এবং এআই ‘এমন একটি সুযোগ যা ট্রাম্প প্রশাসন নষ্ট করবে না।’
একই সম্মেলনে যুক্তরাজ্য এবং মার্কিন যুক্তরাষ্ট্র উভয়ই কৃত্রিম বুদ্ধিমত্তার উপর একটি আন্তর্জাতিক চুক্তিতে স্বাক্ষর করতে অস্বীকৃতি জানায়, যা প্রযুক্তির বিকাশের ক্ষেত্রে একটি ‘উন্মুক্ত’, ‘অংশগ্রহণমূলক’ এবং ‘নৈতিক’ পদ্ধতির প্রচার করে।
স্বচ্ছতার জন্য সুস্পষ্ট চাহিদার প্রয়োজনীয়তা
ব্যাঙ্কস্টন জোর দিয়ে বলেন, ‘নতুন মডেল প্রকাশের সময় যদি আমরা এই কোম্পানিগুলোর কাছ থেকে তাদের সবচেয়ে মৌলিক সুরক্ষা এবং স্বচ্ছতার প্রতিশ্রুতিগুলিও পূরণ করার আশা করতে না পারি - যে প্রতিশ্রুতিগুলো তারা নিজেরাই স্বেচ্ছায় করেছে - তাহলে তারা স্পষ্টতই এই ক্ষেত্রে আধিপত্য বিস্তারের প্রতিযোগিতামূলক তাড়াহুড়োয় খুব দ্রুত মডেল প্রকাশ করছে।’ তিনি আরও বলেন যে এআই ডেভেলপাররা যখন এই প্রতিশ্রুতি পালনে ব্যর্থ হতে থাকবে, তখন আইনপ্রণেতাদের সুস্পষ্ট স্বচ্ছতার প্রয়োজনীয়তা তৈরি এবং প্রয়োগ করা উচিত, যা কোম্পানিগুলো এড়িয়ে যেতে পারবে না।
এআই শাসনের উপর বৃহত্তর প্রভাব
গুগলের জেমিনি ২.৫ প্রো এবং নিরাপত্তা প্রতিবেদনের অনুপস্থিতি নিয়ে বিতর্ক শক্তিশালী এআই শাসন কাঠামোর গুরুত্বপূর্ণ প্রয়োজনীয়তার উপর আলোকপাত করে। এই কাঠামোতে নিম্নলিখিত বিষয়গুলো অন্তর্ভুক্ত করা উচিত:
- স্বচ্ছতা: এআই ডেভেলপাররা তাদের মডেলগুলোর ক্ষমতা, সীমাবদ্ধতা এবং সম্ভাব্য ঝুঁকি সম্পর্কে স্বচ্ছ কিনা, তা নিশ্চিত করা।
- জবাবদিহিতা: এআই সিস্টেমের বিকাশ ও স্থাপনার জন্য সুস্পষ্ট জবাবদিহিতার ক্ষেত্র তৈরি করা।
- নিরাপত্তা: ক্ষতির ঝুঁকি কমাতে কঠোর নিরাপত্তা পরীক্ষা এবং মূল্যায়ন পদ্ধতি বাস্তবায়ন করা।
- নৈতিক বিবেচনা: এআই সিস্টেমের নকশা ও বিকাশে নৈতিক নীতি যুক্ত করা।
- গণ সম্পৃক্ততা: এআই এবং এর প্রভাব সম্পর্কে বৃহত্তর ধারণা তৈরি করতে জনসাধারণের সাথে যোগাযোগ করা।
- আন্তর্জাতিক সহযোগিতা: এআই শাসনের জন্য সাধারণ মান এবং সর্বোত্তম অনুশীলন তৈরি করতে আন্তর্জাতিকভাবে সহযোগিতা করা।
জেমিনি ২.৫ প্রো নিয়ে স্বচ্ছতার অভাব এআই শাসনের এই গুরুত্বপূর্ণ দিকগুলো অবহেলার সম্ভাব্য পরিণতি তুলে ধরে। পর্যাপ্ত স্বচ্ছতা এবং জবাবদিহিতা ছাড়া, এআই সিস্টেমের প্রকৃত প্রভাব মূল্যায়ন করা এবং সেগুলি একটি দায়িত্বশীল ও নৈতিক উপায়ে তৈরি এবং স্থাপন করা হয়েছে কিনা, তা নিশ্চিত করা কঠিন।
ভবিষ্যতের পথ: বৃহত্তর দায়িত্বের আহ্বান
এআই শিল্প একটি গুরুত্বপূর্ণ সন্ধিক্ষণে দাঁড়িয়ে আছে। এআই প্রযুক্তি ক্রমশ শক্তিশালী এবং ব্যাপক হওয়ার সাথে সাথে ডেভেলপারদের নিরাপত্তা, স্বচ্ছতা এবং নৈতিক বিষয়গুলোকে অগ্রাধিকার দেওয়া অপরিহার্য। জেমিনি ২.৫ প্রো নিয়ে বিতর্ক একটি অনুস্মারক হিসেবে কাজ করে যে স্বেচ্ছাসেবী প্রতিশ্রুতি সবসময় যথেষ্ট নয়। সরকার এবং নিয়ন্ত্রক সংস্থাগুলোকে সুস্পষ্ট মান নির্ধারণ এবং সম্মতি নিশ্চিত করতে আরও সক্রিয় ভূমিকা পালন করতে হবে।
এছাড়াও, এআই ডেভেলপারদের জনসাধারণের সাথে যোগাযোগ করা এবং এআই ও এর প্রভাব সম্পর্কে বৃহত্তর ধারণা তৈরি করা জরুরি। এর মধ্যে এআই সিস্টেমের সীমাবদ্ধতা এবং সম্ভাব্য ঝুঁকি সম্পর্কে স্বচ্ছ থাকা, সেইসাথে সেই ঝুঁকিগুলো কমাতে নেওয়া পদক্ষেপগুলো সম্পর্কে জানানো অন্তর্ভুক্ত। একসাথে কাজ করার মাধ্যমে এআই শিল্প, সরকার এবং জনসাধারণ নিশ্চিত করতে পারে যে এআই প্রযুক্তি এমনভাবে তৈরি এবং স্থাপন করা হয়েছে, যা সামগ্রিকভাবে সমাজের উপকার করে।