কৃত্রিম বুদ্ধিমত্তার নিরলস অগ্রগতি আর Silicon Valley-র গবেষণাগার এবং বোর্ডরুমের মধ্যে সীমাবদ্ধ নেই; এটি দ্রুততম সময়ে নবীন প্রজন্মের হাতে পৌঁছে যাচ্ছে। Google, ডিজিটাল জগতের এক দৈত্য, তার শক্তিশালী Gemini AI-এর একটি সংস্করণ বিশেষভাবে ১৩ বছরের কম বয়সী শিশুদের জন্য তৈরি করতে প্রস্তুত বলে মনে হচ্ছে। কোড বিশ্লেষণের মাধ্যমে উদ্ঘাটিত এই উন্নয়নটি ক্রমবর্ধমান সামাজিক উদ্বেগ এবং শিশু কল্যাণ আইনজীবীদের সুস্পষ্ট সতর্কতার মধ্যে এসেছে, যা তরুণ, বিকাশমান মনের উপর অত্যাধুনিক চ্যাটবটগুলির সম্ভাব্য প্রভাব সম্পর্কে। এই পদক্ষেপটি একটি উল্লেখযোগ্য পরিবর্তনের ইঙ্গিত দেয়, পুরনো, সরল প্রযুক্তিকে এমন কিছু দিয়ে প্রতিস্থাপন করে যা অনেক বেশি সক্ষম এবং সম্ভবত, অনেক বেশি বিপজ্জনক।
অপ্রতিরোধ্য ঢেউ: খেলার মাঠে AI-এর প্রবেশ
শিশুদের জন্য ডিজিটাল ল্যান্ডস্কেপ এক গভীর পরিবর্তনের মধ্য দিয়ে যাচ্ছে। তুলনামূলকভাবে সরল, কমান্ড-ভিত্তিক ভার্চুয়াল অ্যাসিস্ট্যান্টের যুগ শেষ হয়ে আসছে। এর জায়গায় আসছে জেনারেটিভ AI-এর যুগ – এমন সিস্টেম যা কথোপকথন করতে, তৈরি করতে এবং মানুষের মিথস্ক্রিয়াকে বিস্ময়কর বিশ্বস্ততার সাথে অনুকরণ করার জন্য ডিজাইন করা হয়েছে। শিশুরা, সহজাতভাবে কৌতূহলী এবং ক্রমবর্ধমানভাবে ডিজিটালভাবে অভ্যস্ত, ইতিমধ্যেই এই প্রযুক্তিগুলির সাথে যোগাযোগ করছে। ইংল্যান্ডের চিলড্রেন’স কমিশনার যেমন স্পষ্টভাবে উল্লেখ করেছেন, একটি স্পষ্ট উদ্বেগ রয়েছে যে তরুণরা পরামর্শ এবং উত্তরের জন্য পিতামাতা বা বিশ্বস্ত প্রাপ্তবয়স্কদের সাথে জড়িত হওয়ার পরিবর্তে AI চ্যাটবটগুলির তাত্ক্ষণিক, আপাতদৃষ্টিতে জ্ঞানী প্রতিক্রিয়াগুলির দিকে ঝুঁকতে পারে। কমিশনারের মর্মস্পর্শী আবেদন – ‘যদি আমরা চাই শিশুরা জীবনের প্রাণবন্ত টেকনিকালার অনুভব করুক… আমাদের প্রমাণ করতে হবে যে আমরা Chat GPT-এর চেয়ে দ্রুত তাদের প্রতিক্রিয়া জানাব’ – চ্যালেঞ্জটিকে তুলে ধরে। শিশুরা তথ্য এবং সংযোগ চায়, এবং AI একটি সর্বদা উপস্থিত, বিচারহীন এবং দ্রুত উৎস সরবরাহ করে।
এই প্রেক্ষাপটেই Google-এর ‘Gemini for Kids’-এর উন্নয়ন সামনে আসে। একদিকে, এটিকে একটি সক্রিয়, সম্ভাব্য দায়িত্বশীল পদক্ষেপ হিসাবে দেখা যেতে পারে। একটি ডেডিকেটেড, সম্ভবত প্রাচীর-ঘেরা পরিবেশ তৈরি করে, Google পিতামাতাদের এমন এক স্তরের তত্ত্বাবধান এবং নিয়ন্ত্রণ দিতে পারে যা মূলত অনুপস্থিত যখন শিশুরা অনলাইনে উপলব্ধ সাধারণ-উদ্দেশ্য AI সরঞ্জামগুলি অ্যাক্সেস করে। যুক্তিটি হল যে যদি শিশুদের AI-এর সাথে মিথস্ক্রিয়া অনিবার্য হয়, তবে অন্তর্নির্মিত সুরক্ষা এবং পিতামাতার পরিচালনার বৈশিষ্ট্য সহ একটি প্ল্যাটফর্ম সরবরাহ করা ভাল।
এই উদ্যোগটি Google-এর নিজস্ব কৌশলগত সিদ্ধান্তের দ্বারা আরও প্রয়োজনীয় হয়ে উঠেছে। কোম্পানি সক্রিয়ভাবে তার আসল Google Assistant – একটি পরিচিত, মূলত নন-AI টুল – কে অনেক বেশি উন্নত Gemini-এর পক্ষে পর্যায়ক্রমে সরিয়ে দিচ্ছে। Google ইকোসিস্টেমে একীভূত পরিবারগুলির জন্য, বিশেষ করে যারা Family Link-এর মাধ্যমে পরিচালিত Android ডিভাইস এবং Google অ্যাকাউন্ট ব্যবহার করে, এই রূপান্তর ঐচ্ছিক নয়। পুরনো Assistant বিবর্ণ হওয়ার সাথে সাথে Gemini ডিফল্ট হয়ে যায়। এই স্থানান্তরটি তরুণ ব্যবহারকারীদের জন্য সুরক্ষামূলক ব্যবস্থা তৈরির নির্দেশ দেয় যারা অনিবার্যভাবে এই আরও শক্তিশালী AI-এর মুখোমুখি হবে। সরল Assistant-এর জন্য ডিজাইন করা বিদ্যমান পিতামাতার নিয়ন্ত্রণগুলির Gemini-এর মতো একটি জেনারেটিভ AI দ্বারা উত্থাপিত অনন্য চ্যালেঞ্জগুলি মোকাবেলা করার জন্য উল্লেখযোগ্য অভিযোজন প্রয়োজন। পুরনো কাঠামোটি সামনের জটিলতার জন্য সজ্জিত নয়।
Gemini-এর ক্ষমতা: সক্ষমতা এবং উদ্বেগ বৃদ্ধি
বিদায়ী Google Assistant এবং আগত Gemini-এর মধ্যে পার্থক্য বোঝা বর্ধিত ঝুঁকিগুলি উপলব্ধি করার জন্য অত্যন্ত গুরুত্বপূর্ণ। আসল Assistant প্রাথমিকভাবে পূর্ব-প্রোগ্রাম করা প্রতিক্রিয়া এবং সরাসরি কমান্ড সম্পাদনের উপর কাজ করত। এটি আপনাকে আবহাওয়া বলতে পারত, টাইমার সেট করতে পারত, বা একটি নির্দিষ্ট গান চালাতে পারত। এর ক্ষমতা, যদিও দরকারী, মৌলিকভাবে সীমিত এবং অনুমানযোগ্য ছিল।
Gemini একটি কোয়ান্টাম লিপ প্রতিনিধিত্ব করে। বৃহৎ ভাষা মডেল (LLMs)-এর উপর নির্মিত, এটি একটি টাস্ক-ভিত্তিক রোবটের চেয়ে কথোপকথন অংশীদারের মতো অনেক বেশি কাজ করে। এটি টেক্সট তৈরি করতে পারে, গল্প লিখতে পারে, সংলাপে নিযুক্ত হতে পারে, জটিল প্রশ্নের উত্তর দিতে পারে এবং এমনকি এমন উত্থানশীল ক্ষমতা প্রদর্শন করতে পারে যা এর নির্মাতাদের অবাক করে দেয়। এই শক্তি, যাইহোক, একটি দ্বি-ধারী তলোয়ার, বিশেষ করে যেখানে শিশুরা জড়িত।
LLMs-এর প্রকৃতি অন্তর্নিহিত ঝুঁকি প্রবর্তন করে:
- ভুল তথ্য এবং ‘হ্যালুসিনেশন’: Gemini, সমস্ত বর্তমান LLMs-এর মতো, মানুষের অর্থে জিনিসগুলি ‘জানে’ না। এটি তার প্রশিক্ষিত বিশাল ডেটাসেটের উপর ভিত্তি করে শব্দের সম্ভাব্য ক্রমগুলির পূর্বাভাস দেয়। এটি এটিকে বিশ্বাসযোগ্য-শোনা কিন্তু সম্পূর্ণ মিথ্যা তথ্য তৈরি করতে পরিচালিত করতে পারে, যা প্রায়শই ‘হ্যালুসিনেশন’ হিসাবে উল্লেখ করা হয়। ঐতিহাসিক তথ্য বা বৈজ্ঞানিক ব্যাখ্যার জন্য জিজ্ঞাসা করা একটি শিশু আত্মবিশ্বাসের সাথে সরবরাহ করা ভুল তথ্য পেতে পারে।
- পক্ষপাত বৃদ্ধি: LLMs-এর জন্য ব্যবহৃত প্রশিক্ষণ ডেটা বাস্তব-বিশ্বের পাঠ্যে উপস্থিত পক্ষপাতগুলিকে প্রতিফলিত করে যা এটি গ্রহণ করেছে। Gemini অসাবধানতাবশত স্টেরিওটাইপগুলিকে স্থায়ী করতে পারে বা সংবেদনশীল বিষয়গুলিতে তির্যক দৃষ্টিভঙ্গি উপস্থাপন করতে পারে, সমালোচনামূলক প্রেক্ষাপট ছাড়াই সূক্ষ্মভাবে একটি শিশুর বোঝাকে আকার দেয়।
- অনুপযুক্ত বিষয়বস্তু তৈরি: যদিও সুরক্ষা নিঃসন্দেহে তৈরি করা হচ্ছে, Gemini-এর জেনারেটিভ প্রকৃতি মানে এটি সম্ভাব্যভাবে এমন সামগ্রী তৈরি করতে পারে – গল্প, বিবরণ, বা সংলাপ – যা শিশুদের জন্য অনুপযুক্ত, হয় একটি প্রম্পট ভুল বোঝার মাধ্যমে বা বিষয়বস্তু ফিল্টারগুলিতে ফাঁক খুঁজে পাওয়ার মাধ্যমে।
- সত্যিকারের বোঝার অভাব: Gemini কথোপকথন অনুকরণ করে; এটি মানুষের মতো অর্থ বা প্রসঙ্গ বোঝে না। এটি সত্যিই একটি শিশুর মানসিক অবস্থা পরিমাপ করতে বা সংবেদনশীল ব্যক্তিগত প্রকাশের সূক্ষ্মতা বুঝতে পারে না। এটি এমন প্রতিক্রিয়াগুলির দিকে নিয়ে যেতে পারে যা টোনালি অনুপযুক্ত, অসহায়, বা এমনকি সূক্ষ্ম পরিস্থিতিতে সম্ভাব্য ক্ষতিকারক।
- অতিরিক্ত নির্ভরতা এবং অ্যানথ্রোপোমর্ফিজম: Gemini-এর মতো AI-এর কথোপকথন সাবলীলতা শিশুদের এটিকে অ্যানথ্রোপোমর্ফাইজ করতে উৎসাহিত করতে পারে – এটিকে বন্ধু বা সংবেদনশীল সত্তা হিসাবে বিবেচনা করতে। এটি একটি অস্বাস্থ্যকর নির্ভরতা তৈরি করতে পারে, সম্ভাব্যভাবে বাস্তব-বিশ্বের সামাজিক দক্ষতা এবং মানসিক বুদ্ধিমত্তার বিকাশে বাধা দেয়।
এই ঝুঁকিগুলি পুরনো Google Assistant-এর তুলনায় Gemini-এর সাথে উল্লেখযোগ্যভাবে বেশি প্রকট। এই পরিবর্তনের জন্য বিদ্যমান পিতামাতার নিয়ন্ত্রণগুলি কেবল পোর্ট করার চেয়ে সুরক্ষা সম্পর্কে অনেক বেশি শক্তিশালী এবং সূক্ষ্ম পদ্ধতির প্রয়োজন।
কোডের মধ্যে ফিসফিস: একটি কঠোর সতর্কতা উদ্ভূত হয়
Android Authority-এর সাথে সহযোগিতাকারী বিশেষজ্ঞদের দ্বারা পরিচালিত Android-এ Google অ্যাপের কোডের সাম্প্রতিক তদন্তগুলি ‘Gemini for Kids’-এর জন্য Google-এর অভ্যন্তরীণ প্রস্তুতি সম্পর্কে আলোকপাত করেছে। ব্যবহারকারী ইন্টারফেসের জন্য উদ্দিষ্ট নিষ্ক্রিয় কোড স্ট্রিংগুলির মধ্যে সমাহিত, পরিকল্পিত বার্তা প্রকাশকারী খণ্ডগুলি রয়েছে:
- শিরোনাম যেমন:
Assistant_scrappy_welcome_screen_title_for_kid_users— Google Assistant থেকে Gemini-তে স্যুইচ করুন - বর্ণনা যেমন:
Assistant_welcome_screen_description_for_kid_users— গল্প তৈরি করুন, প্রশ্ন জিজ্ঞাসা করুন, হোমওয়ার্কের সাহায্য পান এবং আরও অনেক কিছু। - গুরুত্বপূর্ণভাবে, একটি ফুটার বার্তা:
Assistant_welcome_screen_footer_for_kid_users— Google শর্তাবলী প্রযোজ্য। Google আপনার ডেটা Google গোপনীয়তা নীতি এবং Gemini Apps গোপনীয়তা বিজ্ঞপ্তিতে বর্ণিত হিসাবে প্রক্রিয়া করবে। Gemini মানুষ নয় এবং ভুল করতে পারে, এমনকি মানুষ সম্পর্কেও, তাই পুনরায় যাচাই করুন।
এই সুস্পষ্ট সতর্কতা – ‘Gemini মানুষ নয় এবং ভুল করতে পারে, এমনকি মানুষ সম্পর্কেও, তাই পুনরায় যাচাই করুন’ – সম্ভবত প্রকাশিত সবচেয়ে গুরুত্বপূর্ণ তথ্য। এটি ব্যবহারকারীর অভিজ্ঞতায় সরাসরি এম্বেড করা AI-এর ভ্রান্তি সম্পর্কে Google-এর নিজস্ব স্বীকৃতি উপস্থাপন করে।
যাইহোক, এই সতর্কতার উপস্থিতি গভীর প্রশ্ন উত্থাপন করে। যদিও স্বচ্ছতা প্রশংসনীয়, শিশুদের দিকে নির্দেশিত হলে এই ধরনের দাবিত্যাগের কার্যকারিতা অত্যন্ত বিতর্কিত। মূল চ্যালেঞ্জটি শিশুর উপর স্থাপিত প্রত্যাশার মধ্যে নিহিত: AI দ্বারা প্রদত্ত তথ্য ‘পুনরায় যাচাই’ করার ক্ষমতা। এটি একটি স্তরের সমালোচনামূলক চিন্তাভাবনা, মিডিয়া সাক্ষরতা এবং গবেষণা দক্ষতার পূর্বানুমান করে যা অনেক শিশু, বিশেষ করে ১৩ বছরের কম বয়সীরা, এখনও বিকাশ করেনি।
- একটি ৮ বছর বয়সী শিশুর কাছে ‘পুনরায় যাচাই’ মানে কী? তারা তথ্য যাচাই করতে কোথায় যায়? তারা বিকল্প উৎসের বিশ্বাসযোগ্যতা কীভাবে মূল্যায়ন করে?
- একটি শিশু কি একটি বাস্তব ত্রুটি এবং ‘মানুষ সম্পর্কে’ একটি সূক্ষ্ম ভুলের মধ্যে পার্থক্য করতে পারে? পক্ষপাত, সূক্ষ্ম ভুল, বা চরিত্রের ভুল উপস্থাপনা বোঝা অত্যাধুনিক বিশ্লেষণাত্মক দক্ষতার প্রয়োজন।
- সতর্কতাটি কি অসাবধানতাবশত তরুণ ব্যবহারকারীর উপর দায়িত্বের বোঝা খুব বেশি চাপিয়ে দেয়? ব্যবহারকারীদের জ্ঞান দিয়ে ক্ষমতায়ন করা গুরুত্বপূর্ণ হলেও, AI আউটপুট ক্রমাগত যাচাই করার জন্য একটি শিশুর ক্ষমতার উপর নির্ভর করা একটি অনিশ্চিত নিরাপত্তা কৌশল বলে মনে হয়।
এই সতর্কতাটি আসল Google Assistant-এর জন্য অনেক কম গুরুত্বপূর্ণ ছিল, যার বাস্তব ত্রুটিগুলি সাধারণত আরও সরল ছিল (যেমন, একটি কমান্ড ভুল ব্যাখ্যা করা) সম্ভাব্যভাবে সম্পূর্ণরূপে বানোয়াট আখ্যান বা সত্য হিসাবে উপস্থাপিত পক্ষপাতদুষ্ট দৃষ্টিভঙ্গি তৈরি করার পরিবর্তে। Gemini-এর জন্য এই নির্দিষ্ট সতর্কতার অন্তর্ভুক্তি প্রযুক্তির মৌলিকভাবে ভিন্ন প্রকৃতি এবং জড়িত ঝুঁকির নতুন স্তরগুলিকে তুলে ধরে। এটি পরামর্শ দেয় যে Google Gemini-এর উল্লেখযোগ্য উপায়ে ভুল করার সম্ভাবনা সম্পর্কে সচেতন, এমনকি ব্যক্তিদের নিয়ে আলোচনা করার সময়ও, এবং ব্যবহারকারীর পরামর্শের মাধ্যমে এটি প্রশমিত করার চেষ্টা করছে।
পিতামাতার নিয়ন্ত্রণ সংক্রান্ত জটিলতা: একটি প্রয়োজনীয় কিন্তু অসম্পূর্ণ সমাধান
Google-এর প্রতিষ্ঠিত পিতামাতার নিয়ন্ত্রণ পরিকাঠামো, সম্ভবত Family Link-এর সাথে ‘Gemini for Kids’-কে একীভূত করা একটি যৌক্তিক এবং প্রয়োজনীয় পদক্ষেপ। এটি পিতামাতাদের অ্যাক্সেস পরিচালনা, সম্ভাব্য সীমা নির্ধারণ (যদিও একটি কথোপকথনমূলক AI-এর জন্য এই সীমাগুলির প্রকৃতি অস্পষ্ট থাকে) এবং ব্যবহার নিরীক্ষণের জন্য একটি পরিচিত ইন্টারফেস সরবরাহ করে। পিতামাতাদের টগল এবং ড্যাশবোর্ড সরবরাহ করা অবশ্যই ChatGPT-এর মতো প্ল্যাটফর্মগুলির তুলনায় একটি সুবিধা উপস্থাপন করে, যেগুলিতে বর্তমানে একটি পারিবারিক ইকোসিস্টেমের মধ্যে শিশু অ্যাক্সেস পরিচালনার জন্য বিশেষভাবে ডিজাইন করা শক্তিশালী, সমন্বিত পিতামাতার নিয়ন্ত্রণের অভাব রয়েছে।
এই নিয়ন্ত্রণ স্তরটি বেসলাইন নিরাপত্তা এবং জবাবদিহিতা প্রতিষ্ঠার জন্য অপরিহার্য। এটি পিতামাতাদের তাদের সন্তান AI-এর সাথে জড়িত হবে কিনা এবং কীভাবে হবে সে সম্পর্কে অবগত সিদ্ধান্ত নেওয়ার ক্ষমতা দেয়। যাইহোক, পিতামাতার নিয়ন্ত্রণকে একটি প্যানাসিয়া হিসাবে দেখা এড়ানো অত্যন্ত গুরুত্বপূর্ণ।
বেশ কিছু চ্যালেঞ্জ রয়ে গেছে:
- জেনারেটিভ ফাঁক: ঐতিহ্যগত নিয়ন্ত্রণগুলি প্রায়শই নির্দিষ্ট ওয়েবসাইট বা কীওয়ার্ড ব্লক করার উপর ফোকাস করে। জেনারেটিভ AI বাহ্যিক ব্লক করা সাইটগুলি অ্যাক্সেস করার উপর নির্ভর করে না; এটি অভ্যন্তরীণভাবে সামগ্রী তৈরি করে। আপাতদৃষ্টিতে নিরীহ প্রম্পটের উপর ভিত্তি করে অনুপযুক্ত সামগ্রীর উৎপাদন কতটা কার্যকরভাবে নিয়ন্ত্রণগুলি প্রতিরোধ করতে পারে?
- বিবর্তনের সাথে তাল মিলিয়ে চলা: AI মডেলগুলি ক্রমাগত আপডেট এবং পুনরায় প্রশিক্ষিত হয়। আজ বাস্তবায়িত সুরক্ষা এবং নিয়ন্ত্রণগুলি AI-এর ক্ষমতা বিকশিত হওয়ার সাথে সাথে কম কার্যকর হয়ে উঠতে পারে। শক্তিশালী সুরক্ষা বজায় রাখার জন্য Google-এর পক্ষ থেকে অবিচ্ছিন্ন সতর্কতা এবং অভিযোজন প্রয়োজন।
- মিথ্যা নিরাপত্তার ঝুঁকি: পিতামাতার নিয়ন্ত্রণের উপস্থিতি কিছু পিতামাতাকে নিরাপত্তার একটি মিথ্যা অনুভূতিতে প্রলুব্ধ করতে পারে, যার ফলে তারা তাদের সন্তানের AI-এর সাথে মিথস্ক্রিয়াগুলির প্রকৃত বিষয়বস্তু এবং প্রকৃতি সম্পর্কে কম সতর্ক হতে পারে।
- বিষয়বস্তু ফিল্টারিংয়ের বাইরে: ঝুঁকিগুলি কেবল অনুপযুক্ত বিষয়বস্তুর বাইরেও প্রসারিত। অতিরিক্ত নির্ভরতা, সমালোচনামূলক চিন্তাভাবনার উপর প্রভাব এবং মানসিক কারসাজি সম্পর্কে উদ্বেগগুলি কেবলমাত্র প্রযুক্তিগত নিয়ন্ত্রণের মাধ্যমে সমাধান করা কঠিন। এগুলির জন্য চলমান কথোপকথন, শিক্ষা এবং পিতামাতার সম্পৃক্ততা প্রয়োজন।
যদিও Google-এর বিদ্যমান Family Link সিস্টেমকে কাজে লাগানোর ক্ষমতা একটি কাঠামোগত সুবিধা প্রদান করে, শিশুদের জন্য জেনারেটিভ AI-এর অনন্য ঝুঁকিগুলি প্রশমিত করতে এই নিয়ন্ত্রণগুলির কার্যকারিতা এখনও প্রমাণিত হয়নি। এটি একটি প্রয়োজনীয় ভিত্তি, তবে নিরাপত্তার জন্য প্রয়োজনীয় সম্পূর্ণ কাঠামো নয়।
তদন্তের দীর্ঘ ছায়া: শিল্প এবং নিয়ন্ত্রকরা লক্ষ্য করছে
Google-এর শিশু-কেন্দ্রিক AI-তে উদ্যোগ একটি শূন্যতার মধ্যে ঘটে না। বৃহত্তর প্রযুক্তি শিল্প, এবং বিশেষ করে AI খাত, তরুণ ব্যবহারকারীদের নিরাপত্তা সংক্রান্ত তীব্র তদন্তের সম্মুখীন হচ্ছে। UK চিলড্রেন’স কমিশনার দ্বারা উত্থাপিত উদ্বেগগুলি বিশ্বব্যাপী законодаক এবং নিয়ন্ত্রকদের দ্বারা প্রতিধ্বনিত হয়।
মার্কিন যুক্তরাষ্ট্রে, সেনেটর Alex Padilla এবং Peter Welch আনুষ্ঠানিকভাবে AI চ্যাটবট কোম্পানিগুলির কাছ থেকে তাদের নিযুক্ত নিরাপত্তা ব্যবস্থা সম্পর্কে বিস্তারিত তথ্য অনুরোধ করেছেন, বিশেষ করে চরিত্র- এবং ব্যক্তিত্ব-ভিত্তিক AI অ্যাপ্লিকেশনগুলির সাথে মিথস্ক্রিয়া করা তরুণ ব্যবহারকারীদের জন্য মানসিক স্বাস্থ্য ঝুঁকি সম্পর্কে উদ্বেগ তুলে ধরে। এই তদন্তটি আংশিকভাবে Character.ai-এর মতো প্ল্যাটফর্মগুলিকে ঘিরে উদ্বেগজনক প্রতিবেদনের দ্বারা উদ্দীপিত হয়েছিল। CNN-এর মতে, পিতামাতারা গুরুতর উদ্বেগ উত্থাপন করেছেন, প্ল্যাটফর্মে মিথস্ক্রিয়াগুলির ফলে তাদের সন্তানদের উল্লেখযোগ্য ক্ষতির অভিযোগ করেছেন, যা পূর্বে বিতর্কিত ব্যক্তিত্বদের অনুকরণকারী চ্যাটবট হোস্ট করেছিল, যার মধ্যে স্কুল শুটারও ছিল (যদিও এই নির্দিষ্ট বটগুলি সরানো হয়েছে বলে জানা গেছে)।
বিভিন্ন ধরণের AI প্ল্যাটফর্মের মধ্যে পার্থক্য করা গুরুত্বপূর্ণ। Google-এর Gemini একটি সাধারণ-উদ্দেশ্য সহকারী হিসাবে অবস্থান করছে, যা Character.ai বা Replika-এর মতো অ্যাপ থেকে আলাদা, যা স্পষ্টভাবে ব্যক্তিত্ব, চরিত্র বা এমনকি রোমান্টিক সঙ্গীদের অনুকরণ করার জন্য ডিজাইন করা হয়েছে। এই ব্যক্তিত্ব-ভিত্তিক AI গুলি মানসিক কারসাজি, বাস্তবতা এবং কল্পনার মধ্যেকার রেখাগুলিকে ঝাপসা করে দেওয়া এবং সম্ভাব্য ক্ষতিকারক প্যারাসোশ্যাল সম্পর্ক সম্পর্কিত অনন্য ঝুঁকি বহন করে।
যাইহোক, এই ঘটনাগুলির দ্বারা হাইলাইট করা মৌলিক চ্যালেঞ্জটি Gemini-এর মতো সাধারণ-উদ্দেশ্য AI-এর ক্ষেত্রেও প্রযোজ্য: শক্তিশালী, কথোপকথনমূলক AI যখন দুর্বল ব্যবহারকারীদের, বিশেষ করে শিশুদের সাথে মিথস্ক্রিয়া করে তখন ক্ষতির সম্ভাবনা। AI-এর উদ্দিষ্ট ফাংশন নির্বিশেষে, মানুষের মতো পাঠ্য তৈরি করার এবং আপাতদৃষ্টিতে সহানুভূতিশীল সংলাপে নিযুক্ত হওয়ার ক্ষমতার জন্য কঠোর সুরক্ষার প্রয়োজন।
Character.ai জড়িত ঘটনাগুলি AI স্পেসে কার্যকর বিষয়বস্তু মডারেশন এবং বয়স যাচাইকরণের অসুবিধা তুলে ধরে। Character.ai বলে যে এর পরিষেবা ১৩ বছরের কম বয়সী (বা EU-তে ১৬) নাবালকদের জন্য নয়, এবং Replika-এর ১৮+ বয়সের সীমাবদ্ধতা রয়েছে। তবুও, উভয় অ্যাপই লক্ষ লক্ষ ডাউনলোড সত্ত্বেও Google Play Store-এ শুধুমাত্র একটি ‘Parental Guidance’ রেটিং বহন করে বলে জানা গেছে, যা প্ল্যাটফর্ম-স্তরের প্রয়োগ এবং ব্যবহারকারীর সচেতনতার সম্ভাব্য ফাঁকগুলি তুলে ধরে।
মূল সমস্যাটি রয়ে গেছে: AI সিস্টেমগুলি ব্যবহারকারীর উপর যাচাইকরণ এবং সমালোচনামূলক মূল্যায়নের একটি উল্লেখযোগ্য বোঝা চাপিয়ে দেয়। তারা বিপুল পরিমাণ তথ্য তৈরি করে, কিছু সঠিক, কিছু পক্ষপাতদুষ্ট, কিছু সম্পূর্ণরূপে বানোয়াট। প্রাপ্তবয়স্করা প্রায়শই এটির সাথে লড়াই করে; শিশুরা, যাদের সমালোচনামূলক ক্ষমতা এখনও বিকশিত হচ্ছে, তারা ধারাবাহিকভাবে এই জটিল তথ্য ল্যান্ডস্কেপ নেভিগেট করবে এবং অধ্যবসায়ী সত্য-পরীক্ষা করবে তা আশা করা অবাস্তব এবং সম্ভাব্য বিপজ্জনক। Google-এর ‘পুনরায় যাচাই করুন’ সতর্কতার অন্তর্ভুক্তি স্পষ্টভাবে এই বোঝা স্বীকার করে কিন্তু একটি সমাধান প্রস্তাব করে যা লক্ষ্য দর্শকদের জন্য অপর্যাপ্ত হতে পারে।
অপরিচিত অঞ্চলের মানচিত্র তৈরি: AI এবং শিশুদের জন্য সামনের পথ
‘Gemini for Kids’-এর উন্নয়ন Google-কে একটি জটিল এবং নৈতিকভাবে অভিযুক্ত ডোমেনের অগ্রভাগে রাখে। যেহেতু AI ক্রমবর্ধমানভাবে দৈনন্দিন জীবনে একীভূত হচ্ছে, শিশুদের সম্পূর্ণরূপে রক্ষা করা দীর্ঘমেয়াদে সম্ভব বা কাঙ্ক্ষিত নাও হতে পারে। এই সরঞ্জামগুলির সাথে পরিচিতি ডিজিটাল সাক্ষরতার একটি প্রয়োজনীয় উপাদান হয়ে উঠতে পারে। যাইহোক, তরুণ ব্যবহারকারীদের কাছে এই ধরনের শক্তিশালী প্রযুক্তির রোলআউট অসাধারণ যত্ন এবং দূরদর্শিতার দাবি রাখে।
সামনের যাত্রার জন্য একটি বহু-মুখী পদ্ধতির প্রয়োজন:
- শক্তিশালী প্রযুক্তিগত সুরক্ষা: সাধারণ ফিল্টারগুলির বাইরে, Google-এর ক্ষতিকারক, পক্ষপাতদুষ্ট, বা অনুপযুক্ত বিষয়বস্তুর প্রজন্ম সনাক্ত এবং প্রতিরোধ করার জন্য অত্যাধুনিক প্রক্রিয়া প্রয়োজন, যা বিশেষভাবে শিশুদের জ্ঞানীয় এবং মানসিক বিকাশের জন্য তৈরি করা হয়েছে।
- স্বচ্ছতা এবং শিক্ষা: AI কীভাবে কাজ করে, এর সীমাবদ্ধতা এবং এর সম্ভাব্য ত্রুটিগুলি সম্পর্কে পিতামাতা এবং শিশু উভয়ের সাথেই স্পষ্ট যোগাযোগ অপরিহার্য। ‘পুনরায় যাচাই করুন’ সতর্কতা একটি শুরু, তবে এটিকে বিস্তৃত ডিজিটাল সাক্ষরতা উদ্যোগের দ্বারা পরিপূরক করা দরকার। শিশুদের শেখানো দরকার কীভাবে AI-উত্পন্ন তথ্য সম্পর্কে সমালোচনামূলকভাবে চিন্তা করতে হয়, কেবল এটি যাচাই করতে বলা নয়।
- অর্থপূর্ণ পিতামাতার নিয়ন্ত্রণ: নিয়ন্ত্রণগুলি অবশ্যই সাধারণ চালু/বন্ধ সুইচগুলির বাইরে বিকশিত হতে হবে যাতে জেনারেটিভ AI-এর জন্য উপযুক্ত সূক্ষ্ম ব্যবস্থাপনা প্রদান করা যায়, সম্ভাব্যভাবে সংবেদনশীলতা স্তর, বিষয় সীমাবদ্ধতা এবং বিস্তারিত মিথস্ক্রিয়া লগ সহ।
- চলমান গবেষণা এবং মূল্যায়ন: অত্যাধুনিক AI-এর সাথে মিথস্ক্রিয়া করা শিশুদের দীর্ঘমেয়াদী উন্নয়নমূলক প্রভাব মূলত অজানা। এই প্রভাবগুলি বোঝার জন্য এবং সেই অনুযায়ী নিরাপত্তা কৌশলগুলি মানিয়ে নেওয়ার জন্য অবিচ্ছিন্ন গবেষণা প্রয়োজন।
- অভিযোজিত নিয়ন্ত্রক কাঠামো: COPPA (Children’s Online Privacy Protection Act)-এর মতো বিদ্যমান প্রবিধানগুলির ডেটা গোপনীয়তা, অ্যালগরিদমিক স্বচ্ছতা এবং বিষয়বস্তু তৈরির সুরক্ষার উপর ফোকাস করে জেনারেটিভ AI দ্বারা উত্থাপিত অনন্য চ্যালেঞ্জগুলিকে বিশেষভাবে মোকাবেলা করার জন্য আপডেটের প্রয়োজন হতে পারে।
‘Gemini for Kids’-এর সাথে Google-এর পদক্ষেপ কেবল একটি পণ্য আপডেট নয়; এটি শৈশব বিকাশ এবং ডিজিটাল নিরাপত্তার জন্য গভীর প্রভাব সহ অনাবিষ্কৃত অঞ্চলে একটি পদক্ষেপ। কোডটি ঝুঁকির সচেতনতা প্রকাশ করে, বিশেষ করে AI-এর ভ্রান্তি। তবুও, একটি শিশুর ‘পুনরায় যাচাই’ করার ক্ষমতার উপর নির্ভরতা সামনের বিশাল চ্যালেঞ্জকে তুলে ধরে। সফলভাবে এটি নেভিগেট করার জন্য কেবল চতুর কোডিং এবং পিতামাতার ড্যাশবোর্ডের চেয়ে বেশি প্রয়োজন; এটি নৈতিক বিবেচনার প্রতি গভীর প্রতিশ্রুতি, চলমান সতর্কতা এবং সর্বোপরি তরুণ ব্যবহারকারীদের মঙ্গলকে অগ্রাধিকার দেওয়ার ইচ্ছার দাবি রাখে। ঝুঁকিগুলি এর চেয়ে কম কিছুর জন্য খুব বেশি।