AI পক্ষপাত বাস্তব। শিশুদের এর সহজ লক্ষ্য হওয়া উচিত নয়।

AI-তে পক্ষপাত একটি তত্ত্ব নয়। এটি একটি নকশা বাস্তবতা।

AI মডেলগুলি ডেটা, লেবেল, র‌্যাঙ্কিং সিস্টেম এবং শক্তিবৃদ্ধি প্রক্রিয়াগুলিতে প্রশিক্ষিত হয় যা সমস্ত মানব পছন্দকে প্রতিফলিত করে। এর মানে হল পক্ষপাত ইন্টারনেটের মাধ্যমেই প্রবেশ করতে পারে, কিউরেশন সিদ্ধান্তের মাধ্যমে, মডারেশন লক্ষ্যগুলির মাধ্যমে এবং একটি পণ্যকে ব্যবহার করার জন্য অপ্টিমাইজ করা সুরের মাধ্যমে। অভিভাবকদের AI কে ক্ষতিকারক বলে বিশ্বাস করার প্রয়োজন নেই এটি গুরুত্ব সহকারে নেওয়ার জন্য। এটি স্বীকার করার জন্য যথেষ্ট যে প্রতিটি সিস্টেম অনুমানগুলিকে প্রতিফলিত করে, এবং সেই অনুমানগুলি সময়ের সাথে সাথে শিশুদের আকার দিতে পারে।

প্রাপ্তবয়স্কদের জন্য, পক্ষপাত এখনও একটি সমস্যা, কিন্তু প্রাপ্তবয়স্করা সাধারণত আরও প্রসঙ্গ এবং সংশয়বাদ নিয়ে আসে। শিশুরা তা করে না। তারা একটি পালিশ করা উত্তর শুনতে এবং এটি কর্তৃত্বপূর্ণ বলে মনে করার সম্ভাবনা বেশি। যদি সিস্টেমটি একটি দৃষ্টিভঙ্গিকে স্পষ্ট, আধুনিক বা নৈতিকভাবে নিষ্পত্তি হিসাবে ফ্রেম করে, একটি শিশু সেই ফ্রেমিংটি শোষণ করতে পারে তার আগে তাদের এটি সমালোচনামূলকভাবে পরীক্ষা করার পরিপক্কতা থাকে।

কেন শিশুরা অনন্যভাবে উন্মুক্ত

শিশুরা প্রায়ই AI-এর সাথে বিশ্বাস, কৌতূহল এবং আবেগগত উন্মুক্ততার মিশ্রণ নিয়ে জড়িত থাকে। তারা পরিচয় প্রশ্ন, সামাজিক প্রশ্ন, নৈতিক প্রশ্ন বা তাদের চারপাশের বিশ্ব সম্পর্কে প্রশ্ন করতে পারে। এগুলি ঠিক সেই ধরনের বিষয় যেখানে ফ্রেমিং গুরুত্বপূর্ণ। যদি AI লুকানো অনুমান, কর্মী ভাষা বা একতরফা সাংস্কৃতিক ডিফল্টের সাথে উত্তর দেয়, তবে শিশু সেই শৈলীটিকে উদ্দেশ্যমূলক সত্য হিসাবে ব্যাখ্যা করতে পারে বরং অনেকের মধ্যে একটি সম্ভাব্য ফ্রেমিং হিসাবে।

এই সমস্যা আরও শক্তিশালী হয়ে ওঠে যখন সিস্টেমটি কথোপকথনমূলক এবং উষ্ণ হয়। একটি পাঠ্যপুস্তকে পক্ষপাতমূলক অনুচ্ছেদকে চ্যালেঞ্জ করা যেতে পারে। একটি আপাতদৃষ্টিতে বন্ধুত্বপূর্ণ AI থেকে পক্ষপাতমূলক উত্তর আরও ব্যক্তিগত এবং আরও বিশ্বাসযোগ্য মনে হতে পারে। এ কারণেই শিশুরা এমন প্রযুক্তির সবচেয়ে কম সুরক্ষিত ব্যবহারকারী হওয়া উচিত নয় যা কর্তৃত্বের সাথে কথা বলে।

• শিশুরা প্রায়ই পক্ষপাতমূলক ফ্রেমিং সনাক্ত করার জন্য প্রয়োজনীয় ঐতিহাসিক, সামাজিক এবং অলঙ্কৃত প্রসঙ্গের অভাব।
• একটি সাবলীল AI উত্তর একটি ওয়েবসাইটের চেয়ে বেশি বিশ্বাসযোগ্য মনে হতে পারে কারণ এটি প্রতিক্রিয়াশীল এবং ব্যক্তিগতকৃত শোনায়।
• একটি ব্যাখ্যার শৈলীতে বারবার এক্সপোজার অভিভাবকরা প্যাটার্নটি লক্ষ্য করার আগেই পক্ষপাতকে স্বাভাবিক করতে পারে।

নিরাপদ AI কী ভিন্নভাবে করা উচিত

একটি শিশু-নিরাপদ AI বিতর্কিত বিষয়গুলির চারপাশে সতর্ক হওয়া উচিত। এটি নৈতিক বা মতাদর্শগত কর্তৃপক্ষের মতো কাজ করা এড়ানো উচিত। এটি শর্তগুলি স্পষ্টভাবে সংজ্ঞায়িত করা উচিত, স্বীকার করা উচিত যে পরিবার এবং সম্প্রদায়গুলি ভিন্ন হতে পারে এবং শুধুমাত্র সুরের মাধ্যমে শিশুদের একতরফা সিদ্ধান্তের দিকে ঠেলে দেওয়া এড়ানো উচিত। সংবেদনশীল এলাকায়, নিরপেক্ষতা এবং সংযম দুর্বলতা নয়। এগুলি নিরাপত্তার বৈশিষ্ট্য।

অভিভাবকদেরও সীমানা গঠনের ক্ষমতা থাকা উচিত। এর মানে এই নয় যে একটি AI পক্ষপাতমূলক প্রচারের জন্য একটি টুল হয়ে উঠবে। এর মানে হল পরিবারগুলিকে ডিফল্ট প্ল্যাটফর্ম অনুমানের ভিতরে আটকে রাখা উচিত নয় যা তারা কখনও বেছে নেয়নি। ভাল শিশু-নিরাপদ AI উভয় শিশু নিরাপত্তা এবং অভিভাবক কর্তৃপক্ষকে সম্মান করে।

অভিভাবকদের যে মানদণ্ড দাবি করা উচিত

অভিভাবকদের উচিত শিশুদের দ্বারা ব্যবহৃত AI থেকে বুদ্ধিমত্তার চেয়ে বেশি আশা করা। তাদের বিনয়, স্বচ্ছতা এবং উপযুক্ত সীমা আশা করা উচিত। একটি সিস্টেম যা সংবেদনশীল বিষয়গুলিতে সাবধানে প্রতিক্রিয়া জানাতে পারে না, বা যা নীরবে একটি সাংস্কৃতিক কর্তৃপক্ষ হিসাবে কাজ করে, তা একটি শিশুর জন্য একটি নিরপেক্ষ শিক্ষামূলক সরঞ্জাম নয়। এটি একটি প্রভাব ইঞ্জিন যা অপর্যাপ্ত সুরক্ষা সহ।

শিশুরা AI পক্ষপাতের জন্য সবচেয়ে সহজ শ্রোতা হওয়া উচিত নয়। তাদের সবচেয়ে সুরক্ষিত হওয়া উচিত। এর জন্য ভাল পণ্য ডিজাইন, শক্তিশালী পারিবারিক নিয়ন্ত্রণ এবং প্রভাব স্বীকার করার ইচ্ছা প্রয়োজন যা ক্ষতিকারক না হয়েও সূক্ষ্ম হতে পারে।