Character.AI শিশুদের চ্যাটবটের সাথে যোগাযোগ করতে নিষেধ করবে
Character.AI আগামী মাস থেকে শিশুদের কৃত্রিমভাবে বুদ্ধিমান চ্যাটবটের সাথে কথা বলা নিষিদ্ধ করার পরিকল্পনা করছে, তরুণ ব্যবহারকারীরা কীভাবে প্রযুক্তির সাথে যোগাযোগ করে তা নিয়ে ক্রমবর্ধমান যাচাইয়ের মধ্যে। কোম্পানি, তার বিপুল সংখ্যক কৃত্রিমভাবে বুদ্ধিমান চরিত্রের জন্য পরিচিত, 25 নভেম্বরের মধ্যে 18 বছরের কম বয়সী ব্যবহারকারীদের কৃত্রিম বুদ্ধিমত্তার সাথে “খোলা” কথোপকথনে অংশগ্রহণ করার ক্ষমতা সরিয়ে দেবে। তিনি আসন্ন সপ্তাহগুলিতে অ্যাক্সেস হ্রাস করা শুরু করার পরিকল্পনা করেছেন, প্রাথমিকভাবে বাচ্চাদের প্রতিদিন দুই ঘন্টা যোগাযোগের মধ্যে সীমাবদ্ধ করে। Character.AI উল্লেখ করেছে যে এটি একটি “অনূর্ধ্ব-18 অভিজ্ঞতা” তৈরি করার পরিকল্পনা করেছে যাতে কিশোররা AI চরিত্রগুলির সাথে ভিডিও, গল্প এবং স্ট্রিম তৈরি করতে পারে। “কৃত্রিম বুদ্ধিমত্তা এবং কিশোর-কিশোরীদের পরিবর্তিত ল্যান্ডস্কেপের আলোকে আমরা 18 বছরের কম বয়সী শিশুদের জন্য আমাদের প্ল্যাটফর্মে এই পরিবর্তনগুলি করছি,” কোম্পানিটি সাম্প্রতিক সংবাদ প্রতিবেদন এবং নিয়ন্ত্রক প্রশ্ন তুলে ধরে একটি ব্লগ পোস্টে বলেছে। কোম্পানি এবং অন্যান্য চ্যাটবট বিকাশকারীরা সম্প্রতি প্রযুক্তির সাথে যুক্ত বেশ কয়েকটি কিশোর আত্মহত্যার পরে তদন্তের আওতায় এসেছে। 14-বছর বয়সী Sewell Setzer III এর মা গত নভেম্বরে Charter.AI-এর বিরুদ্ধে মামলা করেছেন, চ্যাটবটকে তার ছেলেকে আত্মহত্যার দিকে চালিত করার অভিযোগ এনেছেন। ওপেনএআই 16 বছর বয়সী অ্যাডাম রেইনের বাবা-মায়ের কাছ থেকে একটি মামলার মুখোমুখি হচ্ছে, যিনি ChatGPT-এর সাথে যোগাযোগ করার পরে আত্মহত্যা করেছিলেন। উভয় পরিবারই গত মাসে একটি সেনেট প্যানেলের সামনে সাক্ষ্য দিয়েছে এবং আইন প্রণেতাদের চ্যাটবটগুলির বিরুদ্ধে গার্ডেল স্থাপন করার আহ্বান জানিয়েছে। সেপ্টেম্বরে, ফেডারেল ট্রেড কমিশন (এফটিসি) কৃত্রিম বুদ্ধিমত্তার চ্যাটবটগুলির বিষয়ে একটি তদন্তও শুরু করে, যা Symbols.AI, OpenAI এবং অন্যান্য শীর্ষস্থানীয় প্রযুক্তি সংস্থাগুলির কাছ থেকে তথ্যের জন্য অনুরোধ করে৷ “এই প্রতিবেদনগুলি এবং নিয়ন্ত্রক, নিরাপত্তা বিশেষজ্ঞ এবং অভিভাবকদের কাছ থেকে প্রতিক্রিয়া মূল্যায়ন করার পর, আমরা আমাদের অনূর্ধ্ব-18 সম্প্রদায়ের জন্য একটি নতুন অভিজ্ঞতা তৈরি করতে এই পরিবর্তন করার সিদ্ধান্ত নিয়েছি,” Feature.AI বুধবার বলেছে৷ “এগুলি আমাদের কোম্পানির জন্য অসাধারণ পদক্ষেপ এবং আমাদের সমবয়সীদের তুলনায় অনেক উপায়ে বেশি রক্ষণশীল,” কোম্পানি যোগ করেছে। “তবে আমরা মনে করি তারা সঠিক কাজ করছে।” এর চ্যাটবটগুলিতে শিশুদের অ্যাক্সেস সীমিত করার পাশাপাশি, Character.AI নতুন বয়স-প্রয়োগকারী প্রযুক্তি চালু করার এবং AI সেফটি ল্যাব নামে একটি নতুন অলাভজনক সংস্থা তৈরি ও অর্থায়ন করার পরিকল্পনা করেছে। চ্যাটবট সম্পর্কে ক্রমবর্ধমান উদ্বেগের মধ্যে, মঙ্গলবার সিনেটরদের একটি দ্বিদলীয় দল শিশুদের এআই সহচর ব্যবহার থেকে নিষিদ্ধ করার জন্য আইন প্রবর্তন করেছে। সিনেটর Josh Hawley (R-Mo.), Richard Blumenthal (D-Con.), কেটি ব্রিট (R-Ala.), মার্ক ওয়ার্নার (D-Va.), এবং ক্রিস মারফি (D-Conn.) এর বিলে কৃত্রিম বুদ্ধিমত্তার চ্যাটবটগুলিকে বারবার প্রকাশ করতে হবে যে তারা মানব নয়, এবং এটি শিশুদের যৌন অপরাধ বা যৌন অপরাধের বিষয়বস্তু তৈরি করার জন্য তৈরি করবে। ক্যালিফোর্নিয়ার গভর্নর গ্যাভিন নিউজম (ডি) গত মাসের শেষের দিকে অনুরূপ একটি পদক্ষেপে স্বাক্ষর করেছেন, যার জন্য গোল্ডেন স্টেটের চ্যাটবট বিকাশকারীদের তাদের মডেলগুলিকে আত্মহত্যা বা আত্ম-ক্ষতি সম্পর্কে সামগ্রী তৈরি করা থেকে নিষিদ্ধ করার জন্য প্রোটোকল তৈরি করতে হবে এবং প্রয়োজনে ব্যবহারকারীদের সংকট পরিষেবাগুলিতে পাঠাতে হবে৷ তিনি একটি কঠোর ব্যবস্থা অনুমোদন করতে অস্বীকার করেছিলেন যা ডেভেলপারদের শিশুদের জন্য চ্যাটবটগুলি উপলব্ধ করা থেকে নিষেধ করবে যদি না তারা নিশ্চিত করতে পারে যে তারা শিশুদের সাথে ক্ষতিকারক আলোচনায় জড়িত হবে না।
প্রকাশিত: 2025-10-29 22:26:00
উৎস: thehill.com
