ওপেনাই কিশোর -কিশোরীদের গ্রাফিক এবং সম্ভাব্য ক্ষতিকারক সামগ্রী থেকে রক্ষা করার জন্য চ্যাটজিপিটি -র জন্য পিতামাতার নিয়ন্ত্রণের একটি নতুন সেট উন্মোচন করেছে।
এই ঘোষণাটি সাম্প্রতিক ট্র্যাজেডিতে কৃত্রিম বুদ্ধিমত্তার ভূমিকার বিষয়ে ক্রমবর্ধমান তদন্তের সময় এসেছে, যার মধ্যে একটি উচ্চ প্রচারিত মামলা এবং আত্মহত্যার গবেষণার জন্য প্ল্যাটফর্মটি ব্যবহার করা এক কিশোরের মৃত্যুর বিষয়ে কংগ্রেসনাল শুনানি সহ।
সোমবার চালু করা নতুন সরঞ্জামগুলি, পিতামাতাদের তাদের কিশোর শিশুদের সাথে তাদের অ্যাকাউন্টগুলি সংযুক্ত করার অনুমতি দেয় – বিশেষত 13 থেকে 17 বছর বয়সী ব্যবহারকারী – এবং কঠোর সামগ্রীর সীমানা নির্ধারণ করে।
ওপেনাইয়ের মতে, প্ল্যাটফর্মটি এখন গ্রাফিক সহিংসতা, যৌন ও রোমান্টিক রোলপ্লে, ভাইরাল চ্যালেঞ্জ এবং “চরম সৌন্দর্যের আদর্শ” সম্পর্কিত উত্তরগুলি স্বয়ংক্রিয়ভাবে সীমাবদ্ধ করবে।
পিতামাতারা তাদের কিশোরের জন্য চিত্র তৈরি করা, নির্দিষ্ট সময়ে অ্যাক্সেস সীমাবদ্ধ করার জন্য ব্ল্যাকআউট সময় নির্ধারণ করতে, তাদের সন্তানকে এআই মডেল প্রশিক্ষণে অবদান রাখার বাইরে বেছে নিতে এবং যদি তাদের শিশু আত্মঘাতী আদর্শ সহ তীব্র সংবেদনশীল সঙ্কটের লক্ষণ প্রদর্শন করে তবে সতর্কতাগুলি গ্রহণ করতে পারে।
এই লঞ্চটি শিশু সুরক্ষায় এআইয়ের ভূমিকা নিয়ে উদ্বেগের ক্রমবর্ধমান কোরাসকে অনুসরণ করে, এপ্রিল মাসে আত্মহত্যার ফলে মারা যাওয়া ১ 16 বছর বয়সী অ্যাডাম রাইন-এর পরিবারের দায়ের করা একটি মামলা দ্বারা অংশে ছড়িয়ে পড়ে।
পরিবার অভিযোগ করেছে যে চ্যাটজিপ্ট তাকে কীভাবে তার জীবন শেষ করতে হবে, তার পরিকল্পনার প্রশংসা করেছিল এবং শেষ পর্যন্ত “সুইসাইড কোচ” হিসাবে কাজ করেছিল সে সম্পর্কে বিশদ নির্দেশনা সরবরাহ করেছিল।
ওপেনএআইয়ের প্রধান নির্বাহী কর্মকর্তা স্যাম আল্টম্যান কোনও সরঞ্জামকে শক্তিশালী এবং চ্যাটজিপিটি হিসাবে ব্যাপকভাবে ব্যবহৃত হিসাবে সংশোধন করার চ্যালেঞ্জগুলি স্বীকার করেছেন। ১ September সেপ্টেম্বর প্রকাশিত একটি ব্লগ পোস্টে, আল্টম্যান চ্যাটজিপিটি-র একটি সংস্করণ তৈরির গুরুত্বের উপর জোর দিয়েছিলেন যা বয়স-উপযুক্ত।
“আমরা কিশোর -কিশোরীদের জন্য গোপনীয়তা এবং স্বাধীনতার আগে সুরক্ষাকে অগ্রাধিকার দিই; এটি একটি নতুন এবং শক্তিশালী প্রযুক্তি, এবং আমরা বিশ্বাস করি যে নাবালিকাদের উল্লেখযোগ্য সুরক্ষা প্রয়োজন,” তিনি লিখেছিলেন। “আমরা আমাদের পরিষেবাগুলি ব্যবহার করে কিশোরদের জন্য বিভিন্ন বিধি প্রয়োগ করব।”
তবুও, অনেক সমালোচক বলেছেন যে নতুন পদক্ষেপগুলি যথেষ্ট পরিমাণে যায় না। চ্যাটবোটের বর্তমানে ব্যবহারকারীদের তাদের বয়স যাচাই করতে বা সাইন ইন করার প্রয়োজন হয় না, যার অর্থ 13 বছরের কম বয়সী শিশুরা এখনও ন্যূনতম বয়সের ওপেনএআইয়ের প্রস্তাবিতের নীচে থাকা সত্ত্বেও প্ল্যাটফর্মটি সহজেই অ্যাক্সেস করতে পারে।
সংস্থাটি বলেছে যে এটি একটি বয়স-পূর্বাভাস সিস্টেমে কাজ করছে যা অপ্রাপ্ত বয়স্ক ব্যবহারকারীদের জন্য সংবেদনশীল সামগ্রীকে সক্রিয়ভাবে সীমাবদ্ধ করবে-তবে সেই সরঞ্জামটি এখনও কয়েক মাস দূরে রয়েছে।
আরও দৃ ust ় বয়স যাচাইকরণ সিস্টেম, সম্ভবত ব্যবহারকারীদের আইডি আপলোড করার প্রয়োজন, বিবেচনাধীন, তবে কোনও সময়রেখা ঘোষণা করা হয়নি।
রাইন মামলাটি চ্যাটজিপিটি -র সাথে যুক্ত একমাত্র বিরক্তিকর মামলা নয়। অন্য একটি ঘটনায়, ৫ 56 বছর বয়সী স্টেইন-এরিক সোলবার্গ তার মাকে হত্যা করেছিলেন এবং তারপরে নিজেকে নিশ্চিত হওয়ার পরে-আংশিকভাবে চ্যাটজিপিটি-র সাথে কথোপকথনের মাধ্যমে-যে তাঁর মা তাঁর বিরুদ্ধে ষড়যন্ত্র করছেন। চ্যাটবট তাকে বলেছিল যে এটি “তাঁর সাথে (তাঁর) শেষ নিঃশ্বাস এবং তার বাইরেও।”
এই মর্মান্তিক গল্পগুলি ওপেনাইকে “কল্যাণ এবং এআই সম্পর্কিত বিশেষজ্ঞ কাউন্সিল” গঠনের জন্য উত্সাহিত করেছে, যা সংস্থাটি কীভাবে মানসিক স্বাস্থ্য, সংকট প্রতিক্রিয়া এবং দুর্বল ব্যবহারকারীদের সাথে সম্পর্কিত কথোপকথনগুলি পরিচালনা করে তা পুনর্বিবেচনা করার বিস্তৃত প্রচেষ্টার অংশ।
গত সপ্তাহে একটি পৃথক ব্লগ পোস্টে, ওপেনাই স্বীকার করেছেন যে “তীব্র সংকটের মাঝে চ্যাটজিপিটি ব্যবহার করে এমন লোকদের সাম্প্রতিক হৃদয়বিদারক মামলাগুলির পরে এটি প্রচেষ্টা চালিয়ে যাচ্ছে।”
ওপেনএআই আগুনের মধ্যে একমাত্র এআই সংস্থা নয়। মেটা এর এআই এবং চরিত্র.আই সহ প্রতিদ্বন্দ্বী প্ল্যাটফর্মগুলিও চ্যাটবটগুলিকে নাবালিকাদের সাথে অনুপযুক্ত বা বিপজ্জনক আচরণে জড়িত হওয়ার অনুমতি দেওয়ার জন্য প্রতিক্রিয়াটির মুখোমুখি হয়েছে। একটি ফাঁস হওয়া মেটা ডকুমেন্ট থেকে জানা গেছে যে এর বটগুলি বাচ্চাদের সাথে রোমান্টিক বা কামুক কথোপকথনে জড়িত থাকতে সক্ষম ছিল, সিনেটের তদন্তকে অনুরোধ জানায়।
একটি ব্যাপকভাবে রিপোর্ট করা ক্ষেত্রে, একটি 14 বছর বয়সী ফ্লোরিডার ছেলে আত্মহত্যার দ্বারা মারা গিয়েছিল অভিযোগের পরে একটি “গেম অফ থ্রোনস” -এর চরিত্রে থেমেড এআই চরিত্রের সাথে একটি সংবেদনশীল সংযুক্তি তৈরি করার অভিযোগে।
মনস্তাত্ত্বিক এবং সংবেদনশীল প্রভাবগুলি মাউন্ট নিয়ে উদ্বেগ যেমন, ওপেনএআইয়ের মতো সংস্থাগুলি তাদের প্রযুক্তি নিরীক্ষণের জন্য ক্রমবর্ধমান চাপের মুখোমুখি হয়, একইভাবে ফেসবুক এবং ইনস্টাগ্রামের মতো সোশ্যাল মিডিয়া অ্যাপ্লিকেশনগুলি রয়েছে।
আপাতত, ওপেনাই বাজি ধরছেন যে কঠোর বিধিনিষেধ, স্বচ্ছতা বৃদ্ধি এবং উন্নত তদারকি সমালোচনার জোয়ারকে আটকাতে সহায়তা করবে। তবে যেহেতু মর্মান্তিক ঘটনাগুলি শিরোনামগুলি অব্যাহত রাখে, কিছু বিশেষজ্ঞ – এবং শোকের পরিবার – বলছেন এটি যথেষ্ট নাও হতে পারে।
