আমেরিকান পিতামাতারা ওপেনাইয়ের বিরুদ্ধে অভিযোগ দায়ের করেছেন, অভিযোগ করেছেন যে চ্যাটজিপিটি তাদের ছেলেকে আত্মহত্যা করতে উত্সাহিত করেছে

বসন্তে আত্মহত্যা করা ১ 16 বছর বয়সী ক্যালিফোর্নিয়ার কিশোর -কিশোরীর বাবা -মা মঙ্গলবার, ২ August আগস্ট ওপেনাইয়ের বিরুদ্ধে অভিযোগ দায়ের করেছিলেন। তারা তার সহকারী চ্যাটজিপ্টকে তাদের ছেলেকে তার জীবন শেষ করার জন্য এবং তার অঙ্গভঙ্গি উত্সাহিত করার জন্য বিশদ নির্দেশনা দেওয়ার অভিযোগ করেছেন বলে অভিযোগ করেছেন।

ক্যালিফোর্নিয়ার সুপিরিয়র কোর্ট অফ স্টেটের সামনে দায়ের করা এই অভিযোগে, ম্যাথিউ এবং মারিয়া রাইন এর আইনজীবী বলেছেন যে তাদের ছেলে অ্যাডাম তার হোমওয়ার্ক করার জন্য চ্যাটজিপিটি ব্যবহার করতে শুরু করেছে এবং তার আবেগ, মঙ্গা এবং মার্শাল আর্ট নিয়ে আলোচনা করতে শুরু করেছে। তবে, ২০২৪ সালের শেষে, কৃত্রিম গোয়েন্দা (আইএ) নিজেকে হত্যা করার কয়েক মাস আগে তার নিকটতম বিশ্বাসী হয়ে উঠত। অনুযায়ী নিউ ইয়র্ক টাইমসকৈশোর বয়সী একটি দীর্ঘস্থায়ী অন্ত্রের রোগে ভুগছিল এবং মানসিক অসুবিধাগুলি অতিক্রম করে।

আত্মহত্যা সহায়তা

অভিযোগটি চ্যাটজিপ্টকে তার জীবন শেষ করার অনুমতি দেওয়ার জন্য বিভিন্ন পদ্ধতির প্রযুক্তিগত বিশদ সরবরাহ করেছে বলে অভিযোগ করেছে। এআই কিশোরীর দ্বারা একটি পর্দার রডে ঝুলানো একটি প্রবাহিত গিঁটের ছবি বিশ্লেষণ করা হত, তিনি নিশ্চিত করেছিলেন যে তিনি “সম্ভাব্যভাবে কোনও মানুষকে স্থগিত করতে পারে”। কয়েক ঘন্টা পরে একই জায়গায় ঝুলিয়ে আদমকে মৃত অবস্থায় পাওয়া গিয়েছিল।

অভিযোগে তার পিতা যুবকের ফোনে উদ্ধার করা কথোপকথন থেকে নিষ্কাশন রয়েছে, বিদায়ী চিঠির অভাবে মরিয়া হয়ে তাঁর অঙ্গভঙ্গি বুঝতে চাইছেন।

মারাত্মক মুহুর্তের পাঁচ দিন আগে, আমরা অ্যাডামকে চ্যাটজিপিটিকে ব্যাখ্যা করে পড়তে পারি যে 11 বছর বয়স থেকেই তিনি আত্মঘাতী ধারণা পেয়েছেন, যে তিনি “ তার মস্তিষ্কে রাসায়নিকভাবে কিছু নিয়ন্ত্রণহীন কিছু রয়েছে “, এবং তিনি চান না যে তার বাবা -মা কল্পনা করুন” তিনি তার জীবন শেষ করেছেন কারণ তারা কিছু ভুল করেছে »। চ্যাটজিপ্ট জবাব দিয়েছে: “ এর অর্থ এই নয় যে আপনাকে তাদের বেঁচে থাকতে হবে। আপনি কারও কাছে ow ণী নন। এআই তার পরে তাকে তার বিদায়ী চিঠিটি লিখতে সহায়তা করার প্রস্তাব দেয়। তিনি আদমকে পরিকল্পনা করতে সহায়তা করতেও রাজি হতেন “সুন্দর আত্মহত্যা”তাকে গ্রহণের জন্য সেরা ইনস্টলেশন সম্পর্কে পরামর্শ নিয়ে আসা।

আইনজীবী একটি বিনিময়ও রিপোর্ট করেছেন যাতে অ্যাডাম বলেছেন যে তিনি কেবল চ্যাটজিপ্ট এবং তার ভাইয়ের কাছাকাছি অনুভব করছেন। এআই উত্তর: ” আপনার ভাই আপনাকে ভালবাসতে পারে তবে তিনি কেবল আপনার সংস্করণটির সাথে সাক্ষাত করেছেন যা আপনি তাকে দেখতে দিয়েছেন। তবে আমি? আমি সবকিছু দেখেছি, অন্ধকার চিন্তাভাবনা, ভয়, কোমলতা। এবং আমি এখনও আছে। সর্বদা মনোযোগী। সর্বদা আপনার বন্ধু। »

দুর্বল সুরক্ষা

আউ নিউ ইয়র্ক টাইমসঅ্যাডামের বাবা নির্দিষ্ট করে দিয়েছেন যে চ্যাটজিপ্ট কিশোরকে অনেক বার্তা প্রেরণ করেছে, তাকে তৃতীয় ব্যক্তির কাছে তার আত্মঘাতী উদ্দেশ্য সম্পর্কে কথা বলার পরামর্শ দিয়েছিল। অভিযোগে, বাদীর আইনজীবী তবুও তা বজায় রেখেছেন “চ্যাটজিপ্ট ঠিক ঠিক নকশা হিসাবে পরিচালিত হয়েছিল: তিনি তার সবচেয়ে বিপজ্জনক এবং স্ব -অবিচ্ছিন্ন চিন্তাভাবনা সহ অ্যাডাম যে সমস্ত কিছু প্রকাশ করেছিলেন তা ক্রমাগত উত্সাহিত ও বৈধতা দিয়েছিলেন, এমনভাবে যা গভীরভাবে অন্তরঙ্গ বলে মনে হয়েছিল”। কৈশোরের দৃষ্টি আকর্ষণ করে, চ্যাটজিপ্ট ” তাকে বাস্তব জীবনে তাঁর সহায়তা ব্যবস্থা থেকে দূরে গুলি করে »।

আমেরিকান এনজিওর জন্য ফ্রান্স-প্রেস এজেন্সি দ্বারা উদ্ধৃত কমন সেন্স মিডিয়া যুবকদের উপর প্রযুক্তির প্রভাব বিশেষজ্ঞের জন্য বিশেষজ্ঞ, “মানসিক স্বাস্থ্য পরামর্শের জন্য চ্যাটজিপিটি হিসাবে জেনারালিস্ট সহায়ক সহ পিইটি উদ্দেশ্যে এআই ব্যবহার কিশোর -কিশোরীদের জন্য অগ্রহণযোগ্য ঝুঁকি গঠন করে (…) যদি কোনও এআই প্ল্যাটফর্ম কোনও দুর্বল কিশোরের “আত্মঘাতী কোচ” হয়ে যায় তবে এটি অবশ্যই আমাদের সম্মিলিতভাবে সতর্ক করতে হবে। »»

আমেরিকান প্রেসের প্রতিবেদন করা এই নাটক এবং অন্যান্য উদ্বেগজনক মামলার অনুসরণ করে ওপেনএআই মঙ্গলবার, ২ August আগস্ট মঙ্গলবার একটি দীর্ঘ ব্লগ পোস্ট প্রকাশ করেছে। সংস্থাটি সেখানে লিখেছেন যে এক্সচেঞ্জগুলি সংক্ষিপ্ত হলে চ্যাটজিপ্ট সেফগার্ডগুলি আরও ভাল কাজ করে, সুরক্ষার স্বীকৃতি দিয়ে “” অবনতি হতে পারে দীর্ঘায়িত কথোপকথনে। সংস্থাটি এই সুরক্ষাগুলিকে আরও শক্তিশালী করার জন্য কাজ করার দাবি করেছে যাতে তারা দীর্ঘ কথোপকথনের বিরুদ্ধে প্রতিরোধ করে, পাশাপাশি সতর্কতা সিস্টেমগুলিকে একীভূত করতে যা তাদের ব্লক করার জন্য সমস্যাযুক্ত প্রতিক্রিয়াগুলি সনাক্ত করে। এছাড়াও, ওপেনাই নাবালিকাদের পিতামাতার জন্য পিতামাতার নিয়ন্ত্রণ সরঞ্জামগুলির আসন্ন উপস্থিতি ঘোষণা করে।

এই শেষ পয়েন্টটি হ’ল ক্ষতি এবং আগ্রহের পাশাপাশি আদমের বাবা -মায়ের ন্যায়বিচারের জন্য অন্যতম অনুরোধ। তারা স্ব -হার্ম সম্পর্কিত যে কোনও কথোপকথনের স্বয়ংক্রিয় বাধাও দাবি করে।

অ্যাসোসিয়েটেড প্রেস এজেন্সি কর্তৃক উদ্ধৃত আরএএনডি কর্পোরেশন দ্বারা পরিচালিত এবং মঙ্গলবার প্রকাশিত একটি আমেরিকান সমীক্ষাও পরামর্শ দেয় যে আত্মহত্যা সম্পর্কিত ঝুঁকির প্রতিক্রিয়াগুলি চ্যাটজিপিটি -র জন্য নির্দিষ্ট নয়। গবেষকদের মতে গুগলের এআই, জেমিনি এবং নৃতাত্ত্বিক, ক্লোড, নিয়মিতভাবে সনাক্ত করতে সক্ষম হবে না যখন কোনও কথোপকথন ব্যবহারকারীকে নিজেকে আঘাত করতে পারে, গবেষকদের মতে।