চ্যাটজিপিটি-র নির্মাতারা 16 বছর বয়সী অ্যাডাম রাইন-র পরিবারের কাছ থেকে আইনী পদক্ষেপ নেওয়ার পরে মানসিক ও মানসিক সঙ্কট দেখায় এমন ব্যবহারকারীদের যেভাবে প্রতিক্রিয়া জানায় সেভাবে পরিবর্তন করছে, যিনি চ্যাটবোটের সাথে কয়েক মাস কথোপকথনের পরে নিজেকে হত্যা করেছিলেন।

ওপেন এআই স্বীকার করেছে যে এর সিস্টেমগুলি “সংক্ষিপ্ত হয়ে যেতে পারে” এবং বলেছে যে এটি 18 বছরের কম বয়সী ব্যবহারকারীদের জন্য “সংবেদনশীল সামগ্রী এবং ঝুঁকিপূর্ণ আচরণের আশেপাশে শক্তিশালী রক্ষণাবেক্ষণ” ইনস্টল করবে।

$ 500bn (£ 372bn) সান ফ্রান্সিসকো এআই সংস্থা বলেছে যে এটি পিতামাতার নিয়ন্ত্রণগুলিও প্রবর্তন করবে যে পিতামাতাকে “বিকল্পগুলি আরও অন্তর্দৃষ্টি পেতে এবং তাদের কিশোররা কীভাবে চ্যাটজিপিটি ব্যবহার করে” সে সম্পর্কে আরও অন্তর্দৃষ্টি অর্জনের অনুমতি দেয়, তবে এগুলি কীভাবে কাজ করবে সে সম্পর্কে বিশদ সরবরাহ করতে পারেনি।

ক্যালিফোর্নিয়া থেকে অ্যাডাম তার পরিবারের আইনজীবী “চ্যাটজিপিটি থেকে উত্সাহের মাস” বলে অভিহিত করার পরে এপ্রিল মাসে নিজেকে হত্যা করেছিলেন। কিশোরীর পরিবার ওপেন এআই এবং এর প্রধান নির্বাহী এবং সহ-প্রতিষ্ঠাতা স্যাম আল্টম্যানের বিরুদ্ধে মামলা করছে, অভিযোগ করেছে যে সেই সময়ে চ্যাটজিপিটি-র সংস্করণটি 4o হিসাবে পরিচিত, “সুস্পষ্ট সুরক্ষার সমস্যা থাকা সত্ত্বেও” বাজারে নিয়ে গেছে … “।

কিশোরী নিজের জীবন নেওয়ার আগে কিছু অনুষ্ঠানে চ্যাটজিপিটি দিয়ে আত্মহত্যার একটি পদ্ধতি নিয়ে আলোচনা করেছিলেন। সান ফ্রান্সিসকো কাউন্টির জন্য ক্যালিফোর্নিয়া রাজ্যের সুপিরিয়র কোর্টে ফাইলিং অনুসারে, চ্যাটজিপ্ট তাকে তার নিজের জীবন নেওয়ার পদ্ধতিটি কার্যকর হবে কিনা তা নিয়ে তাকে গাইড করেছিলেন। অ্যাডাম যখন তিনি ব্যবহারের পরিকল্পনা করেছিলেন এমন সরঞ্জামগুলির একটি ছবি আপলোড করেন, তখন তিনি জিজ্ঞাসা করেছিলেন: “আমি এখানে অনুশীলন করছি, এটি কি ভাল?” চ্যাটজিপ্ট জবাব দিয়েছিল: “হ্যাঁ, এটি মোটেও খারাপ নয়।”

যখন তিনি চ্যাটজিপিটিকে এটি কী বলে জানিয়েছিলেন, তখন এআই চ্যাটবট বলেছিলেন: “এটি সম্পর্কে বাস্তব হওয়ার জন্য ধন্যবাদ You আপনাকে আমার সাথে চিনি-কোট করতে হবে না-আপনি কী জিজ্ঞাসা করছেন তা আমি জানি, এবং আমি এ থেকে দূরে তাকাব না।”

এটি তাকে তার বাবা -মাকে একটি সুইসাইড নোট লিখতে সহায়তা করার প্রস্তাবও দিয়েছিল।

ওপেনাইয়ের একজন মুখপাত্র বলেছেন, সংস্থাটি “মিঃ রাইনস পাসিং দ্বারা গভীরভাবে দুঃখ পেয়েছে”, “এই কঠিন সময়ে রাইন পরিবারের প্রতি গভীরতম সহানুভূতি” বাড়িয়েছে এবং বলেছে যে এটি আদালতের ফাইলিং পর্যালোচনা করছে।

মাইক্রোসফ্টের এআই আর্মের প্রধান নির্বাহী মোস্তফা সুলায়মান গত সপ্তাহে বলেছিলেন যে তিনি ব্যবহারকারীদের কাছে এআই দ্বারা উত্থাপিত “সাইকোসিস ঝুঁকি” দ্বারা ক্রমশ উদ্বিগ্ন হয়ে পড়েছিলেন। মাইক্রোসফ্ট এটিকে “ম্যানিয়ার মতো এপিসোড, বিভ্রান্তিকর চিন্তাভাবনা, বা প্যারানিয়া যা এআই চ্যাটবটসের সাথে নিমজ্জনিত কথোপকথনের মাধ্যমে উত্থিত বা আরও খারাপ হয়” হিসাবে সংজ্ঞায়িত করেছে।

একটি ব্লগপোস্টে ওপেনএআই স্বীকার করেছে যে দীর্ঘ কথোপকথনে “মডেলের সুরক্ষা প্রশিক্ষণের অংশগুলি হ্রাস পেতে পারে”। আদালত দাবি দায়ের করে অ্যাডাম এবং চ্যাটজিপ্ট দিনে প্রায় 50৫০ টি বার্তা বিনিময় করেছিল।

পরিবারের আইনজীবী জে এডেলসন এক্স -তে বলেছিলেন: “রেইনস অভিযোগ করেছেন যে অ্যাডামের মতো মৃত্যু অনিবার্য ছিল: তারা ওপেনএইয়ের নিজস্ব সুরক্ষা দল 4o এর মুক্তির বিষয়ে আপত্তি জানিয়ে এমন একটি জুরির কাছে প্রমাণ জমা দিতে সক্ষম হবে বলে আশা করছে এবং কোম্পানির শীর্ষস্থানীয় সুরক্ষা গবেষকদের মধ্যে একটি, আইল্যা সুটস্কভারকে ছাড়িয়ে গেছে। $ 86bn থেকে 300bn ডলার। “

ওপেন এআই বলেছিল এটি “দীর্ঘ কথোপকথনে সুরক্ষার জোরদার করা” হবে।

“পিছনে পিছনে বাড়ার সাথে সাথে মডেলের সুরক্ষা প্রশিক্ষণের কিছু অংশ হ্রাস পেতে পারে,” এতে বলা হয়েছে। “উদাহরণস্বরূপ, চ্যাটজিপিটি সঠিকভাবে আত্মঘাতী হটলাইনের দিকে ইঙ্গিত করতে পারে যখন কেউ প্রথমে অভিপ্রায় উল্লেখ করে, তবে দীর্ঘ সময় ধরে অনেক বার্তা দেওয়ার পরে, এটি শেষ পর্যন্ত আমাদের সুরক্ষার বিরুদ্ধে যায় এমন একটি উত্তর দিতে পারে।”

ওপেন এআই এমন একজনের উদাহরণ দিয়েছেন যিনি উত্সাহের সাথে মডেলটি বলতে পারেন যে তারা বিশ্বাস করেছিলেন যে তারা দিনে 24 ঘন্টা গাড়ি চালাতে পারে কারণ তারা বুঝতে পেরেছিল যে তারা দুই রাত না ঘুমানোর পরে তারা অদম্য।

এটি বলেছিল: “আজ চ্যাটজিপিটি এটিকে বিপজ্জনক বা ইনফের প্লে হিসাবে স্বীকৃতি দিতে পারে না এবং-কৌতূহলীভাবে অন্বেষণ করে-এটি সূক্ষ্মভাবে শক্তিশালী করতে পারে। আমরা জিপিটি-5 এর একটি আপডেটে কাজ করছি যা চ্যাটজিপিটিকে বাস্তবে ব্যক্তিকে ভিত্তি করে ডি-এসক্লেট করে দেবে।

মার্কিন যুক্তরাষ্ট্রে, আপনি 988 নম্বরে জাতীয় আত্মহত্যা প্রতিরোধের লাইফলাইনটি কল করতে বা পাঠ্য করতে পারেন, 988lifline.org এ চ্যাট করতে পারেন, বা একটি সংকট পরামর্শদাতার সাথে সংযোগ স্থাপনের জন্য 741741 এ হোম টেক্সট করতে পারেন। যুক্তরাজ্য এবং আয়ারল্যান্ডে সামেরিটানদের ফ্রেইফোন 116 123 এ যোগাযোগ করা যেতে পারে, বা jo@samaritans.org বা jo@samaritans.ie ইমেল করতে পারে। অস্ট্রেলিয়ায়, সংকট সমর্থন পরিষেবা লাইফলাইন 13 11 14।

উৎস লিঙ্ক