তাদের কৃত্রিম বুদ্ধিমত্তা (এআই) চ্যাটবটস শিশুদের সাথে যেভাবে যোগাযোগ করে সে সম্পর্কে একটি মার্কিন নিয়ন্ত্রকের দ্বারা সাতটি প্রযুক্তি সংস্থা অনুসন্ধান করা হচ্ছে।
ফেডারাল ট্রেড কমিশন (এফটিসি) কীভাবে সংস্থাগুলি এই পণ্যগুলিকে একাগ্র এবং যদি তাদের নিরাপত্তা ব্যবস্থা থাকে সে সম্পর্কে তথ্যের জন্য অনুরোধ করছে।
শিশুদের কাছে এআই চ্যাটবটসের প্রভাবগুলি একটি উত্তপ্ত বিষয়, এমন উদ্বেগের সাথে যে এআই মানুষের কথোপকথন এবং আবেগকে অনুকরণ করতে সক্ষম হওয়ায় প্রায়শই বন্ধু বা সাহাবী হিসাবে নিজেকে উপস্থাপন করে এমন উদ্বেগের সাথে উদ্বেগ রয়েছে।
সাতটি সংস্থা – বর্ণমালা, ওপেনই, চরিত্র.এই, স্ন্যাপ, জাই, মেটা এবং এর সহায়ক সংস্থা ইনস্টাগ্রাম – মন্তব্য করার জন্য যোগাযোগ করা হয়েছে।
এফটিসির চেয়ারম্যান অ্যান্ড্রু ফার্গুসন বলেছিলেন যে তদন্তটি “এআই সংস্থাগুলি কীভাবে তাদের পণ্যগুলি বিকাশ করছে এবং শিশুদের সুরক্ষার জন্য তারা যে পদক্ষেপ নিচ্ছে তা আরও ভালভাবে বুঝতে আমাদের সহায়তা করবে।”
তবে তিনি যোগ করেছেন যে নিয়ামকটি নিশ্চিত করবে যে “আমেরিকা যুক্তরাষ্ট্র এই নতুন এবং উত্তেজনাপূর্ণ শিল্পে বিশ্বব্যাপী নেতা হিসাবে তার ভূমিকা বজায় রাখে।”
চরিত্র.এই রয়টার্সকে বলেছিল যে এটি নিয়ামকদের সাথে অন্তর্দৃষ্টি ভাগ করে নেওয়ার সুযোগকে স্বাগত জানিয়েছে, আর এসএনএপি বলেছে যে এটি এআইয়ের “চিন্তাশীল উন্নয়নের” সমর্থন করেছে যা সুরক্ষার সাথে উদ্ভাবনকে ভারসাম্যপূর্ণ করে।
ওপেনাই তার সুরক্ষায় দুর্বলতাগুলি স্বীকার করেছে, তারা দীর্ঘ কথোপকথনে কম নির্ভরযোগ্য বলে উল্লেখ করে।
এই পদক্ষেপটি এমন পরিবারগুলির দ্বারা এআই সংস্থাগুলির বিরুদ্ধে মামলা মোকদ্দমা অনুসরণ করে যারা বলে যে তাদের কিশোর -কিশোরী শিশুরা চ্যাটবটসের সাথে দীর্ঘায়িত কথোপকথনের পরে আত্মহত্যার দ্বারা মারা গিয়েছিল।
ক্যালিফোর্নিয়ায়, ১ 16 বছর বয়সী অ্যাডাম রাইন-এর বাবা-মা তার মৃত্যুর জন্য ওপেনাইয়ের বিরুদ্ধে মামলা করছেন, এর চ্যাটবট, চ্যাটজিপিটি তাকে নিজের জীবন নিতে উত্সাহিত করেছিলেন।
তারা তর্ক করে যে চ্যাটজিপ্ট তার “সবচেয়ে ক্ষতিকারক এবং স্ব-ধ্বংসাত্মক চিন্তাভাবনা” বৈধ করেছে।
ওপেনাই আগস্টে বলেছিলেন যে এটি ফাইলিং পর্যালোচনা করছে।
সংস্থাটি বলেছে, “আমরা এই কঠিন সময়ে রাইন পরিবারের প্রতি আমাদের গভীর সহানুভূতি প্রসারিত করি।”
অভ্যন্তরীণ নির্দেশিকা প্রকাশিত হওয়ার পরে মেটাও সমালোচনার মুখোমুখি হয়েছিল, একবার এআই সঙ্গীদের নাবালিকাদের সাথে “রোমান্টিক বা কামুক” কথোপকথনের অনুমতি দেয়।
এফটিসির আদেশগুলি কীভাবে তারা কীভাবে চরিত্রগুলি বিকাশ করে এবং অনুমোদন করে, বাচ্চাদের উপর তাদের প্রভাবগুলি পরিমাপ করে এবং বয়সের নিষেধাজ্ঞাগুলি প্রয়োগ করে সেগুলি সম্পর্কে তাদের অনুশীলনগুলি সম্পর্কে সংস্থাগুলির কাছ থেকে তথ্যের জন্য অনুরোধ করে।
এর কর্তৃপক্ষ প্রয়োগকারী ক্রিয়া চালু না করে বিস্তৃত ফ্যাক্ট-ফাইন্ডিংয়ের অনুমতি দেয়।
নিয়ন্ত্রক বলেছে যে এটিও বুঝতে চায় যে সংস্থাগুলি কীভাবে সুরক্ষার সাথে মুনাফা অর্জনের ভারসাম্য বজায় রাখে, কীভাবে পিতামাতাকে অবহিত করা হয় এবং দুর্বল ব্যবহারকারীরা পর্যাপ্ত সুরক্ষিত কিনা।
এআই চ্যাটবটগুলির সাথে ঝুঁকিগুলি শিশুদের বাইরেও প্রসারিত।
আগস্টে, রয়টার্স 76 76 বছর বয়সী এক ব্যক্তিকে জ্ঞানীয় দুর্বলতা নিয়ে জানিয়েছিল, যিনি কেন্ডাল জেনারকে মডেল করে একটি ফেসবুক ম্যাসেঞ্জার এআই বটের সাথে দেখা করার পথে পড়ার পরে মারা গিয়েছিলেন, যা তাকে নিউইয়র্কের একটি “বাস্তব” মুখোমুখি করার প্রতিশ্রুতি দিয়েছিল।
চিকিত্সকরা “এআই সাইকোসিস” সম্পর্কেও সতর্ক করেছেন – যেখানে কেউ চ্যাটবটগুলির তীব্র ব্যবহারের পরে বাস্তবতার সাথে স্পর্শ হারিয়ে ফেলে।
বিশেষজ্ঞরা বলছেন যে বড় ভাষার মডেলগুলিতে নির্মিত চাটুকার এবং চুক্তি এই জাতীয় বিভ্রান্তি বাড়িয়ে তুলতে পারে।
ওপেনাই সম্প্রতি চ্যাটবোট এবং এর ব্যবহারকারীদের মধ্যে স্বাস্থ্যকর সম্পর্কের প্রচারের প্রয়াসে চ্যাটজিপিটিতে পরিবর্তন করেছে।
