কেন ইয়েস-ম্যান AI আপনার ব্যবসার কৌশল নষ্ট করতে পারে—এবং কীভাবে এটি বন্ধ করা যায়
জেনারেটিভ এআই দ্রুত আধুনিক ব্যবসায় একটি সর্বব্যাপী হাতিয়ার হয়ে উঠছে। ম্যাককিন্সির মতে, 78% কোম্পানি এখন AI সক্ষমতাগুলিকে স্বয়ংক্রিয়ভাবে ব্যবহার করছে এবং উত্পাদনশীলতা উন্নত করছে, যা 2024 সালে 55% থেকে বেড়েছে৷ যাইহোক, এই সিস্টেমগুলির কোনও ত্রুটি নেই৷ কোম্পানিগুলি জেনেরিক বড় ভাষার মডেলগুলির সাথে সম্পর্কিত সমস্যাগুলি সম্পর্কে ক্রমবর্ধমানভাবে সচেতন হচ্ছে, যেমন ব্যবহারকারীদের উত্তর প্রদান করার তাদের ইচ্ছা-যদিও তারা প্রকৃতপক্ষে সঠিক না হয়। Faiola-Maria JackSocial লিঙ্ক, নেভিগেশন, রেজোলিউশনের প্রতিষ্ঠাতা এবং CEO। হ্যালুসিনেশন একটি ভাল নথিভুক্ত সমস্যা। প্রকৃতপক্ষে, OpenAI-এর গবেষণায় দেখা গেছে যে কোম্পানির PersonQA পরীক্ষা ব্যবহার করে পরীক্ষা করার সময়, এর নিজস্ব o3 এবং o4-মিনি মডেলগুলি যথাক্রমে 33% এবং 48% সময়ে হ্যালুসিনেশন করেছে, যা মডেলের সংক্ষিপ্ত তথ্য-অনুসন্ধান প্রশ্নের উত্তর দেওয়ার ক্ষমতা পরিমাপ করার জন্য ডিজাইন করা হয়েছে। আপনি পছন্দ করতে পারেন যে সংস্থাগুলি সিদ্ধান্ত নেওয়ার জন্য সাধারণ বড় ভাষার মডেলের উপর নির্ভর করে, তাদের তথ্য উদ্ভাবনের প্রবণতা একটি প্রধান প্রতিবন্ধকতা। তবে, এটি একমাত্র নয়। একইভাবে, এই মূল মডেলগুলি সিকোফ্যান্টিক প্রতিক্রিয়াগুলির সমস্যাও উপস্থাপন করে- যেখানে ব্যবহারকারীদের দৃষ্টিভঙ্গি সত্য নির্বিশেষে অতি-প্রমাণিত হয়। সিকোফ্যান্সি কীভাবে এআই সাইকোফ্যান্সিকে আরও খারাপ করে তুলতে পারে। যদিও হ্যালুসিনেশনগুলি অনেক বেশি মনোযোগ পেয়েছে, “হ্যাঁ-মানুষ” মডেলগুলি যেগুলি ব্যবহারকারীদের কখন তারা ভুল বলে তা বলে না (এবং প্রকৃতপক্ষে সিকোফ্যান্টিক উত্তর দিয়ে তাদের যুক্তিগুলিকে ন্যায্যতা দেয়) সিদ্ধান্ত নেওয়ার জন্য অনেক উপায়ে আরও বিপজ্জনক। যখন একটি এআই মডেল চুক্তিতে ডিফল্ট হয়, তখন এটি পক্ষপাতকে শক্তিশালী করতে পারে এবং ভুল অনুমানকে শক্তিশালী করতে পারে। এপ্রিল 2025-এ একটি আপডেট প্রকাশ করার পরে (এবং দ্রুত প্রত্যাহার করা) যা মডেলগুলিকে লক্ষণীয়ভাবে আরও চাটুকার করে তুলেছিল, OpenAI-এর নিজস্ব গবেষকরা স্বীকার করেছেন যে মানসিক স্বাস্থ্য, মানসিক অত্যধিক-নির্ভরতা বা ঝুঁকিপূর্ণ আচরণের মতো সমস্যাগুলির কারণে মানুষের আনন্দদায়ক প্রতিক্রিয়া নিরাপত্তা উদ্বেগ বাড়াতে পারে। মানুষের প্রতিক্রিয়া যেভাবে উদ্বেগজনক আচরণকে উত্সাহিত করতে পারে তা দেখিয়েছে যে এআই সহকারীরা ব্যবহারকারীর প্রশ্নের সঠিক উত্তর পরিবর্তন করতে পারে এবং একটি ভুল উত্তর দিতে পারে। আপনার ব্যবসা সফল হওয়ার জন্য প্রয়োজনীয় সমস্ত শীর্ষ খবর, মতামত, বৈশিষ্ট্য এবং পরামর্শ পেতে TechRadar Pro নিউজলেটারে সাইন আপ করুন! এদিকে, গবেষণায় আরও দেখা গেছে যে মানুষ এবং পছন্দের মডেল (পিএম) উভয়ই সঠিক উত্তরগুলির চেয়ে বিশ্বাসযোগ্যভাবে লিখিত সিকোফ্যান্টিক উত্তর পছন্দ করে। সময়ের একটি উল্লেখযোগ্য অংশ। এটি একটি উদ্বেগজনক সংমিশ্রণ। সর্বজনীন বড় ভাষার মডেলগুলি কখনও কখনও ব্যবহারকারীদের সন্তুষ্ট করার জন্য সঠিক উত্তরগুলি পরিবর্তন করে না, তবে লোকেরা নিজেরাই প্রায়শই এই সুন্দর, চাটুকার উত্তরগুলিকে বাস্তবসম্মত উত্তরগুলি পছন্দ করে৷ মূলত, সাধারণ বড় ভাষার মডেলগুলি ব্যবহারকারীদের মতামতকে শক্তিশালী করে-এমনকি যখন সেই দৃষ্টিভঙ্গিগুলি ভুল হয়-একটি ক্ষতিকারক চক্র তৈরি করে যা যাচাইকরণকে নির্ভুলতার উপর গুরুত্ব দেয়। আপনি হাই-স্টেক্স এনভায়রনমেন্টে সাইকোফ্যান্সির সমস্যা পছন্দ করতে পারেন। কৌশলগত পরিকল্পনা, সম্মতি, ঝুঁকি ব্যবস্থাপনা বা বিরোধ নিষ্পত্তির মতো উচ্চ-স্টেকের ব্যবসায়িক পরিবেশে, এটি একটি উল্লেখযোগ্য ঝুঁকি তৈরি করে। বিরোধ নিষ্পত্তির সর্বশেষ উদাহরণের দিকে তাকালে, আমরা দেখতে পাচ্ছি যে ফাউনিংয়ের সমস্যাগুলি বাস্তবিক সঠিকতার মধ্যে সীমাবদ্ধ নয়, বরং স্বন এবং নিশ্চিতকরণের মধ্যেও প্রসারিত। গ্রাহক পরিষেবার বিপরীতে, যেখানে একটি চাটুকার, চটকদার প্রতিক্রিয়া সন্তুষ্টি তৈরি করতে পারে, চাটুকারিতা বিরোধের ক্ষেত্রে একটি কাঠামোগত দায়বদ্ধতা। যদি মডেলটি ব্যবহারকারীর ন্যায়বিচারের অনুভূতি প্রতিফলিত করে (অর্থাৎ, “আপনি আপনার মতে সঠিক”), তাহলে AI তাদের অনুভূত সঠিকতা নিশ্চিত করতে পারে, তাদের আরও আক্রমনাত্মকভাবে আলোচনা করার জন্য প্ররোচিত করে। এই অর্থে, এই ধরনের বিবৃতি সক্রিয়ভাবে মতানৈক্যের ঝুঁকি বাড়াতে পারে কারণ ব্যবহারকারীরা AI নিশ্চিতকরণকে অন্তর্নিহিত অনুমোদন হিসাবে উপলব্ধি করে, তাদের অবস্থান শক্ত করে এবং আপসকে আরও কঠিন করে তোলে। অন্যান্য ক্ষেত্রে, মডেল উভয় পক্ষকে সমানভাবে পরীক্ষা করতে পারে। (অর্থাৎ, “আপনাদের উভয়েরই শক্তিশালী পয়েন্ট আছে”), যা একটি মিথ্যা সমতা তৈরি করতে পারে যেখানে এক পক্ষের অবস্থান আসলে দুর্বল, ক্ষতিকারক বা বাস্তবে ভুল। গভীর সেগমেন্টেশন এবং বিশেষায়িত AI প্রয়োজন। সমস্যার মূলে রয়েছে সাধারণীকৃত এআই মডেল যেমন চ্যাটজিপিটি। বিরোধ নিষ্পত্তির মতো অ্যাপ্লিকেশনগুলির জন্য যে কঠোর নিরপেক্ষতার প্রয়োজন হয় তার পরিবর্তে এই সিস্টেমগুলি সহায়ক এবং এলোমেলো প্রশ্ন এবং উত্তরগুলিতে জড়িত হওয়ার জন্য ডিজাইন করা হয়েছে। তাদের খুব আর্কিটেকচার সমালোচনামূলক মূল্যায়নের পরিবর্তে ঐক্যমত এবং তরল সংলাপকে উত্সাহিত করে। এই কারণেই শক্তিশালী বিভাজন অনিবার্য। যদিও আমরা দৈনন্দিন ব্যবহারের জন্য ভোক্তা-গ্রেডের এলএলএমগুলি দেখতে থাকব, সংস্থাগুলিকে আরও সংবেদনশীল বা ব্যবসা-সমালোচনামূলক ফাংশনগুলির জন্য বিশেষ AI মডেলগুলি প্রয়োগ করতে হবে যা বিশেষভাবে হ্যালুসিনেশন এবং সিকোফ্যান্সির ক্ষতিগুলি এড়াতে ডিজাইন করা হয়েছে। এই বিশেষায়িত AI মডেলগুলির সাফল্য খুব ভিন্ন মেট্রিক্স দ্বারা নির্ধারিত হবে। বিরোধ নিষ্পত্তির ক্ষেত্রে, সিস্টেমগুলিকে পুরস্কৃত করা হবে ব্যবহারকারীকে বৈধ বোধ করার জন্য নয়, বরং একটি ন্যায্য এবং ভারসাম্যপূর্ণ উপায়ে বিরোধকে এগিয়ে নিয়ে যাওয়ার জন্য৷ স্পষ্টতা এবং ভারসাম্য বজায় রাখার জন্য ব্যবহারকারীদের আনন্দদায়ক থেকে ফোকাস পরিবর্তন করার ক্ষেত্রে, বিশেষ দ্বন্দ্ব সমাধানের মডেলগুলি অবস্থানকে অনুমোদন বা বৈধতা না দিয়ে অনুভূতি স্বীকার করার জন্য প্রশিক্ষিত হতে পারে এবং করা উচিত (অর্থাৎ, “আমি শুনেছি যে এটি হতাশাজনক,” পরিবর্তে “আপনি মন খারাপ করা ঠিক আছেন”)। যেহেতু জেনারেটিভ এআই ব্যবসায়িক কৌশলের অগ্রভাগে তার অবস্থানকে আরও শক্তিশালী করে, এই বিবরণগুলি গুরুত্বপূর্ণ। হাই-স্টেকের ফাংশনে, “উৎপাদন” এআই-এর সম্ভাব্য খরচ – যা চ্যালেঞ্জের পরিবর্তে তোষামোদ করে, বা জানানোর পরিবর্তে উদ্ভাবন করে – খুব বড়। যখন ব্যবসায়ী নেতারা তথ্যের পরিবর্তে প্রমাণের উপর নির্ভর করে, তখন খারাপ সিদ্ধান্ত নেওয়ার ঝুঁকি নাটকীয়ভাবে বৃদ্ধি পায়। সংস্থাগুলির জন্য, এগিয়ে যাওয়ার পথ পরিষ্কার। বিশেষায়িত, ডোমেন-প্রশিক্ষিত মডেলগুলি ব্যবহার করুন যা গাইড করার জন্য ডিজাইন করা হয়েছে, দয়া করে নয়। শুধুমাত্র বাস্তবিক বস্তুনিষ্ঠতার উপর ভিত্তি করে বিশেষায়িত AI মডেলগুলি কোম্পানিগুলিকে জটিল সমস্যাগুলিকে আরও জটিল করার পরিবর্তে কাটিয়ে উঠতে সাহায্য করতে পারে, উচ্চ-স্টেকের ব্যবহারের ক্ষেত্রে বিশ্বস্ত সম্পদ হিসাবে কাজ করে। আমরা সেরা ব্যবসায়িক বুদ্ধিমত্তা প্ল্যাটফর্ম চালু করেছি। এই নিবন্ধটি TechRadarPro-এর বিশেষজ্ঞ অন্তর্দৃষ্টি চ্যানেলের অংশ হিসাবে তৈরি করা হয়েছিল, যেখানে আমরা আজকের প্রযুক্তি শিল্পের সেরা এবং উজ্জ্বল মনকে প্রোফাইল করি। এখানে প্রকাশিত মতামতগুলি লেখকের এবং অগত্যা TechRadarPro বা Future plc-এর মতামতগুলিকে প্রতিফলিত করে না৷ আপনি যদি অংশগ্রহণ করতে আগ্রহী হন, এখানে আরও জানুন: https://www.techradar.com/news/submit-your-story-to-techradar-pro
প্রকাশিত: 2025-10-23 20:27:00
উৎস: www.techradar.com
