কৃত্রিম বুদ্ধিমত্তার উপর নির্ভর করার বিপদ
যখন আমার কিশোর ছেলের রহস্যময় লক্ষণ দেখা দেয়, তখন আমি অন্য সবার মতো একই পথ অনুসরণ করেছিলাম: আমি তার স্বাস্থ্যকে চিকিৎসা পেশাদারদের একটি দলের হাতে রেখেছিলাম। মাল্টিপল মাইলোমা একটি বিরল রক্তের ক্যান্সার। এটি 17 বছর বয়সীদের মধ্যে এতটাই অস্বাভাবিক যে এটি ডায়াগনস্টিক স্ক্রীনিং তালিকায় প্রদর্শিত হয় না। যদিও সেখানে থেকে কাজ করার জন্য কোন সুস্পষ্ট সূচনা বিন্দু ছিল না, আমার ছেলের ডাক্তাররা ট্রায়াল এবং ত্রুটির একটি প্রক্রিয়ার মাধ্যমে একটি সঠিক নির্ণয়ের জন্য তাদের পথ কাজ করেছে, একে অপরের থেকে ধারণাগুলি বাউন্স করে এবং হাইপোথিসিসগুলি পরীক্ষা করে এবং সেগুলি বাতিল করে দেয় যতক্ষণ না তারা আমাদের বলতে পারে কী ভুল ছিল৷ যখন আমি দ্রুত উত্তর এবং কঠিন গ্যারান্টি চেয়েছিলাম তখন প্রক্রিয়াটি অদক্ষ এবং অনিশ্চিত বলে মনে হয়েছিল। কিন্তু এই স্বতন্ত্রভাবে বিশৃঙ্খল কিন্তু মানবিক পদ্ধতি আমার ছেলের জীবন বাঁচিয়েছে। AI প্রশিক্ষিত এবং পরীক্ষিত অ্যালগরিদমগুলির বিশ্লেষণাত্মক শক্তি দিয়ে ত্রুটি-প্রবণ এবং অপ্রত্যাশিত মানব মনকে প্রতিস্থাপন করে এই জাতীয় প্রক্রিয়াগুলিকে উন্নত করার প্রতিশ্রুতি দেয়। সংস্থাগুলিকে AI প্রযুক্তি বাস্তবায়নে সহায়তা করে এমন একজন হিসাবে, আমি জানি যে এটির প্রক্রিয়াগুলি এবং কর্মপ্রবাহকে আরও দক্ষ করে তোলার কতটা সম্ভাবনা রয়েছে। কিন্তু আমরা বৃহৎ পরিসরে মানুষের বিচার প্রতিস্থাপন শুরু করার আগে, উৎপাদনশীলতা লাভের সাথে আসতে পারে এমন লুকানো খরচ সম্পর্কে আমাদের সাবধানে চিন্তা করতে হবে। দ্য ল্যানসেট গ্যাস্ট্রোএন্টারোলজি এবং হেপাটোলজিতে একটি সাম্প্রতিক গবেষণা এআই ধর্মান্ধদের জন্য কিছু সমস্যাজনক ফলাফল প্রদান করেছে। ডাক্তাররা যারা ডায়াগনস্টিক ভূমিকায় AI সমর্থনের সাথে কাজ করে বেশ কয়েক মাস অতিবাহিত করেছিল তারা প্রযুক্তিটি প্রত্যাহার করার সময় অসমর্থিত কর্মক্ষমতাতে উল্লেখযোগ্য হ্রাস দেখিয়েছিল। এই ধরনের “ডি-স্কিলিং” প্রভাব শুধুমাত্র ওষুধ বা কৃত্রিম বুদ্ধিমত্তার মধ্যে সীমাবদ্ধ নয়। আমরা বছরের পর বছর ধরে জানি যে ভারী জিপিএস ব্যবহারের ফলে স্থানিক মেমরি কমে যায় এবং তথ্যের সহজ অ্যাক্সেস আমাদের তথ্য মনে রাখার ক্ষমতা হ্রাস করে (তথাকথিত “গুগল ইফেক্ট”)। ফয়সাল হকের বই, পডকাস্ট এবং কোম্পানিগুলি নেতাদের উদ্দেশ্য, মানুষ, প্রক্রিয়া এবং প্রযুক্তিকে একত্রিত করার জন্য কাঠামো এবং প্ল্যাটফর্ম দেয় – বাধাকে অর্থপূর্ণ, দীর্ঘস্থায়ী অগ্রগতিতে পরিণত করে। আরও জানুন বেশিরভাগ লোকেরা সুবিধার বিনিময় হিসাবে এই জ্ঞানীয় ক্ষতিগুলি গ্রহণ করতে ইচ্ছুক। এটি একটি ট্রেড অফ যা ব্যক্তিদের নিজেদের জন্য সিদ্ধান্ত নিতে হবে। কিন্তু যখন সংগঠন এবং প্রতিষ্ঠানের কথা আসে তখন বিষয়গুলো আরও জটিল হয়। আমাদের দক্ষতা আউটসোর্স করার পরে আমাদের AI সরঞ্জামগুলিতে অ্যাক্সেস হারানোর বিষয়ে উদ্বেগটি মাথায় আসে। সিস্টেম ক্র্যাশ হলে বা কর্মক্ষমতা কমে গেলে কী হবে? যদিও এটি একটি বাস্তব সমস্যা, এটি নতুন নয়। প্রয়োজনে আমরা ব্যাকআপ সমাধান ডিজাইন করতে পারি, ঠিক যেমন আমরা সবসময় প্রযুক্তির সাথে করি। তবে আরও একটি সমস্যা রয়েছে যা কেবল পাহারা বসিয়ে সমাধান করা যায় না। মানুষের দক্ষতার সেটগুলি কেবল গুরুত্বপূর্ণ নয় কারণ তারা আমাদের সেই দক্ষতাগুলির উপর কাজ করার অনুমতি দেয়, তবে তারা পরিচালক এবং সিদ্ধান্ত গ্রহণকারীদের সামনের লাইনে কী ঘটছে তা বুঝতে এবং তদারকি করার অনুমতি দেয়। ডাক্তাররা যদি তাদের ডায়াগনস্টিক দক্ষতা হারায়, তাহলে কে অ্যালগরিদমিক ফলাফল যাচাই বা পর্যালোচনা করবে? কে লক্ষ্য করবে যে উন্নত ক্ষেত্রে – পরিসংখ্যানগতভাবে অনুপযুক্ত রোগের রোগীদের – সঠিকভাবে নির্ণয় করা হচ্ছে না? এবং সম্ভবত সবচেয়ে গুরুত্বপূর্ণ, অ্যালগরিদমিক বিচারের দায়ভার কে বহন করবে, তারা সঠিক বা ভুল কিনা? বেশিরভাগ সংস্থার জন্য, জনসাধারণের বিশ্বাস বজায় রাখা সমাজের সাথে তাদের সম্পর্কের একটি অপরিহার্য অংশ। নিরাপদ খাবার সরবরাহ করার জন্য রান্নাঘরের ক্ষমতার উপর আমরা বিশ্বাস না রাখলে যেমন আমরা একটি রেস্তোরাঁয় খাব না, তেমনি আমরা এমন পণ্য এবং পরিষেবাগুলি এড়িয়ে চলি যা আমাদের ক্ষতি করতে পারে বলে আমরা বিশ্বাস করি। জবাবদিহিতার অভাবে বিশ্বাস করা অসম্ভব হয়ে পড়ে। আইবিএম প্রশিক্ষণ ম্যানুয়াল হিসাবে এটি প্রায় পঞ্চাশ বছর আগে বলেছিল: “একটি কম্পিউটার কখনই দায়বদ্ধ হতে পারে না এবং তাই কখনই পরিচালনার সিদ্ধান্ত নেওয়া উচিত নয়।” কৃত্রিম বুদ্ধিমত্তার ক্ষেত্রেও একই নীতি প্রযোজ্য। একজন মানবিক সিদ্ধান্ত গ্রহণকারীর দিকে দায়বদ্ধতার একটি পরিষ্কার পথ ছাড়া, এআই আচরণ থেকে উদ্ভূত কোনো ক্ষতির জন্য কাউকে দায়বদ্ধ করা অসম্ভব হয়ে পড়ে। জবাবদিহিতার এই অভাব একটি প্রতিষ্ঠানের বৈধতা ধ্বংস করতে পারে। 2020 সালের UK পরীক্ষার পরাজয়ের সময় আমরা এই গতিশীলতাগুলি দেখতে পাচ্ছি। Covid-19 মহামারীর উচ্চতায়, নিয়মিত পরীক্ষা বাতিল হওয়ার সাথে সাথে, UK সরকার গ্রেড নির্ধারণের জন্য একটি অ্যালগরিদম ব্যবহার করেছে। অ্যালগরিদম পক্ষপাতিত্ব আমদানি করে এবং পদ্ধতিগতভাবে ধনী ব্যাকগ্রাউন্ড থেকে শিশুদের পছন্দ করে। কিন্তু এমনকি যদি এই পদ্ধতিটি নিখুঁতভাবে কাজ করে, তবুও গুরুত্বপূর্ণ কিছু অনুপস্থিত থাকবে: প্রতিষ্ঠানগুলি তাদের দ্বারা প্রভাবিত ব্যক্তিদের কাছে তাদের সিদ্ধান্তকে ন্যায্যতা দিতে সক্ষম। আজীবন প্রভাব থাকতে পারে এমন ফলাফলের জন্য অ্যালগরিদমিক ব্যাখ্যা নিয়ে কেউ সন্তুষ্ট হবে না। অবশেষে, সরকার প্রতিটি ছাত্রের শিক্ষকদের দ্বারা পরিচালিত মূল্যায়নের সাথে এআই-এর রায় প্রতিস্থাপন করে কোর্সটি উল্টে দেয়। আপনার প্রতিষ্ঠানের জন্য এর অর্থ কী? চ্যালেঞ্জ হল AI ব্যবহার করবেন কি করবেন না, বরং বিপজ্জনক নির্ভরতা তৈরি না করে কীভাবে এটি বাস্তবায়ন করবেন তা চ্যালেঞ্জ। লিডার, ম্যানেজার এবং দলগুলি যে নির্দিষ্ট পদক্ষেপগুলি গ্রহণ করতে পারে তা এখানে রয়েছে: AI ঘূর্ণন সময়সূচী বাস্তবায়ন করুন: মূল দক্ষতা বজায় রাখার জন্য দলগুলি এআই-সহায়তা থেকে ম্যানুয়াল কাজগুলিতে পর্যায়ক্রমে ঘোরানো নিশ্চিত করুন৷ দক্ষতা সংরক্ষণ প্রোটোকল স্থাপন করুন: মানবিক ক্ষমতার নথিভুক্ত করুন যা গুরুত্বপূর্ণ এবং আউটসোর্স করা যায় না। জবাবদিহিতার শৃঙ্খল তৈরি করুন: মানুষের অনুমোদনের প্রয়োজন এমন সিদ্ধান্তগুলি চিহ্নিত করুন। ইনস্টিটিউট “অ্যানালগ দিন”: নিয়মিত সেশনের সময়সূচী করুন যেখানে দলগুলি এআই সরঞ্জাম ছাড়াই সমস্যার সমাধান করে। কাটিং-এজ ডিজাইন কেস চ্যালেঞ্জ: এমন ব্যায়াম তৈরি করুন যা AI মিস করতে পারে এমন অস্বাভাবিক পরিস্থিতিতে ফোকাস করুন। সিদ্ধান্তের রেকর্ড বজায় রাখুন: কখন এবং কেন আপনি AI সুপারিশগুলিকে ওভাররাইড করেন তা নথিভুক্ত করে মানুষের বিচারের মূল্য এবং ভূমিকার প্রাতিষ্ঠানিক স্মৃতি তৈরি করুন। ব্যাখ্যা অনুশীলনের অনুশীলন করুন: নিয়মিতভাবে দলের সদস্যদের এআই আউটপুটগুলি সরল ভাষায় ব্যাখ্যা করতে বলুন – যদি তারা এটি ব্যাখ্যা করতে না পারে তবে তাদের এটির উপর নির্ভর করা উচিত নয়। দক্ষতার ভূমিকাগুলি ঘোরান: নিশ্চিত করুন যে একাধিক ব্যক্তি এআই সমর্থন ছাড়াই গুরুত্বপূর্ণ কাজগুলি সম্পাদন করতে পারে, ব্যর্থতার একক পয়েন্ট প্রতিরোধ করে৷ সতর্কতার চিহ্নগুলি আপনার সংস্থা এই লাল পতাকাগুলির জন্য AI ওয়াচের উপর খুব বেশি নির্ভর করে যা নির্ভরশীলতার বিপজ্জনক স্তর নির্দেশ করে: দলগুলি AI সুপারিশগুলি ব্যাখ্যা করতে পারে না বৈধতা ছাড়া AI ফলাফলগুলি গ্রহণ করা একটি আদর্শ হয়ে দাঁড়িয়েছে যে কর্মচারীরা ত্রুটিগুলি মিস করে বা বহিরাগত যা AI উপেক্ষা করে৷ কর্মচারীরা এআই সহায়তা ছাড়াই কাজ সম্পাদনের বিষয়ে উদ্বেগ প্রকাশ করে। সেকেন্ড সময় নেওয়া সহজ সিদ্ধান্তগুলির জন্য এখন AI পরামর্শ প্রয়োজন যদি আপনি এই লক্ষণগুলির মধ্যে কোনওটি সনাক্ত করেন তবে আপনাকে মানুষের ক্ষমতা পুনরুদ্ধার করতে হস্তক্ষেপ করতে হবে। আমার ছেলে সফলভাবে ক্যান্সার নির্ণয় করা হয়েছিল তার যত্ন দলে কাঠামোগত পুনরাবৃত্তির জন্য ধন্যবাদ। অনেক পেশাদার বিভিন্ন লেন্সের মাধ্যমে একই সমস্যাটির সাথে যোগাযোগ করেছেন। অর্থোপেডিস্ট দেখলেন হেমাটোলজিস্ট কি মিস করেছেন। আবাসিক নিরীহ প্রশ্নটি করেছিলেন যা প্রধান চিকিত্সককে পুনর্বিবেচনা করতে বাধ্য করেছিল। এই ধরনের ওভারল্যাপ মাঝে মাঝে অদক্ষতার মতো মনে হতে পারে, কিন্তু আমরা যদি এটি ধরে রাখার জন্য কাজ না করি, তাহলে আমরা গুরুত্বপূর্ণ কিছু মিস করছি। বিশ্লেষণাত্মক গতি এবং প্যাটার্ন স্বীকৃতির ক্ষেত্রে এআই যে সুবিধাগুলি অফার করতে পারে তা থেকে আমাদের দূরে সরে যাওয়া উচিত নয়। কিন্তু একই সময়ে, এটা অপরিহার্য যে আমরা সিদ্ধান্ত গ্রহণকে একটি একক অ্যালগরিদমিক ভয়েস দ্বারা প্রতিস্থাপিত হওয়া থেকে রক্ষা করি। আমাদের অবশ্যই মানুষকে উন্নয়ন সম্পর্কে অবগত রাখতে হবে, কারণ তারা পরিসংখ্যানগত সম্ভাবনার বাইরে দেখতে পারে এবং তাদের চূড়ান্ত সিদ্ধান্তের জন্য দায়বদ্ধ হতে পারে। এটা সত্য যে কৃত্রিম বুদ্ধিমত্তার পাশাপাশি মানুষের ক্ষমতা বজায় রাখা ব্যয়বহুল হবে। প্রশিক্ষণের পথ যা মানুষের দক্ষতা বজায় রাখে, এআই প্রশিক্ষণ এবং কঠোর মানব নিরীক্ষার জন্য অর্থ ব্যয় হয়। তবে এটি প্রাতিষ্ঠানিক পেশী মেমরি বজায় রাখে যা পুরো ভবনটিকে সমর্থন করে। মানুষের দৃষ্টিভঙ্গি হারানোর মূল্য আমরা বহন করতে পারি না। ফয়সাল হকের বই, পডকাস্ট এবং কোম্পানিগুলি নেতাদের উদ্দেশ্য, মানুষ, প্রক্রিয়া এবং প্রযুক্তিকে একত্রিত করার জন্য কাঠামো এবং প্ল্যাটফর্ম দেয় – বাধাকে অর্থপূর্ণ, দীর্ঘস্থায়ী অগ্রগতিতে পরিণত করে। আরও জানুন ফাস্ট কোম্পানির মোস্ট ইনোভেটিভ কোম্পানি অ্যাওয়ার্ডের জন্য বর্ধিত সময়সীমা আজ রাতে, 14 অক্টোবর, 11:59 PM PT. আজই আবেদন করুন। (অনুবাদের জন্য ট্যাগ) কৃত্রিম বুদ্ধিমত্তা
প্রকাশিত: 2025-10-16 20:43:00
উৎস: www.fastcompany.com
