সুরক্ষা-সমালোচনামূলক সেটিংসে এআই সমর্থন কীভাবে ভুল হতে পারে

যখন হাসপাতাল এবং বিমানের মতো উচ্চ-স্টেক সেটিংসে কৃত্রিম বুদ্ধিমত্তা অবলম্বন করার কথা আসে, তখন প্রযুক্তি সম্পর্কে ভাল এআই পারফরম্যান্স এবং সংক্ষিপ্ত কর্মী প্রশিক্ষণ সিস্টেমগুলি সুচারুভাবে চলবে তা নিশ্চিত করার জন্য যথেষ্ট নয় এবং রোগীদের এবং যাত্রীরা নিরাপদ থাকবে, একটি নতুন গবেষণায় বলা হয়েছে।

পরিবর্তে, অ্যালগরিদম এবং যারা এগুলি সর্বাধিক সুরক্ষা-সমালোচনামূলক সংস্থাগুলিতে ব্যবহার করেন তাদের অবশ্যই মানব সিদ্ধান্ত গ্রহণের ক্ষেত্রে এআইয়ের প্রভাবগুলির সঠিক দৃষ্টিভঙ্গি পেতে একই সাথে মূল্যায়ন করতে হবে, গবেষকরা বলেছেন।

দলটি এই মূল্যায়নগুলিরও দাবি করে যে এই মূল্যায়নগুলি মূল্যায়ন করা উচিত যে লোকেরা কীভাবে ভাল, মধ্যম এবং দুর্বল প্রযুক্তির পারফরম্যান্সকে এআই-হিউম্যান মিথস্ক্রিয়াকে অর্থবহ পরীক্ষায় রাখার জন্য এবং ভুলগুলির সাথে যুক্ত ঝুঁকির স্তরটি প্রকাশ করতে পারে।

ওহিও স্টেট ইউনিভার্সিটির ইঞ্জিনিয়ারিং গবেষকদের নেতৃত্বে এই গবেষণায় অংশগ্রহণকারীরা ছিলেন 450 ওহিও স্টেট নার্সিং শিক্ষার্থী, বেশিরভাগ ক্ষেত্রে বিভিন্ন পরিমাণে ক্লিনিকাল প্রশিক্ষণ এবং 12 টি লাইসেন্সপ্রাপ্ত নার্স সহ স্নাতক। তারা রোগীর বিভিন্ন ক্ষেত্রে কীভাবে জরুরি যত্নের প্রয়োজন হবে তা নির্ধারণের জন্য তারা দূরবর্তী রোগী-মনিটরিং দৃশ্যে এআই-সহায়তাযুক্ত প্রযুক্তি ব্যবহার করেছিলেন।

ফলাফলগুলি দেখিয়েছে যে কোনও রোগী কোনও মেডিকেল জরুরী জরুরী অবস্থার দিকে প্রবণতা রয়েছে কিনা সে সম্পর্কে আরও সঠিক এআই পূর্বাভাসগুলি 50% থেকে 60% এর মধ্যে উন্নত অংশগ্রহণকারীদের কর্মক্ষমতা উন্নত করে। কিন্তু যখন অ্যালগরিদম একটি ভুল ভবিষ্যদ্বাণী তৈরি করেছিল, এমনকি যখন সেই ফলাফলটিকে সমর্থন করে না এমন ব্যাখ্যামূলক তথ্য সহকারে, যখন অ্যালগরিদমটি সবচেয়ে ভুল ছিল তখন যথাযথ সিদ্ধান্ত গ্রহণে 100% এরও বেশি অবক্ষয়ের সাথে মানুষের পারফরম্যান্স ভেঙে যায়।

“একটি এআই অ্যালগরিদম কখনই নিখুঁত হতে পারে না। সুতরাং আপনি যদি সুরক্ষা-সমালোচনামূলক সিস্টেমগুলির জন্য প্রস্তুত এমন একটি এআই অ্যালগরিদম চান, তার অর্থ দল সম্পর্কে, জনগণ এবং এআই একসাথে সম্পর্কে কিছু, একটি দুর্বল পারফরম্যান্স এআই অ্যালগরিদমকে মোকাবেলা করতে সক্ষম হতে হবে,” ওহিও স্টেটর ডেন মোরি বলেছেন, ওহিও স্টেটর ডেন মোরি বলেছেন।

“মুল বক্তব্যটি হ’ল এটি সত্যিই ভাল সুরক্ষা-সমালোচনামূলক সিস্টেম প্রযুক্তি তৈরির বিষয়ে নয় It’s এটি একটি যৌথ মানব-মেশিন ক্ষমতা যা সুরক্ষা-সমালোচনামূলক ব্যবস্থায় গুরুত্বপূর্ণ” “

মোরি ওহিও স্টেটের ইন্টিগ্রেটেড সিস্টেম ইঞ্জিনিয়ারিংয়ে উভয়ই মাইক রায়ো, সহযোগী অধ্যাপক এবং ডেভিড উডস, অনুষদ ইমেরিটাস উভয়ের সাথে এই গবেষণাটি সম্পন্ন করেছেন। গবেষণাটি সম্প্রতি প্রকাশিত হয়েছিল এনপিজে ডিজিটাল মেডিসিন।

রাইও পরিচালিত কগনিটিভ সিস্টেম ইঞ্জিনিয়ারিং ল্যাবের সমস্ত সদস্য লেখক ২০২০ সালে যৌথ ক্রিয়াকলাপ পরীক্ষা গবেষণা কর্মসূচি তৈরি করেছিলেন যাতে তারা ঝুঁকিপূর্ণ পরিবেশে বিশেষত চিকিত্সা এবং প্রতিরক্ষা সেটিংসে দায়বদ্ধ এআই মোতায়েনের ব্যবধান হিসাবে দেখেন।

দলটি যৌথ ক্রিয়াকলাপের সাথে মেশিন ডিজাইনের জন্য প্রমাণ-ভিত্তিক গাইডিং নীতিগুলির একটি সেটকেও পরিমার্জন করছে যা এআই-হিউম্যান পারফরম্যান্স মূল্যায়ন প্রক্রিয়াটি মসৃণ করতে পারে এবং এর পরে প্রকৃতপক্ষে সিস্টেমের ফলাফলগুলি উন্নত করতে পারে।

তাদের প্রাথমিক তালিকা অনুসারে, একটি মেশিন প্রথম এবং সর্বাগ্রে লোকদের কাছে যেভাবে এটি বিশ্বের কাছে বিভ্রান্ত করা হয়েছে তা প্রকাশ করা উচিত, এমনকি যখন এটি বিশ্বের কাছে ভুল ধারণা করা হয়নি তা অবগত না হলেও।

“এমনকি যদি কোনও প্রযুক্তি এই হিউরিস্টিকগুলিতে ভাল করে তবে এটি সম্ভবত এখনও বেশ প্রস্তুত নয়,” রায়ো বলেছিলেন। “আমাদের কিছুটা অভিজ্ঞতামূলক মূল্যায়ন করা দরকার কারণ সেগুলি ঝুঁকি-মিটিগেশন পদক্ষেপ এবং আমাদের সুরক্ষা-সমালোচনামূলক শিল্পগুলি কমপক্ষে এই দুটি পদক্ষেপের জন্য লোক এবং এআইয়ের পারফরম্যান্স পরিমাপের কমপক্ষে এই দুটি পদক্ষেপের প্রাপ্য এবং চ্যালেঞ্জিং কেসগুলির একটি পরিসীমা পরীক্ষা করে।”

জ্ঞানীয় সিস্টেম ইঞ্জিনিয়ারিং ল্যাব সর্বোত্তম অনুশীলন মূল্যায়ন পদ্ধতিতে পৌঁছানোর জন্য বাস্তব প্রযুক্তিতে পাঁচ বছর ধরে অধ্যয়ন চালাচ্ছে, বেশিরভাগ ক্ষেত্রে 20 থেকে 30 অংশগ্রহণকারী সহ প্রকল্পগুলিতে। এই প্রকল্পে 462 জন অংশগ্রহণকারী-বিশেষত এআই-ইনফিউজড প্রযুক্তির জন্য একটি লক্ষ্য জনসংখ্যা যার অধ্যয়নের তালিকাভুক্তি একটি কোর্স-ভিত্তিক শিক্ষামূলক ক্রিয়াকলাপের সাথে সংযুক্ত ছিল-গবেষকদের তাদের অনুসন্ধান এবং সুপারিশগুলিতে উচ্চ আস্থা অর্জন করে, রায়ো বলেছিলেন।

প্রতিটি অংশগ্রহণকারী পৃথক পরীক্ষামূলক অবস্থার অধীনে 10 রোগীর মামলার ক্রম বিশ্লেষণ করেছেন: কোনও এআই সহায়তা নেই, জরুরী যত্নের জন্য আসন্ন প্রয়োজনের একটি এআই শতাংশের পূর্বাভাস, রোগীর অবস্থার সাথে প্রাসঙ্গিক ডেটাগুলির এআই টীকাগুলি এবং এআই পূর্বাভাস এবং টীকা উভয়ই।

সমস্ত উদাহরণের মধ্যে একটি ডেটা ভিজ্যুয়ালাইজেশন অন্তর্ভুক্ত রয়েছে যা ব্যবহারকারীদের রোগীর স্থিতিতে পরিবর্তন বা স্থিতিশীলতার প্রত্যাশা করতে সহায়তা করার উদ্দেশ্যে ডেমোগ্রাফিকগুলি, গুরুত্বপূর্ণ লক্ষণ এবং ল্যাব ফলাফলগুলি দেখায়।

অংশগ্রহণকারীদের প্রতিটি রোগীর কাছে 0 থেকে 10 পর্যন্ত স্কেলে তাদের উদ্বেগগুলি রিপোর্ট করার জন্য নির্দেশ দেওয়া হয়েছিল। জরুরি রোগীদের জন্য উচ্চতর উদ্বেগ এবং অ-জরুরী রোগীদের জন্য কম উদ্বেগের জন্য আরও ভাল পারফরম্যান্স দেখানোর জন্য বিবেচিত সূচক ছিল।

লেখকরা লিখেছেন, “আমরা দেখতে পেলাম না যে নার্স বা এআই অ্যালগরিদম সকল ক্ষেত্রে সর্বজনীনভাবে অন্যের চেয়ে উচ্চতর ছিল,” লেখকরা লিখেছেন। বিশ্লেষণ অংশগ্রহণকারীদের ক্লিনিকাল অভিজ্ঞতার পার্থক্যের জন্য দায়ী।

যদিও সামগ্রিক ফলাফলগুলি প্রমাণ দিয়েছিল যে এই ধরণের মূল্যায়নের প্রয়োজন রয়েছে, গবেষকরা বলেছিলেন যে তারা অবাক হয়েছিলেন যে কিছু পরীক্ষামূলক পরিস্থিতিতে অন্তর্ভুক্ত ব্যাখ্যাগুলি অংশগ্রহণকারীদের উদ্বেগের ক্ষেত্রে খুব কম দমন করেছিল – পরিবর্তে, অ্যালগরিদমের সুপারিশ, একটি শক্ত লাল বারে উপস্থাপিত, সমস্ত কিছুকে ছাড়িয়ে গেছে।

রায়ো বলেছিলেন, “এই টীকাগুলির যে কোনও প্রভাবই ছিল তা সেই সূচকটির উপস্থিতি দেখে অভিভূত হয়েছিল যা অন্য সমস্ত কিছু দূরে সরিয়ে নিয়েছিল,” রায়ো বলেছিলেন।

দলটি বর্তমানে ব্যবহৃত স্বাস্থ্যসেবা অ্যাপ্লিকেশনগুলির প্রতিনিধি কাস্টম-বিল্ট টেকনোলজিস প্রতিনিধি সহ অধ্যয়নের পদ্ধতিগুলি বিবেচনা করেছিল, তাদের সুপারিশগুলি কেন প্রয়োজন এবং কীভাবে শিল্পগুলি প্রস্তাবিত অনুশীলনগুলি জায়গায় রাখতে পারে তার একটি টেম্পলেট হিসাবে।

পরীক্ষামূলক প্রযুক্তিগুলির জন্য কোডিং ডেটা সর্বজনীনভাবে উপলভ্য এবং মোরি, রায়ো এবং উডস এআই-ফ্রন্টিয়ার্স.অর্গে প্রকাশিত একটি নিবন্ধে তাদের কাজটি আরও ব্যাখ্যা করেছিলেন।

মোরি বলেছিলেন, “আমরা যেটির পক্ষে পরামর্শ দিচ্ছি তা হ’ল প্রযুক্তি থেকে আসা বিভিন্ন ধরণের প্রভাবগুলি আরও ভালভাবে বুঝতে সাহায্য করার একটি উপায়।” “মূলত, লক্ষ্যটি সেরা এআই পারফরম্যান্স নয় It’s এটি সেরা দলের পারফরম্যান্স” “