বিশ্বের সবচেয়ে সক্ষম ইন্টার্ন কল্পনা করুন। যে কেউ রাতারাতি হাজার হাজার নথি পড়তে পারে, তাত্ক্ষণিকভাবে জটিল সমস্যাগুলি থেকে সূচনা করে এবং অভিযোগ ছাড়াই 24/7 কাজ করে। তবে একটি ধরা আছে: এই ইন্টার্নটিও অবিশ্বাস্যভাবে দোষী এবং আপনি তাদের যা কিছু বলবেন তা বিশ্বাস করবে, এটি তাদের খারাপ অভিনেতাদের দ্বারা হেরফেরের জন্য নিখুঁত লক্ষ্য হিসাবে তৈরি করে।
এই উপমা পুরোপুরি এজেন্ট এআই এর বর্তমান অবস্থা চিত্রিত করে। এটি একই সাথে এখন পর্যন্ত তৈরি করা সবচেয়ে পরিশীলিত সরঞ্জাম এবং সাধারণ প্রতারণার জন্য সবচেয়ে দুর্বল।
লোকেরা এআইকে কীভাবে আলাদা করে দেখে তা আরও চ্যালেঞ্জিং করে তোলে। এমন বৈশিষ্ট্যগুলি যা কিছু কিছু উত্তেজিত করে অন্যকে আতঙ্কিত করে, বিল্ডার এবং ব্যবহারকারীদের মধ্যে একটি বিভাজন তৈরি করে।
নির্মাতারা – ওরফে ইঞ্জিনিয়ার এবং গবেষকরা – ডেটা কোয়ালিটি, অ্যালগরিদমিক পক্ষপাত এবং অস্তিত্বের ঝুঁকির মতো ভিত্তিক চ্যালেঞ্জগুলিতে মনোনিবেশ করুন। তাদের উদ্বেগগুলি শিরোনাম এবং একাডেমিক আলোচনায় আধিপত্য বিস্তার করে।
তবে ব্যবহারকারীরা যেমন ব্যবসায়ী নেতারা এবং অপারেশনাল দলগুলি যারা এই সরঞ্জামগুলি ব্যবহারিকভাবে এবং নিরাপদে ব্যবহার করতে চান তাদের আরও ব্যবহারিক উদ্বেগ রয়েছে। এআই বিশ্বকে শেষ করবে কিনা তা নিয়ে কম উদ্বিগ্ন এবং এটি গ্রাহকের ডেটা প্রকাশ করবে বা ব্যয়বহুল ভুল করবে কিনা সে সম্পর্কে আরও বেশি মনোনিবেশ করবে।
বিল্ডাররা ভবিষ্যতের দিকে মনোনিবেশ করার সময়, ব্যবহারকারীরা আজ এআই কী করতে পারে তা জানতে চান। এবং দুর্ভাগ্যক্রমে, তারা এজেন্ট এআই সরবরাহ করার প্রত্যাশা করে এবং এটি কী পারে তার মধ্যে ব্যবধানটি যথেষ্ট।
ডাঃ ড্যামিয়েন ডাফ ডেমনে অধ্যক্ষ এআই/এমএল পরামর্শদাতা।
প্রত্যাশা বনাম বাস্তবতা
এজেন্ট এআই এর চারপাশের আখ্যানটি প্রায়শই পুরোপুরি স্বায়ত্তশাসিত ডিজিটাল কর্মীদের একটি চিত্র আঁকেন যা রাতারাতি কোনও ব্যবসায় পরিবর্তন করতে সক্ষম হয়। যদিও মাল্টি-এজেন্ট এলএলএমগুলি আর তত্ত্ব নয়, তারা সম্পূর্ণ ব্যবসায়ের রূপান্তর সক্ষম করার আগে আরও অনুসন্ধান করতে হবে।
বর্তমান এআই সিস্টেমগুলি বিশাল দলিলগুলি থেকে জ্ঞান নিষ্কাশন, সফ্টওয়্যার ডেলিভারি লাইফসাইকেলকে ত্বরান্বিত করে এবং সহানুভূতিশীল গ্রাহক মিথস্ক্রিয়া সহ চিত্তাকর্ষক এজেন্টের মতো আচরণ সরবরাহ করতে পারে। তবে সত্যই স্বায়ত্তশাসিত সিস্টেমগুলি যা জটিল উপন্যাসের পরিবেশে স্বাধীনভাবে কাজ করে তা নাগালের বাইরে থেকে যায়।
যদিও এআই মানব তদারকির সাথে কাঠামোগত কাজগুলি সম্পূর্ণ করতে পারে, তবে এটি মুক্ত-সমাপ্ত সমস্যা, দীর্ঘমেয়াদী পরিকল্পনা এবং উচ্চ-স্তরের সিদ্ধান্ত গ্রহণের সাথে লড়াই করে যেখানে ব্যর্থতার পরিণতি হয়।
উদাহরণস্বরূপ, এআই কোডে সম্ভাব্য দুর্বলতাগুলি সনাক্ত করতে পারে এবং প্রশস্ত পরিসীমা ফিক্সগুলির প্রস্তাব দিতে পারে, তবে বিকাশকারীদের অবশ্যই তাদের অ্যাপ্লিকেশনটি বাস্তবায়নের জন্য সমাধানগুলি মূল্যায়ন করতে হবে কারণ এআই ধারাবাহিকভাবে বিস্তৃত সিস্টেমের প্রসঙ্গটি বোঝাতে পারে না।
স্ফীত প্রত্যাশার বিপদটি হ’ল প্রকৃত সুরক্ষা ঝুঁকির দ্বারা সংস্থাগুলি রক্ষা পেয়েছে। প্রস্তুতির একটি মিথ্যা বোধে প্রলুব্ধ হয়ে, তারা যে রুটিন হুমকির মুখোমুখি হওয়ার সম্ভাবনা রয়েছে তার জন্য তারা অসুস্থ।
সুরক্ষা চ্যালেঞ্জ
এজেন্ট এআই সিস্টেমগুলি আরও স্বায়ত্তশাসিত হওয়ার সাথে সাথে সংস্থাগুলি ব্যবসায়ের লক্ষ্যগুলির সাথে একত্রিত সিস্টেম আইন নিশ্চিত করার একটি সমালোচনামূলক চ্যালেঞ্জের মুখোমুখি হয়। যেহেতু এজেন্ট এআই আরও সক্ষম হয়ে ওঠে, এটি নিয়ন্ত্রণ করা আরও শক্ত হয়ে যায় এবং তাই শোষণ করা সহজ। Traditional তিহ্যবাহী সফ্টওয়্যারগুলির বিপরীতে, যা অনুমানযোগ্য উপায়ে ব্যর্থ হয়, এআই সিস্টেমগুলি সৃজনশীলভাবে ব্যর্থ হতে পারে, তাদের নির্মাতারা কখনও প্রত্যাশিতভাবে এমনভাবে চালিত হয়।
সুতরাং, সংগঠনগুলি আসলে কী ধরণের সুরক্ষা ঝুঁকির বিষয়ে উদ্বিগ্ন হওয়া উচিত?
যদিও traditional তিহ্যবাহী আইটি চ্যালেঞ্জগুলি, যেমন সিস্টেম জুড়ে ডেটা সুরক্ষা, ঝুঁকি ব্যবস্থাপনা, শক্তিশালী প্রতিবেদন এবং দৃশ্যমানতা সমালোচনা করে চলেছে, এমন অন্যান্য অভিনব চ্যালেঞ্জ রয়েছে যার জন্য নতুন পদ্ধতির প্রয়োজন।
উদাহরণস্বরূপ, প্রতিকূল প্রম্পট ইঞ্জিনিয়ারিং, যেমন প্রম্পট ইনজেকশন যেখানে খারাপ অভিনেতারা নির্দোষ অনুরোধগুলিতে দূষিত নির্দেশাবলী এম্বেড করতে পারে বা প্রসঙ্গে হেরফের করতে পারে, যেখানে আক্রমণকারীরা মিথ্যা প্রসঙ্গ সরবরাহ করে, যার ফলে এআই ভুল অনুমানের ভিত্তিতে সিদ্ধান্ত গ্রহণ করে।
আরেকটি উল্লেখযোগ্য সমস্যা হ’ল ত্রুটিগুলি জমে: অভিজ্ঞ মানুষগুলি প্রায়শই তাদের ভুলগুলি দেখায়, এআই ত্রুটিগুলি দ্রুত স্নোবল করতে পারে, বিশেষত বহু-এজেন্ট সিস্টেমগুলিতে, ছোট সমস্যাগুলিকে বড়গুলিতে পরিণত করে; এটি প্রাথমিক পর্যায়ে নজরে না যেতে পারে কারণ এজেন্ট যুক্তিগুলি মানব যুক্তির সাথে অতিমাত্রায় অনুরূপ এবং তারপরে দ্রুত সর্পিল।
এআই ঝুঁকিগুলি ভয়ঙ্কর মনে হতে পারে তবে সমাধানগুলি প্রায়শই সংস্থাগুলির প্রত্যাশার চেয়ে বেশি পরিচিত। কোনও সুরক্ষা সমস্যা দেখা দেয় কিনা তা নিয়ে এটি প্রশ্ন নয়, তবে কখন এটি প্রস্তুত করা গুরুত্বপূর্ণ।
সমাধান
এজেন্ট এআইয়ের নির্দিষ্ট সুরক্ষা চ্যালেঞ্জগুলির অনেকগুলি সমাধান traditional তিহ্যবাহী সাইবারসিকিউরিটি এবং ঝুঁকি ব্যবস্থাপনার কাঠামোর মধ্যে বিদ্যমান। জিরো ট্রাস্ট, মানব তদারকি এবং নিয়ন্ত্রিত অ্যাক্সেস সহ তারা ইতিমধ্যে পরিচিত নীতিগুলি (বা তারা কোন সংস্থাগুলির সাথে তারা কাজ করে তাদের সাথে পরিচিত) প্রয়োগ করা উচিত।
সমস্ত এআই ইনপুটগুলি নিরাপদ বলে ধরে নেওয়ার পরিবর্তে সংস্থাগুলি তাদের সম্ভাব্য দূষিত হিসাবে বিবেচনা করা উচিত এবং একাধিক বৈধতা স্তরগুলি প্রয়োগ করা উচিত। এই পদ্ধতির গ্রাহক পরিষেবা বা আর্থিক ক্রিয়াকলাপগুলিই সমস্ত অ্যাপ্লিকেশন জুড়ে কাজ করে।
নীতিগুলি সোজা হলেও সফল বাস্তবায়নের জন্য সতর্ক পরিকল্পনা প্রয়োজন। কার্যকর এজেন্ট এআই সুরক্ষা তৈরি করতে, সংস্থাগুলি হওয়া উচিত:
- একটি ছোট বিস্ফোরণ ব্যাসার্ধ দিয়ে শুরু করুন: স্বল্প ঝুঁকিপূর্ণ, উচ্চ-মূল্যবান ব্যবহারের ক্ষেত্রে শুরু করুন যেখানে ভুলগুলি পুনরুদ্ধারযোগ্য। উদাহরণস্বরূপ, আর্থিক লেনদেনের দিকে যাওয়ার আগে ডকুমেন্ট সংক্ষিপ্তকরণের জন্য এআই স্থাপন করুন। এটি সাংগঠনিক আত্মবিশ্বাস এবং দক্ষতা তৈরি করে।
- প্রশাসন তৈরি করুন: সমস্যা উত্থানের জন্য অপেক্ষা করবেন না। সুস্পষ্ট অনুমোদনের প্রক্রিয়া এবং কর্মীদের প্রশিক্ষণ প্রোগ্রাম স্থাপন করুন যাতে কর্মীরা জানেন যে জিনিসগুলি ভুল হয়ে গেলে কী করতে হবে।
- বৈধতা প্রক্রিয়া স্বয়ংক্রিয় করুন: বিল্ডিং এবং ক্রমাগত বিস্তৃত এআই-ভিত্তিক এবং traditional তিহ্যবাহী পরীক্ষার স্যুটগুলি বৃদ্ধি করে যা প্রতিকূল আক্রমণ, প্রান্তের কেসগুলির সবচেয়ে খারাপ কল্পনা করা কেস পরিস্থিতিগুলিকে আবদ্ধ করে তোলে, যাতে আমরা একটি চলমান লক্ষ্য অনুসরণ করি না তবে আমাদের উন্নতি সাবধানে পরিমাপ করে এবং ব্যাকস্লাইডগুলি প্রতিরোধ করে।
- সবকিছু প্রশ্ন: সহজাতভাবে বিশ্বাস না করে এআই আউটপুটগুলিকে প্রশ্নবিদ্ধ করার জন্য এআই সরঞ্জামগুলিকে সংহত করে ব্যবহারকারী এবং দলগুলিকে প্রশিক্ষণ দিন। পিয়ার পর্যালোচনা প্রক্রিয়াগুলি স্থাপন করে, স্পট-চেকিং প্রোটোকলগুলি প্রবর্তন করে এবং যখন কেউ ভুল করে তখন উদযাপন করে উভয়ই নির্মাতারা এবং গ্রাহক উভয়ের মধ্যে যাচাইকরণকারী সংস্কৃতির অংশটি তৈরি করুন।
- সুরক্ষা প্রক্রিয়া বিকাশ: নিয়মিত ঝুঁকি মূল্যায়ন পরিচালনা করুন, দুর্বলতার জন্য বিদ্যমান বাস্তবায়ন নিরীক্ষণ করুন, মনিটরিং সিস্টেমগুলি প্রয়োগ করুন এবং এআই-নির্দিষ্ট ঘটনার প্রতিক্রিয়া পদ্ধতি তৈরি করুন। সাফল্যের জন্য সুরক্ষা নীতি সেট আপ করুন।
- এগিয়ে থাকুন: নিশ্চিত করুন যে প্রাসঙ্গিক প্রশিক্ষণ প্রদানের মাধ্যমে কর্মচারীদের উদীয়মান হুমকির বিষয়ে অবহিত করা হয়েছে, পাশাপাশি তাদের শিল্প ফোরামে অংশ নিতে, সমবয়সীদের সাথে অভিজ্ঞতা নিয়ে আলোচনা করতে এবং সুরক্ষা সম্মেলনে অংশ নিতে উত্সাহিত করার জন্য। মনে রাখবেন, জ্ঞান শক্তি।
ভবিষ্যত
এজেন্ট এআই একটি শক্তিশালী সরঞ্জাম যা আমরা কীভাবে কাজ করি এবং সমস্যাগুলি সমাধান করতে পারে তা রূপান্তর করতে পারে। তবে যে কোনও শক্তিশালী এবং উদীয়মান প্রযুক্তির মতো এটির জন্য শ্রদ্ধা, বোঝাপড়া এবং যথাযথ সুরক্ষা ব্যবস্থা প্রয়োজন।
কীটি একই সতর্ক পরিকল্পনা এবং ঝুঁকি ব্যবস্থাপনার সাথে এই প্রযুক্তির কাছে পৌঁছেছে আমাদের অন্য কোনও সরঞ্জামে প্রয়োগ করা উচিত। দোষী সাওয়ান্ট ইন্টার্ন সাদৃশ্য আমাদের মনে করিয়ে দেয় যে এমনকি সর্বাধিক সক্ষম সিস্টেমগুলিতে তদারকি, পরিষ্কার সীমানা এবং চলমান দিকনির্দেশনা প্রয়োজন।
আমরা সেরা এআই ওয়েবসাইট নির্মাতাকে বৈশিষ্ট্যযুক্ত করেছি।
এই নিবন্ধটি টেকরাডারপ্রোর বিশেষজ্ঞ অন্তর্দৃষ্টি চ্যানেলের অংশ হিসাবে উত্পাদিত হয়েছিল যেখানে আমরা আজ প্রযুক্তি শিল্পের সেরা এবং উজ্জ্বল মনের বৈশিষ্ট্যযুক্ত। এখানে প্রকাশিত মতামতগুলি লেখকের মধ্যে রয়েছে এবং তারা টেক্রাডারপ্রো বা ফিউচার পিএলসি -র অগত্যা নয়। আপনি যদি অবদান রাখতে আগ্রহী হন তবে এখানে আরও সন্ধান করুন: https://www.techradar.com/news/submit-your-tore-totory-techradar-pro
