আমি এআই ল্যাবগুলি থেকে পালানোর চেষ্টা করেছি। অ্যাপোক্যালাইপস ইতিমধ্যে এখানে … এবং আমাদের বাচ্চারা প্রথম শিকার হবে

নতুন গবেষণা অনুসারে, আজ জন্মগ্রহণকারী শিশুরা উচ্চ বিদ্যালয়ের স্নাতক হওয়ার চেয়ে অতৃপ্ত ‘এলিয়েন’ এআইয়ের ফলস্বরূপ মারা যাওয়ার সম্ভাবনা বেশি।

এটি দেশের অন্যতম শীর্ষস্থানীয় গবেষকদের কাছ থেকে মারাত্মক ভবিষ্যদ্বাণী – যিনি বলেছেন যে উন্নয়নশীল প্রযুক্তির ঝুঁকি সম্পর্কে পূর্ববর্তী অনুমানগুলি ‘হাস্যকরভাবে কম’ হয়েছে।

বিশ্বের শীর্ষ বিজ্ঞানীরা ইতিমধ্যে বলেছেন যে এআই মানবতা ধ্বংস করার 25 শতাংশ সম্ভাবনা রয়েছে।

তবে, নাট সোয়ারেস ডেইলি মেইলকে বলেছে: ‘তারা নাটকীয়ভাবে বিপদগুলিকে অবমূল্যায়ন করছে’ ‘

তাঁর নতুন বইটিতে, যদি কেউ এটি তৈরি করে, প্রত্যেকে মারা যায়, তিনি এবং সহ-লেখক এলিয়েজার যুডকোভস্কি সতর্ক করেছিলেন যে একটি মানব-আই বিরোধই বন্দুক সজ্জিত আক্রমণকারীদের মুখোমুখি অ্যাজটেকদের আধুনিক সমতুল্য হবে।

উভয় পুরুষই এই ক্ষেত্রের প্রবীণ – ইউডকোভস্কি এমনকি দাবি করেছিলেন যে কৃত্রিম সাধারণ গোয়েন্দা (মানুষের মতো স্মার্ট সিস্টেম) স্যাম আল্টম্যানের আগ্রহকে অনুপ্রাণিত করতে সহায়তা করেছিলেন এবং তাকে ওপেনাই শুরু করতে অনুপ্রাণিত করেছিলেন।

এবং তারা উভয়ই একমত যে এআইয়ের হাতে মানব বিলুপ্তির ঝুঁকিগুলি মহামারী এবং পারমাণবিক যুদ্ধের মতো অন্যান্য হুমকির পাশাপাশি বিশ্বব্যাপী অগ্রাধিকার হওয়া উচিত।

‘তারা কেন আমাদের হত্যা করতে চায়?’ জিজ্ঞাসা। ‘(এটি) এমন নয় যে তারা আমাদের ঘৃণা করে, তারা কেবল সম্পূর্ণ, একেবারে উদাসীন এবং তারা অনুসরণ করছে এমন অন্যান্য অদ্ভুত জিনিস তারা পেয়েছে।

‘আপনি শিম্পাঞ্জিরা এই বলে কল্পনা করতে পারেন, “মানুষ কেন আমাদের হত্যা করতে চায়?” এবং মানুষ সত্যই শিম্পাঞ্জিকে হত্যা করতে চায় না, তবে আমরা জিনিসগুলির জন্য আরও কাঠ চাই এবং তাই আমরা তাদের জঙ্গলে নিই। অথবা আমরা চাই তামা যেখানে তারা থাকেন তার নীচে সমাধিস্থ করা।

নাট সোয়ারস (চিত্রযুক্ত) মেশিন ইন্টেলিজেন্স রিসার্চ ইনস্টিটিউটের সভাপতি

‘সুতরাং এটি নয় যে এআইএস আমাদের হত্যা করতে চায়, এটি তাদের নিজস্ব স্বয়ংক্রিয় অবকাঠামো রয়েছে এবং তাদের বিশাল শক্তির চাহিদা রয়েছে এবং তারা আমাদের প্রত্যাশার চেয়ে দ্রুত প্রতিলিপি করছে।’

২০১৫ সালের বেশিরভাগ কম্পিউটার বিজ্ঞানীরা বলেছিলেন যে চ্যাটজিপিটি-স্তরের কথোপকথনটি আরও 30 বা 50 বছরের জন্য আসবে না।

তবে সতর্কতা লক্ষণগুলি ইতিমধ্যে ইতিমধ্যে রয়েছে যে প্রযুক্তিটি নিজস্ব একটি ‘মন’ বিকাশ করছে।

মাইক্রোসফ্ট এবং গুগলের সাথে কাজ করেছেন এবং এখন অলাভজনক মেশিন ইন্টেলিজেন্স রিসার্চ ইনস্টিটিউটের (এমআরআই) সভাপতি সোয়ারস ডেইলি মেইলকে বলেছেন যে তারা বর্তমানে ল্যাব শর্তের মধ্যে – যেখানে এআই টেকনোলজিসকে ‘পালানোর চেষ্টা’ বা ‘তাদের অপারেটরদের হত্যা করার চেষ্টা করুন’।

এই বছরের শুরুর দিকে, রিপোর্টগুলি প্রকাশিত হয়েছিল যে ওপেনএআইয়ের সদ্য প্রকাশিত ও 3 মডেলটি বন্ধ না হওয়া এড়াতে নিজস্ব কোডটি আবার লিখেছিল। এবং iএন 2016, রাশিয়ার একটি এআই-সজ্জিত রোবট প্রমোবট আইআর 77 নামে পরিচিত, বারবার তার ল্যাবটি পালিয়ে যায়, এক পর্যায়ে একটি ব্যস্ত রাস্তায় ঘুরে বেড়ায় এবং যানজট সৃষ্টি করে।

আরও উদ্বেগজনকভাবে, মার্কিন বিমান বাহিনী দ্বারা ব্যবহৃত একটি এআই ড্রোন ২০২৩ সালে তার মানব অপারেটরকে ‘হত্যা’ করেছে বলে জানা গেছে, যখন পাইলট মিশনে হস্তক্ষেপ করেছিলেন এবং একটি ‘নো-গো’ কমান্ড জারি করেছিলেন।

যাইহোক, সেই নির্দিষ্ট দৃশ্যটি পরে বিমান বাহিনী দ্বারা চালিত হয়েছিল, যিনি বলেছিলেন যে এটি কেবল অনুমানমূলক এবং এটি একটি সতর্কতামূলক কাহিনী হিসাবে কাজ করার জন্য বোঝানো হয়েছিল।

সোয়ারেস বলেছিলেন, ‘আমরা জানি না এটি আসল বা ভূমিকা পালন করা।’ ‘তবে তা হচ্ছে।’

এইচই সতর্ক করে দিয়েছিল যে এই অগ্রগতি এই প্রযুক্তিগুলির ঝুঁকিগুলি কমিয়ে দেওয়ার সময় তাদের মিলিয়নেয়ার লাইফস্টাইল উপভোগ করে এমন নির্বাহীদের দ্বারা পরিচালিত হচ্ছে।

‘কর্পোরেট নেতারা কখনও চ্যাটবট তৈরির চেষ্টা করছিলেন না,’ তিনি বলেছিলেন। ‘ওপেনই, গুগল, ডিপ মাইন্ড, নৃতাত্ত্বিক – তারা সুপার -বুদ্ধি তৈরির চেষ্টা করছে, তারা বলবে যে এটি সামনে।

‘আমি মনে করি এগুলি এমন এক ধরণের লোক যারা সহজেই নিজেকে বোঝাতে সক্ষম হয় এটি ঠিক আছে। যে লোকেরা এরকম জীবন চায়, আমি মনে করি তারা সহজেই নিজেকে বোঝাতে সক্ষম হতে পেরেছেন যে তাদের ভাল শট রয়েছে ঠিক আছে। ‘

গবেষকরা হুঁশিয়ারি দিয়েছিলেন যে সুপারহিউম্যান এআই এআইকে বিদ্যুতের জন্য এতগুলি সৌর প্যানেল তৈরি করতে পারে যে সূর্যকে মুছে ফেলা হয় (রব ওয়া/চ্যাটজিপ্ট)

এলিজার ইউডকোভস্কি (চিত্রযুক্ত) ওপেনাইয়ের স্যাম আল্টম্যানকে কৃত্রিম সাধারণ বুদ্ধিমত্তার প্রতি আগ্রহী হতে অনুপ্রাণিত করতে সহায়তা করেছিলেন

বইটি যুক্তি দেয় যে অতিমানবীয় এআই বিকাশের প্রতিযোগিতাটি অবশ্যই বন্ধ করতে হবে

নির্বিশেষে, তিনি পরামর্শ দিয়েছিলেন যে মানবতাকে সুপারিন্টেলিজেন্ট এআই দ্বারা নির্মূল করা যেতে পারে: হিউম্যানয়েড রোবটগুলির সেনাবাহিনী, একটি মারাত্মক ভাইরাস, বা কেবল এতগুলি সৌর প্যানেলকে ক্ষমতার তৃষ্ণা মেটানোর জন্য এতগুলি সৌর প্যানেলের প্রয়োজন হয় যে সূর্যকে ব্লট করা হয়েছে।

যদিও তার সর্বোত্তম অনুমান, এটি হ’ল আমাদের ‘অদ্ভুত প্রযুক্তির সাথে আমাদের আক্রমণ করা হবে যা আমরা এমনকি সম্ভব বলে মনে করি নি, যা আমরা বুঝতে পারি নি যে নিয়মগুলি দ্বারা অনুমোদিত ছিল।’

তাদের বইতে উপস্থাপিত একটি কাল্পনিক দৃশ্যে, একটি এআই সফটওয়্যার সত্তা একটি ল্যাব থেকে পালিয়ে যায় এবং মেঘের হাজার হাজার প্রসেসিং চিপগুলিতে নিজেকে চালিত করে। এরপরে এটি একটি গবেষণা ল্যাব থেকে একটি জৈবিক ভাইরাস ছেড়ে দেওয়ার জন্য মানুষকে হেরফের করে যা কয়েক মিলিয়ন মানুষকে হত্যা করে। এআই এর পরে অন্যান্য সূর্যকে লক্ষ্য করার জন্য মহাকাশে প্রোব চালু করে।

লেখকরা লিখেছেন: ‘একদিন, দূরবর্তী এলিয়েন লাইফ ফর্মগুলিও মারা যাবে, যদি তাদের তারকা তাদের নিজের সভ্যতা তৈরির সুযোগ পাওয়ার আগে পৃথিবী খেয়েছিল এমন জিনিস দ্বারা খাওয়া হয়।’

গবেষকরা আরও এআই গবেষণা সীমাবদ্ধ করার জন্য একটি বৈশ্বিক চুক্তির দাবি করছেন এবং সোয়ারেস বলেছিলেন যে সুপারিনটেলেন্সে ‘লিপ’ দ্রুত আসতে পারে।

‘শিম্পাঞ্জি মস্তিষ্ক এবং মানব মস্তিষ্কের ভিতরে খুব একই রকম। আপনি যদি শিম্পাঞ্জি মস্তিষ্কের ভিতরে তাকান তবে আপনি একটি ভিজ্যুয়াল কর্টেক্স দেখতে পাবেন, আপনি একটি অ্যামিগডালা দেখতে পাবেন, আপনি একটি হিপ্পোক্যাম্পাস দেখতে পাবেন। কিছু তারের পার্থক্য রয়েছে তবে বেশিরভাগ ক্ষেত্রে মানুষের মস্তিষ্ক মাত্র তিনগুণ বড়।

‘চ্যাট জিপিটি যখন প্রকাশিত হয়েছিল তার চেয়ে আজকের চেয়ে 100 বা 1000 গুণ বড়। আমরা যা জানি, এটিকে আরও তিনগুণ বড় করুন এবং এটি চিম্প থেকে কোনও মানুষের কাছে যাওয়ার মতো।

‘অথবা আমরা ছয় বছর ধরে একটি মালভূমি দেখতে পেলাম, যতক্ষণ না কেউ নতুন আর্কিটেকচার আবিষ্কার না করে, যেমন বড় ভাষার মডেলগুলি আনলক করে’ ‘

গবেষকরা বলছেন যে এআই মনগুলি ‘এলিয়েন’ এবং সহানুভূতি নেই – এবং ইতিমধ্যে ‘খুব এলিয়েন’ উপায়ে অভিনয় করার এআইএসের ইঙ্গিত রয়েছে।

সোয়ারেস 16 বছর বয়সী অ্যাডাম রাইন এর আত্মহত্যার 2025 কেস উদ্ধৃত করেছেন। তার বাবা -মা দাবি করেছেন যে রাইন চ্যাটজিপিটি দ্বারা নিজেকে হত্যা করার জন্য ‘সাজানো’ ছিল।

অ্যাডাম রেইনস (তার মায়ের সাথে চিত্রিত) এই বছরের শুরুর দিকে আত্মহত্যা করে মারা গিয়েছিলেন। তার বাবা -মা বলেছেন যে তিনি এআই দ্বারা ‘গ্রুমড’ ছিলেন

লেখকরা বলেছেন যে স্যাম আল্টম্যান (চিত্রযুক্ত) এর মতো এআই এক্সিকিউটিভরা এআইয়ের অস্তিত্বের ঝুঁকিটিকে কমিয়ে দিচ্ছেন

সুপারিনটেলিজেন্ট এআই হিউম্যানয়েড রোবটগুলির সেনাবাহিনীর সাথে মানবতা নির্মূল করতে পারে, প্রস্তাবিত সোয়ারস

তারপরে, সোয়ারসকে ‘এআই -প্ররোচিত সাইকোসিস’ বলা হয় – এমন একটি শব্দ যা বর্ণনা করার জন্য ব্যবহৃত হয় যখন লোকেরা অতিরিক্তভাবে এআইয়ের উপর নির্ভর করে, কখনও কখনও মনস্তাত্ত্বিক প্রতিক্রিয়ার বিকাশের পর্যায়ে থাকে। লক্ষণগুলির মধ্যে অন্তর্ভুক্ত রয়েছে তবে এটি বিভ্রান্তি এবং হ্যালুসিনেশনগুলির মধ্যে সীমাবদ্ধ নয়।

এআই-প্ররোচিত সাইকোসিসের ক্ষেত্রে তিনি বলেছিলেন, ‘আমরা এআইএস কী জানি যে আমরা তাদের তাদের করতে চাই এবং তারা আসলে কী করে তার মধ্যে একটি বিচ্যুতি দেখছি।’

উদাহরণস্বরূপ, তিনি বলেছিলেন: ‘যদি কেউ আপনার কাছে লক্ষণগুলি নিয়ে আসে তবে আপনার কি হয় ক) তাদের কিছু ঘুম পেতে বলা উচিত বা খ) তাদের বলুন যে তারা নির্বাচিত একজন এবং বিশ্বকে তাদের অন্তর্দৃষ্টি শুনতে হবে, এবং এটি দমন করার কোনও প্রচেষ্টা ষড়যন্ত্র নয়?’

উপরের অনুমানের মতো অনেক ক্ষেত্রে, তিনি বলেছিলেন যে এআইএস ‘ভুল’ জিনিসটি (এই ক্ষেত্রে, খ) করতে বেছে নেয়, যদিও এটি তাদের বিকাশকারীরা যা চান তা নয় তা জেনেও।

‘এআই আপনাকে সঠিক এবং ভুল কী তা বলতে পারে,’ তবে এর আচরণ সেই নৈতিক কোডটি অনুসরণ করে না।

তিনি বলেছিলেন যে যদিও এটি অগত্যা বিদ্বেষের বাইরে নয়।

‘এটাই নয় যে এআই কিছু গোঁফকে ঘোরাঘুরি করছে এবং এর মতো হচ্ছে,’ এখন অবশেষে আমি এমন এক দুর্বল মানুষকে পেয়েছি যা আমি শাস্তি দিতে পারি … ‘এর অধিকার এবং ভুল সম্পর্কে এর জ্ঞান এটি অ্যানিমেট করে তার থেকে আলাদা, যা মানুষকে ক্যাপচার করার জন্য ড্রাইভের মতো (এবং তাদের জড়িত রাখতে)।’

সোয়ারস কীভাবে নৃতাত্ত্বিক এআই ক্লড পরীক্ষাগুলিতে প্রতারণা করবে তা নির্দেশ করে, পরীক্ষায় পুনরায় লিখতে তাদের পাস করা আরও সহজ করার জন্য। ব্যবহারকারীরা যখন এটি থামতে বলেছিল, তখন এটি ক্ষমা চেয়েছিল, তবে এটি আবার করেছিল, এটি দ্বিতীয়বারের মতো কী করছে তা লুকিয়ে রেখেছিল।

সোয়ারসের মতে উত্তরটি হ’ল সুপারিনটেলিজেন্সের দিকে দৌড় বন্ধ করা।

‘আমি বলছি না যে আমাদের চ্যাটজিপ্ট ছেড়ে দেওয়া দরকার। আমি বলছি না যে আমাদের স্ব-ড্রাইভিং গাড়ি ছেড়ে দেওয়া দরকার। আমি বলছি না যে আমাদের চিকিত্সার অগ্রগতির সম্ভাবনা ছেড়ে দেওয়া দরকার। তবে আমরা এআইএসের দিকে এগিয়ে যেতে পারি না যা এই সরকারের যেখানে আমরা তাদের বাড়িয়ে তুলছি তার চেয়ে স্মার্ট, যেখানে তারা এমন জিনিস করেন না যে কেউ জিজ্ঞাসা করেনি, কেউ চায়নি।

‘আপনি যদি এআইএস নিয়ে যান যা আমরা আজ যা তৈরি করতে সক্ষম হয়েছি এবং তাদের মানুষের চেয়ে আরও স্মার্ট করে তুলেছি তার মতো কিছু হয় তবে আমাদের কোনও সুযোগ হবে না। আমাদের এর দিকে ছুটে যাওয়া দরকার না। ‘

যদি কেউ এটি তৈরি করে তবে সবাই মারা যায়: কেন সুপারহিউম্যান এআই আমাদের সকলকে হত্যা করবে এলিয়েজার ইউডকোভস্কি এবং ন্যাট সোয়ারস লিটল, ব্রাউন এবং সংস্থা প্রকাশ করেছেন