এখানে কিভাবে আমরা ভবিষ্যতে দুর্বৃত্ত এআই বন্ধ করতে পারেন। এইচএল 9000 অনুকরণ থেকে

কিভাবে আমরা একটি ভবিষ্যতে এআই থামাতে পারি। আদেশ অমান্য করা এবং তার নিজস্ব উপায় যেতে নির্বাচন? এটা থেকে চক্রান্ত মত শব্দ হতে পারে 2001: একটি স্পেস ওডিসি, কিন্তু একজন বিশেষজ্ঞ দাবি করেন যে আমাদের ইতিমধ্যেই ভাবতে শুরু করতে হবে। নিশ্চিত, আমরা গুগল সার্চ অ্যালগরিদমটি বন্ধ করে দিতে পারতাম যদি এটি কখনও খারাপ হয়ে যায়, কিন্তু যখন আর্থিক এবং আইনি পরিণতির মুখোমুখি হয়, তখন এটি করা সহজ বলে বলা যেতে পারে। ভবিষ্যতে, আমরা আরো উন্নত এআই উপর নির্ভরশীল হত্তয়া, এটা অসম্ভব প্রমাণ করতে পারে।

"এই অ্যালগরিদম ইচ্ছাকৃতভাবে ডিজাইন করা হয়েছে নিজেই বুধবার পাইরেট সামিট 2016 এ ফিউচার অফ হিউম্যানিটি ইনস্টিটিউটের গবেষক স্টুয়ার্ট আর্মস্ট্রং বলেছেন, পুনরায় বুট করা বা বন্ধ করা অসম্ভব, কিন্তু এটি এমনভাবে গড়ে উঠেছে। এর অর্থ হচ্ছে অযৌক্তিক ফলাফলগুলির সাথে পরিবর্তনটি সংশোধন করা কঠিন হতে পারে এবং এটি প্রথম এআই হতে পারে না। যে পরিস্থিতিতে নিজেই খুঁজে পেতে।

আইজাক আসিমভের সমাধান ছিল রোবোটিক্সের তিনটি আইন, যা কঠোর কোড ধারনাগুলি মানুষের ক্ষতির মতো নয়। সমস্যা হল, ক্ষতি বরং বিষয়ী এবং ব্যাখ্যা খোলা। মানুষের মূল্যের উপর আরও বেশি কিছু কাজ করে, যেমন বোঝা যে এটি ক্ষতির কারণ এবং পরিস্থিতি ব্যাখ্যা করা কঠিন, কিছু কঠোর শাসনের উপর কাজ করার চেয়ে তারা কখনও ক্ষতি করতে পারে না।

আর্মস্ট্রং বলেন, "এই ধরনের সমস্যার কারণে মানুষ এখন এই প্রচলিত পদ্ধতিতে কোড করার চেষ্টা করার পরিবর্তে মান অর্জনের জন্য মেশিন শেখার চেয়ে বেশি আগ্রহী"। "মূল্যগুলি এমনভাবে স্থিতিশীল যে অন্য জিনিসগুলি এআই নয়। মান অভ্যন্তরীণভাবে নিজেদের রক্ষা।"

কিন্তু এই পরিস্থিতিতেও, এআই ডিজাইন করা গুরুত্বপূর্ণ। তারা চলমান যখন তাদের interruptible করতে। নিরাপদ বিচ্ছিন্নতা নিরাপদ নীতি পরিবর্তনের জন্য অনুমতি দেয়, যা শিখেছে মান থেকে অপ্রত্যাশিত পরিণতি এড়াতে পারে। যদি HAL 9000 কখনও খোলা থেকে পড বে দরজা বন্ধ করার চেষ্টা করে, এটি গুরুত্বপূর্ণ যে আমরা এটি সনাক্ত করতে পারি যে এআই এর মানগুলি আপগ্রেড হয় এবং সিস্টেমটিকে অফলাইনে না করেই হস্তক্ষেপ করে।