A.I. বিশেষজ্ঞ ভার্জিনিয়া ডাইনুম: ট্রলি সমস্যা দেখা দেয় কেন আমাদের স্বচ্ছতা প্রয়োজন

$config[ads_kvadrat] not found

Faith Evans feat. Stevie J – "A Minute" [Official Music Video]

Faith Evans feat. Stevie J – "A Minute" [Official Music Video]
Anonim

কৃত্রিম বুদ্ধিমত্তাটির স্বচ্ছতা প্রয়োজন যাতে মানুষের এটি অ্যাকাউন্টে রাখা যায়, একটি গবেষক দাবি করেছেন। ডেল্ট ইউনিভার্সিটির অব টেকনোলজির সহযোগী অধ্যাপক ভার্জিনিয়া ডাইনুম শুক্রবার নিউইয়র্ক ইউনিভার্সিটির একটি শ্রোতাকে বলেন, আমরা যদি বুঝি না কেন মেশিনগুলি তাদের কাজ করে তবে আমরা তাদের সিদ্ধান্ত বিচার করতে পারব না।

ডাইনুম একটি বিজ্ঞানী লেখক এবং গবেষক, ডেভিড Berreby দ্বারা একটি গল্প উদ্ধৃত, যে প্রকাশিত হয়েছিল মনোবিজ্ঞান আজ: "প্রমাণগুলি সুপারিশ করে যে যখন মানুষ মেশিনের সাথে কাজ করে, তখন তারা একা কাজ করে বা অন্য লোকেদের সাথে কাজ করার চেয়ে সংস্থাটির কম জ্ঞান অনুভব করে।"

"ট্রলি সমস্যা," ডাইনুম ব্যাখ্যা করেছেন, এমন একটি এলাকা যেখানে মানুষ সঠিক ফলাফল বেছে নেওয়ার জন্য মেশিনে অন্ধ বিশ্বাস স্থাপন করতে পারে। প্রশ্নটি হল একটি হাইপোথেটিভ রানওয়ে ট্রেনের উপর লিভারটি স্যুইচ করতে হবে যাতে করে পাঁচটি পরিবর্তে এক ব্যক্তির মৃত্যু হয়। মানুষ সম্ভাব্য সবচেয়ে যুক্তিসঙ্গত ভাবে সমস্যার সমাধান করার আশা করে। এটি সবসময় ক্ষেত্রে নাও হতে পারে, এবং স্বচ্ছতা কীভাবে মেশিনটিকে তার সিদ্ধান্তে পৌঁছে দেওয়ার বিষয়ে ব্যাখ্যা করবে।

তিনি বলেন, "এটি একটি খুব গভীর, স্নায়বিক নেটওয়ার্ক চেন নয় যা কেউ বুঝতে পারে না, কিন্তু এগুলি ব্যাখ্যা করার মাধ্যমে মানুষ বুঝতে পারে যে," তিনি বলেন।

A.I. যে তার কাজ পরিষ্কার স্পষ্ট একটি এলাকা DARPA অন্বেষণ করা হয়েছে। সংস্থাটি আগস্ট মাসে একটি ঘোষণা পোস্ট করেছে যে এটি ব্যাখ্যাযোগ্য এআইআইতে আগ্রহী দলগুলির সন্ধান করছে। প্রকল্প, XAI হিসাবে পরিচিত। এই সিস্টেম গবেষকরা বুঝতে সাহায্য করবে কেন একটি এআই। সিদ্ধান্তটি তৈরি করেছে যে, এটি মেশিনে বিশ্বাসের পরিবর্তে ফলস্বরূপ তথ্যের সাথে কী করতে হবে তা নির্ধারণ করার আরো সুযোগ দেবে।

মেশিন লার্নিং দিয়ে, ডাইনমুম উল্লেখ করেছেন যে স্বচ্ছতা আগের চেয়ে আরও বেশি গুরুত্বপূর্ণ। তিনি বলেন, "আমরা সিস্টেমগুলি, এবং বিশেষ করে মেশিন লার্নিং মেশিনগুলি শিখতে, আশা করতে এবং এটি সব ঠিক করতে আশা করতে পারি না"।"আমরা ড্রাইভিং করার সময়, ট্রাফিক আইন সম্পূর্ণরূপে বোঝার জন্য আমাদের ড্রাইভার, আশা করি না। অনেক দেশে, তারা "এল" প্লেটগুলিকে দেখানোর জন্য ব্যবহার করে, 'আমি শিখছি, ভুলের জন্য আমাকে ক্ষমা করুন।' "এআইকে দেখলে বুঝতে হবে যে এটি কীভাবে সিদ্ধান্ত নিয়ে আসে এবং এর উপর ভিত্তি করে অভিনয় করা অত্যন্ত গুরুত্বপূর্ণ এখনও খারাপ সিদ্ধান্ত থেকে শেখার যে মেশিন বন্ধ।

$config[ads_kvadrat] not found