স্টাডি: অ্যালগরিদম দরিদ্র কারাগারে স্বীকারোক্তি পূর্বাভাসের পিছনে "কালোদের বিরুদ্ধে পক্ষপাতী"

অ্যালগরিদমগুলি তাদের তৈরি করে এমন মানুষ হিসাবে ঠিক পক্ষপাতী। দ্বারা একটি তদন্ত ProPublica নর্থপয়েন্টে এমন একটি অ্যালগরিদম নির্মাতারা আবিষ্কার করেছেন যে একজন বন্দী ব্যক্তির অন্য অপরাধ সংঘটিত হওয়ার সম্ভাবনা সম্পর্কে ভবিষ্যদ্বাণী করার প্রচেষ্টায় কালো রঙের মানুষের চেয়ে বেশি সংখ্যক কালো মানুষকে অপরাধ করার সম্ভাবনা বেশি বলে মনে করেন।

অ্যালগরিদম বন্দীদের জন্য একটি "ঝুঁকি মূল্যায়ন" স্কোর তৈরি করে। কারাগারের মুক্তির তারিখগুলি গাইড করার জন্য এটি সারা দেশে ব্যবহার করা হয়। ফ্লোরিডার ব্রোয়ার্ড কাউন্টিতে 7,000 এরও বেশি মানুষের তথ্য বিশ্লেষণ করার পর, বর্ণবাদী অ্যালগরিদমগুলির বাস্তবতা স্পষ্ট: কালো অভিযুক্তরা অন্য অপরাধ সংঘটিত করার পূর্বাভাস পেতে সাদা প্রতিবাদীদের চেয়ে দ্বিগুণ সম্ভাবনা বেশি ছিল।

বিশ্লেষণ লিঙ্গ এবং অপরাধমূলক পটভূমি মত পরিবর্তনশীল জন্য নিয়ন্ত্রিত। তবুও, কালো মানুষ ভবিষ্যতে সহিংস অপরাধের 77 শতাংশ বেশি ভবিষ্যদ্বাণী করেছে এবং 45 শতাংশ ভবিষ্যতে কোনও অপরাধ সংঘটিত হওয়ার সম্ভাবনা রয়েছে। ভবিষ্যতে সহিংস অপরাধের অপরাধে নেপথপয়েন্টের ভবিষ্যদ্বাণীগুলির মাত্র ২0 শতাংশ নির্ভুল।

উত্তরপয়েন্টে অপরাধমূলক অপরাধীদের বিচারের 137 টি প্রশ্ন ব্যবহার করে। ProPublica রিপোর্ট হিসাবে, প্রশ্ন জাতি সম্পর্কে সরাসরি জিজ্ঞাসা এড়াতে। কিছু প্রশ্নের সাথে সম্পর্কিত হতে পারে, তবে।

প্রশ্নগুলির উদাহরণগুলিতে অন্তর্ভুক্ত রয়েছে: "আপনার বাবা-মায়ের একজন কি কখনো জেলে বা কারাগারে পাঠিয়েছিল?" এবং "স্কুলে থাকার সময় আপনি কত ঘন ঘন লড়াই করেছিলেন?" হ্যাঁ / কোনও প্রশ্ন নেই যেমন "ক্ষুধার্ত ব্যক্তির অধিকার আছে চুরি করা। "অন্যান্য কারণগুলিতে শিক্ষা মাত্রা অন্তর্ভুক্ত রয়েছে এবং একজন ব্যক্তির চাকরি আছে কিনা তা অন্তর্ভুক্ত।

প্রোপাবলিয়া একটি ব্যাখ্যামূলক পোস্টে উত্তরপয়েন্টের তথ্যগুলি কীভাবে অ্যাক্সেস এবং বিশ্লেষণ করেছে তার বিশদ পদ্ধতিগুলি বিস্তারিতভাবে বর্ণনা করেছে এবং উত্তরপয়েন্টে প্রোপাবলালাকে একটি চিঠি পাঠিয়েছে যে এই সংস্থাটি "তাদের বিশ্লেষণের ফলাফলগুলি, বা তার উপর ভিত্তি করে তৈরি হওয়া দাবিগুলির সাথে একমত নয়" বিশ্লেষণ, সঠিক বা তারা মডেল আবেদন থেকে ফলাফল সঠিকভাবে প্রতিফলিত।"

ProPublica এর ফলাফল, অবিশ্বাস্যভাবে বিস্ময়কর না হলে, সম্পর্কিত। ঝুঁকি মূল্যায়ন প্যারোল figuring এবং বন্ড পরিমাণ নির্ধারণ করার জন্য ব্যবহার করা হয়; তারা এমনকি নয়টি রাজ্যে ফৌজদারী শাস্তি মধ্যে ফ্যাক্টর।

প্রযুক্তি সব সমস্যার শেষ সমাধান নয়, বিশেষ করে প্রযুক্তির বিবেচনায় এটি তৈরি করা ব্যক্তি হিসাবে ত্রুটিযুক্ত।