পিক্সেলেটেড ইমেজ কার্নেল টেকের মুখের স্বীকৃতির জন্য কোন ম্যাচ নয়।

নিউইয়র্ক সিটির কর্নেল টেকের তিন গবেষক আবিষ্কার করেছেন যে ধূসর এবং পিক্সেলেড চিত্রগুলি কৃত্রিম বুদ্ধিমত্তাগুলির জন্য কোনও মিল নয়। যদিও অস্পষ্ট চিত্রগুলি মানুষের চোখে অচেনা থাকে, এবং তাই তাদের সংবেদনশীল সামগ্রী সুরক্ষিত বলে মনে হয়, তবুও নিউরাল নেটওয়ার্কগুলি প্রকৃতপক্ষে প্রকৃত ছবিতে কে কে তা বলতে পারে।

অন্য কথায়, মানুষ আর লিটমাস পরীক্ষা হয় না। আমরা আর কিছু জিজ্ঞেস করতে পারি না যে কিছু মানুষের মস্তিষ্কের ক্ষতি হয় কিনা। এআইএস - এমনকি সাধারণ AI.s - মানুষের তুলনা করতে পারে, তাই তাদের পরাজিত করাও সবসময় সমীকরণের অংশ হতে হবে।

কর্নেল টেক গবেষকদের গবেষণায় গোপনীয়তা-সংরক্ষণকারী অ্যালগরিদমগুলি পরীক্ষা করার উপর দৃষ্টি নিবদ্ধ করা হয়েছে, যা কিছু তথ্য বা ছবির অংশগুলি পিক্সেল বা পিক্সেলেট করে। পূর্বে, আমরা গোপনীয়তা-সংরক্ষণকারী সফ্টওয়্যার বা অ্যালগরিদমগুলিকে বিশ্বস্তভাবে বিশ্বাস করি, তারা যে তথ্য গোপন করেছিল সেটি সুরক্ষিত ছিল কারণ মানবীয় ডিজিটাল পর্দা পিছনে ছিল কে বলতে পারে। গবেষণায় দেখা যায় যে যুগ শেষ হয়ে গেছে, এবং সম্পর্কিত অনামী পদ্ধতিগুলি দীর্ঘদিন ধরে চলবে না। নিউরাল নেটওয়ার্ক, এই গোপনীয়তা ব্যবস্থা সঙ্গে দেখা, অজানা।

রিচার্ড ম্যাকফারসন পিএইচডি। টেক্সাস বিশ্ববিদ্যালয়ের কম্পিউটার বিজ্ঞান বিভাগের প্রার্থী অস্টিন, যিনি তার অধ্যাপক ভিটিল শ্মাটিকভকে কার্নেল টেকের অনুসরণ করেন। রেজা শোকরি বরাবর, তারা একসঙ্গে দেখিয়েছে যে সহজ স্নায়ু নেটওয়ার্কগুলি সাধারণ চিত্র অবাঞ্ছিত কৌশলগুলি উন্মোচন করতে পারে। এই পদ্ধতিটি অপেক্ষাকৃত অপ্রতিরোধ্য, যা অনুসন্ধানটিকে আরও উদ্বেগজনক করে তোলে: এটিগুলি সাধারণ, অ্যাক্সেসযোগ্য পদ্ধতি, এবং তারা অবাঞ্ছিততার জন্য শিল্পের মানগুলি হারাতে সক্ষম হয়েছিল।

নিউরাল নেটওয়ার্কগুলি বড়, স্তরের স্তরের গঠন, বা কৃত্রিম নিউরনগুলি, যা মস্তিষ্কের মৌলিক গঠনকে অনুকরণ করে। ম্যাকফারসন বলেন, তারা "নিউরনের কীভাবে কাজ করে সে সম্পর্কে সরল বোঝার বাইরে" বিপরীত । "এটা কিছু ইনপুট দিন, এবং নিউরন আগুন জ্বালায় না।"

তারা শব্দটির রুক্ষ সংজ্ঞা দ্বারা "শেখার" সক্ষম। যদি আপনি একটি লাল (সম্পূর্ণ অশিক্ষিত) মানুষের কিছু "লাল" দেখান এবং তাদেরকে বালতি থেকে সমস্ত "লাল" জিনিসগুলি বাছাই করতে বলুন, তবে তারা প্রথমে সংগ্রাম করবে কিন্তু সময়ের সাথে উন্নতি করবে। তাই স্নায়ুতন্ত্রের সাথে খুব। মেশিন লার্নিং এর অর্থ হল "লাল" জিনিসগুলি বাছাই করার জন্য একটি কম্পিউটার শিক্ষণ করা, উদাহরণস্বরূপ, বিভিন্ন ধরণের ভার্চুয়াল বালতি থেকে।

ম্যাকফারসন এবং কোম্পানী তাদের নিউরাল নেটওয়ার্ক প্রশিক্ষণ কিভাবে। "আমাদের সিস্টেমে, আমরা একটি মডেল তৈরি করি - নিউরাল নেটওয়ার্কগুলির একটি আর্কিটেকচার, এই কৃত্রিম নিউরনের একটি কাঠামোগত সেট - এবং তারপরে আমরা তাদের প্রচুর পরিমাণে অবমাননাকর চিত্র দিই"। "উদাহরণস্বরূপ, আমরা তাদের ক্যারোলের শত শত বিভিন্ন ছবি দিতে পারি যা পিক্সেলেট করা হয়েছে, তারপরে বব এর শত শত বিভিন্ন ছবি পিক্সেলেট করা হয়েছে।"

গবেষকরা তারপর এই pixelated চিত্র লেবেল, এবং তাই প্রতি ইমেজ যারা মডেল বলুন। এই ডেটা সেট প্রক্রিয়া করার পরে, নেটওয়ার্ক কার্যকরীভাবে পিক্সেলেটেড বব এবং পিক্সেলেটেড ক্যারল দেখতে কেমন তা জানে। ম্যাকফারসন ব্যাখ্যা করে বলেন, "আমরা লেবেল ছাড়াই এটি বব বা ক্যারলের একটি ভিন্ন পিক্সেলেটেড ছবি দিতে পারি," এবং এটি অনুমান করতে পারে এবং বলতে পারে, 'আমি মনে করি এই ববটি 95 শতাংশ নির্ভুলতার সাথে।'"

মডেলটি অবাঞ্ছিত চিত্রটি পুনর্নির্মিত করে না, তবে এটি সর্বাধিক সাধারণ এবং সর্বাধিক নির্ভরযোগ্য অনামী পদ্ধতিগুলিকে পরাজিত করতে সক্ষম এবং এটি নিজের মধ্যে বিচ্ছিন্ন করা। ম্যাকফারসন বলছেন, "তারা কি অবহেলা করছে তা নির্ধারণ করতে সক্ষম, কিন্তু তারা মূলত এটি কেমন লাগছিল তা তারা জানে না।"

কিন্তু নিউরাল নেটওয়ার্ক এখনও মানুষের চেয়ে অনেক ভাল করতে সক্ষম। যখন একটি শিল্প-মানক কৌশল ব্যবহার করে চিত্রগুলি সর্বাধিক obfuscated ছিল, সিস্টেম এখনও 50 শতাংশ সঠিক ছিল। সামান্য কম obfuscated ইমেজ জন্য, সিস্টেম প্রায় 70 শতাংশ নির্ভুলতা, অসাধারণ প্রমাণিত। ব্লুরিং মুখগুলির জন্য YouTube এর আদর্শ পুরোপুরি ব্যর্থ হয়েছে; এমনকি সবচেয়ে ব্লুর্ড ইমেজগুলি নিউরাল নেটওয়ার্ক দ্বারা সংশোধন করা হয়েছিল, যা 96 শতাংশ সঠিক প্রমাণিত করেছিল।

অন্যান্য পূর্বে অযাচিত তথ্য, টেক্সট, এবং চিত্র অনামী কৌশল একইভাবে অবিশ্বস্ত। "গ্রীষ্মকালে এমন একটি কাজ ছিল যা পিক্সেলেশন এবং ব্লারিং ব্যবহার করে বেনামে থাকা পাঠ্য দেখেছিল এবং দেখায় যে তারাও ভাঙ্গতে সক্ষম হয়েছে," ম্যাকফারসন বলেছেন। এবং অন্যান্য একবার বিশ্বাসযোগ্য পদ্ধতি পাশাপাশি দরজা আউট হতে পারে। যদিও তিনি ভয়েস অবাঞ্ছিত কৌশলগুলির অন্তর্নিহিত ও অচলতাগুলি জানেন না, যেমন বেনামী টিভি সাক্ষাতকারের জন্য ব্যবহৃত সেগুলির মতো, যদি নিউরাল নেটওয়ার্কগুলি অনামী ভেঙ্গে দিতে পারে তবে তিনি "অবাক হবেন না"।

ম্যাকফারসনের আবিষ্কারটি প্রমাণ করে যে, "অতীতে আমরা যে গোপনীয়তা-সংরক্ষন পদ্ধতিগুলি ছিলাম তা আসলেই নষ্ট হয়ে যায় না, বিশেষ করে আধুনিক মেশিন লার্নিং কৌশলগুলির সাথে।" অন্য কথায়, আমরা অপ্রয়োজনীয়ভাবে নিজেদেরকে কোডিং করছি, মেশিনগুলিতে প্রশিক্ষণ দিচ্ছি সব অঞ্চলে আমাদের outdo।

গবেষকেরা লিখেছেন, "মেশিনের শিক্ষার শক্তি বৃদ্ধি পায়, এই বাণিজ্য বিরোধীদের পক্ষে স্থানান্তরিত হবে"।