স্মার্ট স্পিকার শব্দ দ্বারা হ্যাক করা যেতে পারে, এটি বন্ধ করতে গবেষকরা বলুন

আমরা যদি আপনাকে বলেছি যে হ্যাকার আপনার অ্যামাজন ইকোকে কোনও নির্দেশ ছাড়াই একটি কমান্ড সরবরাহ করতে পারে - অথবা এমনকি হ্যাকিং করতেও আমরা সাধারণত এটি মনে করি?

মোস্তফা আলজানতোট, কম্পিউটার বিজ্ঞান পিএইচডি। ক্যালিফোর্নিয়ার ইউনিভার্সিটির ক্যালিফোর্নিয়া বিশ্ববিদ্যালয়ের প্রার্থী লস এঞ্জেলেস বলেছেন, এটি একটি দূষিত অভিনেতাকে বিশেষ শব্দ বা সংকেত পাঠানোর জন্য তাত্ত্বিকভাবে সম্ভব, যা সাধারণত মানুষের দ্বারা সম্পূর্ণরূপে অবহেলিত হয় তবে এআই এর গভীর শিক্ষার অ্যালগরিদমগুলিকে ঝাপসা করে।

আলজান্তট বলেন, "একটি আক্রমণ এর একটি উদাহরণ আপনার বাড়ির যন্ত্রকে নিয়ন্ত্রণ করবে, কী ঘটছে তা জানার ব্যপারে।" বিপরীত । "আপনি যদি রেডিওতে কিছু সঙ্গীত বাজাচ্ছেন এবং আপনার ঘরে বসে ইকো থাকে। যদি একটি দূষিত অভিনেতা এমন একটি অলঙ্কৃত অডিও বা সঙ্গীত সংকেত সম্প্রচার করতে সক্ষম হন যেমন ইকো এটি একটি কমান্ড হিসাবে ব্যাখ্যা করবে, এটি আক্রমণকারীকে বলতে, একটি দরজা আনলক করতে বা কিছু কিনতে অনুমতি দেবে।"

এটি একটি আক্রমণাত্মক উদাহরণ হিসাবে পরিচিত একটি আক্রমণ, এবং আলজেন্টট এবং তার বাকি দলটি এনপিস ২017 মেশিন ডেস্পশন কর্মশালায় সম্প্রতি উপস্থাপিত তাদের কাগজে বর্ণিত বর্ণনা অনুযায়ী এটি বন্ধ করার লক্ষ্য রাখে।

A.I. এটি মানুষের তৈরি বুদ্ধিমত্তা থেকে ভিন্ন নয় যা এটি প্রথম স্থানে তৈরি করেছে: এটির ত্রুটি রয়েছে। কম্পিউটার বিজ্ঞান গবেষকরা একটি ছবিতে পিক্সেল পরিবর্তন করে বা অডিও ফাইলগুলিতে অস্পষ্ট শব্দ যোগ করে এই সিস্টেমগুলিকে সম্পূর্ণরূপে বোকা করার উপায় খুঁজে বের করেছেন। এই মিনিট tweaks মানুষের দ্বারা সম্পূর্ণরূপে undetectable হয়, কিন্তু সম্পূর্ণরূপে একটি এআই পরিবর্তিত হয়। শুনতে বা দেখে।

"থিসিস অ্যালগরিদমগুলি যা বলা হয়েছিল তা শ্রেণীবদ্ধ করার চেষ্টা করার জন্য ডিজাইন করা হয়েছে যাতে তারা এতে কাজ করতে পারে", ইউসিএলএ-তে কম্পিউটার বিজ্ঞানী মনি শ্রীবাস্তব বলেছেন বিপরীত । "আমরা এমন পদ্ধতিতে ম্যানিপুলিউটিংয়ের মাধ্যমে প্রক্রিয়াটি বিলোপ করার চেষ্টা করি যাতে একজন মানুষের কাছাকাছি 'না' শোনে তবে মেশিনটি 'হ্যাঁ' শোনে। সুতরাং আপনি যা বলেছেন তা থেকে আলাদা আলাদা কমান্ডটি ব্যাখ্যা করার জন্য আলগোরিদিমকে বাধ্য করতে পারেন।"

সবচেয়ে সাধারণ প্রতিদ্বন্দ্বিতামূলক উদাহরণগুলি চিত্র শ্রেণীবিভাগীকরণ অ্যালগরিদমগুলির সাথে সম্পর্কিত, অথবা একটি কুকুরের ছবিটি খুব সামান্য সামান্যই এআই তৈরি করতে। এটা সম্পূর্ণ ভিন্ন কিছু মনে করি। আলজানতোট ও শ্রীবাস্তব এর গবেষণায় উল্লেখ করা হয়েছে যে বক্তৃতা স্বীকৃতি অ্যালগরিদম এই ধরনের আক্রমণের জন্যও সংবেদনশীল।

কাগজটিতে, গ্রুপটি Google এর ওপেন-সোর্স লাইব্রেরিতে পাওয়া একটি আদর্শ বক্তৃতা শ্রেণীবদ্ধ পদ্ধতি ব্যবহার করে, টেন্সরফ্লো। তাদের সিস্টেমটি এক-শব্দ কমান্ডগুলিকে শ্রেণীবদ্ধ করার জন্য কাজ করা হয়েছিল, তাই এটি একটি অডিও ফাইলটি শোনে এবং ফাইলটিতে যে শব্দটি বলা হয়েছিল তার দ্বারা লেবেল করার চেষ্টা করে।

এরপর তারা অন্য অ্যালগরিদমকে কোড করে এবং প্রতিকূল উদাহরণগুলি ব্যবহার করে টেন্সরফ্লো সিস্টেমটি চালাতে চেষ্টা করে। এই সিস্টেম বক্তৃতা ক্লাসিফিকেশন এআই বোকা করতে সক্ষম ছিল। ব্ল্যাক বক্স আক্রমণের নামে পরিচিত 87% সময়, যার মধ্যে অ্যালগরিদমটি কি আক্রমণ করছে তার নকশা সম্পর্কে কিছু জানারও প্রয়োজন নেই।

"এই ধরনের আক্রমণের মাউন্ট করার দুটি উপায় রয়েছে," শ্রীভাসস্ত ব্যাখ্যা করেন। "এক, যখন আমি প্রতিপক্ষ হিসাবে গ্রহণকারী সিস্টেম সম্পর্কে সবকিছু জানি, তাই আমি এখন সেই জ্ঞানটি কাজে লাগানোর কৌশল তৈরি করতে পারি, এটি একটি সাদা বাক্স আক্রমণ। আমাদের অ্যালগরিদম শিকার মডেলের আর্কিটেকচার জানার প্রয়োজন নেই, এটি একটি কালো বাক্স আক্রমণ।"

পরিষ্কারভাবে ব্ল্যাক বক্স আক্রমণগুলি কম কার্যকরী, কিন্তু তারাও বাস্তব জীবনের আক্রমনের ক্ষেত্রে সম্ভবত ব্যবহার করা হবে। ইউসিএলএল গ্রুপ তাদের মডেলগুলিতে দুর্বলতাগুলি কাজে লাগানোর জন্য তাদের আক্রমণকে দমন করে না এমন 87 শতাংশেরও বেশি সাফল্যের হার অর্জন করতে সক্ষম হয়েছিল। একটি সাদা বক্স আক্রমণ এই ধরনের এআই সঙ্গে messing এ সব আরো কার্যকর হবে। যাইহোক, অ্যামাজন এর আলেক্সা মত ভার্চুয়াল সহায়ক শুধুমাত্র প্রতিকূল উদাহরণ ব্যবহার করে শোষণ করা যেতে পারে না।

শ্রীবাস্তব বলেন, "যে যন্ত্রগুলি শব্দ থেকে কোন ধরণের ধারণা তৈরি করতে নির্ভর করে সেটি বোকা বানাতে পারে"। "স্পষ্টতই, আমাজন ইকো এবং এই ধরনের একটি উদাহরণ, কিন্তু বিশ্বের অন্যান্য বিষয়গুলির জন্য শব্দ ব্যবহার করা হয় এমন আরও অনেক কিছু রয়েছে। আপনি সেন্সর আছে যে এলার্ম সিস্টেমের সাথে যুক্ত।"

অডিও সংকেত গ্রহণ করা কৃত্রিম বুদ্ধিমত্তা সিস্টেমগুলি উপলব্ধিগুলিও এই আক্রমণগুলি কতটা শক্তিশালী তা বুঝতে একটি পদক্ষেপ আরও প্রতিক্রিয়াশীল। অ্যালজান্টট বর্ণিত একটি দল যেমন সম্প্রচারিত হামলাটি চিহ্নিত করতে সক্ষম হয় নি, তবুও তাদের ভবিষ্যত কাজটি কীভাবে সম্ভব তা দেখতে প্রায় ঘুরে বেড়ায়।

এই গবেষণায় শুধুমাত্র সীমিত ভয়েস কমান্ড এবং আক্রমণের ফর্ম পরীক্ষা করে, এটি ভোক্তা প্রযুক্তির একটি বৃহৎ অংশে সম্ভাব্য সম্ভাব্যতা তুলে ধরে। এটি বিপরীত উদাহরণ এবং শিক্ষার বিরুদ্ধে প্রতিরোধে আরও গবেষণার জন্য একটি ধাপে পাথর হিসেবে কাজ করে। কিভাবে তাদের আলাদা বলতে।