শিল্প অনুশীলনকারীদের প্রতিকূল মেশিন লার্নিং সম্পর্কে মানসিক মডেল: একটি গুণগত গবেষণা

1. Introduction & Overview

Adversarial Machine Learning (AML) হল একটি গুরুত্বপূর্ণ উপক্ষেত্র যা প্রতিকূল পরিস্থিতিতে শিক্ষাভিত্তিক সিস্টেমের নিরাপত্তা ও নির্ভরযোগ্যতার উপর দৃষ্টি নিবদ্ধ করে। একাডেমিক গবেষণা যদিও পরিশীলিত আক্রমণ (যেমন, evasion, poisoning, backdooring) এবং প্রতিরক্ষা কৌশল তৈরি করেছে, বাস্তব-বিশ্বের শিল্পক্ষেত্রে ML স্থাপনকারী অনুশীলনকারীরা কীভাবে এই হুমকিগুলোকে উপলব্ধি ও পরিচালনা করেন সে সম্পর্কে বোঝার ক্ষেত্রে একটি উল্লেখযোগ্য ব্যবধান রয়ে গেছে। USENIX SOUPS 2022-এ উপস্থাপিত এই গবেষণাটি, এই ক্ষেত্রে মানসিক মডেলগুলোর এই অনুশীলনকারীদের মধ্যে। মানসিক মডেল হল একটি সিস্টেম কীভাবে কাজ করে তার অভ্যন্তরীণ উপস্থাপনা; নিরাপত্তায়, কার্যকর ঝুঁকি মূল্যায়ন এবং প্রশমনের জন্য সঠিক মডেল অত্যন্ত গুরুত্বপূর্ণ। গবেষণাটি একটি মৌলিক বিচ্ছিন্নতা প্রকাশ করে: অনুশীলনকারীরা প্রায়শই ML-নির্দিষ্ট নিরাপত্তা সমস্যাগুলিকে সাধারণ সাইবার নিরাপত্তা উদ্বেগের সাথে মিশ্রিত করে এবং নিরাপত্তাকে বিচ্ছিন্ন মডেলের পরিবর্তে সম্পূর্ণ একীভূত ওয়ার্কফ্লোর লেন্সের মাধ্যমে দেখে—একটি দৃষ্টিভঙ্গি যা মূলধারার AML সাহিত্যে মূলত অনুপস্থিত।

2. Methodology & Study Design

গবেষণাটি গুণগত, সাক্ষাত্কার-ভিত্তিক পদ্ধতিবিদ্যা ব্যবহার করেছিল যাতে গভীর, প্রাসঙ্গিক অন্তর্দৃষ্টি অর্জন করা যায় যা পরিমাণগত জরিপে হারিয়ে যেতে পারে।

2.1. Participant Selection & Demographics

গবেষকরা পরিচালনা করেন 15টি আধা-কাঠামোগত সাক্ষাত্কার ইউরোপীয় স্টার্টআপগুলির ML অনুশীলনকারীদের সাথে। অংশগ্রহণকারীরা ML ইঞ্জিনিয়ার, ডেটা বিজ্ঞানী এবং ডেভেলপারের মতো ভূমিকা পালন করেছিলেন, যা ML সিস্টেম তৈরি ও স্থাপনে হাতে-কলমে অভিজ্ঞতা সম্পন্ন একটি নমুনা নিশ্চিত করে। স্টার্টআপগুলির উপর ফোকাস কৌশলগত, কারণ তারা প্রায়শই প্রয়োগকৃত ML-এর অগ্রভাগের প্রতিনিধিত্ব করে কিন্তু পরিপক্ক নিরাপত্তা প্রোটোকলের অভাব থাকতে পারে।

2.2. Data Collection & Analysis

প্রতিটি সাক্ষাৎকারে অন্তর্ভুক্ত ছিল একটি অঙ্কন কার্য, যেখানে অংশগ্রহণকারীদের তাদের ML পাইপলাইনের উপলব্ধি স্কেচ করতে এবং কোথায় দুর্বলতা থাকতে পারে তা নির্দেশ করতে বলা হয়েছিল। এই চাক্ষুষ পদ্ধতিটি অভ্যন্তরীণ মানসিক মডেলগুলিকে বহিঃপ্রকাশ করতে সহায়তা করে। তারপর পুনরাবৃত্তিমূলক থিম, প্যাটার্ন এবং ধারণাগত ফাঁক চিহ্নিত করতে গুণগত কোডিং কৌশল ব্যবহার করে সাক্ষাৎকারের প্রতিলিপি এবং অঙ্কন বিশ্লেষণ করা হয়েছিল।

৩. মূল ফলাফল: মানসিক মডেলের দুটি দিক

বিশ্লেষণটি অনুশীলনকারীদের ML নিরাপত্তা বোঝার বৈশিষ্ট্যসূচক দুটি প্রাথমিক দিক স্পষ্ট করেছে।

3.1. দিক ১: AML এবং নন-AML নিরাপত্তার মধ্যে অস্পষ্ট সীমানা

অনুশীলনকারীরা প্রায়শই লক্ষ্যবস্তু আক্রমণের মধ্যে পার্থক্য করতেন না statistical properties একটি ML মডেলের (কোর AML) এবং সাধারণ সিস্টেম নিরাপত্তা হুমকি। উদাহরণস্বরূপ, প্রতিপক্ষীয় এড়ানো আক্রমণ সম্পর্কে একটি আলোচনা API প্রমাণীকরণ বা ক্রিপ্টোগ্রাফিক কী ব্যবস্থাপনা সম্পর্কে উদ্বেগের দিকে মোড় নিতে পারে। এই সম্মিলনটি ইঙ্গিত দেয় যে অনুশীলনকারীদের জন্য, "ML সিস্টেম নিরাপত্তা" একটি একক চ্যালেঞ্জ, স্বতন্ত্র আক্রমণের পৃষ্ঠতল সহ একটি স্তরযুক্ত চ্যালেঞ্জ নয়। এই অস্পষ্টতা প্রতিরক্ষা সম্পদের ভুল বরাদ্দের দিকে নিয়ে যেতে পারে, যেখানে AML সমস্যার জন্য ক্লাসিক IT নিরাপত্তা ব্যবস্থাগুলিকে অত্যধিক অগ্রাধিকার দেওয়া হয়, এবং তদ্বিপরীত।

3.2. দিক ২: সামগ্রিক পাইপলাইন দৃষ্টিভঙ্গি বনাম বিচ্ছিন্ন মডেল ফোকাস

একাডেমিক AML গবেষণা প্রায়শই একটি একক, প্রশিক্ষিত মডেল আক্রমণ বা রক্ষা করার উপর দৃষ্টি নিবদ্ধ করে (যেমন, একটি ইমেজ ক্লাসিফায়ারের জন্য প্রতিপক্ষীয় উদাহরণ তৈরি করা)। সম্পূর্ণ বিপরীতে, অনুশীলনকারীরা নিরাপত্তা বর্ণনা করেছেন সম্পূর্ণ ML পাইপলাইন—ডেটা সংগ্রহ এবং লেবেলিং থেকে শুরু করে, একাধিক প্রশিক্ষণ এবং বৈধতা পর্যায়ের মাধ্যমে, স্থাপনা, পর্যবেক্ষণ এবং প্রতিক্রিয়া লুপ পর্যন্ত। তাদের মানসিক মডেলগুলিতে একাধিক আন্তঃসংযুক্ত উপাদান (ডাটাবেস, প্রিপ্রসেসিং কোড, সার্ভিং অবকাঠামো) অন্তর্ভুক্ত ছিল, যার প্রতিটিকে একটি সম্ভাব্য দুর্বলতা বিন্দু হিসাবে দেখা হয়। এই সামগ্রিক দৃষ্টিভঙ্গি আরও বাস্তবসম্মত কিন্তু আরও জটিল, যা মনোনিবেশিত একাডেমিক প্রতিরক্ষা প্রয়োগ করা কঠিন করে তোলে।

4. Key Insights & Implications

• যোগাযোগের ব্যবধান: AML গবেষক এবং অনুশীলনকারীদের মধ্যে পরিভাষা ও ধারণাগত একটি স্পষ্ট ব্যবধান রয়েছে। গবেষণা প্রবন্ধগুলি প্রায়শই শেষ-থেকে-শেষ কার্যপ্রবাহের মধ্যে আক্রমণগুলিকে প্রাসঙ্গিকভাবে উপস্থাপনে ব্যর্থ হয়।
• Uncertainty & Risk: অনুশীলনকারীরা ML নিরাপত্তা ঝুঁকি অগ্রাধিকার দিতে এবং মোকাবেলা করতে কীভাবে তা নিয়ে উল্লেখযোগ্য অনিশ্চয়তার কথা জানিয়েছেন, আংশিকভাবে চিহ্নিত অস্পষ্ট মানসিক মডেলের কারণে।
• Regulatory & Standardization Need: এই অনুসন্ধানগুলি নিরাপত্তা কাঠামো এবং মান (যেমন NIST বা MITRE-এর ATLAS থেকে প্রাপ্ত) এর প্রয়োজনীয়তার উপর জোর দেয় যা শুধুমাত্র মডেলের মজবুতির পরিবর্তে সম্পূর্ণ ML পাইপলাইনকে সম্বোধন করে।
• টুলিং ঘাটতি: ব্যবহারিক, পাইপলাইন-ইন্টিগ্রেটেড নিরাপত্তা সরঞ্জামের অভাব সমস্যাটিকে আরও বাড়িয়ে তোলে। বেশিরভাগ AML সরঞ্জাম (যেমন, CleverHans, Adversarial Robustness Toolbox) গবেষকদের জন্য ডিজাইন করা, DevOps পাইপলাইনের জন্য নয়।

5. Technical Framework & Attack Taxonomy

আলোচনাকে ভিত্তি দিতে, AML-এর সেই প্রযুক্তিগত পরিস্থিতি বোঝা অপরিহার্য যা চর্চাকারীরা (প্রায়শই অপূর্ণাঙ্গভাবে) মোকাবেলা করছেন।

5.1. হুমকির গাণিতিক সূত্রায়ন

একটি আদর্শ এভেজন আক্রমণকে একটি অপ্টিমাইজেশন সমস্যা হিসেবে রূপ দেওয়া যায়। একটি ক্লাসিফায়ার $f(x)$ এবং প্রকৃত লেবেল $y$ সহ মূল ইনপুট $x$-এর জন্য, একটি প্রতিপক্ষ একটি বিঘ্ন $\delta$ খোঁজে যাতে:

$\min_{\delta} \|\delta\|_p \quad \text{subject to} \quad f(x + \delta) \neq y$

যেখানে $\|\cdot\|_p$ একটি $p$-নর্ম (যেমন, $L_2$, $L_\infty$) যা বিঘ্নের উপলব্ধিযোগ্যতাকে সীমাবদ্ধ করে। Goodfellow et al.-এর "Explaining and Harnessing Adversarial Examples" (ICLR 2015) এর মতো গবেষণাপত্রে এই প্রথাগত, মডেল-কেন্দ্রিক দৃষ্টিভঙ্গি সাধারণ, কিন্তু এটি পারিপার্শ্বিক পাইপলাইনকে বিমূর্ত করে দেয়।

5.2. ML পাইপলাইন আক্রমণ পৃষ্ঠ

গবেষণাপত্রটি একটি ট্যাক্সোনমির (একটি চিত্রে দৃশ্যমান) উল্লেখ করে যা আক্রমণগুলিকে পাইপলাইন পর্যায়ে ম্যাপ করে, যা অনুশীলনকারীদের সামগ্রিক দৃষ্টিভঙ্গির সাথে বেশি সামঞ্জস্যপূর্ণ:

• ডেটা/নকশা পর্যায়: বিষ প্রয়োগের আক্রমণ, ব্যাকডোরিং।
• প্রশিক্ষণ পর্যায়: প্রতিকূল আরম্ভকরণ, ওজন বিঘ্ন।
• মডেল পর্যায়: মডেল চুরি, রিভার্স ইঞ্জিনিয়ারিং, সদস্যতা অনুমান।
• মোতায়েন পর্যায়: এড়ানো আক্রমণ, প্রতিকূল পুনঃপ্রোগ্রামিং, স্পঞ্জ আক্রমণ।

এই কাঠামোটি স্পষ্টভাবে দেখায় যে প্রতিটি পর্যায়ে হুমকি বিদ্যমান, যা অনুশীলনকারীদের বিস্তৃত উদ্বেগকে বৈধতা দেয়।

6. Analysis Framework & Case Study

দৃশ্যকল্প: একটি ফিনটেক স্টার্টআপ একটি ক্রেডিট স্কোরিং মডেল মোতায়েন করে। অনুশীলনকারীরা সম্ভবত চিন্তিত হতে পারেন:
1. Data Poisoning (AML): একজন আক্রমণকারী মডেলকে পক্ষপাতদুষ্ট করার জন্য ঐতিহাসিক ঋণ পরিশোধের ডেটা সূক্ষ্মভাবে দূষিত করে।
2. API Security (Non-AML): একজন আক্রমণকারী অননুমোদিত অ্যাক্সেস পাওয়ার জন্য মডেল-সার্ভিং এন্ডপয়েন্টের একটি দুর্বলতার সুযোগ নেয়।
3. Pipeline Integrity (Holistic View): ডেটা বৈধতা যাচাইয়ের ধাপে একটি ব্যর্থতা প্রশিক্ষণের জন্য দূষিত ডেটা প্রবেশ করতে দেয়, এবং মডেল পর্যবেক্ষণের অভাব ভবিষ্যদ্বাণীতে সৃষ্ট বিচ্যুতি সনাক্ত করতে ব্যর্থ হয়।

বিশ্লেষণ: একটি অস্পষ্ট মানসিক মডেলযুক্ত একজন অনুশীলনকারী (1) এবং (2) কে অনুরূপ নেটওয়ার্ক নিরাপত্তা সরঞ্জাম দিয়ে চিকিৎসা করতে পারেন। একটি সামগ্রিক দৃষ্টিভঙ্গিসম্পন্ন একজন অনুশীলনকারী পাইপলাইন জুড়ে নিয়ন্ত্রণ বাস্তবায়ন করবেন: ডেটা প্রোভেন্যান্স চেক, প্রতিপক্ষ প্রশিক্ষণ, শক্তিশালী সার্ভিং API এবং অবিচ্ছিন্ন আউটপুট পর্যবেক্ষণ। গবেষণাটি পরামর্শ দেয় যে বেশিরভাগ অনুশীলনকারী স্বজ্ঞাতভাবে সামগ্রিক দৃষ্টিভঙ্গির দিকে ঝুঁকছেন কিন্তু এটি পদ্ধতিগতভাবে বাস্তবায়নের জন্য কাঠামোগত কাঠামোর অভাব রয়েছে।

7. Future Directions & Application Outlook

• সমন্বিত নিরাপত্তা প্ল্যাটফর্ম: ভবিষ্যৎ ML-এর জন্য DevSecOps (MLSecOps) এ নিহিত। সরঞ্জামগুলিকে CI/CD পাইপলাইনে (যেমন, অবিচ্ছিন্ন নিরাপত্তা বৈধকরণ থেকে ধারণাগুলি ব্যবহার করে) সরাসরি ডেটার জন্য দুর্বলতা স্ক্যানিং, মডেল শক্তিশালীকরণ এবং রানটাইম আক্রমণ সনাক্তকরণ একীভূত করতে হবে।
• Education & Training: ডেটা বিজ্ঞানী এবং ML প্রকৌশলীদের জন্য পাঠ্যক্রম অবশ্যই ML সিস্টেমের জন্য হুমকি মডেলিং অন্তর্ভুক্ত করতে প্রসারিত করতে হবে, AML কে ঐতিহ্যগত নিরাপত্তা থেকে পৃথক করে। Google-এর "Machine Learning Security" কোর্সের মতো সম্পদ এই দিকে একটি পদক্ষেপ।
• Standardized Benchmarks & Audits: সম্প্রদায়ের এমন বেঞ্চমার্কের প্রয়োজন যা সম্পূর্ণ ML সিস্টেমের নিরাপত্তা মূল্যায়ন করে, কেবল আক্রমণের অধীনে মডেলের নির্ভুলতা নয়। এটি টুল উন্নয়নকে চালিত করবে এবং সমালোচনামূলক ML অ্যাপ্লিকেশনের জন্য তৃতীয় পক্ষের নিরাপত্তা নিরীক্ষা সক্ষম করবে।
• নিয়ন্ত্রক বিবর্তন: EU AI Act-এ দেখা গেছে, নিয়ন্ত্রণগুলি ক্রমবর্ধমানভাবে "উচ্চ-ঝুঁকি" AI সিস্টেমের জন্য ঝুঁকি ব্যবস্থাপনা বাধ্যতামূলক করবে। এই গবেষণার ফলাফলগুলি নির্দেশ করে যে এই ধরনের নিয়ন্ত্রণগুলি অবশ্যই একটি পাইপলাইন-কেন্দ্রিক, মডেল-কেন্দ্রিক নয়, ঝুঁকির দৃষ্টিভঙ্গির উপর ভিত্তি করে হতে হবে।

8. তথ্যসূত্র

1. Biggio, B., & Roli, F. (2018). Wild patterns: Ten years after the rise of adversarial machine learning. Pattern Recognition.
2. Goodfellow, I. J., Shlens, J., & Szegedy, C. (2015). Explaining এবং harnessing adversarial examples. International Conference on Learning Representations (ICLR).
3. Papernot, N., McDaniel, P., Sinha, A., & Wellman, M. P. (2016). Towards the science of security এবং privacy in machine learning. arXiv preprint arXiv:1611.03814.
4. MITRE ATLAS (Adversarial Threat Landscape for Artificial-Intelligence Systems). https://atlas.mitre.org/.
5. NIST AI Risk Management Framework (AI RMF). https://www.nist.gov/itl/ai-risk-management-framework.
6. Carlini, N., & Wagner, D. (2017). Towards evaluating the robustness of neural networks. IEEE Symposium on Security এবং Privacy (S&P).

9. Original Analysis & Expert Commentary

মূল অন্তর্দৃষ্টি: এই গবেষণাপত্রটি AML গবেষণা সম্প্রদায়কে একটি অত্যন্ত গুরুত্বপূর্ণ, এবং স্পষ্টভাবে বলতে গেলে দীর্ঘ প্রতীক্ষিত, বাস্তবতা পরীক্ষা প্রদান করে। এটি একটি বিপজ্জনক "আইভরি টাওয়ার" সিনড্রোমপ্রকাশ করে: একদিকে একাডেমিকরা CIFAR-10-এ অ্যাডভারসারিয়াল রোবাস্টনেসে প্রান্তিক উন্নতির উপর দ্বন্দ্বে লিপ্ত, অন্যদিকে সেইসব অনুশীলনকারীরা যারা প্রকৃতপক্ষে ঋণ, স্বাস্থ্যসেবা এবং স্বায়ত্তশাসিত নেভিগেশনের উপর প্রভাব ফেলে এমন সিস্টেম নির্মাণ করছেন, তারা মানসিক মডেল নিয়ে কাজ করছেন যা একইসাথে ব্যাপকতর এবং অস্পষ্টতর আমাদের গবেষণাপত্রে থাকা প্রারম্ভিক আক্রমণের সংজ্ঞাগুলোর চেয়ে। মূল সংঘাতটি কেবল প্রযুক্তিগত কার্যকারিতার বিষয় নয়; এটি ধারণাগত সমন্বয়. গবেষণাটি প্রকাশ করেছে যে অনুশীলনকারীরা "এমএল নিরাপত্তা"কে একটি অপরিচ্ছিন্ন ভর হিসেবে দেখে—ক্রিপ্টোগ্রাফিক কী ফাঁস হওয়াকে গ্রেডিয়েন্ট-ভিত্তিক এড়িয়ে চলা আক্রমণের সাথে একত্র করে—এটি আমাদের কাজ যোগাযোগ ও প্রাসঙ্গিকভাবে উপস্থাপনে ব্যর্থতার একটি গুরুতর অভিযোগ। এটি কেবল জ্ঞানের ফাঁক নয়; এটি একটি কাঠামোগত ব্যর্থতা. NIST AI Risk Management Framework যেমন জোর দেয়, ঝুঁকি ব্যবস্থাপনার জন্য একটি পদ্ধতিগত দৃষ্টিভঙ্গি প্রয়োজন, একটি নীতি যা অনুশীলনকারীদের সামগ্রিক পাইপলাইন দৃষ্টিভঙ্গিতে স্পষ্টভাবে প্রতিফলিত হয় কিন্তু প্রায়ই সংকীর্ণ, মডেল-কেন্দ্রিক AML সাহিত্যে অনুপস্থিত থাকে।

যৌক্তিক প্রবাহ: গবেষণার যুক্তি সুসঙ্গত ও উদ্ঘাটক। গুণগত সাক্ষাৎকার এবং অঙ্কন অনুশীলন ব্যবহার করে—Dourish এবং Anderson-এর মতো মৌলিক HCI-নিরাপত্তা কাজে প্রমাণিত পদ্ধতি—লেখকরা অগভীর জরিপ প্রতিক্রিয়া এড়িয়ে গভীর-প্রোথিত জ্ঞানগত কাঠামোতে প্রবেশ করেন। তথ্য সংগ্রহ (সাক্ষাৎকার) থেকে বিশ্লেষণ (কোডিং) এবং সংশ্লেষণ (দুটি মূল দিক) পর্যন্ত প্রবাহটি সুস্পষ্টভাবে এই সিদ্ধান্তকে সমর্থন করে যে একটি বিচ্ছিন্নতা বিদ্যমান। টুলিং, নিয়ন্ত্রণ এবং শিক্ষার জন্য প্রভাবের সাথে সংযোগটি যৌক্তিক ও আকর্ষণীয়। তবে, ইউরোপীয় স্টার্টআপগুলির উপর গবেষণার ফোকাস, মূল্যবান হলেও, সাধারণীকরণকে সীমিত করে। বড়, নিয়ন্ত্রিত উদ্যোগগুলির (যেমন, অর্থ বা স্বাস্থ্যসেবায়) একটি ফলো-আপ সম্ভবত আরও স্পষ্ট প্রক্রিয়া-ভিত্তিক মানসিক মডেল এবং নিয়ন্ত্রক উদ্বেগ প্রকাশ করবে।

Strengths & Flaws: নিবন্ধটির প্রাথমিক শক্তি হলো এর মৌলিক প্রকৃতি। এটি প্রথমবারের মতো এই ক্ষেত্রকে পদ্ধতিগতভাবে অনুসন্ধান করে, ভবিষ্যতের কাজের জন্য একটি শব্দভাণ্ডার ও কাঠামো প্রদান করে। পদ্ধতিগত পছন্দটি একটি শক্তি, যা সমৃদ্ধ তথ্য সরবরাহ করে। লেখকদের স্বীকার করা একটি উল্লেখযোগ্য ত্রুটি হলো নমুনার আকার ও পরিসর (n=15, শুধুমাত্র স্টার্টআপ)। এটি একটি প্রতিনিধিত্বমূলক জরিপ নয়; এটি একটি অনুসন্ধানমূলক গভীর অধ্যয়ন। তদুপরি, যদিও এটি অস্পষ্ট মানসিক মডেলের সমস্যা নির্ণয় করে, এটি কেন সেগুলো অস্পষ্ট তা নিয়ে কম আলোচনা করে। এটি কি শিক্ষার অভাব, সমন্বিত ব্যবস্থার অন্তর্নিহিত জটিলতা, নাকি "AI security" সমাধানের বিপণনের কারণে যা ভিন্ন হুমকিগুলো একত্রিত করে? নিবন্ধটি একটি গুরুত্বপূর্ণ বিদ্রূপের সাথেও সম্পূর্ণভাবে মোকাবিলা করে না: অনুশীলনকারীদের সামগ্রিক দৃষ্টিভঙ্গি আরও সঠিক একটি সিস্টেম নিরাপত্তার দৃষ্টিকোণ থেকে (MITRE ATLAS-এর মতো ফ্রেমওয়ার্কের সাথে সামঞ্জস্য রেখে), তবুও একাডেমিক সম্প্রদায়ের কেন্দ্রীভূত, মডেল-কেন্দ্রিক গবেষণাই বেশিরভাগ অ্যালগরিদমিক অগ্রগতি চালিয়েছে। এই ব্যবধান পূরণ করাই আসল চ্যালেঞ্জ।

কার্যকরী অন্তর্দৃষ্টি: জন্য গবেষকদের, নির্দেশনা স্পষ্ট: শূন্যতায় আক্রমণ প্রকাশ করা বন্ধ করুন। প্রতিটি নতুন হুমকিকে একটি বাস্তব-বিশ্বের পাইপলাইন ডায়াগ্রামের মধ্যে ফ্রেম করুন। সফটওয়্যার ইঞ্জিনিয়ারিং এবং নিরাপত্তা দলের সাথে সহযোগিতা করুন। এর জন্য বেঞ্চমার্ক তৈরি করুন এন্ড-টু-এন্ড সিস্টেম নিরাপত্তা, শুধুমাত্র মডেল রোবাস্টনেস নয়। জন্য শিল্প নেতা এবং টুল নির্মাতারা, সমন্বিত MLSecOps প্ল্যাটফর্মে বিনিয়োগ করুন। শুধুমাত্র একটি "প্রতিপক্ষ প্রশিক্ষণ" মডিউল বিক্রি করবেন না; একটি পাইপলাইন স্ক্যানার বিক্রি করুন যা ডেটা গ্রহণ থেকে ভবিষ্যদ্বাণী লগিং পর্যন্ত দুর্বলতা চিহ্নিত করে। জন্য অনুশীলনকারী এবং শিক্ষাবিদরা, হুমকির ভূদৃশ্য পৃথক করে এমন প্রশিক্ষণের পক্ষে সমর্থন ও উন্নয়নের জন্য এই গবেষণা ব্যবহার করুন। ব্যাখ্যা করুন কীভাবে একটি সদস্যতা অনুমান আক্রমণ মডেলের ওভারফিটিং (একটি পরিসংখ্যানগত ত্রুটি) কাজে লাগায় বনাম কীভাবে একটি ব্যাকডোর সন্নিবেশ করা হয় (একটি সরবরাহ-শৃঙ্খল/ডেটা অখণ্ডতা ত্রুটি)। এই ধারণাগত স্বচ্ছতা কার্যকর প্রতিরক্ষার দিকে প্রথম পদক্ষেপ। চূড়ান্তভাবে, ক্ষেত্রটিকে বিচ্ছিন্ন মডেলের বিরুদ্ধে চতুর হ্যাক প্রকাশ করা থেকে নিরাপদ মেশিন লার্নিং প্রকৌশলের দিকে পরিণত হতে হবে সিস্টেম. এই গবেষণাপত্রটি একটি কঠোর সতর্কবার্তা যে আমরা এখনো সেখানে পৌঁছাইনি।