旨在帮助安全专业人士检测和补救对ML系统的威胁的框架
在针对机器学习系统的对抗性攻击方面的急剧上升，微软发布了一个新框架，该框架将赋予安全分析师的权力，以保护他们的战斗AI- 能力技术。
机器学习已成为我们每天使用的许多应用程序不可或缺的一部分 - 从iPhone的面部识别锁到Alexa的语音识别功能以及我们的电子邮件中的垃圾邮件过滤器。
但是，机器学习的普遍性也引起了对抗性攻击，这是一种通过为算法提供精心制作的输入数据来操纵算法行为的漏洞。
如前所述每日swbeplay2018官网ig，研究人员已经证明了如何将机器学习算法与潜在的毁灭性后果。
概念证明的利用包括在停车标志中添加贴纸，以欺骗自动驾驶汽车的计算机视觉系统，以将其误以为限速符号，以及带有专门精心制作的眼镜的面部识别系统。
研究人员欺骗自动驾驶系统将停车标志误认为是速度限制标志
输入矩阵
微软表示，它已经看到了“显着的增长”攻击在过去四年中对商业机器学习系统。
这个结合研究（PDF）表明组织对对其机器学习系统的攻击进行了严重的准备，导致了对抗性ML威胁矩阵的创建。
与Miter Corporation合作开发，该公司维护了广泛使用的ATT＆CK框架，以及包括IBM，Nvidia和Bosch在内的几家技术公司，工具被固定为以行业为中心的开放框架，“系统地组织了颠覆ML系统中恶意对手使用的技术”。
对抗性ML威胁矩阵从MITER＆CK框架中汲取灵感
新的和即将到来的威胁
与ATT＆CK框架类似，信息安全专业人员可以使用对抗性ML威胁矩阵中发现的列表策略和技术来改善其组织机器学习系统围绕组织的监视策略。
微软的Ram Shankar Siva Kumar和Ann Johnson说：“对抗性ML威胁矩阵的目标是将对[机器学习]系统的攻击定位在安全分析师可以在这些新的和即将到来的威胁中定向的框架中。”联合博客文章昨天（10月22日）。
Miter的机器学习研究主管Mikel Rodriguez补充说：“该框架是帮助社区聚集在一起，使组织能够更加整体地确保机器学习系统的新兴挑战。”
对抗性ML威胁矩阵遵循Microsoft今年早些时候推出了另一个ATT＆CK启发的矩阵 - 该矩阵的重点是识别Kubernetes，The Kubernetes的识别开源云编排框架。
这Kubernetes攻击矩阵袭击者使用了九种主要策略，希望在组织的云容器基础架构中立足。
要了解有关此最新项目的更多信息，请访问对抗ML威胁矩阵GitHub存储库。
