微軟與Mitre本週釋出 ，可模擬針對機器學習（machine learning，ML）系統之攻擊的外掛工具Arsenal。

這是微軟與Mitre針對機器學習系統防護的最新一項合作。雙方2020年合作 Adversarial ML Threat Matrix開發框架 ，去年微軟推出 Counterfit自動化紅隊演練AI攻擊測試工具 ，供企業對AI演算法進行安全評估。最新的Arsenal即是將Counterfit整合於外掛中。

Mitre的資源頁説明，這個外掛可儲存和建立Mitre攻擊ATT&CK資料庫 ATLAS（Adversarial Threat Landscape for Artificial-Intelligence Systems） 定義的攻擊策略和手法，並整合到其CALDERA自動化攻擊模擬平台App。Arsenal外掛也可和CALDERA視覺化外掛Almanac配合使用。

Arsenal可協助安全研究人員發現ML工作流程各元素的漏洞，並提供防護方法。截至1月，這個最新外掛提供發現遠端、本機及可用的網路服務與ML專門服務，還可匯出ML模型並以counterfit程式庫繞過ML模型。Mitre表示未來會持續強化Arsenal的功能。

Arsenal可執行於Ubuntu 18.04或20.04的系統上，並需要Python 3.7以上版本。

不過Arsenal目前還不是CALDERA預設的外掛，用户需要連到caldera-atlas程式庫循指示下載。