随着机器学习和人工智能不断的的应用和发展，机器欺骗行为与日俱增。机器学习的快速发展，带来一系列军民应用的新技术，同时伴随漏洞缺陷，恶意使用者将会利用这些漏洞缺陷进行攻击。目前, 一些最有前景的机器学习应用，包括关乎生命安危的基于大量数据分析的快速决策支持系统，将可能被欺骗并产生灾难性的后果。人类对机器学习的依赖度以及机器学习本身易受欺骗的脆弱性对军事作战有重大影响。
安全漏洞的军事影响
2017年4月，美国防部组建了算法战跨职能小组，目标是利用人工智能和机器学习技术快速处理离散的数据。高度自动化进行数据采集和处理有助于缩短决策周期，保持美国的技术优势。在此背景下，攻击者通常寻找新路径进行欺骗或者误导机器学习系统并对其盲点进行攻击。随着机器学习接替的人工任务不断增多，新的漏洞缺陷也必将不断浮现。
鉴于当今战场对后勤规划及支持的需求日益复杂化，机器学习应用需要辅助军队提升任务执行的效率和准确性，更具自主性和可预见性。但与此同时，敌方也能够欺骗系统致使规划人员和作战人员做出错误决策。目前，中俄两国已经采取了一些战略性措施并实现了自我防护的目标，但美国相对欠缺，美国防部应该采取相应措施将机器学习的内在风险降至可接受水平，同时不会影响机器学习的发展。
美国防部应高度重视
美国防部联合人工智能中心、国防部人工智能卓越中心以及国防部实验室、DARPA等机构纷纷已经在机器学习安全问题上做出努力。国防部应该将制定管理机器学习系统安全问题策略作为高优先级事项来处理，处理机器学习安全问题需要依靠广泛的组织、系统和资金支持。
机器学习系统安全管理机制可以参照对软件漏洞缺陷处理的方式，可以组建一支团队发现和修正潜在的安全漏洞缺陷并报告这些漏洞缺陷。采取主动防御的措施，预测机器学习进展中可能发生的更高效的系统攻击方式。同时，设立专门的研究日程表去对机器学习漏洞缺陷进行全面的理论研究，帮助制定防御措施和防御策略，从而帮助开发工具来完善机器学习系统。此外，国防部还应加强与企业界、学术界及政府的合作，共同应对解决机器学习安全问题的技术问题和资金问题。
来源 ：美国《战争困境》/图片来自互联网
军事科学院军事科学信息研究中心 谷修勇
声明：本文来自国防科技要闻，版权归作者所有。文章内容仅代表作者独立观点，不代表安全内参立场，转载目的在于传递更多信息。如有侵权，请联系 anquanneican@163.com。
