引言
《工业互联网安全研究》— 人工智能在工业互联网安全的应用。国家工业信息安全发展研究中心组织编写《工业互联网安全技术与应用白皮书（2020）》工作已经启动，希望提高业界对工业互联网安全核心技术及挑战的重视和共识，为工业互联网健康发展保驾护航。白皮书将从工业互联网安全技术的演进、安全技术框架、关键技术与挑战、新技术与工业互联网安全的融合、应用案例等多角度全面分析工业互联网安全技术。人工智能可在工业互联网安全检测、态势分析、应急决策等多方面赋能我国工业互联网安全建设。
一、人工智能技术在安全领域的应用日渐成熟
（一）人工智能在安全领域应用的学术研究持续火热
近年来，利用人工智能助力网络安全相关论文频频发表在IJCAI、USENIX Security、CCS等人工智能和网络安全领域顶级学术会议。自2017年起，网络安全领域TOP4会议CCS连续3年开设人工智能安全相关主题论坛，开展基于人工智能的网络安全前沿技术交流。在2017年2月举办的RSA2017大会上，国内外专家就人工智能在下一代抗病毒领域的应用展开激烈讨论。包括麻省理工大学、宾夕法尼亚大学在内的多个国家实验室和大学实验室也在此领域开展了深入研究。
（二）产业格局正在形成，科技企业纷纷布局
在产业界，科技企业积极卡位布局，持续关注人工智能安全动向。IBM、谷歌、亚马逊等巨头，凭借其长期以来的技术积累，利用人工智能技术自动分析威胁，可通过接受多来源警报，实现了合规性自动化迅速检测、响应，帮助内部网络安全团队管理和排除潜在风险。国内以BAT、360为代表的互联网企业，基于现有技术优势和产品特点，将人工智能算法用于预测、鉴定、阻止恶意软件，缓和0Day攻击造成的破坏，抢占人工智能安全前沿阵地。瀚思科技、青莲云等安全初创公司利用行为分析与深度学习算法，实现自动化检测企业中的异常网络安全行为。
二、人工智能在工业互联网安全领域应用的优势
随着数据量的爆发式增长、深度学习算法优化改进、计算能力的大幅提升，促使人工智能技术呈现出跨越式发展趋势。将人工智能与工业互联网安全融合应用，充分发挥人工智能的优势，可以在某种程度上解决一些传统方式难以解决的问题。
（一）人工智能助力工业互联网未知威胁检测
工业互联网网络的安全管理要求解决网络的使用中出现的安全威胁，有时威胁是不确定、不可知的，传统的特征匹配方法对未知威胁几乎无能为力。人工智能技术具有处理不确定信息的能力，不需要先验知识，在引入人工智能技术之后，可以在不明确信息的情况下进行相应的处理，对未知威胁的检测能力较强。
（二）人工智能具备强大的自学习能力
人工智能最大的优势是具备一定的学习能力，可以不断提升自身的知识水平。传统的应对网络安全的方法依赖于人工硬编码定义、提取恶意行为特征的方式完成相关任务，然而由于工业互联网数据的复杂性，模式匹配库很难获得及时更新。利用人工智能强大的自学习能力，既可以提高工业互联网安全检测中预测、防范、检测等各个风险环节的自动化和智能化程度，又能提升响应速度和判定的准确率。
（三）人工智能技术具备快速反应及精准识别能力
人工智能方法在解决工业互联网领域中人力所不及的安全大数据统计分析和抽取规律方面具备天然优势，可以在第一时间发现和识别预防威胁，并立即启动应急响应，进而全面提高威胁攻击的识别、响应和反制速度，提升风险防范的预见性和准确性，有助于减少人工参与、简化流程、降低成本、减小损失。特别是在工业互联网异常行为检测等应用场景的模糊识别和匹配方面，更是如此。
三、人工智能赋能工业互联网安全的思考
运用人工智能赋能工业互联网安全，主要体现在主动防御、威胁分析、策略生成、态势感知、攻防对抗等诸多方面。其中包括采用人工神经网络技术检测入侵行为、恶意代码等安全风险，采用专家系统技术进行安全规划、安全运行中心管理等。
（一）人工智能助力工业互联网安全检测
基于机器学习、深度学习算法的人工智能安全检测引擎，能够更好地处理工业互联网领域中的海量、模糊、非线性数据，通过对不同数据类型的大量数据进行聚合、分类、序列化，有效检测识别各类网络安全威胁，提升安全检测效率、精准度和自动化程度。网络入侵检测方面，通过对网络流量等数据进行收集、筛选、处理，利用人工智能自动生成安全检测结果提供给用户，实现异常网络行为、DDoS、僵尸网络等安全威胁的检测。在预测性恶意软件防御方面，利用人工智能技术可精准识别恶意代码的特征，寻找恶意软件家族特征，预测进化方向，提前进行防御。
（二）利用人工智能关联性安全态势分析，可全面感知工业互联网内外部安全威胁
利用数据融合、数据挖掘、智能分析和可视化等方式可对工业互联网安全数据进行归并、关联分析、融合处理，通过大量安全风险数据进行关联性安全态势分析，综合分析网络安全要素，评估网络安全状况，借助可视化呈现、预测网络安全态势，进而构建智能化工业互联网安全威胁态势感知体系。
（三）人工智能辅助工业互联网安全人员进行决策分析
随着工业互联网网络环境越来越复杂、攻击手段越来越隐蔽，安全运维的难度也越来越大。在工业互联网领域中，安全分析人员要处理的数据规模与其处理能力严重不匹配，许多攻击报警得不到及时响应，利用人工智能技术，通过智能算法对原始数据进行预处理，降低安全分析人员数据处理压力，辅助安全分析人员做出决策判断。
四、人工智能赋能工业互联网安全面临的挑战
（一）人工智能会带来双刃剑效应
一是人工智能可被武器化，助力网络攻击。人工智能自我学习能力和自组织能力可用于自动瞄准更具吸引力的目标，提高网络攻击效率。莫斯科研究人员使用一张人工智能算法生成的图片，就可以让广泛用于手机、门禁和支付上的Face ID人脸识别系统出错。二是人工智能可被滥用，威胁个人隐私。人工智能技术的应用增强了信息采集和数据挖掘能力，加大了隐私泄露风险，甚至可能导致数据匿名化等安全保护措施无效。剑桥分析公司通过智能数据挖掘的方式获得了海量美国公民信息，借此实施各种政治宣传和非法牟利活动。三是人工智能可决策失误，威胁人身安全。人工智能系统一旦出现感知、认知偏差或者受到网络攻击，系统就可能判断失误，进而采取错误行动，甚至危及人身安全。2016年，中国高新技术成果交易会上，一个儿童机器人由于决策系统出现错误，反复撞击展台，造成一人受伤。
（二）人工智能技术应用环境的依赖性较强
目前应用场景要求过高是人工智能技术在工业互联网安全场景落地应用的重要障碍之一。人工智能的应用要求不仅涉及到数据的获取，还涉及到网络通信速度以及相关设备的配套，数据、算法、算力是人工智能发挥作用的先决条件。目前，我国的基础设施环境尚不能满足人工智能在工业互联网安全领域的大规模应用，然而随着5G通信的落地应用和物联网的发展，未来应用环境会得到一定程度的改善。
（三）现有应用对数据价值挖掘不充分
我国人工智能技术处于快速发展阶段，基于人工智能的安全产品应用能力有待提高。此外，当前我国工业互联网企业的各项数据尚未全面联网，信息和数据存在分散和不规范等诸多难题，使得人工智能在工业互联网安全的应用较为简单。人工智能赋能工业互联网安全，关键之一就是建立智能数据收集和分析模型。目前，工业互联网企业缺乏整体的数据资产架构规划与数据资产管理手段，数据信息相关供应链还不健全，没有充分挖掘数据的有效价值，使得目前应用多以常规威胁检测与态势感知为主，在智能化风险分析及决策等领域应用及其有限。
作者简介
周昊，硕士，就职于国家工业信息安全发展研究中心保障技术所，主要研究领域：工业互联网安全、人工智能安全、大数据安全。联系方式：zhouhao@cics-cert.org.cn
王冲华，博士，就职于国家工业信息安全发展研究中心保障技术所，主要研究领域：工业互联网安全、网络与系统安全、网络攻防技术。联系方式：wangchonghua@cics-cert.org.cn
声明：本文来自工业信息安全产业发展联盟，版权归作者所有。文章内容仅代表作者独立观点，不代表安全内参立场，转载目的在于传递更多信息。如有侵权，请联系 anquanneican@163.com。
