数据驱动：数字智能时代数据安全面临“三大难题”
数据操作行为真假难辨
数据在流转过程中，包含大量复杂的操作行为，很难分辨是正常业务操作还是网络攻击。比如，黑客会披着合法的外衣做“坏事”，模拟正常业务，采用“蚂蚁搬家”策略盗取数据。
黑客还会篡改、删除、伪造数据。比如，黑客利用AI工具仅需30秒音频，就能精准捕捉声音特征并进行深度伪造，最近加拿大一对夫妻就被伪造的音频诈骗了2万多美元；黑客还可以利用漏洞，篡改监控系统中的关键数据，隐藏自己的犯罪行为，严重威胁国家安全、社会安全、生产安全、个人安全。
“三员”违规行为难控
威瑞森的统计显示，数据泄露事件，82%和内部有关。内部人员的风险主要是“三员”，也就是管理员、技术员和操作员。他们往往有较高的数据访问权限，很可能被黑客钓鱼利用。
去年12月，媒体曝光某公司前技术员为宣泄不满，远程加密公司服务器，导致业务系统全面瘫痪。
软件供应链漏洞、后门难防
据奇安信统计，仅国内外应用最广泛的JAVA编程语言，就有近1500万个版本的JAVA开源组件，它们当中很多存在漏洞、后门等安全风险，我们对1780个开源组件的1.6亿行代码进行了检测，共发现安全缺陷265万个，每1000行代码中就有16个安全缺陷，这些缺陷一旦被发现和利用，就变成安全漏洞。
而国产软件对这些开源组件的依赖度是100%。比如，某国产操作系统，用了超1000个开源组件，同时引入了1000多个已知漏洞；某国产邮件系统，使用了超过100个开源组件，引入了超过800个已知漏洞。
智能引领：AIGC对数字化及网络安全带来深远影响
AIGC力压元宇宙成为2023最亮科技树；大公司同时在两个领域布局，英伟达受益最大，网安企业只能将资源投放在确定性强的科技树；生成式AI是对传统决策式AI的颠覆性革命；大量决策式AI技术在信息化中被使用（自动驾驶、网络安全、大数据），部分场景可被生成式AI替换；网络安全能力可被AIGC提升，为网安企业提供大量创新机会；AIGC在信息化领域的应用将带来安全新需求，网安产业是因此受益。
AIGC运行在云计算、互联网和IT环境下，天然是网络安全问题频发的重灾区。大量用户注册，且用户数据将继续增长，网络安全问题将被进一步放大。微软近期发布首个与ChatGPT能力结合的网络安全产品Security Copilot，说明网络安全本身就是ChatGPT的一个场景应用。AIGC为网络安全技术和产业带来新变化：
攻击门槛降低
合理编排问题绕过内容审计，配合搜索引擎和其他知识体系，提升攻击能力和烈度。
防守效率提升
资产探测管理、识别漏洞、编写安全运营自动化脚本、制定安全策略，提升安全运营效率。防守、运营类问题解答直接，更友好。
数据安全成为主战场
攻防双方合理利用工具方法趋同，将迅速达到攻守平衡与数据有关的安全防护是主战场。
传统的攻防平衡被打破，易攻难守成为数字智能时代的新常态
过去，解决易攻难守难题通常采用网络隔离的方法。比如把网络划分成物理隔离网、逻辑隔离网、内网、外网等，用减少攻击面解决防守人力不足问题，实现攻防平衡。而数智时代，隔离网络要变成开放网络，“易攻难守”的矛盾更加尖锐。
过去，高水平的黑客只是一小部分，攻击和防守力量基本平衡。而生成式人工智能技术出现以后，不懂代码的普通人也可以编写钓鱼邮件和木马，让黑客数量激增，攻防平衡被打破。比如，今年以来，AI换脸诈骗在多地发生，福建一位市民10分钟内就被骗走了430万元。
过去，数字化系统都是相对独立的，攻击者需要逐一攻破，耗时耗力。而数智时代，各行各业的系统都依赖数字基础设施，一旦基础设施被攻破，就好比自来水被下毒，一个攻击危害一片，引发“蝴蝶效应”，也造成了网络安全“易攻难守”。
数据+智能，推动网络安全产业变革的新范式
数据安全尚未规模形成标准、法规、监管的完整闭环，“三法一条例”不能完全应对AIGC带来的数据安全问题。
AIGC基于问题交互式学习进化的方式出现，将刺破传统网络安全和数据安全建立的内外网防护网格。AIGC以互动的形式收集和分析数据，企业和个人以正常业务的形式持续流出重要数据。AIGC在合规定义方面需要加强隐私保护（个人隐私、企业隐私、国家隐私）、合规审计（规划、建设、运营）、伦理监管（内容监管、舆情监管、公信监管）几方面的研究和设计。
AIGC可作为工具同时服务攻防两端，能够熟练使用工具的一方将形成优势，通过防御和反制攻击来保护数据的安全性。
社会工程渗透、脱库撞库攻击、规模制造虚假信息（水军）、恶意收集凭证/密码等身份信息等数据安全类攻击行为可借助AIGC技术提高攻击效率。数据安全的规划和建设需要在元数据的处置时就入局，如进行数据资产的盘点、数据的分级分类、数据脱敏、数据传输/存储加密等细分技术和方案需快速落地。
从业务视角提供安全保障，保障业务数据的保密性、完整性和可用性，主要应用领域包括金融、电力、电子商务、医疗保健等对数据安全敏感的行业和场景。
在AIGC能力加持下数据安全在业务端的能力将更多的体现在在业务逻辑中对钓鱼检测、撞库检测、凭证伪造检测、弱密码检测、可疑身份检测等日常高发、高危类安全行为方面，大多数攻击不一定很高级。数据作为核心生产要素，贯穿于数字化系统的各个生产环节中，本质是合规和攻防在具体场景下的应用。
网络安全产业变革，迎来发展新机遇
数字智能时代，安全以内生为根本，以零事故为目标
安全内生，从关注IT转变成关注业务，从生产的关键环节、关键过程中找出防护重点；对研发过程、研发成果、操作行为进行全过程数字化管理，统筹数据在各业务系统之间流转。从关注设备转变成关注“人”，采用零信任架构，通过身份分析、环境感知持续对“人”的行为进行监测分析和控制，确保身份可信、环境可靠、权限可控、行为合规。从关注建设转变成关注运营，关注资产的变化、数据的变化、策略的变化，通过综合的方法和手段持续运营。
“零事故”是安全“弹性”的落地。全球网络安全风险向着多样化、复杂化且难以预判的方向发展，不确定性成为新常态。网络安全防护的重点应从抵御攻击转变为保障业务，提高整体预警、防护、恢复和适应能力，体现在业务不中断、数据不出事、合规不踩线。
AIGC+数据安全成为网安产业变革的强劲动力
推动数据安全政策的制定和执行
政策方面的驱动力主要围绕合规展开，即遵守适用的规定和准则，确保数据的安全、隐私和保密性。国家数据局成立，从顶层设计层面推动数据要素市场的完善和提速，并将在短期内可能推动法律法规、制度建设，未来可能会衍生出执法等职能。国家数据局的成立与Chat GPT的发布刚好在同一时间段，针对AIGC类应用对数据安全的影响将会成为重点研究和加强监管的领域。
推动企业数据安全防护策略与技术变革
三星等典型科技企业已经或将要对AIGC类应用进行管控，以保护其核心数据的安全性，部分数据敏感的企业和政府将先行。攻击手段导致泄密不是主因，AIGC的持续性交互将成为核心数据泄露的主因。企业和组织的IT部门采用特定设备、敏感词输入检测等新技术、管理手段应对。
推动数据要素市场变革
数据安全的场景化和市场化将快速形成闭环，政务数据和产业数据已经具备了一定先发条件，与之配套的数据安全需求和建设将会加速推进。AIGC的广泛应用将影响数据资产的价值，进而推动数据要素市场变革。为保障数字产业健康发展，需要加强数据要素行业针对AIGC类应用的安全防护与监管。
本文作者：
奇安信集团产业发展研究中心是奇安信集团的产业研究团队。专注网络安全领域，跟踪国内外产业发展现状与趋势，研究网络安全各细分领域，包括产品技术、市场、投融资和产业生态，为网络安全从业人员提供新视角，为企业决策提供依据，推动网络安全产业发展。
陈华平：奇安信集团副总裁，产业发展研究中心负责人。
乔思远：产业发展研究中心研究员，主要负责宏观分析和产品技术研究。
声明：本文来自奇安信产业发展研究中心，版权归作者所有。文章内容仅代表作者独立观点，不代表安全内参立场，转载目的在于传递更多信息。如有侵权，请联系 anquanneican@163.com。
