经过漫长而激烈的谈判，当地时间12月8日欧盟就《人工智能法案》达成初步协议。7日针对控制像大语言模型ChatGPT这样的聊天机器人的基础模型达成初步妥协，8日重点关注在公共场所使用包括面部识别在内的实时生物识别技术。
欧盟旨在通过此举，在人工智能领域继续维护其本土的数字主权和数字安全，并达到进一步提升其在人工智能领域国际话语权的目的。该法案标志着欧盟在人工智能领域监管方面迈出关键一步，并对全球AI监管带来深远影响。
《人工智能法案》对全球AI领域监管产生重大影响
1.《人工智能法案》引领全球AI分级监管开启法规化进程
在人工智能技术迅速发展的时代浪潮下，《人工智能法案》继承了欧盟对数字经济一贯的严格立法态度，从具体制度到处罚力度均体现出高压的一面。《人工智能法案》要求系统提供者和使用者都要遵守数据管理、记录保存、透明度、人为监管等规定，以确保系统稳定、准确和安全。还针对生成式人工智能设立专门监管制度，对人工智能生成的内容引入强制性标签，并强制披露受版权保护的训练数据。对于违反规定者，监管机构会迫使企业从市场上撤回应用程序，企业还可被处以高额罚款。法案覆盖了所有非军事用途的人工智能类型。将AI系统分为低风险、高风险、不可接受风险、特定透明度风险等不同等级，按照风险级别制定相应的监管规则。（例如，根据该法案，不可接受风险等级的AI应用，将会被直接禁止。对于存在系统性威胁的通用AI，将会被更严格地监管。）这些都意味着在欧盟AI分级监管正式进入法规化。
2.《人工智能法案》带来AI创新与合规的平衡
该法案的核心目的是为了在鼓励技术创新和保护人权之间找到平衡点。一方面，鼓励人工智能技术的进步和创新；另一方面又必须确保技术创新不会侵犯公众的基本权利。该法案规定了严格的前置审查程序和履行合规义务，重点对具有高风险的人工智能产品和服务实施治理，要求人工智能公司对其算法保持人为控制，向监管机构提供技术文件，并为“高风险”应用建立风险管理系统。这可以说是AI创新与合规平衡的探索。
3.《人工智能法案》推动AI稳健可持续发展
人工智能法案在某些方面不仅仅是对技术的监管和约束，同时也可以通过刺激投资和创新来促进人工智能的全面发展。这种综合的法案可以为人工智能行业提供明确的方向，同时平衡了AI创新和AI社会责任的双重需求。在以下几个方面产生积极影响：首先是社会接受度提高，减少社会担忧，提高公众对AI技术的接受度。其次是降低负面影响，降低AI技术可能产生的负面社会、经济和伦理影响，增加社会对技术发展的信任。第三是明确监管框架，为企业提供清晰的法规指引，降低法律风险，提高合规性，激发行业规范，通过鼓励社会责任，有助于行业自发形成更为严格的规范标准，推动企业更好地遵守规则。第四是风险管理与可控性提升，减少技术风险，减轻可能的负面后果。第五是推动AI可持续发展与长期利益，能够对社会产生积极影响，构建一个更加健康、可信赖的AI生态系统。
对我国AI发展有很好的借鉴作用
《人工智能法案》的立法技巧具有全面性和综合性，对人工智能的研发、人工智能产品和服务的设计与运行带来非常大的直接影响，我国应积极借鉴好的做法。
1. 加速完善我国AI监管体系建设
我国应把握人工智能技术发展趋势，加快人工智能监管的政策法规的制定进程，建立技术规范和标准。通过行业协会可以引领企业建立自律机制，政府可通过科研资金和政策支持促进技术创新，建立技术评估机构。政府组织要积极参与国际合作项目，与其他国家签署双边或多边协议，共同推动AI监管国际合作。
2. 积极参与共建全球AI治理规则
加强国际合作，积极参与国际性的AI峰会和论坛，参与相关AI治理规则的制定和讨论，分享我国在AI领域的发展成果和治理经验有助于推动我国在国际社会中的话语权和影响力。开展双边与多边合作，与其他国家建立双边或多边的AI治理合作机制。制定国际标准， 建立AI治理专门机构，负责研究和推动国际AI治理规则的形成。推动共识，主动提出我国在AI治理方面的方案，包括道德标准、隐私保护、数据流动等方面，建立国际性的公众参与机制，建设国际智库。
对AI企业发展带来多重影响
1. 法规合规要求提升
对有意在欧盟市场投放基于AI产品和应用的企业，法案设定了更为严格的监管标准，企业需要更加关注合规性，确保其AI系统的透明度和可解释性，并加强对个人数据的隐私保护。
2.对技术和管理水平提出更高要求
针对高风险AI系统，法案规定了认证和审查的要求，企业在开发、部署和使用这些系统时需要通过审查和认证，企业需要建设更加完善的监管框架，以满足法案对高风险AI系统的监管要求，这对企业技术和管理水平提出更高要求。
3. 对AI市场准入限制
带来创新和竞争环境的调整，将对企业的市场竞争产生一定的影响，尤其是在涉及到人类生命安全的领域。同时，也鼓励更多公司投身于AI技术创新，推动整个行业朝着更负责任和可持续的方向发展。
4. 数据流动带来限制
法案对于数据流动可能设有一定的限制，企业需要更加谨慎地处理国际数据传输，以符合法规要求。
对电信运营商的启示和思考：
（1）实施法规合规体系建设。电信运营商应提前布局，在企业内加速建设完善的合规体系，确保公司在大模型、AI技术研发、数据处理和应用等方面紧跟国家战略、符合相关合规性要求。
（2）积极应对技术研发与创新的AI风险。加强AI相关系统与应用的研发攻关和全流程安全自主掌控，注重数据可解释性，满足可预见的对数据透明度的要求。如：电信运营商对自身涉及网络安全的AI系统和服务履行高标准，加强对网络安全的关注和防护。
（3）制定更加严格的数据隐私和伦理安全标准。作为电信运营商将进一步提升对个人数据的保护水平，强化伦理规范，确保人工智能技术的应用符合社会道德和伦理标准。
本文作者
马战凯
战略发展研究所
一级分析师
复旦大学MBA，一级分析师，有33年电信工作经历，近年来专注人工智能、物联网、工业互联网等领域数字产业研究工作
常佳琦
战略发展研究所
一级分析师
硕士，就职于中国电信研究院，目前从事企业数字化转型、数字经济、数字信息产业等领域研究。
马睿文
战略发展研究所
二级分析师
硕士，长期从事云计算、前端数字化转型等研究领域。近年专注于研究产业数字化转型、数字化平台能力落地方案实施等。
高立霜
战略发展研究所
二级分析师
硕士，就职于中国电信研究院，聚焦于数字化转型体系及运营设计、集约的数字化销售中台等领域研究。
编辑制作
产品设计与用户研究团队
制图：李银鑫 | 编辑：王凯雯
审校：董智明、刘馨
声明：本文来自天翼智库，版权归作者所有。文章内容仅代表作者独立观点，不代表安全内参立场，转载目的在于传递更多信息。如有侵权，请联系 anquanneican@163.com。
