吴沈括（北京师范大学法学院，中国互联网协会研究中心）
放眼全球，通用人工智能时代全面临近，当下以机器学习(machine learning)、深度学习(deep learning)、自然语言处理(natural language processing)和计算机视觉(computer vision)等为技术基础的新一代人工智能已广泛应用于健康医疗、自动驾驶、金融财经以及游戏文娱等各个领域，正在世界范围内推动掀起一轮数智产业发展的新高潮.
就数据看，目前全球人工智能企业的数量迅速增长，2022年全球人工智能市场规模为197.8亿美元，预计到2030年将达到1591.03亿美元，同期复合年增长率为38.1%.北美、亚太和欧洲是人工智能产业主要集聚地.美国在脑科学、量子计算、通用人工智能等方面超前布局，同时依托硅谷技术优势，由企业主导建立了完整的人工智能产业链和生态圈，在人工智能芯片、开源框架平台、操作系统等基础软硬件领域全球领先.中国作为全球重要的人工智能产业中心，2022年产业规模为2056.3亿元，同比增长13.6%，增速超过全球平均水平，未来将迎来更多的发展空间，预计到2025年，国内人工智能产业规模将超过3300亿元.在应用格局层面，机器视觉、智能语音和自然语言处理是中国人工智能市场规模最大的3个应用方向.
在此背景下，研判全球人工智能应用的现状与走向，解析人工智能治理的格局与态势，设计人工智能业务发展的路径与方式，已是目前数字产业的共同关切和发力重点[1-6].
1 我国人工智能治理现状与走向
1.1 政策层面
我国人工智能治理模式倾向于促进与监管并重、发展与安全并行.在网络强国与数字中国建设语境下，人工智能治理已成为新时期网信工作任务的战略组成部分.
就具体的人工智能治理格局而言，一方面，需要注意的是，国务院于2017年发布《新一代人工智能发展规划》，明确了我国新一代人工智能发展的多重治理目标和各项战略任务;另一方面，各国家机关立足自身职能定位，正加速推进各项治理举措的实际落地，作为突出的示例.
科技部成立人工智能规划推进办公室、战略咨询委员会和人工智能治理专业委员会，相继制定《新一代人工智能治理原则》和《新一代人工智能伦理规范》，并启动人工智能重大科技项目，总体强调以“基础软硬件”为主体，“基础理论”和“创新应用”为两翼的“一体两翼”研发布局，同时依托龙头企业，建立人工智能开放创新平台，带动中小企业发展，提升整个行业的技术进步速度.
国家互联网信息办公室等部门强化有关人工智能治理的规则体系：2022年3月，国家互联网信息办公室发布《互联网信息服务算法推荐管理规定》，从信息服务规范、用户权益保障、监督管理、法律责任等方面对应用算法推荐技术提供互联网信息服务进行规范；2022年11月，国家互联网信息办公室、工信部、公安部发布《互联网信息服务深度合成管理规定》，注重内容标识等义务内容的全面遵从；2023年7月，国家互联网信息办公室、工信部、公安部等七部门联合公布《生成式人工智能服务管理暂行办法》，突出包容审慎和分类分级监管的基本立场.
尤其是随着各部门合力推动《人工智能法》列入国务院2023年立法工作计划，草案预备提请全国人大常委会审议，我国人工智能治理正快步迈入新的规则生态阶段.
对此，需要特别注意我国决策者的判断逻辑，一方面，人工智能带来新的发展机遇，包括新的技术支持、新的业务样态和新的应用内容；另一方面，人工智能也伴生来源更为多样、程度更为深刻的安全风险，涵盖各类技术要素风险、组织管理风险和数字内容风险.相应地，决策者高度关注的阶段性突出任务是，如何充分发挥人工智能的价值潜能、助力提升国家和产业比较竞争优势，同时有效实现其规范治理、从源头避免和降低各类国家安全、公共秩序和民众权益风险.这在实务层面具体表现为，遵从有关统筹发展和安全、发展和安全并重的中央精神，贯彻高质量发展新阶段语境下的新综合治理生态理念，总体指向促进人工智能技术健康发展和规范应用的中远期监管目标.
1.2 产业层面
对于企业运营而言，直接启示是，要密切追踪研判政策法规与部门监管的核心要义及其演进变化，积极挖掘和有效利用各项国家和社会支持，包括安全可信的算力和数据公共资源，培育壮大多方共建共治共享的业务生态.同时结合相关算法等的创新研发，强化自主创新能力和创新机制建设，依托自有业务基础不断丰富人工智能的应用场景，持续提高自身的产业链供应链地位和发展竞争优势.
推动人工智能全产业链整合具有突出意义，特别是建设打破壁垒的数字化平台，推动数据和算法的共享，把开发者、使用者、投资者、营销者、生产者聚集起来，提升开源创新合作，降低数字化门槛，提供数据、算法、算力层面的合成解决方案.培育高端高效的智能经济模式，主动衔接人工智能新兴产业，推进产业智能化升级，打造人工智能创新高地，坚持人工智能研发攻关、产品应用和产业培育“三位一体”推进，让人工智能赋能各行各业，引领产业的共同发展.
需要全面地以现行法律规则为指引，及时建立人工智能的全流程合规体系，切实履行技术要素、组织管理和数字内容等各个层面的各项法定合规义务，包括通过培育合法、共生的合规社群提升源头治理能力，并且在设施部署、人员配置和运营架构等各个维度扩大配置包括国家安全风险在内的风险阻断措施，最大限度地强化自身的风险监测、识别和处置能力.
与此同时，应当坚持道德伦理法治红线.人工智能行业的发展需要建立在符合现行法律法规、道德伦理的基础上，不以牺牲安全、伦理和权益价值为代价，避免盲目加速人工智能产品与服务的仓促、不成熟商业化应用，遵从对于人工智能行业的未来风险的基础性管理和控制要求.
2 国际视野下人工智能治理态势
应当指出，作为我国人工智能治理走向的重要驱动因素，目前全球人工智能治理的格局呈现诉求侧重多样、治理方式各异的特点，下面就典型国家和地区的最新治理态势进行介绍.
2.1 欧盟
欧洲议会于2023年6月通过全球首部专门针对人工智能的综合性立法《人工智能法案》授权草案，强调人工智能风险的分类分级管理，以确保在欧洲开发和使用的人工智能完全符合欧盟的权利和价值观，包括人类监督、安全、隐私、透明度、非歧视以及社会和环境福祉，同时对一些重要的科技法规，如《数字服务法案(Digital Services Act)》《数字市场法案(Digital Markets Act)》进行补充，凸显欧盟立法者对科技监管所采取的全面、谨慎保护思路.
2.2 美国
美国的人工智能采用分行业监管的方法，各个行政部门在其领域内颁布法规.例如交通部监管自动驾驶汽车，食品药品监督管理局监管AI医疗设备.法规制定都要经历一个广泛的公告和评论期，从而提供一套法律框架，让政府机构对公众意见负责，以证据为基础制定规则.
同时，美国国会可以要求行政部门颁布法规或自行通过立法，例如国会于2022年2月在众议院提出了算法问责法案，该法案将指导美国联邦贸易委员会(FTC)制定法规，要求大公司对现有和新的高风险自动决策系统进行影响评估.此外，截至2023年6月，美国康涅狄格州、纽约州、德克萨斯州分别就规制公共部门的人工智能应用、规制职场的人工智能应用、成立人工智能咨询委员会通过人工智能法案.
值得特别注意的是，2021年9月，根据美国《2020年国家人工智能倡议法案》(National AI Initiative Act of 2020)，美国商务部和国家人工智能倡议办公室成立了国家人工智能咨询委员会.该委员会将就美国的人工智能竞争力、劳动力公平、资金、研究和开发、国际合作和法律问题提出建议.
2.3 英国
2022年7月18日，英国数字、文化、媒体和体育部(DCMS)发布了新的人工智能规则提案《建立一种支持创新的人工智能监管方法》(Establishing a proinnovation approach to regulating AI)，强调监管的体系性以及合比例性，不同的监管机构应根据特定场景下人工智能对个人、群体或企业的影响采取各异的监管对策，监管者应关注有证据表明存在真实且较高风险，而非低风险或假设存在风险的应用，以免为创新设置不必要的障碍.
2.4 印度
印度计划彻底改革互联网经济规则，目前正在酝酿的最重要的法律是《数字印度法案》(Digital India Bill).2023年6月，印度电子和信息技术部长申明，印度将对人工智能进行监管，2023年《数字印度法案》磋商已正式开启.该法案会完全取代已有的《信息技术法案》，监管人工智能、量子计算等新兴技术，并包括互联网相关规则以及消费者数据处理的条款.法案针对面向消费者应用人工智能和机器学习的各类公司规定严格的“禁区”，涵盖对用户存在潜在伤害的各个方面，例如用户可能在不了解后果的情况下无意中同意其AI数据处理的情况.而2023年7月，印度联邦内阁已经批准《个人数据保护法案》，其目标包括以保护公民隐私的方式规范AI场景中个人数据的处理.
结合联合国、OECD、G20以及APEC等层面的国际人工智能治理议程，世界各国针对人工智能的治理走向，可以概括为规制技术风险和促进技术产业发展的2大类政策工具的不同权重组合.具体而言，在人工智能治理是偏向于发展还是规制方面，不同国家的做法各有侧重.新加坡等国家侧重积极发展人工智能以增强国际竞争力，而欧盟则通过树立监管规则以提升产业发展与全球竞争水平.
更具体而言，一方面，在人工智能治理过程中偏重于规制技术风险的模式，会采取不同方案，即强调以市场力量或者政府监管的方式进行规制.例如，美国主要采用市场为主体的监管方式，各州自行立法，更多以市场的力量来推动规制，充分发挥企业的作用，总体强调监管的敏捷性和灵活性.
而欧盟各国则是突出以政府为主体落实人工智能治理，通过各国政府加强监管、发布相关指南文件来实现全面治理，偏向于在人工智能技术生命周期的早期介入监管.总体更加强调数据治理与数字主权，提升人工智能监管力度以保护自身产业发展、树立全球监管规则、增强产业全球竞争力.
另一方面，在人工智能治理过程中偏重于促进技术产业发展的做法也有不同的导向，具体可分为国家驱动和市场驱动2种方式.前者的典型国家是韩国，其推崇通过国家规划、国家方案来布局人工智能产业发展.印度政府的干预相对较少，人工智能产业根据市场导向自由发展；而日本倾向于对人工智能应用制定比欧盟更宽松的监管规则，希望借助人工智能技术推动经济增长，并让日本成为先进芯片领域的领导者，其目标是在2023年底前制定一部人工智能法规，该法规更强调产业驱动发展，而非国家规划引导.
3人工智能治理与产业发展启示
毋庸置疑，全球人工智能治理的态势变化已经直接影响了中国人工智能治理的思路布局与实现方式：
1) 在整体治理思路方面.监管部门看重提供和使用人工智能服务，应当遵守法律、行政法规，尊重社会公德和伦理道德，谕示着法律之治和伦理之治的密切融合，进而奠定了新技术场景下人工智能新治理的价值底蕴.同时，监管注重在算法设计、训练数据选择、模型生成和优化、提供服务等过程中，采取有效措施，防止民族、信仰、国别、地域、性别、年龄、职业、健康等歧视，由此突出了切实避免人工智能应用中的偏见和歧视的重要性，并为其可持续发展提供根本的价值保障.
2) 在具体实施机制方面.在各部门分工合作、联动执法的监管治理格局下，强调人工智能的分类分级管理机制，将借鉴比对欧盟等域外治理方案，以包容审慎为原则针对不同风险类型持续引入相关细化监管规则或指引，并且酝酿推动比照国家数据安全工作协调机制建立人工智能治理领域的类似联席工作机制.与此同时，现行常见的安全评估、审查机制以及许可备案等监管工具将得以延续，并考虑适时按需引入新型的认证认可以及AI审计机制，丰富各主管部门的监管治理工具箱，提升其执法“穿透力”，全面覆盖底层的大模型训练、应用层的AIGC产品及功能研发等各项要素.
3) 在产业生态培育方面.各主管部门将推动行业组织、企业、教育和科研机构、公共文化机构、有关专业机构等在人工智能技术创新、数据资源建设、转化应用、风险防范等方面开展协作，最大程度激发各方主体的积极性和参与度，提升共建共治共享的生态水准.此外，还将推动人工智能基础设施和公共训练数据资源平台建设，促进算力资源协同共享，提升算力资源利用效能，推动公共数据分类分级有序开放，扩展高质量的公共训练数据资源，鼓励采用安全可信的芯片、软件、工具、算力和数据资源.从基础设施到平台建设，从算力资源到公共数据，培育多方参与、安全可信的高水准产业生态.
有鉴于此，人工智能治理将呈现更加注重站位的战略性和生态的广泛性等特点，特别是基于国内人工智能产业发展和国际地缘政经的实际走向，头部企业需要延续并进一步强化有关人工智能治理工作的政治性、战略性价值认知.而就下一阶段人工智能治理具体工作的展开对头部企业的影响而言，一方面，围绕多方参与、安全可信的高水准人工智能治理产业生态的建设，企业会在社会舆论、营商环境、公共支持和域外发展等方面获得进一步的条件改善，特别是：1)人工智能治理市场准入壁垒的降低和公平竞争环境的营造，有益于企业进一步拓宽战略业务范围；2)人工智能治理市场融资机制、用工条件的改进和国家重大专项支持的扩充，有益于企业进一步增强尖端研发创新；3)人工智能治理国际治理和数字经济、数字贸易等领域的相关国际议程和倡议工作的持续展开，有益于企业进一步融入全球供应链产业链生态.
另一方面，围绕人工智能治理政策战略和法律法规的体系构建和全面落地，各项贯彻和执行要求不会减少或降低，而是表现为相比过往而言明确性和确定性相对更高的常态化治理要求，以推动企业各项工作更加匹配党和国家阶段性设定的各项正向价值，特别是：1)深刻认知维护意识形态安全和政治安全作为首要刚性要求，持续创新机制，加强数字内容建设与管理，助力国家网络文明和网络综合治理体系建设；2)遵循数字中国战略布局，加快人工智能治理关键核心技术攻关和新一代信息基础设施建设，以惠民为民为导向全面赋能数字经济，尤其是新型智慧城市、数字乡村建设以及数字化绿色化协同转型发展3大板块；3)强化网络安全、数据安全、个人信息保护和人工智能治理，助益国家数字安全保障体系；4)以构建网络空间命运共同体为引领，积极拓展人工智能治理国际合作生态圈，特别是在网络空间国际规则、数字经济与数字贸易、数据要素跨境流转利用以及人工智能安全治理等领域主动作为，包括设计和发起相关国际议程和倡议等，吸引和汇聚更多全球利益相关方，助力国家增强人工智能治理国际话语权和影响力.
参考文献
[1]王洋, 康立. 人工智能的全球治理大格局[J]. 现代金融导刊, 2024, 38(2): 58-61
[2]万美秀. 生成式人工智能对个人信息保护的挑战与治理路径[J]. 网络安全与数据治理, 2024, 43(4): 53-60
[3]漆晨航. 生成式人工智能的虚假信息风险特征及其治理路径[J]. 情报理论与实践, 2024, 47(3): 112-120
[4]赵申洪. 全球人工智能治理的困境与出路[J]. 现代国际关系, 2024, 44(4): 116-137, 140
[5]张欣, 宋雨鑫. 全球人工智能治理的格局、特征与趋势洞察[J]. 数字法治, 2024, 2(1): 199-212
[6]谭毓安. 高度重视人工智能安全问题[J]. 信息安全研究, 2022, 8(3): 311-313
作者简介
吴沈括，博士生导师，中国互联网协会研究中心副主任.主要研究方向为AI治理、数据保护与网络安全.
（本文刊载在《信息安全研究》2024年第1期增刊）
声明：本文来自信息安全研究，版权归作者所有。文章内容仅代表作者独立观点，不代表安全内参立场，转载目的在于传递更多信息。如有侵权，请联系 anquanneican@163.com。
