记者｜肖潇
编辑｜王俊
当地时间9月5日，欧洲委员会宣布《人工智能与人权、民主和法治框架公约》（下称《AI公约》）正式向全球各国开放签署，这是全球首部具有法律约束力的公约。
《AI公约》由欧洲委员会牵头制定，条约内容于今年5月确定，一共有57个国家参与了讨论过程，其中包括加拿大、以色列、日本、澳大利亚等11个非欧盟成员国。官方最新消息显示，目前已经有10个国家和组织签署了《AI公约》，美国、欧盟、英国、以色列都在首批签署名单中。
接下来，《AI公约》需要各个签署国国内立法机构的批准，一旦得到5个立法机构的批准（其中至少包括3个欧洲委员会成员国），公约会在三个月后开始生效。
需要注意的是，《AI公约》旨在解决AI风险和安全问题，主要聚焦于保护人权。牵头制定的欧洲委员会（Council of Europe）为国际组织，宗旨为维护欧洲的人权、民主和法治，而非欧盟委员会这样的行政机构。
具体内容上，《AI公约》共8章36个条款，为AI规定了一系列原则，包括保护隐私和个人数据、平等和非歧视、不损害人的尊严和自主……公约要求签署国对人AI产生的任何有害和歧视性结果负责，并要求AI侵权的受害者拥有法律追索权。
与欧盟的《AI法案》不同的是，该公约涵盖了公共和私营部门的AI使用。公共当局需要评估、管理、监督AI系统全周期内可能产生的影响。在自身使用AI时，必须确保透明度和公众参与机制，公众需要有途径质疑AI决定，并向当局提出投诉。
尽管《AI公约》具有法律约束力，但有批评声指出，公约没有罚款等制裁措施，靠各签署国向欧洲委员会递交报告。这种报告机制是国际条约的常见做法，是一种较弱的执行方式。
去年以来，全球各地的AI监管规则在加速出台。当地时间8月1日，欧盟《AI法案》正式生效，是全球首部全面监管AI的法规。法案生效的6个月后（即明年1月），社会评分、公共场所的生物识别系统等不可接受的风险将被全面禁止；生效的12个月后（即明年8月），ChatGPT这样的通用大模型（GPAI）需要进一步提高透明度，提高训练数据摘要、提供技术文档等。
此外，美国加州备受争议的《前沿人工智能模型安全创新法案》上周在立法机关通过，目前正在等待州长的决定。该法案要求人工智能公司公开其训练模型的关键信息，如数据来源、数据类型和数据处理方式等。许多业内人士持反对态度，比如，斯坦福大学教授李飞飞认为法案可能会损害人工智能学术界、开源社区的创新，尤其是限制开源社区的成长。包括OpenAI、Meta、谷歌、苹果、亚马逊在内，多家科技大厂高层共同签字反对该法案。
此外，程念还建议，当AI面向儿童和未成年人受众，应当建立有效的用户反馈渠道，确保能适应不断变化的市场需求。
记者 | 肖潇
编辑 | 王俊
公号编辑 | 王俊
声明：本文来自合规科技观察，版权归作者所有。文章内容仅代表作者独立观点，不代表安全内参立场，转载目的在于传递更多信息。如有侵权，请联系 anquanneican@163.com。
