记者|肖潇

编辑|王俊

当地时间9月5日,欧洲委员会宣布《人工智能与人权、民主和法治框架公约》(下称《AI公约》)正式向全球各国开放签署,这是全球首部具有法律约束力的公约。

《AI公约》由欧洲委员会牵头制定,条约内容于今年5月确定,一共有57个国家参与了讨论过程,其中包括加拿大、以色列、日本、澳大利亚等11个非欧盟成员国。官方最新消息显示,目前已经有10个国家和组织签署了《AI公约》,美国、欧盟、英国、以色列都在首批签署名单中。

接下来,《AI公约》需要各个签署国国内立法机构的批准,一旦得到5个立法机构的批准(其中至少包括3个欧洲委员会成员国),公约会在三个月后开始生效。

需要注意的是,《AI公约》旨在解决AI风险和安全问题,主要聚焦于保护人权。牵头制定的欧洲委员会(Council of Europe)为国际组织,宗旨为维护欧洲的人权、民主和法治,而非欧盟委员会这样的行政机构。

具体内容上,《AI公约》共8章36个条款,为AI规定了一系列原则,包括保护隐私和个人数据、平等和非歧视、不损害人的尊严和自主……公约要求签署国对人AI产生的任何有害和歧视性结果负责,并要求AI侵权的受害者拥有法律追索权。

与欧盟的《AI法案》不同的是,该公约涵盖了公共和私营部门的AI使用。公共当局需要评估、管理、监督AI系统全周期内可能产生的影响。在自身使用AI时,必须确保透明度和公众参与机制,公众需要有途径质疑AI决定,并向当局提出投诉。

尽管《AI公约》具有法律约束力,但有批评声指出,公约没有罚款等制裁措施,靠各签署国向欧洲委员会递交报告。这种报告机制是国际条约的常见做法,是一种较弱的执行方式。

去年以来,全球各地的AI监管规则在加速出台。当地时间8月1日,欧盟《AI法案》正式生效,是全球首部全面监管AI的法规。法案生效的6个月后(即明年1月),社会评分、公共场所的生物识别系统等不可接受的风险将被全面禁止;生效的12个月后(即明年8月),ChatGPT这样的通用大模型(GPAI)需要进一步提高透明度,提高训练数据摘要、提供技术文档等。

此外,美国加州备受争议的《前沿人工智能模型安全创新法案》上周在立法机关通过,目前正在等待州长的决定。该法案要求人工智能公司公开其训练模型的关键信息,如数据来源、数据类型和数据处理方式等。许多业内人士持反对态度,比如,斯坦福大学教授李飞飞认为法案可能会损害人工智能学术界、开源社区的创新,尤其是限制开源社区的成长。包括OpenAI、Meta、谷歌、苹果、亚马逊在内,多家科技大厂高层共同签字反对该法案。

此外,程念还建议,当AI面向儿童和未成年人受众,应当建立有效的用户反馈渠道,确保能适应不断变化的市场需求。

记者 | 肖潇

编辑 | 王俊

公号编辑 | 王俊

声明:本文来自合规科技观察,版权归作者所有。文章内容仅代表作者独立观点,不代表安全内参立场,转载目的在于传递更多信息。如有侵权,请联系 anquanneican@163.com。