2023年2月，欧洲议会 AI伦理领域的顾问Anna Felländer在欧盟委员会官网发表了《ChatGPT’s rapid entry – Urgent for the government to appoint an authority for responsible AI》，提出了关于为什么要对生成式AI进行监管的背景、原因和解释。笔者认为，这篇文章很有可能代表了未来欧盟委员会对生成式人工智能的监管方向之一，我们看这篇，也主要是作为一个国际动向进行关注。

免责声明：本文内容仅用于信息展示和分享和教育意义。转载请按照相关规则，注明来源，且附上本文的所有参考文献链接。

背景

备注：本文作者Anna Felländer，目前是anch.AI的创始人，也是ETHICAL AI GOVERNANCE GROUP的委员会成员，同时也是欧洲议会 AI伦理领域的顾问。

全文如下：

最近新发布的人工智能方案ChatGPT，以一种全新的方式挑战着所有人。随着生成式AI系统创造的机会，我们同时也面临着具有历史意义的十字路口：

也就是，究竟是人工智能来控制人类，还是人类来控制人工智能。

瑞典的企业和当局（因为Anna Felländer在瑞典），需要对人工智能采取 Ethical approach ，也就是伦理学上的考量，但最重要的是，需要建立风险评估框架，来支撑这种发展，从而指导符合人类价值观的人工智能解决方案的发展。

此外，欧盟人工智能立法，对发展负责任的人工智能来说，指日可待，而政府迫切需要组建发展负责任的人工智能机构。

ChatGPT和其他生成式人工智能系统

（1）首先，创造了人们内心期待已久的人工智能民主化，更多的人可以参与进来这次技术带来的迭代，自己去创造由算法在历史数据上生成的新内容。各个组织实现AI技术价值的门槛显著降低，新的创新商业模式也层出不穷，能够有效地加强客户和人们的关系。

（2）同时，所有个体和社会，每天都面临着由于不受监管的人工智能解决方案，从而导致的道德和法律问题。其中一个原因是，人工智能模型的学习是基于历史数据，而其中，很可能存在不必要的偏见，这种偏见，可能导致社会排斥和歧视，包括其他的违规行为。

比如说，当我们这些个体，批准自己数据在某种情况下被使用时，可能并不会意识到，当我们自己的数据与其他数据结合时，算法如何创造出侵犯个人隐私的见解。

注意：这对公司和各国政府来说，代价都很高，例如可能会撤回投资，或者导致声誉受到损失。最近的案例表明，2021年，由于人工智能解决方案错误地指责接受父母保险的父母是欺诈。此外，还有个基于OpenAI的GPT-3的医疗聊天机器人被发出测试，其结果是建议病人自杀。

参考资料：GPT-3 medical chatbot tells suicidal test patient to kill themselves | Boing Boing

生成式人工智能系统，比其他人工智能解决方案具备更高程度的道德风险暴露。其中一个原因是，生成式人工智能系统的使用往往是通过API进行的，这使得解决方案的透明度很低，并且，对它的发展难以控制。

同时，道德和法律方面的违规行为，通常发生得很微妙，也很突然，虽然这些违规行为可能会小到无法察觉，但是极有可能造成指数级的损失。

其中一个例子是深度造假，比如说，被用来操纵视频或照片中的面孔和声音。而要注意到的是，生成式人工智能模型通常以API的形式提供，这就可以使用户更容易获得和使用该技术，这可能会增加滥用的风险。

需要承认的是，基于API的生成性人工智能模型本身并没有风险，但它们的使用方式和训练的数据会使他们具备风险。

欧盟的人工智能立法，即《人工智能法案》，将于2024年正式生效。

《人工智能法案》的目标，是让公民和消费者感到信任，并维护欧盟包括人权在内的价值基础。欧盟委员会在《人工智能法》中提议，成员国必须任命或建立至少一个监督机构，负责确保 "必要的程序得到遵循"。

随着生成式人工智能系统逐步出现的巨大潜力，尤其是在医疗保健方面，例如正确诊断和优化疾病的治疗，关键是，要有可用的风险评估框架，并任命一个负责任的机构。

人工智能的伦理框架，为所有部门创造了一个高度的创新环境。因此，有关机构迫切需要任命这一负责机构，并提供风险评估框架，以便瑞典企业和瑞典当局不会像GDPR那样对人工智能法案缺乏警惕性。

【参考文献】

1.https://futurium.ec.europa.eu/en/european-ai-alliance/blog/chatgpts-rapid-entry-urgent-government-appoint-authority-responsible-ai

2.Artificial intelligence: huge potential if ethical risks are addressed | News | European Parliament (europa.eu)

3，Welcome to anch.AI - AI and Equality in Public Administration- a report by anch.AI and the Swedish Gender Equality Authority.

欢迎研究法律/监管的朋友提出自己的意见和观点：）

声明：本文来自阿法兔研究笔记，版权归作者所有。文章内容仅代表作者独立观点，不代表安全内参立场，转载目的在于传递更多信息。如有侵权，请联系 anquanneican@163.com。