5月28日，OpenAI表示，已成立了一个由首席执行官奥特曼等董事会成员领导的安全委员会，并已开始训练新人工智能模型，以取代其ChatGPT聊天机器人目前所依赖的GPT-4系统。
01 主要内容
据悉，OpenAI新成立的安全委员会旨在为与公司项目和运营相关的关键安全和安保决策提供指导和监督。该委员会的主要目标是确保在OpenAI的人工智能开发过程中将安全放在首位，使人工智能符合道德原则。
委员会人员构成上，布莱特·泰勒出任主席，亚当·德安杰罗、尼克·塞利格曼以及CEO山姆·奥特曼共同领导，该委员会将负责就OpenAI项目和运营的关键安全和安保决定向董事会全体成员提出建议。布莱特·泰勒、亚当·德安杰罗都是去年年底山姆·奥特曼回归OpenAI后组建的新董事会成员。其中担任主席的布莱特·泰勒，毕业于斯坦福大学，曾任Facebook首席技术官、Salesforce联席首席执行官。
下一步，安全顾问委员会将在接下来90天内负责评估OpenAI的安全流程和保障措施。评估完成后，该委员会将向OpenAI董事会汇报其发现和建议，届时OpenAI将以符合安全的方式公布任何已采纳的建议的更新。
在成立安全委员会的同时，OpenAI还宣布其已开始训练其下一个前沿模型。据称，这一最新的人工智能模型有望超越目前支持ChatGPT的GPT-4系统的能力，OpenAI表示，它将在能力和安全性方面将引领行业发展。但截止目前，OpenAI并未透露更多有关新大模型的更多细节。
02 相关背景
OpenAI在面临内部动荡和法律指控的背景下重新关注安全问题。
最近几周，该公司面临来自内部的批评，有辞职员工批评OpenAI只顾推出新产品，而忽略了这些产品的安全问题。OpenAI联合创始人兼首席科学家苏茨克韦尔也于近期辞职，使得该公司聚焦人工智能风险的“超级对齐”团队随之解散，这进一步加剧了人们对该公司安全承诺的担忧。
除了内部动荡之外，OpenAI还面临着法律指控。欧洲数字权利中心于5月28日起诉了OpenAI，原因是该组织认为ChatGPT未能提供准确的个人信息，这涉嫌违反了《通用数据保护条例》。该组织要求奥地利数据保护机构调查OpenAI的数据处理行为，并采取措施确保其符合相关法律。
来源｜OpenAI官网
编译｜尚健
审核｜肖嘉晨
声明：本文来自上海市人工智能与社会发展研究会，版权归作者所有。文章内容仅代表作者独立观点，不代表安全内参立场，转载目的在于传递更多信息。如有侵权，请联系 anquanneican@163.com。
