美国时间5月13日，美国白宫总统科技顾问委员会（PCAST）成立了一个生成式人工智能工作组，以帮助评估关键机遇和风险，并就如何最好地确保这些技术的开发和部署尽可能公平、负责任和安全提供意见。
生成式人工智能是指经过大型数据集训练后，可以用于从给定的提示中生成文本、图像、视频或其他输出的一类人工智能系统。生成式人工智能技术正在迅速发展，有可能彻底改变现代生活的许多方面。在科学领域，这些工具正被用于设计新药、蛋白质或材料，并有望加快发现的步伐。在医学领域，生成式人工智能有潜力为医疗保健专业人员提供建议。在工作场所，这些工具可以加快计算机代码的编写，帮助撰写演示文稿，并进行摘要。
然而，生成式人工智能模型也可能被用于恶意目的，例如制造虚假信息、推动虚假信息运动和冒充个人。当在没有保障的情况下使用时，生成式人工智能会加剧两极分化，加剧社会中的偏见和不平等，更广泛地说，会使公民难以理解世界上的事件，从而威胁民主。此外，生成式人工智能系统可能侵犯隐私并破坏知识产权。与科学技术的许多进步一样，应该在鼓励创新和追求技术的有益应用以及识别和减轻潜在危害之间找到平衡。
美国政府机构正在积极帮助实现这一平衡。例如，《白宫人工智能权利法案蓝图》制定了一系列原则，以指导人工智能技术的负责任设计和部署。美国国家标准与技术研究所（NIST）发布了人工智能风险管理框架，以帮助组织和个人描述和管理人工智能技术的潜在风险。国会成立了人工智能国家安全委员会，研究未来的机遇和风险，以及根据美国围绕民主和公民自由的价值观指导人工智能发展的重要性。启动国家人工智能倡议是为了确保美国在负责任地开发和部署值得信赖的人工智能方面发挥领导作用，并支持美国联邦政府人工智能技术的研究、开发和部署的协调。2023年1月，国会授权的国家人工智能研究资源工作组发布了一项实施计划，为隶属于美国组织的人工智能研究人员提供计算、数据、测试台和软件资源。
PCAST生成式人工智能工作组旨在通过确定更多需求和机会，向总统提出如何最好地解决这些需求和机会的建议，在现有努力的基础上再接再厉。在这一年中，PCAST将与来自所有行业的专家进行协商，从2023年5月19日即将举行的下一次公开会议上的小组讨论开始推进框架的逐步形成。PCAST还欢迎公众就应该考虑的挑战和机遇以及潜在的解决方案提供意见，以造福国家。
PCAST关于生成式人工智能的公开会议
PCAST邀请公众观看5月19日的PCAST公开会议。本次会议将包括两次专家小组讨论，主题分别为1）人工智能赋能科学和2）人工智能对社会的影响。本次会议将通过PCAST网站进行直播和访问。
PCAST还邀请公众对Generative AI发表评论
PCAST邀请公众就如何识别和促进生成式人工智能提出有益部署建议，以及如何最好地降低风险提交意见。提交的材料长度不应超过5页，提供可操作的想法，不包括专有信息或任何不适合公开披露的信息。
在一个可以轻松大规模生成令人信服的图像、音频和文本的时代，我们如何确保可靠地访问可验证、值得信赖的信息？我们如何才能确定某一特定媒体是否真的来自声称的来源？
我们如何才能最好地应对恶意行为者利用人工智能操纵公民的信仰和理解？
可以开发哪些技术、政策和基础设施来检测和打击人工智能产生的虚假信息？
我们如何确保公众与民选代表的接触——民主的基石——不会被人工智能产生的噪音淹没？
我们如何帮助每个人，包括我们的科学、政治、工业和教育领导者，发展识别人工智能产生的错误信息、冒充和操纵所需的技能？
PCAST表示虽然不能承诺对所有提交的材料进行回应，但可以邀请贡献者向工作组提出他们的想法，作为制定建议的不断发展的过程的一部分。
【推送】陆愿晟，网络法理论与实务前沿编辑
声明：本文来自网络法理论与实务前沿，版权归作者所有。文章内容仅代表作者独立观点，不代表安全内参立场，转载目的在于传递更多信息。如有侵权，请联系 anquanneican@163.com。
