当地时间11月14日，美国国土安全部发布了一份关于在关键基础设施中负责任地使用人工智能的新指导方针，即《关键基础设施中人工智能的角色和职责框架》。这一方针由人工智能供应链各层实体共同开发，旨在为云和计算提供商、AI开发者、关键基础设施所有者和运营商，以及民间社会和公共部门实体提供指导。该框架的发布旨在确保AI在美国关键基础设施中的安全可靠部署，同时保护公民权利和自由，推进AI安全研究。
关键基础设施如电力、水处理、交通和数字网络等对国家安全至关重要，其越来越多地依赖AI来提升服务和应对威胁。然而，AI的漏洞可能使关键系统面临故障或被恶意操纵的风险。因此，该框架强调了云服务提供商在保护AI开发环境方面的作用，建议AI开发人员采用安全设计方法，关键基础设施所有者和运营商应采购和部署安全的AI系统，而民间社会和公共部门则在标准制定和研究中发挥作用。该框架的实施有望加强安全实践，提升服务提供，增强实体间信任和透明度。外界评论称，此举是国土安全部与其多元化的人工智能安全与安保委员会精诚合作，推出的利用人工智能技术保护关键基础设施的体系化方法。
发布背景
美国的关键基础设施——为家庭和企业供电、输送清洁水、让我们安全出行、促进连接我们的数字网络等的系统——对国内和全球的安全与稳定至关重要。这些部门越来越多地部署人工智能来改善其提供的服务、增强弹性并应对威胁。例如，人工智能有助于快速检测地震和预测余震、防止停电和其他电力服务中断以及对美国家庭的邮件进行分类和分发。这些用途并非没有风险，实施这项技术所带来的漏洞可能会使关键系统面临故障或被恶意行为者操纵的风险。鉴于这些系统日益互联的特性，它们的中断可能会对国土安全造成毁灭性后果。
DHS部长亚历杭德罗·N·马约卡斯认为，人工智能为提高美国关键基础设施的强度和弹性提供了千载难逢的机会，美国必须抓住这个机会，同时将其潜在危害降至最低。如果该框架得到广泛采用，将大大有助于更好地确保提供清洁水、稳定电力、互联网接入等关键服务的安全。参与创建人工智能的组织和个人今天所做的选择将决定这项技术明天对美国关键基础设施的影响。他感谢人工智能安全与保障委员会及其成员的多样化专业知识，他们每个人都根据自己在开发、部署和促进负责任地使用这项非凡技术的实际经验为这些指导方针提供了信息。困此他敦促每一位高管、开发者和民选官员采用和使用这个框架，帮助为所有人建设更安全的未来。
该框架是与国土安全部的人工智能安全与保障委员会共同制定的。委员会成员包括顶级人工智能公司的代表、主要计算和半导体公司的高管、政府代表和民间社会成员。框架是在网络安全和基础设施安全局确定了关键基础设施面临的三大类人工智能相关风险之后制定的：使用人工智能的攻击、针对人工智能使用的攻击以及设计和实施失败。
主要内容
该框架全文共五章，35页，主要建议针对支持美国关键基础设施中人工智能开发和部署的每个关键利益相关者采取以下行动：
云和计算基础设施提供商在保护用于开发和部署关键基础设施中的人工智能的环境方面发挥着重要作用，从审查硬件和软件供应商到建立强大的访问管理，再到保护为人工智能系统提供支持的数据中心的物理安全。该框架鼓励他们通过监控异常活动并建立明确的途径来报告可疑和有害活动，从而为人工智能开发下游的客户和流程提供支持。
人工智能开发人员通常通过软件工具或特定应用程序开发、训练和/或使关键基础设施能够访问人工智能模型。该框架建议人工智能开发人员采用安全设计方法，评估人工智能模型的危险能力，并确保模型与以人为本的价值观保持一致。该框架进一步鼓励人工智能开发人员实施强有力的隐私保护措施；进行评估以测试可能的偏见、故障模式和漏洞；并支持对对关键基础设施系统及其消费者构成高风险的模型进行独立评估。
关键基础设施所有者和运营商管理关键系统的安全运营和维护，这些系统越来越依赖人工智能来降低成本、提高可靠性和提高效率。他们希望以保护系统安全的方式采购、配置和部署人工智能。该框架建议采取一系列侧重于人工智能系统部署层面的做法，包括保持强大的网络安全实践以应对人工智能相关风险、在微调人工智能产品时保护客户数据，以及在使用人工智能向公众提供商品、服务或福利方面提供有意义的透明度。该框架鼓励关键基础设施实体积极监测这些人工智能系统的性能，并与人工智能开发人员和研究人员分享结果，帮助他们更好地理解模型行为与现实世界结果之间的关系。
公民社会，包括大学、研究机构和消费者权益倡导者，致力于人工智能安全问题，对于衡量和改善人工智能对个人和社区的影响至关重要。该框架鼓励公民社会与政府和行业一起继续参与标准制定，以及研究考虑关键基础设施用例的人工智能评估。该框架设想公民社会在宣传将影响人工智能系统开发和基本服务部署的价值观和保障措施方面发挥积极作用。
公共部门实体，包括联邦、州、地方、部落和领土政府，对于在关键基础设施中负责任地采用人工智能至关重要，从支持使用这项技术改善公共服务到通过法定和监管行动提高人工智能安全和保障的实践标准。美国是人工智能领域的世界领先者；因此，该框架鼓励联邦政府与国际伙伴继续合作，以保护所有全球公民，并鼓励各级政府合作，资助和支持推进人工智能安全和保障基础研究的努力。
业界反响
美国国土安全部发布的《关键基础设施中人工智能的角色和职责框架》得到了政府官员、行业专家和民间社会组织的广泛支持。该框架旨在确保人工智能在关键基础设施中的安全、可靠和负责任的使用，同时保护公民权利和自由，推进人工智能安全研究。各方普遍认为，人工智能为关键基础设施带来了机遇，但也伴随着挑战，因此需要多方共同努力，通过合作和协调来加强问责制、透明度和安全性。该框架强调了云服务提供商、AI开发人员、关键基础设施所有者和运营商、民间社会和公共部门实体的角色和责任，旨在通过自愿的责任和指导原则，促进人工智能技术的负责任部署。
商务部长吉娜·雷蒙多：“确保人工智能的安全、可靠和值得信赖的开发和使用对美国创新的未来至关重要，对我们的国家安全也至关重要。这一新框架将补充我们在商务部所做的工作，以帮助确保人工智能在我们的关键基础设施中得到负责任的部署，以帮助保护我们的美国同胞并确保美国经济的未来。”
Anthropic首席执行官兼联合创始人Dario Amodei：“该框架正确地指出，人工智能系统可能为关键基础设施带来机遇和挑战。其以开发人员为中心的规定强调了评估模型功能、执行安全测试和构建安全内部系统的重要性。”
Salesforce董事长兼首席执行官Marc Benioff：“AI 角色和职责框架促进所有主要利益相关者之间的合作，目标是建立明确的指导方针，优先考虑信任、透明度和问责制。”
Humane Intelligence首席执行官兼联合创始人Rumman Chowdhury博士：“这一综合框架为美国负责任且安全地使用 AI 提供了重要指导。”
IBM董事长兼首席执行官Arvind Krishna：“国土安全部关键基础设施人工智能角色和职责框架是一个强大的工具，有助于指导在美国关键基础设施中负责任地部署人工智能，IBM很自豪能够支持其发展。”
NVIDIA创始人兼首席执行官黄仁勋：“随着我们进入人工智能时代，我们首要的责任是确保这些技术是安全和有益的。DHS 人工智能框架提供了指导原则，将帮助我们保护社会，我们支持这项工作。”
未来前景
此次国土安全部发布的《关键基础设施中人工智能的角色和职责框架》，为未来在关键基础设施中安全、可靠地使用人工智能提供了明确的指导方针。该框架强调了云服务提供商、AI开发者、基础设施所有者和运营商、民间社会及公共部门的角色，旨在通过自愿责任促进各方的协调与合作。这一框架的实施将有助于提升关键基础设施的安全性，降低人工智能相关风险，并确保技术的负责任使用。
随着AI技术在关键基础设施中的应用日益普及，该框架将推动行业标准的建立，增强透明度和问责制，保护公民权利和自由。通过鼓励各方采纳框架中的建议，国土安全部希望能够有效应对潜在的安全威胁，确保基础设施的稳定运行。此外，框架还将促进政府与私营部门的合作，推动AI技术的创新与应用，为国家安全和经济发展提供有力支持。整体而言，该框架为关键基础设施的安全保护奠定了坚实的基础，展现出广阔的应用前景。
参考资源
1、https://www.dhs.gov/news/2024/11/14/groundbreaking-framework-safe-and-secure-deployment-ai-critical-infrastructure
2、https://federalnewsnetwork.com/artificial-intelligence/2024/11/dhs-unveils-practical-ai-responsibilities-for-critical-infrastructure/
3、https://www.nextgov.com/artificial-intelligence/2024/11/dhs-releases-guidance-ai-critical-infrastructure/401055/?oref=ng-homepage-river
声明：本文来自网空闲话plus，版权归作者所有。文章内容仅代表作者独立观点，不代表安全内参立场，转载目的在于传递更多信息。如有侵权，请联系 anquanneican@163.com。
