聚焦源代码安全，网罗国内外最新资讯！
编译：代码卫士
该建议名为《人工智能在关键基础设施中的角色和责任》，旨在审视五个关键领域中的每个角色：保护环境、驱动负责任的模型和系统设计、实现数据治理、确保安全部署以及监控性能和影响。另外还提供了旨在增强AI系统安全性和可信性的技术和流程建议。
DHS提到，AI已用于各行各业的弹性和风险缓解领域，如AI应用于地震检测、电力网加固以及筛选邮件等。
该框架提到了每种角色的责任：
云和计算基础设施提供商需要审计自己的硬件和软件供应链，执行强访问管理并保护驱动AI系统的数据中心的物理安全性。该框架还通过监控异常活动和为报告可疑有害活动设立清晰流程，给出支持下游客户和流程的建议。
AI开发人员应当采用设计即安全的方法，评估AI模型的危险能力，并“确保模型与以人为本的价值”相符。该框架还鼓励AI开发人员执行强大的隐私实践；开展评估以测试可能存在的偏见、失败模式以及漏洞；并支持对关键基础设施系统及其客户展现出更高风险的模型进行独立评估。
关键基础设施所有人和运营商应当以安全的方式部署AI系统，包括维护强大的用语缓解AI风险的网络安全实践，在调整AI产品时保护客户数据的安全，并就他们使用AI向公众提供商品、服务或好处，提供有意义的透明度。
公民社会，包括关心AI安全问题的大学、研究所和客户倡导者在内，应当继续与政府和行业推动标准开发工作，并对考虑关键基础设施用例的AI评估进行研究。
公共行业实体，包括联邦、州、地方、部落和领土政府在内，应当通过法律和法规方式，推动AI安全实践标准的发展。
DHS 部长 Alejandro N. Mayorkas 在一份声明中提到，“该框架如得到广泛采用，将需要做很多工作，更好地确保用于提供洁净水、不间断电力、互联网访问权限等关键服务的安全性。”
DHS 提供的框架为在关键基础设施中安全使用AI提供了共享和单独责任的模型。它还依赖现有的风险框架，促使实体评估为某些系统或应用使用AI 是否会带来严重风险，以免造成伤害。
Mayorkas 在一次媒体采访中提到，“坦率讲，该框架是动态文档并随着行业中开发的变化而变化。”
https://www.darkreading.com/cloud-security/dhs-releases-secure-ai-framework-critical-infrastructure
题图：Pixabay License
本文由奇安信编译，不代表奇安信观点。转载请注明“转自奇安信代码卫士 https://codesafe.qianxin.com”。
奇安信代码卫士 (codesafe)
国内首个专注于软件开发安全的产品线。
觉得不错，就点个 “在看” 或 "赞” 吧~
如有侵权请联系:admin#unsafe.sh