美国国土安全部(DHS)从人工智能领域的各个领域聘请了专家，组建了人工智能安全与安保委员会。
该委员会的成立是美国总统拜登人工智能行政命令的一部分。新咨询委员会的主要目标是就人工智能技术在国家关键基础设施和其他关注领域的安全开发和部署提供建议。
到目前为止，国土安全部已经为该委员会增加了22名成员，包括技术和关键人工智能基础设施高管、民权领袖、学者和政策制定者。董事会成员包括OpenAI首席执行官萨姆·奥特曼、Alphabet首席执行官桑达尔·皮查伊、微软董事长兼首席执行官萨蒂亚·纳德拉以及Anthropic首席执行官兼联合创始人达里奥·阿多梅等领先科技公司的领导人。
“人工智能是一种变革性技术，可以以前所未有的方式推进我们的国家利益。与此同时，它也带来了真正的风险，我们可以通过采取最佳做法和其他经过研究的具体行动来减轻风险。” 国土安全部部长Alejandro Mayorkas说。
美国国土安全部还宣布任命Michael Boyce为新成立的“人工智能军团”的负责人。主要职责之一是在今年年底之前为国土安全部招募50名人工智能专家。这些专家将致力于各种高优先级的人工智能项目。
去年9月，国土安全部发布了《2024年国土威胁评估》，其中强调了美国关键基础设施，特别是交通部门面临的主要威胁。该报告显示，外国行为者使用人工智能工具获取网络访问、破坏服务和未经授权访问敏感信息的威胁越来越大。
该报告指出，某些国家正在“开发其他可能破坏美国网络防御的人工智能技术，包括支持恶意软件攻击等恶意活动的生成式人工智能程序”。
美国德克萨斯州的一家水处理设施已经遭受了网络攻击，有人怀疑俄罗斯政府支持的黑客应对这次攻击负责。
本周，国土安全部发布了新的指导方针，以减轻人工智能对关键基础设施的风险。它还发布了一份关于人工智能在化学、生物、放射和核(CBRN)开发和生产中的滥用的新报告。
“基于CISA作为美国关键基础设施安全和弹性协调员的专业知识，国土安全部的指南是该机构首次对关键基础设施部门的人工智能特定风险进行跨部门分析，并将成为帮助业主和运营商降低人工智能风险的关键工具。”CISA主任Jen Easterly评论说。
国土安全部同网络安全与基础设施安全局(CISA)协调制定了“降低人工智能风险：关键基础设施所有者和运营商的安全与安保指南”。该指南涉及使用人工智能的攻击、针对人工智能系统的攻击以及人工智能设计和实施中的失败。
为了应对人工智能带来的风险，国土安全部概述了一项四管齐下的战略——治理、地图、测量和管理。第一步是优先考虑安全和安保成果，并承担其责任。接下来是建立环境，以便评估和理解人工智能威胁。第三部分是开发评估、分析和跟踪人工智能风险的系统。该战略的最后一个组成部分是实施和维护针对人工智能威胁的已识别风险管理控制。
自美国总统拜登发布人工智能行政命令以来的180天里，已经采取了几个关键步骤来应对人工智能的威胁，包括建立国土安全部人工智能军团和发布详细的人工智能路线图，以利用人工智能技术改善美国公众的生活，并提高国土安全保护美国人的能力。