美國國土安全部(DHS)從人工智能領域的各個領域聘請了專家，組建了人工智能安全與安保委員會。
該委員會的成立是美國總統拜登人工智能行政指令的一部分。新咨詢委員會的主要目标是就人工智能技術在國家關鍵基礎設施和其他關注領域的安全開發和部署提供建議。
到目前為止，國土安全部已經為該委員會增加了22名成員，包括技術和關鍵人工智能基礎設施高管、民權領袖、學者和政策制定者。董事會成員包括OpenAI首席執行官薩姆·奧特曼、Alphabet首席執行官桑達爾·皮查伊、微軟董事長兼首席執行官薩蒂亞·納德拉以及Anthropic首席執行官兼聯合創始人達裡奧·阿多梅等領先科技公司的上司人。
“人工智能是一種變革性技術，可以以前所未有的方式推進我們的國家利益。與此同時，它也帶來了真正的風險，我們可以通過采取最佳做法和其他經過研究的具體行動來減輕風險。” 國土安全部部長Alejandro Mayorkas說。
美國國土安全部還宣布任命Michael Boyce為新成立的“人工智能軍團”的負責人。主要職責之一是在今年年底之前為國土安全部招募50名人工智能專家。這些專家将緻力于各種高優先級的人工智能項目。
去年9月，國土安全部釋出了《2024年國土威脅評估》，其中強調了美國關鍵基礎設施，特别是交通部門面臨的主要威脅。該報告顯示，外國行為者使用人工智能工具擷取網絡通路、破壞服務和未經授權通路敏感資訊的威脅越來越大。
該報告指出，某些國家正在“開發其他可能破壞美國網絡防禦的人工智能技術，包括支援惡意軟體攻擊等惡意活動的生成式人工智能程式”。
美國德克薩斯州的一家水處理設施已經遭受了網絡攻擊，有人懷疑俄羅斯政府支援的黑客應對這次攻擊負責。
本周，國土安全部釋出了新的指導方針，以減輕人工智能對關鍵基礎設施的風險。它還釋出了一份關于人工智能在化學、生物、放射和核(CBRN)開發和生産中的濫用的新報告。
“基于CISA作為美國關鍵基礎設施安全和彈性協調員的專業知識，國土安全部的指南是該機構首次對關鍵基礎設施部門的人工智能特定風險進行跨部門分析，并将成為幫助業主和營運商降低人工智能風險的關鍵工具。”CISA主任Jen Easterly評論說。
國土安全部同網絡安全與基礎設施安全局(CISA)協調制定了“降低人工智能風險：關鍵基礎設施所有者和營運商的安全與安保指南”。該指南涉及使用人工智能的攻擊、針對人工智能系統的攻擊以及人工智能設計和實施中的失敗。
為了應對人工智能帶來的風險，國土安全部概述了一項四管齊下的戰略——治理、地圖、測量和管理。第一步是優先考慮安全和安保成果，并承擔其責任。接下來是建立環境，以便評估和了解人工智能威脅。第三部分是開發評估、分析和跟蹤人工智能風險的系統。該戰略的最後一個組成部分是實施和維護針對人工智能威脅的已識别風險管理控制。
自美國總統拜登釋出人工智能行政指令以來的180天裡，已經采取了幾個關鍵步驟來應對人工智能的威脅，包括建立國土安全部人工智能軍團和釋出詳細的人工智能路線圖，以利用人工智能技術改善美國公衆的生活，并提高國土安全保護美國人的能力。