美国政府官员强调AI安全的重要性

关键要点

政府和私营部门在AI监管方面面临挑战，特别是关键基础设施的网络安全风险日益增加。内政部安全部长Alejandro Mayorkas在RSA大会上提到，DHS成立AI安全与安全咨询委员会以处理AI的影响。CISA的Easterly和前任主任Krebs讨论了“安全设计”的重要性，应对网络犯罪和国家级威胁。

在当前复杂的国际局势下，美国政府官员强调了在AI领域实施公共和私营两方面的监管措施的重要性。他们特别关注，地缘政治的紧张局势正在日益增加对美国关键基础设施的网络安全威胁。

在周二的RSA大会主旨演讲中，国土安全部部长Alejandro Mayorkas提到，应对AI的影响已成为越来越紧迫的任务。他透露，这周标志着DHS AI安全与安全咨询委员会的首次会议，该委员会包括OpenAI、微软、Alphabet和Nvidia的首席执行官。这个蓝丝带委员会的核心目标是与政府合作，理解AI对保护美国关键基础设施的影响。

更多实时RSA会议报道，请访问 SC Media

Mayorkas没有详细介绍首届会议的内容，因其对公众封闭，但他表示讨论围绕“安全”的定义及如何处理AI的“双重用途”进行了“非常深入的讨论”。

此外，他补充说，议程还包括确定委员会工作的首要原则，以及每个与会者应承担的角色和责任。

人道智能公司首席执行官暨联合创始人Rumman Chowdhury，作为 panel 讨论的一员，与Mayorkas一同出席。她指出，AI安全与安全咨询委员会似乎只反映了最大的AI利益相关者的声音。Chowdhury曾是Twitter现称X内的META机器学习伦理、透明度和问责的前负责人。

Chowdhury强调，委员会不仅仅是科技行业的重磅人物。Mayorkas则强调，必须包括一系列负责处理和保护关键数据与资产的科技公司代表。委员中还有其他知名学者和民权领袖，平民成员几乎占了一半。

梯子加速器

DHS AI安全与安全咨询委员会将继续每季度召开一次会议，但“会每日交流”，Mayorkas说。他还借此机会呼吁参会的网络安全专业人士考虑未来将技能应用于公共部门。

CISA主任及前任主任强调“安全设计”的必要性

在关于加强AI安全的主题下，周二的第二场主旨发言小组讨论中，网络安全及基础设施安全局CISA主任Jen Easterly与前蜀任主任Chris Krebs展开了讨论。

此次讨论由《华盛顿邮报》数字威胁记者Joseph Menn主持，标题为“火焰中的世界：在数字化世界中防御并获胜”，内容涵盖了勒索软件、中国对美国关键基础设施的攻击、AI及CISA的“安全设计”倡议等主题。

Easterly强调，财务驱动的网络犯罪，包括勒索软件，以及中国支持的威胁行为者活动，预计将在未来几年产生日益严重的威胁。Easterly指出，有些估计显示，全球网络犯罪明年可能让企业损失高达10万亿美元。

与此同时，像Volt Typhoon这样的中国国家级威胁行为者近期被观察到战略从间谍活动转向“渗透我们的关键基础设施”，以便在未来冲突时削弱美国的防御，Easterly说。

Easterly上周在国会分拨会听证会上证实中国对关键基础设施的网络攻击，她称之为其三十余年职业生涯中观察到的国家最严重威胁之一。

Easterly指出，勒索软件与关键基础设施攻击的威胁有着共同的解决方案，即采用安全设计原则，因为勒索软件团伙和国家级威胁行为者始终在寻找安全漏洞以获取系统的初步访问权限。

目前面临的一个挑战是，由CISA推广的安全设计承诺是自愿的，目前缺乏政策执法来推动软件制造商在设计产品时更重视安全性。Krebs表示，企业的自愿责任感只是驱