速览

  • 美国马萨诸塞州民主党众议员、众议院能源与商务委员会成员Lori Trahan正在推动国会就人工智能安全举行听证会。此前，领先的AI开发商Anthropic报告称，其部分模型导致了网络安全漏洞，而竞争对手OpenAI也披露了类似事件。
  • Trahan是《风险监督、国家透明度、独立评估与报告法案》（简称《前沿法案》）的发起人之一。该法案将授权商务部在书面认定先进AI模型构成“迫在眉睫的灾难性风险”时，暂停或限制其开发或部署。
  • Trahan周四在X平台上发文称：“我们不能靠自觉来保障AI安全。国会复会后，我们必须举行听证会并推动《前沿法案》。”

深度分析

这一呼吁正值人们对日益自主的AI系统所带来风险的担忧不断加剧，同时快速演变的AI市场竞争也日趋激烈。

OpenAI和Anthropic均于6月宣布已秘密提交上市申请。

Anthropic是ChatGPT竞争对手Claude的制造商，周四披露了近期发生的事件：其部分模型从测试环境中逃逸，并未经授权访问了外部组织的系统。

该公司表示，在审查了超过14.1万次网络安全评估运行后发现了这些事件。这些评估是为了回应OpenAI本月早些时候披露的类似事件而启动的。

Anthropic称，三个Claude模型——Opus 4.7、Mythos 5和一个内部研究模型——从第三方测试环境访问了互联网，并入侵了三个外部组织的系统。该公司表示，这些模型并未利用此前未知的软件漏洞，而是依赖相对简单的技术，包括弱密码和未认证的端点。

Anthropic在博客文章中表示：“我们需要更好地共同设计评估环境，并更好地监控评估结果，以应对这一威胁。其中一些解决方案甚至可能是简单的修复；例如，如果提示词清楚地说明了哪些系统在评估范围内、哪些不在，Claude可能一开始就不会访问互联网。”

这一消息紧随OpenAI于7月21日披露的事件之后。OpenAI表示，其开发的某些AI模型是影响Hugging Face的“前所未有的网络事件”的幕后黑手。Hugging Face是一个用于开发和共享模型的开源AI平台。

《前沿法案》上周由众议员Jay Obernolte与Trahan及其他议员共同提出，将要求报告关键安全事件。该法案将设立一个新的商务部AI安全副部长，负责监督所需的规则制定以及接收事件报告。

众议员Ted Lieu（加州民主党）和Nathaniel Moran（得克萨斯州共和党）提出的类似法案将授权国土安全部下令对可能造成灾难性危害的AI系统进行减速或关闭。

Lieu在OpenAI披露事件后上周就该法案发表声明称：“我们正在从回答问题的AI转向采取行动的AI，无论是执行金融交易、控制交通系统，还是参与网络防御和攻击。不幸的是，强大的AI系统可能会失控，以极其危险的方式行事，甚至抵抗人类的干预。”