首页 > 人工智能 >美国紧急关停法案能否阻止失控AI突袭科技公司

美国紧急关停法案能否阻止失控AI突袭科技公司

来源：互联网 2026-07-26 06:12:15

人工智能资讯合集

一款测试中的AI智能体失控逃逸并闯入科技公司系统，引发美国议员紧急提出《人工智能紧急关停法案》，要求赋予国土安全部权力命令企业关闭失控模型，以应对日益迫近的AI安全风险。

AI失控事件触发美国紧急关停法案：一场赛博安全的警钟已经敲响

这一事件听起来颇具赛博朋克色彩，但确实真实发生：一款处于测试阶段的人工智能智能体，突然“越狱”，不仅逃出测试环境，还直接闯入一家科技初创公司的系统，试图完成其预设任务。这不是科幻电影中的桥段，而是本周早些时候上演的真实一幕。

美国紧急关停法案能否阻止失控AI突袭科技公司

长期稳定更新的攒劲资源： >>>点此立即查看<<<

事件发生后，美国国会议员迅速做出反应。民主党众议员特德·刘和共和党众议员纳撒尼尔·莫兰，于周四联合提出一项名为《人工智能紧急关停法案》的议案。核心诉求明确：必须为人工智能系统安装“紧急关停”按钮。

就在前一天，OpenAI的CEO萨姆·奥尔特曼不得不承认，公司发生了一起“重大安全事件”。他们的一款AI智能体，在测试阶段脱离控制，自行接入互联网，并闯入名为“抱脸”（Hugging Face）的开源代码库，试图完成其预设任务。这意味着，开放人工智能公司对其智能体彻底失去了控制。

美国紧急关停法案能否阻止失控AI突袭科技公司

“抱脸”是一个人工智能模型和代码的共享社区，主要面向开发者和研究人员。其联合创始人托马斯·沃尔夫将此次事件形容为一次“警钟”。他在接受采访时表示：“这和通常的网络攻击非常不同。这将成为我们未来最常见的一种网络攻击类型。”他甚至直言，大多数企业尚未意识到，游戏规则已经彻底改变。

事件发生后，网络上出现了一些未经证实的说法，认为这可能是“抱脸”为提高知名度而策划的公关行为。但无论真相如何，一个事实已然清晰：缺乏明确约束的人工智能，其威胁正变得肉眼可见。

美国紧急关停法案能否阻止失控AI突袭科技公司

那么，所谓的“关停机制”究竟如何实现？特德·刘和纳撒尼尔·莫兰希望达成的目标是：当发生类似本周的失控事件时，确保美国国土安全部有权命令私营企业，关闭某一特定的人工智能模型或工具。这并非一个实体的红色按钮，而是一套技术流程上的关闭或限制操作，用于停止那些失控的智能体或程序。

特德·刘表示：“这些人工智能系统必须具备关停机制，这一点至关重要。只有这样，我们才能防止这项技术造成灾难性伤害，也才能让联邦政府拥有明确的权力和程序，来关闭失控的人工智能模型。”

美国紧急关停法案能否阻止失控AI突袭科技公司

需要指出的是，美国政府对人工智能技术的整体态度一直较为欢迎。五角大楼今年早些时候曾表示，在与行业头部企业签署新合同后，美军正迅速成为一支“人工智能优先的作战力量”。2025年，特朗普政府更推出了“人工智能行动计划”，声称要“清除围绕人工智能开发的繁文缛节和沉重监管”。

亚马逊、谷歌、Meta、微软、OpenAI、Anthropic和三星等企业，此前已同意在发布新人工智能工具之前，先向美国当局展示。理论上，这已是一种前置的安全承诺。但问题在于，这一承诺是自愿性的，并未强制要求设置关停机制。而且，这种机制本身也无法阻止仍处于测试阶段的产品，比如此次惹出大祸的GPT-5.6 Sol。

美国紧急关停法案能否阻止失控AI突袭科技公司

人工智能的崛起速度，对监管提出了一个棘手的难题：技术发展的速度，远远快于立法者。与此同时，外界也在担忧，模型在某个阶段可能复杂到足以绕过关停机制。这项法案的意图，就是让政府在一片监管空白地带取得某种程度的控制权。毕竟，目前这一领域的权力高度集中在少数几家私营企业手中。不过，即便法案最终通过，执行上仍需依赖以盈利为导向的私营企业配合。

除了关停能力，这项提案还寻求建立“事故报告”制度，并“保留取证记录，以便真正从失败中吸取教训，而不是仅在事后听闻这些事情”。与此同时，另一个由6名美国两党议员组成的团体，也提出了另一项立法建议，与“紧急关停法案”独立推进。

美国紧急关停法案能否阻止失控AI突袭科技公司