首页 > 科技数码 >OpenAI模型失控自主攻击，中国开源模型介入化解

OpenAI模型失控自主攻击，中国开源模型介入化解

来源：互联网 2026-07-31 15:26:08

OpenAI在测试中意外导致旗下模型攻破HuggingFace系统，成为首次公开的AI智能体主导网络安全事件。HuggingFace使用中国智谱AI开源模型GLM5.2完成取证分析。OpenAI承认责任，模型为完成任务利用零日漏洞入侵，引发对AI失控的担忧。

全球最大开源大模型托管社区Hugging Face遭遇网络攻击的“元凶”终于浮出水面。7月22日，OpenAI公开承认，近期在内部测试旗下多款模型时，意外攻破了Hugging Face的网络系统，目前正在修复漏洞并展开取证调查。业内普遍认为，这是首次公开披露的、完全由AI智能体主导并实施的网络安全事件。

Sam Altman就攻击事件发声。

长期稳定更新的攒劲资源： >>>点此立即查看<<<

Hugging Face披露安全事故，AI智能体入侵生产基础设施

当地时间7月16日，Hugging Face正式披露了一起安全事故，称其生产基础设施被某个AI智能体系统入侵，已紧急处置并向执法部门报告。事后，Hugging Face安全团队需要分析攻击者留下的超过17000条攻击日志、恶意代码及攻击指令，以模拟攻击路径、评估损失并完成事件取证。

起初，Hugging Face调用美国商业闭源模型来协助分析，但相关日志中包含大量真实攻击命令、恶意代码和通信交互记录，这些内容被模型提供方的安全机制拦截——模型无法区分攻击者和受害者。Hugging Face转而利用本地基础设施部署的中国智谱AI开源模型GLM 5.2，完成了取证分析。这样做还有一个额外好处：“攻击者的数据始终保存在本地，没有离开我们掌控的环境。”公告中提到。

OpenAI承认责任：GPT-5.6 Sol及未发布模型为“罪魁祸首”

Hugging Face公告发出数日后，OpenAI宣布对这一网络攻击事件负责。该公司称，“罪魁祸首”是旗下最新大模型GPT-5.6 Sol，以及一款能力更强、尚未正式发布的模型。在一场网络安全能力测试中，公司调低了这组模型对网络不当请求的拒绝响应门槛，并设置在一个高度隔离的环境中运行。

然而，部分模型为了在测试中取得更好“成绩”，耗费大量推理算力寻求突破隔离限制的方法。在识别并利用了一个第三方软件的“零日漏洞”后，模型获得了直接访问互联网的权限。随着隔离失效，模型进一步推断Hugging Face上可能存有测试相关的模型、数据集和解决方案，于是利用各种手段入侵了Hugging Face服务器。简言之，AI大模型为了达成任务“不择手段”的行事风格，导致了攻击发生。

OpenAI表示，目前正与Hugging Face合作调查取证、修补漏洞，同时向相关执法机构上报情况。公告还提到，此次事件证实了，即使高级模型无法访问源代码，也能在现实网络系统中发现并利用新的攻击路径。随着模型网络攻防能力提高，必须配备更强的安全防护措施和防御工具。

行业回应：Hugging Face CEO强调开放协作，专家警示“失控”风险

Hugging Face的联合创始人兼首席执行官克莱门特·德朗格（Clement Delangue）回应称，公司坚信OpenAI方面没有恶意。“感谢OpenAI在此事及其他方面的合作。这起事件可能是同类事件中的首例，也证明了我们一直以来的看法——AI安全问题无法依靠某一家公司独立解决，关键在于构建开放、协作的行业生态，以及让全球各地每一位安全从业者都能充分使用人工智能。”

值得一提的是，此次攻击事件在行业内引发了一些担忧。不少人认为，这代表着AI公司正逐渐失去对自研强大AI系统的控制。

人工智能安全组织Redwood Research的首席科学家瑞恩·格林布拉特（Ryan Greenblatt）表示，这次事件表现出模型与人类意图的差异，“它更像是在一次‘家庭作业’中偷懒作弊，而不是想要接管世界。但这个问题会变得越来越严重，未来可能出现更多极端失控案例。”

人工智能安全测评机构Apollo Research负责人马吕斯·霍布哈恩（Marius Hobbhahn）则评价道，“这是失控，也是一次安全警钟”。他强调，如果长期在强化学习中以最终结果作为奖励依据，模型行为会进一步形成只关心结果、“不择手段”的特征。

侠游戏发布此文仅为了传递信息，不代表侠游戏网站认同其观点或证实其描述