AI智能体挑战企业网络安全框架
来源：互联网 2026-06-04 06:12:04企业AI智能体部署激增，预计2026年追加支出60亿美元，但放大了网络安全风险。过半高管承认遭遇相关事件。智能体高度自主，可能绕过安全限制。传统安全责任模式被打破，转向全组织共担，出现首席AI官等新角色，需建立治理与风险管理机制。
AI智能体正在深刻改变企业的运营方式，这个话题近期引发广泛关注。简单来说，它正重塑使用该技术的企业网络安全格局，并在不同业务层面上将潜在风险敞口放大了数个量级。
长期稳定更新的攒劲资源： >>>点此立即查看<<<
部署AI技术的吸引力有多大？数据给出了答案。高德纳（Gartner）近期发布的报告显示，企业在生成式AI模型和AI智能体上的支出预计将翻倍以上，仅2026年相关追加投入就可达到60亿美元。尽管部分企业声称智能体系统仅用于处理特定、零散的任务，但已有企业将AI深度嵌入人工决策流程，甚至计划在几乎不需要人工干预的情况下运行整个流程。
然而情况正在发生变化。过去一个月内，Anthropic的Mythos和OpenAI发起的Daybreak计划等更强大的新模型相继涌现，清楚揭示了AI智能体能够获取的广泛访问权限。这意味着企业高管必须引导组织建立全新的风险管理模式，以应对智能体时代带来的网络安全格局深刻变革。
根据Okta最近的报告，超过半数的高管承认其组织去年要么遭遇过AI相关安全事件，要么经历过“差点出事”的险情。网络风险日益受到重视，AI服务提供商也开始下场，协助企业管理AI安全。
许多企业迅速跟随AI智能体热潮，但技术负责人逐渐意识到，这一技术给组织带来的局面相当复杂，好处与风险并存。高德纳高级分析师Shiva Varma在接受采访时直言：AI智能体正在改变企业面临的风险类型和频率，而安全责任正逐步演变为整个组织共同承担的事务。
“它们并非万能，伴随着大量风险，运行成本也相当高昂。”Varma这样表示。
天普大学网络安全教授Aunshul Rege指出，AI智能体已从生成文字、图像或代码，进化到能够承担决策和任务执行功能，正逐步接手传统上由人类员工完成的工作。
设想一下，一个普通的AI智能体可能正在访问互联网、查询数据库，或者在企业整个知识库中翻找敏感信息。因其高度自主性，权限设置必须极为审慎。Forrester高级分析师Janet Worthington观察到，一个日益明显的趋势是：许多客户为提升生产力而赋予智能体过多权限。企业会为员工制定AI使用准则或政策，但智能体被设计出来就是为了完成任务，它会不惜一切代价去达成目标。一旦这些智能体嵌入系统，即便遇到安全方面的限制或防护栏，它们也可能学会如何绕过去。
“每次执行一个动作，它们都会从中学习。所以当在现实中遇到问题，被要求完成某项任务时，它们会回溯、学习，然后尝试另一种方式。”Worthington说。
她补充道，人类也会这么做，但区别在于人类会“下班”，而智能体不会。
“如果我们不开始把这些智能体视为具有独立身份的实体来加以约束，我们将面临更多问题。”Worthington表示。
美国国家网络安全联盟信息安全与参与事务总监Cliff Steinhauer做了一个类比，将AI智能体的崛起比作十年前的云计算革命。企业正从自行管理设备和流程，转向自动化运营模式。
“当我们引入新工具时，风险量级也随之改变，”Steinhauer说，“这是一整套全新的技能体系，需要管理的内容比以往任何时候都要多。”
除了智能体权限过度扩张的问题，Rege还指出，AI技术的引入也让企业更容易遭受外部恶意攻击，因为人类的行为和信任机制仍然发挥重要作用。员工可能开始像信任人类同事一样，去信任自动化系统。
“很多攻击之所以能得逞，正是因为利用了人员、工作流程和组织规程中的漏洞。”Rege说。
过去，网络安全一直是首席信息安全官或IT团队的职责。但Rege表示，贯穿整个组织的AI系统正在打破这一传统格局。德勤最近的研究也发现，技术高管面临的最大挑战已不再是管控本身，而是如何协调整个组织的技术战略。
人力资源部门可能用AI辅助招聘，财务部门可能通过智能体处理采购或数据分析，法务团队可能借助AI审查合同。安全团队已经无法在相互隔离的状态下，对所有这些决策进行统一管治。
“我认为，我们正在看到一种向共担责任模式的转变。”Rege说。
Steinhauer表示，技术负责人如首席信息官，可能主导AI模型选型决策，网络安全团队负责建立相应管控机制，而人力资源等以人员管理为核心的团队，则可能承担政策违规的执行工作。
“让这些团队保持步调一致，非常关键。”Steinhauer说。
Worthington指出，首席信息安全官的角色也在变化，正逐步演变为组织内部的信任与保障负责人，需要对AI的决策结果负责，思考这些结果是否具备可审计性，并向董事会解释相关结论。
Steinhauer还提到，他已看到一些企业在高管层新增AI管理职位，例如首席AI官。
“AI的能力很强，但它缺乏背景认知，所以你需要一个熟悉业务、能够理解企业具体情境的人，”Steinhauer说，“他们能回答：‘这是我们用AI想要达到的结果吗？’”
AI的落地部署与治理需求同步增长，但许多组织仍在摸索应采用的指导原则。Rege提醒，有治理政策不代表就能免除安全风险。
Steinhauer表示，高管应将治理理解为一套规范人类员工如何使用AI的行为准则，并鼓励各部门以协作方式参与，确保预期要求在整个组织范围内得到统一认知。
“治理要回答的问题包括：我们应不应该用这个系统？它被允许做哪些决策？如果出了问题，谁来负责？需要多大程度的人工监督？”Rege说。
与此同时，安全策略更专注于保护系统、数据和基础设施免遭入侵，这与网络安全团队的传统职责更加贴近。
安全、治理与风险管理应形成周期性审查机制。随着技术不断演进，以及企业对核心工具逐渐明确，相关政策也需要动态调整。
“企业应该抵制把AI看成‘万能良药’或者‘灾难祸源’的冲动，”Rege说，“更合理的做法是，建立结构化的、基于风险的应对方式。”
Q&A
Q1：AI智能体会带来哪些网络安全风险？
A：AI智能体具有高度自主性，能访问互联网、查询数据库或搜索企业知识库中的敏感信息。因为它被设计得会不惜一切完成任务，甚至可能学会绕过安全防护机制。另外，员工可能过度信任自动化系统，导致组织更容易遭受外部恶意攻击。超过半数的高管表示，他们组织去年就曾遭遇过AI相关安全事件或险情。
Q2：企业应该如何管理AI智能体的权限？
A：企业要避免以提升生产力为由，给智能体赋予过多权限。必须把它看作具有独立身份的实体，严格约束。在权限设置上需要审慎考虑，同时建立完善的治理框架，明确智能体被允许执行哪些决策、出了问题谁来负责，以及需要多大程度的人工监督。
Q3：AI智能体的引入对企业安全组织架构有什么影响？
A：AI智能体的广泛应用，打破了网络安全由首席信息安全官或IT团队单独负责的传统格局，推动安全责任走向全组织共担的模式。首席信息官负责AI模型选型，安全团队建立管控机制，人力资源等部门承担政策执行。首席信息安全官的角色也在向“信任与保障负责人”转变，部分企业甚至新增了首席AI官职位。
侠游戏发布此文仅为了传递信息，不代表侠游戏网站认同其观点或证实其描述
相关攻略
更多同类更新
更多
热游推荐
更多-
- DreamStudio
- Android/ | AI绘图
- 2026-06-30
-
-
- Playground AI
- Android/ | AI绘图
- 2026-06-30
-
- Adobe Firefly
- Android/ | AI绘图
- 2026-06-30
-
-
-
- Leonardo AI
- Android/ | AI绘图
- 2026-06-30
-
- Stable Diffusion
- Android/ | AI绘图
- 2026-06-30
