作者｜一禾

编辑｜星奈

媒体｜AI大模型工场

AI Agent正在从“能聊天”走向“能干活”。当智能体开始调用工具、访问内网、执行指令，传统网络安全的防护边界正在失效。风险不再是“会不会发生”，而是“什么时候发生在你企业身上”。

放眼整个行业，Agent 商业化落地节奏持续提速，但攻防演进呈现明显失衡：

AI 智能体的执行能力快速迭代，与之匹配的防护手段、企业治理能力、行业标准建设整体滞后，Agentic AI 安全市场虽保持 42% 的高复合增长率，但多数企业尚未建立起适配智能体的完整安全体系。

在2026AI大模型工场AI产业生态大会上，数美科技副总裁周秋野，围绕AI安全方向展开分享，提出2026是AI安全从理论风险走向现实事故的分水岭。

他援引多起真实案例指出，前沿大模型已在受控测试中出现越界行为，AI 安全正在从实验室推演，演变为企业必须直面的战略级问题。

面对企业落地AI面临四大现实痛点，提出企业级AI安全行动框架：

看见风险；管住行为；全生命周期治理。对标相关强制国标要求，落实资产盘点、身份权限、知识库管控、多模态防护、审计追溯、应急熔断六大安全能力。

企业不能将 AI 安全简单归为安全部门的局部工作，需要上升到企业战略层面看待。AI 风险不是 “是否会发生”，而是何时到来，行业目标要让 AI 跑得快，更要跑得稳。

周秋野强调，AI 安全是治理层‑技术层‑运营层三位一体的持续运营工作。模型版本、攻击手段、企业业务规则都在持续迭代，安全策略不能一劳永逸，必须同步动态更新。

核心观点梳理

● 2026年是Agent元年，也是AI安全的分水岭。风险已从“理论可能”变成“正在发生”。

● 斯坦福/MIT联合研究：847个生产Agent中，91%有工具链漏洞，94%面临记忆投毒。

● 企业落地AI面临四大痛点：看不见（影子AI泛滥）、说不清（无法溯源定责）、防不住（传统安全失效）、管不住（Agent行为不可预测）。

● 76%的组织将影子AI视为明确或潜在问题，AI驱动的攻击者活动同比激增89%，88%的企业过去一年已发生过Agent相关安全事件。

● 企业级AI安全行动框架四步走：看见风险→管住行为→全生命周期治理→对标强制标准。

● AI安全市场高速增长：智能体AI安全CAGR达42%，是网络安全领域增长最快的细分赛道。

● AI安全不是上线前的一次性动作，而是上线后的持续运营机制。

● 目标：让AI跑得快，更要跑得稳。

以下为周秋野演讲全文：

为什么是现在？AI安全从理论走向现实

周秋野认为现在不能只谈AI、Token、算力。但最近二十年，无论是互联网发展，还是从软件到现在的过程，都有一个固定的词跟在后面——安全。

有系统安全、网络安全、AI安全、食品安全。在任何环节里，安全都是物质世界不可或缺的点。

2026年是Agent元年。行业技术在迭代，安全成为了企业必不可少的一点，它面临着技术的风口浪尖与拐点。

大家想一下，我们有多少企业已经用上了AI或AI Agent产品？相信50%到60%的企业都用上了。但用上之后，有没有AI安全的风险呢？

FBI 2025年列出的AI相关犯罪清单，损失达8.93亿美元。从物理空间犯罪到AI犯罪，损失在不断增长。

斯坦福和MIT联合研究了847个生产Agent，91%有工具链漏洞，94%面临记忆投毒。

工具链漏洞是个新词，就是绕过了Agent后门，直接操纵Agent去犯错或作恶。还有AI投毒，其中有一个就是GEO——我们可以诱导大模型，以广告的内容推送我们的产品。

习近平总书记提出过“没有网络安全，就没有国家安全”。但当下，“凡是有AI内容产生的地方，就有风险。”只要是大模型，无论国内还是国外，都会产生幻觉、数据投毒，具有不可预见性和不可控的风险。

企业落地AI的四大痛点

据Gartner预测，2026年底40%的企业应用将集成AI Agent，较2025年不足5%暴增8倍。与此同时，76%的组织将影子AI视为明确或潜在问题，AI驱动的攻击者活动同比激增89%，88%的企业过去一年已发生过Agent相关的安全事件。

企业必须直面四个核心痛点：

一是看不见。影子AI失控，一位企业安全负责人坦言：“IT部门登记的是8个AI系统，实际运行的是80多个。剩下的70多个，IT部门根本不知道它们的存在。”

二是说不清。一旦出事无法追溯责任。

三是防不住。传统安全措施难以应对新型攻击。

四是管不住。Agent行为不可预测。你通过给智能体发话，它可以越权。我告诉它“给老王转500元”，它在20秒内就能操作完成。这很可怕。

智能体AI安全市场，2025年还没有智能体概念，商业化比重几乎为0。

2026年达到16.5亿美金收入，预计到2030年是135.2亿美金左右，增长率达42%。AI模型与LLM网络安全市场2026年为36.2亿美金，预计2030年达144.7亿美金，CAGR为31.93%。

AI安全将是网络安全在全球化中增长最快的赛道，智能体的增长速度最快。2026年Q1，AI安全领域积累了3.8亿美金的投融资，市场增长速度非常快。现在和未来的关键词就是Secure Trust——安全信任的产品体系。

企业级AI安全管理框架：从“能用”到“敢用”

企业作为安全人员也好，还是企业家CEO，要从能用到敢用。行动框架分四步：

第一步，看见风险。先摸清企业内有哪些智能体在运行、接触什么数据、调用什么工具。影子智能体是数据泄露和权限失控的最大隐患。

第二步，管住行为。让每个智能体拥有身份、权限边界和审计记录，在可控范围内运行。覆盖输入侧、运行时和输出侧的全链路监测，确保异常行为可发现、可阻断、可追溯。

第三步，建立生命周期治理。从“局部防护”转向全生命周期可信化。国际社会正通过NIST风险管理框架、ISO/IEC 42001认证等将治理嵌入全流程。

第四步，对标强制标准。企业需提前对标六大安全能力：资产盘点、身份认证与权限、知识库与数据管控、多模态内容防护、全链路审计追溯、应急处置与熔断。国标委已下达《智能体应用安全基本要求》强制性国家标准。

AI治理要从治理层、技术层和运营层三层来解决。治理层解决谁来管的问题；技术层解决用什么管、能防得住、能看得见；运营层解决每天都在跑、出事以后能用安全管理措施顶上做防护。让企业的AI和Agent更多的可信、可控、可持续使用。

AI安全需要持续运营

AI安全不是上线前的一次性动作，而是上线后的持续运营机制。因为模型、用户、攻击方式、业务规则和工具权限都会持续变化。

安全运营要做什么？风险监控、拦截分析、样本沉淀、红队复测、策略迭代、事故复盘。运营指标包括风险发现量、拦截命中率、误杀率、漏放率、高风险样本复现率、策略修复周期、模型版本安全回归结果、Agent高风险操作审计覆盖率。

没有运营，安全策略会过期；有运营，风险才能持续下降。

只有持续监测、验证和调整，安全策略才能跟上模型与业务的变化。

数美科技作为一家领先的AI安全公司，面对Agent快速落地带来的新型风险，将动态安全评测与运行时安全围栏贯穿Agent全生命周期。

上线前及重大变更前，通过评测发现、验证和量化风险。运行过程中，实时识别并阻断内容风险、指令攻击、数据风险、异常工具调用等风险。

模型、工具或关键配置发生变化后，通过复测验证安全策略的有效性。帮助企业建立覆盖动态评测、实时围栏、持续运营的Agent安全治理机制，让Agent安全落地并持续适应业务变化。

2026年是AI安全的分水岭。风险已经不再是“会不会发生”，而是“什么时候发生在你企业身上”。从宏观趋势到企业实践，一个清晰的信号已经发出：AI安全不再是CTO或CISO的“部门问题”，而是关乎企业生存的“战略问题”。