最重要的发现:2026 年企业 AI Agent 已经进入生产,但运营能力没有同步跟上。LangChain 2026 调查显示,57.3% 的受访者已有 Agent 在生产,89% 有某种可观测性,但只有 52.4% 做离线评测、37.3% 做在线评测;Splunk 2026 调查中,56% 无法衡量 LLM 响应质量,54% 没有把 AI 与清晰业务结果绑定。
这是一篇行业分析 / 公开资料研究,面向企业 CIO/IT、AI 平台负责人、Agent 产品与运营团队。资料截止 2026-10-24;数据来自 LangChain、Splunk/Cisco 和 OpenAI 的公开报告/文档,不是本文的一手调查,也不是中国市场抽样。本文不把调查数据当作行业基准,也不承诺排名、成本或效果。
能上线 ≠ 能运营;可观测 ≠ 会评测;调用量 ≠ 业务价值。先定任务成功标准,再谈模型、平台和规模。
2026 年企业 AI Agent 运营发生了什么变化?
从试点转向生产,但运营能力分化:57.3% 已有 Agent 在生产,89% 有可观测性,真正做在线评测的只有 37.3%,说明“看见”比“判断好坏”更容易。
| 观察指标 | 公开数据 | 样本 / 时间 | 说明 |
|---|---|---|---|
| Agent 在生产中 | 57.3% | LangChain,1,340 人,2025-11/12 | 另有 30.4% 正在开发并有明确上线计划 |
| 有可观测性 | 89% | LangChain,同上 | 已有生产 Agent 的团队中为 94%;71.5% 有完整 tracing |
| 离线 / 在线评测 | 52.4% / 37.3% | LangChain,同上 | 有生产 Agent 的团队中,在线评测为 44.8% |
| 无法衡量 LLM 质量 | 56% | Splunk/Cisco,2,050 人,10 国,2026-02/03 | “AI workload metrics like LLM response quality” |
| 没有清晰业务结果 | 54% | Splunk/Cisco,同上 | 87% 认为监控 AI 是优先事项 |
| 无法控制 AI 成本 | 55% | Splunk/Cisco,同上 | 60% 认为意外账单比高基线成本更难受 |
两组调查样本、地区、行业和“生产/评测”定义不同,不能拼成一个总体采用率;表中只做并列呈现。LangChain 样本 63% 科技行业、49% 为 100 人以下公司,制造业约 3%。
为什么有可观测性,还是说不清 Agent 好不好?
可观测性告诉你 Agent 做了什么,评测才判断做得对不对;只有日志和追踪,没有任务成功标准与抽样评测,团队只能看到失败,无法量化质量。
LangChain 的数据把差距说得很清楚:89% 有可观测性,但只有 52.4% 做离线评测、37.3% 做在线评测。日志、trace 和指标是“显微镜”,评测是“考试”;前者能还原调用链,后者才回答任务是否完成、答案是否正确、是否该人工接管。
Splunk 的调查补上了业务侧:56% 无法衡量 LLM 响应质量,54% 没有把 AI 与清晰业务结果绑定。如果指标只停留在调用量、token 数、平均延迟,团队会看到“系统很忙”,却不知道“业务有没有变好”。
OpenAI 的 Agent 构建指南也强调:为失败阈值和高风险动作设计人工接管;先用评测建立性能基线,再优化成本和延迟。换句话说,人工接管和评测不是上线后的补丁,而是 Agent 设计的一部分。
哪些运营指标最值得看?
任务成功率、单任务成本、人工接管率、采纳率、评测覆盖率、P95 延迟和事故/护栏触发率;先选 3–5 个与业务结果绑定的指标。
| 指标 | 公式 / 口径 | 为什么重要 | 数据源 |
|---|---|---|---|
| 任务成功率 | 成功任务 ÷ 完成任务;成功标准按场景定义 | 区分“回答得像”与“任务真的完成” | 业务系统 + Agent trace + 评测 |
| 自动化闭环率 | 全程无人工干预且成功的任务 ÷ 总任务 | 比成功率更严格,反映真实自动化程度 | Agent 事件流 + 工单 |
| 人工接管率 | 人工接管任务 ÷ 总任务;区分审批与失败升级 | 衡量风险兜底成本和用户体验 | Agent trace + 人工工单 |
| 单任务成本 | (模型 + 工具 + 基础设施 + 人工 + 运维)÷ 成功任务 | 防止“更聪明但更亏钱” | 账单 + 工时 + 运维分摊 |
| 采纳率 | 周活跃目标用户 ÷ 目标用户总数 | 没人用,技术指标没有意义 | 产品埋点 / 登录 / 工单 |
| 评测覆盖率 | 被评测的 trace/任务 ÷ 总 trace/任务;另看回归集覆盖 | 防止“只测了演示题” | 评测平台 + 抽样记录 |
| P95 延迟 | 95% 请求的完成时间上限 | 平均值会掩盖长尾卡顿 | APM / trace |
| 事故 / 护栏触发率 | 每 1,000 次任务的严重事故或护栏拦截次数 | 衡量安全与可用性,不只看成功率 | 安全日志 + 人工复核 |
指标定义为编辑建议,不是行业统一标准;“成功任务”必须有可复核的验收规则,否则成功率会被口径操纵。
采纳率、单任务成本、人工接管率怎么算?
采纳率看周活跃目标用户,单任务成本用总成本除以成功任务,人工接管率用接管任务除以总任务;三个指标必须和任务成功定义一起看。
用一个假设算例说明,数字不是行业基准:某企业每月 10,000 个任务,8,000 个成功(80%),1,500 个需要人工接管(15%);模型/工具 20,000 元,人工 12,000 元(1,500 次 × 8 元),基础设施 3,000 元,运维 5,000 元,总成本 40,000 元。
| 指标 | 计算 | 结果 | 怎么读 |
|---|---|---|---|
| 任务成功率 | 8,000 ÷ 10,000 | 80% | 先确认“成功”的定义和抽样方法 |
| 人工接管率 | 1,500 ÷ 10,000 | 15% | 区分审批与失败升级;后者才是质量信号 |
| 单任务成本 | 40,000 ÷ 8,000 | 5.00 元/成功任务 | 不是 4.00 元/总任务;失败任务也消耗成本 |
| 成功率提升 | 9,000 成功,成本仍 40,000 | 4.44 元/成功任务 | 质量提升会直接摊薄单任务成本 |
| 接管翻倍 | 3,000 接管,人工 24,000,总成本 52,000 | 6.50 元/成功任务 | 人工成本是隐形大头,不能只算 token |
算例为编辑测算,人民币、按月、假设价格与人工成本不变;真实项目应加入平台分摊、失败重试、工具调用和运维人力。
采纳率要分两层: licensed adoption(有账号的人 ÷ 目标用户)和 task adoption(每周真正完成任务的人 ÷ 目标用户)。只有登录没有任务,不能算采纳。例如 200 个目标用户,120 个每周登录(60%),其中 60 个每周完成任务(30%);对外应同时报告两个口径。
不同场景,指标目标怎么定?
客服看解决率、接管和满意度,知识助手看准确率、引用和节省时间,制造看任务闭环、异常升级和审计,办公看采纳、返工;先设基线,不套统一数字。
| 场景 | 核心指标 | 辅助指标 | 不要只看 |
|---|---|---|---|
| 客服 / 售后 | 一次解决率、失败接管率、CSAT | 单工单成本、P95 响应、投诉率 | 对话轮数、回复速度 |
| 知识 / 办公助手 | 答案准确率、引用覆盖、节省时间 | 周活跃、采纳率、返工率 | 文档数量、token 消耗 |
| 制造 / 运营 | 任务闭环率、异常升级率、审计覆盖 | 单订单成本、P95、事故率 | 看板数量、模型参数 |
| 研发 / 代码助手 | 建议采纳率、返工率、评审时间 | 周活跃、缺陷率、P95 | 生成行数、对话次数 |
场景指标为编辑建议,不是行业基准;不同任务风险、用户容忍度和人工成本会改变目标。高风险写回和审批不应追求“零人工”。
季度复盘怎么做才有用?
第 1 周校数据,第 2 周看质量与失败分类,第 3 周算成本与采纳,第 4 周做扩/停/改决策;每次只改 1–2 个变量,避免同时换模型和流程。
| 周次 | 看什么 | 产出 |
|---|---|---|
| 第 1 周:数据 | 任务定义、成功标准、日志完整性、成本分摊 | 指标字典和数据缺口清单 |
| 第 2 周:质量 | 失败分类、评测样本、人工接管原因、事故 | Top 失败模式与修复优先级 |
| 第 3 周:成本与采纳 | 单任务成本、人工成本、活跃用户、使用频次 | 成本结构和采纳瓶颈 |
| 第 4 周:决策 | 扩、停、改;谁负责、何时复验 | 1–3 项行动,不堆指标 |
复盘节奏为编辑建议;月度运营会 + 季度业务会通常够用。换模型、改工具、扩场景或发生事故后,增加专项复盘。
哪些指标最容易误导?
调用量、token 成本、平均延迟、Demo 成功率、Agent 数量都容易好看;真正要盯的是成功任务成本、人工接管和业务结果。
| 好看但没用的指标 | 问题 | 替代指标 |
|---|---|---|
| token / 调用量 | 只说明用得多,不说明任务完成 | 单任务成本、成功任务数 |
| 平均延迟 | 掩盖长尾卡顿和超时 | P95 / P99 延迟、超时率 |
| Demo 成功率 | 题目是挑过的,不能代表生产 | 生产抽样评测、回归集 |
| Agent 数量 | 数量不等于闭环,可能增加协调成本 | 任务闭环率、事故率 |
| 人工接管 = 0 | 可能把失败藏起来,或取消必要审批 | 分类接管率 + 事故率 + 审计 |
| 登录/账号数 | 有账号不等于完成任务 | 周活跃任务用户、任务采纳率 |
| 固定评测集 | 模型/流程变化后迅速过时 | 滚动回归集 + 生产 trace 抽样 |
替代指标为编辑建议;不同场景应保留必要的业务指标,不要为了“统一口径”删掉风险信号。
采购或自建时,要问供应商什么?
问 trace 能否导出、评测怎么做、人工接管怎么触发、成本如何拆分、模型路由和数据保留;没有这些,运营只能看演示。
| 问题 | 为什么问 | 红旗 |
|---|---|---|
| Trace 能否完整导出? | 没有调用链,无法定位失败和回归 | 只能看汇总报表,不能看单次任务 |
| 支持离线/在线评测吗? | 评测是质量闭环,不只是日志 | 只展示“准确率”截图,不给评测方法 |
| 人工接管怎么触发? | 高风险动作需要审批/升级 | 只能“全部自动”或“全部人工” |
| 成本怎么拆分? | 模型、工具、人工、基础设施要能归因 | 只报 token 单价,不报单任务成本 |
| 模型/工具能否替换? | 避免锁定,支持按任务路由 | 换模型需重做全部流程 |
| 数据保留与权限? | 日志含业务数据,需审计和隔离 | 日志默认共享、无法删除/导出 |
| 退出与迁移? | 避免平台锁定 | 不能导出 trace、评测集和配置 |
问题清单为采购建议,不构成对任何厂商的评价;具体条款需由业务、法务和安全共同审核。
涉及决策权限、数据与供应链安全、分类分级治理时,可看《智能体规范应用与创新发展实施意见》企业采购与合规清单。
哪些判断还不确定?
两组调查样本不同、定义不同:LangChain 偏技术社区,Splunk 偏全球 IT 运维;不能拼成中国市场基准,也不能从相关关系推断因果。
- 样本偏差:LangChain 1,340 人中 63% 科技行业、49% 为 100 人以下公司、制造业约 3%;不代表中国制造业或大型企业。
- 地区差异:Splunk 覆盖 10 个国家,不含中国大陆;AI 成本、合规和人工成本口径不同。
- 定义差异:“生产”“评测”“可观测性”在不同团队中含义不同;不能把 57.3% 和 89% 当成同一分母。
- 自报偏差:调查是自报,团队可能高估自己的评测覆盖和成本控制能力。
- 相关不等于因果:有可观测性的团队可能本来就更成熟,不能证明“买了工具就会成功”。
不同企业下一步做什么?
已上线的先补评测与成本口径;准备上线的先定成功标准和接管流程;多 Agent 的先统一 trace 与指标字典;不要先买大平台。
- 已上线:选 1 个高价值场景,补 200–500 条回归评测集,连续 4 周记录成功率、接管率、单任务成本和 P95。
- 准备上线:先写任务成功标准、失败阈值和高风险动作清单,再选模型/平台;不要用 Demo 成功率替代生产指标。
- 多 Agent/多团队:先统一 trace 字段、任务 ID、成本分摊和指标字典,否则报表无法合并。
- 采购:把 trace 导出、评测、人工接管、成本拆分和退出条款写进合同,不只看功能清单。
如果关注私有化执行和全链路追踪,可看 LingHarness Ai基座;办公协同场景可看 LingWork 办公智能体。上线前的实施与验收清单见《企业 AI Agent 从 POC 到生产》。
常见问题
57.3% 的 Agent 生产采用率能代表中国企业吗?
不能直接代表。LangChain 2026 调查的 1,340 名受访者中 63% 来自科技行业、49% 来自 100 人以下公司,制造业仅约 3%;这是技术社区样本,不是中国企业抽样。它可以说明趋势和运营差距,不能当成中国市场份额或行业平均值。
可观测性和 Agent 评测有什么区别?
可观测性回答“Agent 做了什么”,评测回答“做得对不对”。日志、trace 和指标能还原调用链,但没有任务成功标准、抽样和回归集,就无法量化质量;两者要一起用,不能把“有日志”当成“已评测”。
单任务成本要不要把人工算进去?
要。单任务成本应包含模型/API、工具、基础设施、人工审核或接管、运维和分摊的平台成本,再除以成功任务数。只算 token 或模型费会低估真实成本,尤其是人工接管率高的场景。
人工接管率越低越好吗?
不一定。高风险审批、退款、生产写回等场景本来就需要人工确认;要区分“合规审批”和“失败接管”。如果为了压低接管率而取消必要审批,风险会上升。指标要跟事故率、审计和业务结果一起看。
AI Agent 指标目标应该定多少?
没有统一数字。先定义任务成功标准和基线,再按任务风险、用户容忍度和人工成本设目标;客服、知识助手、制造写回和代码助手的合理目标完全不同。不要直接套用其他公司的成功率或成本。
Agent 运营指标多久复盘一次?
建议每月看运营指标,每季度做业务复盘;换模型、改工具、扩场景或事故后增加一次专项复盘。季度复盘重点不是“数字好不好看”,而是决定扩、停、改,并明确负责人和截止时间。
一句话总结
AI Agent 的运营指标不是“用了多少 token、上线了多少个 Agent”,而是“任务有没有完成、每次成功花多少钱、多少需要人接管、业务有没有变好”。
研究方法与局限
本文为公开资料研究,不是一手访谈、问卷或项目审计。LangChain 与 Splunk 调查均为自报数据,样本、地区、行业和定义不同;本文并列呈现,不拼成单一市场结论,也不把相关关系写成因果。指标公式、算例、场景目标和复盘节奏为编辑建议,需按企业实际调整。本文不承诺成本下降、排名、收录或业务增长。版本:2026 Q4 首次观察;后续同 URL 更新,并在页面注明实质变更。
数据来源与口径
资料截止 2026-10-24;以下均为公开页面,具体样本、统计口径以原文为准。
- LangChain《State of Agent Engineering》(2026-06-12):langchain.com。1,340 名受访者,调查时间 2025-11-18 至 2025-12-02;57.3% 有 Agent 在生产,89% 有可观测性,52.4% 做离线评测,37.3% 做在线评测,生产团队中 94% 有可观测性、71.5% 有完整 tracing。
- Splunk/Cisco《State of Observability 2026: Avoiding the Hidden Costs of AI Agents》(2026-10-20):cisco.com。2,050 名 ITOps/工程受访者,10 个国家,调查时间 2026-02 至 2026-03;56% 无法衡量 LLM 质量,54% 没有清晰业务结果,55% 无法控制 AI 成本。
- OpenAI《A practical guide to building agents》(2026-01-15):openai.com。要点:为失败阈值和高风险动作设计人工接管;用评测建立性能基线,再优化成本与延迟;guardrails 与人工审核共同控制风险。