18. 用量与成本分析

完整版章节。内容按 2026.10 主线代码与运行环境界面核对；具体入口以当前许可、账号权限和交付环境为准。

返回概览 · 完整版目录 · 下载完整 PDF

本章内容：本章面向平台管理员、财务与运营人员，说明如何在「运行总览」把 Token 与费用拆到模型、部门、成员与业务标签，如何读性能指标并与客户端侧的记录对照，如何评估提示词缓存的节省效果并定位缓存失效，以及定价快照与运营报表的用法。查看入口与角色要求见第 17 章。

统一的范围设置

本章各任务都在「管理后台 › 观测中心 › 运行总览」中完成。开始分析前先固定范围，保证比较的是同一批数据：

18.1 读运行看板

适用场景：需要在一页里掌握整体规模、成功率和主要消耗方，或向外汇报当期运行情况。

操作步骤

1. 打开「运行总览 › 总览」，选择时间范围。指标卡会连同走势小图和相较上一周期的变化一起刷新。
2. 依次读顶部四张消耗卡：总消耗费用、总 Token 消耗量（副标题为请求总次数）、输入 / 输出 Token、缓存命中 Token（附命中率）。
3. 读下一排性能卡：首字延迟、生成速率、模型调用交付成功率（附五类失败归因）、MCP 工具调用。
4. 读第三排：网关耗时 P95（分模型、MCP、A2A）、端到端 P99（副标题给出「95% 的请求在 N 秒内」）、活跃用户、覆盖部门。
5. 读末排：平均单次费用、网关实时并发（副标题为最忙时段平均）、平均会话上下文峰值、提示词缓存节省。
6. 向下滚动浏览其余面板：客户端分布、工具调用排行、预算、供应商、调用流向、小时热力、提示词缓存按客户端、推理强度分布、响应时间分布。
7. 需要把当期结果交给他人时，点右上角「导出汇报」。

你会看到

• 每张指标卡的副标题给出该口径的补充说明，例如成功率卡片下方按平台配置、上游故障、调用方、传输中断、未归类拆分失败数。
• 「调用流向」按「接入凭据 → 客户端 → 模型 → 供应商」四列展示，节点上标注调用量与占本列比例；右上角可「导出 CSV」。
• 「小时热力」按星期 × 小时统计请求分布，颜色深浅表示请求量。
• 时间范围切换后，所有卡片与面板同步变化。

注意

• 页面数据接近实时刷新，两次读取之间数字会因新调用而不同。核对时在同一时刻读取。
• 「供应商」面板按请求量给出各供应商的请求量与最近一次连通探测结果，可与「筛选 › 模型」配合判断某家供应商是否在承接主力流量。
• 指标卡覆盖所选范围内的全部真实流量，包括长上下文与排队中的请求，反映整体体验，不等于网关自身开销。

18.2 按部门、项目与标签拆账

适用场景：财务分摊需要把费用按部门或业务场景拆开并出账。

前提：账号为租户管理员；已按组织架构维护好成员所属部门。

操作步骤

1. 在「总览」读「部门费用排行」，每行给出部门名（含上级路径）与金额、调用次数。未能归属的调用显示为「未归到部门」。
2. 需要按项目查看时，点工具栏「全公司」，切换到「工作空间」页签并选择目标工作空间，整页指标收敛到该项目。逐个工作空间读取「总消耗费用」即得项目维度金额。
3. 需要按业务场景拆账时，先用标签给调用打标（第 17.3 节），再在「筛选」中添加「标签」。
4. 生成出账文件：进入「管理后台 › 审计与合规 › 报表导出」，点「新建导出」。「数据」选「用量汇总」，「归集方式」按需要选逐条明细、按部门、按用户、按接入凭据或按标签；选「按标签」时再指定标签键。设置「频率」（单次 / 每天 / 每周 / 每月）、「范围」与「去向」（收件箱 / 对象存储 / 回调地址），提交。
5. 任务完成后在列表中下载文件；定期任务按频率自动生成新文件。

你会看到

• 「按部门」与「按标签」的用量汇总文件表头一致：归集对象、调用次数、输入 Token、输出 Token、缓存 Token、费用、币种、统计区间。每行一个归集对象，另有一行「未归属」。
• 部门排行一笔只计一次，不向上级部门汇总；文件中的口径与页面一致。
• 归集方式里没有「按模型」。按模型出账请改用「完整调用记录」导出后自行分组。

注意

• 部门归属规则：API 密钥记在部门账上的计入该部门，否则计入使用人所在部门；使用人属于多个部门时计入这些部门最深的共同上级。
• 项目（工作空间）维度只能在页面上逐个切换查看，没有并列的费用排行，也不能直接按项目出账。
• 删除导出任务不会删除已生成的文件。
• 定期任务首次生成前，列表的「最近一次」为空，属正常。

18.3 读性能指标与分位值

适用场景：需要判断变慢发生在网关侧还是上游侧，或把平台读数与客户端侧的记录对照。

操作步骤

1. 在「总览」读性能卡：「首字延迟」为时间窗内流式调用 TTFT 的均值；「生成速率」为每秒输出 Token 数；「网关耗时 P95」分别给出模型、MCP、A2A 三类调用；「端到端 P99」副标题给出 95 分位。
2. 向下滚到「请求耗时构成」。该面板按上游（流式含生成）、失败重试、排队、接入层处理、网关处理分段堆叠，每段是均值且可以相加，图例注明覆盖的请求比例。
3. 滚到「响应时间分布」。直方图按 <500ms、0.5–1s、1–2s、2–3s、3–5s、5–10s、10–30s、≥30s 分档，并标出 P50、P95、P99 三条参考线。
4. 滚到「流量潮汐与双向承压」。同一张图给出网关 QPS、上游生成 Token/秒与上游预填充 Token/秒。
5. 需要看某个调用方或某个模型的表现时，用「筛选」添加「接入凭据」或「模型」，整页性能指标随之收敛。
6. 需要逐次核对单次耗时构成时，打开该次调用的请求详情「时延与成败」页签（第 20.2 节）。

你会看到

• 「请求耗时构成」把网关自身耗时与端到端分开，可直接看出耗时增长落在网关还是上游。
• 收敛到单个调用方后，可读该方自己的成功率、首字延迟、生成速率、网关耗时 P95 与端到端 P99。时间窗内没有流式调用时，首字延迟显示「时间窗内没有首字延迟样本」。

注意

• 分位值只出现在全局「响应时间分布」图上，没有按模型、渠道或项目并列的分位表；首字延迟只给均值，没有分位。
• 「网关耗时 P95」卡片的口径包含排队时间，而请求详情中排队单列。两者对不上时以详情为准。
• 样本量很小时分位值波动较大，不宜据此做容量结论。
• 客户端测得的总耗时 = 网关总耗时 + 客户端到网关之间的网络往返、握手与前置代理时间。两者之差反映网络路径，不是网关处理时间。

18.4 分析提示词缓存命中

适用场景：长上下文调用的费用主要来自重复输入，需要确认缓存是否在起作用，以及缓存为何反复失效。

操作步骤

1. 在「总览」读「提示词缓存节省」卡片：给出与不使用缓存相比少花的金额与比例，以及无法计价的调用笔数。
2. 滚到「提示词缓存 · 按客户端」。表中按「客户端 × 模型」组合列出调用次数、输入 Token、命中率、写入 / 读取、节省、无法计算，右上角给出合计节省。
3. 按「命中率」排序，找出命中率明显偏低的组合。命中率 = 缓存命中 Token ÷ 输入 Token。
4. 缓存反复失效的会话由使用洞察自动识别：进入「管理后台 › 观测中心 › 使用洞察 › 问题」，查找「提示词缓存反复失效」类问题。系统按原因分为三类：系统提示词不稳定、工具定义不稳定、输入命中缓存的比例低。
5. 点进问题详情，读「概况」的费用、影响会话、次数、每日发生次数、原因分析与修复建议；切到「证据」查看命中的会话。
6. 按建议调整客户端配置后，在右上角「标记为」中选择「已处理，开始观察」，系统在观察期后自动复查。

你会看到

• 节省金额单独列示，不计入「总消耗费用」。
• 表内「无法计算」列标出缺少定价而无法折算节省的调用。节省为负值说明当期缓存写入的开销大于读命中带来的节省，常见于缓存刚建立或频繁失效的时间窗。
• 问题详情的原因分析会指明问题集中在哪个客户端，并给出针对性的修复方向。

常见修复方向

• 固定系统提示词，把时间戳、随机数等易变内容移到对话末尾；
• 固定工具定义的字段顺序与序列化格式，MCP 工具集合按名称排序后再注册；
• 同一客户端统一版本，避免多个版本交替注册不同的工具定义。

注意

• 问题详情中的原因分析带有生成时间，其后数据仍在更新；以页面上方的关键数字为准。
• 「证据」页签列出命中的会话与次数，但不提供逐请求的未命中定位，也不展示系统提示词与工具定义的哈希对比。
• 缓存统计没有按端点（对话 / messages / responses）的拆分。

18.5 定价快照与历史账单

适用场景：与业务方约定按内部单价结算，或解释「为什么调价后旧账单没有变」。

每次调用在发生时按当时的有效单价计费并记录。调整单价后，只有之后的调用按新价计费，已产生的调用费用不重算。

有效单价的确定顺序

1. 对象专属价：在模型分组的「可用范围与配额」中为某个对象单独设置的价格。同一次调用命中多个对象时取最具体的一个：用户 > 职能组 > 部门 > 工作空间 > 本分组全部成员。
2. 供应商标准价：在模型供应商的模型定价中设置的价格（第 5 章）。

操作步骤

1. 打开「管理后台 › 组织与权限 › 模型分组」，进入目标分组「可用范围与配额」页签，在目标对象一行点击「设置专属价」。
2. 选择网关模型、累计周期与累计方法、计价方式（单价 / Token 倍率）、跨档计价（分段计价 / 整笔计价）。
3. 在档位信息中填写用量区间与输入、输出、缓存命中、缓存写入单价（每百万 Token）。需要阶梯价时点击「添加档位」。
4. 点击「确认」。之后发生的调用按新档表计价。

你会看到

• 对话框内注明「为该对象在本模型分组中的调用单独设置阶梯价，优先于模型供应商处的标准价」，以及「改档表后历史账单不变」「已结算的调用不重新计价」。
• 对未在供应商处定价的模型，「设置专属价」会提示该模型尚无标准价，并提供「去定价」入口。
• 请求详情「Token 与用量」的费用行给出本次费用与计价依据。

注意

• 专属价保存后对之后的调用立即生效；历史调用的费用保持原值。
• 未定价的模型不能设置专属价，需先在供应商处定价。
• 以美元计价的模型按「全局设置」中的汇率折算为结算币种。

18.6 SLA 监控与用量预测

适用场景：需要判断某个调用方当前是否达到约定的成功率与耗时水平。

操作步骤

1. 在「总览」用「筛选」添加「接入凭据」或「发起人」，把整页收敛到该调用方。
2. 读该调用方的「模型调用交付成功率」与「端到端 P99」，作为当期达标依据。
3. 需要分组维度的数据时，打开「模型分组 › 分组详情 › 调用情况」，看该分组的调用量、成功率与耗时统计。
4. 需要留档时，用「导出汇报」取当期指标，或按 18.2 节的方式设置定期报表，按天 / 周 / 月出文件。

你会看到

• 收敛到单方后，成功率、首字延迟、生成速率、网关耗时 P95、端到端 P99 都是该调用方自己的值。
• 「导出汇报」生成的 CSV 为长格式，列包括分区、项目、数值、单位、占比；分区含关键指标、模型排名、客户端排名、部门分摊，关键指标与看板逐项一致。

注意

• 平台把「模型调用交付成功率」作为一个指标提供，但没有 SLA 目标设置、达标率计算与 SLA 报告。判断是否达标需要人工比对约定值。
• 没有按调用方并列对比的表格，只能逐个筛选查看。
• 没有用量预测曲线。容量规划请用「流量潮汐与双向承压」的历史走势人工外推。

18.7 运营报表

适用场景：需要按期把运行数据交给管理层、财务或审计。

操作步骤

1. 当期快照：在「总览」选定范围后点「导出汇报」，得到与指标卡同范围的 CSV。
2. 定期报表：在「报表导出」中新建任务，选「数据」为用量汇总或完整调用记录，设置频率与去向。文件按频率自动生成，落在收件箱、对象存储或回调地址。
3. 需要经营指标时，用「平均单次费用」与「总 Token 消耗量」自行计算单位 Token 成本；看板没有现成的这类指标卡。

注意

• 报表导出生成的是文件而非实时流。需要实时投递请见第 19 章能力说明。
• 「导出汇报」反映点击那一刻的数据，与随后打开的看板可能有细微差异。

能力说明

---

上一章：17. 查看用量并控制成本 · 下一章：19. 可观测入口、数据来源与权限边界