6. 模型与模型分组

完整版章节。内容按 2026.10 主线代码核对；具体入口以当前许可、账号权限和交付环境为准。

返回概览 · 完整版目录 · 下载完整 PDF

本章内容：本章面向平台管理员，说明平台中的三个对象及其分工，以及如何管理它们。读完本章，你可以完成以下工作：理解上游、模型与模型分组的关系；查看模型由哪些上游提供、调用去向与可用状态；新建模型、关联或改挂上游、删除模型；创建模型分组并调整分组顺序；在工作空间里确认可用的模型；以及在删除之前核对引用关系。

三个对象各管一件事：

调用方通过 API 调用时，在请求的 model 字段里写模型的调用名。网关先按调用名找到模型，再确认调用方可用的分组中有该模型，最后在该模型的上游之间分发。调用名不存在与调用方无权使用该模型都返回 404 model_not_found，平台不借错误码透露模型是否存在。

前提：以租户管理员或具备模型管理权限的角色登录；至少有一个已接入的供应商（第 4 章）。

6.1 模型从哪里来

适用场景：第一次接入供应商，或想知道某个模型为什么已经出现在列表中。

接入供应商时，每个要启用的上游模型都会在「模型」页签的「决策」列给出去向，表格上方同时汇总「将新建 N 个、关联 M 个、待处理 K 个；其中 P 个尚未定价」：

• 与已有模型同名（不区分大小写）的上游，默认关联到该模型；若它的部署位置与该模型现有上游不同，默认改为新建独立模型，并要求另起调用名。
• 参考目录判定为同一模型的上游，给出关联建议并显示依据。
• 其余上游默认新建同名模型，可以改名；调用名在租户内唯一。

新建的模型保存后出现在模型列表，需要授权时再加入模型分组（第 6.6 节）。凡是关联到已有模型的上游，确认前会显示影响：哪些分组、哪条流量规则会开始把调用分发给这个新上游，以及它与现有上游在部署位置、价格与能力上的差异。确认后即生效。

在供应商「模型与价格」中打开一个从未关联过模型的上游的启用开关时，会弹出同样的「将成为模型」确认；取消则开关恢复原状。

注意：启用的上游必须属于一个模型，平台不提供「解除关联」。要让上游换一个模型，使用改挂（第 6.4 节）。

6.2 模型列表与详情

适用场景：清点租户内的模型，确认某个模型由哪些上游提供、调用会去往哪里、当前是否可用。

操作步骤

1. 打开「管理后台 › 模型 › 模型」。
2. 用顶部搜索框按调用名或显示名检索。
3. 点击模型进入详情。

你会看到

• 列表的列为「模型」「上游」「去向」「所属分组」「价格」「状态」。「上游」列出提供该模型的供应商；价格在多个上游之间不一致时显示区间。
• 「去向」列说明未指定其他条件时调用去往哪里：「默认分发」表示在该模型的全部启用上游之间分发；「按规则「X」路由」「按规则「X」放行」「被规则「X」拒绝」表示上方有一条对该模型总是适用的规则决定了去向；另有条件规则排在前面时附「另有 N 条条件规则排在前面」。未启用流量治理时没有这一列。
• 「状态」的取值：

模型详情的页头显示显示名与状态；未设显示名时标题为调用名，设了显示名时调用名显示在标题下方。页头的「更多」菜单中有「合并到其他模型」与「删除」（第 6.4 节、第 6.5 节）。

模型详情的页签依次为「上游」「流量规则」「限额」「调用情况」「基本信息」「所属分组」「试用」：

• 「上游」：顶部说明调用去向，下方逐个列出上游，各列为上游（供应商与上游模型名）、状态、账号、部署位置、要求脱敏与价格。「账号」列显示该上游可用的上游账号数量，如「3 个 · 2 个可用」，没有账号时显示「未配置账号」；点击进入该供应商详情的「账号」页签。部署位置与敏感信息准入在这里只读展示，修改到供应商「模型与价格」行的元数据弹窗中进行。行操作中的「限额」切换到「限额」页签并打开新增限额对话框，「限谁」已预填为该上游；「改为关联到…」见第 6.4 节。
• 「流量规则」：作用于该模型的规则与末行「默认」，按生效顺序列出；可以从这里以该模型为条件新建规则，或跳转到验证页预填该模型（第 26 章）。未启用流量治理时没有这个页签。
• 「限额」：列出会作用于该模型调用的限额，包括条件中限定了该模型或其某个上游的限额，以及不限定模型的限额。表格与「流量限额」页相同，点击某行进入限额详情。「新增限额」打开新增限额对话框，「限谁」已预填为该模型，填写限额数值等其余内容后保存，列表随即出现新条目；还没有作用于该模型的限额时，页面给出说明与「新增限额」。限额的配置方法见第 26.10 节与第 26.11 节。没有流量限额管理权限的账号看不到这个页签；未启用流量治理时这个页签照常提供。
• 「调用情况」：按近 7 天、近 30 天或近 90 天统计各上游承接的调用，各列为「上游」「调用」「占比」与「成本」，用于确认分流是否按预期进行，以及各上游产生的费用。成本按租户的结算币种显示，口径与运行总览的「上游账号费用」一致，未定价的调用不计入成本。表格下方的「按上游账号查看成本」打开运行总览，筛选条件已设为该模型与相同的时间段，并显示在顶部筛选栏中；其中的「上游账号费用」列出费用落在哪些上游账号上。观测服务不可用时显示「暂时无法统计调用」，不代表没有调用。
• 「基本信息」：分为「对外展示」「能力」「分类」三块。底部的「保存」「取消」始终显示，没有改动时不可点。调用名创建后不可修改。
• 「对外展示」：显示名（留空时显示调用名）、厂商与说明，即成员在模型广场看到的内容。说明直接显示排版后的效果，点击即可编辑；还没有说明时只显示「添加说明」。
• 「能力」：一张对照表，逐项列出用途、工具调用、看图、上下文与最大输出的「上游实际」与「对外声明」；对外声明超出上游实际时，该行标出「与上游不一致」。模型没有上游时不显示「上游实际」列。右上角的「从 models.dev 填入」用于搜索参考模型，选中后把参考给出的显示名、厂商、说明与能力声明填入表单；填入的内容不会自动生效，核对后点「保存」才生效。已关联的参考模型显示在能力表下方。模型由流量规则提供后端而声明的能力超出规则目标时，保存会被拒绝，不符之处逐条列在能力表上方。
• 「分类」：模型所属的模型分类。
• 「所属分组」：该模型所在的模型分组。还没有加入任何分组时，页面说明加入分组后分组内的成员和密钥才能调用该模型，并给出「前往模型分组」。模型的加入与移出在模型分组中操作（第 6.6 节）。
• 「试用」：用真实调用链路发一条消息，确认模型能正常出结果。试用会真实计费，也计入调用记录与操作审计。

注意：未启用流量治理时，「上游」页签写明调用按产品默认方式分发：在全部启用上游之间加权轮询，同一会话保持同一上游，上游失败时换其他上游。

6.3 新建模型

适用场景：需要一个统一的对外调用名，而它的后端由流量规则决定；或要手动为一组上游建立模型。

操作步骤

1. 在「模型」页选择「新建模型」。
2. 填写「调用名」：调用方请求时使用的名字，不区分大小写，租户内唯一，创建后不可修改；只允许英文字母、数字与可见符号，不含空格。
3. 填写「显示名」（留空时显示调用名）；可选「参考模型」，带出该模型的能力声明与说明。
4. 在「上游」中添加要关联的上游。启用了流量治理时可以不关联上游，此时模型只能由流量规则提供后端；未启用流量治理时至少关联一个上游。
5. 确认创建。

你会看到：没有上游的模型创建后状态为「无可用后端」，调用返回 503。在它的「流量规则」页签新建一条规则为它指定目标后，状态变为「可用（由规则提供）」；规则只对部分调用方生效时为「部分调用可用」。把模型加入模型分组后，分组可用范围内的成员即可在模型广场看到并调用它。

注意：为无上游模型提供后端的规则，其目标要覆盖模型声明的能力，否则保存时会提示能力不符。

6.4 关联、改挂与合并

适用场景：两个不同名的模型其实是同一个模型，需要合并；或某个上游关联错了模型。

操作步骤

• 关联已有上游：在模型 A 的「上游」页签选择「关联已有上游」，可以选当前挂在其他模型下的上游，即把它改挂到 A。
• 改为关联到其他模型：在上游行的操作中选择「改为关联到…」，选择目标模型，或选择「改为新建一个模型」。

两种操作在确认前都会计算影响：两边模型的上游数变化（「上游数 N → M」）与所属分组。确认后一次完成，不会出现上游暂时不属于任何模型的状态。

合并后，原模型 B 若已没有上游，可以保留（由流量规则提供后端）或删除。

停用上游：沿用供应商「模型与价格」中的启用开关。停用后上游仍属于原模型；该上游被流量规则作为目标引用时，停用会被拒绝，需先修改规则。

供应商侧下线：供应商同步时某个上游已不再提供，平台不经确认地把它标为「供应商已下线」，模型状态变为「部分上游失效」，配置检查会标出把它作为目标的规则。

6.5 删除模型

适用场景：清理不再使用的模型。

操作步骤：在模型详情页头的「更多」菜单中选择「删除」。平台先检查删除影响，再给出确认框。

你会看到

• 仍有启用的上游时，删除被阻止：「以下上游仍在启用，请先改为关联到其他模型或停用」。
• 模型仍在模型分组中时，删除被阻止并列出分组：「模型仍在以下分组中，请先移出」。
• 模型仍是全局设置中某个用途的默认模型时，删除被阻止：「模型仍是以下用途的默认模型，请先更换」。
• 以下情况只列出、不阻止：流量规则的条件引用了该模型（删除后条件不再匹配）；评估器、数据集运行或诊断复核选用了该模型（删除后需重新选择）；已停用的上游随删除解除关联，之后再启用它时会弹出「将成为模型」确认。
• 没有任何影响时显示「删除不影响其他配置。」。

注意：删除不可恢复。删除后调用该调用名返回 404 model_not_found。

6.6 模型分组

适用场景：向成员、智能体或业务系统开放一组模型，并为它们设置可用范围与额度。

模型分组是授权、配额、专属价与 API 密钥的单位：先把模型加进分组，再把分组授权给成员、部门、职能组或工作空间（第 7 章），成员才能在对话中选用分组内的模型、让智能体使用它们，或用绑定该分组的 API 密钥调用。同一个模型可以出现在多个分组中，各分组的授权、配额与计费互相独立。分组只管授权与额度，不决定调用去哪个上游。

入口：「管理后台 › 组织与权限 › 模型分组」。页面有「模型分组」与「API 密钥管理」两个页签（后者见第 20 章）。

创建模型分组

1. 选择「添加模型分组」。
2. 设置分组标志，填写名称（租户内唯一）与描述。描述写明适用任务与成本等级，成员在选择时能看到。
3. 选择「添加模型」，勾选要加入的模型。已添加的模型可以拖动调整显示顺序，不需要的点「移除」。
4. 保存后继续配置可用范围（第 7 章）。新建的分组没有授权给任何人，成员与智能体都用不到它。

分组详情有「基本信息」「可用范围与配额」「调用情况」「流量规则」「操作审计」等页签。「基本信息」左侧是「发布」开关与分组级配额，右侧是成员模型表；分组专属价在成员模型下展开其上游逐个设置，因为计费按实际处理请求的上游结算。

命名与拆分建议

• 按使用目的命名与拆分，例如「通用对话」「代码助手」「低成本批处理」，不要用模型型号作为分组名。
• 需要不同的可用人群、费用上限或数据处理要求时，拆成两个分组，而不是在一个分组里靠约定区分。
• 需要看图的对话或智能体，分组内至少放一个支持多模态的模型。

6.7 分组顺序与计量优先级

适用场景：一个人能通过多个分组使用同一个模型时，决定用量计入哪个分组。

分组列表的顺序就是计量优先级：调用方可用且包含所请求模型的分组中，用量计入排序最靠前且本月仍有额度的分组；全部分组额度耗尽时按额度错误拒绝。调用详情中的「计量分组」字段显示这次调用实际计入的分组。

操作步骤

1. 在「模型分组」列表中拖动分组行到目标位置。
2. 松开后先显示调序影响：受影响的人数与计量去向的变化。
3. 确认后保存新顺序。若其他管理员在此期间增删或调整过分组，保存会被拒绝，刷新后重新调整。

注意：分组顺序只影响用量计入哪个分组，不影响调用去往哪个上游，也不影响能否调用。

6.8 发布与停用分组

「基本信息」页签左侧的「发布」开关是分组的总开关：

• 开启：范围内的成员可以看到并调用分组内的模型，范围内的智能体可以使用它们。
• 关闭：分组下架，经该分组的调用被拒绝；授权、配额与 API 密钥都保留，重新开启后恢复。

关闭时先弹出确认框，列出停用的后果：绑定该分组的 API 密钥数量、条件中引用该分组的流量规则，以及在全局设置中受影响的功能。停用与恢复都记入操作审计。

注意：停用期间调用方收到的错误可能表现为「凭据无效」，排查「突然调不通」时先确认「发布」开关的状态，再查密钥。停用供应商（第 4 章）会影响该供应商的全部上游，范围比停用单个分组大。

6.9 在工作空间中确认可用的模型

适用场景：确认某个工作空间里的成员和智能体能选到哪些模型，例如新工作空间上线前，或成员反馈「对话里选不到某个模型」时。

工作空间本身不单独配置模型。一个模型能否在某个工作空间里使用，取决于包含它的分组的可用范围是否覆盖该工作空间或其中的成员（第 7.1 节）。

操作步骤：进入「管理后台 › 组织与权限 › 工作空间」，打开目标工作空间，切换到「模型分组」页签。页签只读，按分组顺序列出当前工作空间可用的分组及其中的模型、额度与已用量。

注意：成员与智能体直接选择模型，不选择分组；用量计入哪个分组按第 6.7 节的规则决定。工作空间详情中的「资源上限」页签管理的是智能体数量等资源，不是模型用量。

6.10 删除分组与引用保护

操作步骤：在「模型分组」列表行末「…」›「删除」。平台先检查引用关系，再给出确认框。

你会看到

• 没有阻止删除的引用时，确认框只有不可恢复的提示与取消、删除两个按钮。
• 仍有引用时，弹出「暂不能删除模型分组」，分组列出：仍计入该分组的智能体（超过 50 个时只展示前 50 个）、正在使用该分组的全局设置功能，以及已发布的价格、计费记录等受保护记录。处理后选择「我已处理，重新检查」。
• 仍有流量规则的「模型分组」条件引用它时，确认框列出这些规则并附「去修改」。

删除分组成功后，分组的授权与配额随之失效，绑定该分组的 API 密钥不能再调用。确认框不列出可用范围与 API 密钥明细，删除前请自行核对。生产环境建议先关闭「发布」观察一段时间，确认无人使用后再删。所有删除操作都记入操作审计（第 32 章）。

能力说明

---

上一章：5. 模型定价与分类 · 下一章：7. 配置模型分组的可用范围与配额