6. 模型与模型分组

完整版章节。内容按 2026.10 主线代码与运行环境界面核对；具体入口以当前许可、账号权限和交付环境为准。

返回概览 · 完整版目录 · 下载完整 PDF

本章内容：本章面向平台管理员，说明平台中的三个对象及其分工，以及如何管理它们。读完本章，你可以完成以下工作：理解上游、模型与模型分组的关系；查看模型由哪些上游提供、调用去向与可用状态；新建模型、关联或改挂上游、删除模型；创建模型分组并调整分组顺序；用提示词库为模型调用统一注入提示词并管理版本；以及在删除之前核对引用关系。

三个对象各管一件事：

调用方通过 API 调用时，在请求的 model 字段里写模型的调用名。网关先按调用名找到模型，再确认调用方可用的分组中有该模型，最后在该模型的上游之间分发。调用名不存在与调用方无权使用该模型都返回 404 model_not_found，平台不借错误码透露模型是否存在。

前提：以租户管理员或具备模型管理权限的角色登录；至少有一个已接入的供应商（第 4 章）。

6.1 模型从哪里来

适用场景：第一次接入供应商，或想知道某个模型为什么已经出现在列表中。

接入供应商时，每个要启用的上游模型都会在「将成为模型」一栏给出去向：

• 与已有模型同名（不区分大小写）的上游，默认关联到该模型；若它的部署位置与该模型现有上游不同，默认改为新建独立模型，并要求另起调用名。
• 参考目录判定为同一模型的上游，给出关联建议并显示依据。
• 其余上游默认新建同名模型，可以改名；调用名在租户内唯一。

新建的模型可以同时勾选要加入的模型分组。凡是关联到已有模型的上游，确认前会显示影响：哪些分组、哪条流量规则会开始把调用分发给这个新上游，以及它与现有上游在部署位置、价格与能力上的差异。确认后即生效。

在供应商「模型与价格」中打开一个从未关联过模型的上游的启用开关时，会弹出同样的「将成为模型」确认；取消则开关恢复原状。

注意：启用的上游必须属于一个模型，平台不提供「解除关联」。要让上游换一个模型，使用改挂（第 6.4 节）。

6.2 模型列表与详情

适用场景：清点租户内的模型，确认某个模型由哪些上游提供、调用会去往哪里、当前是否可用。

操作步骤

1. 打开「管理后台 › 模型 › 模型」。
2. 用顶部搜索框按调用名或显示名检索。
3. 点击模型进入详情。

你会看到

• 列表的列为「模型」「上游」「去向」「所属分组」「价格」「状态」。「上游」列出提供该模型的供应商；价格在多个上游之间不一致时显示区间。
• 「去向」列说明未指定其他条件时调用去往哪里：「默认分发」表示在该模型的全部启用上游之间分发；「按规则「X」路由」「按规则「X」放行」「被规则「X」拒绝」表示上方有一条对该模型总是适用的规则决定了去向；另有条件规则排在前面时附「另有 N 条条件规则排在前面」。未启用流量治理时没有这一列。
• 「状态」的取值：

模型详情页头显示显示名与状态；设置了显示名时，下方再显示调用名。合并到其他模型、删除在页头「更多」菜单中。模型详情有以下页签，按顺序为：

• 「上游」：逐个列出上游的状态、账号（共几个、其中几个可用）、部署位置、是否要求脱敏与当前价，以及汇总的调用去向。部署位置与敏感信息准入在这里只读展示，修改到供应商「模型与价格」行的元数据弹窗中进行。每行的「限额」可以直接为该上游设置并发或速率限制，不离开模型页。
• 「流量规则」：作用于该模型的规则与末行「默认」，按生效顺序列出；可以从这里以该模型为条件新建规则，或跳转到验证页预填该模型（第 15 章）。未启用流量治理时没有这个页签。
• 「限额」：列出会作用于该模型调用的流量限额，包括限定了该模型或其上游的限额，以及不限定模型的限额。「新增限额」会预填「模型 等于 该模型」。
• 「调用情况」：近 7、30 或 90 天各上游承接的调用次数、占比与成本，用于确认分流是否按预期进行；「按上游账号查看成本」跳转到运行总览并选中该模型。
• 「基本信息」：对外展示（显示名、厂商、说明）、能力对照（上游实际能力与对外声明逐项并列，声明超出上游时标出）与模型分类。「从 models.dev 填入」把参考模型的信息写入表单，需保存后生效。调用名创建后不可修改。
• 「所属分组」：该模型所在的模型分组。模型的加入与移出在模型分组中操作（第 6.6 节）。
• 「试用」：用真实调用链路发一条消息，确认模型能正常出结果。试用会真实计费，也计入调用记录与操作审计。

注意：未启用流量治理时，「上游」页签写明调用按产品默认方式分发：在全部启用上游之间加权轮询，同一会话保持同一上游，上游失败时换其他上游。

6.3 新建模型

适用场景：需要一个统一的对外调用名，而它的后端由流量规则决定；或要手动为一组上游建立模型。

操作步骤

1. 在「模型」页选择「新建模型」。
2. 填写「调用名」：调用方请求时使用的名字，不区分大小写，租户内唯一，创建后不可修改；只允许英文字母、数字与可见符号，不含空格。
3. 填写「显示名」（留空时显示调用名）；可选「参考模型」，带出该模型的能力声明与说明。
4. 在「上游」中添加要关联的上游。启用了流量治理时可以不关联上游，此时模型只能由流量规则提供后端；未启用流量治理时至少关联一个上游。
5. 确认创建。

你会看到：没有上游的模型创建后状态为「无可用后端」，调用返回 503。在它的「流量规则」页签新建一条规则为它指定目标后，状态变为「可用（由规则提供）」；规则只对部分调用方生效时为「部分调用可用」。把模型加入模型分组后，分组可用范围内的成员即可在模型广场看到并调用它。

注意：为无上游模型提供后端的规则，其目标要覆盖模型声明的能力，否则保存时会提示能力不符。

6.4 关联、改挂与合并

适用场景：两个不同名的模型其实是同一个模型，需要合并；或某个上游关联错了模型。

操作步骤

• 关联已有上游：在模型 A 的「上游」页签选择「关联已有上游」，可以选当前挂在其他模型下的上游，即把它改挂到 A。
• 改为关联到其他模型：在上游行的操作中选择「改为关联到…」，选择目标模型，或选择「改为新建一个模型」。

两种操作在确认前都会计算影响：两边模型的上游数变化（「上游数 N → M」）与所属分组。确认后一次完成，不会出现上游暂时不属于任何模型的状态。

合并后，原模型 B 若已没有上游，可以保留（由流量规则提供后端）或删除。

停用上游：沿用供应商「模型与价格」中的启用开关。停用后上游仍属于原模型；该上游被流量规则作为目标引用时，停用会被拒绝，需先修改规则。

供应商侧下线：供应商同步时某个上游已不再提供，平台不经确认地把它标为「供应商已下线」，模型状态变为「部分上游失效」，配置检查会标出把它作为目标的规则。

6.5 删除模型

适用场景：清理不再使用的模型。

操作步骤：在模型详情右上角选择删除。平台先检查删除影响，再给出确认框。

你会看到

• 仍有启用的上游时，删除被阻止：「以下上游仍在启用，请先改为关联到其他模型或停用」。
• 模型仍在模型分组中时，删除被阻止并列出分组：「模型仍在以下分组中，请先移出」。
• 模型仍是全局设置中某个用途的默认模型时，删除被阻止：「模型仍是以下用途的默认模型，请先更换」。
• 以下情况只列出、不阻止：流量规则的条件引用了该模型（删除后条件不再匹配）；评估器、数据集运行或诊断复核选用了该模型（删除后需重新选择）；已停用的上游随删除解除关联，之后再启用它时会弹出「将成为模型」确认。
• 没有任何影响时显示「删除不影响其他配置。」。

注意：删除不可恢复。删除后调用该调用名返回 404 model_not_found。

6.6 模型分组

适用场景：向成员或业务系统开放一组模型，并为它们设置可用范围与额度。

模型分组是授权、配额、专属价与 API 密钥的单位：先把模型加进分组，再把分组授权给成员、部门、职能组或工作空间（第 7 章），成员才能用绑定该分组的 API 密钥调用分组内的模型。同一个模型可以出现在多个分组中，各分组的授权、配额与计费互相独立。分组只管授权与额度，不决定调用去哪个上游。

入口：「管理后台 › 组织与权限 › 模型分组」。页面有「模型分组」与「API 密钥管理」两个页签（后者见第 9 章）。

创建模型分组

1. 选择「添加模型分组」。
2. 设置分组标志，填写名称（租户内唯一）与描述。描述写明适用任务与成本等级，成员在选择时能看到。
3. 选择「添加模型」，勾选要加入的模型。已添加的模型可以拖动调整显示顺序，不需要的点「移除」。
4. 保存后继续配置可用范围（第 7 章）。新建的分组没有授权给任何人，成员侧看不到它。

分组详情有「基本信息」「可用范围与配额」「调用情况」「流量规则」「操作审计」等页签。「基本信息」左侧是「发布」开关与分组级配额，右侧是成员模型表；分组专属价在成员模型下展开其上游逐个设置，因为计费按实际处理请求的上游结算。

命名与拆分建议

• 按使用目的命名与拆分，例如「通用对话」「代码助手」「低成本批处理」，不要用模型型号作为分组名。
• 需要不同的可用人群、费用上限或数据处理要求时，拆成两个分组，而不是在一个分组里靠约定区分。
• 需要处理图片的调用方，分组内至少放一个支持多模态的模型。

6.7 分组顺序与计量优先级

适用场景：一个人能通过多个分组使用同一个模型时，决定用量计入哪个分组。

分组列表的顺序就是计量优先级：调用方可用且包含所请求模型的分组中，用量计入排序最靠前且本月仍有额度的分组；全部分组额度耗尽时按额度错误拒绝。调用详情中的「计量分组」字段显示这次调用实际计入的分组。

操作步骤

1. 在「模型分组」列表中拖动分组行到目标位置。
2. 松开后先显示调序影响：受影响的人数与计量去向的变化。
3. 确认后保存新顺序。若其他管理员在此期间增删或调整过分组，保存会被拒绝，刷新后重新调整。

注意：分组顺序只影响用量计入哪个分组，不影响调用去往哪个上游，也不影响能否调用。

6.8 发布与停用分组

「基本信息」页签左侧的「发布」开关是分组的总开关：

• 开启：范围内的成员可以看到并调用分组内的模型。
• 关闭：分组下架，经该分组的调用被拒绝；授权、配额与 API 密钥都保留，重新开启后恢复。

关闭时先弹出确认框，列出停用的后果：绑定该分组的 API 密钥数量、条件中引用该分组的流量规则，以及在全局设置中受影响的功能。停用与恢复都记入操作审计。

注意：停用期间调用方收到的错误可能表现为「凭据无效」，排查「突然调不通」时先确认「发布」开关的状态，再查密钥。停用供应商（第 4 章）会影响该供应商的全部上游，范围比停用单个分组大。

6.9 提示词模板与版本

适用场景：对某一类模型调用统一加一段系统提示词（身份声明、输出格式要求、安全约束），并且希望这段文字像代码一样有版本、可切换、可回滚。

提示词维护在租户级的提示词库中，带版本以及「生产」「最新」两个标签；由流量规则的「提示词」动作按标签引用，并指定注入位置。提示词不挂在模型或模型分组上：只对某个模型或分组生效时，在流量规则里用「模型」或「模型分组」条件收窄范围。

新建提示词

操作步骤

1. 进入「管理后台 › 提示词」，选择「新建提示词」。对话框顶部说明这份提示词租户内所有工作空间可见、可被流量规则引用。
2. 填写「名称」「分组」「内容」「提交说明」。内容中用 {{name}} 或 [name] 写变量。
3. 选择「保存」。首个版本自动标为「生产」与「最新」。

你会看到：保存后进入详情页，页签为「概览」「被流量规则引用」「版本」「指标」，右上角是「新建版本」「发送给智能体」「删除」，页头标明来源为「租户」。概览原样展示正文，下方「变量」区列出识别出的变量。

网关能渲染的只有这组系统变量：{{tenant}}（当前租户）、{{principal.user}}（调用方成员）、{{principal.agent}}（调用方智能体）、{{principal.credential}}（本次调用的凭据）、{{route}}（命中的路由）、{{request_id}}（平台调用号）、{{client_request_id}}（调用方传入的 X-Request-Id，未传或格式不合法时为空）。

注意：用户输入不会被填进模板变量。正文里写了这组之外的变量（例如 {{产品名}}）不会被替换成调用方传来的值，引用该提示词的规则保存时会报错。

在流量规则中引用提示词

操作步骤

1. 进入「管理后台 › 流量 › 流量规则」，新建或编辑规则，用条件收窄范围，例如「模型分组 = 通用对话」且「调用类型 = 模型调用」。
2. 添加处置动作「提示词」，选择提示词、标签（如 production）和注入位置（前置或后置）。
3. 保存并确认规则（流量规则的完整操作见第 15 章）。

你会看到：命中规则的一次调用，在「运行总览 › 请求」的「发往上游的请求」中，第一条是注入的 system 消息，变量已渲染为实际值，用户消息排在其后；「客户端请求」里没有这条消息。

管理版本、切换与回滚

操作步骤

1. 在提示词详情选择「新建版本」，修改内容、填写提交说明；需要立即生效时勾选「同时标为生产版本」。
2. 保存后在「版本」页签查看全部版本及各自的提交说明与标签。
3. 切换：选中某个版本，把它标为生产版本。
4. 回滚：选中旧版本，选择「以此内容创建新版本」，再把新版本标为生产。这样既恢复旧内容，又保留「谁在什么时候回滚」的记录。

你会看到：新增版本后版本数从 1 变 2，最新创建的版本带「最新」，被标为生产的版本带「生产」。

注意：

• 「生产」标签被规则引用时解析成一个固定版本。把标签移到新版本后，引用它的规则需要重新发布才生效，生效时间约十几秒。
• 回滚是「用旧内容创建一个新版本」而非把指针退回去，因此版本历史完整保留，不会出现版本号倒流。
• 注入只有前置与后置两个位置，且都是追加，不覆盖调用方自带的 system 消息；用户输入始终夹在两者之间。
• 提示词的效果取决于模型是否遵循 system 指令。需要拦截提示注入时，配合「内容检测 · 对话内容」的模型判断（第 14 章），不能只靠提示词。

引用关系

「被流量规则引用」页签列出引用它的流量规则，含名称、优先级与状态：

修改或删除提示词前先在这里确认影响范围；列表为空说明当前没有规则引用它。

6.10 删除分组与引用保护

操作步骤：在「模型分组」列表行末「…」›「删除」。平台先检查引用关系，再给出确认框。

你会看到

• 没有阻止删除的引用时，确认框只有不可恢复的提示与取消、删除两个按钮。
• 仍有引用时，弹出「暂不能删除模型分组」，分组列出：正在使用该分组的全局设置功能，以及已发布的价格、计费记录等受保护记录。处理后选择「我已处理，重新检查」。
• 仍有流量规则的「模型分组」条件引用它时，确认框列出这些规则并附「去修改」。

删除分组成功后，分组的授权与配额随之失效，绑定该分组的 API 密钥不能再调用。确认框不列出可用范围与 API 密钥明细，删除前请自行核对。生产环境建议先关闭「发布」观察一段时间，确认无人使用后再删。所有删除操作都记入操作审计（第 22 章）。

6.11 操作审计

适用场景：回溯某个模型或模型分组最近被谁改过、什么时候停用过。

模型与模型分组详情的「操作审计」页签记录该对象上的变更，每条含操作人、时间、来源与操作类型。分组「发布」开关的每次开启与关闭各记一条，因此「谁在什么时候把分组停掉了」可以直接在这里查到。

注意：这个页签只覆盖当前对象。要跨对象查询（例如「某个人今天改了哪些分组」），到「管理后台 › 审计与合规 › 操作审计」按操作人、时间与关键词检索（第 22 章）。

能力说明

---

上一章：5. 模型定价与分类 · 下一章：7. 配置模型分组的可用范围与配额