模型广场
📖 适合谁:平台管理员 / AI 应用开发者 —— 想知道"现在有哪些模型能用、哪个在冷却、多少钱一次",以及想把平台能力接进 Claude Desktop、Cherry Studio 这类外部 AI 客户端的人
📖 阅读时长:7 分钟
📖 一句话:模型广场(
/model-plaza)是模型的统一视图——健康状态、延迟、价格、能力标签一目了然,并可配置智能路由;MCP 服务(在「API 接口」页内,/platform-api-console)把平台的知识库检索、数据中台、知识图谱、文档图片、LLM-Wiki 五类能力包装成标准 MCP 服务,外部 AI 客户端用同一把 API Key 即可接入。
模型广场不负责接入模型。接入(填 API Key、加模型)在「模型提供商」页,广场只负责展示与调控。
功能全景
一、主要能力
模型广场
| 能力 | 说明 |
|---|---|
| 模型总览网格 | 响应式卡片网格,每页 12 张,展示图标、名称、厂商、健康状态、价格、能力标签、平均延迟 |
| 健康状态三态 | 正常 / 冷却中(显示连续失败次数与剩余冷却秒数)/ 已屏蔽(配额或鉴权错误导致的永久屏蔽) |
| 顶部统计条 | 模型总数 / 正常可用 / 冷却中 / 已屏蔽 |
| 搜索与筛选 | 按关键词搜索(模型名 / 厂商 / 显示名 / 公开模型 ID),按类型筛选,按状态筛选 |
| 价格展示 | 百万 Token 价格(输入 / 输出),仅在填了价格时显示 |
| 能力标签 | 上下文长度窗口、视觉、工具调用等能力徽标 |
| 手动重置故障 | 对不健康的模型一键重置冷却与失败计数(仅管理员) |
| 编辑模型信息 | 修改主模型类型、能力标签、多模态支持、上下文长度、输入 / 输出价格(仅管理员) |
| 智能路由 | 按任务类型(代码 / 推理 / 对话 / 创意 / 摘要 / 翻译 / Agent / 默认)配置主模型与路由策略,另可指定分类器模型 |
| 虚拟路由模型 | 内置 auto(粘性稳定路由,缓存优先)与 smart-auto(动态意图路由)两个虚拟模型 |
MCP 服务
| 能力 | 说明 |
|---|---|
| 5 个独立 MCP 实例 | 知识库(/kb)、数据中台(/datahub)、文档图片(/image)、知识图谱(/graph)、LLM-Wiki(/wiki),同一把 Key 通用 |
| 两种传输方式 | 标准 StreamableHTTP(/<实例>/mcp)与兼容 SSE(/<实例>/sse) |
| 三种接法一键复制 | StreamableHTTP / SSE header / SSE ?api_key=,每种都可直接复制配置 JSON |
| 工具目录可视化 | 每个实例下按分组列出全部工具:工具名 / 说明 / 参数(* 必填) |
| 接入示例 | 内置 Python 与 SSE 两种语言的调用示例 |
| 「填入我的 Key」 | 二次确认后把当前 Key 注入配置 JSON,省去手工替换 |
| MCP 调用密钥管理 | 新建 / 禁用 / 吊销密钥,绑定调用方账号,查看最近使用时间(仅超管) |
| 审计与可追踪 | 记录 mcp.call、mcp.auth_failed、mcp.key.create/toggle/revoke 等事件;绑定账号后出口审计可追到具体调用方 |
二、典型应用场景
- 一眼看清模型健康状况:早上打开广场,红色「已屏蔽」和橙色「冷却中」先处理,不用等业务报障才发现某个模型挂了。
- 成本对比与选型:把候选模型的价格、上下文窗口、能力标签并排看,挑性价比最高的那个。
- 故障快速恢复:某个模型因临时抖动进入冷却,管理员点 「重置」 立刻恢复可用,不用等冷却自然结束。
- 按任务分流降本:在智能路由里把「简短对话」「摘要」指到便宜模型,把「推理」「代码」指到强模型——简单任务省钱、复杂任务保质。
- 把平台知识接进 Claude Desktop:在 MCP 服务页复制配置 JSON,粘到 Claude Desktop / Cherry Studio 的 MCP 配置里,外部 AI 立刻能检索你们的知识库。
- 给数据团队单独发一把 Key:新建一把绑定账号的 MCP 调用密钥交给数据团队,出口审计能追到具体是谁在调、调了什么,而不是一笔糊涂账。
三、界面与操作
1. 入口与页签
模型广场是一级导航,页面内含四个页签:
| 页签 | 去向 |
|---|---|
| 模型提供商 | 跳 /model-provider(仅管理员可见,非管理员不渲染此页签) |
| 模型广场 | 本页 /model-plaza |
| API 接口 | 跳 /platform-api-console(MCP 服务在此页内) |
| 智能路由 | 本页 /model-plaza?tab=routing |
这三个页面(含
/model-provider、/platform-api-console)在顶部导航里统一高亮为「模型广场」,不来回跳。
权限:模型广场对所有登录用户开放,但非管理员是只读模式——页面顶部显示 Alert「(只读)」「仅管理员可修改智能路由,普通用户仅可查看当前配置」;卡片不可编辑、不可重置;「模型提供商」页签不渲染(直接访问 /model-provider 会被重定向回广场)。
2. 模型广场页布局
自上而下:页签 → 统计条 → 筛选条 → 卡片网格 → 分页。
统计条(4 张卡):模型总数 / 正常可用 / 冷却中 / 已屏蔽。
筛选条
- 搜索框,占位符 「搜索模型...」,命中模型名、厂商、显示名、公开模型 ID。
- 「按类型筛选」 + 「全部」 按钮。
- 「按状态筛选」 + 「全部 / 正常 / 冷却中 / 已屏蔽」。
模型卡片字段
| 区域 | 内容 |
|---|---|
| 头部 | 品牌图标 + 模型显示名 + 副标题(显示名 / 厂商);管理员另有一个铅笔按钮,悬浮提示 「编辑模型信息」 |
| 健康徽标 | 正常 / 冷却中 / 已屏蔽;悬浮显示细节:冷却中显示「连续失败: N」与「剩余冷却: Ns」,已屏蔽显示「永久屏蔽 (quota/auth 错误)」 |
| 价格徽标 | 填了价格才显示:「百万Token价格:」 ¥X /M入 ¥Y /M出 |
| 能力标签 | 上下文长度窗口徽标 + 其它能力标签 |
| 底部 | 模型类型标签 + 「平均延迟: Nms」 + 「重置」 按钮(仅管理员,且仅在不健康时出现) |
空态:标题 「暂无模型」;普通用户看到 「系统管理员暂未配置可用模型,请联系管理员添加。」
编辑弹窗(标题「编辑模型配置 — <模型名>」,按钮 保存配置 / 取消)
| 字段 | 说明 |
|---|---|
| 主模型类型 | 下拉选择 |
| 能力与分类标签 (Tags) | 支持多个。候选:CHAT 对话生成 / EMBEDDING 向量嵌入 / RERANK 检索重排 / IMAGE2TEXT 图片图文提取 / VISION 视觉多模态 / TOOLS 工具函数调用 / REASONING 深度推理 / CODE 代码能力 / SPEECH2TEXT 语音转文字 / TTS 文字转语音 / OCR 光学字符识别 |
| 是否支持多模态 (Vision) | 开关 |
| 上下文长度 (Max Tokens) | 1024 – 2048000 |
| 百万输入 Token 价格 (¥/1M tokens) | 数值 |
| 百万输出 Token 价格 (¥/1M tokens) | 数值 |
3. 智能路由面板
- 按任务类型分行配置:代码 / 推理 / 对话 / 创意 / 摘要 / 翻译 / Agent / 默认。
- 每行设 「主模型」 与 「策略」:最佳匹配 / 快速廉价 / 长上下文 / 默认。
- 另可指定 「分类器模型」(用于判定请求属于哪类任务)。
- 按钮:「保存配置」 / 「恢复默认」。
- 非管理员只读。
4. MCP 服务入口与布局
进入 「API 接口」 页(/platform-api-console),内含两个相关页签:
| 页签 | 可见性 |
|---|---|
| MCP 服务 | 所有登录用户 |
| MCP 调用密钥 | 仅超级管理员 |
MCP 服务页布局
- 左侧服务列表:「全部 MCP」 + 5 个服务;每项副标题显示
主机:端口 · 工具数。 - 右侧详情区:
- 标题 + 端点标签。
- Segmented 切换器:
StreamableHTTP/SSE header/SSE ?api_key三种接法。 - 「复制」 按钮——直接复制当前接法的配置 JSON。
- 服务简介 + 能力列表 + 配置 JSON 代码块。
- 工具清单表:表头
工具名 / 说明 / 参数(* 必填)。 - 「接入示例」 折叠面板:Python / SSE 两个 Tab。
- 卡头按钮:「填入我的 Key」(二次确认后把解密后的 Key 注入 JSON)、「刷新」。
- 提示语:「以下端点与模型广场使用同一 API Key:」、「动态技能(skill__*)需直连 MCP 网关做 tools/list 获取,不在此目录中」。
- 空态:「暂无工具目录,创建 Key 后自动加载」。
5. 五个 MCP 实例与工具
| 实例 | 标题 | 路径前缀 | 工具前缀 |
|---|---|---|---|
knowledge | 知识库 MCP | /kb | ragflow_retrieval / kb_* |
datahub | 数据中台 MCP | /datahub | dh_* |
image | 文档图片 MCP | /image | kb_get_image / kb_describe_image |
graph | 知识图谱 MCP | /graph | graph_* |
wiki | LLM-Wiki MCP | /wiki | wiki_* |
主要工具
| 实例 | 工具 |
|---|---|
| 知识库(9 个) | ragflow_retrieval、kb_retrieval(同能力别名)、kb_list_datasets、kb_get_dataset、kb_list_documents、kb_upload_document(唯一的写工具)、kb_list_chunks、kb_get_chunk、kb_get_knowledge_graph |
| 文档图片(2 个) | kb_get_image、kb_describe_image |
| 数据中台(23 个) | 智能问数、目录检索、数据集与字段、指标(列表 / 查询 / 趋势 / 批量)、标签与用户画像、人群、血缘与影响分析、质量、安全报告、DataOps、异常检测与根因、合规等 |
| 知识图谱(15 个) | graph_search、graph_get_entity、graph_relations、graph_path、graph_neighbors、graph_subgraph、graph_cypher、graph_ontology、graph_stats、graph_summary、graph_pagerank、graph_centrality、graph_community、graph_similar、graph_duplicates |
| LLM-Wiki(6 个) | 查开关状态、总览、健康、条目列表、审查报告、巡检历史——全部只读 |
动态技能(
skill__<名称>)默认不暴露到工具目录,需要直连 MCP 网关做tools/list获取。
6. MCP 调用密钥管理(仅超管)
Card 标题「MCP 调用密钥」,按钮 「刷新」 / 「新建密钥」。
说明文案:「绑定账号后,MCP 出口审计可追踪到具体调用方账号(个人级 key);不绑定则为 企业共享 key。密钥明文仅在创建时显示一次。」
表格列:ID / 名称 / 账号(调用方)/ 角色 / 作用域 / 状态 / 最近使用 / 操作。
状态:启用 / 已禁用 / 已吊销。
操作:「禁用 / 启用」(切换)、「吊销」(二次确认「吊销后该密钥立即失效,确认?」)。
新建弹窗(标题「新建 MCP 调用密钥」)
| 字段 | 说明 |
|---|---|
| 密钥名称 | 占位「如 张三-个人 / 数据团队」 |
| 绑定账号(邮箱 / 昵称) | 提示「选择后该 key 归属该账号,审计可追踪调用方;留空为企业共享 key」 |
| 角色快照(可选) | 提示 「仅记录不授权」 |
| 作用域 | 个人级(需绑定账号) / 企业共享,默认个人级 |
| 到期时间(可选) | ISO8601 格式 |
创建成功弹窗标题 「MCP 密钥已创建(仅显示一次,请立即保存)」,带 「复制密钥」 按钮。
四、最佳实践
模型广场
- 每天先看统计条:「已屏蔽」和「冷却中」不为零就该处理——重置或换模型。别等业务侧报"AI 不回话了"才发现。
- 价格要自己填⚠️:广场上的价格是管理员手工录入的值,不会自动从任何计费系统同步。填错会误导选型,改价后请复核。
- 「重置」是急救不是修复:重置只清掉冷却与失败计数,不解决根因。如果某个模型反复进冷却,先查 Key 是否失效、配额是否用尽、网络是否通。
- 智能路由按"成本敏感度"配:摘要、翻译、简短对话这类量大又不需要顶级智力的任务,指到便宜模型;推理、代码、Agent 这类指到强模型。这是最直接的降本手段。
- 虚拟模型
auto/smart-auto不是真模型:它们是路由入口(auto粘性稳定、smart-auto动态意图分发)。改智能路由配置会直接影响所有用这两个入口的调用方。 - 非管理员改不了就找管理员:广场对普通用户是只读的。看到「已屏蔽」想重置、看到价格错想改,都需要管理员账号。
MCP 服务
- Key 明文只显示一次:新建密钥弹窗关掉就再也看不到明文了(库里只存指纹 / 密文)。当场复制保存到密码管理器,别指望事后找回。
- 「角色快照」不授权,别指望它:密钥上填的角色只是审计快照,不参与权限判定。真实权限由服务端按账号身份解析。想控制权限请从账号下手。
- 要给个人用就绑定账号:不绑定就是企业共享 Key——出现问题查不到是谁在调。给团队个人发 Key 时一定绑定账号,出口审计才追得回人。
- 能吊销就不要留:人员离职或 Key 疑似泄露,直接**「吊销」**——吊销后立即失效,且不能恢复(与"禁用"不同,禁用可以再启用)。
- SSE 接法的浏览器限制:浏览器的
EventSource不能自定义请求头,所以只能用?api_key=的接法。用 Python / Node 客户端时优先 StreamableHTTP。 - 配置 JSON 必须包一层
mcpServers:直接贴type / url / headers的话,解析器会把它们误当成服务器名。用页面上的 「填入我的 Key」 最省事。 - 401 多半是 Key 太旧:客户端报 401 先检查用的是不是旧版 Key / 是否已被吊销;长连接读超时多半是反向代理的缓冲导致,不是模型或工具的问题。
- 知识图谱类调用有额外限流:重量级的图谱查询(路径、子图、PageRank 等)走独立限流桶,限流器故障时会直接拒绝重操作(fail-closed)。批量跑图谱查询前先评估频率。
kb_upload_document是唯一会写数据的工具:其余工具都是只读。要开放给外部客户端时留意这一个——只读场景可以把它的权限收紧。