跳到主要内容

模型广场

📖 适合谁:平台管理员 / AI 应用开发者 —— 想知道"现在有哪些模型能用、哪个在冷却、多少钱一次",以及想把平台能力接进 Claude Desktop、Cherry Studio 这类外部 AI 客户端的人

📖 阅读时长:7 分钟

📖 一句话:模型广场(/model-plaza)是模型的统一视图——健康状态、延迟、价格、能力标签一目了然,并可配置智能路由;MCP 服务(在「API 接口」页内,/platform-api-console)把平台的知识库检索、数据中台、知识图谱、文档图片、LLM-Wiki 五类能力包装成标准 MCP 服务,外部 AI 客户端用同一把 API Key 即可接入。

模型广场不负责接入模型。接入(填 API Key、加模型)在「模型提供商」页,广场只负责展示与调控。


功能全景​


一、主要能力​

模型广场​

能力说明
模型总览网格响应式卡片网格,每页 12 张,展示图标、名称、厂商、健康状态、价格、能力标签、平均延迟
健康状态三态正常 / 冷却中(显示连续失败次数与剩余冷却秒数)/ 已屏蔽(配额或鉴权错误导致的永久屏蔽)
顶部统计条模型总数 / 正常可用 / 冷却中 / 已屏蔽
搜索与筛选按关键词搜索(模型名 / 厂商 / 显示名 / 公开模型 ID),按类型筛选,按状态筛选
价格展示百万 Token 价格(输入 / 输出),仅在填了价格时显示
能力标签上下文长度窗口、视觉、工具调用等能力徽标
手动重置故障对不健康的模型一键重置冷却与失败计数(仅管理员)
编辑模型信息修改主模型类型、能力标签、多模态支持、上下文长度、输入 / 输出价格(仅管理员)
智能路由按任务类型(代码 / 推理 / 对话 / 创意 / 摘要 / 翻译 / Agent / 默认)配置主模型与路由策略,另可指定分类器模型
虚拟路由模型内置 auto(粘性稳定路由,缓存优先)与 smart-auto(动态意图路由)两个虚拟模型

MCP 服务​

能力说明
5 个独立 MCP 实例知识库(/kb)、数据中台(/datahub)、文档图片(/image)、知识图谱(/graph)、LLM-Wiki(/wiki),同一把 Key 通用
两种传输方式标准 StreamableHTTP(/<实例>/mcp)与兼容 SSE(/<实例>/sse)
三种接法一键复制StreamableHTTP / SSE header / SSE ?api_key=,每种都可直接复制配置 JSON
工具目录可视化每个实例下按分组列出全部工具:工具名 / 说明 / 参数(* 必填)
接入示例内置 Python 与 SSE 两种语言的调用示例
「填入我的 Key」二次确认后把当前 Key 注入配置 JSON,省去手工替换
MCP 调用密钥管理新建 / 禁用 / 吊销密钥,绑定调用方账号,查看最近使用时间(仅超管)
审计与可追踪记录 mcp.call、mcp.auth_failed、mcp.key.create/toggle/revoke 等事件;绑定账号后出口审计可追到具体调用方

二、典型应用场景​

  • 一眼看清模型健康状况:早上打开广场,红色「已屏蔽」和橙色「冷却中」先处理,不用等业务报障才发现某个模型挂了。
  • 成本对比与选型:把候选模型的价格、上下文窗口、能力标签并排看,挑性价比最高的那个。
  • 故障快速恢复:某个模型因临时抖动进入冷却,管理员点 「重置」 立刻恢复可用,不用等冷却自然结束。
  • 按任务分流降本:在智能路由里把「简短对话」「摘要」指到便宜模型,把「推理」「代码」指到强模型——简单任务省钱、复杂任务保质。
  • 把平台知识接进 Claude Desktop:在 MCP 服务页复制配置 JSON,粘到 Claude Desktop / Cherry Studio 的 MCP 配置里,外部 AI 立刻能检索你们的知识库。
  • 给数据团队单独发一把 Key:新建一把绑定账号的 MCP 调用密钥交给数据团队,出口审计能追到具体是谁在调、调了什么,而不是一笔糊涂账。

三、界面与操作​

1. 入口与页签​

模型广场是一级导航,页面内含四个页签:

页签去向
模型提供商跳 /model-provider(仅管理员可见,非管理员不渲染此页签)
模型广场本页 /model-plaza
API 接口跳 /platform-api-console(MCP 服务在此页内)
智能路由本页 /model-plaza?tab=routing

这三个页面(含 /model-provider、/platform-api-console)在顶部导航里统一高亮为「模型广场」,不来回跳。

权限:模型广场对所有登录用户开放,但非管理员是只读模式——页面顶部显示 Alert「(只读)」「仅管理员可修改智能路由,普通用户仅可查看当前配置」;卡片不可编辑、不可重置;「模型提供商」页签不渲染(直接访问 /model-provider 会被重定向回广场)。

2. 模型广场页布局​

自上而下:页签 → 统计条 → 筛选条 → 卡片网格 → 分页。

统计条(4 张卡):模型总数 / 正常可用 / 冷却中 / 已屏蔽。

筛选条

  • 搜索框,占位符 「搜索模型...」,命中模型名、厂商、显示名、公开模型 ID。
  • 「按类型筛选」 + 「全部」 按钮。
  • 「按状态筛选」 + 「全部 / 正常 / 冷却中 / 已屏蔽」。

模型卡片字段

区域内容
头部品牌图标 + 模型显示名 + 副标题(显示名 / 厂商);管理员另有一个铅笔按钮,悬浮提示 「编辑模型信息」
健康徽标正常 / 冷却中 / 已屏蔽;悬浮显示细节:冷却中显示「连续失败: N」与「剩余冷却: Ns」,已屏蔽显示「永久屏蔽 (quota/auth 错误)」
价格徽标填了价格才显示:「百万Token价格:」 ¥X /M入 ¥Y /M出
能力标签上下文长度窗口徽标 + 其它能力标签
底部模型类型标签 + 「平均延迟: Nms」 + 「重置」 按钮(仅管理员,且仅在不健康时出现)

空态:标题 「暂无模型」;普通用户看到 「系统管理员暂未配置可用模型,请联系管理员添加。」

编辑弹窗(标题「编辑模型配置 — <模型名>」,按钮 保存配置 / 取消)

字段说明
主模型类型下拉选择
能力与分类标签 (Tags)支持多个。候选:CHAT 对话生成 / EMBEDDING 向量嵌入 / RERANK 检索重排 / IMAGE2TEXT 图片图文提取 / VISION 视觉多模态 / TOOLS 工具函数调用 / REASONING 深度推理 / CODE 代码能力 / SPEECH2TEXT 语音转文字 / TTS 文字转语音 / OCR 光学字符识别
是否支持多模态 (Vision)开关
上下文长度 (Max Tokens)1024 – 2048000
百万输入 Token 价格 (¥/1M tokens)数值
百万输出 Token 价格 (¥/1M tokens)数值

3. 智能路由面板​

  • 按任务类型分行配置:代码 / 推理 / 对话 / 创意 / 摘要 / 翻译 / Agent / 默认。
  • 每行设 「主模型」 与 「策略」:最佳匹配 / 快速廉价 / 长上下文 / 默认。
  • 另可指定 「分类器模型」(用于判定请求属于哪类任务)。
  • 按钮:「保存配置」 / 「恢复默认」。
  • 非管理员只读。

4. MCP 服务入口与布局​

进入 「API 接口」 页(/platform-api-console),内含两个相关页签:

页签可见性
MCP 服务所有登录用户
MCP 调用密钥仅超级管理员

MCP 服务页布局

  • 左侧服务列表:「全部 MCP」 + 5 个服务;每项副标题显示 主机:端口 · 工具数。
  • 右侧详情区:
    • 标题 + 端点标签。
    • Segmented 切换器:StreamableHTTP / SSE header / SSE ?api_key 三种接法。
    • 「复制」 按钮——直接复制当前接法的配置 JSON。
    • 服务简介 + 能力列表 + 配置 JSON 代码块。
    • 工具清单表:表头 工具名 / 说明 / 参数(* 必填)。
    • 「接入示例」 折叠面板:Python / SSE 两个 Tab。
    • 卡头按钮:「填入我的 Key」(二次确认后把解密后的 Key 注入 JSON)、「刷新」。
    • 提示语:「以下端点与模型广场使用同一 API Key:」、「动态技能(skill__*)需直连 MCP 网关做 tools/list 获取,不在此目录中」。
    • 空态:「暂无工具目录,创建 Key 后自动加载」。

5. 五个 MCP 实例与工具​

实例标题路径前缀工具前缀
knowledge知识库 MCP/kbragflow_retrieval / kb_*
datahub数据中台 MCP/datahubdh_*
image文档图片 MCP/imagekb_get_image / kb_describe_image
graph知识图谱 MCP/graphgraph_*
wikiLLM-Wiki MCP/wikiwiki_*

主要工具

实例工具
知识库(9 个)ragflow_retrieval、kb_retrieval(同能力别名)、kb_list_datasets、kb_get_dataset、kb_list_documents、kb_upload_document(唯一的写工具)、kb_list_chunks、kb_get_chunk、kb_get_knowledge_graph
文档图片(2 个)kb_get_image、kb_describe_image
数据中台(23 个)智能问数、目录检索、数据集与字段、指标(列表 / 查询 / 趋势 / 批量)、标签与用户画像、人群、血缘与影响分析、质量、安全报告、DataOps、异常检测与根因、合规等
知识图谱(15 个)graph_search、graph_get_entity、graph_relations、graph_path、graph_neighbors、graph_subgraph、graph_cypher、graph_ontology、graph_stats、graph_summary、graph_pagerank、graph_centrality、graph_community、graph_similar、graph_duplicates
LLM-Wiki(6 个)查开关状态、总览、健康、条目列表、审查报告、巡检历史——全部只读

动态技能(skill__<名称>)默认不暴露到工具目录,需要直连 MCP 网关做 tools/list 获取。

6. MCP 调用密钥管理(仅超管)​

Card 标题「MCP 调用密钥」,按钮 「刷新」 / 「新建密钥」。

说明文案:「绑定账号后,MCP 出口审计可追踪到具体调用方账号(个人级 key);不绑定则为 企业共享 key。密钥明文仅在创建时显示一次。」

表格列:ID / 名称 / 账号(调用方)/ 角色 / 作用域 / 状态 / 最近使用 / 操作。 状态:启用 / 已禁用 / 已吊销。 操作:「禁用 / 启用」(切换)、「吊销」(二次确认「吊销后该密钥立即失效,确认?」)。

新建弹窗(标题「新建 MCP 调用密钥」)

字段说明
密钥名称占位「如 张三-个人 / 数据团队」
绑定账号(邮箱 / 昵称)提示「选择后该 key 归属该账号,审计可追踪调用方;留空为企业共享 key」
角色快照(可选)提示 「仅记录不授权」
作用域个人级(需绑定账号) / 企业共享,默认个人级
到期时间(可选)ISO8601 格式

创建成功弹窗标题 「MCP 密钥已创建(仅显示一次,请立即保存)」,带 「复制密钥」 按钮。


四、最佳实践​

模型广场​

  1. 每天先看统计条:「已屏蔽」和「冷却中」不为零就该处理——重置或换模型。别等业务侧报"AI 不回话了"才发现。
  2. 价格要自己填⚠️:广场上的价格是管理员手工录入的值,不会自动从任何计费系统同步。填错会误导选型,改价后请复核。
  3. 「重置」是急救不是修复:重置只清掉冷却与失败计数,不解决根因。如果某个模型反复进冷却,先查 Key 是否失效、配额是否用尽、网络是否通。
  4. 智能路由按"成本敏感度"配:摘要、翻译、简短对话这类量大又不需要顶级智力的任务,指到便宜模型;推理、代码、Agent 这类指到强模型。这是最直接的降本手段。
  5. 虚拟模型 auto / smart-auto 不是真模型:它们是路由入口(auto 粘性稳定、smart-auto 动态意图分发)。改智能路由配置会直接影响所有用这两个入口的调用方。
  6. 非管理员改不了就找管理员:广场对普通用户是只读的。看到「已屏蔽」想重置、看到价格错想改,都需要管理员账号。

MCP 服务​

  1. Key 明文只显示一次:新建密钥弹窗关掉就再也看不到明文了(库里只存指纹 / 密文)。当场复制保存到密码管理器,别指望事后找回。
  2. 「角色快照」不授权,别指望它:密钥上填的角色只是审计快照,不参与权限判定。真实权限由服务端按账号身份解析。想控制权限请从账号下手。
  3. 要给个人用就绑定账号:不绑定就是企业共享 Key——出现问题查不到是谁在调。给团队个人发 Key 时一定绑定账号,出口审计才追得回人。
  4. 能吊销就不要留:人员离职或 Key 疑似泄露,直接**「吊销」**——吊销后立即失效,且不能恢复(与"禁用"不同,禁用可以再启用)。
  5. SSE 接法的浏览器限制:浏览器的 EventSource 不能自定义请求头,所以只能用 ?api_key= 的接法。用 Python / Node 客户端时优先 StreamableHTTP。
  6. 配置 JSON 必须包一层 mcpServers:直接贴 type / url / headers 的话,解析器会把它们误当成服务器名。用页面上的 「填入我的 Key」 最省事。
  7. 401 多半是 Key 太旧:客户端报 401 先检查用的是不是旧版 Key / 是否已被吊销;长连接读超时多半是反向代理的缓冲导致,不是模型或工具的问题。
  8. 知识图谱类调用有额外限流:重量级的图谱查询(路径、子图、PageRank 等)走独立限流桶,限流器故障时会直接拒绝重操作(fail-closed)。批量跑图谱查询前先评估频率。
  9. kb_upload_document 是唯一会写数据的工具:其余工具都是只读。要开放给外部客户端时留意这一个——只读场景可以把它的权限收紧。