Skip to content

模型配置

概述

系统统一通过 智能体管理 → 模型供应商 页面管理所有模型(对话模型、嵌入模型、重排模型),无需修改配置文件。

配置路径

智能体管理 → 模型供应商

模型供应商页签仅管理员可见。如果当前账号不是管理员,只能看到普通的智能体管理和个人设置入口。

API 凭证配置

支持两种凭证配置方式:

方式适用场景
环境变量生产环境或不愿在界面暴露 Key 的场景
直接填写开发调试,追求配置便利性

环境变量方式:在供应商配置中填写变量名(如 SILICONFLOW_API_KEY),确保运行时环境已配置对应变量。

直接填写方式:在供应商配置中直接填入 API Key。

供应商管理

内置供应商模板

系统启动时会同步一组内置 provider 模板。模板只提供 Provider ID、Base URL、凭证环境变量和远端模型发现地址;实际是否可用仍取决于你是否配置凭证、启用供应商并添加模型。

供应商Provider ID支持类型凭证环境变量
OpenAIopenaichatOPENAI_API_KEY
DeepSeekdeepseekchatDEEPSEEK_API_KEY
DashScopealibabachat, embedding, rerankDASHSCOPE_API_KEY
Aliyun Coding Planalibaba-coding-plan-cnchatDASHSCOPE_API_KEY
Aliyun Coding Plan Internationalalibaba-coding-planchatDASHSCOPE_API_KEY
Zhipu BigModelzhipuaichatZHIPUAI_API_KEY
Zhipu BigModel Coding Planzhipuai-coding-planchatZHIPUAI_API_KEY
Z.AIzaichatZAI_API_KEY
Z.AI Coding Planzai-coding-planchatZAI_API_KEY
XiaomiMiMo Token Planxiaomi-token-plan-cnchatXIAOMI_MIMO_TOKEN_PLAN_API_KEY
XiaomiMiMoxiaomichatXIAOMI_MIMO_API_KEY
Kimi Codekimi-for-codingchatKIMI_CODE_API_KEY
Moonshotmoonshotai-cnchatMOONSHOT_API_KEY
Moonshot InternationalmoonshotaichatMOONSHOT_API_KEY
MiniMaxminimax-cnchatMINIMAX_API_KEY
MiniMax InternationalminimaxchatMINIMAX_API_KEY
OpenRouteropenrouterchat, embeddingOPENROUTER_API_KEY
ModelScopemodelscopechatMODELSCOPE_ACCESS_TOKEN
OpenCodeopencodechat无默认环境变量
OpenCode Goopencode-gochat无默认环境变量
SiliconFlowsiliconflow-cnchat, embedding, rerankSILICONFLOW_API_KEY
SiliconFlow Internationalsiliconflowchat, embedding, rerankSILICONFLOW_GLOBAL_API_KEY

其中 alibabasiliconflow-cn 预置了部分 embedding / rerank 模型;其他供应商通常需要进入详情页通过「获取远程模型」或「手动添加」补充模型。

操作流程

  1. 新增供应商:点击「新增供应商」,填写基本信息(Provider ID、Base URL 等)
  2. 配置凭证:填写 API Key 或环境变量名
  3. 启用供应商:开启供应商状态开关
  4. 获取模型:进入供应商详情,点击「获取远程模型」从 API 拉取可用模型列表

模型管理

添加模型

方式一:从远端拉取

进入供应商详情 → 点击「获取远程模型」→ 从候选列表中选择添加

方式二:手动添加

进入供应商详情 → 点击「手动添加」→ 填写模型 ID 和类型

配置参数

嵌入模型(embedding)需配置向量维度,请参考模型提供商的规格说明。

OpenAI 兼容供应商的对话模型可在「模型请求参数 JSON」中配置思考模式。这里填写的 JSON 会作为 OpenAI SDK 的 extra_body 传入;SDK 会将其中字段合并到最终 HTTP 请求体顶层。

出于安全考虑,该配置采用白名单机制,仅允许以下顶层字段:

字段常见供应商或用途
enable_thinkingDashScope、SiliconFlow 等供应商的思考开关
thinking_budgetDashScope、SiliconFlow 等供应商的思考 Token 预算
thinkingDeepSeek、智谱、Kimi、火山方舟等供应商的思考配置对象
reasoningOpenRouter 等供应商的推理配置对象
reasoning_effortOpenAI 风格的推理强度

白名单只校验顶层字段,thinkingreasoning 等对象的内部结构由对应供应商校验。不同模型支持的取值和预算范围可能不同,应以供应商的当前文档为准。项目维护者如需支持新的顶层字段,可修改 backend/package/yuxi/models/providers/service.py 中的 ALLOWED_EXTRA_BODY_FIELDS,并补充相应测试和本文档。

例如,关闭思考:

json
{
  "enable_thinking": false
}

限制思考预算:

json
{
  "enable_thinking": true,
  "thinking_budget": 1024
}

移除模型

在供应商详情的已启用模型列表中移除不需要的模型。

模型标识格式

运行时模型统一使用 provider_id:model_id 格式,例如 siliconflow-cn:Pro/BAAI/bge-m3model_id 可以包含 /,系统只按第一个 : 区分供应商与模型 ID。

旧版 provider/model、旧版知识库 JSON 模型字段、配置文件中的 model_names / embed_model_names / reranker_names 不再作为运行时模型来源。历史知识库或 Agent 配置如果仍保存旧格式,需要在界面中重新选择新版模型后保存。

Ollama 支持

当前版本不再内置 Ollama provider type,也不再提供 Ollama embedding 运行时适配。已有 Ollama embedding 知识库需要管理员选择新的 embedding 模型并重建索引,避免不同向量空间混用。

本项目基于 MIT License 开源,欢迎使用和贡献。