Skip to content

模型配置

概述

系统统一通过 系统设置 → 模型配置 页面管理所有模型(对话模型、嵌入模型、重排模型),无需修改配置文件。

配置路径

系统设置 → 模型配置

API 凭证配置

支持两种凭证配置方式:

方式适用场景
环境变量生产环境或不愿在界面暴露 Key 的场景
直接填写开发调试,追求配置便利性

环境变量方式:在供应商配置中填写变量名(如 SILICONFLOW_API_KEY),确保运行时环境已配置对应变量。

直接填写方式:在供应商配置中直接填入 API Key。

供应商管理

内置供应商模板

系统启动时会同步一组内置 provider 模板。模板只提供 Provider ID、Base URL、凭证环境变量和远端模型发现地址;实际是否可用仍取决于你是否配置凭证、启用供应商并添加模型。

供应商Provider ID支持类型凭证环境变量
OpenAIopenaichatOPENAI_API_KEY
DeepSeekdeepseekchatDEEPSEEK_API_KEY
DashScopealibabachat, embedding, rerankDASHSCOPE_API_KEY
Aliyun Coding Planalibaba-coding-plan-cnchatDASHSCOPE_API_KEY
Aliyun Coding Plan Internationalalibaba-coding-planchatDASHSCOPE_API_KEY
Zhipu BigModelzhipuaichatZHIPUAI_API_KEY
Zhipu BigModel Coding Planzhipuai-coding-planchatZHIPUAI_API_KEY
Z.AIzaichatZAI_API_KEY
Z.AI Coding Planzai-coding-planchatZAI_API_KEY
XiaomiMiMo Token Planxiaomi-token-plan-cnchatXIAOMI_MIMO_TOKEN_PLAN_API_KEY
XiaomiMiMoxiaomichatXIAOMI_MIMO_API_KEY
Kimi Codekimi-for-codingchatKIMI_CODE_API_KEY
Moonshotmoonshotai-cnchatMOONSHOT_API_KEY
Moonshot InternationalmoonshotaichatMOONSHOT_API_KEY
MiniMaxminimax-cnchatMINIMAX_API_KEY
MiniMax InternationalminimaxchatMINIMAX_API_KEY
OpenRouteropenrouterchat, embeddingOPENROUTER_API_KEY
ModelScopemodelscopechatMODELSCOPE_ACCESS_TOKEN
OpenCodeopencodechat无默认环境变量
SiliconFlowsiliconflow-cnchat, embedding, rerankSILICONFLOW_API_KEY
SiliconFlow Internationalsiliconflowchat, embedding, rerankSILICONFLOW_GLOBAL_API_KEY

其中 alibabasiliconflow-cn 预置了部分 embedding / rerank 模型;其他供应商通常需要进入详情页通过「获取远程模型」或「手动添加」补充模型。

操作流程

  1. 新增供应商:点击「新增供应商」,填写基本信息(Provider ID、Base URL 等)
  2. 配置凭证:填写 API Key 或环境变量名
  3. 启用供应商:开启供应商状态开关
  4. 获取模型:进入供应商详情,点击「获取远程模型」从 API 拉取可用模型列表

模型管理

添加模型

方式一:从远端拉取

进入供应商详情 → 点击「获取远程模型」→ 从候选列表中选择添加

方式二:手动添加

进入供应商详情 → 点击「手动添加」→ 填写模型 ID 和类型

配置参数

嵌入模型(embedding)需配置向量维度,请参考模型提供商的规格说明。

移除模型

在供应商详情的已启用模型列表中移除不需要的模型。

模型标识格式

运行时模型统一使用 provider_id:model_id 格式,例如 siliconflow-cn:Pro/BAAI/bge-m3model_id 可以包含 /,系统只按第一个 : 区分供应商与模型 ID。

旧版 provider/model、旧版知识库 JSON 模型字段、配置文件中的 model_names / embed_model_names / reranker_names 不再作为运行时模型来源。历史知识库或 Agent 配置如果仍保存旧格式,需要在界面中重新选择新版模型后保存。

Ollama 支持

当前版本不再内置 Ollama provider type,也不再提供 Ollama embedding 运行时适配。已有 Ollama embedding 知识库需要管理员选择新的 embedding 模型并重建索引,避免不同向量空间混用。

常见问题

凭证缺失警告:检查 API Key 是否正确配置,或确认环境变量是否已设置。

模型配置未生效:确认模型已添加至供应商的已启用列表中。

本项目基于 MIT License 开源,欢迎使用和贡献。