Skip to content

模型配置

概述

系统统一通过 系统设置 → 模型配置 页面管理所有模型(对话模型、嵌入模型、重排模型),无需修改配置文件。

配置路径

系统设置 → 模型配置

API 凭证配置

支持两种凭证配置方式:

方式适用场景
环境变量生产环境或不愿在界面暴露 Key 的场景
直接填写开发调试,追求配置便利性

环境变量方式:在供应商配置中填写变量名(如 SILICONFLOW_API_KEY),确保运行时环境已配置对应变量。

直接填写方式:在供应商配置中直接填入 API Key。

供应商管理

内置供应商

部分供应商默认启用,首次使用需配置 API 凭证:

供应商Provider ID支持类型备注
SiliconFlowsiliconflow-cnchat, embedding, rerank默认启用
OpenAIopenaichat
DeepSeekdeepseekchat
阿里云百炼alibabachat
智谱清言zhipuaichat
MiniMaxminimax-cnchat
OpenRouteropenrouterchat, embedding

操作流程

  1. 新增供应商:点击「新增供应商」,填写基本信息(Provider ID、Base URL 等)
  2. 配置凭证:填写 API Key 或环境变量名
  3. 启用供应商:开启供应商状态开关
  4. 获取模型:进入供应商详情,点击「获取远程模型」从 API 拉取可用模型列表

模型管理

添加模型

方式一:从远端拉取

进入供应商详情 → 点击「获取远程模型」→ 从候选列表中选择添加

方式二:手动添加

进入供应商详情 → 点击「手动添加」→ 填写模型 ID 和类型

配置参数

嵌入模型(embedding)需配置向量维度,请参考模型提供商的规格说明。

移除模型

在供应商详情的已启用模型列表中移除不需要的模型。

旧版配置兼容性

本次更新前通过环境变量配置的模型(如 SILICONFLOW_API_KEY)依然有效,系统自动适配。旧配置不受影响,新增或修改模型时请使用新版界面。

常见问题

凭证缺失警告:检查 API Key 是否正确配置,或确认环境变量是否已设置。

模型配置未生效:确认模型已添加至供应商的已启用列表中。

本项目基于 MIT License 开源,欢迎使用和贡献。