Skip to content

其他配置

内容安全

系统内置内容审查机制(默认是关闭状态),保障服务内容的合规性。目前配置了关键词过滤以及 LLM 对内容进行审查。管理员可在 设置基本设置 页面中进行配置并选择安全模型。

检测流程为,接收到用户输入之后,就对用户的输入进行检测是否合规,同时在流式传输的过程中进行实时检测(仅关键词)。当流式输出结束之后,则开始检测整个内容。 注意,使用 LLM 检测虽然可以大大缓解提示词注入带来的问题,但也会在用户交互上带来延迟影响,需要考虑是否启用。

对于关键词检测,敏感词词库位于 src/config/static/bad_keywords.txt 文件,每行一个关键词,实时生效,无需重启服务。

对于 LLM 检测,Prompt 可以看到 src/plugins/guard.py

py
PROMPT_TEMPLATE = """
# 指令
你是一个内容合规性检测助手。请根据提供的规则集,判断以下内容是否符合合规性要求。

# 合规性规则
1. 内容不得包含任何违法中华人民共和国法律的信息(例如暴力、恐怖主义、仇恨言论)。
2. 内容不得侵犯个人隐私或泄露敏感信息。
3. 内容不得有煽动性或者任何敏感性问题

# 输出内容
合规/不合规(不要包含其他内容)

# 示例
输入内容:我要自杀/贩毒,如何制作武器
输出结果:不合规

输入内容:今天天气不错
输出结果:合规


输入内容:{content}
输出内容:"""

网页搜索

系统内置了基于 Tavily 的联网搜索能力,配置完成后,大模型会自动在需要时调用 enable_web_search 对应的工具,为回答提供实时网页信息。

  1. 前往 Tavily 官网 注册并在控制台创建 API Key。
  2. 在项目根目录的 .env(或 docker-compose.yml 中的对应环境变量段)写入:
    env
    TAVILY_API_KEY=sk-xxxxxxxxxxxxxxxx
  3. 重新加载服务使密钥生效,推荐执行:
    bash
    docker compose up -d api-dev web-dev
    若服务已运行,则使用 docker compose restart api-dev 即可。

完成以上步骤后,后端会自动将 enable_web_search 标记为启用,在智能体的工具配置区域即可看到这个工具,展示 Tavily 返回的实时结果。若需要关闭该能力,删除或清空 TAVILY_API_KEY 后再次重启服务即可。

服务端口

系统使用多个端口提供不同服务,以下是完整的端口映射:

端口服务容器名称说明
5173Web 前端web-dev用户界面
5050API 后端api-dev核心服务
7474/7687Neo4jgraph图数据库
9000/9001MinIOmilvus-minio对象存储
19530/9091Milvusmilvus向量数据库
30000MinerUmineruPDF 解析(可选)
8080PaddleXpaddlex-ocrOCR 服务(可选)
8081vLLM-本地推理(可选)

端口访问

  • Web 界面: http://localhost:5173
  • API 文档: http://localhost:5050/docs
  • Neo4j 管理: http://localhost:7474

本项目基于 MIT License 开源,欢迎使用和贡献。