其他配置
内容安全
系统内置内容审查机制(默认是关闭状态),保障服务内容的合规性。目前配置了关键词过滤以及 LLM 对内容进行审查。管理员可在 设置 → 基本设置 页面中进行配置并选择安全模型。
检测流程为,接收到用户输入之后,就对用户的输入进行检测是否合规,同时在流式传输的过程中进行实时检测(仅关键词)。当流式输出结束之后,则开始检测整个内容。 注意,使用 LLM 检测虽然可以大大缓解提示词注入带来的问题,但也会在用户交互上带来延迟影响,需要考虑是否启用。
对于关键词检测,敏感词词库位于 src/config/static/bad_keywords.txt 文件,每行一个关键词,实时生效,无需重启服务。
对于 LLM 检测,Prompt 可以看到 src/plugins/guard.py:
py
PROMPT_TEMPLATE = """
# 指令
你是一个内容合规性检测助手。请根据提供的规则集,判断以下内容是否符合合规性要求。
# 合规性规则
1. 内容不得包含任何违法中华人民共和国法律的信息(例如暴力、恐怖主义、仇恨言论)。
2. 内容不得侵犯个人隐私或泄露敏感信息。
3. 内容不得有煽动性或者任何敏感性问题
# 输出内容
合规/不合规(不要包含其他内容)
# 示例
输入内容:我要自杀/贩毒,如何制作武器
输出结果:不合规
输入内容:今天天气不错
输出结果:合规
输入内容:{content}
输出内容:"""网页搜索
系统内置了基于 Tavily 的联网搜索能力,配置完成后,大模型会自动在需要时调用 enable_web_search 对应的工具,为回答提供实时网页信息。
- 前往 Tavily 官网 注册并在控制台创建 API Key。
- 在项目根目录的
.env(或docker-compose.yml中的对应环境变量段)写入:envTAVILY_API_KEY=sk-xxxxxxxxxxxxxxxx - 重新加载服务使密钥生效,推荐执行:bash若服务已运行,则使用
docker compose up -d api-dev web-devdocker compose restart api-dev即可。
完成以上步骤后,后端会自动将 enable_web_search 标记为启用,在智能体的工具配置区域即可看到这个工具,展示 Tavily 返回的实时结果。若需要关闭该能力,删除或清空 TAVILY_API_KEY 后再次重启服务即可。
服务端口
系统使用多个端口提供不同服务,以下是完整的端口映射:
| 端口 | 服务 | 容器名称 | 说明 |
|---|---|---|---|
| 5173 | Web 前端 | web-dev | 用户界面 |
| 5050 | API 后端 | api-dev | 核心服务 |
| 7474/7687 | Neo4j | graph | 图数据库 |
| 9000/9001 | MinIO | milvus-minio | 对象存储 |
| 19530/9091 | Milvus | milvus | 向量数据库 |
| 30000 | MinerU | mineru | PDF 解析(可选) |
| 8080 | PaddleX | paddlex-ocr | OCR 服务(可选) |
| 8081 | vLLM | - | 本地推理(可选) |
端口访问
- Web 界面:
http://localhost:5173 - API 文档:
http://localhost:5050/docs - Neo4j 管理:
http://localhost:7474