FaustBot 快速配置说明¶
FaustBot 的所有配置通过 配置中心(Configer) 完成,完成配置大约需要10分钟
前置知识¶
如果您没有了解/使用过 AI 软件,请先阅读基本概念
打开配置中心¶
启动 FaustBot 后,右键托盘图标或在主窗口点击配置按钮,即可打开 Configer 窗口。
Configer 左侧边栏按功能分为 13 个模块,每个模块对应一组相关配置。
必填配置:对话 LLM 服务¶
这是 唯一必须配置的模块——没有 API 凭证,AI功能无法运行。
进入 AI 服务商 页面。页面按「组」组织,最上面一组就是 对话模型服务商: 所有模型都挂在一个 服务商 下面,同一个服务商可以同时提供多种接口格式的模型。
页面上的分组顺序(也可以用标题下方的胶囊直接跳过去):
| 分组 | 管什么 |
|---|---|
| 对话模型服务商 | 服务商、模型、主模型与子模型的选择 |
| 思考强度 | AI 默认想多深 |
| 记忆与检索 | 向量模型、密钥、重排序 |
| 联网搜索 | 本地搜索工具的密钥 |
| 安全与输出 | 安全审查、插话打断、Markdown 内容块 |
| 会话压缩 | 聊太长时自动总结旧消息 |
| Araya 自动维护 | 空闲时整理记忆 |
| 当前角色 | 只读,切换入口在「角色」模块 |
| 多模态桥接 | 工具结果里的图片怎么交给模型(默认折叠) |
添加服务商¶
点击该组右上角的 添加服务商,在弹出的窗口里填三项:
| 配置项 | 说明 |
|---|---|
| 名称 | 自定义服务商名称,如 deepseek、openai;保存后不可改名 |
| 接口地址 | API 地址,如 https://api.deepseek.com/v1 |
| 密钥 | 如 sk-xxxx;只存在本地配置文件里 |
填完点 从服务商拉取模型 会自动读取该服务商的模型列表(这一步会立即保存服务商); 也可以手动输入模型名点 添加。思考参数格式、默认接口格式、用量统计、模型目录识别、 各格式接口地址都收在同一个窗口的 高级设置 里,日常不需要打开。
选择主模型与子模型¶
模型表汇总所有服务商的模型,每一行包含:
| 列 | 说明 |
|---|---|
| 模型 | 服务商::模型名 的写法 |
| 接口格式 | 自动识别出的协议(OpenAI Chat / OpenAI Responses / Anthropic / Gemini)及来源 |
| 上下文 | 这个模型最多能记住多少 token,未配置时按 128K 计 |
| 主模型 | 单选,AI 对话与工具调用使用它,只能选一个 |
| 子模型 | 多选,允许作为子任务代理(Subagent)使用 |
| 设置 | 改上下文长度、最大输出、接口格式覆盖、服务端联网搜索 |
注意:模型以
服务商名::模型名(如deepseek::deepseek-v4-flash)的形式被引用。 表格上方的搜索框可以直接按模型名或服务商名过滤。
高级操作¶
需要批量补数据时,展开模型表下方的 高级操作:
| 按钮 | 作用 |
|---|---|
| 拉取没加载模型的服务商 | 对还没有模型的服务商逐个调用 /models |
| 补全上下文长度 | 重跑一次 /models,补上空缺的上下文长度(手填的值不会被覆盖) |
| 更新模型目录 | 拉取最新的 models.dev 目录并重新判断每个模型的接口格式 |
保存¶
所有服务商与模型的选择修改都不会单独保存,修改完成后点击窗口顶部的 保存 按钮统一生效。 服务商密钥只保存在本地配置文件中,不会随公共配置上传。
重要:思考模式¶
每个服务商可以设置 思考参数格式(「编辑服务商 › 高级设置」),部分服务商(如 DeepSeek)的模型支持思考(reasoning)。
对于FaustBot,非常不建议关闭思考,因为FaustBot的Harness机制非常复杂,涉及大量代码编写任务和复杂理解任务,关闭思考会导致包括感知系统的规则引擎,自我进化等功能效果变差
如果你认为思考影响了你的交互体验,可以在前端进入UI布局模式后,右键对话显示框,关闭对思维链的显示
常见服务商填写示例¶
| 服务商 | 接口地址 | 模型名(示例) |
|---|---|---|
| OpenAI | https://api.openai.com/v1 |
gpt-4o |
| DeepSeek | https://api.deepseek.com/v1 |
deepseek-chat |
| 硅基流动 | https://api.siliconflow.cn/v1 |
deepseek-ai/DeepSeek-V3 |
| OpenRouter | https://openrouter.ai/api/v1 |
openai/gpt-4o |
| 本地 Ollama | http://localhost:11434/v1 |
qwen2.5:7b |
选填配置:Embedding 模型¶
Embedding 模型用于记忆系统的编码,填写后记忆系统才能发挥全部功能
在「AI 服务商 › 记忆与检索」组里填三项:向量模型、向量接口地址、向量服务密钥。格式类似对话 LLM 服务的配置
特别的,FaustBot 要求 Embedding 模型支持 1536 维度的输出
以下是经过测试可用的模型列表
| 平台 | 模型 |
|---|---|
| 阿里云(Qwen) | text-embedding-v4 |
| OpenAI | text-embedding-3-small |
离线模式:如果没有 Embedding API Key,可在「AI 服务商 › 记忆与检索 › 高级」里打开 只用关键词检索(BM25),此时仅使用本地关键词检索,不需调用外部 Embedding API。
语音识别和语音生成(语音页面)¶
语音识别和语音生成的功能如下:
- 语音识别:用户对 AI 说话
- 语音生成:AI 可以说话
可用的语音识别模式¶
| 名称 | 解释 | 配置指南 |
|---|---|---|
| Whisper(默认) | 使用 OpenAI Whisper 进行本地语音识别,可配置模型大小、语言与初始提示词,对中文识别友好 | Whisper 配置指南 |
| FunASR | 使用 FunASR 进行本地语音识别,需要占用 >3G 的内存,可选使用 GPU 推理,准确性好 | FunASR 配置指南 |
| OpenAI | 使用 OpenAI API 进行语音识别,不建议使用 | 无 |
| Mimo ASR | 使用小米MiMo进行ASR,推荐,准确度高,目前官方定价0.5元每小时 | 无 |
可用的语音生成模式¶
| 名称 | 解释 | 配置指南 |
|---|---|---|
| gpt-sovits | 使用经典的 GPT-SoVITS 进行本地语音生成,支持克隆声音,但必须要显存 >4G 的显卡 | gpt-sovits TTS 配置指南 |
| OpenAI | 使用 OpenAI API 进行语音生成,不建议使用 | 无 |
| Edge-tts | 使用 Microsoft Edge API 进行语音生成,无需任何配置,默认选项 | 无(默认) |
| Mimo TTS | 使用小米MiMo进行TTS,官方定价暂时是免费(需要去xiaomi mimo平台注册) | 无 |
| > 注释:FaustBot Cloud 这一项尚不可用,参见 FaustBot Cloud 仓库 |
高级:重计算子进程(Processor)回收¶
FaustBot 把 VAD、OCR 这类重计算放在独立子进程中运行,空闲时自动回收以释放内存/显存。
| 配置项 | 默认值 | 说明 |
|---|---|---|
PROCESSOR_PRUNE_INTERVAL |
30 |
后台回收检查间隔(秒)。设为 0 表示禁用后台自动回收 |
PROCESSOR_IDLE_TIMEOUT |
300 |
空闲超过该秒数且无人引用时回收子进程 |
提示:正在被语音识别等功能使用的子进程不会被回收;回收只发生在引用计数归零且请求队列为空的空闲时刻。