FaustBot 快速配置说明

FaustBot 的所有配置通过 配置中心(Configer) 完成,完成配置大约需要10分钟

前置知识

如果您没有了解/使用过 AI 软件,请先阅读基本概念

打开配置中心

启动 FaustBot 后,右键托盘图标或在主窗口点击配置按钮,即可打开 Configer 窗口。

Configer 左侧边栏按功能分为 13 个模块,每个模块对应一组相关配置。

必填配置:对话 LLM 服务

这是 唯一必须配置的模块——没有 API 凭证,AI功能无法运行。

进入 AI 服务商 页面。页面按「组」组织,最上面一组就是 对话模型服务商: 所有模型都挂在一个 服务商 下面,同一个服务商可以同时提供多种接口格式的模型。

页面上的分组顺序(也可以用标题下方的胶囊直接跳过去):

分组 管什么
对话模型服务商 服务商、模型、主模型与子模型的选择
思考强度 AI 默认想多深
记忆与检索 向量模型、密钥、重排序
联网搜索 本地搜索工具的密钥
安全与输出 安全审查、插话打断、Markdown 内容块
会话压缩 聊太长时自动总结旧消息
Araya 自动维护 空闲时整理记忆
当前角色 只读,切换入口在「角色」模块
多模态桥接 工具结果里的图片怎么交给模型(默认折叠)

添加服务商

点击该组右上角的 添加服务商,在弹出的窗口里填三项:

配置项 说明
名称 自定义服务商名称,如 deepseek、openai;保存后不可改名
接口地址 API 地址,如 https://api.deepseek.com/v1
密钥 如 sk-xxxx;只存在本地配置文件里

填完点 从服务商拉取模型 会自动读取该服务商的模型列表(这一步会立即保存服务商); 也可以手动输入模型名点 添加。思考参数格式、默认接口格式、用量统计、模型目录识别、 各格式接口地址都收在同一个窗口的 高级设置 里,日常不需要打开。

选择主模型与子模型

模型表汇总所有服务商的模型,每一行包含:

列 说明
模型 服务商::模型名 的写法
接口格式 自动识别出的协议(OpenAI Chat / OpenAI Responses / Anthropic / Gemini)及来源
上下文 这个模型最多能记住多少 token,未配置时按 128K 计
主模型 单选,AI 对话与工具调用使用它,只能选一个
子模型 多选,允许作为子任务代理(Subagent)使用
设置 改上下文长度、最大输出、接口格式覆盖、服务端联网搜索

注意:模型以 服务商名::模型名(如 deepseek::deepseek-v4-flash)的形式被引用。 表格上方的搜索框可以直接按模型名或服务商名过滤。

高级操作

需要批量补数据时,展开模型表下方的 高级操作:

按钮 作用
拉取没加载模型的服务商 对还没有模型的服务商逐个调用 /models
补全上下文长度 重跑一次 /models,补上空缺的上下文长度(手填的值不会被覆盖)
更新模型目录 拉取最新的 models.dev 目录并重新判断每个模型的接口格式

保存

所有服务商与模型的选择修改都不会单独保存,修改完成后点击窗口顶部的 保存 按钮统一生效。 服务商密钥只保存在本地配置文件中,不会随公共配置上传。

重要:思考模式

每个服务商可以设置 思考参数格式(「编辑服务商 › 高级设置」),部分服务商(如 DeepSeek)的模型支持思考(reasoning)。

对于FaustBot,非常不建议关闭思考,因为FaustBot的Harness机制非常复杂,涉及大量代码编写任务和复杂理解任务,关闭思考会导致包括感知系统的规则引擎,自我进化等功能效果变差

如果你认为思考影响了你的交互体验,可以在前端进入UI布局模式后,右键对话显示框,关闭对思维链的显示

常见服务商填写示例

服务商 接口地址 模型名(示例)
OpenAI https://api.openai.com/v1 gpt-4o
DeepSeek https://api.deepseek.com/v1 deepseek-chat
硅基流动 https://api.siliconflow.cn/v1 deepseek-ai/DeepSeek-V3
OpenRouter https://openrouter.ai/api/v1 openai/gpt-4o
本地 Ollama http://localhost:11434/v1 qwen2.5:7b

选填配置:Embedding 模型

Embedding 模型用于记忆系统的编码,填写后记忆系统才能发挥全部功能

在「AI 服务商 › 记忆与检索」组里填三项:向量模型、向量接口地址、向量服务密钥。格式类似对话 LLM 服务的配置

特别的,FaustBot 要求 Embedding 模型支持 1536 维度的输出

以下是经过测试可用的模型列表

平台 模型
阿里云(Qwen) text-embedding-v4
OpenAI text-embedding-3-small

离线模式:如果没有 Embedding API Key,可在「AI 服务商 › 记忆与检索 › 高级」里打开 只用关键词检索(BM25),此时仅使用本地关键词检索,不需调用外部 Embedding API。

语音识别和语音生成(语音页面)

语音识别和语音生成的功能如下:

  • 语音识别:用户对 AI 说话
  • 语音生成:AI 可以说话

可用的语音识别模式

名称 解释 配置指南
Whisper(默认) 使用 OpenAI Whisper 进行本地语音识别,可配置模型大小、语言与初始提示词,对中文识别友好 Whisper 配置指南
FunASR 使用 FunASR 进行本地语音识别,需要占用 >3G 的内存,可选使用 GPU 推理,准确性好 FunASR 配置指南
OpenAI 使用 OpenAI API 进行语音识别,不建议使用 无
Mimo ASR 使用小米MiMo进行ASR,推荐,准确度高,目前官方定价0.5元每小时 无

可用的语音生成模式

名称 解释 配置指南
gpt-sovits 使用经典的 GPT-SoVITS 进行本地语音生成,支持克隆声音,但必须要显存 >4G 的显卡 gpt-sovits TTS 配置指南
OpenAI 使用 OpenAI API 进行语音生成,不建议使用 无
Edge-tts 使用 Microsoft Edge API 进行语音生成,无需任何配置,默认选项 无(默认)
Mimo TTS 使用小米MiMo进行TTS,官方定价暂时是免费(需要去xiaomi mimo平台注册) 无
> 注释:FaustBot Cloud 这一项尚不可用,参见 FaustBot Cloud 仓库

高级:重计算子进程(Processor)回收

FaustBot 把 VAD、OCR 这类重计算放在独立子进程中运行,空闲时自动回收以释放内存/显存。

配置项 默认值 说明
PROCESSOR_PRUNE_INTERVAL 30 后台回收检查间隔(秒)。设为 0 表示禁用后台自动回收
PROCESSOR_IDLE_TIMEOUT 300 空闲超过该秒数且无人引用时回收子进程

提示:正在被语音识别等功能使用的子进程不会被回收;回收只发生在引用计数归零且请求队列为空的空闲时刻。