性能调优
从模型、知识库、Agent 与工作流设置入手,降低等待时间与成本
性能问题通常不是「机器不够快」,而是配置与用法不匹配。先定位慢在哪一步——模型、检索、工具还是循环——再改对应设置。部署侧的并发容量与副本规划见高可用与扩展。
先测量,再改设置
- 用代表性输入测:固定几个真实问题或同一份文档,记录首字出现时间、整轮完成时间和回答质量,改一项后再测一次。
- 一次只改一项:同时改模型、分块和检索参数,无法判断收益来自哪里。
- 区分「慢」和「差」:便宜模型答不对,和知识库召回不准,是两类问题,不要用同一招解决。
模型选择
- 按任务分层:总结、分类、格式转换这类确定性任务用更快更便宜的模型;复杂推理与长文生成再用更强的模型。工作流里不同节点可以各自选择模型,简单节点不必用最贵的一个。
- 控制上下文长度:系统提示词、知识库片段、历史消息和附件都会占上下文,越长越慢也越贵。精简提示词、减少不必要的会话历史与附件,往往比换模型更有效。
- 首字快不等于整轮快:流式输出让第一个字更早出现,但整轮时长仍由模型速度与工具调用的次数决定。
知识库与检索
- 分块大小与重叠:默认
1000字符、重叠100字符。块越大信息越完整但噪声更多、更费上下文;块越小命中更准但容易缺少完整答案。先预览切分结果再处理。 - 返回结果数:默认
5。调大提高召回机会,也直接增加上下文长度与响应时间;先用检索实验室确认质量是否真的提升。 - 只在需要的 Agent 上关联知识库:多余的知识库关联会增加每轮检索时间。Agent 的 RAG 模式选「智能」时由模型自行判断是否检索,可省掉不必要的检索;选「自动」则每轮必检索,行为稳定但更慢。
- 重排序的取舍:重排序能提升结果质量,代价是多一次模型打分;候选数越大越慢越贵。
- 具体取舍见知识库优化,参数与实验方法见检索与质量调优。
Agent 运行
- 工具调用上限:每轮默认最多
5次,可设1-200。上限高能完成更复杂的任务,但单轮会明显变长;任务确实复杂时,考虑拆成工作流或多个 Agent,而不是一味提高上限。 - 少挂工具与知识库:可选项越多,模型每一轮的判断成本越高。只保留这个问题域真正需要的工具。
- 大附件按需附加:图片、文档附件会直接进入上下文,用完即换新会话可以避免历史累积。
- 长任务不必守着页面:运行在平台侧继续,关闭页面或切换会话不会中断,回来继续看结果即可。
工作流
- 给循环设定明确上限:编辑器默认循环
10次,运行时硬上限1000次,超出会被强制终止。能确定次数就用迭代节点,终止条件要可验证。 - 让独立分支并行:互不依赖的节点放在不同分支,平台会同时执行;把它们串成一条链只会更慢。
- 数组处理用迭代节点:逐项处理的语义清晰,也便于在上限内控制总量。
- 调试用草稿调试:不必为了测试反复发布版本,调试运行不会影响线上。
并发使用建议
- 同一会话同一时刻只有一个运行:连续追问会排队,等上一轮结束再处理。需要真正并行时,开多个会话或使用多个 Agent。
- 批量导入文档错峰进行:大量文档同时处理会占用文档处理容量,其他操作会变慢;处理完成会给发起人通知,不需要盯着页面。
- 团队模型配额与供应商限速:表现可能是等待变长或请求失败,按提示退避后重试,不要密集重试(见限额与配额)。
- 容量不足表现为排队:如果所有人都在固定时间变慢,问题更可能在执行容量而不是单个配置,交给运维评估副本与配额。
关键限制
| 项目 | 默认 | 上限 | 说明 |
|---|---|---|---|
| Agent 每轮工具调用次数 | 5 | 200 | 达到上限时本轮停止继续调用工具 |
| 循环次数(编辑器) | 10 | — | 编辑器中的默认迭代上限 |
| 循环次数(运行时) | — | 1000 | 硬上限,超过后强制终止 |
| 分块大小 | 1000 字符 | 界面建议 2000 | 单个分块的目标长度 |
| 分块重叠 | 100 字符 | 界面建议 500 | 相邻分块保留的上下文长度 |
| 检索返回结果数 | 5 | 请求 20;知识库设置 100 | 返回给模型的结果条数 |
精确字段与取值范围见知识库设置参考与Agent 配置参考。
这篇文章对你有帮助吗?