ClouisleClouisle

性能调优

从模型、知识库、Agent 与工作流设置入手,降低等待时间与成本

性能问题通常不是「机器不够快」,而是配置与用法不匹配。先定位慢在哪一步——模型、检索、工具还是循环——再改对应设置。部署侧的并发容量与副本规划见高可用与扩展。

先测量,再改设置

  • 用代表性输入测:固定几个真实问题或同一份文档,记录首字出现时间、整轮完成时间和回答质量,改一项后再测一次。
  • 一次只改一项:同时改模型、分块和检索参数,无法判断收益来自哪里。
  • 区分「慢」和「差」:便宜模型答不对,和知识库召回不准,是两类问题,不要用同一招解决。

模型选择

  • 按任务分层:总结、分类、格式转换这类确定性任务用更快更便宜的模型;复杂推理与长文生成再用更强的模型。工作流里不同节点可以各自选择模型,简单节点不必用最贵的一个。
  • 控制上下文长度:系统提示词、知识库片段、历史消息和附件都会占上下文,越长越慢也越贵。精简提示词、减少不必要的会话历史与附件,往往比换模型更有效。
  • 首字快不等于整轮快:流式输出让第一个字更早出现,但整轮时长仍由模型速度与工具调用的次数决定。

知识库与检索

  • 分块大小与重叠:默认 1000 字符、重叠 100 字符。块越大信息越完整但噪声更多、更费上下文;块越小命中更准但容易缺少完整答案。先预览切分结果再处理。
  • 返回结果数:默认 5。调大提高召回机会,也直接增加上下文长度与响应时间;先用检索实验室确认质量是否真的提升。
  • 只在需要的 Agent 上关联知识库:多余的知识库关联会增加每轮检索时间。Agent 的 RAG 模式选「智能」时由模型自行判断是否检索,可省掉不必要的检索;选「自动」则每轮必检索,行为稳定但更慢。
  • 重排序的取舍:重排序能提升结果质量,代价是多一次模型打分;候选数越大越慢越贵。
  • 具体取舍见知识库优化,参数与实验方法见检索与质量调优。

Agent 运行

  • 工具调用上限:每轮默认最多 5 次,可设 1-200。上限高能完成更复杂的任务,但单轮会明显变长;任务确实复杂时,考虑拆成工作流或多个 Agent,而不是一味提高上限。
  • 少挂工具与知识库:可选项越多,模型每一轮的判断成本越高。只保留这个问题域真正需要的工具。
  • 大附件按需附加:图片、文档附件会直接进入上下文,用完即换新会话可以避免历史累积。
  • 长任务不必守着页面:运行在平台侧继续,关闭页面或切换会话不会中断,回来继续看结果即可。

工作流

  • 给循环设定明确上限:编辑器默认循环 10 次,运行时硬上限 1000 次,超出会被强制终止。能确定次数就用迭代节点,终止条件要可验证。
  • 让独立分支并行:互不依赖的节点放在不同分支,平台会同时执行;把它们串成一条链只会更慢。
  • 数组处理用迭代节点:逐项处理的语义清晰,也便于在上限内控制总量。
  • 调试用草稿调试:不必为了测试反复发布版本,调试运行不会影响线上。

并发使用建议

  • 同一会话同一时刻只有一个运行:连续追问会排队,等上一轮结束再处理。需要真正并行时,开多个会话或使用多个 Agent。
  • 批量导入文档错峰进行:大量文档同时处理会占用文档处理容量,其他操作会变慢;处理完成会给发起人通知,不需要盯着页面。
  • 团队模型配额与供应商限速:表现可能是等待变长或请求失败,按提示退避后重试,不要密集重试(见限额与配额)。
  • 容量不足表现为排队:如果所有人都在固定时间变慢,问题更可能在执行容量而不是单个配置,交给运维评估副本与配额。

关键限制

项目默认上限说明
Agent 每轮工具调用次数5200达到上限时本轮停止继续调用工具
循环次数(编辑器)10—编辑器中的默认迭代上限
循环次数(运行时)—1000硬上限,超过后强制终止
分块大小1000 字符界面建议 2000单个分块的目标长度
分块重叠100 字符界面建议 500相邻分块保留的上下文长度
检索返回结果数5请求 20;知识库设置 100返回给模型的结果条数

精确字段与取值范围见知识库设置参考与Agent 配置参考。

这篇文章对你有帮助吗?

本页目录