维护咨询 大模型部署 问题解决 技能定制 大模型训练
站长交流微信: aixbwz
用 Hermes Agent 跑任务，Token 消耗是主要成本来源。优化 Token 使用可以在保持效果的同时显著降低成本。本文介绍从提示词、上下文、模型选择三个维度的优化方法。
为什么 Token 消耗会很高
每次对话的 Token 消耗 = 输入 Token（你的问题+历史上下文）+ 输出 Token（AI 的回答）。如果历史上下文很长，每轮对话都会累积放大。
优化一：控制上下文长度
开启自动压缩
# ~/.hermes/config.yaml
context:
auto_compress: true
max_tokens: 32000
compress_threshold: 0.8开启后，当上下文超过阈值，AI 会自动压缩历史记录，保留关键信息。
定期开启新对话
任务完成后，如果不需要引用之前的内容，主动开启新对话。旧对话的上下文不会带入新对话。
用 Context Files 而非对话传递
# 差的做法：
# 把整个代码文件粘贴到对话框里让AI分析
请分析以下代码：[粘贴1000行代码]
# 好的做法：
请分析 ~/project/main.py 中的 calculate 函数文件路径方式只消耗少量 Token（路径名），粘贴全文会消耗大量 Token。
优化二：提示词精简
删除冗余表述
# 冗余写法（多消耗 Token）
请帮我非常非常认真地分析一下这份数据，最好能够全面细致地看一
看都有哪些问题，如果可以的话再给出一些改进的建议，谢谢！
# 精简写法（效果相同）
分析 ~/sales.csv，给出问题和改进建议。善用缩写和符号
# 在提示词中用清晰的结构化格式
- 用 Markdown 标题分层
- 用列表代替长句
- 用表格代替对比描述优化三：选择合适的模型
不同任务用不同档次的模型，智能切换能省大钱：
| 任务类型 | 推荐模型 | 理由 |
|---|---|---|
| 简单问答/翻译 | DeepSeek-chat / GPT-4o-mini | 便宜快速 |
| 文章写作/创意 | MiniMax-M2.7 | 中文强，性价比高 |
| 复杂推理/代码 | Claude-3.5 / GPT-4o | 效果好，值得花更多 |
| 快速总结 | GPT-4o-mini | 便宜 |
# 在 ~/.hermes/config.yaml 配置多模型
models:
default: MiniMax-M2.7-highspeed
code: claude-sonnet-4
fast: gpt-4o-mini
# 在对话中切换：
/model claude-sonnet-4优化四：批量处理减少往返
# 差的做法：逐个处理
请帮我翻译这10句话：
1. 你好
2. 再见
...（每句都要消耗上下文Token）
# 好的做法：一次给出所有任务
请帮我翻译以下10句中文到英文，一次性输出所有翻译结果：
1. 你好
2. 再见
...（上下文只消耗一次）优化五：开启缓存
# ~/.hermes/config.yaml
caching:
enabled: true
provider: minimax
# 部分服务商支持 Prompt 缓存
# 相同前缀的请求会复用已计算的 KV Cache
# 可以节省 30-50% 的输入 Token成本监控
# 设置预算提醒
hermes budget --set 100
# 每月超过 100 元自动警告
# 查看 Token 消耗统计
hermes stats --month效果对比估算
| 优化手段 | 节省比例 |
|---|---|
| 开启自动压缩 | 20-40% |
| 精简提示词 | 10-20% |
| 模型智能切换 | 30-50% |
| 批量处理 | 15-30% |
| Prompt 缓存 | 30-50% |
综合优化做得好，同样的任务 Token 消耗可以降低 50-70%。
常见问题
Q：压缩上下文会影响回答质量吗？
不会。AI 压缩时会保留关键信息，非关键的对话历史才会被压缩。
Q：DeepSeek 和 MiniMax 哪个更省？
DeepSeek 性价比更高，但中文场景 MiniMax M2.7 效果也很好。
Q：有没有办法预估一次任务消耗多少？
服务商后台都有 Token 用量统计，看几次任务的消耗就能估算。
相关推荐
© 版权声明
文章版权归作者所有，未经允许请勿转载。
THE END
暂无评论内容