Bob 是 IBM 的 AI 编程助手,一个会话是与它的一次持续对话。你不会为完成的工作花费 Bobcoin。你花费它们的地方是 Bob 必须读取和创建的文本。两者之间的差异是大部分浪费的来源。
目标不是少花钱。大型重构成本很高但值得。目标是停止为不值得的工作付费。
在这篇博客中,你将学习如何通过管理 context window、避免上下文污染、编写有效的 prompt、配置 Bob 以降低重复成本以及衡量支出去向,来充分利用每个 Bobcoin。
为什么长 context window 成本更高
每次发送消息时,Bob 都会再次接收整个对话,而不仅仅是你的最新消息。因此,context window 开始一小时后发送的消息比开始时发送的相同消息成本更高。对话越长,Bob 需要读取的内容就越多,而 Bob 需要读取的内容越多,你花费的 Bobcoin 就越多。
还有第二个效果,它可能更加昂贵。对话越长,Bob 处理起来就越困难。答案变得不那么准确。不太准确的答案需要纠正。每次纠正都会使对话变长,从而使下一个答案变得更糟。成本上升,质量同时下降。
例如,一个长时间的调试会话中,Bob 在每一轮都重新读取完整历史记录,最终成本可能比在几个专注、全新的 context window 中完成同样的修复更高。
- 了解如何启动和管理 context window
- 了解如何避免上下文污染
节省成本的策略
为每个不相关的任务开始新的 context window。 一旦完成一项任务,就开始一个新的 context window。如果你在同一个 context window 中继续处理下一个任务,Bob 仍然会在每一轮中读取所有内容。但也不要拆分得太频繁,以至于 Bob 必须重新学习你已经给过它的背景信息——那种重新解释的成本比长对话本身更高。
- 了解如何以及为什么创建新的 context window
说明请求的范围。 尽可能使用 @ 提及将 Bob 指向特定文件。如果没有 context mention,Bob 会搜索 repository 以确定什么重要,而该搜索可能会花费大量 Bobcoin。
- 了解如何使用context mention,并查看使用它们的最佳实践。
编写有效的 prompt。 prompt 是对 Bob 的请求。它越精确,Bob 需要猜测的就越少,你需要纠正的也就越少。
- 了解如何编写有效且节省成本的 prompt
回滚而不是反复纠正。 如果 Bob 多次误解了你的 prompt,你应该回滚或用你的原始请求加上你学到的东西重新开始。回滚或启动新的 context window 可以降低有多次纠正的长对话的成本。
使用回滚,你可以:
配置 Bob 以降低成本
AGENTS.md。 写下你项目的约定和结构,这样 Bob 就不必在每个 context window 中重新弄清楚它们。保持你的 AGENTS.md 简洁。Bob 不断阅读 AGENTS.md 文件,因此臃肿的文件会将一次性收益变成永久成本。
- 了解如何使用
/init让 Bob 为你的项目创建 AGENTS.md 文件。 - 为你的每种模式创建自定义规则。
Skills。 Skill 保存仅在需要时加载的领域知识,而不是占用 context window 中的空间。你在使用时付费。
- 了解Skills。
- 了解如何在 Bob 中创建和使用 skill。
Hooks。 Hook 直接运行 linter、formatter 或 test 命令,不花费 Bobcoin。要求 Bob 执行与 hook 相同的操作会花费 Bobcoin。如果工具可以进行检查,就不要付费让模型来做。
- 了解生命周期 hook。
连接的工具。 Bob 在每个请求中读取每个连接的 MCP(Model Context Protocol)服务器的描述,无论你是否使用这些工具。你上个月为一项任务打开的服务器仍在花费你的钱。不主动使用 MCP 时请将其关闭。
- 了解MCP 服务器
- 了解如何创建 MCP 服务器并将其连接到 Bob。
在复杂任务上节省 Bobcoin
在构建之前进行规划。 计划是完成任务的步骤列表。它可以是一个项目符号列表,也可以像完整的设计文档一样复杂。计划可以减少你在构建阶段需要进行的纠正次数,并且你可以将其重复用于类似任务。一旦你和 Bob 创建了计划,请在实施之前进行审查。
- 了解如何创建计划并实现复杂功能。
- 了解创建计划的最佳实践。
Subagent。 Bob 自动将工作交给 subagent,因此你不需要请求。当任务需要大量研究时,你也可以直接将工作分配给 subagent:挖掘发生在你的主 context window 之外,只有发现返回。subagent 释放了 context window 中的空间,但它们并不总是成本更低,同时运行多个可能成本更高。当任务需要大量、独立的研究时,可以求助于 subagent;而将简短、连续的任务留在你的主 context window 中——协调多个 agent 的成本可能比直接完成任务更高。
- 了解subagent
衡量 Bobcoin 使用情况
Bobalytics 显示你实际花费的金额。总数本身告诉你的很少。你想发现的是浪费:小任务上的长 context window、反复进行的相同纠正,以及你每天早上输入的属于 AGENTS.md 的背景信息。
- 了解如何查看你的Bobalytics
- 了解如何监控你的 Bobcoin 使用情况
结论
这些都不会限制你可以尝试的事情。它将 Bobcoin 从重新解释你的项目、修复可避免的误解以及为你从未需要的上下文付费中移开,转向工作本身。
更多的 Bobcoin 提高了你可以花费的额度。更少的浪费决定了其中有多少到达实际问题。
