IBM Bob

充分利用每个 Bobcoin

Bobcoin 花费在 Bob 读写的文本上,而不是你完成的工作上。以下是如何缩小这一差距。

充分利用每个 Bobcoin

作者

IBM Bob Team

发布时间

分类

guide

分享

Bob 是 IBM 的 AI 编程助手,一个会话是与它的一次持续对话。你不会为完成的工作花费 Bobcoin。你花费它们的地方是 Bob 必须读取和创建的文本。两者之间的差异是大部分浪费的来源。

目标不是少花钱。大型重构成本很高但值得。目标是停止为不值得的工作付费。

在这篇博客中,你将学习如何通过管理 context window、避免上下文污染、编写有效的 prompt、配置 Bob 以降低重复成本以及衡量支出去向,来充分利用每个 Bobcoin。

为什么长 context window 成本更高

每次发送消息时,Bob 都会再次接收整个对话,而不仅仅是你的最新消息。因此,context window 开始一小时后发送的消息比开始时发送的相同消息成本更高。对话越长,Bob 需要读取的内容就越多,而 Bob 需要读取的内容越多,你花费的 Bobcoin 就越多。

还有第二个效果,它可能更加昂贵。对话越长,Bob 处理起来就越困难。答案变得不那么准确。不太准确的答案需要纠正。每次纠正都会使对话变长,从而使下一个答案变得更糟。成本上升,质量同时下降。

例如,一个长时间的调试会话中,Bob 在每一轮都重新读取完整历史记录,最终成本可能比在几个专注、全新的 context window 中完成同样的修复更高。

节省成本的策略

为每个不相关的任务开始新的 context window。 一旦完成一项任务,就开始一个新的 context window。如果你在同一个 context window 中继续处理下一个任务,Bob 仍然会在每一轮中读取所有内容。但也不要拆分得太频繁,以至于 Bob 必须重新学习你已经给过它的背景信息——那种重新解释的成本比长对话本身更高。

说明请求的范围。 尽可能使用 @ 提及将 Bob 指向特定文件。如果没有 context mention,Bob 会搜索 repository 以确定什么重要,而该搜索可能会花费大量 Bobcoin。

编写有效的 prompt。 prompt 是对 Bob 的请求。它越精确,Bob 需要猜测的就越少,你需要纠正的也就越少。

回滚而不是反复纠正。 如果 Bob 多次误解了你的 prompt,你应该回滚或用你的原始请求加上你学到的东西重新开始。回滚或启动新的 context window 可以降低有多次纠正的长对话的成本。

使用回滚,你可以:

  • 安全地尝试 AI 建议的更改
  • 轻松从不希望的修改中恢复
  • 比较不同的实现方法
  • 恢复到之前的项目状态而不丢失工作
  • 了解回滚的工作原理
  • 了解回滚的最佳实践

配置 Bob 以降低成本

AGENTS.md。 写下你项目的约定和结构,这样 Bob 就不必在每个 context window 中重新弄清楚它们。保持你的 AGENTS.md 简洁。Bob 不断阅读 AGENTS.md 文件,因此臃肿的文件会将一次性收益变成永久成本。

Skills。 Skill 保存仅在需要时加载的领域知识,而不是占用 context window 中的空间。你在使用时付费。

Hooks。 Hook 直接运行 linter、formatter 或 test 命令,不花费 Bobcoin。要求 Bob 执行与 hook 相同的操作会花费 Bobcoin。如果工具可以进行检查,就不要付费让模型来做。

连接的工具。 Bob 在每个请求中读取每个连接的 MCP(Model Context Protocol)服务器的描述,无论你是否使用这些工具。你上个月为一项任务打开的服务器仍在花费你的钱。不主动使用 MCP 时请将其关闭。

在复杂任务上节省 Bobcoin

在构建之前进行规划。 计划是完成任务的步骤列表。它可以是一个项目符号列表,也可以像完整的设计文档一样复杂。计划可以减少你在构建阶段需要进行的纠正次数,并且你可以将其重复用于类似任务。一旦你和 Bob 创建了计划,请在实施之前进行审查。

Subagent。 Bob 自动将工作交给 subagent,因此你不需要请求。当任务需要大量研究时,你也可以直接将工作分配给 subagent:挖掘发生在你的主 context window 之外,只有发现返回。subagent 释放了 context window 中的空间,但它们并不总是成本更低,同时运行多个可能成本更高。当任务需要大量、独立的研究时,可以求助于 subagent;而将简短、连续的任务留在你的主 context window 中——协调多个 agent 的成本可能比直接完成任务更高。

衡量 Bobcoin 使用情况

Bobalytics 显示你实际花费的金额。总数本身告诉你的很少。你想发现的是浪费:小任务上的长 context window、反复进行的相同纠正,以及你每天早上输入的属于 AGENTS.md 的背景信息。

结论

这些都不会限制你可以尝试的事情。它将 Bobcoin 从重新解释你的项目、修复可避免的误解以及为你从未需要的上下文付费中移开,转向工作本身。

更多的 Bobcoin 提高了你可以花费的额度。更少的浪费决定了其中有多少到达实际问题。