IBM Bob

모든 Bobcoin을 최대한 활용하기

Bobcoin은 당신이 완료한 작업이 아니라 Bob이 읽고 쓰는 텍스트에 소비됩니다. 이 격차를 줄이는 방법을 알아보세요.

모든 Bobcoin을 최대한 활용하기

저자

IBM Bob Team

게시됨

카테고리

guide

공유

Bob은 IBM의 AI 코딩 어시스턴트이며, 세션은 그와의 하나의 연속된 대화입니다. 당신이 완료한 작업에 Bobcoin을 소비하지 않습니다. Bob이 읽고 생성해야 하는 텍스트에 소비합니다. 이 둘의 차이가 대부분의 낭비가 발생하는 곳입니다.

목표는 적게 쓰는 것이 아닙니다. 대규모 리팩토링은 비용이 많이 들지만 그만한 가치가 있습니다. 목표는 가치가 없는 작업에 대한 비용 지불을 중단하는 것입니다.

이 글에서는 context window를 관리하고, context poisoning을 피하고, 효과적인 프롬프트를 작성하고, 반복되는 비용을 줄이도록 Bob을 설정하고, 지출이 어디로 가는지 측정함으로써 모든 Bobcoin을 최대한 활용하는 방법을 배웁니다.

긴 context window가 더 많은 비용이 드는 이유

메시지를 보낼 때마다 Bob은 최신 메시지만이 아니라 전체 대화를 다시 받습니다. 따라서 context window 시작 후 한 시간 뒤에 보낸 메시지는 시작 시 보낸 동일한 메시지보다 비용이 더 많이 듭니다. 대화가 길어질수록 Bob이 더 많이 읽어야 하고, Bob이 더 많이 읽어야 할수록 더 많은 Bobcoin을 소비합니다.

두 번째 효과가 있으며, 이는 아마도 더 비용이 많이 듭니다. 대화가 길어질수록 Bob이 작업하기가 더 어려워집니다. 답변의 정확도가 떨어집니다. 덜 정확한 답변은 수정이 필요합니다. 각 수정은 대화를 더 길게 만들어 다음 답변을 더 나쁘게 만듭니다. 비용은 증가하고 품질은 동시에 떨어집니다.

예를 들어, Bob이 매 턴마다 전체 기록을 다시 읽는 긴 디버깅 세션은 동일한 수정을 몇 개의 집중적이고 새로운 context window로 나누어 수행하는 것보다 결국 더 많은 비용이 들 수 있습니다.

비용 절감 전략

관련 없는 각 작업에 대해 새 context window를 시작하세요. 작업을 완료하면 새 context window를 시작하세요. 다음 작업에 동일한 context window에서 계속 작업하면 Bob은 여전히 매 턴마다 모든 것을 읽습니다. 그러나 Bob이 이미 제공한 배경 정보를 다시 학습해야 할 정도로 너무 자주 나누지는 마세요 — 그런 재설명은 긴 대화보다 더 많은 비용이 들 수 있습니다.

요청의 범위를 명시하세요. @ 멘션을 최대한 사용하여 Bob에게 특정 파일을 가리키세요. context mention이 없으면 Bob은 무엇이 중요한지 파악하기 위해 repository를 검색하고, 그 검색에 많은 Bobcoin이 소비될 수 있습니다.

효과적인 프롬프트를 작성하세요. 프롬프트는 Bob에게 하는 요청입니다. 더 정확할수록 Bob이 추측할 필요가 줄어들고, 당신이 수정할 필요도 줄어듭니다.

반복적으로 수정하기보다는 롤백하세요. Bob이 당신의 프롬프트를 여러 번 오해했다면, 롤백하거나 원래 요청과 배운 내용을 더해 새로 시작해야 합니다. 롤백하거나 새 context window를 시작하면 많은 수정이 있는 긴 대화의 비용을 줄일 수 있습니다.

롤백을 사용하면 다음을 할 수 있습니다:

  • AI가 제안한 변경 사항을 안전하게 실험
  • 원치 않는 수정에서 쉽게 복구
  • 다양한 구현 접근 방식 비교
  • 작업을 잃지 않고 이전 프로젝트 상태로 되돌리기
  • 롤백이 작동하는 방식을 알아보세요
  • 롤백에 대한 모범 사례를 알아보세요

비용을 줄이도록 Bob 설정하기

AGENTS.md. 프로젝트의 규칙과 구조를 작성하여 Bob이 각 context window마다 다시 파악할 필요가 없도록 하세요. AGENTS.md는 간결하게 유지하세요. Bob은 AGENTS.md 파일을 지속적으로 읽으므로 비대한 파일은 일회성 이득을 영구적인 비용으로 바꿉니다.

Skills. Skill은 항상 context window의 공간을 차지하는 대신 필요할 때만 로드되는 도메인 지식을 보유합니다. 사용할 때 비용을 지불합니다.

Hooks. Hook은 linter, formatter 또는 test 명령을 직접 실행하며 Bobcoin이 소비되지 않습니다. Bob에게 hook과 같은 작업을 요청하면 Bobcoin이 소비됩니다. 도구가 확인할 수 있다면 모델에 비용을 지불하여 수행하도록 하지 마세요.

연결된 도구. Bob은 해당 도구를 사용하든 안 하든 모든 요청에서 연결된 모든 MCP(Model Context Protocol) 서버의 설명을 읽습니다. 지난달 한 작업을 위해 켠 서버가 여전히 비용을 발생시키고 있습니다. 적극적으로 사용하지 않을 때는 MCP를 끄세요.

복잡한 작업에서 Bobcoin 절약하기

구축하기 전에 계획하세요. 계획은 작업을 완료하기 위한 단계 목록입니다. 글머리 기호 목록일 수도 있고, 완전한 설계 문서만큼 복잡할 수도 있습니다. 계획은 구축 단계에서 필요한 수정 횟수를 줄이고, 유사한 작업에 재사용할 수 있습니다. 당신과 Bob이 계획을 만들면, 구현하기 전에 검토하세요.

Subagents. Bob은 자동으로 subagent에게 작업을 넘기므로 요청할 필요가 없습니다. 작업에 많은 조사가 필요할 때 subagent에게 직접 작업을 할당할 수도 있습니다: 조사는 주 context window 외부에서 발생하고 결과만 돌아옵니다. subagent는 context window의 공간을 확보하지만 항상 비용이 적게 드는 것은 아니며, 여러 개를 동시에 실행하면 비용이 더 많이 들 수 있습니다. 작업에 많은 독립적인 조사가 필요할 때 subagent를 활용하고, 짧고 순차적인 작업은 주 context window에 두세요 — 여러 에이전트를 조율하는 것은 작업을 직접 하는 것보다 비용이 더 많이 들 수 있습니다.

Bobcoin 사용량 측정하기

Bobalytics는 실제로 지출한 금액을 보여줍니다. 총액 자체는 거의 알려주지 않습니다. 발견하고 싶은 것은 낭비입니다. 작은 작업에 대한 긴 context window, 반복적으로 수행되는 동일한 수정, 그리고 AGENTS.md에 속하는 매일 아침 입력하는 배경 정보입니다.

결론

이 중 어느 것도 시도할 수 있는 것을 제한하지 않습니다. 프로젝트를 다시 설명하고, 피할 수 있는 오해를 수정하고, 필요하지 않았던 컨텍스트에 대해 비용을 지불하는 것에서 벗어나 작업 자체로 Bobcoin을 이동시킵니다.

더 많은 Bobcoin은 당신이 쓸 수 있는 금액을 늘립니다. 낭비를 줄이면 그중 얼마가 실제 문제에 도달하는지 결정됩니다.