Zarządzanie oknem kontekstu

Dowiedz się, jak działa okno kontekstu Bob o pojemności 270 000 tokenów, jak każda kategoria wpływa na zużycie tokenów oraz jakie są najlepsze praktyki utrzymania skupionych i opłacalnych sesji.

Przegląd okna kontekstu

Każda sesja w Bob Shell ma okno kontekstu — budżet tokenów dla tej rozmowy. Limit wynosi 270 000 tokenów. Wszystko, co Bob załaduje, wlicza się do tego limitu.

Co wypełnia okno

KategoriaCo zawiera
Prompt systemowyPodstawowe instrukcje Bob na sesję
Definicje narzędziSchematy wbudowanych narzędzi i połączonych narzędzi MCP
Narzędzia MCPInstrukcje i opisy narzędzi dostarczanych przez połączone serwery MCP
RegułyNiestandardowe instrukcje z plików reguł projektu i trybu (na przykład AGENTS.md lub .bob/rules-*)
UmiejętnościInstrukcje z umiejętności załadowanych przez Bob na potrzeby rozmowy
WiadomościTwoje prompty, odpowiedzi Bob i aktywność narzędzi w rozmowie. To jest transkrypt liczony jako tokeny.

Wyjście poleceń i wyniki narzędzi wliczają się do Wiadomości. Zawartość plików nie ma osobnej pozycji.

Raport tokenów zawiera dwa pola podsumowania:

  • Zarezerwowane dla odpowiedzi modelu: Tokeny zarezerwowane na następną odpowiedź Bob (zazwyczaj 20,0k).
  • Dostępne miejsce: Pozostałe wolne tokeny.

Podstawowy narzut

Stałe kategorie zużywają kontekst, zanim zaczniesz pracować z Bob. Nawet proste "Szybko odpowiedz cześć." daje łącznie około 8,5k tokenów. Większość z tego to Definicje narzędzi (5,1k), Prompt systemowy (1,5k), Reguły (830) i Umiejętności (454). Tylko 590 to Wiadomości.

Bob ponownie wysyła pełny stos narzutów przy każdym prompcie. Więcej serwerów MCP lub załadowanych umiejętności zwiększa Narzędzia MCP, Definicje narzędzi i Umiejętności zanim zaczniesz pisać.

Monitorowanie zużycia tokenów

Bob Shell raportuje zużycie tokenów na końcu każdej wymiany. Poniższa tabela pokazuje, co wpływa na każdą kategorię:

KategoriaCo powoduje wzrost
Prompt systemowyŁadowany przy starcie sesji. Pozostaje płaski podczas normalnej pracy.
Definicje narzędziSchematy wbudowanych narzędzi. Ustawiane przy starcie sesji. Pozostają płaskie podczas normalnej pracy.
Narzędzia MCPPołączone serwery MCP i włączone narzędzia. Rośnie, gdy dodajesz serwery lub narzędzia, nie gdy wysyłasz prompty.
RegułyPliki reguł projektu i trybu (na przykład AGENTS.md). Ustawiane przy otwieraniu sesji.
UmiejętnościUmiejętności załadowane przez Bob na sesję. Może rosnąć, gdy Bob aktywuje umiejętność w trakcie rozmowy.
WiadomościTwoje prompty, odpowiedzi Bob, odczyty plików, wyjście narzędzi i wyjście poleceń. Rośnie z każdą turą i eksploracją repozytorium.

W krótkich wymianach stałe kategorie często zużywają większość całości. Gdy prosisz Bob o odczyt plików lub uruchamianie narzędzi, Wiadomości zwykle stają się największą kategorią. Obserwuj tę zmianę.

Dostępne miejsce maleje, gdy rośnie jakakolwiek kategoria. Zarezerwowane dla odpowiedzi modelu jest odłożone na następną odpowiedź Bob. Nie wchodzi w skład używanej sumy powyżej.

Limity tokenów

Twardy limit wynosi 270 000 tokenów na sesję. Bob zaczyna kondensować przed osiągnięciem limitu. Kondensacja zazwyczaj rozpoczyna się przy około 190 000 tokenach całkowitego zużycia.

Automatyczna kondensacja kontekstu

Przy progu kondensacji Bob:

  1. Zachowuje najnowszy i najbardziej istotny kontekst.
  2. Podsumowuje lub usuwa starsze segmenty rozmowy.
  3. Utrzymuje krytyczne instrukcje systemowe, definicje narzędzi, reguły i umiejętności.
  4. Kontynuuje ze skondensowanym kontekstem.

Kondensacja jest stratna. Szczegóły z początku Wiadomości mogą nie przetrwać. Zacznij nową sesję, gdy zmienisz temat lub gdy Wiadomości są wystarczająco duże, żeby obniżyć jakość.

Wpływ na Bobcoiny

Bobcoiny śledzą zużycie tokenów. Liczone są zarówno tokeny wejściowe, jak i wyjściowe.

  • Każda wiadomość ponownie wysyła pełny aktywny kontekst, w tym stały narzut.
  • Bob ponownie przetwarza to, co jest już załadowane przy każdym wysłaniu.
  • Długie sesje z dużymi Wiadomościami kosztują więcej za późniejszy prompt.

Najlepsze praktyki

Uwaga:

Okno kontekstu to nie magazyn. To pamięć robocza — to, czego Bob może używać na każdym kroku. Kontroluj, co do niej trafia. Resetuj, gdy sesja wypełni się nieaktualnym wyjściem. Sprawdzaj wynik testami, nie tylko odpowiedzią Bob.

Ogranicz zakres sesji i rozmowy

Używaj jednej sesji na jeden cel pracy i zacznij od wąskiego promptu. Podaj cel, oczekiwany wynik i ograniczenia, zanim poprosisz Bob o eksplorację repozytorium. Wymieniaj pliki i funkcje wprost. Unikaj niejasnych próśb jak „przeczytaj całe repozytorium" lub „sprawdź backend". Zacznij nową sesję, gdy temat się zmienia — nieistotna zawartość w Wiadomościach zwiększa koszty i może mylić Bob.

Utrzymuj stały kontekst na minimalnym poziomie

Stałe kategorie zużywają tokeny, zanim cokolwiek napiszesz. Aby utrzymać niski narzut:

  • Utrzymuj niestandardowe reguły i AGENTS.md krótkie — umieszczaj tam tylko polecenia konfiguracji, testów i stylu (na przykład pnpm test, mvn verify).
  • Podłączaj tylko serwery MCP, narzędzia i umiejętności potrzebne do bieżącej pracy. Odłączaj to, czego nie używasz, i preferuj projektową konfigurację MCP nad globalną.
  • Rezerwuj Wiadomości na sytuacyjne dowody specyficzne dla tej sesji — błąd, logi i istotne pliki. Nie powtarzaj stałych reguł w każdym prompcie.

Dodawaj kontekst w razie potrzeby

Pozwól Bob przeszukiwać i odczytywać ukierunkowane pliki, zamiast wklejać duże bloki treści do promptu czatu. Odwołuj się do konkretnych ścieżek plików i zakresów linii w prompcie i unikaj ogólnych odwołań do katalogów:

✓ Napraw logikę walidacji email w src/utils/validation.ts linie 45-67
✗ Przejrzyj wszystko w src/, tests/ i docs/ i zaproponuj ulepszenia

Pracuj etapami — znajdź prawdopodobne pliki, sprawdź istotne, zaplanuj, zmień i zweryfikuj. Do szerokich odczytów repozytorium używaj subagentów, aby sesja otrzymywała skondensowane wyniki zamiast każdego wywołania read_file lądującego w Wiadomościach. Gdy źródła się nie zgadzają, ufaj działającemu kodowi i testom, a nie nieaktualnym komentarzom lub starym notatkom README.

Więcej taktyk dla dużych repozytoriów znajdziesz w dokumentacji Praca z dużymi projektami.

Resetuj, gdy Wiadomości się przepełniają

W trakcie długiej sesji Wiadomości gromadzą powtarzające się zawartości plików, porzucone plany i nieaktualne wyjście narzędzi. Zacznij nową sesję, gdy cel pracy się zmienia lub gdy rozmowa jest wystarczająco duża, żeby obniżyć jakość. Zachowaj ograniczenia, dowody i otwarte pytania — usuń resztę.

Bob może też automatycznie kondensować starsze segmenty, ale kondensacja jest stratna i szczegóły z początku Wiadomości mogą nie przetrwać. Preferuj małe, zatwierdzone zmiany zamiast jednego dużego autonomicznego przebiegu, aby różnice były przeglądalne, a Bob pozostawał na kursie.

Jak oceniasz ten temat?