Tutorials

Kontextfenster verwalten

Verwalte Bobs Kontextfenster, um Speicher zu erhalten, Kosten zu steuern und die Ausgabequalität aufrechtzuerhalten.

Jede Aufgabe (Konversation) im Chatbereich hat ein Kontextfenster. Das Kontextfenster ist das Token-Limit für alles, was Bob in der aktuellen Sitzung im Speicher halten kann. Zum Kontext gehören Systemanweisungen, Tool-Schemas, deine Regeln und Skills sowie das vollständige Transkript.

In diesem Tutorial öffnest du das Kontextfenster, lernst, was Bob lädt, bevor du echte Arbeit erledigst, und lernst, wann du ein neues Kontextfenster erstellen solltest.

Am Ende dieses Tutorials lernst du Folgendes:

  1. Jede Kategorie des Kontextfensters zu erkennen und zu verstehen, was Bob darin lädt.
  2. Den Basis-Overhead des Kontexts in Galaxium Travels zu messen.
  3. Zu beobachten, wie Messages nach einem Repository-Prompt wächst, während feste Kategorien unverändert bleiben.
  4. Eine neue Aufgabe zu starten, um das Kontextfenster zurückzusetzen, während die vorherige Aufgabe im Verlauf erhalten bleibt.

So ist dieses Tutorial aufgebaut

SchrittAbschnittWas du tust
1Das Lab einrichtenGalaxium Travels und den Chatbereich öffnen
2Die Aufschlüsselung des Kontextfensters lesenEinen minimalen Prompt senden und dann eine frische Aufschlüsselung prüfen (~8.5k)
3Messages mit einem Prompt vergrößernDateien auflisten und dann prüfen, dass Messages auf ~4.2k steigt (12.1k insgesamt)
4Ein neues Kontextfenster erstellenAuf + (Neue Aufgabe) klicken und dann prüfen, dass sich der Indikator zurücksetzt

Mach dich mit den folgenden Begriffen vertraut:

  • Aufgabe: Ein einzelner Konversationsthread mit eigenem Kontextfenster. Du startest ein neues Kontextfenster mit + (Neue Aufgabe). Deine Prompts, Bobs Antworten und Genehmigungsschaltflächen befinden sich hier.
  • Aufschlüsselung des Kontextfensters: Klicke oben rechts im Chatbereich auf die Token-Nutzungsanzeige, um zu sehen, wohin die Tokens gehen.

Die Gesamtwerte variieren je nach MCP-Servern, Regeln, Skills und danach, wie viel Bob liest. Die folgenden Werte stammen aus Galaxium Travels mit einem Fenster von 270.0k. Feste Kategorien sollten in etwa in diesem Bereich liegen. Messages hängt davon ab, was du Bob tun lässt.

Voraussetzungen

Um dieses Tutorial abzuschließen, brauchst du Folgendes:

Warum Kontextverwaltung wichtig ist

Token-Kosten

Tokens sind die Verbrauchseinheit für Bob, gemessen in Bob Coins. Längere Konversationen und größere Dateilesevorgänge verbrauchen mehr Tokens. Fokussierte Konversationen senken die Kosten.

Jeder Prompt sendet den gesamten aktiven Kontext erneut. Dazu gehört auch fester Overhead, den du nie selbst eingegeben hast. Selbst eine einzeilige Frage enthält Tool-Definitionen, Regeln und alles andere, was Bob standardmäßig lädt.

Zusammenfassung ist verlustbehaftet

Wenn Bob sein Token-Limit erreicht, verdichtet Bob ältere Inhalte, um weiterarbeiten zu können, wodurch Details verloren gehen. Randfälle, Zwischenschritte und Einschränkungen, die du viele Prompts zuvor genannt hast, können verloren gehen.

Wenn du die Details des Inhalts noch brauchst, starte eine neue Aufgabe, bevor Bob sie durch die Zusammenfassung entfernt.

Die Qualität sinkt schon vor dem Limit

Bob verwendet derzeit ein Kontextfenster von 270.0k Tokens. Prüfe deine eigene Token-Nutzungsanzeige, um das genaue Limit zu sehen. Die Qualität sinkt oft schon, bevor du es erreichst. Wenn Messages wächst, werden Antworten weniger zuverlässig.

Das Lab einrichten

  1. Klone das Repository Galaxium Travels.

    git clone -b bob-learning-path-branch https://github.com/IBM/galaxium-travels
  2. Klicke auf File und dann auf Open Folder.

  3. Navigiere zum geklonten Verzeichnis galaxium-travels und öffne es.

  4. Öffne die Bob-Chatoberfläche, indem du auf das Bob-Symbol neben der Navigationsleiste klickst, oder verwende den Shortcut Option + Command + B (macOS) oder Ctrl + Alt + B (Windows).

  5. Führe im Chat-Eingabefeld /init aus. Bob scannt das Repository und erstellt eine Datei AGENTS.md mit Projektregeln. Klicke auf Approve todo tools for task, wenn du dazu aufgefordert wirst.

    Warte, bis Bob meldet, dass der Vorgang abgeschlossen ist. Diese AGENTS.md erscheint später als Zeile Rules in der Aufschlüsselung des Kontextfensters, daher braucht das Repository sie, bevor du einen Basiswert misst.

Die Aufschlüsselung des Kontextfensters lesen

Ermittle zuerst einen frischen Basiswert und lies dann die Aufschlüsselung.

  1. Klicke oben im Chatbereich auf +, um eine neue Aufgabe zu starten.

  2. Sende einen minimalen Prompt, damit nur wenige Tokens verwendet werden:

    Sag einfach kurz hallo zurück.

    Warte auf Bobs Antwort.

  3. Klicke oben rechts im Chatbereich auf die Token-Nutzungsanzeige, um die Aufschlüsselung zu sehen.

Aufschlüsselung des Kontextfensters

Nach diesem Austausch in Galaxium Travels variieren deine Zahlen, aber du solltest Werte sehen, die ungefähr so aussehen:

Tokens
Total used8.5k (~3% voll)
System prompt1.5k
Tool definitions5.1k
Rules830
Skills454
Messages590
Reserved for model response20.0k
Available space241.5k

Wenn Total used deutlich von 8.5k abweicht, prüfe, ob du eine neue Aufgabe gestartet und nur diesen einen Prompt gesendet hast.

Tool definitions ist normalerweise die größte feste Kategorie. MCP-Server und integrierte Tool-Schemas werden geladen, auch wenn du sie nicht aufrufst. Rules stammt aus Projektdateien wie AGENTS.md. Skills kann später steigen, wenn Bob während der Aufgabe einen Skill lädt.

  1. Lies jede Kategorie. Die Aufschlüsselung zeigt, wohin die Tokens gehen:

    KategorieBedeutung
    System promptBobs Kernanweisungen für diese Sitzung
    Tool definitionsSchemas für Bobs integrierte Tools und verbundene MCP-Tools
    RulesBenutzerdefinierte Anweisungen aus deinem Projekt und Modus (custom rules, zum Beispiel AGENTS.md)
    SkillsAnweisungen aus allen Skills, die Bob geladen hat (die UI kann eine Anzahl anzeigen, zum Beispiel Skills (1 loaded))
    MessagesDeine Prompts, Bobs Antworten und Tool-Aktivität in der Aufgabe. Das ist das als Tokens gezählte Transkript.

    Unter Estimated breakdown:

    • Reserved for model response: Reservierte Tokens, damit Bob antworten kann, ohne sofort das Limit zu erreichen.
    • Available space: Geschätzte Tokens, die noch frei sind, bevor Bob Inhalte verdichten muss.

    In Galaxium ergeben die festen Kategorien (System prompt, Tool definitions, Rules, Skills) zusammen ungefähr 8k, bevor sinnvolle Arbeit beginnt. Das zahlst du bei jeder Eingabe, auch wenn du es nie selbst getippt hast.

Messages mit einem Prompt vergrößern

Bleib in derselben Aufgabe. Sende einen Prompt, der das Transkript füllt.

  1. Fordere eine Dateiliste an.

    Liste alle Dateien in diesem Verzeichnis auf.

    Genehmige Leseaktionen, wenn du dazu aufgefordert wirst. Bob listet die Dateien im Repository auf.

  2. Vergleiche, was sich geändert hat. Öffne die Aufschlüsselung erneut. In Galaxium Travels solltest du Werte sehen, die ungefähr so aussehen:

    KategorieFrische AufgabeNach list-filesLängere Arbeit (Referenz)
    System prompt1.5k1.5k1.5k
    Tool definitions5.1k5.1k5.1k
    Rules830830830
    Skills4544541.2k (1 geladen)
    Messages5904.2k19.4k
    Total used8.5k (~3%)12.1k (~4%)28.0k (~10%)
    Available space241.5k237.9k222.0k

    Messages sollte jetzt ungefähr 4.2k anzeigen. Wenn der Wert deutlich höher ist, hat Bob mehr Dateien gelesen als in diesem Beispiel, was in Ordnung ist. Wichtig ist, dass Messages gewachsen ist, während die festen Kategorien unverändert geblieben sind.

    Die Listenausgabe und Tool-Aktivität befinden sich im Transkript. System prompt, Tool definitions, Rules und Skills bleiben nach einem einzelnen list-files-Prompt unverändert.

    Die rechte Spalte stammt aus einer längeren Galaxium-Sitzung mit mehr Lesevorgängen und Folgeprompts. Skills kann steigen, wenn Bob einen Skill lädt (in diesem Beispiel von 454 auf 1.2k). Mit der Zeit wächst Messages normalerweise am schnellsten.

    Ein einzelner list-files-Prompt fügt in Galaxium ungefähr 3.6k zu Messages hinzu. Der feste Overhead bleibt bei ungefähr 8k. Repository-Erkundung verbraucht schnell Kontext, auch wenn sich der Overhead nicht ändert.

Ein neues Kontextfenster erstellen

Starte im selben Projekt eine neue Aufgabe. Die alte Aufgabe (Konversation) bleibt im Verlauf.

  1. Klicke oben im Chatbereich auf + (Neue Aufgabe).

    Der Indikator wird zurückgesetzt. Messages fällt wieder auf einen kleinen Wert. System prompt, Tool definitions, Rules und Skills werden ungefähr auf den Basiswert zurückgesetzt.

  2. Die Aufgabe, die du verlassen hast, bleibt in der Aufgabenliste, und du kannst jederzeit dorthin zurückwechseln. Sie behält ihr eigenes Transkript und ihre eigene Token-Anzahl. Bob verwendet sie nicht, während du in der neuen Aufgabe arbeitest.

    Starte eine neue Aufgabe, wenn:

    • du das Thema oder Arbeitsziel wechselst.
    • Messages groß genug ist, um Qualität oder Kosten zu beeinträchtigen. In Galaxium ist 19.4k in Messages ein vernünftiges Signal zum Zurücksetzen.
    • du die Planung abgeschlossen hast und eine saubere Aufgabe für die Implementierung möchtest. Siehe Komplexe Features planen und implementieren.

    Reflexion: Öffne die Aufschlüsselung in der neuen Aufgabe. Welche Kategorien sind auf den Basiswert zurückgekehrt? Welche wären weiter gewachsen, wenn du in der alten Aufgabe geblieben wärst?

Nächste Schritte

In diesem Tutorial hast du gelernt, wie du das Kontextfenster effektiv verwaltest. Du hast die Aufschlüsselung gelesen, den festen Token-Overhead gemessen, beobachtet, wie Messages nach einem einzelnen list-files-Prompt zunimmt, und mit + (Neue Aufgabe) zurückgesetzt.

Wie ist dieses Thema?