Tutoriais

Criar uma nova janela de contexto

Gerencie a janela de contexto do Bob para preservar a memória, controlar custos e manter a qualidade de saída durante conversas complexas ou de longa duração.

Cada tarefa (conversa) no painel de chat tem uma janela de contexto. A janela de contexto é o limite de tokens para o que o Bob pode manter na memória para a sessão atual. O contexto inclui instruções do sistema, esquemas de ferramentas, suas regras e habilidades e a transcrição completa.

Neste tutorial, você abre a janela de contexto, aprende o que o Bob carrega antes de fazer o trabalho real e aprende quando criar uma nova janela de contexto.

Ao final deste tutorial, você aprenderá o seguinte:

  1. Identificar cada categoria da janela de contexto e o que o Bob carrega nela.
  2. Medir a sobrecarga de contexto de linha de base no Galaxium Travels.
  3. Observar o crescimento de Messages após um prompt de repositório enquanto as categorias fixas permanecem estáveis.
  4. Iniciar uma nova tarefa para redefinir a janela de contexto mantendo a tarefa anterior no histórico.

Como este tutorial está organizado

EtapaSeçãoO que você faz
1Configurar o laboratórioAbrir Galaxium Travels e o painel de chat
2Ler a divisão da janela de contextoEnviar um prompt mínimo e inspecionar uma divisão nova (~8.5k)
3Aumentar mensagens com um promptListar arquivos e verificar se Messages salta para ~4.2k (12.1k total)
4Criar uma nova janela de contextoClicar em + (Nova tarefa) e verificar se o indicador é redefinido

Familiarize-se com os seguintes termos:

  • Tarefa: Um thread de conversa com sua própria janela de contexto. Você inicia uma nova janela de contexto com + (Nova tarefa). Seus prompts, respostas do Bob e botões de aprovação ficam aqui.
  • Divisão da janela de contexto: Clique no indicador de uso de tokens no canto superior direito do painel de chat para ver para onde vão os tokens.

Os totais variam com servidores MCP, regras, habilidades e quanto o Bob lê. Os números a seguir são do Galaxium Travels em uma janela de 270.0k. As categorias fixas devem estar próximas desses números. Messages depende do que você pede ao Bob para fazer.

Pré-requisitos

Para concluir este tutorial, você precisa do seguinte:

Por que o gerenciamento de contexto é importante

Custo de tokens

Tokens são a unidade de consumo para o Bob, medida em Bob coins. Conversas mais longas e leituras de arquivos maiores consomem mais tokens. Manter as conversas focadas reduz o custo.

Cada prompt reenvia o contexto ativo completo. Isso inclui sobrecarga fixa que você nunca digitou. Uma pergunta de uma linha ainda carrega definições de ferramentas, regras e tudo o mais que o Bob carrega por padrão.

O resumo tem perdas

Quando o Bob atinge seu limite de tokens, o Bob condensa o conteúdo mais antigo para continuar trabalhando, o que elimina detalhes. Você pode perder casos extremos, raciocínio intermediário e restrições que você declarou muitos prompts atrás.

Se você ainda precisar dos detalhes do conteúdo, inicie uma nova tarefa antes que o Bob os resuma.

A qualidade se degrada antes do limite

O Bob atualmente usa uma janela de 270.0k tokens. Verifique seu próprio indicador de uso de tokens para o limite exato. A qualidade geralmente cai antes de você alcançá-lo. À medida que Messages cresce, as respostas ficam menos confiáveis.

Configurar o laboratório

  1. Clone o repositório Galaxium Travels.

    git clone -b bob-learning-path-branch https://github.com/IBM/galaxium-travels
  2. Clique em File e depois em Open Folder.

  3. Navegue até o diretório galaxium-travels que você clonou e abra-o.

  4. Abra a interface de chat do Bob clicando no ícone do Bob ao lado da barra de navegação ou use o atalho Option + Command + B (macOS) ou Ctrl + Alt + B (Windows).

  5. No campo de entrada do chat, execute /init. O Bob examina o repositório e cria um arquivo AGENTS.md com regras do projeto. Clique em Approve todo tools for task se solicitado.

    Aguarde até que o Bob informe que terminou. Este AGENTS.md é o que aparece posteriormente como a linha Rules na divisão da janela de contexto, então o repositório precisa dele antes de você medir uma linha de base.

Ler a divisão da janela de contexto

Obtenha uma linha de base nova e leia a divisão.

  1. Clique em + no topo do painel de chat para iniciar uma nova tarefa.

  2. Envie um prompt mínimo para usar uma pequena quantidade de tokens:

    Diga oi rapidamente.

    Aguarde a resposta do Bob.

  3. Clique no indicador de uso de tokens no canto superior direito do painel de chat para ver a divisão de uso.

Divisão da janela de contexto

Após esta troca no Galaxium Travels, seus números variarão, mas você verá números próximos a:

Tokens
Total usado8.5k (~3% cheio)
Prompt do sistema1.5k
Definições de ferramentas5.1k
Regras830
Habilidades454
Mensagens590
Reservado para resposta do modelo20.0k
Espaço disponível241.5k

Se Total usado estiver longe de 8.5k, verifique se você iniciou uma tarefa nova e enviou apenas um prompt.

Definições de ferramentas geralmente é a maior categoria fixa. Servidores MCP e esquemas de ferramentas integradas carregam independentemente de você chamá-los ou não. Regras vem de arquivos de projeto como AGENTS.md. Habilidades pode aumentar mais tarde se o Bob carregar uma habilidade durante a tarefa.

  1. Leia cada categoria. A divisão mostra para onde vão os tokens:

    CategoriaO que é
    Prompt do sistemaInstruções principais do Bob para esta sessão
    Definições de ferramentasEsquemas para ferramentas integradas do Bob e ferramentas MCP conectadas
    RegrasInstruções personalizadas do seu projeto e modo (regras personalizadas, por exemplo AGENTS.md)
    HabilidadesInstruções de quaisquer habilidades que o Bob carregou (a interface pode mostrar uma contagem, por exemplo Skills (1 loaded))
    MensagensSeus prompts, respostas do Bob e atividade de ferramentas na tarefa. Esta é a transcrição contada como tokens.

    Em Divisão estimada:

    • Reservado para resposta do modelo: Tokens reservados para que o Bob possa responder sem atingir imediatamente o limite.
    • Espaço disponível: Tokens estimados ainda livres antes que o Bob precise condensar.

    No Galaxium, as categorias fixas (Prompt do sistema, Definições de ferramentas, Regras, Habilidades) totalizam aproximadamente 8k antes do trabalho significativo. Você paga isso a cada turno, independentemente de ter digitado ou não.

Aumentar mensagens com um prompt

Permaneça na mesma tarefa. Envie um prompt que preencha a transcrição.

  1. Solicite uma lista de arquivos.

    Liste todos os arquivos neste diretório.

    Aprove ações de leitura se solicitado. O Bob lista arquivos no repositório.

  2. Compare o que mudou. Abra a divisão novamente. No Galaxium Travels, você deve ver números próximos a:

    CategoriaTarefa novaApós listar arquivosTrabalho sustentado (referência)
    Prompt do sistema1.5k1.5k1.5k
    Definições de ferramentas5.1k5.1k5.1k
    Regras830830830
    Habilidades4544541.2k (1 carregada)
    Mensagens5904.2k19.4k
    Total usado8.5k (~3%)12.1k (~4%)28.0k (~10%)
    Espaço disponível241.5k237.9k222.0k

    Mensagens agora deve ler cerca de 4.2k. Se estiver muito mais alto, o Bob leu mais arquivos do que este exemplo, o que está bem. O ponto é que Mensagens cresceu enquanto as categorias fixas não.

    A saída da lista e a atividade da ferramenta ficam na transcrição. Prompt do sistema, Definições de ferramentas, Regras e Habilidades permanecem estáveis após um prompt de listar arquivos.

    A coluna mais à direita é de uma sessão mais longa do Galaxium com mais leituras e prompts de acompanhamento. Habilidades pode aumentar se o Bob carregar uma habilidade (454 para 1.2k nesse exemplo). Com o tempo, Mensagens geralmente é o que cresce mais rápido.

    Um prompt de listar arquivos adiciona cerca de 3.6k a Mensagens no Galaxium. A sobrecarga fixa permanece perto de 8k. A exploração do repositório usa contexto rapidamente, mesmo quando a sobrecarga não muda.

Criar uma nova janela de contexto

Inicie uma nova tarefa no mesmo projeto. A tarefa antiga (conversa) permanece no histórico.

  1. Clique em + (Nova tarefa) no topo do painel de chat.

    O indicador é redefinido. Mensagens volta para um número pequeno. Prompt do sistema, Definições de ferramentas, Regras e Habilidades recarregam para aproximadamente a linha de base.

  2. A tarefa que você deixou permanece na lista de tarefas e você pode voltar a ela a qualquer momento. Ela mantém sua própria transcrição e contagem de tokens. O Bob não a usa enquanto você trabalha na nova tarefa.

    Inicie uma nova tarefa quando:

    • Você mudar de tópicos ou objetivos de trabalho.
    • Mensagens for grande o suficiente para prejudicar a qualidade ou o custo. No Galaxium, 19.4k em Mensagens é um sinal razoável para redefinir.
    • Você terminou o planejamento e quer uma tarefa limpa para implementação. Veja Planejar e implementar recursos complexos.

    Reflexão: Abra a divisão na nova tarefa. Quais categorias retornaram à linha de base? Quais teriam continuado crescendo se você tivesse permanecido na tarefa antiga?

Próximos passos

Neste tutorial, você aprendeu como gerenciar a janela de contexto de forma eficaz. Você leu a divisão, mediu a quantidade de sobrecarga de tokens fixa, observou o aumento de Mensagens após um prompt de listar arquivos e redefiniu com + (Nova tarefa).

Como está este tópico?