Eğitimler

Yeni bir bağlam penceresi oluştur

Karmaşık veya uzun süreli konuşmalar sırasında belleği korumak, maliyeti kontrol etmek ve çıktı kalitesini korumak için Bob'un bağlam penceresini yönetin.

Sohbet panelindeki her görev (konuşma) bir bağlam penceresine sahiptir. Bağlam penceresi, Bob'un mevcut oturum için bellekte tutabileceği token limitidir. Bağlam, sistem talimatlarını, araç şemalarını, kurallarınızı ve becerilerinizi ve tam transkripti içerir.

Bu öğreticide, bağlam penceresini açacak, gerçek iş yapmadan önce Bob'un ne yüklediğini öğrenecek ve ne zaman yeni bir bağlam penceresi oluşturmanız gerektiğini öğreneceksiniz.

Bu öğreticinin sonunda şunları öğreneceksiniz:

  1. Her bağlam penceresi kategorisini ve Bob'un ona ne yüklediğini tanımlayın.
  2. Galaxium Travels'da temel bağlam yükünü ölçün.
  3. Sabit kategoriler sabit kalırken bir depo istemi sonrasında Messages'ın büyümesini izleyin.
  4. Önceki görevi geçmişte tutarken bağlam penceresini sıfırlamak için yeni bir görev başlatın.

Bu öğretici nasıl düzenlenmiştir

AdımBölümNe yaparsınız
1Laboratuvarı kurunGalaxium Travels ve sohbet panelini açın
2Bağlam penceresi dökümünü okuyunMinimal bir istem gönderin, ardından yeni bir dökümü inceleyin (~8.5k)
3Bir istemle mesajları büyütünDosyaları listeleyin, ardından Messages'ın ~4.2k'ya (12.1k toplam) atladığını doğrulayın
4Yeni bir bağlam penceresi oluşturun+'ya (Yeni görev) tıklayın, ardından göstergenin sıfırlandığını doğrulayın

Aşağıdaki terimlerle tanışın:

  • Görev: Kendi bağlam penceresine sahip bir konuşma dizisi. + (Yeni görev) ile yeni bir bağlam penceresi başlatırsınız. İstemleriniz, Bob'un yanıtları ve onay düğmeleri burada bulunur.
  • Bağlam penceresi dökümü: Token'ların nereye gittiğini görmek için sohbet panelinin sağ üst köşesindeki token kullanım göstergesine tıklayın.

Toplamlar MCP sunucularına, kurallara, becerilere ve Bob'un ne kadar okuduğuna göre değişir. Aşağıdaki rakamlar 270.0k pencereli Galaxium Travels'dan alınmıştır. Sabit kategoriler bu sayılara yakın olmalıdır. Messages, Bob'dan ne yapmasını istediğinize bağlıdır.

Ön koşullar

Bu öğreticiyi tamamlamak için aşağıdakilere ihtiyacınız vardır:

Bağlam yönetimi neden önemlidir

Token maliyeti

Token'lar Bob coins ile ölçülen Bob için tüketim birimidir. Daha uzun konuşmalar ve daha büyük dosya okumaları daha fazla token tüketir. Konuşmaları odaklanmış tutmak maliyeti azaltır.

Her istem tam aktif bağlamı yeniden gönderir. Bu, hiç yazmadığınız sabit yükü içerir. Tek satırlık bir soru bile Araç tanımlarını, Kuralları ve Bob'un varsayılan olarak yüklediği diğer her şeyi taşır.

Özetleme kayıplıdır

Bob token limitine ulaştığında, Bob çalışmaya devam etmek için eski içeriği yoğunlaştırır ve bu da ayrıntıları düşürür. Birçok istem önce belirttiğiniz uç durumları, ara akıl yürütmeyi ve kısıtlamaları kaybedebilirsiniz.

İçerik ayrıntılarına hala ihtiyacınız varsa, Bob özetlemeden önce yeni bir görev başlatın.

Kalite limitten önce bozulur

Bob şu anda 270.0k token'lık bir pencere kullanıyor. Tam limit için kendi token kullanım göstergenizi kontrol edin. Kalite genellikle ona ulaşmadan önce düşer. Messages büyüdükçe yanıtlar daha az güvenilir hale gelir.

Laboratuvarı kurun

  1. Galaxium Travels deposunu klonlayın.

    git clone -b bob-learning-path-branch https://github.com/IBM/galaxium-travels
  2. File'a ve ardından Open Folder'a tıklayın.

  3. Klonladığınız galaxium-travels dizinine gidin ve açın.

  4. Gezinme çubuğunun yanındaki Bob simgesine tıklayarak veya Option + Command + B (macOS) veya Ctrl + Alt + B (Windows) kısayolunu kullanarak Bob sohbet arayüzünü açın.

  5. Sohbet giriş alanında /init komutunu çalıştırın. Bob depoyu tarar ve proje kurallarıyla bir AGENTS.md dosyası oluşturur. İstenirse Approve todo tools for task'a tıklayın.

    Bob'un bitirdiğini bildirmesini bekleyin. Bu AGENTS.md, daha sonra bağlam penceresi dökümünde Rules satırı olarak görünen şeydir, bu nedenle deponun bir temel ölçmeden önce buna ihtiyacı vardır.

Bağlam penceresi dökümünü okuyun

Yeni bir temel alın, ardından dökümü okuyun.

  1. Yeni bir görev başlatmak için sohbet panelinin üst kısmındaki +'ya tıklayın.

  2. Az miktarda token kullanmak için minimal bir istem gönderin:

    Hızlıca merhaba de.

    Bob'un yanıtını bekleyin.

  3. Kullanım dökümünü görmek için sohbet panelinin sağ üst köşesindeki token kullanım göstergesine tıklayın.

Bağlam Penceresi Dökümü

Galaxium Travels'daki bu alışverişten sonra sayılarınız değişecektir, ancak şunlara yakın sayılar göreceksiniz:

Token'lar
Toplam kullanılan8.5k (~%3 dolu)
Sistem istemi1.5k
Araç tanımları5.1k
Kurallar830
Beceriler454
Mesajlar590
Model yanıtı için ayrılmış20.0k
Kullanılabilir alan241.5k

Toplam kullanılan 8.5k'dan uzaksa, yeni bir görev başlattığınızı ve yalnızca bir istem gönderdiğinizi kontrol edin.

Araç tanımları genellikle en büyük sabit kategoridir. MCP sunucuları ve yerleşik araç şemaları, onları çağırıp çağırmadığınıza bakılmaksızın yüklenir. Kurallar, AGENTS.md gibi proje dosyalarından gelir. Beceriler, Bob görev sırasında bir beceri yüklerse daha sonra artabilir.

  1. Her kategoriyi okuyun. Döküm token'ların nereye gittiğini gösterir:

    KategoriNe olduğu
    Sistem istemiBu oturum için Bob'un temel talimatları
    Araç tanımlarıBob'un yerleşik araçları ve bağlı MCP araçları için şemalar
    KurallarProjenizden ve moddan özel talimatlar (özel kurallar, örneğin AGENTS.md)
    BecerilerBob'un yüklediği herhangi bir beceriden talimatlar (UI bir sayı gösterebilir, örneğin Skills (1 loaded))
    MesajlarGörevdeki istemleriniz, Bob'un yanıtları ve araç etkinliği. Bu, token olarak sayılan transkripttir.

    Tahmini döküm altında:

    • Model yanıtı için ayrılmış: Bob'un hemen limite ulaşmadan yanıt verebilmesi için ayrılmış token'lar.
    • Kullanılabilir alan: Bob'un yoğunlaştırması gerekmeden önce hala boş olan tahmini token'lar.

    Galaxium'da, sabit kategoriler (Sistem istemi, Araç tanımları, Kurallar, Beceriler) anlamlı işten önce kabaca 8k toplar. Bunu yazdığınıza bakılmaksızın her turda ödersiniz.

Bir istemle mesajları büyütün

Aynı görevde kalın. Transkripti dolduran bir istem gönderin.

  1. Bir dosya listesi isteyin.

    Bu dizindeki tüm dosyaları listele.

    İstenirse okuma eylemlerini onaylayın. Bob depodaki dosyaları listeler.

  2. Neyin değiştiğini karşılaştırın. Dökümü tekrar açın. Galaxium Travels'da şunlara yakın sayılar görmelisiniz:

    KategoriYeni görevDosyaları listeledikten sonraSürekli çalışma (referans)
    Sistem istemi1.5k1.5k1.5k
    Araç tanımları5.1k5.1k5.1k
    Kurallar830830830
    Beceriler4544541.2k (1 yüklendi)
    Mesajlar5904.2k19.4k
    Toplam kullanılan8.5k (~%3)12.1k (~%4)28.0k (~%10)
    Kullanılabilir alan241.5k237.9k222.0k

    Mesajlar şimdi yaklaşık 4.2k okumalıdır. Çok daha yüksekse, Bob bu örnekten daha fazla dosya okumuştur, bu sorun değil. Mesele, sabit kategoriler değişmezken Mesajlar'ın büyümesidir.

    Liste çıktısı ve araç etkinliği transkriptte bulunur. Sistem istemi, Araç tanımları, Kurallar ve Beceriler bir dosya listeleme isteminden sonra sabit kalır.

    En sağdaki sütun, daha fazla okuma ve takip istemleri olan daha uzun bir Galaxium oturumundandır. Bob bir beceri yüklerse Beceriler artabilir (bu örnekte 454'ten 1.2k'ya). Zamanla, Mesajlar genellikle en hızlı büyüyen şeydir.

    Bir dosya listeleme istemi Galaxium'da Mesajlar'a yaklaşık 3.6k ekler. Sabit yük 8k civarında kalır. Yük değişmese bile depo keşfi bağlamı hızla kullanır.

Yeni bir bağlam penceresi oluşturun

Aynı projede yeni bir görev başlatın. Eski görev (konuşma) geçmişte kalır.

  1. Sohbet panelinin üst kısmındaki + (Yeni görev) düğmesine tıklayın.

    Gösterge sıfırlanır. Mesajlar küçük bir sayıya geri döner. Sistem istemi, Araç tanımları, Kurallar ve Beceriler kabaca taban çizgisine yeniden yüklenir.

  2. Bıraktığınız görev görev listesinde kalır ve istediğiniz zaman geri dönebilirsiniz. Kendi transkriptini ve token sayısını tutar. Yeni görevde çalışırken Bob onu kullanmaz.

    Şu durumlarda yeni bir görev başlatın:

    • Konuları veya çalışma hedeflerini değiştirdiğinizde.
    • Mesajlar kaliteye veya maliyete zarar verecek kadar büyük olduğunda. Galaxium'da Mesajlar'daki 19.4k sıfırlamak için makul bir sinyaldir.
    • Planlamayı bitirdiniz ve uygulama için temiz bir görev istiyorsunuz. Bkz. Karmaşık özellikleri planlayın ve uygulayın.

    Yansıma: Yeni görevde dökümü açın. Hangi kategoriler taban çizgisine döndü? Eski görevde kalsaydınız hangileri büyümeye devam ederdi?

Sonraki adımlar

Bu öğreticide, bağlam penceresini etkili bir şekilde nasıl yöneteceğinizi öğrendiniz. Dökümü okudunuz, sabit token yükü miktarını ölçtünüz, bir dosya listeleme isteminden sonra Mesajlar'ın arttığını izlediniz ve + (Yeni görev) ile sıfırladınız.

Bu konu nasıl?