IBM Bob

Her Bobcoin'den En İyi Şekilde Yararlanmak

Bobcoin'ler, yaptığın iş için değil, Bob'un okuduğu ve yazdığı metin için harcanır. Bu farkı nasıl kapatacağını öğren.

Her Bobcoin'den En İyi Şekilde Yararlanmak

Yazarlar

IBM Bob Team

Yayınlandı

Kategori

guide

Paylaş

Bob, IBM'in yapay zeka kodlama asistanıdır ve bir oturum, onunla süregelen tek bir konuşmadır. Yaptığın iş için Bobcoin harcamazsın. Bob'un okuması ve oluşturması gereken metin için harcarsın. İkisi arasındaki fark, israfın çoğunun kaynağıdır.

Amaç daha az harcamak değil. Büyük bir refactoring çok maliyetlidir ve buna değer. Amaç, değmeyen iş için ödeme yapmayı durdurmaktır.

Bu makalede, context window'larını yöneterek, context poisoning'den kaçınarak, etkili prompt'lar yazarak, Bob'u tekrarlayan maliyetleri azaltacak şekilde yapılandırarak ve harcamanın nereye gittiğini ölçerek her Bobcoin'den en iyi şekilde nasıl yararlanacağını öğreneceksin.

Uzun context window'lar neden daha pahalı

Her mesaj gönderdiğinde, Bob sadece son mesajını değil, tüm konuşmayı tekrar alır. Bu nedenle, bir context window başladıktan bir saat sonra gönderilen bir mesaj, başlangıçta gönderdiğin aynı mesajdan daha pahalıya mal olur. Konuşma ne kadar uzun olursa, Bob'un o kadar çok okuması gerekir ve Bob ne kadar çok okursa, o kadar çok Bobcoin harcarsın.

İkinci bir etki var ve muhtemelen daha da pahalı. Bir konuşma ne kadar uzarsa, Bob'un onunla çalışması o kadar zorlaşır. Cevaplar daha az doğru hale gelir. Daha az doğru cevapların düzeltilmesi gerekir. Her düzeltme konuşmayı uzatır, bu da bir sonraki cevabı daha da kötüleştirir. Maliyet artar ve kalite aynı anda düşer.

Örneğin, Bob'un her turda tüm geçmişi yeniden okuduğu uzun bir hata ayıklama oturumu, aynı düzeltmenin birkaç odaklanmış, taze context window üzerinden yapılmasından daha maliyetli olabilir.

Maliyet tasarrufu stratejileri

İlgisiz her görev için yeni bir context window başlat. Bir görevi tamamladığında, yeni bir context window başlat. Bir sonraki görevin için aynı context window'dan çalışırsan, Bob hala her turda hepsini okur. Ancak Bob'un sana zaten verdiğin bilgileri yeniden öğrenmesi gerekecek kadar sık bölme — bu yeniden açıklama, uzun konuşmanın maliyetinden daha fazlasına mal olur.

İsteğin kapsamını belirt. Bob'u belirli dosyalara yönlendirmek için @ bahsini mümkün olduğunca kullan. Context mention'lar olmadan Bob, neyin önemli olduğunu anlamak için repository'yi arar ve bu arama çok fazla Bobcoin'e mal olabilir.

Etkili prompt'lar yaz. Bir prompt, Bob'a yapılan bir istektir. Ne kadar hassas olursa, Bob o kadar az tahmin etmek zorunda kalır ve sen o kadar az düzeltme yapmak zorunda kalırsın.

Tekrar tekrar düzeltmek yerine geri al. Bob prompt'unu birden fazla kez yanlış anladıysa, ya geri almalısın ya da orijinal isteğinle artı öğrendiklerinle yeniden başlamalısın. Geri almak veya yeni bir context window başlatmak, birçok düzeltme içeren uzun bir konuşmanın maliyetini azaltabilir.

Bir rollback ile şunları yapabilirsin:

  • Yapay zeka tarafından önerilen değişikliklerle güvenle deney yap
  • İstenmeyen değişikliklerden kolayca kurtul
  • Farklı uygulama yaklaşımlarını karşılaştır
  • İş kaybetmeden önceki proje durumlarına geri dön
  • Rollback'ın nasıl çalıştığını öğren
  • Rollback için en iyi uygulamaları öğren

Maliyeti azaltmak için Bob'u yapılandır

AGENTS.md. Projenin kurallarını ve yapısını yaz, böylece Bob'un her context window'da bunları yeniden çözmesi gerekmez. AGENTS.md dosyanı özlü tut. Bob bu AGENTS.md dosyasını sürekli okur, bu yüzden şişirilmiş bir dosya tek seferlik bir kazancı kalıcı bir maliyete dönüştürür.

Skills. Bir skill, her zaman context window'da olmak yerine yalnızca gerektiğinde yüklenen alan bilgisini tutar. Kullandığında bunun için ödeme yaparsın.

Hooks. Bir hook, doğrudan bir linter, formatter veya test komutu çalıştırır ve Bobcoin'lere mal olmaz. Bob'dan bir hook ile aynı eylemi yapmasını istemek Bobcoin'lere mal olur. Bir araç kontrolü yapabiliyorsa, bunu yapmak için bir modele ödeme yapma.

Bağlı araçlar. Bob, bu araçları kullansan da kullanmasan da her istekte bağlı her MCP (Model Context Protocol) sunucusunun açıklamasını okur. Geçen ay bir görev için açtığın bir sunucu hala sana mal oluyor. Aktif olarak kullanmadığında MCP'leri kapat.

Karmaşık görevlerde Bobcoin tasarrufu

Oluşturmadan önce planla. Bir plan, bir görevi tamamlamak için adımların bir listesidir. Maddeler halinde bir liste olabilir veya tam bir tasarım belgesi kadar karmaşık olabilir. Bir plan, oluşturma aşamasında yapman gereken düzeltme sayısını azaltır ve benzer görevler için yeniden kullanabilirsin. Sen ve Bob bir plan oluşturduğunuzda, uygulamadan önce gözden geçir.

Subagent'lar. Bob işi otomatik olarak subagent'lara devreder, bu yüzden istemen gerekmez. Bir görev ağır araştırma gerektirdiğinde, işi doğrudan bir subagent'a da atayabilirsin: kazma ana context window'unun dışında gerçekleşir ve sadece bulgular geri döner. Subagent'lar context window'unda yer açar, ancak her zaman daha az maliyetli değildir ve aynı anda birkaç tane çalıştırmak daha pahalıya mal olabilir. Bir görev ağır, izole araştırma gerektirdiğinde bir subagent'a başvur; kısa, sıralı görevleri ise ana context window'unda tut — birkaç agent'ı koordine etmek, görevi doğrudan yapmaktan daha pahalıya mal olabilir.

Bobcoin kullanımını ölç

Bobalytics gerçekte ne harcadığını gösterir. Toplam tek başına sana çok az şey söyler. Tespit etmek istediğin şey israf: küçük görevlerde uzun context window'lar, tekrar tekrar yapılan aynı düzeltme ve her sabah yazdığın ve AGENTS.md'ye ait olan bağlam.

Sonuç

Bunların hiçbiri deneyebileceğin şeyleri sınırlamaz. Bobcoin'leri projenizi yeniden açıklamaktan, önlenebilir yanlış anlamaları düzeltmekten ve asla ihtiyacın olmayan bağlam için ödeme yapmaktan uzaklaştırır ve işin kendisine yönlendirir.

Daha fazla Bobcoin, harcayabileceğin şeyi artırır. Daha az israf, bunun ne kadarının gerçek soruna ulaştığına karar verir.