Buat context window baru
Kelola context window Bob untuk mempertahankan memori, mengontrol biaya, dan menjaga kualitas output selama percakapan yang kompleks atau berjalan lama.
Setiap task (percakapan) di panel chat memiliki context window. Context window adalah batas token untuk apa yang bisa ditahan Bob dalam memori untuk sesi saat ini. Konteks mencakup instruksi sistem, skema tool, rules dan skill-mu, serta transkrip lengkap.
Dalam tutorial ini, kamu membuka context window, mempelajari apa yang dimuat Bob sebelum kamu melakukan pekerjaan nyata, dan mempelajari kapan harus membuat context window baru.
Prasyarat
IBM Bob IDE
Unduh dan instal IBM Bob v2.x atau lebih baru.
Git
Git diperlukan untuk meng-clone repository contoh.
Mengapa manajemen konteks penting
Biaya token
Token adalah satuan konsumsi untuk Bob, diukur dalam Bob coin. Percakapan yang lebih panjang dan pembacaan file yang lebih besar menghabiskan lebih banyak token. Menjaga percakapan tetap terfokus mengurangi biaya.
Summarization bersifat lossy
Ketika Bob mencapai batas token-nya, Bob meringkas konten yang lebih lama untuk terus bekerja, yang menghilangkan detail. Kamu bisa kehilangan edge case, penalaran perantara, dan batasan yang kamu nyatakan beberapa prompt yang lalu.
Kualitas menurun sebelum batas
Bob saat ini menggunakan context window 270.0k token. Kualitas seringkali menurun sebelum mencapainya. Seiring pertumbuhan Messages, respons menjadi kurang dapat diandalkan.
Setup lab
-
Clone repository Galaxium Travels.
git clone -b bob-learning-path-branch https://github.com/IBM/galaxium-travels -
Klik File lalu Open Folder.
-
Navigasi ke direktori
galaxium-travelsyang kamu clone dan buka. -
Buka antarmuka chat Bob dengan mengklik ikon Bob di sebelah navigation bar.
-
Di field input chat, jalankan
/init. Bob memindai repository. Klik Approve todo tools for task jika diminta.
Baca rincian context window
Dapatkan baseline segar, kemudian baca rinciannya.
-
Klik + di bagian atas panel chat untuk memulai task baru.
-
Kirim prompt minimal untuk menggunakan sedikit token:
Quickly say hi back. -
Klik indikator penggunaan token di pojok kanan atas panel chat untuk melihat rincian penggunaan.
Setelah pertukaran ini di Galaxium Travels, angkamu akan bervariasi, tapi kamu akan melihat angka mendekati:
| Token | |
|---|---|
| Total yang digunakan | 8.5k (~3% penuh) |
| System prompt | 1.5k |
| Tool definitions | 5.1k |
| Rules | 830 |
| Skills | 454 |
| Messages | 590 |
Tambah messages dengan prompt
Tetap di task yang sama. Kirim prompt yang mengisi transkrip.
-
Minta daftar file.
List all of the files in this directory. -
Bandingkan apa yang berubah. Buka rincian lagi. Messages seharusnya sekarang sekitar 4.2k.
Messages tumbuh sementara kategori tetap tidak berubah.
Buat context window baru
Mulai task baru di proyek yang sama. Task lama (percakapan) tetap ada di riwayat.
-
Klik + (New task) di bagian atas panel chat.
Indikator reset. Messages turun kembali ke angka kecil.
-
Task yang kamu tinggalkan tetap ada di daftar task, dan kamu bisa kembali kapan saja.
Mulai task baru ketika:
- Kamu beralih topik atau tujuan kerja.
- Messages cukup besar untuk mempengaruhi kualitas atau biaya.
- Kamu selesai merencanakan dan menginginkan task yang bersih untuk implementasi.
Langkah selanjutnya
- Manajemen context window: Ambang kondensasi, dampak MCP, dan best practice.
- Custom rules: Apa yang mengisi Rules.
- Skills: Apa yang mengisi Skills.
Hasilkan kode yang aman dengan actor-critic workflow
Gunakan IBM Bob untuk mengkonfigurasi security rules dan menerapkan pola actor-critic untuk menghasilkan kode Python yang memenuhi kerangka keamanan sebelum mencapai static analysis tool.
Menjaga Dokumentasi Tetap Sinkron dengan Codebase Anda
Pelajari cara menjaga dokumentasi teknis tetap sinkron dengan codebase Anda menggunakan perintah init IBM Bob dan mode Docs Architect kustom di berbagai skenario pengembangan nyata — pengerjaan fitur, tinjauan kode, onboarding, dan pemeliharaan berkelanjutan.