Retrieval-Augmented Generation
Bob'un yanıt doğruluğunu resmi IBM i belgeleriyle iyileştirmek için RAG kullan.
IBM Bob Premium Package for i, Bob'un soruları yanıtlarken kapsamlı bir IBM i belgeleri korpusunu anlamsal olarak arayabilmesini sağlayan bir retrieval-augmented generation (RAG) belge arama özelliği içerir.
RAG nedir
Retrieval-augmented generation (RAG), büyük bir dil modelinin (LLM) üretici gücünü, seçilmiş ve aranabilir bir bilgi tabanıyla birleştiren bir tekniktir. IBM Bob Premium Package for i, indekslenmiş IBM i belgeleri, IBM Redbooks ve diğer IBM i başvuru kılavuzlarından oluşan bir vektör veritabanına erişir; bu yapı Bob'un yalnızca metin benzerlikleri yerine sorunla anlamlı biçimde ilgili içerikleri hızla bulmasına olanak tanır.
Bob, yalnızca modelin bildiğine güvenmek yerine resmi IBM i belgelerinden bağlamsal açıdan ilgili alıntıları getirebilir ve yanıtlarını doğrulanmış, güncel içeriğe dayandırabilir. Bu sayede Bob'un yanıtları, güncel olmayan eğitim verilerine veya uydurulmuş gerçeklere dayanma olasılığı azalırken doğru ve IBM kaynaklı yönlendirmeleri yansıtma ihtimali artar.
Nasıl çalışır
Bob şu adımları izler:
IBM i Developer ve IBM i Database modlarının her biri, doğal dil sorgularını kabul eden ve anlamsal benzerliğe göre sıralanmış, bağlamsal açıdan ilgili belge alıntıları döndüren search_ibm_i_docs_with_rag aracıyla donatılmıştır.
Bob, anlamsal anlayıştan yararlanan kavramsal veya açık uçlu IBM i sorularını yanıtlarken aracı tetikler. Bu; ILE programlama (RPG, CL, DDS, COBOL, C, C++), Db2 for i SQL, IFS ve QSYS dosya sistemleri, sistem operasyonları, güvenlik, performans, ağ iletişimi, depolama ve sorun giderme dahil IBM i konularını daha iyi anlamak için olabilir.
Bob, döndürülen belge alıntılarını yanıtına dahil eder. İlk sonuçlar soruyu tam olarak ele almıyorsa, nihai yanıtı oluşturmadan önce sorgusunu geliştirir ve yeniden arar.
Bob, IBM i soru-cevap tarzı sorularla karşılaştığında veya tekrarlayan bir döngüde sıkıştığını fark ettiğinde (örn. derleme sorununu çözmek için defalarca başarısız denemelerden sonra) genellikle RAG'ı tetikler. Ancak şu durumlarda her zaman Bob'dan belgeleri doğrudan aramasını isteyebilirsin:
- Bob'un yanıtı güncel olmayan veya eksik görünüyorsa ve aracı henüz kullanmamışsa
- Belirli bir RPG veya SQL kavramı gibi bir konuyu derinlemesine keşfetmek istiyorsan
- Bob belgelere başvurmadan defalarca yanlış varsayımlar yapıyorsa
Örneğin şunu açıkça belirtebilirsin: "Veri kuyruğundan mesaj temizlemek için hangi SQL tekniklerinin bulunduğunu IBM i belgelerinde ara." ya da basitçe "Yanıtlamadan önce belgeleri kontrol et...".