Retrieval-augmented generation
Używaj RAG, aby poprawić dokładność odpowiedzi Bob przy użyciu oficjalnej dokumentacji IBM i.
IBM Bob Premium Package for i zawiera możliwość wyszukiwania dokumentacji z użyciem retrieval-augmented generation (RAG), która pozwala Bob semantycznie przeszukiwać obszerny zbiór dokumentacji IBM i podczas odpowiadania na pytania.
Czym jest RAG
Retrieval-augmented generation (RAG) to technika łącząca generatywną moc dużego modelu językowego (LLM) z wyselekcjonowaną, przeszukiwalną bazą wiedzy. IBM Bob Premium Package for i ma dostęp do bazy wektorowej z indeksowaną dokumentacją IBM i, IBM Redbooks i innymi podręcznikami referencyjnymi IBM i — uporządkowanymi w sposób, który pozwala Bob szybko znajdować treści znacząco powiązane z twoim pytaniem, a nie tylko tekstowo podobne.
Zamiast polegać wyłącznie na tym, co model już wie, Bob może pobierać kontekstowo trafne fragmenty oficjalnej dokumentacji IBM i i wykorzystywać je jako podstawę odpowiedzi opartych na zweryfikowanych, aktualnych treściach. Dzięki temu odpowiedzi Bob rzadziej opierają się na nieaktualnych danych treningowych lub zmyślonych faktach, a częściej odzwierciedlają poprawne wskazówki pochodzące od IBM.
Jak to działa
Bob wykonuje następujące kroki:
Tryby IBM i Developer i IBM i Database są wyposażone w narzędzie search_ibm_i_docs_with_rag, które przyjmuje zapytania w języku naturalnym i zwraca kontekstowo trafne fragmenty dokumentacji uszeregowane według podobieństwa semantycznego.
Bob uruchamia to narzędzie podczas odpowiadania na koncepcyjne lub otwarte pytania dotyczące IBM i, które korzystają z semantycznego rozumienia. Może to służyć do lepszego zrozumienia tematów IBM i, w tym programowania ILE (RPG, CL, DDS, COBOL, C, C++), Db2 for i SQL, systemów plików IFS i QSYS, operacji systemowych, bezpieczeństwa, wydajności, sieci, storage i troubleshooting.
Bob włącza zwrócone fragmenty dokumentacji do swojej odpowiedzi. Jeśli początkowe wyniki nie odpowiadają w pełni na pytanie, Bob doprecyzowuje zapytanie i wyszukuje ponownie, zanim sformułuje końcową odpowiedź.
Bob zwykle uruchamia RAG, gdy napotyka pytania w stylu Q&A dotyczące IBM i albo gdy zauważa, że utknął w powtarzalnym cyklu (np. po wielu próbach rozwiązania problemu z kompilacją). Zawsze możesz jednak bezpośrednio poprosić Bob o przeszukanie dokumentacji, jeśli:
- odpowiedź Bob wydaje się nieaktualna albo niepełna i narzędzie nie zostało jeszcze użyte
- chcesz dogłębnie zbadać temat, taki jak konkretne pojęcie RPG albo SQL
- Bob wielokrotnie robi nieprawidłowe założenia bez odwoływania się do dokumentacji
Na przykład możesz powiedzieć wprost: "Search the IBM i docs for what SQL techniques exist to clear messages from a data queue." albo po prostu "Check the documentation before answering...".