Retrieval-augmented generation
Usa RAG per migliorare l'accuratezza delle risposte di Bob usando la documentazione ufficiale IBM i.
IBM Bob Premium Package for i include una funzionalità di ricerca documentazione tramite retrieval-augmented generation (RAG) che consente a Bob di effettuare ricerche semantiche su un corpus completo di documentazione IBM i quando risponde alle domande.
Cos'è RAG
Il retrieval-augmented generation (RAG) è una tecnica che combina il potere generativo di un large language model (LLM) con una knowledge base curata e ricercabile. IBM Bob Premium Package for i ha accesso a un database vettoriale di documentazione IBM i indicizzata, IBM Redbook e altri manuali di riferimento IBM i — strutturati in modo tale da consentire a Bob di trovare rapidamente contenuti significativamente correlati alla tua domanda, non solo testualmente simili.
Invece di fare affidamento esclusivamente su ciò che il modello conosce, Bob può recuperare estratti contestualmente rilevanti dalla documentazione ufficiale IBM i e usarli per basare le proprie risposte su contenuti verificati e aggiornati. Questo significa che le risposte di Bob hanno meno probabilità di essere basate su dati di addestramento obsoleti o fatti allucinati, e più probabilità di riflettere una guida accurata e proveniente da IBM.
Come funziona
Bob segue questi passaggi:
Le modalità IBM i Developer e IBM i Database sono ciascuna dotata dello strumento search_ibm_i_docs_with_rag, che accetta query in linguaggio naturale e restituisce estratti di documentazione contestualmente rilevanti classificati per somiglianza semantica.
Bob attiva lo strumento quando risponde a domande IBM i concettuali o aperte che traggono vantaggio dalla comprensione semantica. Questo può servire per approfondire argomenti IBM i tra cui la programmazione ILE (RPG, CL, DDS, COBOL, C, C++), Db2 for i SQL, file system IFS e QSYS, operazioni di sistema, sicurezza, prestazioni, rete, storage e troubleshooting.
Bob incorpora gli estratti di documentazione restituiti nella propria risposta. Se i risultati iniziali non rispondono completamente alla domanda, Bob affina la query e cerca di nuovo prima di formulare la risposta finale.
Bob attiverà tipicamente RAG quando incontra domande IBM i in stile Q&A o quando si trova bloccato in un ciclo ripetitivo (ad es. dopo ripetuti tentativi di risolvere un problema di compilazione). Tuttavia, puoi sempre chiedere a Bob di cercare nella documentazione direttamente se:
- La risposta di Bob sembra obsoleta o incompleta e non ha già usato lo strumento
- Vuoi approfondire un argomento, ad esempio un concetto specifico RPG o SQL
- Bob sta facendo ipotesi ripetutamente inaccurate senza fare riferimento alla documentazione
Per esempio, puoi essere esplicito e dire: "Cerca nella documentazione IBM i quali tecniche SQL esistono per svuotare i messaggi da una data queue." oppure semplicemente "Controlla la documentazione prima di rispondere...".