高级套件IBM Bob i 高级套件

检索增强生成

使用 RAG,借助官方 IBM i 文档提升 Bob 的响应准确性。

IBM Bob Premium Package for i 包含一项检索增强生成(RAG)文档搜索能力,使 Bob 能够在回答问题时对全面的 IBM i 文档语料库进行语义搜索。

什么是 RAG

检索增强生成(RAG)是一种将大型语言模型(LLM)的生成能力与经过筛选的可搜索知识库相结合的技术。IBM Bob Premium Package for i 拥有一个已索引 IBM i 文档、IBM Redbooks 及其他 IBM i 参考手册的向量数据库——其结构方式使 Bob 能够快速找到与您的问题在语义上密切相关的内容,而不仅仅是文本上相似的内容。

Bob 不必完全依赖模型自身的知识,而是可以从官方 IBM i 文档中获取上下文相关的摘录,并以此为基础,将答案建立在经过验证的最新内容上。这意味着 Bob 的响应不太可能基于过时的训练数据或幻觉事实,而更可能反映准确的、来自 IBM 的指导。

工作原理

Bob 按照以下步骤执行:

IBM i DeveloperIBM i Database 模式均配备了 search_ibm_i_docs_with_rag 工具,该工具接受自然语言查询,并返回按语义相似度排名的上下文相关文档摘录。

当回答需要语义理解的概念性或开放式 IBM i 问题时,Bob 会触发该工具。这可以帮助深入理解 IBM i 主题,包括 ILE 编程(RPG、CL、DDS、COBOL、C、C++)、Db2 for i SQL、IFS 和 QSYS 文件系统、系统操作、安全性、性能、网络、存储和故障排查。

Bob 将返回的文档摘录纳入其响应中。如果初始结果未能充分回答问题,Bob 会在给出最终答案前优化查询并再次搜索。

提示:

Bob 通常会在遇到 IBM i 问答类问题时,或发现自己陷入重复循环(例如多次尝试解决编译问题后)时触发 RAG。但在以下情况下,您也可以直接要求 Bob 搜索文档:

  • Bob 的答案看起来过时或不完整,且尚未使用该工具
  • 您希望深入探索某个主题,例如特定的 RPG 或 SQL 概念
  • Bob 在未参考文档的情况下反复做出不准确的假设

例如,您可以明确说:"搜索 IBM i 文档,了解有哪些 SQL 技术可以清除数据队列中的消息。" 或者直接说 "回答之前请先查阅文档……"

这个主题怎么样?