RAG与LLM的关系

RAG（Retrieval Augmented Generation）是一种方法，能够进一步提升LLM性能，通过为模型提供训练时未学到的信息来实现。RAG的核心思想是通过检索信息来提升LLM的表现（即通过将LLM和专门的知识库结合起来，补充训练时缺少的信息）。

在RAG中，收集有用信息的过程叫做检索，而基于这些信息进行推理叫并回答的过程叫做生成。

LLM在回答未见过的信息时，需要从某些地方将这些信息检索出来。在RAG系统中，负责这一部分的被称为检索器。检索器管理一个知识库，存储可信、相关且可能私有的信息。

当RAG系统接收到提示词时，检索器进行检索知识库中最相关的信息提供给LLM。接着模型利用这些检索到的信息来回应提示词。

RAG的引用：

1.代码生成

2.为企业定制专属的聊天机器人

3.在医疗和法律领域应用

4.AI辅助网络搜索

用户向LLM输入提示词后会经历哪些流程：

RAG的优点：

1.它让LLM能够获取原本无法获得的信息。

2.基于第一点，RAG能够降低幻觉现象（虚构信息）或误导性回复的可能性。（LLM设计来生成看似合理的文本，而不是真实的文本）

3.它让LLM更容易跟上快速变化的信息。

4.RAG 提升了LLM引用来源的能力。

5.RAG 让LLM专注于其核心的文本生成任务。

根据前面的词来确定后面的最大可能的是哪个词，这种行为自回归（自我影响），由于其随机性和自回归性，用同一个提示词多次运行同一个模型通常会得到不同的结果。

检索器是如何工作的？

检索器首先处理提示词并理解其真正含义，基于这种理解搜索文档索引，然后检索器从知识库中返回文档（即它认为与提示词最相关的那些文档）。在搜索的过程中，检索器对知识文库文档进行排序，根据相关程度每个文档都会得到一个相关性分数（即提示词与文档文本的相似度分数）。