DeepRAG:大语言模型检索增强的破局者
1. 科研人的深夜难题:大模型的 “不靠谱” 答案
大语言模型生成的答案,看似自信满满却又存在漏洞百出的时候。虽然大模型推理能力不错,但事实性幻觉问题真的很严重。就好比问它一些需要最新知识或者精确信息的问题,它可能就会胡编乱造,根源就在于模型参数化知识的时效性、准确性和覆盖范围都有限。
这时候,检索增强生成(RAG)技术进入了人们的视野,大家都期待它能借助外部知识库增强大模型的准确性,解决幻觉问题。可实际用起来,却出现了不少让人头疼的状况。
2. 传统 RAG 的 “痛点”:检索混乱,答案堪忧
2.1 任务分解不合理,检索盲目无章
传统 RAG 通常采用 “简单拆分 + 统一检索” 的方式。把一个复杂问题拆分成几个子问题,然后逐个检索相关文档。但问题就来了,有些问题其实依靠大模型自身的知识就能回答,根本不需要额外检索,可系统还是盲目地去检索,不仅浪费资源,还会引入干扰信息,把原本清晰的推理逻辑搅乱。而且,对于什么情况下需要检索、检索多少条内容最合适,现有 RAG 方法完全没有智能判断的能力,检索就像没头的苍蝇一样盲目。
2.2 过度检索添乱,答案质量下滑
好多 RAG 系统还秉持着 “检索越多越好” 的理念,这可坑苦了大模型。比如你问 “2024 年最新的 Transformer 改进方向”,系统可能一股脑地检索出大量过时的论文,甚至一些无关的基础教程。大模型面对这么多杂乱无章的信息,就像在一堆垃圾里找宝贝,不仅增加了筛选的难度,还容易被无关信息误导,导致最终给出的答案质量大打折扣。这归根结底,就是因为传统 RAG 缺乏 “智能检索决策” 的能力。
3. DeepRAG 登场:像人类一样思考检索的 “智多星”
《DeepRAG—— 检索增强推理的新范式》的论,为解决这些难题带来了希望。

3.1 引入 MDP:检索决策的 “智慧大脑”
DeepRAG 的核心创新点,就是把检索增强推理建模成了马尔可夫决策过程(MDP)。这就相当于给大模型的检索系统装上了一个超级智能的 “决策引擎”。在推理的每一个步骤中,大模型都会像人一样思考:这个问题我 “心里有底” 吗?如果确定自己知道答案,就直接利用参数化知识进行推理;要是不太确定,就触发检索,而且还能精准地挑选出最相关的信息。并且这个决策是动态变化的,不会一开始就把所有问题都扔给检索系统,大大减少了不必要的噪音干扰,检索过程变得更加精准、高效。
3.2 逐步查询:避开信息 “陷阱” 的妙招
在检索方式上,DeepRAG 抛弃了传统 RAG “一次性检索” 的老套路,采用逐步查询的方法。传统 RAG 一次性检索大量文档,看似信息收集得很全,但其中大部分都是冗余的,这些多余的信息就像陷阱一样,很容易干扰大模型的判断。而 DeepRAG 则聪明得多,它在推理过程中会分阶段进行检索,每一次检索的内容都是当前推理真正急需的。这样一来,就完美避开了无关信息的干扰,让最终答案的准确率大幅提升。
3.3 检索推理自主平衡:大模型的 “聪明抉择”
DeepRAG 还有一个特别厉害的地方,就是让 LLM 自己决定是靠 “记忆”(已有知识)来回答问题,还是 “去外面查资料”(检索外部信息)。比如,当被问到 “爱因斯坦是哪一年出生的” 这种基础事实性问题时,DeepRAG 知道这属于自己 “知识储备” 范围内的内容,不需要检索就能直接给出答案;但要是遇到涉及最新研究进展之类的问题,它就会自动触发检索,然后结合最新资料进行推理。这种机制让检索冗余大幅减少,RAG 变得更加智能、高效。
4. DeepRAG 实验效果
DeepRAG 研究人员为了验证它的实力,在多个公开的问答数据集上进行了实验,结果真的太惊艳了!

在多个基准数据集上,DeepRAG 的表现远超传统 RAG。
准确率提升可能是因为在回答问题时,DeepRAG 能够有效减少因错误检索导致的干扰,给出的答案更加精准可靠。
检索效率提升是因为通过智能决策,DeepRAG 调用外部知识库的次数比传统 RAG 少了很多,但最终回答却更加准确。而且,由于采用了逐步检索的方式,避免了无关信息的干扰,答案中的噪音减少,更加简洁明了,直击要点。
和其他方法对比,无论是像 CoT、CoT-Retrieve 这些推理类方法,还是 FLARE、DRAGIN 这些自适应检索方法,DeepRAG 在各个数据集上都展现出了强大的优势。在一些对时间敏感的数据集,或者知识图谱不太完整的数据集上,DeepRAG 依然能够保持良好的性能,充分证明了它的泛化能力和鲁棒性。
5. 落地小窍门:如何在项目中应用 DeepRAG
如果你也想在自己的项目里用上 DeepRAG,这里有几个实用的小建议。
5.1 借助 LangChain 构建智能检索策略
可以结合 LangChain 这个强大的工具,利用它的自适应检索功能来实现 DeepRAG 的理念。这样就能避免盲目检索,让检索过程更加智能、有针对性,充分发挥 DeepRAG 的优势。
5.2 利用强化学习优化检索决策
把 DeepRAG 的 MDP 框架和强化学习结合起来。在实际应用中,让检索策略通过不断地学习和优化,根据不同的情况做出更合理的决策,就像给检索系统注入了一个不断进化的 “智慧灵魂”。
5.3 设计多轮交互提升推理精度
参考 DeepRAG 逐步查询的思路,设计多轮交互的机制。这样可以避免一次性返回大量冗余信息,通过一步步的交互,逐步引导模型深入思考,从而提升推理精度,给出更符合用户需求的答案。
DeepRAG 的出现,为大模型检索增强推理领域带来了新的曙光。它解决了传统 RAG 存在的诸多问题,让大模型在面对复杂问题时,能够更加智能、准确地检索信息并给出答案。如果你在使用 RAG 的过程中,也被信息冗余、回答失真等问题困扰,不妨试试 DeepRAG,说不定会有效果!
如何学习大模型 AI ?
由于新岗位的生产效率,要优于被取代岗位的生产效率,所以实际上整个社会的生产效率是提升的。
但是具体到个人,只能说是:
“最先掌握AI的人,将会比较晚掌握AI的人有竞争优势”。
这句话,放在计算机、互联网、移动互联网的开局时期,都是一样的道理。
我在一线互联网企业工作十余年里,指导过不少同行后辈。帮助很多人得到了学习和成长。
我意识到有很多经验和知识值得分享给大家,也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑,所以在工作繁忙的情况下还是坚持各种整理和分享。但苦于知识传播途径有限,很多互联网行业朋友无法获得正确的资料得到学习提升,故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。

第一阶段(10天):初阶应用
该阶段让大家对大模型 AI有一个最前沿的认识,对大模型 AI 的理解超过 95% 的人,可以在相关讨论时发表高级、不跟风、又接地气的见解,别人只会和 AI 聊天,而你能调教 AI,并能用代码将大模型和业务衔接。
- 大模型 AI 能干什么?
- 大模型是怎样获得「智能」的?
- 用好 AI 的核心心法
- 大模型应用业务架构
- 大模型应用技术架构
- 代码示例:向 GPT-3.5 灌入新知识
- 提示工程的意义和核心思想
- Prompt 典型构成
- 指令调优方法论
- 思维链和思维树
- Prompt 攻击和防范
- …
第二阶段(30天):高阶应用
该阶段我们正式进入大模型 AI 进阶实战学习,学会构造私有知识库,扩展 AI 的能力。快速开发一个完整的基于 agent 对话机器人。掌握功能最强的大模型开发框架,抓住最新的技术进展,适合 Python 和 JavaScript 程序员。
- 为什么要做 RAG
- 搭建一个简单的 ChatPDF
- 检索的基础概念
- 什么是向量表示(Embeddings)
- 向量数据库与向量检索
- 基于向量检索的 RAG
- 搭建 RAG 系统的扩展知识
- 混合检索与 RAG-Fusion 简介
- 向量模型本地部署
- …
第三阶段(30天):模型训练
恭喜你,如果学到这里,你基本可以找到一份大模型 AI相关的工作,自己也能训练 GPT 了!通过微调,训练自己的垂直大模型,能独立训练开源多模态大模型,掌握更多技术方案。
到此为止,大概2个月的时间。你已经成为了一名“AI小子”。那么你还想往下探索吗?
- 为什么要做 RAG
- 什么是模型
- 什么是模型训练
- 求解器 & 损失函数简介
- 小实验2:手写一个简单的神经网络并训练它
- 什么是训练/预训练/微调/轻量化微调
- Transformer结构简介
- 轻量化微调
- 实验数据集的构建
- …
第四阶段(20天):商业闭环
对全球大模型从性能、吞吐量、成本等方面有一定的认知,可以在云端和本地等多种环境下部署大模型,找到适合自己的项目/创业方向,做一名被 AI 武装的产品经理。
- 硬件选型
- 带你了解全球大模型
- 使用国产大模型服务
- 搭建 OpenAI 代理
- 热身:基于阿里云 PAI 部署 Stable Diffusion
- 在本地计算机运行大模型
- 大模型的私有化部署
- 基于 vLLM 部署大模型
- 案例:如何优雅地在阿里云私有部署开源大模型
- 部署一套开源 LLM 项目
- 内容安全
- 互联网信息服务算法备案
- …
学习是一个过程,只要学习就会有挑战。天道酬勤,你越努力,就会成为越优秀的自己。
如果你能在15天内完成所有的任务,那你堪称天才。然而,如果你能完成 60-70% 的内容,你就已经开始具备成为一名大模型 AI 的正确特征了。
这份完整版的大模型 AI 学习资料已经上传CSDN,朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】

DAMO开发者矩阵,由阿里巴巴达摩院和中国互联网协会联合发起,致力于探讨最前沿的技术趋势与应用成果,搭建高质量的交流与分享平台,推动技术创新与产业应用链接,围绕“人工智能与新型计算”构建开放共享的开发者生态。
更多推荐


所有评论(0)