首页/新闻资讯/正文详情

【RAG技术(1)】大模型为什么需要RAG

发布时间:2026/11/3 9:22:13 来源:云帆数科 栏目:资讯中心
【RAG技术(1)】大模型为什么需要RAG
文章目录一、为什么需要RAG二、RAG的工作原理1、关键的Embedding技术2、RAG vs 模型微调选择的核心逻辑三、RAG的关键挑战与解决思路1. 检索质量决定一切2. 上下文长度限制四、实际应用场景分析五、构建RAG系统的关键步骤前言RAG的核心价值在于打破了模型知识的时间边界。它不是万能的但在需要实时、专业知识的场景中无可替代。选择RAG还是微调的判断标准很简单如果问题是模型不知道什么用RAG如果问题是模型不会怎么做用微调。一、为什么需要RAG大语言模型虽然强大但存在一个致命问题知识固化。模型的知识来源于训练数据一旦训练完成就无法获取新的信息。想象一下如果你只能用2023年的知识回答2024年的问题必然会出现错误。这就是RAGRetrieval-Augmented Generation要解决的核心问题让模型能够动态获取外部知识。二、RAG的工作原理RAG的核心思想极其简单检索生成。# RAG工作流程伪代码defrag_process(user_query):# 1. 检索相关文档relevant_docsretrieve_documents(user_query)# 2. 构建增强提示词enhanced_promptf基于以下文档回答问题\n{relevant_docs}\n\n问题{user_query}# 3. 生成答案answerllm.generate(enhanced_prompt)returnanswer整个过程就像给模型配了一个实时顾问遇到问题时先去知识库找相关资料然后基于这些资料生成答案。1、关键的Embedding技术RAG的检索环节依赖Embedding模型。这个模型将文本转换为数值向量使得语义相似的文本在向量空间中距离更近。# Embedding示例query什么是机器学习query_vectorembedding_model.encode(query)# 在文档库中找到最相似的文档similaritiescosine_similarity(query_vector,document_vectors)top_docsget_top_k_documents(similarities,k5)2、RAG vs 模型微调选择的核心逻辑这是理解RAG最重要的部分。两种方案解决的是完全不同的问题维度RAG模型微调知识来源外部动态知识库模型内部参数适用场景知识频繁更新任务行为固定成本低只需更新知识库高需要重新训练实时性支持实时更新无法实时更新选择逻辑很简单如果你需要模型掌握最新知识或专业知识用RAG如果你需要模型改变行为方式或提升特定任务能力用微调例如客服机器人需要最新的产品信息 → RAG让模型学会特定的代码风格 → 微调三、RAG的关键挑战与解决思路1. 检索质量决定一切RAG系统的答案质量完全依赖于检索的准确性。如果检索到无关文档生成的答案必然离题。解决思路使用多路检索策略关键词语义混合检索建立高质量的文档索引实施检索结果的重排序2. 上下文长度限制模型的上下文窗口有限无法同时处理大量检索文档。解决思路文档预处理和分块优化使用文档摘要技术采用层次化检索策略四、实际应用场景分析应用场景RAG优势企业知识问答员工询问公司最新政策、产品信息等技术文档助手开发者查询API文档、最佳实践等法律咨询系统律师查询最新法律条文、判例等五、构建RAG系统的关键步骤# 1. 安装必要的依赖pipinstalllangchain chromadb sentence-transformers# 2. 准备知识库mkdirknowledge_base# 将文档放入knowledge_base目录# 3. 构建向量数据库python build_vector_db.py# 4. 启动RAG服务python rag_server.py

相关推荐

【Docker】容器中安装cron命令
【Docker】容器中安装cron命令

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views … · 2026/11/3 9:21:12

PinkCherry_MiniMax-H3模型深度解析:核心功能与MiniMax-H3架构全揭秘
PinkCherry_MiniMax-H3模型深度解析:核心功能与MiniMax-H3架构全揭秘

PinkCherry_MiniMax-H3模型深度解析:核心功能与MiniMax-H3架构全揭秘 PinkCherry_MiniMax-H3是基于MiniMax-H3架构开发的text-to-video模型,旨在通过文本提示生成生动的视觉内容。该模型目前处于持续优化阶段,专注于提升特定场景的细节表现和… · 2026/11/3 9:21:12

从文本到视频的完整流程:PinkCherry_MiniMax-H3用户操作指南与案例演示
从文本到视频的完整流程:PinkCherry_MiniMax-H3用户操作指南与案例演示

从文本到视频的完整流程:PinkCherry_MiniMax-H3用户操作指南与案例演示 PinkCherry_MiniMax-H3是一款基于transformers库开发的text-to-video模型,专为生成生动视觉内容设计。本指南将带您了解从安装到生成视频的全流程,帮助新手快速掌握这款… · 2026/11/3 9:21:12

Highcharts Gantt使用符号的自定义数据标签开发甘特图示例
Highcharts Gantt使用符号的自定义数据标签开发甘特图示例

使用符号的自定义数据标签、带头像 Font Awesome 图标标签的甘特图代码,复制就能用!完整可运行代码(带头像 图标数据标签)Highcharts.ganttChart(container, {title: {text: Highcharts Gantt Chart},subtitle: {text: With cus… · 2026/11/3 9:58:09

体积缩减40%:Stereolabs 推出 ZED X Nano 腕部微型双目3D相机
体积缩减40%:Stereolabs 推出 ZED X Nano 腕部微型双目3D相机

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views … · 2026/11/3 9:57:04

【深度学习】国科大:CIFAR-100 图像分类项目
【深度学习】国科大:CIFAR-100 图像分类项目

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views … · 2026/11/3 9:57:04

【深度学习】MLP(多层感知机):神经网络基础
【深度学习】MLP(多层感知机):神经网络基础

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views … · 2026/11/3 9:57:04

【深度学习】CNN(卷积神经网络)从零开始教程
【深度学习】CNN(卷积神经网络)从零开始教程

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views … · 2026/11/3 9:57:04

【68】无人机视角行人数据集(有v5/v8模型)/YOLO无人机视角行人检测
【68】无人机视角行人数据集(有v5/v8模型)/YOLO无人机视角行人检测

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views … · 2026/11/3 9:57:04

双极步进电机控制实战:DRV8818PWPR与PIC18F86K22驱动调试
双极步进电机控制实战:DRV8818PWPR与PIC18F86K22驱动调试

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views … · 2026/11/2 13:10:28

STM32F207ZG + DRV8818PWPR 步进电机驱动实战解析
STM32F207ZG + DRV8818PWPR 步进电机驱动实战解析

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views … · 2026/11/3 6:04:24

DRV8818PWPR+dsPIC30F4013工业级双极步进电机控制方案
DRV8818PWPR+dsPIC30F4013工业级双极步进电机控制方案

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views … · 2026/11/3 5:52:46

STM32F411RE与MAX14431实现SPI隔离:工业现场抗共模干扰实战
STM32F411RE与MAX14431实现SPI隔离:工业现场抗共模干扰实战

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views … · 2026/11/3 1:01:59

ESP32+大模型AI硬件开发:从Demo到产品的8个工程问题
ESP32+大模型AI硬件开发:从Demo到产品的8个工程问题

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views … · 2026/11/3 1:01:59

基于MAX14431BAEE+与PIC18F85J10的SPI隔离方案设计与实践
基于MAX14431BAEE+与PIC18F85J10的SPI隔离方案设计与实践

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views … · 2026/11/3 1:01:59

双极步进电机控制实战:DRV8818PWPR与PIC18F86K22驱动调试
双极步进电机控制实战:DRV8818PWPR与PIC18F86K22驱动调试

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views … · 2026/11/2 13:10:28

STM32F207ZG + DRV8818PWPR 步进电机驱动实战解析
STM32F207ZG + DRV8818PWPR 步进电机驱动实战解析

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views … · 2026/11/3 6:04:24

DRV8818PWPR+dsPIC30F4013工业级双极步进电机控制方案
DRV8818PWPR+dsPIC30F4013工业级双极步进电机控制方案

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views … · 2026/11/3 5:52:46

了解更多?预约专属演示

我们的顾问将为您一对一讲解产品与方案

企业微信二维码