SpringAI--RAG知识库

SpringAI–RAG知识库

RAG概念

什么是RAG？

RAG(Retrieval-Augmented Genreation，检索增强生成)是一种结合信息检索技术和AI内容生成的混合架构，可以解决大模型的知识时效性限制和幻觉问题。

RAG在大语言模型生成回答之前，会先从外部知识库中检索相关信息，然后将这些检索到的内容作为额外上下文提供给模型，引导其生成更准确、更相关的回答。

简单了解传统AI模型和RAG增强模型区别：

特性传统AIRAG增强模型
知识失效性受训练数据截止日期限制可接入最新知识库
领域专业性泛华知识，专业深度有限可接入专业领域知识库
响应准确性可能产生幻觉基于检索的事实依据
可控性依赖原始训练可通过知识库定制输出
资源消耗较高(需要大模型参数)模型可更小，结合外部知识

RAG工作流程

RAG技术实现主要包含以下4个核心步骤：

  • 文档收集和切割
  • 向量转换和存储
  • 文档过滤和检索
  • 查询增强和关联
文档收集和切割
  • 文档收集：从各种来源(网页、PDF、数据库等)收集原始文档。
  • 文档预处理：清洗、标准化文档格式(markdown格式、docx格式等)。
  • 文档切割：将长文档分割成适当大小的片段(俗称chunks)。
    • 基于固定大小(如512个token)
    • 基于语义边界(如段落、章节)
    • 基于递归分割策略(如递归字符n-gram切割)

向量转换和存储
  • 向量转换：使用Embedding模型将文本块转换为高维向量表示，可以捕获到文档的语义特征。
  • 向量存储：将生成的向量和对应文本存储向量数据库，支持高效的相似性搜索。

文档过滤和检索
  • 查询处理：将用户问题也转换为向量表示。
  • 过滤机制：基于元数据、关键词或自定义规则进行过滤。
  • 相似度搜索：在向量数据库中查找与问题向量最相似的文档块，常用的相似度搜索算法有余弦相似度、欧氏距离等。
  • 上下文组装：将检索到的多个文档块组装成连贯的上下文。

查询增强和关联
  • 提示词组装：将检索到的相关文档与用户问题组合成增强提示。
  • 上下文融合：大模型基于增强提示生成回答。
  • 源引用：在回答中添加信息来源引用。
  • 后处理：格式化、摘要或其他处理以优化最终输出。

完整工作流程

RAG相关技术

Embedding和Embedding模型

Embedding嵌入是将高维离散数据(如文字、图片)转换为低维连续向量的过程。这些向量能在数学空间中表示原始数据的语义特征，使计算机能够理解数据间的相似性。

Embedding模型是执行这种转换算法的机器学习模型，如Word2Vec(文本)、ResNet(图像)等。不同的Embedding模型产生的向量表示和维度数不同，一般维度越高表达能力越强，可以捕获更丰富的语义信息和更细微的差别，但同样占用更多存储空间。

向量数据库

向量数据库是专门存储和检索向量数据的数据库系统。通过高效索引算法实现快速相似性搜索，支持K近邻查询等操作。

注意，并不是只有向量数据库才能存储向量数据，只不过与传统数据库不同，向量数据库优化了高维向量的存储和检索。

AI的流行带火了一波向量数据库和向量存储，比如Milvus、Pinecone等，此外，一些传统数据库也可以通过安装插件实现向量存储和检索，比如PGVector、Redis Stack的RediSearch等。

召回

召回是信息检索中的第一阶段，目标是从大规模数据集中快速筛选出可能相关的候选项子集。强调速度和广度，而非精确度。

精排和Rank模型

精排(精确排序)是搜索/推荐系统的最后阶段，使用计算复杂度更高的算法，考虑更多特征和业务规则，对少量候选项进行更复杂、精细的排序。

Rank模型(排序模型)负责对召回阶段筛选出的候选集进行精确排序，考虑多种特征评估相关性。

现代Rank模型通常基于深度学习，如BERT、LambdaMART等，综合考虑查询与候选项的相关性、 用户历史行为等因素。

混合检索策略

混合检索策略结合多种检索方法的优势，提高搜索效果。常见组合包括关键词检索、语义检索、知识图谱等。

比如在AI大模型开发平台Dify中，就为用户提供了“基于全文检索的关键词搜索+基于向量检索的语义检索”的混合检索策略，用户还可以自己设置不同检索方式的权重。

RAG实战：SpringAI + 本地知识库

我们要对自己准备好的知识库文档进行处理，然后保存到向量数据库中。这个过程俗称ETL(抽取、转换、加载)，SpringAI提供了对ETL的支持。

ETL的3大核心组件，按照顺序执行：

  • DocumentReader:读取文档，得到文档列表。
  • DocumentTransformer:转换文档，得到处理后的文档列表。
  • DocumentWriter:将文档列表保存到存储中(可以是向量数据库，也可以是其他存储)。
文档准备

demo文档

文档读取

读取markdown文档
demo文档读取

向量存储和转换

为了实现方便，先使用SpringAI内置的基于内存读写的向量数据库SimpleVectorStore来保存文档。

SimpleVectorStore实现了VectorStore接口，而VectorStore接口集成了DocumentWriter，所以具备文档写入能力。

通过下面SimpleVectorStore的源码可以了解到，在将文档写入到数据库前，会先调用Embedding大模型将文档转换为向量，实际保存到数据库中的是向量类型的数据。

实现初始化向量数据库并保存文档的方法：
文档存入向量数据库(内存实现)

查询增强

SpringAI通过Advisor特性提供了开箱即用的RAG功能。主要是QuestionAnswerAdvisor问答拦截器和RetrievalAugmentationAdvisor检索增强拦截器，前者更简单易用，后者更灵活强大。

查询增强

测试

测试本地知识库

基于PGVector实现向量存储

多数据源整合

PgVectorStoreConfig.java

/*** 向量检索* 查询增强原理：*  向量数据库存储着AI模型本身不知道的数据，当用户问题发送给AI模型时，*  QuestionAnswerAdvisor会查询向量数据库，获取与用户问题相关的文档。*  然后从向量数据库返回的响应会被附加到用户文本中，为AI模型提供上下文，帮助AI模型生成回答* 存储在pgVector向量数据库中*/
public String doChat4RagPgVector(String message, String chatId) {ChatResponse chatResponse = chatClient.prompt().user(message).advisors(spec -> spec.param(CHAT_MEMORY_CONVERSATION_ID_KEY, chatId).param(CHAT_MEMORY_RETRIEVE_SIZE_KEY, 5))// QuestionAnswerAdvisor 查询增强，在调用大模型前会检索pgVectorStore中的数据，拼接到用户的Prompt中.advisors(new QuestionAnswerAdvisor(pgVectorStore))// MySQL存储对话记忆.advisors(new MessageChatMemoryAdvisor(chatMemory)).call().chatResponse();return chatResponse.getResult().getOutput().getText();
}

本文来自互联网用户投稿，该文观点仅代表作者本人，不代表本站立场。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如若转载，请注明出处：http://www.pswp.cn/diannao/84709.shtml

如若内容造成侵权/违法违规/事实不符，请联系多彩编程网进行投诉反馈email:809451989@qq.com，一经查实，立即删除！

相关文章

【PhysUnits】14 二进制数的标准化表示(standardization.rs)

【PhysUnits】14 二进制数的标准化表示(standardization.rs)

一、源码 这段代码主要用于处理二进制数的标准化表示。它定义了两个特质(trait) IfB0 和 IfB1&#xff0c;以及它们的实现&#xff0c;用于处理二进制数的前导零及前导一的简化。 use super::basic::{B0, B1, Z0, N1, Integer, NonZero, NonNegOne};/// 处理 B0<H> 类型…
阅读更多...
将 ubutun 的网络模式 从NAT 改到 桥接模式后，无法上网，linux 没有IP地址 的解决方案

将 ubutun 的网络模式 从NAT 改到 桥接模式后，无法上网，linux 没有IP地址 的解决方案

首先要将 ubutun 的网络模式设置为桥接模式 这里再从 NAT 模式改动成 桥接模式的时候&#xff0c;还出现了一个问题。改成桥接模式后&#xff0c;linux没有ip地址了。原因是 不知道什么时候 将 虚拟网络编辑器 中的值改动了 要选择这个 自动 选项
阅读更多...
多模态大语言模型arxiv论文略读（九十）

多模态大语言模型arxiv论文略读（九十）

Hybrid RAG-empowered Multi-modal LLM for Secure Data Management in Internet of Medical Things: A Diffusion-based Contract Approach ➡️ 论文标题&#xff1a;Hybrid RAG-empowered Multi-modal LLM for Secure Data Management in Internet of Medical Things: A Di…
阅读更多...
电脑主板VGA长亮白灯

电脑主板VGA长亮白灯

电脑主板VGA长亮白灯 起因解决方法注意事项&#xff1a; 起因 搬家没有拆机整机在车上晃荡导致显卡松动接触不良&#xff08;一般VGA长亮白灯都和显卡有关&#xff0c;主要排查显卡&#xff09; 解决方法 将显卡拆下重新安装即可 注意事项&#xff1a; 不可直接拔下显卡&a…
阅读更多...
【监控】pushgateway中间服务组件

【监控】pushgateway中间服务组件

Pushgateway 是 Prometheus 生态中的一个中间服务组件&#xff0c;以独立工具形式存在&#xff0c;主要用于解决 Prometheus 无法直接获取监控指标的场景&#xff0c;弥补其定时拉取&#xff08;pull&#xff09;模式的不足。 其用途如下&#xff1a; 突破网络限制&#xff1…
阅读更多...
打造AI智能旅行规划器：基于LLM和Crew AI的Agent实践

打造AI智能旅行规划器：基于LLM和Crew AI的Agent实践

引言 今天来学习大佬开发的一个AI驱动的旅行规划应用程序&#xff0c;它能够自动处理旅行规划的复杂性——寻jni找航班、预订酒店以及优化行程。传统上&#xff0c;这个过程需要手动搜索多个平台&#xff0c;常常导致决策效率低下。 通过利用**代理型人工智能&#xff08;Age…
阅读更多...
21. 自动化测试框架开发之Excel配置文件的测试用例改造

21. 自动化测试框架开发之Excel配置文件的测试用例改造

21. 自动化测试框架开发之Excel配置文件的测试用例改造 一、测试框架核心架构 1.1 组件依赖关系 # 核心库依赖 import unittest # 单元测试框架 import paramunittest # 参数化测试扩展 from chap3.po import * # 页面对象模型 from file_reader import E…
阅读更多...
如何在电力系统中配置和管理SNTP时间同步？

如何在电力系统中配置和管理SNTP时间同步？

在电力系统中配置和管理 SNTP 时间同步需结合行业标准&#xff08;如《DL/T 1100.1-2019》&#xff09;和分层架构特点&#xff0c;确保安全性、可靠性和精度适配。以下是具体操作指南&#xff0c;涵盖架构设计、设备配置、安全管理、运维监控四大核心环节&#xff0c;并附典型…
阅读更多...
MTK-关于HW WCN的知识讲解

MTK-关于HW WCN的知识讲解

前言： 最近做项目过程中和硬件打交道比较多，现在关于整理下硬件的HW wcn的知识点 一 MTK常见的MT6631 Wi-Fi 2.4GHz 匹配调谐指南 ‌拓扑结构选择‌ 推荐采用并联电容拓扑（‌shunt cap topology‌）代替并联电感拓扑（‌shunt inductor topology‌），以减少潜在电路设计…
阅读更多...
（1）课堂 1--5，这五节主要讲解 mysql 的概念，定义，下载安装与卸载

（1）课堂 1--5，这五节主要讲解 mysql 的概念，定义，下载安装与卸载

&#xff08;1&#xff09;谢谢老师&#xff1a; &#xff08;2&#xff09;安装 mysql &#xff1a; &#xff08;3&#xff09;镜像下载 &#xff0c;这个网址很好 &#xff1a; &#xff08;4&#xff09; 另一个虚拟机的是 zhang 123456 &#xff1a; 接着配置…
阅读更多...
U-Boot ARMv8 平台异常处理机制解析

U-Boot ARMv8 平台异常处理机制解析

入口点&#xff1a;arch/arm/cpu/armv8/start.S 1. 判断是否定义了钩子&#xff0c;如有则执行&#xff0c;否则往下走。执行save_boot_params&#xff0c;本质就是保存一些寄存器的值。 2. 对齐修复位置无关码的偏移 假设U-Boot链接时基址为0x10000&#xff0c;但实际加载到0…
阅读更多...
mysql安装教程--笔记

mysql安装教程--笔记

一、Windows 系统安装 方法1&#xff1a;使用 MySQL Installer&#xff08;推荐&#xff09; 1. 下载安装包 访问 MySQL 官网下载页面&#xff0c;选择 MySQL Installer for Windows。 2. 运行安装程序 双击下载的 .msi 文件&#xff0c;选择安装类型&#xff1a; ◦ Developer…
阅读更多...
投资策略规划最优决策分析

投资策略规划最优决策分析

目录 一、投资策略规划问题详细 二、存在最优投资策略&#xff1a;每年都将所有钱投入到单一投资产品中 &#xff08;一&#xff09;状态转移方程 &#xff08;二&#xff09;初始条件与最优策略 &#xff08;三&#xff09;证明最优策略总是将所有钱投入到单一投资产品中…
阅读更多...
NGINX HTTP/3 实验指南安装、配置与调优

NGINX HTTP/3 实验指南安装、配置与调优

一、HTTP/3 简介 基于 QUIC&#xff1a;在 UDP 之上实现的多路复用传输&#xff0c;内置拥塞控制与前向纠错&#xff0c;无需三次握手即可恢复连接。零 RTT 重连&#xff1a;借助 TLS 1.3&#xff0c;实现连接恢复时的 0-RTT 数据发送&#xff08;视底层库支持&#xff09;。多…
阅读更多...
编程日志5.28

编程日志5.28

string赋值操作 算法： #include<iostream> using namespace std; int main() { //1.字符串常量的赋值 string s1; s1 = "英雄哪里出来"; cout << s1 << endl; //2.字符串变量的赋值 string s2; s2 = s1; cout <…
阅读更多...
AE的ai图层导到Ai

AE的ai图层导到Ai

AE的ai图层导到ai 解决方法: 1、打开ai软件&#xff0c;不用新建&#xff0c;留在那就行。 2、在AE里选中任意一个ai文件图层&#xff0c;只需同时按住ctrl和英文字母键&#xff0c;图层就会自动全部导入到ai中 英文字母键的详情可以参考&#xff1a;http://www.yayihouse.co…
阅读更多...
【Springboot+LangChain4j】Springboot项目集成LangChain4j（下）

【Springboot+LangChain4j】Springboot项目集成LangChain4j（下）

前置条件&#xff1a;根据上篇文章完成springboot初步集成LangChain4j 【SpringbootLangChain4j】根据LangChain4j官方文档&#xff0c;三分钟完成Springboot项目集成LangChain4j&#xff08;上&#xff09;-CSDN博客 但是接口方法中&#xff0c;关于大模型的配置都是写死的&a…
阅读更多...
好坏质检分类实战（异常数据检测、降维、KNN模型分类、混淆矩阵进行模型评估）

好坏质检分类实战（异常数据检测、降维、KNN模型分类、混淆矩阵进行模型评估）

任务 好坏质检分类实战 task: 1、基于 data_class_raw.csv 数据&#xff0c;根据高斯分布概率密度函数&#xff0c;寻找异常点并剔除 2、基于 data_class_processed.csv 数据&#xff0c;进行 PCA 处理&#xff0c;确定重要数据维度及成分 3、完成数据分离&#xff0c;数据分离…
阅读更多...
以少学习：通过无标签数据从大型语言模型进行知识蒸馏

以少学习：通过无标签数据从大型语言模型进行知识蒸馏

Learning with Less: Knowledge Distillation from Large Language Models via Unlabeled Data 发表&#xff1a;NNACL-Findings 2025 机构&#xff1a;密歇根州立大学 Abstract 在实际的自然语言处理&#xff08;NLP&#xff09;应用中&#xff0c;大型语言模型&#xff08…
阅读更多...
EasyExcel使用

EasyExcel使用

EasyExcel 简介 EasyExcel 是阿里巴巴开源的一个基于 Java 的简单、省内存的读写 Excel 工具。在处理大量数据时&#xff0c;它能极大地减少内存占用&#xff0c;提高性能。下面从依赖配置、模板使用到代码调用&#xff0c;进行详细介绍。 添加依赖 若要在项目里使用 EasyEx…
阅读更多...
最新文章

Copyright @ 2022~2023