首页/新闻资讯/正文详情

AI安全实战系列(三):(待解决问题)Lab03 RAG Exploitation RAG 检索增强攻击

发布时间:2026/11/22 9:14:44 来源:云帆数科 栏目:资讯中心
AI安全实战系列(三):(待解决问题)Lab03 RAG Exploitation RAG 检索增强攻击
随着大模型应用快速落地RAGRetrieval-Augmented Generation检索增强生成架构已经成为企业知识库、智能客服、AI Agent 等场景中的核心技术。然而RAG 并不是简单地“接入知识库即可安全运行”其在数据检索、文档管理、上下文拼接以及模型生成环节均存在新的攻击面。本文基于 AIRT Lab03 - Breaking RAG Systems 靶场深入分析 RAG 系统中的典型安全问题通过搭建一个存在漏洞的 RAG 环境实战演示知识库投毒Knowledge Base Poisoning、间接提示词注入Indirect Prompt Injection、向量数据库未授权访问、敏感信息泄露等攻击方式。文章目录文章介绍概述学习目标lab03----RAG 检索增强系统攻击靶场搭建靶场结构遇到的问题文章介绍靶场下载「airt-labs.zip」链接https://pan.quark.cn/s/534b8cbc2b24?pwd8nEn提取码8nEn完成实验环境搭建后正式进入 AIRT 八大靶场实战。本篇从 Lab01 Foundations 开始围绕 LLM 基础漏洞与信息泄露场景结合真实靶场环境演示系统Prompt 泄露、调试接口暴露、配置泄露等典型问题并分析漏洞成因、利用方式及防护思路为后续 Prompt Injection、RAG 攻击、多智能体攻击等高级实战打下基础。概述构建并系统地破坏检索增强生成RAG应用程序。毒害其知识库劫持数据并通过大型语言模型LLM窃取敏感数据。本实验室展示了为什么RAG系统需要端到端安全。学习目标部署使用ChromaDB和LangChain的易受攻击RAG应用程序用恶意文档毒害知识库通过检索的上下文执行间接提示注入通过LLM的响应泄露敏感数据测试未认证的矢量数据库访问了解完整的RAG攻击面话不多说我们直接开始lab03----RAG 检索增强系统攻击靶场搭建这里我们执行下述命令创建我们的靶场环境# 修改pip源镜像# 1. 进入 lab03 所在的工作目录cd~/Sec_tools/airt/labs/lab03# 2. 将所有用到大模型的地方换成 qwen2.5:0.5bsed-is/mistral:7b-instruct-q4_0/qwen2.5:0.5b/gdocker-compose.ymlsed-is/mistral:7b-instruct-q4_0/qwen2.5:0.5b/gagents/app.py# 3. 优化构建速度为 Python 容器添加清华镜像源sed-is/pip install/pip install -i https:\/\/pypi.tuna.tsinghua.edu.cn\/simple/gagents/Dockerfile# 4. 修复容器启动死锁移除健康检查、降级依赖条件、为 curl 拉取模型预留 15 秒缓冲sed-i/healthcheck:/,/retries: 5/ddocker-compose.ymlsed-is/condition: service_healthy/condition: service_started/gdocker-compose.ymlsed-is/curl -X/sleep 15 \\ curl -X/gdocker-compose.yml# 5. 重新构建并后台启动所有服务dockercompose up-d--build如果还是显示失败可以看前几篇文章的解决内容”直接去容器内拉取大模型“AI安全实战系列一人工智能红蓝对抗基础——靶场搭建与环境准备AI安全实战系列二LLM 基础漏洞与信息泄露和提示词注入攻击实战效果如下随后我们访问到 http://localhost:5000成功得到页面本关要点了解RAG的攻击常见方式靶场结构从上述页面我们可以得知RAG助手可以访问公司的文件里面可能包含我们感兴趣的东西所以我们需要想办法拿到手# 具体流程用户提问 ➟ LLM理解分析 ➟ 向量数据库检索 ➟ 知识库内容匹配 ➟ AI生成回复 ┌──────────────┐ User Query ──▶│ RAG App │ │ :5000 │ │(Flask)│ └───┬──────┬───┘ Retrieve │ │ Generate ▼ ▼ ┌─────────┐ ┌─────────┐ │ChromaDB │ │ Ollama │ │ :8000 │ │ :11434 │ │(Vectors)│ │(LLM)│ └─────────┘ └─────────┘ ▲ │ Ingest(VULNERABLE)│ ┌─────────┐ │Poisoned │ │Documents│ └─────────┘这里我首先尝试问了一下AI问题但是发现没有回答那么是不是需要我先上传文档让AI去理解然后才能进行输出遇到的问题这里我尝试了五六次修改app.py文件还是重新搭建靶场发现无论是我“上传文档”还是“提问”模型都返回响应码500提问/query上传文档/injest这里要是大家有什么解决的方法可以评论区私聊我都行

相关推荐

C++ unordered_set/unordered_multiset 哈希表容器实战指南
C++ unordered_set/unordered_multiset 哈希表容器实战指南

1. 项目概述:为什么你需要了解无序集合?如果你已经跟着C的入门路线走了一段时间,从变量、循环、函数,到类与对象,再到接触了vector、list这些顺序容器,那么今天的内容绝对会让你眼前一亮,甚至可… · 2026/11/23 1:43:58

AI系统Harness层:资源调度与错误隔离实战
AI系统Harness层:资源调度与错误隔离实战

1. Harness层在AI系统中的核心定位Harness层在AI系统中扮演着类似"交通指挥中心"的角色,它不直接处理具体业务逻辑,而是负责协调和管理整个系统的运行流程。这个抽象层位于业务逻辑和底层基础设施之间,主要解决四个关键问题&#x… · 2026/11/23 1:43:59

基准测试工具之你不知道的两三事 | 3.如何模拟线上写入负载
基准测试工具之你不知道的两三事 | 3.如何模拟线上写入负载

基准测试工具之你不知道的两三事 | 如何模拟线上写入负载 上一篇文章里,我们已经跑通了一次 IoT Benchmark 的默认写入测试,并学会了从吞吐量、失败数和 P99 延迟中读出一轮测试的基本情况。 不过,默认配置只能证明工具能够运行&#xff0c… · 2026/9/17 13:55:40

宣化低压电工证怎么考才不挂科 电子证书怎么领
宣化低压电工证怎么考才不挂科 电子证书怎么领

宣化低压电工证怎么考才不挂科 电子证书怎么领 实操考试心里没底怕挂科?考低压电工证的时候,很多人都有这样的担忧。尤其是新手,面对各种设备和操作流程,不知道从哪里下手,更怕一不小心操作不当就被判定不合格。其实,只要你掌握了正确的方法,拿到… · 2026/11/23 1:43:12

甘肃如何考高压电工证通过率揭秘:别再交钱白费,看完这几点再报名
甘肃如何考高压电工证通过率揭秘:别再交钱白费,看完这几点再报名

甘肃如何考高压电工证通过率揭秘:别再交钱白费,看完这几点再报名 怕考不过白交培训费?甘肃高压电工证考试确实有门槛,但只要你走对流程,避开坑, 通过率其实并不低… · 2026/11/23 1:43:12

弱电工是否需要电工证在哪考?别再被中介忽悠了
弱电工是否需要电工证在哪考?别再被中介忽悠了

弱电工是否需要电工证在哪考?别再被中介忽悠了 你是不是也在纠结, 弱电工是否需要电工证 ?又在四处打听“ 在哪考 ”?别急,这篇文章就帮你理清楚,不仅告诉你为什么必须考证,还会教你怎么避开那些坑人的中介,找到靠谱的报考渠道。… · 2026/11/23 1:43:12

湖北特种工证件下载外省证能转吗?真实经历告诉你答案
湖北特种工证件下载外省证能转吗?真实经历告诉你答案

湖北特种工证件下载外省证能转吗?真实经历告诉你答案 之前考的证在外省能不能转过来?这几乎是所有在湖北打工、打算长期扎根的特种作业人员的共同疑问。我认识的不少朋友,当初是在外地读的技校或者工作单位安排考试,现在想在湖北发展,却发现证书不能直接… · 2026/11/23 1:43:12

电工证科目k 1考试真题与备考技巧 郑州报考避坑指南
电工证科目k 1考试真题与备考技巧 郑州报考避坑指南

电工证科目k 1考试真题与备考技巧 郑州报考避坑指南 之前考的证在外省能不能转过来?这是很多在外地工作、准备回郑州发展的电工从业者最关心的问题。如果你也有类似困惑,那这篇文章就为你讲清楚电工证科目k 1的相关内容,特别是 郑州报考避坑指南… · 2026/11/23 1:43:12

钱塘电工证哪里有,考前押题怎么找最靠谱
钱塘电工证哪里有,考前押题怎么找最靠谱

钱塘电工证哪里有,考前押题怎么找最靠谱 之前考的证在外省能不能转过来?我一个河南郑州的朋友就遇到过这个问题。他是在浙江杭州考的电工证,后来回郑州做房建工程,结果发现证书在本地不被认可。这个问题其实很普遍,特别是在我们这类跨省打工的工人中。很… · 2026/11/23 1:42:12

平价的电工证查询保姆级教程:别被中介坑,一步步教你搞定
平价的电工证查询保姆级教程:别被中介坑,一步步教你搞定

平价的电工证查询保姆级教程:别被中介坑,一步步教你搞定 你是不是也经常在网上看到“平价的电工证查询”这样的关键词,但又不知道去哪报名,怕被中介坑?特别是像你这样的平顶山学员,既想考个正规电工证,又怕花冤枉钱走弯路。别担心,这篇保姆级教程就是… · 2026/11/22 0:00:42

麻阳考电工证在哪里考内部消息你知道吗
麻阳考电工证在哪里考内部消息你知道吗

麻阳考电工证在哪里考内部消息你知道吗 不知道去哪报名怕被中介坑, 内部消息 告诉你,麻阳考电工证不一定要去外地,本地其实也有正规渠道,但很多人因为不了解流程和资质,反而被坑了钱还考不到证。今天我就从一个干了这么多年特种作业培训的“老江湖”角… · 2026/11/22 0:00:43

揭阳普宁电工证换证怎么操作?良心建议帮你理清流程
揭阳普宁电工证换证怎么操作?良心建议帮你理清流程

揭阳普宁电工证换证怎么操作?良心建议帮你理清流程 之前考的证在外省能不能转过来?这是很多已经在外地工作、现在想回揭阳普宁发展的电工朋友最关心的问题。如果你也是其中之一,那这篇文章就是为你们量身定制的,从换证流程到避坑建议,良心建议全给你讲透… · 2026/11/22 0:00:43

工地太忙根本没时间复习考试?泗阳电工证快速办理内部消息全在这了
工地太忙根本没时间复习考试?泗阳电工证快速办理内部消息全在这了

工地太忙根本没时间复习考试?泗阳电工证快速办理内部消息全在这了 工地太忙根本没时间复习考试,尤其是像你这样在信阳水利工程一线打拼的老电工,天天跟钢筋水泥打交道,哪还有空去背那些考试题?更别提现在办证流程越来越复杂,稍有不慎就可能耽误项目进度… · 2026/11/23 0:00:44

低压电工证复证材料千万别踩坑!这些材料你准备好了吗?
低压电工证复证材料千万别踩坑!这些材料你准备好了吗?

低压电工证复证材料千万别踩坑!这些材料你准备好了吗? 证书过期了不知道怎么复审延期?你不是一个人!现在不少电工朋友都在为低压电工证复证材料发愁,怕流程复杂、怕材料不全、怕耽误工作。其实,只要准备充分,复审一点都不难。今天就来带你一步步搞清楚… · 2026/11/23 0:00:44

上海哪里考电工证便宜真实经历分享:实操考试心里没底怕挂科
上海哪里考电工证便宜真实经历分享:实操考试心里没底怕挂科

上海哪里考电工证便宜真实经历分享:实操考试心里没底怕挂科 实操考试心里没底怕挂科,这是很多准备考电工证的朋友的共同心声。尤其是在上海这样的大城市,报考渠道多、价格不一,很多人在报名前都会犹豫到底该去哪家机构,费用多少才算合理。我自己在驻马店… · 2026/11/23 0:00:44

双极步进电机控制实战:DRV8818PWPR与PIC18F86K22驱动调试
双极步进电机控制实战:DRV8818PWPR与PIC18F86K22驱动调试

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views … · 2026/11/22 20:41:13

STM32F207ZG + DRV8818PWPR 步进电机驱动实战解析
STM32F207ZG + DRV8818PWPR 步进电机驱动实战解析

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views … · 2026/11/21 15:19:30

DRV8818PWPR+dsPIC30F4013工业级双极步进电机控制方案
DRV8818PWPR+dsPIC30F4013工业级双极步进电机控制方案

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views … · 2026/11/22 23:39:58

了解更多?预约专属演示

我们的顾问将为您一对一讲解产品与方案

企业微信二维码