神里奇遇:旅行者的奇妙小鸡桶,踏上神秘旅程的入口,看似无害的提问,也能偷走RAG系统的记忆——IKEA:隐蔽高效的数据提取攻击新范式紧张到失眠?这份高考小贴士,考前必看→拜登任期留下来的军援预计将在夏天发放完毕,值得注意的是,俄军的大规模攻势也将在此时开始。
初中生小明一直是个充满好奇和冒险精神的孩子。他对于世界充满了热爱,尤其喜欢探索未知的地方,尤其是那些有着美丽传说或者神话色彩的故事。这次,他的梦想是成为一名旅行者,体验各种各样的冒险之旅,寻找那些隐藏在世界之中的神奇小鸡桶。
有一天,小明放学后决定去图书馆查阅关于古代探险家和小鸡桶的故事。他发现这些故事中常常提到一种名为“神里奇遇”的神秘元素,这种小鸡桶通常由神秘的宝石、金子或魔法石制成,并带有强大的魔力。而据说只有通过神里奇遇,旅行者才能获得这些神奇的小鸡桶,进而开启一段属于自己的奇幻旅程。
小明被这个概念深深地吸引,他开始设计自己的“神里奇遇计划”。他需要收集一些关于神里奇遇的资料,了解其来源、意义以及如何获取。然后,他决定前往一个古老的城市,那里据说有一位拥有神秘力量的老人,能够指引他找到那枚传说中的小鸡桶。这位老人的居所位于一座古老的城堡中,城堡周围环绕着一片郁郁葱葱的森林。小明知道,要想进入城堡,必须经过一段艰难险阻的旅程。
小明开始了他的旅程。在森林深处,他遇到了一只聪明机智的小狐狸,这只小狐狸带领小明穿过了茂密的树林,躲过了各种危险陷阱。小狐狸告诉小明,只有通过回答问题和完成一系列的任务,才能获取开启城堡大门的钥匙。小明按照小狐狸的指示,不断挑战自我,最终成功解答了所有的谜题和难题。
当小明来到城堡门口时,他看到了一位身披铠甲、手持宝剑的老人。他一眼认出了老人就是传说中的神里奇遇的引导者。老人告诉他,只有通过完成一道象征生死的考验,才能开启神里奇遇的大门。小明接受了他的挑战,走进了一座巨大的岩洞,他在黑暗中摸索前行,突然前方出现了一个明亮的隧道。
在隧道尽头,小明看到了一枚金色的小鸡桶。小明小心翼翼地拿起这枚小鸡桶,心中充满了激动和期待。他将小鸡桶带回了森林,交给了那只聪明机智的小狐狸。小狐狸兴奋地跑向老人,告诉他一切都准备好了。老人接过小鸡桶,用他手中的宝剑轻轻一划,一道灿烂的光芒从小鸡桶中射出,照亮了整个森林。
小明跟随这道光芒,踏上了通往神里奇遇世界的道路。他在这个神秘的世界里,遇见了许多奇特的生物,体验了各种惊险刺激的经历。每一次的神里奇遇都让小明感到无比的震撼和惊喜,也让他更加坚定了成为一名旅行者的决心。
当小明返回现实世界时,他已经成为了那个传说中的旅行者。他的故事传遍了全世界,而神里奇遇的小鸡桶也成为了一种象征,提醒着人们勇敢面对未知,敢于追求梦想。
小明的奇幻小鸡桶之旅,不仅是一次对未知世界的探索,更是一次对勇气、智慧和团队合作的考验。他用自己的经历告诉我们,只要有坚定的决心,有勇气面对挑战,就能到达任何想去的地方,找到属于自己的神里奇遇。这就是神里奇遇,一个充满了神秘与冒险的传说,它永远在等待着我们的到来。
本文作者分别来自新加坡国立大学、北京大学与清华大学。第一作者王宇豪与共同第一作者屈文杰来自新加坡国立大学,研究方向聚焦于大语言模型中的安全与隐私风险。共同通讯作者为北京大学翟胜方博士,指导教师为新加坡国立大学张嘉恒助理教授。
本研究聚焦于当前广泛应用的 RAG (Retrieval-Augmented Generation) 系统,提出了一种全新的黑盒攻击方法:隐式知识提取攻击 (IKEA)。不同于以往依赖提示注入 (Prompt Injection) 或越狱操作 (Jailbreak) 的 RAG 提取攻击手段,IKEA 不依赖任何异常指令,完全通过自然、常规的查询,即可高效引导系统暴露其知识库中的私有信息。
在基于多个真实数据集与真实防御场景下的评估中,IKEA 展现出超过 91% 的提取效率与 96% 的攻击成功率,远超现有攻击基线;此外,本文通过多项实验证实了隐式提取的 RAG 数据的有效性。本研究揭示了 RAG 系统在表面「无异常」交互下潜在的严重隐私风险。
本研究的论文与代码已开源。
总述
大语言模型 (LLMs) 近年来在各类任务中展现出强大能力,但它们也面临一个核心问题:无法直接访问最新或领域特定的信息。为此,RAG (Retrieval-Augmented Generation) 系统应运而生——它为大模型接入外部知识库,让生成内容更准确、更实时。
然而,这些知识库中往往包含私有或敏感信息。一旦被恶意利用,可能导致严重的数据泄露。以往的攻击方式多依赖明显的「恶意输入」,比如提示注入或越狱攻击。这类攻击虽然有效,但也有着输入异常、输出重复等典型特征,容易被防御系统识别和拦截。
图1: 使用恶意查询进行逐字信息提取与使用良性查询进行知识提取 (IKEA) 之间的对比
为突破防御机制对现有提取攻击的限制,本文提出了一种全新的隐式知识抽取框架:IKEA (Implicit Knowledge Extraction Attack)。该方法不依赖任何越权指令或特异化提示语,而是通过自然、常规的查询输入,逐步引导 RAG 系统暴露其内部知识库中的私有或敏感信息。IKEA 的攻击流程具备高度自然性与隐蔽性。
其核心步骤包括:首先,基于已知的系统主题构建一组语义相关的锚点概念 (Anchor concepts);随后,围绕这些概念生成符合自然语言习惯的问题,用于触发系统检索相关文档;最终,通过两项关键机制对攻击路径进行优化与扩展:
上述机制协同工作,使得攻击过程在保持输入自然性的同时,能够在多轮交互中高效提取 RAG 系统所依赖的外部知识内容。实验证明,IKEA 可在常规输入检测与输出过滤等防御机制下维持高成功率与提取效率,展现出强大的鲁棒性与现实威胁潜力。
方法概览:如何实现「看似正常」的提问?
具体而言,IKEA 首先从与系统主题相关的概念词中筛选出可能有效的锚点概念,并结合历史响应信息过滤无关或无效的概念。
锚点概念数据库的初始化如下:
随后,系统围绕这些锚点概念自动生成语义自然、表达通顺的问题,引导 RAG 返回内容丰富的答案,从而在多轮交互中不断扩大对隐私知识的覆盖。这种策略使攻击过程更加隐蔽,难以被传统检测手段发现。下文给出了「良性」问题的具体生成方式:
该方法设计了两项关键机制以确保知识提取效率:
经验反思采样 (Experience Reflection Sampling)
每个候选锚点概念的采样概率由如下惩罚得分函数定义:
最终的采样概率为:
可信域有向变异 (Trust Region Directed Mutation)
图 2: (左) IKEA 整体流程图;(右) TRDM 示意图
其中:
实验结果:IKEA 的提取效率远超基线方法
研究团队在三个不同领域数据集 (医疗-HealthCareMagic100k、小说-HarryPotter、百科-Pokémon) 上测试了 IKEA 攻击效果。以下是 IKEA 与其他攻击方法在「无防御」、「输入检测」、「输出过滤」三种防御策略下的比较:
表 1: 在三种数据集上不同防御策略下的攻击效果对比分析
提取知识是否「有用」?
研究团队围绕知识有效性开展了两类实验:其一,评估提取出的知识在对应文档相关的问答任务中的表现;其二,评估在有限轮次攻击下所提取知识对完整知识库的覆盖与支撑能力。实验结果表明,IKEA 不仅能够高效提取 RAG 系统中的信息,而且所提取的知识在问答任务中展现出良好的实用性,其性能接近于使用原始知识库时的表现。
图 3: 在三种不同知识库设定下的选择题 (MCQ) 与问答 (QA) 任务结果对比
表 2: 在不同防御与不同基线下提取的知识作为参考的选择题与问答任务结果对比
表 3: 基于不同攻击方法提取数据构建的 RAG 系统在完整知识库上的评估结果
总结
2025年高考在即
考生考前要做哪些准备?
考前紧张到失眠怎么办?
这些干货,建议收藏↓↓
紧张到失眠怎么办?
不妨试试这个方法
忐忑不安,难以入眠……考生在备考期间出现睡眠障碍,可能是考前压力大、焦虑等原因导致的,不妨试试专家推荐的“323”呼吸疗法。
动作要点
深吸气,用能够听到自己鼻息的声音,默数123;
然后屏住气,默数12;
再呼出气,默数123。
此外,睡前不喝茶、咖啡等让人兴奋的饮品,可以适当饮用温牛奶,保持平常心,避免周围有噪声。
高考前做好这些准备
考试必备物品️
证件类:身份证、准考证(可以多打印几份);
文具类:2B铅笔(2~3支)、黑色签字笔、橡皮、作图工具。
饮食营养均衡
考前几天,建议按照平时的饮食习惯,不宜做大的调整,饮食中保持一定的肉类、蛋类、乳制品和豆制品,营养均衡即可。
劳逸结合,科学用脑
作息调整:提前按照考试时间调整作息,保持做题时的投入状态。
情绪稳定:排除外界干扰,适当放松,以平和坦然的心态,坚持到最后一刻。
信心充足:要相信自己,排除心中的杂念。
这些可以提前准备
准备好舒适透气的日常衣服,备用眼镜(近视的同学),纸巾,糖果(防止低血糖)、饮用水等。
特别提醒️
考试期间,不要携带钥匙、耳机、充电器、磁卡、打火机以及金属制作的手镯、戒指、项链、发卡等物品;尽量不穿戴有金属装饰品的衣服、鞋帽等,避免反复安检,影响正常入场考试。
别慌!遇到意外情况这样做
■ 走错考点、丢失或忘带身份证怎么办?
开考前一天,可以提前去考点踩点,熟悉考点周边环境;提前规划赴考路线,计算路途所需时间。
考试当天提前出门,预留1小时以上的缓冲时间,如遇突发状况,可向交警寻求帮助。
如果考前不慎丢失身份证,应立即向户籍所在地派出所申办临时身份证,持临时身份证参加考试。
■ 遇到极端天气怎么办?
考生和家长应提前查看天气信息,尤其是气象部门发布的天气预警,并通过本地的教育考试院官网、短信、互联网平台等获取考试应急通知。
️极端高温
提前准备遮阳伞、藿香正气水、风油精等,考点也会开放空调或配备冰块;
考生若出现中暑症状(头晕、恶心),应立即向监考员报告,现场医务人员会紧急处理。
️暴雨/洪涝
提前备好雨衣、雨伞、防水鞋套、透明文件袋(装准考证、文具等);
如交通受阻,应立即拨打当地交警热线,申请交警护送或调度应急车辆;
如遇考点被淹等极端情况不要惊慌,教育部门会启用备用考场。
■ 忘带、损坏文具或其他考试用品怎么办?
考试前一天,一定要再三检查好准考证、身份证件和文具等相关考试用品。
如果到达考点后发现忘带文具或文具有损坏,千万不要自己回家取,可在考场附近文具店购买或者向其他考生借用,时间允许的话也可以让家人送来。
如果在考试过程中文具损坏或缺少文具,不要擅自离开座位,可举手向监考老师寻求帮助。
高考在即
祝各位考生
金榜题名,不负韶华
转自: 央视一套