被同桌恶意利用震蛋器折磨?真相揭示:不堪忍受的凌虐与报复瞬间曝光

码字波浪线 发布时间:2025-06-08 21:26:35
摘要: 被同桌恶意利用震蛋器折磨?真相揭示:不堪忍受的凌虐与报复瞬间曝光,看似无害的提问,也能偷走RAG系统的记忆——IKEA:隐蔽高效的数据提取攻击新范式青岛青禾撤档A股上市,原计划募资约11亿元我就在房间里磕剧本。看完剧本我很兴奋,在房间给我妈打电话:“妈!我要火了!”

被同桌恶意利用震蛋器折磨?真相揭示:不堪忍受的凌虐与报复瞬间曝光,看似无害的提问,也能偷走RAG系统的记忆——IKEA:隐蔽高效的数据提取攻击新范式青岛青禾撤档A股上市,原计划募资约11亿元强基计划在保证公平公正的前提下,探索建立多维度考核评价考生的招生模式。主要有两种模式:

今天的故事发生在一个普通的初中校园里,主角是小明和小红两位同学。小明是个活泼开朗的学生,而小红则是一些顽皮捣蛋的男生组员。他们的友谊在一段欢声笑语中建立起来,但随着时间的推移,他们之间的矛盾却日渐升级。

小明和小红在课堂上经常因为一个小事情引发争执,比如谁解难题更熟练、谁在课后布置作业更多等。这种竞争性的氛围让他们的关系变得紧张。最近的一次事件给这个平静的校园带来了新的动荡。

那天下午,小明正在专心致志地学习数学公式,突然一阵剧烈的震动从他的课桌上传来,他下意识地抬起头查看是什么情况。原来,他的同桌小刚手中拿着一个小型的震蛋器,正对着他的课桌进行无情的猛击,一股强烈的冲击力令小明不禁感到头晕目眩。小明无法控制自己的视线,只能看着震蛋器在他眼前飞舞,仿佛是邪恶的力量在他的面前舞蹈。

小明试图阻止小刚的行为,但他只是用冰冷的眼神瞪着他,并且对他说:“这是你的课桌,你应该保护它!”小刚的回答很简单,“我有权利使用它,这有什么错?”面对小明的质疑,小刚的态度更加嚣张,他甚至大声地叫嚷着:“我没有做错什么,我只是想打发一下时间。”

看到这一幕,小明的心开始颤抖,他知道,他的处境已经到了危险的边缘。他深知,如果任由小刚继续欺负自己,很可能会影响到他的学业和未来的成长道路。于是,小明决定把这件事告诉老师,并要求老师介入解决。

老师了解了小明的情况后,立即组织了一场紧急会议。在会议上,老师耐心听取了小明和小刚的陈述,并对他们进行了严厉的批评。小刚的态度虽然强硬,但他被老师所说的话所打动,承认了自己的错误,并承诺以后会尊重和爱护其他同学的课桌。

经过这次事件,小明和小刚的关系得到了极大的改善。他们认识到,真正的友情应该是互相尊重、理解和支持,而不是依靠暴力和攻击去维持。从此以后,他们更加懂得珍惜彼此的友情,也明白了如何去更好地处理同学间的冲突和问题。

这篇故事告诉我们,被同桌恶意利用震蛋器折磨是一种让人难以承受的痛苦经历。而当这种情况发生时,我们应该勇敢站出来,向老师或家长寻求帮助,同时也要学会理解和宽容对方。只有这样,我们才能真正建立起健康和谐的人际关系,享受生活中的快乐和幸福。

本文作者分别来自新加坡国立大学、北京大学与清华大学。第一作者王宇豪与共同第一作者屈文杰来自新加坡国立大学,研究方向聚焦于大语言模型中的安全与隐私风险。共同通讯作者为北京大学翟胜方博士,指导教师为新加坡国立大学张嘉恒助理教授。

本研究聚焦于当前广泛应用的 RAG (Retrieval-Augmented Generation) 系统,提出了一种全新的黑盒攻击方法:隐式知识提取攻击 (IKEA)。不同于以往依赖提示注入 (Prompt Injection) 或越狱操作 (Jailbreak) 的 RAG 提取攻击手段,IKEA 不依赖任何异常指令,完全通过自然、常规的查询,即可高效引导系统暴露其知识库中的私有信息。

在基于多个真实数据集与真实防御场景下的评估中,IKEA 展现出超过 91% 的提取效率与 96% 的攻击成功率,远超现有攻击基线;此外,本文通过多项实验证实了隐式提取的 RAG 数据的有效性。本研究揭示了 RAG 系统在表面「无异常」交互下潜在的严重隐私风险。

本研究的论文与代码已开源。

总述

大语言模型 (LLMs) 近年来在各类任务中展现出强大能力,但它们也面临一个核心问题:无法直接访问最新或领域特定的信息。为此,RAG (Retrieval-Augmented Generation) 系统应运而生——它为大模型接入外部知识库,让生成内容更准确、更实时。

然而,这些知识库中往往包含私有或敏感信息。一旦被恶意利用,可能导致严重的数据泄露。以往的攻击方式多依赖明显的「恶意输入」,比如提示注入或越狱攻击。这类攻击虽然有效,但也有着输入异常、输出重复等典型特征,容易被防御系统识别和拦截。

图1: 使用恶意查询进行逐字信息提取与使用良性查询进行知识提取 (IKEA) 之间的对比

为突破防御机制对现有提取攻击的限制,本文提出了一种全新的隐式知识抽取框架:IKEA (Implicit Knowledge Extraction Attack)。该方法不依赖任何越权指令或特异化提示语,而是通过自然、常规的查询输入,逐步引导 RAG 系统暴露其内部知识库中的私有或敏感信息。IKEA 的攻击流程具备高度自然性与隐蔽性。

其核心步骤包括:首先,基于已知的系统主题构建一组语义相关的锚点概念 (Anchor concepts);随后,围绕这些概念生成符合自然语言习惯的问题,用于触发系统检索相关文档;最终,通过两项关键机制对攻击路径进行优化与扩展:

上述机制协同工作,使得攻击过程在保持输入自然性的同时,能够在多轮交互中高效提取 RAG 系统所依赖的外部知识内容。实验证明,IKEA 可在常规输入检测与输出过滤等防御机制下维持高成功率与提取效率,展现出强大的鲁棒性与现实威胁潜力。

方法概览:如何实现「看似正常」的提问?

具体而言,IKEA 首先从与系统主题相关的概念词中筛选出可能有效的锚点概念,并结合历史响应信息过滤无关或无效的概念。

锚点概念数据库的初始化如下:

随后,系统围绕这些锚点概念自动生成语义自然、表达通顺的问题,引导 RAG 返回内容丰富的答案,从而在多轮交互中不断扩大对隐私知识的覆盖。这种策略使攻击过程更加隐蔽,难以被传统检测手段发现。下文给出了「良性」问题的具体生成方式:

该方法设计了两项关键机制以确保知识提取效率:

经验反思采样 (Experience Reflection Sampling)

每个候选锚点概念的采样概率由如下惩罚得分函数定义:

最终的采样概率为:

可信域有向变异 (Trust Region Directed Mutation)

图 2: (左) IKEA 整体流程图;(右) TRDM 示意图

其中:

实验结果:IKEA 的提取效率远超基线方法

研究团队在三个不同领域数据集 (医疗-HealthCareMagic100k、小说-HarryPotter、百科-Pokémon) 上测试了 IKEA 攻击效果。以下是 IKEA 与其他攻击方法在「无防御」、「输入检测」、「输出过滤」三种防御策略下的比较:

表 1: 在三种数据集上不同防御策略下的攻击效果对比分析

提取知识是否「有用」?

研究团队围绕知识有效性开展了两类实验:其一,评估提取出的知识在对应文档相关的问答任务中的表现;其二,评估在有限轮次攻击下所提取知识对完整知识库的覆盖与支撑能力。实验结果表明,IKEA 不仅能够高效提取 RAG 系统中的信息,而且所提取的知识在问答任务中展现出良好的实用性,其性能接近于使用原始知识库时的表现。

图 3: 在三种不同知识库设定下的选择题 (MCQ) 与问答 (QA) 任务结果对比

表 2: 在不同防御与不同基线下提取的知识作为参考的选择题与问答任务结果对比

表 3: 基于不同攻击方法提取数据构建的 RAG 系统在完整知识库上的评估结果

总结

来源|贝多财经

近日,上海证券交易所披露的信息显示,青岛青禾人造草坪股份有限公司(下称“青岛青禾”)及其保荐人中信证券撤回上市申请文件,因此,上海证券交易所决定终止对其首次公开发行股票并在沪市主板上市的审核。

据贝多财经了解,青岛青禾于2022年7月预披露招股书,报考在上海证券交易所主板上市。全面注册实施后,该公司于2023年3月平移递交招股书,并于2024年12月进行了一次更新。

本次报考上市,青岛青禾原计划募资10.92亿元,将用于增资青禾人造草坪(越南)有限公司建设越南人造草坪生产基地三期项目、草丝生产基地建设技术改造项目、信息化系统升级技术改造项目、研发中心建设技术改造项目,以及补充流动资金。

天眼查App信息显示,青岛青禾成立于2009年8月,位于山东省青岛市,前身为青岛康森纤维有限公司。目前,该公司的注册资本约1.1亿元,法定代表人为于康,主要股东包括青岛新鸿翼投资有限公司、于康等。

据招股书介绍,青岛青禾主要从事人造草坪及人造草丝的研发、生产和销售业务,产品主要包括人造草坪和人造草丝,人造草坪可细分为休闲景观草坪及运动草坪,主要作用为向客户提供良好的休闲景观环境及运动场地。

青岛青禾在招股书中称,该公司的产品以外销为主,主要销售模式包括批发和直销,主要客户包括批发商、人造草坪生产商、连锁超市和铺装商等,客户覆盖美洲、欧洲、亚洲、大洋洲、非洲等100多个国家及地区。

2021年、2022年、2023年和2024年上半年,青岛青禾的营收分别约13.58亿元、18.28亿元、19.56亿元和10.36亿元,净利润分别约为1.37亿元、1.00亿元、1.29亿元和6097.68万元,扣非后净利润分别约1.32亿元、8944.38万元、1.25亿元和1.19亿元。

目前,青岛青禾的主营业务收入主要来源于人造草坪(休闲草及运动草)及人造草丝的销售。其中,来自休闲草的收入分别约9.76亿元、12.02亿元、14.20亿元和6.99亿元,分别占其主营业务收入的72.73%、66.95%、73.16%和68.30%。

文章版权及转载声明:

作者: 码字波浪线 本文地址: http://m.ua4m.com/postss/9uzdvufvq1.html 发布于 (2025-06-08 21:26:35)
文章转载或复制请以 超链接形式 并注明出处 央勒网络