本站已超过 12 小时没有更新（正常每 3 小时更新一次），下面的内容可能不是最新的。
本页没有符合条件的条目（筛选只在本页内进行）。
说明RoCoMark：抵御基于大模型、保持功能不变的改写攻击的稳健代码水印方法
简介该论文针对大语言模型改写生成代码后水印难以识别的问题，提出名为RoCoMark的稳健代码水印框架。框架通过水印嵌入器与大模型改写器之间的多轮极小极大博弈，并结合基于Reflexion的自适应攻击演化机制，持续提升水印对多种改写策略的抵御能力。在四个典型基准上、使用五种大模型生成的攻击下，其平均检测AUROC为74.2%，改写比特准确率为75.3%，代码功能通过率保持在99.7%以上。
说明受免疫系统启发的自主网络韧性：自愈设计
简介本文探讨如何将受人体免疫系统启发的自主网络韧性方法，与海军和航空机动系统中已有的韧性机制相结合。作者以TNO的OpPic应用为例，展示其Self-Healing for Cyber Security软件如何提供随任务和威胁自适应的自主韧性。基于此，论文提出了六条自主网络韧性系统的设计指南。
说明基于时空生成对抗网络攻击滑块拼图验证码
简介该论文系统分析了六种主流滑块拼图验证码的防御策略，并为每种验证码分别构建缺口检测数据集和滑动轨迹数据集。作者使用YOLOv11检测缺口位置，并训练生成对抗网络（GAN）直接学习人类滑动轨迹特征来生成攻击轨迹。实验显示该方法对六种验证码的破解成功率均超过90%，攻击耗时约5秒，同时论文也提出了提升其安全性的方法。
说明云资源归属的智能体归因
简介安全工具会在云环境中产生大量告警，AI 智能体负责调查和排序，但最终仍需找到负责修复的人。本文提出一种智能体架构，不依赖人工声明，而是从工单记录、代码历史、审计日志和身份目录中推导资源归属，并用规则计算置信度。在一个组织的 100 个 AWS 资源上，该架构的加权召回率为 92.1%，加权精确率为 86.6%，明显优于未经配置的通用智能体。
说明SkillCODER：面向 LLM 智能体技能的版权侵权审计与溯源
简介论文提出 SkillCODER，用于在仅能获取内容的黑盒条件下，对大模型智能体技能的版权进行审计并追溯购买者身份。方法在技能中嵌入仅在验证查询时激活的条件指令，并利用受控词汇纠错码编码购买者指纹。在三个领域、六个模型和三个智能体框架上，所有权验证准确率为 99.2%，购买者 Top-1 溯源准确率为 99.3%，同时保持任务效果，并能抵抗改写、压缩等操作。
说明基于意图图与推理升级的智能体工具调用最小权限审计
简介大语言模型智能体调用工具时，可能被工具输出中隐藏的指令诱导，执行用户未要求的操作。该论文提出一种运行时审计方法：每项任务用一次大模型调用，从用户目标和工具目录生成可执行的意图图，再用不调用大模型的确定性程序逐条核对工具调用，中位耗时约5.7微秒。对于被标记的调用，系统交给推理型守护模型复核，该模型看不到工具输出，只能借助受限的Python表达式工具核实事实。论文同时指出，当前测试的智能体在基线下未出现攻击成功，端到端验证仍有待完成。
说明ErosionBench：探测企业多智能体系统中的对齐衰减
简介该论文提出 ErosionBench 基准，用于测试企业多智能体大模型系统在跨会话共享状态被污染、长文档和可信同伴消息中逐步滑向不安全行动的问题。基准包含 1,728 个带对照的场景和 198 个图像攻击，并在过程层面按工具调用是否符合授权意图和来源进行判定。论文还提出一种校准的元审计器作为参考防御，在留出测试集上达到 98.5% 的召回率和 2.9% 的误报率。
说明Chatter Attack：针对大语言模型的资源消耗攻击
简介论文提出一类名为 Chatter Attack 的资源消耗攻击，通过优化对抗性提示，诱导模型生成预设的简短“自我怀疑”短语，从而在避免搜索空间爆炸的同时使模型输出很长的回复。方法通过推理注意力损失和全局熵损失维持该状态，并针对黑盒场景提出贝叶斯提示优化（BPO）。实验显示，最大回复长度最多增加至 31.5 倍。
说明在良性数据上训练的隐藏状态探针，能否在对抗条件下检测工具调用错误？
简介该研究探讨仅用良性工具调用轨迹训练的隐藏状态探针，能否在提示注入、系统覆盖和工具投毒等对抗条件下检测错误的工具操作。研究使用四个 AgentDojo 套件和三个模型进行分组交叉验证，并与三种标量不确定性指标比较。结果表明，良性训练的隐藏状态探针不应被默认认为能在对抗条件下可靠地检测工具操作错误。
说明追踪MCP安全漏洞：构建并分析MCP安全漏洞数据集
简介本文针对模型上下文协议（MCP，连接大模型与外部数据和工具的核心协议）的安全漏洞信息分散、杂乱的问题，从CVE公告中整理出一个经过验证的MCP漏洞数据集，共24个漏洞，并公开了数据集与复现工具。分析显示，87.5%的漏洞为严重或高危级别，注入和路径遍历类漏洞占66.7%；作者还归纳了输入验证不足、访问控制薄弱等问题，并通过六个案例说明典型利用方式及对应防御。
说明超越AUROC：面向部署的模型内部越狱检测器评估
简介论文研究利用模型内部隐藏表示、梯度等信号识别越狱提示的检测器。作者发现，在精选良性提示上校准的阈值，在真实用户流量上往往无法保持设定的误报率。重新校准能改善误报控制，但暴露出各攻击类别的覆盖缺口。论文建议以真实部署流量上的实际误报率和低误报点上的各类别真阳性率评估，AUROC仅作辅助。
说明PQC-Corpus：后量子密码学关联开发历史数据集
简介该论文介绍了PQC-Corpus，一个包含179个公开GitHub仓库的数据集，涵盖密码学库和通用项目。数据集将问题、拉取请求、提交、补丁及评论与评审关联起来，便于研究后量子密码学相关的代码变更。作者同时公开了数据集和采集工具，并提供完整视图与过滤视图。
说明智能电网中可解释的信息物理攻击检测：融合、鲁棒性与可观测性边界的多测试平台评估
简介本文针对智能电网信息物理攻击检测器的评估问题，提出基于可解释的时间窗口融合随机森林的多测试平台研究，并在评估协议不一致时采用更保守的结果。研究发现，打乱顺序的交叉验证结果偏乐观，改用滚动起点时间评估后宏平均F1从0.96降至0.88；在特征空间攻击和IEC-104真实流量等场景下，模型的鲁棒性与对语义值篡改的检测能力都存在明显不足；此外，在IEEE 118节点系统的端到端评估中，基于物理流形的检验在缓慢斜坡攻击下表现优于时间预测检验。
说明在真实云基础设施上验证AI发现的云威胁：多模型、多云研究
简介该研究提出一套三阶段方法：多智能体威胁发现、自动化利用生成以及非破坏性的实网验证，并将其应用于三个商用基础模型和两种云架构。在233个AI发现的威胁中，103个被确认，34个被驳回，精确率为75.2%。多模型组合主要增加了覆盖面，确认的威胁数量为最佳单一模型的2.2倍。
说明智能体混乱：关于针对智能体AI系统恶意攻击的知识体系化综述
简介本文系统梳理了针对智能体AI系统（即为大语言模型加装工具、记忆、浏览器与代码执行等能力的系统）的恶意攻击。作者筛选了186篇候选文献，保留98篇，归纳出284种攻击与452种防护措施，并整理出660组攻击与防护的对应关系。研究发现，工具、MCP和动作层攻击占比最大，而提示注入与动作劫持类攻击的论文覆盖最广；但防护覆盖并不均衡，660组关系中仅278组得到直接评估。
说明《魔鬼穿着 Markdown》：通过静态、动态与智能体混合分析，检测隐藏在 AI 智能体技能指令中的恶意意图
简介论文研究 AI 智能体技能（结合代码、自然语言指令与配置的可复用组件）中隐藏的恶意意图。作者在 140 个技能（80 个恶意、60 个良性）的测试集上评估了三个开源扫描器，并提出一个结合静态检测、安全沙箱动态证据与大语言模型推理的框架。结果显示，加入动态证据后 F1 从 0.70 提高到 0.85，结合静态与动态证据后 F1 达到 0.89，误报为 60 个良性样本中的 5 个。
说明SIExBench：敏感信息泄露缺陷自动修复基准
简介该论文提出 SIExBench，是首个专门用于敏感信息暴露（SIEx）缺陷自动修复的基准。基准包含来自 64 个 Python 和 Java 仓库的 161 个经执行验证的实例。评估 6 个修复系统与 3 个大语言模型共 18 种配置，最强配置仅解决 39.1% 的实例，62.1% 的失败尝试生成了仍存在信息暴露的补丁，表明彻底消除暴露路径是主要挑战。
看点首个专门面向敏感信息泄露缺陷自动修复的基准，评测六种修复系统与三种LLM共18种配置，最佳仅解决39.1%。