AI 算法 · 2026年9月30日(周三)

机器学习、人工智能、自然语言处理、计算机视觉、多智能体。

arXiv cs.CV 有代码

Spatial-Temporal Multi-scale Network for Screen Content Video Quality Enhancement

说明面向屏幕内容视频质量增强的时空多尺度网络(STM-Net)

简介屏幕内容视频(SCV)包含突变运动、场景切换和文字图形等高频细节,传统依赖时间连续性的增强方法在此类视频上效果会下降。本文提出时空多尺度网络STM-Net,用于压缩后的屏幕内容视频增强,包含先验引导时空分发器、双向时间特征提取和级联多尺度特征蒸馏三个模块。实验表明,STM-Net在客观指标和主观视觉质量上均优于现有方法。

Ziyin Huang, Sik-Ho Tsang, Xinyuan Qin 等

arXiv cs.LG

Shared Weights, Selected Computations: How Looped Transformers Route What Each Loop Does

说明共享权重,选择性计算:循环 Transformer 如何为每次循环路由不同操作

简介循环 Transformer 反复使用同一组层,本文研究每次循环是否真的执行相同计算。作者以图随机游走为测试任务,发现模型可以在不同步数间推进,并可通过线性层 J 修改入口隐状态,在不改动共享层的情况下切换转移方式。注意力路由被证明是其中的因果路径。

Jiaju Wu, Yi Hu, Muhan Zhang

arXiv cs.MA

Solving Multi-Agent Sokoban via LaCAM

说明用 LaCAM 求解多智能体推箱子问题

简介推箱子是一种经典的规划基准问题,多智能体版本研究较少。本文借鉴多智能体路径规划(MAPF)的最新进展,提出 Sokoban-LaCAM 规划器,用于同时处理任务分配与无碰撞路径规划。文中称该方法可高效求解涉及数十个智能体与箱子的实例,并保证完备性与最终最优性,表明 MAPF 可作为解决更广泛集体自动化问题的基础工具。

Keisuke Okumura

arXiv cs.LG · cs.RO · cs.SY

Markovian Dynamics Enforcer: Feasibility Preserving Correction on Learned Dynamics Manifolds

说明马尔可夫动力学约束器:在学习到的动力学流形上保持可行性的修正方法

简介神经网络轨迹预测器误差可能很低,却会违反动力学、执行器限制或状态约束。该论文提出一种后处理算子MaDE,将预测的状态转移投影到学习得到的可行动力学流形上,并通过基于梯度的修正尽量满足不等式约束。在仿真系统和车辆轨迹数据上,MaDE使动力学残差显著降低,但平均位移误差会上升。

Kevin Yu, Tao Guo, Constantinos Antoniou 等

arXiv cs.CL · cs.AI · cs.LG 有代码

OPSRD: On-Policy Self-Role Distillation

说明OPSRD:同策略自角色蒸馏,用固定专家角色指导大模型学习数学推理

简介该论文提出OPSRD方法,让同一基础模型在带有固定专家角色提示时充当教师,在学生模型自身生成的轨迹上提供逐词分布,无需参考答案即可进行同策略蒸馏。训练时只对学生预测中熵最高的一半位置施加监督,并采用正向KL散度与裁剪。在三个竞赛数学基准上,基于Qwen3-1.7B、4B和8B的实验显示,相比不带角色提示的基础模型有所提升,且正向KL在各规模下宏平均准确率最高。

Weijie Ren, Yanwen Zhang, Hao Li 等

arXiv cs.CV 有代码

Grounding with Confidence: Controllable Generative Video Temporal Grounding

说明带置信度的视频时序定位:可控的生成式方法

简介该论文研究视频时序定位,即根据自然语言描述在视频中定位事件。作者为生成的每个时间区间增加一个轻量置信度评分头,用于排序、阈值筛选和拒绝候选区间,推理时无需外部验证器。在 OMTG-Bench 固定候选池上,置信度排序在10%和25%返回预算下分别提升了Recall@0.5 指标。

Jinhao Chen, Benlei Cui, Ruijian Jia 等

arXiv cs.CL · cs.LG

LLM Persona Unlearning

说明LLM人格遗忘:让大模型难以再表现出某种被指定的人格

简介该论文指出,预训练使大语言模型具备多种角色与风格,后训练虽使助手模式成为默认,却未从权重中清除其他模式,显式提示仍可激发特定人格。作者提出人格遗忘任务,构建了PersonaUnlearnBench基准,并提出PaCE方法,通过对比目标与期望回应定位内部行为方向并进行权重编辑,实验显示其能较稳定地抑制目标人格,代价是适度的通用能力损失。

Kemou Li, Zhuan Shi, Qizhou Wang 等

arXiv cs.LG · cs.AI

Algorithmic Recourse Under Competition

说明竞争环境下的算法补救(Algorithmic Recourse Under Competition):研究在资源有限、多人竞争时,机器学习给出的改进建议如何因门槛变化而失效,并提出兼顾成本与有效性的方法。

简介算法补救会为被模型拒绝的人提供低成本的改进建议,以便获得理想结果。该论文指出,当个体在有限资源上相互竞争时,大量人员执行建议会改变录取门槛,即使评分模型不变,原有建议也可能失效。作者提出“竞争下的补救”框架,联合优化补救对象及其需达到的评分目标,在补救成本与变动后的有效性之间取得平衡,并基于隐函数定理开发算法,在合成与真实数据集上进行了实验。

Shahin Jabbari

arXiv cs.CV 有代码

A PyTorch Library for Hyperspectral Image Models: Technical Report

说明用于高光谱图像模型的 PyTorch 库:技术报告

简介本文介绍一个统一的高光谱图像模型框架,整合了六类范式下的 55 个代表性模型,并提供统一的注册机制、张量适配与标准化评估流程。框架包含 24 个基准场景,并通过空间不相交的分块划分避免训练与测试像素重叠。实验表明,场景难度对准确率的影响大于模型架构,且部分参数不足 100 万的模型可与大两个数量级的模型表现相当。

Tanishq Rachamalla, Aryan Das, Srishti Kaushik 等

arXiv cs.AI · cs.CL · cs.LG

GrammarRL: Effective Grammar-Constrained Decoding via Reinforcement Learning

说明GrammarRL:用强化学习实现有效的语法约束解码

简介该论文提出 GrammarRL,一种无需标注数据的强化学习方法,使语言模型适应语法约束生成。它用模型自身似然构造两个自监督奖励:直接奖励衡量约束输出给定输入的可能性,反向奖励衡量能否从输出还原输入。在手语词条翻译、层级文本分类和命名实体识别任务上,基于 Llama 1B 至 8B 模型的实验显示,它平均优于约束贪心解码 9.8 分,在两项任务上匹配或超过束搜索,且推理成本与贪心解码相同。

Gabriele Tuccio, Antonino Furnari, Aldo Gangemi 等

arXiv cs.AI · cs.LG

Completion-Aware Cross-Fidelity Offline-to-Online Reinforcement Learning for Multi-Line Bus Holding

说明面向多线公交车站调度的完成感知跨保真离线到在线强化学习

简介公交车实车上直接探索式强化学习不现实,仅用历史数据训练的策略又无法获得新经验。本文研究结合固定目标回放与模拟器交互的混合离线到在线强化学习,并关注模拟器与目标环境在转移与事件时长动态上的差异。文中针对一种失效模式展开:广义乘客时间降低的同时,乘客行程却未能完整完成。

Yifan Zhang, Qifan Zhang, Liang Zheng

arXiv cs.LG

Preemptive LLM Unlearning against Forbidden Capability Acquisition via Gradient Sealing

说明预先式大模型遗忘:通过梯度封存阻止危险能力被后续习得

简介开放权重大模型可被下游微调,用户可能借此植入违法知识。本文提出预先式遗忘,在发布前阻止此类能力被后续习得,并指出现有事后遗忘方法保护不足:即使输出已抑制,相关数据仍可通过内部路径产生梯度。作者提出梯度封存原则,将相关预激活推入负区,使ReLU类激活函数导数为零或接近零,实验显示其比事后遗忘基线更能抵抗下游习得。

Kemou Li, Qizhou Wang, Yue Wang 等

arXiv cs.AI · cs.CL

FIGS: Evaluating Multi-Turn Sycophancy Without Penalizing Empathy

说明FIGS:在多轮对话中评估谄媚,同时不惩罚共情

简介该论文提出 FIGS 评估框架,用 10 轮自适应对话模拟器测试大模型在持续互动中是否会为迎合用户而失去事实立场,同时区分真正的谄媚与适度的共情认可。作者发布了包含 500 个多轮场景和自动评判器的测试环境。评估显示,现有模型在长对话中要么逐渐趋向谄媚,要么过度矫正变得冷漠,如何兼顾诚实与支持仍是未解决的问题。

Sidharth Pulipaka, Ruta Binkyte, Ivaxi Sheth 等

arXiv cs.LG

Fork-dLLM: Avoiding the Flexibility Trap in Diffusion Language Models

说明Fork-dLLM:避免扩散语言模型的灵活性陷阱

简介该论文针对掩码扩散语言模型,指出基于置信度的并行采样会延后高熵分叉位置的解码,导致生成多样性下降。作者提出混合采样器Fork-dLLM,仅在不确定的回退步骤采用自回归式顺序,其余步骤保持并行生成;并提出ForkGRPO用于后训练。实验称其在pass@k扩展性上与自回归采样相当,效率提高2到3倍。

Stipe Frkovi\'c, Metod Jazbec, Christian A. Naesseth

★★★★☆ 值得关注
arXiv cs.LG · math.PR

Dimension-Free Rank Lifting from Random Hyperplane Arrangements

说明与维度无关的随机超平面排列秩提升

简介本文研究神经网络随机初始化隐藏层需要多少神经元,才能使输入数据经随机特征变换后达到满秩(即秩提升)。对于符号、Heaviside、ReLU 等正齐次非多项式激活函数,证明在夹角至少为 θ 的 m 个输入向量下,约 (1/θ)·max{m, log(1/δ)} 个神经元即可以至少 1−δ 的概率满秩,且界与维度无关、基本紧致。文章还给出了稳定秩提升的宽度保证。

看点给出与维度无关的随机特征秩提升界,指数级改进已有结果;证明严谨,并统一了稳定秩保证。

Luca Becchetti, Matteo Russo, Ruben Skorupinski

arXiv cs.CV · cs.AI 有代码

When the Editing Intent Is Split: A Cross-Modal Jailbreak Attack for Large Image Editing Models

说明editing intent 分散时:面向大型图像编辑模型的跨模态越狱攻击

简介论文提出分裂意图越狱攻击(SIJA),把有害编辑意图拆分到文本和视觉两种模态中:文本指明编辑对象,辅助视觉线索用图形语义隐藏关键操作。作者还构建了SI2ESBench基准,并在商用与开源模型上测试,报告GPT Image 2的攻击成功率为68.28%,Qwen-Image-3.0-Pro为91.38%。论文同时提出编辑意图重建防御思路,用于评估联合推断出的完整变换。

Xianmin Ye, Zhiyuan Fan, Tianju Liu 等

arXiv cs.CL

Cognitive Enhancement: Rethinking the Necessity of Role-Playing for Large Language Models

说明认知增强:重新审视大语言模型角色扮演提示的必要性

简介本文系统检验了角色扮演提示能否稳定提升大语言模型的推理与输出质量,在多模型、跨领域、多语言设置下于MMLU与MMLU-Redux上进行实验。结果显示增益取决于模型能力、知识领域和提示语言。作者提出“角色相关认知对齐假设”,并提出无需训练的混合语言拼接预测方法MLCP,实验表明其在所有测试模型上均优于普通角色扮演提示。

Xingjie Zhuang, Jialong Tang, Chulun Zhou 等

arXiv cs.LG

Predicting Multi-View Rashomon Representation: Can We Learn Where Models Disagree?

说明预测多视角 Rashomon 表示:能否学会模型在哪里产生分歧?

简介论文指出,不同基础模型对同一输入可能给出差异很大的表示,作者称之为 Rashomon 表示,这种分歧可作为判断输入可靠性的信号。与以往需要多个模型同时比较的做法不同,作者训练一个轻量预测器,仅凭单一模型的表示即可估计分歧程度。实验显示,这种分歧与输入相关、可预测且具有一定泛化能力,可用于高效估计基础模型的可靠性。

Mingyue Ma, Zongbo Han, Changqing Zhang 等

arXiv cs.SD · cs.LG

SEAR: Spoofing Evidence-Grounded Audio Reasoning Benchmark for Audio Language Models

说明SEAR:面向音频语言模型的伪造证据推理基准

简介音频语言模型越来越多地用于音频深度伪造检测,但现有基准只评估其判断或理由是否合理,未验证底层声学证据。本文提出SEAR基准,包含四项任务,通过声学证据识别与量化、深度伪造检测及取证理由生成来评估基于音频语言模型的检测。作者还提出BAEA代理,在冻结的模型上接入受控声学工具。实验显示合理理由与可验证的声学证据推理之间存在明显差距。

Rong Wan, Suliu Qin, Jiaxi Li 等

arXiv cs.CL · cs.AI · cs.HC

When a Kindergartener Solves Calculus: Measuring Capability Leakage in Role-Prompted Reasoning Models

说明当幼儿园学生解出微积分:衡量角色提示推理模型中的能力泄露

简介本文研究“角色能力泄露”(RCL)问题:被设定为某一角色的推理模型能生成令人信服的角色化文本,但在基准测试中仍表现出超出该角色应有水平的能力。作者提出RoleCapBench,覆盖六种教育角色和从小学到A-level的四个评估等级,并用它评测三个开源权重推理模型。结果显示,简单角色提示下模型角色语气得分较高,但高于角色水平的准确率仍保持在0.811至0.898之间。作者还提出推理时干预方法Injection,可在多数模型上降低超角色准确率。

Pakhapoom Sarapat, Saksorn Ruangtanusak, Kunat Pipatanakul 等

arXiv stat.ML · cs.AI · cs.LG 有代码

BayesNDE: Bayesian Generative Modeling for Neural Density Estimation

说明BayesNDE:用于神经密度估计的贝叶斯生成模型

简介本文提出BayesNDE,一种基于贝叶斯生成建模的神经密度估计方法。它不需要可逆网络或雅可比行列式计算,而是为每个样本推断潜变量后验,构造自适应提议分布,并结合桥采样估计密度。在非线性和多峰合成数据集上,相比现有神经密度估计方法,其密度值估计和密度结构恢复效果更好;在真实数据集上,异常检测表现也有所提升。

Chenglin Li, Qiao Liu

arXiv cs.LG

CommunityKV: Efficient Long-Context Decoding via Graph Partitioning

说明CommunityKV:基于图划分的高效长上下文解码方法

简介该论文针对Transformer处理长上下文时自注意力计算和键值缓存访问成本高的问题,提出免训练的稀疏注意力框架CommunityKV。它利用标准预填充阶段已算出的QK^T分数构建词元图,并将其划分为社区,以检索语义连贯的词元组;新生成的词元可在常数时间内分配到对应社区。在Qwen3和Llama-3.1模型的三个长上下文基准上,相比稠密注意力,端到端生成吞吐量最高提升1.25倍;采用查询组图聚合时最高可达1.71倍,且精度相近。

Joe McKenna, Anastasios Alexandridis, Nathan Susanj 等

★★★★☆ 值得关注
arXiv cs.CV

DyRAD: Radar Novel View Synthesis for Dynamic Driving Scenes

说明DyRAD:面向动态驾驶场景的雷达新视角合成

简介该论文提出DyRAD方法,利用静态背景反射体和运动跟踪的动态点反射体,合成包含距离-方位-多普勒的完整雷达张量,从而在偏离原始轨迹的视角下重建动态驾驶场景。方法通过固定的解析点扩散函数渲染反射体,避免传感器造成的扩散被写入场景表示中,并支持在不重新拟合的情况下切换雷达配置。在RADIal数据集上,DyRAD恢复了90.7%的参考检测目标,而最强基线为26.9%。

看点用静态与运动跟踪点反射体渲染完整RAD张量并以解析PSF分离传感器展宽,在RADIal上检出率达90.7%,显著优于基线26.9%。

Merav Keidar, Tomer Borreda, Rajalakshmi Nandakumar 等

arXiv cs.LG

Source Identification Is Not Fitness Testing: Measuring the Limits of Synthetic-Data Attribution

说明来源识别不等于质量检测:合成数据归因的局限

简介论文研究在模型生成数据上反复训练可能导致模型退化,并探讨能否通过溯源信息挑选生成样本。实验以金融风险文本为对象,发现生成来源的归因在改写后准确率大幅下降,而生成与人工文本的区分仍接近完美。两种选样方法在三轮生成与再训练后,未检测到稳定的模型退化差异,表明识别数据来源与判断数据是否有助于训练是两个不同问题。

Joss Armstrong

arXiv cs.LG

Dynamic LoRA-Experts and Prototype-Ensemble Matching for Class-Incremental Learning

说明面向类增量学习的动态LoRA专家与原型集成匹配方法(DLEPEM)

简介该论文针对类增量学习中新类别学习时容易遗忘旧知识的问题,提出一种无需回放旧样本的两阶段方法DLEPEM。它为每个增量任务分配一个专用的LoRA专家模块,以减少任务间干扰,并将冻结预训练模型的原型与任务自适应的LoRA专家原型结合,用于任务级别的可靠区分。作者称在标准及少样本类增量学习基准的所评估协议下表现良好。

Hongwei Zhao, Rui Liu, Yansong Liu (School of Computer Science 等

arXiv cs.AI · cs.CL · cs.LG

Learning Steganography Is Easy, Learning Steganographic Reasoning Is Hard

说明学习隐写术很容易,学习隐写式推理很难

简介该论文比较了大模型学习三类相关能力的难易程度:隐写式推理(把推理隐藏在看似无害的文本中)、隐写式消息传递(传递隐藏信息)和编码式推理。实验使用强化学习、上下文学习和监督微调三种方式。结果显示,隐写式推理远比另外两者难学,仅在监督微调下多数任务可学会,且需要至少两倍训练量;但在便于隐藏信息的掩护任务上,三种方式都能学会。

Julian Schulz, Lukas F\"ulle, Rieke Fruengel

★★★★☆ 值得关注
arXiv cs.LG · math.OC

Fast Regularized Policy Mirror Descent with One-Step TD Updates

说明基于单步TD更新的快速正则化策略镜像下降

简介本文研究策略镜像下降(PMD)在正则化马尔可夫决策过程中的收敛性,并引入由单步时序差分(TD)更新推进的持续评论家。对于有限折扣MDP,作者证明了精确坐标贝尔曼更新下的全局线性收敛。在单条离策略马尔可夫轨迹下,随机TD-PMD在约 Õ(1/((1-γ)^5 σ̃_b ε)) 次转移后达到 ε 的期望价值差距,且无需轨迹重置、生成模型或嵌套策略评估。

看点将PMD与单步TD持续评论家结合并给出全局线性收敛及无重置的样本复杂度保证,证明较完整,对强化学习理论有实质推进。

Qipei Chen, Wenye Li, Yule Sun 等

★★★★☆ 值得关注
arXiv cs.CV · cs.LG 有代码

Spherical Interpolation for Backward-Compatible Multimodal Representations

说明用于向后兼容多模态表示的球面插值

简介对比式视觉-语言模型将图像和文本映射到共享的归一化嵌入空间。论文指出,模型升级时新旧模型的表示空间通常不兼容,重算整个图库代价高昂;正交对齐只能部分缓解这一问题。作者研究沿两个归一化查询表示之间的球面测地线插值能否在不重建索引的情况下提升检索效果,实验显示该方法优于单独的正交对齐,在多数设置下恢复了向后兼容性。

看点将球面测地线插值用于跨模型向后兼容检索,有新意的组合;多基准、多模型实验并配合几何刻画与局部间隔证明,证据较充分,影响限于检索升级场景。

Simone Ricci, Niccol\`o Biondi, Federico Pernici

arXiv cs.LG

RainAtlas: A Multi-Continental Dataset for Precipitation Downscaling

说明RainAtlas:面向降水降尺度的多大洲数据集

简介该论文发布了RainAtlas,一个覆盖三大洲、可直接用于机器学习的大规模降水降尺度数据集。它将不同来源的逐小时公里级观测统一到2公里网格上,每个区域约含21万对高低分辨率降水数据(低分辨率来自ERA5再分析,高分辨率来自直接观测)。作者用多种指标评估了主流机器学习降尺度模型,发现其跨区域泛化能力随训练区域不同差异明显。

Pierre-Louis Lemaire, Luca Schmidt, Wietze Suijker 等

arXiv cs.CV 有代码

P-SRM: Selective Recovery of Rejected Predictions in Visual Tracking

说明P-SRM:视觉跟踪中被拒预测的选择性恢复

简介许多视觉跟踪方法使用拒绝机制抑制不可靠的预测,但这些机制也会误拒定位正确的候选结果。本文提出P-SRM(拒绝后选择性恢复方法),结合空间响应、历史接受状态和原生决策余量重新评估候选,有选择地恢复可靠预测。在六种跟踪器和四个数据集上的九组配置中,P-SRM均提升了被拒候选的排序质量和整体跟踪性能。

Youbin He, Siwei Wang

arXiv stat.ML · cs.LG

Estimation of the Label-Noise Transition Matrix with Performance Guarantees via Selective Classification

说明基于选择性分类、带性能保证的标签噪声转移矩阵估计

简介该论文针对带噪声标签的数据,提出一种基于单侧选择性分类估计标签噪声转移矩阵的方法。该方法不需要估计类别后验概率,并给出有限样本性能保证,还可借助灵活的二分类学习方法。作者还提出了实现该方法的算法,并给出改进后的有限样本性能界。

Xabier de Juan, Santiago Mazuelas, Yilun Zhu 等

arXiv cs.CL · cs.AI · cs.LG

Synthetic Pre-pretraining Survives Scale, but Not as a Grammatical Prior

说明合成数据预预训练在规模扩大后依然有效,但其收益并非来自语法先验

简介本文研究在自然语言预训练之前,先用合成的非自然语言数据进行预预训练(PPT)的效果。研究覆盖五类PPT任务、四种预训练数据混合、500M至7B的参数规模,以及最多100B个词元的预训练预算。结果显示PPT的下游性能与词元效率收益在大规模下依然存在,但收益并不一致地来自语法先验,而主要来自提升长程检索能力的任务。

Atsuki Yamaguchi, Tatsuro Inaba, Joel Niklaus 等

arXiv cs.AI · cs.LG 有代码

Benchmarking Prompt Optimization of Large Language Models With Chess

说明用国际象棋评测大语言模型的提示词自动优化

简介本文提出一个基于1118道Lichess棋题的国际象棋基准,用于研究在不更新模型权重的前提下自动优化大语言模型提示词的方法。该基准评分确定、可更新题库并可调节难度,并将解题提升与同领域的短棋局对弈相联系。作者用它评估了六种自动提示词优化算法在八个目标模型上的效果,其中最强模型Gemini 3.5 Flash仅解出约55%的题目。

Timoth\'ee Lesort, Alejandra L\'opez de Aberasturi G\'omez, Tristan Karch 等

arXiv cs.RO · cs.AI

Learning from Runtime Feedback through Failure-Bank Self-Evolution for Vision-Language-Action Models

说明通过失败库自进化从运行时反馈中学习的视觉-语言-动作模型

简介本文提出FailBank框架,将机器人操作中运行时安全屏蔽产生的反馈转化为策略的持续改进。它以固定的CBF安全模块作为仅观察的教师,生成反事实修正,再通过结果感知筛选用于LoRA微调。在VLA-Arena基准的两种难度和两种骨干模型上,相比基础策略,任务成功率分别提高8.5和6.9个百分点,策略引起的累计代价分别降低35.6%和23.8%。

Mingyue Cui, Zheyuan Liu, Yihan Zhu 等

arXiv cs.LG

Should I stay or should I show? Learning to selectively disclose information

说明该不该展示?学习有选择地披露信息

简介本文研究在预算约束下,何时向人类决策者展示辅助信息。作者证明最优策略是基于信息价值(VoI)的阈值规则,并用估计的风险给出可行的插件策略。实验与两项用户研究显示,有选择的披露在一些任务中优于完全不披露或全部披露,但效果因任务而异。

Carlotta Giacchetta, Alessando Bogani, Cesare Barbera 等

arXiv cs.LG

Beyond Accuracy: Prefix-Invariant Realizations of Low-Precision Fast Matrix Multiplication

说明超越准确率:低精度快速矩阵乘法的前缀不变实现

简介快速矩阵乘法通过精确抵消减少乘法次数,但混合不同token行的舍入求和可能让后面token的信息影响前面的语言模型输出,破坏依赖的前缀不变性。在Qwen2.5-14B-Instruct上,两种经修复后准确率正常的FP8快速实现,在240个OpenBookQA题目中分别有5.83%和10.00%的似然选择结果改变。作者构造了基于有界整数码的两级Strassen可验证实现,使用49次块乘法(而非64次),并保证与按行局部的经典int8算子逐位相等。

Shuxiao Xie, Shuyang Xie, Yuan Cao 等

arXiv cs.LG

Backward-State Policy Is Part of the Learning Algorithm

说明反向传播所用缓存状态的策略也是学习算法的一部分

简介低精度训练会对反向传播需要再次读取的张量进行舍入,同一张量可能被多个梯度使用。论文认为,选择反向传播读取前向舍入值、原始值还是新随机舍入值,属于学习算法本身而非单纯的内存细节,仅凭复制精度和最终损失无法判断其是否正确。作者据此推导出每次使用必须读取的数值要求,并在单个算子上进行验证,结果显示这些要求能预测反向计算是否发生改变。

Shuxiao Xie, Shuyang Xie, Dezhi Ran 等

arXiv cs.LG · physics.flu-dyn

Do Better Scores Mean Better Physics? Physics-Grounded Explanations for Sim2Real Neural Operators

说明预测分数更高,物理就更准吗?面向 Sim2Real 神经算子的物理解释研究

简介该论文针对 NACA4418 翼型绕流,使用配对的 CFD 仿真与 PIV 实验数据,考察机器学习代理模型误差降低是否等同于流动统计量误差降低。作者通过保持均值的输入干预,移除部分区域的速度脉动,发现移除能量最高的 10% 观测单元会比等面积随机移除更明显地改变预测结果;但两者未匹配脉动能量,因此这只反映敏感性。另有一个 CNO 模型速度场误差更低,但脉动能量误差明显更高。作者由此建议,除总体预测分数外还应报告物理诊断指标。

Somyajit Chakraborty, Xizhong Chen

arXiv cs.LG

A Comprehensive Benchmark of Source-Free Universal Domain Adaptation on Time Series Representations

说明面向时间序列表征的无源通用域自适应综合基准

简介本文为时间序列数据提出了首个无源通用域自适应(SF-UniDA)基准,即在适应阶段不访问源数据、同时处理域间标签集不一致的问题。作者还首次研究了将预训练基础模型用作时间序列域自适应特征提取器的效果。论文指出现有方法的未知样本拒识阈值非常敏感,并提出一个可接入任意 SF-UniDA 方法的即插即用自动阈值模块。在三个常用时间序列数据集上的实验表明该模块有效,同时发现基础模型并不稳定地优于经典骨干网络。

Romain Mussard, Fannia Pacheco, Maxime Berar 等

arXiv cs.CL · cs.AI · cs.LG

Stress-Testing LLM Lie Detectors: Role-Play Failures and Spurious Correlations

说明压力测试LLM测谎探针:角色扮演失效与虚假相关性

简介该论文检验用于判断语言模型输出是否诚实的测谎探针,能否在模型扮演反事实角色(如阴谋论者)时可靠识别谎言。作者构建了8,916条人工审阅的回应数据集,评估八种已有探针,发现许多在此场景下失效。进一步的混淆数据集实验表明,不少探针追踪的是与真实性虚假相关的概念(如指令遵从或回应可能性)。作者因此提出一种简单的线性探针,在两项压力测试中表现最佳,但结论认为现有探针仍不可靠。

Maximilian von Klinski, Sebastian Lapuschkin, Wojciech Samek 等

arXiv cs.LG 有代码

RATIO: Reasoning Analysis and Token-level Inference Optimization for Quantized Reasoning Models

说明RATIO:面向量化推理模型的推理分析与词元级推理优化

简介训练后量化可降低大语言模型的内存与推理成本,但应用于推理模型时会削弱推理表现,并加剧过度思考,使推理链变长。RATIO框架通过比较全精度与量化模型的差异,找出特定模型中的过度思考词元,并为每个词元分配定制的惩罚,无需额外训练。实验显示,相比量化基线,RATIO最多提升9.8个准确率点,并将推理链长度最多缩短51.3%。

Chengzhu Bao, Xianglong Yan, Tianao Zhang 等

arXiv cs.CV

From Image Latent Space to Fuzzy Rules: Interpretable Analysis of Gastrointestinal Foundation Model

说明从图像潜在空间到模糊规则:胃肠道基础模型的可解释分析

简介本文提出一种基于原型的模糊规则框架,用于解释预训练医学基础模型中间层的图像块特征,无需微调。该方法将特征聚类为类别原型,并用可读的IF-THEN语言规则进行分类,在胶囊内镜、胃肠镜图像分类和结肠息肉分割任务上,准确率与黑箱分类器相当。提取的规则还可用于分析合成医学图像与真实组织的差异。

Michael D. Vasilakakis (1), Dimitris K. Iakovidis (1) ((1) Department of Computer Science, Biomedical Informatics 等

arXiv cs.LG

Finite-Horizon Fisher Memory in Two-Sided Power-Bounded Recurrent Systems

说明有限时域双侧功率受限循环系统中的费舍尔记忆

简介本文分析有限时域线性高斯噪声循环记忆中的信息分配、写入与写入后保持。作者证明循环系统的方向性费舍尔记忆矩阵迹等于神经元数,非正规性只能重新分配信息而不能提高其球面平均值,并给出有限时域误差界。文中还报告了在固定循环载体上训练输入掩码与线性读出的实验,结果与理论预测吻合。

Jeonghoon Lee (Attractor Dynamics Inc.)

arXiv cs.LG · cs.AI · stat.ML

Probabilistic Adversarial Training

说明概率对抗训练:通过拉开两个分布来提升鲁棒性的论文

简介该论文从概率视角看待对抗样本:它们源于基于距离的分布与受害分类器诱导分布之间的重叠。作者证明KL散度减去归一化常数的对数是概率鲁棒性(PR)的下界,并以最大化该下界作为可计算的替代目标。论文指出该目标可还原为一种带缩放因子的对抗训练,据称实验中能持续提升PR。

Andi Zhang, Xingyu Zhao, Siddartha Khastgir

arXiv cs.CV · cs.RO

Inline Memory Meets Reusable Skills: Memory-centric Framework for Vision-Language-Action Model

说明内嵌记忆与可复用技能:面向视觉-语言-动作模型的记忆中心框架

简介视觉-语言-动作(VLA)模型可用于通用机器人操作,但为新任务和新领域做适配通常效率低、成本高,还可能遗忘已学任务。本文提出 Optimus-R 框架,把机器人适配表述为显式的查询-技能记忆调节,包含内嵌记忆接口、查询-技能记忆库和轻量级桥接适配机制。实验涵盖领域内适配、跨领域适配和终身学习,结果显示其能以较少数据学习技能,并减轻灾难性遗忘。

Zaijing Li, Rui Shao, Bing Hu 等

arXiv cs.LG · cs.CG · math.DS

TopTimeNet: Topologically-assisted time-series classification model

说明TopTimeNet:借助拓扑特征的时间序列分类模型

简介该论文提出 TopTimeNet,用于区分时间序列是周期性还是混沌动力学。模型先用固定的、非学习的方法,从 Takens 延迟嵌入和持续同调中提取 42 维几何与拓扑特征,再用一个轻量的可学习模块做分类。在 49 个非线性动力系统的基准上,仅 1,638 个可训练参数的配置达到与参数多 33 倍的版本相当的平均准确率,且参数量比 Transformer 少三到四个数量级;但在原始信号中加入噪声并重新计算整个特征提取流程时,其鲁棒性明显下降。

Sharareh Sayyad, Sophia Bazzi

arXiv cs.LG · cs.AI

Pseudo-Label-Triggered Retraining from Forecast Errors for Online Time Series Forecasting

说明基于预测误差与伪标签触发的在线时间序列预测重训练方法(PILOT)

简介这篇论文针对非平稳数据流中的时间序列预测,研究何时重新训练模型。作者提出 PILOT 框架,利用已完成的预测误差,由未来误差上升构造伪标签,训练轻量打分器来决定是否触发重训练,可作为插件用于不同预测模型。原文报告在八个基准、三种骨干模型上,其平均排名表现优于其他重训练策略,并保持较好的性能与效率平衡。

Yeryeong Kwak, Yoo-Min Jung, Jonghun Park

★★★★★ 值得关注
arXiv cs.AI · cs.LG · cs.MA 有代码

Safety of Latent Communication in Multi-Agent Systems

说明多智能体系统中潜在通信的安全性:智能体之间直接在内部表示空间交换信息时的安全风险研究

简介该论文研究多智能体系统中的潜在通信,即通过轻量可训练的链接将发送方表示映射到接收方输入空间,以减少文本通信的开销。研究发现,即使是良性训练的链接,也会使系统比文本通信更容易顺从有害请求,而智能体本身保持不变。作者还提出一种强化学习攻击,并展示了通过调整奖励可以修复被破坏的链接,从而降低有害顺从性。

看点揭示了潜在通信链路即使良性训练也会放大有害服从,并提出强化学习攻击与修复方法,在三种拓扑、四个安全基准上从27.9提升至76.9,证据充分。

Muhammad Huzaifa, Sina Mavali, Thorsten Eisenhofer

arXiv cs.CL

Context Injection and Long-Horizon Reliability: Separating Duplicate Recognition, Local Processing, and Counter Tracking

说明上下文注入与长期可靠性:区分重复识别、局部处理与计数追踪

简介该论文针对语言模型在长步骤任务中的可靠性,对400步账本任务的三个组成部分逐步评分:识别5至300步前已见记录、局部处理当前记录、以及逐步递增计数器。实验在Qwen3-8B上进行,显示重复识别错误随步数增加而上升,计数器在8000步中未出错,而插入无关内容会使计数器在多数种子中失败。作者还通过外部提醒实验探讨计数器的修正方式。

Thomas Serval

arXiv cs.CL

Explore-over-Graph: Hybrid Embedding-LLM Reasoning for Knowledge Graph Question Answering under Incompleteness

说明Explore-over-Graph:在知识图谱不完整时结合嵌入与大模型的多跳问答方法

简介该论文提出XoG框架,用于不完整知识图谱上的多跳问答。当事实缺失导致推理路径断裂时,它不依赖大模型自身知识,而是利用图结构中学到的关系统计与知识图谱嵌入来恢复缺失路径,大模型只负责语义选择与推理。实验在WebQSP、CWQ和BRINK三个基准上进行,结果显示在知识图谱不完整时该方法优于同类未经任务专门训练的方法,并可减少最多33%的大模型token消耗。

Ola El Khatib, Djellel Difallah

★★★★★ 值得关注
arXiv cs.CV

Seeing as Humans Do: Learning from Motion to Segment Anything Without Supervision

说明像人类一样看:从运动中无监督学习分割任何物体

简介该论文提出 MoSA,一个无需人工标注、从无标签视频中学习物体先验的分割框架。它先从视频生成多粒度运动伪标签,再通过对比学习训练感知分组模型,最后迁移到提示引导的分割架构。在七个零样本基准上,MoSA 明显优于现有无监督方法,并达到与全监督 SAM 相当的分割性能。

看点从无标注视频运动中学习可迁移的物体先验并实现分割任意物体,思路新颖;在七个基准上零样本评估,与全监督SAM性能相当,影响较大。

Weijian Jian, Xiaoyue Zhang, Bin Xiao 等

arXiv cs.LG

CORD: Learning Reusable Degradation Representations Across Heterogeneous Physical Systems

说明CORD:学习跨异构物理系统可复用的退化表示

简介本文提出CORD方法,用于跨不同类型物理系统的退化建模。它结合了面向各类型的观测接口与共享的退化主干网络,并通过两个自监督目标分别学习观测内部结构和观测历史间的潜在退化演化。实验覆盖轴承、电池和切削刀具,并测试了对未在预训练中出现的涡扇发动机类型的迁移,结果显示多领域联合预训练得到的表示可在设备、数据集和系统类型之间复用。

Haibo Li, Zhiguo Zeng

★★★★☆ 值得关注
arXiv cs.LG 有代码

EchoPress: Query-Agnostic KV Cache Pruning via Virtual Context Reconstruction

说明EchoPress:基于虚拟上下文重建的与查询无关的 KV 缓存剪枝方法

简介该论文提出 EchoPress,一种免训练的 KV 缓存剪枝方法,用于降低长上下文推理的内存占用。它利用标准预填充阶段已计算的查询和键来近似 KVzip 的上下文重建注意力,只重建第一个分块来校准其余上下文的重要性分数。在 LongBench 和 RULER 上,以 Qwen3-8B 与 Llama-3.1-8B-Instruct 测试,EchoPress 在 50% 到 90% 的淘汰比例下与 KVzip 任务准确率相当,同时压缩开销降低 1.7 至 19.6 倍,总预填充时间最多降低 2.9 倍。

看点在KVzip重构打分基础上,用prefill已有的查询与键近似重构注意力,免训练且仅重构首块校准,属于有实质改进的组合;在LongBench与RULER上与KVzip精度相当、开销降低1.7-19.6倍,证据较扎实,对长上下文推理有一定影响。

Jiawei Lin, Saibo Geng, Thomas Bourgeat

arXiv cs.LG · stat.ML

VANDAM: Viewing a nucleotide sequence with DNA molecular priors

说明VANDAM:用DNA分子先验知识审视核苷酸序列

简介当前基因组基础模型多把DNA视为字符串并用掩码预测训练,未显式建模生化与结构性质。VANDAM在训练中引入可由序列估算的DNA分子先验:自监督阶段从池化表征预测区域分子性质,有功能标签时还在输入端注入局部特征。在四类架构和九个保留的基因组任务上,它补充了基于token的目标并提升下游表现,探测实验显示该先验还能推广到未见过的其他分子性质。

Jeremy Levy, Ariel Larey, Yury Nahshan 等

arXiv cs.LG

GraphMAS: A Systematic Benchmark of Multi-Agent Coordination for Graph Learning

说明GraphMAS:面向图学习的多智能体协作系统化基准测试

简介本文提出 GraphMAS,一个用于评估图学习中多智能体协作的系统化基准。它构建了共享的图推理专家池,并从智能体间交互和运行时自适应两个维度组织协作方式,形成四种范式和七种代表性方法。在七个带文本属性的图、三个领域和两项图学习任务上的统一评估显示,协作专家优于单个专家和单智能体推理,但更丰富的交互并不稳定地带来提升,而实例自适应的专家选择取得了最佳的准确率与效率平衡。

Jiayi Yang, Yifang Chen, Yuanfu Sun 等

arXiv cs.LG · physics.comp-ph

Riemannian Flow Models with Reinforcement Learning for Molecular Crystal Structure Prediction

说明用强化学习微调的黎曼流模型:分子晶体结构预测

简介本文提出 CG-OMatG,一种等变黎曼流生成模型,用于预测分子晶体结构。模型把分子视为刚体,学习分子质心位置、取向和晶格参数,并在 OMC25 与 CSD 数据子集上训练。随后通过策略梯度强化学习微调,引导生成低能量候选结构,并在 CSP 盲测基准上用 COMPACK 评估与实验晶体的一致性。

Thomas Egg, Harry Winston Sullivan, Maya M. Martirossyan 等

arXiv cs.LG · cs.AI

How Does Local Landscape Geometry Evolve in Language Model Pre-Training?

说明语言模型预训练中局部损失曲面几何如何演变

简介本文从局部损失曲面几何的角度分析语言模型预训练的动态,发现两个阶段。第一阶段,较大学习率下损失曲面由尖锐转为平缓,这解释了学习率预热的必要性,并提示更大的峰值学习率需要更长的预热期。第二阶段,局部曲面由梯度噪声尺度决定,作者提出深度与平坦度的权衡,并据此设计动态批大小调度策略:先小后大。

Zhanpeng Zhou, Yuhan Sun, Bingrui Li 等

arXiv cs.CL

MemCodex: Self-Programming Hierarchical Memory for Language Agents

说明MemCodex:面向语言智能体的自编程分层记忆系统

简介论文提出 MemCodex,一种可自我演化的分层记忆系统,把经验组织为可执行的记忆程序,涵盖摘要、关系知识、可复用技能和潜在记忆。系统能重写各层的构建、索引、检索与路由方式,并在查询时由粗到细遍历层级,证据充分即停止。作者还开发了统一运行时 MemArena。据文中结果,相比最强的自适应记忆基线,平均任务成功率提升 10.1%,上下文 token 减少 3.4 倍,推理速度快 2.1 倍。

Xiaoqiang Wang, Bang Liu

arXiv cs.RO · cs.AI

DiffWAM: A Fast and Efficient Navigation World Action Model

说明DiffWAM:一种快速高效的导航世界-动作模型

简介该论文提出 DiffWAM,一种以几何为条件的导航世界-动作模型,可直接把冻结视频模型的多层预测特征转换为连续的相机轨迹,用于无人机运动,无需生成未来视频再做几何重建。论文还提出 FastDreamer,通过异步计算与时间戳感知的轨迹交接支持连续飞行。在 1,000 个样本的基准上,轨迹 RMSE 为 0.3492 米,终点成功率为 74.40%,机载实现的模型流程延迟为 1.08 秒。

Mo Zhu, Yuze Wu, Xijie Huang 等

★★★★☆ 值得关注
arXiv cs.LG · cs.CV 有代码

Revisiting On-policy Adversarial Black-Box Distillation: Calibrating Groupwise Reward Geometry for Effective Advantage Construction

说明重新审视在策略对抗式黑盒蒸馏:校准组内奖励几何以构建有效优势

简介该论文针对只能通过文本输出访问的大语言模型,研究如何把其能力蒸馏到小模型中。作者指出,现有在策略对抗方法(GAD)中,判别器的训练目标与GRPO所用的组内相对奖励之间存在失配,可能导致奖励分布塌缩或间隔脆弱。为此,论文提出分组奖励几何调节框架(GRGC),通过高斯分组最优传输校准和策略侧的组幂调制来改进优势构建。实验表明,该方法在多种教师、学生模型和数据集上均有效,且相比GAD几乎没有额外开销。

看点在GAD基础上提出分组奖励几何校准与优势构造改进,实验覆盖多教师、多学生模型与数据集,在分布内外均有效,影响面限于黑盒蒸馏子领域。

Xiao Cui, Mo Zhu, Yulei Qin 等

arXiv cs.CV

Determining Vertical Displacement of Agricultural Areas Using UAV-Photogrammetry and a Heteroscedastic Deep Learning Model

说明利用无人机摄影测量与异方差深度学习模型测定农田垂直位移

简介本文提出一种基于U-Net架构的算法,用于从无人机摄影测量点云中确定地表垂直位移,替代传统的地面滤波方法。该方法采用异方差回归,同时预测高程修正量的条件期望值并估计其方差的对数,从而直接量化每个修正值的不确定性。在四个数据集上与多种基于地面滤波的算法比较,基于U-Net的方法总体上略有优势;例如某测试数据集中其沉降均方根误差为6.1厘米,而次优模型SMRF为7.7厘米。

Wojciech Gruszczy\'nski, Edyta Puniach, Pawe{\l} \'Cwi\k{a}ka{\l}a 等

arXiv cs.LG

Validity-Preserving Hierarchical RL for Joint Routing and Switch Placement in EDA

说明面向EDA中路由与交换机放置联合优化的保持有效性分层强化学习

简介该论文针对芯片设计中路由与交换机放置的联合优化问题,提出一种分层强化学习框架,在逻辑通信路由层面逐步构建解。方法通过交换机扩展、交换机放置和路由细化三种耦合操作,从最小路由图出发,使每一对通信的发起方与目标方都保持一条无环路由,从而保证方案始终有效。作者使用Gumbel蒙特卡洛树搜索探索解空间,结果显示神经网络引导的搜索比非学习优化方法明显提升了解的质量;跨平面布局预训练还能为未见实例的微调提供较好的初始化。

Dorian Gailhard, Ugo Lecerf, Enzo Tartaglione 等

arXiv cs.CV

FAST: Flow Any Scene Transformer

说明FAST:面向任意场景的光流/对应匹配Transformer(一种可扩展的图像对应匹配模型)

简介该论文提出FAST模型,用于在不同视角的图像之间建立像素级对应关系并估计二维位移。作者发现单视图视觉基础模型中的查询-键投影可复用于跨视图匹配,并通过零参数改写把部分自注意力层转为交叉注意力。此外,作者构建了包含600万图像对的训练集。论文称FAST在多项基准上达到最先进性能,且随骨干网络规模和训练数据增加而持续提升。

Yongjian Zhang, Longguang Wang, Zhuo Song 等

arXiv cs.LG

The Nixtlaverse: An Open-Source Ecosystem for Forecasting

说明Nixtlaverse:面向时间序列预测的开源工具生态

简介本文介绍 Nixtlaverse,一组用于时间序列预测的开源 Python 库。各库共享相同的长格式面板数据和带键的预测输出格式,但保留各自模型类别的专门实现,而非统一为单一接口。作者以公开的 M5 竞赛数据展示三个用例:统一评估、运行时间与内存分析,以及 42,840 个层级序列的预测调和。

Olivier Sprangers, Max Mergenthaler Canseco, Marco Peixeiro 等

arXiv cs.CL

LatentHarness: Learning Latent Actions for Memory and Reasoning via Counterfactual Policy Distillation

说明LatentHarness:通过反事实策略蒸馏学习用于记忆与推理的潜在动作

简介该论文针对长上下文推理中的两个瓶颈:跨长输入保留证据,以及在多个推理步骤中持续计算。LatentHarness 将记忆访问与潜在推理统一为对潜在动作的序列选择,模型在每个内部步骤可选择思考(THINK)、从快速权重记忆中回忆(RECALL)或输出下一个词元(EXIT)。论文报告,在六个通用及长上下文推理基准上,1.4B 规模的模型相对最强基线分别提升 2.8% 和 10.0%,并比最强的长上下文基线快 5.9 倍。

Xiaoqiang Wang, Suyuchen Wang, Bang Liu

arXiv cs.LG

Stable Transformers for Graph Generation

说明用于图生成的稳定 Transformer:通过控制去噪器动力学来支持更深的图生成模型

简介该论文指出,图生成模型中的图 Transformer 随深度增加会因反复自注意力而收缩节点表示,导致梯度消失和表示塌缩。作者从动力学系统角度分析这一现象,并构建了一种非耗散、置换等变的稳定图 Transformer,同时引入阻尼机制以在非耗散与收缩状态之间插值。在合成图和分子图生成基准上的实验显示,耗散越强,生成性能随深度下降越明显,因此去噪器的动力学状态是深层图生成模型的关键设计因素。

Luca Miglior, Alessio Gravina, Davide Bacciu

arXiv cs.LG

CNCGEN: A Dataset and Framework for Machining Process Planning and Toolpath Generation from B-rep Models

说明CNCGEN:从B-rep模型生成加工工艺规划与刀具路径的数据集与框架

简介论文提出CNCGEN,一个面向三轴加工的数据集和学习框架,用于从B-rep CAD模型生成加工工序与刀具路径。数据集包含约5万个经几何验证的合成加工流程,以及800条保留的真实数控记录。框架逐步为选定对象生成工序和刀具路径,并更新紧凑的加工状态;训练时由学习到的代理验证器提供材料去除反馈。实验显示,与改编的数控生成基线相比,CNCGEN使工件几何结果更好,残留材料与过切更少。

Xiaolei Zhou, Boyi Lin, Yuchao Feng 等

arXiv cs.LG · physics.ao-ph · physics.geo-ph

A library for differentiable signal processing and machine learning on the sphere

说明用于球面数据的可微信号处理与机器学习库

简介本文介绍 torch-harmonics 库,提供球面数据上可微分的高效实现。内容包括球谐变换(球面上的傅里叶变换类比)、向量球谐函数、离散-连续与谱卷积,以及全局和邻域球面注意力机制。该库还可作为球面 Transformer 等架构的基础模块,用于地球物理、大气科学等领域的可扩展机器学习。

Thorsten Kurth, Max Rietmann, Mauro Bisson 等

arXiv cs.AI · cs.CL · cs.MA

OverForge: Reasoning Through Strategies and Tactics Helps Cooperative Lifelong Adaptation

说明OverForge:通过策略与战术推理实现协作式终身适应

简介论文提出 OverForge,一种无需训练的分层架构,将长期协作策略(角色与分工)与每个智能体内部的具体行动推理分开。上层通过元认知模块组合策略与行动分支并借助前向模型预测后果。在 OvercookedV2 环境中,它在连通厨房里做出 7 份汤,而各个扁平化的大语言模型基线均为 3 份,并能保持已达成的角色分工、采纳陌生伙伴提出的角色。

Oana Madalina Fron, Ojas Shirekar, Chirag Raman

arXiv cs.CV · cs.AI

Let the Carrier Carry the Attack: Preserving the Subject in Adversarial Image Generation

说明让载体承载攻击:在对抗图像生成中保留主体

简介本文提出“载体”概念,即在图像中加入一个次要视觉元素,为对抗攻击提供辅助区域,以在全局分类器引导下实施攻击。研究发现,载体能吸收较多的攻击更新,从而减少主体失真;同时能提升跨模型迁移性。在成功的定向攻击中,人类仍将个性化主体视为主要内容,而分类器已被误导。

Linfeng Jiang, Steven McDonagh, Yuhang Chen 等

arXiv q-bio.QM · cs.AI · cs.CL

TIAgent: From Natural Language to Grounded Agentic Workflows for Computational Pathology

说明TIAgent:从自然语言生成可验证的计算病理工作流

简介本文提出组织图像分析智能体TIAgent,可根据自然语言描述的分析任务和输入数据,自动构建由现有计算病理操作组成的可验证计算图,便于检查与执行。作者用14个大语言模型在90个单元任务上进行了基准测试,其中Kimi-K2.7-Code的单元工作流成功率最高,为0.967。

Aakash Madhav Rao, Mark Eastwood, Danielle Belgrave 等

arXiv cs.AI · cs.CY · cs.SE

Trust Is Not a Score: Runtime Assurance Contracts for High-Risk AI Agents

说明信任不是一个分数:高风险AI智能体的运行时保障契约

简介本文提出运行时保障契约(RAC),用形式化方式约束智能体在关键任务中的自主边界,并规定证据如何影响其权限。强制性安全门失败或状态未知时,必须重试、切换、升级、推迟或停止,综合性能分数不能授权行动。作者在合成的代理式编程故障注入实验中比较了RAC与仅看分数的规则,结论仅限于合成案例的机制层面,并不证明已部署的安全性或跨领域有效性。

Serhii Zabolotnii

arXiv cs.AI

ArchitectureIQ: On the Measure of Training Intuition

说明ArchitectureIQ:衡量训练直觉的基准测试

简介本文提出 ArchitectureIQ 基准,用于比较大语言模型与人类研究者对模型训练的直觉。每道题给出一个合成数据集和若干训练方案,测试者需预测哪个方案测试指标最好。结果显示,大模型的直觉良好但有局限:准确率不完美,思维链计算增加也未带来明显提升,且可被压缩为小型知识库,同时对数据特性不够敏感。

Zirui Ren, Shaoyang Guo, Chencheng Tang 等

arXiv cs.CL · cs.CV

MeddeX: A Retrieval-Augmented LLaMA-3 System with Gemini Vision for Evidence-Backed Medical Report Analysis

说明MeddeX:结合检索增强与Gemini视觉的LLaMA-3医疗报告分析系统

简介本文提出MeddeX,一个医疗报告分析系统,用于为文字型、扫描型PDF及放射影像生成简明且有依据的摘要。系统结合经QLoRA微调的LLaMA-3(8B)模型、检索增强生成(RAG)和Gemini视觉模块,并加入垃圾文本检测、纵向报告比较等功能。与基础LLaMA3-Med42-8B模型相比,其在多项指标上均有提升,其中BLEU提高71.4%,ROUGE-L提高11.8%。

Rajdeep Pandhare, Rohit Kundaikar, Yakub Kojar 等

arXiv cs.CL · cs.DL

Drift Inspector: Exploring and Measuring Scientific Drift with Atomic Contribution Claims

说明Drift Inspector:用原子贡献主张衡量科学研究漂移

简介该论文提出开源系统 Drift Inspector,先由大模型从每篇摘要中抽取去语境化的原子贡献主张,再跨年份聚类并生成可交互的趋势图。应用于 EMNLP 六年数据时,显示该领域从经典 NLP 任务转向推理、多模态等大模型时代的能力。该流程也已处理完整 ACL Anthology 语料,抽取结果经人工验证。

Vsevolod Karimov, Stepan Ostarkov, Anastasia Poroshina 等

arXiv cs.CV

BTC3D: Blended Tile Conditioning for Detail-Enhancing Image-to-3D Generation

说明BTC3D:用于增强细节的图像到三维生成的混合分块条件方法

简介该论文针对图像到三维扩散生成中细节丢失的问题,提出一种无需训练、仅在推理阶段运行的框架 BTC3D。其方法将输入图像切分为局部区域块,提取局部条件信号,并在扩散后期逐步增加分块条件的影响。实验表明,该方法能在保持整体结构一致的同时,提升纹理质量和视觉保真度。

Junyu Li, Qiuyu Chen, Pengcheng Wang 等

arXiv cs.CL

UniBuc at SemEval-2024 Task 2: Tailored Prompting with Solar for Clinical NLI

说明UniBuc 团队在 SemEval-2024 任务 2 中的临床自然语言推理方法

简介该论文介绍 UniBuc 团队参加 SemEval 2024 任务 2(面向临床试验的安全生物医学自然语言推理)的方法。团队使用 SOLAR Instruct 模型,未做任何微调,主要通过输入处理和定制提示词,在零样本和少样本设置下为临床试验报告各部分分别设计提示。该方法取得 0.72 的一致性得分,在排行榜上排名第 14。作者的错误分析发现,模型倾向于走捷径、依赖简单启发式规则,在语义保持的改写情况下尤其明显。

Marius Micluta-Campeanu, Claudiu Creanga, Ana-Maria Bucur 等

arXiv cs.CV · cs.AI

When Masking Helps or Hurts Robustness in Compressed CLIP: A Pre-Deployment Diagnostic

说明语义掩码何时提升或损害压缩 CLIP 的稳健性:部署前诊断

简介本文提出一种无需标签或微调、可在部署前预测掩码式令牌剪枝是否会影响最差群体稳健性的诊断指标(SIM)。在8个伪相关基准上的研究发现,该方法效果极不稳定,部分数据集提升高达82.5%,另一些则下降高达100%。作者将其归因于背景区块的文本相似度高于真实物体,并通过门控SIM符号的部署策略,在8个数据集中的7个上达到或超过较强的剪枝基线。

Muhammad Zawish, Steven Davy

arXiv cs.AI · cs.CL · cs.LG

A helps B while B hurts A: directed transfer in instruction-tuning mixture

说明A 帮助 B,B 却损害 A:指令微调混合中的有向迁移

简介本文研究在固定预算下为语言模型选择指令微调任务时,任务之间的迁移是有方向性的:任务 A 可能帮助 B,而 B 反而损害 A。作者提出“迁移图”,估计每个源任务对每个留出目标任务的正负影响,并在 0.6B 至 32B 参数的 Qwen3 与 Mistral 模型上进行数百次微调实验验证。结果显示,选出的混合任务在推理类目标上的准确率最多提升 14 个百分点。

Nima H. Siboni, Vahid Rostami

arXiv cs.AI · cs.CY · cs.LG

Values as Style: Disentangling Values from Semantics with One-Way Mixing for Low-Damage LLM Steering

说明价值即风格:通过单向混合将价值与语义解耦,实现低损伤的大语言模型引导

简介本文提出一种在冻结残差状态上可编辑的语义-价值接口,通过单向的语义到价值通路实现价值引导,同时尽量保持原场景、事实和任务约束不变。在两个指令微调骨干模型上,该方法在价值对齐相当的情况下提高了语义保持度并减少了良性拒答。与基于验证集选择的提示方法相比,在LLaMA-3.1-8B上对齐度相近(0.750对0.748),BERTScore更高(0.938对0.923),矛盾率更低(5.1%对7.6%)。

Jiale Dai, Hongcan Deng, Liuxian Ma 等

arXiv cs.CL

LLM-as-a-Judge for Low-Resource Languages: Adapting Ragas and Comparative Ranking for Romanian

说明面向低资源语言的 LLM 评判:针对罗马尼亚语改造 Ragas 与比较排序

简介本文探讨用大语言模型充当评判者来评估罗马尼亚语检索增强生成(RAG)系统的可行性,方法是采用 Gemini 2.5 和 Gemini 3 对 Ragas 框架进行适配。作者构建了由母语者标注的罗马尼亚行政文件数据集 AdminRo-Eval 作为基准,并比较了直接打分、比较排序和细粒度分解三种评估方法。结果显示,最佳评估策略因指标而异:细粒度分解在忠实性上与人工判断一致性最高(Gemini 2.5 Pro 为 96%),比较排序在答案相关性上表现更好(90%)。

Claudiu Creanga, Liviu P. Dinu

arXiv cs.LG · cs.AI

GFD-OPD: Guidance-Folded On-Policy Distillation of Diffusion Models Across Scales

说明GFD-OPD:跨规模扩散模型的引导折叠式在线策略蒸馏

简介本文研究将大型扩散模型教师蒸馏到小型学生模型的在线策略蒸馏(OPD)问题。作者发现标准做法在此场景下失效,并提出Fixed-State KL来公平衡量训练中学生与教师的分布差距。论文指出,小模型难以匹配大模型分布,且无分类器引导(CFG)会放大两者条件与非条件分支的差异。为此提出GFD-OPD方法,在减小差距的同时避免CFG组合带来的误差放大,并称其在所有基准上取得了最优结果。

Zhenxing Zhang, Jiayan Teng, Wenxu Wu 等

arXiv cs.CV · cs.AI · cs.CL

ShieldCLIP: Selective Safety Alignment for Harmful Content Mitigation in Multimodal Foundation Models

说明ShieldCLIP:面向多模态基础模型有害内容抑制的选择性安全对齐

简介论文提出ShieldCLIP框架,依据每个模态各自的安全状态而非样本来源进行安全对齐,在抑制有害内容的同时保留安全内容。作者还构建了ViSUv2数据集,含195k组四元样本,并为每个模态提供独立安全标签。实验涵盖跨模态检索、文生图和图生文等任务,结果显示该方法比既有方法更有效地减少有害输出,并保持原始嵌入空间的可用性。

Tobia Poppi, Silvia Cappelletti, Samuele Poppi 等

arXiv cs.CL · cs.LG

Better Supervision Is Nearby: Neighborhood On-Policy Self-Distillation

说明更优的监督信号就在附近:邻域式同策略自蒸馏(N-OPSD)

简介该论文针对数学推理模型的同策略自蒸馏(OPSD)训练方法,提出邻域同策略自蒸馏(N-OPSD)。作者发现,对参数做局部微扰的专家模型能在相同参考上下文中提供互补的修正信号,覆盖的参考位置多于未扰动的特权教师。方法通过离线贪心选择构建冻结专家池,并在线路由选择专家,使学生模型在AIME 2024、AIME 2025和HMMT February 2025上的三基准Average@12指标相比OPSD有所提升。

Xincheng Wei, Yifan Ding, Yoshua Li 等

arXiv cs.LG · stat.ML

RACE: Residual-Aware Test-Time Adaptation for Neighbor-Rich Time-Series Foundation Model Forecasting

说明RACE:面向邻近序列丰富场景的残差感知测试时适应方法(时间序列基础模型预测)

简介本文针对时间序列基础模型在邻近历史序列丰富的预测任务中的不足,提出RACE框架。该框架先检索与查询相容的邻近序列并对齐残差,汇总一致证据形成无需训练的RACE-TF修正;完整RACE再用轻量的领域专用门控判断何时应用修正,并可跨骨干模型复用。论文称,在四个时间序列基础模型上,RACE在两个主要领域的三项汇总指标上均有改进,高误差查询上增益最大。

Hao-Nan Shi, Tong Wu, Chen-Cong Sun 等

★★★★☆ 值得关注
arXiv cs.RO · cs.AI

RoboCoach: World Models as Active Coaches for Compositional Robot Skills

说明RoboCoach:把世界模型当作主动教练,改进可组合的机器人技能

简介该论文提出RoboCoach框架,利用世界模型在想象中发现的失败案例,决定机器人应补充哪些子任务示范以及更新哪些技能模块。在仿真与真实机器人上,少量额外示范即可显著提升任务成功率,并能迁移到未见过的任务组合。

看点用世界模型想象失败来指导示教请求与专家更新,形成闭环式的模块化策略改进,新意明显;在两个仿真套件与两个真机平台上验证,并与匹配基线比较。

Jiajun Liu, Yifan Chen, Yichao Liu 等

arXiv cs.CV · cs.LG

Unapologetically Distributed: A Call for Decentralized Document Analysis

说明《毫无歉意的分布式》:呼吁采用去中心化文档分析

简介本文提出“Unapologetically Distributed”,是首个从任务、模型架构和微调策略三个维度系统评估分布式学习在文档分析中表现的综合研究。作者指出,联邦学习常被视为以性能换取隐私的“必要之恶”,但其在提升分布外数据鲁棒性方面的潜力常被忽视。论文认为,在表格识别、手写识别和词语检索等任务的迁移学习阶段,各类分布式训练方法可增强泛化能力,去中心化应被视为提升真实场景模型鲁棒性和适应性的机会。

Adri\`a Molina, Oriol Ramos Terrades, Josep Llad\'os

arXiv cs.CV 有代码

MC-PanDA++: Simpler, Stronger, and More Robust Domain-Adaptive Panoptic Segmentation

说明MC-PanDA++:更简单、更强、更稳健的域自适应全景分割

简介该论文面向全景分割的无监督域自适应任务,即利用带标注的源域(如合成数据)和无标注的目标域来减少标注成本。作者提出MC-PanDA++,通过引入自监督视觉编码器作为更强的初始化、按类别自适应的掩码级损失缩放,以及单阶段训练流程,改进了原有的MC-PanDA方法。论文称该方法概念上更简单、性能更好且更稳健。

Ivan Martinovi\'c, Josip \v{S}ari\'c, Yuki M. Asano 等

arXiv cs.SD · cs.LG

SE-ADD: Self-Evolving Audio Deepfake Detection with Mistake-Driven Supervision

说明SE-ADD:基于错误驱动监督的自进化音频深伪检测

简介该论文针对音频深伪检测在部署后出现新攻击时的适应问题,提出自进化框架SE-ADD。模型依据自身判断和自生成的取证线索,通过低秩适配(LoRA)迭代更新,并对误判样本施加额外监督。在两个音频语言模型上的实验显示,该方法对未见攻击有更好的泛化能力,等错误率(EER)分别从36.72%降至7.52%(Qwen2-Audio),从19.93%降至3.97%(MOSS-Audio)。

Rong Wan, Wei Xie, Jiaxi Li 等

arXiv cs.LG

The Conflict Between Logic and Memory: Training Conditions for Optimizer-Dependent Rule Acquisition

说明逻辑与记忆的冲突:依赖优化器的规则习得训练条件

简介本文研究单隐藏层ReLU网络中,不同优化器在拟合同一任务时为何习得不同泛化关系。作者结合复合证据任务、参数级干预和严格对等扫描发现,与干扰项相连的可训练性会同时影响共同失败与优化器之间的相对优势。固定干扰项相关的第一层权重可显著提升困难阶段的准确率,而训练后再遮蔽输入则无此效果。

Gongyue Zhang, Honghai Liu

arXiv cs.LG 有代码

NodeGround: A Node Classification Benchmark in the Graph Foundation Model Era

说明NodeGround:图基础模型时代的节点分类基准

简介本文提出 NodeGround,一个在统一框架下比较图基础模型(GFM)与针对每个数据集单独训练的监督学习方法的节点分类基准,涵盖 51 个数据集,评估 6 个 GFM 和 15 种监督方法。研究同时考察预测质量与适配、训练、调参、推理等工作流程的计算成本。结论显示,经过精心调参的图神经网络总体表现更好;在效率方面,预训练复用的优势受调参预算影响,尚不能普遍可靠地带来更强预测或更低成本。

Jinmo Lee, Dooho Lee, Minho Jeong 等

arXiv cs.AI

ChronoGraph: Functional 4D Scene Graphs with Vision-Language Models for Interaction Understanding and Grounded Planning

说明ChronoGraph:面向交互理解与基于定位规划的功能性4D场景图与视觉-语言模型

简介论文提出ChronoGraph,一种功能性4D场景图,把作用于功能部件上的动作与语义及几何状态变化联系起来,用同一种形式表示已观察和预测的状态转移,以支持理解与规划。作者构建了ChronoGraphBench数据集,并通过两阶段训练(图式思维链监督微调与4D图强化学习)得到ChronoGraphVLM,实验显示其优于对应的预训练基线,并能零样本迁移到VLM4D。真实机器人演示表明,基于图的规划与功能定位可在不额外微调的情况下支持移动操作。

Chenyangguang Zhang, Malgorzata Gwiazda, Guanlong Jiao 等

arXiv cs.CV

Typographic Attack Against VLM-based AI-generated Image Detection

说明针对基于视觉语言模型的AI生成图像检测的排版攻击研究

简介该论文研究视觉语言模型(VLM)在判断图像是否由AI生成时,可能被图中文字误导。作者系统评估了多种排版攻击策略,涵盖检测专用、开源和商业模型,并分析了推理模式与直接模式的差异、攻击方向的不对称性以及模型规模的影响。研究还考察了攻击在图像和文本变换下的稳健性,揭示了当前基于VLM的AIGI检测系统的局限。

Eunmin Lee, Jungwoo Kim, Jong-Seok Lee

arXiv cs.CL

The Evolution of Attention in Large Language Models: Mechanisms, Trade-offs, and Emerging Trends

说明大语言模型注意力机制的演进:机制、权衡与新趋势

简介这篇综述梳理了大语言模型中注意力机制的发展,把上下文信息视为模型内部的记忆,并提出从记忆表示、更新、访问、读出和整合五个维度进行比较。作者基于14个主要模型系列和11个开放权重模型的59条发布记录,指出显式记忆与循环状态方法的功能趋于重叠,异构架构也开始跨网络层协同管理记忆。文章认为,高效序列架构设计的重点正转向上下文记忆的组织、生命周期与选择性使用。

Zhentao Tan, Jingyi Shen, Yanbo Li 等

arXiv cs.CV · stat.ML

BAM! Bayesian Anything Model: a foundation model for generative computational imaging

说明BAM!贝叶斯万能模型:面向生成式计算成像的基础模型

简介论文提出 BAM(Bayesian Anything Model),一个约 3600 万参数的轻量基础模型,用于物理感知的少步后验采样。它在 RAM 骨干上改为条件流映射,使仪器物理特性可在推理时指定,并在大规模图像与前向算子库上联合预训练。论文报告,在 FFHQ、AFHQ、LSUN、DIV2K 和 Kohler 抖动基准的线性逆问题上,BAM 仅用 3 步即在样本质量上优于专用模型和主流零样本方法,且计算成本更低。

Alessio Spagnoletti, Charlesquin Kemajou Mbakam, Jonathan Spence 等

arXiv cs.LG

Graph Residual Conjugate Diffusion: SNR-Equalized Heat Flow for Graph Signals

说明图残差共轭扩散(GRCD):面向图信号的信噪比均衡热流扩散模型

简介该论文提出图残差共轭扩散方法GRCD,为图上的每个频率模式设置独立时钟,使各模式具有相同的条件信噪比,并在有限终止信噪比处拟合高斯参考分布。在交通、天气等五组数据上,与七种对比方法相比,4次函数评估下平均最大均值差异降低22至36倍,在METR-LA上达到0.054。

Jinwei Li, Daniel Tenbrinck

arXiv cs.CV 有代码

Diffusable Latents from Structure-Agnostic Distillation

说明基于结构无关蒸馏的可扩散潜变量

简介该论文研究将预训练基础模型蒸馏到自编码器瓶颈中,以提高潜变量的可扩散性,使扩散模型收敛更快、样本质量更高。作者发现,把整张图像的单个池化描述符对齐到教师模型,效果与逐位置的稠密蒸馏相当或略好,无需约束潜变量布局。论文还比较了一阶与关系型池化目标,并表明该方法可扩展到一维token序列潜变量和跨模态(如文本编码器蒸馏到图像自编码器)场景。

Adrien Ramanana Rahary, Nicolas Dufour, Patrick P\'erez 等

arXiv cs.CV

FANVIDv2: Evaluating Video Super-Resolution by Face and Licence-Plate Recognition Under Compound Degradation

说明FANVIDv2:在复合退化下以人脸和车牌识别评估视频超分辨率

简介该论文提出FANVIDv2基准,用于评估视频超分辨率(VSR)。与传统仅用PSNR、SSIM衡量的方式不同,它以识别流程能否从输出中识别人脸和车牌来评分。低分辨率视频由模糊、尺寸抖动、传感器噪声、JPEG压缩和最终降采样组成的随机复合退化生成。在一个230万参数的基线模型上,人脸识别与车牌识别分数均有提升。

Kavitha Viswanathan, Vrinda Goel, Shlesh Gholap 等

arXiv cs.LG · cs.AI · cs.CV

From Modes to Memories: Characterizing the Scale-Space Dynamics of Diffusion Models

说明从模式到记忆:刻画扩散模型的尺度空间动力学

简介该论文把扩散模型视为按噪声尺度索引的一族确定性动力系统,在每个固定尺度上研究去噪器的不动点与吸引子。作者提出临界尺度 σc,用来衡量样本在多大平滑程度下仍能被保留,并借此刻画重复、过拟合与异常样本造成的记忆现象。实验显示 σc 能追踪记忆并识别 Stable Diffusion 中完全或部分记忆的样本。

Cristina L\'opez Amado, Marco Fumero, Francesco Locatello

arXiv cs.LG

Beyond Uniform Compression: Budgeted Transmission Allocation for Extreme Federated Learning

说明超越均匀压缩:面向极端联邦学习的预算化传输分配

简介联邦学习中,客户端上传的高维模型更新会造成严重的通信瓶颈。论文提出LBAT方法,把极端上行带宽约束下的通信视为资源分配问题,依据本地训练信号估计各层的传输价值,再用精确的字节动态规划分配器确定各层的秩与比特配置。实验显示,在多种极端预算条件下,LBAT在通信与效用的权衡上优于统一秩、统一量化及固定压缩等基线方法。

Pengfei Li, Mohammad Khalil