AI 算法 · 2026年9月30日(周三)

机器学习、人工智能、自然语言处理、计算机视觉、多智能体。

arXiv cs.CV

Persistent Watermarking of Text-to-Image Models

说明文生图模型的持久水印:一种让模型版权更难被抹去的嵌入方法

简介本文针对文本到图像(T2I)生成模型的版权保护问题,提出一种对比式水印训练目标,使水印模型在触发输入上的行为明显区别于原始模型。实验表明,在多种下游修改和蓄意削弱水印的情况下,该方法的触发数据持久性明显优于已有方法,检测率常接近 100%(TPR@FPR<10^-4)。

Dixi Yao, Kaiwen Chen, Tahseen Rabbani 等

arXiv cs.CL · cs.AI · cs.LG

Beyond the Sycophancy Score: How Task, Model, and Pressure Shape LLM Yielding

说明超越“谄媚分数”:任务、模型与压力如何影响大模型的让步行为

简介该论文研究大语言模型在用户反驳后放弃正确答案或附和用户立场(即“谄媚”)的条件。作者使用十种配置的约10万条标注回复,发现核心因素是模型核实用户主张的成本以及是否有训练护栏覆盖,而非模型家族或施压话术。开启最大推理后,深度逻辑题上的让步率降为0。

Guang Yang, Homa Hosseinmardi, Fengchen Liu 等

arXiv cs.SE · cs.AI · cs.LO

From Verification Failures to Reusable Guidance for Coding Agents

说明从验证失败到可复用的编程智能体指导

简介本文研究专家对形式化验证失败的诊断如何转化为编程智能体可复用的指导。方法结合了 K 框架中的可执行语言定义,以及用于构建规约、修复证明和审计规约充分性的一套流程。在 HumanEval(164 个 Python 编程任务)上,经人工指导的开发在两次针对性修复后,以最终 AI 审计 Pass 判定衡量,达到 164/164 的成功率。作者还构建了 12 组已审阅的干净与缺陷规约包,用于检验审计能否发现证明未能揭示的问题。

Yuqing Zhai, Xiaohong Chen, Lingming Zhang 等

arXiv cs.CV

Frame Differential On-Policy Self-Distillation for Video Reasoning

说明帧差分同策略自蒸馏用于视频推理:让稀疏帧模型在训练中借鉴密集帧的视觉证据

简介该论文提出一种名为FD-OPSD的方法,用于提升多模态语言模型在视频推理上的表现。训练时,模型在稀疏帧和密集帧两种视角下对同一回答的词元偏好进行比较,并蒸馏其中的帧差分信号,无需外部教师模型或密集自回归采样。推理阶段保持不变,在Qwen2.5-VL-7B和Qwen3-VL-4B上于六个视频推理基准测试中,整体平均表现优于GRPO、T-GRPO和Video-KTR等基线。

Haiying He, Xin Zheng, Shaoli Hu 等

arXiv stat.ML · cs.LG · cs.NA

Minimax rates for learning spectral Barron functions by deep ReLU neural networks

说明用深度ReLU神经网络学习谱Barron函数的极小极大速率

简介本文研究深度神经网络逼近和学习谱Barron函数的能力。作者为采用ReLU激活的深度网络给出了新的逼近界,并确立了学习这类函数的极小极大速率。文中结果表明,此类函数可以由深度ReLU网络以一定速率逼近,并以相应的快速收敛速率从训练样本中学习,该收敛速率在对数因子之内是极小极大最优的。

Songqiu Ma, Yunfei Yang

arXiv cs.LG

Synchronous Multi-view Neural Diffusion

说明同步多视图神经扩散:让多视图内部与视图之间的信息融合同时进行的学习方法

简介论文指出,现有多视图学习通常把视图内融合与视图间融合分成独立阶段,容易让信息在中间环节失真或被压缩。作者提出同步多视图神经扩散(SynMDiff),将多视图特征空间视为由扩散过程驱动的统一动力系统,同时自适应地完成视图内与视图间融合。论文还引入基于能量的拓扑采样策略和Ego-Net式集中训练架构以控制计算成本,并称在真实数据集上明显优于基线方法。

Yongquan Shi, Weijun Huang, Yueyang Pi 等

arXiv cs.RO · cs.AI

Make Code as Policy Great Again: Frontier Agents Write, Call, and Evolve Robot Tools

说明让代码策略再次伟大:前沿智能体编写、调用并进化机器人工具

简介该论文提出URAI(通用机器人智能体接口),由编程智能体构建可复用的机器人工具,执行智能体在反馈循环中选择并调用这些工具,每次调用在本地完成完整动作。在五项RoboDojo任务中,综合成功率从18.0%提升至53.0%;在七项真实双臂任务上也做了评估。

Shijia Ge, Alex Zhou, Jianshu Zeng 等

arXiv cs.CL · cs.IR

Evidence First, Arithmetic Second: A System Report and Failure Analysis for DocSem

说明证据优先,算术其次:DocSem 共享任务的系统报告与失败分析

简介该论文介绍了 EVICALC 系统在 DocSem 共享任务中的表现:正式测试中 1,730 个任务的联合准确率为 8.61%。系统读取 PDF、选取段落,再由语言模型生成算术表达式并在本地执行。作者对部分失败案例做了事后人工分析,发现 OCR 与区块合并可能导致相关段落被混入无关文本;另有一项对 100 份文档的探索性实验,仅有 22 份文档返回了证据编号。作者表示这些结论只是描述性的,不能说明总体分数的成因。

Divya Godara, Sachin Gupta

arXiv physics.med-ph · cs.AI

An Uncertainty-Guided Digital Twin Framework for Online Adaptive Proton Therapy in Head and Neck Cancer: A Feasibility Study

说明用于头颈癌在线自适应质子治疗的不确定性引导数字孪生框架:可行性研究

简介该研究提出一种不确定性引导数字孪生(UGDT)框架,在治疗前预测治疗当日的解剖结构,并据此生成在线自适应质子治疗计划。研究基于10名头颈癌患者的数据,结果显示计划质量与医生批准的离线重新计划相当,在质量评分上偏差约为-0.7%至-1.7%,脊髓和脑干剂量仍低于耐受值。

Yizhou Wu, Ryan J. Sanford, Huiqiao Xie 等

arXiv cs.IR · cs.LG 有代码

RouteRec: Behavior-Guided Sparse Routing for Sequential Recommendation

说明RouteRec:基于用户行为引导的稀疏路由序列推荐模型

简介该论文提出 RouteRec,一种序列推荐模型,用会话中观察到的行为作为专家网络的路由依据。模型从会话历史中概括四类行为线索,并在宏观、中观、微观三个层级分配计算。在六个公开数据集、18 组数据集与指标组合上,RouteRec 在 12 组中排名第一、3 组中排名第二,平均排名 1.61,优于次优基线的 4.11。

Junyeong Song, Jaemin Yoo

arXiv cs.AI

C-STRIDE: An Observation-Driven AI Digital Twin for Predicting Basin-Wide Flood Fields from Sparse Stream-Gauge Histories

说明C-STRIDE:利用稀疏水文站记录预测流域洪水分布的AI数字孪生模型

简介该论文提出C-STRIDE,一种由观测驱动的AI数字孪生模型,利用少量水文站的短时记录、地形和降雨数据,预测整个流域的水深分布并可外推至未来一天。模型基于校准后的二维水动力模型模拟结果训练,无需单独的数据同化步骤。在芝加哥附近的德斯普兰斯河流域,六个水文站可支持对420万个30米网格单元的预测,与仅使用水文站记录相比,误差约降低40%,运行速度约为水动力模型的150倍。

Yanjie Tong, Phillip Si, Yuan Qiu 等

arXiv cs.CV 有代码

When Integral Meets Decomposition: A Signal-Level Self-Supervised Feature Decompose Paradigm for Multi-Modal Image Fusion

说明积分与分解相遇:面向多模态图像融合的信号级自监督特征分解范式

简介该论文针对多模态图像融合中特征分解缺乏明确监督的问题,提出一种一维信号级自监督分解方法。方法将分解转化为基于积分的一维信号优化问题,通过公共特征与原始信号之间的积分面积进行约束。模型采用两阶段自监督框架,并在代表性多模态图像融合任务上取得了领先水平的结果。

Zeyu Wang, Jiayu Wang, Haiyu Song 等

arXiv cs.CL · cs.AI

The Invisible Language Tax: Token Premiums of French and Regional Languages in 2026 LLM Tokenizers, and a French-Optimized Prototype

说明看不见的语言税:2026年大模型分词器中法语及地区语言的 token 溢价,以及一个面向法语优化的原型

简介该论文测量了 2026 年七种主流大模型分词器在相同内容上的 token 数差异。结果显示法语比英语多用 31%至58%的 token,法国地区语言约为英语的 1.6 至 3.3 倍,而简体中文在多数分词器上比法语更省。作者还提出了面向法语优化的原型 Baracoda FR v1.2,在测试集上比 Tekken 在法语上少用 11.5% token,但论文说明这仅为分词层面结果,对模型质量与任务成本的影响尚待验证。

Thomas Serval

arXiv cs.LG · q-bio.NC

Not all solutions are created equal: An analytical dissociation of functional and representational similarity in deep linear neural networks

说明并非所有解都同等:深度线性网络中功能相似性与表征相似性的解析分离

简介该论文研究神经网络的表征(内部编码)与其功能之间的关系。作者用可解析的两层线性网络和非线性网络的数值模拟发现,二者可以相互分离:表征相似但功能不相似,反之亦然。对输入噪声的鲁棒性和泛化误差水平并不能约束表征必须服务于任务;而对参数噪声鲁棒的网络,其表征灵活性有限,必须采用任务特定的表征。

Lukas Braun, Erin Grant, Andrew M. Saxe

arXiv cs.CL

When Clipping Reverses Correction: Failure Dynamics of Pointwise Forward-KL On-Policy Self-Distillation

说明当截断反而逆转修正:逐点前向KL在策略自蒸馏中的失效动态

简介本文研究在策略自蒸馏(OPSD)中,对逐点前向KL目标做截断(clipping)的效果。作者在仅是否截断不同的对照训练中发现,截断版本会产生更多持续到回答末尾的重复。理论上证明,截断目标可能无法把学生模型修正向教师模型,反而使部分词元概率偏离教师。训练结果也与此分析一致。

Di Huang, Hao Li, Yixin Chen 等

arXiv cs.LG

Smaller Models, Better Rejects: Preference Distillation Scaling

说明更小的模型能提供更好的负样本:偏好蒸馏的规模效应

简介本文研究偏好蒸馏中的“拒绝样本”(负样本)来源。作者发现,在代码生成与数学推理任务上,由较小的冻结模型生成的拒绝样本,比学生模型自己生成的样本更能训练出更强的学生模型,且生成成本更低。论文还通过线性化特征模型推导了DPO的有限视界效用界,并提出混合、跨题重分配与选择低参考似然候选等干预方法。

Rui Cai, Wenhui Zhu, Xiwen Chen 等

arXiv cs.CV

MeshOctave: Vertex Split-and-Rewire Cascades for Native Mesh Generation

说明MeshOctave:用于原生网格生成的顶点拆分与重连级联方法

简介论文提出 MeshOctave,用于生成具有明确拓扑结构的网格。它以二进制空间网格分辨率定义尺度,通过合并同一体素的顶点实现粗化,并用拆分与重连操作逐级还原细节。模型采用尺度条件的掩码离散扩散方法学习这一过程,在几何保真度和拓扑有效性上优于基线,并支持自适应分辨率细化与网格细分。

Junkai Lin, Tianhao Zhao, Hang Long 等

arXiv cs.RO · cs.AI

Sparse-WAM: Accelerating World Action Models via Action-Guided Sparse Imagination

说明Sparse-WAM:通过动作引导的稀疏想象加速世界动作模型

简介世界动作模型(WAM)借助预训练视频模型,通过联合预测未来视觉状态与动作来提升机器人控制的泛化能力,但推理成本很高。本文提出无需训练的 Sparse-WAM 框架,依据动作与未来帧之间的注意力关系,只保留与动作相关的未来帧令牌,并通过轻量评分与跨步复用的 Pilot 引擎降低稀疏推理的开销。在 LIBERO 和 RoboLab-120 上,相比 NVIDIA RTX 4090 上的稠密推理,分别约提速 2.0 倍和 1.8 倍,同时基本保持任务性能。

Xinling Xie, Haodong Wang, Jiazhi Mi 等

arXiv cs.RO · cs.AI · cs.LG

SimEX: Simulation-Integrated Robotics AutoResearch

说明SimEX:仿真集成的机器人自动研究框架,让编码智能体在仿真中学会控制真实机器人

简介论文提出SimEX框架,让基于大语言模型的编码智能体先在仿真环境中反复探索和优化,形成机器人工具箱。随后仅通过少量真实机器人试验,同时修正仿真器并修复工具箱。作者称在毛巾折叠、条码扫描和盘子操作等真实任务上,仅用约10分钟真机交互即可获得技能,且无需示范。

Jiaheng Hu, Roberto Martin-Martin, Peter Stone 等

arXiv cs.LG · eess.SP

SCORE-LM: State-Space Radar Representations with Language Models for Fault Diagnosis

说明SCORE-LM:结合语言模型的雷达状态空间表示故障诊断

简介本文提出SCORE-LM,将一个小型散射体条件算子响应编码器(SCORE)与经适配的本地语言模型相结合,用于诊断雷达硬件故障并生成维护指导。在八组未参与训练的Rad-R故障录制数据上,该方法在所评估的九模型对比中取得最佳结果:十帧时平均捕获召回率为88.39%,四类故障宏F1为88.20%。其雷达推理系数数量为39,520,少于对比最强模型RadrNet-DS-CI的119.7倍,召回率却高出15.56个百分点。

Mainak Mallick, Seung-Kyum Choi

arXiv cs.CV 有代码

Mitigating Object Hallucination in Large Vision-Language Models via False Discovery Controlled Visual Data Splitting

说明基于错误发现率控制的视觉数据划分缓解大型视觉语言模型的物体幻觉

简介该论文针对大型视觉语言模型生成图中不存在物体的幻觉问题,提出名为CORAL的免训练框架。它通过不确定性感知的视觉数据划分和镜像统计量,在解码时估计虚假物体预测,并设定数据驱动阈值以控制每张图像的错误发现比例。实验显示该方法在多个基准上优于现有方法。

Chang Liu, Yu Tian, Rui Xie

arXiv cs.CV

PARK: Accurate Block Retrieval for Sparse Attention in Video Diffusion Transformers

说明PARK:面向视频扩散Transformer稀疏注意力的精确块检索方法

简介视频扩散Transformer(DiT)的全注意力计算复杂度高,稀疏注意力通过检索重要块来降低成本,但检索不准会损害生成质量或造成多余计算。本文指出现有基于平均表示的块检索存在查询端聚合和键端聚类度量两类不匹配,并提出免训练的PARK方法,保留每个查询并分别归一化注意力,同时用当前查询变换键后再聚类。实验基于HunyuanVideo和Wan,显示PARK在保持生成质量的同时提升了推理速度与检索准确性。

Yun Dai, Jiarui Wen, Huiping Zhuang 等

arXiv cs.LG · cs.AI

Scale-Split Neural Operator for Memory- and Data-Efficient 3D Turbulence Prediction

说明用于三维湍流预测的尺度分离神经算子:降低显存与数据需求

简介本文提出ScaleSplit-NO,用两个神经算子分别预测全局粗尺度场和以此为条件的全分辨率局部块,避免直接处理完整高分辨率场。在两个高分辨率湍流基准上,其预测精度和数据效率均优于对比基线;在256³的JHTDB256数据集上,归一化均方误差比最强基线低53%,训练显存比显存最省的基线低79%。作者还在蒙特利尔一个街区的城市风场预测中验证了该方法。

Shaoxiang Qin, Yucheng Zhao, Zongyi Li 等

arXiv cs.CL

Fairness Beyond a Single Run: Training-Seed Variability in Speech LLM Adaptation

说明超越单次训练:语音大模型适配中训练随机种子带来的公平性波动

简介该研究指出,语音识别中不同人群之间的公平性差距通常只基于一次训练结果报告。作者在固定编码器、解码器、数据和解码方式的条件下,改变音频压缩倍率和随机种子,对语音大模型进行微调并在两个数据集上评估。结果显示,在多数人口统计维度上,随机种子引起的公平性指标波动大于压缩倍率的影响,因此单次运行的公平性比较需要谨慎看待。

Srishti Ginjala, Eric Fosler-Lussier, Srinivasan Parthasarathy

arXiv cs.AI

RealWorldShop: Benchmarking and Improving Conversational Shopping Agents in Real-World E-commerce

说明RealWorldShop:真实电商中对话式购物助手的基准测试与改进

简介该论文提出 RealWorldShop 基准,基于 328 万个真实商品、结构化购物会话、受画像约束和动作控制的用户模拟器,以及角色扮演评估。研究发现,现有系统回复局部合理,但在状态追踪、约束更新和基于商品的收敛上表现不佳,在意图模糊、套装和多意图场景中尤为明显。作者还提出 REALSHOP_AGENT 会话控制框架,实验显示其在该基准上持续优于强基线。

Xinwei Yang, Kelong Mao, Yudong Guo 等

arXiv cs.CL · cs.AI 有代码

Making LLMs Say What They Think: Measuring and Improving CoT-Interpretability Alignment

说明让大模型说出它的真实想法:衡量并提升思维链与内部推理的一致性

简介该论文关注大模型的思维链(CoT)是否真实反映其内部计算过程。作者提出CoT可解释性一致性指标(CIA),用可解释性工具检测内部推理策略,并与思维链比较。在两跳问答、提示干预和整数乘法三项任务、三个大模型上,一致性仅为44.8%至75.9%。作者还通过后训练把任务准确率与参数忠实度共同作为奖励,结果显示在保持或提升准确率的同时,显著改善了思维链的忠实度。

Yihuai Hong, Shauli Ravfogel, Chen Zhao 等

arXiv cs.CV 有代码

Beyond Spatial-Domain Supervision: A Relation Constrained Space for Multi-Modal Image Fusion

说明超越空间域监督:面向多模态图像融合的关系约束空间

简介多模态图像融合需要在没有真实融合图像的情况下训练,现有方法多用源图像或梯度作为替代监督,容易导致像素妥协或模态偏向。本文提出关系约束监督范式,将融合监督从空间域转移到学习得到的关系空间,通过冻结的DINO与CLIP特征适配器对齐特征,并以对比排序目标与融合网络交替优化。实验表明,该监督空间对多种主流融合骨干网络均有显著提升。

Zeyu Wang, Mingyu Ge, Haiyu Song 等

arXiv cs.AI

When Order Matters: First-Speaker Bias and Mitigation through Personality in Sequential Multi-Agent Debate

说明论顺序的重要性:顺序多智能体辩论中的先发言者偏差及人格提示缓解方法

简介本文研究大语言模型的顺序多智能体辩论,发现先发言的智能体会不成比例地影响最终答案,导致较强模型若排在较弱模型之后,其推理优势会明显被抵消。作者尝试用大五人格中的宜人性和外向性进行行为干预,发现宜人性降低可帮助较强智能体恢复影响力并提升最终准确率,而外向性的影响较不系统。

Duofeng Xu, Bryan Hooi, Dandan Qiao

arXiv cs.AI

Alleviating Hallucination in Reasoning Tasks with Training-Free Uncertainty-Guided Steering

说明利用无需训练的不确定性引导干预减轻推理任务中的幻觉

简介该论文研究大语言模型的幻觉问题。已有工作多用模型置信度来检测或过滤错误输出,本文则探讨能否主动利用这些信号提升答案准确性。作者提出USteer方法,在推理时依据置信度对各层激活进行梯度调整,使输出倾向于低不确定性,且无需修改模型参数或额外监督。实验表明,该方法在多种任务上都能稳定地减少幻觉。

Litian Liu, Qiqi Hou, Yubing Jian 等

arXiv cs.MA · cs.RO · cs.SY

Fast and Scalable Multi-Agent Distribution Matching via Partitioned Optimal Transport

说明基于分块最优传输的快速可扩展多智能体分布匹配

简介论文提出一种基于最优传输的多智能体终端分布匹配框架。作者将智能体和目标样本按空间对应关系划分为若干块,分别求解较小的局部传输问题,以降低大规模系统的计算成本。在质量守恒条件下,该局部耦合对全局问题可行,并给出 Wasserstein 代价的上界;局部分配结果用于有限时域的智能体控制,并在交替迭代中给出循环间下降的保证。仿真结果被用来验证方法的有效性。

Kooktae Lee, Ruchika Singh

arXiv cs.AI · cs.CL · cs.LG

Targeted Retrieval, Compact Representations: How CoT Reasoning Improves Long-Context Counting

说明精准检索与紧凑表示:思维链如何提升长上下文计数能力

简介本文研究大语言模型在长文本中计数散布记录(大海捞针式计数任务)的内部机制,比较了十二组带与不带推理过程的模型。结果显示,开启推理的模型计数准确率更高,计数越大提升越明显。分析发现,推理模型会在思维链中逐一检索目标,注意力更集中,内部表示也更紧凑,并表现出维持和更新内部计数器的迹象。

Liang Twist Shan, Tianyu Hu, Hao Yan 等

arXiv cs.CV

Beyond Generator-Specific Shortcuts: Open-World AI-Generated Video Detection via Adversarial Training

说明超越特定生成器捷径:基于对抗训练的开放场景AI生成视频检测

简介本文研究AI生成视频检测器在面对未见过的生成器时泛化能力差的问题,发现检测器表征会强烈编码特定生成器的线索。作者提出FORGE方法,通过梯度引导的嵌入扰动与对抗训练,抑制生成器相关模式并保留有用的取证证据。论文称在29个保留基准条目上平均F1达到92.62,并在四种常见后处理攻击下保持稳健。

Qi Zhou, Yuanfan Li, Huiqi Deng 等

arXiv cs.AI

Routing Probes Can Improve Without New Information: An Exact-Null Audit of Uncertainty Beyond Model Outputs

说明路由探针无需新信息也能提升:超越模型输出的不确定性精确零假设审计

简介论文研究视觉Transformer的路由信号(专家门控、注意力残差权重、停止分数)能否提供模型输出之外的错误信息。作者用输出生成器重新生成正确性标签以构造零假设,发现在该设定下,仍有相当比例的评估显示路由带来提升,但改用验证集对数损失选择检查点后这些检测基本消失,表明问题源于以准确率选择检查点。作者同时提出条件置换检验,并认为拟合更好的探针与检验增量信息是两个需要分别验证的问题。

Wenhao Liang, Lin Yue, Wei Emma Zhang 等

arXiv cs.LG · cs.AI

Loop-Free Inverse Reinforcement Learning via Sequential Value Recovery with Q-Score Matching

说明无循环逆强化学习:基于 Q 分数匹配的顺序价值恢复

简介逆强化学习旨在从专家示范中恢复解释其行为的奖励函数,但现有方法通常在奖励学习与策略优化之间交替迭代,计算开销大且训练不稳定。本文提出一种不做策略优化的方法,借助扩散策略编码的最优软 Q 函数动作梯度结构,将奖励学习转化为一系列价值恢复问题,分三个阶段完成,形成完全离线、无循环的算法 LFIRL。文中报告其在 Maze、Franka Kitchen、Adroit Hand Pen 和 Push-T 基准上相较最快基线约 2 至 3 倍的加速,奖励恢复质量与现有最优方法相当或更好。

Yang Chen, Yitan Zhang, Michael Witbrock 等

arXiv cs.RO · cs.CV 有代码

DexPolicy: Scheduled Exploration for Trajectory-Guided Dexterous Manipulation

说明DexPolicy:面向轨迹引导灵巧操作的定时探索调度

简介该论文研究强化学习中灵巧手操作的探索强度问题。作者提出DexPolicy,让动作噪声随训练步数从大到小退火,其余设置保持不变。在YCB物体和真实机械臂实验中,多种策略优化方法的目标任务成功率均有提升,作者认为应以终端任务成功率评估调度方案。

Haoyu Wang, Siyuan Qian, Yanjun Li 等

arXiv cs.CL · cs.AI · cs.MM

Real-time Chatbot Romance Scam Detection in Stage Classification

说明基于阶段分类的实时聊天机器人恋爱诈骗检测

简介本文开发了一个聊天机器人,通过 Line Messaging API 实时检测社交媒体上的恋爱诈骗。研究借鉴社会科学领域的七阶段理论,利用大语言模型识别诈骗所处的阶段。一旦检测到恋爱诈骗,该机器人还会借助大语言模型说明所处阶段并提供预防建议。

Yi-cheng Liu, Guan-ru Lai, Yi-cheng Lai 等

arXiv cs.RO · cs.AI

DrivingBench: Can Vision-Language Models Drive a Toyota Corolla?

说明DrivingBench:视觉语言模型能驾驶一辆丰田卡罗拉吗?

简介该论文提出 DrivingBench,让通用视觉语言模型通过摄像头画面直接控制一辆真实的丰田卡罗拉,在低速停车场锥桶赛道上行驶。测试内容包括观察、操作、监控、恢复和完成长时程任务,并计入模型推理延迟。作者对四个模型进行了测试,其中只有一个模型完成了赛道,其余模型均未通过一半赛道。

Aditya Ramabadran, Simon Mahns, Tobias Gessler

arXiv cs.LG

Robust Risk-Sensitive Reinforcement Learning from Corrupted Human Feedback

说明受损人类反馈下的稳健风险敏感强化学习

简介本文研究在对抗性偏好标签翻转下,使用静态条件风险价值(CVaR)的在线风险敏感人类反馈强化学习。作者提出加权流式偏好CVaR-RLHF方法(WSP-CVaR-RLHF),结合不确定性加权的奖励估计与乐观增广状态CVaR规划。理论上给出了与受损反馈数量相关的遗憾上界,并将干净统计成本与受损反馈带来的代价区分开;实验显示该方法在四种对抗攻击下比未加权的稳健版本累积遗憾更低。

Xinyi Ni, Lifeng Lai

arXiv cs.LG · cs.AI

Signal-Routed Temperature Scaling: Low-Capacity Risk-Conditioned Calibration for Small Validation Budgets

说明信号路由温度缩放:小规模验证集下的低容量风险条件校准方法

简介本文研究在仅有几千个留出样本时,如何为分类器做后处理校准。作者提出 SRTS-BCE,一种仅有 10 个参数、保持 argmax 预测不变的校准器,它依据六个 logit 统计量拟合的正确性风险分数,把样本分为 3 组,每组各拟合一个温度参数。在微调后的 CIFAR-100 / ViT-B/16 上,全量校准数据下它将 ECE15 从 1.65 降至 0.96;校准数据减少时,它在三个 CIFAR-100 主干网络上优于 SMART+BCE。论文认为,校准器容量是一个有限样本下的设计选择,其最佳水平随可用校准数据量而变。

Wenhao Liang, Liangwei Nathan Zheng, Lin Yue 等

arXiv cs.LG · cs.HC

EFormer: Temporally Aligned Local Correction for Continuous sEMG-Based Hand Pose Tracking

说明EFormer:面向连续肌电手部姿态追踪的时间对齐局部校正方法

简介该论文提出 EFormer,一种基于冻结追踪主干的残差特征校正网络,用于根据表面肌电信号(sEMG)连续推断手部关节运动。模型融合高频事件分支、时间对齐的局部交叉注意力和因果旋转位置编码等模块。在测试集上,其 MAE 为 0.1546634 rad,相比官方追踪基线(0.1745326 rad)降低 11.38%,结果表明时间对齐的事件特征校正可降低连续手部姿态追踪误差。

JiaCheng Ge, SiYu Zhang

arXiv cs.LG · cs.AI

Adaptive Self-Consistency: From Black-Box Sampling to Distribution-Valued Feedback

说明自适应自一致性:从黑箱采样到分布值反馈

简介自一致性方法通过采样多条推理路径并汇总最终答案来提升大模型的推理准确率。本文指出,每条路径的最终答案实际来自模型输出的概率分布,而这一分布可以从对数概率中获得。作者据此提出在这种灰箱设定下的序贯众数识别问题,并给出新算法ASC-D,在MMLU-Redux上相比仅使用答案的自适应基线减少了46.4%至95.6%的推理路径数量。

Jingkai Huang, Yunfan Zhang, Will Ma 等

arXiv cs.CV · cs.AI · cs.LG 有代码

On the Relaxation of Conditional Independence Assumption for Image Segmentation

说明放宽图像分割中的条件独立假设

简介论文研究语义分割中的RankSEG方法,它在推理时直接优化Dice/IoU分数,但依赖条件独立假设,忽略标签相关性。作者用空间局部依赖结构替代该假设,并通过倒数矩近似与不动点优化把计算复杂度降至O(d log d)。实验称,在低对比度或小目标场景中,该方法优于argmax及基于条件独立假设的RankSEG。

Zixun Wang, Ben Dai

arXiv cs.AI · cs.LG

Learning What to Forget: Distributional Unlearning for LLM Representation Spaces

说明学习遗忘什么:面向大语言模型表示空间的分布式遗忘

简介论文提出 Mamushi 框架,用于在训练数据中删除整类内容(如有毒语言、有害行为或特定主题)的影响。它以概率分类器对遗忘样本排序,理论上证明对数密度比阈值是固定预算下的最优选择规则,并给出非渐近迁移保证。实验显示其在删除与保留之间取得了比基线更优的权衡。

Pinaki Mohanty, Haoran Tang, Maggie Makar 等

arXiv cs.LG · cs.CV

World-as-Graph: Relational World Modeling Through Latent Space Graphs

说明世界即图:通过潜在空间图进行关系型世界建模

简介该论文提出 World-As-Graph(WAG),一种基于图、以物体为中心的世界模型,在 JEPA 式预测表示学习中引入关系归纳偏置。模型从物体中心的潜在槽位构建随时间变化的潜在图,并结合邻近物体的关系信息与历史记忆更新物体状态,以支持自回归的未来预测。作者称其在视觉推理和机器人操作任务上的实验中表现更优。

Yaqi Yang, Shuo Huang, Yujin Huang 等

arXiv cs.MM · cs.LG

PrecipJEPA: JEPA-Regularized Future-State Prediction with Motion-Source Rendering for Precipitation Nowcasting

说明PrecipJEPA:用于降水临近预报的未来状态预测与运动源渲染方法

简介该论文提出PrecipJEPA模型,用于降水临近预报,通过辅助路径利用雷达历史观测增强编码器,并以运动场和源汇场渲染未来雷达帧。在SEVIR和MeteoNet数据集上,该方法在最高阈值CSI指标上分别比最强基线提升118.6%和35.1%,并在3小时预报中保持最高的平均CSI。

Yufeng Zhu, Dan Niu, Qiliang Wu 等

arXiv cs.AI · cs.LG

Prototype-guided Bilateral Alignment Multimodal Federated Learning

说明基于原型引导的双边对齐多模态联邦学习

简介多模态联邦学习利用分散数据提升模型性能,但现有方法多假设客户端模型同构、模态分布均衡,难以适用于实际场景。本文提出MFedPBA框架,在特征层用对比学习和Gromov-Wasserstein距离优化的投影编码器对齐异构特征空间,在决策层对天然对齐的logit原型做熵加权聚合。实验表明,在模型异构和模态不平衡条件下,该方法显著优于现有基线。

Tianchi Liao Tianchi_Liao, Lele Fu, Sheng Huang 等

arXiv cs.CV

From Image Interpretation to Clinical Reasoning: Upstream Physician-Context-Aware Multimodal Learning with Causal Reinforcement Learning

说明从影像解读到临床推理:基于因果强化学习的上游医生语境感知多模态学习

简介该论文提出一种因果强化学习框架,将胸部X光片与医生撰写的临床病史结合,用于机会性筛查未来主要不良心血管事件(MACE)的风险。框架包含角色解耦的双大模型、双动作因果强化学习策略和因果词元剪枝。在内部队列、急诊队列和外部MIMIC数据集上,其AUROC分别为0.720、0.760和0.845,优于单模态基线和现有医学视觉语言模型,推理质量评分(GREEN)与专家偏好也更高。

Jialu Pi, Yanan Ma, Weijie Chen 等

arXiv cs.CL

GraphForge: Training Working Agents with Graph-Anchored Workspace Synthesis

说明GraphForge:用证据图构建真实文件工作区,训练工作型智能体

简介论文提出 GraphForge 框架,从职业种子出发组装真实文件工作区,并基于文件间关系构建证据图,由图同时生成任务与评分标准,使任务要求和验证都有真实文件支撑。用 2169 条轨迹微调 Qwen3.6-27B 后,在 GDPVal、Workspace-Bench-Lite 和 SpreadsheetBench II 上均有提升,并且用证据标准筛选模型自身轨迹的拒绝微调还能带来进一步改进。

Qisheng Su, Hanchen Wang, Guanru Zhu 等

arXiv cs.LG

Learning Where to Steer: Noise-Space Geometry for Efficient Offline Multi-Objective Optimization with Generative Models

说明学习在何处引导:利用噪声空间几何以生成模型高效求解离线多目标优化

简介本文研究离线多目标优化,即仅利用固定数据集、不查询目标函数来寻找更优的目标权衡解。作者不在每一步采样中引导扩散模型,而是只调整初始噪声:先用递归特征机从函数值估计对目标敏感的少数方向并缓存,每个候选解只需一次噪声位移和一次常微分方程求解。文中证明该位移能在期望上提高学习到的标量化目标,并在Off-MOO-Bench的47个任务上取得生成方法中最佳的平均超体积排名。

Yuan Lu, Esha Singh, Yi-An Ma 等

arXiv cs.LG · stat.ML

Flow Matching under Noisy Latent Structure: Beyond Exact Low-Dimensional Support

说明噪声潜在结构下的流匹配:超越精确低维支撑

简介该论文研究流匹配方法在目标分布含高斯噪声的潜在生成模型下的理论性质,即低维映射加上环境空间中的非退化高斯噪声,使目标分布为满维。作者构造了空间正则的ReLU速度场类,并给出非渐近的高概率逼近与估计界,其样本量指数由潜在维度而非环境维度决定。结果还通过传输常微分方程将速度误差传播为Wasserstein收敛保证,说明精确低维支撑并非流匹配保持潜在维度统计行为的必要条件。

Lifeng Hao, Shaolin Ji

★★★★☆ 值得关注
arXiv cs.AI

How Much Can Reliability Drift Under a Fixed Confidence Distribution?

说明在置信度分布固定时,可靠性漂移能有多大?

简介本文研究分类器在置信度分布完全不变的情况下,条件准确率仍可能改变的问题。作者在保持置信度分布不变的协变量偏移下,用卡方预算约束各置信水平内的重加权,计算可靠性关系的最坏变化,并得到一条脆弱性曲线。文中在ImageNet上检验了该界限,结果显示部分分类器的下界为正,并讨论了温度缩放后的情况。

看点证明在可计算区间内最坏漂移恰为预算平方根乘以组内方差,给出了校准分解中分组损失项的新解释;以ImageNet实验验证并给出置信下界。

Wenhao Liang, Lin Yue, Wei Emma Zhang 等

arXiv stat.ML · cs.LG

Warm-starting PDE solvers with any-dimensional machine learning

说明用任意维度机器学习为偏微分方程求解器进行热启动

简介论文提出一套数学条件:当偏微分方程满足某些对称性时,可以在低维上训练的学习型求解器直接用于高维问题(零样本)。对于初始数据不满足对称性、但方程满足对称性的情形(物理中常见),作者给出低维到高维的热启动方法。该方法应用于热方程、Burgers方程和可压缩Navier-Stokes方程。原文报告,用2维Navier-Stokes数据训练的代理模型在3维测试数据上优于用3维数据训练的基线,所用计算量约为其12%、数据量约为其20%。

Wilson G. Gregory, George A. Kevrekidis, Ben Blum-Smith 等

arXiv cs.AI · cs.LG · cs.MA

Risk-Aware Adaptive Evaluation: Finding High-Impact Failures Under Limited Budgets

说明风险感知的自适应评估:在有限预算下找出高影响失败

简介论文提出一种风险感知的上下文汤普森采样策略,用于在有限测试次数下优先运行更可能失败、影响更大的交互式智能体场景。在70个航空场景、824次记录试验的离线回放中,仅用50次试验(约6%)即可找到约86%的影响加权失败,而均匀分配仅为25%。作者同时指出,预算接近语料库规模时优势会减小。

Priyanath Maji, Spandan Ghose Chowdhury

arXiv cs.CV

FLOW: Feature-Level Optimal Warping for Generalized Remote Physiological Measurement

说明FLOW:面向通用远程生理测量的特征级最优对齐方法

简介本文提出 FLOW(特征级最优对齐)框架,用于解决远程光电容积描记(rPPG)在光照、运动和传感器变化下的跨域性能下降问题。该方法结合时间细化模块与基于原型的跨时间最优传输模块,实现域不变对齐,并通过软性跨时间对应保留生理信号的节律特征。论文在四个 rPPG 基准数据集上进行了实验,报告了跨域性能达到当前最优水平。

Bo Zhao, Junzhe Cao, Dan Guo 等

arXiv cs.LG

Generalized Residual Closure: General Learning Dynamics for Stability-Plasticity Compatibility

说明广义残差闭合:面向稳定性与可塑性兼容的通用学习动力学

简介本文提出广义残差闭合(GRC)框架,将学习视为对未来相关偏差的递归闭合。作者在固定的学习者-环境边界下,区分表示内部的变换与表示本身的修订两种模式,并给出局部切空间分解及表示修订必要性的判据。文中在仿射模型中推导了稳定性与可塑性兼容的充要条件,以及约束二次更新问题的唯一解。

Dongxu Li, Yinuo Zhang, Hongyu Zhang 等

★★★★☆ 值得关注
arXiv cs.LG · cs.AI

Unlearning Deceptive Behaviors in LLMs with Contrastive Forget Sets

说明用对比遗忘集消除大模型的欺骗行为

简介论文指出,大模型有时明知真相却在特定语境下给出错误回答,这种欺骗是由上下文触发的行为,而非知识缺失。作者提出PACT方法,利用模型自身的欺骗样本构建对比遗忘单元,并训练模型朝向承认压力、抵制压力的诚实回应,同时保留对系统提示等良性上下文的正常使用。在两个32B推理模型上,held-out欺骗率从50%以上降至3%以下,系统提示遵循、保密能力和推理过程基本保持不变。

看点提出以对比遗忘单元针对欺骗行为而非知识进行遗忘,并揭示目标蒸馏导致的上下文失明问题;在两个32B模型上实验充分,欺骗率从50%以上降至3%以下。

Haoran Tang, Rajiv Khanna

★★★★☆ 值得关注
arXiv q-bio.GN · cs.AI · cs.LG 有代码

CellMSA: Context Modeling for Single-Cell Representation Learning

说明CellMSA:用于单细胞表征学习的上下文建模方法

简介单细胞转录组数据维度高、稀疏且存在批次效应,现有模型大多只独立编码单个细胞或仅在同一批次内去噪。本文提出CellMSA,借鉴蛋白质建模中的多序列比对思想,为每个目标细胞检索来自不同批次和生物学相关细胞类型的上下文细胞,并将跨细胞模式汇总为基因对表征,用于目标细胞的编码。作者在约1.09亿个细胞观测的大规模人类单细胞数据上预训练,报告其在多个基准上优于现有方法。

看点将蛋白质领域的MSA思想引入单细胞建模,检索跨批次同类细胞构建基因对表示,并在约1.09亿细胞上预训练、多基准优于现有方法,属有新意的组合。

Suyuan Zhao, Minghao Liu, Yizhen Luo 等

arXiv cs.HC · cs.AI · cs.CY

Characterizing Questioning Patterns and Student Engagement Through Contextual Analysis of Real-Time Classroom Interactions

说明通过课堂实时互动的语境分析,考察提问模式与学生参与度

简介该研究分析了47场直播课程中604道课堂投票题及340,668条学生回答,将每道题与讲课文稿对照阅读。结果显示,多数题目属于低阶认知层次,可归入七类教学功能,学生回答更多取决于题目功能而非措辞。班级多数回答正确率为88.5%,但少数高度一致的错误答案无法仅靠一致性识别。

Rohit Sharma, Pavani Ayinampudi, Aditya B.M.V. 等

arXiv cs.LG · cs.AI

DAMPER: Return-Prioritized Gradient Control for Smooth Policies

说明DAMPER:面向平滑策略的回报优先梯度控制方法

简介该论文针对连续控制中的 actor-critic 方法策略动作震荡过大的问题,提出 DAMPER 方法。它将原始 actor 梯度与时间一致性梯度结合,通过冲突条件投影去除与 actor 梯度相反的辅助分量,并按 actor 梯度范数自适应缩放保留的时间方向。在 TD3 和 SAC 上、六个连续控制任务的实验中,动作震荡相较原始智能体在全部 12 组任务与基线组合中均有降低,回报的权衡则因任务而异。

Seokmin Ko, Taewon Goo, Kihyuk Hong

arXiv cs.LG · stat.ML 有代码

Amortized Data Borrowing with Exchangeability-Aware Neural Posterior Estimation

说明摊销式神经后验估计:一种兼顾可交换性的外部数据借用方法

简介本文研究在药物研发中用外部或历史队列数据补充小规模试验的问题。作者用模拟的当前与外部数据对预训练一个神经网络,使其单次前向计算即可输出当前研究目标量的近似后验分布。模拟显示,在结局漂移和联合失配情形下,该方法的绝对偏差最多约为最佳经典基线的五分之一,且第一类错误接近名义水平;每个数据集约8毫秒即可得出后验摘要,速度约为MCMC方法的10^3倍。在ADNI数据的分析中,当轻度认知障碍结局在不同队列间有差异时,该方法恢复了后期队列的风险水平。

Chin-Hung Huang, JooChul Lee, Huan He

arXiv cs.LG

Certified Approximation for Interpretable Representer Landmarks

说明可验证近似的可解释表示器地标(CAIRN)

简介该论文针对自监督表示的表示器解释,即对训练地标按影响力排序。作者提出 CAIRN 框架,把对经验神经正切核(eNTK)多层近似带来的误差传递到排序结果中,并给出前 K 名集合的高概率可验证保证。论文还利用随机 Lanczos 求积估计有效维数,以指导地标预算的分配。

Jayanta Mukherjee, Shourya Verma, Mengbo Wang 等

arXiv cs.CV 有代码

MEMO: Multi-Level Entity-Aware Memory for Streaming Video Understanding

说明MEMO:面向流式视频理解的多层级实体感知记忆

简介流式视频理解需要模型在很长的时间跨度内保留丰富的视觉信息,现有方法多依赖全局或粗粒度表示,容易丢失细节。本文提出MEMO框架,将流式视频切分为语义连贯的片段,并组织成以实体为核心的结构化记忆:轻量的全局与实体表示作为检索索引,高分辨率视觉内容单独保存以便按需调用。该方法无需训练,可即插即用于现有多模态大语言模型,在StreamingBench和OVO-Bench上取得了一致提升并达到当前最优结果。

Yinying Li, Yuqian Fu, Yulin Dai 等

arXiv cs.LG · cs.CL

K2P: Label-Free Knowledge to Prompt Distillation

说明K2P:无标签的知识到提示蒸馏

简介本文提出K2P方法,在不使用标准答案的情况下,把更强教师模型的推理能力转化为可复用的提示词,供冻结参数的学生模型使用。方法从教师解答中合成指令,再用师生配对回答加以改进,并以答案一致性指导搜索与选择。实验显示,K2P在多项推理任务和多种学生模型上优于其他无标签方法,并与有监督的提示优化方法相当。

Yingchuan Zhang, Haoran Lu, Wenxuan Zhong 等

arXiv cs.SD · cs.AI · cs.PF

FFASR: Benchmarking Far-Field Automatic Speech Recognition using High-Fidelity Simulated RIRs

说明FFASR:利用高保真模拟房间脉冲响应对远场语音识别进行基准测试

简介本文提出FFASR,一个包含15,637条语音的保留测试语料库和公开排行榜,涵盖九种条件,每种条件仅改变一个声学因素。语音由15位说话人录制,并与14个布置家具的房间的混合房间脉冲响应卷积生成远场语音。结果显示,平均词错误率从近场的4.4%升至静态低信噪比条件下的41.3%;在办公室实验室场景中,实测与模拟的词错误率平均较为接近。

Shivam Saini, Eric Bezzam, Georg G\"otz 等

arXiv cs.LG · cs.AI

Unmerge: Efficient Machine Unlearning via Task Arithmetic

说明Unmerge:基于任务算术的高效机器遗忘方法

简介该论文提出 Unmerge,用于在不完全重新训练模型的前提下,移除训练集中特定“遗忘集”对模型的影响。方法把遗忘视为任务算术中的逆操作,在低秩遗忘子空间中分解遗忘分量并从合并任务向量中减去。在 CIFAR-100 和 Tiny ImageNet 的类别级遗忘实验中,相比对比方法取得了更好的遗忘效果,并在 ViT-S/16 和 Llama-3.2-3B 上也有应用。

Haoran Tang, Andrew Tan, Rajiv Khanna

arXiv cs.LG · cs.AI · cs.SY

Learning Continuous Neural Representation of Stochastic Hybrid Systems

说明学习随机混合系统的连续神经表示

简介随机混合系统由描述连续动力学的随机微分方程和在守护面上触发的马尔可夫重置核共同描述。本文证明,这类系统可以用高维潜在空间中的连续路径随机微分方程来近似:通过辅助变量将重置转化为确定性重置,再借助嵌入定理,使概率演化无需在霍夫克-普朗克方程中显式写出重置项。基于此,作者设计了一种匹配状态分布演化的损失函数,使单一潜在随机微分方程即可恢复原系统的概率演化,无需模式标注、轨迹分段或基于事件的模拟。

Sangli Teng, Hang Liu, Koushil Sreenath

arXiv cs.AI

Consistent Plan-Act for Long-Horizon Agentic Tasks

说明长时程智能体任务的一致性规划-执行方法(ConPAct)

简介论文针对长时程智能体任务中规划者与执行者对同一任务状态的判断不一致问题,通过结构化状态断言并程序化比对,发现两者存在系统性分歧,称为“规划者-执行者状态失配”。作者提出ConPAct方法,将检测到的矛盾反馈给双方以形成一致的状态理解,并在精选的一致交互数据上微调。实验显示该方法在多种环境和模型配置下提升了表现,例如在MiniGrid上成功率从38.6%提高到54.4%。

Heng-Zhuang Li, Yi-Kai Zhang, Yu Wang 等

arXiv cs.LG

VERA: Verifiable Feasibility Representations with Counterfactual Credit for Constrained Multi-Agent Control

说明VERA:用于带约束多智能体控制的可验证可行性表示与反事实信用分配

简介该论文提出VERA框架,采用集中训练、分散执行的方式,将可行性估计与信用分配分离。每个智能体预测五维可验证可行性表示,训练时利用动作条件下的精确裕度进行监督,并通过反事实组相对优势排序候选动作。在动态空-空-地一体化网络实验中,VERA成功率为55.33%,覆盖违规率为0.45%,相较最强基线成功率提高8.74个百分点。

Bo Yin, Dongbo Li, Hongkai Chen 等

arXiv eess.AS · cs.CL · cs.LG

VOSSA: Voiceprint Optimization for Streaming Speech Architectures

说明VOSSA:面向流式语音架构的声纹优化方法

简介实时语音转换系统通常使用自动说话人验证模型预训练的说话人嵌入。本文提出VOSSA,从内容编码器的中间层提取说话人信息,并通过注意力统计池化聚合,与语音转换目标联合训练,无需单独的说话人编码器。在六个数据集上,VOSSA改善了基频动态与元音辨别性声学线索,同时保持与基线相当的NISQA-MOS、WER和说话人相似度。感知测试显示在自然度、说话人相似度、可懂度和生动度方面有所提升。

Mu-Ruei Tseng, Waris Quamer, Ghady Nasrallah 等

arXiv cs.LG · cs.AI

Right Answers, Costly Models: The Efficiency Gap in LLM-based Optimization Modeling

说明正确的答案,高昂的模型:基于大语言模型的优化建模效率差距

简介该论文研究大语言模型能否从自然语言描述中识别问题结构,并运用合适的优化建模技术生成既正确又高效的数学模型与求解代码。作者构建了包含50项专家建模技术的知识库OptTips,并开发多智能体框架OptDachshund,生成561个经专家审核的任务基准EfficientOpt。对11个代表性大语言模型的评估显示,在求解正确的任务中,多数生成程序的求解时间长于专家参考实现,因此作者主张应同时评估正确性与计算效率。

Zhong Li, Xin Huang, Jinhui Wan 等

arXiv cs.AI

STRATA: Self-Learning Through Role-Aligned Tiered Agents for Real-Time Strategy Games

说明STRATA:面向实时战略游戏的角色分层智能体自学习系统

简介本文提出STRATA系统,用于红色警戒(Red Alert)等实时战略游戏。系统把战略、后勤和战术决策分别交给战略、后勤与战术三类智能体,并由复盘智能体从对局记录中提炼、验证经验,压缩为供检索的经验卡片。文中报告,在固定场景下使用学到的经验卡片后,观察到的胜率从30%提高到100%。

Xinhe Tian, Xiaoyue Zhang, Ziyou Zhang 等

★★★★★ 值得关注
arXiv stat.ML · cs.LG

Near-Minimax-Optimal Rates for Asynchronous TD Learning with Markovian Data

说明马尔可夫数据下异步TD学习的近似极小极大最优速率

简介本文研究在有限马尔可夫决策过程单条轨迹上,标准重要性加权时序差分(TD)学习最后一次迭代的收敛速率。作者证明,在有限次状态转移后,误差可以高概率地以widetilde O给出的界控制,并给出与之匹配的极小极大下界(相差对数因子)。

看点证明了异步重要性加权TD的末次迭代近极小极大最优速率,并给出匹配的下界,显著改进了已知界限,理论扎实。

Yang Peng

arXiv cs.LG · cs.AI

Does Learning Protein Folding Generalize to Broader Reasoning?

说明学习蛋白质折叠能否迁移到更广泛的推理能力?

简介该研究构建了蛋白质衍生的问答数据集 FoldingCorpus,并提出后训练方法 Fold2Reason,通过离散结构答案和连续三维几何两种信号训练语言模型。在 FoldBench 上结构预测得分为 Qwen3.5-9B 的 2.7 至 3.5 倍;在 10 个涵盖空间、图、科学和通用推理的基准上,平均准确率由 45.09% 提高到 48.33%。对照实验显示,随机、合成和打乱结构数据带来的提升明显更小或为负。

Yong Liu, Zhanpeng Shi, Yizhou Dang 等

★★★★☆ 值得关注
arXiv cs.SD · cs.AI · cs.CL

Audio Token Attention Is Predictable Before the Language Model Runs

说明音频令牌的注意力在语言模型运行前即可预测

简介大型音频语言模型会把一分钟语音转为750至1500个令牌并全部预填充,计算开销大。本文发现,音频令牌在整个语言模型中将获得的注意力,可在语言模型运行前由其编码器输出线性预测,据此提出Triage方法,在语言模型运行前裁剪音频令牌,并在多选任务中于第2层用观测到的注意力校正预测。

看点发现音频token注意力可在语言模型运行前由编码器输出线性预测,并据此剪枝;在多个模型与任务上验证,证据较充分,影响限于音频大模型效率方向。

Kyoungjun Park, Yunzhe Li, Lili Qiu

arXiv cs.CV · cs.AI

Task-Utility IQA: Rethinking Image Quality Assessment in Embodied Tasks

说明任务效用导向的图像质量评估:重新思考具身任务中的IQA

简介本文指出,用于具身成像流程的图像质量评估不应只回归与通用人工评分对齐的分数,而应围绕具身任务效用进行目标条件化判断。作者提出一个基于多模态大模型的具身IQA智能体框架,用于推理任务需求、定位质量证据并给出面向决策的评估。在VisDrone上的一项小规模证据研究显示,传统感知指标和通用质量评分对下游视觉语言模型任务成功的预测能力较弱,而任务条件化的效用分数更能预测视觉输入是否支持目标任务。

Jirong Zha, Yanwei Liao, Yemin Wang 等

arXiv cs.LG

On Parameters of Nonlinear Scalar Dynamics from Video: Invariants, Calibration, and Identifiability

说明从视频中估计非线性标量动力学参数:不变量、标定与可辨识性

简介本文研究从视频像素中恢复已知形式的非线性标量二阶常微分方程参数的可辨识性问题。作者提出了一套理论,指出参数能否唯一确定取决于方程族的形式:有些参数可唯一辨识,有些只能辨识不变量组合,有些则需要外部物理标定。对速度至多线性的方程,理论给出明确的参数关系与标定条件;实验在合成系统及真实单摆和自由落体视频上验证了这些预测。

Wenjie Wang, Yuanyuan Wang, Zixiang Jiang 等

arXiv cs.GR · cs.AI · cs.CV

Diffusion Editing with Soft Mask: Pixel Level Redo of Image and Video with Adjustable Strength

说明基于软掩码的扩散编辑:可调强度的图像与视频像素级重绘

简介论文提出 SoftPaint,一种零样本采样方法,利用软掩码为每个像素指定不同的编辑强度,可以在完全保留原内容与完全重新生成之间连续调节。作者设计了基于 Langevin 迭代的采样器,适用于图像和视频扩散模型,可用于视频编辑等任务。该方法无需梯度计算、内存占用较低,并在多种图像与视频骨干模型上实现了平滑的像素级编辑。

Candi Zheng, Yuan Lan

arXiv cs.AI · cs.CE

Reasoning Externalization for Faithful Large Language Model Narratives of Stock Return Predictions

说明推理外化:让大语言模型对股票收益预测的解释忠于证据

简介该论文提出一种为横截面股票收益预测生成大语言模型解读的框架,结合了XGBoost模型六个月内SHAP重要性的时序变化证据,以及历史上相似变化的市场阶段类比。研究通过逐步提供原始SHAP序列、确定性时序描述和特征关系,考察推理外化的效果,并将生成内容与证据逐条核对。结果显示,外化数值与关系推理可提高证据忠实度,Qwen3-32B-Instruct的证据忠实度由0.696升至0.996;历史类比未提高自动评估的忠实度,但获得了更高的人工可用性评分。

Sujung Kim, Seung Hwan Cho, Sangjin Park 等

arXiv cs.AI · eess.AS

Talk2Agent: Benchmarking Voice Interfaces for Text Agents

说明Talk2Agent:面向文本智能体的语音接口基准评测

简介大语言模型计算机使用智能体通常用书面指令评测,但语音正日益成为与之交互的方式。论文提出Talk2Agent基准,基于WildClawBench和OSWorld构建人类口述版任务,评测多种语音接口(专用ASR、支持音频的大模型、上下文偏置及基于大模型的本体修复)如何准确传递指令。作者还提出一种无需执行的评测框架,用于衡量语音接口后保留了多少任务相关信息,并报告其在32小时真实语音上比WER/CER的皮尔逊相关性提高0.246。

Terumi Chiba, Guangzhi Sun, Zheqi Yuan 等

arXiv cs.AI

When Context Changes: Understanding Update Failures in LLMs

说明语境变化时:理解大语言模型的更新失败

简介论文研究大语言模型在偏好、目标或事实更新后,仍会用旧值回答的“过时绑定”问题。作者提出受控上下文记忆基准CICM,发现注意力漂移会使旧值比当前值获得更多注意力,并通过无需额外训练的注意力重定向干预,纠正了多数旧值错误。

Junyu Guo, Yuchen Fang, Shangding Gu 等

arXiv cs.CV

AdaOcc: Adaptive 3D Occupancy Prediction for Embodied Tasks

说明AdaOcc:面向具身任务的自适应三维占据预测

简介该论文提出一种基于点的自适应三维占据预测方法 AdaOcc,面向具身智能场景,可接受不同数量的 RGB 图像并结合估计深度或 LiDAR 数据。方法通过稀疏语义点和渐进式查询学习,使计算开销可通过查询点数量和解码层数灵活调整,并引入包含损失以约束预测点位于有效占据区域内。作者称其在 Occ-ScanNet 上取得新的最佳结果。

Jinglong Wang, Yunjie Wang, Zhiyang Zhang 等

arXiv cs.LG · cs.AI

GeoNest: Learning to Select Failure-Aware Neighborhoods for the Irregular Knapsack Problem in a Circular Container

说明GeoNest:在圆形容器中为不规则背包问题学习选择失败感知邻域

简介本文研究固定圆形容器中二维不规则背包问题,目标是提高材料利用率。作者提出GeoNest框架,用强化学习训练的图策略选择邻域,把失败的待放多边形与残余空间配对,并识别阻挡插入的已放置多边形,从而构造有界的修复子问题。在新提出的CircleNest-Bench基准(2,391个实例)上,相同时间预算下,GeoNest相比最先进的独立装箱求解器,平均利用率在三个主测试集上约提高0.9%,在留出的工业数据集上约提高0.6%。

Zhongman Du, Huiming Zhang, Linlin Yang 等

arXiv cs.RO · cs.AI

Efficient Multi-Modal Planning with Reward-Guided Preference Optimization for Autonomous Driving

说明基于奖励引导偏好优化的自动驾驶高效多模态规划(一种论文)

简介这篇论文提出了EMPlan方法,用于自动驾驶中的轨迹规划。该方法结合稀疏锚点与偏移量细化模块,实现高效的多模态轨迹预测,并通过规则奖励信号和非成对偏好监督进行微调,以提升安全性。作者在非反应式NAVSIM基准上进行评估,结果显示其在规划精度与效率之间取得了较好平衡。

Chenglin Chen, Lujia Wang, Xinhu Zheng 等

arXiv cs.CL · cs.DL · cs.IR

TRACE: Target-Aware Retrieval, Attributed Evidence, and Contract-Constrained Extraction for LitTraceQA

说明TRACE:面向 LitTraceQA 的目标感知检索、可溯源证据与受约束抽取

简介该论文针对学术文献问答任务,提出 TRACE 系统,用于从论文中获得可核验的答案,并附带精确证据。系统包括目标分组检索、证据定位、表格抽取与模式约束的验证机制,共索引 27,487 篇论文。在官方 71 题测试集上综合得分为 0.760613,其中表格行 F1 为 0.5423,论文 F1 为 0.9728;剩余错误主要来自定位、观测单元和行键。

Sachin Gupta, Divya Godara

arXiv cs.LG · cs.AI

Optimal Design for Active Preference Learning with Biased LLM Judges

说明带有偏差LLM评判者的主动偏好学习最优设计(一种面向人类偏好的比较选择方法)

简介本文研究在大语言模型对齐中,如何用带偏差的LLM评判者辅助主动偏好学习,以降低人工标注成本。作者提出“扰动调整最优设计”(NAOD)方法,在选择比较样本时剔除评判者偏差的影响,优先选取对目标人类偏好有信息量的比较,并用Frank-Wolfe算法求解。实验基于Chatbot Arena数据,在17个评判者、15种预算配置和15次随机划分下进行,NAOD使代理策略的平均遗憾降低29.1%,并提升了对留出数据的人类偏好预测。

Zhongman Du, Huiming Zhang, Haodong Zhu 等

arXiv cs.CV

Decoupling Spherical Reasoning from Dense Prediction for 360 Depth Estimation

说明将球面推理与稠密预测解耦,用于360度深度估计

简介该论文针对全景图的等距柱状投影(ERP)存在的空间畸变问题,提出在球面上的斐波那契球面图(FSG)中进行上下文推理,并通过球面上下文调制(SCC)模块将球面信息引导到像素级深度预测。作者称在三个基准数据集上,该方法的深度精度优于现有方法。

Zhijie Shen, Chunyu Lin, Shuai Zheng 等

arXiv cs.RO · cs.AI · cs.SY

Online Evolution Strategy for Flow-Matching VLA Policies via Self-Supervised Trajectory Distribution Optimization

说明面向流匹配机器人策略的在线进化策略:基于自监督轨迹分布优化

简介论文提出Online-ES,一种针对流匹配视觉-语言-动作(VLA)模型的在线适配框架。它基于进化策略,在动作轨迹空间中对生成的轨迹进行扰动并根据执行结果评估,再通过自监督MSE目标将进化方向迁移到模型参数中。原文称,该方法在仿真与真实环境中取得了与强化微调相当的策略改进,且无需学习价值模型或计算优势函数。

Gongxin Yao, Yongsheng Zhao, Jiayin Deng 等

arXiv cs.LG · cs.AI

Mitigating the Length-Scaling Tax with Online Distillation

说明用在线蒸馏缓解长度扩展税

简介该论文研究强化学习后训练中回答长度增长的副作用,将已解决问题上多余的回答长度定义为长度扩展税(LST)。作者提出长度自蒸馏(LSD)方法:对已解决的提示进行在线策略蒸馏,对未解决的提示保留原RL目标,教师模型为在线策略的指数移动平均,无需外部模型。文中称,单轮推理中LST从19.0%降至-3.7%,多轮智能体任务中从31.4%降至13.7%。

Xu Wan, Wenyue Xu, Shengjie Zhao 等

arXiv cs.LG

Visualizing Distribution Coverage in Generative Diffusion Models

说明可视化生成式扩散模型的分布覆盖范围

简介扩散模型蒸馏常用于加速采样,人们普遍认为少步模型的生成质量可与多步教师模型相当甚至更好。本文提出用 pass@k(k 次独立采样中至少一个满足质量标准的概率)来检验蒸馏模型是否真正保留了教师模型的分布覆盖范围。研究发现,蒸馏训练目标的选择决定了少步模型是保留还是牺牲教师模型的覆盖能力,这一现象在图像和视频生成中均有体现。

Yifei Wang, Xiaoyu Wu, Tsu-Jui Fu 等

arXiv cs.CL · cs.AI · cs.CV

Where MLLMs Fail and Why: Causal Task Decomposition for Capability Failure Diagnosis

说明多模态大模型在哪里失败、为何失败:用因果任务分解诊断能力缺陷

简介本文提出一个因果分解框架,用于区分多模态大模型在组合任务中的失败是源于目标能力本身的缺陷,还是上游前置能力出错造成的连锁错误。作者构建了诊断基准CADET,包含10个复合任务、46个单元任务和超过33,000个人工标注问题。研究发现,提供正确的前置能力可消除认知类任务54%的错误,且少数关键前置能力贡献了大部分收益。

Xia Hu, Brian Potetz, Chun-Ta Lu 等

arXiv cs.AI · cs.CL 有代码

OpenJev-RLCD: A Working RLCD Implementation

说明OpenJev-RLCD:RLCD 的可用实现

简介该论文提出一种面向推理模型的校准决策强化学习方法(RLCD):模型先生成推理过程,再用严格正常化的评分规则对其随后给出的答案概率分布打分,以提高概率输出的校准度。在 Qwen3-1.7B 上的两个推理任务中,RLCD 在准确率上与 SFT、RFT/STaR、GRPO 相当或更好,在选择性预测上全面更优。代码与结果已公开。

Zhimin Gao, Pichao Wang

★★★★☆ 值得关注
arXiv cs.LG · cs.AI 有代码

Scoring Higher, Answering Worse: Mitigating Reward Hacking in Rubric-Based RL via Protocol-Level Rubrics

说明评分更高,回答更差:用协议级评分标准缓解基于评分标准的强化学习中的奖励作弊

简介论文指出,基于评分标准的强化学习中,各条标准以加权求和聚合会让模型用无关建议弥补关键缺失,导致评分升高而回答变差。作者提出协议级评分标准(ProRubric),将标准分组为少数维度,仅当维度内所有标准成立且无失败条款触发时才计分,从而在不改变优化器的前提下提升回答的恰当性,并在七个基准的平均表现上取得最佳结果。

看点指出加权求和聚合是Rubric奖励被钻空子的根源,并提出按协议维度分组聚合的新思路;实验覆盖临床与七个基准,但规模与对比范围有限。

Maoqi Liu, Junwei He, Bowen Zhang 等

arXiv stat.CO · cs.LG

Learn-Then-Differentiate Gradient Estimation

说明先学习再求导的梯度估计:用模型拟合模拟输出并对其求导,以估计梯度的统一理论框架。

简介本文提出一个统一框架,解释先学习再求导(LTD)方法究竟在对什么求导,以及它估计梯度的精度如何。对于具有加权表示的模型,LTD 实际上是对底层概率测度的学习表示求导。作者证明,拟合模型的精度保证可以转化为梯度及高阶导数的精度保证,在适当的光滑性条件下收敛速率接近标准蒙特卡洛速率。该框架还涵盖核回归、局部多项式回归和核岭回归的已有结果,并为多核学习和光滑神经网络提供进一步的保证。

Nifei Lin, Qingkai Zhang, L. Jeff Hong

arXiv cs.LG · cs.AI 有代码

scTrilemma: Balancing Identity, Invariance, and Fidelity in Single-Cell Representation Learning

说明scTrilemma:单细胞表征学习中身份、不变性与保真度的权衡

简介这篇论文针对单细胞RNA测序的表征学习,指出一个表征需同时保留生物学身份与状态、对干扰性背景保持稳健,并保留用于表达分析的基因水平变异。作者提出scTrilemma,一种潜在瓶颈变分自编码器,将表达相关变异分别导向嵌入、解码器或先验,并以单一重建目标训练,无需标注。在CZ CELLxGENE Census连续版本上的零样本评估中,该方法在三项需求上均表现领先。代码已公开。

Yunhak Oh, Yoonho Lee, Junseok Lee 等

arXiv cs.CV

FrameMorrow: Future-guided Frame Selection with Prospective Tokens for Long-Horizon Video Generation

说明FrameMorrow:面向长时程视频生成的未来引导帧选择方法

简介该论文针对长时程视频生成中历史帧选择的问题,提出 FrameMorrow 方法。它先预测一小组表示未来信息需求的前瞻性令牌,再依据这些令牌从历史中挑选相关的帧,而不是依据当前内容。该方法可即插即用于多种生成模型,论文称在五个基准和 11 个生成模型上,长程一致性、视觉质量和动作对齐均有提升。

Bo Yin, Xiaobin Hu, Jiaqi Zhao 等

arXiv cs.DS · cs.LG · stat.ML

Optimal VC Dimension of Contrastive Learning with Margin

说明带间隔对比学习的最优 VC 维

简介本文研究对比学习(用三元组“锚点、正样本、负样本”学习几何表示)的泛化能力。作者证明,在任意间隔参数 α∈(0,1) 下,该设定的 VC 维为 O(n/α²),改进了此前的 O(n log(n)/α²) 上界。同时给出匹配的下界 Ω(n/α²)(当 α≥max(n^{-1/2}, d^{-1/2}) 时),说明该界在常数因子内最优。

Dionysis Arvanitakis, Vaggos Chatziafratis, Yiyuan Luo 等

arXiv cs.LG

ReSCENE: Server-Side Replay for Structural Mitigation of Catastrophic Forgetting in Federated Continual Learning

说明ReSCENE:面向联邦持续学习中灾难性遗忘的服务器端回放方法

简介该论文提出ReSCENE方法,让每个客户端上传本地数据的小型浓缩代理,服务器保存历史任务的代理并与当前任务代理一起训练全局模型,以结构性方式缓解灾难性遗忘。服务器端采用时间herding策略把任务中积累的代理压缩为缓冲区,理论分析认为该缓冲区比完整累积更接近原始任务数据。在CIFAR-10、CIFAR-100和TinyImageNet上,ReSCENE相比七种基线取得最佳精度,平均精度最多高出31.1个点,同时客户端计算量最低仅为0.11倍,上传量最多减少179倍。

Sungmin Kang, Zhengzhong Tu, Sunwoo Lee

arXiv cs.CL

Scaling Parameter and Context in Attention: Native Sparse Attention from Mixture-of-Head

说明注意力机制中的参数与上下文扩展:基于多头混合的原生稀疏注意力(NAMOH)

简介论文提出 NAMOH,一种原生稀疏注意力机制,每个词元只激活 H 个注意力头中的 K 个,每个头仅保留分配给它的词元并在其子序列内做因果注意力。作者称,在总参数相同的条件下,该方法可优于全部激活的模型,并在长上下文推理上比同等激活参数的小型稠密模型更高效;其还可与 GQA 及现有稀疏注意力机制兼容。

Zizhuo Fu, Runsheng Wang, Meng Li