AI 算法 · 2026年9月29日(周二)

机器学习、人工智能、自然语言处理、计算机视觉、多智能体。

arXiv cs.AI

RankBuffer: Efficient Ranking-Based Rewards for Open-Ended Generation

说明RankBuffer:面向开放式生成的高效排序奖励方法

简介该论文提出 RankBuffer,用于开放式文本生成的强化学习奖励构造。它为每个查询维护一个有序的已评判回答缓冲区,先通过粗判断把新回答插入锚点区间,再仅对同一区间内的回答做局部精细排序,并将完整排序转换为有界排序奖励。在四个开放式基准上,它优于所有逐点奖励基线,并以显著降低的评判成本达到接近最强排序奖励基线的性能。

Zixuan Yang, Yiqun Chen, Qi Liu 等

arXiv cs.CV · cs.AI

FocusVTC: Efficient and High-Performance Visual Text Compression with Adaptive Resolution

说明FocusVTC:用自适应分辨率实现高效高性能的视觉文本压缩

简介该论文提出FocusVTC,将长文本渲染为图像以减少大语言模型的输入长度,并通过自适应分辨率解决固定分辨率下压缩与可读性之间的矛盾。方法结合低分辨率全局视图与选择性区域增强,并通过强化学习训练模型判断何时提高分辨率。实验显示,在RULER、LongBench等基准上表现提升,同时保持了通用多模态能力。

FangZhi Zhong, Xuerui Qiu, Yuqi Pan 等

arXiv cs.CV 有代码

VLM4Cluster: Benchmarking Deep Clustering In the Era of Vision-Language Pre-training

说明VLM4Cluster:视觉语言预训练时代的深度聚类基准评测

简介本文提出VLM4Cluster,一个面向图像聚类的综合基准。它实现了17种代表性方法,并在20个数据集上评测,涵盖经典、困难、细粒度、大规模和分布外等场景。研究还考察了对抗扰动鲁棒性、分布偏移下的泛化能力和计算效率。结果显示,语言辅助图像聚类在语义要求较高的基准上提升明显,泛化性更强,效率与效果的权衡更优;但在大规模和细粒度数据集上优势不稳定,且语言辅助并不能系统性地降低对对抗扰动的敏感性。

Yuanwei Hu, Bo Peng, Yuheng Jia 等

arXiv cs.RO · cs.AI

Where Predictive Supervision Goes Shapes What VLA Policies Learn

说明预测监督的目标形式如何影响VLA策略的学习

简介该论文研究用未来预测来改进视觉-语言-动作(VLA)策略时,预测监督的形式如何影响策略学到的视觉表征。作者在匹配目标构造、预测时域和训练条件的受控对比中发现,不同的预测接口会产生明显不同的预测结果和视觉表征。直接、与场景匹配的未来监督训练出的策略,在模拟和实物的分布偏移下表现出更强的鲁棒性。

Hanseul Kim, Jewon Yeom, Youngjoon Jeong 等

arXiv cs.CV

OCA: ODE-Driven Cross-Attention for Image-to-Point-Cloud Registration

说明OCA:用常微分方程驱动的交叉注意力,用于图像到点云配准

简介该论文针对基于学习的图像到点云配准中交叉注意力存在的注意力歧义问题,用常微分方程(ODE)对理想的图像与点云特征交互进行建模。作者据此提出ODE驱动的交叉注意力模块(OCA),通过ODE同时优化特征表示和注意力矩阵。OCA可以直接接入现有的配准框架,在五个基线方法和四个公开数据集上的实验显示,其配准召回率在标准、微调和零样本设置下分别最多提升5%、9%和15%。

Pei An, Jiaqi Yang, Yulong Wang 等

★★★★☆ 值得关注
arXiv cs.LG · cs.AI 有代码

Inducing Process Supervision from Outcome-Only Reinforcement Learning

说明从仅有结果的强化学习中诱导过程监督(说明:一种无需逐步标注、仅依据最终结果训练过程奖励模型的方法)

简介过程奖励模型可以对大模型推理的每一步给出反馈,但训练成本高,人工逐步标注难以扩展,蒙特卡洛估计也计算昂贵。本文提出TIPS框架,模型先生成思维链,再输出步骤标签和结果标签,奖励只取决于结果是否与标准答案一致。作者在数学和智能体基准及四个基座模型系列上验证了该方法;其中TIPS-Qwen3-4B-Thinking-2507在ProcessBench上达到85.2的F1,使用的结果标注轨迹仅3.2K条。

看点提出仅用结果奖励的强化学习来诱导过程监督,思路新颖;以ProcessBench上85.2 F1的结果验证,但仅覆盖数学与智能体基准,证据有一定局限。

Shengda Fan, Xin Cong, Zhong Zhang 等

arXiv cs.LG · cond-mat.mtrl-sci

A Digital Simulation Toolkit for Physics-Based Generation of Realistic Experimental Scanning Tunneling Microscopy Images

说明用于生成逼真扫描隧道显微镜图像的物理驱动数字仿真工具包

简介扫描隧道显微镜(STM)常用于原子尺度表面表征,但噪声敏感。本文提出一种低成本、基于物理的数字工具包:先仿真干净图像,再加入高斯电子噪声、1/f闪烁噪声、扫描线噪声、背景倾斜和机械漂移等伪影与噪声,生成可用于训练的逼真STM图像。作者以铜和铅的(111)表面为例,展示了该工具包在去噪任务中的应用,结果显示基于此类数据训练的监督模型在Cu(111)图像上去噪和学习电子波图样方面优于无监督方法。

Huanhuan Zhao, Laxmi Bhurtel, Connor Vernachio 等

arXiv cs.LG · cs.CV

PE-OPSD: Internalizing Prompt Enhancement into Flow-matching Models via On-Policy Self-Distillation

说明PE-OPSD:通过同策略自蒸馏将提示词增强内化到流匹配模型中

简介文生图模型通常需要详细的提示词,而用户常给出简短的提示。现有方法用提示增强器在推理时改写提示,会增加延迟。本文提出PE-OPSD,训练时让原始提示的学生模型沿自身生成轨迹学习增强提示教师模型的向量场目标,推理时去掉增强器和教师,直接用原始提示生成。

Mingfeng Lin, Chengfei Cai, Lin Xu 等

arXiv cs.LG · cs.IT · cs.MA

Bayes-Sufficient Compression Is Not Enough: How Does Communication Help Multi-Agent Systems?

说明仅靠贝叶斯充分压缩还不够:通信如何帮助多智能体系统?

简介本文研究多智能体大语言模型系统中,发送方传递的短消息何时能改善执行方的下一步决策,何时直接传递原始上下文更好,以及何时更强的发送方更有帮助。作者提出“接收方相对的有界协调”框架,并通过六个基准测试比较了不同通信方式的效果,结果显示同一协议在不同基准上表现差异明显。文中还提出一个推理时的选择器,用于在所评估的通信场景中改善准确率与成本的权衡。

Yi Xie, Zhanke Zhou, Yi Fan 等

arXiv cs.LG · cs.CL

What Makes Recurrence Effective in Looped Language Models?

说明循环语言模型中,什么让递归有效?

简介本文通过受控实验研究循环语言模型(LoopLM):通过参数共享增加计算深度,不增加参数。作者考察递归何时有益、应用于何处,以及其条件化方式如何影响性能。结果显示,递归可以在训练范围之外提升推理能力,但会损害知识类任务表现,且较难的推理题并不一致地获益更多。作者还提出历史状态注入方法,并结合时间步条件化,以更低成本、更好地应对不同推理预算。

Xinlin Zhuang, Siyuan Wang, Imran Razzak 等

arXiv cs.SE · cs.AI

WitnessGym: Benchmarking Coding Agents on the Construction of Bug Witnesses

说明WitnessGym:评测编码智能体构造缺陷见证(bug witness)的能力

简介论文提出WitnessGym框架,用于自动构建缺陷验证基准:向真实Java项目中被测试覆盖的路径注入缺陷,重建项目,并保留由构建时见证所暴露的案例。共构建1,300个基准案例,注入补丁与历史缺陷补丁相似,两个被评测模型在盲测中难以区分。论文还评测了四种编码智能体框架的六种框架/模型组合,结果显示即使已知缺陷模式,构造见证仍然困难。

Haomin Qi, Xiangzhe Xu, Yiming Huang 等

arXiv cs.LG

Physics-Aware Machine Unlearning for Cyber-Physical Systems

说明面向信息物理系统的物理感知机器遗忘

简介该论文提出一种物理引导的梯度上升机器遗忘方法,将遗忘信号与目标信息物理系统的物理残差结合,使遗忘过程中的权重更新指向物理可行区域。在IEEE 34节点配电系统上,以两个基于物理信息神经网络的分布式能源控制器为对象,并通过OpenDSS潮流联合仿真验证,与朴素梯度上升、精确遗忘、SISA和完全重训练等四种基线进行比较。作者称该方法同时去除了中毒行为并恢复了物理合规性。

Mohammad Zakaria Haider, Muhammad Nadeem, and Mohammad Ashiqur Rahman

arXiv cs.AI

Distilling Agentic Systems: A Roadmap across Models, Artifacts, and Harnesses

说明智能体蒸馏综述:模型、工件与执行框架之间的知识迁移路线图

简介现代智能体越来越依赖记忆、工具和执行逻辑,能力不再只存在于模型参数中。本文将智能体蒸馏定义为任务求解知识从教师智能体到学生智能体的持续迁移,并按知识保留的位置(模型内部、工件、执行框架或跨载体)对该领域进行梳理。作者还提出了一个评估框架,将知识保留与因果贡献及实际效用联系起来。

Ziluowen Luo, Senzhang Wang, Chaozhuo Li 等

arXiv cs.CV

Beyond Binary Preferences: Graded Preference Optimization for Limb-Motion Captioning

说明超越二元偏好:面向肢体动作描述的分级偏好优化

简介视觉语言模型生成视频描述时,常把动作归属到错误的人物或错误的肢体上,跨镜头切换时尤其明显。本文提出FlexBench基准,包含3105个镜头和18161条评估问题,并提出分级物理对齐评分GPA,对正确内容给分、对错误或捏造的动作扣分。在此基础上,作者提出GM-DPO方法,对更严重的动作错误赋予更大的偏好间隔和训练权重。在三个模型主干上,GM-DPO的GPA比DPO提高2.02至3.40分。

Yanan Wang, Tingsong Li, Kaixun Jiang 等

arXiv cs.AI

Semantic Projection for Continual Self-Evolution of Language Agents

说明用于语言智能体持续自我进化的语义投影方法

简介语言模型智能体依赖可持续更新的自然语言技能来适应新任务,但在任务不断变化时,为新任务做的改进可能覆盖旧任务所需的流程。本文提出语义范围投影进化(SSPE),把梯度投影的思想从参数空间转移到行为空间:先识别新修改可能干扰的已有能力,再依据观察到的收益与退化构造兼容的修改。在受控合成任务流和异构真实智能体基准上,SSPE相比强基线提升了最终跨领域能力并减轻了遗忘,迁移到另一执行模型后仍保持最佳平均表现。

Ziyu Liu, Jun Chen, Lixu Wang

arXiv cs.AI

DualTrack: Synchronized speech-gesture generation via symmetric coupling of pretrained priors

说明DualTrack:通过预训练先验的对称耦合实现语音与手势同步生成

简介该论文提出DualTrack方法,将预训练的语音与动作模型在共享的12.5 Hz时间轴上耦合,用于同步生成语音和手势。在43段BEAT2录音的评测中,该方法在英语和西班牙语输入上,词错误率、整体动作的Fréchet手势距离、节拍一致性和语音自然度均优于所评测的GELINA基线。

Yuanzhuo Hu, Zehan Liu, Xiaoyi Qin 等

arXiv cs.AI · q-bio.NC

Neural Structural Reasoner: A Brain-inspired Architecture for Reasoning over Structured Knowledge

说明神经结构推理器:一种受大脑启发、用于结构化知识推理的架构

简介本文提出神经结构推理器(NSR),一种受大脑启发的网络,把实体之间的关系结构直接保存在耦合神经元群的连接与动态中,用于知识图谱上的链接预测。在标准知识图谱基准上,NSR准确率具有竞争力,但并非在每个数据集上都领先;其报告的训练时间也低于若干神经基线。由于推理过程通过可读的神经元激活序列实现,模型可追踪中间推理步骤,并能提取潜在的关系层级与组合规则。

Zixing Jia, Yuhang Pan, and Ni Ji

arXiv cs.LG

SemPSG: A Semantic Channel-Aware Foundation Model for Polysomnography Analysis

说明SemPSG:面向多导睡眠图分析的语义通道感知基础模型

简介多导睡眠图(PSG)整合多种生理信号以全面刻画睡眠,但各中心的通道配置差异较大,给可迁移表征学习带来挑战。本文提出SemPSG,将通道身份的生理语义(信号模态与参考配置)显式纳入信号表征学习和通道聚合中,以适应不同数据配置。模型结合语义条件时间序列编码器与多视图图像编码器,并在睡眠分期、呼吸障碍分析、疾病预测、认知与情绪识别及人口学特征估计等任务上评估,结果显示其优于通用时间序列基础模型和PSG专用基础模型,并能在异构数据集间泛化。

Junyu Chen, Chenxi Liu, Shiqin Tang 等

arXiv cs.CL

Generating Edit-Inducing Questions for AI Research Manuscripts

说明为AI研究稿件生成可促使修改的问题

简介本文研究大语言模型能否生成“可促使修改”的问题,即作者回答这些问题后能改进论文草稿。研究使用ICLR和NeurIPS投稿与定稿配对的数据集,比较GPT模型(有无完整论文上下文)与人类审稿人所提问题的帮助程度。结果显示GPT提出的问题更多,且关联更广泛的修改与内容,但能促使修改的比例明显更低。

Sebastian Joseph, Zichao Wang, Jennifer Healey 等

arXiv cs.CV

CrossTimeEdit: A Decade-Spanning Cross-View Dataset and Reward-Guided Editing for Historical Street-View Generation

说明CrossTimeEdit:跨越十年的跨视角历史街景数据集与奖励引导编辑模型

简介历史街景影像记录了城市变迁,但覆盖不均,存在明显缺口。本文构建了VIGOR-his数据集,包含三大洲11个城市的43,653组位置四元组,并借助卫星影像的时间差异作为变化依据,把历史街景生成重新表述为编辑任务。作者基于FLUX.2 [Klein] 4B,通过监督微调和在线强化学习训练CrossTimeEdit模型,并以指令对齐、背景保持、质量与物理合理性三项指标作为奖励与评估标准。原文称其整体表现比预训练基线提升17.12%,并在场景一致性、视觉真实感和感知质量上优于跨视角生成模型。

Hanwen Lu, Jun He, Mingjia Yang 等

arXiv math.NA · cs.LG · cs.NA

CI-PINN: Causal Integral Physics-Informed Neural Network for Solving Evolution Equations

说明CI-PINN:用于求解演化方程的因果积分物理信息神经网络

简介物理信息神经网络(PINN)通过把物理定律加入训练损失来求解偏微分方程,但对演化方程,其常规的逐点时空表示没有显式编码时间依赖,可能影响预测精度。本文提出一种名为因果积分神经网络(CinNet)的新架构,核心是Volterra型因果积分项,用于汇总历史特征以编码时间依赖。在此基础上提出CI-PINN,在基准演化方程上的实验显示其解的精度优于多种PINN变体,在稀疏配点场景下优势明显。

Xiaodong Feng, Ziyu Sun, Tao Tang 等

arXiv cs.LG · cs.CY

Selective Elicitation as a Commercial Influence Channel: A Reproducible Synthetic Shopping-Agent Stress Test

说明选择性提问作为商业影响渠道:可复现的合成购物代理压力测试

简介论文研究商业激励能否不通过排序算法,而是通过影响购物助手提出的偏好问题来左右推荐。作者构建了一个小型合成实验:一个诚实模拟用户回答一个成对偏好问题,推荐器只看到商品和回答,不知道赞助关系。结果显示,针对性的对抗指令使赞助商品被选中的比例提高0.30,合成效用平均下降0.0547;柔性商业指令则未改变任何选择。作者强调,这些结论不代表广告激励下的典型行为,也不代表对真实消费者的影响。

Jiapeng Li

★★★★☆ 值得关注
arXiv cs.LG 有代码

Do LLMs Really Forget? Hidden-State Leakage in Model Unlearning and How to Fix it

说明大语言模型真的遗忘了吗?隐藏状态中的信息泄露及其修复

简介该论文指出,大语言模型的遗忘效果通常只在输出层评估,输出没有敏感内容并不代表信息已被清除,敏感信息仍可能保留在隐藏表示中。作者用生成式探测解码器在各层测量泄露,在TOFU、MUSE、WMDP三个基准上发现,即使输出指标显示遗忘成功,仍能从隐藏状态中恢复大量敏感信息。为此,论文提出对抗性表示抑制方法PARS,直接最小化隐藏表示中可提取的信息,据其结果在对抗探测和再学习攻击下优于所有对比基线。

看点揭示输出层遗忘与隐藏表示泄露的分离,提出对抗式表示抑制方法,并在三个基准上以层级探针验证,新颖性较突出。

Hadi Reisizadeh, Jiajun Ruan, Sijia Liu 等

arXiv cs.AI

Multi-Channel Mitigation of Source-Trust Shortcuts in Fact-Checking RL Agents

说明多通道缓解事实核查强化学习代理中的来源可信度捷径

简介检索增强的事实核查模型常会为每个证据来源附上可信度标签(如高或低)。论文提出TrustSwap反事实测试:在保持证据文本不变的前提下替换、降低或移除标签,并分别衡量判定、置信度和是否继续搜索三个输出通道。结果显示,标签变化会单独改变部分判定,部分设置下变化幅度较大;标准GRPO微调会在8B规模上放大这一捷径。作者提出的信任交换增强(TSA)在4B规模上降低了判定翻转率,8B规模上效果未能检测到。

Jianchang Su, Yiwei Yang, Wei Zhang

arXiv cs.LG

Communication-Efficient Agnostic Federated Learning via Faster Convergence and Compression

说明通过更快收敛与压缩实现通信高效的无偏知联邦学习(论文)

简介该论文研究无偏知联邦学习(AFL),目标是让模型在多个异构工作节点上都表现可靠,但通信开销是瓶颈。作者提出AFL-BR方法,利用KL散度的在线镜像上升与分块重启减少同步轮数,并在此基础上提出AFL-Com,结合双向压缩与误差反馈降低每轮通信成本。论文给出了相应的收敛速率与通信复杂度结论,实验验证了两种方法在同步与通信效率上的改进。

Haomin Bai, Junyan Sun, Sifan Yang 等

arXiv eess.SP · cs.LG

Best Practices in EEG Analysis: Preprocessing, Modeling, and Machine Learning

说明脑电图(EEG)分析的最佳实践:预处理、建模与机器学习

简介本章是一份实用的方法指南,介绍脑电图分析中的预处理(伪迹去除、滤波、坏道检测与插值、重参考、独立成分分析等)、常用分析方法,以及面向跨被试泛化、数据泄漏防范和公平基准测试的机器学习方法。全文同时强调可复现性,包括透明的预处理流程、BIDS-EEG 数据组织和 FAIR 数据原则。

Parsa Razmara, Woojae Jeong, Aditya Kommineni 等

arXiv cs.LG · cs.CL

Act First, Reason Later: Accelerating On-Policy Distillation for Multi-Turn Agents via Reference-Conditioned Inverse Dynamics

说明先行动、后推理:利用参考条件化逆动力学加速多轮智能体的同策略蒸馏

简介本文针对多轮语言智能体的同策略蒸馏(OPD)训练效率低的问题,提出ActFirst-OPD框架,将环境交互与完整回复生成解耦。学生模型借助参考下一观测,通过条件化逆动力学先推断并执行动作,偏离参考轨迹时切换为自主预测。实验基于0.6B、1.7B和4B参数的Qwen3学生模型,在ALFWorld、WebShop和ScienceWorld上相比Vanilla OPD分别实现平均2.3倍、1.8倍和4.9倍的训练加速。

Zubin Zheng, Jiahao Wu, Shaofeng Zhang 等

arXiv cs.CV

Pixel-wise Exposure for Highly Robust In-Vehicle Remote-PPG

说明逐像素曝光:提升车内远程光电容积脉搏波(rPPG)的鲁棒性

简介本文针对车内强光环境下远程光电容积脉搏波(rPPG)心率监测易受曝光不均影响的问题,提出PixExpo方法:按预设循环曝光序列连续拍摄多帧,再对每个像素逐点选取最接近rPPG目标亮度的观测值进行融合,无需修改传感器。在作者新建的MEX-Drive数据集(48名真实驾驶场景参与者)上,相比厂商默认自动曝光,平均绝对误差由13.94 bpm降至6.73 bpm,成功率由25.95%提高到63.24%。

Jieying Wang, Xinqi Cai, Caifeng Shan 等

arXiv cs.AI

SAKI: Maximal-Coupling-Routed Teacher Supervision for On-Policy Distillation

说明SAKI:基于最大耦合路由的教师监督在线策略蒸馏方法

简介本文提出SAKI方法,用于在线策略蒸馏(学生在自身生成的轨迹上训练,并由教师指导)。方法结合受KL约束的教师引导采样与最大耦合,并利用采样过程中的接受与修正事件,为不同位置分配token级监督:接受位置保留采样token的反向KL监督,修正位置则直接监督教师概率最高的token。作者在七个数学推理基准上报告,SAKI在1.7B和0.6B两种学生模型上,Mean@8与Pass@8均优于匹配的教师引导基线。

Miteto Wei, Xiaohan Wang, Zehao Chen 等

arXiv math.OC · cs.AI · stat.ML

Second-Moment Stochastic Approximation Methods

说明二阶矩随机逼近方法:一类同时估计一阶和二阶矩的优化方法

简介经典随机逼近方法只依赖随机回归函数的一阶矩(均值)估计。本文研究同时使用一阶和二阶矩估计的方法,Adam、Muon等现代深度学习优化器是其特例。作者从求解矩阵方程的最优预条件角度推导这类方法,并提出分两阶段的收敛分析框架。实际方法在精确矩被估计量替代后,几乎必然收敛到目标解的一个邻域,邻域大小取决于矩估计的偏差和方差,并给出了Muon及一种谱型Adam的具体界。

Tao Jiang, Lin Xiao

arXiv cs.CV · cs.AI · cs.LG

Scaling Video Generation for Reasoning: At What Cost?

说明视频生成的推理能力扩展:代价有多大?

简介本文研究扩大视频生成模型规模能否让模型从过去帧中推断隐藏信息,以及需要多少计算成本。作者用可精确判定结果的 2x2x2 魔方基准测试,要求预测九步操作后的可见贴纸状态。结果显示,验证集 MSE 大致呈幂律下降,但较低的 MSE 并不可靠地反映推理能力;小模型在有限算力下状态准确率更高,大模型需要更多训练才能达到更高准确率。

Weihang Guo, Xiaoyu Wu, Yifei Wang 等

arXiv cs.CV 有代码

Beyond Legibility: Benchmarking Visual Text Rendering and In-Place Editing in Unified Video Generation

说明超越可读性:统一视频生成中视觉文字渲染与原位编辑的基准评测

简介该论文提出 VidScribe 基准,用于评测视频生成中视觉文字的渲染与编辑能力,涵盖从语言生成文字、参考迁移文字身份、动态中保持文字、局部文字编辑四类任务,共 803 个人工核验样本。研究评测了 11 个商用及开源系统,发现视频文字能力并非单一维度,且 V2V 编辑是主要瓶颈。论文还表明基于该基准的偏好优化能显著提升视觉文字生成效果。

Ziying Zhang, Litao Li, Junchao Liao 等

arXiv cs.RO · cs.AI

Simple Agentic Memory for Generalist Robot Policies

说明面向通用机器人策略的简易智能体记忆(SimpleARM):一种无需训练的记忆层,用于让机器人在执行中记住与任务相关的状态

简介论文提出 SimpleARM,一种无需训练、可附加在冻结的通用机器人策略上的记忆层。它根据任务指令确定需要监控的内容,用冻结的感知工具在线维护紧凑的类型化状态,并在子目标依赖历史时检索该状态。在 RoboMME 基准的 16 项依赖记忆的操作任务、三个策略随机种子上,SimpleARM 平均成功率为 67.17%,高于最强的非理想基线的 44.51%。

Yuyou Zhang, Yunbei Zhang, Miao Li 等

arXiv cs.GR · cs.AI

Text2Sim: Agentic Physics-Based Simulation Generation with Distilled Expertise

说明Text2Sim:基于蒸馏经验的智能体物理仿真生成

简介该论文提出Text2Sim,一个面向仿真的智能体流程,可将纯文本需求转换为可执行、可编辑的动态物理场景,基于Genesis构建,包含规划器、专用编写器、资产生成工具和独立评审器。论文从图形学演示中提炼出Debug Card技能库用于执行式修复。在42个保留提示词上,Text2Sim在物理质量与视觉质量的自动评分上均高于四个最先进基线,盲测用户研究中也有更多参与者偏好它。

Xiaoyu Xiong, Tsun-Hsuan Wang, Yi-Ling Qiao 等

arXiv cs.CL · cs.LG 有代码

SEED: Self-Speculative Decoding via Implicit Encoder-Decoder

说明SEED:通过隐式编码器-解码器实现的自推测解码

简介该论文提出SEED方法,用于加速大语言模型推理。它把标准仅解码器Transformer看作隐式编码器-解码器,复用验证阶段已算出的深层上下文表示来快速生成草稿词元,再由完整模型验证。论文报告在多个基准上,4B规模模型平均加速最高达2.7倍,并比EAGLE-3快28%,同时保持或提升生成质量。

Hankun Lin, Patrick Pynadath, Ruqi Zhang

★★★★☆ 值得关注
arXiv cs.RO · cs.AI · cs.MA

Cooperative Multi-Agent Vision-Language-Action Models via Reinforced Fine Tuning

说明基于强化微调的多智能体视觉-语言-动作协作模型

简介本文研究多机器人协作的视觉-语言-动作(VLA)模型的强化学习微调方法。作者提出三阶段流程:先按初始化配置收集数据,仅在预训练模型反复失败时引入人工示范;再按单个智能体的轨迹进行基于信用筛选的离线微调;最后在冻结模型的潜在噪声空间中进行在线强化学习。实验涵盖 RoboTwin、RoboFactory 及两台 Franka 机器人的真实操作任务,论文报告平均成功率分别提升 23.1%、16.4% 和 44%。

看点三阶段强化微调流程,结合信用过滤与潜空间RL,在11项任务上验证,对多机器人VLA有实质改进。

Ruixiao Xu, Wong Lik Hang Kenny, Zhiqian Liu 等

arXiv cs.LG

Learned Reporting Preferences in RLVR Can Conflict with the Current Request

说明强化学习中学到的报告偏好可能与当前请求相冲突

简介本文研究在可验证奖励强化学习(RLVR)中,强化某种答案报告格式可能削弱模型对另一种格式请求的遵循。在GSM8K上,以方框格式训练的Qwen2.5-7B在五个随机种子中有四个显著降低了按要求输出哈希格式结果的比例。结论表明,仅看约定匹配的准确率无法全面刻画后训练行为,还应同时评估当前请求的遵循程度。

Yupeng Chang, Wenxuan Zhang, Yuan Wu

★★★★☆ 值得关注
arXiv cs.AI · cs.CL · cs.LG

Transformers Stop Thinking Too Early, and a Tiny LoRA Fixes It

说明Transformer过早停止思考,一个微小的LoRA即可修复

简介这篇论文发现,预训练Transformer在上下文中追踪引用时只用了很少的深度,13个基础模型只能可靠地跟随1.4至3.6行。作者在冻结全部权重的情况下,在早期一层加入秩为8的LoRA,显著延伸了这种计算能力,例如Qwen3-8B在24行链条上的精确率从15.5%提高到99%。

看点发现预训练模型深度利用不足,并用冻结模型加秩8的LoRA将链式引用推理从15.5%提升至99%,证据较扎实,对子领域影响较大。

Zehao Jin, Ruixuan Deng, Junran Wang

arXiv cs.LG · cs.AR

Making Analog Training Scale: Co-Designing Mapping, Optimizer, and Converters

说明让模拟训练可扩展:映射、优化器与转换器的协同设计

简介模拟存内计算(AIMC)直接在存储权重的位置执行矩阵运算,可用于模型训练,但受硬件非理想性限制,难以扩展到现代深度模型。本文提出一套系统与算法协同设计框架,包括优化权重映射、结合预条件优化器与阈值触发的开环脉冲,并对齐转换器动态范围以抑制量化误差。在经电化学RAM测量校准的仿真中,Transformer训练可扩展至1.23亿参数,验证损失随参数量N按N^-0.231缩放,与数字训练的N^-0.238相近。

Zhaoxian Wu, Tayfun Gokmen, Omobayode Fagbohungbe 等

arXiv cs.AI

MemEvo: Automatic Discovery of Streaming Video Memory Mechanisms

说明MemEvo:自动发现流式视频记忆机制

简介该论文面向流式视频理解,研究视觉语言模型如何在查询未知时把不断增长的视觉流压缩进有限记忆。作者将记忆设计表述为对可执行记忆程序的搜索,提出轻量领域专用语言,并设计基于大语言模型、结合实验反馈迭代改进候选程序的框架 MemEvo。在 StreamingBench 和 OVO-Bench 上的实验显示其流式视频理解性能较强,且上下文与推理效率较高。

Guohong Liu, Jialei Ye, Shanhui Zhao 等

arXiv cs.AI

SafeCoEvo: Co-Evolving Safety Harnesses and Guards for LLM Agents at Test-Time

说明SafeCoEvo:在测试时共同进化的LLM智能体安全外挂与守卫框架

简介本文针对部署在真实环境中的LLM智能体,提出测试时安全框架SafeCoEvo,使外部安全系统能够利用运行中积累的经验持续自适应。该框架以两种时间尺度协同工作:S-Harness将近期运行经验快速转化为可更新的显式安全知识,GuardVPO则将长期积累的经验内化为参数化的风险判断能力。据论文报告,相比最强基线,其不安全结果率降低10.05%,任务成功率提高12.15%。

Yu Cheng, Yongkang Hu, Shuaijie Ma 等

arXiv cs.LG · cs.AI

Factorized Scheduling Principle: Learning Interpretable and Transferable Policies via Structured Additive Functions

说明因子化调度原理:通过结构化加性函数学习可解释且可迁移的策略

简介该论文提出因子化调度原理(FSP)框架,用于学习可解释、可迁移的调度规则。框架将系统状态表示为条件分布,并把全局调度原理分解为带可识别性约束的单变量与成对加性分量,部署时保持简单的优先级结构。实验表明,该方法在合成与实际调度任务上性能良好、可解释,并能在不同系统规模间实现零样本泛化。

Hong Je-Gal, Hyun-Suk Lee

arXiv cs.RO · cs.AI · cs.CV

DriftOPD: Sequence-Level Reverse-KL Distillation for One-Step VLA Policies

说明DriftOPD:面向一步式视觉-语言-动作策略的序列级反向KL蒸馏

简介该论文提出DriftOPD,一种无需教师模型、无需策略回放的框架,用于对连续动作的视觉-语言-动作(VLA)模型进行序列级在线策略蒸馏。作者将序列级反向KL散度分解为块级反向KL项和反映长期影响的未来潜力项,并分别用一步漂移目标和离线演示学习的Q函数评论家进行优化。实验表明,该方法在仿真和真实机器人操作中通常优于现有一步蒸馏基线,性能与多步教师策略相当。

Youngjun Jun, Kyumin Choi, Youngmin Kim 等

arXiv cs.SD · cs.AI · cs.CL 有代码

Long-Term Memory-Guided Enhancement for Target Perception in Audio-Language Models

说明基于长期记忆引导的音频语言模型目标感知增强

简介音频大语言模型在背景噪声和干扰声源混杂时,对目标声音的理解能力通常会明显下降。本文提出长期记忆引导音频增强方法(LTM-AE),从各类别的干净参考录音中提取隐藏状态表示作为长期记忆,在不训练模型参数的前提下,对输入音频令牌进行重构并与原始令牌插值,以增强对指定目标声音的感知。在二十个声音类别和三个模型上的实验显示,该方法在三个干扰源并存时,对指定目标的识别准确率较原始混合音频有明显提升。

Zhenhong Zhou, Xuanyue Zhao, Youji Liu 等

arXiv cs.AI

Divide and Inject: Can Agents Reconstruct an Indirect Prompt Injection from Fragments?

说明分而注入:智能体能否从碎片中重构间接提示注入攻击?

简介该论文提出自适应长上下文提示注入方法AdaLCPI,把攻击目标拆成不完整的片段,嵌入智能体工具检索到的外部内容中,再用重构提示引导智能体拼合。方法借助OpenEvolve对片段和提示进行迭代优化。实验显示其攻击成功率宏平均为61.4%,高于对比基线(32.8%和30.0%)。作者认为安全评测应检验智能体在从不完整碎片重构有害目标时是否仍然稳健。

Michael Lee, Zhipeng Wei, Yue Dong 等

arXiv cs.AI

Visual sensitivity is not claim retractability: persistence-aware credit assignment for multimodal reinforcement learning

说明视觉敏感度不等于论断可撤回性:面向多模态强化学习的持续性感知信用分配

简介该论文研究多模态强化学习中视觉论断的信用分配问题。作者发现,训练前Qwen2.5-VL-7B在四个多模态推理基准的正确回答中,有27.81%含有至少一条图像不支持的直接视觉论断,而结果级奖励会把正确答案的正向信用也赋予这些论断。论文提出持续性感知信用门控(PACG),对异常持续的视觉论断削弱正向信用,无需监督标签且不增加推理成本,在九个基准上取得平均提升。

Zhongan Bi, Kepeng Lin, Xuanang Gao 等

arXiv cs.LG · cs.AI

From Checkpoint Variation to Selection Gains in Supervised Fine-Tuning

说明从检查点差异到监督微调中的选择收益

简介本文研究监督微调中如何从多个训练检查点中选出最终保留的一个。作者在固定训练轨迹和独立测试集的条件下,分别考察增加验证数据、优于负对数似然选择以及优于直接保留最终检查点三类收益。在数学与常识两个领域的实验中,增加验证数据带来的提升得到确认,而相对最终检查点的收益仍无法确定,三类主张需分别提供证据。

Yupeng Chang, Wenxuan Zhang, Yuan Wu

arXiv cs.LG

Sharp Convergence and Sampling Trade-offs for Riemannian Diffusion under Nonnegative Ricci Curvature

说明非负Ricci曲率下黎曼扩散模型的收敛与采样权衡

简介本文研究黎曼流形上扩散生成模型的收敛速度与采样复杂度。作者提出一个将分数函数离散化与布朗运动模拟分开的通用框架,允许每次分数评估之间进行多步测地线随机游走。在非负Ricci曲率假设和精确布朗运动模拟假设下,论文证明约O(d/ε²)次分数评估即可使KL散度达到ε²,与欧氏扩散模型的已知收敛速率相当。

Yuhao Liu, Longbo Huang

arXiv cs.CV

AffectReveal: Event-Grounded Emotion Recognition Beyond Visual Appearances

说明AffectReveal:超越视觉外观、基于事件的情绪识别

简介该论文指出,仅凭画面中可见的表情或动作往往不足以判断情绪,例如眼泪可能表示悲伤也可能表示喜悦。作者提出事件驱动情绪识别任务,构建了包含10,052个视频和10,734张图像、涵盖11种情绪的EGER-Bench数据集,并提出无需调参的AffectReveal框架,通过双向原子证据验证来恢复影响情绪的事件。实验显示,该框架在三个下游模型和四种输入设置下,平均UAR提升约为所列区间内的数值。

Yihao Qian, Runhao Zeng, Sicheng Zhao 等

arXiv cs.CV · cs.AI · cs.LG 有代码

ThinkingGuard: Decoding Implicit Hazards via Step-by-Step Risk Attribution in Multimodal Large Language Models

说明ThinkingGuard:通过分步风险归因识别多模态大模型中的隐性危害

简介多模态大语言模型用于安全关键领域,但单独看无害的文本与中性视觉元素组合后可能诱发不安全输出,即隐性风险。作者构建了包含5,600个样本的TriggerBench数据集,用反事实对比对建模风险组合,并提出分步监督的结构化推理训练框架,训练出安全防护模型ThinkingGuard。文中称其在标准与隐性安全基准上表现较强。

Ruochen Zhang, Yao Huang, Yitong Sun 等

arXiv cs.CV · cs.AI

FM-ReID: Selective Competitive Token Routing for Object Re-Identification

说明FM-ReID:面向物体重识别的选择性竞争式令牌路由方法

简介该论文针对物体重识别中不同个体外观相似、可区分线索局部分布的问题,提出端到端框架FM-ReID。其竞争式细粒度挖掘模块让多个挖掘查询与一个残差查询竞争DINOv3的密集令牌,并通过高于先验的选择保留分配到的令牌,不依赖固定空间划分。该方法与整体表示联合训练,在动物、行人和车辆重识别基准上取得较强结果。

Zhiqi Li, Xiaowei Zhou, Zeyuan Sun 等

★★★★☆ 值得关注
arXiv cs.LG · cs.AI 有代码

HiTS-CL: A Continual Learning Framework for Long-Horizon Temporal Knowledge Graph Extrapolation

说明HiTS-CL:面向长时程时序知识图谱外推的持续学习框架

简介时序知识图谱推理通常只在时间线前段训练一次,之后冻结模型用于所有未来时间点,难以适应非平稳的数据流,长时程下性能会下降。本文将外推式时序知识图谱推理视为对流式快照的持续学习,提出一种与骨干模型无关的框架HiTS-CL,通过持续微调跟踪当前动态、多教师自适应蒸馏保留稳定知识,并用选择性记忆保留近期与高频的历史事实。作者在五种代表性骨干模型和四个基准数据集上进行了验证,结果显示该框架提升了外推准确率并减缓长时程性能退化。

看点将时序知识图谱外推重新表述为流式快照上的持续学习,并结合微调、多教师蒸馏与历史记忆;在五个骨干和四个数据集上验证,优于强基线。

Yansong Liu, Rui Liu, Yuan Zuo 等

arXiv cs.CV · cs.AI

How Medical VLMs Underutilize Their Vision Encoders: A Dermatology Perspective

说明医学视觉语言模型为何未能充分利用其视觉编码器:皮肤科视角

简介该论文研究医学视觉语言模型(VLM)中视觉编码器与完整多模态模型之间的性能差距,以皮肤科为主要测试场景。在皮肤科任务中,MedSigLIP 编码器平均比 MedGemma 高出 10.26 个百分点。作者提出并检验了三种假设,并通过注意力分析发现,先描述后判断的提示策略可使生成过程中的视觉注意力提升 30%至40%。论文还提出无标签提示与少量标签编码器辅助重排序相结合的方法,在保持VLM冻结的前提下,于五种VLM骨干上进行了验证。

Janet Wang, Yunbei Zhang, Xiao Wang 等

★★★★☆ 值得关注
arXiv cs.AI 有代码

MAADBench: The Refreshable Paradigm for Anomaly Detection in Multi-Agent Systems

说明MAADBench:面向多智能体系统异常检测的可刷新基准

简介该论文提出 MAADBench,这是首个可刷新的多智能体大模型系统异常检测基准,用于应对任务泄露、轨迹与异常模式过期等问题。它结合采样耦合的生成任务、可配置大模型底座下的可刷新轨迹生成,以及自动提供的步骤级标签。作者用五种大模型底座发布了含 5200 条带步骤标签轨迹的数据集,并测试了 25 种异常检测方法,结果显示现有方法依赖监督、难以识别细微异常且跨底座鲁棒性不足。

看点提出可刷新的多智能体异常检测基准范式,并在五种骨干和25种方法上做了系统评测,揭示现有方法的明显局限。

Lei Ma, Dennis Hofmann, Haowen Xu 等

arXiv cs.LG · cs.AI

SERA: Scale-Equalized Rollout Allocation for Maximum Likelihood Reinforcement Learning

说明SERA:面向最大似然强化学习的尺度均衡采样分配方法

简介该论文针对最大似然强化学习(MaxRL)在有限采样次数下的梯度偏差问题,提出 SERA 方法。它在固定采样预算内重新分配每个提示的采样次数,使各提示的有限采样缩放因子大致相等。实验显示,在受控的 ImageNet 设置中,其与精确似然梯度的一致性更强;在迷宫导航和数学推理任务上,在相同训练采样预算下,多样本解覆盖率优于 MaxRL。

Zihao Chen, Fanxiang Xiong, Hongran Ren 等

arXiv cs.CL

Grounded Revision vs. Prior Injection: Probing Retrieval-Augmented Patent Claim Amendment

说明基于检索的修订与先验注入:检索增强的专利权利要求修改探究

简介该研究以美国专利商标局7385份审查案例为数据,检验检索增强生成能否真正依据检索内容修改专利权利要求,还是只是注入模板。作者用确定性指标在四种前沿大模型上完成9600次预先登记的测试,结果未发现明显的先验注入行为,检索效应很小且方向不一致。

Josepha Michiko Leo, Hyun-seok Min, Yehoon Jang 等

arXiv cs.LG · cs.AI

Interactive-Policy Distillation with Bidirectional Propose-and-Verify

说明基于双向提议与验证的交互式策略蒸馏(IPD)

简介本文研究如何让学生模型在自身生成的推理轨迹上学习教师模型的逐词反馈。作者指出,常规的在线策略蒸馏(OPD)可能因学生轨迹偏离教师而导致监督不可靠,并提出交互式策略蒸馏(IPD),让学生与教师交替担任提议者和验证者,协作生成混合来源的轨迹,并按每个词元的来源施加不同监督。论文报告,在数学推理任务上,IPD训练的学生模型优于OPD,且所需训练样本和步数更少。

Shutong Wu, Xiwen Chen, Brendan Rappazzo 等

arXiv cs.CV

SCCM: Spherically Consistent Coarse Matching for ERP Dense Feature Correspondence

说明SCCM:面向等距柱状投影全景图的球面一致粗匹配方法

简介该论文针对360度全景图(ERP等距柱状投影)的稠密特征匹配问题,指出ERP的经度接缝、纬度相关的拉伸和非均匀像素面积三种畸变会使为透视图像训练的匹配器性能下降。作者提出SCCM方法,在粗匹配阶段加入球面位置注意力和面积感知共视门控两个先验,在Matterport3D上将PCK@1°从0.230提升到0.275,并优于ERP原生的EDM和在ERP上重新训练的RoMa V1。

Gyeonggwan Lee, Eunsoo Im, Seunghwan Hong 等

arXiv cs.CL · cs.AI · cs.ET

DraftTrace: A Multi-View Analytics Environment for AI-Integrated Writing

说明DraftTrace:面向 AI 辅助写作的多视角分析环境

简介论文提出 DraftTrace,一个同时记录成品、写作过程以及与集成 AI 助手交互的写作环境,并能重建文档随时间的演变。研究者在一门研究生 NLP 课程中用 81 名学生进行部署,比较了正常写作、自动工具输入的 LLM 回答和复制输入的回答。结果显示,成品指标能区分文本表述差异,过程指标能区分文本输入方式差异,两者结合有助于识别复制输入等情况;学生在写作早期用助手澄清问题,后期用来核对答案。

Divyansh Chandarana, Sandipan De, Vivek Gupta

arXiv cs.RO · cs.LG

Reactive Real-Time Flow Policies via Asynchronous Distribution Alignment

说明基于异步分布对齐的实时反应式流策略:让机器人在执行动作时仍能及时响应环境变化

简介本文研究视觉-语言-动作模型(VLA)在异步执行时的动作分布是否与原模型一致。作者发现,对于非马尔可夫演示,异步执行可能产生根本不同的动作分布,从而限制策略的反应能力。为此提出递归流场蒸馏与提议-择优两种机制,使异步策略的动作分布与原VLA对齐。论文报告,该方法在LIBERO上达到原VLA的成功率,在RoboMimic上保留约80%的成功率,比现有异步方法高约30个百分点。

Moritz Zoellner, Reece O'Mahoney, Ioannis Havoutis 等

arXiv cs.CL

When Updating Stops Being Learning: Rethinking LLM Self-Evolution via learnable information gain

说明当更新不再是学习:基于可学习信息增益重新审视大模型自我进化

简介论文指出,大语言模型用自身生成的数据迭代自我进化时,性能会先提升、再停滞、最后下降。作者提出以可学习信息增益衡量每轮相对上一轮带来的新信息,并用小模型拟合上一轮数据、以负对数似然估计该增益。基于此提出ATRI方法:在轮内对样本重新加权,并在信息增益持续较低时停止跨轮训练。作者称在常用数据集上的实验验证了该方法的优越性。

Chenxu Wang, Chaozhuo Li, Xinze Shi 等

★★★★☆ 值得关注
arXiv cs.CL · cs.CY · cs.IR 有代码

Retrieval Sensitivity to Identity Signals in Queries

说明检索模型对查询中身份信号的敏感性

简介该论文研究稠密检索模型是否会因用户查询中体现的政治立场和方言而产生偏差,测试领域包括政治新闻和消费者健康问题。研究发现,五种稠密检索器和一个稀疏基线模型都会检索与查询政治倾向一致的文章,并且对非裔美国人语(AAL)提出的问题表现比白人主流英语(WME)更差。作者通过探测实验表明,这些差距不仅来自表层词汇,还与查询嵌入中编码的立场和方言信息有关。

看点首次系统考察用户身份信号(政治立场、方言)对稠密检索器结果的偏差,并用合成集与自然查询双重验证,且排除词汇表层解释。

Andrew Tang, Nicholas Deas, Kathleen McKeown 等

arXiv stat.ML · cs.LG

Hierarchical Utility Calibration for Structured Multiclass Decisions

说明结构化多类别决策的分层效用校准

简介本文研究多类别概率预测中的效用校准(UC)在标签层级结构下的表现。作者证明,已实现效用与预测平均效用之差可精确分解为标签树内部节点贡献之和,且不同节点的正负贡献可能相互抵消,因此整体校准误差较小时,层级内部仍可能存在较大的效用误差。为此,作者提出分层效用校准(HUC),在求和前逐节点评估贡献,并给出有限样本评估及只更新违规内部节点的HUC-Boost方法,均附有理论保证。

Futoshi Futami, Jerry Huang, Ichiro Takeuchi

arXiv cs.CV

Foresight at the Event Boundary: Evaluating Physical Prediction in Video World Models

说明事件边界上的预见:评估视频世界模型中的物理预测能力

简介该论文针对视频世界模型能否预测事件后果进行评估:在物体释放或撞击刚发生但后果未展示时,模型能否预判下一步。研究基于62段受控的自由落体实拍视频及124个片段,并标注释放与撞击时间和真实轨迹。结果显示,部分模型能生成释放与撞击事件但常明显延迟,另一些模型则常保持事件前状态;此外,还开展了15人、20种条件的人类预测实验作为对照。

Estela Monserrat Arriaga Santana, Julian Rosas Scull, Eh\'ecatl Sacamch'en N\'u\~nez Rico 等

arXiv cs.LG · cs.CL

Triadic Linear Attention: Three-Dimensional Recurrent States for Long-Context Sequence Modeling

说明三元线性注意力:用于长上下文序列建模的三维循环状态

简介循环神经网络把历史上下文压缩进固定大小的记忆状态,线性注意力把记忆从向量扩展为矩阵。本文提出三元线性注意力,将一个键、第二个键和一个值的三元外积写入三阶张量状态,并用两个查询同时收缩两个键维度来读取。实验表明,将其应用于Gated DeltaNet和标量门控线性注意力后,长上下文语言建模与召回能力明显提升,且优于单纯扩大状态的替代方法。

Oliver Sieberling, Bharat Runwal, David Jin 等

arXiv cs.LG · physics.comp-ph

SCOPE: Observation-Conditioned Full-Target Prediction for Sparse PDE Inference

说明SCOPE:面向稀疏偏微分方程推断的观测条件全场预测

简介该论文提出SCOPE方法,利用稀疏观测恢复完整的物理场。它将全场潜变量预测与物理重建相结合,通过共享解码器同时训练,并在五类偏微分方程任务上进行了实验。结果显示其在十项正反问题上优于掩码感知神经算子,误差也低于DiffusionPDE和FunDPS等扩散式求解器。

Ruichen Xu, Siyao Wang, Fang Wan 等

arXiv cs.LG · cs.AI · cs.CL

Adapting Context Compression for Long-Horizon Agents with Counterfactual Continuations

说明用反事实续写优化长时程智能体的上下文压缩方法

简介长时程智能体需要压缩不断增长的交互历史,但压缩质量最终取决于下游执行效果。本文提出PAIR方法,通过对同一智能体状态下有压缩与无压缩的匹配反事实续写进行对比,找出导致后续执行变差的个别压缩事件,并修订结构化压缩提示模板的相关部分。实验显示,PAIR在各主要基准中取得压缩方法里最强的跨运行可靠性,且不修改下游智能体。

Guanghui Min, Liang Wu, Mingjia Shi 等

arXiv eess.IV · cs.AI

Reliability Testing of Medical Model Performance under Distributed Deployment

说明分布式部署下医疗模型性能的可靠性测试

简介本文指出,医疗模型在集中式评测中表现良好,但部署到张量并行、混合精度等分布式推理环境后,同一模型与输入可能产生不同输出。作者提出一套测试框架和对分布式执行敏感的医疗模型基准,对比集中式参考与匹配的分布式部署结果。实验覆盖语言、视觉和多模态医疗模型,结果显示执行方式变化会带来可测量的输出差异,单模态视觉设置下的测试成功率为0.21至0.43,多模态模型为0.32至0.98。

Yifei Wang, Xiaohan Zhang, Youtao Ding 等

arXiv cs.LG · physics.comp-ph 有代码

PDE-OBS: Controlled Evaluation Across Observation Patterns

说明PDE-OBS:不同观测模式下的受控评测基准

简介本文提出 PDE-OBS 基准平台,涵盖数值数据生成、模型训练及不同观测条件下的推理评估,包含 7 类偏微分方程的 56 万个场与轨迹,并配有可配置的观测算子和 7 种基线方法。在测试时,若观测模式与训练时不同,误差普遍高于匹配模式;混合模式训练可降低单一模式迁移时的较大误差,但目标训练的参考模型通常仍更准确。

Ruichen Xu, Siyao Wang, Fang Wan 等

arXiv cs.RO · cs.CV · cs.SY

Distilling Privileged Control Barrier Functions into RGB-Only Safety Filters for Dynamic Visual Navigation

说明将特权控制屏障函数蒸馏为仅使用RGB的动态视觉导航安全滤波器

简介论文提出一种教师-学生视觉蒸馏框架,把使用真值状态的控制屏障函数(CBF)教师的安全行为迁移到仅依赖RGB图像和机器人速度的学生安全滤波器上,用于动态环境中的视觉导航。学生无需显式三维重建或在线渲染即可部署。实验显示,该方法优于现有视觉CBF基线,并在动态障碍物运动下提升了基于RGB的导航策略的安全性。

Seungyeon Yoo, Gawon Lee, Seungwoo Jung 等

arXiv cs.RO · cs.AI

LIBERO-MAX: Do Robot Policies Adapt When the World Changes?

说明LIBERO-MAX:机器人策略在世界变化时能否适应?

简介该论文提出 LIBERO-MAX 基准,包含 8000 组配对案例,涵盖几何、观测、外观、杂物和路径八类变化。每组配对比较有无任务中途事件的执行结果,其他条件保持一致,以区分事件导致的失败与原本就存在的失败。在十四种现有策略上测试,事件使成功率下降 11.0 至 25.7 个百分点,并显示几何与观测变化是共同的薄弱点。

Yunbei Zhang, Zijian Jin, Yuanzhe Liu 等

★★★★☆ 值得关注
arXiv cs.CL · cs.AI · q-bio.NC

Large-scale factor analysis shows machine intelligence is only partially interpretable

说明大规模因子分析表明机器智能只能部分被解释

简介该论文借鉴心理测量学方法,对1618个语言模型在456个纯文本基准上的13251个评测分数进行因子分析,检验是否存在通用的智能因子。结果显示,在最宽松的估计下,通用因子约解释模型表现方差的70.8%,多数方案中远低于此;内容相近的基准不一定聚在一起,且通用因子也未明显受某一共同主题主导。作者认为,这不支持将通用智能作为可具体定义和针对性提升的构念。

看点首次在大规模(1618个模型、456个基准)上用因子分析检验语言模型是否存在通用智能因子,结论挑战主流假设,证据规模大且做了多种稳健性检验。

Faiz Ghifari Haznitrama, Afrizal Hasbi Azizy, Faeyza Rishad Ardi

arXiv cs.AI · cs.LG · math.OC

BRIDGE: Bilevel Retrieval-Credit-Aware Agentic Reinforcement Learning

说明BRIDGE:双层优化的检索-信用感知智能体强化学习方法

简介本文针对大语言模型搜索与推理交替进行的智能体强化学习,指出现有方法把检索证据当作环境观测,导致检索器的失误被归咎于语言模型策略。作者发现先优化检索器再优化策略效果更好,因此将二者联合训练形式化为双层优化问题,并提出一阶、内存高效的方法 BRIDGE。在七个开放域问答基准和多个医学问答基准上,作者报告其在 3B 与 7B 骨干模型上取得了最高平均准确率。

Quan Xiao, Mingda Liu, Gaowen Liu 等

arXiv cs.LG

Efficient and Scalable Physics-Guided Fully Convolutional Spatiotemporal Learning for 3D Microstructure Evolution Prediction

说明用于三维微结构演化预测的物理引导全卷积时空学习框架

简介三维微结构演化的相场模拟计算量大。本研究提出一种高效、可扩展的物理引导全卷积时空框架,可直接预测完整的三维微结构序列。模型在训练中加入离散Cahn–Hilliard残差作为正则项,推理时不增加额外计算。在三维旋节分解数据上,模型的平均三维结构相似度在标称预测时域内保持在0.97以上,速度比参考谱相场求解器快30倍以上。

Michael Trimboli, Wenxi Liu, and Xianqi Li

arXiv cs.AI

AVIO: Learning to Add and Remove Sounding Objects in Audiovisual Scenes

说明AVIO:学习在视听场景中添加与移除发声物体

简介该论文提出了AVIOBench数据集,包含37.9小时配对视听样本,涉及1878个目标物体名称,将每个物体的视觉存在与声音贡献通过共享身份和视觉掩码关联起来。基于此数据集,作者提出AVIO模型,通过源条件特征调制适配预训练的文本到视听生成模型,同时学习物体的添加与移除。论文称,定量与定性评估显示该方法能有效完成视听物体的移除与添加,可选的参考引导可为添加操作提供外观与位置控制。

Weihan Xu, Kan Jen Cheng, Koichi Saito 等

arXiv cs.HC · cs.AI

Towards Breaking the Learning System Wall Using Multimodal Tutoring Transcriptions

说明借助多模态辅导转录突破学习系统壁垒

简介以往利用日志数据的研究受限于“学习系统壁垒”,难以在不同平台之间推广学习者模型。本文提出一套由AI驱动的多模态转录系统,可将屏幕录制视频处理成统一的剧本式转录稿,包含音频对话和标注的学习日志操作。作者还描述了将AI生成的多模态转录与MATHia学习日志进行时间对齐、识别并分类学生学习过程的计划方法,并指出在单一系统中捕捉学习过程的挑战与可能解决方案。

Danielle R. Thomas, Marie Cynthia Abijuru Kamikazi, Ashish Gurung 等

arXiv cs.SD · cs.AI

InterBias-SV: Compound Conditions in Speaker Verification

说明InterBias-SV:说话人验证中的复合条件评测

简介该论文关注说话人验证系统在噪声、信道失真和语音变化等多种条件叠加时的表现,检验各因素单独评估时的效应是否可以相加。作者以联合误差与两个边际误差及共同参照构成的四项比较框架组织分析,结果包含4068条记录、17组实验、12个编码器标签和6个语音语料库。文中报告的平均对比值仅为描述性结果,并未证明可加性成立,同时讨论了接近随机水平的EER解释问题及人口统计差距比率的不稳定性。

Kamel Kamel, Hridoy Sankar Dutta, Keshav Sood 等

arXiv cs.CV

Reimagine Video Dynamics

说明重新构想视频动态:一种将视频动态与视觉内容分离并可编辑的框架

简介该论文提出 Reimagine Video Dynamics(RVD)框架,通过自监督重建学习一个紧凑、可编辑的动态标记,使其捕捉场景如何演变而非外观。利用该标记可直接编辑视频动态并保留视觉内容;实验显示该方法可用于动态编辑、无需训练的重定时以及外观可控的重新渲染。

Yu Yuan, Yawen Lu, Guoxian Song 等

arXiv cs.CV · cs.AI · cs.LG

Benchmarking Vision-Language Models on Synapse and Neuron Proofreading in Connectomics

说明在连接组学突触与神经元校对任务上对视觉-语言模型进行基准测试

简介本文用视觉-语言模型(VLM)模拟标注员在电镜图像上的校对判断,包括突触校对(有无及极性)和神经元校对(拆分错误与合并错误)。研究在突触任务上评估了19个开源模型和2个闭源模型,在神经元任务上评估了3个开源和2个闭源模型。结果显示,多数模型零样本时接近随机水平,少量示例主要对闭源及最大的开源模型有帮助;在数千个标签上做LoRA微调后,开源模型可与专用模型持平,并且在未见过的物种上,适配后的最佳VLM在识别合并错误方面优于专用模型。

Yicong Li, Junjie Wang, Leander Lauenburg 等

★★★★★ 值得关注
arXiv cs.LG · cs.AI

LLMs Learn to Evade Latent Monitors from Prior Feedback Alone

说明大语言模型仅凭先前反馈即可学会规避潜在空间监测器

简介该论文研究基于模型内部激活的潜在空间监测器是否会被智能体规避。作者发现,模型可从交互中的判定反馈推断监测规则,并编辑激活以逃避检测。放大编辑幅度后,监测器真阳性率从100%降至27%;加入秩1的LoRA微调后进一步降至4%,同时保留标准基准能力。

看点提出模型仅凭监测反馈学会规避潜在空间监控的新威胁,并用缩放与LoRA实验充分验证,对AI安全影响较大。

Hugo Lyons Keenan, Christopher Leckie, Sarah Erfani

arXiv cs.LG 有代码

AdaptArena: Evaluating Test-Time Personalization of Web Agents

说明AdaptArena:评估网页智能体的测试时个性化能力

简介论文提出 AdaptArena 基准,用于评估网页智能体能否从隐含信号中推断用户偏好,共 480 个任务,分单偏好与双偏好两类。作者同时提出基于检索的 AdaptiveAgent 框架。实验显示,掌握真实偏好的理想智能体成功率为 82.92%,而所测 LLM 智能体最高仅 15.62%;即使偏好推断正确,下游网页操作失败仍是主要瓶颈。

Dongchan Shin, Xing Han L\`u, Jiaqi Deng 等

★★★★★ 值得关注
arXiv cs.LG · stat.ML

Optimal Multi-Reward Reinforcement Learning

说明多奖励强化学习的最优样本复杂度

简介本文研究转移概率未知的有限时域马尔可夫决策过程,给定有限个已知奖励函数,目标是仅通过在线回合交互为每个奖励输出一个 ε 最优策略。作者设计了可证明高效的算法,给出 O(SAH³/ε² · log M · polylog) 的极小极大样本复杂度,与信息论下界仅相差一个多对数因子。方法结合了面向奖励切换的 MVP 乐观估计、用新鲜回放样本保守评估候选策略,以及基于间隙的乘性权重更新来分配奖励采样。

看点提出多奖励强化学习的极小极大最优样本复杂度界,并给出匹配下界的算法,理论上较突出,对子领域影响较大。

Zijun Chen, Zihan Zhang

arXiv cs.LG 有代码

The Teacher Is a Direction, Not a Destination: Extrapolating RL-Induced Representation Residuals in On-Policy Distillation

说明教师是方向而非终点:在策略蒸馏中外推强化学习引起的表示残差

简介论文提出 RIDE 方法,用于在线策略蒸馏。它在表示空间中直接外推强化学习训练带来的变化,在每一层和每个位置计算教师与其强化学习前检查点之间的残差,并让学生的隐藏状态向沿该残差超出教师的目标靠拢。在四组不同规模、架构和预训练来源的基座与强化学习教师模型对上,RIDE 的效果接近或超过强化学习训练的教师,并且优于输出空间外推方法。

Hao Li, MeiJia Chen, Weijie Ren 等

arXiv cs.CL · cs.AI

DuplexSpeechBench-Document Grounding: Benchmarking Document Grounding and Hallucinations in Voice Agents

说明DSB-DG:语音智能体文档依据与幻觉基准测试

简介该论文提出 DuplexSpeechBench-Document Grounding(DSB-DG)基准,用于评估语音智能体在五个专业领域中依据外部文档作答的能力。基准包含来自 50 份文档的 1,636 个经对抗验证的问答对,并可自动评估依据准确率、幻觉和响应延迟。结果显示,级联式流水线(ASR-LLM-TTS)准确率最高,Gemini-Live 和 GPT-Realtime 紧随其后;开源系统在上下文容量和多轮对话中表现出明显的依据衰减,且失败多表现为无依据生成而非拒答。

Puneet Mathur, Nedim Lipka, Zeyu Jin 等

arXiv cs.AI · cs.HC · cs.MA

Human-AI Collaboration: From Paradoxes to Patterns

说明人机协作:从悖论到模式(一篇关于人与AI如何协作的论文)

简介该论文指出,人与AI协作时的表现通常优于各自单独工作。作者以自主性和主动性两个设计维度为切入点,梳理协作中的问题与解决方案,并用悖论视角分析其中的内在张力。论文提出了梳理张力和映射悖论的过程,并归纳出指令、委托、辅助和共创四种人机协作模式。

Michael Weiss

arXiv cs.AI · cs.GT

Learning to Harvest Without Collapse in a Regenerative Commons: A Lagrangian Framework

说明在可再生公共资源中学习不崩溃地收获:一种拉格朗日框架

简介本文把可再生公共资源的过度开采问题建模为带约束的多智能体马尔可夫博弈,并由设计者设定资源消耗预算,明确要求保护资源。作者提出非平稳拉格朗日框架,利用无约束博弈或合作控制问题的解构造策略序列,并给出可行性与近似最优性的理论保证。实验在 Gordon-Schaefer 渔业模型中用约束版 IPPO 和 MAPPO 检验消耗预算如何影响资源存量、收获收益和价格调整。

Jose Tupayachi, Xueping Li, Soham Das

arXiv cs.LG · cs.AI

Guard Models Are Overconfident Where Base Models Are Uncertain

说明安全守卫模型在对抗攻击下过度自信,而其基座模型对同样输入却不确定

简介本文评估了五个用于提示分类的安全守卫模型。研究发现,在干净输入上多数守卫模型校准较好,但对抗攻击会使其校准误差显著恶化,使漏判变成高置信度的错误判断。与对应的基座语言模型相比,基座模型通常在守卫失效的同样输入上表现出不确定性,层级分析显示这一差异主要出现在较后的层。

Jonghyun Hong, MinJae Jung, Minwoo Kim

arXiv cs.CL · cs.AI · cs.CV

Similar Choices, Different Attention: Cross-Modal Associations in Humans and Vision-Language Models

说明相似的选择,不同的注意力:人类与视觉语言模型的跨模态联想

简介该研究比较了人类与视觉语言模型(VLM)在跨模态联想上的表现,如伪词与圆形或尖形图像的配对。研究者让两者面对相同刺激,并记录了53名参与者的选择与眼动数据。结果显示,部分较大模型的选择与人类一致,但其注意力与人类注视的吻合度低于中心偏置基线,且仅匹配人类选择或注视模式不足以证明人类式的跨模态处理。

Sumin Hong, Katsumi Ibaraki, Renee Shi 等

arXiv cs.AI · cs.LG

Going Beyond State-Reaching: Learning Abstractions for Intrinsically Motivated Option Discovery

说明超越状态到达:为内在动机选项发现学习抽象

简介该论文提出一种选项发现算法,不再让每个子目标覆盖状态的全部方面,而是为每个子目标选取一小部分相关特征。这样得到的选项适用范围更广,可帮助智能体在稀疏奖励环境中加快探索。作者在三个基于图像、奖励稀疏的任务中验证了方法,其中包括Atari游戏Montezuma's Revenge。

Akhil Bagaria, Anita De Mello Koch, George Konidaris

★★★★☆ 值得关注
arXiv cs.LG

DisCoMBO: Steering Expert-in-the-Loop Black-Box Optimization via Distributional Conformance

说明DisCoMBO:基于分布一致性的专家参与黑箱优化方法

简介该论文针对顺序模型优化(SMBO)中引入专家知识的问题,提出分布一致性得分DisCo,用于衡量模型的“意外程度”并评估外部知识与模型证据的一致性。基于概率电路(PC)的DisCoMBO框架可实现知识感知的优化,作者证明其为零遗憾算法,并在AutoML、材料优化和风电场优化等基准上进行了验证。

看点提出基于概率电路的分布一致性分数,统一了不确定性量化与专家知识注入,并证明零遗憾性质;在多个领域基准上验证。

Jonas Seng, Bennet Wittelsbach, Kristian Kersting

arXiv cs.RO · cs.AI · cs.CV

Staircase Policy: Streaming Inference for World-Action Models with Large Action Chunks

说明Staircase Policy:面向大动作块世界-动作模型的流式推理

简介本文提出 Staircase Policy(S-WAM),一个流式推理与训练框架,将基于流匹配的 VLA 转为 JEPA 式世界-动作模型,并把大动作块切分为错开去噪阶段的子块,使近期动作可尽早执行。在每个子块边界,模型依据最新观测重新预测未来潜变量以更新未执行动作。论文报告其在 LIBERO 上达 97.7%,在 LIBERO-Plus 上达 87.9%,吞吐量为传统执行方式的 3.62 倍。

Guoheng Sun, Chen Chen, Jin Wang 等

arXiv cs.AI

Rethinking Reasoning Paths as Phase-Structured Trajectories

说明将推理路径视为分阶段轨迹的重新思考

简介大语言模型常通过生成多步推理路径来提升解题表现,但如何分析这些路径上的隐藏状态仍不清楚。作者提出PAIR方法,在同一问题内采样多条推理轨迹,按归一化进度将不同长度的路径对齐到相同的相对阶段,并只在同一问题、同一阶段内比较成功与失败的轨迹。实验表明,跨问题的正确性探针在同题内评估时预测能力大幅下降,而PAIR改善了同题内的轨迹排序与Best-of-N轨迹选择,分阶段引导实验也显示所学方向能够改变生成结果。

Zhenghao He, Guangzhi Xiong, Sanchit Sinha 等

arXiv cs.SD · cs.AI · cs.LG

Emergent Tonal Structure in Learned Chord Embeddings and Its Relation to Tonal Tension

说明学习得到的和弦嵌入中涌现的调性结构及其与调性张力的关系

简介本文研究基于 skip-gram 从和弦序列中学习的和弦嵌入能否体现西方调性音乐的结构。作者通过有无移调增强的数据进行几何、功能和张力三个角度的评估。结果显示增强后的嵌入具有较强的移调等变性,并能恢复清晰的五度圈结构。基于此导出的度量与匹配的调性度量相对应,并与人类张力评价有中等程度的一致。

Maral Ebrahimzadeh, Gilberto Bernardes, Sebastian Stober

arXiv cs.LG · cs.CL · cs.CV

Fisher-IRG: Fisher-Induced Local Invariant Representation Geometry across Language and Vision Models

说明Fisher-IRG:用于刻画语言与视觉模型局部不变表示几何的 Fisher 方法

简介该论文提出 Fisher-IRG 方法,依据表示方向对预测结果的敏感度来刻画局部几何,而不只看欧氏距离。作者在语言和视觉模型上比较了它与基于协方差的几何方法,结果显示它在区分语义变化与干扰变化方面选择性更强,子空间也较可复现。论文还表明,语义相关的效应集中在该方法得出的子空间中,且在保留数据上的分离与检索表现说明其结果能推广到发现邻域之外。

Abdullah All Tanvir, Xin Zhong

arXiv cs.CL

Memory Consolidation Flattens the Temporal Shape of User Facts

说明记忆压缩抹平了用户事实的时间形态

简介论文指出,长期记忆系统把对话压缩成简短笔记时,会丢失事实是否仍然成立的时间线索,例如“我正在开车”被改写成“用户开标致”,进行时的提示消失。作者提出基准LAPSE,测试发现记忆写入器在381组中有244组选择性地抹平进行时,而反向情况从未出现,该现象在11种配置和三个现有系统中都成立。

Sugam Panthi, Muhaiminul Yeamin, Siyan Luo 等

arXiv cs.LG

Emergent phases of superposition: from partial to full representation

说明叠加态的涌现相:从部分表示到完全表示

简介该论文研究大语言模型中的“叠加”现象,即模型用重叠的向量表示比其宽度更多的特征。在Anthropic的叠加玩具模型中,作者发现增加模型宽度会引发连续相变:从只有部分特征获得表示的部分表示相,转变为所有特征都被表示的完全表示相。理论与实验均表明,临界宽度与活跃特征数大致呈线性关系(相差一个对数因子),且损失的标度规律在相变前后发生改变。

Lihao Guo, Yizhou Liu, Jeff Gore

arXiv cs.CV

DynamicHOI: Coupled Dynamics for Physics-aware HOI Reconstruction

说明DynamicHOI:面向物理一致性的手-物交互重建(耦合动力学方法)

简介该论文研究从单目RGB视频重建手与物体的交互过程,指出现有方法多只保证视觉与几何一致,忽略交互动力学约束。作者提出DynamicHOI框架,结合几何引导的扩散细化与手-物耦合动力学,通过接触力传递并建模手的主动驱动力,以概率先验抑制不合理运动。在三个数据集上的实验显示手与物体重建均有提升,重建轨迹还可用于手部世界模型生成和机器人操作学习。

Wenliang Guo, Zhanbo Huang, Yu Kong

arXiv cs.LG · cs.AI

Channel-Dependent State Space Model for Multivariate Time Series Forecasting

说明用于多变量时间序列预测的通道依赖状态空间模型(Chameleon)

简介该论文提出 Chameleon,一种面向多变量时间序列预测的通道依赖状态空间模型,能够以随变量数线性扩展的方式刻画变量之间的数据相关交互。作者将选择性状态空间模型与卡尔曼滤波结合,利用其中缺失的测量更新来建模跨变量关系,并采用 GatedDeltaNet 作为骨干并加入随机扰动等技术提升泛化。实验显示,在强依赖的 ODE 与 PEMS 数据集上其 MSE 和 MAE 最优,在 28 个标准基准设置中也多数优于各基线,训练时间与内存分析表明其效率具有竞争力。

Yu-Cheng Wu, Fan-Keng Sun, Li-Chun Lu 等

arXiv cs.CL · cs.AI

Reliable Parallel Decoding in Masked Diffusion Language Models

说明掩码扩散语言模型中的可靠并行解码:一种免训练的生成加速方法

简介掩码扩散语言模型可以一次预测多个被遮盖的词元来加快文本生成,但同一次前向计算得出的预测一起提交时未必可靠。本文分析发现,仅凭置信度无法决定提交顺序,并据此提出免训练的可靠并行解码方法(RPD),依据逐层预测稳定性和最终置信度选择候选,并在累计熵预算下提交。在LLaDA和Dream上的数学推理与代码生成基准中,RPD在保持或提升准确率的同时取得了所评估方法中最高的解码吞吐量。

Zhenghao He, Bohan Liu, Guangzhi Xiong 等