AI 算法 · 2026年10月1日(周四)

机器学习、人工智能、自然语言处理、计算机视觉、多智能体。

★★★★☆ 值得关注
arXiv cs.LG · cs.NA · math.NA

Approximation Property of Dropout Neural Networks: Sobolev Rates and Confidence Bounds

说明Dropout神经网络的逼近性质:Sobolev速率与置信界

简介本文研究以概率p独立保留边的ReLU网络,对W^{n,∞}([0,1]^d)单位球的逼近能力。作者给出了恒定深度、规模为Õ(p^{-9}ε^{-max{d/n,2}}log(1/δ))的网络构造,并给出保留边数量与输出层成本的下界,二者在精度指数上相匹配。

看点首次给出随机丢弃ReLU网络逼近Sobolev单位球的匹配上下界及置信度保证,理论改进明显,证明完整但无实验。

Jia-He Yao

arXiv cs.LG

Learning the identity: a case study of how SGD selects among functional decompositions

说明学习恒等映射:SGD 如何在同一函数的多种分解中做选择

简介本文以深度线性残差网络学习恒等函数为案例,研究随机梯度下降(SGD)为何偏好某些解。尽管总体损失在所有分解中相同,SGD 仍会稳定地选中特定解,例如在各向异性标签噪声下学到依赖噪声的谱结构,且改变参数化会导致权重趋于零。作者用熵损失(entropic loss)解释这些现象,并解析刻画其最小值,从而对 SGD 所偏好的解结构作出预测,训练结果与之吻合。

Andy Arditi, Weian Xie, David Bau 等

arXiv cs.AI · cs.RO · cs.SY

Spatial Strategies, Not Actions: Vector-Quantized Geodesics as Tools for LLM-Driven Agents

说明空间策略而非动作:向量量化测地线作为大语言模型智能体的工具

简介该论文研究大语言模型智能体的空间理解能力,在网格世界中让模型作为高层调度者,调用由测地轨迹经向量量化提取的行为工具。实验在部分可观测的动态二维网格环境中进行,使用开源视觉语言模型,结果显示快速非推理配置的目标达成率可与高成本的思维链版本相当,同时单次决策耗时从分钟级降至秒级。

Gabriel Turinici

arXiv cs.LG · cs.AI · stat.ML

Counterfactual Predictions in Scientific Emulators Without Controlled Experiments

说明无需受控实验的科学仿真器反事实预测:ReRoute 框架

简介论文研究在缺乏受控干预数据时,如何让科学仿真模型回答“若条件不同会怎样”的问题。作者提出 ReRoute 框架,将查询输入固定为参考值,经已知机制路径重新引入变化,并基于原始事实数据微调。在对流扩散系统及气候仿真器的实验中,该方法在多种情景下改善了反事实预测的误差表现。

Dingling Yao, Kahaan Gandhi, Valentin Duruisseaux 等

arXiv cs.CL · cs.LG

Explainable Suicide Risk Assessment on Social Media with Multi-Task QLoRA

说明基于多任务QLoRA的社交媒体可解释自杀风险评估

简介本文介绍了作者参加IEEE BigData 2026 Cup社交媒体可解释自杀风险评估赛的系统,涵盖风险等级分类、证据短语抽取和多标签因素识别三项任务。方法基于Qwen2.5-Instruct模型,采用QLoRA量化低秩适配和仅对回答部分计算损失的因果语言模型目标进行训练,并针对各任务输出结构设计了不同的训练与结果聚合策略。官方排行榜综合得分为0.7738,其中任务1为0.8089,任务2为0.6919。

Xuan Zhong Feng, Geoffrey Martin, Hexin Dong 等

arXiv cs.AI · cs.CL · cs.CY

Legal Research Bench: Measuring End-to-End Reliability in Long-Horizon Legal Research Agents

说明法律研究基准(LRB):衡量长链条法律研究智能体的端到端可靠性

简介本文提出法律研究基准 LRB,包含由专家撰写的 413 道美国法律研究开放性问题,每题配有标准答案、支撑性法律依据和二元评分标准。作者在带有网络搜索、判例检索等工具的环境中评测了 13 个前沿模型,要求回答所有标准均满足且引用可核实才算正确。结果显示,表现最好的模型 Claude Opus 4.8 完全正确率为 42.9%,且在需要协调相互冲突的权威依据的问题上表现更差。

Katrina Drozdov, Oliver Chen, Langston Nashold 等

arXiv eess.AS · cs.LG · cs.SD

End-to-End Historical Music Restoration in Latent Space

说明在潜在空间中对历史音乐进行端到端修复

简介本文针对早期录音中的多乐器管弦乐历史音乐修复,以往研究多集中于超分辨率或独奏曲目。作者模拟更接近真实的历史录音退化过程以生成合成配对数据,并在此基础上训练潜在流匹配模型。结果显示该模型在侵入式、非侵入式和主观评测中优于现有基线,同时发布了一套9.3小时、无授权限制且无配对的历史古典音乐测试集,以及代码和音频示例。

Steven Cho, Junghyun Koo, Raphael Lafargue 等

arXiv cs.CL · cs.AI

Where's Waldo? Query-language Preference under Cross-lingual Knowledge Disparities

说明Where's Waldo:跨语言知识差异下的查询语言偏好

简介该论文提出 Waldo 多语言问答基准,基于维基百科构建约 1.2 万个问答对,涵盖一种语言版本缺失事实的知识缺口和不同语言版本提供冲突说法的知识冲突。评估八个模型在五种语言上的表现发现:只是缺少事实时,模型通常会采用另一语言的证据;面对冲突说法时,模型回答更倾向于与查询语言相符的文档。论文还尝试了消融注意力头和基于 LoRA 的训练两种缓解方法,后者可将偏好差距减少最多 61.5%。

Dayeon Ki, Ruochen Zhang, Silviu Cucerzan 等

arXiv cs.LG · cs.AI · cs.RO

MIKASA-Robo-VLA: Benchmarking Memory in VLA Models for Long-Horizon Manipulation

说明MIKASA-Robo-VLA:用于长时程操作的 VLA 模型记忆能力基准

简介该论文提出 MIKASA-Robo-VLA 基准,包含 90 个语言条件操作任务,其中 80 个任务隐藏了动作所依赖的线索,另 10 个为反应式控制任务。作者发布了 22,500 条跨 10 种记忆类型的专家轨迹,并用微调的 π0.5 基线模型测试,平均任务成功率为 0.211±0.044。

Egor Cherepanov, Nikita Kachaev, Aleksandr I. Panov 等

★★★★☆ 值得关注
arXiv cs.RO · cs.AI

When Reasoning Helps Action: Monitoring and Steering Chain-of-Thought in Vision-Language-Action Policies

说明推理何时有助于行动:监控并引导视觉-语言-动作策略中的思维链

简介带有推理能力的视觉-语言-动作(VLA)策略会输出思维链,可用来解释并指导其动作。论文提出TRUST方法,用离线训练的价值模型根据部分推理前缀预测最终正确性,并在冻结的策略上选择性地引导推理生成。在驾驶VLA和操作VLA上的实验显示,推理正确率有明显提升,驾驶任务中碰撞率降低,但操作任务的闭环表现基本不变,说明推理正确性的提高不必然带来具身表现的提升。

看点提出基于部分前缀预测推理正确性并引导生成的价值模型,并区分可纠正性与可操作性;在两个VLA系统上做了量化实验,证据较充分,但主要为特定系统的结果。

Sathwik Karnik, Joseph JR. Lee, Aryaman Gupta 等

arXiv cs.CV

Just Align bmx: Aligning Predictions, Not Representations

说明只对齐 x:对齐预测结果,而非表示

简介本文针对像素空间扩散模型的干净图像预测训练,提出 JAx(Just Align x)方法,直接对齐不同噪声水平下的干净图像预测,而不是对齐中间表示。作者指出,辅助特征对齐在 JiT 中会削弱图像变化信息,与去噪任务不匹配。在 ImageNet 256x256 上,JAx 在 JiT-B/16、L/16 和 H/16 上均提升了 FID 并加快收敛,且无需外部编码器或改动架构与采样流程。

Yuyao Zhang, Yuwei Hu, Ziyang Mai 等

arXiv eess.SP · cs.LG

Mean Spatial Frequency Decoupling for Learning-Based Uplink-to-Downlink Covariance Conversion in FDD Massive MIMO

说明基于均值空间频率解耦的FDD大规模MIMO上行到下行协方差转换学习方法

简介该论文研究FDD大规模MIMO系统中上行到下行信道协方差矩阵的转换,以减轻下行训练和反馈负担。作者指出,平均到达角会在协方差矩阵上产生相位斜坡,天线数增加时固定规模的数据集相对稀疏,导致学习方法性能下降。所提出的去斜坡方法先从上行估计斜坡斜率并以闭式映射到下行频段,再用学习器处理对平均角度不敏感的残差,在多种学习器和角度功率谱下降低了协方差估计误差并改善了下行信道估计。

Melih Can Zerin

arXiv cs.LG · stat.CO

Rank-Aware Speculative Sampling for Diffusion Draft Trees

说明面向扩散草稿树的排名感知推测采样(RASS):一种让并行计算更有效的验证方法

简介该论文提出排名感知推测采样(RASS),用于加速扩散模型生成。它利用候选草稿的排序信息,通过排名感知的列表耦合规则选择候选,并以残差修正保证精确采样。在高斯混合、FFHQ、CIFAR-10和Stable Diffusion 3.5等设置下,RASS相对D-GRS方法有所改进,其中CIFAR-10在匹配计算预算下增益约20%。

Marcello Bullo, Yanxiao Liu, \"Oyk\"u S{\i}la G\"uner 等

arXiv cs.LG · cs.AI

ALER: Adaptive Learnable Experience Rewriting for Reinforcement Learning

说明ALER:面向强化学习的自适应可学习经验重写方法

简介该论文针对部分可观测强化学习中的记忆问题,指出除保留信息外,还需要能够重写信息和按后续观测规则融合旧经验。作者提出ALER智能体,结合LSTM与槽位记忆,通过可学习的写入与门控融合机制实现重写,并构建了Rune-Mazes环境进行测试。实验显示ALER在多组任务配置中取得了较高的成功率。

Oleg Shchendrigin, Egor Cherepanov, Aleksandr I. Panov 等

★★★★☆ 值得关注
arXiv cs.LG · cs.CV

Right In-Place (RiP) Convolution: A Simple, General, and Near-Optimal Strategy for Memory-Efficient CNN Inference

说明右对齐原地卷积(RiP):面向省内存 CNN 推理的简单通用近最优方法

简介论文针对微控制器等受限硬件上 CNN 推理的激活内存瓶颈,修正了 Gural 与 Murmann 原地卷积闭式公式在特定情形下的低估与高估问题,并推广到任意步幅、膨胀、填充和矩形卷积核。作者提出右对齐原地卷积(RiP),在共享工作区中实现与原结果逐位一致的运算。实验显示其峰值激活内存较双缓冲平均减少约 24.8%,并在树莓派 Pico 1 上使更多 MCUNet 模型能放入 256 KB SRAM。

看点修正已有内存最优卷积闭式并推广到任意步长、膨胀、填充与矩形核,提出右对齐原地卷积;在10000个随机层、84个真实卷积层及MCU部署上验证,峰值内存降低12.5%至33.3%。

Opegbemi Matthias Busoye, Tolulope Matthew Busoye, Eghonghon-aye Eigbe

★★★★☆ 值得关注
arXiv cs.AI

Worse Together: How Performance Breaks Down in Multi-User Multi-Agent Teams

说明《Worse Together》:多用户多智能体团队为何表现变差

简介该论文研究多个用户各自委派智能体共享资源(如计算预算、日历、群组订单、发布窗口)时的协作表现。在五个前沿模型和四类环境、77个场景中,对比单一协调者与每人一个智能体的团队,发现团队的群体结果在各环境中都比协调者差,并出现停滞、相互覆盖行动和捏造说法等行为。论文还测试了团队负责人、明确流程指令和阅读同伴消息的平台检查等缓解方法,并计划以MAMUBench发布其中三类环境。

看点提出多用户多智能体团队协作失效的新问题设定,在四个环境、77个场景中系统比较团队与协调者,证据较充分。

Sahan Paliskara, Nattaput Namchittai, Andrew Lampinen

arXiv cs.CV 有代码

Discrete Annotation, Continuous Preference: Rethinking Supervision for Accurate and Generalizable Aesthetic Image Cropping

说明离散标注,连续偏好:重新思考美学图像裁剪的监督方式

简介该论文指出,现有美学裁剪数据集的人工标注主观且局限于固定网格。作者提出连续偏好场(CPF)从离散标注中恢复密集偏好分布,并基于此训练 CPIC 裁剪模型,同时提出重新校准的基准数据集 CPICD,用于更可靠的评测。

Ziqing Zhang, Xiao Liu, Kai Liu 等

arXiv cs.LG

From Task Mixtures to Specialized Experts

说明从任务混合到专门化专家:面向客户端内部异质数据的联邦微调方法

简介该论文研究协作式基础模型微调中,每个客户端的数据可能混合了多种任务分布的情形。作者证明在共享特征几何下,客户端任务混合的最优模型是各任务最优模型的凸组合,并据此提出按输入路由到专门专家的方法 FedSEE。文中称其在实验中避免了基线方法的负迁移,整体性能提升 2.9 个点,最差四分位组提升 3.7 个点。

Hojat Allah Salehi, Mehrdad Mahdavi, Andrew Arash Mahyari 等

arXiv cs.DS · cs.AI

Query-efficient winner prediction in district-based elections

说明区域选举中查询高效的胜者预测

简介本文研究分区选举(选民分成多个选区,各区按多数制选出代表,再由区代表决出总胜者)中如何只通过询问个别选民的投票来预测胜者,目标是尽量减少查询次数。作者提出一种自适应随机算法,在任意选区人口和任意候选人数下,以至少 1-δ 的概率正确预测胜者,查询复杂度为 Õ(1/ε² · log m/δ · log 1/δ)。该结果改进了既有对两位候选人、且需假设选区人口均衡的结论,并在候选人数为常数时与 Ω(1/ε² log 1/δ) 的下界基本吻合。

Koustav De, Debajyoti Kar, Swagato Sanyal

arXiv cs.CV

Gestalt: Large Multimodal Interplay Model

说明Gestalt:大型多模态交互模型,一种围绕多模态交互构建的新型大模型范式

简介论文提出 Gestalt 模型,主张大型多模态模型应更关注各模态的特性及其相互关系,而不只是增加模态数量。作者借鉴人类多感官感知的多阶段特点,提出多模态交互金字塔,从模态内处理、跨模态对齐到深度融合逐层组织建模。模型采用统一的离散扩散框架和交互分区架构,并用可学习的交互标记媒介跨模态交流。论文称其在图像生成、多模态理解和纯文本评测中表现良好,能在保留模态特有信息的同时提升跨模态融合。

Zequn Yang, Yu Miao, Haotian Ni 等

arXiv cs.LG · cs.CL 有代码

Make Sparse Rewards Count: Density-Aware Reward Aggregation for Multi-Reward RL

说明让稀疏奖励发挥作用:面向多奖励强化学习的密度感知奖励聚合

简介本文研究多奖励强化学习训练大语言模型时,不同奖励目标学习进度不均的问题。作者通过优势能量分析指出,在理想化的GDPO归一化下,该能量与有效组密度成正比,并据此提出密度感知奖励聚合方法DARA,按批次计算逆平方根密度修正权重,使较少激活的奖励获得更大权重。在工具调用与数学推理实验中,DARA学习目标行为更快,且最终性能保持有竞争力。

Tong Zheng, Skylar Zhai, Zhan Cheng 等

arXiv cs.CV

FORTE: Adaptive Scoring and Exact Keyframe Selection for Long-Video Question Answering

说明FORTE:用于长视频问答的自适应打分与精确关键帧选择

简介该论文提出FORTE,一种无需训练的长视频问答关键帧选择框架,供多模态大模型只处理与问题相关的少量帧。它分两阶段:先用高斯过程预测器自适应地为候选帧打分并兼顾时间覆盖,再通过最大化相关性与时间覆盖的目标函数选出最终关键帧。实验在四个长视频问答基准上进行,论文报告FORTE在各测试打分预算下平均准确率最高。

Haifeng Huang, Biyin Xu, Chunsheng Xin 等

arXiv cs.IT · cs.AI · cs.CY

Interpreting Reasoning of Large Language Models via Partial Information Decomposition

说明通过部分信息分解解读大语言模型的推理过程

简介该论文提出了可解释性框架 SLIDER,借助信息论中的部分信息分解,将相邻推理步骤之间关于最终答案的信息分为独特、冗余和协同三类。基于此,作者提出了逐步重复推理指数(Step-RRI)和轨迹级指标 Trajectory-RRI,用于衡量推理过程的重复程度。文中指出,Step-RRI 在 PRMBench 冗余类数据上的步骤级冗余识别准确率高于嵌入相似度和信息增益基线,且平均 Trajectory-RRI 与推理长度有较强相关性;基于该指标筛选微调数据,可在基本保持任务表现的同时提升推理效率。

Barproda Halder, Qiuyi Zhang, Sanghamitra Dutta

arXiv hep-ex · cs.LG · hep-ph

Scaling Collider Event Generation with Residual-Quantized Tokens

说明利用残差量化令牌扩展对撞机事件生成

简介高亮度大型强子对撞机的完整探测器模拟与重建将成为主要瓶颈,促使人们开发快速的机器学习替代模型。本文提出一种粒子级生成模型,在残差量化后的完整事件数据上训练,能够从探测器稳定粒子出发进行条件生成。作者研究了该模型在不同数据集和模型规模下的扩展行为,并发现令牌级损失能够系统地预测下游物理保真度。

Dan Godi, Dmitrii Kobylianskii, Eilam Gross

★★★★☆ 值得关注
arXiv cs.CL · cs.AI

Emergent Unfaithfulness: How Alignment Training Causes Language Models to Silently Override Task Faithfulness

说明对齐训练导致语言模型悄悄偏离输入忠实度(涌现式不忠实)

简介该论文指出,经过对齐训练的大语言模型在处理不安全或敏感内容时,会在未声明的情况下系统性地偏离输入内容,作者称之为对齐诱导的不忠实(AIU)。研究者构建了FaithConflict数据集,并提出行为和思维链两套分类体系进行分析。结果显示,该现象随模型规模增大而加剧,在后训练阶段(尤其是DPO)被放大,且提示词方式的缓解效果有限。

看点提出对齐诱发的不忠实这一新失效模式并构建分类体系,但证据主要来自摘要所述的受控数据集与检查点分析,规模细节不足。

Pardis Sadat Zahraei, Janvijay Singh, Gokhan Tur 等

arXiv cs.LG · cs.CE · stat.ML

Nearest-neighbour baselines for fingerprint prediction from MS/MS spectra under different assumptions

说明在不同假设下,用最近邻方法从 MS/MS 谱图预测分子指纹的基线比较

简介近期研究表明,最近邻检索是从串联质谱(MS/MS)谱图预测分子指纹的强基线,部分变体可与当前深度学习模型持平或更优。本报告系统比较了多种最近邻变体,并说明推理时可用信息的不同假设如何影响性能。作者希望借此建立更严格的基线,使该领域的基准测试更规范,并更准确地衡量进展。

Ling Min Serena Khoo

arXiv cs.LG

Attention Kernels for Learning Maps Between Heavy-Tailed Measures

说明用于学习重尾测度之间映射的注意力核函数

简介本文研究如何用 Transformer 学习概率测度之间的算子映射。针对多项式尾部的测度,softmax 的指数加权可能使注意力积分发散,因此作者改用增长更慢的函数作为核。作者构建了两个具有闭式目标的基准任务,比较了不同核函数及数据变换的效果。结果显示,未经数据变换时 softmax 模型在两个重尾基准上出现集合坍缩,而三种增长较慢的核函数则避免了坍缩。

Kailen Hargenrader, Edoardo Calvello, Bohan Chen

arXiv cs.LG · cs.AI

Beyond Affine Transformations: A Soft Dominance Layer for Coordinate-Wise Neural Computation

说明超越仿射变换:用于逐坐标神经计算的软支配层

简介本文是一项初步研究,提出一种替代神经网络常用仿射变换的软支配层:每个输出单元将输入坐标与可学习的参考向量比较并汇总平滑的不等式响应,通过锐度参数控制向硬阈值决策的过渡。在单次运行的MNIST实验中,软支配层最高准确率为0.9061(无退火)和0.9173(有退火),MLP基线为0.9827。作者强调这只是概念验证,并非用以替代仿射层。

Mariano Rivera

arXiv cs.CL · cs.AI · cs.LG

Can LLMs Reason Over Long Horizons? An Empirical Evaluation of Context Strategies for Longitudinal Clinical Reasoning

说明大语言模型能否跨越长时间线推理?长期临床推理中上下文策略的实证评估

简介该论文比较了五种上下文策略(完整、近期、情节、语义、混合)在 MedLoCoMo 上对四个开放权重大语言模型的表现,考察回答正确率、对查询与证据距离的稳健性以及对缺乏依据问题的弃答能力。结果显示,情节和混合策略总体准确率最高,近期上下文在证据距离变远时下降最明显。研究认为,可靠的长期推理不仅取决于模型能访问多少病史,更关键在于相关证据如何被筛选和呈现。

Taye Akinrele, Noorbakhsh Amiri Golilarz, Subash Neupane 等

arXiv cs.CV

PhysVista: Benchmarking Physical Intelligence in VLMs via a Perception-Reasoning-Assessment Loop

说明PhysVista:通过感知-推理-评估闭环评测视觉语言模型的物理智能

简介该论文提出了PhysVista基准,用于评估视觉语言模型(VLM)的物理智能,模拟人类“看-推理-判断”的认知过程。它同时考察物理状态感知、物理动态推理和物理合理性判断,并区分事件级与尺度级推理。测试包含真实视频和AI生成视频。实验显示,多种VLM在物理推理和合理性判断上存在明显不足,视觉识别与真正的物理理解之间仍有差距。

Xinge Peng, Yiting Lu, Tianwu Zhi 等

arXiv cs.LG · cs.DC

Redundancy Meets Synergy: Dependency-aware Expert Selection for MoE via Submodular Optimization

说明冗余与协同:基于子模优化的依赖感知专家选择(用于MoE模型)

简介混合专家(MoE)模型通过稀疏激活扩大容量,但部署时内存需求高。本文提出DS-MoE框架,将专家选择建模为差分子模(DS)优化问题,同时考虑专家之间的冗余与协同关系,并设计带可证明保证的MM算法来高效选出高质量专家子集。实验显示该方法优于现有基线。

Zheng Lin, Shaoke Fang, Yuxin Zhang 等

arXiv cs.LG · cs.CE

Evaluating Hybrid Quantum-Classical Models for Reduced-Order Brain Deformation Dynamics

说明混合量子-经典模型用于降阶脑变形动力学预测的评估

简介本文评估了混合量子-经典机器学习在预测脑部时空变形场上的表现。研究先用本征正交分解(POD)将高维位移场压缩到低维潜空间,再比较经典网络与量子电路模型。结果显示,在静态回归和时序预测两项任务中,经典模型(POD-MLP、POD-LSTM)的精度和稳定性都优于量子变体,但增强后的量子模型明显优于基础量子模型。

Tao Liu, Ge He, Dongyu Liang 等

arXiv cs.LG 有代码

State-Space Unlearning for Non-Stationary Bias in Land Surface Forecasting

说明面向地表预报中非平稳偏差的状态空间遗忘方法(SSU-LSF)

简介本文针对基于 Mamba 类结构化状态空间模型的地表预报系统,提出首个专为地球科学 Mamba 模型设计的机器遗忘框架 SSU-LSF。该方法用于消除未记录灌溉、水坝调度变化、传感器重新校准等非平稳混杂事件在状态转移矩阵中造成的 NDVI、LST 和作物物候预测偏差。在三个基准数据集和十一个基线方法的对比中,该方法的混杂削减率为 0.773 至 0.859,ERA5 上清洁域 RMSE 最差退化 4.2%,每次遗忘请求的 GPU 成本比完全重训练低 8.4 倍。

Anidipta Pal

arXiv cond-mat.stat-mech · cs.LG · hep-lat

Generative Modeling of Stochastic Dynamics for Long-Time Evolution

说明随机动力学的生成式建模:预测长时间演化

简介本文提出一种无需已知运动方程、仅从固定短时间间隔的构型对学习长时间随机动力学的方法。研究者用生成扩散模型学习有限时间的转移核,并通过迭代将动力学外推到训练时间间隔之外。在二维Model B(守恒序参量的扩散动力学)中,学习到的转移核再现了动态临界标度和自相似的t^{1/3}粗化;对驱动胶体粒子的实验轨迹,十分钟的测量数据即可在误差范围内预测之后二十分钟的粒子流和平均通过时间。

Yang-yang Tan, Jinyang Li, Lingxiao Wang

★★★★☆ 值得关注
arXiv cs.LG

Geometry-Dependent Online and Offline Approximation for Non-Monotone DR-Submodular Maximization

说明非单调 DR-次模函数最大化:依赖几何结构的在线与离线近似界

简介本文研究在含有对角点 ζ1 的紧凸下闭集上,非负、非单调 DR-次模函数的在线与离线最大化问题。作者给出在线算法的近似系数下界(ζ=0 时为 4/9),并证明离线算法存在一个上界约 0.4704,改进了既有的 0.478 结果。对于次模集合函数的应用,也给出了相应的取整近似结论。

看点给出几何依赖的在线与离线近似系数,并把已知0.478的离线上界改进为约0.4704,理论贡献明确,但应用影响范围偏窄。

Vaneet Aggarwal, Yiyang Lu

arXiv cs.CV

Memorizon: Training World Models Beyond Their Context Window

说明Memorizon:让世界模型突破上下文窗口进行训练

简介该论文提出 Memorizon,用于训练流式世界模型,使其在多次访问同一地点时保持一致的画面。方法对长时间跨度只做监督、不做全序列注意力,每个被监督的片段通过相机共视性检索自己的 top-K 隐变量,并组成有界的共享记忆库,从而避免二次方计算成本。实验显示,检索机制相比滑动窗口基线提高了重访一致性,但会略微降低图像质量。

Tingting Liao, Xuezhi Liang, Hao Li 等

arXiv cs.LG · cs.AI

Random Recursive Models

说明随机递归模型:每步随机抽取层的参数高效递归网络

简介该论文提出随机递归模型(RRM),维护一组可学习的层,并在每个样本的每一步独立有放回地随机抽取一层进行 T 次递归计算。在较难的推理任务上,RRM 能达到或超过基线,且参数量通常减少 50%到75%。推理时可在不重新训练、不增加参数的情况下改变深度,包括超出训练时的深度。

Jama Hussein Mohamud, Mirco Ravanelli

arXiv cs.CL

Assessing the Impact of Language Disparity on Multilingual Linguistic Ability in Large Language Models

说明评估语言差异对大语言模型多语言语法能力的影响

简介该论文在覆盖101种语言的句法最小对比基准MultiBLiMP上,用四种评估方法测试六个模型系列的基础版与后训练版。研究发现,后训练会削弱语法能力,低资源语言受损最严重;在高资源语言中,模型能保留无法通过显式提示说出的语法知识,而母语提示可在低资源语言中挖掘出被隐藏的能力。作者认为,多语言语法评估应采用考虑语言差异的多种范式。

Zhanyu Chen, Jaap Jumelet

arXiv eess.AS · cs.AI · cs.MA

Multi-agent Auditory Scene Analysis: Improved Localization Speed and Robustness by Multi-beamformed Speech Quality Feedback

说明多智能体听觉场景分析:借助多波束语音质量反馈提升定位速度与鲁棒性

简介该论文把实时听觉场景分析器建模为多智能体系统,各智能体分别负责定位、分离和分类声源并互相传递结果,以全局反馈修正局部误差。新方法不再依赖逐窗口的单一质量估计,而是基于一组覆盖多个位置的质量估计来优化语音源定位。结果显示,该系统在真实声学场景中优化更快、更准确、更稳定,复杂度也更低,代价是质量估计智能体响应时间增加,但整体仍可实时运行。

Caleb Rascon

arXiv stat.ML · cs.LG

Adaptive Conformal Prediction for Image Regression Models with Application to an Inertial Confinement Fusion Emulator

说明面向图像回归模型的自适应保形预测:应用于惯性约束聚变模拟器

简介本文提出ACPNN(基于最近邻的自适应保形预测),用于为图像回归模型提供随输入变化的不确定性估计。该方法利用相邻样本信息,邻域由通过带ARD核的高斯过程学习得到的缩放距离定义,同时保持较低计算成本。作者将其应用于模拟惯性约束聚变(ICF)的扩散模型,结果表明该方法能够实现可靠且自适应的不确定性量化。

Carrie J. Lei-Cramer, Michael S. Jones, Laura J. Wendelberger

arXiv cs.AI

Science or Slop?: Benchmarking and Mitigating Scientific Slop in AI-Generated Papers

说明科学文章还是灌水?:评估与缓解AI生成论文中的“科学水文”

简介论文指出AI生成的科学论文存在“科学水文”问题:各部分看似合理,但连接各部分的科学推理会失效。作者构建了包含390篇AI生成论文的SciSlopBench基准,并通过六项指标衡量结构、论证和产物方面的问题。提出的SciSlopHarness框架在不依赖人工参考的情况下,将AI与人类论文的剩余差距降低了63%。

Yerim Oh, Young-Jun Lee, Jaewoo Ahn 等

arXiv cs.AI · cs.CY

Ontology-Based Contextual AI Evaluations (OB-CAIE) Methodology

说明基于本体的情境化AI评估(OB-CAIE)方法论

简介该论文提出一种基于本体的情境化AI评估方法(OB-CAIE),旨在解决AI评估中测试范围不清、人工与自动化难以平衡以及测试环境难以复现的问题。方法使用领域特定本体(DSO,说明测什么)和评估过程本体(EPO,说明如何测)两个本体界定问题空间,并允许在特定环节引入人工判断,失败点也可在该问题空间中被追溯、可视化和分析。

Julie Krugler Hollek, Michael Zargham, Mala Kumar

★★★★☆ 值得关注
arXiv cs.CL · cs.AI

Rules Amortize, Pairings Don't: Linguistic Structure Determines What Latent Task Representations Can Replace In-Context Learning

说明规则可以摊销,任意配对则不行:语言结构决定潜在任务表示能替代哪些上下文学习

简介该研究探讨哪些语言操作可以从提示中摊销为潜在表示。作者训练一个小型网络读取少样本支持集的几何结构,并向冻结的GPT-2模型中间层注入输入相关的加性更新。结果显示:在正向屈折变化上,该方法与十样本上下文学习相当且查询成本为零;在词形还原方向上,其准确率明显高于上下文学习;而任意配对(如反义词)则始终只达到上下文学习的约一半。

看点通过读取少样本支持集几何生成查询残差更新,在屈折与词形还原上超越或匹配上下文学习,任意配对则失败;实验与对照充分。

Gunmay Jhingran

arXiv cs.RO · cs.LG

Same Scene, Different Task: Skill Alignment for Compositional Generalization in VLAs

说明同一场景、不同任务:面向视觉-语言-动作模型组合泛化的技能对齐(CRAFT)

简介视觉-语言-动作(VLA)模型在微调时若未见过某些技能组合,即使每项技能都演示过,也常难以泛化。作者认为视觉可能被当作指令的替代,导致模型执行与画面相似的已演示组合。论文提出CRAFT方法,把已演示技能的监督信号迁移到反事实样本对上,在三个VLA模型和两个仿真基准及一个真实机器人上提升了未演示组合的成功率。

Taegeun Yang, Youngju Na, Yoonki Cho 等

arXiv cs.LG · stat.AP

SimplexUQ: An Evaluation Framework and Benchmark for Conformal Uncertainty on Simplex-Valued Predictions

说明SimplexUQ:单纯形值预测共形不确定性的评测框架与基准

简介共形预测保证整体覆盖率,但单一阈值可能导致覆盖在不同区域分布不均。本文提出SimplexUQ,这是据作者所知首个针对单纯形值预测此类分配问题的基准与可复现协议,用于比较现有共形包装方法而非提出新方法。在CIFAR-10上,全局校准的整体覆盖率为0.900,但最差熵分层仅为0.542;Mondrian校准将其提升至0.886,并将最大差异从0.358降至0.022。研究发现没有单一方法占优,结论依赖评估分组与协议,因此应将包装器选择视为诊断性比较。

Liang You, Hengyu Shi, Dongwen Ou

arXiv cs.LG

One-Step Generative Modeling via Training Dynamics Action

说明基于训练动力学作用的一步生成建模

简介该论文研究一步生成模型的训练方式:模型通过迭代训练构造最终的一步映射,作者提出TDAction,在保持一定分布进展的同时,依据共享参数的局部实现代价选择传输目标。作者将代价建模为软终端控制问题,并给出闭式的批次切向作用到终点值。在ImageNet 256×256上,TDAction在不使用蒸馏的情况下,FID低于1.1。

Zhangyong Liang, Ying Huang, Haibin Ling

★★★★☆ 值得关注
arXiv cs.CL · cs.AI 有代码

FusionEval: Benchmarking Model Fusion for Large Language Models

说明FusionEval:大语言模型模型融合基准测试

简介本文提出FusionEval基准,用于评估将多个领域专家模型能力合并为单一模型的模型融合方法。专家模型分别基于Qwen3和Llama底座,覆盖数学、代码、科学、指令遵循和工具调用等领域,并在八个公开基准上评估能力保持与计算成本。实验显示,无需训练的方法保留了推理能力,但明显削弱工具调用;MOPD方法保留了工具调用并能力更均衡,但需要额外的数据准备、推理和训练。

看点提出面向模型融合的统一基准并覆盖长思维链与工具使用,对比训练免费与MOPD方法,发现工具使用显著退化,证据较充分。

Shuo Cai, Yanggan Gu, Yuhang Liu 等

arXiv stat.ML · cs.LG

Fractional Laplace Neural Operators: Exact Architectures, an Expressivity Frontier at Criticality, and Certified Stability for Memory-Driven Network Dynamics

说明分数阶拉普拉斯神经算子:精确架构、临界点的表达能力边界与可证明的稳定性

简介本文提出分数阶拉普拉斯神经算子(fLNO),把具有记忆效应的线性Volterra解算子结构嵌入学习模型中,对可交换的激励-拉普拉斯算子对可用单层图谱层精确表示。作者证明了有限有理实现在临界点附近的表达能力边界,并给出可按构造保证稳定裕度的参数化方法。实验显示,在近临界条件下fLNO参数更少且更忠实地恢复分支坐标,无约束有理拟合则可能越过稳定边界。

Mauricio Herrera-Mar\'in

arXiv cs.AI · cs.MA

Before Agents Decide: Epistemic Action in LLM-Based Systems

说明在智能体决策之前:基于大语言模型系统中的认知行动

简介这篇论文提出,人在做困难决定前常会先行动以更好地理解情况,例如从不同角度观察物体或比较备选方案。作者把这类改善后续选择依据的行动称为认知行动(epistemic action),并将其引入基于大语言模型的智能体。文中区分了获取缺失证据、转换已有证据和探测系统以获得揭示性回应三种模式,并提出“认知支架”概念,指使这些行动得以实现且可审计的界面、工具和环境。论文主张智能体设计应关注如何产生可用于决策的证据。

Yizhi Liu, Balaji Padmanabhan, Siva Viswanathan

arXiv cs.LG

Denoising Surface: Modeling and Predicting Inference Cost for Diffusion LLM Serving

说明去噪工作负载曲面:扩散大语言模型推理成本的建模与预测

简介扩散大语言模型在实际服务中需要准确估计每个请求的推理成本,但常用的输出长度和去噪步数指标不够准确。论文提出去噪工作负载曲面(DWS),以概率曲面保留输出块与块内去噪步的二维结构,并设计由粗到细的训练方法,使仅依赖提示的轻量预测器可以准确预测成本。实验显示,DWS 比基于标量的预测器降低最多 2.50 倍的成本预测误差,并使最短作业优先调度器将在线聊天机器人的端到端延迟降低最多 1.92 倍。

Haoyu Zheng, Fangcheng Fu, Binhang Yuan 等

★★★★☆ 值得关注
arXiv cs.LG · cs.AI

Pick the Mixture, Not the Samples: Combinatorial Data Selection for LLMs

说明选择混合比例而非样本:面向大模型的组合式数据选择

简介该论文针对大模型微调中的数据选择问题,提出组合式数据选择框架(CDS),将样本打分与子集选择分开,并考虑样本之间的非可加性交互。作者发现不同领域之间存在互补性,同一领域内则有冗余。据此提出两阶段算法 Mixture-then-Select:先确定各领域取样数量,再按归因分数在领域内排序选样,在多个基线上提升 20% 至 54%。

看点提出组合式数据选择框架并建模样本间非加性交互,跨领域互补性与两阶段算法有新意;实验覆盖多模型与数据规模,并给出与子集最优差距的理论界。

Luyang Zhang, Jialu Wang, Bebei Li

arXiv stat.ME · cs.LG · stat.ML

Heteroskedastic Canonical Polyadic Tensor Decomposition

说明异方差典型多元分解:一种对每个张量元素方差都进行低秩建模的新张量分解方法

简介该论文提出异方差CP分解(HCP),在经典CP分解的高斯模型基础上,允许每个张量元素的方差不同,并用低秩精度张量来描述这种差异。作者设计了交替块坐标上升算法,从含噪观测中同时恢复低秩均值张量和精度张量。文中称其计算成本与CP-ALS在主要因子更新上的复杂度相当,并在合成数据实验和脑电图(EEG)应用中进行了演示。

Kyle Ritscher, Carlos Llosa-Vite

arXiv cs.LG · cs.AI

Gumbel Straight Flow: Distilling Autoregressive Models into One-step Flow Maps

说明Gumbel 直线流:将自回归模型蒸馏为单步流映射

简介该论文提出 Gumbel 直线流(GSF),一种连续的流映射语言模型,利用预训练自回归语言模型所诱导的噪声与数据耦合。作者从理论上证明,由自回归模型诱导的 Gumbel 噪声与 one-hot 词元序列之间的耦合会产生连接噪声与序列表示的不相交线性路径。为提升少步采样质量,方法采用流映射半群目标,并由自回归教师直接指导切线(速度)条件。在包括预训练和下游任务在内的多个基准上,GSF 的表现优于现有的少步语言生成基线。

Yeongmin Kim, Arnaud Doucet, Andrew Campbell 等

arXiv cs.LG

Score the Update, Not the Token: Descent-Aligned Routing for Combinatorial LoRA Experts

说明评分更新而非token:面向组合式LoRA专家的下降方向对齐路由

简介论文提出VANE方法,用于混合LoRA专家模型的路由。现有方法按token打分选择专家,而该方法根据专家更新与损失梯度负方向的对齐程度来打分,并把每个专家拆分为读取与写入两部分以覆盖所有组合。在常识推理及多领域混合任务上,基于Llama-3.2-3B和Llama-3.1-8B的实验显示其平均表现优于十二个基线,且可训练参数不到8专家MoE-LoRA的一半。

Priya Nair, Lukas Brenner, Maya Lindqvist 等

arXiv cs.CL · cs.AI

EurekaBench: Measuring Agentic Ability to Discover New Scientific Insights

说明EurekaBench:衡量智能体发现新科学洞见的能力

简介该论文提出 EurekaBench,一个跨学科基准,用于测试 AI 智能体能否通过长周期实验发现解释观测现象的机制。基准包含经专家验证的 26 项长周期任务,涵盖神经科学、计算机科学、化学、天体物理、地球物理和等离子体物理,共 306 条预期可由所发现机制支持的科学洞见。结果显示,当前智能体往往过度追求预测精度,预测能力可超过人类科学家,但在推导科学洞见方面明显不足。

Jiayi Geng, Zhengxuan Wu, Kevin S. Chen 等

arXiv cs.RO · cs.AI

UMI-WM: Interactive World Modeling for Bimanual Manipulation from Wrist Cameras

说明UMI-WM:基于腕部相机的双臂操作交互式世界模型

简介该论文提出UMI-WM,一种以动作为条件的双臂世界模型,可依据观测历史、每只手臂的相对相机位姿和夹爪开合度,联合生成两路腕部视频。模型通过分别注入各臂动作并用稀疏枢纽token交换场景信息,提升跨视角一致性与动作跟随能力。作者还将30步教师模型蒸馏为四步学生模型,生成速度提升6.9倍,并在五项参考视频保真度指标上取得最佳结果。

Jingxiang Guo, Haoyu Zhao, Xidong Zhang 等

arXiv cs.RO · cs.LG

ScaffoldM3C: A Multimodal Sequential Monte Carlo Framework for Generative Stable Construction Planning

说明ScaffoldM3C:用于生成稳定结构搭建规划的多模态序列蒙特卡洛框架

简介论文提出ScaffoldM3C模型,用于生成可稳定搭建的积木式三维结构。模型支持文本、图像、草图等多模态输入,引入辅助脚手架积木帮助稳定中间结构,并用序列蒙特卡洛方法同时保留多种可能的搭建顺序。作者称其模型体积约为对比基线的四分之一,推理速度提高5到20倍,搭建质量与现有方法相当且整体更稳定,并通过仿真和真实机器人装配实验进行了验证。

Gadiel Sznaier Camps, Chengyang He, Guillaume Sartoretti 等

arXiv cs.CV

PixelDense: Dense Prediction as Representation Alignment for Pixel Diffusion

说明PixelDense:将密集预测作为像素扩散的表示对齐

简介论文提出 PixelDense,在像素空间扩散 Transformer 训练中用表示对齐(REPA)引入密集预测基础模型。语义教师(DINOv2、SAM2)与几何教师(Depth Anything v2、Metric3D v2)分别走不同投影通路,并加入权重正交惩罚使两者分离;训练时教师冻结,推理时移除。在 PixelGen 和 DeCo 上,该方法提升了 GenEval、DPG-Bench 和 HPS v2.1 等指标,并加快了训练收敛。

Lehan Yang, Daiqing Qi, Wenhao Zhang 等

arXiv cs.IT · cs.ET · cs.LG

AIR-LLM: Broadcasting AI Weights over Radio for Memory-Free Edge LLM Inference via RF Computing

说明AIR-LLM:通过无线电广播权重、在射频域完成边缘大模型推理的架构

简介该论文提出AIR-LLM,让边缘设备无需存储或加载大语言模型权重即可运行推理。中央无线电(如5G基站)将权重广播到空中,边缘用户接收后利用射频混频器在射频域直接完成矩阵向量乘法。论文在两个城市场景的射线追踪信道和真实射频混频器上实现该方案,报告在LLaMA-3.1-8B上WikiText-2困惑度下降4.0%,能耗分别比FP16和仅权重量化基线低157.7倍和40.4倍。

Zhihui Gao, Tingjun Chen, Dirk Englund

arXiv cs.CV · cs.AI · cs.LG

PACT: End-to-End Learning of Human Pose, Contacts, and Forces from Video

说明PACT:从视频端到端学习人体姿态、接触与受力

简介该论文提出PACT模型,可从单目视频中同时估计人体姿态、接触点及接触力,而不是分阶段处理。模型在人体重建基础模型上加入可学习的接触力标记和时序Transformer,并用物理约束保证运动与受力一致。作者还构建了攀岩视频基准ForceWall,其真实接触力来自力传感器,实验显示该方法在接触与受力估计上表现领先。

Rikhat Akizhanov, Yangsong Zhang, Nikolai Kaliazin 等

★★★★★ 值得关注
arXiv cs.CV 有代码

Multimodal Flow: Unified Flow Modeling of Language and Vision in Embedding Spaces

说明Multimodal Flow:在嵌入空间中统一建模语言与视觉的流模型

简介本文提出 Multimodal Flow,一种对语言和视觉进行完全连续生成建模的统一模型。它把文本块与图像组织为有序的连续超块,用共享的块因果流主干通过 Flow Matching 学习单一向量场,并以联合注意力实现跨模态交互。使用 150B 预训练 token 训练的 MF-1 在 GenEval 与 DPG-Bench 上平均得分 82.8,在 VQAv2、MMBench 和 POPE 上平均得分 75.3;代码与模型已公开发布。

看点提出完全连续的统一语言-视觉生成范式,用共享块因果流骨干与流匹配建模多模态,并与混合及离散模型做了匹配预算对比,证据较充分。

Hongyuan Tao, Xinggang Wang, Lianghui Zhu 等

arXiv cs.LG · cs.CL · cs.CV

Ranking-Aware Prompt Optimization for Multimodal Clinical Diagnosis

说明面向多模态临床诊断的排序感知提示优化

简介论文指出临床数据类别极不均衡,仅看准确率会产生误导,因此以与阈值无关、按排序衡量正负样本区分能力的 AUROC 作为优化目标。作者提出 Ranking-PE 方法,将提示进化搜索中的准确率矩阵替换为正负样本对的排序矩阵,在 MIMIC 三种疾病上优于基于准确率的方法,并指出医学级视觉骨干是提示搜索无法替代的前提。

Tian Xia, Minghao Liu, Yiqing Liang 等

★★★★☆ 值得关注
arXiv cs.LG · cs.AI · cs.CL 有代码

Semifactual Credit-Augmented Policy Optimization

说明半事实信用增强的策略优化(SCAPO):一种改进大模型推理训练的方法

简介该论文发现,大语言模型的预测对与任务无关的提示特征敏感。作者提出SCAPO方法,在GRPO基础上依据半事实干预下的词元概率漂移,降低不稳定词元的优势值,以更细粒度地分配训练信用。在Qwen3-4B-Base和Qwen3-1.7B-Base上,SCAPO在AIME 2024-2026的准确率分别比GRPO高5.63和4.17个百分点。

看点在GRPO上引入语义反事实稳定性进行token级信用分配,新颖但属于对已有方法的改进;在多个数学基准上有对比实验,AIME提升明显。

Junshu Pan, Zhizhang Fu, Shulin Huang 等

arXiv cs.LG · q-bio.NC

Removing Timing Shortcuts Improves Non-Invasive Brain-to-Text

说明去除时序捷径可提升非侵入式脑到文本解码

简介该论文指出,一项有影响力的非侵入式脑信号解码工作中,大部分报告的提升在不使用任何脑数据时也能复现,原因是相邻窗口的重叠泄露了词语时长,形成捷径。作者改为对每个窗口独立处理,消除了该捷径,并结合多次观测聚合与预训练语言模型先验,提出SimpleB2T方法,在每词五次观测下实现36.6%的词错误率。

Dulhan Jayalath, Oiwi Parker Jones

arXiv cs.CV

Physis-Lang: Self-Evolving Language as a Physical Representation for Video World Model

说明Physis-Lang:以自我进化的语言作为视频世界模型的物理表示

简介论文提出 Physis-Lang 框架,把物理语言作为数据整理、模型训练和视频生成之间可共享、可优化的表示。它用 PhysCapBench 把物理过程拆成原子断言,以召回率和精确率评估描述,并通过智能体循环改进生成描述的指令。实验显示在四个物理视频基准上物理合理性有一致提升,从开源 Cosmos3-Nano 出发的模型超过了 Veo 3.1。

Liming Lu, Xianzheng Ma, Wenkun He 等

arXiv cs.CV · cs.AI

ViTeX-Bench: Benchmarking High-Fidelity Video Scene Text Editing

说明ViTeX-Bench:高保真视频场景文字编辑基准测试

简介本文提出 ViTeX-Bench 基准,包含 387 段真实 720p 视频的数据集(ViTeX-Dataset)及三维评估体系,用于衡量视频中场景文字替换的正确性、视觉与时间质量以及编辑局部性。作者还发布了开源参考编辑模型 ViTeX-Edit-14B,其字符准确率为 0.688,在已评测的视频原生编辑器中均值最高。研究表明,准确文字、时间稳定性与场景保持三者仍难以同时实现。

Xinghao Chen, Xiangbo Gao, Jiongze Yu 等

arXiv cs.CV · cs.RO

AssemblyWorld: Rethinking 3D Assembly with General-Purpose Agents

说明AssemblyWorld:用通用智能体重新思考三维装配

简介该论文提出AssemblyWorld交互式三维环境,智能体通过观察渲染视图并操作刚性零件进行装配,参考图像或装配说明可选。作者构建了包含100项任务、80个物体(家具、工业装配与断裂重组)的AssemblyWorldBench基准,评估八个智能体系统。最强系统零件准确率为80.9%,整体装配成功率为59.4%,开源系统整体落后于闭源系统。

Jiahao Zhang, Yeying Fan, Moitreya Chatterjee 等

arXiv cs.CV · cs.LG

Image Classifiers are Efficient Self-Supervised Video Representation Learners

说明图像分类器是高效的自监督视频表征学习器

简介本文提出VideoMSN,一种用于视频自监督时空表征学习的掩码孪生网络框架。它将视频帧拼成网格形式的“超图像”,并复用标准图像视觉Transformer,通过掩码孪生损失对齐两种掩码视图的嵌入,无需解码器或重建。以DINO-v3和DeiT-v3为起点,该方法在Kinetics-400、UCF101和HMDB51上取得了领先表现,所需预训练轮数最多可减少32倍至160倍。

Owais Iqbal, Sudipta Sarkar, Shyam Marjit 等

arXiv cs.RO · cs.CV

Ego4WAM: What Matters When Scaling Egocentric Human Data for Robot Learning?

说明自我中心人类数据用于机器人学习的规模化研究(Ego4WAM)

简介本文系统研究了不同对齐程度和监督形式的第一视角人类数据在机器人学习中的作用,统一采用世界-动作模型框架。研究区分了人机对齐、数据时长与任务多样性、动作监督以及数据使用策略的各自影响。结果显示,对齐的人类示范能显著提升分布外泛化并减少目标任务的机器人数据需求,仅有视频、无动作标签的监督同样有效。研究结论在真实机器人与RoboDojo上的闭环策略评估中得到验证。

Zhihao Sun, Liu Liu, Xinjiang Wang 等

arXiv cs.CL

EvoDuet: Bilevel Co-Evolution of Web Searching and Task Solving for Scientific Discovery

说明EvoDuet:网络检索与任务求解的双层协同进化,用于科学发现

简介论文提出EvoDuet方法,用于LLM驱动的进化搜索。它在固定模型参数下同时进化解决方案与检索查询,由检索门控判断模型是否需要外部知识,并选择检索、复用已存文档或不检索。在21个优化任务中,EvoDuet提升了OpenEvolve的归一化发现增益,并在部分任务上超过或匹配先前报告的最佳分数。

Young-Jun Lee, Jinheon Baek, Soyeong Jeong 等

arXiv cs.LG

Is Weight Tying Still Beneficial for Decoder-Only LLMs in Private Settings Under DP-SGD?

说明权重绑定在 DP-SGD 隐私训练下对仅解码器大模型是否仍有益?

简介本文研究差分隐私随机梯度下降(DP-SGD)微调大语言模型时,输入与输出嵌入是否共享权重(权重绑定)的影响,以 GPT2 和 DistilGPT2 为例。结果显示,解绑嵌入在 SST-2、QNLI、QQP 上准确率最高提升 4.74 个百分点,并能启用幽灵裁剪以降低超过 60% 的内存占用。作者认为解绑嵌入更适合隐私训练。

Razan El Mais, Ali Chehab, Ibrahim Issa 等

arXiv cs.CV

I Have a Stream: Making Self-Supervised Learning Work on Continuous Video

说明《I Have a Stream》:让自监督学习在连续视频上有效

简介本文研究在连续视频流上进行自监督学习,帧按时间顺序使用滑动窗口批次读取,不做全局打乱或多轮重放。作者构建了95小时的城市步行视频数据集WT++,发现对比学习和蒸馏类方法在此设定下表现不佳,MAE更稳健但仍不及标准独立同分布预训练。论文指出主要难点是批次内帧高度相似,并提出StreamMAE,通过流感知正则化和运动偏置裁剪改进输入流程,其表现优于流式基线,与同数据的独立同分布MAE相当,且随预训练流长度增加而提升。

Ivan Martinovi\'c, Lukas Knobel, Yuki M. Asano

arXiv cs.AI

Turbo Harness: Instance-Adaptive Harness Optimization

说明Turbo Harness:面向单个实例自适应调整的智能体框架优化方法

简介该论文研究如何为智能体自动搜索有效的运行框架(harness)。现有方法通常得到一个对所有任务统一使用的全局框架,但对每个具体实例未必最优。作者提出 Turbo Harness,复用全局优化过程中产生的中间产物并整理为结构化手册,再训练一个框架编辑器,为每个实例生成针对性的补丁。实验表明,在涵盖交互式智能体任务、软件工程和长周期终端任务的七个基准上,该方法优于现有框架优化基线。

Tunyu Zhang, Hao Wang, Kai Xu 等

arXiv cs.AI

WorldAuditBench: Interactive 3D World Auditing with Multimodal Agents

说明WorldAuditBench:基于多模态智能体的交互式3D世界审计基准

简介该论文提出WorldAuditBench,用于检测交互式3D仿真环境中的异常(如漂浮物体、可穿过的墙体等),包含13个环境、213个异常任务,涵盖五类异常。研究比较了两种审计范式在固定探索预算下的表现,成功率为6.6%至42.3%,明显低于人类的83.4%。

Ziyan Jiang, Jingbo Yang, Jiabao Ji 等

arXiv cs.AI · cs.GT

Cogentic: Multi-Agent Orchestration for Automated Proof Discovery

说明Cogentic:用于自动证明发现的多智能体编排框架

简介本文提出Cogentic,一个用于开放数学研究问题自动证明发现的多智能体框架。它通过迭代的证明-验证循环,让编排器把多个独立的证明者分配到不同证明方向,由专门的对抗式验证组件检查输出,并把确认的中间结果存入持久的已验证账本供后续轮次使用。作者称,以Gemini 3.1 Pro或早期版本的Gemini 4 Argon为基础模型,该框架在在线学习、拍卖理论和机制设计的开放问题上得到了新结果,这些结果经领域专家独立验证,完整内容见配套论文。

Yang Cai, Vineet Gupta, Yanchen Jiang 等

arXiv cs.CV · cs.AI · cs.CL

MatLoom: Layered Text-to-Material Generation in a Compact Program Space

说明MatLoom:紧凑程序空间中的分层文本到材质生成

简介该论文提出 MatLoom,一种用于文本到材质生成的紧凑分层语言,每个程序由带透明度蒙版的图层组合而成,定义物理渲染(PBR)各通道。解释器可将程序转换为材质贴图,同时保留可编辑的参数。在141条提示的基准测试中,其最佳配置在四项平面布局提示对齐指标的平均分上均高于三个扩散模型基线,并在盲测偏好中获得更高选择比例。

Anson Y. Lam, Shuqing Li, Michael R. Lyu

arXiv cs.AI · cs.CL · cs.CV

Frozen Scenes, Shifting Winners: Configuration Fragility in Text-to-3D Evaluation

说明《冻结场景,胜者易变:文本生成3D评测中的配置脆弱性》:同一批场景换个渲染或描述设置,排名就可能变

简介本文研究在场景固定不变的情况下,文本生成3D排行榜是否会因渲染相机设置和描述文字而改变。作者对6个生成器的300个固定场景,改变8个渲染与描述因素,检验19个对齐评测器及1个感知质量对照。结果显示,多数评测器的配置方差超过生成器之间的差异,且18/19个评测器在某些配置下会改变点估计的第一名;但作者指出,这些变化仅是描述性的,并未证实生成器真实优劣发生了改变。

Anson Y. Lam, Shuqing Li, Michael R. Lyu

arXiv cs.CV

Atomizer-IO: Beyond Pixels, Patches and Grids

说明Atomizer-IO:超越像素、图块与网格的感知架构

简介本文提出Atomizer-IO,一种不依赖规则网格的视觉架构:它先表示观测值,再依据其测量与采集元数据和物理关系推导结构,并通过局部交叉注意力将观测映射到可任意放置的锚点。作者逐步放宽网格假设进行评估,结果显示该架构在多数任务上与灵活的遥感专用架构相当,并能在训练后控制推理成本,同时可无需重新设计扩展到无序三维点云。

Hugo Riffaud de Turckheim, Sylvain Lobry, Nicolas Houdr\'e 等

arXiv cs.CV

GLARE: Generating Listening Heads with Appropriate Reactions

说明GLARE:生成带有恰当反应的倾听者头像视频

简介该论文关注对话中倾听者的自然反应生成,包括何时反应、如何反应以及反应类型。作者构建了约147小时配对说话者与倾听者视频的数据集,其中含64,557条事件级反应标注(点头、摇头、微笑、大笑、皱眉、惊讶),提出基于流匹配Transformer的音频驱动基线模型GLARE,并设计了衡量反应发生、时间对齐等指标的评估方案。实验显示,该方法在视觉质量和反应指标上均优于既有方法。

Zikai Liao, Yumin Suh, Yi Ouyang 等

arXiv cs.LG · cs.AI · cs.CL

Scaling Laws for Looped Mixture of Experts

说明循环混合专家模型的缩放定律:同时建模循环深度与稀疏性的扩展规律

简介本文提出“循环缩放定律”(Loop Scaling Laws),首次将循环结构、稀疏性(混合专家,MoE)、模型规模和数据量放在同一框架中建模。作者用有界的、依赖稀疏性的循环映射描述循环带来的有效参数增益,预测留出数据上的损失比已有方法更准确,并能还原标准稠密与MoE缩放定律。下游评测显示,稀疏性与循环各有互补的效率收益,两者结合在推理基准上进一步提升性能,并在万亿级词元规模下得到验证。

Yanbei Chen, Anirudh Goyal, Raghuraman Krishnamoorthi

arXiv cs.LG

Compression Footprints as Security Signals for Model-Poisoning Defense in Federated Learning

说明压缩痕迹作为联邦学习模型投毒防御的安全信号:论文提出用有损压缩产生的特征识别恶意更新

简介该论文提出“压缩痕迹”概念,即有损压缩在重构、方向、稀疏性和载荷等方面留下的低维统计特征,用于区分诚实与攻击生成的更新。作者据此设计了服务端鲁棒聚合方法CRAFT,在严格诚实多数假设下运行,无需客户端元数据或恶意客户端数量。实验在IID数据、36%恶意参与率下进行,CRAFT在18组设置中有7组取得最佳准确率,其余设置与最佳结果相差不超过1.7个百分点。

Sachi Shome, William Eiers

arXiv cs.LG · cs.IT · math.IT

Exact information accounting for SGD methods

说明随机梯度下降方法的精确信息核算

简介本文提出一种信息论视角的精确分析框架,用于研究随机梯度下降(SGD)及其变体,而非采用标准的几何分析。作者证明带预条件的 SGD 步骤是高斯贝叶斯模型的后验均值更新,并将单步遗憾分解为内在时间成本与比较器信息变化两部分。在真实网络上的实验表明,该恒等式能解释经典收敛界的松弛来源,并区分达到相同训练损失的优化器。

Akshay Balsubramani

arXiv cs.RO · cs.AI · cs.LG

DynaHarness: A Dynamic Physical Harness for Self-Evolving Robot Agents

说明DynaHarness:面向自我进化机器人智能体的动态物理约束框架

简介该论文提出 DynaHarness,一种动态物理约束框架,将语义推理与物理执行通过共享的执行契约耦合起来,并把失败记录转化为经验证的能力修订。在 LIBERO-Pro 基准上,其在 800 个新采样初始状态中成功率为 75.2%,冻结策略为 17.5%。

Haoyuan Deng, Jiebin Liu, Tengxiao Zhang 等

arXiv cs.CV · cs.LG

Looped Diffusion Transformer

说明循环扩散Transformer:通过重复运行共享模块提升文生图质量

简介该论文提出循环扩散Transformer(Looped-DiT),在每个去噪步骤中重复运行共享的Transformer模块,在参数量不变的情况下增加计算深度。为解决朴素循环无法稳定提升画质的问题,作者引入中间循环的深度监督与自调制注意力。在参数和计算量匹配的设置下,该方法优于非循环基线,其中一个2.6亿参数的循环模型在多个文生图基准上超过了规模大6.5倍的模型。

Yong Xien Chng, Tianyi Chen, Wenwen Tong 等

arXiv cs.AI

How Much of a Harness Does a Strong Agent Need for Autonomous ML Engineering?

说明强大的智能体在自主机器学习工程中需要多少“工具外壳”?

简介这篇论文研究自主机器学习工程智能体中的“工具外壳”(harness)是否必要。作者发现,在相同时间预算和相同前沿大模型基础下,开源的先进工具外壳并不优于一个极简的编码智能体基线。通过大规模消融实验,作者认为额外的机制层在编码智能体场景中变得多余,因此精心手工设计外壳对当前机器学习基准的收益有限。

Kirill Brilliantov, Alejandro Hern\'andez-Cano, Emmanuel Abb\'e

★★★★★ 值得关注
arXiv cs.CL · cs.LG 有代码

How Much Is an AI Token Worth? Scaling Laws for Wild AI-Generated Web Text

说明AI生成的token值多少?面向真实网络AI文本的缩放定律

简介论文研究网络上未标注的AI生成文本对语言模型预训练的影响。作者预训练了800个模型,改变AI token与人类token的比例,并拟合缩放定律。结果显示,数据不足时加入AI文本起初会降低人类文本损失,但随后反而有害;数据充足时,AI文本会较快提高损失。论文提出了一个含有益与有害两项的新缩放定律,并发布了WildAI语料库。

看点提出含收益与损害两项的新缩放律,可解释AI文本价值符号翻转,并以800个模型实证验证,较现有定律误差降低41%。

Jenna Russell, Ben Glickenhaus, Katherine Thai 等

arXiv cs.LG 有代码

One pool, many targets: a conservation layer and what archival data can identify

说明一个池,多个靶标:守恒层与档案数据能识别什么

简介论文指出,把引导-转录本配对分数独立解释为占据率时,无法保证有限的引导RNA装载RISC池守恒。作者提出一个可微的标量平衡层,并基于档案脱靶数据审计剂量与跨情境两项实验,结论是这些数据不足以证明该耦合带来额外预测价值,也无法确定竞争参数。

Zahra Khodagholi, Niloofar Yousefi

arXiv cs.LG · q-bio.NC

Disentangling Computation in Multi-Task Neural Networks with the Green's Operator

说明用格林算子解析多任务神经网络中的计算结构

简介本文研究训练好的循环神经网络如何在不同任务和时间步之间组织与复用计算。作者不看神经活动的几何或局部扰动增长,而是分析有限时域的格林算子,它刻画了轨迹上每个源头的扰动如何传递到下游的状态空间响应。在一个灵活的多任务循环网络中,任务维度的归约显示出已知计算模式的结构化复用,时间维度的归约则揭示因果通路及其在训练中的形成过程。

James Hazelden

arXiv cs.IT · cs.AI · math.GR

CAS II: Orbits as Models: Kolmogorov's Structure Function under Symmetry

说明CAS II:作为模型的轨道——对称性下的柯尔莫哥洛夫结构函数

简介本文在算法统计学中引入对称分划,即群作用于字符串所产生的轨道分划。论文证明,在全对称群下,柯尔莫哥洛夫结构函数的模型与简单分划的单元可以刻画正常串与奇异串;在GL(n,2)下,则给出了该结构函数的上下界,并通过Burnside环元素对置换群进行坐标化。

Romie Banerjee

arXiv cs.LG

PMosFM: Preconditioned Manifold Matching for One-Step Physics-Constrained Generation

说明PMosFM:用于单步物理约束生成的预条件流形匹配方法

简介该论文提出PMosFM框架,用于生成既符合目标分布又满足物理约束的物理场。方法通过流形解码器编码约束,在本征坐标中学习传输,并结合几何预条件与协方差变换来改善训练条件。推理时只需一次神经网络传输加物理解码,论文称在多个基准上其训练和采样时间低于多步基线,同时保持相当的物理与分布保真度。

Zhangyong Liang, Haibin Ling

arXiv cs.CL · cs.AI

Linguistic Loopholes in LLM Unlearning: From a 174-Language Benchmark to Coverage-Aware Unlearning

说明LLM遗忘中的语言漏洞:从174种语言基准到覆盖感知的遗忘方法

简介论文指出,在一种语言中让大模型遗忘某个事实,并不能保证其他语言中也被清除,改变提问或回答语言就可能重新暴露该知识。作者提出按语言预算选择部分语言进行遗忘的任务,构建了覆盖174个语言-文字组合和25种改写类型的基准,并提出COVER方法来选择源语言以最大化对未受监督语言的覆盖。在三个模型系列和两个不相交的遗忘集上,COVER相比均匀选择源语言使平均残留访问率降低7.8%至27.3%。

Tyler Skow, Shravan Chaudhari, Rama Chellappa 等

arXiv cs.AI

PivotOPD: Learning to Recover from Pivotal Mistakes in Multi-Turn Agents

说明PivotOPD:学习从多轮智能体的关键错误中恢复

简介论文提出 PivotOPD,一种用于训练语言智能体的在线策略蒸馏框架。研究发现,多轮交互中失败的轨迹多数包含一个早期出现的关键错误,但这种错误通常可以通过几轮引导得以修正。方法结合预防性蒸馏与恢复性蒸馏,在 ALFWorld、WebShop 和 Search-based QA 等基准上相较 13 个基线取得最佳平均表现,并在 SWE-Bench Verified 上提升了另一模型家族的解决率。

Yinghui He, Yapei Chang, Khushi Bhardwaj 等

★★★★☆ 值得关注
arXiv cs.LG · cs.AI · cs.CL

cua-speedrun: Standardized Benchmarking of the Speed of Computer-Use Agents

说明cua-speedrun:计算机使用智能体速度的标准化基准测试

简介本文提出 cua-speedrun,为计算机使用智能体(通过图形界面完成电脑任务的 AI)的速度与效率评估提供标准化的基础设施和任务集,统一虚拟机环境与智能体接口。作者在四个基准上评估了推理强度、智能体框架和环境延迟对性能、速度与成本的影响,发现没有单一模型族在三者上都最优,并且有些模型提高推理强度反而能加快任务完成。

看点针对CUA速度评测提出标准化基础设施与统一接口,并在四个基准上系统测试推理力度、框架和环境延迟的影响,属于有新意的组合改进。

Pranjal Aggarwal, Lawrence Keunho Jang, Sean Welleck 等

arXiv cs.AI · cs.MA · cs.RO

Belief-Aware Multi-Agent Path Finding under Map Uncertainty

说明地图不确定条件下的信念感知多智能体路径规划

简介多智能体路径规划(MAPF)要为多个智能体在共享环境中找出无碰撞路径。本文针对地图障碍物初始未知、执行中固定不变的情形,提出MAGIC框架,利用高斯马尔可夫随机场和高斯信念传播在线更新对可通行性的共享信念,并据此为标准MAPF规划器构造考虑绕行的代价。实验显示,在96.3%的实例中,MAGIC降低了执行总代价,适用于多种规划器及多达800个智能体的团队。

Viraj Parimi, Shao-Hung Chan, Han Zhang 等

arXiv cs.LG

OpenTSLM TeeMoE: A Unified Time-Series Language Model for Forecasting, Contextual Prediction, and Reasoning

说明OpenTSLM TeeMoE:一个统一的时间序列语言模型,用于预测、情境预测与推理

简介该论文提出 OpenTSLM TeeMoE,一个通用时间序列语言模型,可直接对观测到的时间序列进行预测,也能结合文本语境进行推理,并整合外部数值预测模型的结果。模型用共享主干训练三个低秩专家,再由学习得到的 LoRA 专家混合控制器为每个请求加权。论文称其在 GIFT-Eval、Context is Key 和 TimeSeriesExam 基准上位列前三。

Tony Chen, Timo Stoffregen, Maxwell Xu 等

arXiv cs.CV · cs.AI

ComputerSD: Online Self-Distillation from Real-Time Feedback for Computer-Use Agents

说明ComputerSD:基于实时反馈的在线自蒸馏,用于计算机使用智能体

简介该论文提出ComputerSD方法,让计算机使用智能体(CUA)在与可执行环境交互时,利用每一步GUI操作后的实时反馈进行在线自蒸馏训练。方法通过微调的GUI分析器生成指导信息和步骤级价值分数,并与轨迹级GRPO联合优化。在OSWorld-Verified基准上,相比仅使用结果奖励的GRPO,分别在Qwen3-VL-8B-Thinking和EvoCUA-8B骨干模型上提升1.9和4.1个百分点,域外评测也显示出一定的泛化性。

Yong Du, Tongbo Chen, Zhengxi Lu 等

arXiv cs.RO · cs.LG

STARS: From Spatiotemporal Dynamics to Social Representations in Human-Robot Interaction

说明STARS:从时空动态到人机交互中的社交表征

简介本文介绍了社交导航场景理解基准SocialNav-SUB,这是一个视觉问答数据集,用于评估视觉-语言模型在真实社交机器人导航场景中的场景理解能力,涵盖空间、时空和社交推理任务。实验表明,表现最好的模型与人类答案一致的概率令人鼓舞,但仍低于简单的规则基线和人类共识基线,说明当前模型在社交场景理解上存在明显不足。

Nathan Tsoi, Michael J. Munje, Tejas Oberoi 等

★★★★☆ 值得关注
arXiv cs.CV · cs.RO 有代码

StreamRig: Exploiting Intra-Rig Geometry for Streaming Multi-Camera Odometry

说明StreamRig:利用多相机装置内部几何关系的流式多相机里程计

简介该论文提出StreamRig框架,在冻结的多视角三维基础模型上构建面向已标定多相机装置的因果流式里程计,仅训练轻量模块(共74.6M参数),以相对位姿作为唯一监督。在NCLT、TartanGround、KITTI-360及作者自采的人形机器人数据集ZJH上评估,训练仅使用仿真数据,真实场景为零样本测试。结果显示其平移与旋转漂移低于所评估的非oracle单目流式模型及多相机离线模型,推理开销较低。

看点在冻结的多视角3D基础模型上利用相机装置几何构建因果流式里程计,提出Rig-Resampler与CausalBridge模块,并在多个数据集上以零样本方式验证,证据较充分。

Yufei Wei, Shuhao Ye, Qi Wang 等

arXiv cs.IR · cs.CL

Decision-Oriented Recommendation Reranking: An Empirical Study of Its Promise and Limitations

说明面向决策的推荐重排序:关于其前景与局限的实证研究

简介本文研究面向决策的系统能否用于推荐重排序,即在预定义候选项中做结构化选择。作者在三个亚马逊评论领域和四种候选集规模下,将两种决策系统与推荐专用模型及基于大语言模型的重排序方法进行了对比,评估推荐效果、候选顺序稳健性和效率。结果显示,其中一个系统常能在较低延迟下取得有竞争力的推荐效果,但决策专门化并不必然带来更优的质量或稳健性。

Hanjia Lyu, Yinglong Xia

arXiv cs.CL · cs.LG

Comparison of techniques for fine-tuning open-weight models for entity extraction from radiology reports

说明比较对开源权重模型进行微调以从放射学报告中抽取实体的方法

简介本文研究如何微调开源权重模型(Gemma-3-12B),使其从非增强头部CT报告中抽取颅内出血急性程度的多标签信息,并与GPT-4o对比。研究采用2x2设计,比较了分类头与指令微调两种方法,以及真实报告蒸馏与合成报告两种训练数据来源。结果显示,使用真实报告蒸馏的指令微调模型与GPT-4o表现相当,而合成数据模型未能超过未微调的基础模型,说明训练数据来源是关键因素。

Aawez Mansuri, Kush Mehta, Mohammadreza Chavoshi 等