AI 算法 · 2026年10月14日(周三)

机器学习、人工智能、自然语言处理、计算机视觉、多智能体。

arXiv cs.LG · cs.AI · cs.CL

Beyond Aggregate Accuracy: Item-Level Transitions in Prompt Optimization

说明超越总体准确率:提示优化中的题目级变化

简介本文提出RFDPO方法,在自动提示优化过程中追踪每道题从错到对(恢复)、从对到错(退化)以及所有变化的结果(波动)。作者在法律、知识、指令遵循、数学和隐私五个基准上评估该方法,发现总体准确率可能掩盖大量题目级变化。在LegalBench-Hearsay的对照实验中,题目级反馈使波动减少40%,同时保持相近的净提升。

Chinmoy Mitra, Tarek Mahmud

arXiv cs.LG

Backpropagating Verifier Rewards Through Continuous Flow Language Models

说明通过连续流语言模型回传验证器奖励

简介本文提出一种针对连续流语言模型的强化学习后训练框架。该模型在多步中对词嵌入去噪,仅在最后一步解码为离散词元。作者引入一个评论家(critic)来估计中间词嵌入的价值,从而绕过不可微的解码步骤,实现低方差的路径式梯度回传。在四项推理任务上,该方法能稳定提升模型表现,并优于同类基线方法。

Xu Han, Jiajing Hu, Li-Ping Liu

arXiv cs.LG · stat.CO · stat.ME 有代码

Theoretical and Practical Advances in Hierarchical Bayesian Deep Learning Methodology

说明分层贝叶斯深度学习方法的理论与实践进展

简介本文提出多层粒子边际Metropolis-Hastings方法(MLPMMH),用于对神经网络参数与先验超参数进行联合贝叶斯推断,以量化不确定性。该方法结合超参数的伪边际推断与基于网络宽度截断层级的耦合序贯蒙特卡洛。在标准多层耦合假设下,作者证明其均方误差与计算成本满足给定的收敛速率,并在贝叶斯回归问题上进行了验证。此外,还提出了基于PCA层级的实用近似方法S-MLPMMH,在MNIST上展示了有竞争力的预测与不确定性量化表现。

Neil K. Chada, Simon Cotter, Kody J. H. Law 等

arXiv cs.CV

MonoMIP: Multi-Height Inverse Perspective Mapping for Monocular 3D Object Detection

说明MonoMIP:用于单目3D目标检测的多高度逆透视映射

简介单目3D目标检测方法多依赖深度引导的Transformer,但都在透视图像平面上运行,空间关系因近大远小而失真。本文提出MonoMIP双解码器框架,通过多高度逆透视映射(Multi-Height Inverse Perspective Mapping)构建鸟瞰图(BEV)特征,补充三维几何推理。在KITTI验证集上,Car类Moderate AP3D|R40达到25.84%,官方测试集上为21.66%,原文称在KITTI和Waymo基准上均优于近期已发表的单目方法,且未使用额外训练数据。

Emir Ulurak, Furkan K{\i}ra\c{c}

arXiv cs.AI · cs.IR

Plan or Retrieve First? A Scale Study of Tool Discovery Architectures

说明先规划还是先检索?工具发现架构的规模研究

简介本文比较两种让大语言模型智能体从大型API库中找到工具的方法:先检索再规划(RtP),以及先生成抽象工具存根再检索(PtR)。在ToolBench上的实验显示,单工具查询中RtP更好,多工具查询中PtR更好,且这一交叉在不同检索数量与库规模下均成立。作者还分析了PtR额外调用带来的推理成本,并提出可依据RtP的首位检索分数进行复杂度自适应路由。

Mingfei Zhang, Amit Surana, Ziauddin Majid 等

arXiv cs.IR · cs.AI · cs.LG

Revisiting Generative vs. Dense Retrieval: A Static Value Prior Reverses the Gap

说明重新审视生成式检索与稠密检索:静态价值先验扭转了差距

简介本文比较了生成式检索(GR)与稠密检索(DR)在在线零售候选生成中的表现,实验基于两个Amazon Toys数据集以及一个工业规模的内部电商数据集。研究发现,GR在相关物品价值上领先,而DR在精确目标召回和排序列表的相关价值上更优。分析表明,流行度是GR价值领先的主要来源;在DR中加入相同的静态物品价值后,领先关系发生逆转。

Renbo Tu, Yang Liu, Shuying Sun

arXiv cs.LG · cs.AI

How Inner Optimizers Shape Replica Scaling

说明内层优化器如何影响副本扩展

简介本文研究在地理分布、互联较弱的计算资源上训练大语言模型时,增加模型副本数量会导致性能下降的问题。作者分析了内层优化器的两个关键因素:伪梯度的协方差结构和批量大小对伪梯度噪声尺度的影响。理论与实验表明,基于白化的预条件方法在8到96个副本的范围内表现出较好的副本扩展性。

Eugene Belilovsky, Stefan Horoi, Edouard Oyallon 等

arXiv cs.CV

WorldMemBench: A Comprehensive Benchmark for Memory of Video World Models

说明WorldMemBench:视频世界模型记忆能力的综合基准测试

简介该论文提出了 WorldMemBench,用于系统评估视频世界模型的记忆能力。基准包含 260 个测试用例,既考察静态记忆(如人物、物体、环境的外观与几何保持),也考察动态记忆(如事件进展与状态持续)。研究对九个代表性模型进行评测,发现静态保持较强并不代表动态状态演变可靠,且多次回访后记忆会出现退化。人工研究显示自动评估与人类判断基本一致。

Nan Zhou, Jianxiong Gao, Qiuyu Wang 等

arXiv cs.AI

RLPE: Teaching LLMs to Prompt with Reinforcement Learning

说明RLPE:用强化学习教大语言模型编写提示词

简介本文提出强化学习提示工程(RLPE),训练一个模型分析另一个任务模型的运行轨迹,并针对其中观察到的失败编写提示词。该模型只根据提示词带来的性能提升获得奖励。生成的提示词可一次生成后反复使用,推理时无需运行训练好的模型,且只需对目标模型的查询访问权限。

Rahul Singhal, Karime Maamari, Pradyumna Tambwekar

arXiv stat.ML · cs.LG · math-ph

Conformalized Physics-Informed Weak Regression for Parameter Estimation in Epidemic Models

说明流行病模型参数估计的共形化物理信息弱回归

简介本文针对传染病仓室模型,提出物理信息弱回归(PIWR)方法,通过对模型做时间积分而非对数据求导来估计参数与初始状态,并结合分裂共形预测给出具有有限样本覆盖保证的同时置信区间。在多个基准模型和真实的1978年寄宿学校流感疫情数据上,该方法的精度与拟合速度均优于文中报告的对比方法。

Allan Peter Engsig-Karup

arXiv cs.LG · q-bio.PE

Deep Generative Models for Phylogenetic Inference with Complex Evolutionary Processes

说明用于复杂进化过程系统发育推断的深度生成模型

简介论文提出一类条件生成模型,用于从序列数据推断系统发育树的后验分布,以替代难以处理的基于似然的方法。模型可按自顶向下、中间向外或自底向上三种方式逐步构建树,并采用离散扩散框架训练。在最多65个分类单元的真实与模拟数据上,该方法比此前的Phyloformer 2更接近MCMC后验;与IQ-Tree相比,在简单数据上结果相当,在更真实的数据上更准确。

Ethan Baron, Alan N. Amin, Andrew Gordon Wilson

arXiv cs.CV

Why Do VLMs Fail at Remote Physiological Measurement? Rethinking with Physiological Grounding and Numerical Alignment

说明为什么视觉语言模型在远程生理测量上会失败?基于生理接地与数值对齐的重新思考

简介该论文研究视觉语言模型(VLM)用于基于视频的远程生理测量(RPM)时表现不佳的原因,指出通用视觉语义表征难以保留细粒度生理线索,且自回归的离散令牌预测与连续数值测量不匹配。作者提出VITAL框架,保留原有视觉通路并新增独立的生理通路,同时采用结构化数值对齐方法改进心率生成估计。实验显示,该方法在多个rPPG数据集上提升了跨域估计性能,并保留了VLM的通用视觉理解能力。

Xiao Yang, Zekun Zhang, Yuxuan Fan 等

★★★★☆ 值得关注
arXiv cs.AI · cs.CL · cs.LG

Smart Alone, Blind Together: Why Accuracy Fails to CertifyTheory of Mind in Multi-Agent Teams

说明单独聪明,团队盲视:为何准确率无法证明多智能体团队中的心智理论能力

简介该论文认为,多智能体协作中依据队友意图推断行动的模块,不应仅以推断准确率认证,因为所需准确率取决于错误代价,且模块错误常相关。作者在任务分配、Level-Based Foraging和Hanabi等环境中测试,发现准确率会在两个方向上失效。论文提出以部署为单位的“盲点门控”认证方法,综合考虑错误代价、成对交互与依赖性。

看点提出以部署成本、错误相关性为依据的认证门控,取代单纯准确率标准,并在多个任务与人类判断中检验,新意较突出。

Will Beaumaster, Paul Schrater

arXiv eess.IV · cs.CV

Focus, Align, and Diffuse: Time-Series-Aware Keyframe Diffusion for Cardiac Dynamic Synthesis from Sparse Observations

说明利用时序感知关键帧扩散,从稀疏观测合成心脏动态影像(CardioFAD)

简介该论文针对临床上仅能获得极稀疏心脏影像的问题,提出CardioFAD框架(Focus-Align-Diffuse)。方法先学习既能恢复视觉轨迹、又便于与心电图(ECG)对齐的运动关键帧,再通过扩散模型先生成关键帧、后插值其余帧。作者称在心脏MRI和超声心动图视频上,该方法在极端单样本条件下视觉质量、时间连贯性和功能一致性均有提升。

Junkai Liu, Haofan Wu, Nay Aung 等

arXiv cs.CL

Pre-Trained Language Models as Zero-Shot Tools for Social Science Research

说明预训练语言模型作为社会科学研究的零样本工具

简介本文探讨了预训练语言模型能否在无需任务专门训练数据的情况下,完成社会科学中常见的记录关联与基于姓名的族裔推断。作者提出了EnsembleLink算法用于记录关联,并展示大语言模型在美国选民档案上的族裔推断准确率最高可达83.8%,高于基于姓名补充的BISG方法的78.0%。研究还指出,大语言模型在美国以外的宗教、种姓等群体划分上也能推断群体归属。

Noah Dasanaike

arXiv cs.LG · stat.ML

What Information Buys in Active Inference

说明主动推断中的信息增益:何时比置信区间更有优势

简介本文比较了主动推断(AIF)与 Bayes-UCBVI 两种探索方法在表格型 MDP 上的表现。作者发现 AIF 的信息增益衰减过快,会使贪心智能体错过最优动作;经过平方根校准后,AIF 在精确抽象下可达到约 √T 的遗憾界。在奖励固定时,校准后的 AIF 并不优于 Bayes-UCBVI;但当奖励由对手依据智能体数据选择时,校准信息增益可作为与奖励无关的 ℓ1 置信集,更为可取。

Melih Kandemir, Mustafa Mert \c{C}elikok

arXiv cs.RO · cs.CV

RingNav: Task-Shaped Circular Memory for Visual Heading

说明RingNav:面向视觉航向估计的任务约束环形记忆

简介该论文提出 RingNav,一个仅约 1.06 万参数的视觉航向估计模型,将记忆约束在圆周流形 S¹ 上,只学习相邻图像之间的转角,航向直接在圆上累加。在 TartanAir 视觉 SLAM 挑战数据上,相比规模相近的可学习记忆模型,平均绝对转角误差降低 27%,4 秒累积航向误差降低 15%。该模型还可直接迁移到真实无人机实验,并可在树莓派 Zero 2W 与超低功耗 GAP8 处理器上运行。

Naitri Rajyaguru, Aryan Tajne, Stephen Jardim 等

arXiv cs.LG · cs.AI · cs.CL

Graph Coarsening Enables Escaping Local Optima in Compute-Constrained Nonconvex MAX-CUT

说明图粗化帮助在算力受限的非凸 MAX-CUT 中逃离局部最优

简介论文研究 MAX-CUT 问题,该问题的二元优化景观包含指数级数量的局部最优解,对初始化十分敏感。作者采用粒子多项式松弛(PPR)这一非凸连续重构方法,并用组合多重网格(CMG)这一谱图粗化方法生成初始解,无需训练数据。原文报告在 t2g20 实例上平均达到最优值的 97.5%,并在 Biq Mac 的 60 个实例上配合离散局部搜索达到已发表的最优值。采用稀疏表示后,该方法可扩展到最多 20,000 个顶点的 G-set 实例。

M. Harper Langston, Pierre-David Letourneau, Dalton Jones 等

arXiv cs.LG · cs.AI · stat.ML

Loss Curvature as a Sampling-Free Proxy for Memorization in Diffusion Models

说明用损失曲率作为扩散模型记忆现象的免采样代理指标

简介本文研究扩散模型为何会记住训练数据,从模型层面(训练中记忆何时开始)和样本层面(单个样本被记住的可能性)两个角度分析。作者提出以训练损失Hessian的Frobenius范数即输入损失曲率作为度量,并引入类似监督学习的反事实记忆定义,证明其由留一模型的输入曲率决定。实验表明,输入相关曲率可作为记忆现象的代理指标。

Shashank Sule, Xinyue Yu, Boonam Shin 等

arXiv cs.LG · cs.CL

Tracing Morphology, Semantics, and Divergence in Language Acquisition

说明追踪语言习得中的形态、语义与分歧:在训练过程中观察大模型如何学会语言

简介该研究利用Pythia、OLMo等开源模型的中间训练检查点,在教师强制评估下,观察大语言模型在训练步数与模型规模变化中的语言习得过程。研究关注形态结构习得、嵌入漂移、重复主导与共现效应四个方面。结果显示,模型在语义嵌入稳定之前就已习得形态结构;训练数据规模有助于分歧识别,而预训练中的共现与推理时的重复则对分歧识别和关联生成有负面影响。

Forough Shirin Abkenar, Haoshuo Fu, Liang Feng 等

★★★★☆ 值得关注
arXiv cs.LG · cs.PF · math.OC

Lag: A Mean-Field Optimal Policy for Online Assignment with Reusable Resources

说明Lag:可重复使用资源在线分配的平均场最优策略

简介本文研究可重复使用资源的在线任务分配问题,应用于同行评审分配、呼叫中心路由、拼车匹配等场景。作者将其建模为上下文受限多臂老虎机,并通过占用测度线性规划给出奖励上界,再由其对偶推导出闭式指数策略 Lag。在服务器副本数与每步到达数同比增长的规模化条件下,Lag 渐近最优。在同行评审和呼叫中心数据上,其达到线性规划上界的 83%–99%,并比贪心分配最多提高 12.3%(期刊数据)和 36%(合成数据)的奖励。

看点提出可复用资源在线分配的占用测度LP与闭式Lagrangian指数策略,并建立首个确定性流体极限;在真实与合成数据上验证,实验规模较充分。

Keerthana Gurushankar

arXiv cs.LG · cs.AI · cs.CL

Who Should We Listen to More? Welfare-Aware Preference Acquisition for Pluralistic Alignment

说明我们应该更多地听取谁的意见?面向多元对齐的福利感知偏好获取方法(WAPA)

简介论文研究在有限的人类反馈下,如何把标注资源分配给不同的人,以构建多元对齐所需的训练数据。作者提出以社会福利为目标的方法WAPA,依据每条查询的预期监督增益、接收者当前效用和指定优先级选择查询,并证明在固定预算下该获取算法对估计的福利目标是精确最优的。实验显示,对20%的比较获取人类标签即可恢复全部依赖AI标签与全部依赖真实标签之间平均预测效用差距的75%至86%。

Ruomeng Ding, Tianwei Gao, Lianrui Geng 等

arXiv cs.LG

How Many Ranks Does a Token Need? A Noise-Floor Squelch for Rank-One LoRA Experts

说明每个词元需要多少个秩?面向秩一 LoRA 专家的噪声底门限抑制方法

简介该论文针对低秩适配(LoRA)中每个词元都使用全部秩一分量的问题,提出无路由器的 SQUELCH 方法,依据每个词元自身的噪声水平对响应做软阈值处理,使激活秩随词元变化,阈值由 Stein 无偏风险估计选取,并通过相互解释步骤抑制冗余分量。在常识推理、知识、数学、代码及 GLUE 等任务上,该方法相较 LoRA 与最强的混合专家基线均有提升,平均每个词元激活 32 个分量中的 8.6 个。

Mei Okonkwo, Owen Castellanos, Ingrid Solberg 等

arXiv cs.CL

Crossing the Gender Binary: Modelling Gendered Reference in Science Fiction and General Fiction

说明跨越性别二元:科幻与一般小说中的性别指称建模

简介本文用掩码语言模型 RoBERTa 检验 man/men、woman/women、person/people 在科幻和一般小说语料中被中性词或其他社会类别词替换的程度,并比较两类语料的差异。研究发现两类语料都跨越性别二元,但替换并不对称;科幻小说的性别渗透性和去性别化倾向更强。该方法也可推广到种族、阶级等其他类别词汇。

Yuxuan Liu, Haim Dubossarsky, Ruth Ahnert

arXiv math.OC · cs.LG

Optimization for One, Feasibility for Most: Decoupling Optimization from Feasibility in Chance-Constrained Programs

说明为一人优化,为多数可行:机会约束规划中优化与可行性的解耦

简介该论文针对机会约束随机规划,提出 ACCESS 结构化采样框架:先通过大量单场景子问题生成高质量候选解,再以大规模批量仿真单独评估可行性。作者还提出带概率 1-δ 可行性保证的 ACCESS(δ) 变体。实验显示 ACCESS 在几乎所有设置中达到或超过其他方法的最佳目标值,而保守重构的目标值差几个百分点,SAA 常常不可行且耗时长一个数量级。

Justin Dumouchelle, Shunyu Yao, Beste Basciftci 等

arXiv cs.CL

Joint Subspace Sparse Attention for Efficient Long-Context Decoding

说明联合子空间稀疏注意力:面向高效长上下文解码的方法

简介该论文提出联合子空间稀疏注意力(JSSA)方法,用于降低长上下文大模型解码时的键值缓存访问开销。方法通过学习共享的低维查询-键子空间提升token选择质量,并设计免聚合的索引注意力内核来提高执行效率。论文报告在多种注意力架构下精度接近全键值缓存,在NVIDIA B200上128K上下文解码吞吐量最高可达全键值注意力的6.43倍。

Jiwon Song, Yoongon Kim, Jae-Joon Kim

arXiv cs.CV · cs.LG

How Far Can Coding Agents Go in Visual Generation?

说明编程智能体的视觉生成能力能走多远?

简介本文研究通用编程智能体通过可执行程序绘制图像的能力,在200条提示的AgentDrawBench基准上进行零样本绘图测试。结果显示,智能体在保持结构和满足精确视觉约束方面表现较好,但感知丰富度有限。作者还探讨了将代码作为视觉思维语言用于视觉问答,并提出智能体可能具有跨绘图工具共享的内部场景表示。

Hengguang Zhou, Yuanhao Ban, Jiaqi Feng 等

arXiv cs.CL

Can LLMs Access their World Knowledge for Event Prediction?

说明大语言模型能否调用其世界知识进行事件预测?

简介该论文探讨大语言模型在时间事件预测中表现不佳的原因,认为问题在于输入形式而非知识不可用。作者提出用自然语言描述事件,并将事件语义与预测标签空间分离的接口设计。为此构建了包含约15万个事件、覆盖七个数据集和六个领域的基准DescribeEvent。结果显示,较强的大模型在加入描述和符号标签后表现明显提升,而较弱模型收益有限。

Zijun Wu, Zhitian Zhang, Hossein Hajimirsadeghi 等

arXiv stat.ML · cs.LG

Discrete Diffusion Models are Minimax Optimal Under Sparsity

说明离散扩散模型在稀疏条件下达到极小极大最优

简介该论文研究用于文本等分类数据生成的离散扩散模型在稀疏假设下的统计收敛速率。作者分析了一种由正则化得分熵目标导出的非参数估计量,并证明其在稀疏情形下达到极小极大最优速率。所提出的正则化可视为分类任务中标签平滑技术的一种改编,且无需已知稀疏参数。

Luca Blunda, Tyler Farghly, Umut Simsekli 等

★★★★☆ 值得关注
arXiv cs.LG · cs.GT

IR-PRM+ with Previous-Utility Prediction: Constant Regret and Best-Iterate Convergence

说明带前一轮效用预测的IR-PRM+:常数遗憾与最佳迭代收敛

简介本文面向博弈求解中常用的遗憾匹配及其变体,提出以前一轮效用作为预测的方法,覆盖同时更新与交替更新两种IR-PRM+设定。在有限二人零和矩阵博弈中,该方法恢复了此前外梯度预测所得的常数遗憾与收敛速率保证,并将其推广到有限多个单纯形学习者及对应的CFR变体IR-PCFR+。

看点通过previous-utility预测恢复了额外梯度方法的常数遗憾与收敛率保证,并推广到交替更新与扩展式博弈,理论改进明确;证明完整但主要为理论分析。

Michael Sullins, Ian A. Kash

arXiv cs.LG · cs.AI

Scaling Cheap Synthetic Pretraining Improves Indoor Radio-Map Prediction

说明扩大低成本合成预训练可提升室内无线电地图预测

简介真实测量数据有限,难以训练适用于多种建筑的室内路径损耗预测模型。本文提出一个自动生成多样室内布局的生成器,以及一个快速的开源近似射线追踪器,用于计算这些布局的无线电地图,共生成1.28亿个合成样本。作者在此基础上预训练ResNet-101和Swin-T编码器-解码器,再在高质量基准数据上微调,结果显示ResNet-101在五项任务上平均比已知最佳方法误差降低15%。

Khoren Petrosyan, Artashes Mkrtchyan, Rafayel Mkrtchyan 等

arXiv cs.LG

Data Density Scaling Laws for Image Self-Distillation

说明图像自蒸馏模型的数据密度缩放定律:研究样本重复使用对模型效果的影响

简介该论文检验了一个常见假设:数据集中独特样本越多越好,而重复使用同一样本的价值递减。作者在 Maxar、SATLAS、Waymo、nuPlan、Ego4D、ImageNet 和 YFCC15M 等多个数据集上做了系统实验,发现样本重复的影响因数据集而异,在某些设定下,反复训练较小随机子集的效果可以优于训练更大的独特样本集。作者据此提出一种改进的 Chinchilla 式缩放定律,同时考虑独特样本数量和每个样本的重复次数,在部分重复起关键作用的情形下预测效果更好,但在不同数据集上的收益并不一致。

Alvard Barseghyan, Ani Vanyan, Hakob Tamazyan 等

arXiv cs.LG · q-bio.QM

PMO-Dock: Benchmarking Docking, Specificity, and Generalization in Molecular Optimization

说明PMO-Dock:分子优化中对接、特异性与泛化能力的基准评测

简介该论文提出 PMO-Dock 基准与评测协议,用于基于分子对接(模拟小分子与靶点结合)的分子优化,包含 25 个任务,涵盖命中化合物生成、先导化合物优化,以及要求强靶向结合同时抑制脱靶相互作用的特异性任务。研究将验证任务用于超参数调整、测试任务仅用于最终评测,并在严格的调用预算下进行。作者对四种方法(Saturn、GenMol、遗传引导的 GFlowNet 与 ChemLlama)进行了测试,结果显示没有任何方法在所有任务上都最优,超参数迁移通常有限且因方法而异。

Gor Simonyan, Tatevik Abrahamyan, Narek Abelyan 等

arXiv cs.CV

Action Jets: Learning the Local Shape of the Action-conditioned Data Manifold

说明Action Jets:学习动作条件数据流形的局部形状

简介论文提出一种方法,用于短时域规划中快速评估动作候选。作者用网络估计固定状态附近由低维动作(如相机移动或末端执行器指令)生成的图像流形的局部形状,并将其表示为三阶泰勒多项式,称为 Action Jet。这样每个状态只需推理一次,即可为任意数量的候选动作打分,在 16 个候选的情况下比源生成器快 300 倍以上。

Anton Arapin, Chahyon Ku, Bernadette Bucher

arXiv cs.CL · cs.AI

Evaluating Large Language Models for Multilingual Abstractive Summarization: A Comprehensive Study of English and Bengali

说明评估大语言模型的多语言摘要能力:英语与孟加拉语对比研究

简介本文在英语和孟加拉语的 XL-Sum 测试集上,以零样本方式评测了八个闭源和开源大语言模型的抽象式摘要能力。评测结合了词汇与语义指标、无参考文本的事实性核验以及多维度的 LLM 评判。结果显示,模型在两种语言间表现差异明显,英语上的优势不一定能迁移到孟加拉语,因此需要更全面的评估框架。

Khan Mahi Al Atahar, Nazifa Tasneem, Ajwad Abrar

arXiv cs.AI · cs.LG

Discovering Undisclosed Concepts in LoRA Adapters for Diffusion-Based AIGC Models

说明发现扩散式AIGC模型LoRA适配器中未披露的概念

简介论文提出一种方法,在只给定LoRA适配器的情况下,找出它被训练生成的概念,以便后续审查。方法将概念发现转化为搜索能同时使输出连贯、区别于基础模型且与LoRA子空间对齐的条件输入。作者提出两阶段框架:先用无需渲染的子空间引导进化搜索筛选候选提示词,再通过成对视觉识别比较LoRA与基础模型的输出,从而高效发现隐藏在适配器中的未知概念。

Yupeng Qiu, Han Fang, Dhananjai Sharma 等

★★★★☆ 值得关注
arXiv cond-mat.mes-hall · cond-mat.str-el · cs.AI

Non-Abelian quantum Hall states at strong Landau level mixing: finding anyons with first-principles AI

说明强朗道能级混合下的非阿贝尔量子霍尔态:用第一性原理AI寻找任意子

简介该论文研究分数量子霍尔态中可能出现的非阿贝尔任意子,这类粒子是容错拓扑量子计算的基础。作者针对填充因子为3/2的自旋极化电子,首次给出包含全部电子和所有朗道能级的完整求解,采用仅基于微观哈密顿量优化的神经网络变分波函数。结果显示,其简并基态中的任意子量子维度为√2,且朗道能级混合使反Pfaffian态比其他候选态更有利。

看点首次用神经网络变分波函数完整求解含全部电子和朗道能级的非阿贝尔量子霍尔问题,并识别出反Pfaffian态,证据较充分。

Pierre-Antoine Graham, Ahmed Abouelkomsan, Liang Fu

★★★★☆ 值得关注
arXiv cs.RO · cs.CV

LoopWAM: Closed-Loop Generalist Policy Improvement from Deployment Rollouts

说明LoopWAM:利用部署过程中的执行记录进行闭环通用策略改进

简介论文提出 LoopWAM,一种闭环世界-动作模型,可以直接利用机器人自身及其他已部署策略产生的成功、次优与失败的全部执行记录进行学习,而不是只模仿专家示范或过滤掉失败数据。在 RoboChallenge Table30-V2 上,经过三轮部署与训练,成功率从 23.67% 提升至 43.33%,最终得分为 56.80;在 RoboTwin 2.0 和 RoboCasa365 上也取得了所比较方法中的最佳总体结果。

看点提出从混合质量部署数据闭环学习的世界-动作模型,新颖;在三个基准上给出多轮提升的实验证据,对、机器人学习子领域有较大影响。

Wenxuan Guo, Yingping Liang, Zhaoguo Wang 等

arXiv cs.RO · cs.CV

EgoExplorer: A Vision-Motion-Touch Observatory for Human Loco-Manipulation In Situ

说明EgoExplorer:人类边走边操作任务的视觉-运动-触觉数据集

简介该论文提出 EgoExplorer,一个包含约 100 小时记录的人类“移动加操作”数据集,采用可穿戴系统采集,将第一人称视频与全身运动、手指精细动作和触觉信息对齐,并配有分步描述,侧重专业活动。作者还提出 Calibrate-Complete-Constrain 方法,用稀疏传感器重建全身动作,报告相比最强基线身体关键点误差降低 71.9%,并在手部稳定性和接触估计上有所提升。初步研究还探索了多模态生成以及人形机器人在仿真中的全身控制重定向。

Yunsong Zhou, Xuekun Jiang, Haiqi Shen 等

arXiv cs.CV 有代码

MiniDog: Dog-Breed Text-to-image Flow Matching from Pretraining to Fine-Tuning on 4 Consumer GPUs

说明MiniDog:在4块消费级GPU上从预训练到微调的狗品种文生图流匹配框架

简介该论文提出MiniDog框架,在4块RTX 3090上约55分钟完成扩散Transformer预训练,再用约15分钟微调。预训练使用ImageNet中的2.6万张狗图片并加字幕,微调使用FLUX.1-schnell生成的2千张图片。模型采用E2E-INVAE潜在空间、约2200万参数的小型Transformer以及Qwen文本编码器,并通过iREPA与EUPE感知编码器加速训练。作者声明本工作不主张技术新颖性,项目已开源。

Reyhaneh Esmailizadeh, Xingjian Leng, Zhanhao Liang 等

arXiv cs.CV · cs.GR · cs.LG

Cepheid: Decoupling Scale from Structure for Cross-Family Motion Completion

说明Cepheid:将尺度与结构解耦以实现跨几何族运动补全

简介该论文研究如何由稀疏顶点位移恢复稠密网格运动。作者发现,在单一几何族上训练的残差先验在其他族上常不如无参数的调和扩展,且残差幅度随几何族与观测密度变化很大。论文提出学习无量纲先验,并用可观测量与仅在训练源上拟合的轻量修正来估计幅度,统一模型在包括未见过的布料与有腿躯体在内的各评测几何族上均优于调和扩展。

Chih-Hai Su, Tsung-Wei Ke, Yu-Lun Liu

arXiv cs.RO · cs.AI · cs.LG

What Matters in Quality-Aware VLA Pretraining: A Benchmark and Empirical Study

说明视觉-语言-动作模型预训练中的质量感知:基准与实证研究

简介本文研究在视觉-语言-动作(VLA)模型预训练阶段如何利用示范质量,以提升目标任务微调后的表现。作者比较了加权、过滤和条件化等方法,使用5000条自然存在次优情况的人类示范和24个目标任务进行对照实验。同时提出了用于支持这些对照比较的基准AXIS-Bench,并在真实世界实验中报告模拟预训练使成功率从9.6%提升至31.7%。

Mingxuan Yan, Litian Gong, Dihong Huang 等

arXiv cs.CL · cs.AI · cs.CV

Tev: Scaling Long-Horizon Agentic Environments with Dense Progress Rewards

说明Tev:用稠密进度奖励扩展长时程智能体环境

简介论文提出Tev-Gym数据集,包含7个领域、1170个可验证的长时程智能体任务环境,先构建隐藏的完整任务规范,再逐步渲染为智能体可见环境。作者还提出基于进度势能的奖励塑形方法PPRS,将进度转为每步稠密奖励,并训练出Tev-27B模型。文中称其在ALE-CM上表现显著提升,并能泛化到Terminal-Bench的部分子集。

Wenbo Hu, Shraman Pramanick, Krishna Kumar Singh 等

arXiv cs.CV

PLAYGROUND: Progressive Layout Generation with Render-Grounded Planning

说明PLAYGROUND:基于渲染画面反馈的渐进式版式生成方法

简介该论文提出 PlayGround 框架,用于生成可编辑的平面设计版式。它不预先固定整体规划,而是根据当前已渲染的画布,逐轮决定下一个功能组并规划其排版,并通过视觉验证器给出反馈。作者在 Crello 和 LICA 数据集上的实验显示其效果优于现有方法,代码与权重计划公开。

Jaeho Lee, Junhwan Heo, Junghyun Park 等

arXiv hep-lat · cs.LG

Data Free Training of Diffusion Models for Lattice Field Theories

说明无需数据训练用于格点场论的扩散模型

简介论文提出一种不依赖目标分布样本的扩散模型训练方法:利用目标分数恒等式,直接用模型自身生成的样本进行训练,前提是能够获得未归一化的概率密度。作者在二维φ⁴理论中对比了不同方案,找到了在对称相、临界相和破缺相中都能高效训练和采样的有效选择。结果显示,这种无数据训练方法与使用HMC参考数据训练的效果相当。

Dennis Grinwald, Ankur Singha, Khaled Kahouli 等

★★★★☆ 值得关注
arXiv cs.CL · cs.AI · cs.LG 有代码

DoubtLess: Training-Free Contrastive Decoding for Efficient Reasoning

说明DoubtLess:无需训练的对比解码,用于高效推理

简介推理模型依靠很长的思维链取得好成绩,但常常用掉超出需要的 token。本文提出 DoubtLess,一种无需训练的解码方法:一个小得多的推理模型分别以“简洁”和“冗长”两种提示阅读大模型已生成的思维链,并将两者 logits 的差值按强度加到大模型每一步的 logits 上,引导其更简洁。在七个数学、科学与编程基准上,该方法使 Qwen3-32B 的思维链缩短 31%,准确率不变。

看点用小模型的简洁与冗长logits差作为解码引导,无需训练缩短推理链,新意在组合;在七个基准、多模型上以准确率不变缩短31%,证据充分。

Minghao Luo, Liang Chen

★★★★☆ 值得关注
arXiv cs.CL · cs.AI · cs.LG 有代码

Hybrid Reasoning Agents

说明混合推理智能体:在潜在空间思考、以文本行动的 LLM 智能体

简介该论文提出混合推理智能体(HybridAgents),让智能体在统一生成过程中动态切换潜在推理与文本交互,并通过轻量模块 HybridLink 实现两种模式的衔接。作者还提出 HybridSFT 与 HybridRL 两种后训练方法。在 11 个涵盖数学、科学、医学、搜索与智能体推理的基准上,相较前沿 LLM 智能体与其他框架,论文报告性能提升 10.4%,并带来 35.5%–54.7% 的 token 减少。

看点提出在潜在推理与文本工具交互间统一切换的混合智能体架构及两阶段后训练,并在11个基准上对比前沿智能体,证据较充分。

Jiaru Zou, Yunzhe Qi, Sirui Chen 等

arXiv cs.AI

AesCode: Aesthetic Code Generation with Decoupled Cross-Modal Rewards

说明AesCode:利用解耦的跨模态奖励生成美观代码

简介论文提出AesCode,用代码生成幻灯片、海报、仪表盘等视觉作品。模型以同一提示生成的图像作为美学参考,并把画面表示为可归因的设计图;验证器评估可解析属性,视觉语言模型依据图结构评分其余属性,再通过强化学习同时提升版面规划、美观度与正确性。实验显示,在同等规模下,AesCode相比Qwen3-VL基线视觉质量分别提升31.1和22.4个百分点。

Xin Gao, Yifan Yang, Xin Li 等

arXiv cs.CV

Visual Tokens on Demand: Visual Budgeting for Scalable and Efficient Multi-Image Reasoning in Multimodal LLMs

说明按需视觉令牌:面向多图推理的视觉预算分配方法

简介多模态大模型在处理多张图片时计算开销很大,每张图都会占用大量视觉令牌。本文提出 mmVB,一个轻量即插即用模块,根据问题和跨图上下文为每张图分配令牌预算,仅增加 1.6M 可训练参数,无需重训基础模型,也不访问注意力矩阵。论文报告视觉输入令牌减少 9 倍,首令牌时间加快 5 倍,并在八个多图推理基准上保持全分辨率准确率的 94.4%。

Aimon Rahman, Joymallya Chakraborty, Vidit Bansal 等

arXiv cs.CV

PixelMoE: Scaling Pixel-Space Diffusion with LLM-Style Mixture-of-Experts

说明PixelMoE:用类 LLM 的混合专家架构扩展像素空间扩散模型

简介该论文提出 PixelMoE,一种像素空间生成框架,借鉴大语言模型的混合专家(MoE)结构,在不直接增加计算量的前提下稀疏地扩展模型容量,并引入按去噪过程由全局结构到细节逐步变换分辨率的像素空间分层流匹配方法。在同等激活参数量下,其表现优于对应的稠密模型;在类别条件 ImageNet-1K 上,256x256 和 512x512 分辨率下 FID 分别为 1.47 和 1.53,且未使用表示对齐或感知损失。

Ruixiao Dong, Jianmin Bao, Bozhi Luan 等

★★★★☆ 值得关注
arXiv cs.LG · math.AT 有代码

Exact Topological Compliance: Generating Persistence-Equivalent Graphs

说明精确拓扑合规:生成持续同调等价的图

简介持续同调用持续图(PD)概括图的拓扑演化。现有拓扑感知生成模型依赖软正则化,生成的图只能近似匹配目标持续图。本文提出两种方法,精确生成实现目标持续图的图:一种基于度的迭代局部方法,另一种将生成转化为可由约束规划求解器求解的全局约束满足问题。在四个标准图生成基准上的实验表明,两种方法都能精确实现目标持续图。

看点将目标持久图精确实现的图生成问题形式化,提出局部迭代与全局约束求解两种方法,并有严格证明;在四个标准基准上验证精确实现。

Mattie Ji, Indradyumna Roy, Vikas Garg

arXiv cs.LG · cs.AI 有代码

Two Clocks: Why Larger Rollout Batches Learn Slower but Fail on Schedule in Reinforcement Learning with Verifiable Rewards

说明双时钟:为何更大的 rollout 批量在可验证奖励强化学习中学得更慢却更准时失效

简介该论文研究用可验证奖励训练大模型的强化学习(RLVR)中批量大小与学习率的关系。作者提出“双时钟”框架,把取得进展所需的样本数与训练崩溃前消耗的样本数分开分析。实验基于 Qwen2.5-Math-1.5B 与 GRPO,在 16 倍批量范围内验证了两个预测,并据此给出一个多步训练的简单批量调度方案。

Yuante Li, Junwei Quan, Kai Qiu 等

arXiv cs.AI · cs.LG · q-bio.QM

MFG: Multi-turn Feedback Guided Molecular Optimization

说明MFG:基于多轮反馈引导的分子优化

简介本文提出多轮反馈引导(MFG)分子优化方法,用强化学习训练大语言模型,使其利用前几轮的反馈逐步改进分子,同时兼顾多项性质。方法引入了同时包含性质改进与源分子相似度的反馈向量,并设计了与反馈对齐的奖励函数。在十项多目标分子优化任务上,MFG 应用于 GeLLM³O 后,平均相似度约束成功率达到 81.50%,高于基础模型的 70.81%。

Trieu Nguyen, Frazier N. Baker, Ruoxi Gao 等

arXiv cs.CV

WorldRecon: Generative Multi-View Mesh Reconstruction for Large-Scale 3D World

说明WorldRecon:面向大规模三维场景的生成式多视角网格重建

简介该论文提出WorldRecon框架,可从无位姿的RGB图像中重建大规模室内场景的完整三维网格。方法以粗略点云和相机位姿为全局框架,将场景分块生成,并通过相邻感知的潜变量修补与因果生成保持跨块一致性。实验报告在合成与真实室内场景上,Chamfer距离分别降低14.9%和43.1%,F-score分别提升17.3%和12.0%。

Mengchen Zhang, Yang Li, Chunshi Wang 等

★★★★☆ 值得关注
arXiv cs.CV · cs.CL

The Last Remote Sensing Model Built by Humans? Casting Any Earth Observation Task as Recursive Self-Improvement

说明最后一个由人类构建的遥感模型?将任意地球观测任务视为递归自我改进

简介该论文提出,地球观测模型可由智能体自动构建:人类只需设计任务的“框架”与“验证器”,通用编码智能体即可据此训练并递归改进模型。作者在六个涵盖光学、SAR与多光谱时间序列影像的基准上测试,智能体构建的模型在每个基准上都超过了现有最优水平,其中土地覆盖制图仅使用11%的训练标签。

看点提出以智能体自动构建地球观测模型的新范式,并在六个基准上超越现有最优;证据主要来自摘要概述,细节有限。

Sijie Zhao, Zeqi Zhou, Heli Qi 等

arXiv cs.CV

RepProbe: Can Video Language Models Count Repeated Actions? A Diagnostic Benchmark

说明RepProbe:视频语言模型能否数清重复动作?一个诊断基准

简介该论文提出 RepProbe 基准,包含约 4.2 万个真实与合成视频片段,每段恰好包含 1 至 20 次完整重复动作。研究发现,多个视频语言模型在次数较多时计数准确率大幅下降;但用线性探针从模型最后一层表示中解码,仍能读出大量计数信息。这表明模型内部编码了重复结构,只是输出时无法可靠地报告出来。

Mahsa Khoshnoodi, Sarah Adel Bargal

★★★★☆ 值得关注
arXiv cs.RO · cs.AI 有代码

LIBERO-RIG: A Hardware-Setup Robustness Benchmark for Vision-Language-Action Models

说明LIBERO-RIG:面向视觉-语言-动作模型的硬件与安装配置鲁棒性基准

简介论文提出 LIBERO-RIG 基准,只改变机器人的硬件和安装配置(如相机安装与光学、标定、控制速率、夹爪垫等,共 11 个扰动维度、每维 5 个严重等级,共 210 种条件),保持 LIBERO 任务不变。作者评测了 9 个视觉-语言-动作模型,汇总成功率从 0.932 降至中等严重度的 0.767,最高严重度时为 0.509。原文还指出,针对视觉扰动的训练无法缓解不改变相机图像的故障。

看点针对视觉-语言-动作模型的硬件与安装扰动基准,覆盖11个轴、210种条件,并用500回合和统计检验支撑结论,对子领域有实际参考价值。

Andrea Yaoyun Cui, Hanyu Wang, Xinyi Wang 等

arXiv cs.AI · cs.LG · cs.RO 有代码

Who Improves the Robot? Toward Physical Recursive Self-Improvement

说明谁来改进机器人?迈向物理递归自我改进

简介本文研究“物理递归自我改进”(Physical RSI),即机器人通过物理实践,持续更新自身能力及其改进流程,使后续改进在不同任务间更有效。作者提出L0至L5框架,区分能力层与元层更新,并指出现有文献尚未达到该框架定义的物理递归自我改进,同时列出可靠反馈、因果归因、安全保持与基准测试等研究重点。

Hai Zhou, Fan Yang, Zeyi Chen 等

arXiv cs.LG · cs.AI

Fast Rates for Offline Q-Learning with KL Regularization

说明带KL正则化的离线Q学习快速收敛率

简介本文研究有限时域马尔可夫决策过程中带KL正则化的离线Q学习。作者提出KL正则化Q学习(KLQ),并证明其样本复杂度为Õ(1/ε),但依赖于KL正则化参数和时域的指数级。为此又提出结合悲观性的KLPQ,在保持相同速率的同时去除了显式的指数依赖。论文称这是表格型有限时域KL正则化MDP中离线Q学习的首个快速率保证。

Yize Hao, Guangxin Jiang, Shuang Qiu

arXiv cs.LG · cs.CV

Scaling Online Optimal Transport Minibatches for Flow Matching

说明面向流匹配的大规模在线最优传输小批量方法

简介流模型训练中,源样本与数据的配对方式影响训练和积分的稳定性。本文提出一种可扩展的在线熵最优传输近似方法,使源-目标配对的小批量可以显著增大,同时保留最优传输的优势。作者证明,相较独立随机配对,该方法在完整随机梯度方差和积分误差上均有严格降低,且随在线配对小批量增大而增强。单细胞基因插值流与图像流训练实验验证了这一结论。

Peter Chen, Sergey Levine

arXiv cs.CV 有代码

Plan-Bench: Can Existing VLMs Go Well Beyond Perception to Reason and Plan in Embodied Worlds?

说明Plan-Bench:现有视觉语言模型能否超越感知,在具身环境中进行推理与规划?

简介本文提出Plan-Bench基准,用于评估视觉语言模型(VLM)在具身环境中的高层推理与多步规划能力,并将动作执行的影响单独隔离。该基准包含三个互补维度、16个子类和699个精选样本。对28个VLM的评测显示仍有提升空间,表现最好的模型准确率仅为75.0%;模型规模扩大通常会改善这些能力。

Juntong Feng, Qingan Liu, Jingru Dong 等

arXiv cs.RO · cs.AI · cs.GR

RoboSimStudio: An Interactive Toolkit for Human and Agent Rapid Real2Sim of Robot Manipulation Tasks

说明RoboSimStudio:用于机器人操作任务快速真实到仿真建模的交互式工具包

简介该论文介绍了RoboSimStudio(RSS),一个交互式工具包,可让人类和编程代理快速创建并迭代改进机器人操作任务的仿真。RSS将求解器、接触模型和物理参数设为可显式编辑的选项,并基于开源的Newton物理仿真系统实现。论文描述了人工引导的真实到仿真实验,包括视觉评估、力反馈以及代理式Real2Sim2Real。

Kaiyuan Chen, Shuangyu Xie, Uksang Yoo 等

arXiv cs.CV 有代码

Game2Real-Bench: Do Toy Games Reveal and Transfer to Real-World Visual Reasoning?

说明Game2Real-Bench:玩具游戏能否揭示并迁移到真实世界的视觉推理?

简介该论文提出Game2Real-Bench基准,用程序生成的游戏样本与真实世界样本,考察视觉语言模型在细粒度感知、空间推理、约束推理和序列规划四类能力上的表现,并比较两者的一致性。研究发现25个模型在游戏与真实任务上的表现高度一致,相关系数为0.935;对四个模型进行的单样本迁移实验显示,约束推理有所提升,细粒度感知则因游戏示例而下降。

Qingan Liu, Juntong Feng, Yue Zhu 等

arXiv cs.CV · cs.CL · cs.MM

OmniCompass: A Holistic Benchmark for Omni-Modal Video Grounding and Understanding

说明OmniCompass:面向全模态视频定位与理解的综合基准

简介该论文提出 OmniCompass,一个用于评估多模态大模型视频理解能力的综合基准。它分为视觉语言(VL)与视听(AV)两个赛道,每个赛道包含时间定位、空间定位和问答三类任务,共含 820 个视频(VL)与 240 个视频(AV)。对 50 个多模态模型的评测显示,开源模型仍落后于商业模型,尤其在视听理解上;精确定位仍具挑战,且模型对同一目标的两种描述方式预测不够一致。

Xuyang Liu, Shihao Wang, Xinyu Wei 等

arXiv cs.RO · cs.CV 有代码

WorldOracle: Benchmarking Action-Conditioned World Models against Real-World Executions

说明WorldOracle:以真实执行结果检验动作条件世界模型的基准

简介WorldOracle 是一个用于评估动作条件世界模型(ACWM)的基准。给定相同的初始观测和低层动作序列,它检验模型预测的推演是否与真实世界执行结果一致,包括物理后果和任务状态转移。评估从物理状态正确性、交互空间对齐、关键交互区域保真度和多视角动作一致性四个维度进行,并在七个代表性模型上做了实验,发现了各自的优势与失败模式。

Haoyi Duan, Liliang Chen, Nan Wang 等

arXiv stat.ML · cs.LG · physics.chem-ph

Joint Neural Posterior Estimation and Model Selection for Chemical Reaction Networks

说明化学反应网络的联合神经后验估计与模型选择

简介本文提出一种神经推断框架,用于化学反应网络的贝叶斯推断,可同时判别相互重叠的反应路径并估计反应速率常数。方法使用共享的一维卷积网络与置换不变的集合注意力机制,从变长、多实验的时间序列中学习低维摘要统计量,再分别用于模型选择网络和条件可逆神经网络以得到后验。作者以真实的脱硼反应实例说明该方法如何处理结构歧义,并从相互竞争的催化剂失活路径中提取动力学参数。

J. Arturo Esquivel, Jorge A. Campos-Gonzalez-Angulo, Sergio Pablo-Garc\'ia 等

arXiv cs.AI · cs.CL

Read the Room Before Your Model Generates

说明在模型生成之前先“读懂场景”:一种基于场景表示的采样温度选择方法

简介该论文提出 Scenario-Actor 框架,用于为大语言模型选择采样温度。它从 Transformer 隐藏状态中提取与场景相关的结构,并由场景嵌入(一种对交流情境的几何化表示)决定温度。作者报告称,在 Llama-3.1-8B-Instruct 上,该方法在交互式社交场景、开放式指令遵循中表现提升,在多轮对话中与多个基线相比具有竞争力。

Muyao Kong, Zhihao Lin

arXiv cs.CV

DuplexBridge: Coordinating Understanding and Generation for Unified Image Editing

说明DuplexBridge:协调理解与生成的统一图像编辑方法

简介论文提出 DuplexBridge,让统一模型利用自身的理解能力增强提示,再用于自身的生成,无需外部理解模块。系统通过源图约束的桥接机制、理解与生成各自的局部监督以及互惠信任门控来协同训练。作者还提出了包含 1,200 个任务的 CE-Bench,结果显示完整系统在完全合规率上比直接编辑器提升 21.75 至 25.75 个百分点。

Yidi Liu, Jie Xiao, Chaojie Mao 等

arXiv cs.CL · cs.AI

Back-Translation Still Matters: Leveraging Monolingual Data for Low-Resource Machine Translation with LLMs

说明《反向翻译依然重要:利用单语数据提升大语言模型在低资源机器翻译中的表现》

简介该论文研究在低资源语言机器翻译中,若还有一定量的单语数据,如何更有效地利用。作者采用早期神经机器翻译时代的反向翻译方法:先用微调后的大语言模型翻译单语句子生成平行对,再反向训练模型。以奥里亚语和斯瓦希里语为例,使用1K平行句对时,该方法在领域内超过继续预训练方案;在五种低资源语言及两种3B骨干模型上,相较仅用平行数据微调,翻译质量提升16%至173%,人工盲评结果与自动指标一致。

Divyanshu Bathla, Parag Singla, Jitin Singla

arXiv cs.AI · cs.CL 有代码

Self-Evolving Agent Harness

说明自我进化的智能体外壳:在模型权重不变的前提下持续改进智能体软件框架的论文

简介本文研究在模型权重固定时,通过反馈驱动的方式持续修改智能体的提示词、记忆、工作流和可执行组件等软件外壳,并让被采纳的修改跨次运行保留。作者用进化优化描述搜索过程,并借助持续PAC学习分析其可靠性,给出泛化界、保留界和基于独立新验证数据的高概率采纳规则。文章还讨论了这类持久修改对知识共享、组织流程以及科学可靠性、物理安全和制度问责的影响。

Chuyang Wei, Haoxiang Guan, Minghang Zhu 等

arXiv cs.LG

Statistical Vignettes on the Grokking Phenomenon

说明关于“顿悟”现象的统计小品研究

简介本文在一个结构简单、便于解析的设定中研究“顿悟”(grokking)现象,区分了初始化、信号强度、权重衰减、样本量和输入维度等因素的影响。作者给出了顿悟可证明发生的明确条件,并推导了泛化平台期长度的解析渐近表达式。实验结果与理论结论相符。

Baye Malick Gning, Elvis Dohmatob

arXiv cs.LG

Depth Memory

说明深度记忆:用于跨层信息存取的统一框架与线性深度记忆模型

简介论文把神经网络层间的信息混合看作跨层存储与检索问题,提出统一框架“深度记忆”(Depth Memory),用来描述标准 PreLN Transformer、mHC 和 AttnRes。基于此,作者提出线性深度记忆(LDM),用递归最小二乘法解决跨深度的信息检索,并给出降低激活内存与访存开销的硬件感知实现。文中报告,在 4 亿和 15 亿参数规模下,LDM 的困惑度低于上述基线,零样本准确率也具竞争力。

David Gonz\'alez-Mart\'inez, Philipp Nazari, T. Konstantin Rusch 等

arXiv cs.MA · cs.AI · cs.RO

Optimizing Team Behavior via Extremum-seeking Control in Multi-agent Reinforcement Learning

说明通过极值搜索控制优化多智能体强化学习中的团队行为

简介该论文针对合作式多智能体强化学习,提出自适应多样性控制框架ADiCo,在训练过程中在线调节智能体行为多样性。它用快速回路将多样性调节到目标值,用慢速回路(极值搜索控制器)仅依据平均回合回报调整该目标,无需显式模型或梯度。在两类合作任务的六种配置上,ADiCo能根据任务需要维持合适的多样性水平,并达到或超过网格搜索最优目标的DiCo以及不受约束的DiCo的平均性能。

Svar Rajankumar Patel, Kshitij Jerath

★★★★☆ 值得关注
arXiv cs.LG · cs.CL 有代码

SkillScaffold: Scaffolding Agentic Reinforcement Learning with Policy-Adaptive Skill Credit Assignment and Selective Injection

说明SkillScaffold:基于策略自适应技能信用分配与选择性注入的智能体强化学习脚手架

简介该论文针对大语言模型多轮交互的智能体强化学习,提出 SkillScaffold 框架。它复用结果已验证的训练轨迹生成候选技能,并通过结果感知的似然比较低成本估计其效用,据此决定是否注入以及注入哪个技能;无帮助时保持无技能执行。实验在 ALFWorld、WebShop、ScienceWorld 和 τ²-Bench 上优于相关基线,其代码已公开。

看点用似然比较替代候选技能的环境回放来估计效用,并据此选择性注入技能,属于对已有技能强化学习方法的有实质改进;在四个基准上对比多个强基线并有消融。

Wenlin Zhong, Hao Wang, Kun Yuan 等

arXiv cs.CV · cs.LG

Registration is a Representation Problem: Solving Whole-Body PET/CT Registration

说明配准是表示问题:解决全身PET/CT配准

简介该论文提出用互补的解剖表示建立图像间对应关系,而非直接使用原始强度。方法结合3D基础模型anatomix提取的逐体素语义特征与现成分割模型给出的粗略解剖标签,并用GPU加速的FireANTs多阶段配准框架求解。作者还设计了病灶层面的分量体积保持方案,并在Learn2Reg 2026 PSMAReg挑战赛中,无需任务特定训练即取得第一名。

Neel Dey, Adrian V. Dalca

arXiv cs.RO · cs.CV

λ₀: Scaling Open-World Egocentric Human Data for Humanoid Loco-Manipulation

说明λ0:利用大规模开放场景第一人称人类数据训练人形机器人全身移动与操作

简介该论文提出HumanVerse数据集,包含500小时开放场景下的人类全身移动与操作数据,同时记录第一人称视频和同步的身体与手部动作。作者设计了人到人形机器人的转换流程,对齐视角与手臂外观,并离线优化动作参考和控制器输入。基于此训练的λ0基础模型在SIMPLE任务上成功率为90.0%,在真实场景任务上为62.5%。

Lambda-humanoid Team: Chongyang Xu, Jin Chen, Jinhui Ye 等

arXiv cs.RO · cs.AI · cs.CL 有代码

SEAR: Self-Evolving Agentic Robotics

说明SEAR:自我进化的智能体机器人框架与基准

简介这篇论文提出 SEAR(自我进化的智能体机器人),一个用于评估语言模型智能体自主改进机器人能力的框架与基准。智能体以代码即策略、智能体即策略或自动研究三种模式运行,并通过对照实验区分真正的经验积累与单纯增加尝试次数。研究在七个前沿语言模型、330 个仿真任务和五个实体机器人任务上进行,发现学习效果取决于时间预算与任务难度,控制代码与通用例程可跨任务和仿真器迁移,不同模型的进化方式也各不相同。

Xinyi Wang, Bangzheng Li, Hanyu Wang 等

arXiv cs.CV · cs.CY

Trust Before Autonomy: Rethinking Agentic Remote Sensing for Crisis Response

说明信任先于自主:重新思考危机响应中的智能体遥感

简介本文主张智能体遥感的自主权应当以可证明的可靠性、认知诚实和可验证性为前提逐步获得。作者对12项同行评议的智能体遥感/地球观测基准研究做了证据性元分析,发现多数研究缺乏重复运行、不可回答任务和校准指标,且任务成功率常高于工具调用正确率。文章据此提出三项地球观测信任属性、危机任务的自主等级框架和回放存档应急事件的准备协议,并认为现有证据只支持辅助角色。

Georgios Angelidis, Aggelos Psiris, Spyridon Evangelatos 等

arXiv cs.CV · cs.AI

SituHOI: Scalable Capture of Scene-Situated Full-Body Human-Object Interaction

说明SituHOI:可扩展的场景内全身人与物交互数据采集

简介该论文提出SituHOI,一个大规模RGB-D数据集,包含16个室内房间中的18,429个标注片段,约86小时的活动记录。数据由单个移动RGB-D相机采集,并配有静态场景扫描、物体几何、语言描述以及估计的人体和物体轨迹。作者还提出了目标条件的联合运动预测基准FlexHOI-Bench,并给出参考模型SharedHOI,在MoCap子集上将人体G-MPJPE从195.4毫米降至68.3毫米。

Qifan Wang, Qihang Fang, Boao Shi 等

arXiv cs.CL · cs.AI

Where Do LLM Ensemble Gains Come From? Decomposing Candidate Value, Diversity, and Aggregation

说明LLM 集成增益从何而来?分解候选价值、多样性与聚合

简介该论文研究大语言模型集成中的增益来源,比较直接生成、单候选、重复候选与多候选等设置。作者指出,总增益可按对照组拆分为额外候选对比与候选上下文对比,因此归因结论依赖于所选的参照设置。文中以 MultiHopRAG 与 FRAMES 数据集给出了配对比较的实验数字。

Donghwan Kim

arXiv cs.AI · cs.CL

Pack Light, CarryOn: Building Object-Oriented Context for Long-Horizon Agents

说明精简打包,延续上下文:面向长程智能体的对象化上下文构建

简介该论文提出 CarryOn,一种面向对象的上下文运行时,用可复用的任务对象而非历史记录来组织长程智能体的任务延续。系统维护延续载体记录,在历史被压缩后仍依据证据和环境检查更新这些记录。作者报告在 OSWorld 2.0 和 BrowseComp-Plus 上分别带来 5.8% 和 7.0% 的性能提升,同时总 token 用量分别减少 51.9% 和 22.9%。

Yuchen Lu, Julian McAuley, Lei Zhang

arXiv cs.AI · cs.CL

BLADE: Auditing Information Use for Failure Attribution in LLM Multi-Agent Systems

说明BLADE:审计大模型多智能体系统中信息使用的故障归因方法

简介大模型多智能体系统通过多角色协作完成任务,但协作使故障更难诊断。本文提出BLADE,一种无需训练的框架,不仅追踪信息来源,还审计各环节对信息的使用是否忠实,区分错误引入、传播与修复,从而定位责任智能体与关键错误步骤。在5个Who&When相关子集的1228次失败运行上,BLADE在无参考答案条件下取得最佳或并列最佳的步骤准确率,较All-at-once高出2.2至11.1个百分点。

Xiaoguang Guo, Yaohao Long, Chuxu Zhang

arXiv cs.CV

GAD: Geometry Attention Distillation for Consistent Video Generation

说明GAD:用于一致性视频生成的几何注意力蒸馏

简介视频扩散模型生成的短片段画面吸引人,但长时间内常难以保持场景几何和物体结构。论文提出几何注意力蒸馏(GAD),把冻结的几何模型中的跨帧对应关系迁移到视频模型的注意力中,使其更稳定地关注同一表面或运动物体。实验显示,在三种视频骨干模型上,长程场景一致性和动态时序一致性都有提升;在 Wan2.2 5B 上,跨帧匹配准确率在两个长程基准上相对 Wan 基线至少提高30%,且推理时无需额外模块。

Junfeng Ni, Ziyu Zhu, Fan Jiang 等

arXiv cs.AI

Jeva: System One Models from First Principles

说明Jeva:从第一性原理出发的系统一模型

简介本文提出Jeva,一种面向决策的系统一模型架构,用于低延迟地直接做出选择。作者指出,现有从序列化文本预测答案的做法并不符合决策问题的结构,并提出四项要求:能区分答案缺失与候选之间的不确定性、对备选项顺序不敏感、可扩展到更大的候选集、并支持跨请求复用计算。文中称Jeva在类型化决策任务上表现较强,并能在候选项很多时显著降低延迟。

Qi Li, Xinchao Wang

arXiv cs.CV

The Federated Tumor Segmentation and Classification (FeTS++) Challenge

说明FeTS++ 联邦肿瘤分割与分类挑战赛:在不共享数据的前提下训练医学影像模型的竞赛

简介该论文介绍 FeTS++ 挑战赛,它是联邦学习在医学影像领域的竞赛,模型在各机构本地训练、数据不离开本地。挑战基于 BraTS 2025 的多机构多参数 MRI 数据,涵盖胶质瘤和脑膜瘤,任务包括分割与分类。评估依据模型效用与兼顾效率的综合分数进行排名。

Wenyi Tang, Carla Pitarch-Abaigar, Siddhesh Thakur 等

arXiv cs.CV

MIST: Multi-Scale Spatial Context for Gene Expression Prediction from Histology

说明MIST:利用多尺度空间上下文从组织病理切片预测基因表达

简介该论文提出 MIST(多上下文空间 Transformer),旨在仅凭常规 H&E 组织切片图像预测空间基因表达。模型在标准自注意力之外,每一层加入局部邻域(空间 k 近邻)和全切片摘要两条上下文路径,并一次前向传播预测所有位点。在 HEST-1k 的六个人体器官队列中,MIST 在多个基因panel规模上的平均 Pearson 相关性优于最强基线,并在留一器官迁移与域识别等任务上表现更好。

Koushik Howlader, Tirtho Roy, Md Tauhidul Islam 等

arXiv cs.CL

Rubrics from the Task, Verdicts from Evidence: Pointwise Rubric Rewards with Tool-Augmented Judges

说明从任务推导评分标准,基于证据给出判定:借助工具增强评审者的逐点评分标准奖励模型

简介本文提出ReVeR,一种逐点评分标准奖励模型,仅根据指令推导硬性规则与分级原则,并借助工具增强的评审方式独立评估每个回答。训练采用盲标签蒸馏,产生大规模的ReVeR-Traces数据集。实验显示,ReVeR在平均偏好准确率上优于成对评分标准模型,在指令遵循任务上最为明显,并在测试时扩展和下游策略优化中也表现更好。

Tianci Liu, Haoyu Wang

arXiv cs.CV

LayerCanvas: Infographic Generation in AI Learning Assistants via Hybrid Layer-Set Diffusion

说明LayerCanvas:通过混合图层集扩散在AI学习助手中生成信息图

简介该论文面向在线学习平台的AI助手,提出LayerCanvas方法自动生成信息图。它保留SVG作为语义、结构和文字排版的依据,用扩散模型美化非文字内容,并把元素分为互不重叠、有层级顺序的图层集分别生成后确定性合成。论文称其文字准确度优于先进的光栅图像生成模型,整体美观度最高,并支持非破坏性编辑、本地化、素材复用和动画。

Keshav Gupta, Jeremy Owen, Christopher Lloyd 等

arXiv cs.CL · cs.CY · cs.SI

Looking Complete Is Not Being Grounded: Evaluating LLM Sitreps Against Human-Authored Situation Reports

说明看似完整不等于有据可依:用人工撰写的灾情报告评估大模型灾情速报

简介该论文从专业人道主义灾情报告中归纳出15项信息框架,用以评估121份人工与261份大模型生成的灾情报告,涵盖五次灾害和三类灾种。结果显示,最佳模型在Cyclone Idai上的得分名义上略高于人工上限,但差异在统计上与零无显著差别;评估指标也存在明显局限。

Sachin Kumar

arXiv cs.AI

Beyond the Verdict: Agentic Code Judging with Verifiable Feedback

说明超越裁决:基于可验证反馈的智能体式代码评判

简介该论文针对大语言模型在竞赛编程中的测试时扩展,提出一种无需消耗官方提交次数、仅依据题面与源码进行评判和诊断的任务,并以可检验的反构造用例作为证据。作者基于USACO 2026构建了USACO-JUDGE基准,并用强化学习训练了35B混合专家验证器ARBITER。结果显示,其在错误程序上的反例成功率和二元判定准确率均有明显提升,并在代码选择、修正以及IOI 2026案例中表现出优势。

Zheye Deng, Sha Li, Changlong Yu 等

arXiv cs.SE · cs.AI · cs.CL

PreciseCoder: Faithful and Generalizable Debugging Beyond Unit-Test Rewards

说明PreciseCoder:超越单元测试奖励、忠实且可泛化的代码调试方法

简介论文指出,仅以单元测试通过作为强化学习奖励,模型在调试时会学会多改代码,甚至在已正确的代码中“幻觉”出错误。作者提出PreciseCoder,在单元测试奖励之外加入经语义验证的局部化修改信号。在4B、9B、27B模型上,平均修改行数由7至15行降至3行,通过率与仅用单元测试训练相当。

Yunkai Zhan, Miaosen Chai, Shangshang Wang 等

arXiv cond-mat.stat-mech · cond-mat.str-el · cs.LG

Emergent Loop Geometry in Gauge-Equivariant Graph Neural Networks

说明规范等变图神经网络中涌现的回路几何结构

简介本文研究规范等变图神经网络通过递归消息传递生成的闭合格点路径的统计集合,与网络训练无关。分析与数值结果显示,路径长度增长远快于空间扩展,较深的网络通过反复遍历相对紧凑的区域生成更长路径。费米子可观测量的回路展开为这一层级结构提供了物理解释。

Ali Rayat, Gia-Wei Chern

arXiv cs.CV

Context-aware Bayesian Fusion for Multimodal Object Detection

说明用于多模态目标检测的上下文感知贝叶斯融合

简介本文面向自动驾驶中行人与道路使用者的检测,关注雾、低光等恶劣环境下检测性能下降的问题。作者提出一种上下文感知的多模态后期融合方法,在概率校准框架中加入轻量级门控网络,依据推断出的环境上下文调节预训练检测器的输出,无需重新训练检测器。在经过不同雾强度增强的改良KITTI数据集上,该方法相比非自适应后期融合基线有约14%的相对提升,并在各雾强度下平均精度稳定在56%。

Arunachalam Venkatachalam, Mhafuzul Islam, Marwan Yusuf 等

arXiv cs.LG · cs.AI · math.OC

A Rate Transfer Method: Convergence Rates in Stochastic Gradient Descent via Stochastic Calculus

说明速率转移方法:借助随机微积分分析随机梯度下降的收敛速率

简介本文提出一种速率转移方法,把随机微分方程(SDE)的有限时间 Lyapunov 估计转换为随机梯度算法的有限时间收敛界。在一般的矩条件和光滑性条件下,随机梯度方法的收敛分析可归结为验证该 SDE 的 Lyapunov 生成元不等式。该方法复现了经典随机梯度方法已有的收敛速率,并可用于分析新优化算法的收敛速率。

Neil Walton

★★★★☆ 值得关注
arXiv cs.LG

Enabling Token-wise Importance Sampling in Off-Policy RLVR with Proximal KL Regularization

说明在离策略 RLVR 中用近端 KL 正则化实现逐 token 重要性采样

简介本文针对可验证奖励强化学习(RLVR)中的离策略数据问题,提出 Proximal KL 方法,用未来 KL 反馈替代 PPO 的裁剪,并采用逐 token 的重要性加权。作者给出理论证明与收敛性分析,并在 Qwen3-1.7B 和 Qwen3-4B 上进行对比实验,报告其在数学基准上的准确率优于 GRPO,且在周期性刷新实验中避免了 PG 与 CISPO 出现的训练崩溃。

看点提出以未来KL信用替代PPO裁剪并证明精确近端优化器的唯一平稳性,理论与方法均有新意;实验覆盖多组对比与消融,证据较充分,对RLVR子领域有实际价值。

Hao Bai, Jiarui Yao, Tong Zhang

arXiv cs.CV 有代码

Concealed Handgun Detection using WiFi Signals

说明利用WiFi信号检测隐藏手枪

简介传统摄像头监控难以发现被遮挡或隐藏的威胁,金属探测器则需要人员逐一通过狭窄入口,在人流密集时容易造成拥堵。本文提出利用WiFi信号的信道状态信息(CSI)检测隐藏手枪,并收集了对齐的WiFi信号与RGB图像数据集WiFire。作者还提出了名为WiFireNet的深度学习模型,使用基于视觉的监督信号进行训练。结果表明,在WiFi信号中检测隐藏手枪是可行的,可作为监控摄像头和金属探测器的补充手段;数据集、模型和代码均已公开。

Erik Persson, David Gustafsson, Tomas Wilkinson

arXiv cs.LG

SP²ec: Adaptive Self-Speculative Decoding for Vision-Language Models

说明SP²ec:面向视觉语言模型的自适应自推测解码方法

简介本文针对视觉语言模型推理加速问题,提出一种无需训练的赌博机算法SP²ec,可在生成过程中动态调整草稿模型配置。该方法利用现有自推测解码方法普遍存在的单峰吞吐模式,并以挂钟时间遗憾为优化目标。实验表明,在Qwen2.5-VL-7B-Instruct和LLaVA-NeXT-Mistral-7B上,相比原始自推测方法吞吐量最高提升11%。

Yuqi Huang, Xingyao Li, Yunlong Hou 等

arXiv cs.LG 有代码

Learning When to Transfer: Reinforcement Learning for Carbon-Footprint Modeling in New Manufacturing Domains

说明何时迁移学习:用强化学习为新制造领域建模碳足迹

简介制造商在新材料或新工艺缺乏足够数据时,可借用既有生产数据加速建模,但盲目复用可能造成负迁移。本文提出一种强化学习方法,依奖励选择性迁移知识,并以验证门控确保迁移预测优于仅用目标数据的方法。在729组挤出式增材制造实验(涵盖五种材料)中,该方法的平均测试均方根误差为每件5.2克二氧化碳当量。

Muhammad Umar Farooq, Daniel R. Cooper

★★★★☆ 值得关注
arXiv cs.CV

Segment Where You Look: Attention as the Interface Between Language Models and Segmenters

说明让分割器“看”语言模型所注意的位置:注意力作为语言模型与分割器之间的接口

简介论文指出,多模态语言模型在语言引导分割中,通常把目标位置压缩进单个[SEG]标记的隐藏状态,丢失了空间信息。作者发现该标记对图像块的注意力包含更好的位置信号,并据此提出AttnSeg,用这种注意力作为解码器的空间提示,并加入直接监督。在Sa2VA上,AttnSeg在ReasonSeg和GS-Eval等基准上带来明显的gIoU提升,对部件、多物体和单物体效果最显著。

看点用注意力图替代[SEG]隐状态作为分割提示,提出两阶段训练,并在多基准上带来明显提升,有新意。

Eslam Abdelrahman, Hamza Omar Alkaf, Yuheng Li 等