AI 算法 · 2026年10月3日(周六)

机器学习、人工智能、自然语言处理、计算机视觉、多智能体。

arXiv cs.AI · cs.CL

ShadowMiner v1 - An Experience Report on Implementing and Measuring a Problem-and-Hypothesis Discovery Engine

说明ShadowMiner v1:一个自动发现研究问题与生成假设系统的实践报告

简介ShadowMiner v1 是一套从 AI 论文中自动发现研究问题并生成假设的系统,包含九个阶段,先将文献构建为知识图谱并找出其中的结构性空白,再把这些空白纳入大语言模型的生成提示。生成的假设随后会检查是否已被现有研究覆盖、评估质量,并核对其依据的事实是否准确取自来源。报告并未提出新的生成或评估技术,而是记录了实现和应用既有思路的经验,并衡量每项技术是否真正有所贡献。

Jinhyuk Choi

arXiv cs.LG

S³N: A Spherical Spiral Scanning Network for Weather Forecasting

说明S³N:用于天气预报的球面螺旋扫描网络(一种基于机器学习的全球天气预测模型)

简介该论文提出球面螺旋扫描网络S³N,用于全球天气预报。它通过L2Proj在经纬度网格与HEALPix网格之间进行双向映射,并用AQSS模块沿四条极点到极点的螺旋路径传递信息,使信息可跨越HEALPix基面边界连续传播。实验显示,S³N在4天、7天和10天预报时效上表现更好,且长期预报中误差增长较慢。

Fan Yan, Chen Hui, Weisi Lin 等

arXiv physics.soc-ph · cs.CE · cs.LG

FLAT: Smoothing the Rugged Landscape for Learnable, Sample-Efficient Traffic Calibration

说明FLAT:平滑崎岖的参数误差曲面,实现高效可学习的交通模型标定

简介该论文提出FLAT方法,用于为数字孪生中的微观交通模型标定跟驰与换道参数。方法以八维行为指纹平滑参数误差曲面,使仅几十次仿真即可学习目标,并用退火下置信界采集函数决定后续每次仿真的采样位置。在六个真实场景中,基于高斯过程的FLAT在统一预算下取得最低的平均行为误差,并指出收益主要来自目标函数设计与序贯采样,而非代理模型的容量。

Haopeng Deng, Shuo He, Dayuan Wang

arXiv cs.CV · physics.comp-ph

A differentiable Lagrangian-coupled 3D Gaussian Splatting-SPH model for forward simulation and inverse analysis in solid mechanics

说明可微分拉格朗日耦合三维高斯溅射与SPH模型:固体力学的正向模拟与逆向分析

简介本文提出一种可微分的拉格朗日耦合框架,将三维高斯溅射(3DGS)渲染模型与光滑粒子流体动力学(SPH)力学模型相结合,用于可变形固体的正向模拟和逆向分析。方法先由多视角图像重建物体的3DGS模型,再通过包络法生成独立的SPH支撑粒子,并以参考构型的拉格朗日映射把SPH变形传递给高斯位置和协方差。研究支持线弹性、超弹性和Kelvin-Voigt粘弹性本构,以及固定、自由和Robin型边界条件,并通过数值算例验证其与有限元结果的一致性,还从渲染的变形观测中估计本构与边界参数。

Tian Xu, Soroush Atashi, Tianju Xue

arXiv cs.CV

Synthetic-to-Real ViT-Based Pose Estimation of a Noncooperative UAV

说明从合成数据到真实场景:基于 ViT 的非合作无人机位姿估计

简介论文研究在仅使用合成图像训练的前提下,基于视觉 Transformer(ViT,DINOv2 自监督骨干)的单目无人机位姿估计模型能否泛化到真实图像。方法结合了姿态歧义相关策略,并在推理时加入 α-β 滤波器。在包含 77,077 张标注真实图像的数据集上,滤波前平均角度误差为 19.18°、推理时间 13.25 ms,滤波后分别为 8.74° 和 13.42 ms。

Krishnanujam Srinivas, Hanish Acharla, Brij Agrawal 等

arXiv eess.AS · cs.CL · cs.SD

Factorized Delayed Streams Modeling for LLM-based Streaming ASR

说明用于基于大语言模型流式语音识别的分解式延迟流建模(F-DSM)

简介延迟流建模(DSM)通过在共同时间轴上对齐声学流与文本流,使大语言模型能够进行流式语音识别。本文首先表明可移除词起始标记 <w> 而保持有竞争力的识别性能,据此提出分解式 DSM(F-DSM),将 <p> 的等待概率与原始大语言模型词表上的分布分开。在日语自发语音语料库和 LibriSpeech 上的实验显示,F-DSM 的识别性能优于 DSM,显著降低显存占用,训练吞吐量相近,并通过跳过 softmax 带来小幅推理加速,同时减轻了 DSM 中观察到的纯文本困惑度退化。

Tatsunari Takagi, Kai Washizaki, Atsushi Kojima 等

arXiv cs.DC · cs.CG · cs.MA

When Robots Crash: Optimal Asynchronous Gathering at Weber Meeting Nodes

说明当机器人崩溃时:在韦伯会合节点上的最优异步聚集

简介本文研究无限网格上异步、匿名、无记忆的移动机器人在存在崩溃故障时,聚集到指定会合节点之一的最优聚集问题,目标是使所有非故障机器人在韦伯会合节点(Weber Meeting Node)汇合,并使其初始位置到目标的曼哈顿距离总和最小。作者提出算法 CrashTolerantWeberGathering(),让每个机器人依据其快照独立选出相同目标,并借助与目标相关的受限最短路径保持目标为韦伯会合节点。论文证明在强多重性检测下,某些完全对称的构型无法实现最优聚集,对其余构型则保证在有限时间内完成聚集。

Animesh Maiti, Prakhar Shukla, Abhinav Chakraborty 等

arXiv cs.AI · cs.CL 有代码

Suppressing Pressure, Amplifying Evidence: Self-Guided Attention Steering to Mitigate Sycophancy and Stubbornness

说明抑制压力,放大证据:用于缓解谄媚与固执的自引导注意力调控

简介该论文指出语言模型既可能因用户无根据的压力而附和(谄媚),也可能在相关上下文信息出现时不愿修正答案(固执)。作者提出评测基准 CoPE-Bench,包含六种条件,并提出无需训练的 SPAE 方法,利用模型自身判断识别相关词元,通过词元级注意力调控抑制用户压力、放大上下文证据。论文报告在五个基座模型上,相对最强基线,压力跟随降低 18.8 个百分点,联合条件下的更新率提高 5.5 个百分点。

Yinghao He, Mengyu Xu, Haixiang Sun 等

arXiv cs.AI · cs.CL

Bidirectional Preference Synthesis: Learning Prompt-Conditioned Preferences from Boundary Failures

说明双向偏好合成:从边界失败中学习提示条件偏好

简介论文指出,基于修正的离线偏好训练通常只把模型的错误回答当作原始提示下的拒绝样本,信息不完整。作者提出双向偏好合成(BPS)方法:对每个经验证的边界失败案例,保留原提示下的正向偏好对,并在合成的实际提示下增加反向偏好对,无需修改DPO目标或训练奖励模型。实验基于Qwen3-4B-Instruct-2507,结果显示在保持原始侧排序的同时,实际侧排序准确率从6.8%提升至62.3%。

Junbo Wang (1, 2), Lidong Lu (2) 等

arXiv cs.CV

When Satellite and Street Views Disagree: Cross-View Complementarity in Disaster Damage Assessment

说明卫星与街景判断不一致时:灾损评估中的跨视角互补性

简介该论文研究卫星影像与街景影像在灾后建筑损毁评估中的互补作用,重点分析两种单视角模型判断相反的样本。在2025年伊顿山火及飓风Ian、Milton的配对数据上,融合方法在冲突样本上的准确率优于任一单一视角,但理想的最优单视角选择仍明显更高,说明现有方法仍有不足。论文还提出一种线性融合门控方法,在地面照片对准建筑时有所改进。

Yifan Yang, Lei Zou

arXiv cs.LG · stat.ML

LyapuFlow: Controlling Generative Flows with Lyapunov Feedback for Inverse Problems

说明LyapuFlow:用李雅普诺夫反馈控制生成流以求解逆问题

简介该论文提出 LyapuFlow,一种在推理阶段引导预训练流模型生成的方法,无需重新训练即可施加约束。方法在每一步采样时预测当前流所趋向的终点样本,并评估该预测的约束违反程度,再计算满足预设李雅普诺夫下降条件的最小范数控制量。作者在数据空间和潜在空间中验证了该方法,在科学机器学习和图像逆问题上优于其他测试时约束方法。

Minseon Gwak, Hans Hao-Hsun Hsu, Danielle C. Maddix 等

arXiv cs.CV

UniPro: Unified Multi-Mode Medical Image Segmentation from 2D Images to 3D Volumes via Propagation

说明UniPro:通过传播将二维医学图像分割统一扩展到三维体数据的多模式方法

简介该论文提出UniPro,一个统一的医学图像分割模型,可在同一基于切片的框架中完成语义、上下文参考、交互式和传播式分割。模型将二维编辑沿切片传播到三维体数据,并加入双向与三维监督以提升传播可靠性。作者称其在多种模态和解剖部位上表现良好,可从稀疏的二维初始化实现标注高效的三维分割。

Bangwei Guo, Yunhe Gao, Meng Ye 等

arXiv cs.LG

QiYao-I: A Manifold Based Foundation Model for Irregular Multivariate Time Series Forecasting

说明QiYao-I:基于流形的不规则多变量时间序列预测基础模型

简介该论文提出 QiYao-I,一种面向不规则多变量时间序列预测的基础模型。它通过可学习的时间流形特征空间和采样条件化注意力机制,处理不规则时间间隔;并利用带频率感知的动态变量交互机制,处理异步观测下的跨变量信息传递。实验显示其在真实基准上优于现有模型,且在零样本和少样本设置下有较强的泛化能力。

Linfeng Wang, Ruitong Zhang, Kai Zhao 等

arXiv cs.CV

Rethinking Long-Video Efficiency: A Joint Allocation Perspective on Frames, Pixels, and Front-End Latency

说明重新思考长视频效率:帧、像素与前端延迟的联合分配

简介本文研究如何提升视觉语言模型处理长视频的效率。作者发现,在相同的令牌预算下,密集的低分辨率采样优于稀疏的原生分辨率采样,且小时级长视频的耗时主要在前端解码。基于此提出无需训练的单次前向框架LoHi,结合密集低分辨率视频流与稀疏高分辨率图像帧,在三个长视频基准上平均准确率比原生分辨率基线提高10.6个百分点,并使小时级视频的前端解码延迟最多降低7倍。

Sixun Dong, Wei Li, Andong Deng 等

arXiv cs.AI · cs.CL

From Latent Space to Jacobian Space: Measuring, Evading, and Training Against Safety-Content Accessibility

说明从潜在空间到雅可比空间:衡量、规避与对抗训练安全内容的可访问性

简介该论文研究大模型内部可被输出直接读取的安全相关内容(雅可比空间读出),并探讨其与潜在空间安全几何的关系。作者提出了衡量各层安全方向向输出转移程度的指标,并比较基座模型与微调模型,发现训练可能扩大这种可访问性差距。论文还通过部署审计检验了监测、规避与防御的效果,并建议安全监测应直接针对可访问性本身。

Mohammad Mosafer

arXiv cs.AI

MOIRA: Mass-Oriented Indexing with Ragged Attention for Long-Context Decoding

说明MOIRA:面向长上下文解码的质量导向不规则注意力索引

简介论文提出 MOIRA,一种免训练的稀疏解码方法,可为每个请求、层和 KV 头自适应地选择页面预算:保留估计注意力质量达到比例 γ 的最小页面集合。配套的自规划注意力内核让整个解码步骤留在 CUDA 图内执行。在 H200 上、RULER 128k 上下文中,γ=0.99 时精度与稠密解码相当,读取约 30% 的页面,单个输出词元耗时降低 2.2–2.5 倍;高负载下吞吐量最多提升 51%。

Dich Nhat Minh Nguyen, Tran Dang Duong Nguyen

arXiv eess.SY · cs.LG · cs.SY 有代码

ML-OPF-Bench: Benchmarking Machine Learning for Optimal Power Flow

说明ML-OPF-Bench:面向最优潮流的机器学习统一基准测试

简介本文提出 ML-OPF-Bench,一个针对交流与直流最优潮流(OPF)的统一基准,在一致的流程下评估代表性机器学习方法,并在不同系统规模、分布偏移和计算资源条件下进行压力测试,再用多目标框架排序。研究发现,仅凭预测精度并不能可靠反映运行可行性;在重载、拥塞条件下,表现最好的方法优势消失,可行性主要由强制满足约束的后处理保证。该基准以可扩展的 Python 包形式开源。

Xinyi Liu, Xuan He, Danny H.K. Tsang 等

arXiv cs.CL

Evaluating Modeling Approaches for Experience-Level Classification in Job Description

说明招聘文本中工作经验等级分类的建模方法评估

简介本文研究如何从招聘文本中自动预测岗位所要求的工作经验等级。作者提出一种结构感知的 Section-Aware BERT 方法,对标题、职责、要求等关键段落分别编码后整合建模,并与基于规则的系统及 TF-IDF 基线进行比较,同时在少样本和微调设定下评估大语言模型。实验显示,显式利用文本结构能提升预测效果,在岗位名称模糊的情况下尤为明显。误差分析指出入门级与高级之间的混淆以及中级岗位边界模糊等问题。

Celia Liang, Eddie Wu, Shiqi Wang 等

arXiv cs.LG · cs.AI

What to Preserve in Recursive Computation: A Local Predictive Sufficiency Principle

说明递归计算中应保留什么:局部预测充分性原则

简介论文指出,递归计算中的中间表示经过多次压缩后,可能丢失对后续预测仍有用的信息。作者提出局部预测充分性原则,即控制每个接口处的局部预测缺陷即可控制最终的误差。在此基础上设计了训练方法,在时序图、语言记忆、视觉-语言-动作控制和递归自我改进四类任务中,于相同压缩预算下与基线模型相比取得相当或更好的结果。

Peilin Wang, Feng Shiyang, Hongfu Gao 等

arXiv cs.AI

EnvDreamer: Large-Scale Multimodal-to-Environment Generation for Embodied AI

说明EnvDreamer:面向具身智能的大规模多模态环境生成框架

简介本文提出 EnvDreamer 框架,利用大语言模型和视觉语言模型生成 Unreal Engine 5 虚拟环境,用于具身智能与机器人训练。该框架可采样大量多样、可交互、可定制并通过验证的虚拟环境,覆盖导航、交互与操作任务。作者称,在生成环境中训练的策略在多个具身基准上取得了有竞争力的结果,并同时发布了包含 20,000 个环境的数据集 EnvDreamer-20k。

Kabir Swain, Sijie Han, Antonio Torralba

arXiv cs.CV

A Geometric-Transformation Feature-Adaptive Manifold Restoration Method for Open-Vocabulary Semantic Segmentation of Remote Sensing Images

说明一种面向遥感图像开放词汇语义分割的几何变换特征自适应流形修复方法

简介遥感图像中地物的语义不随二面体群D4的几何变换而改变,但基于SAM3的开放词汇语义分割方法对不同几何变换的响应并不一致。论文提出基于D4几何变换的特征自适应流形修复方法,包括多尺度谐波引导的视图选择、以原始视图为锚点的自适应流形修复,以及对SAM3像素解码器的推理时测试自适应。在八个遥感语义分割基准上平均mIoU为55.6%,并在不同SAM3推理框架下均带来稳定提升。

Jianzheng Wang, Huan Ni, Xiaonan Niu 等

arXiv cs.LG · cs.AI · cs.CL

Questioning the Questions: Sustaining Self-Evolution in Reasoning Models

说明质疑问题本身:维持推理模型的自我进化

简介论文发现自我进化的推理模型在多轮自训练中性能会下降,原因是自生成问题中无效问题增多、数学上等价的重复问题未被词汇相似度控制识别。作者提出R-Quest方法,利用问题有效性和新颖性反馈引导自我进化。在12个基准测试中该方法平均表现最好,并在十轮自我进化中保持稳定提升。

Jinyuan Li, Chengsong Huang, Langlin Huang 等

arXiv eess.SY · cs.LG · cs.RO

Latent Safety Filters: When a Lossy Encoder Admits a Transferable Certificate

说明潜在安全过滤器:有损编码器何时允许可迁移的安全证书

简介该论文研究在学习得到的低维状态表示上进行安全认证的潜在安全过滤器。由于编码器有损,过滤器可能报告安全而物理状态实际不安全,且无法检测到模型误差。作者给出了可迁移安全证书存在的条件,取决于被丢弃的安全相关动力学是否可检测。

Johannes Mootz, Zahra Nili Ahmadabadi, Reza Akhavian

arXiv eess.SP · cs.AI

RRM-GPT: A Framework and Vision for Radio Resource Management Foundation Models

说明RRM-GPT:面向无线资源管理基础模型的框架与展望

简介该论文提出 RRM-GPT,一种用于无线资源管理(RRM)基础模型的自回归框架,像语言模型生成文本一样逐字段生成决策。模型先在未标注的网络日志上预训练,再通过模仿学习或强化学习适配具体部署目标。在 5G NR 案例中,单一模型可生成包括用户选择、时序、链路自适应、资源分配和控制信令在内的完整调度授权,并能在未见场景中无需调整即可迁移。

Ahmed Aboulfotouh, Akram Bin Sediq, Koosha Pourtahmasi Roshandeh 等

arXiv cs.AI · cs.CL

Language-Conditioned Token and Reasoning Efficiency in Large Language Models: A Paired Cross-Lingual Study Protocol

说明大语言模型中语言相关的token与推理效率:配对跨语言研究方案

简介该论文提出一项前瞻性配对研究方案,用于区分输入语言、可观察推理轨迹语言和答案生成三个环节对大语言模型成本的影响。方案设计了240个题目、多种语言模板、三个开源模型及多组token预算与语言条件,并规划了统计检验与能耗、延迟等指标。论文未报告任何确证性模型结果。

Genliang Zhu, Chu Wang

arXiv cs.AI

LMBuild: Evaluating LLM Agents for Generating Buildable and Functional Structures

说明LMBuild:评估大语言模型智能体生成可建造、可用功能结构的能力

简介该论文提出 LMBuild 基准,用于评估大语言模型智能体能否生成可实际建造并具备功能的三维结构,而不只是几何外形好看。框架包括可用工具检索、创建和放置组件的交互环境、基于 CAD 数据集并补充维基百科知识的基准,以及涵盖结构合理性、功能性、设计质量和物理可实现性的评估体系。在 30 个系统上的测试显示,功能性和物理可操作性仍是更大的挑战。

Jiateng Liu, Rushi Wang, Cheng Qian 等

★★★★☆ 值得关注
arXiv stat.ML · cs.LG

Local Fisher Information Enables Sparse Causal Discovery

说明局部 Fisher 信息助力稀疏因果发现

简介该论文提出 FiCS 算法,用于加性噪声模型下的稀疏因果发现,借助每个节点的局部 Fisher 分数同时确定变量顺序并选择父节点,无需估计高维密度。作者在一定正则性条件下给出理论证明,并在仿真与三个真实数据基准上展示了其与参考图的对应表现。

看点提出基于局部Fisher信息的因果发现算法,证明父集为唯一最小Fisher补全,并给出高维DAG一致性结果,理论贡献突出。

Byeongguk Kang, Donghyeon Lee, Euijong Song 等

arXiv eess.SP · cs.AI

Scaling of Wireless Foundation Models via Representation Diversity and Multi-Branch Architectures

说明通过表示多样性与多分支架构扩展无线基础模型

简介该论文研究无线基础模型的扩展方式,提出“目标多样性”:结合重建、预测和对比三种自监督目标学到的表示。在同等输出维度下,融合方法在六个下游任务(涵盖通信、感知和定位)上优于所评估的单目标编码器,且参数量约为其三分之一。作者还提出共享主干加目标专用分支的多分支架构,在单编码器参数预算内保留了大部分融合收益。

Ahmed Mohamed, Ahmed Aboulfotouh, and Hatem Abou-Zeid

arXiv cs.AI

VIGIL: Verifier-Informed Gated Improvement Loop for Spreadsheet Question Answering

说明VIGIL:面向表格问答的验证器引导门控改进循环

简介论文提出 VIGIL,一种用于企业级电子表格问答的持续学习框架,可借助延迟反馈逐步改进系统,同时限制每次修正对系统行为的影响。它在固定的基础模型、提示和检索器之上,只更新契约校准器和查询选择器,并通过门控机制决定是否采纳更新。实验显示,在 79 份文档上,前向准确率从 75.8% 提升到约 82%,但部分门控通过的更新在独立测试集上会降低准确率。

Kang Li, Lu He, Sandarsita Guntupalli

arXiv math.OC · cs.LG

Amortized Score-Hamiltonian Policy Iteration: A Grid-Free Scheme for Relaxed Stochastic Control Problems

说明摊销式分数-哈密顿策略迭代:用于松弛随机控制问题的无网格方法

简介本文提出一种摊销、无网格的策略-价值迭代方法,用于带熵正则化的无限时域松弛随机控制问题,基于连续朗之万动力学。方法用跨状态共享的条件采样器和参数化评论家分别近似策略与价值的投影,形成耦合的执行者-评论家流,并给出梯度、Hessian残差与策略次优性界。文中在线性二次类模型中证明两种投影精确,并在一般模型上以数值实验展示高维下的耦合学习。

Qi Feng, Gu Wang

arXiv cs.LG · cs.AI · cs.CL

First-Order Steering: Translating Weight Adaptation into Activation Steering

说明一阶引导:将权重适配转化为激活引导

简介该论文提出“一阶引导”,把激活引导视为对权重更新矩阵的一阶近似,其引导强度由一组向量参数化,并给出了近似误差的理论界。作者还提出模型合并方法HeRD-Merging,通过最小化一阶近似误差来提高引导精度。结果显示,该方法在单一和组合行为控制上都比现有激活引导方法更准确,同时性能与传统模型合并基线相当。

Sri Pranav Kunda, Alexander Kurz, Tomas Dominik 等

arXiv cs.CV · cs.GR

OctMesh: A Unified Octree-Hierarchical Framework for Lossless Triangle Mesh Compression

说明OctMesh:用于无损三角网格压缩的统一八叉树分层框架

简介该论文提出OctMesh,一种学习型框架,在共享的八叉树层级上同时编码三角网格的几何与连通性,以实现无损压缩。它按父子节点类型和端点归属对候选边分组,用三个神经预测器估计概率并配合算术编码。在MPEG V-DMC的256帧测试中,平均每个面7.033比特,比V-Mesh低12.8%,并支持九级渐进式细化。

Shiyu Feng, Xihua Sheng, Lingyu Zhu 等

arXiv cs.AI

Dense Neuro-Symbolic Reasoning in a Unified Geometry State

说明统一几何状态中的稠密神经符号推理

简介该论文提出一种几何问题求解框架,让神经网络与符号系统在同一类型化状态中,于每一步搜索通过可执行动作交互:神经部分提出定理实例、构造与代数桥接,符号运行时应用规则、传播约束并记录溯源。作者在统一求解器OmniGeo中实现该框架,覆盖平面、解析与立体几何,并报告其在多个基准上的准确率及在IMO-AG-30上解出21/30题。

Ruoran Xu, Wending Gao, Haoyu Cheng 等

arXiv cs.LG

Do RUL explanations hold up? Faithfulness and stability of attributions on C-MAPSS

说明RUL解释可靠吗?C-MAPSS上归因图的忠实性与稳定性研究

简介该论文在NASA C-MAPSS数据集上训练了1D CNN、LSTM和小型Transformer三种模型以预测剩余使用寿命(RUL)。作者用积分梯度、遮挡法和注意力三种方法生成归因图,并检验其删除/插入忠实性、噪声下的稳定性以及跨随机种子的一致性。结论认为遮挡法或积分梯度更适合给维护工程师阅读,而原始注意力权重仅宜作可视化使用。

Manh Hien Nguyen, Ngoc Thanh Nguyen, Isabella Mendoza Cortes 等

arXiv cs.RO · cs.LG · cs.SY

Autonomous Droplet Navigation via Model-Based Reinforcement Learning: Zero-Shot Transfer and Emergent Dynamics

说明基于模型强化学习的自主液滴导航:零样本迁移与涌现动力学

简介该论文提出一个机器人平台,利用基于模型的强化学习,在开放无约束表面上实现液滴的闭环自主导航。平台通过双轴倾斜板驱动液滴,并由俯视摄像头提供实时反馈,策略仅用50至150次物理实验训练,不依赖仿真或解析模型。研究报告了对未见几何形状的零样本迁移,以及液滴卡住时自主发现的振荡脱钉策略,整个训练流程在90分钟内完成。

Rajneesh Anand, Mayuresh V. Kothare

arXiv cs.LG

Integrated Imputation-Classification for Supervised Learning with Missing Data

说明缺失数据下的插补与分类一体化监督学习

简介本文研究特征值缺失情形下的监督分类问题。作者提出集成插补与分类网络(IICN),让插补器与一个含 n+1 类的判别器对抗训练,判别器需区分 n 个真实类别与额外的“插补”类别,并使用单一的监督分类目标。作者在 FashionMNIST、CIFAR-10 以及含自然缺失的表格数据上进行了评估,结果显示其表现优于传统的先插补后分类流程及近期的生成式基线方法。

Yue Liu, Ben Liang, Ali Tizghadam 等

arXiv cs.LG · cs.AI · cs.CL

Rethinking Self-Distillation for Multi-Teacher Capability Merging

说明重新审视多教师能力合并中的自蒸馏方法

简介本文比较了多教师在线策略蒸馏(MOPD)与监督微调、软标签蒸馏等离线方法在能力合并上的效果。作者在两种多教师设置、四个模型和十一个基准上进行了对照实验,发现四种方法准确率几乎相同,而MOPD的训练GPU时长是SFT的14.8至23.1倍。作者认为,此前报告的MOPD准确率优势主要源于训练设计和超参数调优,并建议优化更高效的离线基线。

Roy Xie, Dan Friedman, Feng Nan 等

arXiv cs.CL · cs.AI · cs.CY

AI-Enabled Quality Assurance for Multiple-Choice Assessment Items

说明用AI为选择题测验题目做质量保证的综述

简介这篇论文是一篇聚焦性叙述综述,梳理了自动化命题缺陷检测、题目修订、心理测量筛查及NLP基准审计等研究。作者审阅了14篇全文研究报告,并将19项评估标准与检测方法及已报告的证据进行对照。论文指出,高标签准确率常伴随对正例检测能力的不足,且各研究的标准定义和参考标准不一;修订效果证据也不一致。作者建议将质量保证视为一系列独立验证的决策过程。

Steven Moore, Nicholas Diana

arXiv cs.LG · cs.CG · math.OC

Adaptive Bregman Alternating Projections for Feasible Gromov-Wasserstein Learning

说明自适应Bregman交替投影方法用于可行的Gromov-Wasserstein学习

简介本文研究Gromov-Wasserstein问题的计算方法,该问题用于比较结构化分布,无需共享特征空间或已知对应关系。作者提出A-KL-BAPG方法,在固定惩罚预热后加入受保护的递增惩罚阶段,并通过回溯步长与投影直径检查保证收敛。实验表明,与固定惩罚的KL-BAPG相比,该方法在保持精度和目标值相近的同时,显著降低了边缘可行性误差和平稳性残差。

Aoran Zhang, C\'esar A. Uribe

arXiv cs.IR · cs.CL

Multimodal Dual-Encoder Retrieval for Automated ICD Coding

说明用于自动ICD编码的多模态双编码器检索

简介该论文针对国际疾病分类(ICD)自动编码的三个难题:无法同时理解结构化与非结构化患者数据、难以扩展到大量编码以及临床可解释性不足。研究提出两阶段框架:先用通过门控融合整合两类数据的多模态双编码器检索模型检索候选ICD编码,再由基于大语言模型的重排序器对前k个候选进行精排并给出解释。实验显示,该方法在Micro-F1和精确率上优于多模态双融合分类器基线。

Abhinav Bohra, Anuj Bohra

arXiv cs.AI

CADForge: Agentic Single-View CAD Reconstruction with Explicit Geometry Reasoning

说明CADForge:基于显式几何推理的智能体单视图CAD重建

简介本文提出CADForge,一个智能体框架,可从单张图像逐步生成可编辑的CadQuery参数化CAD程序。它将物体拆分为具有CAD意义的部件,对每个部件进行显式几何推理,并由审阅智能体评估几何结果以迭代优化。实验显示,在单部件和多部件物体上,其重建保真度与感知质量均优于现有基线。

Keyang Lu, Zhifei Yang, Tianao Dong 等

arXiv cs.CL · cs.AI · cs.MA

Playing social deduction games with reinforcement fine-tuned large language models

说明用强化微调的大语言模型玩社交推理游戏

简介本文用社交推理游戏研究强化微调(RFT)如何改变大语言模型的社交行为。实验表明,仅以最终输赢为目标的训练效果有限,但RFT能明显提升社交解读能力,并在一定条件下增强社交影响力。作者还提出多智能体社交认知强化微调,结合两类信号进一步提升表现,人类评估也给出更积极的结果。

Lingzhe Zhang, Yunpeng Zhai, Tong Jia 等

arXiv cs.LG

Cross-Trait Transfer in Subliminal Learning

说明潜意识学习中的跨特质迁移

简介潜意识学习指学生模型仅通过训练语义无关的输出,就获得教师模型行为特质的现象。本文提出有向特质迁移矩阵,以学生回答的对数概率增益衡量一种教师特质对其他特质偏好的影响。结果显示,该矩阵能揭示相关特质的聚类,学生有时会形成与教师特质相似但不完全相同的偏好;多特质实验表明,对立特质可增强这种区分。

Xingyu Zhao, Yiqiao Zhong

arXiv eess.IV · cs.CV

FloVMos: Optical Flow-based Medical Video Mosaicking

说明FloVMos:基于光流的医学视频拼接方法

简介该论文提出FloVMos,一种基于光流的深度学习框架,用于多种生物医学成像模态的实时视频拼接,以获得更大视野的合成图像。方法在合成训练数据上微调光流模型,数据模拟组织运动与成像畸变。作者在七种成像模态上测试,结果显示其在精度、鲁棒性和速度上均优于传统基线。

Jinyang Liu, Sandesh Ghimire, Chaman Singh 等

arXiv cs.LG · cs.CC

A Hand-Checkable Proof That Two Hidden ReLU Layers Compute the Maximum of Six Numbers

说明一份可手工验证的证明:两层隐藏ReLU层可计算六个数的最大值

简介论文研究用ReLU神经网络精确计算最大值函数所需的深度。已知借助计算机辅助构造,两层隐藏层可处理至多十二个输入。作者针对六个实数输入给出一个显式的六边形恒等式,并通过可完全手工核验的代数消去给出解析证明。由该恒等式可得到隐藏层宽度为17和41、偏置为零、权重为有理数的显式网络。

Dimitrios Myrisiotis

arXiv cs.RO · cs.CV 有代码

Grounded in Time: A Multi-Source Dataset and Benchmark for Temporal Grounding in Robotic Manipulation

说明基于时间的机器人操作:面向时序依赖的多源数据集与基准 GiT

简介论文提出 GiT(Grounded in Time)数据集与基准,用于让机器人操作决策依据过去发生的事件,涵盖生物实验室、家庭和工业场景。数据包括真实机器人与 UMI 风格的 18 个双臂任务示范、仿真数据,以及基于 ManiSkill 的 9 个任务评测套件。作者还提供细粒度子任务标注和反事实任务对,并评测了代表性端到端 VLA 模型,结果显示其在依赖历史信息的操作上仍有较大提升空间。

Yi Wang, Yang Yang, Guangqi Xu 等

arXiv cs.AI

Spec2Game: Can LLMs Generate Complete Playable Games from Detailed Specifications?

说明Spec2Game:大语言模型能否依据详细规格生成完整可玩的游戏?

简介本文提出Spec2Game基准,要求模型依据自然语言的详细游戏规格,生成完整的Pygame项目,共包含15类游戏、150个任务实例。研究从可执行性、规格实现、代码质量和用户体验四个维度评估生成结果,测试了14个大语言模型产生的3330个项目。结果显示,可执行性高并不代表忠实实现了规格,模型在规则与终止逻辑方面的表现明显较弱。

Yixue Cai, Yuzhe Zhao, Hanxiang Chao 等

arXiv cs.LG

Optimizer Geometry Sets the Pace: Spectral Learning Dynamics in Matrix Factorization

说明优化器几何结构决定学习节奏:矩阵分解中的谱学习动力学

简介本文研究在深度矩阵分解中,不同优化器的更新几何结构与网络深度如何共同影响奇异模式的出现、持续与消失。作者在平衡与对齐假设下,为欧氏梯度下降、SignGD、近似Adam、Muon、累积Shampoo及K-FAC推导了出现、饱和与衰减规律。结果显示,各方法的低秩偏置并非简单排序,归一化、累积状态与阻尼被解释为控制模式生灭的因素。

Mahalakshmi Sabanayagam, Simon Lucey

arXiv cs.CL · cs.AI

QuanLing: Cross-Branch Validation of Language Distance Quantification on Western Romance

说明QuanLing:西罗曼语族上的语言距离量化跨语系验证

简介本文将此前在北日耳曼语族上验证过的 QuanLing 框架扩展到西罗曼语族(法语、葡萄牙语、西班牙语、意大利语),使用 150 组四语平行句子,计算 LaBSE 句向量距离、四种单语 BERT 分词器的切分碎片率,以及 mBERT 的掩码预测相互可懂度。结果显示葡萄牙语与西班牙语最接近,法语与意大利语最远,且 LaBSE 与 mBERT 的排序在 6 组中有 4 组一致。

Yiping Bai

arXiv cs.HC · cs.AI

Benchmarking Psychological Dynamics in Generative Agents

说明生成式智能体心理动态基准测试:评估大模型能否复现人类的心理变化过程

简介本文提出一套心理测量基准,用于检验大语言模型模拟人类心理变化的真实性。该基准依据已发表的常模与元分析效应构建,从内部效度(轨迹的分布、人际与人内方差划分、时间依赖性及取值范围)和外部效度(特质、状态与指标之间的既有关系)两方面评分。对36个模型的测试显示,多数模型能复现既有关系的方向和方差划分,但人内相关与分布结构仍难以复现;内部效度与模型规模和能力无关。

Sumer S. Vaid, Ashley V. Whillans

arXiv cs.AI

On the Steering Dimensionality of Refusal in Language Models

说明语言模型拒答行为的引导维度:一篇关于用多少个方向才能控制拒答的论文

简介该论文研究用几个激活空间方向才能可靠地控制语言模型的两类拒答行为:安全对齐触发的拒答,以及一般语境中的拒答。作者提出“引导维度”概念,即可靠控制某行为所需的最小子空间维度。结果显示,安全对齐触发的拒答可用1个维度引导,而一般语境下的拒答即使使用5维子空间也无法可靠捕捉其全部可引导变化。

Han Wang, Erik Miehling, Dennis Wei 等

arXiv cs.LG

Stochastic Adaptive Fourier Decomposition for Operator Learning

说明用于算子学习的随机自适应傅里叶分解(SAFDNO):一种可替代固定傅里叶基的神经算子方法

简介论文指出傅里叶神经算子(FNO)依赖固定的傅里叶基和硬频率截断,难以刻画非周期、局部和细尺度的解结构。作者提出SAFDNO,用神经网络预测极点并由潜在特征直接构造自适应Takenaka-Malmquist正交系统,在该系统下对Hardy空间解析分支的系数做学习滤波。在九个偏微分方程基准中,它在六个规则网格问题上优于强基线,在Darcy、Burgers和Navier-Stokes上提升尤为明显,并表现出更好的零样本超分辨率能力。

Pengqing Shi, Liming Zhang, Tao Qian 等

arXiv cs.RO · cs.AI · cs.LG

Attention-Based Surface Representation Learning for Robot State Prediction and Open-Ended Surface Classification

说明基于注意力的表面表示学习:用于机器人状态预测与开放式地表分类

简介该论文关注户外地面机器人如何识别地形表面。传统方法只能区分训练时固定的类别,本文提出可将新的地表类别以可训练向量的形式加入,并可用于更高层任务。方法通过预测机器人下一时刻的状态并结合注意力模块进行学习,在Belyaev-Kushnarev数据集上分类准确率达到98.56%,在BorealTC数据集上达到94.8%。

Oleg Kushnarev, Alexander Belyaev

★★★★☆ 值得关注
arXiv cs.CL · cs.LG 有代码

Conformal Prediction with Paraphrase-Aware Scoring for LLM Uncertainty Quantification

说明面向改写感知评分的共形预测:大语言模型不确定性量化

简介本文提出一种对语义等价改写稳健的大语言模型不确定性量化框架。方法在模型隐藏状态上训练轻量代理模型,并跨多个改写结果聚合其预测,构造按标签的非一致性分数,再进行共形校准。文中在七个多项选择问答基准和多种模型上评估,结果显示预测集较紧凑,经验覆盖率总体接近名义目标,代理模型贡献了集合大小的大部分缩减。

看点在共形预测中引入对改写鲁棒的非一致性分数,并给出测试端改写下的覆盖保证;通过七个基准和多模型验证,且消融显示改进来源。

Jiayi Xin, Evan Qiang, Zihan Zhu 等

★★★★☆ 值得关注
arXiv cs.RO · cs.LG

Humanoid Rickshaw Pulling: Whole-Body Locomotion under Coupled Wheeled Loads

说明人形机器人拉人力车:拖动带轮负载时的全身运动控制

简介本文提出一种全身控制框架,使人形机器人能够拉动无动力的轮式车辆来运送远超自身重量的载荷。训练时使用掌握车辆状态与交互力的特权教师策略,将其蒸馏为基于历史信息的学生策略,再以强化学习微调。实验显示该策略能较准确地跟踪车辆运动,并减少车辆摇摆、躯干倾斜和驱动成本,硬件上可在不针对负载重新调参的情况下处理最高115千克的载重。

看点提出人形机器人拉动被动轮式车辆的全身控制框架,采用特权教师与历史条件学生蒸馏并结合强化学习微调;通过基线对比和真机实验(载重达115kg)支撑结论,影响主要限于人形机器人运输子领域。

Yangzhi Yang, Xiansheng Lin, Zhaoming Xie 等

arXiv cs.LG

PaLoRA: Paced Low-Rank Adaptation for Continual Learning

说明PaLoRA:用于持续学习的节奏化低秩适应方法

简介该论文针对基于LoRA的持续学习方法,指出固定的小学习率只是经验启发式,缺乏理论指导。作者推导出最优梯度步长随历史知识有效秩增长的节奏律,并据此提出PaLoRA,通过自适应SVD截断压缩历史知识、将梯度投影到先前任务的零空间,并进行秩感知的自适应节奏控制。实验报告在长序列任务中表现更好,在50任务的ImageNet-A和ImageNet-R上准确率提升约4%。

Yuxuan Li, Fanhu Zeng, Hao Tang

arXiv cs.CV

FlashGaze: Training-Free Multi-Scale Patch Pruning For Efficient Video Understanding

说明FlashGaze:无需训练的多尺度图像块剪枝,用于高效视频理解

简介该论文提出 FlashGaze,一种在视觉Transformer编码前减少视频时空冗余的免训练方法,无需额外辅助网络。方法以像素差异作为信息损失的代理,并用四叉树动态规划在固定预算下联合决定图像块的丢弃、合并与保留。在 Qwen3-VL-8B 上,LongVideoBench 准确率保留全输入基线的 98%,ViT 编码与 MLLM 预填充分别最高加速 5.4 倍和 17 倍,峰值显存降低至 1/1.8。

Ziye Zhu, Yanghao Zhou, Lixing Tan 等

arXiv cs.CV

RADC: Risk-Aware Dual Caching for Vision-Language Test-Time Adaptation

说明RADC:面向视觉-语言模型测试时自适应的风险感知双缓存方法

简介论文指出,基于缓存的视觉-语言模型测试时自适应方法,常因全局表示中的背景干扰和基于熵的缓存准入不可靠而受限。作者提出RADC,包含语义前景缓存(聚合CLIP表示中类别一致的空间证据)与高斯风险准入(将多视图表示建模为对角高斯分布,综合考虑类别可分性与特征不确定性来筛选缓存候选)。论文称其在跨域与分布外基准上取得了一致的领先性能。

Siyu Huang, Yueyong Chen, Xuejiao Li 等

arXiv cs.NE · cs.AI

Adaptive Operator Selection in Bilevel Large Neighborhood Search for Electric Autonomous Dial-a-Ride Problem under Uncertainty

说明不确定条件下电动自动驾驶拨号乘车问题中的自适应算子选择(论文)

简介本文研究电动自动驾驶拨号乘车问题(EADARP),即在拨号乘车问题上加入电动车电池与充电约束。论文在双层大邻域搜索框架中比较了六种插入算子选择方法,包括固定贪婪插入、固定后悔插入、随机选择、确定性状态规则、自适应ALNS选择和基于大语言模型的状态感知选择,并考虑了行驶时间不确定时的机会约束版本。实验显示,小规模算例上各方法表现相近,在较大、约束更紧的算例上差异更明显,且没有一种策略在所有算例上都最优。

Ishara Hewa Pathiranange, Aneta Neumann

arXiv cs.AI

TCMClinicalReason-Bench: Can Language Models Reason from Pathogenesis to Prescription over Real-World Clinical Cases?

说明TCMClinicalReason-Bench:语言模型能否基于真实病例从病机推理到处方?

简介该论文构建了基于2000例多中心电子病历的中医临床推理评测基准,考察大语言模型能否由病因病机、辨证、治则推导出处方。七个模型在零样本条件下接受评测,结果显示结构完整性接近满分,但内容得分仅40.7%至54.1%,处方生成与分析最为薄弱。

Jirui Dai, Chenkai Zhang, Yan Jia 等

arXiv cs.LG · cs.AI

FTD-GNO: Memory-Efficient Graph Neural Operators through Functional Tensor Decomposition of the Kernel

说明FTD-GNO:通过核函数的函数张量分解实现的内存高效图神经算子

简介该论文提出FTD-GNO框架,将高维连续积分核分解为低维的模态函数,并采用CP、Tensor-Train和Tucker等张量分解形式实现。这样无需显式生成完整的边级核张量,即可代数重构积分算子。理论复杂度分析显示其显著降低了参数与激活内存开销,实验表明其峰值内存低于未分解的基线,训练时间也更短。

Xiaomin Zhang, Boyue Wang, Junbin Gao 等

arXiv cs.GR · cs.AI · cs.RO

CurveCodec 2: Skeleton-agnostic animation compression with a learned entropy model

说明CurveCodec 2:与骨架无关的动画压缩方法,配备学习型熵模型

简介该论文提出 CurveCodec 2,一种用于骨骼动画的压缩编解码器,可适用于任意骨架并给出误差上限。它将每个子轨道编码为对数映射中的曲线,经闭环量化并保留率失真选出的关键帧,残差则使用一个小型学习型熵模型进行编码。在 4,472 个测试片段上,其字节数分别约为 ACL 默认精度下的 0.37 倍(最坏情况约束)和 0.22 倍(平均误差约束)。

Mingyi Shi, Huancheng Lin, Xuelin Chen 等

arXiv cs.CL

Can LLMs Separate Pasted Artifacts from User Speech? Absorption at Unmarked Prompt Seams

说明大模型能否区分粘贴内容与用户自己的话?无标记提示分界处的吸收现象

简介该论文研究大模型在用户粘贴文本后紧接着输入评论时,会把后面的评论误当作粘贴内容并放入编辑结果中的“吸收”现象。作者提出包含300个编辑样例的SEAM基准,在六种条件下测试20个模型,裸换行的吸收率为7.7%至66.7%。明确的分界标记能降低吸收,但无法完全消除。

Sugam Panthi, Muhaiminul Yeamin, Rabab Abdelfattah

arXiv cs.LG · stat.ML

Near-Optimal Sample Complexity for Recursive Entropic Risk Reinforcement Learning with a Generative Model

说明递归熵风险强化学习在生成模型下的近最优样本复杂度

简介本文研究在给定 MDP 生成模型、风险参数 β≠0 的递归熵风险偏好下,有限折扣马尔可夫决策过程中值学习与策略学习的样本复杂度。作者对基于模型的风险敏感 Q 值迭代方法(MB-RS-QVI)给出更精细的分析,得到学习最优 Q 函数与 ε 最优策略的 (ε,δ)-PAC 保证。原文称,相比该设定下已知的最佳结果,其界对有效视野 1/(1-γ) 的指数依赖有所改进,并与已有下界在指数项及其他参数上基本匹配。

Amirparsa Bahrami, Oliver Mortensen, Mohammad Sadegh Talebi

arXiv cs.AI

Fine-Tuning VLM for Enhancing AI's Spatial Intelligence: Understanding 3D and 2D Rotations

说明微调视觉语言模型以提升AI的空间智能:理解三维与二维旋转

简介这篇论文研究如何提升视觉语言模型的空间推理能力,使其更好地完成实际空间任务。作者使用多个为训练和评估而构建的物体旋转数据集进行微调实验。结果显示,微调后的Gemma-4混合专家模型在预测由旋转轴和角度定义的旋转时,明显优于同样微调的通用Gemma-4模型;此外,微调还显著提高了二维表示的角度估计精度。

Uttamasha Monjoree, Wei Yan

arXiv cs.LG · cs.AI · cs.CL

Clean: Second-order LLM Training at Linear Memory Cost via Nyström Sketching

说明Clean:利用 Nyström 草图以线性内存成本实现二阶大模型训练

简介本文提出 Clean 优化器,用随机 Nyström 方法近似 SOAP 中的左右预条件子,把优化器内存从与模型维度的二次关系降为线性,并补回低秩近似之外的曲率信息。作者还提出低精度变体 Q-Clean,压缩优化器状态。论文称,预训练 LLaMA-1.3B 时 Q-Clean 相比 Muon 优化器内存减少超过 50%,Clean 达到 AdamW 最终性能的速度快 26%,并可在单张 80GB GPU 上预训练 13B 参数模型。

Beheshteh T. Rakhshan, Sahar Rajabi, Maziar Sargordi 等

arXiv cs.CV

Sparse-GS2Mesh: 3D Gaussian Splatting Guided by Novel Stereo Views and 2DGS for Sparse View Surface Reconstruction

说明Sparse-GS2Mesh:利用新立体视角与2DGS引导3D高斯溅射,实现稀疏视角表面重建

简介本文提出Sparse-GS2Mesh,一种面向稀疏视角的立体感知表面重建框架。它先用极线深度先验初始化3D高斯溅射(3DGS)以缓解过拟合,再通过自适应基线选择、结合立体匹配网络的微调以及2D/3D协同正则化三个组件进行优化。论文称,在重叠很少的设置下该方法比现有最优方法提升约15%,在重叠较多的设置下结果相当。

Younghyun Noh, Minje Kim, Tae-Kyun Kim

arXiv cs.CV

CellSplat4D: PSF-Aware 4D Gaussian Splatting for Sparse Robotic Live-Cell Imaging

说明CellSplat4D:面向稀疏采样机器人活细胞成像的PSF感知4D高斯泼溅方法

简介该论文针对机器人显微镜因成本限制只能稀疏采集活细胞图像的问题,用4D高斯模型拟合已采集体积,从而重建缺失时间点的细胞影像。方法同时测量显微镜点扩散函数,并用3D U-Net在粗尺度上监督未测量时间步。在两个细胞追踪挑战赛序列上,该重建在与采集帧的各种时间距离上细胞核保真度都最高。

Yingda Tao, Guoyu Lu

arXiv cs.AI · cs.LG

ALoDLM: Adaptively Looped Diffusion Language Models

说明ALoDLM:自适应循环扩散语言模型,按词的难度分配计算量以提升扩散语言模型的生成质量

简介扩散语言模型可以并行预测多个词元以加快生成,但质量通常低于同规模的自回归模型。作者认为原因在于计算量与难度不匹配,并提出ALoDLM,在每个去噪步骤中迭代精炼潜在表示,并按词元难度分配计算。在1.7B和8B两种参数规模下,该模型在十一项基准测试的平均得分上优于所评估的扩散语言模型及对应的自回归基线,同时保留快速并行解码能力。

Liancheng Fang, Zhuowei Li, Youngeun Kim 等

arXiv stat.ML · cs.LG · stat.AP

Low-Rank and Structured Sparse Tensor Decomposition for Anomaly Detection in Multivariate Functional Data

说明用于多元函数型数据异常检测的低秩与结构化稀疏张量分解

简介论文提出两种无监督稀疏张量分解方法,用于多传感器函数型过程数据的异常检测。ES-CP 用逐元素 ℓ1 惩罚识别局部异常,FG-Lasso 同时使用逐元素与逐纤维惩罚,以检测局部偏差及集中在时间纤维上的异常。两种方法都通过低秩 CP 分解表示正常过程行为,并用交替优化估计。在多通道锻造过程案例中,FG-Lasso 和 ES-CP 的宏观 F1 分数分别为 0.85 和 0.82,高于 TRPCA 与基于 PCA 的方法。

Mohammad N. Bisheh, Che-Yi Liao, Kamran Paynabar

arXiv cs.AI

Asynchrony Is Nearly Free for Evolution Strategies on Long-Horizon LLM Agentic Tasks

说明异步进化策略在长时程LLM智能体任务中几乎没有额外代价

简介论文指出,同步策略更新在长时程LLM智能体后训练中效率有限,因为各轨迹完成时间差异大,快的工作节点要等待。作者提出有界陈旧性的异步进化策略(ES),并在WebShop上系统改变陈旧程度与比例,还加入两项极端压力测试。结果显示,即使所有适应度测量都是陈旧的,评估精度下降仍然很小,说明ES无需显式离策略校正也能容忍较大的策略陈旧,适合用于异步后训练。

William Hoy, Jingxuan Fan, Nurcin Celik 等

★★★★☆ 值得关注
arXiv cs.AI · cs.LG

MemLeak: Cross-User Semantic Leakage in Multi-Tenant AI Agent Memory

说明MemLeak:多租户AI智能体记忆中的跨用户语义泄露

简介论文研究企业多租户部署的个人AI智能体共用向量存储作为长期记忆时的跨用户泄露问题:用户查询可通过普通余弦相似度检索到其他用户的语义相近记忆。作者在多项实验中评估了这一问题,结果显示非对抗性的偶然泄露比例可达70%至100%,经过精心构造的记忆也能获得较高的前k位次。在三种架构缓解措施中,仅检索后的所有权硬性过滤能稳定恢复干净基线,每次查询额外延迟约1.4毫秒。

看点识别多租户共享向量库中的跨用户记忆泄露并形式化,通过多组实验与消融验证,并比较三种缓解措施,影响面较广。

Priyanka Mudgal, Kai Zhao, Guilin Zhang 等

arXiv cs.AI

Agentic AI with Structured CoT for Enhancing AI's Spatial Intelligence: Visualization and Reasoning of Rotation

说明利用结构化思维链提升AI空间智能:三维旋转的可视化与推理研究

简介本文研究了具备图像与语言能力的生成式智能体AI(GPT-5.6)对三维物体旋转的理解能力。作者基于修订版普渡空间可视化测验(Revised PSVT:R)设计旋转图示,并叠加额外的图形与上下文信息进行测试。结果显示,结构化思维链推理能提升基础模型的表现,但若去掉上下文信息,其改进有限,模型在空间变换理解上仍有明显困难。

Uttamasha Monjoree, Wei Yan

arXiv cs.AI

Metonymic Circuits for Abstract Concept Grounding in Vision Transformers

说明视觉Transformer中用于抽象概念落地的转喻电路

简介该论文研究视觉Transformer在训练数据缺乏直接指代证据时,如何理解愤怒等抽象概念。作者提出转喻机制假设:抽象概念的识别由火焰等具体可解释的锚点概念桥接视觉信号与抽象语义。通过在CLIP和DINO视觉编码器上应用Transcoder,作者在精心构建的图标数据集上发现了结构化的转喻电路,并通过因果干预验证了这些中间表示确实参与抽象概念的识别。

Jing Ding, Ziqiao Ma, Jiayuan Mao 等

arXiv cs.CV

Referring Multi-Object Tracking in Moving-Camera Videos via Global Motion Compensation

说明基于全局运动补偿的移动相机视频指代多目标跟踪

简介该论文研究指代多目标跟踪(RMOT),即根据一段语言描述在视频中跟踪所有被指代的物体。针对移动相机拍摄的视频中相机运动会干扰物体运动判断的问题,作者提出估计相机运动、提取残余运动,并将运动特征与查询表达进行比较,再通过后期融合与原有RMOT方法的预测结果结合。实验表明,该运动补偿模块可作为插件提升多种RMOT方法的性能。

Hsin-Chen Pai, Jyun-Kai Wang, Yi-Cheng Peng 等

arXiv cs.AI

EvalResearchBench: Can AI Agents Build Their Own Feedback for Recursive Self-Improvement?

说明EvalResearchBench:AI 智能体能否为自身递归自我改进构建反馈评估?

简介该论文提出 EvalResearchBench(ERB),用于考察 AI 智能体能否自主完成评估设计。研究者智能体在预算限制下选择或合成任务、实现评分器并经试点测试后,冻结出一个可执行的评估器。实验比较了 9 个研究者与 13 个候选模型,结果显示最佳评估器对候选模型配对排序的一致率约为 75%,低于目标基准之间约 91% 的上限;人工设计的公开任务样本仍是较强的基线。

Yaolun Zhang, Tianyi Xu, Yujie Zhao 等

arXiv cs.AI · cs.CL · cs.LG

Language Model Activations Inhabit Privileged Error-Correcting Basins

说明语言模型激活值位于具有纠错能力的特定吸引盆地中

简介该论文研究语言模型的激活空间几何结构,发现模型激活值聚集在一组不同的吸引盆地中,这些盆地能将自然激活值与分布相似的合成激活值区分开。作者还发现,语言模型的语义引导会使激活值在不同盆地之间移动。通过在引导过程中自适应调节强度,使激活值转移到目标盆地,可以提高跨语言引导时采样到目标语言词元的概率。

Matthew Finlayson, Francisco Pernice, Eric Todd 等

arXiv cs.AI

SHarP: Saliency-based Pruning of Agent Harnesses

说明SHarP:基于显著性的智能体工具框架剪枝方法

简介论文指出,智能体工具框架(协调模型调用、工具使用与任务执行的系统)在反复迭代中会越来越复杂,其中部分模块可能冗余并带来额外的令牌开销。作者借鉴神经网络剪枝,提出SHarP方法:通过逐一禁用各模块并评估其对性能和成本的影响来计算显著性,再剪除贡献最小或开销最大的模块。在多种框架上的验证表明,大部分被研究的框架即使剪去相当比例的模块,仍能保持相近的性能与效率。

Xinyi Gao, Qiucheng Wu, Kaizhi Qian 等

arXiv cs.LG · cs.AI

AttSVD:Prompt-Adaptive Low-Rank KV Cache Compression via Attention-Guided SVD

说明AttSVD:基于注意力引导SVD的提示自适应低秩KV缓存压缩

简介自回归Transformer的KV缓存随上下文长度线性增长,是长上下文下的主要内存开销。与删除低重要性token的做法不同,本文保留所有token,改为在特征维度上以更低成本存储。作者提出AttSVD,基于每个提示自身的注意力几何在线做截断SVD,只保留注意力实际读取的方向。在多个模型上,于智能体基准和完整LongBench套件中,AttSVD性能与稠密缓存相当,KV缓存内存最多可降至50%。

Sara Abdali, Jongwoo Ko, Pashmina Cameron

arXiv cs.HC · cs.CL

DimSteer: Steering LLM Authoring with Automatically Discovered Stylistic Controls

说明DimSteer:用自动发现的文风控件引导大模型写作

简介本文提出DimSteer,一个基于大模型的写作界面。它在当前提示附近采样多个补全结果,从模型内部激活空间中找出变化最大的方向,为其命名,并以滑块形式呈现,配有两端预览、差异对比和重置功能。在16人的组内对照实验中,相较于仅用提示词的基线,DimSteer降低了心理负担、努力程度和挫败感,感知成功率相当。多数参与者认为这些维度有价值,但15人表示自己不会想到在提示词中提出同样的修改。

Ajit Mallavarapu, Ziwei Gu

arXiv stat.ML · cs.AI

Risk-Calibrated Proposal Transport for Finite-Particle Diffusion Steering

说明面向有限粒子扩散引导的风险校准提议传输(RCPT)

简介该论文针对推理时扩散模型引导中的提议分布问题,指出方差控制引导(VCG)在有限粒子条件下可能在新状态上显著增加残余风险,从而损害生成或加速粒子退化。作者提出风险校准提议传输(RCPT),利用删除式留一残差校准VCG更新的保留比例,不增加模型调用。在二维棋盘分布、支架修饰、分子性质优化和CIFAR-10条件生成实验中,RCPT相较未校准的VCG改善了多数终端指标。

Ziseok Lee, Jaehyeon Kim, Seungwon Kim 等

arXiv cs.AI

Agentic Cognitive Depth: Operational Criteria for Evaluating LLM Agents

说明智能体认知深度:评估大语言模型智能体的操作性标准

简介本文将大语言模型智能体的评估从单纯的端到端任务成功率扩展到轨迹层面,提出“智能体认知深度”,包含上下文敏感性、时间连续性、多模态协调、自适应交互和元认知监控五项标准。前四项衡量控制流、记忆、工具和规划在整个运行轨迹中的使用情况,第五项衡量系统是否监控并调节整个运行过程。作者为各项标准给出操作性代理指标和扰动程序,并提出可用于扩展GAIA、SWE-bench等基准的逐项诊断框架。

Nijesh Upreti, Chris Sypherd, and Vaishak Belle

arXiv cs.LG · cs.CL

Principled Top-k Selection for Language Models with Hybrid Gradients

说明面向语言模型、结合混合梯度的原则性 Top-k 选择方法

简介论文针对大语言模型中从 m 个候选项选出 k 个的问题(如检索增强生成中的文档选择、混合专家模型中的专家路由),提出一种训练选择模块的原则性目标,其梯度同时包含监督梯度与策略梯度两部分。作者给出算法以 O(1/√T) 速率收敛,并在合成回归、RAG 和 MoE 任务上报告优于基线的下一词预测困惑度与问答准确率。

Xuchen Gong, Junfei Sun, Tian Li

arXiv cs.CV

Diagnosis-Conditioned Spatial Gating and Decoder-Level Supervised Contrastive Learning for Radiology Report Generation

说明基于诊断的空间门控与解码器层监督对比学习,用于放射学报告生成

简介本文针对放射学报告生成模型可能出现发现层面错误的问题,提出位置感知门控(PAG),利用预测的发现表示在无区域监督的情况下对视觉图像块进行空间调制;同时提出解码器层监督对比损失(DSCL),以共享的阳性发现而非实例身份来组织解码器表示。在MIMIC-CXR上,PAG+DSCL将临床有效性(CE)F1从匹配的全局门控基线0.484提升至0.502;在IU X-Ray上未额外微调即达到0.226,高于PromptMRG报告的0.211。

Md Mustafizur Rahman, Mylene C. Q. Farias

★★★★☆ 值得关注
arXiv cs.LG · cs.AI · stat.ML

How RL Reshapes LLM Reasoning: Transferability, Coverage, and Scaling Laws

说明强化学习如何重塑大语言模型的推理:迁移性、覆盖率与扩展规律

简介该论文研究强化学习(RL)对大语言模型推理能力的影响,发现训练后模型在其他领域既有提升也有遗忘,且在大采样预算下覆盖率的变化因任务而异。作者通过分析训练前后的解题过程,提出一个将策略选择与具体问题执行分开的两阶段自回归策略模型,并据此从理论上解释跨领域迁移、覆盖率变化以及强化学习计算量的扩展规律。

看点提出两阶段策略选择框架并证明RL隐式偏置如何重塑策略偏好,结合多模型族实验与理论推导,对理解RL推理有较强新意。

Ziheng Cheng, Yixiao Huang, Hanlin Zhu 等

arXiv stat.ML · cs.LG

Mitigating Over-squashing without Rewiring: A Sheaf Effective Resistance Perspective

说明不改动图结构缓解过度挤压:从层(sheaf)有效电阻视角看

简介图神经网络在捕捉长距离依赖时,常因“过度挤压”而使节点表示趋于坍缩。本文基于胞层(cellular sheaf)提出层有效电阻,证明在平坦向量丛下,过度挤压的敏感度受其上界约束。作者据此设计了FlatNSD模型,在不改变原图拓扑的情况下,通过调整层结构降低总层有效电阻,并在针对过度挤压设计的基准上取得良好表现。

Andr\'e Ribeiro, Germano Barcelos, Amauri H. Souza 等

arXiv cs.CL · cs.AI · cs.LG

Trajectory-Derived Confidence for Reliable, Resource-Aware Clinical Text-to-SQL Agents

说明基于推理轨迹的可信度评估:面向临床文本转SQL智能体的可靠且节省资源的方法

简介该论文针对临床文本转SQL智能体无法判断自身输出是否可信的问题,提出名为Sentinel的轨迹衍生分类器置信层,在三个节点决定是否停止:拒答无法回答的问题、中途终止注定失败的推理过程、以及拒绝交付不可信的答案。在EHRSQL基准上,当错误代价较低时,Sentinel将可靠性得分从+0.08提升至+0.24,并把交付答案的准确率从54%提高到69%,同时减少13%至28%的智能体步骤。

Mincheol Daniel Song, Joshua Ward, Jake Jung 等

arXiv eess.SY · cs.LG · cs.SY

One-Cycle Fault Classification and Faulted-Line Identification on the PROTECT-90 Dataset: An Initial Application Benchmark

说明PROTECT-90 数据集上的单周期故障分类与故障线路识别:初始应用基准

简介本文在新发布的 PROTECT-90 电磁暂态数据集上建立初始应用基准,针对故障类型分类和离散故障线路识别两项保护任务,评估了紧凑的一维卷积神经网络,并以多层感知机作为对照。在完整观测条件下两项任务准确率接近饱和,单周期测试准确率分别为 99.84% 和 100.00%。仅使用电压输入时线路识别准确率显著下降,表明限制性能的主要是测量信息而非网络结构。

Emad Abukhousa, Abdulaziz Qwbaiban, Saman Zonouz 等

arXiv cs.CV

Kepler4D: Controllable Future Video Generation via 4D Scene State Evolution

说明Kepler4D:通过4D场景状态演化实现可控的未来视频生成

简介该论文提出Kepler4D框架,从单目视频构建包含背景几何、物体运动轨迹等信息的共享3D表示,并通过视觉语言模型选择速度与朝向决策,再确定性推演未来物体轨迹。这些轨迹被渲染为几何控制信号,供预训练视频生成器合成未来视频。实验表明,该方法在真实视频上可实现可控的物体运动并保持场景一致性。

Feiran Wang, Bin Duan, Junyi Wu 等

arXiv cs.CV

Watermarks and Fingerprints as Soft Bindings for Content Provenance: An Open-Licence Benchmark for Images, Audio and Video

说明水印与指纹作为内容溯源的软绑定:图像、音频与视频的开源许可基准测试

简介论文在统一协议下比较了不可见水印和指纹检索两类技术,用于在内容被剥离元数据后恢复 C2PA 溯源信息,测试对象限于经许可审计的公开模型与公开媒体。研究涵盖多种图像、音频、视频水印配置以及大规模图像指纹库的检测,结果显示两类方法的失效方式不同,且水印嵌入可能影响 ISCC 码的匹配,同时不同平台的颜色转换会改变水印比特。

Seyedmahdi Kazempourradi (1), Ramtin Mojtahedi (1), Behrang Mohseni (1) ((1) Original Pictures Technologies 等

arXiv cs.LG

You May Be Running the Wrong Inception Crop

说明你可能用错了 Inception 裁剪

简介Inception 裁剪是训练深度视觉模型最常用的裁剪类数据增强方法。本文发现 TensorFlow/JAX 生态中的标准实现,其裁剪尺度的采样分布与 PyTorch 版本不同,并据此用 522 个 ViT-S/16 模型在 ImageNet-1k 上做了实验。作者报告了训练预算与增强强度、裁剪尺度分布下尾等方面的若干发现,并重新评估了 Beta 裁剪。

Jason Chuan-Chih Chou

arXiv cs.LG · stat.ML

Consideration Circuits: Depth Separation and Universality Beyond a Single Softmax

说明考虑电路:超越单一 Softmax 的深度分离与通用性

简介该论文提出考虑电路(CC),这是一类由多项逻辑回归单元组成有向无环图的多阶段选择模型,用于超越仅使用单一 Softmax 的特征选择模型。作者证明,在三选项折中任务中,深度从 2 增加到 3 可使所需最大偏好向量范数的缩放从对数除以误差变为仅对数级,并给出了深度 3 与深度 4 的充分条件。实验中,独立的树形电路在多个基准上取得了较低的平均测试负对数似然。

Junjie Xiao, Huiwen Jia

arXiv cs.LG · math.OC

Ideal Paths for Approximating Logistic Gradient Descent Trajectories at Large Initialization

说明大初始化下逻辑斯蒂梯度下降轨迹的理想路径近似

简介本文研究在严格线性可分数据上,从较大尺度初始化出发的全批量逻辑斯蒂梯度下降轨迹,并用几何方法构造一条由有限段直线组成的理想路径。路径分为负间隔修正与最小间隔增长两个阶段。论文证明,在合适的两阶段时间重参数化下,轨迹除以初始化尺度后会在 R→∞ 时一致收敛到该路径,并给出峰值评估损失与累计训练损失的渐近结论。

Junjie Xiao, Huiwen Jia

arXiv cs.LG · cs.CL · math.OC

ExpertMuon-Compass: Alignment-Guided Step Sizes for Mixture-of-Experts Training

说明ExpertMuon-Compass:用对齐度调节混合专家训练步长的优化方法

简介本文提出 ExpertMuon-Compass(Compass),针对混合专家(MoE)语言模型中各专家的 Muon 更新步长进行调节。该方法依据每个专家的更新方向与梯度的对齐程度,乘上两个调节因子,同时保留 Muon 的更新方向和动量缓冲。在 FineWeb-Edu 预训练实验中,Compass 的表现与 Muon、NorMuon 等优化器相当或更好,且在数据分布随训练变化时效果最明显。作者还给出了这两个因子的扰动界证明。

Omatharv Bharat Vaidya, Ashwin Vinod, Pedram Akbarian 等

arXiv cs.CV

From Sight to Foresight: Predictive Spatial Reasoning in Vision-Language Models

说明从观察到预判:视觉语言模型中的预测性空间推理

简介本文提出SpatialMind,一种具有真实尺度的视觉语言模型,用于空间推理与未来预测。模型通过度量深度适配器将空间推理锚定到真实尺度,并借助渐进式状态链,以当前空间状态和已观察到的动态为基础进行未来预测。作者还构建了SpatialMind-30K数据集和SpatialMind-2K基准,涵盖驾驶与日常第一人称场景。实验显示,该模型在其基准上明显优于通用及空间专用模型,并在多个公开基准上取得有竞争力的零样本表现。

Feiran Wang, Xiaoqi Wang, Ziwei Li 等

★★★★☆ 值得关注
arXiv cs.LG · cs.AI

Dual-Scale Relational Graph Transformers for Ecosystem-Aware Fraud Detection

说明用于生态感知欺诈检测的双尺度关系图Transformer

简介本文提出HERMES模型,用于检测账户接管(ATO)欺诈。该模型同时建模局部关系结构(Micro-GT)和欺诈生态的全局状态(Macro-GT),而非仅依赖孤立的表格式会话评分。论文在一家美国金融机构超过1.3亿笔高风险交易会话上进行评估,报告相比生产系统,客户摩擦相对降低44.44%,欺诈召回率相对提升24.66%。

看点将局部异构图注意力与全局生态上下文结合用于欺诈检测,有新意;在超1.3亿高风险会话上对生产系统与图基线对比,并有消融实验。

Mohsen Nayebi Kerdabadi, Xinrou Li, Yao Xiao 等

arXiv cs.LG

Dynamic Harness Search: Building Multi-Agent Systems Per-Query via Prediction

说明动态线束搜索:基于预测为每个查询构建多智能体系统

简介论文提出SHIFT方法,由本地大模型架构师学习构建智能体线束(角色、指令、工具与通信结构)的策略,并通过价值函数预测准确率与执行成本的综合效用。对每个查询,系统用蒙特卡洛树搜索依据预测结果构建线束,从而避免推理时逐一执行候选方案。在六个基准共9193个任务上,SHIFT平均准确率约80%,高于17个基线方法。

Som Sagar, Shasha Li, Hejie Cui 等

arXiv cond-mat.mtrl-sci · cs.AI · cs.LG

Agentic Resource Allocation for Batch Multi-Objective Bayesian Optimization in Autonomous Materials Discovery

说明面向自主材料发现的批量多目标贝叶斯优化中的自适应资源分配

简介论文针对材料合金设计中的资源受限问题,提出一种多目标贝叶斯优化框架,比较了利用型策略、固定的混合探索-利用策略,以及两种基于大语言模型(LLM)的自适应分配策略。实验涵盖难熔高熵合金和Fe-Co-Ni软磁合金两个体系,并考察预算削减、时间缩短等中途资源变化情形。结果显示,混合分配策略累积的互信息明显多于利用型基线,代价是超体积和优化速度略有下降;自适应策略表现优于固定混合策略,有助于降低帕累托最优成分的预测不确定性。

Robert Robinson, Shakti Prasad Padhy, Sushant Sinha 等

arXiv cs.AI

Auditing Pairwise Equivalence Judgments: Self-Critique Effects and Diversity Measurement in Multi-Agent Hypothesis Generation

说明审计成对等价判断:多智能体假设生成中的自我批判效应与多样性测量

简介本文研究基于大语言模型的多智能体科学假设生成系统,关注如何判断两个假设是否描述同一机制,并以此评估自我批判的效果和假设集合的多样性。作者用LLM作为评判者比较了0、1、5轮批判的结果,并对比了TF-IDF、稠密嵌入和LLM评判三种等价判定规则。结果显示,判定规则的选择会显著影响对自我批判效果和生成假设多样性的测量结论。

Ji Young Byun, Anthony Hu, Jesse Rogers 等

arXiv cs.CL · cs.AI

PB-GRPO: Learning Socially Adaptive LLM Agents from Persona-Driven Simulation with Preference-Batched GRPO

说明PB-GRPO:基于人设驱动模拟与偏好分批GRPO学习具备社交适应性的大语言模型智能体

简介论文提出一种名为PB-GRPO的后训练算法,用于让大语言模型学会在多轮对话中适应用户偏好。研究基于包含人设库、大模型用户模拟器和用户满意度评分(0到1)的模拟环境,以对话层面的反馈进行学习。相比普通GRPO,PB-GRPO在一组偏好相近的用户范围内估计归一化优势,从而稳定不同用户群体上的训练。论文称其在模拟环境中优于较强的强化学习基线。

Jingquan Wang, Jun Yin, Xu Han 等