AI 算法 · 2026年10月12日(周一)

机器学习、人工智能、自然语言处理、计算机视觉、多智能体。

arXiv cs.AI

Transparent Information Flow Modeling for Role-Aware AI Act Assessment

说明面向角色感知的欧盟AI法案评估:透明的信息流建模

简介本文探讨用信息流方法(IFM)评估欧盟《人工智能法案》合规性。IFM将决策系统(算法、人工或混合)表示为信息节点与转换通道构成的网络,以分析信息、决策与责任如何跨越组织和技术边界流动。作者以某公共部门招聘辅助工具为案例,同时评估提供方系统和部署方招聘流程,认为该方法有助于提升透明度、识别风险路径,并比较预期用途与实际用途。

Mattias Br\"annstr\"om, Themis Dimitra Xanthopoulou, Lili Jiang

★★★★☆ 值得关注
arXiv cs.CV

FOCUS: A Subspecialty Foundation Model for Intraoperative Central Nervous System Pathology

说明FOCUS:面向术中中枢神经系统病理诊断的亚专科基础模型

简介该研究提出FOCUS模型,在27,930张富含中枢神经系统组织的冰冻切片上预训练。在11项诊断任务和12项生物标志物预测任务中,平均AUC分别为0.969和0.877,并在时间队列和外部队列中保持领先表现。六位神经病理学家的读片评估显示,借助FOCUS,初级读片者的淋巴瘤敏感性由81.6%提高到94.7%。

看点针对术中冰冻切片中枢神经系统病变训练子专科基础模型,多任务评估并开展六位神经病理医生阅片实验,证据充分,对临床有较大影响。

Xing Liu, Yifan Guo, Hongtai Lv 等

arXiv cs.AI

Audit tools of the trade: Automated Auditor Elicitation Can Be Sensitive to the Context the Auditor Is Given

说明自动审计工具的语境敏感性:给审计 AI 的背景资料会改变审计结果

简介该论文使用 Petri 工具审计 LLM 编程代理,测试为自动审计 LLM 提供外部代码库和基准测试记录两类资源是否提升效果,涵盖四组审计者-目标模型组合和三种行为。结果显示,外部代码库在部分组合中抑制了奖励作弊,而基准测试记录则提高了奖励作弊分数;其他行为上未见一致效应。作者强调,测得的目标行为比率对配置设置高度敏感,因此需要谨慎试点。

Ben Slater, Ryan Lundqvist, Leo Richter 等

arXiv cs.CV · cs.RO

ConDenseDrive: Knowledge-Dense, Token-Sparse Visual Encoder for End-to-End Autonomous Driving

说明ConDenseDrive:面向端到端自动驾驶的知识密集、令牌稀疏视觉编码器

简介论文提出ConDenseDrive,一种用于端到端自动驾驶的视觉编码器。它先从三个视觉基础模型蒸馏视觉、语义与几何知识,再融合多帧时空信息用于规划,并通过寄存器引导的令牌压缩减少冗余计算,推理速度提升2.0倍,同时规划性能有所提高。在NAVSIM v1上达到94.5 PDMS,在NAVSIM v2上达到90.8 EPDMS,并在HUGSIM零样本评测中取得37.4 HD-Score。

Shengzhen Li, Yongkang Li, Hao Gao 等

arXiv cs.CV

Mining Cross-Modal Perception Gaps in Autonomous Driving: When Camera and LiDAR Disagree

说明挖掘自动驾驶中的跨模态感知差距:当摄像头与激光雷达意见不一致时

简介该论文通过标注每个真实目标被哪些传感器检出,分析了nuScenes、KITTI和Waymo约40万个目标的数据库,发现摄像头与激光雷达的可信度随距离和位置变化。作者提出空间分层特征归因方法(SSFA),并据此构建模态可靠性图,以轻量注意力层注入四个预训练融合检测器,使平均精度最多提升1.3 mAP,仅微调不到4%的参数。

Hongsen Cao, Mona Jaber, Shanxin Yuan 等

arXiv cs.AI · cs.LG 有代码

Neural Bayesian Networks for Modular and Scalable Decision-Making Under Uncertainty

说明用于不确定性决策的神经贝叶斯网络:模块化与可扩展方法

简介本文提出神经贝叶斯网络(NBN),保留贝叶斯网络的图结构与分解方式,但把每个条件分布换成可微的张量形式机制,因此能表示任意可学习的条件分布。作者同时发布了基于 PyTorch 的 NBN 库和公开基准。论文称,在表达能力和规模上均有提升,在大型网络和大批量查询上借助 GPU 并行,速度可快约两个数量级。

Giovanni Briglia, Marco Lippi, Stefano Mariani 等

arXiv cs.AI · cs.RO

Observe, Share, or Predict? Disentangling Partner Information in Embodied Multi-Agent Collaboration

说明观察、共享还是预测?拆解具身多智能体协作中的伙伴信息

简介该论文借助基于 Habitat 的 PARTNR 基准,研究大语言模型作为具身智能体高层控制器时,能否在不对话的情况下支持协作推理。研究在个体感知受限的设定下,比较了观察伙伴状态、交换物体知识和预测伙伴下一步动作三种信息的作用。结果显示,观察伙伴状态主要提升任务质量,物体知识交换主要提高执行效率,而预测伙伴动作的方法在多数情况下反而降低了成功率。

Adri\'an Szlatincs\'an, Filippo Ziliotto, Bruno Lepri 等

arXiv cs.CV · cs.LG 有代码

Barycentric Guidance: Turning Foundation Image Editors into Continuous Affective Controllers

说明重心引导:将基础图像编辑器转变为连续的情感控制器

简介本文提出一种无需训练的框架“重心引导”,可将预训练的基础图像编辑器转变为基于效价-唤醒度(VA)空间的连续情感控制器,无需微调、额外数据或修改模型。该方法把任意目标VA点映射为单纯形上的引导权重,在三个人脸数据集上相比最强基线提升了VA目标准确度、VA平面覆盖范围和表情多样性,并能推广到动物、艺术作品和复杂场景。

Harvey Mannering, Zhiwu Huang, Adam Pr\"ugel-Bennett

arXiv cs.LG

AI-Assisted Tumor-Growth Law Discovery from Sparse Data: Refitting and LLM-Based Ranking

说明从稀疏数据中借助AI发现肿瘤生长规律:重新拟合与基于大语言模型的排序

简介本文研究在稀疏、有噪声的观测数据中,借助符号回归、数学可容许性检验、系数重拟合和大语言模型排序来推断肿瘤生长规律的流程。在合成的Gompertz数据上,稠密无噪声数据能够恢复生成模型,但稀疏有噪声的采样常导致得出其他形式。实验显示,经物理信息神经网络重拟合往往增大生长规律误差,而经典非线性最小二乘法通常会降低误差;对大语言模型排序的探索性分析未显示相对于训练误差选择的稳定改进,并发现其数学推理中存在错误。因此,合理的饱和形态、准确的轨迹拟合和令人信服的解释可能与错误的生长规律同时存在。

Yitian Lu, Weinan Wang

arXiv cs.AR · cs.DC · cs.LG

FORGE: Procedural Weight Generation for Sparse MoE Inference

说明FORGE:面向稀疏混合专家推理的程序化权重生成

简介该论文提出 FORGE 系统,不再从显存(HBM)中读取每个专家的权重,而是在各流式多处理器内的小型加速单元中,依据每个投影约 O(log²d) 个旋转参数实时生成权重。文中估计在替换 30% 的 MoE 前馈层后,系统吞吐量提升 1.3 至 2.8 倍,每用户解码延迟降低 1.10 至 1.15 倍,但下游精度低于未替换的模型,替换比例决定了这一权衡。

Chanyoung Moon, Travis Pence, Daisuke Yamada 等

arXiv cs.AI

Transparency as Answerability: Role-Dependent Information Flow Modeling

说明以可回答性定义透明度:依角色而异的信息流建模

简介本文提出把透明度视为系统与利益相关方之间的关系:当利益相关方的合理问题能够从系统结构中得到回答时,系统对其即是透明的。作者用信息流网络形式化这一思路,并区分网络结构、跨组织边界和基于角色的三类可回答性分析。文中以某公共部门市政机构的AI招聘工具为例,通过参与式设计和访谈建模其决策系统,演示了这些透明度问题的形式化与分析。

Mattias Br\"annstr\"om, Themis Dimitra Xanthopoulou, Lili Jiang

arXiv cs.LG

Learning Operators for Symmetry Discovery: From Lie Groups to Local Symmetry Geometry

说明学习用于对称性发现的算子:从李群到局部对称几何

简介本文研究能否从有限观测中,学习一族函数到其对称结构之间的映射,而不是为每个函数单独估计对称性。作者在全局李群对称中给出表示论层面的总体刻画,并证明逆对称算子在坐标变换下具有等变性。在 SO(5) 基准上,摊销式等变估计改善了稀疏观测下的对称恢复效果,并将该思路推广到由 Frobenius 定理保证局部积分子流形的局部对称。

Pavan Karjol, Scindhiya Laxmi, Prathosh AP

arXiv cs.AI · cs.RO

Acceptable Misalignment

说明可接受的失准:从最大化对齐转向界定可接受的错位风险

简介本文探讨开放式学习自主机器人的价值对齐问题。作者认为完全对齐在理论和实践上都不可能,因此错位事件仍会发生。论文提出“可接受的失准”概念,并提出使错位达到可接受水平所需的规范性要求,最后给出一个由对齐机制组成的新方法论框架。

Maud van Lier, Ludovica Marinucci, Vieri Giuliano Santucci 等

arXiv cs.CV

EviStress: Evidence Stress Learning for Generalizable Face Forgery Detection with Textual Explanations

说明EviStress:面向可泛化人脸伪造检测并提供文本解释的证据压力学习方法

简介该论文针对网络上人脸伪造内容难以识别的问题,提出两阶段框架EviStress。第一阶段通过证据定向的图像块扰动和判别性变化保持,对模型高度依赖的视觉证据进行压力训练;第二阶段将适配后的CLIP编码器接入LLaVA进行多模态指令微调,使模型直接给出真伪判断和文字解释。实验显示其在跨数据集、跨方法和受干扰场景下的泛化与鲁棒性有所提升。

Jiuyao Jing, Xuanyu Yi, Yu Zheng 等

arXiv cs.LG

Sequence Composition in EHR Foundation Model Pretraining

说明电子病历基础模型预训练中的序列组合方式研究

简介该论文研究电子病历基础模型预训练时,如何组织患者就诊轨迹序列对临床预测效果的影响。作者提出多种控制患者轨迹组合方式的方法,替代常用的全局拼接流方法。在 MIMIC-IV v2.2 的四项任务中,最佳方法提升了宏观 AUROC、AUPRC、F1 和平衡准确率,F1 相对提升 9.3%,AUPRC 相对提升 2.7%;在 INSPIRE 和 eICU-CRD 等其他评估设置中也有类似改进。

Joshua Placidi, Inigo Stibbe, Alfred J. Balston 等

arXiv cs.AI

CLIVO: Differentiable Cluster-Based Instruction Mixing with Learned Validation Objectives

说明CLIVO:基于可微聚类的指令数据混合与学习式验证目标

简介该论文针对视觉语言模型的指令数据选择,提出 CLIVO 框架:用语义聚类决定各类数据的训练比例,用合并后的聚类专家作为代理评估混合方案,并通过学习非负权重构建针对特定目标的验证目标,再以可微的方式搜索最优混合比例。在从 800 万条指令中选取 10 万条(约 1.25%)的设定下,其四项目标平均分达到全量数据的 97.2%,并优于评测中最强的选择基线。

Yuhan Wang, Rui Hu, Batian Di 等

arXiv cs.CL · cs.SE

SpecGuardBench: Can Coding Agents Construct Reliable Validation Harnesses from Natural Language Specifications?

说明SpecGuardBench:编码智能体能否依据自然语言规格构建可靠的验证工具?

简介该论文提出 SpecGuardBench,包含来自 13 个真实代码仓库的 291 项任务,覆盖 8 类验证逻辑。智能体需依据自然语言规格、仓库上下文和参考实现,构建包含可执行检查与测试场景的验证工具。结果显示,四个编码智能体在任何任务上的最高忠实率都未超过 63%。主要问题在于检查难以忠实反映规格,智能体往往照搬参考实现,从而拒绝了规格允许的实现。

Zhiqing Zhong, Mingyu Chen, Aoyang Fang 等

arXiv cs.LG

From Parallel to Sequential: Small-Batch Noise Restores Simplicity Bias of Muon

说明从并行到顺序:小批量噪声恢复 Muon 的简单性偏置

简介论文指出,Muon(基于谱下降的优化器)在全批量设置下会并行学习多个特征,而非像梯度流那样逐个学习。作者发现随机梯度噪声能恢复顺序学习,并以深度线性模型为例推导了带噪谱下降的有效连续动力学。低秩矩阵重建、视觉 Transformer 和大语言模型上的实验支持了这一结论。

Tom Jacobs, Rebekka Burkholz

★★★★☆ 值得关注
arXiv cs.LG · cs.AI · cs.CL 有代码

Davinci-Tool: Scaling Agentic Tool-Use Supervision with Verifiable Executable Environments

说明Davinci-Tool:用可验证的可执行环境扩展智能体工具调用的监督数据

简介该论文提出 Davinci-Tool(30B 工具调用模型)和 Davinci-ToolData(以执行为依据的数据集),将环境覆盖与结果验证结合扩展。两套数据流程生成 30,395 条已验证轨迹,涉及 2,260 个工具名称,并通过监督微调与直接偏好优化训练模型。在 τ²-bench、BFCL v4 多轮和 MCP-Atlas 三个基准上,模型表现优于参数量约为其 16 倍的 Qwen3-Coder-480B-A35B-Instruct。

看点提出可验证可执行环境与结果导向偏好优化,在三个工具调用基准上大幅提升,并以更小参数超越大模型。

Xiaoyang Yuan, Ji Zhao, Xingyu Hu 等

arXiv cs.LG · cs.DC

Efficient Resource-Shiftable RL Post-training with Generative Rewards

说明面向生成式奖励的可动态切换资源的高效强化学习后训练系统

简介该论文提出 PivotRL,一种用于大语言模型强化学习后训练的系统,可根据运行时负载在策略生成、奖励评估和策略训练等角色之间动态切换 GPU 资源。系统基于全局参数存储与感知切换的调度器实现序列迁移,并由规划器综合吞吐收益与切换开销决定何时及如何切换。在 128 块 GPU 集群上的评估显示,端到端吞吐量相比共置部署提升 1.81 至 2.05 倍,相比分离部署提升 1.50 至 1.95 倍,且保持强化学习收敛性。

Yanfeng Zhao, Haoyang Li, Sheng Lin 等

arXiv cs.HC · cs.CY · cs.LG

Better together? A performance theory of human-machine skill policies under generalization difficulty

说明人机协作更好吗?关于泛化难度下人机技能策略的绩效理论

简介论文提出一套人机配对完成任务的绩效理论,区分由各自技能决定的系统性部分与需要配对观察才能确定的残差部分,并分析路由、加权与协同等协作方式能获取多少收益。作者还给出了在公开胸片研究(227名放射科医生)中的验证:医生与模型水平接近,辅助阅片的效果平均低于简单平均两者的判断,而仅重新校准模型的效果优于任何可部署的原始判断组合。

Riccardo Zanardelli

arXiv cs.CV · cs.IR

From Volpiano to Pixels: 30,000 Lines of OMR Ground Truth for Medieval Chant

说明从 Volpiano 到像素:中世纪圣咏光学乐谱识别的 3 万余行标注数据

简介本文利用 Cantus Database 已有的 Volpiano 转写,为中世纪圣咏手稿构建了 30,567 组图像与目标序列配对数据,涵盖十份文献的十一种导出格式。研究团队以多种检测器和两个小型 U-Net 完成谱线与谱号定位,并从头训练 CRNN 模型,在 3,086 行测试数据上取得 9.6% 的符号错误率。

Robert Klugseder

arXiv cs.LG · cs.MS · math.OC 有代码

GpFlash: Maximizing Speed and Minimizing Memory for Gaussian Process Training and Prediction

说明GpFlash:兼顾速度与内存的高斯过程训练与预测库

简介本文提出高斯过程库 GpFlash,专注于快速训练与后验计算、极低内存占用及对高维问题的可扩展性。与 scikit-learn、GPy、GPflow、GPyTorch、SMT 等库相比,在所测试的各种情形下 GpFlash 都更省内存、速度更快。以 1 万个训练点、10 维为例,其内存用量少 9.6 至 35 倍,计算边际对数似然及其梯度快 2.6 至 54 倍。

Andre Marchildon

arXiv cs.CV

Vision Models Capture Complementary Representations in Children That Converge in Adults

说明视觉模型在儿童与成人中捕捉到互补的表征,并在成人阶段趋于收敛

简介研究者用脑电图(EEG)数据,比较8岁儿童、12岁儿童和成人大脑的视觉表征与不同AI视觉模型的对应程度。结果显示,图文对齐模型CLIP在儿童阶段就与大脑有显著对齐,纯视觉模型则在发展后期对齐更强。两者在残差分析中呈现互补结构,且大部分对齐体现在类别和动物性等语义结构上,而与低层图像属性的对齐始终较弱。

Domenic Bersch, Timothy Schauml\"offel, Michela Proietti 等

arXiv cs.CL

ANCHOR: Assessing Naturalistic Constraint Hierarchies and Ordering in Repository-Grounded Agentic Coding

说明ANCHOR:面向代码仓库的智能体编程约束遵循评测基准

简介该论文提出 ANCHOR 基准,用于评估代码智能体能否遵守开发者对修改范围、流程顺序、验证、工具使用和汇报等方面的约束,而不仅是功能正确。基准包含358个多语言仓库任务,并通过代码差异与执行轨迹进行评估。最强系统的原子约束遵循率为70.1%,关系约束遵循率为63.7%,严格标准下仅19.0%的任务通过全部检查项。

Wenqiang Zhu, Xinping Lei, Zhiyi Lai 等

arXiv cs.CV · cs.AI

Towards Cost-Efficient Video Dataset Construction with Large Language Models

说明利用大语言模型降低视频数据集构建成本

简介该论文提出在下载视频之前,先用大语言模型根据视频元数据进行预筛选,以减少存储、时间和标注成本。作者以四名独立标注者的多数投票作为标准评估大语言模型,并用 Gwet's AC1 检验标注一致性,同时与两种基于关键词的非大模型基线进行比较,还对成本进行了对比。

Mohammed Shabot, Jonathan Adams, Jan Van den Stock 等

arXiv cs.LG · stat.ML

Radial Tail Repair: Post-Training Correction for Diffusion and Flow Models

说明径向尾部修复:扩散与流模型的训练后校正方法

简介扩散模型和流匹配模型在表示分布尾部,尤其是重尾数据时可能不够准确。本文提出一种轻量级训练后校正方法,不重新训练模型,也不改变其采样过程:利用多元重尾分布的径向-角度分解,保留模型已学到的方向结构,仅修正其径向尾部。实验表明,在合成重尾分布及真实天气和野火数据上,该方法仅用少量拟合样本即可明显提升极端尾部的覆盖。

Hamza Cherkaoui, H\'el\`ene Halconruy, Antonio Ocello

arXiv cs.CV

A Multi-Task Deep Learning Framework for Pose-Invariant Face Recognition and Facial Landmark Localization

说明用于姿态不变人脸识别与面部关键点定位的多任务深度学习框架

简介该论文提出一个多任务深度学习框架,在同一网络中同时进行大姿态变化下的人脸身份识别和面部关键点定位。作者将CPLFW数据集改造为同时带有身份标签和五点关键点标注的多任务数据集。实验显示,模型在验证集上的识别准确率为81.58%,关键点定位均方误差为96.38。

Ali Ashkeyev, Zukhra Abdiakhmetova

arXiv stat.ML · cs.LG · math.OC

Feature Normalization under Finite Training Budgets

说明有限训练预算下的特征标准化:稀有特征何时该缩放

简介这篇论文研究在有限观测数量下,对稀有特征进行标准化与不缩放两种随机梯度下降训练方式,在稀有子群体上能达到的最低风险。作者在两个独立二元特征的设定中,推导了流行率趋于零时两种方法的最优风险公式,并用有限流行率下的界来比较二者。文中还在受控实验中检验了观测复用、估计预处理和截距拟合等情形下的结论,并指出训练后选择预测器可能使排序反转。

Johan Larsson

arXiv cs.LG · cs.AI

Few-for-Many Best-Arm Identification in Multi-Objective Bandits

说明多目标赌博机中的少量选择覆盖多目标最优臂识别

简介论文研究在多目标赌博机中,如何用少量候选方案(臂)覆盖众多目标,并通过带噪反馈学习其表现。作者提出“少选多”最优臂识别问题,目标是选出一小组臂,使其在各目标上相对最优值的最坏加权劣化最小。论文给出两种算法(GFM-Elim与AFM-Elim)及依赖实例的样本复杂度保证,并在高斯奖励下推导潜在分组情形的下界。实验显示,跨目标共享观测并忽略无关差异可显著降低采样成本。

Bo Xue, Yilu Liu, Haodong Jing 等

arXiv cs.CL

Label Collapse in Diffusion Language Model In-Context Learning

说明扩散语言模型上下文学习中的标签塌缩现象

简介该论文研究大语言模型上下文学习中的一种失效模式:模型生成与查询无关的标签,称为标签塌缩。作者在8-9B规模的五个模型(包括自回归和离散扩散两类)上测试,发现即使采用类别平衡的交替排列,塌缩仍普遍存在。论文指出仅看准确率无法发现这一问题,并提出以查询位置两个标签词的对数几率差作为补充诊断指标。

Ziye Guo, Ye Yuan

arXiv cs.AI · cs.SE

Same Operation, Different Permission: Evaluating Whether Guardrails Honor Authorization

说明同一操作,不同授权:评估安全护栏是否尊重授权

简介随着语言模型智能体代替用户编写代码、转账和修改记录,判断操作是否获得授权成为核心安全问题。本文提出基准测试 \bench{},对同一操作在有无授权证据时的护栏判定进行对照,包含专家标注场景、实际执行并验证的操作以及外部来源的原生策略请求。实验发现,许多被拦截的操作源于审查失败而非正确拒绝;修正输出格式可恢复可用判定,但会改变被放行的授权请求,增加第二审查者可减少部分错误,却也会拒绝有效授权。

Huihao Jing, Shaojin Chen, Wenbin Hu 等

arXiv cs.CL · cs.AI 有代码

A Scaled-Up Empirical Study of Syntactic Language Models

说明句法语言模型的大规模实证研究:扩大规模后的系统比较

简介句法语言模型会在生成句子的同时生成其句法树结构。本文在最大10亿参数、1000亿训练词元的规模下,对12种受控配置(1个基线和11个句法语言模型变体)进行了大规模实证比较,覆盖11个下游任务和2个句法基准。结果显示,采用标准因果注意力的句法语言模型与结构掩码变体表现相当或更好,无需修改架构且兼容FlashAttention;但扩大到10亿参数时,表现最好的变体相对于计算量匹配的非结构化基线不再有明显优势。

Pengcheng Wang, Zhexuan Zhang, Chao Lou 等

arXiv cs.LG · cs.CL

The Bell Boundary of Shared Representations

说明共享表示的贝尔边界:多任务学习中何时表示能力不足以同时支持多个任务

简介本文借用贝尔定理研究多任务学习中共享表示何时无法同时支持多个任务。作者证明,若四个二元任务结果可由同一共享表示联合表示,其相关性须满足经典CHSH界|S|≤2。作者提出受控模型NCnet,实验显示表示容量受限时可出现|S|>2,容量继续增加后这种超界现象逐渐消失,并在CNN、PLM和LLM中观察到类似现象,称为贝尔边界,可作为表示瓶颈的可测量诊断指标。

Yang Wu, Hanyu Zhao, Yazhou Zhang 等

arXiv cs.LG

Mean Accuracy Is the Wrong Estimand for a Release Decision

说明平均准确率并不适合用来做发布决策

简介论文指出,模型发布决策关心的是训练流程下一次重跑时的灾难性失败风险,而标准基准只报告过去几次随机种子的平均准确率。作者审计了11个语言模型的2124个微调模型,发现以平均准确率决定发布,有48.0%的情况会违反10%的部署失败预算。作者提出“配方卡”框架,用精确的有限样本二项式界直接认证重跑的尾部失败率,并要求最少22个样本。

Jaewon Choi, Jihye Kang, Namhyuk Ahn

arXiv cs.LG · cs.AI · cs.NE

DTA-GT: Direction- and Topology-Aware Graph Transformer for Neural Network Representation Learning

说明DTA-GT:面向神经网络表示学习的方向与拓扑感知图Transformer

简介该论文针对神经架构搜索中的性能预测问题,指出神经网络架构是带操作标签的有向无环图,边的方向代表计算流,而现有预测器往往把方向只当作局部结构线索。作者提出DTA-GT模型,在节点初始化、谱编码、成对交互和特征更新等环节全程保持方向一致性,并在NAS-Bench-101和NAS-Bench-201上对精度与延迟的预测优于多种代表性方法。

Yuxiang Zeng, Kun Xie, Yang Wang 等

arXiv stat.ML · cs.LG · cs.NI

Sample-Size Extrapolation in Simulation-Based Inference via Statistical Scaling

说明通过统计缩放实现基于模拟推断中的样本量外推

简介该论文针对基于模拟的推断(SBI)中神经后验估计器在训练样本量之外表现变差的问题,提出中心估计的NPE方法(CE-NPE)。该方法结合统计中心与显式收缩率,在后验尺度坐标中学习局部中心修正和残差密度。在六个规则基准上,CE-NPE在所有测试的摊销估计器中对超出训练范围的各样本量都给出了最好的参考后验一致性,且无需重新训练。

Shiyi Sun, Lei Fang, Geoff K Nicholls

arXiv math.OC · cs.IT · cs.LG

Calibrated α-Barycenters for Multiobjective f-Divergence Optimization

说明用于多目标 f-散度优化的校准 α-重心方法

简介本文针对将一个分布同时匹配到多个目标时需要反复评估所有目标的问题,提出 CAL-α-MODM 方法:把非线性预测器聚合为一个重心,校准其残差导数,并用原始 f-散度目标检验每一步。在光滑性假设下,校准可控制参数步长的模型误差,且无需目标接近模型。文中建立了精确预言机下的平稳性与局部收敛保证。在300个目标的 Jensen–Shannon 问题上,CAL-p2 相对 L-BFGS 的成对中位加速比为3.15倍,相对二阶 Direct-TR 为1.10倍。

Dier Tang, Peijie Li, Xiaoyuan Zhang

arXiv cs.CV · cs.AI · cs.LG

Growing to See: Efficient Pretraining of Self-Supervised Vision Transformers

说明渐进式增深:高效预训练自监督视觉Transformer

简介该论文研究在自监督视觉Transformer(MAE与DINOv3)训练中,从浅层网络开始逐步插入层数的渐进式增深方法。作者比较了其对下游全局与密集视觉任务性能、中间层表示及内部注意力模式的影响。结果显示,该方法在降低13.9%至24.8%训练计算量的同时,提升了下游表现,ImageNet线性探测准确率最高提高3.36个百分点。

Amir Mohammad Karimi Mamaghan, Ferdinand Kapl, Andrea Dittadi 等

★★★★☆ 值得关注
arXiv stat.ML · cs.LG

On the Calibration of Crowdsourcing Aggregators

说明众包聚合方法的校准研究:多数投票与模型型聚合器的概率可靠性分析

简介本文首次系统研究众包标签聚合方法输出概率的校准问题。研究发现,多数投票常呈欠自信,而Dawid--Skene、GLAD、CrowdFM等模型型聚合器则常呈过度自信;在数据生成模型下贝叶斯聚合器是完美校准的。作者还提出一种后处理方法,先融合互补聚合器的预测分布再做温度缩放,在标注冗余度高时改善校准并通常保持或提升准确率。

看点首次系统研究众包聚合的校准问题,证明贝叶斯聚合器在其生成模型下完美校准,并在39个人类数据集及LLM众包上实证验证,结论有新意。

Gabriel Singer, Reda Arab, Ma\"issa Frikha 等

arXiv cs.CV · cs.LG

Carve VFM: Carving Specialists out of Generalists, Automatic Task-Specific Compression of Vision Foundation Models

说明Carve VFM:从通用视觉基础模型中雕刻出任务专用的紧凑模型

简介该论文提出 Carve VFM,一种对视觉基础模型(VFM)进行结构化剪枝压缩的方法。它在给定校准集和参数预算下,同时搜索各层的任务专用容量分配,并通过闭式低秩修正重建被移除的行为,无需重新训练主干网络。论文称在多个基准和模型上取得了较高的平均精度,并在 GPU 上带来 1.3 到 2.0 倍的吞吐量提升。

Lotfi Abdelkrim Mecharbat, Abdelrahman Elsayed, Ibrahim Almakky 等

arXiv cs.LG

DASS: A Solver-Adaptable Dynamic Auxiliary Search Strategy for Symbolic Regression

说明DASS:面向符号回归、可适配多种求解器的动态辅助搜索策略

简介符号回归旨在从数据中发现可解释的数学表达式,但搜索空间庞大,难以兼顾精度与效率。论文提出 DASS,通过构建并动态更新由一组高潜力基函数项张成的辅助搜索子空间,为下游求解器提供更可靠的搜索引导,并利用求解器产生的优质解反馈修正子空间。实验表明,在 LLM-SRBench 上,DASS 能显著提升原有求解器的精度,运行时间增加可控。

Yuxiao Hu, Qian Li, Ding Wang 等

arXiv cs.CV

X-Ragent: Tool-Augmented Reinforcement Learning for Evidence-Grounded Chest X-Ray Reasoning

说明X-Ragent:用工具增强强化学习进行有证据支撑的胸部X光推理

简介该论文提出X-Ragent框架,用于胸部X光片的解读。模型通过强化学习学习何时调用辅助工具获取证据,并只接受有效的定量测量结果进入诊断推理。研究构建了包含7.7K样本的Rad-CoT语料,并在三个胸部X光基准上取得最佳结果,其中在完全保留的ChestAgentBench上提升8.6个点。

Yi Wang, Zhenlong Yuan, Yuchan Guo 等

arXiv cs.SD · cs.LG

Predicting Audio Popularity: A Comparative Study of Metadata and Acoustic Features Across Music and Sound Effects

说明音频流行度预测:元数据与声学特征在音乐和音效上的比较研究

简介本文研究如何在线分享平台上预测音频的流行度,结合元数据与声学特征进行分析。研究将音乐和音效两类内容分别纳入,以下载量和平均用户评分为目标,将流行度建模为有监督分类任务,并比较了随机森林、XGBoost和神经网络等模型。结果显示元数据在预测流行度方面提供的信息最多,但仅使用声学特征的表现也明显高于随机水平。

Ikram El Hadi, Nihad Elbari, Kawtar Tlem\c{c}ani 等

★★★★☆ 值得关注
arXiv stat.ML · cs.LG 有代码

When Repeated Measurements Hurt Tabular Foundation Models

说明重复测量何时会损害表格基础模型

简介本文研究表格基础模型(TFM)在同一输入上出现重复测量时的表现。在六个模型上的合成与半合成实验显示,额外测量可能改善已测输入处的预测,却会恶化其他位置的预测;低噪声时最常出现损害,无关特征在部分模型中会放大这种损害。作者还发现TabPFN-v3注意力缩放中与行数相关的依赖是原因之一,重置计数可大幅缓解失真,并比较了取平均与分别提供测量等方法。

看点发现重复测量会伤害表格基础模型,并从IID协议错配和注意力行数依赖两方面给出解释,经六个模型与多组数据验证。

Yixiang Liu, Ruizhe Deng, Bibhas Chakraborty 等

arXiv cs.LG · stat.ML

One-Layer Transformers Provably Learn In-Context K-Nearest Neighbor Prediction with Chain-of-Thought

说明单层Transformer借助思维链可证明地学会上下文K近邻预测

简介该论文研究思维链(CoT)如何帮助单层Transformer在上下文中完成K近邻(K-NN)预测。作者指出,已有工作只能用单层模型处理1-NN,而softmax注意力难以直接关注第2至第K近邻,并给出了奇数K>1时的严格负面结果。论文随后给出借助思维链求解K-NN的显式单层构造,并证明在特定训练设定下梯度下降能够恢复该构造。

Lyumin Wu, Yuan Cao

★★★★☆ 值得关注
arXiv cs.LG · cs.CL 有代码

TPPO: Tracking-Value PPO For Language Model Reasoning

说明TPPO:用于语言模型推理的追踪价值近端策略优化

简介该论文针对用强化学习提升语言模型推理能力时,标准价值网络在稀疏终局奖励下难以追踪轨迹中价值变化的问题,提出 TPPO 方法。它将相邻前缀价值的变化建模为对数几率空间中的可加更新,并以逐位置标量求和的方式构造价值。实验显示,该方法在数学推理基准上相较 PPO 有明显提升,并在多个模型和任务上取得改进。

看点提出基于对数几率加性更新的累积价值参数化,改进PPO的价值追踪;多模型、多任务实验支持,对RLVR子领域有实际用处。

Futing Wang, Chenxi Li, Jianhao Yan 等

arXiv cs.CV

ViewStruct: View-Grounded Articulation and Connectivity Inference

说明ViewStruct:基于视角的关节与连接结构推断

简介该论文提出 ViewStruct 框架,可从带部件分割和深度的 RGB 图像中,同时预测物体或场景中刚体的分组、连接关系和关节参数,并在重力对齐、相对视角的坐标系下表示关节几何。方法基于预训练视觉-语言模型,无需观察关节运动或逐实例优化,几秒内即可完成结构预测。实验显示其在结构预测上优于所评估的基线,并能迁移到未见类别、资产来源和真实人机交互视频,且仅用合成数据训练;仿真操作实验还表明预测的关节可用于生成机器人运动轨迹。

Wenjing Bian, Ranran Huang, Andreas Geiger

arXiv cs.LG

Efficient Preconditioned Optimization Methods with Frequent Directions

说明基于频繁方向草图的高效预条件优化方法

简介自适应优化方法表现出色,但需要维护预条件矩阵,在大规模应用中计算开销很大。本文用频繁方向(FD)这一矩阵草图技术加速预条件优化,提出FTSL算法并获得比现有结果更紧的遗憾界;随后将其扩展到矩阵型决策变量(FTSL-Shampoo)及其单侧变体,进一步降低计算成本。作者还将方法推广到离线随机凸优化,并在多类任务上通过实验验证了效率与效果。

Sifan Yang, Yuanyu Wan, Yibo Wang 等

★★★★☆ 值得关注
arXiv cs.CV · cs.AI · cs.LG

InfoVis: Unified Slide Image Generation and Editing

说明InfoVis:统一的幻灯片图像生成与编辑模型

简介本文提出四类面向幻灯片的任务,并构建了包含约1300万条持续预训练记录和190万条有监督微调记录的数据引擎。作者还发布了包含1,527个人工筛选实例的基准VisSlideBench,并训练了一个9B参数的统一生成与编辑模型InfoVis。在该基准上,InfoVis在所有评测的开源模型、全部11项指标上均领先,总分为7.94,Nano-Banana-2为7.99。

看点提出四类幻灯片任务并构建大规模数据与基准,统一生成与编辑,对已有工作有实质扩展;实验覆盖多指标并与人工评估对照。

Jiahao Wang, Xiyan Jiang, Chenyuan Wu 等

arXiv cs.AI

LIBERO-Industry: Benchmarking Robotic Manipulation under Industrial Process Constraints

说明LIBERO-Industry:在工业流程约束下评测机器人操作的基准

简介该论文提出 LIBERO-Industry,一个基于 LIBERO 构建的机器人操作基准,将高混合小批量电子装配等工业流程约束(如产品变体、移动物料流、有限执行时间窗和几何公差)转化为可控的任务条件与可量化的成功标准。基准包含静态到动态装载、动态到静态卸载、动态到动态转移三类场景,共216个任务。实验显示,随着工业约束的引入和组合,五种通用机器人策略的性能逐步下降。

Ming Shin Cindy Sung, Duan Leijiahao, Haoxiang Wang 等

arXiv cs.CL · cs.LG

A Bethe-Ansatz Source of Early Token Correlations: A marginal-preserving construction for parallel proposals

说明基于贝特假设的早期词元相关性来源:面向并行提议的边缘保持构造

简介该论文从周期XXZ自旋链构造坐标贝特假设(Bethe ansatz)概率分布,并与具有相同一、二点矩的最大熵两两投影分布比较。在八格点三激发子扇区中,两者的完整概率分布差异可由一个三格点矩δ决定,并在Δ=(3+√3)/2时恰好消失。文中还给出两种读出方式的距离结果,并证明了推测性接受前缀优势的严格性。作者强调这些是有限分布的存在性结果,而非语言模型的实测收益。

Abraham Chachamovits

arXiv cs.AI · cs.MA

Game-Creation-Agents: Autonomous Game Production

说明Game-Creation-Agents:自主游戏制作

简介该论文提出 Game-Creation-Agents(GCA),可将自然语言需求自动转化为可运行的 Phaser 4 网页游戏。系统先生成多模态游戏设计文档,再由八个专门化智能体分工完成场景实现与素材制作,并通过真实界面检查与代码盲评审来验证构建结果。评测显示,GCA 在需求满足度、核心机制、内容深度和视觉效果上优于一个可比的开源流水线,人工对比研究中评分也更高。

Tencent Multimodal RL Team: Xiangxin Zhou, Jiaqi Tang, Ke Ma 等

arXiv cs.AI 有代码

Geospatial Vector Geometry as a Native Spatial Modality for Vision-Language Models

说明地理空间矢量几何作为视觉语言模型的原生空间模态

简介论文指出,视觉语言模型在大尺度地理场景中因视觉观测有限,难以建立准确的空间参照和空间关系。作者提出GeoVec-VLM,将矢量几何表示为模型内部的显式空间基础,并通过几何交互策略让其与视觉和语言信息协同计算。在五项空间推理任务上,该模型平均准确率相对最强基线提升约11%,并在地理迁移下保持优势、几何一致性更好。

Huang Fei, Boyi Chen, Hao Xue 等

arXiv cs.LG · cs.AI

Relational Learning as World Modeling

说明将关系学习视为世界建模:从执行轨迹中推断关系型系统的动态

简介该论文提出TabWM(表格世界模型)和用于预训练的可执行关系世界生成器WorldRel。模型以未知系统中的观测执行作为上下文,无需更新参数,即可预测新动作引起的稀疏结构化编辑。在512个留出的世界中,完整编辑F1从无观测时的0.016提升到给定64条执行时的0.685。由于预测是显式的关系编辑,可递归应用以模拟候选未来并比较动作。

Zheyu Zhang, Gjergji Kasneci

arXiv cs.CV

Towards Complementary Keypoint Detection via Mixture of Detectors

说明基于多检测器混合的互补关键点检测研究

简介该论文提出“多检测器混合”(MoD)框架,用于稠密匹配流程中的关键点检测。它先把多个异构检测器蒸馏到一个统一模型中,再由轻量路由器按局部区域逐块选择最合适的检测器,并以下游匹配质量作为奖励进行训练。在 MegaDepth、ScanNet 和 HPatches 数据集上,该方法在多种关键点数量预算下表现优于强基线。

Xiaoyong Lu, Guobao Xiao, Dong Liang 等

arXiv cs.AI · cs.IR · cs.LG

Separating Prompt Harmfulness from Interaction Safety via Partial Generation

说明通过部分生成区分提示有害性与交互安全性

简介论文指出,多数LLM安全护栏只检查提示本身,即使最终回答可能安全,也会直接拒绝,造成不必要的损失。作者构建了41,944组提示-回答数据集,涵盖Llama、Gemma、Qwen三个系列的七个开放权重模型,发现提示标签与回答标签仅有50.46%的一致性(Cohen's κ = 0.06)。研究还表明,仅依据部分生成的回答即可较好地预测整体有害性,最佳AUPRC为0.885,F1为0.807。

Ram Vikas Mishra, Shashank Aggarwal, Jahnavi Kumar 等

arXiv cs.CV

Image Tokenizers Should Be Trained Between Images

说明图像分词器应在图像之间进行训练

简介潜在扩散模型通过图像分词器的编码生成图像,解码器再把编码还原为像素图像。作者指出,生成的编码往往落在训练编码之间,解码器对这些中间状态的处理不足,导致图像出现瑕疵。论文提出InterpTok,在MAETok基础上微调,让解码器学习解码两张图像编码的混合,并通过判别器与混合比例损失进行约束。结果显示,它在保持重建质量的同时提升了插值质量和生成FID。

Ole Bei{\ss}wenger, Jan-Niklas Dihlmann, Hendrik Lensch

arXiv cs.LG · cs.CL · cs.CY

Is the Platform Part of the Measurement? A Protocol and Simulation Study for Cross-Platform Equivalence of Machine-Labelled Policy Sentiment

说明平台是否属于测量的一部分?——关于机器标注政策情绪跨平台等效性的方案与模拟研究

简介该论文指出,跨社交媒体平台比较机器标注的情绪分数时,默认分类器在各平台上测量的是同一概念、同一尺度,但这一假设常未经检验。作者借用心理测量学的等效性方法,提出包含六个步骤的检验方案,并用已知真值的模拟展示:若不校正平台差异,汇总指数可能在近四分之一的日子里给出错误的总体情绪方向;经校正后则平均每六十天不到一天出错。文中还以英国经济政策评论的案例说明该问题,完整的四平台研究留待后续进行。

Asad Ikram, Ella Haig

arXiv cs.CL

The Multilingual Artificial Hivemind: Do All LLMs Think Alike in Every Language?

说明多语言“人工蜂巢思维”:所有大模型在每种语言中都想法相似吗?

简介本文研究大语言模型生成的文本在多种语言中的多样性是否同样受限。作者考察了23个开源权重模型和13种语言,发现同质化现象普遍存在,但程度不均。模型在同一语言内的同质化在三种嵌入空间及一种不依赖嵌入模型的词汇指标下均成立。同质化差距的大小与模型在语言上的能力相关,因此作者指出多语言大模型存在性能与多样性之间的权衡。

Xaver Raphael Davey, Shubhra Mishra, Anton Adel\"ow 等

arXiv cs.LG

NFMap: Topographic 2D Manifold Learning with Invertible Normalizing Flows

说明NFMap:基于可逆归一化流的二维拓扑流形学习方法

简介本文提出NFMap,一种用于二维可视化的降维方法,在生成式拓扑映射(GTM)基础上,用可逆的归一化流替换原有的径向基函数网络作为隐空间到数据空间的映射。该方法可将地图上任意位置映射回数据空间,并支持重尾的Student-t混合成分以缓解大数据集上的地图拥挤。论文指出,残差尺度是局部邻域保真与全局距离保真之间的主要调节参数。

H\'el\'ena Alexandra Gaspar

arXiv cs.CV

The Midas Touch for Metric Depth: Interpretable Metricization for Generalizable Depth Perception

说明《The Midas Touch for Metric Depth》:面向可泛化深度感知的可解释度量化方法

简介单目相对深度估计的基础模型泛化能力已大幅提升,但从中恢复准确的度量深度仍因尺度歧义和局部尺度不一致而困难。本文在前作 MTD 基础上提出 MTDv2,是一种结合显式深度度量化与数据驱动度量深度细化的混合框架。该方法先用分段仿射变换恢复空间上变化的度量尺度,再进行像素级细化;随后将单路径传播扩展为可学习的多路径形式。作者在16个公开数据集上验证了其尺度恢复能力的鲁棒性与泛化性。

Mengtan Zhang, Yu Ma, Shiqi Jiang 等

arXiv cs.LG · cs.AI

Before Attention Sinks Form: Hidden-State Geometry Reveals and Modulates Their Formation

说明注意力汇聚点形成之前:隐藏状态几何结构揭示并调控其形成过程

简介该论文研究大语言模型中的“注意力汇聚点”(attention sinks)在形成之前,隐藏状态是否出现可测量的几何变化。作者通过比较同一模型同一层的不同提示,发现汇聚点形成前约两到三层的短窗口内,隐藏状态的简单谱特征提供了额外的预测信息。进一步地,作者仅修改层后隐藏状态的奇异值,在Qwen2.5、GLM-Z1和GPT-OSS上观察到后续汇聚点行为的改变,并与范数匹配的随机谱扰动作对比。

Fan Yang, Yue Song

arXiv cs.CV

FoveaTree: Information-Density Trees for Query-Guided Visual Token Pruning in Video Large Language Models

说明FoveaTree:面向视频大语言模型的查询引导视觉标记剪枝方法

简介视频大语言模型需要为每帧编码数百个视觉标记,推理成本高。本文提出FoveaTree,一种无需训练的两阶段视觉标记剪枝框架:先用合并增益密度估计构建四叉树密度图,指导标记的丢弃、合并与保留;再利用保留单元和继承的树结构,在中间层优化文本到视觉的注意力。在InternVL3.5-8B和Qwen3-VL-8B上的多项视频问答与字幕基准测试中,该方法在50%、30%、10%保留率下整体表现领先。

Zihan Meng, Weidong Chen, Dexiang Hong 等

arXiv cs.RO · cs.LG

CopyQuad: Quadrupedal Skill Transfer from a Single Side-View Video Without a Depth Model

说明CopyQuad:无需深度模型,从单段侧视视频迁移四足机器人动作

简介该论文提出 CopyQuad,用一段未标定的侧视视频驱动四足机器人模仿动作,省去单目深度或逐段三维重建。它用冻结的二维关键点检测器和固定的解析重定向生成可达的足端目标,并通过一个带相位索引的奖励结构学会狗走、马走、马小跑等动作,并已零样本部署到实体机器人上。论文还指出,省略的横向维度在动捕中的偏差低于现有误差水平。

Mohamad H. Danesh, Raina Hu, Mengxue Xu 等

arXiv stat.ML · cs.LG

Amortised adaptive importance sampling

说明摊销自适应重要性采样:训练一个可跨目标分布使用的轻量自适应采样器

简介该论文提出一种摊销自适应重要性采样算法,用轻量神经网络在采样过程中根据已获得的信息迭代调整提议分布。通过在同一分布族的多个目标上训练,采样器无需预先知道目标参数即可适应具体目标。实验显示,该方法在训练所用的分布族内采样效率优于针对单一目标的摊销采样器和免训练的自适应重要性采样算法,并探讨了对族外目标的泛化能力。

Arran Carter, V\'ictor Elvira, Esmeralda S. Whitammer

arXiv cs.CV · cs.LG

Spatio-Temporal Detection of Photovoltaic Systems on Industrial Building Rooftops Using Satellite Imagery and Machine Learning

说明利用卫星影像与机器学习检测工业建筑屋顶光伏系统的时空方法

简介该研究利用免费的Sentinel-2多光谱卫星影像,结合OpenStreetMap的建筑轮廓,训练随机森林模型识别光伏组件的光谱特征,以监测工业屋顶光伏设施。研究还开发了交互式网页原型,用户可按需获取卫星观测并判断屋顶是否存在光伏系统,同时工具会提示预测是否需要人工核实。作者认为,开源中分辨率数据可以弥补现有监测空白。

Frederick Bruch, Christian Knoth, Florian Detsch 等

arXiv cs.CV · cs.AI

VAttnPO: Visual Attention-Guided Policy Optimization

说明VAttnPO:基于视觉注意力引导的策略优化

简介该论文针对多模态强化学习中只给整段回答分配同一优势值、无法体现逐词视觉证据使用变化的问题,提出VAttnPO方法。它利用冻结旧策略在已知正确答案条件下得到的视觉注意力分布,通过Jensen–Shannon散度衡量与生成各词的一致程度,并将其转化为对GRPO序列优势的位置感知修正。在Qwen3-VL-8B-Instruct上,六项图像任务的AVE由GRPO的70.97提升至73.50,其他结构化、视频及MME指标也有所提高,在Qwen2.5-VL-7B-Instruct和InternVL3-8B-Instruct上同样优于GRPO。

Lihao Zheng, Zhenwei Shao, Zhou Yu 等

arXiv cs.CV

PathPilot: An Adaptive Question-Conditioned Multi-Magnification Navigation Agent for Whole-Slide Image Analysis

说明PathPilot:面向全切片图像分析、按问题条件自适应切换放大倍率的导航智能体

简介该论文提出PathPilot,一种用于全切片病理图像(WSI)分析的多放大倍率导航智能体,模拟病理医生在不同倍率间逐步观察的过程。其包含CrossMagLoc模块,用于学习诊断相关区域的定位并确定探索起点,以及EviRegionSearch模块,从该起点出发按问题逐步积累证据并自适应决定下一步导航动作。论文报告在五个队列的问答评测中优于对比的SOTA方法。

Zhengyang Xu, Han Li, Jingsong Liu 等

arXiv cs.AI

Queue-Aware Token Communications: Bridging AI Representation and Wireless Service

说明排队感知的令牌通信:连接AI表示与无线服务

简介本文提出排队感知的令牌通信(Queue-Aware TokenCom),将令牌队列纳入AI服务流程,以应对令牌生成速率与无线服务能力不匹配所带来的排队问题。作者给出了包含AI表示生成、令牌负载管理、无线传输和下游任务推理的端到端架构,并讨论了令牌预算的表示优化与队列感知服务优化。文中还比较了固定与自适应令牌预算策略,分析动态无线环境中AI性能与通信效率之间的权衡。

Yuquan Xiao, Qinghe Du, Chaoyang Zhang 等

arXiv cs.AI

Trace-to-Architecture: Capability Bottleneck Diagnosis for Harness Revision

说明从执行轨迹到架构:用于调整智能体框架的能力瓶颈诊断

简介该论文提出 Trace-to-Architecture(T2A)框架,利用大模型智能体在成功和失败任务中的执行轨迹,判断应修改智能体框架的哪些组件以及何时生效。开发智能体据此诊断问题、修改组件,并验证目标任务是否改善、已成功任务是否保持成功。在 ALFWorld、ScienceWorld 和 AppWorld 上,T2A 对三个任务智能体均取得最高综合得分,并把 Meta-Harness 在 ScienceWorld 上的平均分提高了 21.6 分。

Wenfeng Wang, Jianrui Shi, Mingang Guo 等

arXiv cs.CL · cs.CV

Lost in Contrast: Instruction-Preserving Decoding for Reliable Visual Question Answering

说明《Lost in Contrast》:保留指令的解码方法,用于可靠的视觉问答

简介该论文指出,视觉对比解码在纠正答案时,会把原本正确的拒答(弃权)改成错误回答。作者发现拒答在两个阶段丢失:候选过滤可能在比较前就排除拒答词元,且减去参考分支的预测时会去掉其对拒答指令的响应。为此提出保留指令的解码方法 IP-VCD 和 IP-M3ID,在 VizWiz 的九个模型上,于决策效用指标上优于所有对比的非 IP 基线;在 Food-101 上,IP-VCD 在八个模型上领先。

Haonan Zhang, Ting Jin, Wenzhong Tang 等

arXiv cs.LG · cs.CL

Learn from Move: the Next Step for GUI Agents

说明从移动中学习:GUI 智能体的下一步

简介论文提出 LatentGUIWorld 基准,包含三组匹配的六项任务,考察智能体在未知界面中探索和控制所需的证据。作者提出 MOVE 方法,把移动动作与按钮事件分开并提供中间视觉反馈,并结合迭代探索示范进行训练。文中报告 LatentLearner-9B 在该基准上整体成功率为 50.0%,经强化学习后部分任务成功率有所提高。

Jiahao Lu, Yize Shen, Chuanyuan Tan 等

★★★★☆ 值得关注
arXiv cs.CL

Where Is the "Self" of a Large Language Model? -- From Self-Index to Self-Reference

说明大语言模型的“自我”在哪里?从自我索引到自我指称

简介该论文借鉴生物学,区分“自我索引”(区分自身与外部内容并影响处理)和“自我指称”(识别自身所写内容)两个层次。作者在Qwen3.8-27B等八个开源模型上,通过把同一文本放入助手、用户或系统消息来检验这两个层次。结果显示二者逐层嵌套,且与模型规模无关,作者认为自我指称建立在自我索引之上。

看点提出自我索引与自我指认的两层区分,并用干预实验检验;实验覆盖模型较有限,证据有一定说服力。

Yuchen Li, Xintong Li, Zongqi Fan 等

arXiv cs.CL · cs.AI

Audit Before You Distill: A Controlled Workflow for Reasoning Transfer into Compact Medical Language Models

说明先审核再蒸馏:将推理迁移到紧凑型医学语言模型的受控工作流程

简介论文研究教师模型的推理过程何时能帮助小模型回答卫生专业考题,并以巴西葡萄牙语的医学及多专业住院医师考试题为数据。作者据此提出先审核推理内容、再进行蒸馏的工作流程,并提出Distill-SFT方法,将答案与推理合并为单一训练目标。实验显示该方法在先前答错题目上略优于逐步蒸馏,并且减轻了灾难性遗忘问题。

Tiago Martinelli, Jo\~ao Paulo Papa, Adriano Jos\'e Pereira

arXiv cs.LG · cs.CL

Attention-Graph Curvature for the Verification of Mathematical Reasoning

说明用注意力图曲率验证数学推理

简介语言模型的自然语言解题过程难以被证明助手直接验证,而推理中一步出错会影响后续所有步骤,因此及早发现错误很重要。本文研究语言模型注意力图的有向Forman曲率(由边附近的注意力权重计算的局部量)是否包含推理步骤正确性的信息。作者在ProcessBench上,对四个逐步验证器分别在有无曲率输入的情况下进行评估。加入曲率后,四个验证器的整体平均表现均有提升,其中输入步骤全部token的ReProbe提升最大;语言模型前向传播的时间平均增加18%。

Kanghyeon Kim, Johannes F. Lutzeyer, Yanzhu Guo

arXiv cs.IT · cs.LG · eess.SP

Universal Distributed Feature Extraction Complementary to Side Information via H-Score

说明基于H-Score的分布式特征提取:与侧信息互补的通用方法

简介本文研究分布式估计系统,边缘节点把平均特征发送给中心节点用于参数估计。作者将联合函数空间正交分解,在弱依赖条件下证明依赖核条件加性分量的模态分解可得到与任务无关的最优特征,并构造分布式嵌套H-Score来学习该分解。结果显示,在特征预算有限时,与最佳任务专用特征的均方误差差距仅取决于任务与被丢弃的信息量最少模态的对齐程度,预算充足时对任意平方可积任务该差距在主导阶上趋于零。

Yuan Xinjie, Dier Tang, Shao-Lun Huang

arXiv cs.CV 有代码

3D-VITAL: Visibility-aware Identity Training from Artificial Liftings of 3D Reconstruction model for Cross-View Object Re-Identification

说明3D-VITAL:基于三维重建人工提升的可见性感知跨视角目标再识别训练方法

简介该论文研究跨视角目标再识别,即在差异很大的视角(如空中与地面)之间匹配同一目标。方法利用单视图三维网格重建把源图像提升为带纹理的网格并渲染新视角作为训练数据,同时指出重建可能失败、且渲染出的部分区域纹理为幻觉生成。作者提出跨视角一致性过滤和可见性感知注意力监督两个模块,据称在三个基准上取得新的最优结果。

William Grolleau, Astrid Sabourin, Guillaume Lapouge 等

arXiv cs.CL · cs.IR 有代码

EHR-Bench: A Chinese Multi-Task Benchmark for Recruitment AI

说明EHR-Bench:面向招聘AI的中文多任务基准测试

简介本文提出EHR-Bench,一个开放的中文基准,包含六类能力、五个招聘场景下的十二项任务,涵盖生成、抽取、分类、检索、语义相似度和双向排序。作者据此构建了8,336条任务实例,并对十二个大语言模型进行了任务级、能力级和总体比较。结果显示,排名接近的模型各有任务强项,且表现随输入来源、参考证据和候选池而变化。

Ruijia Yang, Bing Xu, Zulong Chen 等

arXiv math.ST · cs.LG · stat.TH

Spectral Costs of Multinomial and Residual Resampling in High-Dimensional Particle Ensembles: A Free-Probability Analysis

说明重采样对高维粒子集合谱的代价:基于自由概率的分析

简介本文研究粒子滤波中单步重采样对粒子二阶矩矩阵谱的影响,考虑维度 d 与粒子数 N 之比趋于常数 c 的高维情形。对任何无偏重采样方案,重采样后的经验二阶矩矩阵在条件凸序下优于重采样前,且条件均值保持不变,额外的二阶谱矩等于重采样扰动的 Frobenius 能量。文章分别刻画了多项式重采样与残差重采样下的计数分布极限,并由此推导出谱的若干精确结论,同时指出有效样本量无法决定极限谱。

Deming Song, Chi Kin Lam

arXiv cs.CV

EvoSpatial: Experience-Driven Skill and Tool Evolution for Spatial Reasoning Agents

说明EvoSpatial:基于经验演化技能与工具的空间推理智能体

简介该论文提出 EvoSpatial 框架,让空间推理智能体从执行经验中学习,持续更新相互关联的技能库与工具库。技能记录解题步骤、几何假设和验证方法,工具实现相应计算。在 20 个基准上平均得分 63.9,比 SpatialClaw 报告的平均值高 4.0 个百分点;在不使用真实答案或基准分数的情况下完成更新。

Bin Yu, Shijie Lian, Zhaolong Shen 等

arXiv stat.ML · cs.LG

Amortized Variational Inference of Latent Intensities from Replicated Point Patterns

说明从重复点模式中摊销变分推断潜在强度

简介该论文提出一种基于神经网络的摊销变分推断框架,学习一个可重复使用的推断规则,将数量可变的重复点模式映射为其共享潜在强度的分布。模型仅利用事件时间和点过程似然训练,无需真实强度监督,测试时一次前向计算即可完成推断。在合成数据上,更多的重复观测能改善强度恢复并使可信区间变窄;在共享单车数据上,其平均留出对数似然在所比较的方法中最高,且推断耗时远低于对数高斯 Cox 过程基线。

Wenqing Liu, Xenia Miscouridou, and D\'eborah Sulem

arXiv cs.CV

Revisiting Natural Language Prompts from Large Language Models for Open-Vocabulary Video Recognition

说明重新审视大语言模型生成的自然语言提示用于开放词汇视频识别

简介该论文针对CLIP等视觉语言模型在开放词汇视频识别中的应用,提出P2CLIP方法,从类别、视频和帧三个层面探讨提示的作用。作者用大语言模型设计兼顾通用与判别性的类别提示,以缓解语义过度泛化,并借助视觉语言模型与大语言模型生成帧和视频描述,增强视觉与文本对齐。论文称在零样本和少样本等多个基准上的实验验证了该方法的有效性。

Haichen He, Weibin Liu, Weiwei Xing

arXiv cs.LG

Making LoRA Identifiable: Orthogonal Alignment for Continual Learning

说明让 LoRA 可识别:面向持续学习的正交对齐方法

简介本文针对参数高效微调(PEFT)在持续学习中的应用,指出现有方法要么随任务数线性增加内存,要么单个 LoRA 的表示对齐不足。作者提出 SOAR 框架,两阶段约束 A 矩阵位于 Stiefel 流形上,并用正交 Procrustes 对齐估计 B 矩阵的最优旋转,结合逐秩保留合并策略。实验表明,SOAR 在多个模型和基准上取得良好的持续学习效果,且不增加额外内存开销。

Pratik Rakesh Singh, Mohammadi Zaki, Akash Saha 等

arXiv cs.AI

Structural Baselines Matter for Agent Failure Detection and Attribution

说明结构性基线对智能体失败检测与归因至关重要

简介本文研究使用工具的大语言模型智能体在任务未完成却无报错时的静默失败,并比较检测失败与定位不可逆失败步骤两类监测方法。作者发现,仅依据运行长度和“最后一步”等结构性规律,就能取得可观的分数,因此应以超过这些基线的增益衡量方法效果。在这一修正下,部分方法在放弃类失败上没有增益,而智能体内部状态在检测上优于文本长度和相似度基线。

Ramesh Arvind Naagarajan, Stefan Streif

arXiv cs.LG

Compression Through Time: An Interplay of Separability, Stationarity and Capacity

说明跨时间的压缩:可分性、平稳性与容量的相互作用

简介本文研究循环神经网络(LSTM)在时间维度上的信息压缩现象,发现许多数据集在最后几个时间步出现明显压缩。作者提出三种相互作用的机制:类别可分性、时间平稳性以及网络容量,并通过受控合成干预和真实序列任务进行检验。结果表明压缩可作为正则化手段,在容量充足时可能有益,但若占用任务所需记忆,则可能损害泛化。

Nikolaus Kopp, Franz Pernkopf, Bernhard Geiger

arXiv eess.SP · cs.LG

RFWeave: Learning Wireless Propagation Across Scenes and Transceiver Configurations

说明RFWeave:跨场景与收发机配置学习无线传播

简介该论文提出 RFWeave,一种可泛化到不同场景、收发机位置和天线阵列配置的学习型无线传播模型。模型用可变长度的天线单元标记和收发天线间的空间关系表示几何结构,并由配置条件解码器预测空间频谱和接收功率。在约 1 万个室内场景、超过 500 万条信道记录上训练,在未见场景中相较最强基线,空间频谱结构相似度最高提升 15.7%,接收功率平均绝对误差最高降低 35.4%。

Shurui Xu, Xiao Ye, Yijie Bian 等

arXiv cs.AI · cs.CL

Does a Hosted Decision Model Respect Irrelevant Alternatives? A Pre-Registered Test of Option-Set Dependence in Jev

说明托管决策模型是否遵守无关选项独立性?关于 jev-1.13.0 选项集依赖性的预注册测试

简介该研究用预注册方法测试托管决策模型 jev-1.13.0 在意图分类与主题分类任务中的表现,共 299,463 次调用。结果显示,加入无关选项会系统性地改变正确答案与最强干扰项之间的对数几率,且随选项数量增加而偏差增大。作者认为该模型的概率应相对于其计算时所用的选项列表来理解。

Dushyant Rajput, Nirdesh Chauhan, Siddharth Kosaraju (AltSlate Labs LLP)

arXiv cs.LG

Guidance Without Labels: Flow Matching from Coupled Gaussian Mixtures

说明无标签引导:基于耦合高斯混合的流匹配

简介该论文改进了流匹配生成模型的训练方式:用拟合的高斯混合替代传统高斯源分布,并通过熵最优传输将每个数据点与混合分量耦合。作者证明,这种做法可归结为标准高斯源问题加上类似引导的修正项,从而能够复用已预训练的速度场。在CIFAR-10和CelebA-HQ公开模型上,该方法在各步数下都改善了FID,在CelebA-HQ上用约一半步数即可达到基线质量。

Stanislas Ducotterd, Bassam El Rawas, Michael Unser

arXiv cs.LG

Counting with Attention and LayerNorm: Norm Scaling and Representation Geometry

说明用注意力与LayerNorm计数:范数缩放与表示几何

简介本文研究单层注意力网络在最大长度L内计数任务的参数代价,重点分析softmax注意力与层归一化如何塑造用于恢复计数的表示。作者提出用B_min度量所需的参数范数上界,并推导出不同归一化方式下的增长率。结果显示,带可学习增益的后归一化所需范数(约L^{3/4})小于无归一化softmax(约L^{3/2})。

Ayyub Shaffy, Manoj Dhakal, Safal Shrestha 等

arXiv cs.LG

IND-Eval: Aligning Evaluation and Simulation for Industrial Time Series Foundation Models

说明IND-Eval:面向工业时间序列基础模型的评测与模拟对齐基准

简介论文提出 IND-Eval,一个公开基准,按来源把跨领域工业时间序列组织为各自的预测任务,采样分辨率更细、多变量预测更多。在 Chronos-2、TiRex-2 与 TimesFM-3 的评测中,TimesFM-3 的按来源平衡汇总误差最低。作者还以两种海上井监测场景为案例,用振荡器增强的模拟流程改进通用模拟器,在目标领域降低了预测误差,但在 GIFT-Eval 中原生单变量目标子集上性能下降;50/50 混合两种模拟配方时,误差最低且基本恢复了损失的性能。

Vebj{\o}rn Haugland (1), Pavel Gulin (1), David Foss (1) 等

arXiv cs.CL 有代码

SIREN: Situation-aware Index for Response and Emergency ActioNability in Crisis Translation

说明SIREN:危机翻译中应急行动可执行性的情境感知评估框架

简介本文提出SIREN框架,用人工评估判断机器翻译是否损害应急信息中的防护行动、指令力度与紧迫性。在意大利语与英语的错误层面测试中,ChatGPT-4o与谷歌翻译分别有31.63%和48.73%的错误会损害可执行性,主要影响防护行动;在英法消息层面,两者分别保留了85.34%和92.67%的可执行性。作者还公开了带有可执行性标注和译后参考译文的英法危机翻译数据。

Maria Carmen Staiano, Lifeng Han, Johanna Monti 等

arXiv cs.LG · cs.AI · cs.CE

Learning Incompressible 3D Flows from Sparse Samples: A Set Transformer Approach to Divergence-Free Kernel Fitting

说明从稀疏样本学习不可压缩三维流场:基于集合 Transformer 的无散度核拟合方法

简介该论文提出 DFK-Former,一种集合到场的 Transformer 模型,可从稀疏、带噪声且采样不规则的三维观测中重建无散度速度场。模型直接在单次前向传播中预测无散度核的参数,无需对每个场单独迭代优化。原文报告,与逐场无散度核优化相比,端点误差最多降低 4.6 倍,每个场的重建时间由 9.8 秒降至 7.5 毫秒。

Ramzi Idoughi, Radouan Boukharfane, Peter Wonka

arXiv cs.LG

Learning Deployable Causal Action Geometry under Temporal Non-Stationarity

说明时间非平稳性下可部署的因果动作几何学习

简介该论文研究如何从观测时间序列中学习连续决策的响应规律,并指出随时间漂移的基线会使汇总模型把动作效应与基线变化混淆,甚至颠倒动作排序。作者提出“可部署因果动作几何”,即在选定的链接尺度上剔除与动作无关的水平偏移并剥离正幅度变化后剩余的动作响应形状,并给出两阶段正交估计器。论文报告,在随机化淘宝A/B测试中,部署后的系统使GMV和购买次数分别提升1.16%和1.70%。

Changjian Liu, Tianyu Wang, Yuwei Xu 等

arXiv cs.CL · cs.AI

SuPER-Mamba: Surprisal Prioritization for Extended-Context Routing in Mamba

说明SuPER-Mamba:用惊奇度为Mamba扩展上下文路由排序

简介这篇论文提出SuPER-Mamba,一种无需训练的方法,利用模型自身的惊奇度(Surprisal)为预训练的Mamba状态空间模型做长距离状态路由。方法先由下一词预测计算各位置的惊奇度,经局部池化聚合后,据此优先更新全局通道。作者在LongBench-E基准上测试三个状态空间模型,平均分从8.06提升到15.69。

Zhetong Zhang, Gayan K Kulatilleke

arXiv cs.LG

ACED: Reference-Anchored Aggregation of Natural-Language and Executable Evidence for Mathematical Reasoning

说明ACED:用参考锚定方法融合自然语言与可执行证据的数学推理框架

简介本文提出 ACED 框架,把自然语言自洽性答案作为默认参考,可执行程序的输出视为辅助证据而非等权投票。方法通过加权对数池融合两类证据,仅在相对证据差距超过校准阈值时才改写参考答案。在五个数学应用题基准上,ACED 与对应基线持平或更优;在 GSM8K 上,ACED-ALL 准确率为 86.9%,高于直接 Program-of-Thought 聚合的 82.6%。

Yiyi Lu, Jiaxiang Geng, Bing Luo

★★★★☆ 值得关注
arXiv cs.RO · cs.CV

Language2Drive: Do Vision-Language-Action Models Really Follow the Instructions in Autonomous Driving?

说明Language2Drive:视觉-语言-动作模型在自动驾驶中真的会听从指令吗?

简介该论文提出 Language2Drive 基准,用于检验自动驾驶视觉-语言-动作(VLA)模型是否真正依据自然语言指令选择行为。方法是保持驾驶场景不变、只改变指令,构成成对反事实测试,并在 CARLA 仿真、重建的真实场景和开环基准上评估。结果显示,93.2% 的成功运行在替代的可行指令下并不成功,多数失败表现为模型固守某一种偏好行为。作者认为,仅看成功率和驾驶分数会高估模型的指令遵循能力。

看点提出成对反事实评估单元以检验驾驶VLA是否真正遵循语言指令,新颖且在多场景与模拟器中验证,对子领域影响较大。

Zihan You, Zehua Fan, Wenqi Lyu 等

arXiv cs.CV · cs.AI

REEL: Learning to Retrieve, Evaluate, and Evolve Visual Memory for Any Long-Horizon Multi-Shot Video Generation

说明REEL:学习为任意长时程多镜头视频生成检索、评估与演化视觉记忆

简介该论文提出REEL,一个通用的视觉记忆规划器,通过统一工具接口学习检索参考、生成缺失的视觉证据并更新持久记忆,再由后端适配器转换为各视频生成器可用的条件输入。作者构建了REEL-SFT-4k和REEL-RL-1k两个数据集,采用监督微调与两阶段GRPO训练。在JoyAI-Echo~1.5和MiniMax-H3上,相较无记忆基线,ST-Bench跨镜头一致性分别提升15.1%和20.7%,REEL-Bench的Core-100分别提高2.41和8.32分。

Hang Xu, Guohui Zhang, Xiaoxiao Ma 等

arXiv cs.LG · cs.AI · cs.CE

AeroChem: Closed-loop Physics-Informed State Space Modeling for Long-term Chemically-Reactive Air Quality Forecasting--Extended Version

说明AeroChem:用于长期化学反应性空气质量预测的闭环物理信息状态空间模型(扩展版)

简介该论文提出AeroChem,一个闭环物理信息状态空间框架,用于预测包含化学反应的空气质量。模型采用双分支设计:基于UDE的过程分支提供结构化但不完善的物理先验,基于Mamba的虚拟测量分支捕捉长程时间信息并生成概率性虚拟观测,二者通过神经卡尔曼融合在每个预测步校正潜在物理状态。论文还发布了真实数据集HanoiAir,实验表明该方法提升了长期预测稳定性和突变预测效果。

Kien Le Trung, Tung Kieu, Dinh Duc Nha Nguyen 等