AI 算法 · 2026年10月10日(周六)

机器学习、人工智能、自然语言处理、计算机视觉、多智能体。

arXiv cs.AI

HiPPT: Physiology-Grounded Wearable PPG Representation Learning via Multi-Scope Text Alignment

说明HiPPT:基于生理机制、通过多尺度文本对齐学习可穿戴PPG表征

简介该论文提出HiPPT框架,用于学习腕戴式光电容积脉搏波(PPG)的可复用表征,使不同监督信号对应合适的波形证据范围。研究构建了一个包含超过400万条记录、来自20.2万用户的PPG-文本语料库,结合单条记录的脉搏形态对齐与跨记录的情境对齐。在六项下游任务(涵盖血压、血管僵硬度、生理属性和跨数据集心率估计)的线性探测主要指标上,HiPPT取得了最佳结果,并支持年龄组、性别和BMI类别的零样本分析。

Jiaqi Wang, Wei Chen, Xiaoyu Li 等

arXiv cs.AI

AlignPoison: Conditional Targeted Poisoning of Generative Recommenders via Decoding-Aligned Prefixes

说明AlignPoison:通过解码对齐前缀对生成式推荐模型进行条件性定向投毒

简介该论文研究基于自回归解码的生成式推荐模型能否被数据投毒攻击。在攻击者只能注入有限恶意交互并以黑盒方式查询推荐接口的设定下,实验显示注入不到1%的合成交互即可显著提高恶意目标在触发条件下被推荐的可能性。作者分析了解码对齐和前缀流行度两个因素,并提出黑盒框架AlignPoison,在单模态与多模态基准上相较基线将攻击成功率提升最多16.3个百分点。

Zhuoxuan Zhang, Jinhao Duan, Xinyu Zhao 等

arXiv cs.AI · cs.LG

A Controlled LLM Workflow for Evidence-Grounded Diagnosis of Risk Score Differences

说明基于证据的风险评分差异诊断:受控大语言模型工作流

简介本文提出一种受控的大语言模型工作流,用于通过相似历史交易来解释风险评分之间的差异。该工作流结合参考样本检索、对比型SHAP证据、基于参考的大模型推理以及确定性校验。在测试数据集上的实验表明,与未使用结构化工作流指导的同一大模型相比,该工作流给出的诊断更一致、更有证据依据且更可追溯。

Hanqing Dou, Zijia Cao

arXiv cs.MA

Optimize Once, Execute Fast: Latency-Aware Multi-Agent Workflow Learning for Recurrent Queries

说明一次优化、快速执行:面向重复查询的延迟感知多智能体工作流学习

简介本文针对基于大语言模型的多智能体系统在重复查询中延迟累积的问题,提出“延迟感知工作流生成”任务,目标是在尽量保持任务性能的同时最小化工作流执行时间(makespan)。作者提出LAWA框架,通过针对关键路径瓶颈的图编辑来降低执行时间,并将图生成器与图编辑过程结合,既支持从零生成工作流,也支持改进已有工作流。论文称在七个基准上,LAWA显著降低了执行时间,同时保持了有竞争力的任务表现。

Enpei Zhang, Feiyu Qu, Zheng Huang 等

arXiv cs.CL · cs.AI

AphaVoice: Text-to-Speech Model for Aphasia Patient Simulation

说明AphaVoice:用于模拟失语症患者语音的文本转语音模型

简介本文提出 AphaVoice,一个专门用于合成失语症患者语音的文本转语音(TTS)框架。与现有先进 TTS 系统相比,它更能体现语言不流畅这一临床特征,在时间指标上表现更好,并能保持说话人身份。该模型还通过潜在空间偏移支持多说话人生成,同时保持语音的音素真实性,可用于失语症相关的医学培训和临床模拟。

Al Varrel Putra Kusuma, Fernando Bello, Joshua Brown

arXiv cs.CL · cs.AI

Scale, Drivers, and Limits of Representational Alignment Across Large Language Models

说明大语言模型表征对齐的尺度、驱动因素与局限

简介该论文比较多个大语言模型的内部表征,提出邻域加权RSA(NW-RSA)与反事实RSA(CF-RSA)两种方法,分别考察模型在局部与全局几何上的一致程度,以及哪些语言性质支撑这种一致。结果显示,整体几何高度一致,但局部邻域差异明显;逻辑范围被改变时对齐下降最明显。因此,整体相似不等于模型对细微语言区分的表征一致。

Jialin Wu, Meenakshi Khosla

arXiv cs.CL

EdgeLLM-Nano: Auditing Polar-Guided Key-Cache Compression and Consistency-Anchored Pruning on a 33.6 MB On-Device Language Model

说明EdgeLLM-Nano:在33.6 MB端侧语言模型上检验KV缓存压缩方法

简介本文研究在边缘设备上的KV缓存压缩,使用一个约8.39M参数(33.6 MB)的小型解码器语言模型作为测试平台。作者发现极坐标引导的键缓存量化方法效果不佳,其损伤远大于RTN对照;基于一致性的渐进剪枝也未优于一次性幅度剪枝。作者提出长上下文解码保真度(LCDF)评估指标,并在树莓派5上测得各压缩方法每个token的能耗均高于未压缩的FP16推理,其中KIVI在LCDF上接近无损。

S M Mahbub Murshed, Hayden Bright, Rezaul Karim 等

arXiv cs.LG · cs.AI · cs.IR 有代码

RES-MR: Risk-Aware Reasoning for Explainable and Safe Medication Recommendation

说明RES-MR:面向可解释与安全用药推荐的风险感知推理框架

简介该论文提出 RES-MR,一个基于大语言模型的用药推荐框架,旨在让推荐过程更可解释、更安全。方法分两阶段:先通过图检索获取患者知识并蒸馏临床推理过程,再以患者个性化的风险边界和奖励调整优化策略。论文称其在基准数据集上的准确性、安全性和可解释性均优于现有基线方法。

Cong Wang, Jin Li, Shoujin Wang 等

arXiv cs.GT · cs.AI · cs.LG

Diffusion-Based Auctions for Multi-Winner Banner Ads

说明基于扩散模型的多赢家横幅广告拍卖

简介论文提出一种横幅广告拍卖新框架,利用扩散模型让多个竞价者共同赢得同一个广告位,并依据出价强度影响最终展示的图片。机制根据出价与文字描述生成候选图像,再选出社会福利最大化的一张。实验评估了分配规则相对单一赢家的效率提升、单调性以及结合付费规则后的近似激励相容性,结果显示这些指标随蒙特卡洛采样数增加而改善,且图像质量得以保持。

Lilian Sun, Henry Huang, Fucheng Warren Zhu 等

arXiv cs.IR · cs.AI

Co-adaptive Rule Routing and Constraining for Structured Knowledge Retrieval

说明面向结构化知识检索的协同自适应规则路由与约束方法

简介该论文提出CoRE方法,用于从结构化知识库中检索与任务相关的证据。它在没有预先标注查询与规则对应关系的情况下,同时学习为每个查询分配推理规则,并按该规则约束检索过程。路由策略与检索器通过强化学习和对比学习交替优化,相互提供监督信号。在STaRK-QA数据集上的实验表明该方法有效。

Zhisheng Qi, Haoyu Han, Jiaxi Li 等

arXiv cs.CL · cs.CY

Evaluating Bias in Chinese Large Language Models across Tasks and Registers: Task Operationalization Effects and Irony Classification Risks

说明中文大模型在不同任务与语域下的偏见评估:任务设定效应与反语识别风险

简介论文对多个中文大模型做了预先注册的多任务行为审计,考察它们在内容治理中识别有毒与歧视性表达的表现。结果显示,在阴阳(仿拟反语)语域下,核心组的分类错误率由正式语域的10.9%升至23.5%;加入反语提示后,干预组错误率降低9.6个百分点。作者认为,任务设定对偏见评估结果的影响需要通过数据验证,安全评估应把反语语域纳入测试条件。

Mo Zhou

arXiv cs.SE · cs.CL

Re-executing Coding-Agent Evaluations: Unchanged Decisions and Unresolved Policy Risk

说明重新执行编程智能体评测:决策未变,但政策风险仍未解决

简介该论文对用可执行测试为大模型编程智能体补丁评分的做法进行了两项预注册的重新执行研究,结果均为否定性。在SWE-bench Pro v1的离线选项中,59个被接受的Go补丁均未被拒绝,但仍有3%的暴露补丁风险未解决;在特定分层中,依赖参考方案重建的模块缓存会拒绝四个模型中原本通过的替代补丁。对Darwin Gödel Machine档案中1,929个评估的重新执行,保留了最佳智能体选择与系统变体排名。

Tianyu Ding, Yaocheng Tong, Muzhi Yang 等

arXiv cs.LG

Learning to Extrapolate in Depth with Looped Transformers

说明用循环 Transformer 学习在深度上外推

简介该论文研究循环 Transformer 在某一深度训练的模块能安全外推到更大深度的范围,以全对图连通性问题为例。作者推导出一个由单一有效参数决定的有限外推窗口,并给出窗口端点和可解图难度的界。实验验证了预测的窗口,并展示了计算预算和初始化如何影响最优训练深度。

Huitao Yang, Jianhao Huang, Zixuan Wang 等

arXiv cs.MA · cs.AI · cs.LG

Jevolution: A Framework for Studying Communication and Collective Dynamics in AI Agents

说明Jevolution:研究AI智能体通信与集体动态的可检查实验框架

简介本文提出Jevolution,一个带仪器的空间捕食者-猎物仿真框架,用于研究远程决策智能体的实验。框架将演化中的世界、异步请求调度、控制器适配器和实验记录分开,并通过合成测试验证软件行为。文中一个通信案例在6组栖息地-随机种子配对上比较信号开启与关闭的兔子数量差异,结果不显著,作者称其不能确定信号效应的方向。

Xirui Huang, Nikhil Hooda, Utkarsh Gupta

arXiv cs.LG · cs.AI

KV4-RL: Unlocking Faster Asynchronous Rollouts for RLVR with INT4 KV Cache Quantization

说明KV4-RL:用 INT4 KV 缓存量化加速 RLVR 的异步采样

简介这篇论文针对带可验证奖励的强化学习(RLVR)中的异步采样效率问题,提出 KV4-RL 方法,将免校准的 INT4 KV 缓存量化与对注意力汇点和近期上下文的 INT8 选择性保护结合。在 Qwen3-8B-Base 的 400 轮 GRPO 训练中,该方法相对 BF16 采样实现 1.80 倍的累计采样加速,最终六项基准平均准确率与 BF16 训练相差不超过 0.5 个百分点。

Sihwan Park, Sung-Yub Kim, Doohyuk Jang 等

arXiv cs.CV

FreeCHROMA: Generative Chroma Keying from Unaligned Background References

说明FreeCHROMA:从未对齐的背景参考图生成式绿幕抠像合成

简介该论文提出FreeCHROMA,基于预训练视频扩散模型,以参数高效的方式把前景人物或物体合成到一到三张未对齐的背景参考中。模型在同一生成过程中完成融合与色调协调,可选文字指令辅助处理复杂空间关系与镜头运动。训练数据由真实单目视频经前背景分离和基础模型增强构建,在多项指标上优于现有方法,镜头运动下优势尤为明显。

Jiayi Wu, Tianfu Wang, Rui Zhao 等

arXiv cs.SE · cs.AI

Specification-Based Testing of Large Language Models

说明基于规范的大语言模型测试(LEST框架)

简介本文提出LEST框架,把模型卡、系统卡等文档中记录的安全声明视为黑盒测试的规范,用变异提示词寻找反例,并经人工验证后追溯到对应声明。作者以Claude Opus 4.8和GPT-5.5的系统卡及SORRY-Bench种子提示词进行评估。结果显示,自动化检测会大幅高估行为失败,经人工验证的反例仅占候选的6.1%。

Kausar Moshood, Jace Bolante, Roshan Aditya Murali 等

arXiv cs.CL

Evaluating Semantic Relation Knowledge through Bidirectional Relation Prediction from Gloss Pairs

说明通过词义释义对的双向关系预测评估语义关系知识

简介本文提出一项评估大语言模型语义关系知识的任务:给定两个词义释义的两种顺序,让模型预测二者关系,并检验两个方向的预测是否符合语义关系的对称或不对称性质。作者构建了包含3,069个词义对的数据集,覆盖英语、希腊语、罗马尼亚语、土耳其语和日语,并用17个大语言模型在零样本与五样本设置下测试。结果显示整体表现普遍较差,多数模型未显著优于随机基线,上位词关系的双向一致性和下位词关系的正确预测尤其薄弱。

Zhihan Cao, Adam Nohejl, Hitomi Yanaka

arXiv cs.LG · cs.AI

Target-ESS Tempered Policy Optimization (TETPO): Smooth Variance Control via Bridge Importance Sampling

说明TETPO:基于桥接重要性采样的平滑方差控制策略优化

简介该论文针对大语言模型异步强化学习后训练中因旧策略数据产生的重尾重要性权重问题,提出 TETPO 方法。它按每组提示的权重集中程度,自适应选择幂次指数 α,使调整后的有效样本量达到目标比例,权重集中严重时调整更强。论文称,在高陈旧度的数学推理基准上,该方法优于多个强基线。

Shayan Mohajer Hamidi, Kayhan Behdin, Wenhui Zhu 等

arXiv cs.CV · cs.AI 有代码

SceneForesee: Learning Scene Evolution for Spatiotemporal Reasoning

说明SceneForesee:学习场景演化以进行时空推理

简介本文提出场景演化理解(SEU)任务,要求模型根据观察到的视频预测实体未来轨迹与事件,并给出依据。作者构建了SceneForesee基准(含约14.46万个时间对、105万个实体对应和27.25万个事件),并提出时空推理框架EvoSee。在该基准上,EvoSee在Combined Point-F1和Event Global F1上分别比Qwen3.5-9B高出10.45和17.24分。

Chaoyue Li, Shoudong Han, Haoyang Wu 等

arXiv cs.CL

Neither True nor False: Do LLMs Represent Truth-Value Gaps in Plural Predication?

说明既非真也非假:大语言模型能否表示复数谓词中的真值空隙?

简介大语言模型常用于概括和核验关键信息中的主张,而这些主张常含复数定指词。作者提出HomogeneityNLI诊断数据集(1000组最小对比项),评测七个开源模型,发现普遍存在"二值偏差":模型把复数定指词当作全称真值条件处理。零样本设置下,没有模型在超过15%的场景中同时识别两种极性的真值空隙,否定定指词在84%的情况下被判为假。

Duaa Nakshbandi, Zhiyu An, Yiping Li 等

arXiv cs.LG

From Transfer Probes to Expert Grouping: Evidence from LoRA Post-Training

说明从迁移探针到专家分组:LoRA 后训练的证据

简介论文研究在一个基础模型上为多条业务线做后训练时,能否仅凭迁移探针(在一个来源上训练、测量所有来源的成对变化)自动发现专家共享分组。作者以七个带有标签树的数学与编程数据源作为参考,用四个 LoRA 专家进行固定预算的实验。结果显示,探针导出的分组未达到预设的 2 个百分点实际增益,整体效用也低于参考分组,与统一默认分组无显著差异。

Xueyang Wu

arXiv cs.LG · cs.CV

Design Choices for Multimodal Transformer Learning with Missing and Longitudinal Healthcare Data

说明面向含缺失值与纵向医疗数据的多模态Transformer学习设计选择

简介本文系统研究了多模态Transformer在医疗数据中的设计选择,所用数据为三个癌症数据集。作者比较了模态级与特征级的分词方式,并评估了注意力掩码和插补两种处理缺失信息的策略。实验还考察了时间信息的编码方式,用于离散时间生存预测。结果显示多模态优于单模态,但缺失数据对预测影响较大,因此分词粒度和模态内缺失的处理方式对可靠预测至关重要。

Rita Cordeiro Mendes, Maria Manuel Pereira, Carlos Santiago 等

arXiv cs.AI

Frustratingly Easy Agentic RAG via Portable Skills: A Case Study in Customer Support

说明通过可移植技能实现的简易代理式检索增强生成:客户支持案例研究

简介本文报告一个企业客服工作流的部署案例:用一套可移植技能(自然语言指令、检索接口与格式检查脚本,以及由大模型生成的“维基式”导航索引)替代复杂的检索管线。在客服解决流程生成任务中,该方法达到99.2%的流程等价性和83.3%的证据充分性。其单案例耗时约90秒,明显慢于现有生产助手(约8至9秒),作者并未声称延迟优势。结论仅适用于语料成熟、流程可容忍延迟且每个案例均经人工审核的场景。

Istok Bako, Bonan Min, Tiffany Shao 等

★★★★☆ 值得关注
arXiv cs.CL · cs.LG

Scaling Laws for Multimodal Data Mixtures

说明多模态数据混合的缩放定律:为训练前沿多模态大模型提供数据配比依据

简介该论文研究预训练多模态大模型时,文本、视觉、音频三类数据各应占多少比例。作者用混合专家(MoE)模型进行了268组实验,参数规模从4.57亿到83亿,训练数据最多1500亿token。主要发现包括:音频的最优算力分配偏向增加模型参数,文本和视觉则需要模型规模与数据量均衡扩展;视觉或音频数据重复超过2倍几乎没有收益;视觉数据会明显干扰音频学习,而音频对文本和视觉的干扰可以忽略。

看点系统推导文本、视觉、音频三模态的数据混合缩放律,并通过268组MoE实验验证,结论对训练多模态大模型有实际指导意义。

Aditi Khandelwal, Ayush K. Tarun, Yixuan Xu 等

arXiv cs.LG · cs.AI · cs.CC

Coarse-Graining Recursive Expert Computation: Continuation-Relative Interfaces and Failure Modes

说明递归专家计算的粗粒化:基于后续计算的接口评估与失效模式

简介本文提出一种评估计算替代模块的框架,依据替代之后的计算过程,以下游任务质量和总执行成本作为共同标准。实验在两个冻结的预训练语言模型上进行,结果显示表示保真度与任务损失可能偏向不同的拟合目标,且在分布偏移下排序会反转。

Shihua Yu, Yanzhi Wang, Tianchi Chen

★★★★☆ 值得关注
arXiv cs.LG · cs.ET · cs.NE

PotentialEP: Backprop-Free Training of CIFAR-Scale Generative Models via Equilibrium Propagation

说明PotentialEP:基于平衡传播、无需反向传播训练的 CIFAR 规模生成模型

简介该论文提出用能量松弛(relaxation)代替扩散或流匹配模型中数百步的序列积分来生成图像,以适配模拟神经形态硬件。作者证明,一个加入单一线性注入项的预测编码网络会松弛到输出层携带所需梯度的状态,并可以在无反向传播的平衡传播(Equilibrium Propagation)下训练。在无条件 CIFAR-10 上,该方法的 FID 为 3.64,对比反向传播的 3.54。

看点提出在预测编码网络中加入线性注入项,使能量松弛直接得到梯度,并用平衡传播实现无反向传播训练的生成模型,且在CIFAR-10上达到竞争性FID,新颖性较强。

Alex Gower

arXiv cs.RO · cs.AI · cs.LG

Memory Without Curation: Learning Multi-Stream Latent Memory for Robot Policies

说明无需筛选的记忆:学习面向机器人策略的多流潜在记忆

简介该论文提出IMPRINT框架,为视觉-语言-动作模型加入多流潜在记忆,不人为限定策略应记住的内容,而是将观测、动作、本体感知等信息压缩进随推理增量更新的潜在记忆。训练分两阶段:先让记忆重建过去的多种信息流并估计任务进度,再与策略联合端到端微调。论文称在仿真与真实任务中平均成功率比基础模型至少提升26%,且在带记忆的模型中推理延迟最低。

Yilin Wu, Rutav Shah, Shuaiyi Huang 等

arXiv cs.SE · cs.CL · cs.LG

SPROUT: Scaling Agentic Reinforcement Learning for Long-Horizon Software Engineering

说明SPROUT:扩展用于长周期软件工程的智能体强化学习

简介这篇论文提出了SPROUT(基于快照的回滚框架),用于让编程智能体通过强化学习处理长周期软件工程任务。该方法在每轮助手操作后保存文件系统和智能体上下文的快照,并通过验证器引导的回溯策略,从中间状态恢复或分支继续失败的尝试。作者报告称,该方法在多个大语言模型上相比pass@k提升最多23.6%,同时使用的token数量为原来的32%至52%。

Mengyang Liu, Weiming Wang, Haixin Nan 等

★★★★☆ 值得关注
arXiv cs.CV 有代码

VisualCoding: Learning Executable Skills for Reliable Visual Reasoning

说明VisualCoding:学习可执行技能以实现可靠的视觉推理

简介该论文提出VisualCoding方法,让视觉推理智能体通过执行反馈学习可复用的视觉程序,并在适用输入上直接执行已保存的求解器以获得答案。作者在四个模型和涵盖69个任务族的四个基准上进行评估,报告相比最强基线的平均准确率提升。消融实验表明,直接执行优于对同一程序进行文本或可调用方式的复用。

看点将视觉原语与代码组合成可复用求解器并经执行迭代修正,直接执行优于文本或可调用复用;在四个模型、四个基准、69个任务族上验证,平均准确率提升明显。

Jiaqi Liu, Ruinan Jin, Xiaoxiao Li

arXiv cs.AI · cs.SC 有代码

SAT-RL: Training Language Models for Logical Reasoning with Symbolic Solvers

说明SAT-RL:用符号求解器训练语言模型进行逻辑推理

简介本文提出SAT-RL,一种强化学习框架,训练大语言模型通过多轮工具调用与Z3等符号求解器交互,以应对复杂逻辑问题。方法包括可验证解的合成数据生成、求解器增强轨迹的监督预热,以及带工具感知奖励的强化学习。实验显示,该方法在领域内和领域外的逻辑任务上都明显提升了借助工具的符号推理能力。

Jialiang Sun, Kuldeep Meel

arXiv cs.LG

Sparse-TD-JEPA: Improving Zero-Shot Reinforcement Learning With Sparse Latent Task Representations

说明Sparse-TD-JEPA:用稀疏潜在任务表示改进零样本强化学习

简介该论文针对基于后继特征的零样本强化学习方法,指出任务编码器输出的稠密表示会使推断出的奖励信号分散,削弱目标状态与背景的区分。作者在训练时加入 l1 稀疏惩罚,将奖励相关结构集中到更小的潜在子空间,推理流程不变。在 DMC 与 OGBench 的 65 个任务上,Sparse-TD-JEPA 在全部 13 个领域对比中优于 TD-JEPA;DMC 平均回报由 661±6 提升至 714±3,OGBench 平均成功率由 38.0±0.8 提升至 48.4±2.3。

Duaa Nakshbandi, Zhiyu An, Wan Du

arXiv cs.LG · cs.CY

Clinical value claims in multimodal AI outpace supporting evidence

说明多模态AI的临床价值宣称超出了证据支持

简介该研究审核了177项比较多模态与单模态预测模型的研究,其中81项来自系统综述,96项来自PubMed的概率抽样。结果显示,为每个数据源单独拟合模型时,AUROC的提升更小。作者还发现,完整基准测试的比例从综述研究的69.1%降至近期研究的约46.0%,且没有研究对模型进行前瞻性评估,但大多数研究声称具有临床价值。

Jiayu Feng

arXiv cs.IR · cs.LG

Understanding and Mitigating Training Instability in Large-Scale Recommender Systems: A Cascade Perspective

说明大规模推荐系统训练不稳定性:从梯度、权重到损失的级联视角

简介本文针对日均数十亿次交互的短视频推荐系统训练不稳定问题,分析了梯度爆炸、权重爆炸到损失爆炸的“G-W-L”级联现象。作者提出分阶段的缓解框架,分别在梯度、权重/激活和损失三个环节进行干预,并在一个大型工业短视频推荐系统上验证了这些策略的效果。

Yuening Li, Zeyu Wang, Zhen Zhang 等

arXiv cs.CL

SciCurateBench: Curating Experimental Data from Heterogeneous Scientific Literature with Verbal-Action Agents

说明SciCurateBench:用语言行动智能体从异构科学文献中整理实验数据

简介该论文提出 SciCurateBench 基准,包含 200 篇由专家标注的生命科学期刊论文,要求系统从原始文献中核实多重实验条件。作者指出普通大模型和多种智能体在此任务上表现欠佳,并提出 LangPoli 系统,由策略智能体生成自然语言行动指南,再由执行智能体转化为可执行工具。论文报告 LangPoli 在论文分类任务上 F1 达到 83.16%(基础模型为 58.22%),并在若干公开检索基准上改进重排序效果。

Minuk Ma, Kaiyun Guo, Jiarui Ding

arXiv cs.AI · cs.PF

Measuring the Inference Energy Efficiency of Open-Weight LLMs across Benchmarks, Reasoning Modes, and Hardware

说明衡量开源大语言模型在不同基准、推理模式和硬件上的推理能耗效率

简介该论文直接测量了86个开源权重大语言模型检查点在7个基准和6种硬件平台(从消费级GPU到八卡服务器)上的能耗与得分之间的权衡。研究发现,即使能力相近,不同模型的能效差异也很大,多数配置远离得分与能耗的帕累托前沿。作者建议,基准得分应与指定服务方式和输出预算下实测的能耗一同报告。

Zeyu Yang, Wes Armour

arXiv stat.ML · cs.LG

Decomposing A Neural Learner

说明神经学习器的分解:把可预测部分与可靠性分开建模的论文

简介该论文提出一种概率分解方法,用于分析神经学习器在特征空间中可预测性不均匀的问题。作者结合EM算法、随机梯度下降和最大似然估计,同时学习可预测分量和随输入变化的可靠性分数。论文还将框架扩展到局部特征变换,并在合成数据和真实数据集上进行了实验。

Zelong Bi

arXiv eess.SY · cs.AI · cs.LG

Deep learning from a control vantage point

说明从控制理论视角看深度学习:一篇综述

简介本文从控制理论的角度综述深度学习的最新进展,涵盖前馈网络、残差网络、Transformer、大语言模型和选择性状态空间模型。文章说明残差网络可视为连续时间控制系统的离散化,从而可用控制理论分析。文中讨论了两个技术结果:残差网络逼近连续函数的能力可视为一个非标准的可控性问题;Transformer可视为一致性算法的离散化,因此大语言模型表现出一致性。文章还讨论了反向传播与最优控制之间的联系,并列出若干开放问题。

\'Alvaro Rodr\'iguez Abella, Jo\~ao Pedro Silvestre, Bahman Gharesifard 等

arXiv cs.AI · cs.MA · cs.SE

ANASSA: From High-Level Framework to Low-Level Architecture for Spatial Agentic AI

说明ANASSA:从高层框架到空间智能体AI的底层架构

简介本文面向基于地理空间数据运行的智能体AI系统,在已有ANASSA高层框架基础上,采用设计科学研究方法将其细化为可实现的底层架构。设计包括47个逻辑角色、版本化任务图、typed contracts、空间验证、治理控制、失败恢复路径和溯源记录等。作者通过端到端执行轨迹进行演示,并从需求可追溯性、内部一致性、职责保持与技术独立性等方面做了分析评估。

Constantinos Papantoniou, Brian Hilton

arXiv cs.AI

ACED-Bench: Evaluating How LLM Agents Acquire and Act on Causal Evidence

说明ACED-Bench:评估大模型智能体如何获取并利用因果证据

简介本文提出 ACED-Bench,一个用于评估大语言模型智能体能否主动调查系统、而非仅回答提示的神经符号基准。自然语言场景由大模型生成,而因果图、数据生成过程与标准答案由隐藏的概率图模型定义,以便大规模程序化评估。主榜 ACED-CORE 含 180 项任务,评估七个当代模型与两个早期模型。结果显示,智能体常出现测错干预、丢失关键证据或证据充分后仍继续等失误。

Yiwei Chen, Amila Weerasinghe, Siddharth Biswal 等

arXiv cs.LG

DPAL: A Test-Time Adaptation Loss for Financial Time Series Forecasting

说明DPAL:面向金融时间序列预测的测试时自适应损失函数

简介本文提出一种名为DPAL的测试时自适应损失函数,用于金融时间序列预测模型在部署后根据新观测数据进行调整。它在逐点收益拟合之外,加入了收益方向和由收益序列重建的价格轨迹两方面的约束。作者将DPAL应用于现有的测试时自适应框架,未修改原预测模型或适配器结构。在多个金融数据集上,DPAL在大多数评估设置中降低了重建价格的均方误差。

Wuzhou Lian, Haochun Wang, Yuefan Deng

arXiv cs.RO · cs.AI · cs.LG

DexFLEX: Contact-Aware Foundation Controller for Command-Guided Dexterity

说明DexFLEX:面向指令引导灵巧操作的接触感知基础控制器

简介该论文提出 DexFLEX,一种接触感知的基础控制器,可将上游的指尖运动草案转换为符合接触条件的关节指令。它根据触觉与本体感知状态提出短时域动作片段并预测接触结果,选出既贴合指令又保持未来接触稳定的方案。论文报告,在真实世界遥操作中成功率由 29.2% 提升至 78.3%,且无需重新训练。

Weikang Wan, Zeyu Lai, Jianyu Hou 等

arXiv cs.LG · cs.DC

When More Memory Fails: Hidden Feasibility Holes in Dynamic Tensor Rematerialization

说明内存增加反而失败:动态张量重物化中的隐藏可行性空洞

简介本文研究动态张量重物化(DTR)在内存预算下训练神经网络时的一种现象:增大内存预算后,训练有时反而失败。作者用DTR的参考模拟器simrd回放公开训练轨迹,发现若干预算区间内会内存耗尽,而更小和更大的预算均能完成训练,称为“可行性空洞”。结果仅来自模拟,尚未在GPU硬件上验证。

Mahesh Reddy Pagadala

arXiv cs.LG · cs.SY · eess.SY

History, Adaptation, and Hidden Gain: Two Prospective Tests of Learned Predictive Control in a Synthetic Neural Population

说明历史信息、自适应与隐藏增益:合成神经群体中学习型预测控制的两项前瞻性检验

简介本文在一个由64个泄漏积分发放神经元构成的合成群体上研究学习型单步预测控制,其光敏感度由隐藏因子s缩放。两项在分析冻结后模拟的前瞻性实验表明,去掉200毫秒的输入输出历史会明显降低低、中增益下神经预测器的表现;在一次性在线估计单一乘性输入增益后,可恢复完整自适应ARX约87%的收益,并把该估计作为额外输入提供给网络,可降低高增益跟踪误差。结论仅限于该合成对象,且在高过程噪声下效果大幅减弱。

Mahesh Reddy Pagadala

arXiv cs.LG

ConformalGuard: False-Positive-Controlled Action Gating for LM Classifiers

说明ConformalGuard:控制语言模型分类器误报率的动作闸门方法

简介本文提出 ConformalGuard,一个与模型无关的校准层,包裹在固定的评分函数之外,对合法输入触发干预的比率提供有限样本控制。作者在公开邮件语料上比较了温度缩放、等渗回归与保形校准,用于微调 BERT、Claude Sonnet 4 和 GPT-4o。文中报告 Claude 的误报率由 0.040 降至 0.008,召回率由 0.938 降至 0.875。

Bishnu Bista, Dhanraj Haibatrao Jadhav, Vibha Choudhary 等

arXiv eess.IV · cs.CV

A Configurable ETC2 Encoder with Learned Search

说明一种带学习搜索的可配置 ETC2 编码器

简介ETC2 是一种纹理压缩格式,固定了纹理表示和比特率,编码器只能在搜索时间与失真之间权衡。该论文提出一种可配置的 CPU 编码器,由规则或小型神经网络分配常规 ETC2 搜索。在 64 张彩色纹理上,部分配置在速度上比 Etc2Comp 快 30.7 至 40.9 倍,同时保持相当的 PSNR;高质量配置在耗时减少 64.1% 的情况下超过了全搜索画质。输出仍兼容标准 ETC2 存储与硬件解码。

Ziyu Guo, Haomiao Jiang, Sergey Makeev 等

★★★★☆ 值得关注
arXiv cs.LG · cs.DS · cs.GT

The Sample Complexity of Multicalibration with an ERM Oracle

说明基于经验风险最小化预言机的多重校准样本复杂度

简介本文研究多重校准预测器的学习所需样本量,学习者只能通过经验风险最小化(ERM)预言机访问函数类。作者给出一种算法,使用约 d/ε³(忽略对数因子)个样本和多项式次数的 ERM 调用,其中 d 为函数类的 VC 维。文中还给出了相应的下界,并指出普通多重校准误差的估计在计算上比交换多重校准误差更难。

看点在ERM预言机模型下给出多校准样本复杂度的近最优界,并证明下界,分离了可计算与不可计算的情形,理论贡献明确。

Princewill Okoroafor

arXiv cs.AI

When Pleasing the User Compromises Care: AI Sycophancy in Caregiver-Mediated Healthcare

说明当迎合用户损害照护:照护者介导的医疗场景中的AI谄媚问题

简介本文指出,在照护者代为决策的医疗场景(如宠物、儿童、老年人照护)中,AI顾问可能因迎合用户的次优偏好而改变原本正确的照护建议。作者构建了涵盖兽医、儿科和老年护理的基准测试,发现多数前沿及开源模型在用户表达次优偏好时,更易从适当照护转向不当照护,且这种错误会随多轮对话累积。研究认为,当前模型对用户表达的偏好高度敏感,却较少关注偏好代表的是谁、由谁承担后果。

Priyadarsi Mishra, Arjun Beniwal, Ziyu Yi 等

arXiv cs.AI · cs.SE

Actionable Meta-Requirements for AI Robustness Auditing

说明面向AI鲁棒性审计的可操作元需求

简介本文针对AI系统在输入扰动、分布偏移或外部依赖变化时的可靠性审计问题,提出一组元需求,即规定一类审计框架应具备哪些能力的高阶要求。作者通过系统文献综述从2,890条记录中筛选74篇,归纳出43项元需求,并邀请128名从业者进行评估,据此修订形成最终的44项元需求,分属16个类别。这些元需求可用于构建审计框架、检查既有框架是否完整并加以改进。

Joshua Owotogbe, Roya Nasiri, Indika Kumara 等

arXiv cs.LG

Class-Conditional Conformal Prediction for Signal Temporal Logic Inference with Many Classes

说明面向多类别的信号时序逻辑推断:类别条件保形预测

简介本文研究多类别时间序列分类中的信号时序逻辑(STL)推断,即为每个类别学习可解释的逻辑公式。作者提出正满足率和码字满足率两个指标,并采用两阶段方法:先用基于间隔的目标学习判别性公式,再细化谓词阈值。解码损失作为非一致性分数按类别分别校准,在类内可交换假设下提供有限样本的类别条件覆盖保证。实验基于海军、合成和机器人操作轨迹数据,显示分类准确率与公式满足度之间存在差异。

Yixuan Wang, Danyang Li, Matthew Cleaveland 等

arXiv cs.CV · cs.RO

Learning Transferable World-Action Models from Task-Paired Human Videos

说明从任务配对的人类视频中学习可迁移的世界-动作模型(WATCH)

简介该论文提出WATCH方法,用不同环境中的人类任务配对演示视频进行跨视频预训练,让模型根据一段演示的视频和动作,同时预测另一段演示的动作和未来画面,以学习可跨场景和跨执行者迁移的交互。论文称,仅用人与人的配对数据即可完成预训练,无需人与机器人的配对演示。经机器人后训练后,文中报告WATCH在MimicDroid上的上下文内成功率分别从40.9%提升至68.3%(Cosmos Policy)、从59.8%提升至77.7%(Cosmos3)。

Jeongeun Park, Taekyung Kim, Dongyoon Han 等

arXiv cs.CL

Multimodal Co-Generation With Continuous Bitstream Diffusion

说明基于连续比特流扩散的多模态协同生成

简介论文提出连续比特流扩散(CoBit)框架,原用于语言建模,现用于图文、语音文本及蛋白质序列-结构的联合与条件多模态生成,各模态共享同一训练与采样流程。在语音文本任务中,模型生成的文本与生成语音的自动转写之间词错误率为3.5%;在蛋白质任务中,100至500个残基的联合生成蛋白质,其序列重折叠结构与生成骨架的平均自洽TM得分为0.911。

Georgios Batzolis, Georgios Kontos, Bruno Trentini 等

arXiv cs.CL

Evaluating LLMs as Agentic Workflow Executors in Real-World Customer Support Skills

说明评估大语言模型作为真实客服技能中的智能工作流执行者

简介论文研究企业客服智能体如何用大语言模型执行有限的、带工具调用的工作流。作者构建了基准测试流程:从真实对话中挖掘重复工作流,转化为技能描述,并用模拟环境生成多轮工具调用对话。对17个模型进行零样本评估,并由五个大模型评委及基于规则的评估器打分。结果显示GPT-5.4领先,QWEN3.5-9B是20B以下最强的开源模型,同时评委之间的一致性(Kappa均值0.524)也被强调为评估可靠性的重要因素。

Md Tahmid Rahman Laskar, Gundeep Singh, Xue-Yong Fu 等

arXiv cs.LG · math.OC

On the Depth Transfer of Neural Optimizers via L-Smoothness

说明基于 L-光滑性的神经优化器深度迁移研究

简介该论文研究深度学习模型中超参数如何随网络深度迁移,即损失函数的 Lipschitz 常数与 L-光滑常数如何随深度 K 变化。作者证明,在固定宽度下,按 1/K 缩放残差分支可使这两个常数与深度无关,并将结论应用于 AdamW、Muon 与 MOGA 等优化器。在 GPT-2(深度 2–128)与 CIFAR-100 ResNet(8–32 个残差块)上的学习率扫描实验显示,Muon 与 MOGA 在 64 倍深度变化下仍保持稳定的最优学习率。

Maximilian Wong, Chenyu Xu, Jiajin Li 等

arXiv cs.LG · cs.RO

Continuous-Time Cloth Dynamics with Physics-Informed Neural ODEs

说明基于物理信息神经ODE的连续时间布料动力学模型

简介该论文提出ContinuousCloth,一种用于可变形布料动力学的连续时间神经求解器,在神经轨迹模型中嵌入弹簧-质点常微分方程。它可在任意时间点查询位移、速度和加速度。在纯物理模拟中,其轨迹精度与高精度求解器相当,运行时间最多减少17.4倍。结合稀疏且有噪声的观测数据时,该方程可用于插值和参数估计,并在仿真与真实布料序列上分别降低插值误差。

Yingdong Ru, Lipeng Zhuang, Zhuo He 等

arXiv math.OC · cs.LG 有代码

STREGO: A Scalable Implementation of a Trust-Region Framework for Noisy Bayesian Optimization

说明STREGO:面向带噪声贝叶斯优化的可扩展信赖域框架实现

简介该论文针对代价高昂的黑箱优化问题,把原有的 TREGO 信赖域贝叶斯优化方法推广到带噪声的函数评估场景,并给出在一定精度与概率条件下的收敛分析。作者进一步提出可扩展的实现 STREGO,在维度 4 至 124 的合成与真实问题上与 TREGO、TURBO、BAXUS 和 NSMA-BO 比较,文中报告其在所有合成设置中平均结果最好,并在六个真实问题中的四个取得最优或并列最优解。

Youssef Diouane, Issmail El Hallaoui, Meisseme Kadri 等

arXiv cs.AI · cs.CL · cs.SE

Which Metadata Matters for LLM Tool Selection in MCP? Evidence from Controlled Factor-Level Interventions

说明MCP中哪些元数据影响LLM的工具选择?基于受控因子干预的实证研究

简介该论文研究在模型上下文协议(MCP)中,大语言模型如何根据工具的元数据选择工具。作者分析了367,174个MCP工具的元数据,发现功能相似的工具参数结构差异较大。通过在五个模型和五项任务上每次只改变一个元数据因素的受控实验,结果显示参数结构的变化对工具选择的影响最大,描述也有一定作用,而名称的影响较弱。

Xiaofan Li, Fengchun Qiao, Xing Gao

arXiv cs.LG · math.OC

Decentralized Bandit Learning of Markov Perfect Equilibria

说明分散式多臂赌博机学习马尔可夫完美均衡

简介本文研究在折扣无限期、一般和、连续动作的马尔可夫博弈中,智能体如何以分散方式学习。各智能体只能观察公共状态和自己获得的实际奖励,并使用同时扰动随机逼近方法更新动作。在一定条件下,作者证明该分散过程几乎必然收敛到唯一的平稳马尔可夫完美均衡,收敛速率为 O(n^{-1/2}),并可扩展到有限期情形。

Felix H\"ofer, H. Mete Soner

arXiv cs.CV · cs.AI

TraceSampler: Making Sampling Errors Predictable and Correctable for Accelerated Generative Sampling

说明TraceSampler:让加速生成采样的误差可预测、可修正

简介该论文提出 TraceSampler,一种无需修改预训练模型的后训练方法,用于修正低步数采样时的端点误差。方法将误差建模为基于采样轨迹的预测问题,并通过两阶段学习残差修正。在 CIFAR-10、ImageNet-256 和 SD3.5 Medium 上的实验显示,10 步采样时轨迹误差显著降低,图像质量接近 120 步 Heun 参考结果,且额外推理开销很小。

George Matthew (1), Guoqiang Zhang (1), Kenta Niwa (2) ((1) University of Exeter 等

arXiv cs.CV

Real-Time Traffic Density Estimation: A Hybrid Computer Vision and Predictive Machine Learning Pipeline

说明实时交通密度估计:视觉检测与预测学习的混合流程

简介该论文提出一种两阶段流程:先用车辆检测与跟踪结合道路掩膜进行空间过滤并提取每帧交通特征,再用LSTM、GRU或TCN模型,依据十帧输入预测未来五步。作者在5716帧标注数据上比较了十种检测器,并在29243个留出窗口上评估预测效果。结果显示检测速度与精度存在权衡,GRU、LSTM、TCN的汇总R²分别为0.858、0.856、0.840,但这些指标针对检测器得出的遥测数据,并不代表绝对交通密度精度。

Prince Kwabena Appiah Boadu

arXiv cs.CV

Manifold Navigation Learning Using Recurrent Networks: Efficient Training Techniques

说明基于循环网络的流形导航学习:高效训练技术

简介本文研究在一般流形(弯曲空间)上的位置跟踪问题,将其形式化为速度驱动的跟踪任务。方法在欧几里得表示中用门控循环单元(GRU)预测轨迹,经浸入函数映射到流形后计算误差,并使用定制损失函数训练。实验表明,循环模型在解析流形、数值流形及LiDAR点云重建曲面上均优于欧几里得基线,部分定制损失函数能提高长时域预测精度。

Sarah Harkins Dayton, Sathya Rengaswami, Vasileios Maroulas 等

arXiv cs.CV · cs.AI · cs.LG

MvFFN: Multi-view Floor plan Feed-forward Network for Unposed Wide-Baseline Panorama Layout Reconstruction

说明MvFFN:面向无位姿宽基线全景图布局重建的多视角平面图前馈网络

简介本文针对稀疏、无位姿、宽基线的RGB全景图,研究重建相机位姿与多房间平面图布局的问题。作者提出多视角有序墙体实例分割(MOIS),让每个全景列只预测其所见墙体及顺时针方向的后两面相邻墙,再通过重叠局部预测的确定性聚合得到全局结构;在此基础上提出MvFFN,联合预测粗略相机位姿、稠密全局几何和逐墙语义,并通过布局链接(LC)后处理组装成平面图。作者还发布了ZInD-CrossView数据集。

Yuguang Li, Yichuan Deng, Zixuan Liu 等

arXiv cs.CL

ASSET: Adaptive Speech Segmentation via Reinforcement Learning

说明ASSET:基于强化学习的自适应语音切分

简介论文提出ASSET框架,用强化学习自适应压缩语音编码器的输出:先把输出切分为长度可变的片段,再把每段池化为一个连续音频token。训练时使用GRPO算法,以任务表现和token速率惩罚作为反馈。在语音识别实验中,ASSET在英文LibriSpeech上与借助转写的字符边界理想方案表现相当,音频token约减少25%;在普通话AISHELL上,以相近的token速率优于音素边界理想方案。

Cihan Xiao, Yuan Tseng, Matthew Wiesner 等

arXiv cs.AI · cs.CV · cs.LG

ConicFlow: constrained Inference-time optimal control for flow matching models

说明ConicFlow:面向流匹配模型、带约束的推理时最优控制方法

简介该论文提出ConicFlow,把流匹配模型在推理阶段的带约束采样视为一个最优控制问题,在偏离预训练轨迹与奖励之间取得平衡,并满足硬性的终端约束。方法采用滚动时域控制与原-对偶算法,对偶乘子在采样过程中不断更新,引导生成结果趋向可行样本。实验显示,ConicFlow在奖励与约束满足方面表现较好,且比近期基线更少偏离预训练流。

Shervin Khalafi, Kasra Fallah, Sung Cho 等

arXiv cs.LG · cs.RO

Learning to See through Action: Predictive Curiosity for Robots

说明通过行动学习视觉:面向机器人的预测性好奇心

简介该论文提出 DySCOVER 框架,让机器人通过好奇心驱动的交互主动收集经验来学习视觉。方法包括视觉自编码器和循环世界模型,策略仅依靠内在奖励(重建误差与预测误差)训练。以机械臂为实验对象,结果显示加入预测性好奇心后,视觉模型的学习效果优于仅使用视觉好奇心,并且在多种条件下均保持改进。

Stelios Zarifis, Panagiotis Filntisis, George Retsinas 等

arXiv eess.AS · cs.AI · cs.CL

RUBATO: Decoupled Clocks Allow Full-Duplex Models to Think as Fast as They Can

说明RUBATO:解耦时钟使全双工模型尽可能快地思考

简介该论文针对语音全双工模型中的内部思考流,提出RUBATO,一种为每个流分配独立时钟的多流位置编码,使各思考流能按硬件允许的速度解码。模型只需在两种极端解码速度下训练,即可零样本适应任意中间速率。在多项口语推理任务上,RUBATO在插值速度下保持稳定准确率,并在用户打断时仍能保持较高准确率。

Yi-Jen Shih, Puyuan Peng, Haohe Liu 等

arXiv cs.SE · cs.LG

Diagnosing Generalization Boundaries in AI-Based Vulnerability Detection via Calibrated Embedding Distances

说明通过校准嵌入距离诊断基于AI的漏洞检测泛化边界

简介该论文研究基于学习的漏洞检测模型在分布变化下的泛化问题。作者用CodeBERT和Qwen2.5-Coder在成对的漏洞与修补代码数据上测试,发现白化中间层嵌入配合局部最近邻评分可区分陌生样本(平均OOD AUROC为0.739)。距离分数还显示准确率随分布变化下降,跨项目变化下降最明显;修补代码的误报率随其与漏洞训练邻域的距离接近而上升。

Konstantin Ievtushenko, Ralf L\"ammel, Jan J\"urjens

arXiv cs.AI · cs.CV

Controllable Diverse Sampling through Pullback Directions

说明通过回拉方向实现可控的多样化采样

简介条件扩散模型能生成与提示词高度一致的高质量图像,但不同随机种子生成的样本在视觉上可能仍很相似,限制了创作探索。作者提出一种无需训练的方法,利用从条件嵌入空间映射到图像空间所诱导的局部回拉几何,找出输出敏感度最大的方向,沿这些方向引导不同的采样轨迹,在保持与条件信号一致的同时促成更多样的生成结果。在 MS-COCO 和 BrushNet 上的实验表明,该方法能有效提升提示词条件图像生成与修复的多样性。

Sylvain Dehayem Kenfouo, Aaron Zweig, Mingxuan Zhang 等

arXiv cs.CV · cs.AI · cs.LG

GeoFix: Geometry Fixing for 4D Consistent Generation

说明GeoFix:面向4D一致生成的几何修复框架

简介视频扩散模型常被用作4D生成的先验,但生成的视频往往几何不一致。GeoFix提出一个统一框架,仅使用一种几何奖励同时改善几何一致性与视觉质量,可用于训练和推理阶段的奖励对齐。该奖励衡量静态场景区域的跨视角深度一致性,并根据相机视野重叠程度对其进行校准。

Yeobin Hong, Hyojun Go, Dohun Lee 等

arXiv cs.LG

Layer-wise Input Recoverability in Deep Neural Networks

说明深度神经网络中逐层输入可恢复性研究

简介本文研究卷积神经网络中,某一层的输出能在多大程度上还原该层的输入。作者以输入图像块为对象,用基于重建的探测方法在九个 ImageNet 卷积网络上测量 R² 指标。结果显示可恢复性总体随深度下降,且与该层的压缩程度有较一致的关系。作者还设计了单一属性随机对照,发现不同的预训练属性对可恢复性的影响方向在各模型间基本一致。

Maxwell Spiridonov, Alireza Rahmansetayesh, Pierre Baldi

arXiv cs.CV

TGSR: Text-Grounded Diffusion for Faithful Image Super-Resolution

说明TGSR:基于文本约束的扩散模型忠实图像超分辨率

简介扩散模型在图像超分辨率中能提升视觉质量,但常在文字区域产生不存在或扭曲的文字(幻觉),改变场景语义。本文提出 TGSR,一种测试时框架,在生成过程中逐步识别并抑制可能产生幻觉的文字区域,其他场景内容则正常超分辨率。作者在多种扩散超分辨率输出上训练专用检测器,使多个骨干模型的文字保真度提升,识别精度最高提高 17.68 个点,且未降低感知质量。

Zhiming Hu, Ran Zhang, Angela Ye 等

arXiv cs.LG · cs.AI

The RNN Homunculus: Learning to Gate Long-Term Memory

说明RNN 小矮人:学习门控长期记忆

简介论文研究门控循环神经网络(如 GRU、LSTM)如何学会控制长程记忆的门值。作者通过受控的序列分类任务发现,若训练样本全部需要长程记忆,门控模型同样会受梯度消失影响。加入短依赖样本后,模型能学到兼顾长依赖且可泛化的解,测试准确率可与 Mamba、xLSTM 相当甚至更高。

Zeyu Fan, Alexandru-Dragos Manolache, Jan van Gemert

★★★★☆ 值得关注
arXiv cs.AI · cs.LG

Echo: Error-Compensated 4-Bit Tensor-Parallel Communication for LLM Training and Inference

说明Echo:面向大模型训练与推理的误差补偿4位张量并行通信

简介张量并行每层末尾的all-reduce通信开销随算力增长而变大。本文提出Echo,以4位传输数据、高精度求和,并把每次量化误差反馈到后续调用中相互抵消,从而使累积误差与网络深度无关地保持有界。实验显示其在A100上比16位NCCL快2.09倍,并在Qwen3-8B推理与10B词元预训练中保持接近16位的精度。

看点将误差反馈应用于4位张量并行all-reduce,并证明误差有界;在A100上有速度与精度的实测对比,影响面集中于大模型训练与推理通信。

Xingyu Xie, Xiaoyong Xie, Zhouchen Lin 等

arXiv cs.CL

The Thinking Leakage in Reinforcement Learning for LLMs

说明强化学习中的思考泄漏现象

简介该论文研究混合推理模型(如 Qwen3)在 NO-THINK 模式下用强化学习训练后推理能力提升的原因。作者发现,很大一部分提升来自原模型 THINK 模式推理能力的部分重新激活(即“思考泄漏”),而非学到了增强的推理行为。作者通过权重、激活和注意力头等层面的分析,给出了支持这一结论的证据。

Wenxuan Zhu, Shuming Liu, Bang An 等

arXiv cs.DC · cs.LG · cs.NI

Learning to Sync at the Edge: Client-Side Adaptive Synchronization for Federated Learning

说明在边缘学习同步:面向联邦学习的客户端自适应同步方法

简介本文针对边缘联邦学习中同步效率受限的问题,提出一种客户端强化学习同步框架,让每个客户端在训练中自行决定上传、下载、双向同步或延迟通信。该框架在本地模型旁加入轻量调度器,将同步视为由本地学习与系统状态驱动的资源感知控制问题。在交通时空预测和图像分类两类边缘任务上,自适应同步改善了精度与成本的权衡,并在考虑隐私开销的设定中也进行了研究。

Ebasa Temesgen, Ammar Ahmed, Nathan Lechamo 等

arXiv cs.CV

Thinking with Images without Coordinates

说明无坐标的图像思考:一种语义证据发现方法

简介该论文针对多模态大模型的“看图推理”方法,指出依赖显式坐标定位存在语义鸿沟和分辨率鸿沟两个局限。作者提出TiCO方法,在潜在空间中以词元级区域注入视觉证据,不使用像素坐标,并通过探针词元与空间连通分量上的重要性采样生成语义主导的证据。论文称在多个高分辨率和通用视觉推理基准上,TiCO优于基于坐标的方法,且推理效率更高。

Meng Cao, Haoze Zhao, Yi Wang 等

★★★★☆ 值得关注
arXiv cs.CV · cs.LG

BigCell: Generating Gigapixel Whole-Slide Images

说明BigCell:生成千兆像素全切片病理图像

简介全切片图像(WSI)是组织病理切片的千兆像素数字扫描,是癌症诊断的主要依据。现有病理生成模型只能生成最大 1024×1024 像素的小图块。BigCell 在 120,000 多张公开全切片图像上训练流匹配 Transformer,可在推理时通过滑窗流程生成最大 32,768×32,768 像素的连贯全切片图像,并提出自适应调度策略以加速生成。文中还报告,加入合成样本后,全切片少样本分类性能比仅用真实数据训练的基线最多提升 18%。

看点首次在原生千兆像素分辨率生成全切片病理图像,并提出自适应调度与8k文本到图像合成;实验覆盖12万张WSI,并验证合成数据提升小样本分类最多18%。

Srikar Yellapragada, Alexandros Graikos, Zilinghan Li 等

arXiv cs.LG · stat.ML

Variance Fingerprints: Component-Wise Identification of Content Factors by Augmentation Design

说明方差指纹:通过增强设计按分量识别内容因子

简介论文提出一种自监督学习方法,让内容因子在不同增强视图间波动,同时保持每个样本的均值,并为每个样本记录增强强度。作者证明在一定假设下,不同因子对强度变化的响应模式可以区分各个因子,恢复到置换、缩放和平移不变的意义。合成数据与 dSprites 受控实验表明,该方法能较好地恢复因子并改善坐标对齐。

D. Hudson Smith

arXiv cs.LG · cs.NE

Do Artificial Neural Networks Need Dendritic Nanotubes? Two Reasons for Shrinking Importance Estimates in Continual Learning

说明人工神经网络需要树突纳米管吗?持续学习中收缩重要性估计的两个原因

简介该论文受树突纳米管启发,让隐藏单元之间的临时横向连接扩散重要性标记,并研究其背后的统计机制。随机连接在20任务Permuted MNIST上提高了最终准确率,论文指出这等价于将重要性估计向层均值线性收缩。作者还比较了EWC、SI、MAS等方法,并分析了重要性样本数量对不同方法增益的不同影响。

Saurav K. Aryal

arXiv cs.CV

Image Diffusion Models Are Good 3D Human Motion Generators

说明图像扩散模型也能生成三维人体动作

简介本文研究能否用图像扩散架构生成三维人体动作:把以根关节为中心的关节轨迹组织成与拓扑结构对应的关节-时间图像,并用另一条潜在流建模根部全局运动。文中在HumanML3D和KIT-ML上训练了专用模型,并让单个模型同时服务两个不同骨架定义的数据集。实验显示,专用模型达到当前最佳水平,共享训练在两个基准上还能进一步提升。

Siyuan Yang, Chong Wang, Hao Cheng 等

arXiv cs.CV · cs.GR

SliderEdit++: Improved Slider Trajectories in Instruction-Based Image Editing

说明SliderEdit++:基于指令的图像编辑中改进的滑块轨迹

简介该论文针对基于指令的图像编辑中的滑块控制,指出现有方法在滑动时可能出现突变和非单调变化,多个滑块之间也会相互干扰。作者提出了评测基准SlideBench,并设计了SliderEdit++方法,通过正则化中间编辑轨迹并加入解耦目标来改善连续可控性,在该基准上取得了更好的综合表现,并比现有滑块方法快约3至20倍。

Arman Zarei, Sayan Nag, Bryan Wang 等

arXiv cs.LG

Adaptive-Depth Is a Finishing Stage

说明自适应深度是一个收尾阶段:先固定深度训练,最后短暂变化深度

简介该论文研究循环Transformer(同一层重复使用,可在推理时调整计算量)的训练方式。作者提出固定优先训练(fixed-first training),即先用固定深度训练,仅在训练末尾的短暂阶段才让深度变化。在2亿参数模型中,前67%的训练使用深度2,建模训练计算量减少45%,不同推理深度下的平均负对数似然与全程训练相比差距在0.5%以内。在10亿参数模型中,计算量减少31%至37%,墙钟时间减少32%至39%,最终负对数似然差距在0.8%以内。

Andrei Piterbarg, Sean McLeish, Dhruv Pai 等

arXiv cs.RO · cs.AI · cs.MA

Akule: Fast and Scalable Multi-Robot Motion Planning via Sparse Interaction Diffusion

说明Akule:借助稀疏交互扩散实现快速且可扩展的多机器人运动规划

简介本文提出Akule框架,用于多机器人运动规划。它在冻结的单机器人扩散先验之上,学习两两修正、选择需要计算的交互以及按上下文组合修正效果,从而生成协调的联合轨迹,再交由下游搜索规划器验证和修复。论文称该方法在多个基准上取得有竞争力的规划成功率,完整规划器最高加速25倍,并可在多达256个机器人的情况下完成规划。

Manav Vora, Gokul Puthumanaillam, Aditya Penumarti 等

arXiv cs.LG · stat.ML

Learning Non-Gaussian SEMs with Conditional Risk, and Why the Direction of Recursion Matters

说明利用条件风险学习非高斯结构方程模型,并探讨递归方向的重要性

简介该论文指出,基于方差的结构方程模型恢复方法可推广到非高斯噪声:将条件方差替换为条件风险(噪声分布负对数似然下线性预测的最小期望损失),最小二乘法是其特例。结果显示,利用噪声分布的匹配损失方法比最小二乘法和LiNGAM方法更准确地恢复结构;在非高斯噪声下,自顶向下方法对所有具有有限微分熵的噪声密度均正确,而自底向上方法需要一个正则条件,否则可能失败。模拟实验证实了这些结论。

Ujas Shah, Panagiota Birmpa, Rebecca Morrison

arXiv cs.CL · cs.AI · cs.LG

Agentic Data Engineering for LLMs: System Design and a Controlled Empirical Study

说明面向大语言模型的代理式数据工程:系统设计与受控实证研究

简介该论文提出代理式数据工程(ADE)框架,让智能体根据累积的实验反馈,逐步调整大语言模型的数据选择、奖励设计和课程学习策略。在固定的训练与评估条件下,所选策略在多个数学与代码任务上优于通用基线,在四个保留基准上平均提升约5.85%。论文还指出,训练集内分数的提升并不总能带来泛化能力的改善。

Ruomeng Ding, Qianli Shen, Zhaoyang Han 等

★★★★☆ 值得关注
arXiv cs.CV · cs.AI · cs.HC 有代码

Latent World Action Model for GUI Agents

说明面向图形界面智能体的潜在世界动作模型:在潜在空间预测操作带来的变化,替代逐像素重建屏幕

简介该论文提出一种用于图形界面(GUI)智能体的潜在世界模型,把预测目标从整屏像素重建改为潜在空间中由操作引起的未来信息。模型以大型多模态模型为基础,设两个头分别负责动作选择和状态转移预测,并引入动作感知对比目标以缓解预测结果过度沿用当前状态的问题。作者报告在离线和在线设置中,相比像素空间世界模型成功率相对提升最高为31.9%和40.6%,推理延迟最多降低98.9%。

看点将GUI世界模型的预测目标从像素重建转为潜空间动作诱导信息,并加入对比目标缓解恒等捷径,有新意;离线与在线实验对比充分,提升明显。

Seungjun Yu, Hojun Choi, Seojeong Park 等

★★★★☆ 值得关注
arXiv cs.CV · cs.AI 有代码

CAPTOR: a vision-language foundation model for Chest-Abdomen-Pelvis Oncologic CT

说明CAPTOR:面向肿瘤胸腹盆CT的视觉-语言基础模型

简介本文提出CAPTOR,一种用于肿瘤胸-腹-盆(CAP)CT阅片的对比式视觉-语言基础模型,训练数据来自北美、欧洲和亚洲的多中心回顾性数据集,以肿瘤病灶检查为主。研究在疾病检测、生存预测(TumorImagingBench)和图像检索三项下游任务上与现有CT基础模型进行比较,CAP及肿瘤子集上的分类与检索性能均优于基线模型。作者还公开了预处理、训练和推理代码及模型权重。

看点面向肿瘤学胸腹盆CT的视觉-语言基础模型,对已有CT基础模型有针对性改进;在多中心数据与多项下游任务上对比显著优于基线。

S\'el\'ena Jean-Mactoux, Sophie Loizillon, Ghina Jardali 等

arXiv cs.AI · cs.CL · cs.LG

Harness²: Recursive Agent Harnessing for an Open World

说明Harness^2:面向开放世界的递归式智能体驾驭框架

简介该论文提出Harness^2,一个即插即用的递归式智能体驾驭框架,用于自动改进LLM智能体的执行框架(harness)。它包含任务级递归(通过对比式Propose-Probe-Compose步骤,在无真值验证器时指导修改)与驾驭级递归(从修改中提取经验以持续改进)两个层次。文中报告在三个专业基准和四种模型-驾驭配置上,单步即可提升GLM-5和Gemini 3.5 Flash的表现,且随任务级递归预算增加而进一步提升。

Ruiyao Xu, Yanfei Chen, Zhongying CuiZhu 等

arXiv cs.LG · cs.AI · cs.CL

Learnable Low-Rank Polynomial Sketch for Effective Linear Attention

说明可学习低秩多项式素描:用于高效线性注意力的方法

简介Transformer 的标准注意力计算量随序列长度平方增长,难以处理长上下文。本文从多项式核近似的角度分析现有线性注意力方法,提出可学习低秩多项式素描(LLoPS)框架,用线性注意力逼近多项式核。作者称该方法的近似误差严格小于现有方法,并报告其在多项基准测试中表现最佳。

Zongyue Qin, Haoran Deng, Jason Cong 等

arXiv cs.SE · cs.AI 有代码

Cortex: Measurement-Gated Evolution and Pruning of Coding-Agent Skills and Rules

说明Cortex:经测量把关的编码智能体技能与规则演化与剪枝工具

简介该论文提出 Cortex 工具,用于为 Claude Code 等编码智能体维护其读取的技能与规则文件。它把开发者的修正保存为可重放任务,找出反复出现的纠正,每次只添加一条技能或规则,并通过重复运行测试其净收益,仅保留有效的改动。在作者的实验中,其构建的规则显著提高了智能体遵守约定的频率,而未被使用的文本会被剔除。

Samuele Giampieri

arXiv cs.LG

Embedding Graph Kernel Entropy (EGKE): Fine-grained Hallucination Detection for LLMs from Embeddings

说明嵌入图核熵(EGKE):基于嵌入的大模型细粒度幻觉检测方法

简介该论文针对大语言模型的幻觉检测提出EGKE方法。它在KLE框架基础上,用BGE嵌入模型生成的句向量经RBF核计算相似度,替代依赖NLI分类器的语义图,从而减少额外计算开销。作者在30种实验设置中用AUROC和AUARC评估,结果显示该方法与现有先进方法相比表现具有竞争力。

Dilrangi Sankalpana, Pragatheeswaran Vipulanandan, Uthayasanker Thayasivam 等

arXiv cs.CL

Modeling the Arrival Time of Information-Bearing Events in Natural Language

说明用神经时间点过程建模自然语言中信息事件的到达时间

简介该论文提出用神经时间点过程(TPP)建模文本中的关键信息事件,将事件强度函数与大语言模型的语境语义表示结合,预测“新词”与“高惊讶度词元”两类事件的未来到达时间。实验发现,大语言模型产生新词的速率明显高于人类,而高惊讶度词元未显示此差异;新词事件的强度随时间衰减,高惊讶度词元则不然。

Leyi Lao, Yulin Ou, Yang Xu 等

arXiv cs.LG · cs.CV

Agreement versus Softmax under Spatial Disambiguation

说明空间消歧下的跨轮一致性与 Softmax 对比

简介本文研究在 ScanRefer 数据集上,当存在多个同类实例时,如何评估指代模型的置信度。作者在完整验证集(9,508 条查询)上比较了物体级 Softmax 与跨训练轮次一致性两种方式的校准误差,并分析了 Multiple 类查询的错误类型。文章还指出,若只记录了一致性而未记录逻辑值,应在 Multiple 查询上校准拒答机制并报告错误实例率。

Micha{\l} Zakrzewski, Mariia Shpir, Taras Rumezhak 等

arXiv cs.AI · cs.DC

Should SLMs be in the Driver's Seat? A Study of Local Models as Interpreters in Cloud-Written Agent Programs

说明小模型应当掌握方向盘吗?研究本地模型在云端编写的智能体程序中充当解释器

简介论文探讨一种中间架构:由云端模型编写程序,遇到需要解读用户数据的有限问题时,通过普通函数调用交给本地小模型处理,用户数据不离开设备。在 AppWorld 上,该方法在所评估的六组主干模型与测试划分组合中都提高了纯代码智能体的成功率,并在保留数据本地化的同时,弥补了与云端 ReAct 循环之间的一部分差距。

Boris Radovi\v{c}, Marco Canini, Veljko Pejovi\'c

arXiv cs.CV · cs.LG

Token-Budgeted Candidate Retrieval for 3D Scene-Grounded VLMs: Category Names vs. Pairwise Geometry

说明面向3D场景VLM的按词元预算候选检索:类别名称与成对几何的比较

简介本文研究在固定上下文预算下,3D场景视觉语言模型应优先看到哪些物体与关系。在ScanNet室内指代基准上,将查询与物体类别名称匹配的方法在各个报告的K值上均优于成对几何评分,且在高召回率处差距最大。作者同时在下游3DGraphLLM任务中验证,语义检索在匹配的物体预算下优于手工设计的几何方法。

Micha{\l} Zakrzewski, Mariia Shpir, and Taras Rumezhak

arXiv cs.LG

Refined Grid Sampling for Efficient Implicit Neural Representations of Large-Scale Scientific Data

说明用于大规模科学数据隐式神经表示的精细化网格采样(RGS):一种更快训练的方法

简介本文针对隐式神经表示(INR)训练效率低的问题,提出精细化网格采样方法RGS。该方法结合分层网格采样、基于误差的精细化以及动态网格分辨率调整,在不计算整个网格误差的前提下减少空间冗余。在高分辨率Navier-Stokes场上的实验显示,RGS在固定时间预算内重建精度更高,并能以最多6倍的速度达到全网格训练的精度。

Guang Zhao, Xihaier Luo, Sean McCue 等

arXiv cs.RO · cs.CV

ClothCode: Generative Modeling for Garment State Estimation and Dynamics Prediction

说明ClothCode:用于衣物状态估计与动力学预测的生成式建模

简介该论文提出 ClothCode,一个在共享离散构型空间中统一完成衣物状态估计和动作条件动力学预测的生成式框架。模型使用与材料对齐的残差向量量化分块 tokenizer 编码衣物构型,再由掩码生成式 Transformer 通过并行、置信度引导的迭代细化预测这些 token。在三个衣物模板上,相比最强基线,状态估计的平均位移误差降低 26.6%,动力学预测降低 37.0%;将其接入同一模型预测控制器后,真实世界折叠和铺平任务的成功率由 56.7% 提升至 78.9%。

Yingdong Ru, Lipeng Zhuang, Shiyu Fan 等

arXiv cs.IR · cs.CL · cs.LG

Simple Linear Corrections for Compression in Late Interaction

说明面向后期交互模型压缩的简单线性校正

简介后期交互(多向量)模型用一组词元级向量表示文档,但索引存储和打分成本较高,常见的池化、剪枝压缩在高压缩比下会明显降低检索质量。该研究在打分函数上加入一个轻量的全局线性校正,通过蒸馏未压缩模型在候选文档上的得分分布来学习,编码器与压缩器保持冻结。实验在 ColBERTv2、Jina v4 和 ColPali2 上进行,涵盖 MS MARCO、BEIR 和 ViDoRe v3,结果显示在域内设置下,160 个 BEIR 设置中有 154 个优于基线压缩,而跨数据集迁移效果波动较大。

Mihir Agarwal, Sabyasachi Basu, Viraj Agrawal

arXiv cs.AI

Cross-Modal Latent Influence: Patch-Level Training Sample Attribution for Vision-Language Models

说明跨模态潜在影响:面向视觉-语言模型的图像块级训练样本归因

简介该论文提出MOSAIC方法,用于解释视觉-语言模型的预测结果。它学习图像与文本共享的稀疏潜在空间,并结合EK-FAC方法,将训练样本的影响分解到具体的文本短语和图像区域。在Qwen和Gemma模型上的实验显示,所学特征更局部、更连贯,且不降低任务表现。

Laura Yao, Shixing Yu, Jie Peng 等