AI 算法 · 2026年10月5日(周一)

机器学习、人工智能、自然语言处理、计算机视觉、多智能体。

arXiv cs.CV

T-JEPA: A Temporal Joint-Embedding Predictive Architecture for Learning Better Remote Sensing Representations

说明T-JEPA:一种用于学习更好遥感表征的时序联合嵌入预测架构

简介该论文提出T-JEPA,利用遥感影像序列中稀疏且不均匀的时间间隔作为监督信号,通过时间间隔条件下的潜在状态转移进行预测学习,并辅以掩码像素重建以保留空间细节。在相同预训练数据与吞吐量下,T-JEPA在静态与时序任务的迁移性能上取得领先,分析显示其表征具有与时间间隔相关的转移可预测性和连贯的潜在动态。

Bowen Peng, Li Liu, Yongxiang Liu 等

arXiv cs.AI

FreSia: Frequency-Semantic Instantiation and Alignment for Multivariate Time Series Analysis

说明FreSia:面向多变量时间序列分析的频率-语义实例化与对齐框架

简介本文提出FreSia框架,用于将大语言模型与时间序列的频率结构对齐,以改进多变量时间序列分析。其中FGPrompt机制从频域提取时间序列结构并转化为适合大模型的提示,GCL组件通过全局探针弥合时频域差距并融合多模态信息。原文报告在八个预测基准上,MSE和MAE平均分别提升13.48%和8.06%。

Yubo Wang, Hui He, Hezhe Qiao 等

arXiv cs.LG · cs.NA · math.NA

Inferring physical fields in coupled systems with unknown parameters from incomplete observations using physics-constrained attentive neural operators

说明利用物理约束注意力神经算子,从不完整观测中推断耦合系统的物理场与未知参数

简介本文研究在参数未知的耦合系统中,仅有单一物理场的稀疏观测时,如何重建全部耦合物理场并识别系统参数。作者提出一种机器学习框架:交叉注意力编码器将稀疏观测映射到规则网格上,傅里叶神经算子(FNO)解码器重建所有耦合场,网络参数与未知物理参数通过最小化观测误差、控制方程残差及边界/初始条件约束进行联合优化。该方法在二维与三维顶盖驱动腔流、二维圆柱尾流及二维非理想磁流体问题上得到验证,显示出从不完整观测中恢复未观测场和物理参数的能力。

Shilun Wei, Xiaoqiang Sun, Wei Li 等

arXiv cs.LG

ReMaD: Tuning-free Domain Adaptation for Classification and Out-of-Distribution Detection

说明ReMaD:无需调参的分类与分布外检测域适应方法

简介该论文提出 ReMaD(降秩马氏距离),一种基于原型距离、无需微调预训练模型的分类与分布外(OOD)检测方法。它利用目标数据集的嵌入,在模型潜在空间中拟合闭式分布统计量,无需训练或预先了解OOD数据即可完成分类和OOD检测。作者通过去除未使用的特征来修改马氏距离,使潜在空间分布适应新领域,并在四个目标数据集上验证了其在分类和OOD检测中具有竞争力的表现。

Elijah Bolluyt, Cristina Comaniciu

arXiv stat.ML · cs.LG

Retrieval-Based In-Context Learning: A Domain Adaptation Framework

说明基于检索的上下文学习:一种领域自适应框架

简介本文把基于检索的上下文学习(ICR)看作一种领域自适应问题:从数据库中按与查询的相似度检索示例,而数据库分布与测试样本分布可能不同。作者在比先前工作更灵活的分布偏移类别下研究ICR的性能,并给出量化其收益与风险的理论保证。理论结论在合成任务和语言任务上得到实验验证。

Yilun Zhu, Naihao Deng, Yingcong Li 等

arXiv cs.CV · cs.AI

Rotated, but How Far? Diagnosing and Improving Object-Rotation Reasoning in VLMs

说明旋转了,但转了多少?诊断并改进视觉语言模型的物体旋转推理

简介该论文指出视觉语言模型能判断物体在不同视角间是否旋转,却难以可靠判断旋转角度。作者提出细粒度基准OR-Bench,包含八项任务,并发现模型回答精确角度时常集中在0°、90°和180°。作者进一步提出轻量解码器RotationCue,从模型冻结表示中恢复粗粒度旋转信息并作为文本上下文反馈,在三个模型上提升了全部任务的准确率。

Zhaochen Wang, Yujun Cai, Huangbo Zou 等

★★★★☆ 值得关注
arXiv cs.LG · cs.AI · cs.CV

From Pixels, Without Pre-training: Joint Generative and Self-Supervised Representation Learning in One Model

说明无需预训练、直接从像素学习:单一模型中联合生成与自监督表示学习

简介该论文提出SCION方法,在同一个模型中同时进行图像生成与自监督表示学习,无需类别标签或预训练模型即可实现自条件生成。模型以像素空间编码器为核心,对比学习与流匹配两种目标在一次训练中联合优化。论文报告,在ImageNet 256x256上,SCION在未使用表示引导时取得8.92的FID,优于基于预训练DINOv2的iREPA和RCG。

看点提出单一像素空间模型联合生成与自监督学习,无需标签或预训练即可自条件生成;在ImageNet上以JiT-B取得8.92 FID,优于多种基线,证据较充分。

Vicente Balmaseda, Ching-Long Lin, Tianbao Yang

arXiv cs.DC · cs.AI

Nexus: An Execution Fabric for AI Agents Across Cloud, Edge, and Devices

说明Nexus:面向云、边缘与终端设备的 AI 智能体执行架构

简介该论文提出 Nexus,一个云边协同平台,把每次智能体调用视为可持久化的任务,用于跨云端、边缘和设备运行智能体。它基于 OpenWrt 运行时实现分布式服务,通过按运行范围授权的委托访问电脑与移动环境,并以持久记录追踪执行、输出、故障恢复与用量计费。实验显示所有 Computer-Android 工作流成功,撤销测试中后续写入均被阻止,并在 24 组对照任务中完成 24 个任务(Dify 为 22 个)。

Cary Chang, Jialin Zhou

arXiv cs.CV

Difference Feature Map Distillation: Transferring Inter-Sample Relational Knowledge Towards Efficient Transformer-Based Tracking

说明差分特征图蒸馏:面向高效Transformer跟踪器的样本间关系知识迁移

简介本文提出差分特征图知识蒸馏(DFM-KD),用于基于Transformer的视觉目标跟踪。与逐点比较特征差异的传统方法不同,该方法让小模型学习教师模型在样本之间的特征差异关系,即外观变化与一致性的结构。实验表明,DFM-KD在跟踪精度和成功率上优于传统特征级蒸馏方法。

Zhicheng Ding, Xinyu Chu, Qing Tian

arXiv cs.AI

Second-Order Problem Solving for Recursive Self-Improvement in Formal Verification

说明形式化验证中递归自我改进的二阶问题求解:提出 SO-RSI 框架

简介论文指出,标准递归自我改进(RSI)往往只针对表面失败现象反复修补参数,容易陷入试错而无法解决根本问题。作者提出 SO-RSI 框架,通过监测执行轨迹中的三类结构性异常,先探究失败原因,再进行结构性修改。在 Lean 4 证明生成和基于 Verus 的可验证代码生成任务上,在相同的 24 小时搜索预算下,SO-RSI 的最终留出测试通过率分别比 Naive RSI 高 21.8 和 25.8 个百分点。

Yuxuan Jiang, Aditya Vempaty, Ashish Jagmohan

arXiv cs.LG · cs.CL

Voltic: Distinguishing Volatility from Stochasticity in Recurrent Memory

说明Voltic:在循环记忆中区分波动性与随机性

简介该论文提出 Voltic,一种循环记忆模型。它把记忆写入看作贝叶斯滤波中的卡尔曼增益,并分别建模关联变化的快慢(波动性)与观测噪声(随机性)。为保证可并行训练,作者给出对角与准对角两种近似。在受控召回任务和 45M 参数语言模型的推理基准上,论文报告 Voltic 表现优于基线模型。

Parsa Hejabi, Morteza Dehghani, Payam Piray

arXiv stat.ML · cs.LG · math.ST

Data Fusion for Errors-in-Variables

说明变量含误差模型的数据融合方法:利用外部重复测量来修正测量误差

简介论文研究变量含误差问题,即目标研究只有一个带误差的替代变量,而外部研究提供来自不同人群的重复测量。作者提出条件可迁移假设,据此识别目标人群的条件测量误差分布,并构建数据融合估计器。文中给出一致性、收敛速率与推断结果,模拟中主要暴露相关系数偏差较小,并在NHANES数据上展示了考虑人群异质性和误差异方差的影响。

Huali Zhao, Molei Liu, Tianying Wang

arXiv eess.AS · cs.CL · cs.SD

SEAL: Mixture-Closed Additive Reconstruction and Refinement-Aware Expert Routing for Efficient Speech Separation

说明SEAL:面向高效语音分离的混合闭包加性重建与精修感知专家路由

简介这篇论文提出 SEAL,用于改进紧凑的时频语音分离模型。它用一个零和、受局部混合幅度约束的加性残差进行重建,并通过基于声学与步间证据的查询,把每个时频单元分配给六个残差专家之一。在 EchoSet 数据集上,SEAL(小型)以少 28% 的参数和 2.9 倍更少的 MACs,超过 TIGER(小型)0.31 dB SI-SDRi;SEAL(大型)与 TIGER(大型)相差在 0.07 dB SI-SDRi 以内,而 MACs 少 3.1 倍。

Shao-Chun Hu, Zi-Xiang Lin, Jeih-Weih Hung 等

arXiv cs.LG · cs.CY

Planetary Geospatial Foundation Models: A New Paradigm for Global Public Health

说明全球地理空间基础模型:面向全球公共卫生的新范式

简介论文介绍了谷歌 Earth AI 的人口动态基础模型(PDFM),用于弥补传统疾病预测在空间和时间上的不足。研究在美国、加拿大、墨西哥和刚果民主共和国四个国家,就疫苗可预防疾病、传染病、非传染性疾病和产后抑郁等领域开展案例分析。结果显示,该模型在美加边境麻疹疫苗接种覆盖率预测、心血管疾病临时推算、墨西哥登革热短期预测、霍乱热点预测及产后抑郁风险预测等方面有所改进。

Arbaaz Muslim, Aviv Slobodkin, Katherine Wheeler-Martin 等

arXiv cs.AI

From Token-Max to Outcome-Max: How You Use AI Determines Its Productivity

说明从Token最大化到结果最大化:AI的使用方式决定其生产力

简介该论文指出,AI使用量增加并不必然带来成比例的生产力提升,原因之一是把token消耗当作生产努力,会促使智能体过度计算。作者提出以“单位成本下经独立验证的任务完成量”为奖励的结果最大化目标,并通过三层模拟框架进行研究,结果显示其能在基本保持任务表现的同时提高效率。此外,论文还提出了激励机制OutcomeShare,理论与模拟表明其可促进参与并为员工、企业和大模型服务商带来共享收益。

Chen Xu, Mengqiao Liu, Beibei Li 等

arXiv cs.DL · cs.IR · cs.LG

Errors of LLM-Assisted Literature Retrieval in Environmental Science: A Comparison Study of Abstract versus Full-text Based Prompts

说明大语言模型辅助环境科学文献检索的错误:基于摘要与全文提示的比较研究

简介该研究比较了六个大语言模型平台在检索环境科学论文参考文献时的错误情况,测试样本为2024至2025年五种权威期刊中随机抽取的50篇原创论文。研究分别使用论文摘要和全文作为提示,并以多项指标综合评分。结果显示,仅用摘要作为提示的检索准确率显著高于全文提示,且检索结果在不同平台、期刊、提示类型和输出位置之间差异显著,整体准确性中等且不稳定。

Yanjun Chen (1, 2), Yongfeng Zhang (3) 等

arXiv cs.AI

Toward AI Trustworthiness: Finding Analytically Proven Forward-Invariant Sets for AI-Controlled Systems

说明迈向AI可信性:为AI控制系统寻找经解析证明的前向不变集

简介神经网络控制器被广泛用于非线性控制系统,但其行为难以解释和验证。本文提出一个框架,利用可逆神经网络(INN)把原始状态空间变换到潜在空间,使规则形状的前向不变集(FIS)更易存在,并在潜在空间中训练使候选超矩形不变,再进行形式化验证。作者证明,验证成功时,潜在空间候选集及其逆变换到原状态空间的对应集都是经解析证明的FIS。在三类控制测试平台的45个AI控制系统上,该方法为全部45个系统找到了认证的FIS,而改进的现有基线方法一个也没找到。

Haoyang Song, Xikun Yang, Qixin Wang

★★★★☆ 值得关注
arXiv cs.LG · cs.MA

Square-Root Regret for Adversarial Multiplayer Bandits without Collision Information or Shared Randomness

说明无碰撞信息且无共享随机性的对抗性多玩家赌博机:平方根遗憾界

简介本文研究 K 个臂、m 个有标签玩家的对抗性多玩家赌博机问题,玩家没有碰撞信息、共享随机性或外部通信通道。作者设计了一种带蒙特卡洛公共构造器的通信与同步协议,并证明其在预处理后对任意遗忘型奖励序列满足遗憾界 C K^{5/2}√T log²(2Km(T+1)),概率至少为 1−CN^{-32}。

看点在无碰撞信息、无共享随机性的对抗多人赌博机中首次给出√T级遗憾,并改进了指数型界,证明完整但依赖概率预处理。

Chenyu Gan

arXiv eess.AS · cs.CL · cs.MM

GIVE-KWS: Gated Injection of Visual Evidence for Noise-Robust Query-by-Example Keyword Spotting

说明GIVE-KWS:用门控注入视觉证据实现抗噪的样例查询关键词检测

简介该论文研究在有噪声的环境中检测关键词时,如何利用说话人的唇部动作。作者提出GIVE-KWS系统,其融合模块GIVE通过门控交叉注意力,让查询语音依据唇部运动进行调整。实验显示,在-10 dB噪声下,与基准系统相比,该系统对未见关键词的等错误率降低了72.9%,平均降低62.8%。

Ming-Hsiang Hu, Kuan-Tang Huang, Hung-Shin Lee 等

arXiv cs.AI

Do Time-Series QA Systems Read the Time Series? Evidence Use and Reasoning Reliability

说明时间序列问答系统真的在读取时间序列吗?——证据使用与推理可靠性研究

简介本文评估四个时间序列问答系统(TimeOmni-1、ChatTS、TimeOmni-VL、Time-MQA),并提出统一评测基准 COMMON-TSQA,在原始条件和六种干预下比较系统表现。研究发现,仅看总体准确率无法反映系统是否真正利用了数值序列,部分干预只触发简单的回退行为。作者还发现,解释文本常包含输入中不存在支撑的时间序列陈述,且解释与最终答案一致并不代表数值描述和中间推理正确。

Zhuomin Chen, Jingchao Ni, Xu Zheng 等

arXiv cs.CL

Spend Bytes on Breadth: Precision-Count Trade-offs for Decode-Time KV Compression in Long Chain-of-Thought Reasoning

说明把字节用在广度上:长思维链推理中解码时KV缓存压缩的精度与数量权衡

简介推理模型在解码长思维链时会产生大量KV缓存,需要在固定内存预算下在线压缩。本文提出BreadthKV,在固定字节预算下用低精度保存更多token,结合量化与淘汰,并通过60题端到端校准选择位宽。在三个推理模型和四个数学与科学基准上,它在18个设置中有17个优于单纯淘汰,且输出更短;在最紧预算下,Qwen3-8B的AIME样本达到长度上限的比例由淘汰的91%降至40%。

Runguo Li

★★★★☆ 值得关注
arXiv stat.ML · cs.AI · cs.LG

Two-Sample Testing via Path-based Inference

说明基于路径推断的双样本检验:利用生成模型的随机插值路径判断两组数据是否来自同一分布

简介本文研究如何利用深度生成模型学到的生成路径进行双样本检验,即判断两个有限数据集是否来自同一分布。作者借助随机插值(stochastic interpolants)把两个分布连接到共享的高斯瓶颈,并证明原假设成立当且仅当路径两半在任一噪声水平下的去噪器或速度场一致。实验表明,在一个合成基准和三个图像基准上,所提检验在等样本预算下比最强基线的检验功效最多提高33个百分点。

看点将随机插值路径用于双样本检验,证明零假设等价于路径对称,并与Jeffreys散度建立联系;在合成和三个图像基准上验证,功效最多提升33个百分点。

Eshant English, Wei-Cheng Lai, Yanfeng Yang 等

★★★★☆ 值得关注
arXiv cs.PL · cs.DC · cs.LG

RESOLVE: Language-Agnostic Validation of GPU Kernels Through Testing, Reduction, and Proof

说明RESOLVE:通过测试、约简与证明对GPU内核进行与语言无关的验证

简介该论文提出RESOLVE,把测试与形式化验证结合为GPU内核验证流程:先用二进制插桩扰动执行时序以暴露竞争条件,再由智能体改写内核得到并发度更低但输出仍逐位一致的版本,最后在F*/Pulse框架中对实数上的计算等价性进行形式化证明,从而无需数值容差。作者在KernelBench上验证了多种内核,并在CUTLASS、Triton和Gluon的融合GEMM间证明了等价性,还发现了四个此前未报告的问题,其中两个为明确的缺陷。

看点将测试、时序扰动、约简并发与F*形式化证明结合用于GPU内核验证,并发现两处明确错误,新颖且证据较扎实。

Ashkan Vedadi Gargary, Guido Mart\'inez, Sebastian Burckhardt 等

arXiv cs.CL · cs.AI

Knowing the Rules, Applying the Rules: Evaluating Language Models on Traditional Chinese Bazi

说明知道规则与应用规则:语言模型在中国传统八字上的评测

简介本文用3000道中文选择题评测语言模型对传统八字的掌握情况,题目分为14个理论类和11个案例类。结果显示,各系统在理论题上的准确率都高于案例题,差距为16.60至29.56个百分点。同一系统在不同类别间表现差异明显,例如大运类平均84.62%,而事业和家庭关系类仅约37%至38%。文章认为应按任务分别评测文化领域应用,而非仅依赖总体知识分数;该基准衡量的是与模型生成并经模型核验的答案一致的程度,并不代表现实预测效度。

Jiulin Li, Ping Huang

arXiv cs.CL

Automatic Speech Recognition for Low-Resource Sinhala: A Critical Review of Methods, Challenges, and Future Directions

说明僧伽罗语低资源语音识别:方法、挑战与未来方向综述

简介本文是对僧伽罗语自动语音识别研究的首篇批判性综述,梳理其从隐马尔可夫模型、深度神经网络到wav2vec 2.0、XLS-R、Whisper等自监督预训练模型的发展。作者将僧伽罗语与泰米尔语、马拉雅拉姆语和印地语的相关工作进行比较,指出多数已报告的词错误率因语料、数据划分和评分方式不同而无法直接比较。文章还列出六项研究缺口并提出研究议程。

Chanuka Dinuwan, Sanath Jayasena, Buddhika Karunarathne

arXiv cs.LG · math.PR

Sharp Integrality Gaps in Calibration Distance

说明校准距离中的尖锐整数性缺口:一篇关于离线校准距离与其分数松弛之差的理论论文

简介论文研究二元单位权重序列在总绝对变化代价下,确定性校准距离 C 与其分数松弛 L 之间的离线差距。作者把已知的 C ≤ L + O(√T) 上界收紧到最坏情况下的尖锐阶 Θ(T^(1/3)),并给出 T ≥ 216 时的上下界估计。此外还给出与不同预测值个数 m 相关的界 C ≤ L + m,以及有理输入下的多项式比特时间算法。

Zinan Wang, Xinhao Yang

★★★★☆ 值得关注
arXiv physics.soc-ph · cs.LG · q-bio.PE

An evolutionary origin of collective decision making in humans and machines

说明人类与机器中集体决策的进化起源:一项关于多层投票群体如何通过个体奖励学会解决复杂问题的理论研究

简介研究提出一个框架,描述多层投票群体中集体智慧如何进化:个体仅观察有限信息,群体逐层以多数规则汇总意见。论文证明,单层投票无法解决非线性分类问题。作者进一步提出“边际反馈”收益结构,即个体只有在其意见在本群体及以上各层都具有决定性时才获得奖励,并表明该机制可仅通过个体间模仿,使分层群体进化出准确的复杂决策,其集体行为相当于机器学习中的多层感知机。

看点提出多层投票群体的边际反馈奖励机制,证明单层投票无法解决非线性分类,并与多层感知机等价,新颖性较高;证据依赖理论证明与仿真,完整性较好,影响面主要在理论与制度解释。

Guocheng Wang, Qi Su, Joshua B. Plotkin

arXiv cs.RO · cs.CV

Bayesian Data Augmentation for DNN Retraining with Binomial Outcomes in Vision-Based UAV Landing

说明基于贝叶斯数据增强、以二项结果重新训练DNN的视觉无人机降落研究

简介该论文面向GPS拒止或复杂城市环境下的无人机视觉降落,提出一种贝叶斯数据增强框架,结合具有高保真飞行器动力学的照片级真实感模拟器,迭代地重新训练直升机停机坪检测深度神经网络,并以降落性能作为目标函数。作者在不同环境条件和飞行器状态下进行了仿真实验,结果显示降落性能有所提升,且对预测降落结果的置信区间更窄。

Ashik E Rasul, Hyung-Jin Yoon

arXiv cs.AI

How Should a Prompt Optimizer Spend a Tight Budget? BudgetAPO with Noise-Adaptive Evaluation

说明在紧张预算下,提示词优化器该如何分配调用次数?BudgetAPO与噪声自适应评估

简介本文提出BudgetAPO,一种面向调用预算紧张场景的单阶段提示词自动优化方法。它根据短探测测得的各任务噪声大小调整评估样本量,并用固定样本切片把每次接受或拒绝决策转为成对比较,同时通过反思式算子联合改写推理策略和输出格式。在七个基准和五个模型上的实验显示,BudgetAPO在各模型上排名第一,并在250次调用时仅有13%的运行返回原始种子提示词,而GEPA为86%。

Haoyue Liu, Zhichao Wang, Huanyu Yan 等

arXiv cs.MA

Scalar Communication via Random Direction Refreshing for Distributed Optimization

说明基于随机方向刷新的标量通信分布式优化

简介多智能体分布式优化中,智能体间需反复交换高维决策变量,通信开销大。本文提出标量通信机制:每条邻居消息只传输一个实数,即状态与共享随机方向的内积,并以秩一替代态作为邻居状态的近似,同时保留完整本地梯度。作者对一种已有的连续时间算法进行了分析,证明在强凸且梯度Lipschitz条件下,以足够高的频率刷新方向可实现指数收敛且无残余误差。

Mohammadreza Rostami, Solmaz S. Kia

arXiv cs.CV · cs.RO

StageVLN: Spatial and Trajectory Auxiliary Guidance for Efficient Vision-Language Navigation

说明StageVLN:面向高效视觉语言导航的空间与轨迹辅助训练框架

简介本文提出StageVLN,一种视觉语言导航(VLN)训练框架。它在训练时利用冻结的几何基础模型提供的空间信息,以及相对朝向和专家路线进度等轨迹监督,使导航表示保留场景几何与全局进度信息。所有辅助组件仅在训练时使用,推理时移除,因此不增加部署时的计算与结构依赖。原文报告:在R2R-CE验证集(未见场景)上,使用4B参数骨干网络达到56.3%的成功率(SR)和51.4%的SPL;在RxR-CE上达到54.3%的SR,且推理时不需要额外的几何编码器。

Anh Dao, Quan-Dung Pham, Le Danh Vinh 等

arXiv cs.LG

Bellman-Centric Learning: Near-Optimal Regret for Linear Bandits with Memory

说明以贝尔曼为中心的学习:带记忆线性赌博机的近最优遗憾界

简介本文研究带记忆的线性赌博机问题,其中过去的动作会通过一个已知有界的矩阵记忆映射引发非平稳性。作者提出RSM-LinUCB算法,并证明高概率遗憾界为Õ(dRS(M+1)+σd√T),记忆只带来加性代价,同时给出匹配的极小极大下界,证明其近最优,并把结果推广到广义线性奖励。

Jingyuan Liu, Huiwen Jia

arXiv cs.LG · cs.SI

Graph Data Augmentation via Contrastive Generator Inversion (textttDCBA)

说明基于对比式生成器反演的图数据增强(DCBA)

简介论文提出 DCBA,一种基于模型的图数据增强方法,可从观察到的网络推断合成图生成器(ABCD)的配置,生成保留宏观结构的合成图。方法通过多正例对比目标学习图与生成器参数的联合表示。实验表明,其参数恢复比算法式逆向建模基线更准确稳健,并在社区检测下游任务中提升了 AMI 指标。

Mateusz Stolarski, Micha{\l} Czuba, \L{}ukasz Krai\'{n}ski 等

arXiv cs.LG · cs.AI

TRIAGE: Direction-Aware Mismatch Stabilization of Native NVFP4 Reinforcement Learning

说明TRIAGE:面向方向的原生 NVFP4 强化学习失配稳定方法

简介大语言模型的强化学习在低精度下可加速,但学习端与采样端执行结果的差异可能导致策略优化不稳定。论文提出 TRIAGE 方法,通过分段诊断有选择地重新平衡策略梯度更新,并对残余的严重失配进行有界修复,同时保留原生 NVFP4 W4A4 前向执行。在 Qwen3-4B 和 Qwen3-30B-A3B 上的实验显示训练过程稳定,五个数学推理基准达到全精度水平,采样吞吐量最高可达 BF16 的 2.3 倍。

Zhen Li, Shuai Zhang, Yanggan Gu 等

arXiv cs.LG

Training and Scaling Compute-Optimal Physiological Waveform Foundation Models

说明生理波形基础模型的计算最优训练与规模化研究

简介该论文训练了一系列参数从2000万到21亿的生理波形基础模型(名为Aether),预训练数据最多达3630万小时。作者在MIMIC-III上构建了八项临床预测任务,并通过线性探测评估模型,其中7.2亿参数模型在八项任务上均优于现有基线。论文提出了模型规模、预训练时长与标注患者数量之间的缩放定律,并给出关于计算最优训练配比的若干发现。

Pingzhi Li, Jie Peng, Shuqing Luo 等

arXiv cs.LG

When Does a Diffusion Model Decide What to Draw ?

说明扩散模型何时决定画什么

简介扩散模型从纯噪声开始逐步去噪,本文在 CIFAR-10 上测量模型在何时确定生成类别(如马或卡车)。作者通过冻结半成品图像并多次重新生成、统计各类别出现频率来度量该概率,称为 committor。结果显示,粗分类(车辆还是动物)的决定时机大约是细分类(哪种动物)的两倍噪声水平;一种更廉价的分类器意见分裂测量法能正确排序这些决定的先后,但时间点不够精确。

Snigdha Chandan Khilar

arXiv cs.RO · cs.LG

Spacecraft Rendezvous Trajectory Generation with Modular Constraints via Diffusion Model Composition

说明基于扩散模型组合与模块化约束的航天器交会轨迹生成

简介本文提出一种基于扩散模型的交会与近距离操作轨迹生成方法,可灵活配置任务约束。方法先从优化轨迹中分别训练满足接近锥、传感器视线等约束的能量扩散模型,推理时再将这些模型或解析能量场组合,以满足特定约束组合。实验表明,组合模型的约束满足率与单约束模型相比相差在1个百分点以内或更高,无需重新训练即可适应新的约束组合。

Mariko A. Storey-Matsutani, Richard Linares

arXiv cs.MA

Can CaMeLs Talk? Securing Multi-Agent Systems Against Indirect Prompt Injection Attacks

说明CaMeL 能否协作?多智能体系统中防御间接提示注入攻击的研究

简介本文研究 CaMeL 防御机制在分层多智能体系统中的安全保障是否依然成立。作者构造了一种攻击,即使各智能体单独运行 CaMeL 仍可成功,原因是下游智能体可能把不可信数据当作可信输入。为此,作者提出 multi-CaMeL 通信协议,通过独立的数据通道区分可信指令与不可信数据,在 MultiAgentDojo 基准上将攻击成功率降至 0.0%,同时带来一定的效用损失,该损失随模型能力提升而减小。

James Peters-Gill, Avi Semler, Henning Bartsch 等

arXiv q-bio.QM · cs.ET · cs.LG

A Multimodal Machine Learning Framework Integrating Genomic, Epidemiological, Environmental, and Clinical Imaging Data for Accelerated Measles Detection and Transmission Inference

说明多模态机器学习框架:整合基因组、流行病学、环境与临床影像数据,加速麻疹检测与传播推断

简介本研究提出一个多模态机器学习框架,整合基因组序列、流行病学指标、污水监测和皮疹图像,用于麻疹检测与传播推断。研究使用公开数据,分三阶段评估:基因组序列传播关联分类、州-周疫情风险预测,以及皮疹图像分类并通过对比学习对齐基因组与影像嵌入。结果显示基因组特征对传播关联预测最为关键,污水阳性率是疫情风险的最强预测因子;作者指出,部署前仍需前瞻性验证。

Jiada Li

arXiv cs.AI

The GenAI4IDN Benchmark 3.0 - a Public Tool to Assess Generative AI Tools for the Design of Interactive Digital Narratives

说明GenAI4IDN 基准测试 3.0:评估生成式AI辅助设计交互式数字叙事的公开工具

简介本文介绍GenAI4IDN基准测试3.0,这是一个用于评估生成式AI工具创作交互式数字叙事(IDN)能力的框架第三版。新版引入了AI辅助评估,并通过公开网站提供服务,支持社区按需运行测试、添加模型和提出新任务。研究还新增了事实核查与偏见检测任务,结果显示模型能发现历史细节错误,并指出结构性假设和群体被抹去等问题,同时也存在过度思考和安全过滤过严的局限。

Hartmut Koenitz, Jonathan Barbara, Mirjam Palosaari Eladhari

arXiv cs.LG

Delay-coordinate reconstruction and conditional-moment causal diagnostics in stochastic systems

说明随机系统中的延迟坐标重构与条件矩因果诊断

简介本文将延迟坐标重构从确定性系统推广到随机系统,主张用延迟向量重构未来分布的条件矩,而非唯一的未来轨迹。作者借助Fokker-Planck方程与Koopman算子理论论证该观点,并以收敛交叉映射(CCM)为应用,在加性与乘性耦合的耦合logistic系统中考察因果关系。

Jun Ohkubo

arXiv cs.CL · cs.CV

Atomic Visual Entailment: Enhancing Zero-Shot Vision-Language Reasoning through Atomic Fact Decomposition and Learned Selection

说明原子视觉蕴含:通过原子事实分解与学习式选择提升零样本视觉语言推理

简介视觉蕴含任务判断图像是否支持、反驳或无法确定一个文本假设。本文提出AVE方法,把假设拆成原子事实,用冻结的视觉语言模型分别对完整假设和各事实给出候选预测,再由只学习候选行为的轻量分类器决定最终标签。在SNLI-VE上测试准确率达到0.803,且未微调任何视觉语言模型。

Nallathambi Vethiappan, Derya Soydaner, Gijs Wijnholds

arXiv cs.AI · astro-ph.IM

A Framework for Automated Multi-Source Satellite Data Analytics and LLM-Based Report Generation

说明基于ArcGIS Pro的多源卫星数据自动化地表温度提取与大模型报告生成框架

简介本文提出一个用ArcPy开发的ArcGIS Pro工具,用于从Landsat 7、8、9数据中自动提取地表温度(LST)。该工具自动完成辐射定标、基于NDVI的发射率校正和热辐射转换等多个步骤,并支持批量与单景处理。工具还可选配大语言模型,用于统计结果的解读与报告生成。测试区域为阿联酋拉斯海玛,结果地表温度约在25°C至50°C之间,并称与当地气候相符。

Hind Yousif Alhammadi, Isam Mashhour Al Jawarneh

arXiv cs.SE · cs.AI

UndoBench: Separating Task Competence from Recovery Capability in Tool-Using AI Agents

说明UndoBench:区分工具调用型AI智能体的任务能力与故障恢复能力

简介该论文提出UndoBench基准,包含8个企业领域中的36个基础工作流和36个故障场景,通过相同随机种子下的反事实配对试验,将任务完成能力与故障恢复能力分开评估。实验显示,名义任务完成率达83.54%,而条件恢复成功率仅为46.72%,朴素重试在53.33%的试验中产生重复的外部效果。作者认为,只评估名义完成情况会掩盖智能体在不同执行阶段的恢复缺陷。

Dolly Sah, Tanmay Sah, Harshul Jain 等

arXiv stat.ME · cs.LG · econ.EM

Causal Lag Structure Discovery in Confounded Time Series via Orthogonalized Adaptive Estimation

说明在有混杂因素的时间序列中,通过正交化自适应估计发现因果滞后结构

简介该论文提出 ORACLE-VARX 方法,用于在多变量时间序列中找出哪些变量在何种滞后期影响其他变量。方法依次使用双重去偏机器学习去除非线性混杂因素影响、用自适应因果滞后估计逐时点选择滞后阶数,并以 Benjamini–Hochberg 校正的 z 检验在目标错误发现率下选出有向边。在合成基准和美国九只行业 ETF 数据上,作者报告其滞后阶数估计与预测表现优于对比方法,错误发现率接近 PCMCI。

Hong Kiat Tan, Isaac-Neil Zanoria, James Chen 等

arXiv cs.AI · cs.CL · cs.CV

DREAM: Dynamic Resolution Assignment For Multimodal Multi-agent Debate

说明DREAM:面向多模态多智能体辩论的动态分辨率分配方法

简介多智能体辩论(MAD)被用来提升大语言模型的推理能力,并逐步扩展到多模态场景。这篇论文指出,现有多模态辩论框架让所有智能体看同一固定分辨率的图像,且容易出现“群体思维”,即智能体放弃正确推断去迎合自信但错误的同伴答案。为此,作者提出DREAM,包含两个部分:先用探测轮为每个智能体分配经验上最优的分辨率,并用平均归一化对数似然衡量不确定性;再通过跟踪不确定性并回滚被群体压力覆盖的早期低不确定性答案来抵抗群体思维。在六个多模态数据集上,DREAM在准确率与token消耗的权衡上比多智能体辩论基线提升了1.5至3.2个百分点,且无需针对具体数据集调参。

Khanh-Binh Nguyen, Van Dai Do, Tien Anh Nguyen 等

arXiv cs.SD · cs.AI

SEA-LM: Egocentric Spatial Audio Understanding for Wearable Microphone Arrays

说明SEA-LM:面向可穿戴麦克风阵列的第一人称空间音频理解模型

简介该论文提出SEA-LM,一种能理解空间音频的模型,用于智能眼镜等可穿戴麦克风阵列。模型包含FOACODER空间音频编码器,并通过两阶段课程训练多模态大语言模型,完成声源定位、空间选择性转写等六类任务。在其评估集上,SEA-LM在方位角与仰角误差、时间交并比、幻觉和漏检率以及多数转写任务的词错误率上优于对比基线,并在4至9个麦克风的1211种阵列配置下保持稳定。

Sonal Kumar, Sinan Hersek, Artem Dementyev 等

arXiv cs.CV · cs.AI · cs.LG 有代码

Kandinsky 6.0 Video: Foundation Models for Synchronized Video and Audio Generation

说明Kandinsky 6.0 Video:同步生成视频与音频的基础模型

简介该论文提出 Kandinsky 6.0 Video,一组可根据文本或图像同步生成视频与音频的扩散模型,包括 3B 参数的 Lite 版和 29B 参数的 Pro 版。模型生成 5 秒视频及 44 kHz 同步音频(含口型同步),并可通过超分辨率模块输出 Full-HD 分辨率。人工并排评测中,Pro 版明显优于前代 Kandinsky 5.0 Video Pro,在语音质量方面与领先模型相当,代码、权重与 diffusers 集成以 MIT 许可发布。

Team Kandinsky, Julia Agafonova, Bulat Akhmatov 等

arXiv cs.LG · stat.ML

The Premise Is the Problem: Exchangeability Failure in Self-Monitored Test-Time Adaptation

说明前提即问题:自监控测试时自适应中的可交换性失效

简介该论文研究部署后持续更新的时间序列预测模型:监控器若与自适应使用相同的预测误差反馈,其统计保证是否仍然有效。作者指出,多步预测中目标重叠及误差相依性可能破坏保证所需的关键假设,导致在无有害变化时误报,且保护性响应可能进一步损害预测质量。

Weijia Han, Lisha Qu, Zhenda Li 等

arXiv cs.CV

EchoDino: A pediatric foundation model for transferable echocardiographic analysis across the lifespan

说明EchoDino:面向全年龄段超声心动图分析的儿科基础模型

简介该论文提出EchoDino,一种面向超声心动图的自监督基础模型,基于DINOv3框架,使用约170万份未标注儿科超声心动图视频(共370万帧)训练。论文还提出了用于选取视频中信息量最大帧的采样方法MEMS。在九个儿科与成人数据集上,EchoDino在切面分类、结构性心脏病检测、年龄估计、分割及射血分数误差等任务上优于基线模型,并可从儿科数据泛化到成人超声心动图。

Sheng Cheng, Donnchadh M. O'Sullivan, Daniel J. Penny 等

arXiv cs.AI · cs.LG

Inference-Time Projection for Physically Valid Biomolecular Diffusion Models

说明推理阶段投影:使生物分子扩散模型输出物理上有效的结构

简介该论文针对AlphaFold 3类共折叠模型输出中常见的物理不合理问题(如链间原子重叠、配体键长键角畸变、环不平面、手性翻转)。作者在推理阶段对扩散模型的去噪结果施加两个闭式投影算子,分别处理链间范德华冲突和配体几何约束,无需额外网络计算或重新训练。在Boltz-2与OpenFold-3上的五个基准测试中,该方法恢复了完全的物理有效性,同时保持结构精度与配体定位指标,运行时与内存开销极小。

Qurat-ul-ain, Yee Whye Teh, Charlotte M. Deane 等

arXiv cs.LG · cs.AI

Your Unlearning Gives You Away: Identifying Erased Concepts in Diffusion Models

说明你的遗忘会暴露你:识别扩散模型中被擦除的概念

简介现有针对遗忘后扩散模型的攻击通常假设被擦除的概念已知,并专注于恢复它们。本文提出 Tracer 框架,可在不生成和分类图像的情况下,快速识别模型中被擦除的概念并估计其数量。实验表明,该方法在图像和视频模型上都能准确识别并快速完成估计。

Kaiyuan Deng, Yuchen Li, Yang Xiao 等

arXiv cs.LG · cs.AI

An LLM-in-the-loop RL Framework for Bioinformatics Feature Selection

说明用于生物信息学特征选择的LLM参与式强化学习框架

简介论文针对生物信息学中特征远多于样本的高维数据,提出一种让大语言模型(LLM)参与其中的强化学习特征选择方法。强化学习智能体把特征选择视为序列决策,LLM则通过领域知识建议引导探索,并提供结合数据表现与知识评估的混合奖励。实验显示,该框架优于基线方法,在不同下游模型上表现稳定,且比纯强化学习收敛更快。

Xinyuan Wang, Deepti Agrawal, Yanjie Fu

★★★★☆ 值得关注
arXiv stat.ML · cs.LG

Gaussian Limits for SGD Without Stationary Moments

说明SGD 在没有平稳矩时的高斯极限

简介这篇论文研究随机梯度下降(SGD)的高斯近似。作者构造了时间相依的设计,使其边际为标准高斯,但平稳误差的各阶正矩均为无穷;独立同边际的观测则给出有限的平稳方差。两种情形下,小步长极限仍为高斯分布。

看点构造了边际为标准高斯但平稳误差所有正矩均无限的SGD设计,并建立随机梯度下降的高斯与OU极限,理论结论较有新意。

Xiaoli Li, Wei Biao Wu

arXiv cs.LG · cs.AI · cs.DC

When the Cross-Silo Federation Goes Offline: Continual Learning for Site Onboarding with Limited Unlabeled Data

说明跨机构联邦学习离线后的新站点接入:有限无标签数据下的持续学习

简介本文针对跨机构联邦学习中新站点在训练后加入、数据无标签且含未见过工况的问题,提出一个自主的三阶段流程,在接入站点本地完成模型扩展:重构专家筛查新颖样本,聚类划分候选工况,并用类均值描述旧类别。在一个真实工业状态监测数据集上,该方法在不使用任何标签的情况下,旧类准确率保持在0.868及以上,遗忘至多0.063,且在新旧类之间保持平衡。

Ahmadreza Eslaminia, Klara Nahrstedt, Chenhui Shao

arXiv cs.CL

More Than Words: Compositional Tokenization for Efficient Language Models

说明超越词语:面向高效语言模型的组合式分词

简介这篇论文提出 CoBPE,一种组合式分词方法,把短语拆成词根 token 加上少量可复用的修饰成分,在嵌入空间中组合输入、并联合预测输出。作者在 780M 与 1.3B 两种规模下从头预训练,在相同训练算力下,CoBPE 将序列缩短 30%,平均下游任务表现比标准 BPE 高 1.2 个点。

Yuval Reif, Guy Kaplan, Roy Schwartz

arXiv stat.ML · cs.LG

Moment-Accurate Gaussian Mixtures for Constant-Step Stochastic Approximation

说明恒定步长随机逼近的矩精确高斯混合模型

简介本文提出用高斯混合模型描述恒定步长学习的输出波动,并通过匹配平稳能量与局部Ornstein-Uhlenbeck极限,使其矩预测更加准确。作者证明二阶Wasserstein误差为o(√a),并给出了可观测的协方差、期望目标差距和一阶均值偏移等结果。数值与随机梯度下降实验用于检验这些预测。

Xiaoli Li, Wei Biao Wu

★★★★☆ 值得关注
arXiv cs.CL

What Is a Repeated Token Worth? The Scaling Geometry of Multi-Epoch Pretraining

说明重复词元的价值几何:多轮预训练的缩放规律

简介本文研究大模型预训练中数据重复(多轮训练)的收益与代价,以同一数据的一轮训练和等算力下的全新数据为两个参照。作者发现重复数据的价值随轮数增长而下降,并给出约一半价值的临界轮数,该临界值随每参数训练量增加而增长,但与模型规模关系不大。实验还显示,即使轮数相同,数据重放方式、样本集中程度和数据熵等因素也会影响损失。

看点提出以重复令牌相对新数据与单轮训练的价值来定价的框架,并给出临界轮数与规模趋势的统一解释;实验覆盖多规模模型,证据较充分,对预训练数据受限的场景有指导意义。

Yekun Chai, Haoyi Xiong

★★★★☆ 值得关注
arXiv cs.LG · cs.CL 有代码

ColdDDI: Evaluating Knowledge Utilization in Cold-Start Drug-Drug Interaction Prediction

说明ColdDDI:评估冷启动药物相互作用预测中的知识利用情况

简介该论文提出 ColdDDI 诊断基准,基于 DrugBank 5.1.13 构建,包含 1900 种已获批小分子药物和 565731 对阳性药物相互作用。研究考察模型在未见药物情况下,是否真正利用分子、文本或知识图谱中支持相互作用的药理学证据。结果显示,在两种药物均未见过的情形下,共享酶、转运体或靶点等中介机制的可得性是性能差异的主要来源。

看点提出评估冷启动药物相互作用模型是否真正利用机制证据的诊断基准,角度新颖;基于DrugBank的13个LLM和8种方法的大规模对比及掩码、替换等干预实验较为充分。

Jiheng Liang, Chen Zhao, Di Wu 等

arXiv cs.CV

Generating the Wild: Individual-Consistent Image-to-Video Generation for Wildlife

说明野生动物个体一致的图生视频生成(WildIcon 框架)

简介论文指出野生动物个体识别常因同一动物的多样化观察数据稀缺而受限。作者提出 WildIcon,一种基于高频信息引导的图生视频框架,从参考图中提取个体特异的高频细节作为身份条件,在冻结的基础模型上进行轻量身份适配。同时构建了 WildlifeVid 野生动物视频数据集,实验显示其个体一致性优于现有基线,且筛选后的生成结果可作为下游重识别任务的训练增强样本。

Yuzhuo Li, Di Zhao, Xinyu Zhang 等

arXiv cs.LG · cs.AI · cs.CL

Expanding LLM Reasoning

说明扩展大模型推理:在已有推理链中从哪一步重新开始续写

简介研究在已有推理链中额外补充续写时,应从哪一步开始。作者定义了“扩展效用”,即从某一步重新开始后正确率的变化,并在九个模型、六个基准的41组配置上测量。结果显示起始位置影响明显,但一个始终从最后可选步骤开始的简单规则是很强的基线,学习得到的选择器并未检测到超过它的收益。

Rian Atri, Evan Luo

arXiv cs.DC · cs.CV

Rethinking Streaming-Perception Evaluation on Heterogeneous Edge Platforms

说明重新思考异构边缘平台上的流式感知评估

简介本文研究多摄像头流式感知部署在与其他负载共享的异构边缘平台上时,加速器放置的评估方式。作者在单个GPU-NPU平台上比较两种端到端流水线,发现孤立评估可能误判实际部署中的最优放置方案,GPU争用会导致截止时间错过和检测结果过时。论文认为评估应同时报告争用扫描、两条路径的截止时间错过率以及最差单路流的sAP,而不仅是平均sAP。

Misun Yu, Jinyoung Moon, Jemin Lee

arXiv cs.LG · cs.AI

What Does an Observability Foundation Model Know?

说明可观测性基础模型究竟“知道”什么?——对 Toto 模型隐藏表示的审计研究

简介该论文对可观测性预测基础模型 Toto 在 BOOM 基准上进行审计,用线性探针检测其冻结残差流中的信息。结果显示,Toto 的残差在采样节奏和指标类型上比最强的原始输入窗口模型更易线性识别,但可识别不等于模型实际使用这些信息,交换残差也未使预测显著更突发。

Dhyey Dharmendrakumar Mavani, Rian Atri, Tairan Ji

arXiv cs.CV · cs.GR

SteadySplats: Resampling of Low-Variance Gaussians for High-Fidelity Stochastic Rendering

说明SteadySplats:面向高保真随机渲染的低方差高斯重采样方法

简介论文针对基于3D高斯溅射(3D Gaussian Splatting)的随机无序透明度渲染中输出画面噪点明显的问题,提出了从表示和图像合成两方面降低高频噪声的方法。其中,基于历史的空间重采样加快了图像收敛,时间重要性重采样在相机移动时保持画面连贯,训练时的颜色正则化则降低沿视线的方差。作者称,在每像素1个采样时,相比以往随机方法,画质PSNR提高约13 dB,并且收敛到排序的3DGS结果,平均L1误差小于10^-4。

Felix Windisch, Thomas K\"ohler, Lukas Radl 等

★★★★☆ 值得关注
arXiv cs.CL · cs.AI

Can Prosodic Style Be Inferred from Text Alone? Evidence from Unsupervised Acoustic Clusters

说明能否仅凭文本推断韵律风格?来自无监督声学聚类的证据

简介本文检验一个假设:书面文本是否足以决定合适的韵律风格。研究以六位说话人的1200小时对话语料为对象,对语音声学特征进行无监督聚类,再用文本嵌入模型预测留出话语所属的聚类。结果显示文本确实优于随机基线,但主要效果来自词汇选择,句子嵌入的增益很小。

看点以声学聚类作为无标签风格标签,检验文本能否预测朗读风格,设置了长度和多数类等控制,结论有新意且证据较扎实,对表现力TTS有实际启示。

Abdul Rehman, Jian-Jun Zhang, and Xiaosong Yang

arXiv cs.AI

Better Retrieval, Limited Clustering Gains: A Controlled Study of Multilingual Company Entity Resolution

说明检索更好,聚类收益有限:多语言公司实体消解的受控研究

简介本文研究对多语言编码器进行适配后,公司名称检索与最终实体聚类的不同反应。作者用受控流程训练 E5 编码器,在固定国家边预算下检索,并用未改动的配对分类器与带防护的并查集聚类评估。在 3,633 个带源银标签的名称上,直接配对召回率由 53.74% 提升至 76.98%,但聚类召回率仅由 32.54% 变为 33.33%,多数新检出的正例未通过现有分类阈值。

Yijiashun Qi, Yuxuan Li, Hanzhe Guo

arXiv cs.LG · cs.SE

Disentangling Task Difficulty from Run-Level Failure in Agent Failure Prediction

说明区分任务难度与单次运行失败:智能体失败预测的评估

简介该论文研究如何预测大语言模型智能体是否会失败。作者发现,高预测性能很大程度上来自识别“哪些任务更难”,而非判断某次具体运行是否会失败。在同一任务的成功与失败运行之间比较时,早期预测的区分能力较弱,只有在更高的区分度下,提前终止才有收益。论文主张应按部署决策来评估失败预测。

Mohsen EsfandyariDoulabi, Lawrence Arkoh, Biruk Tadesse 等

arXiv cs.LO · cs.AI · cs.RO

Scenario-Based Compositional Statistical Model Checking for Safety Specifications

说明基于场景的组合式统计模型检测(安全规约)

简介该论文面向自动驾驶等安全关键领域,提出一种基于场景的组合式统计模型检测框架。它把复合场景拆分为基本场景、把规约拆分为子规约,分别验证各基本场景,再用重要性采样和核密度估计组合统计结果。作者报告,该方法能准确回答未见过的复合场景的验证问题,并通过并行化和轨迹复用降低仿真成本。

Abhinav Pomalapally, Arya Raeesi, Kevin Kai-Chun Chang 等

★★★★☆ 值得关注
arXiv cs.LG

Poisson-GENERIC Neural Operators: Exact Metriplectic Structure in Function Space via Casimir Entropies

说明基于Casimir熵的泊松-GENERIC神经算子:函数空间中的精确金属塑结构

简介该论文提出一种热力学一致的神经算子,用兼容的Lie-Poisson束处理非线性输运,并将潜在熵密度的积分作为Casimir,无需投影即可保证GENERIC退化条件。模型在四个一维和二维偏微分方程及三种骨干网络上与无约束基线对比,在72组种子级比较中赢得61组。

看点提出用Lie-Poisson束与Casimir熵替代投影,结构保证更直接;实验覆盖四个PDE与三种骨干网络,但规模和对比仍有限。

Jason Sulskis, Sathya Ravi

arXiv cs.AI

Factoriax: A GPU-Accelerated Factorio-Style Simulator for Reinforcement Learning

说明Factoriax:面向强化学习、基于GPU加速的工厂建造模拟器(类《异星工厂》)

简介论文介绍了Factoriax,一个用JAX编写、可在GPU上加速运行的工厂建造模拟器。智能体需要采集资源、制造机器,并在地图上布置机器以形成自动化生产流水线。作者提出了名为Easy Rocket的基准任务,要求智能体在有限时间内建造火箭以逃离星球,并报告了基于PPO的训练结果:在单张A100上约8分钟可完成10亿步训练,训练后的智能体学会了采集、制造和放置机器,但未能形成可正常运作的空间布局,任务仍未完成。

Mickey Beurskens, Tristan Tomilin, Thiago D. Sim\~ao

arXiv cs.AI · q-bio.QM

LifeLong Digital Twin: A Unified Modeling Paradigm and Agent Harness for Event-Driven Lifelong Health State Trajectories

说明终身数字孪生:面向事件驱动的终身健康状态轨迹的统一建模范式与智能体框架

简介该论文提出 LifeLong Digital Twin,一种事件驱动的统一建模方法,将生命事件组织为每日健康状态,并累积为终身健康背景。配套的智能体框架可纳入语言模型文本上下文之外的多模态证据。研究在 25 个疾病终点上评估四种语言模型,完成疾病轨迹预测、疾病风险排序和多时间跨度预测三项任务,结果显示相对参照条件有明显提升,甲状腺疾病 F1 达到 0.669。

Jin Jiang, Sean Yates, Jasper Chong 等

★★★★☆ 值得关注
arXiv cs.CL · cs.LG

Lend Me Your Eyes: Instruction-Aware Text Embeddings via Attention Relay

说明借用LLM的注意力实现指令感知文本嵌入(Attention Relay,注意力接力)

简介论文提出注意力接力(Attention Relay)方法,把指令微调后的大语言模型产生的注意力权重传递给文本嵌入模型,使其无需训练即可理解任务指令。实验覆盖六个大语言模型和十个嵌入模型,几乎所有组合都获得了指令感知能力。研究还表明,这些注意力权重主要来自指令微调,并能突出文本中与指令相关的内容。

看点提出无需训练即可将LLM指令跟随能力迁移到嵌入模型的注意力中继,并在十种嵌入模型与六个LLM上验证,且有分解实验。

Yiyuan Luo, Vaggos Chatziafratis

arXiv stat.ML · cs.AI · cs.LG

G-CARB: Graph-Localized Conformal Agent Risk Budget for Compositional Harm

说明G-CARB:面向组合性危害的图局部共形智能体风险预算方法

简介该论文提出 CARB(共形智能体风险预算),用于决定何时停止小型语言模型智能体,依据是停止前已发生危害的账本。G-CARB 沿可观察的依赖关系,从私有数据源选取打分证据并关联到后续动作,同时账本仍记录完整执行历史,且计算门控分数无需额外的语言模型推理。在 AgentDojo 回放实验中,两个 14B 骨干模型上,中等风险预算下打分输入记录约减半,任务完成率有所提升。

Zijun Yu, Yu Gu, Vahid Partovi Nia 等

★★★★☆ 值得关注
arXiv cs.LG · cs.AI · cs.AR 有代码

Cut Binary Cross Entropy: Efficient Large-Vocabulary Loss and Gradient Kernels for Sequential Recommendation

说明Cut Binary Cross Entropy:面向序列推荐的大词表高效损失与梯度算子

简介该论文针对工业序列推荐中物品目录极大、多标签二元交叉熵(BCE)需要物化完整 logits 张量导致内存溢出的问题,提出在 JAX 与 Pallas 中实现的精确、硬件加速的 CutBCE 算子。该方法通过融合计算、自定义反向内核等方式避免 logits 与梯度驻留显存。在 TPU 上的实验显示,它消除了内存溢出,并在 876k 物品的 SASRec 训练中降低峰值显存 65.7%、提升训练速度 225.9%,且精度相当。

看点将BCE的大词表损失与梯度改为片上分块融合计算,避免dense logits落入HBM,实验在8芯片TPU上有显著内存与速度收益。

Yaoyiran Li, Haowen Ning, Mohamed Hammad

arXiv cs.LG · math.PR

An equality condition for the Dobrushin bound on attention rollout and how often it holds in trained transformers

说明关于注意力展开中 Dobrushin 界的一个取等条件,以及它在训练好的 Transformer 中成立的频率

简介本文分析了注意力展开(attention rollout)各层因子的 Dobrushin 系数上界,并给出该逐层界恰好取等的充要条件:存在一对达到 κ(A) 的词元,二者彼此都至少与对方同等程度地关注自己。作者在多种视觉与语言模型及表格模型上检验该条件,发现在大多数输入的内容词元中它都成立,但在部分监督模型与表格模型中成立比例较低。

Przemys{\l}aw Rola

★★★★☆ 值得关注
arXiv cs.CV 有代码

Monocular markerless biomechanics for clinically interpretable gait assessment in spinal cord injury

说明单目无标记生物力学方法用于脊髓损伤患者的步态评估

简介该论文提出用单段侧面视频估算脊髓损伤患者的下肢运动学和地面反作用力,无需标记点与测力台。研究基于包含239名成人脊髓损伤患者的数据集,视频估算结果与动作捕捉和测力台测量值高度一致。作者还发现步态波形成分与功能独立性存在条件关联,并能区分速度相近者的不同力学策略。

看点将单目无标记姿态估计扩展到脊髓损伤人群,并用239名患者的同步数据验证运动学与地面反作用力,证据充分,对该子领域有实用价值。

Shreyasvi Natraj, Mathieu Ruepp, Yanke Li 等

arXiv cs.LG

When Low Prediction Error Misleads Planning: Diagnosing Representation, Dynamics, and Decision Failures in Latent World Models

说明预测误差低未必规划好:潜在世界模型中表示、动力学与决策失效的诊断

简介该论文指出,潜在世界模型中主导预测误差的部分,未必是修复后最能改善动作选择的部分。作者将端点误差分解为候选池中心误差与动作相关响应,在四类模型、四个任务上比较修正两者的效果。结果显示,在多数设定中中心误差主导MSE,但修正动作相关响应往往带来更好的物理排序与精英动作质量,并强调应将表示、预测与规划作为独立阶段评估。

Rui Min, Xianyao Li, Fang Xu 等

arXiv cs.LG · eess.AS

Joint Estimation of Common-Slope Decay Rates and Spatial Amplitudes Using Parameterized Nonnegative Matrix Factorization

说明用参数化非负矩阵分解联合估计共同斜率衰减率与空间振幅

简介本文把房间脉冲响应的共同斜率衰减率与振幅联合估计,表述为以Itakura–Saito散度为损失函数的参数化非负矩阵分解(IS-NMF)。在每个短时傅里叶变换频点上直接由脉冲响应功率得到详细的混响时间曲线,无需反向积分。作者还提出了贡献加权的SAGE算法以加速估计;合成数据实验显示其能准确恢复分离良好的衰减,且损失下降更快。应用于实测耦合房间的脉冲响应,得到随频率变化的混响时间曲线,并揭示了共享衰减分量的时空互补贡献。

Jeremy B. Bai, Filip Elvander, Sebastian J. Schlecht

arXiv cs.AI · cs.DL

More Claims, Less Evidence: Bounded Verification of AI-Generated Digital Knowledge Artifacts

说明论断越多,证据越少:对AI生成数字知识制品的有界验证

简介论文提出一种贝叶斯有界验证模型,核心指标为“通过的预测价值”(PVP)。在固定验证能力下,随制品规模增大,通过检验的证据价值下降;验证预算增加则有所改善,错误稀疏时尤为脆弱。基于FEVEROUS和FEVER的受控实验支持了这些预测,并给出维持目标PVP所需的最低验证预算。

Feliks Ba\'nka, Jaros{\l}aw A. Chudziak

arXiv cs.LG · cs.AI

Soft Strategy Selection for Batch-Mode Active Learning

说明面向批量主动学习的软策略选择方法(FractAL)

简介主动学习在标注前需要先选择采样策略,但不同场景下策略表现差异大,难以事先判断,现有方法又要花费多轮采样去探索策略。本文提出 FractAL,在同一批次内同时使用多种策略采样:借助基于影响函数的数据归因为每种策略估计奖励(无需重新训练),再用在线镜像下降为各策略分配预算。在 7 个涵盖分类、回归和基因扰动效应预测的设置中,FractAL 在所有设置上都不逊于包括随机采样在内的基线方法。

Rushil Gupta, Romain Lopez

arXiv cs.DB · cs.CL · cs.LG

SALUS: Automated Auditing of NL-to-SQL Benchmarks through Weak Supervision of Multi-Agent Output

说明SALUS:通过多智能体输出的弱监督对自然语言转SQL基准进行自动审计

简介自然语言转SQL(NL-to-SQL)基准中存在标注错误,会扭曲评估结果。SALUS系统利用多个大模型智能体生成的SQL作为弱标注信号,无需人工标准答案即可自动检测标注错误。在298个BIRD开发任务的人工核验子集上,其F1值为0.9194;作者据此估计BIRD标注错误率约为37%,Spider约为27%。

Shiyuan Zhou, Ashwin Gerard Colaco, Sainyam Galhotra 等

arXiv cs.LG · cs.AI

LiFT: Loop Flow Transformers

说明LiFT:循环流变换器,通过循环共享核心扩展生成模型的计算量

简介本文提出循环流变换器(LiFT),通过反复应用一个共享的扩散变换器(DiT)核心来扩展计算量,架构只做少量改动。每个循环步骤以流匹配目标路径上的一个点作为回归目标进行训练,训练后的模型无需重新训练即可循环超过训练深度。在 ImageNet 256x256 上,LiFT-L/2 的 FID 比稠密 DiT-XL/2 基线低 3.34,参数约少 60%,训练 FLOPs 少 32%,推理 FLOPs 少 52%。

Mohammad Mahdi Derakhshani, Pedro M. P. Curvo, Gertjan J. Burghouts 等

arXiv cs.AI · cs.LG

JIVEAdapter: A Multi-Task Additive Low-Rank Adapter via Joint and Individual Variation Explained (JIVE)

说明JIVEAdapter:基于联合与个体变异解释(JIVE)的多任务加性低秩适配器

简介该论文提出 JIVEAdapter,一种多任务的加性低秩参数高效微调方法,把每次权重更新分解为所有任务共享的联合部分和每个任务专属的个体部分,并约束两者近似正交以便区分共享与任务特定信息。联合部分可按任务组一次学习或逐任务增量学习,之后冻结并作为新任务的先验复用。在 GLUE 和 SuperGLUE 上,基于 DeBERTaV3-base 的实验显示其与强基线相比具有竞争力。

Sara Abdali, Pashmina Cameron

arXiv cs.CL

Dataset Signatures in Human-LLM Interactions and User Modeling

说明人机对话数据集的“数据集特征”及其对用户建模的影响

简介本文研究七个人机对话数据集(涵盖真实聊天日志与人类偏好数据)之间的差异。作者发现,仅凭用户消息,神经网络分类器就能远高于随机水平地识别对话来源,说明各数据集存在可区分的特征,且这种可分性在按人工设计的分类体系匹配后依然存在。论文还考察了这些特征如何影响基于其训练的用户模型、模型质量评估以及数据选择。

Joseph Suh, Serina Chang

arXiv cs.LG · cs.AI · cs.CL

What Does a Harness Repair? A Preregistered Study of Visibility, Baseline Adequacy and Evaluation Defects

说明Harness 修复了什么?关于可见性、基线充分性与评测缺陷的预注册研究

简介该论文研究在冻结模型外围调整提示词、token 预算或解析器(harness)所带来的分数提升从何而来。作者预注册了两项研究,使用 1.7B 至 8B 参数模型及 Qwen3-14B,报告了全部 65 个主要终点。结果显示,关闭思考模式在多数情况下提升了准确率,但主要是因为受限设置下原本无法读取答案的问题得到了可读答案;同时,部分 14B 的高分 harness 实际与最强的常数标签基线相近。

Bowen Xu, Boyu Chen

★★★★☆ 值得关注
arXiv cs.AI · cs.CL · cs.HC 有代码

DelegationBench: Measuring When AI Agents Should Ask Before Acting

说明DelegationBench:衡量AI智能体何时应先询问用户再行动

简介该论文提出DelegationBench基准,包含156个场景,要求模型在行动、请求许可、请求缺失信息或拒绝四种回应中选择。研究发现,常用的一致率评分存在误导:一个简单关键词规则的表现优于十个模型中的八个,换种提问方式可使模型行动频率相差最多52.5个百分点,且模型用工具执行任务时比判断方案时更少询问用户。作者建议分别报告这些特性,而不是合并成单一分数。

看点提出衡量智能体何时应先询问用户的新基准,通过成对场景和多模型实验揭示评分失真,证据较充分,对该子领域有用。

Shiva Pochampally

arXiv cs.CV · cs.RO

Deep Prior Learning for Embodied Perception

说明具身感知中的深度先验学习:利用相机位姿等先验信息改进三维几何感知

简介该论文提出了VPGGT框架(基于VGGT,扩展自OmniVGGT),用于利用相机位姿、内参、深度等先验信息进行具身感知的三维几何推断。作者模拟传感器引起的位姿噪声用于训练,并提出无参数的先验残差连接(PRC)以缓解先验被稀释的问题,还提出了Metric Global Attention以预测度量尺度。实验表明,在为所有视角提供相机先验时,PRC在精确及受损位姿下均提升了平移方向精度和联合位姿AUC。

Yimou Wu, Jiaxin Guo, Yun-hui Liu 等

arXiv cs.CV

DynaMesh: Dynamic 3D Texture Generation

说明DynaMesh:动态三维纹理生成

简介本文提出DynaMesh,用于为三维网格生成随时间变化的动态纹理。给定无纹理的形状和描述某种效果的文本提示,方法生成会演变的外观,同时保持几何不变。作者以视频模型生成参考视频,再用冻结的图像转三维生成器处理,并通过时间窗口混合条件和每个形状的低秩适配器来改善闪烁和细节丢失。实验显示其效果优于近期的视频转四维与纹理生成方法。

Raj Hansini, Guan Chen, Rana Hanocka 等

arXiv cs.AI

Have I Scene This Before? Spatially Grounded Conversational Memory for Complex Queries in Egocentric Assistants

说明这篇论文研究的是:智能眼镜助手如何记住“我在哪里见过这个”,把用户的话和三维空间中的物体对应起来。

简介论文提出了空间锚定的对话推理任务(SpaCR),涵盖跨场景、回忆型和反事实的空间问题。作者设计了以物体为中心的工作记忆方法 SpaC-MEM,利用三维重建和分割把对话信息绑定到持久存在的物体上,并发布了包含620个ScanNet视频会话与3100个查询的 Ego-SpaCR 基准。结果显示该方法回答准确率最高,且所需输入令牌明显少于原生视频基线。

Jiazhou Liang, Liam Gallagher, Kiko Chen 等

arXiv cs.AI · cs.LG 有代码

What Does Fréchet Distance Measure? A Directional Decomposition

说明弗雷歇距离衡量的是什么?方向分解视角

简介弗雷歇距离是评估生成模型的常用标准,如图像的FID和视频的FVD,它用单一数值概括生成分布与参考分布之间的差异。本文提出方向弗雷歇距离,把最优传输位移投影到指定方向上,以找出差异主要来自哪里。在图像、视频和蛋白质三类实验中,少数可解释的方向即可解释大部分距离。

Yunghee Lee, Jaeyeon Kim

arXiv cs.MA · cs.GT · cs.SY

Distributed Algorithms for α-Potential Functions in General-Sum Games

说明一般和博弈中α-势函数的分布式算法

简介本文研究在连续动作空间的一般和博弈中,于给定势函数类内计算最紧的α-势函数近似,且每个参与者只能访问自身效用函数。作者将问题转化为全局外层搜索与分布式凸内层问题,并设计了原始-对偶内层求解器与投影零阶外层方法。数值实验显示,该优化框架可以改进已有的解析α-势函数构造。

Yifei Chen, Chinmay Maheshwari

arXiv cs.RO · cs.CV

Robust 2D Traversability Mapping for Construction AMRs via Failure-Mode-Aware Fusion of LiDAR Geometry and Monocular Semantics

说明面向建筑工地AMR的鲁棒二维可通行性建图:激光雷达几何与单目语义的失效模式感知融合

简介论文针对建筑工地自主移动机器人难以判断地面可否通行的问题,提出一种实时多模态可通行性方法。该方法以激光雷达几何为主,并用单目图像语义对湿泥、积水混凝土等视觉危险区域及减速带、坡道造成的误判进行选择性修正。作者还发布了一个来自两处在建工地、含506张标注帧的多模态数据集。

Manoj Karnekar, Om Mandhane, Gautham Ramkumar

arXiv cs.AI · cs.IT · math.IT

The Functional Structure of Post-Compression Recovery in Low-Rank LLMs

说明低秩大语言模型压缩后恢复的功能结构

简介不同低秩压缩方法得到的模型,经过相同的恢复训练后表现差异很大,压缩后的相对优势可能缩小、扩大甚至逆转。本文提出“恢复压力”这一由压缩引起的、可复现的功能结构,并给出一套在同一骨干模型内可跨方法使用的标准化刻画方法。研究发现恢复压力的模块分布在恢复过程中会非均匀地重组,且其变化可作为除损失值之外的恢复进展补充视角。

Zishan Shao, Liang Tian, Georgiy Zemlevskiy 等

arXiv cs.LG · eess.SP · q-bio.NC

Lightweight Semantic EEG Foundation Model for Frozen Cross-Disorder Transfer

说明轻量级脑电(EEG)基础模型:冻结参数下的跨疾病迁移

简介该论文提出 USE-FM,一个仅约146万参数的轻量级脑电基础模型,在 TUEG 数据集上通过自监督信号重建预训练,编码器冻结后用于异常脑电检测(TUAB)和癫痫发作识别(TUEP)。结果显示其在 TUEP 上敏感度和 F1 分数表现较强,在 TUAB 上保持有竞争力的 AUC,潜在表示分析也显示其学到了有组织的语义表示。

Rita Huan-Ting Peng, Nhat Bui

arXiv cs.LG

Logic-Logit: A Logic-Based Approach to Choice Modeling

说明Logic-Logit:一种基于逻辑规则的选择建模方法

简介本文提出可解释的规则型选择模型 Logic-Logit,用逻辑规则解释人们的选择行为。作者结合列生成与 Frank-Wolfe 算法高效提取规则,并在合成数据和商业、医疗领域的真实数据上进行实验,结果显示该模型在可解释性和准确性上均优于基线模型。

Shuhan Zhang, Wendi Ren, Shuang Li

arXiv cs.LG

LEON: Location Embeddings from OSM Neighborhoods via Hexagonal Graph Masked Autoencoders

说明LEON:基于六边形图掩码自编码器从OSM邻域学习地点嵌入

简介本文提出LEON,一种自监督框架,将图掩码自编码器(GraphMAE)用于地理区域表示学习。方法使用H3索引构建六边形网格图,并从OpenStreetMap的设施分布模式中学习空间嵌入。在EuroSAT卫星影像分类及房价、犯罪预测和城市分析等任务上,LEON带来了一定的性能提升,其中EuroSAT分类准确率最高提升1.87%。

Szymon Soltysiak, Radoslaw Malek, Jedrzej Kusnierz 等

arXiv cs.LG

When Does Retrieval Help? A Study of In-Context Adaptation in Vision-Language-Action Models

说明检索何时有用?视觉-语言-动作模型上下文适应研究

简介本文研究视觉-语言-动作(VLA)机器人模型在测试时通过检索专家示范实现上下文适应的效果。作者在RICL框架下比较了四种检索方法:基于图像、结合VLA状态、使用VLA骨干特征以及随机检索。结果显示没有单一方法在任务成功率上始终占优,随机检索也能取得一定成功率;标准检索质量指标也不能可靠反映下游性能。

Zixuan Liu, Joris K\"oster, Zizhan Zheng 等

arXiv cs.RO · cs.CV

Robust Surgical Robotic Instrument Tracking via Sequential Multi-Cue Fusion and Sim-to-Real Self-Training

说明基于序贯多线索融合与仿真到真实自训练的鲁棒手术机器人器械跟踪

简介该论文针对微创手术机器人中器械跟踪困难的问题,提出一种由跟踪器引导的自训练框架,使在合成图像上预训练的模型适应无标注的真实视频。方法利用机器人关节状态、带不确定性的扩展卡尔曼滤波和RTS平滑器修正器械姿态,并生成伪标签微调特征检测器。实验显示,自训练在各项关键点指标上均有提升,模型在精度和运行时间上优于既有方法。

Hanyang Hu, Zekai Liang, Florian Richter 等

arXiv cs.AI 有代码

SkillGATE: Gate-Aware Monte Carlo Tree Search for Skill Retrieval

说明SkillGATE:用于技能检索的门控感知蒙特卡洛树搜索

简介该论文研究从外部技能库中检索最相关技能的问题,技能库规模越大越难。作者提出SkillGATE框架,将检索过程建模为自适应搜索,结合区域导航与技能选择,并采用门控感知的蒙特卡洛树搜索进行检索。在六个基准上的实验显示,该方法能稳定提升多种检索与重排序模型的效果,其整体R@1较最强的基于检索器的基线提高16.3%。

Rongchen Zhao, Yu Chen, Yanming Yang 等

arXiv cs.LG

Underscoring the Problem: Why Softpick Fails at Initialization

说明论证问题所在:为何 Softpick 在初始化阶段失效

简介这篇论文研究 Softpick(一种对注意力分数做整流、用以取代 softmax 的注意力算子)为何在规模变大后优势减弱。作者将其失败归因于归一化分母,并把分母拆分为正、负两部分,分别独立选择。论文指出,失败源于初始化阶段:部分行的正分母恰为零,梯度范数会超过 10 的 12 次方。仅 Softpick 与一种停止梯度变体能从零开始训练;在 230M 参数下,后者在量化与密钥检索上表现更好。

Aryan Sood, Jaikaran Singh, Ishaan Bansal