AI 算法 · 2026年10月5日(周一)

机器学习、人工智能、自然语言处理、计算机视觉、多智能体。

arXiv cs.LG · cs.AI 有代码

SchemaFill: Efficient LLM Tool Calling via Slot-Parallel Speculative Decoding

说明SchemaFill:通过槽位并行推测解码实现高效的大模型工具调用

简介该论文提出 SchemaFill 框架,用于加速大语言模型的工具调用。它并行生成多个参数槽位的候选值,再由目标模型在实际输出前缀下统一验证,只提交通过验证的词元。在 Glaive 和 BFCL 上,端到端吞吐量最高提升 4.05 倍。

Zhi-Kai Chen, Song-Yan Li, De-Chuan Zhan 等

arXiv cs.LG

Structured Representation Learning for Behavior Cloning: How can we learn to safely control a nuclear power plant?

说明用于行为克隆的结构化表示学习:如何学会安全地控制核电站

简介该论文研究学习型控制模型在核电站压水堆负荷跟踪任务中的安全性问题。作者提出按时间尺度将变量编码到独立隐空间的结构化架构,并训练控制器模仿专家非线性模型预测控制(NMPC)策略。实验显示,在长时程滚动中该方法比共享嵌入基线更准确、更可行,但单独部署时仍有数个百分点的轨迹不可行;将其用于预热NMPC优化器后,可恢复完全可行性并将计算时间降低约15%。

Perceval Beja-Battais (CB), Alain Grosset{\^e}te, Nicolas Vayatis (CB)

arXiv cs.CV

MoCAR: Motion-code Coordinate-aware AutoRegression for Continuous Trajectory Forecasting

说明MoCAR:面向连续轨迹预测的运动编码坐标感知自回归模型

简介该论文提出MoCAR模型,将轨迹预测视为连续潜在空间中的下一编码预测任务,每个运动编码同时刻画局部轨迹几何和参考坐标系的变化。模型采用单阶段解码器结构,无需轨迹查询或候选目标等复杂流程。在Argoverse基准测试中,MoCAR取得领先水平的表现,并能从AV2零样本迁移到AV1,在转弯较多的场景中有所改进。

Yiming Xu, Hao Cheng, Monika Sester

arXiv cs.AI

AI-Decision Checkpoints for AI-Augmented Business Process Management: Framework and Educational Instantiation

说明面向AI增强业务流程管理的AI决策检查点:框架与教学实例

简介本文针对业务流程管理课程中AI仍被当作附加技术的问题,提出“AI决策检查点”,即流程开发者识别可引入AI的子流程、评估其对时间、成本、质量和灵活性的影响、考虑法律与组织约束,并记录采用、限制或拒绝某AI组件的决定。研究以虚构的客户入职流程作为教学案例,将检查点嵌入覆盖六个模块的生命周期框架中。初步的形成性反思显示,该方法有助于更清楚地区分任务级自动化与流程级价值。

Amin Jalali

arXiv cs.AI · cs.CL · cs.LG

Do Small Language Models Learn to Negotiate? A Controlled Scaling Study of RL-Trained Sellers

说明小模型能学会谈判吗?基于强化学习训练的卖方受控规模研究

简介本文用GRPO强化学习训练了四个不同规模(约2.3B至31B有效参数)的Gemma 4模型,使其在双边多议题讨价还价中作为卖方。所有模型在1152场谈判中与训练时未见过的两个前沿买方模型对比评估。结果显示,RL模型相对基础模型的提升随规模增大而增加,提高学习率可带来进一步改进。

Pedro Tabacof, Sagar Joglekar

arXiv cs.CL · cs.AI

Distributional Alignment of LLMs and Its Generalization Properties

说明大语言模型的分布对齐及其泛化特性

简介这篇论文研究如何让大语言模型的输出分布与人类分布对齐,以便用于模拟人类行为(如问卷调查)。作者在两个大规模基准上发现,模型可以实现分布对齐,并能泛化到同一领域的未见问题;跨主题泛化则取决于主题之间的关联。但论文also指出,对齐后的模型可能出现意外退化(如丧失创造力),其泛化特性难以预测且不稳定。

Nelson Jo

arXiv cs.CV

EORestore-Agent: Fidelity-Guided Agentic Restoration of Remote Sensing Images with Composite Degradations

说明EORestore-Agent:面向复合退化遥感影像的保真引导式智能体修复

简介遥感影像常同时受到雾霾、云层、噪声、模糊、低光照和低分辨率等多种退化影响。该论文提出EORestore-Agent,由视觉语言模型识别残留退化并选择工具,再用相对质量评分器预测每一步修复对PSNR、SSIM和LPIPS的变化,仅在预测无负向变化且PSNR提升为正时才接受该步骤。在合成Landsat-8基准上,其在两到六种退化组合下PSNR比最强的重训练一体化基线高2.3至3.2 dB,并在迁移到Sentinel-2真实大气退化样例时无需重新训练。

Heli Qi, Zeqi Zhou, Jingjun Yi 等

arXiv cs.LG · cs.CV

Loss-Invariant Projections as Passive Probes of Learned Representations

说明损失不变投影作为学习表示的被动探针:一种观察神经网络内部特征结构的方法

简介本文提出一种“被动探针”方法:用固定、未训练、与具体属性无关的随机投影去观察训练过程中不断变化的神经网络特征表示。作者以 S² 上的预测任务为出发点,指出不同参数化中存在一个损失不变的迹坐标,并据此构造通用的观察器。实验显示,这类探针在表面法线估计和图像修复等回归任务中,最终任务难度的可访问性会随训练上升,而图像分类中则基本保持在初始水平。

Akshay Chandrasekhar, Pavlo Melnyk

arXiv cs.SE · cs.AI

Correct Code, Broken Contributions? SWE-CC: Benchmarking Repository Policy Compliance for Coding Agents

说明代码正确,贡献合规吗?SWE-CC:面向编程智能体的仓库政策合规基准

简介本文提出 SWE-CC 基准,检验自主编程智能体是否遵守开源项目的贡献政策。研究将 12 个开源仓库的开发者文档转化为 823 条可机器检查的原子政策,并在 500 个由 SWE-bench Verified 扩展的端到端任务中评估代码与流程合规性。结果显示,智能体生成的补丁虽功能正确,仍违反了 43.1% 的适用政策,且近半数违规发生在中间执行步骤。

Hai Dang Truong, Rayner Goh, Thanh Le-Cong 等

★★★★☆ 值得关注
arXiv cs.AI

Copies or Sources? Measuring How LLM Aggregators Count Restated Evidence in Multi-Agent Systems

说明副本还是来源?衡量大语言模型聚合器如何计算多智能体系统中重复陈述的证据

简介论文研究多智能体系统中,大语言模型聚合器如何处理被反复转述的证据:它应按独立来源计数,还是按每条陈述计数。作者把报告的概率换算为独立观测单位,并在三类测试环境中对比四个模型的表现。结果显示,转发副本的计数权重在0.06至0.42之间,部分模型会过早形成判断;加入副本声明或让智能体引用而非重述观点,可明显降低这种过早判断。

看点提出以独立读数衡量重复证据的复制权重框架,并在三类测试平台上系统测量多个模型,证据较充分,对多智能体聚合有实际意义。

Jianxin Gao, Runze Li, Tianyi Yu 等

arXiv cs.AI · cs.CL

Judged Useless, Queried Anyway: Tool-Using Agents Rarely Turn Their Own Evidence Judgments into Stopping Decisions

说明判定无用却仍继续查询:使用工具的智能体很少把自身的证据判断转化为停止决策

简介论文研究在来源故障的检索环境中,智能体如何判断工具返回结果是否有用,以及这些判断是否影响其停止行为。实验显示,七个被测智能体对故障来源的结果判定为无用的比例达97%至100%,但大多数并未据此停止。作者提出在框架中强制加入一个整合步骤:连续五次判定为无用后要求智能体作答,这能使停止行为更多地依据证据,并经300个新问题的预注册复现得到验证。

Chubin Zhang, Zhenglin Wan, Xingrui Yu 等

arXiv cs.AI

Bridging the Evidence-to-Execution Gap:A Reflective Agent for Multi-Objective Peptide Design

说明弥合证据到执行的鸿沟:面向多目标肽设计的反思型智能体

简介大语言模型能够根据文献提出设计思路,却难以把它们可靠地落实到生物序列上。本文提出EASER,一种反思型智能体,通过离线训练的固定低秩矩阵组成的属性接口,驱动扩散生成器并提出基于证据的干预假设。在抗菌肽多目标设计(优化活性、非溶血性和无毒性)中,该方法在多项指标上优于对比基线,消融实验也验证了各组件的作用。

Haosen Zhang, Yang Yang

arXiv cs.GT · cs.MA

Feedback Dominance Analysis for Pursuit-Evasion Games on Graphs

说明图上追逃博弈的反馈优势区域分析

简介本文研究图上离散、同步行动的追逃博弈,刻画追捕者的优势区域。作者提出基于集合的动态规划方法,在最坏情况下给出追捕者获胜的充要条件,并将可达性分析转化为可实时依据双方位置调整的反馈策略。对于双方都无法保证胜利的状态,文章引入瞬时矩阵博弈,给出追捕者获胜概率的上下界,仿真结果验证了上述刻画与界的正确性。

Yue Guan, Daigo Shishika, Dipankar Maity 等

arXiv cs.LG 有代码

Two-Point Local Optimality in k-Means via Boundary-Point Screening

说明基于边界点筛选的 k-means 两点局部最优性

简介本文针对 k-means 聚类,提出 r 点局部最优性概念,重点研究 r=2 的情形,即任意两个样本的重新分配都无法降低目标函数。作者证明了两点改进只需考虑特定的边界点,并据此提出 BPS-2PLS 算法,在十二个基准测试中的十个上取得了已知方法中最低的平均 WCSS。

Wenlong Lyu, Xujie Xiao, Yuheng Jia

arXiv cs.LG · cs.AI

Anlu: Enabling In-Context Time Series Anomaly Detection in Foundation Models via Counterfactual Supervision

说明Anlu:通过反事实监督在基础模型中实现上下文内时间序列异常检测

简介该论文研究如何让时间序列基础模型借助参考样本判断异常,参数在推理时保持不变。作者提出反事实监督,为同一查询配两组给出不同正常规则的参考并分别标注,迫使模型利用参考信息。方法Anlu在冻结的模型上加入参考记忆和零初始化门控适配器。在350条TSB-AD-U序列上,平均VUS-PR从0.542提升到0.607;将参考替换为零后降至0.499。

Tian Lan, Yifei Gao, Yimeng Lu 等

arXiv cs.AI

Auditable Clinical Timeline Reconstruction with Provenance-Aware Evidence Graphs

说明基于溯源感知证据图的可审计临床时间线重建研究

简介该研究提出一种可审计的患者时间线重建方法,要求系统保留每个答案对应的原文提及、记录事实修订过程,并在文本中没有证据时拒绝回答。研究在一个完全合成的语料库(1000名患者、3353份病历记录、220条修订边)上测试这三项特性。结果仅描述合成数据上的实现表现,不代表临床性能。

Judith Jeyafreeda Andrew

arXiv stat.ML · cs.LG

A Query Is Not a Commitment: Learning to Correct Expert Answers in Online Deferral

说明提问不等于承诺:在线延迟决策中学习修正专家答案

简介本文研究在线延迟决策问题:学习者先选择一位专家并确定修正函数,再付费获取答案并施加该修正。作者提出ORUCB算法,合并共享与专家专属的多项式修正模型,并利用修正学习误差的界来校准风险回归与探索。实验在四个测试数据流上进行,所选三次策略的含费用成本低于七个直接采用原答案的基线方法。

Yannis Montreuil, Axel Carlier, Lai Xing Ng 等

arXiv cs.LG · cs.AI · cs.CL

Anosognosia in LLMs: Probing Self-Awareness of Quantized Computational Substrate

说明大模型的失知症:探测量化后计算基底的自我感知能力

简介论文受神经学中“失知症”现象启发,研究大语言模型能否察觉自身计算基底因量化而退化。结果显示,现有模型即使拿到自己生成的文本作为外部线索,也无法自报量化状态;线性探测表明,生成文本几乎不含量化痕迹,但内部表征带有明显的方法特异性指纹。作者认为,让模型获得这种自我感知,更有希望的途径可能在于其内部表征,同时指出自我监测的泛化能力存在根本局限。

Yoshihiro Izawa, Gouki Minegishi, Yoko Yamakata

arXiv cs.CL · cs.AI

From Target Selection to Condition Reuse: Auditing Residual Interventions in Tool-Use Models

说明从目标选择到条件复用:审计工具使用模型中的残差干预

简介论文以Qwen3.5-27B模型在工具使用任务上为对象,检验对模型激活进行干预后,模型能否在其他计算中正确使用目标条件。结果显示,目标选择正确率明显提升,但在重组事实与标识符后收益消失。内部编辑可改变源事实对判断的影响,却不能保证完整动作正确。

Tianda Sun, Dimitar Kazakov

arXiv cs.AI · cs.CL

MS-Exam-Gen: An Automatic Benchmark Construction Toolkit for Evaluating LLMs on Multiple Sclerosis-MRI Imaging Knowledge

说明MS-Exam-Gen:用于评估大模型多发性硬化症MRI知识的自动化基准构建工具包

简介该论文提出MS-Exam-Gen框架,用于自动构建和审核基于文本的多发性硬化症MRI选择题基准,并不评估直接的影像解读。研究从66份来源文献中构建出3,058道候选题目,涵盖16个主题和53个子主题,测试了12个主要大模型端点,准确率范围为46.9%至89.7%。作者强调该基准并非经临床认证的考试,仍需专家审定和选项顺序平衡等后续工作。

Abdul Basit, Muhammad Abdullah Hanif, Muhammad Shafique

arXiv cs.CV

Bayesian Optimization in Sequence-to-Architecture Latent Space for Zero-Shot NAS

说明基于序列到架构潜在空间的贝叶斯优化用于零样本神经架构搜索

简介该论文针对零样本神经架构搜索(NAS)中常用进化算法易退化为近似随机搜索的问题,提出把贝叶斯优化引入大规模网络架构搜索。方法是用变分自编码器学习架构的潜在空间,并将多个零样本代理指标合并为一个贝叶斯优化目标。论文称,在给定参数量约束下,该方法在图像分类、目标检测和语义分割三项任务上取得了最先进的结果。

Ondrej Tybl, Lukas Neumann

arXiv cs.CL

Introducing Code-Switched Contexts to Cognitively-Inspired Bilingual Model Training

说明将语码转换语境引入受认知启发的双语模型训练

简介该研究借鉴双语儿童习得语言时接触语码转换输入的现象,在预训练中加入合成的语码转换数据。作者在两组类型学上差异明显的语言对上,控制语码转换的结构位置和训练各阶段的转换频率,考察训练效率。结果显示,对于类型学上较为接近的语言,使用语码转换数据能改善跨语言对齐。

Zhuojing Huang, Luise Pohlmann, Lisa Beinborn

★★★★☆ 值得关注
arXiv cs.LG

TIGER: Time-Series Classification with In-Context-Learning Gated Ensemble of Representations

说明TIGER:基于上下文学习门控集成的时间序列分类方法

简介论文提出TIGER方法,用三种通用分类器和四类时间序列表示,共十二个基学习器的预测组成元特征矩阵,再按数据集在加权多数投票与预训练表格模型TabICLv2之间自适应选择最终分类。在UCR档案的142个数据集上,其平均准确率、平衡准确率和F1分数在比较的六种算法中最高,包括HIVE-COTE 2.0。

看点用通用分类器组合四类表示并以自适应元分类规则融合,在142个数据集上超越HIVE-COTE 2.0,证据充分,影响时间序列分类领域。

Johann Faouzi

arXiv cs.CV · cs.AI

Graph-Based Recognition of Simulated Train-Driver States From Facial and Upper-Body Keypoints

说明基于面部与上半身关键点图神经网络的模拟列车司机状态识别

简介本文提出一种仅使用单个前向RGB摄像头和图神经网络的视觉监测系统,用于将模拟列车司机状态分为警觉、非警觉和模拟紧急行为三类。研究比较了仅骨骼、仅面部及两者结合三种特征配置,结果显示结合面部与骨骼特征在光照条件下的三分类准确率最高,达81%,警觉与非警觉二分类准确率达99%。作者还发布了一个在三种光照条件下录制的受控RGB视频数据集。

Olivia Nocentini, Marta Lagomarsino, Gokhan Solak 等

arXiv cs.AR · cs.LG

Reinforcement Learning-Based Optimization of Workload-Aware Power Delivery Networks

说明基于强化学习、感知工作负载的供电网络优化

简介本文提出一种基于强化学习的框架,用于优化感知工作负载的芯片供电网络(PDN)。方法利用系统级仿真得到的功耗轨迹,按局部电流需求分配PDN资源,再由深度Q网络智能体调整导线宽度以减小面积。实验基于4、8、16核多处理器版图和PARSEC、SPLASH-2基准负载,平均归一化面积减少47%,并满足所有电迁移和IR压降约束;优化质量与模拟退火相当,速度约快26倍。

Oran Hayes, Maria Pantazi-Kypraiou, Athanasios Tziouvaras 等

arXiv cs.CV · cs.CL

Efficient Test-time Adaptation through Candidate Verification and Divergence Shifts

说明通过候选验证与分歧偏移实现高效测试时自适应

简介视觉-语言模型在推理时遇到目标域变化时容易失效,现有测试时自适应方法多通过调整预测结果来适应,计算开销较大。本文提出测试时修正方法TTC,将测试时自适应视为候选标签验证:对每个候选标签假设性地重建特征并测量子空间的分歧偏移,选择偏移最小的候选作为修正结果。该方法无需训练和迭代优化,在15个基准数据集的五种设置中提升了准确率,同时实现最高2倍加速。

Seungmin Oh, Seunghun Kang, Jongbin Ryu

arXiv cs.AI · cs.CV · cs.LG

Impact of Data Augmentation on Confidence Calibration in Melanoma Classification

说明数据增强对黑色素瘤分类置信度校准的影响

简介该论文研究了数据增强对黑色素瘤图像分类模型置信度校准的影响。作者在 SIIM-ISIC 2020 黑色素瘤分类数据集上,分别在使用和不使用数据增强的两种条件下训练神经网络,并比较 AUC 与期望校准误差(ECE)。结果显示,不同的数据增强方法都改善了不确定性校准。

Morgan May, Simon Caton, Pierpaolo Dondio

arXiv cs.RO · cs.AI

Demo: Vision-Language Model-Guided Online Calibration of an Electromagnetic Digital Twin

说明演示:视觉-语言模型引导的电磁数字孪生在线校准

简介该演示面向移动机器人,用电磁数字孪生提供无线环境感知,但其材料电导率会随环境变化。作者用视觉-语言模型调用两次:先识别可见材料并借助ITU-R P.2040给出电导率先验,再在线选择下一个测量位置。在真实室内场景中,该方法在约20米移动内将归一化平均绝对电导率误差降至1.74×10⁻⁴,而随机初始化不收敛,随机路点所需移动距离超过两倍。

Zerui Kang, Yishen Lim, Zhouyou Gu 等

arXiv cs.LG

When Attention Does Not Explain the Peak: Temporal Reference vs. Forecast Output in Attention-Based Time-Series Forecasting

说明注意力未必解释预测峰值:基于注意力的时间序列预测中,时间参照与预测输出的区别

简介论文研究基于注意力的负荷预测模型,检验其交叉注意力图能否解释预测峰值的时间位置。在Panama负荷数据的31个窗口中,模型预测峰值误差中位数为0小时,而注意力最高点的误差中位数为5小时,两者不一致。作者认为,结构化且可复现的注意力不一定能有效解释预测行为,其作用可能是整合未来外生信息,但这一功能角色尚未被因果证实。

Yuji Akamatsu, Takao Yamanaka

arXiv cs.AI · cs.CV · cs.LG

On Impact of Loss Function on the Performance of Neural Networks in Melanoma Diagnosis

说明损失函数对神经网络黑色素瘤诊断性能的影响

简介黑色素瘤是最致命的皮肤癌,早期诊断对患者生存至关重要。由于SIIM-ISIC等数据集存在类别不平衡问题,本文研究了不同损失函数对深度神经网络性能的影响,包括焦点损失、logit调整的softmax交叉熵损失和加权softmax交叉熵损失。作者同时报告了性能与不确定性校准的多项指标。结果表明,焦点损失在AUC和期望校准误差(ECE)两方面表现较为均衡。

Morgan May, Pierpaolo Dondio, Simon Caton

arXiv cs.LG · cs.AR

Co-Optimizing Graph Sparsification and Approximate Computing for Energy-Efficient FPGA-Based GCN Inference

说明面向节能型 FPGA 图卷积网络推理的图稀疏化与近似计算协同优化

简介本文提出一种基于 FPGA 的图卷积网络(GCN)加速器,在 AMD Kria KV260 上结合 DSpar 图稀疏化、8 位量化与近似乘法器。在 Cora、LastFM Asia 和 Amazon Photo 数据集上的实验表明,近似算术的效果取决于 GCN 计算中的累加深度,稀疏化通过减少累加深度提高其可行性。该组合方法在 Amazon Photo 上最高实现 9.88 倍加速并保持 86.6% 的分类准确率,总功耗低于 1 W。

Nathaniel Kaye Mellor, Shreejith Shanker, George Floros

arXiv cs.CV

AnchorGen: Anchored Optimization for Customizable Generative 3D Design

说明AnchorGen:面向可定制生成式三维设计的锚定优化方法

简介该论文提出AnchorGen,一种基于修正流(rectified flow)的三维形状生成框架,在形状与草图的联合隐空间上无条件训练。推理时通过约束草图隐变量接近目标草图(余弦惩罚),并用梯度下降最小化可微的阻力代理函数来优化形状隐变量,从而在保持设计风格的前提下进行优化、编辑和草图生成。

Hantao Zhang, Oliver Heinimann, Jieke Wu 等

arXiv cs.LG · cs.AI

Machine learning for journal entry testing: A type-aware evaluation of anomaly detectors under a review budget

说明分录测试中的机器学习:在审查预算约束下按异常类型评估异常检测器

简介本文指出,现有分录异常检测多以全量数据的ROC-AUC、精确率和召回率评估,忽略了审查预算和异常类型覆盖。作者提出按类型感知的评估方法,包括按类型召回率、公平份额类型召回率、类型覆盖度和首次命中排名,并在四份真实客户分类账及一份公开合成账本上比较了九种无监督检测器、一种有监督参考方法和反馈驱动的DeepSAD。结果显示,高命中率可能掩盖对某些类型的系统性盲区,反馈机制未必能扩大异常覆盖范围。

Jan Gronewald, Michel Scherer, Nijat Mehdiyev

arXiv cs.LG

Few-Shot Bioactivity Prediction with Meta-Learning under Assay Heterogeneity

说明基于元学习的少样本生物活性预测(应对检测异质性)

简介论文研究在药物早期发现中,如何在每个检测实验数据很少的情况下预测化合物生物活性。作者发现,当元训练任务之间的异质性增加时,元学习的效果会下降。为此提出MetaHeta框架,利用相关检测的辅助数据进行条件预测,并结合线性注意力与精确注意力,在ChEMBL和BindingDB数据上改善少样本预测及后续化合物优先级排序。

Michal Kmicikiewicz, Tommy Rochussen, Vincent Fortuin 等

arXiv cs.LG

Integrating Survival-Based Aging Models with Data-Driven RUL Prognostics

说明将基于生存分析的磨损老化模型与数据驱动的剩余寿命预测相融合

简介本文提出一种概率融合框架,将基于磨损的生存模型与基于传感器数据的深度学习模型通过故障概率分布结合,用于预测设备剩余使用寿命(RUL)。在多个 N-CMAPSS 数据集上的实验显示,融合模型的点预测精度更高,C 指数保持不变,且预测区间更窄、校准效果良好。

Abhishek Srinivasan, Juan Carlos Andresen, Sepideh Pashami 等

arXiv cs.AI

Benchmarking Jailbreak Guardrails for Embodied Agents

说明具身智能体越狱防护机制的基准评测

简介该论文首次系统评测了面向具身智能体的越狱防护机制(guardrail)。作者构建了可插拔评测框架,将六种代表性防护方法置于感知、规划或控制阶段进行拦截,并用模板化和自动化越狱攻击及安全指令进行测试。评测从防御效果、可用性和效率三方面进行,结果显示三者之间存在明显权衡,且没有任何单一防护方法在所有场景中都占优。

Xunguang Wang, Qingyue Wang, Yuguang Zhou 等

arXiv cs.LG

Mind the Drift: Diagonal Linear Networks Under Large Learning Rates

说明《Mind the Drift》:大学习率下的对角线性网络

简介该论文研究在大学习率下,对角线性网络训练中两种隐式偏置的竞争,以及它们如何共同决定回归中恢复解的稀疏性。作者在梯度下降相对梯度流的平均离散化误差(Gain)之外,提出了相关但先前被忽视的量Drift,用以描述不同离散化误差之间的失衡。论文提出一种主动调控Gain的干预方法,以恢复更尖锐、更稀疏的解,并认为大学习率并不必然阻碍稀疏解的恢复。

Aniket Sanyal, Tom Jacobs, Rebekka Burkholz

arXiv cs.LG

ORCA: The Annealed Spectral Conditioning Optimizer for Faster, Better LLM Training

说明ORCA:一种用于更快、更好地训练大语言模型的退火谱条件优化器

简介该论文提出了 ORCA(Orthogonal Regularization, Cooled After)优化器,在训练早期施加较强但暂时的软正交正则化,之后移除,使权重矩阵在早期获得更宽的谱,后期自由适应任务。实验覆盖 130M 至 8B 参数的 LLaMA、Qwen3 及细粒度专家混合模型,结果显示 ORCA 的最终验证损失低于 Muon,且无需修改架构、额外开销很小。

Yuanshi Liu, Boyuan Jiang, Liang Hou 等

arXiv cs.CL · cs.AI

Whispering Wisely: Smart Subset Selection for ASR Fine-Tuning

说明《Whispering Wisely》:面向语音识别微调的智能子集选择方法

简介该论文针对 OpenAI Whisper 等自动语音识别模型微调成本高的问题,提出基于嵌入的训练子集选择方法:利用 Whisper 预训练编码器把音频映射到固定维度空间,再用贪心 k-center 算法挑选多样且有代表性的训练样本。在希伯来语和丹麦语上的实验显示,k-center 选择通常优于随机抽样,尤其在较小样本规模下;词汇多样性分析表明其覆盖的语言内容更广。

Roi Yozevitch, Or Haim Anidjar

arXiv cs.LG

Flash-OPD: Fast On-Policy Distillation

说明Flash-OPD:快速的在线策略蒸馏

简介本文提出Flash-OPD,用于加速在线策略蒸馏(OPD)。该方法不预先设定固定的生成长度,而是在生成过程中依据教师与学生的兼容性事件,逐条轨迹地判断何时停止,并通过交替进行缓存生成与教师验证来降低开销。作者报告,在多种数据集和教师-学生设置下,相比标准OPD可获得2.2至7.5倍的加速,同时保持或提升准确率。

Wei Chen, Junle Chen, Yitong Yang 等

arXiv cs.CV

Benchmarking CLIP for Zero-Shot Face and Periocular Gender Estimation

说明基于CLIP的零样本人脸与眼周性别估计基准测试

简介本文研究使用CLIP模型对全脸和眼周图像进行零样本性别估计。在Adience数据集的11,299张正面图像上评估了三种CLIP骨干网络,全脸准确率达95.54%,无需任务特定训练。对于眼周图像,零样本预测明显偏向男性,主要原因是决策边界错位;阈值校准后准确率提升至85.29%。基于CLIP特征训练的线性SVM仅带来有限提升,眼周最佳准确率为86.17%,比文献中先前的Adience结果高约2.8%。不过,与全脸的差距表明眼周性别估计难度更大。

Fernando Alonso-Fernandez, Kevin Hernandez-Diaz, Jose Maria Buades 等

arXiv cs.CL

From Traces to Agentic Worlds: Agentic Language World Models for Interactive Environment Simulation

说明从交互轨迹到智能体世界:面向交互环境模拟的智能体语言世界模型

简介该论文提出“智能体语言世界模型”范式,由一个世界模型智能体充当任务智能体的环境,而非重建可执行环境。作者提出无需学习的 Trace2Env 框架:在原系统不可用时,利用历史交互轨迹构建可复用的环境知识库,并在运行时结合持久状态进行有状态模拟。论文称在九个环境中,该方法在下一步观测的忠实度与长时程一致性上均优于基于提示的方法。

Quanyu Long, Xiao Chen, Jianda Chen 等

arXiv cs.LG · cs.AI

On the Geometry of Multimodal Saturation: Riemannian VICReg

说明多模态饱和的几何学:黎曼式 VICReg

简介本文研究自监督学习中加入第三种模态(图像、文本、表格三模态)反而降低性能的现象,在九个数据集上发现三模态模型在55.6%的配对实验中不及其最佳双模态子集(VICReg),作者将此称为“多模态饱和”。作者认为问题出在对齐几何结构上,并提出黎曼式 VICReg(R-VICReg),在可学习的负曲率乘积因子上按测地距离平方对齐视图,曲率趋零时退化为经典 VICReg。在相同的45组配对实验中,R-VICReg 将第三模态带来收益的概率从44.4%提升到64.4%。

Nessim Ben Abbes, Duc Han Le, Sabri Mtibaa 等

arXiv cs.LG

Transmission Factors for Lossy Compression of PDE Training Data: Measuring What Reaches a Trained Operator

说明PDE训练数据有损压缩的传递因子:衡量压缩后数据对训练算子的实际影响

简介本文指出,常用的以存储场重建误差控制有损压缩的做法衡量错了位置,因为真正决定模型精度的是用压缩数据训练出的模型表现。作者提出用已在全精度数据上训练好的模型,比较压缩场与原始场的输出差异来度量传递因子,无需用压缩数据训练。该方法在六个PDE族上验证,比场误差更能排序下游代价,并可据此为每个数据集给出存储比特率建议。

Huy Hoang Le

arXiv cs.CV 有代码

Anatomy-preserving unpaired cone-beam CT refinement for image-guided radiotherapy using pseudo-label guided diffusion

说明基于伪标签引导扩散的保留解剖结构非配对锥束CT图像优化方法(RefineCBCT)

简介该论文提出RefineCBCT,一种用于图像引导放疗的非配对锥束CT(CBCT)图像优化框架,利用伪标签引导和短步扩散来减少伪影并保留患者特定解剖结构。研究在LUNG TCIA和PELVIC TCIA公开数据集上进行训练与评估,并与代表性GAN及扩散方法比较,在两个数据集的多项指标上取得较好结果。作者认为该方法可在非配对训练条件下提升CBCT的可靠性。

Qi Lai, Yutong He

arXiv cs.RO · cs.AI 有代码

Adaptive Mean Flow for Responsive Closed-Loop Robot Control

说明面向响应式闭环机器人控制的自适应均值流方法

简介扩散与流式机器人策略因高性能和建模多模态分布的能力,被广泛用于模仿学习,但其迭代去噪带来明显的预测延迟,难以实现高频闭环控制。本文提出自适应均值流(AMF),利用加速的流匹配形式降低预测延迟,并在预测时引入上一步轨迹的加噪版本以保证预测连贯,从而实现平滑、完全闭环的机器人控制。作者在多种仿真与真实机器人任务上进行评估,结果显示其性能明显优于基线方法。

Aksel Vaaler, Marco Job, Christian Holden 等

arXiv cs.LG · cs.GT

Rethinking Least-Core Computation in Contextual-Distractor Games

说明重新思考上下文干扰博弈中的最小核计算

简介该论文研究用博弈论方法解释模型时,如何在最小核分配中选择收益并进行联盟抽样,以识别有益与有害的特征或训练样本。作者提出熵最小核(ELC)这一平滑近似方法,其唯一最小化解沿温度变化的连续路径趋向核仁。实验显示,ELC 比基于线性规划的核仁求解器更快,且收益误差较小;在测试的完整联盟上下文干扰博弈中,其识别准确率与最小范数选择器相当,并能更准确地对干扰项的危害程度进行排序。

Hiroshi Kera, Toshinori Yamauchi, Sai Ganesh Nagarajan

arXiv cs.LG · cs.AI

Boosting Transferable Adversarial Attacks against Deep Reinforcement Learning

说明提升针对深度强化学习的可迁移对抗攻击

简介本文研究对深度强化学习智能体的黑盒迁移攻击:攻击者在白盒替代智能体上生成观测扰动,再用于未知的受害智能体。作者提出轨迹级攻击,在滚动时域内优化一系列扰动,并在 CartPole-v1 上与逐步攻击及随机噪声进行比较。结果显示,在白盒、跨模型和跨算法设置下,轨迹级攻击的效果均优于其他方法。

Zexin Li, Ruili Yao, Yiming Zeng 等

arXiv cs.RO · cs.AI

Do VLAs Understand and Adapt to the Objects They Handle, or Simply Replay Learned Behaviors?

说明视觉-语言-动作模型(VLA)是否理解并适应所操作的物体,还是只是复现已学行为?

简介该论文探讨VLA模型的泛化能力是基于对物体物理属性的全局理解并据此调整动作,还是仅复现在新场景中恰好成功的已学动作。研究对七个VLA模型的激活进行线性探测和表征相似性分析,发现质量、易碎性、形变性、摩擦力和尺寸等物理属性的可解码性普遍低于语义类别、材质、声音和价格等非物理属性。在LIBERO案例中,增加物体质量后,多数模型对重物与原质量物体使用相似的抬起动作,导致任务成功率下降,表明VLA对物理属性的编码较弱,也未能可靠地据此调整动作。

Xinnuo Xu

arXiv math.OC · cs.LG

Last-Iterate Convergence Rate of Normalized Gradient Descent under Hölder Smoothness

说明归一化梯度下降在赫尔德光滑条件下的末次迭代收敛速率

简介本文研究凸且满足赫尔德光滑条件的目标函数上,归一化梯度下降法的末次迭代收敛性。对常数步长,给出的上界为O((log²T/T)^((1+ν)/2)),相比已知的最优迭代与加权平均迭代结果多一个对数因子。作者还用性能估计问题(PEP)做数值实验,并证明线性递减步长可得到与之同阶的末次迭代保证O(T^(-(1+ν)/2)),且无需事先知道ν和M_ν。

Yuki Takezawa, Eduard Gorbunov

arXiv cs.MA · cs.AI · cs.CL

Attention Tax, Handoff Tax: A Stylised Model of When Multi-Agent LLM Systems Help

说明注意力税与交接税:多智能体大模型系统何时有效的简化模型

简介本文提出一个简化的可靠性模型,用于解释多智能体大模型系统在何种条件下优于单一智能体。模型包含两种权衡:任务分解减轻长上下文负担但需支付信息交接成本,多次采样的冗余收益则取决于失败的相关程度。作者在账本对账任务上通过单智能体和交接实验估计参数,模型预测在深度10处出现转折,并预测深度20、50和100时分解方案更优,实验结果与预测一致。

Akshit Anchan, Nayonika Sen

★★★★☆ 值得关注
arXiv cs.LG 有代码

What Must Replay Preserve? Separating Correctable Bias from Class Correspondence

说明重放必须保留什么?区分可校正的偏差与类别对应关系

简介该论文研究类增量学习中的 logit 重放方法(如 DER、DER++),区分已存储时已知的类别与之后学习的类别,分别编辑这两组的存储分数,并在任务级偏移前后评估模型。在 CIFAR-100 上,对后学类别的存储分数替换为固定常数,可使性能差距保持在 1 个百分点的等价范围内;删除其匹配的代价可由偏移校正。但重新分配存储时已知类别的非正确类分数的代价依然存在,且在图像蒸馏中也有类似表现。

看点提出区分可校正偏置与类别对应关系的诊断框架,在CIFAR-100上用受控编辑与任务级偏移给出较清楚的分解证据,对持续学习的回放设计有参考价值。

BoRen Deng, Xiangyue Ma, Chenglong Li 等

arXiv cs.CL

TrustMI: Causally controlling how assistants trust their users

说明TrustMI:通过因果干预控制助手对用户的信任程度

简介该论文研究大语言模型助手是否愿意信任无法核实身份或意图的用户与第三方,并将信任定义为接受对他人行为的脆弱性。作者构建了2000组对比对话,涵盖能力、善意与正直三个维度,并在冻结参数的前提下学习激活空间中的引导矩阵。在六个指令微调模型上的实验显示,信任决策可沿线性方向被双向单调地控制,并进一步在有害请求、提示注入和内部威胁等安全相关场景中进行了检验。

Th\'eo Lasnier, Romain Froger, Maxence Lasbordes 等

arXiv cs.CV · cs.AI · cs.LG

Vision Transformer Ensembles for Panoramic Street Segmentation

说明用于全景街景分割的视觉Transformer集成方法

简介本文介绍了一个在PalmCity挑战赛中获得第一名的街景全景语义分割系统。研究在近似相同的计算预算下比较了九种预训练分割模型,并选出两个领先模型进行多种子训练。将三个Encoder only Mask Transformer模型的类别概率平均后,在公开验证集上取得60.95%的平均交并比,在隐藏测试榜上为57.08%。

Yunus Serhat B{\i}\c{c}ak\c{c}{\i}

arXiv cs.LG

Pay to Learn, Share to Earn: Incentivized Federated Multi-Player Bandits

说明付费学习,分享获益:带激励机制的联邦多玩家老虎机

简介本文研究多个玩家与共同环境互动、通过中央服务器共享信息加速学习的联邦多臂老虎机问题。作者考虑玩家自利、需要激励才愿意协作的现实情况,提出给分享信息者奖励、向服务器购买信息者收费的框架。文中提出基于UCB的Buying-UCB算法,并给出群体遗憾与购买成本的理论上界,实验验证了其在不同协作与定价方式下的效果。

Pavamana K J, Chandramani Singh

arXiv cs.SD · cs.AI

A Comprehensive Objective Evaluation of Modern Text-to-Speech for Turkish Using Speech Quality Assessment Models

说明土耳其语现代文本转语音系统的客观评测(使用语音质量评估模型)

简介本文对四个当代文本转语音系统(Chatterbox、CosyVoice、OmniVoice、VoxCPM2)在微调和零样本两种配置下进行了系统评测,并与传统VITS基线及真实语音进行比较,评测对象为土耳其语这类形态丰富、资源较少的语言。研究使用十八项客观指标,涵盖自然度、可懂度、说话人相似度等方面,并分析了语音质量随长度变化的情况及长文本中说话人与自然度的稳定性。作者同时公开了评测代码。

Yunus Emre Ozkose, Alperen Kahraman, Ali Haznedaroglu

arXiv cs.CV · cs.AI · cs.CL

ROT: Rotating Hidden States towards Contextual Vectors for Hallucination Mitigation in LVLMs

说明ROT:将隐藏状态旋转至上下文向量以缓解大型视觉语言模型中的幻觉

简介大型视觉语言模型常出现物体幻觉问题。本文提出ROT,一种无需训练、按层工作的方法:在中间层检测语义偏离,并通过保持范数的旋转将隐藏状态拉回由文本与视觉上下文张成的多模态平面,后续层再用表示平滑机制稳定校正后的轨迹。作者称在多个基准和不同模型架构与规模上,该方法都能减少幻觉。

Yijing Du, Xiangcheng Zhan, Shuo Yang

arXiv cs.CV · cs.AI 有代码

Local2Mesh: Spatially Localized Contour-to-Mesh for Left Ventricular Reconstruction from Sparse 2D Cardiac MRI

说明Local2Mesh:基于稀疏二维心脏磁共振轮廓重建左心室三维网格的局部化方法

简介该论文针对由稀疏二维心脏磁共振轮廓重建左心室三维几何的难题,提出Local2Mesh框架,通过变形模板网格完成重建,无需三维网格标注。框架包含校正切片间错位的几何感知对齐模块,以及按顶点到平面距离分配轮廓特征的局部路由模块。实验在M&Ms-2和ACDC两个公开数据集上进行,报告在几何重建、功能估计及跨数据集零样本迁移方面均优于现有方法。

Haoyu Wu, Ling Lin, Pascal Lef\`evre 等

arXiv cs.AI

RocketAgent: A Long-Horizon Engineering Agent for Multidisciplinary Design of Liquid-Rocket Thrust Chambers

说明RocketAgent:面向液体火箭推力室多学科设计的长周期工程智能体

简介该论文提出RocketAgent,一种用于液体火箭推力室初步多学科设计的长周期工程智能体。系统由一个负责规划的编码智能体协调性能定尺、子系统优化、几何生成和多物理场评估等工程技能,并通过知识图谱、统一的设计中间表示及修订感知检查来管理参数和依赖关系。在代表性仿真案例中,系统从不可行的冷却搜索出发,经工程师授权修订工况点后找到可行方案,并完成后续几何生成与多物理场评估。

Junxiang He, Runze Mao, Kun He 等

arXiv cs.LG

GO-Based Clustering for Learning Cluster-Level Causal Gene Regulatory Networks

说明基于GO的聚类用于学习簇级因果基因调控网络

简介论文提出GO4CD算法,利用基因本体(GO)把参与相同生物过程的基因分组,并通过本体层级得到不同粒度的基因簇。作者将其与簇级因果学习方法CLOC结合,在多个大肠杆菌调控子网上测试。结果显示,GO4CD划分在18.1%的情况下不可采纳,而语义相似度基线为65.3%至82.3%。

Azlaan Mustafa Samad, Wei Zhang, Ad\`ele H Ribeiro

arXiv cs.CV · cs.AI 有代码

Representation Disentanglement for Fair Chest X-Ray Diagnosis

说明面向公平胸片诊断的表征解耦方法

简介本文提出一种单编码器框架,结合双层去相关与原型引导的跨组对比学习,以减少模型表征对人口统计学特征的依赖。作者还提出了一项新指标DRAR,用于衡量疾病表征中人口结构的减少程度。在CheXpert测试集的8个交叉人群组上,相较经验风险最小化(ERM),该方法将平均机会均等差距由15.41%降至10.86%,AUC差距由5.95%降至5.01%,平均AUC仅略有下降。

Yujie Sun, Ruizhe Li, Xiaowu Sun

arXiv cs.LG · cs.AI

MercerFlow: Flow Matching in a Kernel-Induced Latent Space for Probabilistic Forecasting

说明MercerFlow:基于核诱导潜空间的概率时间序列预测流匹配方法

简介该论文提出 MercerFlow,在时间序列预测的条件流匹配中,把序列映射到由先验核的 Mercer 特征基定义的潜空间,再用 MLP 学习流。作者在五个 GluonTS 基准上与 TSFlow 比较,结果显示其 CRPS 相当或更优,同时训练显存约减少 4.7 倍,每个 epoch 耗时约减少 3.5 至 4.4 倍。

Ilya Kuleshov, Egor Serov, Alexey Zaytsev

arXiv cs.CV

Casual Flash Lighting for Gaussian Splat Inverse Rendering

说明基于随手拍闪光灯的高斯溅射逆渲染

简介该论文研究从室内随手拍摄的照片中同时恢复几何、材质和光照,结合开灯与关灯、开闪光灯与不开闪光灯的图像,无需暗室或专用设备。作者提出以2DGS深度为锚点的漫反射场,并用延迟着色渲染静态光照,使闪光残差能有效驱动材质分解。在五个合成场景和三个真实室内场景上,该方法在漫反射颜色、反照率和粗糙度等材质参数上优于六种近期基线方法,重光照的PSNR比次优基线提高4.17 dB。

Jiamin Xu, Dongheng Wei, Jiarong Zhao 等

arXiv eess.IV · cs.CV · cs.LG

How well do routinely collected demographic and clinical variables aid point-of-care lung ultrasound TB classification

说明常规收集的人口统计与临床变量对床旁肺超声结核分类有多大帮助

简介该研究把肺超声图像与常规收集的临床和人口统计数据融合,用深度学习自动筛查结核病。简单平均融合各自训练的图像分类器与临床数据分类器的输出分数,效果不低于更复杂的早期融合方法,整体AUROC为0.95,比仅用图像的基线提高约4个百分点。研究还发现,对临床数据做贪心特征选择可减少输入而不降低性能,而纳入的床旁检测带来的收益很小。

Joshua M. Jansen van V\"uren, Christiaan M. Geldenhuys, Devendra S. Parihar 等

arXiv cs.CL · cs.AI

LightMTP: Lightweight Latent Multi-Token Prediction

说明LightMTP:轻量级潜在多词元预测(一种让语言模型同时预测多个未来词元、且几乎不增加参数的训练方法)

简介标准的大语言模型预训练只让模型预测下一个词元,容易依赖局部模式。现有的多词元预测方法往往引入大量新参数,且依赖外部辅助模型编码未来词元。LightMTP 从模型自身的隐藏状态中生成未来词元表示,额外参数最多不超过 1%,在通用语言建模基准上表现更好,并在规划、编程和推理任务上取得相近的提升。

Tamara Czinczoll, Julie Kallini, Gerard de Melo 等

arXiv cs.CL · cs.AI 有代码

Differentiable Bit-Widths: Co-optimizing Pruning and Quantization via SVD for Ultra-Efficient LLM Compression

说明可微分位宽:通过SVD联合优化剪枝与量化,实现超高效大语言模型压缩

简介本文提出一种统一框架,同时优化基于SVD的剪枝与量化,而非先剪枝后量化的两阶段流程。核心方法是可微分地学习各分量的位宽,重要性较低的分量可被分配0比特并被剪除。论文称,在面向超高效率的极端量化设定(1.61比特)下,该方法优于两阶段基线方法。

Hankyul Kang, Jongbin Ryu

arXiv cs.AI

Grounded Joint-Attention Other-Play for Zero-Shot Coordination

说明基于联合注意力的其他博弈方法,用于零样本协作

简介本文受人类联合注意力机制启发,提出多智能体强化学习方法MATE,让智能体在交互中把视觉注意力对齐到场景中显著的物体上,从而无需依赖训练时形成的任意约定即可与未知伙伴协作。作者在卡牌对齐游戏、基于等级的觅食任务和OvercookedV2三个基准上进行评估,结果显示该信号能持续改善与未知伙伴的协作效果。

Giulia Benintendi, Constantin Ruhdorfer, Fabian K\"ogel 等

arXiv cs.LG

Joint Precision Neural Networks: Task-Aware Dependency and Predictive Learning

说明联合精度神经网络:面向任务的依赖关系与预测学习

简介本文提出 PNN-Joint 框架,在训练中以交替优化方式同时估计稀疏的精度矩阵(协方差矩阵的逆)并学习图神经网络权重,使所学图结构面向具体任务。文中还定义了更广义的精度神经网络(PNN),并建立其与 PCA、协方差神经网络的谱联系及对有限样本误差的稳定性。实验包括合成数据及真实神经影像与运动传感器数据,报告所得图具有较好可解释性,在低数据场景下表现稳健,并在真实任务中多数取得最优或次优结果。

Andrea Cavallo, Samuel Rey, Antonio G. Marques 等

arXiv cs.AI

CuratorMAS: Automating Dataset Curation via Multi-Agent Orchestration

说明CuratorMAS:通过多智能体协作自动化数据集整理

简介该论文提出CuratorMAS,一个多智能体协作框架,用于自动评估和整理高质量数据集。它将整理流程拆分为五个可编程执行阶段,包括数据集探索、检索在线领域知识、确定评估标准并计算指标、执行过滤以及通过演化模块更新相关技能。实验显示,该方法最多可将噪声率降低36.03个百分点,并可将下游模型的F1分数提高到一定幅度。

Yixin Zhang, Wenjie Feng

arXiv cs.CV · cs.AI 有代码

Scalable Minimal-Change Learning for Controllable Image Editing

说明面向可控图像编辑的可扩展最小改动学习

简介该论文提出 ARRO 方法,用强化学习训练基于指令的图像编辑模型,只修改指令指定的属性、尽量保持其余内容不变。方法使用视觉语言奖励模型检查未实现的请求修改和意外改动,无需逐条人工标注。在 FLUX.1 Kontext-dev 上,四个基准的平均 EditScore 从 5.21 提升到 5.88,600 个评测样例的非目标像素变化减少 8.4%。

Shuo Chen, Fengming Huang, Yu Yao 等

arXiv cs.CV

Patch-based Querying Identifies Structures of Interest in Electron Microscopy

说明基于图像块查询的电子显微镜感兴趣结构识别

简介该论文提出一种基于图像块检索的框架,用于在体电子显微镜(vEM)数据中定位结构相似的细胞结构。该方法通过自监督学习局部图像描述子,只需少量人工标注即可检索整个电镜体数据中的相似结构,并支持交互式优化查询。在真实生物组织图像上的实验表明,该框架能够可靠地识别相关细胞结构,并可大幅缩小后续分析的搜索范围。

Niels Vyncke, Nicolas Nadisic, Yvan Saeys 等

arXiv cs.LG · cs.AI

Adaptive Expert Guidance for Efficient On-Policy Reinforcement Learning

说明面向高效同策略强化学习的自适应专家引导方法

简介本文针对同策略强化学习(如 PPO)从零学习样本效率低的问题,提出在每个训练回合中让学习者与次优专家交替控制,专家的控制比例是一个与策略联合优化的可学习参数。学习者在训练初期借助专家,随能力提升,专家的控制比例逐渐下降直至消失。作者在两个基准的 34 个任务上进行评估,报告相较引导与非引导基线,样本效率有所提升。

Daniele Affinita, Ming Xu, Rudolf Reiter 等

arXiv cs.CV · cs.AI · cs.CL

Investigating Query-Insensitive Behavior in Spatio-Temporal Video Grounding

说明探究时空视频定位中与查询无关的行为

简介时空视频定位(STVG)要求模型根据自然语言查询,在视频的空间和时间中定位对应的物体或事件。本文发现,现有模型在查询与视频无关甚至完全缺失文本时,仍能给出看似合理的时空预测。作者还分析了 HCSTVG-v2 和 VidSTG 数据集中可能助长这种行为的规律,指出该局限尚未被充分研究,并呼吁采用能评估查询相关性的负样本评测方式与模型结构。

Eryk Ko{\l}odziejczyk, Alberto Presta, Karol Szurkowski 等

arXiv cs.GT · cs.AI · cs.MA

Parallelism or Concession? Concurrency-Aware Procurement Negotiation for Agentic Commerce

说明并行还是让步?面向智能体商业的并发感知采购谈判

简介本文研究智能体买方在单次采购中同时与多个卖家谈判的问题,并发虽然便宜,但每个线程都有成本,同时达成的协议还会带来取消和承诺风险。作者提出并发感知谈判优化器(CANO),用于联合确定谈判并发数和采购价格上限。实验表明,CANO在多种市场设定和压力测试中优于常见启发式策略,并验证了文中的结构性结论。

Xiaolin Xu, Donghao Zhu

arXiv cs.LG

Spectral Geometry of Attention: From Information Routing to Uncertainty

说明注意力的谱几何:从信息路由到不确定性

简介本文从谱几何和算子理论的角度研究 Transformer 的注意力机制,把每个注意力头看作在词元序列函数的希尔伯特空间之间的映射,并推导出词元差分算子。该算子的谱结构决定词元空间的信息如何路由到输出。作者提出一个基于注意力的不确定性估计器,在长上下文输入上提升最为明显。

Giulio Vigan\`o, Simone Melzi, Maks Ovsjanikov

arXiv cs.CL

D-Loop: Looped Diffusion Drafting for Speculative Decoding

说明D-Loop:用于推测解码的循环扩散草稿方法

简介论文指出,块扩散草稿模型每个位置独立预测边缘分布,容易产生相邻位置重复相同词元的“重复陷阱”,从而降低草稿质量和接受长度。作者提出D-Loop,在原有扩散草稿器内部引入块内因果条件,通过复用同一骨干网络进行两次循环前向,并用前缀与后缀联合目标训练。论文报告在八个数学、代码和对话基准上,D-Loop在Qwen3-4B和Qwen3-8B上优于DFlash与DSpark。

Kecheng Chen, Yuyang He, Cheng Gong 等

arXiv cs.LG · cs.CV

Ultrasound Operator Guidance Using World Modeling and Retrieval Based Action Planning

说明基于世界建模与检索式动作规划的超声操作引导

简介该论文提出一种用于超声检查操作引导的方法,将引导视为世界模型中的多步规划与检索问题。系统通过V-JEPA 2.1编码超声图像,从参考数据库中检索相似视图并直接利用已执行的探头移动,无需探头追踪硬件。在颈动脉超声中,回顾性闭环实验的目标视图到达率为86%,前瞻性可行性研究中为83%。

Noortje I.P. Schueler, Hans van Gorp, and Ruud J.G. van Sloun

arXiv cs.LG

Learning While Scheduling Jobs under Context-Dependent Service Rates: An Anytime Rate-Optimal Algorithm

说明在依赖上下文的服务速率下边调度边学习:一种随时最优速率算法

简介该论文研究上下文排队老虎机问题:学习者在调度任务的同时,学习由任务与服务器特征的逻辑函数建模的未知服务速率。作者提出 WISE 算法,在不知道时间跨度的情况下,实现每个足够大时刻的队列长度遗憾 Õ(t^{-1/2}),且仅假设容量余量,不要求特征协方差的下界。文中还给出了两个下界,并称仿真中即使上下文余量假设失效,遗憾仍然较小。

Seoungbin Bae, Dabeen Lee

arXiv cs.CL · cs.AI · cs.LG

LRCC: Generalizing Low-Rank Compression with Conditional Computation

说明LRCC:用条件计算推广低秩压缩

简介论文提出低秩条件计算(LRCC),为预训练语言模型的每个Transformer块训练一个轻量路由器,在一组嵌套的低秩路径中为每个token选择计算路径。训练时低秩因子保持冻结,只优化路由器。在Llama和Qwen模型上的实验显示,在相同平均激活参数预算下,LRCC的预测性能优于静态低秩压缩方法。

Thomas Vaitses Fontanari, Maximo Eduardo Rulli, Federico Alvetreti 等

arXiv stat.ML · cs.LG

Learning Decision-Stump Thresholds in Context: Dynamics of Softmax Attention

说明在上下文中学习决策桩阈值:Softmax注意力的动态

简介该论文研究梯度预训练如何让一个双参数softmax注意力模型学会估计决策阈值,即根据上下文定位未知边界附近的样本。作者证明,在特定初始化和恒定步长梯度下降下,学到的估计器对每个固定内部阈值的误差随任务数、样本数和上下文大小下降,并分析了其机制:注意力尺度随时间增长。

Hong Ha Le, Jackie Lok, Atsushi Nitanda 等

arXiv cs.RO · cs.LG 有代码

P3: Persistent Particle Planning for Constrained Diffusion Control

说明P3:面向约束扩散控制的持久粒子规划方法

简介本文提出持久粒子规划(P3),一种用于扩散模型控制的序列蒙特卡洛框架,在多次重规划过程中保持一组加权候选轨迹。每个控制步骤中,P3对候选轨迹进行平移和部分重新加噪,依据最新观测进行优化,并通过约束感知的加权与重采样选择后续路径,无需重新训练扩散模型。实验表明,复用候选群体可减少路线切换、提高成功率且不违反约束,在迷宫导航任务中规划速度也更快。

Hikmet Simsir, Mahyar Fardinfar, Ozgur S. Oguz

arXiv cs.SE · cs.AI

AgentSpy: Making AI Agent Behavior Observable

说明AgentSpy:让 AI 智能体的行为可被观察

简介基于大语言模型的 AI 智能体会以用户权限执行命令、读写文件并访问网络,但仅看测试结果或智能体自述难以了解其真实行为。本文提出 AgentSpy,在隔离环境中从外部记录智能体及其子进程的系统调用与网络流量,并支持一致性与安全性两类分析。作者在 77 项任务上进行了可靠性评估,并用通用规则检测安全攻击,其中四类攻击得到识别且 50 次运行中未出现误报。

Christoph B\"uhler, Matteo Biagiola, Luca Di Grazia 等

arXiv cs.CV · cs.LG

On Color Alignment in VAE Latent Spaces and Its Applications

说明VAE 潜空间中的颜色对齐及其应用

简介文献研究了文生图模型中变分自编码器(VAE)潜空间如何表示颜色。作者发现,从 SD1.5 到 FLUX.2 和 Z-Image 等多种 VAE 都存在一个与亮度及对立色轴对齐的颜色子空间。基于该发现,论文提出了 ColorTuning、饱和度控制和颜色迁移三项应用,其中 ColorTuning 在 GenColorBench 的 CSS3/X11 颜色体系上取得了精确数值颜色生成的最优结果。

Julian D. Santamaria, Kai Wang, Jes\'us Malo 等

arXiv cs.CV

A BEMD-Based Quaternion Filtering Approach Sharp-to-Soft Kernel CT Image Conversion

说明基于BEMD与四元数滤波的CT图像锐核转软核方法

简介CT图像的重建核选择影响画质:锐核提高空间分辨率但噪声较大,软核降低噪声却使边缘变模糊。本文提出一种结合二维经验模态分解(BEMD)与四元数双边滤波(QBF)的增强框架,将锐核CT图像转换为接近软核的效果,同时保留关键解剖结构。在多种重建核上的实验显示,该方法的SSIM与PSNR指标表现优于非局部均值、各向异性扩散和双边滤波等方法,且无需原始投影数据。

Mahmoud Nasr, Jan K. Argasinski, Krzysztof Brzostowski 等

arXiv cs.LG

Langevin Flow Maps: Efficient Molecular Dynamics and Transition Path Sampling

说明朗之万流映射:高效分子动力学与过渡路径采样

简介分子动力学模拟需要以飞秒为单位的小步长积分朗之万方程,难以估计长时间尺度上的系统性质与过渡动态。该论文提出朗之万流映射,在机器学习力场的基础上进一步学习随机朗之万积分器,从而支持大步长模拟。作者称其在保持动力学性质准确的同时,运行速度比现有机器学习力场快一个数量级,并展示了在多样化分子数据集上训练以实现可迁移性的方向。

Sam McCallum, Niklas Rindtorff, Alexander Tong 等

arXiv cs.LG · cs.AI · cs.RO

EpicWorldModel: Exploration-driven Planning with Latent World Models

说明EpicWorldModel:基于潜在世界模型、以探索驱动的规划方法

简介该论文提出 EpicWorldModel,用于训练在部分可观测、存在不确定性的环境中工作的随机型 JEPA 潜在世界模型。模型在目标场景被遮挡时,用流匹配目标直接预测多个可能的未来状态,并以预测方差作为探索信号,融入基于交叉熵方法的规划中。实验显示,相比 LeWorldModel,其成功率在部分任务上最高提升 22%。

Bowen Feng, Julian Ost, May Mei 等

arXiv cs.CL

Turnslide: Scalable Multi-Turn Data Synthesis by Walking a Finite-State Machine

说明Turnslide:通过遍历有限状态机实现可扩展的多轮数据合成

简介论文提出一种自动化的轻量级数据合成框架,将每个API建模为有限状态机,按状态生成有效的工具调用序列,再用一次大模型调用转换为完整对话样本。用生成的轨迹微调小型语言模型后,其下游准确率明显高于未改动的基线方法,并在与现有方法的对比中达到70.7%的完整准确率,同时消耗的token减少约3.6至6.6倍。

Aaron Fainman, Gabriela Kadlecov\'a, Maciej Gryka 等

arXiv cs.RO · cs.LG

How (and How Not) to Use Data Augmentation in VLA Post-Training

说明如何(以及如何不)在VLA后训练中使用数据增强

简介本文系统研究了图像增强对视觉-语言-动作(VLA)模型强化学习后训练的影响。研究发现,只在RL更新时增强评论家(critic)模块,而让执行器(actor)在采样和更新中都保持原始输入,效果最好;若增强执行器则训练会完全崩溃。作者在LIBERO-Plus上对π0.5和GR00T N1.5进行了测试,并给出提升泛化能力的实用建议。

Bram Grooten, Joaquin Vanschoren

arXiv cs.CV

From Transformation to Target State: Rethinking Query Representation for Zero-Shot Composed Image Retrieval

说明从变换到目标状态:重新思考零样本组合图像检索的查询表示

简介本文研究零样本组合图像检索,即用参考图像加修改文本查找目标图像。作者指出修改文本描述的是变化过程,而候选图像展示的是完成后的状态,二者表示不匹配。论文提出先用冻结的多模态大模型重建目标状态的静态表示,再进行检索,并提出免训练框架ASAP-CIR。在FashionIQ、CIRR和CIRCO上的实验显示,该方法在多目标的CIRCO基准上提升最明显。

Yihe Zhao, Songhe Feng

★★★★☆ 值得关注
arXiv cs.CV · cs.AI

Cross-Modal Forgetting and Transfer in Unified Multimodal Post-Training

说明统一多模态后训练中的跨模态遗忘与迁移

简介该论文研究统一多模态模型(同一组权重既能图像问答又能图像生成)在微调时的风险:训练一种能力可能损害另一模态中的能力。作者用LoRA对Janus-Pro-7B做后训练,单次训练时未训练的能力未见明显退化,但连续三次训练会破坏先前学到的能力,并使通用文本困惑度大幅上升。作者认为原因在于目标函数只约束被训练的模态,固定另一输出头可消除对未训练能力的损害。

看点揭示统一多模态模型后训练中的跨模态遗忘,并通过锚定另一输出头缓解,证据较充分,影响面限于该类模型。

Francesco Colasurdo, Ivan Slobozhan, Joaquin Vanschoren 等

★★★★☆ 值得关注
arXiv cs.CV 有代码

Label-Free Coreset Selection with Foundation Models for Efficient Annotation in Computational Pathology

说明基于基础模型、无需标签的核心集选择方法,用于计算病理学中的高效标注

简介该研究提出GCcore方法,用病理基础模型为数据集中每张图像生成嵌入向量,再贪心地选取能最大化嵌入空间全局覆盖度的样本,构成核心集,从而减少专家标注工作量。该方法无需超参数且结果确定,并给出了任意核心集大小下全局覆盖度的下界保证。在涵盖全切片图像分类、图块分类和组织分割的10项任务中,其表现优于包括前沿方法在内的14种基线方法。

看点提出无超参数、确定性的贪心覆盖式子集选择方法,并给出覆盖率下界保证;在10个任务、14个基线上验证,证据较充分,对病理标注有实用价值。

Tuo Yin, Jennifer Dhont

arXiv cs.CL

Breaking the Tie: A Cluster-Aware Routing Framework for Large Language Models

说明打破平局:面向大语言模型的聚类感知路由框架

简介随着大语言模型数量增多,如何为每个用户问题选择最合适的模型成为难题。论文指出,多个候选模型都答对同一问题时,现有路由方法会被误导,导致在未见任务上的泛化能力严重下降。作者提出CASLR框架,用基于聚类效用分数的软标签代替传统one-hot标签来训练轻量路由器,据称整体平均表现比Llama-3.3-70B-Instruct高7.80%,推理延迟仅1.13秒。

Yao Lu, Zhaiyuan Ji, Yaxin Gao 等

arXiv cs.CL

Byte Language Models: Scaling, Emergent Abstractions, and Information Allocation

说明字节语言模型:规模扩展、涌现的抽象与信息分配

简介本文研究不依赖分词器、直接以字节为单位建模文本的语言模型。在模型规模增大时,字节级 Transformer 的表现持续优于子词级模型(借助 token 叠加训练与哈希嵌入)。研究发现,模型会自发形成类似外部分词器的局部文本抽象,将中间层的最多 25% 限制在这些局部表示上,下游性能仍得以保持。此外,利用这些结构进行推测解码,接受的 token 数量比子词 Transformer 多 3.4 倍。

Jie Wang, Shiwei Luo, Qi Zhang 等

arXiv cs.LG · cs.CL

StagQ: Constraint-Driven Multi-Precision Weight Quantization for LLMs

说明StagQ:面向大语言模型、基于约束的多精度权重量化格式

简介论文提出 StagQ,一种多精度权重存储格式:主数据流为 2 比特分组仿射编码,后接可配置数量的 1 比特细化平面,低精度结果可直接作为前缀读取,无需为每个精度单独存储副本。文中报告,在 Llama-3.1-8B、Phi-4 和 OLMo-2-7B 上,其 2 比特较便宜的配置在 MMLU 上领先最强多精度基线 3.1 至 7.0 分,逻辑比特率略低;并在 A100 GPU 上的合成权重测试中,其内核在多数情况下快于两个基线内核。

Zhe Wei, Mengqi Guo, Yuan Yuan 等

arXiv cs.CL

Can Language Models Learn to Reject Their Own Bad Reasoning Steps?

说明语言模型能否学会拒绝自己错误的推理步骤?

简介该论文探讨语言模型能否在不借助外部验证器的情况下,自行拒绝有害的推理步骤。作者提出自步骤拒绝方法(SSR),在冻结的生成器上训练一个轻量的LoRA接受门控,以判断候选步骤是否接受或重新采样。在三个推理模型和五个数学推理基准上,SSR的宏平均准确率高于单遍解码,且生成的词元数量约为其1.21至1.40倍。

Siheng Xiong, Xiaoze Liu, Yiqiao Jin 等

arXiv cs.LG · cs.AI

Transfer-Stratified On-Policy Distillation for RL-Improved Reasoning Teachers

说明面向强化学习改进推理教师模型的分层迁移式同策略蒸馏

简介该论文研究强化学习(GRPO)改进后的推理教师模型,能否有效指导更小的同策略学生模型,以数学推理为实验场景。提出分层迁移式同策略蒸馏方法TS-OPD,依据学生与教师的联合采样成功情况对训练题目分流,并配合门控前向与反向KL散度及熵约束。结论认为,教师模型的迁移效果是结构化的而非单一的,较强教师在监督方向与学生能力匹配时才有帮助。

Xiaoyu Chen, Bo Shao, Tiangang Zhu 等

arXiv cs.CV

Decomposition-Guided Curvelet Thresholding for Sharp-to-Soft CT Kernel Conversion

说明用于从锐利到柔和CT核转换的分解引导曲波阈值去噪方法

简介本文提出一种混合去噪框架,将经验模态分解、变分模态分解等分解方法与曲波变换阈值结合,对不同卷积核重建的CT图像进行去噪。实验显示该方法在PSNR和SSIM等指标上优于传统技术,其中VMD表现最佳。研究还比较了软阈值保留细节、硬阈值增强降噪的权衡。

Mahmoud Nasr, Jan K. Argasinski, Krzysztof Brzostowski 等

arXiv cs.LG · cs.RO

Reachability-Aware Diffusion Policy Optimization

说明可达性感知的扩散策略优化(RADPO):一种面向安全强化学习的无模型方法

简介该论文提出RADPO方法,用于连续控制强化学习中的扩散策略优化。它不依赖显式动力学模型,通过学习折扣首次命中可达性价值来衡量代价事件的风险,并结合累积代价预算反馈调整奖励塑形强度。在十个连续控制安全任务上,RADPO在奖励与代价的权衡上表现具有竞争力,并在多个任务中显著减少了约束违规。

Hikmet Simsir, Kutay Demiray, Ozgur S. Oguz

★★★★☆ 值得关注
arXiv cs.LG · cs.GT

Fast Last-Iterate Convergence in Zero-Sum Markov Games with Bandit Feedback

说明零和马尔可夫博弈中基于老虎机反馈的快速末次迭代收敛

简介本文研究两人零和折扣马尔可夫博弈中,在只能获得老虎机式反馈(即看不到对手动作)条件下的末次迭代收敛问题。作者提出自适应正则化时序差分学习算法(ARTD),在均匀击中时间假设下,当前策略的对偶间隙上界为约 t^(-1/4)(忽略对数因子),优于 Cai 等人(2023)的 t^(-1/(9+ν)) 速率,且算法无需已知击中时间界、时间范围或置信水平。

看点改进了已有双人零和马尔可夫博弈的最后迭代收敛速率,并给出自适应正则化TD算法,理论分析较完整。

Yuheng Zhang

★★★★☆ 值得关注
arXiv cs.CV · cs.AI

JLD: Perceptual Distance Through A Jacobian Lens

说明JLD:基于雅可比透镜的感知距离度量

简介论文提出雅可比透镜距离(JLD),用冻结的视觉编码器推导图像的感知几何,而非依赖人工评分拟合。该方法利用编码器雅可比矩阵得到一个固定的度量张量,仅用100张无标签图像拟合一次,约需35秒。在四个标准感知数据库上,JLD的表现优于LPIPS、DISTS、PieAPP和DreamSim,并对分辨率变化保持稳健,还提出了速度更快的JLD-fast及视频扩展版本。

看点用冻结编码器的雅可比矩阵构造固定度量张量,无需人工标注,在四个感知数据库上超越多种基线,并扩展到视频,证据较充分。

Shreshth Saini, Balu Adsumilli, Alan C. Bovik