AI 算法 · 2026年9月28日(周一)

机器学习、人工智能、自然语言处理、计算机视觉、多智能体。

arXiv cs.CL

LA-CPD: Local-Evidence-Aware Change-Point Detection for Human-LLM Authorship Segmentation

说明LA-CPD:面向人机合著文本作者归属分段的局部证据感知变点检测方法

简介该论文针对人类与大语言模型合著文档,提出一种名为LA-CPD的方法,用于定位由大模型生成的文本片段,以支持版权、欺诈等场景下的归属认定。方法基于冻结的句子级检测器打分,结合长度加权的段内残差与窗口化两均值对比,通过动态规划与AIC式准则确定分段边界。在一个保留的人机合著测试集上,其句子级准确率由0.747提升至0.796,同时边界定位和大模型片段划分也有所改善。

Qing Yang, Zhenyu Mao, Zixiang Luo 等

arXiv cs.AI

Is your uncertainty map wrong, or is its target? Exact diagnostics for the Tweedie diagonal, and a gradient-free alternative

说明你的不确定性图错了,还是它的目标错了?Tweedie 对角线的精确诊断与一种无梯度替代方法

简介扩散模型可从基线预测后续医学影像,但临床需要逐体素的可信度图。本文精确计算了六个模型在十四种条件下的 Tweedie 后验协方差对角线,发现在四种真实图像条件下它与去噪误差呈负相关,最低达 -0.13,问题出在目标而非估计器。作者还提出无梯度的 T-PT 探针作为工具,并在全分辨率脑 MRI 与肺部 CT 上与蒙特卡洛集成方法进行了比较。

Vicent Ribas, Anna Oliveras Tous

arXiv cs.CL

Larry Caused the Car to Stop, But the Model Didn't Notice: Transformer Blindness to the M-Heuristic

说明Larry 让车停了下来,但模型没注意到:Transformer 对 M 启发式的盲区

简介本文研究基于编码器的 Transformer 模型(如 DeBERTa)能否掌握 M 启发式(标记形式暗示标记含义)这一语用原则。作者用自然语言推理框架对比词汇型与迂回型使役句,涵盖 15 个作格动词的 188 种条件。结果显示 DeBERTa、RoBERTa 和 BART 均未体现这一区分,其中 DeBERTa 对全部情况都预测为“中性”。

Stefania Butnaru, Claudiu Creanga

arXiv cs.LG · cs.AI · cs.CL

Surprising Success, Repeated Failure: Entropy-Guided Credit Assignment for Exploration in LLM Reasoning

说明意外成功与反复失败:基于熵引导的大语言模型推理探索信用分配方法

简介该论文提出熵引导优势策略优化方法EAPO,用于大语言模型基于可验证奖励的强化学习。该方法依据策略熵与回答优势的符号,对成功回答中高熵决策给予更强强化、对失败回答中低熵决策给予更强惩罚,并减弱不确定位置的惩罚以保留恢复机会。实验表明,EAPO在多项推理任务上整体表现最佳,并能促进更有效的探索。

Woongyeong Yeo, Minki Kang, Chanuk Lee 等

arXiv cs.LG · cs.AI

Selecting Diverse SFT Traces Improves Post-RL Generalization

说明选取多样化的SFT推理轨迹可提升强化学习后的泛化能力

简介本文研究监督微调(SFT)数据中推理步骤序列的多样性(路线多样性),并提出一种轻量、基于规则的指纹方法来筛选多样的样本。实验显示,在相同条件下选取多样路线的数据,经强化学习后在数学与谜题问题上覆盖率更高。作者认为推理路线多样性是为强化学习准备模型时选择SFT数据的实用标准。

Dylan Zhang, Mingyuan Wu, Jinning Li

arXiv cs.AI

Evidence-Inference Reconstruction: When The Evidence Is Recalled But The Reasoning Goes Wrong

说明证据-推理重建:证据已召回但推理出错时怎么办

简介该论文提出证据-推理重建(EIR)方法,用结构化状态引导一次检索过程并累积来源证据,只要相关证据已收集,即使中间推理出错混入了错误证据,也能在最后一次模型调用中给出正确答案。在 HotpotQA、2WikiMultiHopQA 和 MuSiQue 各 1000 题的子集上,EIR 的答案 F1 分别比基线、Agentic SSR 和 Reflexion 高出一定幅度,平均每题仅需 4.85 次模型调用,远少于对比方法。

Megan Diehl, Ser-Nam Lim

arXiv cs.CL

Who Warmed the Archives? LLMs Overestimate Historical Warmth

说明谁为档案增温?大语言模型高估了历史气温

简介这篇论文研究如何用大语言模型从历史档案文本中提取气温指数,以把气候记录向前延伸。作者用德国五个世纪的文本与Pfister温度指数比较,发现词汇方法优于所有微调的历史文本模型,而六个被测大语言模型都存在随年代递增的偏暖倾向。作者认为,仅看相关性不足以判断大语言模型能否作为历史气候指数的可靠工具。

Claudiu Creanga, Liviu P. Dinu

arXiv cs.AI

Learning Strategies to Break Judges

说明学习攻破评判者的策略:用智能体寻找AI裁判的弱点

简介本文提出一种由智能体引导的方法,用于寻找智能体式评判者(judge)的弱点。方法聚焦数学推理,先让对抗智能体在正确证明中注入评判者难以发现的错误,再将成功的修改归纳为少量变异策略,以分析评判者的失效机制。作者在GPT-5.6-sol与Claude Opus 5及其智能体编排器上验证,发现各类评判者都存在可稳定绕过评估的策略;并且评判可靠性随难度上升而下降,研究级手稿中的缺陷更易逃过检测。

Guruprerana Shabadi, Aaditya Naik, Rajeev Alur 等

arXiv cs.AI

Skill2Env: Capability-Oriented Environment Synthesis from Skills for General Agents

说明Skill2Env:从技能出发、面向能力的智能体环境合成方法

简介该论文提出 Skill2Env 框架,以智能体的技能(技能文档中的领域知识与工具使用说明)为起点,依据能力需求合成可执行的任务与环境。框架将难点抽象为可复用的难度模式,生成包含目标、挑战、环境事实、信息边界和验收标准的任务蓝图,并据此共同构建任务指令、执行环境、工作区和基于评分标准的评估器。作者还提出迭代任务强化方法,利用求解器的执行证据调整任务设计;用 1.5K 条由这些环境生成的高分轨迹做监督微调后,在多个智能体基准上取得一致提升。

Weiyi Xu, Xiaowen Yang, Wen Da 等

arXiv cs.CV

M3-Score: Fidelity, Memorization and Coverage as Separate Axes for Evaluating Generative Radiology Image Models

说明M3-Score:用于评估放射影像生成模型的三个独立维度

简介本文提出M3-Score,基于冻结的放射影像预训练视觉Transformer(RadioDINO-s16),从保真度、记忆性和覆盖度三个相互独立的维度评估生成的放射影像。在BraTS脑部MRI上,保真度指标能够正确排序不同严重程度的对比集;无条件扩散模型的覆盖率仅为真实分布的38%。该方法对样本数量的敏感性也明显低于Fréchet Inception Distance。

Sathiyamohan Nishankar, Pubudu Sanjeewani, and Asanka Perera

arXiv cs.LG · cs.AI · cs.MA

DEALS: Decentralized Expertise-Aware Load Serving for Multi-Agent LLM Systems

说明DEALS:面向多智能体大模型系统的去中心化专长感知负载调度

简介该论文提出 DEALS,一种去中心化、低复杂度的多智能体大模型协作框架。每个智能体维护本地任务队列,并根据积压量和成功率决定自行处理还是转发给邻居,任务还可由其他智能体接续完成。实验表明,该方法在同构与异构智能体池中都提升了答案准确率和任务吞吐量,并能以自组织方式平衡各智能体的专长与负载。

Jingjuan Huang, Wenbin Wang, Yanchuan Yin 等

arXiv cs.LG · cs.AI · cs.IR

Beyond Fixed Features: Architecture-Dependent Sensitivity to Node Representations under Heterophily

说明超越固定特征:异配图中架构对节点表示的敏感性差异

简介图神经网络在同配图上表现良好,但在异配图(相连节点标签常不相似)上表现欠佳。本文在两个大规模异配基准(Roman-Empire 与 Amazon-Ratings)上构建了多种节点特征版本,从静态 fastText 向量到上下文 Transformer 嵌入,评估了七种图神经网络架构。结果显示,同样的表示变化对不同架构带来的性能提升幅度不同,因此架构与表示不应被视为相互独立的评估因素。

Priyanath Maji, Sidharth Gaur, and Rajavinoth Paul Durai

★★★★☆ 值得关注
arXiv cs.DC · cs.LG 有代码

EfficientAgent: What Makes KV Cache Offloading Work for Concurrent Agents?

说明EfficientAgent:KV 缓存卸载如何在并发智能体中生效?

简介LLM 智能体每轮都会重发完整对话,服务系统通过缓存 KV 状态避免重复计算,GPU 显存不足时再卸载到主机内存。论文发现,卸载效果在不同部署间并不一致,关键在于主机内存层能否容纳所有智能体的可复用上下文(即“复用工作集”)。EfficientAgent 据此用栈距离模型估算容量,并在主机层较小时过滤写入、较大时全部写入。在 SWE-bench Verified 编码智能体上,按估算工作集配置的主机层使重算提示词 token 减少 93%,端到端时间减少 39%。

看点提出以代理池复用工作集(stack-distance模型)指导KV缓存卸载容量与写入策略,较已有方法有实质改进;在SWE-bench上实验充分并有消融对比。

Kunming Shao, Jierun Chen, Jiangnan Yu 等

arXiv cs.LG

Marginal Calibration Masks Generator Differences in Held-Out Evaluation of Multivariate Time Series, with an Application to ERA5 Weather Sequences

说明边际校准会掩盖多变量时间序列生成模型之间的差异:以 ERA5 天气序列为例

简介论文指出,多变量时间序列生成模型常用的汇总分布指标在边际校准后,与真实数据之间的差距很难反映生成器本身的优劣。作者在 ERA5 天气序列上对 StatD2GAN 与复现的 RCGAN、TimeGAN 进行了预先设定协议的对比,采用留出数据、Holm 校正的 Wilcoxon 检验。论文建议使用基于噪声底线的边际评估、配对检验以及依赖性和序列级指标。

Mustafa \"Ozayta\c{c}, \"Ozge Karada\u{g} Ata\c{s}

★★★★☆ 值得关注
arXiv cs.LG · stat.ML

Oracle-Efficient Online Classification with Stochastic Inputs and Adversarial Outputs

说明在随机上下文、对抗输出下的高效在线分类(可用优化器调用的算法)

简介论文研究上下文服从未知独立同分布、但损失函数可自适应选择的二分类预测问题。作者证明,对每个观测到的上下文加入高斯扰动的 Follow-the-Perturbed-Leader 算法,在 N 个专家的类中可达到 Õ(√(T log N)) 的遗憾界,每轮只需一次优化器调用,无需显式枚举假设类。对无限假设类,该算法的遗憾界为 Õ(√(T·VC(H)))。

看点提出简单的扰动领导者算法,用每个上下文的高斯扰动并仅需一次优化预言机调用,解决了Lazaric和Munos的公开问题,理论界限有实质推进。

Gon Buzaglo, Elad Hazan

arXiv cs.CL · cs.LG

Positions Are Not Facts: The Mismatch Between KV Caches and Memory

说明位置不等于事实:KV 缓存与记忆之间的错配

简介本文研究语言模型中键值(KV)缓存在事实更新时如何处理旧记录。作者比较了隐藏整条记录、仅隐藏被替换的值,以及删除旧文本并重新计算缓存等方法。结果显示,仅隐藏旧值会丢失单位等必要信息,而历史状态中仍保留有用内容,识别需要保留的部分仍是独立难题。

Changhai Zhou, Yuhua Zhou, Shiyang Zhang 等

arXiv cs.CV

ENet-GP: Unified Document Image Restoration

说明ENet-GP:统一的文档图像修复方法

简介真实拍摄的文档常同时存在页面弯曲、光照不均和模糊等多种退化。作者提出了包含物理渲染复合退化的大规模数据集GutenDoc,并设计了一个统一网络,在单一模型和单次训练中同时校正几何与光度失真。实验表明,该方法在单一失真基准上保持竞争力,并在复合退化下明显更稳健。

Sujal Burad, Aakanksha, A. N. Rajagopalan 等

★★★★★ 值得关注
arXiv eess.AS · cs.LG · cs.SD

YuE2: Unifying Symbolic and Audio Music Generation at Frontier Quality

说明YuE2:统一符号与音频音乐生成的前沿模型

简介该论文提出YuE2,一个先生成可读乐谱(规定旋律与和声)、再转为音频的音乐生成模型,把符号规划与音频生成统一起来。文中报告,专家评审中符号规划版本在整体质量上获得49.3%的偏好,高于无规划版本的34.6%;在WildSongBench基准上,最佳八选一结果达到6.96分。作者还介绍了用于表征学习和乐谱转录的MERT2与SheetSage2。

看点提出符号规划与音频生成统一的框架,并在专家听感和多项基准上取得领先,新意明显,证据较充分。

Ruibin Yuan, Jiahao Pan, Junyan Jiang 等

arXiv cs.SD · cs.AI · eess.AS

Transformer-based Neural Beamforming for Real-Time Speech Enhancement on Smart Low-Power Hearable Devices

说明面向智能低功耗助听设备实时语音增强的基于Transformer的神经波束形成

简介这篇论文提出一种在微控制器上实时运行的神经网络波束形成方法(MVDR,最小方差无失真响应),用六个麦克风增强语音并抑制噪声。系统由估计权重的CNN和逐帧修正的轻量Transformer组成,采用混合精度方案。原文报告在平均45.9 mW功耗下,STOI为97.65%,SI-SNR为20.26 dB,宽带PESQ为3.676,并附有语音活动检测模块以在静音时跳过处理。

Luca Bompani, Marco Fariselli, Giovanni Oltrecolli 等

arXiv cs.LG · cs.AI

Collaborative Synthetic Data for Privacy-Preserving Financial Fraud Detection Across Organizational Silos

说明跨机构协作合成数据用于隐私保护的金融欺诈检测

简介论文指出金融欺诈案例稀少、各机构数据分散且受隐私限制,影响分析效果。作者研究了 CollaFuse 这一基于扩散模型的协作式方法,并在五个欺诈数据集上与传统过采样、本地生成模型及集中式扩散基准进行比较。结果显示其本地真实度并非最高,但在多数数据集上更稳定地提升了下游欺诈检测效果。

Simeon Allmendinger, Domenique Zipperling, Burhanettin Bahadir Kibar 等

arXiv cs.IT · cs.IR · cs.SY

Concurrent Coded Signal-Multiplexing Ranging for Half-Duplex Asynchronous Networks

说明半双工异步网络中的并发编码信号复用测距

简介该论文针对信号复用网络测距(SM-NR)测距周期随网络规模线性增长的问题,提出用于异步半双工网络的并发编码方案CC-SM-NR。通过二进制收发码字协调并发传输,并推导了无并发限制时最少收发轮次数,表明其随网络规模对数增长。作者还给出有限并发限制下码字恒定权重可行的充要条件,提出低复杂度调度算法,并以贪心构造扩展以支持更高的观测冗余,仿真结果验证了其测距效果。

Zijian Zhang, Yuan Shen

arXiv cs.LG

ResDiffFRG: Residual Diffusion for Multiple Appropriate Facial Reaction Generation

说明ResDiffFRG:用于生成多种恰当面部反应的残差扩散框架

简介该论文针对对话中倾听者面部反应的多样性生成问题,提出 ResDiffFRG 框架。它将扩散过程锚定在说话者的面部行为上,以说话者与恰当反应之间的残差作为扩散目标,使去噪器只需建模较小的反应相关残差。实验显示,该方法在基于相关性的恰当性指标上较现有方法有大幅提升。

Shizhe Liu, Jiayan Gu, Xiangyu Kong 等

arXiv cs.LG · cs.LO

Task-Aware Discretization of Differentiable Logic Gate Networks

说明可微逻辑门网络的任务感知离散化

简介可微逻辑门网络(DLGN)训练时把离散逻辑门松弛为连续形式,推理时再离散化,以便训练高效的布尔网络。论文指出,常见的局部离散化方法即使在松弛问题上得到全局最优解,也可能对任务并非最优,高门置信度也无法保证结果。作者据此研究了一阶下游任务信息在渐进式离散化中的可靠性,实验表明其对局部argmax决策评估准确,但对非局部干预不可靠。

Thore Gerlach

★★★★☆ 值得关注
arXiv cs.LG 有代码

PQ-HSA: Reusing Product-Quantized Scores for Hybrid Sparse-Approximate Attention

说明PQ-HSA:复用乘积量化分数的混合稀疏-近似注意力机制

简介语言模型解码时每一步都要读取全部历史键值缓存,长上下文下受内存带宽限制。PQ-HSA 用倒排乘积量化索引为未被选中的词元估算注意力分数,并将其作为背景项纳入同一个 softmax,与被选中词元的精确计算结合。论文报告在 128K 上下文、1-2% 检索预算下,其准确率高于 Quest 与 SnapKV;在 NVIDIA H20 上,解码注意力调用比 FlashAttention-3 快 1.6 倍。

看点将IVF-PQ的近似分数用于未选中token的背景项,与稀疏注意力结合,是对已有方法的实质改进;在128K上以多模型和vLLM实测验证。

Kunming Shao, Jierun Chen, Yanli Wang 等

arXiv cs.SD · cs.CL · eess.AS 有代码

DuraS2ST: Chain-of-Thought and Reinforcement Learning for Duration-Aligned Speech-to-Speech Translation

说明DuraS2ST:用思维链与强化学习实现时长对齐的语音到语音翻译

简介该论文提出DuraS2ST框架,让单一语音语言模型先生成显式思维链,规划目标译文用词与语音时长,再合成对应语音。作者构建了DuraSet-440K思维链语料用于监督初始化,并以多模态强化学习优化模型,其中时长余量奖励用于平衡翻译质量与时长一致性。在CVSS-T上的实验表明,该方法在翻译质量与时长一致性之间取得较好平衡。

Yayue Deng, Dingdong Wang, Yuxuan Hu 等

arXiv stat.ML · cs.LG

Multi-Marginal Inverse Optimal Transport for Contrastive Learning Via Explicit Anchor-Positive-Negative Coupling

说明基于显式锚点-正样本-负样本耦合的多边际逆最优传输对比学习

简介本文指出,以往基于逆最优传输的表示学习方法没有利用负样本,容易出现维度坍缩,从而降低下游性能。作者提出多边际逆最优传输对比学习方法Neg-MMIOT-CL,使三元组(锚点、正样本、负样本)上的全局多边际传输耦合集中,并在合成与真实数据集上报告优于现有基于最优传输的对比学习方法。

Ngoc-Hai Nguyen, Thuan Nguyen, Prakash Ishwar 等

arXiv stat.ML · cs.LG

Weighted Spline-Expanded Networks with Distributional Balancing for Continuous Treatment Effects

说明用于连续处理效应估计的加权样条扩展网络与分布平衡方法

简介本文提出加权样条扩展网络(WSENet),用于在观测研究中估计连续处理(如剂量)的因果效应。方法先通过距离协变量最优权重使协变量与处理在分布上独立,再用样条展开的处理输入与协变量表示融合,建模剂量-反应关系。作者还引入基于有效影响函数的加权目标正则化以降低残余偏差,得到双重稳健估计量。在半合成及真实的高维基因组和环境健康数据上,WSENet在准确性和稳定性上均优于现有基线。

Shucheng Liu, Chan Park, Guanhua Chen

★★★★☆ 值得关注
arXiv cs.CL 有代码

The Effects of Incremental Instruction Delivery on Language-Model Creative Writing

说明逐步给出指令对语言模型创意写作的影响:研究大语言模型在多轮对话中,指令分次给出是否会削弱作品的结构与连贯性。

简介该论文研究了用户在多轮互动中分步提出写作要求时,大语言模型创意写作质量会如何变化。研究使用160个人工撰写的创意写作任务(涵盖六种体裁),将需求一次性或分5至9轮逐步给出,测试六个开源模型家族,共960组配对。结果显示,逐步给出会降低对明确约束的遵循程度,并使结构与连贯性下降最明显;作者提出“创作完整性”指标,逐步给出时模型保留了完整给出条件下71.2%的得分。

看点首次系统比较渐进式与一次性指令对创意写作的影响,结构连贯性退化被量化,并以人工评估验证,证据较扎实,对子领域有实际参考价值。

Anshuman Singh, Abrar Eyasir, Haseeb Yaqoob 等

arXiv cs.CV · cs.LG

Constrained Edit Fields for Training-Free Flow Editing

说明用于免训练流匹配编辑的约束编辑场(CEF):一种让图像编辑只改动目标区域、保留无关内容的方法

简介本文提出约束编辑场(CEF),用于基于预训练整流流模型的文本引导图像编辑。该方法为每个空间位置估计一个连续的编辑责任值,衡量其与所需编辑的相关性,并在每一步将编辑场分解为提示词引起和轨迹引起两部分,以抑制无关区域的意外变化。在 PIE-Bench 全部 700 个样本上,CEF 在结构距离、背景 LPIPS 和背景 MSE 上达到当前最优,同时保持有竞争力的指令对齐度。

Jingxuan Kang, Yinsong Wang, Che Liu 等

arXiv cs.CL

Yorùbá in Unicode: An Overview of a Problem

说明约鲁巴语在 Unicode 中的问题概述

简介本文记录了约鲁巴语(Yorùbá)在互联网和计算机上书写时长期存在的字符编码问题:Unicode 未编码该语言所需的若干预组合字符,导致书写依赖组合字符序列,在不同平台上表现不一致、字体替换时易损坏、搜索时易失效。作者基于真实案例与经验证据说明这一问题,并指出 Unicode 的 NFC 规范化稳定性政策是阻碍简单修复的结构性约束,建议通过正式提案为四个核心约鲁巴语字符申请编码,以彻底解决问题。

K\'ol\'a T\'ub\`os\'un

arXiv cs.AI

HTN Planning as a Coordination Layer for Multi-Server MCP Tool Orchestration

说明以分层任务网络规划作为多服务器 MCP 工具编排的协调层

简介这篇论文提出一种协调架构:由分层任务网络(HTN)规划器一次性生成可验证的跨服务器执行计划,再由运行时中间件在多个 MCP 服务器上确定性地执行,避免每次工具调用都要依赖大语言模型推理。作者在五个 HTN 领域上实例化该架构,并在浏览器端的计划控制器中,对八个实际运行的第三方 MCP 服务器(查询真实生物数据库)完成端到端执行演示。

Eliott Jacopin, \'Eric Jacopin, Koichi Takahashi

arXiv cs.LG

ALDER: Discovering the Laws of a World by Acting in It

说明ALDER:通过在世界中行动来发现其规律

简介该论文提出 ALDER 方法,通过主动设计实验来检验和修正以数学方程表示的世界模型。系统提出参数方程,拟合系数并在独立数据上验证,并借助交互实验淘汰不成立的假设、修正结构。论文报告其在基准测试、常微分方程发现任务和机器人实验中,能发现初始公式集之外的规律,并改善分布外预测;验证后的模型还可用于求解逆问题以选择控制动作。

Teng Cao, Yu Deng, Quentin Delfosse 等

arXiv stat.ML · cs.LG

A Statistical Perspective on Knowledge Distillation: Foundations, Classical Methods, and Large Language Model Extensions

说明知识蒸馏的统计视角:基础、经典方法与大语言模型扩展的综述

简介本文是一篇关于知识蒸馏(KD)的综述,知识蒸馏指把大模型的能力迁移到小型“学生”模型上。作者提出统一的贝叶斯框架,把教师模型的预测视为先验信息,用以解释教师信息如何融入学生模型的学习,并与不确定性量化建立联系。文章还说明这一视角如何连接经典蒸馏与生成式及基础模型中的新发展,并指出该领域的若干开放问题。

Luyang Fang, Haoran Lu, Jiazhang Cai 等

arXiv cs.CL · cs.LG

TutlAit v1: a crowdsourced Moroccan Tamazight speech dataset with Arabic transcriptions and regional accent labels

说明TutlAit v1:带阿拉伯文转写和地区口音标注的摩洛哥塔马齐格特语众包语音数据集

简介本文介绍 TutlAit 数据集,这是一个摩洛哥塔马齐格特语语音语料库,每段语音配有现代标准阿拉伯语文本和地区口音标签。数据通过专门开发的众包网站收集,由母语者按录音或转写两种流程贡献,并经过格式转换、去重和管理员审核。数据集共 13,384 个音频文件,总时长约 20.9 小时,可用于语音识别、语音翻译和口音识别。

Mohamed-Amine Chadi, Ezzahra Ait El Arbi, Ismail Khayoub 等

arXiv cs.AI · q-bio.QM

Robust Biomolecular Complex Design Across Protein Conformational Landscapes

说明跨蛋白构象的稳健生物分子复合物设计:一种推理时进化适配框架

简介论文指出,基于结构的设计通常只针对单一靶标构象优化,候选分子换到另一构象时可能失去相互作用或产生空间冲突。作者提出FlexEvo,在推理时由单一构象对候选分子做一次适配,无需重新训练模型或构象集合。在九类结合物上评估,类别均衡的平均相对性能下降由47.8%降至4.4%,每个样本仅增加约1.4至3.1分钟。

Qingyuan Zeng, Zongqi Xu, Anglin Liu 等

arXiv stat.ML · cs.LG

Reliable Replay through Spatial Coherence in Online Continual Learning

说明通过空间一致性实现在线持续学习中的可靠回放

简介本文提出SPHERE方法,用于在线持续学习中的经验回放分配。它利用表示核聚合相关记忆的带符号预期损失变化,抑制无依据的尖峰,并通过熵正则化最优传输把回放资源重新分配到有支撑的高风险区域,同时惩罚长距离迁移。实验涵盖带噪声标签的视觉任务、语言模型指令微调及不完整测试奖励的代码生成强化学习,结果显示其提高了准确率并减少了遗忘。

Haixiang Sun, Jiefu Zhang, Yinghao He 等

arXiv cs.CL

The Rashomon Wikipedia: A Data-Perspectivist Analysis of Divergent Historical Narratives

说明《罗生门式维基百科》:基于数据视角的历史叙事分歧分析

简介本文比较维基百科罗马尼亚语、匈牙利语、俄语、土耳其语和英语版本中关于罗马尼亚三个有争议历史事件(1330年波萨达战役、1940年苏联占领比萨拉比亚、1462年塔尔戈维什特夜袭)的条目,分析引用来源与叙事差异。作者使用人工标注和大语言模型,统计2005至2024年间的变化。研究发现不同语言版本之间引用高度不重叠,并提出用对抗式提示让模型保留分歧的自动化调解方法。

Claudiu Creanga, Liviu P. Dinu, Anca Dinu

arXiv cs.CV

GeoShrink: Accelerating Diffusion Transformers with Two Lines of Code

说明GeoShrink:用两行代码加速扩散 Transformer 的免训练方法

简介扩散 Transformer 在采样过程中需要反复调用模型,推理成本高。GeoShrink 是一种免训练的加速方法,只在预设的锚点步骤计算模型输出,跳过的步骤则用最近一次的精确输出加上按几何比例保留的历史变化量来预测。论文在图像、视频、动作和音频生成以及适配的 3D 模型上进行了实验,报告在约 5 倍加速下,FLUX 的 PSNR 比列出的最强基线高 3.10 dB。

Haosen Li, Wenshuo Chen, Shaofeng Liang 等

arXiv cs.LG · cs.AI · cs.CL

BOReFT: Manifold Steering of Language Models for Black-box Optimization

说明BOReFT:面向黑盒优化的语言模型流形操控方法

简介该论文提出BOReFT,在冻结的语言模型隐藏状态上学习一个紧凑的低维干预空间,并将其作为贝叶斯优化的搜索域,配合外部评分函数进行黑盒搜索。作者在可解释的词语搜索任务Semantle和三项分子性质优化任务上评估该方法,报告其相比强LLM基线在Semantle中找到更多隐藏目标,并在三个分子目标中的两个上取得更高的性质分数。

Dhruv Agarwal, Rico Angell, Kavitha Srinivas 等

arXiv cs.CL

Shared Experience, Separate Learning: Companion Confidence Calibration for LLMs

说明共享经验,分离学习:面向大语言模型的伴随置信度校准(CoCal)

简介大语言模型答错时往往仍然很有把握,本文研究在能力训练同时学习置信度的做法。作者提出CoCal,用轻量的伴随模块,基于推理过程的隐藏状态和验证器给出的正确性信号单独学习置信度,任务优化本身保持不变。在Qwen3-8B和Qwen3-14B上的实验显示,CoCal改善了置信度估计,同时未牺牲任务表现,并能在不同领域和策略变化之间泛化。

Shiyu Ni, Keping Bi, Jiafeng Guo 等

arXiv cs.CL · cs.AI

From Granular Revision Operations to Meaningful Revision Units: Evaluating LLMs for Revision Boundary Detection

说明从细粒度修订操作到有意义的修订单元:评估大语言模型的修订边界识别

简介本文研究大语言模型能否在结构化修订操作数据中识别有意义的修订单元边界,并比较其与简单非大模型基线的差异。研究使用113组本科写作的匹配草稿与修订稿,专家标注得到4344个候选边界。结果显示,经过任务适配的微调Qwen3-32B表现最佳(宏F1为.859),而仅靠提示的大模型未超过邻近启发式方法(宏F1为.825)。

Yu Tian, Andrew Potter, Katerina Christhilf 等

arXiv cs.AI

Self-Designed Evaluators and Warm Memory for Long-Horizon Agents

说明面向长时程智能体的自设评估器与热记忆

简介这篇论文研究在长时间处理任务流的工具调用语言模型智能体,由于缺乏奖励信号,难以判断任务是否成功。作者提出SelfSuite,让智能体自身的基础模型仅依据公开资料设计一套带权重的评估器和任务简报,冻结后用于门控保留最优结果的重试以及为带类型、可追踪结果的记忆打标签。论文在tau2-bench和AppWorld上进行了对比实验,结果显示其在无标签情况下优于普通智能体,并在部分设置下接近使用专家标签的方法。

Saeid Asgari, Emre Kiciman, Leonardo de Oliveira Nunes 等

arXiv cs.CV

Revisiting Diffusion Fine-Tuning for Unsupervised Domain Adaptation

说明重新审视用于无监督域适应的扩散模型微调

简介本文研究基于扩散模型的无监督域适应中的多目标数据生成问题,即一个标注源域模型需要适应多个无标注目标域。作者提出MUSE方法,将源域监督的语义适应与目标域特定的风格适应解耦:共享语义分支由标注源数据更新,各目标域对应独立的风格分支。实验表明,相比对每个目标域重复进行扩散微调,MUSE在降低微调成本的同时提升了目标域平均准确率。

Xuan Qi, Yi Wei, Daniele Berardini 等

arXiv cs.LG · cs.CE

Theory Guided and Interpretable Neural Operator Design for Partial Differential Equation Learning

说明基于理论指导且可解释的神经算子设计,用于偏微分方程学习

简介本文提出一种名为AFDONet的神经偏微分方程求解器,将神经算子学习与自适应傅里叶分解(AFD)理论结合,并融入专门设计的变分自编码器结构,用于求解光滑流形上的一类非线性偏微分方程。作者称其架构与组件设计完全由AFD理论指导,并在若干基准问题上取得较高精度和有竞争力的计算效率;在任意黎曼流形及梯度陡峭的数据集上表现更优。

Zeyuan Song, Zheyu Jiang

arXiv cs.AI

BIRD: Distilling Decision Boundaries into Rationales for MLLM Adaptation

说明BIRD:将决策边界蒸馏为推理依据,用于多模态大模型适配

简介该论文提出 BIRD 框架,用于把通用多模态大语言模型适配到专业领域。它利用模型自身容易混淆的样本对定位未解决的局部决策边界,并从中蒸馏出能消除混淆的视觉证据,形成单样本推理依据用于监督微调。论文称在医学与图表视觉问答任务上,BIRD 优于其他推理增强方法。

Anglin Liu, Yanlin Wu, Ruichao Chen 等

arXiv cs.LG

DuoOPD: Learning from Joint Teacher-Student Outcomes for Multi-Task On-Policy Distillation

说明DuoOPD:利用师生联合结果进行多任务在线策略蒸馏

简介该论文针对在线策略蒸馏(OPD)中学生模型与教师模型在不同题目上成败不一的问题,提出DuoOPD方法。它依据学生的对错决定反馈方向,并根据师生双方的联合结果决定教师如何提供支持,用同一规则覆盖四种结果组合。在Qwen3和Llama上,DuoOPD的平均宏准确率优于五个基线方法,相比OPD分别提高2.58和5.98个百分点。

Ao Yu, Weibo Gao, Heng Zhou 等

arXiv cs.LG

A Spectral Theory of Compositional Learning

说明组合学习的谱理论:通过数学分析深度线性网络的学习动力学,解释组合推理如何在学习中出现

简介本文用深度线性网络的学习动力学做数学分析,并在结构化合成环境中训练这些网络,建立经验结构与组合学习之间的理论联系。理论预测组合推理何时出现、能否由现有证据识别,以及新的关联证据如何迅速解锁先前无法得出的推理。作者认为,这些结果可以定性解释人类认知中的若干现象。

Hugo Rydel

arXiv cs.AI · cs.RO

Does Adversarial Training Improve Generalization in Multi-View VLAs? Revealing and Mitigating View Collapse

说明对抗训练能否提升多视角视觉-语言-动作模型的泛化?揭示并缓解视角坍塌

简介该论文研究对抗训练(AT)对多视角视觉-语言-动作(VLA)机器人模型在分布偏移下泛化能力的影响,在LIBERO-Plus的七个偏移维度上进行评估。结果显示,直接对抗训练主要提升相机视角和传感器噪声两类偏移的表现,但对其他偏移效果不一甚至为负;作者发现了“视角坍塌”现象,即模型过度依赖手腕视角。引入视角交换干预后,对抗训练进一步提升了多个偏移下的表现。

Futa Waseda, Shuhei Kurita, Isao Echizen

arXiv cs.IT · cs.LG · math.IT

Non-Adaptive Learning of Sparse Erdős--Rényi Graphs via Affine Splitting

说明基于仿射划分的稀疏 Erdős–Rényi 图非自适应学习

简介该论文研究如何通过询问“指定顶点子集中是否含有边”来重建未知图的边集,且所有询问需预先固定。作者针对 Erdős–Rényi 随机图提出一种方案,使用 O(k̄ log n) 次询问即可以高概率精确恢复图结构,解码时间同为 O(k̄ log n)。这一结果改进了先前 O(k̄^{1+δ} log n) 的解码保证,并将适用范围扩展到更大的稀疏度区间。

Hoang Ta

★★★★☆ 值得关注
arXiv cs.CL · cs.AI

Understanding Confabulation and Rethinking Reconstruction in Activation Explanations

说明理解激活解释中的虚构现象并重新思考重建方法

简介自然语言自编码器(NLA)用无监督文本解释模型的激活,由描述器生成文字、重建器从文字还原激活。作者发现,按既有的点重建方式训练时,解释对预测模型行为更有用,但也越来越多地出现无依据细节和写作缺陷。论文提出标准化评估框架以分别衡量,并提出Flow-NLA,用扩散似然界训练描述器以建模与解释相容的激活分布,在Qwen、Gemma和Apertus上实验,结果保留了效用增益,同时抑制了虚构和写作缺陷。

看点提出以分布式重建替代点重建训练NLA,并引入评估框架,改进思路较新;实验覆盖Qwen、Gemma、Apertus等模型,但摘要中的结果细节有限。

Gert Lek, Zixuan Xia, Pin-Yu Chen 等

arXiv cs.CV · cs.LG

Prompt-Anchored Residual Adaptation for Biomedical Vision-Language Models

说明面向生物医学视觉-语言模型的提示锚定残差自适应方法(PARA)

简介预训练的生物医学视觉-语言模型零样本分类表现不错,但下游任务常需区分类别间细微的视觉差异。本文提出PARA方法:保留冻结的提示预测作为语义锚点,再用支持集学到的视觉预测作为相对锚点的残差加以修正,残差以闭式计算。论文还设计了重复支持集评估协议,报告平均值与最差20%的表现。作者称PARA在小样本分类和基类到新类泛化中达到了当前最优水平。

Jingxuan Kang, Qianying Yue, Che Liu 等

arXiv cs.AI · cs.SE

SpecRead: A Benchmark for Measuring Whether Language Models Understand Hardware Specifications

说明SpecRead:衡量语言模型是否理解硬件规格的基准测试

简介该论文提出 SpecRead 基准,用于将语言模型对硬件规格的理解能力与代码生成能力分开评估。基准包含 10 个开源 OpenTitan IP 模块上的 385 道题目及 82 道对照题,涵盖精确检索、跨章节推理、矛盾检测和规格与 RTL 一致性检查。使用 Ministral-3B 的初步测试总体准确率为 33.2%。

Feilian Huang (Independent Researcher)

arXiv cs.AI

One Latent, Many Tokens: Jointly Learning Compressed Embeddings for Efficient Language Diffusion

说明一个潜变量,多个词元:联合学习压缩嵌入以实现高效语言扩散

简介现有连续扩散语言模型每个采样步骤要处理每个词元对应的潜在位置,生成成本较高。两阶段方法虽能缩短潜在长度,但在训练扩散模型前就固定了压缩嵌入空间。论文提出JPEG-DLM(基于扩散语言模型的联合嵌入预测高效生成方法),同时训练压缩器、流匹配模型和解码模块。论文称其在LM1B和OWT上,平均Gen-PPL最低、吞吐量最高,并在OWT压缩率0.5时达到Gen-PPL 34.52。

Yulin Yuan, Ying Zhang, Xiangming Meng

arXiv cs.LG · cs.IT · eess.SP

Geometric Inductive Biases for Semi-Supervised Equalization: The Constellation-Aware Transformer

说明面向半监督均衡的几何归纳偏置:星座感知 Transformer(CAT)

简介这篇论文提出星座感知 Transformer(CAT),在信号均衡中显式加入已知星座几何结构作为归纳偏置,以减少未知信道下的导频开销。CAT 由定制的 TransFIRmer 模块堆叠而成,并采用双向 FIR 启发的分支与几何精修的 MLP 并行结构。论文称该设计与最优线性接收机在结构上一致;在半监督设置下,部分 ISI 信道上 CAT 用 64 个导频即可达到较 VAE 与标准 Transformer 在 128 个导频时更低的符号错误率(SER)。

Avi Caciularu

arXiv cs.CV

Seeing and Solving Are Not Enough for Vision-Language Models

说明看懂与会解都不够:视觉语言模型的组合失败问题

简介该研究探讨视觉语言模型回答错误是否一定源于视觉信息提取或问题求解的失败。作者发现,分开测试时两项能力都正确,但直接回答仍出错的“组合失败”,占直接回答错误的17.7%至75.6%。他们提出状态实现微调(SRT),训练模型在最终答案前先输出所需的任务状态,相比标准监督微调提升1.7至14.1个百分点。

Ziheng Wang, Mingxuan Xie, Yilin Liu 等

arXiv cs.LG · cs.AI

Dynamic Kuramoto-Hodge Operators for PDEs on Complex Geometries and Topologies

说明用于复杂几何与拓扑上偏微分方程的动态Kuramoto-Hodge算子

简介本文提出动态Kuramoto-Hodge算子(DKHO),用于在复杂区域上学习偏微分方程算子。该方法把场量按顶点、边、面的拓扑支撑编码,通过边界与余边界算子演化类Kuramoto的关系状态,并在正交Hodge子空间中输出非调和与调和响应。在多孔介质达西流、环面输运-扩散和腔体静磁问题上,较大版本DKHO相比主流基线平均降低约61%的预测误差,较小版本仅用11.5%至24.3%的参数即可保持竞争力。

Xiang Li, Yue Song

arXiv cs.CL

When Do Agents Help? Embedding, LLM and Agentic Alignment of Classical Texts and Their Translations

说明智能体何时有帮助:古典文本及其译文对齐的嵌入、大模型与智能体方法比较

简介本文比较了七种对齐系统在巴利文、梵文、米什那希伯来文和藏文452篇文本(共9833个人工对齐单元)上的表现,包括四种嵌入流程、直接调用大模型、自主智能体以及经独立审核的智能体。生成式流程恢复了93%至94%的参考对应关系,嵌入方法最高为77%。智能体结构上对全部452篇文本都输出有效结果,直接调用则为437篇;在较短文本上,智能体减少了被判定的缺陷,在长文档上的优势在分块后消失,独立审核在已整理的段落上带来的可测额外收益很小。

M\'at\'e Metzger

arXiv cs.AI · cs.CE · cs.LG

TopoMamba: A Load-Support Relation-Guided Multi-Directional State-Space Model for Topology Optimization

说明TopoMamba:面向拓扑优化的载荷支撑关系引导多方向状态空间模型

简介本文提出TopoMamba框架,用深度学习预测拓扑优化中的高性能材料分布。它结合物理场与载荷支撑关系,并借助多方向扫描特征的空间自适应融合,同时引入带惩罚的固体各向同性材料方法以提升力学性能。论文称在二维拓扑优化基准上,该模型在预测精度、分布外泛化和计算效率方面优于现有先进模型。

Bin Lou, Yuxuan Cheng, Huaizhi Zong 等

arXiv cs.CV · cs.DC · cs.NI

Resource-Aware Parameter-Efficient Model Adaptation for Onboard High-Dimensional Data

说明面向星载高维数据的资源感知参数高效模型适配(NE-LoRA)

简介论文针对低轨卫星上行带宽有限、难以频繁更新大模型的问题,提出一种用于高光谱星载模型更新的参数高效适配框架NE-LoRA。该方法结合主低秩分支与非线性辅助分支,并针对多矩阵适配器采用差异化训练策略。在四个高光谱数据集和三种骨干模型上的实验显示,NE-LoRA优于基于LoRA的基线方法,并与全量微调相当或在部分情况下更优,同时只更新平均很小比例的参数。

Qiyang Zhang, Xinhao Li, Lei Shi 等

arXiv cs.LG

T-MoXAI: A Hierarchical Explainability Framework for Temporal Multimodal Data

说明T-MoXAI:面向时序多模态数据的分层可解释性框架

简介该论文提出 T-MoXAI 框架,从三个层级解释时序多模态 AI 模型的决策:用时序 Shapley 值说明哪些时间点有影响,用注意力分析说明各模态在这些时刻的贡献,用梯度归因说明具体特征或图像区域的作用。作者在试管婴儿结局预测和小麦产量预测两个任务上进行了评估,并报告了消融实验与时序 ROAR 实验的结果。

Ali Inha, Mo Vali, Saaliha Vali 等

arXiv cs.AI

SWE-Game: Can Coding Agents Build the Games We Want?

说明SWE-Game:编码智能体能否做出我们想要的游戏?这是一个用于评估AI编程代理游戏开发能力的基准测试。

简介作者提出SWE-Game基准,包含247项任务,基于41款可执行的Godot参考游戏,涵盖2D与3D共13类玩法。任务涵盖从需求简述开发、依据设计文档实现、骨架补全、修复注入故障到Godot移植Unity等五类。评估结合引擎状态检查、参考输入回放与可玩性演示,并另用视觉语言量规评估画面。六个模型中Opus5在五类任务中总分最高,三类构建任务最高总分均低于60分(满分100)。

Xiaoyu Chen, Lai Wei, Jin Wang 等

arXiv cs.AI · cs.CL

Auditing Agent Actions through Query-Conditioned Attribution

说明通过查询条件归因审计智能体行为

简介大语言模型智能体会通过与用户、政策和外部工具交互做出重要行动,审计需要追溯行动的历史依据。本文提出查询条件智能体行动归因任务,输入自然语言审计问题,找出该行动相关方面的来源及有序的中间证据,并构建了包含1,396个审计查询的A^3Bench基准。作者使用小型开源模型结合查询条件梯度显著性与语义相关性排序历史单元,文中报告其来源与证据排序优于开源基线,端到端系统在来源准确率上超过最强前沿模型基线(64.5% 对 60.4%)。

Yifan Liu, Praveen Venkateswaran, Abdulhamid Adebayo 等

★★★★☆ 值得关注
arXiv cs.LG · stat.ML

Benign Overfitting for General Norms and Distributions

说明一般范数与分布下的良性过拟合:研究在训练数据被完全拟合(含噪声)时,线性回归为何仍能泛化,并把分析推广到非欧几里得范数和非高斯分布。

简介论文研究线性回归中的“良性过拟合”现象,即模型在含噪声的训练数据上完全拟合,却仍能良好泛化。以往工作多针对最小二范数解,而 Adam、Muon 等现代优化器偏向其他范数。作者提出分析方法,适用于一般范数与一般亚高斯分布。结果显示,在一定条件下,p>1 的最小 p 范数插值即使对非高斯分布也能良性过拟合;但对 1 范数,在表现良好的非高斯分布下并不普遍成立。

看点将良性过拟合分析推广到一般范数与次高斯分布,证明p>1的范数插值可良性过拟合,并揭示1-范数结果依赖高斯性,理论突破明显。

Daniel Barzilai, Ohad Shamir

arXiv cs.LG

Reachability is not enough: Diagnosing long-range behavior in GNNs

说明可达性还不够:诊断图神经网络的长程行为

简介该论文提出一个框架,用于衡量图中不同距离的输入对预测的影响强度,并区分架构、有限近似、训练和数值执行带来的限制。研究发现,局部消息传递传播影响较慢,有限实现可能主要依赖近邻信息。在受控任务中,架构上可达范围相近的模型对远距离信息的利用差异很大,低平均误差也可能掩盖远距离交互上的失败。

Filippo Maria Bianchi

arXiv cs.CL

Reset Is Not Recovery: Evaluating Recoverability from False Conversational Context via Sycophancy Hysteresis

说明重置不等于恢复:通过谄媚滞后评估对虚假对话语境的可恢复性

简介本文研究多轮对话中,用户反复坚持错误答案并随后撤回压力后,模型能否恢复到无压力时的正确行为。作者在多个指令调优的开源模型和两个事实性基准上测试,发现普通重置只能减弱而无法消除压力引发的偏差;只有删除或截断压力所在历史的方法能完全恢复,而保留历史的修复方法效果有限。

Adi Shnaidman

arXiv cs.CL

Closing the Cross-Dialect Gap: Query Plans as a Portable Interface in Text-to-SQL

说明缩小跨方言差距:将查询计划作为 Text-to-SQL 中的可移植接口

简介文章指出,现有 Text-to-SQL 系统通常只针对 SQLite 训练和评估,而实际部署涉及 PostgreSQL、MySQL、ClickHouse 等多种方言,跨方言准确率明显下降。作者提出让大模型生成与方言无关的关系代数查询计划,再由确定性编译器转换为各后端的 SQL。在十三个模型上的实验显示,这一方法基本恢复了跨方言可移植性,并且在微调后优于直接生成 SQL 的监督方式。

Corentin Royer (1, 2), Robin Oester (1) 等

arXiv cs.AI · cs.GT · cs.LG

RSD-Poker: Structure-Adaptive and Shift-Robust Risk-Utility Certification for Residual Policies in Imperfect-Information Games

说明RSD-Poker:面向不完全信息博弈中残差策略的结构自适应、抗分布偏移风险-效用认证框架

简介该论文提出 RSD-Poker 框架,用于对不完全信息博弈中修改强参考策略的残差策略进行风险与效用认证。方法在独立划分上学习可见的分组方式并在校准前冻结,对每个候选与分组组合给出风险与效用的置信上界和下界,再在部署混合比例的不确定集合上选出稳健映射。实验结果显示,在分层留出状态上,学习到的分组对偶选择器提升了弱响应效用并降低了违规率。

Miaobo Hu, Shuhao Hu, Xiaobo Guo 等

arXiv cs.CV · cs.AI

When Noise Meets Long-Tail: Feature-Threshold Dual Calibration for Robust Pseudo-Labeling

说明噪声与长尾并存时的鲁棒伪标签:特征与阈值双重校准

简介论文指出,在成像噪声和长尾类别分布同时存在时,语义分割的伪标签方法效果明显下降,尾部类别因置信度低而被固定高阈值过滤、无法获得监督。作者提出FTC-Seg框架,通过正交原型重构净化像素特征,并通过自适应阈值校准为尾部类别恢复低置信度伪标签。在四个公开基准上的实验显示其性能优于现有方法,尾部类别提升尤为明显。

Ping Guo, Zhiqi Huang, Xinran Li

★★★★☆ 值得关注
arXiv cs.LG

Scalable Attribution and Control of Model Behavior During Training

说明训练过程中模型行为的可扩展归因与控制:用互信息与行为梯度唯一性衡量每个样本的贡献,并在训练中快速调整权重以引导模型行为。

简介该论文针对训练过程中如何及时判断每个样本对模型行为的贡献这一问题,提出以互信息处理同一批次内样本的相互干扰,并证明该互信息是行为梯度唯一性(BGU)的对数函数。作者提出BS-Ghost算法,在批次空间中共享计算,无需存储模型规模的样本梯度。在1000个样本的Qwen2.5-7B-Instruct实验中,该实现约增加8.0%(27秒)的训练时间,删除并重新训练的实验显示BGU能识别因果影响最终行为的数据。

看点将互信息与行为梯度唯一性联系并给出高效批内计算,新意明确;实验集中于单一7B工作负载,证据有限。

Sleem Abdelghafar

arXiv cs.CL

One Model Is Not a Crowd: Multi-LLM and Aspect-Conditioned Diverse Comment Generation

说明单一模型不等于人群:多模型与面向方面条件的多样化评论生成

简介本文研究大语言模型生成的评论能否反映人类网络讨论的多样性。作者提出结合多个模型并按讨论方面进行条件生成的方法,并用维度、覆盖度和对齐度三个指标衡量语义、语言及社会语用层面的多样性。在超过200万条YouTube评论上的大规模实验显示,该方法更接近人类评论分布,但仍未达到人类的多样性水平。

Nafis Irtiza Tripto, Delvin Ce Zhang, Mahjabin Nahar 等

arXiv cs.AI

CompoWorld: Compositional Environment Scaling for General Agents

说明CompoWorld:面向通用智能体的组合式环境扩展方法

简介该论文提出 CompoWorld,通过组合一个有限的可复用服务库来扩展任务空间,让智能体练习跨多个服务的信息与操作衔接。方法利用编码智能体把工具说明转为带类型状态的已验证服务,并用随机游走沿依赖图连接服务,生成需要跨服务传递信息的任务。论文报告,在八个基准上平均比其基座模型提高 9.17 分,并在 AutomationBench 上超过 Claude Opus 4.6 等前沿模型。

Xiao-Wen Yang, Weiyi Xu, Wen Da 等

arXiv cs.SC · cs.LG

LieDiscover: Adaptive Symbolic Library Construction for Explicit Open-form Symmetry Discovery

说明LieDiscover:面向显式开放形式对称性发现的自适应符号库构建方法

简介本文提出 LieDiscover,用于从数据中发现未知的无穷小生成元,即数据背后的对称性。方法把对称性发现建模为对函数库和系数的联合优化,并用编码器-解码器结构动态生成符号表达式、扩充函数库,同时借助强化学习以逐步奖励加速符号搜索。实验表明,该方法能发现包含高阶多项式或超越函数的开放形式生成元,并在下游 PDE 求解与发现任务中提升了性能。

Xinxin Li, Jianming Ma, Xingyu Cui 等

arXiv cs.AI · cs.CL · cs.LG

Audit-First VAPO: Risk-Certified Selective Updates under Imperfect Verification

说明审计优先的VAPO:不完美验证下带风险认证的选择性更新

简介论文提出Audit-First VAPO方法,把离散的更新方向准入与连续的幅度控制分开。方法用有限的二次验证预算决定接受、申诉或弃权,并在标签揭晓前冻结动作记录,再用有限样本界对所选有害风险、覆盖率和验证调用率做认证。准入后,由有界的裁剪-KL机制控制更新幅度。在两个模型和两个推理基准上,RC-VAPO与多种基线对比,在目标风险0.08下于GSM8K取得74.1%的准确率。

Miaobo Hu, Shuhao Hu, Xiaobo Guo 等

arXiv cs.CV · cs.IR

Learning Multimodal Embeddings with Evidence-Aligned Readout

说明基于证据对齐读出的多模态嵌入学习

简介本文提出EviAlign方法,在共享的多模态大语言模型中,把任务相关证据组织为五个语义单元,并在每个单元边界读取上下文状态,再聚合成单一归一化嵌入用于检索。生成目标与对比检索目标联合训练。实验显示,语义组织与读出位置的配合能带来额外增益;在12个MMEB检索任务上平均Recall@1达到76.9,同时保持单向量索引与打分方式。

Zirong Chen, Fuda Ye, Enjun Du 等

arXiv cs.AI

AgentBoundary: Counterfactual Evaluation of Safety in Tool-Using LLM Agents

说明AgentBoundary:工具调用型大语言模型智能体安全性的反事实评估

简介该论文针对会调用工具的大语言模型智能体,提出了四象限反事实生成与评估框架 AgentBound,通过独立改变表面风险与行为许可性,区分过度拒绝与不安全执行。研究构建了一个经人工验证的 4000 项任务评估集,测试了 17 种模型与运行环境配置。结果显示,高安全性常与授权任务完成率低并存,研究据此训练了轻量运行时校准模块,以使行动决策更贴合权限相关的执行证据。

Tianzhuo Yang, Zirui Mi, Yantao Huang 等

arXiv cs.LG

Towards Eliminating Catastrophic Forgetting in the Curriculum Learning of Math Reasoning Tasks

说明消除数学推理课程学习中的灾难性遗忘

简介本文研究课程学习中的灾难性遗忘问题,理论分析认为遗忘源于各任务最优参数的差异,且这种差异通常是课程学习收敛更快的必要条件,因此遗忘无法完全消除。作者提出IV-EWC方法,将弹性权重巩固(EWC)引入课程学习目标,并利用影响函数从训练数据中构建代表性验证集以动态正则化。实验显示该方法相对普通课程学习平均减少162%的遗忘,并出现正向后向迁移。

Zengyan Yang, Yangyang Wu, Kai Huang 等

arXiv cs.RO · cs.AI · cs.LG

Demonstration-Free Success-Probability Reward Learning for Generalist Robot Policies

说明无需示范的成功概率奖励学习,用于通用机器人策略

简介该论文提出一种无需专家示范的奖励学习方法,仅利用稀疏的任务结果和策略自身的经验来学习稠密奖励。作者提出eVTA₀,通过时序差分式自举从混合质量的策略轨迹中学习成功概率,并提出RLER闭环框架,随策略演化不断更新奖励。实验结果显示,在LIBERO任务套件上取得了最佳平均表现,在真实世界操作中整体成功率也有提升。

Duo Wu, Haifeng Wang, Rongwei Lu 等

arXiv cs.CL · cs.AI

Tsubame: Tree Replay for Diffusion-Based Speculative Decoding

说明Tsubame:基于扩散草稿模型的树状推测解码两阶段回放方法

简介该论文提出 Tsubame,一种面向扩散式草稿模型的两阶段树状推测解码框架。第一阶段依据草稿路径分数规划并冻结上下文感知的树结构,第二阶段回放该结构、通过采样填充节点以形成用于验证的候选树。作者证明在兼容的采样与验证策略下该方法无损,并在三种草稿模型、六个数据集和多种候选预算下,相较确定性树提高了接受长度与吞吐量。

Yepeng Weng, Qiao Hu, Takehisa Yairi

arXiv cs.LG

FuseAlign: Forced Alignment in the Wild

说明FuseAlign:真实场景下的强制对齐

简介本文提出FuseAlign,一种基于Transformer的词级强制对齐模型,用于估计转写文本中每个词在音频中出现的时间。作者同时改进了评估指标,提出针对真实ASR转写结果的评分方案,并构建了覆盖多种说话人、声学和文本条件的基准AlignBench。在该基准上,FuseAlign明显优于所有基线,并在真实ASR转写下保持稳健。

Mithilesh Vaidya, Stephen Bailey, Sumukh Badam 等

arXiv cs.LG · cs.AI

From Distributions to Stochastic Processes: Neural Approximation of Measure-Valued Maps

说明从分布到随机过程:测度值映射的神经逼近

简介本文研究以概率分布为输入和输出的映射学习,建立了分布到分布学习的逼近理论框架,并推广到随机过程之间的映射。作者证明了在2-Wasserstein度量下,对有限维概率律的紧族上的连续算子,可用神经网络一致逼近。文中还用奥恩斯坦-乌伦贝克过程的首次通过时间分布和杜芬振子的响应路径分布做实验,结果显示所提模型优于固定特征MLP基线和分布空间核回归。

Yichen Wang, Ziyi Wang, Wenlian Lu 等

arXiv cs.AI · cs.CL · cs.CV

Probe to Act: Elevating Browser-Use Agent via Active Visual Probing

说明Probe to Act:通过主动视觉探测提升浏览器操作智能体

简介论文提出 Probe to Act(P2A),一种让浏览器智能体在行动前主动探测的框架,把 DOM 结构与截图像素对齐的工作推迟到决策时完成。智能体可在执行状态改变操作前发出轻量探测,将 DOM 句柄映射为像素证据,并只保留经探测、操作或确认的信息作为记忆。在三个基准测试中,P2A 提升了任务成功率,例如在 VisualWebArena 上 Gemini-3-Pro 从 54.1% 提高到 61.2%。

Keliang Li, Heng Wang, Chen Hu 等

arXiv cs.CL · cs.AI

Learning to Learn from Context: Synthetic Training from Perturbed Public Documents

说明让大模型从上下文中学习:基于扰动公开文档的合成训练

简介本文提出一种无需人工标注的合成训练方法,利用经过轻微扰动的高质量公开文档,生成依赖文档上下文的问题、评分标准与答案,用于训练学生模型。论文称,经此训练的 Qwen3.6-35B-A3B 模型在 CL-bench 上由 13.7% 提升至 22.8%,再经基于评分标准奖励的强化学习后达到 24.6%。作者同时报告长上下文理解、指令遵循与推理能力有所迁移,代码生成与知识类任务基本持平。

Haoyi Wu, Yang Xiao, Yusong Sun 等

arXiv cs.AI · cs.LG

Scalable and Data-Driven Decision Support in the Maintenance, Repair, and Overhaul Process

说明面向维修、修理与大修(MRO)流程的可扩展数据驱动决策支持

简介本文提出智能专家系统(SES),用机器学习为工程专家在燃气轮机等铸造部件的维修全流程中提供决策支持。文中介绍了该系统的IT架构和若干典型MRO用例的机器学习模型。作者使用一家领先燃气轮机企业的实际工业数据进行评估,结果显示该系统在决策支持的适用性和IT架构的稳定性方面满足既定要求。

Houkun Zhu, Helena Ebel, Dominik Scheinert 等

arXiv cs.LG

SafeMol: Dual-Modality Safety Alignment for Molecular Multimodal Models

说明SafeMol:面向分子多模态模型的双模态安全对齐

简介分子多模态模型可用于多种理解与生成任务,但处理危险分子时可能带来安全隐患。论文发现文本输入和图结构输入两种设定下都存在明显的越狱攻击漏洞,并构建了包含3702个样本、涵盖618个危险分子的SafeMolBench基准。在此基础上提出参数高效的SafeMol框架,通过MMD对齐不同模态的表示,实验显示其可将攻击成功率降低数十个百分点,同时基本保持较低的过度拒绝率和分子任务能力。

Xinmiao Wang, Ruijie Wang, Menghui Wang 等

arXiv cs.AI

Trajectory Unlearning on LLM-based Agents

说明基于大语言模型智能体的轨迹遗忘:让智能体忘掉不该重复的行动路径

简介现有大语言模型遗忘研究主要针对具体知识的删除,本文指出智能体还应避免重复不良行为轨迹,并提出轨迹级遗忘问题。作者提出GiRPO方法,将需遗忘的轨迹以惩罚奖励注入策略采样组并隔离归一化统计量,在ALFWorld和WebShop两个场景上的实验显示,该方法能有效遗忘目标轨迹,同时保持任务成功率,且优于现有知识遗忘基线。

Yingdan Shi, Ren Wang

arXiv cs.LG · cs.CL · stat.ML

Quantifying Behavioral Tails in Black-Box Language Models

说明量化黑盒语言模型中的行为尾部风险

简介论文提出 RareTrap 框架,用于估计黑盒大语言模型出现严重行为的概率。它借助代理模型,将低维潜在空间映射到词嵌入空间,从而定义可复现的输入提示分布,并用顺序稀有事件模拟逐步聚焦更严重的行为。作者在 10 个开源模型和两个前沿模型上测试,发现该方法能诱发严重的资源消耗行为,并且仅需约 200 次评估即可估计其概率。

Elsayed Eshra, Ali Al-Lawati, Dongwon Lee 等