AI 算法 · 2026年10月2日(周五)

机器学习、人工智能、自然语言处理、计算机视觉、多智能体。

arXiv cs.CL · cs.AI · cs.LG

From Knowledge Access to Source Learning: Developing Source-Specific Competence

说明从知识访问到来源学习:培养特定来源的专业能力

简介本文研究大语言模型代理如何在长期使用同一权威来源时,逐步形成关于该来源的可复用理解,而不只是反复访问。作者提出SourceLearn方法,结合自主探索与任务引导两种学习机制来构建并更新持久的来源模型。在五个基准和三种大模型后端上,该方法在15组设置中有13组表现最佳。

Lucheng Fu, Kejing Xia, Yiyang Wang 等

arXiv cs.CV

Omni-Embed-Mini: Binding Modalities Without Forgetting via Dense Distillation

说明Omni-Embed-Mini:通过稠密蒸馏实现多模态统一嵌入且不遗忘文本能力

简介本文提出Omni-Embed-Mini,一个0.9B参数的模型,可将文本、语音、音频、图像、视频和视觉丰富文档映射到同一个共享余弦向量空间,且不更新任何文本侧参数。方法上,每个多媒体样本配有稠密的级联描述文字,教师目标即为冻结主干对该描述的嵌入,训练结合Matryoshka SigLIP对比损失与在线困难负样本挖掘。作者报告其文本检索能力保持不变(MTEB-v2 BEIR-8上nDCG@10为49.57),并在参数量上小于所比较的开源全模态嵌入模型。

Mohammed Irfan Kurpath, Jaseel Muhammad Kaithakkodan, Sahal Shaji Mullappilly 等

arXiv cs.LG

Faynt: Scaling and Optimizing Policies for Competitive Melee

说明Faynt:面向竞技乱斗的策略扩展与优化(一个模型控制全部26个角色的Transformer策略,用于《任天堂大乱斗》)

简介本文提出Faynt,一组参数量分别为1000万和7500万的Transformer策略模型,用单一检查点控制《任天堂明星大乱斗》(Super Smash Bros. Melee)全部26个角色。经强化学习后,1000万参数模型在244场同角色对局中赢下240场,胜率98.4%,对手包括14个专用或多角色模型。研究还涵盖架构、优化、扩展性及在约84万场人类对局录像上的预训练,并采用排名与结果课程、蒸馏及仅限Fox镜像对局的强化学习进行后训练。

Ali Janati, Nikita Kuzmin, Rohit Swamy 等

arXiv cs.CL

Keyword Harnesses Fail Open: A Cheap Diagnostic Ladder for Tool-Use Claims in Small Language Models

说明关键词测试会误判:小型语言模型工具调用能力的一套低成本诊断方法

简介论文指出,只靠关键词匹配的基准测试可能高估小模型的工具调用能力。作者比较了两个架构相同的西班牙语安全模型,其中一个在严格的逐字复现检查中完全不发出有效工具调用。作者还用一套低成本诊断找出原因并通过针对性微调修复,同时提出应以此类严格诊断作为小模型工具调用能力声明的前提。

Juan S. Santillana

arXiv cs.LG · cs.AI · cs.CL

Finetuning with Sampling: SFT Learns Better Than You Think

说明采样微调:SFT 的学习效果比想象的好

简介这篇论文提出一种基于马尔可夫链蒙特卡洛(MCMC)的采样算法,逐步把离策略(off-policy)的专家数据调整为更接近模型自身分布的数据,再用于监督微调(SFT)。在科学技能获取、数学推理等任务上,该方法使 SFT 的表现可以媲美主流后训练技术,泛化通常更好,遗忘也更少,并能学到超出基础模型分布的能力。

Aayush Karan, Sitan Chen, Yilun Du

arXiv cs.CV · cs.AI · eess.IV

MIRTO: a registration-gated, multiverse-tested evaluation protocol for unsupervised anomaly segmentation in brain MRI

说明MIRTO:一种用于脑部MRI无监督异常分割的、以配准为门槛并经多宇宙测试的评估协议

简介该论文提出MIRTO评估协议,用于比较脑部MRI无监督异常检测方法,使配准、阈值设定、假阳性预算等常被忽略的选择显式化并量化其影响。在312例BraTS 2020受试者上测试四种方法,发现轴序不匹配会显著降低扩散模型的体素AUROC,并指出阈值迁移可解释Dice优势的消失。由于同一队列同时用于开发协议,所有推断均为探索性的。

Negin Kafee Hernashki, Soumick Chatterjee

★★★★☆ 值得关注
arXiv cs.LG · cs.DS · math.OC

Linear Programming Representations and Strongly Polynomial Algorithms for Robust Markov Decision Processes

说明鲁棒马尔可夫决策过程的线性规划表示与强多项式算法

简介本文研究在奖励与转移存在有理多面体状态-动作矩形不确定性时,鲁棒马尔可夫决策过程(RMDP)的线性规划表示与强多项式算法。作者通过编码有限步的鲁棒策略迭代,构造出一个单一线性规划,其最优解可恢复鲁棒最优值及所有最优平稳随机策略。文中还分析了鲁棒策略迭代的复杂度,并针对若干不确定性集合给出新的强多项式界。

看点通过编码有限步鲁棒策略迭代得到单一线性规划,并为多类不确定集建立强多项式界,理论推进明显。

Han Zhong, Yinyu Ye

arXiv math.ST · cs.LG · stat.ML

Sample complexity bounds for categorical Markov random fields via Discrete Diffusions

说明基于离散扩散的分类马尔可夫随机场样本复杂度界

简介论文研究如何对具有局部依赖结构的高维分类分布进行采样,并以低阶马尔可夫随机场建模局部依赖。作者提出一种离散得分的“钉住分解”,并据此设计权重共享神经得分学习器,结合τ-跳跃方法得到端到端采样流程,给出了显式依赖词表大小、交互阶数与样本量的样本复杂度界。实验在Potts、Ising和树结构模型上进行,结果显示权重共享得分网络在长序列采样上优于全连接网络。

Shivam Kumar, Nabarun Deb

arXiv cs.LG · cs.AI

Local Support Learning

说明局部支持学习:在大模型中减轻灾难性遗忘的方法

简介本文研究大型预训练模型中的灾难性遗忘问题,将遗忘视为各权重矩阵输入空间中的几何问题。作者提出局部支持学习(LSL)框架,在新的训练阶段中加入一个门控函数,仅对本阶段训练分布内的输入激活启用权重适配器,并用高斯混合模型作为门控,使其在先前数据上基本保持关闭。作者称该方法可在最多70亿参数的大语言模型中保留预训练与微调能力,且在内存、计算和超参数稳健性方面表现良好。

Assaf Ben-Kish, Akarsh Kumar, James Glass 等

arXiv cs.CV

Harnessing Domain Specialists in Multimodal Mixture-of-Experts for Efficient Adaptation

说明利用多模态混合专家中的领域专家实现高效适应

简介论文研究多模态混合专家(MoE)模型中稀疏计算是否会自发形成语义上的专家分工。作者提出 ExpertLens,无需数据,直接从预训练权重中把路由器权重解码为词表词元,找出面向特定领域的专家。在数学、医疗和遥感任务上,只微调 21.7%–47.0% 的参数,效果匹配或超过全量微调,平均训练加速 4.0 倍,且优于 LoRA。

Damiano Marsili, Raphi Kang, Aditya Mehta 等

★★★★☆ 值得关注
arXiv cs.CL · cs.AI · cs.DB

Argo-Bench: Evaluating Data Agents on Enterprise-Scale Workflows

说明Argo-Bench:在企业级工作流中评估数据智能体

简介该论文提出 Argo-Bench,一个包含 210 项数据科学与分析任务的评测框架,模拟了 2024 年纽约一个拥有 8100 万订单的外卖平台,并将其导出为含 235 张表、75 亿行数据的 ERP 数据仓库。智能体需要在仓库中重建事实后执行封禁欺诈账户、分配激励预算等操作,并按模拟器中的后果评分。在 14 个前沿及开源模型中,表现最好的模型仅有 34.8% 的任务得分达到 95 分或以上,平均 59.5 分。

看点构建了跨235张表、可执行动作并以模拟器后果评分的企业级数据智能体基准,超越了单纯text-to-SQL评测,并用14个前沿模型验证其难度。

Gabriel Tomitsuka, Arman Raayatsanati, Emma Xing 等

arXiv eess.SY · cs.MA · cs.SY

Decentralized Power-Optimal Coordination for Spacecraft Swarms Using Time-Varying Magnetorquer Actuation

说明基于时变磁力矩器驱动的航天器群分散式功率最优协调

简介本文提出一种用于磁驱动航天器群的分散式功率最优协调框架,旨在让多颗航天器协同形成大型空间结构,仅依靠太阳能供电保持构型。框架同时设计相互作用图、频率分组和控制器增益,并保持角动量守恒。仿真中对一千颗航天器进行了闭环验证,结果显示相对位置误差、姿态误差和反作用轮动量失衡可收敛到期望状态。

Yuta Takahashi, Shin-ichiro Sakai

arXiv cs.CV · cs.AI · cs.CL 有代码

Where-OPD: Spatially Guided On-Policy Self-Distillation of MLLMs with Synthetic Scenes

说明Where-OPD:利用合成场景、基于空间引导的多模态大模型在线自蒸馏

简介本文提出Where-OPD方法,让多模态大模型的教师版本获得文字形式的空间定位提示,指出与问题相关的图像区域,学生模型只依据图像和问题学习这一行为。训练使用程序生成的合成场景,物体身份和空间坐标可自动获得,无需人工标注。在计数、文档和图表理解等基准上,多个模型均有提升,且仅用合成场景训练的效果可迁移到真实感知基准,六项测试的平均分提高3.23分。

Sophia Sirko-Galouchenko, Monika Wysoczanska, Andrei Bursuc 等

arXiv cs.AI · cs.CL

A Comparative Explainability Framework for DeBERTa-v3 in Zero-Shot Medical Abstract Classification

说明面向医学摘要零样本分类的DeBERTa-v3多方法可解释性比较框架

简介该论文提出一个比较性可解释性框架,用于审计DeBERTa-v3在医学摘要零样本分类中的解释结果。作者比较了SHAP、LIME、遮挡、Input x Gradient和Attention x Gradient五种解释方法,并用Jaccard指数衡量各方法之间的一致性。结果显示,在临床领域定义清晰时预测准确率高,语义模糊时性能下降;解释稳定性与预测确定性同步变化。

Javier Diaz Esteban-Herreros, David Mu\~noz-Valero, Raquel Mart\'inez-Espa\~na 等

arXiv cs.CV

Surface-volume self-supervised representation learning of brain MRI for genetic discovery

说明基于脑部MRI表面与体积的自监督表征学习用于遗传发现

简介本文提出MEVA(网格增强体积自编码器),一种自监督框架,将体素级图像强度与皮层网格几何信息(包括各表面顶点的曲率和皮层厚度)编码为同一组影像特征。在UK Biobank的全基因组关联分析中,这些特征比仅用体积或仅用网格学习到的特征检出更多达到全基因组显著性的位点,表明加入皮层表面几何信息有助于捕获更多可遗传变异。

Tian Xia, Nuo Chen, Zihao Zhu 等

★★★★☆ 值得关注
arXiv cs.LG

Are We Recovering Mechanisms? Objective-Level Recovery Gaps in Mechanistic Interpretability

说明我们是否真的在恢复机制?机械可解释性中目标层面的恢复偏差

简介本文研究机械可解释性中电路评估的可靠性。作者指出,基于干预的忠实度评估会改变电路之外的信号,从而扭曲计算环境,可能把行为复现较差的电路排在更前面。在IOI、Greater-Than等已知机制的预训练语言模型上,作者构造等规模候选电路进行测试,并在EAP、ACDC等自动发现方法的输出中发现此类错误排序,比例为13.2%至24.4%。恢复部分原始信号可纠正其中大部分失误,论文因此呼吁重新思考电路发现及其评估方式。

看点指出干预式忠实度评估存在上下文失真导致的误排序,并用受控编辑与多种发现方法验证,且通过恢复信号反转大部分误排,有新意。

Chuqin Geng, Li Zhang, Haolin Ye 等

arXiv cs.CL · cs.AI · cs.LG

Scalable, Transferable Meta-network for Data Selection Requires a Different Loss (and Why the Obvious Choice is Problematic)

说明可迁移的数据选择元网络及其所需的新损失函数

简介这篇论文研究用于大语言模型训练数据筛选的方法。作者提出 TESS 框架,用一个选择网络替代逐样本权重,并采用点式价值匹配目标(PVM)以解决优化不稳定和泛化差的问题。实验显示该方法在大语言模型安全性与定向指令微调任务上,能在数据子集、全量语料及不同规模模型之间迁移。

Zilin Du, Bowen Yang, Boyang Albert Li

arXiv cs.CV · cs.AI

GeoLatent: Geometry-Guided Latent Structuring with Routed Optimization for 3D Reasoning

说明GeoLatent:用几何引导的潜变量结构与路由优化进行三维推理

简介该论文针对从二维图像进行三维空间推理的难题,提出 GeoLatent 方法。它用 CR-GEO 将共享与残差几何信息分开,并以路由优化联合训练几何与语言,使视觉答案学习经由潜变量传递。论文报告 SPAR-Bench 达到 73.0%,SPBench 达到 72.1%,两项均高于已报告的方法。

Yakun Zhu, Yi Bin, Yujuan Ding 等

arXiv cs.RO · cs.AI 有代码

HumanoidToolBench: Benchmarking Humanoid Tool Use from Selection to Mobile Execution

说明HumanoidToolBench:从工具选择到移动执行的人形机器人工具使用基准

简介该论文提出HumanoidToolBench,一个包含18项任务、覆盖三类场景、三种执行等级和两种工具集模式的基准,并配套3.1k条演示数据集ToolBook,数据采集于仿真环境和真实Unitree G1机器人。研究评估了七个仿真策略和三个真实机器人策略,发现选择合适工具与完成任务之间存在明显差距。针对GR00T N1.7的专项测试显示,其在未见工具上的选择准确率下降,且在无关指令下仍会继续执行任务。

Kyochul Jang, Seohyeon Park, Ohchul Kwon 等

arXiv math.NA · cs.LG · cs.NA

Kolmogorov-Arnold Networks for Free-Boundary Partial Differential Equations

说明用于自由边界偏微分方程的柯尔莫哥洛夫-阿诺德网络

简介本文提出一种基于柯尔莫哥洛夫-阿诺德网络(KAN)的物理信息方法,用于求解自由边界问题,通过残差损失函数处理障碍约束、互补条件和边界条件。研究考察了线性椭圆障碍问题、非线性p-拉普拉斯障碍问题以及随时间变化的单相斯蒂芬问题。与物理信息神经网络(PINN)和残差网络基线相比,KAN求解器误差更低,并能准确刻画接触区域和移动界面。

Tan Phuong Dong Le

arXiv stat.ML · cs.LG · math-ph

Wasserstein Gradient Flows and Forward-Only Diffusion Are Not Enough for Multimodal Sampling

说明Wasserstein梯度流与仅前向扩散不足以用于多峰采样

简介本文讨论基于Wasserstein梯度流(WGF)和仅前向扩散过程(FODP)的采样算法。作者指出,这类方法的收敛保证不能说明其能高效采样多峰分布:它们与非平衡统计物理中的亚稳态和慢混合现象有关。通过谱分析和平均首次通过时间分析,论文表明,当模态相距较远时,混合时间可能呈指数增长;对于所研究的对数线性退火方案,引入中间分布也无法消除这种指数级增长。

Daniel McBride, Pratik Khandagale, Cristina Garcia-Cardona 等

arXiv cs.CL

LLM-as-Jev: LLMs Are Already Jev-Style Decision Models -- When and How to Fine-Tune Them

说明LLM-as-Jev:大语言模型本身已具备 Jev 式决策能力——何时以及如何微调

简介该论文研究通用大语言模型能否直接充当 Jev 式决策模型,即在预定义选项上输出类别概率分布,而无需生成自由文本。作者提出 LLM-as-Jev 框架,包含免训练推理方法和带 KL 散度锚点的微调目标。实验基于 Qwen3.5-4B 和 Qwen3-0.6B,结论是现成的冻结模型即可达到或超过已有免训练方法,并能处理多模态决策;微调主要对小模型和复杂路由有针对性的提升。

Yinheng Li, Justin Wagle

arXiv cs.AI

PyPottery: an AI-powered end-to-end suite for pottery processing and publication

说明PyPottery:用于陶器资料处理与出版的 AI 端到端工具套件

简介本文介绍开源工具套件 PyPottery,利用人工智能半自动完成陶器文献记录的全流程,包括图像提取与手写识别、铅笔线稿上墨、语义感知矢量化及排版生成四个模块。在意大利 Terramara di Montale 遗址的 50 张手绘图纸(共 240 幅陶器图)上测试,参与可用性研究的人员报告中位数感知提速为 40 倍(范围 17.5 至 120 倍)。

Lorenzo Cardarelli

★★★★☆ 值得关注
arXiv cs.AI 有代码

Causal Memory Policy: Making Memory Utility Identifiable by Intervening on Retrieval

说明因果记忆策略:通过干预检索使记忆效用可识别

简介该论文指出,带记忆的大语言模型在估计记忆效用时,若某条记忆从未被检索,其效用便无法识别。作者提出因果记忆策略(CMP),通过对检索本身进行干预,为具有已知倾向得分的记忆预留固定数量的上下文位置,并用自归一化逆倾向加权估计记忆效用。论文报告在LongMemEval和LoCoMo上分别有54%和67%的必需记忆无法识别,CMP将必需与非必需记忆的区分AUC从0.54提升至0.66。

看点通过对检索本身进行干预以恢复记忆效用的可识别性,提出新的因果框架;实验规模和对比较充分但仍有局限。

Arman Behnam, Binghui Wang

arXiv physics.ao-ph · cs.LG

AI Emulation of Stochastic Sudden Stratospheric Warming with Interpretable Latent Structure

说明基于可解释潜在结构的随机平流层突然增温AI仿真

简介该研究构建了一个概率深度学习仿真器,用于模拟随机Holton–Mass平流层变率模型,该模型包含强、弱两种极地涡旋状态及其之间的罕见转换。仿真器在短期动态、稳态分布、状态持续统计、转换率、committor函数和预期提前时间等方面都与物理模型相符。对其32维潜在空间的主成分分析显示,模型无监督地分出四个具有物理意义的聚类。

C. Daniel Boscu, Daniel Hernandez, Fabio Alvarez Ventura 等

arXiv cs.LG

Learn the Directions, Normalize the Gains: Post-Training Normalization for LoRA

说明学习方向,归一化增益:面向LoRA的训练后归一化方法

简介论文指出LoRA微调更新中少数奇异方向占主导,导致适配增益分配不均衡。作者提出LoRA-Norm,在保留学到的方向的同时重新平衡增益,结合谱重平衡与核范数恢复,无需校准数据、额外训练,也不增加推理开销。在两种骨干模型和三项适配任务上,该方法在专化效果与能力保持两方面均优于所评估的后处理谱剪枝与梯度引导编辑方案。

Zailong Tian, Yanzhe Chen, Zhuoheng Han 等

arXiv cs.AI

External Observers May See More Clearly: Cross-Model Span-Level Hallucination Detection in Large Language Models via Hidden State Probing

说明外部观察者可能看得更清楚:基于隐藏状态探测的跨模型片段级幻觉检测

简介本文提出一种基于模型内部隐藏状态的细粒度片段级幻觉检测方法,可定位大语言模型生成中幻觉出现与延续的具体词元,而不只做逐词元二分类。实验显示该方法在极度类别不平衡下,于精确率-召回率曲线下面积上明显优于随机基线。作者还提出跨模型检测框架,发现外部观察者模型在定位幻觉起始点上可以达到或超过生成模型的自我检测效果。

Kingshuk Gupta, Davide Buscaldi

arXiv cs.LG

Foundations without Fundamentals: Zero-Shot Blind Spots in Time Series FMs

说明基础而无根本:时间序列基础模型的零样本盲区

简介本文提出 SimpleTimeBench,一套针对单变量与多变量时间序列的诊断性“单元测试”,涵盖单调趋势、周期信号和先行指标协变量等基本模式。结果显示,Chronos-2、Moirai、Toto 等多变量时间序列基础模型在这些简单场景下的零样本预测常不理想。对 Chronos-2 微调虽改善特定任务,却降低了其他基本模式上的表现;在真实传感器预测中,模型也普遍未能充分利用可观测的先行指标。

Nafiseh Ghoroghchian, Haipeng Zhang, Shuyi Han 等

arXiv cs.CV

Learning from Failure: Leveraging Unreliable Predictions in Semi-Supervised Real-World Adverse Weather Removal

说明从失败中学习:在半监督真实恶劣天气图像修复中利用不可靠预测

简介该论文针对雨、雾、雪等恶劣天气造成的图像退化,提出一种学生-教师半监督框架,以改善模型在真实场景中的泛化能力。方法包括保存失败的教师预测作为对比学习负样本、保存高质量预测作为正样本,并引入基于相位谱的语义约束和自适应相位一致性损失。作者称该方法在真实基准测试中,修复质量和感知保真度均优于现有最先进方法。

Cap Dang Xuan Kiet, Tat-Jen Cham

arXiv cs.AI

HydroJEV: A one-second, training-free screen for cyber-attack and fault attribution in water distribution networks

说明HydroJEV:一种无需训练、约一秒完成的供水管网网络攻击与故障归因初筛方法

简介论文针对供水管网SCADA报警的快速分诊问题,测试了一种无需训练、约一秒给出类别概率的模型Jev,用于区分网络攻击、物理故障、正常瞬态和传感器故障。在基于EPANET的C-Town网络四类归因基准上,Jev的宏观F1与手写规则树相当,在训练标签中未出现的事件子类上明显优于监督分类器,并且速度比前沿大语言模型快20到40倍。文中还报告,将Jev判定为良性且规则树确认的窗口交给大语言模型复核时,可节省35%至38%的复核量,且宏观F1未下降。

Tianwei Mu, Shengyan Jiang, Mingzhe Yuan 等

arXiv cs.CV · cs.MA

Form and Void: Entangled Composition through an Autonomous AI Agent

说明形与空:通过自主AI智能体生成正负空间的纠缠构图

简介本文提出Form and Void Agent(FaV-A),一个用于分阶段生成正负空间构图的多模态智能体。它先生成基础物体,再分析其形状与空间结构以找出候选负空间语义,最后生成用于最终图像生成的构图指令。作者称,实验与消融分析显示,该框架比直接零样本多模态大模型基线更能生成视觉连贯、语义对齐的正负空间构图。

Shiwen Wang, Jian Yang, Xu Wang 等

arXiv cs.CV

DiDE:Direct Injection with Color-Texture DEcoupling for 3D Stylization

说明DiDE:面向三维风格化的颜色与纹理解耦直接注入方法

简介该论文提出 DiDE,一种无需训练的三维风格化框架,可将参考图像的颜色与纹理分开控制并分别迁移到生成的三维模型上。现有方法只能同时迁移二者,DiDE 利用图像到三维模型的潜在空间中纹理只占部分通道的特点,把颜色编码放在空闲子空间中。在作者新建的多参考基准 Disen3D-Bench 上,DiDE 在颜色保真、纹理迁移和内容保持方面优于二维与三维风格化基线。

Tao Wu, Alexandra Gomez-Villa, Senmao Li 等

arXiv cs.CL

HakemBench: A Turkish Benchmark of Typed Decisions

说明HakemBench:土耳其语的结构化决策基准测试

简介HakemBench 是一个土耳其语基准测试,要求被测模型阅读文本、问题及固定选项,并为每个选项给出概率。1.0 版本以 CC BY 4.0 协议开放,包含 2,346 条样本和 4,275 个问题,涵盖七个任务方向。评测同时衡量决策质量、校准度和选择性自动化,并给出基于 2,000 次自助重采样的区间。多数标准答案来自一个 AI 模型家族的盲评,并非人工核验。

Sait Furkan Teke (ufak AI)

arXiv cs.LG · cs.AI

Distributionally Robust Schrödinger Bridge

说明分布鲁棒薛定谔桥:应对初始分布偏移的随机传输控制方法

简介该论文提出分布鲁棒薛定谔桥(DRSB),用于在初始分布在一定范围内变化时仍能学习稳定的随机传输控制器。目标函数包含控制能量和终端分布与目标分布之间的KL惩罚,并通过交替算法训练,同时给出Wasserstein与Sinkhorn两种变体。实验显示其对输入扰动更稳健,但名义性能有所折损。

Jinhwan Sul, Panagiotis Theodoropoulos, Vincent Pacelli 等

arXiv cs.CL

Typological Alignment of Stack-Based Language Models on Mildly Context-Sensitive Artificial Languages

说明基于栈的语言模型在轻度上下文敏感人工语言上的类型学对齐

简介该论文研究语言的类型学共性(如主宾动词语序)是否与语言模型的学习偏好有关。作者在人工语言上考察交叉串行依存(已知自然语言句法复杂度的上限)及栈式语言模型的泛化能力。结果显示,这类模型难以学习交叉串行结构;但工作记忆有限的栈式模型泛化更好,这可能为某些语序的类型学共性提供一种解释。

Nadine El-Naggar, Tatsuki Kuribayashi, Ted Briscoe

arXiv cs.LG · cs.AI · cs.CL

CARM: Cancellation-Aware Response Masking for LLM Reinforcement Learning

说明CARM:面向大语言模型强化学习的抵消感知响应掩码

简介本文针对大语言模型强化学习中因策略更新和推理引擎差异导致的离策略问题,提出抵消感知响应掩码(CARM)。该方法在平均前对每个词元的对数概率比取绝对值,避免正负变化相互抵消,并给出可接受响应的理论界。实验显示,在数学推理和代码生成任务上,CARM相比几何平均掩码有所提升。

Yafei Zhang, Songshuo Lu, Sicong Liao 等

arXiv cs.AI

Mimir: Physics-Grounded LLM Agents for Long-Horizon Irrigation Control

说明Mimir:基于物理约束的大语言模型智能体用于长周期灌溉控制

简介该论文提出 Mimir,一种基于物理约束的大语言模型智能体,用于长周期灌溉控制。它在快速时间尺度上通过确定性模拟器检验并修正 LLM 给出的灌溉方案,在慢时间尺度上把反复出现的失败模式固化为持久的情境原则,而物理模型与执行约束保持不变。论文称,在多地点、多作物、多年份的统一回顾性评估中,Mimir 的综合控制成本最低,灌溉用水比历史排程回放少约 51%。

Yimeng Liu, Mi Zhang, Younsuk Dong 等

arXiv cs.AI

Global Coherence: When Every Agent Is Right and the Team Is Still Wrong - A Local-to-Global Semantic Foundation for Multi-Agent Collaboration

说明全局一致性:每个智能体都正确,团队却仍然出错——多智能体协作的局部到全局语义基础

简介本文研究多个AI智能体各自决策都局部有效、但合起来却得出无效结果的问题,称为“全局一致性问题”,本质上是共享状态的缺失。作者给出观察混淆不可能性定理,说明何时策略能保证有效行动,并提出局部到全局的运行时语义框架,由控制框架而非模型来管理共享状态与提交。文中在多个基准上的实验结果表明,缺失的全局状态无法靠局部智能弥补。

Xin Heng

arXiv cs.LG

Relative Transitions, Not Absolute Destinations: A Transfer-and-Ground Framework for Target-Trajectory-Free Human Mobility Generation

说明相对转移,而非绝对目的地:一种无目标轨迹的人类移动生成迁移与落地框架

简介本文针对目标城市缺乏轨迹数据的情形,研究仅利用目标城市的兴趣点(POI)坐标与类别来生成人类移动轨迹的问题。作者提出Nomad框架:先在源城市轨迹上学习语义与地理位移及时间间隔的转移先验,推理时再通过行为图和探索-返回游走将采样转移落地到目标城市的POI地图上。在十个城市、14组迁移实验中,该方法在轨迹保真度和下游效用上优于适配基线,分布保真度指标平均误差较各指标最优基线降低约15%,下游效用降低约3%。

Yidi Wang, Yunhe Zhang, Bangchao Deng 等

arXiv cs.LG · cs.AI

Diffusion-Based Synthetic Data Pretraining for Enhancing Activity Recognition

说明基于扩散模型合成数据预训练的活动识别方法

简介本文针对可穿戴设备的人体活动识别,提出用扩散模型生成合成传感器数据窗口,先在合成数据上预训练CABiGRU模型,再用真实数据微调,以改善少数类别识别不足的问题。在DEO(饮水/进食/其他)数据集上,该方法达到90.6%的平衡准确率,优于强监督基线。

E. Riveros (1), D. Vega-Oliveros (2), A. Soriano-Vargas (3) 等

arXiv cs.AI · cs.HC 有代码

SPHERE: Adaptive VR Indoor Scene Generation via LLM-Enhanced Spatial Preference Learning and Human-in-the-Loop RL

说明SPHERE:基于大语言模型与人在回路强化学习的自适应VR室内场景生成

简介该论文提出SPHERE框架,用于VR中的室内场景生成。它从用户的语音和手柄编辑等多模态交互中提取持久的空间偏好,并通过强化学习依据用户最终编辑结果更新检索策略。作者以42人的混合设计用户研究和离线消融实验表明,该方法减少了修正性编辑与体力负担,使布局更符合用户偏好。

Hyeonmin Lee, Zheng Wei, Kyungmin Kwon 等

arXiv cs.CL

Old Ideas, Novel Problems: The Instability of LLM-Based Novelty Evaluation

说明旧想法,新问题:基于大语言模型的新颖性评估并不稳定

简介本文研究如何用大语言模型判断AI生成研究想法的新颖性。作者从OpenReview收集审稿人明确认可或否定论文原创性且意见一致的文段,构建评估集,并与普通大语言模型生成的想法配对测试六种评审模型。结果显示,提示词的细微设计会大幅改变判断,有时甚至低于随机水平;检索和更大的推理预算帮助有限,两种专用评估器也不如最简单的提示基线。

Noy Sternlicht, Simra Shahid, Peter Jansen 等

arXiv cs.CV · cs.AI

Task-Adaptive Grounded 3D-Programmers Using 2D VLMs

说明基于2D视觉语言模型的任务自适应三维程序化理解框架

简介本文提出3D-Prog框架,在不重新训练的前提下,让现有2D视觉语言模型可靠地处理三维任务。方法包括规范坐标系框架(CCF),将输入输出统一到共享欧氏坐标系,缓解轴向歧义和尺度不一致等问题;以及任务自适应反馈(TAF),通过动态反馈闭环支持多种开放词汇任务。作者称两者结合后,模型能在物体级和场景级的三维理解、操作与生成中取得一致且可解释的结果。

Arman Raayatsanati, Sombit Dey, Anna-Maria Halacheva 等

arXiv cs.CL · cs.CV

Controllable Multi-label Video Safety Detection via Adaptive Tversky Policy Optimization

说明基于自适应Tversky策略优化的可控多标签视频安全检测

简介该论文针对社交平台视频的有害内容检测,指出现有系统多把问题简化为二分类,且训练目标固定、难以调整精确率与召回率的平衡。作者提出自适应Tversky策略优化(ATPO)强化学习框架,并设计自适应Tversky奖励(ATR)在训练中动态调整误报与漏报的惩罚。在SafeWatch-Bench和XD-Violence上的实验显示,ATPO显著提升多标签性能,SafeWatch-Bench-Real上的Jaccard指数由40.66提高到75.44。

Guangyu Yang, Jingbiao Mei, Mingsheng Sun 等

arXiv cs.LG · cs.AI

On Language Drift during RLVR Post-Training

说明关于RLVR后训练中语言漂移的研究

简介该论文研究大语言模型在可验证奖励强化学习(RLVR)后训练中,思维链出现异常、非标准语言用法(即语言漂移)的成因。作者从理论上证明RLVR的优化压力允许无界的语言漂移,而监督微调则不会;实验表明,漂移主要出现在基础模型无法自然产生目标行为的新颖推理任务上。作者还证明,若不限制期望奖励,就无法约束语言漂移。

Michael Sullivan, Alexander Koller

arXiv cs.AI

Atoms to Processes: The Role of Artificial Intelligence and Machine Learning in Chemical Engineering

说明从原子到过程:人工智能与机器学习在化学工程中的作用

简介本文从观点角度回顾了人工智能和机器学习在化学工程中的最新方法与代表性应用,涵盖原子尺度模拟、材料与催化剂发现、过程系统工程与工业运行等领域。文章指出,该领域的共同趋势是从纯黑箱方法转向与第一性原理相结合的混合及物理信息框架,以提高预测精度与可靠性。作者认为,人工智能与机器学习并非取代化学工程的核心原理,而是在放大这些原理的作用。

Michael Baldea, Linda J. Broadbelt, Marianthi G. Ierapetritou 等

arXiv cs.LG · physics.app-ph · physics.chem-ph

BranchIP: Learning Adaptive Equivariant Computation for Interatomic Potentials

说明BranchIP:为原子间势学习自适应等变计算

简介论文提出 BranchIP,一种用于等变机器学习原子间势(MLIP)的单模型框架,可学习自适应的张量积计算,并通过新的蒸馏损失进行训练。在两类物理体系(异相催化体系和质子导电固体酸电解质)的实验中,该方法在不同模型规模下最高可将速度提升 2.4 倍、内存占用降低 2.6 倍,并保持物理准确性。学习到的自适应计算还能显示哪些相互作用需要更深的计算,有助于理解模型。

Laura Zichi, Gil Harari, Chuin Wei Tan 等

arXiv cs.CV · cs.AI

SPIRIT: Sparse Physics-Informed Inverse Rendering for SAR Imaging

说明SPIRIT:面向合成孔径雷达成像的稀疏物理约束逆渲染方法

简介本文提出SPIRIT框架,用于稀疏孔径合成孔径雷达(SAR)成像。它不增强已生成的图像,而是直接重建显式的三维表面,并显式建模可见性、相位相干与波传播。在合成与真实数据上的实验显示,在数据采集减少90%以上的极端稀疏条件下,该方法仍能恢复较准确的几何与信号,且误差较低并优于基线方法。

Yimeng Liu, Maolin Gan, Jingkai Lin 等

arXiv cs.LG

Bellman Meets Lyapunov: Unsupervised Reinforcement Learning via Mastering Chaos

说明贝尔曼遇上李雅普诺夫:通过掌握混沌实现无监督强化学习

简介本文提出一种无需人工设计奖励、基于智能体与环境交互内在动机的无监督强化学习方法,名为Forward CIP(F-CIP)。该目标仅由系统动力学决定,无需选择信息变量。实验表明,训练后的智能体能自主发现平衡、保持可控性等基本行为,结合简单的前进速度奖励后,还能学会跳跃、奔跑等协调步态。

Tristan Shah, Wooyoung Chung, Volodomyr Makarenko 等

arXiv cs.CV · cs.AI · cs.MM

Exploring Weaknesses of Generative Image Watermarks against Latent Frequency Masking

说明针对生成图像水印的潜在频域掩码攻击研究

简介本文提出一种名为“潜在频域掩码”的攻击方法,通过替换带水印图像潜在表示中的部分傅里叶系数来削弱水印痕迹。作者在DiffusionDB与MS-COCO提示词生成的图像上,对六种扩散模型水印方法进行了评估。结果显示,该攻击能移除或明显削弱多种水印,同时保持图像感知质量,并呼吁将此类攻击纳入生成图像水印的鲁棒性评估。

Kirill Aistov, Khaled Abud, Irina Serzhenko 等

arXiv cs.AI

Counting Moves, Weighing Voices: Bayesian Dialectical Argumentation for Calibrated Multi-LLM Councils under Persistent Adversaries

说明计数交锋,权衡声音:面向持续性对抗智能体的校准多LLM议会贝叶斯辩证论证

简介该论文提出贝叶斯辩证论证(BDA)方法,用于聚合多个大语言模型组成的“议会”的答案与置信度。它把各智能体提出、质疑或让步等交互动作视为带有各自可靠性参数的标注模型观测,从而推断每个智能体的可靠性。该方法无需额外的LLM调用即可得到校准后的后验概率,并在持续对抗场景下更稳健。

Ionel Eduard Stan, Paolo Napoletano

arXiv cs.CL · cs.AI 有代码

Mem++: Non-Destructive Memory for Long-Term Organizational LLM Agents

说明Mem++:面向长期组织型大模型智能体的非破坏性记忆框架

简介本文提出Mem++,一种面向组织工作场景的大模型智能体记忆框架。它完整保存每份带日期和作者信息的文档,写入时不调用生成模型,读取时只检索问题所问时间点之前的文档,并融合词汇与语义排序。在OrgMemBench基准上,Mem++在两个回答模型下比最强记忆系统基线高出8.0至13.1分;在LoCoMo上取得最佳平均LLM评审分数,在LongMemEval-S上排名第二。

Ahmad Yehia, Aly O. Abdelkareem, Islam Ahmed 等

arXiv cs.AI · cs.CL

Mingbird: A Local-First Agent Harness Enabling Small Open Models to Complete Real Tasks

说明Mingbird:让小型开源模型完成真实任务的本地优先智能体框架

简介论文指出,2至9B的小型开源模型在笔记本上可以运行,但在云端规模的智能体框架下难以完成真实任务,并认为很大一部分失败源于框架而非模型本身。作者提出了面向Windows与Ollama的本地优先智能体框架Mingbird,其十项机制逐一针对小模型的失败形式进行补偿。在受控对比实验(4个框架、4个开源模型、18项真实任务)中,Mingbird总体得分0.886,高于其他三个框架(0.631、0.479、0.405);作者同时说明,本研究基于自建基准、单一机器和单次评分,存在相应局限。

Hao Wang, Ting Huang

arXiv cs.CV · cs.LG

Weather-Aware Domain Adaptation for Street-View Weather Recognition

说明面向街景天气识别的天气感知域自适应方法

简介本文研究在域偏移下从街景图像识别多类天气的问题,训练数据多来自与真实驾驶场景差异较大的非街景来源。作者提出天气感知对抗判别域自适应方法(WA-ADDA),让域判别器以预测的天气为条件,以获得既域不变又对天气敏感的特征。论文还整合多个数据集构建基准,并以宏平均准确率为主要指标。实验显示,在ResNet-50、EfficientNet、VGG、DenseNet等骨干网络上,该方法持续提升街景上的表现。

Hossein Maghsoumi, George Atia, Yaser P. Fallah

arXiv cs.CV

From Reasoning Failures to Composable Video Spatial Intelligence

说明从推理失误到可组合的视频空间智能

简介该论文指出,空间推理基准的总分无法说明模型失败的具体原因,并通过对比预测与真值的空间上下文,归纳出感知不准、信息缺失、测量选错、参考系或位姿跟踪出错四类错误。作者据此提出 CROSS,一个免训练的类型化几何算子与空间技能库,并在五个基准上评测,在 ReVSI 上将平均分从 55.9% 提升至 60.2%,在 DSI-Bench 上将 SpatialClaw 结果从 62.8% 提升至 66.3%。

Pengzhan Sun, Junbin Xiao, Ramanathan Rajaraman 等

arXiv cs.CV · cs.LG

Comparing a gradient boosting algorithm to the GOES FDC for wildfire detection

说明比较梯度提升算法与 GOES FDC 在野火探测中的表现

简介本研究利用 GOES ABI 影像,以 CatBoost 模型进行野火探测,并以超过 30 万个 VIIRS 火点检测结果作为对照训练。在五个地区的独立数据上,该模型的精确率、召回率和 F1 分数均高于现有的 GOES 火点探测产品(FDC),在训练区域内外都是如此。文中还指出,该模型在夜间也能准确探测,而 GOES FDC 的夜间召回率很低,约为 0.03。

Asaf Vanunu, Boaz Nadler, Arnon Karnieli

arXiv cs.CV

Continual Concept Erasure in Diffusion Models by Suppressing Cross-Edit Interference

说明通过抑制跨编辑干扰实现扩散模型中的持续概念擦除

简介本文针对文生图扩散模型的概念擦除问题,指出随着擦除请求陆续到来,已有方法会让残余扰动相互累积,损害无关生成并可能使已擦除目标崩坏为噪声。作者提出无需训练的CEASE方法,在闭式求解器上加入两项子空间约束,并通过闭式分解说明这两项约束分别抑制了干扰的两个来源。在名人、艺术风格和具体实例的持续擦除实验中,CEASE在擦除与保留之间的平衡最为稳定。

Yongliang Wu, Haori Lu, Jinqi Luo 等

arXiv cs.CL · cs.LG

Universal Byte-Level Encoding: UTF-8/UTF-16 Routing to Reduce Cross-Script Token-Budget Disparities

说明通用字节级编码(UBE):用 UTF-8/UTF-16 分流来缩小跨文字的 token 预算差距

简介论文指出,基于 UTF-8 的字节级 BPE 分词器对部分文字起点成本高于英文,导致 token 数增加、上下文变短。作者提出 UBE:1 至 2 字节字符仍走 UTF-8,3 至 4 字节字符改走 UTF-16,以降低高溢价文字的编码下限,同时保持可逆解码。实验显示,UBE 在多语言语言模型上与 BBPE 质量相当,并减少了高溢价文字的 token 数。

Hyunsik Kim, Youngmoon Jung

★★★★☆ 值得关注
arXiv cs.LG

Universal interpolation for deep residual self-attention networks

说明深度残差自注意力网络的通用插值

简介本文研究深度自注意力模型的通用插值能力,关注由深度而非宽度带来的表达能力,并强调各层之间的参数共享。作者证明,使用两个冻结的单头注意力块(投影矩阵为高斯初始化)即可在有限深度和连续深度下实现任意序列集合之间的映射。文中还讨论了因果掩码带来的限制,并给出相应的通用插值保证。

看点证明仅用两个冻结的单头注意力块即可在深度残差自注意力中实现通用插值,理论上较突出,但影响主要限于理论领域。

Sibylle Marcotte, Joan Bruna

★★★★☆ 值得关注
arXiv cs.LG · math.OC · stat.ML

The Curvature of Regret in Contextual Linear Optimization

说明线性优化中后悔值的曲率:面向决策的上下文线性优化理论研究

简介该论文研究上下文线性优化中的决策聚焦学习,指出最优解对成本的微小误差可能不敏感或跳到另一顶点,导致不连续。作者证明在数据分布上取平均后,这种非光滑行为局部呈二次型,并给出以可行集法向扇面墙壁为支撑的矩阵值测度形式的曲率闭式表达。论文还提出仅需一次投影即可计算的近似方法并证明其弱收敛,并在电池套利实验中相比均匀分配实现30.8%的后悔值改进。

看点证明了非光滑遗憾在数据分布平均后局部二次,并给出闭式曲率测度,理论上较新;实验覆盖收敛律与电池套利,支撑较充分,适用于决策导向学习子领域。

Konstantinos Ziliaskopoulos, Alexander Vinel, Alice E. Smith

arXiv cs.LG

Sim+Real: Joint Simulation-Experiment Training Improves Balanced Prediction in Physical Systems

说明模拟与实验联合训练:改善物理系统的均衡预测

简介该论文研究如何同时利用数值模拟数据和实验测量数据来学习时空物理系统。作者在RealPDEBench的四个流体系统上比较了仅模拟、仅实验、先模拟后实验(Sim→Exp)和联合训练四种方式。结果显示,联合训练在多种权重设置下整体表现最均衡,并且比Sim→Exp更好地保留了模拟域的预测能力。

Mahindra Rautela, Alexander Scheinker, Ayan Biswas 等

arXiv cs.CV

Token-Level Video Reinforcement Learning

说明视频生成的逐词元强化学习(TVRL)

简介该论文提出 TVRL,一种面向视频生成的强化学习方法。传统方法对整段视频只给一个总分,难以定位错误;TVRL 利用冻结的视觉语言模型,从奖励中为每个视频词元分配信用,从而更有针对性地优化需要修正的部分。在 VBench-2.0 上,TVRL 的 Overall 得分为 57.69,比基础模型高 3.60 分,并在多种采样器和奖励模型的对比中也有提升。

Yifan Wang, Gordon Guocheng Qian, Yanyu Li 等

arXiv cs.CV

RASteer: Retain-Aware Activation Steering for Concept Erasure in Diffusion Models

说明RASteer:面向扩散模型概念擦除的保留感知激活引导方法

简介该论文提出一种无需训练的概念擦除方法RASteer,用于从预训练文生图扩散模型中移除特定概念(如版权风格、特定角色或不安全内容),同时保留模型生成其他内容的能力。方法先构建需保留概念的子空间,再从擦除方向中去除与之对齐的成分(ROS),并通过重叠自适应校准(OAC)控制共享成分的去除比例,以平衡擦除与保留。实验涵盖不安全内容、实例和艺术风格擦除,结果显示其与所评估的激活引导和权重编辑基线相当或更优。

Yongliang Wu, Haori Lu, Yulun Wu 等

arXiv cs.LG · cs.SE

FastCI: Efficient GPU-Intensive CI for LLM Training Frameworks

说明FastCI:面向大模型训练框架的高效GPU密集型持续集成

简介本文提出FastCI框架,用于提升大语言模型训练框架持续集成(CI)的效率。它利用运行时证据选择受影响的测试,并裁剪在等效上下文中执行变更代码的测试,同时优先运行高风险测试以更早发现问题。在字节跳动某大模型训练框架的CI工作负载上,相比现有流水线,CI延迟降低77.5%,GPU资源使用降低63.9%,修改代码的覆盖率保持提升3.2%,该框架已集成到其CI流水线中。

Tianshuo Qiao, Naiqian Zheng, Xiaopeng Liu 等

arXiv cs.AI · cs.CL · cs.LG

Counterfactual Auditing of Bias in Open-Source Large Language Models for Clinical Triage

说明开源大语言模型在急诊分诊中偏见的反事实审计

简介论文比较了十个开源大语言模型在儿科急诊严重程度指数(ESI)预测中的反事实偏见。研究构造了仅改变人口学、社会经济等单一变量而临床表现不变的成对病例。结果显示,模型的敏感性差异很大,且不随模型规模增大或医学领域预训练而稳定降低;微调后的Qwen2.5-7B敏感性最低。

Manar Aljohani, Brandon Ho, Kenneth McKinley 等

arXiv cs.LG · cs.CV

SIEVE: Selective attention-value Suppression for Vision-Language Models Unlearning

说明SIEVE:面向视觉语言模型的选择性遗忘方法(基于注意力值抑制)

简介视觉语言模型能把人脸等视觉身份与个人传记信息关联起来,因此需要在保留同一人允许保留的知识的同时,选择性地遗忘个人可识别信息(PII)。作者提出 SIEVE 框架:对需遗忘样本的注意力值向常数零抑制,对保留样本则通过与冻结的参考模型匹配来保持其表示,并结合序列级的遗忘与保留监督。实验表明,该方法在多种模型与模态设置下达到了遗忘任务的先进水平,同时保持了具有竞争力的保留效用。

Si Qi Goh, Cap Dang Xuan Kiet, Tat-Jen Cham 等

arXiv cs.RO · cs.LG

Training-Free Diffusion Planning with Analytical Local Scores

说明无需训练的扩散规划:基于解析局部评分的轨迹生成

简介本文提出一种无需训练的扩散式运动规划方法,用由障碍物、平滑度、速度和智能体间可行性构成的解析局部评分,替代学习得到的全局轨迹评分。作者指出,轨迹评分可由相邻路点及附近约束之间的局部相互作用重建,从而实现分解式去噪。实验显示,该方法在复杂环境和大规模多智能体任务中可生成平滑且可行的轨迹,例如在GPU上约6秒内为300多个智能体在100多个障碍物环境中规划路径。

Michael Y. Fatemi, Jinhao Liang, Ferdinando Fioretto

arXiv cs.CV 有代码

EndoLive: Real-Time Style Transfer for Endoscopic Endonasal Skull Base Surgical Video

说明EndoLive:内镜经鼻颅底手术视频的实时风格迁移

简介该论文提出EndoLive框架,可在尸体内镜视频与活体内镜视频之间进行实时风格迁移,以缓解尸体与活体组织颜色和出血表现不同的问题。方法结合ConStructS GAN与HyPER-GAN模型,使用未配对的尸体与活体图像进行训练。实验结果显示,该方法的转换速度高于实时所需的最低要求,并能保持关键解剖结构的语义一致性。

Griffin Hurt, Calvin Brinkman

arXiv cs.LG

Do Your Own Research: Learning to Forecast by Learning to Search

说明《Do Your Own Research:通过学习搜索来学习预测》

简介本文提出一个基于 Polymarket 已结算问题(2100 余个)构建的智能体预测环境、数据集与运行框架,智能体在推理时自行搜索网页、阅读页面并获取金融时间序列,且所有信息都经过防泄露过滤,仅限于各问题截止日期之前发布的内容。作者用基于 Brier 分数奖励的 GRPO 方法训练 Qwen3.5-35B-A3B 模型,校准度提升约 30%–40%,每次运行的搜索次数从 3.8 次降至 2.25 次。在相同框架下,训练后的模型在基于证据的预测上超过了所测试的四个前沿模型(包括 Claude Opus 4.5),推理成本约为其 5%。

Yusuf Afifi, Artur Kiulian, Anton Polishko 等

arXiv cs.LG · stat.ML

Sharp Non-Asymptotic Analysis of the Penalized Challenger in β-EB-TCI for Bernoulli Bandits

说明伯努利老虎机中带惩罚挑战者的β-EB-TCI算法的精确非渐近分析

简介本文研究伯努利多臂老虎机中固定置信度最优臂识别的β-EB-TCI算法(基于经验最优的双顶算法)。作者证明,当经验领先臂成为真正最优臂且采样比例接近β后,停止时间在低阶集中项之外为T*β(μ)log(1/δ),并得到适用于唯一最优臂情形的非渐近高概率界及期望样本复杂度结论。

Nam Nguyen, Tuan Quang Dam

arXiv cs.LG · cs.CL

Latent JEPA: Abstract Future Prediction for Latent Reasoning in Chemistry

说明Latent JEPA:用于化学潜在推理的抽象未来预测

简介本文提出Latent JEPA框架,将自回归学习与对一个或多个未来视图的联合嵌入预测相结合,使连续的潜在思维能够预判解答中有信息量的部分,而无需把每个中间步骤都用文字表达。作者在化学推理中设计了文本与分子两类预测目标,并在ChemCoTBench上报告了分子优化及若干编辑和反应指标的提升。表示分析显示,未来预测使潜在思维更能反映分子结果,并增强其与化学结构的对应关系。

Xinjian Zhao, Yaoyao Xu, Xuemin Chen 等

arXiv cs.CV

Anti-Persona: Disrupting Unauthorized Identity Binding and Recognition in Personalized Vision--Language Models

说明Anti-Persona:干扰个性化视觉语言模型中未经授权的身份绑定与识别

简介该论文指出,个性化视觉语言模型可能被用于从少量参考图片中绑定目标身份,并在新图片中识别该身份,带来隐私风险。作者提出Anti-Persona方法,通过优化不易察觉的图像扰动,干扰视觉编码器空间中的身份原型对齐,以防止未经授权的身份绑定与识别。实验显示在两种代表性模型上保护率最高可达95.0%,同时保持视觉质量。

Abhishek Basu, Fahad Shamshad, Karthik Nandakumar

arXiv cs.CV 有代码

Latent-Foresight: End-to-End Learning Predictable Representations for Latent World Models

说明Latent-Foresight:用于潜在世界模型、可预测表示的端到端学习

简介该论文提出 Latent-Foresight 框架,在一个训练过程中同时学习潜在分词器和基于流的生成动力学模型,使表示更适合时间上的预测。作者称这种方法学到的潜在表示时间连贯性更强,在多个未来场景理解任务和预测时长上优于两阶段基线,并省去单独的训练阶段。

Efstathios Karypidis, Spyros Gidaris, Nikos Komodakis

arXiv cs.LG · cs.AI

When is a large language model a good calibration agent? Physics-labeled prompting for budgeted engineering simulator calibration

说明大语言模型何时能成为好的校准代理?面向预算受限工程仿真器校准的物理标注提示方法

简介该研究探讨大语言模型能否基于仿真误差的物理诊断描述,比传统无导数优化器更高效地提出参数更新,测试对象为圆柱尾流大涡模拟和阻尼振子反问题。结果显示早期物理提示优势明显,前五次评估后中位校准误差比无物理信息对照低21.9倍,但该优势在十五次评估时消失,且存在9.8倍的性能波动。作者因此提出LLM热启动加传统优化器的混合方案,仅需9次仿真即达到目标精度。

Ruo-Qian Wang

arXiv cs.CV · cs.RO

Fewer Tokens, Better Action: GPT-6 Astra Robot Agents with 14% Higher Success Rate but 65% Fewer Tokens

说明更少的 Token,更好的动作:GPT-6 Astra 机器人智能体成功率提高 14%,Token 减少 65%

简介该论文提出 PyRUA-Lean 框架,让视觉语言模型智能体把机器人动作原语(包括视觉-语言-动作策略)组合成 Python 代码单元,在本地检查和重试,只返回所需的图像与状态。在 700 个仿真任务实例上,相比同一规划器的工具调用方式,成功率从 63.1% 提高到 71.7%,并减少了 49% 的 LLM 调用和 65% 的输入 Token。此外,作者还训练了开源 4B 模型 PyRUA-Lean Coder v0.1-4B,其在未见任务上的成功率从 18.8% 提高到 44.1%。

Ruiyang Si, Jianxin Bi, Shunyu Yang 等

arXiv cs.CL · cs.AI

A rubric landscape for evaluating clinical reasoning in large language models: what exists, what is missing, and what needs to be combined

说明评估大语言模型临床推理的评分量表概览:现有工具、缺失之处与组合方向

简介该综述梳理了医学教育评估工具、2023年起的临床大模型基准以及通用长文本生成评估方法,从问题表征、时序综合、鉴别与处理推理、反事实推理、校准不确定性和推理忠实度六个维度进行分析。结论认为没有单一工具覆盖全部维度,忠实度是最薄弱的环节。作者建议组合现有工具并补充相关设计,文章提供的是设计依据而非经过验证的量表。

Zhangshu Joshua Jiang, Zina Ibrahim, James T. Teo

arXiv cs.LG · math.GN

Graph Representation via Elements of Discrete Morse and Cobordism Theories

说明基于离散莫尔斯理论与配边理论要素的图表示学习

简介本文把低维拓扑中的离散莫尔斯理论和配边理论引入机器学习,提出MG-Diff流程,用于改进图扩散模型。作者还给出了在正的决策间隔条件下,莫尔斯工具及其引导扩散的应用对小扰动保持稳定的理论保证与充分条件。论文将其应用于时空图预测与图重建,并认为这些应用只展示了低维拓扑可为机器学习提供的一小部分。

Jennifer Rozenblit, Chenguang Yang, Yuxin Liu 等

arXiv cs.AI

Rethinking Knowledge Retrieval for Generation: A Survey on RAG Architectures and Applications

说明重新思考生成中的知识检索:RAG架构与应用综述

简介这篇综述梳理了检索增强生成(RAG)技术。RAG让大语言模型在生成回答时结合外部检索到的可验证资料,以减少幻觉、提高事实可靠性。文章介绍了检索、生成与增强三个核心组件,并围绕效率、安全、用户交互与复杂推理四个方向归纳了近期进展,同时涵盖评估方法、应用领域及架构变体,最后指出了仍存在的挑战与未来方向。

Meghana Sunil, Shravya V, Shravan Venkatraman 等

arXiv cs.LG

Learning to Predict Distributions over Weight Updates for Test-Time Adaptation

说明学习预测测试时自适应所用权重更新的分布

简介该论文研究如何仅凭输入查询为大语言模型动态生成LoRA参数更新,并提出可输出参数分布(而非单点估计)的分布式超网络。作者用可微的蒙特卡洛近似设计端到端损失,并比较了多种分布参数化方式。结果显示,所学分布的均值即可优于确定性超网络,采样多个权重更新还能提升性能,且生成的更新可跨查询迁移。

Azal Ahmad Khan, Keshav Ramji, Tahira Naseem 等

★★★★☆ 值得关注
arXiv stat.ML · cs.LG

Error-Corrected Inference-Time Scaling for Imperfect Diffusion Models

说明面向不完美扩散模型的带误差修正推理时缩放(Error-Corrected Inference-Time Scaling for Imperfect Diffusion Models)

简介该论文针对预训练扩散模型并不完美的问题,提出基于能量的Feynman-Kac修正器(EBFKC),在给定参考能量的情况下实时修正采样误差。方法利用Feynman-Kac动力学并结合带方差控制引导的序列蒙特卡洛来逼近,并逐步纳入学习到的终端能量与目标终端能量之间的差异。实验涵盖高斯混合模型、粒子系统以及丙氨酸二肽和四肽,结果显示该方法在退火和奖励倾斜下更接近目标分布和分子自由能曲线,而标准推理时缩放基线仍存在明显采样误差。

看点提出基于能量与Feynman-Kac校正的推断时扩展框架,修正模型不完美带来的误差;在高斯混合、丙氨酸二肽/四肽上验证,优于标准基线。

Zuokai Wen, Louis Grenioux, Weinan E 等

arXiv cs.CV · cs.RO 有代码

CLoSeR: Closing the Loop for Long-Context Streaming Reconstruction

说明CLoSeR:为长上下文流式三维重建闭合回环

简介前馈式基础模型在三维重建中表现出色,但长序列流式重建因误差累积而产生明显的跟踪漂移。本文通过全局描述子检索发现回环候选帧,并构建以回环为条件的窗口估计相对位姿,在SE(3)流形上联合优化所有帧位姿。实验表明,该方法在千米级序列上减少了漂移并保持几何一致性,显著优于现有方法。

Moyang Li, Zihan Zhu, Wei Zhang 等

arXiv cs.SD · cs.LG · eess.AS

LAST: Looped Audio Spectrogram Transformer

说明LAST:循环音频频谱图 Transformer(一种复用同一模块多次处理音频特征、以较低参数量提升识别效果的音频分类模型)

简介这篇论文提出 LAST(循环音频频谱图 Transformer),先完整处理所有音频标记,再复用同一组模块,只对类别标记做多次细化,从而不必增加层数。在 AudioSet 上,十次循环的 LAST 平均精度均值达到 0.345,相对十二层顺序 Transformer 提升 2.1%,参数量减少 49.4%,乘加运算减少 42%,实测吞吐量提高 9.8%。论文还称该模型在时间掩码和其他听觉增强下更稳健,在音乐、环境声和事件声分类上泛化更好。

Haider Al-Tahan, Sean O'Brien, Anastasia Razdaibiedina 等

arXiv cs.CL · cs.AI

Cross-Lingual Alignment for Decoder-Only Models using MoE Routers

说明利用MoE路由器实现仅解码器模型的跨语言对齐

简介该论文针对仅解码器大语言模型无法像多语言编码器那样直接做跨语言对比学习的问题,提出以混合专家(MoE)路由器的输出作为对齐目标,而非对隐藏状态施加辅助对齐损失。在四个开源MoE模型上的受控持续预训练实验表明,该路由损失能使不同语言的隐藏表示也趋于对齐,并提升了多语言评测表现。

Lucas Bandarkar, Clark Peng, Ahmed Haj Ahmed 等

arXiv cs.CV · cs.AI · cs.CL

MoLE: Mixture of Latent Experts for Complementary Visual Reasoning

说明MoLE:面向互补视觉推理的潜在专家混合模型

简介该论文针对视觉语言模型的潜在视觉推理,指出现有方法中多个潜在标记常读取相同视觉信息、导致表示冗余。作者提出MoLE框架,让每个潜在视觉专家观察不同的视觉证据并以不同方式变换,再由专门的潜在摘要专家汇总。五个视觉推理基准上,MoLE平均得分78.6,并优于同等潜在规模下的基线与数据匹配的监督微调。

Yingcheng Liu, Tianyi Jiang, Yujuan Ding 等

arXiv cs.CV 有代码

DecomVoxel: Harnessing 3D-Native Priors with Guided In-situ Denoising Optimization for Decompositional Scene Reconstruction

说明DecomVoxel:利用三维原生先验与引导式原位去噪优化进行场景分解重建

简介论文提出 DecomVoxel 方法,用于在严重遮挡下重建场景中的物体与背景。该方法把物体补全表述为引导式原位去噪优化,将三维原生先验与神经场景重建结合,并引入改进的基于 epsilon 的蒸馏损失和带时间退火的自适应空间引导。作者称其在 Replica 和 ScanNet++ 数据集上优于现有方法,并能保持原始空间布局与结构。

Junfeng Ni, Zirui Zhou, Yixin Chen 等

arXiv cs.LG

Same Reward, Different Skills: When Multimodal RL Learns to Look

说明奖励相同,技能不同:多模态强化学习何时学会看图

简介该论文研究带可验证奖励的强化学习(RLVR)在视觉-语言任务中的表现。作者提出“视觉可解性”设计原则,即视觉证据应是答对的必要条件且任务仍可学习。实验在反事实坐标场景上进行,显示使用真实图像训练的7B模型定位目标的准确率从0.425提升至0.875,而用灰色画布训练则几乎没有此增益,说明奖励要求决定了强化学习学到的技能。

Haocun Ye, Xinlong Jiang, Qile Chen 等

arXiv cs.CV

MapLightning: Online Vectorized HD Map Construction with 1D Map Tokens

说明MapLightning:基于一维地图令牌的在线矢量化高精地图构建

简介该论文提出 MapLightning,用一组紧凑的一维可学习地图令牌取代传统稠密鸟瞰图(BEV)网格,用于自动驾驶中的在线矢量化高精地图构建。模型通过自注意力融合图像与地图令牌,并仅保留地图令牌进行解码。在 nuScenes 和 Argoverse 2 上,作者报告其精度与效率达到当前最优水平,轻量版相比 MapTRv2 分别提升 10.1 和 16.2 mAP,推理速度提高 1.73 倍,内存减少 53%。

Shen Zheng, Anurag Ghosh, Mani Ramanagopal 等

arXiv cs.LG

Higher-Order Positional Encodings for Graph Representation Learning

说明用于图表示学习的高阶位置编码:把高阶拓扑信息引入图模型的方法

简介该论文提出一种图表示学习方法,用高阶位置编码补充图的表示,使标准图学习模型无需修改主干即可利用高阶结构信息。作者从理论上刻画了这类编码的表达能力,并以基于团复形的 Hodge 拉普拉斯算子实现。在 ZINC 及合成基准上的实验显示预测性能有所提升。

Caleb Stam, Aagrim Hoysal, Sanjukta Krishnagopal

arXiv cs.LG · cs.AI

Asynchronous LLM Post-Training: Group-Mass Capping and Convergence Analysis

说明异步大模型后训练:组质量封顶与收敛性分析

简介该论文研究异步强化学习用于大语言模型后训练时,由旧策略生成的过时采样数据如何影响收敛。作者推导了GRPO类算法的收敛界,并提出组质量封顶GRPO(GMC-GRPO)方法以降低偏差。实验基于Qwen3模型和推理基准,结果显示该方法在较大采样延迟下对过时数据更稳健,在稳定基线中表现最佳。

Qijia He, Ruinan Jin, Jun Luo 等

arXiv cs.LG · eess.IV · q-bio.NC

A foundation for systematic analysis of transformers and RNNs for tractography

说明用于纤维束成像的 Transformer 与 RNN 系统分析基础研究

简介本文系统评估了循环神经网络(RNN)和 Transformer 模型在迭代式纤维束成像(tractography)中的表现,关注训练策略、输入表示和超参数选择。作者提出了生成-验证阶段,使训练时能在纤维束层面进行监督,并在 ISMRM2015 挑战数据集上取得了目前报告中的最高性能。论文还通过受控实验量化了缺失束、噪声训练数据和无效纤维的影响,并在 Tractoinferno 体内数据上验证了模型的适用性。

Emmanuelle Renauld, Philippe Poulin, Hugo Larochelle 等

arXiv cs.LG · cs.AI

Selection-Based Structured Reasoning: Toward Efficient Multimodal Search Agents

说明基于选择的结构化推理:迈向高效的多模态搜索智能体

简介这篇论文提出一种名为SSR的框架,把多模态智能体的自由生成式推理改为从预先设定的推理候选中选择,依据候选在当前上下文中的似然度进行选取。在七个多模态搜索基准上,使用2B和4B模型进行评估。结果显示,SSR在不明显损失任务表现的前提下提升效率:单轮推理延迟降低超过90%,每题总推理延迟降低28%至54%。

Feiyu Gavin Zhu, Xiaoyu Zhu, Jiqi Yang 等

arXiv cs.CV · cs.AI

Unsupervised Domain Adaptation for Enhanced Radiometer Image Precipitation Estimation using Conditional Flow Matching

说明基于条件流匹配的无监督域适应,用于提升辐射计图像降水估计

简介论文针对卫星辐射计图像缺少标注数据、存在域偏移的问题,提出一种基于流匹配模型的无监督域适应方法。该方法利用流匹配中确定性常微分方程的部分结构,并以不同卫星仪器为条件进行域对齐。在GPM-Core星座上的实验表明,该条件域适应方法有助于改进辐射计图像的降雨估计。

Victor Enescu, Assaad Zeghina, Matthieu Meignin 等

arXiv cs.LG · cs.CL

Stochastic Rounding in Low-Precision Transformer Inference: A Variable-Precision Emulation Study of a Small GPT-2

说明低精度 Transformer 推理中的随机舍入:小型 GPT-2 的可变精度仿真研究

简介该论文研究低精度 Transformer 推理应采用随机舍入(SR)还是就近舍入(RN),并在固定数值格式下只改变各运算位置的舍入规则。作者扩展了 PRISM 向量化舍入库以支持任意虚拟精度,并给出线性投影的误差界及输出 softmax 处交叉熵变化的分解。在 DistilGPT-2(6 位有效数字)上,MLP 中使用 SR 时困惑度为全精度参考的 1.15 倍,RN 为 2.21 倍;在语言模型头部顺序相反。混合精度配置(MLP 用 SR、头部用 RN)使困惑度接近全精度参考的 1.10 倍,相比同等位数的 RN 降低 28%。

Yohan Chatelain (1), Pablo de Oliveira Castro (2) ((1) Krembil Centre for Neuroinformatics, CAMH 等

arXiv cs.NE · cs.LG

TRACE: Tackling Real-World Resource Assignment Problems via Agentic Heuristic Design

说明TRACE:通过智能体式启发式设计解决真实世界资源分配问题

简介该论文针对云计算等系统中的动态资源分配问题,提出TRACE框架,将进化式自动启发式设计与智能体式日志知识提取相结合。其中,推理智能体分析日志结构并提出关于系统动态的假设,编码智能体编写并执行代码验证这些假设,从而为启发式规则提供洞察或工具。作者在合成云基准和基于工业测试平台数据的5G vRAN场景中评估,称其优于现有方法,且额外开销低于2%。

Jose A. Ayala-Romero, Andres Garcia-Saavedra, Xavier Costa-Perez

arXiv cs.CV

Memory-Guided B-Roll Generation from User Video Collections

说明基于用户视频库记忆的B-roll镜头生成

简介本文提出MemComposer,一个三阶段系统,用于依据用户自有视频库生成多镜头的B-roll(辅助画面)序列。系统先离线构建以人物、场景、物体和风格为中心的视觉记忆,再据此规划并检索参考帧,最后迭代生成并审查,以保持身份、场景和整体序列的一致性。用户偏好研究显示,其在提示遵循和视觉一致性上均优于对比方法。

Cusuh Ham, Fabian Caba Heilbron, Josef Sivic 等

arXiv cs.LG · cs.AI

Flowing Faster to Coordinate: One-Step Online Multi-Agent Flow Policies

说明用一步流模型加速多智能体协调学习(OMAF)

简介本文提出OMAF框架,将一步流模型(one-step flow model)用于在线多智能体强化学习,以Transformer流策略捕捉复杂的协调行为。通过近似路径分数代理和softmax Q值估计与联合流策略目标的联合优化,省去迭代采样。在MPE与MAMuJoCo的10个标准任务上,相比基线方法,回报最高提升3.4倍,样本效率最高提升10.5倍。

Zhuoran Li, Yunzhan Li, Xun Wang 等

arXiv cs.CV

EvenSplat: Coupled 2D-3D Decomposition for Gaussian Splatting under Exposure and Illumination Variation

说明EvenSplat:在曝光与光照变化下,将二维与三维光照分离的高斯溅射重建方法

简介这篇论文提出 EvenSplat 框架,用于多视角三维重建中的光照问题。它在图像空间做光照分解,并通过高斯点携带的光照场把同一套光照解释共享给二维与三维表示,同时用相机响应网络和局部曝光补偿模块处理训练图像间残留的差异。在多个数据集和多种不均匀光照场景下,该方法总体优于现有方法,在高对比度光照下尤其明显。

Tongyu Wu, Jacob Edwards, Ziteng Cui 等

arXiv cs.HC · cs.CL

Where LLMs Fail with Visualization DSLs

说明大语言模型在可视化领域专用语言上的失败之处

简介本文研究大语言模型用可视化领域专用语言(DSL)生成图表时在哪些地方、以何种方式出错。作者评估了10种基于JSON的可视化DSL,使用3个大语言模型完成41项任务,并通过JSON与渲染检查及对失败案例的定性编码进行分析。研究归纳出四类反复出现的失败模式,并将其与具体的DSL设计特征相关联,最后讨论了未来DSL设计的考虑因素。

Chang Han, Andrew McNutt, and Katherine Isaacs

arXiv cs.CV

From Pixels to Policy: A Multi-Agent System for Intervention and Geo-Spatial Decision Support

说明从像素到政策:用于干预方案与地理空间决策支持的多智能体系统

简介本文提出 VIDA-Geo,一个多智能体系统,用于在航拍或街景图像上寻找能改善城市指标的干预方案。系统协调分割、扩散模型修复和指标评分模型,生成既逼真又符合现实政策的编辑结果。作者在 8 项指标上进行评估,称在多数情况下优于现有基线,并为城市规划人员提供多个候选方案。

Hosam Elgendy, Utkarsh Mall

arXiv cs.SD · cs.AI

From Isolated Feature to Orbits: Discovering Music Concepts via Multi-SAE Alignment

说明从单个特征到轨道:通过多SAE对齐发现音乐概念

简介该论文研究如何理解音乐基础模型内部学到的表示。作者不再逐个识别孤立特征,而是通过音高移调生成成对输入并对齐其稀疏自编码器(SAE)表示,发现与和弦、调性及旋律模式对应的有序轨道结构。实验显示,该方法在两个先进音乐基础模型上都能恢复这些结构,并且只需少量锚定样本即可解释整组概念。

Liwei Lin, Gus Xia