AI 算法 · 2026年11月8日(周日)

机器学习、人工智能、自然语言处理、计算机视觉、多智能体。

RSS 订阅
arXiv cs.LG · q-bio.GN

When gene summaries reveal the answers: Gene Ontology circularity in gene embedding benchmarks

说明基因摘要泄露答案:基因嵌入基准中的 Gene Ontology 循环依赖问题

简介论文指出,NCBI Gene 的基因摘要由 Gene Ontology(GO)注释生成,若用于训练或输入嵌入模型,会直接包含评测所用的标签,从而抬高预测表现。作者比较了有无这些摘要时的功能预测结果,发现去除摘要后性能明显下降,并改用 UniProt 功能描述也能恢复大部分性能。作者还提出了 GeneProv 方法,用于在统一文本上比较不同编码器。

Jiawei Wu, Huishu Wang, Junlin Chen 等

arXiv cs.CV

Query-Only Prompt-Agnostic Attacks on Visual In-Context Learning

说明面向视觉上下文学习的仅查询、提示无关攻击

简介该论文研究视觉上下文学习(VICL)分割模型在仅能查询输出、不知部署提示时的鲁棒性。作者提出两种外观空间攻击:颜色劫持(CH)使前景颜色趋向背景以抑制可见性,任务劫持(TH)使实例颜色趋于统一。通过自提示替代模型(SPS)实现对未知提示的迁移,在SegGPT上SPS优于随机提示替代模型。实验表明,在30%污染率下,CH污染的自动标注使下游YOLO-seg的mAP50从0.761降至0.281。

Xiao Hu, Muhammad Ibrahim, Hao Wen 等

arXiv cs.CV 公开资源

MySign: A High-Fidelity Motion-Capture Dataset for 3D Sign Generation in Bahasa Isyarat Malaysia

说明MySign:用于马来西亚手语三维手语生成的高保真动作捕捉数据集

简介该论文提出MySign,是首个面向马来西亚手语(Bahasa Isyarat Malaysia)孤立手语词的动作捕捉数据集,包含5000个样本,覆盖1000个词条,由五位聋人母语手语者录制。数据提供基于动作捕捉得到的真实SMPL-X序列,相比从视频回归得到的伪标签,在手部与手指精细动作上更准确。作者称在同样词条和手语者条件下,用这些序列训练的生成效果优于用伪标签训练,且现有先进模型生成的结果虽较合理,但与真实数据仍有差距,尤其在精细动作方面。

Jiayu Shen, Kalin Stefanov, Lay-Ki Soon 等

arXiv cs.LG

Compositional Conformal Risk Control for Multi-Stage LLM Cascades

说明多阶段大语言模型级联的组合式保形风险控制

简介本文提出一种名为CompCRC的风险控制框架,用于多阶段大语言模型级联系统。它将接受错误答案的风险分解为各阶段的可加贡献,并在独立数据上选择预先设定的预算分配与接受阈值,再用留出数据对各阶段风险进行认证。在有条件可交换性假设下,论文给出了有限样本保证,并在MMLU、GSM8K和HellaSwag上与Global-CRC进行了比较,报告了准确率、错误风险和推理成本方面的结果。

Yuxia Sun, Jiahuang Wang, Haoting Liu 等

arXiv cs.CL

Beyond Hard Labels: LLM Probabilities Improve Human-Assisted Regression

说明超越硬标签:大语言模型概率提升人机协作回归

简介该论文研究大语言模型给文本打标签时,保留完整概率向量而非只取单一类别标签,是否能提升下游回归效果,并结合少量人工标注进行比较。作者使用三种大语言模型和三个社会科学文本数据集进行实验。结果显示,经人工修正后,使用概率向量在各模型和数据集上都能稳定提高回归效率。

Xinyue Wang (Department of Statistics, The Pennsylvania State University), Qunhua Li (Department of Statistics 等

arXiv stat.CO · cs.AI

Statopia: A Prover--Library Ecosystem for Automated Formalization and Proof Discovery in Statistics

说明Statopia:面向统计学自动形式化与证明发现的证明器-库生态系统

简介该论文提出 Statopia 生态系统,包括专门用于统计学和机器学习形式化证明的独立智能体 Statopia Prover,以及基于 Lean 4 构建、便于自动化调用的 Statlib 库。证明器可在仅有陈述的情况下自行构造论证并生成 Lean 证明,也可借助已有的自然语言证明;库中的共享定义和定理接口支持智能体检索与组合,其统计学覆盖范围仍在持续扩展。

Ziyuan Chen, Tong Gan, Wei Zhang 等

arXiv hep-lat · cs.LG

Evaluating generative samplers for lattice field theory by scale

说明按尺度评估格点场论生成式采样器

简介论文指出,生成式采样器常用的有效样本量(ESS)偏小并不一定意味着长距离可观测量不准确,许多短距离模式上的误差可能主导这一诊断。作者提出基于粗粒化模型分布与目标分布重叠度的分尺度诊断方法,并在自由场论和二维φ⁴理论近临界区进行检验。文中还给出一种结合Metropolis校验与精确局域更新的修正方法,以减小剩余偏差。

Satoshi Iso, Lingxiao Wang

arXiv cs.LG · cs.AI

Jointly Optimizing Memory, Computing and Offloading for Energy-Efficient DNN Inference

说明联合优化内存、计算与卸载以实现节能的DNN推理

简介该论文针对边缘智能系统中深度神经网络(DNN)推理的能耗问题,提出了一种联合优化内存、计算与任务卸载的方案。作者将满足时限约束下的能耗最小化建模为混合整数非线性规划问题,并通过分解为两个子问题并结合坐标下降算法求解。仿真结果显示,该算法接近最优,与最优策略的差距至多为9.3%,相比未优化内存频率的基准方法,可使设备能耗降低最多16.1%。

Yunchu Han, Zhaojun Nan, Sheng Zhou 等

arXiv cs.LG · cs.CL · cs.SE

Task presentation and execution paths shape LLM mathematical performance

说明任务呈现方式与执行路径如何影响大语言模型的数学表现

简介该论文研究大语言模型在数学题上的表现如何依赖于输入方式、已生成文本的复用以及候选答案的提供。作者在65道开发题上做了成对对比,发现提交指令的写法会显著影响有效答案的产出。实验显示,草稿与候选答案都能提高正确率,但两者效果并非简单相加,且保留文本末尾片段优于保留开头片段。

Min Huang, Mingyan Liu

arXiv cs.CV · cs.AI · cs.DM

Does Pose Encoding Matter? Analyzing Geometric Representations for Discrete Motion Vocabulary Learning

说明姿态编码是否重要?离散动作词表学习中的几何表示分析

简介本文研究如何把连续的人体动作压缩为有限的离散词表。作者比较了四种骨架姿态编码:像素网格上的高斯关节热图、根关节相对的欧氏关节位置、基于连续6D嵌入的局部关节旋转,以及冗余的完整运动学编码。实验在不同码本大小、时间步长和编码维度下训练VQ-VAE分词器,并以有效词表大小衡量码本利用情况。结果显示,旋转和位置编码能持续利用更多码字,而热图编码的有效词表不到六十个,两者差异可达一个数量级,而仅看重建损失无法发现这一差异。

Amir Kimiyaie, Nahal Mafi, Hamed Tabkhi

arXiv cs.LG

Uncertainty-Guided Reward Labeling for Reinforcement Learning under Limited Feedback

说明基于不确定性指导的有限反馈强化学习奖励标注方法

简介本文研究在有限反馈下的强化学习:离线数据集中只有少量样本可以获得奖励标签,如何选择标注样本以学到高性能策略。作者保留查询到的奖励用于训练奖励模型,并从离线强化学习误差和奖励模型不确定性两方面给出次优性上界。在此基础上,论文提出后继特征引导的不确定性降低方法SURE,用于选择既不确定又与高价值状态可达相关的奖励,实验显示其在少量奖励标签下接近全反馈性能。

Renhao Zhang, Shreyas Chaudhari, Bruno Castro da Silva

arXiv cs.CV · cs.GR · cs.RO

SoftPAT3D: Physics-Augmented Text-to-3D Scene Generation with Deformables

说明SoftPAT3D:结合可变形物体的物理增强文本到三维场景生成

简介该论文提出SoftPAT3D,一种从文本生成三维场景的物理增强框架,可生成布料、毛绒玩具、绳索等可变形物体,并使其与家具及彼此之间无穿插地接触。框架从生产工艺推导静止形状,用材料库分配初始弹性参数,并通过统一接触模型模拟至静力平衡。在65个提示词上的测试显示,其场景没有任何不期望的穿插,而其他系统均存在穿插。

Lei Shu, Alberta Longhini, Leonidas Guibas 等

arXiv cs.LG

A Hierarchical Tokenization Framework for Voxel-Level fMRI Representation Learning

说明用于体素级 fMRI 表征学习的分层分词框架(HBAR)

简介论文提出 HBAR(分层大脑活动表征)框架,把静息态 fMRI 的体素数据组织成从亚脑区体素组、脑区到大尺度功能网络的多层级结构,实现最高约 415 倍压缩。在 HCP-YA 数据集上,该方法在约 415 倍压缩率下,脑区和网络相关性高于码率匹配的扁平分词器;在 52 倍压缩率下,打乱解剖分组会使脑区相关性从 0.920 降至 0.886。

Karanpartap Singh, Yue Zhao, Mohammad H. Abbasi 等

arXiv cs.LG · cs.CL

When Calibration Data Matter in Sub-4-Bit Language Model Quantization

说明低比特语言模型量化中,校准数据何时重要

简介这篇论文研究在低于4比特的训练后量化中,用任务相关文档做校准数据能否更好地保持下游任务精度。作者提出FragCal-DC方法,在通用文本之外加入全精度下精度保留较低的任务类别文档,并在6个稠密模型和10项任务上比较了6种数据相关的量化方法。结果显示,在2比特时SignRound V2在十项任务平均精度上比通用文本校准提高了1.83个百分点。

Yehong Jiang, Yen-Kuang Chen, Xinmin Tian

arXiv cs.CV 公开资源

ADC-RANet: Improving Resolution Adaptive Neural Networks with Attention, Distillation and Calibration

说明ADC-RANet:通过注意力、蒸馏与校准改进分辨率自适应神经网络

简介本文提出ADC-RANet,是分辨率自适应网络(RANet)的增强版本,用于图像分类,可根据样本难度动态分配计算资源。该方法结合自下而上的通道注意力、自上而下的级联知识蒸馏,以及基于MixUp的过度自信校正三个组件。作者在CIFAR-100和ImageNet数据集上的实验显示,在各计算预算下性能均有提升,同时保持了RANet的效率。

Jeferson Severino de Araujo, Lilian Hollard, Eric Granger 等

arXiv cs.LG · cs.AI · cs.CL

System Prompts Affect Response Bias More Than Discriminability in LLM Safety

说明系统提示词对大语言模型安全性的影响:更多改变回应倾向,而非判别能力

简介该论文评估了系统提示词如何影响大语言模型对安全相关请求的处理。研究在HarmBench、XSTest和IHEval三个基准上,交叉测试了八类安全任务提示和三种清晰度,共评估13个模型,并借助信号检测理论区分模型判别安全与不安全请求的能力,与拒绝意愿两方面的变化。结果显示,系统提示词主要改变模型拒绝的意愿,对判别能力的影响较小且不稳定。

Mohan W. Gupta, Sandy Tanwisuth

arXiv cs.CV

NanoNet: Ultra-Lightweight Network for MRI Brain Tumor Classification toward Edge AI

说明NanoNet:面向边缘AI的超轻量级脑肿瘤MRI分类网络

简介本文提出NanoNet,一种用于脑部MRI图像脑肿瘤分类的超轻量卷积神经网络,受MobileNetV2启发,仅含五个倒残差块和8,132个参数。研究还考察了依赖感知结构化剪枝、知识蒸馏和INT8量化感知训练等压缩方法。在BRISC 2025基准上,NanoNet的准确率为92.80%,宏F1为92.97%,其INT8版本准确率为89.70%。

Tran Nguyen-Le, Huu-Thuan Huynh, Minh-Triet Tran 等

arXiv cs.LG 公开资源

Discrete Diffusion Playground: A 2D Benchmark for Discrete Generative Models

说明离散扩散游乐场:离散生成模型的二维基准测试

简介本文提出“离散扩散游乐场”,一个诊断性基准,把已知的二维连续分布通过精确的离散化双射转换为二进制词元序列,使生成样本可以解码回二维并与真实分布直接比较。基准涵盖平滑高斯混合和带锐利边界、不连通支撑及坐标相关结构的倾斜棋盘格。实验显示,掩码扩散模型能学到有意义的自适应揭示顺序,但在平滑目标上不如自回归基线稳定,在倾斜棋盘格上大体失败,而自回归模型保留了目标几何结构。

Justin Shao, Sihyun Park, David Ryan Koes 等

★★★★☆ 值得关注
arXiv physics.ao-ph · cs.LG

Rescene-ESM: an Earth system model built around a frozen AI weather model

说明Rescene-ESM:围绕冻结 AI 天气模型构建的地球系统模型

简介该论文提出 Rescene-ESM,一个地球系统模型,其耦合器 YAHO 将一个冻结的 2080 万参数 AI 天气模型与基于物理方程并受观测约束的海洋、海冰、陆地、河流、碳和能量组件相连。模型在单块 GPU 上约每天模拟 1000 年,能保持观测气候且无漂移,复现 1979 至 2022 年的全球变暖,并在 212 个河流站点上模拟径流;在排放情景驱动下,它还给出了 SSP1 与 SSP3 情景下 2081 至 2100 年热浪暴露的差异。

看点新意在于将冻结的AI天气模型嵌入物理耦合的地球系统模型并实现厘伏尼诺等变率,摘要报告千年无漂移与千年级模拟、河流径流验证及热浪暴露分离。

Minjong Cheon, Kaoru Kakinuma

arXiv cs.AI · cs.HC · cs.MA

GARP: Real-Time Generative Agents on Local Hardware in a Game Engine

说明GARP:在游戏引擎中于本地硬件上运行的实时生成式智能体

简介本文介绍GARP平台,它在Godot游戏引擎中实现实时生成式智能体,其角色行为由大型语言模型实时生成计划、对话和记忆。整个流程基于3B参数的开源模型在本地硬件上运行,无需云服务。系统还加入了情绪、人格、需求和人际关系等机制,并通过分层优化保持游戏流畅。在九个场景的评测中,27次运行中有25次通过了基于日志的检查。

Piero Molino, Patrick John Chia, Federico Bianchi 等

★★★★★ 值得关注
arXiv cs.LG · cs.AI

Target Recoverability under Selective Labels: A Failure Mode in ECG-Based Acute Coronary Syndrome Prediction

说明选择性标签下目标的可恢复性:基于心电图预测急性冠脉综合征的一种失效模式

简介论文研究医学机器学习在只观察到受检患者诊断结果时可能出现的偏差。作者用模拟表明,当检测高度选择性或某些病例无法被模型输入识别时,模型在受检人群中看似有效,在未受检人群中却可能失效甚至反向。研究以心电图预测急性冠脉综合征为例,发现在未受检患者中,若以血运重建为代理目标,模型的表现低于随机水平,而只针对心电图可见亚型训练的模型仍保有区分能力。

看点提出选择性标签下目标不可恢复的失效机制,并在ECG急性冠脉综合征预测中用多种模型验证,指出训练目标与部署人群的关系。

Alexander Schubert, Anton H{\aa}kansson, Ziad Obermeyer

arXiv cs.CV

What Does Multiple Choice Actually Measure? Disentangling Video Understanding from Option Exploitation

说明选择题到底测了什么?区分视频理解与选项利用

简介该论文指出,现有视频问答基准依赖选择题选项、语言先验和评分流程,难以单独衡量视频理解能力。作者在六个视频问答基准上发现,即使没有视觉输入,准确率也明显高于随机水平。为此,论文提出选项延迟回放(ODR)机制,在开放式推理过程中分阶段披露选项,并发布了修正约20.5%标注的LVBench人工重标版本。

Elliott Piercy, Justin Chan, Sepand Dyanatkar

arXiv physics.acc-ph · cs.LG

Symplectic Normal Coordinates Flow for Generative Modeling of Hamiltonian Systems

说明用于哈密顿系统生成建模的辛正规坐标流

简介本文提出一种可逆的辛流层,由学习得到的正规坐标中依赖振幅的旋转构成。作者推导了非线性旋转层保持辛结构的条件,并给出保证该条件的网络结构。在一个合成的耦合非线性振子链和两个加速器物理问题上进行了条件生成建模实验,结果显示,加入新层的归一化流取得了与基线相当或更优的负对数似然,且在合成系统上,随非线性强度增大优势更明显。

Christopher M. Pierce

arXiv cs.CV

Differentiable Virtual-Slot Partitioning for Adaptive Tokenization in Vision Transformers

说明用于视觉Transformer自适应分词的可微虚拟槽划分

简介该论文提出可微虚拟槽划分(DVSP),让视觉Transformer在训练中端到端学习两层级四叉树式的自适应分词,而不删除任何token。每个2×2区域保留四个虚拟槽,通过单一权重α在粗粒度token与四个细粒度子token之间连续插值,α取0或1时可精确还原离散网格。在COCO检测任务上,基于EVA-02-B的实验显示其保留97.9%的密集Box AP,同时去除64.2%的视觉token,端到端加速1.61倍。

Gaoxiang He, Bin Zhu, Bo Xie 等

arXiv cs.AI

But It Was True When I Checked: Compiling SHOP-Style Method Preconditions into Partially-Ordered HTN Planning

说明《But It Was True When I Checked》:将 SHOP 式方法前提编译为偏序 HTN 规划

简介本文研究分层任务网络(HTN)规划中的方法前提在两种语义下的差异:SHOP 语义要求前提在方法第一个动作执行前成立,HDDL 语义则允许无关动作在方法开始前使前提失效。论文提出一种编译方法,仅借助两个附加事实,就能将第一动作语义转换为不含方法前提的标准偏序 HTN 规划,以解决该领域一个长期存在的问题。

Harrison Oates

arXiv cs.NE · cs.AI

Neural Activity Synchronization-Based Fast Local Learnable Spiking Neural Network Architecture

说明基于神经活动同步的快速局部可学习脉冲神经网络架构

简介本文提出一种受神经活动同步启发的多层脉冲神经网络局部学习框架,每层利用局部计算的梯度更新自身权重,无需反向传播梯度,从而降低计算复杂度、训练延迟和能耗,适用于低功耗边缘设备。该模型在MNIST数据集上训练与评估,分类准确率为97.78%,并在高斯噪声和椒盐噪声下表现出稳定性能。

Pranith Dutta, Sk Wasim Rajjak, Siddhanta Ray 等

arXiv cs.DB · cs.AI · q-bio.QM

Agents Propose, Code Verifies, Humans Decide: Verified Agentic Ingestion of Heterogeneous Scientific Tables into Relational Databases

说明代理提出方案,代码验证,人类决定:异构科学表格导入关系数据库的可验证代理式流程

简介论文提出一种AI辅助的数据导入流程,将公开科学数据集(宽表、长表、电子表格等)整理入PostgreSQL关系数据库。流程遵循“LLM代理提出、确定性代码验证、人类决定”的原则,由39种检查类型进行结构与语义两轮验证,并保留溯源记录。在四个公开生物医学数据集上,首次提案中有9/20失败,均被检出并修复;全部4510万个数值成功加载,对账无差异。

Bharatha Rankothge, Suzanne Hodgkins, Virginia Rich 等

arXiv cs.CV

Virtual Task Prompting for Multi-Task Scene Understanding

说明面向多任务场景理解的虚拟任务提示方法

简介该论文提出虚拟任务提示(VTP)方法,用于多任务场景理解。它在骨干网络旁维护一组虚拟任务,通过可学习的路由矩阵为各任务检索组合并与图像特征交互,且不修改主干网络,便于与预训练视觉基础模型结合。论文报告其在Pascal-Context和NYUD-v2上达到当前最佳水平,并在含13个异构任务的Taskonomy上测试了鲁棒性。

Zedong Wang, Yucheng Wang, Dan Xu

arXiv cs.SE · cs.AI · cs.MA

Advancements in Cloud-Native Systems: A Systematic Mapping Study of Reliability and Scalability across Cloud-Native, Edge-Native and AI-Enabled Systems

说明云原生系统的可靠性与可扩展性:一项覆盖云、边缘与人工智能系统的系统性映射研究

简介本文对云原生、边缘原生及人工智能赋能系统的可靠性与可扩展性研究进行了PRISMA 2020系统性映射分析。作者共纳入1,794篇原始研究和95篇二次研究,并将其按13类分类法归纳,依证据等级划分为仿真、原型或测试平台、生产数据及生产部署。结果显示,大多数研究基于原型或测试平台,生产部署主要集中在级联故障防范、根因分析和预测性自动扩缩容等方面。

Shrinivass Arunachalam Balasubramanian

arXiv cs.CL · cs.AI

Room to Reconsider: Reply Length Decides Whether Pushback Makes Language Models Sycophantic or Self-Correcting

说明有余地重新考虑:回复长度决定反驳使语言模型谄媚还是自我纠正

简介这篇论文研究用户在没有给出理由的情况下反驳语言模型时,模型会放弃正确答案,还是会修正错误答案。作者在 MMLU 和 ARC-Challenge 选择题上测试了四个开源模型,并从选项的 logits 读取最终答案。结果显示,回复长度会改变结论:在较长回复预算下,反驳会让部分错误答案得到修正,并使准确率提高。

Ook Lee

arXiv cs.LG

Prune to Probe: Causal Decision-Stability Probes for Efficient Reasoning

说明剪枝探测:用于高效推理的因果决策稳定性探针

简介该论文提出Prune-to-Probe,一种推理时控制器,通过对模型后期MLP的部分激活进行因果干预,检测当前答案是否稳定,从而判断何时停止推理。干预仅作为探针使用,不永久修改模型。在MATH上减少2.60%的推理token前向计算,在MMLU-Pro上节省1.145%,且未观察到性能损害。

Yufei Qi, Chonghe Jiang

arXiv cs.LG · cs.AI · cs.GT

Finite-Sample and Communication-Efficient Networked Information Aggregation

说明有限样本与通信高效的网络化信息聚合

简介本文研究有向无环图中的学习问题,每个智能体只观察部分输入坐标,并可将父节点的预测作为额外特征。作者重新分析了全消息协议的有限样本保证,修正了已有证明中的缺口,并提出共享草图协议:每个智能体发送预测向量的低维线性草图,从而在统计误差与通信开销之间取得权衡。对于高斯草图,文中给出了显式的高概率总体风险界。

Mohammadhossein Bateni, Zahra Hadizadeh, MohammadTaghi Hajiaghayi 等

arXiv cs.LG · cs.DB · cs.IR

Hybrid Product Search Without the Copy: Lexical, Semantic and Filtered Retrieval Served Directly from a Data Lake

说明无需复制的混合商品搜索:直接基于数据湖提供词法、语义与过滤检索

简介论文提出把商品搜索直接部署在数据湖(Apache Iceberg 表)上,而不再维护词法引擎和向量数据库中的数据副本。作者扩展了实时 OLAP 引擎 Apache Pinot,加入 BM25 打分、跨文件统一的词项统计以及 SQL 中的倒数排名融合。在 Amazon ESCI 基准上,从数据湖提供的混合搜索与精确检索结果相当(nDCG@10 为 0.361);在 2.77 亿商品的数据湖上,单节点即可实现毫秒级的品牌范围搜索。

Raghvendra Yadav, Xiang Fu, Chinmay Soman

arXiv cs.CL · cs.AI · cs.DL

Building and Auditing Chemical Datasets with LLMs: A General LLM-as-a-Judge Framework Applied to Homogeneous Catalytic PET Depolymerisation

说明用大语言模型构建并审核化学数据集:面向均相催化PET解聚的通用“LLM作为裁判”框架

简介本文提出一种基于引用溯源的抽取与核验方法,由一个大语言模型负责从论文中生成结构化实验记录,另一个独立的大语言模型作为裁判逐条核对并提出带引用的修正。研究以均相催化聚对苯二甲酸乙二醇酯(PET)解聚文献为应用场景,裁判与人工评估在85.7%的记录上结论一致,在3942条记录中有67.5%被原样接受。作者同时公开了数据集、审核日志及开源工具Chemistry Data Extractor Toolkit。

Muhammad bin Javaid, Karim K. Ben Hicham, Enkhnyam Battulga 等

arXiv cs.CL · cs.LG

MoTo: Mixture of Tokenizers Towards Fair Multilingual Language Modeling

说明MoTo:面向公平多语言语言建模的分词器混合方法

简介大语言模型通常使用训练后固定不变的单一分词器,而多数分词器以英语为主的语料训练,对形态丰富及非拉丁文字语言效果较差。本文提出MoTo,为每种语言单独训练BPE分词器,再合并为统一的超集词表,并将跨语言共享的词元去重。在涵盖六种文字的21种语言中,MoTo在其中18种上取得稳定提升,同时保持英语表现,并分配给英语更少的词表条目。

G\"ul Sena Alt{\i}nta\c{s}, Colin Raffel

arXiv cs.LG · cs.AI

Phase-Conditioned Reward Shaping for Token-Efficient LLM Reasoning

说明面向高效令牌使用的大模型推理:基于阶段的奖励塑形(PCRS)

简介该论文提出阶段条件奖励塑形方法PCRS,在训练时依据推理步骤所属阶段(推理、执行、修订)分配长度惩罚,而非对所有中间步骤一视同仁。论文比较了隐藏状态分类器与冻结文本分类器两种路线,并在六个数学和科学推理基准上进行评估。结果显示,默认文本分类器配置相比仅使用令牌级长度惩罚的基线,平均回答长度减少3.13%,采样Pass@1约为62.07%(两者相同),oracle Pass@16从86.08%提升至87.67%。

Zhe Chen, Xiaolin Zhou, Xiyang Hu

arXiv cs.LG · cs.AI

Where Should Models Run? A Collaborative Inference Framework for Embodied Intelligence in 6G

说明模型应在哪里运行?面向6G具身智能的协同推理框架

简介论文针对机器人等具身智能设备算力和能耗有限的问题,提出以边缘服务器为中心协调模型切分与执行的协同推理框架,模型可分布于终端、边缘和云端。研究通过仿真及WiFi、5G网络实地实验发现,最优切分策略随网络条件和模型结构而变化,并给出ResNet-101、Qwen2.5-VL-7B和OpenVLA-7B在不同无线条件下的时延最小化切分点。

Wanlu Sun, Zhenhui Yuan, Xiang Ji 等

arXiv cs.LG · cs.AI

Unified Factored Representations Resist Catastrophic Forgetting

说明统一分解表示可抵抗灾难性遗忘

简介本文探讨神经网络内部表示质量与灾难性遗忘之间的联系,提出“表示遗忘假说”:具有统一分解表示(UFR)的网络无需修改微调算法或网络结构即可抵抗灾难性遗忘。在一维回归和图像回归两类实验中,UFR网络在与其兼容的变化上反复微调时,遗忘明显少于纠缠破碎表示(FER)的网络。结果表明表示质量是灾难性遗忘的重要因素。

Joel Lehman, Kenneth O. Stanley

★★★★☆ 值得关注
arXiv physics.chem-ph · cond-mat.mtrl-sci · cs.LG

Toward universal excited-state machine-learned potentials: a local excitation Hamiltonian for size consistency and transferability

说明面向通用激发态机器学习势函数:用于尺寸一致性和可迁移性的局部激发哈密顿量

简介本文提出 LEH-MACE 模型,其激发能由以原子为中心的局部块组装而成的局部激发哈密顿量的本征值给出,从而保证分子对的激发态与单分子之和一致。作者基于约 10 万个分子的约 30 万个几何构型生成 TD-DFT 能量和力数据进行训练。结果显示,在远离训练数据的情形下,该模型相对直接读出法有更明显优势,在长共轭低聚物的 S2 和 S3 误差约为其一半。

看点用原子中心块组装局部激发哈密顿量,使激发能满足精确的尺寸一致性,并在约30万个几何构型上评估,超过基线方法在远离训练数据的高激发态上的误差约减半。

Pascal Friederich

arXiv cs.LG · q-bio.MN

ProtLink: Sequence and Multispecies Graph Context for Protein Interaction Prediction

说明ProtLink:利用序列与多物种图上下文预测蛋白质相互作用

简介本文提出ProtLink框架,结合冻结的ESM-2蛋白质序列表示、蛋白质相互作用网络拓扑以及跨物种的直系同源群连接,用于预测蛋白质-蛋白质相互作用。作者比较了仅用序列的模型、GraphSAGE、同质图Transformer和异质图Transformer(HGT)在人类相互作用预测上的表现。结果显示,三层多物种HGT的平均精度在随机负样本下为0.980,在两跳优先负样本下降至0.878;对训练中未出现相互作用的人类蛋白,其平均精度为0.8335,高于仅用序列模型的0.6482。

Xingyuan Zhang

arXiv cs.IR · cs.LG

RoutingTrie: Metadata Routing for Constrained Generative Retrieval

说明RoutingTrie:面向受约束生成式检索的元数据路由方法

简介该论文提出 RoutingTrie,在束搜索选择之前就把请求的元数据约束纳入生成式检索,避免先生成再过滤造成的计算浪费。方法使用一棵共享的语义 ID 前缀树,并为每个元数据字段构建紧凑索引。实验显示存储紧凑、CPU 与 GPU 探测高效,生产回放中 Hit@100 由 67.5% 提升至 96.1%,延迟仅增加 1.1 毫秒。

Darshan Fofadiya, Yang Liu, Shuying Sun 等

arXiv cs.IR · cs.AI

Slim Foundation Models for Latency-Critical Recommendation Serving

说明面向延迟敏感推荐服务的轻量化基础模型

简介本文提出SlimFM流程,使大语言模型能在线服务于点击率预测。方法包括对LLaMA3-8B做依赖感知结构化剪枝,压缩至4.5B参数;用LoRA微调剪枝后的模型以生成字段级语义嵌入;再通过语义引导融合模块将嵌入注入传统点击率模型。在四个数据集、六种点击率骨干模型上,SlimFM保留了超过99%的未压缩模型精度,推理延迟最多降低3.4倍。

Danyal Aftab, Anas Zafar, Assadig Abakr 等

arXiv cs.LG · q-bio.NC

Learning Actionable Information Landscapes for Multimodal Active Sensing in Hawkmoths

说明学习天蛾多模态主动感知的可行动信息地图

简介该论文提出一种多模态预测编码框架,从视觉与机械感觉观测中学习行动空间上的不确定性降低图,以解释天蛾取食花朵时的探索行为。在模拟环境中训练的变分生成模型能够还原各模态的信息地图,其结果与天蛾行为特征相符。基于此,作者设计了一种依据感知不确定性切换信息采集与奖励利用的算法,在花蜜搜索任务中表现优于多种对照方法。

Abdelrahman Sharafeldin, Yaqing Wang, Simon Sponberg 等

arXiv cs.AI · cs.CL · cs.IR 公开资源

Lightfoot: Graph Retrieval-Augmented Generation with Exact, Model-Free Document Deletion

说明Lightfoot:支持精确、无需模型的文档删除的图检索增强生成系统

简介本文提出Lightfoot,一种图检索增强生成(GraphRAG)系统,图中的实体、关系、事实和同义边都由带有文本块来源信息的段落抽取结果确定性生成。建索引时每段文本仅调用一次语言模型,检索时不调用模型,删除文档则是数据库操作且不需要模型调用。实验在MuSiQue、2WikiMultiHopQA和HotpotQA上与HippoRAG 2、LightRAG和fast-graphrag进行比较,结果显示其建索引成本最低,并在部分数据集的检索与答案指标上优于HippoRAG 2,在2WikiMultiHopQA上则较差。

Uday Allu

arXiv cs.LG · cs.AI

PIA: Agentic Physics-Informed Runtime Anomaly Detection

说明PIA:基于智能体与物理信息的运行时异常检测

简介该论文提出PIA方法,由大语言模型智能体把工业控制系统的异常检测器写成一组物理残差(如泵特性、水箱质量平衡、控制器逻辑),并用正常运行数据对每个候选方案进行评估和改进。在BATADAL水务攻击基准上,PIA的测试攻击F1为0.878,高于六种统计与深度基线中最强者的0.504,并能将每个被检出的攻击归因到具体受攻击部件。

Ali Mohammadi Ruzbahani, Abbas Yazdinejad, Hadis Karimipour

arXiv cs.CV

Efficient 3D plant segmentation through multiscale graph learning and optimized geometric processing

说明基于多尺度图学习与优化几何处理的高效三维植物分割

简介该论文提出一种紧凑的多尺度图注意力模型,用于植物点云的器官分割,参数约7.8万,并结合局部形状描述子与茎叶残差修正。作者对全点云主成分分析、采样和邻域查询做了优化,在不改变学习权重和描述子定义的前提下,显著降低了几何预处理的耗时。实验显示完整模型在本地玉米数据集上平均交并比为86.36%,并在树莓派5上完成了推理。

Jesus Ivan Ruiz-Martinez, Andres Mendez-Vazquez, Eduardo Rodriguez-Tello

arXiv cs.LG · cs.AI

GradReason: LLMs as Meta-Learners that Replace Training Epochs with Training-Data-Free Weight Updates

说明GradReason:让大语言模型作为元学习器,用无需训练数据的权重更新替代部分训练轮次

简介该论文研究能否让大语言模型阅读训练过程中的权重与梯度历史,用不计算梯度、不读取训练图像的更新代替部分训练轮次。在120次CIFAR-10与CIFAR-100实验中,Claude Opus 5.5使用的数据轮次比80轮基线少32.8%,测试准确率低0.31个百分点。模型自发选择了平均近期权重快照的做法,这是节省的主要来源。

Ali Mohammadi Ruzbahani, Abbas Yazdinejad, Hadis Karimipour

arXiv cs.LG · cs.CV 公开资源

Elastic Representations via Hyperbolic Geometry

说明基于双曲几何的弹性表示学习(HERL)

简介本文提出一种名为超双曲弹性表示学习(HERL)的方法,通过在冻结的编码器之后加一个轻量适配器,学习可压缩也可扩展维度的嵌入表示,无需重新训练基础编码器。方法利用双曲几何的指数级容量,用一个多层感知机先降维,再映射到洛伦兹空间。作者称该方法与模型无关,在图像和文本、有监督和无监督场景下均有效,在多种嵌入维度下保持下游性能,并且计算成本较低。

Arjun Ramesh Kaushik, Rudrasis Chakraborty, Nalini Ratha 等

arXiv cs.LG · cs.AI

Differentiable Agent-Based Modeling for Multi-Echelon Supply Chains: Gradient-Based Optimization of Heterogeneous Policies at Scale

说明面向多级供应链的可微分基于智能体建模:大规模异构策略的梯度优化

简介该论文提出一种用于多级库存管理的可微分基于智能体模型,通过可微张量运算实现随机动态,使梯度能够直接穿过仿真过程传播。作者在无监督条件下复现了理论报童模型的最优解,并同时在数秒内优化一万个不同智能体的策略,相比标量基线成本降低53%。

Bulent Soykan, Murtadha Alsayegh, Sean Mondesire 等

arXiv cs.CL · cs.CY

Open Problems in Chatbots and Mental Health

说明通用聊天机器人与心理健康:有待解决的开放问题

简介本文综述了通用聊天机器人用于情绪与心理健康支持时,研究者和政策制定者面临的主要开放性问题。作者指出,谄媚、强化妄想信念和危机应对不足等风险难以研究和评估。文章从受控评估、真实世界证据和基于证据的政策三方面提出研究方向,并主张这三方面需要协同推进。

Jared Moore, Jacy Reese Anthis, William Agnew 等

★★★★☆ 值得关注
arXiv cs.LG · stat.ML

Toward a theory of Evaluability

说明迈向可评估性理论:在测试样本可能已参与训练时,如何评估黑箱机器学习模型

简介论文讨论大型基础模型的评估问题:传统方法假设测试集未参与训练,这一假设越来越难成立。作者在不作此假设的前提下形式化了“可评估性”概念,并研究在不同模型访问权限下对黑箱模型进行评估是否可行。在仅观察测试集输出的设定中,论文刻画了可准确评估的分布类别,并给出样本复杂度的紧致上下界;在允许额外查询模型的设定中,论文建立了与程序测试中自校正器的联系。

看点在测试集可能已用于训练的情形下形式化可评估性,并给出可行性的完整刻画与样本复杂度紧界,还建立了与自校正器的联系。

Kunal Talwar

arXiv cs.LG

DPDP: Diffusion Policy-Steered Diffusion Planner for Offline Reinforcement Learning

说明DPDP:用扩散策略引导扩散规划器的离线强化学习方法

简介该论文提出DPDP方法,用于离线强化学习。它把扩散规划器在执行阶段的动作选择,替换为经价值优化的扩散策略作为先验,使规划出的状态转移既能保持可实现性,又偏向高价值动作。论文通过无需训练的采样器或偏好目标两种方式实现这一转移。在D4RL基准上,DPDP改进了其所基于的规划器,在运动控制任务上与响应式扩散策略相当,在长时程导航任务上表现领先。

Ruyi An, Mingyuan Zhou

arXiv cs.LG

Hydro-Dataset: A Multi-Modal Open-Source Pipeline for Nordic Hydrological Research and Foundation Model Benchmarking

说明Hydro-Dataset:面向北欧水文研究与基础模型评测的多模态开源数据管线

简介该论文介绍了Hydro-Dataset v1.1,一个可复现的开源数据管线,将瑞典气象水文研究所(SMHI)582个气象观测站在2015/16至2023/24九个水文冬季的数据整合为CF-1.9格式的NetCDF产品,包含约180万条带标注的站日数据。管线还派生出雪水当量等六项雪相关参数,为水文基础模型训练提供可用于基准评测的标签。与ERA5-Land的交叉验证显示,基于观测的雪水当量比再分析数据更适合作为机器学习训练的基准。

Getnet Demil, Md Moinul Islam, Mourad Oussalah

arXiv cs.CV · cs.LG

Sensitivity-Gated Accumulator Caching for On-Device Learning of Low-Bit Hand Networks

说明面向低比特手部网络设备端学习的灵敏度门控累加器缓存

简介该论文提出一种名为SGAC的方法,用于在设备上为低比特手部关键点网络持续适应用户摄像头。它只为一小部分动态选定的权重组保留残差状态,用8位累加器缓存收集子步更新,并以无偏随机舍入写回码值。在一个383k参数网络上,SGAC每个权重仅需8.1位状态,在两台模拟摄像头上的部署低比特网络中平均精度最高,并在ImageNet-C的十二种损坏中取得最高平均分。

Soroor Ghandali, Kanika Mamgain, Manjot Kaur 等

arXiv cs.LG · cs.AI

Horizon-Scalable Q-Learning

说明可随任务长度扩展的Q学习(HQL):一种离线强化学习的价值学习方法

简介该论文针对离线数据中任务时域变长时,价值函数学习变得困难的问题,提出Horizon-Scalable Q-Learning(HQL)。该方法在一步与多步回报之间自动平衡:仅当评论家对数据集动作的价值不低于从行为克隆策略采样的N个最优动作时,才沿数据集动作扩展目标,否则退回一步目标。实验显示,在组合锁任务的不同时域下,HQL避免了一步和多步TD各自的失败,并在长时域的OGBench和OCBench任务上优于既有的时域缩减方法。

Haoran Xu, Pragya Srivastava, Xinjie Liu 等

arXiv cs.DC · cs.LG · cs.MA

Network Contention State Aware Dynamic Optimizer for Accelerator Collective Communication Libraries

说明面向加速器集合通信库的网络争用状态感知动态优化器

简介论文指出,大规模分布式AI训练所用的集合通信库(CCL)配置由静态启发式规则决定,在有后台流量时性能明显下降。作者提出一种双智能体的运行时优化器:检测智能体用LSTM分类器结合序贯概率比检验区分持续争用与瞬时波动,选择智能体用D3QN与保守Q学习调整NCCL的配置参数。在Chameleon Cloud裸金属集群上,相比NCCL与完全收敛的AutoCCL,AllReduce延迟分别降低36%和32%;在六个真实AI工作负载上,于Delta集群最高获得65%的加速。

Rajat Bisht (Tennessee Technological University), Tevfik Kosar (University at Buffalo), Anthony Skjellum (Tennessee Technological University) 等

arXiv cs.CL · cs.AI

Think or Remember: The Exchange Rate of Agentic Inference

说明思考还是记忆:智能体推理的兑换率

简介本文研究基于推理模型的智能体每次调用都要重新发送不断增长的对话记录,其成本由客户端和服务端共同决定。作者提出成本模型,并以处理每个 token 的成本与注意力成本之比定义兑换率,以区分“思考”与“记忆”两种成本主导的区间。实验显示,是否保留早期推理以及服务端的缓存方式,都会改变哪种策略更省成本。

Juan Wisznia, Santiago Luis Groba Alonso, Mat\'ias G\'omez Taddeo 等

arXiv cs.LG

An Analysis of Reinforcement Learning with Function Approximation

说明带函数逼近的强化学习分析:研究带函数逼近的 Q 学习的收敛性

简介本文研究无限状态空间马尔可夫决策问题中最优 Q 函数的计算。作者分析了与函数逼近结合的多种 Q 学习变体的收敛性质,并把 Tsitsiklis 与 Van Roy(1996)关于 TD 学习的分析推广到随机控制场景。文中给出了这类近似方法以概率 1 收敛的条件,并与若干相关工作进行了比较。

Francisco S. Melo, Sean P. Meyn, M. Isabel Ribeiro

arXiv cs.IR · cs.AI · cs.CL

DM-Call: Decision-Model-Guided Function Calling with Cumulative Verification Feedback

说明DM-Call:基于决策模型并累积验证反馈的函数调用方法

简介该论文提出DM-Call框架,用于提升大语言模型的函数调用准确性。它先对调用做本地模式校验,再由独立的决策模型分别验证函数选择和参数是否正确。被拒绝的候选会累积验证概率、二元判断和模式错误,并以数值概率与文字正确性标签相结合的方式指导迭代修正,无需执行外部工具。在BFCL和API-Bank(首次调用)上的评估显示,相比直接生成,该方法提高了函数调用准确率,额外开销适中。

Minhyeong Yu, Wonduk Seo, Seunghyun Lee

arXiv cs.CL · cs.LG

SWEET: Mitigating Spurious Feature Reliance in LLM Reasoning via Weight Editing

说明SWEET:通过权重编辑缓解大语言模型推理中的伪特征依赖

简介论文提出SWEET方法,无需训练,结合反事实干预与机制可解释性,定位并抑制大语言模型长链推理中的伪特征。仅用20组原始-反事实样本提取行为方向,并通过编辑相关MLP神经元与注意力头的权重来抑制这些方向。在五个开源推理模型和五个推理基准上,扰动输入的准确率平均提升11.8个百分点,原始输入也有提升,原始与扰动准确率的相对差距由17.6%降至2.5%。

Zhizhang Fu, Lucas Zhao, Michalis Korakakis 等

arXiv cs.CL

When Safety Becomes An Outlier: Understanding the Retention of LLM Safety Behaviors

说明当安全行为成为异常值:理解大语言模型安全行为的保留问题

简介论文发现,安全对齐的大语言模型在微调后常会丢失安全行为,原因之一是固定的拒绝话术像异常模式,易学却难以保留。作者提出自然性增强安全目标框架NEST,构造与模型原有输出分布一致、贴合语义的自然安全回复。实验显示,该方法在多个模型上提升了安全性及其在持续微调后的保留,且不损害有用性。

Binchi Zhang, Hadi Abdullah, Yiwei Cai 等

arXiv q-bio.PE · cs.LG

Rule-table structure of life-like cellular automata: activity, asymmetry, sensitivity, and the propagation storage factorisation

说明生命类元胞自动机规则表结构:活动度、非对称性、敏感度与传播-存储分解

简介本文研究二维外总和类生命规则族(共262,144条规则,包含康威生命游戏)的规则空间结构。作者用三个由对称性导出的规则表坐标组织该族:未加权活动度、出生与存活之间的非对称性,以及Vichniac-Binder布尔导数敏感度。通过对紧凑滑翔机、静物和振荡器的穷举枚举,论文提出出生条件决定能否传播、存活条件调节存储的层级分解。论文还证明在指定尺寸下,B=S规则不支持紧凑滑翔机。

Yair Cohen

arXiv stat.ML · cs.LG

Bayesian transfer for offline Q-learning with multi-task Gaussian processes

说明基于多任务高斯过程的离线Q学习贝叶斯迁移

简介本文提出一种面向目标任务的贝叶斯迁移框架,用于离线Q学习,通过多任务高斯过程联合建模各任务的Q函数。方法利用目标任务预测证据和最大均值差异(MMD)评估源任务,并借助后验不确定性与行为支持动作集指导保守的贝尔曼更新。实验显示,在异质源任务的模拟中,该方法比不加区分地合并源数据更能改善目标Q函数估计并减少负迁移,在人类决策数据的应用中平均期望即时收益也更高。

Wenxing Guo

arXiv cs.AI · cs.LG · cs.NA

Improving Analytic Constants via Interpretable AI-Guided Lean Proof Refinement

说明借助可解释的AI引导Lean证明优化解析常数

简介本文提出一种可解释的框架,由AI逐步改进Lean证明蓝图中的中间引理,使局部改进自动传递到最终的已验证界。作者据此改进了Grothendieck常数的上界,并提高了Korenblum常数的下界。

Rahul Saha, Alan Li, Anton Xue 等

arXiv cs.CV · cs.AI 公开资源

Anatomy-Activated Mixture-of-Experts for 3D Medical Vision-Language Pre-training

说明解剖结构激活的混合专家模型:面向三维医学视觉-语言预训练

简介本文提出A²MoE框架,用于三维医学影像的视觉-语言预训练。其核心是让模型在计算过程中融入解剖结构先验:通过直方图表示路由器和器官查询多尺度投影器,使专家选择依赖解剖组成,并无需推理时的人工标注即可提取器官级特征。论文报告在超过6万例多期相CT扫描上预训练后,在分割、分类和检测任务上取得了当前最优的表现,并称该方法可推广到MRI和超声。

Szymon P{\l}otka, Gizem Mert, Pedro R. A. S. Bassi 等

arXiv cs.SE · cs.AI

Hybrid Source Code Change Impact Analysis

说明混合式源代码变更影响分析:结合静态分析与大语言模型

简介该论文研究软件源代码变更影响分析,即找出因一次代码修改而受影响的代码实体。作者人工标注了22个开源Java项目中263次提交的1931个变更代码实体以修正数据集问题,并提出katIA方法,将静态影响分析与大语言模型结合,包括单提示版本和三个专门化智能体的多智能体版本。实验显示,多智能体版本在两种匹配方式下的F1分数分别为29.1%和33.3%,同时生成时间和令牌用量也明显增加。

Katharina Stengg, Christian Macho, and Martin Pinzger

arXiv cs.LG · cs.AI

CoupledFlow: One-Step Neural Operators for Coupled Multi-Physics PDEs

说明CoupledFlow:面向耦合多物理偏微分方程的单步神经算子

简介本文提出 CoupledFlow,一种面向多物理偏微分方程系统的神经算子学习框架,通过建模各物理过程之间的相互作用来刻画其协同演化。该方法采用结构约束的流匹配算法,并基于多物理状态学习各过程的平均速度场,从而实现对耦合方程系统的快速单步预测。实验表明,其在多个耦合偏微分方程基准上优于现有神经算子与生成式求解器。

Trong Khiem Tran, Minh Long Bui, Phi Le Nguyen 等

arXiv cs.CV · cs.AI

Semantic Synthesis over Brute-Force Search: LLM-Guided Transformation Design for Efficient Learning

说明用大语言模型生成数据变换程序,替代暴力搜索以提升学习效率

简介该论文研究能否利用大语言模型合成可执行的数据变换程序,以替代计算代价高昂的暴力搜索来设计计算机视觉训练中的数据增强方案。作者在统一训练协议下比较了九种策略,结果显示大语言模型生成的变换程序在CIFAR-10、CIFAR-100和SVHN上均取得最佳准确率,并且所需候选评估次数远少于暴力搜索。论文还指出,用于增强搜索的一轮训练评分与二十轮结果的相关性随数据集和架构差异很大。

Usha Shrestha, Radu Timofte, Dmitry Ignatov

arXiv cs.CL · cs.LG · math.GR

Can small transformers learn the language of Coxeter groups?

说明小型Transformer能否学会Coxeter群的“语言”?

简介本文训练了一个小型Transformer模型,使其学习仿射A2型Coxeter群(即等边三角形平铺欧几里得平面的对称群)的词语结构。研究者观察了训练后模型的注意力模式,并据此提出并证明了一个关于仿射A2的词论猜想。

J. Elisenda Grigsby, Yiyao Huang, Arushi Katyal 等

arXiv cs.CL · stat.AP

Gendered Misclassification from Surname-Based Race Imputation

说明基于姓氏的种族推断如何导致性别分类偏差

简介该论文指出,选民档案常用姓氏和地理位置推断种族,这在女性随夫姓时会失效,尤其是跨种族通婚的亚裔和西裔女性,导致推断准确率下降。作者用六个美国州的自我申报种族数据验证了这一偏差,并表明使用娘家姓可显著提高准确率,同时在全国复制研究中修正后,亚裔选民的性别投票率差距超过三倍。

Noah Dasanaike

arXiv cs.LG · stat.ML

Prescriptive Learning of Linear Policies with Feasibility Guarantees for Binary Decision-Making

说明面向二元决策的线性策略规范学习与可行性保证

简介本文提出一种用于二元决策的规范式学习框架,直接在训练场景中联合优化线性决策策略和可行分配,而不是预测最优标签。作者进一步采用基于Wasserstein歧义集的分布鲁棒机会约束形式,以指定概率在最坏分布下保证可行性,并在稳健性与解质量之间实现可调权衡。在机组组合和人员分配两个案例中,鲁棒模型在分布偏移下显著减少未满足需求,总成本最多降低76.5%,优于经典预测式学习。

Farzaneh Pourahmadi, Trine Krogh Boomsma, Pierre Pinson

arXiv cs.CV

Remembering to Reason: Structured Memory for Scene and Workflow Understanding in Robot-Assisted Surgery

说明记忆推理:面向机器人辅助手术场景与流程理解的结构化记忆

简介本文提出MemSurg框架,在推理前先记住手术观察内容,通过时间戳化的结构化记忆图存储实体类别、位置、运动线索和交互摘要,并以任务自适应检索为场景与流程推理提供依据。在机器人辅助前列腺切除术及两个互补的手术基准上,相较SurgRAW(搭配GPT-4o)有明显提升;记忆条件化也能提升Qwen3-VL-8B的微调效果,并为EndoChat带来增益。

Zhiran Zhang, Hu Wang, Yichen Wu 等

arXiv cs.CL 公开资源

Pole or Vector? Encoders Capture Bangla Compound Verbs, but LLMs Read Them Literally

说明极点还是向量?编码器能辨识孟加拉语复合动词,但大语言模型按字面理解

简介本文研究孟加拉语中的复合动词:主动词后常接一类“向量动词”,它们不保留本义,而是附加完成等语义。作者构建了BanglaCV-Probe基准,包含17个向量动词及数千条母语者核验的实例,并测试了26个模型在区分两种含义、理解向量语义、偏好正确组合和翻译保留语义四方面的表现。结果显示编码器能较好区分两种含义,而提示式大语言模型较少运用这一知识,多数指令微调模型在翻译时常按字面处理向量动词。

Md. Asaduzzaman Shuvo, Md Mehrab Karim Antor, Md. Adnanul Islam 等

arXiv cs.CV

Beyond Real or Fake: A Dual-Channel Authenticity and Reasoning Protocol for Photographic Assessment

说明超越真假:用于摄影真实性评估的双通道真实性与推理协议

简介该论文指出,现有取证方法常把完全合成、篡改和AI修图的图像统一标为“真”或“假”。作者提出2CAP双通道真实性协议,分别利用相机传感器指纹和场景语义一致性两个通道识别不同类型的生成式操作。该方法可进行四类真实性分类,并借助参考图像与视觉语言模型生成带定位的解释,在多源基准上取得了最佳分类效果。

Xiaoxiao Li, Ruinan Jin, Lili Meng 等

arXiv cs.CL

SCorPion: A Strategic, Controllable and Personified Conversational Companion

说明SCorPion:一种具有策略性、可控性与人格化的对话陪伴系统

简介开放域对话中,固定提示的语言模型难以应对多样话题。该论文从不同形式的文本语料中提取聊天策略,引导模型依据人类原则生成不同风格的回复。作者设计并部署了名为SCorPion的对话陪伴系统,利用GraphRAG全局提取并总结知识图谱,生成社区摘要策略和面向查询的最优策略。系统具备策略性思考,能给出人格化、风格化的回应,并可通过显式因素进行控制。

Luo Ji, Xiyuan Chen, Dan Wang 等

arXiv cs.AI

How Short Is Too Short? Length-Conditional Calibration and Abstention for Detecting AI-Generated Text

说明短文本要短到什么程度才不可靠?面向AI生成文本检测的按长度分段校准与弃权机制

简介该论文研究AI生成文本检测器在不同文本长度下的表现。作者给出了用长文本确定的阈值在长度变短时误报率的闭式表达,以及检测器达到目标真阳性率所需的token数公式。方法上,在长度分段内用共形p值校准阈值,并增加分段级弃权规则。在三种零样本检测器、三个语料和两个开源生成模型上,分段校准使10至200个token的各长度段误报率平均保持在5.0%左右;但没有检测器能达到80%的真阳性率,因此多数长度段被弃权。

Ritesh Janga, Justin Zhan

★★★★☆ 值得关注
arXiv cs.LG · cs.DC · math.OC

Optimal Byzantine-resilient Federated Learning with User-level Differential Privacy

说明具有用户级差分隐私的最优拜占庭容错联邦学习

简介该论文研究在存在恶意客户端且需保护用户级隐私的联邦学习中的收敛性问题。作者给出了此类设置下的信息论下界,并提出ByzULDP算法,通过客户端和服务器两级动量来抑制梯度方差并保证收敛。该算法在强凸目标下达到阶最优收敛界,并通过真实数据集实验验证了分析结论。

看点新意在于建立用户级差分隐私下拜占庭鲁棒经验风险最小化的信息论下界,并提出服务器端动量以保证收敛;摘要报告在真实数据集上验证,给出紧界。

Ming Xiang, Stratis Ioannidis, Edmund Yeh 等

arXiv cs.LG · cs.AI · stat.ML

Robust Satisficing Ensemble: Scalable Model Aggregation Under Distribution Shifts

说明鲁棒满足式集成:分布偏移下可扩展的模型聚合方法

简介该论文提出鲁棒满足式集成(RSE),一种可扩展的概率聚合框架,通过降低模型组合对分布变化的脆弱性来提升稳健性。方法将鲁棒满足式目标与二次风险代理相结合,推导出解析形式的内层对抗者,从而无需标准极小极大优化即可高效更新权重。论文在对抗性标签偏移及子群体、时间偏移等多种数据集上评估,结果显示RSE优于GroupDRO、IRM和SRM等强鲁棒基线。

Ahmet Faruk Cetinkaya, Enes Agirman, Cem Tekin

arXiv cs.RO · cs.AI · cs.LG

Zero-Shot VLA Adaptation with Retrieved Guidance

说明基于检索引导的零样本视觉-语言-动作模型适应方法

简介该论文针对大型视觉-语言-动作(VLA)机器人模型在相机视角、背景、物体或机器人形态等域变化下表现下降的问题,提出RAGu方法。该方法借鉴检索增强生成(RAG)思路,从DROID等域不匹配的真实场景示范数据集中检索轨迹,经几何校准后,用于引导基础模型在新目标域中的流匹配推理,而非重新训练模型。论文报告其真实世界成功率从20%提升至80%,并在仿真中优于相关基线。

Subin Kim, Anh-Quan Pham, Dinesh Jayaraman

arXiv cs.AI · cs.HC

Complementarity without ground truth?

说明无真实标签的互补性?——将人机互补性评估扩展到非预测任务

简介本文讨论人机互补性(人类借助AI的表现优于两者单独表现)的评估依赖于真实标签这一前提。作者指出,治疗建议等非预测类任务的相关输出应依据与实践目标的适当性来评判,并提出用由两步评分方法生成的、依赖情境的适当性标签替代真实标签,将互补性评估扩展到这类任务。

Andrea Ferrario, Alessandro Facchini, Federico Cabitza

arXiv cs.AI · cs.CE · cs.LG

Approximate Recall, Approximate Forecasts: Recall as a Diagnostic for LLM Forecasting Errors

说明近似记忆与近似预测:将回忆能力作为大模型预测误差的诊断指标

简介该论文研究大语言模型对过去事件的记忆往往只是粗略关联,细节容易失真,并提出一种名为"回忆保真度分数"的新指标,用于衡量内部知识的不精确如何影响对未来事件的预测能力。在已结算的历史预测市场中,作者发现与语义相近的过去事件周围的局部回忆保真度越高,预测误差越低;同一信号也预示着模型预测与未结算市场价格的差距更小。

Prashanth Bhaskara, Shubhaankar Gupta, Seojoon Yeon

arXiv cs.AI

Keeping LLM Agents on Procedure: Executable Finite-State Control for Long-Horizon Instruction Fidelity

说明让大语言模型智能体遵循流程:面向长时程指令执行的可执行有限状态控制

简介论文指出,语言模型智能体在长时间无人值守运行中会偏离既定流程,单纯重述指令或恢复中断的智能体只会让偏离转移到其他捷径。作者提出可执行有限状态机,将工作流状态放在模型上下文之外,并在工具调用、状态转换和智能体回合结束三个环节强制执行。在200个账户的SOP-Bench批次实验中,搭配该状态机的Claude Haiku 4.5平均正确且按流程处理139个账户,最强基线为48个。

Yutao Sun, Haokun Li, Mingshuai Chen 等

★★★★★ 值得关注
arXiv physics.ao-ph · cs.LG

Guiding future global temperature distributions with simulations and observations

说明利用模拟与观测数据引导未来全球气温分布预测

简介本文提出一种条件扩散模型,基于17个CMIP6气候模式与ERA5再分析数据,生成每日空间一致的温度场。采样时通过扩散引导将各模式的分布拉向观测,引导强度由保留未来模拟的完美模式实验选定。研究报告显示,该方法使日温度第1和第99百分位数的中位偏差减半以上,并在三种排放情景下将全球年均温中位RMSE降低32%至57%。

看点新意在于用扩散模型条件生成并以观测引导修正气候模式偏差,以完美模式实验选择引导强度,并在十七个合成目标上验证,可能影响未来极端温度风险评估。

Francesco Immorlano, Elijah Tavares, Felix Draxler 等

arXiv cs.LG

Robust and Efficient Continual Model Merging via Global Singular Subspace Separation and Restoration

说明通过全局奇异子空间分离与恢复实现稳健高效的持续模型合并

简介该论文针对持续模型合并问题:在不回看历史模型或数据的前提下,逐步整合各任务的专用模型。重复合并会使过去任务的成分相互纠缠并扭曲奇异几何结构。作者提出GS3R方法,在每次合并时恢复保留的奇异几何结构、分离各任务子空间,并在任务间公平地全局重新分配可用秩。此外提出PRF以降低合并时的内存开销。论文称在视觉、自然语言处理和多模态基准上,GS3R具有良好的精度与效率权衡。

Juncheol Shin, Byeongho Yu, Semin Kim 等

arXiv cs.RO · cs.LG · cs.SY

Sampling-based Model Predictive Control as Sequential Monte Carlo Inference

说明将基于采样的模型预测控制视为序贯蒙特卡洛推断

简介这篇论文指出,预测采样、MPPI、交叉熵方法及其变体,都可以用同一种序贯蒙特卡洛(SMC)推断算法实现,差别在于提议分布、将加权粒子更新为名义规划的规则,以及重采样的有效样本量阈值三个独立选择。作者在MuJoCo非线性控制、障碍场导航、7自由度运动规划和推物任务上进行了仿真评估,并在Franka FR3机械臂上验证。结果显示,重采样可缓解长时域下的粒子退化,在28个节点的导航任务中碰撞率比无重采样基线降低30%;可编程提议分布则提升了推物任务的成功率。

Austin Garrett, Muyang Yan, Zachary Kingston

arXiv cs.CV 公开资源

REDiff-AD: No Training and No Target Masks for Industrial Anomaly Image Generation via Diversity-Driven In-Context MMDiT

说明REDiff-AD:无需训练与目标掩码、基于多样性驱动上下文MMDiT的工业异常图像生成

简介工业异常检测常因真实缺陷样本稀少、多样性不足而受限。该论文提出REDiff-AD框架,无需模型训练和目标掩码,将Rectified Flow MMDiT用于工业异常生成,以较少生成步数高效采样。给定正常产品图像和一张带掩码的参考异常图,框架通过上下文学习把参考缺陷外观迁移到正常图像上,并利用生成过程中的注意力信号定位异常,再结合边缘与颜色线索得到像素级伪掩码。实验表明,该方法在真实性与多样性之间取得较好平衡,并在下游异常分类、检测和定位任务上表现具有竞争力。

Chih-Yu Tsai, Chih-Heng Chang, Jian-Jiun Ding

arXiv cs.LG

BRAT: Bounded Residual-Aligned Training for Stable Multi-Pass LLM Post-Training

说明BRAT:用于稳定多轮复用训练大语言模型的有界残差对齐训练方法

简介该论文研究强化学习后训练中对同一批采样数据多次复用梯度更新时出现的不稳定问题。作者提出BRAT方法,为每个词元分配随概率比线性递减、在信任区域边界处归零的梯度权重,并以最大幅值归一化组内中心化奖励。论文称,在四次复用的设置下,该方法可避免训练崩溃、限制策略漂移,并在多数基准上取得更高的平均准确率和更低的种子方差。

Xunlan Zhou, Yuzhe Zhao, Xuhong Huang 等

arXiv cs.LG · math.OC · physics.plasm-ph

Online Imitation Learning for Stabilizing Vlasov--Poisson Plasmas

说明用于稳定 Vlasov–Poisson 等离子体的在线模仿学习

简介本文研究如何控制 Vlasov–Poisson 等离子体系统中的不稳定性,这是核聚变控制中的基础难题。由于实际中等离子体状态只能部分观测,作者让算法从一个全状态可观测的专家控制器中学习,但只能利用宏观测量进行控制。理论分析表明,在线模仿学习与离线模仿学习存在差异:即使行为克隆误差很小,也会逐步累积并使不稳定性随时间指数放大,而在线模仿学习的损失可以多项式级地控制展开轨迹的稳定性。作者据此提出一种 DAgger 风格的算法,在部分可观测条件下学习稳定控制器;在一维 Vlasov–Poisson 系统的仿真中,该算法能够在比行为克隆更长的时间范围内稳定等离子体不稳定性。

Xiaofan Xia, Qin Li, Wenlong Mou

arXiv cs.CV · cs.AI

Interactive Person Retrieval with On-the-Fly Visual Feedback

说明基于即时视觉反馈的交互式行人检索

简介传统文本行人检索假设目击者一次性给出完整描述,而交互式行人检索通过问答逐步细化不完整的描述。本文提出视觉反馈交互式行人检索(VFI-PR),让检索到的候选结果产生视觉反馈,作为后续提问与重排序的证据。作者构建了VFI-PEDES数据集与评测协议,并提出VFI-ReID框架,通过动态累积证据检索器和检索感知的提问优化来适应不断变化的证据状态。实验表明,该方法在各交互阶段都持续提升检索效果,优于现有交互式检索基线。

Lyucheng Qian, John Yuehan Zhang, Pingyu Wang

arXiv cs.LG · cs.CL

The Surprising Effectiveness of Deleting Weights in LLM Post-Training

说明删除权重在大语言模型后训练中的出人意料的有效性

简介该论文研究只改动预训练大语言模型极少量权重能否获得新能力。作者提出删除微调(Deletion Tuning),在Transformer模块的门控投影上学习二值掩码,将不到0.05%的权重置零,不做其他修改。论文称,在强化学习、监督微调和同策略蒸馏三种后训练方式下,它与全量微调效果相当,掩码体积比对应检查点小数百至数千倍,且遗忘明显更少。

Jack Lu, Zhenbang Yang, Mike Lasby 等

arXiv cs.LG

Stochastic Port-Hamiltonian Gaussian Processes for Learning from Noisy Dynamics on Lie Groups

说明基于李群上噪声动力学学习的随机端口哈密顿高斯过程

简介本文提出LieSPHGP,一种用于学习刚体动力学的随机高斯过程框架,利用李群和李代数表示运动,避免奇异参数化。模型对质量、势能、耗散和控制分量分别建模,并用扩散项表示随机扰动,各分量采用Matérn核高斯过程。实验表明,在多个含噪刚体基准上,与神经动力学基线相比,该方法预测精度更高、长时域稳定性更好,且更好地满足流形约束。

Thribhuvan Rapolu, Luke McLennan, Chandrajit Bajaj

arXiv cs.LG · astro-ph.SR · physics.space-ph

SWXAI: A Unified Multimodal Explainability Library for Space Weather Forecasting and Heliophysics

说明SWXAI:面向空间天气预报与日球物理的统一多模态可解释性库

简介该论文介绍了SWXAI,一个开源库,用于统一图像、时间序列和表格数据在空间天气预报与日球物理中的可解释人工智能工作流。它提供通用、可扩展的接口,支持多种常用模型,并包含示例、测试和文档。基准测试显示,相比直接调用后端实现,SWXAI显著减少了用户生成解释所需编写的代码,且没有明显的运行时开销。

Benedict Antonio Mervyn, Anli Ji, Manolis K. Georgoulis 等

arXiv cs.LG · cs.AI

Structurally Separated DAG Learning with Multi-Scale Normalized Closure

说明结构分离的DAG学习与多尺度归一化闭包

简介该论文面向连续优化的有向无环图(DAG)结构学习,指出现有方法通常只用加权邻接矩阵的标量函数约束无环性。作者在此基础上增加一层矩阵值闭包逻辑,逐对显式表示多跳结构关系,并与数据拟合、稀疏性及DAGMA式屏障项一同监督。在高斯线性与非线性ER基准的实验中,所提模型在较密图上优于DAGMA,在稀疏图上接近。

Shuai Feng, Hao Yan

arXiv cs.CV 公开资源

Beyond Bit Matching: Orthogonal Watermarks for Collusion-Resistant Image Fingerprinting

说明超越比特匹配:面向抗共谋图像指纹的正交水印

简介论文提出VectorMark,为每个用户分配近似正交的高维单位向量作为水印密钥,通过余弦相似度识别共谋者。该方法在MS-COCO、OpenImages和AI生成图像上测试,在光度和几何失真下仍保持稳健的水印溯源,并在评估的方法中取得最佳的严格全部共谋者检测效果,同时保持较高的视觉质量。

Zhakshylyk Nurlanov, Tobias Wei\ss{}berg, Florian Bernard

arXiv cs.AI

Polynomial Denoisers on the Image Manifold: Volterra Networks for Self-Contained Pixel Diffusion

说明图像流形上的多项式去噪器:用于自包含像素扩散的 Volterra 网络

简介该论文提出一种像素空间扩散模型架构,用 Volterra 层替代注意力作为混合算子,无需预训练组件。作者证明 softmax 注意力及任何归一化混合规则都无法实现仿射之外的多项式映射,而 Volterra 层可直接实现该类映射。在 ImageNet 256×256 和 512×512 上,该模型在参数量与计算量相当的条件下与同类自包含像素扩散模型表现相当。

Siddharth Roheda, Rohit Chowdhury, Amit Satish Unde 等

arXiv cs.LG · cs.AI

Self-contained Data Cleaning for Unsupervised Anomaly Detection

说明用于无监督异常检测的自包含数据清洗方法

简介该论文针对无监督异常检测训练数据中混入异常样本的问题,提出一种无需已知污染比例的预处理框架。方法在自编码器训练早期分析每个数据点与其重构结果的余弦相似度,将异常候选样本从训练集中移除。作者在8个模型和10个安全相关数据集上评估,报告污染最多降低100%,F1分数平均提升11.2%,分类准确率平均提升7.3%。

Jordan F. Masakuna, Ahmed Yacine, Djeff K. Nkashama 等

arXiv cs.LG · cs.MS · cs.PL

Representing Tensors as Compositions for Efficient Computation on Sparse and Structured Data

说明将张量表示为函数复合,以高效计算稀疏与结构化数据

简介论文提出一种新的数学形式体系,把各种张量及其上的运算都表示为简单的函数复合:张量是从索引到数值的函数,逐元素运算、重新索引和归约分别对应对数值或索引的复合。借助这些复合之间的恒等式,可在不实际求值的情况下将表达式改写为等价形式,例如把两个稀疏矩阵的乘积改写为只计算非零值之间的乘积。作者认为,以此代数作为张量计算引擎的中间表示,可把代码复杂度从O(mn²)降至O(m+k²),并公开了基于该代数的草稿实现。

Val\'erian Rey, Praneth Paruchuri

arXiv cond-mat.mtrl-sci · cs.AI

A Geometry-Guided Feature-Space Framework for Interpretable Unsupervised 4D-STEM Analysis of Complex Multiphase Materials

说明面向复杂多相材料可解释无监督4D-STEM分析的几何引导特征空间框架

简介该论文提出一种机器学习框架,用于分析来自异质材料的四维扫描透射电镜(4D-STEM)数据。方法结合物理启发的几何描述符与加权高维嵌入,并在聚类前构建正则化描述符空间。在Si/SixGe1-x外延层和含多相及取向变体的Ti-Nb合金两个基准体系上验证,相比预训练的普通自编码器和无模型模式向量化,该方法聚类保真度更高、可解释性更强,且维度显著降低。

Arda Genc, Daniel A. Bolden, Albert Nguyen 等

arXiv cs.CL · cs.AI

KeyASRBench: Measuring Whole-Phrase Keyword Preservation in Real-World ASR

说明KeyASRBench:衡量真实场景语音识别中整体关键词短语的保留程度

简介本文提出KeyASRBench,一个中英双语试点基准,用于检验语音识别转写结果是否保留了人名、产品名、技术术语、版本号和关系短语等关键词。作者基于冻结的整体短语标注,采用按出现次数计算的关键词错误率(KER)。在1,501段中英文音频、共4,723个关键词出现的挑战集上,五个本地推理模型和两个官方API系统的MER/WER为5.31%至12.91%,而KER为13.61%至33.81%。另用一份不相交的30分钟模型盲测对照集,KER为10.65%至27.31%,表明所选短语的错误并不只出现在挑战集中。

Guanzheng Wei, Ziyi Zhao

arXiv cs.CL · cs.MA

MultiTurnRoute: A Platform for Building and Evaluating Multi-Turn LLM Routers

说明MultiTurnRoute:用于构建和评估多轮大语言模型路由器的平台

简介本文介绍了MultiTurnRoute平台,用于构建和评估多轮对话中的大语言模型路由器。路由器会结合对话历史和各模型可复用的缓存前缀长度进行选择。作者提出的Chain-of-Route算法在WildChat和LMSYS-Chat-1M基准上,相比最强路由基线,将达到最强模型质量所需的归一化成本降低最多20.3%,同时保持或提升峰值回复质量。

Jiaqi Xue, Mengxin Zheng, Heng Huang 等