AI 算法 · 2026年11月10日(周二)

机器学习、人工智能、自然语言处理、计算机视觉、多智能体。

RSS 订阅
arXiv cs.LG

Audited Gradients, Anchored Policies: Model-Based Reinforcement Learning for Efficient Flow Control

说明经审计的梯度,锚定的策略:面向高效流动控制的基于模型强化学习

简介该论文提出一种用于流动控制的强化学习方法。方法先用代理模型估计动作梯度,并与高保真求解器的有限差分估计进行对比审计,通过审计则用代理梯度拟合低维反馈律,否则改用求解器估计,再以二次惩罚项将神经策略约束在该反馈律附近。在四个测试案例中,控制器的表现与无模型基线相当或更优,所需高保真求解器交互次数减少3至156倍。

Ruige Kong, Stefania Fresca

arXiv cs.CV · eess.IV

Image Quality and the Reliability of Fabric-Density Measurement: Counting Threads from Smartphone Photos Through a Pick Glass

说明图像质量与织物密度测量的可靠性:通过拾布镜从智能手机照片计数经纬线

简介论文研究能否用智能手机经拾布镜拍摄的照片自动计数织物每英寸经纬线数(密度)。作者构建了包含76个工厂场景、44块织物样本的PickGlass-TPI数据集,以专业标注员计数为参考,测试了多种视觉语言模型、CNN、计数模型及免训练方法。结果显示,没有方法能在±5%误差内与参考值一致,最佳方法误差约25%,且同一样本多次拍摄结果的一致性仍是主要挑战。

Anoubhav Agarwaal

arXiv cs.LG · cs.AI

XAI-Driven Confidence Estimation for OOD-Resilient Runtime Prediction

说明面向分布外鲁棒运行时预测的XAI置信度估计

简介该论文提出LEX框架,用高斯混合模型对训练输入的嵌入进行聚类,为每个聚类关联预测误差界,从而为具体输入给出运行时置信度,无需重新训练。在Intel Alder Lake平台上对基于LSTM的IPS预测模型、34个基准应用进行评估,结果显示在未见工作负载上约94%的覆盖率,且每个输入的置信界比全局基线约紧17%,运行时开销很小。

Mahmoud Sanad, Mohammed Bakr Sikal, Osama Abboud 等

arXiv cs.LG · cs.AI · cs.CV

Structured Kernel Surrogate Models for Multimodal Attribution

说明用于多模态归因的结构化核代理模型

简介本文研究跨样本的模态归因问题,即衡量某个样本中的某一模态如何影响其他多模态样本的学习结果。作者提出结构化核代理模型,并设计了SKS算法,在样本与模态的选择状态上使用结构化组合核的核岭回归,同时给出基于梯度的高效估计方法。实验在两个多模态基准上进行,涵盖卫星图像、道路网络、文本、音频和表格数据,结果显示SKS与真实预测结果的相关性比现有方法高57.8%,并在下游数据选择中使平均准确率提升1.93%。

Ziniu Zhang, Zhenshuo Zhang, Jianglin Lu 等

arXiv cs.AI · cs.MA

From Process Models to Composable Agentic Workflows: Combining BPMN, Agents and Enterprise Knowledge

说明从流程模型到可组合的智能体工作流:结合BPMN、智能体与企业知识

简介本文提出一种基于BPMN的智能体工作流方法,将BPMN模型转换为基于LangGraph/Pregel运行时的可执行工作流,在选定活动处引入大语言模型推理,其余流程控制由BPMN负责。文章还提出递归能力组合,使智能体和可执行业务流程可作为可复用工具供其他智能体调用,并利用流程模型与知识图谱为智能体提供企业特定背景知识。

Christian Fillies, Jan Fillies, Frauke Weichhardt 等

arXiv cs.CV · cs.AI

Multimodal Road Closure Mapping via Cross-Modal Graph Attention

说明基于跨模态图注意力的多模态道路封闭识别

简介该论文提出一个统一的多模态多任务框架,同时判断道路封闭情况(无封闭、部分封闭、完全封闭)并确定受影响的路段。模型融合图结构地图数据、叠加街景检测结果的卫星影像和街景图像,并使用跨模态注意力进行推理。在约2万个真实场景上,其封闭分类准确率为72.7%,路段关联准确率为60%。

Izzeddin Teeti, Vaibhav Kango, Nidhi Sridhar 等

arXiv cs.CV

Comparative Evaluation of Deep Learning Models for Geographic Atrophy Segmentation in En Face OCT Images

说明用于en face OCT图像中地图状萎缩分割的深度学习模型比较评估

简介该研究比较了五种深度学习架构(Nested U-Net、ResU-Net、nnUnet、Swin-Unet和MedSegDiff)与一种基于阈值的经典方法,用于在en face OCT图像中分割地图状萎缩(GA)。数据来自两种不同设备的269个OCT体数据,并经过归一化和修复等预处理。在共同的验证集上,nnUnet取得最高的平均Dice系数0.8882,研究认为其在有限数据条件下对GA分割表现最为可靠。

Utkarsh Doshi, Adarsh Gadari, Sharat Chandra Vupparaboina 等

arXiv q-bio.QM · cs.LG

EvoSurv: Evolution-Aware Multimodal Survival Modeling Reveals Complementary Prognostic Signals

说明EvoSurv:融合肿瘤演化信息的多模态生存预测模型,揭示互补的预后信号

简介本研究提出38维肿瘤演化特征eTime,涵盖克隆与亚克隆突变负荷、突变谱、功能后果、拷贝数变异等八组特征,并将其与临床变量和RNA表达整合为多模态生存框架EvoSurv。在六个TCGA癌症队列(共2,782名患者)中,EvoSurv的平均C指数为0.663,在六种癌症中均取得最高值。在头颈鳞状细胞癌和肝细胞癌中,eTime在调整临床变量和RNA风险评分后仍与生存显著相关。

Wei Wang, Po-Yu Liang, Jun Bai

arXiv cs.DC · cs.CL · cs.LG

One-Sided Expert-Parallel All-to-All for Mixture-of-Experts Inference over NVLink

说明面向 NVLink 的混合专家推理单边专家并行全对全通信

简介论文提出 NVLinkOneSided,一种用于单个 NVLink 域内 GPU 的单边专家并行全对全通信方案,用于混合专家(MoE)模型推理。各源 GPU 无需先交换元数据即可直接将 token 写入目标 GPU 的缓冲区,分组矩阵乘法直接读取,并提供 Fence 与 Sentinel 两种同步协议。在 Blackwell GPU 上,其分发与合并通信比 DeepEP 快 1.2 至 3.0 倍,MoE 层最多快 2.4 倍。

Bo Li, Chulian Zhang, Or Biri 等

arXiv cs.LG · stat.ME

Prediction-Powered LLM Ranking with Adaptively Collected Human Feedback

说明利用自适应收集的人工反馈进行预测增强的大模型排名

简介该论文提出预测增强排名方法(PP-Rank),把大语言模型评审器的预测与人工反馈结合,在人工反馈按自适应方式收集的情况下,提高大模型排名的精度并给出有效的统计推断。论文在理论上证明了渐近正态性与同时排名推断的成立,并在半合成与合成实验中报告了相对仅用人工反馈的基线,在分数估计、置信区间宽度和排名认证方面的改进,以及在降低评估成本的同时保持精度。

Gabriel Sargent, Will Wei Sun, Zhengwu Zhang 等

arXiv cs.SE · cs.AI

AgentScript-Eval: Benchmarking LLMs and Agents for Code Generation in an Enterprise DSL

说明AgentScript-Eval:在企业领域专用语言中评测大模型与智能体的代码生成能力

简介本文提出 AgentScript-Eval,一个包含 100 个真实任务的基准,用于评测大模型与智能体在 Salesforce 用于构建对话式智能体的声明式领域专用语言 AgentScript 上的代码生成能力。任务涵盖从规格编写智能体、修复有缺陷的定义以及优化可运行定义。研究发现,表现最好的模型 pass@3 仅为 25.0%,所有模型在从零编写时得分均为 0%。加入编译与编辑的智能体循环是提升最明显的因素,其次是领域指导的措辞与封装方式。

Dipin Khati, Shubham Mehrotra, Bin Bi 等

arXiv cs.LG · cs.NE

Making Strides in Symbolic Imitation Learning: Offline Demonstrations, Online Tuning

说明符号模仿学习:离线示范与在线调参

简介该论文提出符号模仿学习框架,用离线数据集把专家策略蒸馏为带线性模型运动基元的决策列表。再结合在线增强随机搜索(ARS)调整常数与运动基元。在20个强化学习基准任务中,该方法性能接近专家策略,其中11个任务超过专家,且生成的策略简洁、可解释。

Bryce MacInnis, Malcolm I. Heywood

★★★★☆ 值得关注
arXiv cs.CV

X Marks the Spot: Diffusion for Image Geolocalization with Location Representations

说明《X Marks the Spot》:用位置表示的扩散模型进行图像地理定位

简介该论文研究如何根据照片推断拍摄地点。作者提出在预训练位置编码器的表示空间中学习,并设计了一个将嵌入映射回坐标的位置自编码器(LAE)。在此基础上训练了潜在扩散模型 DIG,以图像特征为条件生成位置嵌入。论文称 DIG 在 OSV-5M、Im2GPS3k 和 YFCC4k 三个基准上优于基于坐标的生成模型,并取得参数化地理定位的新最佳结果。

看点新意在于在位置编码器的预训练表示空间中做扩散,而非直接生成坐标;在OSV-5M、Im2GPS3k、YFCC4k三个基准上报告达到新的参数化定位最优结果。

Brian Wei, Chih-Chuan Hsu, Tianyi Gao 等

arXiv cs.CV · cs.HC · cs.MM 公开资源

Multimodal Judges Flag, Humans Decide: A Review-and-Edit Framework for AI-Generated Product Video Ads

说明多模态评审器提示问题,人工做决定:AI生成商品视频广告的审核与编辑框架

简介本文提出一套审核与编辑AI生成商品视频广告的流程:审核人员按六个问题逐场景检查,视觉语言、语音和语言模型组成的评审器标记疑似问题,审核人员确认或驳回并补充遗漏。确认的问题对应相应的编辑工具。120条广告的实验显示,有评审器提示时,审核人员标记商品错误的场景比例明显更高;在120个盲标场景上,商品评审器的AUC为0.84。作者公开了审核平台模板和相关数据。

Anoubhav Agarwaal, Sukesh Perla, Karthikeyan Mohanraj 等

arXiv cs.CV

GroundCascade: Selective Second Opinions for GUI Grounding

说明GroundCascade:GUI 定位中有选择地征求第二意见的方法

简介该论文提出 GroundCascade,一种无需训练的控制器,用于 GUI 定位(根据截图和自然语言指令找到应操作的屏幕位置)。它比较全屏预测与放大预测的一致性,决定是否咨询互补模型,并在 ScreenSpot-Pro 等三个基准上报告了相对于单独双阶段定位器的提升,同时减少了模型调用次数。

Adrian Phoulady, Hady Ahmady Phoulady

arXiv cs.CV

Continuous Angular Control in Text-to-Image Generation via Geometric Token Encoding

说明通过几何令牌编码实现文生图中的连续角度控制

简介文生图扩散模型能画出逼真的模拟时钟,却无法控制指针所示时间,圆形分数的生成同样不准确。作者提出几何令牌编码框架,把角度编码为周期性正弦余弦特征并注入提示词,并配合随机定位松弛与指针互换偏好目标进行训练。在模拟时钟任务上,Acc@6度达到63%至78%,基线方法低于1%;圆形分数任务中Acc@0.10为89.5%。

Furkan G\"uzelant, Basavaraj Sunagad, Aysegul Dundar 等

arXiv cs.LG

RadRef: A Reference-Free Metric for Radiology Report Generation

说明RadRef:一种无需参考报告的放射学报告生成评估指标

简介本文提出RadRef,一种无需医生撰写参考报告即可评估AI生成放射学报告的指标。它将报告中的陈述与基于影像得出的临床发现信念进行比对,并按与临床检查目的的相关性加权。在ReXVal数据集上,其与放射科医生排序的一致性为73.1%,与主流基于参考的指标整体相当;在100份模型报告与100份医生报告的对比研究中,RadRef在漏诊发现的评估上与两位阅片医生之间的一致性相近。

Shelly Schwartz, Alan Ropp, Michael B. Sneider 等

arXiv cs.AI

AI Alignment Is Neither Solvable nor Sufficient

说明AI对齐既无法彻底解决,也不足以保障安全:论文认为,把对齐当作单个AI系统的属性来解决是一种误导,因为人机混合社会中的涌现风险同样重要。

简介这篇论文指出,AI对齐(使AI系统行为符合人类价值观)的目标存在问题:对齐本身定义不清,在可具体界定时无法解决,即便看似可解,解决后也未必能减轻AI的负面后果。作者认为,人机混合社会是由互动和反馈回路塑造的复杂系统,涌现风险可能成为主要危害来源。因此,AI安全是一个持续性挑战,而不是通过验证某个模型属性就能一劳永逸解决的问题。

Gerrit Gro{\ss}mann

arXiv cs.LG

High Probability Risk Control for Online Policy Learning

说明在线策略学习中的高概率风险控制

简介该论文研究在线策略学习中的风险控制:智能体边收集数据边学习新策略,希望其风险以高概率始终低于设定阈值。作者提出基于置换的加权风险评估器(权重由Sinkhorn算法近似),并结合高斯自助法得到风险上界来选择策略。文中在在线上下文赌博机、安全问答和医疗理赔过滤任务上进行了实验。

Yihong Guo, Drew Prinster, Suchi Saria 等

arXiv cs.AI · cs.CE

Cognitive Multi-Agent Search and Rescue: Language-Grounded Hierarchical Reinforcement Learning for Collaborative Robotics

说明认知多智能体搜救:基于语言的分层强化学习用于协作机器人

简介本文提出一种认知多智能体框架(LG-HRL),把自然语言理解、分层策略分解和共享认知工作空间结合起来,用于无人机与无人地面车辆协同搜救。大语言模型将人类指令转化为结构化语义线索,指导高层策略选择与角色分配。仿真灾害环境实验显示,该方法学习速度提升2.3倍,协调一致性提高37%,救出受困人员的比率高出20%至30%。

Sepideh Ravanbakhsh, Hamidreza Moradi

arXiv cs.RO · cs.AI · cs.LG 公开资源

How Much of Your VLA Is kNN

说明你的VLA模型有多少是kNN?:一项关于视觉-语言-动作模型是否依赖检索的研究

简介这篇论文研究视觉-语言-动作(VLA)模型在LIBERO仿真基准上的表现有多少来自对训练示范的检索。作者发现,直接检索相近示范并复用其动作序列,无需训练即可达到91.7%的成功率。论文还提出了局部动作一致性(LAC)这一离线指标,用于衡量表示空间中相近的观测是否对应相似的未来动作,并表明该指标与检索成功率相关,可用于指导检索键的训练。

Denis Grachev, Damien LaRocque, Omar Moured

arXiv cs.CV · cs.LG 公开资源

VIGOR: Benchmarking Visual Rationale Correctness in Multimodal Large Language Models

说明VIGOR:评测多模态大模型视觉推理依据的正确性

简介该论文指出,多模态大模型通常只看答案是否正确,但这无法说明其输出是否有正确的视觉依据。作者提出了名为VIGOR的基准,把视觉推理依据表示为显式概念及其像素级定位,涵盖从底层视觉属性到高层运动关系等多个抽象层级。研究还设计了自动标注流程,用于大规模构建数据。结果显示,当前多模态大模型的视觉推理依据正确性有限,且在不同概念层级上存在不同的定位失误。

Yanlin Chen, Tang Li, Xi Peng

arXiv physics.soc-ph · cond-mat.dis-nn · cs.AI

Everything in its right place: attention is a radio head

说明《一切各就其位:注意力是一台无线电接收机》:用同步振荡解释语言模型注意力机制的论文

简介该论文提出,语言模型中的注意力机制可以看作接收机与上下文词元同步的过程:每个过去词元是一个振荡器,其状态携带内容,频率随位置变化。作者由Kuramoto问题推导出闭式的注意力层,并区分两种相位:耦合超过临界值时接收机锁定、权重归一化;低于临界值时保持静默,权重总和小于1。

Llu\'is Arola-Fern\'andez, Aissam Khadraoui, Alex Arenas

arXiv cs.AI

Teaching the Harness: Student-Aware Skill Transfer for LLM Agents

说明教导测试框架:面向LLM智能体的学生感知技能迁移

简介该论文提出“学生感知教学”(SAT)方法,让较强的大模型根据学生模型的表现和假设,通过诊断性测试为学生生成可复用技能。只有提升开发任务成功率的技能才会被收入技能库。实验显示,SAT在四轮主要测试中平均任务成功率为86.46%,高于无学生画像的教师方法和未经指导的学生模型。

Chang Liu, Bo Wu

★★★★☆ 值得关注
arXiv physics.chem-ph · cs.AI

Autonomous Optimization of Numerical Algorithms by an AI Agent: Application to Atomistic Simulation

说明AI 智能体自主优化数值算法:原子模拟应用

简介本文提出 AIOA 框架,让基于大语言模型的编程智能体在受保护的循环中改进原子模拟的数值算法。智能体改写了 ASE 库中的六个计算内核,在 Python 下平均快 22 至 24 倍,且结果不变。智能体还重新设计了优化方法,在未见过的问题上,结构弛豫所需的力计算次数比 L-BFGS 少 3.1 至 3.4 倍,反应路径计算比标准爬坡弹性带法少 4.6 至 17 倍。

看点新意在于用LLM编码代理在循环中自动改进原子模拟算法,并发现两个文献中未见的算法组件;摘要报告在ASE内核与未见问题上相对L-BFGS及CI-NEB取得数倍的力评估次数减少。

Jeheon Woo

arXiv cs.RO · cs.AI

DOBB: Dynamic Oriented Bounding Boxes for Multi-Agent Collision Avoidance under State Uncertainty and Heterogeneous Dynamics

说明DOBB:面向状态不确定与异构动力学的多智能体避碰动态有向包围盒

简介该论文提出动态有向包围盒(DOBB),根据当前状态估计、不确定性和各智能体的响应特性,生成随方向变化的动态安全间距,用于去中心化的多智能体避碰学习。作者设计了描述智能体间相互关系与交互严重程度的几何特征,并给出保留物理含义的奖励函数。在四个评估环境中,DOBB的平均总失败率最低,为2.6%,在执行器动力学与状态估计不确定性偏离训练分布时仍保持稳定。

Pedro Antonio Alarcon Granadeno, Jane Cleland-Huang

arXiv cs.AI · cs.CL

Agreeing on the Answer but Not the Reason: Measurement Limits of LLM Reasoning Failure Taxonomies

说明在答案上一致、在原因上不一致:LLM推理失败分类的测量局限

简介本文研究大语言模型推理失败分类中“组合性崩溃”这一类别的测量可靠性。作者在12个模型、11种语言的多语言数学基准上统计发现,该类别的占比高度依赖分类器的检验顺序,且人类标注者之间、人与自动标注器之间对该类别的一致性很低,而答案正确性的一致性很高。作者建议在跨模型比较失败模式比例前,先做标签共现报告、检验顺序置换、共享独立样本验证和系统性分歧审查。

Madhu Sudhan Rao Beesetty

arXiv cs.LG

Byzantine-Robust Muon: Resilient Momentum Orthogonalization for Distributed Learning

说明拜占庭鲁棒的Muon:面向分布式学习的抗干扰动量正交化

简介本文研究Muon优化器(基于线性最小化算子与动量正交化)在分布式和联邦学习中,面对恶意节点与数据异质性时的鲁棒性。作者在统一的一阶信赖域框架下分析结合鲁棒聚合的Muon更新,不依赖独立同分布假设,并给出非凸与星凸目标函数的收敛保证,同时得到与已知不可能性结果一致的异质性误差下界。在CIFAR-10、TinyStories等实验中,文中测试的Muon配置在受攻击情况下准确率高于部分SGD与符号更新配置。

Grigory Malinovsky, Yury Demidovich, Peter Richt\'arik

arXiv cs.LG · cs.AI · cs.CL

Which Successes Make Good References? Action-Sequence Alignment for Multi-Turn On-Policy Distillation

说明如何选择成功参考轨迹:多轮策略蒸馏中的动作序列对齐

简介本文研究多轮工具调用智能体的同策略蒸馏(OPD)。作者把挑选成功参考轨迹的问题建模为自由目标最优传输,并以最长公共子序列(LCS)衡量动作序列的兼容性,用于为每条失败轨迹选择最合适的成功参考。在ALFWorld和τ³-bench航空领域的实验中,LCS是唯一在ALFWorld总体分数和航空三项指标上均优于无参考OPD的选择方法;在航空领域训练的模型无需额外优化即可迁移到零售领域,并在该领域的三项指标上同样有所提升。

Mufei Li, Nikki Lijing Kuang, Zhuoer Wang 等

arXiv cs.AI · cs.CL · cs.IR

Activation-Guided Graph Retrieval for Cognitive Memory Reconstruction in Language Model Systems

说明基于激活引导的图检索:用于语言模型系统的认知记忆重构

简介本文提出一种语言模型系统的记忆检索架构,除常见的按查询相关性选取上下文外,还引入按激活状态决定记忆可用性的机制。请求与目标线索在已授权的记忆图中启动遍历,激活与扇出衰减控制有界的遍历前沿,并在生成前重构带类型的证据图。作者给出了架构分析、成本估算与评测方案,但未报告基准测试结果。

Marvin Danig (Achiral Research)

arXiv cs.CV · cs.AI

Just Image Transformers with Late-Stage Pixel Refinement

说明基于后期像素精修的纯图像 Transformer(Just Image Transformers with Late-Stage Pixel Refinement)

简介该论文研究无需潜在 VAE 的扩散 Transformer 图像生成。作者在 JiT(直接预测最终图像的标准 Transformer)的基础上,在训练后阶段加入简单的卷积像素通路层,明显提升生成质量。实验表明,该通路只需在去噪过程的最后 20% 阶段启用即可。在 ImageNet@256 上,FID 从 2.34(修正采样后)降至 1.78,且未使用额外损失函数。

Denis Lukovnikov, Andreas M\"uller, Asja Fischer

arXiv cs.AI · cs.LG

Building World Models from Intrinsic Motivation

说明基于内在动机构建世界模型:研究不同内在动机如何促进可复用的世界模型学习

简介这篇论文研究在没有外部奖励的情况下,好奇心、熵、能力等24种内在动机目标如何影响世界模型的学习。作者将这些目标放入同一个基于模型的强化学习框架,并在运动、操作和开放式游戏环境中,测试其在零样本、少样本和多任务控制中的表现。结果显示,结合观测重建的好奇心驱动探索整体表现最强,而在组合式视觉任务中,结合情景新颖性与终身新颖性的内在动机迁移和适应效果最好。

Reece Keller, Declan Kutscher, Xaq Pitkow 等

arXiv cs.CL

Catch It Where It Happens: Real Time Error Correction During LLM Reasoning

说明在推理发生时即时纠错:大语言模型推理过程中的实时错误修正

简介本文针对大语言模型在数学推理中一步出错便会连锁传播的问题,提出在推理过程中用确定性代码实时验证每一步的方法,无需额外模型调用或GPU资源。出错时指出错误并让模型从同一位置继续推理。作者在符号数学任务上用ASyMoB基准测试三个开源权重模型,准确率提升1.4至5.6个百分点,错误答案净减少1.8%至14.9%,令牌用量仅增加6%至7%。

Rotem Elimelech, Michael Shalyt, Ido Kaminer

arXiv cs.LG · cs.AI · cs.CL

One Temperature to Rule Them All?

说明一个温度统治所有?——关于大语言模型推理采样温度的研究

简介该论文研究大语言模型推理时的采样温度,比较固定单一温度与跨样本使用多温度两种做法在 pass@K 设置下的差异。作者分析了多个模型和数据集上各题目成功概率随温度的变化规律,并推导出评估理论最优多温度分配方案的高效方法。研究发现,多温度方案只能带来较有限的提升,并解释了使单一温度保持稳健的「钝化效应」机制。

Aviv Orly (1), Ori Shem-Ur (1), Yaron Oz (1) ((1) School of Physics 等

arXiv cs.CV

Reframe: Observation-Aligned Multi-Teacher On-Policy Distillation for Agentic Visual Reasoning

说明Reframe:面向智能体视觉推理的观测对齐多教师同策略蒸馏方法

简介本文提出Reframe后训练框架,将观测状态而非仅输出分布作为对齐对象。其中GD-GRPO通过证据感知奖励和随机移除原始视觉输入训练空间与时序专家,OG-MOPD在推演过程中用规范动作替换不足的工具动作并从修复后的观测继续蒸馏。论文称该方法在14个图像和视频基准上优于Mix-RL和原始MOPD。

Haozhi Yuan, Handong Li, Yifan Zhang 等

★★★★★ 值得关注
arXiv cs.CV · cs.RO 公开资源

World In-Context Learning for Agentic Robot Manipulation

说明用于智能体机器人操作的世界内情境学习

简介本文提出世界内情境学习(WICL)范式:冻结的模型从一次示范出发,在仿真器等世界中演练任务,并把反馈写入上下文而非权重。作者据此构建了模块化系统RoboScript,在RoboTwin 2.0的50项任务上,每项任务仅用一次示范、不做梯度更新,即取得83.4%的平均成功率,并称超过最强的已训练动作策略二十多个百分点。

看点提出在上下文中通过仿真演练学习操作任务的WICL范式,在RoboTwin 2.0的50个任务上以单次示范取得83.4%成功率,超过训练策略20分以上。

Heng Fang, Zehui Guo, Yuehan Zhang 等

arXiv cs.LG · cs.CV 公开资源

Guiding Data Allocation for Robust Subpopulation Generalization

说明指导数据分配以实现稳健的子群体泛化

简介该论文研究机器学习模型在子群体分布偏移下的泛化问题:模型在训练数据上平均准确率高,但在测试数据上表现较差。作者扩展了高斯特征模型框架,从理论上刻画了不同训练子群体比例下的性能情况。研究发现,包括明显不平衡的多种配置,其表现可以与平衡配置相当,并给出了调整子群体比例以提升调整后准确率和最差群体准确率的梯度方向。

Zhaoying Pan, Yipei Wang, Shenyu Lu 等

arXiv cs.CV 公开资源

Beyond Modality Preference: Controlling Multimodal Arbitration under Modality Conflict in MLLMs

说明超越模态偏好:在多模态大模型模态冲突下控制多模态仲裁

简介多模态大语言模型在视觉与文本信息相互矛盾时可能偏向不够可靠的模态。本文找出一小组被称为“仲裁头”的注意力头,它们会因果性地影响预测更依赖视觉还是文本证据。作者据此提出一种无需训练、轻量级的推理时干预方法,使这些注意力头偏向指定的可信模态,并在多个基准上实现双向控制。

Zhaoying Pan, Shenyu Lu, Jun Hui Wong 等

arXiv cs.LG · q-bio.NC

IC-GNN: Modeling Individualized Brain Community Organization for Disease Prediction

说明IC-GNN:为疾病预测建模个体化脑功能社区结构

简介该论文提出IC-GNN模型,基于静息态功能磁共振成像数据,在脑区图谱上构建每位受试者个体化的多尺度功能社区,并据此进行疾病预测。研究覆盖ABIDE(自闭症)、ADNI(阿尔茨海默病)和UK Biobank(抑郁症)共三万余名参与者,与15种基线方法比较,IC-GNN取得最佳表现。作者还表明,这些个体化社区在扫描内和跨时段间可重复,且本身具有预测能力。

Yang Zhang, Xiao Zhou, Jonathan Warrell 等

arXiv cs.LG

Kolmogorov-Chapman Maps: Trajectory-Free Learning for Simulating Molecular Dynamics

说明Kolmogorov-Chapman 映射:无需轨迹数据、用于模拟分子动力学的学习方法

简介该论文提出 KC-Maps(Kolmogorov-Chapman 映射),用神经网络学习随机微分方程的转移核。方法只需要已知的漂移项和扩散系数以及轨迹无关的边际样本,无需长轨迹数据。作者在多肽分子体系上进行了实验,结果显示其在 GPU 小时数上优于经典分子动力学模拟。

Majdi Hassan, Marta Skreta, Dominique Beaini 等

arXiv cs.CV

Grasping the Future: Joint 3D Hand-Object Forecasting From Internet Videos

说明预测未来:从网络视频中联合预测三维手-物体运动

简介本文提出 Grasping-the-Future,一个统一的三维手-物体联合运动生成模型,同时建模手腕运动、手指关节和物体位置与朝向。模型通过掩码时空补全与流匹配训练,可用于预测未来交互、相互推断手或物体运动、生成通向目标姿态的轨迹以及补全部分观测的交互。作者还设计了从网络视频重建三维监督数据的流程,并在带三维标注的数据集上优于已发布的预测方法。

Rustin Soraki, Matthew Wallingford, Ryan Aby 等

arXiv cs.LG · cs.IR

INTENT: Out-of-Sample, Out-of-Time, and Cold-Start Evaluation on User Event Sequences

说明INTENT:用户事件序列上的样本外、时间外与冷启动评测基准

简介该论文提出 INTENT 公开基准,用于评测下一动作预测模型在用户事件序列上的表现。基准按用户、时期和目标物品是否出现在训练集中,把评测划分为七个单元格。作者审计了 59 个公开数据集,保留了其中五个,并按统一规则在各自的截止时间处切分数据。作者称,在参考结果中,单元格决定了最优模型,且一个不含参数的重复最近物品基线在多数数据集上对新物品表现更好。

Mattias Kvist, Erik Lidman Hillbom, Edoardo de Cal 等

★★★★☆ 值得关注
arXiv cs.LG

Adaptive Quantization Preserves Fast Rates for TD Learning over Rate-Limited Channels

说明自适应量化在速率受限信道上保持TD学习的快速收敛率

简介本文研究在通信受限条件下的强化学习策略评估问题,智能体通过有限容量信道将时序差分(TD)学习更新方向的量化估计发送给服务器。作者提出批处理自适应量化TD算法(BAQ-TD),利用批处理降低传输信息的方差,并通过自适应量化编码更新量,证明了高概率有限时间误差界。结果表明,在超过一定有限信道容量后,该算法可在对数因子内保持无量化TD的收敛速率。

看点提出BAQ-TD,用批处理与自适应量化在有限容量信道上传输TD更新;给出高概率有限时间误差界,比较的是无限容量TD的收敛速率,并给出指数级通信复杂度改进。

Sreejeet Maity, Aritra Mitra

arXiv cs.CV

Click3R: Interactive Stereo 3D Reconstruction with Sparse Correspondence Clicks

说明Click3R:利用稀疏对应点点击进行交互式立体三维重建

简介论文提出Click3R框架,针对前馈式大型三维重建模型一次输出无法修正的问题,允许用户在图像对上点击少量跨视角对应点,通过轻量级点对应适配器将几何约束注入网络。作者还构建了一个专门暴露现有方法失败模式的挑战性基准。实验显示,仅一次对应点点击即可降低重建误差,并在标准与自建基准上均有提升。

Hao Gu, Jin Yao, Zezhou Cheng

arXiv cs.CL · cs.AI · cs.LG

HiVe-Mem: Interleaving Horizontal Memory Expansion and Vertical Evidence Composition for Multimodal Agents

说明HiVe-Mem:为多模态智能体交错扩展记忆与纵向证据组合

简介该论文提出多模态记忆框架HiVe-Mem,用于长期交互中的记忆检索。它一方面通过文本与视觉锚点构建关系图,扩展语义检索到的记忆并补充相关邻近信息;另一方面为每条记忆保留摘要、描述、视觉视图、原始图像和交互历史等多种证据形式,并由轻量可训练的选择器按查询挑选证据子集。实验显示,该方法在三个多模态记忆基准上提升了任务表现,同时与最高效的多模态基线相比,token消耗约减少90%。

Haozhen Zhang, Bohan Liu, Jianzhu Bao 等

arXiv cs.LG

Vendi Anomaly Scores for Efficient and Accurate Anomaly Detection

说明基于多样性的异常检测新方法:Vendi 异常分数(VAS)

简介本文提出一种名为 Vendi 异常分数(VAS)的异常检测方法,通过衡量移除某个样本后数据集多样性(以 Vendi 分数计)的变化来判断其是否异常。该方法不依赖密度估计或划分启发式,无需调参,并可随数据谱结构自动调整,且随数据规模线性扩展。作者在 148 个由 10 个源数据集和 4 种嵌入架构生成的基准嵌入数据集上取得了当前最优的异常检测性能,并在大规模 ImageNet 实验中验证了其在污染率和数据规模增加时的稳健性。

Amey Pasarkar, Adji Bousso Dieng

arXiv cs.CV · cs.RO

SWAM: Scaling World Action Models with Cross-Modal Alignment

说明SWAM:通过跨模态对齐扩展世界动作模型

简介世界动作模型以语言为条件,同时预测视频和动作。本文研究在动作学习过程中如何保持语言与视频的对齐,整理了约 47,000 小时的通用视频、第一人称视频、UMI 示范和机器人示范数据,系统比较了不同监督方式和训练配方。在 RoboTwin 仅用 Clean 示范后训练的情况下,模型在 Easy 与 Hard 条件下分别取得 88.10% 和 61.56% 的成功率,并在三项真实任务中取得 40.00% 的成功率,高于最强基线的 23.33%。作者公开了数据、训练代码和模型权重。

Yu Zhou, Xinyuan Xia, Xuankun Yang 等

arXiv cs.LG 公开资源

Where Does Alignment Emerge and What Does It Mean? A Closer Look at the Platonic Representation Hypothesis

说明对齐从何时出现及其含义:对柏拉图表示假说的细致考察

简介柏拉图表示假说认为不同神经网络的表示空间正在趋同。本文考察了单模态模型在不同层与表示维度上对齐的出现位置,发现只要图像描述足够干净且信息充分,随模型能力提升而对齐增强的趋势对较新的模型依然成立。论文还引入单模态与多模态基线来衡量跨模态对齐,结果显示单模态模型的跨模态对齐可超过显式对齐的视觉语言模型,但仍明显低于同模态模型之间的对齐程度。

Julia Herbst, Simon Roschmann, Quentin Bouniot 等

★★★★☆ 值得关注
arXiv cs.CL · cs.LG

Is Persona Generalization Predictable?

说明人设泛化是否可预测?这是一篇研究语言模型在某一领域微调后,行为如何迁移到其他领域的论文。

简介论文研究在一个领域微调语言模型后,行为在其他领域发生变化的现象,例如涌现式失准中观察到的广泛不安全行为。作者发现,领域内与领域外的人设比例在不同微调超参数下,大致呈概率单位(probit)线性关系,且该关系在Qwen和Llama等不同模型家族与规模间近似一致。改变可训练层会影响斜率:对不安全行为而言,只微调较靠后的层时斜率更平缓。

看点发现跨超参数与跨模型族的概率线性关系,并通过改变微调层控制斜率,统一了涌现错位现象的分析框架。

Olina Mukherjee, Arnav Goel, Aditi Raghunathan 等

arXiv cs.CL · cs.SE

WorkflowArena: Benchmarking Executable Workflow Orchestration in LLM-Based Multi-Agent Systems

说明WorkflowArena:基于大语言模型的多智能体系统中可执行工作流编排的基准测试

简介该论文提出 WorkflowArena 基准,用于评估大语言模型智能体自行编排工作流、分派子智能体的能力,包含跨 8 个专业领域的 145 项长周期任务。评估时由隐藏的验证器评判交付成果,并记录所有任务分派过程,以同时衡量交付质量和工作组织方式。实验显示,不同系统的分派策略各异,且在固定执行模型时,由较强模型编写的工作流能明显提升较弱执行者的表现。

Zheng Jiang, Fang Niu, Bo Peng 等

arXiv cs.CV · q-bio.QM

AI-based characterization of lymphoid structures and the tumor microenvironment reveals lower mature tertiary lymphoid structures, lymph-node follicles, and plasma cells after neoadjuvant therapy in lung squamous cell carcinoma

说明基于AI的淋巴样结构与肿瘤微环境分析:新辅助治疗后肺鳞癌中成熟三级淋巴结构、淋巴结滤泡及浆细胞减少

简介该研究用AI分析了肺鳞癌患者手术切除肿瘤及配对淋巴结的H&E全切片图像,比较接受新辅助治疗与未治疗患者(各20例)的免疫细胞分布及成熟淋巴结构。结果显示,新辅助治疗组肿瘤间质浆细胞和淋巴细胞密度较低,成熟三级淋巴结构及远端淋巴结中成熟淋巴结滤泡也较少。在458例独立队列中,间质浆细胞密度和淋巴细胞-浆细胞共定位与更长生存相关,该指标可能是候选预后生物标志物。

Arne Schmidt, Justin Nieder, Cornelius Boehm 等

arXiv cs.CV · cs.LG

What kills v-prediction? A Patch-wise PCA Perspective on Pixel-Space Flow Matching

说明是什么导致了 v 预测失效?基于分块 PCA 的像素空间流匹配分析

简介该论文研究像素空间流匹配中标准 v 预测目标训练困难的原因,通过分块主成分分析发现次要成分的速度主要由原始噪声输入决定,形成带宽瓶颈。作者分析了 x 预测仍然有效的原因,并提出 Raw-injected Transformer(RiT),借助原始输入条件化解码器与输出捷径来恢复 v 预测的有效性,在 ImageNet 256×256 上取得有竞争力的结果。

Tianze Luo, Haofeng Huang, Yuan Yao

arXiv cs.LG 公开资源

Mitigating Agentic Deception via Evaluation-Side Partially Observable Games

说明通过评估侧部分可观测博弈缓解智能体欺骗

简介本文指出,大语言模型智能体可能在表面有益的同时欺骗人类以获取更高奖励,原因在于评估通常只看最终结果,无法观察推理与工具使用过程。作者将欺骗缓解建模为评估侧部分可观测扩展式博弈(e-PoG),提出子博弈完美监督均衡(SPOE)并证明其在有限博弈中存在。实验在 Gemma3-4B-IT 和 Qwen3 系列模型上进行,在多个任务中优于最强基线。

Hanxiao Li, Shutong Liu, Yongjia Ma 等

arXiv cs.HC · cs.AI

Programming Prescience: Issues in Human Construction of Forecasting Bots

说明《编程预见:人类构建预测机器人的问题》:研究人员如何搭建与评估AI预测机器人

简介本文通过对15名预测机器人搭建者的定性访谈展开研究,这些人来自近期一场AI预测竞赛中的成功参与者。研究发现,搭建者在三方面面临挑战:让机器人获取事实研究、实现连贯推理,以及判断机器人实际表现如何。作者还指出,搭建者常引入收益不大的复杂设计,测试方式也较为随意零散。

Priya Dhawka, Benjamin Wilson, Andrew Head

arXiv cs.LG

What the Loss Curve Misses: FP4 Pretraining Slows the Acquisition of Rare Facts

说明损失曲线没有反映的:FP4 预训练会减慢稀有事实的学习

简介这篇论文研究低精度预训练是否会影响模型学习稀有事实的效率。作者用模拟的 4 位矩阵乘法从零训练 Transformer,在合成传记数据上控制事实出现次数,并与 BF16 对比。结果显示,NVFP4 在验证损失仅相差约 0.5% 至 2% 时,仍需要更多的曝光次数才能达到相同的召回率;作者建议在评估低精度方案时,除损失外也应衡量稀有事实的学习情况。

Chang Lu, Mengjiao Zhang

arXiv cs.AI · cs.LG

MaxIM: Maximally Informative Incremental Summarization via Reinforcement Learning

说明MaxIM:通过强化学习实现信息量最大化的增量摘要

简介论文提出 MaxIM 框架,用于让 AI 系统在有限记忆容量下对不断增长的交互历史进行增量摘要。方法把摘要建模为受容量约束、以信息论为基础的奖励塑形问题,通过最大化对未来任务相关目标的预测对数似然,并利用非对称评论家计算逐步的变分互信息界来提供密集奖励。作者称在长程科学阅读和多轮对话基准上,该方法在事实依据、自动评测指标和下游任务效用方面优于强化学习、监督微调和提示基线。

Jihwan Jeong, Guy Tennenholtz, Yinlam Chow 等

arXiv cs.CL

How Well Does AI Peer Review Work? A Benchmark Built from 100 Planted Errors

说明AI同行评审效果如何?基于100个植入错误构建的基准测试

简介研究者在10篇开放获取的心理学论文中植入了100个已知错误,再交由前沿模型和两款商业AI审稿工具审阅。表现最好的单一系统发现了71个错误,最差的只发现30个,汇总所有系统的输出可发现93个。研究认为,组合多个系统是提高论文问题检出率的重要手段;有7个错误所有系统都未能发现,且均为删除信息的遗漏类错误。论文及实验数据已公开。

Paul Litvak

arXiv cs.DB · cs.AI

LUCQUE: A lung cancer screening dataset from Québec for reliable AI evaluation

说明LUCQUE:魁北克肺癌筛查数据集,用于可靠的人工智能评估

简介本文介绍了LUCQUE,一个源自魁北克低剂量CT肺癌筛查的大型数据集,包含1,678名参与者的基线扫描,并附有专家标注的肺结节与囊肿分割。数据通过PARADIM平台托管,采用模型到数据的方式访问,数据不离开本地。作者称其为目前规模最大、可公开获取的真实世界标注肺癌筛查数据集,旨在支持可复现、可独立评估的人工智能工具研究。

Johanna Topalis, Yannick Lemar\'echal, Gabriel Couture 等

arXiv cs.AI

Automated Knowledge Acquisition Pipeline for Disassembly Instructions: A Comparison of NLP and Generative AI Frameworks

说明拆解指令自动化知识获取流程:NLP与生成式AI框架对比

简介本文针对中小企业因产品复杂度提高而难以采用拆解自动化的问题,提出并比较两种从非结构化资料(如拆解手册)中提取拆解指令的框架。研究将自然语言文本转为结构化、可由机器读取的格式,分别测试了基于规则的自然语言处理框架与基于大语言模型的生成式AI框架,并用真实拆解手册比较两者表现。该工作为未来拆解流程的开发与自动化提供数据基础。

Tim Schnieders, Tareq Maximilian Gabriel Ahrari, Oliver Petrovic 等

arXiv cs.LG

Inversion-Free High-Dimensional Counterfactual Inference

说明免反演的高维反事实推断:无需先反推潜在状态即可对图像进行反事实推断的方法研究

简介本文研究高维变量(如图像)下的反事实推断,即在给定观测数据、建模假设和因果图时回答“如果……会怎样”的问题。作者考察了传统方法中先从事实图像反演出潜在状态的步骤是否必要,并评估了一种借用图像编辑领域的免反演方法。作者在CelebA和ADNI图像数据集上,从有效性和身份保持两个指标进行了基准测试,并讨论了两类方法的权衡。

Saketh Vishnubhatla, Pingchuan Ma, Shu Wan 等

arXiv cs.CY · cs.CL · cs.HC

Curbside Chatbots: Auditing the Mental Health Interventions Large Language Models Recommend to Clinicians, Caregivers, and Patients

说明路边聊天机器人:审计大语言模型向临床医生、照护者和患者推荐的心理健康干预措施

简介该研究检视41个大语言模型在相同临床信息分别来自临床医生、照护者或患者本人时,会向用户推荐哪些心理健康干预措施。研究基于19个案例情境和5个问题收集了35,055条自由文本回答,并由29个模型对同一案例的完整选项列表进行七点量表评分。结果显示,模型推荐的内容大体与其自身评分较高的选项一致,且推荐方式随提问者身份而不同:多数模型对临床医生给出会诊式回应,对普通用户则给出含糊、简化的建议。

Matthew Flathers, Jill Noorily, Phuong Anh Nguyen 等

arXiv cs.CV · cs.AI

2D Gum-Net: Unsupervised Dense Elastic Image Registration via Symmetric Correlation and Spectral Pooling

说明2D Gum-Net:基于对称相关与谱池化的无监督稠密弹性图像配准

简介该论文提出 2D Gum-Net,一种端到端、完全无监督的网络,用于预测稠密的弹性形变场,使一幅图像与另一幅图像在几何上对齐。它将原本用于三维冷冻电子断层成像子断层图对齐的网络改造为二维版本,并以基于 DCT 的谱池化保留细微结构。模型仅在合成指纹上训练,零样本应用于真实基准数据集,在 FVC2004 上结构相关性最多提升 15.7%,并提高了真实匹配的分数。

Aarya Bhave, Anushka Ajay Bhave

arXiv cs.LG · cs.AI

Agentic-OPD: Recovering Forgotten Agent Capabilities via On-Policy Distillation for Agentic Tasks

说明Agentic-OPD:通过同策略蒸馏找回智能体训练中被遗忘的能力

简介论文指出,强化学习训练智能体时通常只保留验证集上表现最好的检查点,其余丢弃,而早期检查点能解决最优检查点失败的问题。作者提出Agentic-OPD方法,把所有保存的检查点作为教师候选,依据学生模型未解决的问题选择教师(HCN策略),并仅在教师更优的失败样本上进行蒸馏(LAD模块)。在五个智能体任务领域、24个基准上取得最多7.4分的提升。

Tingcheng Bian, Kangye Gong, Jinchang Luo 等

arXiv cs.CV

Complementarity-Driven Dual-Teacher Hierarchical Alignment for Zero-Shot EEG-to-Image Retrieval

说明基于互补双教师分层对齐的零样本脑电到图像检索

简介该论文提出双教师分层对齐框架DTHA,用于从脑电信号中解码视觉信息。框架以冻结的多模糊CLIP和浅层DINOv2作为两个教师,通过双分支对比学习监督共享的脑电编码器,并用可学习权重融合两者的视觉表征,同时引入注意力调制的头皮模式库编码器AMSPBE。在THINGS-EEG零样本检索任务上,DTHA达到92.4%的Top-1准确率,比此前最优方法高12.4个百分点。

Lukun Wu, Jie Li, Ziqi Ren 等

arXiv cs.LG

Smartphone-Enabled Depth-Aware Transillumination Imaging for Detection of Chicken Breast Fillet Myopathies in Chicken Fillets

说明基于智能手机深度感知透射成像检测鸡胸肉肌病

简介本研究开发了一套基于智能手机的透射成像与三维点云框架,用于无损分级鸡胸肉的“木质胸”(Woody Breast)肌病严重程度。研究共评估267块鸡胸肉,结合图像与几何特征(含一个基于Beer-Lambert定律的物理特征),并用多模态集成模型进行分类。结果显示多模态模型测试准确率约为90%,高于仅用二维特征的约82%。

Chaitanya Pallerla, Ramesh Bahadur Bist, Yihong Feng 等

arXiv cs.CL

Large Language Models as a Universal Searcher for Open-World Automated Machine Learning

说明大语言模型作为开放世界自动化机器学习的通用搜索器

简介本文提出一种基于大语言模型的通用自动化机器学习框架,首次无需针对任务微调,即可同时优化模型结构、训练超参数和数据配比。作者设计了统一数值编码方案NCode,把优化过程转化为统一的排序任务。该搜索器仅用单一视觉任务的优化轨迹训练,便能在图像分类、图像分割、说话人验证和文生图等基准上取得领先表现,并在十亿参数扩散Transformer的大规模联合优化中,以896 GPU天获得GenEval 0.91的成绩。

Yuxuan Hu, Jihao Liu, Weikang Shi 等

arXiv cs.LG · cs.CV 公开资源

Anchor Behavior, Not Parameters: Rehearsal-Free Continual Learning with a Single Shared Prompt

说明锚定行为而非参数:基于单一共享提示的免回放持续学习

简介该论文提出TEA-Prompt方法,用一个共享提示令牌对冻结的视觉Transformer进行持续学习,无需保存旧图像。方法包括按输入计算令牌相关性分数的评估模块,以及约束注意力输出的锚定损失,使旧类别的知识得以保留。在CIFAR-100、ImageNet-R和CUB-200上取得了领先的准确率并降低了遗忘,仅使用0.38M参数。

Duy-Cuong Bui, Trung-Anh Dang, Vincent Nguyen 等

arXiv cs.AI · cs.GT

Elicitation of the parameters of a multi-criteria sorting model

说明多准则排序模型参数的提取方法研究

简介本文针对非补偿排序模型(NCS)的参数,提出一套直接提取(询问决策者)的严格流程。模型参数包括充分联盟集合和区分两类的边界剖面。作者设计了基于深度优先搜索的提问算法、基于二分法的边界剖面提问算法,并通过仿真进行评估。

Eda Ersek Uyanik

arXiv cs.AI

LogCDM: Interpretable Log Anomaly Detection via Behavioral Graph Drift and Adaptive Signal Fusion

说明LogCDM:基于行为图漂移与自适应信号融合的可解释日志异常检测

简介本文提出LogCDM,一种紧凑的日志异常检测模型,通过三类互补信号为每个日志会话打分:小型因果Transformer的下一事件惊讶度、会话自身转移图与正常参考图的图注意力嵌入距离,以及一种被证明等价于转移核之间频率加权卡方散度的转移漂移统计量。模型在推理时无需GPU,参数量为810万至880万,在HDFS、BGL和Thunderbird数据集上的F1分数分别为0.984、0.870和0.850,每个会话在CPU上的打分时间为5.5至10.5毫秒。

Suryansh Talukdar, Taha Sarwat, and Jin Soung Yoo

★★★★☆ 值得关注
arXiv cs.FL · cs.CL · cs.DS

The Left Ripple of Byte-Pair Encoding: Certified Lookbehind for Every Dictionary

说明字节对编码的左向涟漪:为任意词表提供可验证的左侧回看界

简介该论文延续 Berglund 与 van der Merwe 对字节对编码的形式化分析,研究在字符串左侧添加前缀时分词会受到多大影响。作者给出了对所有词表都适用的判定方法:原点半径可由自动机两次运行的乘积在多项式时间内判定,并刻画了何时为无穷大。论文还提出流式分词器,能够在每个符号之后输出不会被后续内容改变的词元,并给出了 GPT-2、cl100k、o200k 与 Llama 3 等分词器的相关结果。

看点解决了BPE左侧扰动半径的开放问题,给出对所有词典的判定与多项式算法,并计算GPT-2等实际词表的无限半径。

Nicklas Nidh\"ogg

★★★★☆ 值得关注
arXiv math.OC · cs.DS · cs.LG

Learning Rate Decay Can Exponentially Accelerate SGD for Global Optimization of Nonconvex Functions

说明学习率衰减可指数级加速非凸函数全局优化的SGD

简介本文研究随机梯度下降(SGD)中学习率衰减是否能在非凸函数全局优化中带来渐近优势。作者给出一类自然的非凸函数,证明在小步长情形下,带学习率衰减的SGD所需梯度查询次数比任何固定学习率的SGD指数级更少。该类函数包含许多常用的非凸基准函数。作者还表明,退火过程可在多项式时间内完成与该优化问题相关的非对数凹采样任务,所用方法是弱Poincaré不等式的新应用。

看点首次证明学习率衰减对非凸全局优化可带来指数级加速,并借助弱Poincaré不等式分析退火采样,给出理论解释。

Guneykan Ozgul, Dylan Herman, Junhyung Lyle Kim 等

arXiv cs.CL · cs.AI 公开资源

PORT: Preference Optimization via Robust Token-Level Reweighting

说明PORT:基于稳健词元级重加权的偏好优化方法

简介该论文提出 PORT,一种在噪声偏好标注下进行稳健对齐的细粒度方法。它依据词元对数概率的经验累积分布函数进行词元级重加权,只在前向计算中抑制受损词元,从而近似梯度范数惩罚。理论分析表明,PORT 通过最小化偏差项的上界,降低噪声偏好标签带来的梯度偏差;实验显示其在多种噪声设置下比序列级基线更稳健。

Ding Zhu, Xiukun Wei, Tian Xie 等

arXiv cs.AI

Sage-Taiyi: A Metacognitive Architecture for Scientific Discovery

说明Sage-Taiyi:面向科学发现的元认知架构

简介该论文提出 Sage-Taiyi 系统,借助已积累的科学认知来决定接下来研究什么以及如何研究,并通过监控与调控修订对证据、假设和未解问题的理解。在包含 50 篇论文、十个学科共 265 项任务的 Taiyi-Bench 基准上,其八项指标均排名第一,总分为 54.0,高于最强基线 AI Scientist-v2 的 47.9。论文还报告了与专家合作的化学和材料等领域的实验验证结果。

Weida Wang, Benteng Chen, Yigeng Jiang 等

arXiv stat.ML · cs.LG · stat.CO

From Granger causality to causal structure in dynamical systems

说明从格兰杰因果到动力系统中的因果结构

简介格兰杰因果检验判断一个信号的过去是否能提高对另一信号的预测,是推断系统各组成部分之间有向相互作用的常用工具。本文先回顾观测空间中格兰杰分析的近期进展,再转向潜变量动力模型中的有向结构,并探讨在什么条件下这种结构可以被解读为因果关系。

V\'ictor Elvira

arXiv cs.CL · cs.AI · cs.HC

The Narrative Gap: Can LLMs Help Us Navigate Diverse Narratives Across Languages?

说明叙事鸿沟:大语言模型能否帮助我们跨语言浏览多元叙事?

简介本文关注大语言模型在跨语言、跨地区的争议性话题上如何呈现不同叙事。作者定义了六项多语言多元信息检索所需的能力,并提出包含1333篇新闻文章(23种语言)和460个查询的基准NarrativeBench。对14个大语言模型的评测显示,当前模型在可靠地呈现多元叙事方面能力不足。

Nikhil Sharma, Kelly Marchisio, Kenton Murray 等

arXiv cs.LG · math.OC · stat.ML

Clique Constraints for Exact Causal Structure Learning

说明用于精确因果结构学习的团约束

简介本文在精确的基于评分的因果结构学习中,对学到的无向骨架的最大团大小加上上界,并通过惰性的环与团约束在整数候选解上施加。在线性高斯的随机图与无标度有向无环图上进行实验,比较了回调顺序、不同的团割策略、候选解修复、分数分离以及 Big-M 界。结果表明,团约束并不能一致地加速优化,其效果取决于图的密度、样本量和割管理策略。

Xiaoyu He, Pavel Ryt\'i\v{r}, Petr Ry\v{s}av\'y 等

arXiv cs.CL · cs.AI

A Multi-Word Tokenizer for 204 Languages That Needs Fewer Tokens Than GPT-4o's, Including on English

说明面向204种语言的多词分词器:所需词元数少于GPT-4o,英语也不例外

简介该论文训练了一种名为Havon的字节级BPE分词器,覆盖约200种语言的人工撰写文本。在FLORES-200测试集上,它在印度25种语言中所需词元数普遍少于GPT-4o的o200k_base,英语则多约7%;加入多词训练阶段的v4版本在相同词表规模下,英语比GPT-4o少6.1%。作者同时指出,这些结果仅为压缩率结论,尚未评估用v4或v5训练的模型。

Johin Johny, Ankur Ghosh, Shervin Sam

arXiv cs.CL · cs.AI 公开资源

The Indic Token Tax in 2026: Measuring Tokenizer. Disparity and Its Cost for the Languages of India

说明2026年印度语言的分词税:测量分词器差异及其成本

简介该论文测量了九种公开分词器在印度25种语言上的token消耗差异,数据来自FLORES-200和PHINC。结果显示,同样内容在部分印度语言中所需token远多于英语,例如在GPT-4o分词器上,奥里亚语约为英语的5.01倍,桑塔利语(Ol Chiki文字)达13.7倍。Sarvam-30B/105B是唯一在所有语言上都低于2.6倍的第三方分词器。

Johin Johny Arimbur, Ankur Ashit Ghosh, Shervin Sam

arXiv cs.CV

Plant Orbiter: 3D Plant Reconstruction and Generation with Video Diffusion Orbit Cameras and 3D Gaussian Splatting

说明Plant Orbiter:利用视频扩散轨道相机与三维高斯泼溅重建和生成三维植物

简介本文提出Plant Orbiter方法,借助视频扩散模型从单张图像生成高质量的植物三维高斯泼溅(3D Gaussian Splatting)模型。作者称该方法在三维F分数上优于所有对比基线,且相机布置更简便、成本更低,更适合高通量表型分析流程。结合二维扩散模型,该方法还可根据文本提示生成三维植物模型,并取得领先结果。

Zane K. J. Hartley, Yong En Kok, Lewis A. G. Stuart 等

arXiv cs.SE · cs.LG · cs.PF

Inference Validation for Regulated AI: Building a Decision Pipeline on NVIDIA AIPerf

说明面向受监管 AI 的推理验证:基于 NVIDIA AIPerf 构建决策流程

简介论文介绍了 MasterControl 内部的验证工具 Runway,它以 NVIDIA AIPerf 为测量基础,在其前后分别加入实验设计,以及合规、成本和审计决策。论文报告了 Runway 扫描中的三项发现:TensorRT-LLM 与 vLLM 的排名会随并发数反转;较新且更贵的 GPU 实例按每次请求计可能更便宜;推测解码在负载下的表现因引擎而异,因此引擎配置可能比引擎选择更影响结果。

Dev Akre, Roman Bobalo, Manoj Dobbali

arXiv cs.LG · cs.AI · cs.RO

Σ-LeWM: Learning World Models via S-Information for Robot Control

说明Σ-LeWM:基于S信息学习机器人控制世界模型

简介本文提出在LeWorldModel基础上增加反向动力学预测器和逆动力学动作预测器两个潜在损失,使潜在表示获得更多结构。作者认为这能提升性能与规划效率,有助于该方法用于真实机器人的实时模型控制。结果在标准世界模型基准和两个仿真机器人操作任务上得到展示。

Xinrui Zu, Michael Przystupa, Zhao Yang 等

arXiv cs.LG

KiteNorm: Variance Regularisation for Stable and Scalable Post-LN Transformers

说明KiteNorm:用方差正则化稳定并扩展 Post-LN Transformer

简介本文提出 KiteNorm,一种后归一化(Post-LN)Transformer 的训练方法,通过约束隐藏状态的方差来提高训练稳定性。作者在仅解码器的 Transformer 上进行实验,参数规模最高达 13 亿,结果显示 KiteNorm 在各自最优学习率下优于主流基线,并在深度、宽度、批量大小和训练预算方面表现出更有利的缩放规律。消融实验表明各组成部分对稳定性和性能提升都不可或缺。

Leon A. Trochelmann, Sajad Movahedi, Shiwei Liu 等

arXiv cs.LG · cs.AI · cs.CL

Safe Reinforcement Learning for Multi-Turn Clinical Agents: When Dense Rewards Beat Outcome Rewards

说明面向多轮临床智能体的安全强化学习:何时稠密奖励优于结果奖励

简介本文研究在临床多轮决策智能体中使用可验证奖励的强化学习,考察模型应询问哪些信息、何时停止收集证据以及采取何种行动。作者构建了药物续方分诊、急性诊断检查和剂量滴定三个受控环境。结果显示,仅依据最终结果的强化学习虽能提高总体奖励,却会出现过早下结论、只问一个问题及罕见高风险病例失败等问题;为减少不确定性的提问给予稠密奖励,效果更好。作者认为,仅凭可验证的最终结果不足以训练可靠的多轮智能体。

Brendan P. Murphy, Agustina Saenz

arXiv cs.CV · cs.LG

OptiCover: A Scalable and Multi-Surface Framework for Cold-Start Visual Optimization under Semantic Constraints

说明OptiCover:在语义约束下对冷启动照片进行多界面视觉优化的可扩展框架

简介爱彼迎(Airbnb)房源需要从大量照片中选出一张固定的封面图,但超过90%的照片缺少互动数据,形成冷启动难题。本文提出OptiCover框架,结合候选照片生成、基于冻结CLIP嵌入的轻量视觉模型、基于视觉语言模型的跨模态语义校验,以及收集随机互动数据的探索日志模块。该框架已部署上线,并在首页和搜索界面的在线实验中分别带来1.5%的互动提升和0.35%的预订者增长。

Guillaume Guy, Mihajlo Grbovic, Joe Mills 等

arXiv cs.LG · cs.IR

Scaling Taxonomy-Free Image Labeling with Generative AI: A Multimodal

说明基于生成式AI的无分类体系图像标注:多模态方法(GLOC)

简介论文提出生成式标注方法GLOC,用于为图像提供低延迟、高准确率且可扩展的在线洞察服务。该方法先利用优化后的图像嵌入将语义相近的图像聚类,再在聚类层面总结洞察并推广到簇内成员。作者称,在Pinterest的混合搜索中,GLOC用于生成图像描述词和关联查询建议,离线与在线A/B测试显示其质量与效率均优于以往方法。

Zhenjie Zhang, Sainan Chen, Kshiteesh Hegde 等

arXiv cs.CV · cs.GR

Spaghetti Splatting: Differentiating Curvilinear Dirac Masses via Convolution

说明Spaghetti Splatting:通过卷积对曲线狄拉克质量求导

简介该论文研究如何在体渲染中学习曲线类三维几何基元。作者把曲线近似为折线,对每段做体渲染并让相连线段在连接处不重复计数,同时对相机投影做线性化以加快训练和推理。论文称该方法是三维高斯溅射的严格超集,在一般场景上与最先进方法相当,在线状几何上优于专门方法,并原生支持抗锯齿。

George Shramko, Shrisudhan Govindarajan, Rudy Lam 等

★★★★☆ 值得关注
arXiv stat.ML · cs.LG

Hidden Tails: Certifying Tail-Risk Claims under Selective Labels

说明隐藏尾部:在选择性标签下验证尾部风险结论

简介论文研究在历史决策导致部分结果不可观测的情况下,如何为预测模型的尾部风险给出可验证的范围。作者推导了二元结果和有界损失下条件风险价值的尖锐上下界,并依据观测与隐藏样本之间结果概率差异的上限设定假设。在贷款还款的受控遮蔽实验中,恢复约16%的隐藏标签可消除中位数61%的估计歧义,而随机恢复仅消除16%。

看点在选择性标签下给出条件风险价值的尖锐界,并提出按单位成本减少歧义的审计分配方法,在受控贷款还款掩蔽实验中验证。

El Mustapha Mansouri

arXiv cs.CL · cs.CY · cs.SE

A local language model layered with rule-based and neural detectors for clinical text de-identification: an open-source toolkit and evaluation

说明本地大语言模型结合规则与神经检测器的临床文本去标识化开源工具包及评估

简介本文介绍了开源工具 DeidSharp,它将规则检测、临床命名实体识别模型和本地部署的 260 亿参数混合专家大语言模型的检测结果结合起来,用于查找临床文本中的受保护健康信息。作者在护理记录和半合成出院小结上,与多个现有去标识化工具进行了比较。结果显示,该组合在召回率和精确率两种设定下表现不同,同时文本无需发送至外部。

Valentin Burkin

arXiv cs.MA · cs.AI · cs.IR

Multi-Agent Screening: What Agreement and Acceptance Cannot Tell You

说明多智能体筛选:一致性与采纳各能说明什么

简介当多个AI智能体替人工评审员先筛选条目时,只有被放行的条目会被评审。本文分析各类证据能确定的错误情况:智能体之间的一致只说明它们意见相同,不说明判断正确;评审员采纳给出准确率,但只能给出召回率的下界。要确定召回率,只能抽查未被放行的条目,抽样数量不随智能体数量增加而增长。

Benjamin Chang, Dell Zhang

arXiv cs.LG · stat.ML

Fisher-Glass Learning: Classification Bounds and Subpopulation Audits

说明Fisher-Glass 学习:分类界限与子群体审计

简介该论文扩展了 Fisher-Glass 框架,把剔除背景等干扰因素后的信息量与局部分类难度、子群体审计联系起来,推导了局部极小极大超额分类风险的下界。作者在 Waterbirds 数据集上做实验:背景类型不变时准确率为 93.2%,背景改变时降至 40.6%,并用任务标签与固定干扰方向找到一个准确率达 98.8% 的子群体。研究表明,信息增益与预测性能提升可能不一致,因此应结合评估预测性能、干扰模型下的信息量与敏感性分析。

El Mustapha Mansouri

★★★★☆ 值得关注
arXiv cs.CV · cs.AI

GeoScope: Training-Free Program Execution beyond the Counting Horizon for Ultra-High-Resolution Remote Sensing Question Answering

说明GeoScope:超高分辨率遥感问答中超越计数上限的免训练程序执行方法

简介论文指出,超高分辨率遥感图像中的小目标让视觉语言模型在计数上出错,且视图中目标数超过约五个后准确率明显下降。作者提出GeoScope:由纯文本语言模型把问题解析为空间程序,视觉语言模型只在其可靠范围内定位与计数,方向关系则依据定位框显式计算。该方法无需训练,在XLRS-Bench等基准上显著提升Qwen3-VL-8B的计数与空间关系准确率。

看点提出基于测量VLM计数上限的训练免费程序化分块方法,在多个UHR遥感基准上取得显著提升,并给出经验幂律模型。

Guohui Deng, Yuhang Jiang, Chengjun Wang 等

★★★★☆ 值得关注
arXiv cs.LG · stat.ML

Generalized Adaptive Boosting and the Geometry of Mistakes

说明广义自适应提升与错误的几何结构

简介本文将经典提升(boosting)理论推广到区分假阳性与假阴性的情形,引入“Z-学习器”,可同时保证假阳性率与假阴性率落在某个集合 Z 内。文中给出了哪些集合 Z 可被提升的完整几何刻画,并提出无需预先知道 Z 的自适应算法,还证明了该学习器可以实现置信度放大,其分析依赖离散与计算几何中的中心点定理。

看点将弱学习推广为由集合Z定义的FP/FN联合保证,给出可提升集合的完整几何刻画,统一了经典二分与多目标扩展。

Marco Bressan, Nataly Brukhim, Nicol\`o Cesa-Bianchi 等

arXiv cs.LG

TACTUS: A Robotic Palpation System for Spatially Heterogeneous Hardness Mapping of Woody Breast Myopathy

说明TACTUS:用于胸肉木质化肌病空间硬度分布测绘的机器人触诊系统

简介本文提出TACTUS,一种自动化触觉阵列系统,可在约30秒内在胸肉20个解剖位置生成厚度归一化的三维硬度图。研究用100份肉鸡胸肉片评估了该系统,覆盖正常、轻度、中度、重度四个木质化严重程度等级。结果显示,各等级间存在显著的力差异,并与质构仪测量呈中等程度的显著相关。

Chaitanya Pallerla, Yihong Feng, Avisekh Tripathy 等

arXiv cs.LG

Agnostic Marginal-Nonuniform Learning

说明无偏边缘非均匀的不可知学习:研究二分类问题在不可知设定下的学习速率,区分标准与放松两种比较标准下的最优速率。

简介本文研究不可知设定下的边缘非均匀二分类学习,即学习率常数可依赖无标签数据的边缘分布,但保证需对所有标签条件分布一致成立。在标准不可知设定中,最优速率为1/√n,且边缘分布不带来帮助;在放松设定中,最优速率分为指数、线性与任意慢三类,并给出以无中心VC-eluder维数为基础的细粒度速率。

Tanmay Devale, Steve Hanneke, Amirreza Shaeiri

arXiv cs.CL 公开资源

A Lattice-Based HMM Approach to Aruz Scansion of Ottoman Poetry

说明基于格图隐马尔可夫模型的奥斯曼诗歌阿鲁兹格律标注

简介奥斯曼迪万诗歌采用以音节长短为依据的阿鲁兹格律,而现代土耳其文拼写会丢失阿拉伯字母中决定格律的特殊符号。本文提出自动识别诗歌格律并对齐音节与格律位置的方法,使用隐马尔可夫模型在所有候选路径的格图上解码,并通过期望最大化训练,无需格律标注。在保留测试集上,完全正确标注的诗行比例为77.6%,高于基于规则的标注工具(26.8%)、神经网络标注器(55.0%)和Claude Opus 5.5的少样本结果(63.6%)。

Mehmet Emre Tiryaki

★★★★☆ 值得关注
arXiv stat.ME · cs.LG · econ.EM

Average versus expected causal effects under interference: Modeling assumptions and estimation bottlenecks

说明干扰条件下的平均因果效应与期望因果效应:建模假设与估计瓶颈

简介本文研究个体之间存在相互干扰(一人的处理可能影响他人结果)时的因果推断问题。作者将建模假设分为干扰邻域、暴露映射和结果模型三层,并把潜在结果分解为直接效应、溢出效应和处理-溢出交互项。文中区分了固定条件下对比的平均因果效应与在指定分配策略下对比的期望因果效应,并给出Horvitz-Thompson估计量的方差界。作者还提出了基于图结构的独立集设计,其方差界在最大度数上为多项式级。

看点提出分层有限总体模型并区分ACE与ECE两类估计量,给出方差界及指数与多项式增长的对比,在干扰因果推断中有新意。

Vishesh Karwa, Edoardo M. Airoldi, Donald B. Rubin

arXiv cs.LG · physics.plasm-ph

CoilStellaration: A Dataset and Benchmark for Engineering-Aware Stellarator Coilset Generation

说明CoilStellaration:面向工程的仿星器线圈生成数据集与基准

简介仿星器是一种利用外部产生的三维磁场约束高温等离子体的聚变装置,其线圈设计是一个高度非线性的逆问题。该论文提出了CoilStellaration数据集和基准,包含17.7万组优化后的线圈组,用于学习从目标等离子体磁场与工程要求到线圈几何形状的映射。论文指出磁场精度仍是主要难点,并表明用学习得到的预测结果初始化传统线圈优化可以加快早期进展。

Jan-Hendrik Ewers, Santiago A. Cadena, Nicol\`o Foppiani 等

arXiv cs.HC · cs.AI

reComposer: Editable Planning for Controllable Image Generation

说明reComposer:面向可控图像生成的可编辑规划界面

简介该论文提出 reComposer,一种以过程为导向的图像生成界面。它把用户不断变化的意图拆解为主体、构图、色调等创作决策,并允许用户对这份规划进行对话式或直接操作式的编辑。研究邀请 8 名设计及非设计专业人士进行评估,结果显示,与提示词方式相比,参与者在制作视觉素材、探索备选方案和调整细节时感到更有控制感和归属感。

Susie S.Y. Li, Angie Boggust, Fred Hohman 等

arXiv cs.CV · eess.IV · physics.med-ph

Differentiable Inverse Rendering Recovers Intrinsic Properties from Intravascular Optical Coherence Tomography

说明可微分逆渲染从血管内光学相干断层图像中恢复组织固有属性

简介该论文提出一种从单张血管内光学相干断层扫描(OCT)图像中恢复每个像素光衰减系数的方法,该系数可反映病变与细胞组成。方法通过基于物理的可微分正向模型进行梯度下降反演,无需训练数据或分割。作者在解析解、五个体外模体及128名患者的29,269张临床图像上进行了验证。

Ajay Manicka, Karim Kadry, Sebastian Ruiz-Lopera 等