AI 算法 · 2026年9月30日(周三)

机器学习、人工智能、自然语言处理、计算机视觉、多智能体。

arXiv cs.LG · cs.AI

Jaxolotl: A Unified High-Performance Benchmark Suite for LTL-Based Multi-Task RL

说明Jaxolotl:基于线性时序逻辑的多任务强化学习统一高性能基准套件

简介该论文提出 Jaxolotl,一个用于基于线性时序逻辑(LTL)的多任务强化学习的统一高性能基准套件。它以 JAX 实现了六种代表性算法和四个环境,并提供新整理的任务集与标准化评估协议,通过预编译符号任务表示实现端到端加速,最高可达 220 倍。作者利用该框架比较现有方法,发现通用方法在命题数量增加时表现吃力,而扩展性更强的方法依赖特定环境假设且存在短视问题。

Mathias Jackermeier, Jacques Cloete, Alessandro Abate

arXiv cs.RO · cs.CV

WorldLine: Action-Driven Visual Simulation for Robotic Manipulation

说明WorldLine:面向机器人操作的动作驱动视觉仿真器

简介论文提出 WorldLine,一种动作驱动的视觉仿真器,用于在机器人实际执行前预测动作的结果。它先从超过 1 万小时无动作标注的机器人视频中学习操作动力学,再利用超过 2000 小时、覆盖十余种机器人形态的动作轨迹进行动作对齐。结果显示,它在未见和跨域场景中保持良好的视觉质量与机器人运动一致性,并可用于轨迹成功率预测和策略评估。

Shenghe Zheng, Wenbo Li, Jiyao Zhang 等

arXiv stat.ML · cs.LG · stat.ME

Latent Inference-Time Guidance of Time Series Foundation Models

说明时间序列基础模型的潜在推理时引导方法

简介时间序列基础模型在预测任务中表现领先,但其效果对回溯窗口、协变量、预测步长和训练数据分布很敏感,不同设置下的预测质量各不相同。本文提出一种潜在推理时引导方法,通过带有独立分量的时变潜在空间,自适应地组合多个模型的预测结果。该框架具有可辨识性和重构保证,并保留基础模型开箱即用的特点。在多个频率和多个领域的数据集上的实验表明,该方法与传统集成方法相比具有竞争力。

Chlo\'e Hashimoto-Cullen, Amaury Durand, Laurent Bozzi 等

arXiv cs.CV · cs.RO

EVO-WAM: Evolving World Action Models through Video-Action Verification

说明EVO-WAM:通过视频-动作验证演化世界动作模型

简介该论文提出EVO-WAM框架,让机器人的世界动作模型在无需额外专家示范的情况下,通过学习自身生成的视频-动作轨迹来适应新任务。方法包括用状态预测与锚定多帧上下文支持自回归展开,用视觉语言模型筛选完成任务的前缀并用逆动力学模型验证视频与动作的一致性,再迭代训练。在七个未见过的RoboTwin 2.0任务上,Cosmos3与DreamZero的平均成功率分别从26.9%提升到68.0%、从28.5%提升到46.4%。

Shiyang Zhou, Xionghao Wu, Wenbo Li 等

arXiv cs.LG · hep-ex

Beyond a Better Score: Long-Horizon Agentic ML Development and Evaluation Protocol for Physics Time Series

说明超越更高分数:面向物理时间序列的长程智能体机器学习开发与评估协议

简介本文提出SIDERIUS,一个基于大语言模型的智能体系统,用于物理时间序列的机器学习开发。它结合可组合能力、多层科学评估协议和面向昂贵计算的资源感知探索,以避免模型通过投机取巧获得高分却缺乏科学有效性。在TIDMAD基准测试中,其有效模型提出率为63.8%,有效去噪分数为2.744,均高于使用Codex编码智能体的对照结果。

Yue Ma, Lucas Venetoulias, Akbota Assan 等

arXiv cs.RO · cs.CV

Pow3R-SLAM: Real-Time RGB-D SLAM with 3D Reconstruction Priors

说明Pow3R-SLAM:结合三维重建先验的实时RGB-D同步定位与建图系统

简介该论文提出Pow3R-SLAM,一个用于实时RGB-D同时定位与建图(SLAM)的系统,使用Pow3R进行跟踪和建图。它将深度作为网络预测的先验来使用,利用已有深度补全稀疏区域,并在TUM、7-Scenes和Replica的24个序列上与MASt3R-SLAM对比。论文报告其运行速度约快1.6倍,平均轨迹误差低15%,地图更稠密,并在部分场景上优于ORB-SLAM3,但在少数自相似场景中表现欠佳。

Christopher Kolios, Ishaan Mehta, Sasa Janjic 等

★★★★☆ 值得关注
arXiv cs.CL 有代码

PRISM: PRIvileged Sibling-guided Multi-Agent Topology Design

说明PRISM:利用特权兄弟图引导的多智能体拓扑设计方法

简介本文针对基于大语言模型的多智能体系统,研究如何根据任务查询生成合适的协作拓扑(即哪些智能体参与、如何通信)。作者指出,现有语料只记录能解决问题的图而不排序,导致继续监督微调缺乏针对每个查询的偏好信号。PRISM利用同一语料中的特权信息,让教师模型读取同样解决该查询的兄弟图,学生模型在自采样轨迹上匹配其逐决策目标。论文称在六个基准上优于所有已评估的拓扑设计基线。

看点提出利用同一查询的兄弟拓扑作为特权信息进行蒸馏,解决语料无排序的问题;在六个基准上超过所有基线,并有匹配教师对照实验支持。

Phuong Tuan Dat, Qi Li, Xinchao Wang

arXiv cs.LG

Improving Function Space Flow Matching with Kernel Optimal Transport

说明用核最优传输改进函数空间流匹配

简介该论文针对时间序列、偏微分方程解等函数型数据的生成模型,提出核函数流匹配(kFFM)。它用核诱导代价下的熵最优传输替代原有的独立配对,架构保持不变。在时间序列和偏微分方程基准上,kFFM 相比 FFM 等基线改进了分布匹配效果。

Fred Xu, Thomas Markovich, Barbora Barancikova 等

arXiv cs.AI

UserProxyBench: Evaluating LLM User Simulators for Agent Benchmarks and Training

说明UserProxyBench:评估用于智能体基准测试和训练的大模型用户模拟器

简介该论文针对交互式智能体基准和多轮强化学习中由第二个大模型扮演用户的做法,提出评估框架UserProxyBench及用户忠实度分数UFS,衡量模拟用户是否遵循其私有指令。在375个企业任务中,仅改变用户代理,平均任务奖励相差15.2分,24.4%的成功片段存在用户规格违规,主要表现为过早透露信息。作者还给出了七种代理的成本与忠实度权衡曲线,便于选择满足要求的最便宜模拟器。

Ashish Jain, Armaan Sandhu

arXiv cs.CL · cs.AI · cs.CY

Gender bias across LLMs is common and highly heterogeneous

说明大语言模型中的性别偏见普遍存在,且差异很大

简介本文比较了2025年4月至2026年6月间发布的十个大语言模型(来自九家厂商)的性别偏见。研究采用两项测试:判断刻板印象短语的作者性别,以及在防止灾难性后果的情境下,对针对女性或男性的虐待行为做道德判断。结果显示,不同模型的偏见方向和程度差异很大,有些模型的表现甚至完全相反。因此,作者认为偏见审计应是持续的、多厂商参与的过程,而非一次性评估。

Edoardo Bolzoni, Valerio Capraro

arXiv math.AP · cs.GT · cs.LG

The finite-horizon five-expert prediction problem

说明有限时域五专家预测问题的显式解

简介本文给出有限时间范围内五专家预测(专家建议)偏微分方程的显式解。解公式表明对手的排名策略(1,0,1,0,0)是全局最优的,而COMB策略(1,0,1,0,1)仅在x1=x2且x3=x4的集合上最优。该解由作者配套论文中几何停时问题的解,通过Bayraktar、Ekren与Zhang的变换原理经拉普拉斯变换导出。

Jeff Calder, Nadejda Drenska

arXiv cs.RO · cs.AI · cs.CV 有代码

doPlan: A Variable-Horizon Dataset for Multi-Stage Language-Conditioned Planning in Autonomous Driving

说明doPlan:面向自动驾驶多阶段语言规划的可变时域数据集

简介该论文提出 doPlan,一个基于 nuPlan 构建的公开真实世界数据集,收录 5,154 条乘客的人工撰写指令,用于研究乘客语言作为持续任务背景时的规划问题。数据涵盖即时、延后、事件条件、持续及多阶段的乘客意图。作者评估了四种语言条件驾驶模型,发现模型对乘客语言的敏感度并不能可靠地转化为符合要求方向的行为。

Parthib Roy, Yash Tandon, Marcus Blennemann 等

arXiv cs.LG · cs.AI · cs.CL

Dr. OPD: Learning What to Follow for Optimal On-Policy Distillation of Large Language Models

说明Dr. OPD:学习该跟随什么,以实现大语言模型的最优同策略蒸馏

简介本文提出 Dr. OPD,一种改进大语言模型同策略蒸馏的方法。它为教师在不同词元上的监督信号分配权重,并将权重选择建模为双层优化问题,以最大化学生模型的期望奖励。在数学与代码任务的强到弱蒸馏中,Dr. OPD 优于所有对比基线,平均数学成绩比原始 OPD 高 9.7 分,并使较小的学生模型超过较大的教师模型。

Zhenyu Wang, Tianze Wang, Linjun Zhang 等

arXiv cs.AI

Retrieval-Augmented Skill Optimization via Cross-Harness Adaptation

说明基于跨框架适配的检索增强技能优化:利用公开技能库改进智能体技能

简介论文提出检索增强技能优化(RASO)框架,以外部公开技能库作为先验知识,通过跨框架适配(Cross-Harness Adaptation)处理领域与运行框架的差异。框架包含两个阶段:检索增强技能初始化(RASI)无需智能体执行即可生成基于知识的初始技能;检索增强技能更新(RASU)则依据执行反馈迭代检索并优化技能。作者在四个智能体基准和两个模型上的实验显示,RASO优于不使用检索增强初始化与更新的基线方法。

Jaewon Chu, Ji Soo Lee, Jihwan Park 等

arXiv cs.AI

PE-EK-PINN: Physics Embedding with Evolving Kernel for Scalable Physics-Informed Neural Networks

说明PE-EK-PINN:用可演化核实现可扩展的物理嵌入神经网络

简介物理信息神经网络(PINN)通常只通过损失残差施加控制方程,难以处理高振荡的波动场。该论文提出PE-EK-PINN,把已收敛的子系统场冻结并转化为可复用的演化核,用于表示更高层的配置,无需推导新的控制方程。论文称,该方法使活跃核的峰值数量与系统规模无关,并将累积训练成本从O(N)降至O(log N)。在偶极子阵列、复合线源和交叉阵列上的实验显示,训练成本大幅降低,相对L2误差降低或与原方法相当。

Huiwen Zhang, Feng Ye, Chu Ma

arXiv cs.CL · cs.AI · cs.IR

Auditing Long-Term Memory Evaluation: Repeated Judging, Reader Variation, and Negative Controls

说明长期记忆评测审计:重复判分、读取器差异与负对照

简介本文对 LongMemEval-S 的 500 个开发问题上一条长期记忆检索链路做了评测审计。作者检查了判分的重复性、读取器配置差异和负对照等因素,发现分数对这些设置较为敏感。研究结论并不构成新的排行榜领先或可迁移的记忆优势,所有问题都已用于开发组件,未设独立测试集。

Christopher J. Chanhnourack

arXiv cs.CV

Beyond Lip Sync: Reference-Grounded Oral Refinement for Audio-Driven Portrait Animation

说明超越口型同步:基于参考的音频驱动人像口部精修

简介本文提出RGOR框架,用于音频驱动的口型同步,目标是生成被配音者本人的口部,而非通用的平均口型。方法以同一人的注册录像帧和高清口部图像块作为条件,并训练判别器区分本人口部与他人口部。作者还建立了评估方案,在未见过的身份上与开源和商业系统对比,结果显示RGOR在多数指标上表现最佳或次佳。

Bangxun Tang

arXiv cs.AI · cs.CV · cs.NE

Brain-SAD: A Brain-Inspired Safe Autonomous Driving Control Framework with Dynamic Fear-Oriented Constraint on Dual-Policy

说明Brain-SAD:一种带动态恐惧约束双策略的类脑安全自动驾驶控制框架

简介该论文针对安全自动驾驶中的约束强化学习提出Brain-SAD框架,指出现有方法的动作代价与安全投影边界是静态的,难以适应不同交互场景。Brain-SAD通过感知当前车辆交互场景生成动态恐惧信号,在常规交互时采用长期策略、紧急碰撞防御时采用短期策略,并据此构建动态恐惧约束用于在线策略优化。实验表明,该方法在任务完成与碰撞恢复时间更短的同时成功率更高,并且在复杂度波动的连续路口中可靠性更强。

Huan Rong, Chao Yin, Anouar Imel 等

★★★★☆ 值得关注
arXiv cs.LG · stat.ML

When do data mixtures improve scaling laws? Insights from high-dimensional regression

说明数据混合何时能改善缩放定律?基于高维回归的分析

简介这篇论文研究在训练中混合不同领域数据何时能真正改善缩放定律,而不只是增加样本数量。作者在高维混合数据回归模型中推导了最小最大风险和岭回归测试误差的确定性等价式,并针对目标域与辅助域的幂律谱情形给出显式缩放律。结果表明,存在特定的谱结构与相对样本量组合,使混合数据的缩放速率严格快于单独使用任一数据集;语言模型实验也呈现出类似现象。

看点在高维混合数据回归中给出极小极大风险与岭回归确定性等价,显式刻画何时混合数据可改进缩放律;理论完整,并有语言模型实验佐证。

Diyuan Wu, Lehan Chen, Theodor Misiakiewicz 等

arXiv cs.CV · cs.AI

From Unity Simulation to Diffusion-Based Augmentation: Quantifying Dataset Balance for Robust Object Detection

说明从Unity仿真到扩散增强:量化数据集平衡以提升目标检测的稳健性

简介本文系统比较了两种合成数据生成方式:基于Unity仿真的渲染与可控扩散生成(CIA),用于真实数据稀缺条件下的目标检测。作者在统一实验框架中混合真实、仿真与生成数据,并用Precision、Recall、mAP及自定义的Δ指标评估。结果显示,单独使用任一种合成数据都无法达到最佳迁移效果,少量合成数据的加入能提升泛化能力,而过度替代则会导致领域漂移。

Mohamed Benkedadra, Aissa Saoudi, Maxime Gloesener 等

arXiv cs.CV

HybridCUA: Learning to Orchestrate GUI and CLI for Computer-Use Agents

说明HybridCUA:学习协调图形界面与命令行的计算机使用智能体

简介论文提出 HybridCUA,让计算机使用智能体(CUA)同时结合图形界面(GUI)操作与命令行(CLI)。作者构建了包含 GUI、CLI 及混合轨迹的数据集 HybridCUA-8K,并采用先监督微调、后带 CLI 感知奖励的强化学习两阶段训练。论文报告,HybridCUA-9B 在 OSWorld 上达到 53.6% 准确率,比基础模型提升 14.8 个百分点,并在 WindowsAgentArena 上提升 4.0 个百分点。

Tongbo Chen, Junbo Niu, Zhengxi Lu 等

arXiv cs.AI

HARISSA: Inference-Time Self-Checks for Efficient and Safe Local Language Model Deployment

说明HARISSA:推理时自检,实现高效安全的本地语言模型部署

简介本文提出HARISSA方法,利用模型自身隐藏状态判断何时需要额外计算、何时应将问题转交人工,而不是把难题上传云端模型。模型在生成答案前后的状态分别用于预测答案正确性,并据此选择由廉价到昂贵的回答方式,或在答案可能错误时转交人工处理。实验显示,在单一模型设备上,其准确率与思维链相差在一个百分点以内,延迟低2.7倍。

Kenan Alkiek, Moontae Lee, David Jurgens 等

arXiv cs.AI

Diagnosing and Improving Probabilistic Reasoning in Large Language Models

说明诊断并改进大语言模型的概率推理能力

简介论文提出一个决策理论框架,把大语言模型的决策损失拆分为两部分:根据给定证据形成准确信念,以及把信念转化为优化给定效用函数的行动。作者用已知真值的合成基准测试前沿及开源模型,并评估针对信念、决策或两者同时进行的强化学习干预在三个领域中的效果。结论是,针对某一部分的改进会重新分配决策损失,且联合优化信念与决策能提升两者,但效果依赖训练与评估格式是否匹配。

Huaman Sun, Dingcheng Wang, Jason Hartline 等

arXiv cs.LG · cs.AI

No Scale Left Behind: Multi-Scale Autoencoder with Bi-directional Attention for Time Series Anomaly Detection

说明《不遗漏任何尺度》:用于时间序列异常检测的双向注意力多尺度自编码器

简介该论文针对时间序列异常检测中异常跨越不同时间尺度的问题,提出了MSCAD框架。它为不同分块大小设置并行自编码器分支,并通过对称的双向跨尺度注意力模块,使各尺度在重建前相互交换信息。在TSB-AD基准(40个数据集、530条序列)上,论文报告其在单变量和多变量划分上的VUS-PR分别为0.57和0.47,相比最先进方法提升了9.6%和9.3%。

Jiaheng Guo, Haochen Zhang, Yu-Chao Huang 等

★★★★☆ 值得关注
arXiv cs.IT · cs.LG · math.IT

Mutual Information Constrained Chernoff Bottleneck

说明互信息约束的切尔诺夫瓶颈:面向多样本二元判别的压缩表示

简介本文研究在码率约束 I(U;X) ≤ R 下,如何设计编码器使两类条件分布的切尔诺夫信息(决定多样本判别误差指数)最大化。作者证明最优值 C(R) 在 R 达到 H(V) 前严格递增,之后保持不变,并给出交替迭代算法及其收敛性。与经典信息瓶颈相比,在大样本情形下该方法误差概率更小。20 Newsgroups 主题检测实验中,将每个词压缩到其熵的 17% 仍保留 90% 的误差指数。

看点将信息瓶颈的目标替换为Chernoff信息以直接刻画判决误差指数,给出最优值的严格结构刻画与收敛算法,并证明其对大样本优于经典IB。

Dier Tang, Guangyue Han

arXiv cs.CL · cs.AI · cs.IR

BITEM at the NTCIR-19 R2C2 Task: Predicting Confidence from Agentic RAG Pipeline Signals

说明BITEM 团队参加 NTCIR-19 R2C2 任务:从智能体式 RAG 流程信号预测置信度

简介BITEM 团队用同一套智能体式检索流程参加了该任务的两个子任务:模型在电影语料中检索、阅读并记录证据,由编排器决定哪些结论可提交,并以事后计算的置信度输出答案。检索结果在检索两次中排名第 4 和第 5;通过规则调整后,准确率提升至 0.9375,HMR 达到 0.6985,并提出了 accHMR 指标。

Julien Knafou, Luc Mottin, Alexandre Flament 等

arXiv cs.AI

AREX-2: Advancing Self-Improving Agents through Long-Horizon Reflective Tasks

说明AREX-2:通过长程反思任务推进自我改进型智能体

简介该论文提出 AREX-2,旨在提升大模型智能体在测试时反复改进自身解答的能力,这种能力依赖于反思与长程执行两方面。作者从机器学习与算法编程任务中合成长程改进轨迹进行训练,智能体基于 Qwen3.8-27B 构建。论文报告其在多个基准上取得了较强结果,并称该智能体随迭代轮次增加持续改进,表明长程反思数据是实现自我改进智能体的有效途径。

Hongjin Qian, Chaofan Li, Kun Luo 等

arXiv cs.AI · q-bio.NC

Which Attention Heads are like the Human Head? Not the Ones that Compute

说明哪些注意力头像人脑?不是那些负责计算的

简介该论文比较了大语言模型的注意力头表征与人类脑电(EEG)在一个抽象模式补全任务(AAABAAA→B)上的对应关系,并检验消融这些注意力头对任务表现的影响。结果显示,与大脑对齐的注意力头确实对任务表现有贡献,但移除它们的破坏性明显小于通过归因修补选出的注意力头。

Christopher Pinier, Gustaw Opie{\l}ka, Hannes Rosenbusch 等

arXiv cs.LG

TabFM-Auto: Self-Evolving Pipelines for Tabular Foundation Models

说明TabFM-Auto:面向表格基础模型的自进化数据流程

简介论文提出 TabFM-Auto,把表格基础模型 TabFM 与一个语言模型智能体结合,由智能体依据数据集元信息和验证反馈,迭代优化数据清洗、特征工程、上下文选择和后处理等环节,以降低 TabFM 的误差。在 TabArena 的 51 个数据集上,五种配置占据总体前五名,最佳配置把 TabFM 的 Elo 从 1785 提升到 2013。此外,所得流程无需额外搜索即可迁移到其他冻结的表格基础模型上,并在 MLE-Bench 的 8 个表格竞赛中总体排名第一。

Deqing Fu, Huangyuan Su, Rajat Sen 等

arXiv cs.AI

KV-Kaizen: Learning Context-Adaptive Cache Compression Choices

说明KV-Kaizen:学习随上下文自适应的缓存压缩选择

简介随着输入上下文变长,大语言模型的KV缓存可能超过模型权重占用的内存,拖慢解码速度。本文提出KV-Kaizen,通过学习一个选择器,根据上下文为每一层选择缓存配置,从层共享、降低精度和截断低秩表示三个方向压缩缓存,且不驱逐任何token。实验显示该方法在指令跟随和推理任务上达到精度与缓存大小的帕累托前沿,在14B模型上可将解码缓存缩小32倍且保持精度。

Joao Monteiro, Louis B\'ethune, Anastasiia Filippova 等

arXiv cs.CV

ORMA: Optimization-based Monocular 4D Reconstruction of Articulated Animals

说明ORMA:基于优化的单目视频四维动物关节重建

简介论文提出 ORMA,一种无需训练的框架,从单目视频中重建各种四足动物的关节式四维表示。方法用预测姿态作为优化参考,借助生成式三维先验获得更准确的形状,并将其配准到参数化模型 SMAL+ 上。作者还构建了合成多物种基准 PAW4D,实验表明该方法在 PAW4D、PFERD 及野外视频上提升了重建精度,并能恢复全局一致的动物运动。

Xuyi Hu, Francesco Palandra, Shangzhe Wu 等

★★★★☆ 值得关注
arXiv cs.LG · cs.AI · cs.CL

S³: Spectral Null-Space Swap Makes Reasoning Models Efficient

说明S³:谱零空间互换让推理模型更高效

简介带思维链训练的大语言模型推理能力强,但往往消耗大量 token。论文发现,推理能力主要存在于思考模型权重在非思考模型主导奇异方向所定义投影的零空间中的分量里,去掉子空间分量可在提高效率的同时不损失准确率。作者提出免训练方法 S³,将成对的非思考与思考检查点组合:在主导子空间内保留非思考模型,在子空间外采用思考模型。在 2B 至 30B 的稠密与 MoE 架构、28 个评测环境上,平均减少推理 token 开销 27.4%,整体准确率提高 1.0 个百分点。

看点首次揭示零空间在推理模型中的关键作用并提出免训练的权重组合方法,在28个环境上以更少token提升准确率,证据充分。

Hongbo Ma, Sansheng Cao, Jiajun Fan 等

arXiv cs.GT · cs.AI · cs.LG

Social Choice Foundations for Simulation-Augmented Generation

说明模拟增强生成的社会选择理论基础:用少量模拟代表大量人群观点

简介本文研究模拟增强生成(SAGE),即模型在推理时模拟不同个体的观点,以对有争议的问题给出更具代表性的回答。作者首次将该问题形式化,依据比例聚类中的mPJR+公理,证明只需创建少量个体模拟,推理时再按提示动态路由到其中更少的一部分,仍可对整体人群给出近似的比例代表性保证。实验在政治问题和个人建议两个领域中,所提路由算法的mPJR+满足率高于基于k均值和随机选择的基线。

Sonja Kraiczy, Smitha Milli, Ratip Emin Berker 等

arXiv cs.LG · cs.AI · cs.CL

On Trajectory-Aware Training for Masked Diffusion Language Models

说明面向轨迹的掩码扩散语言模型训练方法研究

简介掩码扩散模型逐步解掩码生成文本,但训练与推理条件不一致。本文提出PUMBA框架,在策略诱导的连续步骤轨迹上训练去噪器,在步骤间传递信息,并通过时间反向传播联合优化。实验显示,该方法在LLaDA-8B微调中,以相同性能计算,所需函数评估次数最多减少22%(整幅生成)和26%(块扩散)。

Manuel Madeira, Amitis Shidani, Alice Bizeul 等

arXiv cs.RO · cs.CV

PhysWAM: Physically Consistent World Action Model for Autonomous Driving

说明PhysWAM:面向自动驾驶、保持物理一致性的世界-动作统一模型

简介本文提出PhysWAM,一个用于自动驾驶的统一世界-动作模型,在单个流匹配Transformer中同时生成多视角视频、度量深度和自车运动。作者提出耦合点投影(CPP)约束:将生成的深度反投影为三维点并经生成的自车运动变换,使其与由记录的自车运动变换的激光雷达点距离最小化,从而让生成结果与实测场景几何保持一致。实验在NAVSIM v1、v2规划任务及零样本闭环迁移、未来视频与深度预测上进行,结果显示该模型规划表现良好、可零样本迁移,且CPP同时提升了规划和深度预测效果。

Dhruv Parikh, Fengcheng Yu, Quankai Gao 等

arXiv cs.LG

Historical Anchors for Scientific Forecasting on Human-Aware Knowledge Graphs

说明面向人类感知知识图谱的科学预测历史锚点

简介该论文研究如何预测科学研究中未来可能形成的关联,例如材料性质之间的联系。方法是在论文网络构成的超图上采样路径,训练嵌入模型进行预测。作者提出查询-锚点一致性(QAA)诊断方法,无需未来标签即可选择采样预算并优化预测结果,在多个基准测试中表现出较好效果。

Siu Tin Wu, Ryan C. Barron, Phoebe Upton Sanderbeck 等

arXiv cs.CV

SoL-Refiner: Speed-of-Light One-Step Refinement for High-Resolution Video

说明SoL-Refiner:面向高分辨率视频的单步光速精修方法

简介高分辨率视频生成成本很高,常见做法是先生成低分辨率视频,再用精修模型提升分辨率。本文提出SoL-Refiner,只需一个去噪步骤即可把低分辨率输出转换为4K视频,训练分为高分辨率持续训练、强化学习后训练和单步蒸馏三个阶段。论文还构建了Refiner-Bench基准,并报告该方法在VBench和UniPercept平均分上优于比较的精修模型,同时在2K设定下精修延迟约为基线的8.91倍加速。

Haozhe Liu, Tian Ye, Shuchen Xue 等

★★★★★ 值得关注
arXiv cs.LG

TabFM: A Zero-Shot Foundation Model for Tabular Data

说明TabFM:面向表格数据的零样本基础模型

简介该论文提出 TabFM,一个 4 亿参数的表格基础模型,将监督式表格预测建模为上下文学习,无需针对每个任务单独训练即可在一次前向计算中给出校准后的零样本预测。模型仅在由结构因果模型生成的合成表格上训练。在 TabArena 的 51 个基准数据集(38 个分类、13 个回归)上,零样本 TabFM 在默认设置的表格基础模型中排名第一,并优于经过调优的 AutoML 流程。

看点将表格预测表述为上下文学习并用合成结构因果模型数据训练,零样本迁移到51个基准数据集,超过调优的AutoML,新颖且证据较充分。

Weihao Kong, Erez Louidor Ilan, Shuxin Nie 等

arXiv cs.LG · cs.NE 有代码

Kolmogorov-Arnold Classifier Systems as Universal Approximators

说明柯尔莫哥洛夫-阿诺德分类器系统:作为通用逼近器的规则式学习方法

简介论文指出,传统学习分类器系统(LCS)在输入维度增加时规则数和参数数会指数增长。作者借助柯尔莫哥洛夫-阿诺德表示定理,提出按维度组织规则的KACS,把目标函数拆成一维子问题,规则数的最坏情况从O(m^n)降为O(mn^2),每条规则只需两个参数。文中还给出了KACS作为紧致域上连续函数通用逼近器的构造性证明,并报告其在多数设定下精度具有竞争力,参数量仅为直接划分方法的2%至40%。

Hiroki Shiraishi, Hisao Ishibuchi, Masaya Nakata

arXiv cs.AI 有代码

BrainNet Studio: A Unified Toolkit for Brain Network Construction, Intelligent Analysis, and Visualization

说明BrainNet Studio:用于脑网络构建、智能分析与可视化的统一工具包

简介这是一个面向静态与动态脑网络分析的集成工具包,覆盖网络构建、特征提取、预测建模、候选生物标志物识别、可视化和辅助解读等流程。该工具包整合了27种算法,包括深度学习、图神经网络和时空序列模型,并使用大语言模型生成可供研究者核验的功能连接、结构连接及结构-功能耦合摘要。工具包已在 GitHub 公开。

Xiwei Zeng, Shengrong Li, Yiheng Liu 等

arXiv cs.AI

Topological Coherence for Self-evolving Multi-agent Systems

说明自演化多智能体系统的拓扑一致性(TOCOMAS)

简介论文提出“拓扑一致性”要求,即智能体职责划分、任务交接和记忆访问边界需与任务依赖关系保持一致。作者据此提出TOCOMAS系统,在线自演化时同时调整智能体、协作与记忆策略,仅保留满足结构约束且提升奖励的候选方案。论文称其在BBEH、WorkBench、SWE-Bench-Verified和CoMemBench上提升了任务成功率,CoMemBench上在验证进度、交接和记忆隔离方面也优于自演化基线。

Sen Zhao, Ruiqi Kong, Zuyu Zhang 等

arXiv cs.CV · cs.AI

GaugeVLM: Structuring Spatial Supervision with Measured Geometric Interventions

说明GaugeVLM:借助可测量的几何干预结构化空间监督

简介该论文提出 GaugeVLM,通过在显式三维场景中对物体和相机进行受控干预,生成相互关联、带有空间关系测量差异的观测样本。其核心目标 GaugeDPO 将测量误差转化为偏好边际,用于跨视角监督。实验显示,相比监督微调,它在三种视觉语言模型主干上提升了全部 10 项既有空间指标,其中 7B 主模型在 MSMU distance 和 QSpatial+ 上分别提高 15.0 和 18.9 个百分点,并在自动驾驶和具身推理中有所表现。

Hongbo Wang, Zihan Lin, Wenkui Yang 等

arXiv cs.LG

Scene-Consistent Illumination Transfer for Inserted Advertising Graphics

说明面向插入式广告图形的场景一致光照迁移方法

简介本文提出Ad-Relight,一种仅用于推理、无需专门收集横幅训练数据的方法,将场景光照迁移到所提供的广告图形上。方法先分离缓慢变化的阴影与图形结构,再利用预训练扩散重光照模型,通过两幅几乎相同的背景来分离目标区域的贡献。在560个生成的放置样本上,该方法在结构相似度、感知距离和光照一致性方面优于几何合成与直接重光照基线。目前的研究基于单幅图像,时间稳定性仍是待扩展的方向。

Rameshwar Mishra, Bishshoy Das, A. V. Subramanyam 等

arXiv cs.AI · cs.CV 有代码

Video-RSI: Recursive Self-Improvement of Video Understanding Agents via Harness Evolution

说明Video-RSI:通过执行框架演化实现视频理解智能体的递归自我改进

简介该论文提出 Video-RSI 框架,让视频理解智能体用自身的语言模型修改其执行框架(harness,即控制观察内容与方式的程序)。模型会重新查看训练视频,用额外观察检验相互竞争的失败解释,并结合答案准确率与视觉成本决定保留哪些修改。在评测中,演化后的智能体在处理更少帧数的情况下提高了准确率,并与现有视频理解智能体取得有竞争力的准确率与效率平衡。

Bingjun Luo, Jialin Guo, Siqi Li

arXiv stat.ML · cs.LG · math.DS

Identifiability Guarantees for Drivers and Dynamics of Delayed Physical Systems

说明延迟物理系统驱动因素与动力学的可辨识性保证

简介本文提出一种有理论依据的方法,证明在一组较宽松的假设下,随机延迟微分方程的结构性驱动因素和漂移项是可辨识的。作者在驱动因素可辨识性的基准测试和评估所学动力学物理一致性的第二个基准上进行了实验,结果显示该方法优于其他方法。

Julien Boussard, Antoine Debouchage, Th\'{e}o Saulus

arXiv cs.LG · cs.SY · eess.SY

An Efficient Machine Learning Approach for Degradation Forecasting in AEM Water Electrolysis

说明用于阴离子交换膜水电解降解预测的高效机器学习方法

简介本研究基于多组不同实验条件下、恒定电流运行的单电池阴离子交换膜水电解槽(AEMWE)数据集,进行数据驱动分析。研究训练并评估了线性基线、LSTM 和 CNN 等不同复杂度的机器学习模型,用于中期预测电池电压的降解曲线。模型在专为异构工业数据设计的严格训练与评估框架下进行了检验。

Marco Veneriano, Ani Gjergji, Sebastiano Bellani 等

★★★★☆ 值得关注
arXiv cs.CV · cs.AI · cs.RO 有代码

Does Local Video Understanding Transfer Across Encounters? The EgoGears Benchmark

说明局部视频理解能否跨场景迁移?EgoGears 基准测试

简介该论文提出 EgoGears 基准,用于检验多模态大模型能否把在一次经历中获得的视频理解能力迁移到另一次经历中。基准包含 567 个单视频问题和 1,487 个多视频问题,源自 39 条户外路线上的 126 段第一人称录像。实验评估了六类模型共 29 个单视频与 31 个多视频配置,结果显示多视频问题上的表现平均下降 22.5 个百分点,主要瓶颈在于观察与证据的绑定以及有序的路线状态追踪。

看点提出区分单视频与跨视频失败来源的诊断基准,并以126段录制、大量问题与29/31个模型配置支撑结论,新颖性中等偏上。

Yuedong Tan, Lei Qi, Yu Liu 等

arXiv cs.CV

Look Closer: Patch-wise Supervision for AI-Generated Image Detection

说明《Look Closer》:面向AI生成图像检测的分块监督方法

简介该论文研究仅用小块图像区域能否识别AI生成图像。方法是让同一骨干网络分别对每个裁剪块分类,每块各自计算损失,推理时再对块概率取平均,无需手工残差滤波或图像级融合模块。在GenImage上,分块变体在四种骨干网络上的平均准确率均高于整图版本。作者同时指出历史实验含有基于评估结果的模型选择,分数并非统一选型的排行榜比较。

Zhida Zhang, Tao Wu, Siyu Liu 等

arXiv stat.ML · cs.LG

Post-Anomaly Detection Inference for Deep SVDD

说明Deep SVDD异常检测的事后统计推断方法(PADI)

简介本文提出PADI框架,为训练好且参数固定的Deep SVDD异常检测器提供有统计保证的推断。它基于选择性推断(Selective Inference),以测试样本被判定为异常为条件进行检验,并由此得到有效的选择性p值。理论上,该方法可将误报率控制在用户设定的显著性水平α之下。作者还将框架扩展到Deep SAD半监督异常检测,实验结果支持上述理论结论。

Cao Le Cong Thanh, Dang Quang Vinh, Vo Nguyen Le Duy

arXiv cs.AI

GRFBrain: Graph-Structured Rectified Flows for EEG Dynamic Modeling

说明GRFBrain:用于脑电动态建模的图结构整流流

简介该论文研究如何从脑电图(EEG)预测随时间变化的功能连接。作者提出一种图结构残差流框架,将条件均值预测与随机残差传输分开:先用仅依赖历史的预测器估计未来连接图,再用图高斯源分布和条件速度场生成残差。论文还探讨了哪些条件与控制因素能区分残差传输的作用与确定性预测、学习表示及采样效应带来的改进。

Haohui Jia, Zheng Chen, Jathurshan Pradeepkumar 等

arXiv cs.LG

Learning When to Update: A Near-Optimal Timing Bandit Approach

说明学习何时更新:一种接近最优的时机多臂赌博机方法

简介本文针对动态环境中需要适时更新的系统(如机器学习模型与数字孪生),提出“时机赌博机”问题:每个候选更新间隔都有固定更新成本和未知的随机退化成本。作者设计了平衡连续臂消除算法(BCAE),其遗憾界为 $\tilde{O}(\sqrt{T})$,优于标准赌博机算法的 $\tilde{\Omega}(K\sqrt{T})$。另提出的乐观增强变体(OE-BCAE)保持相同遗憾阶数并提升实证适应性,仿真结果显示其在臂数与更新成本变化时表现稳定。

Qiulin Lin, Junyan Su, Liyuan Wang 等

arXiv cs.CL · cs.LG

Learning What to Remember: Long-horizon Counterfactual Memory Optimization

说明学习该记住什么:长时程反事实记忆优化

简介论文提出记忆增益策略优化(MGPO)方法,通过衡量每次记忆改写对当前及后续下游效用的边际贡献,来学习哪些信息应当被持久保存。在文档级信息抽取任务上,MGPO提升了抽取效果,同时使平均记忆长度相比优化前的初始记忆策略减少近80%。学习到的记忆策略还可在不同领域之间复用和迁移,并适用于无需额外训练的下游模型。

Jiaming Tang, Mingyan Liu, Armin Sarabi

arXiv cs.CV · cs.AI

Rollout-Marginal Distillation for Long-Horizon Autoregressive Video Generation

说明面向长时程自回归视频生成的单段边缘蒸馏(RMD)

简介该论文针对自回归视频扩散模型在长序列生成中误差逐段累积的问题,提出滚动边缘蒸馏方法(RMD)。RMD保留已生成的历史用于自回归预测,但将每个片段与片段教师模型独立比对,以避免视频级分布匹配蒸馏中片段质量修正被上下文伪影干扰。随后再用视频级分布匹配蒸馏恢复时间一致性。论文称其在训练时长之外仍能保持较高视觉质量,并优于视频级基线。

Chenjian Gao, Zhihao Hu, Jianqi Ma 等

arXiv cs.LG · cs.CL

Time-Anchored Diffusion Language Models: Latent-Space Caching for Fast Generation

说明时间锚定扩散语言模型:用于快速生成的潜空间缓存

简介该论文提出一种无需监督目标的时间锚定方法,让扩散语言模型在去噪过程中复用潜在锚点表示。方法采用两阶段结构:较昂贵的锚点网络周期性生成缓存,轻量去噪网络通过融合模块在多个反向步骤中复用该缓存。文中报告,在数学、代码和STEM基准上,后训练版本的吞吐量提升约49%至79%,预训练版本的Transformer层计算量最多减少38%。

Joel Anto Paul, Litu Rout, Aditya Akella 等

arXiv cs.CV

EpiCon: Collective Agent Learning through Co-Evolving Multimodal Memory

说明EpiCon:通过共同演化的多模态记忆实现智能体集体学习

简介该论文提出EpiCon,一种共享多模态记忆框架,让多个智能体在不更新宿主模型参数的情况下复用和积累彼此的经验。它使用两个独立训练的20亿参数模型:记忆控制器负责跨尝试优化文本指导与视觉证据,树状自组织器负责分层整合经验并为新问题检索经验与规则。在11个基准、四类多模态任务上的评估显示,相比无记忆基线,宏平均分提升1.7至4.9分,记忆操作耗时减少67%至74%。

Ziyun Zeng, Hang Hua, Shaden Alshammari 等

arXiv cs.AI

Improving OCR Faithfulness via Gated and Attenuated On-Policy Distillation

说明通过门控与衰减的同策略蒸馏提升OCR忠实度

简介视觉语言模型可能把图像中的异常文字改写成语言上通顺的表达,从而降低OCR转写的忠实度。论文提出GAD-RL,在联合后训练中根据学生模型当前的任务表现和局部分布,自适应地调节来自固定教师模型的监督强度。在Qwen3.5-2B上,该方法在CHAOS-Bench的Micro Recall达到59.92%,并在OmniDocBench v1.6上取得91.18的Overall分数。

Baode Wang, Zuming Huang, Kexuan Ren 等

arXiv cs.LG

Pattern Formation in Transformers

说明Transformer中的模式形成:用动力学理论解释注意力如何塑造表示

简介本文从模式形成理论出发,研究完整Transformer如何组织token表示,解释位置编码、多头注意力与输出值几何的作用。作者指出,完整Transformer会选择性放大一组此前未报告的模式(包括行波或旋转波),并分析各架构组件决定哪些模式被放大、稳定、竞争或共存。研究还表明,通过选择与任务匹配的位置编码和权重初始化,这些结构可作为可控的动力学先验,在受控序列任务和基于ConViT的CIFAR-10上提升了数据效率并加快了优化。

Erkan Turan, Gaspard Abel, Maks Ovsjanikov

arXiv cs.CV · cs.LG

SYNCR: Diagnosing and Learning Cross-Video Reasoning from Simulation

说明SYNCR:基于仿真的跨视频推理诊断与学习框架

简介该论文提出SYNCR,一个基于仿真环境的跨视频推理框架,依托Habitat、Kubric和CLEVRER构建,包含4000个评测问题和15960个训练问题,涵盖八类跨视频推理任务。作者用22个多模态大模型进行评测,发现物理比较和场景整合仍较困难,且模型变大并不稳定地解决这些问题。对Qwen3-VL-8B进行监督微调后,SYNCR平均准确率由32.6%提升至61.6%,在真实视频的时序排序上也有9.0至20.5个百分点的提升。

Sara Ghazanfari, Siddharth Garg, Prashanth Krishnamurthy 等

arXiv cs.LG · math.ST · stat.ML

Search Dimension in Unlabeled Projection Pursuit: A Scaling Law for Subspace Restriction

说明无标签投影追踪中的搜索维度:子空间限制的标度规律

简介本文研究无标签投影追踪中搜索维度对结果的影响。当观测空间包含大量高斯成分时,搜索目标可能被一个不含信号的方向最小化。作者在一个受控的双成分模型中比较限制到已知前向算子列空间或估计主子空间两种方法,并给出经验标度规律,但该规律并非经过证明的渐近紧致定律。

Rares Dimitrie Grozavescu, Mark Girolami

arXiv cs.DC · cs.AI

RLX: A Unified Multi-Backend Tensor Compiler and Distributed Runtime in Rust

说明RLX:基于 Rust 的统一多后端张量编译器与分布式运行时

简介该论文介绍 RLX,一个用 Rust 编写的统一系统,把编译器与运行时合并在同一代码库中,使用三层中间表示,并支持十余种设备后端。其将模型格式导入、量化、多机并行等功能整合在一起。作者在同一主机上与多个主流框架对比性能,文中报告在部分任务上 RLX 的速度与吞吐量较高,并保持与参考实现的输出一致。

Eugene Hauptmann, Nataliya Kosmyna

arXiv cs.LG · cs.CL

Overcoming Scaling Limits in On-Policy Self-Distillation for LLM Reasoning

说明突破大语言模型推理中同策略自蒸馏的规模瓶颈

简介该论文研究同策略自蒸馏(OPSD)用于提升大模型推理能力的问题。作者发现,脚手架(参考解法)的正确性对下游准确率的影响大于上下文的正确性,未验证脚手架会造成模仿差距。作者提出OASIS方法,仅需最终答案标签,用已验证的同策略轨迹进行监督,在Qwen3-1.7B、4B、8B上于AIME与HMMT等基准取得提升,并在8B规模下优于OPSD。

Md. Ismail Hossain, Humaira Kousar, Isidora Chara Tourni

arXiv cs.CL · cs.AI

The Unequal Influence of Bad Advice: Using Training Data Attribution to Modulate Emergent Misalignment

说明不良建议的影响并不均等:利用训练数据归因调节涌现式失准

简介该论文研究在狭窄的失准任务上微调大语言模型时,各个有害样本对"涌现式失准"(EM)的贡献是否相同。作者使用训练数据归因方法量化每个有害样本的贡献,并通过重新训练检验归因分数的质量。结果显示,基于归因分数和黑盒有害性分数的过滤都能明显增强或减弱失准现象,且同一模型上的过滤效果最好。

Gon\c{c}alo Paulo, Louis Jaburi, Nora Belrose 等

arXiv cs.IR · cs.AI

Generated Query Expansion Still Helps Strong Sparse Retrieval: A Controlled Study with SPLADE-v3

说明生成式查询扩展仍能增强强稀疏检索:基于 SPLADE-v3 的受控研究

简介本文研究用生成的内容扩展科学查询,以弥合短查询与论文专业词汇之间的差异。作者在 NFCorpus、TREC-COVID 和 SciDocs 上用 SPLADE-v3 比较了四种生成格式,所有条件使用相同的冻结索引和统一的 256 维预算。结果显示所有方法在整体 nDCG@10 上都有提升,其中十一项经 Holm 校正后仍显著;只要原始查询保持较大权重,增益大多持续存在。另一方面,基于语料构建的类型化概念图没有带来稳定提升。

Ryan C. Barron, Cade W. Trotter, Maksim E. Eren 等

arXiv cs.AI · cs.CV

Pixels to Keys: Exploring Spatial and Motion Cues in Gameplay Inverse Dynamics

说明从像素到按键:探究游戏逆动力学中的空间与运动线索

简介本文研究逆动力学模型(IDM),即根据游戏画面帧推断玩家按键操作,以便利用大量没有操作记录的在线游戏视频。作者在数据有限的条件下,考察空间运动特征、模型结构和训练目标的影响,并以逐按键和均衡指标(如 F1 宏平均)进行评估。在 Trackmania 与 Cyberpunk 2077 上的实验显示,模型结构和运动流提取很重要,而不均衡指标存在局限,并指出镜头运动、延迟效果和按键频率失衡等问题。

Abhishek Pillai, Ekta Prashnani, Joohwan Kim 等

arXiv cs.LG · cs.AI

Beyond Interaction Capacity: Estimator Scaling with Recursive Models for CTR Prediction

说明超越交互容量:基于递归模型的点击率预测估计器扩展方法(RECAP)

简介该论文针对推荐与广告系统中的点击率(CTR)预测,指出单纯加深交叉网络、增强交互容量的收益会逐渐递减。作者提出“估计器扩展”思路,通过多个相关估计器的非共享预测差异来提升效果,并据此设计了参数高效的递归模型RECAP,从蒸馏、指数滑动平均和推理路径聚合三个层面实现该思路。论文称其在多个基准上取得了新的最优预测性能,并在性能与参数量的权衡上处于较优前沿。

Shivang Chopra, Fotis Iliopoulos, Zsolt Kira 等

★★★★☆ 值得关注
arXiv cs.AI

You Cannot Pick a Provider From the Price List: Market-Aware Routing for Open-Weight LLM Inference

说明你不能只看价格表来选择服务商:面向开源权重大模型推理的市场感知路由

简介论文指出,开源权重大模型推理市场中,选定模型后还需选择提供服务的服务商,而不同服务商在质量、延迟、可用性和价格上差异很大,价格无法可靠预测这些指标。作者提出基于实测的服务商选择策略及在线路由方法FACET,用于判断各服务商在各类任务上的可用性,并在实时测试中展示了能将流量导向更便宜的合格服务商。

看点指出开放权重推理市场中同一模型的供应商选择是新决策维度,并用实测和在线路由证明其价值,证据较充分,对子领域有实用影响。

Liang He, Jingbo Wen, Yixiong Chen 等

arXiv cs.LG

Scaling Zero-Order Pretraining through Model Sharding

说明通过模型分片扩展零阶预训练

简介零阶优化无需反向传播即可训练,但梯度方差随扰动维度增长,不利于大模型训练。论文提出SOMA方法,在数据簇上独立训练LSTM专家(使用SPSA,不交换梯度、激活或优化器状态)。实验显示,在相同计算预算下,适度分片优于所有单体零阶基线,并且独立损失可将梯度方差降至约为共享损失估计器的1/N。

Francois Chaubard, Mykel J. Kochenderfer, Chris R\'e

arXiv cs.AI 有代码

Guide, Then Let Go: Gap-Adaptive Teacher Scheduling for Sparse-Reward Agentic RL

说明先引导后放手:面向稀疏奖励智能体强化学习的差距自适应教师调度

简介该论文针对长时程智能体的强化学习在稀疏结果奖励下早期训练困难的问题,利用策略内蒸馏(OPD)为学生模型的自身轨迹提供词元级指导。提出的GATS方法根据师生性能差距自适应调整蒸馏项权重,学生接近教师参考水平后逐步撤除指导。在ALFWorld、WebShop和ScienceWorld三个基准上,相较仅用奖励的GRPO,平均成功率提升4.37%至11.87%。

Youling Huang, Tiankuo Xu, Jiaji Liu 等

arXiv cs.CL · cs.LG 有代码

It's All Training: A Fully Synthetic Single-Stage Recipe for LLMs

说明《一切皆训练》:一种全合成、单阶段的大语言模型训练方案

简介论文提出 SYNTH,这是首个公开的合成语料库,基于 58,698 篇维基百科文章,通过对精选百科种子进行结构化扩增,把预训练、中期训练和后训练合并为单一训练阶段。作者训练了 56M、0.3B–0.6B 稠密模型以及 13B(激活参数 1B)的 MoE 模型进行评估。结果显示,在相同计算量下 SYNTH 优于过滤后的网络数据,所用训练 token 少 10–140 倍,且模型事实准确性较高;论文同时以宽松许可公开了 SYNTH 数据集和 Baguettotron 模型。

Pierre-Carl Langlais, Pieter Delobelle, Yannick Detrois 等

arXiv cs.CV · cs.LG

ReCAP: Retrieval-Guided Capability Reuse for Multimodal Continual Instruction Tuning

说明ReCAP:面向多模态持续指令微调的检索引导能力复用方法

简介该论文提出 ReCAP 框架,用于多模态大模型按顺序学习新任务时复用已有能力。框架在每个阶段借助外部检索和大语言模型构建领域、推理与格式知识库,为每条指令选择并排序能力模块,并通过自适应子空间回收让跨阶段复用保持稳定。作者称在 MCIT 基准上取得了 SOTA 表现。

Tao Hu, Zhinuo Zhou, Xialiang Tong 等

arXiv cs.CV · cs.LG

Visual Branch is What You Need for CLIP-based Class-Incremental Learning

说明视觉分支是基于CLIP的类增量学习所需要的:一种仅用视觉的增量学习方法

简介这篇论文研究基于CLIP模型的类增量学习,即模型在持续遇到新类别时仍保留旧类别的识别能力。作者指出,用文本编码生成分类器权重的常见做法并不总是有效,因为图像与文本之间的模态差距会使文本权重偏离视觉类别分布。作者提出VIS方法,去掉文本分支,完全在视觉空间中构建增量分类器,并采用核化增量最小二乘SVM。作者称该方法在实验中取得了不使用文本分支情况下的最先进性能。

Tao Hu, Zhen-Hao Xie, Jingcai Guo 等

arXiv cs.LG

Behavioral Capacity Certificates for Quantized Language Models

说明量化语言模型的行为容量证书(BCC):按行为而非权重编码计算复杂度,用于部署前筛选与损失界定

简介该论文提出行为容量证书(BCC),在量化语言模型中依据能诱导相同有界损失的完整实现(权重、缩放、激活与缓存规则)的总先验质量来衡量复杂度,而非仅按权重编码计算。文中给出三步部署流程:基于前向筛选的逐层位宽选择、带边界验证的可剪枝或符号翻转权重识别,以及对部署模型总体损失的界定。实验显示,在等量缓存内存下,键比值使用更高精度的效果更好。

Arian Eamaz, Mojtaba Soltanalian

arXiv q-bio.PE · cs.AI

Boids of a Feather Flock Together - Evolving Prey Behaviours Under Different Predator Attack Strategies

说明《同类相聚:不同捕食策略下猎物行为的演化》:研究猎物如何在群体聚集与个体逃避之间取舍

简介该论文扩展了基于 Reynolds 群集模型(boids)的捕食者-猎物模型,把六种猎物运动倾向合并为一个加权加速度更新,并将摆动行为改写为正弦机动。研究者用进化策略优化这六个行为系数,使猎物在四种捕食者策略下尽可能提高群体生存率。结果显示,最佳防御行为取决于逃避倾向与捕食者策略之间的相互作用。

Augusta van Haren, Hanna Hoogen, Luca Pattavina

arXiv cs.LG

TopoEmbedX: A General Framework for Representation Learning on Topological Domains

说明TopoEmbedX:面向拓扑域表示学习的通用框架

简介该论文介绍了 TopoEmbedX,一个把单纯复形、超图、胞腔复形等拓扑结构嵌入欧氏空间的统一框架。它整合了 DeepCell、Cell2Vec、CellDiff2Vec、HOLE、HOGLEE 等已有算法,并提出 ComplexNetMF、ComplexRep、ComplexRandNE、ComplexWalklets、ComplexHeat 五种新算法,基于拓扑域的增广 Hasse 图把图嵌入方法推广到高阶结构。实验表明,生成的嵌入可用于多维数据的分类和回归任务。

Florian Frantzen, Ibrahem AlJabea, Ines Henriques-Cadby 等

arXiv cs.CL

Zero-shot Dependency Parsing with Unsupervised Cross-Lingual Bootstrapping

说明基于无监督跨语言自举的零样本依存句法分析

简介该论文研究如何把预训练编码器语言模型用于依存句法分析,这类任务对句法结构要求较高,零样本迁移较为困难。作者提出一种跨语言无监督自举方法,用以增强模型内部的句法知识,从而提升模型在不同语言类型上的泛化能力。实验表明,该方法在低资源语言上的零样本句法分析性能有明显提升,并且在无参数的树探测测试中得分更高,显示模型识别句法结构的稳健性有所增强。

Lalita Lowphansirikul, Attapol Rutherford, Jian Gang Ngui 等

arXiv cs.CL · cs.LG 有代码

How Many Labels Does a Language Need? Annotation Budgets and Cross-Lingual Pooling for African-Language Text Classification

说明一种语言需要多少标注数据?非洲语言文本分类的标注预算与跨语言数据合并

简介该论文针对非洲语言文本分类,在16种语言的新闻主题分类和12种语言的推文情感分类(共28组语言-任务)上,用字符n-gram线性模型实验,研究不同标注数据量下的效果。结果显示主题分类约400条标注即可达到全量数据macro-F1的90%,情感分类则大多需要数千条。合并其他语言的训练数据仅在标注量很少时有帮助,并随标注量增加而消失。

Bhanu Prakash Vangala, Sowmya Guda, Navya Vangala

arXiv cs.CL · cs.LG

Retrieval Capacity of Self-Attention Under Competition

说明自注意力在竞争下的检索容量:语言模型实际使用多少上下文词元

简介该研究通过自注意力机制考察语言模型实际使用了多少上下文词元。在不重新训练的前提下,每个注意力头、层和查询只保留权重最高的词元并保持原始权重,再观察负对数似然的增幅,以估计在可接受损失范围内所需的有效注意力集合大小。结果显示,基于注意力的选择明显优于随机选择,而所需集合大小因模型而异。

Timur Mudarisov, Mikhail Burtsev, Radu State

arXiv cs.AI · cs.CE

Co-PiLOT: Constrained Physics-Informed Latent Optimization for Target-Driven Inverse Design

说明Co-PiLOT:面向目标驱动逆向设计的带约束物理信息潜空间优化方法

简介本文提出Co-PiLOT框架,用于镁合金微观结构与织构的逆向设计。方法以编码器-解码器生成模型构建潜空间,并利用解码器作为有效性先验,再结合物理信息的黑箱优化进行搜索。在约8万条EBSD数据集上训练后,ViT-FMDiT模型(潜变量维度768)重建图像质量较高。在160次仿真预算内,该方法与MERIDIAN优化器结合,相较七种基线方法将相对目标误差降低3%至22%。

Mahish K. Guru, Mayank Nagar, Ayush vyas 等

arXiv cs.CV

EndoPrior-GS: Dynamic Endoscopic Reconstruction with a Joint Texture Prior

说明EndoPrior-GS:结合纹理先验的动态内窥镜三维重建方法

简介该论文提出EndoPrior-GS,用于可形变的术中内窥镜场景动态三维重建。方法基于三维高斯泼溅(3DGS),结合工具过滤后的有效组织掩码、非镜面光度滤波和解剖结构显著性,生成概率图以指导初始化和密度控制,并通过纹理感知的时间项进行训练。在EndoNeRF和SCARED数据集上,相比代表性方法,其Flow Error分别降低27.7%和25.8%,同时保持有竞争力的渲染质量和实时渲染速度。

Jiaqi Huang, Shidong Wang, Tong Xin 等

arXiv cs.RO · cs.AI

ExceptionDrive: A Planning-Oriented Counterfactual Corner-Case Benchmark for Autonomous Driving

说明ExceptionDrive:面向规划的自动驾驶反事实极端场景基准

简介该论文提出 ExceptionDrive 基准,在真实 nuScenes 场景中加入罕见危险并保留原有上下文,共 21 个任务、六类安全场景。评估采用不依赖参考轨迹的指标,包括不安全率、危险区间隙合规性等,对七个代表性规划器进行测试,发现它们常侵入危险区域或保持间距不足。作者还提出一个提醒智能体,将视觉证据转为结构化记录供决策智能体使用,零样本实验显示其能提高策略准确率并减少预警不足。

Ziyi Luo, Zhe Sun, Yehao Lu 等

arXiv cs.CV

Learning from synthetic photorealistic raindrop for single image raindrop removal

说明基于合成真实感雨滴的单张图像去雨滴方法

简介摄像头镜头或挡风玻璃上附着的雨滴会影响自动驾驶等视觉系统,而真实训练数据难以获取。论文提出首个基于物理渲染的合成附着雨滴数据集,涵盖多种雨天场景,尤其是雨天驾驶场景。在此基础上,作者设计了能感知雨滴折射与模糊的检测网络和恢复图像结构的去除网络,实验结果显示其框架达到了当前最优性能。

Zhixiang Hao, Shaodi You, Yu Li 等

arXiv cs.CV

Masked Swingers: Harnessing Data Augmentation to Advance Autoencoders for Self-Supervised Learning

说明Masked Swingers:利用数据增强改进自编码器的自监督学习

简介本文提出Masked Swingers,对掩码自编码器(MAE)做了改进:对同一图像做两种增强,分别掩码并编码,再交换两视图的全局表示(CLS token)后解码被遮挡的图像块,使模型学到与视角无关的图像摘要。实验显示,其在ImageNet-1K kNN上比MAE高出3至5个百分点,在细粒度任务上提升明显,并在三个新的状态探测数据集上相对MAE降低了64%的误差。

Anthony Fuller, Scott C. Lowe, Daniel G. Kyrollos 等

arXiv cs.LG · cs.AI · cs.CL

Learning Beyond What You Sample: Off-Policy-Aware Cross-Model Trajectory Exchange for RLVR

说明超越自身采样的学习:面向可验证奖励强化学习的跨模型轨迹交换(GRAFT)

简介该论文针对GRPO等基于可验证奖励的强化学习方法,指出有限的采样次数会使所有样本均失败的分组缺乏奖励信号。作者提出GRAFT方法,用另一模型中包含有效信息的同伴轨迹替换全失败分组,并通过序列级兼容性加权与词元级重要性比率裁剪控制跨模型差异。在三组异构模型和五个数学推理基准上,GRAFT相比GRPO在相同采样预算下使两个模型均有提升。

Doohyuk Jang, Yoonsik Park, Gyouk Chu 等

arXiv cs.LG · math.OC

Strict-Saddle Landscapes and Multi-Rank Geometry in Low-Tubal-Rank Tensor Sensing

说明低管秩张量感知中的严格鞍点景观与多秩几何

简介本文研究低管秩(tubal-rank)张量感知问题的优化景观,采用平衡分解方法。在管限制等距条件下,作者证明了对任意傅里叶多秩分布都存在定量的严格鞍点景观,且不存在虚假局部极小值。研究还表明,局部几何由傅里叶切片的秩决定,而不仅仅取决于管秩;数值实验展示了全局优化行为及两种不同的局部几何。

Eugene Agyei-Kodie, Longxiu Huang, Shuang Li 等

arXiv cs.SE · cs.AI

AgentBug-Smith: Automatically Reproducing Real-World Harness Bugs in Agentic Systems

说明AgentBug-Smith:自动复现智能体系统中真实世界的框架缺陷

简介论文提出 AgentBug-Smith,一种自动复现开源智能体系统中“框架(harness)缺陷”的方法,并据此构建可持续扩充的基准 Live-Harness-Bench,目前含 200 个可复现缺陷。在不同底层大模型上,该方法的复现成功率比现有通用软件缺陷复现技术高 10.67%–27.56%。研究还用该基准评估现有软件智能体的缺陷修复能力,并从中提炼修复技能,使修复率提高 6.32%。

Yiming Cheng (1), Alfin Wijaya Rahardja (2), Mengshi Zhang (3) 等

arXiv cs.CL · cs.AI · cs.CV

It's Not What the Image Shows: Irrelevant Context Destabilises VLM Judges Without Informing Them

说明《不是图像展示了什么:无关上下文会干扰视觉语言模型评审,却不会告知它们》:研究图片干扰视觉语言模型做判断的论文

简介该论文提出MIST误导图像压力测试,包含200个英文句子,每句配有与其字面或比喻义相符的图像、误导性图像或无图像。研究发现,无论图像是否与句子含义一致,视觉语言模型评审的标签都会发生变化,而且两种图像的影响程度接近。作者认为,模型能否替代人工标注,既取决于模型本身,也取决于评测条件。

Nagham Omar, Mahmoud Jabarin, Kinan Ibraheem 等

arXiv cs.CL · cs.LG

One Threshold Does Not Fit All Languages: Language-Conditional Deferral for Reliable and Efficient Low-Resource Text Classification

说明一个阈值无法适用于所有语言:面向低资源文本分类的分语言延迟决策方法

简介论文研究在低资源语言文本分类中,共形预测的错误率承诺是否对每种语言都成立。结果显示,全体语言共用一个阈值时,部分语言的覆盖率明显不足;为每种语言单独设定阈值后,各语言均达到约90%的目标,但需要人工复核的比例差异很大。

Bhanu Prakash Vangala, Vangala Navya

arXiv cs.LG · cs.CL

Storage Is Not Strategy: State-Conditioned Support Control for LLM Unlearning

说明存储并非策略:面向LLM遗忘的状态条件支持控制

简介该论文研究大语言模型(LLM)局部遗忘方法中参数选择的问题:许多方法依据定位信号选出一小部分参数并在优化中固定。作者提出干预分数(Intervention Score),按实际遗忘更新的预测效果为可编辑参数组排序,并提出选择性动态干预重排方法(DIR-R),仅在校准探针认为有必要时重新比较。实验结果显示,在多数对比中该方法表现更优,但其中部分差距接近零,且在GradDiff目标上存在明显的领域依赖。

Tianhao Qian, Ziming Hong, Chongyang Gao 等

arXiv cs.AI

Active Budget Can Kill Sensitivity: Diagnosing and Repairing TopK Sparse Autoencoder Reliability

说明主动预算会削弱敏感性:TopK 稀疏自编码器可靠性的诊断与修复

简介稀疏自编码器(SAE)常被扩展到更宽的字典,以从大语言模型的激活中提取细粒度结构。该论文研究同一语义以不同表面形式表达时特征是否保持稳定,发现扩展会明显降低稀有特征的敏感性,而常见特征相对稳定。受控实验表明,根本原因是激活预算 k,且其退化来自选择边界。作者提出成对排序稳定化方法,针对截断处的排序失效进行修复,以提升稀有特征的敏感性。

Zhenting Huang, Bo Jiang, Junnan Liu 等

arXiv cs.CV · cs.AI

HandAnthro: Automated Hand Anthropometry from a Single Image

说明HandAnthro:基于单张图像的自动化手部人体测量

简介该论文提出HandAnthro方法,用智能手机拍摄平放在美国信纸上的手掌照片,自动估算44个手部投影尺寸,用于辅助防护手套设计。系统通过校正纸张边界、白化非手部像素并基于微调的YOLO姿态模型定位41个测量关键点。受控测试中,与两名受训操作员的卡尺测量相比,每项尺寸的平均绝对误差为3.80毫米。

Fan Zhou, Shuairan Chen, Mengying Zhang 等

arXiv cs.CL

AnthroDial: Benchmarking LLM Anthropomorphism in Autonomous Social Interaction

说明AnthroDial:自主社交互动中大语言模型拟人化能力的基准测试

简介该论文提出 AnthroDial 框架,用于开发和评估具有拟人化特征的社交智能体。框架包括 MindFlow 交互机制(通过动态 Mind Buffer 实现自主、异步、自适应的交流)、CAPS-Eval 评估体系(从认知、情感和行为三个维度评估拟人化互动),以及结合 SEEDS 与 DiAPO 的训练方法。作者还构建了日常交流、游戏互动和长程角色互动的评估数据集,实验结果显示交互自主性与自然度有所提升,且 CAPS-Eval 与人工排序具有一致性。

Wentao Liu, Xi Chen, Siyu Song 等

arXiv cs.LG

Delta-Matching: Closing the Final Gap of Native 8-bit Training for LLMs

说明Delta-Matching:弥补大语言模型原生8位训练的最后差距

简介本文指出FP8注意力中前向与反向计算不一致会产生过时的delta,并导致训练失真,在1.67B和5.29B参数模型上尤为明显。作者提出Delta-Matching方法,证明其能在给定数值假设下恢复softmax梯度的零行和不变性,从而在注意力核心的所有前向与反向矩阵乘法中实现块缩放FP8训练。实验显示,该方法在所测试的架构、规模和训练阶段中,损失与下游表现均与BF16/FP32混合精度训练相当。

Haozhan Tang, Hao Kang, Han Cai 等

arXiv cs.CV · cs.LG

FlowMap-OPD: Rollout--Kernel Separation for On-Policy Distillation of Few-Step Flow-Map Generators

说明FlowMap-OPD:面向少步流映射生成器在线策略蒸馏的推演与核函数分离方法

简介该论文提出 FlowMap-OPD 框架,用于少步流映射生成器(如 MeanFlow 和一致性模型)的在线策略蒸馏,将学生状态获取与教师-学生分布比较分开。研究比较了多种分布监督方式,在 ImageNet 跨容量实验中,瞬时速度分布监督配合可独立调节的学生一致性效果最好。在文生图实验中,该方法在多专家整合和任务表现、收敛速度上优于多奖励 Flow-Map GRPO。

Zhiqi Li, Bo Zhu

★★★★☆ 值得关注
arXiv cs.CV 有代码

RelayVSR: Large-Small Model Collaboration for Efficient Real-World Video Super-Resolution

说明RelayVSR:大小模型协作的高效真实场景视频超分辨率

简介本文提出RelayVSR,一种基于稀疏生成接力机制的流式视频超分辨率框架。大型生成模型为稀疏关键帧生成参考潜变量,轻量级网络借助这些参考和低分辨率视频逐帧超分辨率,并通过视频感知参考优化(VARO)用强化学习联合训练两者。论文报告在1080p、单张A100 80GB上,15帧关键帧间隔的双端点版本达到29.29 FPS、峰值显存13.82 GB,高于对比方法FlashVSR-Tiny的7.80 FPS和24.447 GB。

看点提出大小模型协作的稀疏关键帧中继机制与双层奖励优化,对视频超分子领域有实质改进;实验含基准对比与速度显存数据。

Xijun Wang, Xin Li, Zirui Lang 等

arXiv cs.SE · cs.AI

Is manual software optimization a thing of the past?

说明手动软件优化会成为过去式吗?这篇论文研究大语言模型代理能否自主优化科学软件。

简介研究人员让基于大语言模型的代理优化 t-SNE、ssGSEA 和 graphlet 计数三类计算问题的软件,人类负责定义范围、正确性标准和验证机制。代理在部分任务中自主工作了数小时,代码维护者审阅并确认了正确性。结果显示,优化后的实现在所有测试配置中都更快,最多比现有最快工具快两个数量级,并包含一种新的 graphlet 计数算法。作者认为,对于范围明确且可验证的问题,手动软件优化或许正在成为过去。

Pavlin G. Poli\v{c}ar, Martin \v{S}pendl, Toma\v{z} Ho\v{c}evar

arXiv cs.CV · cs.LG

Evaluation Choices Shape Biomedical ML Claims: A Pediatric Pneumonia Benchmark Case Study

说明评估方式如何影响生物医学机器学习的结论:儿童肺炎基准研究

简介本文以公开的 Kermany 儿童胸片数据集为例,用九种图像分类器和受控评估流程进行研究。结果显示,评估设置(如是否冻结骨干网络、决策阈值)对 AUROC 和平衡准确率的影响大于不同预训练骨干网络之间的差异。此外,仅用文件属性、不使用图像解剖信息的分类器,在训练池内平衡准确率为 0.992,但在官方测试集上降至 0.496,说明数据划分存在问题。作者据此提出七项报告建议。

Bhanu Prakash Vangala, Sowmya Guda, Latha Peddi 等

arXiv cs.LG · cs.AI

Scaling Influence Functions in LLMs through Eigenbasis-Corrected One-Bit Gradient Projection

说明通过特征基校正的一位梯度投影扩展大语言模型中的影响函数

简介影响函数用于估计单个训练样本如何影响大语言模型的行为。本文提出特征基校正一位梯度投影方法(EOGP),先用EK-FAC降低梯度维度,再在保留的子空间内用PCA学习压缩方向,并对坐标做一位量化,以便在固定存储预算内保留更多坐标。论文称,在GPT-2上,该方法预测重训练结果比所评估的压缩基线更准确,且每个样本的存储量仅为其十六分之一;在1B至32B参数的OLMo 2 SFT模型上,EOGP与分配了百倍以上存储的基线相比仍具竞争力。

Jaeseung Heo, J Rosser, Dongwoo Kim

arXiv cs.LG · eess.SP · stat.AP

Kinematic signatures of impairment: Detecting alcohol intoxication in e-scooter riders using sensor data and machine learning

说明酒精影响的运动学特征:利用传感器数据与机器学习检测电动滑板车骑行者的酒精醉驾状态

简介该研究让25名参与者在测试场地骑乘装有传感器的电动滑板车,分别在清醒及血液酒精浓度0.05%和0.08%两种状态下进行。通过熵与标准差等特征分析,研究发现醉酒后骑行者的操控由持续的小幅修正转为少量、大幅度的被动修正。基于熵的分类器在留一人交叉验证中达到85%的总体准确率,清醒与高醉酒状态的AuROC为1.00。

Rahul Rajendra Pai, Marco Dozza, Alexander Rasch 等