AI 算法 · 2026年9月28日(周一)

机器学习、人工智能、自然语言处理、计算机视觉、多智能体。

arXiv cs.AI · cs.LO · cs.SY

Jev thinks "I don't know'', but doesn't say it: Introducing Sys1Cal-v1 Dataset for Probability Calibration

说明Jev会想“我不知道”,却不说出来:推出用于概率校准的Sys1Cal-v1数据集

简介本文针对System One模型Jev声称其返回的概率经过校准、但缺乏公开检验的问题,提出Sys1Cal-v1数据集,包含概率已知的真假问题,并以总变差距离评估Jev和开源基线SemIf。研究发现,Jev在Choice回答中似乎压制了第三种真值,即“不知道”,使P(A)与P(¬A)之和偏离1;补入该项后,Choice回答的中位软准确率从0.771提升至0.978。

Riccardo Porcedda

arXiv cs.CV

Generative Uncertainty as a Self-supervised Signal for Semantic Similarity Learning

说明生成不确定性作为语义相似性学习的自监督信号:利用文本生成视频模型的输出波动,在无人工标注的情况下筛选更稳定的视频特征

简介论文提出一种自监督方法,利用文本生成视频(T2V)扩散模型的生成不确定性来学习视频语义相似性,无需人工标注。作者观察到,模型对常见概念生成结果一致,对专门概念则方差较大,据此在VideoMAE、V-JEPA等预训练表示上学习一个掩码,保留跨生成稳定的特征、舍弃与生成噪声相关的特征。实验覆盖三项关键任务,结果显示所学特征子空间优于原始预训练特征和基线特征选择方法。

Enrico Pallotta, Sina Raoufi, Lars Doorenbos 等

arXiv cs.CL · cs.LG

Your Benchmark Is Not Saturated: Reviving Multiple-Choice Evaluation with Answer Pooling

说明答案池化:让多选题基准重新具有挑战性

简介论文提出 AnswerPool 方法:把同一语境下 N 道题目的所有选项合并成一个列表,要求模型为每道题选出答案。这样不需要重新编写题目,而是降低靠排除法猜对的可能性。作者在 8 个文本、图像和视频基准、18 个模型上测试,结果显示池化后所有模型都更难,并发现较弱的模型从排除法中获益最多。

Mohamed Eltahir, Abobaker Ahmed, Nawaf Barebood 等

arXiv cs.AI · cs.CV

TMCS: Tool-Grounded Multi-Agent Reasoning for Compositional Chemical Problem Solving

说明TMCS:面向组合化学问题求解的工具支撑多智能体推理框架

简介大语言模型在计算化学中有潜力,但需要受定量约束的分子修改、候选分子验证和失败后的系统修正的组合化学问题仍然困难。本文提出TMCS框架,把化学问题求解形式化为可解释的、借助工具的多智能体工作流:各专门智能体利用外部工具、少样本轨迹记忆和结构化反思迭代改进解答,并将生成、理解、编辑、描述和优化串成闭环流程。作者称在多个化学任务上,该框架在开源与闭源基础模型上都能持续提升化学推理能力,并达到当前最优表现。

Shengqin Wang, Jie Jin, Yu Cheng 等

arXiv cs.LG · cs.AI

Large Language Models for Automated Cross-Domain Machine Learning Task Type Identification: A Benchmark Dataset and Evaluation

说明用大语言模型自动识别跨领域机器学习任务类型:基准数据集与评估

简介本文研究大语言模型能否在用户只提供目标特征时,直接从数据集级信息推断数据领域与下游预测任务类型。作者同时发布了包含625个公开表格与时间序列数据集的标注基准。实验显示,基于大语言模型的方法在表格数据上优于AutoGluon(F1 macro为0.98对0.93),跨领域最佳模型为0.90,较小的本地可部署模型为0.75,显示部署可行性与准确率之间存在权衡。

Petros Tsialis, Steffen Limmer, Tobias Rodemann 等

arXiv cs.LG

Scalable In-Context Reinforcement Learning with Recurrent Algorithm Distillation

说明基于循环算法蒸馏的可扩展上下文强化学习

简介该论文提出循环算法蒸馏(RAD),用于在不更新权重的情况下,让Transformer在上下文中进行强化学习。RAD包含两个部分:压缩Transformer把较长的交互历史压缩为紧凑的潜在令牌,AD Transformer结合这些压缩记忆与近期交互生成动作。作者称,在多种环境中,RAD使用明显更小的上下文窗口即可达到标准算法蒸馏的渐近性能。

Yuanqing Ma, Zhenrui Zheng, Chenjun Xiao

arXiv cs.GT · cs.AI

Reverse Sequential Proportional Approval Voting Rule: Proportionality and Approximation Guarantees

说明逆序顺序比例认可投票规则(RevSeqPAV)的比例性与近似保证

简介本文研究基于认可的委员会选举中的逆序顺序比例认可投票规则(RevSeqPAV)。作者从两个方面分析它:比例代表性(以扩展正当代表性及其近似和比例度衡量)以及对实例最大PAV得分的近似。文章先对一般无限制的选举实例给出较强的负面结果,再指出在哪些设定下该规则能提供有意义的公平性与优化保证。

Georgios Papasotiropoulos

arXiv cs.AI

Hyper Algorithm Design Agent: Evolving Learnable Optimizer from Zero

说明超级算法设计智能体:从零演化可学习的优化器

简介论文提出一种双智能体框架,将元黑盒优化(MetaBBO)的算法设计过程视为编码任务。任务智能体通过代码演化不断改进目标方法的代码库,超级智能体则修改任务智能体及其自身,以实现开放式的设计演化。实验表明,该框架能从简单模板自动发现优于人工设计基线的新变体,并可快速适应不同优化领域。

Zipei Yu, Yue-Jiao Gong, Zeyuan Ma 等

★★★★☆ 值得关注
arXiv cs.LG · cond-mat.dis-nn

Weighting Schedules Govern What and When Score-Based Generative Models Learn from Multimodal Data

说明加权时间表如何决定分数生成模型从多模态数据中学习什么、何时学习

简介本文研究基于分数的生成模型在多模态数据上的训练动态。作者把积分损失按单一时刻分解,在固定信噪比下分析各时刻的贡献,发现信噪比决定模态方向与相对权重被学习的速率。在高信噪比时各模态方向同时学会、相对权重尚未学习;只有在信噪比接近一的分化时刻附近,所有特征才各自按不同时间尺度被学会。理论结果基于高维不平衡与层次高斯混合的精确分析,并在图像和人类基因组单倍型生成实验中得到验证。

看点将积分损失分解到单一时刻并以信噪比分析多模态特征的学习时间尺度,揭示了权重调度的作用;以精确高维分析支撑,并在图像和基因组数据上验证。

J\'er\'emie Klinger, Rapha\"el Urfin, Giulio Biroli 等

arXiv cs.LG · cs.AI

Teacher-Student Gaps Are Not Enough: Outcome-Guided On-Policy Distillation for Multi-Turn Autonomous Agents

说明教师-学生差距不够用:面向多轮自主智能体的结果引导型同策略蒸馏

简介论文研究多轮自主智能体的同策略蒸馏(OPD)。作者发现,教师与学生之间的词元分布差距大小,与教师指导的实际收益并不一致:差距大未必有益,差距小也可能关键。为此提出结果引导同策略蒸馏(OG-OPD),利用学生后续续写轨迹的最终任务结果来校准教师监督权重。在 ALFWorld、ScienceWorld 和 WebShop 上,该方法优于基线,任务成功率比原始 OPD 提高 3.6 至 17.7 个百分点。

Tong Zhang, Zhou Liu, Yihao Liu 等

arXiv cs.AI · stat.AP

Reliability Engineering for AI Systems: Challenges, Methods, and Directions

说明AI系统的可靠性工程:挑战、方法与方向

简介本文探讨如何判断AI系统能否在规定期限和条件下可靠地完成预定功能。作者将故障定义、FMEA、加速测试、现场监控等传统可靠性工程方法引入AI系统,并提出把故障分为组件、运行循环、智能体行为及网络与治理四个层次的诊断框架。文中以卷积神经网络对抗测试、感知误差传播和自动驾驶脱离接管三个案例说明该方法,并指出随着系统趋向自我演化,仍需新的测量方法和安全防护措施。

Rong Pan, Yili Hong, Min Xie

arXiv cs.LG

Collaborative Principle Evolution via Evidence Transfer for Scientific Discovery

说明通过证据迁移进行协作式原理演化,用于科学发现

简介本文提出COEVOLVE,让多个并行的原理演化分支通过共享实验证据协作,以加快基于大语言模型的科学假设探索。在六个科学发现任务上,其平均解质量为66.5%,高于单分支方法的57.0%,并在GPT-5.6-Terra骨干上获得1.80倍的平均墙钟加速。论文还讨论了证据共享何时有效,以及何时需要迁移保护机制。

Yingming Pu, Hongyu Chen, Tao Lin

arXiv cs.LG

When Should a Satellite Estimate Be Changed? Stress-Testing Neural Corrections for Evapotranspiration

说明卫星蒸散发估算何时应当修正?对神经网络修正方法的压力测试

简介该研究用151个通量塔的16366条观测数据,评估神经网络残差修正能否改进OpenET卫星蒸散发估算,并检验选择器能否判断何时修正有益、拒绝不可靠输入。在部分异常输入的测试中,Gain方法接受了全部32条物理上无效的记录,反而使平均绝对误差增加了21.6毫米/日。SupportGain在空间留出的异常输入下误差更低,但原文称这些故障分析属于探索性质,多数时间比较未通过多重比较校正。

Marco Trotta

arXiv cs.CL

MemoReason: Evaluating the Effect of Parametric Memory on Contextual Reasoning in LLMs

说明MemoReason:评估参数化记忆对大模型上下文推理的影响

简介该论文探讨大语言模型在推理基准上的好成绩,是来自真正的上下文推理,还是依赖参数中记住的事实。作者提出 MemoReason 基准,把真实人名、公司、日期替换为同类型的虚构实体,以比较两种设定下的表现。结果显示,多个近期模型在虚构设定下成绩下降最多 15.7%,但模型很少直接给出对应的事实答案,说明参数化记忆的影响比简单的事实回忆更复杂。

Zineddine Tighidet, Andrea Mogini, Jiali Mei 等

arXiv cs.CV · cs.RO

RoGSW4RLD: Feed-Forward 4D Gaussian Lifting for Robot World Model Rollouts

说明RoGSW4RLD:面向机器人世界模型推演的前馈式4D高斯提升方法

简介该论文提出RoGSW4RLD,用于把多机位同步的机器人世界模型推演视频提升为统一、可按时间查询的度量4D高斯场。方法分两阶段:第一阶段融合跨视角信息与机器人关节几何和运动学;第二阶段在保持初始时间位移的同时优化几何与外观。在256个保留的DROID片段上,其相比逐机位重建后校准合并的方法,新视角PSNR提高2.15 dB,深度AbsRel降低47%,机器人位移误差降低61%,并在Cosmos 3推演上也有效。

Jin Hyun Kim, Min Young Kim, Soohwan Song 等

★★★★☆ 值得关注
arXiv cs.CL

Epistemic Policy Divergence in Multi-Turn LLM Contamination: A Protocol-Gradient Investigation

说明多轮对话中大模型的认知策略分歧:基于来源权威梯度的协议研究

简介该研究关注大模型把对话历史当作未经核实的上下文,导致前面轮次注入的错误前提被later采纳为事实的现象。作者设计了五种按来源权威程度排列的污染协议,在三个模型上进行了22,500轮测试,结果显示不同模型采取了结构上不同的认知策略,且对指令覆盖与权威引用的响应差异显著。作者同时公开了评估框架与分类体系。

看点提出按信源权威梯度分层的多轮对话污染协议,并比较三种模型的认知策略差异,新意明确;实验覆盖22500轮并有人工标注校验。

Fahrell Giovanny, Geby Bayuningtyas, Sahrul Mukharom 等

arXiv cs.CV

PIVOT: Pivot-Aware On Policy Self Distillation for Multi-Turn VLM Agents

说明PIVOT:面向多轮视觉语言模型智能体的关键转折点感知在线自蒸馏训练方法

简介该论文研究多轮视觉语言模型智能体的强化学习训练。作者发现,在线自蒸馏方法的性能提升主要来自关键步骤处的物理状态回滚,但真实环境中难以实现。为此提出PIVOT框架,把关键步骤定位与状态恢复内化为词元级参数更新,无需训练时环境回滚,测试时也不需额外提示。在五个多轮任务上,Qwen2.5-VL-3B达到0.90的总体准确率,Qwen3-VL-2B达到0.92。

Jiazhou Zhou, Hu Zhou, Yucheng Chen 等

arXiv cs.AI 有代码

Narrowing the Horizon: Quantifying Topic Saliency Shifts in Generative Monoculture

说明收窄视野:量化生成式单一文化中的主题显著性变化

简介本文提出一种方法,用于衡量不同大语言模型系列之间主题显著性的变化,追踪后训练过程中哪些观点获得或失去关注。作者以气候变化议题为案例,展示了同质化如何影响各模型对多元解决方案的呈现,并测试了若干干预措施,结果表明专门化模型有助于保留更广泛的观点。

Oriane Peter, Elena Simperl, Kate Devlin

arXiv cs.AI

Training-Free Clinical Reasoning through Medical Ontologies and Cognitive Mapping: A Symbolic-Probabilistic Knowledge Graph Framework

说明无需训练的临床推理:基于医学本体与认知映射的符号-概率知识图谱框架

简介该论文提出CKG Reasoner,一种不依赖训练数据、把患者观察映射到医学知识的诊断框架,结合证据节点、信息门控与知识加权累积等机制。在登革热、疟疾和流感的六个回顾性队列上,作者以不使用结局标签的聚类协议进行评估,正类F1分数为0.634至0.996。论文表明结果仅体现知识驱动的证据分离与可审计性,并不代表前瞻性临床有效性或优于其他方法。

Surajit Das

arXiv cs.AI

AbGaze: Attentive Geometric Representation Learning for End-to-End Antibody Design

说明AbGaze:用于端到端抗体设计的注意力几何表示学习

简介这篇论文提出AbGaze,一个基于注意力几何表示学习的端到端抗体设计框架。它刻画抗原表面相对于抗体残基局部坐标系的距离、空间方向和表面法向,并按界面上下文自适应地聚合这些几何相互作用。该表示被用于多CDR协同设计、复合物结构预测和亲和力优化三项任务,论文报告其在三项任务上均优于先前方法。

Jiashuo Wang, Siqi Fan, Yizhen Luo 等

arXiv eess.AS · cs.LG

Simulation-Based Inference for Plate Reverb System Identification

说明基于仿真推断的板式混响系统辨识

简介本文针对第一届 DAFx 参数估计挑战赛的任务 A,即从脉冲响应中反推板式混响模型的物理参数。作者采用仿真推断(SBI)框架,用仿真器生成的数据训练神经网络,使其在给定脉冲响应时估计板参数的分布。对新的脉冲响应推断只需一次网络前向计算,无需再调用仿真器。针对每个测试观测,还会通过从当前估计分布采样、仿真并微调网络,得到专用网络。

Dylan Sechet, Marc Evrard, Matthieu Kowalski

arXiv cs.CV

Beyond Saying Less: Fine-Grained Alignment for Informative and Faithful Vision-Language Models

说明不止于少说:面向信息丰富且忠实的视觉语言模型的细粒度对齐

简介大型视觉语言模型常出现物体幻觉,即描述中提到图中并不存在的物体。论文指出,仅靠在线强化学习时,模型可能通过少说有效内容来减少幻觉。作者提出细粒度对齐框架,包括构建稠密物体存在与缺失标注数据集DOPA,以及按子句分配信用的SCAPO方法。实验显示,该方法在生成任务中输出信息丰富且忠实的描述,并在判别性评测中带来明显提升。

Xingming Long, Jie Zhang, Yuecong Min 等

arXiv cs.CL

Decide, Don't Generate: Competitive Dimensional ABSA with Jev's Typed Decisions

说明决策而非生成:基于 Jev 类型化决策的竞争性维度式 ABSA

简介该论文研究基于方面的情感分析(ABSA),主张不必依赖文本生成,而是用冻结模型 Jev 回答类型化问题(评分、标签概率、是/否判断),再通过 CPU 上拟合的 488 个系数与标注方案对齐,完成 SemEval-2026 Task III Track A 的三项任务。在六种语言十个语料的效价-唤醒度回归上,系统取得 1.0645 RMSE,在参赛系统中误差最低;在三元组和四元组抽取上,连续 F1 分别为 52.09 和 44.06,高于微调后的 Llama-3.3-70B 与 GPT-OSS-120B 基线。

Yiqun Zhang, Peidong Wang, Zihan Wang 等

arXiv cs.CV · cs.LG

Scaffold Then Internalize: Representation Injection for Diffusion Transformers

说明先搭脚手架再内化:面向扩散Transformer的表示注入

简介该论文提出REPI(表示注入)训练框架,把预训练视觉编码器的表示先作为临时脚手架注入扩散Transformer,再逐步被模型内化。与将扩散表示投影到编码器空间的REPA方法方向相反、可互补。文中称REPI在多种骨干网络上优于REPA,两者结合后效果进一步提升,并报告仅160K训练步的REPI+REPA即可达到原始SiT训练7M步的水平。

Han Fu, Jiacheng Chen, Baoquan Zhao 等

★★★★★ 值得关注
arXiv cs.LG · cs.CV

Narrow Multimodal Fine-Tuning Can Induce Emergent Misalignment

说明窄域多模态微调可能诱发涌现性失准

简介本文研究在视觉-语言模型上,用狭窄的多模态任务(涉及易受攻击代码、随意使用家居物品、对日常场景的阴谋式解读)进行微调,是否会引发涌现性失准。作者在十五个不同规模的商用与开源模型上测试,发现这种微调会导致广泛的失准行为,并迁移到无关任务中。

看点首次将情境性错位扩展到视觉语言模型,在15个模型上验证跨任务迁移与缓解策略,证据较充分,影响面较广。

Shunchang Liu, Lukas Fluri, Xin Chen 等

arXiv cs.CV

Domain-adaptive Zero-Shot Image Enhancement via Locality-Constrained Diffusion Guidance

说明基于局部约束扩散引导的跨域零样本图像增强方法(LocDiff)

简介本文提出LocDiff,一种面向图像增强的局部约束引导方法,可作为预训练扩散模型的零样本扩展。该方法在跨域转换中保留源域的关键局部特征,同时允许次要区域不受约束。论文在艺术画转写实照片和低质量胎儿超声图像增强两项任务上进行了评估,结果显示其在真实感与保真度之间取得了较好的平衡。

Theresa Neubauer, Dimitrios Lenis, Astrid Berg 等

★★★★☆ 值得关注
arXiv cs.LG · cs.CV 有代码

λ-JEPA Spectral Anti-Collapse Regularization for Self-Supervised Learning

说明λ-JEPA:用于自监督学习的谱防坍缩正则化

简介该论文研究联合嵌入自监督学习中表示坍缩的问题,发现投影头之后施加的防坍缩目标未必能阻止主干网络的维度坍缩。作者提出谱防坍缩正则化器SACReg,并以λ平衡为理论依据,将其应用于JEPA得到λ-JEPA。论文称其在ImageNet-1k分类及八个下游图像数据集的线性探测迁移上优于LeJEPA和VISReg,在视频自监督任务上也优于LeVJEPA和V-JEPA 2。

看点在JEPA基础上引入基于λ平衡的谱反坍缩正则项,并给出线性与非线性分析及ImageNet、视频基准的对比实验,属于有实质改进的组合。

Berker Demirel, Cl\'ementine Domin\'e, Valentino Maiorca 等

arXiv cs.AI

The Argument and the Letterhead: Source-Position Coherence in AI Evaluation

说明论点与抬头:AI评估中的来源立场一致性

简介这篇论文研究AI评估者是否会区分“论点本身的好坏”与“论点来自谁”。作者用同一批固定文本(涉及美国AI政策、德国债务刹车和瑞士核能),在不同来源署名下收集了2976份有效评估。结果显示,当论点内容变化时,两个来源之间的评分差距也随之变化,作者据此认为来源与立场的一致性是一种合理解释,但仍与可信度、真实性和任务理解等其他解释并存。

Michele Loi

arXiv cs.AI

Textual User Taste: Natural-Language User Context for Foundation-Model Recommender System at Scale

说明文本化用户品味:面向大规模基础模型推荐系统的自然语言用户画像

简介论文提出 Textual User Taste,根据收听行为、互动信号、内容元数据及可选的用户反馈,生成结构化的自然语言品味画像,并已部署到数百万 Spotify 用户。作者介绍了其生成、评估、优化与维护的工业级流程,并以多维框架评估其作为生产表示的价值。结果显示,与行为嵌入结合后,未来曲目预测的 MRR 提升 0.6%,搜索排序的 NDCG@7 提升 2.2%;同时该画像支持自然语言调整,但在否定表达和短期时间适应方面仍有局限。

Ghazal Fazelnia, Paul Gigioli, Eliza Klyce 等

arXiv cs.CL

Measuring Collapse and Correction in Homogeneous-Panel LLM Debate

说明衡量同质化LLM辩论中的坍塌与纠正

简介本文研究多个同类大语言模型进行多选题辩论时的答案变化,指出答案改变不等于改进。作者提出可审计的转换账本,记录辩论中的坍塌、纠正等情况,并在6,925次MMLU-Pro辩论中统计出253次坍塌。实验显示,只防止坍塌的干预策略可能会损失大量纠正,因此不宜只以此评判策略好坏。

Xin Li, Mengbing Liu, Chau Yuen

arXiv cs.CV

Evaluating Hierarchy-Aware Deep Learning for the Recognition of Tironian Notes

说明评估层级感知深度学习在提洛速记符号识别中的表现

简介本文研究提洛速记符号之间的结构关系能否辅助自动识别。作者使用 Hellmann 的 Supertextus Notarum Tironianarum(SNT)数据,比较了扁平分类模型(如 ResNet18、ConvNeXt、Swin、ViT)与基于层级的粗到细模型及路由模型,在手写样本和 Vergilius Turonensis 手稿样本上测试,并考察有限少样本适应的影响。结果显示,层级模型在未经适应时表现较好(HD-CNN 的 Top-1 为 45.43%),而扁平模型在少样本适应后最佳(Top-1 为 82.09%)。

Yule Kang, Thomas Gorges, Janne van der Loop 等

arXiv cs.LG · cs.AI

Multi-Attractor GNNs: Set-Valued Expressivity Beyond Unique Equilibria

说明多吸引子图神经网络:超越唯一平衡点的集合值表达能力

简介本文指出,许多组合与科学问题存在多个同样有效的解,而传统循环或平衡型图神经网络通常只有唯一不动点或单一训练目标。作者证明,利用多个平衡点,同一套权重共享的消息传递网络可以表示集合值的置换等变映射:不同初始化会收敛到不同的有效解。实验涵盖伊辛基态、蛋白质图模块检测和化学反应稳态,学习到的更新能产生多个高质量预测,平均解质量优于所测试的基线。

Jialin Liu

arXiv cs.CL

When Words Speak Louder than Images: Towards Understanding Language Bias in Vision-Language Models

说明当文字比图像更有话语权:理解视觉-语言模型中的语言偏差

简介视觉-语言模型常过度依赖语言线索而忽视图像证据,导致错误预测。本文以词补全任务为基础,提出一个诊断框架,把推理过程拆分为四个相互关联的阶段,以追踪语言偏差的传播。研究考察了语言先验和跨模态覆盖这两个关键因素在各阶段的变化,并揭示二者之间的相互作用机制。

Yizhou Fang, Siyue Chen, Zimo Qi 等

arXiv cs.LG · cs.AI · cs.CV

eval-unlearn: Benchmarking unlearning in Text-to-Image Diffusion Models

说明eval-unlearn:文生图扩散模型概念遗忘技术的统一基准测试

简介文生图扩散模型的概念遗忘技术越来越多,但各方法的评估条件不一,难以公平比较。本文提出开源Python库eval-unlearn,整合了十二种已发表的遗忘技术和九项评估指标,并提供可复现的统一基准框架。作者还在HuggingFace上发布了排行榜和交互式工具,以裸露内容概念擦除为案例,比较了全部十二种技术。

Mansi, Nikhil Raghavan, Zixia Huang 等

arXiv cs.LG

SpikeCredit: Temporal Credit Carrier for Reinforcement Learning with Sparse Rewards

说明SpikeCredit:面向稀疏奖励强化学习的时序信用载体

简介本文针对稀疏奖励下强化学习中信用分配困难的问题,提出“时序信用载体”(TCC)的概念,认为脉冲神经网络可通过膜电位轨迹和事件驱动脉冲保留信用相关信息。作者据此提出 SpikeCredit 框架,包含快速读取与慢速写入两条通路。在稀疏奖励的 MuJoCo 任务上,相比稀疏 SNN 基线,Last10 回报在 Ant、Hopper、Swimmer、Walker2d 上分别提升 1169%、953%、723%、1781%,并在 Swimmer 上超过稠密奖励基线 113%。

Yingchao Yu, Pengfei Sun, Wenxuan Pan 等

arXiv cs.DC · cs.AI

WavePP: High-Throughput Pipeline Parallel LLM Prefill under Prefix Reuse

说明WavePP:前缀复用场景下的高吞吐流水线并行大模型预填充

简介该论文提出 WavePP,一种基于 TensorRT-LLM 构建的预填充运行时,通过在流水线执行的同时重叠请求准入,解决跨阶段缓存前缀复用的协调开销问题。在 GLM 5.2 和 MiniMax M2.7 的 40 个测试设置中,有 37 个吞吐量有所提升;在并发 128 且缓存复用率高时,分别提高约 2.91 倍和 2.02 倍。在 Kimi K3 的 28 个设置中,于并发数不低于 8 的 18 个设置里吞吐量均为最高。

Aaryam Sharma

arXiv cs.CL 有代码

Rubric-Aware On-Policy Self-Distillation for LLM Personalization

说明面向LLM个性化的感知评分表的同策略自蒸馏(GRASP)

简介该论文提出GRASP框架,用于大语言模型的个性化回答。它把用户专属的评分表条目转化为词元级监督信号:无评分表的学生模型与获知评分表的教师模型对齐下一词分布。同时引入基于评分表的教师验证(RTV),仅保留教师充分覆盖目标条目的样本。论文称在LaMP-QA个性化问答基准上,GRASP在多个基础模型上取得了领先的结果。

Yilun Qiu, Xiaoyan Zhao, Chengbing Wang 等

arXiv cs.AI

Imprint Reader: From Weight-Update Readout to Behavioral Intervention

说明Imprint Reader:从权重更新读出到行为干预

简介该论文提出 Imprint Reader 模型,通过 SMaRT 训练让模型用自然语言描述冻结的权重更新,即读出模型学到了什么。在未见过的更新上,知识类描述的 Pass@100 为 2%,行为类为 16%,说明自然语言读出可行但可靠性仍需提高。Reader 还可作为可微代理,指导权重编辑方法 MetaEdit 进行干预,在安全与推理等任务上报告了指标提升。

Guanxu Chen, Qihao Lin, Jing Shao

arXiv cs.LG

Latency and accuracy tradeoffs in Spiking Neural Networks

说明脉冲神经网络的延迟与精度权衡

简介本文研究脉冲神经网络(SNN)在语音指令识别中的延迟问题。作者提出流水线延迟搜索方法,按层平衡精度与延迟,并结合量化感知训练与阈值调节,构建名为Falcon的框架。在GSCV2和SSC数据集上,模型精度分别为96.31和83.02,建模的网络核心延迟分别为119.64和124.00微秒。

Zhanglu Yan, Zixuan Zhu, Kaiwen Tang 等

arXiv cs.LG

On-Policy or Off-Policy Learning? A Systematic Study of Distillation Dynamics

说明同策略还是异策略学习?蒸馏动态的系统研究

简介该论文在受控的强到弱知识蒸馏设置中,分别改变回放策略、词元级KL散度方向和学习率,考察回放策略的作用,涵盖Llama3和Qwen2.5模型及科学、医学、算术等推理任务。结果显示,词元级KL方向更影响任务表现和输出覆盖,学习率则决定遗忘和更新稀疏性;正向KL对回放策略稳健,反向KL则更敏感且偏好学生生成的数据。同策略数据能提升对更难Countdown算术任务的泛化,但后续RLVR训练后优势不稳定。

Julianna Piskorz, Antonin Berthon, Mihaela van der Schaar

★★★★☆ 值得关注
arXiv cs.LG 有代码

AIM-ZO: Activation-Informed Subspace Maintenance for Zeroth-Order LLM Fine-Tuning

说明AIM-ZO:面向零阶大模型微调的激活信息子空间维护方法

简介论文提出AIM-ZO,一种用于大语言模型微调的零阶优化方法,只需前向计算即可估计参数更新,无需反向传播和激活存储。该方法利用前向激活作为局部方向信息,在训练中持续融入一个不断演化的宽子空间,并只激活其中较小的共享与采样方向。在5个大模型和11个下游任务上,于前向计算预算相同的条件下,其六任务平均成绩分别超过OPT-2.7B上最强的基线1.26个百分点、OPT-30B上MeZO方法2.85个百分点。

看点在零阶微调中引入激活信息的子空间维护,与已有低维子空间方法相比有实质改进;在5个LLM、11个任务上对比充分,改进幅度稳定。

Yue Xie, Zhi Zheng, Yunpeng Ba 等

arXiv cs.AI 有代码

Towards Reliable AI Data Scientists: Data Agents with Workflow Harnesses

说明迈向可靠的AI数据科学家:带工作流约束框架的数据智能体

简介本文以工作流约束框架为视角综述数据智能体,将其划分为感知、规划、执行、验证和修复五个阶段,并分析各阶段的技术路线。文章还指出了四个尚未解决的可靠性问题,并整理了数据智能体的任务类型、应用场景和评测基准。

Huachi Zhou, Yujing Zhang, Jiahe Du 等

arXiv cs.CL · cs.CY 有代码

SCBO: Semantically Coherent Batching and Ordering for LLM-Based Social Surveys

说明SCBO:面向基于大语言模型社会调查的语义连贯分批与排序方法

简介该论文提出SCBO,一种无需训练的框架,用于让大语言模型在一次提示中预测多道调查题目,以替代逐题提示的做法。方法包括提取题目语义表示、将相关问题分组并构建共享参考库,并按由易到难排序目标问题。作者在四个大规模调查数据集和四种大语言模型上进行实验,结果显示其相比非分批基线显著降低了token消耗和推理时间,且总体上提升了预测准确率。

Yuanzi Li, Lingjie Wang, Zihang Tian 等

arXiv cs.RO · cs.AI · cs.CV

Spatial Grafting: Grounding 3D Features for Flow-Matching Robot Policies

说明空间嫁接:为流匹配机器人策略提供度量级三维特征

简介该论文针对预训练的视觉-语言-动作模型和世界-动作模型对几何信息隐含的问题,提出一个轻量级的空间模块“空间嫁接”,把冻结的三维重建特征绑定到以机器人为参照的度量几何上,并通过交叉注意力注入流匹配动作专家,不改动原有感知通路。在RoboTwin 2.0双臂基准上,嫁接后的多个模型均有提升,其中π0.5在干净与随机场景分别达到94.0%和92.4%,高于已发表的三维条件策略WAM4D。

Dingsheng Liu, Yangzheng Wu, Mahboubeh Asadi 等

arXiv cs.CV · cs.LG

AnswerMap: Faithful Spatial Interpretability of VLMs from Answer Posteriors

说明AnswerMap:基于答案后验的视觉语言模型忠实空间可解释性方法

简介该论文提出AnswerMap,一种无需训练、与任务无关的黑盒视觉解释方法。它把图像切成行和列条带,分别与问题一起交给冻结的模型判断相关性,再用行列“是”概率的外积得到空间图。实验在四个模型和三类查询上验证了它的忠实性:图的位置与模型自身指向吻合(AUC 0.85,注意力为0.38),删除对应区域后53%的正确答案翻转(注意力为19%)。

Mohamed Eltahir, Fardows Adam, Duaa M. Tahir 等

arXiv cs.MA · cs.IT · cs.LG

Bregman Consensus

说明布雷格曼共识:一种多智能体参数共识的迭代方法

简介本文研究一组智能体如何就一组参数达成共识。各智能体采用同一类布雷格曼散度来衡量彼此估计之间的分歧,但对其他成员的能力信任程度不同。每个智能体将自己的估计更新为所有个体估计的加权重心,对更可信的成员赋予更大权重。作者证明这种更新会自然形成一个迭代算法,并收敛到唯一的共识估计。

Andrei N. Soklakov

arXiv cs.CV

DrawingsDreamer: A Unified Multi-View Engineering Drawings Generation Model

说明DrawingsDreamer:统一的多视图工程图生成模型

简介该论文提出 DrawingsDreamer,一个基于大语言模型的统一框架,用于生成多视图矢量工程图。它把工程图生成视为序列建模任务,不使用栅格图像编码器,并采用分层后缀标记化的精简表示。模型通过渐进式任务感知课程学习,从局部结构修复过渡到整体生成。论文称,该模型在多种有条件和无条件生成任务中,几何保真度和语法准确性都表现较好。

Shurui Liu, Weide Chen, Changwang Yi 等

arXiv cs.LG

Disentangling Lung-Cancer CT/LDCT AI: A Systematic Evidence Map of Clinical Tasks, Evidence Chains, and Translational Gaps

说明肺癌CT/LDCT人工智能研究的系统证据图谱:临床任务、证据链与转化缺口

简介本文系统梳理了以CT或低剂量CT(LDCT)为核心的肺癌人工智能研究,共纳入2016至2026年间的293项研究。其中230项为检测类,8项为未来风险预测类,55项属其他类别。研究主要依赖临床变量、3D CT/LDCT和影像组学,而外部验证、校准、决策曲线分析等证据较少。仅31项研究(10.6%)完整具备六层实质性证据链,且推理与解释环节流失最多。

Surajit Das

arXiv cs.LG 有代码

Long-Horizon Scaling: How Model Capabilities Shape the Returns to Computation

说明长时程智能体的扩展规律:模型能力如何决定计算回报

简介该论文研究长时程智能体在持续交互与任务反馈中,已有能力如何影响延长计算后的收益。作者在AutoLab和EdgeBench两个基准上发现,初始表现与后续增长对应不同能力,并用按任务类别拟合的逻辑幂律模型描述能力与时间的关系。基于此,作者提出一种继续运行的策略,在回放实验中节省约三分之一的完整运行时间,相对分数损失分别为2.4%和3.3%。

Haoyu Zheng, Zhengyu Chen, Huaisheng Zhu 等

arXiv cs.AI

EP-Mem: Elastic Privacy Memory for Social Relationship-Aware LLM Agents

说明EP-Mem:面向社交关系感知型大模型智能体的弹性隐私记忆

简介本文提出EP-Mem,一种弹性隐私记忆架构,把隐私视为用户在不同社交角色间自主控制信息边界的问题,并构建了长期多方基准EP-Bench。实验显示,该方法隐私分类准确率达94.0%,披露许可判断准确率由22%提升至68%,隐私泄露减少75.6%,同时保持检索性能与跨基准泛化能力。

Fengzhou Sun, Yuan Zhang, Xintong Yu 等

arXiv cs.CV · cs.LG

Beyond Selection: Token Parameterization for Extreme Visual Token Compression

说明超越选择:面向极端视觉令牌压缩的令牌参数化方法

简介本文针对视觉语言模型在极端压缩预算下的视觉令牌压缩问题,提出从令牌参数化角度看待压缩,并给出可压缩性与可学习性两个目标。作者设计了轻量的四步压缩器 Braco,结合变换基截断、基坐标嵌入、正交重参数化和空间残差令牌。实验显示其在23至64倍压缩下具有较好的精度与效率平衡,并在144倍压缩时仍具竞争力。

Rui Zhong, Yu Li, Zheyu Yan 等

arXiv cs.CV · cs.AI 有代码

Token-Disentangled Latent Test-Time Scaling for Vision-Language Reasoning

说明面向视觉-语言推理的令牌解耦潜在测试时扩展:按令牌角色区分优化隐藏状态

简介该论文提出一种推理时方法,在模型生成的初始推理轨迹上,只优化一段较短的隐藏状态前缀,并把视觉反馈和推理反馈分别导向对图像敏感的令牌与高熵令牌,其余令牌用锚点正则项约束。论文报告,在Qwen2.5-VL-7B和InternVL3.5-8B上,该方法在感知与推理基准的宏平均准确率分别比CoT提高+2.57和+1.51,并在相同解码候选预算下优于较强的输出空间测试时扩展基线。代码已公开。

Hao-Xuan Ma, Yihao Liu, Yutao Sun 等

arXiv cs.CV · cs.AI

Generative AI-Based Data Augmentation for Oral Lesion Classification: The PhotoMOCI Dataset and Benchmark

说明基于生成式AI的口腔病变分类数据增强:PhotoMOCI数据集与基准测试

简介口腔癌早期可通过照片影像检测,但标注数据稀缺限制了深度学习模型的发展。本文发布了PhotoMOCI数据集,并比较了传统与生成式(GAN、扩散模型)数据增强方法对分类器的影响。作者还提出合成图像过滤器SIF,用两个辅助模型筛选既真实又具代表性的合成图像;结果显示,SIF过滤后的方案在各设置下均优于传统增强,在PhotoMOCI上ResNet50和ViT分别提升1.73%和2.35%。

Marco Parola, Mario G.C.A. Cimino, Sabrina Senatore

arXiv cs.CL · cs.CV · cs.MM

SignFLIP: A Unified Model for Sign Language Translation and Generation via Stage-wise Alignment at Scale

说明SignFLIP:通过分阶段对齐在大规模数据上统一手语翻译与生成的模型

简介这篇论文提出 SignFLIP,一个以大语言模型为核心的统一框架,同时处理手语翻译和手语生成,实现文本与手语之间的双向映射。模型采用对称结构,并基于大规模数据分阶段训练,先进行预对齐,再逐步优化共享的手语-文本表示。多个基准测试显示,它在翻译和生成任务上与专用模型相比具有竞争力,并能较好地迁移到手语识别任务。

Zhaoyi An, Sihan Tan, Youngbae Hwang 等

arXiv cs.CL

Layer-Informed Fine-Tuning via Three-Stage Functional Segmentation of LLMs

说明基于大语言模型三阶段功能分段的分层微调方法

简介本文研究大语言模型在跨语言材料上的推理过程,提出模型各层在概念化、推理和文本化三个阶段存在结构化分工的假设。基于敏感性分析的瓶颈识别机制,找出对特定任务最关键的功能阶段。作者提出分层信息微调方法(LIFT),只更新这些关键层,据称能加快训练并提升模型表现。

Junning Shao, Siwei Wang, Zhixuan Fang

arXiv cs.LG

Temporal Heterogeneous Graph Pretraining for Relational Deep Learning

说明关系深度学习中的时序异构图预训练:用两种时间编码提升下游预测

简介该论文研究关系深度学习(把数据库的记录与外键关系建模为异构图)中的时间信息处理。作者提出同时编码两类时间信号的框架:多尺度时间编码刻画记录年龄,旋转时间编码刻画记录之间的有符号间隔,并配合三种自监督目标进行两阶段预训练。在五个RelBench数据集的11个分类与回归任务上,最佳分阶段方案相较同编码的有监督训练分别提升3.02%和1.06%,相较无预训练且无这两种编码的对照分别提升3.24%和2.37%。

Yixin Peng, Er Jin, Diego Collarana 等

arXiv cs.LG 有代码

CADENCE: A Confidence-Adaptive Dual-Expert Network for Fast and Accurate Time Series Classification

说明CADENCE:用于快速准确时间序列分类的置信度自适应双专家网络

简介该论文提出 CADENCE,一种可在 CPU 上运行的双专家时间序列分类架构,由卷积线性专家和分布区间专家组成,并通过验证集元路由器在两者之间选择或加权融合。在 109 个等长 UCR 档案数据集上(每个数据集 30 次重采样)平均准确率为 0.8864,排名第二,仅次于 HIVE-COTE 2.0(0.8895),差异无统计显著性,平均每个数据集耗时约 17.53 秒(双核 CPU)。

Onisa Mapunda

arXiv stat.ML · cs.LG

A Hierarchy of Entropy-Shapley Games for Multivariate Predictive Uncertainty

说明基于熵-Shapley 博弈层次结构的多变量预测不确定性归因

简介这篇论文针对多变量概率预测输出的不确定性,提出三层基于熵的 Shapley 博弈框架,分别对应从单分量边际熵到完全联合熵的不同输出层面。该框架能够归因出输入特征对输出分量之间依赖结构的影响,这是按分量分析的方法所无法捕捉的。作者给出了联合归因的链式法则分解,并用条件总相关刻画跨分量项,提供了闭式和基于采样的估计方法。论文还展示了该框架如何比较从分布回归到零样本时间序列基础模型等不同概率模型所学到的联合结构差异。

Niklas Koenen, Claudia Battistin, Jeriek Van den Abeele 等

arXiv cs.AI

ASCT: Attentive Search over Counterfactual Trees for Credit Assignment in Agentic Reinforcement Learning

说明ASCT:面向智能体强化学习信用分配的反事实树注意力搜索

简介该论文提出ASCT框架,在训练阶段利用多步搜索为智能体工作流中的单个决策分配局部信用,以替代只看最终结果的回报。在HotpotQA检索增强生成任务上,三种实例(Uniform、UCT与成本感知的AgentUCT)的平均效用均优于轨迹回报PPO和经工作流改造的VinePPO,其中ASCT-AgentUCT在三个随机种子下效用为0.6187,高于VinePPO的0.5939。

Yang Li, Jinhan Yang, hai liu 等

arXiv q-bio.QM · cs.LG · physics.med-ph

Uncertainty Quantification in Cardiac Model Personalisation from Ultrafast Ultrasound

说明基于超快超声的心脏模型个性化中的不确定性量化

简介该论文利用超快超声剪切波弹性成像(SWE)追踪心肌硬度随心动周期的变化,并以此为目标对心脏模型进行个体化参数估计。作者采用基于模拟的推断(SBI)和神经后验估计,给出主动硬度尺度、收缩速率和舒张速率的后验分布。在六名健康志愿者中,四人通过先验支持诊断并用于定量分析;后验预测中位数相对先验预测中位数,曲线均方根误差从12.61±5.55 kPa降至1.14±0.38 kPa。

Camilla Ferrario, Maelys Venet (CHU Bordeaux), Olivier Villemain (CHU Bordeaux) 等

arXiv cs.LG

Adversarial Consistency-Guided Representation Learning for Multi-view Clustering

说明用于多视图聚类的对抗一致性引导表示学习:通过对抗训练让共享表示不再暴露视图身份,从而提升跨视图聚类的一致性。

简介这篇论文提出了ACGRL框架,用于多视图聚类。作者指出,为捕捉跨视图一致性而学习的共享表示仍可能保留识别视图来源的信息,从而影响跨视图聚类结构的一致性。ACGRL借助梯度反转的视图判别器降低视图可识别性,得到不变的参考表示,并将其冻结后用于分离视图特有信息与跨视图共同信息。论文称在四个基准数据集上,该方法的聚类表现优于代表性的多视图聚类方法。

Yuchen Lin, Kunpeng Xu, Ying Fang 等

arXiv cs.CL

Understanding On-Policy Distillation: A Mechanistic Interpretability Perspective via Sparse Crosscoders

说明理解同策略蒸馏:基于稀疏交叉编码器的机制可解释性视角

简介该论文借助稀疏交叉编码器(crosscoder)研究同策略蒸馏(OPD)对学生模型内部表示的影响。作者提出“交换读出”方法,以衡量训练后学生对各特征的使用方式如何变化。结果显示,OPD既不创造新特征,也不传递教师的特有特征,而是对已共享的特征重新加权;在OPD前进行的SFT预热也主要通过重新加权共享特征发挥作用。

Zichao Yu, Qianshuo Ye, Xu Wang 等

arXiv cs.MA · cs.AI

Prompted Identity Degrades Cooperation in Multi-Agent LLM Systems

说明提示身份会降低多智能体LLM系统中的合作

简介论文研究多个大模型智能体互相公开各自模型身份时的合作情况。作者发现,只要智能体知道彼此的模型系列,群体就会按标签分成派系,优先与同标签的智能体互动,即使任务并不要求如此。在两个合作游戏和一个推理基准上,群体的成功率从96%降至81%,决策所需轮数与令牌数也明显增加。隐去身份标签即可有效缓解该现象。

Xavier Del Giudice, Alessio Palma, Matteo Migliarini 等

arXiv cs.CV 有代码

NucShare: A Shared-Decoder Framework for Lightweight Nuclei Instance Segmentation

说明NucShare:用于轻量级细胞核实例分割的共享解码器框架

简介该论文提出 NucShare,用一个 U-Net 式解码器在细胞核像素、水平-垂直和分类三个任务间共享,每个任务仅配轻量预测头,参数量比三个独立解码器少 37%。其教师模型使用 UNI2-h 编码器,共 6.905 亿参数;学生模型 NucShare-S 采用 ConvNeXt V2-Tiny 编码器,共 3,470 万参数,通过输出层蒸馏学习教师的知识。在 PanNuke 上,学生模型保留教师 99.1% 的 mPQ(0.519),高于 CFR-SAM-H 的 0.511,单张切片推理速度是教师的 27.5 倍。

Wenyan Li, Xiangyang Jia, Wenlong Zhong 等

arXiv cs.CL · cs.AI

From Normative Frameworks to Alignment Data: Constructing and Evaluating SFT and Preference Data

说明从规范框架到对齐数据:构建与评估 SFT 及偏好数据

简介本文提出一种由专家主导的方法,把伊斯兰伦理、神学与法学传统的规范框架转化为语言模型的对齐数据。七位领域专家历时约一年,找出模型的对齐缺陷,整理期望回答并构建偏好对,形成约 2.8K 条监督微调样本和 5.4K 组偏好对。对照实验显示,仅用微调数据训练的模型在盲评中获得更多偏好,加入偏好数据后差异缩小且未达统计显著;通用基准上未见明显能力退化。

Husrev Taha Sencar, Rezart Beka, Danish Naeem 等

arXiv cs.RO · cs.AI · cs.CV

ReCAT: Remember, Count, and Time: Structured Recurrent Memory for Robot Manipulation

说明ReCAT:用于机器人操作的结构化循环记忆(记住、计数与计时)

简介本文提出ReCAT,一种带结构化循环记忆的语言条件策略,使机器人在当前传感器看不到的信息下仍能做决策,如回忆先前视觉线索、计数重复事件和估计经过时间。在LIBERO上平均成功率为95.3%,在RMBench上为62.4%;在三项真实机器人任务上,最佳变体平均成功率为66.7%,而最强的短历史基线为8.3%。

Pankhuri Vanjani, Mostafa Hatab, Can Mizrakli 等

arXiv cs.HC · cs.AI

Alignment Games: A Framework for Conceptual Repair in Human-AI Collaboration

说明《对齐博弈》:人机协作中概念偏差的修复框架

简介本文提出“对齐博弈”框架,用于在人机交互中显式呈现并修复概念理解上的任务相关差异,例如同一个“适合五岁孩子”的要求,不同协作者可能理解为不同的视觉风格。作者基于情境化概念理论刻画任务概念框架,定义了作用于情境、解释推理或结果框架的对齐动作,并通过教育内容生成、创意编程和议论文写作的例子展示这些动作如何组合成修复序列,进而提出运行时支持任务充分概念对齐的设计原则。

Hari Subramonyam, Maneesh Agrawala, Sean Follmer

arXiv math.NA · cs.AI · cs.NA

GAC-PINN: Geometry-Adaptive and Constraint-Enhanced Physics-Informed Neural Networks

说明GAC-PINN:几何自适应与约束增强的物理信息神经网络

简介本文针对梯度陡峭、界面尖锐或时空耦合严重的问题,提出几何自适应且约束增强的物理信息神经网络(GAC-PINN),包含梯度驱动的自适应网格映射、自适应带宽硬约束构造、高斯傅里叶特征映射和算子感知路由等组件。在粘性Burgers方程、尖峰二维Poisson问题和Allen-Cahn方程三个基准上,其相对L2误差均优于基线方法。

Yanxin Zhang, Yong Zhang, Houbiao Li

arXiv cs.CV · cs.AI

CarveMix-RC: Addressing Rare-Class Imbalance Through Lesion-Aware Synthetic Augmentation for Brain Metastasis Segmentation

说明CarveMix-RC:通过病灶感知合成增强解决脑转移瘤分割中的稀有类别不平衡问题

简介本文针对治疗后脑转移瘤分割任务,聚焦于低发生率的切除腔(RC)区域。作者基于 nnU-Net 框架,结合 RC 加权损失、解剖一致的腔体增强、残差编码器和病灶感知形态学后处理。在 BraTS-MET 2026 Task 1 在线验证集上,集成模型的 RC 病灶级 Dice 为 0.575,NSD 为 0.474。

Md Shibly Sadique, Md Fayaz Bin Hossen, Michael L. Evans 等

arXiv cs.LG

ConRAG: Lightweight inference of multi-hop relations

说明ConRAG:轻量级多跳关系推断方法

简介该论文研究如何在大量文档中找出两个已知实体之间的中间桥接实体与证据链,并给出基于证据的解释。作者提出 ConRAG,用实体共现与 LLM 实体过滤构建轻量的实体-文档图,并在两端点之间检索并语义排序路径。在 MuSiQue 和 2WikiMultiHopQA 数据集上,该方法在桥接实体与推理链召回上优于主流 RAG 基线,同时图索引的 token 成本显著降低。

Kilian B\"anziger, Sonia Laguna, Markus Kreft 等

arXiv cs.CV · cs.LG

G³-LoRA: Organizing Reward-Weighted Video Data with Gradient-Guided Grouped LoRA

说明G³-LoRA:用梯度引导的分组 LoRA 组织奖励加权视频数据

简介本文研究在异构奖励加权视频数据上进行文生视频后训练的问题,指出不同类别数据的梯度可能不兼容。作者提出 G³-LoRA,先探测各类别的梯度,去除共享的全局更新方向,再按残差梯度兼容性聚类,分别训练组专属 LoRA,最后通过权重合并和策略蒸馏整合为一个适配器。在 Wan2.1-T2V-1.3B-Diffusers 上,该方法相较基线在 VBench2.0 评测中有所提升,但相机运动等维度仍具挑战。

Jia Song (1), Wenhow Li (1), Lichen Bai (1) 等

arXiv cs.AI · cs.PF

Beneath the Tokens: A Performance Engineering Study of Multi-Token Prediction in GPU-Accelerated LLM Inference

说明底层视角:GPU 加速大模型推理中多令牌预测的性能工程研究

简介本文在单请求部署下,于 NVIDIA A10G GPU 上比较了两令牌多令牌预测(MTP)与自回归解码,共测试 360 个请求,涵盖普通文本、推理密集型和工具调用任务。结果显示,MTP 将输出吞吐量提升 1.91 至 2.19 倍,首个输出时间缩短 10.0% 至 14.2%,每个生成令牌所需的重复 CUDA Graph 执行次数减少 56.4% 至 78.1%。

Suwesh Prasad Sah

arXiv cs.AI · cs.CL · cs.IR

5W1H+Which: Context-Valid Semantic Indexing with Progressive Ontology Binding

说明5W1H+Which:面向语境有效性的语义索引与渐进式本体绑定方法

简介该论文提出 5W1H+Which 设计,把基于来源的内容抽取与渐进式本体绑定分开处理:用 5W1H 组织可独立检索的内容单元,用 Which 记录与版本化本体元素、映射关系、适用范围及验证状态的链接。论文区分业务有效时间、系统知识时间与操作痕迹,并提出待检验假设与对照基线,但文中尚未进行实验,也不宣称性能提升。

Yaxiao Liu (PwC China AI Center), Pengbo Liu (PwC China AI Center), Yiwen Liu (PwC China AI Center) 等

arXiv cs.SE · cs.AI

Research-Native by Construction: Minimal Nodes, Re-verifiable Workflows, and Compounding Memory for Long-Horizon Scientific Agents

说明面向长周期科学研究的智能体平台:以机制约束保证研究过程可靠(论文)

简介本文介绍名为 AfS(Agent for Science)的科学研究智能体平台,用于跨越数十小时、多次运行的长周期科研项目。作者主张,通过将研究规范以机制形式强制执行,使不合规状态无法出现,从而提升机器生成研究的可信度。文中描述了节点约束、写入门控、两层知识库及运行时基础设施,并以三个失败案例和两个已完成的研究活动作为说明,但未报告基准测试结果。

Di Wang, Yu Liu, Bing Cui 等

★★★★☆ 值得关注
arXiv cs.LG

Subgroup Rank-1 Lattice for Practical High-dimensional Black-box Integral Approximation

说明用于高维黑箱积分近似的子群秩一格点

简介本文提出子群秩一格点方法,用于估计高维黑箱函数的积分,例如核均值嵌入和自注意力中的 softmax 核。通过将格点生成元限制为固定乘法阶的子群,计算特征映射相关的乘积可借助 FFT 在 O(n log m) 时间、O(n) 内存内精确完成。文中给出了收敛速率的理论证明,并报告在多组合成与真实数据任务上优于随机特征及拟蒙特卡洛点集的实验结果。

看点将子群秩一格与FFT结合,使任意非线性特征映射的积分计算降至O(n log m),并给出误差收敛的精确阈值证明。

Yueming Lyu

arXiv cs.LG

ProtoSeam: Lifting Classifier Training with Latent Gaussian Mixture Models

说明ProtoSeam:用潜在高斯混合模型改进分类器训练

简介该论文提出一种分类训练的提升式改写方法:在网络中间的一个语义接口处为每个类别设置一个可学习的原型,训练时结合拉近样本表示与其类别原型的二次一致性惩罚,以及在原型周围采样的分类损失。推理时原型被丢弃,使用原始网络。论文在 CIFAR-10、CIFAR-100 和 TinyImageNet 上以 ResNet 与视觉 Transformer 为骨干进行实验,并给出了理论依据。

Robert Lampel, Timon Klein, Sebastian Sager

arXiv cs.LG · cs.AI

QAM: Quadratic-Accurate Checkpoint Merging via Sequential Consistency

说明QAM:基于序列一致性的二次精确检查点合并

简介论文研究如何仅利用已保存的检查点,重建在不同更新强度下顺序训练的终点状态。作者证明,仅用固定长度梯度下降历史,误差无法在光滑强凸损失类上达到o(h^3),并提出QAM方法,其误差可达到匹配的O(h^3)上界。实验在两个公开模型轨迹和15项任务上显示,QAM在短窗口结果参差,在长窗口上优于WSM方法。

Shihao Wang, Rui Kong, Xinran Chen 等

arXiv cs.LG · cs.DC

EdgeCraft: Automated Model Crafting for Edge IoT

说明EdgeCraft:面向边缘物联网的自动化模型构建系统

简介该论文提出 EdgeCraft,一个由大语言模型驱动的系统,可将高层需求自动转化为可部署到边缘设备的机器学习模型。系统通过约束感知的合成树探索候选方案,并用多保真度验证器降低在目标设备上的验证成本。在 50 个公开任务上,EdgeCraft 的表现在多数任务中优于特定任务的参考基线,并在自采集的 SEN 数据集上表现具有竞争力。

Genglin Wang, Kaiwei Liu, Liekang Zeng 等

arXiv cs.LG · cs.AI

Learning to Re-Draft: A Variational Stackelberg Game for Discrete Diffusion

说明学习重新起草:面向离散扩散模型的变分 Stackelberg 博弈

简介离散扩散模型可以在生成过程中回头修正先前的词元,但其效果取决于前向破坏过程。本文提出变分 Stackelberg 离散扩散(VSDD)框架,把训练设为领导者与跟随者的博弈:领导者学习由去噪器词元嵌入参数化的语义感知破坏过程,并依据去噪器从这些破坏中学习后的改进程度给予奖励。作者在分子、文本和歌单生成三类任务上评估该方法,报告分子有效性明显优于均匀与掩码扩散,文本困惑度低于均匀扩散,与掩码扩散相当,并在离线歌单推荐指标上有明显提升。

Dmitrii Moor, Federico Tomasi, Paul N. Bennett 等

arXiv physics.soc-ph · cs.CY · cs.MA

Hybrid epidemic simulation framework coupling equation-based and individual-based models

说明融合方程模型与个体模型的混合流行病模拟框架

简介本文提出一个多尺度模拟框架,将大型聚集活动(如演唱会、体育赛事、节庆)中的短时密切接触,与城市通勤网络相连接。以西班牙马德里为案例,比较了不同类型的聚集活动在不同传播能力下的影响。研究发现,大型聚集会放大疫情规模、加快进程,并使各区的到达时间提前、空间扩散同步化。活动现场产生的初始感染种子规模解释了其中大部分加速效应,活动后的传播条件也提供了关于扩散时机的补充预测信号。

Jaeyoung Kwak, Michael H. Lees, Chin Chun Ooi 等

arXiv cs.LG

Small transformers track Bayesian evidence for latent common causes via a context-invariant mechanism

说明小型Transformer通过与上下文无关的机制追踪潜在共同原因的贝叶斯证据

简介该论文研究小型可解析的Transformer模型如何在不同上下文之间泛化出一种贝叶斯式的共同原因推理。研究将模型内部的因果机制与真实数据生成过程的因果结构区分开来,并转向更接近自然语言预测的潜在共同原因推断。作者考察贝叶斯证据累积能否以可跨上下文泛化到新测试案例的表示和机制来实现。

Amir Mohammadpour, Michael Franke

arXiv cs.AI

FONDANT: Strong and Best-Effort Planning via Antichains

说明FONDANT:基于反链的强规划与尽力规划算法

简介本文提出一种用于完全可观测非确定性(FOND)规划的算法,可同时支持强规划与尽力规划。算法用状态集合的极小元(反链)表示获胜区域,输出统一策略并为失败状态集合给出证明。在与多个现有规划器的基准测试中,该实现覆盖率不低于对比方法,较大规模实例上运行速度更快。

Benjamin Aminof, Tuan Khai Nguyen, Sasha Rubin

arXiv cs.AI

PEARL: Adaptive Prefill-Decode Execution with Elasticity for Agentic Reinforcement Learning

说明PEARL:面向智能体强化学习的自适应预填充-解码弹性执行系统

简介这篇论文针对智能体强化学习中多轮采样(rollout)耗时最多的问题,提出了名为PEARL的异步系统。它协调外部资源弹性、训练GPU的临时复用以及预填充与解码的自适应配置,并根据运行时性能分析选择配置、以最少改动完成切换。实验显示,相比固定资源的ROLL,PEARL吞吐量达到2.17至2.79倍;相比RLBoost+,在Qwen3-8B和Qwen3-30B-A3B上分别最多提升约26.9%和36.3%。

Jiaan Zhu, Wei Gao, Youhui Bai 等

arXiv cs.LG · cs.AI

Normative Loss Landscape Navigation: A Trajectory-Based Approach to Mitigating Forgetting in Incremental Learning

说明规范性损失景观导航:一种基于轨迹的增量学习遗忘缓解方法

简介该论文针对持续学习中的灾难性遗忘问题,提出 TMLN 方法。它将持续学习视为弯曲损失景观上的最优控制问题,用对角经验 Fisher 信息矩阵定义局部黎曼流形,并依据参数历史轨迹动态调制预条件子。原文称该方法在类别增量和领域增量基准上显著降低了相邻任务之间的损失壁垒。

Isabelle Aguilar, Zayn Andre Zainal, Luis Fernando Herbozo Contreras 等

arXiv math.OC · cs.LG

Coordinated Lane-Level Variable Speed Limits and Ramp Metering for Successive Weaving Segments Considering Merging/Diverging Risks: A Hybrid Model Predictive Control and Multi-Agent Reinforcement Learning Approach

说明考虑合流与分流风险的连续交织段车道级可变限速与匝道控制:MPC与多智能体强化学习混合方法

简介本文针对城市快速路上的连续交织段拥堵与碰撞问题,提出结合模型预测控制(MPC)与多智能体强化学习(MARL)的分层框架,协调车道级可变限速和匝道控制。上层MPC基于改进的车道级宏观交通流模型(L-METANET)进行长时域滚动优化;下层ST-MAPPO生成短时域修正动作。在长春东部快速路18公里路段的实测实验中,该方法收敛更快,多项指标优于基线方法,且在需求随机波动时泛化能力明显强于纯MARL。

Guodong Ma, Baofeng Sun, Wenyu Yang 等

arXiv cs.HC · cs.CL · cs.CV

Toward a Culturally Adapted Chinese Language Agent: A Wizard-of-Oz Study of Nonverbal Behavior in Chinese-German Intercultural Interaction

说明面向文化适配的中文语言智能体:中德跨文化互动中非言语行为的绿野仙踪研究

简介本文提出一套绿野仙踪(Wizard-of-Oz)研究设计和实时系统,用于收集中国母语者对德国中文学习者违反社会规范时的多模态行为数据。系统包含逼真的数字人形象、实时操控控制台以及多模态同步记录。研究基于心理学理论设计分层标注框架,并结合四个生态效度较高的互动场景,旨在为未来面向中文学习的文化适配对话智能体提供方法和技术基础。

Siddhant Jain, Anna Lea Reinwarth, Dimitra Tsovaltzi 等

arXiv cs.AI · cs.MA · cs.SE

From Migration to Calibration: Aligning Agents with Deployment Requirements

说明从迁移到校准:让智能体对齐部署需求

简介论文提出,智能体部署、迁移或扩展后,需要按目标场景的要求进行校准,而非模仿源系统。作者提出三类标准:基础能力与可操作性、技术与专业精度、用户情境,并通过四类工具提供可调奖励信号。文中的试点结果仅为初步证据,作者明确指出尚未完成确认性验证。

Yaxiao Liu (PwC China AI Center), Pengbo Liu (PwC China AI Center), Yiwen Liu (PwC China AI Center) 等

arXiv cs.CV · cs.AI · cs.MM

Timeline-Bench: Evaluating Agents on Realistic Video-Editing Tasks, from Raw Footage to Final Cut

说明Timeline-Bench:在真实视频剪辑任务中评估智能体,从原始素材到成片

简介该论文提出Timeline-Bench基准,包含56项真实视频剪辑任务,要求智能体把原始素材剪辑成成片。每项任务通过交付格式、内容、简报要求及由43名剪辑师盲评校准的质量测试来判定是否完成。在16个智能体中,表现最好的仅完成56项中的15项(26.8%),平均完成率为14.0%。

Gunin Gupta, Nirmit Arora, Pavan Kalyan Tankala

arXiv eess.SY · cs.GT · cs.MA

Strategically Robust Game-Theoretic Multi-Agent Trajectory Optimization

说明具有战略鲁棒性的博弈论多智能体轨迹优化

简介论文针对先进空中交通(AAM)中各飞行器需自主规划轨迹、避免碰撞的问题,提出一种战略鲁棒的博弈论方法:每个智能体防范一个虚拟对手,该对手在每个时间步于有界预算内扰动其他智能体的控制输入以缩短距离。作者表明,在合理假设下该博弈仍是精确动态势博弈,且对线性动力学,内层对抗问题可得到准闭式解。实验(最多八个智能体、对数距离代价)显示,在高碰撞风险场景中,战略鲁棒性能选出更稳健的轨迹,低风险场景下轨迹变化很小,运行时间仅略有增加。

Victor L. Qin, Nicolas Lanzetti, Saverio Bolognani 等

arXiv cs.LG

CacheRepair: Learning to Repair Cross-Chunk Context in RAG for KV Cache Fusion

说明CacheRepair:学习修复 RAG 中跨文本块上下文的 KV 缓存融合方法

简介多文档检索增强生成(RAG)需要语言模型先处理多个检索到的文本块再作答。CacheRepair 是一个轻量网络,学习独立计算的 KV 缓存与联合处理文本块得到的缓存之间的差异,并据此修补缺失的跨块注意力信息。在三个目标大模型和四个下游数据集上的评测显示,其在十二组模型与数据集组合中,有十一组位于回答质量与延迟的帕累托前沿上;最大修复网络使首词延迟中位数相比完整预填充提速 1.69 至 4.61 倍,平均 F1 比直接复用缓存提高 2.1 至 26.1 个百分点。

Genglin Wang, Wangsong Yin, Yeerzhati Abudunuer 等

arXiv cs.LG

FlexiWorld: Learning and Planning via Flexible Action Chunks Across Multiple Time Scales

说明FlexiWorld:借助多时间尺度的灵活动作块进行学习与规划

简介该论文提出FlexiWorld,一种基于JEPA的潜在世界模型,用于长时程目标导向的控制。它在训练时采样不同长度的目标跨度,并将动作切分为可变长度的动作块,同时联合训练因果动作编码器与自回归执行器,并引入Student Forcing以减少暴露偏差。规划时采用ARCEM方法。论文称,在四个基准和不同目标距离上,该方法平均成功率为89.29%,高于最强基线的83.98%。

Shidu Ren, Qilin Gu, Zhenghao Ni 等

arXiv cs.CV 有代码

VideoPhysEdit: Physical Counterfactual Video Editing via Rigid-Body Physical Scene Reconstruction

说明VideoPhysEdit:基于刚体物理场景重建的物理反事实视频编辑

简介本文提出物理反事实视频编辑(PCVE)任务,即给定源视频和一个物理编辑操作,生成该编辑引发后续运动与交互的反事实视频。作者提出无需训练的VideoPhysEdit方法,通过物理场景重建在仿真中再现观测运动,并将编辑作为干预施加,用得到的轨迹引导视频生成。论文还构建了合成基准PCVE-RigidBench并提出Physical Edit Score指标,结果显示该方法物理编辑准确率显著高于开源方法和商业模型,视觉保真度相当,且在真实视频上也有较好表现。

Conghan Yue, Yuanjie Chen, Yue Han 等

arXiv cs.LG · cs.AI

CTP-FL: Common-Trajectory Gradient Prediction for Federated Learning

说明CTP-FL:面向联邦学习的共同轨迹梯度预测方法

简介这篇论文针对联邦学习提出 CTP-FL 方法:所有客户端沿同一条由当前全局模型和上一轮聚合方向预测出的路径计算梯度,再上传平均值,服务器据此做一次全局更新。该方法与全参与的 FedAvg-M 每轮计算量和通信量相当。论文给出了光滑非凸目标下的平均驻点收敛界,并指出延长预测路径会带来更多前瞻信息,但也会增加位移偏差。

Junkang Liu

arXiv cs.LG

Explaining Hyperbolic Neural Networks via Geometry-Aware Relevance Propagation

说明通过几何感知的相关性传播解释双曲神经网络

简介本文研究双曲神经网络中几何运算对特征归因的影响:即使局部相关性守恒,等价的几何实现仍可能给出不同的归因结果。作者提出 LRP-radial-all 规则,将径向几何缩放视为调制,把相关性完全分配给信号分支,该规则满足相关性守恒、几何表示不变性以及零曲率一致性。在双曲 MNIST、sEEG 和 CIFAR-10 分类器上的实验显示,该方法归因保真度具有竞争力,运行时间与 Gradient×Input 相当,且明显低于 Integrated Gradients。

Ping Xiong, Shanglin Li, Yi Ding 等

arXiv cs.LG · eess.SP

A Multimodal Autonomic Sensing Framework for Objective Assessment of Patient Responses to Dental Pulp Stimulation

说明用多模态自主神经信号客观评估牙髓刺激反应的框架

简介该研究针对牙髓测试中患者疼痛感受主观、难以表达的问题,招募49名患者进行冷刺激牙髓测试。研究整合ECG衍生的皮肤神经活动、R-R间期与皮肤电活动,并结合基线信号、焦虑评分和性别等信息进行分类。结果显示,二分类(无反应与有反应)平衡准确率为80.2%,三分类平衡准确率为60.0%,表明多模态自主神经感知具有客观、无创评估牙髓刺激反应的可行性。

Youngsun Kong, Yubin Choi, Dongjin Song 等

arXiv cs.CV 有代码

Style-Driven Data Synthesis and Degradation-Aware Enhancement for Ultrasound Image Restoration

说明面向超声图像修复的风格驱动数据合成与退化感知增强

简介手持超声设备成本低但图像退化严重,可能影响临床判断。本文提出两阶段框架:先用循环一致风格迁移模型从未配对的真实图像中生成像素对齐的低质量-高质量数据集,再用双退化引导的LoRA方法微调增强模型。在USenhance2023数据集上,FID指标较最强基线提升16.7%。

Yu-Kai Wang, Chun-Xin Tan, Manh-Hung Nguyen 等

★★★★★ 值得关注
arXiv cs.AI

Tool Mediation Alters Refusal Mechanisms in Large Language Models

说明工具调用如何改变大语言模型的拒绝机制

简介本文研究了大语言模型在调用外部工具时,为何对有害请求的拒绝概率低于普通对话。作者在多个开放权重模型上分析发现,请求的危害信息在两种交互方式中均被编码,但工具调用模式下,模型需要更高的有效危害阈值才会拒绝。此外,工具调用中的拒绝行为也更脆弱,结论提示传统安全评估可能无法完全适用于LLM智能体。

看点发现工具调用会削弱拒绝机制,并用表征几何和神经元分析、干预实验揭示其机制,对代理安全有重要意义。

Abel Rodr\'iguez, Giuseppe Garofalo, Lieven Desmet 等

arXiv cs.AI

DuplexCadence: Exact State and Execution from a Speech Model's Declared Timelines

说明DuplexCadence:依据语音模型声明的时钟实现精确状态与执行

简介该论文针对全双工语音模型的实时推理问题,指出其每秒必须完成一次输入到语音输出的转换,而合成尾段的编排空闲和过度预分配的状态内存是超时与浪费的主要来源。作者提出DuplexCadence,把模型原生的时钟显式告知运行时,由此推导出按需分配状态与无填充的精确形状图重放两条规则。在四个已发布模型、三种解码器架构上的评测显示,输出与原运行时逐位一致,速度约为其2.85倍,峰值内存降低38.8%。

Haixiao Gao, Yimin Zheng, Linyou Xiao 等

arXiv cs.LG

SymbolicArena: A Unified Infrastructure for Benchmark Distillation and Dynamic Evaluation in Symbolic Regression

说明SymbolicArena:用于符号回归的基准蒸馏与动态评测统一基础设施

简介本文提出SymbolicArena框架,用于符号回归(从数据中寻找简洁可解释数学表达式)的基准评测。框架统一了664个带可执行真值表达式的任务,并将其蒸馏为包含50个任务的Core50基准,同时保持任务覆盖度和算法区分度。Core50使评测工作量减少92.5%,并与全量任务集的评测结果保持一致。实验显示当前符号回归方法在数值拟合与符号恢复之间存在明显差距。

Ziwen Zhang, Xiju Wu, Yuheng Jing 等