arXiv
cs.LG 2026年10月1日
说明 修正学到反向关系的模型:膀胱癌复发预测中的单调约束
简介 本研究基于英国多中心 BOXIT 试验的 435 名膀胱癌患者,发现未加约束的 XGBoost 模型学到了与医学常识相反的规律:肿瘤分期和原位癌越高,复发风险反而越低。作者提出反事实方向检验与单调约束方法,在不降低区分度的前提下消除了这一反转。研究结论认为,此类检验应在临床部署前常规进行。
Saram Abbas, David Thomas, Naeem Soomro 等
arXiv
cs.CV · cs.RO 2026年10月1日
说明 Lang3DSeg:基于点变换器的免标注开放词汇三维分割
简介 本文提出Lang3DSeg,用点变换器作为主干网络,对户外激光雷达三维点云做免人工标注的开放词汇语义分割,且从零开始训练、不做几何预训练。针对二维到三维标签投影中的深度歧义,作者采用显式类别优先规则合成掩码,并在深度分布第一个间隙处截断每个投影实例。该方法在nuScenes验证集上达到52.8% mIoU,在SemanticKITTI上达到41.4%,并可在单帧激光雷达扫描上实时推理,无需运行视觉语言模型。
Cigdem Kokenoz, Amir Salarpour, Alkim Domeke 等
arXiv
physics.soc-ph · cs.AI · cs.LG 2026年10月1日
说明 地球科学中AI模型的战略治理:超越预测精度的物理可靠性评估
简介 预训练于天气与气候数据的AI基础模型正被广泛微调用于天气预报之外的地球科学任务,但科学界评估其能力的速度跟不上。现有评估几乎只看与参考产品的吻合度,未检验模型是否真正体现支配系统的物理过程。论文提出从训练数据、微调、行为测试、机制可解释性到输出验证的五项物理评估优先事项,并建议未来十年开放AI就绪评估数据集、建立物理评估的统一报告标准,以及设立专门的模型安全研究计划。
Makoto Kelp, Amirhossein Arzani, Patricia Castellanos 等
arXiv
cs.CL · eess.AS 2026年10月1日
说明 面向儿童语音的结构化音系表示,用于可解释的语音音段分析
简介 该论文将PhonoQ-2.0模型改为适配儿童语音,使用CHILDES对齐数据,比较了三种对齐监督条件和两种初始化方式。在58名发育正常儿童的1352个辅音目标上,与人工标注对照评估:儿童语音适配后清音/浊音识别的宏F1从0.922提升到0.972至0.987。发音方式的结果对对齐监督较敏感,而发音部位在各系统间表现相对稳定。
Abner Hernandez, Tom\'as Arias Vergara, Andreas Maier 等
arXiv
cs.CV · cs.LG 2026年10月1日
说明 SmoothOperator:通过调制标签平滑增强细粒度开集识别的表征
简介 本文研究开集识别(OSR)中球面表征学习的目标函数,指出标签平滑相当于对齐项的调节旋钮,但对所有样本使用固定系数。作者提出即插即用的SmoothOperator方法,依据样本的显著性(即其所属类别相对最强竞争类别的清晰程度)为每个样本设定平滑系数。该方法可集成到四种现有球面表征学习方法中,训练开销很小。在语义漂移基准上,改进版本总体优于原始目标函数,AUROC、OSCR和闭集准确率的提升最高达4.7%。
Thiru Thillai Nadarasar Bahavan, Yu Xia, Sachith Seneviratne 等
arXiv
cs.AI · stat.ML 2026年10月1日
说明 为目标条件强化学习学习多时间尺度
简介 本文针对离线目标条件强化学习在长时程任务上的困难,提出广义隐式时间抽象方法GITA。该方法让单一价值函数以时间抽象步长k为条件,并跨多个k值聚合优势加权的监督信号来训练一个策略,从而同时保留局部分辨率与长程信号。在OGBench上,GITA的平均成功率比HIQL提高25个百分点,比固定k的OTA提高7个百分点。
Pedro Robles Dutenhefner, Dikshant Shehmar, Wagner Meira Jr. 等
arXiv
cs.CV · cs.AI 2026年10月1日
说明 视觉语言模型低层视觉表征中的几何相似性:一项关于不同任务与架构间表征是否共享结构的研究
简介 该论文研究视觉语言模型(VLM)在低层视觉任务中隐藏层表征的组织方式,比较自回归模型与扩散Transformer两类架构。作者提出GeoSim框架,从全局相似度、局部几何、稀疏特征分解和拓扑验证四个层面分析24项任务的表征。研究结果揭示了低层视觉表征的组织原则,也指出了其在跨任务和跨模型一致性上的局限。
Shao-Jun Xia, Huixin Zhang, Zhen Lei 等
arXiv
cs.AI 2026年10月1日
说明 MintFlow:面向约束流匹配的最小轨迹干预方法
简介 该论文提出 MintFlow,一种无需训练的约束采样框架,用于流匹配生成模型。它在预训练流的中间状态上施加最小扰动,使后续演化满足目标约束,同时保持预训练流场不变。论文称该方法能以闭式解得到扰动,并自适应选择干预时间,在生成视觉和物理系统建模任务中兼顾约束满足与原始生成分布的保留。
Yesom Park, Kelvin Kan, Qifan Chen 等
arXiv
cs.CL · cs.AI 2026年10月1日
说明 语境轨迹与增量语境位移:用大语言模型理解动态的、话语特定的意义构建
简介 论文提出逐词增量轨迹方法:随着句子逐词增加,重新计算每个词的上下文词嵌入,从而刻画话语展开过程中表征的变化。以花园路径句为测试案例,轨迹复现了已知的加工干扰现象,并能可靠区分歧义句与消歧对照句。研究还发现歧义相关信息不仅存在于句级表示中,也可从普通词汇标记中获取。
Grayson Wycliffe Storer, Julia Witte Zimmerman
arXiv
cs.LG · cs.AI 2026年10月1日
说明 SHARPO:面向智能体强化学习的分段级信用分配方法
简介 该论文提出SHARPO方法,用于训练执行多步交互任务的大语言模型智能体。它在GRPO的基础上,按与环境交互的分段计算教师与学生模型的对数概率差,并据此生成有界的优势加权系数,使信用可以在不同分段之间有所区别。使用Qwen2.5-7B-Instruct模型,SHARPO在ALFWorld和WebShop基准上优于GRPO、SDAR、RLSD和StepOPSD等基线方法。
Xinchen Du, Zhengze Zhou, Wenhui Zhu 等
arXiv
cs.LG · cs.AI · cs.CV 2026年10月1日
说明 PLDiv:通过持久性景观衡量数据集多样性与语义坍缩
简介 本文提出PLDiv,一种基于持久性景观(persistence landscapes)的多样性指标,从数据的几何表示中刻画数据集的结构组织。该方法通过追踪相邻样本逐步连接时数据邻域的演变,得到一个可解释的标量结构多样性度量,无需任务特定的监督。作者称,其在文本生成、图像嵌入以及指令数据集和推理轨迹的语义坍缩检测中表现具有竞争力,并与语义坍缩的多样性标签高度一致。
Yang Ba, Michelle V. Mancenido, Rong Pan
arXiv
cs.LG 2026年10月1日
说明 TrueMuse:文生音乐模型数据归因的基准测试
简介 该论文提出 TrueMuse,一个用于文本生成音乐模型数据归因的受控数据集与基准。研究者用精选的归因样本微调三个基于扩散的文生音乐模型,使样本是否参与训练已知,从而提供可靠的评估目标。基准涵盖旋律结构、音色、艺术家风格和流派共性四种设置,并系统评估了现有黑盒归因方法,结果显示归因仍然困难,不同设置下表现差异较大。
Jiawei Yu, Jian Liu
arXiv
cs.AI · cs.MA 2026年10月1日
说明 Kepler:面向 ARC-AGI-3 的可审计世界模型
简介 本文提出开源框架 Kepler,把对环境规则的假设表示为可执行的世界模型,并通过回溯转移检验和条件预测检验进行验证。在冻结的 Claude Opus 5 配置下,Kepler 在全部 25 个公开游戏上取得服务器验证的 100.00 RHAE 分数,同时作者报告了三类评估失败案例。文章认为,仅凭公开题集分数的区分度有限,并建议增加首次尝试、成本和验证相关的报告指标。
Wensen Wu
arXiv
cs.CL · cs.LG 2026年10月1日
有代码
说明 VERITYGATE:面向结构化证据的四关卡式忠实性检查框架与配对基准
简介 该论文提出VERITYGATE,用四道关卡检查大模型生成的解释是否忠实于结构化系统中声明的证据ID、实体、数字与论断类型,但只检查固定模式,不核实文中每一个事实。在GPT-4o-mini、Llama-3.3-70B和Claude Sonnet 4.6上共测试900个实例,修复一轮后论断存活率有所提升,但输出数量变化不一。论文同时公开了代码与数据。
Sachin Gupta
arXiv
cs.LG 2026年10月1日
说明 AnyJev 技术报告:无需训练,从语言模型一次前向读取选项决策
简介 本报告介绍 AnyJev,它从预训练指令模型的一次预填充中读取固定选项上的概率化决策,无需梯度更新或参数修改。方法包括除以从无标签输入估计的标签先验,并对选项列表的 K 个循环旋转取平均对数概率,以修正标签偏置和位置偏置。另有一条停止规则可减少所需的预填充次数。原文报告在两个 20 选项任务上,旋转使顺序翻转率下降,并提升了多数模型的准确率;代码已开源。
Jiamu Zhang, Tianze Yang, Yucheng Shi 等
arXiv
cs.CL · cs.AI 2026年10月1日
说明 大语言模型中的口头概率与内部概率相互耦合
简介 该论文研究大语言模型的内部概率(生成各答案的采样分布)与口头表达的置信度是否一致。作者通过干预训练数据与上下文数据中的不确定性来源,考察两种概率读数的变化。结果显示二者都受训练数据中分布性与断言性不确定性的影响,且两者的一致性超出了各自独立追踪同一不确定性来源所能解释的程度,因此口头概率可能用来探测模型的内部分布。
Sinead Williamson, Jiaxuan Li, Nick Foti 等
arXiv
cs.CV 2026年10月1日
说明 先对齐后推理:面向配音的多模态唇形同步判别模型
简介 本文提出Align Then Reason(ATR)方法,用于配音质量检查:仅凭无声视频和候选台词文本,判断台词在内容和时间上是否与说话人的唇部动作相符。方法先将逐帧唇部表征与台词的音素单元进行单调对齐,再由大语言模型基于对齐结果进行推理。在七种语言的基准上,相比Qwen3.5 SFT基线,平均AUC分别提升59.4%、50.2%和50.8%(对应2B、4B、9B推理模型)。
Rui Liu, Bhavin Jawade, Haoqi Li 等
arXiv
cs.CL · cs.AI · cs.LG 2026年10月1日
有代码
说明 Transformer拒绝机制中的组件与维度稀疏性
简介 该论文研究大语言模型的激活引导(activation steering)如何改变模型拒绝行为的内部机制。作者在四个开源模型上把拒绝引导分解到注意力与MLP组件层面,找出一小部分组件即可复现完整的行为效果。结果显示,这些组件约占上游组件的28%至48%,并保留88%至101%的引导效果;在其中,约50%的残差流维度承载了主要信号。
Vincent Siu, Glenn Grant-Richards, Vlad Pavlovich 等
arXiv
cs.LG · cs.AI · stat.ML 2026年10月1日
说明 旋转循环:面向循环 Transformer 的分块共形注入
简介 循环 Transformer 在多个递归步骤中复用同一个共享模块,深度可以在运行时动态分配。本文认为,循环能否学会跟踪状态,取决于残差之间线性映射的几何形式。作者提出分块共形注入:将残差划分为坐标对齐的组,并在每组内部旋转,使各组拥有各自的时间尺度。实验表明,该方法在状态跟踪(其余前缀已正确时的末位词准确率)和语言建模(需在序列末尾检索较早写入的信号)上均有性能提升。
Alexey Zemtsov, Albina Klepach, Vadim Lomshakov 等
arXiv
cs.LG · cs.AI 2026年10月1日
说明 即时权重生成:基于超网络的 ARC-1D 概念验证
简介 论文提出从少量示例直接生成专用模型参数的思路,以 ARC-1D 为受控测试平台。研究发现,单个变换可由微型专用模型表示,超网络能从上下文生成这些参数。结果显示,生成的专用模型具有部分组合泛化能力,并能泛化到训练中未见的变换。
Fabio J. Fehr, Philip Torr
arXiv
eess.SP · cs.LG 2026年10月1日
说明 PI-AMFM:面向可变数量模态的生物医学信号分解方法
简介 该论文提出一种置换不变的神经网络框架PI-AMFM,用于分解生理信号中成分数量可变的非平稳振荡模式。方法结合多尺度时间编码器、Mamba主干网络和成分存在性估计,并在训练时采用置换不变的匈牙利匹配。作者称,在合成AM-FM信号上,该方法的分解、瞬时频率、重建和模态数量误差均低于对比方法;在仅用合成信号训练的情况下,它在光电容积脉搏波记录中仍能捕捉心脏和呼吸动态。
Youngsun Kong, Ki H. Chon
arXiv
cs.LG 2026年10月1日
说明 量化救护车卸载延误的影响:维多利亚州紧急医疗服务多年案例分析
简介 本文分析了澳大利亚维多利亚州2020年1月至2024年3月期间约285万次救护车出诊记录,聚焦救护车在医院等待移交病人的延误(ramping)。研究发现,累计损失的救护车时间约为149万小时,同时延误在2022年达到高峰,而转运需求下降。延误时长与病人紧急程度关系不大,却随一小时内抵达同一医院的救护车数量增加而上升。作者认为这些结果为考虑医院状态的救护车调度提供了实证基础。
Ayesha Tanveer, Khandakar Ahmed, Assefa Teshome 等
arXiv
cs.DB · cs.AI · cs.CL 2026年10月1日
说明 TabJoinBench:可连接表格发现的基准测试
简介 该论文提出 TabJoinBench,一个用于评估表格连接发现方法的基准。它覆盖语义、关系和混合数据湖场景,通过可组合的扰动构造查询与候选表对,并在保持可靠真实标注的前提下引入结构、表示和语义上的变化。论文评测了集合类、特征类和学习类等代表性方法及通用语言模型嵌入基线,并公开了处理后的数据集、标注与生成流程,便于可复现的比较。
Sandipan De, Jin Wang, Vivek Gupta
arXiv
cs.LG · cs.AI 2026年10月1日
说明 面向合成数据选择的训练感知目标覆盖(TATC)
简介 论文研究合成数据何时对大模型训练有用,指出合成数据并非越多越好,错误样本可能抵消其收益。作者建立线性理论刻画这一权衡,并据此提出 TATC 方法,选择能有效提升目标任务效果且覆盖目标相关方向的合成样本。在数学推理任务上,TATC 在多种选择预算下于 GSM8K 上优于其他合成数据选择方法。
Yang Ba, Michelle V. Mancenido, Rong Pan
arXiv
cs.CV · cs.AI · cs.LG 2026年10月1日
说明 视频生成模型的后训练与对齐综述:系统梳理如何让预训练视频模型更听话、更连贯、更安全
简介 本文是首篇系统综述视频生成模型后训练与对齐的文章,指出预训练视频模型常难以稳定遵循人类意图、保持时间连贯或满足物理与安全约束。作者将现有方法归为四类:监督微调、自训练与蒸馏、基于偏好与奖励的方法,以及推理时方法。文章还梳理了常用数据集、基准与评估实践,并讨论奖励设计、长时序一致性和安全生成等开放挑战。
Chaoyu Li, Xiaoyi Gu, Yogesh Kulkarni 等
arXiv
cs.LG · cs.AI · stat.ML 2026年10月1日
说明 我们能信任这个评估结果吗?LLM 作为评委的单条实例可靠性
简介 论文指出,LLM 作为评委的评估通常用多数投票汇总多名评委的判断,但这并不能保证每一条评估结果都可靠。作者提出一种无需标注的方法 SCUR,依据评委小组的行为估计每条实例的评估可靠性。该方法结合评委不确定性、测量交叉熵和扰动敏感性三类信号形成风险分数,并在五个真实基准上检验,效果优于其他方法,尤其能发现高共识但有风险的条目。
Yang Ba, Michelle V. Mancenido, Rong Pan
arXiv
cs.CV · cs.CL · cs.SI 2026年10月1日
说明 节省令牌:用简单启发式方法实现经济高效的多模态大模型标注
简介 本文研究视觉语言模型标注短视频时,如何用抽帧、图像网格、单一模态等启发式方法降低成本,并检验这些方法是否保持下游研究结论的有效性。实验基于情感与主题分类两项计算社会科学任务。结果显示,准确率最高的配置不一定得出正确结论;仅用文本也可能表现良好;用一张2×8的图像网格即可接近全视频理解的一致性,而令牌成本约为其15%。作者据此给出成本可控的标注指南。
Zhixi Zhu, Kristina Gligoric
arXiv
eess.IV · cs.CV 2026年10月1日
说明 基于空间门控扩散的胸片局部反事实编辑
简介 该论文研究一种用于胸部X光片编辑的潜在扩散模型,通过学习的门控机制融合两条生成轨迹,并用图像空间掩码将编辑结果与原图合成,以保持无关区域不变。在2,400个基于MIMIC数据的请求上,93.5%的输出满足目标、保留、质量与覆盖的综合标准,目标完成率为97.4%。与仅做合成的对照相比,综合有效率高出1.7个百分点。
Kamran Ullah Afaq, Basit Raza
arXiv
cs.CL 2026年10月1日
说明 大型语言模型能否解锁眼科诊断报告中的离散数据?
简介 该研究用GPT-4o辅助的两种提示策略,从20份眼科诊断PDF报告(视野、青光眼OCT概览、视网膜神经纤维层OCT和OCT厚度图各5份)中提取结构化数据,并与人工整理的标准结果比对。结果显示两种方法的数值准确率均很高,提取时间由每份约56.5秒降至约5秒,减少约92%。研究认为,这些结果支持进一步评估兼顾准确性与格式合规的混合式工作流程。
Umair A. Zaidi, An-Lun Wu, Wei-Chun Lin 等
arXiv
stat.ML · cs.LG 2026年10月1日
说明 基于神经网络与欧拉近似推断加权次分数布朗运动驱动的随机微分方程
简介 本文研究如何从离散观测数据中估计由高斯过程驱动的随机微分方程的漂移项、扩散项和噪声协方差。作者利用欧拉近似从观测转移中重构驱动增量,用其联合密度得到轨迹似然,并用神经网络与径向基函数建模漂移、扩散和归一化时间权重,再通过似然剖面估计协方差指数和扩散尺度。作者在二十组系数设置下,用相同的模拟轨迹与两种神经网络替代方法进行了比较。
J. H. Ramirez-Gonzalez
arXiv
cs.AI · cs.IR 2026年10月1日
说明 企业表示简化(ERS):降低企业AI的表示复杂度
简介 本文提出企业表示简化(ERS),指在限定范围内保留所需信息的同时,减少不必要的表示复杂度,并给出与表示形式无关的企业表示复杂度(ERC)模型,从对象、交互、行为和支撑来源四个维度衡量。作者还讨论了表示结构带来的生命周期成本,以及降低任务级ERC如何减轻AI系统的理解负担;文中引用Text-to-SQL研究作为相关证据。论文强调ERC并非通用的复杂度、性能或成本指标。
Terry Dorsey, Kevin Huggins
arXiv
cs.CV 2026年10月1日
说明 VTV-FM:通过变分终端速度闭合实现的流匹配生成方法
简介 该论文提出VTV-FM,一种二阶流匹配框架,用于学习从简单源分布到数据分布的生成传输。方法通过最小化加速度能量推导静态数据所缺失的终端速度,得到闭式闭合,并以此定义最优传输配对代价和训练用的加速度目标。作者称在低维数据集、受偏微分方程支配的物理场以及CIFAR-10上,该方法相较一阶和高阶流匹配基线改进了传输几何与生成质量。
Haoyang Jiang, Yuheng Li, Di Yang 等
arXiv
cs.CL 2026年10月1日
说明 有效的合成数据筛选需要群体层面的信号
简介 本文指出,大模型训练中的合成数据若仅用单条样本的独立效用信号筛选并不足够,因为样本之间的相互作用会影响训练效果。作者比较了两类信号:单条样本层面和考虑样本间关系的群体层面。结果显示,在合成数据占比较高的训练流程中,只有引入群体层面信号的筛选方法能超过基线,并提出了一种低成本的诊断方法来判断哪些合成数据组最需要群体层面评估。
Cathy Jiao, Chenyan Xiong
arXiv
cs.LG 2026年10月1日
说明 基于有限时间可达性学习目标可达的拟度量几何
简介 本文针对目标条件强化学习(GCRL)提出 ReQRL 方法,将评论家网络的价值梯度通过有限时域可达性加以约束,使局部约束能反映控制组合的方向相关效应与环境可行性。方法借鉴状态约束最优控制,将动力学可达性与边界几何解耦,并分别从数据中估计。作者在 OGBench 基准上报告该方法优于或可比于现有拟度量方法及其他离线 GCRL 方法。
Daisuke Yamada, Travis Pence, Vikas Singh
arXiv
cs.LG 2026年10月1日
说明 记忆任务之间的迁移如何定位:预训练在一个随机映射任务上的学习,如何帮助另一个任务
简介 本文研究随机输入-输出映射这类记忆任务之间的迁移学习。作者发现两种迁移模式:一种是每多一个预训练轮次,大约可节省一个下游微调轮次;另一种是即使预训练任务并不匹配,效率有时也高于直接训练下游任务。通过消融实验,作者把迁移分解为两部分:最后一层中由幅值驱动的“平凡”迁移,以及部分来自其他层协方差的结构驱动的“非平凡”迁移。
Yimiao Yu, Florentin Guth
arXiv
cs.LG · cs.AI · cs.CL 2026年10月1日
说明 预训练干预的事后嫁接:跨检查点迁移模型信念
简介 论文提出“嫁接”方法,用于在预训练阶段之外改变模型的信念。做法是在预训练检查点上训练合成文档微调(SDF)适配器,再把学到的权重更新加到已完成后训练的模型上。作者在多个模型系列(最高284B参数)上测试了植入虚假事实、训练未对齐模型和中期训练干预等场景,报告称该方法植入信念的强度与直接对后训练模型做SDF相当,同时平均降低了一半以上的“现实漂移”和偏好一致性损失。
Peter Nutter, Dani Roytburg, Cl\'ement Dumas 等
arXiv
cs.LG · stat.ML 2026年10月1日
说明 可扩展的多任务逆强化学习:从多个智能体的数据中学习可迁移的奖励
简介 该论文提出一种多任务逆强化学习方法,在同一环境中汇集多个不同奖励智能体的数据,并基于低秩假设进行学习。方法可减轻对状态覆盖的要求,并在新环境中以与秩相关而非任务数量相关的计算代价评估多个任务。论文给出奖励恢复和新环境策略学习的有限样本保证,实验显示其对有限覆盖具有鲁棒性,迁移遗憾低于基线方法。
Allen Tran, Jia Wan, Nathan Kallus 等
arXiv
cs.CV 2026年10月1日
说明 视频证据索引:从视频预览中学习该看哪里,用于有视觉token预算的长视频问答
简介 长视频问答受限于视觉token成本高和VLM上下文窗口固定。该论文提出Video Evidence Indexing(VEI):先用低分辨率的密集视频预览获取全局覆盖,再由模型构建一个紧凑的高分辨率证据集用于最终推理。论文还采用特权自蒸馏,让知晓答案的教师模型指导学生的索引过程;实验显示在有限视觉预算下准确率提升,自蒸馏还进一步改善了问答准确率和时间证据定位。
Haowen Guan, Shengzhi Li, Shichao Pei
arXiv
stat.ML · cs.LG · stat.AP 2026年10月1日
说明 学习为需求响应定价电力:用神经网络根据环境信息制定分时电价
简介 本文提出一种基于神经网络的情境化电价算法,将定价建模为斯塔克尔伯格博弈,并采用平均场解的表示方法。该方法从天气预报、日出日落时间和星期等情境特征中学习满足约束的电价信号。作者在美国多个城市的电网模拟中验证了该方法,结果显示引入情境信息能明显提升需求响应项目的价值。
Jing Shang, Mohammad Mehrabi, Xinyang Zhou 等
arXiv
cs.LG · cs.AI · cs.CV 2026年10月1日
说明 增加网络宽度可使逐层贪婪训练在自监督学习中媲美端到端反向传播
简介 本文研究在自监督学习中,网络宽度和深度如何影响卷积网络中逐层贪婪训练与端到端训练的效果。结果显示,网络越宽,端到端反向传播相对逐层贪婪训练的优势越小;在较浅且非常宽的网络中,逐层贪婪训练甚至表现更好。分析表明,这些网络形成的表示几何结构更有利,可能是其性能提升的原因。
Syon Mansur, Joel Zylberberg
arXiv
cs.LG · cs.CV · stat.ML 2026年10月1日
说明 信号-噪声分解:将干扰变化隔离到可移除的子空间中
简介 本文提出两种正则化方法,用于在训练中强化神经网络表示的信号-噪声分解与信号-信号分解。作者在CIFAR-100上与L2正则化基线比较,发现增强信号-噪声分解能提升性能,而增强信号-信号分解则没有。在带有五级损坏的BloodMNIST数据集上,该方法的性能提升更为明显。研究显示,把噪声方向投影掉可进一步提高准确率,表明分离干扰变量比保持类别变量的分解更重要。
Sakin Kirti, Joel Zylberberg
arXiv
cs.CV 2026年10月1日
说明 可验证奖励能教会视频语言模型什么关于时间?一项受控的多模型研究
简介 本文用可验证奖励的强化学习(RLVR)微调四个开源视频语言模型,比较合成数据、自监督真实视频和混合三种训练方式。结果显示,仅用合成数据训练会在真实视频上明显降低准确率,加入真实可验证问题可以消除这一损失;模型的提升很大程度上并非来自视觉信息,且没有一种训练方式真正学会按时间顺序理解事件。
Avyay Sadhu, Patrick Cooper
arXiv
cs.CV · cs.GR 2026年10月1日
说明 什么构建了场景?3D高斯泼溅中亮度主导几何形成
简介 该论文研究标准3D高斯泼溅(3DGS)中亮度与色度各自对几何形成的作用:在不同通道监督下训练并冻结位置、尺度、旋转与不透明度,再比较留出图像的重建质量。结果显示,仅用亮度学习的几何在留出重建上平均比RGB训练的几何低0.085 dB;色度可在冻结几何上被重新拟合并恢复大部分质量,而仅用色度监督时几何明显更差。
Rezvan Joshaghani, Steven Cutchin
arXiv
q-bio.BM · cs.LG 2026年10月1日
说明 StabilityArc:将蛋白质序列嵌入解码为可泛化的稳定性图景
简介 该论文提出StabilityArc模型,利用跨蛋白质共享的解码器,把冻结的ESMC-600M残基表示映射为氨基酸替换效应矩阵,并通过对称且感知接触的残差项处理同时发生的多位点替换之间的相互作用。在66次严格留一蛋白质评估(涵盖134,794个ProteinGym变体)中,其Spearman相关系数为0.7134,高于最强的零样本基线ProSST-2048(0.6526)。作者还将该分数用作Kermut的先验,在三种监督划分方案下得到0.8280的Spearman相关系数,高于Kermut报告的0.8167。
Aaron L. Feller, Andrew D. Ellington, Claus O. Wilke
arXiv
math.OC · cs.AR · cs.LG 2026年10月1日
说明 Q-MINO:一种用于量化感知训练的最小范数方法
简介 量化感知训练常用直通估计器(STE)近似梯度,但其替代梯度与量化目标存在较大偏差,在超低比特场景下容易引起更新噪声和参数振荡。该论文提出量化感知最小范数优化器Q-MINO,结合梯度一致性、状态漂移正则和对齐约束,从近期优化状态构造稳定的最小范数更新方向,并用带可行回退初始化的热启动Frank-Wolfe方法求解子问题。论文在随机Lyapunov KL框架下给出渐近邻域收敛性的理论结果,并报告了多种量化设置下的数值实验。
Don Li
arXiv
cs.CV · cs.AI 2026年10月1日
说明 基于推理与反思的个性化图像生成:利用用户历史生成更贴合个人偏好的图片
简介 现有个性化图像生成多依赖精选的视觉示例,难以反映用户本身。本文提出首个基于用户历史的个性化图像生成统一基准,包含个性化场景生成和个性化创意生成两项任务,并配有多维评估协议。作者还提出PEARL方法,将多模态推理器与冻结的图像生成器结合,通过推理-反思循环进行优化,在两项任务上平均提升了约15%的个性化指标。
Bo Ni, Ngoc N. Tran, Qinwen Ge 等
arXiv
cs.LG 2026年10月1日
说明 混合整数规划的重构对比学习(ReMILP):用等价变换自监督学习变量与约束表示
简介 该论文面向混合整数线性规划(MILP),提出利用问题的等价重构作为自监督信号,学习通用的变量与约束表示。作者区分了保持变量不变的“重述”与按规律变换变量的“替换”,并提出ReMILP方法,联合训练图神经网络与超网络以预测变量嵌入在变量变换下的变化。论文称,无需求解器生成的标签,所学表示在未见过的问题类别上表现出预期的不变性与等变性,并在二元解、约束活跃性和整数性间隙预测任务中有效。
Ousema Bouaneni, Mathis Le Bail, Cl\'ement Elliker 等
arXiv
cs.LG · cs.RO 2026年10月1日
说明 将奖励作为观测:学习基于奖励的策略以实现快速适应
简介 本文提出一种只依赖奖励和动作、不依赖观测的策略,使其能零样本迁移到观测空间完全不同的新环境。作者在 Pointmass、Cartpole 和 2D Car Racing 三个环境中训练该策略,并将其零样本迁移到颜色调色板或 3D 渲染等不同观测,以及 Habitat-Sim 中的 Stretch 机器人导航。论文还表明,该奖励策略可以进一步指导目标环境中基于观测的策略训练。
Morgan Byrd, Jacob Blevins, Maks Sorokin 等
arXiv
cs.LG · cs.AI 2026年10月1日
说明 用真实气象站观测对近地面数据同化生成模型进行基准测试
简介 本文首次在真实气象站观测上,对生成式数据同化方法做了受控基准测试,使用美国本土11,849个NOAA MADIS站点和四个近地面变量。在保持数据集、观测算子和网络结构不变的前提下,比较了扩散与流匹配、像素与潜空间等设计选择,并与经典3D-Var方法对照。结果显示,最佳生成式方法优于3D-Var(相对ERA5的RMSE改进为35.7%对33.3%),且全梯度引导优于其他条件化策略;站点稀疏时优势更明显。
Ruizhe Huang, Qidong Yang, Jonathan Giezendanner 等
arXiv
cs.RO · cs.LG 2026年10月1日
说明 CF-JEPA:通过可控性分解提升JEPA世界模型的鲁棒性
简介 论文提出CF-JEPA,一种JEPA式的世界模型,把潜在空间拆分为可控子空间和不可控子空间,使背景干扰信息集中在不可控部分,任务所需的可控信息则用于控制。在无干扰条件下,它在2D与3D控制任务中表现与基线相当;在有干扰条件下表现更好,且是唯一没有出现潜在坍缩的模型。作者还在一个模拟机器人任务的干扰条件下验证了该方法。
Morgan Byrd, Robert Wright, Sehoon Ha
★★★★☆ 值得关注
arXiv
cs.CL · cs.LG 2026年10月1日
说明 在风格中推理:发现并控制语言模型的风格
简介 论文提出一种无监督算法,把语言模型输出中的内容与风格表示分开,并在数学题上验证其效果。研究者从九个教师模型的十万余条已验证推理轨迹中发现六种反复出现但分布不均的风格,并用重要性加权微调小模型,使其能按指定风格作答。结果显示,相较标准微调,该方法在六个数学推理基准上提升了 Pass@k,且风格与解题正确率相关。
看点 无监督地从模型输出中发现并显式控制风格,并在六个数学基准上以风格条件微调提升Pass@k,证据较充分,新意明显。
Ioana Marinescu, Eric Karl Oermann, Kyunghyun Cho
arXiv
cs.LG 2026年10月1日
说明 JEPA-TTT:在动力学变化下对潜在世界模型进行持续测试时训练以用于规划
简介 该论文提出JEPA-TTT方法,在测试阶段持续更新预训练的动作条件潜在世界模型中的动力学预测器,视觉编码器和奖励头保持固定。方法采用密集回放并在四个连续控制环境的八种动力学变化中进行评估。文中报告,经过500个测试回合后,自回归潜在预测误差平均降低83%,规划性能相比冻结的JEPA世界模型提升153%。
Zheyuan Zhang, Suyu Ye, Nakul Agarwal 等
arXiv
cs.GT · cs.AI · cs.MA 2026年10月1日
说明 Condorcet域的外部多样性
简介 Condorcet域是某个候选人集合上的一组排序,使得仅由这些排序构成的(奇数张)选票所产生的多数关系都是可传递的。本文研究这类域的外部多样性,即衡量一张随机选票到域内最近排序的期望交换距离。作者对候选人较少的极大Condorcet域做了数值分析,并对若干特殊域建立了其渐近行为,所得结果主要为理论性的。
Piotr Faliszewski, Jan Jabrocki, Mateusz S{\l}uszniak 等
arXiv
cs.CL · cs.AI · stat.ML 2026年10月1日
说明 面向大语言模型注意力的顺序函数化结构化Tucker压缩
简介 本文提出FTC方法,用于对大语言模型注意力模块进行训练后压缩。该方法在固定存储预算下联合利用Q/K/V多头结构,并单独处理输出投影以适应压缩后的表示变化,无需微调或基于梯度的恢复。在七个6B至32B参数的解码器型大语言模型上,FTC在五个现代GQA模型的各压缩保留比例下WikiText-2困惑度均最低,压缩越激进优势越明显,且在下游任务和32B规模上仍有显著提升。
Jiangfeng Chen, Xinyu Wang, Tianshuo Yan 等
arXiv
cs.AI 2026年10月1日
说明 偏好不确定条件下的鲁棒纳什对齐
简介 该论文针对偏好对齐方法依赖单一偏好模型、在成对偏好有噪声或分布变化时容易失效的问题,提出鲁棒纳什对齐框架,把学习者与对抗竞争者及偏好不确定集中的偏好核一起建模为博弈。作者设计了四方原始-对偶代理博弈及单循环乐观镜像下降上升算法,证明其收敛速率为O(1/√T),并在受控表格博弈和带不确定偏好的大语言模型对齐实验中验证了方法优于名义基线。
Shihab Ahmed, Debamita Ghosh, David Tang 等
★★★★★ 值得关注
arXiv
cs.LG · cs.IT · math.IT 2026年10月1日
说明 重尾噪声下无需参数的区间动态遗憾界
简介 该论文研究在线凸优化问题,每轮只能获得一个无偏随机次梯度,且噪声的条件p阶矩未知(1<p≤2)。作者提出一种无需已知任何参数的学习方法,并给出对任意区间与比较路径的期望遗憾上界。该界限随区间长度与路径复杂度变化,并包含一个对数因子的区间代价。
看点 在未知噪声矩条件下给出参数无关的区间动态遗憾界,并给出匹配的变化测度下界,理论贡献显著。
Vaneet Aggarwal
arXiv
cs.LG 2026年10月1日
有代码
说明 WOMBAT:用于分子基准测试与归因检验的白盒预言机
简介 本文提出WOMBAT,一个包含14个白盒图神经网络的基准。每个模型的消息传递权重都是人工设定的,用于检测特定的SMARTS子结构模式,因此其决策规则是已知的。研究者用它来检验GNNExplainer、PGExplainer和Integrated Gradients等事后解释方法的归因是否正确,并在PubChem分子上进行了验证。文中还展示了一个模型,使Integrated Gradients的归因分散到整张图上,尽管该模型能可靠地识别目标模式。
Dominik Matuszek, Bartosz Zieli\'nski, Tomasz Danel 等
arXiv
cs.AI 2026年10月1日
有代码
说明 ReLiveGym:在重放的真实世界数据中评估长期运行的智能体(一种让大语言模型智能体连续数周运行的测试环境)
简介 该论文提出了ReLiveGym,一个诊断性评估环境,按时间顺序重放数周的真实新闻、市场和社交媒体数据流,让智能体在其中稀疏地执行长期任务。作者在八个基础语言模型上考察了模型选择与框架设计对表现的影响,发现智能体如何决定行动时机是关键设计因素,且最优设计因任务和模型而异。论文还评估了基于事后反馈的持续学习对表现的作用。
Xisen Jin, Jingheng Li, Zhenglun Chen 等
arXiv
cs.LG 2026年10月1日
说明 超越单峰基底:面向多模态数据的回拉几何
简介 本文针对由多个流形混合支撑的数据,提出一种基于潜在高斯混合的回拉黎曼几何,其度量由责任加权的期望分量精度矩阵平方定义。在单分量情形下,该方法可恢复已有的高斯回拉构造。作者在归一化流中实现该几何并引入自适应混合学习,在合成数据、受控多视图图像和 MNIST 上的实验显示传输失真降低、插值真实感提升。
Honglei Brinkmann, Lucas Ng, Georgios Batzolis 等
arXiv
cs.LG · cs.AI · cs.CL 2026年10月1日
说明 初始化提升大模型驱动的发现效果
简介 该论文研究用大语言模型迭代优化来发现算法、定理等的过程。作者设计了12种名为Modular的框架,在5项任务上测试,发现效果对框架设计很敏感,且常出现多样性骤降的模式崩溃。论文提出一种先并行探索、再迭代优化的初始化方法,在多种框架和任务上都带来了稳定提升。
Mansi Sakarvadia, Marco Ciccone, Colin Raffel
arXiv
cs.SD · cs.LG 2026年10月1日
说明 AnchorPrompt:用于稳健音频-语言模型的自蒸馏软提示方法
简介 大型音频-语言模型对噪声、波形损坏和对抗性注入等输入扰动较为敏感。该论文提出AnchorPrompt,在冻结模型的前提下,仅学习一组插入解码器输入处的提示向量,并通过多种音频与文本扰动下的自蒸馏进行训练。在三个模型和三个基准上的评估显示,它在多数测试条件下提高了回答一致性,并在严重音频损坏时减少幻觉。
Pooneh Mousavi, Amir Ivry, Mirco Ravanelli 等
arXiv
cs.AI · cs.MA · cs.SY 2026年10月1日
说明 面向自动驾驶的元多智能体强化学习:交互策略快速适应
简介 本文提出一种元多智能体强化学习(meta-MARL)框架,使多智能体系统中的交互策略能够快速适应新任务。作者将多智能体问题建模为马尔可夫博弈,并定义了元纳什均衡(meta-NE)作为解的概念,同时给出其与基于梯度博弈的算法稳定点等价的充分条件。在自动驾驶任务上的评估显示,该方法比预训练的多智能体强化学习基线适应更快。
Huiwen Yan, Kyriakos G. Vamvoudakis, and Mushuang Liu
arXiv
cs.LG 2026年10月1日
说明 SkillSpec:基于共识门控与表示专业化的智能体技能演化方法
简介 该论文针对大语言模型智能体的自然语言技能(即无需更新模型权重即可保存的可复用任务知识)提出SkillSpec框架,分为两个阶段:先通过共识门控机制验证文本更新,只有在多次配对评估中达成一致改进时才接受更新;再根据优化轨迹中的过程与冗余敏感信号,选择扁平、图状或混合结构来组织这些知识。在六个基准和三个目标模型上,其平均成功率比SkillOpt高6.89%。
Huancheng Chen, Xiaodi Sun, Zhaoqiong Huang 等
arXiv
cs.AI · cs.LG 2026年10月1日
说明 R-GroundBench:Markush 分子编辑中 R 基团定位的诊断基准
简介 本文提出 R-GroundBench,一个基于真实专利 Markush 结构构建的诊断基准,包含可控难度与模态划分的选择题(VQA)和开放式生成两类任务。结果显示,模型在简单 VQA 上准确率超过 90%,但在控制捷径后的困难 VQA 上降至 56%–66%;化学领域视觉语言模型表现同样不稳定,生成任务的精确匹配多数低于 20%。作者认为当前 AI 系统在 Markush 分子编辑上缺乏可靠的定位与执行能力。
Xin Wang, Zichuan Ying, Xinna Lin 等
arXiv
cs.LG · stat.ML 2026年10月1日
说明 TRACE:基于官方运行文本的电价预测可复现基准
简介 该论文提出 TRACE,一个可复现的电价预测基准,包含来自美国一个主要市场五个区域的 7,300 个区域-日实例,并配对预测截止时可获得的官方运行文本。文本按截止时间重建以避免泄露截止后信息。结果显示,文本与价格的主要走势及两端尾部风险语义相符;在时间序列基础模型上,上尾价格风险的 pinball 损失中位数降低 7.4%。而跨日文本错配的对照实验使增益消失,表现甚至低于无文本基线。
Xinyi Yi, Zhangdie Yuan, Ioannis Lestas
arXiv
cs.CL · cs.AI · cs.LG 2026年10月1日
说明 从分布差异到决策翻转:压缩语言模型中的 total variation 与 KL 对比研究
简介 该论文研究压缩语言模型与原始稠密模型之间的输出分布差异如何转化为决策变化。作者在 802 个压缩或扰动模型副本上发现,arg-max token 的翻转率与总变差距离(total variation)比例稳定,而 KL 散度需要经过平方根和随模型、语料变化的系数才能转化为翻转率,因此更适合作为决策变化的度量。
Beatriz Almeida Felicio
arXiv
cs.CV · cs.LG 2026年10月1日
说明 FedMAD:面向遥感图像分类联邦学习的调制感知方向性聚合方法
简介 本文提出FedMAD,一种面向遥感图像分类的个性化联邦学习框架,可在不共享本地数据的情况下协同训练模型。该方法将全局共享的表示参数与客户端专属的适应参数分离,并引入调制感知的方向性聚合策略,依据本地调制更新的一致性动态调整各客户端的聚合权重。在BigEarthNet-S2和EuroSAT数据集上的实验表明,在数据分布异构的情况下,FedMAD优于现有的先进联邦学习算法。
Bar{\i}\c{s} B\"uy\"ukta\c{s}, Beg\"um Demir
arXiv
cs.CV · cs.MM · cs.SD 2026年10月1日
有代码
说明 Soundwich:可分层、可控制音轨的视频生成
简介 该论文提出 Soundwich,一种无需训练的框架,可将现成的联合音视频生成模型转为生成多条相互同步、可独立编辑的音轨,并与同一段视频对齐。它能显式控制各音轨的时间活动,并通过共享场景表示与跨模态路由保持音轨之间及音视频之间的连贯性。实验与人工评估显示其在时间控制、声源分离和自然度方面有所改善,音轨可单独重定时、静音、替换或重新混音。
Zhuo Ning, AmirHossein Naghi Razlighi, Sagi Polaczek 等
arXiv
cs.CL 2026年10月1日
说明 迈向稳健的数值论断验证
简介 大型语言模型常用于论断验证,但在数值推理上很脆弱,数值稍有变化准确率就会明显下降。研究表明,前沿模型同样存在这一问题,而通过在数值扰动样本上进行对抗式微调可以缓解。使用参数高效微调后,小型Qwen3模型在标签翻转扰动上达到98.7%的准确率,优于更大的零样本模型与前沿系统,并能推广到未见过的扰动类型,还能在无目标域数据的情况下提升西班牙语的跨语言表现。
Peter R{\o}ysland Aarnes, Vinay Setty
★★★★☆ 值得关注
arXiv
cs.DC · cs.LG 2026年10月1日
说明 Leto:在仍可用的硬件上为大语言模型训练快速原地恢复
简介 论文提出 Leto 容错训练系统,针对可在同一硬件上恢复的故障,无需重置、修复或更换设备。系统保留可用的模型状态和进程状态,并在影子训练器中预先初始化其余状态,同时采用两层纠删码保护与分块事务式更新来保证恢复的一致性。在 6 卡和 72 卡 NVIDIA A100 集群上,Leto 的恢复速度比表现最好的检查点基线快 3.6 至 6.5 倍,有效训练时间最多提高 13.7 个百分点;大规模模拟显示在 131,072 卡集群上有效训练时间超过 95%。
看点 提出在原硬件上原地恢复的新范式,用两级纠删码与分块事务更新保持模型状态,实测恢复快3.6–6.5倍,并以模拟验证大规模效果。
Geon-Woo Kim, Joon Ha Kim, Daehyeok Kim
arXiv
cs.CV · cs.LG 2026年10月1日
说明 SemanTok:用于高效自回归视频生成的可预测语义令牌
简介 本文提出SemanTok,一种灵活长度的视频分词器,把冻结的DINO特征输入编码器,并用轻量头仅从各保留的令牌前缀重建语义特征,使较短前缀携带全局语义。论文称其在各自回归模型规模下都有较高的语义对齐与视频保真度,201M的SemanTok模型可匹配或超过规模3.4倍的VideoFlexTok模型。
Mikhail Dereviannykh, Vikram Voleti, Simon Donne 等
arXiv
cs.LG · stat.ML 2026年10月1日
说明 大正则生成器:一种面向可变粒子数体系的生成式采样框架
简介 本文提出大正则生成器(GCG),将玻尔兹曼生成器扩展到大正则系综,可同时采样粒子数与构型。文中给出两种设计:一种以化学势为条件的变尺寸生成模型,另一种把分布分解为粒子数分布与对应的正则玻尔兹曼密度。在 Lennard-Jones 流体和沸石中的甲烷吸附实验中,GCG 能较准确地复现大正则观测量,并可通过自归一化重要性采样和大正则蒙特卡洛进行修正。
Andreas Burger, Malte Franke, Luka Mucko 等
arXiv
cs.AI · cs.LG 2026年10月1日
说明 基于本体、经推理机验证的科学AI大模型推理基准
简介 该论文提出一套自动生成基准题的方法:从OWL 2本体出发,生成多项选择题,正确答案依据本体设计,错误选项由推理机通过蕴含检查形式化验证为错误。研究在Pizza、PMDco和DOID三个本体上生成了112、2,491和15,216道题,并用六个大模型零样本评测,准确率为41.1%至76.8%,高于25%的随机基线,表明基准具有挑战性与区分度。
Nishtha N. Vaidya, Stephan Grimm, Thomas Hubauer 等
arXiv
cs.LG · cs.CV 2026年10月1日
说明 hZACH-ViT中的曲率受攻击:规范对称、边界饱和与对抗失效
简介 该论文研究一种紧凑的视觉Transformer(hZACH-ViT),比较欧氏、庞加莱和球面原型头在三个MedMNIST数据集上的表现。结果显示,固定曲率c=1时庞加莱头的对抗攻击成功率最低,但干净样本的MacroF1也最低;将其曲率降至c=0.1可提高干净准确率,却会在OrganAMNIST上显著提高强攻击成功率。作者认为这些结果不能证明双曲表示本身具有内在鲁棒性,而是揭示了曲率、尺度与庞加莱边界接近程度共同影响识别与对抗表示变化的实现敏感性。
Athanasios Angelakis, Marta Gomez-Barrero
arXiv
cs.CL 2026年10月1日
说明 贝叶斯微调使语言模型的行为具备贝叶斯性,但程度受限于其信念表征
简介 该论文研究语言模型在存在隐变量的不确定推理任务中是否能达到贝叶斯决策。作者在航班推荐任务上,从行为、表征和计算三个层面检验模型,比较用贝叶斯最优模型输出微调与用真实答案做标准监督微调的差异。结果显示,贝叶斯微调的模型行为更接近贝叶斯,其中间层编码了贝叶斯公式的相关量,并在一定程度上用于推荐;标准微调模型在信念和推荐环节均有不同。
Polina Tsvilodub, Andreas Waldis, Linlu Qiu 等
★★★★☆ 值得关注
arXiv
eess.IV · cs.LG 2026年10月1日
有代码
说明 面向自监督全切片病理图像压缩的非参数分布匹配方法
简介 全切片病理图像(WSI)分辨率极高,单张可达数GB,训练成本很高。本文将WSI压缩重新表述为固定表示下的分布匹配问题,并提出基于非参数先验、可自适应切片容量的近似框架NICER。在五个组织病理数据集上的实验显示,NICER平均准确率提升7.44%,并改善了效率与准确率的权衡。
看点 将WSI浓缩重新表述为分布匹配问题并提出基于非参数先验的NICER,有新意;在五个数据集上验证,平均准确率提升7.44%。
Duong M. Nguyen, Trong Nghia Hoang, Hang Thi Nguyen 等
arXiv
cs.CV 2026年10月1日
说明 利用视觉语言模型评估增强现实画面质量并自动调整内容
简介 本文提出一个基于视觉语言模型(VLM)的自动化框架,用于评估和改进增强现实(AR)场景的视觉质量。作者构建了 RateAR 基准数据集,并评测了 11 个商用 VLM,其预测与人工主观评分的 Spearman 相关系数最高达 0.8695。随后,作者搭建了自动调整系统,21 名参与者的用户研究中,超过 90% 认为该系统改善了虚拟内容的位置与大小协调性。
Elias Rotondo (1), Lin Duan (1), Yanming Xiu (1) 等
arXiv
cs.LG · cs.AI · cs.RO 2026年10月1日
说明 利用目标条件双模拟学习可迁移技能
简介 本文研究无奖励数据集上的无监督技能发现,以预训练通用策略。作者提出一种学习动作感知时序表示的目标函数,使其满足函数等变性并保留环境的局部时序结构;在此基础上,利用双模拟(bisimulation)使技能行为仅依赖直接影响其执行的状态特征。实验表明,在一种环境中学到的技能可有效用于不同布局的下游任务,显示出较强的分布外泛化能力。
Mohammad Amin Abbasfar, Farbod Azimmohseni, Mohammad Hossein Rohban
arXiv
cs.LG · cs.AI 2026年10月1日
有代码
说明 LabBook:利用实验历史提升大模型驱动发现的效率
简介 论文提出一个单智能体发现框架,核心是由智能体维护的记忆 LabBook。它既用于从完整实验日志中检索相关证据,也用于指导生成新的程序并同时更新自身记忆。在 49 个 Frontier-CS 问题上,该方法在两种骨干模型下,相较所评估的进化基线改善了观察到的质量与成本之间的权衡,并在另外九项数学、系统和启发式设计任务中保持竞争力。
Bo Yuan, Wenqian Ye, Zelin Zhao 等
arXiv
cs.CL · cs.AI 2026年10月1日
说明 闭合循环:循环语言模型的实用训练方案
简介 本文提出了循环语言模型(重复应用一组共享层以增加有效深度)的实用训练方法。作者将从头训练所需的数据量从 Ouro 的 7.7T 词元降至 310B,同时保持较强的推理表现。在受控比较中,1.4B 循环模型在 12 个评测基准上均优于参数匹配、数据相同的稠密模型,并能将已有预训练稠密模型改造为循环结构。
Andrei Marchenko, Viacheslav Bezrukov, Oleg Kashurin 等
arXiv
cs.LG · q-bio.QM 2026年10月1日
说明 ORBIT-FMIB:通过 ESM-2 追踪分阶相互作用的表位(上位性)信息
简介 该研究提出 ORBIT-FMIB 诊断框架,用于探究蛋白质基础模型 ESM-2 是否保留高阶上位性信息,并在 GB1 适应度数据上验证。初次运行显示高阶信息保留较少,但独立复现后差异大幅缩小且符号不稳定,因此目前无法确定 ESM-2 是否选择性丢失高阶信息,该方向性问题仍未解决。
Maryam Rahimimovassagh, Ivan Garibay, Niloofar Yousefi
arXiv
cs.AI · cs.LO 2026年10月1日
说明 面向规范引导决策的简单信念义务逻辑
简介 本文提出一种简单的信念义务逻辑,用于在规范相互冲突、信息不完整或不可靠的情形下,支持自主系统做决策。该逻辑由 Chellas 的最小义务逻辑中可经典化简的片段扩展而来,并结合多智能体 KD45,使规范可以依赖智能体对事实和规范的信念。作者在此基础上定义了信念规范合规优化问题,并区分主观优化与客观优化,给出两者一致的条件,以及在这些条件下可在多项式时间内将最优决策归约为加权部分 MaxSAT 问题。
Thorsten Engesser, Agata Ciabattoni
★★★★☆ 值得关注
arXiv
cs.CV · cs.AI 2026年10月1日
有代码
说明 VisionQ:面向计算机视觉定性分析的视觉语言模型评判基准
简介 该论文提出VisionQ,一个基于CVPR和ICCV同行评审论文定性对比图构建的基准,用于评估视觉语言模型能否依据指定的视觉标准判断方法输出的优劣。基准包含1,409篇论文、3,911个标注数据点、六大类51个叶子节点的视觉标准分类体系,并训练了VisionQ-Judge模型。评测显示,表现最好的20个模型中,最高准确率仅为63.1%(随机猜测为32.2%),且不同标准之间的可靠性差异明显。
看点 提出以命名视觉准则为条件的VLM评判基准,填补仅评标量质量的空白;基于1409篇CVPR/ICCV论文和3911个标注点,并评测20个模型。
Vu Dinh Xuan, Duc-Hai Nguyen, Minh-Dung Dao 等
arXiv
cs.LG · q-bio.QM 2026年10月1日
说明 量化与高效微调蛋白质语言模型的分析
简介 本文评估了4位量化与低秩适配器微调(QLoRA)对多个蛋白质语言模型的影响,涵盖蛋白质预测与序列生成任务。研究发现,许多模型与任务组合保留了全量微调90%以上的性能,最大模型的GPU显存节省接近90%。作者建议将QLoRA作为显存受限场景的首选策略,并指出生成模型还需结合分布分析进行验证。
Ilan Yaniv Zeisler, Sebastian Clancy, Pouriya Bayat 等
arXiv
cs.CL 2026年10月1日
说明 PhysicsMate:基于孟加拉语中学物理课程的问答基准与小模型适配研究
简介 该论文针对孟加拉语中学(九至十年级)物理问答缺少课程对齐基准的问题,依据国家课程与教材委员会的物理大纲构建了包含1834组问答对的PhysicsMate基准,并以1760个节点、2600条边的知识图谱为基础。研究对0.6B、1.7B和4B参数的模型进行低秩适配,闭卷准确率分别提升5.5、15.0和23.3个百分点。其中,物理量和命名定律等结构化课程知识受益最大,松散的实体级知识受益最小。4B模型经适配和量化后可作为离线本地推理使用。
Rashid Azraf Jahin, Saadman Sajid, Khan Raiyan Ibne Reza 等
arXiv
cs.LG · cs.AI 2026年10月1日
说明 探索更多,推理更好:面向扩散语言模型的分步风险敏感GRPO
简介 该论文研究扩散大语言模型的强化学习训练。方法StepRS-GRPO在去噪的不同状态下调整分组优势变换的风险系数,同时保留原有训练框架。在多个扩散模型骨干和数学推理基准上,它相比中心化GRPO提升了pass@1准确率与pass@k覆盖率,并增加了答案多样性。
Yue Yu, Bowen Zuo, David Crandall 等
arXiv
cs.CL 2026年10月1日
说明 Lingtai:概念几何能揭示与不能揭示的大模型推理信息
简介 本文提出Lingtai,一种无需训练的概念遥测方法:在大语言模型逐词生成时,把隐状态投影到预先定义的概念锚点上,得到每一步的概念坐标信号。在代码生成和小学数学推理任务上,该信号与预测不确定性存在稳健关联,但不能据此认定其为稳定的正确性指标。论文还观察到执行轨迹的身份特征,并报告每个词元约0.7%至1.6%的解码开销。
Jiangang Chen
arXiv
cs.AI · cs.LG 2026年10月1日
说明 数据越多未必越好:生成式AI个性化中的上下文充分性边界
简介 该论文提出“上下文充分性”理论,认为提供给生成式AI的情境信息与客户当前意图的相关性比数量更重要。作者划出不足、充分、饱和与干扰四种状态,并提出“上下文充分性边界”用于找出最小相关信息集。在一家大型家居零售商的生成式推荐系统实验中,相关上下文提高了推荐的恰当性,无关上下文则降低了恰当性并使检索不稳定。
Merieme Askour, Ayoub Merimi
arXiv
cs.AI · cs.LG · stat.AP 2026年10月1日
说明 智能体评测的可靠性:增加任务未必能修正智能体排行榜
简介 本文提出一种贝叶斯方差分解框架,用于分析稀疏、不平衡的智能体排行榜,并应用于 Holistic Agent Leaderboard 与 Harbor Index 中的 22 个基准。研究发现,可靠性取决于评测目标:固定的模型-框架组合排名较可靠,而底层模型排名的可靠性明显较低;增加相似任务的收益有限,而汇总多个不同基准在相同任务预算下可将预计可靠性从 0.44 提高到 0.75。
Michael Hardy, Ruhana Azam, Anka Reuel 等
arXiv
cs.CL · cs.AI 2026年10月1日
说明 AI编程智能体的自进化编码规则(RuleEvolve)
简介 该论文指出,AI编程智能体的表现高度依赖其底层编码规则,而现有规则多为人工编写且固定,既费力又往往不够理想。作者提出RuleEvolve框架,维护一组候选编码规则并迭代改进:由基于大语言模型的变异模块生成变体,再由评判模块筛选表现最好的变体更新候选池。作者在两种编程智能体框架、四种骨干大模型和三个基准上进行了广泛评估,结果显示其在生成代码的功能正确性、代码长度和/或生成成本方面优于人工设计和现有提示优化基线。
Zhengyuan Jiang, Reachal Wang, Yuepeng Hu 等
arXiv
cs.SD · cs.LG 2026年10月1日
说明 量子核方法在低资源跨语料合成语音检测中的稳健性评估
简介 本研究比较了量子支持向量机、经典支持向量机和多层感知机在仅使用200个训练样本、基于wav2vec 2.0嵌入并降至四维特征时的跨语料语音深伪检测表现。在ASVspoof 2019训练、ADD 2023测试的严重域偏移下,多层感知机接近随机水平,而量子支持向量机仍具一定区分能力;但在其他迁移方向上优势并不一致。作者认为这是量子核方法在分布偏移下归纳偏置的经验刻画,而非量子优势的证据。
Lisan Al Amin, Lei Zhang, and Vandana P. Janeja
arXiv
cs.AI 2026年10月1日
说明 Incident-Arena:让智能体把可靠性做到“最后九个9”
简介 该论文提出Incident-Arena基准,用于评估AI智能体处理生产环境故障响应的能力。基准包含20个基于真实开源软件的人工构建任务,每个任务在临时Kubernetes集群中注入故障并施加持续负载。论文还提出超越静态检查的功能性验证方法,结果显示前沿模型得分低于64.3%,失败包括诊断定位错误、修复不完整和不安全的回归。
Andre Fu, Malik Drabla, Leon Liu 等
arXiv
cs.LG 2026年10月1日
说明 群不变统计决定嵌入几何:从巴赫到夜空的表示谐波分析
简介 语言模型学到的月份、星期、地点等概念表示常呈现圆形与马鞍形几何结构。本文证明,若一类词的共现统计在某个群 G 下不变,则学到的词嵌入由 G 的不可约表示的矩阵元素构成;群为循环群时即得到傅里叶模式下的圆形结构。作者在循环群 Z12、作用于大小三和弦的二面体群,以及大语言模型中天体的球面表示三个设定下验证了这一结论。
Liam Storan, Andreas Tolias, Nina Miolane
arXiv
cs.LG · cs.SY · eess.SY 2026年10月1日
说明 重尾噪声下的线性系统学习:基于单条轨迹的非渐近分析
简介 本文针对指数稳定的向量自回归系统,在重尾噪声条件下,基于单条观测轨迹分析最小二乘估计的非渐近样本复杂度。在独立同分布噪声、有界噪声协方差和持续激励等假设下,给出了在有界p阶矩(p>2)条件下的估计误差界。文章还提出了适用于多类噪声分布的统一分析方法,并将其用于次指数和次高斯噪声。
Xiaomian Yang, Sungho Shin
arXiv
cs.AI · cond-mat.mtrl-sci · cs.LG 2026年10月1日
说明 CompMat-Bench:评测AI智能体在计算材料科学中的能力
简介 该论文提出CompMat-Bench基准,包含94项任务,源自近期发表的计算材料研究,要求智能体完成研究目标中的一个步骤。研究预先复现相关步骤,以避免评测中重复昂贵的模拟,并用固定规则而非LLM评判进行打分。结果显示,基于三种LLM的智能体在完整指导下通过率为66.0%至90.4%,较长工作流和简化指导会降低表现,多数失败归因于科学错误而非软件使用错误。
Chenmu Zhang, Levi Felix, Jun-Jie Zhang 等
arXiv
cs.LG · cs.MA 2026年10月1日
说明 MACTS-EM:具有涌现记忆的多智能体协作时间序列预测
简介 本文提出MACTS-EM框架,由多个专业化智能体协作完成时间序列预测,并包含元认知调度层、涌现记忆机制以及多模态上下文整合等组件。作者在金融市场、气候、能源消耗和疫情传播等场景中进行评估,报告称该方法在多数情形下优于现有方法,预测准确率提升8%至12%,零样本迁移能力提升22%至27%。
Ahmad Shahi, Mamehgol Yousefi
arXiv
cs.CV 2026年10月1日
说明 HAWK:重新思考投机解码中的多模态草稿生成
简介 投机解码可为大语言模型带来无损加速,但对大型视觉语言模型效果有限,因为轻量草稿模型难以利用丰富的多模态信息。HAWK 通过表示相似度选择信息量大的目标层并学习组合其隐藏状态,并为草稿模型提供压缩后的视觉隐藏状态,同时训练其捕捉目标预测在自身提议之后的变化。在 SmolVLM-256M 与十个多模态基准上,相比 EAGLE-3,贪心解码下平均接受长度由 3.32 提升至 4.08,加速比由 2.19 倍提升至 2.60 倍。
Wenhan Yang, Anirudh Rao, Ashwin Chandra
arXiv
cs.LG · cs.AI 2026年10月1日
说明 用大语言模型克服解释结构建模的难题
简介 解释结构建模(ISM)是一种多准则决策方法,能够刻画因素间的因果关系并形成层级结构,但传统流程依赖专家反复互动,耗时费力,难以扩展到数百个变量的研究。本文探索将大语言模型作为不完美专家的LLM-ISM融合方法,并比较了成对、k元组、逐行和整图四种因果图发现方式。结果显示,逐行方式(SHD=160,F1=0.77)和整图方式(SHD=135,F1=0.73)表现最好。
Everett Rush, David J. Icove, Ari Kim 等
arXiv
cs.CL 2026年10月1日
说明 用多个解码器混合生成多样化的对话回复
简介 论文指出,序列到序列对话模型生成的回复多样性低,原因可能是模型学到了单一模态的回复分布。作者在条件变分自编码器框架下引入多个解码器的混合结构,让各解码器学习不同主题。在开放域聊天语料上,该方法在定量指标和人工评估中都优于较强的基线模型。
Wenchao Du
arXiv
cs.LG · cs.AI 2026年10月1日
说明 低损失区域错位导致“顿悟”(grokking)现象
简介 这篇论文研究神经网络中“顿悟”(grokking)现象,即模型在训练集上已过拟合后,验证集泛化才延迟出现。作者基于模式连通性与低损失区域的几何结构建立分析框架,并发现在对称保持的划分下,验证性能不会恢复,即一种稳定的“反顿悟”情形。论文认为,当训练与验证划分诱导的低损失区域错位时才会出现顿悟,区域对齐后则只会表现为可训练或不可训练两种行为。
Yongding Tian, Zaid Al-Ars, Maksim Kitsak 等