arXiv
cs.LG · stat.ML 2026年9月30日
说明 面向隐藏森林结构的并行解掩码反事实探测
简介 论文研究掩码生成模型中的并行采样:当词元之间的依赖关系未知时,如何在较少模型调用次数下找出可安全并行的批次。作者提出一种采样器,在隐藏森林结构的离散分布下,共享对假设揭示的评估,以较低成本确定安全批次,无需完全恢复森林结构。文中给出总调用次数与顺序深度均为次线性的理论界,并证明同类不可逆乘积提交采样器在最坏情况下需要更多的反事实调用或提交轮次。
Ryotaro Kawata, Satoshi Hayakawa, Taiji Suzuki
arXiv
cs.CL 2026年9月30日
说明 视觉语言模型面对隐含风险时能否既安全又有帮助?基于意图特权的在线策略自蒸馏方法
简介 论文提出意图特权在线策略自蒸馏(OPSD)方法,在训练时利用有证据支撑的意图作为监督信息,帮助视觉语言模型识别跨模态隐含风险,并给出安全且有用的回答,而非一律拒绝。仅用1,447条安全相关样本,训练时间比多轮采样的GRPO类训练减少5倍,平均推理长度减少7%。在汇总的SIUO与HoliSafe测试集上,安全且有帮助的比例由43.9%提升至53.5%。
Haotian Deng, Wenbin Xing, Gang Xu 等
arXiv
cs.LG 2026年9月30日
说明 行为收敛不等于表征收敛:神经网络中持续存在的训练历史依赖
简介 研究者让成对的卷积网络以相反的任务顺序训练,之后接受相同的共同训练。20组MNIST实验中有16组达到预先设定的行为匹配标准,但其内部表征仍保留明显的训练历史痕迹,预测不一致约3.1%。即使延长共同训练至5万次更新,这种历史痕迹仍未消失,而准确率差距仅0.18个百分点。
Ertu\u{g}rul Mutlu
arXiv
cs.AI 2026年9月30日
说明 自我改进分支混合用于智能体框架优化:让多条搜索路径各自演化,再由路由器按输入选择最合适的框架
简介 该论文研究如何优化智能体的运行框架(harness),让系统通过执行反馈递归地自我改进。作者将搜索组织为多个分支,每个分支拥有不断演化的开发子集和提案策略,以降低陷入局部最优的风险。推理时,一个路由器会为每个新输入从各分支中选出一个框架。论文报告相对 Meta-Harness 的提升:奥林匹克级数学推理 34.8%,Terminal-Bench 2.0 为 11.6%,SWE-bench Lite 为 3.8%,且框架选择与路由器配置仅依据开发数据。
Haoyu Dong, Yuhang Zhou, Zihao Lin 等
arXiv
cs.AI · cs.CL · cs.LG 2026年9月30日
说明 可缓存的决策模型能否遵循规则?——对一个小型非生成式决策模型的研究
简介 论文研究一个名为Certo(基于Qwen3-4B)的小型非生成式决策模型,它通过为候选动作打分并输出概率来做决策。作者比较了联合打分(同时读取状态、规则和候选项,成本随候选数增长)与可缓存的独立编码方式(候选项只编码一次,可跨状态复用,但状态与候选项被分开)。实验显示,转为可缓存打分后规则敏感性明显下降,而在真实规则上,增益尚未得到确立,联合打分仍保持优势。
Dushyant Rajput, Nirdesh Chauhan, Siddharth Kosaraju (AltSlate Labs LLP)
arXiv
cs.CV 2026年9月30日
有代码
说明 ReCaVSR:基于回收潜变量与学习式缓存路由的单步流式扩散视频超分辨率
简介 本文提出ReCaVSR,一种基于Wan2.2的单步流式视频超分辨率方法,用于在线流式场景下的实时处理。该方法通过复用超分辨率潜变量保留局部时序上下文,并让各Transformer层学习不同的KV缓存时间范围,结合多范围查询判别器与针对LR输入调整的解码器。在1080×1920输出分辨率、单张A100-80GB上,报告的速度为21.20 FPS,峰值显存为15.16 GB。
Xijun Wang, Xin Li, Suhang Yao 等
arXiv
cs.DC · cs.AI 2026年9月30日
说明 正确的记忆也会出错:对LLM智能体持久记忆使用的模糊测试
简介 论文指出,LLM智能体的持久记忆在查询变化或记忆状态演变时,即使记忆内容正确也可能被错误使用。作者将此类问题形式化为模糊测试问题,并提出U-Fuzz方法,从记忆检查点出发变异查询或记忆状态,据此发现记忆使用失败。实验显示,U-Fuzz在多种记忆系统和仅能观察最终回复的API场景下,都能发现更多已确认的记忆使用失败。
Yuqiao Meng, Luoxi Tang, Yingxue Zhang 等
arXiv
cs.AI 2026年9月30日
说明 DIET:面向视频扩散 Transformer 的删除响应专家裁剪方法
简介 该论文提出 DIET,一种无需训练的专家剪枝框架,用于视频扩散 Transformer 的混合专家(MoE)结构。方法通过一次全专家校准记录专家删除后的响应特征,并以最小化整体多样性损失来选择保留的专家,同时在层内与层间分配剪枝预算。在 LingBot-Video 30B-A3B 上剪掉 50% 的专家后,检查点从 57 GB 降至 30 GB,并可在 48 GB 显卡上单卡部署,无需微调,固定 VBench 评测下总分从 0.7941 提升到 0.8115。
Jiachang Zhang, Teng Hu, Bohao Feng 等
arXiv
cs.LG · cs.AI 2026年9月30日
说明 《Privy to the Foil》:用自我特权评论家重构 RLVR 中的价值估计
简介 论文针对大语言模型多步推理训练中,稀疏终局奖励使中间步骤难以获得信用分配的问题,提出 πPPO,一种自我特权的 actor-critic 框架。该方法把同一提示下已验证的成功与失败回放作为对比证据,帮助评论家评估中间推理,同时保留标准策略优化和部署接口。实验表明,πPPO 明显提升了价值估计质量,并在数学推理基准上优于代表性的 actor-critic 与无评论家的 RLVR 基线。
Kun Liang, Chenming Tang, Clive Bai 等
arXiv
cs.CL · cs.LG 2026年9月30日
说明 Transformer 残差流中推断的几何结构:中间层表示如何逐步趋向最终预测
简介 该论文研究 Transformer 语言模型的中间残差状态如何随层数加深而逐渐对应到最终输出。作者在六个预训练语言模型上,将中间状态与自身的最终状态及其他上下文的最终状态进行比较,发现随深度增加,竞争者数量通常减少,但方向对齐和排名可能改善而欧氏距离变化不大。论文还给出了相关的高维模型与数学证明。
Timur Mudarisov, Mikhail Burtsev, Radu State
arXiv
cs.CL · cs.LG · cs.MA 2026年9月30日
说明 哪些模型能更好地协同工作?衡量异质性以选择大语言模型团队
简介 该论文研究如何组建由多个大语言模型组成的团队。作者提出一种基于异质性的选择框架,离线分析每个模型的能力,并通过错误模式的去相关性和预测行为的差异两个互补指标衡量模型间的互补程度。团队选择被表述为质量与互补性的组合优化问题,并用贪心搜索求解。在多个基准测试中,该方法在相同候选池和团队规模下优于仅考虑质量的基线。
Liangyu Teng, Hengsong Liu, Juncen Guo 等
arXiv
cs.CL · cs.AI 2026年9月30日
说明 深度思考、直接发声:面向副语言感知的循环隐式推理口语对话模型
简介 该论文提出LoopSLM,基于循环Transformer进行隐式推理,在每次前向传递中复用解码器模块并结合声学信息细化隐藏状态,并采用两阶段训练以缩小副语言感知与推理之间的差距,无需生成思维链即可直接推理。在EchoMind上,其在副语言理解、推理与回复质量上优于Qwen2.5-Omni-7B;与CoT-SFT基线相比,推理准确率提升20多个百分点,生成词元减少64.5%,延迟减半。
Shengbo Cai, Yuxiang Wang, Jingran Xie 等
arXiv
cs.CV 2026年9月30日
说明 闵可夫斯基吸引子网络:面向视觉表示的闭式双曲流
简介 这篇论文提出了闵可夫斯基吸引子网络(MAN),在伪黎曼闵可夫斯基时空中学习视觉表示,以模拟具有负曲率的双曲几何。方法结合线性洛伦兹群变换、非线性锥提升与闭式径向缩放,单次前向传播即可完成计算,无需数值常微分方程求解器或迭代回缩。论文还给出了二维(MAN-2D)和四维(MAN-4D)两种版本,并通过两个可交换的二维平面映射来计算四维洛伦兹等距变换。
Zhongping Ji
arXiv
cs.CV 2026年9月30日
说明 WINGS:无需参考视图、基于三维原生生成先验的高斯溅射修复方法
简介 该论文提出一种直接在三维空间中修补高斯溅射(Gaussian Splatting)场景的方法,用于补全被遮挡区域的几何与外观。方法利用大型预训练三维先验的嵌入空间,并结合结构补全网络生成缺失内容,无需依赖二维修复的参考视图。论文称该方法比基于二维的相关方法更快,并通过实验与用户研究进行了验证。
No\'e Lallouet, Michael Fischer, Elie Michel
arXiv
cs.RO · cs.AI 2026年9月30日
说明 探索、执行、进化:面向具身智能体的技能获取与复用闭环
简介 论文提出RoboSkill框架,通过“探索、执行、进化”循环将技能获取与复用连接起来:智能体探索收集任务信息,执行时根据反馈调整,并依据执行记录更新技能库,再用于下一轮。在LIBERO-10基准上,四个智能体的首次尝试成功率提升12.5至25.0个百分点,平均运行时间减少7.6%至72.4%;在真实机器人上成功率提升8.3个百分点。
Sicheng Xie, Yitong Chen, Haidong Cao 等
arXiv
cs.CV · cs.AI 2026年9月30日
说明 遥感像素级 Transformer:树冠高度案例研究
简介 本文研究用于中等分辨率卫星影像的像素级注意力 Transformer 模型,以估计树冠高度,用于评估森林状况。研究表明,像素级注意力模型通常优于依赖较大 patch 的模型;通过高效注意力变体,可在预测质量与资源消耗之间取得平衡。作者还与多个成熟模型比较,发现合适的超参数下 Transformer 架构可以表现更优。
Sven Ligensa, Jan Pauls, Karsten Schr\"odter 等
arXiv
cs.LG 2026年9月30日
说明 基于实验反馈校准的蛋白质优化方法(批次对齐尾部仲裁)
简介 本文针对蛋白质优化中有限实验预算下如何选择下一批待测变体的问题,提出批次对齐尾部仲裁方法(BATA)。该方法利用实验反馈自适应地结合先验排序与任务专用预测器的排序,并聚焦于批次对齐的高适应度区域进行校准。在 GB1、PABP 和 TrpB 的实测数据上,480 次测量后的最佳适应度平均排名最好(1.67)。
Zefeng Lin, Xianyong Fang, Tianfan Fu 等
arXiv
cs.CL · cs.LG 2026年9月30日
有代码
说明 CompOrca:面向指令微调数据的大规模合规性标注
简介 该论文为OpenOrca语料库全部4,233,923条样本提供合规性标签,由开源大模型LongCat-2.0作为评判者,每条样本经五轮判定。结果显示94.75%为一致合规,1.28%为一致不合规,其余3.97%存在分歧,并公开原始投票数。与450条人工标注样本对比,一致判定的合规与不合规标签精确率分别为97.3%和86.7%。
Philipp E. Glass, Alina Miron
arXiv
cs.CV 2026年9月30日
说明 ByteTraX:用优化阈值改进 ByteTrack 多目标跟踪架构
简介 本文提出 ByteTraX,是对多目标跟踪算法 ByteTrack 的改进。它采用统一的匹配阈值,并通过更严格的轨迹初始化标准来减少身份切换。在 GMOT-40、SportsMOT、TeamTrack 等多个基准上,论文报告相比基线提升了 HOTA、IDF1 和 FPS,身份切换减少超过 40%。作者还公开了源代码和针对 YOLO 系列检测模型的集成说明。
Thomas A. O'Shea-Wheller
arXiv
cs.LG · cs.AI 2026年9月30日
说明 野外环境中的赌博机挑战与对策:面向跨批次套餐推荐的热启动混合赌博机
简介 该论文针对推荐系统中反复出现的冷启动用户群体,提出 CohortMix-TS 方法。它从早期用户批次中学习潜在用户群组,并利用元数据为新用户构建先验,再通过汤普森采样与多样性、库存耗尽控制来组合推荐列表。作者在模拟、半合成实验以及为期 25 天、713 名注册参与者的校园游戏问答应用随机部署中进行了评估,结果显示跨批次迁移改善了早期推荐质量。
Serafima Lebedeva, Sumantrak Mukherjee, Ali Arshad Sadal 等
arXiv
eess.AS · cs.AI · cs.LG 2026年9月30日
说明 GLaS-JEPA:无需人工设计预测目标的高斯正则化语音自监督学习
简介 论文提出 GLaS-JEPA 框架,直接预测掩码位置上编码器当前输出的连续表示,不使用对比学习、离散目标或独立的 EMA 目标编码器,并用 SIGReg 表示空间正则化防止表示坍缩。模型在 960 小时 LibriSpeech 上预训练,参数量 5700 万,在冻结编码器的 SUPERB ASR 任务上取得 6.89% 的词错误率,在槽位填充任务上取得 25.87% 的字符错误率,分别优于同规模非蒸馏基线 43.1% 和 22.0%。作者据此认为,简化的训练流程也能学到有竞争力的语音表示。
Gaspard Bott\'e, S\'everin Baroudi, Samir Sadok 等
arXiv
cs.AI · cs.NE 2026年9月30日
说明 一种基于情境维持并检索记忆的神经网络
简介 论文训练了一个带情景记忆缓冲区的循环神经网络,让它在观看自然影片时通过贝叶斯推断推断情境,同时预测接下来的场景。情境以低秩方式调节循环连接(工作记忆的基础)后,模型的活动模式与观看同一影片的人类fMRI神经响应最为吻合。情境还影响记忆检索,模型不仅依据内容相似度,也依据情境相似度来检索记忆,其学习速度也明显快于没有情境调节的模型。
Hayoung Song, JeongJun Park, Qihong Lu 等
★★★★☆ 值得关注
arXiv
cs.LG · cs.AI 2026年9月30日
说明 预测式自监督学习可在干扰信息存在时证明性地识别随机信号
简介 本文证明,在潜空间中进行预测的常见自监督学习方法,能够区分预测相关的随机潜变量与观测私有的干扰信息,从而恢复真实的随机信号。作者将其归因于预测互信息最大化与潜分布匹配两项原则。在高斯预测器的仿真中,该方法即使在动态且含干扰的环境中,也能将信号恢复到仿射变换之内。
看点 证明常见潜空间预测型自监督方法能在存在干扰项时识别随机信号,属于有新意的理论结果,并在高斯预测器的仿真中验证。
Fabian A. Mikulasch, Friedemann Zenke
arXiv
cs.CL · cs.AI 2026年9月30日
说明 用于评估大语言模型临床推理表达的评分框架(提案)
简介 本文提出一套多维评分框架,用于评估大语言模型对金标准临床病例的自由文本回答中所表达的临床推理质量。该框架综合了医学教育评估方法、临床大模型基准以及通用大模型推理评估研究,并引入“依据性”作为临床化的事实性维度。文章指出该框架尚未经过评分者间信度、结构效度或临床实用性检验,其目的是在实证测试前使评估决策明确并便于审视。
Zhangshu Joshua Jiang, Zina Ibrahim, James T. Teo
arXiv
cs.AI 2026年9月30日
说明 广义平滑条件下、仅依赖二阶矩随机梯度的 Adam 收敛性分析
简介 本文研究 Adam 优化器在广义平滑目标函数上的收敛性,并以随机梯度的二阶矩信息代替此前分析中常用的强尾部假设(如几乎必然有界或次高斯)。作者将 Jin 等人(2026)的 Adam 自归一化框架推广到 L0-Lp 广义平滑条件与广义二阶矩 ABC 条件,并在 p<2 的全范围内给出高概率收敛速率保证,其置信度依赖为 δ^{-1/2}。作者还构造了一个困难实例,说明在仅有二阶矩信息时该依赖是尖锐的。
Ruinan Jin, Difei Cheng, Ling Chen 等
arXiv
cs.CV 2026年9月30日
说明 CHOQOLATE:用 Choquet 积分组织概念瓶颈的潜在空间
简介 论文提出 CHOQOLATE,一种基于 2 可加 Choquet 积分、按设计即可解释的层,用于把基于 CLIP 等视觉语言模型的概念瓶颈模型中相关联的概念合并为紧凑节点。作者在四个数据集上报告了较好的准确率与可解释性之间的权衡,并给出闭式梯度推导以解释这种组织效果。另外,在标准偏差消除基准上,训练后抑制虚假概念的做法与需要分组标注或重新训练的方法表现相当。
R\'emi Kazmierczak, Johanne Cohen, Marianne Clausel
arXiv
cs.CV · cs.LG 2026年9月30日
说明 行星特征场:面向全球地球表征的可扩展方法
简介 论文提出行星特征场(PFFs),把多种卫星观测、预计算嵌入和地图产品作为随时空连续变化的函数联合建模,以压缩存储并保留空间和时间细节。该方法采用空间局部的显式-隐式混合神经场,多个产品共享分解后的特征体,并由轻量解码器分别还原。原文称,在约1800倍压缩下,重建特征在像素级分割、变化检测和块级分类任务上保留了约90%或以上的原始性能,并将特征访问延迟降低一个数量级。
Arjun Rao, Sebastian Loeschcke, Anthony Fuller 等
arXiv
physics.chem-ph · cs.AI 2026年9月30日
说明 RxnOptBench:评测大语言模型在有机反应条件优化中的表现
简介 该论文提出 RxnOptBench 基准,用于考察大语言模型能否从真实的反应条件筛选表中选出最佳的催化剂、配体、溶剂、温度等条件组合。数据取自 2025 年有机合成方法学论文的优化表,以结合产率与立体选择性指标的综合效用进行连续相对评分,并设置有、无文献参考的对照以区分上下文利用与参数记忆。结果显示,即便是最强模型仍有较大提升空间,化学专用模型在多维选择任务上接近随机基线。作者同时公开了经人工审核的测试集与评测代码。
Lingli Ge, Yubin Wang, Junyuan Gao 等
arXiv
cs.CV · cs.AI 2026年9月30日
说明 用于检测法庭中 AI 篡改视觉证据的基准与数据集
简介 本文提出 CIFAR 合成证据语料库,用于在法庭与司法场景中鉴别图像证据的真伪。语料库包含 1,505 张照片,其中 720 张为真实对照,785 张为篡改或伪造图像,涵盖监控、行车记录仪和消费级照片。论文同时用公开的图像篡改检测器建立基线,结果显示现有系统的误差在证据使用上仍然存在问题。
Kelly McConvey, Sajad Ebrahimi, Nima Jamali 等
arXiv
cs.CL 2026年9月30日
说明 选择关键信息:面向长文本嵌入的语义压缩引导选择性池化
简介 本文提出SCSP,一种无需训练的长文本嵌入方法。它将文档切分为句子感知的文本块,并为每块附加语义压缩提示,借助提示产生的注意力模式估计词元重要性,选取关键词元并聚合其中间层表示,形成最终嵌入。实验表明,该方法可即插即用地用于零样本和微调模型,并持续提升性能。
Zifeng Cheng, Jie Zheng, Zhiwei Jiang 等
arXiv
cs.CV · cs.AI 2026年9月30日
说明 HiRAE:基于残差预算的分层表示自编码器,用于提升图像重建与生成对齐
简介 该论文提出HiRAE(分层表示自编码器),通过对编码器各层按深度分组,学习对最深层表示的残差修正,并用分组范数上限约束修正幅度,浅层预算更紧。在ImageNet-256上,HiRAE-24相比RAEv2将重建FID从0.299降至0.209,同时保持有竞争力的引导生成质量。在文生图任务中,它在GenEval、DPG-Bench和GenAI-Bench上的对齐效果优于RAEv2,监督微调后GenEval从84.86提升到87.70。
Xuanyu Zhu, Yan Bai, Yang Shi 等
arXiv
cs.AI · q-bio.QM 2026年9月30日
说明 OmniVCBench:面向AI虚拟细胞、基于证据的多模态推理基准
简介 该论文提出OmniVCBench,一个以图表为中心、可追溯来源的基准,用于评估AI虚拟细胞解读实验证据的能力。基准包含从科学文献图表及实验背景中整理的6077组单子图和多子图问答对,涵盖三类科学推理任务。论文还提出了基于任务条件的MLLM评判框架AIVC-Judge,以及将模型推理中的错误转化为选择题干扰项的MDHNM方法。
Manyu Li, Xunkai Li, Yongfu Xiong 等
arXiv
cs.CL 2026年9月30日
说明 希腊纸草手写文字识别需要达到多高的准确率?四类纸草学任务在希腊文本上的字符错误率容忍度研究
简介 作者以 papyri.info 中 63,846 篇已出版希腊文本的编辑版本为真值,模拟字符错误率为 1% 至 50% 的识别输出,测试文献类型、年代判定、documentary 与 literary 分类及关键词检索四类任务。结果显示各任务容忍度不同:分类任务可容忍的错误率最高,年代判定最低;用含错误的文本重新训练模型,可明显缓解超过 15% 错误率时的性能急剧下降。
Anton Repushko, Elena Chepel
arXiv
cs.AI 2026年9月30日
有代码
说明 基于交叉熵引导的混合专家大语言模型路由方法
简介 稀疏混合专家(MoE)大语言模型通过把每个词元路由到少量专家来扩展容量,但现有路由器的训练目标无法直接让路由亲和度与词元级误差对齐。该论文提出两种词元误差监督方式:一种为每个专家预测误差分数,另一种直接将路由亲和度与模型目标对齐。在两个稀疏MoE骨干模型和四个多选问答基准上进行评估,其中在Granite模型上,该方法相比参数匹配的路由基线平均提升约2.3个百分点。
Yury Nahshan, Nati Daniel, Jacob Goldberger 等
arXiv
cs.CV · cs.AI 2026年9月30日
说明 商用AI在多家医疗机构中检测肺栓塞的真实世界表现研究
简介 这项回顾性研究评估了同一商业平台上两款已获FDA批准的AI算法,分别用于CT肺动脉造影中的肺栓塞分诊以及常规增强CT中偶然发现的肺栓塞检测,覆盖一个包含17家机构的学术医疗系统。研究结果显示,两款模型的灵敏度均低于FDA批准时的基准,但特异度超过了批准标准;对于外周型和非急性栓塞,检测性能下降。作者认为,这凸显了对AI医疗器械进行标准化上市后监测的必要性。
Aawez Mansuri, Mohammadreza Chavoshi, Theodorus Dapamede 等