arXiv
cs.AI 2026年10月2日
说明 用强化学习优化核物理散射实验中的靶极化
简介 动态极化靶在核物理实验中需要不断调节微波频率,以补偿辐射损伤和材料变化,传统上依赖专家反复试调。本文基于APOLLO低温靶系统的运行数据,结合代理模型(多层感知机与高斯过程回归)和强化学习构建数据驱动的控制框架。作者报告该强化学习智能体相比操作员的操作,靶极化效果提升约2倍。
Armen Kasparian, Torri Jeske, Monibor Rahman 等
arXiv
cs.CV · cs.GR 2026年10月2日
说明 基于仿真的智能体视觉语言模型野火监测与报告框架
简介 该论文提出一个以仿真为基础的视觉语言模型框架,可将二维野火仿真自动转换为带标签的视频片段,并借助 Blender 生成的低细节三维代理与可控视频生成构建多模态记忆。基于此记忆的免训练多智能体系统用于检索参考片段并生成结构化野火报告。论文报告在合成的留出片段上,视频记忆的四标签精确率为 51.5%,完整系统在六个仿真派生报告字段上的准确率为 77.3%,并包含三项真实无人机评估。
Duowen Chen, Yuchen Sun, Zhiqi Li 等
★★★★☆ 值得关注
arXiv
cs.CL · cs.AI 2026年10月2日
有代码
说明 通过逐定理符号验证器生成反例:模仿何时有害、强化学习如何修复
简介 论文指出大模型常能正向证明定理,却难以否定与之相近的错误命题。作者提出 SymCE 数据集,包含 4707 个错误的本科代数与实分析猜想,每个都配有可执行的 Python 验证器,验证器同时作为强化学习的奖励函数。实验显示,仅用反例做监督微调会使真命题识别率从 0.27 降至 0.00,而使用稀疏奖励的强化学习可将其修复并提升至 0.66。
看点 提出以确定性验证器作奖励的反例生成训练环境,并发现模仿陷阱,与RLVR修复方案的对比有新意;实验覆盖多种子与基准,证据较充分,影响面限于子领域。
Omar Farouk Zouak, Houssam Eddine Boukhalfa, Soumaya Lakehal 等
arXiv
cs.LG 2026年10月2日
说明 基于人工智能的热感知数据中心容量规划
简介 大语言模型的GPU高强度计算会在数据中心形成局部热点,负载突发也增加了制冷响应的难度。本文提出一个AI驱动的框架,可在数秒内为真实数据中心完成热感知容量规划。该AI模型以机架功率、服务器功率、服务器布局和暖通空调设置等参数进行学习,并在毫秒级给出温度预测。与高精度CFD仿真对比,对未见过的数据中心设计,模型在保持高精度的同时实现约10000倍的加速。
Yixing Li, Mark Fenton, Matthew Kaufeler 等
arXiv
cs.LG 2026年10月2日
说明 基于加性量化表示的多臂老虎机方法
简介 该论文提出残差量化(RQ)作为表示层,用离线训练的码本把连续上下文映射为多级离散质心分配,以在线方式支持一类加性老虎机算法。作者称这种方法在保持严格有界内存的同时获得非线性表达能力。在13个数据集上,RQ变体在其中11个上优于对应的非RQ方法。
Ami Tavory, Noam Touitou, Tal Sarig 等
★★★★☆ 值得关注
arXiv
cs.LG 2026年10月2日
说明 基于图极限与神经逆算子的复杂网络生成模型:把机理可解释性与摊销推断结合起来的图生成框架
简介 该论文提出一种复杂网络生成模型,用多重分形阶梯图极限(multifractal step graphon)以递归方式紧凑地参数化网络,并用神经逆算子从网络中恢复参数,因而能处理训练时未见过的图规模。在零样本图生成基准中,该方法在四项指标中的三项取得最佳平均表现;在单次观测网络上与逐图优化的方法表现相当;在多被试脑电研究中,推断出的参数比传统网络统计量更灵敏地反映大脑状态的可逆变化。
看点 将多重分形阶梯图权函数与神经逆算子结合,统一机理模型与摊销推断;零样本基准与EEG案例支持其有效性,影响面主要在网络科学子领域。
Wooseong Choi, Italo'Ivo Lima Dias Pinto, Chen Sun 等
arXiv
cs.LG · cs.AI · cs.CL 2026年10月2日
有代码
说明 模型是在合成代码还是在回忆代码?评估大语言模型的算法代码检索能力
简介 该论文提出“参数化代码检索”概念,认为对于经典算法,大模型主要是从预训练中学到的知识里复现算法,而非重新合成。作者构建了包含599个问题、覆盖77种经典算法的基准AlgoREval,在零样本设置下评估了15个7B至34B参数的模型。结果显示不同编程语言和输入表示下的检索准确率差异明显,并比较了提示增强、SFT和GRPO等方法的效果。
Nickil Maveli, Antonio Vergari, Shay B. Cohen
arXiv
stat.ML · cs.AI · cs.LG 2026年10月2日
说明 学习风格,遗忘语义:分类任务上 SFT 与 RFT 的案例研究
简介 本文研究为何在教师示范语义正确的情况下,监督微调(SFT)比强化微调(RFT)造成更多遗忘。研究对象是同一语义类别内不同表达风格的分类任务,并借助线性 softmax 策略,将更新分解为语义分量与风格分量。结果显示,SFT 在非均匀教师下会沿任务均值产生风格漂移,因而在特定条件下遗忘存在严格为正的下界,而精确策略梯度的 RFT 保持零语义误差,模拟实验支持这一理论预测。
Haodong Liang, Yanhao Jin, Krishnakumar Balasubramanian 等
arXiv
cs.LG · cs.AI 2026年10月2日
说明 基于局部信任域优化的on-policy蒸馏词元效用(论文)
简介 该论文针对on-policy蒸馏(OPD)中如何选择重要词元的问题,直接从蒸馏目标推导词元重要性:在学生预测分布上相同局部KL预算下,每个位置的损失能下降多少,并由此得到效用s_t=g_t^T F_t^† g_t。作者提出连续、均值归一化的Fisher效用加权方法FUW,在七个数学推理基准和三组Qwen3师生模型上,相较匹配的均匀OPD有所提升,并与现有选择性方法相当。
Narayanan Sadagopan, Yilan Chen, Vijay Lingam
arXiv
cs.LG 2026年10月2日
说明 CRISP:一种将二值神经网络末层激活重构为可解释命题子句的神经符号框架
简介 该论文提出CRISP框架,用Tsetlin机(TM)子句重构二值神经网络教师模型的末层激活向量,使每个隐藏位都能追溯到具体的输入阈值。作者在MNIST、KMNIST、FMNIST、SVHN、CIFAR10上进行了评估,结果显示在所测试的BNN设置下,符号化二值化不降低教师头部准确率,并给出了不同布尔化方法的重构保真度。
Alex Chan, Shafi Muhtasim Chowdhury, Ekin Can Erku\c{s} 等
arXiv
cs.LG · cs.AI 2026年10月2日
说明 面向流映射蒸馏的几何感知时间重参数化
简介 该论文研究如何通过改变教师模型的时间参数化,使流映射蒸馏更容易学习,以实现一步或少步生成。作者提出一种几何感知的时间重参数化方法,在保持教师几何路径和终端分布不变的前提下,将更多学生时间分配给法向加速度较大的轨迹区域,并在蒸馏前一次性估计该时钟,无需额外参数或推理开销。在合成数据、CIFAR-10 和 CelebA-64 上,该方法在相同推理预算下提升了样本质量,一步生成的提升尤为明显。
F\'elix Dedek, Makoto Yamada
arXiv
cs.CL 2026年10月2日
说明 找到走法不等于赢得棋局:用于评估大模型智能体闭环表现的象棋基准 XiangqiBench
简介 论文提出 XiangqiBench,一个可执行的中国象棋基准,让大模型智能体在 119 个有强制杀棋的残局中与引擎对弈并完成将杀。作者记录了 12 个前沿模型的 8,568 条多轮交互轨迹,发现模型首选走法正确并不代表能赢棋,且成功率在多次尝试间波动较大,模拟推演也常与真实对手应对不一致。作者认为智能体评估应以闭环结果为准,并同时报告稳定性。
Yekun Chai, Qiwei Peng, Haoyi Xiong
arXiv
cs.CV 2026年10月2日
说明 基于人工智能的多阶段方法:用低倍率头皮图像评估雄激素性脱发
简介 本文提出一套自动化头皮定量分析与临床辅助决策框架,用于评估雄激素性脱发(AGA)。该框架结合毛囊单元定位、可见毛干计数、校准后的毛干宽度估计、区域汇总及可解释规则层。在患者互不重叠的测试中,YOLOv8m的测试mAP@0.5为0.920,召回率为0.860;带支持图通道的EfficientNet-B5在专家标注框计数上准确率为87.0%。系统旨在辅助而非取代皮肤科医生的判读。
Mahmoud Raslan, Nada Omar, Omar Khaled 等
arXiv
cs.LG · cond-mat.mtrl-sci 2026年10月2日
说明 AI Theorist 揭示 α-RuCl3 中的激子结构
简介 本文提出 AI Theorist,一套由人工智能代理组成的系统,通过假设生成、第一性原理计算和证据驱动的修正,自主发现物理模型。研究将其应用于 α-RuCl3(有望实现 Kitaev 量子自旋液体的候选材料),分析其光学光谱与光电流观测。系统对这些观测提出新的解释,识别出具有不同光学选择规则和实空间分布的激子态。作者称这是 AI 系统首次在量子材料中自主建立物理模型,解释此前未发表的实验观测。
Hongjian Zhou, Xianfan Nie, Sean Wu 等
arXiv
cs.LG 2026年10月2日
说明 提示判别:在真实场景中泛化恶意输入探测器
简介 论文研究为 LLM 智能体的激活探测器(用于识别提示注入、越狱等有害输入)在用户输入后追加分类指令是否有效。在13个安全基准、三个开源模型上的留一数据集评估显示,分类式后缀能提升对未见攻击类型的检测效果(最多约4个 AUC 点),且收益主要来自分类格式本身而非具体标准。
Elad David, Max Fomin
arXiv
cs.LG · cs.AI 2026年10月2日
说明 基于自适应覆盖与聚焦采样的高效神经场学习方法(ACES)
简介 隐式神经表示用于建模高维连续场,但均匀子采样忽略空间差异,训练效率较低。本文提出ACES框架,通过自适应空间划分保证区域覆盖并减少冗余,再对区域进行重要性加权,优先训练信息量大的区域。作者给出理论分析,并在科学场学习任务上显示,ACES比均匀采样和逐点自适应采样收敛更快、误差更低,在局部复杂度高的场中提升最明显。
Guang Zhao, Xihaier Luo, Huan-Hsin Tseng 等
arXiv
cs.AI 2026年10月2日
说明 终端智能体训练停滞:数据生成与验证难题解析
简介 该论文指出,用 Claude Opus 等前沿模型充当元智能体生成终端任务与验证器用于强化学习训练的做法日益常见,但可运行的 Docker 镜像和可执行测试套件并不能保证端到端流程可靠。作者提出一套元智能体流程,诊断出基准无效、测试框架脆弱和奖励错位三类失败。论文还报告,提示词重设计和上下文扩展使基线可解性提高 5.6 倍,但增加困难任务后,同一训练配置下平均 pass@2 降至 20.6%。
Xi Qin, Isabel Kurth, Xin Cui 等
arXiv
cs.LG · cs.CL 2026年10月2日
说明 训练式智能体上下文管理:让小模型用极少上下文处理长文本
简介 该研究不通过原生训练长上下文或设计复杂的长上下文框架,而是采用极简框架:一个可自我调用并传入任意提示词的工具,以及一个读取输入上下文指定范围词元的工具。作者在该框架上对 Qwen3.6-35B-A3B 进行了多样化合成数据集的微调。结果显示,在文档长度超过 40K 词元时,仅用 8,000 词元上下文的小模型在 OOLONG-synth 基准上的表现与使用 100 万词元上下文的 GPT-5.4 相当。
Bryce Sandlund
arXiv
cs.NI · cs.LG 2026年10月2日
说明 5G及未来网络的节能:一种量子强化学习方法
简介 本文针对5G及后续网络的能耗问题,提出一种量子强化学习(QRL)算法,用于优化基站的能源使用,并考虑用户设备的动态行为。作者称,通过参数化量子电路,该方法比依赖传统深度神经网络的深度强化学习(DRL)收敛更快。仿真结果显示,该方法能在维持服务质量的同时显著降低能耗,且收敛速度与学习复杂度均优于DRL和Q-Learning。
Muhammad Usman, Nguyen Van Huynh, Marianna Lezzi 等
arXiv
cs.LG 2026年10月2日
说明 VisAudit:评估多模态智能体对可视化的诊断与修复能力
简介 该论文提出VisAudit基准,用于评估多模态智能体在数据可视化中自主诊断缺陷、修改代码、修复图表并验证结果的能力。基准包含1900个带缺陷的图表实例(涵盖21种图表类型和10类缺陷)以及300个原本正确的图表。实验显示,表现最好的模型在自主修复设定下仅完整修复了47.4%的有缺陷图表,说明其自主审查能力仍有明显不足。
Shicheng Liu, Adam Kahirov, Qi Zhang 等
arXiv
cs.LG 2026年10月2日
说明 面向美国建筑电表数据的 AI 需求预测:经验证的数据接入流程、受控评估与修正后的负面结果
简介 论文提出一套在模型训练前检测并修复电表数据缺陷的流程,仅使用预测时可获得的信息。在公开的 Building Data Genome 2 数据集上,12 栋美国建筑的小时用电数据受到人为注入缺陷干扰后,梯度提升预测误差上升 86%;经检测和修复后,误差恢复到干净数据水平,同时保留 93% 的训练目标。作者还记录了早期版本因过度清洗而使预测变差 25% 的负面结果,并通过带日期的修正说明予以更正。
Yixuan Liang
arXiv
cs.LG · cs.AI 2026年10月2日
说明 Inherit-MAS:通过工作流与执行继承实现多智能体系统的测试时演化
简介 本文提出 Inherit-MAS,用于改进由大语言模型构成的多智能体系统。它在工作流层面让每轮修改从最新完成的候选方案继承,在执行层面复用输入和上下文完全一致的已有结果,以减少重复调用。在 WorkBench 和 HotpotQA FullWiki 上,该方法的成绩优于 EvoAgent、EvoMAS 和 TacoMAS,并降低了 token 用量。
Songtao Wei, Yi Li, Zhichun Guo 等
★★★★☆ 值得关注
arXiv
cs.AI · astro-ph.IM · cs.NA 2026年10月2日
有代码
说明 FlashSinkhorn 2:块稀疏熵最优传输求解器
简介 本文提出 FlashSinkhorn 2(FS2),一种在单块 GPU 上求解大规模离散熵最优传输(EOT)问题的方法,适用于低维点云的平方欧氏代价。它结合粗阶段(在单元质心上求解并提升势函数)与块稀疏细阶段(利用 Morton 排序分块与阈值界定省略贡献)。作者报告在一块 A100 上,约 1.34×10^8 个粒子的两组宇宙学 N 体模拟测度在不到 2.5 小时内求解到边缘残差低于 0.01,并已开源实现。
看点 提出粗到细的块稀疏两阶段求解器,对已有流式Sinkhorn有实质改进;在1.34亿粒子规模上验证,实验充分。
Felix X.-F. Ye, Yu Chin Fabian Lim, Naigang Wang 等
arXiv
cs.LG · cs.CL 2026年10月2日
说明 犹豫有几何结构:用熵训练的双曲探针进行稀疏激活引导
简介 本文针对大语言模型解数学题时推理呈层级结构、常在少数高熵位置分支的特点,提出双曲熵引导方法HEST。该方法在庞加莱球中嵌入隐藏状态,用模型自身的下一词熵作为标签训练轻量探针,仅在熵超过阈值时沿探针读出值下降最快的测地线进行修正。作者在三个指令微调模型上测试,Busemann读出方式在六个设置中有五个提升了MATH-500与GSM8K的贪心准确率,而每个词都加入对比引导向量则降低准确率。
Zeyong Zhang, Tung Sum Thomas Kwok, Tengfei Ma 等
arXiv
cs.CV 2026年10月2日
说明 八叉树作为显式三维语言:OctLLM 用稀疏八叉树表示形状,并以独立分支为 LLM 增加三维能力
简介 论文提出 OctLLM,把三维几何表示为八叉树占据标记构成的显式序列,并通过随机裁剪得到更短的稀疏八叉树(S-Octree)。在模型结构上,三维网格标记走独立可训练分支,文本与图像标记保留冻结的视觉语言通路,两者通过共享自注意力交互。论文称其训练参数远少于全量微调,在统一多模态大模型中取得新的先进结果,并在通用语言基准上与骨干模型相当。
Ran Dan, Si-Tong Wei, Pengfei Xiong 等
arXiv
cs.CY · cs.CL 2026年10月2日
说明 ChatGPT时代的社交机器人检测:挑战与机遇
简介 本文综述了随着AI聊天机器人兴起,社交机器人检测面临的挑战与机遇。作者梳理了现有检测技术和实际应用,指出该领域的空白与新趋势,重点关注AI生成对话与行为带来的独特问题。文章提出四个研究方向:利用生成式智能体生成合成数据、进行测试与评估;基于网络与行为协同及影响力特征的多模态、跨平台检测;将检测扩展到非英语及低资源语言;以及发展在保护用户隐私前提下促进机构与平台合作的协作式联邦学习检测模型。
Emilio Ferrara
arXiv
cs.LG · cs.AI 2026年10月2日
说明 共享记忆在循环 Transformer 中的出人意料的有效性
简介 循环 Transformer 对每个词元反复使用同一组层,以增加计算换取质量,但每次循环都会写入自己的键值缓存,内存随计算增长。本文预训练循环语言模型,只让第一次循环写入缓存,后续循环读取该缓存并保留各自的短窗口。结果显示共享记忆没有损失质量,反而有所改善;在 150M 到 1B 参数规模下,相比同规模标准 Transformer,混合变体在五次循环时使 FineWeb-Edu 验证困惑度降低 1.12 到 1.82,上下文内存减少 76% 到 79%。
Giovanni Monea, Keshav Ramji, Yousef El-Kurdi 等
arXiv
cs.CV 2026年10月2日
说明 FactorSplat:面向医学体数据渲染、可控制外观的高斯代理模型
简介 该论文提出FactorSplat,一种针对单个场景的高斯代理模型,用于医学体数据渲染。它可在推理时接收不同区域的强度到RGBA映射曲线,从而改变颜色与不透明度,同时保留几何结构、可见性控制与剪枝能力。在七组CT与MR扫描上,其平均PSNR与变化区域误差均优于VEG方法,并支持无需重新训练的未见编辑。
Zhongpai Gao, Benjamin Planche, Meng Zheng 等
★★★★☆ 值得关注
arXiv
cs.LG 2026年10月2日
说明 Latent-MOPD:潜在多教师同策略蒸馏
简介 该论文提出 Latent-MOPD,一种面向大语言模型的多教师同策略蒸馏方法,让学生模型在自身生成的回答上学习。方法不仅利用各专家模型的输出概率分布,还利用其隐藏状态进行表示层监督,且无需额外训练教师模型。在数学、代码和逻辑等九个基准测试中,该方法优于仅用输出、仅用表示及均匀平均等基线,学生模型在多数基准上超过了各基准上表现最好的教师。
看点 首次提出面向LLM的表示层多教师在线蒸馏,并在九个基准上优于单通道基线,证据较充分但仍限于蒸馏框架内。
Zhengyu Fang, Seoyeon Hong, Jie Yang 等
arXiv
cs.AI 2026年10月2日
说明 THPL:面向循环水养殖虹鳟投喂管理的视觉到语言决策支持框架
简介 该论文提出THPL框架,用于循环水养殖(RAS)中虹鳟的精准投喂决策。框架先从鱼群轨迹提取活动系数衡量摄食强度,再通过分层行为编码器生成物理与隐式两类表征,并与环境参数、专家规则一起用于微调大语言模型。实验显示,双证据表征将决策准确率从33.33%提升至93.33%,反事实多模态偏好优化进一步提高至96.67%。
Meng Liang, Guanbo Feng, Haozhuang Chi 等
arXiv
math.NA · cs.LG · cs.NA 2026年10月2日
说明 用流匹配实现贝叶斯逆问题的快速后验采样
简介 该论文研究用条件流匹配(一种把分布逐步变换的生成方法)替代传统马尔可夫链蒙特卡洛,对偏微分方程相关的贝叶斯逆问题进行后验采样。模型只需一次训练,之后对任何观测都能快速生成近似后验样本。作者给出了近似后验在总变差距离与KL散度下的可计算精度估计,并提出一种经Metropolis修正后渐近精确的混合采样器。论文通过电阻抗成像和无似然的Lotka-Volterra模型等数值例子验证了上述结果。
Jan Blechschmidt, Oliver G. Ernst, Moritz Poguntke 等
arXiv
cs.PL · cs.AI 2026年10月2日
说明 Coco:面向软硬件协同设计全流程的智能体副驾驶
简介 该论文介绍了Coco,一个与TPU架构师共同部署的智能体平台,用于加速协同设计流程,包括搭建实验、批量运行模拟器和得出结论。Coco由四层构成:自动将模拟结果登记为关系型数据库的数据存储、带类型接口的工具库、编码重复分析流程的智能体(其中包括等执行配置对比分析),以及兼作智能体上下文的平台界面。作者报告了早期部署经验,表示缩短了模拟和得出洞见的时间。
Samuel Kushnir, Kavya Sreedhar, Yeshwanth Reddy Pogula 等
arXiv
cs.CV · cs.AI 2026年10月2日
说明 EviDent-CBCT:在报告监督不完整条件下,从牙科CBCT生成报告的证据瓶颈方法
简介 该论文针对牙科锥形束CT(CBCT)报告撰写不完整的问题,提出EviDent-CBCT框架:先将扫描映射为牙齿级、全局级和牙槽神经管(IAC)相关的离散证据记录,再由确定性渲染器和仅依据该记录的本地语言模型生成报告。实验在三次验证中取得优于受控直接基线的证据集F1与RadFact-Lite-Dental逻辑F1,并在ODIN 2026挑战赛中自动评估第二、盲测临床比较第三。
Ruiyang Hao, Zhi Qin Tan, Yulan He 等
arXiv
cs.AI 2026年10月2日
说明 在文生图扩散模型中探索满意度与多样性的前沿
简介 本文针对文生图中同一提示词生成多张图像时的奖励与多样性难以兼顾的问题,将生成建模为满足型(satisficing)问题:每张图需达到奖励下限,整批图像需满足多样性阈值。作者提出无需训练、推理时使用的SatisDive方法,在Pick-a-Pic数据集上相比FK steering在最差候选图奖励上有明显提升,且在重叠的DreamSim范围内其曲线整体优于FK steering。
Kevin Zhai, Siva Rajesh Kasa, Soumya Roy 等
★★★★☆ 值得关注
arXiv
cs.NI · cs.AI · cs.DC 2026年10月2日
有代码
说明 大规模网络在环训练:面向并行机器人学习的 GPU 批量 5G 仿真
简介 该论文提出 Isaac-Net,一个在 GPU 上批量运行的 5G New Radio 上行仿真模块,可与 Isaac Lab 物理仿真同步推进数千个环境。它在每个 0.5 毫秒时隙内为所有环境同时计算哪些机器人发送数据。实验显示其中位延迟与 ns-3 5G-LENA 基本吻合,并能复现信息年龄(AoI)的尾部分布,而每条消息独立延迟的简化方式会使其偏轻约三倍。代码已开源。
看点 将5G网络以GPU批量仿真方式纳入大规模机器人训练环路,并与ns-3对比验证延迟与AoI,新颖性和证据较充分,影响面限于机器人学习与私有5G场景。
Zifan Zhang, Mingzhe Han, Kannan Athreya 等
arXiv
cs.HC · cs.AI 2026年10月2日
说明 自动化应用人机交互原则:按需界面构建技能、人与AI的思考空间与人机交互的未来
简介 该论文提出,大语言模型可根据自然语言任务描述按需生成界面,并主张将用户与AI的对话视为“思考空间”,由任务分解生成界面。作者建议把经典人机交互设计知识(如Nielsen启发式原则、WCAG等)编码为可机读、可版本管理的skill.md技能文件,供生成代理在运行时调用。
Nathan Conklin, Miranda Capra, Chris North
arXiv
cs.LG · cs.RO 2026年10月2日
说明 Co-design Gym:联合优化智能体本体与策略的统一基准
简介 该论文提出 Co-Design Gym,一套用于同时优化智能体本体设计(embodiment)与控制策略的基准环境套件。作者指出,多数已有基准固定本体、只研究策略学习,而两者分开优化往往次优。该套件涵盖机器人操作与运动、多机器人协作、视频游戏、电网、无线网络、多智能体仓储等 20 个环境族,共 85 余种协同设计预设,并系统评估了代表性的协同设计算法。
Aviraj Newatia, Yordan Tsvetkov, Leonard Pleiss 等
arXiv
cs.CV 2026年10月2日
说明 域偏移下行人检测可解释性的置信度受控审计
简介 本文对固定的 YOLOv8s 行人检测器在 PIE 与 JAAD 数据集上的事后解释进行审计,采用基于感兴趣区域的 D-Deletion 指标评估解释的忠实性。结果显示,基于删除的忠实性与解释时的检测置信度高度相关(D-RISE 的 Spearman 相关系数为 0.70 至 0.82),因此直接按置信度分层比较并不可靠。控制置信度后,D-RISE 的忠实性在中等置信区间仍因数据集而异,PIE 高于 JAAD。
Ruben Dario Florez-Zela
arXiv
cs.LG · cs.DB 2026年10月2日
说明 ArrivalBench:智能体生成的数据管道在一次运行时正确,但在乱序到达的时间压力下出错
简介 该论文提出ArrivalBench基准,将智能体留下的数据管道在延迟、重复、乱序和重试的可重放投递计划下重新执行,并要求最终结果与完整日志的批量重算一致。作者在40项任务上发现,传统单次执行评分会将86%至100%的管道判为正确,而重新执行后有7.0%至79.2%的已通过管道静默出错。
Pranay Kothari
arXiv
cs.NE · cs.CL 2026年10月2日
说明 SEDIMA:面向进化搜索智能体的跨运行层级洞察记忆
简介 大语言模型驱动的进化搜索可用于自动发现程序与算法,但现有系统大多没有记忆,每次运行都从零探索,容易重复发现相同改进并踩中相同死路。本文提出SEDIMA,为进化搜索智能体设计的持久化层级洞察记忆,把原始轨迹提炼为自然语言洞察并按语义聚类,检索相关指导以影响后续变异。在固定100个候选评估的预算下,它使AlgoTune上的平均最终性能提升5.5%,ALE-Bench LITE上提升6.6%;在OpenEvolve中,达到基线最优性能平均少用32.3%的迭代。
Amirhossein Abaskohi, Mahdi Mostajabdaveh, Zirui Zhou
arXiv
cs.LG · cs.AI · cs.CL 2026年10月2日
说明 字典序多目标在线策略蒸馏(LMOPD):按优先级整合多个专家策略的语言模型训练方法
简介 该论文提出字典序多目标在线策略蒸馏方法(LMOPD),用于把各奖励专家策略整合进一个语言模型,并显式保持优先级顺序,避免为了简洁性牺牲正确性。方法对每次采样先选出首个检测到不足的目标对应的专家,再投影掉与更高优先级专家相冲突的分量。作者在30B-A3B混合专家模型上,于三个数学基准上评估了两专家和四专家设置,结果显示其保留高优先级能力的效果优于所比较的基线方法。
Doseok Jang, Jon Ander Campos, Youran Qi
arXiv
stat.ML · cs.LG 2026年10月2日
说明 基于深度序列模型的时间序列保形预测
简介 本文系统研究如何在时间序列保形预测中使用深度序列模型(如循环神经网络与Transformer),提出条件分位数回归、条件分位数函数估计和局部化保形预测三种方法。作者在一定假设下给出三种方法渐近条件覆盖率的理论分析,并在真实数据集上通过实验验证了其有效性。
Junghwan Lee, Jonghyeok Lee, Yao Xie
arXiv
cs.LG · math.OC 2026年10月2日
说明 自适应批大小为何有助于大语言模型预训练:从无界方差视角的解释
简介 本文研究大语言模型预训练中逐步增大批大小的理论依据。作者提出广义 BG-a 噪声模型,允许梯度方差随距初始点的距离增长,并在 L-光滑假设下给出与增长相关的下界与匹配的上界。基于此,作者提出自适应批大小调度器,在 OLMo2(至多 10 亿参数,C4 数据集)预训练中,在相同 token 预算下取得了比小批量和大批量训练更低的验证损失,且迭代次数不到小批量训练的 10%。
Arda Fazla, Antesh Upadhyay, Ege C. Kaya 等
★★★★☆ 值得关注
arXiv
cs.LG · cs.CL 2026年10月2日
说明 每位用户都需要专属 LoRA 吗?将个性化与逐用户适配解耦
简介 该论文指出,为每位用户单独保存完整适配参数的个性化大模型方法难以随用户增长而扩展。作者提出 LINEUP,学习一组可复用的低秩个性化因子,并通过用户条件召回与查询相关校准进行组合,使每位目标用户只需优化一个很小的用户编码(8 个标量),而私有 LoRA 配置每用户需 419 万参数。论文在六项个性化分类、预测与生成任务上报告,LINEUP 在全部 12 项指标上领先,并在历史数据有限时仍保持优势。
看点 提出共享低秩个性化因子库加微型用户编码的解耦思路,较新颖;在六个任务、十二指标上领先并给出理论界,证据较充分。
Songyuan Sui, Srikanth Malla, Chiho Choi 等
arXiv
cs.AI · cs.LG 2026年10月2日
说明 DeReAct:分解推理与行动的可靠AI智能体
简介 论文提出DeReAct,一种模块化智能体架构,把原本由单一大模型承担的动作审核与任务完成判断拆出,交由独立的Critic(动作校验)和Context Manager(状态重建与完成认证)负责。在GAIA和SWE-bench Verified基准上,该方法对较弱的Brain模型提升最明显,例如Qwen3-Coder-480B提升6.5至7.0个点,Claude Sonnet 4.5提升4.2至5.2个点;使用Claude Opus 4.5时,Pass@1与ReAct相近,但轨迹证据更完整、更符合约束。
Ajay Vohra, Tao Chen, Neeti Narayan 等
arXiv
cs.LG 2026年10月2日
说明 从行为到出处:将表格基础模型归因于合成预训练数据
简介 该论文借助可追溯出处的合成任务生成器 O'PRIOR,构建了表格基础模型的训练数据归因测试平台,使每个预训练任务都带有明确的结构机制、缺失、混杂、捷径与分布偏移等来源信息。作者结合行为条件归因、反事实重训练和出处感知干预进行检验。结果显示,移除归因最高的5%合成任务会使真实任务的平均 ROC-AUC 下降0.013,明显高于随机移除的0.002,但出处判别的排序 AUROC 仅为0.55至0.62。
Mohamed Bouadi, Nassim Bouarour, Shivam Dubey 等
arXiv
cs.LG 2026年10月2日
说明 通过核锚定局部性正则化缓解固定目标异常检测器的收敛崩溃
简介 该论文研究一类表格数据异常检测器:它们训练神经网络拟合固定目标,并以测试残差作为异常分数。作者指出训练越充分,检测器反而越差,即收敛崩溃,因为模型会在异常样本上也逼近目标,残差信号消失。作者提出核收缩匹配(KCM)作为解析的无训练替代方法,并提出核锚定正则化(KAR)来缓解该崩溃,在ADBench上使长时间训练下的AUROC得到改善。
Jos\'e Lucas De Melo Costa, Fabrice Popineau, Arpad Rimmel 等
★★★★☆ 值得关注
arXiv
cs.LG 2026年10月2日
有代码
说明 驱动与衰减:联合嵌入预测架构的训练动力学研究
简介 本文研究联合嵌入预测架构(JEPA)训练初期的表示坍缩问题,通过线性化梯度流,分析驱动项与衰减项之间的竞争,并以每模态稳定比衡量稳定性。作者在800多个表格型JEPA配置上验证了相变边界,并据此提出了ResidualPred预测器,在表格基准及I-JEPA的CIFAR和ImageNet预训练中提升了有效秩与下游精度。
看点 提出统一JEPA坍缩的早期训练稳定性理论并给出相位边界,以ResidualPred改进;通过800余组配置及CIFAR、ImageNet预训练验证,影响面中等。
Jos\'e Lucas De Melo Costa, Seong Woo Ahn, Fabrice Popineau 等
arXiv
cs.CV 2026年10月2日
说明 SCOPE-4D:面向内窥镜的四维几何基础模型
简介 该论文提出SCOPE-4D模型,只需单目RGB视频即可一次性同时估计相机参数、稠密几何和组织的三维运动轨迹。作者构建了约5000段内窥镜与腹腔镜视频的数据集SCOPE-5K,并引入共同-残差运动约束以区分相机运动与组织形变。实验表明,该方法在相机与深度估计、三维组织跟踪及长序列结肠重建上均有较好表现。
Chaoyi Zhou, Zhongpai Gao, Anwesa Choudhuri 等
arXiv
cs.AI 2026年10月2日
说明 基于自然可见图拓扑指标的网络攻击检测:重要性与效率的多方法分析
简介 该论文研究了自然可见图(NVG)中21个拓扑指标在网络攻击分类中的作用。作者融合SHAP、分组置换重要性、Boruta和递归特征消除四种方法,通过共识排序选出指标子集,并在CICIDS2018数据集上用CNN分类器进行评估。结果显示,仅用排名前三的指标(Top3)时平均准确率为97.148%,高于使用全部21个指标的95.999%,总运行时间也从14,961.39秒降至589.22秒。
Ali Melih Kanca, Ilker Turker
arXiv
cs.RO · cs.LG 2026年10月2日
说明 NEEDLEWORK:利用经过验证的局部拼接离线改写机器人数据
简介 该论文提出NEEDLE方法,是一种离线数据增强算法,在高维机器人示范数据中加入短小且经过验证的动作桥接片段,绕过次优绕路并扩大动作覆盖,也可利用失败轨迹。训练时采用新的采样方式,在不合成中间图像、不丢弃原始示范的前提下学习替代动作。论文称在真实机器人任务上,相比各任务上最强基线,成功率平均提高21个百分点。
Juntao Ren, Yifan Hou, Shuran Song
arXiv
cs.RO · cs.LG 2026年10月2日
说明 SoTa:用于灵巧操作的柔性触觉皮肤
简介 该论文提出SoTa,一种低成本电容式柔性触觉皮肤,可覆盖人手和机器人手的全部区域,并在手指和手掌对应区域保持202个触觉单元的统一布局,使人类演示数据可用于机器人训练。实验显示,在三项接触密集的操作任务中,触觉信息优于仅依赖视觉的策略;在固定机器人演示数量下,加入人类演示后,八种评估条件下的平均成功率从22.8%提升至45.9%。
Jingyun Yang, Baiyu Shi, Timothy Yu 等
arXiv
cs.IT · cs.LG · math.IT 2026年10月2日
说明 移动具身AI网络中移动、压缩率与功率的联合设计
简介 本文研究移动具身AI网络(MEAN)的上行链路,联合优化发射功率、移动距离和语义压缩率,以最大化最小能效。由于信干噪比耦合、依赖移动的信道增益以及分式目标,该问题是非凸的。作者提出交替优化与Dinkelbach结合的算法,并通过仿真表明,该方案优于无移动和无压缩的基线。
Yahao Ding, Jiaxiang Wang, Zhouxiang Zhao 等
arXiv
cs.AI 2026年10月2日
说明 世界编辑:在可执行世界中按深度递增进行干预
简介 该论文提出“世界编辑”任务,即对已有的可执行世界进行干预,同时保持不应改变的属性不变,并以“干预深度”衡量编辑对实体、动态与系统的耦合程度。作者通过游戏模组方式实现该能力,提出 IGMWorld 与包含 110 个任务、超过 1.1K 条标准的基准 IGMBench,覆盖 Minecraft 和 Terraria。结果显示,表现最好的配置在严格任务级标准下解决了 78.2% 的任务,可靠性一般随干预深度增加而下降,视觉一致性是另一个薄弱点,所有配置的联合视觉通过率都低于 50%。
Max Ku, Nok-Kan Law, Yu-Chien Tang 等
arXiv
cs.AI 2026年10月2日
说明 先比较再行动:面向长程工具调用智能体的比较式价值估计
简介 论文指出,工具调用智能体应在执行下一步工具调用之前,先估计该调用对最终任务成功的长期价值。为此提出CITA方法,训练比较推断模型(CIM),结合观测到的工具行为、贝叶斯工具图模拟器的监督信号以及基于大模型的语义比较。在三个工具调用基准和多个骨干大模型上,CITA均提升了工具F1和任务成功率。
Yu Li, Zheng Zhang, Xin Liu 等
arXiv
cs.LG · cs.CV 2026年10月2日
说明 时间序列预测中的最小二乘法:两种目标的对比
简介 论文比较了两种最小二乘优化目标:一种直接最小化对预测目标坐标的误差,另一种拟合整个下一步隐向量。在一个四维时间序列实验中,前者能把权重集中到真实信号上并匹配新息方差,后者在低秩时会把权重分配到重复坐标上,预测偏差较大。
Weiu-qiou Ciang, Yuzhou Hong, and Sherry Chen
arXiv
cs.LG · cs.AI 2026年10月2日
说明 慢-快多教师同策略蒸馏:保持模型通用能力
简介 论文提出SF-MOPD方法,用于把多个领域教师模型的专业能力合并到一个学生模型中,同时减轻能力相互干扰。方法让快速模型直接学习各教师的信号,慢速模型则以指数滑动平均方式缓慢吸收学习成果,作为能力参照。实验显示,该方法在多种模型规模下减轻了能力干扰,提升了专业多模态能力,并降低了通用能力基准上的平均退化,效果优于原始MOPD方法。
Xiaofei Yin, Tong Chu, Jiyuan Fu 等
arXiv
cs.RO · cs.CV 2026年10月2日
说明 基于世界校准的提案到动作流,用于视觉-语言-动作模型
简介 这篇论文研究基于流的视觉-语言-动作(VLA)机器人策略。作者指出,现有方法从与任务无关的各向同性高斯分布出发生成动作,没有利用近期动作和预测的未来场景。论文提出ProAct框架,先由提案专家生成贴近已演示动作流形的场景感知假设,再由世界专家预测与任务一致的潜在未来,并据此校准一个以提案为中心的各向异性生成源。与π0.5相比,论文称其在仿真和真实任务上性能提升,去噪步数减少50%,推理延迟最多降低25.8%,吞吐量最多提高34.8%。
Jie He, Wei Li, Junwen Tong 等
arXiv
cs.CV 2026年10月2日
说明 SCION:基于实例化神经基元的场景组合表示
简介 该论文提出SCION,一种分层组合式场景表示方法,用一小组可复用的基元和轻量的世界坐标实例替代大量独立的高斯点,以在多视角拍摄数据上联合优化离散与连续参数。原文称其在低至1.2 MB的体积下仍保持较高质量,压缩率-失真表现优于现有高斯压缩方法,并可在不重新训练的情况下进行实例级场景编辑与动画。
William Koch, Amogh Joshi, Cyrus Vachha 等
★★★★☆ 值得关注
arXiv
cs.CV · cs.AI · cs.LG 2026年10月2日
说明 DeskForge:用桌面环境生成密集监督数据,改进计算机使用智能体
简介 该论文提出 DeskForge,一个可控的桌面环境,通过组合真实应用生成大规模标注数据,用于训练计算机使用智能体的界面元素定位能力。研究构建了包含 120 万张标注桌面截图、约 1.597 亿个元素实例的 DeskForge-1M 数据集,并用其中 20 万条定位样本微调四个视觉语言模型。结果显示,模型在多个 GUI 定位基准及 WebArena-Infinity、OpenApps 长程任务上均有提升。
看点 通过可控组合真实桌面环境生成大规模密集标注,并在多个外部基准和长程任务上取得一致提升,证据较充分,对GUI智能体训练有实际价值。
A. Said Gurbuz, Ahmed Nassar, Sunghwan Hong 等
arXiv
cs.CV 2026年10月2日
说明 摩尔、埃舍尔、彭罗斯:一条共形的黄金辫
简介 本文受埃舍尔1956年版画《画廊》启发,借助保角幂映射 z↦z^α 构造自指场景,并利用冻结的文生图扩散模型生成新的画面。作者提出广义逆变换 T†,并让去噪步骤在源空间与变换空间之间交替进行,使场景与其扭曲同步生成。
Sophia Feldman, Assaf Shocher
arXiv
cs.CV 2026年10月2日
有代码
说明 Sphere Encoder 2:改进的球面编码器图像生成方法
简介 Sphere Encoder 是一种通过解码高维潜在球面上随机点来生成图像的自编码器。本文指出原方法的两个限制:随机点与编码后的潜在分布存在差距,且像素级重建损失使解码器倾向于平均化结果,导致图像模糊。作者提出 Sphere Encoder 2 以解决这两个问题,在保持自编码器速度与简洁性的同时显著提升了生成质量。
Kaiyu Yue, Sean McLeish, Ruchit Rawal 等
arXiv
cs.CV · cs.AI · cs.HC 2026年10月2日
说明 用一组共享的基础形变为所有头像实时驱动:面向实时数字人的高斯 Blendshape 蒸馏方法
简介 论文提出 GALA 方法,用线性组合的身份无关形变基(blendshape)替代每帧都需要的昂贵神经网络解码,以浅层 MLP 预测系数来驱动预训练的 3D 高斯头像。在三种头像模型上,面部表情与全身服装动态驱动的 CPU 计算成本最多降低约三个数量级,同时保留大部分渲染质量,并可泛化到未见过的身份,在移动设备上可达约 60fps。
Ramazan Fazylov, Stamatis Lefkimmiatis, Ivan Laptev
arXiv
cs.CV 2026年10月2日
说明 PROWBench:视频模型能否按程序规定渲染画面?
简介 该论文提出 PROWBench,用于评测可编程世界模型生成的视频是否忠实呈现程序规定的世界事件。基准包含 170 个程序化构建的片段和 600 个代理视频,并记录实体状态与带时间戳的事件,以便将生成视频与程序执行结果对照。评测涵盖实体控制、长时程记忆,以及基于视觉语言模型的两项指标。
Zheng-Hui Huang, Guixu Lin, Yu-Ju Tsai 等
arXiv
cs.RO · cs.AI · cs.SY 2026年10月2日
说明 重构、练习、走向现实:具身智能体的引导式自我改进
简介 本文提出RPG框架,让机器人执行系统在不更新模型权重的情况下自主改进。它从离线数据集中识别操作能力,在仿真中构建练习任务,并根据执行反馈诊断失败,进而新增、优化技能并修订系统提示。在22个操作任务的保留初始化测试中,成功率从第一轮的28.6%提升至第15轮的95.0%,高于包括ASPIRE和CaP-Agent0在内的基线;经校准和硬件适配后,该系统在三项实物任务的30次试验中全部成功。
Yen-Jen Wang, Haozhe Jiang, Shuying Deng 等
arXiv
cs.CV · cs.LG 2026年10月2日
说明 嵌入预测有助于图像生成:用逐步预测的嵌入替代固定的类别或文本条件,以提升扩散 Transformer 的生成效果。
简介 扩散 Transformer 通常只嵌入一次类别标签或文本提示,并在每个去噪步骤复用同一条件。本文提出 NEPA(下一嵌入预测自回归)模型,训练 Transformer 预测序列中的下一个连续嵌入,并用多嵌入预测一次性预测干净图像的嵌入。生成器每个去噪步骤都以这些预测为条件,使条件信号随当前噪声状态变化。在 ImageNet 256×256 类别条件生成实验中,结合 REPA 的最终模型 NEPA-DiT-XL 达到 FID 1.32,训练计算量约为 REPA 的三分之一。
Sihan Xu, Ji Xie, Zilin Wang 等
arXiv
cs.AI · cs.CL · cs.IR 2026年10月2日
说明 ScholarCatalyst:检索能启发新研究的论文的基准测试
简介 本文构建了名为 ScholarCatalyst 的基准,由 184 位第一作者为 207 篇近期计算机科学论文标注哪些早期文献推动了其项目,并给出理由。任务是在项目开始时可获得的文献中,根据初始研究问题检索这些论文。结果显示,智能体搜索的 Recall@20 为 0.42,嵌入检索为 0.48,即使是基于 Claude Fable 5.1 的智能体也仅为 0.51,作者认为需要新的训练方法。
Sohyeon Kim, Yoonho Lee, Bo Liu 等
arXiv
cs.CV · cs.AI · cs.LG 2026年10月2日
说明 SILSA:用于保持拓扑结构的高分辨率三维生成的滑动窗口切片隐变量
简介 该论文提出SILSA框架,用沿三个坐标轴的重叠滑动窗口切片隐变量表示三维形状,替代昂贵的体素隐变量,以减少生成成本。方法包括切片变分自编码器和体积锚点网格,并引入切片级拓扑监督。实验称其在结构保真度、Betti误差等指标上优于最强基线,且token数量大幅减少、训练内存和推理时间明显降低。
Tianjiao Yu, Xinzhuo Li, Yifan Shen 等
arXiv
cs.AI · cs.CV 2026年10月2日
说明 VISTA:面向交互式世界推理的视觉框架
简介 论文提出VISTA,一种为通用多模态模型提供长程视觉能力的视觉框架,模型可直接感知视觉观察,并保留原始形式的无损视觉记忆,推理时可主动检索并重组视觉输入。在ARC-AGI-3上,VISTA将Claude Opus 5.0的相对人类动作效率得分从40.68提升至100.00,模型完成全部25个公开游戏所用动作比首次参与的人类少57.4%。在另外三个视觉游戏与谜题基准上,它也明显优于使用相同模型、仅配备极简框架的基线。
Qiushi Han, Keya Hu, Linlu Qiu 等
arXiv
cs.LG · math.OC 2026年10月2日
说明 TACO:用于大语言模型微调的三值绝对最大列稀疏优化器
简介 全参数微调大语言模型时,优化器状态占用大量显存。本文提出TACO优化器,每列仅保留最大幅值元素的符号,从而将优化器状态压缩到几乎可以忽略的程度,同时保留一阶梯度。论文报告,在OPT-13B上,持久优化器状态从27.7 GB降至0.16 GB,峰值训练显存从80.6 GB降至27.5 GB,精度和运行时间与对比方法相当,并可在单张80 GB H100上微调30至32B参数模型。
Jichao Jiang, Cristian McGee, El Houcine Bergou 等
arXiv
cs.LG · cs.AI · cs.RO 2026年10月2日
说明 FERPO:前向熵正则化策略优化,一种不依赖评论家动作梯度的在线强化学习方法
简介 该论文提出FERPO算法,用于连续控制的在线强化学习。它不对评论家关于动作求导,而是直接用评论家的价值来改进策略,通过熵和KL散度正则化得到目标动作分布,再用前向KL目标拟合策略。论文报告在MuJoCo Playground和ManiSkill上取得有竞争力的表现与样本效率提升,并显示策略更新速度快于REPPO。
Sebastian Sanokowski, Alireza Sarmadi, Majid Khadiv
arXiv
cs.CV 2026年10月2日
说明 HiPhy:面向多物理原理视频生成的分层对齐方法
简介 该论文指出,视频生成模型在视觉上已很逼真,但仍难以遵守物理规律,尤其是同一视频中多种物理原理需同时起作用的场景。作者提出 HiPhy 强化学习框架,通过局部约束单个物理原理的时间动态、全局保证整个场景的物理与语义一致性来改进生成。同时构建了包含 5 万条提示的数据集及 MultiPhyBench 评测基准,实验显示 HiPhy 在多个基准上优于已有方法,在多原理并发场景中提升最为明显。
Tahira Kazimi, Shubhankar Borse, Munawar Hayat 等
arXiv
cs.RO · cs.CV · cs.GR 2026年10月2日
说明 InterEvolve:面向人形机器人移动与操作的奖励程序测试时进化
简介 该论文研究人形机器人在不重新训练的情况下,通过复用已有技能、从自身尝试中改进并保留所学,来完成控制器未专门训练过的移动与操作任务。方法包括一个面向物体的前向-后向行为基础模型,以及由大语言模型智能体与数值优化器共同修改、调参的分阶段奖励程序。实验显示,所进化出的程序能释放模型中被人工设计奖励忽略的能力,并在仿真中完成多样任务,进化出的技能也可在实体Unitree G1机器人上自主运行。
Zhuo Lin, Sirui Xu, Liuyu Bian 等
arXiv
cs.LG 2026年10月2日
说明 图上带代价的薛定谔桥可精确求解:用Feynman-Kac倾斜替代学习的控制
简介 该论文研究图上的广义薛定谔桥问题,即在两个分布之间搬运概率质量并对经过的状态计费。作者把状态代价并入参考过程的Feynman-Kac倾斜,使带代价的桥成为对倾斜后参考过程的普通桥,从而无需时间差分惩罚。该桥通过交替两次端点重标定精确计算,无需时间离散化或学习,每步都是一次稀疏矩阵指数运算。
Akshay Balsubramani
arXiv
cs.CL · cs.AI · cs.LG 2026年10月2日
说明 分层连续扩散语言模型:把离散词元生成与连续潜变量轨迹耦合起来的文本生成方法
简介 该论文针对离散扩散语言模型并行解码时词元之间统计依赖被割裂的问题,以及连续扩散语言模型去噪器与有效词元配置缺乏联系的问题,提出分层连续扩散语言模型(HC-DLM)。该方法在单一去噪过程中把离散词元生成与连续潜变量轨迹耦合,训练目标源自词元似然的变分下界。论文在数独、倒计时(Countdown)和LM1B语言建模任务上,与同等模型规模的离散和连续扩散基线进行比较,报告在谜题准确率和生成困惑度上的改进。
Hui Ren, Zihan Li, Chang Liu 等
arXiv
cs.LG 2026年10月2日
说明 论文:诊断并修复大语言模型的数学推理能力
简介 该论文研究大语言模型是否真正理解数学结构。作者提出“数学基元”概念,并构建了从发现、生成、消化、执行四个维度评估数学推理的基准。研究发现,只看解题正确率会掩盖不同的能力差异,发现能力是主要瓶颈,且与之相关的失败较容易修复。作者据此提出一种基元引导的自蒸馏训练框架,实验显示其在多种模型规模和基准上都优于基线。
Shuo Xing, Zilin Dai, Chengyuan Qian 等
arXiv
cs.LG · math.OC 2026年10月2日
有代码
说明 信任方向,搜索步长:面向大模型微调的零阶与一阶混合优化方法
简介 本文提出零阶与一阶优化框架(ZFO),用一阶优化器确定下降方向,再仅沿该一维方向用两次额外目标函数评估构造局部模型,选出曲率感知的步长。论文给出理论保证,并在语言模型和数据集上与固定步长的一阶基线进行比较,ZFO 在多数情况下改善了优化与最终性能,效果大小依目标函数而定。代码已公开。
Cristian McGee, El Houcine Bergou, Aritra Dutta
★★★★☆ 值得关注
arXiv
cs.LG 2026年10月2日
有代码
说明 通过强化稀疏自编码器特征生成内在无序蛋白区域
简介 本文提出 IDiom,一种基于 5400 万个由 AlphaFold 数据库预测的内在无序区域(IDR)训练的自回归蛋白语言模型,可生成与天然 IDR 在组成、模式和预测无序性上相似的序列。作者还提出 RL-SAE 方法,通过奖励激活指定稀疏自编码器特征的序列进行后训练,在八项设计任务中平均激活 30 个目标特征中的 90%,优于对比方法。
看点 提出面向无序区域的语言模型与基于稀疏自编码器特征的强化学习后训练方法,在八项设计任务中显著超越引导方法,证据较充分。
Jason X. Liu, Sebastian Ibarraran, Frank Hu 等
★★★★★ 值得关注
arXiv
cs.CV · cs.AI 2026年10月2日
说明 DMAD:把分布匹配视为对抗蒸馏,实现快速视觉生成
简介 该论文提出 DMAD 方法,用判别器直接学习对数密度比来替代蒸馏中单独拟合的辅助扩散模型,从而训练少步生成的学生模型。论文称在 ImageNet-64x64 单步生成、SDXL 四步生成及 Wan2.1-T2V-14B 四步生成等任务上取得了所比较少步方法中的最佳结果。
看点 将分布匹配重构为对抗式分类并直接学习对数密度比,省去辅助评分模型;通过ImageNet、SDXL、Wan2.1等多场景实验验证,影响面较广。
Zhengming Yu, Junkun Yuan, Haotian Yang 等
arXiv
cs.LG · cs.AI 2026年10月2日
说明 用于化学生成与基础模型的高阶分子语法
简介 该论文提出高阶语法表示(HGR),把分子提升为组合复合体,并将其解析为上下文无关高阶语法下的紧凑生成规则序列,使标准序列模型能够处理环系等高阶拓扑结构。作者还构建了包含118万个分子的环丰富基准RingDiv,并提出环多样性指数(RDI)。在生成任务中,HGR 模型按构造保证100%有效性,并在五个生成基准的FCD指标上排名第一;在表示学习中,HGR-FM 在七个 MoleculeNet 基准上取得最高平均 AUC。
Yiming Huang, Yujie Zeng, Vijay Prakash Dwivedi 等
arXiv
cs.LG 2026年10月2日
说明 在循环Transformer上更好地解码(几乎零成本)
简介 循环Transformer通过在多次循环中重复执行同一模块来节省参数。论文提出LoopCD,一种无需训练的对比解码方法,将最终预测与较早的循环输出进行对比来选择词元,可在logit空间或隐藏状态空间进行。在四个循环Transformer模型系列上,该方法在完整循环深度下带来稳定提升,并可将循环次数减半,同时降低推理计算量。
Weihao Liu, Huangjie Zheng, Tianrong Chen 等
arXiv
cs.LG · cs.AI 2026年10月2日
说明 SoftServe:一种面向深度学习的可扩展拟牛顿方法
简介 这篇论文提出了SoftServe,一类用于深度学习训练的拟牛顿优化方法,旨在克服非凸性和参数规模巨大两大障碍,且无需线搜索或临时的曲率修正。作者提出对角及Kronecker分解两种变体,并借助稳定的耦合Newton-Schulz迭代完成矩阵运算。实验涉及循环网络、深度自编码器、物理信息神经网络及一个1.36亿参数的扩散模型,文中称其在病态严重的问题上常取得比Adam、Muon和SOAP更低的损失。
Joohwan Ko, Tetiana Parshakova, Diana Cai 等
arXiv
cs.CV 2026年10月2日
说明 OmniSeek:面向多轮视听推理的原生工具集成框架
简介 该论文提出 OmniSeek,把全模态大语言模型改造成可多轮主动取证的推理智能体。模型会自主决定何时看或听、取哪段时间窗口的音视频证据,并将检索到的原始片段追加回上下文继续推理。作者构建了包含交织音视频证据的 OmniTraj-170K 数据集,经监督微调与两阶段强化学习训练,并引入视听必要性目标以抑制单模态捷径;实验显示其视听推理表现有所提升。
Haibo Wang, Jiteng Mu, Jialu Li 等
arXiv
cs.CV · cs.AI 2026年10月2日
说明 生成式摄影师:在三维空间中同时编排相机与物体运动
简介 该论文提出 GenCine 系统,可将单张图像提升为可编辑的三维场景,让创作者同时指定相机路径和前景物体运动。作者用局部三维运动控制柄把前景分块移动,并将其编码为引导图交给预训练视频模型(Wan)。训练结合真实视频与合成视频,实验显示其在视角变化下运动更一致、几何更稳定。
Jiahan Zhang, Chaohao Yang, Namitha Guruprasad 等
arXiv
cs.SE · cs.AI · cs.LG 2026年10月2日
说明 SimuVerity:面向工程级 Simulink 模型生成的智能体基准测试
简介 现有 Simulink 基准多只检验生成的模型能否编译、运行或与参考模型相似,无法说明模型是否满足工程需求。本文提出 SimuVerity,包含跨十个工程领域的 101 个文本到可执行 Simulink 模型生成任务,并用分层评估器从交付、可执行性、工程合格性及六个维度打分。六个智能体系统的最好总分仅为 42.86,表明结构相似度并不能很好反映工程表现。
Ruiqi Zhang, Jiahao Wang, Mingxuan Li 等
arXiv
cs.LG 2026年10月2日
说明 从梯度到能力:理解多教师同策略蒸馏
简介 该论文研究多教师同策略蒸馏(MOPD),即把多个经强化学习训练的领域教师模型的能力合并到一个学生模型中。作者以Qwen3-1.7B为对象,比较了教师信号的梯度、优化器更新和任务学习曲线,并以SmolLM3-3B作为补充诊断。文中指出损失平均方式、Adam一阶矩、BF16舍入以及top-64交集KL梯度等因素都会影响教师信号与参数变化,并给出数学任务准确率在不同平均方式下的差异。
Siqi Zhu, Suozhi Huang, Kaixuan Zhang 等
arXiv
cs.LG 2026年10月2日
说明 PowerBench:衡量语言模型在权力转移请求中的偏见
简介 本文提出 PowerBench 评测基准,用于检验语言模型如何处理涉及权力转移的请求,区分自我赋权、剥夺他人权力和权力攫取三类,并设置不涉及权力转移的对照组。研究者构建并开源了相关数据集,评测了 24 个模型(美国与中国开发者各 12 个)。结果显示,模型拒绝权力攫取多于剥夺他人权力,拒绝剥夺他人权力多于自我赋权,并在国别、用户类型和请求语言等条件下表现出不同偏见。
Nicolas Martorell, Wendy Brau, Gonzalo A. Heredia 等
arXiv
cs.LG · q-bio.MN 2026年10月2日
说明 组织特异性相互作用网络中的有效电阻与图神经网络可靠性
简介 该论文研究在组织特异性蛋白质相互作用网络中,有效电阻能否帮助判断蛋白质功能预测的可靠性。作者在24个组织特异性网络上进行实验,发现有效电阻主要受节点度的倒数主导,并在控制预测熵、度、局部结构等因素后,仍能解释部分额外的逐节点损失。该信号可重复,但效果受节点度退化的限制。
Jianru Shen
arXiv
cs.LG · cs.CL 2026年10月2日
说明 每次消融都是一个剂量:配重与自我修复的表象
简介 该论文研究语言模型中一个组件被消融后,其他组件似乎会调整补偿的现象,即“自我修复”。作者提出,这一现象源于消融前已存在的增益,并用一个仿射定律来描述各单元的修复响应。研究在四个模型和IOI电路上,发现多数下游方向遵循该定律,且这些组件起配重作用。
Areeb Ahmad, Pratinav Seth, Vinay Kumar Sankarapu
arXiv
cs.RO · cs.AI · cs.MA 2026年10月2日
说明 观察、推断、协同:推断机器人搭档的物理约束以实现零样本协作
简介 这篇论文研究协作机器人在搬运等物理耦合任务中,能否通过观察搭档与他人协作时的表现,推断其物理限制(如硬件老化或执行器故障),并据此在新任务中与其协调。作者提出了包含三种物理耦合操作场景的基准测试 Watch, Infer, Coordinate,以及一种依据观察到的联合行为为候选约束打分的推断方法。结果显示,该方法显著提升了约束推断与零样本协作的效果,接近掌握真实约束的理想情况。
Suyu Ye, Zheyuan Zhang, Vaishnav Tadiparthi 等
arXiv
cs.AI 2026年10月2日
说明 《Keep It CALM》:分析文生图中全局不安全信号的局限
简介 本文指出,文生图的免训练安全方法常用一个全局不安全方向,但紧凑的不安全子空间难以覆盖多样的不安全语义,过宽的聚合又会扭曲与安全相邻的良性提示。作者据此提出CALM,对每个提示做局部反事实修正,只编辑违规的词元表示并抑制正向对齐的不安全残差。论文称CALM在提升不安全内容抑制效果的同时保持了良性效用。
NaHyeon Park, Minhyun Lee, Hyunjung Shim
arXiv
cs.CL 2026年10月2日
说明 AutoCompact:学习长程编程智能体何时压缩上下文
简介 该论文提出AutoCompact,训练编程智能体在执行任务的过程中自行决定何时压缩上下文、保留哪些工作状态,并据此继续推进。训练时先用评审模型修正基础智能体的压缩决策,再进行监督微调和以任务成功为奖励的强化学习。在SWE-bench Verified和SWE-PolyBench Verified上,通过率分别比基础模型提高9.2%和5.0%。
Xuan Zhang, Longtao Zheng, Cunxiao Du 等
arXiv
cs.CV 2026年10月2日
说明 World Observer:用于持续世界建模的联合执行者-观察者生成方法
简介 该论文针对视频世界模型只关注智能体当前视野的问题,提出 World Observer,将观察与行动解耦,同时生成一个以智能体为中心的视角和一个或多个全景观察者。视野外的物体因此仍能在观察者中持续演化,重新进入视野时状态得以保留。作者还设计了世界空间指标和覆盖真实与合成场景的基准,实验显示其在视野外动态方面明显改进,同时在视觉保真度、相机控制和三维一致性上保持竞争力。
Hyunwook Choi, Dahyun Chung, Hyunsung Kim 等
arXiv
cs.RO · cs.AI 2026年10月2日
说明 DuoMind:借助语义通信实现分布式多机器人协调
简介 该论文提出DuoMind框架,让多个机器人通过语义通信协同完成任务。每台机器人由基于VLA的动作模型负责底层执行,由基于VLM的调度器负责高层推理,并与其他机器人交换语义消息。作者还构建了用于长时程协同操作的基准RoboPoly。实验(RoboPoly与RoboTwin)显示该框架提升了多机器人任务表现,消融实验验证了分层调度与语义通信的作用。
Hanchu Zhou, Dechen Gao, Hang Wang 等
arXiv
cs.CV 2026年10月2日
说明 4Director:用刚性三维几何控制视频世界模型
简介 该论文提出4Director,一种以显式四维场景表示为条件的视频世界模型,可对相机和物体运动进行精确控制。每个物体先从输入图像重建为规范网格,再按帧施加一个刚性变换,并借助Motion Adapter生成视角一致的外观、光照和非刚性动态。实验显示其在视觉质量以及相机与物体控制方面优于已有方法。
Wei Cao, Hao Zhang, Vikram Voleti 等
arXiv
cs.LG 2026年10月2日
说明 内在奖励何时能带来有效探索?
简介 本文研究强化学习中的内在奖励(如预测误差、计数、赋能、信息增益)是否真能促使智能体获取最有信息量的经验。作者提出一个以反事实信息为依据的探索准则,并构造了一个简单环境,显示某些内在奖励的最优策略在获取反事实信息上并非帕累托最优。文中还给出了现有内在奖励能有效引导最优探索的条件,并提出一种在探索严格改进该准则时赋予更高价值的新目标。
Scott W. Viteri (Stanford University), Laura Gomezjurado Gonzalez (Stanford University), Clark Barrett (Stanford University)
arXiv
cs.LG · math.OC · math.PR 2026年10月2日
说明 Muon 与驯服朗之万:超越凸与梯度利普希茨势能的动量预条件方法
简介 本文研究在矩阵空间上从吉布斯分布采样的问题,其中势能既非凸函数,也非全局梯度利普希茨函数。作者提出一族非二次动能,并由此构造带动量预条件的欠阻尼朗之万系统。在较宽松的势能假设下,证明该动力学保持目标吉布斯测度不变,并在加权全变差距离下给出指数收敛到平衡态的结论。此外,对应的欧拉-丸山离散化具有与时间无关的矩界,保证了采样算法的稳定性。
Nikolaos Makras, Sotirios Sabanis
arXiv
cs.LG · cs.AI 2026年10月2日
说明 Ψ-Resilience:基于一维拓扑信号的无模型特征重要性方法
简介 该论文提出 Ψ-Resilience,一种不依赖预测模型、直接从数据推导特征重要性的方法。它通过估计各类别的条件密度,计算沿特征轴的逐点绝对差,得到一维信号,再对其做0维持续同调,汇总在用户设定的鲁棒尺度下仍存活的拓扑特征。在合成数据和真实数据上,该方法与 SHAP、互信息等方法的排序结果相关性较高,合成数据上Spearman相关系数最高约0.8,真实数据上最高约0.9。
Fabian Galis, Darian Onchis, Pedro Real Jurado
arXiv
cs.CV · cs.GR 2026年10月2日
说明 MosaiChunk:面向自回归视频生成的时空记忆拼接机制
简介 自回归长视频生成受限于有限的上下文窗口,离开上下文的物体或场景细节容易丢失。本文提出MosaiChunk,在时间与空间上从历史键值(KV)条目中选取片段,拼接成一张“马赛克”式记忆。作者冻结视频生成器,仅训练一个轻量路由器,在固定的活跃记忆预算下决定纳入哪些历史片段。同时提出RememBench基准,涵盖文本生成视频(T2V)与相机驱动的图像生成视频(I2V)两类重访任务。实验表明,在相同记忆预算下,该方法在两种设置中都比滑动窗口推理和整块检索更能保持重访一致性。
Yiwen Zhang, Haocheng Xi, Michael Tian-Yue Liu 等
arXiv
cs.CV · cs.AI · cs.GR 2026年10月2日
说明 EditHero:长时程部件级3D编辑与“氛围建模”基准
简介 该论文提出EditHero,据作者所知是首个面向长时程、部件级3D编辑的基准,包含自然语言指令以及几何与纹理的目标图像,每步编辑的目标由确定性组装引擎生成并经人工复核。研究比较了两类方法:非智能体方法自上而下重新生成对象,LLM/VLM智能体则通过代码自下而上只修改指令所需的部件。结果显示非智能体方法常遗漏所需改动并扰动本应保持不变的区域;多数LLM更贴合指令且保留未编辑部分更好,但每次编辑耗时数分钟。
Ruihan Yu, Yu-Ju Tsai, Muyao Niu 等