arXiv
cs.CV 2026年9月30日
说明 PCB-MC:印刷电路板缺件分析
简介 这篇论文提出了 PCB-MC 数据集,用于检测印刷电路板上缺失的元器件,数据基于 RF100 数据集并标注到元器件封装级别,共包含 197 种不同的电路板类型。作者用多种有监督和无监督方法给出基准结果,并提出按板型划分的交叉验证方式以避免训练与测试之间的布局泄漏。结果显示,有监督模型在未见过的板型上漏检率较高,无监督异常检测方法因缺乏与特定板子参考图的空间对齐而基本失效,表明在多样化布局上检测缺件仍是未解决的问题。
Betsy Villa Brochero, Ian Gibson, Estefania Talavera
arXiv
cs.LG · math.OC · stat.ML 2026年9月30日
说明 《佛陀觉醒》:在群体损失平台期间的子空间学习
简介 本文研究神经网络在损失几乎不变的平台期内,仍可能学到更具预测性表示的现象。作者针对双层 ReLU 与 leaky-ReLU 网络,在高斯输入下给出理论条件与保证,并辅以 SwiGLU 网络的相关结果和数值实验。主要结论是:在平台期的检查点上,教师子空间与预测器平均梯度外积(AGOP)的主特征子空间对齐度提高,且重拟合误差下降,随后训练损失可低于平台期内的所有数值。
Akash Kumar
arXiv
cs.AI 2026年9月30日
说明 用语言模型推断两组事件序列之间的因果关系
简介 该论文研究在仅有两条事件序列、缺乏多次观测或干预数据时如何推断因果关系。作者利用大型语言模型(LLM)的预测能力来判断两组事件之间的因果联系。该方法在合成数据和真实数据上进行了验证,并在多个时间序列数据集上优于标准因果发现算法。
Nishchal Prasad, Eric Gaussier, Emilie Devijver 等
arXiv
cs.LG 2026年9月30日
说明 任务向量并非孤岛:关于同策略蒸馏任务向量可组合性的综合研究
简介 该论文研究同策略蒸馏(OPD)产生的任务向量能否像强化学习(RL)任务向量一样通过模型合并进行组合。作者在五个领域和两种模型架构上进行实验,发现OPD向量与RL教师更新可互补,跨任务组合的平均得分在八组对比中有七组高于RL组合。参数分析显示两类更新之间存在明显的非共线性。
Jingang Zhou, Feiyu Han, Han Zhu 等
arXiv
cs.AI · cs.LG 2026年9月30日
说明 通过近端熵策略优化推进 RLVR 中的熵级信用分配
简介 本文针对 GRPO 等无价值模型的 RLVR 方法中,同一条回答的所有 token 都获得相同优势值的问题提出改进。作者提出“近端熵”,用来衡量每个 token 相对于邻近 token 的局部重要性,并证明其对提示难度和位置趋势这两类混杂因素保持不变。基于此提出的 PEPO 方法用它为每个 token 的优势加权,在 Qwen3-1.7B、Qwen3-4B 和 Llama-3.2-3B-Instruct 的数学推理任务上优于 GRPO 及基于熵的基线方法。
Yun Kim, Nojun Kwak
★★★★☆ 值得关注
arXiv
stat.ML · cs.LG 2026年9月30日
说明 删失需求下的最优库存控制:有偏样本平均近似方法
简介 本文研究需求被删失(缺货时仅知需求超过库存水平)条件下的数据驱动多期损失销售库存控制问题。作者提出基于模型、面向删失数据策略学习的统一框架,并给出基准库存策略的新成本分解。在此基础上,文章提出一个覆盖条件,并设计了上偏和下偏两种有偏样本平均近似算法,分别在离线和在线设置下达到接近最优的样本复杂度或遗憾界。
看点 提出新的成本分解与覆盖条件,设计上下偏差SAA算法,离线与在线均达近最优样本复杂度与遗憾,理论贡献较突出。
Yuxuan Han, Xiaoyu Fan, Jiawei Zhang 等
arXiv
cs.AI · cs.CL · cs.LG 2026年9月30日
说明 早前题目的计算能否帮助大模型解决新问题?
简介 大语言模型常在同一对话中依次解决相互独立的问题,本文研究保留的历史是否有助于后续题目。作者发现,历史可能提高也可能降低后续准确率,并提出STAIR方法:缓存早前生成过程的键值,并在处理新提示时引导当前查询读取这些缓存,冻结基础模型,仅训练12,288个参数。在三个Qwen模型和四个基准上,该方法使有历史时的后续准确率最多提高11.67个百分点。
Jipei He, Wenhui Tan, Xiaoyi Yu 等
arXiv
cs.LG · cs.AI · cs.CL 2026年9月30日
说明 FAER:面向语言模型后训练的可审计、效用对齐的轨迹回放框架
简介 该论文指出,回放选择器常按格式反馈、置信度、新鲜度或回复长度排序缓存轨迹,但缓存层面的正确性与下游学习器效用并不相同。作者提出可审计的完整轨迹回放框架FAER,包含无需训练的固定选择器和基于校准数据拟合的学习器感知选择器FAER-UTILITY。在GSM8K与Qwen2.5-1.5B-Instruct上,FAER-UTILITY在约6.3万目标运行词元下达到0.6624的质量分,高于固定选择器与格式反馈选择器的对比结果。
Miaobo Hu, Shuhao Hu, Xiaobo Guo 等
arXiv
cs.AI 2026年9月30日
说明 自主研究中的实验经验建模:积累并复用实验经验以决定哪些实验值得做
简介 论文提出实验经验建模(EEM)框架,供自主研究智能体判断哪些候选研究方向值得投入大量计算资源。该框架从历史实验轨迹中提取决策相关记录,整理成可复用的经验库,并在经验不足时进行低成本的小规模试验来补充所需信息。在自主研究基准上的实验表明,EEM在提升研究表现的同时降低了模型交互开销。
Wenda Wei, Yingchen Zhang, Ruqing Zhang 等
arXiv
cs.LG 2026年9月30日
说明 解耦与蒸馏:面向少样本类增量学习的任务自适应LoRA教师与集成知识迁移
简介 本文提出TALON框架,用于少样本类增量学习,即在样本极少的情况下学习新类别并保留已学旧类别的知识。方法为每个增量任务分配独立的LoRA教师模型,再通过集成知识迁移将多个冻结教师蒸馏到统一的LoRA学生模型中,并依据特征空间相似度加权教师贡献。论文报告在四个基准上取得相当或更好的平均准确率,部署参数最多减少33倍,单任务平均推理时间降低41.70%。
Hongwei Zhao (School of Computer Science, Engineering, Beihang University) 等
arXiv
cs.RO · cs.CV 2026年9月30日
说明 UniWAM技术报告:通过混合流世界-动作建模与操作锚点位姿监督实现统一移动操作
简介 移动操作需要机器人先精确导航到适合操作的位姿,再可靠地与物体交互,两阶段的动作空间和视觉需求不同。论文提出UniWAM,一个统一的混合流世界-动作模型,导航与操作分别使用独立的动作编码器和输出头,共享主干网络,并引入操作锚点位姿(MAP)监督,利用由大规模3D场景自动构建的MAP-Data进行训练。在MAP-Bench上,UniWAM在位置误差和朝向误差上分别优于最强的外部基线30.1%和44.0%,并在24个真实机器人任务中取得领先的导航与移动操作结果。
Wei Xue, Keliang Liu, Mingzhang Cui 等
arXiv
cs.LG 2026年9月30日
说明 超越仿真:用于真实世界适应的保留与修复神经算子(R²NO)
简介 该论文提出 R²NO 框架,用于把在数值仿真上预训练的神经算子适配到真实数据。预训练算子先在真实数据上微调并冻结,作为源预测;另一个共享的修复模块从同样的观测中学习一系列修正。通过正交傅里叶投影把频域划分为单元,在每个单元内拟合小型岭回归,并用真实数据的留出集拟合权重进行组合。作者报告,在 RealPDEBench 的所有系统和六种骨干网络上,R²NO 均优于完整微调和迭代修正。
Woojin Cho, Junghwan Park
arXiv
eess.IV · cs.CV 2026年9月30日
说明 RIQE:面向计算机断层扫描(CT)的 NIQE 式参考模型
简介 论文提出放射影像质量评估模型 RIQE,它沿用 NIQE 的统计距离思路,但基于 158 名患者的 3,792 张全剂量 CT 切片拟合。实验显示,RIQE 能够把模拟低剂量重建图像排在对应全剂量图像之后,也能判断噪声增加的图像更差。但在去噪滤波的比较中,它对病灶信号的反映并不可靠,因此作者认为它不宜作为选择或调优去噪方法的唯一标准。
Fabio Mattiussi
arXiv
cs.LG 2026年9月30日
说明 何时发生,而非发生多少:在稀疏事件上评估时间序列基础模型
简介 本文研究预训练时间序列基础模型在稀疏事件数据上的表现。作者不评估数值预测,而是对包含事件与零值的预测窗口进行排序,考察模型能否判断未来哪些时段会出现活动。结果显示,已发布的点预测相比免训练参考仅有很小提升,而在冻结骨干上加入轻量事件头的线性探针通常更优。
Daniel Schoess, Florian von Wangenheim
arXiv
cs.CL · cs.AI · cs.LG 2026年9月30日
有代码
说明 TTLab 参加 Daleel 2026:STAR-Ar,用于阿拉伯语论证识别的序列标注方法
简介 本文提出 STAR-Ar,一种基于 BERT-BiLSTM-CRF 的阿拉伯语论证话语检测与分类模型,参加首届阿拉伯语论证挖掘共享任务 Daleel 2026。该方法将论证单元的识别与分类联合建模为词元级序列标注任务。在验证集和测试集上分别取得 72.69 和 73.7 的 F1 分数。作者认为,仅用社论数据训练的模型表现不及辩论数据训练的模型,主要原因是社论数据集规模较小。
Bhuvanesh Verma, Ali Abusaleh, Alexander Mehler
arXiv
cs.LG · cs.AI · cs.NE 2026年9月30日
说明 从搜索到信号:自动启发式设计中的在线后训练
简介 本文研究基于大语言模型的自动启发式设计,即模型迭代提出并改进启发式算法及其代码。作者将小型开源语言模型的在线后训练视为依赖上下文的学习信号构造问题,比较了由程序有效性、任务表现和生成上下文映射出的不同更新信号。实验在共享的评估结果与相同更新预算下进行,并通过检查点、冻结搜索及资源匹配的对比,区分模型更新本身的收益与累积搜索状态带来的效果。
Yilun Yuan, Tianyu Zhou, Zhenzhou Tang
arXiv
cs.AI 2026年9月30日
有代码
说明 SkillFM:通过潜空间流匹配为大语言模型智能体生成技能
简介 该论文提出SkillFM(Skill Flow Matching),一种无需测试时检索、直接生成任务条件化文本技能的生成框架。它将文本技能编码到连续潜空间,并用改进的MeanFlow训练条件流模型,再由基于LLM的解码器把采样结果转为文本指导,供冻结的下游智能体使用。在ALFWorld和Search-QA上,该方法在比较的基于向量的技能方法中总体表现最佳。
Zuming Zhang, Jie He, Yizhe Zhang 等
arXiv
cs.LG 2026年9月30日
说明 EvoGen-Harness:学习在图像生成外部框架中“改哪里、怎么改”的方法
简介 该论文提出 EvoGen-Harness,一种与生成器无关的框架,可在不修改冻结的文生图生成器参数的前提下,同时演化多个生成器外部职责(如提示词、路由、工作流)。论文还提出 Trace 方法,通过跨随机执行聚合证据、用失败归因指导搜索,并逐步重新归因剩余失败。作者报告在 GenEval2、T2I-CompBench++ 和 WISE 三个基准上分别比最强基线提升 +0.2633、+0.0720 和 +0.0752。
Jiabin Luo, Yinan Liu, Chunlei Meng 等
arXiv
cs.CV 2026年9月30日
说明 InfoAgent:可追溯、有证据支撑的信息图生成与修复框架
简介 该论文提出一种无需训练的框架 InfoAgent,用于生成和修复基于证据的信息图。它用带类型的依赖图记录事实内容、证据来源和验证要求,修复时只定位并修改受影响的部分。在 IGenBench 上取得 93.0 Q-ACC 和 59.0 I-ACC,在作者提出的 InfoGraphicBench-Evidence 测试中,完整检查清单通过率从 21.5% 提升到 28.5%。
Yifan Li, Tong Li, Qi Zeng 等
arXiv
cs.CV 2026年9月30日
说明 EgoTools:面向真实第一人称视频中工具使用的推理研究
简介 本文提出 EgoTools,这是首个用于第一人称视频中工具使用理解的综合套件,包含约 100 小时以工具为中心的第一人称录像(EgoTools-Data)和含 1000 个问答对的诊断基准(EgoTools-Bench)。实验显示,Gemini-3.1-Pro 总体准确率为 66.9%,但在感知与定位维度仅为 51.7%;在该数据上对 Qwen3-VL-8B-Instruct 进行全量监督微调后,准确率由 50.0% 提升至 60.9%。
Shulin Tian, Junsu Kim, Shuai Liu 等
arXiv
cs.RO · cs.CV 2026年9月30日
说明 超越当前场景:基于事件指代的抓取与主动视角选择
简介 该研究提出BeyondSCe系统,让机器人能根据过去观察到的人与物体的互动事件,执行“按事件中所扮角色”指代目标的抓取请求。若目标被遮挡,系统会结合事件线索与当前场景几何选择可能看到目标的视角。该系统使用预训练模型,无需额外任务训练,在真实机器人实验中取得了较高的抓取成功率。
Hyunjoon Lee, Haebeom Jung, Eunsung Cha 等
arXiv
cs.LG · cs.AI 2026年9月30日
说明 小波域流匹配:一种多变量时间序列生成方法
简介 该论文研究用流匹配方法在小波域中生成多变量时间序列,以便同时保留多尺度时间结构和跨通道依赖关系。模型对多层离散小波系数进行建模,粗略结构与逐级细节分别在不同尺度上表示,并配合一个通道标记Transformer来建模跨通道依赖。作者在七个基准数据集和四种序列长度上进行了评估,该方法在多数数据集与指标组合中取得最佳或并列最佳的结果,其中在Context-FID和判别分数上的提升最大且最为稳定。
Lucas Poinsignon, Jorge da Silva Goncalves, Samuel Ruiperez-Campillo 等
arXiv
cs.AI · cs.LG 2026年9月30日
说明 EHR-RobustGym:评测并训练面向稳健临床推理的智能体
简介 该论文提出 EHR-RobustGym,一个基于 MIMIC-IV 医院记录、可交互的环境,用于在含噪电子健康档案上评测和训练临床智能体。其中包含 5,486 组干净与含噪的问题对,涵盖多种噪声类型。测试显示,多个大模型在含噪问题上的平均任务成功率由 62.2% 降至 37.9%,经监督微调和强化学习后性能有所提升,且提升可推广到五个外部基准。
Yitong Qiao, Yancheng Jin, Lei Liu 等
arXiv
cs.CL · cs.LG 2026年9月30日
说明 面向复杂知识迁移的异构模型合并方法探索
简介 该研究探讨能否不经训练,直接在参数层面把专用模型的能力迁移到通用语言模型。作者将两种已有的免训练异构合并方法用于专用模型到通用模型的迁移,包括 Intersection-Merge(IM)和 Activate-Prune-Merge(APM)。在嵌入、重排序、奖励建模和 MoE 代码专家迁移的实验中,两种方法都提升了通用模型的表现。
Jiahe Fan, Si Chen, Yinghao Hou 等
arXiv
cs.CL 2026年9月30日
说明 让网格束搜索不那么“贪心”:一种公平的词汇约束解码方法
简介 该论文研究自回归文本生成中的词汇约束解码。作者发现,网格束搜索(grid beam search)会优先满足较容易满足的约束,把较难的约束留到序列末尾,而基于 DFA 的束搜索没有这种偏差。为此,作者提出公平网格束搜索(fair grid beam search),在仍只需线性次前向传播的前提下消除该偏差。实验表明,该方法不仅修正了偏差,还找到了概率更高的字符串。
Sean Papay, Roman Klinger
arXiv
stat.ML · cond-mat.stat-mech · cs.LG 2026年9月30日
说明 持续学习中 LoRA 的动力学理论:低秩适配如何影响灾难性遗忘
简介 本文在一个可精确求解的双任务师生模型中,给出低秩适配(LoRA)在持续学习中动力学的渐近精确刻画,推导出描述泛化误差的常微分方程组。研究发现,低秩更新能减少对第一任务特征的干扰,但其初始化会减慢对第二任务的适应。作者还提出按隐藏单元状态屏蔽的策略,冻结承载第一任务表示最强的单元,并将适应限制在互补子空间,从而明显减少遗忘。该理论在序列 MNIST 基准上得到了定性验证。
Th\'eo Marchetta, Filippo Alessandroni, Alessandro Breccia 等
arXiv
cs.CV 2026年9月30日
有代码
说明 COBICount:在不使用目标数据训练的情况下,区分遥感图像中的目标与背景响应以进行目标计数
简介 该论文研究遥感图像目标计数,仅使用一个源域数据训练,直接迁移到未见过的目标域(DOTA 大型车辆、小型车辆和船只)。提出的 COBICount 将响应生成、响应接受与背景抑制分开处理,以减少道路、停车场网格等重复背景结构被误计数的问题。在目标域上取得所比较方法中最低的平均 MAE 174.132,参数量为 5.07 百万,512×512 输入的浮点运算量为 17.41 十亿。
Junjing Zheng, Zhiyi Zhou, Ningrui Yang 等
arXiv
cs.CL · cs.AI 2026年9月30日
说明 Ready2Blend:从自然语言指令到可组合的对齐提示
简介 该论文提出 Ready2Blend,用于大模型的持续对齐,即在不遗忘既有行为的前提下适应新要求。方法中的 AlignFormer 把每条要求映射为固定长度的对齐提示,存入模块化提示库,同时冻结主干模型和既有提示。在两种持续对齐场景中,该方法在冻结主干的前提下达到联合训练参考值的 93.1%-98.5%,所需提示 token 很少,训练时间最多减少 4.3 倍。
Jeesu Jung, Hwan Chang, Juseon Do 等
arXiv
cs.CV · cs.AI 2026年9月30日
有代码
说明 重新思考多图理解中的多图重表示
简介 本文研究多模态大模型如何整合分散在多张图片中的视觉证据。作者提出通用多图视觉工具框架Mosaic,可通过十种可组合的图像操作构建视觉中间结果,并在现有基准和新建的MosaicBench上比较了五种重表示方式。结果显示,视觉重表示对需要精确视觉证据的任务更有效,其提升效果依赖任务类型。作者还用仅基于准确率和格式奖励的强化学习训练了MosaicAgent-8B。
Gengyuan Zhang, Xiao Han, Xinyu Xie 等
arXiv
cs.LG · cs.NA · math.NA 2026年9月30日
说明 LampAttention:面向专用加速器的前瞻混合精度 FlashAttention
简介 本文提出一种软硬件协同设计方案,将混合精度引入 FlashAttention。方法先以 8 位格式累加查询-键乘积并计算其指数,再自适应地识别敏感子块,并以 16 位格式重新计算。作者还给出了可高效执行该流程的专用加速器规格。基于 Qwen3 和 Gemma 3 的模拟实验表明,仅将少数子块切换到高精度即可恢复基线模型的性能。
Stanislav Budzinskiy, Marian Gloser, Tolunay Yilmaz 等
arXiv
cs.AI 2026年9月30日
说明 混合整数线性与非线性规划中的自动研究
简介 该论文提出AutoMIP,一种可复用的智能体技能,用于在混合整数规划问题中组织长周期的自动研究。它通过维护候选想法池和算法树搜索来管理实验轨迹。在MIPLib和MINLPLib基准测试中,AutoMIP分别为60个实例中的31个和52个找到了新的最优解,并通过消融实验验证了两个组件各自的贡献。
Yuwei Gu, Yaoxin Wu, Tong Guo 等
★★★★☆ 值得关注
arXiv
cs.CL · cs.AI · cs.IR 2026年9月30日
说明 绕过计算上限:Galahad 的逐字节精确记忆使大模型阅读只需一次性成本
简介 论文指出大模型服务是无状态的,同一文档被第二次提问时会重新计算注意力状态。作者提出 Galahad 记忆层,用 Taliesin 保存并复用文本块的 KV 状态,用 Blaise 只把问题所需的段落交给模型。在 97,000 token 语料的测试中,结合两者后模型正确回答 100 题中的 100 题,每题约 0.6 秒。
看点 将KV缓存持久化并按字节精确复用以避免重复计算,并以检索辅助减少读取量,新意明显;实验覆盖多运行时但规模与对比范围有限。
Sietse Schelpe
arXiv
cs.LG · cs.DC · math.OC 2026年9月30日
说明 通过软节流增强异步 SGD 的鲁棒性
简介 异步 SGD 是一种分布式学习算法,客户端的梯度一到达就立即应用,速度快但更容易受攻击,因为快速客户端可能主导总更新。本文提出 Throttle,一种具备拜占庭鲁棒性的异步 SGD 推广方法,核心是以因子 q 对来自较快客户端的更新进行指数式降权。论文给出了收敛速率的理论分析,并从理论和实验两方面验证了其对攻击的鲁棒性。实验还表明,即使在无拜占庭攻击的设定下,这种降权机制也能优于标准异步 SGD。
Kaoru Otsuka, Maxime Meyer, Yuki Takezawa 等
arXiv
cs.AI · cs.LG 2026年9月30日
说明 基于偏好的老虎机问题的复杂度研究
简介 本文研究在一般奖励函数类下的基于偏好的多臂老虎机问题:学习者依次选择两个选项,并观察由Bradley–Terry模型决定的二元偏好反馈。作者提出了局部敏感 eluder 维度这一复杂度度量,并设计了算法GINOP,给出一阶遗憾界,结论认为基于偏好反馈的学习在统计效率上可与直接奖励观测相当,并通过实验与基线方法对比予以验证。
Ahmed Ben Yahmed (CREST, ENSAE Paris, FAIRPLAY) 等
arXiv
cs.DC · cs.LG 2026年9月30日
说明 HAPMoE:面向异构集群的混合专家模型训练自动并行规划方法
简介 该论文提出 HAPMoE,一个感知异构硬件的混合专家(MoE)模型训练自动并行规划器。它构建轻量的 MoE 感知代价模型,在六维并行空间中高效搜索,生成可直接部署到 Megatron-LM 的并行方案。实验显示,在异构集群上端到端训练吞吐量最高提升 3.2 倍,非均匀流水线划分再带来最高 78% 的增益,搜索可在 1 分钟内完成。
Mengyuan Fan, Peizhuang Cong, Zixiao Huang 等
arXiv
cs.CL 2026年9月30日
有代码
说明 离线指导、在线推理:复用大语言模型反馈以增强小语言模型
简介 大语言模型推理能力强但调用成本高,小语言模型易于本地部署却推理较弱。本文提出可复用潜在修正方法(RLC),仅离线使用黑盒大模型,将其自然语言指导转化为小模型隐藏空间中可长期保存的修正经验,存入外部经验库并按推理状态检索。实验表明,该方法在多个推理基准和不同规模小模型上都能提升推理表现,且无需更新参数或在线调用大模型。
Bohan Zhang (1), Linan Yue (1), Weibo Gao (2) 等
arXiv
cs.SD · cs.AI 2026年9月30日
说明 谁说了什么,以及这些内容会被记住吗?跨会议持久说话人归属评测
简介 本文提出一种评估会议转录中持久说话人身份的指标SI-cpWER,在一个全局说话人ID分配下为整个语料打分。作者在CHiME-8 NOTSOFAR的129场会议评测集及CHiME-6上,比较了五个商业“先分离后识别”系统、两个开源学术基线以及作者自研的端到端系统ThyVoice。结果显示,ThyVoice在三种条件下的SI-cpWER均低于所有商业系统,整体均值为47.13,下一名系统为54.75。
Shantanu Vispute, Aditya Mishra, Siddhartha Saxena
arXiv
cs.AI · cs.LG 2026年9月30日
说明 黄金路径假说:扩散模型缓存中可复用的调度方案
简介 该论文提出“黄金路径假说”:在固定推理条件下,与提示无关的缓存调度方案,其最终输出质量可接近针对每个提示专门选择的最佳方案。作者在十种缓存方法、四个图像与视频模型及三种缓存比例上进行了验证,并发现这类调度可在未见过的提示和数据集之间迁移。论文还通过分析去噪轨迹与缓存误差的累积,解释了这种迁移现象。
Dong Wang, Wenwu Tang, Francesco Corti 等
arXiv
q-bio.NC · cs.AI 2026年9月30日
说明 基于信念的最大占据原理与主动推断
简介 本文将最大占据原理(MOP)扩展到部分可观测环境,并提出主动推断中期望自由能的贝尔曼形式,将隐状态上的信念推断纳入智能体状态。在不确定食物源的简单实验中,MOP智能体会在觅食与探索不同食物源之间切换,主动推断智能体则多停留在单一食物源附近。
Manolis Mylonas, Rub\'en Moreno Bote
arXiv
cs.AI · cs.CL · cs.LG 2026年9月30日
说明 理解即无套利:以有界荷兰赌为语言模型的定义与训练目标
简介 本文提出用“无套利”衡量语言模型是否真正理解其输出:若计算受限的交易者无法通过针对逻辑相关命题的概率下注稳赚,则模型对该词汇具有一定程度的理解。作者给出理论结果并提出Arbitr训练框架,在Qwen2.5与Phi-3.5上的五项预注册实验中,它显著降低了可被利用性且未损失任务准确率。文章同时指出,连贯性是知识的必要条件而非充分条件。
Daniel Dragonevskiy
arXiv
cs.LG 2026年9月30日
说明 ElectrolyteFM:通过跨属性知识学习统一电解质性质预测
简介 电解质配方设计需要兼顾多种理化性质,但现有模型多只关注有限的几种。论文提出统一的多属性预测模型ElectrolyteFM,独立学习各属性表示,并通过专家池与路由机制识别、利用可在属性间共享的知识,再由残差适配器对表示进行修正。在Electrolyte12数据集上,其12项性质的归一化平均绝对误差相对最强的电解质专用基线降低14.8%;在训练时未见过的独立钠电解质数据集上,电导率的平均绝对误差相对最佳基线降低6.7%。
Jiaxin Yu, Shuo Wang, Peng Wang 等
arXiv
cs.CV 2026年9月30日
说明 ContraSafe-VL:面向视觉语言模型的对比式安全偏好数据集
简介 视觉语言模型常被用作通用多模态助手,其安全对齐依赖文本与图像之间的相互作用,但现有数据集多只教模型“如何回答”,较少说明视觉内容应如何影响安全判断。本文提出ContraSafe-VL,对同一文本查询配对不同视觉语境,构造安全标签不同的多模态查询,并提供基于无害性与有用性的回答偏好对。实验显示,在三种模型架构上训练后,跨模态安全识别能力提升,安全与过度拒答之间的平衡更好,同时保持通用多模态能力。数据集计划公开发布。
Di Wu, Yanyan Zhao, Xin Lu 等
arXiv
cs.LG 2026年9月30日
说明 超越完全模仿的学习:保持任务目标的知识蒸馏
简介 论文指出,知识蒸馏中学生越接近教师的预测概率,未必越好,因为学生可能已比教师更能区分正确类别。作者证明了完全模仿与条件学习之间的精确分离,并提出任务保持知识蒸馏(TPKD),在保留标签梯度的同时最小化修正条件梯度。实验在CIFAR-100和CLINC150上报告,TPKD比标准蒸馏分别提高0.47和0.35个百分点。
Qianfeng Yuan, Wenbing Tao
arXiv
cs.LG · cs.AI 2026年9月30日
说明 WinoTS:基于小波的时间序列模型自蒸馏方法
简介 该论文提出WinoTS,一种专为时间序列设计的基于不变性的自监督预训练方法,利用时频变换构造多尺度结构视图,避免破坏信号动态。论文称其在长期预测、跨领域零样本迁移和无监督异常检测中优于现有基线,冻结表示上的线性探测结果常超过从头训练的全监督模型。消融实验显示该框架与架构无关,适用于多种时间序列骨干网络。
Noam Major, Kathy Razmadze, Yoli Shavit
arXiv
cs.LG 2026年9月30日
说明 跨域学习需要多少样本才够?
简介 本文研究跨域学习中每个域所需的样本量。作者基于所提出的学习界,给出每域样本充足性的判据。结果显示训练域数量与每域所需样本数之间存在反比的线性关系,并为评估和构建数据集提供理论指导。
Hong Zheng
arXiv
cs.CV 2026年9月30日
说明 TexTailor:基于自适应服装条件的保纹理视频虚拟试穿
简介 这是一篇关于视频虚拟试穿的论文,提出了名为TexTailor的框架,基于预训练的视频扩散Transformer,用于在高分辨率下保留服装细节。该方法引入了随时间步自适应调节服装视觉表示的机制、帧对齐的位置编码,以及减少异构条件干扰的多源注入设计。论文称在多个基准(包括高分辨率Eevee数据集)上,该方法在服装细节保留、时间一致性和整体视频质量方面取得了有竞争力的表现。
Zijing Qin, Jun Zhou, Ruicheng Zhang 等
arXiv
cs.DC · cs.CL · cs.OS 2026年9月30日
说明 面向大模型服务中测试时扩展的推测式搜索优化:一种加速推理路径探索的服务系统
简介 测试时扩展通过在推理阶段投入更多计算来提升大模型在数学、编程等难题上的表现。论文指出,支持推测式执行会带来候选路径搜索空间爆炸和频繁细粒度验证两大挑战。作者提出服务系统SpecScale,采用提前剪枝低质量路径、跨冗余路径去重计算和延迟细粒度验证三项技术。在MATH和Olympiad基准上的实验显示,其吞吐量和延迟均优于非推测式及已有推测式方法,同时保持答案质量。
Jinwoo Jeong (Korea University), Woohyung Choi (Korea University), Myeongjae Jeon (POSTECH) 等
arXiv
cs.HC · cs.AI · cs.CL 2026年9月30日
有代码
说明 NarrativeSteward:在智能体辅助的互动叙事创作中协调委派、引导与验证
简介 该论文提出 NarrativeSteward,一种创作环境,将大纲、世界观和叙事图作为相互关联的成果来组织,供智能体实现和作者引导使用。系统通过智能体对话和全项目结构审查帮助作者理解不断变化的作品,并借助变更记录和执行验证评估修改结果。在 12 人的组内对比研究中,相较通用智能体,该系统让作者更容易提出修改请求、检查变更,并更好地理解变化与故事结构。
Wenjin Wang, Jiazhen Lei, Yuxin Sha 等
arXiv
cs.LG 2026年9月30日
说明 PatchKV:用权重空间补偿 KV 缓存压缩
简介 该论文针对大语言模型长上下文推理中 KV 缓存内存随长度线性增长的问题,提出免训练框架 PatchKV。它把一部分上下文信息存入模型权重:为每段上下文计算一个权重补丁(通过岭回归闭式求解),与压缩后的 KV 缓存配合使用。在 SCBench、SQuAD、NIAH 和 GSM8K 等基准及三种模型架构上,PatchKV 持续改善了缓存压缩方法的表现。
Chanryeol Lee, Chanhyuk Lee, Yeonwoo Choi 等
arXiv
stat.ML · cs.LG 2026年9月30日
说明 离散分数匹配:从计数数据中进行因果发现
简介 本文针对计数数据的因果发现问题,提出基于条件曲率得分(CCS)和非对角曲率得分(OCS)的方法,用于恢复有向无环图(DAG)。作者还提出了名为DISCO的算法,使用离散扩散估计这两类得分。实验表明,该方法在泊松、负二项、二项及混合分布设置下能准确恢复DAG,并可在单GPU上扩展到1000个节点的图。
Euijong Song, Hyewon Park, Gunwoong Park
arXiv
cs.AI 2026年9月30日
说明 WorkGenesis:构建用于训练智能体完成工作的任务环境
简介 该论文提出WorkGenesis框架,从真实世界的文件出发,构建可执行的职业工作任务,用于训练大语言模型智能体。方法包括依据O*NET职业知识检索公开文件进行证据化构建,以及通过执行反馈迭代修复任务与评分标准。用这2万条合成任务做简单监督微调的Fx-Work-35B,在三个基准上平均得分超过同规模基线,并超过了1.6T参数的DeepSeek-V4-Pro-Preview。
Xinyu Zhu, Fenyi Liu, Yuzhu Cai 等
arXiv
cs.RO · cs.CV · cs.LG 2026年9月30日
有代码
说明 MotionWeave:学习以运动为中心的未来动态,用于视觉-语言-动作策略
简介 视觉-语言-动作(VLA)模型常借助世界模型获得比稀疏动作标签更丰富的动态监督,但直接预测未来图像或视频可能包含与控制无关的外观信息。本文提出 MotionWeave 框架,包含动作诱导运动定位模块(AIMG)和时域残差组合模块(HRC),用于动作块预测。在六个 MetaWorld 任务上,其平均成功率为 75.3%,比 π0(66.7%)高出 8.6 个百分点,在持续交互类任务上提升尤为明显。
Jingqiu Wang, Yan Wang
arXiv
cs.RO · cs.AI 2026年9月30日
说明 HiWE:面向零样本三维路径规划的分层世界知识模型与视觉关键点增强
简介 该论文提出HiWE框架,用于机器人演示生成,通过基于点的接口连接视觉定位与语言规划。PointVLM将任务相关物体与图像坐标对应起来,3DLLM利用深度信息构建的三维语义表示规划末端执行器路径点与夹爪指令,并配合混合抓取模块确定局部抓取姿态。研究在14个仿真操作任务和4个实体机器人任务上进行评估,并做了消融实验。
Guoqing Ma, Mingqi Yuan, Chen Gao 等
arXiv
cs.LG · cs.AI 2026年9月30日
说明 小型语言模型 GRPO 训练动态研究
简介 本文系统研究了组相对策略优化(GRPO)在参数量 1.5B 到 7B 的小型语言模型上的强化微调表现,在单节点 8xA100 算力下进行实验,覆盖数学、代码与科学多项选择题。研究分析了组大小对收敛、稳定性和基准表现的影响,并考察了 LoRA 目标模块与层的选择。结果显示,微调后模型在约 80% 的数学基准评测中优于基础模型,但在选择题和代码推理上能力有限;作者据此调整了 LoRA 与奖励设计配置。
Rajat Ghosh, Vaishnavi Bhargava, Henry Wong 等
arXiv
cs.LG 2026年9月30日
有代码
说明 OmniMed-Jev:通过决策式接口校准医学大模型的置信度
简介 本文提出OmniMed-Jev,把医学诊断、病灶判断和细胞计数等决策表示为对候选集合的完整概率分布,而非生成文本中的单个词元概率。在与生成式基线相同骨干、数据和训练计划的对比中,其报告的概率与实际正确率更为吻合,校准误差最多降低约一个数量级。计数任务是生成式基线仍占优的一类。作者指出,这些结果仅在所评估任务内说明置信度更有意义,并不代表临床可用性。
Luyao Tang, Cheng Chen
arXiv
cs.CV 2026年9月30日
有代码
说明 极低码率下的生成式图像压缩再思考:提出RAE-CoD,在极低码率下保持语义可识别性
简介 论文研究生成式图像压缩在码率趋近于零时的表现,发现现有编解码器会出现语义崩溃,重建内容变得畸形或无法辨认。作者提出RAE-CoD,在表示自编码器(RAE)空间中构建压缩导向的扩散模型,并让压缩表示与原始表示直接对齐,在256×256图像仅用16比特时仍能保留可辨认的自然结构内容。在MSCOCO-30K上,该方法在0.001至0.008 bpp下相比最佳对比方法降低了VFM特征MSE与弗雷歇距离比值。
Tianyu Zhang, Zhaoyang Jia, Houqiang Li 等
arXiv
cs.LG 2026年9月30日
说明 基于时频图像融合预测重复经颅磁刺激(rTMS)抑郁症治疗效果的方法研究
简介 该论文提出两种融合方法(montage与blending)及一个轻量卷积神经网络,用于基于脑电图时频图像预测rTMS抑郁症治疗的疗效。段级10折交叉验证下准确率最高达99.90%,但在严格按受试者划分的验证中,多数配置AUC仅在0.31至0.54之间,表现明显下降;作者据此指出,段级结果可能存在高估。
Wael Korani, Md Fahimul Kabir Chowdhury, Mohammed Aledhari 等
arXiv
cs.LG · cs.AI 2026年9月30日
说明 ReSAIL:缓解迭代式智能体自蒸馏中的性能崩溃
简介 论文指出,基于特权信息的迭代式自蒸馏方法在多轮训练中会出现部署性能下降。作者提出ReSAIL方法,通过选择特权信息对教师预测影响最大的交互步骤,并约束学生模型的输出分布,以保持下一轮的行为。在ALFWorld和TextCraft上,三轮训练后最终成功率平均绝对提升22.5%。
Shengjie Jin, Hengbo Xu, Zelong Sun 等
arXiv
cs.RO · cs.AI 2026年9月30日
说明 自动演化机器人代理的控制框架:规模与选择决定成败
简介 论文研究如何让通用编程代理通过截图观察浏览器中的三维界面,并借助工具控制虚拟夹爪,作为机器人策略使用。作者提出由另一个优化代理自动改进其提示、工具和控制规则。研究发现,每轮使用的训练样本数量影响泛化能力,并采用只保留优于现有版本的修改规则,使LIBERO任务的留出成功率从51%提升到67%。随后,结合预训练策略的蒸馏结果在RoboCasa365上达到62.2%,演化后的框架达到71.2%。
Zhijie Wei, Ferris Tan, Jinghui Wang 等
arXiv
math.OC · cs.LG 2026年9月30日
说明 广义几何块近端线性化方法:用于多块非凸非光滑优化
简介 本文研究许多应用中出现的一类多块非凸非光滑优化问题。作者提出一种广义几何近端线性化算子,可用任意内积和一般可容许度量构造块代理函数,据此提出GGBPL方法及其惯性版本iGGBPL,并建立统一收敛框架,证明目标函数值收敛、序列全局收敛到临界点,并给出收敛速率和O(ε⁻²)迭代复杂度。在带ℓ0约束的稀疏非负矩阵分解和稀疏非负CP分解两类问题上的数值结果显示,所提方法优于若干现有先进方法。
Weifeng Yang
arXiv
cs.CV 2026年9月30日
说明 BMASH:基于球体运动感知的足球头球检测
简介 本文研究广播足球视频中的头球检测,即识别球与球员头部接触的时刻。作者先将Video Swin作为动作识别基线进行适配和评估,再提出BMASH融合框架,结合检测器得到的球的存在与运动特征。实验显示,BMASH在片段级AP和ROC-AUC上优于对应的Video Swin基线;在连续全视频检测中,事件级F1相近,但精确率与召回率的权衡不同。
Ahmed Endris Hasen, Muhammad Shahzad Khan, Nikolaos Passalis 等
arXiv
cs.CL · cs.IR 2026年9月30日
说明 不依赖大模型摘要的树形导航:长文档问答层级检索的等成本研究
简介 该论文研究长文档问答中的层级检索。作者提出NavTree,在文本块上构建确定性的平衡分段树,不调用语言模型建索引,仅把树作为导航结构,检索时只返回叶子文本块。在等成本比较中,NavTree在多跳问答上显著优于BM25,并在每种多块预算下超过基于摘要的RAPTOR变体。
Priyank Jayraj, Poonam Goyal, Navneet Goyal
arXiv
cs.AI 2026年9月30日
说明 MiniRep:面向多智能体辩论、抵御恶意智能体的稳健声誉聚合方法
简介 论文研究大语言模型智能体在多智能体辩论中的声誉机制。作者提出MiniRep,结合当前任务表现与长期声誉评估智能体,并防止高度相似回答的一组智能体主导最终决策。实验显示,在MATH数据集上,无论是否遭受攻击,MiniRep均优于常规辩论聚合方法与常规声誉方法;在异构十智能体设置下,它在全部28种攻击条件中都优于所有基线。
Jiaming Zhang, Yuwan Liu, Yue Huang 等
arXiv
cs.LG 2026年9月30日
说明 面向编码器无关数字视频通信的语义感知联合信源信道优化
简介 本文提出一种轻量级语义感知联合信源信道优化方案(SAJSCO),可作为插件模块集成到现有数字视频通信系统中。方案基于帧间语义重要性和信道状态信息,联合调整信源压缩率与信道编码率,并用多智能体近端策略优化(MPPO)算法求解。学习到的策略无需针对特定编码器重新训练即可直接使用。实验显示,与H.265和DCVC-RT结合时,BD-rate分别降低34.86%和18.01%。
Xiangben Zhu, Caili Guo, Yang Yang 等
arXiv
cs.AI 2026年9月30日
说明 ANI:面向数值推理的自适应数值注入方法,统一语义与算术表示
简介 该论文针对大语言模型的数值推理问题提出ANI(自适应数值注入)框架。文本分词常把数字切碎,影响算术精度;而数值嵌入不考虑数字在语境中的语义角色。ANI通过上下文感知的门控机制,有选择地把数值特征(具体为FoNE)注入潜在空间,在保留名义标识符的同时增强数量操作数。作者称,在多个大语言模型上,ANI在MATH基准上比官方参考模型高出9.5分,并在通用语言基准上保持稳定表现。
Jinsung Jeon, Seung-won Hwang
arXiv
cs.LG · physics.flu-dyn 2026年9月30日
说明 基于物理信息的分组数据处理方法:自适应构建函数表示并应用于纳维-斯托克斯方程
简介 本文提出一种物理信息分组数据处理方法(PI-GMDH),在求解过程中逐步构建耦合物理场的函数表示,而非预先固定结构。该方法以切比雪夫函数为基,在二维时变泰勒-格林基准问题上对不可压缩纳维-斯托克斯方程进行了验证。在所测试的设置下,自适应方法取得了约5.3e-19的验证与测试损失。作者将其与其他构建策略及部分PINN、KAN配置进行了对比,但结论仅针对该受控合成基准,并不意味着普遍优于其他物理信息方法。
Mykhailo Minin
arXiv
cs.LG · stat.ML 2026年9月30日
有代码
说明 STCFormer:用于站点天气预报的自适应时空动态聚类Transformer
简介 该论文提出STCFormer,一种自适应时空Transformer,能在每个时间片段内根据各站点的局部变化动态分组。其聚类引导注意力模块结合聚类内的细粒度局部注意力与区域状态摘要上的全局注意力。在三个真实天气数据集的八项气温与风速预报任务中,该方法在全部八项任务的24小时均方误差上最低,并在48项对比中的47项排名第一或第二。
Rongwen Li, Haixin Xie, Mingyang Wang 等
arXiv
cs.SE · cs.AI 2026年9月30日
说明 EngramBench:面向技能演化框架的能力导向基准测试
简介 本文提出EngramBench,一个用于评估自主智能体技能演化能力的基准。它通过“能力重叠而非解法重叠”的原则,避免智能体仅靠复制历史代码得分,包含30个学习任务和13个未见过的迁移任务。研究在48条多小时执行轨迹上评估,并经人类专家验证,结论指出静态技能库无法解决代码实现的最后一步瓶颈,但能有效引导智能体减少试错,使编码时间缩短超过55%。
Zhixuan Tan, Pengjie Gu, Zhao Li 等
arXiv
astro-ph.IM · astro-ph.EP · cs.LG 2026年9月30日
说明 缺失的隐变量,而非缺失的模拟器:面向真实JWST大气反演的半径增广推断
简介 论文指出,基于辐射传输模拟器训练的摊销式仿真推断在真实JWST光谱上失效,问题并非来自前向模型物理缺失,而是缺少行星半径这一隐变量。作者提出MIRAGE方法,加入半径变量并用流匹配建模后验,在真实WASP-39b光谱上得到与文献一致的反演结果,且该方法可迁移至多台仪器与三个真实JWST目标。
Angshuman Chakravertty, P V V Raj
arXiv
cs.LG · cs.CL 2026年9月30日
说明 倾斜的碗不是滑坡:循环模型的压缩
简介 该论文研究循环模型(重复使用同一组权重的模型)压缩后性能崩溃的原因。作者在五个系列的30多个模型上测试发现,只有在循环不收敛时舍入误差才会累积;循环收敛时,固定舍入误差只会移动收敛点。基于此,作者提出在模型停止头触发后用8位权重完成剩余循环的控制器,在Sudoku-Extreme和Maze-Hard上优于固定深度推理。
Steven Kolawole, Pearse Jim, Opegbemi M. Busoye 等
arXiv
cs.LG 2026年9月30日
说明 ReTaCo:面向同策略蒸馏的残差目标控制
简介 同策略蒸馏让学生模型在自己生成的前缀上接受教师逐词反馈,但传输教师完整词表分布成本很高。论文指出,现有的EOPD方法因对top-k概率重新归一化,其损失会在学生已匹配教师相对概率后仍推动top-k概率质量趋近于一,因此教师本身并非稳定点。ReTaCo保留top-k词并把其余词合并为一个残差符号,配合单样本估计器,其期望等于完整词表的反向KL。实验数值优化与三组教师-学生组合的基准测试显示,ReTaCo在多数数学和代码基准上优于EOPD。
Zixiang Ni, Zhuo Hu, Renjie Cao 等
arXiv
cs.CV 2026年9月30日
有代码
说明 MegaAvatar:可控的说话人像视频生成
简介 本报告提出 MegaAvatar,一个基于 Wan2.2-TI2V-5B 模型的可控说话人像生成框架。它在音频和参考图像之外,引入由 SMPL-X 导出的三维引导,以控制身体姿态和头部动作,并通过额外的音频与人脸交叉注意力模块实现表情控制和身份保持。此外,它还包含一个从参考图像和音频预测 SMPL-X 序列的模型,使系统可以只依靠音频驱动生成。
Junyao Gao, Sibo Liu, Weidong Zhang 等
arXiv
cs.NE · cs.DC · math.OC 2026年9月30日
说明 面向三维拖车装载问题的岛屿式并行有偏随机键遗传算法
简介 该论文研究三维拖车装载问题,即在拖车有限空间内确定异质货物的摆放位置与朝向,以提高空间利用率并满足各类物流与安全约束。由于该问题属于NP难问题,精确优化方法难以用于大规模工业场景。作者提出一种基于岛屿模型并行化的改进有偏随机键遗传算法(名为PANGEA),以增强种群多样性并缩短计算时间。该方法已在真实的拖车装载流程中完成验证。
A. del R\'io, L. D\'iaz, L. C. de Vicente 等
★★★★☆ 值得关注
arXiv
cs.LG 2026年9月30日
说明 RW-Flow:基于 Wasserstein 梯度流在紧致流形上实现单步生成
简介 该论文针对紧致流形上的数据(如地震位置、蛋白质和RNA的扭转角)提出RW-Flow框架,通过Wasserstein梯度流学习单步生成模型,以替代需要数十至数百次网络评估的扩散与流模型采样方式。作者给出了紧致连通黎曼流形上可辨识性的充要条件:对于对称且Lipschitz连续的代价函数,Sinkhorn散度诱导的速度场可辨识,当且仅当对应的Gibbs核非退化。论文还指出平方测地距离并不总能保证可辨识性。在多个基准测试中,RW-Flow在公平比较条件下几乎所有设置都优于现有单步方法。
看点 提出基于Sinkhorn散度的可辨识性充要条件并用于一步生成,新意明确;在多类流形基准上与现有一步方法对比,证据较充分,影响主要限于流形生成子领域。
Ualibyek Nurgulan, Seungwoo Yoo, Prin Phunyaphibarn 等
arXiv
cs.LG · cs.AI 2026年9月30日
说明 面向不规则时间序列可解释分类的时间感知感受野词袋方法
简介 该论文针对采样间隔不均、存在缺失值且长度不一的不规则时间序列分类问题,将快速、确定性且可解释的感受野词袋方法(BORF)扩展到不规则场景。作者提出按时间间隔加权的归一化方案,并推导出保持线性时间复杂度的滑动窗口递推计算方式。在PYRREGULAR数据集上的实验显示,该方法分类性能具有竞争力,并能提供人类可理解的解释。
Francesco Spinnato
arXiv
cs.CV 2026年9月30日
说明 PLRS-IC:面向胸部X光视觉-语言对齐的双重校准框架
简介 该论文针对胸部X光视觉-语言对齐中的两类歧义:正侧位片导致的视觉差异,以及不同患者间语义重叠却被当作负样本的问题。作者提出PLRS-IC框架,局部层面用投影条件低秩残差相似度(PLRS)调整图像块与文本匹配,全局层面用信息量校准的软假阴性抑制(IC-SFNS)减轻语义重叠负样本的惩罚。在九个公开零样本基准设置中,该方法在分类、定位和分割上均取得一致提升。
Qixing Zhao, Jinpeng Li
arXiv
cs.CV 2026年9月30日
说明 面向可提示概念分割的通用跨提示对抗攻击
简介 论文研究了 SAM3 在概念级分割范式下的对抗鲁棒性,此前该问题未被探讨。作者提出 AdvPCS 方法,结合最小-最大提示优化、全局-局部感知欺骗攻击和时序过渡偏差攻击,生成可跨提示和跨视频帧的单一通用扰动。在四个基准数据集上的实验显示,该扰动在点、框和文本提示下均有较强攻击效果,在 SA-CO 数据集的文本提示下将多种模型的平均 mIoU 降至 5% 以下。
Ziqi Zhou, Yifan Hu, Yufei Song 等
arXiv
cs.CL · cs.LG 2026年9月30日
说明 概念子空间在 Logit Lens 之外的计算:一种仅依赖权重、用于定位输出读出上游表示的检验方法
简介 该论文提出一种几何诊断方法,仅凭模型权重即可衡量提取出的概念子空间与反嵌入矩阵主要右奇异方向的重合程度。作者以十维的 FARS 子空间为测试对象,在 26 个模型上比较多种估计器,发现 FARS 的读出能量很低,但与同层下一个词控制组相比仍有明显差异。文中同时报告了干预实验,显示效果依模型而异,且远未达到完整向量替换的程度。
Aojie Yuan, Zhiyuan Julian Su, Haiyue Zhang 等
arXiv
cs.LG 2026年9月30日
说明 Jev 用于网络流量分类的初步评估:准确率、处理时间与成本
简介 本文以 CESNET-QUICEXT-25 数据集中的十个应用标签为对象,仅使用每条流前十个数据包的大小、方向和包间时间,评估通用决策模型 Jev 的网络应用分类能力。实验显示,加入 40 个标注示例后,Jev 的准确率从 9.80% 提升至 28.42%,但仍低于在 8000 条记录上训练的随机森林和极端随机树。在一个配对的 100 条记录子集上,Jev 与 GPT-5.6 Sol 的准确率差距未被确认为优势,两者的耗时与费用也因服务配置不同而不可直接比较。
Shenghe Xu, Lifan Mei
arXiv
cs.AI · cs.LG 2026年9月30日
说明 有效不等于有用:Transformer中用于冗余与规模分析的条件功能可替代性
简介 本文提出条件功能可替代性(CFS),用于直接刻画神经网络中间计算状态在下游响应相似时的功能性冗余,而非依赖组件重要性或表示相似度等间接指标。作者在多种模态与Transformer系列中发现,CFS随模型规模呈现系统性的功能重组;受控实验显示,性能提升不一定伴随可替代性的增长。
Jiaheng Chen, Jiaxing Li, Yucheng Xiao 等
arXiv
cs.LG · cs.AI · cs.DB 2026年9月30日
说明 从基准到生产:将时间序列异常检测方法迁移至发电量监控
简介 本文针对法国电力公司(EDF)的短期发电量预测,研究如何识别日内异常模式,这些模式可能表明数据质量问题或运行异常。作者提出了可扩展、可解释的 TAMIS 系统,通过与历史模式的偏差自动检测异常日,并以每日简报形式推送排名靠前的异常供专家审查。在真实工业数据上的实验显示,TAMIS 相比基线方法实现了最佳的准确性与效率平衡。作者还公开了研究所用的匿名化应用数据集。
Nicolas Vautier, Paul Caron, Nardi Xhepi 等
arXiv
cs.LG · cs.DC 2026年9月30日
说明 面向计算高效同步联邦学习的客户端与训练数据选择方法
简介 本文研究联邦学习中拖后腿的客户端和非独立同分布数据导致全局模型收敛慢的问题。作者指出,基于概率的客户端选择方法在非独立同分布数据且客户端数量较少时效果不佳,并提出一种联合选择客户端与训练数据的算法以加速收敛。在CIFAR-100数据集上的实验显示,相比能处理非独立同分布数据和异构计算的已有方法,该方法收敛明显更快,模型准确率也更高。
Muzaffer Citir, Hiroki Nishikawa, Sangyoung Park
arXiv
cs.LG · cs.AI 2026年9月30日
说明 更信任评论家:用动作分块的演员-评论家方法训练大模型的强化学习
简介 本文提出AC2(带动作分块的演员-评论家)算法,用于大语言模型的强化学习。它不必把每条推理轨迹都完整生成到终止奖励,而是把短片段(动作块)作为信用分配单位,由学习得到的评论家对每个片段结束时的状态打分。论文以Qwen3-4B在FineProofs-RL上训练,在IMO-ProofBench上评估,称其峰值验证分数超过GRPO,且解码计算量更少。
Kaiyue Wen, Luke Bailey, Arvind Mahankali 等
★★★★☆ 值得关注
arXiv
cs.LG 2026年9月30日
说明 答案正确,机制错误:检测因果干预中的有害偏离
简介 该论文研究激活修补和分布式对齐搜索等因果干预方法在神经网络中可能带来的问题:干预可能通过模型在自然输入中从不使用的隐藏路径得到正确答案。作者在GPT-2 small中植入隐藏路径,对10万余次干预进行测试。结果显示,已有的距离类方法效果低于随机,而提出的隐藏路径贡献度(HPC)检测方法在部分情形下表现良好,但在单元都处于自然范围内时失效;优化干预还会主动寻找隐藏路径,加入流形约束可显著降低这一比例。
看点 通过在预训练模型中植入隐藏通路来可测试地检测因果干预的错误机制,并提出无标签检测方法,新颖且证据充分。
Beiming Liu, Minjie Chen
arXiv
cs.LG · cs.CG · math.AT 2026年9月30日
说明 基于线性插值的之字形持续同调可微分框架
简介 持续同调可以求导并纳入学习流程,但对于拓扑结构随时间非单调演化的情形,此前没有对应的可微框架。本文针对在固定复形上对随时间变化的滤值设定阈值所得到的单纯复形序列,提出了这样一个框架。作者通过线性插值滤值与阈值相交的实数时刻来确定持续图的端点,并证明在温和的正则性条件下,导数几乎处处存在。文中给出了可明确刻画的零测例外集,并在传感器网络覆盖优化和动态图分类两个实验中进行了实证检验。
Enrico Maria Ferrari, Clemens Bannwart, Matteo Biagetti
arXiv
cs.CL 2026年9月30日
说明 4MT-VLM:视觉语言模型的认知地图有多粗糙?
简介 该论文提出 4MT-VLM 数据集,包含程序生成的地貌场景,在五种刺激模式下呈现,去除外观线索而保持布局不变。研究在十六个开源与闭源模型上以 4AFC 测试,发现模型在原视角下能识别地点,但镜头转动后表现下降,在 135° 时低于 25% 的机会水平。论文认为,当前视觉语言模型具有初步的认知地图,但空间分辨率仍不足以在视角改变后保持稳定的三维理解。
Markus Frey
arXiv
cs.RO · cs.CV 2026年9月30日
说明 潜在世界模型的规划极限:何时预测可用于规划、何时失效
简介 该论文研究基于冻结自监督视觉骨干(如V-JEPA 2、V-JEPA 2.1、VideoMAEv2、VideoPrism、DINOv2)构建的动作条件世界模型,在Meta-World操作任务和BridgeData V2真实机器人数据上评估其规划能力。结果显示,模型仅在目标位于其想象轨迹内或略超出范围时才能可靠地指导动作选择;即使预测完美,成功率仍随目标距离增加而下降。论文还表明,在可规划范围内,世界模型可以提升视觉-语言-动作(VLA)策略的成功率。
Ali Alrasheed, Basim Azam, Naveed Akhtar
arXiv
cs.LG · cs.AI 2026年9月30日
说明 流式异常检测在工业时间序列中能发现什么(以及会漏掉什么)
简介 该论文面向法国电力公司(EDF)核电厂的连续监测需求,在无监督条件下比较了流式异常检测方法与在线部署的前沿时间序列异常检测(TSAD)模型,实验数据来自真实核电厂。论文还评估了流式场景下的自动异常检测方法。结果显示,在线TSAD方法具有更高的一致性,集成策略则表现出较强的稳健性。
Magali Parrino, Antoine Ajenjo, Emmanuel Remy 等
arXiv
cs.CL · cs.AI · cs.LG 2026年9月30日
说明 RAIM:用低成本模型稳健聚合进行幻觉检测
Elia Onofri, Roberto Di Pietro
arXiv
cs.AI 2026年9月30日
说明 FYAN:面向文档级形式化的人机协作框架与语义审核
简介 该论文提出FYAN,一个用于文档级数学形式化的人机协作框架,覆盖规格说明、证明规划、逻辑审查、Lean证明构建、知识整理与验证等流程。其核心是基于证据的语义审核,用于检查形式化陈述是否忠实于非形式化规格。在FormalTCS定理集上,FYAN在相同模型下证明了143个中的86个,高于通用智能体框架的69个;在ConsistencyCheck上,其语义审核比直接用LLM判断的召回率更高。
Wei Zhao, Yangshuo Zou, Chengxiang Ding 等
arXiv
cs.CV · cs.AI 2026年9月30日
说明 通过自蒸馏涌现的多视角几何表示
简介 该论文提出 Poincar3,一种自监督方法,通过自蒸馏而非 RGB 重建,从多个视角学习视觉表示。方法结合掩码图像块与图像级蒸馏,教师模型可观察额外视角,无需显式三维监督即可从头训练。论文报告其在对应关系估计、相机位姿估计和三维重建上优于 DINOv3、MuM、Muskie 等既有自监督方法。
David Nordstr\"om, Thibaut Loiseau, Vincent Lepetit 等
arXiv
cs.CL · cs.IR 2026年9月30日
有代码
说明 在线对话中的论证结构预测:建模范式与任务架构的比较研究
简介 本文研究如何从对话中自动预测完整的论证结构,即识别论证单元及其之间的关系。作者在严格的结构约束下,比较了监督微调与基于提示的大语言模型,并测试了单步与多步两种任务架构,在三个由推理锚定理论改编的对话语料上进行评估。结果显示,识别论证关系是主要瓶颈,这主要源于对话式论证内容隐含且依赖上下文。
Siddharth Bhargava, Sara Tonelli, Patricia Mart\'in-Rodilla 等
arXiv
cs.LG 2026年9月30日
说明 QATFactory:面向部署的大语言模型量化感知训练与蒸馏框架
简介 本文提出开源框架QATFactory,用于大语言模型的量化感知蒸馏(QAD)与强化学习(QARL)。框架在BF16下模拟部署时的量化,支持NVFP4、MXFP4和llama.cpp的Q4_K格式,并可直接导出到vLLM与llama.cpp。在Qwen3.5-9B上,QAD在NVFP4和MXFP4下的平均准确率分别为68.9%和66.0%,优于最佳后训练量化结果。
Weili Xu, Jisen Li, Yuqing Jian 等
arXiv
cs.CV 2026年9月30日
说明 DC-SAE:用于加速扩散模型收敛的深度压缩语义自编码器
简介 论文提出DC-SAE,一种面向高压缩图像生成的解耦紧凑语义自编码器,用于加快扩散模型的收敛。它结合利用语义编码器实现更高压缩比的宏观架构,以及保留底层细节、保证高保真重建的像素级编码器。在512×512分辨率的ImageNet上,该方法实现32倍空间压缩,PSNR为29.79,gFID为3.37;文中称其相较DC-AE在PSNR和gFID上分别提升13.5%和54.9%,并给出了文本到图像生成的结果。
Xu Huang, Ye Huang, Zijun Liao 等
arXiv
cs.AI · cs.LG 2026年9月30日
说明 通过推理状态传播学习过程奖励:用最终结果监督中间推理步骤的论文
简介 该论文提出推理状态传播(RSP)方法,用二值有效性状态表示每个推理前缀,并建模相邻状态之间的转移概率。通过传播这些转移,过程标注可以监督中间状态,结果标签则监督最终状态并把学习信号传递回前面的步骤。在推理搜索、回答选择和强化学习实验中,RSP 优于代表性的过程奖励模型基线,相对 Qwen2.5-Math-PRM,在束搜索中平均提升 5.6%,在强化学习中平均提升 2.1%。
Kai Gan, Zi-Hao Zhou, Bo Ye 等
arXiv
cs.LG · cs.AI 2026年9月30日
有代码
说明 在流式场景中,应该保持静态吗?时间序列异常检测在流式数据上的综合基准研究
简介 本文面向流式场景下的时间序列异常检测,比较了流式方法与静态方法,在统一的流式评估基准上进行了首次大规模实验。作者还提出了包含真实时间序列的分布漂移数据集 TSB-drift,用于隔离理论上适合增量更新的场景。结果显示,与常见假设相反,在大多数流式设置中,静态方法明显优于流式方法。
Magali Parrino, Antoine Ajenjo, Emmanuel Remy 等
arXiv
stat.ML · cs.LG 2026年9月30日
说明 未知相依设计下的极小极大可加回归
简介 本文研究设计分布未知且可能非乘积形式、协变量个数随样本量增长的可加回归问题。作者在联合密度有界及维度增长条件下,为预测误差建立了匹配的极小极大上界与下界。边际密度已知时可达到经典可加速率;边际未知时,若密度光滑度不低于加权分量,该速率仍可保持,否则由边际密度光滑度决定极小极大速率。
Baptiste Ferrere, Fabrice Gamboa, Jean-Michel Loubes
arXiv
cs.MA 2026年9月30日
说明 大规模相互作用语言模型群体中的共识与事实动态
简介 本文提出 RHEON 框架,把由同一冻结模型采样得到的语言模型群体视为一个在不同交互结构上演化的自旋系统,并以采样温度作为热无序来源。作者在 432 种提示、群体规模、通信拓扑与温度组合下生成了约 470 万条回答的语料 Eraclitus-4.7M。研究发现,共识增益多在最初几轮更新中达到最强,且每个智能体的邻居数增加会平均加快收敛;但最终共识是否事实正确无法仅由初始状态预测,减少幻觉的最佳温度也取决于耦合方式。语义一致性与事实收敛正相关,但即使达成一致,也不足以保证正确。
Emanuele Ricco, Elia Onofri, Vincenzo Sammartino 等
arXiv
cs.SD · cs.AI 2026年9月30日
说明 UniAE-MoE:基于专家混合的统一音频编码器
简介 该论文提出UniAE-MoE,一种用于大型音频语言模型的统一音频编码器,采用专家混合(MoE)架构,可同时处理语音、音乐和通用音频。方法上融合了Qwen2-Audio与Audio-Flamingo 3的编码器,并引入带共享专家的SwiGLU、两阶段指令微调以及任务特定数据扩展技术。论文报告其在XARES-LLM基准上得分0.802,达到当前最优水平,并在Interspeech 2026音频编码器能力挑战赛中表现领先。
Shengbo Cai, Zhisheng Zhang, Zichao Nie 等
arXiv
cs.CV 2026年9月30日
说明 Uruqi:从视觉经验中学习空间认知(论文)
简介 该论文针对视觉语言模型在追踪自身运动和随运动建立周围世界地图方面的不足,提出用合成的连续视角经验进行训练。研究者合成了11738条基于3D场景的相机轨迹,并在包含52k个问题、2.7k个片段的Uruqi基准上评估。文中报告URUQI-Syn-8B准确率由15.84%提升至47.73%,并在三个外部空间基准上相对其骨干模型取得平均17.13%的相对提升。
Shichao Li, Meiqi Wang, Fei Su 等