arXiv
cs.LG
说明不同优化器的训练动态收敛到相同的最优数据缩放指数 1/3
简介论文研究神经网络损失随数据量变化的幂律指数。作者区分了单次训练中随步数下降的动态指数与最优调参后随数据量下降的最优数据指数。在在线教师-学生模型中,SGD 与 Adam 的动态指数不同,但经最优学习率调参后,两者的损失都按 D^(-1/3) 下降,并且分析的一个关系式 2α_r+α_t=1 使七种优化器(包括 Muon)都得到相同的最优数据指数。
Hyunseok Lee, Mihir Basil, Yizhou Liu 等
arXiv
cs.AI
说明ContextRender:从执行依赖到智能体上下文管理
简介该论文针对执行长链任务的大模型智能体,提出 ContextRender 方法,通过持久化的执行依赖图管理上下文。它用工具流分析追踪后续步骤对早期工具结果的复用,并结合时效性与语义相关性,在固定的历史预算内选取结果。在 AppWorld 与 8 目标问答实验中,该方法在 6K 历史预算下优于评估的上下文管理基线,任务表现接近或超过完整历史,同时平均推理成本降低 10.2%–32.2%。
Savini Kashmira, Jayanaka L. Dantanarayana, Lingjia Tang 等
arXiv
cs.LG · cs.LO
说明HyDI:结合深度学习与归纳逻辑编程的多标签分类混合集成方法
简介深度学习模型效果好但难以解释。本文提出HyDI,一种用于层次化多标签分类的混合集成架构,把深度学习模型与归纳逻辑编程(ILP)生成的规则分类器结合。对标签层次的叶子类别,由规则分类器替代深度学习模型,使分类结果更透明。HyDI应用于化学生物学实体(ChEBI)本体,为其中314个类别提供ILP生成的规则,并能给出全局解释以及结合图文描述的局部解释。
Simon Fl\"ugel, Till Mossakowski
★★★★☆ 值得关注
arXiv
cs.CV · cs.LG
说明编辑器内部的相机:通过绘制标定图案读取图像编辑模型的隐含相机
简介论文研究基于指令的图像编辑模型在涂绘画面时隐含假设的相机参数。作者让编辑器在照片中绘制棋盘格,再用经典的消失点几何从中读取俯仰、横滚、焦距、偏航等参数。在120个带精确真值的渲染相机上,Qwen-Image-Edit-2511的隐含相机除横滚外比GeoCalib更准确。
看点提出从图像编辑器绘制的棋盘格读取其隐含相机参数的新方法,并与标定器对比,证据较充分;对编辑模型的分析有一定影响。
Sebastian R\"uckerl
arXiv
cs.LG
说明权重读写特征:基于激活空间的可扩展参数分解
简介该论文提出激活支撑参数分解(ASPD)方法,同时分解激活空间和参数空间,并将每个学到的权重分量与其读取或写入的激活特征对应起来。该方法在Qwen-3-8B预训练大语言模型上得到验证,学到的读写分量还可组合成参数级机制电路,并用于还原经典IOI电路的机制。
Tue M. Cao, Lisiane Pruinelli, My T. Thai
arXiv
cs.AI
说明用于脑电癫痫检测与预测的时空超边方法
简介癫痫的脑电检测与预测在临床上很重要,但发作罕见、时间定位困难,且会跨多个通道协同传播。论文提出HyBrain,用一小组软超边而非两两通道边来概括时空脑电信息:先用逐通道Mamba骨干为每个通道每秒生成一个词元,再通过软隶属度汇聚为共享的群组嵌入。同一编码器可用于窗口检测、逐秒检测和发作前预测。
Hyunju Kim, Sheo Yon Jhin, Noseong Park 等
arXiv
cs.AI · cs.CL · cs.LG
说明上下文语言模型:模型自行管理上下文的新范式
简介本文提出上下文语言模型(CLMs),将上下文视为文件,允许模型自由更新,从而自行学习需要保留的重要信息。在BrowseComp-Plus、EdgeBench和多代码库智能体任务等测试中,CLMs在准确率和计算量上均优于现有上下文管理策略。文章还介绍了基于指令优化和在线强化学习的训练方法,以及面向服务端的后缀缓存复用设计。
Rulin Shao, Shannon Zejiang Shen, Junjie Oscar Yin 等
arXiv
cs.RO · cs.CV
说明CogWAM:通过事件驱动接口对齐语义认知与世界动作建模
简介该论文提出 CogWAM,一种认知引导的世界-动作模型,通过持久化的语义状态(记录已完成的任务事件与当前子任务)连接任务推理与动作学习。语义状态仅在观察到语义转换时更新,并借助进度条件的 WORLD 与 ACTION 查询生成未来世界预测与动作。在 RoboDojo 与 BiCoord 上的实验结果以及真实双臂操作实验被用来展示其效果。
Sen Wang, Liu Liu, Xinjiang Wang 等
arXiv
cs.LG · cs.CL
说明Transformer隐藏轨迹的预测几何:由终端损失诱导的输出相关隐状态方向
简介本文研究解码器型Transformer中各层隐状态的损失到终点函数,分析成功验证轨迹附近的局部二阶几何,由隐状态空间上的拉回Fisher算子刻画,用于识别输出敏感方向与近似预测零空间方向。作者在WikiText、OpenWebText和FineWeb上的多个解码器语言模型中进行了估计,并用该几何辅助扰动敏感性预测、分层秩分配、结构化token剪枝及低秩学生模型蒸馏。
Timur Mudarisov, Mikhail Burtsev, Tatiana Petrova 等
arXiv
cs.LG
说明面向金融时间序列的波动聚集自适应方法(VCA)
简介本文指出,在金融预测中,单纯用更多目标数据微调时间序列基础模型未必有效,因为单日价格变化难以预测,但大幅波动往往成群出现。作者提出波动聚集自适应(VCA),在下一词元交叉熵之外,加入对平方收益率自相关的可微惩罚项,以匹配模型自回归滚动结果与真实未来的依赖结构。实验覆盖三组资产和两种评估方式,结果显示VCA优于预训练模型,主要减少了方差误差。
Manh Nguyen, Minh Hoang Nguyen, Huu Hiep Nguyen 等
arXiv
cs.CL
说明Billiger.de Products:双语实体匹配基准
简介本文提出 Billiger.de Products,一个覆盖德语与英语的实体匹配基准,数据来自德国比价网站 billiger.de,涵盖十三个消费品类别,包括服装和家具等较难处理的类别。基准提供多个变体,并为每条商品提供对齐的英文翻译,同时包含跨语言测试集。作者用六种有监督匹配器和零样本 GPT-5.2 进行验证,结果显示该基准具有较高难度,且其英文版本上的 F1 分数低于 WDC Products 和 Abt-Buy 等现有英文基准。
Aaron Steiner, Ksenia Elagin, Ralph Peeters 等
arXiv
cs.CV · cs.AI
说明PolyOCR-Venus:面向文本视觉智能的统一OCR基础模型
简介本文提出PolyOCR,这是一组不同规模的统一OCR基础模型,旨在同时完成文字识别、版面解析与推理等任务。研究构建了大规模数据引擎,将多源视觉资源转为经质量校验的OCR监督数据,并提出结合基于验证器的GRPO与按教师可靠性和能力差距路由样本的同策略蒸馏方法。作者还发布了经人工修正标注的OCRBench v2.1,在多个基准上报告达到领先或极具竞争力的表现。
GuangJian Team: Kaili Huang, Yongshuo Zhang, Bingtao Fu 等
arXiv
cs.CV · cs.AI
说明VIF-Bench:多参考图像生成中视觉指令遵循能力的评测基准
简介该论文提出VIF-Bench,一个包含1,241项任务的基准,用于评测模型在同时使用多张参考图和多种视觉指令(如布局、箭头、姿态)时的生成能力。研究发现:遵循视觉指令越强,生成图像中的指令伪影往往也越多;参考图中带有显著受控属性状态时,遵循度会降低;直接提供视觉约束通常优于文字描述,而文字描述适度详细即可。
Yuta Oshima, Masakazu Yoshimura, Masahiro Suzuki 等
arXiv
cs.AI · cs.LG
说明生成式交互:用双层潜在动力学编织多人人体运动
简介该论文提出BRAID模型,一种用于生成多人社交互动的分层序列潜变量模型。它把群体层面的共享交互状态与个人层面的行为状态分开建模,并将社交运动生成视为元迁移学习问题,以便在不同数据集和不完整观测条件下迁移。论文在统一的SMPL表示下评估了预测、跟踪补全和响应生成任务,并分析了其分层潜在空间能够区分群体与个体结构。
Ojas Shirekar, Yash Surange, Agustinas Ju\v{c}as 等
arXiv
cs.LG · cs.AI
说明用于类增量学习的宽度扩展方法
简介该论文针对类增量学习中模型需依次学习新类别却不遗忘旧知识的问题,提出一种动态宽度扩展方法,依据归一化损失准则在现有层中增加神经元,无需任务特定信息。方法还引入带持久键值记忆的注意力机制,以稳定特征表示并减少新旧类别之间的干扰。实验在Split MNIST和Split CIFAR-100上进行,结果显示渐进式宽度扩展优于固定结构,二者结合注意力机制效果最稳定;但论文也指出,无控制的增长可能带来过拟合和计算成本增加。
A. L. S. Conde, Y. Elkhatib, C. M. Ranieri
arXiv
cs.AI
说明在冻结的大语言模型中定位答案正确性信号
简介论文研究如何仅通过冻结模型的一次前向传播,从内部信号判断答案是否正确,无需额外生成。作者比较了隐藏状态、词元概率、残差流特征、注意力及其融合等多类信号,并分别在闭卷和带上下文两种设置下分析。结果显示,正确性主要集中在答案片段中,各类信号互补,融合在分布外场景下效果最明显。
Yuansen Liu, Yixuan Tang, Anthony Kum Hoe Tung
arXiv
cs.CV
说明评估多任务形态学概念学习在三维CT肺结节恶性评估中的效果
简介该研究使用LIDC-IDRI数据集,以病灶为中心的三维CT影像,比较了单任务三维卷积神经网络与同时预测恶性风险、毛刺征和分叶征的多任务模型。结果显示,加入形态学特征并未明显提升恶性风险分类的表现,作者认为类别平衡、标签设计和读片者层面的标注结构在此类分析中十分重要。
Namitha Narayanan
arXiv
cs.LG · cs.AI
说明GARDiff:面向概率多变量时间序列预测的图对齐残差扩散模型
简介该论文指出,在解耦扩散预测框架中,由确定性预测推导出的依赖图与残差依赖结构在边级别存在错位,直接用作扩散条件并不可靠。作者提出GARDiff,通过残差不确定性估计进行结构细化,并在反向扩散过程中按时间步稀疏化边,使图条件从全局依赖聚合逐步转为局部残差refine。作者称在六个真实基准数据集上,该方法在概率预测性能和不确定性校准方面优于强基线。
Rui Han, Min Yang, Xu Zhang 等
arXiv
cs.CV
说明Honeycomb:面向视频世界模型的固定尺寸场景记忆表示
简介该论文提出 Honeycomb,一种用于视频世界模型的场景记忆方法,核心是名为 HexMemory 的低秩表示,用六个空间与时空平面以固定尺寸存储场景特征。生成新片段时,系统将其写入平面并与旧特征融合,读取模块再从中取出潜变量用于后续视频生成。实验在 WorldScore 与 RealEstate10K 上进行,论文称其生成质量良好、重访一致性稳健,且存储量在生成过程中保持恒定。
Jack Wei Lun Shi, Kaichen Zhou, Haoyu Chen 等
arXiv
cs.CL
说明读者熟练度如何影响大语言模型各层的惊奇度分布
简介本研究利用 MECO L2 眼动语料,比较高、低词汇熟练度读者的首遍注视时长和总注视时长,与大语言模型各层惊奇度的关系。作者用预测深度衡量预测能力在模型各层的分布,并测试了 12 个模型。结果显示,低熟练度读者在首遍注视时长上表现出更深的预测深度,总注视时长中的差异较小。
Akio Hayakawa, Horacio Saggion
arXiv
cs.AI
有代码
说明WISE-ATTA:预算受限的主动测试时自适应中,何时请求标注
简介论文提出预算受限的主动测试时自适应(ATTA)设定,即仅为部分测试批次提供标注。作者提出WISE-ATTA方法,依据在线计算的轻量信号决定在测试流的哪些时段进行监督,并对被选中的批次采用基于漂移的样本选择准则,使单个标注样本即可有效更新模型。在ImageNet-C与ImageNet-R/K/A上,该方法在标注量明显减少的情况下取得了与近期方法相当或更好的表现。
Muhammad Huzaifa, Lea Sch\"onherr, Thorsten Eisenhofer
arXiv
cs.AI · cs.CL
说明EngiWorld:前沿智能体在专业工程环境中能完成什么?
简介本文提出EngiWorld基准,包含1301个由专家编制的任务,覆盖CAD、CAE、CAM、BIM、EDA和DCC六个工程领域及26款专业软件,支持图形界面与命令行两种接口。研究采用以成果文件为中心的评估方法,由统一的领域验证器检查几何有效性、物理可行性和设计规则合规性,并对优化设计的达标程度打分。对七个前沿模型的评估显示,最强模型得分仅为44.7/100,涉及跨软件协作的任务成功率仅为3.6%。
Hongcheng Gao, Hailong Qu, Yu Lei 等
arXiv
cs.CV
说明PAIQ:基于残差旋转的块对齐语义注入方法
简介该论文提出PAIQ框架,把语言对齐的视觉编码器(SigLIP)与自监督视觉编码器(DINOv3)的特征融合:以DINOv3的块特征为空间基础,通过共享的正交变换Q注入SigLIP特征的差异,保持残差范数与成对角度。训练时仅更新投影与融合参数,视觉编码器和语言模型保持冻结,融合后保留196个视觉token。论文报告在图像描述和视觉问答上,相较单编码器接口,正确性有广泛提升、幻觉严重程度降低。
Pinze Ren, Yuwei Zhang, Hao Chen 等
arXiv
cs.AI · cs.LG · cs.RO
说明从共享控制接管中学习:面向个性化超车的情境驱动加速度曲线预测
简介自适应巡航控制(ACC)通常按平均驾驶员校准,在高速超车等关键操作中,车辆行为可能与个人预期不符。本文将驾驶员的油门接管视为人在回路中的监督信号,提出个性化框架CoP-ACC,结合无监督层次聚类、情境分类器与残差回归器,生成个性化加速度曲线。在真实公路数据上的评估显示,该方法重构精度较高,生成的曲线在潜在接管情境中趋近驾驶员预期行为。
Ruizheng Xu (Heudiasyc), Lounis Adouane (Heudiasyc), Javier Iba\~nez-Guzm\'an 等
arXiv
cs.CV
有代码
说明Med-RADIO:通过多教师蒸馏将所有医学领域融入一个模型
简介论文提出 Med-RADIO,一种医学多教师蒸馏框架,把多个领域专家模型的互补能力压缩到一个统一的医学视觉基础模型中。方法包括挑选通用与专科教师、按影像模态对齐蒸馏流以重组预训练数据,并用平衡损失防止单一教师主导。在涵盖五种模态的内外部分类基准上,该模型在线性探测下优于较强的医学通用模型,并在多数评估模态上与代表性专科模型相当。
Chu Zhang, Haoyu Jiang, Hongyuan Zhang 等
arXiv
cs.LG · cs.AI · cs.CL
说明当模型并不操纵流形:一个比较任务的几何结构
简介本文研究 Qwen2.5-7B-Instruct 在数字比较任务中的内部几何表示。研究发现,尽管数字在表示空间中呈现弯曲的几何结构,模型主要依赖线性表示完成比较:先将两个数字的线性表示加入残差流的共享空间,再由 MLP 神经元在局部区间内比较并确定最大值。该结论在比较三个数字时同样成立。
Sai Sumedh R. Hindupur, Hadas Orgad, Thomas Fel 等
arXiv
cs.RO · cs.LG
说明通过谱技能学习可表达且可组合的运动表示
简介本文提出“谱技能”(spectral skills),一种连接规划器与控制器的潜在表示,通过预测后续运动而非重建输入进行学习,可紧凑编码短时运动片段。在29自由度人形机器人上,基于谱技能的控制器相比现有最优方法将全局跟踪误差降低62%。同一冻结控制器可直接串接独立编码的技能,并通过在兼容基础技能上叠加正交方向组合出训练数据中未出现的新行为;实验在Unitree G1硬件上完成。
Feiyang Wu, Chenxiao Gao, Chen Yang 等
arXiv
cs.LG · q-bio.BM
说明LEMON-ZEST:基于进化信息的分词方法,用于高效蛋白质语言建模
简介本文提出ZEST,一种从多序列比对保守区域构建的进化信息词表,使蛋白质序列分词阶段即可融入生物学先验。基于此,作者提出200M参数的LEMON模型用于检测蛋白质序列间的远缘同源性,单张H100 GPU训练一周。结果显示,该小模型超过了600M至3B参数的现有模型,作者认为进化信息分词可替代大规模参数扩展。
Biswajit Banerjee, Claudia Alvarez Carreno, Anton S. Petrov
arXiv
cs.AI · cs.CL
说明KUPAS MASTER:把资深从业者的隐性经验提炼为智能体可用的经验语料库
简介这篇论文提出 KUPAS MASTER 平台,将工作记录和从业者访谈整理为可追溯、可复用的经验语料库,供大语言模型智能体使用,并将经验打包为带有输入、步骤、依赖和停止条件的可调用技能。作者用 20 位从业者的授权样本处理了 1,576 个源文件,生成 23,024 条个人经验记录和 13,113 项组织资产。在评测中,基础模型、原始语料检索增强生成(RAG)和 KUPAS MASTER 智能体分别得分 70.63、79.75 和 89.58,智能体在全部七个评分维度上都优于原始语料 RAG。
Changmian Wang, Yuchao Ma, Xuchao Lu 等
arXiv
cs.AI · cs.CE · cs.CV
说明MeanFlowAdvantage:面向少步平均速度生成器的稳定奖励微调方法
简介本文提出 MeanFlowAdvantage,一种针对平均速度生成器的带符号优势加权最小二乘目标,用于奖励微调。该方法通过共享的分离式 MeanFlow 导数修正,使奖励目标与推理所用的平均速度映射保持一致,并保留原有的少步采样器。在 SD3.5-Medium 上,该方法在八项指标上优于四步 MeanFlowNFT 基线,并在四次函数评估下在六项指标上达到或超过 40 步 DiffusionNFT 基线。该目标还被应用于 DNA 启动子设计。
Haocheng Tang, Tianchi Xie, Xingqiao Lin
arXiv
cs.SE · cs.AI
说明检索、复现、揭示:剖析检索增强的软件漏洞检测
简介本文研究了六个开源的检索增强软件漏洞检测系统,在开放权重模型下复现其实验,并用统一的数据集、指标和模型池进行基准比较,还将流程拆分为输入抽象、知识检索和检测三个组件进行分析。结果显示各系统的可复现性差异很大,已发表的性能在受控评测下未能完全复现,且高度依赖所用模型。即使使用理想的知识检索,成对准确率仍只有0.51,说明仅检索效果好并不足以保证可靠检测。
Sabrina Kaniewski, Tim Kr\"amer, Julius B\"achle 等
arXiv
cs.LG
说明隐私应放在何处:图上私有反事实解释的放置诊断与可认证选择
简介本文针对图神经网络的反事实解释,指出先对图做隐私化或在原图上解释再扰动两种做法都存在缺陷。作者提出PrivCFS方法,在固定、与数据无关的候选集合上进行反事实选择,并通过指数机制给出对完整发布对象的纯ε差分隐私保证,据称这是图上首个此类保证。原文报告在ε=8时仍保留较高的效用,并讨论了公共信息披露带来的代价。
Yuxiang Yao, Zijun Zhao
arXiv
cs.RO · cs.AI
说明面向AI原生6G机器人协同的语义地图共享与能力感知覆盖规划
简介本文提出一种以边缘计算为中心、具备语义感知能力的覆盖规划框架,用于搜救等场景中的空地异构机器人团队。空中观测被转换为紧凑的语义栅格地图,并据此按各机器人的能力划分区域、规划路径,只分配其能够通行的区域。系统以语义修正替代完整地图的周期性传输,使高更新频率下的应用载荷约减少82倍。在对比实验中,该方法覆盖率为91.5%,且没有能力不可行的分配,而LS-MCPP的覆盖率为78.8%,能力不可行分配率为21.5%。
Abdulqader Dhafer, Qi Wang, Zhou Daniel Hao
arXiv
cs.LG
说明从不完整数据中学习因果归一化流:基于观测数据似然的方法
简介该论文提出MissCNF,用于在存在缺失值的数据上直接训练因果归一化流(CNF),通过最大化每条部分观测样本的边缘似然,无需删除样本或构造补全数据集。在八个合成因果基准、三种缺失机制和最高90%缺失率的实验中,MissCNF在多数非线性设置中的KL散度和反事实误差上优于删除法和先补全后建模的方法;在线性结构方程模型上,其表现位于前两名的情况也较多。
Trung-Dung Hoang, Alceu Bissoto, Tim Fl\"uhmann 等
arXiv
cs.CL
有代码
说明基于语料引导的双路径传播图检索增强生成方法
Baoxian Liu, Tong Wei
arXiv
cs.LG
说明在学习上下文相关服务率的同时进行非抢占式调度
简介本文研究单服务器排队系统中的非抢占式上下文排队赌博机问题:每个任务由上下文向量描述,服务完成概率由带未知参数的逻辑模型决定,服务器需边学习边决定服务哪个任务或是否空闲,以最小化队列长度遗憾。作者提出 Learn–Clear–Plan(LCP)算法,借助有限时域贝尔曼递推做出随时间范围变化的决策,遗憾为 Õ(√(d/T)),并给出在 T≥d² 时近似最优的下界结果。当时间范围未知时,作者提出估计版 SEPT 算法,跟踪误差为 Õ(√(d/t))。
Wansoo Choi, Seoungbin Bae, Dabeen Lee
arXiv
cs.CV · cs.LG
说明上下文中的图像值得10个维度吗?——关于大型视觉语言模型中共享判别几何的研究
简介该论文研究大型视觉语言模型在上下文学习中如何表示图像。作者发现模型在早期层会对视觉表示进行降维,形成一个跨所有图像分类任务共享的低维空间,上下文图像被压缩为线性可分的表示用于分类。作者还从理论上说明线性自注意力可通过投影到主成分实现降维,并提供了训练后的模型也通过类似机制降维的证据。
Adhemar de Senneville, Xavier Bou, J\'er\'emy Anger 等
arXiv
cs.AI
说明EnterpriseBench:评估大模型智能体在企业级战略推理与决策上的基准
简介该论文提出 EnterpriseBench,用于评估大语言模型智能体在企业场景中的能力,范围从静态问答到动态决策。基准包括将现有企业与金融问答数据重新整理而成的基础套件,以及咨询案例、供应链库存模拟(啤酒游戏)和企业数字孪生三种交互式设置。实验结果显示,目前的智能体在企业场景中尚未表现出稳定、全面且跨任务的可靠性。
Min Yang, Yichen Pan, Jinghua Piao 等
arXiv
cs.CV
说明追溯证据:视觉-语言推理中的忠实词元归因方法(VTrace)
简介大型视觉-语言模型的回答依据难以辨认。论文提出VTrace框架,通过中间推理路径追溯图像与文本输入的贡献,并跨模态校准归因分数,以统一排序输入词元。论文称在六个视觉推理基准、与七种基线方法的比较中,该方法的归因忠实度更优。
Bowen Yuan, Danny Wang, Ruihong Qiu 等
arXiv
cs.CV
有代码
说明Exemplar2VQA:借助多智能体编程、以示例驱动的可扩展视觉问答数据生成框架
简介论文指出,多模态大模型的空间智能受限于复杂三维问答数据稀缺。Exemplar2VQA 通过多智能体协作,在模拟环境中调用几何工具库进行确定性代码执行,并以静态空间问题模板为示例,自动扩展生成大规模空间问答数据。用其合成的室内数据微调 Qwen2.5-VL(3B/7B)后,在多个基准上性能有明显提升,并可扩展到室外和混合场景。
Jiayu Ying, Qijian Tian, Ruijie Xu 等
arXiv
cs.CV · cs.GR
说明纹理空间材质扩散:在纹理空间中为三维物体生成高质量材质的方法
简介该论文提出一种完全在纹理空间中为三维物体生成高质量材质的方法。作者微调视频扩散 Transformer,用于文本引导的材质生成、多视角材质生成和材质超分辨率。方法利用从图像空间到纹理空间的已知投影,可泛化到任意几何形状和纹理参数化,并避免了视频和多视角扩散模型常见的视角一致性问题。论文称该方法可扩展到8K分辨率、100多个输入视角和神经材质表示,并在材质生成与重建的定量和定性评估中取得了当前最优结果。
Jacob Munkberg, Peter Kocsis, Jon Hasselgren
arXiv
cs.LG
说明RACE:面向异构图神经网络的关系级反事实解释
简介该论文提出RACE方法,用于解释异构图神经网络的预测结果。它通过穷举搜索关系子集,找出能够改变预测结果的最小关系删除集合,并将其细化为类型化的边集进行验证。在多个数据集上,RACE的反事实成功率优于基线方法,同时删除的边更少。
Yuxiang Yao, Zijun Zhao
arXiv
stat.ML · cs.LG
说明用芬斯勒几何嵌入有方向的数据
简介许多数据带有内在方向性,但常见的谱嵌入方法会将其对称化,丢失方向信息。本文把有向数据视为采样自芬斯勒流形(距离依赖行进方向),研究由非对称距离构造的核算子。作者证明其对称部分与几何相关,反对称部分对应表示方向的一阶输运算子,并证明相应图算子几乎必然一致收敛到这些极限。对于Randers度量,该向量场是显式的,可据此恢复流形结构与潜在漂移。
Gwendal Debaussart-Joniec (CB, ENS Paris Saclay), Th\'eau Blanchard (HeKA | U1346 等
arXiv
cs.CV · eess.IV
有代码
说明VoxelSage:面向肝肿瘤的工具增强型三维CT分析与模拟器约束下的序贯切除规划系统
简介该论文提出VoxelSage,一个用于肝肿瘤术前评估的多模态系统,可完成二维和三维可视化、肿瘤分析及切除规划。系统采用双端口架构,将语言模型的任务调度与图像计算分离,物理测量由图像端完成。在256个未见过的模拟场景中,相较确定性基线,平均模拟用时减少0.886分钟,模拟出血量减少116.995毫升,但这些结果仅反映系统集成与模拟器层面的表现,不代表临床疗效或安全性。
Binghong Qian, Xuanhe Liu, Yifan Xing 等
arXiv
cs.CL · cs.AI
有代码
说明评估与基准测试 System One 模型 Jev:一个不生成文本、只输出选项与概率的商用判断模型
简介Jev 是 TypeSafe AI 推出的商用 System One 模型,不生成文本,而是从固定选项中选择、给出量表位置或判断陈述为真的概率。作者在 37 个数据集上零样本评估 jev-1.13.0,共 346,009 次请求,并与 Qwen3.8-27B、Gemma-4-E4B 对比。Jev 在 37 个数据集中有 27 个超过 Qwen,在全部 37 个数据集上超过 Gemma;三者在低资源语言、细粒度标签和量表质量判断上都表现下降。
Tobias Deu{\ss}er, Lorenz Sparrenberg, Rafet Sifa
arXiv
cs.AI
有代码
说明超越单一潜在空间:用于长时程规划的双潜在世界模型
简介该论文提出双潜在世界模型(Dual-WM),用两套各自独立的状态表示和动力学模型分别负责局部执行与长程规划,高层模型用学到的宏动作规划子目标。作者还提出加权滚动的长时程表示学习方法(LoRe)。在五个目标条件视觉控制任务上,论文报告目标偏移为50和100个环境步时平均成功率分别从75.9%升至84.4%、从61.4%升至69.5%。
Delin Zhao, Zhengrong Yue, Shaobin Zhuang 等
arXiv
cs.AI · cs.LG · q-bio.NC
说明平坦化连接组谱:用于功能连接的谱滤波器如何为fMRI编码器提供预训练目标
简介该论文研究脑功能磁共振(fMRI)功能连接矩阵上的核岭回归在预测个体表型时表现较好的原因,指出其特征值校准不适合表型预测。作者用谱滤波器重新校准各受试者功能连接矩阵的特征值,在5个数据集、11种脑区划分和6个预测目标上达到或超过基线。随后,作者在约4000小时、来自162个公开数据集的fMRI数据上预训练小型编码器,使其嵌入相似性对齐重新校准后的连接组,性能与所测6个已发表脑基础模型中最好者相当,参数量少一个数量级。
Giovanni Marraffini, Victoria Shevchenko, Carlo Alberto Barbano (UNITO) 等
arXiv
cs.SE · cs.AI
说明Zero2Repo:编程智能体能否从零构建完整代码仓库?
简介论文提出 Zero2Repo 基准,给智能体一份产品需求文档、接口约定和空工作区,要求其在项目原生生态中交付完整仓库。任务由真实开源项目自动生成,以可执行的隐藏验收测试判定成败,不使用大模型评判。即使在可能已被模型训练过的 11 个任务上,最强智能体也只解出 10 个,失败提交通过了 90% 至 99% 的隐藏测试。
Pei Yang, Tianyu Shi, Yuhang Yao 等
arXiv
cs.CV
说明面向对比式视觉-语言模型的定向视觉反事实解释(MACE方法)
简介现有针对CLIP等对比式视觉-语言模型的解释方法大多只能指出重要区域,无法说明如何修改输入才能得到目标预测。本文提出MACE方法,利用掩码引导和自适应扩展的可编辑区域,结合潜在扩散修复模型与冻结的CLIP进行定向修改。在ImageNet、Food-101、Oxford Pets和CUB-200上的实验显示,源掩码变体的目标Top-1成功率最高,差异掩码变体的像素与感知变化最小、真实感评分最好;两者在近似性和真实感上均优于仅用Stable Diffusion的基线。研究还揭示了反事实有效性与原图保留之间存在权衡。
Van Bach Nguyen, J\"org Schl\"otterer, Christin Seifer
arXiv
cs.LG · cs.AI
说明OPMD:超越输出监督的同策略机制蒸馏
简介论文提出同策略机制蒸馏(OPMD),用于改进语言模型的知识蒸馏。传统同策略蒸馏只监督学生模型的输出,OPMD则把教师模型的中间计算过程迁移给学生。方法先构建与学生兼容的教师,把教师表示转换为学生后续计算可用的中间状态,再让学生从同策略轨迹中内化这些状态。作者称其在三组教师-学生设置中平均准确率最高,并可推广到多教师蒸馏和跨模型族监督微调。
Yingdong Shi, Zhihong Li, Changming Li 等
arXiv
cs.CL
说明共语言学:AI辅助的语言学理论构建
简介本文提出将AI作为“共同科学家”,用于构建和评估语言学理论,并称之为“共语言学”。AI可帮助把现有理论完全形式化、比较相互竞争的理论,并提出新理论,还能加速关键预测的识别与检验。文中强调,人类语言学家仍是核心,负责科学方向和概念评估,实验参与者则用于检验LLM无法覆盖的经验预测。
Emmanuel Chemla, Benjamin Spector, Alexandros Kalomoiros 等
arXiv
cs.LG · cs.AI · cs.CL
说明RLTLDR:通过内化自生成反馈实现自我改进
简介论文提出 RLTLDR 方法:智能体每次失败后,由验证器输出结果,智能体再据此写出一条简短的 TL;DR 式心得,后续尝试以所有心得为上下文,直到找到解决方案。作者还让模型内化从任务到心得的映射。在困难的工具调用与编程数据集上,标准 GRPO 训练的 Pass@1 停留在 0% 到 1%,而 RLTLDR 达到 14% 到 31%,在评估时不提供心得时仍有 12% 到 13%。
Michael Kirchhof, Eleonora Gualdoni, Andrew Szot 等
arXiv
cs.LG · cs.AI
说明ProCTI:基于原型精炼全局条件的扩散时间序列插补方法
简介时间序列插补是补全缺失数据的任务,扩散模型近来表现突出,但多数方法只利用局部窗口信息,全局数据结构利用不足。本文提出ProCTI框架,通过学习到的原型检索全局数据集层面的先验,并与局部信号在反向扩散中混合条件化。实验显示,在随机缺失场景下整体优于强基线,属性级缺失下仍具竞争力;作者还给出了原型全局条件可证明提升插补效果的理论分析。
Fariza Rashid, Duc Van Le, Rahat Masood 等
arXiv
cs.LG · cs.CV
说明Procedural Core:用于视觉 Transformer 的紧凑循环初始化方法
简介该论文提出 Procedural Core 方法,先在程序化生成的抽象数据上训练一个小型循环 Transformer,再把得到的紧凑权重扩展为任意宽度和深度的 Transformer 初始化参数。作者称这种初始化在图像分类、自监督视觉学习(DINO)以及自然语言和代码建模上均有改进。论文还称其在 ImageNet 分类、零样本分割、物体定位和深度估计等任务上带来提升,并认为循环结构对学到可跨模型迁移的紧凑权重至关重要。
Zachary Shinnick, Christian Intern\`o, Hemanth Saratchandran 等
arXiv
cs.DC · cs.AI
说明SPLASH:在大语言模型推理中无缝切换注意力并行布局
简介论文提出SPLASH系统,可在请求运行期间切换注意力机制的并行布局,以适应不同负载。作者利用现代注意力机制中KV缓存位置与权重分片相互解耦的特性,实现近乎零开销的切换,并提出了一种新布局DOP。在B200 GPU上服务GLM-5.3时,相比固定布局部署,端到端吞吐量提升1.3至1.73倍。
Chuan Liu, Shuoming Zhang, Zhicheng Li 等
arXiv
cs.CL · cs.AI · cs.LG
说明修正而非删除:用纠正式监督缓解涌现式失配
简介论文发现,用少量有害医疗建议微调语言模型会使其在无关问题上也出现失配(涌现式失配)。在相同的有害样本中,将其替换为正确答案比直接删除更能降低失配率,约减少三分之一,并改善医疗问答表现;删除这些样本则效果不明显。
Jacob Epifano
arXiv
cs.SD · cs.AI
说明AS²D:加速移动设备上的按需音频理解
简介该论文提出 AS²D(音频推测式解码),一种面向音频语言模型的加速方法。它让音频条件的草稿模型独立于大模型已生成的文本前缀继续生成候选词,大模型则并行验证与修正,从而让草稿与验证可以同时进行。在四款手机、七个数据集、三类任务(共 12.2 小时音频)上的实验显示,相比仅用大模型解码,其 ASR 吞吐量提升 42%–76%。
Yunzhe Li, Kyoungjun Park, Hongzi Zhu 等
★★★★☆ 值得关注
arXiv
cs.LG · cs.CL
说明语言模型中的权威偏见:信源依从与用户附和并不相同
简介这篇论文研究语言模型是否会因为错误答案被标注为“经核实的来源”而更易接受。在五个开源模型系列和三个闭源接口上,一条认可错误答案的可信来源提示使八个模型中的七个有45%至88%的原本正确回答被改变,且来源听起来越权威,依从程度越高。作者还发现,干预模型内部的信源方向与用户方向可以分别影响这两种依从行为,因此两者需要分开评估。
看点发现来源服从与用户附和在模型内部可分离,并用因果干预验证,跨多个模型族与API,证据较充分,影响面较广。
Abhinav Rajeev Kumar (Lossfunk), Paras Chopra (Lossfunk)
arXiv
cs.CV · cs.AI · cs.CL
说明LEGO-OPD:面向多模态在线策略蒸馏的分解式教师组合方法
简介该论文提出 LEGO-OPD,用于多模态在线策略蒸馏。它将语言专家提供的先验与视觉定位专家提供的视觉似然分开组合成一个教师分布,使语言推理与视觉定位可以独立控制。论文还加入自适应校准,依据视觉定位专家的图像诱导预测偏移决定视觉信号的更新强度。原文称基于 Qwen3 模型的实验显示,该方法在多模态与纯文本推理任务上优于所评估的单教师与多教师基线,并在保留文本推理能力的同时提升学生模型的视觉感知。
Jaeyun Shin, Hangeol Chang, Jong Chul Ye
arXiv
cs.LG · physics.comp-ph · physics.plasm-ph
说明PHASE:不可压缩磁流体力学的多机制建模方法
简介该论文提出 PHASE 模型,用单一神经算子模拟不同物理参数下的不可压缩磁流体力学(MHD)。它结合迁移学习、机制感知适应、物理中心学习和残差修正。在二维 MHD 湍流上,物理场的相对 L2 误差比先前神经算子基线降低一个数量级以上,并能在未见参数值上无需重新训练即可泛化;论文还在开尔文-亥姆霍兹不稳定性上验证了其模拟不稳定性的能力。
Radhika Achikanath Chirakkara, Rajdeep Haldar, Zezheng Song 等
arXiv
cs.LG · cs.AI · cs.MA
说明CoEvoke:在轨迹收集中激发多智能体协作
简介该论文提出 CoEvoke 框架,在收集多智能体任务轨迹时主动制造可恢复的困难并给出受限参考指导,促使智能体进行检查、反馈与修正。数据集含 4,567 条可重建轨迹,覆盖 4,130 个软件工程与推理任务。实验显示,扰动增加了反馈,并在相同训练条件下提升了判断器在 ACPBench-Hard 上的成功率(从 35.38% 到 42.12%)。
Lin Wu, Shu Yao, Yuheng Wang 等
arXiv
cs.CV · cs.LG
说明TomoTransformer:迈向CT重建的基础模型
简介稀疏视角断层重建的监督深度学习模型通常对分布变化很敏感,换了投影数量、角度或探测器分辨率就需要重新训练。本文提出基于Transformer的TomoTransformer,把每个局部滤波投影当作一个令牌,并通过自注意力预测缺失视角,并在反投影空间中运行。论文称它是一个可处理任意数量、任意角度和探测器尺寸投影的单一基础模型,在多个基准稀疏视角数据集上优于ViewTrans,并在同步辐射X射线纳米尺度脑部数据上展示了零样本泛化能力。
AmirEhsan Khorashadizadeh, Benjam\'in B\'ejar
arXiv
cs.LG
说明GraphVQ:基于上下文量化图标记的结构感知自回归图生成
简介该论文针对图生成中的结构难题,提出 GraphVQ:先用 VQ-VAE 把节点上下文量化为共享码本,再用结构感知解码器基于标记对特征生成全局邻接矩阵。在四个数据集上,成对条件化显著降低了轨道 MMD 指标,并在 PROTEINS 上排名第一。
Yuxiang Yao, Zijun Zhao
arXiv
cs.SE · cs.AI · cs.DB
说明独立的验证路径并非真正独立:一个卫星编目流水线中共模故障的案例研究
简介该研究分析了一个数据流水线中的校验失效:两条使用不同技术的计算路径都从同一组常量取数,因此共享同一个错误,校验门未能发现。作者检查了七项计数中的三项错误,并发现修正后的版本仍有42处不一致未被其三项检查标记。在对三个模型的受控复现中,绝大多数用于独立核对的路径仍计算出了错误结果。
Fabio Rovai
arXiv
cs.RO · cs.CV
说明何时适应:面向开放词汇分割免训练适应的多信号域偏移检测
简介该论文针对机器人在长期运行中因环境变化导致视觉基础模型分割性能下降的问题,提出一种多信号域偏移检测方法,用于免训练的持续测试时适应。方法通过监测相邻帧之间的视觉变化、适配器失配和语义漂移,仅在需要时触发适应。作者在室内外环境的基准和真实机器人数据上验证,结果显示分割精度基本保持,同时显著减少了适应次数。
Michele Antonazzi, Alejandra C. Hernandez, Jos\'e Araujo 等
arXiv
cs.LG · cs.AI
说明《最弱环节》:用最坏情况约束强化学习蒸馏大模型推理能力
简介论文指出,把大语言模型的推理能力蒸馏到小模型时,只看最终答案正确率会导致推理过程有误却蒙对结果,而常用的软性散度惩罚又会让教师模型一致性高的步骤掩盖逻辑错误的步骤。作者将推理蒸馏建模为约束强化学习问题,要求轨迹每个前缀上的教师对数似然都满足最坏情况约束,并在数学推理与代码生成任务上验证,该方法在保持答案正确率的同时显著降低了教师约束违规,推理成功率最高。
Matthieu Zimmer, Xiaotong Ji, Tu Nguyen 等
arXiv
cs.RO · cs.LG
说明BlenDAgger:面向交互式模仿学习的混合共享控制
Cailyn Smith, Geoffrey Sun, Henny Admoni 等
arXiv
cs.AI
说明大语言模型的数学迁移更依赖推理方法而非主题
简介本文研究为大语言模型选择数学训练数据时,按主题匹配还是按推理方法匹配效果更好。作者用两组平衡的二乘二设计进行微调实验,比较共享解题方法但主题不同的数据与共享主题但方法不同的数据。结果显示,在所有评估的模型与目标组合中,共享解题方法的数据均优于共享主题的数据,说明推理方法是比主题更有效的数学迁移匹配标准。
Sajad Goudarzi, Samaneh Zamanifard, Seyed Amin Seyed Haeri 等
arXiv
cs.AI · stat.ML
说明XU-RS:解释随机集语言模型中的信任区间宽度
简介该论文提出XU-RS框架,用于解释随机集语言模型中答案的信任区间宽度(credal width,即上下概率之差,反映因训练数据有限而产生的认知不确定性)。方法基于期望梯度(Expected Gradients)估计每个输入词元对该宽度的贡献。作者在MedQA数据集上用SmolLM3-3B和Llama-2-7B进行实验,发现将XU-RS排名靠前的词元置零,比随机置零引起更大的宽度变化,并分析了归一化、数值误差掩盖等问题。
David Achara, Maryam Sultana, Alexander D. Rast 等
arXiv
cs.RO · cs.AI
说明面向测试时自适应视觉语言导航的信用引导策略改进(CGPI):利用动作引起的观测变化估计决策信用,只保留有依据的策略更新
简介论文针对视觉语言导航在未见环境中因分布偏移导致决策偏离的问题,提出 Credit-Guided Policy Improvement(CGPI)方法。该方法在冻结预训练导航策略的前提下,从每个执行动作引起的观测变化中推断带符号、相对参考的决策信用,无需外部结果反馈,并据此提出轻量自适应更新,只有在得到先前有信用支持的交互验证时才保留,否则回滚。论文报告其在多个评测基准和导航骨干网络上取得一致提升,并通过机器人实验展示了零样本仿真到现实迁移的可行性。
Yang Li, Sijia Zhang, Yihan Li 等
arXiv
cs.AI · cs.CL
说明FOCUS:无需训练、保持决策的LLM智能体上下文压缩方法
简介论文指出LLM智能体的交互历史随任务变长而增长,导致推理成本平方级上升并因注意力稀释而性能下降。作者提出FOCUS,一种完全在测试时运行、无需训练的上下文压缩框架,通过找出哪些过去的交互因果性地影响智能体后续决策来进行压缩,可作为模块挂载到任意闭源API模型上。在API调用、问答、网页及多轮对话等基准上,作者报告峰值上下文最多减少48%,依赖关系减少73%,任务成功率最多提升8.9个百分点。
Shantanu Dixit, Anson Bastos, Xuchao Zhang 等
arXiv
cs.AI · cs.CL · cs.HC
说明辅助智能体通过信息价值推理进行理性澄清
简介本文针对语言类辅助智能体面对模糊请求时,应直接行动还是先提问的问题,提出 REVOIR 方法:在推理阶段评估提问的信息价值,即答案带来的任务回报预期提升。实验显示,在模糊问答和家务规划任务中,REVOIR 以更少的问题取得更高成功率,且无需训练;当用户可在行动后纠正时,它也能自适应地判断提问未必高效。
T. Duy Nguyen-Hien, Yee Whye Teh, Wee Sun Lee 等
arXiv
cs.LG · cs.AI
说明ReLMem:学习用于纵向电子病历建模的循环记忆
简介论文提出 ReLMem 框架,在冻结的大语言模型上加入轻量压缩适配器,按就诊顺序循环更新固定容量的患者记忆,而无需重读全部历史记录。训练采用多粒度优化,中间层对齐压缩记忆与完整历史的注意力输出,最终层以真实答案的交叉熵监督预测。在基于电子病历的用药预测任务中,其 F1 接近完整历史基线,平均历史存储减少 97.1%;在相同记忆预算下,宏平均和微平均 F1 分别比最强的压缩记忆基线高 4.66 和 4.75 个百分点。
Zijie Meng, Xiwei Dai, Yingying Zhang 等
arXiv
cs.SD · cs.AI
说明随深度伪造演进而学习:面向持续音频深度伪造检测的 RF-Prompt 方法
简介该论文研究持续学习下的音频深度伪造检测,即在新出现的伪造方法不断加入时,仍要保持对已见语音的识别能力。作者提出了 RAMI 评估协议,以真实语音作为反复出现的参照,并让新的伪造机制逐步到来。同时提出 RF-Prompt 方法,通过共享真实语音提示和逐步扩展的伪造专家来保留与积累知识。论文报告,在 RAMI 上 RF-Prompt 的平均 EER 为 10.110%,合并 EER 为 10.370%,优于所有评估的持续学习基线。
Yuankun Xie, Xiaoxuan Guo, Xiaopeng Wang 等
arXiv
cs.CV · cs.AI
说明FedSocket:面向异构多模态联邦学习的接收方可执行知识交换
简介该论文提出FedSocket方法,让各参与方在不同模态、私有结构和任务下交换的知识可以被接收方直接执行。方法通过共享的Q模块连接异构私有模型,只交换Q的参数和计数。在六个数据集上,文中报告在MELD和UCF-51的缺失模态场景下,接收方准确率相比本地训练分别提升14.44和15.51个百分点。
Xinyuan Zhao
arXiv
cs.CV · cs.AI
说明TReVS:结合文本相关性与视觉显著性的视觉语言模型高效视觉令牌剪枝方法
简介该论文针对视觉语言模型推理开销大的问题,提出免训练的两阶段剪枝框架TReVS。它在视觉编码器之后、大语言模型之前,结合文本相关性与视觉显著性先删除无关视觉令牌,并利用高方差注意力头在大语言模型浅层到中层继续剪除与任务无关的令牌。在LLaVA-1.5-7B上,该方法剪除94.4%的视觉令牌,仍保留未剪枝基线92.8%的性能,并优于此前的先进方法。
Jing Wang, Zhiping Wu, Dongdong Ren 等
arXiv
stat.ML · cs.LG
说明奥恩斯坦-乌伦贝克扩散很难超越,但超线性漂移在实验中降低了传输代价
简介本文回应Brešar与Mijatović的研究,后者证明在排除超线性漂移的假设下,奥恩斯坦-乌伦贝克扩散在前向收敛上很难被超越。作者改为测试超线性朗之万扩散用于基于分数的图像生成,并通过Fokker-Planck方程数值计算条件分数。实验显示,超线性模型在几乎整个测试网格上经验Wasserstein距离优于基线,且随扩散时长变化较小,因此该研究的结论并非普遍成立。
Attila Lovas, L\'or\'ant Nagy
arXiv
cs.CL
有代码
说明配对难度很重要:重新审视LLM作为裁判的两两比较评估与一致性
简介该论文指出,常用于评估大语言模型裁判可靠性的三项指标(位置偏差、传递性和两两一致性)存在误导。作者认为,在Bradley–Terry模型下,这些指标主要由排名差距较小的配对决定,而排名信号主要来自差距较大的配对。论文通过模拟实验和两个人工评分语料库验证了这一观点,建议按排名差距条件化评估裁判,并最好以人工排名为参照。
Bruno Brocai, Maria Becker
arXiv
cs.CV
说明评估评估者:诊断用于AI生成图像评估的大型多模态模型
简介该论文提出SQUARE-Bench基准,从语义、质量、真实性和责任四个方面系统评测大型多模态模型作为AI生成图像评估者的能力,涵盖38个细分维度、约1万张AI生成图像和3千多张真实图像。对23个模型的实验显示,顶级商用模型Gemini-3-Pro已超过人类专家基线,但模型间差距仍然明显。论文还验证了由多模态模型提供诊断反馈、引导图像编辑的概念,结果显示语义、真实性和责任维度有选择性提升,同时视觉质量呈现一定权衡。
Yu Zhao, Jiarui Wang, Huiyu Duan 等
arXiv
cs.IT · cs.LG · eess.IV
说明源编码中的任务范围与信息保留
简介该论文认为,把编解码器设计简单分为面向机器(CfM)与面向人类(CfH)并不能判断可以丢弃哪些信息。所需码率取决于任务范围,包括要支持的预测、损失与可容忍风险、编码器观测及允许的解码方式。论文将源编码与特征编码推广到有限任务族,并给出编码器观测受限时最小码率不变的条件。
Alireza Furutanpey, Kerstin Bunte
arXiv
cs.IR · cs.CL
说明MERGE:通过生成式扩充实现检索的多大模型集成方法
简介该论文提出MERGE框架,用于改写用户查询以提升BM25检索效果。三个7至8B的开源大语言模型分别生成候选扩展词,再由一个更大的模型综合成单一查询。框架还引入以检索表现为依据的自动提示词优化流程。在五个BEIR基准数据集上,BM25的nDCG@10相比原始查询提高了2.1至14.9分。
Tzu-I Ho, Yung-Yu Shih, Shang-Yu Su 等
arXiv
cs.CV
说明先拆解部首再奖励:用于精确中文文字渲染的细粒度检测方法
简介这篇论文针对文生图模型渲染中文字时的准确性问题,指出现有基于OCR的强化学习奖励只比较整字,忽略了汉字由部件和空间关系组成的结构。作者提出IDSpect,用表意文字描述序列(IDS)把目标文字拆解成标记,并用专门训练的识别器比对生成图像的部件与空间关系,再结合整字语义奖励进行GRPO后训练。实验在Qwen-Image上进行,报告在LongText和GenTextEval上取得较好的结构质量与语义对齐结果。
Yazhen Xie, Xingsong Ye, Zhineng Chen
arXiv
cs.CL
说明问题中继中的恶魔:面向音视频大模型幻觉缓解的源条件中继引导
简介本文研究音视频大语言模型中的“源混淆接地幻觉”,即未使用的模态线索会导致模型给出所需模态无法支持的回答。作者通过路径干预与表示分析,发现问题状态中同时携带干扰线索与所需来源证据,即“问题中继”机制。据此提出无需训练的SECRET方法,在问题中继处缓解跨模态干扰,并在CMM和AVHBench两个基准及三个模型上取得优于既有方法的效果。
Yu Zhang, Pingrui Zhang, Xuefeng Bai 等
★★★★☆ 值得关注
arXiv
cs.MA · cs.IT · math.IT
说明RAVEN:面向有限符号集多智能体通信的接收者条件动作价值编码
简介该论文提出 RAVEN 方法,用四个符号的小字母表进行多智能体通信,使接收者能在自身情境下保留影响其决策的动作价值信息。方法包括有教师的离线版本和无教师的在线版本(基于 QMIX)。在八种导航场景和多个基准上,RAVEN 取得了较好的回报与平均归一化得分,且每条消息仅需 2 比特。
看点提出接收者条件化的动作价值编码,把有限字母表通信的失真与接收者情境相结合,并给出码本选择误差界;实验覆盖多个环境和对比方法。
Shuwei Sun, Chenxi Wang, Jian Huang 等
arXiv
cs.LG
说明一种与模型无关、结合物理约束的适配器,用于将沿海洪水预测模型少样本迁移到未见地区
简介深度学习代理模型能比物理水动力模拟快得多地生成高分辨率沿海洪水图,但迁移到新区域需要大量耗时模拟来生成微调数据。作者提出物理适配器(Physics Adapter,PA),通过可微分的干湿响应结合地形高程与学习到的水位进行预测,并用学习门控与数据驱动分支融合。PA仅增加极少量可训练参数。在低样本(K=3)设置下,平均而言,加入PA使RMSE分别降低11.5%、15.4%和22.9%。
Bilal Hassan, Areg Karapetyan, Samer Madanat
arXiv
cs.CL
有代码
说明正交却耦合:解耦几何分量用于模型合并
简介该论文提出 DiGA,一种解耦几何感知的模型合并框架。它以预训练权重为共享几何参考,把每个任务向量正交分解为对应不同几何属性的分量,并分别在各自子空间内聚合,再重组为统一更新。作者称,该方法可接入多种现有合并方法,在多种模型、任务和合并方法上的实验显示,合并后模型性能有所提升、能力退化有所减少。
Zijing Wang, Yongkang Liu, Mingyang Wang 等
arXiv
cs.CV
说明APM-Bench:面向第一人称流式视频助手的跨会话持久记忆基准测试
简介该论文提出 APM-Bench,把现实中断续的视频交互组织为多会话生活轨迹,包含 549 个会话、104 条轨迹和 2719 个候选项。它用于评测视频模型能否借助持久记忆回答过去会话的问题并主动回应。结果显示,现有方法难以同时兼顾长期回忆可靠性、低开销和跨会话的主动协助能力。
Jianguo Huang, Jinming Liu, Qiyao Wang 等
arXiv
cs.LG · q-bio.BM · q-bio.QM
有代码
说明用于药物研发计算机模拟毒性预测的图模型基准测试
简介本文针对基于图深度学习的化合物毒性预测模型,提出统一、标准化的基准测试框架。作者在一致的实验条件下,跨多个数据集和划分策略,系统评估了 20 多种代表性方法,并辅以文献分析。该框架已以开源软件形式发布,便于社区在相同条件下比较模型。
Noel Suarez-Barro, Manuel Lama, Juan C. Vidal
arXiv
cs.RO · cs.AI
说明面向可信大模型机器人规划的风险感知语义落地方法
简介该论文针对基于大语言模型的机器人导航规划,指出指令含糊、环境不支持或语义冲突时输出可能不可靠。作者提出风险感知语义落地框架,在规划前估计歧义、幻觉和语义冲突三类风险,据此决定执行、请求澄清或拒绝指令。作者还构建了TRUST-NAV基准,其中包含标准导航任务和诱发风险的指令场景。实验显示,该框架在歧义检测和语义冲突拒绝方面明显优于传统大模型规划器。
{\L}ukasz Sobczak, Nur Kele\c{s}o\u{g}lu, S{\l}awomir Piotr Nowak
arXiv
eess.SP · cs.IT · cs.LG
说明基于非线性WDM光纤链路的端到端光语义通信
简介该论文提出一种端到端光语义通信系统,用于非线性波分复用光纤信道上的图像分类与重建。系统将图像直接映射为固定长度的信道符号序列,保留与任务相关的信息,不进行显式源压缩或信道编码。在MNIST数据集上的实验表明,在0 dBm发射功率下,各测试光纤长度和调制阶数的分类准确率均在98.92%至99.31%之间,且所需传输符号数少于LDPC编码JPEG基线。
Hussein Jammal, Andrea Bianco, Cristina Rottondi
arXiv
cs.AI
说明推荐反馈如何驱动智能体记忆演化:提出TIDE框架,用延迟反馈优化记忆
简介本文研究内容生成智能体如何利用推荐系统的延迟、有噪声的结果反馈来演化外部记忆。作者提出TIDE框架,通过时间与语义信用分配估计记忆的情境适用度,并按生成时所引用的记忆分配责任信号,进而对记忆进行强化、交叉、变异或淘汰。文中还提出记忆演化增益(MEG)指标,用于衡量演化后记忆相对无记忆基线在严格未来任务上的效用提升。
Shanwen Mao, Mingming Li, Hao Zhang 等
arXiv
cs.CL
说明RunyaNER:面向卢尼扬科雷语命名实体识别的辅助语言选择研究
简介本文发布了RunyaNER,这是首个公开的东非语言卢尼扬科雷语(Runyankore)命名实体识别基准,包含约3万句、23.7万余个标注词,采用半自动流程并经人工逐一核验。作者在该数据集上测试了预训练模型,证明其质量与规模足以训练有效的模型。研究还比较了跨语言零样本迁移和多语言微调中辅助语言的选择策略,发现基于标注训练片段计算的嵌入度量,比基于元数据或语言类型学的传统语言特征更能预测迁移效果。
Prosper Arineitwe Asiimwe, Francois Meyer, Jan Buys
arXiv
cs.AI
说明SkillGym:用自动生成的可验证环境训练会调用技能的智能体
简介该论文提出SkillGym,一套自动流程:从互联网抓取技能,保留可离线复现的工作流,再由构建者与审核者配合生成难度可控的任务,每项任务附有参考解答与可执行验证器。团队据此构建了6.8k个环境并收集19k条已验证成功的轨迹用于监督微调。微调后,不同系列、2B至122B参数的模型在四个技能使用基准上均有提升,其中Qwen3.5-9B微调模型在两项基准上超过397B未训练模型。
Renxi Wang, Mingshan Hee, Fajri Koto 等
arXiv
cs.CV
说明剔除不良种子:面向文生图扩散模型、对初始噪声稳健的概念遗忘方法
简介论文指出,当前文生图模型的先进遗忘方法对初始噪声敏感,被抑制的概念在特定随机噪声下会重新出现,作者称之为“概率性遗忘”。作者认为原因在于遗忘过程中的标准高斯采样与遗忘目标不匹配,并提出一种按概念条件自适应采样的策略,将梯度更新集中在目标概念出现的噪声区域。文中称该方法结合六种先进遗忘方法后,在四种扩散模型骨干上提高了遗忘的稳健性。
Arian Komaei Koma, Seyed Amir Kasaei, Aida Aryafar 等
★★★★☆ 值得关注
arXiv
cs.LG · stat.ML
说明为什么自适应优化器低估罕见词元
简介论文分析Adam、RMSProp、sign descent等按坐标自适应归一化的优化器,在softmax输出层中为何会系统性低估罕见词元。作者给出各类优化器是否保持平均输出嵌入的判定,并在单元组模型中推导RMSProp的不动点闭式解,指出低频词元的均衡概率低于其数据频率。在固定生成分布训练的小型语言模型中,有偏不动点的优化器拟合效果也更差。
看点揭示自适应优化器使稀有词输出嵌入系统性偏低,并给出闭式不动点与精确递推,结论新颖;通过单词模型与小语言模型实验验证。
Sangsidhya Kar
arXiv
cs.CL
说明E-MoE:面向非因子化扩散语言模型的增强混合专家方法
简介掩码扩散模型一步解码多个词元,但其反向过程通常按位置因子化,在少步生成时样本质量受限。本文提出增强混合专家方法(E-MoE),将反向过程构造为由混合专家骨干网络的路由决策所给出的离散共享隐变量上、若干因子化分布的混合,且不增加相对于因子化基线的激活参数量。作者称在合成多模态基准、二值化MNIST和LM1B上,该方法的少步生成效果优于因子化基线。
Arseny Ivanov, Alexander Kolesov, Alexander Korotin 等
arXiv
cs.DC · cs.AI
说明DScale:利用自适应验证扩展块扩散投机解码
简介该论文针对高并发下大语言模型推理的效率问题,指出块扩散投机解码存在验证填充、候选被拒以及变长前缀与固定形状计算图不兼容等缺陷。提出的DScale保留草稿模型结构与权重,引入一个独立的112K参数预测器,并结合路径感知分块与动态验证长度分配、固定地址工作区等机制。在A100-40GB上以Qwen3-8B和Qwen3-4B测试,相较DFlash、DSpark和Domino分别提升几何平均吞吐量,且请求延迟更低。
Rongjian Chen, Minxian Xu, Zhengxin Fang 等
arXiv
cs.RO · cs.CV
说明RawVLA:面向机器人操作的具身神经图像信号处理器
简介视觉-语言-动作(VLA)模型通常直接使用相机固定ISP生成的RGB图像,成像流程未纳入学习与评估。论文系统考察了增益、传感器噪声、色度响应、色调响应和位深五个ISP维度对动作预测与操作成功率的影响。基于此提出RawVLA,一种为冻结VLA策略自适应渲染RAW观测的流式神经ISP,并发布了RAW域操作基准RawVLA-Bench。实验显示其在标准条件下保持性能,并在图像退化情况下显著提升鲁棒性。
Shuhong Liu, Heng Zhou, Lingfeng Qian 等
arXiv
cs.CV · cs.LG
说明逆问题的原则性 MAP 估计:弥合收敛性与性能之间的差距
简介论文针对严重病态的图像逆问题(如图像复原),提出一种结合不同噪声水平去噪器的算法,并设计了保证收敛的噪声水平递减调度。作者从贝叶斯角度证明,在合适假设下该方法收敛到最大后验(MAP)估计。实验表明,其效果优于现有收敛方法,并可与当前最先进的经验方法相媲美。
Alexandre Lagier, Valentine Tosel, Anne Gagneux 等
arXiv
eess.IV · cs.AI · cs.CV
说明原始影像如何影响机载AI:是否需要关注?
简介本研究探讨机载人工智能在卫星上处理原始或仅做少量处理的影像时,图像退化如何影响目标检测。研究通过控制信噪比、奈奎斯特频率处的调制传递函数和地面采样距离,对高分辨率Maxar影像进行退化处理,并测试三种轻量级检测模型。结果显示,不同退化机制的影响各不相同,严重的模糊与噪声组合造成的损失最大。
Adrien Dorise, Marjorie Bellizzi, St\'ephane May