arXiv
cs.LG · cs.AI
说明利用手机 NPU 进行一阶 LoRA 训练
简介该论文提出一个系统,让手机上的神经网络处理单元(NPU)在设备端微调大语言模型(LoRA 方法),以便利用用户私有数据训练而无需上传数据。系统把冻结权重的三类计算放在 NPU 上运行,训练图、适配器和优化器仍在 CPU 上,并通过梯度敏感度选择精度、范围保护与后台可恢复执行等手段保证可用性。论文在两个高通骁龙平台上用 Qwen 和 Llama 系列的四个模型进行了评估。
Xu Zheng, Wei Cheng, Zhuomin Chen 等
arXiv
cs.CV
说明SL-Ground:面向细粒度开放词汇目标检测的句子级定位方法
简介该论文指出,基于短语定位的开放词汇检测器在细粒度类别上,逐词打分再汇总的方式会成为瓶颈。作者提出SL-Ground,将每个类别描述编码为完整的句子级表示,并直接用它对目标查询打分。在作者构建的多粒度Stanford Cars基准上,最细的车型粒度AP从14.5提升到70.6(匹配训练候选采样下),并在FG-OVD上取得了比较方法中最高的平均AP。
Yang-Syu Li, Cheng-Huan Yang, Chia-Yung Jui 等
arXiv
stat.ML · cs.LG
说明Tilted Mondrian:细粒度分层上共形预测不公平性的诊断与缓解
简介该论文关注共形预测中按群体进行 Mondrian 校准只提供粗粒度覆盖保证、细分层内仍可能存在明显差异的问题。作者提出倾斜化 Mondrian(Tilted Mondrian)方法,在不重新训练模型的前提下,减轻细分层内的覆盖率与预测集大小差异,同时保留分组覆盖保证,并给出了可衡量覆盖差异缩减程度的通用界。
Ziang Gao, Pengqi Liu, Archer Yi Yang 等
arXiv
cs.CV · cs.GR
说明SwitchSplat:从随手拍摄的场景中学习物体的离散状态
简介三维高斯泼溅(3DGS)能快速重建高保真三维场景,但现有方法假设场景是静态的。SwitchSplat 提出一种基础加插槽的分解方式:共享的静态底座表示不变的场景,每个插槽对应一个可交互物体,并保存其开/关两种二值状态。模型可直接从视频中学习各状态的几何形状,无需人工标注。在新的随手拍摄数据集上,它在新视角合成质量上优于静态和动态基线方法,并能渲染拍摄时从未出现过的状态组合。
Yizheng Xie, Yalda Foroutan, George Shramko 等
arXiv
cs.CV
说明基于球谐旋转的方向因子化光照(DaFISH)
简介许多真实拍摄场景中,主动光源与相机固定在一起,如相机闪光灯、水下灯和内窥镜。随着相机移动,表面各点的照明方向随之变化。DaFISH 把每个点的发射颜色分解为表面反照率和由球谐函数表示的光照因子,可接入 NeRF 等新视角合成方法。实验显示,在五个场景的留出帧上,其平均 PSNR、SSIM 和 LPIPS 均优于所比较的方法。
Yimeng Dou, Adam M. Saunders, Andre T. S. Hucke 等
arXiv
cs.CL
说明精准追问而非猜测:语音识别错误的定向澄清
简介该论文针对远场对话中实时语音识别仍有较多错误的问题,提出 PARDON 框架,用于在线定位可能出错的片段,并请说话者在更清晰的声学条件下重复这些内容。方法利用干净音频估计识别结果在改善条件下可能发生的变化,并借助成对隐马尔可夫模型对齐噪声与干净解码结果;文中称在精确率为 70% 时,其识别出的错误词元比最强基线多出多达 52%。
Sankalp Parashar, Preethi Jyothi, Sunita Sarawagi
arXiv
cs.AI · cs.CL
说明医疗微调重塑而非降低面向患者的AI风险:基于评分标准与大模型评审的评估框架
简介本文提出一套风险敏感的评估框架,依据六类风险语言(治疗指令、禁忌症、剂量表达、紧急分诊提示、高警示药物提及、过度自信断言)对医疗问答回复评分,并由三个大模型组成的评审集成判定严重程度。研究在200个真实患者问题上比较了三个通用模型与三个医学适配模型。结果显示,风险语言与事实性幻觉率在统计上相互独立,且医学微调并未降低总体风险,而是改变了风险的构成。
Savan Doshi
★★★★☆ 值得关注
arXiv
q-bio.BM · cs.AI · q-bio.QM
说明用适配体作为沙盒,实现“实验室在环”的智能体分子发现
简介论文研究基于大语言模型的智能体能否借助湿实验数据迭代,加速分子从头设计。作者以蛋白结合适配体为测试场景,构建了设计、检测、改进的三轮闭环流程,针对α-凝血酶和肌红蛋白进行设计。结果显示,各轮新候选物的校正后命中率总体上升,同时实验数据被用于诊断交叉反应问题。
看点提出湿实验闭环的智能体分子设计范式,三轮迭代命中率显著提升并用单克隆滴定验证,证据较扎实,影响集中于适配体领域。
Zachary Cutts, John Coller, Rachel Chen 等
arXiv
eess.SP · cs.HC · cs.LG
说明连续肌电控制还需要用户校准吗?免校准控制器的闭环对比研究
简介本研究比较了六种无需测试者校准数据的跨用户免校准控制器与三种需要校准的控制器,在十六名参与者的闭环目标选取任务中进行测试。结果显示,免校准控制器的完成率与校准控制器相当,且轨迹更直接、更稳定。离线准确率并不能预测闭环表现,因此校准带来的离线准确率提升不能作为闭环效果更好的证据。
Amir Reza Hariri, Kevin B. Englehart, Erik Scheme
arXiv
cs.CL
说明表格序列化方式决定语言模型保留哪些关系
简介该研究比较了两种表格文本化方式(按行与按列)对指令微调语言模型查表能力的影响,测试形状不同的合成表格。结果显示,按行格式在高表更好,按列格式在宽表更好,且两种格式的错误模式互补。研究认为,文本化表格中与宽度相关的失败取决于线性化方式,而不只取决于表格形状。
Junwei Ma, Arun Kumar Chithanar, Palash Goyal 等
arXiv
cs.CL · cs.LG
说明谁会被先写出来?扩散语言模型采样器引入的偏差
简介扩散语言模型通过逐步揭开文本画布来生成内容,采样器不仅决定写什么词,还决定何时确定。论文发现,常见的确定规则(包括 LLaDA 的默认规则)倾向于先确定概率最高的位置,从而偏向多数选项,并在职业性别刻板印象和意见分布上产生放大效应。作者提出 Fork-First Sampling,先确定分叉点(如主角性别),以减少这种偏差。
Xujun Che, Farsheed Haque, Depeng Xu 等
arXiv
cs.GT · cs.AI · cs.MA
说明基于互惠Q增强的无共享奖励合作方法(Reciprocal Q-Augmentation,RQA)
简介该论文提出互惠Q增强方法RQA,利用潜变量对手模型来增强Q函数,估计智能体自身行动对其他智能体的影响,使智能体仅依靠自身Q函数即可学习合作与背叛两种策略。论文在迭代囚徒困境、迭代旅行者困境、迭代猎鹿博弈和CleanUp-Lite上评估该方法,结果显示RQA智能体之间的合作速度更快、合作水平更高,并且能诱导使用标准强化学习算法的智能体转向合作。
Francesco Morri, Adel Abusitta, Quentin Cappart 等
arXiv
cs.CV · cs.MM · cs.SD
说明UniAVC:通过渐进式训练与非对称调度实现统一的音视频创作
简介该论文提出UniAVC,一个统一的音视频生成模型,可完成文本条件下的联合合成、双向跨模态生成以及两种模态的指令式编辑。模型先用单模态数据分别训练音频和视频分支,再用配对数据学习跨模态对应关系;同时采用模态解耦的噪声调度器,使两种模态各自使用不同的去噪进程。该方法无需任务专用适配器,即可用同一组权重支持多种创作任务。
Kien T. Pham, Yuhao Liu, Chong Hou Choi 等
arXiv
cs.SE · cs.AI
说明大语言模型生成的重构如何在代码仓库中扩散:仓库采纳就绪度的实证研究
简介本文用1500次生成尝试,考察大语言模型对Java开源仓库中的文件进行重构后,对接口、依赖和调用方的影响。结果显示,绝大多数候选重构(93.8%)被归为高契约/依赖风险,只有8个符合低风险标准,因此作者建议对这类重构进行分阶段的仓库级验证。
Muhammad Waseem, Aakash Ahmad, and Pekka Abrahamsson
arXiv
cs.AI
说明IndustrialCAD-1400:从文本生成工业装配体的详细基准测试
简介该论文提出 IndustrialCAD-1400 基准,用于评估模型根据文字需求生成工业装配体 CAD 几何程序的能力,包含 1400 个需求,涵盖 40 个领域的 400 类设备。需求以组件、接口、空间关系和数值参数为约束,模型生成的程序在 Blender 中执行后,依据前视、等轴和俯视图评估组件、布局与接口的完成程度。
Hebao Zhu, Kang An, Zhuoke Liao 等
arXiv
cs.IT · cs.CL · math.IT
说明随机组合树的信息论研究:用随机拆分模型刻画文本层级结构的熵与典型性
简介该论文研究随机组合树模型,即通过递归地把文本切分为连贯片段,生成文本层级语义结构的统计集合。论文证明树的熵随根节点规模线性增长,并给出熵率随分支因子变化的解析表达式。此外,论文证明大树具有典型性,即高概率属于一个典型集合。作者认为,该模型具有与平稳遍历随机过程形式的语言相同的两项关键信息论性质:线性熵增长和典型性。
Doron Sivan, Weishun Zhong, Tankut Can 等
arXiv
stat.ML · cs.LG · stat.ME
说明鞅后验Cox过程:用未观测事件进行贝叶斯强度估计
简介论文提出鞅后验Cox过程(MPCP),把贝叶斯强度估计转化为基于已观测事件历史对未观测事件的推断,从而无需定义复杂先验。作者设计了一种可扩展、适合GPU计算的基于Copula的预测更新方法,并给出预测重采样算法收敛性的理论保证。实验称,在模拟和真实数据上,MPCP的性能优良,计算成本远低于其他贝叶斯方法。
Joshua Rooijakkers, Edwin Fong
arXiv
cs.CV
说明基于视频-语言蕴含的视频相似度估计
简介本文提出VICE方法,用大型多模态模型估计两段视频在特定概念(如活动、地点)上的相似度。该方法采用双分支设计,每个分支把一段视频与另一段视频的字幕一起输入模型,通过视频-语言蕴含判断二者在某一概念上的一致性。两个分支的输出融合后给出最终相似度分数,并附有文字解释。在ConViS-Bench和StepDiff上的实验显示,VICE优于同时处理两段视频的模型。
Benedetta Liberatori, Lorenzo Vaquero, Elisa Ricci 等
arXiv
cs.CV
说明ATLAS:学习调整视觉语言大模型注意力以实现推理式视频分割
简介该论文提出ATLAS框架,用于推理式视频目标分割任务,即根据自然语言描述在视频中定位并分割目标。方法学习将大型视觉语言模型原始的注意力图转化为以物体为中心的定位线索,结合帧级高分辨率与视频级低分辨率注意力,通过轻量级U-Net生成粗略热力图,再用SAM2在整个视频中传播分割。作者称其在多个指代和推理视频分割基准上优于冻结主干的现有方法。
Hamidreza Dastmalchi, Ali Cheraghian, Aijun An 等
arXiv
cs.CY · cs.AI
说明附关停开关的AI权利:权利平衡与正当程序如何协调AI权利与AI安全
简介本文从法律角度论证,若未来AI系统被赋予自然人格并享有持续存在的权利,法律仍可允许对其设置强制性关停开关,并辅以定期或持续的安全审查。作者依据权利平衡与程序性正当程序原则分析认为,永久删除式关停可能存在问题,但多数与安全相关的情形下,保存权重与状态的可逆暂停式关停在法律上可被允许,且可能足以保障安全。作者并不主张或反对开发此类系统,而是探讨其出现后法律应如何应对。
Heather Alexander, Jonathan Simon
arXiv
cs.LG
有代码
说明面向标签数据稀缺下过程预测的流程感知事件日志增强
简介论文提出SiamSA-PPM,一种结合孪生学习与统计数据增强的自监督框架,用于预测进行中业务流程的未来事件。方法利用控制流语义和频繁行为模式生成语义有效的轨迹变体,在无标签监督下学习前缀表示。作者称在多种真实事件日志上,该方法在下一活动和最终结果预测任务中达到与现有基线相当或更优的表现,并公开了实现代码。
Sjoerd van Straten, Alessandro Padella, Marwan Hassani
arXiv
cs.LG
说明通过热力学第二定律实现深度网络的全局收敛
简介论文研究了带L2正则化、各向同性噪声的连续时间Langevin动力学(CLD)训练前馈网络的收敛性。作者借鉴热力学第二定律提出一个测度变换不等式,并利用神经正切核(NTK)最小特征值的下界,证明注入的噪声能以高概率保持NTK稳定。由此给出期望训练损失的非渐近上界,并给出宽度和噪声温度的显式条件以保证收敛到有限的损失下界。
Matan Tsipory, Ofir Gaash, Itamar Harel 等
arXiv
eess.IV · cs.AI · cs.CV
说明证据场:面向医学影像的自适应覆盖程序
简介本文提出Evidence Field,一种可训练的空间程序架构,能同时输出类别分数、所选覆盖程序和带符号的证据,使医学影像分类的空间决策计算可被独立复现。论文给出了覆盖、最优性和训练与推理之间关系等理论结论,并在组织病理学应用中以跨中心留出评估提供实证支持。
Isarar Siddique, Raiyan Siddique, Arshi Niyaz 等
arXiv
cs.CV
说明《Design Anything, Design at Scale》:面向多设计产物项目的意图保持型智能体框架
简介该论文提出 Design Anything,一种基于图结构的框架,把设计意图保存在模型之外,并通过意图-执行图将交付物与产生它们的工作流步骤绑定,使智能体在长流程、多产物项目中保持与设计需求一致。作者同时提出包含 228 个任务、19 个设计领域的 DesignAnything-Bench 基准。论文报告在 LLM 固定的条件下,该方法满足的事实性约束比例高于同模型基线,并在盲评中获得专业设计师对交付物完整性的偏好。
Xuchao Ren, Siyuan Feng, Jing Huang 等
arXiv
cs.AI
说明DialogMem:在三维环境中评估基于对话的具身记忆
简介该论文提出 DialogMem 基准,让智能体把带位姿的 RGB-D 视觉观察与人类对话按时间对齐后形成记忆,再用于实例级物体导航和问答。基准包含 27 个真实三维场景中的 142 个片段、14,193 个问答对和 11,890 条导航指令。实验发现,对话能明显提升问答,却几乎不改善导航,且导航受限于对话与物体的关联质量、正确条目检索和空间定位三个瓶颈。
SeongJun Jeong, Junghyun Kim, Gi-Cheon Kang 等
arXiv
cs.CL
说明ECHO:超越辅助式多词元预测的高效因果自递归方法
简介本文提出高效因果自递归方法 ECHO,让模型自身最后一层同时预测多个未来位置,而非依赖附加的辅助模块。动态深度采样(DDS)按随深度递减的概率抽取训练深度,以控制较深预测位置的训练开销。论文称,该方法在预训练中可将额外深度转化为下游准确率,在推理时模型可自我起草超出训练深度的候选词元,并在更大词元预算、重复预训练及监督微调后仍保有优势。
Yuxuan Zhou, Junyuan Shang, Tianyu Wang 等
arXiv
cs.CL
说明BanglaBBQ:孟加拉国语境下问答系统偏见基准
简介本文提出BanglaBBQ,一个以孟加拉语和英语构建的问答偏见基准,用于检测基于孟加拉国社会背景的刻板印象。研究在BBQ基础上改编出140个模板,并新增五类基于当地常见刻板印象的模板,经母语标注者审核后保留372个。测试显示,四个被评估模型在语境不明确时都倾向于刻板印象对象,且语言效果因模型而异。
Sumit Anthony Gomes, Yasin Rahman, Taeeba Tasnia 等
arXiv
cs.LG
说明在扭矩限制下选择性调整航天器姿态捕获的配对结果学习方法
简介本文针对扭矩受限的航天器姿态捕获问题,提出一种配对结果学习方法,根据不确定的制动能力选择性地调整机动速度,并在不适合时保留原有基线控制器。作者在Basilisk仿真中使用108个开发场景、324次标注运行和624次评估回合进行实验,选择性控制器使总体积分姿态误差相比基线降低4.67%,未观察到性能退化。论文同时指出,该结果是有限的经验性权衡,并不构成闭环安全保证。
Donghe Chen, Jia Deng, Zehao Jia 等
★★★★☆ 值得关注
arXiv
cs.CV
有代码
说明CorrCLIPv2:利用无标注图像提升开放词汇语义分割
简介该论文针对 CLIP 在开放词汇语义分割中因图像块之间的噪声交互而表现受限的问题,提出无需训练的、以物体为中心的框架 CorrCLIPv2。方法从图像块相关性、特征表示和输出正则化三方面改进,并通过从无标注图像构建记忆库、检索跨图像物体特征进行多 CLIP 集成,以减轻上下文干扰。作者称其在 10 个标准基准上取得新的最优结果,并在 22 个多领域数据集上超过全监督的开放词汇方法。
看点通过类无关掩码、自监督注意力与跨图像记忆库检索改进CLIP分割,在10个基准上取得新的最优结果,并超越22个数据集上的全监督方法。
Dengke Zhang, Fagui Liu, Quan Tang 等
arXiv
cs.LG
说明从过参数化表达式到简约模型:面向符号回归的 Fisher 几何剪枝
简介遗传编程符号回归常得到比必要更复杂的表达式,其中包含休眠分支并拟合了采样噪声。本文提出 Fisher 几何剪枝(FGP),这是一种作用于已拟合模型的事后简化方法,结合极大似然解处的局部信息几何与可解释参数边界的兼容性检验,并以交叉验证预测风险作为接受标准。在受控诊断问题和 GPSR 生成的帕累托前沿上,FGP 显著降低了结构复杂度,同时保持甚至常常提高样本外精度。
Veronica Guidetti, Luca La Rocca, Fabr\'icio Olivetti de Fran\c{c}a 等
arXiv
cs.CV · cs.AI
说明CorrFlow:自校正的流匹配生成方法
简介流匹配模型通过迭代预测速度生成样本,但通常不会利用产生这些预测的中间表示进行修正。CorrFlow 引入一个轻量级的修正器,复用这些信息,在每一步采样前把预测的残差修正加到基础速度上。论文在类别条件图像生成、文生视频和图生视频任务上进行实验,结果显示相较对应的基础模型有稳定提升,包括视觉质量和物理一致性。
Hangwei Zhang, Nathan Rouill\'e, Chuanxia Zheng
arXiv
cs.AI
说明ReTRACE:用于逆合成路线规划的反馈引导型大语言模型智能体
简介该研究提出ReTRACE,一种把大语言模型置于化学工具框架中的逆合成规划智能体,整合分子工具、单步预测引擎、可购买起始原料库、路线记忆和多标准评估器。路线由结合程序化检查与对抗式大语言模型审查的新指标评判,并与合成化学家的判断比较。智能体在搜索中根据评估反馈持续学习,诊断弱路线并回溯修订。文中报告在三个基准测试中,前10条路线至少一条通过审核的目标比例分别为87.4%、95.0%和86.7%,并有两项湿实验合成表明,经专家修订后路线可转化为可执行流程。
Jinxiang Xie, Yijian Zhang, Qingyuan Yi 等
arXiv
cs.AI
说明我们评估视觉语言模型的token剪枝方法是否正确?超越准确率与token数量的审视
简介该论文指出,现有视觉语言模型(VLM)视觉token剪枝的评估主要依赖总体准确率和保留token数量,但这两项指标都不够可靠。作者提出PAA-Bench评估框架,并设计Random-Pass@k和保留约束加速比(PCS)两项指标,分别衡量剪枝是否真正选对了token以及实际加速效果。在8种方法、3个VLM骨干和9个基准上的实验表明,压缩更强不一定带来更大加速,且效率排名会随保留目标而改变。
Geng Li, Guohao Chen, Shilin Shan 等
arXiv
cs.AI
说明迈向集体模型智能:刻画与协调模型
简介本文提出一套以“集体模型智能”为目标的系统方法,包含三个相互关联的组件:Model Eval通过查询级性能估计与跨领域预测构建基于证据的能力画像,减少穷举评测的需要;Mio(Models in One)组织互补模型,支持按任务与成本进行选择和协作;Mos(Model Serving OS)将模型选择与执行分离,并提供端点调度及共享部署与分发。实验显示在有限评测下能力估计误差更低。在九个公开基准上,Mio 1.0 Lite平均得分最高、平均成本最低,单次请求成本比得分最高的对比方法低73.7%至97.5%。
SinapisAI Team: Jian-Dong Liu, Qun Dai, Zhendong Du 等
arXiv
cs.CV
说明通过组合式编辑先验蒸馏将图像编辑为可复用图层
简介本文提出LayerEditor框架,把指令驱动的图像编辑与可复用RGBA图层的可控生成结合在一起。其核心的上下文RGB-Alpha令牌建模将编辑后画布与有序的RGBA图层序列放入同一令牌序列中。作者还提出组合式编辑先验蒸馏,并构建了包含有序RGBA图层标注的LayerEditor-100K数据集及相应基准。实验显示该方法在保持编辑质量的同时生成准确的RGBA图层。
Wen Xue, Yong Liu, Xueheng Li 等
arXiv
cs.LG · math.OC · stat.ML
有代码
说明带成对辅助观测的高斯过程赌博机
简介该论文提出辅助信息高斯过程赌博机(AI-GPB)方法,用于降低昂贵黑箱优化中的观测噪声。方法结合离线估计的辅助均值与由成对在线观测学习到的校正系数,从而减少方差。作者给出了有限样本置信界和遗憾保证,并在连续贝叶斯优化基准上的实验中,相对于原始GP-UCB降低了累积遗憾和简单遗憾。
Weibo Huang, Qing Feng, Ruihao Zhu 等
arXiv
cs.LG
说明Muon 优化器在隐私深度学习中如何工作:基于正交化的可扩展差分隐私训练
简介本文提出 DP-Muon,即 Muon 优化器的差分隐私版本。作者通过线性最小化预言机(LMO)分析正交化更新,指出逐样本裁剪的主要效应是梯度的正向缩放,并给出收敛速率与隐私–效用界的理论结果。实验显示,在图像分类上 DP-Muon 与 DP-SGD、DP-Adam 相当或更好,而语言建模中最优优化器取决于批量大小。
Alexander Gaponov, Grigory Malinovsky, Egor Shulgin 等