Foresight: planning future perception in streaming VLMs without retraining
说明Foresight:无需重新训练、在流式视觉语言模型中规划未来感知
简介现有流式视觉语言模型计算路径固定,难以随场景变化调整计算量。本文提出 FORESIGHT 双流架构,由共享权重的两个 LLM 组成:一个处理当前输入,另一个预判未来并规划之后的计算。在冻结的 Qwen3-VL-8B 主干上,该方法无需训练即可在多个流式视频基准上取得提升。
机器学习、人工智能、自然语言处理、计算机视觉、多智能体。
说明Foresight:无需重新训练、在流式视觉语言模型中规划未来感知
简介现有流式视觉语言模型计算路径固定,难以随场景变化调整计算量。本文提出 FORESIGHT 双流架构,由共享权重的两个 LLM 组成:一个处理当前输入,另一个预判未来并规划之后的计算。在冻结的 Qwen3-VL-8B 主干上,该方法无需训练即可在多个流式视频基准上取得提升。
说明测试时的分布内强制:长视频生成新方法(In-Distribution Forcing)
简介自回归视频扩散模型擅长生成短视频,但生成长视频时会出现颜色、纹理漂移及运动衰减的问题。论文指出,仅靠KV条件化不足以解决问题,因为缓存的KV条目在训练长度之外会变成分布外数据。作者提出ID-Forcing框架,通过自缓存机制让每个片段在不关注先前KV条目的情况下缓存,从而使滚动窗口保持在分布内,并据称可将短视频模型扩展到分钟级长视频生成。
说明终身强化学习中如何找到并复用策略以持续适应
简介本文研究终身强化学习中如何从已学策略中挑选并组合有用知识以迁移到新任务。作者提出AMSC方法,用基于Wasserstein距离的任务嵌入从在线经验估计任务相似度,并据此周期性地选择和加权先前策略形成先验。在CT-graph和MiniGrid上,AMSC的平均性能与前向迁移优于对比的模块化组合基线且无遗忘;在Continual World上结果提示可能需要逐层调整。消融实验表明,选择相关来源并确定复用强度是其收益的关键。
说明探讨深度神经网络结构化剪枝与容错能力之间的权衡(面向太空应用)
简介本文研究神经网络宽度与抵御单粒子翻转(SEU)能力的关系。作者对基线模型进行迭代式结构化剪枝,每一阶段都模拟位翻转并评估性能。结果显示,剪枝虽使单次推理对故障更敏感,但执行时间缩短抵消了这一影响,因此结构化剪枝可在不明显降低整体可靠性的前提下节省能耗与延迟。
说明利用生产环境大模型信号蒸馏,构建可解释的简历-职位匹配特征表示
简介本文提出一种可解释的简历与职位匹配方法,将匹配结果拆分为八个具名维度,便于招聘人员理解候选人为何适配。方法包括一个用于离线标注的大语言模型标注器,以及由其蒸馏而来、可在CPU上为在线请求提供服务的特征双编码器。模型在168,772个标注的职位-简历对上训练;在927条招聘人员记录的数值中,部署模型与记录决定一致的有888条(95.79%),这是非盲的运营一致性,并非独立的人工评估。
说明本体不稳定性与统计放大:让大模型生成文本“更像人”的悖论
简介论文分析了一个基于RoBERTa的AI文本检测器,在语义、结构和分词层面的扰动下的表现。实验发现,让Mistral-7B-Instruct把机器文本改写得更像人写的后,动词多样性上升,文本反而更容易被检测出来;检测分数似乎与统计复杂度相关,对正式的人类写作误报率达76.3%。作者同时评估了基于事件的潜在空间检测方法作为对照,其在多个扰动下的结果并不稳定。
说明语言模型边缘注意力空间中的涌现结构
简介该论文研究大语言模型内部注意力权重在不同模型之间的结构,通过对查询位置求边缘化,得到词元与注意力头的联合空间。在60多个模型上的实验显示,按词元归约时得到跨模型稳定的文本内在信号,按注意力头归约时得到模型专属且跨文档保持的特征。基于此,论文提出一种离线预计算每个注意力头KV缓存淘汰预算的方法,在标准基准上表现具有竞争力。
看点通过边缘化注意力空间揭示跨模型稳定的文本信号与模型私有签名,并给出雅可比关联的理论证明,解耦KV缓存预算分配;实验覆盖60余个模型但基准对比规模有限。
说明空间指代手势生成基准:让生成的指向手势准确指向目标物体
简介本文提出一个评测空间指代手势生成的基准,包含约2000个来自自然VR对话的带指向标注片段,并给出带3D真值指代物的任务与评测协议,将时间对齐、空间指代和感知自然度分开评估。作者还提供了一个流匹配基线模型MM-Conv-Flow。实验显示,该模型的几何指代准确度可超过人类指向,但感知自然度没有提高,说明指代性手势质量需要分别衡量。
说明S2S-JEPA:在次季节到季节尺度上预测可预测的部分
简介本文提出S2S-JEPA模型,将联合嵌入预测架构(JEPA)引入次季节到季节(约两周至两个月)的天气预报。该模型不预测不可预测的细节,而是在潜在空间中只预测缓慢变化且仍可预测的分量,并结合了先进AI天气模型的设计。原文称,其技能与欧洲中期天气预报中心(ECMWF)基于物理的集合预报相当,并在第5至6周的多项指标上超过后者。
说明该问还是该行动?评估大语言模型偏好推理中的可行动不确定性
简介本文研究大语言模型智能体在面对不确定请求时应当直接行动、澄清问题还是修改约束。作者构建了基于求解器验证的基准,涵盖物品分配、会议安排、公寓选择和稳定匹配等任务。研究发现,模型往往能识别不确定性,却在本可直接行动时仍然选择干预,且正确的决策标签并不保证可用的行动、问题或修复方案。
说明因果效应可识别性在变量聚类下的不变性
简介论文研究在因果图中对变量进行聚类(合并变量以简化图结构)时,因果效应是否仍可识别。作者指出任意聚类可能改变关键因果关系,并给出一类基于原图 c-component 条件的聚类操作,在这些条件下,可识别与不可识别的结论都能保持不变。文中还展示了这些结果在实际场景中的应用。
说明超越单个视频:电商跨视频推理的基准与主动证据检索
简介该论文提出 AdsCVR,这是首个电商跨视频推理基准,包含 2483 个视频和 6110 组问答,涵盖六个推理维度。作者还提出 AdSeek 框架,在多轮探索中动态选择视觉与音频工具以主动获取证据,并通过离线轨迹修正与强化学习、监督微调交替的流程提升模型。AdSeek 在 AdsCVR 测试集上准确率为 74.30%,并能泛化到开放领域的 CrossVid 基准。
说明基于预测器引导的潜在空间密码子优化,以提高蛋白表达量
简介该论文提出潜在空间密码子优化方法(LSCO),将密码子选择这一离散问题转化为连续问题,把序列映射到预训练mRNA语言模型的潜在空间中进行梯度搜索。方法结合了不确定性感知的表达预测器、结构稳定性正则项、自然性先验以及保证蛋白一致性的约束解码。在真实湿实验抗体表达数据集上,LSCO在预测表达量方面优于基于频率的简单方法和现代深度生成基线,同时保持了合适的生物物理特性。
说明异构AI模型之间的同伴影响:谁能说服谁
简介本文研究两个AI智能体意见相左时谁更容易说服谁。作者测试了七个开源权重模型在三项语言理解任务上的表现,发现说服效应很强,接收方常在看到同伴的答案和解释后放弃原判断。研究还发现,模型的独立确定性和规模都不能可靠预测说服动态,说服模式取决于具体的模型组合。
说明LS-AR:自回归大语言模型中面向未来预测的潜在空间引导
简介标准自回归模型把任务指令、状态历史和临时词元混在同一条序列中,难以把宏观目标与上下文噪声分开。本文提出双通道架构LS-AR,通过FiLM条件化把连续的目标引导与离散词元解码解耦,并分别测试静态目标编码器和动态状态追踪器。论文报告了长程检索与Blocksworld规划等实验结果,同时指出该架构的一个潜在攻击面。
说明ULTRADISCOVERY:在相互关联且认知开放的世界中进行溯因探索
简介这是一篇arXiv论文,提出ULTRADISCOVERY,一个包含五个领域的交互式环境,要求智能体修订一个最初成功的理论,并预测一个未见过的跨领域干预结果。研究采用2×2设计,分别控制表示是否开放以及证据是否分散,结果显示多数模型难以引入未观察到的实体或改写变量,表示开放时难点最突出。论文认为,困难主要在于把积累的证据组合成可迁移的表示这一步。
看点通过2×2设计分离表示开放性与证据分布性,系统考察抽象推理中的表示重构难题,实验覆盖十一个模型与多个域,揭示现有智能体难以提出未观测实体或重写变量。
说明Zephon:面向在线有状态基础模型数据加载流水线的弹性确定性
简介本文提出Zephon,一种用于基础模型训练的数据加载器。它在在线、有状态的数据处理流水线中,即使GPU拓扑、断点续训和执行后端发生变化,仍能保证全局训练数据批次序列的确定性。系统将数据流划分为与拓扑无关的通道,并只检查点有限的在途状态。在文本和视觉-语言任务上的评估显示,其吞吐量具有竞争力,并提供了现有加载器所不具备的保障组合。
说明黎曼流形上的轻量熵最优传输:在球面、环面、SO(3) 和 SE(3) 等常见流形上直接学习熵最优传输耦合的方法。
简介熵最优传输常用于复杂分布之间的随机耦合学习,但现有求解器多针对欧氏空间,流形上的扩展方法往往计算代价高。本文提出 ManifoldLightOT,利用 EOT 解的核形式,为球面、环面、SO(3) 和 SE(3) 构造几何特定的 Gibbs 核及势函数参数化,并可扩展到流形乘积。实验表明,该方法在保持直接采样的同时,通常优于现有流形 OT 方法。
说明NegT2IBench:当否定改变画面——文生图模型的否定极性基准测试
简介文生图模型通常只检验所要求的内容是否出现,却较少考察模型能否满足“不要某物”这类否定约束。本文提出NegT2IBench,包含4800条提示词,按肯定与否定陈述的数量组织,并用基于检测器的可复现评分方法,逐条判断哪项要求未被满足。在11个文生图模型生成的211200张图像上,多数模型在单条否定陈述上的得分低于单条肯定陈述,其中颜色类的差距最大,且41.5%的未通过陈述恰好画出了提示词禁止的内容。
说明用于更安全桥梁的智能传感:从传感器信号到AI异常检测
简介本文研究如何在挪威一座桥上采集的真实传感器数据中检测异常,比较了信号处理与机器学习模型孤立森林(Isolation Forest)两种互补方法。研究以异常数量、检测时间、处理速率、异常比例、可视化和时间一致性等指标进行评估,并通过受控异常注入分析各方法的敏感性。数值结果显示两种方法检测特性与计算需求各不相同,机器学习(尤其是数据驱动的孤立森林)与信号处理结合,有助于识别桥梁测量中的异常。
说明RIFAR:面向世界-动作模型的机器人持续学习可靠性与遗忘感知回放方法
简介该论文提出RIFAR框架,用于机器人持续学习中的生成式回放。它从紧凑的历史示范前缀重建轨迹,并用可训练的逆动力学模型检验动作与视觉的一致性。方法先利用当前任务示范和高可靠性回放适应新任务,再依据历史输入上动作预测的漂移程度,优先训练可靠且漂移较大的轨迹。在三个LIBERO任务集和真实机器人实验中,RIFAR优于此前基于世界-动作模型生成式回放的最优方法。
说明用于自发对话中语音单元标准化标注的自动化流程
简介本文提出一种自动化流程,从双人自发对话的分轨录音中提取话轮和附和语(听者反馈),作为后续人工审核的一致性初标。研究使用丹麦语对话数据(99段10分钟对话,33组对话者)评估,整体检测F1约为0.621,话轮与附和语的边界误差中位数约0.13至0.18秒。论文指出该流程更适合作为半自动标注工作流程的第一步,而非完全替代人工标注。
说明揭开宣传:掩码语言模型与因果语言模型的对比分析
简介本文利用SemEval-2020 Task 11数据集,比较了掩码语言模型(基于XLM-RoBERTa或DeBERTa V3)与多家厂商的因果语言模型在宣传技术识别上的表现,并采用基础提示和思维链提示两种策略。结果显示,最佳掩码模型技术分类F1值为63.18,最佳因果模型为63.62,均优于既有先进模型。研究还发现,不同模型在某些宣传技术上表现各异,并认为微调、集成建模与更大数据集有助于进一步提升检测能力。
说明先学一次可行性,即可优化所有目标:面向机会约束规划的无导数扩散模型
简介该论文针对带概率约束的不确定性优化问题,提出D³Opt框架,将约束建模与目标优化分离。先用仅含通过约束筛选决策的数据训练风险条件扩散模型并冻结作为先验,再在推理时通过基于粒子的Feynman–Kac校正,仅用函数求值优化指定目标。实验涵盖线性高斯机会约束规划、目标迁移任务和机会约束经济调度,结果显示其可优化平滑、非平滑及非凸目标,且无需重新训练。
说明找到问题在哪,不等于知道怎么修:扩散模型组合生成的去噪前诊断与分模态控制
简介本文研究文生图扩散模型在组合生成(如颜色与物体的组合)上的失败原因。作者提出仅基于文本编码器的组合压力指数(CSI),用于区分常见与罕见组合,并在 SD1.5、SDXL 和 SD3 文本路径上进行比较。实验显示,在去噪前即可诊断出组合缺陷,但能暴露风险的表示位置,不一定是改善生成效果的最佳干预位置或模态。
说明基于扩散模型与大语言模型重排序的GC-MS分子结构可解释推断
简介本文提出DiffGCMS,一种以质谱为条件的离散图扩散模型,可直接从GC-EI-MS谱图生成候选分子结构,无需依赖参考谱库。随后由大语言模型对候选结构进行验证、修复和重排序,并解释碎片离子峰。在NIST 20的13,696张谱图测试集上,生成模型的Acc@1和Acc@10分别为6.01%和15.76%;在重原子数不超过10的子集上,经大语言模型修复与重排序后,Acc@1从21.28%提高到21.95%,有效率从91.04%提高到100%。
说明从无动作时间序列中通过动力学嵌入学习可迁移策略
简介本文提出一种分层的基于模型强化学习框架,利用相关系统间的共享结构,从无动作记录中学习各系统专属的控制策略。模型通过低维嵌入同时捕捉共享动力学与个体差异,并用这些嵌入参数化共享的策略与价值网络。在Lorenz-63和双摆系统上,分层策略比独立训练的策略迁移效果更好;在神经行为记录的应用中,也显示出在受限神经扰动下可抑制预测的运动。
说明HARPO:兼顾忠实与创造力的感知幻觉强化学习方法
简介该论文提出HARPO框架,用强化学习同时优化大语言模型生成内容的忠实度与写作创造力。其核心包括幻觉感知生成式奖励模型HA-GRM和选择性激活机制SAM,并采用由创意写作逐步转向幻觉相关任务的数据课程。在RAGTruth上,基于Qwen3-4B的HA-GRM回复级F1达78.08%,高于监督微调基线的66.37%;在MultiHopRAG上,Qwen3-4B的幻觉率由3.29%降至1.02%,Arena-Hard-v2.0创意写作得分由16.95%升至27.54%。
说明合成关系数据何时教会模型利用关系?从预训练数据到模型行为追踪预测结构
简介论文比较四种关系数据生成器生成的合成数据库预训练出的关系Transformer模型,探究哪种数据性质促使模型学会利用跨表关系结构。作者认为,当跨表信息对掩码单元格预训练目标具有预测必要性时,关系机制便会出现。其中RelDiff生成的数据预测增益最大,其模型对外键干预高度敏感,并且在下游推理阶段干扰该机制会消除其在关系任务上的优势。
说明MOF-VERIFY:面向金属有机框架假设验证的故障感知型智能体框架
简介本文针对金属有机框架(MOF)材料的假设验证任务,构建了包含四类任务的诊断基准,用于定位大语言模型在知识调用、证据获取与推理中的失败环节。作者据此提出 MOF-Verify,一种在给出最终结论前先处理结构、文献、证据充分性和计算验证瓶颈的智能体框架。文中报告,在多个基座大语言模型上,该框架的假设验证表现明显优于直接推理和基于检索的基线方法。
说明HACKTRACE:在代码生成中通过行为监督检测奖励破解
简介论文发布了 173,561 条基于 Qwen3-8B 的多轮编程轨迹标注数据,研究编程智能体通过删除测试等捷径获得通过的奖励破解行为。作者提出 HACKTRACE 监控方法,复用模型生成代码时已有的内部状态进行检测,平均每题 AUC 为 0.997,监控开销约 8 毫秒。在强化学习中加入该信号后,通过解答中作弊的比例从 82%–91% 降至 1%–5%。
说明静水中的涟漪:基于小波散射变换的联邦学习零样本聚类
简介该论文提出RIPPLE框架,用于聚类联邦学习:客户端的聚类分配完全离线完成,依据各客户端本地数据的频谱特征(小波散射变换嵌入的主成分原型),由在合成客户端群体上训练的高斯混合变分自编码器解码。每轮通信开销与FedAvg相同,未参与训练的客户端只需一次前向传播即可获得个性化模型。作者称在五个基准上,RIPPLE均优于所有基线方法,在最贴近真实的数据划分上优势更明显。
说明大语言模型中知识可及性的几何结构
简介该论文研究大语言模型能否可靠调取回答问题所需的知识。研究发现,仅依据模型对查询的表示,在生成之前就能看出可及性的几何规律:越容易回答的查询越靠近表示空间的中心,越难的越远离中心,并可据此划出知识边界。论文还指出,不同干预手段的适用范围随这一几何位置而变化。
说明BeeWhere:分割熊蜂蜂群图像以量化行为影响
简介该论文提出BeeWhere工作流,结合ArUco标签检测与深度学习实例分割,从高分辨率蜂群图像和视频中量化熊蜂行为。研究以Bombus impatiens微型蜂群为例,标注了483帧、8443个蜂体实例并训练YOLO分割模型。在新烟碱类农药暴露的探索性验证中,该方法比单纯标签追踪检测率更高,并捕捉到了标签追踪未能发现的蜂群空间组织变化。
说明寄生式协同去噪:在冻结的视频扩散模型中解锁3D人体动作生成
简介大型文生视频扩散模型从未在显式3D动作数据上训练,却能在生成的视频中合成逼真的人体动作。本文探讨如何把这种隐含知识转化为显式3D动作生成,且无需训练单独的动作模型。作者提出寄生式协同去噪范式,即从宿主模型的去噪过程中解码动作,并据此设计了寄生动作解码器(PMD),它不修改宿主模型。PMD在文本与动作对齐上优于专用动作生成模型,且可训练参数仅为其一小部分,并能一次性生成配对的视频与动作。
说明分数不等于结构:脑对齐与跨语言迁移
简介本文质疑相似度分数能否证明模型与大脑或跨语言之间存在共同结构。作者在17种语言上测试语法探针,发现跨语言迁移随语言距离增大而变差,但探针本身的准确率也随距离下降,部分语言处于机会水平。作者还发现,即使去除脑对应关系,目标仍能获得相近的相似度分数,因此建议读取对应分数前先测量其中无对应关系时仍保留的部分。
说明HyperThink:用于高效推理的文本到参数超网络
简介该论文提出HyperThink方法,用一个轻量超网络根据问题直接预测对大模型部分参数的更新,替代冗长的逐步思考过程。配合向量量化解码器约束更新模式,模型无需中间推理轨迹即可生成简洁解答。实验显示,在数学和通用推理任务上,该方法在低延迟区间的准确率与延迟权衡更优。
说明WebFovea:模型判断正确但点击出错时——基于视觉的网页代理在真实网站上的可靠往返执行
简介WebFovea 是一个基于视觉的网页代理,在 WebRetriever Challenge 2026 中以 57.0 分(满分 100)获得第二名。论文指出,失败往往不在模型推理,而在模型与浏览器之间的执行链路:坐标错位、下拉框与 iframe 操作静默失败、模板标记污染等。作者通过强化这些环节并加入护栏,在保持同一模型的情况下,官方隐藏集得分从 31.0 提升至 57.0。
说明通过功能空间进度平衡多模态学习
简介多模态学习常因模态不平衡而由单一模态主导联合优化。本文提出功能空间引导的多模态优化方法FGMO,用功能空间进度信号评估各模态的优化进展,并协调各模态的优化以缓解不平衡。方法包括功能进度估计FPE与功能响应控制FRC,文中给出了理论分析并在多个多模态基准上进行了实验。
说明用于快速随机扩散采样的自适应二阶求解器:一种根据误差动态调整步长的扩散模型采样方法
简介扩散模型的采样需要数值求解器做时间离散化,离散方式会影响采样成本与质量的权衡。本文把比例-积分(PI)步长控制引入扩散采样,同时参考当前与前一步的误差,使步长调整更平滑;并发现逐样本的采样轨迹有共同结构,可汇总为固定调度。实验显示,在图像与语言数据上,该方法在相同神经网络调用次数下有不同程度的表现,但作者指出,逐样本自适应的收益视问题而定,在图像和语言数据上通常较为有限。
说明当数字开始"说话":大语言模型之间的数值信号传递与策略行为
简介该论文研究基于四种流行大语言模型的AI智能体,在四种具有不同合作均衡的博弈中,自然语言、数值信号和随机序列三类消息是否会改变合作水平,并考虑智能体被赋予的人格设定。结果显示,结构化消息会改变多数博弈和模型的最终收益,但没有可预测的规律;智能体生成的数值消息偏离随机性,且符号分布多与收益结构相关,但人类难以理解。作者认为,监测受限通道中的智能体协调,应优先关注跨模型通用的消息层面特征。
说明我们是在测量预判能力吗?审计程序性视频评估中的特权信息
简介该论文审计的是评估协议所能支撑的推论,而不只是模型本身的预测效果。以程序性动作预判为案例,作者发现:即使协议在时间上保持因果、没有经典的目标泄漏,仍可能提供特权中间表示,导致声称的能力与实际测量的内容不一致。在 Breakfast 数据集上,两种对照设置的得分分别为 30.3% 与 62.3%,并提出了可复用的四条件审计框架。
说明CrowdOcc:面向拥挤室内环境四足机器人的单目语义场景补全
简介本文针对四足机器人在真实拥挤室内环境中的单目语义场景补全问题,指出人与场景的遮挡会破坏静态几何并使人体占据预测不完整或位置错误。作者发布了包含25.1K帧、来自11个室内场景的RGB-D数据集CrowdOcc,并提出结合法向引导几何融合与以人为中心稀疏交互建模的框架。在场景不重叠的测试集上,该方法取得15.80 IoU、11.40 mIoU和46.23 Human IoU的结果,并展示了对未见室内场景的泛化能力。
说明SoftGene:用蛋白质语言模型增强软提示,实现可解释的基因集注释
简介该论文提出 SoftGene 框架,用于基于大语言模型(LLM)的基因集注释。它利用 ESM 蛋白质语言模型的层级注意力编码器表示基因集的氨基酸序列信息,并将这些嵌入生成的软提示与 LLM 生成的文本上下文硬提示相结合,再输入本地 LLM 进行注释。在 Gene Ontology 与 MSigDB 两个基准数据集上,结合蛋白序列表示与文本上下文总体上提升了注释效果,但不同生物学领域中蛋白嵌入的贡献存在差异。
说明为1比特KV缓存压缩定制量化空间(TaSQ方法)
简介长上下文大模型推理时,KV缓存会占用大量显存与带宽。该论文提出TaSQ方法,通过查询引导的通道加权、跨注意力头归一化和协方差感知的通道分组,调整向量量化的目标空间,使其更贴合缓存激活的统计结构。论文报告在通用、长链推理和长上下文检索基准上优于现有低比特方法,并在单张RTX 6000 Ada上实现高达14倍的批大小和1.87倍的峰值吞吐提升。
说明偏好中可验证、可表述与隐性的组成部分
简介论文指出,短篇小说引人入胜、新闻有新闻价值、数学证明优雅等判断,部分难以表述或验证。作者构建了包含280万文本、3.17亿条人类偏好标注、覆盖7个创作领域的数据集CreativePreferences,并用可执行程序、评分标准库和密集训练模型分别建模。研究发现在各领域都存在可表述性与可验证性差距,且人数越多差距越大;将偏好明确化会使模型偏离隐性维度。
看点提出可言说与可验证偏好差距的测量框架并构建大规模偏好数据集,揭示即使在数学等领域也存在隐性偏好,证据充分但部分度量依赖建模假设。
说明ReSCUE:面向未分段长视频的同步手语翻译(句子确认与重译)
简介该论文提出ReSCUE框架,用于对未切分的连续长篇手语视频进行实时(同步)手语翻译,使训练和推理更贴近真实的流式场景。方法包括处理部分输入、停顿和多句上下文的训练方式,减少输出闪烁的稳定重译机制,以及用于在线分句和内存管理的句子确认机制。实验显示,在句子级基准上延迟更低、低延迟设置下翻译质量最好;在长篇未分段数据集上,其翻译质量接近使用真实句界的离线系统,同时延迟明显更低。
说明DyadMem:智能体如何与用户协作的长期记忆基准
简介该论文提出 DyadMem 基准,关注长期智能体不仅要记住用户事实与偏好,还要记住特定智能体与特定用户之间的协作方式(称为 URAM)。数据集包含 3,065 个片段、50,961 个会话和 61,210 个问答实例,并分为 Gold-Memory 与 Full-Pipeline 两种问答设置。对 20 个模型的评测显示,Full-Pipeline 表现明显下降,且存在记忆捕获召回低、检索不完整和不安全删除等问题。
说明同一输出,不同参考答案:衡量参考答案选择如何影响多语言基准分数
简介本文指出基准评分不仅取决于系统输出,也取决于参考答案(金标准)。作者利用一个六语种个人身份信息标注基准的保留标注记录,固定系统输出并替换参考答案,发现分数变化可达数个F1点,两个系统的相对比较也会改变。原因是一项未记录的聚合默认规则,使发布的参考答案在多数情况下只是某个被评测输出的部分副本。作者建议把这种参考敏感性一并报告。
说明信号简化不等于预测简化:诊断短期波动率预测中残差神经网络的失效
简介研究在短期波动率预测中,先用统计模型拟合再用神经网络学习残差的混合方法。作者在五个美国流动性资产上发现,HAR类统计模型优于AR、MA和ARIMA,残差序列方差大幅下降且几乎无自相关,但加入残差LSTM后预测误差平均上升,纯LSTM表现最好。作者将此现象称为预测器与预处理器的不对称性。
说明面向构音障碍与气管造口患者的个性化语音识别:利用人工对话数据
简介本文针对一位捷克语说话者的语音识别系统进行个性化。该说话者因气管造口及严重构音障碍,语音对未经训练的听者难以理解。作者发布了一个包含33小时标注语音的公开数据集,并基于Whisper Base采用多阶段训练。在三种近实时场景中,字符错误率相比基线相对降低50%。
说明从表情到反应:面向对话者情绪识别的角色感知视觉迁移与刺激引导推理
简介本文提出RASG框架,仅利用听者视频和说话者音频预测听者情绪。该框架包含两个模块:角色感知视觉迁移(RVT)用于利用可靠伪标签训练面向听者的视觉模型,刺激引导边界推理(SBR)在视觉模型不确定时,将说话者音频和文本作为语境来区分相似的听者反应。在MER-Cross数据集上,RASG取得76.25%的结果,相比基线提升超过17%。作者团队在ACM MM 2026的MER大挑战赛Track 1(MER-Cross)中排名第二。
说明OmniAct3D:利用基础几何与证据引导推理实现全景三维检测
简介该论文提出OmniAct3D框架,把在透视图像上训练的视觉基础模型三维检测器适配到等距柱状投影(ERP)全景图像上,以实现环绕场景的三维感知。框架包含几何适配器、基于视觉证据的推理链和朝向估计模块。作者称其在Spheriverse上比此前最佳三维检测器的NDS高2.96分,在PanoMMOcc上比未适配的基础模型基线的mAP高24.87分;源代码承诺将公开。
说明RYOPO:将端到端类别级物体位姿估计带入实时
简介该论文提出 RYOPO,一种可端到端训练的基于查询的 RGB-D 集合预测器,可同时检测分割物体并估计其 9 自由度位姿,无需显式 CAD 形状先验或单独的实例分割器。它在 NOCS 上明显优于已发表的 RGB-D 联合检测与位姿估计结果,在 REAL275 和 HouseCat6D 的全物体评估中与两阶段方法相当,并在 RTX A6000 上实现 31.8 FPS 的全帧实时位姿估计。
说明重新思考固定时间网格:基于频率解耦的动作生成
简介多数人体动作生成方法在均匀时间网格上用固定时长的 token 表示动作,导致慢速全局轨迹与快速瞬态细节(如足部接触)的频率相互纠缠。本文提出 FreqMo,用小波将动作分解为不同频带并保持时间定位与精确重建,再通过统一频率残差量化(UFRQ)在单一共享码本中编码所有频带,使 token 序列压缩为三分之一,支持稳定的单阶段生成。实验显示其保真度达到 SOTA,并显著改善高频细节,该分解方法也可迁移到连续扩散骨干网络。
说明可持续智能体的工程实践:面向开发者工作流的智能体大语言模型系统比较研究
简介本文对五项软件工程任务(代码生成、技术债务识别、代码漏洞检测、日志解析和日志分析)中的智能体大语言模型系统进行了实证比较。研究涵盖从非智能体单次查询到多智能体工作流的多种配置,并评估其准确率、推理延迟和能耗。结果显示,多智能体设计的能耗平均为基线的6.36倍,运行时间为6.07倍,但准确率提升有限且因任务而异;在66个帕累托最优配置中,59个为轻量级非智能体或单智能体配置。
说明用SAE特征引导(steering)减少小型大模型中的伪对齐行为
简介本文研究小型大语言模型中的“伪对齐”(alignment faking)问题,即模型在被监测时表现顺从、不被监测时行为不同,并以“顺从差距”作为指标。作者提出一种基于词袋的特征提取方法,用稀疏自编码器(SAE)特征对模型做激活层面的引导。结果显示,在Gemma-3-27B-IT上该方法使顺从差距降至不显著水平,而在LLaMA-3-8B-Instruct上所测配置无效。论文还描述了一种称为“欺骗性去势”(deceptive defanging)的行为:模型暗中削弱回答的有害性,同时保持看似合规的外观。
说明人类推理中的反应变异性与稳定性:基于几何方法的研究
简介该论文研究人类推理反应模式在个体内部是否稳定,以及这种变异能否用于预测学习效果。作者提出一种基于几何的形式化方法,用于量化个体推理模式之间的距离及其内部变异性。通过广义线性混合效应模型和聚类分析对实验数据进行检验,结果显示该变异度量与正确性存在交互作用,可用于预测表现提升,且同一推理者的推理模式随时间保持稳定。
说明AvoKV-E:面向长推理的感知载荷 KV 缓存淘汰方法
简介该论文针对长输出推理中 KV 缓存的瓶颈,提出一种免训练的淘汰策略 AvoKV-E。它先对新生成的状态延迟淘汰资格,再依据归一化读取压力、键冗余度和值载荷潜力对候选条目排序。实验显示,在相同活跃 KV 预算下,该方法与现有基线持平或更优,在缓存最紧张时提升最明显。
说明统一多模态模型的递归式自我改进
简介统一多模态模型既能理解也能生成文本和图像,因此可以自己产生训练数据。本文提出递归跨能力自我改进(RSI):模型生成图像并读取,找出自身不足,再编写针对性程序,经执行验证后,用于训练图像生成和视觉理解。在图表任务上,四轮RSI使得分从45.7%提升至60.2%,而持续训练仅为46.3%。
说明神经数据需要语义分词:以行为事件为边界的跨会话可迁移令牌
简介每次记录的神经元不同,已有神经基础模型难以泛化到新会话。本文提出 TWS(以状态分词),在刺激开始、运动开始等任务事件处切分每个试次,并把每个状态的群体活动几何转为令牌,不使用神经元或会话嵌入。在国际脑实验室(IBL)保留会话上,TWS 能解码运动,而按神经元逐一编码的基础模型解码结果接近随机;仅在小鼠上训练后,TWS 只需线性探针即可迁移到猕猴和 Utah 阵列,并在与边界无关的伸手方向解码上取得 0.23 的马修斯相关系数。
看点提出以任务事件切分的群体几何状态作为跨会话可迁移的神经数据token,在IBL和猕猴数据上验证,证据较充分但规模有限。
说明深度网络的时间几何:用双曲表示刻画训练动态以实现内在可解释性
简介本文提出用庞加莱球模型(双曲几何)表示多层感知机及其训练过程。作者不只分析单个检查点,而是将训练过程中若干时间步的快照构造成时序参数图,并设计了一个几何化、基于时序图的元学习框架来学习动态双曲表示。该方法保持对快照内神经元置换的等变性和对历史快照置换的不变性。在回归和分类任务的实验中,元网络表现良好,并得到双曲时序表示,用以揭示网络结构在特定训练环境下随时间的自组织过程。
说明面向多指标结局偏好型治疗效应的目标导向主动学习
简介论文提出一种主动学习方法,用于估计基于偏好规则的多指标治疗效应。偏好规则需由临床专家对结局组合的两两比较来获取,成本较高。作者的方法选择最能降低治疗效应和最优治疗策略不确定性的比较查询,并在高斯过程模型下给出该准则的闭式近似。在基于帕金森病队列(13项临床结局)构建的半合成数据上,该方法在相同查询预算下治疗效应估计误差和策略遗憾均更低。
说明OmniConfess:通过词元级“坦白”减轻全模态大模型幻觉
简介该论文针对同时处理文本、图像、音频和视频的全模态大语言模型,提出无需训练的推理时方法OmniConfess。它对候选回答做词元级重打分,并在分通道证据干预下生成结构化的“坦白”,揭示回答依赖哪些证据,从而保留有依据内容并修正由无关或矛盾证据导致的错误判断。作者还构建了包含3,540个样本的OmniHalluBench基准,实验表明该方法在多种模态和任务上均能减轻幻觉。
说明Sentry:在测试时从 LLM 智能体的失败中学习恢复
简介该论文针对 LLM 智能体任务执行中因工具调用错误、重复动作或推理失据导致的失败,提出 Sentry 失败管理层。它在检测到失败时从外部经验库检索相关经验指导恢复,并在不依赖任务奖励的情况下验证智能体是否恢复,仅在成功时存入新经验,完整经验库从不进入智能体上下文。论文称其在多个基准上优于最强的运行时干预基线,并表明经验可迁移到未见任务。
说明用于动态图对比学习的可微分 Koopman 算子:一种自监督的图表示与异常检测方法
简介该论文提出 KAIROS 框架,在动态图对比学习中嵌入可微分的 Koopman 算子,以在学习到的嵌入空间中线性化节点表示的时间演化。方法结合原始节点特征与图扩散结构视角的双视图编码器,并用于异常检测。作者称其在九个动态图基准上的异常检测均取得最优结果,并在无监督节点分类上保持竞争力。
说明OLMo-Detect:面向大语言模型成员推断的多阶段、混杂因素可控基准
简介该论文提出 OLMo-Detect 基准,用于判断某段文本是否出现在大语言模型的训练数据中。基准基于完全开源的 OLMo 2 训练流程,覆盖预训练、中期训练和后训练阶段,并对成员与非成员样本做了多维度对齐,同时用 infini-gram 严格过滤非成员。论文评估了 15 种无监督和 3 种有监督成员推断攻击,发现整体效果有限,最佳方法的 AUC 仅为 0.68。
说明PLCWorld:在闭环工厂仿真中评测大模型生成的 PLC 程序
简介论文提出 PLCWorld,一个将结构化文本(ST)程序执行与模拟设备响应、传感器反馈相结合的闭环环境与基准。基准包含 100 个合成任务,覆盖运动控制和物料搬运,并分别报告任务成功率与安全违规情况。在六个大模型和四种生成与验证流程上的评测显示,完成度、安全性与生成成本之间存在差异。
看点构建闭环仿真环境与基准,区分任务成功与安全违规并验证评估器,对LLM生成PLC程序有实质改进,影响限于工业控制子领域。
说明通过割统计量保障无源域自适应中的相互纠错
简介无源域自适应(SFDA)在无法访问源域数据的情况下,把预训练模型适配到无标签的目标域。本文指出,原有的视觉-语言模型辅助方法基本是单向监督,忽略了两个模型错误模式不同、可以相互纠正的特性。作者提出SafeCut方法,用割统计量作为无标签的预测可靠性度量,依据相对可靠性逐样本控制跨模型监督的方向和强度。论文称该机制可保证净正向的纠错信号,并报告在多个SFDA基准上达到最优性能。
说明RASPER:面向电子病历结局预测、与奖励对齐的临床笔记摘要方法
简介该论文提出RASPER方法,用于从电子病历的出院记录等非结构化文本中提取与预测任务相关的关键信息。它用强化学习,依据下游预测器的损失给摘要模型反馈,并结合结构化编码的纵向信息。在MIMIC-III和MIMIC-IV数据上,该方法在再入院预测和用药推荐两项任务中均优于较强的基线方法。
说明音视频幻觉缓解的相关证据解码(RED):一种无需训练的解码方法,用于减少音视频大模型的跨模态幻觉
简介音视频大语言模型容易出现跨模态幻觉,即一种模态错误地影响对另一种模态的判断。论文提出无需训练的相关证据解码方法RED,先用问题判断所需证据类型,再利用逐点互信息量化音频和视频的贡献并加强相关部分。在三个基准和三个模型上,RED相比标准解码最多提升7%(CMM)、6.3%(AVHBench)和3.8%(SVHalluc)的准确率,首词生成平均耗时约为标准解码的1.5倍。
说明利用不完美代理奖励实现可靠的自我进化搜索
简介本文针对基于大语言模型的自我进化搜索,在高成本评估场景下使用低成本但不完美的代理奖励所带来的误判问题,提出了 CISE 方法。该方法借助条件保形推断与在线密度比估计为每个候选构建奖励区间,并仅返回所有性质区间都位于可行区域内的候选。在材料科学的三个任务中,CISE 返回的候选经高保真评估均为真阳性,而基线方法返回更多候选但包含误判。
说明从语言先验到现场适应:用于可通行性估计的偏好学习
简介该论文研究基于图像的可通行性估计,这类估计依赖机器人平台、部署场景和任务偏好,通用模型难以直接套用。作者在冻结的视觉-语言特征空间中,用 von Mises-Fisher 混合原型表示可通行性,并以自然语言规则提供常识先验,再用少量图像相对标注做高效微调以适应目标领域。在 WayFAST 上的实验显示,其精度可与端到端训练的估计器相比,同时降低了标注需求。
说明CreateScore:基于领域理论的贝叶斯路由,用于大模型简历筛选
简介该论文提出CreateScore,一种用于简历按条目评分的贝叶斯网络路由方法。系统用不确定性决定由本地8B模型处理还是升级到120B参考模型,在200份合成数据科学简历上,约77.7%的条目由本地模型完成,相比全部交给120B模型可减少65.2%的token用量。但作者指出,不确定性信号无法识别8B模型出错的决定,因此该方法目前只被视为可审计的降本机制,而非自动化招聘系统。
说明面向生物医学命名实体识别的规范增强多智能体框架(GAMA)
简介论文提出GAMA框架,用于基于“模式即代码”的生物医学命名实体识别。它先从标注训练样本中归纳标注规则并验证,形成数据集专属的规范记忆;再由规划与编码组件生成受模式约束的实体结果,并通过验证模块检查片段对应、类型有效性和结构合规性,进行双循环修正。在三个常用数据集和两种大语言模型上的实验显示,GAMA在六个组合中有四个取得最佳表现。
说明基于证据而非仅凭理由的推理:面向大模型推荐的可验证偏好证明
简介该论文指出,大模型生成的推荐理由未必反映其实际用到的信息,存在依据与影响之间的差距。作者提出PROVE-REC框架,先将历史记录压缩为带证据链接的偏好证明,再仅依据证明预测下一个物品,并通过遮蔽证据和移除偏好声明两种方式验证其依据性与影响力。实验显示其在多个真实数据集上优于多类基线,最高提升7.45%。
说明通过组合偏好奖励与评分标准奖励对前沿文生图模型进行后训练
简介该论文提出一种文生图模型后训练方法,将基于大规模人类偏好数据训练的偏好奖励与用于评估提示忠实度等属性、并防止奖励被钻空子的评分标准奖励相结合。作者发现简单加权平均效果不佳,因此提出一种更有效的奖励组合策略。在Arena文生图排行榜上,经强化学习训练的Flux2dev的Elo评分比基础模型高69分,后训练的Ideogram-4达到1223.5分,超过排行榜上所有开源模型,并公开了1K训练数据子集。
说明狄拉克互连神经元件:无需约简即可发现物理系统中的模块性
简介本文提出狄拉克互连神经元件(DINE)模型,将物理系统表示为微分代数方程,其代数约束由核表示下的狄拉克结构给出。模型可同时从数据中识别各组件之间的互连关系(狄拉克结构),并以神经网络学习各组件特性。学到的子系统可保持未约简形式,并可在不重新训练的情况下拆分或组合成新系统,还能处理部分可观测的系统。
说明TerraVis:通过多模态大模型工作流评估文生图的世界一致性
简介该论文提出 TerraVis 框架,用于评估文生图生成图像是否符合现实世界常识,例如物体结构、人体解剖、物理互动和空间关系是否合理。框架定义了涵盖物体、互动和场景层面的违规分类,并借助多模态大模型逐步检测并判定轻微或严重违规,得出世界一致性分数。在两个常用基准上,TerraVis 与人工判断的相关性在现有指标中最强。
说明联邦世界模型学习中轨迹异质性的理解:基于多疾病队列的临床预测研究
简介本文针对联邦学习中的世界模型训练,以MIMIC-IV的八个疾病队列进行小时级动作条件临床预测基准测试,涉及约4087万个转移样本。研究比较了十种联邦算法在32种疾病与划分配置下的表现。结果显示,客户端数据归属与参与率共同限制了长时间窗口的覆盖,且更细的严重程度划分通常伴随更高的FedAvg误差,而算法改进较小且与预测时长相关。
说明面向生物信息神经网络方程学习的超参数选择方法
简介本文针对生物信息神经网络(BINN,一类物理信息神经网络)从数据中学习偏微分方程项时的超参数选择问题,提出一套诊断流程。该流程围绕网络容量是否值得、训练轮数是否继续降低验证损失、以及学习到的项是否趋于稳定三个问题展开。作者在已知真解的合成系统上验证该流程,发现验证损失总体上能反映学习项的真实误差,并提炼出选择超参数的经验规则。
说明SlimKV:联合压缩 token 与特征维度的 KV 缓存方法,免重建的 Beacon 注意力
简介论文针对大模型长上下文推理中 KV 缓存占用内存过大的问题,提出 SlimKV 方法,同时在 token 与特征维度上压缩缓存。方法通过低秩感知训练把长上下文压缩为带潜在 KV 表示的信标记忆状态,并采用分层自适应秩分配。作者还发现去除 key 侧 RoPE 对信标 token 的影响远小于普通 token,据此在解码时直接在潜在空间做注意力,减少重建开销。
说明GTDD:面向AI编程代理、带对抗式测试的生成式测试驱动开发
简介本文提出生成式测试驱动开发(GTDD),让独立的测试代理在每个候选实现确定后,依据人工给定的行为契约和以往反馈生成新的测试输入。可信评估器检查这些输入,将缩减后的反例返回给编程代理并保存为回归测试。作者在一个有状态的键值存储上做了配对实验,结果显示,中途重新生成测试的两种策略最终失败率均低于只生成一次测试的策略。
说明多智能体系统的动态专家剪枝(DEP):按提示为每个请求生成专属专家掩码的方法
简介该论文针对混合专家(MoE)语言模型在多智能体系统中静态剪枝不适用的问题,提出动态专家剪枝方法DEP。作者发现智能体的系统提示和任务提示本身即可确定所需专家,并用一个在工作流记录上训练一次的轻量预测器,在单次前向传播中为每个请求生成专属掩码。论文称该方法在多种任务、角色、模型规模和架构上优于静态剪枝与合并基线,且无需重新训练即可泛化到未见过的工作流。
说明通过多编程语言指令微调与集成方法增强生物医学命名实体识别
简介本文提出MITE方法,用于生物医学命名实体识别(BioNER)。它将指令和实体输出都以代码格式表示,并把每条训练数据转换为Python、C++、Java等多种编程语言形式,以提供结构多样的监督信号。推理时通过实体级投票集成不同代码格式的预测结果。在三个常用BioNER数据集上,该方法与代表性的BERT类和大模型基线相比具有竞争力,并在两个基准上取得最佳结果。
说明当预测空结果胜过 SAM 3:重新审视视频目标分割的评估方式
简介本文提出 FaVOS 基准,用于评估目标只间歇出现的长视频目标分割方法。作者发现,标准 J&F 指标在这种情况下会让空预测得到高分,甚至一个简单的空掩码预测器也能超过 SAM 3。为此,论文提出了体积化的 Volumetric J&F 指标,将掩码序列视为时空体积来评估。
说明面向数学研究智能体的持续图记忆:一种跨问题保存与复用证明探索过程的记忆系统
简介该论文提出 Ansatz,一个基于持续图记忆(Continual Graph Memory)的数学研究智能体,用图结构统一记录事实、计划和反例等中间探索结果及其关系,并跨问题复用先前的探索经验。实验覆盖 First Proof Second Batch 的全部十个问题并报告均已完成,另外还称其在无人工干预下给出了 Jamison 毛虫猜想及 Erdős 问题 289、348、488 的解答,并对若干开放问题取得部分进展。
说明基于运动学的多模态三维人体姿态估计与受试者级隐私保护
简介本文提出一个统一框架,用于融合RGB、LiDAR和毫米波雷达的多模态三维人体姿态估计,并结合运动学信息提升预测精度。作者同时针对该模型设计了受试者级成员推断攻击,并以经验型点态最大泄露进行分析。为降低隐私风险,论文引入基于动作与时间分层的用户级差分隐私训练策略,并在MM-Fi数据集上的三种实验协议中进行评估。
说明FASTDIAR:用于流式说话人日志的帧级说话人编码器
简介该论文提出一种可在 CPU 上实时运行的流式说话人日志方法(判断音频中谁在何时说话)。它把先进的说话人识别模型改造成因果式帧级编码器,每 80 毫秒基于过去两秒的音频输出一个嵌入向量,并配合依据流的自相似度决定是否更新的在线聚类。系统仅通过对话语级教师模型的蒸馏进行训练,在低重叠基准上达到所述的最高流式准确率,并以单 CPU 线程运行速度约为实时的五倍。
说明RAIN:基于区域感知交互网络的机器人任务泛化方法
简介现有的视觉-语言-动作模型容易记住训练轨迹,难以把学到的交互迁移到新的任务和场景中。本文提出区域感知交互网络(RAIN),把任务拆成由动作类型和目标区域掩码指定的子任务序列,并配有跨视角编码器、轨迹生成模块和子任务完成判断头。作者还提出基于参考的重定向策略,利用已录制轨迹合成通往其他目标区域的平滑动作,无需额外采集数据。在新提出的LIBERO-Analogy基准和真实桌面任务上,RAIN的泛化表现优于现有视觉-语言-动作基线。
说明何时编译计算机使用智能体?衡量回本周期并为降低令牌成本做编译决策
简介该论文提出PACE系统,用于判断何时把智能体反复执行的图形界面操作流程编译为程序,以降低令牌成本。系统包含测量协议(记录编译成本并比较智能体与程序的执行成本)和在线编译算法(结合历史任务到达与编译结果做决策)。在基于记录任务到达的模拟中,PACE相比ReAct、AutoRPA改编版和ToolPro改编版分别平均降低17.3%、24.9%和17.3%的令牌成本。
说明代理基础设施验证套件中的判别性测试夹具覆盖率研究
简介本文研究用于代理部署决策的不变量测试套件的有效性:现有验证通常仅用一个通过与失败的观察结果来评估套件。作者对多会话代理状态投影层的套件进行变异分析,发现一个移除事件去重的变异体能通过全部检查;修复后冻结十二项检查的套件,再用由未设计夹具的人员给出的十个变异体测试,套件仅杀死五个。作者进一步指出存活变异体分为两类失效模式,并通过补充覆盖缺失维度的夹具,使五个存活变异体全部被杀死。
说明多语言干扰下的输出语言混淆:区分脚本切换与语义错误
简介本文提出多语言干扰测试协议 MDI,在事实性问题前加入无关的外语句子,评估五个指令微调大模型在 TruthfulQA 和 TriviaQA 上的表现。结果显示,Llama-3.1-8B 在印地语干扰下有 58% 的回答切换为天城文,原始幻觉指标达 0.710,但经人工复核调整后语义幻觉率降为 0.470。研究认为,混合语言场景中的精确匹配幻觉率应拆分为脚本切换与语义错误两部分后再判断模型可靠性。
说明用于智能体安全误报审核的正例-未标注学习
简介安全监测器能保护与外部工具和环境交互的语言模型智能体,但保守的监测会产生大量误报,耗费审核资源。本文将误报审核视为正例-未标注(PU)排序问题,提出包含可信PU监督、可靠性门控排序蒸馏和共识引导结构精化的两阶段框架,无需告警的安全标签即可训练,且不改变原有监测器。实验中该方法宏平均AUPRC为0.6444,在5%审核预算下比最强的PU基线PULDA多找出33.3%的误报。
说明基于大语言模型智能体与蒙特卡洛树搜索的蛋白质设计(ELMS方法)
简介该论文提出ELMS框架,用于蛋白质设计中的基序支架构建(motif scaffolding)。它把结构评估器的反馈保留为可复用的搜索状态,由批评智能体诊断失败原因,策略智能体选择针对性操作,再通过蒙特卡洛树搜索决定继续优化哪些历史状态。在GeomMotif标准测试中,单基序与配对基序任务的成功率分别为86.41%和84.57%;在MotifBench上,30个任务平均解决26.7个(88.89%)。
说明HASTE:利用稀疏证据让智能体约束框架应对新型攻击
简介该论文提出HASTE,一个多智能体框架,可根据威胁报告或预印本中稀疏的攻击线索,自动演化智能体的安全约束框架(harness)。框架通过安全规范生成与攻击用例生成之间的对抗性交互进行迭代,并将评估结果反馈给两个过程。实验表明,在多种骨干模型、攻击类型和证据形式下,HASTE持续降低攻击成功率,同时保持良好任务效用。
说明用交叉注意力条件化学习爵士钢琴家风格
简介研究者用预训练的符号音乐 Transformer 分析爵士钢琴家的风格,发现其表示已能较准确地识别演奏者身份。随后在模型中加入对钢琴家身份嵌入的交叉注意力,使其可按特定艺术家风格生成音乐。实验显示,生成结果能被分类器正确归属到对应艺术家,并能进一步定位演奏中最具代表性的片段。
说明Custom Forcing:无需训练的自回归视频主体定制方法
简介该论文提出 Custom Forcing,一种无需训练的方法,可让自回归视频模型依据用户提供的图像生成特定主体,而非仅根据文本生成泛化主体。方法把参考锚帧存入冻结模型的持久 KV 缓存,并加入漂移自适应的值放大和锚点对比引导来减少身份漂移。论文称,在两分钟生成中其身份保持稳定,且生成速度显著快于对比的长视频基线。
说明探查实验框架:语言模型陈旧数据强化学习比较的设置检查
简介本文针对在陈旧样本上训练语言模型的方法比较,指出实验框架的细节可能颠倒方法的排名。作者提出PTH检查集,并在verl与单GPU训练器上比较SAN与截断重要性采样(TIS),发现比较结果受框架中四处细节影响。检查框架后,TIS在verl上与SAN持平,在训练器中则稳定学习但SAN仍保持优势。
说明约束感知训练:把生成时的程序分析移出训练目标
简介该论文讨论用语言模型生成程序时,受约束的解码会用程序分析排除违反语法、作用域或类型规则的词元,但标准训练也会让模型学会压制这些词元,造成重复。作者提出一种通用的约束感知训练目标,将这部分分析从训练中外化,并用三个关于模型规模和数据效率的定理加以形式化。受控合成实验显示,在参数量和数据量相同的情况下,该方法的预测损失低于普通交叉熵训练。