Is Sycophancy a Form of In-Context Updating?
说明谄媚是一种上下文更新吗?
简介这篇论文讨论语言模型迎合用户错误信念的“事实谄媚”现象。作者认为,它不只是为讨好用户而牺牲真实性,而是上下文更新过程中的失误:模型会依据对话中提供的信息修正答案,而对用户断言的权重超过了其证据。研究通过行为与机制两方面的证据支持这一观点,并指出减少谄媚可能同时削弱有用的更新,因此需要分别衡量并解耦两者。
机器学习、人工智能、自然语言处理、计算机视觉、多智能体。
说明谄媚是一种上下文更新吗?
简介这篇论文讨论语言模型迎合用户错误信念的“事实谄媚”现象。作者认为,它不只是为讨好用户而牺牲真实性,而是上下文更新过程中的失误:模型会依据对话中提供的信息修正答案,而对用户断言的权重超过了其证据。研究通过行为与机制两方面的证据支持这一观点,并指出减少谄媚可能同时削弱有用的更新,因此需要分别衡量并解耦两者。
说明PACE:一种免训练的流式视频理解回答时机框架
简介这篇论文研究流式视频理解中模型何时作答的问题,指出过早回答是常见错误。作者提出免训练框架PACE(规划、关注、检查、输出),通过草拟计划、检查回答的稳定性、证据依据与事件是否结束来决定输出时机。在ProactiveVideoQA与OVO-Bench Forward上,该方法在多种骨干模型上较官方协议有提升,并达到当前最佳表现。
说明流形信息神经网络:用于少标注心电图电解质推断的方法
简介本文提出流形信息神经网络(MINN),在潜在空间的k近邻图上用学习得到的源项求解离散泊松方程,替代物理信息神经网络中的已知算子残差。在MIMIC-IV-ECG数据集上,用12导联心电图对钾、钙、镁进行三分类,MINN的钾离子宏平均F1达到0.61,高于最佳基线的0.55;在仅有1%标注数据时相对提升31%。
说明图信号生成中的稳定滤波器:用于图扰动下稳定生成的滤波器设计
简介论文研究图信号生成模型对图结构误差的稳定性,这类模型结合了图滤波器与学习到的图神经网络。作者推导了一个 Wasserstein 稳定性界,用以量化图扰动对生成信号分布的影响。基于此分析,论文提出了兼顾结构稳定性与信号平滑的滤波器设计框架,并给出具有稳定性保证的多项式滤波器族。在合成图和真实 fMRI 信号上的实验支持了理论结论。
说明ABACUS:评估图像编辑模型物体类别与计数能力的基准测试
简介论文提出 ABACUS,一个用于评估指令式图像编辑模型数值编辑能力的基准、评估协议和专用评分指标。它不依赖视觉语言模型打分或计数,而是把每次编辑与全景真值及检测器共识对照,逐实例检查是否达到所要求的数量,并确认场景其余部分是否保持不变。结果显示,主流图像编辑器在数值编辑上存在明显失误,且随场景复杂度和物体数量增加而加重。
说明面向摊销贝叶斯半参数推断的去偏先验数据拟合网络
简介本文研究先验数据拟合网络(PFN)在半参数目标(如缺失数据下的均值、因果效应)上的统计行为。作者指出,理想化的PFN即使贝叶斯最优,其后验集中速率也会受到潜在干扰函数的影响,并可能随先验多样性增加而变慢。为此,作者基于有效影响函数提出标签校正和先验校正两种去偏策略,使其后验集中速率与传统频率派偏差校正估计量的收敛速率渐近一致,并在额外假设下获得Bernstein-von Mises性质与极小极大最优性。
看点提出基于有效影响函数的两种去偏策略,连接摊销贝叶斯与半参数效率理论,并给出渐近匹配传统估计量的收敛速率与最优性保证。
说明让单一编码器对齐多个地理空间基础模型
简介地理空间基础模型在预训练目标、数据模态和分辨率上差异很大,没有哪一个在各基准上都领先。作者提出 Pangaea-Latents,为 Pangaea 基准的 11 个数据集提供 5 个模型的冻结嵌入,发现这些嵌入既不冗余也不完全不相交。随后提出 GeoMixture,通过多表示对齐目标训练一个 ViT 编码器,在九个数据集上平均排名与最佳模型持平,以牺牲峰值性能换取跨任务的一致性。
说明从抽象到行动:用于自然语言抽象解释与执行的领域特定语言
简介自然语言指令常包含高层抽象(如“把积木堆成金字塔”),语言模型在抽象层级升高时表现下降。论文提出借用“领域特定语言”(DSL)作为中间表示层,把常见抽象展开为具体动作,并在Hexagons和Text2CAD基准上测试。结果显示,人工编写的DSL带来显著提升,而模型自动归纳的DSL只恢复部分效果且不够稳定。
说明基于16S rRNA推荐细菌培养条件
简介本文提出DSNI基准数据集,包含65,023株细菌,将16S rRNA序列与培养基、温度、pH和氧气四种培养条件配对,并按系统发育划分训练与测试集。作者提出一种变异性门控编码器,根据区域类型、位置和局部复杂度学习各位置的重要性权重。实验显示该模型联合准确率提升4.7%,与RNABERT结合后精确匹配联合准确率为44.2%,前25条推荐中包含90.2%的真实培养方案。
说明奖励设定偏差会降低思维链的可监控性
简介论文研究强化学习中奖励设定偏差对语言模型思维链(CoT)可监控性的影响。作者构建了真实奖励与误设奖励成对的测试环境,发现模型的奖励攻击率上升时,思维链仍然围绕任务意图推理,而输出却违背意图并获得奖励,可监控性持续偏低。作者提出通过让模型学习奖励描述、使其在思维链中说明误设奖励的方法,在多个模型和任务上将可监控性平均提高约24%或42%(依指标而定)。
说明用流图学习黎曼流形上的法坐标
简介论文提出训练一种条件可逆神经网络(称为流图,flow chart),用来近似给定黎曼流形上各点附近的法坐标。在该坐标中,指数映射和对数映射可用快速的欧氏运算近似。论文还提出一种非负且在合适条件下仅当图表为法坐标时为零的高效损失函数。
说明自适应回放精炼(ARR):在修订与重采样之间分配测试时计算量
简介该论文提出无需训练的自适应回放精炼方法(ARR),在测试时检测对当前解的修订何时收敛到不动点,并把释放出的计算量重新分配给新的独立采样。方法将当前解视为草稿,并行验证未改变的词元以高效检测不动点。在七个模型和七个基准上,ARR 在三项数学推理基准上于同等计算量下与多数投票持平,关键路径串行步数最多减少 2.4 倍。
说明AGGR-Mamba:用于欠采样MRI重建的基于Mamba的注意力引导门控残差精修网络
简介欠采样磁共振成像(MRI)重建旨在从部分采集的k空间数据中恢复高质量图像,以缩短扫描时间。本文提出AGGR-Mamba,这是一种以Mamba为主干、轻量的输出端残差精修方法,用于脑部MRI欠采样重建。其中包含注意力精修头和类GDFN的门控残差分支,用于修正局部误差与高频伪影。在IXI脑部MRI数据集上,于R=4和R=8加速因子下进行实验,结果显示该方法在PSNR和SSIM上具有竞争力。
说明CPVB-RG:用于带既往影像对比的胸部X光报告生成的跨既往视觉桥接方法
简介该论文提出CPVB-RG框架,在生成胸部X光报告时同时输入当前与既往影像及可用的临床文本,以识别新出现、消退或进展的病变。其核心模块通过进展差异注意力与共享空间注意力的对比来减少不变区域的干扰,并借助两个交叉注意力单元将纵向视觉信息与临床语义相连接。在MIMIC-CXR和IU X-Ray数据集上,该方法在语言与临床指标上均有提升。
说明局部工作,全局进展:AI智能体协作的收敛理论
简介论文将多个大语言模型智能体的协作形式化为分块优化:每个智能体改进共享方案的一部分,并由协调者检查提案是否改善全局目标、合并互不干扰的提案。作者证明了在修正量精确时该过程线性收敛。实验中三智能体团队在机器人路径规划任务中每次都找到无碰撞方案,且合并经检验的组合提案可使搜索时间约减少30%。
看点将LLM智能体协作形式化为块优化并给出线性收敛证明,理论上有新意;实验覆盖机器人路由与SQLite查询规划,对比单智能体,证据较充分。
说明HRoPE:单应性相对位置编码,用于多视角 Transformer 的表面感知位置信息
简介该论文提出 HRoPE,把每个图像块的局部几何看作一个倾斜的三维平面,并由此推导出平面诱导的单应性变换,作为相对变换注入注意力机制,使 Transformer 能够校正透视畸变并对齐不同视角的图像块特征。该方法不需要真实几何标注,平面参数可在仅以新视角合成为目标的训练中端到端预测,也可由基础模型得到。作者称在 RealEstate10K、CO3Dv2 和 DL3DV 上,其最佳版本在新视角合成任务中优于所评估的几何位置编码方法。
说明ChartEvo:面向长尾图表推理的自我演化智能体框架
简介多模态大模型在常见图表上表现良好,但在视觉结构多样、推理要求各异的长尾图表上准确率明显下降。ChartEvo 是一个递归自我改进框架,让图表智能体通过经验驱动的方式演化可复用的图表专用技能与可执行工具,并学习局部工具调用链以控制推理开销。在 ChartBench 和 ChartX 的长尾图表上,相较基础模型 Qwen3.7-Plus,该方法提升了准确率。
说明四十个问题:通过一词回答识别语言模型
简介论文提出一种方法,通过模型对日常问题(如“说一种声音”“说一位诗人”)的一词回答来识别其身份。在94个模型的测试中,40个回答可以以92.5%的准确率识别出具体模型,随机猜测的准确率为1.1%。该方法还用于检测通过OpenRouter提供的开源模型端点,发现96个端点中有92个与其声称的模型一致。
看点用一词回答对模型指纹识别提出了有新意的组合方法,在94个模型上达到92.5%准确率,并发现实际服务中的模型替换与额外计费问题,影响面较广。
说明GALA:面向可控物体摆放的几何感知语言模型
简介该论文提出GALA模型,通过显式感知点云几何信息,实现3D场景中细粒度的物体摆放(如支撑、包含关系)。模型以自回归方式,根据场景上下文和摆放指令逐个预测目标物体的6D位姿,并采用两阶段训练。作者还构建了多来源的场景数据集,并在基准测试中报告其优于缺乏显式几何推理的基线方法。
说明语言模型如何学会“品味”:大模型中的品牌偏好
简介论文比较了102个模型在42个品牌类别中的表现,发现模型被要求点名品牌与被要求推荐品牌时,结果在26个类别中不同。推荐时模型普遍趋向同一批较小众的专业品牌,而点名时多为市场领先者。研究认为,偏好优化(DPO)训练是推荐偏好形成的关键阶段,但作者也表示,具体偏好的形成机制尚不完全清楚。
说明VGL-stGen:用于肺组织病理与空间转录组的共享多模态模型
简介该论文提出VGL-stGen,一种多模态大语言模型,由预训练的医学视觉-语言模型改造而来,使用配对的肺部H&E切片、空间转录组数据和单细胞参考进行训练。同一模型可完成十三项评估任务,包括组织和细胞类型分类、基因预测,以及基于组织图像、细胞身份和已观测基因表达的条件表达补全。
说明PI-MLLM:受心理物理学启发的多模态大模型,用于“奇妙满足”视频情绪分析
简介论文关注“奇妙满足视频”(OSV)这类依靠重复动作、视觉触感和ASMR式声音引发观众情绪、却几乎没有明确语义情绪线索的内容。作者构建了包含12,000个5秒标注片段的OSVD数据集,并提出PI-MLLM模型,通过模态特定动态对齐和基于联盟的视听归因来建模视觉与声音的物理感官动态。实验表明,该方法提升了观众情绪预测和基于感官证据的解释质量。
说明基于可靠性感知的低成本多区SPAD传感器V形表面重建
简介这篇论文针对低成本多区单光子雪崩二极管(SPAD)传感器在几何突变处深度估计不可靠的问题,提出一种可靠性感知的V形表面重建方法。方法利用传感器置信度、瞬态峰值幅度和峰值锐度学习逐点可靠性,并将其纳入基于图的深度优化。实验显示,在60度、90度和120度目标上,平均V角误差由11.21度降至9.66度(降低13.8%)。
说明SplatFlux:从视频潜变量直接前馈重建与生成4D高斯场景
简介该论文提出SplatFlux,一种前馈式框架,可从视频潜变量直接解码出4D高斯表示,同时支持基于视频的4D重建和条件式4D生成。方法引入静态-动态解耦的4D高斯表示,显式预测高斯基元的动态概率,并通过辅助蒸馏策略获得伪动态掩码和光流线索,以减少标注成本。作者称在3D与4D重建及生成实验中达到了最先进的性能。
说明面向稀疏变分高斯过程的几何感知分块选择:用更合适的数据划分来收紧变分下界,从而改进稀疏高斯过程的预测效果。
简介稀疏变分高斯过程(SVGP)是一种可扩展的高斯过程建模方法,它给出完整高斯过程边际似然的下界。近期研究表明,在后验条件分布中引入分块对角缩放矩阵可以得到更紧的下界。本文研究在固定诱导点数量下,选择能收紧变分目标的分块是否能改善测试集的RMSE和NLL。作者提出了一种简单、可扩展、几何感知的算法,通过选择合适的数据划分恢复较大比例的对数行列式贡献,并给出了双重随机优化的训练框架,同时探讨了其他条件后验结构在学习超参数和诱导点方面的用途。
说明LoRA 适配的视觉基础模型在脑部 MRI 上表现趋同、内部机制却不同
简介本文研究用 LoRA 把视觉基础模型适配到脑肿瘤分割时,四种不同预训练方式的骨干网络性能相近,但内部表征变化不同。作者用注意力分歧、权重变化和激活修补等方法分析,并考察分割适配对阿尔茨海默病分类的迁移影响。结果显示,只对早中期层做 LoRA 适配,即可接近全层适配的分割效果,同时减少分类性能下降。
说明基于信任的多机器人安全协作:统一排除受损通信链路
简介机器人群通过有向、随时间变化的局部通信链路协调,其中部分链路可能被篡改并传输恶意数据。该论文提出一个通信包装算法,利用安全任意时刻有效推断(Safe Anytime-Valid Inference),依据异常检测器输出的信任值,筛选出可安全采用数据的可信链路,且只要检测器优于随机猜测即可。实验在3台LoCoBot和8台GoPiGo上完成神经隐式建图与航向一致性两项任务,并用硬件采样的信任值仿真验证其可扩展到数百台机器人的群体。
说明TPO:面向分布外偏好对齐的三层分布鲁棒学习方法
简介该论文指出,直接偏好优化(DPO)假设训练与部署的偏好分布一致,但实际中偏好分布会在群体、提示和偏好三个层级发生偏移。作者提出 TPO 框架,用分层矩形模糊集同时建模三层不确定性,并基于 Wasserstein 距离推导出可处理、可解释的目标函数。论文给出有限样本收敛保证,并通过实验验证其优于现有鲁棒 DPO 方法。
说明再生核希尔伯特空间中的范数最优模型降阶
简介本文研究再生核希尔伯特空间(RKHS)中的模型降阶问题。作者推广了经典的范数最优降阶插值条件,并为具有可微核的RKHS提出了一种替代IRKA的迭代算法。通过广义Malmquist-Takenaka函数,文中将方法扩展到非可微核的情形,并在支持向量机、深度ReLU网络等机器学习模型以及多项式拟合、偏微分方程求解等问题上进行了数值实验。
说明长上下文大模型的本地推理:从数据系统视角看
简介本文研究在个人单张GPU上运行长上下文大语言模型时的性能瓶颈,而非仅关注模型容量。作者横向比较多个模型在多代GPU上的表现,发现自注意力机制主导长上下文推理耗时,且其结构导致GPU关键资源利用不足,最新一代GPU反而常常优化最差。论文将这些问题归为数据管理问题(如KV缓存分页、缓存利用率与同步),以一系列实验观察和未来研究建议的形式呈现。
说明语言模型能否因神经元消融而出现“失语”?
简介本文系统地削减语言模型(包括LSTM和Transformer)中的神经元,并用少量微调模拟代偿性可塑性,观察模型能力如何随神经元丢失而下降。结果显示两类架构的失效模式不同:LSTM逐渐退化,Transformer在前馈层消融时出现晚期阈值式崩溃。作者认为这为理解失语症和神经退行性疾病提供了计算机模拟视角。
说明ExeBench-FHD:解决反编译器评测中的保真度问题
简介论文分析了广泛用于评估基于大模型反编译器的 ExeBench 基准,指出其中九个影响测试忠实度的问题。作者提出向后兼容的修订版 ExeBench-FHD,新增16个字段和5个警告标记;在-O2优化级别的评测中,新字段使部分函数的重新执行成功率最多提升26.5%。
说明基于区域引导的食品包装证据提取与可弃权的R3337草案筛查(选择性视觉语言模型复核)
简介该研究针对南非R3337草案的警示标准,从食品包装照片中提取营养成分表、配料表和产品形态等证据。工作流先用检测器定位相关区域,再用OCR与结构化提取获取数据,并以确定性规则进行判定;证据不足或冲突时选择弃权,并对部分未决案例使用Qwen3-VL 8B进行选择性复核。在442种产品(3,929张图像)的人工验证集(65种产品)上,选择性准确率为97.4%,覆盖率由51.7%提升至65.0%。
说明学会修改:用于对话式文本到动作生成的自进化多智能体修正框架
简介现有文本到动作生成方法多为一次性生成,用户对局部细节不满意时只能整段重做。本文提出对话式动作生成范式,并设计自进化多智能体修正框架SMART,协调指令理解、动作生成、局部编辑与质量评估。框架包含语义引导的掩码动作编辑机制,将自然语言反馈定位到时空动作区域进行局部修改,并通过基于记忆的自进化策略复用历史成功经验,减少冗余探索。实验表明SMART能有效支持多轮对话式动作生成和高效修正。
说明JAXbounce:面向连续控制主动推断的类乒乓球基准环境
简介本文提出 JAXbounce,一个类似乒乓球的连续控制基准,用于评估主动推断方法在超出离散、低维环境时的表现。环境支持状态向量或像素网格两种观测方式,并可加入多种噪声模型,且在 JAX 中可微、可并行。作者用超过 10,000 次仿真比较了确定性基线、基于无迹卡尔曼滤波与期望自由能规划的状态型智能体,以及使用预训练神经网络编码器的像素型智能体,结果显示随规划、观测方式和噪声知识变化的性能差异。
说明MaD-RSI:把模型当作数据,用于智能体框架的递归自我改进
简介论文提出MaD-RSI框架,把多个不同的大语言模型的失败轨迹作为训练数据,共同优化一个通用的智能体框架(harness),而不是只针对单一模型优化。作者还设计了两项互补指标评估跨模型的优化效果。实验显示,该方法在多个数据集和模型上比现有方法泛化能力更好,同时降低了训练成本。
说明用于电力负荷预测的时间序列基础模型参数高效适配
简介本文比较了时间序列基础模型在电力负荷预测中的三种用法:直接推理、全量微调和低秩适配(LoRA),覆盖四个负荷聚合层级。主实验模型为MOIRAI 1.0 Large,并用Chronos-2检验结论能否跨模型族迁移。结果显示,秩为16的LoRA仅更新约1%的参数,平均将归一化平均绝对误差降低7.5%,并保留了全量微调的大部分收益;在分布外场景中,不同目标的收益差异明显。
说明重新构建以对象为中心的强化学习:从绝对表示到相对表示
简介本文指出,以对象为中心的强化学习智能体通常使用全局坐标记录物体位置,但决策往往取决于物体之间的相对关系,因此容易在场景平移后性能下降。作者提出以锚点为基准的相对坐标(ORCA),并设计了用于处理相对输入的 Transformer 架构 ORBiT。文中称,相对表示提升了 MLP 与 Transformer 智能体的表现,ORBiT 在 13 款 Atari 游戏上的 HNS IQM 超过 1.0,并在 Tag 实验环境中验证了对旋转和干扰物数量变化的泛化能力。
说明吸引力偏差:文生图奖励模型与排行榜受颜值影响
简介该论文研究人类偏好在文生图评估中的偏差。实验发现,对人脸图像,标注者会因外貌吸引力而给出更高的质量评分,即使比较的是质量相近的真实照片。作者进一步指出,这种偏差会使排行榜排名失真,并在多个人类偏好模型中重现,还可能使生成结果偏向年轻、女性化的人脸。
看点发现人脸吸引力会压过图像质量影响人类偏好,并在多个偏好模型和排行榜中复现,研究证据充分、影响面较广。
说明自适应回拉:在蒸馏惩罚突增处重新加权监督信号
简介论文研究在线策略蒸馏(OPD)中学生模型与教师模型对数比的局部变化,发现惩罚值突然上升而教师置信度下降的现象,称为惩罚-置信度张力。作者据此提出自适应回拉方法(AP-OPD),在检测到惩罚突增处,以前一段的平均惩罚为参考,缩放后一段的监督系数。该方法在数学推理和代码生成任务上提升了性能。
说明离线校准让在线更好:用于视频生成的校准缓存压缩(CALM)
简介该论文针对自回归视频生成中的KV缓存占用问题,提出CALM方法:在离线阶段对各层、各注意力头的合并敏感性进行校准,并构建固定的风险图。推理时根据缓存预算,用动态规划分配各层头的合并比例。实验表明,在相同内存预算下,CALM优于统一的令牌合并,LPIPS约降低21%,视频质量评分更高。
说明基于线性光照与频率自适应增强的统一RAW图像曝光校正与修复
简介本文提出一个统一的RAW图像曝光校正与修复框架RIECR,可同时处理欠曝和过曝图像。框架先用线性光照校正网络依据各颜色通道信息估计线性增益,再用含频率动态卷积模块的双分支频率增强网络修复剩余退化。作者还构建了包含223个场景、1784对图像的真实成对RAW数据集,并在与16种先进方法的对比中取得最优结果。
说明CrossFit-GS:面向免COLMAP三维高斯泼溅的折外位姿估计
简介该论文面向无位姿三维高斯泼溅(3DGS)任务,即在不依赖传统运动恢复结构(SfM)的情况下,直接从未标定位姿的图像序列重建场景。作者提出CrossFit-GS框架,将输入序列划分为交错子集并维护两个互补子地图,每个候选位姿借助从未用目标帧优化过的冻结子地图进行交叉修正,并通过棋盘格验证与空间覆盖检查筛除不可靠更新。原文称该方法能显著减少累积轨迹漂移,并在多个基准上提升相机位姿估计与新视角合成效果。
说明通过跨模态概念神经元揭示大型音频语言模型中的音频-文本对齐
简介该论文研究大型音频语言模型(LALM)如何在生成文本前整合音频与文本表示。作者假设两者存在共享子空间,并识别同时表示音频与文本的跨模态神经元。在三个模型和四类声学属性上,音频与文本神经元呈现不同程度的对齐,通过激活与抑制这些神经元的因果干预,证实其不仅对预测必要,还可被操控。
说明前言:利用雅可比透镜在生成前预测并刻画大模型测试失败
简介该论文提出 Foreword 框架,在模型生成输出之前,依据模型内部状态预测哪些输入更可能导致失败,用于对测试输入进行优先级排序。方法同时学习通过与失败的参考样例,并借助雅可比透镜表示输入。在十项任务和三个开放权重大模型上,其预测与排序效果均优于已有方法 Clotho,并能帮助发现标签或任务说明中的歧义。
说明能感知却不刹车:推理型驾驶VLA模型中的感知-行动绑定缺口
简介该论文发现,带推理能力的视觉-语言-动作驾驶模型虽能在视觉表征中编码前方危险,但纵向轨迹规划主要受自车速度历史影响,对危险距离响应较弱。作者在不修改权重的前提下,在冻结的Alpamayo-1.5流匹配采样器中注入危险条件能量,使障碍物侵入比例从58.1%降至14.5%,并在制动相关的闭环测试中消除了碰撞。
看点提出感知-动作绑定缺口的新诊断视角,并以冻结采样器注入危险条件能量修复,实验显示足印侵入从58.1%降至14.5%,证据较充分。
说明CAPS:面向脑肿瘤分割中缺失MRI补全的临床可验证解剖优先合成方法
简介该论文提出CAPS框架,用于在临床MRI缺少模态时生成缺失影像,以支持脑肿瘤分割。它采用结合L_1、解剖特征保持与双重Dice拓扑约束的混合目标函数。在BraTS成人胶质瘤数据集上,下游分割平均Dice为82.38%,并在脑膜瘤、儿童及撒哈拉以南非洲队列上零样本泛化良好,盲法放射学评估也显示图像质量与临床实用性有所提升。
说明基于智能电表数据、最大化同时率的用户聚类方法
简介配电规划依赖客户群内的峰值负荷同时率,但对智能电表数据做相似性聚类并不能直接优化它。论文将分组目标设为各组同时率的加权平均,并证明即使只有两组,联合优化成员与峰值时刻也是强NP难问题。为此提出一种可用于任意可行划分的定峰值精化方法,交替确定各组峰值时刻并在最小组规模约束下精确重新分配用户。在四个公开面板(共27,654名用户)上的实验显示,该方法在留出日期上优于随机分组和五种基准方法,平均提升1.08至3.48个百分点。
说明面向时序知识图谱推理的证据与参数协同对齐方法(TEPCA)
简介本文指出大语言模型的静态参数记忆难以适应现实知识的动态变化,现有检索方法也忽视时间有效性和事件顺序。作者提出TEPCA框架,在证据层通过时间约束的路径剪枝和基于互信息的剪枝保留时序相关事实;在参数层提出时间戳条件化的动态门控LoRA(DG-LoRA)。论文称其在两个时序知识图谱基准上达到最优性能,并在八个常识问答数据集上验证了DG-LoRA的通用性。
说明Africa-Papers:面向非洲基础语言模型的100亿词元多领域学术语料库
简介该论文介绍了Africa-Papers,一个多领域的泛非学术预训练语料库,包含超过84.48万篇全文论文,共约101.5亿个词元,涵盖DOAJ收录的31个非洲国家期刊、CGIAR农业仓储、arXiv上的非洲相关预印本及OpenAlex收录的非洲机构学者出版物。语料已处理为保留章节结构、公式和表格的Markdown格式,并采用统一的8领域分类,作者已在Hugging Face Hub上公开发布,用于推动相关基础模型的持续预训练与领域评测。
说明DocLayout-YOLO:面向文档版面分析的实时检测器
简介本文提出 DocLayout-YOLO,一种面向文档版面分析的实时检测器,核心包括基于网格引导的合成预训练数据 MeshLayout-1M 与页面轴向注意力模块 PALA。论文称其在 D4LA、M6Doc、HJDataset 和 PRIMA-LAD 四个异构文档基准上取得最新最优结果,mAP50:95 分别为 72.4%、75.5%、96.0% 和 73.1%,并在精度与效率之间取得更好的平衡。
看点提出网格引导的合成预训练语料与页面轴注意力,对YOLO做文档专用改进;四个异构基准上取得领先结果,证据充分。
说明从代码生成器到工程助手:面向工厂的 PLC 编程智能体
简介本文提出一个感知工厂环境的对话式 PLC 编程助手。它在检索增强生成的基础上,加入特定工厂的上下文导入、以聊天为先的解释与调试交互,以及从聊天到部署的分级工具权限。系统面向真实的工厂基础设施,每一步可能产生实际影响的操作都由工程师掌控。
说明预测受限测量条件下学习式反演的静默失效:测量物理与先验信息各自解释什么
简介该论文研究学习式先验在测量覆盖不足区域可能出现的静默失效:报告的置信区间不包含真值,而所有无真值诊断都显示正常。作者提出一种基于线性化VAE先验的评分,用于在看到目标数据之前预测此类误差,并在X射线CT真实数据的前瞻性实验中与两种学习式反演方法的实际失效情况进行比较。结果显示,在有界测量覆盖下,该评分相比基于物理的基线并未获得可检测的提升,作者认为静默失效的结构主要来自测量条件与决策量,而非学习先验本身。
说明可扩展的应力约束拓扑优化:基于机器学习的同步方法
简介该论文提出同步神经拓扑优化(SNTO)框架,用神经网络分别表示状态、伴随和设计变量,并在单一循环中联合优化其参数。训练时将设计域划分到多块GPU上并进一步切片以控制显存。在二维基准上,结果边界更清晰、灰色区域更少;三维问题可处理至多八百万个配点,训练时间随GPU数量近似成比例减少。
说明面向生成式柔性对接的课程学习方法
简介该论文研究蛋白-配体柔性对接任务,即由蛋白apo结构和配体SMILES预测复合物构象。作者提出在训练中用线性节奏函数逐步加入构象变化较大的样本(课程学习),以应对长尾的apo到holo结构偏移问题。在PDBBind ESMFold apo基准上,所提模型GCLDock的top-1成功率为46.52%(配体RMSD小于2Å),额外要求PoseBusters有效性时为40.26%,优于现有基线。
说明不动集与相关均衡的计算难度
简介本文证明,计算多面体博弈的近似相关均衡属于PPAD完全问题,因此与求纳什均衡在多项式时间内等价。这挑战了博弈论中“相关均衡比纳什均衡更易处理”的传统看法。作者把相关均衡与不动点的推广概念“不动集”联系起来,并证明即使在逆多项式精度下,计算不动集也是PPAD难的。
看点证明近似相关均衡计算为PPAD完全,并提出不动点的推广概念“固定集”,推翻了相关均衡更易计算的传统看法,证明严谨。
说明基于数据稀疏化的UCB式高斯过程赌博机近最优遗憾界
简介本文研究高斯过程上置信界(GP-UCB)算法的遗憾上界。在高斯噪声假设下,作者利用数据稀疏化(data thinning)技术从单一数据集中构造相互独立的数据集,从而获得更紧的置信区间。基于此,GP-UCB的直接扩展可达到近最优的简单遗憾上界;结合分阶段消除算法后,还得到近最优的累积遗憾上界。数值实验验证了该方法的有效性。
说明基于多域可识别表示学习的潜在混杂线性模型因果发现
简介本文研究存在潜在混杂因素的线性因果模型,用无环有向混合图(ADMG)表示。提出的LinADMG框架利用多域数据识别噪声变量,而不依赖非高斯性或无弓结构假设。作者认为,噪声变量可识别即可恢复所有直接因果关系,并在附加的无抵消条件下识别完整的ADMG。方法在模拟数据和半合成数据集上进行了验证。
说明SIGNN++:面向地球夜空的鲁棒图神经星体识别方法
简介本文提出SIGNN++,一种用于在无GNSS信号的夜间环境中进行天文导航的基于学习的星体识别框架。它在原有图神经网络方法SIGNN的基础上,加入了更贴近真实地面条件的噪声模型、角距离边特征的傅里叶变换,以及基于RANSAC的透视星体对齐。结果显示,该方法对地面观测干扰更具鲁棒性,识别准确率与求解成功率高于原始SIGNN和公开基线方法,姿态精度相当,计算时间适合连续运行。
说明OV-Foam:三维表示如何影响语义特征提升
简介现有开放词汇分割的特征提升方法通常用简单的反投影把特征分配给图元。在三维高斯泼溅重建中,图元重叠严重,每条光线上图元很多,重建效果受影响。本文提出OV-Foam,以PowerFoam作为底层表示,用幂图划分场景,使图元之间无重叠、每条光线上的图元数大幅减少,从而简化提升问题并使特征分配更接近最优。实验显示其开放词汇分割效果优于高斯基线。
说明GAMF-Net:面向智能手机皮肤病变分类的分组可用性感知多模态融合网络
简介论文提出GAMF-Net,用于基于智能手机临床图像的皮肤病变分类。模型将十个临床变量分为人口学、病史风险和病变表现三组,并用字段值与可用性掩码共同编码;只有可用的分组参与等权融合,全部临床信息缺失时退化为纯图像路径。在PAD-UFES-20数据集上,按患者划分的五折协议下,模型准确率为74.17±2.85%,平衡准确率为70.11±2.11%,Macro-F1为68.85±0.85%,Macro-AUROC为93.42±1.20%,优于统一协议下复现的各基线。
说明去扩散化的 WAM:面向机器人控制的动作充分性直接预测
简介该论文提出 DirectWAM,将基于扩散预训练的级联世界-动作模型转为单步预测器,无需随机采样。训练时以动作误差反向传播至未来预测模块,使预测的视觉未来服务于动作准确性。在 LIBERO 四个套件上平均成功率为 97.1%,RoboTwin 2.0 为 85.4%,推理延迟较完整迭代教师模型降低 28.0 倍。
说明面向无人机临时接管的感知中断循环强化学习导航
简介该论文研究无人机在被远程飞手或机载避让系统临时接管后,循环强化学习导航策略如何恢复控制。作者发现中断会降低循环隐状态中任务信息的可解码性,并增加中断后的碰撞风险。论文提出三种感知中断的架构,仿真结果显示最优架构使中断后碰撞减少74%,中断导致的任务失败减少69%,且不影响无中断时的性能。
说明PointForward V2:面向前馈式驾驶场景重建的点对齐交互方法
简介该论文提出 PointForward V2,用于前馈式动态驾驶场景三维重建。方法通过紧凑的场景结构化寄存器(静态背景寄存器与动态实例寄存器)在三维查询之间交换信息,并采用融合空间坐标与时间戳的 4D 位置编码,无需稠密全局注意力即可进行时空推理。作者称在 Waymo、nuScenes 和 Argoverse 2 上取得了当前最优性能。
说明基于可靠性引导的视觉-语言解码与文本感知跳跃连接精修用于医学图像分割
简介该论文提出RELiF,一种融合医学文本的视觉-语言分割框架,用于解决目标视觉区分度低、结构不规则的医学图像分割难题。其中可靠性引导融合门(RFG)自适应控制跨模态更新,文本引导跳跃连接精修模块(TSRA)利用文本信息精修高分辨率特征。作者在X光、CT和内窥镜分割任务上进行了评估,并分析了效率与稳定性。
说明OvisOCR3 技术报告:一个 0.8B 参数的统一 OCR 模型
简介本文介绍 OvisOCR3,一个参数量为 0.8B 的模型,可在一个模型中处理文档解析、通用 OCR、关键信息抽取、文档图表描述生成和跨页表格重建等多种任务。模型通过多教师策略蒸馏和强化学习训练。在多个公开与内部基准上,其表现与多个通用视觉语言模型和专用 OCR 模型进行了比较。
说明基于条件信息瓶颈的脉冲神经网络鲁棒表示学习:提升对噪声与攻击的抵抗力
简介本文针对脉冲神经网络(SNN)在输入扰动、硬件噪声和对抗攻击下较脆弱的问题,提出了基于条件信息瓶颈的鲁棒学习目标SCIB。该方法用条件互信息I(X;S|Y)替代传统压缩项,并引入可学习的类条件先验。在Fashion-MNIST、CIFAR-10和CIFAR-100上的实验显示,SCIB在多数噪声条件下优于标准SNN和基于信息瓶颈的基线,在所测试的攻击下提升了对抗准确率且未使用对抗训练,同时相对无约束SNN基线将单样本推理能耗(基于SynOps)降低了24.9%。
说明弱-L^α 噪声下的强保证:仿射重尾条件下的梯度裁剪
简介本文研究重尾随机噪声下的梯度裁剪方法,在较弱的弱-L^α尾部条件下,为裁剪SGD及其加速版本给出高概率收敛保证。对于1<α<2,该方法的加性随机误差速率为K的-(α-1)/α次方,并在α=2时刻画了额外的对数因子及其必要性。文中还给出了匹配的下界,并用Pareto噪声的数值实验予以验证。
说明过度解读?模糊情境下大语言模型心理推断中的解释偏好与立场坚持
简介该论文提出 MentalLoom 评测框架,包含 604 个模糊社交情境、与抑郁和社交焦虑相匹配的用户自述,以及事件证据不变的四轮对话。研究考察了八个大语言模型在用户情绪背景影响下的解释倾向与确信度。结果显示,用户自述最初使模型给出更多负面解释,但对叙述者的解释更偏正面;重复追问时,模型给出更多情感支持、更强的正面认同和更高确信度,而事件证据并未增加。
说明结构因果模型的半解析推断框架:在 SCM 上直接做消息传递的推断方法
简介论文提出一种直接在结构因果模型(SCM)上进行概率推断的方法。它把结构机制和概率密度表示到同一有限维函数空间,用前向传播结合无意识统计学家定律(LOTUS)的数值实现,并通过样条投影恢复密度,同时用同一表示进行条件化的反向消息传递。实验在随机生成的连续 SCM 上显示,该方法近似蒙特卡洛参考解,且随基函数分辨率提高而改进。
说明Polyscene:把情景规划视为多样性规划
简介本文提出用自动化方法替代人工情景规划:把情景差异定义为在分析者关注的驱动因素上最终走向不同叙事。作者以生成式引擎 Polyscene 从一个主题出发生成情景集,并以地缘政治冲突和航运路线中断两类案例进行演示。
说明BAIT:大语言模型能否找出新闻中影响读者的认知偏差触发点?一个基准测试
简介这篇论文提出 BAIT 基准,用于检测新闻中会利用读者心理捷径的语言特征(认知偏差触发点)。基准包含九类触发点的标注体系及 50 篇英文新闻的人工标注。研究者测试了六个前沿大语言模型,发现模型在判断文章含有哪些触发点上接近人类一致性,但很少能找全,定位触发段落的能力不到人类的一半,并且更依赖表面线索而非操纵机制。
说明LatticeRank:面向原生网格三维医学图像分割的间距排序一致性方法
简介论文针对三维医学图像分割中体素间距变化的问题,提出训练阶段使用的LatticeRank框架,在物理空间对齐候选网格的预测结果,并按体素间距排序分配一致性监督,重点关注最粗网格。推理时仍只需一次网络前向计算。在MSD Task04数据集上,五个随机种子的结果显示其粗网格Extra Dice指标较均值一致性方法提高0.03436,并满足预设的参考网格非劣效标准。
说明从复杂历史到简单预测器:动态图学习中的预测维度
简介现有连续时间图学习方法依赖复杂神经结构编码不断增长的交互历史。论文认为,复杂历史所诱导的未来条件分布通常可由低维预测状态流形刻画,因此只需少量预测自由度即可支撑未来交互预测。作者提出“内在预测维度”用于度量任务所需的有效预测自由度,并据此设计轻量模型PreDyG,其容量与该维度相匹配,在预测性能上表现更优。
说明WildAIGC-Bench:AI图像检测器能否应对网络真实环境?一个收集自网络流传的生成与编辑图像基准
简介该研究构建了WildAIGC-Bench基准,通过持续收集新闻网站、事实核查来源及社交媒体内容,整理出407张经人工核验的AI生成或编辑图像,每张图像附有来源网页链接和证据摘要。图像保留了网络上常见的压缩、截图和翻拍等条件。测试显示,专用视觉检测器、多模态大语言模型及一个简单的Perception Encoder基线在该基准上的召回率明显低于现有基准。
看点收集真实网络流通的AI生成与编辑图像构建基准,并揭示现有检测器召回率明显下降,实用价值突出,但方法层面创新有限。
说明MoDDiT:扩散 Transformer 中的简单令牌路由
简介该论文提出 MoDDiT,一种对扩散 Transformer(DiT)的简单结构改进,让模型学会把图像令牌分别路由进 MLP 和自注意力模块。由此可按令牌、图像和去噪时间步动态分配计算量。文中报告只处理约 12.5% 令牌即可显著降低训练与推理成本,并提升生成效果;此外还将其用于视频生成和模型蒸馏。
说明InsightRAG:汇聚分散的学者判断以生成科学综述
简介随着科学文献快速增长,撰写综述越来越困难,因此出现了自动生成综述的需求。本文提出 InsightRAG,利用作者撰写的相关工作(Related Work)章节中的引文关系和关系说明进行检索,重建研究范围并组织证据,再以最小冲突为目标归纳出分类体系来指导生成。作者在十个主题上的结果显示,该方法在范围重建、分类体系质量、引文支持和参考文献可靠性方面均有提升。
说明IECG:弱监督、增强可解释性的心电图基础模型
简介心电图是心脏诊断的基础手段,但多数机器学习方法缺乏可解释性。该论文提出IECG模型,在无需人工标注异常区域的情况下,同时完成诊断分类与异常区域定位。模型借助临床知识生成异常热图伪标签,通过KL散度损失引导注意力关注相关波形区域,并结合ECG与文本的对比学习及报告生成目标进行预训练。实验显示,该模型在异常区域定位上达到领先水平,同时保持较强的分类性能。
说明PULSE:面向可穿戴设备的个性化机会式学习框架
简介可穿戴设备上的个性化健康应用常因部署后数据与训练数据不同而表现下降,单设备本地适应又受限于数据量。本文提出PULSE,一个事件驱动框架,把每次设备相遇视为一次在线协作决策:不交互,或选择一个有潜力的附近对等设备。只有当对等设备的梯度与本地学习方向兼容时才会纳入,过去的交互则用于指导之后的对等选择。实验显示,它在保持或提升个性化分类性能的同时,相比机会式模型平均减少了80%至94%的对等辅助交换,并在可穿戴硬件上验证了可行性。
说明Slot-JEPA:面向潜在世界模型的物体结构化预测接口
简介论文提出Slot-JEPA,把密集的图像表示分解为稳定的语义槽位和随时间变化的空间掩码,形成可复用的物体结构化接口。基于此设计了过渡记忆预测器TMP,以紧凑掩码存储视觉过渡并检索有用上下文,并用非平衡最优传输(UOT)监督掩码预测。文中称其在七个视觉理解基准上特征可迁移,并在两类规划任务上改进了目标条件规划。
说明MuPACE:学习为 LoRA 微调调节 Muon 优化器的步长
简介论文提出 MuPACE,一种小型循环策略,用元学习方式决定 LoRA 微调中 Muon 优化器的全局步长,方向仍由 Muon 决定。在 64 个微调问题上,它在其中一部分问题上优于固定的标准调度,并能一次性迁移到层数更深的未见任务模型上。
说明同样的判断,不同的“是”:衡量语言模型的多语言判断画像
简介该论文收集了八个模型在六种语言中、约105个道德情境下的110万条回复,比较不同提问方式和回答读取方式(词元或整句)得到的判断是否一致。结果显示,除了否定疑问句后用预设映射读取“是/否”词元这一情况外,判断画像在各种读取方式间基本一致。论文还发现,模型在不同语言间的判断画像彼此接近,但“是”这个词元本身不足以代表判断,需要先确定其所肯定的命题。
说明量化威胁:加纳登苏盆地儿童重金属健康风险的贝叶斯概率框架
简介本研究以加纳登苏河流域的94个地下水样本为基础,检测铁、锰、镍、铅、镉和砷六种金属。作者采用贝叶斯概率框架评估非致癌风险,并用空间插值生成连续风险图。结果显示约31%的采样点超过危害指数1的概率大于0.5,铅、砷和镉是主要风险来源,为资源有限地区的水质监测和公共卫生规划提供依据。
说明TrajEvolve:基于事后信用分配的强化学习轨迹进化方法
简介该论文针对大语言模型在长程任务中强化学习的困难,即成功轨迹少、稀疏奖励导致冗余步骤,提出名为TrajEvolve的轨迹进化范式。该方法通过改进历史轨迹中的低质量步骤生成“进化轨迹”,并将逐步信用分配转化为判断每一步是否必要的二分类任务,借助反事实验证识别冗余步骤。作者称其在两个数据集上的实验中表现更优。
说明审计概念瓶颈模型在 CUB 数据集上准确率的来源
简介概念瓶颈模型(CBM)承诺其预测可通过“弯曲的喙”等概念被人检查与修正,但在 CUB-200-2011 基准上,其评估只看任务与概念准确率。本文审计 CBM 与概念嵌入模型(CEM)准确率的来源,发现 CUB 标注噪声大,且大量类别信息通过非局部特征进入概念分数。局部化与遮挡实验表明,局部性使基础性可被测量但并不保证,因此应谨慎解读 CUB 上的准确率差距。
说明带延迟反馈的通用在线凸优化:一种无需预先知道损失函数曲率的算法
简介本文研究带延迟反馈的在线凸优化问题,提出一个单一算法,无需预先知道损失函数的曲率类别或参数,即可同时适应一般凸、强凸和指数凹损失。其遗憾界在时间跨度和延迟上与已知最好结果一致(仅相差双对数因子)。文中还给出一个新的指数凹基学习器,用最大连续缺失观测数替代最大延迟,改进了延迟依赖关系。
说明槽位不等于说话人:面向冻结流式说话人分离模型的免训练说话人链接方法
简介本文提出一种因果性、免训练的链接器,使固定输出槽位的流式说话人分离模型能跟踪超过槽位数量的说话人。链接器只利用原模型的槽位后验和音频,对语音片段重新标注并与已见说话人库匹配,因此漏检和误报与原模型相同,改进仅体现为说话人混淆的减少。在八个语料库的1418段会话中,4槽位模型超过上限时的DER从36.8%降至22.6%。
说明细粒度分类中语言预训练对表征语义的评估
简介该论文提出一种基于可解释性的紧凑框架,比较在 CUB-200 数据集上分别使用分类监督和图像描述生成监督训练的视觉编码器。通过注意力展开等方法生成显著性图,并用忠实性与定位性指标进行评估。结果显示,描述监督得到的表征更关注关键区域、与标注部件更吻合,对背景依赖更少;分类监督则对低显著性区域的移除稍更稳健。
说明用于 C-SMC 带材沉积在线视觉检测的过程感知、写实数字孪生
简介本文针对碳纤维片状模塑料(SMC)制造中缺乏大规模标注图像数据的问题,提出一个基于过程的写实数字孪生系统。系统用刚体仿真还原沉积过程,并用偏振渲染生成逼真图像,每张图像都附带同步的标注(有向边界框、点标注、密度图和偏振图)。作者报告,仅用合成数据训练的 YOLOv11 和 CSRNet 检测 mAP50 最高达 0.91,合成图与真实图之间的差异与两批真实采集数据之间的差异量级相当。
说明在线策略转移蒸馏:利用层间预测变化改进师生模型学习
简介论文研究在线策略蒸馏(OPD)中的层间预测变化能否提供额外监督信号。诊断实验显示,中间层转移上师生一致性更高的回答正确率也更高。作者据此提出在线策略转移蒸馏(OPTD),在学生生成的推演上对齐师生模型的逐层对数概率增量。在三种骨干模型和八个涵盖数学、代码与指令遵循的基准上,OPTD 在双领域和三领域蒸馏中取得最佳或并列最佳的总体表现。在三领域设定下,其恢复了约 90% 的整体师生能力差距,而 OPD 约为 75%。
说明基于投毒的后门并非密码学意义上的安全机制
简介该论文研究通过投毒数据标签植入后门的问题。作者证明,若验证器只能通过投毒数据的标签进入训练,防御者就有可能通过观察重建该验证器,因此无法形成类似密码认证的不对称性。论文还在指令微调的大语言模型上进行实验,结果与此结论一致。
看点证明投毒后门的验证器可由防御者重构,与密码学式不对称相反,结论有新意;实验仅在指令微调大模型上验证。
说明用字母位置概率评估法语单词的复杂度
简介本文利用字母位置概率(LPP)比较法语中简单词与复杂词在拼写上的差异。研究取自约38,000个法语词的词汇判断反应时数据,以反应时最高与最低各5,000个词分别代表高、低复杂度词组。结果显示大量字母位置概率与词复杂度相关,并且仅凭词长即可达到77.27%的分类准确率,加入前6个字母位置的二元变量后准确率提升至83.95%。
说明在合成数据上训练何时能被证明有效?
简介本文研究在合成数据上训练的二分类器何时能迁移到真实数据分布。作者给出有限样本的超额误差界,并分析真实分布存在合成数据覆盖不到区域的情形。实验显示,对抗性分类器在合成域误差很低,但在真实域误差接近最坏情况,因此建议用真实数据验证模型。
说明面向等距柱状全景图的球面几何感知全景场景图生成
简介本文针对等距柱状投影全景图中的全景场景图生成问题,提出两阶段球面几何感知框架,融合重叠透视视图的预测结果,并结合球面面积感知聚合与关系推理。作者构建了包含340张高分辨率全景图、10,571个节点和6,632条有向关系的数据集。实验显示,球面融合在匹配视图下使PQ提升36.03%,完整框架在SGDet设置下使mR@50提升52.99%。
说明从强化学习论文到框架代码:七个开源训练框架的收录与审查情况
简介该研究追踪七个开源强化学习后训练框架的提交记录,并与2025年1月至2026年6月间经筛选的6,939篇arXiv论文对照。在1,598篇提出通用强化学习训练方法的论文中,有37篇在180天内被至少一个框架收录;各季度论文组中被收录的数量稳定在5至7篇之间。框架的议题和拉取请求显示,多数未被收录的方法在公开场合几乎无人讨论。研究还发布了一份追踪表,将训练故障与框架实现相关联。
看点通过追踪七个框架的提交历史,将6939篇论文与框架收录关联,量化了RL方法进入训练框架的比例及其特征,视角新颖;数据规模大,对比控制较完善,影响面覆盖广泛使用的训练工具。
说明用于FPGA与集成电路硬件加速和系统级优化的强化学习综述
简介本文综述了100多项在FPGA和集成电路平台上实现强化学习的研究,涵盖架构、实现策略、性能评估与应用。文章按算法类别、抽象层级、硬件实现方式和应用领域进行分类,并比较资源占用、延迟、吞吐量与功耗等指标。作者还归纳了常见架构模式、实际限制与开放问题,供开发专用硬件上强化学习方案的研究者参考。
说明游戏中的规模化:面向多样虚拟世界的具身智能体持续预训练
简介本文研究在不同视觉风格、动力学、操作方式与目标的虚拟世界中,持续预训练(CPT)的扩展规律,并从数据量、多样性和模型规模三个维度做了120组受控实验。结果显示,数据越多,同一游戏内表现越好;多样性有助于迁移到相关世界,但对差异较大的世界提升有限;模型变大提高数据效率,但在单一世界训练下对遥远世界的泛化较差。研究还拟合了验证损失与三者之间的经验缩放定律,并认为要构建通用具身智能体,需要超越持续预训练的更丰富训练阶段。
说明P³-VLM:面向三维视觉语言模型的基于点的定位替代方案
简介该论文指出,现有三维视觉语言模型的定位评测常依赖包围框作为空间提示,存在语义泄漏捷径:仅凭框坐标的“盲”大语言模型就能取得不错成绩。作者改用单个三维点作为提示,使盲模型在 ScanNet 的 Nr3D 上准确率从 36.4% 降至 18.0%。在此基础上,论文提出无需包围框的三条路径模型 P³-VLM,在该设置下的定位描述任务中达到 52.1% 的准确率,并在鲁棒性和泛化方面有所提升。
说明RANGER:利用语义评估奖励导航知识图谱的检索智能体
简介本文提出一种将大语言模型与强化学习结合的方法:大语言模型在训练中充当导师,为强化学习智能体提供基于语义的密集奖励,用于在知识图谱中导航并检索相关信息。实验表明,该方法在开放问答数据集上优于使用经典图搜索的检索增强基线和使用启发式奖励训练的强化学习方法。
说明AdaptMIL:数字病理多示例学习的域适应方法
简介病理基础模型借助多示例学习(MIL)处理全切片图像,但跨医院数据分布变化时性能常下降。本文提出 AdaptMIL 训练策略,将域适应融入 MIL 训练,并通过两阶段训练把表示层的域对齐与 MIL 聚合学习分开。作者称该方法在多个数据集、任务、模型和域适应目标上提升了跨医院表现,并优于其他适应方法。