说明加德满都谷地的高分辨率土地利用分割与合成图像-标签数据增强
简介本文为加德满都谷地202平方公里的区域构建了一个人工标注的六类土地利用数据集,包含408幅高分辨率RGB影像。研究发现,随机划分数据会因空间泄漏而高估模型性能,改用严格的序列块划分后性能下降最多0.095 mIoU。作者改进了SegFormer模型,仅增加1.9%参数,即在所有测试折上提升了平均IoU,增益主要体现在稀有细长地物类别上。然而,用扩散模型生成的样本进行数据增强,反而降低了所有架构的精度。
Pranil Parajuli, Sugam Dahal, Kiran Chandra Dahal
说明推理模型的推理:评估与服务中的实用经验
简介本书探讨语言模型的推理设置(如最大输出长度、答案提取、评分方法、量化等)如何影响评估结果与实际部署。作者指出,仅改变最大回复长度就能使某数学基准的准确率从0.08%变化到93.18%。全书涵盖批处理、注意力后端与缓存带来的输出差异、服务性能、结构化输出、工具调用、推理预算和长上下文任务,并给出记录推理运行、检查评估、估算容量与公平比较系统的实用建议。
Luv Verma
说明《What Broke & Why》:强化学习后训练的实践经验
简介本书面向研究者与实践者,介绍用于语言模型的强化学习后训练(RLVR与GRPO)。内容涵盖数学推理、搜索智能体、训练稳定性、混合专家模型和软件工程任务等五个训练项目,记录训练中遇到的问题、所作改动及经验教训。书中还包括奖励设计、评估、调试常见故障和可复现性等实用参考。
Luv Verma
★★★★☆ 值得关注
说明因子秩:树形决策图的一种规范代数推广
简介论文提出代代数树形决策图(ATDD),用切割矩阵的秩取代树形决策图(TDD)中对子函数的计数,从而推广了TDD。作者证明每个函数与每个vtree只对应唯一一个ATDD,其规范性可在多项式时间内从张量本身检验,并给出了vtree变换的高效方法。论文还在Lean中形式化了核心结果并给出了原型编译器。
看点用矩阵秩替代子函数计数推广TDD,给出任意vtree上的严格规范形式并在Lean中形式化,摘要报告了原型实现。
Alexis de Colnet, Stefan Szeider
说明冲突驱动设计的游戏化框架:用多智能体学习探索协作韧性策略
简介论文把城市设计中的利益冲突建模为一款非零和数字棋盘游戏,利益相关方智能体在有限资源下分配投入,并在个体收益与城市发展和韧性目标之间取舍。研究用多智能体强化学习训练策略,在4×4、8×8和基于东京立川(Tatsumi)历史地图的12×12棋盘上进行测试。在12×12模拟中,训练后智能体的平均总分为452.1,随机策略基线为357.3(共10,000次模拟)。结果显示适应性、可持续性、防洪和绿化提升的同时,活力与密度有所下降。
Jin Gao
说明基于视觉-代码诊断的绘图转代码简易测试时精修方法
简介该论文研究绘图转代码任务,即由图表生成对应的程序代码。作者提出视觉-代码诊断框架,先将生成错误归为四类,再训练轻量判别器,依据渲染图像与代码定位并识别错误,从而进行迭代修正。实验显示,该方法在多种生成模型上都能提升生成质量,并明显优于较强的测试时扩展基线。
Peiming Guo, Jinpeng Huang, Yangbin Sun 等
说明在单细胞基础模型中学习生物层级结构
简介该论文提出了一个名为 scOntoFM 的生物学启发式单细胞基础模型,将细胞本体(cell ontology)的层级结构融入表示学习。方法利用本体图中的最低公共祖先(LCA)距离,结合离线三元组采样与层级本体学习,使嵌入既保持局部邻域,又使全局几何结构反映本体关系。论文称该模型在多种细胞和基因层面基准上均有提升,零样本设置下增益尤为明显。
Xiangyu Guo, Ricardo Henao
说明Firepool:为 LinkedIn 智能体与强化学习任务调度预热 GPU 资源
简介该论文介绍了 LinkedIn 用于智能体与强化学习工作负载的沙箱与执行代理系统 Firepool。它通过共享基础镜像和按需绑定任务的方式让 GPU 容器可互换,并通过同一调用方复用、零显存待机容器以及基于队列的预算来控制预热资源。论文报告,在生产环境的一个高峰期,94.7% 的容器请求由预热或待机资源满足;在对比实验中,智能体与强化学习循环分别快 13 倍和 10.8 倍。
Ankit Goyal, Santosh Jha, Zhuo Zhi 等
说明多模态模型能看见,但能思考吗?——土耳其语视觉推理研究
简介本文研究视觉语言模型在图案补全、抽象逻辑和关系推理等高层认知任务上的表现,并在包含土耳其语数据集的多语言评测框架下进行分析。作者比较了多种数据混合策略和监督微调方法,并采用“LLM作为评判者”的方式评估推理过程的质量,而不只看最终答案。结果显示,基线模型的推理通常比微调后的模型更稳定,且监督微调可能导致模型崩溃,出现无限文本循环或空输出。研究认为,当前视觉语言模型在抽象视觉推理方面仍然存在困难。
Berke Bunyamin Sule, Yavuz Selim Aygan, Ahmed Zeer 等
说明AutoC2V:基于综合反馈训练大模型,从C++生成QoR优化的Verilog
简介该论文提出AutoC2V框架,利用真实综合结果构建训练数据(C++代码、Verilog、QoR指标和优化目标),通过监督微调和GRPO让大语言模型生成综合感知的RTL设计。为降低反复综合的成本,作者设计了QoR预测奖励模型,以低成本提供延迟和资源方面的连续奖励信号。实验表明,该方法提升了RTL功能通过率,并在延迟和资源优化上优于基础模型、多种HLS优化方法及若干通用商用模型。
Guanqi Lyu, Fei Zhao, Zhaojun Lu 等
说明学习何时思考:强化学习中的自适应内部计算
简介该论文提出自适应内部计算(AIC),一种迭代策略,可学习何时停止细化潜在表示并执行动作,从而让每个决策的计算量随状态变化。在最多八步细化的设定下,AIC在十二个基准任务上平均只执行3.3步,在四个控制与机器人任务上相比固定八步策略降低31%至44%的单决策延迟。其平均奖励在七个任务上超过最佳固定深度策略,在四个任务上落后。
Rohit Kumar Salla, Simon Stepputtis
说明AmodalBox:部分可见条件下的自动化三维边界框标注
简介该论文提出自动化标注框架AmodalBox,用于自动生成三维边界框标注。针对稀疏驾驶场景中激光雷达点云只覆盖物体部分表面的问题,该方法利用图像生成的三维资产作为被遮挡物体的完整几何先验,并通过与点云对齐来估计物体的完整空间范围。实验显示,基于其标注训练的三维目标检测器在nuScenes数据集上比强基线提升14.1 mAP,在Waymo Open Dataset的车辆类别上于IoU 0.5时提升12.45 AP。
In-Jae Lee, Namtae Kim, Robert Exley 等
说明基于盲区推理与视觉语言模型智能对话的选择性协同感知
简介该论文提出一种由视觉语言模型驱动的智能体框架,用于盲区推理和基于对话的协同感知。框架结合常规目标检测、视觉语言推理以及基于物理的几何模块,仅在安全关键场景中、针对关键遮挡物体进行协同感知,以降低资源消耗。作者基于城市交通中联网车辆采集的真实数据进行实验,报告驾驶关键盲区检测准确率超过80%,对话驱动的感知共享成功率超过90%。
Chengyuan Ma, Shixiao Liang, Hangyu Li 等
说明ATHENA:基于超图学习、利用眼动数据对幼儿自闭症进行分类
简介该论文提出名为ATHENA的模型,利用眼动数据对幼儿自闭症谱系障碍(ASD)进行分类,目标是实现早期、精准的检测。模型结合了特征级增强技术FMMix,并通过自适应超图框架捕捉特征之间的复杂关系。在两个注视坐标数据集上,模型的AUC分别为99.80%和99.86%,准确率为98.45%和98.56%。
Quang-Anh N.D., Duc Pham Minh, Thao Pham Phuong 等
说明STAR-VF:面向数据高效视频融合的时空感知表示压缩方法
简介该论文提出 STAR-VF 框架,把原始训练集压缩成一组紧凑、可学习的时空表示,再解码为合成视频片段用于训练视频融合模型,以减少对大规模数据的依赖。训练时借助冻结的代理模型提供特征级监督,无需真实融合视频作为标签。实验显示,仅用约原始时序训练集十六分之一的数据,在红外-可见光、多曝光、多聚焦和医学视频融合基准上取得了与全量数据训练相当的融合质量。
Yuchen Xian, Yunqiu Xu, Guosheng Lin 等
说明《同情式他者化:LLM 回应痛苦时的身份假设》:研究大语言模型如何通过用户透露的身份解读心理困扰
简介该论文考察个人透露社会身份后,大语言模型如何解读其自杀意念或心理困扰。研究者用成对的反事实干预,在两个相关数据集、16 种身份与对照条件及两种提示方式下,评估了六个大语言模型。结果显示,模型常把身份信息转化为解释性叙述,把困扰归因于推测中的身份相关逆境,且这种假设多出现在有同理心的回应中,尤其在用户透露边缘化身份时。作者以“同情式他者化”概念描述这种伤害,并主张应以用户自身陈述为依据解读困扰,避免缺乏证据的身份关联假设。
Drishti Goel, Ethan M. Nguyen, Violeta J. Rodriguez 等
说明WARP-JEPA:面向冻结层次化联合嵌入预测架构的摊销式推演规划方法
简介论文针对层次化联合嵌入预测架构(H-JEPA)在视觉控制中依赖测试时梯度下降规划、耗时过长的问题,提出 WARP-JEPA 框架,用学习得到的多候选轨迹提议器取代在线梯度优化,同时保持世界模型冻结。在 30 个冻结的 H-JEPA 模型、四个基准上,该方法在长时域任务中实现 9.6 至 18.8 倍的回合推理加速,并将任务成功率最多提升 33.3 个百分点。
Junjie Li, Zhaojiacheng Zhou, Kaixiang Wang 等
说明过参数化神经网络双层最小二乘问题中的泛化研究
简介本文研究双层优化中的泛化问题,其内外层目标都是最小二乘回归。作者通过函数空间中的隐式微分估计超梯度,并借助两个回归函数的一致泛化误差推导了非精确梯度方法的驻点界。当回归函数为梯度流加早停训练的过参数化双层ReLU网络时,文章在神经正切核(NTK)机制下给出了有限样本的显式误差界。数值实验表明样本量对收敛有影响,并观察到双层结构带来的初始化相关隐式偏置。
Fares El Khoury, Edouard Pauwels, Samuel Vaiter 等
说明在阿拉伯语任务上评估 Jev:比较决策模型与大语言模型在多种阿拉伯语任务和方言中的表现
简介该论文在统一的零样本协议下,评估了 67 个系统(含 47 个决策模型和 20 个大语言模型)在 9 个任务族、43 项任务上的阿拉伯语表现。结果显示 Jev 1.14.0 的平均主要指标为 69.24,Gemma-4-31B 为 71.81 且在该综合指标上最高;移除英语对照和重复项后系统排序不变。研究还比较了现代标准阿拉伯语与方言之间的差距,并指出综合分数应结合任务族结果来理解。
Hossam Elsafty, Tobias Deu{\ss}er, Lorenz Sparrenberg 等
说明通过基于搜索的推理与模型合并提升土耳其语大语言模型的数学推理能力
简介本文结合LoRA微调、权重空间模型合并与基于搜索的推理,改进大语言模型的土耳其语数学推理。研究以Turkish-Llama 8B-DPO为基础,使用MetaMath、NuminaMath和TigerLab的土耳其语译本进行训练,发现数据质量比数据规模更重要。线性合并带来最大提升(GSM8K最高达0.63),搜索方法(MCTS与思维树)则提高了推理质量的平均评分。
Ahmed Zeer, Osama Shbib, Muzaffer Kaan Yuce 等
说明RTLREX:基于大语言模型引导、可精确恢复高层RTL的框架
简介当原始寄存器传输级(RTL)设计不可获取、只剩门级网络表或输入输出描述时,RTLREX利用大语言模型协调领域工具,完成功能恢复、RTL生成、独立验证与成本引导的改写。独立验证确保恢复出的RTL与原始电路对所有输入组合等价。在ICCAD 2022竞赛问题A的30个基准上,该方法为全部基准恢复出等价的高层RTL,覆盖率超过现有方法WolFEx。
Wuqian Tang, Fangzhou Liu, Ruijie Wang 等
说明通过多任务学习调整大语言模型,用于心理健康问题、情绪与情感检测
简介本研究在Llama 3.1 8B Instruct上,结合参数高效微调(PEFT)、LoRA和4位量化,进行顺序多任务学习,用于心理健康问题检测、情绪检测和情感分析。使用4,243条英文社交媒体帖子,比较了两种任务顺序,结果显示任务顺序显著影响知识迁移与任务干扰。先学心理健康问题的顺序在该任务上表现最佳(Micro-F1为0.7624),先学情绪的顺序在情绪检测(F1为0.6052)和情感分析(F1为0.9459)上更好。同时学习的基线方法凸显了任务干扰和生成格式崩溃等问题。
Amir Rafiq Bhat, Rahim Dehkharghani, Zeki Erdem
说明用于大语言模型微调的固定秩流形上零阶黎曼优化
简介本文提出在固定秩矩阵流形上进行零阶优化,用于大语言模型的内存高效微调,预训练权重保持冻结,学习到的更新在整个微调过程中保持低秩约束。作者构建了黎曼零阶梯度估计器,并提出 ZO-RGD 及其平滑变体 ZO-RGD-S。实验表明,这些算法在多种模型和任务上与强大的纯前向基线相比具有竞争力,并在若干设置中取得提升。
Xinjue Wang, Xiuheng Wang, Yejun Zhang 等
说明生成多样且经过验证、标签自带的合成临床病历
简介本文提出SPARCLING,一个基于大语言模型的流程,用于生成带有字符级精确个人健康信息(PHI)片段标注的合成出院小结。该流程结合结构化属性采样、模板生成和红队测试,以获得多样的带标签出院小结。实验表明,其内容多样性优于现有公开数据集,并可作为基准测试揭示德语临床领域去标识化工具的失效模式;用其合成数据训练的去标识化模型也比仅用稀缺公开数据训练的更强。
Matthias Lehmann, Madeleine Werthebach
说明具有统计保证的可信递归自我改进
简介本文提出TRUST框架,用于让AI智能体在不重新训练大语言模型的前提下,通过改进自身框架实现递归自我改进。该方法采用在线多假设检验来控制多轮迭代中错误改进被接受的比例,并由大语言模型分析历史信息来决定更新所需的证据强度。实验显示,在HotpotQA、DROP和APPS基准上,被接受的劣质更新比例从贪心策略的45.59%降至2.78%,最终得分也高于现有统计门控方法。
Zihe Gao, Zhengling Qi, Yifan Cui
说明近端偏好优化:一种统一、稳定且无需奖励模型的对齐框架
简介本文提出一个近端偏好优化框架,把直接偏好优化(DPO)的隐式奖励形式与近端策略优化(PPO)的信赖域稳定性结合起来。框架包含两种算法:P²O 在 DPO 的偏好边际中引入裁剪的重要性比率,无需奖励模型;PKTO 在此基础上采用 KTO 的前景理论效用边际,并加入自调节的自适应基线与非对称加权。作者给出了 KL 信赖域、策略改进下界与收敛性的理论分析,并在三个偏好基准上对多个大语言模型进行实验,结果显示其对齐质量与 DPO、KTO 相当或更好,且在重复复用数据时更稳定。
Qisai Liu, Zhanhong Jiang, Zahid Hasan 等
说明EEGFaceSem:配对生成潜变量的脑电语义视觉建模基准数据集
简介该论文提出了EEGFaceSem,一个大规模脑电(EEG)数据集,将高质量脑电信号与由生成模型合成的逼真人脸图像配对,并为每个刺激提供生成潜向量。30名参与者在快速序列视觉呈现范式中关注特定语义特征(如微笑、发色)时的脑电信号被记录,共67,200条时间锁定记录。作者给出了单试次语义分类、跨被试投票及脑监督图像编辑与生成两项应用的基准结果。
Jun Ma, Michiel M. Spap\'e, Keith M. Davis III 等
说明同样的测量,不同的速度风险:时钟不确定下的互补卷帘快门读出
简介本文研究双摄像头卷帘快门系统在曝光时间不确定时的速度估计问题。作者证明,在测量预算相同的情况下,重复读出的速度估计风险随噪声下降而缓慢衰减,而互补读出的最小最大风险以噪声方差的速率衰减。两种设计在特定安装构型下都能得到正则条件,并给出由度量不确定性引起的风险下限。
Lunshuo Tian, Dongheng Liu, Mingwei Ma
说明基于双线性读出的等变消息传递图神经网络的通用逼近性
简介本文证明了双线性读出等变消息传递网络(BREMP)的通用逼近性,该网络是等变图神经网络原子间势的参考架构。论文构造了能够在同类原子置换下确定局部环境的特征,并证明读出层可一致逼近特征上的任意连续不变函数。文中还指出,生产中使用的DPA4架构可通过逼近论文构造的BREMP层并实现双线性读出而继承这一结论。
Pingbing Ming, Han Wang