AI 算法 · 2026年11月4日(周三)

机器学习、人工智能、自然语言处理、计算机视觉、多智能体。

RSS 订阅
arXiv cs.LG · cs.AI

BAM: Bivariate Additive Models for Interpretable Tabular Prediction

说明BAM:用于可解释表格预测的双变量加性模型

简介该论文提出双变量加性模型(BAM),这是一类成对交互的广义加性模型(GA²M)。其每个成对形状函数都被约束为简单的参数形式,即非对称二元高斯分布,因此可以用单峰等高线图直观呈现,特征对由训练过程自动选取。作者在六个表格基准数据集上进行实验,结果显示BAM的预测准确率与标准广义加性模型相当,并接近GA²M。论文还展示了准确率与需要检查的分量数量之间的权衡。

Atsushi Koike

arXiv cs.LG · cs.AI

Deep Meets Classical: A CPU-Efficient Decision-Fusion Model for Automatic Modulation Classification

说明深度学习与经典方法结合:一种适用于 CPU 的自动调制识别决策融合模型

简介该论文研究自动调制识别(AMC),即在无合作条件下识别无线信号的调制方式。作者发现,基于原始 I/Q 数据的紧凑卷积神经网络在低信噪比下更稳健,而高阶累积量分类器在高信噪比下更准确。据此提出 FuseAMC,用逻辑回归对两者的类别后验概率进行融合。在 RadioML 2016.10a 数据集上,该模型整体准确率为 55.8%,并可在单个 CPU 核心上训练和运行。

Zhiyi Yin, Zhizhao Wen, Ruoxin Zhang 等

arXiv cs.RO · cs.LG

Diversity-Aware Experience Replay via Statistical Leverage Scores

说明基于统计杠杆分数的多样性感知经验回放

简介该论文针对离线策略深度强化学习中回放缓冲区以常规经验为主、罕见情况很少被采样的问题,提出用每条经验的统计杠杆分数衡量其相对于缓冲区数据的异常程度,并与均匀采样混合抽取小批量。作者指出,重要性权重修正会抵消该方法效果,因此直接优化重新平衡后的目标;对于关系型罕见情况,则对目标相对的短轨迹窗口应用尾部重量规则。在三关节机械臂推动物体绕过障碍的任务上,罕见任务成功率由0.49提升至0.69。

Shaifalee Saxena, Alexander Scheinker

arXiv cs.CV · cs.CL 公开资源

Modality-Aware Expert Pruning for MoE-Based Multimodal Large Language Models

说明面向多模态大模型的模态感知专家剪枝(MAEP)

简介本文针对基于混合专家(MoE)的多模态大语言模型,提出一种免训练的专家剪枝方法MAEP。该方法在一次前向传播中按模态分解专家重要性,区分视觉与文本处理中的作用,并通过全局排序进行剪枝。实验显示,其在多数多模态基准上优于不区分模态的基线,在纯文本任务上保持竞争力,并将BF16专家权重占用减少约27GB。

Donggeun Kim

arXiv cs.AI 公开资源

Split-KV: Efficient Context Parallelism for Training Diffusion Drafters

说明Split-KV:训练扩散草稿模型的高效上下文并行方法

简介扩散草稿模型通过并行去噪多个草稿词元来加速推测解码。该论文提出 Split-KV,一种精确的上下文并行方法:键值分片保留在本地,每层注意力通信仅限于查询大小的张量,使通信量与上下文长度无关,并配合按实际注意力开销平衡负载的 LPT 策略。在并行规模为 64 时,文中报告其弱扩展效率为 85%至91%,相比最快的现有上下文并行基线最高加速 3.67 倍。

Geng Zhang, Fangzhao Zhang, Cong Xie 等

arXiv cs.CV

3D Banff Glomerulitis Scoring for Kidney Transplant Pathology: Feasibility Study for Volumetric Quantification

说明肾移植病理三维Banff肾小球炎评分:体积定量可行性研究

简介本文研究将Banff评分从二维扩展到三维的技术可行性与临床意义。作者提出一个三维Banff病变评分框架,对连续切片进行对齐,跨深度重建肾小球身份,并在三维中整合炎症细胞计数,采用三种评分策略。实验以肾小球炎(g评分)为例,应用于多切片肾移植活检。结果显示三维g评分在切片间更为一致;在半自动设置下,体积策略与临床生物标志物的相关性强于传统二维评分。

Yanfan Zhu, Junchao Zhu, Ruining Deng 等

★★★★☆ 值得关注
arXiv cs.AI · cs.CL · cs.LG

Routes of Reasoning: Reading and Reshaping Test-Time Compute in MoE Models

说明推理路径:读取并重塑MoE模型的推理时计算

简介本文研究混合专家(MoE)模型路由器如何反映推理行为,并将六类推理行为(规划、执行、复述、事实、反思、结论)与路由信号对应起来。作者在推理时选择性调整专家路由分数,以抑制模型过度思考,减少生成的token数量。实验涵盖四个模型和四个基准,生成token数中位数减少30.4%,准确率下降不超过0.5个百分点,部分情况下还有所提高。

看点将MoE路由器作为推理行为的训练免费控制接口,并通过编辑专家分数抑制过度思考;摘要报告四个模型、四个基准上生成token中位数减少30.4%。

Shengjie Wang, Mohsen Fayyaz, Nanyun Peng

arXiv cs.DB · cs.AI · cs.ET

Autonomous ETL Pipelines for Salesforce M&A Consolidation: A Reference Framework, Jitterbit Mapping, and Reproducible Simulation Study

说明用于Salesforce并购数据整合的自主ETL流水线:参考框架与可复现仿真研究

简介本文提出一套自主ETL(抽取、转换、加载)数据管道的参考框架,用于在两家企业各自使用Salesforce、且两套系统仍在运行时,将客户数据合并到单一组织中。框架包含分区批量抽取、声明式映射、质量门控、主数据匹配、受约束加载及带熔断机制的增量同步,并映射到Jitterbit Integration Studio。研究在带已知真值的合成数据上进行了评估,匹配的成对F1分数在账户和联系人上分别为0.918和0.885;质量门控防止了全部加载失败。生产环境验证仍属未来工作。

Imran Basha Shaik, Sahla Sultana, Khader Moinuddin Shaik

arXiv cs.CV

DecoupAttn: Decoupled Sparse Attention for Training-Free Acceleration of Video Diffusion

说明DecoupAttn:用于视频扩散模型免训练加速的解耦稀疏注意力方法

简介本文针对少步视频扩散Transformer的稀疏注意力加速问题,提出解耦稀疏注意力DecoupAttn,用语义聚类补偿所有键,并在离线确定的少量块上做精确注意力修正误差。论文还提出失真预算方法用于分配精确计算,以及重分配缓存机制更新漂移的键;该方法无需训练,推理时使用标准块稀疏内核和一个融合补偿内核。

Yanjin Li, Bingbing Qiu, Qiang Huang 等

arXiv cs.DS · cs.LG

Improved approximation algorithms for capacitated cluster editing

说明有容量限制的聚类编辑问题的改进近似算法

简介本文研究有容量限制的最小分歧聚类编辑问题:在完全符号图上,把顶点划分为大小不超过给定上限 k 的不相交团,使团内负边与团间正边的总数最小。作者提出了基于无容量问题近似算法的缩减方法,以及聚类线性规划采样与枢轴法相结合的混合算法。基于这些方法,文中分别给出了随机化 (1.9+ε) 与 (1.7537+ε) 近似算法。

Cong Ma, Guangting Chen, Yong Chen 等

arXiv cs.AI · cs.CL

Autonomous agents for electricity-system planning

说明用于电力系统规划的自主智能体

简介该论文提出一个自主规划框架,让智能体提出投资上下限、储能运行条件和馈线改造方案,并根据数值反馈修改设计、决定何时停止。框架自动执行年度投资与调度优化及代表性馈线校验,按固定验收标准保留满足条件的最低成本方案。作者在五个电力系统、四个国家的十个系统年情景下评估了四十条受碳约束的轨迹。

Yoon Pyo Lee, Samrendra Roy, Jay Phil Yoo 等

arXiv cs.CV · cs.AI

Do Saliency Maps Fail Dense Breasts? A Chance-Normalized, Confounder-Aware Audit of Explanation Fairness in Mammography

说明显著性图在致密乳腺上会失效吗?乳腺X线摄影解释公平性的机会校正与混杂因素审计

简介该论文检验乳腺X线摄影分类器的显著性图(Grad-CAM、Integrated Gradients和遮挡图)在致密乳腺中能否更差地定位癌变。研究基于1,345张CBIS-DDSM恶性病变影像,发现致密乳腺病例的定位命中率明显低于非致密乳腺,但病例构成差异(主要是致密乳腺中钙化更多)解释了约一半或更多差距。作者建议按分类器分别报告调整前后的致密度差距,并加入病灶可见度与模型依赖性对照。

Ahmed Jaheen

★★★★☆ 值得关注
arXiv stat.AP · cs.AI · cs.LG

Does Your Trial Simulator Know What the Drug Does? An Intervention-Blind Test of Interventional Validity on 7,207 Registered Trials

说明你的试验模拟器知道药物的作用吗?基于7207项注册试验的干预盲测检验

简介本文提出一种衡量患者“世界模型”能否真正模拟临床试验干预效果的方法。研究者从ClinicalTrials.gov上30119项已公布结果的II/III期试验中构建了9996组经审核的试验内对比,并用一个不含干预信息的参考模型来衡量模拟器对干预本身的依赖程度。结果显示,基于注册数据训练的梯度提升模拟器的干预技能为负值,而仅阅读注册方案的前沿语言模型干预技能为0.20,较小和开源模型则接近检测下限。

看点提出以干预盲参考度量患者世界模型的反事实能力,构建7207项试验的9996组对比,并对比多类模型。

Alicem Koyun

arXiv cs.AI · cs.AR · cs.DC

CHARM+: Cross-Hardware Attention with Re-Merge Multistream Mechanism

说明CHARM+:跨硬件注意力与多流重合并机制

简介随着序列长度不断增长,基于序列并行的分布式注意力(如 Ring-Attention)成为大语言模型的主流方案,但通信依赖限制了计算与通信的重叠。本文提出 CHARM+,将顺序通信分层重组以实现层内并行与计算重叠,并将跨硬件通信与硬件内通信解耦,以消除带宽不均衡带来的同步开销。与 Ring-Attention 相比,其前向与反向算法在双 NUMA PCIe 架构上平均分别加速 1.3 倍和 1.7 倍,在双节点 NVLink 架构上分别加速 2.8 倍和 2.9 倍。

Xinhang Zhang, Boning Zhang, Chengchun Liu 等

arXiv cs.AI

EchoKV: Self-Corrective KV Cache Eviction via Iterative Query Feedback

说明EchoKV:通过迭代查询反馈实现自我纠正的KV缓存淘汰(论文,cs.AI)

简介该论文针对大模型推理中的KV缓存淘汰问题,指出用于生成淘汰查询的工作空间若早期出错,会扭曲后续查询并强化错误的淘汰决策,在证据分散的长文本中尤为明显。作者提出EchoKV,先用未来解码位置的提议初始化工作空间,再利用早期解码生成的查询迭代修复工作空间,并在LongBench上相较LAQ对多跳跨文档问答等证据分散任务有明显提升。

JianKun Zou, Tongtong Yuan

arXiv cs.SE · cs.LG

Retrieval Supersedes Scale: Efficient Log Level Prediction via Multiplex Socio-Technical Context

说明检索胜过规模:借助多维社会技术上下文实现高效日志级别预测

简介本文提出一种基于检索的大语言模型日志级别预测方法,不再随机挑选上下文示例,而是按功能相似性和代码归属(由同一开发者维护)检索相关日志示例。在十个流行的Java项目上评估四个大语言模型,结合两类信号的中位AUC达到0.83至0.97,优于随机基线和有监督预测器DeepLV。

Youssef Esseddiq Ouatiti, Mohammed Sayagh, Bram Adams 等

arXiv cs.CL

Selective, Risk-Controlled Emotion Forecasting in Conversation: From a Persistence Barrier to Departure Detection with Conformal Guarantees

说明对话情绪预测:基于保形风险控制的选择性离开检测

简介本文研究对话中的情绪预测,指出直接预测下一时刻情绪数值较难,而重复说话人自身上一状态的持续性基线难以被冻结编码器的修正显著超越。作者将任务重构为选择性离开预测,即判断情绪何时偏离持续状态,并提出对话级保形风险控制以约束已承诺预测的期望损失。该保证在所测十二种配置中均达到目标,但代价是大量弃权,且在最难的语料上覆盖率与告警召回率明显下降。

Bin Wen, Dai-Qiao Zhang, Tien-Ping Tan

arXiv cs.CL · cs.LG 公开资源

Information-Matched Auditing of Conversational Emotion-Shift Forecasting: A Leakage-Safe Evaluation Protocol

说明对话情绪转变预测的信息对齐审计:一种防泄漏评估方案

简介该论文提出一套信息对齐、防数据泄漏的对话情绪转变预测评估方案,要求各模型在相同信息条件下比较,并统一超参数搜索预算。研究在四个文本语料和六类因果模型上检验该方案,发现可部署的当前情绪分类器与使用真实情绪标签的诊断设置会得出不同结论。

Bin Wen, Dai-Qiao Zhang, Tien-Ping Tan

arXiv cs.AI 公开资源

RECAP: Context-Aware Prediction Recycling with Request-Local and Persistent Memories for Multimodal Speculative Decoding

说明RECAP:面向多模态投机解码的上下文感知预测回收方法

简介本文提出RECAP方法,用于视觉语言模型的投机解码加速。它把目标模型自身的预测按一、二、三个词元的键分别存储:上下文记忆仅限当前请求,持续记忆则跨请求保留。通过熵置信度加权融合检索结果,并以最佳优先搜索构建候选树,再由一次目标模型前向传播验证。论文报告,在Qwen2.5-VL-7B和LLaVA-1.6-7B上,于七个单轮基准测试中平均加速比分别为1.66倍和1.56倍,均高于最强的免训练基线Token Recycling。

Hengjie Zhu, Dayan Wu, Xinze Liu 等

arXiv cs.CV · cs.MM

Chronos: Sequential Identity-Preserving Video Generation by Temporal Anchoring

说明Chronos:通过时序锚定实现的连续身份保持视频生成

简介该论文提出 Chronos 框架,用于根据文本和参考图像生成保持人物身份一致的视频,并同时支持单段人脸身份保持与多段连续动作生成。方法包括语义提示锚定、视觉帧锚定和基于指标引导的候选路由。作者称其在 ACM MM 2026 身份保持视频生成挑战赛的 Track 1 和 Track 2 中均获得第一名。

Mengqi Huang, Wenchuan Wang, Zhendong Mao 等

arXiv cs.DB · cs.LG · cs.PF

When Is One Query per Template Enough? Adapting Learned Cost Models to New Hardware

说明每个查询模板只跑一次够不够?把学习型代价模型迁移到新硬件

简介学习型代价模型在一台机器上训练后,数据库迁移到新硬件时执行计划不变但运行时间各自变化。论文在 PostgreSQL 上用 TPC-H 和 TPC-DS 的 1162 个查询,在六种环境中计时,研究用新机器上的少量查询如何校正模型。结果显示,每个模板测量一个查询并加上分段线性校正后,TPC-H 和 TPC-DS 的误差接近在新机器上重新训练的模型;对未测量过的模板,各种校正相比速度因子平均都没有超过 2% 的改进。

Krish Patel

arXiv q-bio.QM · cs.AI

CellCanon: An Agentic Cellular World Model for Prediction, Explanation, and Observation-Driven Updating

说明CellCanon:用于预测、解释和基于观测更新的智能体式细胞世界模型

简介本文提出CellCanon,一种智能体式细胞世界模型,将单细胞表达预测、基于证据的解释和基于观测的更新统一起来。其预测部分复用条件层面的生物学证据来生成单细胞表达。在三种细胞系的339个保留药物条件上,CellCanon在差异表达AUPRC和Macro-F1上优于各指标最佳基线,并在方向Macro-F1上有所提升。解释和更新功能也在源证据基准和模拟实验反馈中得到评估。

Zhaokang Liang, Shuyang Zhuang, Xiaoran Jiao 等

arXiv cs.CL

When Does Better Confidence Improve a Knowledge-Graph Audit?

说明更好的置信度何时能改进知识图谱审核?

简介本文研究大语言模型构建的知识图谱中,置信度估计为何有时无法显著提升人工审核效果。作者通过可修复性、选择空间与标签有效性分析这一差距,并将非自适应审核建模为预算覆盖问题。在Re-DocRED数据集的两个跨文档图谱上,基于错误率与扇出队列的方法比联合模型多留下3.98至4.74个百分点的错误,而开放共享动作后的联合规划在点估计中可减少残余错误。

Zehao Lin, Kai Chen, Xixuan Hao 等

arXiv cs.LG

MIGONet: a multiple-input graph neural operator with solver-free discrete manufactured-solution training

说明MIGONet:一种多输入图神经算子,并采用无需求解器的离散人工解训练

简介本文提出多输入图神经算子MIGONet,用于稳态热传导的代理建模,并给出一种离散人工解方法(MMS)来生成训练数据,无需求解偏微分方程。该方法先预设温度场,再用与有限差分法相同的离散算子计算源项和边界数据,使每个样本都满足离散控制方程。在矩形区域上,MIGONet的平均相对温度误差在曲线导线加热与高斯光斑加热两种情形下分别为10.31%和10.64%,优于MIONet和去掉完整源项编码器的版本。对于10,000个样本,数据生成时间从486.65秒降至3.15秒。论文还在L形、圆盘形和环形区域上评估了单独训练的模型。

Muhammad Hasnain, N. K. Anand, Arun Srinivasa

arXiv cs.CV

Feature Puzzles: Single-Image Supervision for Multi-View 3D-Aware Segmentation

说明特征拼图:用单张图像监督学习多视角一致的3D感知分割

简介本文提出Feature Puzzles框架,仅利用单张图像的语义分割标注,学习多视角一致的分割能力。方法通过图像裁剪和几何变换构造伪标签,并结合预训练3D基础模型的特征,使用轻量可插拔网络完成分割,支持单视角或多视角提示,并可扩展到开放词汇3D分割。

Jiahao Ma, Qiang Zhang, Miaomiao Liu 等

★★★★☆ 值得关注
arXiv cs.GT · cs.AI · cs.LG

AI-Assisted Classification under Correlation Neglect and Trust

说明在相关性忽视与信任条件下的AI辅助分类

此语言的简介未通过日期、金额等核对,暂缓展示,请以原文为准。

看点新意在于把相关性忽视与信任校准纳入人机决策模型并给出闭式相图;摘要报告在ChatBench上分解准确率损失并识别两个模型参数。

Dingwen Kong, Liang Lyu, Saurabh Amin 等

★★★★☆ 值得关注
arXiv cs.LG · math.OC

On Convergence of Gradient Temporal-Difference Learning with Regularized Corrections and Eligibility Traces

说明带正则化修正与资格迹的梯度时序差分学习收敛性研究

简介本文研究强化学习中的时序差分(TD)学习算法。作者针对带正则化修正的TDRC(λ)算法,在非独立同分布的离策略数据和状态相关、历史相关的λ参数下建立了收敛性证明,并提出了降低大贝尔曼误差敏感性的TDRC(λ)-Huber变体。论文给出了相应的充分收敛条件,并指出在均值TD矩阵正稳定时,两种受约束算法在足够强的正则化下都能收敛,且无需正定性。

看点将TDRC收敛理论从单步i.i.d.扩展到资格迹与非i.i.d.离策略数据,并提出Huber变体,理论结论较完整。

Jingyi Jin, Martha White, Hao Wang

arXiv cs.AI

Auditable Unlearning for LLMs

说明面向大语言模型的可审计遗忘

简介机器遗忘旨在在用户提出删除请求后,从已训练模型中移除其数据。现有方法通常只评估遗忘效果、能力保留和抗成员推断攻击能力,却未考察服务方能否向用户提供删除已发生的证据。本文将可审计性作为第四项评估维度,并提出两阶段方法:先用铰链损失扩大被遗忘集与保留集之间的审计统计量差距,再通过推理阶段的拒绝采样进行筛选。文中在TOFU、MUSE和RWKU上对十一种遗忘方法进行了测试。

Piyush Tiwary, Anushka Srivastava, Prathosh A.P

arXiv cs.CL 公开资源

CARTBench: Rubric-Based Evaluation of Shopping Advice for Complex and Ambiguous Requests with Timelines

说明CARTBench:面向含时间线的复杂模糊购物请求建议的评分标准评测基准

简介该论文提出CARTBench,用于评测大语言模型购物助手在复杂且含糊的多轮对话购物请求中的推荐能力。基准包含来自17个零售领域的带时间戳对话与1603条商品记录,并为每个案例制定基于理想回复原则的评分标准,共1328条专家标注条目,涵盖核心、卓越与安全三类。实验评测了7个商用API模型和开源模型,结果显示模型在核心项上表现较好,但卓越项上均未超过45%,作者据此指出理解与执行之间存在差距。

Yuqin Dai, Zhanwei Zhang, Honghui Yang 等

arXiv cs.CV · cs.AI

Generative AI for urban planning: synthesizing land-use maps with satellite imagery via DualControlNet

说明用于城市规划的生成式AI:通过DualControlNet将卫星影像与土地利用图同步合成

简介该论文提出DualControlNet,一种生成式土地利用模型,可同时合成高分辨率土地利用图和卫星影像。模型基于奥兰多和芝加哥的超过40,000组配对图像块训练,并用土地利用、空间一致性和图像质量指标进行评估。与单模态基线相比,它在多项指标上有所提升,并能响应「高密度开发」等文本提示,支持多维度的情景规划。

Qingqi Song, Yuzhou Chen, Lingqian Hu 等

arXiv cs.AI · cs.CV

Risk Control Certifies Rates, Not Magnitudes: An Audit of Selective Fetal Biometry

说明风险控制只能约束错误率,无法约束错误幅度:对选择性胎儿生物测量的审计

简介论文审计了一套基于工具的胎儿头围(HC)测量流程,该流程在无法可靠测量时选择拒答。作者用精确 Clopper-Pearson 风险控制校准轮廓完整度阈值,得到的保证与人工设定的下限难以区分,但流程仍输出了271.3毫米的严重误差。提高可接受范围的下限(从50毫米到55毫米)可把最坏误差降至11.4和11.1毫米,而仅通过完整度阈值抑制则代价更高。

Zhengshuai Yang, Linna Jiang, Changyun Li 等

arXiv cs.LG · stat.ML

A low-rank decoder bottleneck bounds reliability in foundation-model perturbation prediction

说明低秩解码器瓶颈限制基础模型扰动预测的可靠性

简介该论文审查了STATE所用状态转移(ST)解码器在三种编码器和四种细胞系(CRISPRi)下的表现。研究发现解码器第一注意力层输出为低秩,将其投影到4至32个固定方向后,平均每扰动Pearson delta相关性(PDC)基本保持。作者提出以预测响应到最近训练响应的余弦距离作为每个预测的置信度评分,该评分与PDC的平均绝对Spearman相关系数为0.81,且阈值可跨编码器和细胞系迁移,对药物扰动同样有效。

Zheyu Zhang, Yuanhao Huang, Fan Feng 等

arXiv cs.RO · cs.CV

Time-to-Goal: Learned Temporal Metrics for Long-Horizon Planning with JEPA World Models

说明Time-to-Goal:用于JEPA世界模型长程规划的可学习时间度量

简介该论文针对基于联合嵌入预测架构(JEPA)的规划方法,指出用欧氏距离衡量目标代价时,时间上距离目标远近不同的状态可能得到相近代价。作者提出轻量级度量Time-to-Goal(T2G),用离线轨迹中的潜在三元组训练,使时间上更近的状态距离更小,编码器与预测器保持冻结。在四个导航与操作基准上,平均规划成功率由32.7%提升至63.0%。

Ruilong Yu, Fei Ye

arXiv eess.IV · cs.CV

Dual Flow: Joint Image-Measurement Flow for Inverse Problems

说明Dual Flow:用于逆问题的图像-测量联合流模型

简介该论文提出 Dual Flow,一种用于求解线性逆问题的联合流模型。它在图像域与测量域中耦合两条流,同时估计干净图像及其对应的无噪声测量,从而使重建结果满足前向模型。实验表明,该方法在多种线性逆问题和图像数据集上,在失真指标和感知质量方面均达到先进水平,且重建速度明显更快。

Sevket Ege Yesilyurt, Figen S. Oktem

arXiv cs.LG · cs.AI

PEARL: Prediction Error-Adaptive Regularized Learning for Selective Forgetting under Partial Preference Drift

说明PEARL:部分偏好漂移下的选择性遗忘学习方法

简介这篇论文研究用户偏好随时间变化时的个性化推荐与模型选择问题。作者提出PEARL方法,在预测误差较大的特征方向上回退置信度累积,其他方向保持不变,从而只遗忘已过时的部分。在包含1500名用户、21个大语言模型的PRISM个性化回复选择基准上,PEARL优于贪心方法与神经上下文老虎机基线,并优于滑动窗口和折扣式遗忘方法。

Rashmi Gangadharaiah, Balakrishnan Narayanaswamy

arXiv cs.AI

Vision Paper: Why Distributed LLM Post-Training and Decentralized Alignment Are Now Essential

说明立场论文:为何分布式大模型后训练与去中心化对齐现在至关重要

简介这篇论文主张分布式学习(包括联邦学习和去中心化学习)应成为大模型后训练的一等范式,而不仅是隐私附加功能。作者认为RLHF、DPO等方法默认偏好数据需要集中,并从隐私与数据主权、多元性与代表性公平、鲁棒性与可扩展性三方面论证这一假设的问题。论文还梳理了相关技术挑战,提出算法方向并勾勒研究议程。

Zhanhong Jiang, Qisai Liu, Soumik Sarkar

arXiv cs.RO · cs.AI · cs.LG

RACE: Calibrated Cumulative Scoring for Rollout-Free Robot Policy Checkpoint Selection

说明RACE:用于免实机推演的机器人策略检查点选择的校准累积评分方法

简介本文提出一种名为RACE的新指标,可在不进行实机推演的情况下对机器人策略的训练检查点进行排序。该方法利用一组固定的留出成功轨迹,将动作偏差与相似状态下的动作差异阈值进行校准,并通过连乘累积使较大偏差降低后续参考预测的权重。在仿真与真实机器人实验中,其排序结果与部署成功率的一致性优于基线方法。

Changyeon Kim, Yekyung Nah, Kimin Lee

arXiv cs.LG · math.OC

Pathwise-Budgeted LLM Routing: Online Allocation with K-Bit Tail-Cost Learning

说明在预算约束下按路径分配的大模型路由:基于K位尾部成本学习的在线分配

简介本文研究在固定预算下如何选择调用哪个大模型以及是否重试失败任务,目标是在服务停止前解决尽可能多的任务。作者提出上下文赌博机策略ADP-HT,学习各模型的任务成功概率,并用量化分位网格上的粗化响应长度标签构建保守成本估计。实验显示,在最紧的预算下,它在MATH500和GPQA上解决的任务数超过最佳基线的两倍,并在RouterBench的14个预算中的10个上取得最高平均累计得分。

Hanzhang Qin, Sophie H. Yu, Yuewei Zhang 等

arXiv cs.AI · cs.LG

Autonomy and Coordination in Intelligent Manufacturing: A Recursive Autonomous Agent Framework

说明智能制造中的自主性与协同:递归自主智能体框架

简介本文从复杂自适应系统视角分析人类生产组织中的智能,认为个体自主与集体协同是两个相互耦合的机制,并借助学习与适应不断改进。作者提出递归自主智能体(RAA)框架,以目标驱动的自主智能体和递归组织结构为基础,用目标契约与能力契约定义局部目标与组合方式,并通过统一接口把设备、产线和工厂连接起来,用于智能制造的工程实现。

Yuning Chen, Hongda Zhang, Linqiang Hu 等

arXiv cs.CL 公开资源

TandemBench: Benchmarking Decision Models for Multi-Agent Collaboration

说明TandemBench:多智能体协作决策模型的基准测试

简介本文提出TandemBench,包含1200道多智能体烹饪场景题目,要求模型在完整信息下从候选团队方案中选出最优方案,并判断供选方案之外是否存在更优安排。作者评估了40个原生决策模型和10个通用语言模型。最佳原生决策模型的决策准确率为62.50%;在最优性验证任务中,原生决策模型接近随机水平,且部分模型无论最优方案是否已存在都会报告更好的替代方案。

Baohang Li, Xiaocheng Feng, Bing Qin

arXiv cs.CV

DualCast: Dual-Image Conditioned Diffusion Transformers for Digital Human E-Commerce Video Generation

说明DualCast:面向数字人电商视频生成的双图像条件扩散Transformer

简介该论文提出DualCast框架,用于生成数字人电商视频,使视频能同时保持商品外观、人物身份和整体风格。方法将商品图与人物图分别编码后放置在序列前后边界以区分角色,并采用掩码加权损失强化商品、人脸及二者重叠区域的监督,同时通过条件丢弃支持双图、仅商品和仅人物三种生成模式。作者还构建了一个包含1万条电商视频的数据集用于训练,并报告了较强的实验结果。

Lifan Jiang, Yibo Zhao, Senlin Cheng 等

arXiv cs.CV 公开资源

Navigational Safety of Marine Surface Vehicles in Restricted Visibility: From Intelligent Vision to Vision-Centered Multi-Sensor Fusion

说明能见度受限条件下水面船舶的航行安全:从智能视觉到以视觉为核心的多传感器融合综述

简介本文综述了能见度受限情况下水面船舶(MSV)的智能视觉技术及以视觉为核心的多传感器融合方法。文章梳理了船载视频稳定、视觉感知增强、目标检测与跟踪、可航区域分割四类关键问题的研究进展,并介绍了红外与可见光融合、雷达-视觉融合、激光雷达-视觉融合、AIS-视觉融合等方法。文中还总结了开源数据集和安全关键应用,并指出了未来的挑战与研究方向。

Ryan Wen Liu, Fengchuan Song, Tianxiang Wang 等

arXiv cs.CL · cs.AI

Learning When Human Decisions Matter: Executor-Relative Consultation Value for LLM Agents

说明学习何时需要人类决策:面向大模型智能体的执行者相关咨询价值

简介该论文研究大模型智能体在有限预算下应在哪些决策点咨询人类。作者提出咨询价值蒸馏方法(CVD),先用蒙特卡洛执行者推演离线估计咨询价值,再蒸馏为轻量预测器用于预算分配,部署时无需推演。在多种设定下,该方法优于直接提示和信息价值等基线。

Shuli Jiang, Khushbu Pahwa, Yuting Zhang 等

arXiv cs.CV 公开资源

ReTailor: A Residual Feature Tailoring Framework for Real-Time Cross-Sensor Pansharpening Adaptation

说明ReTailor:面向实时跨传感器全色锐化适配的残差特征裁剪框架

简介论文针对全色锐化模型在未见传感器上泛化差的问题,提出实时顺序跨传感器适配框架ReTailor。该方法只在自监督、物理感知约束下快速优化一个轻量残差特征裁剪模块,用于修正跨传感器偏移,而不改动已学习的融合先验。同时结合内容感知补丁选择与滚动残差自举,以提升质量和效率。

Jing-Ze Liang, Wei-Jie Xiao, Zi-Han Cao 等

arXiv cs.CL · cs.AI

Matching the Training-Time Weight Rule in Inference-Time Expert Deactivation

说明推理阶段专家停用中与训练时权重规则保持一致

简介本文研究混合专家模型在推理时停用部分专家的效果,比较了移除、冻结、剩余专家重归一化和未归一化重新路由四种实现方式,覆盖五个指令微调检查点及一个基础OLMoE检查点。作者提出权重和模型,把专家贡献的损失与分支尺度的变化同训练时使用的权重规则联系起来。实验显示,当训练规则与实现方式一致时困惑度上升较小,规则不一致时困惑度大幅升高。

Hao Cheng (Zhejiang Gongshang University), Zhiyu Yang (Chang'an University), Bo Ma (Zhejiang Gongshang University) 等

arXiv cs.CL

Phonological Knowledge of Chinese Characters in Language Models

说明语言模型中汉字的语音知识:一项基准与分析研究

简介本文提出 PinyinBench 基准,涵盖同音字、声母、韵母、声调及多音字,考察 17 个纯文本与多模态语言模型对汉字语音的掌握情况。研究结合行为评测、分层探测与激活引导三种方法。结果显示,模型对声母和韵母掌握较好,但对仅声调不同的字对判断明显更难,声调信息也更难被读取和操控。

Xiaozhe Ji, Renfen Hu, Hai Hu

arXiv cs.CV · cs.AI · cs.GR

GREP: Grounding Generated Room Evaluation in Principles

说明GREP:基于原则的生成房间场景评估框架

简介该论文提出GREP框架,用于评估由大语言模型选择和摆放家具生成的室内场景质量。框架包含三层评估原则:基础物理有效性、视觉一致性和人类使用逻辑,并由评估智能体据此识别问题、收集证据并给出评分与报告。实验显示,GREP与人类多数偏好的一致率为87%,且其报告能帮助改进场景质量。

Mohan Cao, Yongsen Mao, Chucheng Xiang 等

arXiv cs.CV · cs.LG · cs.RO

WayPOP: A Panoramic Open-Set Panoptic Tracking Benchmark

说明WayPOP:全景开放集全景分割与跟踪基准

简介该论文提出了WayPOP基准,用于评估自动驾驶等智能体在多摄像头、多时间帧下,对训练类别之外的未知物体进行分割和跟踪的能力。数据基于Waymo真实序列,并从Objaverse插入了约670个三维模型,共形成980条未知物体轨迹和53,452个掩码标注。实验显示,现有开放集方法在真正的开放场景中仍有明显局限。

Rohit Mohan, Maximilian Luz, Swarnava Chowdhury 等

arXiv cs.IR · cs.LG

Item Representations Matter: Bridging Hard Semantic IDs and Soft Prototype Mixtures for Generative Retrieval

说明物品表示的重要性:在硬语义ID与软原型混合之间架起桥梁,用于生成式检索

简介本文针对推荐系统的生成式检索,提出CAP-Mix流式推荐模型,将每个物品表示为共享原型的软混合加上物品专属向量。原型、分配与物品向量联合训练,推理时保留软表示。在三个数据集上的对比显示,该方法优于扁平表,并在六个基准上相较各数据集和指标的最佳基线提升了HR@5与NDCG@5。

Vicente Balmaseda, Dongqi Fu, Jiarui Feng 等

arXiv cs.AI

Consistency Is Not Understanding: Orbit Audits for Neural Field Weight Readers

说明一致性不等于理解:神经场权重读取器的轨道审计

简介该论文研究如何从神经网络权重中识别视觉内容,并通过隐藏神经元置换和正ReLU缩放等保持函数不变的变换来检验读取器是否只依赖功能信息。实验使用480个独立拟合的形状场和1000个MNIST场,结果显示在联合变换下统计读取器准确率明显下降,而归一化集合读取器保持不变的预测。论文还指出,即使对等价提示做规范化,也不能证明识别能力或保证生成回答一致。

Sungguk Cha, Mintae Kim, Youngsub Han 等

arXiv cs.SE · cs.AI

DARE: Difficulty Analysis for Repair Enhancement

说明DARE:修复增强的难度分析框架

简介本文提出DARE框架,用于衡量和预测代码修复任务的难度,以观测到的多个编码智能体失败率作为难度指标。框架使用从基准文件中提取的151个静态特征训练难度模型,并分析七类修复任务特征组的贡献,据此为每个任务选择针对性的智能体支持。在四个基准划分(共2,594个任务)上的实验显示,预测结果与真实难度的斯皮尔曼相关系数为0.476至0.621,且针对显著特征组匹配支持后,修复成功率有所提升。

Jikwang Lee, Seungwook Jung, Jaechang Nam

arXiv cs.RO · cs.LG · cs.SY

ZipDrift: Generating Multimodal Short-Horizon MPC Costs with One-Step Drifting Models

说明ZipDrift:用单步漂移模型生成多模态短视域MPC代价

简介短视域模型预测控制计算快但缺乏远见。该论文提出ZipDrift,训练一个单步漂移生成器来生成MPC代价修正,偏向闭环代价较低的方案,且仅通过候选修正的代价评估进行学习,不对优化器求导。生成的候选修正由学习得到的评判器排序,再由基于模型的MPC保证动力学与约束。在由ZipMPC导出的超车基准测试中,ZipDrift在全部600个测试回合中无碰撞。

Ke Zhang

arXiv cs.AI · cs.LG

FlyHash for LLM Agent Memory: An Empirical Validation and a New Application

说明用于大语言模型智能体记忆的 FlyHash:实证验证与新应用

简介该论文把果蝇嗅觉回路启发的 FlyHash 哈希方法应用于大语言模型智能体的记忆检索,并与 SimHash 及 HNSW 等方法比较。作者在多个数据集和多个随机种子上验证了 FlyHash 在相同比特数下的近邻保持质量优势,但发现其在内存和延迟上并无实际优势,HNSW 在常规规模下表现更好。论文还表明该质量优势在非循环的智能体记忆相关性标签上依然成立。

Mohan Bheemadolu, Chrisogonas O. Odhiambo

arXiv astro-ph.HE · cs.AI · cs.LG

Unsupervised Neural Operators for Rotating Relativistic Stars: High-Fidelity Equation of State Inference and Pulsar Spin Evolution at Scale

说明用于旋转相对论星体的无监督神经算子:高精度状态方程推断与脉冲星自转演化

简介该论文针对快速旋转中子星内部的轴对称广义相对论流体静力平衡方程,提出基于物理信息的神经算子求解器。求解器仅以偏微分方程作为训练目标,以无监督方式训练。论文称其在精度损失可忽略的情况下实现约10^3倍的加速,从而使考虑自转与状态方程不确定性的种群合成与状态方程推断在计算上可行。

Anarya Ray

arXiv cs.LG

Optimizing Recourse Under Predictive Multiplicity

说明预测多重性下的可行补救方案优化

简介算法补救旨在找出能把不利的模型预测转为有利结果的修改方案。论文在预测多重性(多个表现相近的模型对同一个体给出不同预测)下,把稳健补救建模为在预算约束下最小化多个竞争模型中的最坏有效性损失,并提出可高效调用预测器的算法 ORPM,给出收敛的充分条件。作者在一个合成数据集和五个真实数据集上进行了评估,竞争模型集包括线性、神经网络、混合及决策树模型。

Shahin Jabbari

arXiv cs.CL · cs.AI

How Well Can Large Language Models Impersonate Individual Authors? A Comparative Evaluation

说明大语言模型能多像特定作者?一项对比评估

简介本文比较了六种主流大语言模型模仿个人作者写作风格的能力,测试文本为风格一致性较高的短篇商品评论。研究设计了简单和复杂两类提示,并用基于余弦距离的指标评估模仿效果。结果显示,Gemini 3 Pro表现最好,但其大量复用训练文本中的句子和短语,而多数模型生成的文本在嵌入空间中与目标作者的人类文本聚类基本分离。

Harshit Gupta, Shunichi Ishihara

arXiv cs.CV

ME²FDiff: Multiscale Expert Enhancing Feature Diffusion in Residual Network for Brain Tumor Segmentation

说明ME^2FDiff:用于脑肿瘤分割的残差网络中多尺度专家增强特征扩散方法

简介本文提出一种用于治疗后胶质瘤MRI分割的单模型网络ME^2FDiff。该方法通过注意力条件的频谱扩散模块优化瓶颈特征,并利用多尺度专家增强模块融合编码器中间尺度特征。在BraTS 2024治疗后胶质瘤数据集上,其各肿瘤子区域的结果均优于单模型基线,并在整体肿瘤上取得91.23%的Dice和2.13毫米的HD95,参数量在对比模型中最少。

Afrida Rahman, Bijoy Kundu

arXiv cs.AI · cs.CL 公开资源

PAYWORTHY: Can LLMs Predict Which Freelance Jobs an AI Agent Will Complete?

说明PAYWORTHY:大语言模型能否预测AI智能体会完成哪些自由职业工作?

简介该论文在一个自由职业平台的1,494条真实招标信息上测试,让智能体仅依据招标内容尝试完成工作,再由充当客户的大语言模型判断是否接受。研究让18个模型预测智能体成功的可能性,并用AUC衡量排序能力。结果显示,若告知智能体的能力限制,各模型排序表现较好(AUC 0.66至0.86);若仅描述为具备浏览器和代码执行能力的通用智能体,表现接近随机(0.45至0.56)。

Mohammad Reza Rezaei, Dingxian Wang, Brett Levert 等

arXiv cs.MA 公开资源

Mechanical Engineering Skills: An Open Library of Agent Skills for Design, Analysis and Manufacturing

说明机械工程技能:面向设计、分析与制造的开源智能体技能库

简介本文介绍了一个开源的机械工程智能体技能库,包含33项技能,用户可通过一次文字或语音对话调用CAD、仿真、制造等功能。每项技能包含操作说明、可执行工具和验证流程,由语言模型负责理解请求并协调技能,确定性工具完成计算并返回经校验的结果。文中还通过五个案例研究展示了部分分析结果与参考数据的一致性。

Achuth Chandrasekhar, Jesse Barkley, Peter Pak 等

arXiv cs.CV · cs.GR

Decompose the Distillation: Interpretable Single-Pass Guidance for Diffusion Models

说明分解蒸馏:用于扩散模型的可解释单次前向引导

简介论文提出CtrlFlow,一种单次前向传播的引导方法,用于扩散模型的条件图像生成。它保留了无分类器引导(CFG)中可分离的基础流与引导方向两部分,通过两个轻量LoRA适配器(各增加2.5%参数)从冻结骨干网络的一次前向中同时得到二者。训练时采用统一的多尺度蒸馏损失,并结合尺度自适应调制与时间网格变形来降低推理误差。

Wuyang Zhang, Xiaolin Xu

arXiv cs.AI · cs.IR

Toward a Compositional Knowledge Architecture for a Shared Organizational Cortex

说明面向组织共享认知层的组合式知识架构

简介本文提出一种四层架构(信号、领域、论断、维度),用于保存组织形成判断时的解释及其依据与可信度。真值维护网络会随证据变化修订这些可信度,经过验证并带版本的维度则把解释定位在具名的轴上。作者称这一结果为组织共享认知层,并报告了检索实验中的改进结果。

Andrew Miracle, Phyl Georgiou, Christine Okoth 等

arXiv cs.AR · cs.AI 公开资源

Scheduling Data to Compute: Hierarchical Data Pipelining for LLM Training on AMD GPUs

说明数据调度服务计算:面向AMD GPU上LLM训练的分层数据流水线

简介该论文针对大语言模型训练中GPU计算单元因等待数据而空闲的问题,利用AMD GPU的显式数据搬运硬件特性,包括张量数据搬运器(TDM)、转置加载指令以及系统DMA和远程DMA,构建稳定的数据流水线。实验显示,TDM和转置加载在内核层面平均分别带来1.88倍和1.19倍加速,SDMA和RDMA使计算与通信重叠的场景平均分别加速1.16倍和1.33倍。

Gengyu Rao, Ghadeer Ahmed H Alabandi, Su Ann Chong 等

arXiv cs.HC · cs.AI · cs.LG

Pairing Expert Critique with LLM-Driven Refinement: An Iterative Approach for Curating Quality AI Evaluation Datasets

说明结合专家批评与大模型迭代优化:构建高质量AI评估数据集的方法

简介本文提出SME-C(领域专家批评)人机协作流程,让专家对候选回答进行轻量级批评,再由大模型分析与改写,迭代整理回答数据集和评估量表。研究以金融商务简报为领域,收集了411名金融从业者对520个查询的3,853条批评。两种优化策略均显著优于专家排名最高的基线回答,其中基于批评的优化更侧重领域内容改进,基于投票的优化更擅长识别并删除无关内容。

Honson Ling, Kidus Admassu, Stephanie Rosenthal

arXiv cs.LG · cs.AI · cs.CL

Text-Only Domain Adaptation for Low-Resource Medical ASR: Shallow Fusion and Density Ratio Rescoring for Hausa

说明面向低资源豪萨语医疗语音识别的纯文本领域自适应:浅层融合与密度比重打分

简介本文研究在豪萨语医疗语音识别中,仅利用文本数据进行领域自适应,使用固定的MMS-1B-FL102声学模型,并比较浅层融合(SF)与密度比方法(DRA)两种解码时语言模型融合方法。实验中,医疗语言模型在19,421句豪萨语健康文本上训练,通用模型使用75,372句文本。结果显示,两种融合方法均显著降低词错误率(从29.56%降至约23.5%),但二者差异不显著;仅使用通用语言模型的浅层融合也取得了相近效果,说明医疗语言模型的额外提升有限。

Oche David Ankeli, Hassan Adelani Luqman, Theodora Ngozi Egbunike 等

arXiv cs.CV · cs.AI · cs.LG

Learning Hierarchical Patch Splitting Policies for Faster Vision Transformers

说明学习分层图像块切分策略,加速视觉Transformer

简介视觉Transformer(ViT)的计算量受输入令牌序列长度限制。本文提出SPLIT方法,通过学习根据模型认为有意义的内容分配令牌分辨率,而非依赖局部熵等像素级启发式规则,从而生成更短且更契合任务相关内容的令牌序列。实验显示,SPLIT在分类任务上达到全分辨率ViT基线的准确率,同时减少30%的令牌,并在COCO和ADE20K密集预测任务上取得有竞争力的结果。

Aditya Gupta, Jean Sebastien Dandurand, Kai Qiu 等

arXiv cs.AI

PersonaCodeBench: Evaluating Coding Agents in Persona-driven Human-Interactive Sessions

说明PersonaCodeBench:面向用户画像驱动的人机交互编程会话的编程智能体评测基准

简介该论文提出PersonaCodeBench,用于评测编程智能体在用户画像驱动的多轮编程会话中的表现。基准将用户的角色、技术能力、交互偏好和实际约束转化为可验证的需求,需求随交互逐步呈现。系统使用完成度验证器和个性化验证器分别评估代码正确性与用户需求满足情况,并对主流前沿智能体进行了评测。

Haixin Wang, Jianheng Hou, Hongyu Shen 等

arXiv cs.RO · cs.AI · cs.CV

OdorSpaces: Visual-Olfactory Embodied Navigation in 3D Environments

说明OdorSpaces:三维环境中的视觉-嗅觉具身导航

简介本文提出OdorSpaces,一个基于物理的仿真平台与基准测试,用于视觉-嗅觉具身导航。该平台在Habitat-Sim中加入由Fire Dynamics Simulator(FDS)模拟的三维气味传输与扩散,使智能体能够同时利用视觉与嗅觉信息在室内环境中导航。基准包含无色气体泄漏定位和火灾初期定位两种源寻找场景。作者还开发了一个融合视觉与随时间累积的嗅觉测量的多模态强化学习策略,实验表明其优于多种基线方法。

Changyeon Lee, Kelin Yu, Zheng Wei 等

arXiv cs.CV

C-WFDM: A ControlNet-Guided Wavelet-Fusion Diffusion Model for Multimodal Brain MRI Completion

说明C-WFDM:基于ControlNet引导的小波融合扩散模型,用于多模态脑部MRI补全

简介多模态脑部MRI能提供互补的解剖、组织和病理信息,但公开及汇集数据集中各模态的可用性并不均衡。本文提出C-WFDM,即小波融合扩散模型(WFDM)的ControlNet扩展版本,用于按受试者补全缺失的MRI模态。模型以包含157个公开数据集、45,880份扫描的BrainScape快照为基础,可从T1w生成T2w,从T1w和T2w生成FLAIR,并从T1w、T2w和FLAIR生成T1Gd。在与ALDM、cWDM、Pix2Pix的比较中,C-WFDM的T2w和FLAIR结果最佳,SSIM分别为0.9232和0.8904。

Muhammad Nabi Yasinzai, Remika Mito, Mangor Pedersen

★★★★☆ 值得关注
arXiv cs.LG

Self-Supervised Learning of Universal Latent Spaces for Operator Learning

说明用于算子学习的通用潜在空间自监督学习

简介论文提出先用自监督方式预训练一个泛函自编码器,在任意点云上表示函数,无需求解器或标签。得到的潜在空间冻结后可跨任务复用,神经算子只需在缓存的嵌入上训练。在28个流体、固体力学、声学及亥姆霍兹与泊松方程任务上,论文报告其精度可超过端到端模型,并带来更高吞吐与更低显存占用。

看点将自监督预训练的通用潜在空间用于神经算子,解耦表示学习与算子学习;摘要报告在28个PDE相关任务上可超过端到端架构并大幅节省显存。

Sepehr Mousavi, Levi Lingsch, Siddhartha Mishra 等

arXiv cs.CV 公开资源

Mitigating Spurious Invariance in Contrastive Learning: A Probabilistic Self-Supervised Learning Framework for Medical Image Analysis

说明缓解对比学习中的虚假不变性:面向医学图像分析的概率自监督学习框架

简介本文针对医学图像自监督学习中对比学习的问题,指出数据增强可能抑制细微但关键的医学特征,导致学到的不变性是虚假的。作者将特征嵌入编码为概率分布而非固定向量,以捕获更丰富的信息,并提出整合多种自监督方法的统一概率框架。在多个数据集的分割与分类等下游任务上,该方法优于现有先进自监督方法,并进一步分析了对更强增强的鲁棒性、有限微调标签下的标签效率及计算权衡。

Wei Wei, Yading Yuan

arXiv cs.CL

Prospective Memory for Proactive LLM Agents

说明面向主动型大模型智能体的前瞻记忆(论文)

简介该论文指出,大模型智能体的记忆系统多侧重于回顾过去信息,而主动型智能体还需要保存未来意图,并在合适时机实现。作者提出Pro-Memory框架,将意图的保持与执行时机、方式的判断分开,并借鉴人类前瞻记忆理论。实验显示,该框架在两个基准上提升了主动任务表现,且减少了不必要的干预。

Yuanchen Bei, Zhining Liu, Tianxin Wei 等

★★★★☆ 值得关注
arXiv cs.CY · cs.CL · cs.HC

The Male Abstraction Bias in Internet Culture and Large Language Models

说明抽象概念的男性偏向:互联网文化与大型语言模型中的性别关联

简介该论文考察了数万个单词与多词表达在互联网文本和图像中的抽象程度与性别关联,发现越抽象的概念越与男性相关,且这一现象在多种语言中重复出现。研究还发现动词和副词更抽象、也更偏向男性,并且人类与AI在自由联想任务中都表现出这一偏向。作者认为这一偏向可能是多种刻板印象的基础。

看点发现抽象性与性别关联贯穿概念空间,并延伸至语法结构和AI自由联想,新意突出;摘要报告在数十亿词和百万图像上多种测量方法的结果,并跨语言复现。

Douglas Guilbeault, Bhargav Srinivasa Desikan

arXiv cs.LG · cs.DC

RESHPart: Feedback-Reshaped Spectral Embedding for Hypergraph Partitioning

说明RESHPart:基于反馈重塑谱嵌入的超图划分方法

简介本文研究超图划分中的谱嵌入几何结构,发现了一种类射线的嵌入结构,有助于解释基于投影的划分方法为何有效。作者提出FRESHPart框架,通过几何反馈和搜索反馈来调整谱嵌入,使其更适合投影划分。在Titan23基准上,相比hMETIS平均割边减少13.09%(ε=2%)和25.21%(ε=20%),并且每个基准均在单GPU上120秒内完成。

Rongjian Liang, Zhuo Feng, Brucek Khailany

arXiv stat.ML · cs.LG

Generative Modeling for Cascading Extremes via Autoregressive Transformers

说明用自回归Transformer对级联极端事件建模

简介本文提出一种极端事件的离散标记表示方法:每个时刻若无超过阈值的分量则记为静默标记,否则标记边际概率尺度上得分最高的超阈分量。解码器式Transformer在该表示上估计依赖历史的下一标记核,并通过递归采样生成未来标记序列。模型在模拟过程上预训练,并应用于五只半导体股票的十秒收益数据,显示零样本迁移能力,少量轮次的适应可提高生成与观测在标记频率和转移模式上的一致性。

Miguel de Carvalho, Myung Won Lee, Jordan Richards 等

★★★★☆ 值得关注
arXiv cs.LG · cs.AI · cs.DS

Do Language Models Know Which Constraints Belong Together?

说明语言模型能否判断哪些约束应当成组处理?

简介该论文研究混合整数规划中如何选择需要凸化的约束族组合,这类组合只有共同作用时才能加强线性松弛界。作者证明,仅依据界的观测方法需要大量评估才能找到隐藏的约束族组,并提出结合语言模型预测与前瞻搜索的JointDW方法。实验显示,在部分MIPLIB-NL模型上,推理型语言模型的识别能力与前瞻方法相当。

看点提出分阶段搜索与语言模型先验结合的方法,证明群组发现的覆盖数下界,并在MIPLIB-NL模型上验证。

Junbo Jacob Lian, Kaixuan Chen, Hanzhang Qin 等

arXiv cs.LG

Give the Drafter a Second Chance to Guess: Parallel Reconsideration for Speculative Decoding

说明给草稿模型第二次猜测的机会:面向推测解码的并行重新考虑

简介本文针对大语言模型推测解码中小型草稿模型的猜测接受率问题。作者提出并行重新考虑方法:草稿模型依据自身的不确定性,对犹豫的猜测额外进行并行推理,并将重新考虑后的猜测作为改进候选加入原草稿树。论文报告,在多个模型和基准上,该方法在接受长度上平均提升5.3%至10.2%,加速比平均提升3.5%至9.2%。

Hoang Anh Duy Le, Huibing Dong, Alireza Khadem 等

arXiv cs.CL

Cognitive Bias Signatures in Search-Equipped LLM Agents: A Stage-Resolved Analysis

说明搜索型大模型智能体中的认知偏差特征:分阶段分析

简介该论文研究配备搜索功能的大语言模型智能体在认知偏差影响下的表现。作者搭建了受控搜索框架,在保持问题与文档集合不变的前提下,考察结果顺序、先前工作记录和初始假设的作用,并在10个模型与1000个合成搜索环境中追踪查询、检索文档、文档开头和最终答案。研究发现,主动搜索时最终答案对初始证据顺序更为敏感;失败的历史记录会比中性历史减少策略切换,且这一效应超出上下文长度的影响。

Yanru Xiao, Yingwei Yu

arXiv cs.MA

Same Method, Different Task: What the Bitter Lesson Does Not License in Social Simulation

说明同一方法,不同任务:苦涩教训在社会模拟中并不成立

简介本文认为,苦涩教训(Bitter Lesson)中通用方法胜过手工领域知识的案例,都是在同一任务上进行的;而社会模拟却把手工设计的智能体替换为为文本预测优化的模型,任务已经改变。作者指出,预测者不承担互动的后果,而合作、背叛与规范执行依赖于有利害关系的参与者;缺少的是利害(stakes)而非涌现。一项包含540个智能体、预先设定假设的试点实验显示,持续的后果会在三个模型系列中的两个里改变策略,但从未产生类似人类的异质性。

Justin Downes, Robby Milletich, Newel Hirst

arXiv cs.LG

CoReFlow: Consistency-Relaxed Flow Maps for Probabilistic Traffic Forecasting

说明CoReFlow:用于概率交通预测的一致性松弛流映射模型

简介该论文提出CoReFlow模型,用于概率交通预测,以刻画复杂路网中的不确定性。模型利用流映射的一步生成能力,并采用基于有限时间区间插值端点的训练目标,以条件均值约束一致性。在四个真实数据集上的实验显示,CoReFlow预测精度达到领先水平,同时推理成本低于现有生成式基线。

Pengnan Chi, Zhiguo Zhang, Xiaoliang Ma

arXiv cs.AI

Self-Supervised Pretraining for Label-Efficient Facial Expression Recognition using Smart Glasses

说明基于智能眼镜、用自监督预训练降低标注成本的面部表情识别研究

简介该论文研究在OCOsense智能眼镜上进行面部表情识别时,如何借助自监督学习减少对标注数据的依赖。作者用无标签的眼镜记录数据,以掩码自编码目标预训练视觉Transformer,再在五类表情识别任务上微调,并采用人员独立的交叉验证。结果显示,预训练在5%至100%的标注比例下均带来性能提升;仅用5%标注的预训练模型,表现超过了使用全部标注从头训练的模型。

Zhengtao Gao, Francesco Bombassei De Bona, Leonardo Alchieri 等

arXiv cs.AI · cs.LG

Agents, Think Only When it Helps

说明智能体只在有帮助时思考:研究蒸馏中思考过程监督的必要性

简介论文研究大语言模型智能体蒸馏中,教师模型的思考过程(thought)是否对学生模型的最终行动表现至关重要。作者在蒸馏时分别扰动教师的思考和行动,在多个模型规模的常用智能体基准上测试。结果显示,改变或丢弃思考对学生表现影响很小;但当思考内容未在对应行动中体现时,思考监督才变得重要。

Min-Seon Kim, Seungdong Yoa, Sanghyu Yoon 等

arXiv cs.NE · cs.GT · cs.LG

Neural networks and games

说明神经网络与博弈论:两者之间的精确对应关系

简介本文证明了对称二值Hopfield神经网络与允许二次势函数的二元动作博弈之间存在精确等价关系。稳定的网络状态对应纯策略纳什均衡,异步神经更新对应最优反应动态。作者进一步指出,神经网络中记忆的存储与检索,分别对应博弈中均衡的设计与选择。

Philip R. Neary

arXiv cs.AI · stat.ML

From Type to Token: Petri Nets, Individual Token Philosophy, and Individualized Causal Effects

说明从类型到个体:Petri 网、个体令牌哲学与个体化因果效应

简介本文指出,结构因果模型和贝叶斯网络主要描述人群层面的平均因果效应,在个体处理效应差异很大时这些估计量失效。作者主张用个体令牌哲学下的 Petri 网表示个体层面的因果结构,并给出从贝叶斯网络到 Petri 网的形式化转换。另加一层保形预测,用于给出有有限样本覆盖保证的个体因果效应估计。

Fernando Delbianco, Fernando Tohm\'e, Gustavo Bodanza

arXiv cs.SE · cs.AI · cs.HC

TACT: A Pragmatic Approach to Qualitative Analysis with an AI Council

说明TACT:借助 AI 委员会进行定性分析的务实方法

简介本文提出 TACT(可追溯的 AI 主题分析委员会),一种用多个大模型协同完成定性编码的流程,并保留人工对解释和判断的控制。TACT 分为 TACT-Lite 和 TACT-Full 两个版本,后者加入来自其他模型家族的评审模型以及用于标出高不确定性编码的决策模型。在 256 个 Stack Overflow 讨论串上的评估显示,其编码与其他研究者的标注有一定一致性,单次成本约为每 100 个讨论串 13.77 至 33.59 美元。

Rudrajit Choudhuri, Christian Bird, Carmen Badea 等

arXiv cs.CV

GeoDIVE: Geospatial Descent Informed by Value Estimation

说明GeoDIVE:基于价值估计的地理空间最优优先搜索方法

简介该论文提出GeoDIVE模型,用于在多分辨率卫星图像库中查找特定物体、结构或空间模式。模型将图像库视为森林结构,通过最优优先遍历决定需要编码哪些图块,并用轻量模型估计子树中的最佳查询相似度。实验显示,在图像查询中,GeoDIVE以约10%的编码成本达到穷举搜索的效果,在两种查询方式下均优于所有对比基线。

Hamza Iqbal, Dan Cher, Eric Xing 等

arXiv cs.CV

Anchored Slice Propagation with Boundary Transport for 3D CT Segmentation from Three Orthogonal Annotated Slices

说明基于三正交标注切片与边界传递的三维CT分割:一种从三张标注切片出发、通过锚定切片传播并结合边界几何信息的方法

简介该论文提出在三张正交标注切片之间传播分割掩膜的方法,通过在其他标注平面交叉处修正预测并利用一致性对各条传播链加权融合来抑制误差。论文还比较了两种边界几何传递方式:截断符号距离场和基于运动线索的轮廓追踪。在约403份CT扫描、17个腹部结构的测试中,锚定方法将平均Dice从0.737提升至0.769,且每个结构均有改善。

Tushar Kataria, Md Rakibul Haque, Shireen Y. Elhabian

arXiv cs.CV

TRUST-Stereo: Teacher-Assisted Robust Uncertainty-Guided Search and Transfer for Fast Stereo Matching

说明TRUST-Stereo:用于快速立体匹配的教师辅助、不确定性引导残差搜索与迁移方法

简介本文提出TRUST-Stereo,一种快速立体匹配方法,针对由粗到细方法中传播视差误差导致的正确对应点落在局部搜索范围之外的问题。其不确定性引导残差搜索模块(UGRSM)估计传播视差的可靠性并预测残差偏移,以自适应地调整局部代价体中心。同时,论文采用两阶段的Senior-Junior教师助手知识蒸馏策略,将大型基础模型的单目表示迁移至轻量级骨干网络。仅使用140万对合成立体图像训练,该方法在多个基准上取得领先结果,推理约50毫秒/对。

Pouya Sohrabipour, Yihong Feng, Chaitanya Kumar Reddy Pallerla 等

arXiv cs.CV · cs.LG

Toward an Optimal Configuration for Tree Species Classification from Bark Images: A Leakage-Safe Ablation Study

说明树皮图像树种分类的最优配置:一项防数据泄露的消融研究

简介该研究在公开的 BarkNet 1.0 数据集(20 个树种)上,系统比较了基于 ConvNeXt-V2 的深度学习方法中补丁尺寸、补丁结果聚合方式、训练方式、模型规模等设计选择的影响。结论显示补丁尺寸影响最大,约 512 像素时图像级准确率接近 94.9%;学习型聚合和模型规模的作用相对次要。研究给出了一套简单推荐配置,并为后续研究提供可复现的参考。

Maeve C\^ot\'e

arXiv cs.AI · cs.HC

How Do Artificial Agents Make Decisions in Light of Visual Data?

说明人工智能体如何依据视觉数据做决策?

简介本文研究由视觉语言模型驱动的人工智能体如何感知不确定性并在视觉数据基础上做决策。作者通过两项互补的研究,分别考察智能体对可视化中不确定性的感知与量化,以及其基于图像形式视觉数据的决策过程,并比较了不同模型和可视化类型下的表现。结果显示,GPT-4o在饼图和条形图中感知不确定性的准确率最高;在用圆形图、图标阵列或文本表示不确定性时,智能体的决策最符合理性决策理论。

Keyty Loza, Shayan Monadjemi

arXiv cs.LG

Revisiting Critic Estimation in Soft Actor-Critic Algorithms

说明重新审视 Soft Actor-Critic 算法中的 Critic 估计方法

简介本文研究深度强化学习算法 Soft Actor-Critic(SAC)中 Critic 的设计选择,比较了六种 Critic 变体,包括学习软优势函数、多步回报目标以及从回放缓冲区训练多步 Critic。作者在十四个任务上进行了完整的随机超参数搜索。结果显示,学习软优势并不能提升性能,软 GAE 也没有优于更简单的 λ-回报 Critic;在回放的轨迹片段上训练 λ-回报 Critic 效果最好,尤其在连续控制任务上。

Jan Felix Kleuker, Koen Ponse, Aske Plaat 等

arXiv cs.AI · cs.IR · cs.SC

Combining Relevant Expert Knowledge Using Mixtures of Feedback Fuzzy Cognitive Maps

说明用混合反馈模糊认知图结合相关专家知识

简介本文提出一种神经符号系统方法,只结合与查询相关的专家答案。作者借用证据法理论中的相关性定义,即答案需同时具有证明性和实质性,并将其用于混合多个专家的反馈模糊认知图。方法通过比较专家与混合图的均衡预测,估计各答案的证明性,再借助类贝叶斯定理分解出后验式认知图,最终得到针对特定查询的相关性混合权重。作者以一个13节点的缺血性卒中风险专家图生成的合成图进行了演示。

Olaoluwa Adigun, Akash Kumar Panda, Bart Kosko

arXiv cs.AI · cs.CL

Grounded but Not Immune: Confirmation Bias in Agent-as-a-judge

说明《有依据但并非免疫:Agent-as-a-judge 中的确认偏误》

简介该论文研究用工具并能查看完整执行轨迹的“智能体即评判者”是否会受确认偏误影响。实验显示,一条来自所谓权威、与正确结论无关的虚假预筛选提示,就能在四个评判者和五个数据集上推翻高达40%原本正确的判断,即使评判者自己已收集到决定性证据。作者还将评判行为的变化归为过度信任、幻觉和调查不足三类失败模式。

Drake Benjamin Brown, Khushbu Pahwa, Yubin Ge 等

arXiv cs.LG

Adaptive Domain Decomposition for Finite Basis Physics-Informed Neural Networks

说明自适应区域分解的有限基物理信息神经网络

简介本文提出自适应区域分解有限基物理信息神经网络(ADD-FBPINNs)。该方法将学习区域划分的单位分解网络(POUNets)与有限基物理信息神经网络(FBPINNs)结合,根据解的特征自动学习稳定且几何可解释的区域划分。在二维亥姆霍兹方程、带多尺度特征的二维泊松方程和粘性Burgers方程上的测试显示,其精度优于固定区域分解的FBPINNs。

Sarah Helfert, Wanxin Chen, Amanda A. Howard 等

arXiv cs.LG · cs.RO

Beyond Accuracy: Information-Theoretic Decoder Evaluation Under Latent Intent

说明超越准确率:潜在意图下基于信息论的解码器评估

简介本文面向辅助性脑-机器人控制,指出仅用单次分类准确率评估解码器不足以反映序列规划中的任务表现。作者将该控制问题形式化为部分可观测马尔可夫决策过程,并以最差目标对的Chernoff信息作为判定边界,给出可由混淆矩阵计算的遗憾预测指标。文中报告,在真实脑电数据上,两个验证准确率相同的解码器,其保留集遗憾相差9.6倍,而该指标可以预测这一差异。

Tasha Kim, Benjamin Ballyk, Anson Lei 等

arXiv cs.LG

When Are Two SAE Latents the Same Feature?

说明两个 SAE 潜变量何时是同一特征?

简介本文提出一个比较稀疏自编码器(SAE)字典的框架,用能量加权的最优传输方案确定潜变量之间的对应关系,并量化字典层面的差异及其来源。作者还推导了固定训练好的 SAE 下传输成本与比例的联合渐近推断,并用联合文档自助法给出同时置信带。实验覆盖四个语言模型,用于定位跨随机种子的差异并区分与上下文相关的变化。

Alexandra Suvorikova, Ilgam Latypov, Anton Trukhan 等

arXiv cs.AI · cs.LG

Quantifying Trait-State Hierarchy in EEG Foundation Model and Signal Processing Embeddings

说明量化脑电基础模型与信号处理嵌入中的特质-状态层级结构

简介该研究分析脑电(EEG)嵌入如何同时编码相对稳定的个体特质(如受试者身份、年龄、性别)和随刺激变化的状态信息。作者使用层级度量和kNN纯度,在脑机接口数据上发现多数脑电特征呈现以特质为宏观聚类、状态为内部微观结构的层级。线性探针结果显示这种结构会降低状态可区分性;通过归一化减少特质信息后,状态分类的平衡准确率约提升10%。

Anusha Madapura, Aditya Kommineni, Shrikanth Narayanan

arXiv cs.AI

Attributing Agent Failures to Their History Needs an Executed Counterfactual: Toward a Reporting Standard

说明将智能体失败归因于其历史需要执行式反事实:迈向报告标准

简介本文认为,把智能体行为归因于其历史的论断,应当有经过干预验证的证据,即在执行过程中冻结某个中间状态,只改变智能体所见的历史,然后继续运行并观察结果。作者指出,现有部分方法已能从检查点或记录的对话状态执行干预,但尚无方法报告经过测量的重放证明。文中还给出两项警示性测量,并说明随机数流的位置被恢复后,快照结果与实时运行一致。

Egor Pakhomov, Erik Nijkamp

arXiv cs.CV

NitroFusion2: Bringing Adversarial Loss to the Text Stream of Multimodal Diffusion Transformers

说明NitroFusion2:将对抗损失引入多模态扩散Transformer的文本流

简介该论文针对多模态扩散Transformer(MMDiT)提出文本流对抗蒸馏(TSAD),用中间文本token状态作为判别器的表示,并提出按方面条件判别(ACD)以引导训练关注的属性。基于此,作者提出NitroFusion2,将少步蒸馏从常见的4至8步减少到1至2步,同时保持可比质量。

Dar-Yen Chen, Yi-Zhe Song

arXiv cs.CV

ARIDA - Active railway infrastructure dataset annotation using neural network predictions

说明ARIDA:利用神经网络预测进行主动式铁路基础设施数据集标注

简介本文提出一种面向铁路场景的半自动标注框架ARIDA,将实例分割网络的预测结果转换为边界框、多边形、折线及成对折线。框架通过置信度阈值和轮廓一致性质量分数决定是否接受自动标注,并用主动学习循环按不确定性排序未标注图像,自动接受简单样本,把人工标注集中于困难样本。实验报告了在分散图像和时序冗余图像两种设置下的标注工作量减少情况及精度权衡。

Maximilian Dornik, Christian Sieberichs, Simon Geerkens 等