AI アルゴリズム · 2026年9月30日(水)

機械学習、人工知能、自然言語処理、コンピュータビジョン、マルチエージェント。

arXiv cs.CV

PCB-MC: Missing Component Analysis in Printed Circuit Boards

説明PCB-MC:プリント基板の部品欠落分析

要約本論文は、プリント基板上で欠落した部品を検出するためのデータセット PCB-MC を提案しています。RF100 データセットを基に、部品のフットプリント単位で注釈を付けており、197 種類の基板タイプを含みます。複数の教師あり手法と教師なし手法でベンチマークを行い、基板タイプを考慮した交差検証を提案しています。その結果、未知の基板設計では教師あり手法の見逃し率が高く、教師なし異常検知は基板固有の参照との空間的な対応が取れず機能しないことが示されました。

Betsy Villa Brochero, Ian Gibson, Estefania Talavera

arXiv cs.LG · math.OC · stat.ML

Awakening of the Buddha: Subspace Learning During Population-Loss Plateaus

説明「仏の目覚め」:損失プラトー中の部分空間学習

要約本論文は、損失がほぼ一定のままでもニューラルネットワークがより予測的な表現を学習しうる現象を扱う。二層の ReLU 及び leaky-ReLU ネットワークについて、ガウス入力下での条件と保証を示し、SwiGLU ネットワークに関する関連結果と数値実験も加えている。主な結論は、プラトー期のチェックポイントで、教師部分空間と予測器の平均勾配外積(AGOP)の主固有空間との整列度が上がり、再適合誤差が下がること、その後の学習で損失がプラトー期の全値より低くなることである。

Akash Kumar

arXiv cs.AI

Inferring Causal Relations between Two Sequences of Events with Language Models

説明言語モデルを用いた二つのイベント系列間の因果関係の推定

要約本論文は、複数回の観測や介入データがなく、二つのイベント系列しか得られない場合に因果関係をどのように推定するかを検討しています。大規模言語モデル(LLM)の予測能力を活用し、二つのイベント系列の間の因果関係を判断する手法を提案しています。この手法は合成データと実データで検証され、複数の時系列データにおいて標準的な因果発見アルゴリズムより良い結果を示したと報告されています。

Nishchal Prasad, Eric Gaussier, Emilie Devijver ほか

arXiv cs.LG

No Task Vector Is an Island: A Comprehensive Study on the Composability of Task Vectors from On-Policy Distillation

説明タスクベクトルは孤立しない:オンポリシー蒸留によるタスクベクトルの合成可能性に関する包括的研究

要約本論文は、オンポリシー蒸留(OPD)で得られたタスクベクトルを、モデルマージによって強化学習(RL)のタスクベクトルと同様に組み合わせられるかを調べたものです。5つの領域と2種類のモデルアーキテクチャで実験し、八つの比較のうち七つで、OPDベクトルの跨タスク合成が平均スコアでRL合成を上回ったと報告しています。パラメータ分析では、両者の更新に顕著な非共線性が見られました。

Jingang Zhou, Feiyu Han, Han Zhu ほか

arXiv cs.AI · cs.LG

Advancing Entropy-Level Credit Assignment in RLVR via Proximal Entropy Policy Optimization

説明近接エントロピー方策最適化による RLVR の熵レベル信用割当ての改良

要約本論文は、GRPO などの価値モデルを用いない RLVR 手法で、一つの応答内の全トークンに同じ優位値が与えられる問題を扱います。著者らは、近傍トークンと比べた局所的な重要度を測る「近接エントロピー」を提案し、プロンプトの難しさや位置による傾向という二つの交絡因子に対して不変であることを示しています。これを用いた PEPO は、Qwen3-1.7B、Qwen3-4B、Llama-3.2-3B-Instruct の数学推論で GRPO やエントロピー系の基準手法を上回ったと報告されています。

Yun Kim, Nojun Kwak

★★★★☆ 注目
arXiv stat.ML · cs.LG

Towards Optimal Inventory Control under Censored Demand: A Biased Sample-Average Approximation Approach

説明打ち切り需要下の最適在庫管理:バイアス付き標本平均近似によるアプローチ

要約本論文は、欠品時には需要が在庫水準を超えたことしか分からない(打ち切り需要)状況での、データ駆動型の多期間ロストセールス在庫管理を扱う。基準在庫方策に対する新しいコスト分解と、バイアス付き標本平均近似(SAA)に基づき、打ち切りデータからの方策学習のための統一的なモデルベースの枠組みを提案する。上方バイアス版はオフラインのカバレッジ条件下でほぼ最適な標本複雑度を、下方バイアス版はオンラインでほぼ最適な後悔を達成する。

注目点新たな費用分解と被覆条件を提案し、上下バイアス付きSAAで離線・在線ともに近最適な標本複雑度と後悔を示しており、理論的貢献が際立つ。

Yuxuan Han, Xiaoyu Fan, Jiawei Zhang ほか

arXiv cs.AI · cs.CL · cs.LG

Can Computation from Earlier Problems Help LLMs Solve New Ones?

説明以前の問題の計算は、LLMが新しい問題を解くのに役立つか?

要約大規模言語モデルは同じ会話の中で互いに独立した問題を順に解くことが多く、本論文は保持された履歴が後の問題に役立つのかを検討しています。履歴は後のターンの正解率を上げることも下げることもあると示したうえで、STAIRという手法を提案しています。これは以前の応答生成時のキーと値を固定のバンクに保存し、新しいプロンプトの処理時に現在のクエリがそのバンクを読むように誘導するものです。ベースモデルは凍結したまま12,288個のパラメータのみを学習し、3つのQwenモデルと4つのベンチマークで、履歴がある場合の後のターンの正解率を最大11.67ポイント向上させました。

Jipei He, Wenhui Tan, Xiaoyi Yu ほか

arXiv cs.LG · cs.AI · cs.CL

FAER: Auditable Utility-Aligned Trajectory Replay for Language Model Post-Training

説明FAER:言語モデル事後学習のための監査可能な効用整合型軌跡リプレイ

要約この論文は、リプレイ選択器がキャッシュされた軌跡を形式フィードバック、信頼度、新しさ、応答長などで順位付けすることが多いものの、キャッシュ段階の正しさと下流の学習器の効用は異なる目的であると指摘します。著者らは、監査可能な完全軌跡リプレイの枠組みFAERを提案し、学習不要の固定選択器と、分離された校正ブロックで学習させる学習器対応の選択器FAER-UTILITYを含めています。GSM8KとQwen2.5-1.5B-Instructでの実験では、FAER-UTILITYが約6.3万のターゲット実行トークンで0.6624の品質スコアに達し、固定選択器や形式フィードバック選択器との比較が報告されています。

Miaobo Hu, Shuhao Hu, Xiaobo Guo ほか

arXiv cs.AI

Experimental Experience Modeling for Autonomous Research

説明自律的研究のための実験経験モデリング:どの実験を行うべきかを判断するため、実験経験を蓄積・再利用する手法

要約本論文は、自律研究エージェントがどの候補方向に大規模な計算資源を投じるべきかを判断するための枠組み、実験経験モデリング(EEM)を提案しています。EEMは過去の実験の軌跡から意思決定に関連する記録を抽出して経験ライブラリに整理し、経験が不足する場合は低コストの試行実験を行って必要な情報を補います。自律研究のベンチマークでの実験では、EEMが研究性能を向上させつつモデルとのやり取りのオーバーヘッドを減らすことが示されています。

Wenda Wei, Yingchen Zhang, Ruqing Zhang ほか

arXiv cs.LG

Decoupled and Distilled: Task-Adaptive LoRA-Teachers with Ensemble Knowledge Transfer for Few-Shot Class-Incremental Learning

説明分離して蒸留する:少数ショット・クラス増分学習のためのタスク適応型LoRA教師とアンサンブル知識転移

要約本論文は、非常に少ないサンプルから新しいクラスを学習しつつ既存クラスの知識を保持する少数ショット・クラス増分学習(FSCIL)の枠組みTALONを提案しています。各増分タスクに独立したLoRA教師を割り当て、アンサンブル知識転移によって複数の凍結教師を統一的なLoRA生徒に蒸留します。特徴空間の類似度で教師の寄与を重み付けする手法を用いています。報告された結果では、4つのベンチマークで同等以上の平均精度を達成し、展開パラメータは最大33分の1、タスクあたりの平均推論時間は41.70%削減されたとされています。

Hongwei Zhao (School of Computer Science, Engineering, Beihang University) ほか

arXiv cs.RO · cs.CV

UniWAM Technical Report: Unified Mobile Manipulation via Mixed-Stream World-Action Modeling and Manipulation Anchor Pose Supervision

説明UniWAM技術報告:混合ストリーム世界-行動モデリングと操作アンカー姿勢監督による統一的な移動マニピュレーション

要約移動マニピュレーションでは、まず操作に適した姿勢まで正確にナビゲートし、その後に物体へ確実に作用させる必要があり、両段階は行動空間と視覚要件が異なります。本論文は、ナビゲーションと操作で別々の行動エンコーダと出力ヘッドを持ち、共通のバックボーンを共有する統一的な混合ストリーム世界-行動モデルUniWAMを提案します。さらに、大規模な3Dシーンから自動構築したMAP-Dataを用いる操作アンカー姿勢(MAP)監督を導入しています。MAP-Bench上では、位置誤差で最強の外部ベースラインを30.1%、向き誤差で44.0%上回り、24の実機タスクでもナビゲーションと移動マニピュレーションで先行する結果を示しています。

Wei Xue, Keliang Liu, Mingzhang Cui ほか

arXiv cs.LG

Beyond Simulation: Retain-and-Repair Neural Operators for Real-World Adaptation

説明シミュレーションを超えて:実世界適応のための保持と修復によるニューラルオペレータ(R²NO)

要約本論文は、数値シミュレーションで事前学習したニューラルオペレータを実世界データに適応させる枠組み R²NO を提案している。事前学習済みオペレータは実データで微調整された後に凍結され、ソース予測を与える。共有の修復モジュールは同じ観測から一連の修正を学習する。直交フーリエ射影により周波数領域をセルに分割し、各セル内で小規模なリッジ回帰を当てはめ、実データの保留分で重みを決めて組み合わせる。RealPDEBench の全システムと6種のバックボーンで、完全微調整や反復的修正より良い結果を示したと報告している。

Woojin Cho, Junghwan Park

arXiv eess.IV · cs.CV

RIQE: a NIQE-style reference model for Computed Tomography

説明RIQE:コンピュータ断層撮影(CT)向けの NIQE 方式の参照モデル

要約本論文は、NIQE の統計的距離の考え方に基づく放射線画像品質評価モデル RIQE を提案する。公開データセットの 158 名の患者の全線量 CT スライス 3,792 枚から学習されている。実験では、模擬低線量再構成画像や、ノイズを増やした画像を元画像より悪いと順位付けできた。一方、ノイズ除去フィルタの比較では病変信号を反映しないことがあるため、去噪手法の選択や調整の唯一の基準としては適さないと結論づけている。

Fabio Mattiussi

arXiv cs.LG

When, Not How Much: Evaluating Time-Series Foundation Models on Sparse Events

説明いつ起きるかを評価する:疎なイベントにおける時系列基盤モデルの検証

要約本論文は、事前学習済みの時系列基盤モデル(TSFM)を、イベントが疎なデータで評価するものです。将来の値の数値予測ではなく、イベントとゼロを含む予測区間を順位付けし、将来のどの期間に活動があるかを判定できるかを調べています。公開されている点予測は免学習の参照手法からの改善がわずかであり、凍結したバックボーンに軽量なイベント用の線形プローブを加えたものの方が、多くの場合より良い結果となりました。

Daniel Schoess, Florian von Wangenheim

arXiv cs.CL · cs.AI · cs.LG コードあり

TTLab at Daleel 2026: STAR-Ar, Sequence Tagging for Argument Recognition in Arabic

説明TTLab による Daleel 2026 参加:STAR-Ar、アラビア語の論証認識のための系列タグ付け手法

要約本論文は、アラビア語の論証談話の検出と分類を行う BERT-BiLSTM-CRF ベースのモデル STAR-Ar を提案し、初開催のアラビア語論証マイニング共有タスク Daleel 2026 への提出システムとして報告している。論証談話単位の識別と分類を、トークンレベルの系列ラベリングとして統合してモデル化している。検証データで F1 スコア 72.69、テストデータで 73.7 を達成した。社説データだけで学習したモデルは討論データで学習したモデルより性能が低く、その主な原因は社説データセットの規模が小さいことにあるとしている。

Bhuvanesh Verma, Ali Abusaleh, Alexander Mehler

arXiv cs.LG · cs.AI · cs.NE

From Search to Signal: Online Post-Training in Automatic Heuristic Design

説明探索からシグナルへ:自動ヒューリスティック設計におけるオンライン事後学習

要約本論文は、大規模言語モデルによる自動ヒューリスティック設計(AHD)を扱い、モデルが設計案とコードを反復的に提案・改良する過程を対象とします。著者らは、小型のオープンウェイト言語モデルのオンライン事後学習を、文脈に依存する学習信号の構築問題として定式化し、プログラムの有効性、タスク性能、生成文脈を更新信号へ写像する複数の方式を比較しました。共有された評価結果と同一の更新予算で実験を行い、チェックポイント評価、探索固定実験、資源を揃えた比較により、モデル更新自体の効果と累積した探索状態による効果を区別しています。

Yilun Yuan, Tianyu Zhou, Zhenzhou Tang

arXiv cs.AI コードあり

SkillFM: Generating Skills for LLM Agents via Latent Flow Matching

説明SkillFM:潜在フローマッチングによるLLMエージェント向けスキル生成

要約本論文はSkillFM(Skill Flow Matching)を提案する。これはテスト時の検索なしに、タスクに条件付けられたテキストスキルを直接生成する枠組みである。テキストスキルを連続潜在空間に符号化し、改良版MeanFlowで学習した条件付きフローモデルと、LLMベースのデコーダを組み合わせる。ALFWorldとSearch-QAでは、比較したベクトルベースのスキル手法の中で総合的に最良の結果を示した。

Zuming Zhang, Jie He, Yizhe Zhang ほか

arXiv cs.LG

EvoGen-Harness: Learning Where and How to Evolve Image-Generation Harnesses

説明EvoGen-Harness:画像生成の外部ハーネスを「どこを・どう進化させるか」学習する手法

要約本論文は、凍結された文生画像生成器のパラメータを変更せず、生成器の外側にある複数の責務(プロンプト、ルーティング、ワークフローなど)を同時に進化させる、生成器非依存のフレームワーク EvoGen-Harness を提案している。あわせて、確率的な実行をまたいで証拠を集約し、失敗の帰属を探索の事前情報として用いる Trace 手法を導入している。GenEval2、T2I-CompBench++、WISE の各ベンチマークで、最強の比較基線をそれぞれ +0.2633、+0.0720、+0.0752 上回ったと報告している。

Jiabin Luo, Yinan Liu, Chunlei Meng ほか

arXiv cs.CV

InfoAgent: Traceable Generation and Repair of Evidence-Grounded Infographics

説明InfoAgent:根拠に基づく情報グラフィックの追跡可能な生成と修復フレームワーク

要約本論文は、学習を必要としない枠組み InfoAgent を提案し、根拠に基づく情報グラフィック(インフォグラフィック)の生成と修正を行います。型付きの依存グラフで事実内容、根拠の出所、検証義務を記録し、修正時には影響を受ける部分だけを特定して変更します。IGenBench では Q-ACC 93.0、I-ACC 59.0 を達成し、著者らが提案した InfoGraphicBench-Evidence では、完全なチェックリストの合格率が 21.5% から 28.5% に向上しました。

Yifan Li, Tong Li, Qi Zeng ほか

arXiv cs.CV

EgoTools: Towards Tool-Centric Reasoning in Real-World Egocentric Videos

説明EgoTools:実世界の一人称視点動画における道具中心の推論に向けて

要約本論文は、一人称視点動画での道具使用理解のための初の包括的スイート EgoTools を提案します。約100時間の道具中心の録画データ(EgoTools-Data)と、4つの評価トラックにわたる1,000組の質疑応答からなる診断ベンチマーク(EgoTools-Bench)で構成されます。実験では、Gemini-3.1-Pro の総合正解率は66.9%ですが、知覚と定位の項目では51.7%にとどまりました。また、このデータでQwen3-VL-8B-Instructを全教師ありで微調整すると、正解率は50.0%から60.9%に向上しました。

Shulin Tian, Junsu Kim, Shuai Liu ほか

arXiv cs.RO · cs.CV

Beyond the Current Scene: Event-Referential Grasping with Active View Selection

説明現在のシーンを超えて:イベント参照に基づく把持とアクティブな視点選択

要約本研究はBeyondSCeというシステムを提案し、ロボットが過去に観察された人と物体のやり取りを手がかりに、その中で果たした役割によって指定された対象を把持できるようにします。対象が遮蔽されている場合は、イベント履歴から得た事前情報と現在のシーンの幾何情報を組み合わせ、対象が見えそうな視点を選びます。事前学習済みモデルを用いてタスク固有の追加学習は行わず、実ロボット実験で高い把持成功率を示しました。

Hyunjoon Lee, Haebeom Jung, Eunsung Cha ほか

arXiv cs.LG · cs.AI

Wavelet Flow Matching for Time Series

説明時系列データ生成のためのウェーブレット領域フローマッチング

要約本論文は、多変量時系列を生成するために、ウェーブレット領域でフローマッチングを行う手法を研究しています。多重レベルの離散ウェーブレット係数を扱うことで、粗い構造と段階的に細かくなる詳細を異なるスケールで表現します。また、チャネルごとのトークンを扱うTransformerを組み合わせ、チャネル間の依存関係をモデル化しています。7つのベンチマークデータセットと4つの系列長で評価された結果、多くの組み合わせで最良または同等の性能を示し、特にContext-FIDと判別スコアで改善が大きく一貫していると報告されています。

Lucas Poinsignon, Jorge da Silva Goncalves, Samuel Ruiperez-Campillo ほか

arXiv cs.AI · cs.LG

EHR-RobustGym: Benchmarking and Training Agents for Robust Clinical Reasoning

説明EHR-RobustGym:ノイズのある電子カルテで頑健に臨床推論するエージェントの評価と学習

要約本論文は、MIMIC-IV の病院記録に基づき、ノイズを含む電子カルテ上で臨床エージェントを評価・訓練するための対話型環境 EHR-RobustGym を提案している。干渉のない問題とノイズのある問題の 5,486 組を含み、複数種類のノイズを対象とする。複数の大規模言語モデルでは、平均タスク成功率がクリーンな質問の 62.2% からノイズのある質問の 37.9% に低下した。教師あり微調整と強化学習により性能は改善し、その効果は五つの外部ベンチマークにも及んだ。

Yitong Qiao, Yancheng Jin, Lei Liu ほか

arXiv cs.CL · cs.LG

Exploring Heterogeneous Model Merging Approach for Complex Knowledge Transfer

説明複雑な知識転移のための異種モデルマージ手法の検討

要約本研究は、専門モデルの能力を訓練なしでパラメータレベルから汎用言語モデルへ移せるかを検討します。既存の二つの異種マージ手法、Intersection-Merge(IM)と Activate-Prune-Merge(APM)を、専門モデルから汎用モデルへの転移に適用しています。埋め込み、再ランキング、報酬モデリング、MoE のコード専門モデルの転移実験で、両手法とも汎用モデルの性能を向上させたと報告しています。

Jiahe Fan, Si Chen, Yinghao Hou ほか

arXiv cs.CL

Making Grid Beam Search Less Greedy

説明グリッドビームサーチの偏りを是正する「公平なグリッドビームサーチ」の提案

要約本論文は、自己回帰型テキスト生成における語彙制約付きデコーディングを扱います。グリッドビームサーチは、満たしやすい制約を先に取り込み、難しい制約を系列の末尾に回すという偏りがあることを示しています。これに対し、DFA制約付きビームサーチにはそのような偏りがありません。著者らは、前向き計算の回数を線形に保ったまま偏りを除く「公平なグリッドビームサーチ」を提案し、より高確率の文字列も得られることを実験で示しています。

Sean Papay, Roman Klinger

arXiv stat.ML · cond-mat.stat-mech · cs.LG

A Dynamical Theory of LoRA in Continual Learning

説明継続学習におけるLoRAの動力学理論:低ランク適応が破滅的忘却に与える影響

要約本論文は、解析可能な2タスクの教師–生徒モデルにおいて、継続学習におけるLoRA(低ランク適応)の動力学を漸近的に厳密に特徴づけ、汎化誤差を記述する常微分方程式系を導出しています。低ランク更新は第1タスクで学習した特徴との干渉を減らす一方、その初期化は第2タスクへの適応を遅らせることが示されています。また、第1タスクの表現を最も強く担う隠れユニットを凍結し、適応を補完的な部分空間に限定する状態依存のマスキング手法を提案し、忘却を大きく減らすことを示しています。この理論は逐次MNISTベンチマークでも定性的に再現されています。

Th\'eo Marchetta, Filippo Alessandroni, Alessandro Breccia ほか

arXiv cs.CV コードあり

COBICount: Separating Object and Background Responses for Remote Sensing Object Counting Without Training on Target Data

説明COBICount:対象データで学習せずに、リモートセンシング画像の対象と背景の応答を分離して計数する手法

要約本論文は、単一のソース領域データのみで学習し、未知のターゲット領域(DOTA の大型車両、小型車両、船舶)へ直接転移させるリモートセンシング画像の対象計数を扱う。提案手法 COBICount は、応答の生成、受理、背景の抑制を分けて行い、道路や駐車場の格子などの繰り返し背景構造が誤って計数されることを抑える。対象ドメインでの平均 MAE は比較手法中で最小の 174.132 を記録し、パラメータ数は 510 万、512×512 入力の浮動小数点演算量は 174.1 億(17.41 billion)である。

Junjing Zheng, Zhiyi Zhou, Ningrui Yang ほか

arXiv cs.CL · cs.AI

Ready2Blend: From Natural-Language Instructions to Composable Alignment Prompts

説明Ready2Blend:自然言語指示から合成可能なアライメント・プロンプトへ

要約本論文は、既存の振る舞いを忘れずに新たな要件へ適応させる大規模言語モデルの継続的アライメント手法 Ready2Blend を提案します。AlignFormer が各要件を固定長のアライメント・プロンプトに変換してモジュール式のプロンプトバンクに保存し、バックボーンと既存プロンプトは凍結したままにします。二つの実用的な設定で、凍結バックボーンの手法として、事後学習に基づく手法に匹敵する結果を示し、共同学習の参照値の 93.1%〜98.5% に達しました。学習時間は最大 4.3 倍短縮されています。

Jeesu Jung, Hwan Chang, Juseon Do ほか

arXiv cs.CV · cs.AI コードあり

Rethinking Multi-Image Re-Representation in Multi-Image Understanding

説明マルチ画像理解における複数画像の再表現を再考する

要約本論文は、マルチモーダル大規模言語モデルが複数の画像にまたがる視覚的根拠をどのように整理するかを研究しています。著者らは、十種類の組み合わせ可能な画像操作で視覚的中間成果物を構築する汎用フレームワーク「Mosaic」を提案し、既存のベンチマークと新規のMosaicBenchで五つの再表現設定を比較しました。その結果、精密な視覚的根拠を要するタスクでは視覚的再表現が有効で、効果はタスクによって異なることが示されました。さらに、正解率と形式の報酬のみを用いた強化学習でMosaicAgent-8Bを訓練しています。

Gengyuan Zhang, Xiao Han, Xinyu Xie ほか

arXiv cs.LG · cs.NA · math.NA

LampAttention: Look-Ahead Mixed-Precision FlashAttention for Dedicated Accelerators

説明LampAttention:専用アクセラレータ向けの先読み混合精度 FlashAttention

要約本論文は、FlashAttention に混合精度を取り入れたハードウェアとアルゴリズムの協調設計を提案しています。まず查询とキーの積を 8 ビット形式で累積して指数を計算し、その後、感度の高いサブブロックを適応的に特定して 16 ビット形式で再計算します。また、このパイプラインを効率よく実行できる専用アクセラレータの仕様も示しています。Qwen3 と Gemma 3 を用いたシミュレーション実験では、一部のサブブロックだけを高精度に切り替えれば、ベースラインのモデル性能を回復できることが示されています。

Stanislav Budzinskiy, Marian Gloser, Tolunay Yilmaz ほか

arXiv cs.AI

Autoresearch in Mixed-Integer Linear and Nonlinear Programming

説明混合整数線形・非線形計画法における自律的研究(autoresearch)

要約本論文は、混合整数計画問題において長期的な自律的研究を組織化するための、再利用可能なエージェント技能「AutoMIP」を提案している。候補アイデアのプール管理と、実験を組み込んだアルゴリズム木の探索によって研究の流れを管理する。MIPLibでは60インスタンス中31件、MINLPLibでは60インスタンス中52件で新たな最良解を発見したと報告されており、消融実験でも両構成要素の寄与が示されている。

Yuwei Gu, Yaoxin Wu, Tong Guo ほか

★★★★☆ 注目
arXiv cs.CL · cs.AI · cs.IR

Working Around the Compute Ceiling: Byte-Exact Memory in Galahad Makes LLM Reading a One-Time Cost LLM Reading a One-Time Cost

説明計算上限を迂回する:Galahad の厳密バイト一致メモリにより、LLM の文書読み込みは一度きりのコストに

要約論文は、LLM のサービングはリクエストごとに状態を持たず、同じ文書への二回目の質問でも最初のトークンから注意状態を再計算すると指摘します。著者らは vLLM、SGLang、llama.cpp 向けのメモリ層 Galahad を提案し、Taliesin で既読テキストの KV 状態を保存・再利用し、Blaise で質問に必要な箇所のみをモデルに渡します。97,000 トークンのコーパスを用いた試験では、両者を併用して 100 問中 100 問に正答し、1 問あたり約 0.6 秒でした。

注目点KVキャッシュを永続化しバイト単位で再利用して再計算を避け、検索併用で読込量も削減する点は新しい;実験は多ランタイムだが規模と比較は限定的。

Sietse Schelpe

arXiv cs.LG · cs.DC · math.OC

Robustifying Asynchronous SGD via Soft Throttling

説明ソフトスロットリングによる非同期 SGD の頑健化

要約非同期 SGD は、各クライアントの勾配更新を到着時に即座に適用する分散学習アルゴリズムです。高速化につながる一方、速いクライアントの更新が全体を支配しうるため、攻撃に対する脆弱性も高まります。本論文では、速いクライアントからの更新を因子 q で指数的に重み付けを下げる、ビザンチン耐性を持つ一般化手法 Throttle を提案します。収束速度を理論的に分析し、攻撃への頑健性を理論と実験の両面から検証しています。さらに、ビザンチン攻撃のない設定でも、標準的な非同期 SGD より性能が向上することが示されています。

Kaoru Otsuka, Maxime Meyer, Yuki Takezawa ほか

arXiv cs.AI · cs.LG

On the Complexity of Preference-Based Bandits

説明選好ベースのバンディット問題の計算複雑性に関する研究

要約本論文は、一般的な報酬関数クラスの下で選好ベースのバンディット問題を研究する。学習者は腕のペアを逐次選択し、Bradley–Terryモデルに従う二値の選好フィードバックを観測する。著者らは、この設定に適した複雑性指標である局所感度エルーダー次元を導入し、アルゴリズムGINOPを提案して一次の後悔上界を示す。結論として、選好フィードバックからの学習は直接的な報酬観測と統計的に同程度に効率的であるとし、実験により競合する基準手法と比較して検証している。

Ahmed Ben Yahmed (CREST, ENSAE Paris, FAIRPLAY) ほか

arXiv cs.DC · cs.LG

HAPMoE: Heterogeneity-Aware Automatic Parallelism Planning for Mixture-of-Experts Models Training

説明HAPMoE:異種クラスタ向け混合エキスパートモデル学習の自動並列化計画手法

要約本論文は、ハードウェアの異種性を考慮した混合エキスパート(MoE)モデル学習向けの自動並列化プランナー HAPMoE を提案する。軽量な MoE 対応コストモデルを構築し、六次元の並列化空間を効率的に探索して、Megatron-LM にそのまま展開できる並列化計画を生成する。実験では、異種クラスタで従来手法比最大 3.2 倍のエンドツーエンド学習スループット向上を示し、非均一なパイプライン分割でさらに最大 78% の改善が得られ、探索は 1 分以内に完了したと報告されている。

Mengyuan Fan, Peizhuang Cong, Zixiao Huang ほか

arXiv cs.CL コードあり

Offline Guidance, Online Reasoning: Reusing LLM Feedback for Small Language Models

説明オフライン指導、オンライン推論:大規模言語モデルのフィードバックを小規模言語モデルに再利用する

要約大規模言語モデル(LLM)は推論能力が高いものの商用APIの利用コストが高く、小規模言語モデル(SLM)はローカルに展開しやすい一方で推論力が劣ります。本論文は、LLMをオフラインでのみ利用し、SLMのパラメータを固定したまま推論を行う設定を対象とし、ブラックボックスのLLMによる自然言語の指導を、SLMの隠れ空間における持続的な修正経験へ変換する手法Reusable Latent Correction(RLC)を提案しています。修正経験は外部のバンクに保存され、SLMの現在の推論状態に応じて検索されます。複数の推論ベンチマークとSLMの規模での実験で、パラメータ更新やオンラインのLLM呼び出しなしに推論性能が向上したと報告されています。

Bohan Zhang (1), Linan Yue (1), Weibo Gao (2) ほか

arXiv cs.SD · cs.AI

Who Said What, and Will It Be Remembered? Evaluating Persistent Speaker Attribution Across Meetings

説明誰が何を言ったか、そしてそれは記憶されるのか?会議をまたぐ持続的話者帰属の評価

要約本論文は、会議の書き起こしにおける持続的な話者識別を評価する指標SI-cpWERを提案し、全コーパスに単一の話者ID割り当てを適用して採点します。CHiME-8 NOTSOFARの129会議の評価セットおよびCHiME-6で、五つの商用の「分離してから識別する」システム、二つのオープンな学術ベースライン、著者らのエンドツーエンド・システムThyVoiceを比較しています。ThyVoiceは三つの条件すべてで商用システムより低いSI-cpWERを記録し、全体平均は47.13で、次点は54.75でした。

Shantanu Vispute, Aditya Mishra, Siddhartha Saxena

arXiv cs.AI · cs.LG

The Golden Path Hypothesis: Reusable Schedules in Diffusion Caching

説明黄金経路仮説:拡散モデルのキャッシングで再利用できるスケジュール

要約本論文は「黄金経路仮説(Golden Path Hypothesis)」を提唱し、固定された推論条件の下では、プロンプトに依存しないキャッシュスケジュールでも、プロンプトごとに最適化したものに近い最終出力品質が得られるとしています。10種類のキャッシング手法、4つの画像・動画モデル、3つのキャッシュ比率で検証を行い、新しいプロンプトやデータセットへの転用可能性を示しています。さらに、デノイジング軌跡と誤差の累積を分析し、その転移の理由を説明しています。

Dong Wang, Wenwu Tang, Francesco Corti ほか

arXiv q-bio.NC · cs.AI

Belief-Based Maximum Occupancy Principle and Active Inference

説明信念ベースの最大占有原理と能動的推論

要約本論文は、最大占有原理(MOP)を部分観測環境へ拡張し、能動的推論における期待自由エネルギーのベルマン形式を提案している。隠れ状態に対する信念推定をエージェントの状態に含め、信念状態空間上の価値反復によってオフライン計算を可能にしている。不確実な食料源を用いた実験では、MOPエージェントは採餌と食料源間の探索を切り替え、能動的推論エージェントは一つの食料源付近に留まる傾向を示した。

Manolis Mylonas, Rub\'en Moreno Bote

arXiv cs.AI · cs.CL · cs.LG

Understanding as No-Arbitrage: Bounded Dutch Books as a Definition and Training Objective for Language Models

説明理解=無裁定:有界なダッチブックを言語モデルの定義と訓練目標にする研究

要約本論文は、計算量に制約のあるトレーダーが論理的に関連する命題に対してモデルの確率に賭けて確実な利益を得られなければ、モデルはその語彙をある程度理解していると定義し、無裁定の観点から理解を測定します。Arbitrという訓練枠組みを提案し、Qwen2.5とPhi-3.5を用いた五つの事前登録実験で、標準的なモデルより利用されやすさが大幅に減り、タスク精度も損なわれないことを示しています。また、整合性は知識の必要条件であっても十分条件ではないと結論づけています。

Daniel Dragonevskiy

arXiv cs.LG

ElectrolyteFM: Unifying Electrolyte Property Prediction through Cross-Property Knowledge Learning

説明ElectrolyteFM:属性横断の知識学習による電解質物性予測の統合

要約電解質の配合設計には複数の物理化学的性質の両立が必要ですが、既存のモデルは一部の性質しか扱わないことが多いです。本論文は、各性質の表現を独立に学習しつつ、専門家プールとルーターで性質間で共有できる知識を選択し、残差アダプターで補正する統一的な多属性予測モデルETrolyteFMを提案します。Electrolyte12データセットでは、12種の性質の正規化平均絶対誤差が最強の電解質専用ベースラインより14.8%低減しました。学習時に含まれていない独立したナトリウム電解質データセットでは、導電率の平均絶対誤差が最良のベースラインより6.7%低減しました。

Jiaxin Yu, Shuo Wang, Peng Wang ほか

arXiv cs.CV

ContraSafe-VL: A Contrastive Safety Preference Dataset for Vision-Language Models

説明ContraSafe-VL:視覚言語モデルのための対照的安全性選好データセット

要約視覚言語モデルは汎用的なマルチモーダルアシスタントとして使われることが増えており、その安全性アラインメントが課題になっています。既存のデータセットの多くは「どう応答するか」しか教えず、視覚的文脈が安全判断にどう影響すべきかの教師情報は限られています。本論文は、同一のテキスト質問に異なる視覚的文脈を組み合わせ、安全ラベルの異なるクエリを作成するContraSafe-VLを提案します。無害性と有用性に基づく応答の選好ペアも含みます。3種のモデル構成での実験では、安全性の認識と過剰拒否のバランスが改善し、汎用能力も維持されました。データセットは公開予定です。

Di Wu, Yanyan Zhao, Xin Lu ほか

arXiv cs.LG

Learning Beyond Full Imitation: Task-Preserving Knowledge Distillation

説明完全模倣を超える学習:タスクを保持する知識蒸留

要約本論文は、知識蒸留において生徒が教師の予測確率に近づくほど良い結果になるとは限らないことを指摘します。生徒がすでに教師より正解クラスを明確に区別できている場合、さらなる模倣はその識別力を失わせる可能性があるためです。著者らは完全模倣と条件付き学習の厳密な分離を示し、ラベル勾配を保ったまま条件付き勾配を最小限修正するタスク保持知識蒸留(TPKD)を提案しています。CIFAR-100とCLINC150での実験では、標準的な蒸留よりそれぞれ0.47と0.35ポイント向上したと報告されています。

Qianfeng Yuan, Wenbing Tao

arXiv cs.LG · cs.AI

WinoTS: Wavelet-based Self-Distillation for Time Series Models

説明WinoTS:時系列モデルのためのウェーブレットベース自己蒸留手法

要約本論文は、時系列データ向けに設計された不変性ベースの自己教師あり事前学習手法WinoTSを提案しています。時間周波数変換を用いてマルチスケールの構造ビューを作成し、信号の動態を損なわないとしています。論文では、長期予測、クロスドメインのゼロショット転移、教師なし異常検知で既存のベースラインを上回ったと報告されています。また、アーキテクチャに依存しない枠組みであることが示されています。

Noam Major, Kathy Razmadze, Yoli Shavit

arXiv cs.LG

How Many Samples Are Enough for Learning Across Domains?

説明ドメイン横断学習には何サンプルあれば十分か?

要約本論文は、ドメイン横断学習において各ドメインに必要なサンプル数を検討しています。提示された学習境界に基づき、ドメインごとのサンプル数の十分性に関する基準を示しています。その結果、学習ドメイン数と各ドメインに必要なサンプル数の間に反比例の線形関係があることが示されています。

Hong Zheng

arXiv cs.CV

TexTailor: Texture-Preserving Video Virtual Try-On via Adaptive Garment Conditioning

説明TexTailor:適応的な衣服条件付けによるテクスチャ保持型ビデオ仮想試着

要約ビデオ仮想試着に関する論文で、事前学習済みのビデオ拡散Transformerを基盤とするTexTailorという枠組みを提案しています。デノイズの各タイムステップで衣服の視覚表現を動的に調整する仕組み、衣服とビデオの対応を強めるフレーム整列型の位置符号化、異種条件間の干渉を抑える多元注入設計を導入しています。高解像度のEeveeデータセットを含む複数のベンチマークで、衣服ディテールの保持、時間的一貫性、全体的な映像品質において競争力のある性能を示したと報告しています。

Zijing Qin, Jun Zhou, Ruicheng Zhang ほか

arXiv cs.DC · cs.CL · cs.OS

Taming Speculative Search for Test-Time Scaling in LLM Serving

説明LLMサービングにおけるテスト時スケーリングのための投機的探索を制御する手法:推論経路の探索を加速するシステム

要約テスト時スケーリングは、推論時に追加の計算を割り当てることで、数学やコーディングなどの難しい課題でLLMの推論精度を高める手法です。論文は、投機的実行を支えるには候補経路の探索空間の爆発と、頻繁で細粒度な検証という二つの課題があると指摘します。そこで著者らは、低品質な候補経路の早期枝刈り、冗長な経路間での計算の重複排除、細粒度な検証の遅延という三つの技術を備えたサービングシステムSpecScaleを提案しています。MATHおよびOlympiadベンチマークでの評価では、回答品質を維持しつつ、非投機的手法や既存の投機的手法を上回るスループットと低遅延を示しました。

Jinwoo Jeong (Korea University), Woohyung Choi (Korea University), Myeongjae Jeon (POSTECH) ほか

arXiv cs.HC · cs.AI · cs.CL コードあり

NarrativeSteward: Coordinating Delegation, Guidance, and Verification in Agent-Assisted Interactive Narrative Authoring

説明NarrativeSteward:エージェント支援による対話型ナラティブ制作における委任・指示・検証の調整

要約本論文は、アウトライン、世界観、ナラティブグラフを相互にリンクした成果物として整理し、エージェントの実装と作者による指示に用いる制作環境NarrativeStewardを提案します。エージェントとの対話やプロジェクト全体の構造レビューにより作者は作品の変化を把握し、変更記録と実行検証によって修正結果を評価できます。12名による被験者内実験では、汎用エージェントと比べて修正依頼の作成や変更の確認が容易になり、変更と物語構造への理解度の向上が示されました。

Wenjin Wang, Jiazhen Lei, Yuxin Sha ほか

arXiv cs.LG

PatchKV: Weight-Space Compensation of KV Cache

説明PatchKV:重み空間によるKVキャッシュ圧縮の補償

要約本論文は、大規模言語モデルの長文脈推論でメモリ消費が線形に増えるKVキャッシュの問題を扱います。訓練不要の手法PatchKVを提案し、文脈ごとの重みパッチをリッジ回帰の閉形式解で計算し、圧縮後のKVキャッシュと組み合わせます。SCBench、SQuAD、NIAH、GSM8Kなどのベンチマークと三つのモデル構造で、既存の圧縮手法の性能を一貫して改善したと報告しています。

Chanryeol Lee, Chanhyuk Lee, Yeonwoo Choi ほか

arXiv stat.ML · cs.LG

Discrete Score Matching Enables Causal Discovery from Count Data

説明離散スコアマッチングによるカウントデータからの因果発見

要約本論文は、カウントデータに対する因果発見の課題に取り組み、有向非巡回グラフ(DAG)の復元に用いる条件付き曲率スコア(CCS)と非対角曲率スコア(OCS)を提案します。また、離散拡散を用いてこれらのスコアを推定するアルゴリズムDISCO(DIscrete SCOre)を紹介します。実験では、ポアソン、負の二項、二項、混合分布の設定で正確なDAG復元を示し、単一GPUで1,000ノードのDAGまで拡張可能であることを報告しています。

Euijong Song, Hyewon Park, Gunwoong Park

arXiv cs.AI

WorkGenesis: Building the Worlds That Teach Agents to Work

説明WorkGenesis:エージェントに仕事を教える業務環境の構築

要約本論文は、実世界の文書から実行可能な職業業務タスクを構築し、大規模言語モデルのエージェント訓練に用いるフレームワークWorkGenesisを提案しています。O*NETの職業知識で公開文書を検索して根拠づける方法と、実行結果に基づいてタスクと評価基準を反復修正する方法を組み合わせています。合成した2万件のタスクで単純な教師ありファインチューニングを行ったFx-Work-35Bは、同規模の比較モデルより高い平均スコアを示し、1.6TパラメータのDeepSeek-V4-Pro-Previewも上回ったと報告されています。

Xinyu Zhu, Fenyi Liu, Yuzhu Cai ほか

arXiv cs.RO · cs.CV · cs.LG コードあり

MotionWeave: Learning Motion-Centered Future Dynamics for Vision-Language-Action Policies

説明MotionWeave:視覚・言語・行動ポリシーのための運動中心の将来動態学習

要約視覚・言語・行動(VLA)モデルは、まばらな行動ラベルを超える動的な監督を得るために世界モデルを取り入れてきたが、将来の画像や動画を直接予測すると制御に無関係な外観情報が含まれうる。本論文は、行動チャンク予測のための運動中心の将来動態フレームワーク MotionWeave を提案し、行動誘導運動定位モジュール(AIMG)と時間方向残差合成モジュール(HRC)から構成される。6つの MetaWorld タスクで平均成功率75.3%を達成し、π0(66.7%)を8.6ポイント上回った。特に持続的な相互作用を伴うタスクで効果が大きい。

Jingqiu Wang, Yan Wang

arXiv cs.RO · cs.AI

HiWE: Hierarchical World Knowledge Model with Visual Keypoint Enhancement for Zero-Shot 3D Path Planning

説明HiWE:ゼロショット3D経路計画のための視覚キーポイント強化型階層的世界知識モデル

要約本論文は、視覚的グラウンディングと言語ベースの計画を点ベースのインターフェースで結ぶロボットのデモンストレーション生成フレームワーク HiWE を提案しています。PointVLM が作業に関連する物体を画像座標と対応付け、3DLLM が深度情報から作られた3D意味表現を用いてエンドエフェクタの経路点とグリッパ指令を計画します。14 のシミュレーション作業と 4 つの実機作業で評価されています。

Guoqing Ma, Mingqi Yuan, Chen Gao ほか

arXiv cs.LG · cs.AI

GRPO Training Dynamics for Small Language Models

説明小規模言語モデルにおける GRPO 学習ダイナミクスの研究

要約本論文は、グループ相対方策最適化(GRPO)による強化ファインチューニングを、パラメータ数 1.5B から 7B の小規模言語モデルについて体系的に検証したものです。単一ノード 8xA100 の計算環境で、数学、コーディング、科学分野の多肢選択問題を対象に実験を行い、グループサイズや LoRA の対象モジュールが学習の安定性と性能に与える影響を分析しています。数学のベンチマークの約 80% で基礎モデルを上回った一方、多肢選択問題とコード推論では能力が限定的であり、著者らは LoRA と報酬設計を調整して改善を図りました。

Rajat Ghosh, Vaishnavi Bhargava, Henry Wong ほか

arXiv cs.LG コードあり

OmniMed-Jev: Calibrating LVLM Confidence for Trustworthy Medical Multimodal Decisions via System One

説明OmniMed-Jev:決定型インターフェースで医療LVLMの信頼度を校正する研究

要約本論文は、診断・所見・細胞数などの医療判断を、生成テキストの単一トークン確率ではなく、候補集合上の完全な確率分布として表現するOmniMed-Jevを提案している。同じバックボーン・データ・学習スケジュールで比較した生成型ベースラインに対し、報告確率は実際の正答率により近づき、校正誤差は最大で約一桁低減した。計数タスクでは生成型ベースラインが依然優位である。著者らは、これは評価したタスク内で信頼度を意味のあるものにする結果であり、臨床的な準備が整ったことを示すものではないと述べている。

Luyao Tang, Cheng Chen

arXiv cs.CV コードあり

Rethinking Generative Image Compression at Extremely Low Bitrates

説明極低ビットレートにおける生成的画像圧縮の再検討:RAE-CoDで意味的崩壊を抑える

要約ビットレートがゼロに近づいたときの生成的画像圧縮の挙動を分析した論文です。既存のコーデックは意味的崩壊を起こし、再構成結果が歪んだり認識不能になったりすることを示しています。著者らは表現オートエンコーダ(RAE)空間上の圧縮指向拡散モデルRAE-CoDを提案し、圧縮表現と原画像の表現を直接整合させることで、256×256画像を16ビットでも認識可能な内容として保持できるとしています。MSCOCO-30Kでは、0.001〜0.008 bppにおいて最良の比較手法より良い結果を報告しています。

Tianyu Zhang, Zhaoyang Jia, Houqiang Li ほか

arXiv cs.LG

Fusion techniques of time frequency-based images to predict the outcome of rTMS depression therapy

説明時間周波数画像の融合によるrTMSうつ病治療の効果予測手法の研究

要約本論文は、脳波(EEG)由来の時間周波数画像を融合するmontageとblendingの2手法と、軽量な畳み込みニューラルネットワークを提案し、反復経頭蓋磁気刺激(rTMS)によるうつ病治療の効果を予測する。セグメント単位の10分割交差検証では最大99.90%の精度を得た。しかし被験者単位で分割した厳密な検証では、多くの構成でAUCが0.31〜0.54にとどまり性能が大きく低下したと報告している。

Wael Korani, Md Fahimul Kabir Chowdhury, Mohammed Aledhari ほか

arXiv cs.LG · cs.AI

ReSAIL: Mitigating Collapse in Iterative Agent Self-Distillation

説明ReSAIL:反復的エージェント自己蒸留における性能崩壊の緩和

要約特権情報を用いた反復的自己蒸留では、学習サイクルを重ねるごとに部署時の性能が低下することが示されています。本論文は、特権情報が教師モデルの予測を最も大きく変える対話ステップを選択し、生徒モデルの出力分布を凍結した教師に近づける手法ReSAILを提案しています。ALFWorldとTextCraftでは、3サイクル後の最終成功率が平均22.5%(絶対値)向上したと報告されています。

Shengjie Jin, Hengbo Xu, Zelong Sun ほか

arXiv cs.RO · cs.AI

Scale and Selection: What Makes Automatic Harness Evolution Work for Visual-Interface Robot Agents

説明視覚インターフェース型ロボットエージェントのハーネス自動進化:規模と選択が成否を左右する

要約汎用のコーディングエージェントを、スクリーンショットでブラウザ上の3D画面を見て、ツールで仮想グリッパーを操作するロボット方策として使う研究です。プロンプトやツール、制御規則からなるハーネスを、別の最適化エージェントが自動で改良する手法を示しています。学習に用いる試行の数が多いほど未見タスクでの成功率が上がり、改良案は既存版を上回るものだけを採用するルールで、LIBERO上の成功率は51%から67%に向上しました。さらに蒸馏を組み合わせ、RoboCasa365で71.2%に達したと報告しています。

Zhijie Wei, Ferris Tan, Jinghui Wang ほか

arXiv math.OC · cs.LG

Generalized Geometry Block Proximal Linearized Method for Multiblock Nonconvex and Nonsmooth Optimization

説明一般化幾何ブロック近接線形化法:多ブロック非凸・非滑らか最適化のための手法

要約本論文は、多くの応用に現れる多ブロック非凸・非滑らか最適化問題のクラスを扱う。任意の内積と一般的な許容計量を用いてブロック代理関数を構成できる一般化幾何近接線形化演算子を提案し、それに基づくGGBPL法とその慣性版iGGBPL法を開発する。目的関数値の収束、臨界点への列の大域収束、収束率、およびO(ε⁻²)の反復計算量を示した。ℓ0制約付きのスパース非負行列分解とスパース非負CP分解での数値実験により、既存の最先端手法より優れた性能が示されている。

Weifeng Yang

arXiv cs.CV

BMASH: Ball-Motion-Aware Soccer Header Spotting

説明BMASH:ボールの動きを考慮したサッカーのヘディング検出

要約本論文は、放送映像においてボールが選手の頭部に触れる瞬間を特定する、サッカーのヘディング検出を扱います。まずVideo Swinを動作認識の基準モデルとして適応・評価し、次に検出器から得たボールの存在と動きの特徴を統合するBMASHを提案しています。BMASHはクリップ単位のAPとROC-AUCでVideo Swinの基準モデルを上回り、連続映像全体での検出ではイベント単位のF1が同程度で、適合率と再現率のバランスが異なると報告しています。

Ahmed Endris Hasen, Muhammad Shahzad Khan, Nikolaos Passalis ほか

arXiv cs.CL · cs.IR

Tree Navigation Without LLM Summaries: A Matched-Cost Study of Hierarchical Retrieval for Long-Document QA

説明LLM要約を使わない木構造ナビゲーション:長文書QAにおける階層型検索の等コスト比較研究

要約本論文は長文書質問応答における階層型検索を検討しています。著者らは、テキストチャンクから決定的な平衡セグメント木を構築し、インデックス作成時に言語モデルを呼び出さず、木を導航の足場としてのみ用いるNavTreeを提案しています。等コスト比較では、NavTreeは多段階QAでBM25を有意に上回り、各複数チャンク予算で要約ベースのRAPTOR変種を上回ったと報告されています。

Priyank Jayraj, Poonam Goyal, Navneet Goyal

arXiv cs.AI

MiniRep: Robust Reputation-Based Aggregation for Multi-Agent Debate

説明MiniRep:マルチエージェント討論における悪意あるエージェントに強い評判ベースの集約手法

要約大規模言語モデルのエージェントによる複数エージェント討論で、評判をどう扱うかを研究した論文です。提案手法MiniRepは、現在のタスクでの振る舞いと長期的な評判の両方を評価し、似た回答を出すエージェント群が最終判断を支配しないようにします。MATHでの実験では、攻撃の有無にかかわらず従来の討論集約法と従来の評判ベース手法より良い結果を示し、異種10エージェント設定では28のすべての攻撃条件で全ベースラインを上回ったと報告されています。

Jiaming Zhang, Yuwan Liu, Yue Huang ほか

arXiv cs.LG

Semantic-Aware Joint Source-Channel Optimization for Encoder-Agnostic Digital Video Communication

説明エンコーダ非依存のデジタル映像通信に向けた意味認識型ジョイント信源・通信路最適化

要約本論文は、既存のデジタル映像通信システムにプラグインモジュールとして組み込める軽量な意味認識型ジョイント信源・通信路最適化(SAJSCO)手法を提案する。フレーム間の意味的重要度と推定されたチャネル状態情報に基づき、送信側で信源圧縮率と通信路符号化率を同時に調整し、その最適化にはマルチアクター近接方策最適化(MPPO)を用いる。学習された方策は、エンコーダごとの再学習なしに異なる映像エンコーダへ直接適用できる。H.265およびDCVC-RTと組み合わせた場合、BDレートはそれぞれ34.86%と18.01%低減したと報告されている。

Xiangben Zhu, Caili Guo, Yang Yang ほか

arXiv cs.AI

ANI: Adaptive Numerical Injection for Unifying Semantic and Arithmetic Representations in Numerical Reasoning

説明ANI:数値推論で意味表現と算術表現を統合する適応的数値注入手法

要約本論文は大規模言語モデルの数値推論を改善するため、ANI(Adaptive Numerical Injection:適応的数値注入)というフレームワークを提案しています。テキストのトークン化は数字を分断しがちで算術推論を妨げ、一方で数値埋め込みは数字の文脈上の意味的役割を考慮しません。ANIは文脈認識型のゲーティング機構により、数値特徴(具体的にはFoNE)を潜在空間へ選択的に注入し、識別子としての数字を保ちつつ数量を表す被演算子を強化します。著者らは複数のモデルでMATHベンチマークが公式参照モデルより9.5ポイント向上し、一般的な言語ベンチマークでも安定した性能を維持したと報告しています。

Jinsung Jeon, Seung-won Hwang

arXiv cs.LG · physics.flu-dyn

Physics-Informed Method of Group Data Handling: Adaptive Construction of Functional Representations with an Application to the Navier-Stokes Equations

説明物理情報付きグループデータ処理法:関数表現の適応的構築と Navier-Stokes 方程式への応用

要約本論文は、固定構造ではなく求解の過程で結合物理場の関数表現を段階的に構築する、物理情報付きグループデータ処理法(PI-GMDH)を提案します。チェビシェフ関数を用いて、二次元時間依存のテイラー・グリーン基準問題で非圧縮性 Navier-Stokes 方程式に適用しました。試験した設定では、適応的手法は約5.3e-19の検証・テスト損失に到達しました。他の構築方針やPINN、KANの参照設定とも比較していますが、結果は制御された合成ベンチマークに限られ、他の物理情報手法に対する普遍的な優位性を主張するものではありません。

Mykhailo Minin

arXiv cs.LG · stat.ML コードあり

STCFormer: Adaptive Spatio-Temporal Modeling with Dynamic Cluster Transformer for Station-based Weather Forecasting

説明STCFormer:観測地点ベースの天気予報のための動的クラスタTransformer(適応型時空間モデリング)

要約本論文は、各時間パッチ内で観測地点の局所的な変化に応じて動的にグループ化する適応型時空間Transformer「STCFormer」を提案しています。クラスタ誘導型アテンションブロックは、クラスタ内の細粒度な局所アテンションと、地域の状態要約に対する全体アテンションを組み合わせます。三つの実世界の天気データセットにおける気温と風の八つの予報タスクで評価され、八つすべての24時間平均二乗誤差が最も低い結果となりました。

Rongwen Li, Haixin Xie, Mingyang Wang ほか

arXiv cs.SE · cs.AI

EngramBench: A Capability-Grounded Benchmark for Skill-Evolution Harnesses

説明EngramBench:スキル進化ハーネスのための能力基盤型ベンチマーク

要約本論文は、自律エージェントのスキル進化能力を評価するベンチマーク「EngramBench」を提案しています。過去のコードの丸写しと真の能力抽象化を区別するため、「解法の重複なしに能力の重複がある」という原則を採用しています。30の学習タスクと13の未見の転移タスクを含み、48件の複数時間にわたる実行記録で評価され、人間の専門家による検証も行われています。静的なスキルバンクだけでは正確なコード実装の壁は越えられないものの、試行錯誤を減らし、コーディング時間を55%以上短縮できたと報告しています。

Zhixuan Tan, Pengjie Gu, Zhao Li ほか

arXiv astro-ph.IM · astro-ph.EP · cs.LG

A Missing Latent, Not a Missing Simulator: Radius-Augmented Inference for Real JWST Retrieval

説明欠落していたのはシミュレーターではなく潜在変数:実際のJWST大気リトリーバルのための半径拡張推論

要約放射伝達シミュレーターで学習した償却型シミュレーションベース推論は、合成JWSTスペクトルでは系外惑星大気を正確に復元できるものの、実際の観測スペクトルでは崩壊することを論じています。著者らは惑星の半径という潜在変数が欠落していることが原因だとし、半径を加えたフローマッチングによる後験分布手法MIRAGEを提案しています。この手法により実際のWASP-39bで文献と整合する結果が得られ、複数の装置と三つのJWST対象にも適用できたと報告しています。

Angshuman Chakravertty, P V V Raj

arXiv cs.LG · cs.CL

A Tilted Bowl Is Not a Slippery Slope: Compressing Looped Models

説明傾いたお椀はすべり台ではない:ループモデルの圧縮

要約本論文は、同じ重みブロックを繰り返し適用するループモデルを圧縮すると性能が崩れる理由を調べたものです。五つのファミリーの30以上のモデルで検証した結果、丸め誤差が蓄積するのは収束しないループの場合に限られ、収束するループでは固定の丸め誤差は収束点を動かすだけだと示されました。これに基づき、停止ヘッドが発火した後に8ビット重みでループを完了する制御器を提案し、Sudoku-ExtremeとMaze-Hardで固定深度推論を上回ると報告しています。

Steven Kolawole, Pearse Jim, Opegbemi M. Busoye ほか

arXiv cs.LG

ReTaCo: Residual-Target Control for On-Policy Distillation

説明ReTaCo:オンポリシー蒸留のための残差ターゲット制御

要約オンポリシー蒸留(OPD)は、生徒モデルが自ら生成した接頭辞に対して教師からトークン単位のフィードバックを受けて学習しますが、全語彙の分布を毎トークン伝送・保存するのはコストがかかります。既存のEOPDは、教師のtop-k確率を再正規化するため、学生がtop-k内の相対確率を教師に合わせた後もtop-kの確率質量を1へ押し上げ続け、省略トークンの確率が正の場合は教師自身が定常点にならないことを論文は示しています。提案のReTaCoは上位k個のトークンを個別に保持し、残りを一つの残差記号にまとめ、その期待値が全語彙の逆KLに等しい単一サンプル推定器と組み合わせます。数値最適化と3組の教師・生徒モデルでの実験により、ReTaCoは多くの数学・コードベンチマークでEOPDを上回りました。

Zixiang Ni, Zhuo Hu, Renjie Cao ほか

arXiv cs.CV コードあり

MegaAvatar: Controllable Talking Avatar Generation

説明MegaAvatar:制御可能な話すアバター動画生成

要約本報告は、Wan2.2-TI2V-5B モデルを基盤とする制御可能な話すアバター生成フレームワーク MegaAvatar を提示する。音声や参照画像に加えて、SMPL-X 由来の 3D ガイダンスを導入し、身体の姿勢と頭部の動きを制御する。さらに、音声と顔の交差注意モジュールにより表情の制御と入力された人物の同一性の維持を実現する。参照画像と音声から SMPL-X 系列を予測するモデルも含み、音声のみで駆動できるとしている。

Junyao Gao, Sibo Liu, Weidong Zhang ほか

arXiv cs.NE · cs.DC · math.OC

An Island-Based Parallel Biased Random-Key Genetic Algorithm for the Three-Dimensional Trailer Loading Problem

説明三次元トレーラー積載問題のための島モデル並列バイアス付きランダムキー遺伝的アルゴリズム

要約本論文は、トレーラーの限られた空間内で異種の荷物の配置と向きを決め、容積利用率を高めつつ各種の物流・安全上の制約を満たす三次元トレーラー積載問題(3D-TLP)を扱っています。この問題はNP困難であり、大規模な産業応用では厳密な最適化手法は計算上現実的ではありません。そこで著者らは、島モデルによる並列化を取り入れたバイアス付きランダムキー遺伝的アルゴリズム(BRKGA)の改良版PANGEAを提案し、個体群の多様性を高めて計算時間を短縮しています。提案手法は実際のトレーラー積載工程で検証されています。

A. del R\'io, L. D\'iaz, L. C. de Vicente ほか

★★★★☆ 注目
arXiv cs.LG

RW-Flow: One-Step Generation on Compact Manifolds via Wasserstein Gradient Flows

説明RW-Flow:Wasserstein勾配流によるコンパクト多様体上の一段階生成

要約本論文は、地震の発生位置やタンパク質・RNAのねじれ角など、コンパクト多様体上のデータを対象とするRW-Flowという枠組みを提案し、Wasserstein勾配流によって一段階で生成できるモデルを学習する手法を示しています。従来の拡散モデルやフローモデルは数十から数百回のネットワーク評価を必要としますが、本手法はそれを不要にすることを目指しています。著者らは、コンパクトで連結なリーマン多様体上で同定可能性が成り立つための必要十分条件を示し、対称でLipschitz連続な費用関数に対しては、対応するGibbs核が非退化であることが条件になると述べています。また、測地線距離の二乗は必ずしも同定可能性を保証しないことも示しています。公平な比較条件のもとで、ほぼすべての設定において既存の一段階手法を上回ったと報告されています。

注目点Sinkhornダイバージェンスに基づく識別可能性の必要十分条件を示し一段階生成に応用しており新規性は高い。多様な多様体ベンチマークで比較しているが、影響は多様体生成の分野に限られる。

Ualibyek Nurgulan, Seungwoo Yoo, Prin Phunyaphibarn ほか

arXiv cs.LG · cs.AI

A Time-Aware Bag-of-Receptive-Fields for Interpretable Irregular Time Series Classification

説明不規則時系列の解釈可能な分類のための時間を考慮した受容野のバッグ手法

要約本論文は、サンプリング間隔が不均一で欠損があり長さもまちまちな不規則時系列の分類を対象としています。高速で決定論的、かつ解釈可能な時系列変換であるBag-Of-Receptive-Fields(BORF)を不規則データに拡張し、各観測値を時間差に比例して重み付けする正規化方式を提案しています。線形時間計算量を保つ滑動窓の再帰式も導出されています。PYRREGULARリポジトリのデータセットでの評価では、分類性能が既存手法と競合し、人が理解できる説明も得られることが示されています。

Francesco Spinnato

arXiv cs.CV

PLRS-IC: A Dual-Calibration Framework for Chest X-Ray Vision-Language Alignment

説明PLRS-IC:胸部X線の視覚・言語整合のための二重校正フレームワーク

要約本論文は、胸部X線における視覚・言語整合の二つの曖昧さ、すなわち正面像と側面像による視覚的な不一致と、異なる患者間で臨床概念が重なる負例の扱いに着目しています。提案手法PLRS-IC は、局所段階では投影条件付き低ランク残差類似度(PLRS)で画像パッチとテキストの対応を調整し、全体段階では情報量で校正された軟偽陰性抑制(IC-SFNS)で意味的に重なる負例への罰則を緩和します。九つの公開ゼロショットベンチマーク設定で、分類、位置特定、セグメンテーションの各タスクにおいて一貫した改善が示されています。

Qixing Zhao, Jinpeng Li

arXiv cs.CV

Universal Cross-Prompt Adversarial Attacks on Promptable Concept Segmentation

説明プロンプト可能な概念セグメンテーションに対する汎用的なクロスプロンプト敵対的攻撃

要約本論文は、概念レベルのセグメンテーションを行う SAM3 の敵対的攻撃に対する頑健性を検討しています。提案手法 AdvPCS は、最小最大プロンプト最適化、大域・局所知覚欺瞞攻撃、時間的遷移偏差攻撃を組み合わせ、単一の汎用摂動を生成します。四つのベンチマークで、点・ボックス・テキストのプロンプトに対して強い攻撃効果が示され、SA-CO データセットではテキストプロンプト下で平均 mIoU を 5% 未満に下げたと報告されています。

Ziqi Zhou, Yifan Hu, Yufei Song ほか

arXiv cs.CL · cs.LG

Concept Subspaces Compute Beyond the Logit Lens: A Weights-Only Test for Locating Representations Upstream of Readout

説明Logit Lens を超えた概念部分空間の計算:出力読み出しの上流にある表現を重みのみで判定する検定

要約本論文は、抽出した概念部分空間が非埋め込み行列の主要な右特異方向とどの程度重なるかを、モデルの重みだけで測る幾何学的診断法を提案している。十次元の FARS 部分空間を対象に、26 のモデルと複数の推定手法を比較した。FARS の読み出しエネルギーは低いが、同層の次トークン対照群とは明確に区別される。介入実験の結果は、モデルによって効果が異なり、完全なベクトル置換よりもはるかに小さいことを示している。

Aojie Yuan, Zhiyuan Julian Su, Haiyue Zhang ほか

arXiv cs.LG

A First Glance at Jev for Network Traffic Classification: Accuracy, Processing Time, and Cost

説明ネットワークトラフィック分類におけるJevの初期評価:精度、処理時間、コスト

要約本論文は、CESNET-QUICEXT-25データセットの10のアプリケーションラベルを対象に、各フローの最初の10パケットのサイズ、方向、パケット間時間のみを用いて、汎用決定モデルJevのアプリケーション分類性能を評価しています。40件の標注例を与えると、Jevの精度は9.80%から28.42%に向上しましたが、8,000件で学習したRandom ForestやExtra Treesには及びません。100件の対応サブセットでは精度に明確な優劣は確認されず、処理時間は設定の違いによるものです。

Shenghe Xu, Lifan Mei

arXiv cs.AI · cs.LG

Effective Does Not Mean Useful: Conditional Functional Substitutability for Redundancy and Scaling in Transformers

説明有効であることは有用であることを意味しない:Transformerにおける冗長性とスケーリングのための条件付き機能的代替可能性

要約本論文は、中間的な計算状態が下流の応答を似たものにする場合に機能的に冗長だとみなし、その機能的な代替関係を直接捉える条件付き機能的代替可能性(CFS)を提案している。従来の重要度や表現類似度による指標では見えない関係を明らかにし、複数のモダリティとTransformerのファミリーで、規模に伴う系統的な機能の再編成を示している。

Jiaheng Chen, Jiaxing Li, Yucheng Xiao ほか

arXiv cs.LG · cs.AI · cs.DB

From Benchmarks to Production: Transferring Time Series Anomaly Detection Methods for Electricity Production Monitoring

説明ベンチマークから本番へ:発電量監視のための時系列異常検知手法の移転

要約本論文は、EDF(フランス電力公社)の短期発電量予測において、データ品質の問題や運用上の異常を示しうる日内の非典型的なパターンを検出する課題を扱います。過去のデータから学習した履歴パターンからの逸脱に基づいて異常な日を自動検出する、拡張性と解釈可能性を備えたシステム TAMIS を提案しています。上位の異常は毎日の自動ニュースレターで提示され、専門家による確認を支援します。実産業データでの評価では、ベースライン手法と比べて精度と効率のバランスが最も良いと示されています。研究で用いた匿名化済みデータセットも公開されています。

Nicolas Vautier, Paul Caron, Nardi Xhepi ほか

arXiv cs.LG · cs.DC

Client and Training Data Selection for Computationally Efficient Synchronized Federated Learning

説明計算効率の高い同期型フェデレーテッドラーニングのためのクライアントと学習データの選択手法

要約本論文は、フェデレーテッドラーニングにおいて遅延するクライアントや非独立同分布データがグローバルモデルの収束を遅らせる問題を扱っています。確率的なクライアント選択に基づく既存手法は、非独立同分布データかつクライアント数が少ない場合にうまく機能しないと指摘しています。そこで、クライアントと学習データを同時に選択して高速な収束を目指すアルゴリズムを提案しています。CIFAR-100での実験では、非独立同分布データや異種計算を扱える既存研究より収束が大幅に改善し、モデル精度も高くなったと報告されています。

Muzaffer Citir, Hiroki Nishikawa, Sangyoung Park

arXiv cs.LG · cs.AI

Trust the Critic More

説明批評器をより信頼する:行動チャンキングを用いたアクター・クリティック型LLM強化学習

要約本論文は、大規模言語モデルの強化学習のためのAC2(Actor-Critic with Action Chunking)を提案しています。すべての軌道を終端報酬まで生成する必要をなくし、過去の軌道の接頭辞から作られる短い続き(アクションチャンク)に信用を割り当て、学習された批評器がその終点の状態を評価します。Qwen3-4BをFineProofs-RLで訓練しIMO-ProofBenchで評価したところ、GRPOの最高検証スコア18.5%を上回り、デコーディングのFLOPsは2.5倍少ないと報告しています。

Kaiyue Wen, Luke Bailey, Arvind Mahankali ほか

★★★★☆ 注目
arXiv cs.LG

Right Answer, Wrong Mechanism: Detecting Pernicious Divergence in Causal Interventions

説明正解だが仕組みが誤り:因果介入における有害な逸脱の検出

要約本論文は、活性化パッチングや分散アラインメント探索(DAS)などの因果介入が、ニューラルネットワークにおいて正しい答えを誤った仕組みで生み出す問題を扱います。著者らはGPT-2 smallに隠れた経路を埋め込み、10万回以上の介入を検証しました。既存の距離ベースの手法はランダムより低い精度にとどまり、提案の隠れ経路寄与度(HPC)は多くの場合で有効でしたが、全ユニットが自然な範囲内にある場合には検出できませんでした。また、最適化された介入は隠れ経路を積極的に利用する傾向があり、多様体制約を加えることでその割合を大きく下げられることが示されています。

注目点事前学習モデルに隠れた経路を埋め込み、因果介入の誤ったメカニズムを検証可能にし、ラベル不要の検出法を提案。新規性と証拠は十分。

Beiming Liu, Minjie Chen

arXiv cs.LG · cs.CG · math.AT

A differentiability framework for zigzag persistent homology via linear interpolation

説明線形補間によるジグザグ永続ホモロジーの微分可能フレームワーク

要約永続ホモロジーは微分可能にして学習パイプラインに組み込むことができますが、位相構造が時間とともに単調でなく変化する場合に必要となるジグザグ永続性については、これに相当する枠組みがありませんでした。本論文では、固定された複体上で時間依存のフィルタリング値を閾値処理して得られる単体複体の列に対する枠組みを提案します。永続図の端点を、線形補間したフィルタリング値が閾値を横切る実数時刻として定めることで、導関数が概ねすべての点で存在することを示します。また、例外となる零測集合を明示的に示し、センサーネットワークの被覆最適化と動的グラフ分類の二つの実験で実証しています。

Enrico Maria Ferrari, Clemens Bannwart, Matteo Biagetti

arXiv cs.CL

4MT-VLM: How Coarse Is a VLMs Cognitive Map?

説明4MT-VLM:視覚言語モデルの認知地図はどれほど粗いか

要約本論文は手続き的に生成された地形景観からなるデータセット4MT-VLMを提案します。外観の手がかりを取り除き配置は固定した五種類の刺激モードで描画されています。16の公開型・非公開型モデルを4AFCで評価した結果、元の視点では地点を識別できるものの、カメラが回転すると性能が低下し、135°では25%の偶然水準を下回ると報告されています。著者らは、現在の視覚言語モデルには初歩的な認知地図があるものの、視点が変わった後に安定した三次元理解を保つには空間分解能が粗すぎると結論づけています。

Markus Frey

arXiv cs.RO · cs.CV

The Planning Limits of Latent World Models

説明潜在世界モデルの計画能力の限界:予測が計画に使える条件と失敗する条件

要約本論文は、凍結された自己教師あり視覚バックボーン(V-JEPA 2、V-JEPA 2.1、VideoMAEv2、VideoPrism、DINOv2)上に構築した行動条件付き世界モデルを、Meta-Worldの操作タスクとBridgeData V2の実機データで評価しています。モデルが行動選択を確実に導けるのは、目標が想像した軌道の内側か、わずかに外側にある場合に限られることが示されています。予測が完全であっても、目標が遠くなるほど成功率は低下します。さらに、計画可能な範囲内では、世界モデルが視覚・言語・行動(VLA)方策の成功率を向上させられることも報告されています。

Ali Alrasheed, Basim Azam, Naveed Akhtar

arXiv cs.LG · cs.AI

What Streaming Anomaly Detection Finds (and Misses) in Industrial Time Series

説明産業用時系列データにおけるストリーミング異常検知の発見と限界

要約本論文は、EDF(フランス電力公社)の発電所で異常を早期に検出するための連続監視の需要を背景に、教師なし設定でストリーミング手法とオンライン展開された最先端のTSAD(時系列異常検知)モデルを、実際の原子力発電所データで比較している。ストリーミング環境における自動異常検知の評価も行われている。結果として、オンラインTSADは一貫性が高く、アンサンブル手法は強い頑健性を示したと報告している。

Magali Parrino, Antoine Ajenjo, Emmanuel Remy ほか

arXiv cs.CL · cs.AI · cs.LG

RAIM: Robust Aggregation of Inexpensive Models for Hallucination Detection

説明RAIM:低コストモデルの頑健な集約による幻覚検出

要約本論文は、低コストなオープン重みの評価モデル(4〜9B)群を集約して、フロンティアモデルの代わりに忠実性を評価できるかを検討している。著者らは、交差適合された積み上げロジスティック回帰と許容性検定を組み合わせたRAIMを提案し、八つのベンチマークで十の評価モデルを用いて検証した。Claude Sonnetと比べ、中央値で Cohen's κ の93%を保ち、平均で平衡精度は2.9ポイントの低下にとどまり、推論コストはフロンティアモデルの64分の1である。

Elia Onofri, Roberto Di Pietro

arXiv cs.AI

Fyan: A Human--AI Harness with Semantic Auditing for Document-Level Formalization

説明FYAN:文書単位の形式化のための人間とAIのハーネスと意味監査

要約本論文は、文書単位の数学的形式化のための人間とAIの協働フレームワークFYANを提案します。仕様定義、証明計画、論理レビュー、Lean証明の構築、知識の整理、検証までの流れを扱い、形式的命題が非形式的仕様を忠実に保っているかを、証拠に基づく意味監査で評価します。FormalTCS定理143件のうち、同一モデルで86件を証明し、汎用エージェント枠組みの69件を上回りました。ConsistencyCheckでは、直接LLMで判定する方法より多くの不整合を検出しています。

Wei Zhao, Yangshuo Zou, Chengxiang Ding ほか

arXiv cs.CV · cs.AI

Emergent Multi-View Geometry Through Self-Distillation

説明自己蒸留によって現れる多視点幾何表現

要約本論文は、RGB再構成ではなく自己蒸留によって複数視点から表現を学習する自己教師あり手法 Poincar3 を提案しています。マスクされたパッチと画像レベルの蒸留を組み合わせ、追加の視点を観察する教師モデルを用いて、明示的な3D教師なしで最初から学習できるとしています。対応点推定、カメラ姿勢推定、3D再構成において、DINOv3、MuM、Muskie などの既存手法より優れた結果を報告しています。

David Nordstr\"om, Thibaut Loiseau, Vincent Lepetit ほか

arXiv cs.CL · cs.IR コードあり

Argument Structure Prediction in Online Conversations: A Comparative Study of Modeling Paradigms and Task Architectures

説明オンライン対話における論証構造予測:モデリング手法とタスク構成の比較研究

要約本論文は、対話から論証単位とその関係を特定し、完全な論証構造を自動予測する課題(ASP)を扱います。厳格なスキーマ制約のもとで、教師ありファインチューニングとプロンプトベースの大規模言語モデルを、単一ステップと多ステップのタスク構成で比較しています。推論アンカリング理論から改変した三つの対話コーパスで評価した結果、論証関係の特定が主な障壁であり、対話的論証が暗黙的で文脈に依存することがその主因だと述べています。

Siddharth Bhargava, Sara Tonelli, Patricia Mart\'in-Rodilla ほか

arXiv cs.LG

QATFactory: A Versatile, Deployment-Aligned Framework for Quantization-aware Training and Distillation of LLMs

説明QATFactory:LLMの量子化認識学習・蒸留のための、デプロイ整合型フレームワーク

要約本論文は、大規模言語モデルの量子化認識蒸留(QAD)と強化学習(QARL)を行うオープンソースフレームワークQATFactoryを提案する。BF16で行列演算を実行しながらデプロイ時の量子化をシミュレートし、NVFP4、MXFP4、llama.cppのQ4_K形式に対応する。Qwen3.5-9Bでは、QADの平均精度がNVFP4で68.9%、MXFP4で66.0%となり、最良の学習後量子化の結果を上回った。

Weili Xu, Jisen Li, Yuqing Jian ほか

arXiv cs.CV

DC-SAE: Deep Compression Semantic Autoencoder for Faster Diffusion Convergence

説明DC-SAE:拡散モデルの収束を速める深層圧縮セマンティック・オートエンコーダ

要約本論文は、高圧縮の画像生成向けに設計された分離型コンパクト・セマンティック・オートエンコーダDC-SAEを提案し、拡散モデルの収束の高速化を目指しています。事前学習済みのセマンティックエンコーダによって高い圧縮率を実現する設計と、低レベルの細部を保つピクセルレベルのエンコーダを組み合わせています。512×512解像度のImageNetでは、32倍の空間圧縮でPSNR 29.79、gFID 3.37を達成したと報告されており、テキストから画像への生成結果も示されています。

Xu Huang, Ye Huang, Zijun Liao ほか

arXiv cs.AI · cs.LG

Learning Process Rewards via Reasoning State Propagation

説明推論状態の伝播による過程報酬の学習:最終結果で中間ステップを監督する論文

要約本論文は推論状態伝播(RSP)を提案し、各推論の接頭辞を二値の有効性状態で表し、連続する状態間の遷移をモデル化します。これらの遷移を伝播させることで、過程アノテーションが中間状態を、結果ラベルが最終状態を監督し、その学習信号を前のステップにも伝えられます。推論探索、応答選択、強化学習の実験では、代表的な過程報酬モデル(PRM)のベースラインを上回り、Qwen2.5-Math-PRM と比べてビームサーチで平均5.6%、強化学習で平均2.1%の改善が示されています。

Kai Gan, Zi-Hao Zhou, Bo Ye ほか

arXiv cs.LG · cs.AI コードあり

In a Streaming World, Should You Stand Still? A Comprehensive Benchmark of Anomaly Detection in Streams

説明ストリーミング環境では静止したままであるべきか?ストリーム上の異常検知に関する包括的ベンチマーク

要約本論文は、ストリーミング環境における時系列異常検知を対象に、ストリーミング手法と静的手法を統一された評価基準で比較した初の大規模実験研究です。実データの分布ドリフトを含むデータセット TSB-drift も提案し、増分更新が理論的に正当化される状況を切り出して検証しています。結果として、一般的な想定に反し、ほとんどのストリーミング設定では静的手法がストリーミング手法を大きく上回ることが示されました。

Magali Parrino, Antoine Ajenjo, Emmanuel Remy ほか

arXiv stat.ML · cs.LG

Minimax Additive Regression under Unknown Dependent Designs

説明未知の依存設計下における最小最大加法回帰

要約本論文は、設計分布が未知で積形式とは限らず、共変量の数が標本サイズとともに増加する加法回帰を扱う。次元に対して一様に成り立つ同時密度の有界性と次元増加条件のもとで、予測について一致する最小最大の上下界を示す。周辺密度が既知なら古典的な加法的速度が達成可能である。周辺密度が未知でも、密度の滑らかさが重み付き成分以上であればこの速度は保たれ、そうでなければ周辺密度の滑らかさが最小最大速度を決める。

Baptiste Ferrere, Fabrice Gamboa, Jean-Michel Loubes

arXiv cs.MA

Consensus and Factual Dynamics in Large Populations of Interacting Language Models

説明相互作用する大規模言語モデル集団における合意と事実性のダイナミクス

要約本論文は、同一の固定モデルから抽出した言語モデル集団を、相互作用の幾何構造を変えられる自己スピン系として扱う物理学由来のフレームワーク RHEON を提案します。プロンプト、集団規模、通信トポロジー、サンプリング温度の 432 通りの設定で、約 470 万件の応答からなるコーパス Eraclitus-4.7M を生成しました。合意の向上は最初の数回の更新で最も強く、隣接数の増加は平均的に収束を早めることが分かりました。ただし、事実に即した合意になるか幻覚的な合意になるかは初期状態からは予測できず、幻覚を最も抑える温度も結合の仕方に依存します。意味的一致と事実収束は正の相関を示すものの、全員一致が正しさを保証するわけではありません。

Emanuele Ricco, Elia Onofri, Vincenzo Sammartino ほか

arXiv cs.SD · cs.AI

UniAE-MoE: A Unified Audio Encoder via Mixture of Experts

説明UniAE-MoE:専門家混合による統一音声エンコーダ

要約本論文は、大規模音声言語モデル(LALM)向けの統一音声エンコーダUniAE-MoEを提案します。専門家混合(MoE)構造により、音声、音楽、一般音声を横断して扱えるように設計されています。Qwen2-AudioとAudio-Flamingo 3のエンコーダを統合し、共有専門家付きSwiGLU、二段階の指示チューニング、タスク固有データスケーリングを導入しています。XARES-LLMベンチマークで0.802のスコアを記録し、Interspeech 2026の音声エンコーダ能力チャレンジでも上位の成績を示したと報告されています。

Shengbo Cai, Zhisheng Zhang, Zichao Nie ほか

arXiv cs.CV

Uruqi: Learning Spatial Cognition from Visual Experience

説明Uruqi:視覚経験から空間認知を学習する(論文)

要約本論文は、視覚言語モデルが自己運動の追跡と移動中の周囲世界のマッピングに苦手とする点に対し、連続的な視点の視覚経験による学習を提案します。研究者は多様な3Dシーンで11,738本のカメラ軌跡を合成し、52kの質問・2.7kのエピソードからなるUruqiベンチマークで評価しました。URUQI-Syn-8Bは正答率を15.84%から47.73%に向上させ、外部の3つの空間ベンチマークではベースモデルに対し平均17.13%の相対改善を示したと報告されています。

Shichao Li, Meiqi Wang, Fei Su ほか