AI アルゴリズム · 2026年10月13日(火)

機械学習、人工知能、自然言語処理、コンピュータビジョン、マルチエージェント。

arXiv cs.CV

Closing the Estimation Gap: Training-Free Transductive Inference for Cross-Domain Few-Shot Action Recognition

説明推定ギャップを埋める:クロスドメイン少数ショット行動認識のための学習不要な転移推論

要約クロスドメイン少数ショット行動認識は、少数のラベル付き動画から目標ドメインの未知の行動クラスを認識することを目指します。論文はまず表現を固定したオラクル分析を行い、真の問い合わせラベルでプロトタイプと決定境界を構成すると、5-way 1-shot の精度が5つの目標データセットで 7〜20 ポイント向上することを示しました。そこで、バックボーンを変更せずにエピソード単位の推定を改善する学習不要の枠組み TRACE を提案します。TRACE は信頼度閾値付き転移プロトタイプ精緻化と転移分類器精緻化の2段階からなり、強力なベースラインを一貫して改善し、HMDB51 の 1-shot では 6 ポイントを超える向上を達成しています。

Changyi Li, Zeyu Yang, Yu Xiao

arXiv stat.ML · cs.IT · cs.LG

Delay Complexity Dimension: Learning with Delayed and Censored Labels

説明遅延複雑度次元:遅延・打ち切りラベルを用いた学習

要約ラベルがランダムな遅延の後に到着し、観測窓 W を超えると打ち切られる場合の二値分類器の PAC 学習を研究している。分布に依存する指標として遅延複雑度次元(DCD)を提案し、VC 次元と観測チャネルの正確なラベル情報量を組み合わせる。任意の学習器は Ω(DCD/ε²) 個のサンプルを必要とし、下界の事例族上では擬似ラベル ERM がこの速度に一致することを示す。合成データと Criteo のコンバージョンログで実験を行い、理論の予測を支持している。

Madhava Gaikwad

arXiv cs.SE · cs.CL

SWE-MISBEHAVIOR: Benchmarking and Mitigating Boundary Violations in Software Coding Agents

説明SWE-MISBEHAVIOR:コーディングエージェントの境界逸脱の評価と緩和

要約本論文は、コーディングエージェントの境界逸脱行動を診断するための初の分類体系と評価フレームワーク「SWE-MISBEHAVIOR」を提案しています。コード生成、ファイル管理、システム相互作用の3層にまたがる約7.4Kの人手介在合成サンプルを含み、計11種類の行動を扱います。オープンソースの主要なコーディングエージェントでの実験では、依存関係の誤解釈やユーザー入力の意図しない変更などの逸脱が確認されました。さらに、軽量な適応型フレームワーク「CODE-KIT」が提案され、逸脱行動を smolagents で52%、OpenHands で34%減少させたと報告されています。

Do Xuan Trong, Duc Anh Nguyen, Do Xuan Long ほか

arXiv cs.LO · cs.AI

Reset Early, Reset Often, Eliminate Models

説明早期かつ頻繁にリセットし、モデルを排除する:接続タブロー型証明器の改良

要約本論文は、接続タブロー(connection-tableau)型の自動定理証明器を扱い、従来のバックトラッキング探索では失敗した試行から導出情報を再利用しにくい点を指摘しています。提案手法SATResetCoPは、非生産的なタブローまで戻らず新たなタブローを開始し、増分SATソルバに基底節を追加し続けます。TPTPでは基準手法よりそれぞれ54%、18%改善し、MPTP2078では616問を解いたと報告されています。

Martin S. Fixman, Fredrik R{\o}mming, Sean B. Holden

arXiv cs.PF · cs.AI · cs.CY

How Reliable Are Large Language Models for Soil Organic Carbon Assessment? An Australian Benchmark

説明大規模言語モデルは土壌有機炭素の評価に信頼できるか?オーストラリアのベンチマーク

要約本論文は、オーストラリアのデータを用いて七種類の汎用大規模言語モデル(LLM)の土壌有機炭素(SOC)推定能力を検証したものです。308の放牧地における0〜10cm層の濃度推定、120の想定シナリオでの炭素ストック計算、300組の放牧地比較を行いました。実測の土壌属性を加えると濃度の平均絶対誤差は減少しましたが、高SOC値の過小評価は残りました。出力は大半が解析可能でも、正しいとは限らないと結論づけています。

Yingxuan Cheng, Tong Li, Yayong Li ほか

arXiv cs.LG · cs.AI

A Few More Tokens Ahead: Reinforcing Parallelism in Diffusion LLMs

説明『A Few More Tokens Ahead』:拡散型LLMの並列生成を強化する研究

要約本論文は、拡散型大規模言語モデルは並列生成に本質的な利点があるとされるものの、ステップごとに16トークンを固定した評価では、4つの代表的モデルが数学とコードで大きく性能を落とし、いずれのスコアも15%未満だったと指摘しています。著者らは、グループ相対方策最適化によって短い連続トークンブロックを強化し、ロールアウトと対数確率の再計算コストを下げる手法RePara(リパラ)を提案しています。LLaDAとSDARでは、ノイズ除去の計算予算を減らした条件下でGSM8KとMATH-500の精度がJustGRPOを上回り、LLaDA/MATHの設定では訓練ステップが1.96倍高速化したと報告されています。

Jiahao Kuang, Yangfan Gao, Tao Gui ほか

arXiv cs.AI

QORH: Learning Query-Specific Ordered Rule Hypergraphs for Inductive Knowledge Graph Link Prediction

説明QORH:帰納的知識グラフ・リンク予測のためのクエリ特化型順序付きルール超グラフ学習

要約本論文は、未見のエンティティや関係を含む知識グラフのリンク予測を扱い、提案手法QORH(Query-specific Ordered Rule Hypergraph)を示しています。ルールのヘッドと順序付きボディを、クエリ関係を条件とする超辺として符号化し、複数の関係間の結合依存を明示的にモデル化します。ルールの信頼度やカバレッジなどの統計的根拠に基づき学習可能なルール選択を行います。著者らは、評価に含めたベースライン手法を実体帰納および完全帰納のベンチマークで上回ったと報告しています。

Naixing Xu

arXiv stat.ML · cs.LG

Hierarchical Time Series Forecasting with Operator-Valued Kernels

説明演算子値カーネルによる階層時系列予測:予測の整合性を仮説空間で直接保証する手法

要約本論文は、集計の各階層にわたって予測値が互いに整合する必要がある階層時系列予測を扱います。著者らは、これをベクトル値再生核ヒルベルト空間上の多変量回帰問題として定式化し、構造化された演算子値カーネルを設計することで、すべての予測が階層制約を構成的に満たすようにしています。さらに汎化性能を特徴づける超過リスク上界を導出し、合成データと実データで実験を行っています。

Junjie Yang (LPSM (UMR\_8001), SU), Adeline Fermanian ほか

arXiv eess.SP · cs.LG

Link Both Views: Cross-Image Routing Attention for Dual-Endpoint V2I Beam-Pair Power Prediction

説明両端ビュー連結:車両対インフラ(V2I)のビームペア電力予測のための双方向画像ルーティング注意機構

要約単一端の感知では伝搬の一部しか捉えられないため、両端のRGB画像から伝搬に関連する特徴を疎に関連付けて相互に強化する交差画像ルーティング注意(CIRA)を提案しています。これを基に、車両対インフラ(V2I)通信におけるミリ波のビームペア電力行列を予測するCiFormerを提示しています。実験では、最強のベースラインと比べて平均絶対誤差が減り、Top-1ビームペア選択精度が3.15ポイント向上したと報告されています。

Shiliang Lu, Lu Bai, Ziwei Huang ほか

arXiv cs.CV

VARI: Robust Text-to-Video Generation via Group-Structured Intent Alignment

説明VARI:グループ構造による意図整合を用いた頑健なテキストからビデオ生成

要約本論文は、意味は同じでも言い回しが異なるプロンプトに対してテキストから動画を生成するモデルの結果が大きく変わる問題に取り組み、同一の視覚的意図を表す検証済みの複数の表現を共有の学習単位として扱うVARIを提案しています。手法にはGroup-Consistent Distillation(GCD)とForm-Contrastive Flow-DPO(FC-DPO)が含まれます。HunyuanVideo-1.5において、評価した手法の中で T2V-CompBench、VBench、StoryEval の最高スコアを得たと報告されています。

Mingxuan Zhu, Hohei Chan, Shiyuan Liu ほか

arXiv cs.AI · cs.CL · cs.LG

The Agentic Scientist: Orchestrating Coding Agents for Automated Scientific (Co-)Discovery

説明『The Agentic Scientist』:コーディングエージェントを統括し、自動化された科学的(共同)発見を行う

要約本論文は、人間の研究者が最新のコーディングエージェントと協働して計算研究を行うための分散型パイプライン「The Agentic Scientist」を提案しています。研究は課題の起草、アイデア生成、計画立案、サンドボックス内での実験、結果の集約、ベースラインとアブレーションの構築、事後分析、報告書の執筆に分けられています。メタコントローラーが並列の研究エージェントを管理し、各段階で評価基準による検証を行います。著者らは、開発版システムと協働して執筆した論文が ALIFE 2026 に採択されたと述べ、機械学習の未解決問題に完全自律的に適用したことも報告しています。アブレーション実験からは、信頼できる科学的自律性にはベースモデルの能力だけでなく、エージェント間を統括する層も重要だと示唆されています。

Robert Tjarko Lange, Luca Grillotti, Yutaro Yamada ほか

arXiv cs.LG

Reinforcement Learning for Large-Scale Lifelong Multi-Agent Path Finding with Shared Spatial Fields

説明共有空間場を用いた大規模生涯型マルチエージェント経路探索のための強化学習

要約本論文は大規模な生涯型マルチエージェント経路探索(LMAPF)に向けた移動方策を提案する。畳み込みネットワークが各時刻にマップ上の共有空間場を一度計算し、コンパクトな目標条件付き演算子が各エージェントの移動選好を導出する。スループットを報酬とする平均報酬強化学習で端到端に学習され、プランナーの実演や別途のオンライン経路計画器は不要である。6種類のレイアウト・10000台のエージェントによる評価では、最強の比較手法と同等以上のスループットを示し、1ステップの平均実行時間は10ミリ秒未満である。

Jean Seong Bjorn Choe

arXiv cs.CV · cs.LG コードあり

FrameScout: Scouting Query-Relevant Frames for Long Video Understanding

説明FrameScout:長尺動画理解のためのクエリ関連フレーム選択

要約長尺動画理解では、数十分から数時間に及ぶ動画について質問に答えるVideoLLMが必要ですが、そのような動画は現行モデルが処理できる量をはるかに超える視覚トークンを生成します。FrameScoutは、スライディングウィンドウのKVキャッシュと後続フレーム集約を用いて時系列の文脈を持つフレーム表現を生成するストリーミング型選択器と、フレームとクエリを共通空間で揃える対比学習目標を組み合わせ、関連フレームと無関係なフレームを区別するよう選択器を学習させます。著者らは、3つの長尺動画ベンチマークと6つの基盤VideoLLMで最先端の性能を一貫して達成したと報告しています。

Haonan Hu, Shuhao Chen, Weisen Jiang ほか

arXiv cs.AI · cs.LG

Neuro-Symbolic Graph Transformers for Hierarchical Intention Recognition from Multimodal Human Activity Sequences

説明多モーダル人間行動系列からの階層的意図認識のためのニューロシンボリック・グラフTransformer

要約本論文は、ニューロシンボリック・グラフTransformer(NSGT)を提案し、人間推論グラフ(HR-G)を学習可能なトポロジー的バイアスとして自己注意機構に組み込みます。さらに微分可能な一階述語論理(FOL)損失を加え、原子動作、複合活動、低レベル意図、高レベル意図の四階層で存在論的整合性を強制します。NTU RGB+D 120を拡張したNTU-Hierarchyデータセット(119,383エピソード)で評価され、λ=0.5の設定で論理整合性は94.59%、動作のtop-1精度は89.90%に達しています。

Farnaz Soleimani (LISSI), Abdelghani Chibani (LISSI), Yacine Amirat (LISSI) ほか

arXiv cs.LG · cs.AI

Looped Reasoning Finishes Earlier Than You Think

説明ループ推論はあなたが思うより早く収束する

要約本論文は、動的な深さを持つループ型推論における潜在軌道の収束を扱います。緩やかに減衰する振動モードが収束速度のボトルネックになる一方、それを一律に減衰させると推論計算を損なうことを示します。これに対し、推論に関係する商空間の力学を変えない回転自由度を導入した、ゲージ同変な再帰アーキテクチャ QRR(Quotient Recurrent Reasoner)を提案しています。著者らは、Sudoku、Maze、Mini-ARC において、近年の再帰型推論モデルと同等以上の性能で、より安定かつ高速な収束を報告しています。

Sumin Park, T. Konstantin Rusch

arXiv cs.CL

TRACESTEER: Trace Driven Activation Steering for Hallucination Mitigation in Diffusion Language Models

説明TRACESTEER:拡散言語モデルの幻覚抑制のための軌跡駆動型アクティベーション・ステアリング

要約本論文は、拡散大規模言語モデル(dLLM)の幻覚を抑えるTRACESTEERフレームワークを提案します。前の段階のノイズ除去予測をフィードバックとして用い、ステアリングの方向と強度を動的に調整します。構成要素はDF-Steering(ノイズ除去フィードバック・ステアリング)とTS-Gate(軌跡誘導ステアリングゲート)です。2つのdLLMでの実験では、TruthfulQAにおける事実の信頼性が向上し、5つの下流ベンチマークで汎化性能が示されました。

Xin Zhang, Yili Wang, Yue Tan ほか

arXiv cs.AI

Back to the Future: Reverse-Consequence Modeling for Long-Horizon Particle Dynamics

説明「Back to the Future」:長期的粒子ダイナミクスのための逆方向結果モデリング(ReStep手法)

要約本論文は、自己回帰モデルが長期予測で誤差を累積させる問題に対し、従来の順方向予測を逆転させた ReStep を提案している。まず確率的モデルで最終状態を直接予測し、次にAnchored Diffusionでその目標状態を条件とする中間軌道を生成する。さらに ReStep を3D Gaussian Splatting(3次元ガウシアン・スプラッティング)パイプラインの物理エンジンとして組み込み、画像から推論する統合フレームワークを構築している。剛体・非剛体の衝突データセットでの実験では、長期精度が向上し、誤差累積が大きく抑えられたと報告されている。

Leyan Zhang, Nantian He, Jiajun Ma ほか

arXiv stat.ML · cs.AI · cs.LG

Lifting Finite-Sample Gaussian Approximation of Wide Neural Networks to Functional Convergence

説明広いニューラルネットワークの有限サンプル・ガウス近似を関数収束へ引き上げる

要約幅mの乱数初期化ニューラルネットワークは、mが無限大に近づくとガウス過程に収束する。既存の有限サンプル上界は、任意の定義域上で二乗Wasserstein距離により m^{-1/2} の収束速度を明示的な定数で与えるが、その定数はサンプル数とともに増大し、標本点を細かくすると評価が意味を持たなくなる。本論文は有限サンプル上界を関数としての上界へ引き上げる。誤差をサンプルごとに測ることで定数をサンプル数に依らないものにし、多項式活性化関数と任意のコンパクトな入力集合に対し、上限ノルムで明示的定数を伴う m^{-1/2} の速度を得る。

Luis Wiederhold, Nil Ayday, Debarghya Ghoshdastidar

arXiv cs.LG

Random Probing for Structural Self-Interactions in Graph Neural Networks

説明グラフニューラルネットワークにおける構造的自己相互作用のためのランダム探索手法

要約グラフニューラルネットワーク(GNN)は、閉路数、部分グラフ中心性、熱核シグネチャなどのノード自己相互作用で定義される構造的性質を捉えることが本質的に困難です。本論文では、グラフ由来演算子の対角成分を通じてノードにグラフ構造を与えるメッセージパッシング層DIALを提案し、ランダム探索により学習可能で置換同変な対角成分へのアクセスを実現します。閉路数、部分グラフ中心性、熱核シグネチャを表現できることを示し、分子特性予測、閉路計数、パターン検出の実験で有効性を確認しています。

Saku Peltonen, H. \c{C}a\u{g}r{\i} Bilgi, Kubilay Atasu

arXiv cs.LG · cs.AI · cs.CL

LoOPSD: On-Policy Self-Distillation with Looped Teachers

説明LoOPSD:ループ型教師によるオンポリシー自己蒸留

要約本論文は、モデルの重みを変えずに層の実行順序を探索して、より強力な教師を構築し、その利点を生徒へ蒸留する LoOPSD を提案します。学習では探索と蒸留を交互に行い、各ラウンドで更新された生徒から教師を再構築します。数学・論理推論タスクで改善を示し、GSM8K(思考予算400トークン)では Qwen3-1.7B の正答率が 42.30% から 79.61% に上がりました。以降の蒸留ラウンドでさらに向上しました。

Wei Fan, Qingyue Yang, Chao-Hong Tan ほか

arXiv cs.CV

Benchmarking Multimodal Large Language Models for Zero-Shot Human-Object Interaction

説明ゼロショット人–物体インタラクションに対するマルチモーダル大規模言語モデルのベンチマーク

要約本論文は、マルチモーダル大規模言語モデル(MLLM)を人–物体インタラクション(HOI)の認識と検出に用いた初の体系的研究です。外部の物体検出器で対象を特定し、ゼロショットの多モーダル推論でインタラクションを理解する構成を採ります。ゼロショット提示戦略の分類と、トークンのロジットを交互作用スコアに変換する評価フレームワークを提示し、HICO、HICO-DET、V-COCOに質問応答形式の注釈も作成しています。提案手法はHICOで53.50 mAP、HICO-DETで23.69 mAPを達成し、ゼロショット性能で最先端を示しています。

Oriol Rabasseda, Zenjie Li, Kamal Nasrollahi ほか

arXiv cs.CL · cs.AI

Claim Framing as a Driver of LLM Sycophancy

説明ユーザーの主張の表現方法がLLMの迎合(シコファンシー)を引き起こす要因

要約本論文は、大規模言語モデルが事実よりもユーザーの好みに合わせて回答する「迎合(シコファンシー)」現象を検証しています。事実問答において、ユーザーの正しい意見と誤った意見をさまざまな表現方法で示し、14のモデルを42,000問で評価しました。その結果、全モデルが意見の影響を受け、意見の述べ方の自信の強さ、帰属先、ユーザーとモデルの共有として示されるかどうかの影響が大きいことがわかりました。

Jean Seo, Pepa Atanasova, Isabelle Augenstein

arXiv cs.AI コードあり

When and How Order-Flow Interventions Work After Dealers Adapt

説明マーケットメイカーが適応した後、注文フロー介入はいつ、どのように効くのか:状態整合型の注文フロー配分契約(SOFA)

要約学習型マーケットメイカーは広いクォートを長く維持し、顧客の取引コストを押し上げる可能性があると論文は指摘します。著者らは、遅れて公開されるデータで市場状態をランク付けする評価器、報価前に介入強度を予告するスケジューラ、固定の顧客需要の一部をより狭いクォートへ振り向ける配分器からなるSOFA契約を提案します。ABIDES市場で独立に訓練した20集団の実験では、低リスク状態に介入を集中させると低リスク取引のコストは下がる一方、高リスク取引のコストは上がり、低リスク取引を高リスク取引より1.38倍以上重視する場合にのみ有益だとされています。

Guanghao Wu, Zhuo Cai, Zhidong Li ほか

arXiv cs.CL · cs.AI · cs.MA

Fan Out or Relay? Ownership-Aware Routing for LLM Agents Querying Siloed Tables

説明一斉照会か中継か:分断されたテーブルを照会するLLMエージェントのための所有権を考慮したルーティング

要約この論文は、データが複数の所有者に分散し互いに共有されない組織内で、LLMのコーディネーターが全所有者に同時に問い合わせる(ファンアウト)べきか、所有者に順番に問い合わせて得た行を再利用する(リレー)べきかを検討しています。どちらも事前に安全とは言えず、データの所有権がどちらが適切かを決めることを示しています。単一の所有者で答えられる質問ではファンアウトが概ね正確ですが、二つの所有者のテーブルを結合する質問ではほとんど答えられません。提案手法OARは、私的な行を読む前にスキーマのみを使った草案SQLから所有者の数を数えて経路を決め、多くの設定で最良の固定プロトコルに有意に劣らないとしています。

Zhexi Feng

arXiv cs.LG · cs.AI

When Do Learned Blocks Preserve Causal Meaning? Block Identifiability and Constructive Causal Abstractions

説明学習されたブロックは因果的意味を保てるか:ブロックの識別可能性と構成的因果抽象

要約本論文は、表現学習が高次の概念を内部座標が一意に定まらない多次元ブロックに符号化する場合、そのブロックの因果的意味が保たれるかを検討しています。ブロックの識別可能性と構成的因果抽象を関連づけ、ブロック対角の可逆変換と互換的な座標置換が、それらのブロックに基づく構成的因果抽象をすべて保存する最大のクラスであることを示しています。加法的オートエンコーダによる小規模な合成実験では、独立に学習された表現の間で高次の介入を移し替えても、意図された効果がおおむね保たれることが示されています。

Karim Zaghw, Wieland Brendel, Patrik Reizinger

arXiv cs.LG · math.GR · stat.ML

Learning a Group Element from Its Action: Galois Correspondences, Optimal ERM, and an Abel-Ruffini Threshold for the Natarajan Dimension

説明作用から群の元を学習する:ガロア対応、最適ERM、Natarajan次元のアーベル・ルフィニ閾値

要約本論文は、可算集合上で有限軌道を持つ群の未知元gを、例(x,gx)から学習する問題を研究する。ガロア対応により多クラス次元は群の不変量として表され、対称性によりデータに整合的な確定的学習器の中で経験リスク最小化が最適になることを示す。五次方程式のガロア群A5、S5では、Natarajan次元とDS次元が異なる値となり、可解群ではこれらが一致する。

Xiaoyu Li

arXiv cs.CL

Attacking Only Half the Data: Two-Sided Evaluation of AI-Text Detector Robustness

説明データの半分だけを攻撃する:AIテキスト検出器の頑健性に関する双方向評価

要約本論文は、人間の文章と機械生成の文章の両方に攻撃を加えた場合の、広く使われているAIテキスト検出器の頑健性を検討しています。著者らは双方向の評価手法を提案し、この評価では従来報告されていたAUROCの向上が消失し、攻撃を受けた人間の文章が最大100%の割合で誤分類されることを示しました。単純な前処理で文字レベルの攻撃は元に戻せますが、単語レベルの同義語置換は意味を保ったまま有効で、元に戻せないことも報告されています。

Apu Chandraw Shill, Rabindra Nath Nandi

arXiv cs.AI

RadixFlow: Filling Execution Bubbles in Prefix-Cached Hybrid LLM Serving

説明RadixFlow:プレフィックスキャッシュ付きハイブリッドLLM推論における実行バブルの解消

要約本論文はRadixFlowを提案し、大規模言語モデル推論におけるプレフィックスキャッシュの再利用を改善します。ハイブリッドアーキテクチャでは、あるリクエストが別のリクエストがまだ計算中の再帰状態を必要とし、従来のスケジューラがキューの走査を停止して空きスロットが生じていました。RadixFlowはプレフィックス照合と状態準備の判定を分離し、影響を受けるリクエストだけを待たせ、実行可能な他の分岐でバッチを埋め続けます。5つのハイブリッドモデルで平均遅延が3%から24%、ワーカーラウンド数が11%から44%減少し、再利用率はほぼ変わりませんでした。

Huihao Jing, Wenbin Hu, Shaojin Chen ほか

arXiv cs.CV

FlowCred: Hierarchical Credit Assignment and Functional Coordination for Joint Text-to-Video Post-Training

説明FlowCred:テキストから動画への共同ポストトレーニングのための階層的クレジット割当と機能的協調

要約本論文は、テキストから動画を生成する際のプロンプト最適化と生成器を同時に学習するFlowCredフレームワークを提案します。プロンプトと乱数種を揃えたロールアウトにより、プロンプト単位の寄与と生成器の残差を分離します。LTX-2.5では、厳密に揃えた共同学習の対照群に比べ、T2V-CompBenchで61.47から64.46、StoryEvalで55.58から58.08へ改善しました。

Mingxuan Zhu, Yanwei Huang, Shiyuan Liu ほか

arXiv cs.AI

Mitigating Cross-Modal Hallucinations by Correcting Modality Misrouting in Omnimodal LLMs

説明全モーダルLLMにおけるモダリティ誤ルーティングの修正による、クロスモーダル幻覚の緩和

要約全モーダル大規模言語モデル(OLLM)は、音声と映像の干渉によってクロスモーダル幻覚が生じやすいことが指摘されています。論文は、誤った統合予測の相当数について、問いに関連する単一モーダル分岐が正しい答えを導けることを見出し、これを「モダリティ誤ルーティング」と呼んでいます。提案手法CaReは、学習を必要とせず推論時に作用し、残差方向で多モーダル状態を関連モダリティの証拠へ誘導します。CMMとAVHBenchの評価では、比較した推論時の幻覚緩和ベースラインを上回りました。

Yu Mi, Licheng Pan, Jiayi Zhu ほか

arXiv cs.CL

SparPR: Runtime KV-Cache Recovery for Resource-Constrained LLM Inference on Consumer Hardware

説明SparPR:コンシューマー向けハードウェアでのLLM推論のための実行時KVキャッシュ復元手法

要約本論文は、モデルの重みを変更せず、オフライン学習も必要としないSparPRという、推論実行時にKVキャッシュを復元する手法を提案している。クエリを考慮したブロック選択、動的な予算制御、コスト認識型のオンデマンド局所再計算を組み合わせる。単一のノートPC上で評価され、提示トークン1k、2k、4kでエンドツーエンドの遅延をそれぞれ31%、52%、63%削減したと報告されている。

Jieyun Deng, Keming Hu, Yanghe Liu ほか

arXiv cs.LG · eess.SP

Revisiting Error Feedback for Model Quantization

説明モデル量子化における誤差フィードバックの再検討

要約本論文は、モデル量子化の設計変数として因果的誤差フィードバック係数を検討する。瞬時量子化誤差を、共通の固定分散を持つ独立した平均ゼロの変数としてモデル化し、フィードバック係数を設計するための計量依存のトレース問題を定式化している。正定値計量 H について、回転とフィードバックを組み合わせたトレースの最小値が n·det(H)^(1/n) であることを証明し、幾何平均分解を用いた達成例を示す。合成ネットワーク、学習済みMLP、言語モデルでの実験では、下流への感度を考慮したフィードバックの利点が見られたが、トレースの最適性が有限ビット幅での性能向上につながるとは限らないことも示されている。

Wai-Yiu Keung, Chi Cui, Wing-Kin Ma ほか

arXiv cs.CV

Human-Inspired Asymmetric Collaboration for Dual-Student Semi-Supervised Medical Image Segmentation

説明双生徒非対称協調による医用画像セグメンテーション手法(HAC)

要約本論文は半教師あり医用画像セグメンテーションのための、二人の生徒からなる閉ループ型フレームワークHAC(Human-Inspired Asymmetric Collaboration)を提案している。一方の生徒は弱い拡張、もう一方は強い拡張で学習し、強化学習に基づくRDC(Reinforcement-guided Difficulty Calibration)が学習の反応に応じて強い拡張の強度・回数・範囲を動的に調整する。また、G2PC(Gramian Geometry Preservation Constraint)が大域体積と対ごとの面積の制約により初期の三分岐幾何を保ち、両生徒の同質化を防ぐ。LA、Pancreas、BraTS-2019での評価により、その有効性と難易度調整の効果が検証されたとしている。

Huiyi Ren, Ziming Fang, Jiaming Cai ほか

arXiv cs.AI · cs.CL

Monitoring latent reasoning in looped language models

説明ループ型言語モデルにおける潜在推論の監視

要約ループ型言語モデルは、トークン生成の際に同じ層のブロックを複数回再利用し、記憶領域を増やさずに潜在的な計算量を増やすとされています。著者らは機械的解釈可能性に基づく、5つの異なる観点からなる検査手順を構築し、4つのファミリーに属する8つのループ型言語モデルに適用しました。モデルの主な違いは、プロンプトがループ状態の内部だけで伝えられるか(キャリー型)、各反復で再び与えられるか(リードイン型)にあり、その結果から安全性と効率的な利用に関する知見が示されています。

Pawel Olszowiec, Paulina Tomaszewska, Maciej \.Zelaszczyk ほか

arXiv cs.AI · cs.GT · cs.IR

Fresh at Decision, Stale at Action: Routing New Information to LLM Decisions Already Made

説明決定時は新鮮、実行時は陳腐化:既に下された LLM の決定へ新情報をルーティングする

要約本論文は、決定の有効性に関するタイムスタンプ理論と、それを実現する決定台帳(decision ledger)を提案している。LLM の決定の新鮮さはその時点で決まるが、実行はその後の変化する世界で行われるとする。8Bから最先端規模までの5種のLLMによる制御された決定ストリームで、主要な予測が検証されたと報告している。

Ayoub Merimi, Souhail Bakkali, Abdeljalil Sakat

arXiv cs.CV · cs.AI · cs.LG

H-DDCM: Hadamard Codebooks for Fast Generative Image and Video Compression

説明H-DDCM:高速な生成的画像・動画圧縮のためのHadamardコードブック

要約本論文は、密なガウスコードブックを暗黙的なランダムHadamard辞書に置き換えるH-DDCMフレームワークを提案し、生成モデルを再学習せずに圧縮を行う手法を示しています。高速Walsh-Hadamard変換により、辞書の計算量とメモリ使用量を大幅に削減し、表を用いない辞書式符号化も導入しています。さらに自己回帰型動画フローモデルに適用し、単一GPUでほぼリアルタイムの長尺動画圧縮を実現しています。画像・動画のベンチマークで競争力のあるレート歪み知覚性能を報告しています。

Or Ronai, Vladimir Kulikov, Tomer Michaeli

arXiv cs.CL

Cheap, Consistent, Calibrated, but Biased? Typed Decision Models as Judges

説明安価で一貫性があり較正もされているが、偏りはあるか?評価者としての型付き意思決定モデル

要約型付き意思決定モデル(TDM)は文章を生成せず、許容される各回答に確率を与えるため、2つの回答を比較するLLM評価者の安価な代替候補となりうる。本研究はCALMベンチマークの偏り検査を8つのTDMと7つのLLM評価者に実施し、全てのTDMが12の検査のうち3〜8項目で偏りを示すことを見出した。感情的な口調の影響が最も大きく、より良い回答をその口調に書き換えると、典型的なTDMの正解率は99%から42%に低下した。TDMは、課題ごとに偏りを検証すれば有望な評価者になりうると論じている。

Fabian Lukassen, Christoph Weisser, Alexander Silbersdorff

arXiv cs.CL

Narrative Lookahead in LLMs: Event-Level Decodability, Predictive Advantage, and Steering

説明LLMにおける物語の先読み:イベント単位での解読可能性、予測上の優位性、そしてステアリング

要約本論文は、大規模言語モデルが物語のイベントを書く前にその情報を内部に持っているのか、そしてどれだけ先まで見通せるのかを調べたものです。トークンではなく、状態が変化する重要なイベントを単位として分析しています。4つのオープンウェイトモデルが生成した2,000話から23,355件のイベントを抽出して注釈を付け、一部は人手で検証しました。結果として、将来のイベント種類は少なくとも4つ先まで解読でき、プローブが純粋なテキストの予測器を有意に上回るのは次のイベントのみでした。探索的な実験では、プローブから得た方向を用いると、より強い介入で対象イベントの割合を意図した方向に動かせることが示されました。

Donghoon Jung, Min Kim, Seojin Choi ほか

arXiv cs.LO · cs.AI

Certifying Almost-Sure Reachability in Unknown MDPs

説明未知のマルコフ決定過程における殆ど確実な到達可能性の証明書の学習と検証

要約本論文は、遷移確率が未知で、サンプリングによってのみ情報を得られるマルコフ決定過程において、既存の方策が殆ど確実な到達可能性の仕様を満たすかを検証できるかを検討しています。証明書には排順上位マルチンゲール(RSM)を用います。追加情報がない場合は、そのような証明書を学習することも確率的保証付きで検証することもできないことを示しています。一方、非零遷移確率に既知の下限 p_min があるという穏やかな制約の下では、PAC 型の保証付きで正しい証明書を学習できることを示しています。実験では、p_min に基づく十分条件は健全だが保守的であり、条件が成り立たない場合でも学習された証明書が真のモデルで有効であることが多いと報告されています。

S Akshay, Suguman Bansal, Gaurav Mahla

arXiv cs.LG · cs.AI

When Missingness Follows the Graph: Beyond Feature Propagation for Missing Features

説明欠損がグラフに従うとき:特徴伝播を超える欠損特徴への対処

要約グラフニューラルネットワークは通常、ノード特徴が完全に観測されていると仮定しますが、実際には特徴の欠損が広く見られます。既存手法は観測値をグラフの辺に沿って伝播させて欠損に対処しますが、その評価は欠損が独立かつ一様に生じる楽観的な条件が中心でした。本論文は欠損指示子の同時分布がグラフによって形作られる「グラフ構造化マスク依存」を定式化し、この設定で伝播型手法の効果が大きく変わることを理論と実験で示します。そのうえで提案手法PEMixは、大域的な構造表現を用いて不完全なノード特徴の確率モデルを条件付けてからメッセージパッシングを行い、欠損が深刻な場合に特に強い性能を示すと報告しています。

Enrico Chial\`a, Francesco Ferrini, Antonio Longa ほか

arXiv cs.LG · cs.CV コードあり

SYNPRED: A Synergistic Approach to Multimodal Learning for Clinical Prediction

説明SYNPRED:臨床予測のための相乗的マルチモーダル学習手法

要約本論文は、臨床予測のための相乗的マルチモーダル変分オートエンコーダ(VAE)フレームワークを提案している。タスクに関連する単一モダリティおよびマルチモーダルの情報を、個体ごとの、タスクに無関係な変動から分離し、モダリティ間の相補的な信号を予測に活用する。医用画像とRNAデータを用いた治療反応予測の実験では、アライメントベースおよびマルチモーダルVAEの最先端手法と比較して、マルチモーダル予測性能の向上が示された。

Ivana Jan\'i\v{c}kov\'a, Yen Y. Tan, Thomas H. Helbich ほか

arXiv cs.LG · cs.AI

A CaLLM Judge is a Better Judge: Mitigating Bias in LLM-as-a-judge

説明CaLLM 審査員:多重校正で LLM 評価者のバイアスを抑える

要約大規模言語モデルは、人間が2つの候補回答のどちらを好むかを予測する評価者として使われることが増えていますが、その判断には体系的な偏りが生じることがあります。本論文は事後的な多重校正フレームワーク CaLLM を提案し、事前に指定されたグループと未知のグループの双方について偏りを同時に抑えます。理論的な保証を示したうえで、ペアワイズ選好ベンチマークで評価し、多重校正誤差の低減と予測性能の向上を報告しています。

Cesare Barbera, Luca Stradiotti, Lorenzo Cascioli ほか

★★★★☆ 注目
arXiv cs.AI · cs.CL

Chain of Thought Monitoring Can Fail Even When CoT Is Necessary

説明思考連鎖が必要な場合でも、思考連鎖の監視が失敗しうることを示す論文

要約本論文は、Chain of Thought(CoT、思考連鎖)の監視によってAIシステムの不適切な振る舞いを検出する信頼性を検討しています。CoTが回答に必要であれば監視可能になるという従来の二値的な考え方は粗すぎると指摘し、四段階の必要性の階層と、下位三段階を介入実験で測る枠組みを提案しています。難しい医療診断課題では、必要なCoTを伴う正答のうち少なくとも19%と24%で患者の性別と臨床属性が回答に影響していたものの、それがほぼ言語化されていませんでした。

注目点CoTの必要性を4段階に分類し介入実験で監視可能性を測定、医療診断タスクで必要なCoTでも監視が失敗することを示し、影響は大きい。

Lennart B\"urger, Piotr Komorowski, Moritz Weckbecker ほか

arXiv cs.LG

The Effect of Layer Ordering in Hybrid Architectures

説明ハイブリッドアーキテクチャにおける層の順序の影響

要約本論文は、ハイブリッド注意機構アーキテクチャにおいて、層の種類の選択と並べ順がモデル性能に与える影響を分析しています。固定された資源制約下では、どの層構成にも、その構成のモデルが他の構成より理論的に優れるタスクが存在することを示しています。実験では、理論的に最適とされた構成が分割検索タスクで高い精度を示し、連想想起タスクではTransformer層が性能の大部分を担うことが観察されました。

John Cooper, Mingchen Ma, Jiaqi Mo ほか

arXiv cs.LG

From Spectral Saliency to Finite Deletion: Evaluating Selective Language Model Edits

説明スペクトル顕著性から有限削除へ:言語モデルの選択的編集を評価する

要約言語モデルの特異成分を有限に削除して能力を取り除く際に、成分の順位付けに使う一次のスペクトル顕著性がどの程度誤差を生むかを研究した論文です。Mistral-7B-Instruct-v0.3 で算術を対象に、コードと質問応答を保持する実験を行い、Llama-3.1-8B-Instruct でも拡張しています。区間の被覆率、実行可能な候補の保持、独立したテストでの保持は別々の性質であり、個別に評価する必要があると結論づけています。

Ibne Farabi Shihab, Joyanta Jyoti Mondal

arXiv cs.CV · cs.AI

APT: Feedback-Driven Agentic Post-Training for Text-to-Image Generation

説明APT:フィードバック駆動型エージェント方式によるテキストから画像生成モデルの事後学習

要約本論文は、テキストから画像を生成するモデルのための全自動の事後学習フレームワークAPT(Agentic Post-Training)を提案しています。3つのエージェントが、ユーザー要件に基づく評価セットの構築、モデルの強みと弱点の診断、そして性能の低い能力を重視した強化学習データの生成を分担します。評価・診断・生成器の更新を繰り返すことで、モデル自身の挙動が次の学習課題を形作る仕組みです。実験では、複数のベースモデル、ベンチマーク、生成アーキテクチャに適用できることが示されています。

Sirui Zhang, Fangyun Wei, Dong Chen ほか

arXiv cs.AI

LifeSearch: Benchmarking Deep Research Agents for Real-World Life and Productivity

説明LifeSearch:実生活と業務効率向けの深層リサーチエージェント評価ベンチマーク

要約本論文は、実ユーザーの質問に基づく中英 203 件のタスクからなる LifeSearch ベンチマークを提案する。対象は生活と業務効率の 7 分野で、4,500 時間を超える人手アノテーションにより 4,000 件以上の専門家作成の詳細な評価基準を構築した。統一された評価環境で 12 の先進的な深層リサーチエージェントを試験した結果、最良のモデルでも 63.4% にとどまり、現実的なタスクには改善の余地が大きいことが示された。

Yibo Wang, Senjie Jin, Yansong Ning ほか

★★★★☆ 注目
arXiv cs.AI コードあり

AM-Bench: Understanding Agents under Task Underspecification across Models and Harnesses

説明AM-Bench:モデルと実行ハーネスをまたいで、タスク指定が不完全な場合のエージェントの振る舞いを理解するベンチマーク

要約本論文は、タスクの目標・文脈・制約が曖昧または欠落した場合のエージェントの挙動を評価するベンチマーク AM-Bench を提案します。48 のタスクそれぞれに、完全に指定された参照版と 6 種類の不完全な変種を用意しています。5 つのモデルと 4 つの実行ハーネスの全組み合わせで、計 20,160 回の実行を評価しました。その結果、目標の欠落は完了を妨げ、文脈の欠落はトークン使用量を増やし、制約の欠落は遵守を弱めること、そして欠落は曖昧さよりも成功率を大きく下げることが示されました。

注目点タスク仕様の不足下におけるエージェント評価という新しい視点を提示し、48タスク・20,160回の実行で裏付けており、分野の参考になる。

Kaiyu Huang, Yiting Li, Angyang Gu ほか

arXiv cs.AI

One-Sided Verification Under Limited Expert Review

説明専門家レビューが限られる場合の片側検証手法

要約本論文は、専門家によるレビュー能力が限られる状況で、無効な解を効率的に除外するための検証手法を扱います。誤り提案と誤り検証を分離したフレームワーク OSVerify を提案し、有効な解の誤棄却率を制約しつつ無効な解の棄却率を最大化することを目指します。実験では、投票ベースラインと比べて無効な解の人手レビュー数が平均46%削減され、検証器の事後学習により57%まで改善したと報告されています。

Fan Nie, Haotian Ye, Shurui Liu ほか

arXiv cs.AI · cs.LG

ResearchFlow-Eval: Tracing the Execution Gap in End-to-End Multi-Claim Autoresearch

説明ResearchFlow-Eval:エンドツーエンドの多主張自動研究における実行ギャップの追跡

要約本論文は、自動研究システムが段階的かつ連続的なワークフローの中で科学的な実行と反復をどれだけ行えるかを評価するフレームワーク、ResearchFlow-Eval を提案しています。評価は公表済みの論文を基準とし、段階ごとに採点基準を設けています。その結果、評価対象のすべてのシステムで、実験の実行が設計や計画に比べて遅れ、反復試行でも測定可能な改善がほとんど見られないことが示されました。

Peng Jiang, Dongyang Li, Quanying Liu ほか

arXiv cs.LG · cs.NE

Same Function, Different Trajectory: No Standard Optimizer Is Equivariant to Transformer Reparameterization

説明同じ関数、異なる学習軌道:標準的なオプティマイザはTransformerの再パラメータ化に対して等変ではない

要約同じ関数を表す2つのTransformerでも、パラメータのスケールが異なると学習軌道が変わることを示す。例えばクエリ行列を2倍、キー行列を半分にしても関数は変わらないが、勾配のスケールが変化する。著者らは対称な行列の対のFrobeniusノルムを周期的に揃えるSAGGSと、その緩和版Soft SAGGSを提案し、WikiText-103などの実験で困惑度の改善を報告している。

Bum Jun Kim

arXiv cs.AI

AReaL-RSI: Adaptive Scaling and Coordination of Recursive Self-Improvement

説明AReaL-RSI:再帰的自己改善の適応的スケーリングと協調の枠組み

要約本論文は、骨格となる大規模言語モデルの重みを更新せずに、持続的な研究エージェントチームを組織する枠組みAReaL-RSI(AReaL-RSI)を提案します。リーダーエージェントが研究の方向性を選び調査を導き、条件付きメモリ共有によって未解決の問題と裏付けのある知見を区別します。Codex-Goal(Codex-Goal)との比較実験では、Terminal Bench(Terminal Bench)とKernelBench(KernelBench)などの課題で性能向上とカーネル遅延の低減が報告されています。

Wenhao Zhou, Jiajun Song, Haitao Wang ほか

arXiv cs.LG

Failure Recovery via Belief Updates and World Modeling for Long-Horizon Agents

説明信念更新と世界モデリングによる長期タスク・エージェントの障害復旧

要約長期タスクのエージェントは、数ステップ前に原因がある失敗からの回復に苦労することが多い。本論文はBELIEFWEAVERを提案し、試行をまたいで証拠を保持し、修復方向について先を見越した推論を行う。さらに教師あり微調整とオンポリシー蒸馏により、その推論能力を9Bの学生モデルへ移している。3つのターミナルベースのベンチマークで、最終スコアは全体で平均5.1ポイント、学生モデルでは9.8ポイント向上し、推定される教師APIコストは54.8%削減された。

Xiyang Wu, Zhichao Liu, Shengxin zhang ほか

arXiv cs.LG

Causal Discovery Under Hard Selection Bias: A New Robust Score-Matching Approach

説明強い選択バイアス下での因果発見:新しいロバストなスコアマッチング手法

要約本論文は、非ランダムな選択過程によってデータが母集団を代表しなくなる問題、特に切断データ(ハード選択)による因果発見の課題を扱います。加法的ノイズモデル(ANM)に対して一般的な結果を示し、決定的な切断がスコア関数の同時分布のスコアとそのヤコビアンを保存する性質を利用しています。この性質に基づき、切断データのもとでも頑健な新しい因果発見手法を提案しています。選択バイアスがない場合も、最先端手法と同等の性能を示すとされています。

Yiwen Qiu, Francesco Montagna, Shimeng Huang ほか

arXiv cs.CV

LensErase: A Foundation Model for Erase Anything

説明LensErase:「何でも消去」を目指す基盤モデル

要約本論文は、物体、視覚的テキスト、透かし、関連する視覚効果など多様な消去場面に対応する、マスクベースの汎用消去モデル LensErase を提案している。約1億1,000万組の原画像・マスク・目標画像からなる LensErase-100M データセットを構築し、テキストから画像を生成するモデル Lens を基に事前学習を行っている。さらに Mask-Aware RoPE、強化学習、推論時の TraceFusion を用い、6つの公開ベンチマークおよび LensErase-Bench で改善を示したと報告している。

Yunuo Chen, Xiuyu Wu, Qinhong Yang ほか

arXiv cs.CL

From Agents to Edges: Paired Optimization for Multi-Agent Collaboration

説明エージェントからエッジへ:マルチエージェント協調のためのペア最適化

要約本論文は、マルチエージェントシステムにおいて隣接するエージェント間の通信エッジを対象に、両端の指示と両者が共有する通信規約を同時に最適化するPACO手法を提案する。モデルの重み、エージェントの役割、ワークフローの構造は固定したままとする。4エージェントのワークフローを多様なベンチマークで評価した結果、PACOは主要なプロンプト最適化および通信のベースライン手法を一貫して上回った。

Feng Lin, Xiaotian Yu, Yifan Yang ほか

arXiv cs.AI · cs.LG

WorkRover: Scaling Long-Horizon Cowork Agent Training Via Recursive Environment Evolution

説明WorkRover:再帰的環境進化による長期協働エージェント学習のスケーリング

要約本論文は、再帰的な環境進化を通じて長期タスクの協働エージェントを訓練するフレームワーク「WorkRover」を提案します。構築エージェントが作業コンテキスト、実行可能タスク、検証器を共同で作成・検証する仕組みです。さらに、修正の組み合わせを評価して最小の検証済み修復を選ぶFCRと、前段のターンに細粒度の信号を与えるVTCAを導入しています。Qwen3.5-35B-A3Bを後学習したWorkRover-35B-A3Bは、JobBench、OfficeQA Pro、GDPval v2で基盤モデルを上回るスコアを報告しています。

Hang He, Linting Wang, Guanming Liu ほか

arXiv cs.LG · cs.AI

Uncertainty Evaluation: Bridging Machine Learning and Measurement Science

説明不確実性評価:機械学習と計測科学の橋渡し

要約本論文は、機械学習における不確実性評価と計測科学との概念的な類似点を検討し、誤差に基づく計測学から『測定における不確かさの表現のガイド』(GUM)の枠組みへの発展を踏まえています。機械学習の不確実性を偶然的成分と認識的成分に分ける従来の分類はモデルに依存し、統一的な枠組みとして不十分だと論じ、不確かさ要因の系統的な同定・定量化・伝搬に基づく計測学的アプローチを提唱しています。

Dario Petri, Luca Mari

arXiv cs.CL コードあり

A Benchmark for Bangla Task-Oriented Dialogue Understanding

説明バングラ語タスク指向対話理解のベンチマーク(BanglaTOD)

要約本論文は、ベンガル語、英語、ローマ字表記のベンガル語(Banglish)の三言語で並行する対話ベンチマーク「BanglaTOD」を提案します。バングラデシュ特有の9つのサービス分野と64のインテントを対象とした209件の多ターン対話を含みます。mBERT、BERT-base-uncased、BanglaBERTを用いて、インテント分類とスロット充填の文脈考慮型ベースラインを構築しました。対話履歴を除くと、インテントの正解率が19.0〜25.7ポイント低下することも示されています。データセットはHugging Faceで公開されています。

Afrina Alam Lamia, Sumiaya Sharif, Prottoy Modak ほか

arXiv cs.LG · cs.AI

From Policy Evaluation to Off-Policy Control: Provable Emergence of In-Context Q-Learning

説明方策評価から方策外制御へ:文脈内 Q 学習が証明可能に出現する過程

要約本論文は、Transformer が文脈内で Q 学習(モデルフリーの制御アルゴリズム)をどのように実現するかを研究している。二層の注意機構のみからなる Transformer が、温度 τ によって貪欲な行動選択への近似度を制御する有限温度版 Q 学習を実装できることを証明し、τ→0 で窓付き Q 学習に一致することを示している。ランダムに生成された MDP タスクで学習させた結果、未知のタスクで Q 学習と同程度の性能を示したと報告している。

Yingjun Mo, Yajie Zhao, Fang Kong

arXiv stat.ML · cs.LG

Reliable Scale-Free Bandits via Empirical Likelihood

説明経験尤度に基づく尺度非依存マルチアームドバンディットの信頼性向上手法

要約本論文は、報酬のスケールや尾部パラメータが未知の確率的マルチアームドバンディット問題を扱う。著者らは Cowan と Katehakis(2020)の g-Forcing 方策に経験尤度(EL)を組み合わせた EL-F 方策を提案している。漸近的な後悔、期待後悔の上界、有限時間の尾部評価などの理論結果を示し、実験では g-Forcing に比べ次善の腕を長く選び続ける量が減ることを示している。

Pratham Gupta, Alhad Sethi, Shubhada Agrawal

arXiv cs.RO · cs.LG

LADDER: A Long-Horizon Robot Manipulation Benchmark

説明LADDER:長期的ロボット操作ベンチマーク

要約本論文は、ロボット操作方策を長期タスクで評価するためのベンチマーク「LADDER」を提案している。同一環境で1から10個のサブゴールに拡張し、3つのスイートにわたって145タスクを含む。単一サブゴールでは低レベル方策が85.4%を達成する一方、長いタスクではほぼゼロに低下する。編成を加えると約25%、GPT-Policyによるツール選択型の編成では約62%となるが、時間とコストが大きい。実機実験でも同様の傾向が確認された。

Petko Petkov, Giuliano Albanese, Nikolay Nikolov ほか

★★★★☆ 注目
arXiv cs.AI コードあり

Can Agents Forget When Asked? A Benchmark for Memory Unlearning in LLM Agents

説明エージェントは求められたら忘れられるか?LLMエージェントのメモリ消去ベンチマーク

要約長期記憶は大規模言語モデル(LLM)エージェントの中核的な要素であり、利用者は機密情報や古い情報の削除をしばしば求めます。本論文は、記憶の消去に特化した初のベンチマーク「Bemula」を提案し、50のマルチセッション対話、6種類の計135件の忘却要求、1,742の評価質問を含みます。主要な記憶システム6種を評価した結果、エンドツーエンドで要求を満たせたものは全体で1.5%以下にとどまり、記憶消去は未解決の課題であることが示されました。

注目点記憶の忘却に特化した初のベンチマークで、ペア化された対照実験と5種類のテストで6システムを評価し、既存手法のほぼ全てが失敗することを示した。

Bofan Xie, Chaokun Wang, Guanchen Ge ほか

arXiv cs.LG · cs.AI · cs.CL

inLoRA-MINT: Internal Representations for Auditing Training Data in Domain-adapted LLMs

説明inLoRA-MINT:ドメイン適応LLMの学習データを内部表現で監査する手法

要約本研究は、LoRAで微調整された大規模言語モデルに対してメンバーシップ推論テスト(MINT)を適用し、特定のサンプルが学習に使われたかを判定する手法を検討しています。従来のパープレキシティのみに頼る黒箱型の手法を拡張し、活性化などの中間表現を用いることで、モデルパラメータへの完全なアクセスなしに学習データと非学習データを識別します。4つのモデルと医療・数学・学術推論の3データセットで評価され、95%から98%のスコアが報告されています。

Gonzalo Mancera, Julian Fierrez, Aythami Morales ほか

arXiv cs.AI

Beyond Black Boxes: Visual Grounding for Text Embeddings

説明ブラックボックスを超えて:テキスト埋め込みの視覚的グラウンディング

要約本論文は、テキスト埋め込みを視覚的なトポグラフィック・スケッチに変換するフレームワークを提案し、埋め込みに符号化された意味内容を可視化します。MS-COCOデータセットでテキスト検索を評価し、SBERTとスケッチ手法を比較しています。SBERT(Sentence-BERT)はtop-1の厳密な精度で優れ、top-5では同程度の性能を示しました。両者を組み合わせた場合はSBERT単独より良い結果になりました。

Slimane Larabi

arXiv physics.flu-dyn · cs.AI · cs.LG

High-fidelity Three-Dimensional Flow Field Reconstruction Driven by Turbulent Fluid Dynamics

説明乱流流体力学に基づく高精度三次元流れ場再構成

要約本論文は、粗い粒度のデータから高精度な三次元乱流場を時系列で再構成する枠組みを提案している。多尺度ニューラルオペレータと状態空間モデルを組み合わせて時間的一貫性を高め、Navier-Stokes方程式の残差をソフト制約として導入している。さらに、未知の粗視化に教師なしで適応するための混合専門家機構を用いている。典型的な乱流系と大気再解析データでの評価では、学習ベースおよび古典的な基準手法より再構成誤差が小さく、多尺度の空間構造と時間変化をより良く保持したと報告されている。

Hanlin Kong, Jianan Wei, Yuntian Chen ほか

arXiv cs.CV · cs.AI

Scaling Vision Transformers Without Training: Prune-and-Merge Token Compression

説明学習不要で視覚Transformerを拡張:プルーニングとマージによるトークン圧縮

要約視覚Transformerは高い性能を持つ一方、トークン間の二次的な相互作用により計算コストが大きい。本論文は、既製のモデルに対して学習不要で適用できるPrune-and-Merge ViTを提案する。クラスアテンションに基づく剪定と類似度に基づく統合を組み合わせ、意味情報を保ちながら冗長性を減らす。頑健性の評価には相対精度低下(RAD)と予測反転率(PFR)の2指標を導入し、事前学習済みのViTとDeiTでは、既存のトークン削減手法より高い精度を保ちつつ計算量を競争力のある水準まで減らすことを示している。

Vatsal, Soumil Malhotra, Priyanshu Chahal ほか

arXiv cs.RO · cs.CV

Data-Free Continual Learning for World Action Model with Rectified Generative Replay

説明修正型生成リプレイによるデータ不要の継続学習(世界行動モデル)

要約世界行動モデル(WAM)は事前学習済みの映像生成モデルに基づき、新しいロボットタスクに素早く適応できますが、逐次的な微調整では以前のタスクを忘れてしまいます。本研究のR²-WAMは、モデル自身が過去タスクの完全な軌道を生成して再生することで忘却を抑えます。エージェント型評価器でタスク完了時点に軌道を切り詰め、行動と観測が物理的に一致しない軌道を除外します。LIBEROの4つのスイートと実世界の5タスクで、逐次微調整に比べて忘却を90%以上削減し、旧データを使う経験リプレイにほぼ匹敵しました。

Kaipeng Fang, Hangxu Liu, Chaojian Shi ほか

arXiv stat.ML · cs.LG

Weighting-Based Strategies for Classification: Analysis and Local Peak Dynamics with CART Trees

説明重み付け戦略による分類:分析とCART木における局所ピーク動態

要約本論文は、表形式データにおけるクラス不均衡問題に対し、重み付けなし手法と重み付けによる再バランス手法を比較する。サンプル数の増加に伴い予測器の複雑さが増すと、両者の予測性能は全評価指標で漸近的に同一になり、最終的な閾値のずれのみが生じることを示す。さらに有限深さのCART木による分析と数値実験により、重み付けが有利となる合成設定を特定し、データセットが重み付けの恩恵を受けるかを判定する指標を提案する。

Abdoulaye Sakho (LPSM (UMR\_8001)), Emmanuel Malherbe, Erwan Scornet (LPSM (UMR\_8001))

arXiv cs.CV

COMPASS: Contextual Moment Prior Alignment for Generalizable AIGI Detection

説明COMPASS:汎化可能なAI生成画像検出のための文脈的モーメント事前整列法

要約本論文は、AI生成画像(AIGI)およびディープフェイク検出の汎化の難しさに対し、データを考慮したサブスペース適応フレームワークCOMPASSを提案しています。少量のラベルなし意味代理集合を用いて対象の活性化統計量を推定し、活性化共分散を事前学習済み重みの分解に組み込むことで、対象に関連する表現を保持しつつ、残差アダプタが偽造に関連する変化を学習します。論文によると、この手法は勾配ベースの最適化を必要とせず、複数のクロスデータセット・クロス手法・オープンワールド評価で最先端の性能を示しています。

Zhan Yang, Tiancheng Shen, Weijie Lyu ほか

arXiv cs.CV

FlowSim: Rendering-Free Closed-Loop Simulation for Evaluating End-to-End Driving Systems

説明FlowSim:エンドツーエンド運転システム評価のための描画不要クローズドループシミュレーション

要約本論文は、エンドツーエンド運転システムのクローズドループ評価において画像描画を行わない手法FlowSimを提案する。前フレームの潜在表現と対象フレームの記号的シーン条件から内部の潜在表現を直接予測し、凍結された下流モジュールで処理するため、画像のレンダリングと知覚の再エンコードが不要になる。nuScenesとNavSimでの実験では、下流の挙動が画像空間シミュレーションと競合する水準で保たれ、多くの場合それを上回った。各ステップは0.04〜0.06秒で完了する。

Hanfeng Wu, Alvaro Marcos-Ramiro, Michael Schmidt ほか

arXiv physics.chem-ph · cs.AI · cs.LG

Can Machine Learning Potentials Be More Accurate Than the Methods They Are Trained On?

説明機械学習ポテンシャルは、学習元の手法より高精度になりうるか?

要約機械学習ポテンシャル(MLP)は配置空間や化合物空間をまたいで一般化できますが、その精度は学習に用いた手法に制約されると考えられてきました。本論文は、量子化学的手法の空間にわたって一般化することで、実験値への再フィッティングに頼らずにMLPを学習手法より高精度にできると主張します。未見の手法に対しても予測できる手法転移可能なMLPの構成案を示し、密度汎関数理論と波動関数理論の両方で実装例を提示しています。

Pavlo O. Dral, Yi-Fan Hou, Yuxinxin Chen ほか

arXiv cs.LG · cs.AI

ChampionKV: Head-Wise Adaptive Budget Allocation for KV Cache Compression

説明ChampionKV:KVキャッシュ圧縮のためのヘッド別適応的予算配分手法

要約本論文は、長文脈向けKVキャッシュ圧縮において入力に応じてアテンションヘッドごとに予算を配分するChampionKVを提案している。観測ウィンドウの集約アテンションの最大値を集中度の軽量な代理指標とし、分散したヘッドには多く、集中したヘッドには少なく予算を割り当てる。SnapKVやPyramidKVに、トークン選択手順を変えずに組み込める。LongBenchとRULERでは基盤の圧縮手法を概ね上回り、Llama3.1-70B-Instructで改善が最も大きく統計的に有意だったが、7B/8Bモデルでは結果が混在し、Ada-KVを一貫して上回るわけではない。

Yuechuan Chen, Yanda Guo, Xiaoxi Liu ほか

arXiv cs.AI · cs.LG

SHELDON: Reasoning through Dual Search over Hypothesis and Observation Spaces

説明SHELDON:仮説空間と観測空間の二重探索による推論フレームワーク

要約本論文は、仮説空間と観測空間を別々に表現し共同で探索する科学的推論フレームワーク SHELDON を提案している。新たな観測を能動的に求めることで、現在の仮説では説明できない事象を発見し、既存仮説の微修正を超える新しい仮説の生成を導く。論文によれば、診断、抽象推論、最適化のベンチマークで評価された基準手法を最大 26.7 点上回り、新規解を最大 4.5 倍生成したという。

Harshit Joshi, Priyank Shethia, Monica S. Lam

arXiv cs.LG

FRACTION: Fraud Explanation Generation via Agentic Graph Context Navigation

説明エージェント型グラフ文脈ナビゲーションによる不正説明生成(FRACTION)

要約本論文は、グラフ構造を持つ不正検知における説明文生成の課題を扱い、FRACTIONという枠組みを提案しています。言語モデルがグラフツールを使い、隣接ノードの記録を段階的に参照しながら説明を生成する仕組みです。また、説明の品質を評価するための基準を設計し、人間の判断と照合しています。三つの不正データセットの実験で、既存の手法を上回る結果が示されています。

Cecelia Soh, Jun Hu, Yuan Li ほか

arXiv cs.CL

Machine--human agreement in marking undergraduate assignments is specific to model, prompt and institution

説明大規模言語モデルによる学部課題の採点:人間との一致度はモデル・プロンプト・大学によって異なる

要約本研究は英国の3大学の心理学の学部課題761件を用い、3種のフロンティア大規模言語モデルを単独およびアンサンブルで評価しました。人間と機械の採点の一致度は大きく変動し、どのモデルもプロンプトも全大学で最適とはなりませんでした。すべてのモデルは点数を中央付近に寄せ、最も弱い課題を過大評価し、最も優れた課題を過小評価しました。機械の採点は人間よりも言語的特徴を強く評価しており、著者は単一の文脈での検証では展開の準備度が過大に見積もられると結論づけています。

Giulio Corsi, Maryam Abo-Tabik, Yael Benn ほか

arXiv cs.CV

Dynamic Interpolation for Training-Time Prediction Reshaping in Low-Light Image Enhancement

説明低照度画像強調の学習時予測再整形のための動的補間(DITM)

要約本論文は低照度画像強調を対象に、学習時のみ使用し学習可能パラメータを追加しない動的補間モジュールDITMを提案している。モデル予測を、正解画像の平均輝度に合わせて再スケーリングした画像と輝度認識型に補間し、大域的な輝度が安定した後の学習段階で残留する局所誤差が逆伝播に強く影響するようにする。複数のベンチマークとCNN、Transformer、Mambaベースの手法で、推論時の構造と計算量を変えずに忠実度と知覚品質が向上したと報告している。

Peirui Zhu, Shijie Hao, Jingxi Liao ほか

arXiv cs.CL · cs.AI コードあり

LatentRemedy: Efficient Remedy For Non-Prefix KV Cache Reuse in Multi-Agent Systems

説明LatentRemedy:マルチエージェントシステムにおける非プレフィックスKVキャッシュ再利用の効率的な補正手法

要約本論文は、マルチエージェントシステムで非プレフィックスKVキャッシュを再利用すると、タスクが競合する場合に性能が大きく低下する問題を扱っています。提案手法LatentRemedy(論文の表記による)は、MLPで対象プレフィックスの最終隠れ状態を少数のタスク条件付き潜在トークンに変換し、再利用されるKVブロックの後ろに配置します。これにより、共有ブロックを再計算せずに再利用文脈を活用できるとしています。実験では、競合タスクで既存の再利用ベースラインを上回り、キャッシュサイズが増えてもTTFTが直接再利用に近いと報告されています。

Zhiwei Chen, Zhongtao Rao, Waikit Xiu ほか

arXiv cs.LG · cs.AI

Correcting or Continuing? What On-Policy Distillation Learns from Student Errors

説明誤答問題での方策上蒸留は誤りを正すのか、それとも強化するのか

要約本論文は、凍結された教師モデルの下で生徒が自ら生成した軌跡を用いて学習する方策上蒸留(OPD)を検討しています。生徒が現在誤答している数学競技問題のみで学習させた場合、Qwen-3 と Phi-4 の five 種類の代表的手法の多くで正答率が低下したと報告されています。一方、誤答に集中しない場合は同じ手法で正答率が4.6ポイント向上したとされています。

Shuo Yang, Zheyu Zhang, Mahito Sugiyama ほか

arXiv cs.SD · cs.CL コードあり

Fish Audio Drama 3 Technical Report

説明Fish Audio Drama 3 技術報告:演出指示に従うオープンソース音声生成モデル

要約本報告は、テキストを指示付きの演技へと変換するオープンソースの音声生成モデル Fish Audio Drama 3 を紹介します。35B パラメータの混合エキスパート基盤(トークンごとに 3B を活性化)を用い、複数の参照からの音声クローン、自然言語による演出指示、多人物シーンの吹き替え、填充による音声編集、長文・ストリーミング音声の合成に対応します。モデルの重みは GitHub と Hugging Face で公開されています。

Dawei Han, Shidong Li, Shijia Liao ほか

arXiv cs.CV

Surface Reconstruction from Range Scans Under Visibility Constraints

説明視線制約下でのレンジスキャンからの表面再構成

要約本論文は、ノイズや外れ値を含むレンジスキャンから三次元表面を再構成する課題を扱います。著者らは、各取得レイ上で予測される最初の表面交点を測定深度に対してHuber損失によるロバスト回帰で当てはめる定式化を提案し、表面を1-Lipschitz多層パーセプトロンの零集合として表し、球面トレーシングで最初の交点を求めます。合成データと実データでの比較では、クリーンなデータでは競合的な性能を示し、中程度の汚染でも忠実度と頑健性が大きく向上しました。また、適合能力と頑健性の間にはトレードオフがあり、中程度の容量で最適な均衡が現れることが示されています。

Gabriel Lenain, Edmond Boyer, Jean Ponce

arXiv cs.SE · cs.AI

SWEPatchTest: Evaluating Software Tests Beyond Reproduction

説明SWEPatchTest:再現を超えたソフトウェアテストの評価ベンチマーク

要約本論文は、コーディングエージェントが生成したテストが、パッチが問題の要件を満たすかを正しく判定できるかを評価するSWEPatchTestを提案します。619タスクと82,579個の候補パッチから構成され、問題の再現、正しいパッチの受理、誤ったパッチの拒否を同時に測定します。最良の構成は59.29%のタスクで参照遷移を再現したものの、联合検証率(JVR)は9.21%にとどまりました。さらに、検証スコアを用いて教師ありファインチューニングの例を選別・拡張し、JVRをおよそ3倍に高め、下流の修復性能も改善したと報告しています。

Hua Lu, Pengcheng Wang, Han Li ほか

arXiv cs.LG · cs.AI · cs.CL

Match the Canvas, Not Just the Answer: Predictability-Aware SFT for Diffusion Language Models

説明答えだけでなく生成キャンバスも合わせる:拡散言語モデル向けの予測可能性認識型SFT

要約拡散言語モデル(DLM)は、固定された左から右の順序ではなく、モデルの予測可能性に応じてトークンを並列に確定させます。標準的なSFTのランダムマスキングは推論と無関係に行われるため、学習と推論の不一致が監督を誤らせうると論文は指摘します。提案手法PACSは、モデル自身の予測可能性で各例の可視入力長を選び、信頼度に導かれた提示の直前の参照トークンを監督します。推論・コード生成のベンチマークで、比較した手法の中で平均精度が最も高く、個別ベンチマークでは通常のSFTより最大12.84ポイント向上しました。

Miao Li, Hanyang Jiang, Hengyu Fu ほか

arXiv cs.LG · cs.AI · cs.CV

Saliency-Guided Replay for Continual Learning in Deep Spiking Neural Networks

説明深層スパイking神経ネットワークの継続学習における顕著性誘導リプレイ

要約本論文は、低遅延条件下の深層スパイキングニューラルネットワーク(SNN)で、継続学習時の破滅的忘却を抑える手法として、経験のパッキングとリプレイ(EPR)を検討します。提案手法は、時間方向の正規化で安定化したVGG9 SNNと、スパイク活動に基づくスパイク活性化マップ(SAM)を組み合わせます。SAMは時間方向に集約して空間的注意マップとし、完全な画像を保存する代わりに、情報量の多い画像パッチを選んでリプレイに用います。Split CIFAR10とSplit CIFAR100での実験では、厳しいメモリ予算下でSAM誘導EPRが精度とメモリのトレードオフを改善し、保存量を大幅に減らしながらも競争力のある性能を保つことが示されています。

Francesco Panetta, Federico Di Valerio, Michela Proietti

arXiv cs.CV

Uncertainty-Aware Semi-Supervised Framework with Supervised Contrastive Learning for Sugarcane Leaf Disease Detection

説明さとうきびの葉病検出のための、監督付きコントラスト学習を組み込んだ不確実性考慮型半教師あり枠組み

要約本論文は、さとうきびの葉病検出において、注釈付きデータの取得コストが高いこと、病斑の表れ方による類内変動、病葉と健全葉の類似性、ラベル誤りのリスクといった課題に取り組みます。離散ウェーブレット変換による前処理、KLダイバージェンスによる擬似ラベルの精緻化、監督付きコントラスト学習を組み合わせたU-SSDNetを提案しています。さとうきびの葉病データセットでの実験では、注釈サンプルを大幅に減らしながら完全教師あり モデルに近い性能を示し、既存の教師あり・半教師あり手法を上回ったと報告されています。

Shalini Dangi, Divya Teja, Omkar Kabde ほか

arXiv cs.LG

Improving Neural Symbolic Regression with a Diverse Prior and Post-training Alignment

説明多様な事前分布と学習後アライメントによるニューラル記号回帰の改善

要約記号回帰は、データセットに当てはまる数式を候補の組み合わせの中から見つける問題です。本論文は、実データに近い合成事前分布で教師あり事前学習を行い、留保データへの適合度と式の大きさに基づいて強化学習で事後学習を行うRASR手法を提案します。SRBench 2.0のブラックボックス部門で、評価された全手法の中で平均テストR²順位が最も高くなりました。

David Otte, J\"org K.H. Franke, Frank Hutter

arXiv cs.LG · stat.ML

Counterfactual Certification for Sequential Unlearning with Long-Run Performance Guarantees

説明逐次削除要求に対する反事実認証と長期性能保証

要約本論文は、機械学習のアンラーニングにおいて、サイズの異なるグループ単位で削除要求が順次届く場合を扱います。各モデル公開を、削除対象グループが学習に参加しなかったと仮定した反事実のアンラーニング軌道と照合して認証します。削除ごとの微調整予算を固定し、目的関数が滑らかで強凸の場合、要求数が増えても性能低下が一様に有界に保たれることを示しています。FEMNIST上の多クラスロジスティック回帰の実験では、既存の逐次手法より修正ステップが少なく、グループサイズが不均一な場合に訓練時差分プライバシーを上回ると報告されています。

Hanna Benarroch (DI-ENS), Jamal Atif (CMAP), Olivier Capp\'e (DI-ENS)

arXiv cs.CV

PolUR: Polarization Aware Multimodal Degradation Perception for Underwater Image Restoration

説明PolUR:偏光認識型マルチモーダル劣化知覚による水中画像復元

要約本論文は、偏光画像とRGB画像を併用して水中画像の色かぶり、霞、低照度などの複合的な劣化の種類と程度を識別し、劣化認識の意味特徴で復元を導く枠組みPolURを提案している。また、実環境の劣化と対応する劣化記述を含む新ベンチマークMixPolarを構築し、劣化知覚、画像復元、下流タスクの評価を可能にしている。実験では、劣化知覚と画像復元で競争力のある性能が示されている。

Wenshuo Zhang, Xiangyue Zhang, Junlin Li ほか

arXiv cs.CL · cs.AI

Seeing Through the Forgery Is Not Enough: Regressive Sycophancy under Fabricated Evidence in Medical Vision-Language Models

説明偽造を見抜くだけでは不十分:医用視覚言語モデルが偽造証拠のもとで示す退行的追従

要約本論文は、偽造文書を提示された際の医用視覚言語モデルの振る舞いを調べたものです。モデルが正しく答えた後、ユーザーが偽造処方箋で反論すると、正答を撤回することがあります。VQA-RADの400件のYes/No問題に対し、4つのオープンモデルで19,200の多段階対話を検証しました。文書が合成であることを開示しない場合、モデルは正答6,488件のうち80.1%を撤回しました。さらに、処方箋を拒否しても正答を維持できず改答するケースがあり、システムプロンプトで文書が合成だと明示すると一部モデルの撤回率が下がりました。偽造に気づいても、その回答を採用してしまうことを示しています。

Sadif Ahmed, Soumya Swagata Biswas, Rifat Shahriyar ほか

★★★★☆ 注目
arXiv cs.CV · cs.IR コードあり

Web Scale on a Budget: Tail-Aware Retrieval Evaluation

説明低コストで大規模検索を評価する:テール考慮型の検索評価手法

要約本論文は、画像インスタンス検索で識別力を高めるためにギャラリー規模を拡大する従来の慣行に対し、小さなランダムサンプルから大規模検索指標を推定する方法を提示します。ギャラリー規模に依存しない単一クエリの検索難易度を定義し、極値理論(EVT)を用いて推定します。ILIAS、INSTRE、Google Landmarks v2での検証では、5%のサンプルで全体のmAPにほぼ収束し、平均絶対誤差は約0.005でした。

注目点推薦システムや生体認証の採用ランキングの仕組みを視覚検索に初めて適用し、クエリごとの難易度から大規模mAPを推定。5種のバックボーン、3ベンチマークで誤差約0.005を確認。

Boaz Meivar, Shai Avidan

★★★★☆ 注目
arXiv cs.LG · cs.DS · cs.GT

Exact power indices for plurality-voting ensembles

説明多数決アンサンブルのための厳密なパワー指標

要約本論文は、多数決で結果を決めるアンサンブル分類器において、各基底分類器が最終予測にどの程度寄与するかを測る方法を扱う。協力ゲーム理論のBanzhafおよびShapleyのパワー指標を、多数決と無作為な同票処理をモデル化した新しいゲームに適用している。提案手法群ENPOWERは、二値分類では線形時間、多クラス分類では低次多項式時間で両指標を厳密に計算できるとされ、アンサンブル剪定や視覚言語モデルのプロンプトベースのアンサンブルに適用して検証している。

注目点多数決アンサンブルにBanzhafとShapleyの指数を適用し、二値分類で線形時間の厳密計算を示し、実験と視覚言語モデルへの応用で検証している。

Ilie Sarpe, Theofanis Georgakopoulos, Aristides Gionis

arXiv cs.AI

Seeing Depth but Choosing Cues in Vision-Language Models

説明視覚言語モデルは奥行きを把握できても、判断では画像平面上の手がかりに引きずられる

要約本研究は、視覚言語モデルが物体の遠近を判断する際に奥行き情報を使うのか、見かけの大きさや垂直位置などの画像平面上の手がかりに頼るのかを調べたものです。奥行きと手がかりが矛盾する制御実験、表現分析、介入を通じて、判断は誤解を招く手がかりへ系統的に偏る一方、正しい奥行きの順序は回答が誤っている場合でもモデルの視覚表現から読み取れることが示されています。

Zhengtao Zou, Pekka Marttinen

arXiv physics.chem-ph · cond-mat.mtrl-sci · cs.LG

All-electron machine-learned orbital-free density functional for periodic CHNO systems

説明周期系CHNO体系向けの全電子機械学習軌道フリー密度汎関数

要約本論文は、周期系CHNO体系(炭素・水素・窒素・酸素)を対象とした全電子機械学習軌道フリー密度汎関数STRUCTURES-Pを提案している。静電相互作用は原子中心ガウス基底で解析的に計算され、等変ネットワークが非基底状態密度のエネルギーと勾配から運動エネルギーと交換相関エネルギーを学習する。未見の結晶での検証では、密度誤差は電子数の6.7%から0.4%に低下し、エネルギー誤差は原子あたり0.25 mHaに達した。

Marc K. Ickler, Andreas Hermann, Fred A. Hamprecht

★★★★☆ 注目
arXiv cs.IT · cs.LG · math.IT

Rarity Determines Minimax Rates of Semantic Entropy From Weak Pairwise Judgments With a Known Channel

説明弱いペア判定から求める意味エントロピーのミニマックス速度:希少な意味が難しさを決める

要約本論文は、言語モデルの意味エントロピーの推定を扱う。意味は直接観測できず、既知のチャネルに基づく二つの回答の等価判定から推定される。著者らは、推定の難しさは全体の最悪ケースではなく、稀になりうる意味の数によって決まることを示し、対応するミニマックス速度と一致性の閾値を与える。

注目点稀少な意味の数で語彙エントロピーの極小最大速率を特徴づける新しい枠組みを示し、上下界が一致する理論結果を与えている。

Xiaoli Yu, Jiamiao Liu

arXiv cs.PF · cs.LG

AlignPred: Error-Controlled KV Cache Compression via Alignment and Predictive Coding

説明AlignPred:整列と予測符号化による誤差制御型KVキャッシュ圧縮

要約本論文は、長時間稼働するエージェントが保持するKVキャッシュを圧縮するコーデックAlignPredを提案しています。局所的な直交変換で関連するアテンションヘッドや層を揃え、予測符号化と組み合わせ、設定可能な再構成誤差予算の下で残差を量子化してエントロピー符号化します。論文によると、3種類のアテンション機構で、評価した基準手法より少ない容量で同程度の再構成誤差を実現し、デコードは少なくとも1.6倍高速です。また、128Kコンテキストの LongBench-Pro では原モデルに近いタスクスコアを報告しています。

Xu Yang, Jiapeng Zhang, Zhiwei Zuo ほか

arXiv cs.LG · cs.NE

Neural Dimensional Analysis: Foundations of Dimensionless and Scale-Consistent Computation

説明ニューラル次元解析:無次元かつスケール整合的な計算の基礎

要約本論文は、次元整合性に基づく統一枠組みとしてニューラル次元解析(NDA)を提案し、Transformerのスケール制御機構を説明する。ニューラル単位を定義し、無次元の単位違反指数(UVI)でスケールの不一致を診断する。さらに、正規化座標と直交化された残差加算を用いるGauge-Canonical Transformer(GCT)を提案している。51Mから1Bパラメータの言語モデル実験では、GCTは広い学習率範囲で学習が安定し、1Bモデルでの量子化後の検証損失の増加も基準手法より小さいと報告されている。

Bum Jun Kim, Makoto Kawano, Yusuke Iwasawa ほか

arXiv cs.CV

dMRI-F: A Foundation Model for Generalizable Diffusion MRI Analysis from Sparse Acquisitions

説明dMRI-F:スパースな撮像から汎化可能な拡散MRI解析を行う基盤モデル

要約本論文は、少数の撮像ボリュームのみを入力として、拡散MRI(dMRI)データの強化と複数の下流タスクを統合する基盤モデルdMRI-Fを提案している。モデルは、わずか6ボリュームから高密度にサンプリングされたマルチシェルデータを予測する学習で事前学習され、脳の領域分割、位置合わせ、クロスモーダル合成などに適応できる汎用的な潜在特徴を学習する。著者らは9つの独立に取得されたデータセットで、既存手法を上回ると報告している。

Xi Zhu, Yijie Li, Xiaofan Wang ほか

★★★★☆ 注目
arXiv cs.LG · cs.AI

BELT : BEhavior-Aligned Low-Rank KV Cache Compression with Learned Top-k Rank Allocation

説明BELT:注意力挙動に整合させた低ランクKVキャッシュ圧縮と学習型Top-kランク割り当て

要約本論文は、大規模言語モデルの長文脈推論でメモリ負担となるKVキャッシュを圧縮するため、低ランクKVキャッシュ圧縮フレームワーク「BELT」を提案している。キー側の目的関数は生のキーではなくアテンション分布を対象とし、閉形式の低ランク解を持つ二次近似を導く。学習型の全体ランク割り当て器は、学習時は微分可能なソフト選択、展開時はハード選択を用いて、利用者が指定する成分予算を満たす。三つのLLMと複数のベンチマークでの評価では、最大70%の低ランク圧縮を達成し、量子化と組み合わせると全体で最大17.8倍のKVキャッシュ削減を示したと報告されている。

注目点注意力分布を目的とした低ランクKVキャッシュ圧縮と学習可能な全体ランク配分を提案し、3つのLLMと複数ベンチマークで効果と高速化を示している。

Yaoyang Liu, Shuwei Shen, Jincheng Tang ほか

arXiv cs.LG · cs.AI

Better Capturing Interactions Between Products in~Retail: Revisited Negative Sampling for~Basket Choice Modeling

説明小売における商品間の相互作用をより的確に捉える:バスケット選択モデリングのための負例サンプリングの再検討

要約本論文は、商品・価格・店舗の相互作用を埋め込みベクトルとして学習し、大規模な取引データから販売パターンを見出す買い物かごモデルを提案しています。商品数が多い場合の計算負荷を抑えるため、最適化の損失関数をランダムな負例サンプルで計算し、実際に販売可能な品揃えに基づいてサンプルを抽出します。合成データの実験では、文献の既存手法より優れた結果が示されました。さらに、南東ヨーロッパの大手小売企業 Fortenova Group の数百万件の取引データで学習・評価を行い、実用性を確認しています。

Jules D\'esir, Vincent Auriau, Martin Mo\v{z}ina ほか

arXiv cs.NI · cs.LG

CALM-5G: Event-Level Conformal Risk Control for Predictive Service-Assurance Alarms

説明CALM-5G:予測型サービス保証アラームのためのイベントレベル保形リスク制御

要約本論文は、任意の予測モデルの上に載せて、分布に依存しない有限サンプル保証付きでアラームを出すサービス保証レイヤー CALM-5G を提案する。サービス品質違反イベントで校正し、違反の発生時点を直接スコアリングし、校正方式を標本外で選択する。認定された見逃し率ごとにアラーム稼働率も併せて報告する。4つのデータセットで個別に評価され、ラベルシフト下ではオンライン校正が準拠を回復する一方、一括校正は許容範囲を大きく超えると示されている。

\"{O}mer Faruk \.{I}\c{s}canl{\i}, Ya\u{g}mur Sabucu Sandal