AI アルゴリズム · 2026年9月28日(月)

機械学習、人工知能、自然言語処理、コンピュータビジョン、マルチエージェント。

arXiv cs.AI

PDE-JEPA: Predictive Representation Learning of Latent Dynamics Modeling for Parametric PDEs

説明PDE-JEPA:パラメトリック偏微分方程式の潜在動力学を予測的に表現学習する手法

要約本論文は、パラメトリック偏微分方程式(PDE)の表現学習において、再構成ベースの学習に代わる予測的表現事前学習を検討しています。マスク付き潜在予測でエンコーダを学習し、幾何射影器で潜在軌跡の幾何を物理場の発展の幾何に合わせ、さらに物理構造を持つ潜在予測器で動力学を、パラメータに依存しない発展部分と依存する応答部分に分解します。九つの代表的なPDEベンチマークで、分布内では既存の最先端手法を平均33.4%上回り、未見のパラメータへの外挿では平均51.4%の改善が報告されています。

Zhentao Tan, Jianrong Zhang, Ruijie Quan ほか

arXiv cs.AI

RSI-Router: Evolving Subtask-Level LLM Routing and Skills for Cost-Efficient Agents

説明RSI-Router:低コストなエージェント向けのサブタスク単位LLMルーティングとスキルの進化

要約本論文は、蓄積された経験に対する再帰的自己改善を通じて、サブタスク単位のモデル割り当てとモデル固有のスキルを構築するルーティングフレームワーク RSI-Router を提案しています。DeepSeek-V4.1-Flash と Qwen3.5-9B の間でルーティングし、5つのエージェント型ベンチマークにおいて、DeepSeek 単独のベースラインを約半分の推論コスト(48.3%)で一貫して上回ったと報告しています。また、9種類のルーティング手法よりも強い性能-コストのパレート前線を示しています。

Hao Li, Hangfan Zhang, Zhiyao Cui ほか

arXiv cs.LG

Learning Propagation Geometry from Message-Passing Feedback

説明メッセージパッシングのフィードバックから伝播幾何を学習する

要約グラフニューラルネットワークは、近傍情報の比較・統合方法を適応させるために局所幾何を学習する必要があります。本論文はGeoFという再帰的フレームワークを提案し、メッセージパッシングのフィードバックを通じてノード特徴と伝播幾何を同時に更新します。各ノードは構造認識型のプロトタイプから初期化された局所的な対称正定値幾何を持ち、幾何が近傍の重みを決め、三角フレーム輸送で目標ノードの局所座標に変換します。ベンチマークデータセットでの実験では、GeoFが最先端のGNNベースラインを一貫して上回ることが示されています。

Yingxu Wang, Kunyu Zhang, Xinwang Liu ほか

arXiv cs.AI

FromPitch2Board: Benchmarking LLM Agents in Long-Horizon Football Management

説明FromPitch2Board:長期サッカー経営におけるLLMエージェントのベンチマーク

要約本論文は、決定論的なサッカー経営ベンチマーク「FromPitch2Board」を提案し、同一シミュレータ上の対照実験で、基盤モデル、エージェントの足場(スキャフォールド)、責任範囲、試合制御の粒度、時間の長さという五つの要因を調べる。四つの基盤モデルと四つのエージェント足場を評価している。GPT-5.6 は責任範囲が最終段階まで広がると、決定をスキップする割合が 1.1% から 57.9% に上昇し、成績が低下した。

Peiyu Zang

arXiv cs.AI · cs.LG

ResonAct: Streaming Metrics for Runtime Diagnosis and Self-Healing in Multi-Agent Systems

説明ResonAct:マルチエージェントシステムの実行時診断と自己修復のためのストリーミング指標フレームワーク

要約本論文は、ストリーミング運用指標によってマルチエージェントシステムを継続的に監視・診断・修復する実行時自己修復フレームワーク「ResonAct」を提案しています。エージェントや協調ロジックを変更せず、外部の制御層として動作します。企業ワークフローとAppWorldベンチマークでの評価では、方針に基づく修復によりタスク完了率が最大10.00ポイント向上したと報告しています。

Tarun Chintada, Neelamadhav Gantayat, Ishaan Romil ほか

arXiv cs.CV · cs.AI

Triangular Resampling for Long-Horizon Motion Generation

説明長期間モーション生成のための三角リサンプリング

要約本論文は、モーション拡散モデルにおける長期間の誤差蓄積を抑えるための後学習手法、三角リサンプリング(TR)を提案している。推論時にモデルが生成する途中状態を訓練で再現し、過度なドリフトを抑えるために正解データでクランプする。HumanML3D のテストプロンプトによる120秒のモーション生成では、リプレイなしの同等の後学習と比べ、TR は FID AUC を40.9%、FID 劣化の傾きを55.3%低減した。

Kunhang Li, Yiyi Cai, Xiangyue Zhang ほか

arXiv cs.RO · cs.AI

Sufficiency of Zeroth-Order Reward Shaping for Policy Gradient in Stabilization Control

説明安定化制御における方策勾配法のためのゼロ次報酬整形の十分性

要約本論文は、深層強化学習によるロボット制御で報酬関数に含めるべき情報を検討します。位置(ゼロ次)と速度(一次)の情報の役割を比較し、方策勾配法は一次の報酬項がなくても安定化タスクを解けること、また一次項を加えるとその尺度が大きくなるほど感度が著しく高まる場合があることを示しています。報酬関数は目標に関係する座標についてゼロ次の情報を完全に含む必要があり、方策の観測には一次の状態が引き続き必要だとされています。

Yisheng Zhang, Tao Wang, Sicun Gao

arXiv cs.LG

Predicting Delayed Train Trajectories on the Dutch Railway Network: Explainable AI Evaluation of Topological, Operational and Weather Features with Tree Based Ensemble Methods

説明オランダ鉄道の列車遅延予測:木ベースのアンサンブル手法による説明可能なAI評価

要約本論文は、解釈可能な木ベースのアンサンブルモデルを用い、オランダ全域の鉄道網について、位相・気象・運行特徴による列車遅延の予測を検証しています。同月内の予測精度は向上する一方、将来の月を対象とした予測性能は系統的に低下することが示されています。SHAPと分散の分析から、この低下は環境特徴の変動と統計的な目標定義の不安定性に関連づけられています。著者らは、特徴量を増やすだけでは長期予測の課題は解決せず、季節を考慮した動的なモデルへの移行が必要だと結論づけています。

Jia Long Bao, Ali Mohammed Mansoor Alsahag, Seyed Sahand Mohammadi Ziabari

arXiv cs.CL · cs.AI コードあり

Using LLMs to Detect LLM-Generated Texts: A Cross-Generation Analysis

説明LLMで LLM生成文を検出する:世代間比較の分析

要約本論文は、三世代にわたる15の大規模言語モデルを生成者と検出者の両方として評価し、文章がAIによって書かれたかを判定する能力を調べています。1,000件の人間執筆文と15,000件のLLM生成文をベンチマークとして用い、233,000件を超える二値判定とその自然言語による説明を収集しました。結果として、検出性能は生成元よりも検出器自体の能力に強く左右され、新しい世代が生成した文章ほど検出が難しいことが示されました。

Haiyue Yuan, Jie Guo, Weidong Qiu ほか

★★★★☆ 注目
arXiv cs.CV

Unified Trajectory Matching Policy Optimization: Diverse T2I Generation and VLA Generalization

説明統一軌道マッチング方策最適化:多様なテキスト画像生成とVLA汎化

要約本論文は、拡散・フロー方策に適用する強化学習の事後学習フレームワーク、統一軌道マッチング方策最適化(Uni-TMPO)を提案する。報酬の最大化ではなく、軌道群内で標準化した報酬から作った目標分布と方策分布を前向きKL最適化で一致させ、モード崩壊を抑える。実験では、テキスト画像生成で報酬・多様性・効率のバランスが良く、視覚・言語・行動モデルでは未見のタスクや場面への汎化が向上したと報告している。

注目点報酬最大化の代わりに前向きKLで軌跡の目標分布へ合わせ、モード崩壊を抑えて拡散とVLAを統一;T2IとVLAおよび実機で検証。

Zhiyuan Ma, Jiaming Li, Lingzhen Li ほか

arXiv cs.AI

VCN-Bench: A Video-Contextualized Navigation Benchmark for Spatial Reasoning over Prior Visual Experience

説明VCN-Bench:事前の視覚経験に基づく空間推論のための映像文脈付きナビゲーションベンチマーク

要約本論文は、MLLMが事前の映像経験をもとに閉ループで空間推論を行う能力を評価するナビゲーションベンチマーク「VCN-Bench」を提案しています。エージェントは始点と目的地を含む事前映像から、指示された目標を推論し、その空間文脈を用いて目標へ移動します。Matterport3D上に構築され、5種類の指示タイプ、10万件の学習エピソード、1,250件の評価エピソードを含みます。実験では、ナビゲーション性能が限定的で、目的地を正しく特定した後でもナビゲーションの失敗が頻発することが示されています。

Siqi Zhang, Meng Wei, Chenyang Wan ほか

arXiv cs.AI

Jailbreak Context Lingers: Divergent Safety Routing and Its Cross-Task Predictability in Tool Agents

説明脱獄文脈の持続影響:ツールエージェントにおける分岐する安全ルーティングとタスク横断の予測可能性

要約本論文は、大規模言語モデルがツール利用エージェントとして動作する際、脱獄後に残る文脈が後続の振る舞いにどう影響するかを検証しています。192の親タスク・42領域にわたる対続き枠組みを構築し、8つのエージェントで12,148組の続き対を分析しました。同一の安全フィードバックでも、モデルによって不安全な軌道を正当な完了へ導く、無許可の実行を続ける、良性タスクを過剰に拒否するといった異なる振る舞いに分かれることが示されています。層ごとの活性化パッチングでは因果効果が最終層付近に集中することがわかり、その層の表現は全体のルーティング結果と相関し、次の具体的なツール操作を変えることも確認されました。さらに、局所的な介入由来の特徴が、未見の親タスクでの軌道結果をある程度予測できることが報告されています。

Xi Wang, Songlei Jian, Yiming Zhang ほか

arXiv cs.RO · cs.CV · cs.LG

Natural State-Prediction Accuracy can Hide Weak Controlled Responsiveness in VLA Readouts

説明自然な状態予測精度は、VLA読み出しにおける弱い制御下の応答性を隠すことがある

要約本論文は、視覚・言語・行動(VLA)モデルの内部表現から物体状態を正確に復号できても、予測が対象の物理状態の変化に忠実に応答していることは示されないと指摘する。著者らは、予測精度、目標状態への応答性、文脈の安定性を分けて評価する枠組みを提案し、目標座標とロボットの文脈を交差させた物理的に検証済みの観測を用いる。自然な軌道での高い精度と、固定された表現・読み出しの組み合わせにおける制御下での弱い目標状態応答性が共存しうることを示し、三つの性質が異なる診断情報を与えることを報告している。

Hyungjoon Kim, Wonbin Son, Mi Young Lee ほか

arXiv cs.LG

AgentPerfBench: A Benchmarking and Evaluation Suite for Inference Performance of Agentic LLMs

説明AgentPerfBench:エージェント型LLMの推論性能を評価するベンチマークスイート

要約本論文は、エージェント型大規模言語モデルの推論性能を評価するためのベンチマークスイート AgentPerfBench を提案します。既存のベンチマークは単一ターンのチャット処理が中心で、コーディングや端末操作などの多ターンのツール呼び出しとは乖離があると指摘しています。SWE-Bench や TerminalBench の実トレースと標準チャットの基準を用い、実トレースの入力長・出力長・ターン数の分布から合成プロファイルも生成します。また、文脈長の増加を考慮せず、ハードウェアの飽和状態で測定しない既存ベンチマークの問題点を論じ、Nsight Compute のトレースを用いた多次元ルーフラインモデルでボトルネックを分析します。

Cheuk Hang Lau, Zeyu Cao, Kevin Wong Cheuk Yin ほか

arXiv cs.CV

V-Gym: Enhancing Agentic Visual Reasoning via Skill-Data Co-Evolution

説明V-Gym:スキルとデータの共進化によるエージェント型視覚推論の強化

要約本論文は、実行トレースからマルチモーダルの手続き的スキルと練習データを反復的に共進化させる自律フレームワーク「V-Gym」を提案しています。スキルの更新は検証性能が向上した場合のみ保持され、データはトレースで特定されたボトルネックに対応して生成され、品質確認後に蓄積されます。複数のベンチマークと基盤モデルで基線を上回り、演化したスキルは領域やモデルをまたいで汎化したと報告されています。

Bei Yan, Yuecong Min, Jie Zhang ほか

arXiv cs.LG

SOLAR: A State-Driven Online Learning Rate Scheduler for LLM Pretraining

説明SOLAR:大規模言語モデル事前学習向けの状態駆動型オンライン学習率スケジューラ

要約本論文は、大規模言語モデルの事前学習において学習率をオンラインで調整するSOLARフレームワークを提案しています。既存の基準スケジュールを参照に、パラメータ群ごとに有界で状態依存の残差補正を学習し、まれな危険な動作の後はサーキットブレーカーで学習を復旧させます。60Mから1Bの稠密モデルおよび2つのMoE設定で、チューニング済みの静的スケジュールや自動学習率調整手法より最終困惑度が改善したと報告されています。

Qiulin Shang, Binyu Wang, Yongqi Qiao ほか

arXiv cs.LG

QuantForge: Discovering Residual Decompositions for MXFP4 Post-Training Quantization

説明QuantForge:MXFP4 学習後量子化のための残差分解手法を発見するシステム

要約本論文は、大規模言語モデルの MXFP4 W4A4 学習後量子化アルゴリズムを自動発見するシステム QuantForge を提案しています。競合する説明を記録し、それらを区別する対照実験を選び、後続のコードが結論を実装しているかを検証することで、プログラムを段階的に改良します。この手法で発見された固定量子化器 HiRes は、7 つのタスクで最も低い 7 モデル Robust Fit(0.09300)を達成しました。

Qiulin Shang, Zhoutong Wu, Jie Hu ほか

arXiv cs.LG · cs.AI

From Preference to Reciprocity: Decentralized Matching with Empirically Grounded LLM-agent Based Modeling

説明選好から相互性へ:経験的に裏付けられたLLMエージェントによる分散型マッチング

要約本論文は、大規模言語モデル(LLM)エージェントと文脈的バンディットを組み合わせ、中国の結婚市場を模した環境での分散型二部マッチングの枠組みを提案する。エージェントは出会った候補者を評価し、相手からの受諾可能性は実際の提案結果から学習する。50×50のマッチング実験では、Bandit-UCBがGale-Shapleyより高い平均相互福祉を示し、LLM-ABM方策の中で阻止対が最も少なかった。

Wangxuan Fan, Xiaoyu Nie, Zhoutian Shi ほか

★★★★☆ 注目
arXiv cs.CL · cs.AI

Fair Fact-Checking: Closing the Cross-Lingual Gap in LLM Factual Judgement with RoSh

説明公正なファクトチェック:RoShで大規模言語モデルの事実判断における言語間格差を縮小

要約本論文は、8言語で同一内容の百科事典的事実主張1,500件について、5系統・3Bから70Bまでの8モデルを評価し、英語の判断精度が全モデルで他言語より高く、小型モデルほど差が大きいことを示しています。提案手法RoShは、残差ストリームに対して言語ごとに平行移動と回転を施す学習不要の手法で、全モデルの性能を改善し、差の平均約75%を縮めています。

注目点モデル内部には正答が符号化されているのに出力で表現できないことを示し、学習不要の閉形式な残差流回転を提案。実験と対照も充実しており新規性・影響は高い。

Muhammad Ahmad, Fatemeh Seyedin, Adrian Weller ほか

arXiv cs.LG · cs.AI · cs.CV

Learning What to Recall: Adaptive Multi-Cue Episodic Memory for World Models

説明何を思い出すかを学習:世界モデルのための適応型マルチキュー・エピソード記憶

要約世界モデルは現在の経験と行動から将来の観測を予測しますが、その予測は遠い過去の観測に依存することがあります。本論文は、学習時に想起された文脈を与えたときの実現された将来の条件付き対数尤度(拡散予測損失の負値で近似)で予測効用を測り、推論時には将来を見ない検索器を訓練する未来認識型想起フレームワーク(FAR)を提案します。時間、姿勢、視覚、音声などの手がかりから、クエリごとに信頼すべき手がかりを自動的に選択します。3つの設定で、手作業設計の想起手法を上回る結果が示されています。

Beomsu Kim, Chieh-Hsin Lai, Bac Nguyen ほか

arXiv cs.LG

FestDPO: Few-step Generator Alignment with Direct Preference Optimization

説明FestDPO:直接選好最適化による少ステップ生成モデルの調整

要約少ステップ生成モデルは、わずかな関数評価回数で高品質なサンプルを生成できますが、生成物が望ましい性質を持つとは限りません。本論文は、直接選好最適化(DPO)を少ステップ生成モデルに拡張したFestDPOを提案し、経験的サンプルによるノンパラメトリックな尤度推定を用いて、サンプルベースでDPO損失を計算可能にしています。テキストから画像への生成とタンパク質骨格生成の両方で、基準手法より良い結果を示しています。

Jaewoo Lee, Kyuil Sim, Hyeongyu Kang ほか

arXiv cs.CV · cs.AI

Evidence-Aligned Multimodal On-Policy Self-Distillation for Fine-Grained Visual Understanding

説明細粒度視覚理解のための、証拠整合型マルチモーダル・オンポリシー自己蒸留

要約本論文は、複雑な画像内の小さな細部を認識する必要がある細粒度視覚理解を対象としています。証拠領域を切り出した画像で条件付けた教師モデルを用い、生成軌跡上で元画像に条件付けた生徒モデルを監督する手法EADを提案します。EADは教師の修正を、証拠参照との余弦類似度で重み付けします。参照には、現在の生徒モデルによるマスク画像の予測から元画像の予測への変化を用います。論文では、密なOPSDの監督量の約6%のみを保持しながら、従来の最先端手法を一貫して上回ったと報告しています。

Nanxing Hu, Qiwei Yan, Jinchao Zhang ほか

arXiv cs.MA · cs.LG

Agentic Federated Learning: Rule-Based Client and Server Agents for Adaptive Training

説明エージェント型連合学習:クライアントとサーバーに規則ベースのエージェントを置き、適応的に学習を行う手法

要約連合学習(Federated Learning)は、生データを共有せずに分散したクライアントで協調してモデルを学習する仕組みです。本論文は、クライアント側とサーバー側に軽量な規則ベースの自律エージェントを組み込んだ AFL(Agentic Federated Learning)フレームワークを提案します。クライアント側エージェントは局所学習パラメータの動的調整、参加の制御、更新の信頼性評価を行い、サーバー側エージェントは品質を考慮したクライアント選択と適応的集約を行います。CIFAR-10 での実験では、IID、非 IID、ノイズのあるクライアントの各設定で、FedAvg や FedProx などの基準手法を上回る結果が示されています。

Deepthy K. Bhaskar, VP Binu, B Minimol

arXiv eess.SP · cs.LG

Hierarchical Clustering and Signal Denoising on Digraphs

説明有向グラフにおける階層的クラスタリングと信号ノイズ除去

要約本論文は、有向グラフを隣接行列から導出されるエルミート行列として表現し、グラフの連結性と辺の向きの両方を捉えます。そのスペクトル分解に基づき、k-meansを用いた有向グラフのクラスタリング手法を提案し、再帰的に適用して階層的な入れ子状の分割を得ます。さらに、各クラスタの入次数と出次数から多重レベルのスプライン準補間を構成し、ノイズを含むグラフ信号の除去を行います。実験では、クラスタリングと信号復元の両面で有効性が示されています。

Yi Wang, Sippanon Kitimoon, Hrushikesh N. Mhaskar ほか

arXiv stat.ML · cs.LG

Two-Timescale Fine-tuning Provably Learns New Features for Two-Layer ReLU Networks

説明二時間スケール微調整は二層ReLUネットワークで新しい特徴を学習できることを証明

要約本論文は、事前学習済みの重みから出発する微調整を理論的に検討しています。ガウス多重指標の設定を用い、教師ネットワークは m+1 個の特徴を持ち、そのうち m 個は事前学習で、残り 1 個は微調整で学習すべきものとしています。二層ReLUネットワークでは、外側の重みを隠れ層よりも無限に速く更新する二時間スケール学習により、事前学習の特徴を保ちつつ新しいタスク固有の特徴を学習できることを示しています。必要な微調整サンプル数はO(d)で、事前学習の特徴数には依存しません。一方、ランダム初期化では同数のサンプルでは目標パラメータを復元できません。

Etienne Boursier, Nicolas Flammarion

arXiv cs.RO · cs.LG

On the Numerical Reliability of Differentiable Physics-Based Optimization for Robotic Material Manipulation

説明ロボットの材料操作における微分可能物理ベース最適化の数値的信頼性に関する研究

要約本論文は、微分可能物理(物質点法MPMによる弾塑性・粒状材料の操作シミュレーション)から得られる勾配の数値的信頼性を検討しています。GPU上の多対一総和の順序が長期的な勾配に影響し、あるパラメータの勾配の符号が反転する場合があること、長い軌道では有限差分による検証の信頼性が低下することを示しています。また、観測と損失関数の定義が最適化の挙動や結果に影響するとしています。再現可能な累積計算、摂動による損失変化と繰り返し実行のばらつきの比較、目的関数構成の明示的な報告を提案しています。

Xintong Yang, Minglun Wei, Yu-Kun Lai ほか

★★★★☆ 注目
arXiv cs.SE · cs.AI コードあり

Codoku: Renewable Program-Reasoning Challenges for Frontier Coding Agents

説明Codoku:最先端のコーディングエージェント向けに更新可能なプログラム推論課題ベンチマーク

要約本論文はCodoku(コード数独)というベンチマークを提案します。解答者は部分的なプログラム中の型付きの空欄を埋め、指定された制御フローグラフや実行経路などの大域的な静的・動的制約を満たす必要があります。部分プログラムは実行できず有効な埋め方も疎であるため、ツール利用や列挙では推論の代わりにはなりません。問題は意味的具体化によりゼロから生成され、解けることが保証されます。300問で5つの最先端モデルを評価したところ、大きな問題では商用モデルでも約半数しか解けませんでした。

注目点プログラム推論の更新可能なベンチマークを提案し、意味的リファイケーションで可解な謎を新規生成する点が新しい。5つの最先端モデルで300問を評価したが、規模と比較は限定的。

Cong Li, Hao Sun, Zenan Li ほか

arXiv cs.CL

Rewarding Novel Deductions: Solver-guided Process Supervision for Logical Reasoning

説明新規な推論を報酬化:ソルバー誘導型プロセス監督による論理推論

要約本論文はSPRINGという手法を提案し、SMTソルバーを学習時の検証器として用い、大規模言語モデルの中間推論ステップを評価する。論理的に有効で推論状態と矛盾せず、既存の推論から既に導けないステップを報酬化し、矛盾や情報のないステップは罰する。ZebraLogic、AR-LSAT、Knights and Knavesの3つのベンチマークと4つのモデルで、基本モデル、結果のみの報酬基準、Logic-LMを上回る結果が示された。

Muhammad Asif Ali, Wenqing Wang, Huan Wang ほか

arXiv cs.CV

CapField-OPD: Learning Continuous Capability Fields via Joint-Anchored Multi-Teacher On-Policy Distillation for Flow Models

説明CapField-OPD:フローモデル向けに、連続的な能力場をジョイント・アンカー付きマルチ教師のオンポリシー蒸留で学習する手法

要約本論文は、異なる能力に特化して学習された複数の教師モデルを、単一の生徒モデルに統合するCapField-OPDという枠組みを提案しています。明示的な能力座標を通じて連続的な能力場を構築するため、能力の呼び出しがプロンプトの意味カテゴリに依存しなくなり、推論時に能力の強さを連続的に調整できます。組み合わせ生成、テキスト描画、視覚美学のタスクで評価が行われています。

Pengyang Ling, Jiazi Bu, Yujie Zhou ほか

arXiv cs.LG · cs.GT

Minimax Last-Iterate Convergence in Matrix Games with Observed Actions

説明相手の行動が観測できる行列ゲームにおけるミニマックス最終反復収束

要約本論文は、利得がバンディット型フィードバックで与えられ、相手の行動は観測できる二人零和行列ゲームにおける最終反復の収束を扱います。各プレイヤーの行動数 d に対し、各ラウンド t で高確率に Õ(√(d/t)) の双対ギャップを達成するアルゴリズムを提案しています。これは既知の最良結果より次元依存性が d^{3/2} 倍改善されており、バンディット下界と一致します。計算量は各ラウンド O(d) の時間と記憶領域です。

Yuheng Zhang

★★★★★ 注目
arXiv cs.AI · q-bio.QM

A General Harness for Protein Foundation Model Fitness Prediction

説明タンパク質基盤モデルの適合度予測のための汎用ハーネス

要約本論文は、モデルに依存せず学習を必要としない検索拡張型変異ハーネス「VenusREM-Harness(VRH)」を提案し、タンパク質基盤モデルの適合度予測を改善する。凍結モデルのスコアと多重配列アライメント(MSA)の根拠を、モデルの不確実性に応じて統合し、構造の信頼度と溶媒露出度に基づいて背景補正とスコア縮小を行う。1,211のアッセイと310万変異体からなる3つのベンチマークで、全71構成のSpearman相関が平均0.073向上した。VRHを用いて構築されたVenusREM2は、ProteinGymの平均Spearman相関が0.556である。

注目点モデル非依存・学習不要の検索強化型変異フレームワークを提案し、MSAと構造信頼度を統合。1211実験・310万変異で平均Spearman向上0.073を示し影響は広い。

Yang Tan, Qijia Tian, Gangyu Sun ほか

arXiv cs.AI · cs.LG

OmniTide: Co-Designing Algorithms and Systems for Efficient On-Device Omni-LLM Streaming

説明OmniTide:エッジ端末向けOmni-LLMストリーミング推論のためのアルゴリズムとシステムの共同設計

要約本論文は、端末上で全モダリティを扱うストリーミング推論において、多モーダルデータの継続的な流入によりKVキャッシュが単調に増大し、メモリと計算資源が枯渇する問題を扱います。提案手法OmniTideは、アルゴリズム側のOmniPickで単位境界とモダリティの重要度に基づき重要な文脈を保持し、システム側のOmniPageでキャッシュを保持確率に応じて分割し、残ったスパーストークンを動的に圧縮します。3つのストリーミングベンチマークと2種類の消費者向けデバイスでの評価では、カーネルが最大12.72倍、ストリームループの遅延が2.40倍改善したと報告されています。

Zongshang Shen, Wangsong Yin, Daliang Xu ほか

arXiv cs.CV コードあり

Revitalizing Medical Time Series with Vision-Informed Retrieval: A Vision-Language Perspective

説明視覚情報による検索で医療時系列データを活性化する:視覚言語の視点

要約医療時系列データは多くの臨床分類タスクの基盤ですが、既存手法は多くが数値列として扱い、波形図で直接確認できる形態情報を十分に活用していません。本論文は、凍結した視覚言語モデル由来の波形表現を形態認識クエリとして用い、生の数値特徴から関連情報を検索する手法ViReを提案します。6つの公開ベンチマークで、従来の最先端手法に対し全体で6.42%の相対的改善を示し、10の既存ベースラインを上回りました。コードはGitHubで公開されています。

Guoqi Yu, Juncheng Wang, Shujun Wang

arXiv cs.CV

DirectUV: Image-Conditioned UV Texture Generation with Surface-Aware Positional Encoding

説明DirectUV:画像条件付き・表面認識型位置符号化による UV テクスチャ生成手法

要約本論文は DirectUV を提案し、事前学習済み画像 VAE の潜在 UV 空間で Diffusion Transformer を用いて、単一の入力画像と粗い UV マップから三次元メッシュの UV テクスチャを生成します。中核の表面認識型位置符号化(SAPE、Surface-Aware Positional Encoding)は、二次元グリッドの位置符号化の代わりに、UV と表面の対応から得た三次元表面座標に基づく符号化を用います。これにより注意機構は三次元位置の近さに従って相互作用し、継ぎ目や不連続な UV アイランド間の一貫性が回復するとされています。実験では、他の基準手法より鮮明で全体的に一貫したテクスチャが得られ、特に遮蔽された領域や未見の視点の領域で改善が大きいと報告されています。

Jiantao Lin, Yingjie Xu, Mingzhi Sheng ほか

arXiv cs.LG · cs.CL

When Can Attention Heads Be Statically Defined?

説明どのアテンションヘッドを静的に定義できるか?

要約本論文は、一部のアテンションヘッドが入力によらず類似のパターンを学習する現象を調べ、その再利用による訓練コスト削減を検討しています。提案手法の選択的アテンション凍結(SAF)は、注意パターンの分散が小さいヘッドを選び、訓練途中でsoftmax後の平均値で重みを置き換えます。報告によると、アテンションヘッドの25%を置き換えた124Mモデル(コンテキスト4K)では、更新が1.056倍速くなり、パープレキシティは0.77%上昇しました。

Weixian Waylon Li, Yintao Tai, Marcio Fonseca ほか

arXiv cs.AI

Beyond Skill Evolution: Self-Evolving Context Management Policies for Long-Horizon Agent Harnesses

説明スキル進化を超えて:長期タスク向けエージェントハーネスの自己進化型コンテキスト管理ポリシー

要約本論文はContextEvo(コンテキストエヴォ)というフレームワークを提案します。長期タスクの実行履歴から、重要な判断時点でモデルに見えるコンテキストを再構築し、コンテキストに起因する失敗を特定して、ポリシーを的を絞って更新します。オープンソースのPi-agentハーネスを基に、3つの長期タスクのベンチマークで性能向上を示し、Codex、OpenCode、OpenClawなどの代表的なエージェントハーネスと同等かそれ以上の結果を報告しています。

Weiyuan Li, Jinghan Xu, Aili Chen ほか

arXiv cs.SD · cs.AI コードあり

SEmoEdit: Probing and Harnessing the Editability of Pre-trained Speech Flows

説明SEmoEdit:事前学習済み音声フローの編集可能性を調べ活用する

要約本論文は、大規模テキスト音声合成(TTS)モデルの事前学習済み生成動態を、学習なしで感情編集に直接利用できるかを検討します。管制されたテストセットを構築し、生成軌道に沿った編集効果を分析しています。さらに、感情の置換・消去・連続補間を、学習や パラメータ更新なしに行うSEmoEditを提案し、600件の編集事例からなるSEmoEditBenchで既存手法より優れた結果を示しています。

Tianxin Xie, Pengfei Zhang, Kai Jiang ほか

arXiv cs.SE · cs.AI

UNBIND: UNlearning By INference-time Directional Steering for Code LLMs

説明UNBIND:コードLLM向け推論時方向性ステアリングによる選択的アンラーニング手法

要約本論文は、コード生成大規模言語モデルが特定の実装を再現しないよう、推論時に選択的に忘却させるフレームワーク UNBIND を提案しています。モデルの重みは固定したまま、対象コードに対応する隠れ状態と、その再現を抑える方向をそれぞれ別々に構築します。評価では、F-BLEU で測定した対象コードの再現が 97.3% から 99.1% 減少し、プログラミング能力への影響は小さいと報告されています。

Zhengyang Shan, Jiayun Xin, Yanjun Lin ほか

arXiv cs.DC · cs.AI

Nereus: Adaptive Parallelism for LLM Post-Training

説明Nereus:大規模言語モデルの事後学習向け適応型並列化システム

要約Nereus は、強化学習による大規模言語モデル(LLM)の事後学習を実行中に最適化するランタイムです。資源や系列長の変化に応じて、GPU クラスタ上の複数モデルの実行計画を切り替えるかどうかをコストモデルで判断します。原文によると、実データに基づくトレースでは初期の固定 TP/PP 配置に比べ平均ステップ遅延が 27.7% 減少し、8B PPO のエンドツーエンドのスループットは OpenRLHF に対して 2.14〜7.27 倍、Verl に対して 1.10〜1.47 倍になりました。

Songlin Jiang, Tuo Shi, Sitong Zhang ほか

★★★★☆ 注目
arXiv cs.LG

Universal Dynamic Portfolios

説明ユニバーサル動的ポートフォリオ:変化する比較列に追従するオンライン資産配分法

要約本論文はCoverのユニバーサルポートフォリオ(1991)を任意の比較列に対して競争できるよう動的設定へ拡張する。動的設定では対数損失の指数凹性による高速化の利点が一般に失われ、√(T·P_T)型の依存が避けられないことを示す。そこで空間構造を捉えるJensen-Shannon距離と時間構造を捉えるJS^q経路長を導入し、パラメータフリーの手法UDPを提案する。さらに有界勾配の仮定下では、OPSがT^{1/3}P_T^{2/3}の動的後悔率を達成する。

注目点Coverの普遍ポートフォリオを動的後悔へ拡張し構造認識指標と新アルゴリズムを提案;理論的改善は明確だが実験は限定的。

Yu-Jie Zhang, Yu-Xiang Wang, Peng Zhao ほか

arXiv cs.LG

Tilted Schrödinger Bridge Matching

説明傾斜シュレーディンガー橋マッチング:学習済みブリッジに報酬による傾斜をかけて事後学習し、人間の好みや物理制約に合わせる手法

要約シュレーディンガー橋は、対応のないドメイン変換のためのエントロピー正則化された枠組みを提供します。本論文では、ソース分布を保ったまま、学習済みブリッジを報酬で傾けた目標分布へ微調整するTilted Schrödinger Bridge Matching(TSBM)を提案します。随伴マッチングに基づく交互最適化アルゴリズムを導出し、MNISTの数字属性とCelebAの顔属性を対象とした画像変換で評価しています。

Sergei Kholkin, Evgeny Burnaev, Alexander Korotin

★★★★☆ 注目
arXiv cs.CV

Backdoor as Probe: Test-Time Adversarial Defense for CLIP

説明バックドアをプローブとして使う:CLIP向けテスト時敵対的防御

要約本論文は、CLIPなどの視覚言語モデルを再学習なしで守るテスト時の敵対的防御手法BaPを提案します。あるMLP層を閉形式で編集し、クリーン入力には弱く、敵対的入力には強く反応する防御者制御のバックドア型プローブを埋め込んで敵対的入力を検出し、検出された入力には小さな摂動を最適化して補正します。16のベンチマークで平均ロバスト精度が1.0%から52.3%に向上し、クリーン精度は維持されたと報告されています。推論は最大5.7倍高速化されています。

注目点バックドア機構を敵対的検出プローブとして再利用し、閉形式のモデル編集で実装。16ベンチマークで頑健精度を1.0%から52.3%に向上させ、証拠は比較的充実。

Zhongqi Wang, Jie Zhang, Nie Sen ほか

★★★★☆ 注目
arXiv cs.LG · stat.ML

Uniform Race: Parameter-Free Approximate Rejection Sampling

説明一様レース:パラメータ不要の近似棄却サンプリング

要約本論文は、提案分布からの独立サンプルの中から、目標分布に近い分布を持つ一つを選ぶ近似サンプリング問題を扱います。閾値パラメータを必要としないアルゴリズム「一様レース(UR)」を提案し、重要度重みを独立な一様乱数で割ったスコアが最大の候補を返します。理論的には各予算で既知の最良の棄却サンプリングの誤差上界を満たし、LLMの数学推論タスクでも競争力のある結果を示したとされています。

注目点閾値パラメータを必要としない一様レース法を提案し、全閾値で最良の近似棄却サンプリング誤差上界を同時達成、指数的改善の例も示す。理論とLLM実験で裏付ける。

Seiyun Shin, Juhyeong Pang, Kwang-Sung Jun

arXiv stat.ML · cs.IT · cs.LG

Memory Prediction Excess: A Probabilistic Quantity for Predictive Gain and Memory Length in Stochastic Processes

説明記憶予測超過量:確率過程における予測利得と必要な記憶長を測る確率的指標

要約本論文は、離散時間の有限状態確率過程において、全観測履歴を用いた場合と静的周辺分布のみを用いた場合との平均的な予測精度の向上を定量化する記憶予測超過量(MPE)を提案する。MPEは非負であり上界を持つこと、正規化版や有限履歴版(FH-MPE)を定義すること、完全履歴と同等の性能に必要な最小記憶長を扱うことを示している。有限次マルコフ連鎖では、その最小記憶長がマルコフ次数で抑えられることを示す。

Jiahao Jiang

arXiv cs.LG コードあり

Correction-space Cross-variate Interaction for Test-time Adaptation in Time Series Forecasting

説明時系列予測のテスト時適応における補正空間での変数間相互作用

要約本論文は、時系列予測における分布シフトに対し、推論時に適応するCoRe(Correction-space Interaction Refinement)を提案する。予測値ではなく、バックボーン出力を補正するアダプタの補正量の空間で変数間の相互作用を行うことで、誤差が変数間に直接伝播することを避ける。共有アンカーによる補正精緻化(SCR)と入力条件付きのスペクトルゲーティングを用いる。七つのバックボーン、六つのデータセット、四つの予測期間での実験で、MSEがバックボーン平均で25.82%、最先端のTSF-TTA手法比で10.57%低減したと報告されている。

Yuanyuan Deng, Mykola Pechenizkiy, Songgaojun Deng

arXiv cs.AI

MechReasoner: A Simulator and Benchmark for Mechanistic Reasoning in Qualitative Physics

説明MechReasoner:定性物理における機構推論のシミュレータとベンチマーク

要約本論文は、合流ベースの定性物理に基づく機構的定性シミュレータ MechReasoner と、機構推論のためのベンチマークを提案している。ベンチマークは 18 種類の機構と 6 つのタスク群にまたがる 1,120 項目を、決定論的な手順で生成する。GPT-5.5 の正答率は、機構の複雑さが最も低い区分(B1)の 76.1% から、最も高い区分(B4)の 38.0% まで低下し、プロンプトと正解の長さを統制した後も負の関連が残るとされている。

Danilo Gusicuma, Andr\'e Freitas

★★★★☆ 注目
arXiv cs.AI

A Persistent State for Auditable Mixture-of-Experts Routing

説明監査可能なMoEルーティングのための永続状態

要約疎なエキスパート混合(MoE)モデルは、トークンを一部のエキスパートへ繰り返しルーティングしますが、従来のルーターは層をまたぐ影響の蓄積を記録しません。本論文は、エキスパートには見えない低次元の永続状態を各ルーターに与えるSA-MoEを提案します。層ごとの学習された書き込みがこの状態を更新し、その更新差分がルーティング差分への寄与を正確に分解して、ルーティング台帳を形成します。SmolLM2とGemmaを基にした実験では、前向き計算の追加は1%未満でした。

注目点精密な台帳を持つ永続ルーティング状態を提案し、2系統のモデルと3つの乱数種で実際の利用を検証しており、証拠は比較的十分である。

Abdurrahman Javat, Allan Kazakov

arXiv cs.CV · cs.AI · cs.CL

Do Motion Tokenizers for Co-Speech Gesture Generation Encode Gesture Semantics?

説明共同音声ジェスチャー生成のモーショントークナイザーはジェスチャーの意味を符号化しているか?

要約本論文は、共同音声ジェスチャー生成に用いられる離散モーショントークナイザー(コードブック)が、ジェスチャーの意味に関わる動きの性質を保持しているかを調べています。再構成目的で学習させたコードブックに対し、生の動きから抽象的なコミュニケーション機能までの19種類のジェスチャー記述子で検証を行いました。その結果、形状と利き手はトークン埋め込みから比較的容易に読み取れる一方、動作カテゴリは離散コードの使われ方に系統的な差が見られるものの、読み取りはわずかにとどまりました。再構成の質だけでは手話的な意味が捉えられるとは限らず、こうした評価は、より意味を捉えるトークナイザーの設計に役立つことが示唆されています。

Varsha Suresh, Divij Jain, Jia Liu ほか

arXiv cs.LG

GenMem: Generative Symbolic Memory for Self-Evolving Harness

説明GenMem:自己進化ハーネスのための生成的シンボリックメモリ

要約本論文は、LLMエージェントの長期記憶管理を生成的シンボリックアドレッシングとして再定式化するGenMemを提案する。少数の離散記号からなる符号化された記号識別子(SID)を記憶のアドレスとして用い、記憶の進化時にはアドレスを変えずに固定アドレス上の内容のみを書き換える。検索器と進化器を組み合わせ、GRPOで訓練する。ALFWorld、WebShop、多段階QA、医療推論、深層リサーチなどで、強力な記憶拡張ベースラインと比較した実験を行っている。

Xinke Jiang, Tao Feng, Weixuan Xu ほか

arXiv cs.CV

Long Time No See: Benchmarking VLMs for Out-of-Sight Spatiotemporal Reasoning in Egocentric Videos

説明『Long Time No See』:一人称視点動画における視界外の時空間推論を評価するVLMベンチマーク

要約本論文は、視界から外れた物体の状態を推論できるかを検証するベンチマーク「Beyond3D」を提案している。移動後に視界外へ去った物体を対象とする9,000問を、135本の動画から作成した。評価では最良モデルの正答率が42.2%で、ランダム推測の29.7%は上回ったものの、依然として低い水準にとどまった。特に物体が最後に見えた時点の特定で誤りが多かった。

Fangzhou Ma, Ivo Alexander Ban, Eren Homburg ほか

arXiv cs.LG · math.DS

DisKO: Deep Koopman Learning in Distribution Space from Unpaired Snapshots

説明DisKO:対応のないスナップショットから分布空間で行う深層クープマン学習

要約多くの複雑なシステムは、時間的に対応づけられていない分布のスナップショットとしてしか観測できず、追加の仮定がないと軌跡に基づく動力学学習は困難です。本論文は分布そのものを動的状態とみなし、分布空間で直接問題を定式化します。提案手法DisKOは、深層クープマン学習を分布動力学へ拡張し、予測的な分布観測量、有限次元のクープマン表現、完全な分布へ戻す生成写像を同時に学習します。7つのベンチマークで最先端の外挿性能を示し、解析的スペクトルを持つ系では主要なクープマン固有値と固有関数を復元したとされています。

He Ma, Xiaochen Liu, Wanfeng Lu ほか

arXiv cs.SE · cs.LG

CLAD: Constrained Abstract Domain for Neural Network Verification

説明CLAD:ニューラルネットワーク検証のための制約付き抽象ドメイン

要約ニューラルネットワーク検証(NNV)は、定められた入力領域内のすべての入力に対して、ネットワークが指定の性質を満たすことを形式的に確認する手法です。既存の抽象ドメインは入力領域をLpノルム球のみで表現するため、追加の制約を持つ実用的な領域では過剰近似が大きくなり、検証に失敗したり偽の反例が生じたりします。本論文は凸制約を扱う抽象ドメインCLADを提案し、ラグランジュ乗数で制約を目的関数に組み込み、射影型の原始・双対法で解きます。1,944件の評価では、無制約のLinf性質ではGCPCROWNと同程度の検証数、制約付き性質では全体で22%多く検証できたと報告されています。

Hai Duong, Thanh Le, ThanhVu Nguyen

arXiv cs.LG

Evaluating Dynamical Fidelity through Predictive Structure in Physical Representations

説明物理表現における予測構造によるダイナミクス忠実度の評価:学習済み物理モデルが参照軌道の動力学を再現しているかを検証する枠組み

要約本論文は、物理系の機械学習モデルのダイナミクス忠実度を、物理表現空間における予測構造によって評価する枠組みを提案します。専門家が表現を定義し、参照軌道がどの関係が予測的であるかを決めて評価テストとして保持します。大気予報では、ERA5による惑星波活動と北半球環状モード(Northern Annular Mode)の変化を表現として用い、Pangu-Weather、GraphCast、FengWuを評価しました。各モデルは参照の予測構造から異なる逸脱を示しており、その逸脱は従来の予報誤差では捉えられないとしています。

Oskar Bohn Lassen, Joao Paulo de Souza Boger, Simon Driscoll ほか

arXiv cs.CV

BMND: Direct Poisson Denoising by N-Dimensional Block Matching and Collaborative Filtering

説明BMND:N次元ブロックマッチングと協調フィルタリングによるポアソンノイズの直接除去手法

要約本論文は、ブロックマッチングと協調フィルタリング(BM3DおよびBM4D)を任意次元に拡張したBMNDを提案します。分散安定化変換を用いず、ポアソンデータを直接処理し、信号依存のノイズ分散を協調フィルタリングと集約の過程で伝播させます。さらに任意オプションの質量保存により、重み付き重ね合わせ後も観測された総強度を維持します。一次元、二次元、三次元データでの実験では再構成品質の向上と、低カウント条件での強度損失の低減が示されました。学習を用いない手法で、オープンソースライブラリとして公開されています。

Christof Duhme, Lars Schiefelbein, Florian B\"uther ほか

arXiv cs.CV

Does Native 3D Texture Generation Necessarily Require 3D Assets for Training?

説明ネイティブ3Dテクスチャ生成の学習には必ず3Dアセットが必要か?

要約本論文はTex-Zeroを提案し、3Dアセットを使わずに原生3Dテクスチャ生成モデルを学習できるかを検討しています。著者らは、学習に重要なのは高品質で細粒度な色情報であり、幾何情報は人工的に構成できるとしています。2D画像を3D空間の平面として配置し、パッチ単位のランダム回転と集約で学習データを作成し、画像のみでVAEとDiTを学習しています。

Jiangshan Wang, Zeqiang Lai, Jiayi Guo ほか

arXiv cs.CV · cs.AI · cs.CL

Latent Multimodal Memory Reasoning

説明潜在多モーダルメモリ推論(LMMR):連続潜在空間で長期の多モーダル記憶を整理する神経記号フレームワーク

要約本論文は、長期の多モーダル記憶の整理を連続潜在空間に移す LMMR フレームワークを提案します。テキストの隠れ状態と画像パッチ特徴を共有のスパースオートエンコーダ概念空間に写像し、ターン単位の多モーダル記憶グラフを動的に構築します。グラフエンコーダが跨モーダルおよび時間的依存関係を集約し、その結果を生成バックボーンに連続的な残差として注入し、細部を保つためネイティブな視覚トークンも保持します。著者らは、Mem-Gallery の 9 タスクと MemEye の 12 設定で既存のベースラインを有意に上回ったと報告しています。

Cai Ke, Xinghao Chen, Yuanchen Bei ほか

arXiv cs.AI

LLMs for Executable Multi-Agent System Specification Generation

説明大規模言語モデルによる実行可能なマルチエージェントシステム仕様の自動生成

要約マルチエージェントシステム(MAS)の仕様は、エージェントや環境の行動の効果や時間的な現象を表す必要があり、実行時監視のために実行可能であることも求められます。形式言語の専門知識が必要な上、機械学習にはラベル付きデータが不足しがちです。本論文は、事前学習済みの大規模言語モデルを用いて自然言語記述からRun-Time Event Calculus(RTEC)の実行可能な仕様を生成する手法genRTECを提案します。著者らは、関連概念の短い自然言語記述のみから、階層的かつ循環的な依存関係を持つ仕様を構築できるとし、定性・定量の両面で評価を行い、推論効率を損なうことなく高い予測精度を示したと報告しています。

Andreas Kouvaras, Periklis Mantenoglou, Alexander Artikis

arXiv cs.LG

Learning Regional Snow Water Equivalent and Snow Height Variations from Sentinel-1 InSAR Acquisitions

説明Sentinel-1 InSARデータから地域の積雪水量と積雪深の変化を学習する研究

要約本研究は、XGBoost、U-Net、SegFormerの3種類の機械学習モデルを比較し、Sentinel-1 InSARデータを用いてイタリアアルプス地域の積雪水量(SWE)と積雪深(HS)の変化を推定しています。参照データにはIT-SNOW再解析データを使用しています。SegFormerが両方の対象で最も良い結果を示し、積雪深の平均絶対誤差は10.391 cm、積雪水量は27.113 mm w.e.でした。また、全ての特徴量を使えば誤差が最小になるとは限らないことも示されています。

Luca Barco, Lorenzo Innocenti, Bianca Bartoli ほか

arXiv stat.ML · cs.LG · math.PR

Probabilistic Geodesic Flow Matching on Location-Scale Families

説明位置尺度族上の確率的測地線フローマッチング:複雑な分布を捉える生成モデル手法

要約本論文は、フローマッチング(常微分方程式で確率経路を学習する生成モデリングの枠組み)を位置尺度族へ一般化し、重い裾や鋭いコントラストなど非一様なデータ構造に対応する手法を提案している。確率分布の多様体上の測地線として定義される新しい確率経路を導入し、これを確率的測地線フローマッチングと呼ぶ。著者らは、ユークリッド空間の最適輸送に基づく経路は確率空間では最適とは限らないと論じている。合成ベンチマークと様々な規模の科学データセットにおいて、既存の幾何学的生成モデルと比べて同等以上の性能を示したと報告している。

Zeyuan Yu, Zhi Chang, Shiwei Lan

arXiv cs.LG

Beyond Site Agreement: Re-estimation for Brain Network Generalization

説明サイト間一致を超えて:脳ネットワークの汎化のための再推定

要約本論文は安静時fMRIのクロスサイト汎化を扱い、全スキャンの機能的結合グラフでの一致だけでは、同一スキャン内で機能的結合を再推定した際に予測根拠が保たれるとは限らないと指摘する。著者らはスキャン内の再推定を用いてサイト間の位置合わせを導くフレームワークBRIOを提案する。ABIDE、REST-metaMDD、SRPBS、ABCDの4つの実データセットによるリーブワンサイトアウト実験では、BRIOが比較基準手法を上回り、精度で最大3.8%の相対改善を示した。

Yingxu Wang, Kunyu Zhang, Yanwu Yang3 ほか

arXiv cs.RO · cs.AI

Efficient World Action Model Inference with Adaptive Intermediate States

説明適応的中間状態による世界行動モデルの効率的な推論

要約世界行動モデル(WAM、World Action Model)は行動と環境ダイナミクスを共同でモデル化し、将来を見越した制御を可能にします。ただし、反復的な拡散・フローによる推論は大きなノイズ除去の遅延を伴います。本論文は、学習を必要としない枠組み WAMACHINE を提案し、制御ループの進行に合わせて推論状態を保持・適応させることで推論を高速化します。軌道再マッピング、観測再バインディング、残差再スケーリングの三要素から成ります。LIBERO と RoboTwin 2.0 で三つの代表的アーキテクチャを評価したところ、観測から行動までの遅延は 1.47〜3.05 倍、再計画ごとの GPU 推論時間は 2.23〜3.27 倍に短縮され、元の WAM のタスク成功率の 96.69〜99.54% を維持しました。

Zhinnan Liu, Haozhi Han, Ruge Zhang ほか

arXiv cs.CV

WorldAttention: An Efficient Attention Architecture for Interactive Video World Models

説明WorldAttention:対話型ビデオ世界モデルのための効率的なアテンション構造

要約本論文は、テキスト条件付きの対話型ビデオ世界モデル向けに WorldAttention を提案している。長時間生成で履歴文脈を保ちつつ、計算量とメモリ使用量を抑えることを目指す。手法は、ハイブリッド疎アテンション(HSA)と階層型 KV キャッシュ(HKV)から成り、専用カーネルで実装されている。VBench-Long と InterVBench での主体一貫性スコアは、それぞれ 0.9472 と 0.9668 と報告されている。

Zeyu Zhang, Jinyuan Mao, Dakai An ほか

arXiv cs.LG

PMOPD: Task Ordering, Cycling, and Parameter-Update Subspace Protection in Multi-Teacher On-Policy Distillation

説明PMOPD:多教師オンポリシー蒸留におけるタスク順序、循環、パラメータ更新部分空間の保護

要約多教師オンポリシー蒸留(MOPD)は、共有パラメータに複数の専門能力を統合する手法です。しかし、あるタスクの能力を向上させると別のタスクで獲得した能力が抑えられる問題があります。本研究では、タスクごとのパラメータ更新が低次元の部分空間に集中することを見出し、勾配と最適化更新を投影して干渉成分を除去するPMOPDを提案しています。コード、推論、数学の各タスクで評価したところ、Qwen2.5-7Bで平均2.54点、Llama-3.1-8Bで平均2.09点の向上が確認されました。

Youzhi Liu, Ruobing Zheng, Boyuan Tong ほか

arXiv cs.LG

Shaping Persistent Representations from Independent Interactions

説明独立した相互作用から持続的表現を形成する(SPRII):相互作用間の関係を弱い教師として用い、世界モデルに再利用可能な持続的文脈を学習させる手法

要約本論文は、同一システムの異なる軌跡が共有する持続的性質を、数値的な属性ラベルなしで弱い教師信号として用いる訓練原理SPRIIを提案しています。関連する相互作用の文脈を一致させるAlignと、一方の文脈で他方の将来を予測するCrossの2要素で構成されます。表現の形成、使用、タスク価値の3段階を区別して分析し、13の設定で評価した結果、基準手法と比べて下流タスク性能は平均10%超、持続的性質の読み出しは15%超の向上を報告しています。

Ji Dai, Quan Fang, Junyu Gao ほか

arXiv cs.AI · cs.CL · cs.SE

After the Fix: Transfer of Corrected Agent Experience

説明修正後の経験の転移:修復されたエージェント経験はどの程度役立つか

要約本論文は、失敗したエージェントの経験を修復した後、それが次のタスクに対してより良い記憶となるかを検討しています。ThinkingBoxとAPEXの約3,300回の実験で、修正済みの経験と独立した実行を比較しています。修正による向上は条件ごとに一貫せず、一部の差は修正記憶そのものの優位ではなく未修正時の性能低下に由来すると報告されています。

Yanfei Zhang, Xu Lin

arXiv cs.LG

When local gains fail to transfer: Frozen Earth-observation embeddings across wildfires

説明局所的な精度向上が他地域に移転しないとき:山火事における凍結型地球観測埋め込みの検証

要約本論文は、凍結された地球観測埋め込み(TESSERA、AlphaEarth)を、ESA WorldCoverやSentinel-2指数と比較して、山火事の焼失地の識別で評価しています。同一地域内では埋め込みがROC AUCで0.05〜0.13高いものの、別の地域へ移すとその優位性は失われます。同じ地域の過去の火災から翌年の火災を予測する場合は有効で、TESSERAはAUC 0.772を示したため、評価では未見の地域の結果を報告すべきだと著者は主張しています。

Philipp Stark, Alexandros Sopasakis, Ola Hall

arXiv cs.LG

The Low-Rank Structure of VLA Reinforcement Learning

説明VLA強化学習の低ランク構造:強化学習がロボット方策のパラメータをどう変えるかの分析

要約本論文は、視覚・言語・行動(VLA)モデルを強化学習で事後学習する際に、パラメータがどのように変化するかを調べたものです。複数のフローベースVLAモデルと四つのベンチマークで、強化学習による更新は低ランクで、行動エキスパート内の比較的小さなタイムステップモジュールに集中することが示されています。さらに、これらのモジュールのシフトベクトルの更新方向を用いると、追加の強化学習なしで方策を改善できることが報告されています。

Minjae Oh, Yoonah Park, Jongwon Lim ほか

arXiv cs.CV · cs.AI

Summarize Before Grounding: Query-Guided Chunk Condensation for Long-Video Temporal Grounding

説明「要約してから定位」:長尺動画の時間的グラウンディングのためのクエリ誘導型チャンク圧縮

要約本論文は、言語クエリに対応する動画区間を特定する長尺動画の時間的グラウンディングを扱う。提案手法SumGround(要約してからグラウンディング)は、動画をチャンクに分割し、クエリ誘導型の潜在要約で冗長な視覚トークンを圧縮し、関連性の高いチャンク要約を検索して選択する。著者らは、複数の下流データセットで従来の最先端手法を上回り、長尺動画で大きな改善が見られたと報告している。

Nanxing Hu, Xiaoyue Duan, Qiwei Yan ほか

arXiv cs.AR · cs.AI

One Distribution, Two Channels: Coverage-Calibrated KV Retention and Compensation

説明一つの分布、二つのチャネル:KVキャッシュのためのカバレッジ校正による保持と補償

要約本論文は、長文コンテキストのデコーディングにおけるKV(キー・バリュー)キャッシュのメモリと帯域幅の制約を扱います。クエリの有用性と対数行列式によるカバレッジを組み合わせたオフライン配分を、軽量なキャッシュ対応インデクサに蒸留し、同じ校準済み分布で保持するKV状態と、除去された注意質量の再配分による書き込みを制御します。RULERのベースラインに対し、90%圧縮時に最大3.78ポイント上回ったと報告されています。

Shuxin Liu, Qing Liu, Yi Du ほか

arXiv cs.CV

Temporal Modelling for Burn Scars on Sentinel-3

説明Sentinel-3による焼失域の時系列モデリング

要約本論文は、Sentinel-3 OLCI衛星画像を用いて、火災後の被害評価に必要な焼失域の迅速かつ正確な抽出手法を検討しています。コペルニクス緊急管理サービスによる2016年から2025年までの246件の山火事事例と、時間的に対応づけられたSentinel-3画像からなるデータセットを構築しました。3種類のバックボーン(U-Net、SegFormer、ConvNeXt-UPerNet)について、空間的モデルと時系列(ConvLSTM拡張)モデルを比較しています。時系列モデリングは火災前の画像を含めた場合にのみ分割精度が向上し、5バンドのサブセットは21バンドの完全構成と同等の性能を示しました。

Luca Barco, Edoardo Arnaudo, Andrea Bragagnolo ほか

arXiv cs.LG · stat.ML

Deep Weighted Bellman Residual Minimization for Q^* Estimation

説明深層重み付きベルマン残差最小化による Q* 推定

要約本論文は、オフライン強化学習における分布シフト、Q 値の過大評価、サンプル利用効率の低さといった課題に対し、専門家のデモンストレーションと行動データを密度比重み付けで統合する重み付きベルマン残差最小化の枠組みを提案しています。深層強化学習の理論解析で一般的に課される完全性の仮定にはよらない重み付けを採用しています。密度比推定の収束速度と、得られた深層 Q* 推定量の超過リスクの収束速度を示し、既存手法と比べて数値性能と方策の汎化で改善が見られたと報告しています。

Lican Kang, Jerry Zhijian Yang, Cheng Yuan ほか

★★★★☆ 注目
arXiv cs.AI

TULIP: Targeted LLM Unlearning at Layers Identified Per-input

説明TULIP:入力ごとに特定した層で行う大規模言語モデルの標的型アンラーニング

要約本論文は、大規模言語モデルの表現層アンラーニングにおいて、既存手法が忘却対象全体に一つの固定層しか適用しない点を問題視している。回答が形成される層は入力によって大きく異なるため、作者は入力ごとにlogit lensで形成と読み出しの境界層を特定し、その層で隠れ状態と忘却対象の回答の非埋め込みベクトルとの整合を取り除くTULIPを提案している。TOFU、PISTOL、WMDPの各ベンチマークで出力層・表現層の基準手法を上回り、言い換えと量子化の攻撃に対しても頑健だと報告されている。

注目点入力ごとに忘却層を特定する新しい着想を示し、ハイジャック実験で中間層での答え形成を明らかにし、複数ベンチマークで比較している。

Yejin Kim, William F. Shen, Seokwon Jung ほか

arXiv cs.CL · cs.LG

The Model Knows When to Stop: Training-Free Early Stopping for Long-Context Reading

説明モデルはいつ読むのをやめるべきか知っている:学習不要の長文読解早期停止法

要約長い入力は通常チャンクごとに順次処理されますが、十分な根拠が得られた後も読み続けると計算が無駄になります。本論文は学習を必要としない Answer-Convergence Stopping(ACS)を提案します。各チャンクの後で凍結されたモデルの現在の回答状態を調べ、それが確信度と安定性を備えたときに停止します。必要なのは出力側の生成とトークンの対数確率のみです。LongBench-v2 では、ACS が全文読解の精度に一致またはそれを上回った唯一の停止方策でした。S-NIAH の250問では、ACS の早すぎる停止率は0%から12%で、口頭で尋ねる方式のゲートでは8.4%から45.6%でした。

Muath Alyobi, Mohamed Eltahir, Almoayyad Abuljdail ほか

arXiv cs.CV · cs.AI

Reinforcement Learning from Intermediate Renders for Image-to-Code Generation

説明中間レンダリングを用いた強化学習による画像からコードへの生成

要約本論文は、参照画像からSVGコードなどを生成する画像からコードへのタスクにおいて、最終レンダリング結果のみに基づく報酬では、個々のトークンとの対応が粗すぎるという問題を指摘しています。多くの中間コード接頭辞が実行可能で、目標に向かう部分的なレンダリングを生成できるという観察から、中間レンダリング間の変化を局所的なフィードバックに変換するトークン単位の報酬を持つ強化学習フレームワーク(IR4RL)を提案しています。Image-to-SVGとImage-to-TikZの両タスクで評価した結果、教師ありファインチューニングや標準のGRPOを上回ったと報告されています。

Omri Kaduri, Kate Feingold, Phillip Isola ほか

arXiv cs.DC · cs.LG

AgentWare: Automating the Lifecycle of Agentic Applications across the Edge-to-Cloud Continuum

説明AgentWare:エッジからクラウドまでの連続体におけるエージェント型アプリの全ライフサイクル自動化フレームワーク

要約本論文は、エッジからクラウドにまたがるインフラ上で、エージェント型アプリケーションの環境構築、デプロイ、可観測性、評価を自動化するAgenticOpsフレームワーク「AgentWare」を提案しています。LLM-as-a-Judgeによる意味的評価や、正確性・性能・リソース利用・消費電力を含む再現可能なレポートの生成もサポートします。分散型の図書アシスタントエージェントを実際のエッジ・クラウド環境に展開して検証し、手作業の負担を大幅に減らせることを示しています。

Michalis Kasioulis, Moysis Symeonides, George Pallis ほか

arXiv cs.LG

Compute Time Scaling with Recursive Models for Combinatorial Optimization

説明再帰モデルによる組合せ最適化の計算時間スケーリング

要約本論文は組合せ最適化のための小型再帰モデル(Tiny Recursive Models)を提案し、再帰の深さと並列サンプリングの幅の両方で計算を拡張する手法を示している。巡回セールスマン問題と最大独立集合問題において、解の質と推論速度のバランスを改善したと報告している。さらに、モデル自身のより良い解でラベルを置き換える自己再ラベリングによる自己教師あり学習も検討している。

Zhengxi Zhang, Paul Swoboda

arXiv cs.CL · cs.AI · cs.LG

In-game Toxic Detection: Bi-directional Representations with Attention Residuals

説明ゲーム内有害発言の検出:注意残差付き双方向表現モデル

要約本論文は、実際のゲーム内チャットデータを用いたゲーム内有害言語検出の共有タスクを提示します。チャット発言は非常に短く、ゲームスラングや略語、専門用語が多いため、汎用言語モデルでは認識が難しい点が課題です。著者らは有害言語のスロット埋め込みタスクで最良の性能を示したモデルBRAR(Bi-directional Representations with Attention Residuals)を提案し、グローバルな文脈を効果的に捉え、既存のベースラインを上回ると報告しています。

Yuanzhe Jia

arXiv cs.AI · cs.SD

SpeechCritic: Learning a Diagnostic Speech Judge from Limited Human Preferences

説明SpeechCritic:限られた人間の選好から学ぶ診断型音声ジャッジ

要約本論文は、約300件の人手による比較ラベルだけで学習する診断型音声ジャッジ SpeechCritic を提案する。2つの音声候補のどちらが良いか、どの知覚次元で異なるか、どの聴取可能な手がかりに基づくかを判定する。フロンティアの音声言語モデルを声響測定値で校正し、7B のジャッジを SFT、OPD、RL で学習させる。英日と英西の2言語対でも同じ手法が使えることを示している。

Mingyue Huo, Shivam Mehta, Bhavin Jawade ほか

arXiv cs.CV

Counterfactual Attention Policy Distillation for Temporal Video Grounding

説明反実仮想注意方策蒸留:動画の時間的グラウンディングのための学習手法

要約本論文は、長い動画で事象の時刻を特定する際の課題に対し、反実仮想注意方策蒸留(CAPD)という学習手法を提案している。各時間区間をマスクした際に教師モデルの出力分布がどう変化するかを測り、その影響度で蒸留を重み付けする。Qwen3-VL-8B-Instructを2,500サンプル・1エポックで学習し、TimeLensでは平均再現率がGRPOに比べ12.0%向上した。一般的な動画理解性能は保たれ、精度はベースモデルと同程度であった。

Shaobo Ju, Haiyang Yu, Xuecheng Wu ほか

arXiv cs.AI · cs.IR

Calibrated Uncertainty for Informative Path Planning in Aquatic Environmental Monitoring

説明水域環境モニタリング経路計画における較正済み不確実性:深層アンサンブルによる油流出場の再構成改善

要約本論文は、水域での油流出モニタリングにおいて、経路計画に必要な予測不確実性を得るため、ガウス過程の代わりに較正の良い深層アンサンブル(Deep Ensemble)を用いることの効果を検討しています。物理ベースの油流出シミュレーションで学習させ、五つの計画戦略を比較しました。深層アンサンブルは、ガウス過程の基準モデルに比べて正規化再構成誤差を83%削減しました。また、このモデルでは多段階先読み計画が貪欲選択を上回り、モンテカルロ木探索は再構成品質でOrienteeringと同等で、計算コストは約一桁低いと報告しています。

Samuel Yanes Luis, Alejandro Casado P\'erez, Alejandro Mendoza Barrionuevo ほか

arXiv cs.AI

Diffusion Subgoal Planning for Long-Horizon Offline Goal-Conditioned Reinforcement Learning

説明長期的タスクのオフライン目標条件付き強化学習のための拡散サブゴール計画(DSP):拡散モデルで中間サブゴールを生成し、エージェントの長期目標達成を導く手法。

要約オフライン目標条件付き強化学習は、長期的タスクでは報酬がまばらで割引があるため、目標条件付き価値関数による指針が不安定になりやすい。本論文は拡散サブゴール計画(DSP, Diffusion Subgoal Planning)を提案し、拡散モデルで上位レベルのサブゴールを生成する。条件付きフローと無条件フローを学習し、分類器なしガイダンスで推論時に目標志向のバイアスを加える。ナビゲーションや操作のベンチマークで既存手法を上回り、多段階のサブゴール計画が必要な迷路環境で特に高い性能を示したと報告している。

Hengrui Zhang, Yuhu Cheng, C. L. Philip Chen ほか

arXiv cs.AI · cs.CL · cs.LG

Nudgeability: Reasoning Models Follow Confidence Signals Without Tracking Their Own Competence

説明誘導可能性:推論モデルは自己の能力を追跡せず、自信のシグナルには従う

要約ツールを呼び出せる推論言語モデルが、推論の途中で自ら回答するか外部ツールに委ねるかを研究した論文です。同一の推論過程の固定位置に、自信または不安を示す一人称の文を挿入し、その後の選択を比較しました。モデルは全体として信号に敏感で、不安は委任を増やし、自信は減らしました。ただし反応の狙いは定まりにくく、誘導された変化のうち中央値で42%が適切な方向で、ランダム基準より2ポイント高いだけでした。

Rohit Saxena, Utkarsh Upadhyay

arXiv cs.AI

PersonaManifold: Revealing and Exploiting Curved Geometry in LLM Persona Representations

説明PersonaManifold:大規模言語モデルのペルソナ表現に潜む曲がった幾何構造の解明と活用

要約本論文は、大規模言語モデルの活性化空間でペルソナベクトルに対してユークリッド的な線形演算を行う既存手法に体系的な失敗があることを指摘します。著者らはPersonaManifoldを提案し、ペルソナ表現を活性化空間内の曲がった低次元リーマン部分多様体上の点としてモデル化し、直線ではなく測地線に沿って補間する「測地線ステアリング」を導入します。また、心理学的構成概念に基づく状況質問への行動応答で人物類似性を測るBSTベンチマークを提示します。3つのオープンソースモデルでの実験では、測地距離がユークリッド距離より行動類似性をよく予測し、測地線ステアリングは多様体が平坦から最も外れる領域で優位であることが示されました。

Rui Xu, Yinghui Xu, Libo Wu

arXiv cs.CV · cs.ET

Recent Advances in Agentic Agri-Robotic Phenotyping: A Perspective Review from Fragmented Multimodal Sensing to Unified PhenoAgent Intelligence

説明エージェント型農業ロボット表現型解析の最新動向:断片化したマルチモーダル感知から統合されたPhenoAgent知能へ

要約本論文は、植物の表現型解析が人手による形質測定から、高スループット、ロボット、AI駆動の作物モニタリングへと発展してきた過程を概観しています。現行のシステムは感知モダリティや作物形質などの面で依然として分断されていると指摘し、種子・土壌・植物・環境・管理を統合した知能の問題として捉え直しています。さらに、証拠に基づく作物状態の解釈と不確実性を考慮した推論を目指す概念的なPhenoAgentフレームワークを提案し、データセットの不足や汎化、説明可能性などの課題も論じています。

Muhammad Owais, Ehtesham Iqbal, Samee Ullah Khan ほか

arXiv cs.LG

Retracing Hodgkin and Huxley: State Recovery Does Not Certify Mechanism

説明Hodgkin-Huxley モデルをたどり直す:状態の復元は機構の証明にならない

要約本論文は、機械学習が Hodgkin-Huxley(HH)神経モデルの背後にある隠れ状態の推論を再現できるかを検討します。著者らはシミュレーションデータで構造化された潜在変数モデルを学習させ、ゲート変数の同定と軌道は学習と選択から除外しています。そのうえで応答予測、状態復元、プロトコル間の転移、HH 動力学との一致を検証し、予測精度だけでは機構の復元を示せず、状態と動力学は別々に評価すべきだと結論づけています。

Peiyu Zang, Jiayi Hao, Yongqiang Cai

arXiv cs.AI

FlowState: Execution State as Memory for Long-Horizon LLM Agents

説明FlowState:実行状態をメモリとして扱う長期タスク向けLLMエージェント

要約本論文は、エージェントの実行状態を保持・再参照可能なメモリとして扱うFlowStateを提案している。意味的に型付けされた状態ノード、それらの関係、生のツール観測結果への参照を記録し、増分状態更新と段階的状態アクセスによって必要な履歴情報を随時利用できるようにする。同じDeepSeek-V4-Flashモデルを用いた全文脈ベースラインと比べ、MemoryArenaの平均成功率は4.55ポイント、τ³-Benchの平均合格率は13.95ポイント向上し、総トークン消費量はそれぞれ43.2%、40.6%削減されたと報告している。

Minghao Li, Bangyan Li, Zifan Wang ほか

arXiv cs.CV

GLF-Q: Global-Local Feature-based Quantization for Vision Transformers

説明GLF-Q:ビジョントランスフォーマー向けのグローバル・ローカル特徴量子化手法

要約本論文は、再学習を必要としないビジョントランスフォーマー(ViT)の学習後量子化手法GLF-Qを提案します。大域・局所の特徴量アラインメントによってブロック再構成を導き、実行時オーバーヘッドのないHadamard変換で活性化値の外れ値を分散させます。原文によれば、3ビット画像分類において標準的な一様量子化器を用いて既存手法を大きく上回り、8ビットGPU展開では高速化も確認されています。

Peilin Sun, Guang Liang, Jin Tong ほか

arXiv cs.CV · cs.CL · cs.LG

Rethinking Latent Visual Reasoning: Grounding Latent Reasoning in Visual Evidence

説明潜在視覚推論の再考:潜在推論を視覚的根拠に結びつける

要約本論文は、マルチモーダル大規模言語モデルが連続的な潜在トークンで中間推論を行う潜在視覚推論(LVR)の問題を扱います。正解を変える画像の摂動に対して潜在トークンの反応が弱いという「潜在証拠の帰属ギャップ」を分析し、そのギャップを埋めるためにReaLVRを提案しています。ReaLVRは正解とモデルが生成した誤答、関連する視覚証拠と不一致の視覚証拠を対比し、監督を与えます。三つのモデル系列で基準手法を上回り、最大235Bのモデルまで有効性が示されています。

Xi Xiao, Tianchen Zhao, Youngeun Kim ほか

arXiv cs.LG

Single-Layer MeMo as a Randomized Hamming-Kernel Classifier

説明単層MeMoをランダム化ハミング核分類器として捉える

要約MeMoは、トークンの文脈と次のトークンの対応関係を相関行列メモリに格納する言語モデルの構造です。本研究では、その単層版の理想的な検索規則が、位置ハミング核に基づく多クラス分類器であることを示しています。入力と出力をガウス乱数符号で表現し、文脈のスケッチと出力の復号で生じる誤差を解析しました。制限付きのWikiText-2次トークン予測では、古典的な基準手法と比較し、予測精度・メモリ・処理速度の間で有用なトレードオフを得られるとしています。

Alessandro Straziota

arXiv cs.LG

Brain-Conditioned Action Policies for Neural Motor Decoding

説明脳信号を条件とする行動方策による神経運動デコーディング

要約本論文は、事前学習済みの視覚・言語・行動(VLA)モデルを言語を介した整合によって活用し、神経運動デコーディングを行うBrainVLAという枠組みを提案しています。対になった神経活動と行動のデータが少ない問題を、VLA方策の利用によって緩和することを目指しています。研究では、OpenVLA-OFT方策をLoRA微調整で対象の行動空間に適応させ、神経エンコーダを神経と言語の整合によって学習させています。2つの異なる行動次元のデータセットで評価され、セッション横断デコーディングのR²とタスク成功率で比較対象の手法を上回り、高い学習データ効率も示されています。

Luyao Jin, Running Zhao, Huan Zhao ほか

arXiv cs.CV

ACPruner: Visual Token Pruning as Biased Attention Coverage Maximization in LVLMs

説明ACPruner:大規模視覚言語モデルにおける視覚トークン削減を、バイアス付き注意の被覆最大化として捉える手法

要約大規模視覚言語モデル(LVLM)は視覚トークンが多いため計算効率が低下します。本論文は視覚トークンの削減を被覆の観点から見直し、バイアス付き注意の被覆最大化問題として定式化します。視覚エンコーダ内の注意によって画像全体を覆い、情報量の多い領域により高い優先度を与える、コンパクトなトークン部分集合を選択します。提案手法ACPruner は学習を必要としない枠組みで、モダリティ内の顕著性とモダリティ間の関連性から重要度を推定し、貪欲法で被覆目的を最大化します。複数のLVLMバックボーンでの実験により、性能を保ちつつ推論を大きく高速化できることが示されています。

Xu Li, Yuxuan Liang, Yi Zheng ほか

★★★★☆ 注目
arXiv cs.CL · cs.LG

RoPE is Dead, Long Live RoPE: Towards Scalable Data-aware Positional Encodings

説明「RoPE は死んだ、RoPE 万歳」:スケーラブルなデータ認識型位置エンコーディングに向けて

要約本論文は、主流の回転位置埋め込み(RoPE)が近くのトークンに偏っており、遅い周波数帯が学習時の文脈長を超えると、外挿時に未見の角度にモデルをさらすと指摘します。著者らはデータ認識型RoPE(DaRoPE)を提案し、速い帯域には標準のRoPEを保ち、遅い帯域では文脈表現から学習した有界座標を用います。合成タスク、記号音楽、ゲノミクス、神経信号、1.24億〜500億パラメータの言語モデルで比較し、非テキストのベンチマークで優れ、近時性バイアスを緩和したと報告しています。

注目点RoPEの低周波帯に文脈依存の座標を導入し長さ外挿を改善。124Mから50Bまでの多領域比較で証拠は充実しており影響範囲も広い。

Jarod L\'evy, Mathurin Videau, Jad Yehya ほか

arXiv cs.AI

SkillRubric: Co-Evolving Actor Guidance and Evaluator Rubrics for Multimodal Agents

説明SkillRubric:マルチモーダルエージェントのための行動指針と評価ルーブリックの共同進化

要約本論文は、各スキルに実行者向けの指針と評価者向けのルーブリックを対応させて設計するSkillRubricを提案している。マルチモーダル検証器がスクリーンショットとツール出力をもとに、関連するターンへ完了報酬と進捗報酬を与える。さらに、指針の改訂と評価基準の改訂を交互に行う共同進化の手法を導入し、多様なベンチマークで性能向上を報告している。

Bingqing Jiang, Guoxi Zhang, Jasper Wang ほか

arXiv cs.CV

Attention-Scoped Guidance: Training-Free Spatial Control for Image Editing

説明注意機構によるスコープ付きガイダンス:学習不要の画像編集用空間制御手法

要約本論文は、学習不要で外部マスクも追加のネットワーク評価も必要としない、サンプラーのラッパー手法Attention-Scoped Guidance(ASG)を提案しています。編集器がすでに計算している指示の注意機構から柔らかい支持マップを読み取り、支持が低い領域では文章ガイダンスを弱め、支持が高い領域では元画像への固定を強めます。MagicBrushとPIE-Bench++で、保存を重視する指標の多くが改善されたと報告されています。

Zeyan Li, Wei Zhou, Hadi Amirpour ほか

arXiv cs.LG

PulseInfer: I/O-Centric Sparse KV Cache Offloading for Efficient Long-Context LLM Decoding

説明PulseInfer:長文脈LLMデコードを効率化するI/O中心のスパースKVキャッシュオフロード

要約長文脈LLMの推論では、デコード段階で大きなKVキャッシュがバッチサイズを制限し、GPUの利用率を下げています。本論文はI/O中心のスパースKVキャッシュオフロードシステム「PulseInfer」を提案し、中断可能な層単位スケジューリング、適応的なオフロード受け入れ、断片化した転送の統合によりCPU-GPU間の呼び出しI/Oのボトルネックを緩和します。SGLang上で実装され、デコードスループットは最大4.7倍、TPOTは最大76%削減されたと報告され、精度はほぼ劣化しないとされています。

Qiuyang Zhang, Kai Zhou, Kai Lu ほか

arXiv cs.LG · cs.SE

Verifying Neural Networks with Reinforcement Learning

説明強化学習でニューラルネットワーク検証の分岐戦略を改善する研究

要約本論文は、ニューラルネットワークの形式検証で用いられる分岐戦略を強化学習で改善するRSBフレームワークを提案しています。即時のスコアではなく長期的な累積報酬を最大化するactor-critic構造を学習し、神経元の特徴とグラフ埋め込みから生成した注意重みで基準ヒューリスティックのスコアを調整します。600の難しい事例による評価では、既存の最先端の分岐ヒューリスティックを上回り、解決できた事例は11%増加、分岐探索は50%削減されたと報告されています。

Hai Duong, Thanh Le, ThanhVu Nguyen

arXiv cs.LG · math.OC

On Parameter Symmetries and Conservation Laws in Gradient Flow

説明勾配フローにおけるパラメータ対称性と保存則

要約本論文は、ニューラルネットワークのパラメータ空間における対称性と保存則の関係を、物理学のネーターの定理に着想を得て検討しています。著者らは両者の対応関係が成り立つ条件を明らかにする統一的な幾何学的枠組みを提示し、多層ネットワークにおける対称性と保存則の完全な特徴づけを導く合成的同定可能性の概念と継承原理を導入しています。この枠組みは、マルチヘッド注意機構とグループ化クエリ注意機構、多項式ニューラルネットワーク、正方形の深層線形ネットワークに適用されています。

Khang Nguyen, Guido Mont\'ufar

arXiv cs.AI

SGG-ReflAct: Sub-Goal Guided ReflAct with Structured Planning for Reliable Long-Horizon Reasoning

説明SGG-ReflAct:サブゴールで反省を導く構造化計画による長期推論の信頼性向上

要約本論文は、長い推論過程で中間の信念の不一致が生じ、大規模言語モデルエージェントが目標から逸れる問題に取り組みます。単一経路のLLMプランナーが生成したサブゴールを反省過程に組み込むSGG-ReflActと、ビーム探索で計画を探索するBeamSGG-ReflActを提案しています。ALFWorld、ScienceWorld、Jerichoでの実験では、ほぼすべての設定でREFLActを上回り、幻覚的な行動も減少しました。

Jaeho Jung, Sung Hoon Jung

★★★★☆ 注目
arXiv cs.CV · cs.AI · cs.CL コードあり

ActionLens: Diagnosing Spatial-Temporal Binding Failures in Vision-Language Models

説明ActionLens:視覚言語モデルの時空間結合の失敗を診断するベンチマーク

要約本論文は、動画対応の視覚言語モデルが「正しい人物の、正しい瞬間の、正しい行動」を結びつけられない問題を診断するベンチマーク ActionLens を提案しています。遷移検出、行為者の特定、同時行動の結合、有向的相互作用の推論、視線検出の5種類の診断を、6,701 問の多肢選択式動画問題で行います。正解は 158 万件の毎秒・人物別アノテーションから決定的に導出されています。20 モデルの評価では、人手レビュー済みサブセットで最上位モデルが 65.9%、人間は 91.0% でした。視線検出はほぼ偶然水準にとどまっています。

注目点時空間バインディングの失敗を細かく診断するベンチマークを提案し、毎秒・人物ごとの注釈で正解を定め、20モデルと対照実験で検証している。

Gueter Josmy Faure, Min-Hung Chen, Hao Ping Wang ほか

arXiv cs.AI

Remember Before You're Asked: MemDream for Self-Probing Memory Evolution

説明事前に自己検査する記憶進化フレームワーク MemDream:質問される前に記憶を点検・修復

要約論文は、LLMエージェントが長期的な対話の中で自らの記憶グラフを能動的に検査・修復する手法MemDreamを提案しています。従来は実際の検索失敗が起きてから修復していましたが、本手法は周期的なオフライン「夢」サイクルで、3つの専門エージェント(Dreamer、Analyst、Consolidator)が失敗前に記憶を探査・診断・修復します。修復操作の選択はGroup Relative Policy Optimizationで学習され、LoCoMoとMemoryAgentBenchで、最強の受動的進化ベースラインより答えのF1が4.5ポイント、MABの総合スコアが9.1ポイント向上したと報告されています。

Mingfei Lu, Mengjia Wu, Runsong Jia ほか