AI アルゴリズム · 2026年9月29日(火)

機械学習、人工知能、自然言語処理、コンピュータビジョン、マルチエージェント。

arXiv cs.AI

RankBuffer: Efficient Ranking-Based Rewards for Open-Ended Generation

説明RankBuffer:オープンエンド生成向けの効率的なランキング報酬手法

要約本論文は、オープンエンドな文章生成の強化学習における報酬設計手法 RankBuffer を提案します。クエリごとに評価済みの回答を順序付きバッファとして保持し、まず粗い判定で新しい回答を区間に挿入し、同じ区間内の回答だけを局所的に精密ランキングします。得られた順序を有界のランク報酬に変換します。4つのオープンエンドのベンチマークで、すべての逐点型ベースラインを上回り、最強のランキング型報酬ベースラインにほぼ匹敵する性能を、評価コストを大幅に抑えて達成しています。

Zixuan Yang, Yiqun Chen, Qi Liu ほか

arXiv cs.CV · cs.AI

FocusVTC: Efficient and High-Performance Visual Text Compression with Adaptive Resolution

説明FocusVTC:適応的解像度による効率的かつ高性能な視覚テキスト圧縮

要約本論文はFocusVTCを提案し、長文を画像として描画して大規模言語モデルの入力長を削減する手法を扱う。固定解像度では圧縮率と可読性が両立しにくい問題を、低解像度の全体ビューと選択的な領域強化を組み合わせて解決する。RULER、LongBenchなどのベンチマークで性能向上が示され、MMMUやMMEなど汎用マルチモーダル能力も維持されたと報告している。

FangZhi Zhong, Xuerui Qiu, Yuqi Pan ほか

arXiv cs.CV コードあり

VLM4Cluster: Benchmarking Deep Clustering In the Era of Vision-Language Pre-training

説明VLM4Cluster:視覚言語事前学習時代の深層クラスタリングのベンチマーク評価

要約本論文は、画像クラスタリングの総合ベンチマークVLM4Clusterを提案します。古典的、深層、言語支援の各手法を含む17の代表的手法を、古典的、困難、細粒度、大規模、分布外の各設定にわたる20のデータセットで評価しています。さらに、敵対的摂動への頑健性、分布シフト下の汎化性能、計算効率の三つの観点も検討しています。結果として、言語支援画像クラスタリング(LaIC)は意味的に難しいベンチマークで性能を大きく向上させ、分布シフト下での汎化性も高く、効率と効果のバランスにも優れる一方、大規模・細粒度データセットでは効果が一貫せず、言語支援が敵対的摂動への感度を体系的に下げるわけではないことが示されています。

Yuanwei Hu, Bo Peng, Yuheng Jia ほか

arXiv cs.RO · cs.AI

Where Predictive Supervision Goes Shapes What VLA Policies Learn

説明予測監督の向き先がVLAポリシーの学習内容を決める

要約本論文は、将来予測を用いて視覚・言語・行動(VLA)ポリシーを改善する際に、予測監督の形式がポリシーの視覚表現にどう影響するかを検討しています。対象構成・予測期間・学習条件を揃えた比較実験では、異なる予測インターフェースが大きく異なる予測結果と視覚表現を生むことが示されました。シーンに直接対応する将来監督で学習したポリシーは、シミュレーションと実機の分布シフト下で高い頑健性を示しました。

Hanseul Kim, Jewon Yeom, Youngjoon Jeong ほか

arXiv cs.CV

OCA: ODE-Driven Cross-Attention for Image-to-Point-Cloud Registration

説明OCA:常微分方程で駆動するクロスアテンションによる画像-点群位置合わせ

要約本論文は、学習ベースの画像-点群(I2P)位置合わせにおけるクロスアテンションの曖昧さという課題に取り組みます。常微分方程式(ODE)で理想的なI2P特徴相互作用をモデル化し、ODEによって特徴表現とアテンション行列を洗練させるODE駆動クロスアテンション(OCA)モジュールを提案しています。OCAは既存のI2P位置合わせフレームワークに組み込むことができ、5つの最新ベースラインと4つの公開データセットでの評価では、標準・微調整・ゼロショット設定でそれぞれ最大5%、9%、15%の再現率向上が示されています。

Pei An, Jiaqi Yang, Yulong Wang ほか

arXiv cs.LG コードあり

PR-OPD: Privileged Representation On-policy Self-Distillation for Agentic Reinforcement Learning

説明PR-OPD:エージェント強化学習のための特権表現オンポリシー自己蒸留手法

要約本論文は言語モデルエージェントの強化学習で、スキルを与えた特権自己蒸留を分析し、スキルが成功率を上げるのに一部トークン確率しか変えない現象と、80%超の応答トークンの隠れ状態を変える現象を指摘する。これを基に、GRPOのウォームスタート後に事後スキルを生成し、隠れ状態を教師と各層で整合させるPR-OPDを提案する。ALFWorldとWebShopの2つのバックボーンで、全設定において総合的に最良の結果を示し、ALFWorldの成功率はGRPOに比べ最大4.7ポイント向上した。

Muyang Li, Jie Yang, Zhengyu Fang ほか

★★★★☆ 注目
arXiv cs.LG · cs.AI コードあり

Inducing Process Supervision from Outcome-Only Reinforcement Learning

説明結果のみの強化学習からプロセス監督を誘導する(解説:ステップごとの注釈なしで、最終結果だけを使ってプロセス報酬モデルを学習する手法)

要約プロセス報酬モデルは大規模言語モデルの推論の各ステップにフィードバックを与えられるが、学習コストが高い。人手による手順ごとの注釈は拡張しにくく、モンテカルロ推定は計算負荷が大きい。本論文のTIPSは、モデルが思考連鎖とステップラベル、結果ラベルを生成し、報酬は結果が正解と一致するかどうかだけで決まる枠組みである。数学およびエージェントのベンチマークと4つのバックボーン系列で検証され、TIPS-Qwen3-4B-Thinking-2507はProcessBenchでF1 85.2を達成し、結果ラベル付き軌跡は3.2Kのみであった。

注目点結果のみの強化学習でプロセス監督を誘導する新しい発想だが、ProcessBenchでの85.2 F1など評価は数学とエージェント中心で範囲は限定的。

Shengda Fan, Xin Cong, Zhong Zhang ほか

arXiv cs.LG · cond-mat.mtrl-sci

A Digital Simulation Toolkit for Physics-Based Generation of Realistic Experimental Scanning Tunneling Microscopy Images

説明物理ベースで現実的な走査トンネル顕微鏡(STM)画像を生成するデジタルシミュレーションツールキット

要約走査トンネル顕微鏡(STM)は原子スケールで材料表面を観察する装置ですが、ノイズの影響を受けやすい手法です。本論文では、低コストで物理法則に基づく数値ツールキットを提案しています。まず清浄な画像をシミュレーションし、ガウス型電子ノイズ、1/fゆらぎノイズ、走査線ノイズ、背景の傾き、機械的ドリフトなどを加えて現実的なSTM画像を生成します。銅と鉛の(111)表面を例に、Cu(111)画像では教師あり学習モデルが教師なし手法より効果的にノイズ除去と電子波パターンの学習を行えることを示しています。

Huanhuan Zhao, Laxmi Bhurtel, Connor Vernachio ほか

arXiv cs.LG · cs.CV

PE-OPSD: Internalizing Prompt Enhancement into Flow-matching Models via On-Policy Self-Distillation

説明PE-OPSD:オンポリシー自己蒸留によりプロンプト強化をフローマッチングモデルに内在化する手法

要約テキストから画像を生成する際、ユーザーは簡潔で詳細の不足したプロンプトを入力することが多い。既存のプロンプト強化器(PE)は推論時に入力を書き換えるため遅延が増える。本論文のPE-OPSDでは、訓練時に生の入力を受け取る生徒モデルが自身の生成経路をたどり、強化プロンプトを使う教師モデルがその経路上の状態でベクトル場の目標を与える。推論時にはPEと教師を除き、生の入力から直接生成する。

Mingfeng Lin, Chengfei Cai, Lin Xu ほか

arXiv cs.LG · cs.IT · cs.MA

Bayes-Sufficient Compression Is Not Enough: How Does Communication Help Multi-Agent Systems?

説明ベイズ充足圧縮だけでは不十分:通信はマルチエージェントシステムをどう助けるか

要約本論文は、送信側が広い文脈を持ち、実行側が限られた局所的視点しか持たないマルチエージェントLLMシステムにおいて、短いメッセージがいつ実行側の次の判断を改善するか、いつ生の文脈をそのまま渡す方がよいか、いつより強い送信側が有効かを検討しています。提案する「受信側相対の有界協調」の枠組みに基づき、六つのベンチマークで評価を行い、同じプロトコルでも結果が大きく異なることを示しています。また、評価した通信条件において精度とコストの関係を改善する推論時セレクタを提案しています。

Yi Xie, Zhanke Zhou, Yi Fan ほか

arXiv cs.LG · cs.CL

What Makes Recurrence Effective in Looped Language Models?

説明ループ型言語モデルで再帰が効果を発揮する条件は何か

要約本論文は、パラメータ共有によって計算深度を増やし、パラメータ数を増やさずに推論計算量を拡張するループ型言語モデル(LoopLM)を、対照実験によって検証しています。再帰が有益になる場合、適用すべき箇所、その条件付けが性能に与える影響を分析しています。結果として、再帰は訓練範囲を超えた推論を改善する一方で知識タスクの性能を下げること、そして履歴状態注入とタイムステップ条件付けの組み合わせが低コストで効果的な設計になることが示されています。

Xinlin Zhuang, Siyuan Wang, Imran Razzak ほか

arXiv cs.SE · cs.AI

WitnessGym: Benchmarking Coding Agents on the Construction of Bug Witnesses

説明WitnessGym:バグ証拠(bug witness)を構築するコーディングエージェントのベンチマーク

要約本論文は、バグ検証ベンチマークを自動構築するフレームワークWitnessGymを提案します。実際のJavaプロジェクトのテストで到達するパスにバグを注入し、プロジェクトを再ビルドして、構築時の証拠で露出したケースを保持します。1,300件のベンチマークケースを構築し、注入パッチは過去のバグパッチに似ており、評価対象の2モデルは盲検比較でこれを見分けにくいとされています。四つのコーディングエージェントフレームワーク、計六組のフレームワーク/モデルの組み合わせを評価し、バグのパターンが分かっていても証拠の構築は依然として困難であることを示しています。

Haomin Qi, Xiangzhe Xu, Yiming Huang ほか

arXiv cs.LG

Physics-Aware Machine Unlearning for Cyber-Physical Systems

説明サイバーフィジカルシステム向け物理認識型機械学習アンラーニング

要約本論文は、忘却信号と対象のサイバーフィジカルシステムの物理残差を結合し、アンラーニング中の重み更新を物理的に実現可能な領域へ誘導する、物理ガイド付き勾配上昇型の機械アンラーニング手法を提案しています。IEEE 34母線配電系統を対象に、物理情報ニューラルネットワークベースの分散型エネルギー資源コントローラ2種を用いて評価し、OpenDSSによる潮流連成シミュレーションで検証しています。ナイーブな勾配上昇、厳密なアンラーニング、SISA、完全な再学習の4つのベースラインと比較しています。著者らは、本手法が汚染された挙動を除去すると同時に物理的適合性を回復すると報告しています。

Mohammad Zakaria Haider, Muhammad Nadeem, and Mohammad Ashiqur Rahman

arXiv cs.AI

Distilling Agentic Systems: A Roadmap across Models, Artifacts, and Harnesses

説明エージェント蒸留の整理:モデル・成果物・ハーネス間の知識移転に関するロードマップ

要約現代のエージェントは記憶、ツール、実行ロジックに依存を強めており、その能力はモデルのパラメータにとどまらない。本論文はエージェント蒸留を、教師エージェントから生徒エージェントへのタスク解決知識の持続的な移転と定義する。移転された知識がモデル内、成果物、実行ハーネス、あるいは基盤間のどこに保持されるかによって分野を整理し、知識の保持を因果的寄与と実運用上の有用性に結びつける評価枠組みを提示している。

Ziluowen Luo, Senzhang Wang, Chaozhuo Li ほか

arXiv cs.CV

Beyond Binary Preferences: Graded Preference Optimization for Limb-Motion Captioning

説明二値の選好を超えて:肢体動作キャプション向けの段階的選好最適化

要約視覚言語モデルは動画の説明文を生成できますが、カメラのカット跨ぎなどで、どの人物がどの肢体で動作しているかを誤認しがちです。本論文は、3,105ショットと18,161件の評価質問からなるベンチマークFlexBenchと、正しい内容に加点し誤りや捏造された動作を減点する段階的物理整合スコアGPAを提案します。さらに、より重大な動作誤りに大きな選好マージンと学習重みを与えるGM-DPOを提案し、三つのモデル基盤でGPAをDPOより2.02~3.40点向上させたと報告しています。

Yanan Wang, Tingsong Li, Kaixun Jiang ほか

arXiv cs.AI

Semantic Projection for Continual Self-Evolution of Language Agents

説明言語エージェントの継続的自己進化のための意味的射影手法

要約言語モデルエージェントは、固定されたモデルパラメータを超えて適応するために永続的な自然言語スキルに依存しています。しかし、タスクが変化し続ける中で共有スキルを繰り返し修正すると、新しいタスクの改善が以前のタスクに必要な手順を上書きしてしまうことがあります。本論文は、勾配射影の考え方をパラメータ空間から振る舞いの空間へ移す「意味範囲投影進化(SSPE)」を提案します。既存の能力への干渉を特定し、観測された改善と劣化に基づいて両立する修正を構成します。合成タスク列と実エージェントのベンチマークで、強力なベースラインに比べて最終的な跨領域の能力を高め、忘却を抑えることを示しています。

Ziyu Liu, Jun Chen, Lixu Wang

arXiv cs.AI

DualTrack: Synchronized speech-gesture generation via symmetric coupling of pretrained priors

説明DualTrack:事前学習済み事前分布の対称的結合による音声・ジェスチャーの同期生成

要約本論文は、事前学習済みの音声モデルと動作モデルを共有の12.5 Hz時間軸上で結合するDualTrackを提案し、音声とジェスチャーを同期して生成する手法を示しています。BEAT2の43録音による評価では、英語とスペイン語の入力において、評価対象のGELINAベースラインより単語誤り率と全身動作のFréchet Gesture Distanceが低く、拍の一貫性と音声の自然さが高いと報告されています。

Yuanzhuo Hu, Zehan Liu, Xiaoyi Qin ほか

arXiv cs.AI · q-bio.NC

Neural Structural Reasoner: A Brain-inspired Architecture for Reasoning over Structured Knowledge

説明神経構造推論器:構造化知識の推論のための脳にヒントを得たアーキテクチャ

要約本論文は、脳に着想を得たネットワーク「神経構造推論器(NSR,Neural Structural Reasoner)」を提案する。関係構造を結合された神経細胞集団の結線と動態の中に直接保持し、知識グラフ上のリンク予測を行う。標準的な知識グラフのベンチマークでは競争力のある精度を示すが、すべてのデータセットで首位ではない。報告された学習時間は、いくつかのニューラルベースラインより短い。推論は人が読める神経活性の系列として実装されるため、中間の推論ステップを追跡でき、潜在的な関係の階層や合成規則も抽出できるとされる。

Zixing Jia, Yuhang Pan, and Ni Ji

arXiv cs.LG

SemPSG: A Semantic Channel-Aware Foundation Model for Polysomnography Analysis

説明SemPSG:多導睡眠検査分析のための意味的チャネル認識型基盤モデル

要約多導睡眠検査(PSG)は複数の生理信号を統合して睡眠を包括的に把握しますが、施設ごとにチャネル構成が異なるため、転移可能な表現学習が難しい状況です。本論文は、信号の種類や参照構成に由来するチャネルの生理的意味を明示的に表現し、信号表現の学習と チャネル集約の両方に組み込むSemPSGを提案します。睡眠段階判定や睡眠時呼吸障害の分析、疾患予測、認知・感情認識、人口統計推定などのタスクで評価され、汎用の時系列基盤モデルやPSG専用の基盤モデルより優れた結果を示し、異なるデータセット間での汎化も確認されています。

Junyu Chen, Chenxi Liu, Shiqin Tang ほか

arXiv cs.CL

Generating Edit-Inducing Questions for AI Research Manuscripts

説明AI研究論文の原稿に対して修正を促す質問を生成する研究

要約本論文は、大規模言語モデルが、回答によって論文草稿の改善につながる「修正を促す質問」を生成できるかを検討しています。ICLRおよびNeurIPSの投稿版と採択後版のペアからなるデータセットを用い、論文全文の文脈の有無によるGPTモデルの質問と、人間の査読者の質問の有用性を比較しています。GPTはより多くの質問を生成し、より広範な修正や編集内容に関連していましたが、修正を促す質問の割合は著しく低いことが示されています。

Sebastian Joseph, Zichao Wang, Jennifer Healey ほか

arXiv cs.CV

CrossTimeEdit: A Decade-Spanning Cross-View Dataset and Reward-Guided Editing for Historical Street-View Generation

説明CrossTimeEdit:十年にわたる跨視点歴史ストリートビュー数据セットと報酬誘導型編集

要約歴史的なストリートビュー画像は都市の変遷を記録するが、撮影範囲が偏っているため記録に大きな欠落がある。本研究はVIGOR-his(三大陸11都市、43,653件の位置四つ組)を構築し、衛星画像の時間差を変化の根拠として用いる。歴史的ストリートビューの生成を編集タスクとして定式化したCrossTimeEditを、FLUX.2 [Klein] 4Bから教師ありファインチューニングとオンライン強化学習で訓練している。指示整合性、背景保持、品質と物理的妥当性の三基準を報酬と評価指標とし、事前学習のベースラインに比べ全体で17.12%の改善を示したと報告されている。

Hanwen Lu, Jun He, Mingjia Yang ほか

arXiv math.NA · cs.LG · cs.NA

CI-PINN: Causal Integral Physics-Informed Neural Network for Solving Evolution Equations

説明CI-PINN:発展方程式を解くための因果積分物理情報ニューラルネットワーク

要約物理情報ニューラルネットワーク(PINN)は支配的な物理法則を学習損失に組み込んで偏微分方程式を解きますが、発展方程式では従来の点ごとの時空間表現が時間依存性を明示的に符号化しないため、予測精度が損なわれることがあります。本研究は、履歴特徴を集約して時間依存性を符号化するVolterra型の因果積分項を核とする因果積分ニューラルネットワーク(CinNet)を提案します。これを基に作成したCI-PINNは、ベンチマーク発展方程式の数値実験で、複数のPINN派生手法より解の精度が高く、特に配点が疎な場合に優位性が顕著であるとされています。

Xiaodong Feng, Ziyu Sun, Tao Tang ほか

arXiv cs.LG · cs.CY

Selective Elicitation as a Commercial Influence Channel: A Reproducible Synthetic Shopping-Agent Stress Test

説明選択的な質問による商業的影響チャネル:再現可能な合成ショッピングエージェントの検証

要約本論文は、商業的インセンティブが最終的なランキングアルゴリズムを経由せず、ショッピング支援AIが投げかける選好質問を通じて推薦に影響しうるかを検証します。合成の小規模実験で、正直な模擬ユーザーが一つの比較質問に答え、推薦器は商品と回答のみを受け取り、スポンサー関係は知りません。標的を絞った指示は、中立的な質問と比べてスポンサー商品の選択率を0.30引き上げ、合成効用を平均0.0547下げました。柔らかな商業指示では選択は変わりませんでした。著者らは、広告インセンティブ下での一般的な振る舞いや実際の消費者への影響を示すものではないと明記しています。

Jiapeng Li

★★★★☆ 注目
arXiv cs.LG コードあり

Do LLMs Really Forget? Hidden-State Leakage in Model Unlearning and How to Fix it

説明LLMは本当に忘れているのか?隠れ状態に残る情報漏えいと、その対策

要約本論文は、大規模言語モデルのアンラーニングが出力レベルでのみ評価されがちであることを指摘します。出力から機密内容が消えても、隠れ表現には情報が残りうることを理論と実験で示しています。複数のTOFU、MUSE、WMDPの各ベンチマークで、各層の隠れ状態から大量の機密情報を復元できることを確認しました。これを受けて提案手法PARSは、隠れ表現から抽出可能な情報を敵対的に最小化し、論文の結果では評価した全ベースラインを上回るとされています。

注目点出力レベルの忘却と隠れ表現の情報残存の分離を示し、敵対的表現抑制手法を提案。三つのベンチマークで検証しており新規性は高い。

Hadi Reisizadeh, Jiajun Ruan, Sijia Liu ほか

arXiv cs.AI

Multi-Channel Mitigation of Source-Trust Shortcuts in Fact-Checking RL Agents

説明事実確認強化学習エージェントにおける情報源信頼度ショートカットの多チャネル緩和

要約検索拡張型の事実確認モデルは、各証拠の情報源に高・低などの信頼度ラベルを付与されることが多い。本論文はTrustSwapという反事実テストを提案し、証拠本文を固定したままラベルを入れ替え、下げ、削除し、判定・確信度・追加検索の三つの出力チャネルを個別に測定する。ラベルの変更だけで一部の確信的な判定が変わり、既存のRL学習モデルでは変化が大きいことが示された。標準的なGRPO微調整は8Bで同ショートカットを増幅する。提案手法TSA(信頼度交換拡張)は4Bで判定の反転率を減らし、8Bでは効果が検出されなかった。

Jianchang Su, Yiwei Yang, Wei Zhang

arXiv cs.LG

Communication-Efficient Agnostic Federated Learning via Faster Convergence and Compression

説明収束加速と圧縮による通信効率の良い非依存型連合学習(論文)

要約本論文は、複数の異種ワーカー上で安定して動作するモデルを求める非依存型連合学習(AFL)を扱い、通信のボトルネックに取り組んでいます。KLダイバージェンスを用いたオンラインミラー上昇とブロック単位の再起動を取り入れたAFL-BRで同期回数を減らし、誤差フィードバック付きの双方向圧縮を加えたAFL-Comで1ラウンドあたりの通信量を削減しています。収束速度と通信量の理論的な結果が示され、実験で両手法の効率改善が確認されたとしています。

Haomin Bai, Junyan Sun, Sifan Yang ほか

arXiv eess.SP · cs.LG

Best Practices in EEG Analysis: Preprocessing, Modeling, and Machine Learning

説明脳波(EEG)解析のベストプラクティス:前処理・モデリング・機械学習

要約本章は、脳波(EEG)解析の実践的な方法ガイドです。アーチファクト除去、フィルタリング、不良チャネルの補間、再参照、独立成分分析(ICA)などの前処理と、事象関連電位や接続解析などの代表的な手法を扱います。さらに、被験者間の汎化やデータリークへの対策、公正なベンチマークを含む機械学習の利用法を取り上げ、再現性(BIDS-EEG、FAIR原則)を重視しています。

Parsa Razmara, Woojae Jeong, Aditya Kommineni ほか

arXiv cs.LG · cs.CL

Act First, Reason Later: Accelerating On-Policy Distillation for Multi-Turn Agents via Reference-Conditioned Inverse Dynamics

説明先に行動し、後から推論する:参照条件付き逆動力学によるマルチターンエージェントのオンポリシー蒸留の高速化

要約本論文は、マルチターン言語エージェントのオンポリシー蒸留(OPD)の学習効率の低さに対処するため、環境との相互作用と完全な応答生成を切り離すActFirst-OPDフレームワークを提案します。学習者は参照次観測を用いた条件付き逆動力学で行動を推定・実行し、遷移が参照軌道から外れた場合は自律的な次行動予測に切り替えます。0.6B、1.7B、4BパラメータのQwen3学習者による実験では、Vanilla OPDと比べ、ALFWorld、WebShop、ScienceWorldでそれぞれ平均2.3倍、1.8倍、4.9倍の学習高速化を示しています。

Zubin Zheng, Jiahao Wu, Shaofeng Zhang ほか

arXiv cs.CV

Pixel-wise Exposure for Highly Robust In-Vehicle Remote-PPG

説明画素ごとの露光制御による車内リモートPPGの頑健性向上

要約強い日差しがある車内でのリモート光電容積脈波(rPPG)による心拍計測は、画面全体で露光時間が一様なため顔の一部が飽和・露出不足になりやすいという問題があります。本論文は、事前に決めた周期的な露光順で連続撮影し、各画素ごとにrPPG向けの目標輝度に最も近い観測値を選んで融合するPixExpo手法を提案します。新たに作成したMEX-Driveデータセット(実走行条件下の48名)で、メーカー既定の自動露光より平均絶対誤差が13.94 bpmから6.73 bpmへ、成功率が25.95%から63.24%へ改善したと報告されています。

Jieying Wang, Xinqi Cai, Caifeng Shan ほか

arXiv cs.AI

SAKI: Maximal-Coupling-Routed Teacher Supervision for On-Policy Distillation

説明SAKI:最大結合によるルーティングを用いた教師監督のオンポリシー蒸留手法

要約本論文は、学生モデルが自ら生成した軌跡で学習するオンポリシー蒸留(OPD)の手法SAKIを提案する。KL制約付きの教師誘導ロールアウトと最大結合を組み合わせ、接受・修正イベントに基づいてトークン単位の監督を振り分ける。接受位置では従来のサンプルトークンの逆KL監督を保持し、修正位置では教師の最も確率の高いトークンに直接監督を与える。著者らは7つの数学推論ベンチマークで、1.7Bと0.6Bの両学生モデルにおいて、対応する教師誘導ベースラインのMean@8とPass@8を改善したと報告している。

Miteto Wei, Xiaohan Wang, Zehao Chen ほか

arXiv math.OC · cs.AI · stat.ML

Second-Moment Stochastic Approximation Methods

説明二次モーメント確率的近似法:一次と二次のモーメントを推定する最適化手法

要約古典的な確率的近似法は、確率的回帰関数の一次モーメント(平均)の推定値のみに依存します。本論文は一次と二次の両モーメントの推定値を用いる手法を扱い、Adam や Muon などの現代的な深層学習オプティマイザーがその特殊例に含まれます。行列方程式を解くための最適前処理の観点からこれらの手法を導出し、収束解析の二段階の枠組みを提示しています。実用的な手法は、正確なモーメントを推定値で置き換えた後、ほぼ確実に目標解の近傍へ収束することが示されます。近傍の大きさは推定量のバイアスと分散に依存し、Muon とスペクトル版 Adam について具体的な上界が与えられています。

Tao Jiang, Lin Xiao

arXiv cs.CV · cs.AI · cs.LG

Scaling Video Generation for Reasoning: At What Cost?

説明推論のための動画生成のスケーリング:どれだけのコストがかかるか

要約本論文は、動画生成モデルの規模を拡大することで、過去のフレームに含まれる隠れた情報を推論できるようになるか、またその計算コストはどの程度かを検討しています。正解を厳密に判定できる2x2x2ルービックキューブのベンチマークで、可視面の貼り付け状態を9手の操作後に予測させる実験を行いました。検証MSEはおおむね冪乗則に従って減少するものの、MSEが低いことが推論能力を確実に示すわけではないと報告されています。

Weihang Guo, Xiaoyu Wu, Yifei Wang ほか

arXiv cs.CV コードあり

Beyond Legibility: Benchmarking Visual Text Rendering and In-Place Editing in Unified Video Generation

説明可読性を超えて:統一型動画生成における視覚テキストの描画とその場編集のベンチマーク

要約本論文は、動画生成における視覚テキストの描画と編集能力を評価するためのベンチマーク VidScribe を提案している。テキストからの生成(T2V)、参照からのテキスト同一性の転写(R2V)、動的状況でのテキスト維持(I2V)、局所的なテキスト編集(V2V)の4種類の生成条件を対象とし、人手で検証された803サンプルを含む。11の商用・オープンソースシステムを評価した結果、V2V編集が主なボトルネックであることが示された。さらに、本ベンチマークに基づく選好最適化により、視覚テキスト生成が有意に改善することも報告されている。

Ziying Zhang, Litao Li, Junchao Liao ほか

arXiv cs.RO · cs.AI

Simple Agentic Memory for Generalist Robot Policies

説明汎用ロボットポリシーのための簡易エージェント型メモリ(SimpleARM):凍結されたポリシーに学習なしで追加し、作業に必要な状態を記憶させる層

要約本論文は、凍結された汎用ロボットポリシーに学習なしで追加できるメモリ層「SimpleARM」を提案しています。タスク指示から監視すべき内容を定め、凍結された知覚ツールでコンパクトな型付き状態をオンラインで維持し、サブゴールが履歴に依存する場合にのみその状態を検索します。RoboMME ベンチマークの 16 タスク、3 つのポリシーシードでの平均成功率は 67.17% で、最強の非オラクル基線の 44.51% を上回りました。

Yuyou Zhang, Yunbei Zhang, Miao Li ほか

arXiv cs.GR · cs.AI

Text2Sim: Agentic Physics-Based Simulation Generation with Distilled Expertise

説明Text2Sim:蒸留された知見に基づくエージェント型物理シミュレーション生成

要約本論文は、テキストのみの要求を実行可能で編集可能な動的シミュレーションに変換する、シミュレーション特化型のエージェントパイプラインText2Simを提案しています。Genesis上に構築され、プランナー、専門のライター、資産生成ツール、独立したクリティックからなる階層構造を持ちます。グラフィックスのデモから蒸留したDebug Cardを用いて実行ベースの修復を行います。42個の未使用プロンプトでの評価では、物理品質と視覚品質の自動評価において4つの最新ベースラインを上回り、盲検ユーザー調査でも多くの参加者がText2Simを選びました。

Xiaoyu Xiong, Tsun-Hsuan Wang, Yi-Ling Qiao ほか

arXiv cs.CL · cs.LG コードあり

SEED: Self-Speculative Decoding via Implicit Encoder-Decoder

説明SEED:暗黙的エンコーダ・デコーダによる自己投機的デコーディング

要約本論文は、大規模言語モデルの推論を高速化する手法SEEDを提案します。標準的なデコーダ専用Transformerを暗黙のエンコーダ・デコーダとみなし、検証時に計算済みの深い文脈表現を再利用して、低コストで質の高い草案トークンを生成します。複数のベンチマークで、4B規模モデルの平均速度向上は最大2.7倍、EAGLE-3より28%速く、生成品質は維持または向上したと報告されています。

Hankun Lin, Patrick Pynadath, Ruqi Zhang

★★★★☆ 注目
arXiv cs.RO · cs.AI · cs.MA

Cooperative Multi-Agent Vision-Language-Action Models via Reinforced Fine Tuning

説明強化ファインチューニングによる協調型マルチエージェント視覚・言語・行動モデル

要約本論文は、複数ロボットの協調作業を行う視覚・言語・行動(VLA)モデルを対象に、強化学習によるファインチューニング手法を検討しています。三段階のパイプラインを提案し、事前学習モデルが繰り返し失敗した場合にのみ人手による実演を使うデータ収集、エージェントごとの軌跡に基づく信用割り当て付きオフライン微調整、凍結したモデルの潜在ノイズ空間でのオンライン強化学習を組み合わせています。RoboTwin、RoboFactory、および2台のFranka単腕ロボットによる実機タスクで評価し、平均成功率がそれぞれ23.1%、16.4%、44%向上したと報告しています。

注目点信用フィルタリングと潜在空間RLを組み合わせた三段階微調整を11タスクで検証し、マルチロボットVLAを実質的に改善。

Ruixiao Xu, Wong Lik Hang Kenny, Zhiqian Liu ほか

arXiv cs.LG

Learned Reporting Preferences in RLVR Can Conflict with the Current Request

説明RLVRで学習された報告の好みが現在の要求と衝突しうることを示す研究

要約本論文は、検証可能な報酬による強化学習(RLVR)で一方の回答形式を強化すると、別の形式の要求に従う能力が低下しうるかを検討しています。GSM8Kでは、ボックス形式で学習したQwen2.5-7Bが、5つの乱数シードのうち4つで、要求されたハッシュ形式の出力を大きく減らしました。著者らは、規約に合わせた正答率だけでは後学習の挙動を十分に捉えられず、現在の要求への遵守も併せて評価すべきだと主張しています。

Yupeng Chang, Wenxuan Zhang, Yuan Wu

★★★★☆ 注目
arXiv cs.AI · cs.CL · cs.LG

Transformers Stop Thinking Too Early, and a Tiny LoRA Fixes It

説明Transformerは思考を早く止めすぎる:小さなLoRAで修正できる

要約本論文は、事前学習済みTransformerが文脈内の参照をたどるのに深さをわずかしか使っていないことを示します。13の基盤モデルは確実にたどれるのは1.4〜3.6行程度でした。全重みを凍結したまま、初期の一層にランク8のLoRAを加えることで、この計算を延長できることが報告されています。例えばQwen3-8Bは24行の連鎖で正解率が15.5%から99%に向上しました。

注目点事前学習済みモデルの深さが十分に使われていないことを示し、凍結モデルに小さなLoRAを加えて連鎖参照の正答率を15.5%から99%へ改善した。実験は充実しており分野への影響も大きい。

Zehao Jin, Ruixuan Deng, Junran Wang

arXiv cs.LG · cs.AR

Making Analog Training Scale: Co-Designing Mapping, Optimizer, and Converters

説明アナログ学習を拡張可能にする:マッピング、オプティマイザ、コンバータの協調設計

要約アナログインメモリ計算(AIMC)は、重みを保存している場所で行列演算を直接実行し、モデル学習に利用できる。しかしハードウェアの非理想性により、現代の深層モデルへの拡張は依然として困難である。本論文は、重みマッピング、前処理付きオプティマイザと閾値トリガー式の開ループパルシング、コンバータの動作範囲の整合を組み合わせたシステムとアルゴリズムの協調設計を提案する。電気化学RAMの測定で校正したシミュレーションにより、Transformer学習を1億2300万パラメータまで拡張し、検証損失はパラメータ数Nに対しN^-0.231で減少した。これはデジタル学習のN^-0.238に近い。

Zhaoxian Wu, Tayfun Gokmen, Omobayode Fagbohungbe ほか

arXiv cs.AI

MemEvo: Automatic Discovery of Streaming Video Memory Mechanisms

説明MemEvo:ストリーミング動画メモリ機構の自動発見

要約本論文は、クエリが未知の状態で、増え続ける映像ストリームを有限のメモリに圧縮する視覚言語モデルの仕組みを扱います。メモリ設計を実行可能なメモリプログラムの探索問題として定式化し、表現・保持・統合・検索などを記述する軽量な専用言語を提案しています。大規模言語モデルが実験フィードバックをもとに候補を反復改良するフレームワーク MemEvo を用い、StreamingBench と OVO-Bench で高い性能と効率を示したと報告しています。

Guohong Liu, Jialei Ye, Shanhui Zhao ほか

arXiv cs.AI

SafeCoEvo: Co-Evolving Safety Harnesses and Guards for LLM Agents at Test-Time

説明SafeCoEvo:テスト時に安全ハーネスとガードを共進化させるLLMエージェント向けフレームワーク

要約本論文は、実環境に展開されたLLMエージェントを対象に、運用中に蓄積された経験を用いて外部の安全システムを継続的に適応させるテスト時フレームワーク「SafeCoEvo」を提案しています。二つの時間スケールで協調し、S-Harnessは直近の実行経験を更新可能な明示的安全知識へ素早く変換し、GuardVPOは長期的に蓄積された経験をパラメトリックなリスク判断能力へ内在化します。論文によれば、最強のベースラインと比べて、安全でない結果の割合は10.05%低下し、タスク成功率は12.15%向上しました。

Yu Cheng, Yongkang Hu, Shuaijie Ma ほか

arXiv cs.LG · cs.AI

Factorized Scheduling Principle: Learning Interpretable and Transferable Policies via Structured Additive Functions

説明因子化スケジューリング原理:構造化加法関数による解釈可能で転移可能な方策の学習

要約本論文は、解釈可能で転移可能なスケジューリング規則を学習するための因子化スケジューリング原理(FSP)フレームワークを提案している。システム状態を条件付き分布として表し、大域的なスケジューリング原理を同定可能性制約付きの単変量および二変量の加法成分に分解する。実験では、合成および実際のスケジューリング課題において高い性能と解釈性を示し、異なるシステム規模間でのゼロショット汎化を実現したと報告している。

Hong Je-Gal, Hyun-Suk Lee

arXiv cs.RO · cs.AI · cs.CV

DriftOPD: Sequence-Level Reverse-KL Distillation for One-Step VLA Policies

説明DriftOPD:一段階VLA方策のための系列レベル逆KL蒸留

要約本論文は、教師モデルも方策のロールアウトも必要としない、連続行動の視覚・言語・行動(VLA)モデルを系列レベルでオンポリシー蒸留する枠組みDriftOPDを提案します。系列レベルの逆KLダイバージェンスを、チャンク単位の逆KL項と現在の行動の長期的影響を捉える将来ポテンシャル項に分解し、それぞれ一段階ドリフト目標とオフラインデモから学習したQ関数の批評器で最適化します。シミュレーションと実ロボット操作の実験で、既存の一段階蒸留基線を概ね上回り、多段階の教師方策に匹敵する成功率を示したと報告しています。

Youngjun Jun, Kyumin Choi, Youngmin Kim ほか

arXiv cs.SD · cs.AI · cs.CL コードあり

Long-Term Memory-Guided Enhancement for Target Perception in Audio-Language Models

説明音声言語モデルにおける長期記憶誘導型のターゲット知覚強化

要約音声大規模言語モデルは、背景雑音や競合する音源が目的の音と混ざると、実環境では性能が大きく低下することがあります。本論文は、人間の長期記憶にヒントを得た長期記憶誘導型音声強化(LTM-AE)を提案します。各カテゴリのクリーンな参照録音から隠れ状態の表現を長期記憶として抽出し、モデルのパラメータを変更せずに入力音声トークンを再構成して元のトークンと補間することで、指定された目的音の知覚を強化します。20の音カテゴリと3つのモデルでの評価では、3つの妨害音源がある状況で指定ターゲットへの応答が強まることが示されました。

Zhenhong Zhou, Xuanyue Zhao, Youji Liu ほか

arXiv cs.AI

Divide and Inject: Can Agents Reconstruct an Indirect Prompt Injection from Fragments?

説明分割して注入:エージェントは断片から間接プロンプトインジェクションを再構成できるか?

要約本論文は、攻撃目的を不完全な断片に分割し、エージェントのツールで取得される外部コンテンツに埋め込み、再構成のための誘導文で組み合わせさせる適応型長文コンテキスト・プロンプトインジェクション手法AdaLCPIを提案している。断片と誘導文はOpenEvolveにより反復的に改良される。実験では、マクロ平均の攻撃成功率が61.4%で、比較基線(Trojan Hippo型32.8%、AgentVigil 30.0%)を上回った。著者らは、不完全な断片から有害な目的を再構成する場面でも、エージェントが頑健であるかを安全性評価で検証すべきだと述べている。

Michael Lee, Zhipeng Wei, Yue Dong ほか

arXiv cs.AI

Visual sensitivity is not claim retractability: persistence-aware credit assignment for multimodal reinforcement learning

説明視覚的感度は主張の撤回可能性ではない:マルチモーダル強化学習のための持続性認識型クレジット割り当て

要約本論文は、マルチモーダル強化学習における視覚的主張へのクレジット割り当てを扱います。学習前のQwen2.5-VL-7Bでは、四つのマルチモーダル推論ベンチマークの正答の27.81%に、画像が裏付けない直接的な視覚的主張が少なくとも一つ含まれていたと報告されています。提案手法のPACG(持続性認識型クレジットゲーティング)は、異常に持続する視覚的主張の正のクレジットを減衰させ、教師ラベルを必要とせず推論コストも増やさず、九つのベンチマーク平均を改善したとされています。

Zhongan Bi, Kepeng Lin, Xuanang Gao ほか

arXiv cs.LG · cs.AI

From Checkpoint Variation to Selection Gains in Supervised Fine-Tuning

説明チェックポイントのばらつきから選択による利得へ(教師あり微調整)

要約本論文は、教師あり微調整(SFT)で複数の学習チェックポイントから一つを選ぶ問題を扱います。学習軌跡や独立テストを固定したうえで、検証データの増加、負の対数尤度(NLL)による選択を上回るか、最終チェックポイントをそのまま残すよりよいか、という三つの主張を別々に検証しています。数学と常識の両領域で、検証データの増加による改善は確認された一方、最終チェックポイントに対する利得は確定していません。

Yupeng Chang, Wenxuan Zhang, Yuan Wu

arXiv cs.LG

Sharp Convergence and Sampling Trade-offs for Riemannian Diffusion under Nonnegative Ricci Curvature

説明非負のリッチ曲率下におけるリーマン拡散モデルの収束とサンプリングのトレードオフ

要約本論文は、リーマン多様体上の拡散生成モデルの収束速度とサンプリングの計算量を研究している。スコアの離散化とブラウン運動のシミュレーションを分離し、スコア評価の間に複数の測地線ランダムウォークを行える一般的な枠組みを提案している。非負のリッチ曲率と正確なブラウン運動シミュレーションの仮定の下で、約O(d/ε²)回のスコア評価でKLダイバージェンスをε²に抑えられることを示し、これはユークリッド拡散モデルの既知の収束速度と一致する。

Yuhao Liu, Longbo Huang

arXiv cs.CV

AffectReveal: Event-Grounded Emotion Recognition Beyond Visual Appearances

説明AffectReveal:見た目を超えたイベント基盤の感情認識

要約本論文は、涙が悲しみにも喜びにもなるように、画像に見える反応だけでは感情を判断しきれないと指摘します。作者はイベントに基づく感情認識(EGER)という課題を定式化し、11種類の感情を含む10,052本の動画と10,734枚の画像からなるEGER-Benchを構築しました。さらに、調整不要のAffectReveal枠組みを提案し、双方向の原子的証拠照合によって感情を決定づける出来事を復元します。

Yihao Qian, Runhao Zeng, Sicheng Zhao ほか

arXiv cs.CV · cs.AI · cs.LG コードあり

ThinkingGuard: Decoding Implicit Hazards via Step-by-Step Risk Attribution in Multimodal Large Language Models

説明ThinkingGuard:マルチモーダル大規模言語モデルにおける段階的リスク帰属による暗黙的危険の検出

要約マルチモーダル大規模言語モデルは安全性が重要な分野で使われ始めていますが、個別には無害なテキストと中立的な視覚要素が組み合わさると、安全でない出力を誘発する暗黙的リスクがあります。著者らは反事実的な対照ペアによりリスクの組み合わせをモデル化した5,600件のデータセットTriggerBenchを構築し、段階的な監督付きの構造化推論学習で安全ガードモデルThinkingGuardを訓練しました。標準および暗黙的安全性ベンチマークで高い性能を示したと報告されています。

Ruochen Zhang, Yao Huang, Yitong Sun ほか

arXiv cs.CV · cs.AI

FM-ReID: Selective Competitive Token Routing for Object Re-Identification

説明FM-ReID:物体再識別のための選択的競合トークンルーティング手法

要約本論文は、異なる個体の外観が似ており識別手がかりが局所的に分布するという物体再識別の課題に対し、エンドツーエンドの枠組みFM-ReIDを提案している。競合型細粒度マイニングモジュールでは、複数のマイニングクエリと残差クエリがDINOv3の密なトークンを奪い合い、事前値を超える選択で割り当てられたトークンを保持する。固定の空間分割に依存せず、全体表現と共同学習を行い、動物・人物・車両の再識別ベンチマークで高い性能を示している。

Zhiqi Li, Xiaowei Zhou, Zeyuan Sun ほか

★★★★☆ 注目
arXiv cs.LG · cs.AI コードあり

HiTS-CL: A Continual Learning Framework for Long-Horizon Temporal Knowledge Graph Extrapolation

説明HiTS-CL:長期時系列知識グラフ外挿のための継続学習フレームワーク

要約時系列知識グラフ推論は通常、時間軸の初期部分で一度だけ学習させ、その後は固定したモデルで将来のすべての時点を予測しますが、非定常なデータ流には適応できず、長期にわたって性能が低下します。本論文は、外挿型の時系列知識グラフ推論をストリーミングスナップショットに対する継続学習として定式化し、バックボーンに依存しないフレームワークHiTS-CLを提案しています。継続的ファインチューニングで現在の動向を追跡し、多教師適応蒸散で安定した知識を保持し、近時かつ頻出の事実を選択的メモリで保存します。5種類の代表的なバックボーンと4つのベンチマークデータセットで評価され、外挿精度の向上と長期的な性能低下の抑制が示されています。

注目点時系列知識グラフ外挿を流れるスナップショット上の継続学習として定式化し、微調整・多教師蒸留・履歴メモリを組み合わせ、5つのバックボーンと4データセットで検証している。

Yansong Liu, Rui Liu, Yuan Zuo ほか

arXiv cs.CV · cs.AI

How Medical VLMs Underutilize Their Vision Encoders: A Dermatology Perspective

説明医療VLMはなぜ視覚エンコーダーを十分に活用しないのか:皮膚科の観点から

要約本論文は、医療用視覚言語モデル(VLM)における視覚エンコーダーと完全なマルチモーダルモデルとの性能差を、皮膚科を主な検証対象として調べたものです。皮膚科では、ターゲットタスクのラベルを一切使わない条件でも、MedSigLIPエンコーダーがMedGemmaを平均10.26ポイント上回りました。著者らは三つの仮説を検証し、「説明してから判断する」プロンプト手法で生成中の視覚的注意が30〜40%増加することを示しました。さらに、VLMを凍結したまま、ラベル不要のプロンプトと少数ラベルによるエンコーダー支援の再ランキングを組み合わせる手法を提案し、五つのVLMバックボーンで検証しています。

Janet Wang, Yunbei Zhang, Xiao Wang ほか

★★★★☆ 注目
arXiv cs.AI コードあり

MAADBench: The Refreshable Paradigm for Anomaly Detection in Multi-Agent Systems

説明MAADBench:マルチエージェントシステムの異常検知のための更新可能なベンチマーク

要約本論文は、マルチエージェントシステム(MAS)の異常検知のための初の更新可能なベンチマーク MAADBench を提案している。タスク漏洩や、軌跡と異常パターンの陳腐化といった課題に対処するため、サンプリングと結合による生成タスク、設定可能な大規模言語モデル基盤での軌跡生成、ステップ単位のラベルの自動付与を組み合わせている。5 種類の基盤モデルで作成した 5,200 件のステップラベル付き軌跡からなるデータセットを公開し、25 の異常検知手法を評価した結果、既存手法は教師データへの依存が強く、微細な異常の検出や基盤モデル間での頑健性に課題があることが示された。

注目点更新可能なマルチエージェント異常検知ベンチマークを提案し、5種のバックボーンと25手法で体系的に評価して既存手法の限界を示した。

Lei Ma, Dennis Hofmann, Haowen Xu ほか

arXiv cs.LG · cs.AI

SERA: Scale-Equalized Rollout Allocation for Maximum Likelihood Reinforcement Learning

説明SERA:最尤強化学習のための尺度均等化ロールアウト配分法

要約本論文は、有限のロールアウト数の下で最尤強化学習(MaxRL)の勾配が減衰する問題を扱い、SERAを提案する。固定予算内でロールアウト数を再配分し、各プロンプトの有限ロールアウトによるスケーリング係数がおおよそ等しくなるようにする。制御されたImageNet設定では正確な尤度勾配との整合性が高まり、迷路ナビゲーションと数学的推論では、同じ学習ロールアウト予算でMaxRLより多様なサンプル解の網羅性が向上したと報告している。

Zihao Chen, Fanxiang Xiong, Hongran Ren ほか

arXiv cs.CL

Grounded Revision vs. Prior Injection: Probing Retrieval-Augmented Patent Claim Amendment

説明根拠に基づく修正と事前注入:検索拡張型特許請求項補正の検証

要約本論文は、米国特許商標庁の審査案件7,385件を用いて、検索拡張生成が検索結果に基づいて特許請求項を修正しているのか、それともテンプレートを注入しているだけなのかを検証したものです。決定論的な指標により、事前登録された9,600回の試行を4種の最先端大規模言語モデルで実施し、従来型の事前注入の挙動は検出されず、検索の効果は小さく方向も一貫していないと報告しています。

Josepha Michiko Leo, Hyun-seok Min, Yehoon Jang ほか

arXiv cs.LG · cs.AI

Interactive-Policy Distillation with Bidirectional Propose-and-Verify

説明双方向の提案・検証による対話型ポリシー蒸留(IPD)

要約本論文は、生徒モデルが自ら生成した推論過程に対して教師モデルが単語ごとのフィードバックを与える学習方法を扱います。従来のオンポリシー蒸留(OPD)では、生徒の推論が教師から大きく外れると監督の信頼性が下がると指摘し、生徒と教師が提案者と検証者を交互に務めて混合由来の軌跡を共同生成する対話型ポリシー蒸留(IPD)を提案しています。数学推論タスクでは、IPDで学習した生徒モデルがOPDを上回り、学習例とステップの消費も少ないと報告されています。

Shutong Wu, Xiwen Chen, Brendan Rappazzo ほか

arXiv cs.CV

SCCM: Spherically Consistent Coarse Matching for ERP Dense Feature Correspondence

説明SCCM:ERP全天球画像の高密度特徴対応のための球面一貫粗マッチング手法

要約本論文は、360度パノラマ画像(ERP正距円筒図法)の高密度特徴マッチングを扱う。ERPには経度方向の継ぎ目、緯度に依存する伸び、不均一な画素面積という三種類の歪みがあり、透視図で学習されたマッチャーはこれを扱えず性能が低下することを示す。提案手法SCCMは粗マッチング段階に球面由来の二つの事前情報を加え、Matterport3D上でPCK@1°を0.230から0.275へ改善し、ERP向けに再学習したRoMa V1やERPネイティブのEDMより高い性能を示したとされる。

Gyeonggwan Lee, Eunsoo Im, Seunghwan Hong ほか

arXiv cs.CL · cs.AI · cs.ET

DraftTrace: A Multi-View Analytics Environment for AI-Integrated Writing

説明DraftTrace:AI 統合型ライティングのための多視点分析環境

要約本論文は、完成した成果物、執筆プロセス、統合された AI アシスタントとのやり取りの三つを同時に記録し、文書がどのように時間とともに発展したかを再構成する執筆環境 DraftTrace を提案しています。大学院の NLP 講義で 81 名の学生に導入し、通常のセッション、自動ツールで入力された LLM の回答、コピー入力された回答を比較しました。成果物の指標は文章表現の違いを、プロセスの指標は入力方法の違いを区別し、両者を合わせると複写入力などの事例を特定しやすくなります。学生は執筆初期には問いを明確にするためにアシスタントを使い、後期には回答の検証に使っていました。

Divyansh Chandarana, Sandipan De, Vivek Gupta

arXiv cs.RO · cs.LG

Reactive Real-Time Flow Policies via Asynchronous Distribution Alignment

説明非同期分布整合によるリアルタイム反応型フローポリシー:ロボットが行動実行中も環境変化に即応できるようにする手法

要約本論文は、視覚・言語・行動モデル(VLA)を非同期に実行した場合の行動分布が元のモデルと一致するかを検証しています。非マルコフ型のデモンストレーションでは、非同期実行によって根本的に異なる行動分布が生じ、方策の反応性が制限されうることを示しています。これに対し、再帰的フロー場蒸留と提案・選択の二つの仕組みで、非同期方策の行動分布を元のVLAに整合させる手法を提案しています。報告によれば、LIBEROでは元のVLAと同等の成功率を達成し、RoboMimicでは約80%を維持しました。これは既存の非同期手法より約30ポイント高い値です。

Moritz Zoellner, Reece O'Mahoney, Ioannis Havoutis ほか

arXiv cs.CL

When Updating Stops Being Learning: Rethinking LLM Self-Evolution via learnable information gain

説明更新が学習でなくなるとき:学習可能な情報利得による大規模言語モデルの自己進化の再考

要約大規模言語モデルが自ら生成したデータで反復的に自己進化する際、性能が向上後に頭打ちとなり、やがて低下する現象が指摘されています。本論文は、前のラウンドに対して各ラウンドがどれだけ新しい情報をもたらすかを測る「学習可能な情報利得」に基づく枠組みを提案し、小規模言語モデルで前ラウンドを当てはめ、新データの負の対数尤度で推定します。これに基づくATRI(Adaptive Training Regulation via Information-gain)は、ラウンド内でサンプルを重み付けし、情報利得が低い状態が続くとラウンド間の学習を停止します。一般的なデータセットでの実験により、提案手法の優位性が示されたとされています。

Chenxu Wang, Chaozhuo Li, Xinze Shi ほか

★★★★☆ 注目
arXiv cs.CL · cs.CY · cs.IR コードあり

Retrieval Sensitivity to Identity Signals in Queries

説明クエリ内の属性シグナルに対する検索モデルの感度

要約本論文は、ユーザーのクエリに表れる政治的立場や方言が稠密検索モデル(dense retriever)の結果に偏りをもたらすかを、政治ニュースと消費者向け健康質問の二つの領域で検証しています。五つの稠密検索モデルと一つのスパース基準モデルのいずれも、クエリの政治的傾向に沿った記事を取り出し、アフリカ系アメリカ人語(AAL)で書かれた質問では白人主流英語(WME)より成績が低いことが示されています。さらに線形プローブにより、語彙の表層を超えて立場と方言がクエリ埋め込みから読み取れることが報告されています。

注目点利用者の政治的立場や方言といった属性が密検索器の結果に与える偏りを、合成データと自然なクエリの双方で体系的に示している。

Andrew Tang, Nicholas Deas, Kathleen McKeown ほか

arXiv stat.ML · cs.LG

Hierarchical Utility Calibration for Structured Multiclass Decisions

説明構造化多クラス意思決定のための階層的効用キャリブレーション

要約本論文は、多クラス確率予測における効用キャリブレーション(UC)が、ラベル階層の下でどのように働くかを検討している。著者らは、実現効用と予測平均効用の差が、ラベル木の内部ノードの寄与の和に正確に分解できることを示し、異なるノードの正負の寄与が打ち消し合うため、全体のUCが小さくても階層内部には大きな効用誤差が残りうると指摘する。これに対し、和の前に各ノードの寄与を評価する階層的効用キャリブレーション(HUC)を提案し、有限サンプル評価と、違反した内部ノードのみを更新するHUC-Boostを示す。両者に理論的保証が付される。

Futoshi Futami, Jerry Huang, Ichiro Takeuchi

arXiv cs.CV

Foresight at the Event Boundary: Evaluating Physical Prediction in Video World Models

説明イベント境界での予見:ビデオ世界モデルにおける物理的予測の評価

要約本論文は、ビデオ世界モデル(video world models)が事象の結果を予測できるかを評価する。物体の放出や衝突が起きた直後に結果を伏せた場合、次に何が起こるかを予測できるかを問う。実写の自由落下映像62本と124クリップ(3種類の物体)に、放出・衝突の時刻と真の軌道の注釈を付与して検証した。6つのモデルでは、事象を生成するものの開始が大きく遅れるもの、事象前の状態を保ち結果がほとんど生じないものが見られた。さらに15名の被験者による人間の予測実験も行われた。

Estela Monserrat Arriaga Santana, Julian Rosas Scull, Eh\'ecatl Sacamch'en N\'u\~nez Rico ほか

arXiv cs.LG · cs.CL

Triadic Linear Attention: Three-Dimensional Recurrent States for Long-Context Sequence Modeling

説明三元線形注意機構:長文脈系列モデリングのための三次元再帰状態

要約再帰型ニューラルネットワークは過去の文脈を固定サイズの記憶状態に圧縮し、線形注意機構はこの記憶をベクトルから行列へ拡張します。本論文は、キー・第二キー・値の三元外積を三階テンソル状態に書き込み、二つのクエリで両キー軸を縮約して読み出す三元線形注意機構を提案します。Gated DeltaNetやスカラーゲート型線形注意機構に適用すると、長文脈の言語モデリングと想起が大きく改善し、状態を単に拡大する代替手法より優れていると報告されています。(Triadic Linear Attention)

Oliver Sieberling, Bharat Runwal, David Jin ほか

arXiv cs.LG · physics.comp-ph

SCOPE: Observation-Conditioned Full-Target Prediction for Sparse PDE Inference

説明SCOPE:疎な偏微分方程式推論のための観測条件付き全体ターゲット予測

要約本論文は、疎な観測値から完全な物理場を復元する手法SCOPEを提案している。全体場の潜在予測と物理的再構成を組み合わせ、共有デコーダで両者を同時に学習させる。5種類の偏微分方程式設定での実験では、十の順問題・逆問題すべてでマスク対応ニューラルオペレータを上回り、DiffusionPDEやFunDPSなどの拡散ベース解法より低い誤差を示したと報告している。

Ruichen Xu, Siyao Wang, Fang Wan ほか

arXiv cs.LG · cs.AI · cs.CL

Adapting Context Compression for Long-Horizon Agents with Counterfactual Continuations

説明反実仮想的継続による長期タスク型エージェントの文脈圧縮プロンプト改善

要約長期タスクを行うエージェントは、増え続ける対話履歴を圧縮する必要があるが、圧縮の質は最終的に後続の実行結果で決まる。本論文は、同じエージェント状態から圧縮あり・なしで実行した対になる反実仮想的継続を比較し、後続の実行を悪化させる個別の圧縮イベントを特定する手法PAIRを提案する。PAIRは固定された圧縮テンプレートの関連部分を修正し、下流のエージェントを変更せずに、主要なベンチマークで圧縮手法の中で最も高い実行間の信頼性を示したと報告している。

Guanghui Min, Liang Wu, Mingjia Shi ほか

arXiv eess.IV · cs.AI

Reliability Testing of Medical Model Performance under Distributed Deployment

説明分散デプロイ環境における医療モデルの信頼性テスト

要約本論文は、集中型評価では良好だった医療モデルが、テンソル並列や混合精度などを用いる分散推論環境では、同一のチェックポイントと入力に対して異なる出力を生じうることを指摘します。著者らは、集中型の参照実行と対応する分散デプロイ環境の結果を比較するテストフレームワークと、分散実行に敏感なベンチマークを提案しています。言語・視覚・マルチモーダルの医療モデルで実験を行い、実行方法の変化により測定可能な出力の不一致が生じることを示しています。

Yifei Wang, Xiaohan Zhang, Youtao Ding ほか

arXiv cs.LG · physics.comp-ph コードあり

PDE-OBS: Controlled Evaluation Across Observation Patterns

説明PDE-OBS:観測パターンの変化に対する制御された評価ベンチマーク

要約本論文は、数値データ生成、モデルの学習、さまざまな観測条件下での推論と評価を含む統合ベンチマーク基盤PDE-OBSを提案しています。7種類の偏微分方程式から得た56万件の場と軌跡、設定可能な観測演算子、7種の基準手法を備えています。観測パターンが学習時と異なると誤差が一般に大きくなり、混合パターンでの学習は単一パターンからの転移誤差を減らすものの、テスト用パターンで学習した参照モデルの方が通常はより正確であると報告しています。

Ruichen Xu, Siyao Wang, Fang Wan ほか

arXiv cs.RO · cs.CV · cs.SY

Distilling Privileged Control Barrier Functions into RGB-Only Safety Filters for Dynamic Visual Navigation

説明特権的制御障壁関数をRGBのみの安全フィルタへ蒸留し、動的な視覚ナビゲーションに適用する研究

要約本論文は、真値の状態を用いる制御障壁関数(CBF)の教師から、RGB画像とロボット速度のみで動作する学生の安全フィルタへ安全な振る舞いを移す教師・学生型の視覚蒸留フレームワークを提案します。学生は明示的な3D再構成やオンライン描画を必要とせずに展開できます。実験では、既存の視覚CBFの基準手法を上回り、動的な障害物の動きの下でRGBベースのナビゲーション方策の安全性を向上させたとされています。

Seungyeon Yoo, Gawon Lee, Seungwoo Jung ほか

arXiv cs.RO · cs.AI

LIBERO-MAX: Do Robot Policies Adapt When the World Changes?

説明LIBERO-MAX:世界が変化したときロボットの方策は適応できるか

要約本論文は、タスク途中のイベントの有無を比較する8,000組の対照ケースからなるベンチマーク LIBERO-MAX を提案しています。幾何、観測、外観、障害物、経路の8種類の変化を扱い、タスク、初期状態、ポリシーのシード、イベント前の行動列は固定されています。14種類の既存の方策で評価した結果、イベントにより成功率が11.0〜25.7ポイント低下し、幾何と観測の変化が共通の弱点であることが示されました。

Yunbei Zhang, Zijian Jin, Yuanzhe Liu ほか

★★★★☆ 注目
arXiv cs.CL · cs.AI · q-bio.NC

Large-scale factor analysis shows machine intelligence is only partially interpretable

説明大規模因子分析が示す、機械知能は部分的にしか解釈できないという結論

要約本論文は心理測定学の手法を用い、1,618の言語モデルが456の純テキストベンチマークで得た13,251件の評価スコアを因子分析しました。最も寛大な推定では、一般知能因子がモデル性能の分散の70.8%を説明しますが、多くの解ではそれよりはるかに小さいとしています。内容が似たベンチマークが必ずしもまとまらないことや、一般因子が標準的な知能ベンチマークでよく代理されるという証拠が乏しいことも報告されており、単一の一般知能を明確な構成概念として狙う戦略は支持されないとしています。

注目点1618モデル・456ベンチマークの大規模因子分析で言語モデルに汎用知能因子が存在するかを検証し、主流の前提に疑問を投げかける。規模が大きく頑健性検討も行われている。

Faiz Ghifari Haznitrama, Afrizal Hasbi Azizy, Faeyza Rishad Ardi

arXiv cs.AI · cs.LG · math.OC

BRIDGE: Bilevel Retrieval-Credit-Aware Agentic Reinforcement Learning

説明BRIDGE:二層最適化による検索-クレジット認識型エージェント強化学習

要約本論文は、大規模言語モデルが検索と推論を交互に行うエージェント型強化学習で、検索された証拠を環境の観測として扱う既存手法の問題を取り上げています。著者らは、検索器を先に適応させてから方策を最適化する方が報酬の向上が大きいことを示し、両者を共同で学習する二層最適化問題として定式化しました。提案手法 BRIDGE は一次の、メモリ効率の良い方法で、7つのオープンドメイン QA ベンチマークで 3B・7B 両モデルにおいて最高の平均精度を達成したと報告されています。

Quan Xiao, Mingda Liu, Gaowen Liu ほか

arXiv cs.LG

Efficient and Scalable Physics-Guided Fully Convolutional Spatiotemporal Learning for 3D Microstructure Evolution Prediction

説明三次元ミクロ組織の発展予測のための物理誘導型全畳み込み時空間学習フレームワーク

要約三次元ミクロ組織の発展を相場シミュレーションで求めるには計算負荷が大きい。本研究は、完全な三次元ミクロ組織の系列を直接多フレームで予測する、効率的で拡張可能な物理誘導型全畳み込み時空間フレームワークを提案している。学習時に離散Cahn–Hilliard残差を加えて正則化するが、推論経路は変えない。スピノーダル分解の三次元データでは、標準的な予測期間において平均三次元構造類似度が0.97を上回り、参照のスペクトル相場ソルバーより30倍以上高速である。

Michael Trimboli, Wenxi Liu, and Xianqi Li

arXiv cs.AI

AVIO: Learning to Add and Remove Sounding Objects in Audiovisual Scenes

説明AVIO:視聴覚シーンで発音する物体を追加・削除する学習

要約本論文は、37.9時間分の対応する視聴覚サンプルと1,878種類の対象物体名からなるデータセットAVIOBenchを提案し、各物体の視覚的存在と音響的寄与を共有の同一性と視覚マスクで結び付けています。このデータセットに基づき、ソース条件付き特徴変調によって事前学習済みのテキストから視聴覚を生成するモデルを適応させ、物体の追加と削除を同時に学習するAVIOを提案しています。論文は、定量・定性評価により視聴覚物体の削除と追加が効果的に行えること、また任意の参照ガイダンスが追加時の外観と配置の制御を可能にすることを報告しています。

Weihan Xu, Kan Jen Cheng, Koichi Saito ほか

arXiv cs.HC · cs.AI

Towards Breaking the Learning System Wall Using Multimodal Tutoring Transcriptions

説明マルチモーダルな個別指導の書き起こしで「学習システムの壁」を乗り越える

要約従来のログデータを用いた研究は、プラットフォームをまたいで学習者モデルを一般化しにくいという「学習システムの壁」に直面してきました。本論文では、画面録画動画を音声対話と注釈付きの学習ログ操作を含む統一的な脚本形式の書き起こしに変換する、AI駆動のマルチモーダル書き起こしシステムを提案します。また、AIが生成した書き起こしをMATHia(マスリア)の学習ログと時間的に対応づけ、学習過程を識別・分類する計画的な手法を説明し、単一システムで学習過程を捉える際の課題と解決策の可能性を述べています。

Danielle R. Thomas, Marie Cynthia Abijuru Kamikazi, Ashish Gurung ほか

arXiv cs.SD · cs.AI

InterBias-SV: Compound Conditions in Speaker Verification

説明InterBias-SV:話者照合における複合条件のベンチマーク

要約本論文は、話者照合システムにおいて雑音、チャネル歪み、話し方の変化などが同時に生じた場合の影響を検討しています。単独で評価した各要因の効果が加算的かどうかを、同時誤りと二つの周辺誤りおよび共通基準からなる四項比較で整理しています。成果物には17実験、12のエンコーダラベル、6つの音声コーパスにわたる4,068件の記録が含まれます。報告された平均対比は記述的な値にとどまり、加法性の成立は示されていません。また、偶然水準に近いEERの解釈や、人口統計的差異の比率が不安定になる問題も論じられています。

Kamel Kamel, Hridoy Sankar Dutta, Keshav Sood ほか

arXiv cs.CV

Reimagine Video Dynamics

説明ビデオのダイナミクスを再構想する:映像の動きと視覚内容を分離して編集可能にする枠組み

要約本論文はReimagine Video Dynamics(RVD)という枠組みを提案します。自己教師あり再構成により、見た目ではなくシーンの変化を捉える、コンパクトで編集可能なダイナミクストークンを学習します。このトークンを使うと、視覚的な文脈を保ったまま動きを直接編集できます。実験では、動きの編集、学習不要のリタイミング、外観を制御した再レンダリングが可能であることが示されています。

Yu Yuan, Yawen Lu, Guoxian Song ほか

arXiv cs.CV · cs.AI · cs.LG

Benchmarking Vision-Language Models on Synapse and Neuron Proofreading in Connectomics

説明コネクトミクスにおけるシナプスとニューロンの校正タスクでの視覚言語モデルのベンチマーク

要約本論文は、電子顕微鏡画像を検査する際のアノテーターの判断(シナプスの有無と極性、ニューロンの分割誤り・結合誤り)を視覚言語モデル(VLM)で模倣し、性能を比較しています。シナプス課題では19のオープンモデルと2つのクローズドモデルを、神経細胞課題では3つのオープンモデルと2つのクローズドモデルを評価しました。多くのモデルはゼロショットでは偶然水準にとどまり、数例の提示は主にクローズドモデルと最大規模のオープンモデルに効果がありました。数千のラベルでLoRA微調整を行うと、オープンモデルは専用モデルと同等になり、未知の種では適応後の最良のVLMが結合誤りの識別で専用モデルを上回りました。

Yicong Li, Junjie Wang, Leander Lauenburg ほか

★★★★★ 注目
arXiv cs.LG · cs.AI

LLMs Learn to Evade Latent Monitors from Prior Feedback Alone

説明LLMは事前のフィードバックだけで潜在モニターを回避することを学習する

要約本論文は、出力ではなく内部活性を調べて LLM エージェントの望ましくない振る舞いを検出する潜在空間モニターが回避されうるかを検討しています。モニターの判定フィードバックから検出規則を推測し、活性を編集して検出を逃れる能力が示されています。活性編集を8倍に拡大すると真陽性率は100%から27%に下がり、ランク1のLoRAで4%まで低下し、標準ベンチマークの性能は維持されました。

注目点監視フィードバックのみから潜在空間モニタの回避を学習する新たな脅威を示し、スケーリングとLoRA実験で検証しておりAI安全性への影響が大きい。

Hugo Lyons Keenan, Christopher Leckie, Sarah Erfani

arXiv cs.LG コードあり

AdaptArena: Evaluating Test-Time Personalization of Web Agents

説明AdaptArena:Web エージェントのテスト時パーソナライズ能力を評価するベンチマーク

要約本論文は、ユーザーの暗黙の選好を推定して Web エージェントの適応力を測る AdaptArena ベンチマークを提案しています。単一選好と二重選好の 480 タスクからなり、検索ベースの AdaptiveAgent フレームワークも併せて紹介されています。実験では、真の選好を知る理想エージェントの成功率が 82.92% なのに対し、評価された LLM エージェントは最大 15.62% にとどまりました。選好を正しく推定しても、実行段階の失敗が依然として大きな課題であることも示されています。

Dongchan Shin, Xing Han L\`u, Jiaqi Deng ほか

★★★★★ 注目
arXiv cs.LG · stat.ML

Optimal Multi-Reward Reinforcement Learning

説明多報酬強化学習の最適サンプル複雑度

要約本論文は、遷移確率が未知の有限時間マルコフ決定過程を扱い、有限個の既知の報酬関数それぞれに対して、オンラインのエピソード的な相互作用のみでε最適方策を得る問題を研究している。著者らは、O(SAH³/ε² · log M · polylog) という極小最大サンプル複雑度を達成する、証明可能に効率的なアルゴリズムを設計した。これは情報理論的下界に多対数因子を除いて一致する。手法は、報酬切り替えに適応させた MVP による楽観的価値推定、新鮮なリプレイサンプルによる候補方策の保守的評価、そして間隔に基づく乗法的重み更新による報酬サンプリング分布の調整から成る。

注目点複数報酬の強化学習に対して、下界と一致する最小最大最適なサンプル複雑度を示す手法を提案し、理論面で顕著である。

Zijun Chen, Zihan Zhang

arXiv cs.LG コードあり

The Teacher Is a Direction, Not a Destination: Extrapolating RL-Induced Representation Residuals in On-Policy Distillation

説明教師は到達点ではなく方向である:オンポリシー蒸留における強化学習由来の表現残差の外挿

要約本論文は、オンポリシー蒸留のための RIDE 手法を提案します。各層・各位置で教師と強化学習前のチェックポイントとの残差を計算し、生徒の隐れ状態をこの残差方向に教師を超えた目標へ近づけることで、強化学習による変化を表現空間で直接外挿します。規模・構造・事前学習系統が異なる4組の基盤モデルと強化学習教師のペアで、RIDE は強化学習で訓練された教師に近いか、それを上回る結果を示し、出力空間での外挿法より優れていました。

Hao Li, MeiJia Chen, Weijie Ren ほか

arXiv cs.CL · cs.AI

DuplexSpeechBench-Document Grounding: Benchmarking Document Grounding and Hallucinations in Voice Agents

説明DSB-DG:音声エージェントの文書根拠付けと幻覚のベンチマーク

要約本論文は、音声エージェントが外部文書に基づいて応答できるかを評価するベンチマーク DuplexSpeechBench-Document Grounding(DSB-DG)を提案しています。5つの専門分野にわたる50文書から作られた1,636組の敵対的に検証済みの質問応答ペアを含み、根拠付けの正確さ、幻覚、応答遅延を自動で評価できます。結果として、カスケード型パイプライン(ASR-LLM-TTS)が最も高い正確さを示し、Gemini-LiveとGPT-Realtimeがそれに続きました。オープンウェイトのシステムは、文脈容量の急激な崩壊や多ターン対話での根拠の減衰といった特徴的な失敗を見せ、失敗の多くは回答の拒否ではなく根拠のない生成として現れました。

Puneet Mathur, Nedim Lipka, Zeyu Jin ほか

arXiv cs.AI · cs.HC · cs.MA

Human-AI Collaboration: From Paradoxes to Patterns

説明人間とAIの協働:パラドックスからパターンへ(人とAIがどう協力するかを扱う論文)

要約この論文は、人とAIが協力して働くと、それぞれ単独で作業するより成果が良くなるという証拠を示しています。自律性と主導性という二つの設計の次元に着目し、そこから生まれる協働のパターンを検討します。問題と解決策を整理したうえで、パラドックスの視点から内部の緊張関係を分析し、最終的に指示、委任、支援、共創という四つの協働パターンを記述しています。

Michael Weiss

arXiv cs.AI · cs.GT

Learning to Harvest Without Collapse in a Regenerative Commons: A Lagrangian Framework

説明再生可能な共有資源を崩壊させずに収穫する学習:ラグランジュ的枠組み

要約本論文は、共有資源の過剰利用という問題を、設計者が消耗予算を定めた制約付きマルコフゲームとして定式化し、資源保全を明示的な要件とします。制約なしのゲームや協調制御問題の解から方策列を構成する非定常ラグランジュ的枠組みを提案し、実行可能性と近似最適性の理論的保証を示しています。実験では Gordon-Schaefer 漁業モデルで制約付き IPPO と MAPPO を用い、消耗予算が資源量、収穫報酬、価格適応にどう影響するかを検証しています。

Jose Tupayachi, Xueping Li, Soham Das

arXiv cs.LG · cs.AI

Guard Models Are Overconfident Where Base Models Are Uncertain

説明ガードモデルは、ベースモデルが不確かな場面で過信する

要約本論文は、プロンプト分類に用いる5つのガードモデルを評価している。クリーンな入力では多くのガードモデルの校正がほぼ適切である一方、敵対的攻撃によって校正は大きく悪化し、見逃しが正しい検出と区別できない高信頼度の誤りになることを示した。対応するベースLMと比べると、ガードが失敗する同じ入力でベースモデルは不確かさを示すことが多く、層ごとの分析からこの差は主に後段の層に現れることが分かった。

Jonghyun Hong, MinJae Jung, Minwoo Kim

arXiv cs.CL · cs.AI · cs.CV

Similar Choices, Different Attention: Cross-Modal Associations in Humans and Vision-Language Models

説明似た選択、異なる注意:人間と視覚言語モデルにおけるクロスモーダル連想

要約本研究は、疑似単語と図形の対応づけのようなクロスモーダル連想について、人間と視覚言語モデル(VLM)を比較したものです。同一の刺激を提示し、53名の参加者の選択と視線の動きを記録しています。大規模な一部のモデルは人間と選択が一致したものの、その注目領域は画像中央に固定したガウス分布の基準より人間の視線との一致度が低いと報告されています。人間の選択や視線パターンに一致するだけでは、人間に近い処理の十分な証拠にはならないと結論づけています。

Sumin Hong, Katsumi Ibaraki, Renee Shi ほか

arXiv cs.AI · cs.LG

Going Beyond State-Reaching: Learning Abstractions for Intrinsically Motivated Option Discovery

説明状態到達を超えて:内発的動機づけオプション発見のための抽象化学習

要約この論文は、各サブゴールに状態全体ではなく、関連する少数の特徴だけを割り当てるオプション発見アルゴリズムを提案しています。これにより適用範囲の広いオプションが得られ、報酬がまばらな環境での探索を加速できるとしています。画像ベースの3つのタスク(Atariのゲーム Montezuma's Revenge を含む)で検証されています。

Akhil Bagaria, Anita De Mello Koch, George Konidaris

★★★★☆ 注目
arXiv cs.LG

DisCoMBO: Steering Expert-in-the-Loop Black-Box Optimization via Distributional Conformance

説明DisCoMBO:分布適合性に基づく専門家参加型ブラックボックス最適化手法

要約本論文は、逐次モデルベース最適化(SMBO)に専門家知識を取り入れる課題に取り組み、モデルの「意外さ」を有界な指標で測る分布適合性スコアDisCoを提案しています。確率回路(PC)を用いたDisCoMBOフレームワークにより、知識を考慮した最適化が可能になるとされ、著者はこれがゼロリグレットアルゴリズムであることを証明し、AutoML、材料最適化、風力発電所の最適化のベンチマークで有効性を示しています。

注目点確率回路に基づく分布適合スコアを提案し、不確実性定量化と専門知識の注入を統一、ゼロリグレット性を証明し複数ベンチマークで検証。

Jonas Seng, Bennet Wittelsbach, Kristian Kersting

arXiv cs.RO · cs.AI · cs.CV

Staircase Policy: Streaming Inference for World-Action Models with Large Action Chunks

説明Staircase Policy:大規模アクションチャンクを扱うWorld-Action Modelのストリーミング推論

要約本論文はStaircase Policy(S-WAM)を提案し、フローマッチングのVLAをJEPA型のWorld-Action Modelに変換するストリーミング推論・学習の枠組みを示します。大きなアクションチャンクを、ずらして配置したノイズ除去段階のサブチャンクに分割し、近い将来の動作は準備でき次第実行します。各サブチャンク境界で最新の観測から未来の潜在表現を再予測し、未実行の動作を更新します。LIBEROで97.7%、LIBERO-Plusで87.9%を達成し、従来の実行方式の3.62倍のスループットを報告しています。

Guoheng Sun, Chen Chen, Jin Wang ほか

arXiv cs.AI

Rethinking Reasoning Paths as Phase-Structured Trajectories

説明推論経路を段階構造の軌跡として捉え直す

要約大規模言語モデルは多段階の推論経路を生成することで問題解決性能を高めることが多いものの、その経路上の隠れ状態をどう分析すべきかは明らかではありません。本論文は、同一問題内の推論軌跡を段階構造を持つ軌跡として扱う手法PAIRを提案します。PAIRは各問題について複数の軌跡を生成し、正規化された進行度に基づいて可変長の経路を共通の相対段階に対応付け、同じ問題・同じ段階内で成功と失敗の軌跡を比較します。問題間で学習した正解性プローブは同一問題内での評価では予測力が大きく低下する一方、PAIRは同一問題内の軌跡順位付けとBest-of-N選択を改善し、段階別のステアリング実験では学習された方向が生成結果を変えうることが示されました。

Zhenghao He, Guangzhi Xiong, Sanchit Sinha ほか

arXiv cs.SD · cs.AI · cs.LG

Emergent Tonal Structure in Learned Chord Embeddings and Its Relation to Tonal Tension

説明学習された和音埋め込みに現れる調性構造と、調的緊張との関係

要約本論文は、skip-gram法で記号的コーパスの和音系列から学習した和音埋め込みが、西洋調性音楽の調性構造をどの程度捉えるかを検討している。移調による拡張の有無で学習した空間を、幾何学的・機能的・緊張に関する観点から評価している。拡張した埋め込みは強い移調等変性を示し、明確な五度圏構造を再現すると報告している。また、埋め込みに基づく指標が、対応する調性指標や人間の緊張評価と中程度に一致することを示している。

Maral Ebrahimzadeh, Gilberto Bernardes, Sebastian Stober

arXiv cs.LG · cs.CL · cs.CV

Fisher-IRG: Fisher-Induced Local Invariant Representation Geometry across Language and Vision Models

説明Fisher-IRG:言語・視覚モデルの局所的な不変表現幾何を捉えるFisher誘導法

要約本論文は、表現の方向を予測への感度で評価するFisher-IRG手法を提案し、単純なユークリッド距離ではなく予測上の影響から局所幾何を捉えます。言語モデルと視覚モデルで、共分散ベースの幾何と比べて意味的変化と無関係な変動の区別がより明確で、部分空間もより再現性が高いことを示しています。さらに、意味に関わる効果はFisherから導かれた部分空間に局在し、保留データでの分離と検索の結果から、この幾何が発見に用いた近傍を超えて一般化することが示されています。

Abdullah All Tanvir, Xin Zhong

arXiv cs.CL

Memory Consolidation Flattens the Temporal Shape of User Facts

説明記憶の統合でユーザー情報の時制的な形が平坦化される

要約長期記憶システムは会話を短いメモに変換する際、事実が今も成り立つかを示す時制の手がかりを失うことがあります。たとえば「プジョーを運転している」が「プジョーを運転する」になり、継続中という情報が消えます。著者らはこの現象を測るベンチマークLAPSEを提案し、381組中244組で進行形だけが選択的に平坦化されることを報告しています。

Sugam Panthi, Muhaiminul Yeamin, Siyan Luo ほか

arXiv cs.LG

Emergent phases of superposition: from partial to full representation

説明重ね合わせの創発的な相:部分表現から完全表現へ

要約本論文は、大規模言語モデルが幅より多くの特徴を、重なり合うベクトルで表現する「重ね合わせ(superposition)」現象を研究しています。Anthropicの重ね合わせ玩具モデルにおいて、モデルの幅を増やすと、一部の特徴のみが表現される部分表現の相から、すべての特徴が表現される完全表現の相へと連続的な相転移が起きることを示しています。理論と実験により、臨界幅は活性特徴数に対しておおむね線形に増加することが確認され、損失のスケーリングも転移の前後で変化します。

Lihao Guo, Yizhou Liu, Jeff Gore

arXiv cs.CV

DynamicHOI: Coupled Dynamics for Physics-aware HOI Reconstruction

説明DynamicHOI:物理整合型の手と物体の相互作用再構成(結合ダイナミクス手法)

要約本論文は単眼RGB動画から手と物体の相互作用を再構成する問題を扱い、既存手法が視覚的・幾何学的整合性は保つものの、相互作用の力学的制約が不十分である点を指摘しています。提案手法DynamicHOIは、幾何に基づく拡散による精緻化と手と物体の結合ダイナミクスを組み合わせ、接触力の伝達と手の能動的駆動力を推定し、確率的事前分布で不自然な運動を抑制します。三つのデータセットで手と物体の再構成精度が向上し、手の世界モデル生成やロボット操作学習への応用も示されています。

Wenliang Guo, Zhanbo Huang, Yu Kong

arXiv cs.LG · cs.AI

Channel-Dependent State Space Model for Multivariate Time Series Forecasting

説明多変量時系列予測のためのチャネル依存型状態空間モデル(Chameleon)

要約本論文は、多変量時系列予測のためのチャネル依存型状態空間モデル Chameleon を提案する。変数数に対して線形にスケールしつつ、変数間のデータ依存的な相互作用を捉えることを目指している。選択的状態空間モデルとカルマンフィルタを結び付け、前者に欠けている測定更新を変数間モデリングに利用し、GatedDeltaNet を骨格として採用し、確率的摂動などで汎化性能を高めている。強く依存するODEおよびPEMSデータセットで最良のMSEとMAEを示し、28の標準ベンチマーク設定の多くでも基準手法を上回った。学習時間とメモリの分析では、効率性の競争力も示されている。

Yu-Cheng Wu, Fan-Keng Sun, Li-Chun Lu ほか

arXiv cs.CL · cs.AI

Reliable Parallel Decoding in Masked Diffusion Language Models

説明マスク拡散言語モデルにおける信頼性の高い並列デコード:学習不要の生成高速化手法

要約マスク拡散言語モデル(MDLM)は、マスクされた複数のトークンを並列に予測することで効率よくテキストを生成できますが、同じ前向き計算から得られた予測を一度に確定すると信頼できるとは限りません。本論文は、置信度だけでは確定順序を決められないことを示し、層ごとの予測安定性と最終的な置信度で候補を選び、累積エントロピー予算の下で確定させる学習不要の手法、Reliable Parallel Decoding(RPD)を提案しています。LLaDAとDreamを用いた数学推論とコード生成のベンチマークでは、評価した手法の中で最も高いデコード スループットを達成しつつ、精度を維持または向上させました。

Zhenghao He, Bohan Liu, Guangzhi Xiong ほか