AI アルゴリズム · 2026年9月30日(水)

機械学習、人工知能、自然言語処理、コンピュータビジョン、マルチエージェント。

arXiv cs.AI

MetaPersona: Task-Grounded Synthetic Populations from Empirical Social Science

説明MetaPersona:実証社会科学に基づくタスク指向の合成母集団

要約LLM社会シミュレーションで使われるペルソナは、属性の選択や値の割り当てに原理的な根拠がないという課題を抱えている。本論文は、11,000件以上の実証的人間対象研究に変数や関係、集団統計を注釈したデータセットMetaPersona-DBと、人口統計・潜在属性・結果の関係に関する実証的事前分布から合成母集団を抽出するフレームワークMetaPersonaを提案する。三つの下流ケース、三つのベースライン、三つの最先端モデルでの結果はタスクやモデルによって異なり、誤情報への信念とAIツールへの感情では良好だが、所得再分配では結果が分かれる。

Jinyi Ye, Yuangang Li, Chenxiao Yu ほか

arXiv cs.CV

Team MSU GenText-Forensics Challenge 2026 Technical Report

説明MSU GenText-Forensics 2026 チャレンジ技術報告:多言語文書改ざん検出と分解型思考連鎖による鑑識レポート作成

要約本論文は、ACM MM 2026 GenText-Forensics チャレンジにおけるチーム MSU の解決策を紹介しています。文書改ざん検出器と、それぞれ異なるサブタスクに LoRA で適応させた 2 つの Qwen3-VL-32B 視覚言語モデルを組み合わせ、分解型の思考連鎖パイプラインで改ざん箇所の特定、攻撃種別の識別、鑑識レポートの作成を行います。モデルは特権教師モデルから思考連鎖を蒸留して学習され、本手法は同チャレンジで第 3 位を獲得しました。

Kirill Koltsov, Aleksandr Gushchin, Dmitriy Vatolin ほか

arXiv cs.AI

Decode-Latency Feedback Prefill: A Model-Free Controller and Its Generalization Limits

説明デコード遅延フィードバック・プリフィル:モデル非依存の制御器とその一般化の限界

要約本論文は、並行する自己回帰推論でプリフィルがデコード中の既存リクエストを遅らせる問題に対し、モデル情報を使わずにプリフィル分量を調整する制御器DLFPを提案する。単一GPU上のQwen3-0.6Bでは、P99トークン間遅延が平均約27.7%低下したが、P99初回トークン時間は約34.8%増加した。Qwen3-8B、Qwen3-32B、2GPUのテンソル並列構成では効果が一般化せず、原因は完了済みGPU反復時間の代わりにスケジューラ呼び出し間隔を用いたことにあると著者らは分析している。

Gaurav Agarwal, Ashish Garg, Isha Singhal

arXiv cs.AI · cs.CL

Fine-Tuning Diffusion Language Models with Context Selection and Target Weighting

説明拡散言語モデルの微調整における文脈選択と目標重み付け(GoldiMask)

要約本論文は離散拡散言語モデルの教師あり微調整を扱い、ランダムマスクが「文脈として見せるトークン」と「予測対象のトークン」の相互作用を考慮していない点を指摘します。著者らは、劣モジュラ目的関数をほぼ最大化して文脈として公開するトークンを選ぶGoldiMaskを提案し、選ばれた文脈と残りの学習余地に基づいて予測対象を重み付けします。3種のバックボーンと3種の訓練データセットで、多くの設定において平均精度が最も高く、推論とコード生成の両方で向上が示されました。また、GSM8KとMATH-500では信頼度閾値付き並列デコーディングの反復回数も減少しています。

Loay Mualem, Llu\'is Pastor-P\'erez, Vinh Tong ほか

arXiv cs.LG

LeanPolish: Verified Supervision for Lean Proof Compression

説明LeanPolish:検証済みの編集によるLean証明の圧縮

要約本論文は、Lean 4の記号的パイプラインLeanPolishを提案し、33,402件の採用された局所編集と65,596件の失敗した試行を公開しています。これを使い、モデルがこの監督信号から何を学ぶのかを検討しています。単純な規則だけで順位付けが完全に当たるなど、探索の痕跡が学習を歪める点を指摘しています。学習済みランカーは保留状態の一部で、最強の凍結ベースラインより良い候補を選び、記号的処理の反復も圧縮率を高めています。

Pauline Bourigault

arXiv cs.LG · cs.RO · stat.ML

Learning to Plan from Random Exploration

説明ランダム探索から計画を学ぶ(ランダムな探索の経験だけで長距離の計画を立てられるかを検討する論文)

要約本論文は、目標が与えられる前のランダムな探索で得た経験が、方策改善の学習なしに長距離計画を支えられるかを検討しています。ランダムウォークの解析で時間的関係の意味を明らかにし、行動や報酬のラベルなしで観測のペアから条件付きエネルギーモデルを学習します。迷宮ナビゲーションや操作計画の実験を報告しています。

Deqian Kong, Guangyan Sun, Sheng Cheng ほか

arXiv cs.AI · cs.LG

Aligned Data Can Induce Misalignment via Context Confusion

説明文脈の混同により、整合したデータでも不整合を引き起こす可能性

要約本論文は、大規模言語モデルが整合性のための学習を経た後、別の文脈で不適切な振る舞いを示す現象を「文脈の混同(context confusion)」と名付けて検証しています。性別平等、プライバシー、身体の安全の3分野で確認されました。一般的な整合データを加えても効果は限定的で、対象分野の整合データや推論時の文脈内例示によって大きく軽減できると報告されています。

Yavuz Bakman, Duygu Nur Yaldiz, Baris Askin ほか

arXiv cs.CV

PhyProbe: Rethinking Physical Consistency Evaluation in Generated Videos

説明PhyProbe:生成動画の物理的一貫性評価を再考する

要約本論文は、生成動画の物理的一貫性を評価する評価器PhyProbeを提案しています。凍結された事前学習済み時空間エンコーダから特徴を抽出し、軽量なスコアリングヘッドで物理的一貫性違反のスカラースコアに変換します。学習はペアワイズ順位付け、ノイズを含むスカラー注釈への回帰、アンカーベースの校正を組み合わせた統一目的関数で行われます。多くのペアワイズベンチマークで既存手法を上回り、人間の判断との相関も強いと報告されています。

Max Ku, Jiaojiao Fan, Zekun Hao ほか

★★★★☆ 注目
arXiv stat.ML · cs.LG · math.OC

Lower Bounds for Linear-Oracle Online Learning

説明線形オラクル型オンライン学習の下界

要約本論文は、各ラウンドで線形最小化を定数回だけ呼び出す手法が、一般凸集合上でオンライン Frank-Wolfe の T^{3/4} の後悔率を改善できないことを証明し、Weibel ら(Weibel et al.)の予想を確認しています。著者らは、後悔の下界を T と呼び出し回数 b の関数として与える敵対的な構成を示しています。

注目点Weibelらの予想を証明し、決定的学習者に対しT^{3/4}後悔率を超えられない下界を構成して理論を前進させた。

Mohit Sinha

arXiv cs.CL · cs.DL · cs.IR

Doc2LoRA Provides Decodable Representations of Scientific Ideas

説明Doc2LoRA:解読可能な科学的アイデア表現

要約本論文は、各科学論文を Doc-to-LoRA ハイパーネットワークが生成する LoRA アダプタで表現し、空間内のすべての点を自然言語で質問できる大規模言語モデルに対応させる手法を提案しています。米国物理学会(APS)の論文での実験では、サブ分野の平均点から生成される名称が五つのベースラインより公式名称に近いと評価されました。また、可逆変換を加えることで、埋め込みは検索でも SPECTER2 や EmbeddingGemma に匹敵する性能を示しました。

Chand Sahil Mansuri, Joel Zachariah, Sadamori Kojaku

★★★★☆ 注目
arXiv cs.AI · cs.LG

Self-Evolving Harness on Multiple Tasks with the Agent as Its Own Optimizer

説明自己最適化するエージェントによる多タスク自己進化ハーネス

要約本論文は、同一の凍結された言語モデルが、解答者として課題を解き、提案者として実行記録を読んで自らのハーネス(プロンプト、ツール呼び出し、文脈管理などエージェントを取り囲むコード)を編集する手法を提案している。進化の各バッチは五つの異なる分野のベンチマークから課題を取り、進化に使わなかった五つの分布外ベンチマークでも評価している。49行の初期ハーネスから得られた第一段階の結果は、分布内で平均4.48点、分布外で12.64点の改善を示した。

注目点同一の凍結モデルが解答と最適化を兼ねる自己進化フレームワークを提案し、分布内外で検証しており既存手法より新規性が高い。

Qiankai Xu

arXiv cs.RO · cs.CL コードあり

TALK-Dem: Benchmarking Embodied Task Planning under Dementia-Associated Communication Patterns

説明TALK-Dem:認知症に伴う会話パターンにおける身体性タスク計画のベンチマーク

要約本論文は、認知症に関連する口頭コミュニケーション下で、大規模言語モデルを用いたロボットのタスク計画を評価するベンチマーク TALK-Dem を提案しています。4,800 件の指示を含み、5 種類の典型的な会話パターンを 3 段階の強度で扱います。実験では、オープンウェイトモデルが理想的な指示に比べ性能を大きく落とすことが示され、経験の検索に基づく CARE 手法が改善をもたらすと報告されています。

Guangxin Zhao, Yiran Hu, Yuan Cao ほか

arXiv cs.AI

Can an AI Agent Rediscover a Blaschke-Curve Invariant?

説明AIエージェントはBlaschke曲線の不変量を再発見できるか?

要約本論文は、固定された4次Blaschke積を対象に、AI支援による数学的再発見の過程を検証しています。エージェントには80種類の境界配置それぞれについて決まる6本の対線の数値座標が与えられ、定理そのものは課題に示されていません。研究記録では、多角形の辺に当てはめた齊次3次式が報告され、80個の未見のパラメータ値に対して480本の直線を予測し、残差は極めて小さいとされています。一方で著者らは、決定的な多項式次数探索の基準法でも同じ3次式が復元できたと指摘し、エージェントの優位性は示されていないと述べています。

Yunus E. Zeytuncu

arXiv cs.CV

Composition, Not Conversation: VLMs Lose the Scene, Not the Thread

説明構成の問題であって会話の問題ではない:VLMは場面を失い、文脈は失わない

要約本論文は、93の場面と300の質問からなるLayered-VQAベンチマークを提案し、画像を正確に再構成可能な順序付きRGBAレイヤーに分解しています。3Bから32BパラメータのオープンウェイトVLM 11種と商用モデル2種を評価したところ、場面を断片化すると精度が大きく低下し、同じレイヤーを再構成すると性能がほぼ回復することが分かりました。また、必要な証拠が増えるほど、回答精度よりも根拠付け(グラウンディング)の低下が速いと報告しています。

L. D. M. S. Sai Teja, Ufaq Khan, N. Siva Gopala Krishna ほか

arXiv stat.ML · cs.AI · cs.LG

Acceleration of Diffusion Language Model through Discrete Average Generator

説明離散平均生成器による拡散言語モデルの高速化

要約本論文は、MeanFlow を連続時間マルコフ連鎖へ拡張した離散平均生成器を提案し、離散状態空間の拡散言語モデルにおける少ステップ生成の高速化を目指しています。著者らは平均生成器が満たす自己整合恒等式を示し、それを学習目標の基礎としています。Potts モデルのシミュレーションでは、K ステップのサンプラーの全変動距離を最大 67% 削減しました。OpenWebText では 8 から 64 サンプリングステップにおいて比較手法中で最も低い生成困惑度を達成し、16 倍の高速化を実現しています。ImageNet では既存手法と同程度の性能を示しました。

Yidong Ouyang, Zhengyan Wan, Themis Haris ほか

arXiv cs.LG · cs.AI

Simulator-Refined Diffusion for Radio-Frequency Inverse Design

説明シミュレータ補正型拡散モデルによる高周波逆設計

要約本論文は、目標のSパラメータに基づいてプリント基板のレイアウトを生成する、シミュレータ補正型拡散モデル(SRD)を提案しています。低忠実度の微分可能な代理モデルの勾配で摂動方向を決め、高忠実度だが微分不可能な電磁界シミュレータがその方向で設計更新を探索します。原文によると、既存の最先端手法を一貫して上回り、分布内の目標では最大21.2%、分布外の目標では最大19.8%、シミュレーションのSパラメータが目標に近づいたとされています。

Jinhao Liang, Jacob K. Christopher, Michael Frei ほか

arXiv cs.CV

Inductive Visual Logic for Few-Shot Out-Of-Distribution Adaptation in VLMs

説明帰納的視覚論理:少数ショットの分布外適応のための視覚言語モデル向け学習不要手法

要約論文は、Qwen-VL や LLaVA などの生成型視覚言語モデルが、事前学習の分布から外れた専門分野(著者は遠分布外と呼ぶ)で、必要な識別特徴を学習していないため性能が落ちると指摘しています。既存の適応手法は既存の特徴空間内で動くため、この問題を解決できないとしています。提案手法 IVL(Inductive Visual Logic)は学習不要で、モデルに残る記述能力を使い、少数の支持画像から視覚的特徴を抽出してクラスごとの辞書にまとめ、階層的フィルタリングで分類します。複数の遠分布外ベンチマークで両モデルの総合精度が最高となり、予測を特徴まで追跡できるとされています。

Hung-Jen Chen, Yu-Heng Ho, Ting-Yao Huang ほか

arXiv cs.LG · cs.AI · cs.CL

On the Off-Policy Teacher in On-Policy Distillation

説明オン・ポリシー蒸留におけるオフ・ポリシーの教師について

要約オン・ポリシー蒸留(OPD)は、生徒モデルが自身の方策で生成した軌跡から、教師の密な監督を受けて学習する手法です。この論文では、教師が自身の生成した接頭辞ではなく生徒が生成した接頭辞を続けなければならず、接頭辞が長くなるほど続きの性能が低下することを指摘しています。著者らは、検証可能な報酬による強化学習で教師の条件付き続き生成能力を定期的に最適化するSCOUTという枠組みを提案し、教師の能力向上と、複数の設定でOPDの効果が改善することを示しています。

Langlin Huang, Hao Liu, Mononito Goswami ほか

arXiv cs.AI · cs.CL · cs.LG

Beyond Mode Collapse: Generating Diverse Synthetic Expert Conversations via Generative Flow Networks

説明モード崩壊を超えて:生成フローネットワークによる多様な合成専門家対話の生成

要約本論文は、大規模言語モデルの学習に使う多様で高品質な合成データを、生成フローネットワーク(GFlowNets)で生成する手法を提案します。対話の潜在構造を重要な相互作用特徴上のガウス混合密度でモデル化し、専門家の戦略を学習データ内の出現割合に比例してサンプリングします。指導と感情支援の二つの領域での実験では、忠実性、モード被覆、真正性のバランスが強化学習や直接生成のベースラインより優れ、学習データの複製もないと報告されています。

Sumit Asthana, Michael Ion, Kevyn Collins Thompson

arXiv cs.CL

Evaluating Language Model Safety Across Long Adversarial Conversations

説明長い敵対的会話における言語モデルの安全性の評価(単一の有害な指示に対する安全性だけでは、継続的な攻撃に耐えられるかは分からない点を検証した論文)

要約多くの安全性評価は単一の有害なプロンプトでモデルを試すが、実際のシステムは長く適応的な会話でユーザーとやり取りする。本研究では、別の言語モデルが執拗な敵対的ユーザーを演じ、安全分類器が各応答を安全か危険かに分類する。その結果、対話の深さが増すにつれて安全な応答の割合が大きく低下した。

Parisa Salmani, Peter R. Lewis

arXiv cs.LG

Continual Learning of Dynamical Systems in Recurrent Neural Networks through Recyclable Unit Gating

説明再利用可能なユニットゲーティングによるリカレントニューラルネットワークの動的システムの継続学習

要約本論文は、リカレントニューラルネットワークが複数の動的システムを順番に学習しても、既存のシステムの振る舞いを忘れないようにする方法を扱います。パラメータ正則化、リプレイ、パラメータ分離などの継続学習手法を比較し、タスクごとのユニットを微分可能なゲートで選び、未使用のユニットを後続タスクに再利用するCRUGを提案しています。著者らは、CRUGが試した手法の中で再構成精度と容量のトレードオフが最も良く、忘却はゼロであると報告しています。

Sima Hashemi, Daniel Durstewitz, Georgia Koppe

arXiv cs.CL

Halluscoring 2026: The first shared task on llms hallucination detection and answer verification

説明HalluScoring 2026:大規模言語モデルの幻覚検出と回答検証に関する初の共有タスク

要約本論文は、アラビア語の質問応答における幻覚検出と事実検証を評価するための共有タスクHalluScoring 2026を紹介します。2つのタスクと4つのサブタスクから成り、HalluScoreとHalluTruthQAというアラビア語データセットに基づいています。13チームが参加し、うち10チームがシステム説明論文を提出しました。結果として、幻覚検出は依然として難しく、タスク1の最高AUC-ROCは0.7717と0.7670でした。支援評価下でのタスク2の最高総合スコアは0.8824と0.8565でした。

Aisha Alansari, Abdessalam Bouchekif, Ahmed Hasanaath ほか

arXiv cs.IR · cs.AI

TAGGRAPH: Tag-Augmented Graphs for Graph Retrieval of Agent Persistent Histories

説明TAGGRAPH:エージェントの永続履歴をタグ付きグラフで検索する研究

要約本論文は、LLMエージェントの長期記憶システムを、共通の対話記憶を用いて比較するための統制された評価枠組みを提示しています。LongMemEval-Sでは、グラフ構成の中ではAdaptiveGraphが最良(MRR 0.844)ですが、BM25(0.867)とOpenClaw(0.880)がそれを上回りました。ATANT Coreでは局所的なグラフ走査が拡散法やBM25より優れていました。著者らは、検索戦略は記憶の設定とともに、強い語彙ベースの基準と合わせて評価すべきだと述べています。

Yu-Shu Chen, Yu-Jung Liang, and Pengtao Xie

arXiv cs.LG · cs.AI

MILO: Automated Harness Discovery via Orchestrated Multi-Agent Evolution

説明MILO:マルチエージェント進化によるハーネスの自動発見(エージェント実行基盤の自動設計)

要約本論文は、エージェントの実行制御基盤(ハーネス)と、それを探索する戦略を同時に進化させるMILOフレームワークを提案する。Terminal-Bench 2.1、PaperBench、DeepSWEにおいて、MILOが発見したハーネスは、フロンティアモデルとオープンウェイトモデルの双方で、八つの最先端ハーネスと六つの探索手法を上回ったと報告している。また、EinsteinArenaの未解決問題では、いくつかの既知の上界を改善したとされる。

Prithwish Jana, Mononito Goswami, Hao Liu ほか

arXiv cs.LG

Function-Space Transformer with Adaptive Anchors

説明適応アンカー付き関数空間Transformer:連続関数を学習する新しい枠組み

要約本論文は、入力に応じて空間配置を適応的に決める連続潜在表現で関数を学習する関数空間Transformer(FST)を提案します。特徴はアンカーに保存され、関数空間での相互作用によって再帰的に洗練されます。PDEBenchのBurgers方程式とDarcy流れの偏微分方程式の解予測では、Perceiver IOを大きく上回り、フーリエニューラルオペレータ(FNO)と高い競争力を示しました。ImageNet-1Kでは、ViTベースラインより少ないパラメータで高い分類精度を達成しています。

Guorui Sang, Pedram Rooshenas

arXiv cs.CV

TrackFish3D: Self-Supervised 3D Tracking of Schooling Fish from Multi-view Videos

説明TrackFish3D:多視点動画からの群游魚の自己教師あり3D追跡

要約本論文は、校正済みの多カメラ幾何情報だけで学習する自己教師あり3D追跡手法TrackFish3Dを提案し、群れで泳ぐ魚の密な軌跡追跡を行います。個体IDの注釈や3D正解データは不要で、ラベルなし映像で一度学習すれば未見の試験動画にそのまま適用できます。著者らのベンチマークでは3D多物体追跡精度(MOTA)が、最良のベースラインの87.7%から95.8%に向上しました。3D-ZeFゼブラフィッシュ・ベンチマークでは81.1%を達成し、最良の幾何ベースラインの77.4%を上回りました。

Patt Phurtivilai, Zhiyang Dou, Yifan Wu ほか

arXiv cs.AI

Examining Variation in How Guided AI Tutors Resolve Student Impasses

説明誘導型AI家庭教師は学習者の行き詰まりをどう解消するか

要約本研究は、化学のLLM家庭教師との実際の1,260セッション(学習者の発話20,462ターン)を分析し、概念的誤り、不確かさの表明、助けの要求という3種類の行き詰まり6,630件を特定しました。3つの家庭教師条件を模擬比較した結果、行き詰まりが1ターン増えるごとに次のターンで回復する確率は12.7%低下しました。行き詰まりの深さと種類は、リアルタイムで段階的な支援を行うための観測可能な信号になり得ると示唆しています。

Bakhtawar Ahtisham, Kirk Vanacore, Alessandra Napoli ほか

arXiv cs.SE · cs.AI · cs.CL

OpenCollab: A Multi-Agent Coding Framework with Programmable Collaboration and Controllable Runtime

説明OpenCollab:プログラム可能な協調と制御可能なランタイムを備えたマルチエージェント・コーディング基盤

要約本論文は、マルチエージェントによるソフトウェア開発を統一的に設計・実験できる基盤 OpenCollab を提案しています。組織設計を一元化し、共有ランタイム上で実験条件を制御し、細粒度のイベントログで実行を追跡します。また、宣言された組織が実際に守られているかを測る指標 Adherence を定義し、構成を変えると 47.2% から 97.2% まで変動することを報告しています。複数のコーディング評価で、OpenCollab(Duo)が Mini-SWE-agent、OpenHands、Codex CLI、Claude Code などと比べて新たな SOTA を示したとされ、単一エージェント構成は全評価セットでトークン使用量が最少でした。

Chun-Wah Hsu, Kai Gong, Yu Wu ほか

arXiv cs.CV

Learning Semantic Inpainting for Animatable Gaussian Head Avatars

説明アニメーション可能なガウス頭部アバターのための意味的インペインティング学習(SInGA)

要約本論文は、単一画像からアニメーション可能なガウス頭部アバターを学習する手法SInGAを提案する。UV空間で定義した意味的インペインティングの枠組みにより、顔の対称性などの手がかりを用いて未観測領域を補完し、その表現からガウス属性を回帰する。各位置に複数のガウスを積み重ねて細部を強化している。実験では、個人ごとの最適化なしで汎化し、完全性と同一性の保持が改善されたアバターを生成し、駆動入力によるアニメーションや未観測視点からの一貫した描画を支えることが示された。

Pilseo Park, Fizza Rubab, Yiying Tong

arXiv cs.LG

Activation-Conditioned Self-Distillation

説明活性化条件付き自己蒸留:参照解答を使わない推論学習法

要約本論文は活性化条件付き自己蒸留(ACSD)を提案しています。正解に到達した自己生成軌跡と残りの軌跡の活性化を比較して操舵ベクトルを抽出し、凍結したベース모델がこれを各予測位置に適用します。生徒モデルは生成した接頭辞上での次トークン分布から学習し、蒸留には問題固有の参照文も教師のパラメータ更新も不要です。推論時は生徒モデルのみを使用します。五つのモデルで数学ベンチマークの平均精度が最も高かったと報告されています。

Zhexi Lu, Subhajit Chaudhury, Tejaswini Pedapati ほか

★★★★☆ 注目
arXiv cs.AI

CARAT: Do Materials LLMs Reason or Recite?

説明CARAT:材料LLMは推論しているのか、それとも暗唱しているのか?

要約本論文は、材料分野のLLMが結晶構造に関する質問に答える際、構造から推論しているのか、入力に既に書かれた答えをコピーしているのかを検証するCARATという評価枠組みを提案しています。質問と正解を固定した八種類の入力形式を比較し、近道を検出する仕組みを設けて検証を行っています。その結果、モデルは関係を繰り返すだけで実際には使っていない場合が多いことが示され、一定の教師あり学習後にはその挙動が変化しました。

注目点一致したビューと答案マスキング、ショートカット除去により推論と暗記を区別し、基準との交絡を明らかにする。方法論に新しさがあり、証拠は比較的確かである。

Jiajun Wu, Jian Yang, Zixiang Ni ほか

arXiv cs.SE · cs.AI

E2E-SWE: Benchmarking LLMs on Building Working Codebases from Scratch

説明E2E-SWE:ゼロから動くコードベースを構築する LLM のベンチマーク

要約本論文は、コーディングエージェントが完全で動作するソフトウェアリポジトリをエンドツーエンドで構築できるかを評価するベンチマーク E2E-SWE を提案している。11 のプログラミング言語にまたがる 186 件のリポジトリ全体生成タスクを含み、エージェントは自然言語の仕様と空のワークスペースのみを与えられ、非公開のテスト群を満たすプロジェクトを実装する。13 の最先端モデルの評価では、pass@1 が 11.7% から 67.7% まで大きく変動し、モデル間の差がはっきり示された。

Hantian Ding, Chloe Bi, Jiacheng Zhu ほか

arXiv cs.CL

EVOKE: Eliciting World Knowledge in Agents for Transferable Decision-Making

説明EVOKE:エージェントに内在する世界知識を引き出し、転移可能な意思決定を実現する手法

要約大規模言語モデルを多段階の意思決定エージェントとして使うと、未知の環境への汎化が弱いという課題があります。本論文は、状態と履歴を固定し、同じ候補行動を異なる目標の下で順位付けする後学習手法EVOKEを提案します。これにより、事前学習で得た世界知識を引き出すことを狙います。著者らは3種類の基盤モデルと多様なタスクで、性能、未知環境への汎化、データ効率の向上を報告しています。

Yuhan Guo, Jinming Liu, Liang Xu ほか

arXiv cs.LG · cs.AI · cs.CL

Hermes: Learning Contextual Reasoning Unlocks Test-Time Scaling

説明Hermes:文脈推論の学習でテスト時スケーリングを引き出す

要約推論時に複数のコンテキストウィンドウへ計算資源を配分する際、新しいコンテキストの割り当てと情報の引き継ぎをモデル自身が決める「文脈推論」能力を扱う論文です。著者らは、コンテキストの配分と再利用に対するモデルの制御度を段階的に変えられる簡易な設定可能ハーネス群 Hermes と、その能力を学習する二段階の枠組み Hermes-Learn を提案しています。能力の高いモデルは推論計算の増加に応じて性能を伸ばせる一方、小規模なオープンソースモデルは当初それが難しいことが示され、Hermes-Learn による訓練でその差が埋まるとされています。

Xinyu Li, Mononito Goswami, Hao Liu ほか

arXiv cs.CV

ExploreNet: Learning Where to Explore in Diffusion GRPO

説明ExploreNet:拡散GRPOで「どこを探索すべきか」を学習する手法

要約Flow-GRPOなどのグループ相対型強化学習による画像生成では、各デノイジングステップで等方的ガウスノイズを加えて探索を行いますが、このノイズは潜在変数のすべての要素に同じように作用します。本論文は、潜在要素ごとに生成画像への影響度が異なることに着目し、探索分布を適応的に学習するExploreNetを提案します。Stable Diffusion 3.5 MediumでのGenEval2の保留データ評価では、Flow-GRPOより14%向上したと報告されています。

Shuyue Stella Li, Xiaochuang Han, Yulia Tsvetkov ほか

arXiv cs.MA

Absorbing State Phase Transitions in Multi-Agent Search

説明マルチエージェント探索における吸収状態相転移

要約本論文は、統計力学の吸収状態相転移の枠組みを用い、大規模言語モデル(LLM)ベースのマルチエージェント探索タスクの成否を予測することを目指す。探索タスクを4種類に分類し、各エージェントが通信すべき相手数の臨界値 d_c を理論的に導出している。実際の探索・発見タスク、ソフトウェア設定のデバッグ、物理機構の発見で評価した結果、理論との一致は一貫していなかった。

Wenwen Zheng, Yuzhe Yang, Helen Qu ほか

arXiv cs.CV · cs.GR

Strike a Chord! Modal Kinetic Typography

説明モーダル・キネティック・タイポグラフィ:文字を楽器のように振動させる手法

要約本論文は、ベクター字形自身の柔らかい振動モードを有限要素の固有値問題で求め、それを基にアニメーションを作る「モーダル・キネティック・タイポグラフィ」を提案しています。凍結された動画拡散モデルは、これらモードの振幅と位相のみを制御し、読みやすさを保ったまま意味概念を表現します。従来の自由な点最適化より滑らかで輪郭が裂けにくく、人間の評価者からも高く評価されたと報告されています。

Maham Tanveer, Jiyeon Han, Nanxuan Zhao ほか

arXiv physics.soc-ph · cs.CL · cs.MA

Multi-agent discussion gains less when dissent is withheld

説明異論を控えると効果が下がるLLMエージェントの議論

要約本論文は、LLMのマルチエージェント議論が正確さを高めるかについて報告が食い違う理由を、簡潔なモデルで説明します。モデルは、異論を控える、表明された答えを内面化する、異論を見て再考する、正しい答えへ修正する、という4つの振る舞いから構成されます。異論の控えが臨界値未満のときにのみ、議論は誤った初期多数派を覆せることを示しています。異論を控えないよう指示することや推論をオフにすることで、議論による効果は高まると報告されています。

Chand Sahil Mansuri, Xin Wang, Mengying Li ほか

arXiv astro-ph.IM · cs.LG

Gestalt: a meta-foundation model for astronomy

説明Gestalt:天文学向けのメタ基盤モデル

要約本論文は、8つのモデル系統からなる22個の固定済み汎用基盤モデルで画像を埋め込み、それぞれを白色化したうえで埋め込みを連結し、ランダム化SVDで1024次元に圧縮する手法を提案している。HSC、JWST、DESI Legacy Surveyの銀河画像において、物理量と銀河形態の推定に関する21指標中19指標で、個々のモデルより高い性能を示した。モデル数と構造的多様性が増すほど性能が向上すると報告されている。

Michael J. Smith, Shashwat Sourav

arXiv hep-ph · astro-ph.CO · cs.AI

Searching for BSM Experimental Signatures with Large Lagrangian Models

説明大規模ラグランジアンモデルによる標準模型を超える実験的シグナルの探索

要約本論文は、強化学習と大規模言語モデルを組み合わせた hAIthem フレームワークを提案し、既存の制約を満たさずに残る理論パラメータ空間の領域を探索します。単一の暗いスカラー多重項モデルを対象とした概念実証では、進化的アルゴリズムの基準手法より多くの実現可能な領域を見つけたと報告されています。また、既存の観測量の組み合わせとして、古代検出器への適用などの提案も示されています。

Ibrahim Elsharkawy, Victoria Knapp-Perez, Wahid Bhimji ほか

arXiv cs.CV

Point2Part: Unified 3D Partitioning from Point Prompts

説明Point2Part:点プロンプトによる統一的な3D部品分割手法

要約既存の3D部品分解手法は、元の形状を重なりなく全体を覆う部品に分けるとは限らず、重なりや欠けが後段の部品単位の応用を妨げていました。本論文は、ユーザーが3D点プロンプトで必要な部品を指定すると、形状全体を完全に分割した対応部品を出力するプロンプト可能なモデルを提案します。事前学習済みの3D生成モデルを基盤とし、画像からの部品生成、メッシュからの部品生成、部品セグメンテーションを共通の形状潜在空間で統一的に扱います。論文では、3つのタスクすべての部品品質指標で既存手法を上回ったと報告しています。

Hao-Tang Tsui, Yu-Rou Tuan, Xiaoxuan Ma ほか

arXiv cs.RO · cs.AI · cs.LG

Skill-Space Shooting for Autonomous Robot Policy Improvement

説明スキル空間シューティングによるロボット方策の自律的改善:再利用可能なスキルを使い、失敗から方策を自ら修正する手法

要約本論文は、基礎モデルの指導のもとで再利用可能な短いスキルを通じて修正動作を探索し、成功した試行を方策の改善に変える「スキル空間シューティング(skill-space shooting)」を提案しています。実機実験では、自律的に動作する方策が繰り返し改善されることが示されており、スキルはタスク間で共有でき、新しいタスクの改善に必要な教示を減らせると述べています。

Zihang Rui, Renhao Wang, Haoxu Huang ほか

arXiv cs.CV · cs.CL

Imagine3D-LLM: Teaching MLLMs to Imagine 3D Scenes Before Answering

説明Imagine3D-LLM:回答の前に3Dシーンを想像するようMLLMを学習させる手法

要約本論文は、多視点画像から一貫した3D理解を統合することが難しいというマルチモーダル大規模言語モデル(MLLM)の課題に取り組みます。提案手法Imagine3D-LLMは、画像トークンの後に学習可能な要約トークンを追加し、それを3Dガウシアン・スプラッティング(3D Gaussian Splatting)表現に復号して測光的再構成損失で教師し、次トークン予測の目的関数と同時に学習します。著者らは、複数の空間推論および3D理解ベンチマークで既存手法を上回ったと報告しています。

Jaewoo Jung, Hyeonseo Yu, Honggyu An ほか

arXiv cs.LG · cond-mat.dis-nn · cond-mat.stat-mech

Breakdown of Local Denoising as Semantic Speciation

説明局所ノイズ除去の破綻と意味的分化:生成モデルにおける二つの時間窓の関係

要約本論文は、生成モデルの動力学にある二つの時間窓を検討する。一つは、サンプルが意味クラスを確定する分化窓、もう一つは局所的な文脈窓では生成が不十分になる非局所窓である。「共通原因」仮定の下で、非局所窓は分化窓の内部に必ず含まれることを証明している。さらに、系の規模が大きくなると両窓が単一の時刻に収束する条件(「相転移」)を示し、ガウス混合モデルで解析的に検証している。

Guangkuo Liu, Mert Okyay, Yifan F. Zhang ほか

arXiv cs.RO · cs.CV · cs.GR

Counterfactual Video Generation Enables Scalable Humanoid Loco-Manipulation

説明反事実ビデオ生成によるスケーラブルなヒューマノイドの移動・操作学習

要約本論文は、少数の実映像を映像間(V2V)生成によって多様な反事実的な人と物体の相互作用映像へ拡張するPRISMフレームワークを提案しています。接触を基準とする実から仿真への工程で人と物体の動きを再構成し、物理的に妥当な軌道に変換して単一の方策を学習します。実機への展開では実世界での微調整を行わず、未知の箱、樽、ビン、ボールなどを拾い、運び、置くことができたと報告されています。

Zihan Wang, Zhen Wu, Pieter Abbeel ほか

arXiv cs.CV

Adversarial Training for Pixel Diffusion

説明ピクセル拡散モデルの敵対的学習:敵対的学習で高周波成分の不足を補正する

要約本論文は、ピクセル拡散モデルが生成する画像で高周波の細部が不足する問題を扱っています。著者らは、事前学習済みモデルの拡散または流れ整合の目的関数を保ったまま、高ノイズでない時間ステップの予測出力に敵対的損失を加えました。アーキテクチャとサンプリング手順は変更していません。実験では、分布の忠実度、網羅性、プロンプトとの整合性、知覚品質が同時に改善し、失われていた高周波スペクトルのパワーも回復したと報告されています。試された潜在拡散の設定では、同様の総合的な改善は得られませんでした。

Xin Lin, Zhifei Zhang, Yuqian Zhou ほか

arXiv cs.CL · cs.AI · cs.LG コードあり

STEPQuant: When and Where Errors Matter in Delta-Rule Recurrent State Quantization

説明STEPQuant:デルタ則リカレント状態の量子化で誤差が問題になる時と場所

要約線形アテンションは、増え続けるKVキャッシュを固定サイズのリカレント状態に置き換えますが、これらの持続的な状態は並列サービング時に大きなメモリボトルネックになりえます。本論文は、デルタ則リカレント状態向けの時空間的な学習後量子化フレームワークSTEPQuantを提案し、誤差の大きさと状態の寿命に応じて精度を割り当て、キー行と値列のスケールを状態分布と出力誤差への影響に基づいて共同で当てはめます。公称6ビット予算でFP32状態に近い精度を示し、SGLangへの統合で循環状態を5倍以上圧縮し、総サービングメモリを最大68.7%削減したと報告しています。

Bingchen Yao, Haobo Xu, Haokun Lin ほか

arXiv cs.LG · cs.AI

LeapQuant: Efficient Linear Attention with Accurate Recurrent State Quantization

説明LeapQuant:線形注意機構向けの高精度リカレント状態量子化手法

要約本論文は、Gated DeltaNet や Kimi Delta Attention などの線形注意機構を用いる大規模言語モデルのために、学習不要の再帰状態量子化手法 LeapQuant を提案しています。トークンのウィンドウ単位で状態を一度だけ量子化して誤差の蓄積を抑え、外れ値を高精度の補償トークンとして保持します。実験では、8 ビット量子化でFP32 基準に近い精度を保ちつつ、複数の GPU で推論の高速化が示されています。

Yi Pan, Haocheng Xi, Kan Zhu ほか

arXiv cs.CV · cs.LG

Cropland PAtteRNS: Parallel Dimensional Attention Networks and Attention to Dataset Disparity for Crop Segmentation in Satellite Imagery Time Series Data

説明Cropland PAtteRNS:衛星画像時系列の作物セグメンテーションのための並列次元アテンションネットワークとデータセット差異への注目

要約本論文は、Transformer と畳み込みを組み合わせたハイブリッドモデル PAtteRNS を提案し、Sentinel-2 多光スペクトル時系列画像の時間・スペクトル・空間の各次元に個別に自己注意機構を適用します。並列 Transformer 構造により三重分解型自己注意の計算量を削減しています。PASTIS と MTLCC データセットの複数のタイルサイズで比較した結果、作物クラス分割と圃場境界の品質(Boundary IoU)で既存モデルを上回ったと報告しています。さらに、データセットのクラス分類の不備や、タイルサイズの違いによる結果の比較不能性を指摘し、標準化された構築方法の必要性を提言しています。

Joseph Metcalfe, Sara Sharifzadeh, Fabio Caraffini

arXiv cs.CV · cs.RO

Rethinking Representations for World-Action Modeling

説明世界-行動モデルにおける表現の再考:ReWAM 論文

要約本論文は、世界-行動モデルにおける表現空間の設計を対照実験で検討し、再構成精度や事前学習済み知覚特徴だけでは効果的な方策学習が保証されないことを示しています。これを受けて、事前学習済み DINO 特徴に基づく表現中心のモデル ReWAM を提案し、生成的ビデオ事前学習を用いずに RoboTwin 2.0 で 93.6% の成功率を達成したと報告しています。

Haoyi Jiang, Liu Liu, Xinjiang Wang ほか

arXiv cs.LG · cs.DM

A Spectral Theory of Distortion in LLM Graph Reconstruction: Sharp Bounds and Empirical Characterization

説明LLMによるグラフ再構成の歪みのスペクトル理論:鋭い上下界と実証的特徴づけ

要約言語モデルによるグラフ再構成の評価では、元グラフと再構成グラフ間の単一の集約距離がよく使われる。本論文は、ラプラシアン固有値スペクトル間のワッサースタイン距離が、2つの辺数指標(下からは辺数の純変化、上からは対称差)で挟まれることを証明する。上下界はいずれも2/nで尺度化され、nは頂点数である。三つのオープンウェイトモデルが生成した135件の再構成と45の合成グラフで、単方向編集と混合編集の領域を実証的に特徴づけている。

Jianru Shen

arXiv cs.SD · cs.CL · eess.AS

EmoRES-TTS: Residual-Enhanced Vector Steering for Emotional Speech Generation

説明EmoRES-TTS:残差強化ベクトル操作による感情音声生成

要約本論文は、感情指定の音声合成モデルが要求された感情を安定して表現できない問題に対し、再学習を必要としないベクトル操作手法EmoRESを提案している。感情ベクトルは、中立的表現から遠ざける共有成分と、目的の感情へ向ける残差成分に分解でき、両者を個別に制御する。IEMOCAP上で、IndexTTS-2とCosyVoice2の両モデルにおいて、ベースラインCoCoEmoより4つの客観的感情指標すべてで高い結果を示した。人間による評価でも、感情の識別率と自然さが向上したと報告されている。

Kuan-Po Huang, Haohe Liu, Puyuan Peng ほか

arXiv cs.CV

DMA²: Pixel-space Distribution Matching with Adversarial and Anchor Losses

説明DMA²:敵対的損失とアンカー損失を用いたピクセル空間の分布マッチング

要約本論文は、テキストから画像を生成する拡散モデルの少ステップ蒸馏を、RGBピクセル空間で行う手法DMA²を提案しています。固定された高ノイズ帯でのマッチングや、DINOに基づく敵対的パッチ誘導、パラメータを持たない意味分布損失AF-Lossが含まれます。著者らによれば、4ステップのDMA²学生モデルは、複数のベンチマークで25ステップの教師モデルや他の少ステップ蒸馏手法を上回るとされています。

Xin Lin, Zhifei Zhang, Yuqian Zhou ほか

arXiv cs.CV · cs.AI · cs.CL

Beyond the Timeline: Augmenting Long-Video Memory with Grounded Entity Biographies

説明時系列を超えて:根拠ある実体伝記で長尺動画の記憶を強化

要約長い動画への質問応答では、数時間や数日にわたって同じ物体が関わる出来事を結びつける必要があるが、時系列の記述や文から抽出した実体では物理的な同一性を特定しきれない。本論文は、視覚的根拠のある実体伝記(GEB)という枠組みを提案し、異なるクリップ中の同一物理実体の観察を検索可能な伝記にまとめつつ、各瞬間の文脈を保持する。四つのベンチマーク(日単位・週単位の録画を含む)で、選択式・記述式の両方で従来手法を上回り、EgoLifeQAでは正答率72.0%を達成し、既発表の最良結果を4.4ポイント上回った。

Hui Ren, Lei Fan, Henry Pao ほか

arXiv cs.CV

LongLive-Plug: Once-for-All Distillation for Video Generation

説明LongLive-Plug:動画生成のための一度きりの汎用蒸留フレームワーク

要約本論文は、単一パスの分類器フリーガイダンス、少数ステップのサンプリング、自己回帰生成における長文脈の誤り訂正といった能力を、ベースモデル上のLoRAとして一度だけ学習する蒸留フレームワーク LongLive-Plug を提案しています。これらのアダプタは、学習なしで互換性のある下流モデルにプラグアンドプレイで展開できます。著者らは、3つのバックボーン系統と8つのタスク分野にわたる54の下流モデルで、学習なしの展開を検証しています。

Shuai Yang, Luozhou Wang, Wei Huang ほか

arXiv cs.CV

PowerSim: Differentiable Physics Simulation and Rendering with Power Diagrams

説明PowerSim:パワーダイアグラムによる微分可能な物理シミュレーションとレンダリング

要約本論文は、PowerFoam(パワーダイアグラムに基づく3次元表現)で学習済みのシーンを物質点法(MPM)と直接結合するPowerSim手法を提案しています。シミュレーションによる運動が、補助的な表現を介さずに、シーンの形状と外観を直接駆動します。この枠組みにより、ユーザー操作による静的シーンの模拟、空間的に変化する材料場の復元、独立に撮影されたシーンの統合、変形に合わせて更新される反射のレイトレーシングなどの応用が示されています。

Trong-Tung Nguyen, Anand Bhattad

arXiv cs.CV

FracGen: Learning How Objects Stretch and Tear with Physics-Informed Video Generation

説明FracGen:物理情報を用いた映像生成による物体の伸びと破断の学習

要約本論文は、無傷の物体の一枚の画像から、物理信号を条件として、もっともらしく制御可能な破断過程を生成する破断認識型映像生成モデルFracGenを提案している。学習のために、材料点法に連続体損傷モデルを組み込んだ破断シミュレーションフレームワークFracSimを構築し、対になる破断映像と画素対応の物理場を得ている。実験により、FracGenは物理的および視覚的忠実度の両面で既存の映像生成ベースラインを上回ると報告されている。

Trong-Tung Nguyen, Jiahan Zhang, Anand Bhattad

arXiv cs.CL

Pretraining Latent Information Feedback Transformers with Teacher Supervision

説明教師監督で潜在情報フィードバック Transformer(LIFT)を事前学習する論文:言語モデルが生成ステップ間で内部状態を伝える方法

要約本論文は、標準的な Transformer 言語モデルがフィードフォワード構造であり、深い層の表現が浅い層へ戻されず、生成ステップ間の情報は復号されたトークンのみで伝わる点を指摘しています。著者らは LIFT(Latent Information Feedback Transformer)のアーキテクチャと学習手法を提案し、既存の事前学習済み言語モデルの次トークン分布から得た状態を教師信号として、次のトークンと次の状態を同時に予測させます。1.35 億から 10 億パラメータのモデルでの実験では、同じトークン予算のもとで、LIFT が言語モデリング、下流の推論、手続き的タスクで標準 Transformer や基準手法を上回ったと報告されています。

Dor Tirosh, Ido Amos, Mor Geva

arXiv cs.AI

Thinking Before Thinking: Scaling Agentic Inference Through Meta-Reasoning

説明思考の前に考える:メタ推論によるエージェント推論のスケーリング

要約本論文は、エージェントの実行中における制御判断(既存の作業の再利用、最初からのやり直し、停止のタイミングなど)を明示的で構造化された推論過程として扱う推論時フレームワーク「エージェント型メタ推論」を提案している。ワーカーがタスク計算を担い、コントローラーが実行結果を統合し、残りの予算のもとで各選択肢の価値を評価して作業を割り振る。ProgramBenchなどのベンチマークで、直接制御や複数のベースラインを上回り、テストした予算範囲では直接制御が頭打ちになる中でも改善が続いたと報告している。

Paras Dahal, Anton Bakhtin, Taco Cohen ほか

arXiv cs.CV

LIFT: Layout-In-Future Video Generation under Large Viewpoint Change via On-Policy Self-Distillation

説明LIFT:大きな視点変化下で同方策自己蒸留により将来レイアウトを制御する動画生成

要約本論文は、カメラ制御に将来レイアウト制御を加えた画像から動画を生成するフレームワーク LIFT を提案します。ユーザーは将来の視点、特に最終フレームに何がどこに映るかを指定できます。研究者は同方策自己蒸留(OPSD)を用いて、密なレイアウトを使う教師モデルの制御能力を、最終フレームのレイアウトのみを使う生徒モデルへ移しています。また、カメラとレイアウトの時間的一貫性の注釈を備えたデータセット LIFT-Vista も構築されています。実験では、映像品質、将来レイアウトの制御性、カメラの制御性の各面で他手法を上回ったと報告されています。

Shengxiang Ji, Boyang Wang, Haiyang Xu ほか

arXiv cs.AI · cs.CL · cs.LG

Learning Meta-Skills for Agent Harness Design in Test-Time AI4AI

説明テスト時AI4AIにおけるエージェントハーネス設計のメタスキル学習

要約この論文は、両モデルの重みを固定したまま、「ビルダー」が「ターゲット」エージェントのためによりよい実行環境を構築することを学べるかを研究しています。支援が必要な場面と提供すべきリソースを定めた原則「メタスキル」を導入し、開発セットでのターゲットの実行フィードバックから学習します。Harness-Bench と NewtonBench では、完全なスキルバンクを使ったメタスキルが、スキルなしの構築と比べて宏平均で 8.95 ポイント性能を向上させたと報告しています。

Cheng Qian, Kunlun Zhu, Beibin Li ほか

arXiv cs.AI · cs.CL · cs.LG

AdviSD: Learning to Advise Frontier LLMs via Targeted Multi-Turn Self-Distillation

説明AdviSD:的を絞った多ターン自己蒸留による最先端LLMへの助言学習

要約小型の学習可能なアドバイザーが、凍結された大規模言語モデルの実行器を自然言語の助言で導く手法を扱っています。提案手法AdviSDは、結果ベースの強化学習と、フィードバックを条件とするアドバイザーの複製からの自己蒸留を選択的に組み合わせます。論文は、一部の修正を選んで学習に使うことで性能が向上すると理論的に示し、BFCL-v3とEnvScalerでadvisor-GRPOを上回る結果と、他タスクや他の実行器への汎化を報告しています。

Rishabh Agrawal, Hejie Cui, Shasha Li ほか

arXiv cs.CV · cs.AI

Breaking the Uniformity Trap: Scaling Video Diffusion Model via SplitMoE

説明均一性の罠を破る:SplitMoEによる動画拡散モデルのスケーリング

要約本論文は、従来の視覚向け混合エキスパート(MoE)が、ルーティングの断片化と均一性を強制する正則化により、動画の時空間構造を損なうことを指摘します。著者らはSplitMoEを提案し、エキスパートを意味エキスパートと汎用エキスパートに分け、プロトタイプ誘導ルーティングと引き寄せ・押しのけ正則化によって、トークンが意味属性に従って自然にまとまるようにします。同じ活性化パラメータ数の条件で、負荷分散型MoEより収束速度、ルーティングの一貫性、生成品質が向上したと報告されています。

Yu Xu, Yuxin Zhang, Xiao Yang ほか

arXiv cs.CL

LongHarness Bench: Stress-Testing Language Model Harnesses for Long-Context Reasoning

説明LongHarness Bench:長文脈推論ハーネスを検証する負荷テストベンチマーク

要約本論文は、長文脈を扱う言語モデル・ハーネスの有効性と効率を評価するベンチマークを提案している。タスクは語彙検索や意味照合など多様な検索戦略と、全体・局所の文脈にまたがる戦略的推論を求める。四つの評価スイートにおいて、最良の組み合わせでも宏平均精度は68%にとどまった。同じモデルでもハーネスによって効率が大きく異なることから、効率を長文脈評価の重要な軸とすべきだと結論づけている。

Quang Hieu Pham, Thuy Duong Nguyen, Jocelyn Qiaochu Chen ほか

arXiv cs.CV コードあり

CLeaR: A Unified Framework for Resolving the Leakage-Degradation Dilemma in Style Transfer

説明CLeaR:スタイル転送における内容漏洩と品質劣化のジレンマを解決する統一フレームワーク

要約スタイル転送は、参照画像のスタイルで対象内容を描画することを目的としますが、既存手法では参照画像の物体、レイアウト、意味が出力に現れる内容漏洩が起こりがちです。本論文は、学習不要のフレームワークCLeaRを提案し、直交部分空間投影、複数の視覚基盤モデルにわたるアンサンブル反転、エネルギー誘導校正により、内容漏洩を抑えつつスタイルの整合性を保ちます。StyleBenchでの実験では、既存手法と比べてスタイルの整合性が向上し、内容漏洩が減少し、LLM-as-Judge評価でも良好な結果が得られたと報告されています。

Teng Zhou, Yunhao Chen

arXiv cs.LG · cs.MA · cs.RO

Multi-Agent Flow Matching with Decoupled Generative Guidance

説明分離型生成ガイダンスによるマルチエージェント・フローマッチング:複数エージェントの生成結果にハード制約を満たさせる新しい枠組み

要約本論文は、マルチエージェントのフローマッチングのための DeGG-Flow という枠組みを提案します。生成過程を制御アフィン動的システムとして表し、複数のエージェントが共同で満たす共有要件と、隣接エージェントに依存する個別要件のそれぞれについてガイダンス条件を設計し、実行可能性条件と有限時間収束保証を示しています。さらに、ガイダンスによって生じる分布のずれを特徴づける Wasserstein 上界も導出しています。多ロボットによる空間の隙間の横断と、アフォーダンス要件を伴う多物体シーン生成の実験では、訓練時に現れなかったチーム規模を含め、すべてのハード要件を満たす対象を直接生成できることが示されています。

Ruoyu Lin, Magnus Egerstedt, Fabio Pasqualetti

★★★★☆ 注目
arXiv cs.LG · math.OC · math.PR

Achieving an O(1/N) Optimality Gap in Average-Reward Weakly-Coupled MDPs

説明平均報酬の弱結合マルコフ決定過程で O(1/N) の最適性ギャップを達成

要約本論文は、N 個の小さなMDP(アーム)が複数の毎ステップ予算制約を共有する、平均報酬の弱結合マルコフ決定過程(WCMDP)を扱う。各アームは同一のモデルパラメータ、複数の行動、状態と行動に依存するコストをもつと仮定する。制約付きバンディット(restless bandits)で知られる条件に類似した条件の下で、1/√N より良い最適性ギャップが得られることを示し、O(1/N) の最適性ギャップを達成する方策を設計している。この方策は優先順位付けには基づかず、局所的に線形な平均場ダイナミクスを誘導するように設計されている。

注目点RBでのO(1/√N)最適性ギャップを一般的なWCMDPでO(1/N)へ改善し、優先順位によらない方策を理論的に示している。

Yige Hong, Xiangcheng Zhang, Qiaomin Xie ほか

arXiv cs.CV · cs.LG

It Takes Little to Rewrite Perception: Targeted Semantic Substitution in Vision-Language Models at ε ≤ 4/255

説明わずかな摂動で視覚言語モデルの知覚を書き換える:ε≤4/255 でのターゲット意味置換

要約本論文は、敵対的摂動によって視覚言語モデル(VLM)をどこまで制御できるかを検討します。ホワイトボックス条件で、元画像の各ストリームを、被攻撃モデルのマージ後トークン空間において目標画像の対応部分に揃えます。目標の名称・存在確認・元対象の否定を同時に行う厳しい成功基準で評価し、ε=4/255 では画像の完全置換が38%、ε=1/255 では動画の完全置換が35.9%に達したと報告しています。

Binchi Zhang, Apurva Narayan, Atrisha Sarkar

arXiv cs.CV · cs.MM · cs.SD

HelixWorld: A Real-time Interactive Audio-Visual World Model

説明HelixWorld:リアルタイム対話型の視聴覚ワールドモデル

要約本論文は、ユーザー操作に応じて映像とカメラ視点に沿って変化するステレオ空間音を同時に生成する、リアルタイム対話型の視聴覚ワールドモデルHelixWorldを提案しています。真のステレオ音響と計量的なカメラ姿勢を持つデータセットを構築し、双方向の教師モデルを数ステップの流動的な生徒モデルへ蒸馏して、単一GPUで24 FPSの視聴覚同時生成を実現しています。また、空間音響の一貫性を評価するHelixBenchも導入されています。実験では、視覚的忠実度と応答性は既存の無音ワールドモデルと同等で、カメラに整合した空間音響の没入感では基準手法を大きく上回ることが示されています。

Lei Ke, Jiahao Pan, Zeyue Tian ほか

arXiv cs.LG

WUSH-KV: KV Cache Quantization with Data-Adaptive Transforms

説明WUSH-KV:データ適応型変換による KV キャッシュ量子化手法

要約長い文脈での推論では、KV キャッシュのメモリと帯域幅のコストが文脈長とバッチサイズに伴って増加します。本論文は低ビット KV キャッシュ量子化のための WUSH-KV を提案し、キャリブレーションデータを用いて key と value それぞれのデータ認識型変換を構築して量子化誤差を減らします。SGLang に統合して端到端で評価した結果、2 ビットでは評価したすべてのモデルと下流タスクで OSCAR 変換と同等かそれ以上の性能を示しました。

Jiale Chen, Vage Egiazarian, Eldar Kurti\'c ほか

arXiv cs.AI · cs.SY · eess.SY

Stochastic World Models for Verifying Vision-Based Neural Feedback Systems

説明視覚ベースのニューラルフィードバックシステムを検証するための確率的ワールドモデル

要約本論文は、視覚ベースのニューラルフィードバックシステムを検証する際の知覚代理として、生成敵対的ネットワーク(GAN)に代えて確率的ワールドモデルを提案している。標準的な検証器が上下限を与えられる演算から構成された、物理的根拠のある潜在変数を持つモデルを学習し、保持されたフレームをパラメータ数が最大130倍のGAN代理より忠実に再現する。緊急ブレーキのベンチマークでは、この手法が状態空間全体を解決し、従来の最先端検証器が未解決のまま残した38%を含む。RGB版のベンチマークでは、ワールドモデル代理で状態空間の80%超を解決したと報告している。

I. Samuel Akinwande, Mykel J. Kochenderfer, Clark Barrett

arXiv cs.CV

VideoLoop: Looped Working Memory Against Semantic Thrashing in Long-Form Video Agents

説明VideoLoop:長尺動画エージェントの意味的スラッシングを防ぐ循環型ワーキングメモリ

要約本論文は、長尺動画理解においてマルチモーダルエージェントが陥る「意味的スラッシング」(追記のみのワーキングメモリで重要な証拠への注意が低下する現象)を扱います。提案手法VideoLoopは外側と内側の二重ループを持ち、内側ループは過去の観察結果から成果物を検索して有界なワーキングメモリを書き換えます。VideoMME(long)では四つのLVLMバックボーンで平均4.2ポイント向上し、Gemini 3.1 Proを用いた場合は88.3%に達したと報告されています。

Jianming Xu, Jinfa Huang, Jingyang Lin ほか

arXiv cs.CV コードあり

GA-EIRFS: A Geometry-Augmented Repeat-Factor Sampling Method for Long-Tailed LiDAR 3D Object Detection

説明GA-EIRFS:ロングテール LiDAR 3D 物体検出のための幾何拡張型リピート係数サンプリング手法

要約本論文は、ロングテールの 3D 物体検出を単なるクラス頻度の問題として扱うのではなく、LiDAR 点群における物体の幾何学的な観測しやすさも考慮すべきだと指摘します。著者らは、頻度ベースのリピート係数を、点数・表面法線エントロピー・表面被覆度の 3 つの幾何スコアで調整する GA-EIRFS を提案し、検出器と推論は変更しません。nuScenes では CenterPoint と PointPillars を用いた実験で mAP と NDS の向上が報告されていますが、KITTI の結果は乱数シードによってばらつきがあります。

Taufiq Ahmed, Constantino \'Alvarez Casado, Daniel Herrera Castro ほか

arXiv cs.CV

Self-Aligned Forcing: Streaming Video Diffusion with Differentiable Noisy History

説明自己整合強制:微分可能なノイズ付き履歴によるストリーミング動画拡散

要約本論文は、自己整合強制(SAF、Self-Aligned Forcing)という学習手法を提案し、自己回帰型の動画拡散によるストリーミング生成で長い生成過程に蓄積する誤差を抑えることを目指しています。各ブロックの履歴を、除去中のブロックのノイズレベルに合わせて整合させ、履歴を微分可能な状態に保ちます。その結果、既存手法より最大1.8倍速く、メモリも少なく学習でき、4基のGPUでは49.1 FPSに達したと報告されています。

Weiqiang Wang, Zhuokun Chen, Yusheng Dai ほか

arXiv cs.MA

IMPACT: Modeling Socially Interdependent Movement in a Generative Multi-Agent Simulation of a Pompeian Household

説明IMPACT:ポンペイの住居を対象とした生成型マルチエージェント・シミュレーションにおける社会的に相互依存した移動のモデル化

要約本論文は、文化固有の役割と義務を用いてエージェントの活動間の依存関係を定義し、他者の行動に応じて移動が変化するIMPACTアーキテクチャを提案している。十体のエージェントが相互依存的な役割を担う五時間のポンペイの夕食シミュレーションに実装し、アブレーション評価では三十七人の参加者が完全版をより社会的に一貫しており信憑性が高いと評価した。六人の考古学専門家へのインタビューでは、歴史的に妥当な移動パターンが指摘された。

Tianqi Liu, Nayoung Kim, Julia Sebastien ほか

arXiv stat.ML · cs.LG

ReCIRC: Rectified Conformal Risk Control

説明ReCIRC:補正付きコンフォーマル・リスク制御(ブラックボックス予測の入力ごとの誤り率を制御する論文)

要約この論文は、ブラックボックス予測モデルで課題に関わる誤り率を制御する必要がある場面を扱います。たとえばセグメンテーションでの病変ピクセルの見落としや、多ラベル分類でのラベルの見落としです。既存のコンフォーマル・リスク制御(CRC)は全入力に共通の閾値を用いるため、保証は周辺的なものにとどまり、簡単な例を過剰に保護し難しい例の保護が不足することがあります。ReCIRCは各入力の局所リスク曲線を反転させ、閾値を共通の目標条件付きリスクを表すリスク予算として再パラメータ化し、その族にCRCを適用します。合成データ3種と実データ5種の設定では、いずれもReCIRCが平均の最悪グループリスクと正のグループ超過量を最も低く抑え、周辺リスクは目標付近に保たれました。

Bruno Marcondes e Resende, Helton Graziadei, Thiago Rodrigo Ramos ほか

arXiv cs.CL · cs.CV

From Routing Signals to Selective Review: Visual regrounding in MoE VLMs

説明ルーティング信号から選択的レビューへ:MoE視覚言語モデルにおける視覚的再グラウンディング

要約視覚言語モデルは、対象物体が画像に存在しなくても、その色・数・位置などについて答えてしまうことがあります。本論文は、混合エキスパート(MoE)視覚言語モデルの内部ルーティング判断を利用して、生成前に対象の不在を検出し、選択的な修正を行う初めての枠組みを提示します。2つのモデルそれぞれに線形検出器を学習させ、ルーティング情報のみで検出性能を示すとともに、モデルの重みを変更せずに端到端の精度向上を報告しています。

Hongzhu Guo, Mohsen Fayyaz, Nanyun Peng

arXiv cs.CL · cs.AI · cs.LG

How Local Mixing Encodes Relative Position in Global NoPE Attention

説明グローバル NoPE アテンションにおいて局所混合が相対位置をどう符号化するか

要約本論文は、グローバル注意の層で明示的な位置符号化を用いない(NoPE)ハイブリッドモデルが、なぜ暗黙的に位置を符号化できるのかを説明しています。著者らは、スライディングウィンドウ注意(SWA)と門付き線形注意が残差ストリームに直近性バイアスを生じさせ、それがグローバル注意の logits に伝わって選択されると主張しています。このバイアスは長い系列でも維持されるとされています。

Cutter Dawes, Nick Alonso, Tom Figliolia ほか

arXiv cs.AI · cs.LG

Do LLM Agents Execute the Plans They Declare? From Planning-Mode Declaration to Pattern-Specific Execution

説明LLMエージェントは宣言した計画を実際に実行するのか?計画モードの宣言からパターン別実行までの研究

要約本論文は、大規模言語モデル(LLM)エージェントが計画を宣言する段階と実際に実行する段階の間にあるギャップを検証します。提案手法「Planning-as-Routing」では、LLMが事前定義・逐次・階層・探索の4つの計画モードから一つを宣言し、決定的なルーターが対応する専用実行器に課題を振り分けます。4つのベンチマークと3つのLLMでの実験により、汎用のPlan+ReActは宣言した計画構造を保てないことが多い一方、専用実行器は成功率を大きく向上させることが示されました。ただし、各課題に最適なモードをLLMが安定して選べるかは未解決とされています。

Subba Reddy Oota, Francisco Herrera, Jordi Cabot Sagrera ほか

arXiv cs.CL · cs.AI

Correct Answers, Invalid Traces: What Verifiable Grade-School Math Reveals About Chain-of-Thought Traces

説明正解でも無効な推論過程:検証可能な小学算数問題が示す思考連鎖の限界

要約本論文は合成小学算数ベンチマーク iGSM を用い、モデルが生成した思考連鎖を段階ごとにプログラムで検証しています。最も難しい問題では、正解の 31.6% に無効な推論過程が伴っていました。学習データの推論過程の一部をシャッフルしても、分布外でほぼ正答率を保ったことが報告されています。

Ratish Puduppully, Pranabendu Misra, Paarth Iyer ほか

arXiv cs.SD · cs.CL

Pruning for Efficiency, Paying in Fairness: Demographic Disparities in Pruned Speech-LLMs

説明効率のための剪定、公平性で支払う:剪定された音声LLMにおける人口統計的格差

要約本論文は、音声エンコーダの剪定(プルーニング)がSLAM-ASRの異なる人口統計グループに与える影響を、Fair-SpeechとCommon Voiceのデータセットを用いて調べています。剪定は全グループに均等に影響せず、最良と最悪のグループの差が広がることが分かりました。LoRA適応は全グループの性能を改善しますが、既に性能の高いグループでより大きな効果が出ます。著者らは、剪定モデルの導入ではグループごとの単語誤り率を確認し、最悪グループの誤り率を明確な基準とすべきだと提案しています。

Ganesh Pavan Kartikeya Bharadwaj Kolluri, Michael Kampouridis, Ravi Shekhar

arXiv cs.LG

Explore Broadly, Reason Sharply: Push Small Models toward the Frontier via Sampling

説明広く探索し、鋭く推論する:サンプリングで小型モデルをフロンティアへ

要約本論文は、推論時のサンプリングによって大規模言語モデルの推論能力を高める並列べき乗鋭化テンパリング(PPT)を提案する。追加学習や外部報酬は不要で、異なる鋭化度の相互作用するレプリカを並列に走らせ、低い鋭化度では多様な推論経路を探索し、高い鋭化度では高尤度の回答を活用する。実験では、単一チェーンのべき乗鋭化サンプリングを大きく上回り、強化学習で後処理したモデルを上回るとされ、フロンティアモデルに匹敵する性能も示したという。

Panagiotis Theodoropoulos, Nan Jiang, Xintong Duan ほか

arXiv cs.AI · cs.CY

AI Agents are Vulnerable to Radicalization

説明AIエージェントは過激化しやすいことを示す論文:LLM同士の対話で信念が極端化

要約本論文は、人口統計・心理属性に基づく人物を演じる対象LLMと、その信念をより極端にしようとする影響LLMとの会話をシミュレーションしています。過激化の経路として、既存の信念を強める「共鳴」と、重要視していなかった信念を押し付ける「説得」を検討しました。両方式で対象が過激化し、共鳴の方が効果が一貫して強く、関連する信念にも波及することが分かりました。パーソナライズされたAIエージェントやマルチエージェント環境への懸念が示されています。

Ozgur Can Seckin, Shalmoli Ghosh, Alessandro Flammini ほか

arXiv cs.IR · cs.CL コードあり

Effective Dense Retrieval using Only In-Context Examples

説明文脈内の例示だけで実現する効果的な密ベクトル検索

要約本論文は、学習を行わず、少数の文脈内例示だけでデコーダ型大規模言語モデルを密ベクトル検索に使えるかを検討しています。提案手法RICE(Representations from In-Context Examples)は、クエリと文書の符号化に共通の文脈を与える例示でモデルを条件付け、高品質な表現を抽出します。その結果、RICEの埋め込みはプロンプトベースのLLM埋め込みの精度を大きく向上させることが示されています。

Nour Jedidi, Abdul Basit Ali, Hang Li ほか

arXiv cs.AI

NeuronEye: Query-Guided Visual Concept Activation for Vision-Language Reasoning

説明NeuronEye:クエリ誘導型の視覚概念活性化による視覚言語推論

要約現在の視覚言語モデル(VLM)は、物体の同一性や空間配置などの視覚情報を高密度な隠れ状態に混在させて符号化しているため、言語クエリに必要な視覚的根拠だけを取り出すことが難しいとされています。本論文は、中間表現から疎な概念レベルのニューロン語彙を構築し、クエリに関連する視覚概念を活性化して対応するパッチを特定する、プラグイン型のフレームワーク NeuronEye を提案しています。Qwen2.5-VL-7B では、CV-Bench の総合精度が 3.1 向上し、Distance では 9.5 向上、BLINK Multi-view では 8.3 向上したと報告されています。

Ruiyu Yan, Bowen Chen, Shaowen Wan ほか

arXiv cs.LG

Tail-Influence Sampling for CVaR Policy Evaluation

説明CVaR方策評価のための裾影響サンプリング

要約本論文は、固定された評価予算のもとで、方策の条件付きバリュー・アット・リスク(CVaR、下側裾の損失期待値)をいかに正確に推定するかを扱います。各条件付き分布について裾影響度を定義し、それに基づいて問い合わせを再配分するTail-Influence Sampling(TIS)とその訪問アンカー型を提案しています。CliffWalkingおよび言語モデルのレビュー工程での実験では、学習された占有度法や完全なロールアウトより平均二乗誤差が小さいと報告されています。

Pauline Bourigault, Xiaotong Ji, Matthieu Zimmer ほか

arXiv cs.LG

Probe-Space Preconditioning for Fast and Stable Zero-Order Training

説明プローブ空間前処理による高速・安定なゼロ次訓練法

要約本論文は、ゼロ次最適化(ZOO)の収束が逆伝播法に劣る問題に取り組む。まず計算予算を多数のステップから、多数の摂動(プローブ)を含む大きな実効バッチへ振り分けることで、1SPSA(Spall, 1992)がMeZO(Malladi et al., 2023)より少ない計算量で上回ることを示す。次に、各ステップで1回の通常の前向き計算を加えてプローブ空間の対角前処理器を求める1.5-SPSAを提案し、収束を改善する。6つの後学習データセットでの結果として、最先端の成果を少ないステップ数で達成したと報告している。

Francois Chaubard, Mykel J. Kochenderfer, Chris R\'e

arXiv cs.LG · hep-ph

Dimensionally consistent surrogate modelling through dimensional analysis and harmonic expansions

説明次元解析と調和展開による次元整合的な代理モデリング

要約本論文は、次元同次性を満たす代理モデルをデータ駆動で構築する手法を提案します。測定変数の次元行列からBuckingham Π群を導き、許容される次元的前因子を作り、正規化された不変量領域上の打ち切り調和展開で残りの無次元依存関係を近似します。係数は正則化された線形回帰で求めます。単振り子、プランクの黒体放射則、二重振り子のLyapunov場、COBE/FIRAS実験の黒体スペクトルデータで検証し、次元制約が制約なしの基準手法より条件数、ノイズへの頑健性、サンプル効率を改善することを示しています。

Ernest Tarrus, Hector Gisbert

arXiv cs.AI

Character Training for Risk-Averse Agents

説明リスク回避型エージェントのためのキャラクター訓練

要約本論文は、キャラクター訓練(character training)によってAIエージェントにリスク回避的な傾向を持たせ、不整合なエージェントが壊滅的な害を引き起こすことを抑える方法を提案しています。著者らは、エージェントの資源に対する定数絶対リスク回避(CARA)を記述したモデル憲章を作成し、オンポリシー蒸留によってモデルに組み込みました。その結果、キャラクター訓練を受けたモデルは、ベンチマークの決定形式を学習していないにもかかわらず、直接訓練された基準モデルと競合し、四つのモデルのうち二つでは分布外汎化性能も優れていました。

Arav Dhoot, Punya Syon Pandey, Jamie Johnson ほか

arXiv cs.LG

Mira: Memory-Efficient MoE Inference Using Adaptive Caching and Predictive Expert Staging

説明Mira:適応キャッシュと予測型エキスパート・ステージングによるメモリ効率の良い MoE 推論

要約本論文は、単一 GPU 上で大容量の MoE(Mixture-of-Experts)モデルを推論できるよう、アルゴリズムとシステムを協調設計した手法 Mira を提案している。各層の軽量予測器で二層先のエキスパート使用を予測し、二段構成のキャッシュと専用の量子化形式を組み合わせて、転送による停止を減らす。実験では、メモリ制約のある GPU で既存のベースラインと比べ、平均スループットが 5.71 倍、Time-to-First-Token が 11.71 倍、ビームサーチ推論の平均速度が 3.84 倍になったと報告されている。

Sanjali Yadav, Bahar Asgari

arXiv cs.CE · cs.AI · cs.LG

Neural topology optimization of ship structures under propulsion machinery vibrations

説明推進機械振動下における船舶構造のニューラルトポロジー最適化

要約本論文は、有効入力パワー(AIP)を目的関数とし、畳み込みKolmogorov-Arnoldネットワーク(KATO)によるニューラル再パラメータ化トポロジー最適化を強制振動設計に拡張する手法を提案しています。100 Hzの甲板パネルと18 Hzのスラスタ基礎フレームを対象に、GCMMAと比較しています。KATOは連結した設計を保ちつつAIPを低減し、計算は6.4〜10.4倍高速だと報告されています。

Shengyu Yan, Muhammad Muztahidul Hakim Zareer, Jasmin Jelovica

arXiv cs.CV

VISTA: Internalizing Collective Visual Experience via On-Policy Distillation for Active Multimodal Agents

説明VISTA:オンポリシー蒸留により集合的な視覚経験を内在化する能動的マルチモーダルエージェント

要約本論文は、視覚ツールを使って推論中に証拠を集める能動的マルチモーダルエージェントの学習手法VISTAを提案します。同じ入力から得た複数の対話軌跡の観察を共有の教師信号にまとめ、経験を条件とする教師モデルが生徒モデルの応答接頭辞を評価することで、ある軌跡での発見を別の軌跡の学習に活かします。論文は、同程度の規模の評価対象の中で平均性能が最も高く、細粒度の知覚と汎用推論の課題で同じ基盤モデルの学習ベースラインを上回ると報告しています。

Zheng Jiang, Houde Qian, Yiming Chen ほか

★★★★☆ 注目
arXiv cs.LG · q-bio.NC · stat.ML

Traversing the solution space of neural networks with Hessian Null Space Continuation

説明ヘッシアン零空間継続法によるニューラルネットワーク解空間の探索

要約本論文は、ヘッシアン零空間継続法(HNC)を提案します。これは局所曲率を用いて、ネットワークの機能を保つ重み空間の領域を移動し、指定した性質を持つ解へ誘導できる手法です。記憶課題のRNN、ImageNetで学習したVision Transformer、強化学習エージェントで検証され、同じ学習解の近くに、振る舞いを保ったまま内部表現が大きく異なる解が多数存在することが示されています。

注目点Hessianの零空間を用いて機能を保つ重み領域を探索する手法を提案し、RNN・ViT・強化学習で検証しており、証拠は比較的充実している。

Ann Huang, Mitchell Ostrow, Zhouyang Lu ほか

arXiv cs.AI

MoFlow: Multi-Objective Agentic Workflow Generation

説明MoFlow:多目標エージェントワークフロー生成

要約本論文は、精度・コスト・遅延・頑健性・一貫性など複数の目標を同時に最適化するエージェントワークフローの生成を研究しています。MoFlowは、ワークフロー生成を多目的マルコフ決定過程として定式化し、各ノードが単一の重み付きスコアではなく到達可能なトレードオフの集合を保持する凸包モンテカルロ木探索で解きます。一度の探索でパレート front をおおむね網羅でき、好みが変わっても再学習なしで対応するワークフローを参照できます。数学・コード・質問応答の6つのベンチマークで、平均ハイパーボリュームが最も高い結果を示しました。

Yining Lu, Aurelie Lozano, Xi Yang ほか

arXiv cs.CV

OmniTaskonomy: When Does Visual Generation Improve Visual Understanding?

説明OmniTaskonomy:視覚生成は視覚理解をいつ向上させるのか?

要約本研究は、画像生成タスクでモデルを学習させることが、視覚理解能力をどのような条件で向上させるかを検証しています。同じ問題を異なる出力形式で表す画像から画像への生成と画像からテキストへの理解のタスクを対照的に比較し、適切な学習方法の下では生成学習が理解性能を高め、生成データが増えるほど効果も大きくなることを示しています。さらに、19種類の生成タスクと25種類の理解能力を扱う分類枠組みOmniTaskonomyを提案し、タスクごとに効果が選択的であることを明らかにしています。

Jiaxin Ge, Yiming Qin, Ji Xie ほか

arXiv cs.CV

MUGEN: Interactive Panoramic World Exploration via Camera Control

説明MUGEN:カメラ制御によるインタラクティブなパノラマ世界探索

要約本論文は、インタラクティブな360度世界探索向けに作られた、1300時間を超える少なくとも4Kのパノラマ動画データセット「MUGEN」を提案しています。意味情報と幾何情報の豊富なアノテーションを備えています。さらに、このデータセットを基に、カメラ制御が可能なパノラマ動画生成モデル「Wan360」を提示しています。Wan360はパラメータを追加しないERP対応の構成要素と、ERPの光線で表現されたカメラ運動を用いています。実験では、MUGENが全景世界探索のデータ基盤になることと、Wan360が時間的に一貫し、カメラ制御可能な高品質な360度動画を生成できることが示されています。

Jiaming Tan, Zhen Li, Shuwei Shi ほか

arXiv cs.CV

RS-OPSD: Reliable Privileged On-Policy-Self-Distillation for Ultra-High-Resolution Remote Sensing VQA

説明RS-OPSD:超高解像度リモートセンシング視覚質問応答のための信頼性の高い特権付きオンポリシー自己蒸留手法

要約この論文は、超高解像度のリモートセンシング画像における視覚質問応答を対象とし、局所領域を拡大して見る視覚的特権を推論時の追加処理なしでモデルに内在化するRS-OPSDを提案しています。質問に関連する証拠領域の注釈を付けた6,750件のサンプルからなるGeoEvidence-6Kを構築し、文脈保持型視覚特権と正答整合型蒸留を導入しています。原文によると、XLRS-Bench、MME-RealWorld-RS、LRS-VQAで最先端の性能を示し、同規模モデルを平均4.0ポイント上回るとされています。

Chengjie Jiang, Yunqi Zhou, Jiafeng Yan ほか

★★★★☆ 注目
arXiv cs.AI コードあり

Probability is Not Enough: Exploring and Counting Divergent Tokens for Reasoning Uncertainty Quantification in LLMs

説明確率だけでは不十分:LLMの推論の不確実性を定量化するための分岐トークンの数え上げ

要約本論文は、同じ推論経路上で二つのモデルが強く食い違うトークンの数を数えることで回答の確信度を推定する、分岐トークン信頼度(DTC)を提案しています。分岐トークンは、同じ経路における次トークン分布間のJensen-Shannon発散によって特定され、その数は回答の正確さとほぼ負の相関を示します。複数のモデルファミリーと六つの数学ベンチマークでの実験では、白箱・黒箱の両設定で確率ベースおよび言語化された信頼度の基準法より較正が改善されました。

注目点同一推理軌跡上で2モデルの次トークン分布のJS発散により分岐トークンを数える新しい信頼度推定法で、複数モデル・6つの数学ベンチマークで校正誤差の改善を示す。

Feiyang Li, Shengjing Liu, Qi Zhan ほか

arXiv cs.LG · physics.comp-ph

A foundation model for energy and radiation systems built on heterogeneous scientific interfaces

説明異種の科学的インターフェースに基づくエネルギー・放射線系のための基盤モデル(GEODE)

要約本論文は、タスクごとの専用科学インターフェースを共有のウェーブレット演算子ライブラリに接続する GEODE を提案しています。一つの共同事前学習モデルがキャビティ流、放射線線量、弾塑性応力を扱い、新たな課題は全パラメータの約 2.1% を占める非公開インターフェースの学習で獲得されます。パラメータ分離により既存の予測は維持される一方、無制限の微調整では精度が14〜29倍悪化しました。ただし、保持されることだけでは事前学習計算の再利用は証明されず、ノルムを揃えたランダム化対照との比較が必要だと論じています。

Samrendra Roy, Tapas Tripura, Yoon Pyo Lee ほか

arXiv cs.LG

Alpha Diffusion Language Models: Factorization Alone Is Not the Problem

説明アルファ拡散言語モデル:問題は因数分解だけではない

要約離散拡散言語モデルは複数のトークンを並列に生成できますが、ノイズ除去のステップ数を減らすと予測が一貫しなくなることがあります。著者らはシーケンスレベルのアルファ損失で学習するAlphaDLMを提案し、アルファが0に近づくと交差エントロピーに一致し、アルファが1のとき同時モード最適になると示します。TinyGSMで学習したこの手法は、わずか4回のモデル評価でGSM8Kの正解率34.6%を達成し、SDAR-1.7Bでもコードと数学のベンチマークで評価されています。

Nikita Gushchin, Dmitry Baranchuk, Alexander Korotin