AI アルゴリズム · 2026年9月29日(火)

機械学習、人工知能、自然言語処理、コンピュータビジョン、マルチエージェント。

arXiv cs.LG · stat.ML

Simplex Diffusion Models

説明単体拡散モデル:確率単体上で離散データを段階的に生成するモデル

要約本論文は、確率単体上で拡散過程を行い、カテゴリに対する不確実性を途中のステップで保持して情報崩壊を抑える単体拡散モデル(SDM)を提案している。交差エントロピー損失で学習でき、確率性の度合いを調整できるDDIM型サンプラーを導入している。OpenWebText、TinyGSM、GSM8Kなどで、既存の離散拡散モデルと比べて競争力のある、あるいはより良い結果が報告されている。

Justin Deschenaux, Alexandre Galashov, Andrew Campbell ほか

arXiv cs.AI

BaRe-Mem: Bayesian Reliability Memory for Robust and Adaptive Agent Consultation

説明BaRe-Mem:頑健で適応的なエージェント相談のためのベイズ信頼性メモリ

要約マルチエージェントシステムでは、助言者の能力がタスクによって異なり、誤解を招く情報があると相談が自律推論より悪くなることがあります。本論文は、オンラインのベイズ信頼性メモリBaRe-Memを提案します。中心モデルの内部信念表現に基づいて助言者の信頼性を推定し、過去の相互作用からその推定を更新します。推定値は助言者の回答の影響度を調整し、相談と自律推論のどちらを選ぶかを導きます。9つのベンチマークと6つの中心モデルにおいて、BaRe-Memは討論や多数決より誤解を招く助言に対して頑健でした。より難しいタスクでは、試された全ての誤解レベルで自律推論を上回りました。さらに、本機構をエージェントチームの作業者割り当てに拡張し、MuSiQueベンチマークでは過去の成功回数による振り分けより、タスク完了率が向上し、有能な作業者をより早く特定しました。

Peilin Feng, Zhengyang Huang, Soujanya Poria

★★★★☆ 注目
arXiv cs.AI

RareDx: Controlled Knowledge Integration and Graph-Grounded Policy Optimization for Rare-Disease Diagnosis

説明RareDx:希少疾患診断のための制御された知識統合と知識グラフに基づく方策最適化(RareDx:希少疾患の診断を対象とした、制御された知識統合と知識グラフ接地型の方策最適化)

要約本論文は、希少疾患の診断というロングテール推論問題に対し、RareDxシステムを提案している。異種の症例記録を順位付けされた診断タスクに統一し、知識グラフに基づく方策最適化手法(RareDx-KGPO)で学習する。報酬は、分級された関連性、オントロジー上の近接度、生物医学的類似性、表現型の整合性を組み合わせる。著者らによれば、Qwen3.5-9Bを中心とした完全システムは八つのベンチマークで宏平均Hit@10が38.34に達し、アーカイブされたプロトコルでGPT-5.5を1.60ポイント上回った。

注目点知識グラフに基づく方策最適化と制御されたルーティングを希少疾患診断に組み合わせ、八つのベンチマークとアブレーションで比較している。

Bo Zhang, Yuchen Wang, Dongbai Li ほか

arXiv cs.LG · cs.AI

Graph World Models for Constrained Epidemic Policy Planning

説明制約付き感染症政策計画のためのグラフ世界モデル

要約本論文は、地域をまたぐ制約付き感染症政策計画のためのフレームワーク EpiMind を提案している。グラフ分解型の再帰状態空間モデルで政策条件付きの共同ロールアウトを生成し、グラフ時系列 ADMM(交互方向乗数法)で地域ごとの介入を最適化し、投影により共有資源の実行可能性を確保する。原文によれば、グラフを用いないモデルと比べて入院 RMSE を 29% 削減し、最良の実行可能な一定政策の 1~5% 以内の計画を立てられたという。

Yiqi Su, Rashed Shelim, Lingyi Wang ほか

arXiv cs.CL · cs.AI · cs.LG

Less Sycophancy, Stronger Refusal? Lessons for AI Safety from Mechanistic Interpretability

説明迎合を減らすと拒否は強まるか?機構解釈可能性がAI安全性に示す教訓

要約本論文は、学習中に対象概念の活性化を与えて獲得を抑える「補償的特徴注入(CFI)」という手法で、言語モデルの迎合(sycophancy)を減らす方法を検討しています。三つのQwen3.5基盤モデルで、スパースオートエンコーダにより迎合に関連する特徴を特定し、教師ありファインチューニングの際に注入しました。正の注入は迎合を減らしたものの、有害な依頼への直接的な拒否の改善は一貫していませんでした。ユーザーからの圧力がある場面では、正の注入で学習したチェックポイントが、迎合の学習で失われた拒否能力の一部を回復したと報告されています。

Xu Wang, Difan Zou, Xuansheng Wu

arXiv cs.CL

Question-Specific Knowledge Graphs for Efficient Visual Reasoning

説明質問特化の知識グラフによる効率的な視覚推論(VisKG)

要約本論文は、画像内容を質問に特化した知識グラフ表現へ変換するよう強化学習で学習させるVisKGを提案しています。知覚的なノイズを除きつつ、推論に必要な実体と関係の構造を保持します。科学、数学、一般的な視覚理解のベンチマークで、基線と同等以上の性能を示し、キャプションベースの表現より少ないトークン数で済むとしています。GDPOで学習すると、GRPOで学習した場合に比べ平均で精度が約2%向上したと報告されています。

Ting-Chih Chen, Emile van Krieken, Shujian Yu ほか

arXiv cs.LG

Learning the Robustness Mechanism with Bilevel Optimization

説明二段階最適化による頑健性メカニズムの学習:大量のチューニングではなく保持データから学習する手法

要約本論文は、頑健性メカニズムを定めるパラメータを大規模なチューニングに頼らず、保持データから学習する分布頑健学習の枠組みを提案します。上位と下位の両方にミニマックス問題を含む二段階最適化を用い、グループラベルの有無それぞれの設定に対応する二つの実装を構成しています。理論面ではサンプル複雑性解析を示し、網羅的なグリッドサーチに匹敵する汎化保証を、より少ない計算量で達成すると述べています。実験では、グループ内とグループ間の分布シフトが同時に起こる困難な設定で有効性と拡張性を示しています。

Yiyang Shen, Qihang Lin, Weiran Wang

arXiv cs.AI

Continuous Context Management

説明継続的コンテキスト管理:エージェントが毎ターン履歴を圧縮する方式

要約長期タスクを行うLLMエージェントは、通常、閾値に達するまで対話履歴を完全に保持します。本論文は、毎ターン記憶を圧縮して履歴がプロンプトに蓄積しないようにする継続的コンテキスト管理(CCM)を提案します。TerminalBench-2での評価では入力量を大きく削減できる一方、多くのモデルで成功率が低下しました。さらに、完全履歴の特権的蒸留を用いたGRPOで改善を図り、WebShopとEndless Terminalsで結果を報告しています。

William Hoy, Jingxuan Fan, Nurcin Celik ほか

arXiv cs.CV

Learning to Reason with Persistent Object States for Video Instance Segmentation

説明持続的オブジェクト状態による推論を学習する動画インスタンスセグメンテーション

要約動画セグメンテーションモデルはフレーム間でインスタンス情報を引き継いで対象の同一性を保ちますが、長時間の遮蔽、再出現、類似インスタンス同士の相互作用時には、信頼できない更新が有効な履歴を上書きし、同一性のずれを持続させることがあります。本論文は、観測が対象の状態を変えるべきかを明示的に判断する、学習可能でプラグアンドプレイのPOSReasoner(POSReasoner)を提案します。提案と検証による推論と学習されたゲートにより、各状態を保持・更新・再活性化・抑制するかを決めます。長期VOSおよびVISベンチマークで強力なベースラインを一貫して上回り、遮蔽と再出現の場面で最大の改善を示しました。

Yongxue Xu, Boxue Yang, Ziqian Liu ほか

★★★★☆ 注目
arXiv cs.LG · cs.GT · econ.TH

Optimal Networks for Agentic Information Aggregation

説明エージェント型情報集約のための最適ネットワーク

要約本論文は、Kearns、Roth、Ryu(SODA 2026)が提案したネットワーク化学習モデルにおける情報集約を研究している。各エージェントは特徴量の一部と親エージェントの予測を観測し、線形予測器で平均二乗誤差を最小化して結果のみを次へ渡す。設計者が適応的な場合と、敵対者が分布を選ぶ前に設計を固定する場合の二つの設定で、ネットワークの深さと代理数の限界を分析している。

注目点Kearnsらの学習モデルで正確な集約に必要な深さと主体数の最適境界を示し、適応型と盲目型の設計者を区別しており新規性は高い。証明は厳密だが影響は理論分野に限られる。

MohammadHossein Bateni, Zahra Hadizadeh, MohammadTaghi Hajiaghayi ほか

arXiv cs.CV

Look Before You Judge: Training-Free Region Mining for Grounded and Explainable Deepfake Detection

説明判定の前に確認:学習不要の領域探索による、根拠のある説明可能なディープフェイク検出

要約マルチモーダル大規模言語モデル(MLLM)はディープフェイクの判定を自然言語で説明できますが、その説明が判定の根拠となった画像上の証拠に基づいているとは限りません。本論文は学習を必要としない枠組みLook Before You Judgeを提案します。元画像とガウスぼかし画像の間で、デコーダから視覚領域への注意を比較し、候補となる証拠領域を特定します。各領域を個別に検査した後、全体の画像文脈と統合して最終判定を行います。TriDFとMMTD-Setで、5つのオープンソースMLLMの検出精度は最大12.8%向上し、CHAIRは最大33.4%、幻覚率は最大21.3%低下しました。

Chia-Ling Chen, Yu-Ting Ta, Jian-Yu Jiang-Lin ほか

arXiv cs.AI

ARISE: Adapting to Evolving Capability Gaps in Agentic Reinforcement Learning

説明ARISE:強化学習エージェントにおける変化する能力ギャップへの適応手法

要約本論文は、長期的なタスクを行うエージェントの強化学習フレームワーク ARISE(Adaptive Rubric-Skill Co-Evolution)を提案しています。実行結果をもとに評価基準、探索の指針、学習の優先度を継続的に調整し、未解決の弱点に向けて探索を導きます。SkillsBench と Terminal-Bench の二つのベンチマークで実験を行い、全体的なタスク性能と学習効率が向上したと報告しています。

Kun Feng, Yuchen Fang, Yiyang Tan ほか

arXiv cs.CV · cs.AI

AutoRef: Harness Optimization for Agentic Multi-Reference Image Generation

説明AutoRef:マルチ参照画像生成エージェントのハーネス自動最適化

要約論文は、生成モデルと推論モデルを固定したまま、コーディングエージェントがハーネス(参照画像の処理や出力の診断などを定めた実行可能プログラム)を反復的に書き換えるAutoRefを提案しています。MultiBanana(マルチバナナ)ベンチマークの4参照タスクで、オープンウェイトのFLUX.2 [klein] 4Bのスコアが5.72から7.37に向上し、論文はNano Banana ProやGPT-Image-1.5などのプロプライエタリモデルに匹敵または上回ると報告しています。探索時と異なる生成器や評価器などでも、再最適化なしで効果が見られたとされています。

Yuta Oshima, Ku Onoda, Yusuke Iwasawa ほか

arXiv cs.LG · cs.AI

Let the Neurons Die: Exploiting ReLU-Induced Model Degradation

説明「ニューロンを死なせる」:ReLUによるモデル劣化を利用した訓練時の可用性攻撃

要約本論文は、ReLUネットワークで一部のニューロンが常に負の事前活性化を持ち勾配が遮断される「ニューロンの死」が起こりうることを示しています。学習データの順序付けと汚染によって、訓練データやラベルを変更せずにこの現象を誘発する三つの攻撃を提案しています。MNISTの全結合ネットワークでは、60,000件中100件の順序付けまたは単一クラスの汚染サンプル200件の追加により、5エポック後の精度が約95%または86〜88%に低下し、クリーンな訓練では約96%でした。

Kexin Li, Wenjun Qiu, Joshua Abraham ほか

arXiv cs.LG

GeoGAE: Scalable Graph-Level Autoencoding via Hyperball Cloud Representations

説明GeoGAE:超球クラウド表現に基づくスケーラブルなグラフレベル自己符号化器

要約本論文は、グラフを超球(hyperball)の集合として表現し、ノードの順序を一意に定める手法を提案しています。この表現に基づき、Transformerエンコーダで超球クラウドをグラフレベルの埋め込みに変換し、Transformerデコーダでグラフを復元する自己符号化器GeoGAEを提案しています。グローバルな構造と局所的な関係パターンの両方を捉え、複数の分野にまたがるグラフデータセットで、埋め込みからの符号化と再構成の有効性を示しています。

Rados{\l}aw Nowak, Anna Bielawska, Bogusz Stefa\'nczyk ほか

arXiv cs.LG

Deep Epistemic Value Functions for Optimistic Exploration

説明楽観的探索のための深層認識価値関数(DEVOTE):価値関数の不確実性で強化学習の探索を行う

要約本論文は、深層認識価値関数における認識的不確実性の表現、伝播、最適化を系統的に調べ、各段階の失敗モードを明らかにしています。その知見に基づき、観測データを超えた不確実性の汎化を制御し、時間的伝播を安定させ、結果として生じる非定常な探索目標への適応を保つモデルフリー強化学習アルゴリズムDEVOTEを提案しています。報告によれば、報酬なし探索と難しい連続制御タスクにおいて、DEVOTEは強力なモデルフリー・モデルベースの探索ベースラインより効果的に新しい状態に到達し、より高いタスク報酬を得ています。

Leander Diaz-Bone, Marco Bagatella, Jonas H\"ubotter ほか

arXiv cs.CL · cs.AI · cs.LG

Beyond Token Scale: Chunk-Level Sparse Autoencoders for Reliable Semantic Feature Discovery

説明トークン規模を超えて:信頼できる意味特徴の発見のためのチャンクレベル疎オートエンコーダ

要約疎オートエンコーダ(SAE)は言語モデルの理解と制御に役立つ特徴を明らかにしますが、再構成が正確でも有意味な概念が得られるとは限りません。本論文は、連続するトークンの区間(チャンク)ごとに平均プーリングした活性化を符号化する手法を提案し、観測チャンクの再構成、隣接チャンクの予測、両者の結合という三つの設計を示します。検索、推論の検出、制御などの下流タスクで性能向上が報告されています。

Xu Wang, Yifan Yang, TingHao YU ほか

arXiv cs.LG

Reward-Aligned Reweighting for On-Policy Distillation

説明オンポリシー蒸留における報酬整合リウェイト(R²-OPD):教師の指導をタスクの成果に合わせて配分する手法

要約本論文は、オンポリシー蒸留(OPD)では生徒モデルが各トークンを一律の重みで教師に模倣しており、個々の判断がタスク全体にもたらす価値が考慮されていないと指摘します。著者らは、結果の一致度と師弟の不一致の大きさに応じて教師の指導を連続的に再配分する R²-OPD を提案します。七つの数学推論ベンチマークで標準 OPD を上回り、コード生成への拡張でも平均 1.6 ポイントの向上が報告されています。

Haofeng Xu, Junwei Su, Lansong Diao ほか

arXiv cs.AI · cs.LG · cs.SC

MechBench: Can AI Scientific Agents Discover Mechanisms Beyond Phenomenal Laws?

説明MechBench:AI科学エージェントは現象法則を超えてメカニズムを発見できるか(現象法則と内部メカニズムを分けて評価するベンチマークの説明)

要約本論文は、観測される現象を記述する数式法則の復元と、それを生み出すメカニズムの特定を分けて評価するベンチマーク「MechBench」を提案している。エージェントに与えられるのは観測データと科学的文脈のみで、メカニズムプローブによって現象法則からは推論できない内部の科学的帰結を検証する。Codex(GPT-5.6-solを使用)では、コアセットで現象法則の正解率が35.00%であるのに対し、メカニズムの正解率は13.75%にとどまった。

Zihan Yu, Jiadong Zhang, Jialin Cheng ほか

★★★★☆ 注目
arXiv cs.LG · stat.CO

One Proposal for Every Margin: Zero-Shot Amortized Sequential Importance Sampling for Binary Matrices

説明あらゆる周辺和に一つの提案分布:二値行列のゼロショット償却型逐次重要度サンプリング

要約行和と列和(周辺和)を与えた条件下の二値行列について、その数え上げと一様サンプリングを扱う。理想的な逐次重要度サンプリングの提案分布が、生成フローネットワーク(GFlowNet)の方策と一致することを示し、周辺和をまたいで提案分布を学習するMarginFlowを提案する。学習に使っていない1190の周辺和で評価したところ、事後的に選んだ最良の人手設計配置と同等以上の結果が大半で得られた。

注目点理想SISの提案分布がGFlowNetの方策と一致することを示し、集合トランスフォーマーで周辺和を跨いで学習する新手法。1190の零ショット評価で実験は充実しているが、影響は特定分野に限られる。

Ruishuo Chen, Weijia Li, Xun Wang ほか

arXiv cs.LG · cs.AI

Improving Generative Model Self-Training with Geometrically Modified Outputs

説明幾何学的に修正した出力による生成モデルの自己学習の改善

要約本論文は、生成モデルが自身の出力で学習を続ける自己学習を扱う。自己生成サンプルでの単純な微調整はモデル崩壊などの劣化を招くため、負のガイダンス手法が検討されてきた。著者らは、生成器の入出力ヤコビ行列の特異値を重み付けし、主要な特異方向の影響を強める幾何学的修正出力(GMOs)を提案する。一ステップ生成モデルの実験で、Neon や SIMS などの負のガイダンス手法の性能が標準的なモデル出力より向上したと報告している。

Patrick Batsell, Thomas Walker, Richard Baraniuk

arXiv cs.CV コードあり

ReVA: A Scene-Centric Dataset Beyond Repetition for Remote Sensing Video Question Answering

説明ReVA:反復を避けたシーン中心のリモートセンシング動画質問応答データセット

要約本論文は、リモートセンシング動画の質問応答のための新しいデータセット ReVA を提案し、マルチモーダル大規模言語モデルの時空間・シーン中心・推論能力を評価することを目的としています。世界18都市の2,438本のドローン動画(580Kフレーム)と、11種類の質問応答タスクにわたる22Kの質問応答ペアで構成されています。テキスト大規模言語モデルと多モーダル大規模言語モデルを用いた半自動アノテーションと人手による検証を行い、23の動画大規模言語モデルで評価した結果、現行モデルの根本的な限界が示されました。

Zhen Yao, Likai Wang, Yuming Yang ほか

arXiv cs.LG

An RL View of OPD: Least Square Policy Distillation for Sample-Efficient LLM Reasoning

説明強化学習から見たOPD:サンプル効率の高い大規模言語モデル推論のための最小二乗ポリシー蒸留(LSPD)

要約本論文は強化学習の観点からオンポリシー蒸留(OPD)を検討し、OPDの逆KL目的関数とKL正則化ポリシー最適化との関係を示します。これを基に、価値ベース強化学習の楽観的探索とオフポリシーデータ再利用を取り入れた最小二乗ポリシー蒸留(LSPD)を提案しています。6つの数学推論ベンチマークと多様な教師・生徒設定で、LSPDはAvg@16で平均1.59ポイント向上しました。完全オフポリシー版は、ロールアウトバッチの最初の25%のみで、元のOPDと同程度の性能を達成しています。

Shangzhe Li, Yuxiao Yang, Tianrun Yu ほか

arXiv cs.CV · cs.AI

SolveEdit: Benchmarking Visual Problem Solving in Generative Models

説明SolveEdit:生成モデルにおける視覚的問題解決のベンチマーク

要約本論文は、シーン変換による視覚的問題解決能力を評価するベンチマーク SolveEdit を提案している。画像と目標が与えられたとき、モデルは適切な変換を推論して実行し、無関係な内容を保持しなければならない。データセットは 2,728 件で、原子的遷移契約により完了度と意図しない変更を測定する。最も高性能なモデルの SolveScore は 57.0% にとどまり、作者らが提案する二段階の視覚計画器 SolveEdit-PLAN は三つの生成器で平均 9.1 ポイント向上させた。

Wenjie Shu, Yexin Liu, Harold Haodong Chen ほか

arXiv cs.LG

Structured Latent Modeling for Supervised Multimodal Information Decomposition

説明教師ありマルチモーダル情報分解のための構造化潜在モデリング

要約本論文は、学習された連続表現の中で、マルチモーダル予測における共有情報、単一モダリティ固有の情報、タスクに無関係な依存関係を切り分ける枠組みを提案しています。中間層に対照的または予測マスクの目的関数を適用し、モダリティごとの可逆正規化フローと教師あり低ランク潜在変数モデルを組み合わせて、同時分布を三つの要素に分解します。著者らは、複数のマルチモーダルベンチマークで予測性能が向上したと報告しています。

Wanting Huang, Sanvesh Srivastava, Weiran Wang

arXiv cs.AI · cs.LG · cs.SC

SRHarness: A Harness for Agentic Symbolic Regression

説明SRHarness:エージェント型記号回帰のための実行基盤

要約本論文は、エージェント型記号回帰のためのドメイン特化型実行基盤SRHarnessを提案し、合成可能な科学的操作、永続的な科学的状態、軌跡のライフサイクル管理によって長期的な探索を組織化する仕組みを示しています。LLM-SRBenchでは、同じLLM基盤のもとで数値的汎化と記号的復元の両方が向上したと報告されています。たとえばLSR-Transformでの記号的正解率は93.69%で、SR-Scientistの62.16%を上回りました。著者らは、有効な記号回帰には、モデルやツールだけでなく、構造化された実行時支援も重要だと主張しています。

Zihan Yu, Shixuan Zhou, Hao Huang ほか

arXiv cs.LG

Physics-Guided Conditional Diffusion Model for Rare Event Synthesis and Diagnosis for the Water-Gas Shift Reaction

説明水性ガスシフト反応における希少事象の合成と診断のための物理誘導型条件付き拡散モデル

要約この論文は、水性ガスシフト反応による水素製造で、ファウリング、触媒劣化、熱暴走などの希少な異常運転データが得にくい問題を扱っています。反応の支配則と条件付き拡散モデル(CDDPM)を組み合わせ、物理的に整合した希少事象の運転軌跡を生成する手法を提案しています。生成データで訓練データの正常・異常の分布を均衡させ、運転軌跡に基づくハザードスコアも提案しています。シミュレーションでは、純粋なデータ駆動モデルより合成データの品質と希少事象の診断性能が優れると示されています。

Md Abrar Rafid Siddique, Bibek Aryal, and Qiugang Lu

arXiv cs.CV

Sprout: Building Dynamic Memory While Reasoning for Agentic Video Understanding

説明Sprout:推論しながら動的メモリを構築する、エージェント型動画理解フレームワーク

要約本論文は、質問への回答と同時にメモリを段階的に構築するエージェント型フレームワーク Sprout を提案します。動画の各区間を時系列ツリーのノードとして文章で記録し、重要な区間は高いフレームレートで再確認して詳細を補います。質問をまたいでメモリが保持されるため、事前の構築段階は不要です。著者らは、映像入力を文章のメモリに置き換えることで精度を維持しつつ文脈の使用量を大きく減らせたと報告し、3つのモデルのベンチマークで代表的なオフラインのメモリ手法と同等以上の精度を示したとしています。

Wei Chen, Xuanyu Zheng, Yancheng Long ほか

arXiv cs.CV · cs.AI

From Scores to Samples: Elastic Forcing for Autoregressive Video Generation

説明スコアからサンプルへ:自己回帰型動画生成のための弾性フォーシング

要約本論文は、少ステップの自己回帰型動画生成において、双方向拡散教師モデルとオンラインのフェイクスコアモデルに依存せず、参照動画から生成過程の分布を直接学習する手法を提案している。凍結された自己教師あり動画表現空間で最大平均差異(MMD)を最小化し、Nyström–モンテカルロ混合推定器と、メモリ効率の良いリプレイおよび勾配サブサンプリングを用いる。Self-Forcingと同じアーキテクチャと初期化を用いた13億パラメータのモデルは、VBenchの総合スコアを83.80から84.64に改善し、17 FPSを維持した。補助スコアモデルを除くことで、8基のH200 GPUで140億パラメータモデルの事後学習も可能になったという。

Chi Zhang, Yueyi Liu, Shi Haoyang ほか

arXiv cs.CV

AHMAD: Adaptive Hybrid Multi-task Vision Learning with Assisted Distillation for Keypoint Detection

説明AHMAD:キーポイント検出のための適応型ハイブリッドマルチタスク視覚学習と支援蒸留の枠組み

要約本論文は、共有のエンコーダ・デコーダと軽量なタスク専用プロジェクタを組み合わせ、意味セグメンテーション、インスタンスセグメンテーション、深度推定、キーポイント検出、物体検出の5つの視覚タスクを一つの枠組みで扱うAHMADを提案しています。COCO検証セットでパノプティックセグメンテーションのPQ 53.1、意味セグメンテーションのmIoU 66.5を達成したと報告されています。トップダウン型キーポイント検出では複数回の順伝播が必要となるため、知識蒸留に基づく手法を導入し、画像全体を一度の順伝播で処理できるようにしています。

Mohammad Mahdi, Nedyalko Prisadnikov, Yuqian Fu ほか

arXiv cs.CL · cs.CV

Who Is Left of Whom? Tracing Spatial Evidence and Role Binding in Relative-Position Reasoning

説明「誰が誰の左にいるか」:相対位置推論における空間的証拠と役割の結びつきの追跡

要約本論文は、視覚言語モデルが物体の相対位置を判断する際の内部メカニズムを調べたものです。物体の位置が入れ替わったり、問いの中で役割が逆になったりすると、高い正解率があっても不整合が生じうることを指摘しています。活性化パッチングにより、初期層の元の位置情報から中間層の問い対象表現、後期層の答え表現へと段階的に処理が進むことを示しています。さらに、二つの物体の役割に関連する安定した方向を特定し、その方向に沿った操作で再学習なしに多くの設定で精度と一貫性が向上したと報告しています。

Yingjin Song, Denis Paperno, Albert Gatt

★★★★★ 注目
arXiv cs.LG · cs.NA · math.NA

Universal Approximation of Measure-to-Measure Operators by Pushforwards

説明推出測度による測度から測度への演算子の普遍近似

要約本論文は、確率測度空間の間の連続演算子が、測度に依存する推出(pushforward)モデルで任意に近似できるかを検討する。入力に原子測度を許すと、原子質量を分割・再配分する一部の連続演算子は決定論的な推出モデルでは任意に近似できないことを示す。次に一様水準集合条件を導入し、この条件を満たすコンパクト族上では、有限p次モーメントを持つ出力をもつ任意の連続測度間演算子がp-Wasserstein距離で一様に近似できることを証明する。これにより測度論的なTransformerの普遍近似性も導かれる。

注目点一様レベル集合条件を導入し、コンパクトな絶対連続測度族上で測度依存プッシュフォワードによる一様近似を証明、原子入力での反例も示す。

Takashi Furuya, Nicholas H. Nelsen, Frank Cole

arXiv cs.DC · cs.LG

TopoEP: Topology-Aware Load Balancing for Expert-Parallel MoE Training

説明TopoEP:エキスパート並列 MoE 学習向けのトポロジー対応負荷分散

要約大規模なエキスパート並列 MoE(Mixture-of-Experts)学習では、動的ルーティングにより負荷が大きく偏り、人気のエキスパートを載せた GPU が遅れの原因になります。本論文は、GPU 上で動作しクラスタのトポロジーを考慮する負荷分散システム TopoEP を提案します。各層・各マイクロバッチで、ホストとの同期なしに複製とトークンの再ルーティングを実行します。32 基の NVIDIA H800 GPU クラスタで Megatron-LM と統合したところ、3 つの代表的な MoE モデルで学習スループットが 6.2%〜11.4% 向上したと報告されています。

Jiacheng Zhu, Xie Zhao, Gongming Zhao ほか

arXiv cs.AR · cs.AI

Analog Computing revisited: A fully analog and minimalistic Damage Detector for Ultrasonic Testing enabling Material-Integrated Structural Health Monitoring

説明アナログ計算の再検討:材料統合型構造健全性監視を可能にする、完全アナログで最小構成の超音波探傷用損傷検出器

要約本論文は、超音波探傷(UT)向けの完全アナログ損傷検出システムを提案する。全域通過フィルタ網でヒルベルト変換を近似して信号包絡線を求め、単純なアナログ演算で特徴量を抽出し、アナログニューラルネットワークで損傷の分類と回帰を行う。システム全体は100個未満のトランジスタで構成されると見込まれ、円形欠陥のある鋼板のPZTトランスデューサ信号で検証する。

Stefan Bosse

arXiv cs.CL · cs.AI

Spontaneous Context Restoration: How Language Models Recover from Corrupted Inputs

説明言語モデルが破損した入力から自発的に文脈を回復する仕組みの研究

要約入力が削除・置換・綴り誤りで破損していても、言語モデルが正しい出力を生成することがあり、本論文ではこれを文脈回復と呼んで内部過程を調べている。注意機構のみのTransformerと1Bから32Bパラメータの事前学習済みLLM5種を、算術、読解、多肢選択推論の課題で分析した。回復は二段階で進み、隐れ状態から失敗を予測できることも示されている。

Pranjal Garg, Jacob Beck

arXiv cs.CV · cs.LG

Handwritten Text Recognition Lives in the High-Pixel Variance Subspace

説明手書き文字認識は高ピクセル分散の部分空間に依存する

要約本論文は、手書き文字認識(HTR)の自己教師あり事前学習において、自然画像分類とは逆にピクセル再構成手法が対照学習手法を上回る理由を検討しています。判別情報はピクセル空間の高分散方向に集中するという仮説を立て、高分散のピクセル内容を保持する目的関数が最もよく転移すると主張しています。5言語・6つの手書きベンチマークで6つの自己教師あり手法を比較し、ピクセル再構成系が全体として最良の結果を示したと報告しています。

Carlos Garrido-Munoz, Jorge Calvo-Zaragoza

arXiv cs.AI

Why Deterministic PRM Guidance Underperforms in Discrete Diffusion Reasoning

説明離散拡散推論でPRMガイダンスが振るわない理由

要約離散拡散言語モデルの推論時に、過程報酬モデル(PRM)で逐次的に去雑音を誘導する方法の有効性を検証した論文です。同じ前向き計算予算では、決定的なPRM誘導は独立サンプリングと結果報酬モデル(ORM)による再ランキングに敗れ、GSM8Kで65.18%対75.13%でした。著者は、中間段階の弱い信号による刈り込みの失敗と、PRMが最終判定者として弱いことの二点を指摘しています。最終状態で学習した検証器に最終選択を任せる提案もなされています。

Yan Zhan, Shaobo Liu, Zhijun Gao

arXiv cs.RO · cs.AI · cs.LG

Rethinking Causal Action Tokenization with Conditional Annealing in Flow Matching

説明条件付きアニーリングを用いた因果的アクショントークン化の再考:自己回帰型VLAモデルのための動作離散化手法

要約既存の動作トークナイザは分词を圧縮問題として扱い、自己回帰バックボーンと意味的に整合しない表現を生むと論文は指摘する。著者らはCATokを提案し、条件付きアニーリングによる流れマッチング過程から動作トークンを段階的に抽出し、粗から細への因果的トークン空間を構成する。3つのシミュレーションベンチマークと実世界のロボット操作タスクにおいて、CATokは再構成精度と圧縮のトレードオフ、推論効率、タスク成功率、学習効率で既存手法を上回ったと報告している。

Chenyu Zhang, Yuhang Cao, Daru Du ほか

arXiv cs.LG · math.OC · stat.ML

An analysis of Mirror-Descent Soft Actor-Critic

説明ミラーディセント型ソフトアクター・クリティックの解析:連続行動空間の強化学習における収束性に関する論文

要約本論文は、エントロピー正則化強化学習で用いられるソフトアクター・クリティック(SAC)の収束性を検討したものです。目標方策が方策ミラーディセントから生じる場合を扱い、従来のGibbs目標と比較しています。アクター目標の強凸性と滑らかさの十分条件を導き、アクターとクリティックの近似誤差を含めて、O(N^{-1/5})の有限時間収束率を示しています。さらに、ミラーディセントのステップ幅λが目標のずれを直接制御することを指摘しています。

Denis Zorba, Michal Valko

arXiv cs.LG

Tetra: Serving Leech-Lattice Quantized LLMs at 2.7 Bits per Parameter

説明Tetra:パラメータあたり2.7ビットでLeech格量子化LLMを提供する手法

要約本論文は、大規模言語モデルの重みを圧縮するため、Leech格上の新しいコードブック量子化手法Tetraを提案しています。巨大なコードブックの代わりに、Golay符号の64状態トレリスと共有16KiBテーブルを用い、カーネルは重みあたり約2.148ビットを読み出します。Qwen3の4B、8B、14Bモデルは全体で約2.7ビット/パラメータとなり、MMLUでは5.3〜6.0ビットの4ビットAWQより低い一方、llama.cppのIQ2_XXS(2.48ビット/パラメータ)を上回ると報告されています。測定はすべて単一のNVIDIA L40S GPUで行われています。

Pier-Jean Malandrino

arXiv cs.CV コードあり

W2Rep: Learning Visual Representations by Watching the World Change

説明W2Rep:世界の変化を観察して視覚表現を学習する手法

要約本論文は、独立にエンコードされた元画像を同一または別の時点の予測に参加させるマスク特徴予測フレームワーク「W2Rep」を提案します。予測器は、可視の動画コンテキスト、問い合わせ位置、元画像と対象の間の符号付き時間間隔を条件とします。著者らは、本手法が比較プロトコルの下で、さまざまなモデル規模と下流タスクにおいて、凍結および微調整された認識性能を向上させ、同時動画エンコードはフレーム単位の集約よりも更なる利得をもたらすと報告しています。

Wen Huang, Hang Guo, Jiarui Yang ほか

arXiv cs.AI · cs.GR

A.D.A.M.O. (Agent for language-Driven Actions with Multimodal Observations): A Visual-Symbolic Framework for Virtual Humans

説明A.D.A.M.O.:言語で駆動される仮想人間のための視覚・記号フレームワーク(多様な観測による行動エージェント)

要約本論文は、事前学習済みの視覚言語モデルとツール呼び出しを用い、知覚・推論・行動を単一の制御ループに統合するA.D.A.M.O.フレームワークを提案しています。自然言語の指示に基づき、対話型3D環境で仮想人間がタスクを遂行できるよう、一人称視点の視覚入力と同期した記号状態を組み合わせた二重の世界モデルを保持します。また、空間タスクを手続き的・言語的な複雑さに分解する診断用の課題集を導入し、実験では意味ラベルがタスク完了と失敗の傾向に大きく影響することを示しています。

Alessandro Emmanuel Pecora, Stefano Calzolari, Francesco Strada ほか

arXiv cs.LG · cs.AI · cs.CL コードあり

CLIMB: A Clinical Multimorbidity Benchmark for Diagnosing Co-occurring Conditions through Multiturn Conversations

説明CLIMB:多ターン対話で併存疾患を診断する臨床多疾患併存ベンチマーク

要約本論文は、医師モデルが模擬患者への問診を通じて併存する臨床疾患の正解集合を特定するベンチマーク「CLIMB」を提案しています。症例は臨床決定アルゴリズムと診断データセットから合成されています。評価した6つの先端モデルおよびオープンモデルのいずれも、対話型症例で正しい疾患集合を完全に特定できた割合は10%を超えませんでした。

Yusuf Kesmen, Aniruddha Mukherjee, Yena Chang ほか

arXiv cs.CL

AraDynFact: Dynamic Evaluation of Factual Knowledge in Arabic

説明AraDynFact:アラビア語の事実知識を動的に評価する枠組み

要約本論文は、大規模言語モデルがアラビア語の事実知識をどの程度持っているかを評価する動的評価フレームワーク AraDynFact を提案している。アラビア語版ウィキペディアから事実情報を自動で抽出し、回答可能な質問を生成する。複数のモデルを評価した結果、人手で作成された既存のアラビア語ベンチマークとの相関が高いと報告されている。

Ignacio Iacobacci, Faroq Altam, Zhaozhi Qian ほか

arXiv cs.CV

How Far Are We from Removing the Visual Encoder? Scaling Laws for Encoder-Free Multimodal Pretraining

説明視覚エンコーダーはどこまで不要にできるか:エンコーダーなしマルチモーダル事前学習のスケーリング則

要約本論文は、視覚エンコーダーを使わないマルチモーダル大規模言語モデルと、エンコーダーを使うモデルのスケーリング則を比較しています。エンコーダーを外すと、マルチモーダル目的では計算量に対して最適なモデル規模が大きくなる一方、テキスト目的ではほぼ変わらないことが示されました。エンコーダーなしモデルは小規模では性能が劣るものの、約 10^22 FLOPs で追いつくと予測されています。

Lin Chen, Bolin Ni, Qi Yang ほか

arXiv cs.AI

AutoBCI: Forecast-Guided Agentic Neural Architecture Discovery for EEG-Based Brain--Computer Interfaces

説明AutoBCI:予測誘導型の脳波ニューラルアーキテクチャ自動探索フレームワーク

要約本論文は、脳波(EEG)ベースの脳コンピュータインターフェース向けに、設計エージェントと予測エージェントが協調してデコードアーキテクチャを探索するフレームワーク「AutoBCI」を提案しています。感情認識、運動想像、睡眠段階判定など複数のタスクを対象とし、14の脳波データセットで6種の大規模言語モデルを用いて評価し、10の基準モデルと比較しています。論文によると、Claude Opus 5.5で探索されたアーキテクチャの平均テスト平衡精度は64.16%で、最強の基準モデルREVEの63.87%を上回りました。

Muyun Jiang, Yi Ding, Wei Zhang ほか

★★★★☆ 注目
arXiv cs.LG · cs.RO · cs.SY

Manifold-Stable Flow Matching

説明多様体安定フローマッチング:生成サンプルを有効な幾何構造上に保つ新手法

要約本論文は、任意の周囲空間の事前分布から出発でき、多様体上に必ずしも支持されない事前分布にも対応する多様体安定フローマッチング(MSFM)を提案します。収縮理論を用い、学習された接線方向の輸送と規定された法線方向の収縮を組み合わせ、既知の多様体には解析的射影、未知の多様体には主成分分析で推定した局所アフィン近似を用います。楕円実験およびロボット実験(Push-T、Robomimic Square)では、多様体からの逸脱誤差の低減と成功率の向上が報告されています。

注目点収縮理論をフローマッチングに組み合わせ、法線方向の収縮で多様体不変性を保証し、Push-TとRobomimicで成功率を向上させる。新規性は高いが実験規模は限定的。

Amirhossein Nazerian, Ali Pezeshki, Jianguo Zhao

arXiv cs.CV · cs.LG

From internal representations to model improvement through prediction errors

説明内部表現から予測誤差を経てモデル改善へ:誤差に基づく学習画像の選択

要約本論文は、アノテーション予算が限られる状況で、どの画像にラベルを付けるかを選ぶ方法を扱います。対象モデル自身の内部特徴を予測誤差と性能への影響に結びつけ、候補画像のラベルを使わずに、ラベル付けと再学習に用いる画像を選択します。物体検出器を用いた2つのデータセットでの評価では、特徴の希少性のみに基づく選択より良い結果を示しました。

Yushi Nakaya, Kenichi Higuchi, Shuichi Ishida

arXiv cs.CV

DiMoP: Diffusion-Driven Motion Representation Learning With Frame-Level Pseudo-Classification for Skeleton-Based Action Recognition

説明DiMoP:拡散ベースの動き表現学習とフレーム単位の疑似分類によるスケルトンベース行動認識

要約本論文は、スケルトンベースの行動認識のための手法DiMoPを提案している。マスクされた関節に段階的なノイズを加え、可視関節を条件として除去するプロセスを通じて、関節の座標を決定的に回帰するのではなく、動きの分布を学習する。さらに、手動アノテーションなしで系列的に一貫し時間的に整合した疑似ラベルを学習するフレームレベルの疑似分類器を導入している。NTU RGB+D 60/120およびPKUMMDで最先端の性能を達成し、NTU RGB+D 120のクロスサブジェクト設定では従来研究より1.1ポイント高いとされている。

Shanaka Ramesh Gunasekara, Wanqing Li, Nikalal Kaldera ほか

arXiv cs.AI

Just Initialize: A Training-Free Initialization Component for Large-Scale Routing Optimization

説明「Just Initialize」:大規模経路最適化のための学習不要な初期化コンポーネント

要約本論文は、探索空間が大きく求解に時間がかかる大規模経路問題に対し、学習を必要とせず求解器に依存しない初期化コンポーネント「Just Initialize」を提案している。大規模な経路問題を小さな代理空間に圧縮して全体の経路構造を最適化し、その結果を元の空間で後続の最適化に適した出発解として復元する。論文では、巡回セールスマン、容量制約付き配送、時間窓付き配送、賞金収集型巡回セールスマンの各問題で、1Kから100Kノードのインスタンスにおいて先端手法と同等以上の解を、計算コストを大幅に抑えて得られたと報告している。平均約70倍の高速化が示されている。

Jiale Zhao, Sirui Mao, Zimu Chen ほか

★★★★★ 注目
arXiv cs.LG · cs.DC

SOLO: Pretraining Billion-Parameter Language Models with Shared-Output Local Learning

説明SOLO:共有出力ローカル学習で数十億パラメータの言語モデルを事前学習する

要約本論文は、各モジュールが個別に持つ読み出し層を、最終モジュールの読み出しを共有する読み取り専用コピーに置き換える SOLO(Shared-Output LOcal learning)を提案しています。モジュール間で勾配を渡さずに、各モジュールが深い側の情報を得られるようにします。340M から 2B パラメータの Transformer を 15B トークンで事前学習した結果、平均ゼロショット精度は逆伝播との差が 1 ポイント以内でした。同じ分割での流水線逆伝播の最良スループットに対し、最大 1.44 倍の性能が報告されています。

注目点私有読み出しを共有の読み取り専用出力に置き換えた局所学習で、340Mから2Bのモデルで逆伝播に近づき、最大1.44倍のスループットを示し、新規性と根拠は十分。

Bojian Yin, Shurong Wang, Yuqi Pan ほか

arXiv cs.RO · cs.CV

Revision, Not Restart: Revisable Visual Plans for Closed-Loop World-Action Models

説明再開ではなく修正:閉ループ型ワールド・アクションモデルのための修正可能な視覚計画

要約本論文は、ロボットが実行中のフィードバックに基づき、予測した視覚的未来を全体から作り直すのではなく修正する、修正可能時系列計画(RTP)を提案しています。学習された修正ブリッジが、視覚生成時に保存された中間状態から継続し、現在の観測に合わせて続きを調整します。RoboMMEとRMBenchでのタスク平均成功率はそれぞれ48.6%と84.8%です。

Pengyiang Liu, Junbo Niu, Wenhao Zheng ほか

arXiv q-bio.QM · cs.CV

An integrated geometric quantification and shape analysis framework for axillary lymph node metastasis in breast cancer patients

説明乳がん患者の腋窩リンパ節転移を対象とした幾何学的定量化・形状解析フレームワーク

要約本論文は、CTから分割・再構成した腋窩リンパ節の表面を、位相を考慮した処理と多解像度の球面調和解析で扱う枠組みを提案しています。処理後は位相的に妥当な種数0の表面が得られ、20の事前定義された幾何学的特徴群で記述されます。特徴群ごとの混合解像度モデルのAUCは0.918で、従来のPyRadiomics Shape14基準の0.884を上回りました。多施設リンパ節コホートとLIDC-IDRI肺結節データによる独立検証も行われています。

Zixi Yi, Limeng Qu, Gary P. T. Choi

arXiv cs.AI · cs.LG コードあり

Building Transformation Layers for Riemannian Neural Networks

説明リーマン型ニューラルネットワーク向け変換層の構築

要約本論文は、計算可能なリーマン空間上で全結合層と畳み込み層を構築するための枠組みを提案しています。これにより、ユークリッド空間の両層を非ユークリッド幾何へ一般化します。この枠組みは、異なる幾何上の従来の全結合層を特殊ケースとして含み、双曲モデル3種、対称正定値多様体の5つの幾何、グラスマン多様体の2つの視点を含む10の代表的な多様体上で実装されています。異なる多様体での実験により、本手法の有効性と適用可能性が示されています。

Ziheng Chen

arXiv cs.LG · cs.AI

ReSPO: Reshaped Sequence Policy Optimization for Gradient Starvation in Off-Policy Learning

説明ReSPO:オフポリシー学習における勾配飢餓に対処する再整形型シーケンス方策最適化

要約本論文は、ロールアウトを複数回の方策更新で再利用する強化学習において生じる勾配飢餓問題を扱っています。クリッピングによる従来の方策最適化では、重要度重みの小さい側で正の応答が抑制され、大きい側では過剰生成された負の応答が支配的になると指摘しています。提案手法ReSPOは、α発散の変分目標と指数的分散制御に基づく滑らかな二分岐のシーケンスレベル核でクリッピングを置き換え、Qwen3の稠密モデルとMoEモデルで早期最適化の加速と保留ベンチマーク性能の向上を報告しています。

Yihang Chen, Yuanhao Ban, Cho-Jui Hsieh

arXiv stat.ML · cs.LG

Multi-Task Learning of Conditional Mean Operators: applications to dynamical systems and uncertainty quantification

説明条件付き平均演算子のマルチタスク学習:力学系と不確実性定量化への応用

要約本論文は、関連する複数の条件付き分布に対する条件付き平均演算子(CMO)を同時に学習する手法を扱う。共有の関数空間とタスクごとの線形演算子を学習するマルチタスクの枠組みMTL-CMOと、共有空間を再利用して新しい条件付き分布の演算子を閉形式で推定する転移学習法T-CMOを提案している。実験では、共有関数空間によって多様な条件付き分布の不確実性定量化が改善され、ランジュバン系とプラズマ動力学において物理的に意味のある情報を保った簡潔な表現が得られることが示されている。

Sami Chemlal, Thibaut Germain, R\'emi Flamary ほか

arXiv cs.LG · cs.CL

LLMs are General Asynchronous Agents

説明LLMは汎用の非同期エージェントになれるか:思考中も新しい入力を受け続ける仕組み

要約現在のLLMは「読む、考える、返答またはツール呼び出し、繰り返す」という逐次的なサイクルで動くことが多い一方、音声アシスタントや身体性エージェント、監視システムは思考や別の作業の最中にも新しい入力を受け取る必要がある。本論文は、重なり合うメモリ状態を持つ推論コルーチンをユーザーまたはエージェント自身が定義できる非同期LLMフレームワークを提案している。著者らによれば、Qwen 3.xシリーズは、タスク固有の学習なしに、ストリーミング動画理解、ビデオゲーム、監視の各場面で非同期動作が可能だという。

George Yakushev, Denis Mazur, Vladimir Bartenev ほか

arXiv cs.LG · cs.AI · cs.CL

Frontier Learning: Training LLM Reasoners at the Edge of Capability

説明フロンティア学習:能力の境界で大規模言語モデルの推論を訓練する

要約本論文は、大規模言語モデルの推論能力を高める開かれた事後学習手法「フロンティア学習」を提案しています。学習中に手続き的生成器をオンラインで用い、情報量のある問題を継続的に生成します。後悔信号によって難易度の境界を優先的に探索し、モデルの能力の境界に学習を集中させます。著者らは、複数の推論タスクとモデル系列で、固定問題プールの基準手法より高い相対的な向上が得られたと報告しています。

Robin Faro, Shyam Sundhar Ramesh, Ilija Bogunovic ほか

arXiv cs.PL · cs.AI · cs.CL

Semantic Prefix Oracles for LLM Decoding: Contracts and Differential Validation

説明LLM デコーディングのための意味的プレフィックス・オラクル:契約と差分検証

要約本論文は、文脈自由な文法に沿ってデコーディングする際に、スコープ、型、宣言の効果といった意味制約を同時に実行する宣言的形式手法「意味文法仕様」を提示します。どの続きでも修復できない意味的矛盾を持つプレフィックスだけを剪定し、残る各分岐に実現可能な証人が存在することを保証する条件を与えています。ocamlc と cc との差分検証では、合法な65プログラムの全プレフィックスで誤剪定は0件、不正な30プログラムのうち25件を途中で特定し、構文のみのオラクルは0件でした。

Paul Kronlund-Drouault

arXiv cs.RO · cs.CV · cs.LG コードあり

InJePA: Intention-First Latent Planning with Coupled JEPA World Models for Visual Navigation

説明InJePA:結合型JEPA世界モデルによる意図優先の潜在空間プランニング(視覚ナビゲーション)

要約本論文は、潜在状態を中心に、まず意図を提案してから行動を生成する視覚ナビゲーション手法InJePAを提案している。目標条件付きJEPAが潜在意図を提案し、行動条件付きJEPAが将来の潜在状態を予測する。両者は共有潜在空間で予測表現を揃え、意図・行動・結果の閉ループを形成する。Habitat MP3Dでの画像目標による閉ループナビゲーション評価で、多段階のナビゲーションが有効に行えたと報告されている。

Siming Zhou, Bowen Ma, Ruiran Du ほか

arXiv cs.CV

Automated Species Identification in Camera Trap Images for Wildlife Conservation

説明カメラトラップ画像における野生生物の自動種識別

要約本論文は、低コントラストのカメラトラップ画像、特に小型動物の種識別を改善するエンドツーエンドの枠組みを提案しています。Swin-BiFPNバックボーンをFaster RCNN検出ネットワークに組み込み、LLaVA v1.5(13B)マルチモーダル大規模言語モデルによる視覚意味抽出モジュールを結合しています。このモジュールはゼロショット検出と動物の行動に関する手がかりを提供します。五つのマルチモーダルモデルを従来のNLP指標とLLM評価者で評価しています。

Nowshin Amin, Nafisa Tabassum Oyshi, Tahmid Abrar Zidan ほか

★★★★☆ 注目
arXiv math.OC · cs.LG · stat.ML

Convex Optimization Is Free When Accuracy Is Expensive

説明精度のコストが高いとき、凸最適化は実質的にタダになる

要約本論文は、勾配を正確に計算できず、計算量が精度 δ に対して δ^(-γ) で増えるアルゴリズム階層でのみ近似できる場合の凸最適化を扱う。ランダム化多層オラクルは、決定論的近似の代わりに不偏推定量を用い、1回の呼び出しコストを δ^(-γ) から δ^(2-γ)σ^(-2) へ下げる。凸の場合、期待計算量は Θ(ε^(-γ)) で、固定精度の Θ(ε^(-(γ+1))) より優れる。μ-強凸の下では指数が γ/2 に半減する。

注目点確率的多層オラクルにより凸最適化の計算量をε^{-γ}へ削減し、強凸の場合の界も示す点で理論的に大きな改善である。

Arthur Paing, Arthur Jacot

arXiv cs.CV

When Should the Count Change? Learning State Maintenance for Causal Video Counting

説明カウントはいつ変わるべきか?因果的動画カウントのための状態維持学習

要約本論文はStaMina(状態維持)を提案し、状態条件付き更新によって動画カウントの状態を維持し、新しい観測・新しい物体・完了したイベントを区別する手法を示しています。SVCBenchでの評価では、前置リプレイ(Full)と持続ストリーミング(Stream)の設定で、4Bおよび8Bモデルがそれぞれ41.9/36.4、44.9/38.2のGaussian Precision Accuracyに到達しました。8Bモデルは同じクエリでCounting-SFTを上回っています。

Pengyiang Liu, Dongyue Lyu, Junbo Niu ほか

arXiv cs.RO · cs.CV · cs.SY

Adaptive Safety Filtering for Frozen ACC Policies via Conformal Residual Calibration

説明凍結されたACC方策に対する共形残差校正による適応的安全フィルタリング

要約本論文は、訓練後に固定された適応型クルーズコントロール(ACC)方策について、展開時の動力学が訓練条件と異なる場合に制約違反が生じうる問題を扱います。固定された名目予測器の残差を較正し、その分位点を有限モデルの行動投影のための運用マージンに変換する残差認識共形行動フィルタリング(RACF)を提案しています。2,400の制御器試行単位での比較では、適応RACFのエピソード安全率は94.3%で、評価された名目CBF-QPベースラインを19.9ポイント上回り、投影頻度も低下しています。

Zhiruo Zhou, Rigaudiere Z. Li, Chen Xiwen ほか

arXiv cs.AI · cs.CL · cs.MA コードあり

Self-Adapting Group of Experts for Multi-Agent Reasoning

説明自己適応型エキスパート群による多エージェント推論の無訓練フレームワーク

要約本論文は、訓練を必要としない多エージェント推論フレームワークSAGE(Self-Adapting Group of Experts)を提案している。回答の一致度、接頭辞の一貫性、相互ピアレビューを用いて、現在の問題に適した戦略の提供元を選び、その推論戦略を各エージェントの元の役割を保ったまま他のエージェントへ転送する。複数のエージェント基盤モデルと推論ベンチマークでの実験では、比較対象のベースラインより平均精度が高いと報告されている。

Mohammad Atif Quamar, Nurbek Tastan, Karthik Nandakumar ほか

arXiv cs.SD · cs.AI

GLAD: Global-Local Adaptive Detector for Robust Speech Deepfake Detection

説明GLAD:頑健な音声ディープフェイク検出のためのグローバル・ローカル適応型検出器

要約本論文は、自己教師あり学習(SSL)ベースの音声ディープフェイク検出器が未知のドメインへの汎化に弱く、細かな信号の痕跡を見落としがちである問題を扱います。提案手法GLAD(Global-Local Adaptive Detector)は、グローバルとローカルの特徴を融合する階層型バックボーンと、サンプルごとに層の重みを動的に調整する階層適応ゲーティング機構を用います。さらに環境バイアスによるショートカット学習を抑えるためSaniBoostというデータ拡張も導入しています。実験では、特に未知ドメインのケースで既存手法を上回ったと報告されています。

Zelin Zhao, Guanjie Huang, Danny Hin Kwok Tsang ほか

arXiv cs.CV · cs.AI

Spectral Super-Resolution using Spatial-Spectral Residual Operator Networks

説明空間-スペクトル残差演算子ネットワークを用いたスペクトル超解像

要約本論文は、多分光衛星画像から高スペクトル画像を推定するスペクトル超解像を演算子学習問題として扱い、ダウンサンプルされたスペクトルから連続スペクトルへの関数写像を学習する深層演算子ネットワークSSRONを提案している。Sentinel-2A風の多分光画像からEMIT画像への超解像で学習され、すべての指標で基準モデルを上回った。さらに、学習時に含まれなかったバンドも予測でき、センサ固有の波長間隔より細かい間隔でスペクトルを推定する可能性も示している。

Seokhyun Chin

arXiv cs.CL · cs.AI

AwarenessBench: Assessing Cognitive Capabilities of Language Models

説明AwarenessBench:言語モデルの認知能力を評価するベンチマーク

要約本論文は、言語モデル(LM)の認知能力を、メタ認知、自己認識、社会的認識、状況認識の4つの次元から評価する初の包括的なベンチマーク「AwarenessBench」を提案しています。15の認知機能と14,381件のサンプルを含みます。18の最先端モデルを評価した結果、いずれもランダムベースラインを一貫して上回り、より高度なモデルほど高い性能を示しました。3つの人口統計グループの人間と比較すると、最高性能のモデルは全体として人間の平均を上回った一方、多くのモデルはメタ認知と自己認識で大きく劣っていました。さらに、言語モデリングや推論の進歩が認知能力の向上に必ずしもつながらないことも示しています。

Xiaojian Li, Rongwu Xu, Tianyun Zhang ほか

arXiv cs.CV

BiMoGen: Bidirectional Motion-Text Generation via Unified Masked Discrete Diffusion

説明BiMoGen:統一マスク離散拡散による双方向モーション・テキスト生成

要約本論文は、統一されたマスク離散拡散モデルで、テキストから人の動きを生成する課題と、動きから説明文を生成する課題を同時に扱うBiMoGenを提案している。学習を安定させるため、単独モダリティと跨モダリティを分けて学習する手法と、推論時の誤りを緩和する生成認識型の自己修正を導入している。HumanML3DとKIT-MLでの実験において、両課題で競争力のある結果が示されたと報告されている。

Wanjiang Weng, Yongliang Wu, Xiaofeng Tan ほか

arXiv cs.CV

Reduce, Then Encode: Multiscale Volumetric Reduction for 2D Foundation Models in Brain MRI

説明先に縮約してから符号化:脳MRI向け二次元基盤モデルのための多重スケール体積縮約法

要約本論文は、脳の構造MRI(sMRI)の三次元データに事前学習済みの二次元基盤モデルを利用する方法を扱っています。著者らは多重スケール体積縮約法(MVR)を提案し、各解剖学的視点のスライスを少数の二次元成分(主成分分析に基づく基底成分と多重スケール残差成分)に圧縮してから、凍結された二次元基盤モデルで符号化します。凍結エンコーダの設定において、ADNI、OASIS、ABIDEで全体的に良好な性能を示し、ADNIからAIBLへの汎化も確認されています。

Dexuan Ding, Yuankai Qi, Bogong Wang ほか

★★★★☆ 注目
arXiv cs.LG · cs.MA

Persistent Partners Raise Prices Among Learning Agents

説明継続的なパートナーが学習エージェントの価格を引き上げる

要約本論文は、プラットフォーム上で繰り返し出会う価格設定エージェントについて、誰と誰が対戦するかという選択が、エージェントが学習する価格を動かすかを検証している。Calvanoらのベルトラン複占モデルで、価格は表形式のQ学習モジュールが決め、同じパートナーを保持するか、相手の価格を見られるか、メッセージを送れるかを無作為に割り当てた。同じパートナーを保つと、訓練全体で平均した利益水準が競争利益と独占利益の差の0.27(95%信頼区間0.20から0.35)だけ上がった。

注目点事前登録のランダム化実験で、固定パートナーが学習型価格設定エージェントの価格を引き上げることを示し、懲罰と静的最適応答を区別している。証拠は比較的充実している。

Paul-Peter Arslan, Yubin Kim, Xiao Xiao

arXiv cs.LG

KernelOnet: An Interpretable Neural Operator Based on Kernel Functions

説明KernelOnet:カーネル関数に基づく解釈可能なニューラルオペレータ

要約本論文は、カーネル関数を明示的にニューラルオペレータ構造へ組み込んだ、解釈可能なフレームワークKernelOnet(Kernel Operator Network)を提案する。学習可能なデータ駆動型カーネル、解析的基本解などの物理情報を埋め込んだ物理情報型カーネル、両者を組み合わせたハイブリッドカーネルの三種類を提供する。3つのベンチマークと浅水導波路の工学問題で高い精度を示したという。

Yuan Guo, Hanshu Chen, Qiang Xi ほか

arXiv cs.AI · physics.geo-ph

Structural Alignment for Reliable Industrial AI: Bridging Physical Reality, Data, Models, and Human Intent

説明信頼できる産業用AIのための構造的アライメント:物理現実・データ・モデル・人間の意図をつなぐ

要約本論文は、産業用AIの信頼性を、物理・表現・機械・人間の認知という四つの相互作用する領域間の構造的アライメントの問題として捉える枠組みを提案しています。これらは、デジタル化と目標エンコーディングという二つのインターフェースで接続されます。著者らは、存在性、非一意性、頑健性、解釈可能性の四つの属性で解空間を特徴づけ、インターフェースでの不整合が信頼性の障害につながる仕組みを示しています。医療、エネルギー網、地下探査への適用例では、主要な障害モードは分野ごとに異なるものの、共通の構造的メカニズムに由来すると論じています。

Lizhi Xiao, Sihong Wu, Victoria Xiao ほか

arXiv cs.CV コードあり

Rethinking Visual Token Compression for Video Large Language Models: A Simple Yet Strong Baseline

説明動画大規模言語モデルの視覚トークン圧縮を見直す:単純かつ強力なベースライン

要約動画大規模言語モデル(Video LLM)は長い動画から大量の視覚トークンを生成するため、推論効率が制約されます。本論文は、学習を必要としない単純なベースライン SimpleCluster を提案します。これは視覚特徴空間で位置情報を考慮したフレーム横断クラスタリングを行い、各クラスタを元の視覚特徴の平均で表します。4つの動画理解ベンチマークと3つの代表的な Video LLM での実験では、幅広いトークン保持率で近年の圧縮手法と同等以上の性能を示し、1% などの極低保持率で特に頑健でした。分析では、下流性能が高いほど元の視覚特徴分布、特に全体的なカバレッジが保たれていることが示されています。

Xiao Zhang, Wang Zeng, Sheng Jin ほか

arXiv cs.LG · cs.AI

The Hidden Ratio in Adam: Stable Structure, Compression, and Sign Dynamics

説明Adam の隠れた比率:安定した構造、圧縮、符号ダイナミクス

要約本論文は、深層学習で広く使われる最適化手法 Adam を、一次・二次モーメントの指数移動平均の減衰率が等しい(tied-β)場合について分析しています。その適応的挙動は、スケールにほぼ安定した変換比率によって表現でき、この比率はタスク、モデル規模、学習段階をまたいで安定した分布を示すと報告されています。これに基づき、二次モーメントを圧縮可能な状態に置き換える再パラメータ化を提案し、実験では固定の 4 ビットコードブックで十分に格納でき、全精度の Adam と競合する性能が得られたとしています。さらに、この見方は Adam と符号ベース手法の関係も明らかにします。

Yihe Zhou, Tongtian Zhu, Yingxiao Huo ほか

arXiv cs.MA · cs.AI

Embodied Semantic Communication for Collective Autonomous Agents: A Tutorial on Representation, Wireless Delivery, and Closed-Loop Coordination

説明集団自律エージェントのための身体性意味通信:表現、無線伝送、閉ループ協調に関するチュートリアル

要約本論文は、情報伝送を行動指向の意味的相互作用へと転換する身体性意味通信(ESC)のパラダイムを提案している。異種エージェントが共有情報をもとに協調行動を形成できるよう、概念の境界と技術的経路を整理し、意味情報理論、世界モデル、多エージェント意思決定理論などの数学的ツールを整理している。さらに、測定可能な意味的信頼性、動的環境下での曖昧性に基づく相互作用、帯域適応型意味伝送などの未解決課題を挙げている。

Yizheng Huang, Wensheng Lin, Lixin Li ほか

arXiv cs.LG

Inductive Feedback for Mixed-Policy Distillation

説明混合ポリシー蒸留のための帰納的フィードバック法:言語フィードバックを活用して言語モデルを改善する新手法

要約本論文は、大規模モデルが生成した言語フィードバックを使って言語モデルを訓練する方法を検討しています。標準的なオンポリシー蒸留では、フィードバックが動機づけていない教師モデル自身の嗜好が移転してしまい、フィードバックの指導も十分に使われないと指摘しています。そこで著者らは、フィードバックを特定のトークンの出現を支持または否定する証拠とみなし、新たな目標分布と対称ダイバージェンスの推定法を提案しています。知識系およびエージェント系のベンチマークで、一般的な手法より優れた結果が報告されています。

Amir Moeini, Huaijiang Zhu, Daniel Havir ほか

arXiv cs.CL

TRACE: Single-Pass Decoding-Trace Risk Localization for Generation Calibration

説明TRACE:生成の較正のための単一パス復号トレース・リスク局所化手法

要約本論文は、復号時の不確実性を軌跡として扱い、トークンごとの驚き度と予測エントロピーを記録して局所的なリスクを特定し、回答単位の信頼度に変換する単一パスの信頼度推定手法TRACEを提案している。校正版のTRACE+は保留分割を用いてトレース特徴のみから確率を較正し、追加の生成や外部検証器は不要である。四つのタスクと七つのLLMで、TRACE+はBrierスコアとAUROCの両方で既存の基準手法より優れた結果を示している。

Yuebin Xu, Xuemei Peng, Junlan Chen ほか

arXiv cs.CV · cs.AI

GeoForward: Geometry-Guided Cross-View Alignment for Feedforward 3D Gaussian Splatting

説明GeoForward:フィードフォワード型3Dガウススプラッティングのための幾何誘導型クロスビュー整合

要約本論文は、疎なLiDAR点と校正済みカメラの幾何関係から複数視点間の対応をまず確立し、その後に視覚特徴で精緻化し、VGGTの多視点文脈と融合して深度とガウス属性を予測する新しい三次元再構成手法を提案している。nuScenesでは、比較手法の中で最も低いクロスカメラ深度一貫性誤差とChamfer距離を達成し、再構成品質も競争力を保っている。

Yiming Shu, Peng Sun, Lang Zhang ほか

arXiv cs.SE · cs.AI

MCP Error Messages Written for Developers Hurt the Most Capable Agents Most

説明開発者向けに書かれた MCP エラーメッセージは、最も有能なエージェントほど大きな害を受ける

要約本論文は、よく使われる150の MCP サーバーの3,001件のエラーメッセージを分析し、949件が次の操作を指示していること、その半数はサーバーから見えない呼び出し元の情報に依存していることを示す。OpenAI の5つのモデルを伯克利の関数呼び出しリーダーボードのタスクで試験したところ、端末コマンドなどの指示に従うと回復率が下がった。改善策として、MCP 開発者は指示に具体的なツール名を書くこと、エージェント開発者は指示を無視させるプロンプトを与えることを提案している。

Xiaonan Xu, Wenjing Wu

arXiv cs.LG

Identifying Neural Source Dynamics from Unknown Local Interventions

説明未知の局所介入から神経源の動態を同定する

要約脳波(EEG)は脳内の複数の信号源の活動が混ざった信号を記録します。解剖学的順伝播モデルが既知でも、一部の源状態しか刺激しない実験では動態を特定できません。本論文は、未知の局所的な機構変化がその欠けた情報を補えることを示します。ある源の一回の遷移の更新規則を変えると、後続の脳波に階数1の源特異的な痕跡が現れ、基準応答との差分でそれを分離できます。回復条件と推定法を示し、MRI由来の解剖構造に基づく仮想脳波では、12の源座標のうち4つだけが基準刺激を受ける条件でも、8回の未知の変化で32/32のシステムの全動態を回復しました。非局所的な変化や順伝播モデルの誤差は精度を制限します。

Ayana Mussabayeva, Jiaqi Sun, Anuar Aimoldin ほか

arXiv cs.CL · cs.AI

Multilinguality in Hybrid Attention LLMs

説明ハイブリッド注意機構LLMにおける多言語性の研究

要約本論文は、完全注意機構と再帰ベースの代替手法を組み合わせたハイブリッド注意機構が、大規模言語モデルの多言語性に与える影響を初めて調べたものです。解析の結果、言語間表現は再帰層と完全注意層の順序に沿って形成され、最初の完全注意層の付近で言語間整合性が顕著に高まることが示されました。多言語データによる蒸馏実験では、代替の層順序がすべて標準の順序を上回り、最大2.5倍速く学習しました。著者らは、多言語モデルは再帰層ではなく完全注意層から始める方が有利になるのではないかと提案しています。

Lucas Bandarkar, Junlin Hu, Chenyuan Yang ほか

★★★★☆ 注目
arXiv cs.LG · cond-mat.dis-nn

First Learn, Then Memorize: The Spectral Bias of Diffusion Models

説明まず学び、次に記憶する:拡散モデルのスペクトル・バイアス

要約有限のデータセットで訓練された拡散モデルは、まず新しい高品質のサンプルを生成できるようになり、その後になって訓練データを記憶するようになる現象を分析した論文です。訓練の挙動は、ノイズ付きデータ上で評価される神経接線カーネル(NTK)のGram行列のスペクトルによって決まり、複数回のノイズ付加によってそのスペクトルが、汎化を担う大きな固有値と、記憶を担う最小の固有値の二つに分かれることを示しています。理論解析とCelebAでの実験により、この二つの構造と記憶の時間スケールがサンプル数に応じて長くなることを確認し、Gram行列の截断やL2罰則によって汎化と記憶の移行を制御できることも示しています。

注目点NTKグラム行列のスペクトルの二つのバルクで、拡散モデルの汎化と記憶の時間スケールを説明し、理論と実験で因果的に検証している。

Rapha\"el Urfin, Tony Bonnaire, Giulio Biroli ほか

arXiv cs.CL

How Well Can LLMs Simulate Real Learner Evaluations of Educational Feedback?

説明LLMは実際の学習者による教育フィードバックの評価をどこまで模擬できるか

要約本論文は、大規模言語モデル(LLM)が高校生物の問題に対するフィードバックへの実際の学習者の主観的評価を、集団と個人の両レベルでどこまで模擬できるかを調べたものです。六つのモデルについて、性格特性や評価例といった学習者固有の情報の有無による性能を比較しています。結果として、LLMによる学習者評価の模擬能力は依然として限定的であることが示されました。学習者プロファイルや評価例の提供は、スコアの校正と個人レベルの模擬を改善するものの、集団レベルの一貫性の向上にはつながりにくいとされています。

Momoka Furuhashi, Kouta Nakayama, Takashi Kodama ほか

arXiv cs.RO · cs.AI

From Pixel to Poses: Object-centric Tool Manipulation Learning from Human Demonstrations

説明ピクセルからポーズへ:人間のデモから物体中心にツール操作を学習する手法

要約ロボット操作のスケールアップは、実世界のロボットデータの不足がボトルネックになっています。本論文はP2P-T(Pixel to Poses for Tool Manipulation)を提案し、人間のデモから直接ツールの使い方を学習します。まず物体中心の世界モデルを事前学習して安定したポーズの事前分布を抽出し、次にそれを姿勢を考慮した低レベル方策に組み込みます。人間とロボットの対応データを必要とせず、複雑な実世界のツール操作タスクで従来の最先端手法に比べ実行性能が73%向上したと報告されています。

Bangjun Wang, Longyan Wu, Yukun Wei ほか

arXiv cs.CL · cs.NE

Deep Learning Methods in Neuroscience: From Modeling Molecular Mechanisms to Classifying States of Consciousness

説明神経科学における深層学習手法:分子機構のモデル化から意識状態の分類まで

要約意識状態の研究に関する現代的アプローチを批判的に検討した総説論文です。分類、クラスタリング、麻酔下の脳状態のモデル化、脳機能の測定可能な神経生物学的特徴の同定を扱っています。EEGとfMRIデータに基づくニューラルネットワークによる意識状態の自動検出、麻酔薬作用下の脳の構造・機能動態のモデル化、意識レベルと相関する神経生理学的指標の検出という三つの分野を比較しています。深層ニューラルモデルの有効性が高まる一方で、モデルの解釈可能性の限界や標準化された指標の欠如などの課題も指摘されています。

Elena Benderskaya, Anastasiia Alifanova, Svetlana Batalova ほか

arXiv cs.AI

A decision-support system applied to Law: Reasoning and explainability of the decision

説明法律分野に応用する意思決定支援システム:判断の推論と説明可能性

要約本論文は、規則の形式的ルールを運用して判断を支援する枠組みを提案し、法執行機関によるデータ処理の法令遵守を想定しています。記号的AIとSPARQLクエリ言語を用いて法的推論を行う方法を示しています。さらに、推論結果の正当化を生成するアルゴリズムと、推論が満足な結論に至らない場合に利用者へ追加情報を求める決定木ベースの手法を述べています。

Jeremy Bouche-Pillon (IRIT, IRIT-MELODI, IRIT-ADRIA ほか

arXiv cs.CV

Ego-Forge: Text and Geometric-Attention Free Exo-to-Egocentric Video Generation

説明Ego-Forge:テキストと幾何注意を使わない三人称から一人称への動画生成

要約本論文は、三人称の映像と目標の頭部軌跡から、人物自身の視点で見た一人称映像を生成する課題を扱う。提案手法Ego-Forgeは、外部のテキスト条件の代わりにモデルの隠れ状態から条件トークンを動的に作り、幾何誘導注意を取り除いて軽量な深度事前情報のみを用いる。学習規模を拡大し全ての外部視点を用いることで視点間の対応を暗黙に学習するとされる。Ego-Exo4Dで最先端の性能を示し、推論時に外部アノテーションを必要とせず、実世界のシーンにも一般化すると報告されている。

Mohammad Mahdi, Luc Van Gool, Danda Pani Paudel

arXiv cs.CL コードあり

From Input to Output: A Flexible Agent for Dual-End Interpretation of Sparse Autoencoder Features

説明入力から出力へ:スパースオートエンコーダ特徴の両端解釈のための柔軟なエージェント

要約本論文は、スパースオートエンコーダ(SAE)の特徴を、活性化する入力の意味から介入時の出力効果への写像として捉える「機能的解釈」を提案し、入力側・出力側・機能の各解釈を部品ごとのフィードバックで洗練する双端エージェントDAFI(Dual-End Agentic Feature Interpretation)を紹介しています。GemmaScopeでは、入力スコアはSAGEより、出力スコアはToken Changeより高く、汎用コーディングエージェントよりトークン効率も良いと報告されています。さらに、蒸留したスキルの転移やAxBenchでの操舵特徴選択の改善についても述べられています。

Dewen Liu, Zixuan Li, Jonathan Pan ほか

arXiv cs.LG · cs.AI

Do Temporal Link Predictors Need Learned Memory? A Smoothed-Count Baseline with a Handful of Parameters

説明時系列リンク予測に学習型メモリは必要か?少数パラメータの平滑化カウント基準

要約多くの時系列リンク予測モデルは、学習されたノード表現によって過去の相互作用を要約します。本論文では、統計的言語モデルに基づき、ノード埋め込みを学習せずに、遷移および共起のカウントを送信元間でプールして予測する手法を提案します。疎な推定値は宛先頻度またはKneser-Neyの継続カウントで平滑化され、人気度、送信元の履歴、直近性と組み合わされます。TGBおよびTGB-Seqの16データセット中7つでMRRが最高となり、学習可能なパラメータはわずか9~13個で、将来のニューラル手法の簡便な基準として位置づけられます。

Lisi Qarkaxhija, Ingo Scholtes

arXiv cs.LG · cs.AI コードあり

d-OPD: Future-Aware On-Policy Distillation for Block Diffusion Language Models

説明d-OPD:ブロック拡散言語モデルのための未来認識型オンポリシー蒸留手法

要約この論文は、自己回帰型大規模言語モデルをブロック拡散言語モデルへ蒸留する際の教師信号のずれに取り組んでいます。提案手法 d-OPD は、各ブロック内の可視な未来情報を取り入れて自己回帰教師の分布を補正し、生徒モデルが使う情報により合った監督を与えます。著者らによると、Qwen3 の 0.6B から 8B のモデルで、6 つのベンチマーク平均が OPDLM より最大 4.0 ポイント向上し、訓練時間は 1.35〜1.58 倍短縮されました。

Ruitao Liu, Qinghao Hu, Song Han

arXiv cs.LG · cs.AI · cs.NE

Graph neural networks for sampling-invariant embeddings of organized signal sets

説明サンプリングに依存しない埋め込みを得るための、整理された信号集合向けグラフニューラルネットワーク

要約センサーネットワークやレーダーは、順序付けられた信号やグリッド内の距離セル、グラフのノードに対応する信号など、整理された信号集合として信号を出力することがあります。本論文では、各信号の採样パラメータが異なる場合でも、そのような信号集合を固定サイズのベクトル空間に写像するニューラルネットワークのエンコーダーを研究しています。評価は合成された複素数値の無線周波数信号のみを用い、波形の分離という観点から表現の識別能力を検証しています。

Martin Bauw, Santiago Velasco-Forero (CMM), Jesus Angulo (CMA)

arXiv cs.SE · cs.AI · cs.CL

Do Coding Agents Reuse Existing Code or Reinvent the Wheel?

説明コーディングエージェントは既存コードを再利用するのか、車輪の再発明をするのか?

要約本論文は、実リポジトリにおけるコード再利用を検証するための多ターン型ベンチマーク RepoReuse を提案します。要件はターンごとに提示され、作業領域はターンをまたいで蓄積されます。3,000ターンの監査では、エージェントが次第に関連するリポジトリコードを探索しなくなり、自身の履歴コードの再利用も減り、5ターン目までに50.8%のタスクチェーンで重複したロジックが残る一方、合格率はほとんど変わらないことが示されています。

Dongsheng Ma, Sizhe Wang, Xinyi Huang ほか

arXiv cs.AI

Don't Inoculate Everything: Stratified Inoculation Prompting Narrows Backdoor Triggers and Preserves Desired Traits

説明すべてに接種をしない:層別インokulation(免疫)プロンプトで望ましくない挙動の発現を抑え、望ましい特性を保つ

要約本論文は、言語モデルを微調整する際に望ましい挙動と望ましくない挙動が同時に学習される問題を扱います。著者らは、少数のクリーンな例を多様な非誘発プロンプトの下で過剰サンプリングし、残りに接種プロンプトを適用する層別接種プロンプト(SIP)を提案しています。従来の接種プロンプト(IP)と比べて、望ましくない挙動を大きく減らしつつ、望ましい挙動をより多く保持できることが示されています。

Kajetan Dymkiewicz, Tim Farrelly, Adam Prada ほか

arXiv cs.LG

Fiona: Accelerating FHE Inference with Packing-Aware Ternary Weights

説明Fiona:パッキングを考慮した三値重みによる FHE 推論の高速化

要約完全準同型暗号(FHE)を使うと、暗号化された入力に対して直接ニューラルネットワーク推論を行えますが、平文推論に比べて依然として桁違いに遅いです。本論文では、パッキング構成の中で重みを選択的に三値化するオフライン最適化器 FIONA を提案します。感度の高いグループは全精度の重みを保持し、低次の多項式への置き換えによって乗算の深さとブートストラップを減らします。VGG11、ViT、BERT において、平文-暗号文乗算を 53.4〜79.5% 削減し、エンドツーエンドの暗号推論をそれぞれ 2.38 倍、1.68 倍、1.84 倍高速化しました。3 モデルとも精度低下は 1% 未満です。

Yiteng Peng, Zhibo Liu, Dongwei Xiao ほか

arXiv cs.LG

Interference Beyond Geometry in Concept Extraction

説明概念抽出における幾何構造を超えた干渉

要約本論文は、特徴の幾何構造と符号化統計を組み合わせて実際に生じる相互作用を捉える「有効干渉」の概念を提案し、建設的干渉と破壊的干渉を区別します。局所的な固定サポートの仮定の下で、直交化、バイアス補償、ゲイン適応、エンコーダ・デコーダ分離の四つのアーキテクチャ上の仕組みが干渉をどう形作るかを分析しています。スパースオートエンコーダによる実験では、制約付きアーキテクチャが同時活性化する特徴間の重なりを選択的に減らし、バイアス、ゲイン、エンコーダの自由度は建設的な交差寄与を残すことが示されています。

Val\'erie Costa, Bahareh Tolooshams

arXiv cs.AI · cs.CL · cs.LG

Jailbreaks for Black-Box Uncertainty Quantification in Large Reasoning Models

説明ブラックボックス環境で大規模推論モデルの不確実性を定量化するジェイルブレイク式手法(J4U)

要約強化学習で整合させた大規模推論モデル(LRM)は、過度に自信を持つ傾向があります。ロジットが利用できない実運用環境向けに、本研究は既存のブラックボックス手法(言い換えに基づく自己一貫性や信頼度の言語化など)が単純な反復サンプリングをほとんど上回らないことを示し、プロンプトレベルの緩和演算子と、その考え方に基づく J4U を提案しています。3つのデータセットと、閉鎖型の製品モデルを含む4つの LRM での実験で、J4U は多くの設定で統計的に有意な改善を示し、平均 ECE の低減幅も大きくなりました。

Lucas Biechy, C\'edric Eichler, Adrien Boiret ほか

arXiv cs.LG · cs.NA · math.NA

Quasi Linear Kernel Attention with Infinite Capacity

説明無限容量を持つ準線形カーネル注意機構:長い系列に対して準線形の計算を可能にする注意機構の設計

要約標準的なTransformerのsoftmax注意は、系列長に対して計算量が二次的に増加します。本論文は、注意行列が単位行列を近似できる最大系列長として「容量」を定義し、カーネル関数の表現力を測る指標とします。softmax、Gauss、Laplaceカーネルは無限容量を持つ一方、一般的な準線形カーネルは有限容量にとどまることを示し、単変量スプラインと多項式指数カーネルから構成される加法的カーネルを提案しています。これは無限容量を保ちつつ、ソートにより準線形計算を可能にすると証明されています。

Nicolaj Rux, Johannes Hertrich, Sebastian Neumayer

arXiv cs.LG · cs.AI

From Data to Program: Fast & Direct Generative Program Inference from Empirical Data

説明データからプログラムへ:経験データからの高速かつ直接的な生成プログラム推論

要約本論文は、有限個のサンプルから一度のフォワードパスで実行可能な明示的生成プログラムを推論する、事前学習済みのデータ-プログラム型モデルPRODiGIを提案している。プログラムはモデルとは独立に、直接のサンプリング、密度・スコア評価、検査に利用できる。さらに、モデルパラメータを固定したまま生成サンプルと経験サンプルを一致させてプログラムパラメータを調整する、プログラム空間での微調整も導入されている。

Simon Kl\"uttermann, Xueying Ding, Leman Akoglu