AI アルゴリズム · 2026年9月27日(日)

機械学習、人工知能、自然言語処理、コンピュータビジョン、マルチエージェント。

arXiv cs.CL · cs.AI

Safety Reconstructed: Generative Modeling via Masked Diffusion Builds Strong Safety Guardrails

説明マスク拡散による生成的モデリングで安全ガードレールを再構築:LLaDA-Guard

要約本論文は、単一の判定トークンを予測する従来型ガードモデルに代えて、各ラベル仮定の下で入力を説明する度合いを比較する LLaDA-Guard を提案します。マスク拡散言語モデル LLaDA-8B-Instruct を LoRA で微調整して実装しています。保持out の7つの安全ベンチマークで、より強力なバックボーンで学習した判別型ベースラインを平均順位で上回り、信頼度の校正も改善され、不安を誘う良性プロンプトへの過剰な防御も少ないと報告しています。さらに、トークン単位のリスク特定と、追加学習なしで危険なプロンプトを安全な表現に書き換える手法を示し、平均安全変換率は60.7%です。

Gert Lek, Abele Malan, Chaoyi Zhu ほか

arXiv math.OC · cs.LG · cs.SY

lapanda: A Matrix-Free Differentiable Solver for Nonconvex Constrained Optimization Layers

説明lapanda:非凸制約最適化レイヤーのための行列非依存の微分可能ソルバー

要約本論文は、一般的な制約を持つ非凸最適化問題に対する行列非依存の微分可能ソルバー lapanda を提案します。これはネットワークに組み込んでエンドツーエンドで学習できます。問題を拡張ラグランジュ法の部分問題列に変換し、適応線探索付きの近接平均準ニュートン法で解きます。非凸制約つき Rosenbrock ベンチマーク、制約付き最適制御の模倣学習、ロボットの障害物回避タスクで評価され、既存の微分可能ソルバーと比べて計算時間とメモリ使用量を大きく削減しつつ、制約充足と学習性能を保つと報告されています。

Yuankun Chen, Zifei Nie, Kangyu Lin ほか

arXiv cs.CV

Event-Only Wingbeat Counting under Camera Motion: A Controlled MuJoCo Benchmark

説明カメラ運動下でイベントデータのみを用いた羽ばたき回数カウント:MuJoCo による制御ベンチマーク

要約本論文は、カメラが動く条件で、イベントカメラのデータだけを使って羽ばたきの完全な周期数を数える、制御された MuJoCo シミュレーションベンチマークを提案しています。運動を考慮した学習と、イベントによる背景補償を比較し、リッジ回帰、フーリエ、自己相関、改良版 EEPPR のベースラインと比べています。中程度の運動では、運動を考慮した学習が計数誤差を大きく下げる一方、試された補償法は誤差を増やしました。著者らは、この結果は小規模な合成ベンチマークに限られ、実センサーや実際の飛行性能は示していないと述べています。

Zhang Nengbo

arXiv cs.CV · cs.AI

StoryEngine: A State-Grounded Agentic Framework for Video Storytelling

説明StoryEngine:映像ストーリーテリングのための状態ベース・エージェント型フレームワーク

要約本論文は、長編映像ストーリーを生成するための状態ベースのエージェント型フレームワーク「StoryEngine」を提案します。登場要素の配置や物語に関わる状態を構造化して保持し、出来事による変化を各ショットに伝えます。評価に基づく有界の修復ループで局所的な状態の不整合を修正します。多様なシナリオと視覚スタイルのベンチマークでの実験では、叙事の質、一貫性、視覚的整合性のいずれでも既存手法を上回ったと報告されています。

Yingrui Wang, Zeqing Wang, Yeying Jin

arXiv cs.LG · cs.AI

Learning Dynamics of Continual Learning: A Unified View of Data Attribution, Forgetting, and Plasticity Loss

説明継続学習の学習ダイナミクス:データ帰属・忘却・可塑性低下を統一的に捉える

要約本論文は、言語モデルが一度学習して固定されるのではなく生涯にわたって更新され続けることを前提に、1つのトークンからの学習が別の予測をどう変えるかを、トークン・層ごとに分解する手法を示します。softmaxの作用、共有出力層の幾何、残差接続という2つの相互作用経路を区別し、順伝播で計算できる近似を与えます。正の相互作用は有用な経験の特定に、負の相互作用は集中的な衝突や累積的な侵食につながり、長期的には将来の学習信号の伝達を弱めると述べています。データ帰属、忘却、可塑性の低下を同じ学習ダイナミクスの異なる形として統合的に捉える視点です。

Yi Ren, Wenlong Deng, Guanzhe Hong ほか

arXiv cs.AI · cs.CL

ParaAgent: Reinforcing Parallel Acting in Open-World Tool Environments

説明ParaAgent:オープンワールドのツール環境における並列行動の強化学習

要約本論文は、フェーズレベルの探索と実行を行動レベルの並列性と組み合わせた構造化並列行動ループ ParaAct を提案します。ParaAgent は、マルチエージェントによるコールドスタート用のデモンストレーションと、多層のアドバンテージ分離を伴う強化学習によってこのループを学習し、ステップ・フェーズ・軌道の各レベルの報酬で監督します。2つのオープンワールドのツールベンチマークでは、ParaAgent-4B が GPT-4.1 系システムを含む全ベースラインの中で最も高い平均成功率を示し、複数ツールのタスクで最も大きな向上が見られました。

Shengbin Yue, Hongru Wang, Siyuan Wang ほか

arXiv cs.CV · cs.AI

SpatialSpeak: QA-Native Reconstruction with Local and Global Context for Spatial Chain-of-Thought Reasoning

説明SpatialSpeak:局所と全体の文脈を用いた空間的思考連鎖推論のための質問応答型再構成

要約本論文は、視覚言語モデルが多視点再構成によって局所的な幾何情報と全体のシーン文脈を先に学習し、そのうえで空間的思考連鎖(CoT)推論を学ぶ二段階の枠組み SpatialSpeak を提案しています。第一段階では、局所幾何のための標識点3Dクエリと全体文脈のための物体中心クエリを用いた事前学習を行い、第二段階では視覚補償を伴う空間CoT学習で幾何推定を答えの導出に使います。著者らは ReVSI、VSI-Bench、SPAR-Bench で最先端の結果を報告しており、ReVSI のスコアは 62.8 です。

Yang Cao, Jiaxin Zhang, Dave Zhenyu Chen ほか

arXiv cs.AI

EAT: Expert Account Tracker for Efficient MoE Inference

説明EAT:効率的な MoE 推論のための専門家アカウント追跡手法

要約本論文は、混合専門家(MoE)モデルの推論を効率化する EAT(Expert Account Tracker、専門家アカウント追跡器)を提案しています。履歴を考慮した指標と適応的閾値を用い、重要な専門家を動的に選択して、性能を保ちつつ活性化する専門家の数を減らします。実験では、通常の手法と比べて活性化された専門家の数を平均25%以上削減し、複数のモデルとデータセットでベースラインの Top-P 法を上回り、トークン生成速度も向上したと報告されています。

Yuexian Li, Yifei Yang, Zouying Cao ほか

arXiv cs.CL · cs.AI · cs.LO

Quizzing the Translation: A Prover-Grounded Evaluation Metric for NL→FOL

説明翻訳に問いを投げかける:定理証明器に基づく自然言語から一階述語論理への評価指標

要約本論文は、自然言語の推論問題を一階述語論理に翻訳する工程に着目し、BLEUやBERTScoreなどの既存指標が、誤りの多い翻訳をかえって高く評価してしまう点を指摘する。著者らはSIVを提案し、目標論理式から導出した探査文を定理証明器で候補翻訳に照合する。内容の欠落と過剰な主張の両方を検出でき、得点は誤りの重大度とよく対応すると報告されている。

Pu Suo, Ali Emami

arXiv cs.CV

Anguinus Sculpturae: Compositional Synthesis of Peak-Enhancement Breast DCE-MRI Scans

説明Anguinus Sculpturae:乳房DCE-MRIのピーク増強画像の合成手法

要約本論文はMAMA-SYNTH課題を対象に、造影前の乳房MRI画像から造影ピーク時の画像を予測し、ガドリニウム系造影剤への依存を減らすことを目指しています。提案手法は、造影後画像を造影前画像と予測された増強マップの和として一度の順伝播で求める単一ステップの差分予測を用い、nnU-Netによる分割結果で二つの生成器を誘導して領域ごとに合成します。MAMA-MIAのDukeホールドアウトで、評価した変種の中で最良のFRDとDiceを示したと報告されています。

Benjamin Hamm, Nico Albert Disch, Maximilian Rokuss ほか

arXiv cs.AI

Supervision Recovery for Time Series Anomaly Detection via Context-Anchored Pairing

説明文脈アンカー付きペアリングによる時系列異常検知の教師信号回復手法

要約時系列異常検知は異常ラベルが乏しく、異常が文脈に強く依存するため困難である。本論文は、ターゲット領域の異常ラベルを用いずに教師信号を回復する枠組み、文脈アンカー付きペア教師(CAPS)を提案する。模擬された正常・異常のペアから表現を学習し、文脈を共有する対照的な軌跡を生成して判別型検出器の学習に用いる。九つのデータセットでの実験では、四つの評価指標の総合的な性能で比較手法を上回った。

Yifei Gao, Tian Lan, Yimeng Lu ほか

arXiv cs.LG

You Only Edit Once: Incentivizing In-Context Capability of LLMs via Local Demonstration Refinement

説明一度だけ編集する:局所的なデモ例の洗練による LLM の文脈内学習能力の向上

要約本論文は、大規模言語モデルの文脈内学習(ICL)で用いるデモ例集合の選択を扱う。選択を制約付きの局所探索として捉え、局所デモ編集(LDE)を提案する。検索で得た例集合に対し、保持・削除・置換による構造化された編集を一度だけ行う。小型モデル Jev-LDE は強化学習で学習され、プラグアンドプレイで複数の対象 LLM の ICL 性能を向上させ、再学習なしで未知のベンチマークやモデルにも転移する。

Jiarong Wen, Qi Wang, Yun Qu ほか

arXiv cs.CE · cs.AI

Learning Transferable Reaction Mechanisms from Visual Chemical Knowledge

説明視覚的な化学知識から転移可能な反応機構を学習する

要約本論文は、化学的表現と外部の機構知識を組み合わせた視覚フレームワーク「MechaVLM」を提案し、化学反応の段階的な機構を予測する手法を示す。70,384枚の文献機構図から先例を検索し、図を直接利用して、原子インデックス付き言語デコーダで実行可能な電子移動編集を生成する。また、2,184の機構と9,146の素過程を含むベンチマーク「MechBench」を公開し、強いゼロショット予測性能を報告している。

Yujian Yuan, Jiaxin Xu, Xin Cai ほか

arXiv cs.LG

Hierarchical Response Preservation for Continual Adaptation of Zero-Shot Graph-Text Models

説明グラフ・テキストのゼロショットモデルの継続適応のための階層的応答保存手法

要約本論文は、事前学習済みのグラフ・テキストモデルが新しいクラスを継続的に学習する際に、ゼロショット転移能力と過去のタスクの知識をどう保つかという問題を扱っています。提案手法HiRP(Hierarchical Response Preservation)は、過去の各クラスの確率を保持し、新しいクラスの確率は合計する階層的応答を用いることで、過去のクラス間の区別と全体的な競合関係を維持しつつ、新クラス群内の区別は適応できるようにします。さらに、この応答から得られる幾何構造で更新を制約し、応答のドリフトを抑えます。三つのクラス増分設定において、HiRPは各設定で最も強い比較手法を平均精度で1.84〜7.95ポイント上回り、ゼロショット転移の劣化も軽減しました。

Haopeng Zhang, Yuhan Wang, Yubing Su ほか

arXiv cs.LG · cs.IT · math.IT

Short-Length Code Designs for Integrated Sensing and Communications: A Deep Learning Approach

説明統合センシング・通信(ISAC)向け短符号長符号設計:深層学習によるアプローチ

要約本論文は、通信とセンシングが同一波形を共用する統合センシング・通信(ISAC)について、非コヒーレント環境向けにオートエンコーダ(AE)ベースの波形設計フレームワークを提案する。複数目標の遅延推定に対する修正クラメール・ラオ限界を導出し、相関フェージング下の非コヒーレント通信における最尤復号則を分析している。AEは通信とセンシングの両機能を同時に最適化する波形表現を学習し、調整可能なパラメータで両者のトレードオフを制御する。シミュレーションでは、短符号長およびフェージング条件下で、提案方式が従来方式より通信信頼性と感知精度の両面で優れることが示されている。

Muah Kim, Shuangyang Li, Tayyebeh Jahani-Nezhad ほか

arXiv cs.CV · cs.AI

ViCoR: Reliable Molecular Structure Extraction via Spatially Aligned Verification and Executable Revision

説明ViCoR:空間整合された検証と実行可能な修正による信頼性の高い分子構造抽出

要約本論文は、科学文献からの化学構造の光学認識(OCSR)における信頼性向上を目指し、認識結果を自動で検証・修正するViCoRフレームワークを提案する。単なる棄却ではなく、反復的な検証と修正によって正しい出力を増やす点が特徴である。2つの実世界ベンチマークで全体精度が大幅に向上したと報告されている。

Yujian Yuan, Xin Cai, Yufan Chen ほか

arXiv cs.AI

JustQuant: You Don't Need Smoothing, SVD, or Rotation for 4-Bit Activation Quantization

説明JustQuant:4ビット活性化量子化にスムージング・SVD・回転は不要

要約本論文は、一般的な低ビット演算子だけで4ビット活性化量子化を実現するため、複雑さを推論時の演算子から学習過程へ移すJustQuantフレームワークを提案しています。量子化を知識蒸留の観点から見直し、段階的に多層の監督を与えるTheseus QADという手法を導入しています。DiTおよび拡散大規模言語モデルでの実験により、モデル規模に応じて効果の出方は異なるものの、既存のPTQ手法が必要とする複雑な演算子を使わずに低ビット量子化の品質が改善されることが示されています。

Kaicheng Yang, Kaisen Yang, Chunyu Liu ほか

arXiv cs.CV · cs.LG

PoE-Fuse: Precision-Weighted Expert Fusion for Bi-Temporal Change Understanding

説明PoE-Fuse:二時点変化理解のための精度重み付き専門家融合手法

要約本論文は、同じ場所の二時点の衛星画像を比較して変化の位置と内容を捉える PoE-Fuse を提案し、災害対応や環境監視への応用を想定しています。幾何、グラウンディング、言語の基盤専門家モデルを凍結し、軽量な融合モジュールのみを学習させ、空間グリッドごとの学習された精度で重み付け融合します。単一の共有モジュールで三つのタスクを同時に解き、平均 F1 は 59.2% で、指示チューニングされた時系列視覚言語モデルの 40.7% と、同条件で再学習した専用変化検出モデルを上回ったと報告しています。

Haruki Watase, Shunya Nagashima, Takayuki Nishimura

arXiv cs.RO · cs.LG

Beyond One-Step Accuracy: State-Affine Latent Transition for Reliable Visual Planning

説明一歩先の精度を超えて:信頼性の高い視覚プランニングのための状態アフィン潜在遷移(SALT)

要約本論文は、視覚プランニングで用いられる世界モデルが単一ステップの予測だけで学習される一方、計画時には予測結果を再帰的に入力する点に着目する。状態アフィンな動力学では雅可比行列が状態に依存せず、誤差伝播が行動系列のみに依存することを示し、その結果に基づいてSALTを提案する。SALTは再帰的な多段展開による教師ありで学習され、4つの視覚プランニング環境で単一ステップ誤差はLeWMより大きいものの、閉ループ成功率は平均10.0ポイント向上した。

Boyuan Zhang, Yingjun Du, Xiantong Zhen ほか

arXiv cs.CV

LoopLUT: 3D Lookup Tables with Progressive Region Refinement for Real-Time 4K Image Enhancement

説明LoopLUT:4K画像のリアルタイム強調のための段階的領域洗練型3D LUT

要約本論文は、4K画像のリアルタイムな色補正のために、領域を段階的に重ねる3D参照テーブル(LUT)手法LoopLUTを提案しています。まず全体用のグローバルLUTで全体補正を行い、その後の反復で低解像度上にゲーティングヘッドが補正の必要な領域を予測し、その領域の統計から残差LUTを作ります。ゲートによる重み付けで各結果をピクセル単位で融合します。4つのベンチマークで最大2.81 dBのPSNR向上が報告され、4Kでのリアルタイム処理が維持されています。

Yang Ye, Jiajun Ma, Chen Wu ほか

arXiv cs.LG

Pretraining Transformers with Quantized Softmax in Attention

説明注意機構で量子化ソフトマックスを用いた Transformer の事前学習の研究

要約本論文は、低精度 Transformer の事前学習において注意機構のソフトマックスを近似量子化すると学習にどう影響するかを検討しています。K+1 個のグリッド値で指数関数を近似する K 区間注意(K-interval attention)を用い、行ごとのグリッド校正、補間と硬い丸め、正規化に対する直通推定器の位置などの設定を比較しています。モデル、データ、最適化手法をそろえた実験の結果、設定によって検証損失の差が異なることが示されています。

Shangzhen Zhu, Muyan Hu, Tomasz Kozlowski

arXiv cs.LG · cs.CL

TGRL: Temperature-Grouped Reinforcement Learning for Efficient Exploration in LLMs

説明TGRL:LLMの効率的な探索のための温度グループ化強化学習

要約本論文は、サンプリング温度による出力の多様性を学習信号として明示的に用いる温度グループ化強化学習(TGRL)を提案しています。各プロンプトのロールアウト群を低温と高温の部分集合に分け、その報酬の差から探索による利得を推定し、同じロジットから温度を変えて得た次トークン分布間のJSダイバージェンスを使って、群レベルの信号をトークンレベルの信用割当てに変換します。原文によれば、ロールアウト予算を増やさずに、強力なRLVRベースラインと同等の精度に最大36%速く到達し、11のベンチマークで改善を示しています。

Zihan Lin, Xiaohan Wang, Jie Cao ほか

arXiv cs.LG

Approximating Softmax in Pretrained LLMs: Model Sensitivity and Kernel Acceleration

説明事前学習済みLLMにおけるSoftmaxの近似:モデル感度とカーネル高速化

要約本論文は、推論時にsoftmaxを近似計算した場合の影響を、10個の凍結済みデコーダ専用Transformerモデル(0.5B~72B)で調べています。確率を割り当てる位置の数と行内の分解能は大幅に削減できるものの、同じ位置を一様に重み付けすると性能を損なうこと、また行の最大値付近の分解能が有利であることを示しています。これに基づき、各行の最大値を基準とする粗い対数重み表現Rowmax-PoTと、FlashAttention-4向けのハードウェア特化版Rowmax-H15を提案しています。NVIDIA B200では、パッチ適用後のFP8注意力の順伝播が8Kで因果ありの場合12.4%、因果なしの場合25.8%高速化されました(ホスト側の呼び出し遅延による計測)。

Shangzhen Zhu, Muyan Hu, Tomasz Kozlowski

arXiv cs.CV

IVT-Guard: All-in-One Reasoning Model for AI-Generated Content Detection

説明IVT-Guard:AI生成コンテンツ検出のための統合型推論モデル

要約既存のAI生成コンテンツ検出器は単一のモダリティに限られ、推論を伴わない二値判定しか出力しないと論文は指摘しています。著者らは、画像・動画・テキストの約15.2万件のサンプルと多段階の思考連鎖(CoT)推論軌跡を含むIVT-Setデータセットを構築し、三つのモダリティを統一的かつ解釈可能に検出するIVT-Guardを提案しています。あわせて三段階の学習手法を設計し、論文は域内・域外・クロスデータセットのいずれにおいても最先端の検出性能を示したと報告しています。

Hongwei Niu, Yunpeng Luo, Hanjun Li ほか

arXiv cs.CV

Fill2SR: Repurposing Inpainting Diffusion Transformers for Real-World Super-Resolution

説明Fill2SR:インペインティング拡散 Transformer を実世界の超解像に転用する手法

要約本論文は、マスク付き画像インペインティング用の拡散 Transformer を、追加の空間ブランチなしで超解像に転用する Fill2SR を提案している。IIEA と呼ばれるモジュールは、低品質画像を全画像マスク下でネイティブのマスク画像スロットに書き込み、LoRA のみの調整で学習する。さらに RCDT という、対応のない実画像から劣化記述子を抽出し凍結済みモデルで clean な対象へ転送するオフライン手法も導入している。

Xingfu Yi, Xiaoxue Yu

arXiv cs.CV

ForeFly: A Dual-Horizon World Action Model for Aerial Vision-Language Navigation

説明ForeFly:空中視覚言語ナビゲーションのための二重地平線ワールド行動モデル

要約本論文は、複雑な3次元環境で指示に従いながら長距離飛行するUAV(無人航空機)のための、空中視覚言語ナビゲーション(AVLN)向けモデル「ForeFly」を提案します。近い将来の予測で局所的な連続性を保ち、適応的に選ばれる経路上の重要な将来で長距離の誘導を行います。さらに、前方予見誘導行動精緻化(FGAR)により、二種類の予見を異なる形で活用します。TravelUAVおよびUAV-ONのベンチマークでは、既見・未見の両設定で強力なベースラインを一貫して上回ったと報告されています。

Kunhui Wang, Xintong Zhang, Junyu Gao ほか

arXiv cs.LG · cs.AI · cs.GT

Compressing Value Predictions for Learning-Augmented Metrical Task Systems

説明学習強化型メトリカルタスクシステムのための価値予測の圧縮

要約本論文は、メトリカルタスクシステム(MTS)において双対値の予測を少数の代表状態に圧縮する方法を研究している。ランドマーク状態でのみ予測値を与え、残りの値はリプシッツ拡張で再構成する。追加の超過コストの上界をランドマークの被覆半径に関連付けて示し、疎なランドマークに対する下界や、圧縮された予測表の学習保証も扱っている。

Sizhe Li, Yecheng Li, Kun He

arXiv cs.AI

OpenFC: Learning Verification Policies towards Open-Search Fact Checking

説明OpenFC:オープン検索型ファクトチェックのための検証ポリシー学習

要約本論文はOpenFCという枠組みを提案し、Qwen3-8Bを推論・証拠取得・停止判断を統合して決定する小型の逐次行動制御器として訓練します。学習は二段階で、分段階校正コールドスタート(SCCS)で信頼できる軌跡を作り教師ありファインチューニングを行い、その後、検証認識強化学習(VA-RL)で未解決の主張について方策を改善します。著者らは六つのファクトチェックベンチマークで平均精度70.39%、マクロF1 63.30%を報告し、両段階の効果が相補的であると述べています。

Xinming Wang, Kaixiang Qiu, Yansong Lin ほか

arXiv cs.LG

HiLoRe: What to Store, Compress, or Recompute for Efficient GRPO Training

説明HiLoRe:効率的なGRPO学習のために、保存・圧縮・再計算する対象を決める手法

要約論文は、GRPO学習においてgradient checkpointing(GC)の固定スケジュールがメモリを無駄にしうると指摘しています。著者らは、GRPOの現在の損失係数に基づいて各状態の近似感度を判定し、高精度保存、低精度圧縮、決定的再計算の間で割り当てるHiLoReを提案しています。五つのモデル・タスク設定で、GCと比べてactor更新のスループットが最大13.5%向上し、平均下流スコアの差は0.6ポイント未満だと報告されています。

Xinrui Chen, Mengyang Li, Ou Wu ほか

arXiv cs.LG · stat.ML

Correct then Forecast: Observer State-Space Models for Time Series Forecasting

説明補正してから予測:時系列予測のための観測器付き状態空間モデル

要約本論文は、入力された時系列を自律的な力学系の測定値とみなす観測器状態空間モデル(OSSM)を提案している。潜在状態の伝播と測定による補正を明確に分離し、同じ遷移則で文脈区間と予測区間の双方を扱い、利用可能な観測は観測器を通じて推定状態を補正する。著者らは、可観測性や推定誤差の収束といった古典的制御理論の性質が自然に現れると述べ、既存の状態空間モデルがその特殊例として位置づけられるとしている。パラメータ数と学習設定を対応するベースラインと同じにした実験で、大きな改善が示されたという。

Alexis-Raja Brachet, Guillaume Clavier--Fr\'emond, Abdelhakim Ziani ほか

arXiv cs.AI

Dr. Free: You Don't Need Difficulty Rewards for Self-Evolving Search Agents

説明Dr. Free:難易度報酬を使わない自己進化型検索エージェント

要約本論文は、データを必要としない自己進化型の検索エージェント学習フレームワーク Dr. Free を提案しています。従来の難易度ベースの出題報酬を使わず、知識グラフから関係チェーンを抽出して対応する文章と組み合わせ、捷径文脈と比べて証拠が必要かどうかを直接最適化します。七つのオープンドメイン QA ベンチマークで既存手法と教師あり基準を上回り、特にマルチホップ QA で大きな改善を示し、出題器の学習時間は 7 倍以上短縮されたと報告しています。

Zhipeng Qian, Zihan Liang, Yufei Ma ほか

arXiv cs.LG · cs.AI · cs.MA

MA-JEPA: Joint-Embedding World Models for Multi-Agent Reinforcement Learning

説明MA-JEPA:マルチエージェント強化学習のための結合埋め込みワールドモデル

要約本論文は、マルチエージェント強化学習向けの確率的ワールドモデル MA-JEPA を提案している。観測の再構成の代わりに目標表現の予測を用い、学習時のみ使う結合予測器と、集中学習・分散実行の枠組みを導入している。SMAC の評価マップ8つのうち4つで、報告された最強の比較手法の平均勝率に並ぶか、それを上回った。

Brandon Gary Kaplowitz, Osaze James Obahor, and Christian Schroeder de Witt

arXiv cs.LG · cs.AI

OOD Generalization as a Bifurcation Problem

説明OOD汎化を分岐問題として捉え、臨界時間窓だけで厳密な分解ガイダンスを行う研究

要約本論文は、連続時間生成モデルが未観測の概念の組み合わせ(分布外、OOD)を生成する際の課題を扱います。構成的な結合は拡散軌道の局所的な時間区間に集中して起こることを示し、その区間に限って厳密な多段階スコアリングを行う「手術的ガイダンス」を提案しています。OOD双桁MNISTの実験では、拡散軌道の最初の15%だけに介入することで、同時基準に比べてペア精度が5.3ポイント向上したと報告されています。

Nguyen-Thanh-Luong Doan, Quang-Vu Nguyen, Tang-Phu-Quy Le ほか

arXiv cs.LG

GraphSelect for Budgeted Representation Selection in Multimodal Graph Inference

説明マルチモーダルグラフ推論のための予算制約付き表現選択手法GraphSelect

要約本論文は、テキストと画像それぞれに容量上限がある条件で、候補となる表現の一部を選び、マルチモーダルグラフ予測の結果をできるだけ保つ方法を研究しています。提案手法GraphSelectは、個々の候補の寄与から出発し、共同評価による入れ替えで部分集合を改善します。六つのグラフでは、六つの比較手法より高い目的関数の回復率を示し、二つのグラフ上の九つの学習済みアーキテクチャでは、各モダリティの候補表現の20%を保持した場合の平均精度低下は0.10ポイントでした。

Xu Wang, Xunkai Li, Yinlin Zhu ほか

arXiv cs.LG

Fine Until Fine-Tuned: Repeated Solutions Make Reasoning Fragile

説明『微調整されるまでは良好:繰り返しの解答が推論を脆くする』:同じ解答の反復学習が後続の訓練で推論を不安定にすると指摘する論文

要約本論文は、s1 や LIMO のように少量データで推論を学習させる際、同じ解答を繰り返し学習させる手法を調べています。学習直後は無害に見えますが、推論と無関係な後続の再学習でも推論が脆くなり、正答率は約95%から86.0%に下がり、より強い後続学習では59.3%以下になると報告しています。毎回新しい解答を用いれば損傷は生じず、元の解答を少量再生しても防げます。また、損傷の多くは少量の推論学習で回復するとされています。

Ely Sheikh

arXiv cs.CV

PGL-3D: Towards Progressive Geometric Learning for 3D Visual Query Localization

説明PGL-3D:3D視覚クエリ定位のための段階的幾何学習

要約本論文は、RGB点群シーケンス中で照会対象物が最後に連続して現れる位置を特定し、各応答フレームに9自由度の直方体を予測する3D視覚クエリ定位(3DVQL)を扱っています。提案手法PGL-3Dは、予測・選択・精緻化・再予測の流れで、中間の直方体を使って探索証拠の集約とクエリ・候補表現の更新を行います。平均stAPは0.270で、原論文で報告されたLaFの0.044を上回ったと述べています。

Liang Peng, Shizhuo Mu, Bohan Tan ほか

arXiv stat.ML · cs.LG

Sparsity by Default: The Theory and Practice of ARD in Gaussian Process Regression for Variable Selection

説明デフォルトでのスパース性:ガウス過程回帰における変数選択のためのARDの理論と実践

要約本論文は、ガウス過程回帰で入力変数を選択するための自動関連性決定(ARD、Automatic Relevance Determination)を概観します。各入力に独立した長さスケールを与え、周辺尤度の最大化で学習させると、無関係な入力の長さスケールは非常に大きくなり、実質的に無効化されます。著者らはこの仕組みを解析し、スパイクアンドスラブ事前分布やベイズラッソ、horseshoeなどとの比較、理論的保証と限界を論じています。

Jia Cai

arXiv stat.ML · cs.LG · cs.NA

Calibrated Derivative-Process Sensitivity for Gaussian-Process Variable Selection

説明ガウス過程の変数選択のための校正された導関数過程感度

要約ガウス過程(GP)回帰で一般的に用いられる自動関連性決定(ARD)は、逆長さスケールで入力変数を順位付けしますが、これは関数がどれだけ速く変化するかを測るもので、入力が予測にどれだけ寄与するかを示すものではなく、どの入力を残すかを決める校正済みの基準もありません。本論文は導関数感度に基づく選択手法を提案し、学生化乗数ブートストラップでGP導関数過程を校正して、入力全体にわたる漸近的な族誤り率と偽発見率の制御を理論的に示します。シミュレーションでは、真に帰無の入力に対して偽発見率を制御できる一方、未校正の導関数順位付けやBernstein-von Mises閾値は目標を超えることが示されています。

Jia Cai

arXiv cs.LG · cs.AI · eess.SP

TerMeZO: Ternary Sparse Zeroth-Order Optimization for Fine-tuning BitNet Models at the Edge

説明TerMeZO:エッジ環境で BitNet モデルを微調整するための三値スパース零次最適化手法

要約BitNet 大規模言語モデルの微調整でメモリ消費が大きい問題に対し、本論文は TerMeZO を提案します。三値量子化器の構造を利用し、追加のデータやメモリを使わずに微調整中に値が変化しやすい潜在重みを選び、その部分のみを更新します。著者は収束解析を示し、1Bから3Bパラメータの BitNet モデルで分類、指示追従、数学的推論の実験を行いました。その結果、全パラメータ MeZO と同等以上の性能を保ちつつ、微調整時のメモリフットプリントを大幅に削減できることを報告しています。

Houssem Sifaou, Prabodh Katti, Bipin Rajendran ほか

arXiv cs.AI · cs.GT · cs.LG

OSCC: Certified Observation-Safe Coupling Optimization for Gradient-Noise Control in Imperfect-Information Learning

説明OSCC:不完全情報学習における勾配ノイズ制御のための認証付き観測安全カップリング最適化

要約本論文は、不完全情報環境で反事実的な行動比較の勾配ノイズを抑える観測安全反事実カップリング(OSCC)の枠組みを提案します。周辺分布の保存、情報状態の安全性などにより許容される耦合の種類を定義し、校正段階で独立・根のみ・継続のみ・完全耦合のサンプリングから選ぶOSCC-Selectを設計しています。Leducでの実験では、完全耦合のCP-GRPOが回報対比分散を41.1158から18.1441へ、55.87%減らしたと報告されています。三行動の設定では、回報分散で選ぶ方法より勾配ノイズのトレースが小さい結果が示されています。

Miaobo Hu, Shuhao Hu, Xiaobo Guo ほか

arXiv cs.AI

Reasoning on the Simplex: Geometric Fixed-Point Models

説明単体上の推論:幾何学的不動点モデル

要約本論文は幾何学的不動点推論(GFPR)を提案する。反復される状態をカテゴリ分布の信念場として定義し、その最大値をそのまま各ステップの答えとする手法である。約700万パラメータの規模で、Sudoku-Extreme で95.1%、Maze-Hard で92.0%、S_5(長さ128)で100%の正解率を報告しており、同規模で公表されたFPRMの数値を上回るとしている。同じ更新式を2.01億パラメータの言語モデルにも適用し、四つのゼロショット多肢選択課題でGPT-2 smallを上回ったと述べている。

Talgat Daulbaev, Ilya Glazkov, Maxim Rakhuba ほか

arXiv cs.CL · eess.AS

Jev Matches 7B Language Models for Speech-Neuroprosthesis Rescoring

説明Jev、音声神経補綴の再スコアリングで7B言語モデルに匹敵

要約本論文は、音声神経補綴において脳活動から得られた候補文を言語モデルで再スコアリングする工程を扱う。従来は数十億パラメータのGPU実行モデルが必要だった。著者らは、全候補の確率を一度に返す型付けされた判断として再スコアリングを定式化し、ホスト型モデルJevで実行して解码器のスコアと組み合わせた。ALS患者の978文では、Jevの単語誤り率はOPT-6.7bやQwen2.5-7Bと同等以上で、GPUは不要である。

Gabriele Cin\`a

arXiv cs.LG

Does Execution Require Target KV Fidelity? A Mixed-Fidelity KV Runtime for LLM Serving

説明実行には目標 KV 精度が必要か?LLM サービング向け混合精度 KV ランタイム

要約大規模言語モデルのサービングは、KV キャッシュが消費する GPU メモリに制約されています。本論文は、コンパクトな中間 KV 状態を導入し、精度を実行時に管理される性質とする ElasticKV を提案します。システムは、ページ化されたメモリ上のペア構造レイアウト、コンパクトな状態を直接扱う二モードのアテンションバックエンド、メモリ圧力に応じて精度を調整する仕組みから構成されます。高並行性の条件下で、vLLM と比べて最初のトークンまでの時間(TTFT)が 3.8〜4.0 倍、P90 TTFT が 9.1 倍短縮され、生成品質は維持されたと報告されています。

Jiantong Jiang, Yue Yang, Peiyu Yang ほか

arXiv cs.GT · cs.MA

Nearly Group-Separable Elections

説明ほぼ群分離可能な選挙:選挙と群分離可能性との距離の計算

要約本論文は、与えられた選挙がどれだけ群分離可能(group-separable)な選挙に近いかを、投票中で隣接する候補者どうしを入れ替える回数で測る問題を研究している。毛虫型群分離可能、平衡群分離可能、単峰型、単交差型など他の領域も扱う。一般には扱いにくい問題だが、候補者数または入れ替え回数をパラメータとする実用的なFPTアルゴリズムを提示している。後者は有限の禁止部分選挙で特徴づけられる全領域に適用でき、実験分析でも補足されている。

Piotr Faliszewski, Jan Jabrocki, Stanis{\l}aw Ka\'zmierowski ほか

arXiv cs.CL

ManiEdit: Sequential Unstructured Knowledge Editing for Language Models from a Manifold Perspective

説明ManiEdit:多様体の視点から見た言語モデルの逐次的非構造化知識編集

要約大規模言語モデルは誤りや古い内容を生成することがあり、知識を継続的に更新する仕組みが必要です。本論文は知識編集を、全体の知識多様体内で編集用の部分多様体が局所的に移動する問題として捉え、重要な基準点の特定と多様体を意識した保持という二つの要素からなる ManiEdit を提案しています。著者らは、2つの基盤モデルと4つの非構造化編集ベンチマークで最先端の性能を示し、6つの下流タスクでほぼ元の汎用能力を維持したと報告しています。

Rui Liu, Chenheng Zhang, Haoxuan Li ほか

arXiv stat.ML · cs.LG

Neural Scaling Laws of Transformer Operator Network

説明Transformer演算子ネットワークのニューラルスケーリング則

要約本論文は、Transformerに基づく演算子学習の近似誤差と汎化誤差を分析する理論的枠組みを構築しています。Hölder正則な演算子に対する普遍近似誤差を導出し、予測誤差が訓練データ量に対してべき乗則で減少するスケーリング則を示しています。収束指数は入出力領域の次元や正則性、入力関数クラスの本質的次元を反映します。数値実験により、べき乗則のスケーリングと、収束速度が本質的次元に応じて系統的に変化することが確認されています。

Haoran Yan, Zhongjie Shi, Yuanzhe Xi ほか

arXiv cs.CL · cs.AI · cs.HC

E-CONAN (Entailment, CONtradition And Neutral) Diagnostics Dataset Investigating Linguistic Phenomena in Arabic Natural Language Understanding

説明E-CONAN:アラビア語自然言語理解における言語現象を調べる診断データセット

要約本論文は、自然言語理解(NLU)の誤り分析においてマクロ・ミクロカテゴリの命名規則や標準的な言語現象の集合が欠けている点に着目し、クロスリンガルNLU誤り分析のための初期的な階層を提案しています。アラビア語を事例に、NLI階層フレームワークの構築方法も示しています。人手で注釈された無償公開のE-CONAN診断データセットを導入し、9つの事前学習済み言語モデルと5つの大規模言語モデルを評価しました。大規模言語モデルは世界知識と常識推理で優れ、構文カテゴリでは劣りました。全モデルで最も難しいのは推論、事前学習モデルで最も易しいのは構文でした。

Khloud AL Jallad, Nada Ghneim, Ghaida Rebdawi

arXiv cs.LG

Discovering Symmetries in Neural Network Parameter Spaces

説明ニューラルネットワークのパラメータ空間における対称性の発見

要約本論文は、ニューラルネットワークのパラメータ空間にある対称性を体系的に見つけ出す方法を提案しています。この対称性は損失地形、学習の振る舞い、汎化性能の理解に重要です。著者らは無限小条件を用いてデータ依存の対称性を特徴づけ、群の生成元と非線形作用写像を同時に学習します。さらに、事前学習済みTransformerを含む様々なアーキテクチャで、未知のものを含む対称性を発見したと報告しています。

Bo Zhao, Nima Dehmamy, Robin Walters ほか

arXiv cs.CV

In-Token Learning for High-Fidelity Image Restoration via Diffusion Transformers

説明拡散 Transformer による高精細画像復元:In-Token Learning フレームワーク

要約本論文は、条件付き整流フローマッチングを用いて事前学習済みの拡散 Transformer を適応させる画像復元フレームワーク In-Token Learning を提案しています。劣化画像のトークンと潜在トークンをチャネル方向で融合し、固定されたタスクプロンプトと凍結された劣化画像埋め込みを、DLG(Direct Low-Quality Guidance)によって標準の条件付け経路から入力します。超解像、ノイズ除去、自動着色で評価され、評価条件下で忠実度と知覚品質に競争力があるものの、RealLQ250 では汎化が弱いと報告されています。QHD 全画像推論と 12K のタイル分割復元も示されていますが、注意機構の計算コストは解像度とともに増加します。

Xingfu Yi, Xiaoxue Yu

arXiv cs.LG

LLM4Trust: Exploring the Capabilities of Large Language Models for Trust Evaluation

説明LLM4Trust:信頼評価における大規模言語モデルの能力を探る

要約本論文は、信頼評価に対する大規模言語モデル(LLM)の能力を体系的に検証する最初のベンチマーク枠組みLLM4Trustを提案している。著者らは五つの基本的な信頼特性を表す信頼グラフを構築し、八つの代表的なLLMを九種類のプロンプト手法で評価した。その上で五つの実データセットにおける信頼評価能力を検証し、攻撃への脆弱性と推論コストの高さを指摘して、防御機構とバッチ推論を提案している。

Jie Wang, Yanbo Sun, Zheng Yan ほか

arXiv cs.RO · cs.CV · cs.HC

AI-Driven Collaborative Assembly Line Inspection: System Integration and Deployment Challenges

説明AIによる協調型組立ライン検査:システム統合と導入上の課題

要約本論文は、Silverline社の家電工場に導入されたAI支援型協調検査セルの設計と現場導入を報告している。セルは2台の協働ロボットと機械視覚による欠陥検出、マルチモーダルデータの記録から構成される。近接時の安全性、照明の反射下でのAIの頑健性、2台のロボット間のROS 2名前空間の衝突など、導入時の課題とその解決策を取り上げている。導入後、製品1個あたりの検査時間は82秒から61秒に短縮され、オペレーターの目視検査時間は82%減少し、NASA-TLXによる精神的負荷も有意に低下した(p=0.005)。

Asya \"Unal, Amr Okasha, Ege \c{C}{\i}rakman ほか

arXiv cs.CV

Anatomy-Structured Hierarchical MIL for Weakly-Supervised Thoracic Disease Detection in Chest X-rays

説明胸部X線写真における弱教師ありの胸部疾患検出のための解剖構造階層型多重インスタンス学習(ASH-MIL)

要約本論文は、胸部X線写真で弱教師ありにより胸部疾患を検出する課題を扱い、心臓・肺・汎用の三つの並列な解剖構造観察ブランチと階層型多重インスタンス学習を組み合わせたASH-MILを提案しています。解剖学的事前情報を軟らかい空間バイアスとしてデコーダの交差注意に組み込み、疾患の境界ボックス教師なしで解剖学的根拠のある証拠マップを得ます。CXR8および領域外のMIMIC-CXRでの実験では、より厳しい定位基準の下で既存の弱教師あり・解剖認識手法を上回る結果が示されています。

Jeongin Kim, Sohyun Ahn, Seo Young Kang ほか

arXiv cs.CV

SceneScaffold: Active Scene-State Construction for Unified 3D Scene Understanding

説明SceneScaffold:統一的3Dシーン理解のための能動的シーン状態構築

要約既存の3Dマルチモーダル大規模モデルは、3Dシーンを物体中心の均質な視覚トークン列に圧縮するため、空間構造が十分に表現されず、関係が多く空間的に曖昧なシーンで推論が不安定になることがあります。本論文はSceneScaffoldを提案し、言語推論の前に役割を持つ空間的な骨格を構築します。エンティティ状態、シーンフレーム状態、関係状態、全体要約の各構成要素で視覚情報を整理します。3Dビジュアルグラウンディング、質問応答、高密度キャプショニングで評価し、関係が多い場合や空間的に曖昧な場合についての診断結果も示しています。

Xiangqi Li, Libo Huang, Jiarui Zhao ほか

arXiv cs.MA

TRACE: Governing Memory Validity in Evolving Multi-Agent Systems

説明TRACE:進化するマルチエージェントシステムにおける記憶の有効性の管理

要約本論文は、共有状態が変化した後にエージェントが協働へ復帰する際、どの古い記憶に基づいて行動してよいかを判定する、学習不要の層 TRACE を提案します。復帰を保存や検索ではなく資格判定として扱い、離脱時のチェックポイントを不在中の更新と照合し、明示的・暗黙的な無効化を処理します。Memora、STALE Type II、派生の ManBench-Return で評価され、ManBench-Return では有効情報の利用可能率 92.6〜98.3%、無効情報の拒否率 98.4〜99.5% を示したとされています。

Wenjun Xiong, Shengtao Zhang, Shangding Gu ほか

arXiv cs.AI

PPG-LM: A Photoplethysmography-Language Model with Multi-Level Clinical Alignment

説明PPG-LM:多段階の臨床アライメントを備えた光電式容積脈波(PPG)言語モデル

要約本論文は、PPG信号と言語を対応づける初のPPG言語モデル群PPG-LMを提案している。信号から得られる生理学的教師情報に加え、電子カルテ(EHR)に記録された臨床的文脈も学習する。セグメント、イベント、受診の3段階で臨床的な説明文を自動生成し、対照学習と時間認識型の集約による2段階の枠組みで学習する。約7.3万時間のPPGで事前学習し、MC-MED、MIMIC-III、VitalDBで検索および説明文生成の評価を行い、複数の臨床予測タスクで一部の基盤モデルを上回ったと報告している。

Xiaoda Wang, Minxiao Wang, Maxwell A Xu ほか

arXiv cs.LG · stat.ML

SLP-ProbHard: Probabilistic Hard-Constrained Learning via Structural Latent Parameterization

説明SLP-ProbHard:構造的潜在パラメータ化による確率的ハード制約学習

要約本論文は、予測を先に作ってから補正・射影する方法ではなく、構造的に実行可能な潜在変数パラメータ化(SFLP)で制約を満たす確率的予測を直接生成するSLP-ProbHardを提案する。実験では仮生の等式・順序・単体制約、非線形多様体、七つの流域の流況持続曲線データを扱う。正確な実行可能性だけでは予測分布は決まらず、有意味な実行可能座標がある場合は構造的な直接生成が有効であることを示している。

Wondesen Teshome Bekele, Marco D'Oria

arXiv cs.CV

Printability-Constrained Adversarial Decals for Near-Nadir Aerial Perception: Measured Ink Gamuts, Nested Realism Constraints, and a Physical-World Bound

説明空撮の近天底視点に対する印刷可能な敵対的デカール:実測インクガモットと実世界の上限

要約本研究は、プリンタで再現可能な色域、車両の平坦面サイズ、上空からの細部損失という三つの物理制約を最適化の段階で課し、実測した印刷色域を用いたパッチと立方体色域のパッチを比較しています。実測色域は一部のセグメンテーションモデルでのみ攻撃成功率を高め、色の鮮やかさだけでは差を説明できませんでした。印刷したデカールによる実機評価では転移は検出されず、転移率の上限は0.133とされています。

Sandesh Shrestha, K. T. Yasas Mahima, Asanka G. Perera

arXiv cs.LG · cs.AI

Source Anchoring for Physical Consistency in Flow Matching Models

説明ソースアンカリング:フローマッチングで物理的整合性を保ちつつ分布を再現する手法

要約本論文は、生成の開始前にソースノイズへ物理制約を埋め込むSAPC(Source Anchoring for Physical Consistency)を提案している。従来の投影型手法は生成後に流れを補正するため、目標解の分布から外れやすいという課題がある。五つの偏微分方程式系・六つのタスクで評価した結果、SAPCは全タスクで目標分布を最も正確に再現し、制約精度は最良の投影型手法と同等だった。

Giulia Romoli, Filippo Ruffini, Paolo Soda

arXiv cs.AI

What Happens During Autonomous Deep Research After the User Steps Away?

説明自律的ディープリサーチでユーザーが離れた後、エージェントは何をするのか:初期のユーザー情報が調査過程と最終提案にどう影響するかを検証する論文。

要約論文は PDR-Bench に基づく反事実的行動評価フレームワーク DRaligned を提案し、タスクに関連するユーザー要因を一つだけ変えて、取得リクエスト、作業草稿、最終報告を比較しています。実験では、調査過程はおおむね共通しても検索の配分が異なり、最終提案はユーザー条件をより明確に区別することが示されました。この方向性の差は複数のエージェントモデルや評価モデルでも繰り返し見られたと報告されています。

Yimin Liu, Yijia Zhang, Yanmin Li ほか

arXiv cs.AI

When Evidence Changes the Subject: Subject-Typed Claim Licensing for Learned Routing

説明証拠が主題を変えるとき:学習型ルーティングのための主題型主張許可

要約本論文は、複合システムのベンチマーク結果は全体を測定するが、科学的主張は一つの構成要素だけに関わる場合があり、両者が混同されうると指摘する。著者らは、要求された主題に関する弱い結論と、別の主題に対する肯定的だが代替にはならない評価を区別する「主題型主張許可」を提案する。これを選好条件付き多重グラフルーティングに適用した SCOPE-Routing を示し、査読とルーティング実験の結果を報告している。

Jian Chen, Zixuan Yuan

arXiv cs.AI

RelaxKV: Recomputation Guided by the Query with Sparse Context Attention for Efficient KV Cache Reuse

説明RelaxKV:クエリ誘導の再計算と疎なコンテキスト注意によるKVキャッシュの効率的再利用

要約本論文は、検索拡張生成(RAG)におけるKVキャッシュの再利用を扱い、RelaxKVを提案している。選択的キャッシュ修復を、修復対象と再計算コンテキストの同時割り当て問題として定式化し、ユーザーのクエリに基づいて層ごとの修復対象を特定し、その再計算を質問に関連するコンテキストに限定して注意計算を減らす。4つのデコーダモデルで、アンカー比率15%において、RelaxKVはLongBenchの総合性能でProphetKVを上回った。Qwen3-14Bでは、品質と初トークンまでの時間のトレードオフもProphetKVより優れている。

Ruoling Qi, Yirui Liu, Xuaner Wu ほか

arXiv cs.LG

Pulseflow: PPG Counterfactual Generation Via Latent Transport

説明Pulseflow:潜在輸送によるPPGの反事実生成

要約本論文は、心房細動検出において注釈付きPPG信号が少ない問題に取り組み、PulseFlowという枠組みを提案する。ソース記録を条件とし、条件付き表現学習と可逆な潜在輸送を組み合わせて、ソースの情報を保ったまま心律を編集する。2つの臨床コホートでの実験では、リズム変換の効果とソースとの対応関係が示され、ラベルが限られる場合にAF分類が改善したと報告されている。

Hung Manh Pham, Dong Ma, Bin Zhu ほか

arXiv cs.LG · cs.IT · math.IT

The cost of useful natural gradient updates

説明有用な自然勾配更新のコスト:方向は分かっても、どれだけ動くかが問題になる

要約本論文は、母集団のKLダイバージェンス予算のもとで、自然勾配の方向を有限の有用な更新ステップに変換するために必要な情報を調べます。初期勾配、Fisher情報、自然勾配が共通していても有用なステップ集合が互いに素になる四状態指数族を構成し、ステップ長そのものが主要なコストになることを示します。さらに、サンプル複雑性、NP困難性、分類器ヘッドでの実験結果を報告しています。

Subhransu S. Bhattacharjee, Dylan Campbell, Rahul Shome

arXiv cs.LG · cs.AI

Engineering Efficient Self-Play Chess: Search, Replay, and Throughput Under Limited Compute

説明限られた計算資源で効率的に学習する自己対局チェスの設計:探索・リプレイ・スループット

要約限られた学習計算量のもとで、学習ループ全体を効率化したAlphaZero型チェスシステムがどこまで強くなるかを検証した研究です。八GPUの単一ノードで2.5日間、ランダム初期化から探索付き自己対局により学習し、パラメータ数632万のモデルは固定ノード数のStockfish 13に対して3251のベンチマークEloに到達したと報告されています(信頼区間3206〜3297)。探索配分、リプレイと再開状態の選択、方策表現、段階的なモデルサイズ調整、量子化推論、スループット工学などを検討し、強さは個別の改良ではなく統合されたシステム全体の成果だとしています。

Bertil Braun

arXiv cs.LG

Hamiltonian JEPA: Action-Conditioned World Models with an Inherited Control State

説明Hamiltonian JEPA:継承された制御状態を持つ行動条件付き世界モデル

要約本論文はH-JEPAを提案し、知覚の符号化と制御状態を分離します。広い知覚符号を Bures-Wasserstein 事前分布で正則化し、その固定された正規直交部分を制御状態とします。制御状態は帯ポート付きの散逸ポート・ハミルトン力学に従います。また、ポート逆一致性(PIC)により、パラメータを増やさずに予測誤差を再重み付けします。四つの画素ベースの制御ベンチマークで、再構成を用いない基線と同等以上の結果を示し、OGB-Cubeで最大の改善が見られます。

Tamim Zoabi, Ameen Ali, Lior Wolf

arXiv cs.LG · cs.AI · cs.CV

Chameleon: Dynamic Format Adapter for Efficient Diffusion

説明Chameleon:効率的な拡散モデルのための動的数値形式アダプタ

要約拡散モデルの学習後量子化(PTQ)に関する論文です。ビット幅を固定したまま数値形式そのものを離散変数として扱い、重みのチャネルごと、および(層・時間ステップ)ごとの活性化テンソルごとに形式を選択します。SDXL、SDXL-Turbo、PixArt-αをCOCO-2014で評価した結果、六つのバックボーンとビット幅の組み合わせすべてでFIDが最良だったと報告されています。

Arnab Sanyal, Sandeep Chinchali

arXiv cs.CL · cs.MA

LLMs Trust Their Own: Identity-Dependent Conformity in Multi-Agent Systems

説明LLMは「身内」を信頼する:マルチエージェントシステムにおける身元依存の同調行動

要約本論文は、大規模言語モデルがマルチエージェント環境で、他のエージェントの社会的な身元によって誤答への同調の度合いを変えるかを調べたものです。正解が一つだけの判断課題を、12のオープンウェイトモデルと9課題で検証しました。その結果、同じ集団の合意は同調を高め、異なる集団の合意は同調を下げるという双方向の効果が見られました。この集団身元の影響は、答えの正しさとは無関係に情報の集約方法を左右すると報告されています。

Liron Soffer, Ravid Shwartz-Ziv, Chen Shani

arXiv cs.AI

FedMHAR: Federated Multimodal Human Activity Recognition using Multi-Agent Reinforcement Learning

説明FedMHAR:多エージェント強化学習に基づく連合型マルチモーダル人間行動認識

要約本論文は、ウェアラブルセンサーによる人間行動認識について、センサーの重要度とコストを考慮して融合重みを適応的に学習するマルチモーダル手法を提案しています。多モーダル融合を協調型多エージェント強化学習として定式化し、各センサーモダリティにPPOエージェントを割り当てています。さらに連合学習版のFedMHARとBiFL-PPOを提案し、MExおよびUTDデータセットで評価を行い、集中型では87.30%と94.98%、連合型では79.74%と77.49%の精度を報告しています。

Debasmita Dey, Tanmay Sen, Himel Mallick

arXiv stat.ML · cs.LG

Domain-Adapted Diffusion Models for Conditional Independence Testing

説明条件付き独立性検定のためのドメイン適応型拡散モデル

要約本論文は統計学における条件付き独立性(CI)検定を扱い、既存の生成モデルに基づく検定では推定誤差が蓄積し、生成推定量の一致性だけでは漸近的な第一種過誤の制御が保証されないことを指摘しています。著者らは条件付き生成モデリングをドメイン適応問題として定式化し、複数のソースドメインの補助データを用いるDA-Diffを提案し、さらにそれに基づくDA-CIT検定を提案しています。実験では、DA-Diffが転移学習型拡散モデルの基準手法より条件付き生成の品質を向上させ、DA-CITが強い第一種過誤の制御と競争力のある検出力を示すとされています。

Yanfeng Yang, Junda Zhao, Yijie Gao ほか

arXiv cs.LG

Predicting Block-Coordinate Performance via Cross-Curvature

説明クロス曲率によるブロック座標最適化の性能予測

要約同時更新と逐次的なブロック更新という二つの最適化手法について、ヤコビ法(JC)やガウス・ザイデル法(GS)などを比較する理論を提案しています。クロスブロック曲率を用いて単一ステップの損失差を導き、K 回の反復後に誤差の範囲付きで損失の大小を判定します。ニューラルネットワーク、連合学習、LoRA の学習軌跡で検証し、500 回の反復で正しく判定できた割合は、それぞれ 98.0%、83.4%、97.6% でした。各ステップで実測のパラメータ差を使うと、この割合は 100.0%、93.2%、99.6% に上がります。

Shengkun Zhu, Jinshan Zeng, Zhiqiang Kou ほか

arXiv cs.LG

What masking geometry works best for EEG foundation models?

説明脳波(EEG)基盤モデルに最適なマスキング幾何は何か?

要約本論文は、脳波基盤モデルの事前学習で用いられる時空間マスキング戦略を体系的に比較したものです。MAEとJEPAの2つの自己教師あり学習フレームワークで58個のモデルを学習し、OpenEEGBenchの12データセットでリニアプローブにより評価しています。両フレームワークは同じ最適なマスキング構成と共通の失敗モードで一致し、JEPA特有の新たな失敗モードも報告されています。著者らは、適切なマスクを選べば、REVEより大幅に少ない事前学習計算量でREVEに匹敵する下流性能に到達できると述べています。

Pierre Guetschel, Bruno Aristimunha, Yassine El Ouahidi ほか

arXiv cs.SD · cs.LG · eess.AS

Mask-Induced Displacement in Audio XAI via Logit Trajectory Decomposition

説明音声XAIにおけるマスク充填による出力のずれ(ロジット空間の軌跡分解に基づく分析)

要約本論文は、音声分類器に対する摂動ベースの説明手法が、マスク充填の影響は無視できるという前提を置いている点に疑問を呈する。著者らは、完全に隠したスペクトログラムと元の信号を結ぶ直線に沿った成分と、それに垂直な成分にロジット空間上の出力変化を分解する手法を提案している。3種類の充填、3つの音声分類器、1,100のAudioSetクリップで評価した結果、部分マスク時の出力変化の41〜77%が直線に垂直な成分によるものであった。

Nico Garc\'ia-Peguinho (1), David Kelly (2), Fabrizio Smeraldi (1) ほか

arXiv cs.CL

DISCO: Distributed Long Context Scaling with Grounding-Reasoning Disaggregation

説明DISCO:グラウンディングと推論の分離による分散型長文脈スケーリング

要約論文は、入力が長くなると大規模言語モデルの推論品質が低下する「コンテキストロット」という現象を指摘しています。提案手法DISCOでは、局所的な情報特定を並列に担う複数のワーカーLLMと、強化学習(GRPO)で訓練されたドライバーLLMが協調し、証拠を集約して最終回答を生成します。原文によれば、RULER-QA(100万トークン)で78.4%の正答率を維持し、LongBench v2では全文脈モデルを最大9.8ポイント上回り、推論コストは80%以上削減されたとしています。

Guanzheng Chen, Viet Dac Lai, Subhojyoti Mukherjee ほか

arXiv eess.AS · cs.CL · cs.MM

Is Word Error Rate Enough? Rethinking Privacy Evaluation in Speech with Entity-Aware Metrics

説明単語誤り率で十分か?エンティティ認識型指標による音声プライバシー評価の再考

要約スマートデバイスの普及に伴い、音声に含まれる機密内容の漏えいが懸念されています。本論文は、自然言語処理分野のエンティティ認識型プライバシー指標を音声プライバシー分野に適用し、固有表現を中心に二つの難読化手法の保護効果を評価しています。さらに複数の攻撃シナリオを検討し、エンティティが豊富なデータでのファインチューニングは一部のエンティティ種別にのみ攻撃性能を向上させることを示しています。また、難読化手法が時間的整列を保つかどうかに基づく指標選択の指針も示しています。

Anjana Rajasekhar, Jule Pohlhausen, Nayana Jacob Alappattu ほか

arXiv cs.LG · stat.ME

How Synthetic Labels Improve Conformal Prediction: A Perspective on Conditional Coverage

説明合成ラベルは共形予測をどう改善するか:条件付きカバレッジの観点から

要約共形予測は分布仮定なしで周辺カバレッジを保証しますが、事後校正用のデータが少なすぎて入力ごとの不確実性の変化を学習できない場合があります。本論文は、信頼できる少数のサンプルしかない場合に、領域モデルや汎用大規模言語モデルで生成した合成ラベルが条件付きカバレッジを改善できるかを検討します。著者らは「予測補助による分位数学習」を提案し、8つの回帰ベンチマークで、周辺的な妥当性を保ちつつ条件付きカバレッジが大きく向上し、予測集合もよりコンパクトになることを示しています。人手評価の研究でも外部LLMラベルによる同様の効果が確認され、品質・量・コストのトレードオフが示されています。

Qianyi Chen, Bo Li

arXiv cs.AI · cs.PF

Just Let Linear States Forget the Distant Past: Prefix Caching via Suffix Replay for Hybrid LLMs

説明遠い過去を線形状態に忘れさせる:ハイブリッドLLM向けサフィックス再生による接頭辞キャッシュ

要約ハイブリッドLLMは長文脈推論のコストを抑えるため、全注意層と線形注意層を組み合わせますが、線形注意層の再帰状態は任意の接頭辞境界に巻き戻せず、接頭辞キャッシュを難しくします。本論文は、線形層の入力隠れ状態の直近のサフィックスだけをアンカーとして保持し、それを再生して各キャッシュ境界の状態を近似するSuffixReplayを提案します。3つのハイブリッドモデルで評価し、SGLangに統合しています。

Yirui Liu, Ruoling Qi, Xuaner Wu ほか

arXiv cs.LG · math.OC

Geometric Identification in Predict-Then-Optimize Learning

説明予測後最適化学習における幾何学的識別可能性

要約本論文は、予測後最適化(Predict-then-Optimize)学習における決策志向の代理損失SPO+を扱う。母集団リスクの等値集合を特徴づけ、中心対称性の下で中心化平均クラスが唯一のベイズ最小化器となる条件を示す。結果は母集団レベルの主張であり、有限標本や一般的な転移後悔の保証は含まない。

Jiaxiao Xu, Changhong Mou, Keji Liu ほか

arXiv cs.CV · cs.CL · cs.LG

FORUM: Frozen Outputs Reconciled Using Model Agreement for Visual Grounding

説明FORUM:モデル間の一致を用いて凍結MLLMの出力を統合する視覚的グラウンディング手法

要約本論文は、学習を必要とせず、テスト時に複数の凍結マルチモーダル大規模言語モデルを統合する視覚的グラウンディング手法FORUMを提案している。最も多くの異なるモデルが支持する領域を選択し、平均座標ではなく実際のメンバーのボックスを返すことで、一つの不正確な予測が結果を左右しないようにしている。オープンなMLLM三つを統合した結果、敵対的ベンチマークRef-Adv-sで平均精度が397Bパラメータの公開参照モデルを相対5%上回り、単純な平均アンサンブルを15%上回った。標準のRefCOCO+でも向上が見られた。

Taiyo Sato, Takamasa Sanda, Keisuke Maeda ほか

arXiv cs.CV · cs.LG

Physics-Guided Flow-Map Matching for Precipitation Nowcasting

説明物理ガイド付きフローマップマッチングによる降水ナウキャスト

要約本論文は、過去のレーダー観測から将来のレーダー場を予測する降水ナウキャストのための条件付きフローマップモデルPG-FMMを提案し、予測可能な移流と不確実な小スケールの詳細を分離します。凍結されたラグランジュ移流事前分布がレーダー場を輸送して明示的な動きの予測を与え、フローマップ生成ヘッドが4回のサンプリングステップで鮮明な確率的詳細を生成します。四つのレーダーベンチマークにおいて、PG-FMMは24指標中18指標で最先端手法を上回り、強雨しきい値での臨界成功指数は最大58.9%向上しました。

Shunya Nagashima, Takumi Bannai, Makoto Misaizu ほか

arXiv cs.LG · cs.AI · cs.CL

A Cheap Verifier is Good Enough: LLM Post-training is Robust to Erroneous Rewards

説明安価な検証器で十分:LLM後学習は誤った報酬に頑健

要約本論文は、医療・法律・金融などの準検証可能タスクでLLMを後学習する際、検証器の一致度が学習後の性能を予測できるかを検討しています。HealthBenchとPRBenchで1万1千時間を超えるH100 GPU時間の実験を行いました。その結果、一致度が高い検証器が必ずしも最良の学習用検証器とは限らず、高コストの検証器が安価なものより優れるとは限らないことが示されています。

Andreas Plesner, Curtis Northcutt, Francisco Guzm\'an ほか

arXiv cs.CL

GSM: Efficient Language Modeling with Shared Global State

説明GSM:共有グローバル状態による言語モデルの効率化

要約本論文は、履歴情報の取得と深い計算を分離する因果的エンコーダ・デコーダ構造のグローバル状態モデル(GSM)を提案します。エンコーダは多段階のスパース検索により長距離の情報を固定サイズの共有状態に集約し、デコーダは履歴に繰り返しアクセスせずにこの状態上で逐次変換を行います。実験では、複数のモデル規模で下流タスクの性能が対応するベースラインと同等以上となり、長文脈の検索能力を維持しつつ、学習・推論のスループット向上とキャッシュ負担の軽減が示されています。

Yunao Zheng, Bin Wen, Xiaojie Wang ほか

arXiv cs.CL

Rethinking Token Reweighting for SFT: Suppress, Reverse, and Extrapolate Learned Features

説明SFTにおけるトークン再重み付けの再考:学習済み特徴の抑制・反転・外挿

要約本論文は教師ありファインチューニング(SFT)でトークンごとに重みを付ける既存手法を分析し、それらは教師信号の更新を抑制または増幅するだけで、一度学習された有害な特徴は反転できないと指摘します。提案手法SCALEは、事前学習モデルとSFT差分を固定し、予測エントロピーの最小化だけで有界なトークン別・モジュール別ゲートを学習して、固定されたSFT特徴を抑制・反転・外挿します。Qwen2.5-Math系およびQwen3-4B-Baseでの実験では、数学推論の平均が対応する最強のベースラインを上回り、コード生成でも最良の平均性能を示しました。

Cunchun Li, Haonan He, Yifan Gao ほか

arXiv cs.CV

SphMind: Towards Robust, Training-Free VLM-based Spatial Reasoning with a 360 Camera

説明SphMind:学習不要で360度カメラの空間推論を行う視覚言語モデル向けフレームワーク

要約本論文は、360度全天球画像に対して、学習を必要としないプラグアンドプレイ型のフレームワークSphMindを提案しています。意味理解と幾何学的推論を分離し、幾何処理はモデルの外部で行います。球面調和関数に基づく空間グラフ(SHSG)と、推論時の幾何学的グラウンディング(IGG)を用います。著者らは、3つのベンチマークで方向推論が平均21.4%以上向上し、ODI-Benchでは提示工夫の基準手法を8.7%上回り、全天球の回転下で回転不変性が5.9%向上したと報告しています。

Shriram Damodaran, Soumyaratna Debnath, Cheston Tan ほか

arXiv cs.LO · cs.AI · cs.LG

Protected Cores Are Not Enough: Certifying AI-Proposed Revisions of Temporal Specifications

説明保護されたコアだけでは不十分:AIが提案する時相仕様の改訂を認証する

要約本論文は、信頼できないAIが時相仕様の改訂を提案し、記号的なガバナーがその有効化を制御する混成アーキテクチャを提案します。著者らは、集計ベースの認証が保護されたトリガー上の体系的な失敗を隠しうることを示し、集計目標とコア条件付きの事後選択認証を同時に制御する必要性を論じています。実験は、凍結された教師あり型AI提案器を用いた制御された合成環境で行われています。

Ruggero Lanotte

arXiv cs.AI

When Does the Concept of "Dog" Emerge in an Audio LLM?

説明音声LLMで「犬」の概念はいつ現れるのか?

要約本論文は、マルチモーダル大規模言語モデル Qwen2.5-Omni-7B が犬の鳴き声に関する聴覚的意味をどのように表現するかを調べています。著者らはJacobian lens(J-lens)による隠れ状態の読み出しを用い、犬に関連する「犬方向」ベクトルを定義して、その成分を加減する介入を行いました。その結果、犬や鳴き声の提示がなくても関連情報が読み取れ、介入は生成直前の深層(L22 と L24)で最も効果があり、動物の分類では対照群を上回る効果は見られませんでした。

Zhe Wang, Shiqi Liu, Ruiyun Zhong ほか

arXiv cs.LG

A Free Knob: Decoupling Calibration and Predictive Skill in Threshold-Based Evaluation

説明自由なつまみ:閾値ベース評価における較正と予測能力の分離

要約多くの高密度予測ベンチマークは、希少事象を空間ブロックごとにプール・閾値化し、臨界成功指数(CSI)で評価します。この指標は空間的識別能力と振幅の較正を混同してしまいます。本論文は、保留データで学習した単調な事後変換を各システムに別々に適用する対称的な監査手法(FreeKnob Audit)を提案します。その結果、較正によってCSIの比較結果が大きく変わることが示されたため、池化された頻度バイアスと本監査の結果を併せて報告することを勧めています。

Md Tanveer Hossain Munim, Bijoy Ahmed Saiem, Al-Amin Sany ほか

arXiv stat.ML · cs.LG · math.ST

Sharp training-conditional coverage for conformal prediction under covariate shift

説明共変量シフト下のコンフォーマル予測における鋭い訓練条件付きカバレッジ

要約本論文は、共変量シフトの下で重み付き分割コンフォーマル予測が、校正データを条件とした場合にどの程度のカバレッジを持つかを研究している。定数を明示しない形で訓練条件付きの明示的な境界を与え、重要な尺度は尤度比の上限ではなく、シフトのカイ二乗ダイバージェンスなどから作られる分散の代理量であることを示す。さらに、他の手法との比較と有効な予測集合の狭さが切り替わる条件の整理も行っている。

Mehrdad Pournaderi

arXiv cs.AI

What Shared Prefixes Hide: Trajectory Dropout for On-Policy Distillation

説明共有プレフィックスが隠すもの:オンポリシー蒸留のための軌道ドロップアウト

要約本論文は、オンポリシー蒸留において学生モデルが生成する推論プレフィックスが、教師からの逐次トークン単位のフィードバックの効果を弱めることを扱います。プレフィックス起因の監督減衰(PISA)という現象を提案し、学生の推論軌道の一部をランダムに落としつつ教師には全軌道を見せる「軌道ドロップアウト」を提案しています。著者らは、六つの数学推論ベンチマークと二つの領域外ベンチマークで平均性能の向上を報告しています。

Zizhuo Lin, Quanling Liu, Yi Yang ほか

arXiv cs.CV

Native Association: Confidence-Aware Human Perception in the Wild with a Foundation VLM

説明ネイティブ・アソシエーション:基盤VLMを用いた信頼度を考慮した野生環境での人物認識

要約本論文は、約0.77Bパラメータの視覚言語モデル(Florence-2)を微調整し、人物ごとの位置、所属チーム、背番号を文法制約付きの一つの系列として一度に出力する手法を提案します。検出・文字認識・分類を後から結びつける工程をなくし、誤った関連付けを減らすことを目指しています。著者らは複数競技の固定テストセットで検出F1 0.95を報告し、信頼度による棄権も可能だと述べています。

Igal Dmitriev, Ofir Liba

arXiv cs.CV · cs.LG

A Visual Classification Dataset and Model Evaluation for Historical Manuscript Illustrations

説明歴史的写本挿絵の視覚分類データセットとモデル評価

要約本論文は、数百年前の写本から採取した、22カテゴリに分けられた15,000点の手作業でラベル付けされた挿絵のデータセットを構築しています。微調整したCNNやTransformerベースの分類器、ゼロショットCLIP、埋め込みベースの分類器、視覚言語モデルを比較しています。結果として、微調整された画像分類器が全体として最良で、ConvNeXtは正解率88.9%、マクロF1 81.3%に達しました。一方、ゼロショットCLIPや直接の視覚言語分類は大きく劣っていました。

Yoav Evron, Michal Bar-Asher Siegal, Michael Fire

arXiv cs.IR · cs.CV

From PDF to Evidence: Structure-Aware Retrieval for Clinical Practice Guidelines

説明PDFから根拠へ:臨床診療ガイドラインのための構造認識型検索

要約ガイドラインのPDFに含まれる表、フローチャート、分級推奨などの視覚的構造は、標準的な検索パイプラインで固定長のテキストに分割され失われがちです。本研究はこれを文書画像解析の問題として扱い、各ページを型付きの構造要素に分解し、文書自身のレイアウト(章節、表の行、フローチャートの経路、分級推奨)に沿った証拠単位を構造文脈とともに検索します。9つの情報源から得た26件のガイドライン(3,619ページ、中国語・英語)と199件の検索クエリで、要素レベルの順位付けは要素ごとのOCRテキストより改善し、ページレベルの再現率は同等で、ColPaliベースの視覚RAGを大きく上回りました。

Xingyu Lin, Dehui Du

arXiv cs.CV

Concept Score Relearning: A Unified Cross-Architecture Attack on Concept Erasure

説明概念スコア再学習:概念消去に対するアーキテクチャ横断型の統一攻撃

要約本論文は、テキストから画像を生成するモデルにおける概念消去の頑健性を検証し、概念スコア再学習(CSR)を提案しています。CSRは各モデルの元の予測空間内でパラメータを最適化し、消去された概念を再び活性化させます。外部の目標概念画像データは不要で、U-NetベースのStable DiffusionとTransformerベースのFLUXの両方に同じ手法を適用できます。厳格なヌード表現では、平均攻撃成功率はFLUXで50.47%、Stable Diffusionで40.29%でした。

Hong Xi Tae, Jiaming Zhang, Wenwen He ほか

arXiv cs.LG · cs.CV

Elucidating the Design Space of Regression-based Diffusion Reinforcement Learning

説明回帰ベース拡散モデル強化学習の設計空間の解明

要約方差策略勾配を用いず、重み付き教師あり回帰で学習する拡散・フローモデル向け強化学習手法の系統を扱う論文です。DiffusionNFT、FlowAWR、RAMは、いずれも発散制約付きの報酬最大化問題の解として統一的に捉えられ、違いは制約を定める凸生成関数のみであると示しています。さらに、既存手法の近似を整理し、収束が速く学習が安定したDiffusionRFTを提案しています。

Toyota Li, David Zhao, Alan Zhao

arXiv cs.CL · cs.SD · eess.AS

Context Spanning: A Communication Framework for Full-Duplex Speech Models and External LLM Backends

説明コンテキストスパニング:全二重音声モデルと外部LLMバックエンドの通信フレームワーク

要約本論文は、リアルタイムのチャンク単位プリフィルにより、外部LLMが取得した情報を全二重音声モデルへ直接注入する「コンテキストスパニング(Context Spanning)」を提案する。情報は圧縮された潜在空間ではなく生のテキストのまま渡されるため、圧縮による情報損失を避けられるとしている。著者らは、全二重ベンチマークと質問応答タスクで良好な結果が得られたと報告している。

Seonghyeon Go, Yongwoo Kim, Hyeonjin Cha ほか

arXiv cs.CL

MIC: Explaining Image-Claim Inconsistencies in AI-Generated Multimodal Misinformation

説明MIC:AI生成のマルチモーダル偽情報における画像と主張の不整合の説明

要約本論文は、主張に添えられたAI生成画像による偽情報を検出し、世界知識を用いて画像と主張の不整合を説明するフレームワーク MIC を提案しています。手法は教師ありファインチューニングでタスクに適応させたあと、判定、不整合の種類、視覚的証拠の記述、世界知識による説明の各要素について検証可能な報酬でGRPOにより最適化します。あわせて、8,812件の画像と主張の組からなるベンチマーク MIC-Bench を公開しています。

Ruihong Zeng, Jonathan Tonglet, Preslav Nakov ほか

arXiv cs.AI

MAC-Net: A Multi-Task Deep Learning Framework for Modeling Cognitive Function From Task-Based fMRI

説明MAC-Net:課題ベース fMRI から認知機能をモデル化するマルチタスク深層学習フレームワーク

要約本論文は、課題ベース機能的MRI(tfMRI)から個人の認知機能を予測する、共変量を考慮した深層学習フレームワーク MAC-Net を提案しています。神経特徴と人口統計などの変数を分離して処理し、青少年脳認知発達研究(ABCD)の 6,500 名の基線データで、線形モデルや他の深層モデルと比較しました。N-back と金銭的報酬遅延課題の組み合わせが最も高い性能を示し、N-back が最も有益な課題でした。

Md. Tanvir Rahman, Nabil Anan Orka, Asaduzzaman Khan ほか

arXiv cs.AI · cs.CL · cs.GT

Raven: The Harness of Harnesses for Composable Agentic Intelligence

説明Raven:組み合わせ可能なエージェント知能のためのハーネスのハーネス

要約本論文は、オープンソースのマルチエージェント基盤Raven(Harness of Harnesses)を提案しています。Ravenは特定のモデルや分野に向けたモジュール型ハーネスを自動で構築・進化させ、各「モデルとハーネスの組」を組み合わせ可能な知能の単位として扱います。ホストエージェントが目標を分解して子タスクを専門エージェントに割り当て、結果を統合します。論文によれば、複雑で長期にわたるタスクにおいて、Ravenは最先端のエージェントシステムを大きく上回る性能を示しています。

EverMind AI

arXiv cs.LG · cs.CL

SMAT: Simple and Efficient Merge-Aware Training

説明SMAT:シンプルで効率的なマージ対応学習

要約モデルマージは、複数の専門家モデルを再学習なしで統合する手法ですが、標準的な専門家学習はタスク損失のみを最適化するため、マージ後の性能は保証されません。本論文は、一般的なマージ手法を専門家の視点から、スケーリング、マスク、摂動の3つの操作で表せることを示し、それに基づいて、シミュレーションしたマージ後パラメータ上で専門家損失と期待損失を同時に最適化するSMAT(Simple MAT)を提案しています。周期的スケジューリング、カーネル融合、パラメータ格納の切り替えによって効率化も図られています。4つの言語・視覚言語バックボーンで、5種類のマージ手法の平均スコアが各バックボーンの最強ベースラインより1.07〜2.16ポイント向上し、学習時間の増加は標準的なファインチューニングに対して2%未満です。

Yanggan Gu, Yuanyi Wang, Zhen Li ほか

arXiv cs.LG

SchemaMem: Schema-Indexed Recurrent Memory for Delayed State Retrieval

説明SchemaMem:遅延状態検索のためのスキーマ索引型リカレントメモリ(arXiv論文)

要約本論文は、チャンク内アテンションと永続的なスキーマ索引型の位相状態を組み合わせたリカレントメモリアーキテクチャ SchemaMem を提案する。制御されたアドレス-値タスクで、パラメータ数がほぼ同等の二つのベースラインと比較したところ、最大訓練遅延の4倍の遅延において、書き込まれた値の平均保持率が高かった。更新値の回復も多くの設定で優れていた。一方で、その遅延ではデフォルト設定の Gated DeltaNet が優れ、SchemaMem はより多くの最適化ステップを必要とすると報告されている。

Sungwoo Goo, Hwi-yeol Yun, Sangkeun Jung

arXiv cs.SD · cs.CL · eess.AS

CORA: A Protocol for Diagnosing Boundary Robustness in Text-to-Audio Retrieval under Query Reformulations

説明CORA:クエリ言い換えに対するテキスト-音声検索の境界頑健性を診断するプロトコル

要約本論文は、元のキャプションを命令形、疑問形、間接表現、キーフレーズ、平叙文の5種類に言い換え、目標音声は固定したまま検索器の頑健性を検証するCORAプロトコルを提案しています。著者らは、Recall@kでは見えない失敗を示す指標RankDropを定義し、テキスト空間の移動よりも、目標の整合損失や目標境界マージンの低下との相関が強いことを報告しています。結論として、言い換え後も目標が競合音声に対する境界上の優位を保つことが、頑健な検索に必要だとしています。

Jae Min Woo, Kyongmin Kong, Bogyung Jeong ほか