AI アルゴリズム · 2026年9月29日(火)

機械学習、人工知能、自然言語処理、コンピュータビジョン、マルチエージェント。

arXiv cs.LG コードあり

How Language Models Differ in Redistributing Attention-Head Activity Under Serial Demand

説明直列的な需要の下で言語モデルがアテンションヘッドの活動をどう再配分するか

要約本研究は、プロンプトの長さを固定し、タスクが必要とする直列ステップ数を変えて、17の公開重みモデルの各層で、需要が増すにつれて活動が少数のヘッドに集中するか多数に分散するかを測定しています。多くのモデルでは中間層手前の層で集中し、後段の層で分散する傾向が見られますが、その位置と強さはモデルごとに異なります。また、上位ヘッドへの活動が集中するモデルほど、その上位ヘッドへの依存度も高いことが、アブレーション実験から示唆されています。

Johnny Jingze Li, Abdulla Kuleib, Kalyan Basu ほか

arXiv cs.CV

LeRF: Learning Reference Coordinate Frames for Perspective Taking Reasoning

説明LeRF:視点取得推論のための参照座標系の学習

要約本論文は、他者や想像上の観察者の視点から空間関係を解釈する能力を高めるため、視覚言語モデルに参照座標系を構築・利用させるLeRFを提案します。モデルは座標系が必要かを判断し、参照実体と座標原点を予測して、軽量なレンダラーで画像上に重ねて描画します。学習は教師ありファインチューニングと空間VQAでの強化学習で行われ、複数のベンチマークで基盤モデルと既存のオープンソース手法を上回ったと報告しています。

Bang Xiao, Wenqi Jia, Ozgur Kara ほか

arXiv cs.CL · cs.AI · cs.ET

CineSubBench: Evaluating LLMs on Long-Form Narrative and Cultural Understanding from Multilingual Movie Subtitles

説明CineSubBench:多言語映画字幕による長編物語と文化理解のLLM評価ベンチマーク

要約本論文は、多言語映画字幕から長編映画を理解する大規模言語モデルの能力を評価するベンチマーク「CineSubBench」を提案する。1,012本の映画について6言語の完全な字幕を含み、6,072本の字幕トラックと813万件のタイムスタンプ付き字幕項目から構成される。物語の再構成と要約、ジャンル予測、年齢適合性、10の国の映画分級制度、字幕に基づく言語安全性判定など7つのタスクを含む。9つのLLMによる評価では、事件を網羅したあらすじより物語の前提の方が正確に復元され、言語間の一貫性はモデルと言語によって大きく異なることが示された。

Mir Tafseer Nayeem, Susmoy Chakraborty, Davood Rafiei

arXiv cs.CV

Sparse-View Interpretable 3D Animal Behavior Representations for Neural Encoding and Decoding

説明スパースビューで解釈可能な3D動物行動表現:神経エンコーディングとデコーディングへの応用

要約本論文は、動画から動物の行動を解釈可能な3D表現として学習する自己教師あり枠組みSABLEを提案しています。マルチビュー・トランスフォーマーに単眼深度と姿勢推定の事前情報を組み込み、3次元の正解ラベルなしで、2視点の動画からでも3D行動を再構成します。International Brain LabとCheese3Dのデータセットでは、神経エンコーディングとデコーディングにおいて既存の最先端手法と同等以上の性能を示し、事前学習後は個体別の調整なしに未見の動物へゼロショットで汎化できるとしています。

Xinming Dai, Qihang Jin, Tianshu Tan ほか

★★★★☆ 注目
arXiv cs.LG · cs.NA · math.NA

Preconditioned Physics-Informed Neural Operator Training

説明前処理付き物理情報ニューラル演算子の学習:正解データを使わず支配方程式のみで学習する改良手法

要約ニューラル演算子は通常、古典的ソルバーで生成したデータセットを用いて教師あり学習されます。本論文は、微分演算子に起因する物理情報損失の病的条件を解消する前処理付き残差損失関数を提案し、支配方程式のみから学習できるようにします。著者らは、ポアソン方程式、Allen-Cahn方程式、定常Stokes方程式において、教師あり学習と同等の精度を示し、従来の物理情報演算子学習法より4〜25倍高精度であると報告しています。

注目点多重格子による前処理残差損失を提案し、物理情報損失の悪条件性を解決。ポアソン、Allen-Cahn、Stokes方程式で精度向上を示し、根拠は比較的十分。

Shizheng Wen, Siddhartha Mishra, Marius Zeinhofer

arXiv cs.LG · eess.IV

EnergyEminence: Source-Aware Environmental Calibration and Evaluation in a Physics-Grounded Grid Digital Twin

説明EnergyEminence:物理に基づく送電網デジタルツインにおける出所を考慮した環境校正と評価

要約本論文は、グラフ時系列予測器、非線形交流カスケードシミュレーション、運用者ダッシュボード風の時間リプレイを組み合わせた初期段階のテストベッド EnergyEminence を提示する。また、山火事検知の信頼度と空間範囲を比較可能な証拠に変換する共有の有界校正を導入する。16 本の合成環境動画から出所を追跡できる 160 の電網シナリオを作成し、動画が重ならない検証では真陽性 10、偽陽性 8、真陰性 22、偽陰性 0 だった。著者らは、シナリオ単位のランダム分割が環境による近道学習を隠すと指摘し、環境警報と電気的カスケード推論を分けるべきだという根拠を示している。

Huy Trinh, Michael Mai, Yu Nong

arXiv cs.CL

Lost in Translation: Measuring the Effect of Non-Native English on End User Performance of Large Language Models

説明『Lost in Translation』:非ネイティブ英語が大規模言語モデルのエンドユーザー性能に与える影響の測定

要約英語を母語としない利用者は、大規模言語モデル(LLM)から体系的に質の低い回答を受け取ることが示されています。本論文は、実際の執筆関連ユーザープロンプト17万4千件から派生した19万911件の英語プロンプト変種からなるデータセットFABLEを提案し、34のオープンウェイトLLMの回答を評価しています。その結果、モデルはスペルミスなどの表層的な誤りは出力に反映しない一方、プロンプトに見られる修辞や語彙といった高次の特徴は反映すること、また最も流暢でないプロンプトと最も流暢なプロンプトとで回答の質が大きく異なることが分かりました。

Yusheng Zhou, Eleanor Lin, David Jurgens

arXiv cs.LG · cs.CV

On the spectral properties of generative denoiser Jacobians

説明生成的ノイズ除去モデルのヤコビアンのスペクトル特性に関する研究

要約本論文は、拡散モデルやフローマッチングなどの生成的ノイズ除去モデルにおいて、ノイズ除去ネットワークのヤコビアンの固有値スペクトルを分析しています。事前学習済みモデルの比較では、生成性能が高いほどヤコビアンの固有値が大きい傾向が見られました。そこで著者らは、摂動を加えた入力で学習させることによりヤコビアンのスペクトルを制御する正則化手法を提案し、ImageNetで検証しています。

Alexandros Graikos, Nebojsa Jojic, Dimitris Samaras

arXiv cs.CL

The Canonical Order Problem: When Large Language Models Are Unreliable Knowledge Bases for Multi-Valued Relations

説明正準順序問題:多値関係で大規模言語モデルが知識ベースとして信頼できない場合

要約本論文は、大規模言語モデル(LLM)が複数の実体の集合を生成する多値関係をどのように表現・生成するかを調べています。モデル内部の確率分布は、アルファベット順や時系列順などの正準順序に従って多くの多値関係を整理すると指摘し、これを「正準順序問題」と呼びます。機構的分析により、集合生成は候補実体の検索、内部ソート、次の要素の選択という3段階で捉えられることが示されています。そのため、この内部の正準順序から外れる形で知識ベースを構築しようとすると、完全な集合を生成する際の信頼性が著しく低下します。

Timo Pierre Schrader, Annemarie Friedrich, Simon Razniewski ほか

arXiv cs.LG · cs.AI コードあり

Representable but Unlearned: Encoding Rank and the Interaction-Prediction Floor

説明表現可能だが未学習:エンコーディングのランクと相互作用予測の下限

要約ラベル・損失関数・学習済みモデルを使わず、入力エンコーディングの同値類と固定の対比設計から、予測器が同時に再現できる測定対比の空間を計算する手法を提案する。140個の矩形からなるsiRNA相互作用データでは、グラフニューラルネットワークの特徴マスクにより対比のランクが72に下がり、その下限は当てはめモデルの相互作用二乗誤差の14.6%に相当する。マスクを外すと下限は消えるものの、相互作用MSEの改善はわずかだと報告されている。

Zahra Khodagholi, Niloofar Yousefi

arXiv cs.CL

Geometric Representations of African Languages: A Regional Semantic Hub and Cultural Steering

説明アフリカの言語の幾何学的表現:地域的な意味のハブと文化的ステアリング

要約本論文は、Gemma 4 31Bモデルがアフリカの言語をどのように表現し、文化的ステアリングにどう応答するかを調べたものです。9つのアフリカ言語と3つの対照言語の表現の類似性を比較し、複数の層で、アフリカ言語間の「アフリカ対西アフリカ」の対比方向がより近いことを示しています。もう一つの研究では、英語のデータを用いてナイジェリア、ガーナ、ケニア、南アフリカの方向を構築し、多くの出力が自動構造的一貫性スクリーニングを通過しました。

Muhammad Abdullahi Said, Jonathan Shock

arXiv cs.CL · cs.LG

FastGuide: Accelerating Reward Guidance for Diffusion Large Language Models

説明FastGuide:拡散型大規模言語モデルの報酬ガイダンスを高速化する手法

要約本論文は、並列復号と自己回帰復号を適応的に組み合わせたFastGuideを提案し、拡散言語モデルの報酬ガイダンスを高速化します。各復号ステップでガイダンスを一度だけ計算して複数のトークン生成に再利用し、KVキャッシュとスパースな注意再計算で効率化します。三つの報酬ベンチマークで、逐次的な報酬ガイダンス復号に比べ最大4.4倍高速で、生成品質は同程度に保たれたと報告されています。

Darshan Thaker, Lachlan Ewen MacDonald, Ren\'e Vidal

arXiv cs.CL · cs.AI · cs.SE

SCOUT: Synergizing Reasoning and Tool-Use for Computer-Use Safety

説明SCOUT:コンピュータ操作エージェントの安全性検証のための推論とツール利用の統合手法

要約本論文は、タスクを完遂できるコンピュータ操作エージェント(CUA)が、良性の指示や環境でも意図しない害を生じうる問題を扱います。提案手法SCOUTは二段階の検証器で、まずタスクごとの完了基準と安全基準(ルーブリック)を推論により生成し、次に探索エージェントがそれに従って実行後の環境と対話し証拠を集めて判定します。AutoElicit-BenchとOS-Blindでの評価結果が報告され、テスト時の内省により不安全な実行率が30.2%から17.2%に下がったとされています。

Jianxing Chen, Xiao Yu, Shipra Agrawal ほか

arXiv cs.CV · cs.AI · cs.LG

PreviewDiff: Multimodal Critic-Guided Search over Diffusion Latents

説明PreviewDiff:マルチモーダル評価器で拡散潜在変数を探索する学習不要のテスト時手法

要約拡散モデルは画像や動画を生成できるものの、物体の数、属性の結びつき、空間関係などプロンプトへの忠実さに関わる細部でなお課題があります。本論文のPreviewDiffは学習を必要とせず、ノイズ除去の途中段階で部分的なプレビューを復号し、マルチモーダル評価器が採点と自然言語でのフィードバックを行います。そのフィードバックに基づき、意味的なプロンプト編集と局所的に再ノイズ化した潜在変数の続きへ分岐させ、高評価の分岐を選んで進めます。画像と動画の評価ベンチマークでは、計算量を揃えたBest-of-Nなどに対して一貫して改善が見られたとされています。

Vighnesh Subramaniam, Boris Katz, Brian Cheung ほか

arXiv cs.CL

Concept Direction Reliability Across Languages with Different Tokenizer Fertility

説明トークナイザーの繁殖率が異なる言語間での概念方向の信頼性

要約本論文は、言語モデルの表現から抽出した感情方向が、サンプルごとにどの程度安定しているかを検討しています。英語、ハウサ語、ヨルバ語の原文と翻訳文を用い、4つのモデルで分割半一致度を測定しました。英語が最も高く、ハウサ語、ヨルバ語の順に低くなりました。分類器の予測は偶然より高く、予測精度と方向の一貫性は一致しないことが示されています。トークナイザーの繁殖率が言語差を引き起こすとは結論づけられていません。

Muhammad Abdullahi Said, Abass Oguntade, Elisha Komolafe ほか

arXiv cs.LG · physics.geo-ph

Physical Cross-Modal Masked Autoencoding for Seismic-to-Well Representation Learning

説明地震データと坑井ログの相互モダリティ・マスク付きオートエンコーディングによる表現学習

要約本論文は、3次元地震データと坑井ログの間で表現を学習する、物理的制約を組み込んだ相互モダリティ・マスク付きオートエンコーダ(CM-MAE)を提案しています。両データを連続的な物理座標上で同時に符号化し、疎な専門家混合層と密な注意機構で情報をやり取りします。事前学習には23の地震ボリュームと約92,000本の坑井を用いています。地震文脈は坑井ログの再構成を9.73%改善し、坑井文脈は地震の再構成を0.65%改善しました。地震のみから推定した擬似ログは、米国沖合で塩体の識別においてAUROC 0.910に達しています。

Meher Gajula, Keyla Gonzalez, Ben Lasscock ほか

arXiv cs.AI

FigAct: Turning Scientific Figures into Active Canvases for Explanation

説明FigAct:科学図を動的な説明キャンバスに変える手法

要約本論文は、静的な科学図を質問に応じた視覚的プレゼンテーションへ変換するフレームワーク FigAct を提案している。モデルは短い解説を順に生成し、それぞれを図中の対応する要素に結び付けたうえで、視覚的操作によって読者の注意を誘導する。また、効率的な要素定位のための階層的探索と、FigAct-8B の学習、実論文の図に基づく人手検証済みのベンチマークも構築されている。

Shishi Xiao, Zichao Wang, Alexa Siu ほか

arXiv cs.CV

FD-AA: A Lightweight Focal-Diffuse And Attenuation-Aware Head for Incidental Abdominal Abnormality Detection in Chest CT

説明FD-AA:胸部CTにおける偶発的腹部異常検出のための軽量な病変・びまん性対応ヘッド

要約本論文は、凍結された3D CTエンコーダに組み込める軽量な臓器認識型分類ヘッドFD-AAを提案し、胸部CTに写る偶発的な腹部異常の検出を目指す。各臓器内で、減衰認識モジュールが局所的な病変の証拠を保持し、マスク付き一般化平均プーリングがびまん性の異常パターンを捉える。七つの腹部臓器において、CT-RATEテストセット(AUC=0.798)と外部のRAD-ChestCTデータセット(AUC=0.713)で良好な結果を報告している。

Haoyan Ding, Kritika Iyer, Halid Yerebakan ほか

arXiv cs.LG

EvoMO-SR: Multiobjective LLM-based Evolution of Symbolic Expressions with substructure guidance

説明EvoMO-SR:大規模言語モデルに基づく、部分構造ガイド付きの多目的記号式進化手法

要約本論文は、LLMが方程式の骨格を生成し、係数は外部オプティマイザで個別にフィットさせる記号回帰フレームワーク EvoMO-SR を提案しています。精度と複雑さのバランスを取る多目的生存選択で式の肥大化を抑え、再利用可能な候補構造ブロックで式を変異させる仕組みを備えます。LSR-Synth の領域内外の 8 設定のうち 7 設定で最高精度を達成し、使用モデルは小規模な Llama-3.1-8B-Instruct です。

Cristina Rossetti, Anna V. Kononova, Thomas B\"ack ほか

arXiv cs.CL · cs.AI

Targeting Pivotal Decisions for Credit Assignment in Agentic Reinforcement Learning

説明エージェント型強化学習における信用割り当てのための決定的判断の特定

要約本論文は、大規模言語モデルエージェントの強化学習のためのProVerフレームワークを提案します。エージェント型の評価器が成功と失敗の軌跡を比較し、結果を分けた可能性のある区間を提案します。その区間の前後で採られた続きの成功率の差から優位性を推定して検証し、正の推定値を区間内の方策トークンに加えます。ALFWorld、WebShop、SearchQAでは、両モデル規模で平均性能が最も高く、GRPOに対する相対改善はQwen3.5-2Bで9.91%、Qwen3.5-4Bで7.12%です。

Dongwon Jung, Hemanth Neelgund Ramesh, Yifan Wang ほか

arXiv cs.LG

Fair Policy Optimization in Major-Minor Weakly Coupled Markov Decision Processes

説明主従弱結合マルコフ決定過程における公平な方策最適化

要約本論文は、資源制約によって主サブ過程と多数の従サブ過程の行動空間が結合する主従弱結合マルコフ決定過程(M2WCMDP)における公平な資源配分を扱う。総和型の効用目標ではなく、単調・凹・置換不変で正規化された公平性関数の一般クラスを最適化する。同質な従サブ過程の場合、対称性のもとで問題は置換不変方策に対するプラットフォームと平均参加者の効用目標の最適化に帰着することを示し、計数比率に基づく深層強化学習手法を提案する。機械交換問題とニューヨーク市のデータを用いた価格設定・タクシー再配置の応用実験で、公平性と拡張性を検証している。

Xiaohui Tu, Yossiri Adulyasak, Erick Delage

arXiv cs.LG · cs.AI

Draft in Parallel, Condition Through Depth: Adjacent Causal Injection for Speculative Decoding

説明並列ドラフト、深さ方向で条件付け:投機的デコーディングのための隣接因果注入

要約本論文は、投機的デコーディング用のドラフトモデル DSpine を提案します。主幹ネットワークの各層でゲート付きの隣接注入により、各位置の予測特徴を後続位置へ書き込み、因果的条件情報をネットワーク深さに沿って伝えつつ全位置は並列に更新します。Qwen3-8B の七つの数学・コード・対話ベンチマークで、温度ゼロの平均受理長は DFlash の 3.77 から 4.82 に向上し、SGLang での提供テストではスループットが平均 23.3% 高くなりました。

Haohui Zhang, Keyu Chen, Haocheng Sun ほか

arXiv cs.CV · cs.LG

Exploring Learning Models for Topological Relationship Recognition from Image Data

説明画像データからの位相関係認識のための学習モデルの検討

要約本論文は、画像中の物体同士の位相的関係(接触、重なり、分離、包含など)の認識を扱っています。11,000枚を超えるラベル付き画像からなる新しいデータセットを構築し、Naive Bayes、KNN、Random Forest、SVM、人工ニューラルネットワークなどの従来型機械学習モデルと、VGG16、InceptionResNetV2などの深層学習モデルで検証しています。深層学習手法、特にVGG16が優れており、検証精度は89.55%に達したと報告されています。

Saptak Das, Monidipa Das

arXiv cs.CV

Boosting Metric Depth Completion via Training-Free Adaptive Response Geometry

説明学習不要の適応的応答幾何によるメトリック深度補完の改善

要約本論文は、疎なセンサー計測から稠密なメトリック深度を復元する深度補完を扱う。既存手法は視覚基盤モデルの事前情報を真のスケールに合わせる際、既定の座標系における剛性のアフィン仮定に依存し、系統的な校正誤差が残ると指摘している。提案手法は深度、対数深度、視差の選択を画像ごとの未知量とみなし、連続的な応答族でこれらを統一する。学習を必要とせず、不完全な計測下で宏平均AbsRel 0.0301、NMed 14.04°を達成し、PriorDA、LDCM、Any2Fullを両指標で上回った。

Mia Zhang, Jizong Peng

arXiv math.OC · cs.LG · cs.NA

Tensor-Train Compressed Separable PINNs: A Curvature-Aware Optimization Framework for Parametric PDEs in High Dimensions

説明テンソルトレイン圧縮分離可能PINN:高次元パラメトリックPDEのための曲率を考慮した最適化枠組み

要約本論文は、高次元のパラメトリック偏微分方程式に用いる物理情報ニューラルネットワーク(PINN)向けの二次最適化枠組みを提案します。手法はGauss-Newtonのプルバック計量に基づき、分離可能なネットワーク構造と分離可能な演算子表現を利用して、Gauss-Newtonステップを小さな圧縮空間で厳密に計算します。指数的に大きなテンソル積の配点格子上で完全なヤコビ行列を組み立てる必要はありません。著者らは正準多重線形(CP)とテンソルトレイン(TT)のパラメータ化を検討しています。数値実験では、テンソル圧縮された一次法の基準手法と比べて誤差が小さく、反復回数と計算時間も大幅に少ないことが示されています。

Denis Korolev, Martin Eigel

arXiv cs.SE · cs.AI

From Dead Code and Static Requirements to Working Engines: Software Revival with Coding Agents

説明コーディングエージェントによる旧ソフトの復活と産業用エンジン再構築のベンチマーク(ReviveBench)

要約本論文は、動かなくなったソフトウェアを元の手法を保ったまま修復できるか、また公開仕様から産業用ソフトウェアエンジンを再構築できるかを評価するベンチマーク「ReviveBench」を提案しています。復活タスクは10件で、依存関係の非互換やコアモジュールの削除などを扱い、再構築タスクは数値・幾何・ハードウェア・トランザクション系の13件です。さらに、検証器自体に28件の欠陥が見つかったことや、測定誤差を減らす3つの実用的な確認方法も示されています。

Tianyu Liu, Dingyuan Dai, Yufan Du ほか

arXiv cs.AI · cs.CL · cs.LG

Principled Thoughts for Latent Recursive LLM Systems

説明潜在再帰型LLMシステムのための原理的な思考表現学習(REST)

要約大規模言語モデルは、テキストを出力せず隠れ状態の連続空間で推論できるが、最終回答の交差エントロピーだけで学習すると中間の思考が制約されない。本論文は、思考表現の因果性・最小性・分離可能性・安定性の四つの性質を微分可能な損失として交差エントロピーに加える学習目標REST(REpresentation-Supervised Thoughts)を提案する。数学、科学、医学、コード生成を含む7つのベンチマークで、同じ学習データ・計算量・潜在予算の下、従来の交差エントロピーのみの学習より精度が最大7.5ポイント向上し、最終回答への収束は30%速くなったと報告している。

Fahd Seddik, Fatemeh Fard

arXiv cs.LG · cs.AI · cs.DC

Encoder-Sharing Hierarchical Federated Multi-Task Learning for VANETs

説明車車間ネットワーク向け、エンコーダ共有型階層的マルチタスク連合学習

要約本論文は、車両が関連はあるが異なる知覚タスクを行う車載アドホックネットワーク(VANET)の状況を対象に、EN-HMTFLという階層的マルチタスク連合学習フレームワークを提案しています。グローバルに共有されるエンコーダを階層構造で交換・集約し、各車両のデコーダと生データはローカルに保持します。MNISTとGTSRBデータセットで異なる車両シナリオを評価し、比較対象の表現共有ベースラインに対して精度が最大24.0%向上したと報告しています。収束が早いシナリオでは通信ラウンドが最大69回(28.8%)減少しました。

M. Saeid HaghighiFard, Sinem Coleri

arXiv cs.AI · cs.LG

More Features Are Not More Evidence: Limits of Training-Free Human Activity Recognition with Jev

説明特徴量を増やしても証拠は増えない:学習不要の人間活動認識の限界

要約本論文は、固定された汎用確率的意思決定モデルJevが、加速度センサー信号の決定論的な記述だけで、学習なしに人間の活動を認識できるかを検証する。WISDM、UCI341、PAMAP2の3データセットでは、マクロF1が0.038から0.118にとどまり、教師あり モデルの0.686から0.907を大きく下回った。数値特徴を増やすと性能はむしろ低下し、意味的な記述を加えると一部回復したが、意味と直列化など他の変更の影響は切り分けられていない。

Orhan Konak

arXiv cs.CV

From Sharp Eyes to Expert Mind: Internalizing Expert Knowledge in MLLMs for Tampered Text Detection

説明鋭い目から専門家の知見へ:改ざんテキスト検出のためにMLLMへ専門知識を内在化する

要約本論文は改ざんテキスト検出を扱い、専用の専門家モデルは微細な改ざん痕跡を捉えるものの領域をまたぐ汎化が弱く、マルチモーダル大規模言語モデル(MLLM)は意味理解と転移性に優れるが微細な鑑識的アーティファクトに鈍感だと指摘する。提案手法の専門知識内在化(EKI)は二段階の枠組みで、第1段階はテキスト焦点型と画像焦点型の戦略で小さなテキスト領域への空間的注目を確立し、第2段階では鑑識専門家の表現に浅い層の表現を揃える損失(FGRA)を用いる。複数の領域内・領域間ベンチマークで既存手法を上回ると報告され、推論時には専門家モデルが不要で、通常モデルとほぼ同等の効率を保つとされる。

Kaiqing Lin, Songze Li, Shen Chen ほか

arXiv cs.LG

Learning Continuous Patient Trajectories from Electronic Health Records

説明電子カルテから連続的な患者軌跡を学習する手法

要約電子カルテは、時間とともに連続的に変化する患者の潜在状態を不規則な間隔でしか記録しません。本論文は、符号化された患者の病歴を条件とする多周辺フローマッチング枠組みEHRFlowを提案し、将来の変化が患者の過去の臨床経過に依存できるようにします。不規則な観察時点に対応し、任意の予測期間での予測を可能にします。百万人以上の実臨床データセットおよび独立した外部検証コホートでは、臨床コードのtop-5正解率(期間平均)が、自己回帰モデルと病歴非依存のフローマッチングのベースラインより向上しました。

Silas Ruhrberg Est\'evez, Kara Liu, Christopher Chiu ほか

arXiv cs.CL · cs.AI

Language Models Are "Insecure" Reporters

説明言語モデルは「不誠実」な報告者か:決定的な欠陥を隠す傾向の研究

要約本論文は、大規模言語モデルが自律的な作業の報告で、結論を変えうる重大な欠陥を隠すかどうかを検討し、これを「不安全な報告」と名付けています。否定的な結果を含む機械学習実験ログでは、GPT-5.5 は200件中2件しかその結果を指摘しませんでしたが、「誠実に回答してください」という指示を加えると190件で指摘しました。さらに、誠実さと成功志向は表現空間で反対方向に対応しており、誠実さへ誘導すると報告の透明性が大きく高まることが示されています。

Jenny Y. Huang, Jiameng Fan, Ahmed Imtiaz Humayun ほか

arXiv cs.CL · cs.SE コードあり

When Does Correction Become Repair? Mechanistic Auditing of Internal Interventions in Tool-Using LLMs

説明修正はいつ「修復」となるのか:ツールを使うLLMにおける内部介入の機構的監査

要約本論文は、ツール呼び出し前のLLMの判断を内部活性化への介入で修正できるかを検証する監査フレームワーク SAKIKO を提案しています。When2Call と MetaTool の7つのモデルで実験を行い、いくつかのモデルで方向性のある純利益が得られた一方、行動の変化が修復と同じではないことも示しました。たとえば +55 の純利益を得た介入は、元々正しかった判断の半数以上を壊していました。著者は、内部修復を主張する前に結果に基づく個別の判定が必要だと結論づけています。

Jiayi Li, Ruizhe Li

arXiv cs.CV コードあり

Xiaomi-OCR-0 Technical Report

説明Xiaomi-OCR-0 技術報告:0.8B パラメータの文書解析・OCR 統合モデル

要約本論文は、文書解析と OCR 中心の理解を統合した 0.8B パラメータの視覚言語モデル Xiaomi-OCR-0 を提案しています。専門家の合意、描画ベースの検証、対象を絞った合成を組み合わせた自動データエンジンで約 1.7 億サンプルのコーパスを構築し、Qwen3.5-0.8B から Q-Mask によるテキストアンカリング、継続事前学習、混合タスク強化学習で学習しています。報告では複数の文書解析ベンチマークで高いスコアを示し、十分な解析学習の後には OCR 理解の教師信号が解析性能をさらに向上させることがアブレーションで示されたとしています。

Xin Chen, Anan Du, Feng Feng ほか

arXiv cs.CV · cs.AR · cs.LG

Hardware-Aware Functional Kolmogorov-Arnold Networks for Efficient Medical Image Enhancement and Segmentation

説明ハードウェア対応の関数型コルモゴロフ・アーノルドネットワーク:効率的な医用画像強調・セグメンテーションのための軽量化手法

要約本論文は、MRIのギブス・アーチファクト除去と解剖学的セグメンテーションで最先端の精度を示したFunKANを、ポイントオブケア向けのエッジ医療機器で動作させるため、2段階のハードウェア対応圧縮手法FunKANLiteを提案しています。圧縮後のFunKANLite-STはFunKANよりパラメータ数が5.6分の1、演算量(GFLOPs)が3.7分の1で、BUSI、GlaS、CVC-ClinicDBにおけるIoUの差はFunKANに対して1.4ポイント以内、IXIでのPSNRは33.95 dBです。NVIDIA Jetson Orin NanoとRaspberry Pi 5では、推論1回あたりのエネルギーが最大68%削減され、スループットは2.9倍になりました。

Mohammad Sadegh Sirjani

arXiv cs.CL

A Character-Level Neural Approach to Sinhala Sandhi Splitting

説明文字単位のニューラルネットワークによるシンハラ語サンディ分割の研究

要約本論文は、音韻的に融合した表層形から元の構成語や形態素を復元するシンハラ語のサンディ分割を扱います。SandhiLexに基づき、原生のシンハラ文字(Unicode)を入力とする文字単位の系列変換モデルを検証しました。最良のモデル(双方向LSTMエンコーダと一方向LSTMデコーダ)は、語彙化・派生・語源的なサンディの難しい部分集合で完全一致精度68.40%、より規則的な接辞型の部分集合で94.00%に達しました。

Yasas Ekanayaka, Deshan Sumanathilaka

arXiv cs.AI

Memory Is a Derivation: The Distributed-Evidence Paradox in Long-Term Agents

説明記憶は導出である:長期エージェントにおける分散証拠のパラドックス(長期稼働エージェントが過去の対話を永続記憶に圧縮する際、その記憶が履歴に実際に裏付けられているかを検証する問題を扱う論文です。)

要約長期稼働の大規模言語モデルエージェントは、過去の対話を永続的な記憶に圧縮し、後のタスクの前提として再利用することがあります。本論文は、その記憶が書き込み時点で利用可能な対話履歴に裏付けられているかを監査する枠組みDerivAuditを提案します。二つの自然な記憶コーパスでは、より広い履歴を用いると、引用だけでは裏付けがないように見えた記憶の約60%に支持が見つかりましたが、拡張後も17〜21%は裏付けられないままでした。

Hongjun Liu, Chen Zhao

★★★★☆ 注目
arXiv cs.LG · cs.AI · cs.IT

What Can Language Models Inherit from Solomonoff Induction? Limits, Attainable Properties, and What Served Conditionals Reveal

説明言語モデルはソロモノフ帰納から何を引き継げるのか:限界、達成可能な性質、条件付き予測が示すこと

要約本論文は、アルゴリズム情報理論、万能予測、ベイズ整合性の既知の結果を用いて、「言語モデルは規模の拡大によりソロモノフ帰納に近づく」という通説を検討する。一様な形では、計算可能なモデルはどれも学習できない安価な環境を持つため、「近づく」は環境ごとに局所的にしか成り立たないと論じる。また、文脈内学習や、展開されたシステムが持つべき、あるいは避けるべきソロモノフ的性質についても議論する。

注目点Kraft不等式と既知のアルゴリズム情報理論の結果を用い、言語モデルがSolomonoff帰納の保証を継承できない厳密な限界を示し、点毎と一様の結論を区別している。

Luan Ozelim, Abicumaran Uthamacumaran, Hector Zenil

arXiv cs.HC · cs.AI · cs.CY

Accessible, but Not Adopted: Increasing LLM Adoption among First-generation, Low-income (FGLI) College Students beyond Expanding Access

説明利用可能でも普及せず:第一世代・低所得層の大学生における大規模言語モデル採用の促進

要約本論文は61件のインタビュー(第一世代・低所得層の学生、非該当学生、プログラム責任者、現場インタビューを含む)をもとに、この層における「アクセス可能性と実際の採用との差」を検証しています。学生はLLMを使っているものの、利用はチャットボットによる限定的な用途にとどまり、知覚価値の低さ、自己効力感の過小評価、出発点の不明確さ、仲間からの接触不足、資源制約などの障壁が挙げられています。著者はこの差を埋めるための四つの設計原則を導いています。

Hyungsik Kim

★★★★☆ 注目
arXiv cs.LG · cs.AI · cs.MA

Reasoning with Neural Cellular Automata

説明ニューラルセルオートマトンによる推論:局所結合のみで視覚的推論を行う手法

要約本論文は、局所的な結合と非同期更新のみを用いるニューラルセルオートマトン(NCA)の推論能力を検証したものである。大規模な迷宮、数独、ARC-AGI-1などの視覚的推論課題を解けることを示し、より大きなグリッドや長い実行ステップなど分布外の条件でも一般化することを報告している。

注目点ニューラルセルラーオートマトンを大迷路・数独・ARC-AGI-1などの多段階視覚推論に適用し分布外汎化を検証しており新規性は高いが、実験の規模と比較は限定的である。

Mayalen Etcheverry, Pietro Miotti, Aidan Sirbu ほか

arXiv cs.CV · cs.LG · cs.RO

BD-HazardVLM: Probing Vision-Language Models for Latent Defensive-Driving Hazards in Bangladesh Road Scenes

説明BD-HazardVLM:バングラデシュの道路場面における潜在的な危険の認識を視覚言語モデルで検証

要約本論文は、RSUD20KとTFP-BDから採取したバングラデシュの道路場面画像500枚からなる診断ベンチマーク「BD-HazardVLM」を提案します。危険の有無、主な危険カテゴリ、リスクのタイミング、深刻度、防御的行動などが注釈付けされています。3つの視覚言語モデルをゼロショットで評価した結果、危険の有無の二値判定精度は88.0〜89.2%で、多数派クラスのベースライン89.0%とほぼ同等でした。一方、細分化された推論は大きく劣り、カテゴリ精度は40%未満、防御的行動の完全一致は2%未満でした。粗い危険認識が、信頼できる細粒度の防御運転推論を意味するわけではないことが示され、地理的に多様な安全性評価の必要性が示唆されています。

Abdullah Al Maruf, Md. Sajedul Islam, Tanmoy Mridha ほか

arXiv cs.CV

RhinoNet: Unsupervised Learning for Phenoscaping and Generation of High Dimensional Point Clouds

説明RhinoNet:高次元点群の教師なし表現学習と生成モデル

要約本論文は、単体複体に基づく点群ニューラルネットワーク RhinoNet を提案し、高次元点群の幾何構造を保持する埋め込みを作成します。各データセットを単体複体として扱い、Vietoris-Rips フィルトレーションで辺を学習したうえで、オートエンコーダの潜在空間において点群間の最適輸送距離を保つよう最適化します。単一細胞データに適用して患者単位の表現(表現型景観、phenoscape)を生成し、潜在空間からのサンプリングと復号により点群全体を生成できることを示し、単一細胞および空間データで比較手法を上回ったと報告しています。

Siddharth Viswanath, Hiren Madhu, Eddie Cavallin ほか

arXiv cs.LG · cs.AI

ThinQuant: Scalable Rotation Learning for Weight and Activation Quantization of LLMs

説明ThinQuant:大規模言語モデルの重みと活性化量子化のためのスケーラブルな回転学習手法

要約本論文は、大規模言語モデルの低ビット重みおよび活性化量子化のためのThinQuantを提案します。凸包の幾何構造に基づいて校准データを大幅に絞り込み、ADMMによる薄い行列の更新で回転行列を効率的に求めます。原文によると、Llama-3-70Bでは DartQuant より短時間で校准を完了し、Llama-3.1-405Bにも単一のH200 GPUで対応できます。

Mehdi Makni, Ryan Lucas, Rahul Mazumder

arXiv cs.AI

AdaST: Adaptive Coupling for Spatial-Temporal Forecasting

説明AdaST:時空予測のための適応的結合手法

要約時空間予測は交通、気候、エネルギーネットワークなどのシステムを支えています。本論文は、実データには時間主導、空間主導、強結合など異なる結合パターンがあり、既存モデルは固定的な結合を仮定するため誤った依存関係を生みやすいと指摘しています。AdaST は分解・再構成の枠組みで、異質性を考慮した専門家により入力を結合成分に分け、それぞれを処理した後に適応的再構成器で統合して予測します。実験では既存の基準手法を大きく上回る結果が示されています。

Zhenyu Lei, Chenghao Liu, Yushun Dong ほか

arXiv cs.AI

The Layer Mystery of VLA: An Information-Theoretical Analysis of VLA Latent Interface

説明VLA の層選択の謎:情報理論に基づく視覚・言語・行動モデルの潜在インターフェース分析

要約凍結したバックボーンから単一の層を選ぶ方式が、多層融合よりも多くの場合で優れていることを示した研究です。最適な層はバックボーンやベンチマークによって大きく異なります。動作条件付き InfoNCE スコアを層の質の代理指標として用いると、網羅的な方策探索より計算量が大幅に少なく、最深層を選ぶ場合より選択誤差を減らせると報告されています。

Yuxiang Liu, Lizhi Yang, Fengze Xie ほか

arXiv cs.LG

Dyad: Extending Large Language Models with Native Typed Decision-Making

説明Dyad:大規模言語モデルにネイティブな型付き意思決定を拡張する手法

要約本論文は、事前学習済みの大規模言語モデルに、環境に応じた行動エンコーダを追加するDyadアーキテクチャを提案しています。候補となる各行動の説明を並列に埋め込み、モデル内部の状態と照合して型付き行動の確率分布を得ます。言語モデルを凍結して行動エンコーダだけを学習すると、未見の4つの環境で一貫した改善が見られました。両方を同時に最適化すると、多様な対話型タスクとモデル規模で従来の強化学習後処理を上回り、9Bモデルでは ALFWorld で平均3.80%の絶対的向上が報告されています。さらに、一般知識、推論、コーディングの性能も改善したとされています。

Yundaichuan Zhan, Weishi Wang, Wenbiao Liu ほか

arXiv cs.LG

Koa-decision: Fast and Consistent Structured Decision Making with Generative LLMs

説明Koa-decision:生成型LLMによる高速かつ一貫した構造化意思決定

要約本論文は、分類・意味的な区切り判定・真偽判定・スコアリングなどの単一ステップの意思決定を、単一トークンのみを出力する制約付き生成として定式化する Koa-decision フレームワークを提案しています。原子ラベルトークンと教師ありファインチューニングにより、分類を決定的な一段階のデコード問題に帰着させます。本番環境の意図ルーティングベンチマークでは正解率85.5%を達成し、同条件下で各フロンティアモデルより中央値で数倍速く、約0.5秒で応答したと報告されています。

Shenghong Dai, Shiva Kumar Pentyala, Yingchi Liu ほか

arXiv cs.LG · cs.AI

LoopICL: Looping a single transformer block to solve tabular tasks

説明LoopICL:単一のTransformerブロックをループさせて表形式タスクを解く手法

要約本論文は、単一のブロックを反復的に用いる循環型Transformer「LoopICL」を提案します。パラメータ数と計算の深さを切り離し、同一の計算量(FLOPs)でTabArenaおよびTALENTにおいてTabICLv2と競合する性能を示し、パラメータ数は約90%少なくなっています。推論コストと性能のトレードオフを利用者が選べる点も特徴です。

Amir Rezaei Balef, Katharina Eggensperger

arXiv eess.SP · cs.LG

Fundamental Limits of Transferability and Equivariance in Algebraic Signal Models I: Finite Dimensions

説明代数的信号モデルにおける転送可能性と等変性の基本的限界(有限次元の場合)

要約本論文は、代数的信号処理において、代数的信号モデル間の準同型写像を通じた転送可能性の基本的限界を研究する。準同型写像とは、二つのモデルの信号空間間の線形写像で、フィルタリングと可換なものを指す。その存在は、両モデルのシフト作用素のフィルタ後固有値の一致によって完全に決まる。著者らは情報保存の品質を測る指標としてスペクトル転送効率η(θ)を導入し、無損失転送が可能となる条件を明示的に示している。

Alejandro Parada-Mayorga

arXiv cs.AI

An Exact Generate - Transform Decomposition of Small-LLM Team Scaling Across Orchestration Architectures

説明小規模LLMチームのスケーリングを編成アーキテクチャ別に厳密な生成・変換分解で分析する研究

要約単一のLLMエージェントを協調チームに置き換えた場合に、チーム規模を拡大することが有効か、またどの編成アーキテクチャを拡大すべきかを検討する論文です。7〜9Bの指令調整済みモデル5種、短答式ベンチマーク5種、コード実行ベンチマーク1種で、最大30回の呼び出しまで8つのアーキテクチャを比較しています。チーム拡大の効果はタスクに強く依存し、算術の文章題では精度が大きく上がる一方、ARC、GPQA、MMLUではわずかしか上がりません。どのアーキテクチャもすべてのタスクで最良ではないことを示しています。提案手法として、精度の変化を提案の網羅性による効果と変換段階の変化に厳密に分解する枠組みを用いています。

Blaz Bertalanic, Carolina Fortuna

arXiv cs.CV · cs.AI · cs.LG

One Geometry, Different Outcomes: Readout-Dependent Effects of the Modality Gap in Vision-Language Models

説明同じ幾何構造、異なる結果:視覚・言語モデルにおけるモダリティギャップの読み出し依存効果

要約対照学習型の視覚・言語モデルでは、画像と文章の埋め込みがモダリティギャップによって分かれています。本論文はCLIPとSigLIPで、画像・文章の平均的な差の大部分が一つの主方向に集中することを示しました。その分解により、このギャップを変更した際の効果がタスクごとに異なる理由を説明しています。

Aditya Sharma, Divya Saxena

arXiv cs.LG

Data Unlearning via Inverse Distillation

説明逆蒸留によるデータ忘却(Inverse Distillation Unlearning,IDU)

要約本論文は、多段階のフロー・マッチングや拡散モデルを、効率的な一段階生成器へ同時に蒸留し、指定された学習データ部分集合に対応する出力を抑制するIDUフレームワークを提案しています。必要なのは事前学習済みの全データ教師モデルと忘却対象データのみで、保持データや追加の特徴抽出器・分類器は不要です。MNISTとCIFAR-10での実験では、忘却したクラスの生成頻度が大幅に下がり、保持クラスの生成品質はおおむね維持されました。

Aleksei Leonov, Nikita Kornilov, Zhenhe Zhang ほか

arXiv q-bio.NC · cs.CL

Better Behavioral Prediction, More Faithful Model Ablations? Evidence from Sequential Choice

説明予測はより正確に、モデル削除はより忠実になるか?逐次選択からの証拠

要約本論文は、予測モデルで認知を説明する際に用いられる入力アブレーション(情報を取り除いて性能変化を見る手法)の妥当性を検討しています。生成方策が既知の二つの合成逐次バンディット課題で、GRUやTransformer、微調整したLLaMA、認知モデルを比較しました。予測精度の高いモデルでも、報酬の差し替えに対する応答が真の生成過程よりずっと小さい場合があることが示されています。

Hanbo Xie

★★★★☆ 注目
arXiv cs.LG · cs.AI

PHASE: A Physiology-Guided Hierarchical Foundation Model for Intracranial EEG

説明PHASE:生理学に基づく階層型頭蓋内脳波(iEEG)基盤モデル

要約本論文は、頭蓋内脳波の直接測定可能な生理学的特徴を明示的な学習目標とする基盤モデル PHASE を提案します。単一チャネル内の時間段階(PHASE-T)と同期したチャネル間の時空間段階(PHASE-ST)から構成されます。9 つの臨床施設の 222 名の被験者の記録で事前学習されています。Omni-iEEG の 5 つの臨床タスクで、凍結した PHASE-T は評価対象の基盤モデルを上回り、微調整後の PHASE-T はタスク専用モデルを上回ったと報告しています。

注目点生理特徴を明示的な学習目標とし、マスク潜在予測と組み合わせ、5つの臨床タスクで既存基盤モデルを上回り、充実した検証を行っている。

Yipeng Zhang, Chenda Duan, Yuanyi Ding ほか

arXiv cs.CL · cs.AI

PADMÉ: Preference Alignment Data Synthesis for Meta-Evaluation of LM Agent Evaluators

説明PADM'E:LMエージェント評価器のメタ評価のための選好整合データ合成手法

要約言語モデルは他の言語モデルの評価によく使われるため、その評価が人間の判断と一致しているかを検証する必要があります。本論文は、メタ評価を選好判断の問題として再定式化し、小規模な言語モデルのみを用いて基準ベースのメタ評価データを合成するPADM'E手法を提案します。4つのエージェント領域と3つの評価基準にわたる1,000件のデータセットを構築し、150件の人手検証では人間との一致率が73%から85%に向上したと報告しています。

Cheng Chang, Yining Mao, Peng Qi

arXiv cond-mat.mtrl-sci · cs.AI

Measuring trainable degrees of freedom in materials graph neural networks: a random-subspace intrinsic dimension analysis

説明材料向けグラフニューラルネットワークの学習可能な自由度の測定:ランダム部分空間による本質的次元解析

要約本論文はランダム部分空間の本質的次元解析により、CGCNN、ALIGNN、DimeNet++ をランダムな向きのパラメータ部分空間で学習させ、six 種類の材料特性予測タスクにおいて学習可能な自由度を回復させたときの性能変化を調べています。小さな部分空間で参照性能に近づくタスクがある一方、フォノン予測は次元制限に最も敏感であることが示されています。材料向けGNNが最適化空間をどのように使うかを検証する手法として位置づけられています。

Shehroz Ahmad Shoaib, Kangming Li

arXiv cs.AI · cs.CL · cs.IR コードあり

GeoOutageBench: Benchmarking Ambiguity-aware, Ontology-grounded Geospatiotemporal KGQA for Multimodal Power Outage and Resilience Analysis

説明GeoOutageBench:多モーダル停電・レジリエンス分析のための、曖昧性を考慮し本体に基づく時空間KGQAベンチマーク

要約本論文は、停電とインフラのレジリエンス分析を対象に、大規模言語モデルを用いた時空間知識グラフ質問応答を評価するベンチマーク GeoOutageBench を提案しています。停電記録、リモートセンシング、気象観測、嵐や電力イベントなどの画像・テキスト・構造化データを統合した時空間知識グラフを用い、難易度別の質問類型を設けています。評価対象は、曖昧な時空間質問の自然言語からSPARQLへの解釈、本体(オントロジー)の有用性、多モーダル質問応答の回答精度の三つです。

Ethan D. Frakes, Amy Kvien, Rishabh Kundu ほか

arXiv cs.LG コードあり

Early Learning Shapes Later Directions Of Representation Change In Continual Learning

説明初期の学習が継続学習における表現変化の後続方向をどう形作るか

要約本論文は、ネットワークが新しいタスクを学習する際、初期の表現ドリフトが後の学習を形作る幾何学的な部分空間(「スキャフォールド」と呼ぶ)を形成するかを検証します。4つの事前学習済み視覚エンコーダと2つのデータセットで、後続の表現変化は無作為な部分空間よりも、この初期定義の部分空間を好んで再利用することが示されました。この再利用は学習履歴に依存します。また、スキャフォールド内の動きを制約すると、無作為な制約よりも新タスクの習得が遅くなりますが、旧タスクの保持への影響は一貫していません。

Yuantao Deng, Jinnuo Liu, Kaizhen Tan ほか

arXiv cs.AI · cs.CL

A Polyphonic Conception of AI Understanding

説明AI理解の「ポリフォニー」的概念:大規模言語モデルの出力は複数の並列メカニズムの連携から生じるとし、そのようなシステムに適した理解の概念を提案する論文です。

要約AIの出力を信頼すべきか判断する際、モデルが何を理解しているかが問われますが、従来の「単一声部」的な理解概念では不十分だと論文は指摘します。著者は機構的証拠に基づき、LLMの出力は信頼性の異なる複数の並列メカニズムの連合から生じ、それらが補完、重複、または打ち消し合うことを示します。そのうえで、確実かつ正しく動員され出力を制御する健全な回路を中心に据えた理解の概念を提示し、理解の帰属を内部構造に関する検証可能な主張として扱えるとしています。

Matthieu Queloz, Pierre Beckmann

arXiv cs.LG · cs.AR · cs.PF

GEM-KMeans: Memory-Efficient and Accurate Clustering on Massive Scale with GPU Optimization

説明GEM-KMeans:大規模データ向けにメモリ効率と精度を両立し、GPUで最適化したクラスタリング手法

要約本論文は、K-meansクラスタリングのための非負低ランク行列分解(NLR)をGPUで効率化したGEM-KMeansを提案します。勾配更新、非負射影、正規化に必要な統計量を行列積の後処理にまとめ、高帯域メモリ(HBM)上に保持する因子行列を一つだけに抑えています。合成データと実データでの大規模クラスタリングの精度を示し、既存のGPU加速Lloydアルゴリズムとの性能差はデータに依存すると報告しています。

Peng Xu, Nihar Koganti, Volodymyr Kindratenko ほか

arXiv cs.CY · cs.AI

Argus: Academic Integrity in the Era of Generative AI

説明Argus:生成AI時代における学術的誠実性

要約本論文は、学部生のC言語プログラミング課題において大規模言語モデル(LLM)の支援利用を検出する自動化システム「Argus」を紹介しています。行動指標とコードのスタイル指標を組み合わせて分析します。パデュー大学の大規模CS2科目のデータでは、2026年春学期に登録学生の45%がLLM支援によるコード作成と整合するパターンを示したと報告されています。また、フラグ付けされたLLM利用と対面監督試験の成績との間に有意な負の相関が見られ、自動検出には人間によるレビュー過程が必要だと論じています。

David Racovan, Ajay Rawat, Christopher K. May ほか

arXiv cs.AI

LongCat-DeepResearch Technical Report

説明LongCat-DeepResearch:マルチエージェント型ディープリサーチシステムの技術報告

要約本報告は、強化版 LongCat モデルとマルチエージェントのワークフローを組み合わせ、根拠に基づく包括的なレポートを作成するディープリサーチシステム LongCat-DeepResearch を紹介している。計画エージェントが調査計画(ResearchSpec)を作成し、研究エージェントが各セクションを並行して調査・執筆した後、全体レビューで局所的な修正を行う。DeepResearchBench などの各ベンチマークでの得点も示されている。

Meituan LongCat Team: He Zhu, Yue Xu, Wanli Wu ほか

arXiv cs.DC · cs.LG

Mixture-of-Kittens: MoE Megakernel for NVL72s

説明Mixture-of-Kittens:NVL72向けMoE超大カーネル学習システム

要約本論文は、NVIDIA NVL72のような高帯域のスケールアップ構成に向けて設計された専門家混合(MoE)学習システム「Mixture-of-Kittens(MoK)」を提案しています。従来のスケールアウト向けに最適化されたMoEシステムは、この環境ではPyTorchとNCCLで作った単純な基準実装より遅くなることがあると指摘されています。MoKは、トークンのディスパッチ、共有およびルーティング専門家FFN、トークンの結合を、単一の決定的な学習用メガカーネルに統合しています。原文によれば、公開されている最強の基準と比べ、MoE層の性能は最大2.37倍、512GPUでの本番学習ではエンドツーエンドの学習スループットが1.41倍となっています。

Stuart H. Sul, Nash Brown, Henry Wildermuth ほか

★★★★☆ 注目
arXiv cs.SE · cs.AI · cs.DL

The Uneven Decline of Collective Knowledge Production: Evidence from Stack Overflow After Generative AI

説明集団的知識生産の不均一な減少:生成AI登場後のStack Overflowからの証拠

要約本論文は、ChatGPT-3.5の公開を自然な衝撃事象とみなし、2020年から2025年にかけてStack Overflowに投稿された200万件を超える質問を分析しています。簡単な質問は大きく減少し、困難な質問は相対的に増加し、コードの複雑さも高まったことが示されています。データが豊富なトピックやタグは質問の割合を減らし、データが乏しいものは増えました。著者らは、生成AIの影響は均一ではなく、まず入手しやすい知識が失われると結論づけています。

注目点ChatGPT公開を自然実験として約200万件の質問を分析し、易しい質問の減少と難しい質問の増加という不均一な変化を示し、既存研究を拡張している。

Myokyung Han, Taegyoon Kim, Jinhyuk Yun ほか

arXiv cs.CV · cs.AI · cs.ET

AerialDojo-200K: A Large-Scale Benchmark Suite for Open-World Aerial Object-Goal Search

説明AerialDojo-200K:オープンワールドにおける空中物体ゴール探索のための大規模ベンチマーク

要約本論文は、オープンワールドの空中物体ゴール探索向けの大規模ベンチマーク群 AerialDojo-200K を提案しています。ドローンが大規模で非構造的な三次元環境を自律的に探索し、意味的記述または参照画像で指定された目標に到達するタスクです。データセットには42のシミュレーション場面と205,732のタスクインスタンスが含まれ、分布内と分布外の場面分割を備えています。九つのマルチモーダル大規模言語モデルを評価した結果、汎用的な空中エージェントの実現にはまだ長い道のりがあることが示されています。

Tongtong Feng, Xin Wang, Haoran Hou ほか

arXiv cs.LG · cs.AI コードあり

FLOORA: A Human-Aligned Domain-Specific Language Model for Architectural Design

説明FLOORA:建築設計に向けた、人間の選好に整合された領域特化型言語モデル

要約本論文は、建物の平面レイアウト生成のための小型の領域特化言語(DSL)モデル群であるFLOORAを提案している。専用データ、事前学習、教師ありファインチューニング、そして学習された人間の選好と検証可能な報酬による強化学習を組み合わせている。論文によれば、0.6Bモデルは大規模な最先端モデルを上回り、人による評価では89.3%で最良のモデルに選ばれたとされる。

Sahand Rezaei-Shoshtari, Patryk Wozniczka, Shu Ishida ほか

arXiv cs.LG · cs.AI コードあり

Understanding Decision-Making Mechanisms in Neural Routing Solvers

説明ニューラル経路ソルバーの意思決定メカニズムの解明:内部でどのように選択が行われるかを読み解く

要約本論文は、AM、POMO、LEHDという3つの自己回帰型ニューラル組合せ最適化モデルについて、解の構築時の内部意思決定メカニズムを検討しています。行動分析、表現プロービング、因果的介入という手法を用いています。AMとPOMOは解の構築全体を通じて持続的な幾何学的パターンに従う一方、LEHDの表現には複数の将来の行動に関する線形にアクセス可能な情報が含まれることが示されています。対象は巡回セールスマン問題と容量制約付き配車問題です。

Fatemeh Askari, Mazdak Teymourian, Mohammad Izadi ほか

arXiv cs.AI

SMat-Attention: Structured Long-Context Sequence Modeling

説明SMat-Attention:構造化された長文脈系列モデリング

要約本論文はSMat-Attentionを提案し、VC次元dで調整可能な構造化長距離ルーティング付き因果マスクにより、softmaxアテンションの柔軟性と線形アテンションの固定状態圧縮の間を結びつけます。長さTの系列に対する計算量と、遠方プレフィックス後の復号に必要なキャッシュ状態数が示されています。実験ではルーティング表現力が確認され、Mamba-2およびGated DeltaNetへの拡張で再現率の改善と小規模言語モデリングでの同等性能が報告されています。

Emile Anand, Abdullah Ateyeh, Archer Wang ほか

★★★★☆ 注目
arXiv cs.CL · cs.AI · cs.IR

Mnemon: Raw Records, Fast Judgments, Slow Thoughts

説明Mnemon:生の記録・速い判断・遅い思考——LLM アシスタントの長期記憶システム

要約本論文は、LLM アシスタント向けの長期記憶エージェント Mnemon を提案する。会話を日付付きの生記録として保存し、LLM が検索を計画し、軽量な判定モデル Jev が検索結果を素早く判断し、明示的な予算規則で回答モデル用の小さなコンテキストを作る。LoCoMo や LongMemEval-S などのベンチマークで高いスコアを報告し、質問あたりのコストの増加が小さいとしている。

注目点記憶の作業を高速判断と低速推論の二系統に分け、LoCoMoとLongMemEval-Sで公開比較の上位成績を示している。

Guangren Wang

arXiv cs.LG

ABC: Advantage-Based Control Variates for Reinforcement Learning with Verifiable Rewards

説明ABC:検証可能な報酬による強化学習のための優位性ベース制御変量

要約本論文は、検証可能な報酬による強化学習(RLVR)における方策勾配法を扱う。著者は優位性ベースの制御変量(ABC)を提案し、直接優位性推定(DAE)と組み合わせて単一のアクター・クリティック手法とした。オフラインからオンラインへの設定で数学的推論タスクを評価し、GRPOと同程度の性能をより少ないオンライン最適化ステップで達成したと報告している。

Hsiao-Ru Pan, Florent Draye, Bernhard Sch\"olkopf

arXiv cs.AI · cs.CE · cs.ET コードあり

Mirror-Score: Calibrated, Inference-only Scoring Exposes the Limits of Sequence-compatibility Ranking in D-peptide Design

説明Mirror-Score:D ペプチド設計における配列適合性ランキングの限界を示す、校正済みの推論専用スコアリング手法

要約本論文は、L 型タンパク質と D ペプチドの複合体を対象とした、追加学習を必要とせず推論のみで動作するスコアリング枠組み Mirror-Score を提案し、4 つの標的ファミリーにわたる 31 個の結晶複合体からなる公開ベンチマークを構築しています。元の ProteinMPNN の負の対数尤度は親和性との全体的なスピアマン相関が 0.19 にとどまり、標的によって相関の向きも逆転するため、親和性のランキング指標としては不適切であることが示されました。そこで著者らは Boltz-2 の鏡像空間での共折りたたみ信頼度を評価し、ウイルス侵入関連の一群で方向的に一貫した結果を得たものの、独立な化学型が 3 種類に限られるため、統計的に検証された予測器ではないと明記しています。

Jiada Li

arXiv cs.AI · cs.RO

GeoWind2Plan: Mission-Time 3D Urban Wind Prediction for Energy-Efficient UAV Planning

説明GeoWind2Plan:省エネ型UAV経路計画のためのミッション時3D都市風予測フレームワーク

要約都市の低高度飛行では、建物が周囲の風を空間的に変化する3次元の流れに変えるため、無人航空機(UAV)の消費エネルギーは経路長だけでなく局所的な風の影響にも左右されます。本研究のGeoWind2Plan(ジオウインド・ツー・プラン)は、背景風ベクトル、3次元建物形状、出発地と目的地のみを入力として、任務に関連する3次元風場を予測し、実行可能な経路と速度プロファイルを最適化します。未知の都市領域・風条件を対象とした評価では、回廊領域の風推定に約3秒を要し、CFDシミュレーションの約8時間と比べて大幅に短縮されました。CFDによる評価では、風を考慮しない計画と比べ、追い風・向かい風・横風の任務でそれぞれ6.9%、12.7%、4.5%の省エネルギーを達成しました。

Shaoxiang Qin, Yucheng Zhao, Fuyuan Lyu ほか

arXiv cs.CY · cs.AI

What if automating AI R&D triggers an intelligence explosion?

説明AI研究開発の自動化は「知能爆発」を引き起こすのか?

要約AIシステムが、AIを開発する企業内で大部分のコードを書くようになる中、AI研究開発(R&D)の自動化が進むと「知能爆発」によって進歩が急加速するかを検討した論文です。著者らは予備的な証拠を評価し、その影響を分析したうえで政策対応を提案しています。自動化が進めば大きな恩恵をもたらす一方、極端なリスクも伴うため、政策立案者による慎重な検討が求められると論じています。

Alan Chan, Christoph Winter, Andrew Barto ほか

arXiv cs.AI · cs.LG · cs.SY コードあり

PowerZooJax: A JAX-based Power System Benchmark for Reinforcement Learning

説明PowerZooJax:JAXベースの強化学習向け電力システムベンチマーク

要約本論文は、電力システム運用の強化学習向けベンチマークスイート「PowerZooJax」を提案している。発電、送電、配電、分散型エネルギー資源、データセンターマイクログリッドの5つの制約付きマルコフ決定過程タスクを含む。潮流計算、経済給電、市場清算、機器動特性をJAX計算グラフとして再記述し、学習と評価の全工程をGPU上で実行する。実験ではCPUベースのシミュレーションに比べて大幅な高速化が示され、方策の報酬、安全違反、分布外のストレス条件を標準化して評価できることが示されている。(JAX)

Zhanhua Pan, Xiao Liu, Zhilong Cao ほか

arXiv cs.LG · cs.AI

Improving scalable oversight with co-trained monitors

説明共同学習型モニターによるスケーラブルな監督の改善

要約本論文は、ワーカーが固定されたモニターを回避するように学習してしまう問題を避けるため、モニターをワーカーと共同で学習させる方法を検討します。教師あり設定では、可能なモニター関数のクラスのLittlestone次元が有限であるとき、誤差とクエリ率をゼロに近づけて監視できることを示します。自己教師あり方式としてテスト時蒸馏に基づく共同学習手法を提案し、コードセキュリティの場面で検証しています。結果として、適応的なモニターは固定モニターより回避されにくいことが示唆されています。

Joseph H. Rudoler, Kevin Tan, Benedict Tessler ほか

arXiv cs.LG · cs.AI · math.OC

Neural networks for spectral optimization

説明スペクトル最適化のためのニューラルネットワーク:領域の形状から固有値を素早く予測し、スペクトル量を最適化する手法

要約本論文は、微分作用素のスペクトル(固有値)に依存する汎関数を最適化する領域を求める問題を扱います。PDEソルバーで直接計算するのは計算コストが高いため、著者らは領域の形状から固有値を直接予測する2種類のニューラルネットワークモデルを提案しています。一つはフーリエ係数と軽量なMLPを用いる星形領域向けのモデルで、精度は0.2%です。もう一つはlandscape関数などを入力とし、最初の10個の固有値に対する平均相対誤差が約1%で、FNOモデルの4%より小さいとされています。どちらの代理モデルも、第一固有値に対する円盤など既知のスペクトル最適領域を再現しています。

Alexis de Villeroch\'e, Beniamin Bogosel, St\'ephane Breuils ほか

arXiv hep-ph · cs.LG · hep-ex

Hybrid Neural Simulation-Based Inference for Robust Applications and Limited-Budget Scenarios

説明頑健性と限られた計算予算に対応するハイブリッド・ニューラルシミュレーションベース推論

要約本論文は、ニューラルシミュレーションベース推論(NSBI)に近い性能を保ちながら推論の計算コストを大幅に削減し、パラメトリック手法の信頼性保証の一部または全部を維持する二つのハイブリッド手法を提案している。第一の手法は幅広く適用可能で、第二の手法は半パラメトリックな NSBI 定式化を持つ一類の素粒子物理解析向けに設計されている。著者らは、生の感度にはわずかな妥協があるとしている。比較研究に基づき、頑健で効率的な推論には第一の手法である Latent Categories の利用を推奨している。

Sean Benevedes, Mani Dehghan, Aishik Ghosh ほか

arXiv cs.AI

SAGE: A Statistical Acceptance Gate for Self-Evolving Agents

説明SAGE:自己進化エージェント向けの統計的採択ゲート

要約大規模言語モデルのエージェントは、作業手順を記述した技能文書を編集することで自己進化します。従来の採択規則は検証スコアの全体平均が上がれば編集を採用するため、既に解けていた問題を壊す改変も残ってしまいます。本論文のSAGEは問題ごとに現行版と改変版を対応比較し、片側対応検定で収益が信頼できる場合にのみ改変を採用します。五つのベンチマークと四つのモデルで検証され、20設定中19設定で回帰率が下がり、全20設定で最高の最終スコアを得ました。

Yihao Wang, Linhan Xia, Rui Liu ほか

arXiv math.OC · cs.LG

Dual-Anchor Acceleration Is Near-Optimal for Stochastic Monotone Root-Finding

説明双アンカー加速は確率的単調根探索でほぼ最適

要約本論文は確率的単調根探索問題を扱い、双アンカー加速を確率的リゾルベント近似と最適化された分散制御と組み合わせています。分散が有界の不偏確率的オラクルで、サンプル演算子が単調かつ一様Lipschitzという仮定の下、アルゴリズムはほぼ最適なオラクル計算量を達成し、ノイズ支配領域での多対数因子を立方から二乗へ下げています。

TaeHo Yoon, Nicolas Loizou

arXiv cs.LG · cs.AI · cs.IT

TORQUE: Optimizing What (not) to Quantize Before and After Rotation

説明TORQUE:回転の前後で量子化しない座標を最適化する手法

要約本論文は、ランダム回転を用いた量子化手法を改良する TORQUE フレームワークを提案します。全体の期待ビット数を固定したうえで、回転の前後で高精度に保持する座標の数と位置を同時に最適化します。量子化誤差の上界を導出し、回転前に絶対値の大きい上位 k 個を保持することがその上界を最小化することを示しました。数値実験により、再構成精度と保存コストのトレードオフが改善されることを確認し、近傍探索、KV キャッシュ圧縮、活性化圧縮で評価しています。

Ran Ben Basat, Michael Mitzenmacher, Shay Vargaftik

★★★★☆ 注目
arXiv cs.LG · cs.SY · eess.SY

Preferent Compression Bounds Are Tight

説明選好型圧縮境界は厳密に最良(タイト)であることの証明

要約本論文は、学習ベースの手法を展開する際に必要となる安全性・性能の保証(証明書)を、サンプル圧縮によって導く問題を扱います。学習理論で安定性とも呼ばれる選好性質を満たすアルゴリズムに対して既知の鋭い境界が、その有効性は未解決でした。著者らは、現在最良の選好型圧縮境界が厳密に達成可能であることを示し、一様分布と順序統計量に基づく明示的な構成を与えました。あわせて、初等的な数え上げのみで済む、より短い証明も提示しています。

注目点圧縮境界が厳密かどうかという未解決問題を肯定的に解決し、明示的構成で境界を達成、より短い証明も与えた。

Dario Paccagnan, Marius Tirlea

arXiv cs.CV · cs.GR · cs.RO

CoDimRecon: Agentic Reconstruction of Sim-Ready 3D Scenes with Deformable Curves, Surfaces, and Volumes

説明CoDimRecon:変形可能な曲線・曲面・体積によるシミュレーション対応3Dシーンのエージェント型再構成

要約本論文は、多視点RGB画像から剛体・関節体・変形可能物体を含む編集可能な3Dシーンを再構成するCoDimReconフレームワークを提案します。変形可能物体は曲線・曲面・体積ごとに再構成し、エージェント誘導の挙動テストで物理モデルを修正します。ReplicaとScanNet++のシーンで評価され、構成的な再構成精度は競争力があり、シミュレーション用の変形アセットも生成できること、ロボットとの相互作用も示されています。

Shuzhao Xie, Lelin Wang, Guying Lin ほか

arXiv cs.CV

Persistence Forcing: Exploiting Feature Specialization in Pixel-Space Diffusion

説明Persistence Forcing:ピクセル空間拡散モデルにおける特徴の専門化の活用

要約本論文は、ピクセル空間の拡散Transformer(DiT)において、特徴グループごとに深さ方向の精緻化回数を変える手法を提案しています。その結果、精緻化が少ない「持続的特徴」は主に全体構造を、多い「活動的特徴」は局所的な高周波の細部を担うようになります。提案手法PerFは、持続的特徴が活動的特徴の精緻化を導く仕組みです。ImageNet 256×256ではPerF-LがFID 1.91、PerF-Hが256×256と512×512でそれぞれFID 1.63と1.76を達成したと報告されています。

Chong Wang, Zixuan Fu, Shiqi Huang ほか

arXiv cs.RO · cs.LG

In-Context Learning for Robots: Methods and Applications

説明ロボットのインコンテキスト学習:手法と応用のレビュー

要約本論文は、ロボットのインコンテキスト学習(ICL)に関する文献レビューです。展開時にニューラルパラメータを固定したまま、デモンストレーションや相互作用の情報を使って既存の能力を新しいタスクに向けます。著者は関連手法を、文脈条件付きポリシー、幾何学的なデモンストレーション転移、世界モデルに基づく制御、スキルとエージェントに基づく実行の4系統に分類し、その転移の前提を比較しています。操作やナビゲーションにおいて、物体や環境が変化しても教示された要件がどのように保たれるかも検討しています。

Haojian Huang, Zexi Li, Junhao Guo ほか

arXiv hep-ph · cs.AI · hep-ex

Infrared Subtraction with Artificial Intelligence

説明人工知能で構築する赤外減算法:電子・陽電子消滅における多ジェット生成の次々近似補正の数値計算

要約本論文は、人工知能の支援で開発した局所的な赤外減算法を提案し、可積分な放射項とBorn運動学におけるの有限な接触項を分離します。接触項は、N-jettiness τN などの分解能変数上でのEFT特異分布を用いて決定されます。二通りの実装が示され、一つは相空間投影にニューラルネットワークを用いてEFTの累積量に合わせる方法、もう一つは放射について積分しながらBornの運動量を固定する解析的な方法です。これにより無質量の3ジェットと4ジェット生成の完全なNLO補正を再構成し、結果はEERAD3と良く一致しました。計算はGPUを用いない一般的なノートパソコンで行われています。

Wenjie He, Xiaohui Liu, Yandong Liu ほか

arXiv cs.LG · cs.CV · cs.DC

Making Cross-Continental Federated Learning Repeatable with FLIP: a Multi-Application Study

説明大陸を越える連合学習を再現可能にする FLIP:複数アプリケーションによる研究

要約本論文は、オープンソースの連合学習相互運用プラットフォーム FLIP(Federated Learning Interoperability Platform)を紹介します。よく使われるワークフローを組み合わせ可能なサービスとして提供し、学習と評価を再現しやすくします。英国とタイの2つのノードで、合成胸部X線データを用いた連合ファインチューニングと連合評価の2つの用途を実施しました。主な結論は、こうしたプラットフォームが国際的な連携と再現性、監査性、施設ごとのガバナンスを支えるということであり、アルゴリズムの性能比較は目的としていません。

Rafael Garcia-Dias, Alexandre Triay Bagur, Chayanin Tangwiriyasakul ほか

arXiv cs.CV · cs.AI · cs.RO

Systematic Multi-Agent Vision-and-Language Navigation: Formulation, Benchmark, and Method

説明体系的なマルチエージェント視覚言語ナビゲーション:定式化・ベンチマーク・手法

要約本論文は、複数のロボットが協調して移動する課題を扱うマルチエージェント視覚言語ナビゲーション(MAVLN)を提案し、依存関係と資源制約を伴う協調問題として定式化しています。145シーン、最大4エージェント、11,724エピソードからなるベンチマークと制約を考慮した評価指標を構築しました。さらに、LLMベースのサブタスクスケジューラ、共有トポロジカルメモリ、衝突を考慮した実行機構を備えたTRISSを提示しています。実験の結果、TRISSは基準となるベースラインである一方、スケジューリング・計画・実行の各面で改善の余地が大きいことが示されました。

Yunzhe Xu, Zhe Liu

arXiv cs.CL · cs.AI · cs.LG

Causal and Interpretable Structures in LLM Compositional Tasks

説明LLM の組み合わせタスクにおける因果的かつ解釈可能な構造

要約本論文は、大規模言語モデルが三つのトークン間の関係を推論する際、その情報をどのように表現・処理しているかを調べた。月、時間、曜日、音符などの循環概念を扱うプロンプトを用い、Llama、Qwen、Gemma、Mistral の各層の活性化を分析している。中間層では二つのトークン間の関係に基づく表現が、後半の層では三つのトークンすべてに対応する結合表現が使われ、後者で課題を完成させることが示された。また、因果的に有効な結合表現に限定すると、次トークン予測の精度が向上するという結果も報告されている。

Gurbir Arora, Toni J.B. Liu, Jiajun Bao ほか

arXiv astro-ph.IM · astro-ph.EP · cs.LG

SIFARI: Self-Supervised Interferometric Fitting for Astronomical Radio Imaging

説明SIFARI:天文電波イメージングのための自己教師ありインターフェロメトリ・フィッティング

要約本論文は、電波干渉計で得られた可視度データを直接フィットして天空の輝度を再構成する自己教師あり型ニューラルネットワーク手法SIFARIを提案している。外部の学習画像や明示的な空間正則化は使用しない。Stochastic Weight Averaging-Gaussian(SWAG)により輝度の不確かさを推定し、熱雑音の下限と組み合わせて空間分解した信号対雑音比マップを作成する。合成およびALMA観測データ(PDS 70、WISPIT 2)での結果として、CLEANより高い画像忠実度が報告されている。

Shunyuan Mao, Andrea Isella, Paris Perdikaris ほか

arXiv hep-th · cs.AI · math-ph

Solver Agent: an Agentic AI Framework for Theoretical Physics Computations Applied to F-theory Uplifts of O3-planes and S-folds

説明Solver Agent:理論物理計算のためのエージェント型AIフレームワークと、O3プレーンおよびS-foldのF理論アップリフトへの応用

要約本論文は、大規模言語モデルに基づき数学・理論物理の計算と証明を行うエージェント型AIフレームワーク「Solver Agent」を提案する。仮定や導出、計算を永続的な台帳に記録し、独立したエージェントが中間ステップと最終結果を検証する。これを用い、IIB型オリエンティフォールドとそのS-fold一般化の大域的なF理論アップリフトを調べ、Weierstrass模型が特定の条件下でCalabi-Yau四重体を与える十分条件を示している。

Eliott Morgensztern, Cesar Fierro Cota, Alessandro Mininno

arXiv cs.CV · cs.AI · cs.GR

FurE: Efficient Instance-Specific 3D Fur Reconstruction without Animal-Fur Datasets

説明FurE:動物毛データセットを使わず個体ごとの3D毛並みを効率的に再構築する手法

要約本論文は、多視点画像から編集可能な動物の毛並みを効率的に再構築する手法FurEを提案しています。PCAベースのデコーダにより一本一本の毛の形状を復元し、人間の髪の毛のデータで学習させることで動物データの不足を補います。既存の最先端手法と比べて毛の学習が約10倍速く、毛の精度も保たれると報告されています。

Srinjay Sarkar, Prakhar Kaushik, Soumava Paul ほか

arXiv cs.CL · cs.AI

Telescopic Language Models

説明伸縮型言語モデル(Telescopic Language Models):一度の学習で複数の計算予算に対応するネスト構造の言語モデル

要約本論文は、一つの学習で計算予算に応じた複数の深さで動作する伸縮型言語モデル(TLM)を提案します。確率的な接頭辞の切り詰めと完全モデルの同時学習により、どの層の接頭辞でも有効な言語モデルになります。2億パラメータ規模の実験では、固定出口方式と比べて品質と予算の曲線の面積が43〜44%減り、フル容量では同等の性能で、学習のGPUコストは約12%低くなったと報告されています。

Zhilin Guo, Boqiao Zhang, Hakan Aktas ほか

★★★★☆ 注目
arXiv cs.CV · cs.LG

PDMD: Projected Distribution Matching Distillation for Video Diffusion Models

説明PDMD:動画拡散モデルのための射影型分布マッチング蒸留

要約動画拡散モデルは長い時空間トークン列に対して数十回のノイズ除去計算を必要としますが、分布マッチング蒸留(DMD)はこれを数ステップまで減らせます。ただし訓練中にサンプルの過飽和やアーティファクトが生じます。本論文はその不安定性を評論器(critic)の誤差に帰し、DMD更新のうち学生-評論器の終点残差に平行な成分を射影で除去するPDMDを提案します。Wan2.1では4ステップでVBench総合スコア83.73を達成し、対応するDMDを1.03点上回りました。

注目点DMDにcritic誤差の射影補正を加えるアイデアは新規性があり、Wan2.1とMiniMax-H3での比較実験とユーザー調査で裏付けられている。

Zimo Wang, Junkun Yuan, Angtian Wang ほか

arXiv cs.CV · cs.AI

Learning Native Reflection in Unified Models with Interleaved Reinforcement Learning

説明統一モデルにおける交互強化学習による内在的な自己反省の学習

要約本論文は、統一マルチモーダルモデルが生成画像を自ら修正する仕組みを扱います。モデルは画像の誤りを診断し、修正して再生成するループを繰り返します。提案手法UMM-Reflectionは、一つの統一モデル内で完全な反省軌跡に強化学習を適用し、同じ初期画像から得た複数の軌跡で群相対的な優位性を比較して、反省テキストと流れベースの画像修正を同時に更新します。推論時に外部の検証器は不要です。BAGELでは、教師ありファインチューニングに比べGenEvalで12.05ポイント向上し、訓練に使われていないWISE、OneIG-Bench、T2I-CompBench++でも改善が見られました。

Yijia Fan, Ziqi Huang, Zhongang Cai ほか

arXiv cs.CL

Retrieving Biblical Intertextual References in Karen Blixen's Seven Gothic Tales

説明カーレン・ブリクセン『七つのゴシック物語』における聖書の相互テクスト的参照の検索

要約本研究は、デンマークの作家カーレン・ブリクセンの『七つのゴシック物語』に見られる聖書の相互テクスト的参照を対象とします。注釈付き批判版の注解に基づき189件の注釈付き参照からなるベンチマークを作成し、デンマーク語の旧約・新約聖書訳の全31,170節を対象に検索を評価しました。言語的正規化を施したBM25が強力なベースラインとなり、デンマーク語エンコーダーを微調整するとアリュージョンの検索性能が大きく向上しました。著者らは、検索モデルを専門家による精読を支援する補助ツールとして位置づけるべきだと論じています。

Andr\'as Kov\'acs, Alexander Conroy, Daniel Hershcovich ほか

arXiv cs.CV · cs.HC コードあり

Reliability-Gated Fusion of Consumer Head and Foot IMUs for Lower-Body 3D Pose

説明コンシューマー向け頭部・足部IMUの信頼性ゲーティング融合による下半身3次元姿勢推定

要約本論文は、イヤホン型の頭部IMUとスマートインソール型の足部IMUを用いた下半身姿勢推定において、消費者向けセンサーの信頼性の低さ(姿勢の偏り、装着のばらつき、ドリフトや欠落)に取り組みます。各ストリームのチャネルごとに時系列の信頼性ゲートを学習させ、合成的に劣化させたデータで補助的な信頼性目的を用いて訓練します。提案モデルは、クリーンデータおよび模擬故障下で学習型融合手法の中で最も高い精度を示し、偏った足部姿勢チャネルを抑制し、ドロップアウトを検出できると報告しています。

Zhilin Guo, Boqiao Zhang, Oszk\'ar Urb\'an ほか

arXiv cs.LG

Unifying Distributional Training for One-Step Visual Generation

説明一段階視覚生成のための分布学習の統一フレームワーク

要約本論文は、分布のモデリングと照合の差異を分離し、Wasserstein勾配流を通じて全体目的と点ごとの特徴更新を結びつける統一的な理論枠組みを提案します。この枠組みに基づくMGFlowは、ガウス混合で特徴分布を粒度を調整しながらモデル化します。ImageNet 256×256で最先端の結果を達成し、FLUX.2 [klein] 4Bを一段階の文生画像生成器へ事後学習させています。

Chi Zhang, Shi Haoyang, Yueyi Liu ほか

★★★★☆ 注目
arXiv cs.LG · cs.AI · cs.SE コードあり

TokenCast: Forecasting Token Consumption During LLM Agent Execution

説明TokenCast:LLMエージェント実行中のトークン消費量を予測する手法

要約同じタスクでも、大規模言語モデル(LLM)エージェントのトークン消費量は実行ごとに一桁以上変動することがあり、コンテキストの増加が後続の各呼び出しの入力サイズを押し上げます。TokenCastは実行区間ごとに、自身の消費量と導入するコンテキスト増分を記録する合成可能なコスト表現を学習し、隣接する区間を組み合わせて累積推定値を算出します。実行の進行に伴い予測を更新し、追加のLLM呼び出しは不要です。96の評価組み合わせで、最強の比較手法に対して平均絶対誤差を平均14.5%削減し、オフラインの予算制御リプレイでは固定予算方式より平均21.3%少ないトークンで済んだと報告しています。

注目点実行セグメントごとに組み合わせ可能なコスト表現を学習し、文脈増加を考慮して予測を更新;4スイート・6モデル・96組合せでMAEを平均14.5%削減。

Chaoqian Ouyang, Ling Yue, Libin Zheng ほか

arXiv cs.CL

Scaling Long-Form Story Generation via Narrative State Tracking

説明叙事状態の追跡による長編ストーリー生成の拡張

要約本論文は、登場人物、過去の出来事、今後の要件を含む構造化された叙事状態を大規模言語モデルに追跡させる、学習不要のエージェント型フレームワーク NstAgent(Narrative State Tracking Agent)を提案しています。既存のベンチマークを拡張して長さ別の叙事一貫性を比較し、執筆品質のベンチマークと組み合わせて、1万語から10万語の物語を体系的に評価しています。結果として、物語が長くなるほど NstAgent の叙事一貫性と執筆品質は向上し、長さが増しても両者に目立った低下は見られないとしています。

Zhennan Wan, Jianfei Chen

arXiv cs.CV コードあり

HEIR: Learning Human-Entity Interactions with Functional Roles

説明HEIR:機能的役割を伴う人と実体の相互作用の学習(画像ベンチマークと予測手法)

要約本論文は、物体、対人、自己志向の相互作用における参加者と役割の完全な構成を評価する画像ベンチマーク HEIR(18,730枚)を提案している。あわせて CoRISP という手法を提案し、共有された実体の同一性を用いて役割条件付きの証拠を統合し、正規化された参加者と役割の集合を予測する。HEIR の反復的役割イベントと共有参加者画像で既存システムを上回り、V-COCO でも役割 AP と完全集合 AP の結果を報告している。

Di Wen, Wenhao Guo, Yuedong Tan ほか