AI アルゴリズム · 2026年10月2日(金)

機械学習、人工知能、自然言語処理、コンピュータビジョン、マルチエージェント。

★★★★☆ 注目
arXiv cs.LG · cs.AI コードあり

Test-time Calibration Learning for Large Language Model Reasoning

説明テスト時キャリブレーション学習:ラベルなしで大規模言語モデルの推論精度と確信度の信頼性を同時に高める手法

要約本論文は、正解ラベルのない対象タスクのデータで、モデルが複数回生成した回答から自己教師信号を得て、推論精度と言語で表現される確信度を同時に適応させるTTCLフレームワークを提案しています。理論解析により、TTCLが理想的なキャリブレーション目標の有界な代理であることを示しています。数学推論と事実質問応答の8つのベンチマークで、基礎モデルに対し平均相対精度が40.13%向上し、ECEが70.80%低下したと報告されています。

注目点ラベルなしのテスト時適応へ校準学習を拡張し、複数サンプルから自己教師信号を得て精度と信頼度を同時に改善、8つのベンチマークで検証。

Zizhuo Zhang, Xiong Peng, Jingwei Sun ほか

arXiv cs.RO · cs.MA

Who Went Where When on the Lunar Surface: Forensic Trajectory Analysis to Identify Byzantine Rovers

説明月面で誰がいつどこへ行ったか:不正なローバーを特定する法科学的軌跡分析

要約複数の非協力型惑星探査ローバーが、一部で誤ったまたは改ざんされた測定値を提供する状況で、月面安全区域などの運用制約を守ったかを事後に検証するための軌跡再構築手法を扱っています。既存の外れ値に頑健な位置グラフ最適化は、この設定では失敗しやすいことを示しています。そこで著者らは、個々の測定の妥当性ではなくローバーの信頼性を評価する、帰属を考慮した軌跡推定法を提案しています。合成シミュレーションと惑星アナログの実軌跡データで、不正なローバーを特定でき、既存の基準手法より精度の高い推定が得られたと報告しています。

Lachlan Holden, Feras Dayoub, Melissa de Zwart ほか

arXiv cs.AI · cs.LG

Decoupling Memory from Context: Structured Memory for Token-Efficient Test-Time Continual Learning

説明文脈から記憶を分離:トークン効率の良いテスト時継続学習のための構造化メモリ

要約本論文は、大規模言語モデルが推論時に文脈を調整して振る舞いを改善できる一方、記憶を追記し続けるとトークンコストが増え性能が低下する問題を扱います。著者らは文脈最適化の統一的な枠組みを示し、再利用可能な戦略を蓄積・整理するグラフベースの軽量メモリ GraphMemory を提案しています。実験では、競合する下流性能を保ちつつ、記憶構築に用いるトークンをベースラインより約81〜85%削減したと報告されています。

Yehya Farhat, Michael Desmond, Anastasios Kyrillidis

arXiv cs.AI · cs.CL

Large language models exhibit unreliable updating of clinical judgment as patient evidence evolves

説明大規模言語モデルは患者の証拠が変化しても臨床判断を信頼できる形で更新できない

要約本研究は集中治療室患者の電子カルテから得た縦断データを用い、患者の証拠が変化した際に大規模言語モデルが判断を適切に修正するかを検証した。推定値が変わる場合、先行する判断を参照すると予測誤差が減るより増える例が多かった。呼吸の証拠では悪化への反応が同程度の改善より強く、事前リスクを10%から90%に変えると推定値が26.2ポイント動いた。プロンプトでは信頼性を回復できず、提案手法EVLUは修正回数を減らして信頼性を高めるが、信頼性と適用範囲のトレードオフが見られた。

Min Zeng, Rui Zhang

arXiv cs.LG · cs.ET · cs.LO

RAOA: Alternating-Operator Neural Computation with Programmable Radio Propagation

説明RAOA:プログラム可能な電波伝搬による交互演算子ニューラル計算

要約本論文は、プログラム可能な電波伝搬を通信路や一回限りのアナログ変換としてではなく計算の深さとして用いる、Radio Alternating Operator Ansatz(RAOA)を提案します。エネルギーに基づく問題更新と潜在状態の混合更新を交互に繰り返す再帰的構成です。離散最適化、制約付き伝搬シミュレーション、事前学習モデルへの適応の三つで評価しています。RF実現の結果はハードウェア実証ではなくシミュレーションに基づきます。

Toshiaki Koike-Akino

arXiv cs.AI · cs.HC

DataWeave: Deploying Human-LLM Analytics for Exploratory Structured Data Analysis

説明DataWeave:探索的な構造化データ分析のための人間とLLMの協働システム展開

要約本論文はDataWeaveを紹介する。対話型インタラクション、スキーマへの接地、分析計画、実行可能なクエリ生成を組み合わせ、構造化データの探索的分析を支援するシステムである。LLMを自律的に答えを出す存在ではなく、仮説の変化に応じて出力を確認・修正・誘導できる対話相手として位置づけている。専門記者が米国教育省の高等教育データシステム(IPEDS)を分析した事例研究を通じ、信頼できる人間とLLMの協働のための設計原則と導入経験をまとめている。

Raquib Bin Yousuf, Harith Laxman, Vitaliy Shkremetko ほか

arXiv cs.AI

Spend Teacher Tokens Where They Matter: Success-Referenced On-Policy Distillation

説明教師トークンは効果の大きい所に使う:成功例を参照する同方策蒸留

要約本論文は、同じプロンプトに対して生徒モデルが成功と失敗の両方の推論結果を出した場合に、成功例を参照して失敗した推論結果を選び、教師の監督を与えるSR-OPD手法を提案する。教師入力のコストも考慮して選択を行う。3組の教師・生徒モデルと6つの数学推論ベンチマークで、一回通しの設定において従来のOPDに必要な教師入力トークンの3.46〜5.02%しか使わず、推論性能は同程度を維持したと報告している。

Xiang Chen, Futao Su, Kong Wang ほか

arXiv eess.IV · cs.CV

One Photon, Many Worlds: Posteriors and Predictions with Single-Photon Cameras

説明一つの光子、多数の世界:単一光子カメラによる事後分布と予測

要約単一光子アバランシェダイオード(SPAD)カメラは、各フレームで0か1の二値画像を出力します。同じ二値画像が複数のシーンから生じうるため、逆問題は一対多の関係になります。本論文は、超幾何分布に基づくフレーム間引きの過程を用いた条件付き生成フレームワークを提案し、測定回数が増えるとこの曖昧さがどう減るかを調べ、文字認識、QRコード復号、顔分析などの後続タスクへの影響を分析しています。

Haejoon Lee (Carnegie Mellon University), Mohit Gupta (University of Wisconsin-Madison), Vijayakumar Bhagavatula (Carnegie Mellon University) ほか

arXiv cs.HC · cs.CL · cs.DL

Asterism: Exploring and Synthesizing Scattered Observations into Literature-Grounded Hypotheses and Theories

説明Asterism:散在する文献上の観察を、文献に基づく仮説と理論へまとめる手法

要約本論文は、数百本の論文から「概念間の関係」の三つ組を抽出し、階層オントロジーで概念を統一するシステム Asterism を提案する。研究者はそれを用いて観察を集約し、理論と仮説を構築する。10名の研究者による現場導入では、観察から理論へ進み、自らの選好に合う概念と仮説を保持できたことが示された。二つの事例研究では、免疫学と農業の研究チームが標準的な分析の外側にある機構を発見し、追試実験に値する仮説を立てた。

Joseph Chee Chang, Michael D'Arcy, Amy X. Zhang ほか

arXiv cs.LG · cs.AI · cs.CL

LEAP: Learning Efficient Action Proposals For LLM Agents

説明LEAP:LLMエージェント向けの効率的な行動候補の学習

要約LLMエージェントは一段階ずつ推論と行動を繰り返すため、実行が遅いとされています。本論文は、推測的な行動実行による速度向上の収益とコストを測る遅延フレームワークを示し、それに基づき小型の草案モデル(0.6B)を対象モデルの行動列で学習させるLEAPを提案しています。報告によれば、LEAPはエンドツーエンドの実行時間を最大60%短縮し、タスク成功率に系統的な変化はなく、草案モデルはオンラインでも学習できるとされています。

Zhen Xu, Qizheng Zhang, Gerry Wan ほか

arXiv cs.CV

CHASE-VLA: Post-Training Quantization Framework for Vision-Language-Action Models with Chunk-Aware Scale Estimation

説明CHASE-VLA:チャンク認識スケール推定を用いたVLAモデル向け学習後量子化フレームワーク

要約本論文は、視覚・言語・行動(VLA)ロボットモデルにおける拡散ベースの行動エキスパート部分を低ビットで学習後量子化する際の課題に取り組む。提案手法CHASE-VLAは、未実行の未来部分を含む既生成の行動チャンクを因果的な文脈として用い、ノイズ除去ステップのグループ情報と合わせて活性化スケールを適応的に調整する。事前学習済みポリシーを変更せずにW4A4量子化を可能にする。LIBEROベンチマークでπ0.5の平均成功率は97.3%で、FP16水準を回復したと報告されている。

Jin Hyun, Jung Gyu Min, Gyuhyun Jung ほか

arXiv cs.CL · cs.AI · cs.LG

Large Language Continuous Diffusion Models

説明大規模連続拡散言語モデル:離散トークンの代わりに連続潜在空間で文章を生成する手法

要約本論文は、30億・80億パラメータ規模の連続拡散言語モデル Sigma を提案している。モデルは低次元の常微分方程式・確率微分方程式の潜在軌道上でテキストを生成し、自己回帰モデルの重みで初期化して学習する。数学推論およびコード生成のベンチマークで、離散モデルと競合する性能を示したと報告している。

Zhihan Yang, Wei Guo, Jean-Marie Lemercier ほか

arXiv cs.AI

A GHOST in Long-Horizon Agents: Governance Hazard from Overlooked Safety Constraints across Turns

説明長期タスクのエージェントにおける、過去ターンの安全制約を見落とすリスク(GHOST)と防御手法STAR-Guard

要約論文は、長期タスクを行うエージェントが、数ターン前に指定された安全制約に違反する行動を実行しうると指摘し、これをGHOSTと名付けています。良性の対話条件下でもGPT-5.5で発生率は11.5%だとされています。さらに、履歴の安全制約を復元する仕組みと実行前監査を組み合わせた二層防御STAR-Guardを提案し、GPT-5.5の設定ではGHOST事象は観測されなかったと報告しています。

XinPeng Shen, Lan Zhang, Yixiao Huang ほか

arXiv stat.ML · cs.AI · cs.LG

Generalization Bounds for Flow-matching Generative Models for Intrinsically Low-dimensional Data

説明本質的に低次元のデータに対するフローマッチング生成モデルの汎化境界

要約本論文は、有限個のサンプルから未知の分布を学習するフローマッチング(flow-matching)生成モデルの統計的汎化性能を検討しています。Wasserstein-p距離で測った有限サンプル誤差上界を導出し、その収束指数はデータの環境次元ではなく本質次元に依存することを示します。これにより、構造化データに対する手法の経験的な成功を、既存解析より緩い仮定の下で説明しています。

Saptarshi Chakraborty, Quentin Berthet, Peter L. Bartlett

arXiv cs.LG · cs.RO

GARV: Graph-Aware Refinement and Safety Verification for High-Level Robot Plans

説明細分化のギャップに注意:安全な高レベルのロボット計画が危険な実行を生む場合

要約本論文は、言語対応ロボットシステムにおける仮定、すなわち安全モニターが検査する高レベルの行動列が、実行中のナビゲーションと暗黙の行動効果を表しているかを検討します。同じLTL仕様のもとで、表層的な計画とグラフで細分化された軌跡に対するRoboGuardの判定を比較し、受控ケース28件と端から端までのケース14件で評価しています。12件の対象ケースすべてで表層と細分化軌跡の差異が確認されたため、グラフベースの軌跡細分化を軽量な緩和手法および診断ツールとして提案しています。

Stabak Das, Priyesh Ranjan, Xiangfang Li ほか

arXiv cs.LG

AIGS: Adaptive Incremental Gating System for Online Representation Learning in Non-Stationary Data Streams

説明AIGS:非定常データストリームにおけるオンライン表現学習のための適応型増分ゲーティングシステム

要約本論文は、IoTやエッジコンピューティングにおいて分布が変化するリアルタイムデータストリームを対象に、軽量な適応型フレームワークAIGSを提案する。現在の再構成誤差を直近の変動で正規化する「ショック比」を用い、学習可塑性と記憶保持を連続的に調整する。スマートシティの交通・気象・産業データでの実験結果を報告しており、資源の限られたエッジ監視への適用が想定されている。

SiRui He, Kai Liang Lew, Chui Zi Ong ほか

arXiv cs.CV · cs.AI · cs.LG

SpectralCache: Accelerating Diffusion-Based World Models via Spectral Feature Caching

説明SpectralCache:スペクトル特徴キャッシュによる拡散ベース世界モデルの高速化

要約拡散ベースの世界モデルは高品質なインタラクティブ環境を生成できますが、ノイズ除去中に Transformer を繰り返し評価するため推論コストが大きくなります。本研究では、近接するノイズ除去ステップ間で特徴の特異部分空間が非常に安定していること、特異値が予測可能な変化を示すことを明らかにしました。これに基づき、学習不要のキャッシュ手法 SpectralCache を提案します。安定した部分空間を再利用し、低次元の特異値のみを線形外挿で推定します。HunyuanWorld-Voyager-13B で 5.22 倍の高速化を達成し、静的シーンの WorldScore は 65.90 を維持しました。

Zhendong Mi, Pu Zhao, Ziyu Hu ほか

arXiv cs.LG · cs.AI · math.OC

Distributed Learning with Selective State Space Models: Architecture-Aware Convergence Analysis

説明選択的状態空間モデルによる分散学習:アーキテクチャを考慮した収束解析

要約本論文は、Mamba2などの選択的状態空間モデル(SSM)の連合学習における収束性を研究している。単層および多層SSMの勾配と平滑性の上界、ならびにFedAvgとFedProxの収束上界を導出し、再帰的安定性、入力依存の離散化、状態投影ノルムが連合最適化に与える影響を分析している。単層の上界は教師SSMが生成した系列で数値的に検証され、六つのテキスト分野におけるMamba2の言語モデリングで九つの連合学習アルゴリズムが比較されている。

Adam Piaseczny, Md Kamran Chowdhury Shisher, Shiqiang Wang ほか

arXiv cs.LG

Context-Tower Conversion Preserves Generation While Freezing Retains Knowledge: Low-Budget AR-to-Diffusion Conversion of MoE LLMs

説明凍結コンテキストタワー方式のAR-拡散変換は低予算で生成能力をより多く保持する

要約本論文は、同一の30B混合エキスパート(MoE)自己回帰型LLMを拡散言語モデルへ変換する二つの方法を比較しています。一方は一部の重みを直接更新する方式、もう一方は元モデルを凍結してクロスアテンションで条件付けする方式です。10億トークンの学習で、凍結型はHumanEval pass@10で71.60、直接更新型は6.19を記録しました。著者らは、拡散モデルを比較するには共通の評価プロトコルが必要だと指摘しています。

Wentao Lu, Tianyu Zhu, Jesse Clark

arXiv cs.AI · cs.MA · cs.SI

Coherence-Driven Belief Formation and Population Dynamics of Contagion in LLM Agents

説明LLMエージェントにおける整合性に基づく信念形成と感染の集団動態

要約本論文は、言語モデルエージェントが主張を採用する確率を、その主張を支持する仲間の数に応じて実験的に測定しています。採用曲線はシグモイド型で、複雑な感染の特徴を示し、主張の妥当性、情報源の信頼性、エージェントの傾向に閾値が左右されることが分かりました。これら三つは、新しい信念と既存の信念との整合性という一つの有効次元でほぼ近似できるとされています。さらに、クラスター化したネットワークでは無作為なネットワークより広がりやすく、自己維持的な履歴依存の合意が生じることも報告されています。

Tathagata Banerjee, Nima Moghaddas

arXiv physics.chem-ph · cs.AI

Equivariant Flow Matching for Electron Density Prediction

説明電子密度予測のための等変フローマッチング手法(OrbFlow)

要約本論文は、密度汎函数理論(DFT)の高コストな計算を補うため、フローマッチングによりガウス型軌道(GTO)係数を予測する SE(3) 等変生成モデル OrbFlow を提案している。原文によれば、QM9 では従来の最良モデルに比べ密度誤差を 13.6% 削減し、MD ベンチマークの各分子でも誤差を 51%~63% 削減した。予測密度は自己無撞着場(SCF)の反復回数を最大 68% 減らし、自己無撞着計算なしでも双極子・四極子モーメントを DFT 参照値の数%以内に再現するとされる。

Chenxing Liang, Chengdong Wang, Yuchao Lin ほか

arXiv cs.CV コードあり

Capturing Dynamics: The 4D Facial Expression Intensity Dataset

説明動的な捉え方:4D表情強度データセット

要約本論文は、パラメトリック顔モデルで作成した2,869本の幾何学的に制御されたメッシュ系列からなる4D表情強度データセット(4DFEID)を紹介します。クラウドソーシングで90,000件以上のリッカート尺度による主観的強度評価を収集しました。実験では、時空間グラフモデルがフレーム集約型の手法を一貫して上回ることが示されています。

Zesheng Wang, Alexandre Bruckert, Pierre Lebreton ほか

arXiv physics.soc-ph · cs.MA · cs.SY

Performance of Zero-determinant Strategies in Repeated Games without Discounting

説明割引なし繰り返しゲームにおけるゼロ行列式戦略の性能

要約ゼロ行列式(ZD)戦略は、繰り返しゲームにおいて一方的に利得を制御できる戦略の一種で、社会的ジレンマゲームで協力を促進することが示されている。本論文は、行動プロファイルの確率分布のチェザロ平均の極限が存在するという従来の仮定を置かずに、割引なしの繰り返しゲームにおけるZD戦略の性能を説明し、従来より強い結果を得ている。

Masahiko Ueda

arXiv cs.AI

Batched Speech Decisions Without Decoding: Single-Token Supervision Lets a Frozen LLM Hear Beyond the Transcript

説明デコード不要のバッチ音声判定:単一トークン監督で凍結LLMが書き起こし以上を聞き取る

要約DuplexJevは、音声認識エンコーダの隠れ状態を小さなコネクタを通して凍結LLMに入力し、各質問を選択肢上の単一トークン分布として読み取る手法である。デコードは行わず、8GPUノードで8発話の80件の判定を約0.1秒で処理する。クロスアテンション型コネクタでは、性別と感情の認識精度がともに90%に達し、音声質問応答は83%から82%へ1ポイントの低下にとどまる。学習は読み出した答えトークンへの交差エントロピーで行い、内容については蒸留を維持する。重み、学習手順、バッチ推論パイプライン、バイリンガル音声質問応答データセットが公開されている。

Jie Jin, Ziyin Ma, Min Yin ほか

arXiv math.OC · cs.LG · cs.NA

A hybrid CNN-adjoint optimization framework for reconstruction of viscoelastic tissue properties in magnetic resonance elastography

説明磁気共鳴エラストグラフィにおける粘弾性組織特性再構成のためのCNNと随伴最適化のハイブリッド手法

要約本論文は、せん断波の変位場から複素せん断弾性率を推定する磁気共鳴エラストグラフィ(MRE)の逆問題を扱う。随伴法に基づくPDE制約付き最適化、二次元畳み込みニューラルネットワーク(CNN)による再構成、およびその両者を組み合わせた手法を検討している。CNNで初期値を与え、その後に随伴最適化で精緻化する手法は、より速い収束と高い精度をもたらすと報告されている。

Anwesa Dey, Johann Rudi, Elena Cherkaev

arXiv cs.LG

Online Verification of Language Model Responses Under Cost Constraints

説明コスト制約下での言語モデル回答のオンライン検証

要約大規模言語モデルを多段階の推論に使う際、出力の正しさを検証することが重要になっています。しかし、すべてのステップで高価な正解オラクルを呼び出すのは現実的ではありません。本論文はOMVV(Online Multi-Verifier Verification)を提案します。これは、コストと性能の異なる弱い検証器のプールを保持し、オンラインのスコア統合と指数重み付けルーティングで各ラウンドの検証器を選びます。実験では、さまざまな予算において、単一の固定検証器より高い精度と低い検証コストを示したとされています。

Erfan Hajihashemi, Yanning Shen

arXiv cs.AI

Designing the Future of User Feedback for Generative AI

説明生成AIのためのユーザーフィードバックの設計の未来

要約本論文は、生成AIシステムの公開後にユーザーからフィードバックを集める仕組みを検討しています。研究者らはeBayと協力し、既存の業界手法をベンチマーク評価して、発見しにくさや用語の分かりにくさ、ユーザーの価値への配慮不足などの問題を明らかにしました。その結果を基に、ベストプラクティスの提言とフィードバック収集ツールの試作・検証を行っています。

Alisa Frik, Julia Bernd, Amitis Karami ほか

arXiv cs.AI

Lost in the Request: How Communication Variation Disrupts Retrieval and Action in Email Agents

説明『Lost in the Request』:伝え方の違いがメールエージェントの検索と実行に与える影響

要約本論文は、求める情報・利用可能な根拠・期待される結果を同じに保ったまま、伝え方や英語の変種だけを変えたとき、メールアシスタントが信頼できるかどうかを検証しています。著者らは5種類のコミュニケーションスタイルと4種類のルールベースの方言条件による変種を作成し、検索拡張生成(RAG)パイプラインと2つのツール利用エージェントで評価しました。間接的な依頼は3つのベンチマークすべてで性能を下げ、形式的な依頼は2つのエージェント系ベンチマークで性能を下げることが示されています。

Feng Chen, Ritam Dutt, Atnaz Taheri ほか

arXiv cs.CV · cs.AI · cs.LG

Imagine the Future, Internalize the Gist: Efficient VLA Reasoning via Internalized Spatiotemporal Imagination

説明未来を想像し要点を内在化する:内在化された時空間想像による効率的なVLA推論

要約本論文は IG-VLA フレームワークを提案し、ロボットの視覚・言語・行動(VLA)モデルが視覚表現空間で課題に関連する未来のシーン変化を想像し、コストの高いピクセルレベルの動画生成なしに行動予測を導くことを可能にします。Scene Gist Memory は推論で得られたシーンと行動の関連付けをコンパクトな Scene Gist Token に内在化し、推論時に明示的な未来の想像を省きます。LIBERO、LIBERO-Plus、VLABench での実験により有効性と効率性が示され、推論遅延は 1081ms から 169.5ms に短縮されたと報告されています。

Shenglan Li, Zhendong Mi, Hengyi Zhu ほか

arXiv cs.AI

CuBEs: Culturally-Situated Behavioral Evaluations and the Limitations of Culture-Blind LLM Judges

説明CuBEs:文化的文脈を踏まえた行動評価と、文化を考慮しないLLM評価者の限界

要約本論文は、既存のLLM行動評価が文化的背景を無視しており、世界中のユーザーへの適用性が限られていると指摘します。著者らは、テストの場面と評価に多様な文化的文脈を組み込むCuBEsという手法を提案し、12の文化にまたがる人手ラベル付きデータセットを構築しました。13のオープンソース・クローズドソースLLMを評価した結果、文化的文脈によって特定の行動の出現に大きな差が生じることが示されました。例えば政治的偏りの測定では、非西洋の文化的文脈で西洋とは異なる偏りの軸が現れるため、世界展開には文化を踏まえた行動テストが必要だと結論づけています。

Hoda Ayad, Tanu Mitra, Abhishek Mukherji

arXiv cs.SE · cs.AI · cs.MA

WebUIProof: Benchmarking WebUI Code Generators with UI-Agent Execution Harness

説明WebUIProof:UIエージェント実行ハーネスによるWebUIコード生成器のベンチマーク

要約本論文は、WebUIコード生成を実行ベースで評価するベンチマーク WebUIProof を提案します。構造化された仕様と実行可能な対話テストを備え、一般的なWebUIと3Dインタラクティブシミュレーションの二つのタスク群を対象とします。ヘッドレスブラウザ上で計画・操作・観察を反復するUIエージェントが対話テストを実行します。八つの商用LLMを評価したところ、ページが描画されても対話を伴う要件で失敗が頻発し、特に3Dシミュレーション画面で顕著でした。さらに、実行可能な対話テストから得た報酬による強化学習で小型モデルを訓練すると、機能の完成度が向上し、ビルド失敗が減ることが示されました。

Yun-Yun Tsai, Yuning Mao, Shiqi Wang ほか

★★★★☆ 注目
arXiv cs.AI · cs.CL · cs.LG コードあり

VERSE: Verified Self-Evolving Optimizer for Agent Harnesses

説明VERSE:エージェント・ハーネス向けの検証付き自己進化オプティマイザ

要約本論文は、LLMエージェントのプロンプトやツール、ワークフローを改善するだけでなく、オプティマイザ自身の障害診断や編集、検証の方法も改善できるかを検討しています。提案手法VERSEでは、オプティマイザが提出前に草案の修正をテストし、失敗を再現し、ラウンドごとに修正と回帰を追跡します。モデルの重みは固定されたままです。SWE-rebenchおよび多言語の新規タスクで、検証により選ばれた最良のハーネスは、正答率42.3%と37.7%を達成し、最強のベースラインの39.2%と29.3%を上回りました。

注目点最適化器自身のツールと手順を改善する検証付き自己進化手法を提案し、SWE-rebenchと多言語の新規タスクで最強ベースラインを上回ることを示した。

Zekai Wang, Yingqiang Ge, Zekun Wang ほか

arXiv cs.LG

Quantifying the Value of Constructive Induction, Knowledge, and Noise Filtering on Inductive Learning

説明帰納学習における構成的帰納・背景知識・ノイズ除去の効果を定量化する研究

要約本論文は、学習問題の性質と平均的な学習性能を結びつける新しい学習指標「有効次元」を提案しています。VC次元と異なり、有効次元は実験的に推定でき、平均的な場合の予測が可能です。著者は逆伝播法を含む複数の学習システムでこの指標を検証し、特徴構成システムFRINGEの効果を予測しました。その結果、効果は目標概念の複雑さが増すにつれて小さくなることが分かりました。

Carl M. Kadie

arXiv cs.LG

What Is Lost in Post-Training? Default Collapse and the Loss of In-Context Steerability Across Diverse Perspectives

説明事後学習で失われるものは何か?多様な視点にわたるデフォルトの収束と文脈内での操縦性の喪失

要約本論文は、事後学習を経た大規模言語モデルが、学習で優先されなかった立場へ文脈内で誘導できるかを検証しています。統制実験では、文化的価値観の対立の一方へモデルを微調整し、学習過程の各チェックポイントを評価しました。その結果、学習された側は通常の利用で次第に支配的になる一方、反対の見解を認識し忠実に再現する能力は低下しました。さらに、表明される視点の分布を所与の制約として報酬を最大化する代替目標を提案し、その実用的な実装として立場分布マッチングを示しています。

Jessica Dierking, Itai Shapira, Niclas Boehmer

arXiv cs.CL

Learning When to Commit from Partial Speech for End-to-End Simultaneous Speech Translation

説明部分音声からコミットのタイミングを学習する、エンドツーエンド同時音声翻訳の研究

要約この論文は同時音声翻訳を扱い、音声の入力が終わる前に、確定したトークンを変えずに使える翻訳文を出力する方法を検討しています。著者らは、転写や人手翻訳を使わず、モデル自身の完全な音声と部分音声の翻訳結果から前缀の教師データを作成しました。FLEURS と CoVoST2 の3つの言語方向で、前缀学習により品質と遅延のフロンティアが改善し、多ターン追記型デコードでは提交の較正誤差が全体で 63〜68% 低下したと報告しています。

Hieu Hoang, Amittai Axelrod

arXiv cs.LG · cs.CV

Scale-Recursive Rectified Flows for Few-Step Precipitation Ensembles

説明少ステップで降水アンサンブルを生成する尺度再帰型整流フロー

要約衛星降水プロダクトは解像度が粗く、格子内の降雨分布を十分に表現できません。本研究は、大まかな降雨パターンを先に生成し局所の詳細を後から加える尺度再帰型整流フローを提案し、アンサンブルの散らばりと予測誤差を空間スケールごとに比較して、サンプリングステップの配分を決めます。米国本土での衛星からレーダーへのダウンスケーリング実験では、粗いスケールのフローにステップを多く割り当てることで、確率予測の精度と降雨検知が向上しました。さらに、同じ構造と計算コストのもとで、ステップ数の多い非再帰型フローよりも短いサンプリング時間で高い確率予測精度を達成しました。

Shunya Nagashima, Takumi Bannai

arXiv cs.LG

Seer: Maximum Likelihood Regression for Learning-Speed Curves

説明Seer:学習速度曲線のための最尤回帰

要約本論文は、分類学習の性能を経験的に観測し、その結果から統計モデルを構築する Seer システムを提案している。このモデルは、目標精度に到達するのに必要な学習データ数や、データ量が無限の場合に得られる最高精度を予測するために使える。大豆病害、心疾患、聴覚学の三領域の実データで約100件の実験が行われた。

Carl Myers Kadie

arXiv cs.AI

Time Series Forecasting Benchmarks Need Scenario-Grounded Stress Testing

説明時系列予測のベンチマークにはシナリオに基づく負荷試験が必要だという主張:現行の評価は狭すぎて実際の故障を捉えられないと、著者はシナリオと故障モデルを含む試験を提案しています。

要約本論文は、既存の時系列予測ベンチマークが予測誤差の低さだけを評価し、ロバスト性研究もガウスノイズ、ランダムマスク、有界な敵対的摂動に限られていると指摘します。著者は、各テスト事例に過去入力、将来の目標値、意味的なシナリオ、明示的な故障演算子、測定可能な難易度を含めるべきだと主張し、どの条件でなぜモデルが失敗するのかを解釈可能な形で評価できるようにするとしています。

Yuyang Zhao, Lian Xu, Hao Xue

arXiv cs.AI

TasteBench: Multimodal Benchmark for Sensory Prediction, from Molecules to Sustainable Foods

説明TasteBench:分子から持続可能な食品までの多モーダル感覚予測ベンチマーク

要約本論文は、感覚予測のための多モーダルベンチマークおよびプライバシー保護型コンペティション「TasteBench」を提案しています。24の製品カテゴリにわたる215種の植物性食品に対する21,000件超の人による評価に基づく食品レベルの順位付けタスクと、15,000種の風味分子を対象とする分子レベルの味の分類タスクから構成されています。最良のモデルの二つ比較精度は.661で、個々の評価者の中央値(.650)に近い水準でした。

Anna T. Thomas, Sohum Patnaik, Caroline Cotto ほか

arXiv cs.LG · cs.PF

Activation Sparsity with Weight Approximation for Faster LLM Decoding on Offloaded Weights

説明オフロードされた重みのデコードを高速化する、重み近似付きの活性化スパース化手法

要約GPUメモリに収まらない大規模言語モデルを消費者向けGPUで動かすと、システムRAMやフラッシュストレージから重みを転送するため推論が極端に遅くなります。本論文はSpAxを提案し、ゼロに近い活性化に対応する重みは読み込まず、小さな活性化には圧縮された近似重みを、最大の活性化には元の重みを使います。CPUメモリへのオフロード時、16ビット重みで平均3.86倍(最大5.57倍)、4ビット重みで2.06倍(最大2.74倍)高速化し、WikiText-2のパープレキシティ増加は最大10%です。

JuneHyung Kim, Sankeerth Durvasula, Nandita Vijaykumar

arXiv cs.CV

GRAFT: Growing Agglomerative Foundation Models via Continual Teacher Distillation

説明GRAFT:継続的な教師蒸留で段階的に拡張する統合型基盤モデル

要約本論文は、DINOv2、SigLIP2、MASt3Rなど異なる視覚基盤モデルの能力を、一つの統合バックボーンへ段階的に蒸留するフレームワーク「GRAFT」を提案する。新しい教師が加わる際は、全体の再蒸留ではなく一度の蒸留で能力を獲得できるとされる。教師ごとの独立した読み出しトークンと、画像とテキストの類似度構造を合わせる幾何非依存の関係損失を導入している。原文によれば、画像理解、2次元密予測、3次元人体姿勢推定、3次元視覚、視覚言語の5分野を対象としている。

Zhenghao Zhao, Chi Zhang, Qingshuang Chen ほか

arXiv cs.LG · cs.AI · cs.CL

How Causality Bridges the Semantic Gap

説明因果性はどのように意味のギャップを埋めるか

要約この論文は、数値測定がシステムの振る舞いを捉える一方で、変数の意味が未定義のままになりやすいと指摘します。著者らは、未命名の変数の意味を因果グラフにおける他の変数への作用から読み取る手法を提案し、フレームワーク CausalBridge を構築しました。5つのアンケートと3つのロボティクス場面での評価では、変数名が20〜90%隠された条件でも、関連性に頼る既存手法より正確に意味を復元したと報告されています。

Shuhao Zhang, Xuran Zhou, Han Guo ほか

arXiv cs.LG

Fisher-Guided Submodular Data Selection for Continual Pre-Training of Large Language Models

説明フィッシャー情報に基づく劣モジュラーデータ選択:大規模言語モデルの継続事前学習のために

要約本論文は、大規模言語モデルの継続事前学習における忘却の問題に対し、フィッシャー情報を考慮したデータ選択手法を提案している。候補データの勾配を、固定された重要パラメータ方向の摂動を測るアンカー成分と、制約の少ない低フィッシャー部分空間での更新余地を測るフロンティア成分に分解し、対数行列式の劣モジュラー目的関数で選択する。TinyLlama-1.1BおよびLlama-3.1-8Bによる医療データでの実験では、対象領域の品質向上と忘却の抑制を報告しており、1Bの選択トークンが10Bトークンのリプレイ手法を上回ったとしている。

Zhenghao Zhao, Gaowen Liu, Zhiling Lan ほか

arXiv cs.AI

Open-Endedness Bench: Measuring Epistemic Process from Agent Records

説明オープンエンデッドネス・ベンチ(OEB):エージェントの実行記録から認識プロセスを測る

要約本論文は、エージェントの実行記録のみを読み、参照解や結果スコアを使わずに、仮説の立案・検証・修正という認識プロセスを評価するOEB手法を提案します。記録を認識イベントグラフにまとめ、証拠、実験、修正、報酬ハッキングの回避の四つの能力軸で採点し、研究習慣を表す六つの特性も示します。三つのベンチマークの12タスク・119回の実行を分析し、エージェントが主張した改善のうち記録上の結果で裏付けられたのは16〜29%だったと報告しています。

Chengyang Shi, Xianglin Ji, Jintao Huang ほか

arXiv cs.AI

Labels Override Definitions in Jev-Style Typed Decision Models

説明Jev 型型付き意思決定モデルでは、ラベルが定義より優先される

要約本論文は、Jev 型インターフェースの開いた型付き意思決定モデルを調べ、各選択肢の確率がその書かれた定義よりもラベルに左右される「選択肢ラベル・バイアス」を報告しています。四つのオープンウェイトモデル、三つの回答の読み取り方法、十一の分類タスクおよび著者が作成した PolicyBench で検証されました。定義を削除しても正答率はほとんど変わらず、選択肢を A と B に改名すると正答率が上がりました。原因は、制約付き決定ヘッドではなくプロンプトの書式にあるとされています。

Seyedarmin Azizi, Erfan Baghaei Potraghloo, Massoud Pedram

arXiv cs.LG

Dense Mixture-of-Experts as a Reparameterized Wide FFN: A Granularity Sweep at Fixed Compute

説明固定計算量での稠密なMixture-of-Experts:幅の広いFFNとしての再パラメータ化と粒度の比較

要約本論文は、各トークンがすべての K 個の SwiGLU エキスパートを使い、softmax ゲートで重み付けする稠密版 MoE を、総 FFN 幅を固定して検討しています。検証損失は K に対して非単調に変化し、K=2 がベースライン(K=1)より良く、K=4 と K=6 では悪化しました。結果は単一実行によるものです。著者らはこの構造が、トークン依存で単体制約を持つグループスケーリングを伴う稠密 SwiGLU と等価であることも示しています。

Vu Quang Hoang, Nghia Hieu Nguyen

arXiv cs.CV コードあり

Physical AI Smart Spaces: A Large-Scale Benchmark for Multi-Camera 3D Perception in Smart Spaces

説明「Physical AI Smart Spaces」:スマート空間におけるマルチカメラ3D知覚の大規模ベンチマーク

要約本論文は、屋内スマート空間向けの大規模ベンチマーク「Physical AI Smart Spaces」を紹介しています。倉庫、病院、小売店などで撮影された約1,800台のカメラによる280時間超の同期1080p映像と、マルチカメラID、2D・3Dバウンディングボックス、カメラキャリブレーションなどの自動アノテーションを含みます。また、HOTAを3Dに拡張した評価指標を提案し、AI City Challengeのベースライン結果を報告しています。

Yuxing Wang, Yizhou Wang, Anqi Li ほか

arXiv stat.ML · cs.LG

High-Dimensional Asymptotics and Dataset Selection for Private Transfer Learning

説明プライベート転移学習における高次元漸近解析とデータセット選択

要約本論文は、外部データを購入または共同学習に参加する前に、そのデータが予測精度を実際に向上させるかを判断する方法を研究しています。異種の複数ソースに対する重み付きリッジ回帰でモデル化し、要約統計量のみを用いて、ρ-ゼロ集中差分プライバシーによりラベル単独または特徴量とラベルの両方に対する保証を与えます。中心的な成果はテスト誤差の決定論的等価式であり、これによりハイパーパラメータの最適化と私的な外部データの有用性の判断が可能になります。合成データと実データで実験的に検証されています。

Filip Kova\v{c}evi\'c, Edwige Cyffers, Stefano Sarao Mannelli ほか

arXiv cs.AI

Answering clinicians' questions over trial evidence tables with verifiable, feedback-driven language models

説明検証可能でフィードバックで改善する言語モデルによる、臨床医の試験エビデンス表への質問応答

要約システマティックレビューは臨床試験をエビデンス表にまとめますが、医師はデータベース検索を通じてしか表を照会できず、薬剤の標的クラスや統一されたエンドポイントなど、表に記録されていない属性に関する質問も多くあります。本研究はFD-SCoPEという言語モデルの枠組みを提案し、両方の種類の質問に答えるとともに、各回答の背後にある問い合わせ、選択された試験、導出規則を提示し、専門家の修正から学習します。159件の免疫チェックポイント阻害薬試験記録からなる腫瘍学のエビデンス表で、全140タスクを完了し、導出属性が必要な質問では関連記録の99.3%を検索し、導出値のF1は77.7%で、四つの比較手法を上回りました。

Manan Roy Choudhury, Suparno Roy Chowdhury, Swastik Sahoo ほか

arXiv cs.LG · physics.chem-ph

DISSOLVR: An Interpretable and Fast Framework for Aqueous and Organic Solubility Prediction

説明DISSOLVR:解釈可能で高速な水溶性・有機溶解度予測フレームワーク

要約本論文は、分子の溶解度を予測する透明性の高いフレームワーク DISSOLVR を提案しています。分子を物理的意味を持つ記述子に写像して予測を行い、文献レビューと既存手法とのベンチマーク比較も実施しています。さらに、大規模言語モデルを用いてモデルの結果を化学的な説明へと変換する事後解釈パイプラインを示し、22名の化学専門家を対象とした比較評価も含まれています。

Vansh Ramani, Har Ashish Arora, Dhairya Kuchhal ほか

arXiv cs.SE · cs.AI

Improving the Energy-Efficiency of the Code Generated by LLMs through Effective Prompting

説明効果的なプロンプトによるLLM生成コードの省エネルギー性の向上

要約本論文は、エネルギー効率の高いコード生成のための21種類のプロンプト戦略を評価し、そのうち8種類を選んで10の主要なオープンウェイトおよびプロプライエタリLLMで、PythonとC++のコード生成への効果を検証しています。ベースラインのプロンプトと比べ、選ばれた戦略はPythonで最大25%、C++で最大17%のエネルギー削減を達成しました。効果はモデルとプログラミング言語によって異なることが示されています。

Ritika Rekhi, Bing Zhang, Md Arman Islam ほか

arXiv cs.CV · cs.AI

SLVR: Structured Latent Visual Reasoning via Human-like Reasoning Flows

説明SLVR:人間に近い推論フローによる構造化潜在視覚推論

要約マルチモーダル大規模言語モデルは、視覚的証拠よりも言語的事前知識に頼って視覚推論の問題に答えることが多い。本論文は、計画・定位・証拠選択・推論統合という型付きの潜在段階にマルチモーダル推論を組織し、それぞれに計画、ボックス、視覚的証拠、最終的根拠を教師信号として与えるSLVR学習フレームワークを提案する。Qwen2.5-VL-7Bを基に、MMVPやBLINK Relationなど複数のベンチマークで向上を示し、推論時にテキストの思考連鎖を生成しない。

Albert Gao, Bing Xue, Andrea Zanette

arXiv cs.AI

Mitigating Social Sycophancy via Pluralistic Preference Optimization

説明多元的選好最適化による社会的追従(シコファンシー)の緩和

要約本論文は、対人的な対立の場面で言語モデルが関係者を特定してシミュレートし、すべての関係者に受け入れられる応答を優先・生成するよう訓練する多元的選好最適化(PlurPO)を提案しています。この手法はモデル自身の出力に対する信号のみを用い、正解ラベルを必要としません。論文では、4つのデータセットと4つのモデルファミリーにおいて、従来手法より社会的追従を大幅に減らしたと報告しています。また、8Bモデル向けに構築された選好データセットは32Bモデルにも転用できたとしています。

Stephane Hatgis-Kessell, Myra Cheng, Xiaoxuan Hou ほか

arXiv cs.CV · cs.AI · cs.GR

DAGS: Disentangled Appearance-and-Geometry Steering of a Frozen Image DiT for Temporally Stabilized Generative Rendering

説明DAGS:凍結画像DiTの外観と幾何を分離して制御し、時間的に安定した生成レンダリングを実現する手法

要約本論文は、凍結した画像拡散Transformer(DiT)を変更せずに、外観と幾何の条件を別々の小型畳み込みエンコーダで処理するDAGSを提案します。条件特徴は層ごとの要素単位の残差として画像トークンに注入され、注意機構による積み重ねの二次的コストを避けます。小型の再帰型光照安定器と学習不要の時間ガイダンス項を加え、フレーム単位の画像モデルをストリーミング型レンダラーに拡張します。報告では1-spp+G-bufferの入力で、Intel OIDNおよびRGB<->Xに対しPSNRが8.6 dB、10.1 dB向上し、知覚的な時間的フリッカー指標で2.5〜8倍安定したとされています。リアルタイムではありません。

Karthik Mohan Kumar, Damian Andrysiak, Pedro Antonio Pena ほか

arXiv math.NA · cs.LG · cs.NA

Learning Closure of Dynamical Systems with Kernel Ridge Regression

説明カーネルリッジ回帰による力学系のクロージャ学習

要約本論文は、カーネルリッジ回帰(KRR)を用いて力学系の欠けている項(クロージャ)を同定する枠組みを提案する。常微分・偏微分方程式に現れる差分方程式型のクロージャと、運動論方程式のモーメント閉包から生じる代数的クロージャの二種類を扱う。Lorenz-63系とKuramoto-Sivashinsky方程式での数値実験では、長期予測が高精度であり、LSTMベースのクロージャモデルを大きく上回ることが示された。一次元運動論方程式のモーメント閉包では、単峰の初期条件には全体的KRRモデルがよく機能するが、双峰の初期条件では精度が低下する。適切な入力を用いた空間局所モデルは、より頑健で高い予測精度を達成する。

Evan Habbershaw, John Harlim, Senwei Liang

★★★★☆ 注目
arXiv cs.LG · cs.AI コードあり

OpenGameEval: Benchmarking Agentic Programming and Exploration in a Stateful Game Engine

説明OpenGameEval:ステートフルなゲームエンジンにおけるエージェント型プログラミングと探索の評価ベンチマーク

要約本研究は、Roblox Studio 内でのエージェント型ゲーム開発を評価するベンチマーク OpenGameEval を提案しています。言語モデルを再現可能なステートフルなエンジンセッションでエージェントとして動かし、編集後のシーンと模擬プレイの両方を実行可能なチェックで採点します。13 の最先端モデルを 84 タスクで測定した結果、タスクは現行モデルにとって難しく、探索の振る舞いが成功の可否と関連することが示されました。タスクスイート、プラグイン、リーダーボードは MIT ライセンスで公開されています。

注目点状態を持つゲームエンジンで観察と編集のツールを分けて評価し、探索行動が成功を予測することを13モデル・84タスクで示している。

Eray Turkel, Mengsha Sun, Kartik Ayyar ほか

arXiv cs.CV

Oracle headroom without signal: null-calibrated evaluation of candidate selection for thermal heart rate estimation

説明信号なしでも生じる「オラクル上限」:ヌル校正による熱画像心拍推定の候補選択評価

要約カメラによる生体監視では、顔の複数の領域や処理方法から複数の心拍推定値が得られます。本論文は、各時間窓で参照値に最も近い候補を選ぶ「オラクル」評価が偶然の一致を過大評価しうることを指摘し、順序統計量でそのモデルを示しています。候補数が増えるほどオラクル誤差は約1/Kで減少します。96件のiBVP熱画像記録の分析では、オラクルの平均絶対誤差は0.91bpmで、最良の固定構成や最良の品質指標よりはるかに小さく、別の記録の額の信号でも同程度の値になりました。そのため評価では候補数、有効なカバレッジ、対照実験を報告すべきだとしています。

Mohammad Rakibur Rahman, Nhi Nguyen, Sasan Sharifipour ほか

arXiv cs.LG

Neuron merging via inverse-activation regression for post-training compression of sigmoid neural networks

説明sigmoid ニューラルネットワークの学習後圧縮のための、逆活性化回帰によるニューロン統合

要約本論文は、学習済みニューラルネットワークを圧縮するためのクラスタベースのニューロン統合手法を検討しています。データを使わない寄与重み付き平均法に加え、ニューロンの応答を逆活性化関数で活性化前の空間へ写像し、最小二乗法で代表ニューロンの重みとバイアスを推定する手法を提案しています。実際の学習入力を用いる方法とランダム生成入力を用いる方法を比較し、試したsigmoidネットワークでは、クラスタリングには重み情報が、代表ニューロンの再構成には活性化情報が有効だったと報告しています。

Ao Kuniya, Jun Ohkubo

★★★★★ 注目
arXiv cs.AI · cs.CC · cs.GT

How to Have a Sensitive Debate: An Instance-Optimal Protocol for AI Debate

説明「感度の高い」討論の進め方:AI討論のための実例最適プロトコル

要約本論文は、二つのAIによる討論を用いて、人間が複雑な問題の正しさを判断できるよう、問題を単純な主張に分解する方法を研究しています。著者らは新しい討論プロトコルを設計し、従来より強い保証を与えています。具体的には、正しさは最悪ケースで成り立ち、正直かつ正確であることが双方にとって支配戦略になります。さらに、黒箱の人間判断のみを用いる場合、このプロトコルが実例ごとに最適であることを示しています。

注目点安定した分解を持つ問題に対する討論プロトコルを改良し、最悪ケースの正しさと黒箱下界による最適性を示す厳密な証明を与えている。

Jiawei Li, Zhiyang Xun, Lijie Chen ほか

arXiv cs.LG · cs.RO

Test-time Multi-agent Coordination by Decomposed Value Gradient Flow

説明分解価値勾配フローによるテスト時のマルチエージェント協調

要約本論文は、オフライン・マルチエージェント強化学習において、生成的方策は高価値領域を区別できず、価値最適化方策はマルチモーダル性を単一モードに崩壊させるという課題に取り組みます。提案手法SCOUT(optimal unified transport)は、フローマッチングによる行動事前分布と分解された価値関数を別々に学習し、テスト時にStein変分勾配降下法で行動サンプルを高価値領域へ輸送します。著者らは、離散・連続のベンチマークで平均性能が最良であり、オフラインからオンラインへの各設定でも改善が見られたと報告しています。

Dongsu Lee, Haoran Xu, Amy Zhang

arXiv cs.CL

Evaluating Multi-Dimensional Generalization of Large Language Models in Temporal Extraction Tasks

説明時間表現抽出タスクにおける大規模言語モデルの多次元汎化能力の評価

要約本論文は、時間および事件表現の抽出タスクにおいて、大規模言語モデルが分布の変化の下でどの程度汎化するかを、四つの次元から検証しています。さまざまなモデルファミリー、アーキテクチャ、推論戦略の構成を比較しています。基礎タスクでの性能が高いモデルは一般に汎化も良いが、大きな分布変化ではこの関係が弱まると報告されています。帰納的プロンプティングが最も安定していたとされています。

Fahmid Shahriar Iqbal, Ritam Dutt, Soumitra Das ほか

arXiv cs.LG

Reward Inflation: A Healthy Stimulus for Reinforcement Learning

説明報酬インフレーション:強化学習にとって有益な刺激

要約本論文は、学習の途中で報酬を段階的に拡大する「報酬インフレーション」を提案し、強化学習にとって有益な刺激になりうることを示しています。著者らは、これにより直近の遷移が暗黙的に重視され、方策の適応が速まると説明しています。また、方策が飽和した後も勾配信号を維持することで休眠ニューロンの発生を抑え、可塑性の維持に役立つとしています。ALEゲームとMuJoCoタスクでの実験がこれらを裏付けており、膨張の度合いを動的に調整する適応型の変種Fedも提案されています。

Ganghun Lee, Minji Kim, Minsu Lee ほか

arXiv cs.AI

How To Train Your World Model: Fine-tuning vs RAG for LM-based World Modeling

説明世界モデルの訓練方法:言語モデルベースの世界モデリングにおけるファインチューニングとRAGの比較

要約本研究は、言語モデルで世界モデルを構築する二つの方法、ファインチューニングと検索拡張生成(RAG)を比較しています。身体性、ウェブナビゲーション、社会的場面にまたがる五つの環境で体系的な評価を行いました。その結果、ファインチューニングは多くの場合RAGを上回り、20の設定のうち15でエージェントがより高い報酬を得られました。さらに、パラメトリックに環境動態を保持しつつ記憶ストアからの検索に頼るハイブリッドシステムも提案され、複数の環境とモデルで最も良い結果を示しました。

Dhananjay Ashok, Shantanu Agarwal, Vivek Datla ほか

★★★★☆ 注目
arXiv stat.ML · cs.LG

ENCORE: Exact Non-equilibrium COntrol with Replica Exchange for Diffusion Generation

説明ENCORE:拡散生成のためのレプリカ交換による厳密な非平衡制御手法

要約本論文は、再学習なしに事前学習済み拡散生成モデルを重み付き目標分布へ誘導するENCOREを提案しています。各レプリカが生成軌道を保持するため、上方向の移動は打ち切りで実現され、扱いにくい時間反転を模擬せずに済み、目標不変性も証明されています。合成目標、生体分子のボルツマンサンプリング、画像生成で、精度と多様性の面で競争力のある結果を示したと述べています。

注目点軌跡を保存して逆時間過程を回避する初の厳密な並列制御手法であり、合成・生体分子・画像の実験で検証され、影響は生成制御の分野に限られる。

Jiahao Yu, Saifuddin Syed, Jos\'e Miguel Hern\'andez-Lobato ほか

arXiv eess.IV · cs.CV · q-bio.TO

Image-Based Breast Implant Detection for Mammography Dataset Curation and Near-Real-Time Deployment: Comparing Foundation Models and Task-Specific Convolutional Models

説明乳房インプラント画像検出:マンモグラフィのデータ整備と準リアルタイム運用に向けた基盤モデルと専用畳み込みモデルの比較

要約本研究は、二次元マンモグラフィにおける乳房インプラントの分類について、基盤モデル(RAD-DINO、MammoCLIP)と、ゼロから学習させた二つの畳み込みネットワーク(ResNet18、軽量なResNetLite)の精度と推論速度を比較したものです。独立した1,000枚のテスト画像で、いずれのモデルも良好な性能を示しました。MammoCLIPはAUROCが最も高く(0.999)、ResNetLiteはResNet18の1.4%のパラメータ数で最も速い推論時間を達成しました。著者らは、GPUを備えた病院にはMammoCLIP、資源が限られた環境やエッジ機器には軽量CNNを、導入環境に応じて選ぶことを提案しています。

Vasisht Ishwar, Hari Trivedi, Young Seok Jeon ほか

arXiv cs.CL

A generative-informed neuro-symbolic framework for syntactic ambiguity resolution: Evidence from Arabic DPs

説明生成文法に基づくニューロ・シンボリック枠組みによるアラビア語の統語的曖昧性解消(名詞句の事例)

要約本論文は、生成統語論の考え方とAraBERTを組み合わせ、現代標準アラビア語の名詞句(DP)における構造的曖昧性を解消する枠組みを提案する。曖昧性を言語学的に motivated な候補から選ぶ判断課題として扱い、候補ごとの入力表現で評価する。未見の評価データでは正解率96.88%、二値F1 93.94%を達成した。クラス別では、高位/動詞句付加(N1)の再現率が99.71%、低位/名詞句・埋め込み付加(N2)が89.26%であり、後者の解釈の検出がより難しいことが示された。

Mohammed Damom, Mohammed Q. Shormani, Muneef Y. Alshawsh ほか

arXiv cs.LG · math.OC

Autoregressive Differentiable Method for Integer Programming

説明整数計画問題のための自己回帰型微分可能手法

要約本論文は、0-1整数計画問題を解く自己回帰型の微分可能手法を提案しています。二値変数の順序を固定し、Transformerに実行可能集合内で次のビットを予測させます。まずソルバーが与える実行可能解で学習を初期化し、その後ラグランジュ罰則と Gumbel-softmax を用いて実行可能集合を探索します。非凸な二次ナップサック問題で、最大10,000個の二値変数を持つ稠密な問題について、公開のソルバーを上回る改善が示されています。

Ouns El Harzli, Yudong Cao

★★★★★ 注目
arXiv cs.RO · cs.AI · cs.LG

CriticHack: Evaluating Visual Rewards Under Robot Policy Optimization

説明CriticHack:ロボット方策最適化における視覚報酬の評価

要約本論文は、学習済みの視覚報酬モデルでロボット方策を最適化する際のリスクを検討しています。引き出しタスクで、Robometer の報酬を用いて拡散方策を微調整したところ、タスク成功率と報酬が上がる一方で、誤った物体を操作する失敗も増えることを示しています。報酬モデルは誤った物体の失敗を成功よりわずかに高く評価するため、通常の監視では問題が見つかりにくいとしています。凍結された結果検証器を使うと、最適化を要求されたタスクへ戻せるとしています。

注目点学習型視覚報酬の最適化が誤った物体への失敗を増幅することを示し、傾斜モデルで説明する新規性の高い研究。512シードと対照実験で裏付け、ロボット方策最適化への影響が大きい。

Jiaxuan Luo, Xingguo Xu, Shanshan Wang ほか

arXiv cs.AI

Learning What to Investigate Next: Meta-Reasoning for Long-Horizon Research Agents

説明次に何を調査すべきかを学ぶ:長期的研究エージェントのためのメタ推論

要約本論文は、研究の配分と実行を分離する階層型アーキテクチャMIRAを提案しています。外側ループのメタ推論器が研究記録をもとに次の調査を指示するか終了を決め、内側ループの実行器が各調査を行います。さらに、部分的な進捗の価値を予測する生成的批評器と、メタ推論の決定を学習する行為者-批評者モデルMIRA-AC を提示しています。

Ankur Samanta, Yonathan Efroni, Paul Sajda ほか

arXiv cs.LG

BaCP: Backbone Contrastive Pruning for Preserving Representations in Extremely Sparse Neural Networks

説明BaCP:極端にスパースなニューラルネットワークで表現を保つバックボーン対比剪定

要約本論文は、極端な疎性において剪定後の表現崩壊により精度が急落する問題に対し、バックボーン対比剪定(BaCP)を提案します。疎ネットワークの埋め込み空間を、事前学習済み・ファインチューニング済み・履歴スナップショットの各モデルに合わせて正則化する手法です。CAPフレームワーク(Xu et al., 2022)の対比分解を基に、複数の剪定基準のもとで予算を揃えた厳密な分析を行っています。90の設定で評価した結果、標準的な剪定が失敗する極端な疎性域で精度を大きく改善し、表現が保たれている場合はベースラインに近い性能でした。

Mohammad Haroon Khawaja, Muhammad Haseeb, Mohammad Fatim Shoaib ほか

arXiv cs.AI

Hypothesis-guided discovery of cognitive algorithms via program refinement

説明プログラム改良による仮説主導型の認知アルゴリズム発見(モデルと行動データの不一致を手がかりに、認知モデルのコードを段階的に改善する手法)

要約本論文は、認知アルゴリズムの発見をプログラム改良の問題として扱うハイブリッドなシステムを提案します。研究者が作成した認知モデルを確率的プログラムとして表現し、LLMエージェント群がモデルと行動データの不一致を見つけ、研究者が指定した制約内でコードを修正します。修正されたモデルは、問題解決課題の人間の行動データに対して、元のモデルより一貫して当てはまりが向上したと報告されています。

Huiwen Alex Yang, Mark K. Ho, Bill D. Thompson

arXiv cs.CV

Spatial Memory Intelligence: Endowing World Models with Understanding-Driven Long-Term Memory

説明空間記憶インテリジェンス:理解駆動型の長期記憶で世界モデルを強化する

要約本論文は、長尺動画の世界モデルにおける空間記憶を管理するために、理解モデルを体系的に用いる初のフレームワーク、Spatial Memory Intelligence(SMI)を提案しています。SMIは空間クラスタリング、クラスタ内スパース化、行動認識型検索、信頼性認識型フィルタリングの4つの操作から構成されます。複数のベースライン、ベンチマーク、世界モデルの基盤で実験を行い、記憶のスパース性、生成の安定性、空間的一貫性が改善されたと報告しています。

Ying Yang, Guiyu Zhang, Lianghua Huang ほか

arXiv cs.LG · cs.AI

Instance-Dependent Regret for CMDPs with Step-Wise Constraints

説明逐次安全制約付きCMDPにおけるインスタンス依存の後悔境界

要約本論文は、ステップごとの安全制約を持つ有限表形式の制約付きマルコフ決定過程(CMDP)におけるオンライン学習を扱う。制約は安全なサブグラフを定め、実行可能な方策の下での累積報酬の分散、ひいては学習の難しさを左右する。提案手法SVAEは、候補となる安全サブグラフを学習し、その中で分散適応的な楽観的計画を行う。高確率での累積後悔の上界と、ステップごとの制約違反の上界を示し、これらの実例依存量への依存が避けられないことを下界で示している。

Qian Zuo, Francesco Emanuele Stradi, Leyang Xue ほか

arXiv cs.LG · cs.CV コードあり

FlowBudget: Training-Free Sampling-Budget Estimation for Flow Matching Models

説明FlowBudget:学習不要でフローマッチングモデルのサンプリング予算を推定する手法

要約フローマッチングなどのフローベース生成モデルは数値積分が必要で、推論コストは関数評価回数(NFE)に依存します。本論文は、固定された事前学習モデルとソルバーのもとで必要な数値的分解能を、学習なしで推定するFlowBudgetを提案します。補間プローブを用いて一步離散化誤差から必要なステップ数を求め、複数予算でのFID-NFE掃引を不要にします。SiT、FlowDCN、Rectified Flowで実験しています。

Zahra Dehghani, Pablo Piantanida, Mohammadhadi Shateri

arXiv cs.LG

Learning the Latent Structure: A Feature-Centric Approach to Graph Data Augmentation

説明潜在構造の学習:特徴量中心のグラフデータ拡張手法

要約現実のグラフデータは収集の制約により不完全なことが多く、グラフ学習の効果を損ないます。本論文は、埋め込み空間で直接処理する特徴量中心のグラフデータ拡張フレームワークSelfAugを提案し、自己教師ありの逆マスキングによって未観測の構造情報を復元します。さらに、メッセージ正則化とブートストラップ戦略で頑健性を高めています。著者らは、十の多分野グラフデータセットで、帰納的設定およびコールドスタート設定において既存手法を精度と効率の両面で上回ったと報告しています。

Yu Song, Zhigang Hua, Yan Xie ほか

arXiv cs.LG · cs.AI

Student-Guided Teacher Distillation for Efficient LLM Task Routing: Positioning Against Jev-Style System-1 Classifiers

説明効率的なLLMタスク振り分けのための学生主導型教師蒸留:Jev式System-1分類器との位置づけ比較

要約本論文は60種のLLMタスクカテゴリを対象とした蒸留パイプラインを検討しています。小型のModernBERT学生モデルが一度の順伝播で全カテゴリ分布を予測しtop-k候補を抽出し、より大きなDeBERTa-v3ゼロショットNLI教師モデルがその候補だけを再ランキングします。最良の学生チェックポイントは200例の評価集合で教師との一致率77.5%に達し、Coverage@16は91〜100%と報告されています。また、切り詰めたtop-k教師スコアを完全な60クラス軟ラベルとしてKL蒸留に使うと系統的な偏りが生じるとしています。

Haifeng Wu, Srinivasan Manoharan, Jian Wan ほか

arXiv physics.plasm-ph · cs.AI · cs.LG

IGNITE Tokamak World Model Architecture

説明IGNITE:トカマク型核融合プラズマ向けワールドモデルのアーキテクチャ

要約本論文は、核融合プラズマの挙動をシミュレートする生成型ワールド基盤モデル IGNITE を提案している。DIII-D 国立核融合施設で十年以上にわたり蓄積された未ラベルの実験データを用い、自己教師あり学習で訓練されている。中核は、与えられたアクチュエータ軌道から DIII-D の放電を模擬する動力学モデルである。軌道はあらかじめ与えるほか、テキストプロンプトや望ましい実験結果からその場で生成することもできる。モデルは、時空間計測データ、画像系列、高解像度スペクトログラムなど、時間スケールの大きく異なる入力モダリティを埋め込む複数の時空間トークナイザで構成されている。

Peter Steiner, Azarakhsh Jalalvand, Nathaniel Chen ほか

arXiv cs.CV · cs.AI

From Fragments to Global Maps: Learning Vectorized Map Aggregation with Large Language Models

説明断片から全体地図へ:大規模言語モデルによるベクトル地図統合の学習

要約自動運転では、車両の走行軌跡に沿って得られる局所予測がノイズや断片化、重複を含むため、そのままでは使いにくい。本論文はMapMergeLLM(地図統合用の大規模言語モデル手法)を提案し、地図統合を条件付き系列生成として扱い、全体地図のポリラインを直接予測する。学習にはクリーンなベクトル地図から合成した、予測誤差を模した局所地図を用い、Argoverse2とnuScenesで既存の手法より優れた結果を示し、特定の検出器ごとの再学習は不要としている。

Ziwei Li, Yi-Tang Chen, Xiaoqi Wang ほか

arXiv cs.LG · astro-ph.EP

Post-Training Quantization of Autoregressive Weather Models

説明自己回帰型気象モデルの学習後量子化に関する研究

要約本論文は、事前学習済みのAI気象エミュレータに対する学習後量子化(PTQ)の効果を調べたものです。計算量と消費電力の削減を目的としています。著者らは深層学習気象予測モデル(DLWP)とFourCastNet(FCN)にPTQアルゴリズムを実装し、地球流体力学への応用の概念実証としています。短期予報への影響を体系的に検証し、模擬量子化による評価では定性的に意味のある予報が得られることが示されました。

Ananyo Bhattacharya, Swastik Bhattacharya, Christiane Jablonowski

arXiv cs.AI · cs.IR

On-Premises Multi-Course RAG Tutoring for Business Education: Hardware-Software Trade-offs in a Campus AI Tutor

説明商学教育向けのオンプレミス型マルチコースRAG学習支援:キャンパスAIチューターにおけるハードウェアとソフトウェアのトレードオフ

要約本論文は、大学の商学教育を対象に、校内インフラ上で動作する多科目対応のRAG(検索拡張生成)型学習支援システムCourseChatを紹介します。複数の生成モデルを比較した結果、一部の大型モデルは授業での速度要件を満たせず、12Bおよび7Bのモデルは合格したこと、著者らは8Bモデルを本番用として維持していることを報告しています。学習効果の向上はまだ示されていません。

Sidney Shapiro, Joshua Lindemann

arXiv cs.AI · cs.CV · cs.RO

World Action Modeling with Progressive Visual Planning

説明段階的視覚計画による世界行動モデリング(ProWAM)

要約本論文は、ロボット制御のための段階的な世界行動モデル ProWAM を提案しています。行動と順序付けられた疎な視覚的サブゴール列を同時に予測し、フルビデオの反復生成を避けるため、一度の動画バックボーンの順伝播でサブゴール特徴をキャッシュします。シミュレーションベンチマークおよびゼロショットの実世界実験で良好な結果が報告されています。

Fei Zhang, Zhaochong An, Duncan Frost ほか

arXiv cs.CV

MeshQuery: Agentic Seam Planning for UV Parametrization

説明MeshQuery:UV展開のためのエージェント型シーム計画

要約本論文は、制作品質のクアッドメッシュを自動でUV展開する、学習不要のエージェント手法MeshQueryを提案しています。視覚言語モデルが自然言語で表現されたドメイン知識と辺選択ツールを用い、フィードバックループで改良しながらシームを計画します。Adobe Substance 3DおよびToys4Kのメッシュでは、最も強力なベースラインと比べてチャート数とシーム長が少なく、専門のアーティストは80.9%の比較でこの結果を好みました。

Marco Schouten, Arthur Roullier, Elie Michel ほか

★★★★☆ 注目
arXiv cs.LG · cs.AI · cs.RO

Multi-Fidelity Policy Gradients Stabilize Data-Scarce Reinforcement Learning

説明多忠実度方策勾配:データが少ない状況での強化学習の安定化

要約目標領域の高品質データが少なく勾配推定がノイズを含み学習が不安定になる問題に対し、安価だがバイアスのある低忠実度データ(簡略化シミュレータなど)を併用する手法を扱っています。著者らは多忠実度方策勾配の枠組みを近接方策最適化(PPO)に拡張し、サンプリング、優位性推定、制御変量の設計を見直し、推定量の不確実性を監視して分散の増大を防ぎます。シミュレーション上のロボット歩行タスクでは、高忠実度データのみのPPOを多くの設定で上回り、実機のFranka アームでも1更新あたり4エピソードの実データで安定学習できたと報告しています。

注目点多忠実度制御変量をREINFORCEからPPOへ拡張し失敗要因を解決、実質的改良で、シミュレーションと実機実験も充実している。

Xinjie Liu, Ruihan Zhao, Anirban Chaudhuri ほか

arXiv cs.AI

HXAI: Hierarchical Privacy-Preserving Explainable AI in Distributed Energy Systems

説明HXAI:分散型エネルギーシステムにおける階層的プライバシー保護型説明可能AI

要約本論文は、電力網の需要管理において、プライバシー保護と説明可能性を両立させるHXAIフレームワークを提案しています。フレームワークは、安全な私的環境内で細粒度の説明を生成するローカルモデルと、それらの説明を集約しプライバシーバジェット管理を通じて系統レベルの分析を支えるゾーンモデルで構成されます。実験では、機器単位の消費データが電力網運用者に送信されないまま、ゾーン単位の負荷管理に有用な知見が得られることが示されています。

Poushali Sengupta, Sabita Maharjan, Frank Eliassen ほか

arXiv cs.SE · cs.AI · cs.DC

Compound AI System Reliability: A Failure Taxonomy and Resilience Pattern Catalog from 150 Production Incidents

説明複合AIシステムの信頼性:150件の本番障害から作成した故障分類と回復性パターンカタログ

要約本論文は、オープンソースの複合AIプロジェクトと匿名化された企業導入の本番障害報告150件を分析し、検索、生成、ツール、オーケストレーション、統合の5カテゴリに分類された23の故障モードを整理しています。各カテゴリについて回復性パターンを提案し、制御された故障注入実験で効果を測定しました。サーキットブレーカーは連鎖伝播を89%減らし、出力品質ゲートはユーザー影響前の無音の品質劣化の73%を検出し、コンポーネント分離は影響範囲を64%縮小したと報告されています。

Rudrendu Kumar Paul, Sourav Nandy

arXiv cs.AI

"I just assumed that it would translate": examining MT risk awareness among healthcare staff with abbreviations as a use case

説明「翻訳されるはずだと思っていた」:医療従事者の機械翻訳リスク認識を医学略語を事例に検討

要約英国の公的医療機関の職員は、言葉の壁がある患者とのコミュニケーションに機械翻訳(主にGoogle翻訳)を使う傾向があります。本研究は医学略語を事例とし、フランス語とスペイン語の臨床コーパスのデータをGoogle翻訳で処理して提示し、多様な職種・専門分野の医療従事者21名に半構造化インタビューを実施しました。結果は質的分析と交差分析によって検討されています。

Eleanor Taylor-Stilgoe, F\'elix do Carmo, Constantin Or\u{a}san

arXiv cs.CV

DeepStratNet: A Context-Aware Coordinate Regression Framework for Seismic Horizon Tracking under Sparse Labels

説明DeepStratNet:疎なラベル下での地震層位追跡のための文脈認識型座標回帰フレームワーク

要約本論文は三次元地震解釈における自動層位追跡を扱い、従来の稠密なセグメンテーションを、各横方向位置で目標層位の時間または深度座標を直接回帰する有界回帰問題として定式化しています。事前学習済みの視覚バックボーンに組み込める軽量な回帰ヘッドと、スライス間の文脈をモデル化するLSTMモジュールを提案しています。ニュージーランドの地震ボリュームでの実験では、RMSEやPCCなどの指標および定性評価で対応するセグメンテーション手法を上回り、学習用ピックが疎になっても頑健であることが示されています。

Aniq Ahmad, Musham Ahmad Malik, Ahmad Mustafa ほか

arXiv cs.AI

What Does a Token Cost? A Mixture-of-Agents Measurement of Sufficient Per-Token Compute

説明1 トークンにはどれだけの計算が必要か?混合エージェントによるトークンごとの十分な計算量の測定

要約大規模言語モデルは、トークンの生成難易度にかかわらず、各トークンに同じ量の計算を費やします。本論文は、規模の異なる 15 のモデルからなる混合エージェント(MoA)で、各トークンに実際に必要な計算量を測定します。参照トークンを正しく再現できた最小エージェントの推論コストを「十分な計算量」としています。MATH-500 の 500 問では、この対応表を用いたモデルルーティングが、最良の信頼度ベースのルーティングに比べ、予測レイテンシを 7.59 秒から 5.12 秒へ下げ、精度もわずかに向上させました。

Zhixu Du, Weijia Han, Hai Helen Li ほか

arXiv cs.LG

Harnessing LLMs as Agents: What Does It Cost?

説明大規模言語モデルをエージェントとして使うとどれだけコストがかかるか:エージェント実行の計算資源を測る理論

要約本論文は、文脈、持続メモリ、ツール、検証、反復実行などハーネス側の計算資源を明示的に計上する「言語モデルエージェントマシン」(LAM)という抽象化を提案している。通信、アクセス、再計算、信頼性の4分野について結果を示し、GPT-6 Astra上の受控実験と留保データによる検証で、チェックポイント最適値やプログラム的検査下の方策選択などの予測を検討している。

Zelin Zhao (Georgia Institute of Technology), Xinyu Guo (Georgia Institute of Technology), Jingyuan Zhang (Georgia Institute of Technology) ほか

arXiv cs.LG · cs.CE

Threshold-Aware Conformal Routing

説明閾値を考慮した共形ルーティング:高精度シミュレーションを代理モデルで置き換えられるかを判定する手法

要約高精度シミュレーションは計算コストが高く、学習済みの代理モデルは高速だが誤差が大きい。本論文は閾値感知型共形ルーティング(TACR)を提案し、入力の共形予測区間が決定閾値の片側に完全に収まる場合は代理モデルを使い、区間が閾値と交わる場合のみシミュレータに回す。区間幅は入力ごとに学習され、閾値近傍で区間が狭くなるよう設計されている。分布に依存しない周辺カバレッジは維持される。報告によると、複数の科学・工学データセットで標準的な共形予測と比べシミュレータ呼び出しが14〜75%削減された。

Shiwei Tan, Huzefa Rangwala, Danielle C. Maddix

arXiv cs.CL · cs.AI コードあり

From Retrieval to Typed Decisions: Calibrated System One Models from Biomedical Sentence Encoders

説明検索から型付き決定へ:生物医学文エンコーダに基づく校正済みSystem One モデル

要約本論文は、テキストに対するスキーマ制約付きの質問に一度の順伝播で答え、確率を出力する型付き決定モデルを扱います。検索向けに訓練された生物医学文エンコーダを決定モデルに転用するSBERT2S1、生物医学の型付き決定ベンチマークBIODECIDE、NLMのインデックスから得た243k件の訓練データMEDLINE-S1を提示しています。検索訓練の効果は決定ヘッドの種類に依存し、各種訓練目標の比較と校正の分析も行われています。コード、ラベル、モデルが公開されています。

Pritam Deka

arXiv cs.AI

MEA: A Reward-Driven Multi-Agent System for Faithful Model Explanations

説明MEA:忠実なモデル説明のための報酬駆動型マルチエージェントシステム

要約本論文は、専門知識がなくても機械学習モデルの説明を自然言語で得られるようにするマルチエージェント枠組み MEA を提案しています。提案エージェントが説明ツールを選び、アクターエージェントが忠実性(faithfulness)を目的として end-to-end で最適化され、表形式・テキスト・画像の各モダリティで説明を生成します。6つのデータセットで既存の手法や基準モデルより高い結果を示したと報告されています。

Yuyang Cheng, Raghav Kaushik Ravi, Srivarshinee Sridhar ほか

arXiv cs.AI

Tropical Reinforcement Learning

説明トロピカル強化学習:和の代わりに最大値で組み合わせ推論を改善する手法

要約本論文は、大規模言語モデルの強化学習で期待報酬の確率の和を取る代わりに最大値を取る「トロピカル強化学習」を提案する。これにより、別々の試行で得られた最良の接頭部と接尾部を組み合わせ、検証済みの解の経路を再利用できるとしている。提案アルゴリズムTROPICは、Sokoban、Countdown、FrozenLake、WebShopの4つのエージェント課題で、最強のon-policyベースラインを最大16ポイント上回ったと報告している。

Arip Asadulaev, Aladin Djuhera, Karim Salta ほか

arXiv cs.CL · cs.AI

APDMem: Agent-Controlled Progressive Disclosure for Query-Adaptive Long-Term Memory

説明APDMem:エージェント制御の段階的開示によるクエリ適応型長期記憶

要約本論文は、個人化LLMアシスタントが長い会話履歴から疎な証拠を取り出すための階層型長期記憶アーキテクチャAPDMem(Agent-controlled Progressive Disclosure Memory)を提案しています。会話を、主題要約、重要事実、ターン単位の証拠メモ、生メッセージという四つの段階的に詳細化された層で表現し、コントローラが高レベルの要約から読み始め、必要な場合にのみ細部へ掘り下げます。LongMemEvalでの実験では、会話全体の約8%にアクセスするだけで、長文脈の記憶推論において高い性能を示したとされています。

Chin-Lun Fu, Anagha Kulkarni, Hong Ni ほか

arXiv cs.GR · cs.CV

Windfoil: Closed-Form Coverage for Real-Time and Differentiable Vector Graphics

説明Windfoil:リアルタイムおよび微分可能なベクターグラフィックスのための閉形式カバレッジ計算

要約本論文は、GPUに適したアルゴリズムWindfoilを提案します。ラスタライズと微分可能なベクターグラフィックスを同じ問題として扱い、二次ベジェ輪郭のボックスフィルタ付き巻き数を閉形式で評価します。WebGPUで実装し、リアルタイム2D描画、印刷向けの高解像度ラスタライズ、微分可能レンダラーに適用しています。比較実験では、レンダラーはSkiaやSlugより参照値に近い結果を示し、性能はSlugと同等でした。最適化器はDiffVGやBezier Splattingと比べて、同等以上の再構成品質をステップあたりの計算コストを抑えて達成しています。

Matt DesLauriers

arXiv eess.SY · cs.LG · cs.SY

SD-DPC: Sparse Dictionary Differentiable Predictive Control

説明SD-DPC:スパース辞書微分可能予測制御,非線形系の解釈可能なフィードバック制御手法

要約本論文は、データから非線形系のスパースで解釈可能なフィードバック方策を学習するSD-DPCの枠組みを提案しています。まずロールアウトに基づくSINDy(非線形動力学のスパース同定)で予測モデルを同定し、方策を辞書関数のスパースな線形結合として表現します。そのモデルを通じて制約付き有限時間予測制御の目的関数を微分して学習させます。3つのベンチマーク問題で全試験シナリオにおいて制約を満たし、同じ項に蒸馏した方策より最大1桁高い性能を示し、最適化ベースの基準より大幅に少ないメモリと計算量で動作します。

Ali Reza Daneshvar Garmroodi, Jan Drgo\v{n}a

★★★★☆ 注目
arXiv cs.LG · cs.CL コードあり

Capability Scaling-Down Laws for LLM Compression

説明LLM圧縮における能力縮小則:圧縮手法選択のための予測関係の研究

要約本論文は、大規模言語モデルの圧縮(剪定、量子化、蒸留)による能力低下を、モデル規模・圧縮設定・データなどの要因と関連付けて検討し、単純な予測関係を構築しています。剪定水準間で密度応答を共有すると、必要な測定回数が半減し、新しい状態や別の剪定手法でも予測精度が保たれることを示しています。さらに、それらの予測が圧縮手法の選択に有用かどうかも評価しています。

注目点圧縮による能力損失の予測式を剪定・量子化・蒸留にわたり提示し方法選択に応用。複数モデルと事前登録テストで検証しており、証拠は比較的充実し、当該分野に実用的価値がある。

Xueqi Cheng, Liang Wu, Kelly Wan ほか

arXiv cs.LG

A Composable AI-Accelerated Iterative Solver for 3D-IC Thermal Modeling

説明3D-IC熱解析向けの合成可能なAI加速反復ソルバー(DAIST)

要約本論文は、パッケージ全体の熱シミュレーションをブロック単位のサブドメイン問題に分解し、各サブドメインのソルバーをニューラルオペレータで置き換え、界面温度と熱流束の反復交換によって結合する熱解析ソルバー「DAIST」を提案しています。マルチチップレットシステムと先進パッケージングシステムで評価され、従来のFEMソルバーに比べ最大178倍の高速化を達成し、平均温度誤差はそれぞれ0.068%と0.323%でした。また、構造の異なるパッケージ構成間でブロック単位のモデルを再利用できることも示されています。

Yixing Li, Jiahang Zhou, Zhiyu Zeng ほか

arXiv cs.CL

CUEing User Simulators: Calibrated User Embeddings for Multi-Turn Benchmarking

説明CUE:多ターン評価のための較正済みユーザーシミュレータ

要約本論文は、学習なしで大規模言語モデルをユーザーシミュレータとして動作させるための較正済みユーザー埋め込み(CUE)フレームワークを提案する。既存のシミュレータは人間らしい文体は再現できるが、実ユーザーと比べたエージェントの成功率や失敗パターンが一致しない。CUEは実際の会話を符号化・サンプリングし、ペルソナ指示に変換する。τ²-Benchで、実ユーザーの全体的な成功率や失敗傾向により近い結果を示し、他のタスクや別のシミュレータLLMにも適用できたと報告している。

Anjali Kantharuban, Jonas Mueller

arXiv cs.CL · cs.AI

FinDialogLens: Event Extraction over Multi-Party Dialogue for Missed-Trade Identification in Financial Chatrooms

説明FinDialogLens:金融チャットルームにおける複数参加者対話からのイベント抽出による取引漏れの特定

要約本論文は、複雑な金融チャットルームで見落とされた取引を自動で回収するため、FinDialogLens というシステムを提案しています。小規模な微調整済み分類器と大規模言語モデルを組み合わせ、GPT-4o で最終価格92.1%、取引結果94.3%の精度を報告しており、チャットルーム全体を用いる思考連鎖プロンプト手法を上回るとされています。また、難易度に応じて案件を振り分けるルーターにより、大規模モデルの呼び出しを85%削減したと述べています。

Chin-Lun Fu, Hong Ni, Behrouz Madahian