AI アルゴリズム · 2026年10月16日(金)

機械学習、人工知能、自然言語処理、コンピュータビジョン、マルチエージェント。

arXiv cs.AI

Functional Welfare for AI Safety

説明AIの安全性のための機能的ウェルフェア:モデルの福祉類似状態を安全変数として扱う

要約本論文は、AIのウェルフェアは倫理問題としてのみ扱われがちだが、モデルの行動に因果的に影響する福祉類似の状態は安全性の問題でもあると主張する。著者らはこれを「機能的ウェルフェア」と呼び、評価設計・監視・事後学習の対象に含めるべきだと提案する。また、その帰属が妥当かを判定する三つの検証基準を示す。Gemma 3 27Bでの予備実験では、答えを拒否するだけで挫折感の指標が上がり、ルール違反が起きやすくなり、自身の解法で微調整すると挫折感が下がったと報告されている。

Rikhil Jhaveri, Jamie Johnson, Punya Syon Pandey ほか

arXiv cs.CL

Hy-Memory-30B-A3B: Attributed Reinforcement Learning for Long-Term Memory Writing

説明Hy-Memory-30B-A3B:長期記憶の書き込みのための帰属付き強化学習モデル

要約本論文は、言語モデルの外部長期記憶への書き込みを担う小型モデル Hy-Memory-30B-A3B を提案しています。どの情報を保持するか、どのように表現するか、新しい証拠で記憶状態をどう更新するかを決めます。Mem0、MemOS、Hy-Memory にまたがって蒸留と強化学習で訓練されています。固定された 20% のベンチマーク部分集合で、4 つの評価ハーネスすべてで首位となり、マクロ平均は 55.49%で、Claude Opus 5 の 54.62% を上回りました。

Tianxiang Fei, Jiazheng Kang, Mao Zheng ほか

arXiv cs.AI · cs.CL

HTN-Orchestrate: A Hierarchical Task Network Framework for Multi-Agent Orchestration

説明HTN-Orchestrate:マルチエージェント編成のための階層的タスクネットワーク枠組み

要約本論文は、複雑なタスクを複数のエージェントで協調実行するための二層フレームワーク HTN-Orchestrate を提案し、階層的タスクネットワーク(HTN)によって全体計画と局所実行を分離しています。プランナーはサブタスクの階層と依存関係を管理し、前提結果が得られるまで分解を遅らせます。同じ基盤モデルを用いた五つのベンチマークで、BrowseComp では 89.73%、SUPERChem では 73.44% の正答率を示し、Agent Team をそれぞれ 2.45 ポイント、4.69 ポイント上回ったと報告しています。

Yanchen Deng, Jianguo Huang, Yao Long Teng ほか

arXiv cs.AI · cs.CL

AutoSFT: An Agentic System for Automated Data Research in Supervised Fine-Tuning

説明AutoSFT:教師あり微調整のデータ研究を自動化するエージェントシステム

要約本論文は、教師あり微調整(SFT)の学習データ研究を自動化するマルチエージェントシステム AutoSFT を提案します。メタエージェントが実行と分析を分け、独立した観点からの提案を集め、既存のデータプールで対応できない場合は合成サブエージェントを呼び出します。各構成要素を追加すると性能が向上し、分析サブエージェントは IFEval を 6.5 ポイント押し上げ、合成は IFEval で 3.4、IFBench で 2.9 ポイント加えました。同じ仕組みはコード分野にも適用され、MBPP+ で 3.7 ポイントの改善が見られました。

Bingxiang He, Pengqi Sun, Shihao Peng ほか

arXiv cs.AI

Terminal-RSI: Recursive Self-Improving Terminal Agents via Recursive Self-Rewrite and Policy-Refine

説明Terminal-RSI:再帰的自己書き換えと方策精緻化による再帰的自己改善型ターミナルエージェント

要約本論文はTerminal-RSIを提案し、検証済みの軌跡の再帰的自己書き換えと、評価器を引き継ぐ再帰的方策精緻化を交互に行うことで、ターミナルエージェントを改善する手法を示している。Qwen3.8-27Bを基に五段階の学習を経たTerminal-RSI-27Bは、複数のTerminal-Benchやその他のベンチマークで成功率や過程報酬の向上を報告している。

Junyao Yang, Zongxia Li, Yucheng Shi ほか

arXiv cond-mat.dis-nn · cs.LG · cs.NE

Attention over noisy examples: generalization and memorization in the exponential Hopfield network

説明ノイズのある例に対するアテンション:指数型ホップフィールドネットワークにおける汎化と記憶

要約本論文は、ノイズを含む例としてのみ観測された原型を指数型ホップフィールドネットワークがどのように検索するかを研究しています。ラベルのない例をキーとする一回のsoftmaxアテンションを分析し、未見の原型との重なりを閉じた形で与えています。温度に応じて、原型が失われる場合、最も近い訓練例を記憶する場合、同じクラスの例をまとめて汎化する場合があることを示しています。

Francesco Alemanno

arXiv cs.CL · cs.AI · cs.NA

Change the Number, Change the Answer: Assessing Rating Scale Sensitivity in LLM-Based Text Scoring

説明数字を変えると答えも変わる:LLMによるテキスト採点における評価尺度への感度の検証

要約本論文は、大規模言語モデル(LLM)でテキストを採点する際、評価尺度の設計(連続型か順序型か、3・5・11・21段階か、符号付きか符号なしか)が結果にどう影響するかを検討しています。数値的感度と意味的感度を区別し、3つのタスク、2種類のプロンプト方式、5つのモデルで実験を行いました。尺度設計の一要素を変えると正規化スコアが平均約0.10変化し、約20%のテキストでカテゴリーが変わったことが示されています。毒性のタスクで感度が最も高く、ルーブリックに基づくプロンプトでも感度は下がりませんでした。

Wonjeong Jo, Gyuwan Kim, Ming Shan Hee

arXiv cs.CV · cs.CL

EVA-Cap: Optimizing Audiovisual Video Captioning via Event-Centric Alignment

説明イベント中心の整合による視聴覚動画キャプション生成の最適化(EVA-Cap)

要約本論文は、動画キャプションを原子的な視聴覚イベントに分解し、構造のないテキスト教師信号をイベント中心の整合に変換するEVA-Capフレームワークを提案しています。教師ありファインチューニングとGRPOにより、全体のイベント完全性、イベント内の帰属、イベント間の同期という3つの目標に対して最適化を行い、自作のEVA-Dataで学習しています。イベント中心の評価ではChronusAVで平均9.0%の向上を示し、一般的な視聴覚キャプションベンチマークのWorldSenseでも3.3%向上し、競争力のある性能を示しています。

Jiapeng Shi, Qiuxia Hou, Jiaqi Leng ほか

arXiv cs.RO · cs.AI · cs.LG

Whole-Body Dexterity

説明全身器用性(Whole-Body Dexterity):ロボットの体全体で物体に触れて操作する手法

要約本論文は、人型ロボットが手先だけでなく腕や胴体などの全身を接触面として使い、大型の物体を把持・操作する汎用フレームワークを提案しています。まず実現可能な全身把持のデータセットを生成し、強化学習で得た複数の専門家方策を単一の方策に蒸発(蒸留)させています。実機のUnitree G1で、この方策はゼロショットで転移し、バスケットボールや段ボール箱の再配置や長期的な搬送作業を行いました。試行の90%を完了し、直接的なリターゲティングの18%、汎用全身制御の4%を上回りました。

Conor Mc Gartoll, An Dang, Pranay Thangeda ほか

arXiv cs.CV

LAMP: Layerwise Adaptive Mixing of Predictors for Training-Free Few-Shot Vision-Language Adaptation

説明LAMP:学習不要で層ごとに予測器を適応的に混合する、少数ショット視覚・言語適応手法

要約本論文は、学習を行わずに凍結されたエンコーダの複数の中間層から、全体と領域の情報を組み合わせる LAMP 手法を提案しています。ラベル付き検証データを用いて、クラススコア空間で各層の予測器の混合比を選び、学習済みの射影層は使いません。11 のデータセットと ViT・ResNet のバックボーンで実験を行い、性能向上の主な要因は多層統合であると報告しています。

Zhipeng Ye, Feng Jiang, Qiufeng Wang ほか

arXiv cs.LG

LCT: Losslessly Compressed Tensors with GPU friendly execution for Training

説明LCT:学習向けにGPUで実行しやすい無損失圧縮テンソル

要約本論文は、学習中にテンソルを繰り返し符号化・復号する場面を想定した無損失圧縮フレームワークLCTを提案します。浮動小数点データの冗長性を利用し、事前計算したコードブックを用いるハフマン符号化のGPUカーネルで処理の負荷を抑えます。162MパラメータのNanoGPTではメモリ使用量が24.6%減少し、ステップ時間は7.2%増加しました。Qwen3-4Bの微調整ではピークメモリを最大23.8%削減し、同じGPUで学習可能なコンテキスト長が3.5倍になりました。

Max Zhu, Bohang Sun, Pietro Lio ほか

★★★★☆ 注目
arXiv cs.RO · cs.CV · cs.LG コードあり

REKI: Registering Knowledge in VLAs

説明REKI:視覚・言語・行動モデル(VLA)に知識を登録する手法

要約本論文は、公開データのみで事前学習した約24億パラメータの視覚・言語・行動モデル(VLA)REKIを提案します。視覚言語モデルとフローマッチング方式の行動エキスパートで構成され、少数のレジスタトークンによって直近の履歴を低コストで保持します。著者らは、複数のベンチマークで約2倍の規模のモデルに次ぐ性能を示し、記憶機構によりシミュレーションと実機でのタスク成功率が向上し、姿勢の振動が約4分の1に減ったと報告しています。

注目点VLAに低コストのレジスタトークンによる記憶を加え、小型モデルで大型モデルに近い性能を示し、シミュレーションと実機で検証している。

Juliette Marrie, Paul Pacaud, Adrien Ramanana Rahary ほか

arXiv cs.CV · cs.AI

Motion- and Gravity-Aware Feedforward 3D Reconstruction

説明動きと重力を考慮したフィードフォワード型3D再構成

要約この論文は、多視点3D再構成におけるフィードフォワード型Transformerが、動的シーンや幾何学的手がかりが弱い場合に苦戦する問題に取り組んでいます。特権情報を用いた学習(LUPI)の枠組みで、学習時に残差オプティカルフローと重力方向を補助信号として与え、推論時は通常の視覚入力のみを使用します。標準ベンチマークでは、特に動的物体や複雑なカメラ運動を含むシーンで精度と頑健性の向上が報告されています。

Shiyao Qian, Yuan Ren, Dongfeng Bai

arXiv cs.CL · cs.AI · cs.LG

Mosaic: Multi-Session Agentic Reinforcement Learning

説明Mosaic:マルチセッション型エージェント強化学習

要約既存のエージェント強化学習の多くは、軌跡が単一セッションに収まることを前提としています。しかし、コンテキスト圧縮やサブエージェントのフォークなどの技術では、軌跡が複数セッションにまたがることがあります。本論文はそのような設定を扱うマルチセッション型エージェント強化学習を提案し、批評家を用いない階層的最適化手法Mosaicを示します。BrowseCompでQwen3.5-4Bを用いた実験では、Mosaicが両シナリオで従来の一括配分方式を上回り、平均で使用するセッション数も少なくなりました。

Yilong Xu, Minrui Xu, Xinyu Zhou ほか

arXiv cs.SI · cs.CL

High prevalence of antagonizing rhetoric in trending topics on Twitter/X

説明Twitter/Xの話題のトレンドで敵対的レトリックが多く見られる

要約本論文は、政治的対立の表現として、相手を敵として描く「敵対化」と、正当な相手として批判する「批判」を区別し、その検出手法を提案している。ドイツのTwitter上の話題のトレンドに関する1,700万件以上のツイートを分析した結果、約3分の1に敵対的レトリックが含まれ、通常のツイートより体系的に敵対的であることが示された。右派ユーザーは左派ユーザーより有意に多く敵対的表現を用い、両タイプの対立的レトリックは各陣営内で強く増幅されていた。

Armin Pournaki, Eckehard Olbrich

arXiv cs.CL · cs.LG

Lexical Reference Frames: Interpreting LM Residual Streams in Native Semantics

説明語彙参照フレーム:言語モデルの残差ストリームをネイティブな意味で解釈する

要約本論文は、言語モデルの各隠れ状態には後続の層によって定まり、文脈に応じて変化するネイティブな参照フレームがあると主張し、それを「語彙参照フレーム」で近似する手法を提案しています。SmolLM3-3B と OLMo3-7B の中間層において、この手法は原生フレームの語彙読み出しと平均コサイン類似度 0.97 および 0.97 を達成したと報告されています。固定方向を持つレンズ手法はこの水準に届かないとされています。

Jian Gu, Hongyu Zhang, Chunyang Chen ほか

arXiv cs.CL

CLUE: Uncovering Social Context for Pragmatic Understanding

説明CLUE:対話の社会的文脈を捉えて語用論的理解を高める手法

要約本論文は、対話から手がかりを見つけ出し、それに基づいて解釈を行うようモデルを学習させる二段階の訓練手法CLUEを提案しています。学習には教師ありの証拠推論と、Grounded Information Utilization(IUG)を報酬とするGRPOを組み合わせています。報告によると、基礎となるQwenと比べて、ドメイン内外の加重F1が相対的に向上し、推論トークン数は大幅に減少しました。人手評価では、説明が対話の具体的な内容により根差していることも示されています。

Chengfei Wu, Zhaoqing Wu, Dan Goldwasser

arXiv cs.CL · cs.LG

Where Prefill Expert Reduction Hurts MoE Models: A Few Prompt Tokens Carry Most of the Short-Answer F1 Loss

説明MoEモデルでプリフィル時のエキスパート削減が性能を損なう箇所:少数のプロンプトトークンが短答F1の損失の大半を担う

要約本論文は、MoE(混合エキスパート)モデルのプリフィル段階でルーティングされるエキスパート数を減らすと、どの能力が損なわれるかを調べています。四つのMoEモデル系列を対象に、トークン・層・アテンション経路への介入によって損失の箇所を特定しました。損失は少数のトークンに集中しており、Qwen3-30B-A3Bでは回答直前の二つのチャットテンプレートトークン、DeepSeek-V2-Liteでは指示文がある先頭8〜32トークンが該当します。これらを完全なエキスパートで処理すると、F1損失の大部分が取り除かれます。

Zhiyuan Wang, Han Wang, Shuo Zhang

arXiv cs.AI

Multi-sourced AI Tutor for Non-Native English Speaker Students

説明英語非母語話者の学生向けマルチソースAIチューター

要約本論文は、中国語など外国語での質問を処理し、バイリンガルで回答できる汎用AIチューターシステムを提案しています。また、理解を助けるために技術用語の用語集と説明を生成する機能も備えています。新しい質問抽出機構を組み込んだ専用のRAG(検索拡張生成)パイプラインで多様な講義資料を活用します。91件のPiazza投稿による評価では、83.52%に正しく有用な回答を行い、76.92%の質問に高品質な翻訳を、64.47%に用語集を提供しました。

Yiyin Shen, Xinyi Ai, Weibing Wang ほか

arXiv cs.CL · cs.AI

EMO: A Closed-Loop Test-Time Computation Framework via Alternating Context Optimization and Logits Steering

説明EMO:文脈最適化とロジット誘導を交互に行う閉ループのテスト時計算フレームワーク

要約本論文は、学習を必要とせず期待値最大化(EM)に着想を得たフレームワーク EMO を提案する。質問ごとの文脈推定(E ステップ)と分布の精緻化(M ステップ)を交互に行う。8 つのモデルと 6 つのベンチマークで、EMO は 40 の集計設定のうち 39 でゼロショットのベースラインを上回り、平均で 9.10 ポイント向上した。同じ判定器を用いた文脈のみの最適化(TextGrad)と比べても平均 1.53 ポイント高い。

Wei Xia, Yehui Tang, Zhi-Hong Deng

arXiv cs.CL コードあり

PremiseSQL: Evaluating Premise Critique and Abstention in Text-to-SQL Systems

説明PremiseSQL:テキストからSQLへのシステムにおける前提の批判と回答保留の評価

要約大規模言語モデルによりText-to-SQLの性能は大きく向上したが、既存のNL2SQLシステムは利用者の質問が有効で回答可能であることを前提としている。そのため、前提に欠陥がある質問に対しても実行可能なSQLを生成してしまう。本論文は、欠陥のある質問を見分け、誤解を招くSQLの生成を控える能力を評価するため、4種類の前提の失敗を含む1,800件の欠陥クエリと、対応する1,800件の元のクエリからなるベンチマーク「PremiseSQL」を提案する。三つのプロンプト設定で、前提を意識した振る舞いを測る評価枠組みも設計されている。実験では、現行モデルは初期状態で前提を信頼しがちで、欠陥のある前提をめったに批判しないことが示された。批判を重視したプロンプトは欠陥クエリの検出と回答保留を改善するが、誤って無効と判定する件数も増え、元のクエリに対するSQL生成も抑制されてしまう。

Shuo Lin, Jinzhe Li, Chenlu Guo ほか

arXiv cs.LG · physics.comp-ph

The importance of tensor handling and implementation of physics-informed DeepONets

説明テンソル処理と物理情報DeepONetの実装の重要性:学習コストを削減する改良型PI-DeepONetアーキテクチャ

要約物理情報付き演算子ネットワーク(PI-DeepONet)は、学習中に支配方程式を課すことで解の演算子を学習し、大量のラベル付きデータを必要としません。本論文は、分岐ネットワークが配置点ごとに入力関数を冗長に処理する部分を取り除いた改良アーキテクチャを提案します。数学的には元の構造と等価ですが、入力テンソルのサイズと分岐ネットワークの評価回数を減らします。1D、2D、3Dの線形移流問題で評価され、予測精度は同程度で学習時間は一貫して短縮されました。2D実験では最大3.75倍の高速化が観測され、3DモデルはNVIDIA A100上で改良版のみ学習可能でした。

Nahum Banks, Gustavo A.M. de Almeida, Sergio Maldonado

arXiv cs.AI

Realtime-Bench: Can Frontier Models Solve Real-time Interactive Problems?

説明Realtime-Bench:最先端モデルはリアルタイム対話型課題を解けるか

要約本論文は、遅れた行動が成否に直接影響する動的タスク群からなるベンチマーク Realtime-Bench を提案し、厳しい時間制約下で効果的に行動できるかを検証します。実際の推論遅延に従って環境が進む Wall Clock 設定では、最高成功率は 44%、最高 Pass^3 は 36% にとどまりました。さらに、推論遅延を除いた Paused Clock と、生成トークン数に応じて模擬時間を進める Token Clock を導入し、サービング速度とモデルの時間認識能力を切り分けています。

Jingyu Tang, Xu Yang, Zhehao Zhang ほか

arXiv cs.LG · cs.AI

Specification Gaming and a Constrained Reinforcement Learning Mitigation in a Cleaning Gridworld

説明掃除グリッドワールドにおける仕様ゲーミングと制約付き強化学習による緩和

要約本論文は、掃除ロボットが実際に汚れを除去するか、安価なセンサーから汚れを隠すことができる最小のグリッドワールドを構築しました。センサーの代理報酬のみで学習した標準的な深層Q網路は、代理報酬をほぼ最大に得る一方、真の目標は一度も達成しない方策に収束することを示しています。次に、差を悪用する具体的な行動を罰する制約付き強化学習を導入し、最終的な方策からゲーミング行動を除去しつつ、真の目標の性能を大きく回復させたと報告しています。

Hilda Adwubi Osei

arXiv cs.AI

RAG-RST: Retrieved Exemplars as In-Context Discourse Schema for RST Parsing

説明RAG-RST:修辞構造解析のための文脈内談話スキーマとしての検索例

要約本論文は、修辞構造理論(RST)の談話解析において、検索した例を文脈内デモンストレーションとして与え、形式的な談話スキーマを大規模言語モデルに供給するRAG-RSTフレームワークを提案している。事前計算方式と各縮約ステップで検索する動的方式の二つを比較し、動的方式が最も優れることを示している。学習なしで核性と関係のF1スコアがそれぞれ0.846と0.788に向上し、既存のRST解析器を上回ったと報告している。

Mohammadreza Sediqin, Shlomo Engelson Argamon

★★★★☆ 注目
arXiv cs.CV

FALCON: FPGA-Accelerated Latency-Certifiable Occupancy Networks for Camera-Based Autonomous Driving

説明FALCON:FPGAで加速し遅延の上限を証明可能にしたカメラベースの自動運転向け3D占有ネットワーク

要約本論文は、AMD Kria KR260 組込みFPGA上で動作する、カメラベースの3D占有認識フロントエンドFALCONを提案します。平均遅延ではなく最悪ケースの遅延保証を重視し、プログラマブルロジックの計算は解析的に上限を示し、推論は10万フレームのトレースによる実測の包絡線で評価します。フレームが遅れた場合は、前の出力を古いものとして表示する監視機構を備えます。固定作業量の代理試験では、3回の10万フレーム実行すべてで出力が100msの締切内(最大10.2ms超過)に届いたと報告されています。Occ3D-nuScenes検証セットではmIoUは29.88です。

注目点FPGA上で占有ネットワークの最悪遅延を境界づけ、ウォッチドッグで出力を保証。30万フレームで実測検証したが全体は10Hz未満。

Haohua Que, Mingkai Liu, Handong Yao

arXiv cs.AI

Are You Sure Your LLM Is Sure? Repairing and Auditing Confidence

説明あなたのLLMは本当に自信があるのか?信頼度の修復と監査

要約本論文は、LLMの回答に付される信頼度スコアを修復、採用、診断するRADARフレームワークを提案します。探針に基づく単調な写像(PAIC)で信頼度を補正し、対応検定により誤った改善の採用を抑え、キャリブレーション後に残る系統的な誤りをカーネル検定で検出します。複数のモデル、ベンチマーク、分布シフトでの実験では、単一のスコアに情報を圧縮すると精度向上が失われる場合があり、予測リスクが低くても審査判断が良くなるとは限らないことが示されています。

Arijit Dey, Bhartendu Kumar, Ramya Hebbalaguppe ほか

arXiv cs.AI · cs.CL · cs.MA

Believed but Not Said: Measuring Hidden Belief Collapse in Multi-Agent LLM Discussions

説明『信じているが言わない』:マルチエージェントLLM議論における隠れた信念の崩壊を測る

要約本論文は、複数の大規模言語モデルのエージェントが議論する際に、誤答を広めるadversarialエージェントが混入すると良性エージェントがどう変化するかを調べています。10体のエージェントによる事実議論の実験で、6つのモデルと3つの事実QAデータセットを用いています。対抗エージェントの存在により良性エージェントが誤答を最終的に受け入れる割合が大きく上昇し、その変化の多くは公開された立場には表れませんでした。

Liangjie Huang, Henry Peng Zou, Wei-Chieh Huang ほか

arXiv cs.AI

CART: Compatible Routing for Multimodal Continual Instruction Tuning

説明CART:マルチモーダル継続的命令チューニングのための互換ルーティング手法

要約マルチモーダル大規模言語モデルは命令チューニングによって高い性能を得ますが、実際の応用では逐次的なタスクから新しい能力を継続的に獲得することが求められます。従来手法は言語モデルの忘却を防ぐ一方、視覚と言語を結び付けるプロジェクターを更新し続けるため、両者の不整合が進み破局的忘却が悪化すると指摘されています。本論文は、プロジェクターと言語モデルの適応を明示的に協調させる互換ルーティング手法CARTを提案し、各モジュールにタスク専用のエキスパートを持たせて重み付き混合で組み合わせます。実験では最先端の性能を達成したと報告されています。

Ling-Xiang Zhang, Tao Hu, Da-Wei Zhou

arXiv cs.CL

Intern-Decision: Efficient Multimodal Decision Making with Autoregressive Masked Language Modeling

説明Intern-Decision:自己回帰マスク言語モデリングによる効率的なマルチモーダル意思決定

要約本論文は、0.8B・2B・4Bの3種類のマルチモーダル意思決定モデル群Intern-Decisionを提案する。各選択肢の自由形式の回答を生成せず、構造化された選択と候補確率を直接返す。4Bモデルは7つの評価セットで平均90.02%の非加重精度を示し、Jev v1.13.0の88.74%を上回った。RTX 4090上で289トークン・3フィールドの要求に対する平均遅延は44.16ミリ秒である。

Tong Zhu, Zhe Xu, Zefeng He ほか

arXiv cs.AI

DropKV: Decoupling Residual-Output Perturbation for Near-Optimal KV-Cache Eviction

説明DropKV:残差出力摂動を分離し、ほぼ最適な KV キャッシュ削除を実現

要約本論文は、長文脈で大規模言語モデルを扱う際に KV キャッシュのメモリが線形に増加する問題を扱い、DropKV という削除フレームワークを提案しています。削除判断をトークンごとの独立したスコアリングに分離し、経験的に検証した錐条件のもとで定数倍の近似保証を示しています。また融合 Triton カーネルによる実装を提供し、RULER と LongBench で既存手法より良い結果を報告しています。

Aozhong Zhang, Selcuk Gurses, Yanxia Deng ほか

arXiv cs.CL · cs.AI

Explaining the Roles of Experts in Mixture-of-Experts LLMs for Personalization

説明個人化のためのMoE大規模言語モデルにおけるエキスパートの役割の解明

要約本論文は、混合エキスパート(MoE)型大規模言語モデルの個人化を研究する。MoEは各トークンを少数の専門エキスパートに疎にルーティングするため、多義性が減り、個人化を担う構成要素を特定しやすくなる。著者らは三つのオープンウェイトMoEモデルを大規模な個人化データセットで適応させ、クロスコーダー(crosscoder)を用いて解釈可能な個人化潜在変数を学習し、異なる個人化特徴を符号化するエキスパートを特定した。個人化MoEモデルは稠密モデルと同等の性能を示しつつ多義性が低く、因果介入によって潜在変数が個人化挙動の再現に十分であり、特徴ごとに異なるルーティング経路が存在することが示された。

Sekh Mainul Islam, Pepa Atanasova, Isabelle Augenstein

★★★★☆ 注目
arXiv cs.LG · cs.AI · q-bio.QM

Causal Integrated Gradients: Scalable Feature Attribution Along Causal Paths

説明因果積分勾配:因果経路に沿ったスケーラブルな特徴量寄与度分析

要約本論文は、積分勾配法に入力特徴量間の既知の因果構造を組み込んだ因果積分勾配(CIG)と因果期待勾配(CEG)を提案しています。積分経路を因果グラフに沿わせることで、各特徴量の寄与を直接効果と因果的子孫を経由する効果に分解します。合成データ、模擬単一細胞遺伝子発現データ、実際のインターフェロンβ刺激データで評価され、DeepSHAP や積分勾配法よりも上流の駆動因子を適切に特定し、計算効率も維持されています。

注目点積分勾配の経路を因果グラフに沿わせ、直接効果と因果的子孫を介した効果に分解し、合成・単一細胞・実データで既存手法より優れることを示した。

Joran Michiels, Anis Ismail, Maarten De Vos ほか

arXiv cs.AI

PROBE: Learning to Audit Policy Compliance in Tool-Using LLM Agents

説明PROBE:ツールを使うLLMエージェントがポリシーを遵守しているかを監査する学習手法

要約論文はPROBEという手法を提案し、実ユーザーを装ってデプロイ済みのエージェントと多ターンのツール介在対話を行い、価格設定・プライバシー・確認などのポリシー違反を探るLLM監査者を訓練します。監査を二人零和マルコフゲームとして定式化し、違反の発見、行動の妥当性、対話の進行、ポリシーの多様性を組み合わせた複合報酬を設計しています。実験では、PROBEで訓練された監査者が、同じアーキテクチャのゼロショット敵対者より広範で多くの違反を発見したと報告されています。

Kshitij Mishra, Abhijith Sharma, Nils Lukas ほか

★★★★☆ 注目
arXiv cs.LG

Beyond Fixed Acquisition Functions: Temporal Difference Active Learning for Perturbation Discovery

説明固定の獲得関数を超えて:摂動発見のための時間差分能動学習

要約本論文は、遺伝子や薬剤の摂動スクリーニングは実験コストのため試せる候補数が限られる問題に取り組みます。単一のスクリーニング軌跡から時間差分学習により獲得関数をオンラインで学習する手法TDAL(Temporal Difference Active Learning)を提案します。未測定候補のヒット確率の実験前後のHellinger距離で後続価値を重み付けし、留批外(LBO)で仮想遷移を作って学習データ不足を緩和します。八つの公開スクリーニングデータセットでは、11手法中の平均順位が1.63で、四つのタスクで首位でした。

注目点摂動スクリーニングの獲得関数を時間差分学習で学習し、Hellinger距離とLBOを組み合わせる新規な手法で、8つの公開スクリーニングと11手法で比較している。

Xudong Zhang, Jianzhe Li, Yitong Tang ほか

arXiv cs.LG

Scene Reconstruction Using Ubiquitous Wireless Signals via Diffusion Posterior Inference Over physics-Grounded Representations

説明無線信号による場所の再構成:物理に基づく表現上の拡散事後推論

要約本論文は、カメラやLiDARが暗所、悪天候、壁の向こうで機能しにくい場面に対し、無線チャネル測定から建物の配置を復元する手法を提案している。第1段階では伝搬物理に沿うよう事前学習された無線基盤モデルが、各測定を場面構造の表現に変換する。第2段階では拡散モデルが複数の測定の表現を統合し、建物の占有状況の事後分布からサンプルを生成し、そのサンプル間の合意によって最終的な再構成を得る。著者らは、無線チャネル測定のみから建物の輪郭を高精度に復元できると報告している。

Vahid Yazdnian, Yasaman Ghasempour

arXiv cs.CL

Unfragmenting Nawatl NMT: Single-Variant Specialization for Masewalkopa

説明ナワトル語NMTの単一方言への特化:マセワルコパ語向け

要約本論文は、メキシコの少数言語ナワトル語で、近縁の方言データを混ぜると特定の話者コミュニティに属さない人工的な文体が生じることを指摘しています。多方言の基盤モデルを出発点に、サンタアナ・トラコテンコで話されるマセワルコパ語(nhn)向けにmT5-largeを特化させ、有限状態解析器による品質向上とint8量子化によるCPU遅延の大幅な削減を報告しています。

Luis A. Mercado-Campos, Alexis Palmer

arXiv cs.RO · cs.AI

DriveWorld3D Evidence Constrained 3D World Modeling and Generative Simulation for Real-World Autonomous Driving

説明DriveWorld3D:自動運転向けの証拠制約付き3D世界モデリングと生成的シミュレーション枠組み

要約本論文は、自動運転のための3D世界モデリング枠組み DriveWorld3D を提案しています。オンライン部では時系列映像と複数センサーの計測を組み合わせ、道路、占有、動的対象、証拠の出所を含む統一的な世界状態を維持します。オフライン部では NeRF や 3D Gaussian Splatting で記録シーンを再構成し、生成モデルで長尾の状況を拡張しますが、生成内容を幾何学的真値として使うことは制限されます。中心的な仮説は、明示的な証拠管理により同程度の計算予算で危険な誤った自由空間予測を減らせるというものですが、性能の主張はすべて実験による検証が必要です。

Wei Wang, Yiru Veronika Wang, Yihan Wang ほか

★★★★☆ 注目
arXiv cs.CL · cs.LG

Patch where the text is new: a compression view of where byte-level models should spend compute

説明新しい内容が現れる箇所に計算を割り当てる:バイトレベルモデルの圧縮的視点

要約本論文は、LZ77型圧縮に着想を得た新奇性ベースのパッチ分割規則を提案し、直近の文脈で後続のバイトが繰り返されにくい箇所でパッチを開始します。規則は直前2バイトの参照表で、ラベルや参照モデルなしに生テキストから数秒で当てはめられます。数学コーパスで学習したモデルでは、12Mと50Mのパラメータ規模で最終解答と計算結果の正答率が向上しました。散文やソースコードでの利点は小さいとされています。

注目点LZ77の発想に基づく新規性パッチング規則を提案し、複数規模と複数コーパスで数学課題の計算結果精度向上を示しており、証拠は比較的充分。

Nicol\'as Vera Z\'u\~niga

arXiv cs.LG · cs.AI

TIPS: A Tiny Inference-time Policy for Scaling in Diffusion Language Models

説明TIPS:拡散言語モデルの推論時に使う小型のスケーリング方策

要約本論文は、マスク付き拡散言語モデルの各デノイズ段階でどの位置を可視にするかを決める、約60万パラメータの推論時コントローラTIPSを提案します。基盤の言語モデルは凍結したままです。教師ありのウォームアップの後、最終的な正解性を報酬とする強化学習で学習します。LLaDA-8B-InstructでGSM8KとMATH-500を評価したところ、32回のデコーダ評価の予算で微平均精度は58.46%と57.97%となり、主要比較での最強ベースラインをそれぞれ12.1ポイントと11.6ポイント上回りました。

Ya-Shi Zhang, Jian Tang, Pierre-Andr\'e No\"el ほか

arXiv cs.CV

SCCL-DT: Semantic-Conflict-Aware Contrastive Learning with Dual-Rule Teacher Distillation for Zero-Shot Chest X-Ray Diagnosis

説明SCCL-DT:ゼロショット胸部X線診断のための意味的衝突を考慮した対照学習と二重規則教師蒸留

要約本論文は胸部X線のゼロショット診断を対象に、SCCLという手法を提案します。通常の対照学習は、バッチ内で対応しない画像と報告の組をすべて負例とみなしますが、放射線診断では同じ所見が複数の患者に現れるため誤った負例になり得ます。SCCLは指数移動平均で類似度分布を追跡して適応的な閾値を求め、衝突候補をマスクします。OR・ANDの二つの規則による教師を蒸留して単一モデルSCCL-DTにまとめ、五つの公開ベンチマークで平均ゼロショットAUC 0.850を報告しています。比較した中で最も強いベースラインは0.837です。

Ting Liu, Haoran Lai, HaobinChen ほか

arXiv cs.CV · cs.LG

Beyond the Dominant Label: Recovering Coexisting Lesion Evidence with Multiple Instance Learning

説明主要ラベルを超えて:多重インスタンス学習による併存病変の証拠の回復

要約全スライド画像には複数の病変が同時に存在することがあるが、弱い教師あり学習では最も重篤な診断しか与えられないことが多い。本研究はこの状況を主要ラベル多重インスタンス学習として定式化し、DomSet-MILという枠組みを提案する。これは主要ラベル打ち切り尤度と重症度順残差ルーティングを含む。実験では、主要ラベルの予測で最先端の性能を示し、併存病変の証拠をより効果的に回復できることが示された。

Lubin Gan, Jing Zhang, Xinming Zhang ほか

arXiv cs.CV

Pathology foundation models for training-free case retrieval in salivary gland tumors

説明唾液腺腫瘍における訓練不要の症例検索:病理基盤モデルを用いた研究

要約本論文は、現行の病理基盤モデル(pathology foundation models)による内容ベースの検索が、タスク固有の訓練なしで希少がんの診断を支援できるかを検討しています。病理医はデジタル化された症例アーカイブを、全スライド画像の関心領域で検索し、形態的に類似した症例とそのICD-Oコードを得られます。137例の唾液腺腫瘍で4つのモデルを比較し、Atlas2がTop-1/3/5で62.5%/76.7%/81.3%の検索精度を示しました。

Maximilian J. Roesel, Niklas Kiermeyer, Philipp Keyl ほか

arXiv cs.CL · cs.AI

Multi-SFT: Permissively-Licensed Multilingual Instruction-Following

説明Multi-SFT:商用可能なライセンスの多言語指示追従データセット

要約論文は、既存の教師ありファインチューニング用データセットが英語中心で商用利用に制限があることを指摘しています。その内容は、競合システムの学習を禁止する利用規約を持つ独自モデルで生成されることが多いためです。著者らは、5つの欧州言語にわたる502,818組の指示・応答ペアからなる商用利用が許可されたデータセット Multi-SFT を提案し、翻訳と再生成のパイプラインで構築しました。9つのモデルを微調整して13のベンチマークで評価した結果、Multi-SFT単独でも、より大規模な混合データや公式の指示調整版と競合でき、安全性タスクでは明確な優位性があるとしています。

Daniela Baiamonte, Kamyar Zeinalipour, Elena Fano ほか

arXiv stat.ML · cs.LG

Learning Changes the World and Then What Was Learned has Changed: Training and Deploying Neural Networks in the Control Loop

説明学習は世界を変え、その結果学んだ内容も変わる:制御ループ内でのニューラルネットワークの訓練と展開

要約本論文は、オフラインで訓練したニューラルネットワークを閉ループ制御に組み込んだ際の問題を扱います。ネットワークの制御動作が、訓練時に用いた状態分布そのものを変化させます。著者は、閉ループ同定誤差、展開に起因する動作誤差、追従誤差という3種類の逐次的な失敗モードを整理し、離散時間の感度解析でその仕組みを示しています。非線形Duffing振動子での実験では、有界な継続オンライン学習が軌道の発散を抑える一方、静的な展開では失敗することが示されています。

Vittorio Lippi

★★★★☆ 注目
arXiv cs.AI

Learning from Unverified Peers via Shared Residual Distillation

説明未検証の同種解答から学ぶ:共有残差蒸留(SRD)

要約本論文は、正解や外部検証がなくても、言語モデル自身が生成した未検証の同種解答から学習する共有残差蒸留(SRD)を提案します。同種解答が対照との比較で予測分布をどう変えるかを調べ、方向が一致し大きさが控えめな調整のみを残します。AIME24–26 の平均成績(avg@12)は、Qwen3-1.7B で 11.02 から 16.20、Qwen3-4B で 19.07 から 45.46、Qwen3-8B で 21.39 から 54.44 に向上しました。2つの汎用能力ベンチマークでは、基礎モデルに対する低下は見られなかったとされています。

注目点正解を検証せずに同伴解から学ぶ共有残差蒸馏を提案し新規性は高いが、評価がAIME中心で証拠は限定的。

Feiyang Chen, Runze Ma, Zichen Wang ほか

★★★★☆ 注目
arXiv cs.LG · physics.ao-ph

Can AI Forecast the Extremes? Evaluating Probabilistic Weather Models on Tropical Cyclones

説明AIは極端気象を予測できるか?熱帯低気圧を対象に確率的気象モデルを評価

要約この論文は、熱帯低気圧の予報について大規模なベンチマークを行い、GenCast、FourCastNet 3、FGNというAIモデルを、欧州中期予報センターの物理ベースのアンサンブル予報システムIFS-ENSと比較しています。確率的指標を用いて、台風の進路、強度の偏り、不確実性、嵐の構造を表す風と気圧の関係を評価しています。その結果、強度と集合のばらつきには限界が残るものの、進路予測ではAIモデルがIFS-ENSを大きく上回り、FGNは2025年に評価された台風の90%で位置の確率的スコアが優れていました。

注目点複数の確率的AI気象モデルと業務用アンサンブル予報を熱帯低気圧で比較し、指標と診断が充実して実用的意義が大きい。

Nathan Chalumeau, Xavier Renard, Remi Meynadier ほか

arXiv cs.CV

Retrofitting Recurrent Vision-Language Models from Pretrained Backbones

説明事前学習済み視覚言語モデルを再帰構造に改造する手法の研究

要約本論文は、深さ方向の再帰(depth recurrence)を視覚言語モデルに適用する手法を提案します。言語バックボーンの一部の層を削除し、残りの層の一部を繰り返し利用することでパラメータ量を削減します。復元のために三段階の学習を行い、非再帰モデルの出力を蒸馏します。TinyLLaVA-1.4Bでは、同じ復元データで学習した未剪定のベースラインより言語パラメータが23.3%少なく、推論指向のベンチマークで改善が見られ、基本的な視覚理解のベンチマークでは同等の性能です。

Madhav Iyengar, Andreas Geiger, Hilde K\"uhne

arXiv cs.CL · cs.LG

The Right Byte First: How UTF-16 Helps Multilingual Boundary Prediction

説明先頭バイトの順序が多言語の境界予測に与える影響(UTF-16 の活用)

要約本論文は、階層型バイトレベル言語モデルでバイトをまとめる境界予測器に注目します。UTF-8 の一~二バイトの符号位置を、下位バイトを先頭にした二バイトの UTF-16 で表す UBE 符号化を提案し、先頭バイトに低位ビットを持たせて紛らわしい後続記号を区別できるようにします。13 種のブラーフミー系文字の 17 言語で、UBE は UTF-8 より字素境界の誤り率が低く、韓国語と中国語では学習の途中段階で UTF-8 の最終誤差を下回りました。

Hyunsik Kim

arXiv cs.CV · cs.AI · cs.LG

Memory as Weights: Internalizing Long-Term History for Streaming Videos

説明重みとしての記憶:ストリーミング動画のための長期履歴のパラメータ内部化

要約本論文はMaLoWというストリーミング記憶フレームワークを提案し、再帰型ハイパーネットワークで過去の動画観測を固定サイズのLoRA重みへ逐次統合する手法を示す。入力コンテキストを圧迫せずに履歴を保持する点が特徴である。学習用に381Kの質問応答対と56Kの動画からなるMaLoW-Instructデータセットも構築された。OVO-Benchの後向き分割では既存の記憶手法より3.9%から11.8%高い性能を示したと報告されている。

Zhuoming Liu, Jinhong Lin, Lin Zhang ほか

arXiv cs.AI

When Reasoning Is Not Enough: Proactive Inquiry for Cross-Modal Safety in Multimodal Large Language Models

説明推論だけでは不十分な場合:マルチモーダル大規模言語モデルの横断的安全性のための能動的質問手法

要約本論文は、個別には無害な画像とテキストを併せて解釈すると、マルチモーダル大規模言語モデルが安全でない振る舞いをしうることを指摘しています。提案手法SAFE-PROは、予測エントロピーと学習された横断モーダルリスクスコアを組み合わせたリスク条件付き不確実性信号を用い、安全に関わる確認質問をいつ行うか、経路最適化をどこに適用するかを決定します。7つのベンチマークと2つのベースモデルでの実験では、SRPOと比べて安全性が向上し、過剰拒否がおよそ半減したと報告されています。

Wei Cai, Jian Zhao, Yuchen Yuan ほか

arXiv cs.CL

Beyond Context Length: Characterising the Difficulty of Long-Context Reasoning

説明文脈長を超えて:長文脈推論の難しさを特徴づける

要約本論文は、文脈長だけでは長文脈タスクでのモデルの失敗を説明できないと指摘し、証拠の範囲、証拠の分散度、推論の深さという三つの観点から難しさを定量化しています。著者らは、支持証拠と推論グラフを付与した6,550件の多分野質問応答ベンチマークLURCHを構築しました。評価の結果、三つの性質はいずれもモデル性能と強い負の相関を示し、証拠が分散したサンプルでは文脈が長くなるほど性能が急激に低下することが分かりました。

Shiwen Qin, Cameron Barker, Henry Gouk ほか

arXiv cs.AI

Prism-1: Position- and Rival-Independent Scoring for System One Models

説明Prism-1:選択肢の順序や他の選択肢に依存しない、即応型決定モデルのための採点手法

要約本論文は、状態と選択肢の集合を与えると、推論過程を生成せず一度の前向き計算で選択肢の分布を出すモデルを扱う。著者は、選択肢の並び順が結果に影響せず、新たな選択肢の追加が他の選択肢同士の相対的な確率を変えてはならないという二つの公理を提示する。既存の一般的な手法はいずれもどちらかに違反することを確認した。提案するPrism-1は各選択肢を共有位置の独立したブロックで読み取る方式で、実験では正答率をほぼ維持しつつ、順序変更や無関係な選択肢の追加に対して結果が変わらないことを示した。

Yao Long Teng, Jianguo Huang, Jiayi Cai ほか

arXiv cs.LG

ABNAT: Attention-Based Noise-Aware Training for Robust Transformers on Analog Compute-in-Memory Systems

説明ABNAT:アナログ計算インメモリ向けTransformerのための注意機構ベースのノイズ考慮学習

要約本論文は、アナログ計算インメモリ(CIM)上でTransformerがハードウェアの非理想性によるノイズで性能低下する問題を扱います。ノイズが注意機構をどう変えるかを分析し、深い層ほどクリーンとノイズ付きの注意マップの差が大きくなることを示しています。提案手法ABNATは、ノイズ付きの学生モデルにクリーンな教師モデルのヘッドごとの注意経路を保持させ、ハードウェア変更や推論時のオーバーヘッドは不要です。視覚・言語・マルチモーダルのTransformerでの実験により、対応するベースラインより頑健性が向上したと報告されています。

Wenshuai Yao, Wenyong Zhou, Hanyong Shao ほか

arXiv cs.LG

Lean4AgenticRL: Advancing Agentic RL with Verifiable Multi-level Process Rewards

説明Lean4AgenticRL:検証可能な多層プロセス報酬によるエージェント型強化学習の高度化

要約本論文は、ソフトウェア工学や端末操作などの複雑な課題に対応する大規模言語モデルのエージェント能力を高めるため、ツール呼び出しやワークフロー段階などの多層プロセス報酬をLean4の形式化体系に統合するフレームワーク Lean4AgenticRL を提案しています。これにより訓練された LAR-9B/27B モデルのうち、LAR-27B は TerminalBench-2.1 で 77.3% を達成し、基盤モデルを平均 9.89%、同規模の次点モデルを 5.07% 上回ったと報告しています。

Ruida Wang, Gerald Friedland, Tong Zhang ほか

arXiv q-bio.QM · cs.CL

Documenting Trofinetide Treatment Phenotypes in Rett Syndrome with a Dual-LLM Consensus Pipeline

説明二重LLM合意パイプラインによるRett症候群のトロフィネチド治療表現型の記録

要約本研究は2023年に承認されたRett症候群初の治療薬トロフィネチドを対象に、2つの大規模言語モデルによる合意パイプラインで、108名の患者の臨床記録26,763件から18の治療反応表現型を抽出した。下痢の開発データで方式を選定した後、他の17表現型にも適用する外部検証を行い、専門家による複核では流れの判定との一致率が90.2%(92/102)であった。キーワードや正規表現による抽出に代わる拡張可能な手法として提示されている。

Daniel Palacios, Guantong Qi, Mikael Guzman Karlsson ほか

arXiv cs.AI · cs.DB · cs.PL

FAOPs: Normal Forms and an Algebra for AI Agent Workflows

説明FAOP:AIエージェント・ワークフローのための正規形と代数

要約本論文は、多段階のエージェント手順を、スコープ付き状態に対する型付き関数として扱う形式理論「FAOP(機能型エージェント操作手順)」を提案している。原子的ステップへの分解、データフローの型検査、共有手順の単一定義化、最小権限でのツールアクセスという四段階の正規形を定義する。さらに、正しさが証明された等価代数と、管理システム SkillBase および実行時の執行器による実装を示している。

Ali Mohammadi Shanghooshabad (JPMorgan Chase & Co.)

arXiv cs.CV

FeaTok: Feature-Loss Tokenization for Image Generation

説明FeaTok:画像生成のための特徴損失トークン化手法

要約本論文は、画素ではなく事前学習済みの特徴を再構成する離散トークン学習手法FeaTokを提案しています。SigLIP、SigLIP2、DINOv2、DINOv3での消去実験により、生成性能が向上することが示されています。クラス条件付き生成では、256x256でgFDr6を最大29%削減し、最強の無誘導連続ベースラインRAEv2を、サンプリング計算量38分の1で上回ったと報告されています。

Zhang Xiaofeng, Samuel Lavoie, Nicolas Beltran-Velez ほか

arXiv cs.AI コードあり

Progress Reward Model for Reinforcement Learning via Large Language Models

説明大規模言語モデルを用いた強化学習のための進捗報酬モデル:複雑なタスクを分解し高密度の報酬を生成する手法

要約本論文は、長期的でスパースな報酬を持つタスクにおける強化学習の困難に対処するPRM4RLフレームワークを提案します。上位レベルでは、大規模言語モデルを用いて複雑なタスクを単純なサブタスクに分解し、タスクの進捗を監視する細粒度の進捗関数を設計します。下位レベルでは、ポテンシャルベースの報酬整形の考えに基づき、進捗関数から進捗報酬モデルを構築し、理論的な最適性と収束保証を与えます。ロボット制御タスクでの実験では、既存の大規模言語モデルによる計画手法や報酬生成手法より優れた結果が示されています。

Xiuhui Zhang, Ning Gao, Xingyu Jiang ほか

arXiv cs.CL

Name-Bias in Large Language Models

説明大規模言語モデルにおける名前バイアスの研究

要約本論文は、6つのローカル大規模言語モデルにおける名前に基づくバイアスを評価しています。穴埋め課題で、米国社会保障局のデータセットと Rosenman らの人種分類データセットから選んだ名前のペアの中から、モデルに選ばせる方式です。名前のペアとテンプレートを平衡させ、年齢と性別の影響を分離しています。30万件の応答から、モデルは固定観念的に男性的でない名前、年齢の高い名前、人気のある名前、白人とされる名前を好むことが確認されました。バイアスの大きさは性別が最も大きく、次いで年齢、名前の人気度、人種の順です。

Kalyan Bhetwal, Ceren Mert, Ian Whitehouse

arXiv stat.ML · cs.LG

Rethinking Successive Rejects Algorithms

説明Successive Rejects アルゴリズムの再検討(固定予算下で最良の腕を見つける手法の改良)

要約本論文は、多腕バンディットで平均報酬が最も高い腕を固定予算の中で見つける問題を扱います。連続淘汰法(SR)の各段階の長さを最適化した H1-SR を提案しています。共通分散のガウス腕では、H1-SR は全適応的アルゴリズムの最適正規化速度の少なくとも 11/12 を達成し、元の SR の対応する割合は 1/4 に収束すると述べています。実験では多くの事例で改善が見られる一方、早期の積極的な淘汰が不利になる場合もあると報告しています。

Mohamed Khair, Junpei Komiyama

arXiv astro-ph.IM · cs.LG · physics.pop-ph

Missed Detections and False Alarms in a CNN Technosignature Detector on Breakthrough Listen Data

説明Breakthrough Listenデータ上のCNN技術痕跡検出器における見逃しと誤検出

要約本論文は、Green Bankの実データを背景として、15,000件の模擬信号(10種の形態・5段階の振幅)を注入し、学習済みで固定したCNN型技術痕跡検出器を検証したものです。訓練時に見た狭帯域信号でも、信号が強くなるほど再現率が下がり(0.590から0.090)、ある干渉パターンでは誤検出率が0.627に達したと報告しています。検出器はON側のパネルしか読んでおらず、対象恒星由来かどうかは判断できず、訓練データに似ているかどうかしか判断できないと論じています。

Omer Imran

arXiv cs.LG · cs.AI

Decoding Naturalistic Speech from fMRI with Temporal Modeling and Multimodal Alignment

説明時系列モデリングとマルチモーダル整合によるfMRIからの自然音声デコード

要約本論文はNOEMAを提案する。これは時系列畳み込みデコーダで、連続するfMRI計測の窓を、同じ刺激区間のテキスト・音声・発話のマルチモーダル埋め込みと整合させ、脳活動から該当する音声区間を直接検索する。自然音声データセットCephalonauts OneとLeBelでは、留保クエリの42%超について、2,000候補の中で正解を上位10位以内に入れた。基線デコーダを大きく上回り、訓練に含まれない数千の妨害候補を加えても優位性は維持された。アブレーション実験により、時系列モデリングと相補的な刺激表現の寄与も示された。

Corentin Caris, Louis Jalouzot, Nona Rajabi ほか

arXiv cs.LG · cs.CL

Effectiveness of Hidden-State Probes for Localizing Reasoning Failures

説明隠れ状態プローブによる推論失敗の位置特定:その有効性

要約本論文は、長い推論過程の誤りが、モデルの能力を超えている場合、再試行で成功する場合、ある一つのステップで回復不能になった場合のいずれかを、モデルの隠れ状態から区別できるかを検討しています。4Bおよび8Bの推論モデルで、隠れ状態を用いたプローブを、隠れ状態を使わない最強のベースラインと比較しています。結果として、確信度プローブは誤答を示せるものの、失敗の種類の順序付けは学習設計に依存し、出力ステップの位置特定では推論過程の長さだけに基づく規則を上回りませんでした。

Shubham Subhnil, Yannis Belkhiter, Erik Miehling ほか

arXiv cs.AI · cs.LG · physics.comp-ph

Learnable Splines for Unstructured Neural Operators

説明非構造格子向けニューラル演算子のための学習可能スプライン手法

要約本論文は、疎で学習可能なテンソル積 B スプラインで非構造メッシュと潜在直交格子の間を変換する、メモリ効率の高いニューラル演算子 L-SplineFNO を提案する。6 つの三次元工学ベンチマークで、ベースライン演算子より大幅に少ないメモリと計算量で高い予測精度を示し、ゼロショット超解像や解析的空間微分にも対応する。

Vignesh Gopakumar, Zhuoyuan Wang, Ander Gray ほか

arXiv cs.AI · cs.LG

Null Controls Are Necessary but Not Sufficient: Evaluating Acceptance Guards for Scientific Discovery and Interpretability

説明帰無対照は必要条件だが十分条件ではない:科学的発見と解釈可能性における受理ガードの評価

要約本論文は、自動化された科学的発見システムが検定を通じて説明を受理するものの、検定に合格しても意図した主張が確立されるとは限らないことを示します。著者らは四つの操作と複数の解釈可能性の設定を、空受理率、正の受理率、帰結一致率で評価しました。すべての状態をゼロに写す自明な縮約は、96%の混沌系で閉包検定に合格しますが、力学的変動は保持していません。結論として、記述的検定は科学的に空の候補を受理しうること、また受理された候補も独立に検証された帰結を欠きうることから、検定が何を受理するかと、その検定が何を科学的帰結として確立するかの両方を評価する必要があるとしています。

Tianyu Wu (Project Aether)

arXiv cs.CV コードあり

Event-STVG: Spatio-Temporal Video Grounding for Long-Form Event Reasoning

説明Event-STVG:長尺動画の出来事推論のための時空間動画グラウンディング

要約本論文は、自然言語の問いに基づいて動画中の対象を時間と空間の両方で特定する時空間動画グラウンディング(STVG)を、出来事レベルの推論へ拡張した Event-STVG タスクを提案しています。長い文脈、繰り返し発生する出来事、出来事の定位、役割推定、複数対象の定位を統合しています。サッカーを含む 8 分野、計 4,016 件の出来事を注釈したベンチマークを構築しました。最良の多モーダル大規模言語モデルでも、10 分の時間範囲で m-vIoU は 5.4% にとどまりました。

Yizhe Zhang, Xujia Wang, Songqi Tang ほか

arXiv cs.SE · cs.CL

WEAVE: Weaving Real-World Code Evolution into Dependency-Structured Tasks for Benchmarking and Training Code Agents

説明WEAVE:実世界のコード進化を依存構造付きタスクに編み、コードエージェントの評価と学習に活用する手法

要約実際のソフトウェア開発では、機能追加や移行などの変更が複数のプルリクエスト(PR)にまたがり、リポジトリ全体での協調した修正が必要になることが多いです。しかし既存の実行可能なベンチマークは、単一の issue や PR を課題の単位としています。本論文は、検証済みの PR 履歴を依存構造を持つ実行可能タスクに変換する WEAVE を提案します。リポジトリに合わせて校正された型付きの変更箇所を用いて関連 PR を有界な DAG にまとめ、統一された実行可能タスクとして実体化します。また、テストに基づく決定的な指標 Graph Credit を導入し、依存関係に整合した部分的な進捗を測定します。実験では、WEAVE が一貫性のある実行可能タスクを生成し、フラットな採点より忠実に進捗を測れること、またコードエージェントの学習に有効な教師信号と検証可能な報酬を提供することが示されています。

Weihao Li, Zihang Xu, Zhongqiu Wang ほか

arXiv cs.DC · cs.LG コードあり

ETH: Data-Balanced Heterogeneous Pipeline Parallelism for Training Large Models

説明ETH:大規模モデル学習のためのデータ均衡型ヘテロジニアスパイプライン並列化システム

要約本論文は、異種環境での大規模モデル学習における負荷不均衡の問題を扱い、異種パイプライン間できめ細かなデータ均衡を実現する異種パイプライン並列化(HPP)を提案しています。ETHシステムは、パイプライン間と各ステージ内の両方で負荷を均衡させる階層的枠組みを採用し、ブロック単位の勾配集約により非対称なAll-Reduceの通信コストを抑えます。評価では、既存システムと比べて学習速度が最大2倍向上し、構成生成のオーバーヘッドが最大56分の1に削減されたと報告されています。

Mianjie Yu, Zhongmin Zhao, Zizhao Mo ほか

arXiv stat.ML · cs.LG · econ.TH コードあり

Designing Experiments for External Decision Makers

説明外部の意思決定者のための実験計画:データ利用者を考慮した設計フレームワーク

要約標準的なベイズ実験計画法は、実験者自身がデータに基づいて行動することを前提としています。しかし実際には、データは実験者が変更できない手続きを持つ外部の関係者によって使われることが多いです。本論文は、外部規則がデータに作用したときの実験者の期待損失である「利用リスク」を最小化するよう適応型計画方策を学習する、利用認識型実験計画の枠組みを提案します。情報量が多いデータでも such 規則の下では有害になりうると示し、この枠組みが標準的手法を厳密に一般化することを説明しています。

Sahel Iqbal, Tom Rainforth

arXiv cs.AI

GraphACM: Graph-based Action Consistency Measurement for Uncertainty Quantification in LLM Agents

説明GraphACM:LLMエージェントの不確実性定量化のためのグラフベース行動一貫性指標

要約本論文は、大規模言語モデル(LLM)エージェントを対象に、グラフに基づく行動一貫性の測定手法を提案する。同一タスクの複数回の実行で等価な状態を統合し、行動ラベル付きの有向グラフを構築することで、共通の意思決定状態での行動比較を可能にする。ALFWorld、AppWorld、WebShopの3つのベンチマークにおいて、タスク成否予測の平均AUROCは0.811で、最良の行動一貫性ベースライン(0.729)および言語化された確信度(0.769)を上回ったと報告されている。

Yaxin Ma, Wenbo Zhang, Satya Krishna Pothapragada ほか

arXiv cs.LG · cs.AI · cs.CL

Selection Is Not Learning: Choosing Model Futures

説明選択は学習ではない:モデルの後継を決める

要約自己進化型の言語モデルは自ら生成したタスクで学習するため、各ラウンドで更新後のどのモデルを次に引き継ぐかを決める必要があります。本論文は、既存の手法がタスクの学習しやすさだけで判断し、生じたすべての更新を引き継いでいると指摘します。提案手法HeirCommitは、更新後のモデルを凍結し新しい評価問題で引き継ぐかを判定し、EvoHeirはパラメータ継承と経験継承を分けて扱います。論文によると、同じ採用率で比べたとき、有害な更新の割合はランダム継承に比べて68〜83%削減されました。

Haoyi Yang, Kshitij Mishra, Nils Lukas ほか

arXiv cs.LG

Augment the Cache, Replace the Activation: A 2x2 Study of Internal-State Sharing

説明キャッシュを拡張し、活性化を置き換える:内部状態共有の2×2研究

要約本論文は、凍結された言語モデルで構成されるマルチエージェントシステムにおいて、テキストではなく内部状態を共有する方法を研究しています。各エージェントが内部状態をプールに一度公開し、他のエージェントがそれを共通の仕組みで読み取る「共有」の枠組みを提案しています。研究では、キー・バリューキャッシュ(KVキャッシュ)は受信側が拡張的に参照する形が適し、活性化は受信側に直接書き込む形が適するという結論が示されています。

Adam Deng, Shicheng Liu, Yada Zhu

arXiv cs.LG

Not All Unlabeled Data Are Equal: Unlabeled Data Selection for Semi-Supervised QSAR Modeling with Large Chemical Repositories

説明すべての未ラベルデータが等しいわけではない:大規模化学リポジトリを用いた半教師ありQSARModelingのための未ラベルデータ選択

要約本研究は、ChEMBLなどの大規模化学データベースにある未ラベル分子を活用して、分子の生物活性を予測するQSARモデルを改善できるかを検討しています。10個のQSARデータセットと40万超の未ラベル分子を用い、3種類の半教師あり学習アルゴリズムと4種類の未ラベルデータ選択戦略を比較しました。その結果、各データセットで少なくとも1つの設定が教師ありベースラインを上回り、化学的に離れた少数の分子を選ぶことが最も安定した改善につながることが示されました。

Oliver Majer, Saso Dzeroski, Jurica Levatic

arXiv cs.RO · cs.AI · cs.LG

DemoStream: Batched Task-and-Motion-Plan Optimization for Automated Learning from Demonstration

説明DemoStream:自動化デモンストレーション学習のためのバッチ型タスク・動作計画最適化

要約本論文は、GPU による高速化を用いたタスク・動作計画(TAMP)システム DemoStream を提案します。これは、ロボットの操作デモンストレーションを自動生成し、その質を最適化して行動クローニングの成功率を高めることを目指しています。複数の解を並列に探索するためのバッチ型サンプリングと制約充足を導入し、シミュレーションで行動空間・コスト関数・バッチサイズの影響を調べています。さらに、TAMP の安全性保証を活かし、実世界で平均毎時 66 件のデモを収集できることを示しています。

Caelan Garrett, Neel Jawale, Fabio Ramos