★★★★☆ 注目
arXiv
stat.ME · cs.LG · stat.ML 2026年10月1日
説明 一般化エンジェション(engression)モデル:あらゆる型の多変量結果の条件付き同時分布を推定する統一的手法
要約 本論文は、連続・二値・カテゴリ・順序・ランキングが混在し相互に依存する多変量結果について、共変量を与えたときの条件付き分布を推定する一般化エンジェション(engression)モデルを提案する。engression(スコアリングルールに基づく深層生成モデル)を基に、データ型ごとのリンク関数と損失を滑らかにする確率的摂動を導入し、不連続なリンクでも勾配ベースの学習を可能にしている。シミュレーションと、242種の群集生態学ベンチマークおよび17次元の混合型健康アウトカムという二つの応用において、周辺スコアでは型別モデルと同等、同時分布では上回り、専用の最先端の共同種分布モデルと同等以上の結果を示したと報告している。ソフトウェアはPythonで提供される。
注目点 engressionを多種類の結果に対応する統一的分布回帰枠組みへ拡張し、新規性は中程度。242種と17次元混合型データで専用モデルと比較し、証拠は比較的充分。
Xinwei Shen, Zijian Guo, Francis Bach
arXiv
cs.LG · cs.CL 2026年10月1日
説明 線形を超えて:大規模言語モデルにおける非線形概念多様体の発見と整合
要約 本論文は、大規模言語モデル内部のトークン表現の幾何学的構造を分析するため、コンピュータビジョンの非線形多次元概念発見法(NLMCD)をトークンレベルの活性化に適用し、概念を低次元の多様体としてモデル化しています。層間やモデル間で概念多様体を比較するために、概念ベースの整合スコア(CBA)を提案しています。その結果、中間層と後期層に二つのブロック構造が見られること、英語と中国語の概念共有は学習方法に依存することなどが示されています。Tulu-3の学習段階では、隣接する段階間の整合性が最も高いとされています。
Tido Specht, Elias Benedict Krey, Nils Neukirch ほか
arXiv
cs.LG 2026年10月1日
説明 MECHVAR:自律的な機械学習実験選択のための分散ガイド付きメカニズム判別法
要約 本論文は、有限の候補メカニズム集合と限られた実験予算のもとで、ベンチマークの改善の背後にある真のメカニズムをどう識別するかを扱います。提案手法MECHVARは、事後重み付きの予測応答の分散が最大となるプローブを選択し、計算が軽く監査可能です。held-out Digitsの実験では、メカニズム識別のAUCはMECHVARが0.8975、スコア貪欲方策が0.7825、EIGが0.9092でした。全ライブラリのスコアリングは、記録環境でEIGより大幅に高速でした。
Yifan Guo
arXiv
cs.LG 2026年10月1日
説明 Debias Anything:拡散モデルにおける教師なしの公平性と多様性の手法
要約 拡散モデルは高品質な画像を生成できますが、学習データに含まれる人口構成の偏りを再現し増幅してしまいます。本論文は、任意の拡散モデルと任意の機微属性に適用できる、公平性と多様性を同時に扱う手法を提案します。固定された拡散モデルを事前学習済みの視覚言語埋め込み空間にアダプターで接続し、機微属性の注釈なしで公平性と多様性の誘導を行います。実験では、同程度の公平性水準で品質と多様性の指標が改善することが示されています。
Th\'eau d'Audiffret, Mariia Vladimirova, Jean-Yves Franceschi
★★★★☆ 注目
arXiv
cs.AI 2026年10月1日
説明 AI支援による有糸分裂カウントが複数の腫瘍種で再現性と効率を向上させることを示す研究
要約 本論文は、有糸分裂の高い活性が予測される領域へ病理医を誘導し、有糸分裂像を強調表示するAIツール「MitPro」を紹介しています。領域の選択と最終的なカウントは病理医が管理します。385枚の全スライド画像と13名の病理医による配属研究で、AI支援により級内相関係数が0.589から0.949に向上し、評価時間の中央値は1件あたり平均151.8秒短縮されました。
注目点 AIによる領域誘導と有糸分裂像の提示を組み合わせた点は中程度の新規性。385枚のスライドと13名の病理医による対応読影研究で、ICCが0.589から0.949へ改善しており証拠は強く、日常診療への影響も大きい。
Simon Graham, Mostafa Jahanifar, Quoc Dang Vu ほか
arXiv
cs.CV · cs.LG 2026年10月1日
コードあり
説明 PhaseAT:医用画像のドメイン汎化のためのフーリエ位相敵対的学習
要約 本論文は、医用画像モデルを異なるスキャナーや施設、撮像プロトコル間で汎化させるための位相認識型敵対的学習フレームワークPhaseATを提案する。フーリエ領域で振幅スペクトルを変えずに有界の位相摂動を反復更新し、YCbCr色空間の輝度チャネルにのみ適用する。さらに位相顕著性マスクで影響の大きい周波数に更新を集中させる。著者らは2つの医用データセットで、単一ソースのドメイン汇化において20%以上の改善を報告し、既存手法を上回ったとしている。
Ahmed Sharshar, Asif Hanif, Naveen Kumar Kummari ほか
arXiv
cs.AI 2026年10月1日
説明 LineupRL:「キャプションから系列特定へ」による検証可能な時系列キャプション強化学習
要約 本論文はLineupRLを提案し、強化学習で時系列の自然言語キャプション生成を最適化します。報酬は凍結された大規模言語モデルの検証器が与えます。検証器はグラフではなく生の数値を読み、キャプションに合う時系列を複数の攪乱項から選びます。2つのキャプションベンチマークおよびキャプションのみを入力とする予測・再構成タスクで、教師ありファインチューニングや強化学習の基準手法を上回りました。
Haochen Zhang, Laura Yao, Zachary Plotkin ほか
arXiv
cs.LG 2026年10月1日
説明 SkillEvoLean:Lean 証明器のための変異強化型スキル進化手法
要約 本論文は、Lean による形式的定理証明において大規模言語モデルエージェントのパラメータを更新せずに性能を高める「スキル進化」の枠組み SkillEvoLean を提案しています。高水準の解法方針と参照知識を、段階的更新と変異ベースの更新によって共に進化させ、完全な証明が得られない場合には数学的概念をサンプリングして検証器のフィードバックで新しい候補を選択します。MiniF2F、PutnamBench、IMO 2025、USAMO 2026 で評価され、同一条件下で基線手法を上回ったと報告されています。
Kuo Zhou, Zixiong Yang, Lu Zhang
arXiv
cs.CV · cs.RO 2026年10月1日
説明 筋電と視覚タスク記述でVLAモデルを連続的に条件付けする研究
要約 視覚・言語・行動(VLA)モデルは、マルチモーダル入力を持つにもかかわらず、タスクの指示を主に言語に頼っています。本研究では、8チャンネルの筋電包絡線を連続入力として加えたEC-VLAと、画像にセグメンテーション注釈を加えたVA-VLAを試しました。3名の参加者によるキューブ選択タスクでは、EC-VLAは整然とした通常の場面で言語ベースラインと同等、雑然とした分布外の場面で大きく上回りました。VA-VLAも通常の場面で小幅な改善、雑然とした分布外の場面で大きな改善を示しました。言語以外のタスク条件付けの有用性を示す結果だとされています。
Edward W. Staley, Connor O. Pyles, Rahul Hingorani ほか
arXiv
cs.LG · cs.AI 2026年10月1日
説明 iADD:拡散ポリシー最適化における整合性と多様性の改善
要約 本論文は、DDPOなどの強化学習による拡散モデルの事後学習で、報酬最適化が多様性と品質を犠牲にしがちな問題を扱います。著者らは理論解析により、後半の時間ステップのみを更新する手法が多様性に有害となりうることを示し、Feynman-Kacに基づく増分的な学習手法(iADD)を提案しています。三つのタスクで関連手法と比較し、整合性と多様性の両面で改善が見られたと報告しています。
Ashok Prasad Neupane, Saugat Adhikari, Pramish Paudel ほか
★★★★☆ 注目
arXiv
cs.AI · cs.GR 2026年10月1日
説明 すべての経験を重みに入れるべきではない:自己改善型GUIエージェントのためのコンポーネント・ルーティング
要約 本論文は、自己改善型GUIエージェントが自ら生成した軌跡をどう活用するかを扱います。軌跡はモデルの重みへのファインチューニングにも、プロンプトへの検索挿入にも使えます。著者は経験を、ロケーター、手順、状態事実、教訓の4種類のコンポーネントに分け、それぞれを文脈か重みのどちらに送るかをルーティングします。訓練前に測定できる再出現性と状態依存性の2つの性質に基づく規則を提案し、保留したバックボーン・ファミリーでも全24ケースで正しい送り先を当てたと報告しています。
注目点 経験をコンポーネント単位で振り分ける手法を提案し、学習前の二属性で規則を当てはめ、複数のバックボーンと環境で検証した。
Beining Wu, Zihao Ding, Jun Huang
arXiv
cs.LG · eess.SP · q-bio.NC 2026年10月1日
説明 切替線形動的システムによる多時間スケール神経ダイナミクスの推定
要約 神経活動は行動状態によって変化する複数の時間スケールを示すことが多く、神経記録からそれらを特定することは重要です。本論文は、連続値またはスパイク神経観測から状態ごとの潜在時間スケールを特定する枠組みMTS-SLDS(Multi-Timescale Switching Linear Dynamical System)を提案します。複数ラグの積率初期化と、状態条件付きラプラスEM推論を組み合わせ、時間スケールは学習された潜在遷移行列の固有値から取り出されます。ガウス型およびポアソン型スパイク観測の合成・神経実験で、時間スケールと切替構造を正確に回復したと報告しています。
Lulu Gong, Yongxu Zhang, Shreya Saxena
arXiv
cs.CV · cs.AI · cs.CL 2026年10月1日
説明 VETO:視覚言語モデルのための動画向け効率的トークン最適化手法
要約 本論文は、視覚言語モデルが長い動画を処理する際の視覚トークンの負荷を下げる、訓練が任意で追加できるプラグイン手法VETOを提案しています。フレーム内で意味の似たトークンを統合し、さらに時間的に冗長なフレームを統合する二軸の圧縮を行います。LLaVA-OneVision-7Bでは推論が最大45%高速化し、トークン予算10%の条件では55.7%の精度を達成したと報告されています。
Gueter Josmy Faure, Hao Ping Wang, Min-Hung Chen ほか
★★★★☆ 注目
arXiv
cs.AI · cs.LG · cs.LO 2026年10月1日
説明 MEC非含有MDPにおける到達可能性のためのモデルフリーQ学習(Quasar)
要約 本論文は、非終端の最大末端成分(MEC)を含まないマルコフ決定過程(MDP)について、到達可能性問題を解くモデルフリー強化学習アルゴリズムQuasarを提案しています。古典的なQ学習と時間差分更新を用い、遷移確率を学習せずに最適方策へ収束します。標準化された量的検証ベンチマーク集合では、従来のモデルベース最先端手法より桁違いに少ないサンプル数で収束し、メモリ使用量もO(|S|^2|A|)からO(|S||A|)に削減されています。
注目点 遷移確率を推定しない初のモデルフリーかつ漸近保証付きの到達性学習で、メモリをO(|S|^2|A|)からO(|S||A|)に削減。QVBSで大幅なサンプル削減を示す。
Lu-Chin Chang, Suguman Bansal
★★★★☆ 注目
arXiv
cs.AI 2026年10月1日
説明 RealCompanion:長期の実対話からの推論による人間理解のベンチマーク
要約 本論文は、10組の人とAIコンパニオンの実際の関係を収めたデータセット RealCompanion を公開しています。最長120日間の計27,218件のメッセージに、ユーザープロフィール、ペルソナ、チャットと質問のテスト項目が付いており、各ラベルは根拠となるメッセージを指しています。分析では、人は過去の発言に言及することがまれであること(メッセージの3.4%のみが以前の内容に依存)、AIシステムは過去を引き出すべき時を判断しにくいこと、そしてAIは本人が示した以上に人物を推測しがちであることが示されています。
注目点 十件の実際の人間とAIの長期対話による新ベンチマークで、過去への参照の少なさと判断の難しさを示し、新規性と根拠は十分、影響は主に研究コミュニティに限られる。
Arman Behnam, Sunglyoung Kim, Jiayi Yu ほか
arXiv
cs.CV 2026年10月1日
説明 GIFTBench:画像改ざん位置特定の汎化性能を診断し、モデル設計に活かすベンチマーク
要約 本論文は、改ざん元、意味的対象、編集操作、合成の複雑さという複数の軸でピクセル単位の注釈が付いた115,013枚の改ざん画像からなるベンチマーク GIFTBench を提案しています。これを用いて、非対称な発生源間転移や、再現率が中心となる失敗などが診断されました。さらに、画像レベルの検出能力を保ちつつ、データセット間での位置特定を改善する検出・位置特定フレームワーク ForenScope も提案されています。
Baoke Dou, Ziye Wang, Hao Wang ほか
arXiv
cs.CE · cs.AI 2026年10月1日
説明 CODesign:全原子タンパク質結合体の協調設計におけるデータから軌道までの一貫性
要約 本論文はCODesignフレームワークを提案し、タンパク質を一から設計する際に配列と構造を同時に生成し、両者の整合性を保つことを目指します。著者らは約10万5千個の一貫性蒸留二量体を生成してデータの一貫性を高め、配列・主鎖構造・局所原子配置の同時分布を捉える多モーダル結合フローモデルと、配列と側鎖を反復的に洗練する一貫性重視の再サンプリング戦略を用いています。実験では計算機上の成功率が最も高いと報告され、蒸留データセットにより性能が70.9%向上したとされています。
Yuanle Mo, Bo Qiang, Haitao Lin ほか
arXiv
cs.SE · cs.AI 2026年10月1日
説明 CONTRA:LLMコード生成で挙動を変える質問を発見・選別し、選択的に確認する手法
要約 本論文は、要件が曖昧な場合にコーディングエージェントが選択的に確認質問を行うための、学習不要の手法CONTRAを提案しています。候補質問を生成して要件と無関係なものや既に解決されているものを除外し、二つの想定される回答それぞれに基づくプログラムの共通入力での挙動差を調べて質問を選別します。ClarifyCodeBenchでの実験では、四つのコーディングエージェントすべてで最高のF1を達成し、Claude CodeやOpenHandsを上回りました。
Zheng Fang, Yongmin Li, Yichang Zhang ほか
arXiv
cs.CL · cs.IR 2026年10月1日
説明 効率的なマルチホップ質問応答のためのMatryoshka階層型RAG手法
要約 本論文は、検索拡張生成(RAG)とMatryoshka表現学習(MRL)を組み合わせた階層型フレームワークMatRAGを提案しています。文書コーパスを粒度が段階的に粗くなる有向非巡回グラフ(DAG)のクラスタ構造に整理し、各階層を低いMatryoshka次元でインデックス化します。論文では、自上から下への反復的な探索とエンティティ駆動の仕組みにより、ホップ数の制御と候補の再ランキングを行うとしています。3つの標準的なマルチホップQAベンチマークで、7つの代表的なベースラインと比較し、検索品質で最も強い競合を上回ったと報告しています。また、知識グラフの構築やLLMによる要約を避けることで索引作成コストを下げ、次元を考慮した類似度計算でクエリ時のコストも抑えたとしています。
Gianluca Bonifazi, Christopher Buratti, Michele Marchetti ほか
arXiv
cs.AI · cs.CV 2026年10月1日
コードあり
説明 VideoEvolve:動画時間的グラウンディングのためのエージェントハーネス自動進化手法
要約 本論文は、自然言語のクエリから動画内の出来事を特定する動画時間的グラウンディングを扱う。凍結された動画言語モデルに基づくエージェントのハーネスを自動で進化させるフレームワーク「VideoEvolve」を提案しており、段階間のインターフェースを保ちつつワークフローと指示を進化可能にする表現と、有望なコード分支を保持して改良する手法を含む。複数のベンチマークで性能向上が示され、指示の改良が一貫した効果の源であったと報告されている。
Bingjun Luo, Yuhuan Fan, Jialin Guo ほか
arXiv
cs.LG 2026年10月1日
説明 開境界の水文グラフ上における物理補正型時空間予測
要約 本論文は、開境界の水文グラフで時空間予測が不安定になる問題を扱います。境界の外からの入力(上流の流入や潮汐信号など)は予測時に得られないことが多いとされています。著者らは、観測されない外部入力を近似するために境界と内部ノードから「ゴースト・ノード」の代理を学習する枠組みを提案し、二つの物理補正モジュールで自己回帰的な予測における誤差の蓄積を抑えます。二つの実際の水文グラフでの評価では、既存の学習ベースおよび物理情報モデルより長期予測の精度と安定性が高いと報告されています。
Haoyang Jiang, Zhengui Wang, Shenghan Gao ほか
arXiv
cs.AI 2026年10月1日
説明 TopK-Guided:効率的なLLM推論のための適応型・予算認識型アクティベーション疎化手法
要約 本論文は、大規模言語モデルの推論を高速化するための学習不要な手法TopK-Guidedを提案します。トークンごとの有界な疎度調整と、ブロックごとの感度を考慮した予算配分を組み合わせています。Llama-2およびLlama-3で、TEALやWINAより困惑度と下流タスクの精度を一貫して改善し、投影計算量はWINAとほぼ同じです。高い疎度で最も大きな改善が見られ、アブレーション実験では両構成要素が相補的に効果を示しました。
Mukund Agarwalla, Chih-Jen Lin
arXiv
cs.CV 2026年10月1日
説明 OneStreamer:ストリーミング動画対話における知覚・記憶・能動的応答の統合
要約 本論文はストリーミング動画向け大規模言語モデルOneStreamerを提案し、問いに関係なく証拠を記録しつつ、十分な証拠が揃った時点で応答することを目指す。能動的階層字幕メモリで出来事の字幕と要約を保持し、状態遷移学習で繰り返しの待機状態の影響を抑える。100万件超の記録からなるOneStreamer-1Mデータセットを構築し、4Bモデルは八つのベンチマークで比較手法中最良の結果を得た。
Xiangyu Zeng, Yuandong Yang, Zhiqiu Zhang ほか
arXiv
cs.CV 2026年10月1日
説明 PhysDEM:疎な観測下での時空間場生成のための物理定義エネルギーマッチング拡散モデル
要約 本論文は、支配方程式と空間的に疎な観測値を組み合わせ、複数の妥当な物理場を生成する物理定義拡散フレームワーク PhysDEM を提案します。PDE 残差エネルギーで測定条件付きガウス参照分布を重み付けし、ノイズ除去を教師あり学習に帰着させています。合成 PDE システムと実データに着想を得た応用での実験では、試験したノイズレベルで連続的な場の復元と効率的なサンプリングが示されています。
Zhenyu Liang, Yining Huang, Yubo Zhao ほか
★★★★☆ 注目
arXiv
cs.CV 2026年10月1日
説明 GenCOPE:ロボットピッキング向けのSyn2Real汎用カテゴリレベル物体姿勢推定
要約 本論文はGenCOPEを提案し、レンダリングされた合成データのみで学習したモデルを、実世界のカテゴリレベル物体姿勢推定に直接適用することを目指しています。2Dおよび3Dの意味的一貫性制約により領域不変な特徴を学習し、2D-3Dクロスモダリティ一貫性を用いたエンドツーエンドの姿勢回帰フレームワークを採用しています。グローバル特徴のみを用いるため構造は軽量です。REAL275とWild6Dのベンチマーク、および実ロボット操作の場面で、合成から実世界への汎化性能が良好であったと報告されています。
注目点 2Dと3Dの意味的一貫性制約および2D-3Dクロス一貫性学習を提案し、REAL275、Wild6D、実ロボット場面でSyn2Real汎化を検証しており、サブ分野に実質的な貢献がある。
Jian Liu, Wei Sun, Zhenqi Dai ほか
arXiv
cs.CV · cs.AI 2026年10月1日
説明 Cog-VADU:学習不要の認知推論による映像異常検知・理解フレームワーク
要約 本論文は、映像異常検知を逐次的な認知推論タスクとして再定式化し、学習を一切行わない枠組み Cog-VADU を提案している。CoADTP という手法により、大規模視覚言語モデルを映像セグメントをまたぐ再帰的な推論連鎖として展開する。さらに、テキストの推論と視覚埋め込みを整合させる跨モーダル再ランキングを導入している。複数の公開ベンチマークで、ゼロショットにおいて競争力のある性能を示したと報告されている。
Mohd Ubaid Wani, Sara Atito, Josef Kittler ほか
arXiv
cs.LG 2026年10月1日
説明 証拠ゲート型研究:適応的探索におけるモデル採用の統計的制御
要約 本論文は、適応的モデル探索では一度採用されたモデルが以後の候補の基準になるため、統計的根拠の弱い置き換えが未提案の仮説に影響しうると指摘する。著者らは証拠ゲート型研究(EGR)を提案し、挑戦者の採用を随時有効な証拠と逐次制御器で管理する。5,000軌道の閉ループ評価では、監査した一部のEGR variantで持続的な誤採用経路は観察されず、600組の再生実験では決定証拠を56.1%削減したと報告している。
Yifan Guo
arXiv
cs.CV 2026年10月1日
説明 FFBL-Coop:対応付けを分離した協調型3D多物体追跡
要約 本論文は、複数エージェントによる協調型3D多物体追跡のためのFFBL-Coopフレームワークを提案します。観測情報を先に融合し、その後で識別子を結び付ける方式で、インスタンスの受け入れと識別子の管理を分離しています。信頼度順のスロット割当(CSA)、統一表現集約(URA)、協調優先の識別子アンカリング(CPIA)の3モジュールと共有コードブックで構成されます。V2X-Seqでは AMOTA/AP が 0.611/0.548、Griffin-25Mでは 0.688/0.653 と報告されており、コードは公開予定とされています。
Haoxin Wu, Xiaokai Bai
arXiv
cs.CY · cs.HC · cs.LG 2026年10月1日
説明 解釈の不確実性を前提とした設計:トポロジカル学習分析ダッシュボードのアーキテクチャと原則
要約 本論文は、学習管理システムのデータにZigzag永続ホモロジーを適用するダッシュボードシステムTopoLAを紹介します。解釈の枠組みが確立していない分析手法の結果を提示するため、客観的測定と文脈的解釈の分離、指標からパターン、振り返りの問いへと段階的に示すこと、方法論的な不確実性を明示することの三つの初期設計原則を提案しています。システムは特徴抽出、位相計算、解釈支援の三段階からなるモジュール型パイプラインで構成されています。
Hitoshi Inoue, Koichi Yasutake
arXiv
cs.RO · cs.CV · cs.LG 2026年10月1日
説明 エンドツーエンド学習とモジュール型アーキテクチャの自動運転システムに関する比較分析
要約 本論文は、自動運転の二つの設計方式、すなわち生のセンサー入力を直接運転操作へ写像するエンドツーエンド学習(E2E Learning)と、知覚・認識・計画・制御などの部分システムに分けるモジュール型アーキテクチャを比較しています。解釈可能性、拡張性、頑健性、実用性などの観点から、両者の長所と短所、トレードオフを検討しています。両者の長所を組み合わせたハイブリッド方式が有望な方向として挙げられています。
Kartik B. Kapse
arXiv
cs.CV · cs.RO 2026年10月1日
コードあり
説明 3DROID:可視化可能な3Dガウシアンデータセット(シーンごとの信頼性指標付き)
要約 ロボット操作モデルは主に二次元の観測から推論しますが、実際の動作は三次元空間で行われます。本論文は、フィードフォワード型3Dガウシアンスプラッティング(3DGS)において、カメラ外部パラメータの信頼性と姿勢条件付けが与える影響を調べ、再構成したシーンをロボットの計量的な作業空間に合わせるキャリブレーション対応のパイプラインを提案しています。実験では、姿勢条件付けによって新規視点の描画品質が向上するものの、その幾何学的な効果は注入される外部パラメータの信頼性に依存することが示されました。著者らはこのパイプラインを用いて、シーン単位の信頼性情報を備えた、描画可能で計量的な姿勢に固定されたデータセットを公開しています。
Wonguen Cho, Junhoo Lee, Nojun Kwak
arXiv
cs.RO · cs.CV 2026年10月1日
説明 世界運動モデル:SE(3)軌跡の柔軟な系列モデリング
要約 本論文は、動的な三次元シーン内の様々な対象を疎なSE(3)姿勢軌跡で表現する世界運動モデル(WMM)を提案します。関節物体、人体、ロボットの状態や動作などを共通の空間に統合し、ノイズレベルをトークンごとに設定するフローマッチングで同時分布をモデル化します。同一のネットワークに異なるマスクを適用することで、未来予測や運動補間、逆運動学などの多様なタスクを実行でき、六つの応用で良好な結果が示されています。
Jiahui Lei, Qianqian Wang, Trevor Darrell ほか
arXiv
cs.CV 2026年10月1日
説明 ATI-VLA:行動中心の予測型視覚・言語・行動モデル(論文)
要約 本論文は、ロボット操作の性能向上を目指す ATI-VLA フレームワークを提案しています。著者らは、既存の予測型視覚・言語・行動(VLA)モデルが、観測と行動のモダリティのずれや共同最適化の衝突により、行動を直接予測するモデルより性能が低いと指摘します。手法は二段階で、共有コードブックで予測観測と行動の表現を整合させ、その後、軽量な適応サイドパスで予測潜在表現を行動デコードに注入します。シミュレーションと実機タスクで最先端の性能を示し、収束も速いと報告されています。
Yijie Zhu, Rui Shao, Jie He ほか
arXiv
cs.LG 2026年10月1日
説明 離散空間上の不動点ニューラルサンプラー:データなしで非正規化分布から直接サンプリングする手法
要約 本論文は、離散的な非正規化分布からデータなしでサンプリングするための不動点ニューラルサンプラー「Discrete Gibbs Iterative Neural Sampler」を提案している。本手法はマスク付き拡散を基盤とし、二つの分布間の輸送へも拡張されている。著者らは、高次元系へ効果的に拡張でき、異なる条件での償却サンプリングに対応し、合金の相図を正確に推定できると述べている。
Jiajun He, Denis Blessing, Mouyang Cheng ほか
arXiv
cs.CY · cs.LG 2026年10月1日
説明 参加度に敏感な収束と「先に断片化、後に収束」パターン:OULAD 22コースの位相解析
要約 本論文は、非同期オンライン学習における学習コミュニティの構造変化を、ジグザグ永続ホモロジーによる非連結な行動クラスタ数β₀で分析します。22のOULADコース(学習者 22,000人超、857の週ペア)を対象に、β₀の収束が真の行動の一致か、それとも学習者の離脱によるものかを検証しています。β₀の変化はアクティブ学習者数と強く共変し、参加度に敏感な指標であると結論づけています。締切後に断片化と収束が繰り返されるパターンも報告されています。
Hitoshi Inoue, Koichi Yasutake
arXiv
cs.LG 2026年10月1日
コードあり
説明 実行可能な検証器を用いた関数構造型強化学習による数学的推論
要約 本論文は、部分問題グラフとPythonの実装を結び、複数の検証器によるフィードバックを用いる関数構造グラフ強化学習(FSG-RL)を提案している。まず教師ありファインチューニング(SFT)で関数グラフからコードを生成することを学習し、その後、GRPO(Group Relative Policy Optimization)が回答ゲート型報酬とスパンレベルのクレジット割り当てで方策を最適化する。GSM8K、MathQA、MATH、Omni-MATHから構築したベンチマークでは、GRPOによりSFTと比べて最終回答精度が43.25%から67.50%、完全な解答成功率が32.25%から52.25%に向上したと報告している。
Zihan Liu, Xurong Xie
arXiv
cs.LG · cs.AI · math.OC 2026年10月1日
説明 スキップ接続による平面特徴の疑似極小値の除去
要約 本論文は、教師・生徒設定における浅いバイアスなしReLUネットワークのガウス母集団損失を研究し、その局所極小値の構造を分析しています。学習可能な線形スキップ接続を加えると、生徒ネットワークの幅が教師ネットワーク以上であれば、非負の出力重みを持つすべての疑似局所極小値が消えることを示しています。一方、スキップ接続がない場合は、過剰パラメータ化しても疑似極小値が残りうることを構成的に示しています。
Jakob Paul Zimmermann, Andrei Balakin, Moritz Grillo ほか
arXiv
cs.LG · eess.AS 2026年10月1日
説明 パルス間隔の変動がコウモリ発声の深層学習分類に与える影響
要約 本研究は、コウモリの連続する発声の開始時刻の間隔(IPI)の変動が種の識別に有用な情報を含むか、またTransformerモデル(PaSST)が畳み込みニューラルネットワーク(EfficientNet-B0)よりこの情報を効果的に利用するかを検討しています。欧州のコウモリ録音を用い、元のタイミングを保つ条件と50ミリ秒間隔に正規化した条件を比較しました。IPI正規化の効果はモデルによって異なり、全体としてIPIの自然な変動が種分類に大きく寄与する、またはTransformerがそれをより有効に使うという仮説への支持は限定的でした。さらに、正規化データで学習したモデルは自然録音では性能が低下しました。
Welmoed R. Eversteijn, Burooj Ghani, A. Leonie Baier ほか
arXiv
cs.LG 2026年10月1日
説明 RelICL:表形式基盤モデルを用いた学習不要の関係学習
要約 本論文は、追加学習なしで関係データを扱う手法 RelICL を提案しています。関係スキーマのグラフに沿って情報を段階的に伝播・統合し、最終的な予測に用いるのと同じ表形式基盤モデルでその処理を行います。著者らは、深層特徴合成(DFS)における特徴数の爆発と特徴間相互作用の無視という二つの問題を指摘しています。RelBench のタスクによる実験では、RelICL は最も強力な DFS ベースの手法と同等の性能を示したとされています。
Simon Forbat, Rainer Gemulla
arXiv
cs.CV 2026年10月1日
説明 拡散モデルにおける記憶の緩和の再考:テキスト条件付けの強化
要約 テキストから画像を生成する拡散モデルは、学習画像をほぼそのまま再現する記憶現象を示すことがあります。本論文は、ガウス平滑化でクロスアテンションを再配分し、内容語の寄与を強めてパディング語の寄与を弱める、追加のデノイザ評価を必要としない学習不要の手法を提案しています。Stable Diffusion v1.4 と v2.0 では、評価したすべての平滑化幅が、学習画像との類似度とプロンプトへの整合性・画像の好みの経験的パレートフロンティア上にありました。Stable Diffusion で選んだ設定は、DeepFloyd IF でもテンプレートの再現を減らしました。
Hyungjun Joo, Sehwan Kim, Hyeonggeun Han ほか
arXiv
cs.LG 2026年10月1日
説明 パンタグラフ・架線系の異常検知と位置特定
要約 本論文は、パンタグラフ・架線系(PCS)の健全性監視を扱う。既存の産業向けソリューションは、畳み込みニューラルネットワークを用いた映像監視で接触線の高さとスタッガー(偏位)を追跡するが、列車の路線の地理的位置は考慮していない。著者らは、接触線の高さとスタッガーを基準路線の標準GPS座標と照合して位置を特定し、さらにPCSの健全性を評価するための集合的異常検知を行う枠組みを提案する。イタリアの鉄道路線における複数の列車運行の実データを用いて事例評価を行っている。
Francesco Vitale, Hangli Ge, Francesco Flammini
arXiv
cs.AI 2026年10月1日
説明 vFedProtoQNAS:仮想連合学習のためのプロトタイプ誘導型個別化量子ニューラルアーキテクチャ探索
要約 本論文は、デバイスごとに能力が異なるため単一の量子ニューラルネットワーク構造を全クライアントで共有できない問題に取り組み、vFedProtoQNAS を提案している。各クライアントは自身の量子ニューラルネットワークを独立に探索・学習し、パラメータは共有せず、クラスごとのプロトタイプを共有して協調する。実験では、FedAvg と比べて精度が 3.70% 向上し、クラス間で一貫した表現の整合性も改善したと報告されている。
Seok Bin Son, Samuel Yen-Chi Chen, Soohyun Park ほか
arXiv
cs.CY · cs.AI 2026年10月1日
説明 設計者なき構造?分断された世界におけるAIのグローバル・ガバナンス
要約 本稿は、Matthijs Maas の『Architectures of Global AI Governance』に対する書評エッセイです。AIガバナンスは単一の制度では統括しにくく、国際的な対応は分散しており拘束力に乏しいと論じています。著者は、制度設計は権力の配分と切り離せず、国家と少数の民間企業がそれぞれ異なる形の権力を持つと指摘しています。
Simon Chesterman
arXiv
cs.LG · cond-mat.dis-nn · stat.ML 2026年10月1日
説明 単一指標ターゲットのインコンテキスト学習:カーネル学習器と特徴学習器の比較
要約 本論文は、事前学習済みモデルがパラメータを更新せず、示例から課題を推論するインコンテキスト学習(ICL)の非線形ケースを扱います。同じ単一指標タスク群に対し、固定の非線形特徴写像の後に線形アテンションを適用するカーネル学習器と、元の入力にアテンションを適用した後に学習可能な非線形読み出しを行う特徴学習器の二つの1層アテンション構造を比較します。レプリカ法で記憶誤差と汎化誤差を導出し、数値実験と良く一致することを示しています。
Haotian Gu, Yizhou Xu, and Lenka Zdeborov\'a
arXiv
cs.AI · cs.CV 2026年10月1日
説明 CoEvolve:構築してから編集する視覚的グラウンディングと双方向状態洗練
要約 本論文は、視覚的グラウンディングを明示的な状態の構築と状態編集の二段階に分ける CoEvolve を提案している。RER は意味から空間への段階的な軌跡に沿って候補領域を生成し、BDR は推論テキストを固定したまま座標を双方向に再構成して洗練する。論文によると、9B のバックボーンで最大 241B パラメータのモデルに匹敵する精度を示し、制御された劣化条件では単一の BDR 処理で平均ボックス重なりが 27 ポイント以上向上した。
Dongwei Sun, Yujie Zhang, Bowen Yao ほか
arXiv
cs.CV 2026年10月1日
説明 MEGA:空間視覚蒸留により3Dガウシアンスプラッティングからオブジェクト単位のメッシュを抽出する手法
要約 本論文は、複雑な3Dガウシアンスプラッティング(3DGS)シーンから、オブジェクト単位で水密(watertight)なメッシュを抽出するMEGAフレームワークを提案します。手法は「分割してからメッシュ化する」流れを採り、中核となるのは空間視覚蒸留(SVD)です。3DGSモデルを教師として多様なカメラ姿勢で各分割オブジェクトの視点を描画し、その画像による測光的監督でメッシュ再構成モデルを学習します。著者らは、複数の代表的ベンチマークにおいて正確なオブジェクト単位の3D占有の復元で最高水準の性能を示したと報告しています。
Liwei Liao, Yingkui Zhang, Qianqian Tong ほか
arXiv
cs.CL 2026年10月1日
説明 テキスト分類の継続学習のためのタスク指向ランク適応(TORA)
要約 本論文は、テキスト分類の継続学習における破滅的忘却と負の転移の問題を扱い、タスク指向ランク適応手法TORAを提案しています。LoRAアダプタの低ランク構造を利用し、構造的類似性に基づいて最も適合する専門家からの知識転移(Boosting)か、新タスクの隔離(Shielding)かを決定します。15のテキスト分類ベンチマークでの評価では、互換性のあるタスクは隔離学習を上回り学習時間も短縮され、構造的に遠いタスクは干渉から保護されたと報告されています。
Rey Sanchez Lopez, Eduardo Morales Manzanares, Hugo Jair Escalante
arXiv
cs.LG 2026年10月1日
説明 部分多様体間のPDE動力学の学習:グリーン観測演算子による手法
要約 多くの物理系は、より大きな空間領域の低次元部分多様体上でのみ駆動・観測されるが、その動力学は領域全体を占める周囲媒質によって支配される。本論文は、グリーン観測演算子(GObO)を提案する。これは周囲媒質を一度だけ、線形PDEの源と観測部分多様体に制限したグリーン核へ写像する手法である。新しい源に対しては低次元の積分一回のみを要し、ネットワークの評価は不要である。三次元の熱伝導および移流拡散問題での実験では、移動源に対するゼロショット予測の誤差が黒箱代理モデルより4〜8倍小さく、1回の問い合わせあたり約1.4ミリ秒であった。
Jan Tauberschmidt, Jephte Abijuru, Naukshatro Bose ほか
arXiv
cs.CL 2026年10月1日
コードあり
説明 Acmite:概念誘導型相互情報量による大規模言語モデルのジェンダーバイアス緩和
要約 大規模言語モデルは学習データに含まれる社会的ステレオタイプを再現することがあります。本論文は、ステレオタイプを構造化された意味概念として表し、MMRで多様な概念を選び、トークン単位のKLダイバージェンスでモデル出力と概念の依存関係を近似して抑制する、軽量な概念誘導フレームワーク「Acmite」を提案しています。ベースモデルを凍結したLoRAアダプタは、入力がステレオタイプ関連概念に十分類似する場合にのみ推論時に有効になります。BBQ、CrowS-Pairs、StereoSetでジェンダーバイアスの緩和を示し、ARC-Challenge、GSM8K、PIQAでは競争力のある性能を維持したと報告しています。
Tian Lan, Xiaoqing Cheng, Han Zhang ほか
arXiv
cs.LG · eess.SP 2026年10月1日
説明 アーティファクト注釈は個人別キャリブレーションを部分的に代替できる:SAFE-EDAと正規化を統制した手首EDA感情認識の評価
要約 本論文は、43名の被験者の専門家によるアーティファクト注釈で事前学習した小型畳み込みネットワーク SAFE-EDA を提案し、WESAD(15名、留め残し被験者法)上で同じ構造をゼロから学習させた場合と比較しています。正規化統計量を訓練被験者のみから得た場合、事前学習によりマクロF1が0.078〜0.227向上しました。被測定者自身の全記録から得た場合、向上幅は0.020〜0.050に縮小し有意ではなくなりました。正規化データの出所を報告することが、初回使用時の性能とキャリブレーション後の性能を区別するために必要だと指摘しています。
Haochen Chai, Xinbi Luo, Zining Liu ほか
arXiv
cs.CL 2026年10月1日
説明 複合語の解釈は類推に基づく:複合類推モデル(CAM)の提案
要約 本論文は、複合語の構成要素の単語ベクトルと、各構成要素が属する複合語ファミリーの平均シフトベクトルを足し合わせて複合語の表現を予測する、パラメータフリーの複合類推モデル(CAM)を提案している。中国語の複合語でCAOSSモデルと比較したところ、三字語を除き予測精度が高かった。さらに、CAMから導かれる意味指標が二字複合語の視覚的語彙判断の反応時間をよりよく予測することも示された。
Tian Shen, Harald Baayen
arXiv
cs.CV · cs.AI 2026年10月1日
説明 アーキテクチャ・サンプリング:凍結された視覚言語モデルにおける計算多様性によるテスト時スケーリング
要約 本論文は、デコーダ層の一部ブロックを再利用して異なる順伝播計算を経由させることで候補解を生成する、学習不要の「アーキテクチャ・サンプリング」手法を提案しています。モデルの重みを更新せず、補助パラメータも追加しません。5つのQwenチェックポイントと12のマルチモーダルベンチマークにおいて、同じ9候補の予算下で、標準経路の温度サンプリングに比べpass@9が平均6.58ポイント向上したと報告されています。早期層の再利用が最も大きな効果を示し、貪欲復号でも候補の網羅性の向上が維持されます。
Akshit Singh, Shyam Marjit, Wei Lin ほか
arXiv
cs.LG 2026年10月1日
説明 MiLoop:ニューラル組合せ最適化のための選択的メモリ伝播手法
要約 本論文は、強化学習のみに基づく構築型のニューラル組合せ最適化フレームワーク MiLoop(Memory-in-the-Loop)を提案している。各ステップで現在の埋め込みと過去のメモリを融合し、適応ゲート付きで表現を更新することで、外部の解ラベルや学習時の探索空間の刈り込みなしに、浅いポリシーでも有効な動的埋め込みを学習できるとしている。4種類の組合せ最適化問題での実験では、100ノードから1000万ノードまでのインスタンスで高品質な解を安定して得られ、強い汎化能力を示したと報告されている。
Changliang Zhou, Yuanyao Chen, Rongsheng Chen ほか
arXiv
cs.LG 2026年10月1日
説明 MuLoRA:継続学習のためのスペクトル均衡型低ランク適応手法
要約 本論文は、継続学習における低ランク適応(LoRA)では、逐次的な適応の過程で更新エネルギーが少数の特異モードに集中し、利用可能な低ランク空間の多くが十分に活用されないと指摘し、これを「スペクトル可塑性崩壊」と呼びます。提案手法MuLoRAは、履歴白色化により現タスクに強く反応する入力方向を選び、運動量更新に近似極直交化を適用して選択空間内のスペクトル集中を抑えます。5つのクラス増分ベンチマーク、8つの増分設定での実験において、16の報告指標のうち15で最高の平均精度を達成したとされています。
Junkang Liu
★★★★☆ 注目
arXiv
cs.RO · cs.CV 2026年10月1日
コードあり
説明 総合スコアを超えて:歩行者環境における解釈可能な追跡評価のための実運用重視プロトコル
要約 本論文は、共有検出結果を用いて追跡器単体の性能を切り分け、初期化、検出欠落時の追跡継続、ID復元、近接物体の対応付け、組み込み機器上の実行時間を評価する、実運用を重視したプロトコルを提案しています。JRDBデータセットで6つのオープンソース追跡器と軽量な参照追跡器PedRefTrackを評価し、検出なしで1.0秒経過すると、GT支援なしの追跡器は半数以上の事例で正しい位置と同一IDを維持できないことを示しています。また、混雑したフレームでは一部の追跡器がリアルタイム目標の10 Hzを下回ります。
注目点 初期化、検出欠落時の追跡継続、ID維持、実行時間を分離する配備指向の評価プロトコルを提案し、JRDBで6種の追跡器により実証している。
Dominik Wojcikiewicz, Diego Paez-Granados
arXiv
cs.CV 2026年10月1日
説明 テキストから画像生成は編集をどう助けるか:ノイズ除去中の条件付けの影響
要約 統合モデルは指示ベースの画像編集とテキストから画像生成(T2I)の両方で学習されている。本論文は、編集がT2Iの能力を活用できるかを検討し、ノイズ除去の各段階で条件付けの効果がどう変わるかを調べた。純粋な編集では、一部の編集でサンプリング過程の途中から元画像への注目が減少することが分かり、限られた区間でT2Iタスクに切り替える「タスク切り替え」を提案している。3つの統合編集モデルと4つのベンチマークで、この切り替えは編集品質を向上させ、平均的な知覚的保持は純粋な編集に近いままだった。切り替えのタイミングが品質と保持のバランスを決める。
Lidia Troeshestova, Alexander Ustyuzhanin, Sergey Kastryulin
arXiv
cs.LG 2026年10月1日
説明 Invent a Dataset:種データなしでデータセット生成能力を測る
要約 本論文は、開発者が対象能力のデータを一切持たない極端な状況を扱い、データセットの説明文から現実的で大規模な事後学習用データセットを生成するプロンプトベースのシステム Invent-A-Dataset を提案しています。八種類のタスクと最大2万件のサンプルの条件で、五つのフロンティアモデル API と比較し、品質と多様性の両方で上回ったと報告しています。多様性の優位性はデータ規模とともに拡大し、生成データで微調整したモデルも性能が高いとしています。
Shivalika Singh, Andrija Djurisic, Gbemileke Onilude ほか
arXiv
cs.CV · cs.LG 2026年10月1日
説明 MLLMの審査員は編集そのものを評価しているのか?検証済みの品質保持性を用いた画像編集評価のバイアス監査
要約 本論文は、反事実ベンチマーク「EditJudgeBias」を提案する。これは実際の画像編集サンプル1,196件と、4つの評価箇所に注入した13種類の手がかりから構成され、キャリブレーション済みのマルチモーダル検証器、対照実験、人手による確認で、注入した手がかりが編集品質を変えないことを検証している。この基準を用いて5つのMLLM審査員を、手がかりへの不変性、人間の判断との一致、ペア比較の選好の安定性の3点から監査した。その結果、品質を保つ手がかりによって、どの審査員のスコアも自身のノイズを超えて変動し、候補の順序を入れ替えると最大60.9%のペア判断が反転することが示された。
Yuan Huang, Zirui Song, Xiuying Chen
★★★★☆ 注目
arXiv
cs.LG · q-bio.BM 2026年10月1日
説明 pCoMole:離散フローを用いたパレート制約付き分子編集手法
要約 本論文は、生体分子配列を多目的かつ厳しい制約のもとで編集するためのフレームワーク pCoMole を提案している。離散フローマッチングに基づき、事前学習済みの編集フローをユーザー指定の選好へ誘導しつつ、最終的な実現可能性を保証する。GFP の短縮、Cas9 オーソログの短縮、ペプチド結合剤の圧縮などで検証し、湿式実験では229残基の設計 eGFP 2種が BL21 細胞で緑色蛍光を保持したと報告している。
注目点 離散フローマッチングとDoob-h変換を組み合わせ、制約付き多目的配列編集を行い、GFP短縮変異体の湿式実験で蛍光維持を示した。新規性と証拠は強く、影響は生体分子設計分野に限られる。
Tong Chen, Maximilian Holsman, Lin Zhao ほか
arXiv
math.OC · cs.LG · stat.ML 2026年10月1日
説明 非凸-凹極小最適化における分散削減を用いた確率的一次法の下界
要約 本論文は、分散削減を用いることができる確率的一次法について、非凸-凹極小最適化における計算量の下界を示す。ゼロ尊重型のアルゴリズムクラスに対する下界を与え、不偏で分散が有界かつ平均二乗滑らかな確率的一次オラクルの仮定の下で、精度、双対領域の半径、ノイズへの依存性を定量化している。非凸-強凹の場合についても相補的な下界を与えている。
Jiayi Song, Zi Xu
arXiv
cs.CV 2026年10月1日
説明 DiVid:動画生成モデルにおける次元別の多様性崩壊を診断する手法
要約 動画生成モデルは同じプロンプトから繰り返しサンプリングすると、出力が非常に似通うことが多く、創作的な探索に制約が生じます。本論文は、動画の多様性を意味、スタイル、被写体、シーン、動き、カメラの6つの解釈可能な次元に分解するDiVidフレームワークを提案し、再現可能なコンピュータビジョンの手順で次元ごとに測定します。動きとカメラの次元で多様性の崩壊が特に目立ち、テキストだけで時間的要素を制御する際の忠実性の損失も大きいことが示されています。
Huanran Hu, Zihui Ren, Dingyi Yang ほか
arXiv
cs.LG · cs.AI 2026年10月1日
説明 意味的なロールアウト分析による反復的な方策の改良
要約 本論文は、大規模言語モデルを用いて方策のロールアウトを表形式のデータとして分析し、模倣学習における構造化された方策を反復的に修正する閉ループの枠組みを提案している。人手による指示は不要である。カーレースとドア開閉のタスクでの実験では、ゼロショットで生成された構造と比べて模倣学習の性能が最大15%向上し、同じ強化学習の性能を得るための計算量は75%削減されたと報告されている。
Feiyu Gavin Zhu, Qi Xu, Zhifei Deng ほか
★★★★☆ 注目
arXiv
cs.LG 2026年10月1日
説明 CrossGMN:異なるアーキテクチャ間の重み空間変換のためのグラフメタネットワーク
要約 本論文は、学習済みニューラルネットワークのパラメータを直接扱うグラフメタネットワーク CrossGMN を提案し、構造の異なる目標ネットワークへの変換(モデル圧縮など)に用いる手法を示しています。元ネットワークと目標ネットワークの初期化を同時に入力し、対称性を保つ相互ネットワーク間メッセージパッシングで目標ネットワークの初期化を改善します。論文では、INR や画像分類モデルにおける知識蒸留を最大 8.89 倍高速化したと報告しています。
注目点 異なるアーキテクチャ間の重み空間に対する等変演算子の新しい定式化を提案し、普遍性を証明。2D/3D INRや画像分類で検証し、蒸留を最大8.89倍高速化。
Adir Dayan, Yam Eitan, Haggai Maron
arXiv
cs.DC · cs.LG 2026年10月1日
説明 スマートビル向けのクラウド・フォグ・エッジ・システム構想
要約 本論文は、建物自体をデータセンターとみなし、建物内のリアルタイムデータから学習する分散型システムの構想と最近の進展を示します。データ主権やインフラの制約が重要となる人道支援の現場などを想定し、軽量な「Kubernetes 風」のオーケストレーション枠組みと、Arduino 系などの低消費電力マイクロコントローラへのAIアルゴリズム実装を紹介しています。あわせて2種類の新しいオンラインアルゴリズムを評価し、実データによる実験結果を示しています。
Christophe C\'erin, Mamadou Sow, Fr\'ed\'eric Andr\`es
arXiv
cs.LG 2026年10月1日
説明 人口比率の均衡を超えて:MIMIC-IV 死亡率予測における公平性の多指標・交差的評価
要約 本論文は、MIMIC-IV を用いた ICU 死亡率予測を対象に、複数の公平性介入手法を予測効用とサブグループ誤差の指標で比較しています。また、死亡結果を条件としずに人種・性別・保険の代表性を同時に均衡させる軽量な適応手法を提示し、周辺レベルと三重交差サブグループの両方で評価しています。結果として、正解率/AUROC、感度、偽陽性率によって介入の評価が大きく異なること、また周辺の人口統計的要約が各交差サブグループ内の異なる誤差傾向を覆い隠しうることが示されています。
Abdullah Al Noman, Fahmid Al Rifat, Tahrima Hashem ほか
arXiv
cs.LG · cs.AI · stat.CO 2026年10月1日
説明 MCIR:特徴量の依存関係を考慮し信頼性を保証する説明可能性手法
要約 現代の機械学習モデルには強く依存したり冗長な特徴量が含まれることが多く、SHAPやLIMEなどの手法は多重共線性の下で順位が不安定になることがあります。本論文は、強い依存関係を持つ近傍を条件とし、各特徴量が近傍を超えて持つ固有の予測情報を測る相互相関影響比法(MCIR-M)を提案します。あわせて一部のデータでMCIRを推定する軽量な手順も示されています。実験では、近似重複した特徴量を注入した合成データで最も明確な優位性が見られ、実データでの比較結果は基準によって分かれています。
Poushali Sengupta, Sabita Maharjan, Frank Eliassen ほか
arXiv
cs.CV · cs.AI 2026年10月1日
説明 すべての誤りが規模拡大で解消するわけではない:視覚言語推論で規模拡大が効かなくなる境界
要約 本論文は、固定の計算予算の下で、より多くの視覚情報を処理するか、より大きな言語バックボーンを使うかという視覚言語モデルのトレードオフを扱っています。言語バックボーンの規模と視覚トークン数に応じて性能がどう変わるかを表す「可分離則」を提案し、26のInternVLおよびQwenVLモデル(1Bから72B)を4つの高解像度ベンチマークで測定して当てはめています。その結果、規模に反応する問題は必要な能力から予測できる一方、かなりの割合の問題は規模にまったく反応しないことが示されています。
Xinye Zhao, Yunkai Dang, Yunchen Wu ほか
arXiv
cs.LG 2026年10月1日
説明 FedSAP:多領域の異種エッジデバイス向け構造化適応分割フェデレーテッド学習
要約 本論文は、計算資源の予算が異なり、局所データに領域のずれがあるエッジデバイス上のフェデレーテッド学習を扱い、FedSAPという枠組みを提案しています。構造化プルーニングを予算制約付きの三状態チャネル割り当てとして定式化し、安定したチャネルをグローバルプールに、領域に敏感で有用なチャネルを擬似領域ごとのプライベートプールに、低効用のチャネルを破棄状態に割り当てます。Digits と Office-Caltech での3つの乱数シードの平均グローバル精度は、それぞれ76.00%と72.67%で、最強のベースラインを1.70ポイントと4.92ポイント上回り、クライアントのプルーニング率は最大80%に対応しています。
Wentao Yue, Tianyou Lai, Hongji Li ほか
arXiv
cs.CV 2026年10月1日
説明 多層融合Transformerによる視覚とテキストの表現統合:ベトナム語の視覚的質問応答
要約 視覚的質問応答(VQA)は、画像について自然な形で質問に答えるようコンピュータに求める研究分野ですが、ベトナム語での研究はごくわずかです。本論文は、交差注意モジュールを用いて画像とテキストの異なる層の多モーダル特徴を統合表現にまとめる多層融合Transformerモデルを提案しています。低レベルから高レベルまでの情報を抽出する構成になっています。ViVQAデータセットでの実験と削除実験により、競合するベースラインに対して有望な結果を示したと報告しています。
Cong Phu Nguyen, Huy Tien Nguyen, Tung Le
arXiv
cs.CL 2026年10月1日
説明 Yo-ByT5:ヨルバ語の効率的で高忠実な発音区別符号復元モデル
要約 ヨルバ語は声調言語で、発音区別符号によって語の意味を区別するが、これらを省略して表記されることが多く、自然言語処理の下流タスクを妨げている。本論文は、ByT5-small をファインチューニングしたバイトレベルの自動発音区別符号復元(ADR)モデル Yo-ByT5 を提案する。YAD ベンチマークで、公開された5つのヨルバ語 ADR モデルおよび1つのオープンウェイト大規模言語モデルと統一的な条件で比較した。Yo-ByT5 は最強の既存モデル mT5-base と同等の性能(DER 10.14%、CER 3.48%)を示し、パラメータ数は約半分ながらテキストの忠実度に優れる。
Ahmad Samuel Gali (1), Shamsuddeen Hassan Muhammad (2, 3) ((1) University of Lagos ほか
arXiv
cs.LG 2026年10月1日
説明 マグニチュードポテンシャルから見たニューラルネットワークの汎化
要約 本論文は、距離のマグニチュード理論に基づく「マグニチュードポテンシャル(magnitude potential)」という量を提案し、ある点が与えられた点集合によってどれだけよく表現されているかを測ります。論文では、ロジット層で計算されるクラス別と全データのマグニチュードポテンシャルの比が、Feldman の記憶化スコアと相関すること、決定境界の構造変化を検出できること、剰余算術でのグロッキング(grokking)の幾何学的指標になることを報告しています。ニューラルコラプス(neural collapse)を抑制した場合でも、この比は有用な情報を持つとされています。
Sahel Torkamani, Henry Gouk, Rik Sarkar
arXiv
cs.MA 2026年10月1日
説明 協調を学習した後:マルチエージェント強化学習における勾配ルーティングと最適化器依存の維持
要約 本論文は、マルチエージェント強化学習で学習された協調行動が、学習を続けても維持されるかを検討しています。価値損失の勾配が共有のactor特徴を更新する設定、評論家を残して勾配を遮断する設定、評論家を除いた参照設定の三つを比較しています。報酬スケールが大きいと、勾配が共有特徴に直接入る設定で協調が失われやすく、遮断した設定はほぼ安定しました。このことから、危険性は価値勾配の直接的なルーティングに関連する条件付きのものであり、評論家全般の問題ではないと結論づけています。
Chaoyuan Hao, Wentao Yue, Tianyou Lai ほか
★★★★☆ 注目
arXiv
cs.CL · cs.AI 2026年10月1日
説明 何が問題を難しくするのか?自然言語で問題の難易度を説明する
要約 本論文は、ある問題が別の問題より難しい理由を自然言語の仮説として自動生成し検証するデータ駆動型の手法を提案します。まず項目反応理論を用い、多数の大規模言語モデルの回答から各問題の難易度を推定します。次に易しい問題と難しい問題の対を比較して候補となる説明を提案し、保留した問題で検証・選択します。数学、論理、常識推論の3つのデータセットで、これらの仮説は解釈可能かつ予測力があり、既存の難易度回帰モデルの性能も向上させることが示されています。
注目点 データ駆動で問題難易度の自然言語仮説を自動生成・検証し、問題編集による因果性も示しており、三データセットでの実験により根拠は比較的充実している。
Peng Cui, Qiaoyuan Zheng, Rudolf Debelak ほか
arXiv
cs.AI 2026年10月1日
説明 アクションチャンキングの背後にある安定性の仮定を測定する研究
要約 この論文は、行動クローニングで学習した方策の性能をアクションチャンキングが向上させる理由を検討しています。各状態に小さな行動誤差を入れ、開ループと閉ループの二つの実行方式で、その誤差が拡大・縮小・判定不能のいずれになるかを測定しました。三つのベンチマーク群の十二の操作タスクでは、確実に安定した状態はまれで、誤差の増幅が一般的でした。
Aryan Goyal
arXiv
cs.CV 2026年10月1日
説明 領域レベル適応を超えて:個別化連合型視覚言語モデルのためのマージン指向意味-外観相互作用補正
要約 本論文は、連合型パラメータ効率的微調整におけるクライアント間のドメイン差異の問題を扱います。既存の個別化手法は各ドメインをクラスに依存しない変換として扱うが、それでは不十分であり、画像とテキストの決定マージンを損なうのは一部のクラス-ドメイン残差のみだと著者らは指摘します。これを受けてMOSAICを提案し、決定を考慮した有害度スコア、低ランク残差アダプタ、画像条件付きゲートによってこれらの相互作用を補正します。Office31、OfficeHome、DomainNet100での実験では、評価したすべてのドメインシフト設定でマクロクライアントのtop-1精度が向上したと報告されています。
Wentao Yue, Qingyu Mao, Tianyou Lai ほか
arXiv
cs.AI 2026年10月1日
説明 FedLore:共有勾配低ランク射影による通信・メモリ効率の良い連合学習
要約 本論文は、基盤モデルを連合学習する際にクライアントのメモリと通信コストが制約となる問題を扱い、各ラウンドで低ランク最適化基底を共有し、ラウンドごとに更新する手法 FedLore を提案しています。著者らは、クライアントごとに独立に選ばれた部分空間が「部分空間の断片化」を引き起こすと指摘し、共有基底によって射影バイアスが除去されると述べています。視覚・言語タスクでの実験では、評価した低ランクアダプタのベースラインを上回り、全パラメータ学習と同等以上の性能を示すとともに、通信量と最適化器状態のメモリを削減したと報告されています。
Junkang Liu
arXiv
cs.LG · cs.AI · cs.SD 2026年10月1日
説明 深層学習オーディオ開発のコストを可視化:開発段階のエネルギー消費はモデル学習を大きく上回る可能性
要約 本論文は深層学習の環境負荷を扱い、これまでの研究が主にモデルの学習と推論のエネルギーに注目し、アーキテクチャの試作や大量の実験が行われる開発段階を見落としてきたと指摘します。著者らはLORIA研究所が利用するGrid5000共有計算基盤の活動ログに基づき、そのコストを推定する手法を提案し、Multispeechチームの音声プロジェクトを事例に評価しています。その結果、開発段階に必要なエネルギーは、最良のモデル1つを学習する場合の3倍から256倍に達しました。そのため著者らは、深層学習音声プロジェクトのライフサイクル全体についてエネルギー消費をより体系的に報告すべきだと主張しています。
Constance Douwes, Paul Magron, Romain Serizel
★★★★☆ 注目
arXiv
cs.AI 2026年10月1日
コードあり
説明 エージェントはモデルではなくシステムである:エージェント評価の再考
要約 本論文は、既存のエージェント評価が多くの場合エージェント自体を固定的なものとみなしている点を指摘し、実際には設定可能なシステムであると論じています。4つの科学タスクからなる新しいベンチマークで、タスク情報、推論、自己検証、時間予算、基盤モデルの5つの設定を検証しました。同一設定での実行ごとのばらつきが結果分散の約54%を占め、エージェントに与える情報の影響が最も大きく、コストを下げ校正も改善することが示されています。
注目点 エージェントを設定可能なシステムとして評価する視点を示し、多数の設定実験と軌跡分類で情報・時間・検証ツールの効果を示した点が評価できる。
Luis Wiedmann, Leander Girrbach, Cordelia Schmid ほか
arXiv
cs.CL · cs.AI · cs.DB 2026年10月1日
説明 大規模言語モデルはバイオアッセイのメタデータを確実に注釈付けし、データ準備度を高められるか?
要約 PubChemの約200万件のバイオアッセイでは、アッセイ形式や検出技術などの注釈が欠けている割合が高いことを示しています。研究者は7つのオープンソースおよび商用の大規模言語モデルを用い、アッセイ本文からこれらのメタデータを予測・監査し、既存のラベルと照合しました。多くのクラスで再現率は0.96以上でした。結論として、大規模な注釈付けに役立つ可能性がある一方、下流の機械学習に使う前にはクラスごとの信頼性評価と人手による確認が必要だとしています。
Laura van Weesep, Riccardo Tedoldi, Jens Sj\"olund ほか
arXiv
cs.CV 2026年10月1日
説明 Oneira:生成型ビデオ世界モデルを開かれた生成から開かれた世界での相互作用へ
要約 本論文は、コーディングエージェントが管理する明示的な世界状態を通じて生成と相互作用をつなぐ、対話型ビデオ世界モデル Oneira を提案している。新たに生成された物体は操作可能な世界に組み込まれ、相互作用による状態変化は後続のビデオ区間にわたって保持される。実験では、新規生成物体との直接的で一貫した相互作用が可能であり、長い時間範囲にわたって先行する相互作用の効果が保たれることが示されている。
Xindi Yang, Baolu Li, Liam Lee ほか
arXiv
cs.CV · cs.AI · cs.LG 2026年10月1日
説明 Hob-VL:視覚に基づくブール推論のベンチマーク
要約 本論文は、画像内でブールルールが成り立つかの判定と、ブール記述を満たす唯一の物体の特定という二つの課題からなる、視覚ブール推論のベンチマーク Hob-VL を提案している。人手で検証された6,000問の是非問題と1,000問の物体特定問題を含み、生成シーンと標注付き写真を対象とする。評価の結果、ブール問題の正答率は48.52%から50.57%、特定問題は最高43.0%にとどまり、多くのモデルで誤りや不整合が残った。
Yuzhou Wang, Emile Anand, Ijay Narang
arXiv
cs.LG · cs.AI 2026年10月1日
コードあり
説明 候補非依存ブロック因果注意による、候補の順序に頑健な意思決定モデル
要約 本論文は、可変個数の候補行動を一つの系列に符号化して採点する意思決定モデルを扱う。標準の因果注意では、候補のスコアが本来の意思決定問題ではなく系列化の順序に依存しうると指摘する。提案手法は、共有文脈と各候補の内部では因果計算を保ち、候補間の情報の流れを遮断して候補の位置をリセットする。Gemma 3 1B、Qwen3 1.7B、Qwen3 4B で比較した結果、順序の入れ替えに対する感度を下げつつ、決定の質は競争力を保つことが示された。
Guy Amit
arXiv
math.OC · cs.LG 2026年10月1日
説明 異なる幾何条件下における STORM の収束解析
要約 本論文は、非凸、凸、強凸の目的関数に対する STORM(確率的再帰モーメンタム)最適化法の収束速度を、平均滑らかさの仮定を用いずに検討したものです。補助列を用いた解析により、非凸の場合でも O(T^{-1/4}) の速度が得られることを示しています。凸および強凸の場合には最適な速度も示され、いずれの結果も同じ再帰式をハイパーパラメータのみ変えて用いています。
Wei Jiang, Yibo Wang, Wenhao Yang ほか
arXiv
cs.CV · cs.AI 2026年10月1日
コードあり
説明 推論時に動画LLMの時間表現を強化する手法(Before It Fades)
要約 論文は、動画大規模言語モデル(VideoLLMs)がフレーム順序を逆にしても最終的な予測が変わらないことが多く、時間的推論に弱点があることを示しています。著者らは、順序反転による層ごとの表現差を表す時間的発散ベクトルを定義し、中間層でピークに達した後、出力に向かって徐々に減衰することを確認しました。これを受けて、訓練を必要としない時間的活性化注入(TAI)を提案し、著者らは3つのモデルと4つのベンチマークで時間的推論が改善され、非時間的タスクへの影響は小さいと報告しています。
Youngwoo Shin, Yusung Ro, Minseo Kim ほか
arXiv
cs.CL · cs.LG 2026年10月1日
説明 どの LLM を選ぶか?大規模言語モデルのためのオンライン能動的モデル選択
要約 本論文は、オンライン環境で大規模言語モデル(LLM)を能動的に選択するためのフレームワーク ONLINE LLM PICKER を提案しています。限られた注釈予算のもとで、情報量の多いプロンプトを選んで注釈し、候補モデルの中から最良の LLM を特定します。10 のデータセットと 130 を超える言語モデルを含む複数のタスクで検証し、注釈コストを最大 71.67% 削減しつつ、最良またはそれに近いモデルを確実に特定できたと報告しています。
Alessandro Turrin, Patrik Okanovic, Torsten Hoefler ほか
arXiv
cs.LG · cs.CV 2026年10月1日
説明 中間層への二つの経路:配置探索と脳信号の読み出しが、継続学習器の専門化すべき位置で一致する
要約 視覚Transformerの各ブロックにタスク専用アダプタを置くと記憶容量がタスク数に比例して増えるため、少数のブロックだけに置く手法が研究されています。本論文は連続する4ブロックの全組み合わせを学習して探索した結果、最終精度が中間の深さでピークになり最大3.5ポイント変動すること、また重みスペクトルなどの安価な指標は深いブロックを選ぶことを示します。さらに、凍結したfMRIエンコーディングモデルで初期タスクを観測し、専門化するブロックを決定するLS-Bを提案し、ラベルや逆伝播を使わずにImageNet-R分割で完全版の60%の記憶量で精度差1.5ポイント以内を達成しています。
Yuan Huang, Zihan Chen, Runbin Zhang ほか
arXiv
cs.CV 2026年10月1日
説明 PAGER:幾何学的・関係的蒸留による部分から全体への整列
要約 本論文は、全体を再構成したシーンで事前学習された3Dエンコーダが、カメラ座標系での部分的・視点依存の観測に対して大きく性能を落とすことを示しています。凍結したSonataエンコーダは、フルのScanNetシーンでは72.47 mIoUですが、単一フレームのカメラ座標入力では2.57 mIoUにとどまります。提案手法PAGERは、対応する部分と全体の幾何情報のみを用いてラベル不要で軽量な適応モジュールを学習し、部分的特徴を凍結した全体の意味空間に整列させます。ScanNetからScanNet++へのゼロショット転移では、全パラメータを微調整したSonataを上回ったと報告されています。
Akira-Miranda Adeyomi Adeniran-Lowe, Binod Singh, Lars Arnold Dethlefsen ほか
arXiv
cs.NE · cs.LG 2026年10月1日
説明 ニューロエボリューションによる継続強化学習:重み空間の探索で課題の変化に対応する研究
要約 論文は、タスクが継続的に変化する状況では、既存の強化学習手法が新しい課題への適応と既存の能力の保持を両立しにくいと指摘します。著者らは、重み空間で突然変異と選択を通じてニューラルネットワークを直接探索するニューロエボリューションを用い、進化戦略と遺伝的アルゴリズムを、継続強化学習の手法や集団ベースの強化学習と比較しています。進化戦略は安定性と可塑性のバランスが最も一貫して良く、遺伝的アルゴリズムは最も可塑的だが忘却も多いと報告されています。
Eleni Nisioti, Andrea Cossu, Kathrin Korte ほか
arXiv
cs.AI 2026年10月1日
説明 自動運転向け生成シナリオモデルの物理的整合性と妥当性の評価
要約 本論文は、自動運転のシナリオ生成モデルの内部表現と出力が車両ダイナミクスに適合するかを、五層からなる評価プロトコルで検証する手法を提案しています。前半の四層では、潜在空間と運動学的特徴の整合、統計的ベースラインとの比較、潜在的な制御性、活性化の分析を行い、第五層では横方向ジャーク閾値などの制約を出力が満たすかを確認します。変分オートエンコーダ(VAE)ベースのシナリオ生成器で実演し、他の生成モデルにも適用できることを示しています。
Manasa Mariam Mammen, Zafer Kayatas, Stefan Wagner
arXiv
cs.LG · cs.AI 2026年10月1日
説明 逐点誤差を超えて:空間気候ダウンスケーリングの多指標評価
要約 本論文は、粗い解像度のデータから細かい空間場を再構成する気候ダウンスケーリングの評価方法を扱います。ERA5の気温、風、降水場に対して五つの空間ダウンスケーリング手法を比較し、逐点誤差、構造類似性、分布誤差、スペクトル誤差、勾配誤差という五つの指標で評価しています。空間忠実度と細かい変動性の間には体系的なトレードオフがあり、手法の順位は指標や変数によって変わるため、単一の最良手法は存在せず、多指標評価が不可欠だと結論づけています。
Loys Masquelier, Etienne Le Naour
★★★★☆ 注目
arXiv
stat.ML · cond-mat.dis-nn · cs.LG 2026年10月1日
説明 マスク再サンプリングの隠れた利点:マスク付きオートエンコーダの理論
要約 本論文は高次元モデルでマスク付きオートエンコーダ(MAE)を分析し、マスク付き線形再構成が、マスクなし再構成(PCAと等価)が失敗する条件下でも線形のサンプル複雑度で潜在特徴を復元できることを示します。また、マスク再サンプリングの統計的利点を定量化し、ランダムクロップやフリップがその効果を隠してしまうことを指摘しています。これらの変換を取り除くと、CNNや視覚Transformerで動的マスクが静的マスクより有利になります。
注目点 マスク付き線形再構成が非マスク手法の失敗する領域で線形のサンプル複雑度で潜在特徴を回復できることを証明し、マスク再サンプリングの利点を定量化している。
Jorge Medina Moreira, Lorenzo Bardone, Lenka Zdeborov\'a
arXiv
math.OC · cs.LG 2026年10月1日
説明 確率的多層合成最適化のための最適モメンタム法:入れ子になった非凸目的関数の収束速度を改善するアルゴリズム
要約 本論文は、複数の滑らかな非凸関数を入れ子に合成した目的関数を持つ確率的多層最適化問題を扱う。各層の勾配と関数値について確率的な推定値のみが利用可能である前提で、ミニバッチ付きモメンタム推定器により各層の関数値を追跡し、モメンタム勾配推定量を構成する。ε定常点を求める際のサンプル複雑度がO(ε^-4)であることを示し、先行研究で一般的だった平均滑らかさの仮定は不要としている。さらに、ミニバッチを用いない手法や、リスク回避型ポートフォリオ最適化および階層的傾斜経験リスク最小化での実験による検証も示している。
Wei Jiang, Rui Yan, Sifan Yang ほか
arXiv
cs.MA · cs.AI · cs.LG 2026年10月1日
説明 分散型エージェント無人機群におけるコンテキストと通信の管理
要約 本論文は、各無人機が独立した小型言語モデルを搭載する分散制御型の無人機群を対象に、長時間の対話履歴による推論文脈の劣化と、無差別な情報共有による通信・推論の負荷増大という問題に取り組みます。提案手法は、イベント駆動の推論・行動・観測サイクルと、核・局所・相手固有の階層に整理された知識管理、受信者ごとの意味的新規性と新しさに基づいて情報を選択的に伝播させるゴシップ方式を組み合わせます。10機の無人機による模擬捜索救助任務で評価したところ、提案手法は全実験を完了した一方、無制限のフラッディングは70〜85%の完了にとどまりました。フラッディングと比べ、推論トークン消費量はおよそ半分、送信データ量は減少し、生存者数の誤差も小さくなりました。
Andrea Iannoli, Ivan Zyrianoff, Angelo Trotta ほか
★★★★☆ 注目
arXiv
cs.LG 2026年10月1日
説明 最適な方策改善に向けて:近似評価下での新しい貪欲化演算子
要約 本論文は方策改善を第一原理から検討し、単一の更新で得られる最良の方策を最適な方策改善として定義します。特定の状態集合に制限した最適改善は誘導MDPを解くことと等価であることを示し、そのうえで近似評価の制約下での貪欲化を不確実性下の確率的意思決定として定式化し、新しい演算子を導出しています。実験では、この演算子とその勾配ベースの近似が複数の強化学習手法で全体的な性能を向上させたと報告されています。
注目点 最適方策改善を形式化し新しい演算子を導出、複数のRLアルゴリズムと離散・連続行動の設定で全体性能の向上を実験的に確認している。
Yaniv Oren, Viliam Vadocz, Wiktor Zabka ほか
arXiv
cs.CL · cs.LG · cs.SD 2026年10月1日
説明 AURAL:音声言語モデル向けの、チャンク同時予測を用いた適応的潜在推論
要約 本論文はAURALを提案し、潜在空間で複数の妥当な推論経路の分布をモデル化するとともに、将来の状態のチャンクを同時に予測して、逐次的な順伝播と推論遅延を減らす。初期の教師データとして、約1,000時間・68.3万発話のバイリンガル音声から成るAuralReason-683Kを構築し、感情認識、共感的対話、一般推論のための簡潔な思考連鎖を付与した。Qwen2.5-Omniでは、最初の回答トークンまでの時間が1.22秒から0.10秒へと11.8倍短縮された。
Yuxiang Wang, Kunyu Feng, Yuancheng Wang ほか
arXiv
cs.RO · cs.AI · cs.LG 2026年10月1日
説明 世界行動モデル向けの完了認識ガイダンス:タスク未完了の想像を減らす学習不要のサンプリング手法
要約 本論文は、世界行動モデル(WAM)が短いチャンク制御に適応されると、もっともらしく行動に整合するが、タスク完了に必要な遷移を欠く予測を生成しやすいことを指摘します。著者らは、生成をタスク完了へ誘導する学習不要のサンプリング手法「完了認識ガイダンス(CAG)」を提案しています。代表的なWAMでの結果として、RoboTwin 2.0のサブセットで成功率が64%から70%に、ゼロショットシミュレーションで69%から75%に向上し、タスク未完了の想像の割合は79%から40%に低下したと報告されています。
Seungyeon Kim, Junhoo Lee, Baekseung Kim ほか
arXiv
cs.LG · cs.CL 2026年10月1日
説明 QK-Wanda:非構造化枝刈りでクエリとキーの重みを結合する手法
要約 本論文は、大規模言語モデルの枝刈りにおいて、クエリ(query)とキー(key)の重みを互いに結合して評価し、両者で剪定予算を共有するQK-Wandaを提案しています。従来のWandaが各線形射影を独立に評価するのに対し、この手法は閉形式のスコアを用い、勾配計算や重みの更新を必要としません。0.5Bから72Bパラメータの15モデルで評価した結果、QK再構成誤差は平均して低減しましたが、下流性能はモデルごとに差があり、一部のモデルではパープレキシティが悪化しました。
Ivan Ilin, Peter Richt\'arik
arXiv
cs.IR · cs.CL 2026年10月1日
説明 ルールからニューラルグラフへ:特許先行技術検索のための拡張可能な構造化予測
要約 特許検索では数万トークンに及ぶ長文書を処理する必要があるが、多くのニューラル検索手法は入力を切り詰めて扱う。本論文は、係り受け解析の双アフィン注意機構を応用し、特許本文から発明グラフを直接予測するニューラル解析器を提案する。局所的注意により計算量はO(n²)からO(n·w)に抑えられ、短い系列で学習したモデルを再学習なしで4万トークンを超える文書に適用できる。100万件のルール解析文書から蒸留され、推論コストは3分の1でありながら教師モデルを上回り、下流のグラフTransformer検索で引用再現率を短いクエリで0.5%、全文書で1.1%向上させた。
Nikolai Zenovkin, Sebastian Bj\"orkqvist
arXiv
cs.LG 2026年10月1日
説明 Range-GRPO:報酬区間の対関係に基づく方策最適化(大規模言語モデルの事後学習手法)
要約 本論文は、正解ラベルが乏しい場合の大規模言語モデル事後学習における教師信号の問題を扱っています。LLM-as-a-Judge による無ラベル応答への評価を、単一の点数ではなく共形較正された報酬区間として表現します。提案手法 Range-GRPO は、GRPO の枠組みで報酬区間を対ごとに比較し、区間の不確実性が学習信号の大きさと向きの両方に影響するようにします。論文によれば、評価した半教師あり手法の中で分布内・分布外ともに平均性能が最も高く、学習資源も少なくて済みます。
Ryunyi Lee, Kangjun Noh, Somin Kim ほか
★★★★☆ 注目
arXiv
math.OC · cs.AI · cs.LG 2026年10月1日
説明 線形計画のための原始双対ハイブリッド勾配法を強化学習で高速化する研究
要約 本論文はGALLOPを提案します。これは強化学習により、PDHGの連続パラメータと離散的な再起動の判断を同時に学習し、ソルバーを微分せずに行う手法です。6種類の線形計画族と公開ベンチマークで評価し、反復回数を減らし、MPAXと比べてアルゴリズムの実行時間を高速化しました。族ごとに1つの方策を学習すると、訓練で使った最大規模より大きな同族の問題にも再学習なしで適用できます。
注目点 強化学習でPDHGの連続パラメータと再起動判断を同時に学習し、一般化加速更新を提案。六種のLPで反復回数を1.9–5.6倍削減し、最大16倍の高速化を示しており、新規性と実験的裏付けがある。
Jinhwan Sul, Alex Oshin, Evangelos A. Theodorou