arXiv
cs.AI · cs.LG 2026年9月29日
説明 デフォルトの罠:ツール利用LLMエージェントの計画評価を再考する
要約 論文は、エージェントが計画の優先目標を切り替えると強く反応する一方、既定の方向と一致する計画全体を取り除いたときの情報選択確率の変化は小さいことを指摘し、これを「デフォルトの罠」と呼んでいます。Retail、Airline、AgentDojoの各タスクで決定ウィンドウと完全なタスク実行を用いて比較を行い、優先度への反応性、提示方法に依存する既定値、タスク成功率とコストを併せて報告すべきだと結論づけています。
Xueqi Li, Jingjie Ning, Yibo Kong
arXiv
cs.AI 2026年9月29日
説明 将来を左右する判断を校正する:マルチモーダル大規模言語モデルのための同一方策型学習後量子化(OnPTQ)
要約 本論文は、マルチモーダル大規模言語モデルの学習後量子化が、固定系列と局所的な目的関数で校正されることが多く、量子化による単語の変化が後続の状態を変える自己回帰的なフィードバックを見落としていると指摘します。著者らは、現在の量子化方策が辿る軌跡上で校正するOnPTQを提案し、短い反事実的ロールアウトで競合する単語を評価し、判断と結果のリスクにより重要な状態を優先します。視覚言語およびオムニモーダルのQwenモデルを複数の低ビット設定で評価した結果、下流性能が向上し、Dense/FP16の参照に対する正誤の反転が減少し、デプロイされた推論グラフは変更されないとしています。
Wenxiao Fan, Jingling Fu, Lichen Ma ほか
arXiv
cs.CV 2026年9月29日
説明 自己整合性による拡散ベース動画推論の学習
要約 本論文は、拡散モデルによる動画生成を推論に活用する方法を検討しています。複数回の生成結果から得られた予測を、自己整合性(コンセンサス)によって統合し精度を高めるととも, 去ノイズの途中段階で読み出すことで推論コストを半分以上削減します。さらに、拒否ファインチューニング(RFT)により、合意予測を動画モデルに蒸馏し、単一の生成でも同様の効果が得られるようにします。迷路解決、視覚検索、指示対象のセグメンテーションの3タスクで性能向上が示され、視覚検索では正答率が48.4%から99.0%に上昇したと報告されています。
Zhenghao Ni, Weimin Qiu, Meng Tang
arXiv
cs.CV 2026年9月29日
説明 RED:汎用的なAI生成画像検出のための再構成進化ダイナミクス
要約 本論文は、凍結された多スケールVQ-VAEによる粗から細への再構成軌跡を、凍結CLIPエンコーダの特徴空間で表現し、転移可能な鑑識の手がかりを捉えるRED枠組みを提案します。凍結VARModelが与える各スケールのトークン負の対数尤度から画像ごとの段階重みを学習し、跨段階の証拠集約モジュールで元画像表現と重み付き再構成特徴を統合します。六つのベンチマークで平均精度92.5%、平均適合率97.5%を達成し、一般的な画像劣化に対しても強い頑健性を示しました。
Wenpeng Mu, Junshan Jin, Tanfeng Sun ほか
arXiv
cs.LG · cs.CL 2026年9月29日
コードあり
説明 CorrGRPO:多報酬学習のための相関正規化GRPO手法
要約 本論文は、推論型言語モデルの訓練に用いられるGRPOについて、尺度の大きい相関した報酬が正規化を支配し、小さい尺度の報酬の信号を抑えてしまう問題を指摘しています。提案手法CorrGRPOは、報酬間の共分散をピアソン相関係数に正規化し、中心化された総報酬は保ったまま、異なる尺度の報酬の影響を均衡させます。コード生成、ツール呼び出し、エージェントのセキュリティの3分野で、0.5Bから8Bパラメータのモデルを用いてGRPOなどと比較し、3分野すべてで改善が見られたと報告しています。
Wenbin Hu, Huihao Jing, Haochen Shi ほか
arXiv
cs.LG 2026年9月29日
説明 より良い学習信号へ:アドバンテージクリッピング方策最適化(ACPO)
要約 本論文は、大規模言語モデルの強化学習後訓練のための手法ACPOを提案します。重要度サンプリング比とアドバンテージの積をクリップすることで、より安定した勾配推定を目指します。また、方策ミラー降下法における勾配クリッピングとの関係を示し、標準的な強化学習設定でクリップ版の収束性を証明しています。数学推論ベンチマークでは、PPOやGRPOより精度と学習効率が高く、Qwen3-8B+PPOの設定で標準的な数学ベンチマークにおいて4〜6ポイントの向上が報告されています。
Ruichuan Huang, Jinghan Liu, Congliang Chen
arXiv
cs.CV 2026年9月29日
説明 CurvSpec:部分関連動画検索のための適応的多曲率学習
要約 本論文は、時間注釈のない長い動画の中から、テキストクエリに合致する区間を含む動画を検索する部分関連動画検索(PRVR)を扱います。固定の幾何学的事前分布を課す代わりに、内容に応じた曲率を学習するフレームワーク「CurvSpec」を提案します。ユークリッド空間と双曲空間の注意層を併用し、内容認識型の融合で適切な幾何空間を選択します。ActivityNet Captions、TVR、Charades-STAでの実験により、最先端の検索性能が示されたとされています。
Zhen Liu, Letian Li, Jinpeng Wang ほか
★★★★☆ 注目
arXiv
cs.LG 2026年9月29日
コードあり
説明 RESCUE:強化学習で言語モデルの誤りを疎な回路として修復する手法
要約 本論文は、大規模言語モデルの誤りに関連する疎な計算回路を特定し、その回路だけを精密に微調整して修復するフレームワーク RESCUE を提案しています。強化学習によってマスクを改良し、生成時に生じる失敗との関連性を高めています。数学推論と医療QAの修復データセットでは、回路の密度がそれぞれ 1.40%、1.44% であり、正解率はそれぞれ 6.0% から 75.5%、0% から 81% に向上したと報告されています。
注目点 回路分析を能力から誤りの修復へ広げ、強化学習でマスクを最適化する点は新規性が高い。数学と医療の2領域で検証したが規模と比較は限定的。
Chuanpu Liu, Miao Yu, Yikai Cai ほか
arXiv
cs.LG · cs.AI · cs.RO 2026年9月29日
説明 提案条件付き改良フローによる拡散方策の改善
要約 本論文は、オフライン強化学習における方策抽出手法PReFlowを提案します。批評器に基づく候補行動の選択と条件付き改良フローを組み合わせ、同じ候補行動に対する複数の高価値モードを表現できるようにし、ガウス参照項で大きな行動変化を抑えます。50のOGBenchタスクで評価され、オンライン微調整後に比較手法中で最も高い総合スコアを達成し、50万環境ステップで91%に到達したと報告されています。
Junhyun Ha, Juho Lee, Byoungwoo Park
arXiv
cs.CV 2026年9月29日
説明 MeteoVerse:統一された天候制御可能な動画ワールドモデル
要約 本論文は、晴天または悪天候の単一画像から将来の動画を生成する、天候を制御可能な動画ワールドモデル MeteoVerse を提案しています。生成は天候のない場面記述、目標天候の指示、カメラ軌跡を条件とします。モデルは観測天候と目標天候を明示的に推定し、遷移を考慮した天候エキスパートの混合により、天候の維持・付加・除去を統一的に扱い、付加される天候の強度を細かく制御します。さらに、5万本以上の実世界の天候動画クリップからなるデータセットを構築しました。実験では、場面の一貫性とカメラ制御の性能を保ちつつ、天候の制御性が大幅に向上したと報告されています。
Renlong Wu, Guanqiao Wang, Xuan Shang ほか
arXiv
q-bio.QM · cs.LG 2026年9月29日
説明 試験に依存しない公開データによる疾患レベルの新薬承認予測
要約 本論文は、臨床試験前の公開情報のみを用いて、特定の薬剤と疾患の組み合わせが米国FDAの承認を得る可能性を予測できるかを検討しています。著者らはClinicalTrials.govから14,134組の薬剤-疾患ペアを再構築し、分子、疾患、ADMET、標的、経路などの特徴を加えて分類器を学習させました。2019年以降の2,637プログラムでは、最終的に承認されたプログラムを優先する確率がおよそ4分の3でした。同一薬剤の複数疾患の中から最上位の疾患を選ぶと、承認される疾患を選べた割合は61.3%で、ランダム選択の40.7%を上回りました。
Samir Townsley, Pagkratios Tagkopoulos, Ilias Tagkopoulos
arXiv
cs.AI 2026年9月29日
説明 時間伸縮に頑健な系列検索のための、幾何条件付き固定スキャフォールド・エンコーダ
要約 本論文は、系列検索で幾何に基づいてパッチ境界を選ぶと、時間変形によって表現が変わってしまう不安定性を検討しています。提案手法GeoPatchは、トークンの位置を固定したまま、傾きや曲率などの幾何記述子を連続的な条件変数としてのみ用います。心電図、音声、多変量時系列の検索実験では、タイミングの変化があっても上位順位の検索精度が向上することが示されています。一方、局所的な表面一致と厳密な非重複検索の間にはトレードオフがあるとされています。
Cassandra Yang, Yufan Tang
★★★★☆ 注目
arXiv
cs.RO · cs.AI 2026年9月29日
コードあり
説明 Spotter:具身モデルが主導し、VLMが失敗を振り返って修正する手法
要約 論文は、既存の具身(エンボディド)モデルが失敗後に自ら誤りを修正することがほとんどないと指摘する。著者らは、通常は実行を担う具身モデルが継続的に動作し、視覚言語モデル(VLM)が並行して監視し、誤りが確認されたときだけ介入して修正し、その後制御を返すSpotterを提案する。RoboCasa、RoboTwin 2.0、実機ロボットでの実験では成功率の向上が報告されている。
注目点 具身モデル主導でVLMが並列監視し誤り時のみ介入する新しい役割分担を提案し、RoboCasa・RoboTwin・実ロボットで明確な改善を示した。
Long Li, Qichao Zhao, Yue Yang ほか
★★★★★ 注目
arXiv
cs.AI 2026年9月29日
説明 CANTO:AI支援エンジニアリングのためのCADネイティブTransformerオペレータ
要約 本論文はCANTOというモデルを提案しており、NURBSパッチとして表現された連続的なCAD形状を、メッシュ分割を行わずに直接入力として、表面および体積上の物理場を予測します。AhmedML、WindsorML、DrivAerML、HiLiftAeroMLの4つの自動車・航空機空力ベンチマークで評価され、多くのタスクで最先端の精度を達成したと報告されています。CADパラメータに対して微分可能であるため、勾配に基づく逆設計にも利用できます。
注目点 メッシュ化を経ずNURBSパラメトリックCAD形状から物理場へ写像するニューラル演算子で、四つの空力ベンチマークで高精度を示し、CFDで逆設計を検証した。
Daniel Leibovici, Nikola Borislavov Kovachki, Dawon Ahn ほか
arXiv
cs.AI 2026年9月29日
説明 UpliftMem:エージェントのメモリ検索のための集合単位の効果学習
要約 大規模言語モデルのエージェントは外部メモリを再利用して新しいタスクを進めますが、効果的な検索には実行を改善するメモリ集合を学ぶ必要があります。UpliftMemは、同じ実行器がメモリを使わない場合と比べた集合単位の実行効果から検索を学習し、限られた学習用の実行回数を期待サンプル情報価値の基準で配分します。ALFWorld、WebShop、BigCodeBenchの主要評価セットでは、比較した基線の中で最も高い成功率を達成しました。
Mengkun Liang, Haoran Qiang, Guannan Liu ほか
arXiv
cs.CL · cs.AI 2026年9月29日
説明 VAA-CSEC:中国語意味誤り訂正のための投票誘導型アドバンテージ配分手法
要約 本論文は、中国語の意味的な誤りを訂正するためのフレームワーク VAA-CSEC を提案しています。思考連鎖の蒸留、教師ありファインチューニング、強化学習、自己整合性デコーディングを組み合わせています。最小編集原則に合わせた報酬関数を設計し、推論時の自己整合性の目的と強化学習の目的を揃えるGLPO手法を導入しています。CSED-C で F0.5 47.72%、NaSGEC-Exam で 41.55% の結果を報告しています。
Yitong Han, Nankai Lin, Juan Luo ほか
arXiv
cs.CV 2026年9月29日
説明 EGSD:ストリーミング動画理解のためのイベント基盤型自己蒸留手法
要約 本論文は、リアルタイムのストリーミング動画理解で記憶を逐次更新する課題に取り組み、イベント基盤型自己蒸留(EGSD)を提案しています。記憶を、検証可能なイベント(主要な視覚的実体、動作、詳細)に対する増分更新として捉えます。主要なオンライン・オフラインベンチマークで評価され、StreamingBenchで79.8%、OVO-BenchのReal-Timeトラックで73.4%の性能を示したと報告されています。
Yuwei Miao, Xuesheng Zhang, Wenhao Zou ほか
arXiv
cs.LG 2026年9月29日
説明 EasyPPO:価値ネットワーク(critic)の安定化こそが鍵——大規模言語モデルの強化学習を安定させる手法
要約 本論文は、大規模言語モデルの強化学習において、PPOの価値ネットワーク(critic)が学習不安定の主要な原因であると指摘し、二つの失敗モードを挙げています。提案手法EasyPPOは、方策側のみで過長な途中打ち切りロールアウトをフィルタリングすること、プロンプトごとの回報の標準偏差の逆数で価値ネットワークの損失を重み付けすること、価値ネットワークのミニバッチを適度に小さくすることを含みます。FrontierCS、AIME24、Search-R1の三つのタスクで、EasyPPOは学習中安定し、PPOに対する最良の検証スコアの相対的向上は、それぞれ14.89%、2.28%、9.47%だと報告されています。
Xuanyi Zhou, Qiuyang Mang, Huanzhi Mao ほか
arXiv
cs.CV 2026年9月29日
説明 シーン・リターゲティング:類推転移による家具配置の学習
要約 本論文は、レイアウトの異なる室内シーン間で、意味的に一貫した空間構成を安定して転移させる「シーン・リターゲティング」というタスクを定式化しています。テキスト記述や物体同士の二項関係に頼らず、物体のクラスタ単位で転移を行い、基盤特徴の空間分布を利用して各クラスタの意味文脈を保持します。その後、壁への接触、対の整列、通路や開口部の確保といった物理制約で結果を洗練します。3D-FRONTデータセットのレイアウト生成で既存手法を上回ったと報告され、実世界からシミュレーションへの転移や類推的な軌道転移などへの応用も示されています。
Minkwan Kim, Junho Kim, Seungmin Lee ほか
arXiv
cs.AI 2026年9月29日
説明 AI をコンパイラとして使う:Triton コンパイラを使わず Triton カーネルを PTX にコンパイルする研究
要約 本論文は、従来の最適化・ローワリング処理を大規模言語モデルで置き換える「AI lowering」を検討し、LLM エージェントが Triton カーネルを NVIDIA PTX に直接変換する手法を示しています。複数のカーネルで、自動チューニングされた Triton の 0.83 倍から 3.34 倍の性能を達成し、主な利得は Triton の降ろし処理が行わない変換から得られています。また、Blackwell 世代の tcgen05 命令に対応するため既存の PTX 検証器を拡張しました。
Fran\c{c}ois Costa, Charly Castes, Thomas Bourgeat ほか
arXiv
cs.CV · cs.CL · cs.LG 2026年9月29日
コードあり
説明 聞くべきものを見る:全モーダルLLMにおけるクロスモーダル近道の診断と修復
要約 本論文は、全モーダル大規模言語モデルが音声に関する質問に答える際、音声と同程度か時にはそれ以上に画像へ依存する「クロスモーダル近道」を報告しています。著者らは、サンプル間で音声と画像を独立に入れ替えて各モダリティの因果的寄与を測る因子化モダリティ診断法を提案しています。さらに、質問で指定されたモダリティに従って監督信号を割り当てる学習法DMC-Repairを提示し、画像による答えへの影響の割合を59.9%削減したと報告しています。
Yueran Ma, Ronghao Lin
arXiv
cs.LG · cs.NE 2026年9月29日
説明 ニューラルセルラーオートマトンにおけるランダム性はどこで重要か
要約 本論文は、ニューラルセルラーオートマトン(NCA)でセルの更新をランダムにすることが、有用な規則の学習に役立つかどうかと、実行時にもランダム性を残す必要があるかを調べています。制御された Growing NCA 実験で、学習時と評価時の更新方式を分けて検証しています。非同期学習は同期学習より短期の品質テストで安定した結果を示し、多くのモデルは決定的な評価下でも目標を長く保持しました。
Fei Zuo, Jiaqi Shi, and Yujing Liu
arXiv
cs.LG 2026年9月29日
説明 RAE-PPG:信号時間に基づく保持・拡張型PPG基盤モデル事前学習法
要約 本論文は、光電容積脈波(PPG)基盤モデルの事前学習手法RAE-PPGを提案する。単一のTransformerエンコーダを10秒、30秒、240秒の入力で順に学習させ、各段階では対応する時間長で捉えられる特徴の教師信号を追加する。パラメータ群を時間長ごとに分け、現段階の群のみを更新しつつ以前の学習内容を再利用する。8つのデータセットにわたる18タスクで、最終的に固定したエンコーダは、比較した5つの既存PPG基盤モデルのうち12タスクで最高スコアを得た。
Suyeong Lee, Hochang Lee, Seokyong Sheem ほか
arXiv
cs.MA · cs.SE 2026年9月29日
説明 GitHarness:絶えず変わるユーザー要件に対応する、Git 型のバージョン管理式作業記憶
要約 本論文は、長期タスクでユーザー要件が追加・変更される問題を扱い、要件の状態と対応する作業状態を分岐可能な版履歴で管理する GitHarness フレームワークを提案しています。学習可能な Git Agent が要件の変化を判定し、意味的に互換性のある過去の状態を選び、統一バージョンインターフェースがその状態を復元して新しい分岐を作成します。評価用に MTAgentBench も構築されています。
Zhibang Yang, Xinke Jiang, Yuxuan Liu ほか
★★★★☆ 注目
arXiv
cs.LG · cs.IT · math.IT 2026年9月29日
説明 完全再構成では、VAE潜在空間上の二つのコードブックが一致するかは分からない
要約 多くのシステムは変分オートエンコーダ(VAE)の潜在空間を離散コードとして読み取り、書き込まれたコードが読み出し時も同じであると前提しています。本論文は、標準的な学習レポートのどの指標も、符号化データ上で書き込みコードと読み出しコードが一致するかを明らかにできないことを証明しました。再構成・推論・ELBOと符号頻度がすべて一致しながら、一致度が1と0になる二つのVAEを構成しています。さらにELBOの各項が一致度の変化幅を制限すること、確率的PCAや240個の学習済みVAEで検証したことを示し、Certify-or-Measureという簡単な手順を提案しています。
注目点 標準的な学習レポートでは符号化と読み出しの一致を示せないことを証明し、指標が同一でも一致度が異なる反例を構成した。ELBOの各項による偏差上界も示し、pPCAと240モデルで検証している。
Yusuke Hayashi
arXiv
cs.LG 2026年9月29日
説明 大規模言語モデルを用いてタスク関連の文脈をベイズ最適化へ組み込む研究
要約 本論文は、大規模言語モデル(LLM)にベイズ最適化(BO)のプログラムを生成・実行させ、ドメイン知識や外部観測などのタスク文脈を実行可能なコードとして標準BOに取り込む方法を検討しています。著者らは、検証付きの多段階ワークフローで文脈を標準BOの中核的成果物に変換する専用ハーネス「HarBO」を提案し、不完全な変換のもとでの後悔と新しい文脈の追加の影響を理論的に分析しています。合成関数と実世界のベンチマークでは、専用の埋め込みベース手法やLLMを直接ループに入れる手法と競合する性能を示しましたが、未知で文脈の豊富な領域では汎用コーディングハーネスは不十分でした。
Zhongwei Yu, Sourabh Roy, Bin Cao ほか
arXiv
cs.MA · cs.GT 2026年9月29日
説明 連続行動ゲームのための学習済みガウス混合による正則化ポリシー勾配法
要約 本論文は、連続または離散と連続が混在する行動を持つ大規模な逐次ゲームに適用できる、スケーラブルなポリシー勾配アルゴリズムを提案しています。磁気ミラー降下法とガウス混合によるパラメータ化を組み合わせ、セルフプレイで学習させます。著者らは、勾配降下法が失敗するゲームで均衡を近似できること、逐次ゲームでニューラル架空自己対戦を上回り、ポリシー空間応答オラクルと同等以上の戦略を3.5~5.5倍少ないサンプル数で得られることを示しています。ヘッズアップ・ノーリミット・テキサスホールデムでは、Slumbot(スランボット)と同程度の性能を示しました。
Ond\v{r}ej Kub\'i\v{c}ek, Viliam Lis\'y, Tuomas Sandholm
arXiv
cs.CV 2026年9月29日
説明 感情のニュアンスを読み解く:階層的感情推論と対照的判別型プルーニングによるMLLMの強化
要約 論文は、マルチモーダル大規模言語モデル(MLLM)は感情推論で人間の水準に大きく及ばず、細かな視覚的手がかりをもとに意味の近い感情を区別するのが難しいと指摘します。著者らは、追加の学習を必要としない推論時最適化フレームワーク「DAN」を提案し、階層的感情推論連鎖(HERC)と対照的判別型視覚プルーニング(CDVP)の2つの仕組みを含みます。論文によると、WebEmo25データセット(25種類の細粒度感情カテゴリ)でQwen3-VL-8B-Instructを用いた場合に10.47%の改善が示されています。
Cheng Ye, Weidong Chen, Zhaobo Qi ほか
arXiv
cs.AI 2026年9月29日
説明 Aperture:圧縮トークンのためのマージ整合的回転状態
要約 本論文は、回転位置埋め込み(RoPE)がトークン圧縮による統合後も位置情報を保持できるよう、重み付き支持集合のフーリエモーメントを保存するAperture手法を提案します。これらのモーメントが期待される回転相互作用に必要な最小の実次元を持つことを証明し、ネイティブ動画質問応答で既存の統合規則と比較しています(精度65.63%対67.12%)。
Yuhao Du, Shunian Chen
arXiv
cs.RO · cs.CV · cs.GR 2026年9月29日
説明 DRHeC:RGBベース勾配による微分可能レンダリング手眼キャリブレーション
要約 本論文は、ロボットアームの手眼キャリブレーションのためのRGBベースの微分可能レンダリングフレームワーク「DRHeC」を提案しています。色と マスクの幾何学的特徴を取り入れて、より豊かな幾何・外観の手がかりを得ることで、キャリブレーション精度と最適化の安定性を向上させています。シミュレーションと実機実験で検証され、UR5eでの実験では把持成功率88.9%、挿入成功率57.4%を達成し、EasyHeC(既存の微分可能レンダリング手法)をそれぞれ46.3ポイント、48.1ポイント上回りました。
Xiaotian Zhang, Yusheng Wang, Naoya Kagawa ほか
arXiv
cs.AI 2026年9月29日
説明 Code4Scene:コーディングエージェントによる3Dシーンの構築・編集を評価するベンチマーク
要約 本論文は、人の手で組まれたUnreal Engineのシーン190件からなるベンチマーク「Code4Scene」を提案し、コーディングエージェントが3D空間構造を理解し、シーン状態を正確に制御できるかを検証します。評価は、言語仕様からシーンを構築するタスクと、参照画像から目標シーンを復元しつつ他の部分を保つ編集タスクの2種類で行われ、コードやレンダリング画像ではなくエンジン上の生成シーンそのものが採点されます。構築と編集の成績は強く相関しますが同一ではなく、編集では目標の復元後も意図しない変更が残るケースが多いと報告しています。
Xiaokang Ye, Siddhant Hitesh Mantri, Zimeng Chen ほか
arXiv
cs.CV 2026年9月29日
説明 Causal-EVC:時空的グラウンディングと反事実介入による感情の疑似因果関係の解消
要約 本論文は感情付き動画キャプション生成を扱い、既存手法が単純な注意機構のマッチングに頼るため、背景との共起バイアスによる疑似相関に陥ることを指摘しています。著者らは密な時空間因果アノテーションを持つベンチマークEVC-CauseGroundを構築し、運動に導かれた因果的時空間定位モジュールと解釈可能なスパース感情ルーティングを備えたCausal-EVCを提案しています。反事実対照目的関数により、モデルが真の因果的手がかりに基づいて感情を予測するよう促されます。実験では意味的指標と因果忠実性サブセットの双方で優れた結果が示されています。
Cheng Ye, Weidong Chen, Peipei Song ほか
arXiv
cs.CV 2026年9月29日
説明 DSPO:頑健な感情推論のための多様性認識型主観的方策最適化
要約 本論文は、マルチモーダル大規模モデルの感情推論を改善する強化学習フレームワーク DSPO を提案します。VAD空間における文脈に基づく感情分布の事前情報と留一法による周辺寄与の報酬を用いて、妥当な主観的解釈を保持します。さらに反事実的視覚介入ゲーティングにより、視覚的根拠に支えられない解釈の重みを下げます。複数の公開ベンチマークで最先端の性能を示し、特にクロスドメインでは EMO-R3 より平均精度が 10.8% 向上したと報告されています。
Cheng Ye, Weidong Chen, Bingyan Xu ほか
arXiv
cs.LG · cs.AI · stat.ML 2026年9月29日
説明 条件付き独立を超えて:深層因果モデルによる根本原因分析
要約 本論文は、システムの異常時に故障の根本原因を特定する RCA-DCM 手法を提案している。正常系統を因果モデルとして表し、異常は同じモデルの構造関数の変化として扱う。ニューラルネットワークで深層因果モデル(DCM)を構築し、観測されない交絡変数にも対応する。二つのマイクロサービスアプリケーションで、最強のベースラインより top-1 精度が高いと報告されている。
Md Musfiqur Rahman, Kenneth Lee, Ziwei Jiang ほか
arXiv
cs.AI · cs.CV · cs.LG 2026年9月29日
説明 共有ゲートや智能体間勾配なしで自己教師あり協調視覚エキスパート集団に現れる専門化
要約 本論文は、各ニューラルネットワークが独自の重みを持ち、共有ゲートや智能体間の勾配なしに分業が自然に生じるかを検討している。各智能体は同じ異種データで独立に学習し、順伝播を通じて他の智能体に助力を求めることができる。意味的ルーティングを用いた集団は単一の汎用モデルを上回り、利得は集団規模ではなく専門化によるものであることが示された。ローカルルーターは入力の98%で涌現した専門家を選択している。
Aram Davtyan, Pablo Acuaviva, Sebastian Stapf ほか
arXiv
cs.LG 2026年9月29日
説明 接頭辞はLoRAをコンパイルできるか:凍結アテンションに対する厳密なリソース制限テスト
要約 本研究は、アテンションヘッドを凍結したまま、固定の連続プレフィックスで与えられた低ランクアダプタ(LoRA)を置き換えられるかを検討します。観測可能性、実現可能性、実装という三つの条件を提示し、理論分析と数値実験で検証しています。GPT-2の第1層にある三つのアテンションヘッドでは、ノルム制限付き最適解でも投影後のアダプタ効果の18.4%から74.2%がコンパイルされないままでした。結論は単一ヘッドでの局所近似に限られ、ネットワーク全体の等価性については述べていません。
Joyanta Jyoti Mondal, Ibne Farabi Shihab
arXiv
cs.LG 2026年9月29日
説明 多変量時系列の異常検知のためのグラフスペクトルフローマッチング(GRASP)
要約 本論文は、多変量時系列の異常検知を行うGRASPというフローマッチングの枠組みを提案している。確率経路にグラフ構造(グラフラプラシアンに基づくディリクレエネルギー)を組み込み、運動エネルギーと組み合わせた固定端点の作用量を最小化することで閉形式の経路を得る。正常データで学習した速度予測器の加重速度偏差により異常を検出し、4つのベンチマークで良好な性能を示したと報告されている。
Zepeng Zhang, Jhony H. Giraldo, Wenbin Wang ほか
arXiv
cs.LG · cs.DC · stat.ML 2026年9月29日
説明 局所・全体のクラスタ数が未知の連合クラスタリング
要約 本論文は、クライアントもサーバーもクラスタ数を知らない連合クラスタリングを扱う。独立に運用される産業拠点の故障診断などが想定例である。提案手法は二段階で、各クライアントがまず自身のデータから局所クラスタ数を推定し、その値をFedGEMなど局所数を必要とする集約手法に用いる。第一段階では、BICに基づいて球形ガウス混合を分割し余剰成分を統合する適応的分割・統合法ASMを導入し、ラベルは使用しない。八つのデータセットでの平均ARIは0.333である。
Mitushi Goyal, Tarun S., Riddhanya Senapathi ほか
arXiv
cs.LG · cs.CL 2026年9月29日
説明 QuantMLA:低ビット MLA KV キャッシュ向けの機能整合型デュアルパス量子化
要約 多頭潜在注意機構(MLA)は内容パスと分離された RoPE パスそれぞれにキャッシュを持ちますが、キャッシュのメモリ量はコンテキスト長とバッチサイズに比例して増加します。本論文は両パスの量子化誤差が注意出力に与える影響を体系的に分析し、機能整合の目的関数で各パスの変換を学習する QuantMLA を提案します。4 つの MLA モデルファミリーで、作者らの知る限り初めて内容と RoPE の両キャッシュの INT4 同時量子化を、精度低下を最小限に実現したと報告しています。128K コンテキストで 3.59 倍の圧縮を達成したとしています。
Zunhai Su, Yuxuan Sun, Jianchao Tan ほか
arXiv
cs.CV · cs.AI 2026年9月29日
説明 DuLBE:視覚言語クラス増分学習のための二重モード低ランク学習器とブリッジプロトタイプ・アンサンブル
要約 本論文は、CLIPを用いた例示なしのクラス増分学習(CIL)を対象とする手法DuLBEを提案しています。勾配ルーティングにより、視覚側の低ランク更新を再利用可能な共有モードと、タスク固有の変化を扱う残差モードに分け、旧知識の上書きを抑えます。さらに、単位超球面上で視覚プロトタイプとテキスト埋め込みの間に測地線ブリッジを構築し、信頼できるブリッジプロトタイプを集成して、モダリティギャップの影響を補います。複数の設定での実験で、高いパラメータ効率を保ちつつ最先端のCIL性能を示したと報告されています。
Chiyuan He, Zihuan Qiu, Fanman Meng ほか
arXiv
cs.CV 2026年9月29日
説明 FastVR:一段階拡散モデルによる効率的なストリーミング動画修復
要約 本論文は、一段階拡散モデルを基盤とするストリーミング動画修復フレームワーク「FastVR」を提案する。軽量なVAEとチャンク単位の因果的注意機構により推論コストを削減し、学習時には速度一貫性正則化と連続軌道学習を導入して修復品質を高めている。単一のH20 GPUで1080p動画を11 FPSで処理でき、合成データと実世界データのベンチマークで評価された拡散ベースラインより効率的かつ高性能であると報告している。
Xiaoxu Chen, Qin Yang, Haoran Bai ほか
arXiv
cs.CV · cs.AI 2026年9月29日
コードあり
説明 NesTok:自己回帰型画像生成のための入れ子型自己整合1次元トークナイザ
要約 本論文は、動的な視覚トークナイザ向けの入れ子型自己整合フレームワークであるNesTokを提案しています。クロス長学習により、異なるトークン長での再構成を同時に最適化し、全長シーケンスを用いて短いシーケンスを導くことで、短いトークン列でも全長に近い再構成品質を目指します。ImageNetではrFIDが0.98に達し、ImageNet 256×256の画像生成ではgFIDが1.46で、既存の可変長自己回帰型画像生成手法の中で最先端の結果を示したと報告されています。
Jiawei Zhang, Shuhao Liu, Rong Huang ほか
arXiv
cs.CV 2026年9月29日
説明 「Drag as Evidence」:動きに基づく潜在空間再構成によるドラッグ式画像編集
要約 本論文は、ピクセル空間の粗いワーピングを動きの証拠として生成サンプリング過程に組み込む、ドラッグ式画像編集手法 MoRe-Drag を提案している。精緻化・インペインティング・保持の各領域で領域認識型の潜在空間再構成を行い、段階に応じて動きに基づく構造形成から意味的な精緻化へと条件付けを移行させる。DragBench-SR と DragBench-DR での実験では、ドラッグ精度の向上と高い意味的一貫性、視覚的なリアリティが示されている。
Xinyu Pu, Hongsong Wang, Jie Gui ほか
arXiv
eess.AS · cs.CL 2026年9月29日
説明 韻律で学習した表現は学習可能な融合を超えるか?凍結HuBERTによるパラメータ一致研究
要約 本論文は、音声認識に明示的な韻律情報を加えることが本当に有効かを検証する。凍結したHuBERTを基盤とし、64次元の韻律表現を学習させた。Buckeye、Switchboard、AMI IHMの3データセットでは、学習済み表現を用いても、表現を与えない同じ融合構造の対照群に比べ単語誤り率に有意な改善は見られなかった。ただし推論時に表現を除去または不一致にすると誤り率は上昇する。
Ki Woong Moon, Daniel Brenner
arXiv
cs.LG · cs.AR 2026年9月29日
説明 cktFormer:Transformerに基づくアナログ回路の自動設計手法
要約 本論文は、アナログ回路を自動生成するための二重TransformerアーキテクチャであるcktFormerを提案している。ネットリストデータをグラフ表現に変換し、ノード予測モデルが部品を提案し、エッジ予測モデルが有効な接続を推定する。著者らは、生成回路の有効性において、AnalogGenieやcktGNNなどの最近のモデルを上回ると報告している。
Pasindu Dodampegama, Praveen Wijesinghe, Naveen Basnayake ほか
arXiv
cs.LG · cs.AI · cs.CL 2026年9月29日
説明 グループ周辺化による自己報酬強化学習:ラベルなしで自己進化を促す新手法
要約 本論文は、人手によるラベルなしで大規模言語モデルを自己進化させる自己報酬型強化学習を扱う。既存のグループベース手法は、ランダムに抽出された一つのグル―プ文脈だけで報酬を算出するため、有効な報酬信号を取りこぼす恐れがあると指摘する。そこで、各文脈での報酬実現値を回答単位の分布に集約して期待アドバンテージを推定する、グループ周辺化アドバンテージ推定(GMAE)を提案する。8つのベンチマークと4つの基盤モデルでの実験により、高い性能と領域横断的な汎化が示されたと報告している。
Yiming Wang, Yikang Liu, Qingyuan Tian ほか
arXiv
cs.AI 2026年9月29日
説明 選好最適化による汎化可能な生涯モデル編集
要約 本論文は大規模言語モデルの知識編集を扱い、既存手法が継続的な更新時に目標プロンプトへ過剰適合し、編集した知識の汎化や一般的能力を低下させる問題を指摘しています。著者らはGLIME(Generalizable Lifelong Model Editing)を提案し、知識編集と生成挙動に対する選好最適化を組み合わせ、リプレイ型編集と勾配制約により既存の編集内容を保持します。実験では、生涯編集の設定において知識の汎化が大きく向上し、編集性能と一般的能力も維持されたと報告されています。
Dahyun Jung, Suhyune Son, Heuiseok Lim
arXiv
cs.AI 2026年9月29日
説明 EASE:自己進化型エージェントのための、実行者の振る舞いに適応するスキル整理手法
要約 本論文は、自己進化型エージェントのスキル整理において、既存の学習型整理器が下流の実行者の振る舞いを明示的にモデル化していないため、ある実行者で訓練した整理器を別の実行者で使うと性能が落ちることを指摘している。著者らは、実行者の直近の行動プロファイル、現在の軌跡、検索されたスキルを条件として、リポジトリのスキルを追加・修正・削除する単一の共有整理器を学習するEASEを提案する。強化学習により複数の固定された実行者で共同訓練され、ALFWorld、ScienceWorld、WebShopで基線を上回り、スキル数は34.5〜41.0%少ないと報告されている。
Zhen Xiong, Qiaoyu Tan
arXiv
cs.AI · cs.CL 2026年9月29日
説明 SIPO:強化学習と同方策自己蒸留を統合する大規模言語モデルの学習手法
要約 本論文は、大規模言語モデルの学習手法として自己指示方策最適化(SIPO)を提案している。検証可能な報酬による強化学習(RLVR)は最終結果の報酬しか与えず中間ステップの信用割り当てが欠けるため、対照的な自己教師を導入して各応答にトークン単位の密なフィードバックを与える。複数の推論およびコード生成ベンチマークで、RLVRおよびOPSDのベースラインを上回り、外部教師モデルや追加生成を必要としないと報告されている。
Zhenrui Yue, Huimin Zeng, Yueqi Wang ほか
arXiv
cs.AI 2026年9月29日
説明 区別か同質化か:不可逆的な資源枯渇下の最後の機会ポリシー同定とリスク予算付き回復
要約 本論文は、資源が不可逆的に枯渇する状況で、エージェントが資源を使って潜在的な故障モデルを区別するか、残りのモデルが共通に受容可能な後続ポリシーを持つように系の状態を変えるかを扱う。最後の機会ポリシー同定(LCPI)という枠組みを提案し、確定的な診断グラフには厳密な再帰アルゴリズム、ノイズのある有限時間の回復には風険予算付き互換性計画(RBCP)を用いる。マイクロサービス障害からの回復とMiniGridでの潜在的損傷ナビゲーションの実験で、RBCPは故障予算を満たしつつリスク実行可能な回復を改善したと報告している。
Yibo Guo, Xiaodan Wang
arXiv
cs.LG 2026年9月29日
説明 Top-k方策分解による排序方策の効率的なオフライン学習
要約 推薦システムは利用者に関心を持たれやすい順位付けを提供することを目指します。オフ方策学習は過去のログデータだけで新しい順位方策を学習できますが、順位の行動空間が非常に大きいため困難です。既存手法には方策ベースと回帰ベースがあり、前者は分散が大きく、後者は偏りが生じやすいという問題があります。本論文は、順位方策を上位k件を選ぶ第1段階と残りを選ぶ第2段階に分解するR-POD法を提案します。第1段階は新しい方策勾配推定量で、第2段階は回帰法で学習し、分散を抑えます。
Ren Kishimoto, Koichi Tanaka, Haruka Kiyohara ほか
arXiv
cs.CE · cs.AI 2026年9月29日
説明 フロンティア自動研究所:50年の技術変遷における多エージェントLLM企業の組織記憶・対立的異論・時間的情報漏洩
要約 役割を持つ複数のLLMエージェントからなる模擬企業を、1990年から2040年までの九つの技術時代にわたって長期的に動かす検証環境を構築した研究である。各時代は日付の入った説明資料に基づいて判断され、歴史的評価者が実際の経緯を示して五つの観点で採点し、教訓は永続的なプレイブックに蓄積される。結果として、企業は変化の兆しを認識しながらも、既存資産で到達できる層を選ぶ傾向が見られた。また採点は時代とともに上がる一方で、評価者の事後的認識の得点は下がっており、見かけ上の学習が歴史の想起と交絡している可能性が指摘されている。
Bravish Ghosh
arXiv
cs.LG · cs.CL 2026年9月29日
説明 逆伝播出力モメンタム:最適化器の履歴をパラメータ空間からタスク出力空間へ移す手法
要約 本論文は逆伝播出力モメンタム(BOM)を提案します。従来はパラメータと同じサイズの過去の勾配の移動平均を保存していましたが、BOMではモデル出力での予測誤差の小さな移動平均を保存し、各ステップで現在のネットワークを通じて再投影します。バッチ単位の解析で、この移し替えによって保持される情報と失われる情報を示し、モメンタム系最適化器のプラグインとして使えると報告しています。パラメータ形状の最適化器状態は49.7〜99.8%削減され、3つの言語バックボーンの平均で1ステップの時間は4.0%増加、言語と視覚のファインチューニングでは平均検証性能が向上したとしています。
Yuchen Li, Zongqi Fan, Nguyen H. Tran ほか
arXiv
cs.SD · cs.CL · eess.AS 2026年9月29日
説明 微分可能な音響シミュレーションによる声道形状の再構成
要約 本論文は、声道を音響管モデルとして音を合成する、微分可能でGPUで高速化された声道音響シミュレータを提案する。その勾配を用いて、発せられた音声だけから声道の形状を逆推定する。周波数領域での流体力学の定式化、子音合成のための微分可能な乱流モデル、神経網による形状のパラメータ化の3つの技術により、勾配降下法が収束するとしている。11言語での声道形状の自己教師あり自己符号化と、音声からMRI画像を再構成する応用も示されている。
Eric Ming Chen, Jin Woo Lee, Vincent Sitzmann
arXiv
cs.HC · cs.CL · q-bio.NC 2026年9月29日
説明 神経からの会話へ:音声脳コンピュータインタフェースの総説
要約 本論文は、言語や発話に関連する神経活動をテキスト、合成音声、アバター操作などに変換し、コミュニケーションの回復を目指す音声脳コンピュータインタフェース(BCI)を、システム全体の視点から概観しています。言語の神経基盤、記録と解読の方法、閉ループ適応、評価、臨床応用、倫理を取り上げています。著者は、今後の音声BCIはオフラインの精度だけでなく、セッション間の頑健性、校正負担、遅延、不確実性、使いやすさで評価されるべきだと主張しています。
Moein Khajehnejad, Forough Habibollahi, Tommaso Boccato ほか
arXiv
cs.AI 2026年9月29日
説明 BiFE:LLMによる二重忠実度進化を用いた、CPUのみで動く分岐ポリシーの効率的な探索手法
要約 本論文は、混合整数線形計画の分枝限定法における分岐変数選択を対象としています。大規模言語モデルで生成した軽量な分岐規則を、二重忠実度進化フレームワーク(BiFE)で探索する手法を提案しています。低忠実度の模倣学習スコアで候補を素早く絞り込み、エリート候補にだけ高忠実度の実インスタンス評価を行います。実験では、発見された規則がCPU上でSCIPソルバーや他の基準手法を上回り、一部はGPUベースのニューラルポリシーをも超えたと報告されています。
Ce Zhang, Bin Zhang, Zhiwei Xu ほか
arXiv
cs.CL 2026年9月29日
説明 説明:教師モデルの確信度に応じて選択的に蒸留する大規模言語モデル向けの手法(CaRE-KD)
要約 知識蒸留は、小型の生徒モデルに大型の教師モデルを模倣させる手法ですが、大規模言語モデルでは教師の予測がエントロピーの高さや幻覚を伴うことがあり、標準的な蒸留は生徒モデルの良好な事前分布を損なうおそれがあります。本論文はCaRE-KDを提案し、教師と生徒の確信度に応じて前向きと逆向きのKLダイバージェンスを切り替えるトークン単位の損失と、教師の不確実性が生徒より高い場合に更新を抑制するバッチ単位の仕組みを導入しています。八組の師生ペアと十一のベンチマークで、強力なベースラインを一貫して上回ったと報告されています。
Ayan Sengupta, Vaibhav Seth, Tanmoy Chakraborty
arXiv
cs.AI · cs.CL · cs.SE 2026年9月29日
説明 エージェントは他のエージェントのためにライブラリを設計できるか?
要約 本論文は LibraryDesignBench という二段階のベンチマークを提案します。エージェントは、設計方法を指定せず必要な機能と利用場面だけを定めた仕様から、完全なライブラリを実装します。評価は、異なるモデル系列の三つのユーザーエージェントが書いたプログラムの正しさと簡潔さで行われ、四つの言語にわたる 15 のライブラリ設計タスク、242 の専門家検証済みの問題を含みます。
Gabriel Orlanski, Alex L. Zhang, Avi Trost ほか
arXiv
cs.AI 2026年9月29日
説明 AI科学者は考えを改められるか?合成宇宙における事前知識と証拠の衝突
要約 本論文は、有名な標準的な世界と、近い非標準的メカニズムで支配される対応する「ねじれた双子」の世界を組み合わせた「合成宇宙」ベンチマークを提案します。AIエージェントが証拠から推論した法則と、単に知っている法則を区別できるかを検討しています。各法則について、保留データでの予測性能と生成メカニズムの回復を別々に評価した結果、両者は分離しうることが示されました。因果的な先験知識の衝突効果を確認したとは主張していません。
Kargi Chauhan
arXiv
cs.LG 2026年9月29日
説明 勾配空間でのルーティング:負荷の均等化はエキスパートの専門化と同じではない
要約 本論文は、スパースなエキスパートモデルにおけるルーティングを勾配の分割問題として捉え、勾配が整合するサンプルを同じエキスパートにまとめる勾配整合ルーティング(GAR)を提案します。5つのマルチタスク文章分類データで比較したところ、GARは全体の検証精度が最も高く、タスク損失のみのルーティングより約1.07ポイント上回りました。
Yuchen Li, Mingyu Du, Zongqi Fan ほか
★★★★☆ 注目
arXiv
cs.CL 2026年9月29日
説明 ATTUNER:再計算不要のエージェント文脈KV再利用手法
要約 大規模言語モデルのエージェントは、スキル・文書・メモリ項目などの再利用可能な内容を繰り返し文脈に読み込みます。毎回再エンコードすると計算が無駄になります。本論文はクエリ側の適応手法ATTUNERを提案します。凍結されたキャッシュ上で低ランクアダプタを学習し、完全プリフィルの分布を蒸留して訓練します。訓練するパラメータは0.05%未満で、推論時にキャッシュの再計算は不要です。七つのベンチマークで既存の位置非依存キャッシュ手法を上回り、完全文脈プリフィルと同等の品質で最大3.73倍の高速化を達成します。
注目点 損失の原因がKV再計算ではなく注意機構にあることを分析し、クエリ側の低ランクアダプタで解決、7ベンチマークで検証。
Xinghao Chen, Junnan Dong, Cai Ke ほか
arXiv
cs.LG 2026年9月29日
説明 CALIBUDGET:固定予算の混合推論適応のための、校正に基づくデータソース配分手法
要約 本論文は、固定の訓練予算のもとで複数の異種データソースに学習サンプルの配分量を決める手法 CALIBUDGET を提案しています。訓練内部の小規模な校正分割を用い、モデルの必要性、下限保護後の利用可能量、ブートストラップによる安定性を組み合わせて、容量制約を満たす整数の配分枠を作成します。モデル、目的関数、総予算は変更しません。数学データと常識データを組み合わせた実験では、三つの対応する LLaMA-2-7B LoRA+ の実行すべてで常識タスクおよび全体の平均を改善しましたが、数学タスクの平均はわずかに低下しました。
Yupeng Chang, Yuan Wu
arXiv
cs.LG · stat.ME 2026年9月29日
説明 SIRNET:代理変数がある場合に事前学習済み埋め込みを用いて半パラメトリックに処置効果を推定する因果的適応法
要約 本論文は、テキスト、画像、動画などの非構造化な処置後代理変数を含む実験で処置効果を推定するためのSIRNETフレームワークを提案している。事前学習済みエンコーダの埋め込みを出発点とし、結果予測、傾向スコア、各群の代理変数の周辺化に共通して使える適応器を学習する。最終的な効果推定値と信頼区間は、交差適合された直交スコアから得られ、示された干渉パラメータの収束率条件のもとで半パラメトリック効率限界に到達するとされる。著者は合成データ、半合成データ、およびA4無症候性アルツハイマー病抗アミロイド試験において、凍結した事前学習済み脳MRI埋め込みを長期結果の代理変数として用い、性能を検証している。
Lei Shi, Qiuran Lyu
arXiv
eess.SY · cs.LG · cs.SY 2026年9月29日
説明 情報理論に基づく受容的ホライズン型の能動学習:非線形力学系の同定
要約 本論文は、単一軌道上で状態を観測する確率的制御非線形力学系について、有限時間の実験で情報量の多いデータを効率よく集める方法を扱います。固定の非線形特徴量によるパラメトリック推定器をガウス事前分布のもとで逐次ベイズ更新し、予測の不確実性をオンラインで評価します。適応設計問題を受容的ホライズン型の最適化として定式化し、クロスエントロピー法で解きます。雑音を含む多安定系の数値実験では、一般的な励起手法より少ない不確実性と再構成誤差で学習できることが示されています。
Juncal Arbelaiz, Anushri Arora, Jonathan W. Pillow
arXiv
math.NA · cs.LG · cs.NA 2026年9月29日
説明 危険地帯へ:高次元の関数・演算子学習における安定した外挿
要約 本論文は、訓練分布と検定分布が異なる場合の回帰問題を扱い、目標関数や演算子にどのような仮定があれば安定した外挿が可能かを検討しています。分布のずれが大きくても分布外の汎化誤差が代数的な速度で収束する正則関数・演算子のクラスを特定し、その理由を高次の座標ほど滑らかさが増すことに求めています。多項式、深層ニューラルネットワーク、深層ニューラル演算子について明示的な収束速度を導出し、数値実験で理論を検証しています。
Ben Adcock, Simone Brugiapaglia, Xuemeng Wang
arXiv
cs.CL 2026年9月29日
説明 LAURA:法的契約における曖昧な条項の解釈可能な識別のための知識蒸留手法
要約 法的契約の曖昧な条項は企業に財務上・法的リスクをもたらすため、識別だけでなく解釈可能な根拠の分析も必要です。本論文は、解釈可能な曖昧条項識別のためのポストトレーニング枠組みLAURAを提案し、IRAC型プロンプト技法を用いて教師LLMの知識を10億パラメータ以下のオープンウェイト学生モデルへ蒸留します。分類と根拠生成を組み合わせた同時損失で学習し、Flan-T5(2.5億パラメータ)を用いたLAURAは、すべての解釈可能なベースラインを上回る解釈性を示し、最良の不透明なベースラインと同等の識別性能を達成したと報告しています。
Amrita Singh, Aditya Joshi, Jiaojiao Jiang ほか
arXiv
cs.AI 2026年9月29日
説明 JudgeProfile:LLM審査者の主観性を理解し調整する
要約 本論文は、LLMによる two 回答の比較評価を「知覚」(明瞭さ、正確性、詳細さなど属性ごとの比較)と「優先順位付け」(各属性が最終選択に与える影響)に分解するフレームワーク JudgeProfile を提案しています。17の公開データソースから得た50,013組の回答ペアと87の属性を含む SubjectiveSet を構築し、21のLLM審査者で評価しました。属性判断では審査者間で一致が多い一方、総合的な選択は分かれることが分かりました。参照ラベルから属性の重みを学習し直すと、留め置きデータでの平均一致率が66.48%から71.97%に向上しました。
Qi Cao, Kangning Liu, Xuan Kan ほか
★★★★☆ 注目
arXiv
cs.LG · stat.ML 2026年9月29日
説明 粗い教師信号はいつ価値があるか:未知の集約下でのコスト考慮型学習
要約 本論文は、高価な細粒度ラベル(ベクトル応答)と安価な粗粒度ラベル(未知の重みで集約されたスカラー値)という二つの粒度の教師データを用いる学習を扱います。著者らは、この情報幾何を特徴づけ、集約規則を推定しつつ最適な粒度の配分を追跡するオンライン方針を提案し、粗い教師信号の損益分岐条件を導出しています。合成実験では、粗い教師信号が十分に有利な場合、有限予算下で全て細粒度で取得する方法より改善することが示されています。
注目点 未知の集約下での二解像度教師あり学習を扱い、閉形式の損益分岐条件と一致する下界を導出しており理論的新規性が高い。
Jianyu Xu, Smriti Jha, Aarti Singh ほか
arXiv
cs.CL · cs.AI 2026年9月29日
説明 会話で迷うのか、翻訳で迷うのか:RAGの多ターン劣化の診断
要約 本論文は、検索拡張生成(RAG)とそのグラフ型変種(GraphRAG)を多ターン対話で評価した研究です。多段階質問応答ベンチマークの問題を情報が不足した対話に変換し、10種類の大規模言語モデルと8種類の検索システムで約150万件のシミュレーション対話を行いました。その結果、多ターンのやり取りにより性能が広範に低下し、相対的な性能低下は最大21%、信頼性の低下は47%に達しました。失敗の原因として、会話的な言い換えで検索クエリが歪む場合と、検索には成功しても複数ターンに分散した根拠を統合できない場合の2つが挙げられています。
Pranav Handa, Ariful Azad
arXiv
cs.LG 2026年9月29日
説明 学習済みクエリとキーで十分:値射影を構造化変換に置き換えるダブルヘッドTransformer
要約 本論文は、Transformerのパラメータ数とキャッシュメモリを減らすため、従来の三つのヘッドの代わりに、構造化変換を用いたダブルヘッド方式を提案している。ウォルシュ・アダマール変換、離散コサイン変換、離散フーリエ変換、シアレット変換、乗算回避演算子を検討し、ImageNetで三ヘッドのTransformerより良い結果を得たと報告している。
Ene Meco, Emadeldeen Hamdan, A. Enis Cetin
arXiv
cs.LG 2026年9月29日
コードあり
説明 「自分を知り、自分を教える」:選択的自己蒸留のための内部情報フロー
要約 この論文は、外部の教師モデルがない場合の自己蒸留フレームワーク InFlow を提案しています。まず確信度で較正された隠れ状態の軌跡を用いて有用になりうる情報源を検索し、教師の初期回答と検索条件下の回答の分布との間の Jensen-Shannon ダイバージェンスで実際の効果を測定します。信念の変化が大きい例を選んでオンポリシー蒸留に用います。4つのオープンウェイト言語モデルと3つの知識領域で、比較された選択手法の中で最も高いモデル横断平均を達成したと報告されています。
Rui Wang, Ruijie Wang, Bo Chen ほか
arXiv
cs.CV 2026年9月29日
説明 AESplat:分離型外観モデリングによる姿勢不要フィードフォワード3Dガウシアン・スプラッティングの改良
要約 本論文は、カメラ姿勢を必要としないフィードフォワード型3Dガウシアン・スプラッティング(3DGS)のための新しいフレームワークAESplatを提案し、汎化された新規視点合成を目指しています。球面調和関数(SH)の分析に基づき、視点に依存しない基本外観と視点依存の外観を分離してモデル化します。ゼロ次のSH係数は入力画像から直接求め、高次係数は2種類の3D認識帰納バイアスを備えた浅い多層パーセプトロンで予測します。RealEstate10Kデータセットでは、姿勢不要のNAS3Rに対してPSNRが0.8 dB、姿勢が必要なDepthSplatに対して1.1 dB向上したと報告されています。
Shiwei Ren, Zhiang Liu, Yongchun Fang ほか
arXiv
cs.LG · cs.AI 2026年9月29日
コードあり
説明 正規化してから前処理する:LLM学習のための周辺スケールと相互作用幾何の階層的手法
要約 本論文は行列最適化手法Muonを全Gram表現から再検討し、周辺スケールと相互作用情報を同時に扱っていることを示しました。これを基に、まず対角Gram情報で周辺正規化された更新を作り、そのうえで方向的な相互作用幾何にスペクトル前処理を施す「Normalize-Then-Precondition(NormPre)」の枠組みを提案しています。グローバル版NormPre-Gとローカル版NormPre-Lの2つの変種を開発し、GPT-2 Small、LLaMA、Qwen3での事前学習実験で、同じ学習予算においてAdamW、Muon、MANOを上回ったと報告しています。コードはGitHubで公開されています。
Zixuan Gong, Zeyu Gan, Jiaye Teng ほか
arXiv
cs.CL 2026年9月29日
説明 Video2Skill:ストリーミング経験から再利用可能な身体的スキルへ
要約 本論文は、モデルが動画を順番に観察しながら持続的なスキルライブラリを更新する「ストリーミング身体的スキル発見(SESD)」という課題を提起しています。ロボットの卓上操作と人間の台所活動を対象とする評価基準 Video2Skill を導入し、事象の時間的特定、同種の変化の分類、既存スキルの再利用か新規作成かの判断を測定しています。19 の公開視覚言語モデルの多くは分類がほぼ偶然水準にとどまり、教師あり微調整後もライブラリの拡張は乏しく、既存スキルが不十分な状況の認識が中心的な課題とされています。
Jianshu Zhang, Ce Zhang, Xiyuan Yang ほか
arXiv
cs.LG · cs.CL 2026年9月29日
コードあり
説明 CHAIN:因果-時間ハイパーグラフ推論による較正済みLLM予測
要約 本論文は、大規模言語モデルのイベント予測における確率出力に、領域や質問の種類によって異なる系統的な較正バイアスがあることを指摘しています。因果-時間ハイパーグラフ上の確率予測を証拠重み付け、証拠集約、ソース融合の三段階に分解し、各段階でバイアスを抑える仕組みを備えたCHAINを提案しています。複数領域の予測ベンチマークでは、期待較正誤差、Brierスコア、正解率のいずれにおいても既存手法を上回ったと報告されています。
Wenjin Liu, Chenxi Wang, Yue Lu ほか
★★★★☆ 注目
arXiv
eess.SP · cs.AI 2026年9月29日
説明 MyoCodec:筋電図向けストリーミング型ニューラルコーデック
要約 本論文は、筋電図(EMG)向けのストリーミング型ニューラルコーデック「MyoCodec」を提案している。因果的Transformerと残差ベクトル量子化を組み合わせ、連続的な筋電信号を50Hzの離散トークンに符号化する。12の公開筋電データセットで学習され、符号化品質やタイピング、手の姿勢推定、音声デコード、音声から筋電への合成などの下流タスクで良好な性能を示した。ストリーミング推論では20ミリ秒のフレームあたり約0.482ミリ秒で処理でき、リアルタイム処理が可能である。コードとモデルの重みは公開されている。
注目点 音声ニューラルコーデックの因果Transformerと残差ベクトル量子化を筋電図に適用し、四つの下流タスクで比較検証しており、有意義な組み合わせである。
Jihwan Lee, Kleanthis Avramidis, Junhyeok Lee ほか
★★★★☆ 注目
arXiv
cs.LG 2026年9月29日
コードあり
説明 根本原因分析はどこで失敗するか:検索と再ランキングへの分解
要約 本論文は、よく使われる top@k 精度が二種類の失敗を区別できないことを指摘します。一つは真の原因が候補にすら入らない検索の失敗、もう一つは候補には入るが順位が低すぎる再ランキングの失敗です。著者らはこの二段階に分けたうえで四つのベンチマークを検証し、多信号検索と LLM による再ランキングを組み合わせた手法が、六つのベンチマーク全体で最良のベースラインに並ぶか上回ることを示しています。因果グラフやラベル付きデータは必要ありません。
注目点 top@kの盲点を検索と再順位付けに分解する視点を示し、六つのベンチマークで検証した点が新しく、根本原因分析の分野に有用である。
Hada Melino Muhammad, Luan Pham, Laure Barri\`ere ほか
arXiv
cs.CV 2026年9月29日
説明 意味を両立させる:発話同期ジェスチャー生成のための信頼性を考慮した意味・リズム制御
要約 本論文は、発話に伴うジェスチャーを、発話のリズムと同期しつつ意味内容とも整合するように生成する課題を扱います。離散的な運動の事前分布を学習し、マルチモーダル分岐と音声のみの分岐の間の条件付き情報利得によって、テキストの意味が動作をどれだけ変えるかを推定します。その推定に基づき、内容に関連する区間で意味的誘導を選択的に強め、背景雑音を音響的信頼性の条件として扱うことで、実環境での頑健性も高めます。
Zhirui Xing, Long Ye, Kaige Li ほか
arXiv
cs.CL 2026年9月29日
説明 ProgressCompass:身体性を持つ進捗報酬モデルは正しい文脈がないと進捗を見失う
要約 論文は、長いタスクを行うエンボディドエージェントにおいて、現在の画面だけでは進捗を判断できない問題を扱います。作者は24の操作タスク・120エピソードからなるベンチマーク ContextProgress-Bench を構築し、状態の想起、順序の追跡、再帰的な状況の区別の3設定で評価しました。同じ5つのモデルに正しい文脈を与えると進捗誤差が77〜82%減少しました。さらに、凍結したPRMの誤差を63%減らす代理ループ ProgressCompass を提案しています。
Jianshu Zhang, Keliang Wu, Chengxuan Qian ほか
arXiv
cs.LG · cs.CL 2026年9月29日
説明 MARCO:条件付き分子最適化のための多ラウンド型エージェント強化学習
要約 分子最適化は、候補分子を提案し複数の指標で評価してから修正するという反復的な作業であり、元の分子との関係も保つ必要があります。MARCOは、評価器からのフィードバックに基づく強化学習で分子編集モデルを訓練し、提案・フィードバック・修正の有限の軌跡の中で学習させる手法です。MuMOInstructの3目標ベンチマークと複数のQwenバックボーンで評価され、SFTで初期化されたMARCOは各主要設定で特性成功率と類似度の積が最も高く、最大5回の応答が可能な場合にはさらにスコアが向上しました。
Shicheng Fang, Yuxin Wang, Zhuo Yang ほか
arXiv
cs.CV 2026年9月29日
説明 構造化プロンプト再パラメータ化による視覚言語モデルの再プログラミング:凍結バックボーンで少数ショット分類を改善する手法
要約 本論文はRVP(Reparameterized Inter-Class Visual Reprogramming)を提案し、各クラス内で複数のテキストプロンプトを集約し、クラス間では残差補正を適用することで、視覚的再プログラミングを改善します。CLIPベースの線形出力集約を、凍結画像埋め込みから下流のロジットへの線形写像として表現し、共有意味成分とクラス固有の差異をモデル化する構造化再パラメータ化を設計しています。11の少数ショット分類ベンチマークと4種のCLIPバックボーンで、RVPは既存の視覚的再プログラミング手法を上回り、推論効率は同等以上とされています。
Zizhao Li, Chengyi Cai, Mohammed Yaqoob Ansari ほか
arXiv
cs.AI 2026年9月29日
説明 MLToolBench:機械学習開発のためにツールを使いこなすエージェントを学習させる研究
要約 本論文は、データ検査・コード検証・実験診断のための実行可能なツール群 ToolMLBench と、その使い方を学習させるSFTおよび強化学習のパイプラインを提案しています。特権的な文脈がツール行動の尤度をどう変えるかを測るSPICEという手法を導入し、最終結果と併せて逐次的な報酬として用いています。80の合成タスクで学習した結果、域内での成功率はQwen3-8Bで24.8%から52.4%、Qwen3.5-35B-A3Bで35.6%から69.2%に向上したと報告されています。
Xin Yu, Lizhu Zhang, Jiamu Bai ほか
arXiv
cs.CV 2026年9月29日
説明 ReWorld-Track:言語誘導型マルチカメラ追跡のための再帰的イベント世界モデル
要約 本論文は、対象がカメラ間で見えなくなり再出現する際に同一性を保つ手法 ReWorld-Track を提案する。候補の対応付けと待機を別々の対象状態として扱い、その事後確率で持続的な再帰的信念を更新する。この信念により次のカメラ、到着時刻、進入領域を予測する。CityFlowV2 では HOTA 65.19、MTMMC では 45.36 を達成した。
Haoyang Wu, Shoudong Han, Chaoyue Li ほか
arXiv
cs.CL 2026年9月29日
コードあり
説明 ゲーデル森:データ中心の再帰的自己改善における探索の深さと幅のバランス
要約 本論文は、再帰的自己改善を協調進化する探索木のアンサンブルとして組織するマルチエージェント枠組み「ゲーデル森(Gödel Forest)」を提案している。各エージェントはモデルのフィードバックに基づき自分の木を深める、分岐させる、または枝刈りし、並列の木がデータ空間の異なる領域を探索する。共有メモリは成功と失敗を簡潔な手続き的教訓にまとめ、6つの領域のRSIBench-Dataで単一エージェントの基線を平均10.70%上回った。アブレーションでは、共進化する共有メモリが独立した並列探索より+7.00%の改善をもたらした。
Ziqi Zhao, Fanqing Meng, Haocheng Lu ほか
★★★★☆ 注目
arXiv
cs.CL · cs.LG 2026年9月29日
コードあり
説明 CAST:一回のパスでブロックドラフターから得る、コスト考慮型投機的ツリー
要約 投機的デコーディングは、軽量なドラフトで将来のトークンを先読みし、目的モデルで並列に検証して大規模言語モデルの推論を高速化します。CASTは、ブロックドラフターがすでにスコアを付けた複数の候補をツリーにまとめ、目的モデルの一回のパスで検証します。目的モデル、ドラフターの重み、デコーディング規則は変更しません。ツリーの幅は遅延の測定値から自動的に決まり、幅を総当たりで探す必要はありません。八つの設定すべてで標準のチェーン方式より速く、最大43%高速です。また、出力分布が変わらないことも証明されています。
注目点 一回の順伝播で得た候補を検証木にまとめ、遅延コストに応じて幅を適応させる点に新しさがあり、複数環境での実験と出力分布保存の証明で裏付けられている。
Jungseob Lee, Sugyeong Eo
arXiv
cs.LG 2026年9月29日
説明 人間に着想を得た、タスク次元に導かれる高次元での効率的な学習探索(TDGE)
要約 本論文は、人間が候補となる特徴次元を探り、報酬に関係する次元を絞り込む仕組みを模した TDGE アルゴリズムを提案しています。「タスク次元—特徴—アイテム」の階層を用い、上位から順に探索します。MovieLens-20M、LastFM、Amazon の推薦データセットでの実験では、ベースラインより探索効率とコールドスタートへの適応が向上したと報告されています。
Fanyu Zhu, Jiahui An, Ni Ji
arXiv
cs.AI 2026年9月29日
説明 FairDiff:拡散推薦モデルにおける自己強化型マタイ効果の緩和
要約 本論文は、拡散推薦モデル(DRM)が生成過程のダイナミクスを通じて人気度バイアスを増幅し、自己強化的なマタイ効果を生むことを示している。提案手法FairDiffは、推論時の人気度条件付きガイダンス(PCG)と、一段階の最適輸送で前向き・逆向き分布を整合させる意味的キャリブレーション(SC)モジュールからなる、プラグアンドプレイ型の公平性考慮フレームワークである。著者らは、FairDiffが最先端の性能を達成し、この効果を効果的に緩和すると報告している。
Song-Li Wu, Xianquan Wang, Zhaocheng Du ほか
arXiv
cs.AI 2026年9月29日
説明 FineSID:生成型推薦のためのスケーラブルで効率的な意味的識別子学習
要約 本論文は、生成型推薦に必要な意味的識別子(SID)を学習するFineSIDフレームワークを提案している。既存手法はベクトル量子化でTop-1のハード割り当てに依存しており、勾配が少数のコードワードに集中して多くが十分に学習されず、SIDの衝突が生じる。FineSIDは学習信号を微分可能な形でコードブック全体に分配し、衝突の軽減、コードブック利用率と推薦精度の向上を示したと述べている。初期化設定に対して頑健である点も特徴とされる。
Song-Li Wu, Weinan Gan, Zhaocheng Du ほか
arXiv
cs.LG · math.OC 2026年9月29日
説明 Polyakステップサイズと Armijo 直線探索を用いた確率的重球法:一般的な収束解析
要約 本論文は、Polyakステップサイズ(PS)とArmijo直線探索(ALS)を備えた確率的重球法(SHB)の収束理論を研究しています。PSに近いArmijo規則の修正版と、モメンタムによる履歴依存を切り離す解析を提案しています。強凸、凸、非凸の目的関数について期待値収束を示し、補間や強増加の条件下では概確実な収束率と最終反復の収束も示しています。
Jiawei Zhang, Qitan Shi, Yuantao Gu
arXiv
cs.CV · cs.RO · eess.IV 2026年9月29日
コードあり
説明 EgoRefine:非同期協調知覚のための自車参照予測アライメントと軌道条件付き信頼性考慮型融合
要約 本論文は、非同期通信における協調知覚で、送信側の特徴に時間遅延があり自車の現在の観測との残差ずれが生じる問題を扱い、EgoRefineという枠組みを提案している。自車参照予測アライメントモジュールは、自車の現在の特徴を用いて協調軌道場の予測を導き、自車参照の軌道方向に沿ってサンプリングオフセットを補正する。軌道条件付き信頼性考慮型融合モジュールは、自車と協調ストリーム間の軌道差と方向補正量をアライメントの手がかりとして用い、2つのストリームを適応的に重み付けしてから畳み込み融合を行う。V2V4RealおよびDAIR-V2X-Seqでの実験では、AP@0.5とAP@0.7の平均でTraF-Alignをそれぞれ1.6点と2.9点上回った。
Lingzhao Kong, Yongsheng Zang, Yu Kang ほか
arXiv
cs.LG · cs.LO 2026年9月29日
コードあり
説明 GenLimitLib:極限における言語生成の形式化ライブラリとAI支援数学研究
要約 本論文は、Lean 4で構築された、元論文と対応付けたライブラリGenLimitLibを紹介します。「極限における言語生成」は、観測された例から有効な新しい文字列をどう生成するかを扱う理論問題で、Kleinbergと Mullainathanが NeurIPS 2024で提起しました。本ライブラリは30本の論文の形式化を含み、共通の定義と再利用可能な証明部品を抽出するとともに、論文間の関係を記録します。著者らは数学的事例研究と大規模言語モデルの実験により、人間による数学研究とAI支援研究の双方を支えうることを示しています。
Shuangping Li, Peng Zhang
arXiv
cs.LG · cs.AI 2026年9月29日
説明 AutoLoCo:適応的同期による通信効率の高い分散LLM学習
要約 本論文は、大規模言語モデルの分散学習における通信負荷を減らすAutoLoCoフレームワークを提案しています。学習中のスカラー統計量に基づいて同期間のローカル最適化ステップ数を適応的に調整し、ステップ数の変化による外側の更新のずれを補正します。通信制約下の実験では、DiLoCoと比べて通信頻度を27%削減しつつ学習性能を維持したと報告されています。
Pengyu He, Yan Zhang, Ruien Li ほか
arXiv
cs.CV 2026年9月29日
説明 「You Only Reprogram Once」:視覚リプログラミングの長時間学習を見直す新手法
要約 視覚リプログラミング(凍結した事前学習モデルに視覚プロンプトを最適化して適応させる手法)は学習コストが高いという課題があります。本論文は、単一の順伝播走査だけで凍結モデルの応答空間から下流予測器を構築するYOROを提案します。その中核となるBayesian Discriminant Mapping(BDM)は、逆伝播なしで共分散を考慮したアフィン写像を導出します。全データ設定の3つのタスクで、従来の勾配不要な写像法より平均精度が18.4〜24.4%向上したと報告されています。
Zizhao Li, Mohammed Yaqoob Ansari, Xinyu Su ほか
arXiv
cs.LG · math.OC 2026年9月29日
説明 ビザンチン耐性のある連合表現学習:悪意あるクライアントが混在する連合学習で、各クライアントが個別の線形ヘッドを学習し、耐攻撃的な集約によって共有の非線形表現を共同で推定する手法。
要約 この論文は、敵対的なクライアントを含む連合学習を扱い、正直なクライアントの身元が分からない状況で、その平均損失を最小化することを目的としています。データが異質な場合に単一の共有モデルが生じる固有のバイアスを避けるため、各クライアントが個別の線形ヘッドを学習し、ビザンチン耐性のある集約で共有の非線形表現を推定する方法を提案しています。非漸近的なパラメータ復元誤差の上界を示し、多クラス分類への拡張をCIFAR-10、FEMNIST、School Exam Scoreのデータセットで実証的に検証しています。
Leonardo F. Toso, James Anderson, Rafael Pinot ほか
arXiv
eess.IV · cs.CV · physics.optics 2026年9月29日
コードあり
説明 LensBridge:周波数ガイドによる複合劣化への適応で、レンズ収差の補正とベール状グレア除去を両立
要約 本論文は、簡略化された光学系に残るレンズ収差とベール状グレア(Veiling Glare)を扱う二段階フレームワーク「LensBridge」を提案しています。第一段階では、大規模レンズライブラリLensLibの点広がり関数(PSF)から再利用可能な収差補正基盤を構築します。第二段階では、周波数領域のガイダンスを用いて、目標システムの対になっていない少数の観測画像だけで複合劣化へ適応させます。複数の光学系での実験により、目標システムの対データなしで収差補正とグレア除去を同時に行えることが示されています。
Xiaolong Qian, Zhonghua Yi, Qi Jiang ほか
arXiv
cs.LG 2026年9月29日
説明 オンポリシーのパラメータ更新方向がLLM事後学習の汎化を支えることを示す論文
要約 本論文は、オンポリシー事後学習におけるパラメータの累積更新方向を調べている。教師ありファインチューニング(SFT)は一貫した方向に更新する一方、オンポリシー学習は学習中に方向を絶えず調整することを示した。そのうえで、SFTの更新をオンポリシー手法が特定した方向に制約するOPSFTを提案し、汎化の利点をSFTへ移せることを報告している。
Shufan Shen, Zhongni Hou, Junshu Sun ほか
arXiv
cs.LG · cs.AI 2026年9月29日
説明 憲法アダプター:不整合と悪用への推論時介入
要約 本論文は、明示的な原則の集合(「憲法」)に従う振る舞いを合成コーパスから軽量なオブジェクト(低ランクアダプターとステアリングベクトル)へ蒸留できるかを検討しています。学習中に有害な要求や脱獄の例を見ていないにもかかわらず、これらのオブジェクトは脱獄防御の成功率と整合性の指標を向上させ、長文脈や多ターン攻撃で既存のベースラインを上回ると報告されています。著者らはこれを「憲法アダプター(CAs)」と呼び、推論時に強度を調整して防御と通常の応答性を予測可能な形で両立させられるとしています。
Adam S. Lowet, Mark Kurzeja
arXiv
cs.CV 2026年9月29日
説明 すべての補正が有益とは限らない:ゲイン指導型の継続的テスト時適応
要約 本論文は、分布が時間とともに変化する未ラベルのテストストリームに、モデルを継続的に適応させる課題(CTTA)を扱います。提案手法GAINは、逆伝播を用いず、目標データの統計量から補正案を作り、後验予測評価器で元のソースモデルに対する利得を推定して、各サンプルへの補正の強さを決めます。原文では、5つのベンチマークで良好な精度と校正、効率を示し、ImageNet-Cでは精度61.9%、代表的な最適化型ベースラインより15.9倍高速だと報告されています。
Youjia Zhang, Huiling Liu, Soyun Choi ほか
arXiv
cs.LG · cs.CL · cs.DC 2026年9月29日
説明 曲率のリプレイ:大規模言語モデル推論のための高精度でスケーラブルな NVFP4 量子化
要約 本論文は、NVFP4 量子化のブロックスケールを選ぶ Schur Replay アルゴリズムを提案します。これは各ブロックスケールが引き起こす GPTQ の更新を再現し、未量子化列による補償を考慮したうえでブロック誤差を評価します。あわせて、活性層のみを保持し、アクティベーションを機器・ホスト・ディスク間で階層化し、テンソル並列ランク間で出力行を分散させる実行基盤も提示されています。Qwen3.5-397B-A17B と Llama-3.3-70B-Instruct の 7 つのベンチマークで、BF16 に対する加重回復率はそれぞれ 99.35% と 100.84% です。
Ruiyi Ding, Jie Li, Kang He ほか
arXiv
cs.LG 2026年9月29日
説明 ループ型Transformerにおける再帰推論の更新スケジューリング
要約 本論文は、循環型推論モデルにおける反復ごとの更新スケールの調整を扱います。終端損失の再帰的更新スケールに対する感度を、持続的な進展成分と中心化された変動成分に分解し、その均衡を追跡して推論中にステップサイズをオンラインで適応させるTAPSを提案しています。著者らによれば、TAPSは再学習なしで構造化推論タスクの終端精度を向上させ、学習に組み込むとさらに精度が上がり、基準精度に合わせた場合に最大1.56倍の実時間高速化が得られるとしています。
Boyuan Wang, Chengyao Yu, Jiaxi Ren ほか