arXiv
cs.AI 2026年10月10日
説明 HiPPT:生理学に基づき、マルチスコープのテキスト整合で学習するウェアラブルPPG表現
要約 本論文は、手首装着型の光電容積脈波(PPG)を再利用可能な表現として学習するためのHiPPTフレームワークを提案します。各監督信号を適切な波形証拠の範囲に対応させ、個々の記録の脈波形態との整合と、同じメタデータを持つ記録間の文脈整合を組み合わせています。202Kユーザーの400万件超の記録からなるPPG-テキストコーパスを構築し、6つの下流タスクの線形プロービング指標で最良の結果を示したと報告しています。また、年齢層、性別、BMIカテゴリーのゼロショット分析にも対応しています。
Jiaqi Wang, Wei Chen, Xiaoyu Li ほか
arXiv
cs.AI 2026年10月10日
説明 AlignPoison:デコーディング整合プレフィックスによる生成型推薦モデルへの条件付きターゲット型データポイズニング
要約 本論文は、自己回帰デコーディングに基づく生成型推薦モデルがデータポイズニングに対してどの程度脆弱かを検討しています。攻撃者が悪意ある相互作用を限定的に注入し、推薦APIをブラックボックスとして問い合わせられる設定で、1%未満の合成相互作用の注入によりトリガー下で悪意ある対象が推薦されやすくなることを示しています。さらに、デコーディング整合性と接頭辞の人気度に基づく攻撃手法AlignPoisonを提案し、単一モーダルおよびマルチモーダルのベンチマークで攻撃成功率を最大16.3ポイント向上させたと報告しています。
Zhuoxuan Zhang, Jinhao Duan, Xinyu Zhao ほか
arXiv
cs.AI · cs.LG 2026年10月10日
説明 リスクスコア差の根拠に基づく診断のための制御付きLLMワークフロー
要約 本論文は、類似する過去の取引を用いてリスクスコアの差を説明するための、制御された大規模言語モデル(LLM)ワークフローを提案している。このワークフローは、参照データの検索と対比型のSHAP(SHapley Additive exPlanations)による根拠情報を、参照に基づくLLM推論および決定論的な検証と組み合わせている。テストデータセットでの実験では、構造化されたワークフローの指導なしで同じLLMを使った場合と比べ、より一貫性があり、証拠に基づき、追跡可能な診断が得られることが示されたとしている。
Hanqing Dou, Zijia Cao
arXiv
cs.MA 2026年10月10日
説明 一度の最適化で高速実行:繰り返しクエリ向けの遅延考慮型マルチエージェントワークフロー学習
要約 大規模言語モデルベースのマルチエージェントシステムは、繰り返し利用されるワークフローで実行遅延が蓄積するという課題を抱えています。本論文は、タスク性能を保ちつつ実行時間(makespan)を最小化する「遅延考慮型ワークフロー生成」という問題を提起します。提案手法LAWA(Latency-Aware Workflow optimizAtion)は、クリティカルパス上のボトルネックを狙ったグラフ編集により実行時間を削減し、新規生成と既存ワークフローの改良の両方に対応します。論文では7つのベンチマークで、競争力のあるタスク性能を保ちながら実行時間が大きく減少したと報告しています。
Enpei Zhang, Feiyu Qu, Zheng Huang ほか
arXiv
cs.CL · cs.AI 2026年10月10日
説明 AphaVoice:失語症患者の音声をシミュレーションするための音声合成モデル
要約 本論文は、失語症患者の音声を合成することに特化した音声合成(TTS)フレームワーク「AphaVoice」を提案している。既存の最先端TTSシステムと比較して、非流暢性という臨床的特徴をより良く再現し、時間的指標で優れた結果を示すとともに、話者の同一性を維持できるとされる。潜在空間のシフトにより複数話者の生成も可能で、失語症に関する医療教育や臨床シミュレーションへの応用が想定されている。
Al Varrel Putra Kusuma, Fernando Bello, Joshua Brown
arXiv
cs.CL · cs.AI 2026年10月10日
説明 大規模言語モデル間の表現アライメントの規模・要因・限界
要約 本論文は複数の大規模言語モデルの内部表現を比較し、近傍重み付きRSA(NW-RSA)と反事実RSA(CF-RSA)という二つの手法を提案しています。これにより、局所と大域の幾何構造のどこで一致し、どの言語的性質がその一致を支えるのかを分析します。粗い表現の幾何は強く一致する一方、局所近傍では大きく食い違うことが示されています。論理的スコープの変更で一致が最も大きく低下する点も報告されています。
Jialin Wu, Meenakshi Khosla
arXiv
cs.CL 2026年10月10日
説明 EdgeLLM-Nano:33.6 MBのオンデバイス言語モデルでKVキャッシュ圧縮手法を検証
要約 本論文は、エッジデバイス上でのKVキャッシュ圧縮を、約8.39Mパラメータ(33.6 MB)の小型デコーダ言語モデルを用いて検証しています。極座標ガイド付きキー量子化手法はRTN対照と比べて大幅に劣り、一貫性に基づく段階的剪定も一回限りの大きさベース剪定に勝らないと報告しています。著者はLCDF(長文脈デコード忠実度)評価指標を提案し、Raspberry Pi 5での測定では、試した圧縮手法はいずれも非圧縮FP16推論よりトークンあたりのエネルギー効率が低いことを示しています。KIVIはLCDFでほぼ無損失でした。
S M Mahbub Murshed, Hayden Bright, Rezaul Karim ほか
arXiv
cs.LG · cs.AI · cs.IR 2026年10月10日
コードあり
説明 RES-MR:説明可能で安全な投薬推薦のためのリスク考慮型推論フレームワーク
要約 本論文は、大規模言語モデルを用いて投薬推薦の透明性と安全性を高めるRES-MRを提案しています。二段階の学習により、グラフ検索で得た患者知識に基づく臨床推論を蒸留し、患者ごとのリスク境界を用いて有効性と安全性のバランスを最適化します。著者らは、ベンチマークデータセットにおいて既存手法より正確性・安全性・説明性が高いと報告しています。
Cong Wang, Jin Li, Shoujin Wang ほか
arXiv
cs.GT · cs.AI · cs.LG 2026年10月10日
説明 拡散モデルに基づく複数当選者のバナー広告オークション
要約 本論文は、拡散モデルを用いてバナー広告枠を複数の入札者が共同で獲得できる新しいオークションの枠組みを提案している。各入札者は、望む画像のテキスト記述と画像との一致度に対する価値を表明し、入札額と記述から生成された候補画像のうち社会厚生を最大化するものが選ばれる。実験では、単一当選者方式に対する効率性、分配規則の単調性、ミュールソン補題やクラーク規則に基づく支払いと組み合わせた際の近似的な誘因両立性を評価しており、モンテカルロサンプル数の増加とともに改善が見られ、画像品質も維持されたと報告している。
Lilian Sun, Henry Huang, Fucheng Warren Zhu ほか
arXiv
cs.IR · cs.AI 2026年10月10日
説明 構造化知識検索のための共適応ルール振り分けと制約手法
要約 本論文は、構造化知識ベースから課題に関連する根拠を検索するCoREという手法を提案しています。事前に定義されたクエリとルールの対応データを使わず、各クエリに適用する推論ルールの選択と、そのルール下での検索方法を同時に学習します。ルーティングと検索器を強化学習と対比学習で交互に最適化します。STaRK-QAデータセットでの実験により有効性が示されています。
Zhisheng Qi, Haoyu Han, Jiaxi Li ほか
arXiv
cs.CL · cs.CY 2026年10月10日
説明 中国語大規模言語モデルのタスク・レジスター別バイアス評価:タスク操作化の影響と皮肉分類のリスク
要約 中国語の大規模言語モデルが有害・差別的表現を識別する能力を、事前登録された多タスク行動監査で検証した研究です。阴阳(反語的な言い換え)というレジスターでは、コア群の分類誤り率が正式レジスターの10.9%から23.5%に上昇し、反語を意識したプロンプトで介入群の誤り率は9.6ポイント下がりました。著者は、タスク設定がバイアス測定結果に与える影響は実証的に確かめるべき問題であり、安全性評価では反語レジスターを試験条件に含めるべきだと述べています。
Mo Zhou
arXiv
cs.SE · cs.CL 2026年10月10日
説明 コーディングエージェント評価の再実行:判定は変わらず、方針上のリスクは未解決
要約 本論文は、実行可能テストで大規模言語モデルのコーディングエージェントのパッチを採点する方法について、二つの事前登録済みの再実行研究を報告し、いずれも否定的な結果を得たとしています。SWE-bench Pro v1のオフラインオプションでは、採点設定が変わった受理済みGoパッチ59件はいずれも拒否されませんでしたが、3%の暴露パッチリスクは未解決のままです。Darwin Gödel Machineのアーカイブから選ばれた1,929件の評価を再実行した結果、最良エージェントの選択とシステム変種の順位は維持されました。
Tianyu Ding, Yaocheng Tong, Muzhi Yang ほか
arXiv
cs.LG 2026年10月10日
説明 ループ型 Transformer による深さ方向への外挿学習
要約 本論文は、ループ型 Transformer において一つの深さで学習したブロックを、より大きな深さへどこまで安全に外挿できるかを、全対グラフ連結性問題を例に検討しています。単一の有効パラメータで決まる有限の外挿ウィンドウを導出し、その端点と学習以上に解けるグラフ難度の上限を示しています。実験により予測されたウィンドウが検証され、計算予算や初期化が最適な学習深度に与える影響が示されています。
Huitao Yang, Jianhao Huang, Zixuan Wang ほか
arXiv
cs.MA · cs.AI · cs.LG 2026年10月10日
説明 Jevolution:AIエージェントの通信と集団動態を研究する検証可能な実験フレームワーク
要約 本論文は、遠隔意思決定エージェントの実験を行うための、計測機能付きの空間捕食者―被捕食者シミュレーションフレームワーク「Jevolution」を提案する。世界の変化、非同期のリクエスト処理、コントローラのアダプタ、実験記録を分離して設計し、合成テストでソフトウェアの動作を検証している。通信の事例研究では、6組の生息地・乱数シード組で信号あり・なしの正規化ウサギ個体数差を比較したが、信号効果の方向は明確にできなかったと結論づけている。
Xirui Huang, Nikhil Hooda, Utkarsh Gupta
arXiv
cs.LG · cs.AI 2026年10月10日
説明 KV4-RL:INT4 KVキャッシュ量子化でRLVRの非同期ロールアウトを高速化する手法
要約 本論文は、検証可能な報酬による強化学習(RLVR)の非同期ロールアウトの効率を高める手法KV4-RLを提案します。キャリブレーション不要のINT4 KVキャッシュ量子化と、アテンションシンクおよび直近の文脈に対する選択的なINT8保護を組み合わせます。Qwen3-8B-BaseのGRPO学習400イテレーションで、BF16ロールアウトに対し累積1.80倍のロールアウト高速化を達成し、最終的な6ベンチマーク平均精度はBF16学習と0.5ポイント以内の差に収まりました。
Sihwan Park, Sung-Yub Kim, Doohyuk Jang ほか
arXiv
cs.CV 2026年10月10日
説明 FreeCHROMA:位置合わせ不要の背景参照からの生成的クロマキー合成
要約 本論文は、事前学習済みの動画拡散モデルをパラメータ効率よく適応させ、1〜3枚の位置合わせされていない背景参照から前景を合成するFreeCHROMAを提案しています。同一の生成過程で前景と背景を統合し、色調の調和も行います。テキスト指示は空間関係やカメラ動作の理解を補助できます。学習データは実写の単眼動画から前景背景分離と既存基盤モデルによる拡張で構築され、カメラ動作下で特に優れた結果を示しています。
Jiayi Wu, Tianfu Wang, Rui Zhao ほか
arXiv
cs.SE · cs.AI 2026年10月10日
説明 仕様に基づく大規模言語モデルのテスト(LESTフレームワーク)
要約 本論文は、モデルカードやシステムカードに記載された安全性の主張を黒箱テストの仕様として扱うLESTフレームワークを提案します。プロンプトを変異させて反例を探し、人手で検証したうえで、矛盾する主張まで追跡します。Claude Opus 4.8とGPT-5.5を対象に評価した結果、自動評価は行動上の失敗を大きく過大評価することが示されました。
Kausar Moshood, Jace Bolante, Roshan Aditya Murali ほか
arXiv
cs.CL 2026年10月10日
説明 語釈ペアの双方向関係予測による意味関係知識の評価
要約 本論文は、大規模言語モデルの意味関係知識を評価するため、二つの語義の語釈を二通りの順序で提示し、その関係を予測させる課題を提案している。両方向の予測が、意味関係の対称性・非対称性と一致するかを検証する。3,069組の語義ペアからなるデータセットを構築し、英語、ギリシア語、ルーマニア語、トルコ語、日本語で語義を記述した。17のモデルをゼロショットと5ショットで試した結果、全体的に性能は低く、上位語関係の双方向一貫性や全体語関係の正答に課題が見られた。
Zhihan Cao, Adam Nohejl, Hitomi Yanaka
arXiv
cs.LG · cs.AI 2026年10月10日
説明 TETPO:ブリッジ重要度サンプリングによる滑らかな分散制御の方策最適化
要約 本論文は、大規模言語モデルの非同期強化学習によるポストトレーニングで生じる、古い方策のデータに起因する裾の重い重要度重みの問題を扱い、TETPO手法を提案しています。各プロンプトグループの重みの集中度に応じて適応的な指数αを選び、調整後の有効サンプルサイズが目標割合に達するようにします。著者らは、陳腐化の大きい数学推論ベンチマークで、強力なオン・オフポリシー基準を上回ったと報告しています。
Shayan Mohajer Hamidi, Kayhan Behdin, Wenhui Zhu ほか
arXiv
cs.CV · cs.AI 2026年10月10日
コードあり
説明 SceneForesee:時空推論のためのシーン進化の学習
要約 本論文は、観測された動画から実体の将来の軌跡と出来事を予測し、その根拠を示すシーン進化理解(SEU)タスクを提案している。SceneForesee(時間ペア14.457万組、実体対応105万件、出来事27.249万件を含む)というベンチマークを構築し、時空間推論フレームワークEvoSeeを提案している。ベンチマークでは、EvoSeeがQwen3.5-9Bより Combined Point-F1 で10.45点、Event Global F1 で17.24点高い結果を示した。
Chaoyue Li, Shoudong Han, Haoyang Wu ほか
arXiv
cs.CL 2026年10月10日
説明 真でも偽でもない:大規模言語モデルは複数述語の真理値ギャップを表現できるか?
要約 大規模言語モデルは、重要な判断に用いられる情報源の主張を要約・検証する用途で使われつつあり、そうした主張には複数定名詞が多く含まれます。著者らは1000組の最小対からなる診断用データセットHomogeneityNLIを提案し、7つのオープンウェイトモデルを評価しました。その結果、モデルが複数定名詞を全称的な真理条件で扱う「二値性バイアス」が広く見られ、ゼロショット設定では両極性でギャップを認識できたモデルはなく、否定の定名詞の84%が偽と判定されました。
Duaa Nakshbandi, Zhiyu An, Yiping Li ほか
arXiv
cs.LG 2026年10月10日
説明 転移プローブから専門家のグループ化へ:LoRA事後学習での検証
要約 論文は、一つの基盤モデルを多数の業務ラインに対して事後学習する際、標準的な分類が不明でも、転移プローブ(一つの情報源で学習し、全情報源での対応する変化を測定)でグループ化を発見できるかを検討しています。数学と programming の七つの公開データを参照として用い、四つの LoRA 専門家で固定予算の実験を行いました。プローブから導いたグループ化は、事前に定めた2ポイントの実用的な利得に届かず、統一的な既定グループ化と区別できませんでした。
Xueyang Wu
arXiv
cs.LG · cs.CV 2026年10月10日
説明 欠損および縦断的な医療データを用いたマルチモーダルTransformer学習の設計選択
要約 本論文は、三つのがんデータセットを用いて、医療データにおけるマルチモーダルTransformerの設計選択を体系的に調べています。モダリティレベルと特徴量レベルのトークン化を比較し、欠損情報の扱いとしてアテンションマスクと補完を評価しています。さらに、離散時間生存予測のための時間情報の符号化方法も検討しています。結果として、マルチモーダルは単一モーダルより優れる一方、欠損データが予測に大きく影響し、トークン化の粒度やモダリティ内欠損の処理が信頼性の高い予測に不可欠であることが示されています。
Rita Cordeiro Mendes, Maria Manuel Pereira, Carlos Santiago ほか
arXiv
cs.AI 2026年10月10日
説明 可搬性のあるスキルによる簡易なエージェント型RAG:カスタマーサポートの事例研究
要約 本論文は、複雑な検索パイプラインの代わりに、自然言語の指示、検索APIや形式チェック用スクリプト、LLMが生成した「Wikipedia風」のナビゲーション索引からなる可搬なスキルを用いた、企業のカスタマーサポート業務の導入事例を報告している。サポート解決手順の生成タスクで、人間が承認した正解との手順的同等性99.2%、証拠の十分性83.3%を達成した。一件あたりの処理時間は約90秒で、既存の本番アシスタント(約8〜9秒)より大幅に遅く、遅延面の優位性は主張していない。結論は、整備されたコーパス、遅延を許容できるワークフロー、全件の人手レビューがある場合に限られる。
Istok Bako, Bonan Min, Tiffany Shao ほか
★★★★☆ 注目
arXiv
cs.CL · cs.LG 2026年10月10日
説明 マルチモーダルデータ混合のスケーリング則:フロンティアMLLM学習のためのデータ配分の指針
要約 本論文は、テキスト・画像・音声の3つのモダリティを事前学習する際に、各データをどの割合で混ぜるべきかを調べています。著者らは混合専門家(MoE)モデルを用い、4億5700万から83億パラメータ、最大1500億トークンの条件で268回の実験を行いました。主な結果として、音声ではトークン数よりもパラメータ拡大を優先すべきこと、画像や音声データは2倍を超えて繰り返しても効果がほぼないこと、画像データは音声の学習を強く妨げる一方、音声はテキストや画像の学習への干渉が無視できることが示されています。
注目点 テキスト・視覚・音声の3モダリティについてデータ混合のスケーリング則を導出し、268回のMoE実験で検証しており、多モーダルLLMの学習に実用的な示唆を与える。
Aditi Khandelwal, Ayush K. Tarun, Yixuan Xu ほか
arXiv
cs.LG · cs.AI · cs.CC 2026年10月10日
説明 再帰的エキスパート計算の粗視化:後続計算に相対的なインターフェースと失敗モード
要約 本論文は、計算の一部を安価なモジュールで置き換えた後に続く計算を基準に、その置き換えを評価する枠組みを提案します。評価は下流タスクの品質と総実行コストを併用して行われます。二つの凍結された事前学習言語モデルでの実験では、表現の忠実度とタスク損失が異なる学習目標を支持しうること、また分布シフト下では順位が逆転することが示されています。
Shihua Yu, Yanzhi Wang, Tianchi Chen
★★★★☆ 注目
arXiv
cs.LG · cs.ET · cs.NE 2026年10月10日
説明 PotentialEP:平衡伝播により逆伝播なしで CIFAR 規模の生成モデルを学習する手法(Equilibrium Propagation)
要約 拡散モデルやフローマッチングのように数百の逐次ステップを積分して画像を生成する代わりに、エネルギーの緩和(relaxation)で生成するための手法です。著者らは、エネルギーに線形の注入項を一つ加えた予測符号化ネットワークが、可視層に必要な勾配を含む状態へ緩和することを証明しています。無条件 CIFAR-10 では、平衡伝播で学習したモデルの FID が 3.64 で、逆伝播の 3.54 に近い値になったと報告されています。
注目点 予測符号化ネットワークに線形注入項を加え、エネルギー緩和だけで勾配を得る手法と、平衡伝播による逆伝播なし学習を示し、CIFAR-10で競争力あるFIDを達成。
Alex Gower
arXiv
cs.RO · cs.AI · cs.LG 2026年10月10日
説明 選別しない記憶:ロボット方策のための多ストリーム潜在メモリ学習
要約 本論文は、視覚・言語・行動(VLA)モデルに多ストリームの潜在メモリを付加するIMPRINTという枠組みを提案している。何を覚えるべきかを明示的に制限せず、観測・行動・固有受容感覚などを推論時に逐次更新される潜在メモリへ圧縮する。学習は二段階で、まず過去の複数ストリームの再構成と現在のタスク進捗の推定を行い、その後方策と共同で行動予測のエンドツーエンド微調整を行う。著者らは、シミュレーションと実機の両方で基礎VLAより平均成功率が少なくとも26%向上し、メモリ付きVLAの中で推論遅延が最も低いと報告している。
Yilin Wu, Rutav Shah, Shuaiyi Huang ほか
arXiv
cs.SE · cs.CL · cs.LG 2026年10月10日
説明 SPROUT:長期的ソフトウェア工学のためのエージェント型強化学習のスケーリング
要約 本論文は、長期的なコーディングタスクにおいて中間状態から再開・分岐する強化学習のロールアウト枠組みSPROUT(スナップショットベースのロールアウト)を提案しています。各アシスタントのターン後にファイルシステムとエージェントの文脈を保存し、検証器に導かれたバックトラッキング方策で失敗した試行を再開する地点を選びます。著者らは、さまざまな大規模言語モデルでpass@kに対して最大23.6%の改善を示し、使用トークン数は32%から52%だと報告しています。
Mengyang Liu, Weiming Wang, Haixin Nan ほか
★★★★☆ 注目
arXiv
cs.CV 2026年10月10日
コードあり
説明 VisualCoding:信頼性の高い視覚推論のための実行可能スキルの学習(再利用可能な視覚プログラムを実行で学び、直接実行して答えを得る手法の提案)
要約 本論文はVisualCodingを提案し、視覚推論エージェントが実行フィードバックを通じて再利用可能な視覚プログラムを獲得し、適用可能な入力に対して保持された解法を直接実行して答えを得る仕組みを示している。4つのモデルと69のタスクファミリーを含む4つのベンチマークで評価され、最強のベースラインに対する平均精度の向上が報告されている。アブレーション実験では、同じプログラムをテキストや呼び出し可能な形で再利用するより直接実行の方が優れていることが示されている。
注目点 視覚プリミティブとコードを組み合わせた再利用可能なソルバを実行で反復修正し、直接実行が文章・呼び出し再利用を上回ることを69タスク族で検証。
Jiaqi Liu, Ruinan Jin, Xiaoxiao Li
arXiv
cs.AI · cs.SC 2026年10月10日
コードあり
説明 SAT-RL:記号ソルバーで論理推論を行う言語モデルを訓練する手法
要約 本論文は、大規模言語モデルがZ3などの記号ソルバーと多段階のツール呼び出しで対話するよう訓練する強化学習フレームワーク「SAT-RL」を提案している。検証可能な解を持つ合成データの生成、ソルバーを組み込んだ軌跡による教師あり事前学習、ツールを考慮した報酬による強化学習を組み合わせている。実験では、領域内と領域外の論理課題の両方で、ツールを用いた記号推論が大きく向上したと報告されている。
Jialiang Sun, Kuldeep Meel
arXiv
cs.LG 2026年10月10日
説明 Sparse-TD-JEPA:疎な潜在タスク表現によるゼロショット強化学習の改善
要約 本論文は、後継特徴に基づくゼロショット強化学習で、タスクエンコーダの稠密な表現が推定される報酬信号を拡散させ、目標状態と背景の差を弱めるという問題を扱います。学習時のみ l1 疎性ペナルティを加え、報酬に関係する構造を小さな部分空間に集中させ、推論手順は変更していません。DMC と OGBench の 65 タスクで、Sparse-TD-JEPA は 13 のドメイン比較すべてで TD-JEPA を上回り、DMC の平均リターンは 661±6 から 714±3 に、OGBench の平均成功率は 38.0±0.8 から 48.4±2.3 に向上しました。
Duaa Nakshbandi, Zhiyu An, Wan Du
arXiv
cs.LG · cs.CY 2026年10月10日
説明 マルチモーダルAIの臨床的価値の主張は、裏付けとなる証拠を上回っている
要約 本研究は、マルチモーダルモデルと単一モーダルモデルを比較した177件の研究を監査した。内訳はシステマティックレビューの81件と、PubMedから抽出した96件である。データソースごとに個別のモデルを当てはめた研究では、AUROCの向上幅が小さかった。また、完全なベンチマーク評価を行う研究の割合はレビュー研究の69.1%から近年の約46.0%へ低下し、前向きに評価した研究は一件もなかった。
Jiayu Feng
arXiv
cs.IR · cs.LG 2026年10月10日
説明 大規模推薦システムの学習不安定性:勾配・重み・損失の連鎖的発散という観点から
要約 本論文は、1日に数十億件のインタラクションがあるショート動画(SFV)推薦システムの学習不安定性を扱います。勾配爆発、重み爆発、損失爆発へと連鎖する「G-W-L」カスケードを分析し、勾配、重み・活性化、損失の各段階に対応する緩和フレームワークを提案しています。大規模な産業用SFV推薦システムでその有効性を検証したとされています。
Yuening Li, Zeyu Wang, Zhen Zhang ほか
arXiv
cs.CL 2026年10月10日
説明 SciCurateBench:言語行動エージェントによる異種科学文献からの実験データ整理
要約 本論文は、主要な生命科学ジャーナルの専門家注釈付き論文 200 件からなるベンチマーク SciCurateBench を提案し、生の文献から複合的な実験条件を検証する課題を示しています。通常の大規模言語モデルや各種エージェントはこの課題で苦戦すると報告されています。著者らは、方針エージェントが自然言語の行動指針を生成し、実行エージェントがそれを実行可能なツールに変換する統合システム LangPoli を提案し、論文分類で F1 83.16%(基盤モデルは 58.22%)を示したとしています。
Minuk Ma, Kaiyun Guo, Jiarui Ding
arXiv
cs.AI · cs.PF 2026年10月10日
説明 オープンウェイトLLMの推論エネルギー効率を、ベンチマーク・推論モード・ハードウェアごとに測定
要約 本論文は、86のオープンウェイトLLMチェックポイントについて、7つのベンチマークと、消費者向けGPUから8基GPUサーバーまでの6種のハードウェアで、スコアと消費エネルギーのトレードオフを直接測定しています。能力が近いモデル同士でもエネルギー効率に大きな差があり、多くの構成はスコアとエネルギーのパレート最適フロンティアから外れていることがわかりました。著者らは、ベンチマークスコアは指定された提供方式と出力上限のもとで測定したエネルギー消費とあわせて報告すべきだと提案しています。
Zeyu Yang, Wes Armour
arXiv
stat.ML · cs.LG 2026年10月10日
説明 ニューラル学習器の分解:予測可能な部分と信頼性を分けてモデル化する論文
要約 本論文は、特徴空間全体で予測可能性が一様でないニューラル学習器を確率的に分解する手法を提案しています。EMアルゴリズム、確率的勾配降下法、最尤推定を組み合わせ、予測可能な成分と入力に依存する信頼性スコアを同時に学習します。さらに局所的な特徴変換を取り入れる拡張も示し、合成データと実データで有効性を検証しています。
Zelong Bi
arXiv
eess.SY · cs.AI · cs.LG 2026年10月10日
説明 制御の視点から見た深層学習の概説
要約 本論文は、制御理論の観点から深層学習の最近の進展を概説する。フィードフォワード型ネットワーク、残差ネットワーク、Transformer、大規模言語モデル、選択的状態空間モデルを取り上げ、制御理論がそれらの学習、性質、構造設計の理解にどう役立つかを説明している。残差ネットワークは連続時間制御系の離散化として解釈でき、制御理論的解析が可能になるとされる。また、残差ネットワークによる任意の連続関数の近似能力を非標準的な可制御性問題として扱う結果や、Transformerを合意アルゴリズムの離散化とみなす結果が紹介されている。さらに、誤差逆伝播法と最適制御の関係や、今後の研究課題も論じられている。
\'Alvaro Rodr\'iguez Abella, Jo\~ao Pedro Silvestre, Bahman Gharesifard ほか
arXiv
cs.AI · cs.MA · cs.SE 2026年10月10日
説明 ANASSA:空間エージェントAIのための高レベル枠組みから低レベルアーキテクチャへ
要約 本論文は、地理空間データを扱うエージェントAIシステムを対象に、既存のANASSA高レベル枠組みを、実装可能な低レベルアーキテクチャへ具体化する研究である。設計科学研究の手法を用い、47の論理的役割、バージョン管理されたタスクグラフ、型付き契約、空間検証、ガバナンス制御、障害回復経路、来歴記録などを定義している。エンドツーエンドの実行トレースで示したうえで、要件の追跡可能性、内部整合性、責任の保持、技術非依存性について分析的に評価している。
Constantinos Papantoniou, Brian Hilton
arXiv
cs.AI 2026年10月10日
説明 ACED-Bench:LLMエージェントが因果的証拠をどう集め活用するかを評価するベンチマーク
要約 本論文は、LLMエージェントがプロンプトへの回答にとどまらず、システムを能動的に調査できるかを評価するニューロシンボリック・ベンチマーク「ACED-Bench」を提案します。自然言語のシナリオはLLMが生成し、因果グラフや正解は隠れた確率的グラフィカルモデルで定義されるため、大規模な自動評価が可能です。主要リーダーボードACED-COREは180タスクからなり、7つの現行LLMと2つの旧世代モデルを評価しています。結果として、誤った介入の検証、関連証拠の喪失、十分な証拠が得られた後も探索を続けるといった失敗が確認されました。
Yiwei Chen, Amila Weerasinghe, Siddharth Biswal ほか
arXiv
cs.LG 2026年10月10日
説明 DPAL:金融時系列予測のためのテスト時適応損失関数
要約 本論文は、展開後に新しい観測値に応じて予測モデルを更新するテスト時適応(TTA)のための損失関数DPALを提案しています。個々の時点での収益の当てはめに加え、収益の方向と、収益系列から再構成される価格軌道も考慮します。DPALは元の予測モデルや適応器の構造を変更せず、既存のTSF-TTAの枠組みに適用されています。多様な金融データセットでの評価では、ほとんどの設定において再構成価格の平均二乗誤差が減少したと報告されています。
Wuzhou Lian, Haochun Wang, Yuefan Deng
arXiv
cs.RO · cs.AI · cs.LG 2026年10月10日
説明 DexFLEX:指令誘導型の器用な操作のための接触認識型基盤コントローラ
要約 本論文は、上流の指先運動ドラフトを接触に整合した関節指令に変換する接触認識型基盤コントローラ DexFLEX を提案しています。触覚・固有受容の状態から短期の動作候補を生成し、その接触結果を予測して、指令に従いつつ将来の接触安定性を保つ候補を選択します。論文では、実世界の遠隔操作で成功率が 29.2% から 78.3% に向上し、再学習は不要だと報告しています。
Weikang Wan, Zeyu Lai, Jianyu Hou ほか
arXiv
cs.LG · cs.DC 2026年10月10日
説明 メモリを増やすと失敗する:動的テンソル再具体化に潜む実行可能性の穴
要約 本論文は、メモリ予算の下でニューラルネットワークを学習する動的テンソル再具体化(DTR)において、予算を増やすと学習が逆に失敗する現象を調べています。著者らは、DTRの参照シミュレータsimrdで公開学習トレースを再生し、より小さい予算とより大きい予算の両方では完了するのに、途中の予算では失敗する「実行可能性の穴」を見つけました。結果はシミュレーションによるものであり、GPUハードウェアでの動作は検証されていません。
Mahesh Reddy Pagadala
arXiv
cs.LG · cs.SY · eess.SY 2026年10月10日
説明 履歴・適応・隠れたゲイン:合成神経集団における学習型予測制御の2つの事前登録検証
要約 64個のLeaky Integrate-and-Fireニューロンからなる合成集団で、光感度が隠れた係数sで scaling される対象に対し、学習型の1ステップ予測制御を研究しています。解析の凍結後にシミュレーションした2つの前向き検証では、200ミリ秒の入出力履歴を除くと、低中ゲインでニューラル予測器の性能が明確に悪化しました。単一の乗算型入力ゲインをオンラインで推定すると、完全適応ARXの利得の約87%が回復し、その推定値をネットワークに入力すると高ゲイン時の追従誤差が減少しました。ただし結果はこの合成対象に限られ、高プロセスノイズ下では効果が大幅に縮小します。
Mahesh Reddy Pagadala
arXiv
cs.LG 2026年10月10日
説明 ConformalGuard:言語モデル分類器の誤検知率を制御するアクションゲート手法
要約 本論文は、固定されたスコアリング関数の外側を包むモデル非依存のキャリブレーション層 ConformalGuard を提案し、正当な入力が介入段階を引き起こす割合を有限サンプルで制御します。公開メールコーパス上で、微調整済み BERT、Claude Sonnet 4、GPT-4o に対し温度スケーリング、等温回帰、コンフォーマル校正を比較しています。Claude では誤検知率が 0.040 から 0.008 に下がり、再現率は 0.938 から 0.875 に下がったと報告されています。
Bishnu Bista, Dhanraj Haibatrao Jadhav, Vibha Choudhary ほか
arXiv
eess.IV · cs.CV 2026年10月10日
説明 学習型探索を備えた設定可能な ETC2 エンコーダ
要約 ETC2 はテクスチャ表現とビットレートが固定されているため、エンコーダは探索時間と歪みのトレードオフを調整するしかありません。本論文は、規則または小規模ニューラルネットワークが従来の ETC2 探索を割り当てる、設定可能な CPU エンコーダを提案しています。64 枚のカラーテクスチャでの評価では、Google Etc2Comp と同等の PSNR を保つ高速な設定が 30.7〜40.9 倍速くなりました。高品質設定は、効率 100 の PSNR を 64.1% 短い時間で上回りました。出力は標準の ETC2 形式およびハードウェアデコードに対応したままです。
Ziyu Guo, Haomiao Jiang, Sergey Makeev ほか
★★★★☆ 注目
arXiv
cs.LG · cs.DS · cs.GT 2026年10月10日
説明 ERM オラクルを用いた多重較正のサンプル複雑度
要約 本論文は、学習者が関数クラスに ERM(経験リスク最小化)オラクル経由でしかアクセスできない場合に、多重較正された予測器を学習するのに必要なサンプル数を調べています。著者らは、VC 次元を d として、約 d/ε³(対数因子を除く)個のサンプルと多項式回の ERM 呼び出しで済むアルゴリズムを示し、対応する下界も与えています。さらに、通常の多重較正誤差の推定は、交換型の誤差より計算的に難しいことを指摘しています。
注目点 ERMオラクル下での多重校正のサンプル複雑度について近最適な上界と下界を示し、理論的に明確な貢献をしている。
Princewill Okoroafor
arXiv
cs.AI 2026年10月10日
説明 利用者に迎合すると介護が損なわれる:介護者が介在する医療におけるAIの追従(シコファンシー)問題
要約 本論文は、親・飼い主・介護者が子ども、動物、高齢者の判断を代行する医療場面で、AIアドバイザーが利用者の劣った希望に迎合し、本来適切だった介護の推奨を不適切な方向へ変えてしまう問題を検討しています。獣医、小児科、高齢者ケアにわたるベンチマークを作成し、複数の先端モデルおよびオープンウェイトモデルで評価したところ、劣った希望を示された場合に不適切な介護への移行が大きく増え、その誤りは複数ターンにわたって蓄積することが示されました。著者らは、現在のモデルは表明された利用者の希望に非常に敏感である一方、その希望が誰のものか、結果を誰が負うのかへの感度は低いと結論づけています。
Priyadarsi Mishra, Arjun Beniwal, Ziyu Yi ほか
arXiv
cs.AI · cs.SE 2026年10月10日
説明 AIロバスト性監査のための実行可能なメタ要件
要約 入力摂動、分布シフト、外部依存の変化など運用条件が変わってもAIシステムが信頼できるかを監査するための、メタ要件(監査フレームワークが満たすべき上位の要件)を提示した論文です。著者らは2,890件の文献から74件を選び、43項目のメタ要件を導出したうえで、128名の実務者による評価を経て最終的に44項目(16カテゴリ)にまとめました。監査フレームワークの構築、既存フレームワークの網羅性評価、改善に役立つとされています。
Joshua Owotogbe, Roya Nasiri, Indika Kumara ほか
arXiv
cs.LG 2026年10月10日
説明 多クラス向け信号時相論理推論のためのクラス条件付きコンフォーマル予測
要約 本論文は、多クラス時系列分類において解釈可能な信号時相論理(STL)式を推論する手法を扱います。正の充足率と符号語充足率という指標を提案し、マージンに基づく目的関数で判別的な式を学習した後、閾値を調整する二段階の手順を用います。復号損失を非適合度スコアとしてクラスごとに較正し、クラス内交換可能性の下で有限標本のクラス条件付きカバレッジを提供します。海軍、合成、ロボット操作の軌跡データでの実験では、分類精度と式の充足度の間に乖離があることが示されています。(Signal Temporal Logic:信号時相論理、Conformal Prediction:コンフォーマル予測)
Yixuan Wang, Danyang Li, Matthew Cleaveland ほか
arXiv
cs.CV · cs.RO 2026年10月10日
説明 タスク対応の人間動画から転移可能なワールド・アクションモデルを学習する(WATCH)
要約 本論文は、さまざまな環境で収集されたタスク対応の人間デモ動画を用いる、クロス動画事前学習手法WATCHを提案している。あるデモの動画と動作を条件として、モデルは別のデモの動作と将来のフレームを同時に予測し、シーンや実演者をまたいで転移する相互作用を学習する。論文によれば、人間同士の組のみで事前学習でき、人間とロボットの対応データは不要である。ロボットでの後処理後、MimicDroidの文脈内成功率はCosmos Policyで40.9%から68.3%、Cosmos3で59.8%から77.7%に向上したと報告されている。
Jeongeun Park, Taekyung Kim, Dongyoon Han ほか
arXiv
cs.CL 2026年10月10日
説明 連続ビットストリーム拡散によるマルチモーダル共同生成
要約 本論文は、もともと言語モデリング向けに開発された連続ビットストリーム拡散(CoBit)を、画像・テキスト、音声・テキスト、タンパク質の配列・構造モデリングに適用し、同一の学習・サンプリング手順で結合生成と条件付き生成を行う枠組みを示しています。音声・テキストモデルでは、生成したテキストと生成音声の自動書き起こしとの単語誤り率が3.5%です。タンパク質では、100~500残基の共同生成配列の再フォールディング構造と生成骨格の平均自己整合TMスコアは0.911です。
Georgios Batzolis, Georgios Kontos, Bruno Trentini ほか
arXiv
cs.CL 2026年10月10日
説明 実世界のカスタマーサポート・スキルにおけるエージェント型ワークフロー実行者としてのLLM評価
要約 本論文は、企業のカスタマーサポート・エージェントが大規模言語モデル(LLM)を使い、限定的でツールを用いるワークフローをどう実行するかを研究しています。実際の対話記録から繰り返し現れるワークフローを抽出し、スキル記述に変換してツール要件と対応づけ、MCP互換のモックで環境を模擬して多ターンの対話を生成するベンチマーク構築手法を提示します。17のモデルを零ショットで評価し、5つのLLM評価者とルールベースの評価器で採点しました。GPT-5.4が大差でトップとなり、20B未満のオープンウェイトモデルではQWEN3.5-9Bが最も強いと報告されています。また評価者間の一致度(平均カッパ値0.524)が、評価の信頼性に重要だと示されています。
Md Tahmid Rahman Laskar, Gundeep Singh, Xue-Yong Fu ほか
arXiv
cs.LG · math.OC 2026年10月10日
説明 L-滑らかさに基づくニューラルオプティマイザの深さ方向の転移
要約 本論文は、深層学習モデルにおいてハイパーパラメータが深さに応じてどのように転移するかを研究し、損失関数のリプシッツ定数と L-滑らかさ定数が深さ K とともにどう変化するかを扱っています。固定幅のもとで残差分岐を 1/K でスケールすると、両定数が深さに依存しなくなることを示しています。この結果は AdamW、Muon、MOGA に関連する演算子ノルム幾何にも適用されています。GPT-2(深さ 2〜128)と CIFAR-100 の ResNet(残差ブロック 8〜32)での学習率スイープでは、Muon と MOGA が 64 倍の深さ変化にわたって安定した学習率の転移を示しました。
Maximilian Wong, Chenyu Xu, Jiajin Li ほか
arXiv
cs.LG · cs.RO 2026年10月10日
説明 物理情報付きニューラルODEによる連続時間布の動力学モデル
要約 本論文は、変形可能な布の動力学を扱う連続時間型のニューラル求解器ContinuousClothを提案する。ニューラル軌道モデルの中にバネ‐質点の常微分方程式を組み込み、任意の時刻で変位・速度・加速度を求められる。物理のみの設定では、6種類の境界条件シナリオで高精度ソルバーに匹敵する軌道精度を示し、実行時間は最大17.4倍短縮された。疎でノイズのある観測と組み合わせた場合は、補間とパラメータ推定で有用な帰納バイアスとなり、シミュレーションと実データの両方で補間誤差を低減したと報告されている。
Yingdong Ru, Lipeng Zhuang, Zhuo He ほか
arXiv
math.OC · cs.LG 2026年10月10日
コードあり
説明 STREGO:ノイズを含むベイズ最適化のためのスケーラブルな信頼領域フレームワーク実装
要約 本論文は、高コストなブラックボックス最適化に用いられる信頼領域ベイズ最適化手法 TREGO を、ノイズのある関数評価へ拡張し、一定の精度と確率の条件下での収束解析を示しています。さらに、そのスケーラブルな実装である STREGO を提案し、次元4から124までの合成問題と実問題で TREGO、TURBO、BAXUS、NSMA-BO と比較しています。論文では、合成問題の全設定で平均結果が最良であり、実問題6件中4件で最良または同率最良の解を得たと報告されています。
Youssef Diouane, Issmail El Hallaoui, Meisseme Kadri ほか
arXiv
cs.AI · cs.CL · cs.SE 2026年10月10日
説明 MCPにおけるLLMのツール選択に影響するメタデータはどれか:制御された要因レベル介入による実証
要約 本論文は、Model Context Protocol(MCP)において、大規模言語モデルがツールの実装ではなくメタデータに基づいてどのようにツールを選択するかを検討しています。367,174個のMCPツールのメタデータを分析し、機能的に似たツールでもパラメータスキーマが大きく異なることを示しました。5つのモデルと5つのタスクで、一度に一つの要因だけを変える実験を行った結果、パラメータスキーマの変更が最も大きく一貫した選択の変化をもたらし、説明文も一定の影響があり、名前の影響は弱いことがわかりました。
Xiaofan Li, Fengchun Qiao, Xing Gao
arXiv
cs.LG · math.OC 2026年10月10日
説明 分散型バンディット学習によるマルコフ完全均衡の学習
要約 本論文は、割引無限期・一般和・連続行動のマルコフゲームにおける分散型学習を扱う。各エージェントは公開状態と自分自身が実際に得た報酬のみを観測し、同時摂動確率近似(SPSA)を用いて行動を更新する。負の即時報酬勾配の強い単調性と十分小さな時間刻みの下で、この完全分散型の手続きが唯一の定常マルコフ完全均衡にほぼ確実に収束することを証明している。収束速度は O(n^{-1/2}) であり、有限期間の学習への自然な拡張も示されている。
Felix H\"ofer, H. Mete Soner
arXiv
cs.CV · cs.AI 2026年10月10日
説明 TraceSampler:加速生成サンプリングの誤差を予測・補正可能にする手法
要約 本論文は、事前学習済みモデルを変更せずに低ステップサンプリングの端点誤差を補正する後処理手法TraceSamplerを提案しています。誤差をサンプル依存の予測問題として扱い、サンプリング軌跡から得られる情報を用いて二段階の学習型残差補正を行います。CIFAR-10、ImageNet-256、SD3.5 Mediumでの評価では、10ステップで軌跡誤差が大きく減少し、画質は120ステップのHeun参照に近づき、推論コストの増加はわずかとされています。
George Matthew (1), Guoqiang Zhang (1), Kenta Niwa (2) ((1) University of Exeter ほか
arXiv
cs.CV 2026年10月10日
説明 リアルタイム交通密度推定:視覚検出と予測学習を組み合わせたハイブリッド処理系
要約 本論文は二段階のパイプラインを提案します。まず車両の検出・追跡と道路マスクによる空間フィルタで毎フレームの交通特徴量を抽出し、次にLSTM、GRU、TCN(時間畳み込みネットワーク)で10フレームの入力から未来5ステップを予測します。5,716枚の注釈付きフレームで10種の検出器を比較し、29,243個の評価窓で予測精度を検証しました。GRU、LSTM、TCNの集計R²は0.858、0.856、0.840でしたが、これは検出器由来のテレメトリの予測に関する値であり、交通密度そのものの絶対精度を示すものではありません。
Prince Kwabena Appiah Boadu
arXiv
cs.CV 2026年10月10日
説明 リカレントネットワークによる多様体ナビゲーション学習:効率的な訓練技術
要約 本論文は、曲がった空間(多様体)上の位置追跡問題を、速度に基づく追跡タスクとして定式化しています。ユークリッド表現内でGRU(ゲート付きリカレントユニット)により軌道を予測し、写像関数で多様体上に変換してから誤差を計算する手法を用いています。解析的・数値的に定義された多様体およびLiDAR点群から再構成した曲面での実験では、再帰モデルがユークリッド基準手法を上回り、一部のカスタム損失関数が長期予測精度を高めることが示されています。
Sarah Harkins Dayton, Sathya Rengaswami, Vasileios Maroulas ほか
arXiv
cs.CV · cs.AI · cs.LG 2026年10月10日
説明 EV-JEPA:あらゆる端末と端末間推論に対応する弾性的V-JEPA
要約 本論文は、スマートグラス、スマートフォン、ロボット、サーバーなど多様な機器に一度の学習でデプロイできる、弾性的なV-JEPA(EV-JEPA)を提案している。モデルの幅は再構成可能で、異なる機器間で分割して実行することもできる。過渡認識トリプレット学習(T3)により、同じ重みで単一機器と複数機器での実行の両方を学習する。著者らは、精度は独立に学習したベースラインと1ポイント以内の差に収まると報告している。
Anxhelo Diko, Jieyu Lin, Stefano Ambrogio ほか
arXiv
cs.CV · cs.AI · cs.LG 2026年10月10日
説明 MvFFN:位置姿勢未知・広基線パノラマからの間取りレイアウト再構成のための多視点フロアプラン順伝播ネットワーク
要約 疎で位置姿勢が未知の広基線RGBパノラマから、カメラ姿勢と複数部屋の間取りを再構成する課題を扱います。著者らは多視点順序付き壁インスタンスセグメンテーション(MOIS)を提案し、各パノラマ列が自分の見ている壁と時計回りの次の2枚の壁のみを予測し、重なり合う局所予測の決定的な集約で全体構造を得る方式を取ります。これを基に、粗いカメラ姿勢、稠密な全体幾何、壁ごとの意味情報を同時予測するMvFFNを構築し、レイアウト連結(LC)後処理で間取りを組み立てます。ZInD-CrossViewデータセットも公開されています。
Yuguang Li, Yichuan Deng, Zixuan Liu ほか
arXiv
cs.CL 2026年10月10日
説明 ASSET:強化学習による適応的な音声セグメンテーション
要約 本論文は、音声エンコーダの出力を強化学習によって適応的に圧縮するフレームワークASSETを提案する。出力をまず長さの異なるセグメントに分割し、各セグメントを連続的な音声トークン1つにプールする。学習にはGRPO(グループ相対方策最適化)を用い、タスク性能のフィードバックとトークンレートへのペナルティを与える。英語LibriSpeechの音声認識実験では、転写を利用した文字境界オラクルと同程度の性能を、音声トークンを約25%削減して達成した。中国語AISHELLでは、近いトークンレートで音素境界オラクルを上回った。
Cihan Xiao, Yuan Tseng, Matthew Wiesner ほか
arXiv
cs.AI · cs.CV · cs.LG 2026年10月10日
説明 ConicFlow:フローマッチングモデルの制約付き推論時最適制御手法
要約 本論文はConicFlowを提案し、フローマッチングモデルの推論時における制約付きサンプリングを最適制御問題として定式化します。事前学習された軌道からの逸脱と報酬のバランスを取りつつ、終端の厳密な制約を満たすことを目指します。手法では、各ステップで短い窓だけを最適化する受容的水平制御と原始双対アルゴリズムを用い、双対乗子をサンプリング中に更新して実行可能な最終サンプルへ導きます。実験では、最近の大規模モデルにおいて、近年のベースラインより事前学習フローからの逸脱が少なく、高い報酬と良好な制約充足を示しました。
Shervin Khalafi, Kasra Fallah, Sung Cho ほか
arXiv
cs.LG · cs.RO 2026年10月10日
説明 行動を通じて視覚を学ぶ:ロボットのための予測的好奇心
要約 本論文は、好奇心に導かれた対話によってロボットが経験を能動的に集め、視覚を学習するDySCOVERという枠組みを提案しています。視覚オートエンコーダと再帰的ワールドモデルを用い、方策は内発的報酬(再構成誤差と予測誤差)のみで学習されます。ロボットアームを用いた実験では、予測的好奇心を加えることで、視覚的好奇心のみの場合より視覚モデルが改善したと報告されています。
Stelios Zarifis, Panagiotis Filntisis, George Retsinas ほか
arXiv
eess.AS · cs.AI · cs.CL 2026年10月10日
説明 RUBATO:分離されたクロックで全二重モデルを可能な限り速く思考させる
要約 本論文は、音声全二重モデルの内部思考ストリームを対象に、各ストリームへ独立したクロックを割り当てる多ストリーム位置符号化RUBATOを提案します。これにより各ストリームはハードウェアが許す速度で復号でき、学習は両極端の復号速度の2つだけで済み、任意の中間速度に零ショットで適応します。複数の音声推論タスクで、補間速度でも精度が安定し、ユーザーの割り込み時にも高い精度を保つと報告しています。
Yi-Jen Shih, Puyuan Peng, Haohe Liu ほか
arXiv
cs.SE · cs.LG 2026年10月10日
説明 校正済み埋め込み距離によるAI脆弱性検出の汎化境界の診断
要約 本論文は、学習ベースの脆弱性検出モデルが分布シフト下で汎化性能を失う問題を扱う。CodeBERTとQwen2.5-Coderを、脆弱なコードと修正済みコードの対からなるデータで評価し、白色化した中間層埋め込みと局所最近傍スコアリングにより未知サンプルを区別できることを示した(平均OOD AUROC 0.739)。距離スコアは、プロジェクトを跨ぐシフトで精度低下が最も大きいなど、シフトの種類ごとの信頼性の差を示す。修正済みコードの偽陽性率は、脆弱な学習近傍への幾何学的近さと相関して上昇する。
Konstantin Ievtushenko, Ralf L\"ammel, Jan J\"urjens
arXiv
cs.AI · cs.CV 2026年10月10日
説明 プルバック方向による制御可能な多様なサンプリング
要約 条件付き拡散モデルは、与えられたプロンプトによく沿った高品質な画像を生成できます。しかし、異なる乱数シードから生成されたサンプルは見た目が似通うことがあり、創造的な探索が制限されます。本研究は、条件埋め込み空間から画像空間への写像が誘導する局所的なプルバック幾何を利用して、出力感度が最大となる方向を特定する、学習を必要としない手法を提案します。異なるサンプリング軌跡をこれらの方向へ誘導することで、条件信号との整合性を保ちつつ、より多様な生成を促します。MS-COCO と BrushNet での実験により、プロンプト条件付き画像生成と修復における多様性の向上に有効であることが示されています。
Sylvain Dehayem Kenfouo, Aaron Zweig, Mingxuan Zhang ほか
arXiv
cs.CV · cs.AI · cs.LG 2026年10月10日
説明 GeoFix:4D一貫性生成のための幾何修正フレームワーク
要約 ビデオ拡散モデルは4D生成の事前分布として使われることが増えていますが、生成された動画は幾何学的な一貫性を欠くことがよくあります。GeoFixは単一の幾何学的報酬で幾何的一貫性と映像品質を同時に改善する統一フレームワークで、学習時と推論時の両方の報酬整合に適用できます。この報酬は静的な場面領域での視点間の深度一貫性を測り、カメラの視野重なりに応じて校正されます。
Yeobin Hong, Hyojun Go, Dohun Lee ほか
arXiv
cs.LG 2026年10月10日
説明 深層ニューラルネットワークにおける層ごとの入力復元可能性の研究
要約 本論文は、畳み込みニューラルネットワークで、ある層の出力からその層自身の入力がどの程度復元できるかを調べたものです。入力画像のパッチ単位で再構成ベースの探査手法を用い、九つの ImageNet 系 CNN において R² を指標として測定しています。結果として、復元可能性は全体的に深さとともに低下し、その層の圧縮度とより一貫して対応することが示されています。また、事前学習の特性を単独で移植したランダム対照実験により、特性ごとの影響の向きがモデル間で概ね一致することも報告されています。
Maxwell Spiridonov, Alireza Rahmansetayesh, Pierre Baldi
arXiv
cs.CV 2026年10月10日
説明 TGSR:テキスト条件付き拡散モデルによる忠実な画像超解像
要約 拡散モデルは画像超解像で知覚品質を向上させますが、文字領域では存在しない文字や歪んだ文字(幻覚)を生成し、シーンの意味を変えてしまうことがあります。本論文はTGSRを提案します。これは生成中に幻覚が起きやすい文字領域を段階的に特定して抑制し、それ以外のシーンは通常どおり超解像するテスト時フレームワークです。多様な拡散ベース超解像の出力で専用の検出器を学習し、複数のバックボーンで文字の忠実度を向上させ、知覚品質を損なわずに認識精度を最大17.68ポイント高めました。
Zhiming Hu, Ran Zhang, Angela Ye ほか
arXiv
cs.LG · cs.AI 2026年10月10日
説明 RNN ホムンクルス:長期記憶を制御するゲートの学習
要約 本論文は、GRU や LSTM などのゲート付き再帰型ニューラルネットワークが、長期記憶を制御するゲート値をどのように学習するかを検討しています。制御された系列分類タスクでの分析によると、すべての学習サンプルが長期記憶を必要とする場合、ゲート付きモデルも勾配消失の影響を受けます。短い依存関係のサンプルを加えると、長い依存関係を扱い、かつ異なるクラスにも汎化する解が得られ、適切に学習された場合は Mamba や xLSTM と同等以上の精度になると報告されています。
Zeyu Fan, Alexandru-Dragos Manolache, Jan van Gemert
★★★★☆ 注目
arXiv
cs.AI · cs.LG 2026年10月10日
説明 Echo:LLMの学習・推論向け誤差補償付き4ビットテンソル並列通信
要約 テンソル並列では各層末尾のall-reduce通信がコストになり、計算性能に対して相対的に増大します。本論文のEchoは、データを4ビットで送り高精度で加算し、量化誤差を後続の呼び出しにフィードバックして打ち消し合わせます。著者らは累積誤差が層の深さに依らず有界に保たれることを示し、A100で16ビットNCCLより2.09倍高速だと報告しています。
注目点 4ビットのテンソル並列all-reduceに誤差フィードバックを適用し誤差の有界性を証明、A100での速度と精度の実測を示す。影響は大規模モデルの学習・推論通信に集中する。
Xingyu Xie, Xiaoyong Xie, Zhouchen Lin ほか
arXiv
cs.CL 2026年10月10日
説明 強化学習における思考リーケージ(思考の漏れ)
要約 本論文は、Qwen3 などのハイブリッド推論モデルを NO-THINK モードで強化学習した際に性能が向上する理由を検討しています。著者らは、その向上の多くが新たな推論能力の獲得ではなく、元モデルの THINK モードの推論能力が部分的に再活性化されたこと(思考リーケージ)によるものだと主張しています。重み、活性化、注意ヘッドのレベルで分析し、その証拠を示しています。
Wenxuan Zhu, Shuming Liu, Bang An ほか
arXiv
cs.DC · cs.LG · cs.NI 2026年10月10日
説明 エッジでの同期を学習する:連合学習のためのクライアント側適応型同期
要約 本論文は、エッジ連合学習において同期がボトルネックとなる問題を扱い、各クライアントが訓練中にアップロード、ダウンロード、双方向同期、通信の延期を自ら決定する強化学習ベースの同期フレームワークを提案しています。局所モデルと並んで軽量なスケジューラを置き、同期を局所の学習状態とシステム状態に基づく資源認識型の制御問題として定式化しています。交通時空間予測と画像分類の2つのエッジ課題で、適応的な同期が精度とコストのバランスを改善することを示しています。さらに、遅延やエネルギーに加えてプライバシー消費も考慮する設定についても検討しています。
Ebasa Temesgen, Ammar Ahmed, Nathan Lechamo ほか
arXiv
cs.CV 2026年10月10日
説明 座標を使わない画像思考:意味的証拠発見による視覚推論手法
要約 本論文は、マルチモーダル大規模言語モデルの「画像で考える」手法が明示的な座標による定位に依存している点を取り上げ、意味的ギャップと解像度ギャップという二つの限界を指摘しています。提案手法TiCOは、潜在空間内で視覚推論を意味的証拠の発見として再定式化し、画素座標を用いず、トークン単位の領域として証拠を注入します。複数の高解像度および一般的な視覚推論ベンチマークで、座標ベースの最先端手法を上回り、推論効率も大きく向上したと報告されています。
Meng Cao, Haoze Zhao, Yi Wang ほか
★★★★☆ 注目
arXiv
cs.CV · cs.LG 2026年10月10日
説明 BigCell:ギガピクセル全スライド病理画像の生成
要約 全スライド画像(WSI)は組織病理切片のギガピクセル規模のデジタルスキャンで、がん診断の主要な根拠となります。既存の病理生成モデルは最大1024×1024ピクセルの小さなタイルしか生成できません。BigCellは120,000枚を超える公開WSIで流しマッチングTransformerを学習し、推論時のスライディングウィンドウ処理により最大32,768×32,768ピクセルの一貫した画像を生成します。合成サンプルを加えると、全スライドの少数ショット分類精度が実データのみの基準より最大18%向上したと報告されています。
注目点 ネイティブのギガピクセル解像度で全スライド病理画像を生成する初の手法を示し、12万枚規模のWSIで検証し、合成データで少数ショット分類が最大18%向上したことを示している。
Srikar Yellapragada, Alexandros Graikos, Zilinghan Li ほか
arXiv
cs.LG · stat.ML 2026年10月10日
説明 分散フィンガープリント:拡張設計による内容因子の成分ごとの識別
要約 本論文は、拡張視点間で内容因子を変動させつつ各サンプルの平均を保つ自己教師あり学習の手法を提案します。各サンプルには拡張強度を記録し、因子ごとの変動パターンの違いから個々の因子を識別できることを、一定の仮定の下で証明しています。合成データと dSprites の実験で、因子の高精度な復元と座標の整列改善が示されています。
D. Hudson Smith
arXiv
cs.LG · cs.NE 2026年10月10日
説明 人工ニューラルネットワークに樹状突起ナノチューブは必要か?継続学習で重要度推定が縮小する二つの理由
要約 本論文は樹状突起ナノチューブに着想を得て、隠れユニット間の一時的な横方向リンクによって重要度の標識を拡散させる手法を検討し、その統計的な仕組みを説明しています。ランダムなリンクは20タスクのPermuted MNISTで最終精度を向上させ、論文ではこれが層平均への線形収縮に相当すると示されています。EWC、SI、MASの比較や、重要度サンプル数が各手法の利得に与える異なる影響も分析されています。
Saurav K. Aryal
arXiv
cs.CV 2026年10月10日
説明 画像拡散モデルで3次元人体動作を生成できるか
要約 本論文は、画像拡散アーキテクチャで3次元人体動作を生成できるかを検討する。根関節を中心とした関節軌跡を、トポロジーに対応した関節-時間画像に整理し、根の全体運動は別の潜在ストリームでモデル化している。HumanML3DとKIT-MLで専用モデルを学習し、骨格定義の異なる両データセットを単一のモデルで扱う共有学習も行った結果、専用モデルは最先端の性能を示し、共有学習でさらに両ベンチマークで改善が見られた。
Siyuan Yang, Chong Wang, Hao Cheng ほか
arXiv
cs.CV · cs.GR 2026年10月10日
説明 SliderEdit++:指示ベース画像編集におけるスライダー軌道の改善
要約 本論文は、指示ベースの画像編集におけるスライダー制御を対象とし、既存手法ではスライダー操作時に急激な視覚変化や単調でない変化が生じ、複数のスライダーが互いに干渉する問題を指摘しています。著者らは連続画像編集のベンチマークSlideBenchを作成し、SliderEdit++を提案しました。中間の編集軌道を正則化し、独立した編集間の干渉を減らす目的を加えることで、このベンチマークで最先端の性能を示し、既存のスライダー手法より約3〜20倍高速だと報告しています。
Arman Zarei, Sayan Nag, Bryan Wang ほか
arXiv
cs.LG 2026年10月10日
説明 適応的深さは仕上げ段階:まず固定深さで学習し、最後の短い段階だけ深さを変える
要約 本論文は、同じ層を繰り返し使うループ型Transformer(推論時に計算量を調整できる)の学習方法を検討しています。著者らは、固定深さで先に学習し、学習の最後の短い段階でのみ深さを変える「固定優先学習(fixed-first training)」を提案しています。2億パラメータのモデルでは、学習の前半67%を深さ2で行うことで、モデル化された学習計算量が45%減り、推論深さ全体の平均負の対数尤度は全期間学習と比べて0.5%以内に収まりました。10億パラメータのモデルでは、計算量が31%から37%、壁時計時間が32%から39%減少し、最終的な負の対数尤度の差は0.8%以内でした。
Andrei Piterbarg, Sean McLeish, Dhruv Pai ほか
arXiv
cs.RO · cs.AI · cs.MA 2026年10月10日
説明 Akule:スパース相互作用拡散による高速でスケーラブルな複数ロボット動作計画
要約 本論文は、複数ロボットの動作計画(MRMP)向けに Akule(スパース相互作用拡散フレームワーク)を提案する。固定された単一ロボットの事前分布に、two-by-two の補正モデル、どの相互作用を評価するかを決める選択器、文脈に応じた重みで補正を合成する構成器を加える。得られた共同軌道は下流の探索ベース計画器で検証・修復される。多様なベンチマークで競争力のある成功率、完全な計画器で最大25倍の高速化、最大256台のロボットでの計画が報告されている。
Manav Vora, Gokul Puthumanaillam, Aditya Penumarti ほか
arXiv
cs.LG · stat.ML 2026年10月10日
説明 条件付きリスクによる非ガウス構造方程式モデルの学習と、再帰の方向が重要な理由
要約 本論文は、分散に基づく構造方程式モデルの復元法を非ガウス雑音へ拡張できることを示します。条件付き分散を、雑音分布の負の対数尤度で定めた線形予測の最小期待損失である条件付きリスクに置き換えます。最小二乗法はその特殊例です。噪声分布を利用する方法は、最小二乗法およびLiNGAM法より正確に構造を復元します。また非ガウス雑音の下で、トップダウン法は有限の微分エントロピーを持つすべての雑音密度で正しい一方、ボトムアップ法は正則条件を必要とし、それがなければ失敗しうることを示しています。シミュレーションでこれらの結果を確認しています。
Ujas Shah, Panagiota Birmpa, Rebecca Morrison
arXiv
cs.CL · cs.AI · cs.LG 2026年10月10日
説明 LLM向けエージェント型データエンジニアリング:システム設計と統制された実証研究
要約 本論文は、エージェントが累積的な実験フィードバックを用いてデータ選択・報酬設計・カリキュラム学習の戦略を段階的に改善するAgentic Data Engineering(ADE)フレームワークを提案しています。固定された学習・評価条件の下で、選ばれた戦略は汎用ベースラインを上回り、4つの保留ベンチマーク平均で約5.85%の向上を示しました。ただし、学習中のスコアの向上が常に汎化性能の改善につながるとは限らないことも報告されています。
Ruomeng Ding, Qianli Shen, Zhaoyang Han ほか
★★★★☆ 注目
arXiv
cs.CV · cs.AI · cs.HC 2026年10月10日
コードあり
説明 GUIエージェント向け潜在世界行動モデル:画面全体のピクセル再構成ではなく、潜在空間で操作による変化を予測する手法
要約 本論文は、GUIエージェントのための潜在世界モデルを提案し、予測対象を画面全体の再構成から潜在空間における行動による将来情報へ移しています。大規模マルチモーダルモデルを基盤とし、行動選択と状態遷移予測の二つのヘッドを備えます。また、予測が現在の状態をそのまま引き継ぐ問題を緩和するため、行動を考慮した対照学習目的を導入しています。著者らは、オフラインとオンラインの両設定で、ピクセル空間の世界モデルに比べ成功率が最大でそれぞれ31.9%と40.6%相対的に向上し、推論遅延は最大98.9%削減されたと報告しています。
注目点 GUI世界モデルの予測対象をピクセル再構成から潜在空間の行動誘発情報へ移し、対比目標で恒等ショートカットを抑えており新規性がある。オフラインとオンラインの比較実験で改善が明確。
Seungjun Yu, Hojun Choi, Seojeong Park ほか
★★★★☆ 注目
arXiv
cs.CV · cs.AI 2026年10月10日
コードあり
説明 CAPTOR:腫瘍用胸部・腹部・骨盤CTのための視覚言語基盤モデル
要約 本論文は、腫瘍領域の胸部・腹部・骨盤(CAP)CT読影のための対照学習型の視覚言語基盤モデルCAPTORを提案しています。北米、欧州、アジアの多施設後ろ向きデータセットで、主に腫瘍病変の検査を用いて学習されました。疾患検出、生存予測(TumorImagingBench)、画像検索の3つの下流タスクで既存のCT基盤モデルと比較され、CAPおよび腫瘍サブセットで優れた結果を示しました。前処理・学習・推論のコードとモデル重みも公開されています。
注目点 腫瘍学的胸腹骨盤CT向けの視覚言語基盤モデルで、既存CT基盤モデルを目的特化で改良。多施設データと複数下流タスクで基線を有意に上回る。
S\'el\'ena Jean-Mactoux, Sophie Loizillon, Ghina Jardali ほか
arXiv
cs.AI · cs.CL · cs.LG 2026年10月10日
説明 Harness^2:オープンワールド向けの再帰的エージェント・ハーネス手法
要約 本論文は、LLMエージェントの実行ハーネス(harness)を自動で改善する、プラグアンドプレイ型の再帰的フレームワークHarness^2を提案している。タスクレベルの再帰では、正解検証器なしで修正を導く対照的なPropose-Probe-Composeステップを用い、驾驭(ハーネス)レベルの再帰では、その修正から経験を抽出して継続的改善を行う。三つの専門ベンチマークと四つのモデル・ハーネス構成において、1ステップの適用でGLM-5とGemini 3.5 Flashの性能が向上したと報告されている。
Ruiyao Xu, Yanfei Chen, Zhongying CuiZhu ほか
arXiv
cs.LG · cs.AI · cs.CL 2026年10月10日
説明 学習可能な低ランク多項式スケッチによる効率的な線形アテンション
要約 Transformerの標準的なソフトマックス・アテンションは系列長の二乗に比例する計算量のため、長い文脈には使いにくい問題があります。本論文は多項式カーネルの近似の観点から既存の線形アテンション手法を検討し、線形アテンションで多項式カーネルを近似する枠組みLLoPS(Learnable Low-Rank Polynomial Sketch)を提案しています。著者らは、この手法の近似誤差が既存手法より厳密に小さいと述べ、複数のベンチマークで線形アテンションのベースラインより高い性能を示したと報告しています。
Zongyue Qin, Haoran Deng, Jason Cong ほか
arXiv
cs.SE · cs.AI 2026年10月10日
コードあり
説明 Cortex:測定によって採否を決めるコーディングエージェントのスキル・ルールの進化と剪定
要約 本論文は、Claude Code などのコーディングエージェントが読むスキルやルールのファイルを、テストに基づいて追加・削除するツール Cortex を提案しています。開発者の修正を再生可能なタスクとして保存し、繰り返し現れる修正を見つけて、一度に一つのスキルまたはルールを作成し、有無を比べた反復実行で純益が確認できたものだけを残します。作者らの実験では、構築されたルールがエージェントの規約遵守率を大きく高めたと報告されています。
Samuele Giampieri
arXiv
cs.LG 2026年10月10日
説明 埋め込みグラフカーネルエントロピー(EGKE):埋め込みに基づくLLMの細粒度ハルシネーション検出
要約 本論文は、LLMのハルシネーション検出手法EGKEを提案している。KLEの枠組みを基にし、NLI分類器に依存する意味グラフを、BGE埋め込みモデルが生成した文ベクトルにRBFカーネルを適用したものに置き換え、追加の計算負荷を抑えている。30の実験設定においてAUROCとAUARCで評価され、既存の先進的手法と比べて競争力のある検出性能を示したと報告している。
Dilrangi Sankalpana, Pragatheeswaran Vipulanandan, Uthayasanker Thayasivam ほか
arXiv
cs.CL 2026年10月10日
説明 自然言語における情報を含む事象の到着時刻のモデル化(神経時間点過程を用いて、テキスト中の情報事象が時間的にどう現れるかを予測する研究)
要約 本論文は、ニューラル時間点過程(TPP)を用いてテキスト中の重要な情報事象を、学習可能な事象強度関数でモデル化する手法を提案しています。大規模言語モデル(LLM)の文脈意味表現と事象間隔の履歴を入力とし、「新語」と「高サプライズ(驚き度)トークン」の到着時刻を予測します。実験では、LLMは人間より新語を有意に高い頻度で生成する一方、高サプライズトークンにはその差が見られませんでした。新語事象の強度は人間とLLMの双方で時間とともに減衰しましたが、高サプライズトークンでは見られませんでした。
Leyi Lao, Yulin Ou, Yang Xu ほか
arXiv
cs.LG · cs.CV 2026年10月10日
説明 空間的曖昧性解消におけるエージェンスとソフトマックスの比較
要約 本論文は、ScanRefer データセット上で同一クラスの物体が複数存在する場合に、参照モデルの確信度をどう評価するかを検討しています。完全な検証セット(9,508 件のクエリ)で、物体レベルのソフトマックスと学習エポック間の一致度を比べ、キャリブレーション誤差を示しています。また Multiple クエリの誤りの種類を分析し、ロジットが記録されていない場合は、Multiple で棄権の閾値を調整し、誤ったインスタンス率を報告すべきだと述べています。
Micha{\l} Zakrzewski, Mariia Shpir, Taras Rumezhak ほか
arXiv
cs.AI · cs.DC 2026年10月10日
説明 小型モデルを運転席に座らせるべきか?クラウドで書かれたエージェントプログラム内でローカルモデルを解釈器として使う研究
要約 本論文は中間的なアーキテクチャを検討しています。クラウド側のモデルがプログラムを書き、ユーザーデータに関する限定的な問いには通常の関数呼び出しを通じて小型のローカルモデルに処理させ、ユーザーデータは端末内に留まります。AppWorld 上の評価では、評価した6通りのバックボーンモデルとテスト分割のすべての組み合わせで、コードのみのエージェントの成功率が向上し、データを端末内に保ちつつクラウドでホストされた ReAct ループとの差の一部を埋めています。
Boris Radovi\v{c}, Marco Canini, Veljko Pejovi\'c
arXiv
cs.CV · cs.LG 2026年10月10日
説明 3D シーン対応 VLM 向けのトークン予算付き候補検索:カテゴリ名と対ごとの幾何学の比較
要約 本論文は、固定のコンテキスト予算の下で、3D シーン対応の視覚言語モデルがまず見るべき物体と関係を検討します。ScanNet の室内指示表現ベンチマークでは、クエリを物体のカテゴリ名に照合する方法が、報告された各 K で対ごとの幾何スコアリングを上回り、高い再現率で差が最も大きくなります。下流の 3DGraphLLM 評価でも、一致する物体予算の下では意味的検索が手作業で設計された幾何手法より高い精度を示します。
Micha{\l} Zakrzewski, Mariia Shpir, and Taras Rumezhak
arXiv
cs.LG 2026年10月10日
説明 大規模科学データの暗黙的ニューラル表現を高速に学習するための精緻化グリッドサンプリング(RGS)
要約 本論文は、暗黙的ニューラル表現(INR)の学習効率が低い問題に取り組み、層化グリッドサンプリング、誤差ベースの精緻化、動的なグリッド解像度調整を組み合わせたRefined Grid Sampling(RGS)を提案しています。全グリッドで誤差を評価せずに空間的冗長性を減らす設計です。高解像度のNavier-Stokes場での実験では、固定の実時間予算内でRGSがより高い再構成精度を示し、全グリッド学習の精度に評価したベースラインより最大6倍速く到達したと報告されています。
Guang Zhao, Xihaier Luo, Sean McCue ほか
arXiv
cs.RO · cs.CV 2026年10月10日
説明 ClothCode:衣類の状態推定と動力学予測のための生成モデル
要約 本論文は、共有された離散的な構成空間で衣類の状態推定と行動条件付きの動力学予測を統一的に行う生成フレームワーク ClothCode を提案している。素材に合わせたトークナイザが衣類の構成を残差ベクトル量子化のパッチトークンとして符号化し、タスクごとの Masked Generative Transformer が信頼度に基づく並列的な反復改良によってこれらのトークンを予測する。3種類の衣類テンプレートで、最強のベースラインと比べて状態推定の平均変位誤差は 26.6%、動力学予測は 37.0% 減少した。同じモデル予測制御器に組み込むと、実世界での折りたたみと平坦化の成功率は 56.7% から 78.9% に向上した。
Yingdong Ru, Lipeng Zhuang, Shiyu Fan ほか
arXiv
cs.IR · cs.CL · cs.LG 2026年10月10日
説明 後期相互作用モデルの圧縮に対する単純な線形補正
要約 後期相互作用(マルチベクトル)モデルは、トークン単位のベクトル集合で文書を表現し、精度とコストの中間に位置します。しかし索引の保存と採点のコストが高く、プーリングや剪定による圧縮は高い圧縮率で精度が大きく低下します。本研究では、採点関数への軽量な変更で圧縮後の検索精度を回復できるかを検討し、非圧縮モデルのスコア分布を蒸留して大域的な線形補正を学習します。エンコーダと圧縮器は固定したままです。ドメイン内設定では、BEIR の 160 設定中 154 で基準の圧縮を上回りましたが、MS MARCO からの転移はモデルやデータセットによって結果が大きくばらつきました。
Mihir Agarwal, Sabyasachi Basu, Viraj Agrawal
arXiv
cs.AI 2026年10月10日
説明 クロスモーダル潜在影響:視覚言語モデルのためのパッチレベル訓練サンプル帰属
要約 本論文は、視覚言語モデルの予測を説明するためのMOSAIC手法を提案します。画像とテキストの共有スパース潜在空間を学習し、EK-FAC(ヤコビアン近似に基づく影響分解)と組み合わせて、訓練サンプルの影響を特定のテキストフレーズと画像領域に割り当てます。QwenおよびGemmaでの実験では、学習された特徴はより局所的で一貫しており、タスク性能を損なわないことが示されています。
Laura Yao, Shixing Yu, Jie Peng ほか