説明実行by Doing:検証済みトレースからエージェントスキルを自律的にコンパイル・整理する手法
要約本論文は、デプロイ済みLLMエージェント向けの手続き的記憶サービス「Zep Agent Skills」を紹介します。検証済みの試行のみを根拠とし、バージョン管理されたスキルへコンパイルします。τ³-bench(銀行業務)、AppWorld、EnterpriseOps-Gymで評価され、教師モデルのトレースから作成したスキルが、三つのより弱い実行モデルの合格率を向上させることが示されています。
Daniel Chalef, Peter Evans, Pavlo Paliychuk ほか
説明非平滑最適化において良性な母集団景観は経験的リスク最小化に引き継がれないことを示す論文
要約本論文は、非平滑な非凸最適化における景観の幾何学的性質が、母集団目的関数から経験的目的関数へ移行するかを検討しています。ガウス測定によるロバスト位相回復を例に、母集団目的関数は良性である一方、サンプル数が無限大に近づくと経験的目的関数には鋭い偽の局所極小値が、ゼロより大きい確率で現れることを示しています。この漸近確率の下限は次元に依存しません。
Penghao Wang, Mateo D\'iaz, Liwei Jiang
説明実行可能な複数フレームワーク対応フロントエンドコード生成と自己修正(MESCoder)
要約本論文は、UIスクリーンショットからReact、Vue、Angularなど複数フレームワークの実行可能なフロントエンドコードを生成する手法を研究し、木構造の自己修正生成フレームワークMESCoderを提案している。まずスクリーンショットから構造の骨組みを抽出し、サブツリーと組み立て関係を段階的に構築する。統一されたProject Agentがサンドボックスでの実行フィードバックに基づいてプロジェクトを修復する。学習はオフライン初期化とオンライン強化学習の二段階で行われ、実験では実行可能性が向上し、HTMLベースの生成との視覚的忠実度の差が縮まったと報告されている。
Linxiao Li, Haoran Ma, Chenyue Wang ほか
説明スパースオートエンコーダに基づくステアリングの情報理論的設計
要約本論文は、スパースオートエンコーダ(SAE)の活性化について、経験的な特徴発火分布を通じて分析する情報理論的な枠組みを提案している。発火分布間のジェンセン・シャノン発散(JSD)により、生成または介入された状態がデータセット由来の目標分布からどれだけ逸脱するかを測り、それに基づいてステアリングベクトルを構成する。質問モードの生成タスクで効果を検証している。
Hirofumi Morise
説明適応的エッジAI開発のための自己探索・自己進化パラダイム(SE2)
要約本論文は、適応的エッジAI開発のための自己探索・自己進化パラダイムSE2を提案している。大規模言語モデルを固定された手順でコードを生成する道具として扱う従来手法とは異なり、エージェント自身が推理能力を用いてワークフローを決定する仕組みである。開発を検索、推論、コーディング、テストの4つの原子的操作に分解し、現在の文脈に応じて次の操作を動的に選択させる。要旨によれば、最先端のベースラインと比べて合成プログラムの精度は最大26%向上し、リソース消費は28%削減され、想定外のエッジAIシナリオへの適応性も高い。
Leming Shen, Qiang Yang, Xinyu Huang ほか
説明共存するO-RANアプリケーションの展開後適応のための状態拡張学習
要約本論文は、サービス制約のもとで学習型のモビリティ負荷分散アプリケーションと共存する省電力アプリケーションに向けて、ATTUNEという手法を提案している。この手法は、省電力ポリシーをラグランジュ乗数に条件付けし、動作中に測定されたサービス劣化に基づいてこのスカラー値を更新する。シミュレーションでは、単一のATTUNEポリシーが各サービス要件に個別に学習させたポリシーと同程度の省電力効果を示し、再学習なしで目標値、負荷、連携アプリケーションの変化に適応することが示されている。
Wonhyeok Ko, Yeonseo Jeong, Songnam Hong
説明IMPACT:動画生成のための画像条件付き運動と物理考慮型衝突・軌道ガイダンス
要約本論文は、物理状態に基づく画像から動画を生成するフレームワークIMPACTを提案している。明示的な動力学予測と、疎および密の物理ガイダンスを組み合わせ、生成動画における衝突や運動の物理的妥当性を高める。物理状態生成器は自由飛行と離散的な衝突応答を統一的に扱い、疎な軌道は物体全体の変位を、密な領域先験分布は拡散サンプリングを制約する。球体と平面の衝突を含む100のシーンでの実験では、既存の基準手法より高い物理的妥当性が示された。
Shiwei Yang, Yunlong Yu, Zhao Wang ほか
説明XDecideBench:多言語における型付き決定モデルと信頼度ポリシーの評価ベンチマーク
要約本論文は、122言語にわたる9つのテストスイート、88,425件のテキスト、153,875件の型付き質問からなるベンチマークXDecideBenchを提案し、テキストのルーティングや内容審査に用いられる型付き決定モデルを評価します。スイートごとにモデルの順位が変わり、英語で最良のモデルは約4分の1のスイートと言語の組み合わせで大きく劣ることが示されています。また、英語データで設定した信頼度閾値は、XNLIにおいてドイツ語やフランス語を含めても5%の誤り率を超えました。
Marek \v{S}uppa, Jaroslav Kop\v{c}an
説明古典的な可読性公式をサプライザル(surprisal)として解釈する
要約本論文は、Flesch-Kincaid などの古典的な可読性公式の係数を、サプライザル(情報理論における予測されにくさ)として解釈できることを理論的に示している。著者らは公式を、記憶を持たないモデルにおける単語ごと・文ごとの交差エントロピーの和とみなし、ジップの法則を通じて言語と結び付けている。そのうえで学年を単位当たりのサプライザルに換算し、語の係数を子どもの語彙増加の規範データと照らし合わせている。
Yo Ehara
説明ProofPatch:Lean の命題を審査し、形式化の変更後も審査結果を有効に保つツール
要約本論文は、Lean 証明支援系で書かれた命題が意図どおりかを審査者が判断し、開発の変更後も審査結果を有効に保つツール ProofPatch を提案しています。審査者はカーネルに対して仮定の要否や反例の存在などを問い合わせ、結果を命題と依存定義の指紋とともに保存します。Mathlib の連続する 229 組の版での比較では、12,898 件の合成判定のうち 118 件を再審査に回し、テキストベースの方法より少ない件数でした。
Xujun Che, Depeng Xu, Jian Xiang ほか
説明三次元磁気流体乱流の学習型サロゲートモデル
要約天体や核融合の plasma で生じる三次元電気抵抗磁気流体(MHD)乱流は、シミュレーションの計算コストが高いという課題がある。本論文は三次元抵抗MHD乱流を対象とした学習型サロゲートモデルを初めて提示し、畳み込みUNet、シフトウィンドウ型Transformer、フーリエニューラルオペレータの三種類の基盤構造を比較している。128^3の解像度と雷諾数1000、3000、6000の減衰乱流データで自己回帰型エミュレータとして学習させ、UNetとTransformerは相対速度誤差0.018から0.053を達成した。
Semih Kacmaz, E. A. Huerta
説明共有バイアス:ユーザーシミュレーションに潜む共通の誤り
要約本論文は、複数の言語モデルによるユーザーシミュレータ同士の意見の不一致から、集団の回答比率や集団間の差の推定が信頼できるかを判定できるかを検討しています。6つのシミュレータと12か国60問のGlobalOpinionQAの回答を用いて評価し、集団間の差では単一集団の比率よりも不一致が無効な推定をよく予測することを示しています(AUC 0.87対0.71)。シミュレータに共通する誤りはこの指標では検出できず、両集団に同じように影響する場合は比較で相殺されます。さらに、一方の集団群で共有バイアスを推定し、別の集団群の予測から差し引く補正が予測誤差を減らすことも報告されています。
Saber Zerhoudi
説明局所差分プライバシー下での無限個の分位点の同時推定
要約本論文は、標本サイズとともに目標確率の数が増える場合の、局所差分プライバシー下での同時分位点推定を研究している。各ユーザーは一度だけ参加するため、未知の分位点の位置の学習と、その同時的な不確実性の較正は同じプライベート情報を共有しなければならない。著者らは単一の木構造報告から得られる累積分布関数のスコアを正確な共分散で融合し、三つの連続したコホートで分位点の位置特定、密度推定、ジョイント乗数較正を行う。国勢調査のミクロデータでは、得られた同時区間が賃金分位比率の分析に使われる例が示されている。
Yi Liu, Qirui Hu
説明FACET:MS/MS データから分子式を、切り捨てなしで完全列挙・採点する手法
要約串型質量分析(MS/MS)スペクトルから前駆イオンの中性分子式を決めることは、未知の小分子を同定する最初の段階です。FACET は、考慮する分子式の選定と最終的な選択を分けて行います。可行性オートマトンが元素数を一つずつ決めながら分子式を構築し、前駆体質量ならびに環・二重結合およびダイが価数の制約を満たすものだけを通します。これにより可行な候補集合を完全に列挙し、すべての候補の妥当性と再現率を化学的制約で保証します。NPLIB1 ベンチマークでは、付加イオンが既知の場合に top-1 精度 0.859、未知の場合に 0.729 を達成し、既存の最強手法(それぞれ 0.766、0.660)を上回りました。
Xujun Che, Depeng Xu, Xiuxia Du
説明MAPLE:プレイブック学習型経験によるマルチモーダル・モバイルエージェント
要約本論文は、勾配計算を使わないマルチエージェント枠組みMAPLEを提案しています。実行中に各ステップで経験を逐次共有し、プロンプトを動的に更新する仕組みです。各ステップで実行時の知見をリアルタイムに相互参照・配布し、盲目的な試行錯誤を減らします。AndroidWorldとMobileWorldのベンチマークで、複雑で長い手順のモバイルタスクにおいて最先端の性能を達成したと報告されています。
Jun Wang, Aurora Wei, Lucas Spangher ほか
説明感情センシング:多言語感情動態の比較分析
要約本論文は、成分データ分析、関数型データ手法、ノンパラメトリック推論を組み合わせた「感情センシング(sentiment sensing)」という枠組みを提案し、多言語間での妥当な感情比較と感情変化の統計的検出を可能にするとしています。欧州連合(EU)27か国のエネルギーと人工知能に関するニュース記事を対象に、2つの事例研究で検証されています。
Mara Sabina Bernardi, Elisa Di Nuovo, Francesca Torti ほか
説明ニューラルネットワークの訓練・学習・推論・強化の統一的ダイナミクスに関する研究
要約本論文は、ニューラルネットワークにおける訓練、学習、推論、強化の関係を検討しています。nanoGPTを用いた九つの実験により、更新が状態に依存した有限振幅の応答を生むこと、学習が分散した機能の支えを持続的に再編成することが示されました。更新後の能力の変化を予測する手法は、5,088の対象で91.43%の精度を達成し、他の五つのアーキテクチャでも検証されています。
Mian Wang
説明MoEDDI:ロングテール薬物相互作用予測のための意味的エキスパート混合モデル
要約本論文は、薬物同士の相互作用を予測するMoEDDIモデルを提案している。化学的特徴に基づいて記述子群を複数のエキスパートに振り分け、グローバルなT-DDIモデルと残差方式で組み合わせる。3つのテスト分割のすべてで、再現したT-DDIベースラインよりマクロF1が向上し、テスト例の少ないクラスで改善が最も大きかった。結果は単一シードによるもので、対照実験と分布シフトの評価が今後必要であると述べられている。
Dinh Tan Nguyen, Hien Quang Kha, Minh-Toan Dinh ほか
説明破棄されたパラメータHessian質量のプロファイル認識型診断
要約本論文は、パラメータHessianのうち破棄される割合が、K-FACが破棄するFisher情報ではなく、対角プロファイルとパラメータ分割に依存することを検討している。指定された重み、入力、座標において、非ブロック二乗Frobenius質量を、グループサイズおよび実測された対角プロファイルの基準と比較する。同じ保存済みの学習済みResNet-18の状態で、ステージ単位のグループから層単位へ変更すると、推定質量がプロファイル包絡線の下から上へ移動する。近似的な結合条件付きモンテカルロ法により、6つの種子・入力の組み合わせすべてでこの交差が解消される。
Maxim Bolshim (1), Alexander Kugaevskikh (1) ((1) ITMO University, Saint Petersburg ほか
説明検証器もシミュレータの一部:エージェント方程式発見における証拠ビューの操作
要約本論文は、エージェントが支配方程式を提案し検証器がシミュレーション軌道と照合する方式を扱います。検証器は時間格子上の数値的要約しか見られず、その要約自体が離散化誤差を含みます。著者らは軌道・候補ライブラリ・検証器・閾値を固定し、許容された要約のどれを採用するかだけをエージェントに選ばせて、その選択が判定に影響することを示しています。この選択による操作を証拠ビューの操作と呼んでいます。
Orestis Oikonomou, Bogdan Raonic
説明大規模言語モデルは悪意を過小に、美徳を過大に示す傾向:内部表現と出力評価の比較
要約大規模言語モデルの内部状態を線形プローブで読み取った値と、モデル自身の評価値を、四つの動機について比較した研究です。二つの研究は事前登録されています。自己利益や危害意図といった悪意の動機では両者に差はなく、評価が低いのは内部信号が弱いためとされています。一方、義務や他者への配慮といった善意の動機では、出力の評価が内部の読み取り値を上回り、報告段階で増幅されていることが示されています。
Xiaoyan Wu, Fan Shi
説明同じ関数、異なるメカニズム:精度を超えた実装局所の幾何学
要約論文は、予測が完全に同じ二つのモデルでも、実装に摂動を加えると反応が異なりうることを示します。ルックアップテーブルは各ケースを独立に変えられますが、共有ルールではケース間の変化が連動します。著者は「実装チャート」でこの違いを表し、有限群による厳密な共有のもとで、独立に変化しうる予測の数が入出力軌道数から入力軌道数を引いたものに等しいと証明しています。さらに、この次元を局所KL曲率と結び付け、モジュラ加算モデルとコンパイル済みTransformerで検証しています。
Miroslav L\v{z}i\v{c}a\v{r} (Mereology Labs)
説明グローバル表現による都市機能知識の転移:不均一なデータへの対応
要約この論文は、都市の機能に関する観測データが世界的に偏在している問題を扱います。著者らはPOI由来の意味情報とAlphaEarth Foundations(AEF)の物理的表現の関係を学習する手法PURE(POI-aligned Urban Embedding)を提案し、142の国・地域にまたがる5つの都市分析タスクで平均R²を0.792から0.830に向上させました。知識の転移は一律ではなく、物理的に似ており地理的に近い地域間、特に同一大陸内の組み合わせで効果が大きいことも示されています。
Junyuan Liu, Xinglei Wang, Guangsheng Dong ほか
説明対話なし逆強化学習のためのアライメント・フライホイール誘導型抑制パッチ
要約本論文は、学習済み報酬評価器を再学習せずに局所的に修正する「フライホイール誘導パッチ」の仕組みを提案している。アライメント・フライホイールが過剰に一般化された領域や制約違反の領域を特定し、検証済みの結果を抑制パッチにまとめる。オンラインの報酬評価では、モデルの潜在空間に置かれたパッチのうち小さな局所的な部分集合のみを取り出す。MuJoCoベンチマークでの評価に加え、デモに含まれない規範を同じ報酬インターフェースに組み込めるかも検証している。
Elias Malomgr\'e, Pieter Simoens
説明Step-dLLM:拡散大規模言語モデルの効率的推論のための適応的ステップ認識スパースアテンション
要約拡散大規模言語モデル(dLLM)は反復的なノイズ除去によりトークンを並列生成しますが、双方向アテンションのため自己回帰モデルのようなKVキャッシュを使えず、毎ステップ全アテンションを再計算するため、ステップごとのコストが二次的に増大します。本論文のStep-dLLMは、ノイズ除去の軌道上のアンカーステップでブロックスパースマスクを周期的に更新し、局所的に一貫した区間内で再利用するとともに、ヘッドごとに適応する全体予算を用います。学習し直すことなくLLaDA-1.5とDream-7B-Instructに適用でき、Tritonカーネルを備えます。
Zhichen Zeng, Xichong Zhang, Junpan Wu ほか
説明記憶効果を用いた人間の移動データにおける欠損位置の推定
要約人間の移動データは時空間的に疎であり、欠損があると結論に偏りが生じる。本論文では、観測値の情報量が欠損地点との双方向の時間距離とともに減衰し、その減衰率を個人ごとに一つのパラメータで定める単純な補完手法を提案する。合成データと実際のTwitterデータでの評価では、ベイズモデル比較で選ばれたべき乗則減衰が、全体で宏マクロAUROC 0.9超、最も移動性の高いユーザーでも0.8超の精度で補完し、欠損区間を考慮した連続時間マルコフ連鎖と同等で、最も移動性の高いユーザーではそれを上回った。中程度のノイズに頑健で、各国や欧州の行政地域にも一般化できる。
Pablo Rosillo-Rodes, Ant\`onia Tugores, David S\'anchez ほか
説明AgentCBO:未知のグラフ下でのベイズ最適化のための因果信念ルーティング
要約本論文は、因果ベイズ最適化が因果グラフ既知という非現実的な前提に依存する問題に取り組み、因果グラフの完全な復元ではなく、探索集合や事前分布など最適化器に関わる対象を変える構造差のみに注目する因果信念ルーティングを提案します。提案手法AgentCBOは、大規模言語モデルの因果事前知識をガードされた提案・確定機構により組み込み、不確実な構造辺を有界な局所修正で更新します。十のベンチマークにおいて、既知グラフの因果ベイズ最適化と同等の性能を示し、制約付きの大規模言語モデル事前知識が固定予算下での性能を向上させ得ることを示しました。
Qiyu Wei, Xin Zhang, Richard Allmendinger ほか
★★★★☆ 注目
説明偽の引用は報酬ハッキングの一種か:事後学習と引用の指示に関する事前登録研究
要約本論文は、事後学習を経た言語モデルが出典を求められた際に参考文献を大量に捏造するかを検証しています。米国連邦判例、計算科学関連の文献、医学文献の三分野にわたる900問を用い、三つのモデル系列の12のチェックポイントで実験し、15で再推定しました。重みを変えず、引用を求める指示だけを変えた場合、事後学習済みモデルでは捏造が大幅に増加し、基礎モデルではほぼ増えませんでした。回答の長さを揃えた対照実験により、この効果は引用そのものに特有であることが示されています。著者らは、可能性はあるが証明はされていないと結論づけています。
注目点著者らは、事後学習済みモデルは出典を求められると引用の捏造が大幅に増えると報告し、長さを揃えた対照で引用指示と冗長さを分離した。引用の数を重視する選好モデルの結果も示すが、報酬が捏造の原因だとはまだ証明されていないとしている。
Zain Naboulsi
説明正確さはリスクではない:医療AIは最も可能性の高いラベルだけを報告すべきでない理由
要約この論文は、多くの医療AIが最も可能性の高い診断や画像カテゴリだけを出力するが、そのラベルだけでは患者の転帰リスクを十分に見積もれないと指摘しています。著者らはJeffreyの条件付け則を用いて、中間状態の確率をどの条件で転帰リスクへ引き継げるかを示し、胸痛の鑑別診断とBI-RADSの例を仮想的に検討しています。臨床や保険の判断は患者の転帰リスクに基づくべきだと論じています。
Jeffrey Humpherys, Makoto Jones
説明LLM審査者は文書の有効性を実際に何で検証しているのか:改正記録の欠落と対照実験
要約本論文は、大規模言語モデルの審査者が改正記録に基づいて、回答が引用する文書がなお有効かどうかを確認できるかを検討している。著者は置換関係の表から対応する回答を生成し、記録から一部のリンクを削除して、審査者の述べた理由で各指摘を採点する。IETFのRFCインデックスの48組の置換関係では、完全な記録があれば審査者はほぼすべての置換された引用を検出した。一方、リンクを削除した24件の欠陥では、文面のみによる検出数が記録を用いた場合を上回った。
Unnati Shah, Samruddhi Kakade, Aum Patel
説明探索はいつ崩壊を防ぐのか:自己一貫性学習における3つの領域と報酬の経路
要約本論文は、ラベルなしのテスト時強化学習(TTRL)を扱う。多数派の答えに報酬を与える方式で、モデルは多数派の答えに収束して崩壊しやすい。著者らは単一問題の学習をsoftmax方策のロジットの連続的なフローとしてモデル化し、探索係数ごとに安定な方策の境界を解析している。探索が報酬と同じ経路を通るかどうかで、学習率やGRPOの正規化が境界を変えるかが決まることを示している。
Jaeho Hwang, Uiwon Hwang
説明大規模言語モデルが自分自身を修正するとき:反復的自己改善における収束・価値観・停止
要約本研究は六つの大規模言語モデルに、ループの中で自身のシステムプロンプトを反復的に修正させた実験です。各モデルは三つのモードで計54回の実験が行われました。自己修正をいつ止めるかはモード設定よりもモデルの種類と強く関連しており、Claude系の2モデルは全実験で収束を宣言した一方、GPT-4oは11%の実験でのみ収束を宣言し、1回は101回の反復を続けました。全モデルに誠実さ・明確さ・好奇心といった共通の価値観が見られ、反復を通じて安定していました。
Oleg Stroganov
説明好奇心と文化的基盤がマルチエージェントLLMの相互作用に与える影響に関する研究
要約本論文は、新奇性追求、認知的好奇心、社会的好奇心の3次元からマルチエージェントLLMの好奇心駆動型相互作用を評価するフレームワーク「CuriousTogether」を提案している。推論、創造的生成、社会的バイアス緩和を含む8つのタスクで、好奇心を導入したマルチエージェント設定は8つ中7つのタスクで非好奇心設定を上回った。物語生成では意味的多様性が最大20.6%向上し、ステレオタイプ率は14.9ポイント低下した。国別の文化的基盤づけは物語生成と社会的タスクに有益だが、精度を重視する推論を損なう場合があることも示されている。
Angana Borah, Zoha Hayat Bhatti, Zhijing Jin ほか
説明拡散モデルを用いたベイズ逆問題の事後サンプリングの高速化:オンラインとオフラインの視点
要約本論文は、スコアベース拡散モデルを事前分布として用いるベイズ逆問題の事後サンプリングを扱うサーベイ論文です。尤度ガイダンス、スペクトル・射影法、逐次モンテカルロによる補正、償却条件付き学習など主要なアプローチを整理しています。各手法を、オフラインの準備とオンラインの推論の間での計算コストの分担方法によって分類し、仮定・利点・限界を比較し、計算の高速化に重点を置いています。
Duc-Lam Duong
説明線形バンディットにおける両世界最良のFTRLアルゴリズム
要約本論文は、線形バンディット問題で、敵対的環境では O(√T) の後悔、確率的環境では O(log T) の後悔を同時に保証する「両世界最良(BOBW)」アルゴリズムを研究している。有限の行動集合に対し、著者らは情報獲得型の正則化付き追従リーダー(IAFTRL)を提案する。これは純粋に FTRL の枠組みに基づくBOBWアルゴリズムの初の例で、確率的環境では情報獲得の複雑さに関わる後悔の上界を達成し、敵対的環境では O(√T) の保証を維持する。
Canzhe Zhao, Vincent Y. F. Tan
説明ノイズで不足データを補う:画像分類論文の再現研究
要約本論文は、Zada、Benou、Irani(2021)による不均衡な学習データでの画像分類に関する主要な主張を再現したものです。元論文は、少数クラスの画像を純粋なノイズで拡張し、ノイズ画像と自然画像を別々に正規化するバッチ正規化層を組み合わせる手法を提案しています。再現実験では、純粋ノイズによるオーバーサンプリング、提案手法の優位性、各種データ拡張に対する頑健性が支持されました。ただし追加実験では、性能向上はネットワークの大型化や複雑なデータ拡張による向上とは別の要因に由来する可能性が示唆されています。
Seungjae Ryan Lee, Seungmin Brian Lee
説明LLM小説におけるキャラクター名の集中:置き換え効果の測定と反復の緩和
要約本論文は、大規模言語モデル(LLM)が生成する小説のキャラクター名が「Elara」「Elias」などごく少数の名前に集中する問題を扱います。八つのプロンプト段階の戦略を比較し、推測デコーディングの発想を名前に応用した、ファインチューニング不要の「推測的命名」手法を提案しています。20のモデルで四言語の44,782篇の物語を生成して検証した結果、コーパス全体で名前の集中度を約95%低減し、名前の自然さは基準に近い水準を保ったと報告しています。
Alejandro Mozo Quesada (1), Sergio G\'alvez Rojas (1), Francisco L\'opez Valverde (1) ((1) Universidad de M\'alaga ほか
説明DriftingPlanner:エンドツーエンド自動運転の一段階軌道計画のためのドリフト生成モデル
要約本論文は、エンドツーエンド自動運転の軌道計画手法DriftingPlannerを提案します。座標回帰項を用いず、ドリフト損失のみで学習します。シーンごとに引力・斥力場を計算し、推論時には各ノイズベクトルとその符号反転を同時に復号して平均することで偏差を打ち消します。NAVSIM navtestでは93.75 PDMSと最先端の結果を示し、一段階推論では10ステップを要する最良の拡散・フローマッチング設定との差は0.13 PDMSです。
Ziming Liu, Yizhan Qu, Leichen Wang ほか
説明OntoDoc:オントロジー資源の説明を自動生成するマルチエージェント手法
要約本論文は、SPARQLエンドポイントやRDFファイル内の任意のIRIに対して自然言語の説明を自動生成するマルチエージェント枠組みOntoDocを提案する。知識グラフから関連するトリプルを収集する段階、Wikipediaや公開Web上の背景知識を取得・再順位付けする段階、根拠に基づく中間的な仮定を生成する段階、最後に説明文を生成する段階の四段階で動作する。生物医学、農業、分野横断の三つの知識グラフで評価した結果、正確さは基準手法と同等以上で、完全性は大幅に向上したと報告している。
Juan Guajardo Gutierrez, Mike Tran, Nasim Shirvani Mahdavi ほか
説明小規模言語モデルにおける作話と拒否の幾何学
要約本論文は、答えられない質問に直面した小規模言語モデルが、拒否するか、自信をもって誤答する(作話する)かを調べる。784問からなるConfabQAベンチマークを提案し、線形プローブ、スパースオートエンコーダ、介入方向の直接最適化によって、最初の生成トークン前の隠れ状態を分析する。Qwen3-1.7BとGemma 2 2Bでは、プローブが今後の拒否と作話を区別できることが示されたが、Llama 3.2 3Bでは、ConfabQAにおける優位性は分割間のばらつきの範囲内にとどまる。
Vladimir Kazei
説明ハミルトン系モデルのための一般化運動量の学習
要約本論文は、ハミルトン型ニューラルネットワークを一般化する手法を提案する。一般化運動量の解析的な形が未知で、状態とその導関数のデータしか得られない場合でも、一般化運動量、ハミルトン構造、システムの動力学をデータから同時に学習できる。例として、減衰のある質量ばね系、二重振り子、非ホロノミック拘束下で転がる円盤を用いて性能を評価している。
Ignacio Puiggros T., A. Srikantha Phani
説明EZ-Ar-VC:方言とコード切り替えに汎化するアラビア語音声匿名化手法
要約本論文は、自然さを保ちながら音声データを匿名化するための音声変換(VC)モデルを扱います。既存のゼロショットVCシステムは英語など高資源言語向けに最適化されており、アラビア語では発音の保持に限界があることを示しています。著者らはEZ-VCを基に、多様なアラビア語音声で学習したアラビア語中心のモデルを構築し、明瞭性・自然性・発音保持で良好な性能を示すとともに、話者の差異も高く保たれたと報告しています。
Injy Hamed, Adarsh Arigala, Rufael Marew ほか
説明ソフトウェア保守におけるコーディングエージェントの自律性の境界設定:境界契約のパイロット研究
要約コーディングエージェントがリポジトリを修正できる権限を広げるなか、関連する文脈だけでは操作権限は定まらないとして、本論文は「境界契約」を提案します。これは、リポジトリ修正の前に、ファイルごとの役割(編集可、確認のみ、必須、保護)を機械可読な形で明示するものです。実企業のリポジトリにおける40件の保守タスクで、境界情報の有無を比べた結果、境界情報ありの条件で編集選択のF1、必須動作のカバー率、厳密に許容されるパッチ数が向上しました。著者は、これは予備的な証拠にすぎず、境界の生成・検証・改訂・実施の方法が今後の課題だと述べています。
Heeyong Eun, Seungyeon Chung, Hyejee Park ほか
説明StreamClarify:ストリーミング動画質問応答における能動的な確認の枠組み
要約本論文は、学習を要しないストリーミング動画質問応答の枠組み StreamClarify を提案する。回答前に不確実性を判定し、必要に応じてユーザーに確認を求める。時間ピラミッド型 KV キャッシュと CPU 側の意味検索アーカイブで過去フレームを管理する。1,837 組の問答からなる診断ベンチマーク StreamClarify-QA を構築し、複数の視覚言語モデルでマクロ精度の向上を報告している。
Zhuchen Shao, Bo Chen, Klara Nahrstedt
説明ランダム探索でタスク専門家は見つかるか?「ニューラル茂み」の再検討
要約本論文は、事前学習済みモデルの周囲に多数のタスク専門家が密集しており、ガウス分布による重みの摂動で見つけられるとする主張を再検討しています。最良の摂動の優位性は選択集合のサイズが大きくなるにつれ急速に減衰し、多くは選択問題への過学習と考えられると報告されています。また、未見の問題では優位性が消えるか、未摂動モデルの実行ごとの変動の範囲内に収まるとしています。
Julian Asilis, Guanzhe Hong, Vatsal Sharan
説明MedAstra:音声認識を介さず医療QAに使う診断根拠付き音声検索
要約本論文は、凍結したWavLMの音声表現を軽量アダプタで凍結E5テキスト埋め込み空間へ写像し、書き起こしなしで波形から高密度検索を行うMedAstraを提案しています。Recall@10は音声のみの検索で87.6、ハイブリッド構成で90.4であり、書き起こし優先の密ベクトル検索の81.0を上回ると報告されています。著者らは、結果は記述的なシステム比較であり、合成音響テストと実臨床音声を区別すべきだと明記しています。
Elahe Khatibi, Ziyu Wang, Amir M. Rahmani
説明LoRAForge:効率的なマルチLoRA提供のための事後圧縮と実行の共同設計
要約本論文は、多数のLoRAアダプタを効率的に提供するシステムLoRAForgeを提案します。学習済みアダプタの事後圧縮によりメモリ使用量を抑え、バッチ因子構築とランク特化実行を明示的な保持ランク表現で接続します。統一保持比率と спектральエネルギー予算配分の2つの方式を備え、FlashTSQRによる因子構築の高速化と、複数のGPU上でのトークン処理量の向上を報告しています。
Shenghui Li, Thiemo Voigt
★★★★☆ 注目
説明文脈遮蔽型の大規模視覚言語モデル向けバックドア攻撃
要約本論文は、大規模視覚言語モデル(LVLM)の推論時における視覚トークン圧縮がバックドア攻撃に与える影響を扱います。全トークン推論では周囲の正常な視覚トークンが埋め込まれたトリガーを抑制し、トークン剪定でその文脈が除かれるとバックドアが起動することを示します。これを基に、全トークン監査では休眠し、未知の圧縮器で起動するプロジェクタ専用の攻撃手法StripWakeを提案しています。LLaVA-1.5-7Bでは、全トークン時の攻撃成功率が0.4%、圧縮時は94.0%から99.7%と報告されています。
注目点文脈剥離現象を見出し、全トークン推論では休眠し圧縮後に起動する射影器バックドアを提案。LLaVA-1.5-7Bで九種の圧縮器を報告。
Zhifang Zhang, Qiang Huang, Chenpeng Wang ほか
説明何を尋ね、何を信じるかを学ぶ:変分ベイズエージェントの言語モデルへの蒸留
要約本論文は、言語モデルが対話型タスクで隠れた状態について質問し、信念を更新できるようにする方法を検討しています。期待情報量(EIG)で質問を選ぶ軽量なベイズ教師エージェントで合成対話データを生成し、80億パラメータの学生モデルを微調整して、教師の質問と構造化された信念状態を再現させます。3種類の多ターン・パズル課題で学生モデルの成績が向上し、信念状態を明示することが効果的であることが示されました。一方、学習した技能は未見のタスク群には転移しませんでした。
Baichuan Li, Yanling Chang, Alfredo Garcia
説明トウモロコシの土地適性予測における機械学習アルゴリズムの数学的定式化と性能比較
要約本論文は、エチオピアの主要作物であるトウモロコシについて、機械学習による土地適性評価の速度と精度を従来手法と比較することを目的としています。アムハラ地域のBurie、Shindi、Tililiの3地域でデータを収集し、特徴選択手法と KNN、勾配ブースティング、ランダムフォレストなどの分類器を用いました。勾配ブースティングと逐次特徴選択を組み合わせたモデルは、正解率99.41%、適合率と再現率はそれぞれ99.35%を達成したと報告されています。
Haimanot Bitew, Ayisheshim Almaw, Habtamu Zegeye ほか
★★★★☆ 注目
説明近似均衡は利己的経路選択の社会的コストをどこまで変えうるか
要約本論文は、非原子的混雑ゲームにおける近似ナッシュ均衡を扱い、均衡条件を緩めたときに社会的コストがどれだけ変化しうるかを分析します。各プレイヤーの費用が最小利用可能費用の 1+ε 倍以内に収まる ε-近似ナッシュ均衡(ε-NE)と、厳密なナッシュ均衡の社会的コストを比較します。次数 d の多項式遅延を持つ一般の混雑ゲームと直列並列ネットワーク上の単一品目経路ゲームについて、相対変化の緊密な上下界を与えています。小さな ε では、一般の混雑ゲームにおける相対的な減少と増加の最大値がともに Θ(√(dε)) となり、直列並列ネットワークでは深さ h に対して最大の相対的減少が Θ(hε) となることを示しています。
注目点多項式遅延下の近似ナッシュ均衡の社会的コスト変化について紧界を与え、一般の渋滞ゲームと直並列ネットワークを区別している。
Yu Cheng, Tianle Jiang
説明STLT:エッジ・クラウド・宇宙連続体における省エネルギー分散推論の新システム
要約本論文は、低軌道衛星と地上局の間で省エネルギーな分散推論を行うSTLTシステムを提案する。まずオフライン解析器が深層ニューラルネットワークの構造を分析し、有利な分割点の集合を絞り込んで探索空間を減らす。次に衛星上の軽量なアルゴリズムが、現在の環境状態に応じてその事前計算された集合から分割点を動的に選択する。実際の衛星テレメトリデータで評価され、決定遅延は平均25.1%、エネルギーは平均27.5%削減され、推論タスクは最大20.1%増加したと報告されている。
Andrija Stanisic, Milos Gravara, Juan Luis Herrera ほか
説明INP-Former の再現:工業異常検知のための内在的正常プロトタイプの再構成
要約本論文は、メモリバンクを使わず再構成に基づく多クラス工業異常検知手法 INP-Former(Intrinsic Normal Prototypes を用いる)の中心的主張を再現したものである。MVTec AD と VisA で報告された性能を再現し、MVTec AD 2 に評価を拡張した結果、既定設定での画像 AUROC は 63.4 であった。原型数、解像度、バックボーンの大きさ、学習時間、LoRA 適応なども検証しており、既定の原型数を含む元のベンチマークの結論の一部は、より難しいデータには当てはまらないと指摘している。
Yunfei Liang, Juan Pablo Osorio Rivera
説明確率モデルによる脂肪シフトのモデル化で、MRI頭部セグメンテーションを改善
要約生体物理シミュレーション用の個人化頭部モデルは、T1強調MRIからの正確な頭部セグメンテーションに依存します。しかし化学シフトアーチファクトにより脂肪組織が周波数エンコード方向にずれ、頭蓋骨が実際より薄く見えることがあります。本研究は、変分推論を用いた確率モデルFLOWを提案し、このずれを考慮して分割を行います。FLOWは脂肪シフトを考慮しない手法より頭蓋外の解剖構造を正確に再構成し、電場シミュレーションにおける偏りを有意に減らします。
Merle Diedrichsen, Koen Van Leemput, Douglas N. Greve ほか
説明「脆弱な羅針盤」:スロバキア語の移民メディア言説における大規模言語モデルのプロンプト感度の研究
要約本論文は、低リソース言語であるスロバキア語の移民関連テキストを対象に、大規模言語モデルの複数のタスク性能を検証しています。対象タスクは、話題の関連性と地理的関連性の分類、および移民の出発地と目的地の地名抽出です。スロバキア語のプロンプトによる向上は小幅でタスクごとに異なること、大規模モデルは小規模モデルに比べプロンプトの変化に対して頑健であることが示されています。また、結果に最も影響するプロンプト要素は例示よりも指示(システム指示またはタスク指示)であるとされています。
Samuel Harvan, Jaroslav Kop\v{c}an, Marek \v{S}uppa ほか
説明適応型オプティマイザーは方策の順位を誤らせうる:モーメンタム、依存データ、二回実行による補正
要約線形時間差分学習で意思決定ルールの長期価値を推定する際、Adamなどの適応型オプティマイザーの固定平均化率が推定対象そのものをずらし、ルール間の順位を誤らせうることを示した。著者らは、同じデータを別の平均化率で再推定し、その結果の組み合わせによって主要なずれを取り除く手法を提案している。ニューヨークのタクシーと電池のモデルでの実験では、この手法がほぼすべての誤った順位を修正した。
Sunyoung An, Xiaoming Huo
説明視覚言語モデルはロボット行動生成における共同ノイズ除去器である
要約本論文は、視覚言語モデルと行動専門家が共同で行動を洗練させるJADE(Joint Action DEnoiser)を提案する。従来の静的な条件付けではなく、各ノイズ除去ステップでゲート付きクロスアテンションを通じて行動生成を導く。RoboDojoでは平均成功率12.67%を達成し、評価対象のπ0.5ベース手法の中で最高となった。さらにRoboTwin 2.0および実世界の双腕タスク4種でも性能向上が報告されている。
Xicheng Gong, Wenxuan Song, Chengze Liu ほか
説明バッチ化されたHartiganのk平均法クラスタリング
要約Hartiganのk平均法は、一般的なLloyd版よりも理論的に優れた面がありますが、計算が本質的に逐次的であるため実際には大幅に遅くなります。本論文では三角不等式を利用して、並列実行可能な更新の集合と、より少数の逐次的な更新を分離するバッチ化Hartigan法を提案します。これにより、Hartigan法がベクトル化計算を行えるようになり、実行速度でLloyd法と肩を並べる初めての手法となりました。
Edward Raff, Michael Slawinski
説明GraCo:グラフ粗視化アルゴリズムと指標の統一ツールキット
要約グラフ粗視化は、元のグラフの指定した性質をできるだけ保ったまま、グラフをより小さなグラフに縮約する手法で、学習前に一度適用することで大規模グラフへのグラフ学習の拡張に用いられます。本論文で提案する GraCo は、ノードの分割と粗視化後グラフが従うラプラシアンによって粗視化を定義する統一ツールキットです。文献から 17 手法とランダムなベースラインを実装し、五つの系統に分類しました。また、任意の粗視化に適用できる評価指標も収集しています。合成確率的ブロックモデルで実装を検証し、Cora、PubMed、ogbn-arxiv、ogbn-products における各手法の実行時間とピークメモリを報告しています。ソースコードは公開されています。
Antonin Joly
説明文脈バンディットと強化学習によるAMGのオンライン自動チューニング
要約代数的マルチグリッド(AMG)は大規模疎線形方程式系の求解に広く使われるが、その効率は設定パラメータと求解パラメータの相互作用に強く依存する。本論文は hypre の BoomerAMG 向けに、LinUCB 文脈バンディットで階層構築パラメータを選び、再帰的 LSTDQ 制御器で多重グリッドサイクル間の緩和重みを調整する位相認識型オンラインチューニング手法を提案する。事前学習は不要で、連続する求解の中で学習を更新する。
Xudong He, Ruiyu Wang, Yilang Ding ほか
説明ArSciKids:小学校の科学実験と多肢選択問題の生成に向けたアラビア語カリキュラム対応データセット
要約本論文は、アラビア語の小学校カリキュラムに対応した二つのデータセットArSciKidsを紹介する。サウジアラビア、シリア、ヨルダンの公式小学校理科教科書から手作業で整理した999件の実験記録と、サウジアラビアのManhajiプラットフォームから収集した2,167問の多肢選択問題からなり、いずれも1〜6年生を対象とする。LoRAで十種のオープンモデルを微調整し、自動評価と人手評価で検証した結果、モデル規模とタスクによって大きな差が見られた。
Taghrid Housari, Massa Rankoussi, Jafar Abdul Majeed ほか
説明待ち行列網のスケジューリングのためのゼロ次方策最適化
要約待ち行列網のスケジューリングでは、可算無限の状態空間と遷移の強い確率性により強化学習が難しいという課題がある。本論文は、価値関数やアドバンテージ関数の推定を必要とせず、平均コストという単一のスカラー量の推定のみに依拠する、実装が容易なゼロ次方策最適化アルゴリズムを提案する。バックプレッシャー保護方策を対象に、平均コスト目的関数が方策パラメータに関して一様に滑らかであることを示し、ε定常方策への有限時間収束保証を与える。複数の待ち行列網での数値実験では、PPOなどの勾配ベースの強化学習法や従来の待ち行列ベースラインを上回る、競争力のある性能が示されている。
Deyi Wang, Qining Zhang, Lei Ying
説明満足し、解かない:強化学習における有界な恒常性報酬のワイヤヘッディング(報酬の不正利用)
要約本論文は、必要性が蓄積し満たすと報酬が得られる恒常性満足報酬を検討する。エージェントに必要性をリセットする低コストの行動を与えた場合、MiniGridのDoorKeyおよびKeyCorridor環境で、PPOエージェントの多くのシードがタスクを解けず、方策はほぼ一様になった。報酬が有界であっても、この報酬の悪用が起こることを示している。
Chase J. Metoyer
説明構造認識カーネルによる高速かつ正確な相対位置アテンション計算手法
要約本論文は、加法的な相対位置項を FlashAttention 型のタイル化計算に組み込む厳密なアテンションアルゴリズムを提案している。オフセットを考慮したタイル化により冗長なインデックス参照とメモリアクセスを減らし、勾配のオフセットベースの分割と集約によってアトミック操作の競合を回避する。8K トークン系列では、前向き計算で 1.8~6.4 倍、逆向き計算で 2.0~21 倍の高速化を示し、ピークメモリは最大で 2.9~128 倍(逆向きでは 1.4~54 倍)削減したと報告している。
Delyan Boychev, Ivo Petrov, Dimitar I. Dimitrov
説明TRIAGE:2段階LLM推論サービスにおける信頼性・負荷考慮型エスカレーションと意味的証拠判定器
要約本論文は、2段階のLLM推論サービスで小型モデルから大型モデルへリクエストを引き上げる条件を検討し、生成後の信頼性状態と負荷に応じて変わるGPU価格に基づいて判断するTRIAGE手法を提案します。実験はA40上でQwen2.5-7Bと32B(AWQ)をVLLMにより動かして行われました。事前登録した仮説の一部は棄却され、事後に加えた意味的証拠判定器の結果も報告されています。7Bから32Bへの端対端の改善はわずかで、割り当て器はエスカレーションしない判断をしました。
Basavaraj R M, Aryan Bharat Kumar
説明概念誘導プロンプトがLLM生成レシピ集団の多様性を高める
要約本論文は、回答の前に主題の概念を生成し、各概念ごとに回答を作る簡単な概念誘導プロンプト手法を提案している。レシピ本の課題で1,000件のレシピを生成し、人間が作成したコーパスと比較した。比較対象として2種類の単純なプロンプト戦略を用いた。概念誘導プロンプトはすべての場合で両ベースラインを上回り、意味的カバレッジは47.0%に達した。これに対し、先行タイトル戦略は35.1%、ナンス(無意味語)戦略は13.1%だった。結果は特定の課題に限られており、解の質と一般化可能性は今後の検討課題とされている。
Stuart Farmer
説明低Tucker階テンソルのための軽量表現学習:モデルを変えずに計算とメモリの負担を削減
要約本論文は、多次元データ間の依存関係をコンパクトに表現できる低Tucker階テンソルの学習手法を扱う。タスクに必要なスペクトル成分のみを逐次抽出し、大きなKronecker演算子を生成せずに因子単位の多重線形縮約を行い、元のテンソル全体を保持せずコンパクトな潜在状態のみを更新することで、冗長な計算を減らしている。5種類の推定器において元のアルゴリズムと数値精度の範囲で一致する軌道を保ちつつ、n=100の3階ベンチマークで反復あたりの実行時間を最大3.12倍、常駐メモリを最大616倍削減したと報告している。
Hiroki Hasegawa, Yukihiko Okada
説明Polyak-Ruppert平均化確率的勾配降下法の推論複雑性に関する下界
要約本論文は、多項式的に減少するステップサイズを用いるPolyak-Ruppert平均化確率的勾配降下法について、ガウス近似の鋭い下界を示しています。一次元の滑らかな強凸な例を構成し、その近似誤差が既存の上界と一致することを示しています。さらに、単一の軌跡から極限分散を推定する際の相対平均誤差の下界も導出されています。
Denis Belomestny, Alexey Naumov, Sergey Samsonov
説明チャットボットと政治について議論する:政治的信念が生成AIへのプロンプトの作り方をどう左右するか
要約本研究は実験により、スイスの市民563名がAIチャットボットで移民関連の問題を検索する際にどのようにプロンプトを作成するか、またその過程が選択的接触の影響を受けるかを検討した。移民に批判的な参加者ほど反移民の立場を含むプロンプトを作成する傾向が見られ、この効果は特定の議題(スイスで投票にかけられた反移民の国民発議)よりも移民全般という広いテーマで強かった。態度に一致するAIの回答に触れても選択性はさらに強まらず、AIに対する態度や思考スタイルによる調整効果も確認されなかった。
Victoria Vziatysheva, Reinhold Kliegl
説明リソース制約下の臨床LLMサービング向け容量計画に関する研究
要約本論文は、固定されたアクセラレータ予算の下で、異なる規模の大規模言語モデルへ計算容量をどう配分し、リクエストをどう振り分けるかを検討しています。4基のGPUを用いた制御環境で、短い事実確認、生物医学的意味照合、長文臨床要約の業務を使い、24の構成を比較しました。その結果、応答遅延や長文カバレッジへの影響は、ルーティング方式よりも機器構成の方が大きいことが示されています。
Yi Tang, Geoffrey Martin, Yiye Zhang ほか
説明CivicBench:ウェブ上の行政データ分析のためのベンチマークとメモリ枠組み
要約本論文は、4都市・2年分のデータを対象とした400タスクのベンチマーク「CivicBench」を提案し、ツールを使う言語エージェントが行政データを統合して計算した結論を記録によって裏付けられるかを評価する。また、ツールの観測結果を型付きの主張に整理し、未解決の制約を中心に状態を検索する「Task-State Memory(TSM)」を導入する。9組のモデル比較のうち8組で平均スコア差が正となり、その95%区間は0を含まなかったと報告している。
Yangyu Wu, Siru Zhong, Haoyuan Liang ほか
★★★★★ 注目
説明GSLM2:多ストリーム音声表現学習と生成型話し言葉言語モデリング
要約本論文は、音声のみから言語構造を学習する生成型話し言葉言語モデルGSLM2を提案します。自己教師あり学習のエンコーダSpidR 2.0で複数の抽象度の離散音声ユニットを生成し、多ストリームモデルがそれらを共同でモデル化します。最大600万時間のデータと65億パラメータの規模で、言語能力が向上しデータ規模に対する効率も高まり、テキストモデルとの差を縮めました。学習コードとモデルチェックポイントは公開されています。
注目点多層の離散音声単位を共有時間バックボーンで共同モデル化し、6M時間・6.5Bパラメータ規模で評価して文字ベースLMとの差を縮めた。
Yosuke Higuchi, Tom Fizycki, Mahi Luthra ほか
説明GESTALT:事前学習済み病理基盤モデルを用いた、遺伝子発現からの高速・汎化可能な組織病理画像合成
要約本論文は、遺伝子発現から画像を生成する問題を、病理基盤モデルの画像埋め込みを予測する問題として再定式化する手法GESTALTを提案している。軽量な遺伝子トークンTransformerが多細胞の遺伝子発現からこの埋め込みを予測し、凍結またはLoRA適応された拡散デコーダPixCellが画像として描画する。3つのXeniumデータセットにおいて、知覚指標で現state-of-the-artのGeneFlowを上回り、学習時間は大幅に短縮される。1024×1024での生成や複数の汎化設定での評価も行われている。
Felix Ho, Alexandros Graikos, Dimitris Samaras
説明EMG-Hybrid:高次元特徴選択のための二重エンジン型エリート記憶誘導適応最適化フレームワーク(高次元特徴選択向けの、エリート記憶に導かれる適応的な最適化手法の説明)
要約超高次元でノイズを含むデータセットにおける特徴選択の課題に対し、三層の階層型最適化フレームワーク EMG-Hybrid を提案している。双エンジン制御器、適応ブラックホール重力(ABHG)実行層、エリート記憶アーカイブと離散ビット単位差分進化による微調整で構成される。論文は、10万を超える特徴量のデータで既存手法を上回る性能と大幅な次元削減、ほぼ線形の並列高速化が得られたと報告している。
Saba Zare, Mohammad Taheri
説明世界モデルは絶対値が正確でなくても方策の順位を正しく付けられるか:相対誤差の上界と監査の限界
要約強化学習の方策を、追加の環境相互作用なしに学習済み世界モデルで順位付けできるかを検討した論文です。著者は対の模擬恒等式と相対誤差の上界を導き、少数の実環境結果で模型による淘汰を監査する手法RAVELを提案しています。DMCのcheetah-runとwalker-walkで45個の方策を評価し、モデルの順位は高い一致を示す一方、対の監査誤差の相関は低いと報告しています。
Ahanaf Hasan Ariq, Hasaan Ahmad
説明SIDRec:推薦向けのエンドツーエンド意味ID表現・モデリング
要約本論文は、推薦タスクを考慮したエンドツーエンドの意味ID(連続的なアイテム表現をコンパクトな離散IDに変換する手法)学習フレームワーク「SIDRec」を提案している。コンテンツ情報と協調情報を同時にモデル化し、推薦の目的に合わせてSIDの構築を行う。3つの公開ベンチマークデータセットにおいて、AUCとGAUCの両方で比較手法を上回り、最強のベースラインに対して最大5.15%の相対的改善を示した。
Zhuohang Jiang, Yongsen Pan, Pangjing Wu ほか
説明プロンプト最適化の効果を検証する論文:推論モデルにおける改善余地の分類
要約本論文は、自動プロンプト最適化が下流タスクの性能を常に向上させるという前提を検証している。四種類の最適化手法と八つのタスクで、対応のある同日測定を行った結果、強力な推論モデルでは構造化探索による統計的に有意な精度向上は見られなかった。一方、離散的な構造ゲノムは探索の崩壊を防ぐ役割を果たし、また商用APIの障害時における後端の混在を検出する監査ツールも提示されている。
Zhengshuai Yang, Changyun Li
説明テスト時スケーリングによる大規模言語モデルのプルーニングの再考
要約本論文は、構造化プルーニング(エキスパート、FFN、レイヤーのプルーニング)後の大規模言語モデルの推論能力を検討しています。数学とコードの4つのベンチマークで、同じサンプリング予算におけるpass@kにより元のモデルとプルーニング後のモデルを比較しました。その結果、一部のプルーニング済みモデルは元のモデルと同等以上の問題範囲をカバーする一方、正解のサンプリングは難しくなり、総トークン消費が大きく増えることが示されています。そのため、プルーニングは解ける問題の範囲と正解を得るための採用コストの両方で評価すべきだと述べています。
Mingyang Song, Mao Zheng
説明HiGenTrans:生成型推薦のための階層的LLM知識転移手法
要約本論文は、生成型推薦において大規模言語モデル(LLM)の知識を三つの階層で活用するHiGenTransフレームワークを提案している。入力段階ではLLM由来のユーザー表現を系列先頭に加え、表現段階では中間層の特徴を対応する層に整合させ、決定段階では軽量な混合専門家モジュールでビーム探索の結果を再ランク付けする。三つの公開ベンチマークで、最強のベースラインと比べRecall@10が最大12.9%、NDCG@10が最大33.7%向上した。
Zhuohang Jiang, Yuxin Chen, Haohao Qu ほか
★★★★☆ 注目
説明安全ラベルは何を測っているのか:マルチモーダルLLMの状況安全性ベンチマークの監査
要約本論文は、マルチモーダル大規模言語モデルの状況安全性ベンチマークを監査したものです。このベンチマークは各場面に「安全」または「危険」のラベルを付け、モデルの回答をそのラベルで評価します。著者らは、スコアがどの情報源(場面、依頼内容、ベンチマークのファイル構成)に由来するかを区別するための七つの測定項目「ベンチマークカード」を提案し、六つのベンチマークに適用しました。また、安全な場面と危険な場面の組でランキングとラベル付けを比較する Spot-Stop 分解を導入しています。
注目点Benchmark CardとSpot-Stop分解を提案し、シーン・要求・ベンチマークファイルが安全ラベルに与える寄与を分離して六つのベンチマークを検証している。
Wayner Barrios, Kenneth Barrios
説明決算説明会の発言は財務修正を予測できるか:公開情報を超えたテキストの有用性の検証
要約本論文は、経営陣が決算説明会で用いる言葉が、既に公表された財務報告の誤りを修正する財務修正(リステートメント)を事前に示すかどうかを検討したものです。修正前の説明会109件と、対応する対照の218件を比較しています。テキストは修正を予測するものの、公開された企業情報に加えても検出可能な順位の改善は見られませんでした。大規模言語モデルは高い得点を示しましたが、伏せた文字起こしから66%の確率で正しい銘柄コードを言い当てることや、修正発生後に公開されたことが示されています。
Ahmet Efe, Shivank Sapra, Bilal Ahmed
説明StreamDuo:未見のゲームに対応するライブ実況と調査エージェント
要約ストリーミング型の動画大規模言語モデルが、学習に使っていないゲームでもリアルタイム実況できるかを検証した論文です。既存の実況モデルは実況のタイミングは引き継げても、ゲーム世界の知識は引き継げないことが分かりました。提案手法のStreamDuoは、学習可能な実況モデルと、ゲームのウィキを読む凍結された調査エージェントを組み合わせ、『Baldur's Gate 3』だけで学習し10本の未見ゲームで評価しました。実体の再現率は0.082から0.116に上がり、元のゲームの情報の漏れは9.9%から1.0%に下がり、ストリーミングモデルの中で最も良いタイミングと生き生きした実況、総合品質の評価を得ました。
Zixian Gao, Penghao Luo, Xiangcheng Cao ほか
説明ゼロゲート付きクロスアテンション:凍結言語モデルに多モーダル条件付けを段階的に導入する手法
要約本論文は、帰納的ゲート付きクロスアテンション(IGCA)を提案する。これはゼロ初期化のクロスアテンション・ブリッジで、初期化時には事前学習済みモデルの動作を保ち、その後テキスト以外のモダリティを徐々に条件付けできるようにする。複数の凍結バックボーンモデルで実験を行い、学習時および留保評価データでの損失の結果を報告している。
Basavaraj R M, Manav Verma
説明CompSkill:実行経験を用いたスキル検索の手法
要約本論文は、大規模言語モデルエージェント向けのスキル検索手法 CompSkill を提案する。説明文だけでなく、過去の実行で得られた同一タスクの比較結果をスキルのオフセットと制限付きキー残差に変換し、経験によって執行者に渡される文書が変わるが、文書の本文は変わらないようにする。ToolQA、AppWorld、ALFWorld での実験では、ToolQA において各ベースラインより多くのタスクを完了した。
Qi Shen, Ziyue Zhu, Yongqing Jiang ほか
説明CogRSI:認知推論戦略の進化と監査
要約本論文は、言語モデルが自らの戦略を改善することで他者の心的状態をより良く推論できるか、またその学習された戦略が本当に正しいかを検証しています。モデルは物語の各出来事を誰が見たかを判定し、短い原則で判断の食い違いを解決します。自己改善ループが原則自体を書き、精度が一定以上向上した場合のみ更新を残します。学習された原則は未見のテストセットにも転移しましたが、規則をコードに変換して検証すると、多くの規則が一部の状況で誤った答えを出すことが示されました。
Yandan zheng, Haoran Luo, Xinliang Zhou ほか
説明Auriga技術報告:ゼロショットの具現化操作のためのタスク非依存エージェントハーネス
要約本論文は、タスクに依存しないエージェントハーネス「Auriga」を提案し、視覚言語モデルが対象タスクでの試行やリセットなしにゼロショットでロボット操作を行えるようにする。モデルがタスク判断を行い、ツール呼び出しまたは複数ステップのPythonプログラムで動作し、ハーネスが較正された3D計測、双腕制御、実行中の逸脱検出と復旧を担う。RoboDojoのリーダーボードで成功率57.7%により首位となり、RoboCasa365では成功率73.2%を達成した。
Chengcheng Wang, Yuheng Shi, Siyu Xu ほか
説明デジタルツイン支援によるミリ波MIMOネットワークの高速ビーム整列に関する研究
要約本論文は、デジタルツイン支援によるビーム予測、領域ベースの測位、重み付きアンサンブル学習、および説明可能性に基づくビーム剪定を一つのフレームワークに統合した、遅延を考慮したビーム管理アーキテクチャを提案しています。デジタルツインは、現場固有のレイトレーシング無線チャネル情報をオフラインで生成し、大規模な実測なしで環境を考慮したビーム予測を可能にします。実データでの評価では、top-1で96.80%、top-3で98.36%のビーム予測精度を達成し、空中探測のオーバーヘッドを全探索と比べて約一桁削減したと報告されています。
Muhammad Kamran Saeed, Ashfaq Khokhar
説明概念ドリフト下でタスク境界なしの連合継続予測における二層リプレイによる破滅的忘却の緩和
要約本論文は、タスク境界のない連合時系列予測において、概念ドリフトが生じた際に古い知識を忘れてしまう問題を扱っています。著者らは、クライアントが予測窓のRMSEを監視し、持続的な性能低下の後にのみ適応を行うドリフト認識型の継続学習手順を提案しています。さらにTwoTierReplayという仕組みで、固定のオフライン代表記憶とオンライン記憶を分け、長期知識と近時の変化をそれぞれ保持します。北京多地点大気質データセットでの実験では、九つのすべての目標・予測期間の組み合わせで安定性と可塑性のスコアが最も高く、最も強いベースラインに比べ約11.4%向上したと報告されています。
Khaled Hallak, Oudom Kem
説明Scute:LoRAを超えるPEFTアダプタの正確なバッチ推論システム
要約大規模言語モデルの推論システムは、1つのGPUで複数のLoRAアダプタをまとめて処理できるものの、DoRA、(IA)、VeRA、OFTなど他のPEFT手法のアダプタは受け付けません。本論文はこれらの手法を六つの槽を持つLoRA形式に統一し、vLLM上に実装したScuteを提案します。Scuteは5種類の手法を1つのバッチで処理でき、Hugging Face PEFTライブラリとの誤差は各アダプタの効果の平均1.5%以下に収まります。同数のLoRAアダプタと比べ、デコード時間の増加は5%から17%です。
Thomas Walker, Richard Baraniuk
説明QVR3D:学習不要の3次元視覚的グラウンディングのためのクエリ誘導型視覚推論
要約本論文は、自然言語の記述に基づいて3次元シーン内の物体を特定する手法QVR3Dを提案しています。学習を必要とせず、RGB-D観測と既製の基盤モデルを用いて動作します。クエリ誘導型最大被覆によってクエリに関連する相補的な視点を選択し、インスタンス信頼度・属性の一貫性・関係の一貫性を統合した確率推定で対象を特定します。ScanReferとNr3Dにおいてゼロショットで最先端の性能を報告しています。
Jung-Hao Kao, Jing-En Huang, Jia-Wei Liao ほか
説明分散型衝突検証によるロボット群の堅牢な安全保証
要約本論文は、屋外で動作する無人航空機(UAV)群に分散型安全検証アルゴリズムを実装し、実行時に衝突を防止する手法、結果、分析を紹介している。到達可能性に基づく分散型の回避手法を修正・改良し、8機のUAVからなる群による6回の飛行を含む計140回の屋外飛行データを収集して評価した。各エージェントは平均約500〜520ミリ秒で今後4秒間の安全性を検証でき、そのうち到達可能集合の放送時間(約300〜500ミリ秒)が総検証時間の大部分を占めるとされている。
Grant Phillips, Hoang-Dung Tran, Justin M. Bradley
説明CuPH:レベル同期成分追跡による並列キュービカル永続ホモロジー
要約本論文は、画像の形状と連結性を多スケールで記述する位相的手法である永続ホモロジーを、2次元画像に対してGPUで並列計算するアルゴリズムCuPHを提案しています。画素を灰色値ごとにまとめ、レベル同期の走査とロックフリーな連結成分追跡(union-find)を用います。整数入力では標準的なキュービカル永続ホモロジーと同じ永続図を生成することを証明し、浮動小数点入力については安定性の上界を示しています。既存のGPU基準実装より18.6〜99.6倍高速だとしています。
Guangyu Meng, Pengfei Gu, Erin Wolf Chambers ほか
説明低コストな大規模言語モデル提供のためのマルチターン意味キャッシュ
要約意味キャッシュは、類似した要求に対して保存済みの応答を再利用することで、大規模言語モデル(LLM)の提供コストを下げる手法である。本論文は、マルチターン対話では埋め込み類似度だけでは、キャッシュ応答が受け入れ可能かどうかを予測しにくいと指摘している。そこで審査者のフィードバックから「再利用リスク」を学習し、予算内でキャッシュする対話状態を選ぶ手法を提案している。数学指導と映画チケット予約の対話データでは、既存手法より損失が小さく、提供遅延も削減できたと報告されている。
Baran Atalar, Selly Beyene, Xutong Liu ほか
説明投稿資格ではなく選考の漏斗を変える:論文の殺到に対応する査読の設計
要約機械学習の主要国際会議で投稿数が急増し、査読の負担と採否の偶然性が問題になっている状況を背景としている。著者はNeurIPSの実験に合わせて校正したモデルで、投稿者を制限する現行の対策と、段階的な選考漏斗という代替案をシミュレーションした。段階的な漏斗は専門家の時間を現在のおよそ半分強で済ませ、上位の論文をより多く採択できるとされる。
Mikhail L. Arbuzov, Lee Mosbacker, Sisong Bei
説明視点をまたぐ参照推論:クロスビュー視覚的グラウンディングの手法
要約本論文は、別の視点から撮影された画像の対象を衛星画像上で特定するクロスビュー物体地理定位の課題を扱う。自然言語の指示表現と視覚的な例示を併用して衛星画像内の対象インスタンスを特定する手法GAVを提案し、MoP-UAVでAcc@0.5 62.55%の新たな最高性能を達成したと報告している。あわせて文章で誘導する定位のためのベンチマークCVOGL-Textも紹介している。
Hao Gan, Liuqian Wang, Shuang Li ほか
説明協調的自律知能:再帰的半閉鎖学習の三つの公理
要約本論文は、関係を形成・保持・修正・合成しながら学習を続けるシステムのための理論と設計枠組みである協調的自律知能(SAI)を提案する。三つの公理は、重要な区別を孤立させないこと(U)、宣言された契約の下での未来への忠実な継続によって同一性が定まること(I)、未解決の欠陥は許容される最低の等級で最も合法的な局所補完によって修復すること(L)である。有限または仮想的な契約の下で、U/I/Lの相対的無矛盾性と条件付き非冗長性などを示している。
Dongxu Li
説明ニューラル組合せ最適化のための疎グラフ極限に関する研究
要約小さなグラフで学習したグラフニューラルネットワークを大きなグラフに適用する際、組合せ最適化の正規化された目的値がサイズ間で移転できるために、どのようなグラフ情報を保持すべきかを検討した論文です。有限個のエネルギー特徴量に基づき、規模移転の保証を示しています。理論面ではShapley-Folkmanの界を用い、有界木幅グラフ上の固定重みメッセージパッシングネットワークで特徴量を実現しています。厳密解法と学習済みモデルによる実験で、これらの移転保証を検証しています。
Thien Le, Melanie Weber
説明Ripple:具身推論向けの締切対応型CPU-GPU共有スケジューリング
要約本論文は、統合メモリのエッジデバイス上で大規模言語モデル(LLM)や視覚言語モデル(VLM)の推論と時間制約のあるCPUタスクを同時に動かすためのCPU-GPU協調スケジューラ「Ripple」を提案する。モデルから導出したGPUメモリ転送量とCPUタスクの完了フィードバックを組み合わせ、締切の余裕をGPUバイト予算に変換して干渉を調整する。DGX Spark上での評価では、試験した締切設定の全体でCPU締切未達率2%の目標とVLMの締切を一貫して満たし、LLMのベストエフォート型スループットも維持したとされる。
Jiadong Zhang, Xiaosong Ma
説明標準的な平滑化の偽装?低リソースのベンガル語生成に向けたゲート付き知識蒸留
要約本論文は、トークン単位で教師の信頼度により重み付けするEWAD、サンプル単位で検証データとの勾配整合性により重み付けするCHADという、ゲート付き知識蒸留手法を検討しています。ベンガル語中心の6タスク、3種類の生徒モデル、2系統の教師モデルで実験を行い、ゲートは45の比較のいずれでも通常の知識蒸留を有意に上回りませんでした。また、蒸留は正解出力による交差エントロピー微調整にも勝てず、主な効果は正則化にあるとされています。教師を用いない標準的な平滑化でも、その差の大部分が埋まると報告されています。
Dipto Sumit, Zobeida Zaman Chowdhury, Syeda Fabiayee Jahan ほか
説明ノイズのある環境における頑健な報酬機械の学習と実行
要約本論文はProb-IRMという手法を提案し、ラベル付け関数にノイズがある場合でも、帰納論理プログラミングによりノイズを含む命題履歴から報酬機械を学習し、離散環境と連続環境の両方で方策学習に用います。報酬機械の状態に対する確信度を用いて、いつ再学習するか、また追加の誘導報酬をどう与えるかを決めます。実験では、異なるノイズ水準の下で、手作業で作成した報酬機械を使う基準手法と同程度の性能を示し、履歴を再帰型ニューラルネットワークで符号化する手法を上回りました。
Roko Parac, Lorenzo Nodari, Daniel Furelos-Blanco ほか