説明カトマンズ盆地における高解像度土地利用セグメンテーションと合成画像・ラベルによるデータ拡張
要約本論文は、カトマンズ盆地の202平方キロメートルを対象に、408枚の高解像度RGB画像から成る手作業でアノテーションした6クラスの土地利用データセットを構築しました。ランダム分割では空間的リークにより性能が過大評価され、厳密な系列ブロック分割に切り替えると最大0.095 mIoU低下することを示しています。提案するSegFormer改良版はパラメータを1.9%増やすonly で全テスト分割の平均IoUを向上させ、希少で細い構造のクラスで改善が集中しました。一方、拡散モデルで生成したペアによるデータ拡張は、すべてのアーキテクチャで精度を低下させました。
Pranil Parajuli, Sugam Dahal, Kiran Chandra Dahal
説明推論モデルの推論:評価と提供から得た実践的教訓
要約本書は、言語モデルの推論設定(最大応答長、回答の抽出、採点方法、量子化など)が、報告される評価結果や実際の運用にどう影響するかを扱います。著者は、最大応答長だけを変えたところ、ある数学ベンチマークの正答率が0.08%から93.18%まで変化した例を示しています。バッチ処理、アテンションバックエンド、キャッシュによる出力の違い、提供性能、構造化出力、ツール呼び出し、推論予算、長文脈タスクを取り上げ、推論の記録、評価の確認、容量の見積もり、システムの公正な比較についての実践的な指針を示します。
Luv Verma
説明『What Broke & Why』:強化学習によるポストトレーニングの実践的教訓
要約本書は、言語モデルの強化学習ポストトレーニング(検証可能な報酬による強化学習RLVRおよびGRPO)を、研究者や実践者向けに実践的に解説するものです。数学推論、検索エージェント、学習の安定性、混合エキスパートモデル、ソフトウェア工学タスクの五つの訓練プログラムを通じて、直面した問題、行った変更、得られた教訓を紹介しています。報酬設計、評価、よくある障害のデバッグ、再現性などの実用的な参考情報も含まれています。
Luv Verma
★★★★☆ 注目
説明因子ランク:木構造決定図の正準的な代数的一般化
要約本論文は、代数的木決定図(ATDD)を提案する。これは木決定図(TDD)で部分関数の個数を数える代わりに、カット行列のランクを用いる手法である。各関数と各vtreeに対して、ATDDは一つだけ存在することが示されている。また、vtreeの変更を出力に対して多項式時間で行えることや、ATDDの定式化をLeanで検証したことも述べられている。
注目点TDDの部分関数の数え上げを行列のランクに置き換え、任意のvtreeに対する厳密な正準形を与え、Leanで形式化したと報告している。
Alexis de Colnet, Stefan Szeider
説明対立駆動型デザインのゲーム化フレームワーク:マルチエージェント学習による協調的レジリエンス戦略の探索
要約本論文は都市デザインにおける利害対立を、非ゼロサムのデジタル盤上ゲームとしてモデル化しています。利害関係者のエージェントは限られた資源を配分し、個別の利益と都市の発展・レジリエンス目標のバランスを取ります。マルチエージェント強化学習で方策を訓練し、4×4、8×8、東京都辰巳(Tatsumi)の歴史的地図に基づく12×12の盤面で挙動を検証しました。12×12のシミュレーションでは、訓練済みエージェントの平均総得点は452.1で、ランダム方策の357.3(10,000回のシミュレーション)を上回りました。適応性、持続可能性、耐水性、緑化が向上する一方、活力と密度は低下しています。
Jin Gao
説明視覚・コード診断に基づく、プロットからコード生成のための簡易なテスト時改良手法
要約本論文は、グラフ(プロット)から対応するプログラムコードを生成するタスクを扱います。著者らは、生成誤りを4つの大分類に整理し、描画画像とコードをもとに誤りを識別・特定する軽量な判別器を学習させる視覚・コード診断フレームワークを提案しています。これにより反復的な修正を行います。実験では、さまざまな生成モデルで生成品質が向上し、強力なテスト時スケーリングの基準手法を大きく上回ったと報告されています。
Peiming Guo, Jinpeng Huang, Yangbin Sun ほか
説明単一細胞基盤モデルにおける生物学的階層構造の学習
要約本論文は、細胞オントロジー(cell ontology)の階層構造を表現学習に組み込んだ、生物学的知見を取り入れた単一細胞基盤モデル scOntoFM を提案している。オントロジーグラフの最小共通祖先(LCA)距離を用い、オフラインでの効率的なトリプレット採樣と階層的な細胞オントロジー学習を組み合わせる。複数の細胞・遺伝子レベルのベンチマークで性能向上が報告され、特にゼロショット設定での改善が大きいとされている。
Xiangyu Guo, Ricardo Henao
説明Firepool:LinkedIn でエージェントと強化学習のための GPU を事前に確保して仲介する仕組み
要約本論文は、LinkedIn のエージェントおよび強化学習ワークロード向けのサンドボックス・実行ブローカー「Firepool」を紹介します。共有ベースイメージとジョブごとのバインドによりポッドを互換可能にし、同じ呼び出し元にだけポッドを再利用し、ゼロ VRAM の待機ポッドとキューベースの予算で温存する GPU を制限します。本番環境のピーク期間では、3,206 件のポッド要求の 94.7% がウォームまたは待機リソースから提供されたと報告されています。
Ankit Goyal, Santosh Jha, Zhuo Zhi ほか
説明マルチモーダルモデルは見えるが、考えられるのか?——トルコ語の視覚推論に関する研究
要約本論文は、視覚言語モデルがパターン補完、抽象論理、関係推論といった高次の認知課題でどの程度機能するかを、トルコ語データセットを含む多言語評価枠組みで分析しています。データ混合戦略と教師あり微調整(SFT)の手法を比較し、最終的な正答率だけでなく「LLM-as-a-Judge」方式で推論過程の質を評価しています。その結果、ベースラインモデルは微調整後のモデルより安定した推論を示す傾向があり、SFTによって無限のテキストループや空出力といったモデル崩壊が起こりうることが分かりました。研究は、現在の視覚言語モデルは抽象的な視覚推論にまだ苦戦していると結論づけています。
Berke Bunyamin Sule, Yavuz Selim Aygan, Ahmed Zeer ほか
説明AutoC2V:合成フィードバックで学習するLLMによる、QoR最適化のC++からVerilog生成
要約本論文はAutoC2Vフレームワークを提案し、実際の合成結果から学習データ(C++コード、Verilog、QoR指標、最適化目標)を構築します。教師あり微調整とGRPOにより、大規模言語モデルが合成を意識したRTLを生成するよう調整します。反復的な合成の高コストを抑えるため、レイテンシとリソースを予測するQoR予測報酬モデルを設計しています。実験では、RTLの機能合格率が向上し、ベースモデルや複数のHLS最適化手法、一部の汎用商用モデルより優れたレイテンシとリソース最適化を示したと報告されています。
Guanqi Lyu, Fei Zhao, Zhaojun Lu ほか
説明いつ考えるかを学習する:強化学習における適応的内部計算
要約本論文は、潜在表現の洗練をいつ止めて行動するかを学習する反復型方策「適応的内部計算(AIC)」を提案している。各決定に最大8ステップの洗練を許す条件で、AICは12のベンチマークタスクで平均3.3ステップのみを実行した。4つの制御・ロボティクスタスクでは、固定8ステップ方策と比べて決定ごとの遅延が31〜44%低下し、平均報酬は7タスクで最良の固定深度方策を上回り、4タスクでは下回った。
Rohit Kumar Salla, Simon Stepputtis
説明AmodalBox:部分的な可視性下での自動3Dバウンディングボックス注釈
要約本論文は、3Dバウンディングボックスの注釈を自動生成するフレームワーク「AmodalBox」を提案している。疎な運転シーンでは、LiDAR点群が物体表面のごく一部しか捉えられないという課題があり、本手法は画像から生成した3Dアセットを、部分的にしか観測されていない物体の完全な形状の事前情報として利用する。この注釈で学習した3D物体検出器は、nuScenesでは強いベースラインより14.1 mAP、Waymo Open Dataset(WOD)の車両クラスではIoU 0.5で12.45 AP向上したと報告されている。
In-Jae Lee, Namtae Kim, Robert Exley ほか
説明視覚言語モデルによる死角推論と対話型エージェントを用いた選択的協調認識
要約本論文は、死角推論と対話ベースの協調認識(CP)のための、視覚言語モデル(VLM)駆動型エージェントフレームワークを提案しています。物体検出、視覚言語による推論、幾何学モデルを組み合わせ、安全上重要な場面と遮蔽物に限って協調認識を行い、資源消費を抑えます。都市交通の接続車両で収集した実データを用いた実験では、運転上重要な死角の検出精度が80%を超え、対話による知覚共有の成功率が90%を超えたと報告されています。
Chengyuan Ma, Shixiao Liang, Hangyu Li ほか
説明ATHENA:視線追跡データから幼児の自閉症を分類するハイパーグラフ学習
要約本論文は、視線追跡データを用いて幼児の自閉スペクトラム症(ASD)を分類するモデル「ATHENA」を提案しています。早期かつ正確な検出を目的としており、特徴量レベルの拡張手法FMMixを組み込み、適応型ハイパーグラフの枠組みで特徴間の複雑な関係を捉えます。2つの視線座標データセットでの評価では、AUCはそれぞれ99.80%と99.86%、正解率は98.45%と98.56%でした。
Quang-Anh N.D., Duc Pham Minh, Thao Pham Phuong ほか
説明STAR-VF:データ効率の良い動画融合のための時空間認識型表現圧縮手法
要約本論文は、元の学習データセットを学習可能な時空間表現のコンパクトな集合に圧縮し、それを合成動画クリップに復元して動画融合モデルの学習に用いるSTAR-VFフレームワークを提案しています。学習には凍結された代理モデルによる特徴レベルの監督を用い、正解の融合動画は必要としません。元の時系列学習データの約16分の1だけで、赤外-可視光、多重露光、多重焦点、医療動画融合のベンチマークにおいて全データで学習した手法に匹敵する融合品質を達成したと報告しています。
Yuchen Xian, Yunqiu Xu, Guosheng Lin ほか
説明『同情的他者化:苦痛への LLM の応答における アイデンティティ前提』:ユーザーが明かした属性から LLM が苦痛を解釈する仕方を検証した研究
要約本論文は、自殺念慮や心理的苦痛を抱える人が社会的アイデンティティを明かした際に、大規模言語モデルがそれをどう解釈するかを検証しています。研究者は対になった反事実介入を用い、2 つのデータセット、16 のアイデンティティおよび対照条件、2 種類のプロンプト方式で 6 つのモデルを評価しました。その結果、モデルはアイデンティティの開示を説明的な物語に変換し、推定された身份関連の逆境に苦痛を帰属させることがわかりました。こうした前提は共感的な応答の中に現れやすく、特に周縁化された属性が明かされた場合に顕著です。著者らはこれを「同情的他者化」の枠組みで捉え、利用者自身の開示に基づいて苦痛を解釈し、根拠のないアイデンティティ関連の前提を避けるべきだと主張しています。
Drishti Goel, Ethan M. Nguyen, Violeta J. Rodriguez ほか
説明WARP-JEPA:凍結された階層型結合埋め込み予測アーキテクチャ向けの償却型ロールアウト計画手法
要約階層型結合埋め込み予測アーキテクチャ(H-JEPA)は長期視覚制御を可能にするが、計画にテスト時の勾配降下を必要とし、コストが高い。本論文はこの問題に対し、世界モデルを凍結したまま、オンラインの勾配最適化を学習済みの複数候補軌道提案器で置き換える WARP-JEPA を提案する。4つのベンチマーク上の30個の凍結 H-JEPA モデルで、長期タスクのエピソード推論を9.6〜18.8倍高速化し、タスク成功率を最大33.3ポイント向上させたと報告している。
Junjie Li, Zhaojiacheng Zhou, Kaixiang Wang ほか
説明過パラメータ化ニューラルネットワークによる双レベル最小二乗問題の汎化について
要約本論文は、内側と外側の目的関数がともに最小二乗回帰である双レベル最適化における汎化を研究している。関数空間での陰的微分によって超勾配を推定し、超勾配の推定に必要な二つの回帰関数の一様汎化誤差を用いて、非厳密勾配法の定常性の上界を導いた。回帰関数が早期停止付き勾配流で学習される過パラメータ化2層ReLUネットワークの場合、ニューラル接線カーネル(NTK)領域で有限標本の明示的な誤差上界を得ている。合成データによる数値実験では、標本数が収束に与える影響が示され、双レベル構造に起因する初期化依存の暗黙的バイアスも観察されている。
Fares El Khoury, Edouard Pauwels, Samuel Vaiter ほか
説明アラビア語タスクにおける Jev の評価:多様なアラビア語タスクと方言での決定モデルと LLM の比較
要約本論文は共通のゼロショット手順により、67 のシステム(決定モデル 47 件と大規模言語モデル 20 件)を 9 つのタスクファミリー・43 のタスクでアラビア語について評価しています。Jev 1.14.0 の平均主要指標は 69.24、Gemma-4-31B は 71.81 で、この総合指標では最高値でした。英語の対照項目や重複項目を除いてもシステムの順位は変わりませんでした。方言と現代標準アラビア語の差も検討され、総合スコアはタスクファミリー別の結果と併せて読むべきだと述べています。
Hossam Elsafty, Tobias Deu{\ss}er, Lorenz Sparrenberg ほか
説明探索ベースの推論とモデルマージによるトルコ語大規模言語モデルの数学的推論の強化
要約本論文は、LoRAファインチューニング、重み空間でのモデルマージ、探索ベースの推論を組み合わせ、大規模言語モデルのトルコ語による数学的推論を改善する。Turkish-Llama 8B-DPOをベースに、MetaMath・NuminaMath・TigerLabのトルコ語訳で学習し、データ規模よりデータの質が重要であることを示した。線形マージが最も大きな改善をもたらし(GSM8Kで最大0.63)、MCTSおよびTree of Thoughtsによる探索は推論品質の平均スコアを高めた。
Ahmed Zeer, Osama Shbib, Muzaffer Kaan Yuce ほか
説明RTLREX:大規模言語モデルで誘導される、正確な高位RTL復元フレームワーク
要約元のレジスタ転送レベル(RTL)設計や文書が入手できず、ゲートレベルのネットリストや入出力記述しか残っていない場合に、RTLREXは大規模言語モデルを使って専用ツールを連携させ、機能復元、RTL生成、独立検証、コスト誘導型の書き換えを行います。独立検証により、復元されたRTLが元の回路とすべての入力組み合わせで等価であることを確認します。ICCAD 2022コンテストの問題Aにある30のベンチマークでは、全ベンチマークで等価な高位RTLを復元し、既存手法WolFExを復元範囲で上回りました。
Wuqian Tang, Fangzhou Liu, Ruijie Wang ほか
説明多タスク学習による大規模言語モデルの適応:メンタルヘルス問題・感情・センチメントの検出
要約本研究は、Llama 3.1 8B Instructに対し、パラメータ効率的ファインチューニング(PEFT)、LoRA、4ビット量子化を用いた逐次的多タスク学習を行い、メンタルヘルス問題検出、感情検出、センチメント分析に取り組んでいます。英語のSNS投稿4,243件を使い、2つのタスク順序を比較したところ、タスクの順序が知識の転移やタスク間干渉に大きく影響することが示されました。メンタルヘルス問題を先に学習する順序が同タスクで最良の結果(Micro-F1 0.7624)を示し、感情を先に学習する順序は感情検出(F1 0.6052)とセンチメント分析(F1 0.9459)でより高い性能を示しました。
Amir Rafiq Bhat, Rahim Dehkharghani, Zeki Erdem
説明大規模言語モデルのファインチューニングのための固定ランク多様体上のゼロ次リーマン最適化
要約本論文は、大規模言語モデルのメモリ効率の良いファインチューニングのために、固定ランク行列多様体上でゼロ次最適化を行う手法を提案します。事前学習済みの重みは凍結したまま、学習される更新をファインチューニングの全過程でランク制約下に保ちます。著者らはリーマン型ゼロ次勾配推定器を構築し、ZO-RGD とその平滑化版 ZO-RGD-S を提案しています。実験では、複数のモデルやタスクにおいて、強力な順伝播のみの基準手法と競合し、いくつかの設定で改善が見られたと報告されています。
Xinjue Wang, Xiuheng Wang, Yejun Zhang ほか
説明多様で検証済みの、ラベル付き合成臨床ノートの生成
要約本論文は、大規模言語モデルに基づく SPARCLING というパイプラインを提案し、文字単位で正確な個人健康情報(PHI)のスパン注釈を付した合成退院サマリーを生成する。構造化された属性サンプリング、テンプレート生成、レッドチーミングを組み合わせ、多様なPHI付きの退院サマリーを得る。実験では既存の公開データセットより内容の多様性が高いことを示し、ドイツ語臨床領域において非識別化ツールの失敗モードを明らかにするベンチマークとしての有用性も示す。さらに、合成データで学習した非識別化モデルは、少量の公開データのみで学習したものより高性能になることを報告している。
Matthias Lehmann, Madeleine Werthebach
説明統計的保証を伴う信頼性の高い再帰的自己改善
要約本論文は、大規模言語モデルを再学習させずに、AIエージェントが自身のハーネスを改良して経験から向上する再帰的自己改善の信頼性を高めるTRUSTフレームワークを提案する。オンライン多重仮説検定によって各ラウンドで誤った進化が起きる割合を制御し、LLMが過去の文脈を分析して現行版を更新するのに必要な証拠量を判断する。HotpotQA、DROP、APPSのベンチマークでは、採用された劣る更新の平均割合が貪欲なゲートの45.59%から2.78%に下がり、既存の統計的ゲート手法より高い最終スコアを達成した。
Zihe Gao, Zhengling Qi, Yifan Cui
説明近接選好最適化:安定的で報酬モデル不要のアライメントのための統一フレームワーク
要約本論文は、直接選好最適化(DPO)の暗黙的報酬の定式化と、近接方策最適化(PPO)の信頼領域による安定性を統合する近接選好最適化フレームワークを提案する。P²O は DPO の選好マージンにクリップされた重要度比を導入し、報酬モデルを使わないアルゴリズムとして、データセットの安全な再利用と有界な方策の乖離を実現する。PKTO は P²O を拡張し、KTO の前景理論の効用マージンと自己調整型の適応ベースラインを用いる。複数の大規模言語モデルと三つの選好ベンチマークでの実験では、DPO や KTO と同等以上の整合品質を示し、データ再利用時の安定性も向上したと報告している。
Qisai Liu, Zhanhong Jiang, Zahid Hasan ほか
説明EEGFaceSem:生成潜在表現と対応づけた脳波の意味的視覚モデリング用ベンチマーク
要約本論文は、高品質な脳波(EEG)と生成モデルで合成した写実的な顔画像を対応づけた大規模データセットEEGFaceSemを提案している。各刺激の生成潜在ベクトルも提供され、視覚の潜在空間と神経表現の連続的な対応関係の研究を可能にする。30名の参加者が高速系列視覚提示の下で笑顔や髪色などの意味的特徴に注意を向けた際の脳波を記録し、67,200件の時間同期記録を含む。単一試行の意味分類やクロス被験者投票のベンチマークに加え、脳信号による画像編集と画像生成の応用も示している。
Jun Ma, Michiel M. Spap\'e, Keith M. Davis III ほか
説明同じ計測、異なる速度リスク:時計の不確かさ下での相補的ローリングシャッター読み出し
要約本論文は、露光タイミングが不確かな場合に、二台のカメラで同じ計測量でも速度推定の精度が変わることを扱う。ローリングシャッターの再構成において、重複読み出しは雑音が小さくなっても速度リスクが緩やかにしか下がらないのに対し、相補的読み出しは雑音の二乗に比例する速さで下がることを示している。また、両方式が正則になる取り付け構成と、計量の不確かさによるリスクの下限も示している。
Lunshuo Tian, Dongheng Liu, Mingwei Ma
説明双線形読み出しを持つ等変メッセージパッシング・グラフニューラルネットワークの普遍近似性
要約本論文は、等変グラフニューラルネットワーク原子間ポテンシャルの参照アーキテクチャであるBREMP(双線形読み出し等変メッセージパッシングネットワーク)の普遍近似性を証明している。同種原子の置換を除いて局所環境を決定する特徴を構成し、読み出し層が特徴上の任意の連続不変関数をコンパクト集合上で一様に近似できることを示す。また、実運用中のアーキテクチャDPA4が、論文で構成したBREMP層を近似し双線形読み出しを実現することで、この結果を継承することも述べている。
Pingbing Ming, Han Wang