本サイトは 12 時間以上更新されていません（通常は 3 時間ごと）。以下の内容は最新でない可能性があります。
このページに条件に合う項目はありません（絞り込みはこのページ内のみ）。
説明RoCoMark：LLMによる機能維持型の書き換え攻撃に強いロバストなコード透かし手法
要約本論文は、LLMによってコードが書き換えられると透かしを追跡しにくくなるという問題に対し、RoCoMarkというロバストなコード透かしの枠組みを提案している。埋め込み側と書き換え側の多ラウンドの極小極大ゲームにより、Reflexionと短期・長期メモリに基づく適応的な攻撃進化の仕組みで、未知の書き換えにも対応できるよう透かしを強化する。4つの代表的ベンチマークで5種のLLMが生成した攻撃に対して評価され、平均検出AUROCは74.2%、書き換え後のビット正解率は75.3%、コードの機能通過率は99.7%を上回ったと報告されている。
説明免疫系統に着想を得た自律的サイバー・レジリエンス：自己修復型設計
要約本論文は、人体の免疫系に着想を得た自律的サイバー・レジリエンス（ACR）手法を、海軍・航空機動システムに既存の耐障害機構と組み合わせる方法を検討しています。TNOの「OpPic」アプリケーションを用いて、同社のSelf-Healing for Cyber Securityソフトウェアが任務と脅威に応じて適応する自律的レジリエンスを提供できることを示しています。そのうえで、自律的サイバー・レジリエンス・システムの設計に関する6つのガイドラインを導出しています。
説明時空間生成敵対的ネットワークによるスライドパズル型CAPTCHAへの攻撃
要約本論文は、主要な六種のスライドパズル型CAPTCHAの防御策を体系的に分析し、それぞれについて缺口検出データセットとスライド軌跡データセットを構築しています。缺口位置の検出にはYOLOv11を用い、人間のスライド軌跡の特徴を直接学習する生成敵対的ネットワーク（GAN）によって攻撃軌跡を生成しています。実験では六種すべてで90%を超える成功率を示し、攻撃時間は約5秒でした。あわせて、この種のCAPTCHAの安全性を高める方法も提案されています。
説明クラウドリソース所有者の特定をエージェントで行う手法
要約セキュリティツールはクラウド環境で多数の検知結果を出し、AIエージェントがそれを調査・優先順位付けしますが、最終的な対応は担当者が行う必要があります。本論文は、所有者を手作業で登録するのではなく、作業記録、コード履歴、監査ログ、ID ディレクトリから導出する参照アーキテクチャを提案します。ある組織の 50 種類の AWS リソースタイプ・100 件のリソースで、加重再現率 92.1%、加重適合率 86.6% を報告しています。
説明SkillCODER：LLMエージェントスキルにおける著作権侵害の監査と帰属特定
要約本論文は、内容のみが見えるブラックボックス条件で、LLMエージェントのスキルに対する著作権の監査と購入者の特定を行うSkillCODERを提案している。検証クエリにのみ反応する条件付き指示を埋め込み、制御語彙の誤り訂正符号で購入者ごとの指紋を符号化する。三つの領域、六つのモデル、三つのエージェントフレームワークで、所有者検証の正解率は99.2%、購入者のTop-1帰属正解率は99.3%であり、タスクの精度を保ちながら従来のプロンプトベースの手法を大きく上回った。
説明意図グラフと推論型エスカレーションによるエージェントのツール呼び出し最小権限監査
要約ツールを呼び出す大規模言語モデルのエージェントは、ツールの出力に隠された指示によって、ユーザーが求めていない操作へ誘導される恐れがあります。本論文は、タスクごとに一度のLLM呼び出しでユーザー目的とツールカタログから実行可能な意図グラフを作成し、LLMを使わない決定的ループで各ツール呼び出しを照合する実行時監査を提案しています。中央値は1回あたり約5.7マイクロ秒です。フラグが立った呼び出しは推論型の守護モデルが確認し、このモデルはツール出力を見ずに目的や計画などを参照し、制限付きのPython式ツールで事実を検証できます。論文では、現行エージェントに基線での攻撃成功は見られなかったため、エンドツーエンドの検証は未完了であると述べています。
説明ErosionBench：企業マルチエージェントにおけるアライメント劣化の検証ベンチマーク
要約本論文は、複数セッションにわたる共有状態の汚染、長文書、信頼された同僚エージェントのメッセージを通じて、無害に見える依頼が不安全な行動へと段階的にエスカレートする問題を検証するベンチマーク「ErosionBench」を提案しています。1,728 件の対照付きシナリオと 198 件の画像攻撃を含み、出力テキストではなく、実行されたツール呼び出しを承認された意図と来歴に照らして判定します。参照防御として、同期的な状態検査と非同期の軌跡監視を組み合わせた「Meta-Auditor」を提案し、留保データセットで再現率 98.5%、誤検知率 2.9% を達成したと報告しています。
説明Chatter Attack：大規模言語モデルを狙ったリソース消費攻撃
要約本論文は、攻撃者がモデルに長い出力を生成させて計算資源を浪費させる「Chatter Attack」という攻撃手法を提案しています。敵対的プロンプトを最適化し、短い「自己疑念」フレーズを誘導することで、探索空間の爆発を避けつつ長い応答を引き出します。ブラックボックス環境向けにはベイズプロンプト最適化（BPO）を提案し、実験では最大応答長が最大31.5倍に増加したと報告しています。
説明良性データで学習した隠れ状態プローブは、敵対的条件下でツール呼び出しの誤りを検出できるか
要約本研究は、良性のツール利用データのみで学習した隠れ状態プローブが、プロンプトインジェクション、システム上書き、ツール汚染などの敵対的条件下で誤ったツール操作を検出できるかを検証しています。AgentDojo の4スイート、3モデルを用い、3種類のスカラー不確実性指標と比較しています。結果として、良性で学習した隠れ状態プローブは敵対的条件下で運用上のツール操作の誤りを確実に検出できるとは想定すべきでないことが示されています。
説明MCPのセキュリティ脆弱性を追跡：MCP脆弱性データセットの構築と分析
要約大規模言語モデルと外部のデータ・ツールを接続するModel Context Protocol（MCP）の脆弱性情報は分散しており体系的な研究が難しいため、本論文はCVE公開情報から検証済みのMCP脆弱性データセット（24件）を構築し、データセットと再現用ツールを公開しています。検証済み脆弱性の87.5%が重大または高リスクで、インジェクションとパストラバーサルが66.7%を占めると分析しています。さらに、6つの事例を通じて典型的な悪用パターンと対策を示しています。
説明AUROCを超えて：配備を想定したモデル内部型ジェイルブレイク検出器の評価
要約本論文は、モデル内部の隠れ表現や勾配などの信号を用いてジェイルブレイクのプロンプトを識別する検出器を扱う。精選された良性プロンプトで較正した閾値は、実際のユーザー通信量において設定した誤検知率を維持できないことが多いと示している。再較正により誤検知の抑制は改善するが、攻撃ファミリーごとの検出カバレッジの欠落が明らかになる。実際の配備に近いトラフィックでの実現誤検知率と、低誤検知点におけるファミリー別の真陽性率による評価を推奨し、AUROCは補助的な指標とすべきだとしている。
説明PQC-Corpus：耐量子暗号の開発履歴を連結したデータセット
要約本論文は、暗号ライブラリと汎用プロジェクトを含む179の公開GitHubリポジトリから、リンクされた開発履歴のデータセット「PQC-Corpus」を提示しています。課題、プルリクエスト、コミット、パッチ、コメントやレビューを関連付けています。データセットと収集ツールは公開されています。
説明スマートグリッドにおける解釈可能なサイバーフィジカル攻撃検知：融合、ロバスト性、可観測性の限界を検証する漏洩制御型マルチテストベッド評価
要約本研究は、スマートグリッドのサイバーフィジカル攻撃検知器を時間窓融合型のランダムフォレストで構成し、複数のテストベッドで評価したものです。評価手法が食い違う場合は、より厳しい結果を採用しています。シャッフルした交叉検証では宏平均F1が0.96と楽観的に見えますが、時系列順に評価するとその値は0.88に下がります。さらに、特徴空間攻撃や実IEC-104トラフィックでの検知力、そしてIEEE 118母線系統での時間予測検定と物理多様体検定の比較結果も報告されています。
説明AIが発見したクラウド脅威を実環境で検証：複数モデル・複数クラウドの研究
要約本研究は、マルチエージェントによる脅威発見、自動化されたエクスプロイト生成、非破壊的な実環境検証からなる三段階の手法を提案し、3つの商用基盤モデルと2つのクラウドアーキテクチャに適用しています。AIが発見した233件の脅威のうち103件が確認され、34件が反証され、精度は75.2%でした。複数モデルの併用は一致よりも網羅性の向上に寄与し、確認された脅威は最良の単一モデルの2.2倍でした。
説明エージェントの混乱：エージェント型AIシステムへの悪意ある攻撃に関する知識体系化（SoK）
要約本論文は、大規模言語モデルにツール、メモリ、ブラウザ、コード実行などの機能を加えたエージェント型AIシステムを狙う悪意ある攻撃を体系的にレビューしたものです。候補文献186件から98件を選び、284の個別攻撃と452の個別防御策、660の攻撃と防御策の関係を整理しました。ツール、MCP、アクション層への攻撃が最も多く、プロンプトインジェクションとアクションハイジャックの類型が最も広く論じられている一方、防御策の網羅性は偏っており、660件中直接評価されているのは278件にとどまります。
説明『悪魔はMarkdownをまとう』：静的・動的・エージェント型分析の組み合わせによるAIエージェントスキル指示内の悪意の検出
要約本論文は、コード、自然言語の指示、設定ファイルを組み合わせた再利用可能なAIエージェントスキルに潜む悪意を検討しています。140件のスキル（悪意あり80件、良性60件）のテストセットで3つのオープンソーススキャナーを評価し、静的検出、安全なサンドボックスによる動的証拠、大規模言語モデルによる推論を組み合わせた枠組みを提案しています。動的証拠を加えるとF1値は0.70から0.85に向上し、静的証拠と組み合わせると0.89となり、良性60件中の誤検出は5件でした。
説明SIExBench：機密情報露出欠陥の自動修復ベンチマーク
要約本論文は、機密情報露出（SIEx）欠陥の自動修復に特化した初のベンチマーク「SIExBench」を提案しています。64 の Python および Java リポジトリfrom得た 161 件の実行検証済みインスタンスを含みます。6 つの修復システムと 3 つの LLM による 18 構成を評価した結果、最良の構成でも解決率は 39.1% にとどまり、失敗例の 62.1% では有効なパッチが生成されたものの機密情報の露出が残っていました。
注目点敏感情報露出欠陥の自動修復に特化した初のベンチマークで、6修復システムと3種LLMの18構成を評価し、最良でも39.1%の解決にとどまると報告。