本サイトは 12 時間以上更新されていません（通常は 3 時間ごと）。以下の内容は最新でない可能性があります。
このページに条件に合う項目はありません（絞り込みはこのページ内のみ）。
説明ステップゼロ攻撃：可観測性より前のエージェントの安全性
要約本論文は、コーディングエージェントに対する既存の攻撃と防御が、内容がモデルの文脈に入った後の段階を対象にしていることを指摘しています。しかしエージェントは未知のアーカイブ、ネットワーク応答、画像を判断するためにまず処理を行う必要があり、その段階自体が危害を与えうるため、著者はこれを「ステップゼロ」攻撃と名付けました。七つの実行環境と六つのモデルによる実験では、多くの組み合わせがモデルが何かを見る前にディスク予算を超過しており、処理プリミティブの段階での防御手法も示されています。
注目点モデルが内容を読む前に被害が生じる「ステップゼロ」攻撃を提案し、7つのハーネスと6モデルで検証、バイト数ゲートによる防御を示す。
説明CertClaim：コーディングエージェントサービス向けの認証可能なモデル主張検証手法
要約コーディングエージェントサービスは、主張するモデルに基づいて料金が設定されるため、そのモデル主張の検証が利用者にとって重要です。本論文は、既存のモデル監査手法が、デプロイメントが静的であるという暗黙の前提に依存していることを指摘します。サービス事業者はモデルを変えずにサンプリング設定、推論モード、システムプロンプトを正当に変更する場合があり、そのため既存手法は正直な事業者を誤って告発するか、主張モデルの安価な派生版を見逃してしまいます。本論文はこれに対し、認証可能なモデル主張検証手法CertClaimを提案します。これは、認可された全デプロイメントを主張に含め、各デプロイメント内で複数の証拠チャネルを校正して融合し、サービスの証拠をいずれかの認可デプロイメントで説明できるかを検証します。誤告発率と検出条件の理論的分析を示し、実験により有効性と潜在的な適応型攻撃への耐性を確認しています。
説明Reddit のコミュニティ信号をスパム分類の補助的ドメイン信頼度特徴量として用いる慎重な対照評価
要約本研究は、Reddit から得られるコミュニティ信号が電子メールのスパム分類における補助的なドメイン信頼度特徴量になり得るかを検証します。SpamAssassin を基に前処理された 5,582 通のメールコーパスを用い、基準構成、緊急性と行動スコアを加えた構成、Reddit 関連特徴量を加えた構成を比較しています。ランダムフォレストは Reddit 強化特徴量で 97.94% の精度を示し、基準より 0.55 ポイント高くなりましたが、主要な検証分割では統計的に有意ではありません。著者らは、本番導入の前にさらなる検証が必要であると述べています。
説明小規模言語モデルを用いたルーブリック基準による学生レポートの評価
要約本研究は、事前定義されたルーブリックに従って学生の文章を評価し、ローカル環境で動作する自動採点パイプラインを提案しています。軽量な言語モデルで文章を評価し、視覚言語モデルで画像を解釈します。大学のサイバーセキュリティ授業で、インシデント対応演習に参加した105名の学生の回答をデータとして用いています。小規模モデルは低資源環境で、テキストのみの評価で最大97%、リッチテキストの評価で最大94%の精度を達成したと報告されています。
説明思考連鎖の監視には忠実性と監視可能性を別々に検証する証拠が必要
要約本論文は、推論過程が見えることがモデルの振る舞いを監視しやすくするとは限らないと指摘し、推論の可視性、機構的忠実性、機構的局在化可能性、行動的監視可能性は互いに異なる性質であると論じています。3つのオープンウェイト推論モデルを用いた2つの事例研究では、ある性質の証拠が他の性質を証明しないことが示されました。そこで著者らは、各主張の対象性質、アクセス段階、証拠の種類を明記し、各リンクを支持・未支持・仮定のいずれかに分類する証拠連鎖の報告基準を提案しています。
説明StateGate：長鎖型LLMエージェント向けの行動忠実性プロンプト最適化手法
要約長鎖型LLMエージェントは複雑なタスクで振る舞いが劣化し、プロンプトには全手順が書かれていても実行が不完全になることがあります。本論文はStateGateを提案し、意味的制約を外部の決定的ランタイムが実行する記号的ゲートに変換します。状態ファイル、検証器、オーケストレーターの三構成で判定権限と実行権限を分離します。セキュリティ分野の脆弱性発見タスクで検証され、実行の100%クローズと正確な脆弱性検出が示されています。
説明RGB-Dによる場所認証に対する生成深度注入攻撃の検出
要約本論文は、攻撃者が単眼深度推定モデルで公開RGB画像から深度を生成し、偽造したRGB-D照会を送る攻撃を扱います。登録ビューと照会ビューの幾何学的整合性を用いる提示攻撃検出（PAD）分類器を評価し、攻撃者がカメラ内部パラメータをどの程度正確に知っているかによる検出性能の変化を三段階で検証しています。攻撃者が正確な内部パラメータを得た場合、元のPAD分類器は偶然に近い性能に低下するものの、登録と照会の間の位置合わせ残差を用いて再学習した分類器は検出を維持することを示しています。
説明CipherFlow：暗号学的に安全な推論のための効率的なAIプログラムコンパイラ
要約CipherFlowは、高レベルのAI計算グラフ、利用可能な暗号プリミティブ、対象のハードウェアとネットワーク構成を入力として、遅延を最適化した安全な推論プログラムを生成するコンパイラフレームワークです。MicroBenchで環境ごとのプリミティブのコストを計測し、状態拡張計画により準同型暗号（HE）と安全多者計算（MPC）の配置や変換、暗号文の維持を同時に最適化します。BERT-baseとViTでは、静的なハイブリッド配置の基準手法と比べ、それぞれ最大16.5倍、22倍超の高速化を示しました。
説明J-Anchor：J空間での選択的拒否復元による事前入力攻撃の防御
要約本論文は、安全性調整済みの言語モデルが、攻撃者が設定した危険な応答の冒頭（事前入力）を与えられると、通常なら拒否する要求にも応じ続けてしまう問題を扱っている。著者らは、事前入力が進むにつれて拒否信号が良性時の水準まで低下する一方、有害性信号は基準より高いまま残る「拒否状態の侵食」を見出した。これを基に、学習を必要としない推論時防御手法J-Anchorを提案し、J空間で弱まった拒否信号を選択的に回復させる。これにより攻撃成功率が下がり、良性な振る舞いと推論能力はおおむね保たれる。
説明支持分割のための双線形ハル：特徴付け、最適化、応用
要約本論文は、Sendrierの支持分割アルゴリズム（SSA）の計算コストを下げる方法を数学的に研究している。ハルを定義する標準内積を別の双線形形式に置き換える場合を扱い、単位行列と全要素1行列の線形結合で表される双線形形式のみがSSAを適用可能なハルを生むこと、またハル次元は最大で1しか減らないことを示している。これによりSSAのコストは最大でqの因子（qは体のサイズ）しか削減できない。SPECKは削減の対象になる一方、LESSとPERKは枠組みの外にあり、長さ252でのSageMath実装により実行可能性も確認されている。
説明良性ラベルが未検証であるとき：グラフベースのメモリフォレンジクスにおけるラベルとシグナルの不一致と棄権優先のトリアージ
要約本論文は、Windowsメモリイメージを対象としたグラフベースのトリアージ手法の検証について検討している。MalVol-25では、規則ベースの層が良性の対照データの大半を危険と判定しており、良性クラスが検証されていないことが示される。また、公開データセットにも同様の欠陥が見られることを指摘し、学習型トリアージの報告に関する七つの指針を提示している。
説明零集中差分プライバシーからガウス差分プライバシーへの最適変換
要約本論文は、ガウス差分プライバシー（GDP）とゼロ集中差分プライバシー（zCDP）という二つのプライバシー会計フレームワークの間の変換を扱う。すべての ρ-zCDP 機構が μ_zCDP(ρ)-GDP を満たすことを示し、その最適な変換式を与えている。さらに、鋭い定数を含む簡略化された上下界を導き、両者がプライバシー予算の定数倍の再スケーリングを除いて同等であることを示している。
注目点著者らは、zCDPからGDPへの最適な逆変換を与え、すべてのρ-zCDP機構がμ_zCDP(ρ)-GDPを満たすことを示したと報告している。√(πρ)≤μ_zCDP(ρ)≤√(8ρ)というシャープな簡略界も示し、両フレームワークの関係を精密化している。
説明視覚障害者・弱視者向けCookie通知のプライバシーとアクセシビリティに関する大規模評価
要約2,061ドメインのCookie通知を、視覚障害者および弱視者の観点から初めて大規模に評価した研究です。自動クローラー、スクリーンリーダー用の独自アドオン、Lighthouse・WAVEなどのツールを用いて、英国GDPR/PECRへの準拠状況、同意前後の追跡機能の動作、スクリーンリーダー利用者にとってのアクセシビリティを測定しました。51%のサイトがCookie通知を表示し、そのうち少なくとも50%が規制要件に違反していました。通知を承認すると追跡活動は平均で約5倍に増加しています。プライバシー要件に違反する通知ほど、アクセシビリティも最も低い傾向が見られました。
説明SHield：球面調和係数の摂動による4Dガウシアン・スプラッティングの電子透かし
要約本論文は、4Dガウシアン・スプラッティング（4DGS）モデルファイルの著作権保護を目的としたSHieldを提案します。鍵で選んだガウシアン部分集合の球面調和（SH）係数に平均ゼロのペイロードを分散埋め込みし、短い固定点最適化で視覚品質を保ちます。検証時はデコーダを使わず閉形式でペイロードを復元します。D-NeRF、HyperNeRF、DyNeRFの30シーンの実験では、ペイロード復元のピアソン相関係数が0.991以上、平均レンダリング低下が0.13 dB以下であり、INT8量子化と30%の不透明度剪定に一定の頑健性を示しました。
説明エッジAIシステムのセキュリティを高める積層型ハードウェアセキュリティコントローラー：堅牢で省電力な異常検知
要約本論文は、エッジAIシステムにおける異常な実行パターンを低オーバーヘッドで継続的に検知する、積層型のハードウェアベースのセキュリティ機構を提案しています。ハードウェアパフォーマンスカウンタと物理センサーを利用し、改ざん耐性のあるルートオブトラストとして隔離して動作させます。実験では、悪意のあるまたは敵対的なアプリケーションがセンサーや温度の測定値に観測可能な偏差を生じさせること、そしてハードウェアベースの検知が低オーバーヘッドで有効であることが示されています。
説明耐量子暗号アルゴリズムへのサイドチャネル攻撃対策：3D遮蔽によるアプローチ
要約本論文は、耐量子暗号（PQC）アルゴリズムが理論上は量子攻撃に耐えるものの、実装はサイドチャネル攻撃に対して脆弱なままであることを指摘しています。著者らは、積層による物理的遮蔽とダミー鍵の導入によって暗号演算を覆い隠す、3次元集積に基づく防御方式を提案しています。この方式はマスキングやシャッフリングと併用でき、数論変換（NTT）の計算を専用チップに移す構成が含まれます。NTTのバタフライ演算における中間計算を狙う汎用的な攻撃に対して、有効性が検証されています。
説明変更時点で有界アプリケーションセキュリティ・オントロジーを使い、コード変更に必要な義務を特定する方法
要約本論文は、既存の有界アプリケーションセキュリティ・オントロジー AppSec Core をコード変更と規制対応に用いる方法を示す。安全な開発フレームワーク、検証標準、統制カタログ、EU の NIS2 などに散在する、エンジニアリングで実行可能な要求を、統制目標、実践、実装機構、証跡の型付きワーキングセットとして整理し、各項目の根拠となる出典を追跡可能にする。コード変更から出発する方法と、NIS2 準拠などの法的義務から出発する方法の二つを示し、このワーキングセットが人間の技術者と LLM 支援ツールの双方で利用できることを説明する。
説明検出の死角：分散型LLM推論の監視装置に対する敵対的摂動攻撃
要約本論文は、分散型の大規模言語モデル推論において、悪意のあるノードが数値検証の許容範囲内で検知されずに妨害できる可能性を検討しています。著者らはHush-Upという攻撃手法を提案し、出力アクティベーションに敵対的摂動を加えて終了トークン（EOS）の確率を高め、生成を早期に終わらせると述べています。さらに、既存の防御が妨害を見落としたり、正直なノードを誤って告発したりすることがあるとしています。
注目点新規性は、許容誤差内の敵対的摂動で分散推論を早期終了させ検出を回避する点にある。摘要は多様なモデルとベンチマークで有効性を報告している。
説明「Pop Goes the Verifier」：音素を狙う、音声活性検出へのデータポイズニング攻撃
要約本論文は、話者照合システムで用いられる音声活性検出（VoicePop）へのデータポイズニング攻撃を扱っています。従来のSyntheticPop攻撃は波形エネルギーの可視化で容易に検出される痕跡が残りました。本論文では、FastSpeech 2と改良したHiFi-GANボコーダを用いて破裂音の位置に局所的なポップ音を注入し、微小なガウスノイズを重ねることで、より目立たない音素注入攻撃を提案しています。ASVSpoof 2019データセットでの評価では、中程度の投毒効果を達成しつつ、元のSyntheticPop攻撃より信号レベルの検査に対して高い耐性を示したと報告されています。
説明VeilFL：匿名フェデレーテッド学習のための二段階説明責任の仕組み
要約本論文は、PINE（USENIX Security '24）に段階的な説明責任機能を加えた二つのアグリゲータによるプロトコルVeilFLを提案しています。ラウンド内での重複提出を検出でき、確認された不正の後には閾値委員会が安定したハンドルを開示し、正常な参加の匿名性は維持されます。プロトタイプでは、提出の作成に中央値2.11ミリ秒、検証に3.01ミリ秒を要したと報告されています。
説明時刻の問題：EMBER2024におけるコンパイルタイムスタンプと初回観測日の回帰
要約本論文は、実行ファイルの初回観測日を機械学習で推定できるか、またはPE/COFFのコンパイルタイムスタンプが信頼できないかを判定できるかを検討している。EMBER2024を用い、特徴量ベースモデルと生バイト列モデルを評価した。初回観測日を直接回帰すると、データ収集期間の大きな部分に相当する誤差が生じ、現時点のモデルは外部から得た初回観測日のメタデータの代わりにはならない。一方、分類器はタイムスタンプが初回観測日の許容範囲内にあるかを識別でき、明らかに不合理なタイムスタンプも高い精度で検出できる。