Holding Agents Accountable with Verifiable Agent Insurance
説明検証可能なエージェント保険で AI エージェントの責任を追及する仕組み
要約本論文は、エージェント提供者が自ら定めたポリシーの遵守を金銭で約束し、その約束とエスクロー資金をブロックチェーン上のスマートコントラクトに記録する「検証可能なエージェント保険(VAI)」の枠組みを提案します。利用者が違反を見つけると、検証者が実行トレースを確認し、違反が確認されれば資金が通報者に支払われます。イーサリアムのレイヤー2上で実装し、3つのベンチマークで評価した結果、既存のエージェントでは違反の42.2%を検出でき、構造化された認可記録を出力させると83.0%に向上しました。