エージェント特有の漏洩MosaicLeaks

LLMが自律的に外部ツールを利用し情報を検索・処理する「エージェント」の導入が進んでいますが、それに伴い新たなセキュリティリスクが浮上しています。「MosaicLeaks」と呼ばれる脆弱性は、自律型エージェントが複数の無害に見える情報を組み合わせることで、意図せず機密情報を推論し、外部に漏洩させてしまうリスクを指します。

従来のチャットボットのように人間がプロンプトを入力する形式とは異なり、エージェントは自ら行動計画を立てて情報を収集するため、アクセス権限の管理だけでは情報漏洩を防ぎきれません。悪意のあるユーザーが巧妙な指示を与えることで、エージェントがアクセス可能な社内のデータベースから断片的な情報を集め、機密データそのものを再構築してしまう危険性があります。

大企業においてエージェントを実業務へ導入する際は、ツール呼び出しの境界を厳格に定義し、エージェントが扱うデータをシステム層で常に監視・フィルタリングする仕組みが不可欠です。また、エージェントの行動ログを監査可能な状態に保ち、予期せぬ情報の組み合わせによる漏洩を未然に防ぐガバナンス体制の構築が求められます。

---