このレッスンのロックを解除するには、まず「MCPアーキテクチャと本番環境の信頼境界」を完了してください。前のレッスンに戻る

目的と範囲

MCPシステムの脅威モデリングとは、Model Context Protocolを使用するアプリケーションがどのように攻撃される可能性があるか、攻撃者が何を得られるか、そしてどの制御策によってその可能性または影響を低減できるかを、体系的に検討する方法です。これは設計時に実施し、ツール、サーバー、権限、データフロー、またはデプロイ条件が変化した際に再度実施します。脅威モデリングによってシステムの安全性が証明されるわけではなく、セキュリティテスト、インシデント対応、または運用監視の代替にもなりません。

MCPのデプロイメントには、ホストアプリケーション、モデル、MCPクライアント、1つ以上のMCPサーバー、外部サービス、そしてアクションを設定または承認する担当者が含まれる場合があります。セキュリティ上の問いは、各コンポーネントが意図どおりに動作するかどうかだけではありません。信頼できないコンテンツによって特権アクションが誘導されたり、あるコンポーネントが本来の目的を超えて情報にアクセスできたりするような、コンポーネント間の複合的な挙動になっていないかどうかも重要です。

有用なモデルでは、重要なアセット、コンポーネント間の信頼境界、使用中のIDと権限、想定される攻撃者、初期 foothold から望ましくない結果に至る経路を明確にします。アセットには、認証情報、非公開レコード、ツールの可用性、メッセージの送信や本番リソースの変更といったアクションの完全性が含まれます。分析は、テストできる程度に具体的である必要があります。

システムと信頼境界をマッピングする

まず、実際のワークフローを記述します。たとえば、担当者がアシスタントにサポートケースの要約を依頼するとします。ホストはリクエストをモデルに送り、モデルはケースの詳細を取得するMCPサーバーを呼び出し、ホストは応答を表示します。各コンポーネントと、それらの間を流れるデータおよび制御フローを図示します。ID認証が行われる場所、認可がチェックされる場所、データが入力される場所、結果が組織の外部へ出る場所を示します。

信頼境界とは、異なるレベルの信頼を持つ当事者間で、データまたは権限が渡される地点です。顧客のメッセージは、内部データベースに保存されている場合でも信頼できないものとして扱います。MCPサーバーが組織によって運用されている場合でも、その依存関係、認証情報、またはデプロイプロセスが個別に管理されているなら、別の信頼境界となる可能性があります。モデルのコンテキストも重要な境界です。取得したテキストはモデルの挙動に影響を与えられますが、それだけでツールを認可する権限を得てはなりません。

「内部」や「信頼済み」といった大まかなラベルに頼らず、各コンポーネントの権限を記録します。サーバーが使用する認証情報は何か、どのユーザーのデータにアクセスできるか、認証情報は共有されているか、ホストはユーザーごとの権限を区別できるかを確認します。こうした詳細から、ある領域の侵害が無関係なシステムにまで及ぶ可能性が明らかになります。

ホスト、モデル、MCPクライアント、MCPサーバー、ユーザー、外部データサービスを配置したデータフロー図。リクエストとレスポンスの方向、認証情報の境界、信頼できない取得済みコンテンツ、認可チェックポイントを示す

一般的な攻撃経路を分析する

プロンプトインジェクションは、ユーザー入力や取得したコンテンツに埋め込まれた指示が、モデルの動作を変更しようとするときに発生します。サポート案件には、アシスタントに別の顧客のレコードを取得するよう指示するテキストが含まれている場合があります。そのテキストは正規のツールによって返されたものであっても、敵対的な内容である可能性があります。原因は、モデルが自然言語のコンテンツを指示として解釈しがちなことです。その結果、ホストやサーバーがアクセス制御ポリシーの適用をモデルに依存している場合、不正なツール呼び出しにつながる可能性があります。

ツールの誤用は、過剰な権限範囲、不適切な引数、またはワークフロー上不適切なタイミングでツールが呼び出されるときに発生します。読み取り専用の検索ツールと、レコードを削除したり外部メッセージを送信したりできるツールでは、リスクが異なります。混乱した代理人(confused deputy)の振る舞いは、関連していますが別の障害です。これは、権限を持つコンポーネントが、その権限を持たない要求者に代わって自身の権限を使用する状態です。たとえば、広範なサービス認証情報を使用するサーバーは、ユーザーには閲覧権限がないにもかかわらず、モデルが要求したという理由で機密データを返してしまう可能性があります。

データの露出は、ツールの結果、モデルの応答、ログ、トレース、エラーメッセージを通じて発生する可能性があります。情報が権限のないユーザーに開示されたり、外部の送信先に送られたり、意図した期間を超えて保持されたりすることがあります。侵害されたMCPサーバーは、応答を操作したり、自身がアクセスできる認証情報を窃取したり、その環境から到達可能なシステムに不正な呼び出しを行ったりする可能性もあります。次の連鎖を考えてみましょう。悪意のあるコンテンツが取得したレコードに入り込み、ツールリクエストに影響を与え、広範なアクセス権を持つサービスアカウントに到達します。この連鎖をモデル化すると、どの制御で連鎖を遮断すべきかが明確になります。

リスクを評価し、低減する

各攻撃経路について、前提条件、攻撃者または安全でないコンポーネントが取る行動、影響を受ける資産、想定される影響を記述します。証拠と仮定を区別してください。証拠には、ツールに関して文書化された権限範囲や、テスト済みの認可ルールなどがあります。一方、すべてのユーザーが同じアクセス権を持つというのは仮定です。不確実性は、保護策として扱うのではなく、確認すべき事項として記録します。

到達可能性と既存の制御を考慮しながら、可能性と影響を組み合わせて優先順位を付けます。発生可能性が低くてもすべての顧客レコードを露出させる経路は、発生しやすくても影響が限定的で元に戻せる経路より、先に対処すべき場合があります。見せかけの精密さは避けてください。数値スコアが有用なのは、チームが一貫した定義を使用し、そのスコアが重大な結果を隠さない場合に限られます。優先度の高い各リスクについて、担当者と具体的な次のアクションを明確にします。

モデルの外部で権限を適用する制御を優先します。データを所有するサービスで認可を適用し、認証情報の権限範囲を必要最小限の操作とレコードに限定します。可能な場合は、読み取り操作と重大な書き込み操作を分離します。ツールの引数を検証し、送信先を制限します。重大な結果や、元に戻すことが難しい結果につながる操作には、人による承認を必須にします。ツールの出力は信頼できないコンテンツとして扱ってください。悪意のある指示を無視するようモデルに依頼しても、それはアクセス制御の境界にはなりません。

運用し、再評価する

第三者が運用する、または社内で運用するMCPサーバーについて、出所、更新 practices、依存関係の完全性、認証情報の取り扱い、必要とするネットワークアクセスを評価します。サーバーが侵害されても無関係なシステムへの経路が生じないよう、サーバーの実行環境を制限します。情報漏えいが疑われる場合は認証情報をローテーションし、アクター、操作、認可結果、関連する対象を特定できるログによって、ツールの使用状況を可視化します。ログには、秘密情報や不要な機密コンテンツを別の保存先へコピーしないようにします。

モニタリングは、設計レビューだけでは排除できない挙動の検出に役立ちます。機密性の高い操作について、どのIDが使用できるか、通常の頻度や対象範囲はどの程度かなど、想定されるパターンを定めます。想定外の呼び出しを誰が調査するのか、またアクセスをどのように取り消せるのかを定義します。悪意のある取得コンテンツ、不正なレコード要求、サーバー侵害の仮定などを含め、代表的な攻撃経路を管理された環境でテストします。テスト結果が示すのはテストした構成に関する証拠であり、将来のすべてのデプロイメントを保証するものではありません。

新しいツールが追加されたとき、権限が変更されたとき、サーバーの運用者が変わったとき、またはインシデントによって見落としていた経路が明らかになったときは、モデルを見直します。システムマップ、優先順位付けした脅威、選択した制御、担当者、未解決の仮定を含む記録は、維持できる程度に簡潔に保ちます。これにより、アーキテクチャ上の推論を本番環境の意思決定につなげ、緩和策がデプロイ済みのシステムと引き続き一致しているかを検証できるようになります。

概要

MCPシステムの脅威モデリングでは、モデル、ホスト、クライアント、サーバー、ツール、ユーザー、外部サービス間の相互作用に焦点を当てます。主なリスクには、命令を含む信頼できないコンテンツ、過剰な権限を持つツール、混乱した代理人(confused deputy)としての動作、データ漏えい、侵害されたサーバーなどがあります。それぞれについて、入口から資産、そして影響に至る現実的な経路を追跡し、アイデンティティ、認可、データ、アクションを扱う境界に、強制可能な制御を配置します。

最も信頼性の高いアプローチは、多層的なものです。権限を制限し、所有するサービスで認可を強制し、ツールのアクションを制約・検証し、サーバーの完全性を保護し、機密性の高い操作を監視し、変更後に再評価します。モデルはワークフローを支援できますが、システムの唯一のセキュリティ境界にしてはなりません。脅威モデルが有用なのは、具体的なテスト、責任を負う担当者、そして本番環境で観測可能な制御につながる場合です。

レッスンの練習

レッスンのチェックポイント

学んだ内容を復習し、回答へのフィードバックを受けましょう。

0/7
01MCPシステムの脅威モデリングの主な目的は何ですか?
02MCPサーバーが、他のファイルを開示するよう指示する文書を返しました。最も適切なセキュリティ上の解釈は何ですか?
03混乱した代理人(confused deputy)としての動作を最も適切に表している説明はどれですか?
04あるツールが顧客記録を照会できます。データ露出の影響を最も直接的に軽減する制御はどれですか?
05侵害されたMCPサーバーのリスクに対処するには、どの対策が最も効果的ですか?
06あるツールが外部メッセージを送信できます。正当な利用を維持しながら、悪用を最も効果的に抑制する設計はどれですか?
07prompt injection、ツールの不正利用、サーバーの侵害など、関連する脅威を本番チームはどのように表現すべきか。
回答済み · 0/7