目的与范围
对 MCP 系统进行威胁建模,是一种结构化方法,用于分析使用模型上下文协议的应用程序可能遭受哪些攻击、攻击者可能获得什么,以及哪些控制措施可以降低攻击发生的可能性或影响。威胁建模应在设计阶段执行,并在工具、服务器、权限、数据流或部署条件发生变化时重新进行。它无法证明系统是安全的,也不能替代安全测试、事件响应或运营监控。
一个 MCP 部署可能包含宿主应用程序、模型、MCP 客户端、一个或多个 MCP 服务器、外部服务,以及负责配置或批准操作的人员。安全问题不只是每个组件是否按预期工作,还包括这些组件的组合行为是否会让不可信内容影响特权操作,或让某个组件访问超出其预期用途的信息。
一个有用的模型应明确重要资产、组件之间的信任边界、正在使用的身份和权限、可能的攻击者,以及从初始立足点到非预期结果的路径。资产包括凭据、私密记录、工具可用性,以及发送消息或更改生产资源等操作的完整性。分析应具体到足以进行测试。
绘制系统及其信任边界
首先描述一个真实的工作流。例如,一名员工要求助手总结一个支持案例。宿主将请求发送给模型,模型调用一个 MCP 服务器来获取案例详情,然后由宿主呈现响应。绘制每个组件,以及它们之间的数据流和控制流。标明身份验证发生的位置、授权检查的位置、数据进入的位置,以及结果离开组织的位置。
信任边界是数据或权限在信任级别不同的各方之间传递的节点。即使客户消息存储在内部数据库中,它仍然是不可信的。如果 MCP 服务器的依赖项、凭据或部署流程由独立方控制,那么即使该服务器由组织运营,它也可能仍是一个独立的信任边界。模型的上下文是另一个重要边界:检索到的文本可以影响模型行为,但不应自动获得授权工具的权限。
记录每个组件的权限,不要依赖“内部”或“可信”等宽泛标签。应询问服务器使用哪些凭据、可以访问哪些用户的数据、凭据是否共享,以及宿主能否区分不同用户的权限。这些细节有助于揭示某一领域遭到入侵后,是否可能进一步越权进入无关系统。

分析常见攻击路径
提示注入发生在用户输入或检索到的内容中嵌入的指令试图改变模型行为时。某个支持工单可能包含要求助手检索另一位客户记录的文本。这段文本可能由合法工具返回,但仍然具有对抗性。其根因在于模型倾向于将自然语言内容解读为指令;如果主机或服务器依赖模型来执行访问控制策略,后果可能是发起未经授权的工具调用。
工具滥用发生在工具调用范围过大、参数不当,或在工作流中不合适的节点被调用时。只读搜索工具与能够删除记录或发送外部消息的工具面临的风险不同。混淆代理行为是一种相关但不同的故障:特权组件代表不具备相应权限的请求者使用自身权限。例如,使用宽泛服务凭据的服务器可能因为模型发出了请求而返回机密数据,即使用户无权查看这些数据。
数据泄露可能通过工具结果、模型响应、日志、追踪信息或错误消息发生。信息可能被披露给未经授权的用户、发送到外部目的地,或被保留超过预期时长。遭到入侵的 MCP 服务器还可能篡改响应、窃取其可访问的凭据,或向其运行环境可访问的系统发起未经授权的调用。考虑以下链路:恶意内容进入检索到的记录,影响工具请求,并最终触达具有广泛访问权限的服务账户。对这条链路进行建模,有助于明确哪些控制措施必须在其中截断风险。
评估并降低风险
针对每条攻击路径,说明其前置条件、攻击者或不安全组件采取的行动、受影响的资产以及可能造成的影响。区分证据与假设。证据可能包括工具文档中规定的权限范围,或经过测试的授权规则;假设可能是每位用户都拥有相同的访问权限。将不确定事项记录为待验证项,而不要将其视为安全保障。
结合可能性和影响进行排序,同时考虑可达性与现有控制措施。一条暴露所有客户记录的低概率路径,可能比一条影响有限且可逆的高概率路径更值得优先处理。避免虚假的精确性:只有在团队使用一致定义,且评分不会掩盖严重后果时,数值评分才有价值。为每项高优先级风险确定负责人和具体的下一步行动。
优先采用在模型之外执行权限控制的措施。在拥有数据的服务处实施授权,将凭据权限限定为所需的最少操作和记录,并在可行时分离读取操作与会产生后果的写入操作。验证工具参数并限制目标地址。对于后果重大或难以逆转的操作,要求人工审批。将工具输出视为不可信内容;要求模型忽略恶意指令并不能构成访问控制边界。
运行与重新评估
对于第三方运营或内部运营的 MCP 服务器,应评估其来源、更新实践、依赖项完整性、凭据处理方式以及所需的网络访问权限。限制服务器的运行环境,避免服务器遭到入侵后形成通往无关系统的路径。在怀疑凭据暴露时进行轮换,并通过日志使工具使用情况可观测;日志应标识操作者、操作、授权结果和相关目标。日志记录应避免将机密或不必要的敏感内容复制到第二个存储位置。
监控有助于发现设计审查无法排除的行为。为敏感操作建立预期模式,例如哪些身份可以使用这些操作,以及正常的调用频率或目标范围。明确由谁调查意外调用,以及如何撤销访问权限。在受控环境中测试具有代表性的攻击路径,包括恶意的检索内容、未经授权的记录请求以及服务器遭到入侵的假设。测试结果只能说明被测试配置的情况,不能保证未来每次部署都如此。
当新增工具、权限发生变化、服务器更换运营方,或某起事件暴露出遗漏的路径时,应重新审视模型。记录应保持足够简洁,以便持续维护:系统映射、已排序的威胁、选定的控制措施、负责人以及未解决的假设。这将架构推理与生产决策连接起来,并使团队能够验证缓解措施是否仍与已部署系统相匹配。
总结
MCP 系统的威胁建模聚焦于模型、宿主、客户端、服务器、工具、用户与外部服务之间的交互。核心风险包括包含指令的不可信内容、权限过大的工具、混淆代理行为、数据暴露以及服务器遭到入侵。针对每类风险,都应追踪一条从入口到资产及其影响的合理路径,然后在处理身份、授权、数据和操作的边界处部署可强制执行的控制措施。
最可靠的方法是分层防护:限制权限,在负责资产的服务中强制执行授权,约束并验证工具操作,保护服务器完整性,监控敏感操作,并在发生变更后重新评估。模型可以协助工作流,但不应成为系统唯一的安全边界。威胁模型只有在能够转化为具体测试、明确责任人以及可在生产环境中观测的控制措施时,才真正有用。
课程检查点
巩固所学知识,获取作业反馈。