MCP遵循客户端 - 服务器架构，主要由以下三个核心组件构成：
MCP主机（MCP Hosts）
这是搭载AI智能体的应用系统，如常见的聊天应用、AI驱动的集成开发环境（IDE）或商业智能平台等。它的主要作用是发起请求，当用户在这些应用中提出问题或指令时，MCP主机便开始工作。例如，在一个智能客服聊天应用中，用户输入咨询问题，该应用作为MCP主机，会将这个问题相关的请求发送出去。
MCP 客户端（MCP Clients）
它位于Host应用程序内部，是一个接口层。其主要职责是管理与 MCP服务器的点对点连接，包括请求标准化、响应处理以及安全/身份验证等任务。比如，MCP客户端会将 MCP主机发送过来的请求进行整理和规范，使其符合 MCP 协议的要求，然后再发送给 MCP服务器；同时，它也负责接收MCP服务器返回的响应，并将其处理成 MCP主机能够理解的格式。
MCP 服务器（MCP Servers）
依据MCP标准，公开提供上下文数据、工具或API服务。服务器可以连接各类数据源，包括关系型与NoSQL数据库、各标准API、本地文件乃至代码等。它能够为AI提供结构化的实时相关信息（资源）、使AI能与外部服务交互的可执行函数（工具）以及影响AI响应生成的预定义模板或指令（提示）。例如，当AI需要查询数据库中的某些数据时，MCP服务器会负责连接相应的数据库，并将查询结果返回给AI。
