MCP云托管最优解,揭秘国内最大MCP中文社区背后的运行时

简介: 本文介绍了魔搭(ModelScope)推出的全新MCP广场,将提供1500多种MCP服务。文章探讨了云上托管MCP服务的挑战,如多租户隔离、快速生成SSE地址及稳定性要求。为解决这些问题,魔搭选择阿里云函数计算作为运行时托管平台,因其具备事件触发、毫秒级弹性、会话亲和性、自动鉴权及多语言支持等优势。函数计算还针对MCP特性优化,如支持STDIO模式自动转换为SSE服务、发布Debian12运行时等。文章总结了Serverless在MCP托管领域的技术领先性,并展望未来更多AI应用功能的发布。

作者:封崇

近期,中国第一AI开源社区魔搭(ModelScope)推出全新MCP广场,上架千余款热门的 MCP 服务。从当下火热的高德地图、网页抓取再到独家的支付宝,开发者/机构可以查看近1500种MCP的功能与应用场景,并通过MCP实验场直接上手使用。魔搭的加入无疑对国内 MCP 的发展开启了加速键。

既支持阿里云百炼 MCP服务之后,作为云上托管 MCP 服务的最佳运行时,函数计算 FC 为魔搭(ModelScope) MCP 提供弹性调用能力,实现开源 MCP Server 一键托管到云上,函数计算 FC 会准备好计算资源,并以弹性、可靠的方式运行 MCP 服务,按实际调用时长和次数计费,用户可以直接访问函数计算交付的 SSE 服务。欢迎您在魔搭(ModelScope)和函数计算 FC 上体验 MCP 服务。

云上托管 MCP 服务有什么挑战?

要回答这个问题,首先请跟着我在 ModelScope MCP 广场上创建一个 MCP 服务,并测试,对比自建 MCP 服务,你发现了什么?

1.在ModelScope MCP广场,选择一个MCP服务(比如高德地图)
image.png

2.输入高德地图的 API-Key,点击链接
image.png

大概1s左右时间,魔搭 MCP 就交付了一个SSE地址,可以用于在 client 进行测试
image.png

3.添加MCP服务后,去 MCP Playground 上测试
image.png

规模化托管多租 MCP 服务的问题

如果你更换一个其他的 MCP 服务或者换个账号,重复这个流程,发现平台生成的 MCP 地址是完全不同的。这说明魔搭的 MCP 服务是多租隔离的,为每个租户的每个 MCP 服务生成一个独立的 SSE 地址。 这个过程看似简单,实际上背后的技术挑战是非常高的,我们提炼下魔搭的具体需求:

  1. 上架大量的 MCP 服务,大部分都是开源 MCP 并且采用STDIO模式,使用uv、npx命令就能跑起来;

  2. 每个托管的 MCP 服务都要自动生成独立的 SSE 测试地址,生成速度要足够快。用户点击测试1s 左右就要完成地址的生成;

  3. 生成好的 MCP 服务地址能够被魔搭的 Playground 调用,要求托管的 MCP 服务稳定可靠;

要满足这些需求,对于底层的计算平台要求非常高,如果采用纯自建的方案:

  1. 自购服务器:实时弹出服务器时间都是分钟级的,无法满足秒级启动的需求,需要提前创建好一批服务。这样在稀疏调用时会产生极大的资源浪费。另外MCP服务涉及用户的敏感信息需要在启动时加载,因此多个租户复用相同实例来提升利用率的方案是不安全的;

  2. 自建网关,为每个 MCP 服务创建API并关联后端地址,API需要频繁的创建和销毁,管理API的成本很高;

那么有没有既省资源成本,又省运维成本,还能满足需求的解决方案呢?魔搭选择了函数计算作为 MCP 的运行时托管,并且在短时间内上线了MCP市场, 接下来我们揭秘下魔搭选择函数计算的原因。

为什么魔搭会选择函数计算支持MCP服务?

函数计算作为全托管的 Serverless 服务,有以下运行MCP服务的天然优势:

  1. 事件触发,内置网关,HTTP触发器自动生成公网及内网的http地址:解决MCP网关调用侧需求;

  2. 毫秒级弹性能力,按请求付费,最小支持0.05 vCPU/128M的实例规格:解决MCP服务弹性调度的需求;

  3. 运行时支持单实例多并发:一个实例serve多个MCP请求,减少实例频繁冷启动的开销;

  4. 多租安全隔离:MicroVM安全沙箱,提供虚拟机级别隔离能力;

  5. 完善的语言支持:Node.js、Python、Java、Golang、C#。对于Node.js、Python解释型语言通过WebIDE可以实现快速的调试和运维;

但是这些对于托管MCP还不够,函数计算上线了完整的 MCP 运行时扩展能力 ,针对MCP的特点又做了如下升级:

发布SSE会话亲和性能力,提升 MCP SSE 访问的可靠性

SSE(Server-Sent Events)是一种基于 HTTP 的服务器到客户端的单向实时通信协议:

  • MCP客户端的connect 回向服务端发送Get /sse请求,服务端建立SSE长连接,并且返回带有sessionid的事件流;

  • 后续的客户端请求通过post /message?sessionId=xxx 向服务端发送消息,服务端通过SSE的长连接持续向客户端推送数据;

SSE本质上是一种有状态通信,由服务端维护会话的状态,当同一个会话的客户端post请求调度到不同的服务端实例时,由于会话状态不匹配会到导致服务端连接失败,最终影响client的效果。

Serverless 的弹性调度本身是无状态的,其负载均衡不会感知到SSE的会话状态,因此使用Serverless计算环境托管MCP server时,保证SSE会话的亲和性是一个关键挑战,现在社区以及其他厂商也正在攻克:

  • smithery.ai 采用WebSocket替换了SSE,WebSocket作为全双工通信自带会话亲和性能力,即使突增流量弹出新的实例,相同的client始终会连到同一个服务端实例。WebSocket对于 Serverless运行环境的适配确实更加友好,各个云厂商的Serverless平台也都支持WebSocket,但这种方式的缺点是对client有侵入,需要client进行改造;

  • MCP社区上有个关于MCP Hosting的讨论,关于是否引入WebSocket各方的态度不一,以Glama为代表认为SSE在扩展性要更优;

  • MCP 官方3月底推出了最新的Streamable HTTP协议,计划替代旧版 HTTP+SSE,支持双向流式通信,简化端点管理(单一 /mcp端点),但同样支持主动开启SSE长连接以及旧版SSE协议的向后兼容。

函数计算上线了会话亲和性特性,并且首先支持了MCP SSE策略,保证同一个MCP session请求永远调度到同一个实例。

当开启会话亲和性后,同一个sessionid的请求会被路由到同一个函数实例上

image.png

没开启会话亲和性时,突增流量会很容易导致同一个client的sessionid访问到不同实例上,造成5xx错误。

image.png

会话亲和性当前处于Beta阶段,目前还在部分region进行灰度,近期会对全部region开放。FaaS环境下的会话亲和性实现非常复杂,不光要考虑session的调度,还要考虑各种场景下的异常行为,函数计算后面会揭秘这部分的技术实现。

函数计算的会话亲和性是针对有状态连接的一种通用能力,并非和MCP SSE完全绑定。官方的Streamable HTTP 针对SSE做了重大升级,但同样支持session的有状态会话,函数计算的会话亲和性后续同样会支持Streamble HTTP的会话亲和性策略。

支持将传统 STDIO 模式的 MCP server 自动转换成SSE服务,业务零改造

通过FunctionAI,可以配置MCP服务的协议类型。当配置STDIO协议时,部署后会自定生成SSE访问地址,函数计算会启动SSE代理,将SSE请求转发到STDIO服务上。

image.png

image.png

发布Bearer鉴权能力,传统STDIO无鉴权能力的MCP server托管后自带鉴权能力

通过FunctionAI,只需要开启鉴权配置,就可以使用平台提供的只读Token访问MCP 服务,让传统STDIO的服务自带鉴权能力。

image.png

image.png

发布 Debian12 运行时

函数计算发布了custom.debian12运行时,并且支持了Python3.12/Python3.11/Python3.10、Node.js22/Node.js20/Node.js18、Java11/Java17/Java21 主流运行时版本,内核更小启动速度更快,对于MCP npx/uv直接启动的场景更加友好。

总结

从百炼再到魔搭,越来越多的平台选择了函数计算作为云上MCP托管的解决方案,头部平台的规模化实践印证了 Serverless 在MCP托管领域的技术领先性,函数计算针对MCP做的多项优化价值正在逐渐体现,随着更多的落地案例,函数计算会发布更多AI应用相关的功能,敬请期待。如果您有更多问题与我们交流请添加钉钉群(群号:64970014484)。

相关文章
|
人工智能 开发框架 安全
Serverless MCP 运行时业界首发,函数计算让 AI 应用最后一公里提速
作为云上托管 MCP 服务的最佳运行时,函数计算 FC 为阿里云百炼 MCP 提供弹性调用能力,用户只需提交 npx 命令即可“零改造”将开源 MCP Server 部署到云上,函数计算 FC 会准备好计算资源,并以弹性、可靠的方式运行 MCP 服务,按实际调用时长和次数计费,欢迎你在阿里云百炼和函数计算 FC 上体验 MCP 服务。
1239 31
|
人工智能 运维 安全
开源 Remote MCP Server 一站式托管来啦!
MCP Server 的实施存在着诸多挑战,特别是在认证授权、服务可靠性和可观测性方面,Higress 作为 AI 原生的 API 网关,提供了完整的开源 MCP Server 托管解决方案,实现存量 API 到 MCP 的协议转换。即将上线的 MCP 市场,将大幅降低开发者构建 MCP Server 的时间和人力成本。
2976 107
开源 Remote MCP Server 一站式托管来啦!
|
人工智能 供应链 安全
MCP Server的五种主流架构与Nacos的选择
本文深入探讨了Model Context Protocol (MCP) 在企业级环境中的部署与管理挑战,详细解析了五种主流MCP架构模式(直连远程、代理连接远程、直连本地、本地代理连接本地、混合模式)的优缺点及适用场景,并结合Nacos服务治理框架,提供了实用的企业级MCP部署指南。通过Nacos MCP Router,实现MCP服务的统一管理和智能路由,助力金融、互联网、制造等行业根据数据安全、性能需求和扩展性要求选择合适架构。文章还展望了MCP在企业落地的关键方向,包括中心化注册、软件供应链控制和安全访问等完整解决方案。
4642 188
MCP Server的五种主流架构与Nacos的选择
|
12月前
|
人工智能 运维 Kubernetes
Serverless 应用引擎 SAE:为传统应用托底,为 AI 创新加速
在容器技术持续演进与 AI 全面爆发的当下,企业既要稳健托管传统业务,又要高效落地 AI 创新,如何在复杂的基础设施与频繁的版本变化中保持敏捷、稳定与低成本,成了所有技术团队的共同挑战。阿里云 Serverless 应用引擎(SAE)正是为应对这一时代挑战而生的破局者,SAE 以“免运维、强稳定、极致降本”为核心,通过一站式的应用级托管能力,同时支撑传统应用与 AI 应用,让企业把更多精力投入到业务创新。
1074 30
|
11月前
|
人工智能 安全 调度
一文详解容器服务面向大模型和 AI Agent 的技术变革
在生成式人工智能迅猛发展的浪潮下,企业应用正加速从模型研究走向业务落地。无论是大规模的数据处理、超大参数模型的训练与推理,还是部署能够自动完成任务的 AI Agent,这些场景都需要稳定、高效且可弹性伸缩的资源调度与管理能力。容器凭借环境一致性、跨平台部署和高效调度等优势,天然契合 AI 场景对多样化算力、快速迭代和规模化分发的要求,成为 AI 时代事实上的原生基石。然而,要满足在生产规模下的需求,产品及技术形态需随之演进。
899 3
|
12月前
|
机器学习/深度学习 人工智能 Serverless
吉利汽车携手阿里云函数计算,打造新一代 AI 座舱推理引擎
当前吉利汽车研究院人工智能团队承担了吉利汽车座舱 AI 智能化的方案建设,在和阿里云的合作中,基于星睿智算中心 2.0 的 23.5EFLOPS 强大算力,构建 AI 混合云架构,面向百万级用户的实时推理计算引入阿里云函数计算的 Serverless GPU 算力集群,共同为智能座舱的交互和娱乐功能提供大模型推理业务服务,涵盖的场景如针对模糊指令的复杂意图解析、文生图、情感 TTS 等。
|
11月前
|
人工智能 运维 安全
助力企业构建 AI 原生应用,函数计算 FunctionAI 重塑模型服务与 Agent 全栈生态
在 AI 技术应用落地进程中,目前面临着五大核心挑战:开发/学习门槛过高,部署运维阶段复杂,AI 应用安全备受挑战,生态能力方面存在严重的割裂与锁定现象,同时资源成本高昂且利用率低下。这些挑战极大地阻碍了 AI 技术的广泛普及以及应用效率的有效提升。阿里云函数计算(FC)依托 Serverless AI 基础设施与全栈能力的创新突破,推出 Function AI(函数智能),精准攻克上述痛点问题,全面推动 AI 应用在开发至运维的全流程中实现降本增效。
|
人工智能 运维 安全
阿里云函数计算 AgentRun 全新发布,构筑智能体时代的基础设施
阿里云推出以函数计算为核心的AgentRun平台,通过创新体系解决开发、部署、运维难题,提供全面支持,已在多个真实业务场景验证,是AI原生时代重要基础设施。
|
安全 API UED
A2A(Agent2Agent) 简介
本文主要介绍Google于2025年4月9日发布的Agent2Agent Protocol(简称“A2A”),这是一个旨在促进不同类型智能体(Agent)之间高效沟通与协作的开放协议。
9808 74
A2A(Agent2Agent) 简介

热门文章

最新文章