官方博客-第35页-阿里云开发者社区

  • 2025-02-20
    800

    破解 vLLM + DeepSeek 规模化部署的“不可能三角”

    vLLM 是一种便捷的大型语言模型(LLM)推理服务,旨在简化个人和企业用户对复杂模型的使用。通过 vLLM,用户可以轻松发起推理请求,享受高效、稳定的 LLM 服务。针对大规模部署 vLLM 的挑战,如大模型参数量、高效推理能力和上下文理解等,阿里云函数计算(FC)提供了 GPU 预留实例闲置计费功能,优化了性能、成本和稳定性之间的平衡。此外,FC 支持简便的部署流程和多种应用集成方式,帮助企业快速上线并管理 vLLM 服务。总结来说,vLLM 结合 FC 的解决方案为企业提供了强大的技术支持和灵活的部署选项,满足不同业务需求。

    800
  • 2025-03-11
    1656

    QwQ-32B一键部署,真正的0代码,0脚本,0门槛

    阿里云发布的QwQ-32B模型通过强化学习显著提升了推理能力,核心指标达到DeepSeek-R1满血版水平。用户可通过阿里云系统运维管理(OOS)一键部署OpenWebUI+Ollama方案,轻松将QwQ-32B模型部署到ECS,或连接阿里云百炼的在线模型。整个过程无需编写代码,全部在控制台完成,适合新手操作。

    1,656
  • 2023-06-29
    2272

    一键体验RocketMQ六大环境活动操作手册

    中间件产品门槛高?短时间无法深入了解?免费试用+30秒一键体验,低代码,无部署环境,带你了解“历经万亿级数据洪峰考验”的云消息队列RocketMQ。

  • 2023-10-09
    30258

    基于阿里云服务网格流量泳道的全链路流量管理(一)严格模式流量泳道

    灰度发布是一种常见的对新版本应用服务的发布手段,其特点在于能够将流量在服务的稳定版本和灰度版本之间时刻切换,以帮助我们用更加可靠的方式实现服务的升级。

    30,258
  • 2024-02-18
    134835

    Higress × OpenKruiseGame 游戏网关最佳实践

    本文将演示 Higress 如何无缝对接 OKG 游戏服,并为其带来的优秀特性。

    134,835
  • 2024-05-15
    3825

    深度剖析 RocketMQ 5.0,流存储:流场景的诉求是什么?

    本文将从使用的角度出发,来更详细的展示一下流存储的场景,看看它和业务消息的场景有哪些区别。 RocketMQ 5.0 面向流存储的场景,提供了哪些特性。再结合两个数据集成的案例,来帮助大家了解流存储的用法。

    3,825
  • 2024-05-15
    661

    Yuan2.0大模型,联合向量数据库和Llama-index,助力检索增强生成技术

    本文将以Yuan2.0最新发布的Februa模型为例进行测试验证,用更小规模的模型达到更好的效果。

  • 91467

    云效 AppStack + 阿里云 MSE 实现应用服务全链路灰度

    本文介绍了如何通过阿里云 MSE 微服务引擎和云效应用交付平台 AppStack 实现灰度发布。

  • 2024-05-15
    1522

    RocketMQ 之 IoT 消息解析:物联网需要的消息技术

    RocketMQ 5.0 是为应对物联网(IoT)场景而发布的云原生消息中间件,旨在解决 IoT 中大规模设备连接、数据处理和边缘计算的需求。

    1,522
  • 1
    ...
    34
    35
    36
    ...
    45
    到第