本文来源于阿里云社区电子书《阿里云产品四月刊》
《阿里云产品四月刊》—一文解读:阿里云 AI 基础设施的演进与挑战(2)https://developer.aliyun.com/article/1554150
AIGC 场景下训练和推理最佳实践
上图展示的是关于 SD 文生图场景下的微调训练案例,我们可以通过 DeepGPU 和阿里云 GPU 云服务器结合在一起,在客户的 SD 微调场景下,帮助客户提升 15%-40%的端到端性能。
第二个是关于大语言模型场景的微调案例,可以看到有些客户想做一个垂直领域/垂直 场景下的大模型,会有模型微调的需求。针对这一类模型微调需求,我们会做一些针对 性的解决方案/优化方案,客户通过软硬结合的优化方法,性能最高可提升 80%。
最后是关于大语言模型推理的客户案例。这个客户主要是做智能业务问答/咨询类业务, 我们为客户在端到端的场景里面提供了方案,包括云服务器、容器环境、AI 套件、DeepGPU 等产品,帮助客户优化整个端到端的推理性能,最终帮助客户提升近 5 倍的端到端的请求处理/推理的效率。
以上就是本次分享的全部内容,也欢迎大家持续关注阿里云的产品,谢谢。