阿里云函数计算提供了多种GPU实例规格,允许用户根据不同的工作负载选择适合的卡型。在这些规格中,显存的大小可以是1024 MB的倍数,范围在1 GB到24 GB之间。例如,如果配置了vGPU显存为5 GB,则系统最高可以提供5/24张卡的算力。此外,函数计算平台还为用户提供了最小为1 GB显存/算力的GPU实例规格,以满足不同业务的需求。
函数计算FC的GPU规格为Ampere系列A10卡型,显存大小可以在1 GB到24 GB之间进行选择,具体取决于你的业务需求。此外,当你设置并发度为5时,单卡可以同时承载8个GPU容器,而在地域级别上,最多可以同时承载240个GPU容器,使得该函数在地域级别的推理并发度达到1200。因此,无论你的业务是何种规模,都可以找到合适的GPU规格来满足你的需求。
GPU实例包含以下实例规格,您可以根据业务需求选择不同配置的实例。
参考https://help.aliyun.com/zh/fc/instance-types-and-instance-modes?spm=a2c4g.11186623.0.0.4d5b5577cMxVYu 此回答整理自钉群“【答疑群】函数计算 AIGC 场景技术交流”
版权声明:本文内容由阿里云实名注册用户自发贡献,版权归原作者所有,阿里云开发者社区不拥有其著作权,亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容,填写侵权投诉表单进行举报,一经查实,本社区将立刻删除涉嫌侵权内容。