AI 助理
备案控制台
开发者社区 云原生 Serverless 正文

函数计算serverless哪里设置gpu，能跑大模型吗？

函数计算serverless哪里设置gpu，能跑大模型吗？

展开
收起
夹心789 2024-06-10 09:04:12 72 分享 版权

版权声明：本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。

1 条回答
写回答
取消 提交回答
  • 芯在这

    可以呀，创建函数的时候选择容器镜像类型，高级选项可以切换gpu ，此回答整理自钉群“Serverless 开发者技术学习群”

    2024-06-11 10:33:25
    赞同 展开评论
问答分类：
Serverless 异构计算 函数计算 GPU云服务器
问答标签：
GPU云服务器大模型 函数计算函数计算 函数计算serverless GPU云服务器模型 函数计算模型
问答地址：
开发者社区 > 云原生 > Serverless > 问答
相关问答
在函数计算如何设置函数的运行环境和依赖？
112
1
0
在阿里云函数计算中，如果有一个应用的两个接口内存消耗差异很大，应该如何设置内存以节约成本？
42
1
0
函数计算FC用llama3.1模型训练XML格式的OpenDrive文件，效果不理想，怎么处理？
47
0
0
Serverless工作流直接使用弹性容器的OpenAPI 是不是要用函数计算去调用OpenAPI？
39
1
0
在阿里函数计算中，怎样使用GPU？
80
2
0
函数计算FC的sd 应用的模型操作的地方能不能加一个修改文件名的功能？
47
0
0
怎么在函数计算fc部署gpu运行环境？
57
0
0
怎么在函数计算fc搭建一个gpu计算的服务器？
62
1
0
函数计算通过 oss 上传文件触发器触发的请求，没有x-fc-access-key-id，正常吗 ？
69
1
0
函数计算可以像ECI一样设置服务的requests和limit配置 而不是固定的cpu和内存吗？
69
1
0
云原生

Serverless

快速交付实现商业价值。

我要提问

相关文章

  • Xilinx IP 10Gigabit Ethernet Subsystem IP接口的详细说明
  • PyTorch量化感知训练技术：模型压缩与高精度边缘部署实践
  • 智创 AI 新视界 -- 提升 AI 推理速度的高级方法（16 - 2）
  • AI 推理 | vLLM 快速部署指南
  • 从单集群到多集群的快速无损转型：ACK One 多集群应用分发

    • 热门讨论

    热门文章

  • 人脸识别“进化”，你最感兴趣的使用场景有哪些？
  • 请问主域名备案了，子域名还要备案吗？
  • 按照函数计算FC的comfyUI部署的，comfyUI界面上没有显示Manager 按钮，是为什么？
  • 在终端怎么升级python？
  • 哪位大佬知道stable diffusion生成的图片存在哪个文件夹?
  • 求助下大家，sd云端跑的时候报这个错误
  • 遇到 libGL.so.1: cannot open shared object file: No
  • GPU实例中T4和A10两款性能差别多大？另外如何在s.yaml中指定GPU型号呢？
  • 帮忙指点一下这个问题，谢谢 加了证书，也是用https 请求的，本地环境正常，部署在函数计算
  • 域名解析到国外ip没问题吧？
    • 展开全部
  • 开发函数计算的正确姿势 —— 移植 next.js 服务端渲染框架
  • 10分钟-使用阿里云函数计算构建你的OCR智能识别云端小程序
  • 入门篇：函数计算的基本概念和通用场景概述
  • php runtime 中 headers already sent 问题解决方案
  • 浅析基于 Serverless 的前后端一体化框架 | 7月2号云栖夜读
  • 浅析基于 Serverless 的前后端一体化框架
  • 开发函数计算的正确姿势 —— 使用 ROS 进行资源编排
  • 基于阿里云Serverless架构下函数计算的最新应用场景详解（一）
  • 15+文章详细讲述Serverless：开启函数计算时代！（含PDF下载）
  • Using Python to Connect Function Compute to SQL Server
    • 展开全部
    还有其他疑问?
    咨询AI助理