AI 助理
备案控制台登录注册
开发者社区 云原生 Serverless 正文

我的函数代码中统计了一个深度学习模型加载的时间，一个大小为13M的模型利用torch加载模型并传递到

我的函数代码中统计了一个深度学习模型加载的时间，一个大小为13M的模型利用torch加载模型并传递到gpu需要十多秒，本地测试的话则两三秒，这个是函数这个功能自身的限制吗？

展开
收起
绿子直子 2023-02-07 15:23:47 515 发布于北京 分享
分享
 版权
举报

版权声明：本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。

2 条回答
写回答
取消 提交回答
  • 认真学习的heart

    这并不一定是函数本身的限制。这可能与您使用的硬件或网络连接有关。例如，如果您在GPU上运行模型，那么加载模型的时间可能比在CPU上运行模型要长。此外，如果您在网络连接上运行模型，连接的速度也会影响加载时间。

    2023-02-07 17:53:48 发布于广东 举报
    赞同 评论

    评论

    全部评论 (0)

    登录后可评论
  • 解决问题123

    如果是冷启动，这个耗时是差不多的，因为计算节点需要从远端拉取镜像（依赖、模型）至本地，然后启动GPU容器。

    按量GPU模式：有冷启动，但成本最优（仅请求处理收费） 弹性预留GPU模式：无冷启动，但成本会贵一些（容器存活期收费）

    此答案来自钉钉群“阿里函数计算官网客户"

    2023-02-07 17:26:08 发布于北京 举报
    赞同 评论

    评论

    全部评论 (0)

    登录后可评论
问答分类：
机器学习/深度学习 GPU云服务器
问答标签：
深度学习模型 深度学习函数 深度学习代码 函数深度学习 函数深度学习模型
问答地址：
开发者社区 > 云原生 > Serverless > 问答
相关问答
函数计算
ModelScope部署了ollama量化的模型，还可以继续进行优化和深度学习么？
75
1
0
函数计算FC可以用来部署自己的深度学习模型吗？
44
1
0
运行3个深度学习模型组成的pipeline的推理过程，每个模型的参数文件约1G，要什么配置的云服务器
81
3
0
视觉智能平台通用分割用的模型也是深度学习吗？和人像分割用的一样吗？
48
1
0
函数计算部署深度学习模型时，打包的文件容量不同但是下载的时间相同是有优化么？
48
2
0
机器学习PAI有没有适合用于特定领域的意图识别和插槽填充的深度学习教程呀?
388
1
0
机器学习深度学习相关组件报错没有GPU资源
65
1
0
1.可以简单的认为“深度学习”就是“机器学习”的一个分支吗？
45
1
0
深度学习和机器学习有什么关联或者关系吗？
46
1
0
tinyDL中，机器学习的通用组件与深度学习是如何处理的？
73
1
0
云原生

Serverless

快速交付实现商业价值。

我要提问
收录在圈子:
阿里云云原生
9210
+ 订阅
阿里云 云原生应用平台 肩负阿里巴巴集团基础设施云化以及核心技术互联网化的重要职责，致力于打造稳定、标准、先进的云原生产品，成为云原生时代的引领者，推动行业全面想云原生的技术升级，成为阿里云新增长引擎。商业化产品包括容器、云原生中间件、函数计算等。

相关文章

  • 北方生态系统-大气研究数据集：科学探秘极地生态交互
  • 30分钟拉起Ray集群并部署Stable Diffusion模型服务
  • 《人工智能赋能DataWorks：开启自动化运维新篇章》
  • 《AI牵手DataWorks，实时数据分析“一路狂飙”》
  • 《从低效到高效，AI重塑DataWorks数据存储架构》

    • 热门讨论

    热门文章

  • 一键生成讲解视频，AI的理解和生成能力到底有多强？
  • 按照函数计算FC的comfyUI部署的，comfyUI界面上没有显示Manager 按钮，是为什么？
  • 请问主域名备案了，子域名还要备案吗？
  • 求助下大家，sd云端跑的时候报这个错误
  • sd界面里为啥没有lora模块选项呀？
  • 哪位大佬知道stable diffusion生成的图片存在哪个文件夹?
  • 在终端怎么升级python？
  • GPU实例中T4和A10两款性能差别多大？另外如何在s.yaml中指定GPU型号呢？
  • sd从网址安装插件报错：AssertionError: extension access disab
  • 在函数计算FC我上传了lora 但是我的sd页面不显示 请问是怎么回事呀？
    • 展开全部
  • 开发函数计算的正确姿势 —— 移植 next.js 服务端渲染框架
  • 玩转阿里云函数计算(一)----Java Http 触发器极速迁移传统 Spring 应用
  • 玩转阿里云Serverless Kubernetes新功能
  • 浅析基于 Serverless 的前后端一体化框架 | 7月2号云栖夜读
  • 大道至简 - 基于Docker的Serverless探索之旅
  • 基于阿里云Serverless架构下函数计算的最新应用场景详解（一）
  • Installing a Dependency Library for Function Compute
  • 开发函数计算的正确姿势——使用交互模式安装依赖
  • 函数计算-触发OSS来处理图片加水印和大小裁剪
  • WebIDE 使用指南
    • 展开全部
    还有其他疑问?
    咨询AI助理
    AI助理

    你好，我是AI助理

    可以解答问题、推荐解决方案等