开发者社区 > ModelScope模型即服务 > 计算机视觉 > 正文

ModelScope千问api可以对接的模型参数最大是多少的?还是14b嘛?

ModelScope千问api可以对接的模型参数最大是多少的?还是14b嘛?

展开
收起
真的很搞笑 2023-11-01 20:43:45 135 0
4 条回答
写回答
取消 提交回答
  • 通常来说,阿里云 ModelScope 的 API 支持的最大模型参数量与平台支持的模型数量有关。当前,ModelScope API 允许接入的模型参数量没有明确上限,但需要注意的是,较大的模型可能需要更多的内存和计算资源。

    2023-11-02 21:59:33
    赞同 展开评论 打赏
  • 面对过去,不要迷离;面对未来,不必彷徨;活在今天,你只要把自己完全展示给别人看。

    千问模型在ModelScope上的参数大小限制取决于您的设备硬件限制。目前,最大的千问模型约有20亿参数,并且需要高性能硬件支持。但是,ModelScope本身并没有对参数大小的限制。
    如果要在千问模型上部署更大的模型,请确认您的硬件性能。此外,请考虑采用分布式训练,以提高模型的效率。您还可以采用优化技术和采样技术来降低参数数量,以便更容易部署。

    2023-11-02 13:15:19
    赞同 展开评论 打赏
  • 目前,ModelScope千问API可以对接的模型参数最大值可能随着时间推移和技术更新而发生变化。然而,根据我的知识截至日期为2021年,许多模型参数的大小限制通常为128MB或256MB。这些限制是由模型的内存容量和计算资源所决定的。

    对于某些大型模型,例如GPT-3系列模型,参数大小可能超过100GB或更多。但是,大多数用户在尝试加载非常大的模型时可能会遇到内存不足或其他问题。因此,为了获得最佳性能和结果,通常建议使用较小的模型或对数据进行预处理以减少模型参数大小。

    2023-11-02 09:26:44
    赞同 展开评论 打赏
  • modelscope模型库中最大是qwen-14b。,此回答整理自钉群“魔搭ModelScope开发者联盟群 ①”

    2023-11-01 22:09:50
    赞同 展开评论 打赏

包含图像分类、图像生成、人体人脸识别、动作识别、目标分割、视频生成、卡通画、视觉评价、三维视觉等多个领域

相关电子书

更多
Spring Boot2.0实战Redis分布式缓存 立即下载
CUDA MATH API 立即下载
API PLAYBOOK 立即下载