开发者社区 > ModelScope模型即服务 > 计算机视觉 > 正文

ModelScope有模型对应推荐使用的显卡列表吗?

ModelScope有模型对应推荐使用的显卡列表吗?

展开
收起
闲o月 2023-12-18 13:33:43 65 0
1 条回答
写回答
取消 提交回答
  • 网站:http://ixiancheng.cn/ 微信订阅号:小马哥学JAVA

    参考文档:
    https://modelscope.cn/docs/%E5%BF%AB%E9%80%9F%E4%BD%BF%E7%94%A8
    技术文档上面的显卡:RTX3080、RTX3090、RTX4090

    Swift是一个提供LLM模型轻量级训练和推理的开源框架。Swift提供的主要能力是efficient tuners,tuners是运行时动态加载到模型上的额外结构,在训练时将原模型的参数冻结,只训练tuner部分,这样可以达到快速训练、降低显存使用的目的。比如,最常用的tuner是LoRA。

    总之,在这个框架中提供了以下特性:

    具备SOTA特性的Efficient Tuners:用于结合大模型实现轻量级(在商业级显卡上,如RTX3080、RTX3090、RTX4090等)训练和推理,并取得较好效果
    使用ModelScope Hub的Trainer:基于transformers trainer提供,支持LLM模型的训练,并支持将训练后的模型上传到ModelScope Hub中
    可运行的模型Examples:针对热门大模型提供的训练脚本和推理脚本,并针对热门开源数据集提供了预处理逻辑,可直接运行使用。

    2023-12-18 13:57:48
    赞同 展开评论 打赏

包含图像分类、图像生成、人体人脸识别、动作识别、目标分割、视频生成、卡通画、视觉评价、三维视觉等多个领域

相关电子书

更多
视觉AI能力的开放现状及ModelScope实战 立即下载
ModelScope助力语音AI模型创新与应用 立即下载
低代码开发师(初级)实战教程 立即下载