AI 助理
备案控制台
开发者社区 ModelScope模型即服务 正文

modelscope中，swift.llm.get_model_tokenizer支持GPU设备吗？

"modelscope中，swift.llm.get_model_tokenizer只支持GPU设备吗？ 058dc128aea3273f520981110e401cab.png
"

展开
收起
小小爱吃香菜 2024-03-19 16:23:22 109 发布于吉林 分享
分享
 版权
举报
1 条回答
写回答
取消 提交回答
  • 为了利利

    RuntimeError: "addmm_implcpu" not implemented for 'Half'，应该是cpu不支持。 此回答整理自钉群“魔搭ModelScope开发者联盟群 ①”

    2024-03-19 16:51:33 举报
    赞同 评论

    评论

    全部评论 (0)

    登录后可评论
相关问答
modelscope-funasr怎么设置使得模型可以用CUDA0以外的其他gpu？
33753
1
0
modelscope-funasr服务端部署的话，推荐什么样的GPU？
102
0
0
请问用modelscope里swift的dpo微调模型的断点Debug方式，有相关文档说明吗？
97
1
0
ModelScope我试着用swift 微调后 微调的模型都失去逻辑怎么办？
101
1
0
在modelscope-funasr如果使用GPU的话这个编译需要改什么？
86
0
0
modelscope-funasr的GPU调用失败了，是什么原因？
81
0
0
modelscope-funasr的 docker gpu1.1 容器中启动服务时，报这个是啥问题？
88
1
0
数据集和模型都下载到本地了，程序里面也是指定了位置 ，modelscope还是报错，怎么解决？
66
1
0
modelscope-funasr目前哪个模型对8k电话音频的识别效果最好？
79
1
0
modelscope-funasr进行模型微调的时候，打印的日志中epoch一直是0如何处理？
60
0
0

ModelScope模型即服务

ModelScope旨在打造下一代开源的模型即服务共享平台，为泛AI开发者提供灵活、易用、低成本的一站式模型服务产品，让模型应用更简单！欢迎加入技术交流群：微信公众号：魔搭ModelScope社区，钉钉群号：44837352

我要提问

相关文章

  • 大模型存储的 “最后一公里” ：蚂蚁大模型存储加速系统 PCache 如何解决万亿参数训练难题？
  • 阿里云服务器配置怎么选择？根据用户类型及使用场景配置推荐
  • 如何成为企业级大模型架构师?
  • Meta开源多模态AI新王炸！Llama 4：MoE架构仅用17B参数碾压Gemma 3，支持1000万token上下文
  • 这个AI能把PSD变视频！人物/场景/道具任意组合！SkyReels-A2：昆仑万维推出的可控多元素视频生成框架

    • 热门讨论

    热门文章

  • modelscope-funasr这个是speaker1+speaker2的音色混合吗？
  • ModelScope中，模型下载默认路径在哪个路径？
  • ModelScope qwen7b、14b、72b lora微调分别需要的显存和cpu内存是多少？
  • 关于wan2.1显存占用的问题
  • 在魔塔社区-模型服务 里面一键部署的deepseek模型怎么使用？
  • llama factory微调报错CUDA未被检测！
  • 我希望通过damo-YOLO训练1500*1500的图片
  • lmstudio拉起qwq-32b-q3_k_m.gguf模型报错？
  • modelscope PAI-DSW环境notebook如何选择conda管理的python？
  • com/action/joingroup?code=v1是什么意思
    • 展开全部
  • EasyControl Ghibli：在线体验一键生成宫崎骏动画风，开源AI模型让你的照片秒变吉卜力
  • RuoYi AI：1人搞定AI中台！开源全栈式AI开发平台，快速集成大模型+RAG+支付等模块
  • DreamActor-M1：字节跳动推出AI动画黑科技，静态照片秒变生动视频
  • 高效部署通义万相Wan2.1：ComfyUI文生/图生视频实战，工作流直取！
  • vanna+qwen实现私有模型的SQL转换
  • 重定义数字人交互！OmniTalker：阿里推出实时多模态说话头像生成框架，音视频实现唇语级同步
  • Heygem：开源数字人克隆神器！1秒视频生成4K超高清AI形象，1080Ti显卡也能轻松跑
  • 智胜未来：国内大模型+Agent应用案例精选，以及主流Agent框架开源项目推荐
  • Agent TARS：一键让AI托管电脑！字节开源PC端多模态AI助手，无缝集成浏览器与系统操作
  • 阿里云通义千问向全社会开放！
    • 展开全部
    还有其他疑问?
    咨询AI助理