chenhehong_个人页
chenhehong
文章
0
问答
2
视频
0
个人介绍
暂无个人介绍
擅长的技术
获得更多能力
通用技术能力:
暂时未有相关通用技术能力~
云产品技术能力:
暂时未有相关云产品技术能力~
阿里云技能认证
详细说明
高分内容
最新动态
文章
问答
视频
暂无更多信息
暂无更多信息
正在加载, 请稍后...
暂无更多信息
回答了问题
2023-05-19
单个GPU显存较小,无法推理,如何设置多卡推理?
如果GPU显存较小或推理速度较慢,可开启半精度推理。临时的解决方法是使用源代码安装modelscope,然后将 modelscope/models/nlp/fid_T5/text_generation.py 文件76行# self.backbone.half()解除注释,mass后续sdk版本会支持可配置开启/关闭 半精度推理。
赞0
踩0
评论0
回答了问题
2023-05-19
可以支持哪些语言呢
chatplug主要支持中文,英文也有部分能力支持,但没测试过,尚未清楚能力如何
赞0
踩0
评论0
正在加载, 请稍后...
滑动查看更多
正在加载, 请稍后...
暂无更多信息