AI 助理
备案控制台
开发者社区 问答 正文

deepgpu-LLM大语言模型 支持切换 adapter(lora) 吗？

deepgpu-LLM大语言模型 支持切换 adapter(lora) 吗？类似这样：
https://huggingface.co/docs/transformers/main/en/peft#add-a-new-adapter， model.set_adapter("adapter_1")

展开
收起
三分钟热度的鱼 2024-04-17 18:32:01 94 分享 版权

版权声明：本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。

1 条回答
写回答
取消 提交回答
问答分类：
物联网 GPU云服务器
问答标签：
LLM大语言模型 LLM lora
问答地址：
开发者社区 > 人工智能 > 问答
相关问答
LLM大语言模型这个接口可以配置 batch 吗？默认是 batch=1 吗还是多少？
135
1
0
LLM大语言模型安装了deepGPU之后，infer时报错，大家有遇到过吗？
61
1
0
在LLM大语言模型如果是用阿里的服务的话 平均输入token在2000 需要购买什么配置呢？
120
2
0
LLM大语言模型有个100并发的34b模型的推理需求，不知道需要多大的GPU？
1179
2
0
我们想在阿里云搭建 chatglm6b 的大模型服务，，LLM大语言模型大概需要什么样的ecs配置？
118
0
0
LLM大语言模型的cuda版本是12.0有没有对应的安装包？
85
1
0
LLM大语言模型新装后，发现环境有问题，要如何解决？
157
3
0
LLM大语言模型报了这么一个错误，是不是Qwen2的加载方式变了？
89
0
0
LLM大语言模型的Qwen2-72B用哪个版本的deepGPU呢？
109
1
0
大语言模型LLM和知识图谱的相关性或者相似性是怎样的？
155
1
0