AI 助理
备案控制台
开发者社区 问答 正文

EasyNLP如何解决大模型参数大难以落地的问题？

EasyNLP如何解决大模型参数大难以落地的问题？

展开
收起
花开富贵111 2024-08-19 10:44:22 62 分享 版权

版权声明：本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。

1 条回答
写回答
取消 提交回答
  • 冲冲冲c

    EasyNLP提供知识蒸馏功能帮助蒸馏大模型从而得到高效的小模型来满足线上部署服务的需求，同时还提供MetaKD算法支持元知识蒸馏，提升学生模型的效果。

    2024-08-19 15:51:55
    赞同 2 展开评论
问答标签：
通义大模型参数
问答地址：
开发者社区 > 云计算 > 问答
相关问答
千问大模型Qwen3-8B、4B、32B、235B、0.6B参数含义，需要什么配置的服务器部署？
345
1
0
部署大模型Qwen3 32B,14B,8B参数的大模型部署分别需要多少显存？
1702
1
0
Qwen3大模型中0.6B 4B 32B 235B参数是什么意思？
128
1
0
本地部署开源模型Qwen2.5-coder-32b，和直接使用线上api同样参数的模型，差距很大
624
1
0
大模型调用相关参数比如'X-DashScope-SSE: disable'是干什么的？
302
1
0
ModelScope微调qwen2不同参数的模型，分别需要的最低硬件要求是多少？
169
1
0
使用Http方式调用千问模型，是否有类似OpenAI返回格式的参数<respons_format>？
158
1
0
ModelScope有没有什么参数能让大模型不死锁在一个问题上？
81
0
0
ModelScope中，轻量级大模型训练推理框架这个交互界面的参数有详细的参数设置说明文档吗?
83
1
0
ModelScope和千问1.8B版本除了参数数量多少的区别外,还有哪些区别？
72
0
0