在给出的大模型落地实践中，通过小样本学习和知识蒸馏模型的参数量和inference时间分别有何变化？
在给出的大模型落地实践中，通过小样本学习和知识蒸馏，模型的参数量和inference时间分别有何变化？
展开
收起
版权声明：本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。
1
条回答
写回答
-
在给出的大模型落地实践中，通过小样本学习，大模型的Accuracy从83.8%提升到90.6%。同时，通过知识蒸馏，一个小模型的Accuracy从54.4%提升到71%，并且inference时间相比大模型提升了10倍，模型参数仅为原来的1/100。
2024-08-19 15:52:02赞同 1 展开评论
相关问答