开发者社区 问答 正文

LLM大语言模型官方有支持中文模型镜像的计划吗?

LLM大语言模型官方有支持中文模型镜像的计划吗?比方说ChatGLM-6B和Chinese Vicuna之类的模型,感觉支持中文词表和预训练预料对于我们工程师的意义会更大一些。

展开
收起
三分钟热度的鱼 2023-06-13 13:42:54 126 分享 版权
2 条回答
写回答
取消 提交回答
  • 我们将会逐步推出中文类大模型的最佳实践。此回答整理自钉群“LLM大语言模型-阿里云支持”

    2023-06-13 16:00:53
    赞同 展开评论
  • LLM 大语言模型目前已经支持多种语言,包括中文。在其中,中文语言模型主要基于 BERT 和 RoBERTa 构建,使用全中文训练的预训练模型进行 Fine-tuning,可以支持中文文本数据的自然语言处理任务。在 LLM 官方网站的模型库中,可以找到名为 Chinese RoBERTa-wwm-ext 和 Chinese BERT-wwm-ext 的中文模型,可以作为预训练模型使用或者作为预测模型进行 Fine-tuning 训练,支持中文词表和预训练语料。

    2023-06-13 14:26:06
    赞同 展开评论