AI 助理
备案控制台
开发者社区 问答 正文

ChatGPT 的训练可以分为哪几个步骤？

ChatGPT 的训练可以分为哪几个步骤？

展开
收起
夹心789 2024-06-27 12:04:27 124 分享 版权

版权声明：本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。

1 条回答
写回答
取消 提交回答
  • 芯在这

    "ChatGPT 的训练可以分为三个步骤：
    首先，根据采集的 SFT 数据集对 GPT-3 进行有监督的微调（Supervised FineTune，SFT）；
    其次，收集人工标注的对比数据，训练奖励模型（Reword Model，RM）；
    最后，使用 RM 作为强化学习的优化目标，利用 PPO 算法微调 SFT 模型。"

    2024-06-27 13:27:24
    赞同 展开评论
问答地址：
开发者社区 > 云计算 > 问答
相关问答
在 ChatGPT 的训练过程中，RLHF 起了什么作用？
89
1
0
在训练 ChatGPT 时，使用了什么方法来收集数据并构建训练样本？
71
1
0
ChatGPT 的训练数据主要来源有哪些？
361
1
0
ChatGPT和InstructGPT的训练方式有何不同？
97
1
0
请教一下Nacos管理员，这个机器人，是用阿里的通义千问训练的还是chatgpt?
88
3
0
您好，请问有一系列关于用自己数据训练chatgpt的教程吗
178
1
0
ModelScope的单文本的chatGPT文本检测怎么不能用了？
65
0
0
ModelScope中，chatGPT文本检测不能用了，有替代这个的吗？
47
0
0
ModelScope中，chatGPT文本检测的有没有替代品？
83
1
0
ModelScope chatGPT文本检测，咋不能用了？
74
0
0