开发者社区 问答 正文

GPT-1和GPT-2的区别是什么?

GPT-1和GPT-2的区别是什么?

展开
收起
夹心789 2024-05-30 13:43:38 109 分享 版权
1 条回答
写回答
取消 提交回答
  • GPT-1在构建下游任务输入时引入了特殊字符,这些字符在预训练阶段模型没有见过,但在微调阶段可以学习到。而GPT-2为了做zero-shot,在构建下游任务输入时不能引入模型未见过的符号,输入形式更接近自然语言。

    2024-05-30 14:29:58
    赞同 3 展开评论
问答标签:
问答地址: