开发者社区> 问答> 正文

标准随机掩码策略在MLM中存在什么问题?

标准随机掩码策略在MLM中存在什么问题?

展开
收起
夹心789 2024-06-24 20:31:11 17 0
1 条回答
写回答
取消 提交回答
  • 标准随机掩码策略在MLM中导致了预训练语言模型(PLM)偏向高频标记,罕见标记的表示学习效果不佳,这限制了PLM在下游任务上的性能。

    2024-06-24 20:52:38
    赞同 1 展开评论 打赏
问答地址:
问答排行榜
最热
最新

相关电子书

更多
低代码开发师(初级)实战教程 立即下载
冬季实战营第三期:MySQL数据库进阶实战 立即下载
阿里巴巴DevOps 最佳实践手册 立即下载