开发者社区> 问答> 正文

什么是Adaptive Embedding(自适应Embedding)?

什么是Adaptive Embedding(自适应Embedding)?

展开
收起
岩茶芋泥 2022-04-19 10:45:55 1042 0
来自:阿里技术
1 条回答
写回答
取消 提交回答
  • 当使用动态弹性特征功能时,低频特征存在过拟合问题。EmbeddingVariable中所有的特征都从initializer设定的初始值(一般设为0)开始学起,对于一些出现频次从低到高的特征,也需要逐渐学习到一个较好的状态,不能共享别的特征的学习结果。AdaptiveEmbedding功能使用静态Shape Variable和动态EmbeddingVariable共同存储稀疏特征,对于新加入的特征存于有冲突的Variable,对于出现频率较高的特征存于无冲突的EmbeddingVariable,特征迁移到EmbeddingVaraible可以复用在有冲突的静态Shape Variable的学习结果。

    2022-04-19 16:03:42
    赞同 展开评论 打赏
问答地址:
来源圈子
更多
收录在圈子:
+ 订阅
问答排行榜
最热
最新

相关电子书

更多
WordRank embedding:"crowned"is 立即下载
Investigation of Transformer based Spelling Correction Model for CTC-based End-to-End Mandarin Speech Recognition 立即下载
低代码开发师(初级)实战教程 立即下载