开发者社区> 问答> 正文

使用transformer也需要付出哪些代价?

使用transformer也需要付出哪些代价?

展开
收起
游客zvexcvxjsyxmm 2022-03-29 13:19:33 290 0
来自:大淘宝技术
1 条回答
写回答
取消 提交回答
  • 1、Transformer模型巨大的参数量将成倍地增加服务器成本以及随之而来的运维难度。 2、Transformer在小数据集上很难训练,极易过拟合,因此训练所需的数据量显著增加。并且,有些业务场景天然难以提供大量数据。 3、Transformer的训练时间长,相比CNN,transformer有时甚至需要3~5倍的训练时间,这一方面阻碍了许多需要快速响应的需求的开发(例如某些热点事件的跟进),同时也隐形地增加了公司的人力成本(阿里的算法工程师工资可是很高的哟)。答复内容摘自《2021技术人的百宝黑皮书》,这本电子书收录开发者藏经阁 下载连接:https://developer.aliyun.com/ebook/download/7436

    2022-03-30 11:05:55
    赞同 展开评论 打赏
问答地址:
来源圈子
更多
收录在圈子:
+ 订阅
问答排行榜
最热
最新

相关电子书

更多
展心展力MetaApp:基于DeepRec的稀疏模型训练实践 立即下载
低代码开发师(初级)实战教程 立即下载
阿里巴巴DevOps 最佳实践手册 立即下载