写回答
稀疏模型训练通常包含样本数据的读取、Embedding查找、Attention/MLP计算等，样本读取和Embedding查找非计算密集操作，同时并不能高效利用计算资源（CPU、GPU）。原生框架中提供的dataset.prefetch接口可以异步化样本读取操作，但Embedding查找过程中涉及特征补齐、ID化等复杂的过程，这些过程无法通过prefetch进行流水线化。SmartStage功能能够自动分析图中异步流水线化的边界并自动插入，可以使并发流水线发挥最大的性能提升。
版权声明：本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。
