FLIP-156 中提出的基于 SlotSharingGroup 的资源配置接口有几种设计选择?它们各自的优缺点是什么?
FLIP-156 中提出的基于 SlotSharingGroup 的资源配置接口有三种设计选择:
算子粒度:优点是资源配置与 chaining 和 slot sharing 解耦,用户配置简单;缺点是用户配置成本高,难以支持粗细粒度混合配置,且资源偏差会累积。
Task 粒度:优点是相比算子粒度降低了用户配置成本;缺点是资源配置与 chaining 逻辑耦合,内部优化受限,且 chaining 逻辑变化可能导致用户配置不兼容。
SlotSharingGroup 粒度:优点是资源配置所见即所得,省略了资源聚合逻辑;缺点是若 SSG 内部算子资源需求差异大,则可能导致资源浪费。
版权声明:本文内容由阿里云实名注册用户自发贡献,版权归原作者所有,阿里云开发者社区不拥有其著作权,亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容,填写侵权投诉表单进行举报,一经查实,本社区将立刻删除涉嫌侵权内容。