AI芯片

首页 标签 AI芯片
# AI芯片 #
关注
1320内容
【TensorFlow开源2年官方回顾】下一个重要方向是分布式模型服务
 TensorFlow Serving 开源的一年半时间里取得了许多进展和性能提升,包括开箱即用的优化服务和可定制性,多模型服务,标准化模型格式,易于使用的推理API等。本文是研究团队撰写的回顾,并提出接下来创新的方向是Granular batching和分布式模型服务。
免费试用