开发者社区 > 大数据与机器学习 > 大数据计算 MaxCompute > 正文

为什么大规模特征下给Server的存储和分布式计算性能会带来巨大压力?

已解决

为什么大规模特征下给Server的存储和分布式计算性能会带来巨大压力?

展开
收起
罗鹏大佬 2022-04-20 10:20:17 593 0
1 条回答
写回答
取消 提交回答
  • 推荐回答

    举例来说,1万亿个32位float浮点数就需要3.63TB的存储空间,再加上需要保留的历史梯度等,往往需要300到600台server才能使各个进程的内存占用控制在一个合理范围。Server数成倍增长,导致并行请求数也线性增长,给通信也带来较大压力。同时,存储量以及单任务进程数的增长,也给集群调度、容错、网络、IO带来较大的压力

    2022-04-20 13:12:47
    赞同 展开评论 打赏

MaxCompute(原ODPS)是一项面向分析的大数据计算服务,它以Serverless架构提供快速、全托管的在线数据仓库服务,消除传统数据平台在资源扩展性和弹性方面的限制,最小化用户运维投入,使您经济并高效的分析处理海量数据。

相关电子书

更多
基于社区的分布式 风险感知模型 立即下载
如何利用Redisson分布式化传统Web项目 立即下载
FLASH:大规模分布式图计算引擎及应用 立即下载