问题一:MRACC-Spark在网络和存储方面做了哪些优化?
MRACC-Spark在网络和存储方面做了哪些优化?
参考回答:
MRACC-Spark在网络和存储方面进行了软硬件加速优化。在网络方面,使用eRDMA进行网络加速,降低了shuffle阶段的数据交换延时,提升了CPU利用率。在存储方面,结合云上架构优势,采用缓存、文件裁剪、索引等优化手段,并尝试将压缩等运算卸载到异构器件,提升了整体性能。
关于本问题的更多问答可点击原文查看:
https://developer.aliyun.com/ask/666807
问题二:Spark SQL在MRACC中有哪些特定的优化措施?
Spark SQL在MRACC中有哪些特定的优化措施?
参考回答:
在MRACC中,Spark SQL进行了多项优化,包括但不限于:支持subquery的动态数据裁剪以减少参与计算的数据量;在物理计划执行阶段支持window topn排序以提升包含limit的SQL语句性能;支持parquet rowgroup裁剪、bloom filter join等高级特性;使用遗传算法搜索解决join table过多导致的cbo搜索开销暴增问题;支持去重下推、join外键消除、完整性约束等功能,并结合deltalake支持数据的增删改操作。
关于本问题的更多问答可点击原文查看:
https://developer.aliyun.com/ask/666808
问题三:MRACC-Spark的SQL引擎优化主要体现在哪些方面?
MRACC-Spark的SQL引擎优化主要体现在哪些方面?
参考回答:
MRACC-Spark的SQL引擎优化主要体现在anlyzer、optimizer、planner、Query execution等阶段。其中,针对AE机制进行了扩展,支持了subquery的动态数据裁剪;在物理计划执行阶段,引入了window topn排序、parquet rowgroup裁剪、bloom filter join等特性;同时,针对CBO机制在join table过多时导致的开销问题,引入了遗传算法搜索来优化。
关于本问题的更多问答可点击原文查看:
https://developer.aliyun.com/ask/666809
问题四:阿里云在2021年云栖大会上发布了什么重要架构,并提供了什么独特的加速能力?
阿里云在2021年云栖大会上发布了什么重要架构,并提供了什么独特的加速能力?
参考回答:
阿里云在2021年杭州云栖大会上发布了第四代神龙架构,提供了业界首个大规模弹性RDMA加速能力,这种能力通过RDMA技术实现了低时延、高性能的网络传输,减少了CPU开销。
关于本问题的更多问答可点击原文查看:
https://developer.aliyun.com/ask/666810
问题五:RDMA技术的主要优势是什么?它如何帮助大数据分布式计算优化?
RDMA技术的主要优势是什么?它如何帮助大数据分布式计算优化?
参考回答:
RDMA技术的主要优势在于提供直接内存访问的方式,数据传输bypass Kernel,减少了CPU的开销,并提供了低时延的高性能网络。在大数据分布式计算中,它特别优化了shuffle过程,通过将shuffle数据交换变为memory-network-memory的模式,充分利用了RDMA用户态内存直接交互、低延时、低CPU消耗的特点,从而显著提升了性能。
关于本问题的更多问答可点击原文查看: