我想基于行中的值将RDD拆分为多个RDD。行中的值是预先知道的并且本质上是固定的。
例如
source_rdd = sc.parallelize([('a',1),('a',2),('a',3),('b',4),('b',5),('b',6)])
应该分成两个RDD,一个只a包含一个,另一个只包含b作为键
我已经尝试过groupByKey方法,并且能够在collect()对分组RDD 执行操作后成功完成,由于内存限制,我无法在生产中执行此操作
a_rdd, b_rdd = source_rdd.keyBy(lambda row: row[0]).groupByKey().collect()
当前的实现是应用多个过滤操作来获得每个RDD
a_rdd = source_rdd.filter(lambda row: row[0] == 'a')
b_rdd = source_rdd.filter(lambda row: row[0] == 'b')
这可以进一步优化,在生产中使用不适合内存的数据的最佳方法是什么?
用法:这些RDD将被转换为不同的数据帧(每个键一个),每个数据帧具有不同的模式,并作为输出存储在S3中。
你也可以用toDF。Aslo,a_rdd并且b_rdd不在rdd您的代码中,因为它们被收集!
df = source_rdd.keyBy(lambda row: row[0]).groupByKey()
a_rdd = df.filter(lambda row: row[0] == 'a')
b_rdd = df.filter(lambda row: row[0] == 'b')
版权声明:本文内容由阿里云实名注册用户自发贡献,版权归原作者所有,阿里云开发者社区不拥有其著作权,亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容,填写侵权投诉表单进行举报,一经查实,本社区将立刻删除涉嫌侵权内容。