Spark多路径输出和二次排序-阿里云开发者社区

开发者社区> thinkgamer.cn> 正文

Spark多路径输出和二次排序

简介: 打开微信扫一扫,关注微信公众号【数据与算法联盟】 转载请注明出处:http://blog.csdn.net/gamer_gyt 博主微博:http://weibo.com/234654758 Github:https://github.com/thinkgamer 在实际应用场景中,我们对于Spark往往有各式各样的需求,比如说想MR中的二次排序,Top N,多路劲输出等。
+关注继续查看


公众号二维码
打开微信扫一扫,关注微信公众号【数据与算法联盟】

转载请注明出处:http://blog.csdn.net/gamer_gyt
博主微博:http://weibo.com/234654758
Github:https://github.com/thinkgamer

在实际应用场景中,我们对于Spark往往有各式各样的需求,比如说想MR中的二次排序,Top N,多路劲输出等。那么这篇文章我们就来看下这几个问题。

二次排序

假设我们的数据是这样的:

1   2
1   3
1   1
1   6
1   4
2   5
2   8
2   3

我们想要实现第一列按降序排列,当第一列相同时,第二列按降序排列

定义一个SecondSortKey类:

class SecondSortKey(val first: Int, val second: Int)
  extends Ordered[SecondSortKey] with Serializable {
  override def compare(that: SecondSortKey): Int = {
    if (this.first - that.first == 0) {
      this.second - that.second
    } else {
      this.first - that.first
    }
  }
}

然后这样去使用

val lines = sc.textFile("test.txt")
val pairs = lines.map { x =>
      (new SecondSortKey(x.split("\\s+")(0).toInt,
        x.split("\\s+")(1).toInt), x)
    }
val sortedPairs = pairs.sortByKey(false);
sortedPairs.map(_._2).foreach(println)

当然这里如果想按第一列升序,当第一列相同时,第二列升序的顺序排列,只需要对SecondSoryKey做如下修改即可

class SecondSortKey(val first: Int, val second: Int)
  extends Ordered[SecondSortKey] with Serializable {
  override def compare(that: SecondSortKey): Int = {
    if (this.first - that.first !== 0) {
      this.second - that.second
    } else {
      this.first - that.first
    }
  }
}

当时使用的使用去掉

pairs.sortByKey(false)

中的false

Top N

同样还是上边的数据,假设我们要得到第一列中的前五位

val lines = sc.textFile("test.txt")
val rdd = lines
        .map(x => x.split("\\s+"))
        .map(x => (x(0),x(1)))
        .sortByKey()
rdd.take(N).foreach(println)

多路径输出

自己在使用的过程中,通过搜索发现了两种方法
1:调用saveAsHadoopFile函数并自定义一个OutputFormat类

自定义RDDMultipleTextOutputFormat类

RDDMultipleTextOutputFormat类中的generateFileNameForKeyValue函数有三个参数,key和value就是我们RDD的Key和Value,而name参数是每个Reduce的编号。本例中没有使用该参数,而是直接将同一个Key的数据输出到同一个文件中。

import org.apache.hadoop.mapred.lib.MultipleTextOutputFormat  

class RDDMultipleTextOutputFormat extends MultipleTextOutputFormat[Any, Any] {  
  override def generateFileNameForKeyValue(key: Any, value: Any, name: String): String =  
    key.asInstanceOf[String]  
}  

调用

sc.parallelize(List(("w", "www"), ("b", "blog"), ("c", "com"), ("w", "bt")))  
      .map(value => (value._1, value._2 + "Test"))  
      .partitionBy(new HashPartitioner(3))  
      .saveAsHadoopFile("/iteblog", classOf[String],classOf[String],classOf[RDDMultipleTextOutputFormat])  

这里的

new HashPartitioner(3)

中的3是有key的种类决定的,当然在实际应用场景中,我们可能并不知道有多少k,这个时候就可以通过一个rdd 的 distinct操作来得到唯一key的数目。

2:使用dataframe

people_rdd = sc.parallelize([(1, "alice"), (1, "bob"), (2,"charlie")])
people_df = people_rdd.toDF(["number", "name"])
people_df.write.partitionBy("number").format("text").save(path  )

当然这两种方法都有一个缺陷,就是当数据量特别大的时候,数据在repartition的过程中特别耗费资源,也会容易出现任务failed的情况,小编采用的解决办法是,适当的对原rdd进行split,然后遍历每个rdd,进行multioutput操作

形似如下:

val rdd = sc.textFile(input)
var split_rdd = rdd.randomSplit(Array(1.0,1.0,1.0,1.0))
for (one <- Array(1,2,3,4))
{
    split_rdd(one)XXXX
}

参考:

版权声明:本文内容由阿里云实名注册用户自发贡献,版权归原作者所有,阿里云开发者社区不拥有其著作权,亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容,填写侵权投诉表单进行举报,一经查实,本社区将立刻删除涉嫌侵权内容。

相关文章
【ASM】udev简介及配置、多路径(multipath)等
【ASM】udev简介及配置、多路径等 【ASM】Oracle ASM + 11gR2 + RHEL6.
910 0
阿里云服务器端口号设置
阿里云服务器初级使用者可能面临的问题之一. 使用tomcat或者其他服务器软件设置端口号后,比如 一些不是默认的, mysql的 3306, mssql的1433,有时候打不开网页, 原因是没有在ecs安全组去设置这个端口号. 解决: 点击ecs下网络和安全下的安全组 在弹出的安全组中,如果没有就新建安全组,然后点击配置规则 最后如上图点击添加...或快速创建.   have fun!  将编程看作是一门艺术,而不单单是个技术。
3960 0
排序算法(三):插入排序
插入排序算法维护一个已排序集合和一个待排序集合,每轮迭代,从待排序集合中选择一个元素,插入到已排序集合中的适当位置,通过多次迭代,最终完成排序。
803 0
Java Comparator排序
ArrayList mItems = new ArrayList(); for (int i = 0; i < 10; i++) { mItems.
882 0
算法研究之插入排序、冒泡排序
1、插入排序:插入是比较简单的一种排序方法,基本思想就是把数据分组两段,一部分是有序,另一部分是待排序的。把有序的数据不断的加大到全数组完成排序。 从左到右将有序数组逐渐增大。 public class Sort { public void insertSort(int[] arrays) { for (int i = 0; i < arrays.
568 0
+关注
thinkgamer.cn
wechat 搜索【数据与算法联盟】,专注于云计算和算法,目前就职于京东
121
文章
0
问答
文章排行榜
最热
最新
相关电子书
更多
文娱运维技术
立即下载
《SaaS模式云原生数据仓库应用场景实践》
立即下载
《看见新力量:二》电子书
立即下载