Spark学习[扩展阅读] 详解 Spark RDD
为了能解决程序员能在大规模的集群中以一种容错的方式进行内存计算这个问题, 我们提出了 RDDs 的概念. 当前的很多框架对迭代式算法场景与交互性数据挖掘场景的处理性能非常差, 这个是 RDDs 的提出的动机.
Scala入门到精通——第八节 包和引入
本节主要内容
包的作用与定义
包的作用域与引入(import)的使用方法
访问控制
包对象
import高级特性
内部类
包的作用与定义
同java中的包、C++中的命名空间一样,Scala中的包主要用于大型工程代码的组织同时也解决命名冲突的问题。Scala中的包与java有着诸多的相似之处,但Scala语言中的包更加灵活。
//将代码组织到cn.scala.
如何做Spark 版本兼容
我们知道Spark2.0 ,Spark 1.6还有Spark 1.5 三者之间版本是不兼容的,尤其是一些内部API变化比较大。如果你的系统使用了不少底层的API,那么这篇文章或许对你有帮助。我们介绍的兼容相关一些技巧,主要包括动态编译以及反射等方式,也用到了Scala的一些语言特性。
Scala入门到精通——第十六节 泛型与注解
本节主要内容
泛型(Generic Type)简介
注解(Annotation)简介
注解常用场景
1. 泛型(Generic Type)简介
泛型用于指定方法或类可以接受任意类型参数,参数在实际使用时才被确定,泛型可以有效地增强程序的适用性,使用泛型可以使得类或方法具有更强的通用性。泛型的典型应用场景是集合及集合中的方法参数,可以说同java一样,scala中泛型无
Scala: Range & 实现集合中相邻元素间的差值
Scala中Range可以看成是List的特例,Range的包含的元素类型是Int, 本文介绍如何创建Range。代码这东西,不写肯定不行,新学Scala不久,将实际遇到的一些问题记录下来,日后也好查找。 今天讲的是如何计算同一集合中元素两两之间的差值,即求开始集合(a,b,c,d)中(b-a,c-
Java Optional空指针处理
直到真正了解了空指针异常,才能算一名合格的Java开发人员。在我们逼格闪闪的java码字符生涯中,每天都会遇到各种null的处理,Java8之后提供了一种更优雅的方式来处理空指针——Optional。