作者：无谓 阿里巴巴高级技术专家，2008年加入阿里巴巴集团，先后在B2B和阿里云工作，一直从事大数据和分布式计算相关研究，作为主要开发和运维人员经历了阿里内部大数据集群的上线和发展壮大，现在阿里云EMR团队，负责Spark、Hadoop等计算引擎研发。
本文演示了在Spark Shell中通过spark-redis组件读写Redis数据的场景。所有场景在阿里云E-MapReduce集群内完成，Redis使用阿里云数据库Redis。
创建服务
我们以EMR-3.21.0版本和Redis 4.0为例。EMR集群安装的Spark版本是2.4.3，我们需要使用对应的Spark-Redis 2.4版本，该组件可以支持Redis 2.9.0以上版本。
EMR和Redis需要在同一个VPC网络中创建，同时，在云数据库Redis实例启动之后，需要在“白名单设置”中添加EMR集群IP地址（参考Redis快速入门文档）。
启动Spark Shell
接下去，我们登录EMR Master节点启动Spark Shell。如果Master节点可以连接外网，可以使用package方式加载spark-redis相关jar包：
--conf spark.redis.host=hostname \
--conf spark.redis.port=6379 \
--conf spark.redis.auth=password
AI 代码解读
spark.redis.host等参数可以在命令行指定，也可以配置在 spark-defaults.conf 中，也可以在代码中指定。其中：
1.spark.redis.host：Redis内网连接地址
2.spark.redis.port：Redis服务端口号
3.spark.redis.auth：创建Redis实例时指定的密码
也可以通过--jars的方式指定依赖的jar包：
--conf spark.redis.host=hostname \
--conf spark.redis.port=6379 \
--conf spark.redis.auth=password
AI 代码解读
通过Spark写入数据到Redis（RDD）
import com.redislabs.provider.redis._
scala> val data = Array(("key1", "v1"), ("key2", "world"), ("key3", "hello"), ("key4", "Hong"), ("key5", "Kong"))
data: Array[(String, String)] = Array((key1,v1), (key2,world), (key3,hello), (key4,Hong), (key5,Kong))
scala> val distData = sc.parallelize(data)
distData: org.apache.spark.rdd.RDD[(String, String)] = ParallelCollectionRDD[0] at parallelize at <console>:29
scala> sc.toRedisKV(distData)
AI 代码解读
读取Redis（RDD）
stringRDD: org.apache.spark.rdd.RDD[String] = MapPartitionsRDD[3] at map at <console>:27
scala> val values = stringRDD.collect()
values: Array[String] = Array(world, hello, v1, Kong, Hong)
scala> println(values.mkString(","))
world,hello,v1,Kong,Hong
AI 代码解读
Spark DataFrame写入Redis
defined class Person
scala> val personSeq = Seq(Person("John", 30), Person("Peter", 45))
personSeq: Seq[Person] = List(Person(John,30), Person(Peter,45))
scala> val df = spark.createDataFrame(personSeq)
df: org.apache.spark.sql.DataFrame = [name: string, age: int]
scala> df.write.format("org.apache.spark.sql.redis").option("table", "person").save()
AI 代码解读
参考文档
更多使用spark-redis的方式请参考官方文档：
1.spark-redis Package：https://spark-packages.org/package/RedisLabs/spark-redis
2.spark-redis Github：https://github.com/RedisLabs/spark-redis
