Sparkstreaming 案例 — socket 回顾 | 学习笔记

简介: 快速学习 Sparkstreaming 案例 — socket 回顾

开发者学堂课程【大数据Spark2020版(知识精讲与实战演练)第五阶段:Sparkstreaming 案例 — socket 回顾】学习笔记,与课程紧密联系,让用户快速学习知识。

课程地址:https://developer.aliyun.com/learning/course/692/detail/12129


Sparkstreaming 案例 — socket 回顾

内容介绍

一、案例流程

二、Socket 回顾

三、Tcp  三次握手建立连接

 

一、案例流程

流式计算存在前提:

一个源源不断产生数据的数据源,首先创建一个 socket server,当作数据源,将数据进行处理放入 Spark Streaming 的程序中,将处理完的数据进行一个批次一个批次的处理,处理完后,可以将数据放入打印在控制台中,或者放入外部存储当中。这时可以使用 comsole 进行打印。

运用 net cat 创建 Socket,创建完成通过 netcat 完成之后创建工程 编写 Sparkstreaming 编码,编写后完成后,进行运行。

 

二、Socket 回顾

回顾原因

1. 在面试时经常问道建立 socket 三次握手建立的过程,和 socket 的含义与功能。

2.使用大概了解功能,是什么。

Socket 是 java 中为了支持基于 tcp/udp 协议的通信所提供的编程模型

Socket 是一种编程模型,编程模型:所编写的一类,通过编程模型去模拟反应客户端与服务器之间通信。

Socket 支持的类型:tcp 和 udp

Tcp: 保证通信安全

Udp:不保证,只管发送

Socket 分为 Socketserver 和 socket clicent

Socket serve

作用:监听某一个端口,通过 socket 来建立 clicent 发过来的连接请求,建立连接,通过图形表现

image.png

首先 socket 服务器占用某一个端口,通过 socket clicent 建立连接

连接建立后可以向 socket clicent 发送 tcp (被动)消息

socket clicent

通过 client 连接端口,建立完成后,向 Socket serve

发送 tcp packet 实现交互(主动)启动需要建立连接

 

三、Tcp 三次握手建立连接

第一步

client 向 serve 发送 SYN,进入 SYN -SEND

状态等待 serve 相应

第二步

serve 自身携带随机数j收到 client 的 syn 并发送确认包 ack(j+1),ack(j+1)同时自己发送一个请求连接

ack(j+1)目的是确认连接请求,

Syn 给 client 携带随机数k,进入 SYN -SEND 状态等待 client 确认

第三步

Client 收到 serve 的确认包 ack(j+1)向 serve 发送链接确认,此时连接确认,

ACK(K+1)此时 Client 和 serve 都进入 ESTABLISHED 状态,准备数据发送

图形展示如下:

image.png

此次三次建立过程,面试经常使用

总结:

为第一次请求连接,第二次 Client 向客户端发送准备完成消息,第三次客户端回复准备完成消息,即可连接建立成功

相关实践学习
容器服务Serverless版ACK Serverless 快速入门:在线魔方应用部署和监控
通过本实验,您将了解到容器服务Serverless版ACK Serverless 的基本产品能力,即可以实现快速部署一个在线魔方应用,并借助阿里云容器服务成熟的产品生态,实现在线应用的企业级监控,提升应用稳定性。
云原生实践公开课
课程大纲 开篇:如何学习并实践云原生技术 基础篇: 5 步上手 Kubernetes 进阶篇:生产环境下的 K8s 实践 相关的阿里云产品:容器服务 ACK 容器服务 Kubernetes 版(简称 ACK)提供高性能可伸缩的容器应用管理能力,支持企业级容器化应用的全生命周期管理。整合阿里云虚拟化、存储、网络和安全能力,打造云端最佳容器化应用运行环境。 了解产品详情: https://www.aliyun.com/product/kubernetes
相关文章
|
7月前
|
安全 网络协议 Java
Thread类的用法 && 线程安全 && 多线程代码案例 && 文件操作和 IO && 网络原理初识 &&UDP socket
Thread类的用法 && 线程安全 && 多线程代码案例 && 文件操作和 IO && 网络原理初识 &&UDP socket
40 0
|
9月前
|
前端开发
前端学习笔记202305学习笔记第二十九天-Socket.io文本编辑实时共享之socket发送文本状态2
前端学习笔记202305学习笔记第二十九天-Socket.io文本编辑实时共享之socket发送文本状态2
33 0
|
9月前
|
前端开发
前端学习笔记202305学习笔记第二十九天-Socket.io文本编辑实时共享之自定义指令创建之2
前端学习笔记202305学习笔记第二十九天-Socket.io文本编辑实时共享之自定义指令创建之2
33 0
|
9月前
|
JavaScript 前端开发
前端学习笔记202305学习笔记第二十九天-Socket.io文本编辑实时共享之原生dom导入和移除的技巧2
前端学习笔记202305学习笔记第二十九天-Socket.io文本编辑实时共享之原生dom导入和移除的技巧2
25 0
|
7月前
|
前端开发 JavaScript Java
SpringBoot整合Socket实战案例,实现单点、群发,1对1,1对多
本篇内容: 后端 + 前端简单HTML页面 功能场景点: 群发,所有人都能收到 局部群发,部分人群都能收到 单点推送, 指定某个人的页面
|
8月前
|
弹性计算 负载均衡 监控
记一次socket read导致业务线程阻塞的案例分析
记一次socket read导致业务线程阻塞的案例分析
250 3
|
9月前
|
前端开发
前端学习笔记202305学习笔记第二十九天-Socket.io文本编辑实时共享之创建客户端和socket链接1
前端学习笔记202305学习笔记第二十九天-Socket.io文本编辑实时共享之创建客户端和socket链接1
40 0
|
9月前
|
前端开发
前端学习笔记202305学习笔记第二十九天-Socket.io文本编辑实时共享之响应式和视图数据渲染1
前端学习笔记202305学习笔记第二十九天-Socket.io文本编辑实时共享之响应式和视图数据渲染1
31 1
|
9月前
|
前端开发
前端学习笔记202305学习笔记第二十九天-Socket.io文本编辑实时共享之socket发送文本状态3
前端学习笔记202305学习笔记第二十九天-Socket.io文本编辑实时共享之socket发送文本状态3
23 0
|
9月前
|
前端开发
前端学习笔记202305学习笔记第二十九天-Socket.io文本编辑实时共享之socket发送文本状态1
前端学习笔记202305学习笔记第二十九天-Socket.io文本编辑实时共享之socket发送文本状态1
23 0