一、前言
「网络」一直以来都是黑客最热衷的竞技场。数据在网络中肆意传播:主机扫描、代码注入、网络嗅探、数据篡改重放、拒绝服务攻击……黑客的功底越深厚,能做的就越多。
Python 作为一种解释型脚本语言,自 1991 年问世以来,其简洁、明确、可读性强的语法深受黑客青睐,特别在网络工具的编写上,避免了繁琐的底层语法,没有对运行速度的高效要求,使得 Python 成为安全工作者的必备杀手锏。
本文先介绍因特网的核心协议 TCP ,再以 Python 的 socket 模块为例介绍网络套接字,最后给出 TCP 服务器与客户端的 Python 脚本,并演示两者之间的通信过程。
二、TCP 协议
TCP(Transmission Control Protocol,传输控制协议)是一种面向连接、可靠的、基于字节流的传输层通信协议。
TCP 协议的执行过程分为连接创建
(Connection Establishment)、数据传送
(Data Transfer)和连接终止
(Connection Termination)三个阶段,其中「连接创建」与「连接终止」分别是耳熟能详的 TCP 协议三次握手
(TCP Three-way Handshake)与四次挥手
(TCP Four-way Handshake),也是理解本文 TCP 服务器与客户端通信过程的两个核心阶段。
为了能更好地理解下述过程,对 TCP 协议头的关键区段做以下几点说明:
- 报文的功能在 TCP 协议头的
标记符
(Flags)区段中定义,该区段位于第 104~111 比特位,共占 8 比特,每个比特位对应一种功能,置 1 代表开启,置 0 代表关闭。例如,SYN 报文的标记符为00000010
,ACK 报文的标记符为00010000
,ACK + SYN 报文的标记符为00010010
。 - 报文的序列号在 TCP 协议头的
序列号
(Sequence Number)区段中定义,该区段位于第 32~63 比特位,共占 32 比特。例如,在「三次握手」过程中,初始序列号由数据发送方随机生成。 - 报文的确认号在 TCP 协议头的
确认号
(Acknowledgement Number)区段中定义,该区段位于第 64~95 比特位,共占 32 比特。例如,在「三次握手」过程中,确认号为前序接收报文的序列号加 1,代表下一次期望接收到的报文序列号。
2.1 连接创建(Connection Establishment)
所谓的「三次握手」,即 TCP 服务器与客户端成功建立通信连接必经的三个步骤,共需通过三个报文完成。
一般而言,首先发送 SYN 报文的一方是客户端,服务器则是监听来自客户端的建立连接请求。
Handshake Step 1
客户端向服务器发送 SYN 报文(SYN = 1)请求建立连接。
此时报文的初始序列号为seq = x ,确认号为 ack = 0。发送完毕后,客户端进入 SYN_SENT
状态。
Handshake Step 2
服务器接收到客户端的 SYN 报文后,发送 ACK + SYN 报文(ACK = 1,SYN = 1,)确认客户端的建立连接请求,并也向其发起建立连接请求。
此时报文的序列号为seq = y ,确认号为ack = x + 1 。发送完毕后,服务器进入 SYN_RCVD
状态。
Handshake Step 3
客户端接收到服务器的 SYN 报文后,发送 ACK 报文(ACK = 1)确认服务器的建立连接请求。
此时报文的序列号为seq = x + 1 ,确认号为 ack = y + 1 。发送完毕后,客户端进入 ESTABLISHED
状态;当服务器接收该报文后,也进入了 ESTABLISHED
状态。
至此,「三次握手」过程全部结束,TCP 通信连接成功建立。
读者可参照以下「三次握手」的示意图进行理解:
2.2 连接终止(Connection Termination)
所谓的「四次挥手」,即 TCP 服务器与客户端完全终止通信连接必经的四个步骤,共需通过四个报文完成。
由于 TCP 通信连接是全双工的,因此每个方向的连接可以单独关闭,即可视为一对「二次挥手」,或一对单工连接。主动先发送 FIN 报文的一方,意味着想要关闭到另一方的通信连接,即在此方向上不再传输数据,但仍可以接收来自另一方传输过来的数据,直到另一方也发送 FIN 报文,双方的通信连接才完全终止。
注意,首先发送 FIN 报文的一方,既可以是客户端,也可以是服务器。下面以客户端先发起关闭请求为例,对「四次挥手」的过程进行讲解。
Handshake Step 1
当客户端不再向服务器传输数据时,则向其发送 FIN 报文(FIN = 1 )请求关闭连接。
此时报文的初始序列号为seq = u ,确认号为ack = 0 (若此报文中ACK = 1 ,则ack 的值与客户端的前序接收报文有关)。发送完毕后,客户端进入 FIN_WAIT_1
状态。
Handshake Step 2
服务器接收到客户端的 FIN 报文后,发送 ACK 报文(ACK = 1 )确认客户端的关闭连接请求。
此时报文的序列号为seq = v ,确认号为 ack = u + 1。发送完毕后,服务器进入 CLOSE_WAIT
状态;当客户端接收该报文后,进入 FIN_WAIT_2
状态。
注意,此时 TCP 通信连接处于半关闭
状态,即客户端不再向服务器传输数据,但仍可以接收服务器传输过来的数据。
Handshake Step 3
当服务器不再向客户端传输数据时,则向其发送 FIN + ACK
报文(FIN = 1,ACK = 1)请求关闭连接。此时报文的序列号为seq = w (若在半关闭状态,服务器没有向客户端传输过数据,则seq = v + 1 ),确认号为 ack = u + 1。发送完毕后,服务器进入 LAST_ACK
状态。
Handshake Step 4
客户端接收到服务器的 FIN + ACK
报文后,发送 ACK 报文(ACK = 1)确认服务器的关闭连接请求。
此时报文的序列号为 seq = u + 1,确认号为 ack = w + 1。发送完毕后,客户端进入 TIME_WAIT
状态;当服务器接收该报文后,进入 CLOSED
状态;当客户端等待了 2MSL 后,仍没接到服务器的响应,则认为服务器已正常关闭,自己也进入 CLOSED
状态。
至此,「四次挥手」过程全部结束,TCP 通信连接成功关闭。
读者可参照以下「四次挥手」的示意图进行理解:
三、Network Socket
Network Socket
(网络套接字)是计算机网络中进程间通信的数据流端点,广义上也代表操作系统提供的一种进程间通信机制。
进程间通信
(Inter-Process Communication,IPC)的根本前提是能够唯一标示每个进程
。在本地主机的进程间通信中,可以用 PID(进程 ID)唯一标示每个进程,但 PID 只在本地唯一,在网络中不同主机的 PID 则可能发生冲突,因此采用「IP 地址 + 传输层协议 + 端口号」
的方式唯一标示网络中的一个进程。
小贴士:网络层的 IP 地址可以唯一标示主机,传输层的 TCP/UDP 协议和端口号可以唯一标示该主机的一个进程。注意,同一主机中 TCP 协议与 UDP 协议的可以使用相同的端口号。
所有支持网络通信的编程语言都各自提供了一套 socket API,下面以 Python 3 为例,讲解服务器与客户端建立 TCP 通信连接的交互过程:
脑海中先对上述过程产生一定印象后,更易于理解下面两节 TCP 服务器与客户端的 Python 实现。
四、TCP 服务器
#!/usr/bin/envpython3 #-*-coding:utf-8-*- importsocket importthreading deftcplink(conn,addr): print("Acceptnewconnectionfrom%s:%s"%addr) conn.send(b"Welcome!\n") whileTrue: conn.send(b"What'syourname?") data=conn.recv(1024) ifdata==b"exit": conn.send(b"Goodbye!\n") break conn.send(b"Hello%s!\n"%data) conn.close() print("Connectionfrom%s:%sisclosed"%addr) s=socket.socket(socket.AF_INET,socket.SOCK_STREAM) s.bind(("127.0.0.1",6000)) s.listen(5) print("Waitingforconnection...") whileTrue: conn,addr=s.accept() t=threading.Thread(target=tcplink,args=(conn,addr)) t.start()
- Line 6:定义一个 tcplink() 函数,第一个 conn 参数为服务器与客户端交互数据的套接字对象,第二个 addr 参数为客户端的 IP 地址与端口号,用二元组 (host, port) 表示。
- Line 8:连接成功后,向客户端发送欢迎信息 b"Welcome!\n"。
- Line 9:进入与客户端交互数据的循环阶段。
- Line 10:向客户端发送询问信息 b"What's your name?"。
- Line 11:接收客户端发来的 bytes 对象。
- Line 12:若 bytes 对象为 b"exit",则向客户端发送结束响应信息 b"Good bye!\n",并结束与客户端交互数据的循环阶段。
- Line 15:若 bytes 对象不为 b"exit",则向客户端发送问候响应信息 b"Hello %s!\n",其中 %s 是客户端发来的 bytes 对象。
- Line 16:关闭套接字,不再向客户端发送数据。
- Line 19:创建 socket 对象,第一个参数为 socket.AF_INET,代表采用 IPv4 协议用于网络通信,第二个参数为 socket.SOCK_STREAM,代表采用 TCP 协议用于面向连接的网络通信。
- Line 20:向 socket 对象绑定服务器主机地址 (“127.0.0.1”, 6000),即本地主机的 TCP 6000 端口。
- Line 21:开启 socket 对象的监听功能,等待客户端的连接请求。
- Line 24:进入监听客户端连接请求的循环阶段。
- Line 25:接收客户端的连接请求,并获得与客户端交互数据的套接字对象 conn 与客户端的 IP 地址与端口号 addr,其中 addr 为二元组 (host, port)。
- Line 26:利用多线程技术,为每个请求连接的 TCP 客户端创建一个新线程,实现了一台服务器同时与多台客户端进行通信的功能。
- Line 27:开启新线程的活动。
五、TCP 客户端
#!/usr/bin/envpython3 #-*-coding:utf-8-*- importsocket s=socket.socket(socket.AF_INET,socket.SOCK_STREAM) s.connect(("127.0.0.1",6000)) print(s.recv(1024).decode()) data="client" whileTrue: ifdata: print(s.recv(1024).decode()) data=input("Pleaseinputyourname:") ifnotdata: continue s.send(data.encode()) print(s.recv(1024).decode()) ifdata=="exit": break s.close()
- Line 5:创建 socket 对象,第一个参数为 socket.AF_INET,代表采用 IPv4 协议用于网络通信,第二个参数为 socket.SOCK_STREAM,代表采用 TCP 协议用于面向连接的网络通信。
- Line 6:向 (“127.0.0.1”, 6000) 主机发起连接请求,即本地主机的 TCP 6000 端口。
- Line 7:连接成功后,接收服务器发来的欢迎信息 b"Welcome!\n",并转换为字符串后打印输出。
- Line 9:创建一个非空字符串变量 data,并赋初值为 "client"(只要是非空字符串即可),用于判断是否接收来自服务器发来的询问信息 b"What's your name?"。
- Line 10:进入与服务器交互数据的循环阶段。
- Line 11:当变量 data 非空时,则接收服务器发来的询问信息。
- Line 13:要求用户输入名字。
- Line 14:当用户的输入为空时,则重新开始循环,要求用户重新输入。
- Line 16:当用户的输入非空时,则将字符串转换为 bytes 对象后发送至服务器。
- Line 17:接收服务器的响应数据,并将响应的 bytes 对象转换为字符串后打印输出。
- Line 18:当用户的输入为 "exit" 时,则终止与服务器交互数据的循环阶段,即将关闭套接字。
- Line 21:关闭套接字,不再向服务器发送数据。
六、TCP 进程间通信
将 TCP 服务器与客户端的脚本分别命名为 tcp_server.py 与 tcp_client.py,然后存至桌面,笔者将在 Windows 10 系统下用 PowerShell 进行演示。
小贴士:读者进行复现时,要确保本机已安装 Python 3,注意笔者已将默认的启动路径名 python 改为了 python3。
单服务器 VS 单客户端
- 在其中一个 PowerShell 中运行命令 python3 ./tcp_server.py,服务器显示 Waiting for connection...,并监听本地主机的 TCP 6000 端口,进入等待连接状态;
- 在另一个 PowerShell 中运行命令 python3 ./tcp_client.py,服务器显示 Accept new connection from 127.0.0.1:42101,完成与本地主机的 TCP 42101 端口建立通信连接,并向客户端发送欢迎信息与询问信息,客户端接收到信息后打印输出;
- 若客户端向服务器发送字符串 Alice 与 Bob,则收到服务器的问候响应信息;
- 若客户端向服务器发送空字符串,则被要求重新输入;
- 若客户端向服务器发送字符串 exit,则收到服务器的结束响应信息;
- 客户端与服务器之间的通信连接已关闭,服务器显示 Connection from 127.0.0.1:42101 is closed,并继续监听客户端的连接请求。
单服务器 VS 多客户端
- 在其中一个 PowerShell 中运行命令 python3 ./tcp_server.py,服务器显示 Waiting for connection...,并监听本地主机的 TCP 6000 端口,进入等待连接状态;
- 在另三个 PowerShell 中分别运行命令 python3 ./tcp_client.py,服务器同时与本地主机的 TCP 42719、42721、42722 端口建立通信连接,并分别向客户端发送欢迎信息与询问信息,客户端接收到信息后打印输出;
- 三台客户端分别向服务器发送字符串 Client1、Client2、Client3,并收到服务器的问候响应信息;
- 所有客户端分别向服务器发送字符串 exit,并收到服务器的结束响应信息;
- 所有客户端与服务器之间的通信连接已关闭,服务器继续监听客户端的连接请求。
七、Python API Reference
socket 模块
本节介绍上述代码中用到的内建模块 socket,是 Python 网络编程的核心模块。
socket() 函数
socket() 函数用于创建网络通信中的套接字对象。函数原型如下:
socket.socket(family=AF_INET,type=SOCK_STREAM,proto=0,fileno=None)
family 参数代表地址族(Address Family),默认值为 AF_INET,用于 IPv4 网络通信,常用的还有 AF_INET6,用于 IPv6 网络通信。family 参数的可选值取决于本机操作系统。
type 参数代表套接字的类型,默认值为 SOCK_STREAM,用于 TCP 协议(面向连接)的网络通信,常用的还有 SOCK_DGRAM,用于 UDP 协议(无连接)的网络通信。
proto 参数代表套接字的协议,默认值为 0,一般忽略该参数,除非 family 参数为 AF_CAN,则 proto 参数需设置为 CAN_RAW 或 CAN_BCM。
fileno 参数代表套接字的文件描述符,默认值为 None,若设置了该参数,则其他三个参数将会被忽略。创建完套接字对象后,需使用对象的内置函数完成网络通信过程。注意,以下函数原型中的「socket」是指 socket 对象,而不是上述的 socket 模块。
bind() 函数
bind() 函数用于向套接字对象绑定 IP 地址与端口号。注意,套接字对象必须未被绑定,并且端口号未被占用,否则会报错。函数原型如下:
socket.bind(address)
address 参数代表套接字要绑定的地址,其格式取决于套接字的 family 参数。若 family 参数为 AF_INET,则 address 参数表示为二元组 (host, port),其中 host 是用字符串表示的主机地址,port 是用整型表示的端口号。
listen() 函数
listen() 函数用于 TCP 服务器开启套接字的监听功能。函数原型如下:
socket.listen([backlog])
backlog 可选参数代表套接字在拒绝新连接之前,操作系统可以挂起的最大连接数。backlog 参数一般设置为 5,若未设置,系统会为其自动设置一个合理的值。
connect() 函数
connect() 函数用于 TCP 客户端向 TCP 服务器发起连接请求。函数原型如下:
socket.connect(address)
address 参数代表套接字要连接的地址,其格式取决于套接字的 family 参数。若 family 参数为 AF_INET,则 address 参数表示为二元组 (host, port),其中 host 是用字符串表示的主机地址,port 是用整型表示的端口号。
accept() 函数
accept() 函数用于 TCP 服务器接受 TCP 客户端的连接请求。函数原型如下:
socket.accept()
accept() 函数的返回值是二元组 (conn, address),其中 conn 是服务器用来与客户端交互数据的套接字对象,address 是客户端的 IP 地址与端口号,用二元组 (host, port) 表示。
send() 函数
send() 函数用于向远程套接字对象发送数据。注意,本机套接字必须与远程套接字成功连接后才能使用该函数,否则会报错。可见,send() 函数只能用于 TCP 进程间通信,而对于 UDP 进程间通信应该用 sendto() 函数。函数原型如下:
socket.send(bytes[,flags])
bytes 参数代表即将发送的 bytes 对象数据。例如,对于字符串 "hello world!" 而言,需要用 encode() 函数转换为 bytes 对象 b"hello world!" 才能进行网络传输。
flags 可选参数用于设置 send() 函数的特殊功能,默认值为 0,也可由一个或多个预定义值组成,用位或操作符 | 隔开。详情可参考 Unix 函数手册中的 send(2),flags 参数的常见取值有 MSG_OOB、MSG_EOR 、MSG_DONTROUTE等。
send() 函数的返回值是发送数据的字节数。
recv() 函数
recv() 函数用于从远程套接字对象接收数据。注意,与 send() 函数不同,recv() 函数既可用于 TCP 进程间通信,也能用于 UDP 进程间通信。函数原型如下:
socket.recv(bufsize[,flags])
bufsize 参数代表套接字可接收数据的最大字节数。注意,为了使硬件设备与网络传输更好地匹配,bufsize 参数的值最好设置为 2 的幂次方,例如 4096。
flags 可选参数用于设置 recv() 函数的特殊功能,默认值为 0,也可由一个或多个预定义值组成,用位或操作符 | 隔开。详情可参考 Unix 函数手册中的 recv(2),flags 参数的常见取值有 MSG_OOB、MSG_PEEK、MSG_WAITALL 等。
recv() 函数的返回值是接收到的 bytes 对象数据。例如,接收到 bytes 对象 b"hello world!",最好用 decode() 函数转换为字符串 "hello world!" 再打印输出。
close() 函数
close() 函数用于关闭本地套接字对象,释放与该套接字连接的所有资源。
socket.close()
threading 模块
本节介绍上述代码中用到的内建模块 threading,是 Python 多线程的核心模块。
Thread() 类
Thread() 类可以创建线程对象,用于调用 start() 函数启动新线程。类原型如下:
classthreading.Thread(group=None,target=None,name=None,args=(),kwargs={},*,daemon=None)
- group 参数作为以后实现 ThreadGroup() 类的保留参数,目前默认值为 None。
- target 参数代表线程被 run() 函数激活后调用的函数,默认值为 None,即没有任何函数会被调用。
- name 参数代表线程名,默认值为 None,则系统会自动为其命名,格式为「Thread-N」,N 是从 1 开始的十进制数。
- args 参数代表 target 参数指向函数的普通参数,用元组(tuple)表示,默认值为空元组 ()。
- kwargs 参数代表 target 参数指向函数的关键字参数,用字典(dict)表示,默认值为空字典 {}。
- daemon 参数用于标示进程是否为守护进程。若设置为 True,则标示为守护进程;若设置为 False,则标示为非守护进程;若设置为 None,则继承当前父线程的 daemon 参数值。
- 创建完线程对象后,需使用对象的内置函数控制多线程活动。
start() 函数
start() 函数用于开启线程活动。函数原型如下:
Thread.start()
注意,每个线程对象只能调用一次 start() 函数,否则会导致 RuntimeError 错误。
八、总结
本文介绍了 TCP 协议与 socket 编程的基础知识,再用 Python 3 实现并演示了 TCP 服务器与客户端的通信过程,其中还运用了简单的多线程技术,最后将脚本中涉及到的 Python API 做成了的参考索引,有助于理解实现过程。