1. 前言
Serverless 概念自被提出就倍受关注，尤其是近些年来 Serverless 焕发出了前所未有的活力，各领域的工程师都在试图将 Serverless 架构与自身工作进行相结合，以获取到 Serverless 架构所带来的“技术红利”。
验证码（CAPTCHA）是“Completely Automated Public Turing test to tell Computers and Humans Apart”（全自动区分计算机和人类的图灵测试）的缩写，是一种区分用户是计算机还是人的公共全自动程序。可以防止：恶意破解密码、刷票、论坛灌水，有效防止某个黑客对某一个特定注册用户用特定程序暴力破解方式进行不断的登录尝试，实际上用验证码是现在很多网站通行的方式，我们利用比较简易的方式实现了这个功能。这个问题可以由计算机生成并评判，但是必须只有人类才能解答。由于计算机无法解答 CAPTCHA 的问题，所以回答出问题的用户就可以被认为是人类。说白了，验证码就是用来验证的码，验证是人访问的还是机器访问的“码”。
2. 浅谈验证码
验证码的发展，可以说是非常迅速的，从开始的单纯数字验证码，到后来的数字+字母验证码，再到后来的数字+字母+中文的验证码以及图形图像验证码，可以说就单纯的验证码素材已经越来越多了，从验证码的形态来看，也是各不相同，输入、点击、拖拽以及短信验证码、语音验证码……
例如 Bilibili 的登录验证码就包括了多种模式，例如滑动滑块进行验证：
例如，通过依次点击文字进行验证：
而百度贴吧、知乎、以及 Google 等相关网站的验证码又各不相同，例如选择正着写的文字，选择包括指定物体的图片以及按顺序点击图片中的字符等。
验证码的识别可能会根据验证码的类型而不太一致，当然最简单的验证码可能就是最原始的文字验证码了：
即便是文字验证码，也是存在很多差异的，例如简单的数字验证码，简单的数字+字母验证码，文字验证码，验证码中包括计算，简单验证码中增加一些干扰成为复杂验证码等。
3. 验证码识别
3.1 简单验证码识别
验证码识别是一个古老的研究领域，简单说就是把图片上的文字转化为文本的过程。在最近几年随着大数据的发展，广大爬虫工程师在对抗反爬策略时，对验证码识别要求也越来越高。在简单验证码的时代，验证码的识别主要是针对文本验证码，通过图像的切割，对验证码每一部分裁剪，然后再对每个裁剪单元进行相似度对比，获得最可能的结果，最后进行拼接，例如将验证码：
进行二值化等操作：
完成之后再进行切割：
切割完成在进行识别，再进行拼接，这样的做法是，针对每个字符进行识别，相对来说是比较容易的。
但是随着时间的发展，这种简单验证码逐渐的没有办法满足判断“是人还是机器”的问题的时候，验证码进行了一次小升级，即验证码上面增加了一些干扰线，或者验证码进行了严重的扭曲，增加了强色块干扰，例如 Dynadot 网站的验证码：
不仅有图像扭曲重叠，还有干扰线和色块干扰。这个时候想要识别验证码，简单的切割识别就很难获得良好的效果了，这个时候通过深度学习反而是可以获得不错的效果的。
3.2 基于CNN的验证码识别
卷积神经网络（Convolutional Neural Network，简称 CNN），是一种前馈神经网络，人工神经元可以响应周围单元，可以进行大型图像处理。卷积神经网络包括卷积层和池化层。
如图所示，左图是传统的神经网络，其基本结构是：输入层，隐含层，输出层。右图则是卷积神经网络，其结构由输入层、输出层、卷积层、池化层、全连接层构成，卷积神经网络其实是神经网络的一种拓展，而事实上从结构上来说，朴素的 CNN 和朴素的 NN 没有任何区别（当然，引入了特殊结构的、复杂的 CNN 会和 NN 有着比较大的区别）。相对于传统神经网络，CNN在实际效果中让我们的网络参数数量大大地减少，这样我们可以用较少的参数，训练出更加好的模型，典型的事半功倍，而且可以有效地避免过拟合。同样，由于filter的参数共享，即使图片进行了一定的平移操作，我们照样可以识别出特征，这叫做 “平移不变性”。因此，模型就更加稳健了。
3.3 验证码生成
验证码的生成是非常重要的一个步骤，因为这一部分的验证码将会作为我们的训练集和测试集，同时最终我们的模型可以识别什么类型的验证码，也是和这部分有关。
# coding:utf-8
import random
import numpy as np
from PIL import Image
from captcha.image import ImageCaptcha
CAPTCHA_LIST = [eve for eve in "0123456789abcdefghijklmnopqrsruvwxyzABCDEFGHIJKLMOPQRSTUVWXYZ"]
CAPTCHA_LEN = 4 # 验证码长度
CAPTCHA_HEIGHT = 60 # 验证码高度
CAPTCHA_WIDTH = 160 # 验证码宽度
randomCaptchaText = lambda char=CAPTCHA_LIST, size=CAPTCHA_LEN: "".join([random.choice(char) for _ in range(size)])
def genCaptchaTextImage(width=CAPTCHA_WIDTH, height=CAPTCHA_HEIGHT, save=None):
image = ImageCaptcha(width=width, height=height)
captchaText = randomCaptchaText()
if save:
image.write(captchaText, './img/%s.jpg' % captchaText)
return captchaText, np.array(Image.open(image.generate(captchaText)))
print(genCaptchaTextImage(save=True))
通过上述代码，可以生成简单的中英文验证码：
3.4 模型训练
模型训练的代码如下（部分代码来自网络）：
util.py文件，主要是一些提取出来的公有方法：
# -*- coding:utf-8 -*-
import numpy as np
from captcha_gen import genCaptchaTextImage
from captcha_gen import CAPTCHA_LIST, CAPTCHA_LEN, CAPTCHA_HEIGHT, CAPTCHA_WIDTH
# 图片转为黑白，3维转1维
convert2Gray = lambda img: np.mean(img, -1) if len(img.shape) > 2 else img
# 验证码向量转为文本
vec2Text = lambda vec, captcha_list=CAPTCHA_LIST: ''.join([captcha_list[int(v)] for v in vec])
def text2Vec(text, captchaLen=CAPTCHA_LEN, captchaList=CAPTCHA_LIST):
"""
验证码文本转为向量
"""
vector = np.zeros(captchaLen * len(captchaList))
for i in range(len(text)):
vector[captchaList.index(text[i]) + i * len(captchaList)] = 1
return vector
def getNextBatch(batchCount=60, width=CAPTCHA_WIDTH, height=CAPTCHA_HEIGHT):
"""
获取训练图片组
"""
batchX = np.zeros([batchCount, width * height])
batchY = np.zeros([batchCount, CAPTCHA_LEN * len(CAPTCHA_LIST)])
for i in range(batchCount):
text, image = genCaptchaTextImage()
image = convert2Gray(image)
# 将图片数组一维化 同时将文本也对应在两个二维组的同一行
batchX[i, :] = image.flatten() / 255
batchY[i, :] = text2Vec(text)
return batchX, batchYmodel_train.py 主要是进行模型训练，在该文件中，定义了模型的基本信息，例如该模型是三层卷积神经网络，原始图像大小是 60*160，在第一次卷积后变为 60*160， 第一池化后变为 30*80；第二次卷积后变为 30*80 ，第二次池化后变为 15*40；第三次卷积后变为 15*40 ，第三次池化后变为7*20；经过三次卷积和池化后，原始图片数据变为 7*20 的平面数据；同时项目在进行训练的时候，每隔 100 次进行一次数据测试，计算一次准确度：
# -*- coding:utf-8 -*-
import tensorflow.compat.v1 as tf
from datetime import datetime
from util import getNextBatch
from captcha_gen import CAPTCHA_HEIGHT, CAPTCHA_WIDTH, CAPTCHA_LEN, CAPTCHA_LIST
tf.compat.v1.disable_eager_execution()
variable = lambda shape, alpha=0.01: tf.Variable(alpha * tf.random_normal(shape))
conv2d = lambda x, w: tf.nn.conv2d(x, w, strides=[1, 1, 1, 1], padding='SAME')
maxPool2x2 = lambda x: tf.nn.max_pool(x, ksize=[1, 2, 2, 1], strides=[1, 2, 2, 1], padding='SAME')
optimizeGraph = lambda y, y_conv: tf.train.AdamOptimizer(1e-3).minimize(
tf.reduce_mean(tf.nn.sigmoid_cross_entropy_with_logits(labels=y, logits=y_conv)))
hDrop = lambda image, weight, bias, keepProb: tf.nn.dropout(
maxPool2x2(tf.nn.relu(conv2d(image, variable(weight, 0.01)) + variable(bias, 0.1))), keepProb)
def cnnGraph(x, keepProb, size, captchaList=CAPTCHA_LIST, captchaLen=CAPTCHA_LEN):
"""
三层卷积神经网络
"""
imageHeight, imageWidth = size
xImage = tf.reshape(x, shape=[-1, imageHeight, imageWidth, 1])
hDrop1 = hDrop(xImage, [3, 3, 1, 32], [32], keepProb)
hDrop2 = hDrop(hDrop1, [3, 3, 32, 64], [64], keepProb)
hDrop3 = hDrop(hDrop2, [3, 3, 64, 64], [64], keepProb)
# 全连接层
imageHeight = int(hDrop3.shape[1])
imageWidth = int(hDrop3.shape[2])
wFc = variable([imageHeight * imageWidth * 64, 1024], 0.01) # 上一层有64个神经元 全连接层有1024个神经元
bFc = variable([1024], 0.1)
hDrop3Re = tf.reshape(hDrop3, [-1, imageHeight * imageWidth * 64])
hFc = tf.nn.relu(tf.matmul(hDrop3Re, wFc) + bFc)
hDropFc = tf.nn.dropout(hFc, keepProb)
# 输出层
wOut = variable([1024, len(captchaList) * captchaLen], 0.01)
bOut = variable([len(captchaList) * captchaLen], 0.1)
yConv = tf.matmul(hDropFc, wOut) + bOut
return yConv
def accuracyGraph(y, yConv, width=len(CAPTCHA_LIST), height=CAPTCHA_LEN):
"""
偏差计算图，正确值和预测值，计算准确度
"""
maxPredictIdx = tf.argmax(tf.reshape(yConv, [-1, height, width]), 2)
maxLabelIdx = tf.argmax(tf.reshape(y, [-1, height, width]), 2)
correct = tf.equal(maxPredictIdx, maxLabelIdx) # 判断是否相等
return tf.reduce_mean(tf.cast(correct, tf.float32))
def train(height=CAPTCHA_HEIGHT, width=CAPTCHA_WIDTH, ySize=len(CAPTCHA_LIST) * CAPTCHA_LEN):
"""
cnn训练
"""
accRate = 0.95
x = tf.placeholder(tf.float32, [None, height * width])
y = tf.placeholder(tf.float32, [None, ySize])
keepProb = tf.placeholder(tf.float32)
yConv = cnnGraph(x, keepProb, (height, width))
optimizer = optimizeGraph(y, yConv)
accuracy = accuracyGraph(y, yConv)
saver = tf.train.Saver()
with tf.Session() as sess:
sess.run(tf.global_variables_initializer()) # 初始化
step = 0 # 步数
while True:
batchX, batchY = getNextBatch(64)
sess.run(optimizer, feed_dict={x: batchX, y: batchY, keepProb: 0.75})
# 每训练一百次测试一次
if step % 100 == 0:
batchXTest, batchYTest = getNextBatch(100)
acc = sess.run(accuracy, feed_dict={x: batchXTest, y: batchYTest, keepProb: 1.0})
print(datetime.now().strftime('%c'), ' step:', step, ' accuracy:', acc)
# 准确率满足要求，保存模型
if acc > accRate:
modelPath = "./model/captcha.model"
saver.save(sess, modelPath, global_step=step)
accRate += 0.01
if accRate > 0.90:
break
step = step + 1
train()当我们完成了这部分之后，我们可以通过本地机器对模型进行训练，我为了提升训练速度，我将代码中的 accRate 部分设置为：
if accRate > 0.90:
break也就是说，当准确率超过 90% 之后，系统就会自动停止，并且保存模型。
接下来可以进行训练：
训练时间可能会比较长，训练完成之后，可以根据结果绘图，查看随着 Step 的增加准确率的变化曲线（横轴表示训练的 Step，纵轴表示准确率）：
4. 基于 Serverless 架构的验证码识别
将上面的代码部分进行进一步整合，按照函数计算的规范进行编码：
# -*- coding:utf-8 -*-
# 核心后端服务
import base64
import json
import uuid
import tensorflow as tf
import random
import numpy as np
from PIL import Image
from captcha.image import ImageCaptcha
# Response
class Response:
def __init__(self, start_response, response, errorCode=None):
self.start = start_response
responseBody = {
'Error': {"Code": errorCode, "Message": response},
} if errorCode else {
'Response': response
}
# 默认增加uuid，便于后期定位
responseBody['ResponseId'] = str(uuid.uuid1())
print("Response: ", json.dumps(responseBody))
self.response = json.dumps(responseBody)
def __iter__(self):
status = '200'
response_headers = [('Content-type', 'application/json; charset=UTF-8')]
self.start(status, response_headers)
yield self.response.encode("utf-8")
CAPTCHA_LIST = [eve for eve in "0123456789abcdefghijklmnopqrsruvwxyzABCDEFGHIJKLMOPQRSTUVWXYZ"]
CAPTCHA_LEN = 4 # 验证码长度
CAPTCHA_HEIGHT = 60 # 验证码高度
CAPTCHA_WIDTH = 160 # 验证码宽度
# 随机字符串
randomStr = lambda num=5: "".join(random.sample('abcdefghijklmnopqrstuvwxyz', num))
randomCaptchaText = lambda char=CAPTCHA_LIST, size=CAPTCHA_LEN: "".join([random.choice(char) for _ in range(size)])
# 图片转为黑白，3维转1维
convert2Gray = lambda img: np.mean(img, -1) if len(img.shape) > 2 else img
# 验证码向量转为文本
vec2Text = lambda vec, captcha_list=CAPTCHA_LIST: ''.join([captcha_list[int(v)] for v in vec])
variable = lambda shape, alpha=0.01: tf.Variable(alpha * tf.random_normal(shape))
conv2d = lambda x, w: tf.nn.conv2d(x, w, strides=[1, 1, 1, 1], padding='SAME')
maxPool2x2 = lambda x: tf.nn.max_pool(x, ksize=[1, 2, 2, 1], strides=[1, 2, 2, 1], padding='SAME')
optimizeGraph = lambda y, y_conv: tf.train.AdamOptimizer(1e-3).minimize(
tf.reduce_mean(tf.nn.sigmoid_cross_entropy_with_logits(labels=y, logits=y_conv)))
hDrop = lambda image, weight, bias, keepProb: tf.nn.dropout(
maxPool2x2(tf.nn.relu(conv2d(image, variable(weight, 0.01)) + variable(bias, 0.1))), keepProb)
def genCaptchaTextImage(width=CAPTCHA_WIDTH, height=CAPTCHA_HEIGHT, save=None):
image = ImageCaptcha(width=width, height=height)
captchaText = randomCaptchaText()
if save:
image.write(captchaText, save)
return captchaText, np.array(Image.open(image.generate(captchaText)))
def text2Vec(text, captcha_len=CAPTCHA_LEN, captcha_list=CAPTCHA_LIST):
"""
验证码文本转为向量
"""
vector = np.zeros(captcha_len * len(captcha_list))
for i in range(len(text)):
vector[captcha_list.index(text[i]) + i * len(captcha_list)] = 1
return vector
def getNextBatch(batch_count=60, width=CAPTCHA_WIDTH, height=CAPTCHA_HEIGHT):
"""
获取训练图片组
"""
batch_x = np.zeros([batch_count, width * height])
batch_y = np.zeros([batch_count, CAPTCHA_LEN * len(CAPTCHA_LIST)])
for i in range(batch_count):
text, image = genCaptchaTextImage()
image = convert2Gray(image)
# 将图片数组一维化 同时将文本也对应在两个二维组的同一行
batch_x[i, :] = image.flatten() / 255
batch_y[i, :] = text2Vec(text)
return batch_x, batch_y
def cnnGraph(x, keepProb, size, captchaList=CAPTCHA_LIST, captchaLen=CAPTCHA_LEN):
"""
三层卷积神经网络
"""
imageHeight, imageWidth = size
xImage = tf.reshape(x, shape=[-1, imageHeight, imageWidth, 1])
hDrop1 = hDrop(xImage, [3, 3, 1, 32], [32], keepProb)
hDrop2 = hDrop(hDrop1, [3, 3, 32, 64], [64], keepProb)
hDrop3 = hDrop(hDrop2, [3, 3, 64, 64], [64], keepProb)
# 全连接层
imageHeight = int(hDrop3.shape[1])
imageWidth = int(hDrop3.shape[2])
wFc = variable([imageHeight * imageWidth * 64, 1024], 0.01) # 上一层有64个神经元 全连接层有1024个神经元
bFc = variable([1024], 0.1)
hDrop3Re = tf.reshape(hDrop3, [-1, imageHeight * imageWidth * 64])
hFc = tf.nn.relu(tf.matmul(hDrop3Re, wFc) + bFc)
hDropFc = tf.nn.dropout(hFc, keepProb)
# 输出层
wOut = variable([1024, len(captchaList) * captchaLen], 0.01)
bOut = variable([len(captchaList) * captchaLen], 0.1)
yConv = tf.matmul(hDropFc, wOut) + bOut
return yConv
def captcha2Text(image_list):
"""
验证码图片转化为文本
"""
with tf.Session() as sess:
saver.restore(sess, tf.train.latest_checkpoint('model/'))
predict = tf.argmax(tf.reshape(yConv, [-1, CAPTCHA_LEN, len(CAPTCHA_LIST)]), 2)
vector_list = sess.run(predict, feed_dict={x: image_list, keepProb: 1})
vector_list = vector_list.tolist()
text_list = [vec2Text(vector) for vector in vector_list]
return text_list
x = tf.placeholder(tf.float32, [None, CAPTCHA_HEIGHT * CAPTCHA_WIDTH])
keepProb = tf.placeholder(tf.float32)
yConv = cnnGraph(x, keepProb, (CAPTCHA_HEIGHT, CAPTCHA_WIDTH))
saver = tf.train.Saver()
def handler(environ, start_response):
try:
request_body_size = int(environ.get('CONTENT_LENGTH', 0))
except (ValueError):
request_body_size = 0
requestBody = json.loads(environ['wsgi.input'].read(request_body_size).decode("utf-8"))
imageName = randomStr(10)
imagePath = "/tmp/" + imageName
print("requestBody: ", requestBody)
reqType = requestBody.get("type", None)
if reqType == "get_captcha":
genCaptchaTextImage(save=imagePath)
with open(imagePath, 'rb') as f:
data = base64.b64encode(f.read()).decode()
return Response(start_response, {'image': data})
if reqType == "get_text":
# 图片获取
print("Get pucture")
imageData = base64.b64decode(requestBody["image"])
with open(imagePath, 'wb') as f:
f.write(imageData)
# 开始预测
img = Image.open(imageName)
img = img.resize((160, 60), Image.ANTIALIAS)
img = img.convert("RGB")
img = np.asarray(img)
image = convert2Gray(img)
image = image.flatten() / 255
return Response(start_response, {'result': captcha2Text([image])})
在这个函数部分，主要包括两个接口：
获取验证码：用户测试使用，生成验证码；
获取验证码识别结果：用户识别使用，识别验证码；
这部分代码，所需要的依赖内容：
tensorflow==1.13.1
numpy==1.19.4
scipy==1.5.4
pillow==8.0.1
captcha==0.3另外，为了更加简单的来体验，提供测试页面，测试页面的后台服务使用 Python Web Bottle 框架：
# -*- coding:utf-8 -*-
import os
import json
from bottle import route, run, static_file, request
import urllib.request
url = "http://" + os.environ.get("url")
@route('/')
def index():
return static_file("index.html", root='html/')
@route('/get_captcha')
def getCaptcha():
data = json.dumps({"type": "get_captcha"}).encode("utf-8")
reqAttr = urllib.request.Request(data=data, url=url)
return urllib.request.urlopen(reqAttr).read().decode("utf-8")
@route('/get_captcha_result', method='POST')
def getCaptcha():
data = json.dumps({"type": "get_text", "image": json.loads(request.body.read().decode("utf-8"))["image"]}).encode(
"utf-8")
reqAttr = urllib.request.Request(data=data, url=url)
return urllib.request.urlopen(reqAttr).read().decode("utf-8")
run(host='0.0.0.0', debug=False, port=9000)
该后端服务，所需依赖：
bottle==0.12.19前端页面代码：
验证码识别测试系统
var image = undefined
function getCaptcha() {
const xmlhttp = window.XMLHttpRequest ? new XMLHttpRequest() : new ActiveXObject("Microsoft.XMLHTTP");
xmlhttp.open("GET", '/get_captcha', false);
xmlhttp.onreadystatechange = function () {
if (xmlhttp.readyState == 4 && xmlhttp.status == 200) {
image = JSON.parse(xmlhttp.responseText).Response.image
document.getElementById("captcha").src = "data:image/png;base64," + image
document.getElementById("getResult").style.visibility = 'visible'
}
}
xmlhttp.setRequestHeader("Content-type", "application/json");
xmlhttp.send();
}
function getCaptchaResult() {
const xmlhttp = window.XMLHttpRequest ? new XMLHttpRequest() : new ActiveXObject("Microsoft.XMLHTTP");
xmlhttp.open("POST", '/get_captcha_result', false);
xmlhttp.onreadystatechange = function () {
if (xmlhttp.readyState == 4 && xmlhttp.status == 200) {
document.getElementById("result").innerText = "识别结果：" + JSON.parse(xmlhttp.responseText).Response.result
}
}
xmlhttp.setRequestHeader("Content-type", "application/json");
xmlhttp.send(JSON.stringify({"image": image}));
}
验证码识别测试系统
操作：
获取验证码
识别验证码
完成之后，可以将项目部署到Serverless架构，部署完成之后，绑定自定义域名，进行测试：
点击获取验证码，即可在线生成一个验证码：
此时点击识别验证码，即可进行验证码识别：
由于模型在训练的时候，填写的目标准确率是 90%，所以可以认为在海量同类型验证码测试之后，整体的准确率在 90% 左右。
5. 总结
Serverless 发展迅速，通过 Serverless 做一个验证码识别工具，我觉得这是一个非常酷的事情，在未来的数据采集等工作中，又一个优美的验证码识别工具是非常必要的额，当然验证码种类很多，针对不同类型的验证码识别，也是一项非常有挑战性的工作。