1.3 逻辑回归
将线性回归的模型改一改，就可以用于二分类。逻辑回归拟合样本属于某个分类，也就是样本为正样本的概率。
操作步骤
导入所需的包。
import tensorflow as tf import numpy as np import matplotlib as mpl import matplotlib.pyplot as plt import sklearn.datasets as ds import sklearn.model_selection as ms
导入数据，并进行预处理。我们使用鸢尾花数据集所有样本，根据萼片长度和花瓣长度预测样本是不是山鸢尾（第一种）。
iris = ds.load_iris() x_ = iris.data[:, [0, 2]] y_ = (iris.target == 0).astype(int) y_ = np.expand_dims(y_ , 1) x_train, x_test, y_train, y_test = \ ms.train_test_split(x_, y_, train_size=0.7, test_size=0.3)
定义超参数。
| 变量 | 含义 |
n_input |
样本特征数 |
n_epoch |
迭代数 |
lr |
学习率 |
threshold |
如果输出超过这个概率，将样本判定为正样本 |
n_input = 2 n_epoch = 2000 lr = 0.05 threshold = 0.5
搭建模型。
| 变量 | 含义 |
x |
输入 |
y |
真实标签 |
w |
权重 |
b |
偏置 |
z |
中间变量，x的线性变换 |
a |
输出，也就是样本是正样本的概率 |
定义损失、优化操作、和准确率度量指标。分类问题有很多指标，这里只展示一种。
我们使用交叉熵损失函数，如下。
−mean(Y⊗log(A)+(1−Y)⊗log(1−A))
它的意思是，对于正样本，y 为 1，损失变为-log(a)，输出会尽可能接近一。对于负样本，y为 0，损失变为-log(1 - a)，输出会尽可能接近零。总之，它使输出尽可能接近真实标签。
| 变量 | 含义 |
loss |
损失 |
op |
优化操作 |
y_hat |
标签的预测值 |
acc |
准确率 |
loss = - tf.reduce_mean(y * tf.log(a) + (1 - y) * tf.log(1 - a)) op = tf.train.AdamOptimizer(lr).minimize(loss) y_hat = tf.to_double(a > threshold) acc = tf.reduce_mean(tf.to_double(tf.equal(y_hat, y)))
使用训练集训练模型。
losses = [] accs = [] with tf.Session() as sess: sess.run(tf.global_variables_initializer()) saver = tf.train.Saver(max_to_keep=1) for e in range(n_epoch): _, loss_ = sess.run([op, loss], feed_dict={x: x_train, y: y_train}) losses.append(loss_)
使用测试集计算准确率。
acc_ = sess.run(acc, feed_dict={x: x_test, y: y_test}) accs.append(acc_)
每一百步打印损失和度量值。
if e % 100 == 0: print(f'epoch: {e}, loss: {loss_}, acc: {acc_}') saver.save(sess,'logit/logit', global_step=e)
得到决策边界：
x_plt = x_[:, 0] y_plt = x_[:, 1] c_plt = y_.ravel() x_min = x_plt.min() - 1 x_max = x_plt.max() + 1 y_min = y_plt.min() - 1 y_max = y_plt.max() + 1 x_rng = np.arange(x_min, x_max, 0.05) y_rng = np.arange(y_min, y_max, 0.05) x_rng, y_rng = np.meshgrid(x_rng, y_rng) model_input = np.asarray([x_rng.ravel(), y_rng.ravel()]).T model_output = sess.run(y_hat, feed_dict={x: model_input}).astype(int) c_rng = model_output.reshape(x_rng.shape)
输出：
epoch: 0, loss: 3.935746371309244, acc: 0.3333333333333333 epoch: 100, loss: 0.1969325408656252, acc: 1.0 epoch: 200, loss: 0.08548362243852041, acc: 1.0 epoch: 300, loss: 0.050833687966014396, acc: 1.0 epoch: 400, loss: 0.034929315249291375, acc: 1.0 epoch: 500, loss: 0.026013692651528184, acc: 1.0 epoch: 600, loss: 0.02038864243607467, acc: 1.0 epoch: 700, loss: 0.016552042129938136, acc: 1.0 epoch: 800, loss: 0.013786692432697542, acc: 1.0 epoch: 900, loss: 0.011709709551073783, acc: 1.0 epoch: 1000, loss: 0.010099234422592073, acc: 1.0 epoch: 1100, loss: 0.008818382202721829, acc: 1.0 epoch: 1200, loss: 0.007778392815694136, acc: 1.0 epoch: 1300, loss: 0.0069193419951217704, acc: 1.0 epoch: 1400, loss: 0.0061993983430654875, acc: 1.0 epoch: 1500, loss: 0.00558852696047961, acc: 1.0 epoch: 1600, loss: 0.005064638072189167, acc: 1.0 epoch: 1700, loss: 0.00461114435393481, acc: 1.0 epoch: 1800, loss: 0.004215362417896155, acc: 1.0 epoch: 1900, loss: 0.003867437954560204, acc: 1.0
绘制整个数据集以及决策边界。
plt.figure() cmap = mpl.colors.ListedColormap(['r', 'b']) plt.scatter(x_plt, y_plt, c=c_plt, cmap=cmap) plt.contourf(x_rng, y_rng, c_rng, alpha=0.2, linewidth=5, cmap=cmap) plt.title('Data and Model') plt.xlabel('Petal Length (cm)') plt.ylabel('Sepal Length (cm)') plt.show()
绘制训练集上的损失。
plt.figure() plt.plot(losses) plt.title('Loss on Training Set') plt.xlabel('#epoch') plt.ylabel('Cross Entropy') plt.show()
绘制测试集上的准确率。
plt.figure() plt.plot(accs) plt.title('Accurary on Testing Set') plt.xlabel('#epoch') plt.ylabel('Accurary') plt.show()
