KNN算法数字识别完整代码——打开就可以跑

from numpy import *
import operator
import time
import os
# 调用KNN算法
# 参数：(inputPoint :vectorUnderTest 测试文本向量化 32x32 -> 1x1024)
# 参数：(dataSet :trainingMat        训练集文本向量化 32x32 -> 1x1024)
# 参数：(labels :hwLabels            训练集文本中解析分类数字  )
# 参数：(k :3)
def classify(inputPoint, dataSet, labels, k):
    dataSetSize = dataSet.shape[0]                                # 已知分类的训练集的行数
                                                                  # 先tile函数将输入点拓展成与训练集相同维数的矩阵，再计算欧氏距离
    diffMat = tile(inputPoint,(dataSetSize,1))-dataSet            # 样本与训练集的差值矩阵
    sqDiffMat = diffMat ** 2                    # 差值矩阵平方
    sqDistances = sqDiffMat.sum(axis=1)         # 计算每一行上元素的和
    distances = sqDistances ** 0.5              # 开方得到欧拉距离矩阵
    sortedDistIndicies = distances.argsort()    # 按distances中元素进行升序排序后得到的对应下标的列表
    classCount = {}                             # 选择距离最小的k个点
    for i in range(k):
        voteIlabel = labels[sortedDistIndicies[i]]
        classCount[voteIlabel] = classCount.get(voteIlabel, 0)+1
    # 按classCount字典的第2个元素（即类别出现的次数）从大到小排序
    sortedClassCount = sorted(classCount.items(), key=operator.itemgetter(1), reverse=True)
    return sortedClassCount[0][0]
# 1. 数据准备：数字图像文本向量化，这里将32x32的二进制图像文本矩阵转换成1x1024的向量。循环读出文件的前32行，存储在向量中。
# 文本向量化 32x32 -> 1x1024
def img2vector(filename):
    returnVect = []
    fr = open(filename)
    for i in range(32):
        lineStr = fr.readline()
        for j in range(32):
            returnVect.append(int(lineStr[j]))
    return returnVect
# 2. 构建训练数据集：利用目录trainingDigits中的文本数据构建训练集向量，以及对应的分类向量
# 从文件名中解析分类数字
def classnumCut(fileName):
    fileStr = fileName.split('.')[0]
    classNumStr = int(fileStr.split('_')[0])
    return classNumStr
# 构建训练集数据向量，及对应分类标签向量
def trainingDataSet():
    hwLabels = []
    trainingFileList = os.listdir("trainingDigits")                        # 获取目录内容
    m = len(trainingFileList)
    trainingMat = zeros((m, 1024))                                         # m维向量的训练集
    for i in range(m):
        fileNameStr = trainingFileList[i]                                  # 找到一个样本文件
        hwLabels.append(classnumCut(fileNameStr))                          # 将文件传入classnumCut函数，从文件名中解析分类数字
        trainingMat[i, :] = img2vector('trainingDigits/%s' % fileNameStr)  # 将文件传入img2vector函数中，这里将32x32的二进制图像文本矩阵转换成1x1024的向量
    return hwLabels, trainingMat                                           # 返回两个文件
# 3. 测试集数据测试：通过测试testDigits目录下的样本，来计算算法的准确率。
# 测试函数
def handwritingTest():
    hwLabels, trainingMat = trainingDataSet()    # 构建训练集
    testFileList = os.listdir('testDigits')      # 获取测试集
    errorCount = 0.0                             # 错误数
    mTest = len(testFileList)                    # 测试集总样本数
    t1 = time.time()
    for i in range(mTest):
        fileNameStr = testFileList[i]            #找到一个测试文件
        classNumStr = classnumCut(fileNameStr)                                   # 将文件传入classnumCut函数，从文件名中解析分类数字
        vectorUnderTest = img2vector('testDigits/%s' % fileNameStr)              # 将文件传入img2vector函数，将32x32的二进制图像文本矩阵转换成1x1024的向量
        classifier_result = classify(vectorUnderTest, trainingMat, hwLabels, 3)  # 调用    KNN          算法进行测试
        print("classifier_result: %d, the real answer is: %d\n" % (classifier_result, classNumStr))
        if classifier_result != classNumStr:
            errorCount += 1.0
    print("the total number of tests is: %d" % mTest)                   # 输出测试总样本数
    print("the total number of errors is: %d" % errorCount)             # 输出测试错误样本数
    print("the total error rate is: %f" % (errorCount/float(mTest)))    # 输出错误率
    t2 = time.time()
    print("Cost time: %.2fmin, %.4fs."%((t2-t1)//60, (t2-t1)% 60))      # 测试耗时
if __name__ == "__main__":
    handwritingTest()