【机器学习】基于组平均的AGNES算法,支持多维数组,距离用欧式距离

简介: 【机器学习】基于组平均的AGNES算法,支持多维数组,距离用欧式距离

2021人工智能领域新星创作者,带你从入门到精通,该博客每天更新,逐渐完善各个知识体系的文章,帮助大家更高效学习。

自己实现基于组平均的AGNES算法,语言不限。要能支持多维数组,距离用欧式距离

  • numpy实现
  • 相似性度量方式:average-cluster
  • 绘制层次树图

编程实现

"""
 * Created with PyCharm
 * 作者: Laura
 * 日期: 2021/11/6
 * 时间: 12:10
 * 描述: 基于组平均的AGNES算法,支持多维数组,距离用欧式距离
"""
import numpy as np
import pandas as pd
from scipy.cluster.hierarchy import dendrogram,linkage
from scipy.spatial.distance import squareform
import matplotlib.pyplot as plt
import random
class AGNES():
    def __init__(self, data, cluster = 2):
        self.cluster = cluster
        self.data = data
        self.distance_matrix = []
        self.dic = {}
        self.dic_ = {}
        self.index = ['A', 'B', 'C', 'D', 'E']
        self.columns = ['A', 'B', 'C', 'D', 'E']
    def init_data(self, data, dic):
        dic={i:[chr(ord('A')+i)] for i in range(len(data))}
        data = self.calculate_distance(data)
        self.distance_matrix = data.copy()
        row, col = np.diag_indices_from(data) 
        temp = data.max() + 1
        data[row, col] = temp
        row_, col_ = np.triu_indices_from(data, k = 0)
        data[row_, col_] = temp
        return data, dic
    def train(self, cluster, method='train'):
        data = self.data.copy()
        dic = {}
        data, dic = self.init_data(data, dic)
        k = 0
        while k < len(data) - cluster:
            location = np.where(data == data.min()) # 找到此时矩阵距离最小值的坐标
            x, y = location[0][0], location[1][0]   # 分别获取横纵坐标
            x_ = self.index[x]
            y_ = self.columns[y]                    # 获取对应样本信息
            x_key = '-'
            y_key = '-'
            for key, value in dic.items():
                if x_ in value:
                    x_key = key
                if y_ in value:
                    y_key = key
            dic[y_key].extend(dic[x_key])
            dic.pop(x_key)
            slic = dic[y_key]  # 更新簇的样本
            num = len(dic[y_key]) # 簇内样本的数目
            data_sum = np.zeros(5)
            for item in slic:
                data_sum += data[:, self.index.index(item)]
            data_sum /= num
            for item in slic:
            #   data[index.index(item)]=data_sum
                data[:, self.index.index(item)] = data_sum
                row, col = np.diag_indices_from(data) 
                temp = data.max() + 999
                data[row, col] = temp
                row_,col_ = np.triu_indices_from(data, k=0)
                data[row_, col_] = temp
            k += 1
        if method == 'train':
            self.dic = dic
        else:
            self.dic_ = dic
    def draw(self):
        dists = squareform(self.distance_matrix)
        linkage_type = 'average'   # single,complete,average不同方式
        linkage_matrix = linkage(dists, linkage_type)
        dendrogram(linkage_matrix, labels = self.index)
        plt.show()
    def process(self):
        for cluster in range(1, self.distance_matrix.shape[0] + 1):
            self.train(cluster, 'other')
            print('簇数:', cluster, self.dic_)
    def calculate_distance(self, data):
        distance_matrix = np.zeros((data.shape[0],data.shape[1]))
        for i in range(data.shape[0]):
            for j in range(data.shape[1]):
                distance_matrix[i][j] = np.sum((data[i] - data[j])**2)
        return distance_matrix
data = np.random.rand(5, 5)
model = AGNES(data)
model.train(cluster = 2)
model.process()
model.draw()


目录
相关文章
|
2月前
|
机器学习/深度学习 算法 数据挖掘
K-means聚类算法是机器学习中常用的一种聚类方法,通过将数据集划分为K个簇来简化数据结构
K-means聚类算法是机器学习中常用的一种聚类方法,通过将数据集划分为K个簇来简化数据结构。本文介绍了K-means算法的基本原理,包括初始化、数据点分配与簇中心更新等步骤,以及如何在Python中实现该算法,最后讨论了其优缺点及应用场景。
117 4
|
16天前
|
算法
PAI下面的gbdt、xgboost、ps-smart 算法如何优化?
设置gbdt 、xgboost等算法的样本和特征的采样率
39 2
|
2月前
|
机器学习/深度学习 算法 数据挖掘
C语言在机器学习中的应用及其重要性。C语言以其高效性、灵活性和可移植性,适合开发高性能的机器学习算法,尤其在底层算法实现、嵌入式系统和高性能计算中表现突出
本文探讨了C语言在机器学习中的应用及其重要性。C语言以其高效性、灵活性和可移植性,适合开发高性能的机器学习算法,尤其在底层算法实现、嵌入式系统和高性能计算中表现突出。文章还介绍了C语言在知名机器学习库中的作用,以及与Python等语言结合使用的案例,展望了其未来发展的挑战与机遇。
51 1
|
2月前
|
机器学习/深度学习 自然语言处理 算法
深入理解机器学习算法:从线性回归到神经网络
深入理解机器学习算法:从线性回归到神经网络
|
2月前
|
机器学习/深度学习 人工智能 算法
【手写数字识别】Python+深度学习+机器学习+人工智能+TensorFlow+算法模型
手写数字识别系统,使用Python作为主要开发语言,基于深度学习TensorFlow框架,搭建卷积神经网络算法。并通过对数据集进行训练,最后得到一个识别精度较高的模型。并基于Flask框架,开发网页端操作平台,实现用户上传一张图片识别其名称。
105 0
【手写数字识别】Python+深度学习+机器学习+人工智能+TensorFlow+算法模型
|
2月前
|
机器学习/深度学习 算法
深入探索机器学习中的决策树算法
深入探索机器学习中的决策树算法
42 0
|
2月前
|
机器学习/深度学习 算法 Python
机器学习入门:理解并实现K-近邻算法
机器学习入门:理解并实现K-近邻算法
39 0
|
2月前
|
机器学习/深度学习 人工智能 算法
探索机器学习中的决策树算法
【10月更文挑战第29天】本文将深入浅出地介绍决策树算法,一种在机器学习中广泛使用的分类和回归方法。我们将从基础概念出发,逐步深入到算法的实际应用,最后通过一个代码示例来直观展示如何利用决策树解决实际问题。无论你是机器学习的初学者还是希望深化理解的开发者,这篇文章都将为你提供有价值的见解和指导。
|
3月前
|
机器学习/深度学习 人工智能 自然语言处理
【MM2024】阿里云 PAI 团队图像编辑算法论文入选 MM2024
阿里云人工智能平台 PAI 团队发表的图像编辑算法论文在 MM2024 上正式亮相发表。ACM MM(ACM国际多媒体会议)是国际多媒体领域的顶级会议,旨在为研究人员、工程师和行业专家提供一个交流平台,以展示在多媒体领域的最新研究成果、技术进展和应用案例。其主题涵盖了图像处理、视频分析、音频处理、社交媒体和多媒体系统等广泛领域。此次入选标志着阿里云人工智能平台 PAI 在图像编辑算法方面的研究获得了学术界的充分认可。
【MM2024】阿里云 PAI 团队图像编辑算法论文入选 MM2024
|
3月前
|
机器学习/深度学习 算法 Java
机器学习、基础算法、python常见面试题必知必答系列大全:(面试问题持续更新)
机器学习、基础算法、python常见面试题必知必答系列大全:(面试问题持续更新)