关联规则
大家可能听说过用于宣传数据挖掘的一个案例:啤酒和尿布；据说是沃尔玛超市在分析顾客的购买记录时，发现许多客户购买啤酒的同时也会购买婴儿尿布，于是超市调整了啤酒和尿布的货架摆放，让这两个品类摆放在一起；结果这两个品类的销量都有明显的增长；分析原因是很多刚生小孩的男士在购买的啤酒时，会顺手带一些婴幼儿用品。
不论这个案例是否是真实的，案例中分析顾客购买记录的方式就是关联规则分析法Association Rules。
关联规则分析也被称为购物篮分析，用于分析数据集各项之间的关联关系。
关联规则基本概念
项集：item的集合，如集合{牛奶、麦片、糖}是一个3项集，可以认为是购买记录里物品的集合。
频繁项集：顾名思义就是频繁出现的item项的集合。如何定义频繁呢？用比例来判定，关联规则中采用支持度和置信度两个概念来计算比例值
支持度：共同出现的项在整体项中的比例。以购买记录为例子，购买记录100条，如果商品A和B同时出现50条购买记录（即同时购买A和B的记录有50），那边A和B这个2项集的支持度为50%
置信度：购买A后再购买B的条件概率，根据贝叶斯公式，可如下表示：
提升度：为了判断产生规则的实际价值，即使用规则后商品出现的次数是否高于商品单独出现的评率，提升度和衡量购买X对购买Y的概率的提升作用。如下公式可见，如果X和Y相互独立那么提升度为1，提升度越大，说明X->Y的关联性越强
关联规则Apriori算法
1. Apriori算法的基本思想
对数据集进行多次扫描，第一次扫描得到频繁1-项集的集合L1，第k次扫描首先利用第k-1次扫描的结果Lk-1产生候选k-项集Ck，在扫描过程中计算Ck的支持度，在扫描结束后计算频繁k-项集Lk，算法当候选k-项集的集合Ck为空的时候结束。
2. Apriori算法产生频繁项集的过程
（1）连接步
（2）剪枝步
3.Apriori算法的主要步骤
（1） 扫描全部数据，产生候选1-项集的集合C1
（2） 根据最小支持度，由候选1-项集的集合C1产生频繁1-项集的集合L1
（3） 对k>1，重复步骤（4）（5）（6）
（4） 由Lk执行连接和剪枝操作，产生候选（k+1）-项集Ck+1
（5） 根据最小支持度，由候选（k+1）-项集的集合Ck+1产生频繁（k+1）-项集的集合Lk+1
（6） 若L不为空集，则k = k+1，跳往步骤（4），否则跳往步骤（7）
（7） 根据最小置信度，由频繁项集产生强关联规则
Apriori算法是经典的关联规则算法。Apriori算法的目标是找到最大的K项频繁集。Apriori算法从寻找1项集开始，通过最小支持度阈值进行剪枝，依次寻找2项集，3项集直到没有更过项集为止。
代码实现
本次算法实现我们借助了mlxtend第三方包，pip install mlxtend安装一下即可
编译工具:jupyter notebook
首先导入本次项目用到的第三方包：
import pandas as pd from mlxtend.frequent_patterns import apriori from mlxtend.frequent_patterns import association_rules import warnings warnings.filterwarnings('ignore')
接下来我将使用两个小案例给大家示范如何使用关联规则算法
案例一
准备数据
order = {'001': '面包，黄油，尿布，啤酒', '002': '咖啡，糖，小甜饼，鲑鱼，啤酒', '003': '面包，黄油，咖啡，尿布，啤酒，鸡蛋', '004': '面包，黄油，鲑鱼，鸡', '005': '鸡蛋，面包，黄油', '006': '鲑鱼，尿布，啤酒', '007': '面包，茶，糖鸡蛋', '008': '咖啡，糖，鸡，鸡蛋', '009': '面包，尿布，啤酒，盐', '010': '茶，鸡蛋，小甜饼，尿布，啤酒'} data_set = [] id_set= [] shopping_basket = {} for key in order: item = order[key].split('，') id_set.append(key) data_set.append(item) shopping_basket['ID'] = id_set shopping_basket['Basket'] = data_set shopping_basket
将数据转换为DataFrame类型
data = pd.DataFrame(shopping_basket) data
接着我们需要将Basket的数据转换为one-hot（0，1）编码
这一步主要就是对数据的ID和Basket进行划分处理，最后进行合并
data_id = data.drop('Basket',1) data_basket = data['Basket'].str.join(',') data_basket = data_basket.str.get_dummies(',') new_data = data_id.join(data_basket) new_data
调用apriori算法
apriori()中min_support也就是最小支持度默认为0.5，所以我们要修改的话直接修改这个值
frequent_itemsets = apriori(new_data.drop('ID',1),min_support=0.5,use_colnames=True) frequent_itemsets
从结果中，我们发现在二项集中，出现了尿布和啤酒，说明尿布和啤酒的关联性很大。
接着我们查看其具体的关联规则
association_rules(frequent_itemsets,metric='lift')
我们看出尿布和啤酒的提升度值也很大（大于1） ，更一步说明了尿布和啤酒的关联性很强，所有在销售的时候，应该将其放在一起售卖，或者适当增加一下促销方式。
案例二
步骤跟案例一相似
准备数据
shopping_backet = {'ID':[1,2,3,4,5,6], 'Basket':[['Beer','Diaper','Pretzels','Chips','Aspirin'], ['Diaper','Beer','Chips','Lotion','Juice','BabyFood','Milk'], ['Soda','Chips','Milk'], ['Soup','Beer','Diaper','Milk','IceCream'], ['Soda','Coffee','Milk','Bread'], ['Beer','Chips'] ] } data = pd.DataFrame(shopping_backet) data
将数据转换为apriori算法要求的数据类型
data_id = data.drop('Basket',1) data_basket = data['Basket'].str.join(',') data_basket = data_basket.str.get_dummies(',') new_data = data_id.join(data_basket) new_data
调用apriori算法
frequent_itemsets = apriori(new_data.drop('ID',1),min_support=0.5,use_colnames=True) frequent_itemsets
如果光考虑support支持度，那么[Beer, Chips]和[Diaper, Beer]都是很频繁的，那么哪一种组合更相关呢？
association_rules(frequent_itemsets,metric='lift')
显然[Diaper, Beer]的lift值更大，说明这个组合更相关
