🍎走进关联规则
🍊什么是关联规则？
🐾🐾情景引入：🍺啤酒与尿布🍼
在一家超市里，有一个有趣的现象：尿布和啤酒赫然摆在一起出售。但是这个奇怪的举措却使尿布和啤酒的销量双双增加了。这不是一个笑话，而是发生在美国沃尔玛连锁店超市的真实案例，并一直为商家所津津乐道。沃尔玛拥有世界上最大的数据仓库系统，为了能够准确了解顾客在其门店的购买习惯，沃尔玛对其顾客的购物行为进行购物篮分析，想知道顾客经常一起购买的商品有哪些。沃尔玛数据仓库里集中了其各门店的详细原始交易数据。在这些原始交易数据的基础上，沃尔玛利用数据挖掘方法对这些数据进行分析和挖掘。一个意外的发现是："跟尿布一起购买最多的商品竟是啤酒！
经过大量实际调查和分析，揭示了一个隐藏在"尿布与啤酒"背后的美国人的一种行为模式：在美国，一些年轻的父亲下班后经常要到超市去买婴儿尿布，而他们中有30%～40%的人同时也为自己买一些啤酒。产生这一现象的原因是：美国的太太们常叮嘱她们的丈夫下班后为小孩买尿布，而丈夫们在买尿布后又随手带回了他们喜欢的啤酒。
这就是隐藏在实际生活中的关联规则吗，也是数据挖掘的一种形式，生活中的各类事物都会产生价值，善于挖掘事物的价值就会有不一样的价值。
联规则最初提出的动机是针对购物篮分析(Market Basket Analysis)问题提出的。假设分店经理想更多的了解顾客的购物习惯。特别是，想知道哪些商品顾客可能会在一次购物时同时购买？
为回答该问题，可以对商店的顾客事物零售数量进行购物篮分析。该过程通过发现顾客放入“购物篮”中的不同商品之间的关联，分析顾客的购物习惯。这种关联的发现可以帮助零售商了解哪些商品频繁的被顾客同时购买，从而帮助他们开发更好的营销策略。
关联规则是指事物间的相互联系，反映了一个事物与其他事物之间的相互依存性和关联性。如果两个或者多个事物之间存在一定的关联关系，那么其中一个事物就能够通过其他事物预测得到。
🍒关联规则的分类
按处理值分类，关联规则可以分为量化型和布尔型
布尔型关联规则是研究数据项在某个事务中是否会出现。量化型关联规则主要是离散型的数据，关联规则中的数据项是数量型的。
在对量化进行关联规则进行挖掘时，通常使用统计学、离散方法等对量化数值进行离散化。分化成几个离散区间，从而转换成布尔型关联规则挖掘。
关联规则按所涉及的抽象层次可以分为单层和多层
比如每科成绩之间的关联挖掘就是单层的。而专业课、公共课等之间的关联挖掘，就是多层的。因为 他们是属于不同层级。
根据数据维数则可以分为，单维和多维
比如，购买网球，只涉及到一个维度。年龄购买网球，则涉及到年龄和网球两个维度。
🍉关联规则的基本概念
（1）项
对一个数据表而言，表的每个字段都具有一个或多个不同的值。字段的每种取值都是一个项Item。
（2）项集
项的集合称为项集itemset。包含k个项的项集被称为k-项集，k表示项集中项的数目。由所有的项所构成的集合是最大的项集，一般用符号I表示。
（3）事务
事务是项的集合。本质上，一个事务就是事实表中的一条记录。事务是项集I的子集。事务的集合称为事务集。一般用符号D表示事务集/事务数据库。
（4）关联规则
给定一个事务集D，挖掘关联规则的问题就变成如何产生支持度和可信度分别大于用户给定的最小支持度和最小可信度的关联规则的问题。（标准）
（5）支持度（同时，交；元组总数）
若D中的事务包含A∪B的百分比为s，则称关联规则AB的支持度为s。即：support（AB ）= P(A∪B ) = 包含A和B的元组数/元组总数
（6）可信度（同时，交；条件概率）
若D中包含A的事务同时也包含B的的百分比为c，则称关联规则 AB 的置信度/可信度为c，即：confidence（AB ）=P(B|A) = 包含A和包含B的元组数/包含A的元组数 = support(A∪B )/support（A）
根据上面的例子，可以求解到苹果——>啤酒的置信度=3/8 /4/8=3/4
75%的置信度
（7）频繁项集
项集的出现频率是包含项集的事务数，简称项集的频率；项集满足最小支持度阈值minsup，如果项集的出现频率大于或等于minsup与D中事务总数的乘积；满足最小支持阈值的项集就称为频繁项集（大项集）。频繁k项集的集合记为Lk；
如何得出频繁项集，apriori算法的价值所在
（8）强关联规则
大于或等于最小支持度阈值和最小置信度阈值的规则叫做强关联规则
关联分析的最终目的，就是为了找出强关联规则❗️❗️❗️❗️❗️
算法
那么，关联规则的本质，其实就是挖掘频繁项，那么算法的目的也就是尽可能快速有效的挖掘不同事物间 关系出现的频率。
而衡量规则是否成立的两个参考维度，就是支持度和置信度。
常用的算法有 Apriori 算法 ，FP-growth 算法。这两个算法，前者主要用迭代方法挖掘，不适用于多维挖掘。后者利用存储优化，大幅提高了挖掘性能。
（9）Lift（提升度）
指A项和B项一同出现的频率，但同时要考虑这两项各自出现的频率。公式表达：{A→B}的提升度={A→B}的置信度/P(B)：
提升度反映了关联规则中的A与B的相关性，提升度>1且越高表明正相关性越高，提升度<1且越低表明负相关性越高，提升度=1表明没有相关性。负值，商品之间具有相互排斥的作用。
🎈🎈 通过了解上面的一些概念知识，这里给出来一个具体的实例：
事务： 每一条交易称为一个事务，例如：上表中包含8个事务。
项： 交易中的每一个物品称为一个项，例如：苹果、啤酒。
项集：包含零个或者多个项的集合叫做项集，例如{苹果，啤酒} 、{牛奶，啤酒，米饭}。
k-项集：包含k个项的项集叫做k-项集。例如{苹果}叫做1-项集，{牛奶，啤酒，米饭}叫做3-项集。
前件和后件：对于规则{苹果}->{啤酒}，{苹果}叫前件，{啤酒}叫后件。
📢 📣🍩🍩下面也通过对三个度量指标进行实例的分析
1️⃣ 支持度：
{苹果}在8次交易中出现了4次，所以其支持度为50%。
一个项集也可以包含多项，比如{苹果，啤酒，米饭}的支持度为2/8，即25%。
可以人为设定一个支持度阈值，当某个项集的支持度高于这个阈值时，我们就把它称为频繁项集。
2️⃣ 置信度：
{苹果→啤酒}的置信度=(支持度{苹果，啤酒}/支持度{苹果})=3/4，即75%。
置信度有一个缺点，那就是它可能会错估某个关联规则的重要性。只考虑了苹果的购买频率，而并未考虑啤酒的购买频率。如果啤酒也很受欢迎（支持度很高），如上表，那么包含苹果的交易显然很有可能也包含啤酒，这会抬高置信度指标。
3️⃣ 提升度：
{苹果→啤酒}的提升度等于{苹果→啤酒}的置信度除以{啤酒}的支持度，{苹果→啤酒}的提升度等于1，这表示苹果和啤酒无关联。
{X→Y}的提升度大于1，这表示如果顾客购买了商品X，那么可能也会购买商品Y；而提升度小于1则表示如果顾客购买了商品X，那么不太可能再购买商品Y。
为什么说置信度是有缺点的呢？下面我们看一个实际的例子@快来看📢 📣📢
置信度的局限——错估某个关联规则的重要性
📑实际案例
各商品在与啤酒相关的关联规则中的支持度
置信度很高，但是提升度较低，关联效果不好！
{啤酒→汽水}规则的置信度最高，为17.8%。然而，在所有交易中，二者出现的频率都很高，所以它们之间的关联可能只是巧合。这一点可以通过其提升度为1得到印证，即购买啤酒和购买汽水这两个行为之间并不存在关联。
置信度很低，但是关联效果较好！
比如{啤酒→男士护肤品}规则的置信度低，这是因为男士护肤品的总购买量不大。
尽管如此，如果一位顾客买了男士护肤品，那么很有可能也会买啤酒，这一点可以从较高的提升度（2.6）推断出来。
提升度为负数，无关联！
{啤酒→浆果}的情况则恰好相反。从提升度小于1这一点，我们可以得出结论：如果一位顾客购买了啤酒，那么可能不会买浆果。
虽然很容易算出各个商品组合的销售频率，但是商家往往更感兴趣的是所有的热销商品组合。为此，需要先为每种可能的商品组合计算支持度，然后找到支持度高于指定阈值的商品组合。
那么如何去计算和找出热销商品的组合策略呢？手动的去就是，综合比对吗？如果是在理解算法原理，那倒是可以，但是如果是在进行项目实战，显然无法进行。
提升度难道是最好的判断标准吗？显然不是，下面我们一起看看，提升度会受到哪些因素的影响吧！以及提升度的来源是什么？
提升度和零事务的关系
假设：10000个超市订单（10000个事务），其中购买三元牛奶（A事务）的6000个，购买伊利牛奶（B事务）的7500个，4000个同时包含两者。
三元牛奶（A事务）和伊利牛奶（B事务）的支持度为：0.4
三元牛奶（A事务）对伊利牛奶（B事务）的置信度为：0.67
说明在购买三元牛奶后，有0.67的用户去购买伊利牛奶。
伊利牛奶（B事务）对三元牛奶（A事务）的置信度为：0.53
说明在购买伊利牛奶后，有0.53的用户去购买三元牛奶。
在没有任何条件下，B事务的出现的比例是0.75，而出现A事务，且同时出现B事务的比例是0.67，也就是说设置了A事务出现这个条件，B事务出现的比例反而降低了。这说明A事务和B事务是排斥的。
我们把0.67/0.75的比值作为提升度，即P(B|A)/P(B)，称之为A条件对B事务的提升度，即有A作为前提，对B出现的概率有什么样的影响，如果提升度=1说明A和B没有任何关联，如果<1，说明A事务和B事务是排斥的，>1，我们认为A和B是有关联的，但是在具体的应用之中，我们认为提升度>3才算作值得认可的关联。
提升度是一种很简单的判断关联关系的手段，但是在实际应用过程中受零事务的影响比较大，零事务在上面例子中可以理解为既没有购买三元牛奶也没有购买伊利牛奶的订单。
数值为10000-4000-2000-3500=500，可见在本例中，零事务非常小，但是在现实情况中，零事务是很大的。在本例中如果保持其他数据不变，把10000个事务改成1000000个事务，那么计算出的提升度就会明显增大，此时的零事务很大（1000000-4000-2000-3500），可见提升度是与零事务有关的，零事务越多，提升度越高。
