【数据挖掘】数据挖掘总结 ( 模式挖掘 | Apriori 算法 | 支持度 | 置信度 | 关联规则 ) ★★_数据挖掘 置信度

一、 支持度 置信度

---

给定 $\mathrm{X},\mathrm{Y}$ 两个项集 , 并且有 $\mathrm{X}\ge \mathrm{Y}$ ;

支持度 : $\mathrm{X}\Rightarrow \mathrm{Y}$ 的支持度是 $\mathrm{X},\mathrm{Y}$ 两个项集在数据库 $\mathrm{D}$ 中 同时出现的概率 , 即 $\mathrm{P}\mathrm{r}(\mathrm{X}\cup \mathrm{Y})$

置信度 : $\mathrm{X}\Rightarrow \mathrm{Y}$ 的置信度度是 $\mathrm{X}$ 出现的前提下 , $\mathrm{Y}$ 项集在数据库 $\mathrm{D}$ 中同时出现的概率 , 即 $\mathrm{P}\mathrm{r}(\mathrm{Y}|\mathrm{X})=\frac{\mathrm{P}\mathrm{r}(\mathrm{X}\cup \mathrm{Y})}{\mathrm{P}\mathrm{r}(\mathrm{X})}$

一般情况下 置信度 大于 支持度 ;

支持度用于找出 频繁项集 ;

置信度用于找出 关联规则 ;

二、 频繁项集

---

项集 $\mathrm{X}$ 的 支持度 $\mathrm{s}\mathrm{u}\mathrm{p}\mathrm{p}\mathrm{o}\mathrm{r}\mathrm{t}(\mathrm{X})$ , 大于等于 指定的 最小支持度阈值 $\mathrm{m}\mathrm{i}\mathrm{n}\mathrm{s}\mathrm{u}\mathrm{p}$ ,

则称该 项集 $\mathrm{X}$ 为 频繁项集 ,

又称为 频繁项目集 ;

三、 非频繁项集

---

项集 $\mathrm{X}$ 的 支持度 $\mathrm{s}\mathrm{u}\mathrm{p}\mathrm{p}\mathrm{o}\mathrm{r}\mathrm{t}(\mathrm{X})$ , 小于 指定的 最小支持度阈值 $\mathrm{m}\mathrm{i}\mathrm{n}\mathrm{s}\mathrm{u}\mathrm{p}$ ,

则称该 项集 $\mathrm{X}$ 为 非频繁项集 ,

又称为 非频繁项目集 ;

四、 Apriori 算法过程

---

原始数据集 $\mathrm{D}$ ,

$1$ 项集 ${\mathrm{C}}_1$ , $2$ 项集 ${\mathrm{C}}_2$ , $\cdots$ , $\mathrm{k}$ 项集 ${\mathrm{C}}_{\mathrm{k}}$ , 这些项集都是候选项集 ,

根据 原始数据集 $\mathrm{D}$ , 创造 $1$ 项集 ${\mathrm{C}}_1$ , 然后对 ${\mathrm{C}}_1$ 执行 数据集扫描函数 , 找到其中的 频繁 $1$ 项集 ${\mathrm{L}}_1$ ,

根据 频繁 $1$ 项集 ${\mathrm{L}}_1$ , 创造 $2$ 项集 ${\mathrm{C}}_2$ , 然后对 ${\mathrm{C}}_2$ 执行 数据集扫描函数 , 找到其中的 频繁 $2$ 项集 ${\mathrm{L}}_2$ ,

$$⋮$$

根据 频繁 $\mathrm{k}-1$ 项集 ${\mathrm{L}}_{\mathrm{k}-1}$ , 创造 $\mathrm{k}$ 项集 ${\mathrm{C}}_{\mathrm{k}}$ , 然后对 ${\mathrm{C}}_{\mathrm{k}}$ 执行 数据集扫描函数 , 找到其中的 频繁 $\mathrm{k}$ 项集 ${\mathrm{L}}_{\mathrm{k}}$ ,

参考博客 : 【数据挖掘】关联规则挖掘 Apriori 算法 ( Apriori 算法过程 | Apriori 算法示例 )

五、模式挖掘示例

---

如下事物数据库 , 最小支持度 $60\%$ , 最小置信度 $80\%$ ;

( 1 ) 使用 Apriori 算法找出所有频繁项集 ;

( 2 ) 写出关联规则 ;

( 1 ) 使用 Apriori 算法找出所有频繁项集 :

根据原始数据集 $\mathrm{D}$ 创造 $1$ 项集 ${\mathrm{C}}_1$ , 如下 :

对 $1$ 项集 ${\mathrm{C}}_1$ 执行数据集扫描函数 , 找到频繁 $1$ 项集 ${\mathrm{L}}_1$ , 即筛选出支持度大于等于 $60\%$ 的 $1$ 项集 :

根据 频繁 $1$ 项集 ${\mathrm{L}}_1$ 创造 $2$ 项集 ${\mathrm{C}}_2$ , 如下 :

对 $2$ 项集 ${\mathrm{C}}_2$ 执行数据集扫描函数 , 找到频繁 $2$ 项集 ${\mathrm{L}}_2$ , 即筛选出支持度大于等于 $60\%$ 的 $2$ 项集 :

根据 频繁 $2$ 项集 ${\mathrm{L}}_2$ 创造 $3$ 项集 ${\mathrm{C}}_3$ , 如下 :

对 $3$ 项集 ${\mathrm{C}}_3$ 执行数据集扫描函数 , 找到频繁 $3$ 项集 ${\mathrm{L}}_3$ , 即筛选出支持度大于等于 $60\%$ 的 $3$ 项集 :

最终得出结果 :

频繁 $1$ 项集 : { E } , { K } , { M } , { O } , { Y } , \rm \{E\},\{K\},\{M\},\{O\},\{Y\}, {E},{K},{M},{O},{Y},

频繁 $2$ 项集 : { E , K } , { E , O } , { K , O } , { K , Y } \rm \{E,K\},\{E,O\},\{K,O\},\{K,Y\} {E,K},{E,O},{K,O},{K,Y}

频繁 $3$ 项集 : { E , K , O } \rm \{E,K,O\} {E,K,O}

( 2 ) 写出关联规则 ;

置信度大于等于 $80\%$ 就说明有关联规则 ;

基于 频繁 $2$ 项集 ${\mathrm{L}}_2$ 的关联规则 :

基于 频繁 $3$ 项集 ${\mathrm{L}}_3$ 的关联规则 :

根据置信度 $\ge 80\%$关联规则有 :

${\mathrm{L}}_2$ 关联规则 : $\mathrm{E}\Rightarrow \mathrm{K}$ , $\mathrm{K}\Rightarrow \mathrm{E}$ , $\mathrm{O}\Rightarrow \mathrm{E}$ , $\mathrm{O}\Rightarrow \mathrm{K}$ , $\mathrm{Y}\Rightarrow \mathrm{K}$ ;

${\mathrm{L}}_3$ 关联规则 : $\mathrm{K},\mathrm{O}\Rightarrow \mathrm{E}$ , $\mathrm{E},\mathrm{O}\Rightarrow \mathrm{K}$ ;