python代码实现决策树对鸢尾花的分类_鸢尾花决策树代码

1、导入决策树模型，划分数据集

from sklearn import datasets
from sklearn.tree import DecisionTreeClassifier

iris=datasets.load_iris()
iris_x=iris.data
iris_y=iris.target
indices = np.random.permutation(len(iris_x))
iris_x_train = iris_x[indices[:-10]]
iris_y_train = iris_y[indices[:-10]]
iris_x_test = iris_x[indices[-10:]]
iris_y_test = iris_y[indices[-10:]]
1
2
3
4
5
6
7
8
9
10
11

2、训练模型

clf = DecisionTreeClassifier(max_depth=4)
clf.fit(iris_x_train, iris_y_train)
1
2

clf=DecisionTreeClassifier(criterion=‘entropy’)
1、criterion：用于衡量特征选择质量的准则。
-------CART算法实现：默认，基尼不纯度 (gini) 。
-------C4.5算法实现：信息增益(entropy)。
2、splitter：用于在节点中选择分割的策略。可以是 ‘best’ 表示选择最佳分割点，或者是 ‘random’，表示随机选择分割点。默认是 ‘best’。
3、max_depth：树的最大深度。如果为 None，则节点会一直扩展，直到所有叶节点都是纯净的，或者直到所有叶节点包含的样本数小于 min_samples_split。

3、 可视化显示决策树模型

from IPython.display import Image
from sklearn import tree
import pydotplus

dot_data = tree.export_graphviz(clf, out_file=None,
feature_names=iris.feature_names,
class_names=iris.target_names,
filled=True, rounded=True,
special_characters=True)
graph = pydotplus.graph_from_dot_data(dot_data)
#是 GraphViz 库中的一个函数，用于从 DOT 格式的数据创建一个图形对象。DOT 是一种描述图形结构的简单文本格式，通常用于描述图形、网络和流程图。
Image(graph.create_png())
1
2
3
4
5
6
7
8
9
10
11
12

如以上代码正常运行需安装Graphviz,请参照链接
Graphviz安装配置教程（图文详解）
配置完成后，如不生效的话请重启应用或则计算机。

tree.export_graphviz 是一个函数，用于将决策树导出为 GraphViz 格式的文件，以便进行可视化。 ‘’’
1、decision_tree： 这是训练好的决策树模型对象，你想要导出的决策树。
2、out_file： 这是输出文件的名称或路径。如果设置为None，则返回生成的 GraphViz 格式的字符串而不是写入到文件中。
3、feature_names：特征的名称列表，用于显示在决策树节点中。如果提供了特征名称，那么将使用这些名称而不是默认的特征索引。
4、class_names：类别（或目标变量）的名称列表，用于显示在叶子节点中。如果提供了类别名称，那么将使用这些名称而不是默认的类别索引。
5、filled：控制是否为节点填充颜色。如果设置为 True，则节点将根据其所表示的类别进行填充。
6、rounded： 控制是否将节点框架设为圆角。如果设置为True，则节点的框架将是圆角的。
7、special_characters： 控制是否将特殊字符转换为 HTML 实体。如果设置为True，则会将特殊字符转换为 HTML 实体。

4、为测试数据集分类

iris_y_predict = clf.predict(iris_x_test)
score=clf.score(iris_x_test,iris_y_test,sample_weight=None)
print('iris_y_predict = ')
print(iris_y_predict)
print('iris_y_test = ')
print(iris_y_test)
print('Accuracy:',score)
1
2
3
4
5
6
7

iris_y_predict = 
[1 2 0 1 0 1 1 1 1 0]
iris_y_test = 
[1 2 0 1 0 1 1 1 1 0]
Accuracy: 1.0
1
2
3
4
5