의사결정트리 (decision tree)

자주 접하는 머신러닝 학습법의 한 종류

- 분류, 회귀 모두 가능한 지도 학습 모델 중 하나

 

트리 구조에 기반하여 결정을 진행함

- True, False 

 

하나의 루트 노드, 여러 개의 내부 노드 및 리프 노드를 포함

 

 

소스 코드

from sklearn import tree
from sklearn.datasets import load_iris
from sklearn import datasets
from sklearn.model_selection import train_test_split
from sklearn.preprocessing import StandardScaler
import numpy as np
from sklearn.metrics import accuracy_score
from sklearn.tree import export_graphviz
import pydotplus
from IPython.display import Image
 
iris = load_iris()
 
X = iris.data[:, [2, 3]]
y = iris.target
 
# 자동으로 데이터셋을 분리해주는 함수
X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.3, random_state=0)
 
# 데이터 표준화 작업
sc = StandardScaler()
sc.fit(X_train)
 
# 표준화된 데이터셋
X_train_std = sc.transform(X_train)
X_test_std = sc.transform(X_test)
 
iris_tree = tree.DecisionTreeClassifier(criterion='entropy', max_depth=3, random_state=0)
iris_tree.fit(X_train, y_train)
 
y_pred_tr = iris_tree.predict(X_test)
print('Accuracy: %.2f' % accuracy_score(y_test, y_pred_tr))
 
dot_data = export_graphviz(iris_tree, out_file=None, feature_names=['petal length', 'petal width'],
                          class_names=iris.target_names, filled=True, rounded=True, special_characters=True)
graph = pydotplus.graph_from_dot_data(dot_data)
Image(graph.create_png())

 

 

참고

 

 

단단한 머신러닝

Python - sklearn, jupyter로 Decision Tree 학습하기