DS 실습 18 - 의사결정나무 모델: 분류 및 회귀나무

분류 나무(Classification Tree)

- 종속변수가 명목형인 경우 사용

- 각 노드 분류 알고리즘은 이진 분류 시 Gini Index 기반의 CART(Classification And Regression Tree) 사용

 

회귀 나무(Regression Tree)

- 종속변수가 연속형인 경우 사용

- 각 노드 분류에는 평균, 표준편차를 활용하여 모델을 만들어 나가고 노드를 분류함

 

- 과적합 방지, 모델 단순화를 위해 Depth, Impurity 등 관련 설정 활용

 

from sklearn.tree import DecisionTreeClassifier
from sklearn.tree import DecisionTreeRegressor

 

sklearn - DecisionTreeClassifier()

- 분류나무를 수행

sklearn - DecisionTreeRegressor()

- 회귀 나무를 수행

 

- max_depth : 모델의 성장 설정 가능. 줄일수록 성능이 안 좋아짐

 

 

DecisionTreeRegressor