AI Study/Machine Learning1 Decision Tree, Random Forest, ExtraTressClassifier 1. Decision Tree (결정트리) 흔히 의사결정나무라고 한다 분류와 회귀 모두 가능한 지도 학습 모델 중에 하나이다 쉽게 스무고개를 한다고 생각하면 된다 한번의 분기마다 T/F 두개로 분기한다 여기서 질문을 담은 것이 Node라고 하고 첫 질문을 Root Node 맨 마지막 노드를 Terminal Node 혹은 Leaf Node라고 한다 이를 통해서 어떻게 나누냐 이렇게 데이터를 가장 잘 구분할 수 있는 질문을 기준으로 나누고 이어서 한번더 나눈다. 느낌이 오다 싶히 조금만 깊게 해도 쉽게 오버피팅이 된다 이러한 것을 막기 위해서 Pruning이라는 방법(노드의 분기 개수를 제한 하는 것(최대 깊이 혹은 분기 노드 개수를 지정)) 그러면 결정트리는 어떻게 학습을 하냐 불순도(Impurity)를 .. 2023. 8. 17. 이전 1 다음