[천재교육] 결정트리, KNN(K-Nearest Neighbor) 알고리즘

결정트리

 

 

 

※ gini란?

 

 

 

※ 결정트리 예시 1

 

 

※ 결정트리 예시 2

 

 

※ 결정트리 예시 3

 

 

 

※ 규제 하이퍼파라미터

학습데이터에 오버피팅되지 않게 여러가지 규제를 걸어놓은 것.

 

 

 

 

---

KNN(K-Nearest Neighbor) 알고리즘

 

주위에 이웃을 찾는다
k=3 일때는 두개의 보라색을 가진 클래스라 예측
k=6 일때는 네개의 노란색을 가진 클래스라 예측
학습이 필요없어 성능이 빠르다. 레이지 모델!

 

 

 

• 유클리드 거리(Euclidean Distance)

KNN 주변 데이터 거리 잴때 사용한다.