본문 바로가기
728x90

KNN2

[천재교육] 회귀 (Regression) 회귀 (Regression) - 회귀는 현대 통계학을 이루는 큰 축 - 회귀 분석은 유전적 특성을 연구하던 영국의 통계학자 갈톤(Galton)이 수행한 연구에서 유래했다는 것이 일반론 “부모의 키가 크더라도 자식의 키가 대를 이어 무한정 커지지 않으며, 부모의 키가 작더라도 대를 이어 자식의 키가 무한정 작아지지 않는다.” - 회귀분석은 이처럼 데이터 값이 평균과 같은 일정한 값으로 돌아가려는 경향을 이용한 통계학 기법. 회귀는 여러 개의 독립변수와 한 개의 종속변수 간의 상관관계를 모델링하는 기법을 통칭. 머신러닝 회귀 예측의 핵심은 주어진 피쳐와 결정 값 데이터 기반에서 학습을 통해 최적의 회귀 계수를 찾아내는 것. 회귀의 유형 - 위 이미지에서 y = 3 + 2x 가 선형회귀이고, y = 3 + 2.. 2023. 3. 15.
[천재교육] 결정트리, KNN(K-Nearest Neighbor) 알고리즘 결정트리 ※ gini란? ※ 결정트리 예시 1 ※ 결정트리 예시 2 ※ 결정트리 예시 3 ※ 규제 하이퍼파라미터 학습데이터에 오버피팅되지 않게 여러가지 규제를 걸어놓은 것. KNN(K-Nearest Neighbor) 알고리즘 주위에 이웃을 찾는다 k=3 일때는 두개의 보라색을 가진 클래스라 예측 k=6 일때는 네개의 노란색을 가진 클래스라 예측 학습이 필요없어 성능이 빠르다. 레이지 모델! 유클리드 거리(Euclidean Distance) KNN 주변 데이터 거리 잴때 사용한다. 2023. 3. 14.
728x90