분류 기능을 수행하는 모델에는 어떤것들이 더 있는가?

1. Gradient Boosting Tree (GBT)

-앙상블 방법론 중 부스팅 계열에 속하는 알고리즘

-앙상블 방법=여러개의 약한 모델을 조합하여 더 정확한 예측에 도움을 주는 방식

-부스팅=오분류된 개체들에 집중해 새로운 분류 규칙을 만드는 단계

Gradient Boosting 은 잔차를 이용하여 이전 모델의 약점을 보완(위 방식은 통해 실제값과 예측값의 차이를 줄이는 함수를 구하는 과정)

1. 랜덤 포레스트

   : 의사결정나무를 배깅 방식으로 만든 알고리즘.

   • 의사결정나무

     

     https://blog-ko.superb-ai.com/3-minute-algorithm-random-forest/

   • Bagging 방식 : 같은 알고리즘을 사용하되, 데이터를 무작위로 추출해 다양한 서브 데이터셋을 생성하고, 이들을 병렬적으로 학습한 결과를 다수결이나 평균으로 결정하는 것.

   → 랜덤포레스트는, 부트스트랩을 통해 다양한 서브 데이터셋을 생성하고,

   여러 개의 의사결정나무가 각 데이터셋을 학습하고 결과를 취합함으로써 단일 의사결정나무가 가질 수 있는 과적합 문제를 해결할 수 있는 알고리즘.

왜 loss 함수에 따라 분류 모델이 달라지는 것일까?