[ML] Light Gradient Boosting Machine

yozzum·2025년 2월 20일
0

Machine Learning

목록 보기
7/30

Overview

  • Level-wise가 아닌 Leaf-wise로 진행
  • 전체 Loss가 줄어드는 방향으로 node를 선정해서 split 진행(이 때, level 유지하려는 경향을 포기)
  • 필요한 노드들만 split하면 되기 때문에 level-wise tree growth보다 학습이 빠르다.
  • hyper-parametre sensitive(특히 max_depth에 의해 과적합 주의 필요)
  • 랜덤포레스트와 비슷하게 피처 일부를 무작위로 선택하여 학습.
  • Leaf-wise 성장 방식 때문에 중요도가 특정 변수에 편향될 수 있음.



profile
yozzum

0개의 댓글