Lightgbm은 leaf-wise 트리로서, 가로로 확장하며 가장 유망한 노드를 우선 탐색하는 알고리즘이다. depth-wise 알고리즘보다 빠르지만, 적절한 파라미터를 사용하지 않으면 오버피팅이 될 수 있다. Leaf wise tree의 3가지 중요한 파라미터 1. num_leaves 오버피팅을 방지하는데 중요한 파라미터이다. 즉 오버피팅되었다 싶으면 값을 줄이면 된다. 트리의 최대 깊이를 의미한다. 일반적으로 num_leaves를 2^max_depth보다 작게 설정해야한다. 같으면 depth-wise tree와 같은 수의 leaves를 가지게 하여, 오버피팅이 발생할 수 있다. 2. min_data_in_leaf 오버피팅을 방지하는데 중요한 파라미터이다. leaf가 가지고 있는 최소한의 데이터 수 ..