어느 분석가가 이진 분류 목표변수를 갖는 데이터에 의사결정나무를 적용하고 있다. 루트 노드의 엔트로피는 0.95이며, 후보 분리 A를 적용하면 분리 후 가중평균 엔트로피가 0.40, 후보 분리 B를 적용하면 0.70이 된다. 이 상황에 대한 설명으로 옳지 않은 것은?
- 1분리 A의 정보 이득은 0.55, 분리 B의 정보 이득은 0.25이므로 정보 이득 기준으로는 분리 A가 선택된다.
- 2정보 이득은 최대화하고 분리 후 불순도는 최소화하는 것이므로, 두 기준은 같은 분리를 선택하게 된다.
- 3분리 후 자식 노드의 지니 지수가 0에 가까울수록 해당 노드에 특정 범주의 관측치가 집중되어 있음을 의미한다.
- 4분리 B는 분리 A보다 분리 후 엔트로피가 크므로 자식 노드들을 더 순수하게 만드는 분리이다.
꿈라CBT