[❓질문] 의사결정 나무나 회귀 나무 질문있습니다.

[익명(180.233)]

저기어 age <30 저런거 모델이 어떻게 부등호 값을 취하는건가요?

예를 들어 age = {10,15, 12, 16}

이런식이면 (10+ 15+12+16)/n 으로 하는건가요?

아니면 어떻게 부등호 값을 정하나요?

[익명(106.101)]

RPART 알고리즘 기준으로 말하자면 변수에 존재하는 Split point로 데이터를 다 나눠봄-》나누었을때 각 노드 별로 예측값(최빈값 또는 평균)이 생김-》데이터포인트들의 라벨링 값과 예측값 사이의 손실함수 값 계산 -》 가장 손실함수 값을 낮추는 Split point를 기준으로 나눔

[ㅁㅁㅁ(211.254)]

첨언하자면 1. 현재 데이터셋이 age = {10,15, 12, 16}뿐이라면 존재하는 Split 가능 지점들은 (1). age <= 12 / 12> age (2). age <= 15 / 15>age

[ㅁㅁㅁ(211.254)]

2. 저 Split 가능 포인트 별로 다 나눠봄.그러면 노드별로 예측값이 생김. 이때 노드들의 예측값은 노드에 속하는 데이터의 결과변수 평균(regression의 경우)임

[ㅁㅁㅁ(211.254)]

3. 각 지점들로부터 발생하는 모델의 MSE(Rpart 알고리즘은 MSE를 썼던걸로 기억함) 감소량을 계산함. 당연히 모델의 데이터포인트들의 결과변수에 대한 현재 예측값과 결과변수의 실제값으로 계산함.

[ㅁㅁㅁ(211.254)]

4. 가장 모델의 MSE를 감소시키는 Split 지점으로 실제 분할을 진행함 너가 궁금해하는 age <30 기준이 선택된 이유는 해당 노드를 그 기준으로 나누었을때, 다른 가능 기준들보다 MSE를 가장 크게 감소시켰기 때문이야. 각 변수들의 모든 지점들에 대한 MSE 감소량을 계산해서 고르는거기 때문에 데이터가 왠만큼 작지 않은 이상 너가 손으로 계산하기는 어려울거다.