추정된 최귀선이 주어진 자료에 얼마나 잘 적합되는지를 알아보는 데 사용… | [사회조사분석사 2급 필기] 16년 1회차 기출문제 상세 페이지

1에서 잔차제곱합을 회귀제곱합으로 나눈 값을 뺀 식은 결정계수가 아니다 — 잔차제곱합은 회귀제곱합이 아니라 총제곱합으로 나누어야 한다.
총제곱합은 $SST=\sum(Y_i-\bar{Y})^2$, 회귀제곱합은 $SSR=\sum(\hat{Y}_i-\bar{Y})^2$, 잔차제곱합은 $SSE=\sum(Y_i-\hat{Y}_i)^2$이고 $SST=SSR+SSE$가 성립한다.
따라서 결정계수는 $R^2=\dfrac{SSR}{SST}=1-\dfrac{SSE}{SST}$로 쓸 수 있다.
회귀제곱합을 총제곱합으로 나눈 식, 그리고 $\dfrac{\sum(\hat{Y}_i-\bar{Y})^2}{\sum(Y_i-\bar{Y})^2}$은 모두 $SSR/SST$ 그 자체다.
$1-\dfrac{\sum(Y_i-\hat{Y}_i)^2}{\sum(Y_i-\bar{Y})^2}$은 $1-SSE/SST$로 같은 값이다.
반면 $1-\dfrac{SSE}{SSR}$은 분모가 총제곱합이 아니어서 0~1 범위조차 보장되지 않는다.