다음 그림은 모회귀선과 표본회귀선을 나타낸 것이다. 잔차에 해당하는 부… | [사회조사분석사 2급 필기] 17년 3회차 기출문제 상세 페이지

잔차는 관측값 $y_i$에서 표본회귀선의 적합값 $\hat{y}_i=a+bx_i$까지의 거리이므로, 관측점에서 아래쪽 표본회귀선까지 길게 걸쳐 있는 A 구간이다.
그림의 $x_i$ 위 점선에는 위에서부터 관측점 $y_i$, 모회귀선 $E(y_i)=\alpha+\beta x_i$와의 교점, 표본회귀선 $\hat{y}_i=a+bx_i$와의 교점이 차례로 놓여 있다.
관측점에서 모회귀선까지의 짧은 구간은 오차 $\varepsilon_i=y_i-E(y_i)$로, 모수 $\alpha,\ \beta$를 알아야 하므로 실제로는 관측할 수 없다.
회귀선에서 X축까지 내려가는 아래쪽 두 구간은 기댓값·예측값의 크기 자체일 뿐 편차가 아니다.
즉 잔차는 표본자료에서 실제로 계산되는 오차의 추정량이며, 최소제곱법은 이 잔차들의 제곱합을 최소로 만드는 $a,\ b$를 구하는 방법이다.