3과목 데이터 분석회귀분석회귀모형 평가 3요소 + 변수선택 3법

다음은 광고비(ad)로 매출(sales)을 설명한 회귀분석 결과입니다. 광고비를 1단위 늘릴 때 매출의 평균 변화량으로 옳은 것은?

Call:
lm(formula = sales ~ ad)

Residuals:
      Min        1Q    Median        3Q       Max
  -1.3818   -0.8121    0.1424    0.7864    1.5030

Coefficients:
              Estimate Std. Error  t value Pr(>|t|)
(Intercept)     8.3333     0.7321   11.383  3.20e-6 ***
ad              3.7212     0.1180   31.536  1.11e-9 ***
---
Signif. codes:  0 '***' 0.001 '**' 0.01 '*' 0.05 '.' 0.1 ' ' 1

Residual standard error: 1.0717 on 8 degrees of freedom
Multiple R-squared:  0.992,	Adjusted R-squared:  0.991
F-statistic: 994.71 on 1 and 8 DF,  p-value: 1.11e-9

핵심 개념

Estimate 열의 기울기가 곧 '독립변수 1 증가당 종속변수 변화량'입니다.

Lasso=L1, Ridge=L2. VIF 10 이상이 문제.

평가 3요소: 1. F-통계량 p<0.05 (모형 유의성) 2. 계수 p<0.05 (계수 유의성) 3. R² (설명력) 변수선택 3법: 전진선택 · 후진제거 · 단계별 함정: Lasso=L2 (실제 L1), VIF 1 이하 (실제 10 이상)

예시: '회귀모형의 전체 유의성을 가장 먼저 확인할 지표는?' → F-통계량의 p-값

회귀모형 평가 3요소 + 변수선택 3법 패턴 전체 보기 →

해설

독립변수가 1 늘 때의 변화량은 그 변수의 Estimate, 즉 기울기입니다. ad 행의 Estimate가 3.7212이므로 ① 약 3.72 증가합니다. ②의 8.3333은 (Intercept) 행으로 광고비가 0일 때의 매출이고, ③의 0.118은 기울기의 표준오차(Std. Error), ④의 1.07은 잔차 표준오차(Residual standard error)입니다. 출력표에서 어느 열을 보아야 하는지가 이 유형의 전부입니다.

같은 패턴 관련 문항