multiple_regression_examples
Differences
This shows you the differences between two versions of the page.
Both sides previous revisionPrevious revisionNext revision | Previous revision | ||
multiple_regression_examples [2020/07/06 13:01] – [E.g. 1] hkimscil | multiple_regression_examples [2023/10/21 13:26] (current) – hkimscil | ||
---|---|---|---|
Line 179: | Line 179: | ||
> | > | ||
</ | </ | ||
+ | R제곱값은 0.80로 (F(1, 28) = 114.8, 2.053e-11) 스트레스만으로도 significant한 결과를 갖는다. | ||
+ | |||
+ | 그렇다면 stress 와 bmi가 공통으로 기여하는 부분을 뺀 순수 기여분은 어떻게 될까? 즉, 위의 .80 부분 중 bmi와 공통으로 기여하는 부분을 제외한 나머지는 얼마일까? | ||
+ | |||
+ | ===== 방법 1 ===== | ||
+ | 이를 위해서 아래를 계획, 수행해본다. | ||
+ | |||
+ | - 각각의 독립변인이 고유하게 미치는 영향력은 (설명력은) 무엇인지를 본다. | ||
+ | - 공통설명력은 얼마나 되는지 본다. | ||
+ | |||
+ | - 1을 위해서는 각 독립변인과 종속변인인 happiness의 semi-partial correlation값을 구해서 제곱해보면 되겠다. | ||
+ | - 2를 위해서는 두 독립변인을 써서 구했던 r 제곱값에서 위의 1에서 구한 제곱값들을 제외한 나머지를 보면 된겠다. | ||
+ | |||
+ | * 결론을 내기 위한 계획을 세우고 실행한다. | ||
+ | * 이는 아래와 같이 정리할 수 있다 | ||
+ | |||
+ | {{: | ||
+ | |||
+ | ===== 각각의 독립변인이 고유하게 미치는 영향력은 (설명력은) 무엇인지를 본다 ===== | ||
+ | < | ||
+ | > spcor(d.yyk) | ||
+ | $estimate | ||
+ | | ||
+ | bmi 1.0000000 | ||
+ | stress | ||
+ | happiness -0.1334127 -0.2858909 | ||
+ | |||
+ | $p.value | ||
+ | bmi stress happiness | ||
+ | bmi | ||
+ | stress | ||
+ | happiness 0.4902316 0.1327284 0.0000000 | ||
+ | |||
+ | $statistic | ||
+ | | ||
+ | bmi 0.0000000 | ||
+ | stress | ||
+ | happiness -0.6994855 -1.550236 | ||
+ | |||
+ | $n | ||
+ | [1] 30 | ||
+ | |||
+ | $gp | ||
+ | [1] 1 | ||
+ | |||
+ | $method | ||
+ | [1] " | ||
+ | |||
+ | > | ||
+ | > | ||
+ | </ | ||
+ | happiness에 영향을 주는 변인을 보는 것이므로 | ||
+ | < | ||
+ | | ||
+ | happiness -0.1334127 -0.2858909 | ||
+ | </ | ||
+ | 를 본다. 그리고 이 값의 제곱값이 각 독립변인의 고유 설명력이다. | ||
+ | < | ||
+ | > (-0.1334127)^2 | ||
+ | [1] 0.01779895 | ||
+ | > (-0.2858909)^2 | ||
+ | [1] 0.08173361 | ||
+ | > | ||
+ | </ | ||
+ | 즉, '' | ||
+ | |||
+ | 이를 파티션을 하면서 직접 살펴보려면 | ||
+ | * 우선 $\frac{b}{a+b+c+d}$ 를 보려고 한다. | ||
+ | * 그림에서 m.bmi <- lm((a+b+c+d)~(b+e)) 와 같이 한후에 r제곱값을 보고, sqrt 하면 r값을 알 수 있다. | ||
+ | * b+e를 구하려면 lm(bmi~stress)를 한후, 그 residual을 보면 된다. | ||
+ | * a+b+c+d 는 happiness 그 자체이다. | ||
+ | |||
+ | < | ||
+ | m.bmi <- lm(bmi ~ stress) | ||
+ | mod <- lm(happiness ~ resid(m.bmi)) | ||
+ | summary(mod) | ||
+ | </ | ||
+ | < | ||
+ | > m.bmi <- lm(bmi ~ stress) | ||
+ | > mod <- lm(happiness ~ resid(m.bmi)) | ||
+ | > summary(mod) | ||
+ | |||
+ | Call: | ||
+ | lm(formula = happiness ~ resid(m.bmi)) | ||
+ | |||
+ | Residuals: | ||
+ | | ||
+ | -1.97283 -0.94440 | ||
+ | |||
+ | Coefficients: | ||
+ | | ||
+ | (Intercept) | ||
+ | resid(m.bmi) -0.05954 | ||
+ | --- | ||
+ | Signif. codes: | ||
+ | |||
+ | Residual standard error: 1.353 on 28 degrees of freedom | ||
+ | Multiple R-squared: | ||
+ | F-statistic: | ||
+ | </ | ||
+ | |||
+ | 위의 분석에서 R-square 값인 0.0178 이 bmi의 고유의 설명력이다. r값은 sqrt(0.0178)이다. 그리고, 위의 모델은 significant하지 않음을 주목한다. | ||
+ | |||
+ | 다음으로 $\frac {d}{a+b+c+d}$을 구해서 stress 고유설명력을 본다. 이제는 | ||
+ | < | ||
+ | m.stress <- lm(stress ~ bmi) | ||
+ | mod2 <- lm(happiness ~ resid(m.stress)) | ||
+ | sumary(mod2) | ||
+ | </ | ||
+ | |||
+ | < | ||
+ | > m.stress <- lm(stress ~ bmi) | ||
+ | > mod2 <- lm(happiness ~ resid(m.stress)) | ||
+ | > summary(mod2) | ||
+ | |||
+ | Call: | ||
+ | lm(formula = happiness ~ resid(m.stress)) | ||
+ | |||
+ | Residuals: | ||
+ | Min 1Q Median | ||
+ | -1.9383 -1.2297 | ||
+ | |||
+ | Coefficients: | ||
+ | Estimate Std. Error t value Pr(> | ||
+ | (Intercept) | ||
+ | resid(m.stress) | ||
+ | --- | ||
+ | Signif. codes: | ||
+ | |||
+ | Residual standard error: 1.308 on 28 degrees of freedom | ||
+ | Multiple R-squared: | ||
+ | F-statistic: | ||
+ | |||
+ | > | ||
+ | </ | ||
+ | Multiple R-squared 인 0.08173 이 고유 설명력이고, | ||
+ | 0.08173 값과 0.0178을 더한 값을 제외한 lm(happiness~bmi+stress) 에서의 R-squared 값이 공통설명력이 된다. 아래의 분석 결과에서 Multiple R-squared: | ||
+ | |||
+ | < | ||
+ | m.both <- lm(happiness~bmi+stress) | ||
+ | summary(m.both) | ||
+ | </ | ||
+ | < | ||
+ | > m.both <- lm(happiness~bmi+stress) | ||
+ | > summary(m.both) | ||
+ | |||
+ | Call: | ||
+ | lm(formula = happiness ~ bmi + stress) | ||
+ | |||
+ | Residuals: | ||
+ | | ||
+ | -0.89293 -0.40909 | ||
+ | |||
+ | Coefficients: | ||
+ | Estimate Std. Error t value Pr(> | ||
+ | (Intercept) | ||
+ | bmi | ||
+ | stress | ||
+ | --- | ||
+ | Signif. codes: | ||
+ | |||
+ | Residual standard error: 0.5869 on 27 degrees of freedom | ||
+ | Multiple R-squared: | ||
+ | F-statistic: | ||
+ | </ | ||
+ | |||
+ | 이 값은 0.72217 이다. | ||
+ | < | ||
+ | > 0.8217- (0.08173 + 0.0178) | ||
+ | [1] 0.72217 | ||
+ | > | ||
+ | </ | ||
+ | |||
+ | bmi나 stress 중 하나를 IV로 취하는 것이 좋다는 결론을 내린다. | ||
+ | |||
+ | |||
====== with Two Predictor Variables ====== | ====== with Two Predictor Variables ====== | ||
data file: {{: | data file: {{: |
multiple_regression_examples.txt · Last modified: 2023/10/21 13:26 by hkimscil