홍라이프 계산기삼차 회귀 계산기 쉽게 이해하기 — 개념과 원리
이 계산기는 최소제곱법으로 자료점들에 삼차곡선 y = ax³ + bx² + cx + d를 맞춥니다. 네 계수, 결정계수 R², 수정 결정계수, 추정값의 표준오차, 원하는 x에서의 예측값을 보여 줍니다. 자료가 오르내리거나 직선이나 포물선으로는 따라갈 수 없게 휘어 있을 때 쓸 수 있습니다.
계산 방법
ŷ = ax³ + bx² + cx + d일 때 SSE = Σ(y − ŷ)²이 가장 작아지는 a, b, c, d를 고릅니다.
모델이 계수에 대해 선형이므로, X의 열이 1, x, x², x³인 정규방정식 (XᵀX)β = Xᵀy를 풉니다.
R² = 1 − SSE ÷ SST, SST = Σ(y − ȳ)²
수정 R² = 1 − (1 − R²)(n − 1) ÷ (n − 4)
표준오차 = √(SSE ÷ (n − 4))
- 정확도를 위해 x를 중심화·척도화한 뒤 풀고 원래 계수로 되돌립니다. 서로 다른 x값이 4개 이상 필요합니다.
원리
최소제곱법은 세로 방향의 빗나감을 전체적으로 가장 작게 하는 곡선을 고릅니다. 빗나감을 제곱하므로 양수와 음수 오차가 서로 지워지지 않고, 큰 빗나감이 더 크게 반영됩니다. 삼차식은 자유로운 계수가 넷이라 두 번까지 휠 수 있습니다. 이 유연성 덕분에 S자 모양이나 점점 가팔라지는 자료에 맞지만, 잡음까지 따라갈 위험도 있습니다. 수정 R²와 표준오차는 계수의 수를 고려하므로 R²만 볼 때보다 모델을 공정하게 비교할 수 있습니다.
예제 풀이
기본값: x = 1 … 8, y = 2.1, 3.9, 4.2, 4.1, 5.0, 7.2, 11.5, 18.3, x = 9에서 예측.
- 최소제곱 계수: a = 0.130556, b = −1.29524, c = 4.43849, d = −1.05714입니다.
- 식은 y = 0.130556x³ − 1.29524x² + 4.43849x − 1.05714입니다.
- R² = 0.999173, 수정 R² = 0.998553, 표준오차 = 0.20427, 점은 8개입니다.
- x = 9에서 예측: 0.130556 × 729 − 1.29524 × 81 + 4.43849 × 9 − 1.05714 = 29.15입니다.
결과 해석
R²가 1에 가까우면 곡선이 y의 변동을 거의 다 설명한다는 뜻이고, 여기서 약 0.2인 표준오차는 y 단위로 본 전형적인 빗나감의 크기입니다. 자료 바로 다음인 x = 9의 예측은 그럴듯하지만, 범위를 멀리 벗어난 예측은 삼차곡선이 급하게 꺾이기 때문에 위험합니다. 항상 자료와 곡선을 함께 그려 보고, 잔차에 규칙적인 패턴이 없는지 확인하십시오.
흔한 실수
- 직선보다 R²가 높다는 이유만으로 삼차식을 고르는 경우
- 관측한 x 범위를 멀리 벗어나 외삽하는 경우
- 점 4개로 맞춘 완벽한 적합을 근거로 삼는 경우
- 계수를 크게 반올림한 뒤 큰 x에서 예측하는 경우
자주 묻는 질문
삼차 회귀는 어디에 쓰이나요?
성장이 느려졌다가 다시 빨라지는 것처럼 최대 두 번 휘는 자료를 모델링할 때 쓰입니다.
점은 몇 개가 필요한가요?
서로 다른 x값이 최소 4개이며, 의미 있는 적합에는 훨씬 많이 필요합니다.
수정 R²는 무엇이 다른가요?
계수가 늘어난 만큼 불이익을 주어, 모델이 복잡해진다고 자동으로 커지지 않습니다.
출처: NIST/SEMATECH e-Handbook of Statistical Methods, §4.1.4.1 Linear Least Squares Regression