Niewyjaśniony ułamek wariancji - Fraction of variance unexplained

W statystyk The frakcja wariancji niewyjaśniona ( FVU ) w kontekście zadanie regresji jest ułamkiem wariancji regressand (zmienna zależna) Y , które nie mogą być wyjaśnione, to znaczy, które nie są prawidłowo przewidywanej przez wyjaśniający zmiennych X .

Definicja formalna

Niech dana funkcję regresji uginając dla każdego oszacowania gdzie jest wektorem ı ^th uwagi na wszystkie zmienne objaśniające. Definiujemy ułamek wariancji niewyjaśnionej (FVU) jako: ${\ displaystyle f}$${\ displaystyle y_ {i}}$${\ displaystyle {\ widehat {y}} _ {i} = f (x_ {i})}$${\ displaystyle x_ {i}}$

${\ Displaystyle {\ rozpocząć {wyrównane} {\ tekst {FVU}} & = {{\ tekst {WARIANCJA}} _ {\ tekst {err}} \ ponad {\ tekst {WARIANCJA}} _ {\ tekst {tot} }} = {{\ text {SS}} _ {\ text {err}} / N \ over {\ text {SS}} _ {\ text {tot}} / N} = {{\ text {SS}} _ {\ text {err}} \ over {\ text {SS}} _ {\ text {tot}}} \ left (= 1 - {{\ text {SS}} _ {\ text {reg}} \ over {\ text {SS}} _ {\ text {tot}}}, {\ text {prawda tylko w niektórych przypadkach, takich jak regresja liniowa}} \ right) \\ [6pt] & = 1-R ^ {2} \ koniec {aligned}}}$

gdzie R ² jest współczynnikiem determinacji, a VAR _err i VAR _tot to wariancja reszt i wariancja próbki zmiennej zależnej. SS _err (suma kwadratów błędów prognoz, równoważnie resztkowa suma kwadratów ), SS _tot ( całkowita suma kwadratów ) i SS _reg (suma kwadratów regresji, równoważnie wyjaśniona suma kwadratów ) są podane przez

${\ Displaystyle {\ rozpocząć {wyrównane} {\ tekst {SS}} _ {\ tekst {błąd}} & = \ suma _ {i = 1} ^ {N} \; (y_ {i} - {\ widehat { y}} _ {i}) ^ {2} \\ {\ text {SS}} _ {\ text {tot}} & = \ sum _ {i = 1} ^ {N} \; (y_ {i} - {\ bar {y}}) ^ {2} \\ {\ text {SS}} _ {\ text {reg}} & = \ sum _ {i = 1} ^ {N} \; ({\ widehat {y}} _ {i} - {\ bar {y}}) ^ {2} {\ text {i}} \\ {\ bar {y}} & = {\ frac {1} {N}} \ sum _ {i = 1} ^ {N} \; y_ {i}. \ end {aligned}}}$

Alternatywnie, niewyjaśniony ułamek wariancji można zdefiniować w następujący sposób:

${\ displaystyle {\ text {FVU}} = {\ Frac {\ operatorname {MSE} (f)} {\ operatorname {var} [Y]}}}$

gdzie MSE ( f ) jest średnim kwadratem błędu funkcji regresji  ƒ .

Wyjaśnienie

Aby zrozumieć FVU, warto rozważyć drugą definicję. Próbując przewidzieć Y , najbardziej naiwną funkcją regresji, o jakiej możemy pomyśleć, jest stała funkcja przewidująca średnią Y , tj . Wynika z tego, że MSE tej funkcji jest równe wariancji Y ; to znaczy SS _err = SS _tot i SS _reg = 0. W tym przypadku nie można uwzględnić żadnej zmiany w Y , a wówczas FVU ma swoją maksymalną wartość 1. ${\ displaystyle f (x_ {i}) = {\ bar {y}}}$

Bardziej ogólnie, FVU będzie 1 czy zmienne objaśniające X powiedzieć nam nic o Y w tym sensie, że przewidywane wartości Y nie covary z Y . Ale gdy prognozy stają się lepsze, a MSE można zmniejszyć, FVU spada. W przypadku doskonałego przewidywania, gdzie dla wszystkich i MSE wynosi 0, SS _err = 0, SS _reg = SS _tot , a FVU wynosi 0. ${\ displaystyle {\ hat {y}} _ {i} = y_ {i}}$

Zobacz też

• Współczynnik determinacji
• Korelacja
• Wyjaśniona suma kwadratów
• Niedopasowana suma kwadratów
• Regresja liniowa
• Analiza regresji

Bibliografia