Variantie

In waarschijnlijkheids theorie en statistieken, variantie is de verwachting van de vierkante afwijking van een willekeurige variabele van zijn populatie gemiddelde of monstergemiddelde. Variantie is een maat voor spreiding, wat betekent dat het een maat is voor hoe ver een reeks getallen wordt verspreid van hun gemiddelde waarde. Variantie speelt een centrale rol in statistieken, waarbij sommige ideeën die het gebruiken omvatten beschrijvende statistieken, Statistische inferentie, Hypothesetesten, goedheid van fit, en Monte Carlo -bemonstering. Variantie is een belangrijk hulpmiddel in de wetenschappen, waarbij statistische analyse van gegevens gebruikelijk is. De variantie is het vierkant van de standaardafwijking, de seconde centraal moment van een verdeling, en de covariantie van de willekeurige variabele met zichzelf, en deze wordt vaak weergegeven door ${\ DisplayStyle \ Sigma ^{2}}$, ${\ DisplayStyle S^{2}}$, ${\ DisplayStyle \ OperatorName {var} (x)}$, ${\ DisplayStyle v (x)}$, of ${\ DisplayStyle \ Mathbb {v} (x)}$.^[1]

Een voordeel van variantie als een maat voor dispersie is dat het meer vatbaar is voor algebraïsche manipulatie dan andere dispersiemaatregelen, zoals de Verwachte absolute afwijking; De variantie van een som van niet -gecorreleerde willekeurige variabelen is bijvoorbeeld gelijk aan de som van hun varianties. Een nadeel van de variantie voor praktische toepassingen is dat, in tegenstelling tot de standaardafwijking, zijn eenheden verschillen van de willekeurige variabele, en daarom wordt de standaardafwijking vaker gerapporteerd als een maat voor de dispersie zodra de berekening is voltooid.

Er zijn twee verschillende concepten die beide "variantie" worden genoemd. Eén, zoals hierboven besproken, maakt deel uit van een theoretisch waarschijnlijkheidsverdeling en wordt gedefinieerd door een vergelijking. De andere variantie is een kenmerk van een reeks observaties. Wanneer variantie wordt berekend op basis van observaties, worden die waarnemingen meestal gemeten uit een echt wereldsysteem. Als alle mogelijke waarnemingen van het systeem aanwezig zijn, wordt de berekende variantie de populatievariantie genoemd. Normaal gesproken is echter alleen een subset beschikbaar en de variantie die hieruit wordt berekend, wordt de monstervariantie genoemd. De variantie berekend uit een steekproef wordt beschouwd als een schatting van de volledige populatievariantie. Er zijn meerdere manieren om een ​​schatting van de populatievariantie te berekenen, zoals besproken in de onderstaande sectie.

De twee soorten variantie zijn nauw verwant. Om te zien hoe, bedenk dat een theoretische waarschijnlijkheidsverdeling kan worden gebruikt als een generator van hypothetische waarnemingen. Als een oneindig aantal waarnemingen wordt gegenereerd met behulp van een verdeling, dan komt de monstervariantie berekend uit die oneindige set overeen met de waarde berekend met behulp van de vergelijking van de verdeling voor variantie.

Etymologie

De voorwaarde variantie werd voor het eerst geïntroduceerd door Ronald Fisher In zijn papier uit 1918 De correlatie tussen familieleden op de veronderstelling van Mendeliaanse erfenis:^[2]

Het grote aantal beschikbare statistieken tonen ons dat de afwijkingen van een menselijke meting Volg de gemiddelde zeer nauwlettend de Normale wet van foutenen daarom dat de variabiliteit uniform kan worden gemeten door de standaardafwijking overeenkomend met de vierkantswortel van de Gemiddelde vierkante fout. Wanneer er twee onafhankelijke oorzaken zijn van variabiliteit die kunnen produceren in een anders uniforme populatieverdelingen met standaardafwijkingen ${\ DisplayStyle \ Sigma _ {1}}$ en ${\ DisplayStyle \ Sigma _ {2}}$, het blijkt dat de verdeling, wanneer beide samenwerken samenwerken, een standaardafwijking heeft ${\ displaystyle {\ sqrt {\ sigma _ {1}^{2}+\ sigma _ {2}^{2}}}}$. Het is daarom wenselijk bij het analyseren van de oorzaken van variabiliteit om met het kwadraat van de standaardafwijking om te gaan als de maat voor variabiliteit. We zullen deze hoeveelheid de variantie noemen ...

Definitie

De variantie van een willekeurige variabele ${\ displaystyle x}$ is de verwachte waarde van de kwadraatafwijking van het gemiddelde van ${\ displaystyle x}$, ${\ DisplayStyle \ mu = \ OperatorName {e} [x]}$:

${\ DisplayStyle \ OperatorName {var} (x) = \ OperatorName {e} \ links [(x- \ mu)^{2} \ rechts].}$

Deze definitie omvat willekeurige variabelen die worden gegenereerd door processen die zijn discreet, continu, geen van beide, of gemengd. De variantie kan ook worden beschouwd als de covariantie van een willekeurige variabele met zichzelf:

${\ DisplayStyle \ OperatorName {var} (x) = \ OperatorName {cov} (x, x).}$

De variantie is ook gelijk aan de tweede cumulant van een waarschijnlijkheidsverdeling die genereert ${\ displaystyle x}$. De variantie wordt meestal aangeduid als ${\ DisplayStyle \ OperatorName {var} (x)}$, of soms als ${\ DisplayStyle v (x)}$ of ${\ DisplayStyle \ Mathbb {v} (x)}$, of symbolisch als ${\ displaystyle \ sigma _ {x}^{2}}$ of gewoon ${\ DisplayStyle \ Sigma ^{2}}$ (uitgesproken "sigma vierkante "). De uitdrukking voor de variantie kan als volgt worden uitgebreid:

${\ DisplayStyle {\ begin {uitgelijnd} \ OperatorName {var} (x) & = \ OperatorName {e} \ links [(x- \ OperatorName {e} [x])^{2} \ rechts] \\ [4pt ] & = \ operatorName {e} \ links [x^{2} -2x \ operatorName {e} [x]+\ operatorName {e} [x]^{2} \ rechts] \\ [4pt] & = \ operatorName {e} \ links [x^{2} \ rechts] -2 \ operatorName {e} [x] \ operatorName {e} [x]+\ operatorName {e} [x]^{2} \\ [4pt ] & = \ operatorName {e} \ links [x^{2} \ rechts]-\ operatorName {e} [x]^{2} \ end {uitgelijnd}}}$

Met andere woorden, de variantie van X is gelijk aan het gemiddelde van het kwadraat van X minus het vierkant van het gemiddelde van X. Deze vergelijking mag niet worden gebruikt voor berekeningen met behulp van drijvend punt rekenkundig, omdat het lijdt aan catastrofale annulering Als de twee componenten van de vergelijking in grootte vergelijkbaar zijn. Zie voor andere numeriek stabiele alternatieven Algoritmen voor het berekenen van variantie.

Discrete willekeurige variabele

Als de generator van willekeurige variabele ${\ displaystyle x}$ is discreet met kansdichtheidsfunctie ${\ displaystyle x_ {1} \ mapsto p_ {1}, x_ {2} \ mapsto p_ {2}, \ ldots, x_ {n} \ mapsto p_ {n}}$, dan

${\ DisplayStyle \ OperatorName {var} (x) = \ sum _ {i = 1}^{n} p_ {i} \ cdot (x_ {i}-\ mu)^{2},}$

waar ${\ DisplayStyle \ mu}$ is de verwachte waarde. Dat is,

${\ displaystyle \ mu = \ sum _ {i = 1}^{n} p_ {i} x_ {i}.}$

(Wanneer zo'n discreet gewogen variantie wordt gespecificeerd door gewichten waarvan de som niet 1 is, dan verdeelt men zich door de som van de gewichten.)

De variantie van een verzameling van ${\ displaystyle n}$ even waarschijnlijk waarden kunnen worden geschreven als

${\ DisplayStyle \ OperatorName {var} (x) = {\ frac {1} {n}} \ sum _ {i = 1}^{n} (x_ {i}-\ mu)^{2}}$

waar ${\ DisplayStyle \ mu}$ is de gemiddelde waarde. Dat is,

${\ displayStyle \ mu = {\ frac {1} {n}} \ sum _ {i = 1}^{n} x_ {i}.}$

De variantie van een set van ${\ displaystyle n}$ Even waarschijnlijk waarschijnlijk kunnen waarden gelijkwaardig worden uitgedrukt, zonder direct te verwijzen naar het gemiddelde, in termen van kwadraatafwijkingen van alle paarsgewijze vierkante afstanden van punten van elkaar:^[3]

${\ DisplayStyle \ OperatorName {var} (x) = {\ frac {1} {n^{2}}} \ sum _ {i = 1}^{n} \ sum _ {j = 1}^{n} {\ frac {1} {2}} (x_ {i} -x_ {j})^{2} = {\ frac {1} {n^{2}}} \ sum _ {i} \ sum _ _ { J> i} (x_ {i} -x_ {j})^{2}.}$

Absoluut continue willekeurige variabele

Als de willekeurige variabele ${\ displaystyle x}$ heeft een waarschijnlijkheidsdichtheidsfunctie ${\ displaystyle f (x)}$, en ${\ displaystyle f (x)}$ is de overeenkomstige cumulatieve distributiefunctie, dan

${\ displayStyle {\ begin {aligned} \ operatorName {var} (x) = \ sigma ^{2} & = \ int _ {\ mathbb {r}} (x- \ mu) ^{2} f (x) \, dx \\ [4pt] & = \ int _ {\ mathbb {r}} x^{2} f (x) \, dx-2 \ mu \ int _ {\ mathbb {r}} xf (x) \, dx+\ mu ^{2} \ int _ {\ mathbb {r}} f (x) \, dx \\ [4pt] & = \ int _ {\ mathbb {r}} x ^{2} \, df (x) -2 \ mu \ int _ {\ mathbb {r}} x \, df (x)+\ mu ^{2} \ int _ {\ mathbb {r}} \, df (x) \\ [4pt] & = \ int _ {\ mathbb {r}} x ^{2} \, df (x) -2 \ mu \ cdot \ mu +\ mu ^{2} \ cdot 1 \\ [4pt] & = \ int _ {\ mathbb {r}} x ^{2} \, df (x)-\ mu ^{2}, \ end {uitgelijnd}}}$

of gelijkwaardig,

${\ DisplayStyle \ OperatorName {var} (x) = \ int _ {\ mathbb {r}} x ^{2} f (x) \, dx- \ mu ^{2},}$

waar ${\ DisplayStyle \ mu}$ is de verwachte waarde van ${\ displaystyle x}$ gegeven door

${\ displayStyle \ mu = \ int _ {\ Mathbb {r}} xf (x) \, dx = \ int _ {\ mathbb {r}} x \, df (x).}$

In deze formules zijn de integralen met betrekking tot ${\ DisplayStyle dx}$ en ${\ DisplayStyle df (x)}$ zijn Lebesgue en Lebesgue - Stieltjes integralen, respectievelijk.

Als de functie ${\ displaystyle x^{2} f (x)}$ is Riemann-integreerbaar Op elk eindig interval ${\ displaystyle [a, b] \ subset \ mathbb {r},}$ dan

${\ displayStyle \ OperatorName {var} (x) = \ int _ {-\ infty}^{+\ infty} x^{2} f (x) \, dx- \ mu^{2},}$

waar de integrale is een Onjuiste Riemann -integrale.

Voorbeelden

Exponentiële verdeling

De exponentiële verdeling met parameter λ is een continue verdeling waarvan waarschijnlijkheidsdichtheidsfunctie is gegeven door

${\ displaystyle f (x) = \ lambda e^{-\ lambda x}}$

op de interval [0, ∞). Het gemiddelde kan worden aangetoond

${\ displayStyle \ OperatorName {e} [x] = \ int _ {0}^{\ infty} \ lambda xe^{-\ lambda x} \, dx = {\ frac {1} {\ lambda}}.}.}.$

Gebruik makend van Integratie door onderdelen En gebruik maken van de al berekende waarde van de verwachte waarde, hebben we:

${\displaystyle {\begin{aligned}\operatorname {E} \left[X^{2}\right]&=\int _{0}^{\infty }\lambda x^{2}e^{-\ lambda x} \, dx \\ & = \ links [-x^{2} e^{-\ lambda x} \ rechts] _ {0}^{\ infty}+\ int _ {0}^{\ infty } 2xe^{-\ lambda x} \, dx \\ & = 0+{\ frac {2} {\ lambda}} \ operatorname {e} [x] \\ & = {\ frac {2} {\ lambda ^{2}}}. \ End {uitgelijnd}}}$

Dus de variantie van X is gegeven door

${\ DisplayStyle \ OperatorName {var} (x) = \ OperatorName {e} \ links [x^{2} \ rechts]-\ OperatorName {e} [x]^{2} = {\ frac {2} {\ lambda ^{2}}}-\ left ({\ frac {1} {\ lambda}} \ rechts) ^{2} = {\ frac {1} {\ lambda ^{2}}}.}.$

Fair Die

Een beurs zeszijdige dobbelsteen kan worden gemodelleerd als een discrete willekeurige variabele, X, met resultaten 1 tot en met 6, elk met gelijke waarschijnlijkheid 1/6. De verwachte waarde van X is ${\ DisplayStyle (1+2+3+4+5+6)/6 = 7/2.}$ Daarom de variantie van X is

${\ displayStyle {\ begin {aligned} \ operatorName {var} (x) & = \ sum _ {i = 1}^{6} {\ frac {1} {6}} \ left (i-{\ frac { 7} {2}} \ rechts)^{2} \\ [5pt] & = {\ frac {1} {6}} \ left ((-5/2)^{2}+(-3/2) ^{2}+(-1/2)^{2}+(1/2)^{2}+(3/2)^{2}+(5/2)^{2} \ rechts) \\ [5pt] & = {\ frac {35} {12}} \ ongeveer 2.92. \ End {uitgelijnd}}}$

De algemene formule voor de variantie van de uitkomst, X, van een n-zegend Die is

${\ DisplayStyle {\ begin {uitgelijnd} \ OperatorName {var} (x) & = \ OperatorName {e} \ links (x^{2} \ rechts)-(\ operatorame {e} (x))^{2} \\ [5pt] & = {\ frac {1} {n}} \ sum _ {i = 1}^{n} i^{2}-\ left ({\ frac {1} {n}} \ sum _ {i = 1}^{n} i \ rechts)^{2} \\ [5pt] & = {\ frac {(n+1) (2n+1)} {6}}-\ left ({\ frac {n+1} {2}} \ rechts)^{2} \\ [4pt] & = {\ frac {n^{2} -1} {12}}. \ end {aligned}}}}$

Veelgebruikte waarschijnlijkheidsverdelingen

De volgende tabel geeft een overzicht van de variantie voor enkele veelgebruikte waarschijnlijkheidsverdelingen.

Naam van de waarschijnlijkheidsverdeling	Waarschijnlijkheidsverdelingsfunctie	Gemeen	Variantie
Binomiale verdeling	${\ displaystyle \ pr \, (x = k) = {\ binom {n} {k}} p^{k} (1-p)^{n-k}}$	${\ DisplayStyle NP}$	${\ DisplayStyle NP (1-P)}$
Geometrische verdeling	${\ displayStyle \ pr \, (x = k) = (1-p)^{k-1} p}$	${\ DisplayStyle {\ frac {1} {p}}}$	${\ DisplayStyle {\ frac {(1-p)} {p^{2}}}}$
Normale verdeling	${\ displayStyle f \ links (x \ mid \ mu, \ sigma ^{2} \ rechts) = {\ frac {1} {\ sqrt {2 \ pi \ sigma ^{2}}}} e ^{-{{{{{-{ \ frac {(x- \ mu) ^{2}} {2 \ sigma ^{2}}}}}$	${\ DisplayStyle \ mu}$	${\ DisplayStyle \ Sigma ^{2}}$
Uniforme verdeling (continu)	${\ displaystyle f (x \ mid a, b) = {\ begin {cases} {\ frac {1} {b-a}} & {\ text {for}} a \ leq x \ leq b, \\ [3pt] 0 & {\ text {voor}} x <a {\ text {of}} x> b \ end {cases}}}$	${\ DisplayStyle {\ frac {a+b} {2}}}$	${\ DisplayStyle {\ frac {(b-a)^{2}} {12}}}$
Exponentiële verdeling	${\ displaystyle f (x \ mid \ lambda) = \ lambda e^{-\ lambda x}}$	${\ displaystyle {\ frac {1} {\ lambda}}}$	${\ displayStyle {\ frac {1} {\ lambda ^{2}}}}$
Poisson -verdeling	${\ displaystyle f (k \ mid \ lambda) = {\ frac {e ^{-\ lambda} \ lambda ^{k}}} {k!}}}$	${\ DisplayStyle \ Lambda}$	${\ DisplayStyle \ Lambda}$

Eigendommen

Basiseigenschappen

Variantie is niet-negatief omdat de vierkanten positief of nul zijn:

${\ DisplayStyle \ OperatorName {var} (x) \ geq 0.}$

De variantie van een constante is nul.

${\ DisplayStyle \ OperatorName {var} (a) = 0.}$

Omgekeerd, als de variantie van een willekeurige variabele 0 is, dan is dat Bijna zeker Een constante. Dat wil zeggen, het heeft altijd dezelfde waarde:

${\ DisplayStyle \ OperatorName {var} (x) = 0 \ iff \ bestaat a: p (x = a) = 1.}$

Kwesties van eindigheid

Als een verdeling geen eindige verwachte waarde heeft, zoals het geval is voor de Cauchy -verdeling, dan kan de variantie ook niet eindig zijn. Sommige distributies hebben echter mogelijk geen eindige variantie, ondanks dat hun verwachte waarde eindig is. Een voorbeeld is een Pareto -verdeling van wie inhoudsopgave ${\ displaystyle k}$ bevredigen ${\ DisplayStyle 1 <k \ leq 2.}$

Ontleding

De algemene formule voor variantie -ontleding of de Wet van totale variantie is: als ${\ displaystyle x}$ en ${\ displaystyle y}$ zijn twee willekeurige variabelen en de variantie van ${\ displaystyle x}$ bestaat dan

${\ DisplayStyle \ OperatorName {var} [x] = \ OperatorName {e} (\ OperatorName {var} [x \ mid y])+\ OperatorName {var} (\ Operatorname {e} [x \ mid y]). }$

De Voorwaardelijke verwachting ${\ DisplayStyle \ OperatorName {e} (x \ mid y)}$ van ${\ displaystyle x}$ gegeven ${\ displaystyle y}$, en de Voorwaardelijke variantie ${\ DisplayStyle \ OperatorName {var} (x \ mid y)}$ kan als volgt worden begrepen. Gegeven een bepaalde waarde y van de willekeurige variabeleY, er is een voorwaardelijke verwachting ${\ DisplayStyle \ OperatorName {e} (x \ mid y = y)}$ Gezien het evenementY=y. Deze hoeveelheid hangt af van de specifieke waardey; het is een functie ${\ DisplayStyle G (y) = \ OperatorName {e} (x \ mid y = y)}$. Diezelfde functie geëvalueerd op de willekeurige variabele Y is de voorwaardelijke verwachting ${\ DisplayStyle \ OperatorName {e} (x \ mid y) = g (y).}$

In het bijzonder als ${\ displaystyle y}$ is een discrete willekeurige variabele uitgaande mogelijke waarden ${\ displaystyle y_ {1}, y_ {2}, y_ {3} \ ldots}$ met overeenkomstige waarschijnlijkheden ${\ displaystyle p_ {1}, p_ {2}, p_ {3} \ ldots,}$, dan in de formule voor totale variantie, wordt de eerste term aan de rechterkant

${\ DisplayStyle \ OperatorName {e} (\ OperatorName {var} [x \ mid y]) = \ sum _ {i} p_ {i} \ sigma _ {i}^{2},}$

waar ${\ DisplayStyle \ Sigma _ {i}^{2} = \ OperatorName {var} [x \ mid y = y_ {i}]}$. Evenzo wordt de tweede term aan de rechterkant

${\ DisplayStyle \ OperatorName {var} (\ operatorName {e} [x \ mid y]) = \ sum _ {i} p_ {i} \ mu _ {i}^{2}-\ left (\ sum _ _ { i} p_ {i} \ mu _ {i} \ rechts)^{2} = \ sum _ {i} p_ {i} \ mu _ {i}^{2}-\ mu^{2},}$

waar ${\ DisplayStyle \ mu _ {i} = \ OperatorName {e} [x \ mid y = y_ {i}]}$ en ${\ displaystyle \ mu = \ sum _ {i} p_ {i} \ mu _ {i}}$. Dus de totale variantie wordt gegeven door

${\ DisplayStyle \ OperatorName {var} [x] = \ sum _ {i} p_ {i} \ sigma _ {i}^{2}+\ links (\ sum _ {i} p_ {i} \ mu _ _ { i} ^{2}-\ mu ^{2} \ rechts).}$

Een vergelijkbare formule wordt toegepast in Variantieanalyse, waar de overeenkomstige formule is

${\ DisplayStyle {\ Mathit {MS}} _ {\ text {Total}} = {\ Mathit {MS}} _ {\ text {tussen}}+{\ Mathit {MS}} _ {\ Text {binnen}}} ;}$

hier ${\ DisplayStyle {\ Mathit {MS}}}$ verwijst naar het gemiddelde van de vierkanten. In lineaire regressie Analyse De overeenkomstige formule is

${\ DisplayStyle {\ Mathit {MS}} _ {\ text {Total}} = {\ Mathit {MS}} _ {\ text {regression}}+{\ Mathit {MS}} _ {\ text {residual}} .}$

Dit kan ook worden afgeleid van de additiviteit van varianties, omdat de totale (waargenomen) score de som is van de voorspelde score en de foutscore, waarbij de laatste twee niet gecorreleerd zijn.

Soortgelijke ontledingen zijn mogelijk voor de som van vierkante afwijkingen (som van vierkanten, ${\ DisplayStyle {\ Mathit {ss}}}$):

${\ DisplayStyle {\ Mathit {ss}} _ {\ text {Total}} = {\ Mathit {ss}} _ {\ text {tussen}}+{\ mathit {ss}} _ {\ text {binnen ,}$

${\ DisplayStyle {\ Mathit {ss}} _ {\ text {Total}} = {\ Mathit {ss}} _ {\ text {regression}}+{\ Mathit {ss}}} _ {\ text}}}} .}$

Berekening van de CDF

De populatievariantie voor een niet-negatieve willekeurige variabele kan worden uitgedrukt in termen van de cumulatieve distributiefunctie F gebruik makend van

${\ displaystyle 2 \ int _ {0}^{\ infty} u (1-f (u)) \, du- \ left (\ int _ {0}^{\ infty} (1-f (u)) \, du \ rechts)^{2}.}$

Deze uitdrukking kan worden gebruikt om de variantie te berekenen in situaties waarin de CDF, maar niet de dikte, kan gemakkelijk worden uitgedrukt.

Karakteristieke eigenschap

De seconde moment van een willekeurige variabele bereikt de minimumwaarde wanneer het rond het eerste moment (d.w.z. gemiddelde) van de willekeurige variabele wordt genomen, d.w.z. ${\ DisplayStyle \ Mathrm {argmin} _ {m} \, \ Mathrm {e} \ links (\ links (x-m \ rechts)^{2} \ rechts) = \ Mathrm {e} (x)}$. Omgekeerd, als een continue functie ${\ DisplayStyle \ varphi}$ bevredigen ${\ displayStyle \ Mathrm {argmin} _ {m} \, \ mathrm {e} (\ varphi (x-m)) = \ mathrm {e} (x)}$ voor alle willekeurige variabelen X, dan is het noodzakelijkerwijs van de vorm ${\ displayStyle \ varphi (x) = ax^{2}+b}$, waar a > 0. Dit geldt ook in het multidimensionale geval.^[4]

Meeteenheden

In tegenstelling tot de Verwachte absolute afwijking, de variantie van een variabele heeft eenheden die het kwadraat van de eenheden van de variabele zelf zijn. Een in meters gemeten variabele heeft bijvoorbeeld een variantie gemeten in vierkante meters. Om deze reden beschrijven gegevenssets via hun standaardafwijking of Wortelgemiddelde vierkante afwijking heeft vaak de voorkeur boven het gebruik van de variantie. In het dobbelstenen voorbeeld is de standaardafwijking √2.9 ≈ 1.7, iets groter dan de verwachte absolute afwijking van 1,5.

De standaardafwijking en de verwachte absolute afwijking kunnen beide worden gebruikt als een indicator voor de "spreiding" van een verdeling. De standaardafwijking is vatbaarder voor algebraïsche manipulatie dan de verwachte absolute afwijking, en, samen met variantie en de generalisatie ervan covariantie, wordt vaak gebruikt in theoretische statistieken; De verwachte absolute afwijking is echter meer robuust omdat het minder gevoelig is uitbijters voortkomend uit meetanomalieën of een onnodig zware verdeling.

Voortplanting

Toevoeging en vermenigvuldiging door een constante

Variantie is onveranderbaar met betrekking tot veranderingen in een Locatieparameter. Dat wil zeggen, als een constante wordt toegevoegd aan alle waarden van de variabele, is de variantie ongewijzigd:

${\ DisplayStyle \ OperatorName {var} (x+a) = \ OperatorName {var} (x).}$

Als alle waarden worden geschaald door een constante, wordt de variantie geschaald door het kwadraat van die constante:

${\ DisplayStyle \ OperatorName {var} (ax) = a^{2} \ OperatorName {var} (x).}$

De variantie van een som van twee willekeurige variabelen wordt gegeven door

${\ DisplayStyle \ OperatorName {var} (ax+by) = a^{2} \ OperatorName {var} (x)+b^{2} \ OperatorName {var} (y)+2ab \, \ operatorame {cov} (X, y),}$

${\ DisplayStyle \ OperatorName {var} (ax-by) = a^{2} \ OperatorName {var} (x)+b^{2} \ OperatorName {var} (y) -2ab \, \ operatorame {cov} (X, y),}$

waar ${\ DisplayStyle \ OperatorName {cov} (x, y)}$ is de covariantie.

Lineaire combinaties

In het algemeen, voor de som van ${\ displaystyle n}$ willekeurige variabelen ${\ DisplayStyle \ {x_ {1}, \ dots, x_ {n} \}}$, de variantie wordt:

${\ DisplayStyle \ OperatorName {var} \ links (\ sum _ {i = 1}^{n} x_ {i} \ rechts) = \ sum _ {i, j = 1}^{n} \ operatorame {cov} ) (X_ {i}, x_ {j}),}$

Zie ook Algemeen Bienaymé's identiteit.

Deze resultaten leiden tot de variantie van een lineaire combinatie net zo:

${\ displayStyle {\ begin {aligned} \ operatorName {var} \ links (\ sum _ {i = 1}^{n} a_ {i} x_ {i} \ rechts) & = \ sum _ {i, j = 1}^{n} a_ {i} a_ {j} \ operatorName {cov} (x_ {i}, x_ {j}) \\ & = \ sum _ {i = 1}^{n} a_ {i} ^{2} \ OperatorName {var} (x_ {i})+\ sum _ {i \ not = j} a_ {i} a_ {j} \ operatorName {cov} (x_ {i}, x_ {j}) \\ & = \ sum _ {i = 1}^{n} a_ {i}^{2} \ operatorName {var} (x_ {i})+2 \ sum _ {1 \ leq i <j \ leq n } a_ {i} a_ {j} \ operatorName {cov} (x_ {i}, x_ {j}). \ end {uitgelijnd}}}$

Als de willekeurige variabelen ${\ displaystyle x_ {1}, \ dots, x_ {n}}$ zijn zodanig dat

${\ DisplayStyle \ OperatorName {cov} (x_ {i}, x_ {j}) = 0 \, \ \ forall \ (i \ neq j),}$

dan wordt van hen gezegd dat ze zijn niet gecorrigeerd. Het volgt onmiddellijk uit de eerder gegeven uitdrukking dat als de willekeurige variabelen ${\ displaystyle x_ {1}, \ dots, x_ {n}}$ zijn niet gecorreleerd, dan is de variantie van hun som gelijk aan de som van hun varianties, of, symbolisch uitgedrukt:

${\ DisplayStyle \ OperatorName {var} \ links (\ sum _ {i = 1}^{n} x_ {i} \ rechts) = \ sum _ {i = 1}^{n} \ operatorName {var} (x_ {i}).}$

Omdat onafhankelijke willekeurige variabelen altijd niet gecorreleerd zijn (zie Covariantie § Niet gecorreleerdheid en onafhankelijkheid), de bovenstaande vergelijking geldt met name wanneer de willekeurige variabelen ${\ displaystyle x_ {1}, \ dots, x_ {n}}$ zijn onafhankelijk. Onafhankelijkheid is dus voldoende maar niet noodzakelijk voor de variantie van de som om de som van de varianties te evenaren.

Matrixnotatie voor de variantie van een lineaire combinatie

Definiëren ${\ displaystyle x}$ Als kolomvector van ${\ displaystyle n}$ willekeurige variabelen ${\ displaystyle x_ {1}, \ ldots, x_ {n}}$, en ${\ displaystyle c}$ Als kolomvector van ${\ displaystyle n}$ scalars ${\ displaystyle c_ {1}, \ ldots, c_ {n}}$. Daarom, ${\ displaystyle c^{\ mathsf {t}} x}$ is een lineaire combinatie van deze willekeurige variabelen, waar ${\ displaystyle c^{\ mathsf {t}}}$ geeft de omzetten van ${\ displaystyle c}$. Laat ook toe ${\ DisplayStyle \ Sigma}$ wees de covariantiematrix van ${\ displaystyle x}$. De variantie van ${\ displaystyle c^{\ mathsf {t}} x}$ wordt dan gegeven door:^[5]

${\ DisplayStyle \ OperatorName {var} \ links (C^{\ Mathsf {t}} x \ rechts) = C^{\ Mathsf {t}} \ sigma c.}$

Dit houdt in dat de variantie van het gemiddelde kan worden geschreven als (met een kolomvector van die)

${\ DisplayStyle \ OperatorName {var} \ links ({\ bar {x}} \ rechts) = \ OperatorName {var} \ links ({\ frac {1} {n}} 1'x \ rechts) = {\ frac {1} {n^{2}}}} 1 '\ sigma 1.}$

Som van variabelen

Som van niet -gecorreleerde variabelen

Een reden voor het gebruik van de variantie in voorkeur aan andere dispersiemaatregelen is dat de variantie van de som (of het verschil) van niet gecorrigeerd Willekeurige variabelen is de som van hun varianties:

${\ DisplayStyle \ OperatorName {var} \ links (\ sum _ {i = 1}^{n} x_ {i} \ rechts) = \ sum _ {i = 1}^{n} \ operatorName {var} (x_ {i}).}$

Deze verklaring wordt de Bienaymé formule^[6] en werd ontdekt in 1853.^[7][8] Het wordt vaak gemaakt met de sterkere toestand die de variabelen zijn onafhankelijk, maar niet gecorreleerd zijn. Dus als alle variabelen dezelfde variantie hebben σ², dan, sinds divisie door n is een lineaire transformatie, deze formule impliceert onmiddellijk dat de variantie van hun gemiddelde is

${\displaystyle \operatorname {Var} \left({\overline {X}}\right)=\operatorname {Var} \left({\frac {1}{n}}\sum _{i=1}^{ n} x_ {i} \ rechts) = {\ frac {1} {n^{2}}} \ sum _ {i = 1}^{n} \ operatorName {var} \ left (x_ {i} \ rechts ) = {\ frac {1} {n ^{2}}} n \ sigma ^{2} = {\ frac {\ sigma ^{2}} {n}}.}$

Dat wil zeggen, de variantie van het gemiddelde neemt af wanneer n verhoogt. Deze formule voor de variantie van het gemiddelde wordt gebruikt in de definitie van de standaardfout van het monstergemiddelde, dat wordt gebruikt in de centrale limietstelling.

Om de eerste verklaring te bewijzen, volstaat het om dat aan te tonen

${\ DisplayStyle \ OperatorName {var} (x+y) = \ OperatorName {var} (x)+\ operatorName {var} (y).}.$

Het algemene resultaat volgt vervolgens door inductie. Beginnend met de definitie,

${\ DisplayStyle {\ begin {uitgelijnd} \ operatorName {var} (x+y) & = \ operatorName {e} \ links [(x+y)^{2} \ rechts]-(\ operatorName {e} [x +Y])^{2} \\ [5pt] & = \ operatorName {e} \ links [x^{2}+2xy+y^{2} \ rechts]-(\ operatorName {e} [x]+ \ operatorName {e} [y])^{2}. \ end {uitgelijnd}}}$

Met behulp van de lineariteit van de verwachtingoperator en de veronderstelling van onafhankelijkheid (of niet -gecorreleerde) van X en Y, dit vereenvoudigt verder als volgt:

${\ DisplayStyle {\ begin {uitgelijnd} \ OperatorName {var} (x+y) & = \ OperatorName {e} \ links [x^{2} \ rechts] +2 \ Operatorname {e} [xy]+\ Operatorname {E} \ links [y^{2} \ rechts]-\ Left (\ OperatorName {e} [x]^{2} +2 \ OperatorName {e} [x] \ operatorName {e} [y]+\ OperatorName {e} [y]^{2} \ rechts) \\ [5pt] & = \ operatorName {e} \ links [x^{2} \ rechts]+\ operatorName {e} \ links [y^{2 } \ rechts]-\ OperatorName {e} [x]^{2}-\ OperatorName {e} [y]^{2} \\ [5pt] & = \ operatorName {var} (x)+\ operatorame {var } (Y). \ End {uitgelijnd}}}$

Som van gecorreleerde variabelen

Som van gecorreleerde variabelen met een vaste steekproefgrootte

In het algemeen, de variantie van de som van n variabelen is de som van hun covarianties:

${\ DisplayStyle \ OperatorName {var} \ links (\ sum _ {i = 1}^{n} x_ {i} \ rechts) = \ sum _ {i = 1}^{n} \ sum _ {j = 1 }^{n} \ operatorName {cov} \ links (x_ {i}, x_ {j} \ rechts) = \ sum _ {i = 1}^{n} \ operatorName {var} \ left (x_ {i} \ rechts) +2 \ sum _ {1 \ leq i <j \ leq n} \ operatorName {cov} \ left (x_ {i}, x_ {j} \ rechts).}$

(Opmerking: de tweede gelijkheid komt van het feit dat Cov (X_i,X_i) = Var (X_i).)

Hier, ${\ DisplayStyle \ OperatorName {cov} (\ cdot, \ cdot)}$ is de covariantie, die nul is voor onafhankelijke willekeurige variabelen (als het bestaat). De formule stelt dat de variantie van een som gelijk is aan de som van alle elementen in de covariantiematrix van de componenten. De volgende uitdrukking stelt gelijkwaardig dat de variantie van de som de som is van de diagonaal van covariantiematrix plus twee keer de som van zijn bovenste driehoekige elementen (of zijn lagere driehoekige elementen); Dit benadrukt dat de covariantiematrix symmetrisch is. Deze formule wordt gebruikt in de theorie van Cronbach's Alpha in klassieke testtheorie.

Dus als de variabelen gelijke variantie hebben σ² en het gemiddelde correlatie van verschillende variabelen is ρ, dan is de variantie van hun gemiddelde

${\ DisplayStyle \ OperatorName {var} \ links ({\ overline {x}} \ rechts) = {\ frac {\ sigma ^{2}} {n}}+{\ frac {n-1}}}} \ rho \ sigma ^{2}.}$

Dit houdt in dat de variantie van het gemiddelde toeneemt met het gemiddelde van de correlaties. Met andere woorden, aanvullende gecorreleerde waarnemingen zijn niet zo effectief als aanvullende onafhankelijke waarnemingen bij het verminderen van de onzekerheid van de gemiddelde. Bovendien, als de variabelen eenheidsvariantie hebben, bijvoorbeeld als ze gestandaardiseerd zijn, vereenvoudigt dit zich

${\ DisplayStyle \ OperatorName {var} \ links ({\ overline {x}} \ rechts) = {\ frac {1} {n}}+{\ frac {n-1} {n}} \ rho.}$

Deze formule wordt gebruikt in de Spearman -Brown Prediction Formula van de klassieke testtheorie. Dit convergeert naar ρ als n gaat naar oneindig, op voorwaarde dat de gemiddelde correlatie constant blijft of convergeert. Dus voor de variantie van het gemiddelde van gestandaardiseerde variabelen met gelijke correlaties of convergerende gemiddelde correlatie die we hebben

${\ displaystyle \ lim _ {n \ to \ infty} \ operatorName {var} \ left ({\ overline {x}} \ rechts) = \ rho.}$

Daarom is de variantie van het gemiddelde van een groot aantal gestandaardiseerde variabelen ongeveer gelijk aan hun gemiddelde correlatie. Dit maakt duidelijk dat het steekproefgemiddelde van gecorreleerde variabelen in het algemeen niet overeenkomt met het populatiegemiddelde, hoewel de Wet van grote aantallen stelt dat het monstergemiddelde zal samenkomen voor onafhankelijke variabelen.

Som van niet -gecorreleerde variabelen met willekeurige steekproefgrootte

Er zijn gevallen waarin een monster wordt genomen zonder te weten, hoeveel observaties volgens een criterium acceptabel zullen zijn. In dergelijke gevallen is de steekproefomvang N is een willekeurige variabele waarvan de variatie bijdraagt ​​aan de variatie van X, zoals dat,

${\ DisplayStyle \ OperatorName {var} \ links (\ sum _ {i = 1}^{n} x_ {i} \ rechts) = \ OperatorName {e} \ links [n \ rechter] \ operatorname {var} (x )+\ operatorName {var} (n) \ operatorName {e} \ links [x \ rechts]^{2}}$^[9]

die volgt uit de Wet van totale variantie.

Als N heeft een Poisson -verdeling, dan ${\ DisplayStyle \ OperatorName {e} [n] = \ OperatorName {var} (n)}$ met schatter N = n. Dus de schatter van ${\ DisplayStyle \ OperatorName {var} \ links (\ sum _ {i = 1}^{n} x_ {i} \ rechts)}$ wordt ${\ displaystyle n {s_ {x}}^{2}+n {\ bar {x}}^{2}}$ geven ${\displaystyle \operatorname {SE} ({\bar {X}})={\sqrt {\frac {{S_{x}}^{2}+{\bar {X}}^{2}}{n }}}}$

Gewogen som van variabelen

De schaalbezit en de Bienaymé -formule, samen met het eigendom van de covariantie Cov (bijl,,door) = abs Cov (X,,Y) Gezamenlijk impliceren dat

${\ DisplayStyle \ OperatorName {var} (ax \ pm by) = a^{2} \ operatorName {var} (x)+b^{2} \ operatorName {var} (y) \ pm 2ab \, \ \ operatorName { Cov} (x, y).}$

Dit houdt in dat in een gewogen som van variabelen de variabele met het grootste gewicht een onevenredig groot gewicht zal hebben in de variantie van het totaal. Bijvoorbeeld, als X en Y zijn niet gecorreleerd en het gewicht van X is twee keer het gewicht van Y, dan het gewicht van de variantie van X zal vier keer het gewicht zijn van de variantie van Y.

De bovenstaande uitdrukking kan worden uitgebreid tot een gewogen som van meerdere variabelen:

${\ DisplayStyle \ OperatorName {var} \ links (\ sum _ {i}^{n} a_ {i} x_ {i} \ rechts) = \ sum _ {i = 1}^{n} a_ {i}^ {2} \ OperatorName {var} (x_ {i})+2 \ sum _ {1 \ leq i} \ sum _ {<j \ leq n} a_ {i} a_ {j} \ operatorname {cov} (x_ {i}, x_ {j})}$

Product van variabelen

Product van onafhankelijke variabelen

Als twee variabelen x en y zijn onafhankelijk, de variantie van hun product wordt gegeven door^[10]

${\ DisplayStyle \ OperatorName {var} (xy) = [\ OperatorName {e} (x)]^{2} \ OperatorName {var} (y)+[\ operatorname {e} (y)]^{2} \ OperatorName {var} (x)+\ operatorName {var} (x) \ operatorName {var} (y).}$

Gelijkwaardig, met behulp van de basiseigenschappen van verwachting, wordt het gegeven door

${\ DisplayStyle \ OperatorName {var} (xy) = \ OperatorName {e} \ left (x^{2} \ rechts) \ OperatorName {e} \ links (y^{2} \ rechts)-[\ operatorName {e {e } (X)]^{2} [\ operatorName {e} (y)]^{2}.}$

Product van statistisch afhankelijke variabelen

In het algemeen, als twee variabelen statistisch afhankelijk zijn, wordt de variantie van hun product gegeven door:

${\ displayStyle {\ begin {uitgelijnd} \ operatorName {var} (xy) = {} & \ operatorName {e} \ links [x^{2} y^{2} \ rechts]-[\ operatorname {e} ( Xy)]^{2} \\ [5pt] = {} & \ OperatorName {cov} \ links (x^{2}, y^{2} \ rechts)+\ operatorName {e} (x^{2} ) \ OperatorName {e} \ links (y^{2} \ rechts)-[\ operatorName {e} (xy)]^{2} \\ [5pt] = {} & \ operatorname {cov} \ links (x ^{2}, y^{2} \ rechts)+\ links (\ operatorName {var} (x)+[\ operatorName {e} (x)]^{2} \ rechts) \ links (\ operatorName {var } (Y)+[\ operatorName {e} (y)]^{2} \ rechts) \\ [5pt] &-[\ operatorName {cov} (x, y)+\ operatorName {e} (x) \ OperatorName {e} (y)]^{2} \ end {uitgelijnd}}}$

Willekeurige functies

De Delta -methode Gebruikt tweede-orde Taylor -uitbreidingen Om de variantie van een functie van een of meer willekeurige variabelen te benaderen: zie Taylor -uitbreidingen voor de momenten van functies van willekeurige variabelen. De geschatte variantie van een functie van één variabele wordt bijvoorbeeld gegeven door

${\ DisplayStyle \ OperatorName {var} \ links [f (x) \ rechts] \ cault \ links (f '(\ operatorName {e} \ links [x \ rechts]) \ rechts)^{2} \ operatorame {var } \ links [x \ rechts]}$

mits f is twee keer onderscheidbaar en dat het gemiddelde en de variantie van X zijn eindig.

Populatievariantie en steekproefvariantie

Real-world observaties zoals de metingen van de regen van gisteren gedurende de dag kunnen meestal geen complete sets zijn van alle mogelijke waarnemingen die kunnen worden gedaan. Als zodanig zal de variantie berekend uit de eindige set in het algemeen niet overeenkomen met de variantie die zou zijn berekend uit de volledige populatie van mogelijke waarnemingen. Dit betekent dat die schattingen het gemiddelde en de variantie van een beperkte reeks observaties met behulp van een schatter vergelijking. De schatter is een functie van de steekproef van n waarnemingen getrokken zonder observationele vooringenomenheid van het geheel bevolking van mogelijke waarnemingen. In dit voorbeeld zou dat monster de set van werkelijke metingen zijn van de regenval van gisteren door beschikbare regenmeters binnen de geografie van interesse.

De eenvoudigste schatters voor populatiegemiddelde en populatievariantie zijn gewoon het gemiddelde en de variantie van de steekproef, de monstergemiddelde en (niet gecorrigeerd) Voorbeeldvariantie - dit zijn Consistente schatters (Ze convergeren naar de juiste waarde naarmate het aantal monsters toeneemt), maar kunnen worden verbeterd. Het schatten van de populatievariantie door de variantie van de steekproef te nemen, is in het algemeen bijna optimaal, maar kan op twee manieren worden verbeterd. Het meest eenvoudig, de monstervariantie wordt berekend als een gemiddelde van Vierkant afwijkingen over het (monster) gemiddelde, door te delen door n. Het gebruik van andere waarden dan n verbetert de schatter op verschillende manieren. Vier gemeenschappelijke waarden voor de noemer zijn n, n- 1, n+1, en n- 1.5: n is de eenvoudigste (populatievariantie van de steekproef), n- 1 elimineert bias, n+1 minimaliseert Gemiddelde vierkante fout voor de normale verdeling, en n- 1.5 elimineert meestal bias in onpartijdige schatting van standaardafwijking voor de normale verdeling.

Ten eerste, als het ware populatiegemiddelde onbekend is, is de steekproefvariantie (die het steekproefgemiddelde gebruikt in plaats van het ware gemiddelde) een bevooroordeelde schatter: het onderschat de variantie met een factor (n- 1) / n; corrigeren door deze factor (delen door n- 1 in plaats van n) wordt genoemd Bessel's correctie. De resulterende schatter is onbevooroordeeld en wordt de (Gecorrigeerd) Voorbeeldvariantie of Onbevorderde steekproefvariantie. Bijvoorbeeld wanneer n= 1 De variantie van een enkele observatie over het steekproefgemiddelde (zichzelf) is duidelijk nul, ongeacht de populatievariantie. Als het gemiddelde op een andere manier wordt bepaald dan van dezelfde monsters die worden gebruikt om de variantie te schatten, ontstaat deze bias niet en kan de variantie veilig worden geschat als die van de monsters over het (onafhankelijk bekende) gemiddelde.

Ten tweede minimaliseert de steekproefvariantie niet in het algemeen Gemiddelde vierkante fout tussen steekproefvariantie en populatievariantie. Corrigeren voor bias maakt dit vaak erger: men kan altijd een schaalfactor kiezen die beter presteert dan de gecorrigeerde monstervariantie, hoewel de optimale schaalfactor afhangt van de overtollige kurtosis van de bevolking (zie Gemiddelde vierkante fout: variantie), en introduceert vooringenomenheid. Dit bestaat altijd uit het verkleinen van de onpartijdige schatter (delen door een aantal groter dan n- 1), en is een eenvoudig voorbeeld van een krimpschatter: Men "krimpt" de onbevooroordeelde schatter naar nul. Voor de normale verdeling, delen door n+1 (in plaats van n- 1 of n) Minimaliseert de gemiddelde kwadratische fout. De resulterende schatter is echter bevooroordeeld en staat bekend als de bevooroordeelde steekproefvariatie.

Bevolkingsvariantie

In het algemeen, de bevolkingsvariantie van een eindig bevolking van grootte N met waarden x_i is gegeven door

$${\ displayStyle {\ begin {aligned} \ sigma ^{2} & = {\ frac {1} {n}} \ sum _ {i = 1} ^{n} \ left (x_ {i}-\ mu \ mu \ rechts)^{2} = {\ frac {1} {n}} \ sum _ {i = 1}^{n} \ left (x_ {i}^{2} -2 \ mu x_ {i}+\ mu^{2} \ rechts) \\ [5pt] & = \ links ({\ frac {1} {n}} \ sum _ {i = 1}^{n} x_ {i}^{2} \ rechts ) -2 \ mu \ links ({\ frac {1} {n}} \ sum _ {i = 1} ^{n} x_ {i} \ rechts)+\ mu ^{2} \\ [5pt] & = \ links ({\ frac {1} {n}} \ sum _ {i = 1}^{n} x_ {i}^{2} \ rechts)-\ mu^{2} \ end {uitgelijnd}} }$$

waar het bevolking betekent

${\ displayStyle \ mu = {\ frac {1} {n}} \ sum _ {i = 1}^{n} x_ {i}.}$

De populatievariantie kan ook worden berekend met behulp van

${\ displayStyle \ sigma^{2} = {\ frac {1} {n^{2}}} \ sum _ {i <j} \ left (x_ {i} -x_ {j} \ rechts)^{2 } = {\ frac {1} {2n^{2}}} \ sum _ {i, j = 1}^{n} \ links (x_ {i} -x_ {j} \ rechts)^{2}. }$

Dit is waar omdat

$${\ displayStyle {\ begin {aligned} & {\ frac {1} {2n^{2}}}} \ sum _ {i, j = 1}^{n} \ left (x_ {i} -x_ {j} \ rechts)^{2} \\ [5pt] = {} & {\ frac {1} {2n^{2}}} \ sum _ {i, j = 1}^{n} \ left (x_ {i }^{2} -2x_ {i} x_ {j}+x_ {j}^{2} \ rechts) \\ [5pt] = {} & {\ frac {1} {2n}} \ sum _ {j = 1}^{n} \ links ({\ frac {1} {n}} \ sum _ {i = 1}^{n} x_ {i}^{2} \ rechts)-\ left ({\ frac {1} {n}} \ sum _ {i = 1}^{n} x_ {i} \ rechts) \ links ({\ frac {1} {n}} \ sum _ {j = 1}^{n } x_ {j} \ rechts)+{\ frac {1} {2n}} \ sum _ {i = 1}^{n} \ left ({\ frac {1} {n}} \ sum _ {j = 1} ^{n} x_ {j} ^{2} \ rechts) \\ [5pt] = {} & {\ frac {1} {2}} \ links (\ sigma ^{2}+\ mu ^{ 2} \ rechts)-\ mu ^{2}+{\ frac {1} {2}} \ links (\ sigma ^{2}+\ mu ^{2} \ rechts) \\ [5pt] = {} & \ sigma ^{2} \ end {uitgelijnd}}}$$

De populatievariantie komt overeen met de variantie van de genererende waarschijnlijkheidsverdeling. In deze zin kan het concept van populatie worden uitgebreid tot continue willekeurige variabelen met oneindige populaties.

Steekproefvariantie

Bevooroordeelde steekproefvariantie

In veel praktische situaties is de ware variantie van een populatie niet bekend a priori en moet op de een of andere manier worden berekend. Bij het omgaan met extreem grote populaties is het niet mogelijk om elk object in de populatie te tellen, dus de berekening moet worden uitgevoerd op een steekproef van de populatie.^[11] Sample -variantie kan ook worden toegepast op de schatting van de variantie van een continue verdeling van een steekproef van die verdeling.

We nemen een monster met vervanging van n waarden Y₁, ...,Y_n van de bevolking, waar n<<Nen schatting de variantie op basis van deze steekproef.^[12] Het direct nemen van de variantie van de steekproefgegevens geeft het gemiddelde van de Vierkant afwijkingen:

${\ displayStyle {\ tilde {s}} _ {y}^{2} = {\ frac {1} {n}} \ sum _ {i = 1}^{n} \ left (y_ {i}-{ \ overline {y}} \ rechts)^{2} = \ links ({\ frac {1} {n}} \ sum _ {i = 1}^{n} y_ {i}^{2} \ rechts) -{\ overline {y}}^{2} = {\ frac {1} {n^{2}}} \ sum _ {i, j \,: \, i <j} \ left (y_ {i} -Y_ {j} \ rechts)^{2}.}$

Hier, ${\ DisplayStyle {\ Overline {y}}}$ geeft de monstergemiddelde:

${\ displayStyle {\ overline {y}} = {\ frac {1} {n}} \ sum _ {i = 1}^{n} y_ {i}.}$

Sinds de Y_i zijn willekeurig geselecteerd, beide ${\ DisplayStyle {\ Overline {y}}}$ en ${\ displaystyle {\ tilde {s}} _ {y}^{2}}$ zijn willekeurige variabelen. Hun verwachte waarden kunnen worden geëvalueerd door gemiddeld over het ensemble van alle mogelijke monsters {Y_i} van maat n van de bevolking. Voor ${\ displaystyle {\ tilde {s}} _ {y}^{2}}$ dit geeft:

${\displaystyle {\begin{aligned}\operatorname {E} [{\tilde {S}}_{Y}^{2}]&=\operatorname {E} \left[{\frac {1}{n} } \ sum _ {i = 1}^{n} \ links (y_ {i}-{\ frac {1} {n}} \ sum _ {j = 1}^{n} y_ {j} \ rechts) ^{2} \ rechts] \\ [5pt] & = {\ frac {1} {n}} \ sum _ {i = 1}^{n} \ operatorName {e} \ left [y_ {i}^{ 2}-{\ frac {2} {n}} y_ {i} \ sum _ {j = 1}^{n} y_ {j}+{\ frac {1} {n^{2}}} \ sum _ {j = 1}^{n} y_ {j} \ sum _ {k = 1}^{n} y_ {k} \ rechts] \\ [5pt] & = {\ frac {1} {n}} \ sum _ {i = 1}^{n} \ links ({\ frac {n-2} {n}} \ operatorName {e} \ links [y_ {i}^{2} \ rechts]-{\ frac {2} {n}} \ sum _ {j \ neq i} \ operatorName {e} \ links [y_ {i} y_ {j} \ rechts]+{\ frac {1} {n^}}}} \ sum _ {j = 1}^{n} \ sum _ {k \ neq j}^{n} \ operatorName {e} \ links [y_ {j} y_ {k} \ rechter]+{\ frac {1 } {n^{2}}} \ sum _ {j = 1}^{n} \ operatorName {e} \ links [y_ {j}^{2} \ rechts] \ rechts) \\ [5pt] & = {\ frac {1} {n}} \ sum _ {i = 1} ^{n} \ links [{\ frac {n-2} {n}} \ left (\ sigma ^{2}+\ mu ^ {2} \ rechts)-{\ frac {2} {n}} (n-1) \ mu ^{2}+{\ frac {1} {n ^{2}}} n (n-1) \ mu ^{2}+{\ frac {1} {n}} \ links (\ sigma ^{2}+\ mu ^{2} \ rechts) \ rechts] \\ [5pt] & = {\ frac {n -1} {n}} \ sigma ^{2}. \ End {uitgelijnd}}}$

Vandaar ${\ displaystyle {\ tilde {s}} _ {y}^{2}}$ geeft een schatting van de populatievariantie die wordt bevooroordeeld door een factor ${\ DisplayStyle {\ frac {n-1} {n}}}$. Om deze reden, ${\ displaystyle {\ tilde {s}} _ {y}^{2}}$ wordt de bevooroordeelde steekproefvariantie.

Onbevorderde steekproefvariantie

Corrigeren voor deze bias levert de Onbevorderde steekproefvariantie, aangeduid ${\ DisplayStyle S^{2}}$:

${\ displayStyle S^{2} = {\ frac {n} {n-1}} {\ tilde {s}} _ {y}^{2} = {\ frac {n} {n-1}} \ Links [{\ frac {1} {n}} \ sum _ {i = 1}^{n} \ links (y_ {i}-{\ overline {y}} \ rechts)^{2} \ right] = {\ frac {1} {n-1}} \ sum _ {i = 1}^{n} \ links (y_ {i}-{\ overline {y}} \ rechts)^{2}}$

Beide schatter kan eenvoudig worden genoemd als de steekproefvariantie Wanneer de versie kan worden bepaald door context. Hetzelfde bewijs is ook van toepassing op monsters die zijn genomen uit een continue waarschijnlijkheidsverdeling.

Het gebruik van de term n- 1 wordt genoemd Bessel's correctie, en het wordt ook gebruikt in Proef covariantie en de Voorbeeld van standaardafwijking (De vierkantswortel van variantie). De vierkantswortel is een concave functie en introduceert dus negatieve vertekening (door Jensen's ongelijkheid), die afhankelijk is van de verdeling, en dus is de gecorrigeerde standaarddeviatie (met behulp van de correctie van Bessel) bevooroordeeld. De onpartijdige schatting van standaardafwijking is een technisch betrokken probleem, hoewel voor de normale verdeling met behulp van de term n- 1,5 levert een bijna onbevooroordeelde schatter op.

De onpartijdige steekproefvariantie is een U-statistisch voor de functie ƒ(y₁,,y₂) = (y₁-y₂)²/2, wat betekent dat het wordt verkregen door het gemiddelde te nemen van een 2-steekproefstatistiek over subsets van 2 elementen van de bevolking.

Verdeling van de steekproefvariantie

Een functie zijn van willekeurige variabelen, de steekproefvariantie is zelf een willekeurige variabele en het is natuurlijk om de verdeling ervan te bestuderen. In het geval dat Y_i zijn onafhankelijke observaties van een normale verdeling, Cochran's stelling laat zien dat S² volgt een geschaalde Chi-kwadraatverdeling (zie ook: asymptotische eigenschappen):^[13]

${\ displaystyle (n-1) {\ frac {s^{2}} {\ sigma^{2}}} \ sim \ chi _ {n-1}^{2}.}$

Als een direct gevolg daaruit volgt dat dat

${\ DisplayStyle \ OperatorName {E} \ Left (S ^{2} \ rechts) = \ OperatorName {E} \ Left ({\ frac {\ Sigma ^{2}}}}} {n-1}} \ {n -1} ^{2} \ rechts) = \ sigma ^{2},}$

en^[14]

${\ DisplayStyle \ OperatorName {var} \ links [S ^{2} \ rechts] = \ OperatorName {var} \ left ({\ frac {\ sigma ^{2}}}}} {n-1}}} \ chi _ {n {n {n {n {n {n -1}^{2} \ rechts) = {\ frac {\ sigma^{4}} {(n-1)^{2}}} \ operatorName {var} \ left (\ chi _ {n-1} ^{2} \ rechts) = {\ frac {2 \ sigma ^{4}} {n-1}}.}$

Als de Y_i zijn onafhankelijk en identiek verdeeld, maar dan niet noodzakelijkerwijs normaal verdeeld^[15]

${\ DisplayStyle \ OperatorName {e} \ links [S^{2} \ rechts] = \ sigma^{2}, \ quad \ operatorName {var} \ links [s^{2} \ rechts] = {\ frac { \ sigma ^{4}} {n}} \ links (\ kappa -1+{\ frac {2} {n -1}} \ rechts) = {\ frac {1} {n}} \ left (\ mu _ {4}-{\ frac {n-3} {n-1}} \ sigma ^{4} \ rechts),}$

waar κ is de kurtosis van de verdeling en μ₄ is de vierde centraal moment.

Als de voorwaarden van de Wet van grote aantallen houd vast voor de vierkante observaties, S² is een consistente schatter vanσ². Men kan inderdaad zien dat de variantie van de schatter asymptotisch naar nul neigt. Een asymptotisch equivalente formule werd gegeven in Kenney en Keeping (1951: 164), Rose en Smith (2002: 264) en Weisstein (n.d.).^[16][17][18]

Samuelsons ongelijkheid

Samuelsons ongelijkheid is een resultaat dat de grenzen op de waarden staat die individuele waarnemingen in een monster kunnen nemen, aangezien het monstergemiddelde en (bevooroordeelde) variantie zijn berekend.^[19] Waarden moeten binnen de grenzen liggen ${\ DisplayStyle {\ bar {y}} \ pm \ sigma _ {y} (n-1)^{1/2}.}$

Relaties met de harmonische en rekenkundige middelen

Het is aangetoond^[20] dat voor een voorbeeld {y_i} van positieve reële getallen,

${\ displayStyle \ sigma _ {y}^{2} \ leq 2y _ {\ max} (a-h),}$

waar y_maximaal is het maximum van het monster, A is het rekenkundige gemiddelde, H is de harmonisch gemiddelde van het monster en ${\ displaystyle \ sigma _ {y}^{2}}$ is de (bevooroordeelde) variantie van het monster.

Deze gebonden is verbeterd en het is bekend dat variantie wordt begrensd door

${\ displayStyle \ sigma _ {y}^{2} \ leq {\ frac {y _ {\ max} (a-h) (y _ {\ max} -a)} {y _ {\ max}}},},}$

${\ displayStyle \ sigma _ {y}^{2} \ geq {\ frac {y _ {\ min} (a-h) (a-y _ {\ min})} {h-y _ {\ min}}},},}$

waar y_min is het minimum van het monster.^[21]

Gelijkheidstests van varianties

De F-test van gelijkheid van varianties en de Chi square tests zijn voldoende wanneer het monster normaal wordt verdeeld. Niet-normaliteit maakt het testen op de gelijkheid van twee of meer varianties moeilijker.

Verschillende niet -parametrische tests zijn voorgesteld: deze omvatten de Barton - David - Ansari - Freund - Siegel - Tukey -test, de Capon -test, Stemmingstest, de Klotz -test en de SukhatMe -test. De Sukhatme -test is van toepassing op twee varianties en vereist dat beide medianen bekend zijn en gelijk aan nul. De stemming, Klotz, Capon en Barton - David - Ansari - Freund - Siegel - Tukey -tests zijn ook van toepassing op twee varianties. Ze laten de mediaan onbekend zijn, maar vereisen wel dat de twee mediaan gelijk zijn.

De Lehmann -test is een parametrische test van twee varianties. Van deze test zijn er verschillende varianten bekend. Andere tests van de gelijkheid van varianties omvatten de boxtest, de Box -Anderson -test en de Mozes -test.

Resampling -methoden, waaronder de bootstrap en de kwijt, kan worden gebruikt om de gelijkheid van varianties te testen.

Traagheidsmoment

De variantie van een waarschijnlijkheidsverdeling is analoog aan de traagheidsmoment in klassieke mechanica van een overeenkomstige massadistributie langs een lijn, met betrekking tot rotatie rond het massamiddelpunt. Het is vanwege deze analogie dat dingen als de variantie worden genoemd momenten van waarschijnlijkheidsverdelingen. De covariantiematrix is ​​gerelateerd aan de Moment van traagheid tensor voor multivariate distributies. Het moment van traagheid van een wolk van n punten met een covariantiematrix van ${\ DisplayStyle \ Sigma}$ is gegeven door

${\ displayStyle i = n \ links (\ mathbf {1} _ {3 \ maal 3} \ operatorName {tr} (\ sigma)-\ sigma \ rechts).}$

Dit verschil tussen traagheidsmoment in de natuurkunde en in statistieken is duidelijk voor punten die langs een lijn worden verzameld. Stel dat veel punten dicht bij de x as en verdeeld. De covariantiematrix ziet er misschien uit

${\ displayStyle \ sigma = {\ begin {bMatrix} 10 & 0 & 0 \\ 0 & 0.1 & 0 \\ 0 & 0 & 0.1 \ end {bMatrix}}.}.$

Dat wil zeggen, er is de meeste variantie in de x richting. Natuurkundigen zouden dit als een laag moment beschouwen over de x as dus het moment van onertie tensor is

${\ displaystyle i = n {\ begin {bMatrix} 0.2 & 0 & 0 \\ 0 & 10.1 & 0 \\ 0 & 0 & 10.1 \ end {bMatrix}}.}.$

Semivariantie

De semivariantie wordt berekend op dezelfde manier als de variantie, maar alleen die waarnemingen die onder het gemiddelde vallen, zijn opgenomen in de berekening:

Het wordt ook beschreven als een specifieke maatregel in verschillende toepassingsgebieden. Voor scheve distributies kan de semivariantie aanvullende informatie verstrekken die een variantie niet doet.^[22]

Zie voor ongelijkheden geassocieerd met de semivariantie Chebyshev's ongelijkheid § semivarianties.

Generalisaties

Voor complexe variabelen

Als ${\ displaystyle x}$ is een scalair complex-Valueerde willekeurige variabele, met waarden in ${\ DisplayStyle \ Mathbb {C},}$ dan is de variantie ${\ displayStyle \ OperatorName {e} \ left [(x- \ mu) (x- \ mu)^{*} \ rechts],}$ waar ${\ displaystyle x^{*}}$ is de complex vervoeging van ${\ DisplayStyle x.}$ Deze variantie is een echte scalair.

Voor willekeurige vector-gewaardeerde willekeurige variabelen

Als matrix

Als ${\ displaystyle x}$ is een vector-Valueerde willekeurige variabele, met waarden in ${\ DisplayStyle \ Mathbb {r} ^{n},}$ en beschouwd als een kolomvector, dan is een natuurlijke generalisatie van variantie ${\ displayStyle \ OperatorName {e} \ left [(x- \ mu) (x- \ mu)^{\ operatorName {t}} \ rechts],}$ waar ${\ DisplayStyle \ mu = \ OperatorName {e} (x)}$ en ${\ DisplayStyle x^{\ OperatorName {t}}}$ is het transponeren van ${\ DisplayStyle X,}$ En dat geldt ook voor een rijvector. Het resultaat is een Positieve semi-definitieve vierkante matrix, gewoonlijk aangeduid als de variantie-covariantiematrix (of gewoon als de covariantiematrix).

Als ${\ displaystyle x}$ is een willekeurige vector- en complex gewaardeerde willekeurige variabele, met waarden in ${\ DisplayStyle \ Mathbb {c} ^{n},}$ dan de covariantiematrix is ${\ displayStyle \ OperatorName {e} \ left [(x- \ mu) (x- \ mu)^{\ dagger} \ rechts],}$ waar ${\ DisplayStyle X^{\ Dagger}}$ is de conjugaat transponeren van ${\ DisplayStyle X.}$ Deze matrix is ​​ook positief semi-definitief en vierkant.

Als scalair

Een andere generalisatie van variantie voor willekeurige vector-gewaardeerde willekeurige variabelen ${\ displaystyle x}$, wat resulteert in een scalaire waarde in plaats van in een matrix, is de Gegeneraliseerde variantie ${\ DisplayStyle \ Det (c)}$, de bepalend van de covariantiematrix. De gegeneraliseerde variantie kan worden aangetoond gerelateerd te zijn aan de multidimensionale spreiding van punten rond hun gemiddelde.^[23]

Een andere generalisatie wordt verkregen door rekening te houden met de Euclidische afstand tussen de willekeurige variabele en het gemiddelde ervan. Dit resulteert in ${\ displayStyle \ OperatorName {e} \ links [(x- \ mu)^{\ operatorName {t}} (x- \ mu) \ rechts] = \ operatorName {tr} (c),}$ welke is de spoor van de covariantiematrix.

Zie ook

• Bhatia -Davis ongelijkheid
• Variatiecoëfficiënt
• Homosedasticiteit
• MINST-SQUARES Spectrale analyse Voor het berekenen van een frequentie spectrum met spectrale grootten in% van de variantie of in db
• Popoviciu's ongelijkheid op varianties
• Maatregelen voor statistische dispersie
• Variantie-stabiliserende transformatie

Soorten variantie

• Correlatie
• Afstandsvariantie
• Verklaarde variantie
• Gepoolde variantie
• Pseudo-variantie

Referenties