Correlatie

Verschillende sets van (x,,y) punten, met de Pearson correlatiecoëfficiënt van x en y Voor elke set. De correlatie weerspiegelt de luidruchtigheid en richting van een lineaire relatie (bovenste rij), maar niet de helling van die relatie (midden), noch vele aspecten van niet -lineaire relaties (onder). N.B.: De figuur in het midden heeft een helling van 0, maar in dat geval is de correlatiecoëfficiënt ongedefinieerd omdat de variantie van Y is nul.

In statistieken, correlatie of afhankelijkheid is elke statistische relatie, of oorzakelijk of niet, tussen twee willekeurige variabelen of bivariate gegevens. Hoewel in de breedste zin "correlatie" kan wijzen op elk type associatie, verwijst het in statistieken normaal gesproken naar de mate waarin een paar variabelen zijn lineair verwant. Bekende voorbeelden van afhankelijke fenomenen omvatten de correlatie tussen de hoogte van ouders en hun nakomelingen, en de correlatie tussen de prijs van een goed en de hoeveelheid die de consumenten bereid zijn te kopen, zoals het wordt afgebeeld in de zogenaamde vraagcurve.

Correlaties zijn nuttig omdat ze een voorspellende relatie kunnen aangeven die in de praktijk kan worden benut. Een elektrisch nut kan bijvoorbeeld op een milde dag minder vermogen produceren op basis van de correlatie tussen de vraag naar elektriciteit en het weer. In dit voorbeeld is er een oorzakelijk verband, omdat extreem weer zorgt ervoor dat mensen meer elektriciteit gebruiken voor verwarming of koeling. Over het algemeen is de aanwezigheid van een correlatie echter niet voldoende om de aanwezigheid van een causaal verband af te leiden (d.w.z. Correlatie betekent geen oorzakelijk verband).

Formeel zijn willekeurige variabelen afhankelijk Als ze niet voldoen aan een wiskundige eigenschap van Probabilistische onafhankelijkheid. In informele taal, correlatie is synoniem met afhankelijkheid. Bij gebruik in technische zin verwijst correlatie echter naar een van de verschillende specifieke soorten wiskundige bewerkingen tussen de geteste variabelen en hun respectieve verwachte waarden. In wezen is correlatie de maat voor hoe twee of meer variabelen aan elkaar gerelateerd zijn. Er zijn meerdere correlatie coëfficiënten, vaak aangeduid ${\ displaystyle \ rho}$ of ${\ displaystyle r}$, het meten van de mate van correlatie. De meest voorkomende hiervan is de Pearson correlatiecoëfficiënt, die alleen gevoelig is voor een lineair verband tussen twee variabelen (die mogelijk aanwezig zijn, zelfs wanneer de ene variabele een niet -lineaire functie van de andere is). Andere correlatiecoëfficiënten - zoals Spearman's rang correlatie - zijn ontwikkeld om meer te zijn robuust dan die van Pearson, dat is gevoeliger voor niet -lineaire relaties.^[1][2][3] Wederzijdse informatie Kan ook worden toegepast om afhankelijkheid tussen twee variabelen te meten.

Pearson's productmomente coëfficiënt

Voorbeeld van spreidingsvermogen van verschillende datasets met verschillende correlatiecoëfficiënten.

De meest bekende maat van afhankelijkheid tussen twee hoeveelheden is de Pearson product-moment correlatiecoëfficiënt (PPMCC), of "Pearson's correlatiecoëfficiënt", gewoonlijk eenvoudig "de correlatiecoëfficiënt" genoemd. Het wordt verkregen door de verhouding tussen de covariantie van de twee variabelen in kwestie van onze numerieke dataset te nemen, genormaliseerd op de vierkantswortel van hun varianties. Wiskundig verdeelt men eenvoudig de covariantie van de twee variabelen door het product van hun standaard afwijkingen. Karl Pearson ontwikkelde de coëfficiënt van een soortgelijk maar enigszins ander idee door Francis Galton.^[4]

Een Pearson-productmomente correlatiecoëfficiënt probeert een lijn van de beste pasvorm vast te stellen via een gegevensset van twee variabelen door in wezen de verwachte waarden uit te leggen en de resulterende Pearson's correlatiecoëfficiënt geeft aan hoe ver de werkelijke dataset is van de verwachte waarden. Afhankelijk van het teken van de correlatiecoëfficiënt van onze Pearson, kunnen we eindigen met een negatieve of positieve correlatie als er een verband is tussen de variabelen van onze gegevensset.

De bevolkingscorrelatiecoëfficiënt ${\ displaystyle \ rho _ {x, y}}$ tussen twee willekeurige variabelen ${\ displaystyle x}$ en ${\ displaystyle y}$ met verwachte waarden ${\ displaystyle \ mu _ {x}}$ en ${\ displaystyle \ mu _ {y}}$ en standaard afwijkingen ${\ DisplayStyle \ Sigma _ {x}}$ en ${\ DisplayStyle \ Sigma _ {y}}$ is gedefinieerd als:

$${\ displayStyle \ rho _ {x, y} = \ operatorName {corr} (x, y) = {\ operatorName {cov} (x, y) \ over \ sigma _ {x} \ sigma _ {y}} = {\ operatorName {e} [(x- \ mu _ {x}) (y- \ mu _ {y})] \ over \ sigma _ {x} \ sigma _ {y}}, \ quad {\ text { if}} \ \ sigma _ {x} \ sigma _ {y}> 0.}$$

waar ${\ DisplayStyle \ OperatorName {e}}$ is de verwachte waarde operator, ${\ DisplayStyle \ OperatorName {cov}}$ middelen covariantie, en ${\ DisplayStyle \ OperatorName {Corr}}$ is een veelgebruikte alternatieve notatie voor de correlatiecoëfficiënt. De Pearson -correlatie is alleen gedefinieerd als beide standaardafwijkingen eindig en positief zijn. Een alternatieve formule puur in termen van momenten is:

$${\ displayStyle \ rho _ {x, y} = {\ operatorName {e} (xy)-\ operatorName {e} (x) \ operatorName {e} (y) \ over {\ sqrt {\ operatorname {e} ( X^{2})-\ OperatorName {e} (x)^{2}}}} \ cdot {\ sqrt {\ operatorName {e} (y^{2})-\ operatorName {e} (y)^{{{{{{{{{{{{{{{{{{{{{ 2}}}}}$$

Correlatie en onafhankelijkheid

Het is een gevolg van de Cauchy - Schwarz ongelijkheid dat de absolute waarde van de Pearson -correlatiecoëfficiënt is niet groter dan 1. Daarom varieert de waarde van een correlatiecoëfficiënt tussen −1 en +1. De correlatiecoëfficiënt is +1 in het geval van een perfecte directe (toenemende) lineaire relatie (correlatie), −1 in het geval van een perfecte omgekeerde (afnemende) lineaire relatie (anti-correlatie),^[5] en enige waarde in de open interval ${\ displaystyle (-1,1)}$ in alle andere gevallen, die de mate van aangeven lineaire afhankelijkheid tussen de variabelen. Naarmate het nul nadert, is er minder een relatie (dichter bij niet -gecorreleerde). Hoe dichter de coëfficiënt is bij −1 of 1, hoe sterker de correlatie tussen de variabelen.

Als de variabelen zijn onafhankelijk, Pearson's correlatiecoëfficiënt is 0, maar het omgekeerde is niet waar omdat de correlatiecoëfficiënt alleen lineaire afhankelijkheden tussen twee variabelen detecteert.

$${\ displayStyle {\ begin {uitgelijnd} x, y {\ text {Independent}} \ quad & \ rightarrow \ quad \ rho _ {x, y} = 0 \ quad (x, y {\ text {niet -gecorreleerd}})) \\\ rho _ {x, y} = 0 \ quad (x, y {\ text {niet gecorreleerd}}) \ quad & \ nrightarrow \ quad x, y {\ text {Independent}} \ end {aligned}}}}$$

Stel bijvoorbeeld de willekeurige variabele ${\ displaystyle x}$ is symmetrisch verdeeld over nul, en ${\ displaystyle y = x^{2}}$. Dan ${\ displaystyle y}$ wordt volledig bepaald door ${\ displaystyle x}$, zodat ${\ displaystyle x}$ en ${\ displaystyle y}$ zijn perfect afhankelijk, maar hun correlatie is nul; zij zijn niet gecorrigeerd. In het speciale geval echter wanneer ${\ displaystyle x}$ en ${\ displaystyle y}$ zijn gezamenlijk normaal, niet -gecorreleerdeheid is gelijk aan de onafhankelijkheid.

Hoewel niet -gecorreleerde gegevens niet noodzakelijkerwijs onafhankelijkheid impliceren, kan men controleren of willekeurige variabelen onafhankelijk zijn als hun wederzijdse informatie is 0.

Monstercorrelatiecoëfficiënt

Gegeven een reeks van ${\ displaystyle n}$ Metingen van het paar ${\ displaystyle (x_ {i}, y_ {i})}$ geïndexeerd door ${\ displaystyle i = 1, \ ldots, n}$, de monstercorrelatiecoëfficiënt kan worden gebruikt om de populatie Pearson -correlatie te schatten ${\ displaystyle \ rho _ {x, y}}$ tussen ${\ displaystyle x}$ en ${\ displaystyle y}$. De monstercorrelatiecoëfficiënt wordt gedefinieerd als

${\ displaystyle r_ {xy} \ quad {\ overset {\ underset {\ mathrm {def}} {}} {=}} \ quad {\ frac {\ sum \ limits _ {i = 1}^{n} ( x_ {i}-{\ bar {x}}) (y_ {i}-{\ bar {y}})} {(n-1) s_ {x} s_ {y}}} = {\ frac {\ Sum \ limits _ {i = 1}^{n} (x_ {i}-{\ bar {x}}) (y_ {i}-{\ bar {y}})} {\ sqrt {\ sum \ limit _ {i = 1}^{n} (x_ {i}-{\ bar {x}})^{2} \ sum \ limits _ {i = 1}^{n} (y_ {i}-{\ bar {y}})^{2}}}},}$

waar ${\ DisplayStyle {\ Overline {x}}}$ en ${\ DisplayStyle {\ Overline {y}}}$ zijn het monster middelen van ${\ displaystyle x}$ en ${\ displaystyle y}$, en ${\ DisplayStyle S_ {x}}$ en ${\ DisplayStyle S_ {y}}$ zijn de Gecorrigeerde standaardafwijkingen van het monster van ${\ displaystyle x}$ en ${\ displaystyle y}$.

Gelijkwaardige uitdrukkingen voor ${\ displaystyle r_ {xy}}$ zijn

${\ displayStyle {\ begin {uitgelijnd} r_ {xy} & = {\ frac {\ sum x_ {i} y_ {i} -n {\ bar {x}} {\ bar {y}}} {ns'_ {x} s '_ {y}}}} \\ [5pt] & = {\ frac {n \ sum x_ {i} y_ {i}-\ sum x_ {i} \ sum y_ {i}} {{{{{{{{{{{{{{{{{{{{{{{{\ sqrt {n \ sum x_ {i}^{2}-(\ sum x_ {i})^{2}}} ~ {\ sqrt {n \ sum y_ {i}^{2}-(\ sum y_ { i})^{2}}}}}}. \ End {uitgelijnd}}}$

waar ${\ DisplayStyle S '_ {x}}$ en ${\ DisplayStyle S '_ {y}}$ zijn de ongecorrigeerd Standaardafwijkingen van het monster van ${\ displaystyle x}$ en ${\ displaystyle y}$.

Als ${\ displaystyle x}$ en ${\ displaystyle y}$ zijn resultaten van metingen die meetfout bevatten, de realistische limieten voor de correlatiecoëfficiënt zijn niet -1 tot +1 maar een kleiner bereik.^[6] Voor het geval van een lineair model met een enkele onafhankelijke variabele, de Bepalingscoëfficiënt (R Squared) is het kwadraat van ${\ displaystyle r_ {xy}}$, Pearson's productmomente coëfficiënt.

Voorbeeld

Houd rekening met de Joint waarschijnlijkheidsverdeling van X en Y gegeven in de onderstaande tabel.

${\ DisplayStyle \ Mathrm {p} (x = x, y = y)}$

y x	−1	0	1
0	0	1/3	0
1	1/3	0	1/3

Voor deze gezamenlijke verdeling, de marginale distributies zijn:

${\ displayStyle \ Mathrm {p} (x = x) = {\ begin {cases} {\ frac {1} {3}} & \ quad {\ text {for}} x = 0 \\ {\ frac {2 } {3}} & \ quad {\ text {for}} x = 1 \ end {cases}}}$

${\ displayStyle \ Mathrm {p} (y = y) = {\ begin {cases} {\ frac {1} {3}} & \ quad {\ text {for}} y = -1 \\ {\ frac { 1} {3}} & \ quad {\ text {for}} y = 0 \\ {\ frac {1} {3}} & \ quad {\ text {for}} y = 1 \ end {cases}} }$

Dit levert de volgende verwachtingen en varianties op:

${\ displaystyle \ mu _ _ {x} = {\ frac {2} {3}}}$

${\ displaystyle \ mu _ _ {y} = 0}$

${\ displaystyle \ sigma _ {x}^{2} = {\ frac {2} {9}}}$

${\ displaystyle \ sigma _ {y}^{2} = {\ frac {2} {3}}}$

Daarom:

${\ displayStyle {\ begin {uitgelijnd} \ rho _ {x, y} & = {\ frac {1} {\ sigma _ {x} \ sigma _ {y}}} \ mathrm {e} [(x- \ mu _ {x}) (y- \ mu _ {y})] \\ [5pt] & = {\ frac {1} {\ sigma _ {x} \ sigma _ {y}}} \ sum _ {x {x , y} {(x- \ mu _ {x}) (y- \ mu _ {y}) \ mathrm {p} (x = x, y = y)} \\ [5pt] & = \ links (1 -{\ frac {2} {3}} \ rechts) (-1-0) {\ frac {1} {3}}+\ links (0-{\ frac {2} {3}} \ rechts) ( 0-0) {\ frac {1} {3}}+\ links (1-{\ frac {2} {3}} \ rechts) (1-0) {\ frac {1} {3}} = 0 . \ end {uitgelijnd}}}$

Rangcorrelatiecoëfficiënten

Rangcorrelatie coëfficiënten, zoals Spearman's rangcorrelatiecoëfficiënt en Kendall's rangcorrelatiecoëfficiënt (τ) Meet de mate waarin, naarmate de ene variabele toeneemt, de andere variabele de neiging heeft toe te nemen, zonder dat die toename wordt weergegeven door een lineair verband. Als, naarmate de ene variabele toeneemt, de andere afnemen, de rangcorrelatiecoëfficiënten zullen negatief zijn. Het is gebruikelijk om deze rangcorrelatiecoëfficiënten te beschouwen als alternatieven voor de coëfficiënt van Pearson, die wordt gebruikt om de hoeveelheid berekening te verminderen of om de coëfficiënt minder gevoelig te maken voor niet-normaliteit in distributies. Deze visie heeft echter weinig wiskundige basis, omdat rangcorrelatiecoëfficiënten een ander type relatie meten dan de Pearson product-moment correlatiecoëfficiënt, en kunnen het beste worden gezien als maatregelen van een ander type associatie, in plaats van als een alternatieve maat voor de populatiecorrelatiecoëfficiënt.^[7][8]

Overweeg de volgende vier paar getallen om de aard van rang correlatie en het verschil met lineaire correlatie te illustreren ${\ displaystyle (x, y)}$:

(0, 1), (10, 100), (101, 500), (102, 2000).

Terwijl we van elk paar naar het volgende paar gaan ${\ displaystyle x}$ neemt toe, net als ook ${\ displaystyle y}$. Deze relatie is perfect, in de zin dat een toename van ${\ displaystyle x}$ is altijd vergezeld van een toename van ${\ displaystyle y}$. Dit betekent dat we een perfecte rangcorrelatie hebben, en zowel de correlatiecoëfficiënten van Spearman als Kendall zijn 1, terwijl in dit voorbeeld Pearson Product-momentcorrelatiecoëfficiënt 0,7544 is, wat aangeeft dat de punten verre van op een rechte lijn liggen. Op dezelfde manier als ${\ displaystyle y}$ altijd afnemen wanneer ${\ displaystyle x}$ verhoogt, de rangcorrelatiecoëfficiënten zijn -1, terwijl de Pearson-productmoment correlatiecoëfficiënt al dan niet dicht bij −1 kan zijn, afhankelijk van hoe dicht de punten zijn aan een rechte lijn. Hoewel in de extreme gevallen van perfecte rangcorrelatie de twee coëfficiënten beide gelijk zijn (zowel +1 of beide −1), is dit in het algemeen niet het geval, en dus kunnen waarden van de twee coëfficiënten niet zinvol worden vergeleken.^[7] Voor de drie paren (1, 1) (2, 3) (3, 2) is de coëfficiënt van Spearman bijvoorbeeld 1/2, terwijl de coëfficiënt van Kendall 1/3 is.

Andere maatregelen van afhankelijkheid tussen willekeurige variabelen

De informatie gegeven door een correlatiecoëfficiënt is niet voldoende om de afhankelijkheidsstructuur tussen willekeurige variabelen te definiëren.^[9] De correlatiecoëfficiënt definieert de afhankelijkheidsstructuur alleen alleen in zeer specifieke gevallen, bijvoorbeeld wanneer de verdeling een multivariate normale verdeling. (Zie diagram hierboven.) In het geval van elliptische distributies Het kenmerkt de (hyper-) ellipsen van gelijke dichtheid; Het karakteriseert echter niet volledig de afhankelijkheidsstructuur (bijvoorbeeld een multivariate t-distributie's vrijheidsgraden bepalen het niveau van staartafhankelijkheid).

Afstandscorrelatie^[10][11] werd geïntroduceerd om het tekort aan Pearson's correlatie aan te pakken dat het nul kan zijn voor afhankelijke willekeurige variabelen; Nul -afstandscorrelatie impliceert onafhankelijkheid.

De gerandomiseerde afhankelijkheidscoëfficiënt^[12] is een computationeel efficiënte, copula-gebaseerde maat van afhankelijkheid tussen multivariate willekeurige variabelen. RDC is invariant met betrekking tot niet-lineaire schalen van willekeurige variabelen, is in staat om een ​​breed scala aan functionele associatiepatronen te ontdekken en neemt waarde nul bij onafhankelijkheid.

Voor twee binaire variabelen, de odds ratio Meet hun afhankelijkheid en neemt bereik niet-negatieve getallen, mogelijk oneindig: ${\ displaystyle [0,+\ infty]}$. Gerelateerde statistieken zoals Yule's Y en Yule's Q normaliseer dit naar het correlatieachtige bereik ${\ displaystyle [-1,1]}$. De odds ratio wordt gegeneraliseerd door de logistiek model Om gevallen te modelleren waarin de afhankelijke variabelen discreet zijn en er een of meer onafhankelijke variabelen zijn.

De correlatieratio, entropiegebaseerd wederzijdse informatie, Totale correlatie, dubbele totale correlatie en polychorische correlatie zijn allemaal ook in staat om meer algemene afhankelijkheden te detecteren, net als in overweging van de copula tussen hen, terwijl de bepalingscoëfficiënt generaliseert de correlatiecoëfficiënt naar meervoudige regressie.

Gevoeligheid voor de gegevensverdeling

De mate van afhankelijkheid tussen variabelen X en Y Hangt niet af van de schaal waarop de variabelen worden uitgedrukt. Dat wil zeggen, als we de relatie tussen X en Y, de meeste correlatiemaatregelen worden niet beïnvloed door te transformeren X tot a + bx en Y tot c + dy, waar a, b, c, en d zijn constanten (b en d positief zijn). Dit geldt voor enige correlatie statistieken evenals hun bevolking analogen. Sommige correlatiestatistieken, zoals de rangcorrelatiecoëfficiënt, zijn ook invariant monotone transformaties van de marginale distributies van X en/of Y.

Pearson/Spearman correlatiecoëfficiënten tussen X en Y worden getoond wanneer de reeksen van de twee variabelen onbeperkt zijn, en wanneer het bereik van X is beperkt tot het interval (0,1).

De meeste correlatiemaatregelen zijn gevoelig voor de manier waarop X en Y worden bemonsterd. Afhankelijkheden zijn meestal sterker als ze worden bekeken over een breder bereik van waarden. Dus als we de correlatiecoëfficiënt tussen de hoogten van vaders en hun zonen over alle volwassen mannen beschouwen en deze vergelijken met dezelfde correlatiecoëfficiënt berekend wanneer de vaders worden geselecteerd als tussen 165 cm en 170 cm in hoogte, zal de correlatie zijn, de correlatie is zwakker in het laatste geval. Verschillende technieken zijn ontwikkeld die proberen te corrigeren voor bereikbeperking in één of beide variabelen en worden vaak gebruikt in meta-analyse; De meest voorkomende zijn Thorndike's Case II en Case III -vergelijkingen.^[13]

Verschillende correlatiemaatregelen die in gebruik zijn, kunnen niet worden gedefinieerd voor bepaalde gezamenlijke verdelingen van X en Y. De Pearson -correlatiecoëfficiënt wordt bijvoorbeeld gedefinieerd in termen van momentenen daarom zal niet worden gedefinieerd als de momenten ongedefinieerd zijn. Maatregelen van afhankelijkheid op basis van kwantielen zijn altijd gedefinieerd. Op steekproef gebaseerde statistieken die bedoeld zijn om populatiemaatstaven van afhankelijkheid te schatten, kunnen al dan niet wenselijke statistische eigenschappen hebben zoals zijn onbevooroordeeld, of asymptotisch consistent, op basis van de ruimtelijke structuur van de populatie waaruit de gegevens werden bemonsterd.

Gevoeligheid voor de gegevensverdeling kan in een voordeel worden gebruikt. Bijvoorbeeld, Geschaalde correlatie is ontworpen om de gevoeligheid voor het bereik te gebruiken om correlaties tussen snelle componenten van tijdreeksen te kiezen.^[14] Door het bereik van waarden op een gecontroleerde manier te verminderen, worden de correlaties op lange tijdschaal uitgefilterd en worden alleen de correlaties op korte tijdschalen onthuld.

Correlatiematrices

De correlatiematrix van ${\ displaystyle n}$ willekeurige variabelen ${\ displaystyle x_ {1}, \ ldots, x_ {n}}$ is de ${\ displaystyle n \ maal n}$ Matrix ${\ displaystyle c}$ van wie ${\ displaystyle (i, j)}$ Invoer is

${\ DisplayStyle C_ {iJ}: = \ OperatorName {Corr} (x_ {i}, x_ {j}) = {\ frac {\ operatorName {cov} (x_ {i}, x_ {j})} {\ sigma {\ sigma _ {X_ {i}} \ sigma _ {x_ {j}}}}, \ quad {\ text {if}} \ \ sigma _ {x_ {i}} \ sigma _ {x_ {j}}> 0. }$

De diagonale vermeldingen zijn dus allemaal identiek een. Als de gebruikte correlatiematen productmomente coëfficiënten zijn, is de correlatiematrix hetzelfde als de covariantiematrix van de gestandaardiseerde willekeurige variabelen ${\ displaystyle x_ {i}/\ sigma (x_ {i})}$ voor ${\ displaystyle i = 1, \ dots, n}$. Dit geldt zowel op de matrix van bevolkingscorrelaties (in welk geval ${\ DisplayStyle \ Sigma}$ is de populatie standaardafwijking), en tot de matrix van steekproefcorrelaties (in welk geval ${\ DisplayStyle \ Sigma}$ geeft de standaardafwijking van het monster aan). Bijgevolg is elk noodzakelijkerwijs een positief-semidefinietmatrix. Bovendien is de correlatiematrix strikt positief gedefineerd Als geen enkele variabele al zijn waarden exact kan hebben gegenereerd als een lineaire functie van de waarden van de andere.

De correlatiematrix is ​​symmetrisch omdat de correlatie tussen ${\ DisplayStyle x_ {i}}$ en ${\ DisplayStyle X_ {J}}$ is hetzelfde als de correlatie tussen ${\ DisplayStyle X_ {J}}$ en ${\ DisplayStyle x_ {i}}$.

Een correlatiematrix verschijnt bijvoorbeeld in één formule voor de Coëfficiënt van meerdere bepaling, een maat voor goedheid van fit erin meervoudige regressie.

In Statistische modellering, Correlatiematrices die de relaties tussen variabelen vertegenwoordigen, zijn onderverdeeld in verschillende correlatiestructuren, die worden onderscheiden door factoren zoals het aantal parameters dat nodig is om ze te schatten. Bijvoorbeeld in een uitwisselbaar Correlatiematrix, alle paren variabelen worden gemodelleerd als dezelfde correlatie, dus alle niet-diagonale elementen van de matrix zijn gelijk aan elkaar. Aan de andere kant, een autoregressief Matrix wordt vaak gebruikt wanneer variabelen een tijdreeks vertegenwoordigen, omdat correlaties waarschijnlijk groter zijn wanneer metingen dichterbij zijn. Andere voorbeelden zijn onafhankelijke, ongestructureerde, M-afhankelijke en Toeplitz.

In verkennende gegevensanalyse, de Iconografie van correlaties Bestaat uit het vervangen van een correlatiematrix door een diagram waarbij de "opmerkelijke" correlaties worden weergegeven door een ononderbroken lijn (positieve correlatie) of een stippellijn (negatieve correlatie).

Dichtstbijzijnde geldige correlatiematrix

In sommige toepassingen (bijv. Bouwgegevensmodellen uit slechts gedeeltelijk waargenomen gegevens) wil men de "dichtstbijzijnde" correlatiematrix vinden tot een "geschatte" correlatiematrix (bijv. Een matrix die meestal semi-definitieve positiviteit mist vanwege de manier waarop het is berekend).

In 2002, Higham^[15] het idee van nabijheid geformaliseerd met behulp van de Frobenius Norm en bood een methode voor het berekenen van de dichtstbijzijnde correlatiematrix met behulp van de Dykstra's projectie -algoritme, waarvan een implementatie beschikbaar is als een online web -API.^[16]

Dit wekte interesse in het onderwerp, met nieuwe theoretische (bijvoorbeeld het berekenen van de dichtstbijzijnde correlatiematrix met factorstructuur^[17]) en numeriek (bijv. Gebruik van de Newton's methode Voor het berekenen van de dichtstbijzijnde correlatiematrix^[18]) resultaten verkregen in de daaropvolgende jaren.

Niet gecorreleerdheid en onafhankelijkheid van stochastische processen

Evenzo voor twee stochastische processen ${\ displaystyle \ links \ {x_ {t} \ rechts \} _ {t \ in {\ mathcal {t}}}}$ en ${\ displaystyle \ links \ {y_ {t} \ rechts \} _ {t \ in {\ mathcal {t}}}}$: Als ze onafhankelijk zijn, zijn ze niet gecorreleerd.^{[19]: p. 151} Het tegenovergestelde van deze verklaring is misschien niet waar. Zelfs als twee variabelen niet gecorreleerd zijn, zijn ze mogelijk niet onafhankelijk van elkaar.

Veel voorkomende misvattingen

Correlatie en causaliteit

Het conventionele dictum dat "Correlatie betekent geen oorzakelijk verband"betekent dat correlatie niet op zichzelf kan worden gebruikt om een ​​oorzakelijk verband tussen de variabelen af ​​te leiden.^[20] Dit dictum moet niet worden beschouwd als dat correlaties niet kunnen wijzen op het potentiële bestaan ​​van causale relaties. De oorzaken die ten grondslag liggen aan de correlatie, indien van toepassing, kunnen echter indirect en onbekend zijn, en hoge correlaties overlappen elkaar ook identiteit relaties (tautologie), waar geen causaal proces bestaat. Bijgevolg is een correlatie tussen twee variabelen geen voldoende voorwaarde om een ​​causaal verband tot stand te brengen (in beide richtingen).

Een verband tussen leeftijd en lengte bij kinderen is redelijk causaal transparant, maar een correlatie tussen stemming en gezondheid bij mensen is minder. Leidt een verbeterde stemming tot een verbeterde gezondheid, of leidt een goede gezondheid tot een goed humeur, of beide? Of ligt een andere factor ten grondslag aan beide? Met andere woorden, een correlatie kan worden opgevat als bewijs voor een mogelijk causaal verband, maar kan niet aangeven wat de causale relatie, indien van toepassing, zou kunnen zijn.

Eenvoudige lineaire correlaties

Anscombe's kwartet: vier sets gegevens met dezelfde correlatie van 0,816

De Pearson -correlatiecoëfficiënt geeft de sterkte aan van een lineair Relatie tussen twee variabelen, maar de waarde ervan karakteriseert in het algemeen hun relatie niet volledig.^[21] In het bijzonder als de Voorwaardelijk gemiddelde van ${\ displaystyle y}$ gegeven ${\ displaystyle x}$, aangeduid ${\ DisplayStyle \ OperatorName {e} (y \ mid x)}$, is niet lineair in ${\ displaystyle x}$, de correlatiecoëfficiënt zal de vorm van niet volledig bepalen ${\ DisplayStyle \ OperatorName {e} (y \ mid x)}$.

De aangrenzende afbeelding wordt weergegeven spread plots van Anscombe's kwartet, een set van vier verschillende paren variabelen gemaakt door Francis Anscombe.^[22] De vier ${\ displaystyle y}$ Variabelen hebben hetzelfde gemiddelde (7.5), variantie (4.12), correlatie (0,816) en regressielijn (y= 3+0,5x). Zoals te zien is op de plots, is de verdeling van de variabelen echter heel anders. De eerste (linksboven) lijkt normaal te worden verdeeld en komt overeen met wat men zou verwachten bij het overwegen van twee variabelen gecorreleerd en na de veronderstelling van normaliteit. De tweede (rechtsboven) is niet normaal verdeeld; Hoewel een voor de hand liggende relatie tussen de twee variabelen kan worden waargenomen, is het niet lineair. In dit geval geeft de Pearson -correlatiecoëfficiënt niet aan dat er een exacte functionele relatie is: alleen de mate waarin die relatie kan worden benaderd door een lineaire relatie. In het derde geval (linksonder) is de lineaire relatie perfect, behalve één uitbijter die voldoende invloed heeft om de correlatiecoëfficiënt te verlagen van 1 tot 0,816. Ten slotte toont het vierde voorbeeld (rechtsonder) een ander voorbeeld wanneer een uitbijter voldoende is om een ​​hoge correlatiecoëfficiënt te produceren, hoewel de relatie tussen de twee variabelen niet lineair is.

Deze voorbeelden geven aan dat de correlatiecoëfficiënt, als een Samenvatting Statistiek, kan het visuele onderzoek van de gegevens niet vervangen. De voorbeelden worden soms gezegd om aan te tonen dat de Pearson -correlatie ervan uitgaat dat de gegevens een normale verdeling, maar dit is slechts gedeeltelijk correct.^[4] De Pearson -correlatie kan nauwkeurig worden berekend voor elke verdeling die een eindige heeft covariantiematrix, waaronder de meeste distributies die in de praktijk zijn aangetroffen. De Pearson -correlatiecoëfficiënt (samen met het monstergemiddelde en de variantie) is echter slechts een voldoende statistiek Als de gegevens worden getrokken uit een multivariate normale verdeling. Als gevolg hiervan karakteriseert de Pearson -correlatiecoëfficiënt de relatie tussen variabelen volledig als en alleen als de gegevens worden getrokken uit een multivariate normale verdeling.

Bivariate normale verdeling

Als een paar ${\ displaystyle (x, y)}$ van willekeurige variabelen volgt een Bivariate normale verdeling, het voorwaardelijke gemiddelde ${\ DisplayStyle \ OperatorName {e} (x \ mid y)}$ is een lineaire functie van ${\ displaystyle y}$, en het voorwaardelijke gemiddelde ${\ DisplayStyle \ OperatorName {e} (y \ mid x)}$ is een lineaire functie van ${\ displaystyle x}$. De correlatiecoëfficiënt ${\ displaystyle \ rho _ {x, y}}$ tussen ${\ displaystyle x}$ en ${\ displaystyle y}$, samen met de marginaal Middelen en varianties van ${\ displaystyle x}$ en ${\ displaystyle y}$, bepaalt deze lineaire relatie:

${\ displayStyle \ OperatorName {e} (y \ mid x) = \ operatorName {e} (y)+\ rho _ {x, y} \ cdot \ sigma _ {y} {\ frac {x- \ operatorname {e } (X)} {\ sigma _ {x}}},}$

waar ${\ DisplayStyle \ OperatorName {e} (x)}$ en ${\ DisplayStyle \ OperatorName {e} (y)}$ zijn de verwachte waarden van ${\ displaystyle x}$ en ${\ displaystyle y}$, respectievelijk, en ${\ DisplayStyle \ Sigma _ {x}}$ en ${\ DisplayStyle \ Sigma _ {y}}$ zijn de standaardafwijkingen van ${\ displaystyle x}$ en ${\ displaystyle y}$, respectievelijk.

De empirische correlatie ${\ displaystyle r}$ is een schatting van de correlatiecoëfficiënt ${\ displaystyle \ rho}$. Een schatting van de verdeling voor ${\ displaystyle \ rho}$ is gegeven door

$${\displaystyle \pi (\rho |r)={\frac {\Gamma (\nu +1)}{{\sqrt {2\pi }}\Gamma (\nu +{\frac {1}{2} })}} (1 -r^{2})^{\ frac {\ nu -1} {2}} \ cdot (1- \ rho^{2})^{\ frac {\ nu -2} { 2}} \ cdot (1-r \ rho)^{\ frac {1-2 \ nu} {2}} f \! \ Left ({\ frac {3} {2}},-{\ frac {1 } {2}}; \ nu +{\ frac {1} {2}}; {\ frac {1 +r \ rho} {2}} \ rechts)}$$

${\ displaystyle f}$

${\ DisplayStyle \ nu = n-1> 1}$

Zie ook

Referenties

Verder lezen

• Cohen, J.; Cohen P.; West, S.G. & Aiken, L.S. (2002). Pas meerdere regressie/correlatieanalyse toe voor de gedragswetenschappen (3e ed.). Psychology Press. ISBN 978-0-8058-2223-6.
• "Correlatie (in statistieken)", Encyclopedie van wiskunde, EMS Press, 2001 [1994]
• Oestreicher, J. & D. R. (26 februari 2015). Pest van gelijken: een wetenschappelijke thriller van internationale ziekte, politiek en drugsontdekking.Californië: Omega Cat Press.p.408. ISBN 978-0963175540.

Externe links

• MathWorld-pagina op de (cross-) correlatiecoëfficiënt/s van een monster
• Bereken de betekenis tussen twee correlaties, voor de vergelijking van twee correlatiewaarden.
• "Een MATLAB -toolbox voor het berekenen van gewogen correlatiecoëfficiënten". Gearchiveerd van het origineel op 24 april 2021.
• Bewijs dat het monster bivariate correlatie limieten plus of min 1 heeft
• Interactieve flash -simulatie op de correlatie van twee normaal verdeelde variabelen door Juha Puranen.
• Correlatie analyse.Biomedische statistieken
• R-psycholoog Correlatie Visualisatie van correlatie tussen twee numerieke variabelen