A Valószínűségszámítás I. előadássorozat tizenharmadik előadása. 2002 május 7.

A több-dimenziós centrális határeloszlástétel.

Részben felidézzük a múlt előadás bizonyos fogalmait és eredményeit részben megfogalmazzuk ezek néhány fontos következményét. Megjegyzem, hogy ezek a következmányek elsősorban a később tanulandó matematikai statisztikában játszanak fontos szerepet.

Több-dimenziós normális eloszlások definiciója. Definiáljuk először a több-di-menziós standard normális eloszlást. Azt mondjuk, hogy egy (ξ_{1}, …, ξ_{k}) véletlen vektor eloszlása a k-dimenziós standard normális eloszlás, ha a ξ_{1}, …, ξ_{k} valószínűségi változók függetlenek, és mindegyik ξ_{j} valószínűségi változó, 1 ≤ j ≤ k, standard normális eloszlású. Ekvivalens megfogalmazásban azt mondhatjuk, hogy egy (ξ_{1}, …, ξ_{k}) véletlen vektor eloszlása a k-dimenziós standard normális eloszlás, ha e véletlen vektornak létezik

sűrűségfüggvénye, és az az f(u_{1}, …, u_{k}) = \frac{1}{(2π)^{k/2}} exp \{−\frac{1}{2} ∑_{j=1}^{k} u_{j}^{2}\} függvény.

Egy (η_{1}, …, η_{k}) k dimenziós véletlen vektor k dimenziós normális eloszlású vektor nulla várható értékkel, ha e véletlen vektor eloszlása megegyezik valamely (η̄_{1}, …, η̄_{k}) = (ξ_{1}, …, ξ_{k})A k-dimenziós vektor eloszlásával, ahol A egy k × k méretű mátrix, továbbá (ξ_{1}, …, ξ_{k}) egy k-dimenziós standard normális eloszlású véletlen vektor.

Egy (ζ_{1}, …, ζ_{k}) véletlen vektor k-dimenziós normális eloszlású vektor, ha eloszlása megegyezik egy (η_{1}, …, η_{k}) + (m_{1}, …, m_{k}) véletlen vektor eloszlásával, ahol (η_{1}, …, η_{k}) egy k-dimenziós normális eloszlású véletlen vektor, melynek a várható értéke nulla, és (m_{1}, …, m_{k}) k-dimenziós determinisztikus vektor.

Később meg fogjuk adni a több-dimenziós normális eloszlás más ekvivalens jellemzését. Először azonban megfogalmazunk egy a több-dimenziós centrális eloszlástétel kimondásához szükséges később bizonyítandó eredményt.

Tétel a több-dimenziós normális eloszlás tulajdonságairól. Tekintsünk egy kdimenziós (η_{1}, …, η_{k}) = (ξ_{1}, …, ξ_{k})A + (m_{1}, …, m_{k}) normális eloszlású valószínűségi változót, ahol A egy k × k méretű mátrix, m = (m_{1}, …, m_{k}) k-dimenziós (véletlentől nem függő) vektor és (ξ_{1}, …, ξ_{k}) egy k-dimenziós standard normális eloszlású véletlen vektor. Akkor (η_{1}, …, η_{k}) m = (m_{1}, …, m_{k}) várható értékű és D = A^{∗}A kovariancia mátrixú véletlen vektor. Továbbá egy k-dimenziós normális eloszlású valószínűségi változó eloszlását meghatározza annak m várható értéke és D kovariancia mátrixa.

Jegyezzük meg, hogy rögzített D (szimmetrikus és pozitív szemidefinit) mátrixra az A^{∗}A = D egyenletnek nem egyértelmű a megoldása. Tekintsünk két különböző A és B mátrixot, melyre A^{∗}A = B^{∗}B. A fenti tétel szerint, ha tekintünk egy kdimenziós standard normális eloszlású (ξ_{1}, …, ξ_{k}) vektort, illetve a segítségével definiált (ξ_{1}, …, ξ_{k})A és (ξ_{1}, …, ξ_{k})B véletlen vektorokat, akkor bár ez az utóbbi két véletlen vektor különböző, eloszlásuk megegyezik. Ugyanis mind a két (normális eloszlású) vektor nulla várható értékű és A^{∗}A = B^{∗}B kovariancia mátrixú. Ez a tulajdonság erősen kihasználja azt, hogy normális eloszlású valószínűségi változókról van szó. Ennek további fontos következményei vannak, melyeket később tárgyalni fogunk.

A több-dimenziós normális eloszlás tulajdonságairól szóló valamint a kovariancia mátrixok jellemzéséről szóló tételekből következik, hogy bármely (ξ_{1}, …, ξ_{k}) kdimenziós valószínűségi változó esetén létezik olyan k-dimenziós normális eloszlású valószínűségi változó, melynek kovariancia mátrixa és várható értéke megegyezik ennek a (ξ_{1}, …, ξ_{k}) valószínűségi változónak a kovariancia mátrixával és várható értékével. Továbbá ennek a k-dimenziós normális eloszlású valószínűségi változónak az eloszlását meghatározza a (ξ_{1}, …, ξ_{k}) valószínűségi változó kovariancia mátrixa és várható értéke. Erre az észrevételre szükségünk van ahhoz, hogy lássuk: Az alább megfogalmazott többdimenziós centrális határeloszlás értelmes állítás.

A több-dimenziós centrális határeloszlástétel. Legyenek ξ^{(j)} = (ξ_{1}^{(j)}, …, ξ_{k}^{(j)}), j = 1, 2, …, független, egyforma eloszlású k-dimenziós valószínűségi változók, melyekre teljesül az Eξ_{l}^{(1)}^{2} < ∞, 1 ≤ l ≤ k feltétel. Legyen a ξ^{(1)} = (ξ_{1}^{(1)}, …, ξ_{k}^{(1)}) vektor várható

értéke Eξ^{(1)} = (Eξ_{1}^{(1)}, …, Eξ_{k}^{(1)}), kovariancia mátrixa pedig egy D k×k méretű mátrix.

Definiáljuk az S^{(n)} = (S_{1}^{(n)}, …, S_{k}^{(n)}) = ∑_{j=1}^{n} ξ^{(j)} = ( ∑_{j=1}^{n} ξ_{1}^{(j)}, …, ∑_{j=1}^{n} ξ_{k}^{(j)}) összegeket,

n = 1, 2, . . .. Ekkor minden (x_{1}, …, x_{k}) k-dimenziós vektorra érvényes a

lim_{n→∞} P (\frac{1}{\sqrt{n}} (S_{1}^{(n)} − ES_{1}^{(n)}) < x_{1}, …, \frac{1}{\sqrt{n}} (S_{k}^{(n)} − ES_{k}^{(n)}) < x_{k}) = Φ_{D}(x_{1}, …, x_{k})

azonosság, ahol Φ_{D}(x_{1}, …, x_{k}) a k-dimenziós nulla várható értékű D kovariancia mátrixú normális eloszlásfüggvény értéke az (x_{1}, …, x_{k}) pontban.

A több-dimenziós centrális határeloszlástétel bizonyítása hasonló a klasszikus egydimenziós esethez. Az ott bevezetett fogalmaknak és eredményeknek megadhatóak a több-dimenziós általánosításaik, és a megfelelő eredmények hasonlóan bizonyíthatóak. Ezért csak a fogalmakat és az eredményeket fogom ismertetni. Külön érdemes hangsúlyozni, hogy a vizsgálatok során bevezetjük a több-dimenziós karakterisztikus függvény fogalmát, és a több-dimenziós karakterisztikus függvények vizsgálata nagy segítséget jelent a több-dimenziós normális eloszlások viselkedésének megértésében is.

Több-dimenziós eloszlásfüggvények eloszlásban való konvergenciájának a definiciója. Legyen F_{n}(x_{1}, …, x_{k}), n = 1, 2, …, k-dimenziós eloszlásfüggvények sorozata. Azt mondjuk, hogy az F_{n}(x_{1}, …, x_{k}) eloszlásfüggvények eloszlásban konvergálnak egy kdimenziós F (x_{1}, …, x_{k}) eloszlásfüggvényhez, ha lim_{n→∞} F_{n}(x_{1}, …, x_{k}) = F (x_{1}, …, x_{k}) az F (·) (határ)eloszlásfüggvény minden (x_{1}, …, x_{k}) folytonossági pontjában.

Tétel az eloszlásban való konvergencia jellemzéséről folytonos függvények segítségével. F_{n}(u_{1}, …, u_{k}), n = 1, 2, … k-dimenziós eloszlásfüggvények sorozata akkor és csak akkor konvergál eloszlásban egy F (u_{1}, …, u_{k}) k-dimenziós eloszlásfüggvényhez, ha minden a k-dimenziós téren értelmezett folytonos, korlátos g(u_{1}, …, u_{k}) függvényre teljesül a

lim_{n→∞} ∫ g(u_{1}, …, u_{k}) F_{n}( du_{1}, …, du_{k}) = ∫ g(u_{1}, …, u_{k}) F ( du_{1}, …, du_{k})

azonosság.

Megjegyzés: Mivel minden több-dimenziós normális eloszlás eloszlásfüggvénye folytonos, (bár nem feltétlenül van sűrűségfüggvénye) ezért a több-dimenziós centrális határeloszlástétel azt mondja ki, hogy az ott tekintett normalizált összegek eloszlásban konvergálnak egy nulla várható értékű és megfelelő kovariancia mátrixú normális eloszláshoz. Jegyezzük meg, hogy a tekintett normalizált összegek várható értéke és kovarianciamátrixa megegyezik egy a határeloszlással rendelkező véletlen vektor várható értékével és kovariancia mátrixával.

Az egydimenziós esethez hasonlóan a fenti tétel és Weierstrass második approximációs tétele (pontosabban annak több-dimenziós általánosítása) segítségével eloszlásfüggvények konvergenciáját jól lehet vizsgálni a karakterisztikus függvények alább bevezetett több-dimenziós általánosításának a segítségével.

Több-dimenziós valószínűségi változók karakterisztikus függvényének a definiciója. Legyen ξ = (ξ_{1}, …, ξ_{k}) k-dimenziós valószínűségi változó valamely (Ω, A, P) valószínűségi mezőn, és jelölje F (u_{1}, …, u_{k}) = P (ξ_{1} < u_{1}, …, ξ_{k} < u_{k}), −∞ < u_{j} < ∞, 1 ≤ j ≤ k, a ξ = (ξ_{1}, …, ξ_{k}) véletlen vektor eloszlásfüggvényét. A ξ = (ξ_{1}, …, ξ_{k}) k-dimenziós ξ valószínűségi változónak a karakterisztikus függvénye a

φ(t_{1}, …, t_{k}) = Ee^{i(t_{1}ξ_{1}+···+t_{k}ξ_{k})} = ∫_{−∞}^{∞} ⋯ ∫_{−∞}^{∞} e^{i(t_{1}u_{1}+···+t_{k}u_{k})}F ( du_{1}, …, du_{k}),
− ∞ < t_{j} < ∞, 1 ≤ j ≤ k,

függvény. Adva egy F (u_{1}, …, u_{k}) k-dimenziós eloszlásfüggvény az F eloszlásfüggvény karakterisztikus függvényét is definiálni fogjuk mint egy F eloszlású ξ = (ξ_{1}, …, ξ_{k}) kdimenziós valószínűségi változó karakterisztikus függvényét. (Mivel a karakterisztikus függvényt a (ξ_{1}, …, ξ_{k}) valószínűségi változó eloszlásfüggvényének a segítségével ki lehet számolni, ezért jogunk van egy eloszlásfüggvény karakterisztikus függvényéről beszélni.)

Tétel. Legyen F (x_{1}, …, x_{k}) és G(x_{1}, …, x_{k}) két eloszlásfüggvéy, melyek karakterisztikus függvényei megegyeznek. Ekkor F (x_{1}, …, x_{k}) = G(x_{1}, …, x_{k}) minden k-dimen-ziós (x_{1}, …, x_{k}) vektorra.

Megfogalmazzuk az eloszlásfüggvények és azok karakterisztikus függvényei konvergenciája közötti kapcsolatot leíró Alaptételnek nevezett állítás több-dimenziós változatát.

Az eloszlások konvergenciájáról szóló Alaptétel több-dimenziós változata. Legyen F_{n}(u_{1}, …, u_{k}), −∞ < u_{j} < ∞, 1 ≤ j ≤ k, k-dimenziós eloszlásfüggvények egy sorozata φ_{n}(t_{1}, …, t_{k}) = ∫ e^{i(t_{1}u_{1}+···+t_{k}u_{k})}F_{n}( du_{1}, …, du_{k}) karakterisztikus függvényekkel, n = 1, 2, . . .. Ha a φ_{0}(t_{1}, …, t_{k}) = lim_{n→∞} φ_{n}(t_{1}, …, t_{k}) határérték létezik minden −∞ < t_{j} < ∞, 1 ≤ j ≤ k, számra, és a φ_{0}(t_{1}, …, t_{k}) limeszfüggvény folytonos az origóban, akkor létezik olyan F_{0}(u_{1}, …, u_{k}) eloszlásfüggvény a k-dimenziós térben, melynek a φ_{0}(t_{1}, …, t_{k}) függvény a karakterisztikus függvénye. Továbbá e feltétel teljesülése esetén az F_{n}(u_{1}, …, u_{k}) eloszlásfüggvények eloszlásban konvergálnak ehhez az F_{0}(u_{1}, …, u_{k}) eloszlásfüggvényhez.

Megfordítva, ha F_{n}(u_{1}, …, u_{k}), n = 1, 2, …, eloszlásfüggvényeknek egy olyan sorozata, mely egy F_{0}(u_{1}, …, u_{k}) eloszlásfüggvényhez konvergál eloszlásban, φ_{n}(t_{1}, …, t_{k}), n = 1, 2, …, jelöli az F_{n}(u_{1}, …, u_{k}), φ_{0}(t_{1}, …, t_{k}) pedig az F_{0}(u_{1}, …, u_{k}) eloszlásfüggvény karakterisztikus függvényét, akkor φ_{0}(t_{1}, …, t_{k}) = lim_{n→∞} φ_{n}(t_{1}, …, t_{k}) minden −∞ < t_{j} < ∞, 1 ≤ j ≤ k, számra. Továbbá, ez a konvergencia egyenletes minden véges intervallumban.

Megfogalmazzuk a fenti eredmények néhány fontos következményét. Először jellemezzük a több-dimenziós normális eloszlások karakterisztikus függvényeit.

Tétel a több-dimenziós normális eloszású valószínűségi változók karakterisztikus függvényéről. Legyen η = (η_{1}, …, η_{k}) = (ξ_{1}, …, ξ_{k})A + (m_{1}, …, m_{k}) egy k-dimenziós normális eloszlású valószínűségi változó, ahol m = (m_{1}, …, m_{k}) kdimenziós (determinisztikus) vektor, A = (a_{j,l}), 1 ≤ j, l ≤ k, k × k méretű mátrix, továbbá ξ = (ξ_{1}, …, ξ_{k}) k-dimenziós standard normális eloszlású véletlen vektor. Ekkor az (η_{1}, …, η_{k}) véletlen vektor karakterisztikus függvénye a

Ee^{i(t,η)} = Ee^{i(t_{1}η_{1}+···+t_{k}η_{k})} = e^{i(t,m)−tA^{∗}At^{∗}/2} = exp \{i ∑_{j=1}^{k} t_{j}m_{j} − \frac{1}{2} ∑_{j=1}^{k} ∑_{l=1}^{k} d_{j,l}t_{j}t_{l}\}

függvény, ahol (x, y) jelöli az x = (x_{1}, …, x_{k}) és y = (y_{1}, …, y_{k}) vektorok (x, y) =

∑_{j=1}^{k} x_{j}y_{j} skalárszorzatát, t = (t_{1}, …, t_{k}), d_{j,l} az A^{∗}A kovariancia mátrixának j-ik so-

rában, és l-ik oszlopában szereplő konstans. A D = A^{∗}A mátrix megegyezik az η = (η_{1}, …, η_{k}) véletlen vektor kovariancia mátrixával.

Bizonyítás:

Ee^{i(t,η)} = Ee^{i(t,Aξ+m)} = e^{i(t,m)}Ee^{i(tA^{∗},ξ)} = e^{i(t,m)}e^{−tA^{∗}At^{∗}/2} = e^{i(t,m)−tA^{∗}At^{∗}/2},

mert, ha tA^{∗} = t̄ = (t̄_{1}, …, t̄_{k}), akkor Ee^{i(tA^{∗},ξ)} = Ee^{i(t̄_{1}ξ_{1}+···+t̄_{k}ξ_{k})} = ∏_{j=1}^{k} Ee^{it̄_{j}ξ_{j}} =

∏_{j=1}^{k} e^{−t̄_{j}^{2}/2} = e^{−(t̄,t̄)/2} = e^{−tA^{∗}At^{∗}/2}.

Az η véletlen vektor D = (d_{j,l}) kovariancia mátrixában a j-ik sor l-ik eleme d_{j,l} =

Cov (η_{j}, η_{l}) = Cov ( ∑_{p=1}^{k} a_{p,j}ξ_{p}, ∑_{q=1}^{k} a_{q,l}ξ_{q}) = ∑_{p=1}^{k} a_{p,j}a_{p,l}Eξ_{p}^{2} = ∑_{p=1}^{k} a_{p,j}a_{p,l}, és ez az A^{∗}A

mátrix j-ik sorában és l-ik oszlopában álló elem. Ezért az η véletlen vektor kovariancia mátrixa a D = A^{∗}A mátrix. Az nyílvánvaló, hogy az η véletlen vektor várható értéke m.

Az előző tételnek van néhány fontos következménye.

1. következmény. Egy k-dimenziós normális eloszlást meghatároz várható érték vektora és kovariancia mátrixa.

2. következmény. Legyen (ξ, η) két-dimenziós normális eloszlású véletlen vektor. Ha a ξ és η valószínűségi változók korrelálatlanok, azaz Cov (ξ, η) = 0, akkor ξ és η független valószínűségi változó. Általánosabban, legyen (ξ_{1}, …, ξ_{k}) k-dimenziós normális eloszlású valószínűségi változó, melyre igaz, hogy valamilyen j, indexre, 1 ≤ j < k, az első j és utolsó k − j koordináták korrelálatlanok, azaz Cov (ξ_{p}, ξ_{q}) = 0, ha 1 ≤ p ≤ j < q ≤ k. Ekkor a (ξ_{1}, …, ξ_{j}) és ξ_{j+1}, …, ξ_{k}) véletlen vektorok független j és k − j-dimenziós normális eloszlású valószínűségi változók.

3. következmény. Egy ξ = (ξ_{1}, …, ξ_{k}) k-dimenziós valószinűségi változó akkor és csak akkor normális eloszlású, ha karakterisztikus függvénye

Ee^{i(t,ξ)} = Ee^{i(t_{1}ξ_{1}+···+t_{k}ξ_{k})} = e^{i(t,m)−tDt^{∗}/2} = exp \{i ∑_{j=1}^{k} t_{j}m_{j} − \frac{1}{2} ∑_{j=1}^{k} ∑_{l=1}^{k} d_{j,l}t_{j}t_{l}\}

alakú függvény, ahol m = (m_{1}, …, m_{k}) k-dimenziós (valós koordinátákból álló) vektor, D = (d_{j,l}), 1 ≤ j, l ≤ k, k × k méretű pozitív szemidefinit mátrix, (x, y) jelöli az

x = (x_{1}, …, x_{k}) és y = (y_{1}, …, y_{k}) (x, y) = ∑_{j=1}^{k} x_{j}y_{j} skalárszorzatát, t = (t_{1}, …, t_{k}),

tetszőleges k-dimenziós vektor. A normális eloszlású ξ = (ξ_{1}, …, ξ_{k}) valószínűségi változó fenti jellemzésében az m vektor a ξ több-dimenziós valószínűségi változó várható értéke, D pedig a kovariancia mátrixa.

Az első következmény következik abból, hogy egyrészt egy normális eloszlású valószínűségi változó karakterisztikus függvényét fel lehet írni annak várható érték vektora és kovariancia mátrixa ismeretében, másrészt egy eloszlást meghatároz annak karakterisztikus függvénye.

A második következmény indoklása hasonló. Tekintsük az abban megfogalmazott általánosabb állítás bizonyítását, és vezessük be a következő jelöléseket. Jelölje m = (Eξ_{1}, …, Eξ_{k}) a (ξ_{1}, …, ξ_{k}) véletlen vektor várható értékét, D = (d_{p,q}), d_{p,q} = Cov (ξ_{p}, ξ_{q}), 1 ≤ p, q ≤ k, ennek a vektornak a kovariancia mátrixát. Legyen m_{1} = (Eξ_{1}, …, Eξ_{j}) a (ξ_{1}, …, ξ_{j}) vektor várható értéke, D_{1} = (d_{p,q}), d_{p,q} = Cov (ξ_{p}, ξ_{q}), 1 ≤ p, q ≤ j, ennek a vektornak a kovariancia mátrixa, végül legyen m_{2} = (Eξ_{j+1}, …, Eξ_{k}) a (ξ_{j+1}, …, ξ_{k}) vektor várható értéke, D_{2} = (d_{p,q}), d_{p,q} = Cov (ξ_{p}, ξ_{q}), j + 1 ≤ p, q ≤ k, ennek a vektornak a a kovariancia mátrixa. Ezenkívül tekintsünk egy tetszőleges t = (t_{1}, …, t_{k}) k-dimenziós vektort, és legyen t_{1} = (t_{1}, …, t_{j}), t_{2} = (t_{j+1}, …, t_{k}).

Ekkor a (ξ_{1}, …, ξ_{k}) véletlen vektor karakterisztikus függvénye a φ(t_{1}, …, t_{k}) = e^{i(t,m)−tDt^{∗}/2} függvény. Az exponensben szereplő kifejezés felírható mint i(t, m) −

\frac{tDt^{∗}}{2} = i(t_{1}, m_{1}) − \frac{t_{1}D_{1}t_{1}^{∗}}{2} + i(t_{2}, m_{2}) − \frac{t_{2}D_{2}t_{2}^{∗}}{2} , mert Cov (ξ_{p}, ξ_{q}) = 0, ha 1 ≤ p ≤ j <

q ≤ k vagy 1 ≤ q ≤ j < p ≤ k. Ezért φ(t_{1}, …, t_{k}) = φ_{1}(t_{1}, …, t_{j})φ_{2}(t_{j+1}, …, t_{k}), ahol φ_{1}(t_{1}, …, t_{j}) = e^{i(t_{1},m_{1})−t_{1}D_{1}t_{1}^{∗}/2}, a (ξ_{1}, …, ξ_{j}), φ_{2}(t_{j+1}, …, t_{k}) = e^{i(t_{2},m_{2})−t_{2}D_{2}t_{1}^{∗}/2} pedig a (ξ_{j+1}, …, ξ_{k}) valószínűségi változó karakterisztikus függvénye. Mivel a karakterisztikus függvény meghatározza az eloszlásfüggvényt ez azt jelenti, hogy a (ξ_{1}, …, ξ_{k}) véletlen vektor eloszlásfüggvénye megegyezik két olyan független j illetve k − j-változós véletlen vektor együttes eloszlásával, melyek közül az első véletlen vektor karakterisztikus függvénye φ_{1}(t_{1}, …, t_{j}) a másodiké pedig φ_{2}(t_{j+1}, …, t_{k}). Mivel (ξ_{1}, …, ξ_{j}) véletlen vektor karakterisztikus függvénye φ_{1}(t_{1}, …, t_{j}), a (ξ_{j+1}, …, ξ_{k}) véletlen vektor karakterisztikus függvénye pedig φ_{2}(t_{j+1}, …, t_{k}), innen következik a második következmény állítása.

A harmadik következmény azonnal következik a több-dimenziós normális eloszlású valószínűségi változók karakterisztikus függvényének jellemzését leíró tételból, abból a kimondott lineáris algebrai tételből, mely szerint minden pozitív szemidefinit D mátrix felírható D = A^{∗}A alakban, illetve abból a tényből, hogy egy A^{∗}A alakú mátrix mindig pozitív szemidefinit. Ez utóbbi állítás ellenőrzéséhez vegyük észre, hogy tetszőleges x = (x_{1}, …, x_{k}) vektorra xA^{∗}Ax^{∗} = xA^{∗}(xA^{∗})^{∗} = (xA^{∗}, xA^{∗}) ≥ 0 és ezt az egyenlőtlenséget kellett megmutatni.

Az első következményből, illetve normális eloszlású valószínűségi változó kovarianca mátrixának korábban kiszámolt alakjából következik a korábban megfogalmazott tétel a több-dimenziós normális eloszlás tulajdonságairól. Annak érdekében, hogy lássuk fontos volt feltenni a második következményben, hogy normális eloszlású valószínűségi változókat vizsgálunk oldjuk meg a következő feladatot.

Feladat:

Legyenek ξ_{1}, …, ξ_{n} független a [−\frac{1}{2}, \frac{1}{2}] intervallumban egyenletes eloszlású va-

lószínűségi változók. Mutassuk meg, hogy a ∑_{j=1}^{n} ξ_{j} és ∑_{j=1}^{n} ξ_{j}^{2} összegek normali-

záltjainak azaz az \sqrt{\frac{12}{n}} ∑_{j=1}^{n} ξ_{j} és \sqrt{\frac{180}{n}} ∑_{j=1}^{n} (ξ_{j}^{2} − \frac{1}{12}) valószínűségi változóknak

az együttes eloszlása a két-dimenziós standard normális eloszláshoz konvergál, ha n → ∞.

Megoldás: Eξ = 0, Eξ^{2} = \frac{1}{12}, Var ξ = \frac{1}{12}, Var ξ^{2} = Eξ^{4} − (Eξ^{2})^{2} = \frac{1}{80} − \frac{1}{144} =

\frac{1}{180}. Továbbá Cov (ξ, ξ^{2}) = Eξ^{3}−EξEξ^{2} = 0. Ezért a (\sqrt{12}ξ_{j}, \sqrt{180} (ξ_{j}^{2} − \frac{1}{12})),

j = 1, 2, …, véletlen vektorok függetlenek, nulla várható értékkel és az identitás kovariancia mátrix-szal. Innen, és a több-dimenziós centrális határeloszlástételből következik a feladat állítása.

Feladat:

Legyen (ξ, η) normális eloszlású vektor m = (m_{1}, m_{2}) = (Eξ, Eη) várható értékkel és

( \begin{matrix}σ_{1,1}, & σ_{1,2} \\ σ_{2,1}, & σ_{1,1} \end{matrix} ) = ( \begin{matrix}Eξ^{2} − (Eξ)^{2}, & Eξη − EξEη \\ Eξη − EξEη, & Eη^{2} − (Eη)^{2} \end{matrix} )

kovarianciamátrix-szal. Ekkor létezik a ξ valószínűségi változónak ξ = aη + ζ alakú előállítása alkalmas a konstanssal, és az η valószínűségi változótól független ζ normális eloszlású valószínűségi változóval. Ez azt jelenti, hogy ha (ξ, η) két-dimen-ziós normális eloszlású valószínűségi változó, akkor az első koordináta kifejezhető mint a második kooordináta konstansszorosának és egy a második koordinátától független normális eloszlású valószínűségi változó összege. A kívánt a konstanst explicit módon megadhatjuk az a = \frac{σ_{1,2}}{σ_{2,2}} képlet segítségével.

Hogy általánosítható a fenti állítás abban az esetben, ha ξ és η vektorváltozók is lehetnek?

Megoldás: A ζ = ξ − \frac{σ_{1,2}}{σ_{1,1}} η valószínűségi változó független az η valószínűségi

változótól. Ehhez a több-dimenziós normális eloszlás tulajdonságai alapján elég ellenőrizni, hogy Cov (ζ, η) = 0. Innen következik a feladat állítása.

Az az eset, amikor ξ = (ξ_{1}, …, ξ_{s}), η = (η_{1}, …, η_{p}), és (ξ_{1}, …, ξ_{s}, η_{1}, …, η_{p}) egy s + p dimenziós normális eloszlású valószínűségi változó hasonlóan tárgyalható. Lássuk be, hogy létezik olyan A mátrix, melyre η és ξ − ηA függetlenek. Ennek érdekében lássuk be először, hogy létezik olyan U unitér mátrix melyre ηU = (η̄_{1}, …, η̄_{p}) = η̄ vektor koordinátái függetlenek. Ugyanis, ha az η véletlen vektor D kovarianciamátrixát D = U^{∗}ΛU alakban írjuk, ahol U unitér Λ pedig diagonális mátrix, akkor az η̄ = ηU véletlen normális eloszlású vektor kovarianciamátrixa Λ, ahonnan következik, hogy az η̄ mátrix koordinátái függetlenek. Legyen ξ̄_{r} =

ξ_{r} − ∑_{k=1}^{p} \frac{Eξ_{r}η̄_{k}}{Eη̄_{k}^{2}} η̄_{k}, r = 1, …, s. Ezt mátrixjełöléssel írjuk ξ̄ = ξ − η̄B formában.

Ekkor (ξ − η̄B, η̄) olyan p + s dimenziós normális eloszlású valószínűségi változó, melynek első s és utolsó p koordinátája korrelálatlan, ezért független. Mivel a ξ − η̄B és η̄ vektorok függetlenek, ezért ζ = ξ − η̄B = ξ − ηUB független az η = η̄U^{∗} vektortól.

Megjegyzés: A valószínűségszámítás illetve statisztika finomabb kérdéseinek vizsgálatában bevezették a feltételes valószínűség és feltételes eloszlás fogalmát olyan esetekben is, amikor a feltétel nulla valószínűséggel következik be. Bizonyos vizsgálatokban fontos kiszámolni, hogy mi a feltételes eloszlása egy több-dimenziós normális vektor bizonyos koordinátáinak azon feltétel mellett, hogy a többi koordináta értékét rögzítjük. E feladat megoldásának kulcslépése a fent tárgyalt feladat megoldása.

A több-dimenziós centrális határeloszlástételt be lehet bizonyítani az egydimenziós valószínűségi centrális határeloszlástételhez hasonlóan az Alaptételnek nevezett állítás több-dimenziós változatának segítségével. Valójában van egyszerűbb megoldás is. Meg lehet mutatni, — szintén az Alaptétel több-dimenziós változata segítségével, — hogy a több-dimenziós határeloszlástételek következnek azok egy-dimenziós változatából. Ennek részleteit, melynek tárgyalását bizonyos részletességgel tartalmazza az előző előadáshoz írt, de valójában nem elmondott ismertetés, itt elhagyjuk.

Egy k-dimenziós normális eloszlású valószínűségi változó eloszlása megegyezik egy (ξ_{1}, …, ξ_{k})A + (m_{1}, …, m_{k}) véletlen vektor eloszlásával, ahol A k × k méretű mátrix. Ha az A mátrix nem invertálható, akkor ez a véletlen vektor egy valószínűséggel egy legfeljebb k − 1-dimenziós altér alkalmas eltoltján veszi fel az értékét, és ezért nincs sűrűségfüggvénye. A következő tételben megmutatjuk, hogy amennyiben az A mátrix invertálható, akkor ennek a normális valószínűségi változónak van sűrűségfüggvénye, és explicit módon megadjuk azt.

Tétel a több-dimenziós normális eloszlásfüggvények alakjáról. Legyen adva egy η = (η_{1}, …, η_{k}) k-dimenziós normális eloszlású valószínűségi változó, melynek m = (m_{1}, …, m_{k}) = (Eη_{1}, …, Eη_{k}) a várható értéke és D = (d_{j,l}), d_{j,l} = Cov (η_{j}, η_{l}), 1 ≤ j, l ≤ k, a kovariancia mátrixa. Az η k-dimenziós valószínűségi változónak akkor és csak akkor van sűrűségfüggvénye, ha a D kovariancia mátrix invertálható. Ha a D kovariancia mátrix invertálható, akkor az η = (η_{1}, …, η_{k}) véletlen vektor sűrűségfüggvénye az a következő alakú:

f(x) = f(x_{1}, …, x_{k}) = \frac{1}{(2π)^{k/2} det D^{1/2}} exp \{−(x − m)D^{−1}(x − m)^{∗}/2\} ,

ahol x = (x_{1}, …, x_{k}) ∈ R^{k} k-dimenziós vektor.

Bizonyítás: Az η = (η_{1}, …, η_{k}) véletlen vektor eloszlása megegyezik egy olyan η̄ = (η̄_{1}, …, η̄_{k}) = (ξ_{1}, …, ξ_{k})A+(m_{1}, …, m_{k}) véletlen vektornak az eloszlásával, amelyikre ξ_{j}, 1 ≤ j ≤ k, független standard normális eloszlású valószínűségi változók, és D = A^{∗}A. Jegyezzük meg, hogy a lineáris algebra standard eredményei szerint az A és A^{∗} mátrixok egyszerre invertálhatóak vagy nem invertálhatóak, és a D = A^{∗}A mátrix akkor és csak akkor invertálható, ha az A mátrix invertálható. Ezért, ha a D mátrix nem invertálható, akkor az η vektornak nincs sűrűségfüggvénye, ha pedig a D mátrix invertálható, akkor a következő módon számolhatunk:

Alkalmazva az x = yA + m transzformációt ξ = (ξ_{1}, …, ξ_{k}), x = (x_{1}, …, x_{k}),

y = (y_{1}, …, y_{k}) és φ(y) = φ(y_{1}, …, y_{k}) = \frac{1}{(2π)^{k/2}} e^{−(y_{1}^{2}+···+y_{k}^{2})/2} jelöléssel kapjuk, hogy

tetszőleges mérhető B ⊂ R^{k} halmazra

P (η̄ ∈ B) = P (η ∈ B) = P (ξ ∈ (B − m)A^{−1}) = ∫_{(y_{1},...,y_{k})∈(B−m)A^{−1}} φ(y) dy

= \frac{1}{| det A|} ∫_{(x_{1},...,x_{k})∈B} φ ((x − M)A^{−1}) dx

alakú, ahol | det A| az x = yA + M leképezés Jacobian-ja.

E formulából kiolvasható, hogy a vizsgált normális eloszlású valószínűségi változó

sűrűségfüggvénye a \frac{1}{| det A|}φ ((x − m)A^{−1}) függvény. Annak érdekében, hogy bebizo-

nyítsuk a tételt vegyük észre, hogy mivel D = A^{∗}A, ezért det D = det A^{∗} det A = det A^{2}, ezért | det A| = det D^{1/2}, és

φ ((x − m)A^{−1}) = \frac{1}{(2π)^{k/2}} exp \{−\frac{((x − m)A^{−1}, (x − m)A^{−1})}{2}\}

= \frac{1}{(2π)^{k/2}} exp \{−\frac{(x − m)A^{−1} (A^{−1})^{∗} (x − m)^{∗}}{2} \}

= \frac{1}{(2π)^{k/2}} exp \{−\frac{(x − m)(A^{∗}A)^{−1}(x − m)^{∗}}{2} \}

= \frac{1}{(2π)^{k/2}} exp \{−\frac{(x − m)D^{−1}(x − m)^{∗}}{2} \} ,

mert A^{−1} (A^{−1})^{∗} = A^{−1} (A^{∗})^{−1} = (A^{∗}A)^{−1}. Innen következik a Tétel állítása.

Megjegyzés: Egy több-dimenziós normális eloszlású valószínűségi változó karakterisztikus függvényét megadó képletben a kovariancia mátrix szerepel, míg a sűrűségfüggvényét megadó képletben a kovariancia mátrix inverze. Az, hogy a karakterisztikus függvényben nem kellett invertálni az oka annak, hogy a karakterisztikus függvény segítségével könnyebb vizsgálni a normális eloszlásfüggvények tulajdonságait.

A χ^{2} eloszlásokról és χ^{2} próbáról.

Tekintsük a több-dimenziós normális eloszlások bevezetőjében tekintett első problémát. Hogyan tudjuk ellenőrizni, hogy egy dobókocka szabályos-e?

Dobjuk fel a dobókockát n alkalommal, és legyen

(ν(1), …, ν(6)) = (ν_{n}(1), …, ν_{n}(6))

az 1, …, 6 dobáseredmények száma. Megmutatjuk a több-dimenziós centrális határ-

eloszlás segítségével, hogy az \frac{1}{n} ∑_{j=1}^{6} (ν_{n}(j) − \frac{n}{6})^{2} valószínűségi változóknak van határ-

eloszlásuk, ha n → ∞, (feltéve, hogy egy szabályos dobókocka egymástól független dobásainak az eredményeit tekintjük), és ezt a határeloszlást explicit módon meg tudjuk adni. Ez lehetőséget ad egy kocka szabályosságának ellenőrzésére. Ennek a feladatnak a következő természetes általánosítását fogjuk tekinteni:

Legyen adva k urna, és ellenőrizni akarjuk azt a feltételezést, mely szerint ha egy golyót véletlenül bedobunk ezen urnák valamelyikébe, akkor az p_{j}, p_{j} > 0, va-

lószínűséggel esik a j-ik urnába, ∑_{j=1}^{k} p_{j} = 1. Ennek a feltételezésnek az ellenőrzése

érdekében dobjunk egymástól függetlenül n golyót ezekbe az urnákba, és jelölje ν_{n}(j) a j-ik urnába eső golyók számát. Be fogjuk látni, hogy feltételezésünk teljesülése esetén

a ∑_{j=1}^{k} \frac{(ν_{n}(j) − np_{j})^{2}}{np_{j}} valószínűségi változóknak létezik határeloszlása n → ∞ esetén, és ez a határeloszlás az úgynevezett k − 1 szabadságfokú χ^{2} eloszlás. Megadjuk a χ^{2} eloszlások definicióját.

A k szabadságfokú χ^{2} eloszlás definiciója. Legyen ξ_{1}, …, ξ_{k} k darab független

standard normális eloszlású valószínűségi változó. Ekkor a ∑_{j=1}^{k} ξ_{j}^{2} valószínűségi változó

eloszlását nevezzük k szabadságfokú χ^{2}(k) eloszlásnak.

Megjegyzés: Láttuk a 10. előadáson tárgyalt feladatok egyikében, hogy a 2 szabad-

ságfokú χ^{2}(2) eloszlás a λ = \frac{1}{2} paraméterű exponenciális eloszlás, azaz az az eloszlás,

melynek sűrűségfüggvénye az f(x) = \frac{1}{2}e^{−x/2}, ha x ≥ 0, és f(x) = 0, ha x < 0.

A fent említett határeloszlástétel segítségével a kocka szabályosságának ellenőrzéséhez hasonlóan ellenőrizni tudjuk feltételezésünk helyességét. A határeloszlástétel

bizonyítása azon alapul, hogy egyrészt meg tudjuk adni a \{\frac{ν_{n}(j) − np_{j}}{\sqrt{np_{j}}} , j = 1, …, k\}

véletlen vektorok határeloszlását a több-dimenziós centrális határeloszlástétel segítségével. Másrészt belátjuk, hogy ha (η_{1}^{(n)}, …, η_{k}^{(n)}) véletlen vektorok eloszlásban konvergálnak egy (η_{1}, …, η_{k}) véletlen vektorhoz n → ∞ esetében, és f(x_{1}, …, x_{k}) folytonos k-változós függvény, akkor az f (η_{1}^{(n)}, …, η_{k}^{(n)}), n = 1, 2, …, valószínűségi változók eloszlásban konvergálnak az f(η_{1}, …, η_{k}) valószínűségi változóhoz. Ez lehetővé teszi a minket érdeklő statisztikák határeloszlásának megadását. Ezt a határeloszlást egyszerű, jól áttekinthető alakban akarjuk megadni. Ezt azért tudjuk megtenni, mert mint azt egy megoldásával együtt ismertetett feladatban megfogalmazom, ha (η_{1}, …, η_{k}) kdimenziós nulla várható értékű D kovarianciamátrixú normális eloszlású véletlen vektor valamilyen ismert D kovariancia mátrix-szal, akkor bizonyos alapvető lineáris algeb-

rai eredmények felhasználásával egyszerű formában megadhatjuk a ∑_{j=1}^{k} η_{j}^{2} valószínűségi

változó eloszlását.

Először megfogalmazzuk és bebizonyítjuk a fent említett állítást.

Lemma. Legyen (S_{1,n}, …, S_{k,n}), n = 1, 2 …, k-dimenziós valószínűségi vektorok sorozata, amelyik eloszlásban konvergál egy (S_{1}, …, S_{k}) k-dimenziós véletlen vektorhoz n → ∞ esetén, és legyen f(x_{1}, …, x_{k}) egy k-változós folytonos függvény. Ekkor a T_{n} = f (S_{1,n}, …, S_{k,n}), n = 1, 2, …, valószínűségi változók eloszlásban konvergálnak a T = f (S_{1}, …, S_{k}) valószínűségi változóhoz n → ∞ esetén.

Bizonyítás: Használjuk a tételt az eloszlásban való konvergencia jellemzéséről folytonos függvények segítségével. Eszerint az S_{1,n}, …, S_{k,n} véletlen vektorok sorozatának eloszlásban való konvergenciát úgy is megfogalmazhatjuk, hogy tetszőleges folytonos és

korlátos h(x_{1}, …, x_{k}) függvényre teljesül a lim_{n→∞} Eh(S_{1,n}, …, S_{k,n}) = Eh(S_{1}, …, S_{k})

reláció. Legyen g(·) folytonos és korlátos függvény. Ekkor g(f(x_{1}, …, x_{k})) folytonos és korlátos függvény, ezért teljesül a

lim_{n→∞} Eg(T_{n}) = lim_{n→∞} Eg (f (S_{1,n}, …, S_{k,n})) = Eg (f (S_{1}, …, S_{k})) = Eg(T)

reláció. Innen következik a Lemma állítása.

Feladat:

Legyen η = (η_{1}, …, η_{k}) k-dimenziós normális eloszlású valószínűségi változó nulla várható értékkel és D kovariancia mátrix-szal. Legyenek a λ_{1}, …, λ_{k} számok a D mátrix sajátértékei (multiplicitással). Bizonyítsuk be (alapvető lineáris algebrai is-

meretek felhasználásával), hogy a ∑_{j=1}^{k} η_{j}^{2} valószínűségi változó eloszlása megegyezik

egy ∑_{j=1}^{k} λ_{j}ξ_{j}^{2} valószínűségi változó eloszlásával, ahol ξ_{1}, …, ξ_{k} független standard

normális eloszlású valószínűségi változók. Megoldás: A D mátrix felírható D = UΛU^{∗} alakban, ahol U unitér, Λ pedig olyan diagonális mátrix, melynek átlójában a D mátrix λ_{j} sajátértékei vannak. (Az U mátrix is felírható explicit módon a D nátrix sajátvektorainak segítségével, de erre a tényre itt nincs szükségünk.) Az η = (η_{1}, …, η_{k}) véletlen vektor eloszlása megegyezik egy η̄ = (η̄_{1}, …, η̄_{k}) = ξΛ^{1/2}U^{∗} = (ξ_{1}, …, ξ_{k})Λ^{1/2}U^{∗} véletlen vektor eloszlásával, ahol a ξ = (ξ_{1}, …, ξ_{k}) véletlen vektor standard normális eloszlású. Valóban η̄ normális eloszlású véletlen vektor, melynek várható értéke nulla és kovariancia mátrixa a (Λ^{1/2}U^{∗})^{∗}Λ^{1/2}U^{∗} = UΛ^{1/2}Λ^{1/2}U^{∗} = UΛU^{∗} = D mátrix. Ezért

a ∑_{j=1}^{k} η_{j}^{2} valószínűségi változó eloszlása megegyezik a ∑_{j=1}^{k} η̄_{j}^{2} valószínűségi változó

eloszlásával. Vegyük észre, hogy az η̃ = (η̃_{1}, …, η̃_{k}) = η̄U = (η̄_{1}, …, η̄_{k})U vektorra

teljesül a ∑_{j=1}^{k} η̄_{j}^{2} = ∑_{j=1}^{k} η̃_{j}^{2} azonosság, mert U unitér, tehát távolságtartó transz-

formáció. Viszont η̃ = η̄U = ξΛ^{1/2}U^{∗}U = ξΛ^{1/2}. Ez azt jelenti, hogy a ∑_{j=1}^{k} η_{j}^{2}

valószínűségi változó eloszlása megegyezik a ∑_{j=1}^{k}(λ_{j}^{1/2}ξ_{j})^{2} = ∑_{j=1}^{k} λ_{j}ξ_{j}^{2} valószínűségi

változó eloszlásával, és ez a feladat állítása.

Az alább megfogalmazott eredményen alapul a χ^{2} próba.

Tétel. Legyen adva k darab urna, melyekbe bedobunk egymástól függetlenül golyókat úgy,

hogy mindegyik golyó p_{j} valószínűséggel esik a j-ik urnába, 1 ≤ j ≤ k, ∑_{j=1}^{k} p_{j} = 1. Jelölje

ν_{n}(j) a j-ik urnába eső golyók számát az n-ik dobás után. Ekkor a ∑_{j=1}^{k} \frac{(ν_{n}(j) − np_{j})^{2}}{np_{j}}

valószínűségi változók eloszlásban konvergálnak a k − 1 szabadságfokú χ^{2}(k − 1) eloszláshoz, ha n → ∞. (Az urnák k száma rögzített.)

A fenti tételben megjelenő határeloszlás csak az urnák k számától függ, de nem függ a p_{j}, 1 ≤ j ≤ k, valószínűségektől. Ez jelzi azt, hogy természetes statisztikát vettünk, olyat amelyben a különböző urnákban levő golyók számának az eltérése annak várható értékétől egyforma fontos szerepet játszik. Az, hogy a határeloszlás a k − 1 szabadságfogú χ^{2}(k − 1) eloszlás azzal függ össze, hogy bár k véletlen szám súlyozott négyzetösszegét tekintettük, (az egyes urnákba eső golyók számának eltérését tekintettük azok várható értékétől), de ezek között van egy determinisztikus összefüggés. Nevezetesen az, hogy az összes urnába eső golyók száma minusz azok várható értéke nullával egyenlő. Ezt informálisan úgy szokták interpretálni, hogy k−1 szabadsági fokkal rendelkező véletlen vektorok koordinátáinak a négyzetösszegét tekintettük, illetve azok határeloszlását. Ilyen esetben a határeloszlást olyan véletlen összeg adja meg, melyben mindegyik szabadsági foknak egy összeadandó felel meg, amelyik független a többi összeadandótól, és az egy standard normális eloszlású valószínűségi változó négyzete.

A Tétel bizonyítása: A többdimenziós centrális határeloszlástétel alapján a

(\frac{ν_{n}(1) − np_{1}}{\sqrt{np_{1}}} , …, \frac{ν_{n}(k) − np_{k}}{\sqrt{np_{k}}} )

véletlen vektorok eloszlásban konvergálnak n → ∞ esetén egy olyan (η_{1}, …, η_{k}) kdimenziós normális eloszlású véletlen vektorhoz, melyre Eη_{j} = 0, Var η_{j} = (1 − p_{j}), 1 ≤ j ≤ k, és Cov (η_{j}, η_{l}) = −\sqrt{p_{j}p_{l}}, ha 1 ≤ j, l ≤ k, és j ≠ l. Valóban, defináljuk azokat a ξ_{s} = (ξ_{s,1}, …, ξ_{s,k}), s = 1, 2, …, k-dimenziós valószínűségi változókat, melyekre ξ_{s,j} = 1, és ξ_{s,l} = 0 l ≠ j esetében, ha az s-ik golyó a j-ik urnába esik. Ekkor a ξ_{1}, ξ_{2}, …, véletlen vektorok függetlenek és egyforma eloszlásúak, (ν_{n}(1), …, ν_{n}(k)) =

∑_{s=1}^{n} ξ_{s}, Eξ_{s} = (p_{1}, …, p_{k}), Eξ_{s,j}^{2} = p_{j}, Var ξ_{s,j} = (1 − p_{j})p_{j}, Cov (ξ_{s,j}, ξ_{s,l}) = Eξ_{s,j}ξ_{s,l} −

Eξ_{s,j}Eξ_{s,l} = −p_{j}p_{l}, ha j ≠ l. Ezért alkalmazva a több-dimenziós centrális határelosz-

lástételt a \frac{1}{\sqrt{n}} ( ∑_{s=1}^{n} \frac{ξ_{1,s} − Eξ_{1,s}}{\sqrt{p_{1}}} , …, ∑_{s=1}^{n} \frac{ξ_{k,s} − Eξ_{k,s}}{\sqrt{p_{k}}} ) összegekre megkapjuk a fenti

állítást.

Felhasználva ezt az eredményt valamint alkalmazva az előzőleg kimondott lemmát

az f(x_{1}, …, x_{k}) = ∑_{j=1}^{k} x_{j}^{2} függvénnyel kapjuk, hogy a ∑_{j=1}^{k} \frac{(ν_{n}(j) − np_{j})^{2}}{np_{j}} valószínűségi

változók eloszlásban konvergálnak egy ∑_{j=1}^{k} η_{j}^{2} valószínűségi változóhoz, ahol (η_{1}, …, η_{k})

véletlen vektor k-dimenziós normális eloszlású valószínűségi változó, melynek várható értéke nulla, és D = d_{j,l}, d_{j,l} = Cov (η_{j}, η_{l}), 1 ≤ j, l ≤ k, kovariancia mátixát a Var η_{j} = (1 − p_{j}), 1 ≤ j, l ≤ k, és Cov (η_{j}, η_{l}) = −\sqrt{p_{j}p_{l}}, ha 1 ≤ j, l ≤ k, és j ≠ l képletek határozzák meg. Ezért elég belátni azt, hogy egy nulla várható értékű és a fenti kovarianciafüggvénnyel rendelkező normális eloszlású (η_{1}, …, η_{k}) véletlen vektorra

a ∑_{j=1}^{l} η_{j}^{2} kifejezés χ^{2}(k − 1) eloszlású valószínűségi változó.

Ennek belátása érdekében tekintsük az (η_{1}, …, η_{k}) véletlen vektor D = (d_{j,l}), 1 ≤ j, l ≤ k, kovarianciamátrixát, és értsük meg annak szerkezetét. Azt állítjuk, hogy az u = (\sqrt{p_{1}}, …, \sqrt{p_{k}}) vektor sajátvektora a D kovarianciamátrixnak nulla sajátértékkel és

emellett, ha egy x = (x_{1}, …, x_{k}) vektor merőleges erre az u vektorra, azaz ∑_{j=1}^{k} x_{j}\sqrt{p_{j}} =

0, akkor az x vektor a D mátrixnak sajátvektora 1 sajátértékkel.

Valóban, tetszőleges 1 ≤ j ≤ k számra

∑_{l: l≠j} \sqrt{p_{l}}d_{j,l} = −\sqrt{p_{j}} ∑_{l: l≠j} p_{l} = −\sqrt{p_{j}}(1 − p_{j}) = −\sqrt{p_{j}}d_{j,j},

ahonnan ∑_{l=1}^{k} \sqrt{p_{l}}d_{j,l} = 0, ami azt jelenti, hogy az u vektor a D mátrix sajátvektora nulla

sajátértékkel. Ha ∑_{j=1}^{k} x_{j}\sqrt{p_{j}} = 0, akkor minden 1 ≤ j ≤ k számra

∑_{l: l≠j} d_{j,l}x_{l} = −\sqrt{p_{j}} ∑_{l: l≠j} \sqrt{p_{l}}x_{l} = \sqrt{p_{j}}\sqrt{p_{j}}x_{j} = p_{j}x_{j},

ahonnan ∑_{l=1}^{k} d_{j,l}x_{l} = x_{j}p_{j} + x_{j}(1 − p_{j}) = x_{j}, és ez azt jelenti, hogy az x vektor a D

mátrix sajátvektora egy sajátértékkel.

Ez azt jelenti, hogy a D kovariancia mátrixnak létezik egy nulla és k − 1 1 sajátértékkel rendelkező ortogonális sajátvektora. Valóban, az u = (\sqrt{p_{1}}, …, \sqrt{p_{k}}) vektor és a rá merőleges altér tetszőleges k − 1 vektorból álló ortogonális bázisa alkalmas választás. Ezért a Tétel bizonyítása következik a Tétel előtt tárgyalt feladat eredményéből. Ekkor ugyanis a sajátértékek rendszere az 1 számból áll k−1 multiplicitással és a nulla számból egy multiplicitással.

Feladat:

Legyen (ξ_{1}, …, ξ_{m}) m-dimenziós valószínűségi változó φ_{1}(t_{1}, …, t_{m}) karakterisztikus függvénnyel, (η_{1}, …, η_{n}) n-dimenziós valószínűségi változó φ_{2}(t_{1}, …, t_{n}) karakterisztikus függvénnyel. A (ξ_{1}, …, ξ_{m}) és (η_{1}, …, η_{n}) véletlen vektorok akkor és csak akkor függetlenek egymástöl, ha a (ξ_{1}, …, ξ_{m}, η_{1}, …, η_{n}) n + m-dimenziós valószínűségi változó φ_{1}(t_{1}, …, t_{n+m}) karakterisztikus függvénye

φ(t_{1}, …, t_{n+m}) = φ_{1}(t_{1}, …, t_{m})φ_{2}(t_{m+1}, …, t_{m+n})

alakban írható.

Megoldás: Ha a (ξ_{1}, …, ξ_{m}) és (η_{1}, …, η_{n}) véletlen vektorok függetlenek, akkor a (ξ_{1}, …, ξ_{m}, η_{1}, …, η_{n}) valószínűségi változó karakterisztikus függvénye

φ(t_{1}, …, t_{n+m}) = Ee^{i(t_{1}ξ_{1}+···+t_{m}ξ_{m}+t_{m+1}ξ_{m+1}+···+t_{m+n}ξ_{m+n})}
= Ee^{i(t_{1}ξ_{1}+···+t_{m}ξ_{m})}Ee^{i(t_{m+1}ξ_{m+1}+···+t_{m+n}ξ_{m+n})}
= φ_{1}(t_{1}, …, t_{m})φ_{2}(t_{m+1}, …, t_{m+n})

alakban írható.

Megfordítva, ha a (ξ_{1}, …, ξ_{m}, η_{1}, …, η_{n}) véletlen vektor karakterisztikus függvénye teljesíti a φ(t_{1}, …, t_{n+m}) = φ_{1}(t_{1}, …, t_{m})φ_{2}(t_{m+1}, …, t_{m+n}) azonosságot, akkor φ_{1}(t_{1}, …, t_{m}) = φ(t_{1}, …, t_{m}, 0, …, 0) a (ξ_{1}, …, ξ_{m}), és hasonlóan φ_{2}(t_{1}, …, t_{n}) az (η_{1}, …, η_{n}) véletlen vektornak a karakterisztikus függvénye. Tekintsünk két független m illetve n-dimenziós véletlen vektort, melyek eloszlása megegyezik a (ξ_{1}, …, ξ_{m}) illetve (η_{1}, …, η_{n}) véletlen vektorok eloszlásával, és ezenkívül függetlenek egymástól. Ezeknek a valószínűségi változóknak a karakterisztikus függvénye a φ_{1} illetve φ_{2}, együttes eloszlásuk pedig a φ(t_{1}, …, t_{n+m}) függvény. Mivel egy véletlen vektor karakterisztikus függvénye egyértelműen meghatározza e véletlen vektor eloszlását, innen következik, hogy a (ξ_{1}, …, ξ_{m}) és (η_{1}, …, η_{n}) véletlen vektorok függetlenek.

A valószínűségszámítás bevzető előadás rövid áttekintése

Megfogalmaztunk néhány valószínűségi problémát, azután rátértünk a valószínűségszámítás precíz Kolmogorov által megadott ismertetésére. Különösen fontos volt annak megértése, hogyan lehet a valószínűségszámítás problémáit e formális, a halmazelmélet nyelvét használó modellbe átfogalmazni. Ugyancsak fontos volt annak megértése, hogy ez az átfogalmazás hogyan segít konkrét feladatok megoldásában. A Kolmogorov féle elmélet kidolgozásában, annak érdekében hogy ne csak a véges sok lehetséges eseményt tartalmazó modellt tudjuk vizsgálni, szükség volt bizonyos mély mértékelméleti eredmények felidézésére. Elegendő a fogalmak és eredmények jelentésének megértése, illetve azt látni, hogyan lehet ezt feladatok megoldásában használni (geometriai eloszlások), a bizonyítások részleteinek ismerete nem szükséges.

Tárgyaltuk és bizonyítottuk a Borel–Cantelli lemmát. Itt is elegendő az eredmény értése és használni tudása. A következő fontos fogalom a feltételes valószínűség volt. Nagyon fontos megérteni, hogy hogyan kell ezt használni. Az itt kimondott eredményeket jobban lehet megérteni, ha a konkrét feladatokat vizsgáljuk. Definiáltuk események függetlenségét. Az itt kimondott fogalmak, eredmények ismerete rendkívül fontos.

Ezután egyrészt konkrét előbb diszkrét, később folytonos eloszlású valószínűségi változókat vizsgáltunk. Definiáltuk valószínűségi változók függetlenségét, várható értékét, szórásnégyzetét és különböző valószínűségi változók kovarianciafüggvényét. Ezeket először diszkrét valószínűségi változókra definiáltuk ezeket a fogalmakat, és csak később tárgyaltuk folytonos esetben. Ez utóbbi definició kidolgozása érdekében vázoltuk azt, hogyan kell definiálni a Lebesgue integrált. Ez utóbbi fogalom pontos ismerete (ezen tantárgy keretein belül) nem szükséges. Viszont tudni kell a várható érték, szórásnégyzet, független valószínűségi változók összegének eloszlásának (a konvoluciónak) kiszámítását, és ennek érdekében tudni kell az analízisben tanult integrál és differenciálszámítást is. A tanult diszkrét és folytonos eloszlásokat, illetve azok valószínűségi tartalmát tudni kell.

Tárgyaltuk a Markov és Csebisev egyenlőtlenséget. Ezután az előadás fontos témája volt az eloszlások fogalma, legfontosabb tulajdonságai, a valószínűségszámításban szereplő különböző konvergenciafogalmak (eloszlásban való konvergencia, sztochasztikus konvergencia, egy valószínűséggel való konvergencia) valamint azok jelentése és kapcsolata. Ugyancsak fontos megérteni a nagy számok gyenge és erős törvényét. A bizonyítások részleteinek ismerete nem szükséges.

Az előadás legfontosabb témája a centrális határeloszlástétel volt. Ennek tárgyalása érdekében bevezettük a karakterisztikus függvény fogalmát. Ennek erészletes tárgyalására azonban nem maradt idő, ezért ezt nem fogom kérni. Viszont nagyon fontos tudni azt, hogyan és mire lehet használni a centrális határeloszlástételt. Ebbe beletartoznak az előadáson tárgyalt statisztikai problémák is.

Végül a többdimenziós centrális határeloszlástételt és a chi-négyzet próbát tárgyaltuk. Ennek elegendő bizonyos durva áttekintését ismerni.

Végül megjegyzem, hogy a vizsga elsősorban feladatok megoldásából fog állni. Ezért a felkészüléshez azt javaslom, hogy ne csak az előadások, hanem a gyakorlatokon tárgyalt feladatokat is nézzék. Ez utóbbiak is megtalálhatóak (a feladatok megoldásaival együtt) megtalálhatóak a homepage-emen.

Homepage-em címe: http://www.renyi.hu/˜ major