A Valószínűségszámítás II. előadássorozat tízedik előadása. 2002. november 19.

A χ^{2} próba és néhány egyéb érdekes statisztikai alkalmazás.

Idézzük fel azt a kérdést, melyet felvetettünk mint olyan problémát, melynek megoldásához érdemes bebizonyítani a több-dimenziós centrális határeloszlástételt.

Egy dobókockáról el akarjuk dönteni, hogy szabályos-e. Ennek érdekében a dobókockát sokszor egymástól függetlenül feldobjuk, és feljegyezzük a kisérletek eredményét. Milyen eredménysorozat esetén tekinthetjük a dobókockát szabályosnak?

Általánosabban:

Legyen adva k urna, és ezekbe egymástól függetlenül bedobunk n golyót egymástól függetlenül, amelyek ugyanolyan valószínűséggel esnek az egyes urnákba. Próbáljuk meg ellenőrízni azt, hogy igaz-e, hogy a golyók az egyes urnákba p_{1}, …, p_{k} valószínűséggel esnek. (Feltesszük, hogy az elvégzett kisérletek n száma nagyon nagy.)

Emlékeztettünk arra, hogy a feladat megoldásában azt érdemes vizsgálni, hogy a j-ik urnába eső golyók száma minusz azok várható értéke mennyire kicsi, és a többdimenziós centrális határeloszlástétel segítségével azt kívánuk vizsgálni, hogy mennyire valószínű egy adott nagyságú eltérés. Annak érdekében, hogy a több-dimenziós centrális határeloszlástételt alkalmazhassuk érdemes bevezetni a Z_{j} = (Z_{j}^{(1)}, …, Z_{j}^{(k)}), j = 1, 2, …, n, véletlen vektorokat, melyeket a következő módon definiálunk: A Z_{j} vektor Z_{j}^{(l)} koordinátája 1, és az összes többi koordinátája nulla, ha a j-ik dobásban az l-ik urnába esik a golyó. Ekkor a Z_{1}, …, Z_{n} véletlen vektorok függetlenek, és ezek S_{n} = (S_{n}^{(1)}, …, S_{n}^{(k)}), S_{n} = Z_{1} + ⋯ + Z_{n} összege megadja, hogy hány pont esik az egyes urnákba.

Ezért a több-dimenziós centrális határeloszlástétel alapján ki tudjuk számolni a

lim_{n→∞} P (S_{n}^{(1)} < ES_{n}^{(1)} + \sqrt{n}x_{1}, …, S_{n}^{(k)} < ES_{n}^{(k)} + \sqrt{n}x_{k}) valószínűségek határértékét.

Viszont természetes módon felmerülhet a kérdés: Ki tudjuk-e számítani hasonló módon annak aszimptotikus valószínűségét, hogy az S_{n} = (S_{n}^{(1)}, …, S_{n}^{(k)}) vektor koordinátáinak megfelelő normalizáltja valamely ,,általános szép halmazba” essen. Be fogjuk látni, hogy erre a kérdésre pozitív választ lehet adni. De e válasz megadása előtt idézzük fel az alábbi eredményt, mely ezen eredmény bizonyításának alapjául szolgál.

Tétel az eloszlásban való konvergencia jellemzéséről folytonos függvények segítségével. F_{n}(u_{1}, …, u_{k}), n = 1, 2, … k-dimenziós eloszlásfüggvények sorozata akkor és csak akkor konvergál eloszlásban egy F (u_{1}, …, u_{k}) k-dimenziós eloszlásfüggvényhez, ha minden a k-dimenziós téren értelmezett folytonos, korlátos g(u_{1}, …, u_{k}) függvényre teljesül a

lim_{n→∞} ∫ g(u_{1}, …, u_{k}) F_{n}( du_{1}, …, du_{k}) = ∫ g(u_{1}, …, u_{k}) F ( du_{1}, …, du_{k})

azonosság.

Most megfogalmazom azt az eredményt, mely pozitív választ ad az előző kérdésre.

Tétel. Legyen F_{n}(x_{1}, …, x_{k}), n = 1, 2, …, k-dimenziós eloszlásfüggvények sorozata, amelyik eloszlásban konvergál egy F_{n}(x_{1}, …, x_{k}) k-dimenziós eloszlásfüggvényhez, n → ∞ esetben. Jelölje μ_{F_{n}} az F_{n}(x_{1}, …, x_{k}), n = 1, 2, …, és μ_{F} az F (x_{1}, …, x_{k}), kdimenziós eloszlásfüggvények által meghatározott Lebesgue–Stieltjes mértéket. Ekkor tetszőleges olyan (Borel-mérhető) A ⊂ R^{k} halmazra a k-dimenziós térben, melynek ∂A határa 0 μ_{F} mértékű, azaz μ_{F} (∂A) = 0, teljesül a lim_{n→∞} μ_{F_{n}}(A) = μ_{F} (A) reláció. (Egy A halmaz határán azokat a pontokat értjük, melyek torlódási pontjai mind az A halmaznak, mind annak komplementerének az R^{k} \ A halmaznak.) Speciálisan, ha F egy k-dimenziós normális eloszlás nem elfajuló kovariancia mátrix-szal, akkor ez az állítás igaz minden olyan A halmazra, melynek a határa nulla Lebesque mértékű.

Bizonyítás. A bizonyítás lényege az, hogy az A halmaz indikátor függvényét közrefogjuk olyan folytonos függvényekkel, mely függvényeknek a μ_{F_{n}} mérték szerinti integrálja jól közelíti az A halmaz μ_{F_{n}}(A) mértékét, és melyekre alkalmazhatjuk az eloszlásban való konvergenciának a folytonos függvények integráljável fent megadott jellemzését.

Rögzítsünk egy ε > 0 számot, definiáljuk az A halmaz ,,ε-belsejét”, mint a következő A^{ε} halmazt: A^{ε} = {x: ρ(x, R^{k} \ A) ≥ ε}, ahol ρ(x, y) két pont euklidészi távolságát jelöli az R^{k} euklidészi térben, és egy x ∈ R^{k} pontra, és B ⊂ R^{k} halmaz távolságát a szokásos módon a ρ(x, B) = inf_{y∈B} ρ(x, y) formulával definiáljuk. Definiáljuk az A halmaz

ε-környezetét mint a következő B^{ε} halmazt: B^{ε} = ⋃_{x∈A}{y: ρ(x, y) < ε}. Vegyük észre,

hogy A^{ε} ⊂ A ⊂ B^{ε}, továbbá lim_{N→∞} μ_{F} (A^{1/N}) = μ_{F} (A) és lim_{N→∞} μ_{F} (B^{1/N}) = μ_{F} (A).

Valóban, az A^{1/N} halmazok egymásba skatulyázottak, ezért lim_{N→∞} μ_{F} ( lim_{N→∞} A^{1/N}) =

μ_{F} ( ⋃_{N=1}^{∞} A^{1/N}) = μ_{F} (Int A) = μ_{F} (A), ahol Int A = A\∂A az A halmaz belseje. Itt ki-

használtuk, hogy μ_{F} (∂A) = 0. Hasonlóan, lim_{N→∞} μ_{F} ( lim_{N→∞} B^{1/N}) = μ_{F} ( ⋂_{N=1}^{∞} B^{1/N}) =

μ_{F} (Ā) = μ_{F} (A), ahol Ā = A ∪ ∂A az A halmaz lezártja.

Adva egy B ∈ R^{k} halmaz, jelölje I_{B}(x) a B halmaz indikátor függvényét, azaz legyen I_{B}(x) = 1, ha x ∈ B, I_{B}(x) = 0, ha x ∉ B. Minden ε > 0 számra tudunk olyan f_{ε}(x) és g_{ε}(x) folytonos függvényt konstruálni, melyre I_{A^{ε}}(x) ≤ f_{ε}(x) ≤ I_{A}(x) ≤ g_{ε}(x) ≤ I_{B^{ε}}(x). Valóban, legyen f_{ε}(x) = \frac{1}{ε} min(ε, ρ(x, R^{k} \ A). Ekkor f_{ε}(x) folytonos függvény, f_{ε}(x) = 0, ha x ∉ A, f_{ε}(x) = 1, ha x ∈ A^{ε}, és 0 ≤ f(x) ≤ 1, ha x ∈ A \ A^{ε}. Ez azt jelenti, hogy I_{A^{ε}}(x) ≤ f_{ε}(x) ≤ I_{A}(x) minden x ∈ R^{k} pontban. Hasonlóan, a g_{ε}(x) = \frac{1}{ε} min(ε, ρ(x, R^{k} \ B^{k}) függvény is folytonos, és I_{A}(x) ≤ f_{ε}(x) ≤ I_{B^{ε}}(x) minden x ∈ R^{k} pontban. Ezért az előbb felidézet tétel alapján felírhatjuk, hogy

μ_{F} (A^{1/N}) ≤ ∫ f_{1/N}(x)μ_{F} ( dx) = lim_{n→∞} ∫ f_{1/N}(x)μ_{F_{n}}( dx) ≤ lim inf_{n→∞} μ_{F_{n}}(A)

≤ lim sup_{n→∞} μ_{F_{n}}(A) ≤ lim_{n→∞} ∫ g_{1/N}(x)μ_{F_{n}}( dx) = ∫ g_{1/N}(x)μ_{F} ( dx)

≤ μ_{F} (B^{1/N}).

Innen N → ∞ határátmenettel kapjuk, felhasználva a lim_{N→∞} μ_{F} (A^{1/N}) = μ_{F} (A) és

lim_{N→∞} μ_{F} (B^{1/N}) = μ_{F} (A) relációkat, hogy

μ_{F} (A) ≤ lim inf_{n→∞} μ_{F_{n}}(A) ≤ lim sup_{n→∞} μ_{F_{n}}(A) ≤ μ_{F} (A).

Ebből az egyenlőtlenségből következik a Tétel fő állítása. A Tétel második állítása azonnal következik az elsőből, ha észrevesszük, hogy egy nem elfajuló kovarianci mátrixszal rendelkező normális eloszlásnak van sűrűségfüggvénye, ezért, ha egy A halmaz határának Lebesque mértéke nulla, akkor a határ mértéke nulla egy nem elfajululó kovariancia mátrixú normális eloszlás szerint is.

A fenti tétel elvileg jól alkalmazható, de biznoyos esetekben érdemes azt a halmazt, melynek a mértékét keressük a normális határeloszlásmérték szerint jobban megválasztani, olyan halmazoknak a valószínűségét vizsgálni, melyek ,,jobban illeszkednek a feladathoz”, és megvizsgálni, hogy ebben az esetben nem tudjuk-e a határmértéket jobban, egyszerűbben leírni. Ilyen például az előadás elején felidézett probléma, melynek megoldásában általában az úgynevezett χ^{2} (ejtsd khi négyzet) próbát szokták alkalmazni. Bár ennek tárgyalását általában a matematikai statisztika tananyag részének tekintik, a bizonyítás lényege a több-dimenziós centrális határeloszlástételen, illetve bizonyos lineáris algebrai ismereteken alapul. Ezért természetes ezt itt tárgyalni. Először ismertettem a χ^{2} eloszlás fogalmát és megfogalmazom az eredményt.

A k szabadságfokú χ^{2} eloszlás definiciója. Legyen ξ_{1}, …, ξ_{k} k darab független

standard normális eloszlású valószínűségi változó. Ekkor a ∑_{j=1}^{k} ξ_{j}^{2} valószínűségi változó

eloszlását nevezzük k szabadságfokú χ^{2}(k) eloszlásnak.

Megjegyzés: Láttuk a gyakorlaton vett feladatok egyikében, hogy a 2 szabadságfokú

χ^{2}(2) eloszlás a λ = \frac{1}{2} paraméterű exponenciális eloszlás, azaz az az eloszlás, melynek

sűrűségfüggvénye az f(x) = \frac{1}{2}e^{−x/2}, ha x ≥ 0, és f(x) = 0, ha x < 0.

Most megfogalmazom a tárgyalandó eredményt.

A χ^{2} próbáról szóló tétel. Legyen adva k darab urna, melyekbe bedobunk egymástól függetlenül golyókat úgy, hogy mindegyik golyó p_{j} valószínűséggel esik a j-ik urnába,

1 ≤ j ≤ k, ∑_{j=1}^{k} p_{j} = 1. Jelölje ν_{n}(j) a j-ik urnába eső golyók számát az n-ik dobás

után. Ekkor a ∑_{j=1}^{k} \frac{(ν_{n}(j) − np_{j})^{2}}{np_{j}} valószínűségi változók eloszlásban konvergálnak a k−1

szabadságfokú χ^{2}(k − 1) eloszláshoz, ha n → ∞. (Az urnák k száma rögzített.)

1. megjegyzés: A fenti tételben megjelenő határeloszlás csak az urnák k számától függ, de nem függ a p_{j}, 1 ≤ j ≤ k, valószínűségektől. Ez jelzi azt, hogy természetes statisztikát vettünk, olyat amelyben a különböző urnákban levő golyók számának az eltérése annak várható értékétől egyforma fontos szerepet játszik.

2. megjegyzés: Az, hogy a határeloszlás a k − 1 szabadságfogú χ^{2}(k − 1) eloszlás azzal függ össze, hogy bár k véletlen szám súlyozott négyzetösszegét tekintettük, (az egyes urnákba eső golyók számának eltérését tekintettük azok várható értékétől), de ezek között van egy determinisztikus összefüggés. Nevezetesen az, hogy az összes urnába eső golyók száma minusz azok várható értéke nullával egyenlő. Ezt informálisan úgy szokták interpretálni, hogy mivel a k változó között volt egy összefüggés, ezért a vektor koordinátáinak szabadságfoka eggyel csökkent, és csak k − 1 szabadsági fokkal rendelkező véletlen vektorok koordinátáinak a négyzetösszegét tekintettük, illetve azok határeloszlását. Ilyen esetben a határeloszlást olyan véletlen összeg adja meg, melyben mindegyik szabadsági foknak egy összeadandó felel meg, amelyik független a többi összeadandótól, és egy standard normális eloszlású valószínűségi változó négyzete.

Először megfogalmazok és bebizonyítok egy állítást, mely lehetővé teszi, hogy a χ^{2} próbáról szóló tételt redukáljuk egy olyan állításra, melyben egy alkalmaz kovarianciájú Gauss eloszlású véletelen vektor koordinátáinak a négyzetösszegét határozzuk meg.

Tétel. Legyen (S_{1,n}, …, S_{k,n}), n = 1, 2 …, k-dimenziós valószínűségi vektorok sorozata, amelyik eloszlásban konvergál egy (S_{1}, …, S_{k}) k-dimenziós véletlen vektorhoz n → ∞ esetén, és legyen f(x_{1}, …, x_{k}) egy k-változós folytonos függvény. Ekkor a T_{n} = f (S_{1,n}, …, S_{k,n}), n = 1, 2, …, valószínűségi változók eloszlásban konvergálnak a T = f (S_{1}, …, S_{k}) valószínűségi változóhoz n → ∞ esetén.

Bizonyítás: Használjuk a tételt az eloszlásban való konvergencia jellemzéséről folytonos függvények segítségével. Eszerint az S_{1,n}, …, S_{k,n} véletlen vektorok sorozatának eloszlásban való konvergenciát úgy is megfogalmazhatjuk, hogy tetszőleges folytonos és

korlátos h(x_{1}, …, x_{k}) függvényre teljesül a lim_{n→∞} Eh(S_{1,n}, …, S_{k,n}) = Eh(S_{1}, …, S_{k})

reláció. Legyen g(·) tetszőleges folytonos és korlátos függvény a számegyenesen. Ekkor g(f(x_{1}, …, x_{k})) is folytonos és korlátos függvény, ezért teljesül a

lim_{n→∞} Eg(T_{n}) = lim_{n→∞} Eg (f (S_{1,n}, …, S_{k,n})) = Eg (f (S_{1}, …, S_{k})) = Eg(T)

reláció. Innen következik a Tétel állítása.

Megjegyzés: Az előbb kimondott tétel valójában sokkal általánosabb körülmények között érvényes. Lehet definiálni általános (szeparábilis metrikus tér) értékű valószínűségi változókat, azok eloszlását és eloszlásaik konvergenciáját. A definiciók eléggé természetesek, és a fenti eredmény általános terekben is érvényes, sőt a bizonyítást sem kell megváltoztatni. Ennek az állításnak a részleteire nem térek ki. Azt érdemes megjegyezni, hogy ezek az állítások nem pusztán formális általánosítások, hanem nagyon érdekes és hasznos és tartalmas következményei vannak a ,,mindennapi” valószínűségi változók vizsgálatában is.

Most megfogalmazom, hogyan lehet redukálni a a χ^{2} próbáról szóló tételt.

A χ^{2} próbáról szóló tétel redukciója. Legyen η = (η_{1}, …, η_{k}) k-dimenziós normális eloszlású véletlen vektor, melynek várható értéke és kovriancia mátrixa teljesíti az Eη_{j} = 0, 1 ≤ j ≤ k, Cov (η_{j}, η_{l}) = −\sqrt{p_{j}p_{l}}, 1 ≤ j, l ≤ k, j ≠ l, és Var η_{j} = (1 − p_{j}),

1 ≤ j ≤ k relációkat. Akkor ∑_{j=1}^{k} η_{j}^{2} eloszlása a k − 1 szabadságfokú χ^{2}(k − 1) eloszlás.

(A most megfogalmazott eredményben speciálisan azt is állítjuk, hogy létezik az adott

kovarianciával rendelkező véletlen vektor tetszőleges p_{j}, p_{j} ≥ 0, 1 ≤ j ≤ k, ∑_{j=1}^{k} p_{j} = 1

számokra.)

A χ^{2} próbáról szóló tétel visszavezetése annak redukciójára. Ahogy az előadás elején tetük, vezessük be a Z_{m} = (Z_{m}^{(1)}, …, Z_{m}^{(k)}), m = 1, 2, …, n, véletlen vektorokat, melyeket a következő módon definiálunk: A Z_{m} vektor Z_{m}^{(j)} koordinátája 1, és az összes többi koordinátája nulla ha az m-ik dobásban az j-ik urnába esik a golyó. Vezessük be ennek a következő transzformáltjait: X_{m} = (X_{m}^{(1)}, …, X_{m}^{(k)}), m = 1, 2, …, n, X_{m}^{(j)} =

\frac{Z_{m}^{(j)} − p_{j}}{\sqrt{p_{j}}}, 1 ≤ m ≤ n, 1 ≤ j ≤ k. Vegyük észre egyrészt, hogy a vizsgált ν_{n}(j) mennyi-

ségek (a j-ik urnába eső golyók száma az n-ik dobás után és a fenti X_{m} véletlen vek-

torok az alábbi azonosságot teljesítik: \frac{1}{\sqrt{n}} ∑_{l=1} X_{m} = (\frac{ν_{n}(1) − np_{1}}{\sqrt{np_{1}}} , …, \frac{ν_{n}(k) − np_{k}}{\sqrt{np_{k}}} ).

Továbbá az X_{m} vektorok függetlenek és egyforma eloszlásúak, várható érték vektoruk nulla, és kovariancia mátrixuk teljesíti a Cov (X_{m}^{(j)}, X_{m}^{(l)}) = −\sqrt{p_{j}p_{l}}, 1 ≤ j, l ≤ k, j ≠ l, és Var X_{m}^{(j)} = (1 − p_{j}), 1 ≤ j, l ≤ k, 1 ≤ m ≤ n relácókat. Ugyanis egyszerű számolás adja, hogy EZ_{m} = (p_{1}, …, p_{k}), Cov (Z_{m}^{(j)}, Z_{m}^{(l)}) = −p_{j}p_{l}, 1 ≤ j, l ≤ k, j ≠ l, és Var Z_{m}^{(j)} = p_{j}(1 − p_{j}), 1 ≤ j, l ≤ k, 1 ≤ m ≤ n. Innen látszik, hogy

EX_{m} = 0, és Cov (X_{m}^{(j)}, X_{m}^{(l)}) = \frac{Cov (Z_{m}^{(j)}, Z_{m}^{(l)})}{\sqrt{p_{j}p_{l}}} = −\sqrt{p_{j}p_{l}}, Var X_{m}^{(j)} = \frac{Var Z_{m}^{(j)}}{p_{j}} =

1 − p_{j}. Innen következik speciálisan az is, hogy a χ^{2} próbáról szóló tétel redukciójában szereplő kovarianca mátrixú (nulla várható értékú) (normális eloszlású) (η_{1}, …, η_{k}) véletlen vektor valóban létezik. Továbbá, a több-dimenziós centrális határeloszlástétel

szerint a (\frac{ν_{n}(1) − np_{1}}{\sqrt{np_{1}}} , …, \frac{ν_{n}(k) − np_{k}}{\sqrt{np_{k}}} ) eloszlású véletlen vektorok eloszlásban kon-

vergálnak egy ilyen(η_{1}, …, η_{k}) normális vektorhoz. Ezért alkalmazva az előző tételt

az f(x_{1}, …, x_{k}) = ∑_{j=1}^{k} x_{j}^{2} folytonos függvénnyel kapjuk, hogy a ∑_{j=1}^{k} \frac{(ν_{n}(j) − np_{j})^{2}}{np_{j}}

valószínűségi változóknak van határeloszlásuk, és az megegyezik a ∑_{j=1}^{k} η_{j}^{2} valószínűségi

változó eloszlásával. Ez azt jelenti, hogy a χ^{2} próbáról szóló tétel bizonyításához elég annak redukált változatát belátni.

A fenti eredmény azt jelenti, hogy egy normális eloszlású véletlen vektor koordinátáiból képezett kvadratikus forma eloszlását kell kiszámolnunk. Emlékezzünk arra, hogy egy normális vektor lineáris transzformáltja is normális eloszlású, és tetszőleges normális eloszlású vektor előáll, mint standard normális eloszlású véletlen vektor lineáris transzformáltja. Ez azt sugallja, hogy próbáljuk meg a vizsgált (vagy egy vele azonos eloszlású) kifejezést előállítani, mint alkalmas független standard normális eloszláaú valószínűségi változók egyszerű kvadratikus formáját. A χ^{2} próbáról szóló tétel redukciójában eredetileg megadott kifejezést azért kívánjuk átalakítani, mert igaz ugyan, hogy normális valószínűségi változók nagyon egyszerű kvadratikus formájáról van szó, viszont a kvadratikus formában szereplő változók nem függetlenek. Viszont az alábbi lemma nagyon hasznos lesz a számunkra.

Lemma. Legyen η = (η_{1}, …, η_{k}) k-dimenziós normális eloszlású valószínűségi változó nulla várható értékkel és D kovariancia mátrix-szal. Legyenek a D mátrix sajátértékei a

λ_{1}, …, λ_{k} számok (multiplicitással). Ekkor a ∑_{j=1}^{k} η_{j}^{2} valószínűségi változó eloszlása meg-

egyezik egy ∑_{j=1}^{k} λ_{j}ξ_{j}^{2} valószínűségi változó eloszlásával, ahol ξ_{1}, …, ξ_{k} független standard

normális eloszlású valószínűségi változók.

Bizonyítás: A D mátrix felírható D = UΛU^{∗} alakban, ahol U unitér, Λ pedig olyan diagonális mátrix, melynek átlójában a D mátrix λ_{j} sajátértékei vannak (multiplicitással). (Az U mátrix is felírható explicit módon a D nátrix sajátvektorainak segítségével, de erre a tényre most nincs szükségünk.) Az η = (η_{1}, …, η_{k}) véletlen vektor eloszlása megegyezik egy η̄ = (η̄_{1}, …, η̄_{k}) = ξΛ^{1/2}U^{∗} = (ξ_{1}, …, ξ_{k})Λ^{1/2}U^{∗} véletlen vektor eloszlásával, ahol ξ = (ξ_{1}, …, ξ_{k}) standard normális eloszlású véletlen vektor. Valóban η̄ normális eloszlású véletlen vektor, melynek várható értéke nulla és kovariancia mátrixa a (Λ^{1/2}U^{∗})^{∗}Λ^{1/2}U^{∗} = UΛ^{1/2}Λ^{1/2}U^{∗} = UΛU^{∗} = D mátrix. Ezért az η és η̄ véletlen

vektorok eloszlása megegyezik. Innek az is következik, hogy a ∑_{j=1}^{k} η_{j}^{2} valószínűségi

változó eloszlása megegyezik a ∑_{j=1}^{k} η̄_{j}^{2} valószínűségi változó eloszlásával. Vegyük észre,

hogy az η̃ = (η̃_{1}, …, η̃_{k}) = η̄U = (η̄_{1}, …, η̄_{k})U vektorra teljesül a ∑_{j=1}^{k} η̄_{j}^{2} = ∑_{j=1}^{k} η̃_{j}^{2}

azonosság, mert U unitér, tehát távolságtartó transzformáció. Viszont η̃ = η̄U =

ξΛ^{1/2}U^{∗}U = ξΛ^{1/2}. Ez azt jelenti, hogy a ∑_{j=1}^{k} η_{j}^{2} valószínűségi változó eloszlása meg-

egyezik a ∑_{j=1}^{k}(λ_{j}^{1/2}ξ_{j})^{2} = ∑_{j=1}^{k} λ_{j}ξ_{j}^{2} valószínűségi változó eloszlásával, és ez a Lemma

állítása.

Most befejezzük a χ^{2} próbáról szóló tétel bizonyítását.

A χ^{2} próbáról szóló tétel redukciójának a bizonyítása. Tekintsük a ∑_{j=1}^{k} η_{j}^{2} valószínűségi változót, ahol (η_{1}, …, η_{k}) k-dimenziós normális eloszlású valószínűségi változó, melynek várható értéke nulla, és D = d_{j,l}, d_{j,l} = Cov (η_{j}, η_{l}), 1 ≤ j, l ≤ k, kovariancia mátrixát a Var η_{j} = (1 − p_{j}), 1 ≤ j, l ≤ k, és Cov (η_{j}, η_{l}) = −\sqrt{p_{j}p_{l}}, ha 1 ≤ j, l ≤ k, és j ≠ l képletek határozzák meg. Az előző lemma alapján azt kell megmutatni, hogy a fenti D kovariancia mátrixnak az 1 k − 1 multiplicitású sajátértéke (azaz k − 1 ortonormált 1 sajátértékkel rendelkező sajátvektora van) és ezenkívül még a nulla a sajátértéke 1-szeres multiplicitással.

Írjuk fel a D mátrixot D = I − B alakban, ahol I az identitás mátrix, B = (b_{i,j}), b_{i,j} = \sqrt{p_{i}}\sqrt{p_{j}}, 1 ≤ i, j ≤ k, és vegyük észre, hogy amennyiben egy B mátrixnak a sajátvektorai e_{1}, …, e_{k} vektorok, λ_{1}, …, λ_{k} sajátértékkel, akkor tetszőleges c számra az I + cB mátrix sajátvektorai ugyanazok az e_{1}, …, e_{k} vektorok 1 + cλ_{1}, …, 1 + cλ_{k} sajátértékkel. Ezt az eredményt alkalmazva c = −1 választással elegendő megtalálni a B mátrix sajátértékeit. Viszont egy B = (b_{i}b_{j}), 1 ≤ i, j ≤ k alakú mátrix egyik

sajátvektora a b = (b_{1}, …, b_{k}) vektor ∑_{j=1}^{k} b_{j}^{2} sajátértékkel, és a b vektort ortogonálisan

kiegészítő altér a B mátrix k − 1-dimenziós saját altere nulla sajátértékkel. Ez azt jelenti, hogy a nulla a B mátrix k −1 multiplicitású sajátértéke, mert B k −1-dimenziós nulla sajátértékű sajátalterének egy ortonormált bázisa k − 1 ortonormált sajátvektort biztosít nulla sajátértékkel.

Az előbb megfogalmazott állítások egyszerűen ellenőrizhetőek. Valóban egyszerű

számolás mutatja, hogy a b = (b_{1}, …, b_{k}) vektorra bB = ( ∑_{j=1}^{k} b_{j}^{2}) b, és ha valamely

c = (c_{1}, …, c_{k}) vektorra ∑_{j=1}^{k} c_{j}b_{j} = 0, akkor cB = 0, mert e vektor l-ik koordinátája

b_{l} ∑_{j=1}^{k} c_{j}b_{j} = 0, és ez jelenti a b vektor ortogonális kiegészítő alterére megfogalmazott

állítást.

Jelen esetben a tekintett B mátrix a fent vizsgált alakú a b_{j} = \sqrt{p_{j}} számokkal.

Ezért ∑_{j=1}^{k} b_{j}^{2} = ∑_{j=1}^{k} p_{j} = 1, a B vektornak a nulla k − 1-szeres az 1 pedig egyszeres

multiplicitású sajátértéke. Ez azt jelenti, hogy a D = I −B mátrixnak a nulla egyszeres az 1 pedig k − 1-szeres multiplicitású gyöke, mint állítottuk.

Végül bebizonyítunk még egy a több-dimenziós normális eloszlás most megismert tulajdonságai alapján egyszerűen bizonyítható, és a matematikai statisztikában fontos szerepet játszó eredményt.

Tétel. Legyenek X_{1}, …, X_{k} független standard eloszlású valószínűségi változók, és

legyen X̄ = \frac{1}{k} ∑_{j=1}^{k} X_{j}, X̄_{j} = X_{j} − X̄. Definiáljuk az U = \sqrt{k}X̄ és V = ∑_{j=1}^{k} X̄_{j}^{2}

valószínűségi változókat. Ekkor U és V független valószínűségi változók, továbbá U standard normális és V χ^{2}(k − 1) eloszlású.

Megjegyzés: A matematikai statisztikában vizsgálják a követkeső problémát. Tekintsük (ξ_{1}, …, ξ_{k}) (ismeretlen) m várható értékű és σ^{2} szórásnégyzetű független normális

eloszlású valószínűségi változók sorozatát. A várható értéket az X̃ = \frac{1}{k} ∑_{j=1}^{k} ξ_{j} a szó-

rásnégyzetet pedig az S = \frac{1}{k − 1} ∑_{j=1}^{k}(X_{j} − X̃)^{2} kifejezéssel szokás becsülni. Vizsgálni

szokták ezen becslések statisztikai tulajdonságait. Vegyük észre, hogy az

(\frac{\sqrt{k}}{σ} (X̃ − m), \frac{(k − 1)}{σ^{2}}S)

vektor eloszlása megegyezik a tételben vizsgált (U, V) vektor eloszlásával. Ennek tulajdonságai adnak magyarázatot sok statisztikai módszer eredetére, speciálisan az Ustatisztikák megjelenésére is.

Bizonyítás: Tekintsük az (X̄_{1}, …, X̄_{k}, X̄) véletlen vektort. Ez nulla várható értékű normális eloszlású véletlen vektor, mert egy normális vektor lineáris transzformációja is normális eloszású. Számítsuk ki ennek a véletlen vektornak a kovariancia mátrixát. Vegyük először észre, hogy Var X̄ = \frac{1}{k}, és

Cov (X̄_{j}, X̄) = \frac{1}{k} ((1 − \frac{1}{k} ) EX_{j}^{2} − \frac{1}{k} (EX_{1}^{2} + ⋯ + EX_{j−1}^{2} + EX_{j+1}^{2} + ⋯ + EX_{k}^{2}))

= \frac{1}{k} ((1 − \frac{1}{k} ) − \frac{k − 1}{k}) = 0.

Innen következik, hogy (X̄_{1}, …, X̄_{k}) egy a X̄ normális eloszlású valószínűségi változótól független nulla várható értékű normális eloszlású nulla várható értékű véletlen vektor,

és X̄ nulla várható értékű \frac{1}{k} szórásnégyzetű normális eloszlású véletlen vektor.

Továbbá,

Var X̄_{j} = (1 − \frac{1}{k} )^{2} Var X_{j}^{2} + \frac{k − 1}{k^{2}}Var X_{1}^{2} = \frac{(k − 1)^{2} + (k − 1)}{k^{2}} = \frac{k − 1}{k},

és

Cov (X̄_{j}, X̄_{l}) = −\frac{1}{k} \frac{k − 1}{k}(EX_{j}^{2} + EX_{l}^{2}) + (k − 2)\frac{EX_{1}^{2}}{k^{2}} = −\frac{2(k − 1)}{k^{2}} + \frac{k − 2}{k^{2}} = −\frac{1}{k} ,

ha j ≠ l. Ez azt jelenti, hogy alkalmazhatjuk a χ^{2} próbáról szóló tétel redukcióját

p_{j} = \frac{1}{k}, 1 ≤ j ≤ k, választással, és az azt adja, hogy a V = ∑_{j=1}^{k} X̄_{j}^{2} valószínűségi változó

χ^{2}(k − 1) eloszlású. Továbbá láttuk, hogy V független a \sqrt{k}X̄ = U valószínűségi változótól, és ez utóbbi standard normális eloszlású. A tételt beláttuk.