A Cochran–Fisher tételről

A matematikai statisztika egyik fontos eredménye a Cochran–Fisher tétel, amely a variancia analízisben játszik fontos szerepet. Ugyanakkor ez a tétel lényegét tekintve valójában egy lineáris algebrai állítás. Érdemes megmutatni, hogy hogyan lehet ezt az eredményt, illetve néhány ehhez kapcsolódó a matematikai statisztikában szintén hasznos állítást a lináris algebra módszereivel bebizonyítani.

E jegyzet ezt a bizonyítást és a Cochran–Fisher tétel néhány alkalmazását tartalmazza. Először megfogalmazom magát az eredményt.

Cochran–Fisher tétel. Legyen adva n független, standard normális eloszlású való-

színűségi változó, ξ_{1}, …, ξ_{n}, és definiáljuk segítségükkel a Q = Q(ξ_{1}, …, ξ_{n}) = ∑_{j=1}^{n} ξ_{j}^{2}

kifejezést. Legyen adva ezenkívül még k darab Q_{j} = Q_{j}(ξ_{1}, …, ξ_{n}), Q_{j} = ∑_{i=1}^{n} ∑_{l=1}^{n} c_{i,l}^{(j)}ξ_{i}ξ_{l},

1 ≤ j ≤ k, alakú (quadratikus) kifejezés a c_{i,l}^{(j)} = c_{l,i}^{(j)} azonosságot minden 1 ≤ i, l ≤ n, 1 ≤ j ≤ k, indexre teljesítő együtthatókkal, amelyekre érvényes a

Q = Q_{1} + Q_{2} + ⋯ + Q_{k}  (1)

azonosság. Jelölje rang (Q_{j}) a Q_{j} kifejezés rangját, amelyet úgy definiálunk, mint a Q_{j} kifejezés definiciójában szereplő együtthatók segítségével definiált (c_{i,l}^{(j)}), 1 ≤ i, l ≤ n, mátrix rangját. Ekkor teljesül az

n ≤ rang (Q_{1}) + rang (Q_{2}) + ⋯ + rang (Q_{k})  (2)

egyenlőtlenség. Ha a (2) formulában egyenlőség érvényes, akkor a Q_{j}, 1 ≤ j ≤ k, kifejezések független χ^{2} eloszlású valószínűségi változók rang (Q_{j}) szabadságfokkal. Sőt, ebben az esetben léteznek olyan független ζ_{j,1}, …, ζ_{j,r_{j}}, r_{j} = rang (Q_{j}), 1 ≤ j ≤ k,

standard normális eloszlású valószínűségi változók, amelyekre Q_{j} = ∑_{s=1}^{r_{j}} ζ_{j,s}^{2}, 1 ≤ j ≤ k,

és Q = ∑_{j=1}^{k} ∑_{s=1}^{r_{j}} ζ_{j,s}^{2}.

Fel fogom idézni egy mátrix rangjának a definicióját és legfontosabb tulajdonságait. Ezelőtt megfogalmazom azt a lineáris algebrai állítást, amelyből a Cochran-Fisher tétel következik.

Tétel egy Euklideszi térbeli identitás transzformáció felbontásáról. Tekintsük az I = I_{n} identitás transzformációt az n-dimenziós Euklideszi térben. Legyen adva ennek egy

I = Q_{1} + Q_{2} + ⋯ + Q_{k}  (3)

alakú előállítása, ahol Q_{1}, …, Q_{k} szimmetrikus leképezések. Ekkor

n ≤ rang (Q_{1}) + rang (Q_{2}) + ⋯ + rang (Q_{k}).  (4)

Ha a (4) formulában egyenlőség teljesül, akkor a Q_{1}, …, Q_{k} leképezések egymásra merőleges projekciók.

Felidézem, hogy egy mátrix rangját úgy definiáljuk, mint a mátrixból kiválasztható maximális számú lineárisan független sorok számát. Tekintsünk egy szimmetrikus bilineáris függvényt meghatározó lineáris transzformációt egy Euklideszi térben. Egy ilyen transzformáció tetszőleges ortonormált koordinátarendszerben felírt mátrixának ugyanaz a rangja, mert a transzformáció két különböző koordinátarendszerben felírt A és B mátrix reprezentációja között az A = UBU^{∗} reláció érvényes alkalmas U unitér mátrix-szal. Innen következik, hogy beszélhetünk egy szimmetrikus bilineáris függvény vagy az őt egyértelműen meghatározó kvadratikus alak rangjáról is. Egy (nem feltétlenül szimmetrikus) transzformáció rangja megegyezik a transzformáció képterének dimenziójával, és egy kvadratikus alak rangja jellemezhető úgy is, mint a leképezés főtengely transzformációs alakjában szereplő nem zéró sajátértékek száma.

Érdemes tudni a következő eredményeket a lineáris algebrából egy mátrix vagy lineáris leképezés rangjáról. Egy mátrix lineárisan független sorainak és lineárisan független oszlopainak száma megegyezik, és ezek egyike tekinthető egy mátrix rangjának. Ha egy mátrixot megszorzunk (akár balról akár jobbról) egy másik mátrix-szal, a szorzatmátrix rangja kisebb vagy egyenlő, mint az eredeti mátrix rangja. Ha egy invertálható mátrix-szal szorzunk, akkor egyenlőség van. Ha adva van egy lineáris transzformáció, akkor ennek mátrixa függ attól, hogy mely bázis segítségével írtuk fel, de a kapott mátrix rangja már nem függ ettől. Ezen eredemény alapján beszélhetünk egy lineáris transzformáció rangjáról, mint az általa meghatározott mátrix rangjáról.

Annak érdekében, hogy az identitás transzformációnak egy Euklideszi térben történő felbontásáról szóló tételt jobban megértsük, érdemes felidézni egy Euklideszi tér projekciójának fogalmát és legfontosabb tulajdonságait. Geometriai módon egy E Euklideszi tér (ortogonális) projekcióját egy B ⊂ E altérre úgy definiáljuk, mint az Euklideszi tér x ∈ E pontjainak azt az x → P x transzformációját, amely az x pontnak e pont orthogonális vetületét felelteti meg a B altérre, azaz P x ∈ B, és x − P x merőleges minden y ∈ B vektorra, azaz (x − P x, y) = 0, ha y ∈ B. Két P és Q projekció merőleges egymásra, ha a P x és Qy vektorok merőlegesek egymásra minden x, y ∈ E vektorra, azaz (P x, Qy) = 0 minden x ∈ E és y ∈ E vektorra. Érdemes a projekciók és projekciók merőlegességének fogalmát algebrai nyelven is megfogalmazni. A következő lemma a projekciók ilyen jellemzését fogalmazza meg.

Lemma egy Euklideszi tér projekcióinak a tulajdonságairól. Egy E Euklideszi tér P projekciója szimmetrikus operátor, és a projekció definiciójában szereplő B altér, ahová a projekció vetít, megegyezik a P transzformáció B = {P x: x ∈ E} képterével. Egy x ∈ B vektorra P x = x, és egy a B altérre merőleges x vektorra P x = 0.

Egy Euklideszi tér P önmagába való lineáris leképezése akkor és csak akkor projekció, ha szimmetrikus, és teljesíti a P = P^{2} azonosságot. Két P és Q projekció akkor és csak akkor merőleges egymásra, ha P Q = 0. Ekkor a QP = 0 azonosság is teljesül. Speciálisan, ha P projekció, akkor I − P egy rá merőleges projekció. Ezenkívül érvényes a 0 ≤ P ≤ I azonosság, azaz 0 ≤ (P x, x) ≤ (x, x) minden x ∈ E vektorra.

A lemma bizonyítása: Legyen P projekció az E Euklideszi tér egy B alterére. Lássuk be először, hogy a B altér megegyezik a P operátor képterével. Valóban, egyrészt definició szerint P x ∈ B minden x ∈ E vektorra. Másrészt nincs olyan y ∈ B vektor, amelyet nem tartalmaz a P operátor képtere. Ugyanis egy ilyen y vektor létezése esetén y − P y olyan nem zéró vektor lenne, amelyre y − P y ∈ B, ezért merőleges önmagára, és ez ellentmondás. Ha x ∈ B, akkor z = P x = x. Valóban, ekkor a z = P x vektorra teljesül mind az x − z ∈ B, mind az (x − z, y) = 0 minden y ∈ B vektorra. Hasonlóan P x = 0, ha x merőleges a B altérre, mert ekkor (x − 0, y) = 0 minden y ∈ B vektorra, és 0 ∈ B, tehát az x vektor x = (x − 0) + 0, és x = (x − P x) + P x felbontása egy B-re merőleges és egy a B altér által tartalmazott vektorra megegyezik.

Mutassuk meg azt is, hogy egy P projekció olyan szimmetrikus operátor, amelyre P^{2} = P. Valóban, a P = P^{∗} reláció bizonyításához elég megmutatni, hogy (P x, y) = (x, P y), ha y ∈ B vagy ha y merőleges a B altérre. Ha y ∈ B, akkor y = P y, ezért (P x, y) − (x, P y) = (P x, y) − (x, y) = (P x − x, y) = 0, és ha y merőleges a B altérre, akkor P y = 0, ezért (x, P y) = 0 és (P x, y) = 0, mert P x ∈ B. A P x = P^{2}x bizonyítását is elég ellenőrizni akkor, ha x ∈ B vagy ha x merőleges a B altérre. Az első esetben viszont x = P x = P^{2}x, a második esetben pedig 0 = P x = P^{2}x.

Lássuk be, hogy ha P = P^{∗}, és P = P^{2}, akkor P projekció a P transzformáció B = {P x: x ∈ E} képterére. Valóban, P x ∈ B minden x ∈ E vektorra, és mivel y = P z = P^{2}z = P y valamely z ∈ E vektorral, ha y ∈ B, ezért (x − P x, y) = (x, y) − (P x, y) = (x, P y) − (x, P^{∗}y) = 0 minden x ∈ E és y ∈ B vektorra.

Két P és Q projekció akkor és csak akkor merőleges, ha (P x, Qy) = 0 minden x ∈ E és y ∈ E vektorra. Viszont (P x, Qy) = (P^{∗}x, Qy) = (x, P Qy), ezért (P x, Qy) = 0 minden x ∈ E és y ∈ E vektorra akkor és csak akkor, ha P Q = 0. Ha P Q = 0, akkor 0 = (P Q)^{∗} = Q^{∗}P^{∗} = QP. Ha P projekció, akkor (I − P)^{∗} = I^{∗} − P^{∗} = I − P, (I − P)^{2} = I − 2P + P^{2} = I − P, és P (I − P) = 0, azaz I − P a P projekcióra merőleges projekció. Végül, ha P projekció, akkor (x, P x) = (x, P^{2}x) = (P x, P x) ≥ 0, és alkalmazva ezt az összefüggést az I−P projekcióra azt kapjuk, hogy (x, (I−P)x) ≥ 0, azaz (x, P x) ≤ (x, x).

Független normális eloszlású valószínűségi változók véges sorozata többváltozós normális eloszlású vektor, és egy normális eloszlású véletlen vektor lineáris transzformáltja szintén normális eloszlású. Ezenkívül tudjuk, hogy egy többváltozós normális eloszlású vektor koordinátái akkor és csak akkor függetlenek, ha korrelátlanok. Megmutatom e tények felhasználásával, hogy az egy Euklideszi térbeli identitás transzformáció felbontásáról szóló tételből következik a Cochran–Fisher tétel.

A Q_{j}(x) = ∑_{i=1}^{n} ∑_{l=1}^{n} c_{i,l}^{(j)}ξ_{i}ξ_{l} kifejezésnek feleltessük meg a C^{(j)} = (c_{i,l}^{(j)}), 1 ≤ i, l ≤ n,

szimmetrikus mátrixot minden 1 ≤ j ≤ k indexre. Ezenkívül vezessük be az E_{n} ndimenziós Euklideszi teret, amelynek elemei az x = (x_{1}, …, x_{n}) valós szám n-esek a szokásos (x, y) = ∑_{s=1}^{n} x_{s}y_{s} skalárszorzással, ha x = (x_{1}, …, x_{n}) és y = (y_{1}, …, y_{n}). Megmutatom az Euklideszi térbeli identitás transzformáció felbontásáról szóló tétel segítségével, hogy a Cochran-Fisher tétel feltételeinek teljesülése esetén a fenti C^{(j)} mátrixok, illetve a nekik megfelelő Q_{j} operátorok az E_{n} térben, 1 ≤ j ≤ k, egymásra merőleges projekciók.

A fenti jelölésekkel az (1) formula a

ξIξ^{∗} = ξC^{(1)}ξ^{∗} + ⋯ + ξC^{(k)}ξ^{∗} = ξ(C^{(1)} + ⋯ + C^{(k)})ξ^{∗}  (5)

azonosság alakjában írható, ahol I az identitás mátrixot jelöli, és a fenti azonosság egy valószínűséggel teljesül. Ez viszont csak úgy lehetséges, ha

xIx^{∗} = x(C^{(1)} + ⋯ + C^{(k)})x^{∗}  (6)

minden x ∈ E_{n} vektorra, ahonnan I = C^{(1)} + ⋯ + C^{(k)}, és a C^{(j)}, 1 ≤ j ≤ k, mátrixok által meghatározott Q_{j} szimmetrikus operátorok az E_{n} térben teljesítik a (3) relációt. Valóban a T: (Ω, A, P) → E_{n}, T (ω) = (ξ_{1}(ω), …, ξ_{n}(ω)), transzformáció abból a valószínűségi mezőből ahol a ξ_{k}, 1 ≤ k ≤ n, valószínűségi változók definiálva vannak az E_{n} Euklideszi térbe, és azon a (2π)^{−n/2} exp{−(x_{1}^{2} + ⋯ + x_{n}^{2})/2} dx_{1} … dx_{n} mértékkel mértéktartó leképezés. Ezért az (5) azonosságból következik, hogy a (6) azonosság érvényes majdnem minden x = (x^{(1)}, …, x^{(n)}) ∈ E_{n} pontban a standard normális vagy a Lebesque mérték szerint. Ez viszont csak úgy lehetséges, ha a (6) azonosság minden x ∈ R^{n} vektorra igaz, tehát I = Q_{1} + ⋯ + Q_{n}.

Továbbá, ha a (2) formula érvényes egyenlőséggel, akkor a (4) formula is érvényes egyenlőséggel. Tehát a Cochran–Fisher tétel feltételeinek teljesülése esetén a Q_{j}, 1 ≤ j ≤ k, operátorokra teljesülnek az Euklideszi térbeli identitás transzformáció felbontásáról szóló tétel feltételei. Ezért e tétel alapján a Q_{j} operátorok egymásra merőleges projekciók.

Azt a tényt, hogy a Q_{j} operátorok egymásra merőleges projekciók felírom számunkra hasznosabb alakban.

Vezessük be az S_{0} = 0 és S_{j} = ∑_{l=1}^{j} rang (Q_{l}), 1 ≤ j ≤ k, számokat, és jelölje B_{j}, a Q_{j} operátor képterét. Válasszunk u_{s} = (u_{s,1}, …, u_{s,n}) ∈ E_{n}, 1 ≤ s ≤ n, egységvektorokat úgy, hogy az S_{j−1} < s ≤ S_{j} indexekre, 1 ≤ j ≤ k, u_{s} ∈ B_{j}, és az u_{s}, S_{j−1} < s ≤ S_{j}, vektorok merőlegesek egymásra. Ez lehetséges. Ekkor a Q_{j} projekciók merőlegessége miatt az u_{s}, 1 ≤ s ≤ n vektorok egy ortonormált bázist alkotnak az E_{n} térben, és az u_{s} vektorok koordinátáiból álló U = (u_{s,t}), 1 ≤ s, t ≤ n, mátrix ortogononális. Jelölje I_{j} = (a_{s,t}^{(j)}), 1 ≤ s, t ≤ n, azt a diagonális mátrixot, amelyre a_{s,s}^{(j)} = 1, ha S_{j−1} < s ≤ S_{j}, és a_{s,t}^{(j)} = 0 egyébként. Azt állítom, hogy

Q_{j} = U^{∗}I_{j}U minden 1 ≤ j ≤ k indexre.  (7)

Ehhez elegendő belátni, hogy u_{s}Q_{j}u_{t}^{∗} = u_{s}U^{∗}I_{j}Uu_{t}^{∗} minden 1 ≤ s, t ≤ n és 1 ≤ j ≤ k indexre, ahol u_{s}, 1 ≤ s ≤ n, az előbb konstruált ortonormált bázis az E_{n} Euklideszi térben. Viszont u_{s}Q_{j}u_{t}^{∗} = 1, ha s = t, és S_{j−1} < s ≤ S_{j}, és u_{s}Q_{j}u_{t}^{∗} = 0 egyébként az u_{s} vektorok definiciója miatt. Másrészt, mivel U ortogonális transzformáció ezért U^{∗} = U^{−1}, ahonnan az U mátrix definiciója miatt u_{s}U^{∗} = e_{s} minden 1 ≤ s ≤ n indexre, ahol e_{s} az a vektor, amelyiknek az s-ik koordinátája 1, és az összes többi koordinátája 0. Innen az is következik, hogy Uu_{t}^{∗} = e_{t}^{∗}, és u_{s}U^{∗}I_{j}Uu_{t}^{∗} = e_{s}I_{j}e_{t}^{∗}. Viszont e_{s}I_{j}e_{t}^{∗} = 1, ha s = t, és S_{j−1} < s ≤ S_{j}, és e_{s}I_{j}e_{t}^{∗} = 0 egyébként. A fenti relációkból következik az (7) állítás.

Bebizonyítom az (7) formula segítségével a Cochran–Fisher tételt. Ennek érdekében definiáljuk az η = (η_{1}, …, η_{n}) = ξU^{∗} = (ξ_{1}, …, ξ_{n})U^{∗} vektort. Ekkor η n-dimenziós normális eloszású vektor, amelynek koordinátái korrelátlanok és 1 szórásúak, ezért független standard normális eloszlású valószínűségi változók. Másrészt az (7) formula alapján

Q_{j}(ξ_{1}, …, ξ_{n}) = ξQ_{j}ξ^{∗} = ξU^{∗}I_{j}Uξ^{∗} = ηI_{j}η^{∗} = ∑_{s=S_{j−1}+1}^{S_{j}}η_{s}^{2} minden 1 ≤ j ≤ k indexre.

Ezzel a Q_{j} = Q_{j}(ξ_{1}, …, ξ_{n}) kifejezéseknek megtaláltuk a kívánt Q_{j} = ∑_{s=1}^{r_{j}} ζ_{j,s}^{2}, 1 ≤ j ≤

k, alakú előállítását, ahol ζ_{j,1}, …, ζ_{j,r_{j}}, r_{j} = rang (Q_{j}), 1 ≤ j ≤ k, független standard normális eloszlású valószínűségi változók. Egyszerűen, legyen ζ_{j,s} = η_{S_{j−1}+s} minden 1 ≤ j ≤ k, 1 ≤ s ≤ r_{j} indexre. Végül vegyük észre. hogy

∑_{j=1}^{k} Q_{j}(ξ_{1}, …, ξ_{n}) = ∑_{j=1}^{k} ∑_{s=1}^{r_{j}} ζ_{j,s}^{2} = ∑_{s=1}^{n} η_{s}^{2} = (η, η) = ξU^{∗}Uξ^{∗} = ∑_{s=1}^{n} ξ_{s}^{2} = Q(ξ_{1}, …, ξ_{n}).

Egy Euklideszi térbeli identitás transzformáció felbontásáról szóló tétel bizonyítása. Tekintsük minden 1 ≤ j ≤ k indexre a Q_{j} leképezés képterének egy r_{j} = rang (Q_{j}) elemből

álló e_{j,1}, …, e_{j,r_{j}} bázisát. Ha a ∑_{j=1}^{k} r_{j} < n reláció teljesülne, akkor létezne olyan e ∈ E_{n}

nem zéró vektor, amelyre (e, e_{j,s}) = 0 minden 1 ≤ j ≤ k, 1 ≤ s ≤ r_{j} indexre. Egy ilyen e vektorra a (e, Q_{j}e) = 0 azonosság teljesül minden 1 ≤ j ≤ k indexre. Ez viszont

ellentmond a (3) azonosságnak, mivel innen azt kapjuk, hogy 0 < (e, Ie) = ∑_{j=1}^{k}(e, Q_{j}e) =

0, ami ellentmondás.

Ha a ∑_{j=1}^{k} r_{j} = n azonosság érvényes, akkor tekintsük a Q_{j} leképezések képterének

egy e_{j,1}, …,e_{j,r_{j}} bázisát minden 1 ≤ j ≤ k indexre. Vegyük e vektorok közül az e_{j,s}, 1 ≤ j ≤ k − 1, alakúakat, és vezessük be e vektorok által generált B alteret, valamint annak C ortogonális kiegészítő alterét az E_{n} Euklideszi térben. Azt állítom, hogy a C altér dimenziója r_{k}. Valóban, ha tekintjük az összes e_{j,1}, …, e_{j,r_{j}}, 1 ≤ j ≤ k, alakú vektort, akkor ezek egy n elemű generátor rendszert, ezért bázist alkotnak az E_{n} térben. Ezért az e_{j,1}, …, e_{j,r_{j}}, 1 ≤ j ≤ k − 1, alakú vektorok lineárisan függetlenek, így az általuk generált B altér n − r_{k}, és annak C ortogonális kiegészítője r_{k} dimenziós.

Mivel mind a Q_{k} mátrix rangja, mind a C altér dimenzója r_{k}, és Q_{j}x = 0, ha

1 ≤ j ≤ k − 1, és x ∈ C, ezért Q_{k}x = x − ∑_{j=1}^{k−1} Q_{j}x = x, ha x ∈ C, továbbá Q_{k}x ∈ C

minden x ∈ R^{n} vektorra, tehát speciálisan akkor is, ha x ∈ B. Azt állítom, hogy ebből következik, hogy Q_{k}x = 0 x ∈ B esetén. Valóban, ha egy x ∈ B vektorra Q_{k}x = y lenne valamely y ≠ 0 (és y ∈ C) vektorral, akkor a Q_{k} mátrix szimmetrikus tulajdonsága miatt (y, y) = (Q_{k}x, y) = (x, Q_{k}y) = (x, y) = 0 lenne. (A számolás utolsó lépésében kihasználtam, hogy x ∈ B és y ∈ C, ezért az x és y vektorok merőlegesek egymásra.)

Innen következik, hogy a Q_{k} operátor megegyezik a C altérre való ortogonális vetítéssel. Hasonlóan bizonyítható, hogy az összes Q_{j}, 1 ≤ j ≤ k, operátor egy r_{j} dimenziós projekció. Továbbá, mivel Q_{j}x ∈ B minden x ∈ E_{n} vektorra, ha 1 ≤ j ≤ k − 1, és Q_{k}y ∈ C minden y ∈ E_{n} vektorra, ezért (Q_{j}x, Q_{k}y) = 0. Ez azt jelenti, hogy a Q_{k} projekció merőleges minden Q_{j}, j ≠ k projekcióra. Hasonlóan látható a többi projekció ortogonalitása is. A tételt bebizonyítottuk.

A következő tételben megfogalmazok és bebizonyítok néhány további a variancia analízisben hasznos állítást.

Tétel normális eloszlású véletlen vektorok kvadratikus alakjainak néhány hasznos tulajdonságáról. Legyen adva egy n-dimenziós X = (X_{1}, …, X_{n}) standard normális eloszlású valószínűségi változó.

a.) Tekintsünk egy A szimmetrikus n×n-es mátrixot. Az XAX^{∗} kifejezés akkor és csak akkor χ-négyzet eloszlású valószínűségi változó, ha teljesül az A^{2} = A azonosság, azaz A projekció. Ha ez a feltétel teljesül, akkor XAX eloszlása rang (A) szabadságfokú χ-négyzet eloszlás.

b.) Ha A és B két szimmetrikus mátrix, amelyre A^{2} = A, B^{2} = B, és AB = 0, akkor az XAX^{∗} és XBX^{∗} valószínűségi változók függetlenek, és χ-négyzet eloszlásúak rang (A) és rang (B) szabadságfokkal.

c.) Ha Q, Q_{1}, Q_{2} szimmetrikus n × n méretű mátrixok, XQX^{∗} és XQ_{1}X^{∗} χ-négyzet eloszlású valószínűségi változók, Q = Q_{1} + Q_{2}, és Q_{2} pozitív szemidefinit mátrix, akkor XQ_{1}X^{∗} és XQ_{2}X^{∗} független χ-négyzet eloszlású valószínűségi változó.

A tétel bizonyítása. Ha az A szimmetrikus mátrix teljesíti az A^{2} = A feltételt, akkor projekció, és az XAX^{∗} kifejezést a főtengelytranszformáció segítségével felírhatjuk

∑_{j=1}^{rang (A)} Y_{j}^{2} alakban, ahol Y_{j}, 1 ≤ j ≤ rang (A) független, standard normális eloszlású

valószínűségi változók. Általános szimmetrikus A mátrix esetében az XAX^{∗} kifejezést

∑_{j=1}^{n} λ_{j}Y_{j}^{2} alakban írhatjuk a főtengelytranszformáció segítségével, ahol Y_{j}, 1 ≤ j ≤ n,

független, standard normális eloszlású valószínűségi változók, és λ_{1}, …, λ_{n} az A mátrix sajátértékei. Ez a kifejezés akkor és csak akkor χ-négyzet eloszlású, ha az összes λ_{j} sajátérték 0 vagy 1 értéket vesz fel. (Ez például az eloszlás karakterisztikus függvényének felírásából látszik.) Ez a tulajdonság viszont akkor és csak akkor teljesül, ha A projekció, azaz A^{2} = A.

A tétel b) pontjának bizonyításához elég azt észrevenni, hogy az adott feltételek mellett A és B két ortogonális projekció. Innen a Cochran–Fisher tétel bizonyításának alkalmazásával be lehet bizonyítani a b) pont állítását, de lehet a Cochran–Fisher tételt közvetlenül is alkalmazni az n-dimenziós E_{n} tér I identitás transzformációjának alkalmas I = C+B+A alakú reprezentációjának felhasználásával. Ebben a reprezentációban C az A+B projekció képterének az E_{n} tér n−rang (A)−rang (B) dimenziós ortogonális kiegészítésére vett projekció.

A tétel c) pontjának bizonyítása érdekében mutassuk meg először azt, hogy az adott feltételek mellett a Q projekció B képtere tartalmazza a Q_{1} projekció A képterét. Valóban, ha létezne egy x ∈ A \ B, x ≠ 0, vektor, akkor erre az x vektorra teljesülne a (Q_{2}x, x) = (Qx, x)−(Q_{1}x, x) = (y, x)−(x, x) = (y, y)−(x, x) < 0 egyenlőtlenség, ahol y az x vektornak (az x vektornál rövidebb) Qx vetülete a B altérre. Ez az egyenlőtlenség viszont ellentmond annak a feltételnek, hogy Q_{2} pozitív szemidefinit mátrix.

Abból, hogy a Q_{1} projekció képtere része a Q projekció képterének következik, hogy Q_{1} = Q_{1}Q = QQ_{1}, ezért Q_{2}^{2} = (Q − Q_{1})^{2} = Q + Q_{1} − 2Q_{1} = Q − Q_{1} = Q_{2}, és Q_{1}Q_{2} = Q_{1}(Q − Q_{1}) = 0. Ez azt jelenti, hogy Q_{1} és Q_{2} ortogonális projekciók, és a b) rész állításából következik a c) rész állítása.

A Cochran–Fisher tétel egy alkalmazásaként megmutatom, hogy hogyan következik ebből az eredményből és a többváltozós centrális határeloszlástételből a matematikai statisztika egyik fontos határeloszlástétele, amely a χ-négyzet módszer alapjául szolgál. A következő eredmény bizonyítását fogom ismertetni.

Egy χ-négyzet határeloszlástétel. Legyen adva r darab urna, és dobjunk ezekbe egymástól függetlenül n darab golyót egymástól függetlenül úgy, hogy mindegyik golyó p_{j}

valószínűséggel esik a j-ik urnába, ahol p_{j} ≥ 0, j = 1, …, r, ∑_{j=1}^{r} p_{j} = 1 előírt számok.

Jelölje ν_{n}(j), 1 ≤ j ≤ r, a j-ik urnába eső golyók számát. Ekkor a ∑_{j=1}^{r} \frac{(ν_{n}(j)−np_{j})^{2}}{np_{j}}

valószínűségi változók eloszlásban konvergálnak az r − 1 szabadságfokú χ-négyzet eloszláshoz, ha n → ∞.

E tételt a Cochran–Fisher tételből és a többváltozós centrális határeloszlástétel alábbi következményéből fogjuk levezetni.

A többváltozós centrális határeloszlástétel egy következménye. Tekintsük az előbb megfogalmazott χ-négyzet határeloszlástételben leírt modellt és az abban definiált ν_{n}(j), 1 ≤ j ≤ r, valószínűségi változókat. Az \frac{1}{\sqrt{n}}(ν_{n}(1) − np_{1}, …, ν_{n}(r) − np_{r}) véletlen vektorok eloszlásban konvergálnak egy olyan normális eloszlású (Z_{1}, …, Z_{r}) véletlen vektorhoz, amelyre EZ_{j} = 0, EZ_{j}^{2} = p_{j}(1 − p_{j}), 1 ≤ j ≤ r, és EZ_{i}Z_{j} = −p_{i}p_{j}, 1 ≤ i < j ≤ r, ha n → ∞.

Az előbb megfogalmazott χ-négyzet határeloszlástétel következik a fenti határeloszlástételből és abból az állításból, hogy egy olyan normális eloszlású (Z_{1}, …, Z_{r}) véletlen vektorra, amelyre EZ_{j} = 0, EZ_{j}^{2} = p_{j}(1 − p_{j}), 1 ≤ j ≤ r, és EZ_{i}Z_{j} = −p_{i}p_{j}, ha

1 ≤ i < j ≤ r, a ∑_{j=1}^{r} \frac{Z_{j}^{2}}{p_{j}} valószínűségi változó χ-négyzet eloszlású r − 1 szabadságfokkal.

Ez utóbbi állítás a Cochran–Fisher tételből és egy a (Z_{1}, …, Z_{r}) véletlen vektorral megegyező eloszlású véletlen vektor alább ismertetett konstrukciójából következik.

Alkalmas kovarianciájú véletlen normális vektorok konstrukciója. Legyenek adva Y_{1}, …, Y_{n} független, standard normális valószínűségi változók és olyan pozitív p_{j},

1 ≤ j ≤ r, valós számok, amelyekre ∑_{j=1}^{r} p_{j} = 1. Definiáljuk az

U = \sqrt{p}_{1}Y_{1} + \sqrt{p_{2}}Y_{2} + ⋯ + \sqrt{p_{r}}Y_{r}

és

Z_{j} = \sqrt{p_{j}}Y_{j} − p_{j}U, 1 ≤ j ≤ r,

valószínűségi változókat. Ekkor EZ_{j} = 0, EZ_{j}^{2} = p_{j}(1 − p_{j}), és EZ_{i}Z_{j} = −p_{i}p_{j}, ha 1 ≤ i < j ≤ r. Ezenkívül teljesül a

∑_{j=1}^{r} \frac{Z_{j}^{2}}{p_{j}} + U^{2} = ∑_{j=1}^{r} Y_{j}^{2}  (8)

és ∑_{j=1}^{r} Z_{j} = 0 azonosság.

A fenti eredményből és a Cochran–Fisher tételből következik az, hogy az előbb

felírt ∑_{j=1}^{r} \frac{Z_{j}^{2}}{p_{j}} összeg χ-négyzet eloszlású r − 1 szabadságfokkal. Valóban, a (8) összegben

szereplő ∑_{j=1}^{r} \frac{Z_{j}^{2}}{p_{j}} kifejezés a független standard normális eloszlású Y_{1}, …, Y_{r} valószínűségi

változók kvadratikus kifejezése, amelynek rangja a ∑_{j=1}^{r} Z_{j} = 0 azonosság miatt legfeljebb

r − 1. Ez a rang legfeljebb r − 1, mert az előbb említett azonosságból következik, hogy (Z_{1}, …, Z_{r}) = (Y_{1}, …, Y_{r})D egy olyan D mátrix-szal, amelynek rangja kisebb vagy egyenlő, mint r − 1. Ezért a a Z = (Z_{1}, …, Z_{r}) vektor által definiált tetszőleges ZBZ^{∗} kvadratikus alak ZBZ^{∗} = Y DBD^{∗}Y^{∗} alakban írható, ahol Y = (Y_{1}, …, Y_{r}), és rang (DBD^{∗}) ≤ rang (D) ≤ r − 1. Ezenkívül U^{2} egy olyan kvadratikus kifejezése az Y_{1}, …, Y_{r} valószínűségi változóknak, amelynek rangja 1. Ezért a (8) azonosságból

és a Cochran–Fisher tételből következik, hogy a ∑_{j=1}^{r} \frac{Z_{j}^{2}}{p_{j}} kifejezés r − 1 szabadságfokú

χ-négyzet eloszlású valószínűségi változó. (Ezenkívül azt is tudjuk, hogy ez független az U^{2} valószínűségi változótól. Sőt a Z_{j}, 1 ≤ j ≤ r, valószínűségi változók függetlenek az U valószínűségi változótól. De erre a tényre nincs szükségünk).

Felmerülhet a kérdés, hogy hogyan találhatjuk meg a (Z_{1}, …, Z_{r}) véletlen vektor fenti, számunkra hasznos reprezentációját természetes módon. Ezt magyarázom el a következő megjegyzésben.

Megjegyzés. Tekintsünk egy B(t), 0 ≤ t ≤ 1, Brown bridge-t, és vezessük be az t_{0} = 0,

t_{j} = ∑_{l=1}^{j} p_{l}, 1 ≤ j ≤ r, számokat. E mennyiségek segítségével a keresett eloszlású

(Z_{1}, …, Z_{r}) vektort Z_{j} = B(t_{j}) − B(t_{j−1}), 1 ≤ j ≤ r, alakban állíthatjuk elő. Legyen adva a B(t) Brown bridge-nek egy B(t) = W (t)−tW (1), 0 ≤ t ≤ 1, alakú előállítása egy W (t), 0 ≤ t ≤ 1, Wiener folyamat segítségével. Ekkor bevezetve az Y_{j} = p_{j}^{−1/2}(W (t_{j}) − W (t_{j−1})), 1 ≤ j ≤ r, független, standard normális eloszlású valószínűségi változókat,

felírhatjuk az U = W (1) = ∑_{j=1}^{r} \sqrt{p_{j}}Y_{j} és Z_{j} = \sqrt{p_{j}}Y_{j} − p_{j}U, 1 ≤ j ≤ r azonosságokat.

Ezt az eljárást követtük a fenti konstrukcióban.

Az alkalmas kovarianciájú véletlen normális vektorok konstrukciójában megfogalmazott eredmények bizonyítása. Az EZ_{j} = 0, 1 ≤ j ≤ r, reláció nyilvánvaló.

EZ_{j}^{2} = (p_{j}^{1/2} − p_{j}^{3/2})^{2}EY_{j}^{2} + ∑_{l: 1≤l≤r, l≠j} p_{j}^{2}p_{l}EY_{l}^{2}

= p_{j}(1 − p_{j})^{2} + ∑_{l: 1≤l≤r, l≠j} p_{j}^{2}p_{l} = p_{j}(1 − p_{j})^{2} + (1 − p_{j})p_{j}^{2} = p_{j}(1 − p_{j}),

EZ_{i}Z_{j} = p_{i}p_{j} ∑_{l: 1≤l≤r, l≠i,j} p_{l} − p_{i}p_{j}(1 − p_{i})EY_{i}^{2} − p_{i}p_{j}(1 − p_{j})EY_{j}^{2}
= p_{i}p_{j}(1 − p_{i} − p_{j}) − p_{i}p_{j}(2 − p_{i} − p_{j}) = −p_{i}p_{j},

ha i ≠ j, és

∑_{j=1}^{r} \frac{Z_{j}^{2}}{p_{j}} + U^{2} = ∑_{j=1}^{r}(Y_{j} − \sqrt{p_{j}}U)^{2} + U^{2} = ∑_{j=1}^{r} Y_{j}^{2} + ∑_{j=1}^{r} p_{j}U^{2} − 2U ∑_{j=1}^{r} \sqrt{p_{j}}Y_{j} + U^{2}

= ∑_{j=1}^{r} Y_{j}^{2} + U^{2} − 2U^{2} + U^{2} = ∑_{j=1}^{r} Y_{j}^{2}.

Végül

∑_{j=1}^{r} Z_{j} = ∑_{j=1}^{r} \sqrt{p_{j}}Y_{j} − ∑_{j=1}^{r} p_{j}U = U − U = 0.

A kívánt eredményeket bebizonyítottuk.