A Valószínűségszámítás II. előadássorozat negyedik témája.

A TÖBBVÁLTOZÓS CENTRÁLIS HATÁRELOSZLÁSTÉTEL

A centrális határeloszlás sok független valószínűségi változó összegének az aszimptotikus eloszlását írja le. Bizonyos kérdések vizsgálatában szükségünk van ennek az eredménynek egy olyan általánosabb változatára, amely független, vektor értékű valószínűségi változók összegének az aszimptotikus eloszlását adja meg. A centrális határeloszlástételnek létezik ilyen általánosítása, és ezt hívják többváltozós centrális határeloszlástételnek. Következő témánk ennek az eredménynek a tárgyalása.

A többváltozós centrális határeloszlástétel megértése érdekében először meg kell ismernünk a több-dimenziós normális eloszlás definicióját és annak néhány fontos tulajdonságát. Ugyanis a többváltozós centrális határeloszlástételekben a több-dimenziós normális eloszlások jelennek meg, mint határeloszlások. Annak érdekében, hogy ezeket az eloszlásokat jól megértsük, be kell vezetni a valószínűségi változók várható értékének és szórásnégyzetének természetes megfelelőjét vektor értékű valószínűségi változók esetére. Ez a a vektor értékű valószínűségi változók várható értékének és kovariancia mátrixának a bevezetését jelenti. Ezenkívül fel kell eleveníteni a lineáris algebra néhány eredményének az ismeretét.

Mielőtt a többváltozós centrális határeloszlástétel tárgyalását elkezdenénk, lássunk két olyan problémát, amelyek vizsgálatában ez az eredmény hasznosnak bizonyult.

a.) Tekintsünk egy dobókockát. Feldobjuk sokszor, felírjuk a dobások eredményét, és ennek alapján akarjuk eldönteni, hogy a dobókocka szabályos-e. Természetes azt várni, hogy a dobókocka akkor szabályos, ha mindegyik dobáseredmény előfordulásának a száma a dobásszámok egyhatoda plusz egy kis eltérés. De mekkora eltéréseket tekinthetünk kicsinek? Ha csak azt nézzük, hogy mennyi annak a valószínűsége, hogy például a hatos dobások számának eltérése a dobások számának egyhatodától kisebb mint egy adott szám, akkor a centrális határeloszlástétel pontos leírást ad erre a problémára. De ha a különböző dobáseredmények együttes viselkedésére vagyunk kiváncsiak, akkor új eredményre van szükségünk.

b.) Legyenek ξ_{1}, …, ξ_{n} független, a [−\frac{1}{2}, \frac{1}{2}] intervallumban egyenletes eloszlású való-

színűségi változók. Ekkor a ∑_{j=1}^{n} ξ_{j} összeg normalizáltjának az eloszlására jó leírást

ad a centrális határeloszlástétel. Hasonló állítást mondhatunk a ∑_{j=1}^{n} ξ_{j}^{2} összeg nor-

malizáltjának az eloszlására. De tudunk-e hasonló eredményt adni a ∑_{j=1}^{n} ξ_{j} és ∑_{j=1}^{n} ξ_{j}^{2}

összegek normalizáltjának az együttes eloszlására?

Annak érdekében, hogy lássuk, hogyan lehet ezeket a kérdéseket vizsgálni a centrális határeloszlástétel alkalmas több-dimenziós megfelelőjének, azaz a többváltozós centrális határeloszlástételnek a segítségével bevezetek be néhány jelölést.

Legyenek ξ^{(j)} = (ξ_{1}^{(j)}, …, ξ_{k}^{(j)}), j = 1, 2, …, független, egyforma eloszlású kdimenziós valószínűségi változók, (véletlen vektorok), ahol rögzített j indexre semmilyen (függetlenség jellegű) feltételt nem teszünk fel az ξ_{1}^{(j)}, …, ξ_{k}^{(j)} valószínűségi változók

együttes eloszlására. Tegyük fel továbbá, hogy Eξ_{s}^{(j)}^{2} < ∞ minden 1 ≤ s ≤ k indexre.

Tekintsük az S_{n} = (S_{n,1}, …, S_{n,k}) = ∑_{j=1}^{n} ξ^{(j)} = ( ∑_{j=1}^{n} ξ_{1}^{(j)}, …, ∑_{j=1}^{n} ξ_{k}^{(j)}), n = 1, 2, …,

véletlen összegeket. Be akarjuk látni, hogy az S_{n} véletlen vektorok alkalmas normalizáltjának létezik határeloszlása, és a határeloszlást pontosan le akarjuk írni. Látni fogjuk, hogy ez lehetséges. A határeloszlástételben megjelenő határeloszlásokat fogjuk több-dimenziós normális eloszlásoknak nevezni.

A teljesség kedvéért fölidézem, hogy itt és a továbbiakban vektor értékű valószínűségi változók függetlenségének alábbi, a bevezető valószínűségszámítás előadásban bevezetett definicióját használjuk.

Vektorértékű valószínűségi változók függetlenségének a definiciója. Legyenek ξ^{(1)} = (ξ_{1}^{(1)}, …, ξ_{k}^{(1)}), …, ξ^{(n)} = (ξ_{1}^{(n)}, …, ξ_{k}^{(n)}), értékeiket az R^{k} k-dimenziós Euklideszi térben felvevő valószínűségi változók (vektorok) egy (Ω, A, P) valószínűségi mezőn. Azt mondjuk, hogy ezek a valószínűségi vektorok függetlenek, ha minden x^{(1)} = (x_{1}^{(1)}, …, x_{k}^{(1)}), …, x^{(n)} = (x_{1}^{(n)}, …, x_{k}^{(n)}) k-dimenziós vektorra

P (ξ_{1}^{(1)} < x_{1}^{(1)}, …, ξ_{k}^{(1)} < x_{k}^{(1)}, …, ξ_{1}^{(n)} < x_{1}^{(n)}, …, ξ_{k}^{(n)} < x_{k}^{(n)})

= P (ξ_{1}^{(1)} < x_{1}^{(1)}, …, ξ_{k}^{(1)} < x_{k}^{(1)}) ⋯ P (ξ_{1}^{(n)} < x_{1}^{(n)}, …, ξ_{k}^{(n)} < x_{k}^{(n)}) .

Lássuk, hogyan lehet tárgyalni az előbb megfogalmazott két problémát egy független, vektor értékű valószínűségi változók normalizált összegeinek határeloszlását leíró eredmény segítségével. Az a) feladat vizsgálatának érdekében vezessük be a következő vektor értékű ξ^{(j)} valószínűségi változókat: Ha a dobókockát n alkalommal dobjuk fel, akkor legyen ξ^{(j)}, 1 ≤ j ≤ n, a következő 6-dimenziós valószínűségi változó: A ξ^{(j)} valószínűségi változó l-ik koordinátája 1, ha a j-ik dobás értéke l, 1 ≤ l ≤ 6, és legyen a ξ^{(j)} véletlen vektor összes többi koordinátája nulla. Ekkor a ξ^{(j)} valószínűségi változók függetlenek. (Az egyes ξ^{(j)} valószínűségi változók koordinátái ebben a példában nem

függetlenek.) Továbbá az S_{n} = ∑_{j=1}^{n} ξ^{(j)} összeg l-ik koordinátája egyenlő az l értékű

dobások számával minden 1 ≤ l ≤ 6 index esetén. Ezért egy az S_{n} véletlen összeg aszimptotikus viselkedését nagy n számokra leíró határeloszlástétel hasznos lehet a számunkra. Egy ilyen eredményből következik, hogy az S_{n} véletlen összegek alkalmas normalizáltjai eloszlásban konvergálnak egy explicit módon megadott eloszlásfüggvényhez. Megjegyzem, hogy a többváltozós centrális határeloszlástétel tárgyalása érdekében az eloszlásban való konvergenciának egy a többdimenziós valószínűségi változók esetében is érvényes definicóját vezettük be.

Bár a többváltozós határeloszlás fogalmát tanultuk, mégis érdemes néhány e fogalommal kapcsolatos eddig nem tárgyalt kérdést megvizsgálni. Természetes az a) feladat megoldásában a véletlen S_{n} vektorból az (\frac{n}{6}, …, \frac{n}{6}) vektort kivonni, és ennek a 6-változós különbségvektornak a hosszát tekinteni (az Euklideszi távolságfogalom szerint). Ha a dobókocka szabályos volt, akkor azt várjuk, hogy e véletlen vektor hossza viszonylag kicsi. Felmerül a kérdés, hogy van-e e véletlen vektor alkalmas normalizáltjának határeloszlása, és következik-e egy ilyen eredmény a több-dimenziós centrális határeloszlástételből. Be fogjuk látni, hogy erre a kérdésre igenlő a válasz. De ez az állítás indoklásra szorul. Ugyanis a több-dimenziós eloszlások konvergenciájanak a definiciója annak eredeti alakjában csak nagyon speciális halmazok valószínűségének a konvergenciáját írja elő.

A b) példában megfogalmazott kérdést hasonlóan tárgyalhatjuk az a) példához. Itt

olyan η_{j} = (ξ_{j}, ξ_{j}^{2}), 1 ≤ j ≤ n, két-dimenziós független vektorok S_{n} = ∑_{j=1}^{n} η_{j} összegét

vizsgáljuk, amelyekre ξ_{1}, …, ξ_{n} független, a [−\frac{1}{2}, \frac{1}{2}] intervallumban egyenletes eloszlású valószínűségi változók. A többváltozós centrális határeloszlástétel segítségével leírható az ilyen véletlen vektorok normalizáltjainak a határeloszlása.

Ismertetni fogom a centrális határeloszlástétel természetes megfelelőjét abban az esetben, ha független és egyforma eloszlású véletlen vektorok alkalmasan normalizált összegének a viselkedését vizsgáljuk. Ennek érdekében bevezetem a határeloszlásban megjelenő normális eloszlás több-dimenziós megfelelőjét, amit több-dimenziós normális eloszlásnak fogok nevezni. De ehhez előbb definiálni kell a várható érték és szórásnégyzet fogalmának a több-dimenziós megfelelőjét. Ezenkívül meg kell érteni, hogy a várható érték és szórásnégyzet tulajdonságai hogyan öröklődnek a több-dimenziós esetben. Az egy-dimenziós esetben definiált várható értéknek megfelelő több-dimenziós várható érték (vektor) fogalmának és tulajdonságainak a megértése viszonylag egyszerű, de a szórásnégyzetnek megfelelő kovariancia mátrix tulajdonságainak jó megértése szükségessé teszi néhány a lineáris algebrában tanult fogalom és eredmény felelevenítését. Megjegyzem, hogy most és a továbbiakban is a több-dimenziós vektorokat mint sorvektorokat tekintem. Valójában mind a sor mind az oszlopvektor jelölés lehetséges. Egyik jelölés sem jobb a másiknál, és az irodalomban nem egységes a jelölés. A fontos az, hogy következetes jelölést alkalmazzunk.

Több-dimenziós valószínűségi változó várható értékének és kovariancia mátrixának a definiciója. Legyen Z = (Z_{1}, …, Z_{k}) k-dimenziós véletlen vektor, amelynek minden koordinátája teljesíti az EZ_{j}^{2} < ∞, 1 ≤ j ≤ k, feltételt. E véletlen vektor várható értéke az EZ = (EZ_{1}, …, EZ_{k}) k-dimenziós vektor, kovariancia mátrixa pedig az a D = (d_{j,l}), 1 ≤ j, l ≤ k, k × k méretű mátrix, mely mátrix j-ik sorában és l-ik oszlopában lévő elem a d_{j,l} = Cov (Z_{j}, Z_{l}) = EZ_{j}Z_{l} − EZ_{j}EZ_{l} szám.

Megfogalmazom a vektorértékű valószínűségi változók várható értékének és kovariancia mátrixának néhány fontos tulajdonságát. Ezek egyszerű következményei a valós szám értékű valószínűségi változók már tárgyalt tulajdonságainak, ezért bizonyításukat elhagyom.

Tétel vektor értékű valószínűségi változók várható értékének és kovariancia mátrixának tulajdonságairól. Legyenek Z^{(j)} = (Z_{1}^{(j)}, …, Z_{k}^{(j)}), 1 ≤ j ≤ n, véletlen

k-dimenziós vektorok ugyanazon az (Ω, A, P) valószínűségi mezőn. Ekkor a Z^{(1)} + ⋯ + Z^{(n)} összeg várható értéke megegyezik a Z^{(j)} vektorok várható értékeinek az összegével, azaz

E(Z^{(1)} + ⋯ + Z^{(n)}) = EZ^{(1)} + ⋯ + EZ^{(n)}.

Ha a Z^{(j)}, 1 ≤ j ≤ n, véletlen vektorok függetlenek, akkor a kovariancia mátrix is additív, azaz, ha a Z^{(j)} mátrix kovariancia mátrixa a D_{j} mátrix, 1 ≤ j ≤ n, akkor a Z^{(1)} +⋯+Z^{(n)} véletlen összeg kovariancia mátrixa a D_{1} +⋯+D_{n} mátrix. Ha egy Z = (Z_{1}, …, Z_{k}), véletlen vektor várható értéke M = (M_{1}, …, M_{k}), kovariancia mátrixa a D k ×k méretű mátrix, a tetszőleges valós szám, akkor az aZ = (aZ_{1}, …, aZ_{k}), véletlen vektor várható értéke aM, kovariancia mátrixa pedig az a^{2}D kovariancia mátrix. Legyen továbbá x = (x_{1}, …, x_{k}) tetszőleges k-dimenziós vektor. Ekkor E(Z + x) = EZ + x, a Z + x vektor kovariancia mátrixa pedig megegyezik a Z vektor kovariancia mátrixával.

A következő eredmény célja annak jellemzése, hogy milyen mátrix jelenhet meg, mint egy alkalmas véletlen vektor kovariancia mátrixa. Ennek az eredménynek az ismertetésében és bizonyításában fel kell használnunk a lineáris algebra néhány alapvető fogalmát és eredményét. Igyekszem az állításokat önmagukban is érthető módon leírni. Először felidézem a következő lineáris algebrai fogalmat.

Szimmetrikus és pozitív (szemi)definit mátrixok definiciója. Legyen D = (d_{j,l}) egy k × k méretű mátrix. Azt mondjuk, hogy a D mátrix szimmetrikus, ha minden 1 ≤ j, l ≤ k indexre d_{j,l} = d_{l,j}. Pontosabban azt követeljük meg, (ha nemcsak valós, hanem általános komplex értékű elemekkel rendelkező mátrixokat is tekintünk, hogy d_{j,l} = d̄_{l,j}, ahol z̄ a z komplex szám konjugáltja, azaz, ha z = a + ib, akkor z̄ = a − ib. (De ebben az előadásban csak valós elemű mátrixokkal fogunk dolgozni.) Egy k × k méretű szimmetrikus D = (d_{j,l}) mátrix pozitív (szemi)definit, ha minden x = (x_{1}, …, x_{k}) k-

dimenziós vektorra xDx^{∗} = ∑_{j=1}^{k} ∑_{l=1}^{k} x_{j}d_{j,l}x_{l} ≥ 0. (Ebben a formulában x^{∗} jelöli az x

vektor transzponáltját, azaz azt az oszlopvektort, amelynek fölülről számíva l-ik eleme megegyezik az x vektor balról számított l-ik elemének a komplex konjugáltjával. Ekkor xDx^{∗} a szokásos vektor-mátrix szorzást jelöli.

A D = (d_{i,j}) szimmetrikus mátrixot (szigorúan) pozitív definitnek nevezünk, ha

pozitív szemidefinit, és ráadásul az xDx^{∗} = ∑_{j=1}^{k} ∑_{l=1}^{k} x_{j}d_{j,l}x_{l} = 0 reláció csak abban a

triviális esetben teljesül, ha x_{1} = x_{2} = ⋯ = x_{k} = 0.

Az eredmények és fogalmak jobb megértése érdekében érdemes megadni a fenti koordinátarendszerfüggő definiciók koordinátarendszertől független ,,absztrakt” definicióját is, és megérteni a két definició kapcsolatát. Ennek leírását (a bizonyítások többségének elhagyásával) tartalmazza egy a múlt félévben kiosztott lineáris algebrai összefoglaló. Röviden megfogalmazom a legfontosabb fogalmakat és eredményeket.

A mátrixok úgy jelennek meg, mint lineáris transzformációk megadásai egy lineárisan független vektorokból álló koordinátarendszerben. Ha Euklideszi terekben, tehát olyan lineáris terekben dolgozunk, ahol van skalárszorzat, és ezért beszélhetünk egy vektor hosszáról és két vektor által bezárt szögről, akkor a lineáris transzformációkat egy ortonormált bázisban adjuk meg. Természetes az előbb bevezetett fogalmakat először lineáris transzformációkra definiálni, (ezt nevezem koordinátamentes definiciónak), és utána megvizsgálni azt, hogy ezek a fogalmak mit jelentenek a transzformációt megadó mátrixok nyelvén.

Az első definiálandó fogalom egy Euklideszi térben definiált A transzformáció adjungáltja. Egy valamely Euklideszi térben megadott A lineáris transzformáció adjungáltja az az A^{∗} lineáris transzformáció, amelyre teljesül az (xA, y) = (x, yA^{∗}) azonosság az Euklideszi tér minden x és y vektorára, ahol (·, ·) skalárszorzatot jelöl. Be lehet látni, hogy minden A lineáris transzformáció esetén egy és csak egy olyan A^{∗} lineáris transzformáció van, amely teljesíti ezt a feltételt. Ez azt jelenti, hogy a lineáris transzformáció, illetve a neki megfelelő mátrix adjungáltjának a definiciója értelmes. Megjegyzem, hogy egy mátrix adjungáltját csak Euklideszi (tehát nem tetszőleges lineáris) térben definiáltuk, mert e fogalom definiciójában felhasználtuk a skalárszorzat fogalmát. Ezután az önadjungált transzformáció fogalmának a megadása egyszerű. Egy A lineáris transzformáció (vagy a neki megfelelő mátrix) akkor és csak akkor önadjungált, ha A = A^{∗}. Egy A önadjungált mátrixot akkor nevezünk pozitív szemidefinitnek, ha (x, xA) ≥ 0 ez Euklideszi tér minden x vektorára, és akkor nevezünk (szigorúan) pozitív definitnek, ha egyrészt teljesül a fenti egyenlőtlenség, másrészt az (x, xA) = 0 azonosság csak a triviális x = 0 esetben áll fenn.

Be lehet látni, hogy ha egy A transzformáció mátrixát felírjuk egy tetszőleges ortonormált bázisban, akkor a transzformáció adjungáltjának a mátrixát a Szimmetrikus és pozitív (szemi)definit mátrixok definiciójában megadott módon számíthatjuk ki. Fontos megérteni, hogy ez az állítás azt is jelenti, hogy ha egy A lineáris transzformáció mátrixának az adjungáltját a lineáris transzformáció mátrixának az adjungáltja segítségével számoljuk ki, akkor az így kapott A^{∗} adjungált transzformáció értéke nem függ attól, hogy melyik ortonormált bázisban dolgozunk. Azt, hogy egy önadjungált A lineáris transzormáció pozitív szemidefinit a transzformáció (egy ortonormált bázisban felírt) A mátrixával úgy jellemezhető, hogy xAx^{∗} ≥ 0, ahol x tetszőleges szám-n-es, és x^{∗} annak transzponáltja. Felírom egy transzformáció adjungáltjának legfontosabb tulajdonságait: (A + B)^{∗} = A^{∗} + B^{∗}, (cA)^{∗} = c̄A^{∗}, (A^{∗})^{∗} = A, (AB)^{∗} = B^{∗}A^{∗}.

A lineáris transzformációk és mátrixok legfontosabb tulajdonságainak felsorolása után megfogalmazok egy fontos eredményt, amely megadja a kovariancia mátrixok jellemzését. Ennek bizonyításában felhasználok egy nem triviális lineáris algebrai eredményt is.

Tétel kovariancia mátrixok jellemzéséről. Legyen Z = (Z_{1}, …, Z_{k}) egy k-dimenzi-ós véletlen vektor. Ekkor a Z vektor kovariancia mátrixa szimmetrikus és pozitív szemidefinit mátrix. Megfordítva, tetszőleges D szimmetrikus, pozitív szemidefinit mátrixhoz létezik olyan Z = (Z_{1}, …, Z_{k}) véletlen vektor, amelynek ez a D mátrix a kovariancia mátrixa. Sőt igaz a következő tartalmasabb állítás is: Legyen Y = (Y_{1}, …, Y_{k}) olyan véletlen vektor, amelynek a kovariancia mátrixa az identitás mátrix, azaz Var Y_{j} = 1, 1 ≤ j ≤ k, Cov (Y_{j}, Y_{l}) = 0, ha 1 ≤ j, l ≤ k, és j ≠ l. (Ez a helyzet például akkor, ha az Y_{j}, 1 ≤ j ≤ k valószínűségi változók függetlenek, és Var Y_{j} = 1.) Ekkor létezik olyan A = (a_{j,l}) k×k méretű mátrix, amelyre igaz, hogy a Z = (Z_{1}, …, Z_{k}) = (Y_{1}, …, Y_{k})A =

( ∑_{p=1}^{k} a_{1,p}Y_{p}, …, ∑_{p=1}^{k} a_{k,p}Y_{p}) véletlen vektor kovariancia mátrixa a D mátrix.

Igaz továbbá a következő állítás is. Egy Z = (Z_{1}, …, Z_{k}) véletlen vektor kovariancia mátrixa akkor és csak akkor (szigorúan) pozitív definit, ha e vektor koordinátái között

nincs lineáris összefüggés, azaz ha x_{1}, …, x_{k} valós számokra ∑_{j=1}^{k} x_{j}Z_{j} = K valamilyen

K (determinisztikus) valós számra egy valószínűséggel, akkor x_{1} = ⋯ = x_{k} = 0.

Megjegyzés: Ez az állítás annak a valószínűségi változókról szóló egyszerű eredménynek több-dimenziós megfelelője, amely szerint egy valószínűségi változó szórásnégyzete nem negatív szám. Továbbá egy valószínűségi változó szórásnégyzete akkor és csak akkor szigorúan pozitív, ha ez a valószínűségi változó nem egyenlő egy konstanssal egy valószínűséggel. Ennek a ténynek a megfelelője a tétel végén kimondott állítás, amely szerint egy véletlen vektor kovariancia mátrixa pozitív definit, ha nincs a véletlen vektor koordinátáinak olyan lineáris kombinációja, amelyik egy valószínűséggel megegyezik egy számmal. Ugyanis a nem negatív számoknak a pozitív szemidefinit mátrixok, a pozitív számoknak pedig a pozitív definit mátrixok a természetes megfelelői az Euklideszi terekben. A tétel bizonyítása egy alább megfogalmazandó nem triviális lineáris algebrai eredményen alapul, amely szerint minden pozitív szemidefinit mátrix felírható, mint egy alkalmas mátrix négyzete. Ez az állítás annnak a ténynek a megfelelője Euklideszi terekben, amely szerint pozitív számokból lehet négyzetgyököt vonni. Megjegyzem, hogy a pozitív szemidefinit mátrixokból vont négyzetgyök nem egyértelműen meghatározott, mint ahogy a valós számok között is csak akkor egyértelmű a gyökvonás, ha csak a pozitív gyököt tekintjük.

Tétel a lineáris algebrából. Legyen D pozitív szemidefinit mátrix. Ekkor létezik olyan A mátrix, amelyre érvényes a D = A^{∗}A azonosság, ahol A^{∗} az A mátrix transzponáltját jelöli. Sőt, olyan A mátrixot is választhatunk, amelyre az A mátrix önadjungált, pozitív szemidefinit, és D = A^{2}. Eme megszorítás esetén az D = A^{∗}A = A^{2} egyenlet megoldása egyértelmű. (Egy A = (a_{j,l}) k ×k méretű mátrix transzponáltja az A^{∗} = (a_{l,j}), illetve az általános komplex számokat is tartalmazó mátrixok esetében az A^{∗} = (ā_{l,j}) k ×k méretű mátrix, ahol z̄ a z komplex szám konjugáltja.)

A kovariancia mátrixok jellemzéséről szóló tétel bizonyítása a lineáris algebráról kimondott tétel segítségével. Tekintsünk először egy Z = (Z_{1}, …, Z_{k}) egy k-dimenziós véletlen vektort és annak D = (d_{j,l}), d_{j,l} = Cov (Z_{j}, Z_{l}), 1 ≤ j, l ≤ k, kovariancia mátrixát. Ekkor D szimmetrikus mátrix, mert d_{j,l} = d_{l,j}, azaz Cov (Z_{j}, Z_{l}) = Cov (Z_{l}, Z_{j}). Másrészt tetszőleges x = (x_{1}, …, x_{k}) k-dimenziós vektorra

Var (∑_{j=1}^{k} x_{j}Z_{j}) = ∑_{j=1}^{k} ∑_{l=1}^{k} E (x_{j}x_{l}(Z_{j}Z_{l} − EZ_{j}EZ_{l})) = ∑_{j=1}^{k} ∑_{l=1}^{k} x_{j}x_{l}Cov (Z_{j}, Z_{l})

= ∑_{j=1}^{k} ∑_{l=1}^{k} x_{j}x_{l}d_{j,l} = xDx^{∗},

és Var ( ∑_{j=1}^{k} x_{j}Z_{j}) ≥ 0. Innen következik, hogy xDx^{∗} ≥ 0 tetszőleges x = (x_{1}, …, x_{k})

k-dimenziós vektorra, azaz D szimmetrikus, pozitív szemidefinit mátrix.

Megfordítva, legyen D pozitív szemidefinit mátrix, és Y = (Y_{1}, …, Y_{k}) olyan véletlen vektor, amelynek a kovariancia mátrixa az identitás mátrix, azaz Var Y_{j} = 1, 1 ≤ j ≤ k, Cov (Y_{j}, Y_{l}) = 0, ha 1 ≤ j, l ≤ k, és j ≠ l. A kimondott lineáris algebrai eredmény szerint létezik olyan A = (a_{j,l}), 1 ≤ j, l ≤ k k × k méretű mátrix, amelyre D = A^{∗}A. Azt állítom, hogy a Z = (Z_{1}, …, Z_{k}) = Y A, azaz a Z = (Z_{1}, …, Z_{k}),

Z_{j} = ∑_{p=1}^{k} a_{p,j}Y_{p}, 1 ≤ j ≤ k, véletlen vektor kovariancia mátrixa a D mátrix. Innen

következik a tétel második állítása is.

Valóban,

Cov (Z_{j}, Z_{l}) = Cov (∑_{p=1}^{k} a_{p,j}Y_{p}, ∑_{q=1}^{k} a_{q,l}Y_{q}) = ∑_{p=1}^{k} ∑_{q=1}^{k} a_{p,j}a_{q,l}Cov (Y_{p}, Y_{q}),

ahonnan, mivel Cov (Y_{p}, Y_{q}) = 0, ha p ≠ q, és Cov (Y_{p}, Y_{p}) = 1, Cov (Z_{j}, Z_{l}) =

∑_{p=1}^{k} a_{p,j}a_{p,l} = d_{j,l}, ahol d_{j,l} a D = A^{∗}A mátrix j-ik sorában és l-ik oszlopában szereplő

konstans.

Végül a D kovariancia mátrix akkor és csak akkor (szigorúan) pozitív definit, ha

xDx^{∗} > 0, azaz Var ( ∑_{j=1}^{k} x_{j}ξ_{j}) > 0, azaz ∑_{j=1}^{k} x_{j}ξ_{j} ≠ K 1 valószínűséggel valamilyen

K konstanssal minden nem azonosan nulla (x_{1}, …, x_{k}) ≠ 0 vektorra.

Ezután be tudjuk vezetni a több-dimenziós normális eloszlásfüggvények fogalmát, és meg tudjuk fogalmazni a több-dimenziós centrális határeloszlástételt.

Több-dimenziós normális eloszlások definiciója. Definiáljuk először a több-di-menziós standard normális eloszlást. Azt mondjuk, hogy egy (ξ_{1}, …, ξ_{k}) véletlen vektor eloszlása a k-dimenziós standard normális eloszlás, ha a ξ_{1}, …, ξ_{k} valószínűségi változók függetlenek, és mindegyik ξ_{j} valószínűségi változó, 1 ≤ j ≤ k, standard normális eloszlású. Ekvivalens megfogalmazásban azt mondhatjuk, hogy egy (ξ_{1}, …, ξ_{k}) véletlen vektor eloszlása a k-dimenziós standard normális eloszlás, ha e véletlen vektornak létezik

sűrűségfüggvénye, és az az f(u_{1}, …, u_{k}) = \frac{1}{(2π)^{k/2}} exp \{−\frac{1}{2} ∑_{j=1}^{k} u_{j}^{2}\} függvény.

Egy (η_{1}, …, η_{k}) k dimenziós véletlen vektor k dimenziós normális eloszlású vektor nulla várható értékkel, ha e véletlen vektor eloszlása megegyezik valamely (η̄_{1}, …, η̄_{k}) = (ξ_{1}, …, ξ_{k})A k-dimenziós vektor eloszlásával, ahol A egy k × k méretű mátrix, továbbá (ξ_{1}, …, ξ_{k}) egy k-dimenziós standard normális eloszlású véletlen vektor.

Egy (ζ_{1}, …, ζ_{k}) véletlen vektor k-dimenziós normális eloszlású vektor, ha eloszlása megegyezik egy (η_{1}, …, η_{k}) + (m_{1}, …, m_{k}) véletlen vektor eloszlásával, ahol (η_{1}, …, η_{k}) egy k-dimenziós normális eloszlású véletlen vektor, amelynek a várható értéke nulla, és (m_{1}, …, m_{k}) k-dimenziós determinisztikus vektor.

Megjegyzés: Független (egy-dimenziós) normális eloszlású valószínűségi változók összege szintén normális eloszlású. Innen, és a több-dimenziós normális eloszlás definiciójából következik, hogy egy több-változós normális eloszlású valószínűségi változó minden koordinátája normális eloszlású. Az állítás megfordítása nem igaz. Később látni fogunk példát olyan kétváltozós valószínűségi változóra, amelynek mind a két koordinátája normális eloszlású, ő maga mégsem kétváltozós normális eloszlású véletlen vektor.

Bebizonyítok még egy eredményt, amely szükséges a többváltozós centrális határeloszlástétel kimondásához.

Tétel a több-dimenziós normális eloszlás tulajdonságairól. Tekintsünk egy kdimenziós (η_{1}, …, η_{k}) = (ξ_{1}, …, ξ_{k})A + (m_{1}, …, m_{k}) normális eloszlású valószínűségi változót, ahol A egy k × k méretű mátrix, m = (m_{1}, …, m_{k}) k-dimenziós (véletlentől nem függő) vektor és (ξ_{1}, …, ξ_{k}) egy k-dimenziós standard normális eloszlású véletlen vektor. Akkor (η_{1}, …, η_{k}) m = (m_{1}, …, m_{k}) várható értékű és D = A^{∗}A kovariancia mátrixú véletlen vektor. Egy normális eloszlású véletlen vektor kovariancia mátrixa pozitív (szemi)definit, és megfordítva, minden k×k méretű pozitív (szemi)definit mátrixhoz és k dimenziós vektorhoz létezik olyan k-változós normális eloszlású véletlen vektor, amelynek ez a kovariancia mátrixa és várható érték vektora. Továbbá egy k-dimenziós normális eloszlású valószínűségi változó eloszlását meghatározza annak m várható érték vektora és D kovariancia mátrixa.

Megjegyzem, hogy egy rögzített D (szimmetrikus és pozitív szemidefinit) mátrixra az A^{∗}A = D egyenletnek nem egyértelmű a megoldása. Tekintsünk két különböző A és B mátrixot, amelyre A^{∗}A = B^{∗}B. A fenti tétel szerint, ha tekintünk egy kdimenziós standard normális eloszlású (ξ_{1}, …, ξ_{k}) vektort, illetve a segítségével definiált (ξ_{1}, …, ξ_{k})A és (ξ_{1}, …, ξ_{k})B véletlen vektorokat, akkor bár ez az utóbbi két véletlen vektor különböző, eloszlásuk megegyezik. Ugyanis mind a két (normális eloszlású) vektor nulla várható értékű és A^{∗}A = B^{∗}B kovariancia mátrixú. Ez a tulajdonság erősen kihasználja azt, hogy normális eloszlású valószínűségi változókról van szó. Annak, hogy egy több-dimenzós normális eloszlást egyértelműen meghatároz annak várható érték vektora és kovariancia mátrixa fontos következményei vannak. Ehhez a kérdéshez később visszatérek.

A tétel bizonyítása. Az, hogy csak pozitív szemidefinit mátrixok lehetnek egy többdimenziós normális eloszlású valószínűségi változó kovariancia mátrixai, azok viszont lehetnek ilyen kovariancia mátrixok következik a kovariancia mátrixok jellemzéséről szóló tételből. (Az, hogy egy normális eloszlású vektor várható értéke tetszőleges vektor lehet nyilvánvaló.) Az az állítás szorul még indoklásra, hogy egy többdimenziós normális eloszlású valószínűségi változó eloszlását meghatározza annak kovariancia mátrixa és várható érték vektora. Ezt az állítást is redukálni lehet arra az állításra, hogy egy nulla várható értékű normális eloszlású véletlen vektor eloszlását meghatározza a kovariancia mátrixa. Később látni fogjuk, hogy ez az eredmény következik a többváltozós normális eloszlásfüggvények karakterisztikus függvényének az alakjából, de itt egy másik bizonyítást ismertetek, amely a lineáris algebra egy önmagában is érdekes állításából, egy Euklideszi tér lineáris transzformációinak úgynevezett polár koordinátás felbontásából következik.

E tétel megfogalmazása előtt felidézem az unitér transzformációk definicióját. Egy Euklideszi tér valamely lineáris transzformációját unitérnek nevezünk, ha teljesíti az UU^{∗} = I és U^{∗}U = I azonosságot. Valójában elég e két azonosság közül csak az egyiket megkövetelni, mert akkor a másik azonosság is szükségszerűen teljesül. Az unitér transzformációk geometriai tartalma az, hogy ezek és csak ezek az Euklideszi tér távolságtartó transzformációi. A következő lineáris algebrai eredményre lesz szükségünk.

Tétel egy mátrix polár felbontásáról. Legyen A egy Euklideszi tér lineáris transzformációjának a mátrixa. Létezik az A mátrixnak A = UK (és A = LV) alakú polár felbontása, ahol U (illetve V) unitér, K (illetve L) pozitív szemidefinit szimmetrikus mátrix. A K mátrix az A^{∗}A pozitív definit, szimmetrikus mátrix egyértelműen meghatározott pozitív négyzetgyöke. (Az L mátrix az AA^{∗} mátrix pozitív négyzetgyöke.)

Megjegyzés. Ezen eredmény elnevezésének az az oka, hogy a pozitív szemidefinit mátrixok a nem negatív valós számoknak, az unitér transzformációk pedig az egy abszolut értékű komplex számoknak (a komplex tér forgatásainak) a természetes megfelelői, ha a komplex számok terét egy Euklideszi tér operátorainak a terével helyettesítjük. Ahogy egy tetszőleges z komplex szám felírható z = Re^{iφ} ‘polárkoordinátás’ alakban, úgy tetszőleges A mátrix felírható a tételben megadott A = UK alakban. Mivel a mátrixszorzás nem kommutatív, ezért az A = UK és A = LV előállításokban különböző mátrixok szerepelnek az általános esetben. A K mátrix alakja következik az

A^{∗}A = (UK)^{∗}(UK) = K^{∗}(U^{∗}U)K = K^{∗}K = K^{2} ezért K = (A^{∗}A)^{1/2}

azonosságból.

A több-dimenziós normális eloszlás tulajdonságairól szóló tétel bizonyításának a befejezése. Tekintsük először azt az esetet, amikor egy nulla várható értékű normális eloszlású Z vektor kovariancia mátrixa az I identitás mátrix. Ekkor tudjuk, hogy Z előállítható Z = XU alakban, ahol X k-dimenziós standard normális eloszlású vektor, és I = U^{∗}U, azaz U unitér transzformáció. Viszont tudjuk, hogy egy k-dimenziós standard normális eloszlású X vektor sűrűségfüggvénye az

f(x_{1}, …, x_{k}) = ∏_{j=1}^{k} \frac{1}{\sqrt{2π}} e^{−x_{j}^{2}/2} = (2π)^{−k/2} exp \{−\frac{1}{2} ∑_{j=1}^{k} x_{j}^{2}\}

függvény, ahonnan látható, hogy az f(x_{1}, …, x_{k}) sűrűségfüggvény az x = (x_{1}, …, x_{k}) pontban csak az x = (x_{1}, …, x_{k}) vektor hosszától függ. Mivel egy U unitér transzformáció távolságtartó, innen látható, hogy az X és Z = XU véletlen vektorok sűrűségfüggvényei megegyeznek.

Legyen Y = XA egy tetszőleges nulla várható értékű, normális eloszlású véletlen vektor, ahol X standard normális eloszlású véletlen vektor. Véve az A mátrix A = KU polárfelbontását felírhatjuk az Y = XA = XUK = ZK azonosságot, ahol Z = XU standard normális eloszlású véletlen vektor. Másrészt K az A^{∗}A, azaz az Y véletlen vektor kovarianciamátrixának az (egyértelműen meghatározott) pozitív négyzetgyöke. Innen következik, hogy az Y = ZK véletlen vektor eloszlását meghatározza a kovariancia mátrixa.

Ezután megfogalmazom a többváltozós centrális határeloszlástételt.

A többváltozós centrális határeloszlástétel. Legyenek ξ^{(j)} = (ξ_{1}^{(j)}, …, ξ_{k}^{(j)}), j = 1, 2, …, független, egyforma eloszlású k-dimenziós valószínűségi változók, amelyekre teljesül az Eξ_{l}^{(1)}^{2} < ∞, 1 ≤ l ≤ k, feltétel. Legyen a ξ^{(1)} = (ξ_{1}^{(1)}, …, ξ_{k}^{(1)}) vektor

várható értéke Eξ^{(1)} = (Eξ_{1}^{(1)}, …, Eξ_{k}^{(1)}), kovariancia mátrixa pedig egy D k×k méretű

mátrix. Definiáljuk az S^{(n)} = (S_{1}^{(n)}, …, S_{k}^{(n)}) = ∑_{j=1}^{n} ξ^{(j)} = ( ∑_{j=1}^{n} ξ_{1}^{(j)}, …, ∑_{j=1}^{n} ξ_{k}^{(j)})

összegeket, n = 1, 2, . . .. Ezek az S^{(n)} = (S_{1}^{(n)}, …, S_{k}^{(n)}) vektorok eloszlásban konvergálnak a Φ_{D}(x_{1}, …, x_{k}) k-dimenziós nulla várható értékű D kovariancia mátrixú normális eloszlásfüggvényhez, ha n → ∞, azaz érvényes a

lim_{n→∞} P (\frac{1}{\sqrt{n}} (S_{1}^{(n)} − ES_{1}^{(n)}) < x_{1}, …, \frac{1}{\sqrt{n}} (S_{k}^{(n)} − ES_{k}^{(n)}) < x_{k}) = Φ_{D}(x_{1}, …, x_{k})

(1)

minden olyan (x_{1}, …, x_{k}) pontban, amely folytonossági pontja a Φ_{D}(x_{1}, …, x_{k}) eloszlásfüggvénynek.

1. megjegyzés. Ahhoz, hogy lássuk, hogy a fenti többváltozós centrális határeloszlástétel értelmes, tudnunk kell a következő két állítást:

i) Tetszőleges (véges) kovariancia mátrix-szal rendelkező véletlen vektorhoz létezik egy vele megegyező kovariancia mátrixú (és nulla várható értékű) normális eloszlású vektor.

ii) A tételben szereplő határeloszlást egyételműen megadtuk, azaz egy nulla várható érték vektorral rendelkező normális eloszlású véletlen vektor eloszlását egyértelműen meghatározza annak kovariancia mátrixa. Ez a két tulajdonság azonban következik a több-dimenziós normális eloszlás tulajdonságairól szóló tételből.

2. megjegyzés. Az egy és többváltozós centrális határeloszlástétel megfogalmazásában másfajta normalizálást használtunk. Az egyváltozós esetben az összeg szórásával, azaz \sqrt{n}σ osztottunk, ahol σ^{2} = Var ξ, míg a többváltozós esetben \sqrt{n}-nel. Az egyváltozós esetben is oszthattunk volna \sqrt{n}-nel, és akkor a határeloszlás egy nulla várható értékű és σ^{2} szórásnégyzetű normális eloszlású valószínűségi változó eloszlása lett volna. A többváltozós esetben az egyváltozós esethez hasonló normalizálás az n^{−1/2}Σ^{−1} mátrix-szal való szorzás lenne, ahol Σ^{2} a tekintett véletlen vektorok kovariancia mátrixa, Σ ennek pozitív négyzetgyöke, azaz az az egyértelműen meghatározott pozitív definit Σ mátrix, amelynek négyzete a Σ^{2} kovariancia mátrix, Σ^{−1} pedig ennek a mátrixnak az inverze. Ilyen normalizálást akkor választhatunk, ha a Σ^{2} mátrix invertálható. Ez akkor teljesül, ha Σ^{2} szigorúan pozitív definit. Ekkor a limesz egy standard normális eloszlású véletlen vektor. De bizonyos fontos esetekben ez a feltétel nem teljesül. Például, ha az előadás elején tekintett (szabályos) kocka véletlen dobásait tekintjük, akkor, mint a gyakorlaton megtárgyaljuk, nem invertálható kovariancia mátrix jelenik meg a határeloszlásban.

Ez azzal függ össze, hogy a különböző eredményű dobások számának az összege (nem véletlen) konstans. Ez a konstans egyenlő az összes dobás számával.

3. megjegyzés. A többváltozós centrális határeloszlástétel megfogalmazásában nem állítottuk, hogy az (1) reláció minden (x_{1}, …, x_{k}) pontban érvényes, hanem csak azokban a pontokban, amelyek folytonossági pontjai a Φ_{D}(x_{1}, …, x_{k}) (határ)eloszlásfüggvénynek. Ez nem üres megszorítás, mert az egyváltozós esettől eltérően a Φ_{D}(x_{1}, …, x_{k}) függvénynek lehetnek olyan pontjai, ahol az nem folytonos. Ez az eset áll elő például akkor, ha Φ_{D}(x_{1}, …, x_{k}) egy olyan (elfajuló) (ξ_{1}, …, ξ_{n}) nulla várható értékű normális vektornak az eloszlásfüggvénye, amelyre Var ξ_{1} = 0. Ebben az esetben a Φ_{D} által generált Stieltjes mérték az x_{1} = 0 altérbe van koncentrálva, és a Φ_{D}(x_{1}, …, x_{k}) függvény nem folytonos az x_{1} = 0 hipersík pontjaiban. A tételt ebben a formában fogom bizonyítani, és az gyakorlati alkalmazásokban ebben a formában is kielégítő. Viszont, mint a kiegészítésben megmutatom, az (1) formula valójában minden (x_{1}, …, x_{k}) pontban érvényes a tételben szereplő valószínűségi változók bizonyos tulajdonságai miatt.

Megjegyzem továbbá, hogy az egyváltozós esethez hasonlóan a többváltozós centrális határeloszlástételnek is létezik általánosítása független, nem feltétlenül egyforma eloszlású véletlen vektorok normalizált összegeinek határeloszlására nagyon általános feltételek mellett. Ezzel a kérdéssel azonban itt nem foglalkozunk.

Lássuk, hogyan tudjuk vizsgálni a többváltozós centrális határeloszlástétel segítségével az előadás elején megfogalmazott a) problémát dobókocka szabályosságának a vizsgálatáról.

Tekintsük az ott bevezetetett ξ^{(j)}, 1 ≤ j ≤ n, valószínűségi változókat, azok S_{n} = (S_{n}^{(1)}, …, S_{n}^{(6)}) összegeit, illetve ezen összegek

S̄_{n} = (\frac{1}{\sqrt{n}}(S_{n}^{(1)} − ES_{n}^{(1)}), …, \frac{1}{\sqrt{n}}(S_{n}^{(6)} − ES_{n}^{(6)}))

normalizáltjait. Emlékezzünk arra, hogy az S_{n}^{(l)}, 1 ≤ l ≤ 6, valószínűségi változó az l eredményű dobások számával egyenlő. Ezenkívül tudjuk, hogy ES_{l} = \frac{n}{6}, 1 ≤ l ≤ 6, és ki tudjuk számolni annak a normális eloszlású valószínűségi változók kovariancia mátrixát, amelyhez az S̄_{n} normalizált összegek eloszlásban tartanak. Ez a D kovariancia mátrix egyenlő a ξ^{(j)} véletlen vektorok kovariancia mátrixával, és D = (d_{l,m}), 1 ≤ l, m ≤ 6, d_{l,m} = Eξ_{l}^{(j)}ξ_{m}^{(j)} − Eξ_{l}^{(j)}Eξ_{m}^{(j)} = −Eξ_{l}^{(j)}Eξ_{m}^{(j)} = −\frac{1}{36}, ha l ≠ m, és d_{l,l} = \frac{1}{6} − (\frac{1}{6})^{2} = \frac{5}{36}. Ilyen módon az S̄_{n} normalizált összeg eloszlására jogunk van alkalmazni az (1) aszimptotikus azonosságot. De természetesebb az S̄_{n} normalizált összeg

koordinátáinak a négyzetösszegét, azaz a T_{n} = \frac{1}{n} ∑_{l=1}^{n}(S_{n}^{(l)} − \frac{n}{6})^{2} kifejezést vizsgálni.

Felmerül a kérdés, létezik-e a T_{n} valószínűségi változóknak (ismert) határeloszlása. A következő két eredmény célja annak megmutatása, hogy erre a kérdésre, illetve e kérdés hasonló problémákban megjelenő természetes megfelelőire a válasz igenlő.

1. tétel az eloszlásbeli konvergencia tulajdonságairól. Legyen adva k-dimen-ziós véletlen vektorok ξ^{(n)} = (ξ_{1}^{(n)}, …, ξ_{k}^{(n)}), n = 1, 2, …, sorozata, amelyek eloszlásban konvergálnak egy ξ^{(0)} = (ξ_{1}^{(0)}, …, ξ_{k}^{(0)}) k-dimenziós véletlen vektorhoz. Legyen ezenkívül adva egy u(x) = u(x_{1}, …, x_{k}) a k-dimenziós téren értelmezett folytonos függvény. (Az egyszerűség érdekében tekintsünk valós értékű függvényeket, de valójában tekinthetünk tetszőleges l-dimenziós vektor értékű u(·) függvényt.) Ekkor az η_{n} = u(ξ^{(n)}), n = 1, 2, …, valószínűségi változók eloszlásban konvergálnak az η_{0} = u(ξ^{(0)}) valószínűségi változóhoz.

A tétel bizonyítása. Használjuk az eloszlásban való konvergencia folytonos függvények integráljainak a segítségével megadott jellemzését. Ekkor azt kell belátni, hogy tetszőleges folytonos és korlátos g(x) függvényre lim_{n→∞} Eg(η_{n}) = Eg(η_{0}). Viszont g(η_{n}) =

g(u(ξ^{(n)})) = v(ξ^{(n)}), és g(η_{0}) = g(u(ξ^{(0)})) = v(ξ^{(0)}), ahol v(x) = g((ux)). Továbbá a v(x) függvény is folytonos és korlátos a tétel feltételei miatt. Ezért, a tétel feltételei alapján,

lim_{n→∞} Eg(η_{n}) = lim_{n→∞} Ev(ξ^{(n)}) = Ev(ξ^{(0)}) = Eg(η_{0}).

A tételt bebizonyítottuk.

2. tétel az eloszlásbeli konvergencia tulajdonságairól. Legyen F_{n}, n = 1, 2, …, k-dimenziós eloszlások sorozata, amelyek eloszlásban konvergálnak egy F_{0} k-dimenziós eloszláshoz. Jelölje μ_{F_{n}} az F_{n} eloszlás szerint indukált Stieltjes mértéket. Ha A olyan halmaz a k-dimenziós téren, amelynek ∂A határa teljesíti a μ_{F_{0}}(∂A) = 0 azonosságot az F_{0} határeloszlásmérték szerinti μ_{F_{0}} Stieltes mérték szerint, akkor lim_{n→∞} μ_{F_{n}}(A) = μ_{F_{0}}(A).

Mivel számunkra elegendő az első tétel is, a második tétel bizonyítását csak vázlatosan ismertetem.

A tétel bizonyítása. Be lehet látni, hogy az A halmaz indikátor függvényét jól lehet közelíteni, mind alulról mind felülről alkalmas folytonos függvényekkel. Részletesebben kifejtve, tetszőleges ε > 0 számhoz léteznek olyan f_{ε}(x) és g_{ε}(x) folytonos függvények, amelyekre 0 ≤ f_{ε}(x), g_{ε}(x) ≤ 1 minden x vektorra a k-dimenziós térben, f_{ε}(x) = 1, ha x ∈ Ā, ahol Ā az A halmaz lezártja, f_{ε}(x) = 0, ha ρ(x, A) ≥ ε, ahol ρ(·, ·) az Euklideszi metrika a k-dimenziós térben, g_{ε}(x) = 0, ha x ∉ A, g_{ε}(x) = 1, ha ρ(x, A^{c}) ≥ ε, ahol A^{c} az A halmaz komplementere. Felhasználva a lim_{n→∞} ∫ f_{ε}(x)F_{n}( dx) = ∫ f_{ε}(x)F_{0}( dx) és

lim_{n→∞} ∫ g_{ε}(x)F_{n}( dx) = ∫ g_{ε}(x)F_{0}( dx) relációkat, majd elvégezve az ε → 0 határátmenetet megkapjuk a tétel állítását. A részletek kidolgozását elhagyom.

Térjünk vissza a szabályos dobókockával kapcsolatos feladat tárgyalásához. Alkalmazva az 1. tételt az eloszlásbeli konvergencia tulajdonságairól a k = 6 dimenziós

euklideszi térben az u(x) = ∑_{l=1}^{6} x_{l}^{2} függvénnyel azt kapjuk, hogy az ott bevezetett T_{n}

valószínűségi változók eloszlásban konvergálnak egy ismert kovarianciájú, nulla várható értékű normális eloszlású vektor koordinátáinak a négyzetösszegéhez. Ilyen eredményre volt szükségünk. Felmerül még a kérdés, hogy nem lehet-e a határeloszlást egyszerűbb módon jellemezni. Ehhez a kérdéshez később még visszatérek.

A következő feladat célja annak megmutatása, hogy az előadás elején említett b) feladatot hogyan tudjuk megoldani a többváltozós centrális határeloszlástétel segítségével.

Feladat:

Legyenek ξ_{1}, …, ξ_{n} független, a [−\frac{1}{2}, \frac{1}{2}] intervallumban egyenletes eloszlású való-

színűségi változók. Mutassuk meg, hogy a ∑_{j=1}^{n} ξ_{j} és ∑_{j=1}^{n} ξ_{j}^{2} összegek normalizáltjai-

nak, azaz a \sqrt{\frac{12}{n}} ∑_{j=1}^{n} ξ_{j} és \sqrt{\frac{180}{n}} ∑_{j=1}^{n} (ξ_{j}^{2} − \frac{1}{12}) valószínűségi változóknak az együttes

eloszlása a két-dimenziós standard normális eloszláshoz konvergál, ha n → ∞. Megoldás: Eξ = 0, Eξ^{2} = \frac{1}{12}, Var ξ = \frac{1}{12}, Var ξ^{2} = Eξ^{4} − (Eξ^{2})^{2} = \frac{1}{80} − \frac{1}{144} = \frac{1}{180}. Továbbá Cov (ξ, ξ^{2}) = Eξ^{3} − EξEξ^{2} = 0. Ezért a (\sqrt{12}ξ_{j}, \sqrt{180} (ξ_{j}^{2} − \frac{1}{12})), j = 1, 2, …, véletlen vektorok függetlenek, nulla várható értékkel és az identitás kovariancia mátrix-szal. Innen, és a több-dimenziós centrális határeloszlástételből következik a feladat állítása.

Be akarjuk látni a több-dimenziós centrális határeloszlástételt. Tudjuk eddigi eredményeink alapján, hogy ehhez elegendő megmutatni azt, hogy a normalizált összegek karakterisztikus függvényei konvergálnak egy megfelelő kovarianciájú és nulla várható értékű normális eloszlású vektor karakterisztikus függvényéhez. Ennek bizonyításához először ki kell számolni a több-dimenziós normális eloszlások karakterisztikus függvényeit. Erről szól a következő tétel.

Tétel a több-dimenziós normális eloszású valószínűségi változók karakterisztikus függvényéről. Legyen η = (η_{1}, …, η_{k}) = (ξ_{1}, …, ξ_{k})A + (m_{1}, …, m_{k}) egy k-dimenziós normális eloszlású valószínűségi változó, ahol m = (m_{1}, …, m_{k}) kdimenziós (determinisztikus) vektor, A = (a_{j,l}), 1 ≤ j, l ≤ k, k × k méretű mátrix, továbbá ξ = (ξ_{1}, …, ξ_{k}) k-dimenziós standard normális eloszlású véletlen vektor. Ekkor az (η_{1}, …, η_{k}) véletlen vektor karakterisztikus függvénye az

Ee^{i(t,η)} = Ee^{i(t_{1}η_{1}+···+t_{k}η_{k})} = e^{i(t,m)−tA^{∗}At^{∗}/2} = exp \{i ∑_{j=1}^{k} t_{j}m_{j} − \frac{1}{2} ∑_{j=1}^{k} ∑_{l=1}^{k} d_{j,l}t_{j}t_{l}\}

függvény, ahol (x, y) jelöli az x = (x_{1}, …, x_{k}) és y = (y_{1}, …, y_{k}) vektorok (x, y) =

∑_{j=1}^{k} x_{j}y_{j} skalárszorzatát, t = (t_{1}, …, t_{k}), d_{j,l} az A^{∗}A kovariancia mátrixának j-ik so-

rában, és l-ik oszlopában szereplő konstans. A D = A^{∗}A mátrix megegyezik az η = (η_{1}, …, η_{k}) véletlen vektor kovariancia mátrixával.

Bizonyítás:

Ee^{i(t,η)} = Ee^{i(t,ξA+m)} = e^{i(t,m)}Ee^{i(tA^{∗},ξ)} = e^{i(t,m)}e^{−(tA^{∗},tA^{∗})/2} = e^{i(t,m)−tA^{∗}At^{∗}/2},

mert, ha tA^{∗} = t̄ = (t̄_{1}, …, t̄_{k}), akkor Ee^{i(tA^{∗},ξ)} = Ee^{i(t̄_{1}ξ_{1}+···+t̄_{k}ξ_{k})} = ∏_{j=1}^{k} Ee^{it̄_{j}ξ_{j}} =

∏_{j=1}^{k} e^{−t̄_{j}^{2}/2} = e^{−(t̄,t̄)/2} = e^{−(tA^{∗},tA^{∗})/2}.

Az η véletlen vektor D = (d_{j,l}) kovariancia mátrixában a j-ik sor l-ik eleme d_{j,l} =

Cov (η_{j}, η_{l}) = Cov ( ∑_{p=1}^{k} a_{p,j}ξ_{p}, ∑_{q=1}^{k} a_{q,l}ξ_{q}) = ∑_{p=1}^{k} a_{p,j}a_{p,l}Eξ_{p}^{2} = ∑_{p=1}^{k} a_{p,j}a_{p,l}, és ez az A^{∗}A

mátrix j-ik sorában és l-ik oszlopában álló elem. Ezért az η véletlen vektor kovariancia mátrixa a D = A^{∗}A mátrix. Az nyílvánvaló, hogy az η véletlen vektor várható értéke m.

Következmény. Egy több-dimenziós normális eloszlású véletlen vektor eloszlását egyértelműen meghatározza annak várható érték vektora és kovariancia mátrixa.

Megjegyzés. Ezen állítás bizonyítását már láttuk lineáris algebrai módszerekkel. Most azt mutatjuk meg, hogy az egyszerűen következik a karakterisztikus függvények tulajdonságaiból is.

A következmény bizonyítása. Az előző tétel alapján egy normális eloszlású véletlen vektor karakterisztikus függvényét egyértelműen meghatározza annak várható érték vektora és kovariancia mátrixa. Viszont egy eloszlást meghatároz annak karakterisztikus függvénye.

A többváltozós centrális határeloszlástétel bizonyításában azt kell megmutatni, hogy a tekintett véletlen normalizált összegek karakterisztikus függvényei konvergálnak a határeloszlás karakterisztikus függvényéhez. Ennek bizonyítása nem nehezebb, mint a megfelelő egyváltozós állítás bizonyítása. Sőt, az állítás igazolását vissza lehet vezetni az egyváltozós esetre az alábbi egyszerű, de tanulságos eredmény segítségével.

Lemma többváltozós véletlen vektorok eloszlásának konvergenciájának a jellemzéséről. Legyen adva k-változós ξ^{(n)} = (ξ_{1}^{(n)}, …, ξ_{k}^{(n)}), n = 1, 2, …, véletlen vektorok egy sorozata. Ezek a véletlen vektorok akkor és csak akkor konvergálnak eloszlásban

egy ξ^{(0)} = (ξ_{1}^{(0)}, …, ξ_{k}^{(0)}) véletlen vektorhoz, ha koordinátáik bármely ∑_{r=1}^{k} a_{r}ξ_{r}^{(n)} lineáris

kombinációi eloszlásban konvergálnak a ∑_{r=1}^{k} a_{r}ξ_{r}^{(0)} valószínűségi változóhoz.

A lemma bizonyítása. Azt kell megérteni, hogy mit jelentenek a lemmában megfogalmazott eloszlásban való konvergenciák a karakterisztikus függvények nyelvén. Jelölje φ_{n}(t_{1}, …, t_{k}) = Ee^{i(t_{1}ξ_{1}^{(n)}+···+t_{k}ξ_{k}^{(n)})} a ξ^{(n)} = (ξ_{1}^{(n)}, …, ξ_{k}^{(n)}), n = 0, 1, 2, …, véletlen

vektor és φ_{n}(t|a_{1}, …, a_{k}) = Ee^{it(a_{1}ξ_{1}^{(n)}+···+a_{k}ξ_{k}^{(n)})} a ∑_{j=1}^{n} a_{j}ξ_{j}^{(n)} lineáris kombináció karak-

terisztikus függvényét. A fenti jelölésekkel, — felhasználva azt a tényt, hogy eloszlások konvergenciája ekvivalens azok karakterisztikus függvényeinek konvergenciájával, — a lemma állítását úgy fogalmazhatjuk át, hogy az alábbi a) és b) tulajdonságok ekvivalensek.

a) lim_{n→∞} φ_{n}(t|a_{1}, …, a_{k}) = φ_{0}(t|a_{1}, …, a_{k}) minden t valós számra és a_{1}, …, a_{k} para-

méterre.

b) lim_{n→∞} φ_{n}(t_{1}, …, t_{k}) = φ_{0}(t_{1}, …, t_{k}) minden t_{1}, …, t_{k} szám k-asra.

Viszont a b) tulajdonság következik az a) tulajdonságból t = 1, a_{r} = t_{r}, 1 ≤ r ≤ k, választással, az a) tulajdonság pedig következik a b) tulajdonságból t_{r} = ta_{r}, 1 ≤ r ≤ k, választással. A lemmát bebizonyítottuk.

A többváltozós centrális határeloszlástétel bizonyítása. Az előző lemma alapján elég azt bebizonyítani, hogy tetszőleges a_{1}, …, a_{k} szám k-asra az S_{n}(a_{1}, …, a_{k}) =

\frac{1}{\sqrt{n}} ∑_{r=1}^{k} a_{r}(S_{n}^{(r)} − ES_{n}^{(r)}) kifejezések eloszlásban konvergálnak a ζ(a_{1}, …, a_{k}) = ∑_{r=1}^{k} a_{r}ζ_{r}

véletlen vektorhoz, ahol (ζ_{1}, …, ζ_{k}) nulla várható értékű és D kovariancia mátrixú

normális eloszlású véletlen vektor. Vezessük be az η_{j} = η_{j}(a_{1}, …, a_{k}) = ∑_{r=1}^{k} a_{r}ξ_{r}^{(j)},

1 ≤ j ≤ n, valószínűségi változókat. Ekkor η_{1}, …, η_{n} független, egyforma eloszlású

valószínűségi változók, és S_{n} = ∑_{j=1}^{n}(η_{j} − Eη_{j}). Ezért a bizonyítandó állítás következik

az egyváltozós centrális határeloszlástételből független, egyforma eloszlású valószínűségi változók összegére és abból az észrevételből, hogy ζ(a_{1}, …, a_{k}) nulla várható értékű normális eloszlású valószínűségi változó, és Var ζ(a_{1}, …, a_{k}) = Var η_{j}.

Következő témánk a többváltozós normális eloszlások néhány fontos tulajdonsága. Láttuk, hogy egy több-dimenziós normális eloszlást meghatároz annak várható

értéke és kovariancia mátrixa. Ennek egyik következményét annak fontossága miatt tétel formájában mondom ki.

Tétel normális eloszlású véletlen vektorok korrelálatlan koordinátáinak függetlenségéről. Legyenek egy (ξ_{1}, …, ξ_{k}) normális eloszlású vektor koordinátái korrelátlanok. Akkor e koordináták független, normális eloszlású valószínűségi változók.

Bizonyítás. A (ξ_{1} − Eξ_{1}, …, ξ_{k} − Eξ_{k}) normális eloszlású vektor várható értéke nulla, kovariancia mátrixa pedig e véletlen vektor koordinátáinak korrelátlansága miatt diagonális. Legyenek a diagonálisban álló elemek σ_{j}^{2}, 1 ≤ j ≤ k. Tekintsünk η_{1}, …, η_{k} független, standard normális eloszlású valószínűségi változókat, és vezessük be segítségükkel a (σ_{1}η_{1}, …, σ_{k}η_{k}) véletlen vektort. Ez több-dimenziós normális eloszlású vektor, amelynek várható értéke és kovariancia mátrixa megegyezik a (ξ_{1} − Eξ_{1}, …, ξ_{k} − Eξ_{k}) normális eloszlású vektor várható értékével és kovariancia mátrixával. Ezért e két véletlen vektor eloszlása megegyezik. Így a σ_{1}η_{1}, …, σ_{k}η_{k} valószínűségi változók függetlenségéből következik, hogy a ξ_{1} − Eξ_{1}, …, ξ_{k} − Eξ_{k}, illetve a ξ_{1}, …, ξ_{k} valószínűségi változók is függetlenek és normális eloszlásúak.

Tudjuk, hogy független valószínűségi változók korrelálatlanok. A teljesség kedvéért mutatok egy példát korrelálatlan, de nem független valószínűségi változókra. Ez a példa mutatja, hogy a fenti eredményben nagyon fontos volt, hogy egy normális eloszlású véletlen vektor koordinátáit tekintettük.

Példa korrelálatlan, de nem független valószínűségi változókra. Legyen ξ egyenletes eloszlású valószínűségi változó a [−\frac{1}{2}, \frac{1}{2}] intervallumban, Ekkor a ξ és η = ξ^{2} valószínűségi változók korrelálatlanok, de nem függetlenek. Valóban, Eξ = 0, Eη = Eξ^{2} = \frac{1}{12}, Eξη = Eξ^{3} = 0, Cov (ξ, η) = Eξη − EξEη = 0. Másrészt ξ és η nem függetlenek, sőt az η valószínűségi változó a ξ valószínűségi változó determinisztikus függvénye. Egy lehetséges formális indoklása annak, hogy ξ és η nem független a következő: Legyen 0 < a < 1 tetszőleges szám. Ekkor {ω: η < a^{2}} = {ω: |ξ| < a}. Ezért P (ξ < a, η < a^{2}) = P (ξ < a), tehát P (ξ < a, η < a^{2}) ≠ P (ξ < a)P (η < a^{2}).

A következő állítást, amely szintén azzal kapcsolatos, hogy normális eloszlású véletlen vektor koordinátáinak függetlensége következik azok korrelálatlanságából feladat formájában fogalmazom meg, és a gyakorlaton fogjuk tárgyalni. Ennek az eredménynek fontos következménye van néhány valószínűségszámítási és statisztikai vizsgálatban.

Feladat:

Legyen (ξ, η) normális eloszlású vektor m = (m_{1}, m_{2}) = (Eξ, Eη) várható értékkel és

( \begin{matrix}σ_{1,1}, & σ_{1,2} \\ σ_{2,1}, & σ_{1,1} \end{matrix} ) = ( \begin{matrix}Eξ^{2} − (Eξ)^{2}, & Eξη − EξEη \\ Eξη − EξEη, & Eη^{2} − (Eη)^{2} \end{matrix} )

kovarianciamátrix-szal. Ekkor létezik a ξ valószínűségi változónak ξ = aη + ζ alakú előállítása alkalmas a konstanssal, és az η valószínűségi változótól független ζ normális eloszlású valószínűségi változóval. Ez azt jelenti, hogy ha (ξ, η) két-dimen-ziós normális eloszlású valószínűségi változó, akkor az első koordináta kifejezhető, mint a második kooordináta konstansszorosának és egy a második koordinátától független normális eloszlású valószínűségi változó összege. A kívánt a konstanst explicit módon megadhatjuk az a = \frac{σ_{1,2}}{σ_{2,2}} képlet segítségével. Hogy általánosítható a fenti állítás abban az esetben, ha ξ és η vektorváltozók is lehetnek? Megoldás: A ζ = ξ − \frac{σ_{1,2}}{σ_{1,1}} η valószínűségi változó független az η valószínűségi változótól. Ehhez a több-dimenziós normális eloszlás tulajdonságai alapján elég azt ellenőrizni, hogy Cov (ζ, η) = 0. Innen következik a feladat állítása. Az az eset, amikor ξ = (ξ_{1}, …, ξ_{s}), η = (η_{1}, …, η_{p}), és (ξ_{1}, …, ξ_{s}, η_{1}, …, η_{p}) egy s + p dimenziós normális eloszlású valószínűségi változó hasonlóan tárgyalható. Be lehet látni, hogy létezik olyan A mátrix, amelyre η és ξ − ηA függetlenek. Ennek érdekében először azt érdemes megmutatni, hogy létezik olyan U unitér mátrix amelyre ηU = (η̄_{1}, …, η̄_{p}) = η̄ vektor koordinátái függetlenek. Ez abból látható, hogy ha az η véletlen vektor D kovarianciamátrixát D = U^{∗}ΛU alakban írjuk fel, ahol U unitér Λ pedig diagonális mátrix, akkor az η̄ = ηU véletlen normális eloszlású vektor kovarianciamátrixa Λ, ahonnan következik, hogy az η̄ mátrix ko-

ordinátái függetlenek. Legyen ξ̄_{r} = ξ_{r} − ∑_{k=1}^{p} \frac{Eξ_{r} η̄_{k}}{Eη̄_{k}^{2}} η̄_{k}, r = 1, …, s. Ezt mátrixjełö-

léssel ξ̄ = ξ − η̄B formában írhatjuk. Ekkor (ξ − η̄B, η̄) olyan p + s dimenziós, normális eloszlású valószínűségi változó, amelynek első s és utolsó p koordinátája korrelálatlan, ezért független. Mivel a ξ − η̄B és η̄ vektorok függetlenek, ezért ζ = ξ − η̄B = ξ − ηUB független az η = η̄U^{∗} vektortól.

Megjegyzés: A valószínűségszámítás illetve statisztika finomabb kérdéseinek vizsgálatában bevezették a feltételes valószínűség és feltételes eloszlás fogalmát olyan esetekben is, amikor a feltétel nulla valószínűséggel következik be. Bizonyos vizsgálatokban fontos kiszámolni, hogy mi a feltételes eloszlása egy több-dimenziós normális vektor bizonyos koordinátáinak azon feltétel mellett, hogy a többi koordináta értékét rögzítjük. E feladat megoldásának kulcslépése a fent tárgyalt feladat megoldása. E kérdésre visszatérek akkor, amikor a feltételes valószínűségeket fogjuk tanulni.

Láttuk, hogy egy normális eloszlású véletlen vektor koordinátái is normális eloszlásúak. Ez az állítás nem megfordítható. Ennek megértése érdekében példát mutatok olyan két-dimenziós (ξ, η) véletlen vektorra, amelynek mind a két koordinátája, azaz mind a ξ mind az η valószínűségi változó normális eloszlású, viszont a (ξ, η) vektor (mint két-dimenziós véletlen vektor) nem normális eloszlású.

Példa véletlen vektorra, amely nem normális eloszlású, noha koordinátái normális eloszlásúak. Definiáljuk a következő (Ω, B, P) valószínűségi mezőt: Ω = [0, 1], B a Borel σ-algebra [0, 1]-en, és P a Lebesgue mérték. Definiáljuk a következő ξ és η valószínűségi változókat ezen a mezőn: ξ(x) = Φ^{−1}(x),

η(x) = \{ \begin{matrix}ξ(1 − x) & ha 0 ≤ x < \frac{1}{2} \\ ξ (x − \frac{1}{2}) & ha \frac{1}{2} ≤ x ≤ 1 \end{matrix} .

Az ebben a példában definiált ξ és η valószínűségi változók normális eloszlásúak, de a (ξ, η) véletlen vektor nem normális eloszlású.

Indoklás: A ξ és η valószínűségi változók azonos eloszlásúak. Továbbá,

P (ξ > x) = λ(Φ(x), 1]) = 1 − Φ(x) .

Az, hogy a (ξ, η) véletlen vektor nem normális eloszlású következik például a P (ξ + η = 0) = \frac{1}{2} azonosságból. Ugyanis, ha (ξ, η) normális eloszlású lenne, akkor az lenne a ξ + η valószínűségi változó is. Ennek viszont ellentmond a P (ξ + η = 0) = \frac{1}{2} reláció.

Kiszámolom egy több-dimenziós normális eloszlású vektor sűrűségfüggvényét is, (feltéve, hogy az létezik).

Tétel a több-dimenziós normális eloszlású vektor sűrűségfüggvényének az alakjáról. Legyen adva egy η = (η_{1}, …, η_{k}) k-dimenziós normális eloszlású valószínűségi változó, amelynek m = (m_{1}, …, m_{k}) = (Eη_{1}, …, Eη_{k}) a várható érték vektora és D = (d_{j,l}), d_{j,l} = Cov (η_{j}, η_{l}), 1 ≤ j, l ≤ k, a kovariancia mátrixa. Az η k-dimenziós valószínűségi változónak akkor és csak akkor van sűrűségfüggvénye, ha a D kovariancia mátrix invertálható. Ha a D kovariancia mátrix invertálható, akkor az η = (η_{1}, …, η_{k}) véletlen vektor sűrűségfüggvénye a következő alakú:

f(x) = f(x_{1}, …, x_{k}) = \frac{1}{(2π)^{k/2} det D^{1/2}} exp \{−(x − m)D^{−1}(x − m)^{∗}/2\} ,

ahol x = (x_{1}, …, x_{k}) ∈ R^{k} k-dimenziós vektor.

Bizonyítás: Az η = (η_{1}, …, η_{k}) véletlen vektor eloszlása megegyezik egy olyan η̄ = (η̄_{1}, …, η̄_{k}) = (ξ_{1}, …, ξ_{k})A+(m_{1}, …, m_{k}) véletlen vektornak az eloszlásával, amelyikre ξ_{j}, 1 ≤ j ≤ k, független standard normális eloszlású valószínűségi változók, és D = A^{∗}A. Jegyezzük meg, hogy a lineáris algebra standard eredményei szerint az A és A^{∗} mátrixok egyszerre invertálhatóak vagy nem invertálhatóak, és a D = A^{∗}A mátrix akkor és csak akkor invertálható, ha az A mátrix invertálható. Ezért, ha a D mátrix nem invertálható, akkor az η vektornak nincs sűrűségfüggvénye, ha pedig a D mátrix invertálható, akkor a következő módon számolhatunk:

Alkalmazva az x = yA + m transzformációt ξ = (ξ_{1}, …, ξ_{k}), x = (x_{1}, …, x_{k}), y = (y_{1}, …, y_{k}) és φ(y) = φ(y_{1}, …, y_{k}) = \frac{1}{(2π)^{k/2}} e^{−(y_{1}^{2}+···+y_{k}^{2})/2} jelöléssel kapjuk, hogy tetszőleges mérhető B ⊂ R^{k} halmazra

P (η ∈ B) = P (η̄ ∈ B) = P (ξ ∈ (B − m)A^{−1}) = ∫_{(y_{1},...,y_{k})∈(B−m)A^{−1}} φ(y) dy

= \frac{1}{| det A|} ∫_{(x_{1},...,x_{k})∈B} φ ((x − m)A^{−1}) dx

alakú, ahol | det A| az x = yA + m leképezés Jacobian-ja.

E formulából kiolvasható, hogy a vizsgált normális eloszlású valószínűségi változó sűrűségfüggvénye a \frac{1}{| det A|}φ ((x − m)A^{−1}) függvény. Annak érdekében, hogy bebizonyítsuk a tételt vegyük észre, hogy mivel D = A^{∗}A, ezért det D = det A^{∗} det A = (det A)^{2}, és | det A| = det D^{1/2}. Továbbá,

φ ((x − m)A^{−1}) = \frac{1}{(2π)^{k/2}} exp \{−\frac{((x − m)A^{−1}, (x − m)A^{−1})}{2}\}

= \frac{1}{(2π)^{k/2}} exp \{−\frac{(x − m)A^{−1} (A^{−1})^{∗} (x − m)^{∗}}{2} \}

= \frac{1}{(2π)^{k/2}} exp \{−\frac{(x − m)(A^{∗}A)^{−1}(x − m)^{∗}}{2} \}

= \frac{1}{(2π)^{k/2}} exp \{−\frac{(x − m)D^{−1}(x − m)^{∗}}{2} \} ,

mert A^{−1} (A^{−1})^{∗} = A^{−1} (A^{∗})^{−1} = (A^{∗}A)^{−1}. Innen következik a Tétel állítása.

Megjegyzés: Egy több-dimenziós normális eloszlású valószínűségi változó karakterisztikus függvényét megadó képletben a kovariancia mátrix szerepel, míg a sűrűségfüggvényét megadó képletben a kovariancia mátrix inverze. Mivel a karakterisztikus függvény kiszámolásában nem kell invertálni a kovariancia mátrixot, ezért a karakterisztikus függvény segítségével könnyebb vizsgálni a normális eloszlásfüggvények tulajdonságait.

Visszatérek az előadás elején megfogalmazott a) problémához. Megfogalmazom annak egy természetes általánosítását, amely fontos szerepet játszik a matematikai statisztikában. Az itt megfogalmazott feladat megoldására kidolgozott módszert hívják az irodalomban χ-négyzet próbának. Megmutatom, hogy a χ-négyzet próba alapjául szolgáló eredmény a több-dimenziós centrális határeloszlástétel és bizonyos lineáris algebrai eredmények következménye. A következő feladattal fogok foglalkozni.

Legyen adva k urna, és ellenőrizzük azt a feltevést, amely szerint ha egy golyót véletlenül bedobunk ezen urnák valamelyikébe, akkor az p_{j}, p_{j} > 0, valószínűséggel esik a j-

ik urnába, ∑_{j=1}^{k} p_{j} = 1. Ezen feltevés ellenőrzésének az érdekében dobjunk egymástól

függetlenül n golyót ezekbe az urnákba, és jelölje ν_{n}(j) a j-ik urnába eső golyók számát. Döntsük el a kapott eredmény alapján, hogy feltevésünk helyes volt-es.

Be fogjuk látni, hogy feltevésünk teljesülése esetén a ∑_{j=1}^{k} \frac{(ν_{n}(j)−np_{j})^{2}}{np_{j}} valószínűségi vál-

tozóknak létezik határeloszlásuk n → ∞ esetén, és ez a határeloszlás az úgynevezett k − 1 szabadságfokú χ^{2} (szóban khi négyzet) eloszlás.

Megfogalmazom ezt az eredményt pontosabban is. Először bevezetem a χ^{2} eloszlások definicióját.

A k szabadságfokú χ^{2} eloszlás definiciója. Legyen ξ_{1}, …, ξ_{k} k darab független

standard normális eloszlású valószínűségi változó. Ekkor a ∑_{j=1}^{k} ξ_{j}^{2} valószínűségi változó

eloszlását nevezzük k szabadságfokú χ^{2}(k) eloszlásnak.

Megjegyzés: Láttuk a gyakorlaton, hogy a 2 szabadságfokú χ^{2}(2) eloszlás a λ = \frac{1}{2} paraméterű exponenciális eloszlás, azaz az az eloszlás, amelynek sűrűségfüggvénye az f(x) = \frac{1}{2}e^{−x/2}, ha x ≥ 0, és f(x) = 0, ha x < 0.

Ezután megfogalmazom a χ^{2} próba alapjául szolgáló eredményt.

Tétel urnadobás eredményének aszimptotikus viselkedéséről. Legyen adva k darab urna, amelyekbe bedobunk egymástól függetlenül golyókat úgy, hogy mindegyik

golyó p_{j} valószínűséggel esik a j-ik urnába, 1 ≤ j ≤ k, ∑_{j=1}^{k} p_{j} = 1. Jelölje ν_{n}(j) a

j-ik urnába eső golyók számát n dobás után. Ekkor a

T_{n} = ∑_{j=1}^{k} \frac{(ν_{n}(j) − np_{j})^{2}}{np_{j}} , n = 1, 2, …,

valószínűségi változók eloszlásban konvergálnak a k − 1 szabadságfokú χ^{2}(k − 1) eloszláshoz, ha n → ∞. (Az urnák k száma rögzített.)

Megjegyzem, hogy a fenti tételben megjelenő határeloszlás csak az urnák k számától függ, de nem függ a p_{j}, 1 ≤ j ≤ k, valószínűségektől. Ez jelzi azt, hogy természetes statisztikát vezettünk be, olyat amelyben a különböző urnákban levő golyók számának az eltérése annak várható értékétől egyforma fontos szerepet játszik. Az, hogy a határeloszlás a k − 1 szabadságfogú χ^{2}(k − 1) eloszlás, azzal függ össze, hogy bár k véletlen szám súlyozott négyzetösszegét tekintettük, (az egyes urnákba eső golyók számának eltérését tekintettük azok várható értékétől), de ezek között van egy determinisztikus összefüggés. Nevezetesen az, hogy az összes urnába eső golyók száma minusz azok várható értéke nullával egyenlő. Ezt informálisan úgy szokták interpretálni, hogy k − 1 szabadsági fokkal rendelkező véletlen vektorok koordinátáinak a négyzetösszegét tekintettük, illetve azok határeloszlását. Ilyen esetben a határeloszlást olyan véletlen összeg adja meg, amelyben mindegyik szabadsági foknak egy olyan összeadandó felel meg, amely független a többi összeadandótól, és az egy standard normális eloszlású valószínűségi változó négyzete.

A tétel bizonyítását több lépésben adom meg. Az első lépésben bebizonyítom a határeloszlástételt, de a határeloszlás nem a számunkra rokonszenves alakban fog megjelenni.

Lemma a χ-négyzet statiszika határeloszlásának létezéséről. Tekintsük az urnadobás eredményének aszimptotikus viselkedéséről szóló tételt és az abban definiált

ν_{n}(j) valószínűségi változókat illetve a segítségükkel bevezetett T_{n} = ∑_{j=1}^{k} \frac{(ν_{n}(j)−np_{j})^{2}}{np_{j}},

n = 1, 2, …, kifejezéseket. A T_{n} valószínűségi változók eloszlásban konvergálnak egy olyan nulla várható értékű (ξ_{1}, …, ξ_{k}) normális eloszlású véletlen vektor koordinátáinak

∑_{j=1}^{k} ξ_{j}^{2} négyzetösszegéhez, amelynek D = (d_{i,j}), 1 ≤ i, j ≤ k, kovariancia mátrixát a

d_{i,j} = −\sqrt{p_{i}p_{j}}, ha i ≠ j, 1 ≤ i, j ≤ k, d_{j,j} = 1 − p_{j} 1 ≤ j ≤ k  (2)

képlet adja meg.

A lemma bizonyítása. Definiáljuk a következő X^{(l)} = (X_{1}^{(l)}, …, X_{k}^{(l)}) k-dimenziós véletlen vektorokat. X_{j}^{(l)} = \frac{1}{\sqrt{p_{j}}}, ha az l-ik dobásban a golyó a j-ik urnába esett,

és X_{j}^{(l)} = 0, ha nem a j-ik urnába esett, 1 ≤ l ≤ n, 1 ≤ j ≤ k. Vezessük be továbbá a S̄^{(n)} = (S̄_{1}^{(n)}, …, S̄_{k}^{(n)}) normalizált összeget, ahol S̄_{j}^{(n)} = \frac{1}{\sqrt{n}}(S_{j}^{(n)} − ES_{j}^{(n)}),

és S_{j}^{(n)} = \frac{1}{\sqrt{n}} ∑_{l=1}^{n} X_{j}^{(l)}, 1 ≤ j ≤ k. Ekkor a X^{(l)}, 1 ≤ l ≤ n, vektorok függetlenek, kovari-

ancia mátrixuk a (2) formulában definiált D = (d_{i,j}) mátrix, \frac{ν_{n}(j)}{\sqrt{p_{j}}} = S_{j}^{(n)}, 1 ≤ j ≤ k, és

a többváltozós centrális határeloszlástétel alapján az S̄^{(n)} véletlen vektorok eloszlásban konvergálnak egy nulla várható értékű a (2) formulában megadott kovarianca mátrixú

(ξ_{1}, …, ξ_{k}) normális eloszlású véletlen vektorhoz. Ezenkívül igaz a T_{n} = ∑_{j=1}^{k} \binom{}{S̄_{j}^{(n)}}^{2}

azonosság. Ezért a a lemma állítása következik az 1. tétel az eloszlásbeli konvergencia tu-

lajdonságairól néven megfogalmazott eredmányből u(x_{1}, …, x_{k}) = ∑_{j=1}^{k} x_{j}^{2} választással.

Ezután a tétel bizonyításához elegendő a következő lemmát belátni.

Lemma a χ^{2} statisztikában megjelenő határeloszlástétel jellemzéséről. Legyen (ξ_{1}, …, ξ_{k}) normális eloszlású valószínűségi változó nulla várható értékkel és a (2) formulában definiált D = (d_{i,j}), 1 ≤ i, j ≤ k, kovariancia mátrix-szal. Ekkor ∑_{j=1}^{k} ξ_{j}^{2}

χ^{2}(k − 1) eloszlású valószínűségi változó.

Ennek a lemmának a bizonyításában hasznos a következő önmagában is érdekes lemma.

Lemma normális eloszlású véletlen vektor koordináta négyzetösszeg eloszlásáról. Legyen η = (η_{1}, …, η_{k}) k-dimenziós normális eloszlású valószínűségi változó nulla várható értékkel és D kovariancia mátrix-szal. Legyenek a D mátrix sajátértékei a

λ_{1}, …, λ_{k} számok (multiplicitással). Ekkor a ∑_{j=1}^{k} η_{j}^{2} valószínűségi változó eloszlása meg-

egyezik egy ∑_{j=1}^{k} λ_{j}ξ_{j}^{2} valószínűségi változó eloszlásával, ahol ξ_{1}, …, ξ_{k} független standard

normális eloszlású valószínűségi változók.

Bizonyítás: A D mátrix felírható D = UΛU^{∗} alakban, ahol U unitér, Λ pedig olyan diagonális mátrix, amelynek átlójában a D mátrix λ_{j} sajátértékei vannak (multiplicitással). (Az U mátrix is felírható explicit módon a D mátrix sajátvektorainak segítségével, de erre a tényre most nincs szükségünk.)

Az η = (η_{1}, …, η_{k}) véletlen vektor eloszlása megegyezik egy η̄ = (η̄_{1}, …, η̄_{k}) = ξΛ^{1/2}U^{∗} = (ξ_{1}, …, ξ_{k})Λ^{1/2}U^{∗} véletlen vektor eloszlásával, ahol ξ = (ξ_{1}, …, ξ_{k}) standard normális eloszlású véletlen vektor. Valóban η̄ normális eloszlású véletlen vektor, melynek várható értéke nulla és kovariancia mátrixa a

(Λ^{1/2}U^{∗})^{∗}Λ^{1/2}U^{∗} = UΛ^{1/2}Λ^{1/2}U^{∗} = UΛU^{∗} = D

mátrix. Innen az is következik, hogy a ∑_{j=1}^{k} η_{j}^{2} valószínűségi változó eloszlása megegyezik

a ∑_{j=1}^{k} η̄_{j}^{2} valószínűségi változó eloszlásával. Vegyük észre, hogy az η̃ = (η̃_{1}, …, η̃_{k}) =

η̄U = (η̄_{1}, …, η̄_{k})U vektorra teljesül a ∑_{j=1}^{k} η̄_{j}^{2} = ∑_{j=1}^{k} η̃_{j}^{2} azonosság, mert U unitér, tehát

távolságtartó transzformáció. Viszont η̃ = η̄U = ξΛ^{1/2}U^{∗}U = ξΛ^{1/2}. Ez azt je-

lenti, hogy a ∑_{j=1}^{k} η_{j}^{2} valószínűségi változó eloszlása megegyezik a ∑_{j=1}^{k}(λ_{j}^{1/2}ξ_{j})^{2} = ∑_{j=1}^{k} λ_{j}ξ_{j}^{2}

valószínűségi változó eloszlásával, és ez a Lemma állítása.

A χ^{2} statisztikában megjelenő határeloszlástétel jellemzéséről szóló lemma bizonyítása. Az előző lemma alapján elég azt megmutatni, hogy a (2) képletben definiált D kovariancia mátrixnak az 1 k − 1 multiplicitású sajátértéke (azaz a D mátrixnak k − 1 ortonormált 1 sajátértékkel rendelkező sajátvektora van) és ezenkívül még a nulla a sajátértéke 1-szeres multiplicitással.

Írjuk fel a D mátrixot D = I − B alakban, ahol I az identitás mátrix, B = (b_{i,j}), b_{i,j} = \sqrt{p_{i}}\sqrt{p_{j}}, 1 ≤ i, j ≤ k. A B mátrix sajátvektorait és sajátértékeit egyszerűen ki tudjuk számolni. Valóban, az e_{1} = (\sqrt{p_{1}}, …, \sqrt{p_{k}}) vektor a B mátrix 1 sajátértékű sajátvektora. Egészítsük ki az e_{1} vektort egy tetszőleges e_{1}, e_{2}, …, e_{k} ortonormált bázissá az R^{k} Euklideszi térben. Ekkor az e_{j}, 2 ≤ j ≤ k, vektorok a B mátrix

nulla sajátértékű sajátvektorai, mert az (e_{1}, e_{j}) = 0 (azaz a ∑_{r=1}^{k} \sqrt{p_{r}}x_{r}^{(j)} = 0, ha

e_{j} = (x_{1}^{(j)}, …, x_{k}^{(j)})) azonosságból és a B mátrix alakjából következik, hogy e_{j}B = 0. Abból, hogy az e_{j} vektorok a B mátrix sajátvektorai λ_{1} = 1 és λ_{j} = 0, ha j ≥ 2 sajátértékkel következik, hogy e vektorok a D = I − B mátrixnak is sajátvektorai λ̄_{j} = 1 − λ_{j} sajátértékekkel, azaz λ̄_{1} = 0, és λ̄_{j} = 1, ha 2 ≤ j ≤ k.

Kiegészítés: Megjegyzés a többváltozós centrális határeloszlástétel alakjáról. A többváltozós centrális határeloszlástételt az (1) formulában fogalmaztam meg. Eszerint az ebben a formulában felírt azonosság érvényes a határeloszlás minden folytonossági pontjában. Abban az esetben, ha a (normális) határeloszlás kovariancia mátrixa elfajuló, akkor ez az eloszlás az Euklideszi tér egy (valódi) alterére van koncentrálva, és a határeloszlásnak lehetnek szakadási pontjai. Ez a többváltozós centrális határeloszlástételben megjelenő megszorítás nem okoz problémát az alkalmazásokban. Megmutatom mégis, hogy érvényes a többváltozós centrális határeloszlástételnek az az általánosabb alakja, amely szerint az (1) formulában megfogalmazott azonosság minden (x_{1}, …, x_{k}) ∈ R^{k} pontban érvényes, és nemcsak a Φ_{D} határeloszlásfüggvény folytonossági pontjaiban. Ennek az eredménynek a bizonyítása azon múlik, hogy a többváltozós centrális határeloszlástételben olyan véletlen vektorok határeloszlását tekintettük, amelyek ugyanabba az altérbe vannak koncentrálva, mint a (normális) határeloszlás.

Az (1) formula általános alakjának bizonyítása érdekében bebizonyítok egy lemmát. Ennek megfogalmazása előtt felidézem, hogy a lineáris algebrában bevezettük egy mátrix rangját. Ez egyenlő a mátrix sorvektorai (vagy oszlopvektorai) által kifeszített altér dimenziójával. (A sor illetve oszlopvektorok által kifeszített altér dimenziója megegyezik. Ezt és néhány további alapvető lineáris algebrai tényt külön magyarázat nélkül fogok használni a bizonyításban.)

Lemma több-dimenziós véletlen vektorok eloszlásáról. Legyen egy nulla várható értékű ξ = (ξ_{1}, …, ξ_{k}) véletlen vektor D kovariancia mátrixának a rangja r, r ≤ k. Ekkor létezik a k-dimenziós Euklideszi térnek olyan csak a D kovariancia mátrixtól függő S r-dimenziós altere, amelyre igaz, hogy a ξ véletlen vektor egy valószínűséggel ebbe az S altérbe van koncentrálva, azaz P ((ξ_{1}(ω), …, ξ_{k}(ω)) ∈ S) = 1. Sőt igaz a következő

állítás is. Létezik r olyan η_{j} = ∑_{l=1}^{k} a(j, l)ξ_{l}, 1 ≤ j ≤ r, valószínűségi változó csak a

D kovariancia mátrixtól függő a(j, l) együtthatókkal, amelyekre Eη_{j}^{2} = 1, 1 ≤ j ≤ r, Eη_{j}η_{l} = 0, ha 1 ≤ j, l ≤ r, és j ≠ l. Ezenkívül a ξ_{j} valószínűségi változók is kifejezhetőek

az η_{j} valószínűségi változók lineáris kombinációjaként ξ_{j} = ∑_{l=1}^{r} b(j, l)η_{l}, 1 ≤ j ≤ k,

alakban alkalmas csak a D kovariancia mátrixtól függő b(j, l) együtthatókkal.

Az (1) formula kiterjesztése az általános esetre azon múlik, hogy a tekintett normalizált részletösszegek ugyanabba az altérbe vannak koncentrálva, mint a határeloszlás.

Ezt a lineáris alteret az a képlet határozza meg, amely megmutatja, hogy a ξ véletlen vektort hogyan lehet kifejezni az r η_{j} valószínűségi változó lineáris kombinációjaként.

A lemma bizonyítása. A D kovariancia mátrixot fel lehet írni D = UΛ^{2}U^{∗} alakban, ahol U unitér Λ pedig diagonális mátrix, amelynek első r diagonális eleme, λ_{1}, …, λ_{r} szigorúan pozitív, a további diagonális elemek pedig nullák. (Itt használtuk ki, hogy a D mátrix rangja r.) Jelölje u_{j,l} a D mátrix fenti reprezentációjában szereplő U unitér mátrix j-ik sorában és l-ik oszlopában levő elemet. Definiáljuk az η̄ = (η̄_{1}, …, η̄_{k})

vektort az η̄_{j} = ∑_{l=1}^{k} u_{j,l}ξ_{l}, 1 ≤ j ≤ k, képlettel. (Mátrix jelöléssel η̄ = ξU^{∗}). Ekkor

ξ = η̄U, azaz ξ_{j} = ∑_{l=1}^{k} η̄_{l}u_{l,j}, és némi számolással azt kapjuk, hogy a η̄ kovariancia

mátrixa az U^{∗}DU = Λ^{2} mátrix. Innen speciálisan az is adódik, hogy Eη̄_{j}^{2} = 0, és η̄_{j} = 0 egy valószínűséggel minden r + 1 ≤ j ≤ k indexre. Definiáljuk az η_{j} = \frac{η̄_{j}}{λ_{j}}, 1 ≤ j ≤ r, valószínűségi változókat, és legyen a(j, l) = λ_{j}u_{j,l}, 1 ≤ j ≤ r, 1 ≤ l ≤ k.

Ekkor Eη_{j}^{2} = 1, Eη_{j}η_{l} = 0, ha j ≠ l, 1 ≤ j, l ≤ r, és η_{j} = ∑_{l=1}^{k} a(j, l)ξ_{l}, 1 ≤ j ≤ r.

Továbbá ξ_{j} = ∑_{l=1}^{r} b(j, l)η_{l}, 1 ≤ j ≤ k, b(j, l) = u_{l,j}λ_{l} együtthatókkal. Végül az S altér,

ahová a ξ vektor van koncentrálva megegyezik a ξ_{j} = ∑_{l=1}^{r} b(j, l)y_{l}, 1 ≤ j ≤ k, 1 ≤ l ≤ r,

alakú vektorokból álló altérrel.

Az (1) formula bizonyítása az általános esetben. Alkalmazzuk az előző lemmát a többváltozós centrális határeloszlástételben bevezetett mennyiségek segítségével a ξ^{(n)} = (ξ_{1}^{(n)}, …, ξ_{k}^{(n)}), ξ_{j}^{(n)} = \frac{1}{\sqrt{n}}(S_{j}^{(n)} − ES_{j}^{(n)}), 1 ≤ j ≤ k, véletlen vektorra minden n = 1, 2, … indexre. Jegyezzük meg, hogy ezen vektorok D kovariancia mátrixa nem függ az n indextől. A többváltozós centrális határeloszlástételből következik, hogy az η_{j}^{(n)} =

∑_{l=1}^{k} a(j, l)ξ_{l}^{(n)}, 1 ≤ j ≤ r, véletlen vektorok eloszlásban konvergálnak az r-változós

standard normális eloszlásfüggvényhez, amely minden pontban folytonos. Másrészt a minket érdeklő valószínűségeket ki lehet fejezni

P (ξ_{1}^{(n)} < x_{1}, …, ξ_{k}^{(n)} < x_{k}) = P (∑_{l=1}^{r} b(1, l)η_{l}^{(n)} < x_{1}, …, ∑_{l=1}^{r} b(k, l)η_{l}^{(n)} < x_{k})

alakban. Azt kell belátni, hogy

lim_{n→∞} P (∑_{l=1}^{r} b(1, l)η_{l}^{(n)} < x_{1}, …, ∑_{l=1}^{r} b(k, l)η_{l}^{(n)} < x_{k})

= P (∑_{l=1}^{r} b(1, l)ζ_{l} < x_{1}, …, ∑_{l=1}^{r} b(k, l)ζ_{l} < x_{k}) ,

ahol ζ_{1}, …, ζ_{r} független standard normális eloszlású valószínűségi változók. Ezt be lehet látni a többváltozós centrális határeloszlástétel és a 2. tétel az eloszlásbeli konvergencia tulajdonságairól segítségével. A részletek kidolgozását elhagyom.