A Valószínűségszámítás I. előadássorozat tizenharmadik előadása. 2003. május 6.

A több-dimenziós centrális határeloszlástétel

Lássunk előbb néhány problémát, melyek megmutatják milyen kérdéseket kívánunk vizsgálni.

a.) Tekintsünk egy dobókockát. Feldobjuk sokszor, felírjuk a dobások eredményét, és ennek alapján akarjuk eldönteni, hogy a dobókocka szabályos-e. Természetes azt várni, hogy a dobókocka akkor szabályos, ha mindegyik dobáseredmény a dobásszámok egyhatoda plusz egy kis eltérés. De mely eltéréseket tekinthetünk kicsinek? Ha csak azt nézzük, mennyi annak a valószínűsége annak, hogy például a hatos dobások számának eltérése a dobások számának egyhatodától kisebb mint egy adott szám, akkor a centrális határeloszlástétel pontos leírást ad erre a problémára. De ha a különböző dobáseredmények együttes viselkedésére vagyunk kiváncsiak, akkor új eredményre van szükségünk.

b.) Legyenek ξ_{1}, …, ξ_{n} független a [−\frac{1}{2}, \frac{1}{2}] intervallumban egyenletes eloszlású való-

színűségi változók. Ekkor a ∑_{j=1}^{n} ξ_{j} összeg normalizáltjának az eloszlására jó leírást

ad a centrális határeloszlástétel. Hasonló állítást mondhatunk a ∑_{j=1}^{n} ξ_{j}^{2} összeg nor-

malizáltjának az eloszlására. De tudunk-e hasonló eredményt adni a ∑_{j=1}^{n} ξ_{j} és

∑_{j=1}^{n} ξ_{j}^{2} összegek normalizáltjának az együttes eloszlására? Erre a kérdésre a több-

dimenziós centrális határeloszlástétel ad pozitív választ.

Legyenek ξ^{(j)} = (ξ_{1}^{(j)}, …, ξ_{k}^{(j)}), j = 1, 2, …, független, egyforma eloszlású kdimenziós valószínűségi változók, (véletlen vektorok), ahol rögzített j indexre semmilyen (függetlenség jellegű) feltételt nem teszünk fel az ξ_{1}^{(j)}, …, ξ_{k}^{(j)} valószínűségi változók között. (Többdimenziós valószínűségi változók függetlenségének a fogalmát ismertettem a 9. előadás elején, és az megtalálható az előadás ismertetésének első oldalán.) Tegyük fel továbbá, hogy Eξ_{s}^{(j)}^{2} < ∞ minden 1 ≤ s ≤ k indexre. Tekintsük

az S_{n} = (S_{n,1}, …, S_{n,k}) = ∑_{j=1}^{n} ξ^{(j)} = ( ∑_{j=1}^{n} ξ_{1}^{(j)}, …, ∑_{j=1}^{n} ξ_{k}^{(j)}), n = 1, 2, …, véletlen

összegeket. Célunk annak bizonyítása, hogy az S_{n} véletlen vektorok alkalmas normalizáltjának létezik határeloszlása, és a határeloszlást pontosan le akarjuk írni. Be fogjuk látni, hogy ez lehetséges. A határeloszlástételben megjelenő határeloszlásokat fogjuk több-dimenziós normális eloszlásnak nevezni.

Lássuk, hogyan lehet tárgyalni a fent említett két problémát egy ilyen jellegű eredmény segítségével. Az a) feladat vizsgálatának érdekében vezessük be a következő valószínűségi változókat: Ha a dobókockát n alkalommal dobjuk fel, akkor legyen ξ_{j}, 1 ≤ j ≤ n, a következő valószínűségi 6-dimenziós változó: A ξ_{j} valószínűségi változó l-ik koordinátája 1, ha a j-ik dobás értéke l, 1 ≤ l ≤ 6, és ξ_{j} összes többi koordinátája nulla. Ekkor a ξ_{j} valószínűségi változók függetlenek, (az egyes valószínűségi változók

koordinátái nem azok), és az S_{n} = ∑_{j=1}^{n} ξ_{j} összeg l-ik koordinátája egyenlő az l értékű

dobások számával minden 1 ≤ l ≤ 6 index esetén. Ezért egy az S_{n} véletlen összeg aszimptotikus viselkedését nagy n számokra leíró határeloszlástétel hasznos lehet a számunkra. Hasonló a helyzet a b) példában, ha olyan η_{j} = (ξ_{j}, ξ_{j}^{2}), 1 ≤ j ≤ n,

két-dimenziós független vektorok, S_{n} = ∑_{j=1}^{n} η_{j} összegét vizsgáljuk, amelyekre ξ_{1}, …, ξ_{n}

független, a [−\frac{1}{2}, \frac{1}{2}] intervallumban egyenletes eloszlású valószínűségi változók.

Fő célunk annak az eredménynek az ismertetése és megértése, amelyik a centrális határoszlástétel természetes megfelelője abban az esetben, ha független (és mondjuk egyforma eloszlású véletlen vektorok alkalmasan normált összegének a viselkedését vizsgáljuk. Annak érdekében, hogy ezt megtehessük meg kell találnunk a határeloszlásban megjelenő normális eloszlás több-dimenziós megfelelőjét, amit több-dimenziós normális eloszlásnak fogunk nevezni. De mielőtt ezt megtesszük szükségünk van van az egy-di-menziós esetben szereplő várható érték és szórásnégyzet több-dimenziós megfelelőjét. Ezenkívül meg akarjuk érteni, hogy a várható érték és szórásnégyzet tulajdonságai, hogyan öröklődnek, ha azokanak a több-dimenziós esetben megjelenő megfelelőit vizsgáljuk. Az egy-dimenziós esetben megjelenő várható értéknek megfelelő több-dimenziós várható érték (vektor) fogalmának és tulajdonságainak a megértése viszonylag egyszerű, de a szórásnégyzetnek megfelelő kovariancia mátrix tulajdonságainak jó megértése szükségessé teszi néhány a lineáris algebrában tanult fogalom és eredmény felelevenítését. Megjegyzem hogy most és a továbbiakban is a több-dimenziós vektorokat mint sorvektorokat tekintem. Valójában mind a sor mind az oszlopvektor jelölés lehetséges. Egyik jelőlés sem jobb a másiknál, és az irodalomban nem egységes a jelölés. A fontos az, hogy következetes jelölést alkalmazzunk.

Több-dimenziós valószínűségi változó várható értékének és kovariancia mátrixának a definiciója. Legyen Z = (Z_{1}, …, Z_{k}) k-dimenziós véletlen vektor, amelynek minden koordinátája teljesíti az EZ_{j}^{2} < ∞, 1 ≤ j ≤ k, feltételt. E véletlen vektor várható értéke az EZ = (EZ_{1}, …, EZ_{k}) k-dimenziós vektor, kovariancia mátrixa pedig az a D = (d_{j,l}), 1 ≤ j, l ≤ k, k × k méretű mátrix, mely mátrix j-ik sorában és l-ik oszlopában lévő elem a d_{j,l} = Cov (Z_{j}, Z_{l}) = EZ_{j}Z_{l} − EZ_{j}EZ_{l} szám.

Fogalmazzuk meg a vektorértékű valószínűségi változók várható értékének és kovariancia mátrixának néhány fontos tulajdonságát. Az alábbi tétel formájában megfogalmazott állítás bizonyítása a gyakorlaton tárgyalandó feladat lesz.

Tétel. Legyenek Z^{(j)} = (Z_{1}^{(j)}, …, Z_{k}^{(j)}), 1 ≤ j ≤ n, véletlen k-dimenziós vektorok

ugyanazon az (Ω, A, P) valószínűségi mezőn. Ekkor a Z^{(1)} + ⋯ + Z^{(n)} összeg várható értéke megegyezik a Z^{(j)} vektorok várható értékeinek az összegével, azaz

E (Z^{(1)} + ⋯ + Z^{(n)}) = EZ^{(1)} + ⋯ + EZ^{(n)}.

Ha a Z^{(j)}, 1 ≤ j ≤ n, véletlen vektorok függetlenek, akkor a kovariancia mátrix is additív, azaz, ha a Z^{(j)} mátrix kovariancia mátrixa a D_{j} mátrix, 1 ≤ j ≤ n, akkor a Z_{(1)} +⋯+Z^{(n)} véletlen összeg kovariancia mátrixa a D_{1} +⋯+D_{n} mátrix. Ha egy Z = (Z_{1}, …, Z_{k}), véletlen vektor várható értéke M = (M_{1}, …, M_{k}), kovariancia mátrixa a D k ×k méretű mátrix, a tetszőleges valós szám, akkor az aZ = (aZ_{1}, …, aZ_{k}), véletlen vektor várható értéke aM, kovariancia mátrixa pedig az a^{2}D kovariancia mátrix. Legyen továbbá x = (x_{1}, …, x_{k}) tetszőleges k-dimenziós vektor. Ekkor E(Z + x) = EZ + x, a Z + x vektor kovariancia mátrixa pedig megegyezik a Z vektor kovariancia mátrixával.

Feladat: Bizonyítsuk be a fent megfogalmazott tételt.

A következő eredmény célja annak jellemzése, hogy milyen mátrixok jelenhetnek meg, mint alkalmas véletlen vektor kovariancia mátrixa. Ennek az eredménynek az ismertetésében és bizonyításában fel kell használnunk a lineáris algebra néhány alapvető fogalmát és eredményét. Igyekszem az állításokat úgy leírni, hogy önmagukban érthetőek legyenek, Viszont egy kiegészítésben leírom a felhasznált eredmények ismertetését és bizonyítását.

Először idézzük fel a következő lineáris algebrai fogalmat.

Szimmetrikus és pozitív (szemi)definit mátrixok definiciója. Legyen D = (d_{j,l}) egy k × k méretű mátrix. Azt mondjuk, hogy a D mátrix szimmetrikus, ha minden 1 ≤ j, l ≤ k indexre d_{j,l} = d_{l,j}. Pontosabban azt követeljük meg, (ha nemcsak valós, hanem általános komplex értékű elemekkel rendelkező mátrixokat is tekintünk, ami ebben az előadásban nem fog előfordulni), hogy d_{j,l} = d̄_{l,j}, ahol z̄ a z komplex szám konjugáltja, azaz, ha z = a + ib, akkor z̄ = a − ib. Egy k × k méretű szimmetrikus D = (d_{j,l}) mátrix positív (szemi)definit, ha minden x = (x_{1}, …, x_{k}) k-dimenziós vektorra xDx^{∗} =

∑_{j=1}^{k} ∑_{l=1}^{k} x_{j}d_{j,l}x_{l} ≥ 0. (Ebben a formulában x^{∗} jelöli az x vektor transzponáltját, azaz

azt az oszlopvektort, amelynek fölülről számíva l-ik eleme megegyezik az x vektor balról számított l-ik elemével. Ekkor xDx^{∗} a szokásos vektorszorzást jelöli.

A D = (d_{i,j}) szimmetrikus mátrixot (szigorúan) pozitív definitnek nevezünk, ha

pozitív szemidefinit, és ráadásul a xDx^{∗} = ∑_{j=1}^{k} ∑_{l=1}^{k} x_{j}d_{j,l}x_{l} = 0 reláció csak abban a

triviális esetben teljesül, ha x_{1} = x_{2} = ⋯ = x_{k} = 0.

Az eredmények és fogalmak jobb megértése érdekében érdemes megadni a fent leírt koordinátarendszerben leírt definiciók koordinátarendszertől független ,,absztrakt” definicióját is és megérteni a két definició kapcsolatát. Ennek leírását (a bizonyítások többségének elhagyásával) megadom a kiegészítésben. A következő eredményben megfogalmazom azt a fontos eredményt, amely megadja a kovariancia mátrixok jellemzését. A bizonyítás felhasznál bizonyos nem triviális lineáris algebrai eredményeket is.

Tétel a kovariancia mátrixok jellemzéséről. Legyen Z = (Z_{1}, …, Z_{k}) egy kdimenziós véletlen vektor. Ekkor a Z vektor kovariancia mátrixa szimmetrikus és pozitív szemidefinit mátrix. Megfordítva, tetszőleges D szimmetrikus, pozitív szemidefinit mátrixhoz létezik olyan Z = (Z_{1}, …, Z_{k}) véletlen vektor, amelynek ez a D mátrix a kovariancia mátrixa. Sőt igaz a következő tartalmasabb állítás is: Legyen Y = (Y_{1}, …, Y_{k}) olyan véletlen vektor, amelynek a kovariancia mátrixa az identitás mátrix, azaz Var Y_{j} = 1, 1 ≤ j ≤ k, Cov (Y_{j}, Y_{l}) = 0, ha 1 ≤ j, l ≤ k, és j ≠ l. (Ez a helyzet például akkor, ha az Y_{j}, 1 ≤ j ≤ k valószínűségi változók függetlenek, és Var Y_{j} = 1.) Ekkor létezik olyan A = (a_{j,l}) k×k méretű mátrix, amelyre igaz, hogy a Z = (Z_{1}, …, Z_{k}) = (Y_{1}, …, Y_{k})A =

( ∑_{p=1}^{k} a_{1,p}Y_{p}, …, ∑_{p=1}^{k} a_{k,p}Y_{p}) véletlen vektor kovariancia mátrixa a D mátrix.

Igaz továbbá a következő állítás is. Egy Z = (Z_{1}, …, Z_{k}) véletlen vektor kovariancia mátrixa akkor és csak akkor (szigorúan) pozitív definit, ha e vektor koordinátái között

nincs lineáris összefüggés, azaz ha x_{1}, …, x_{k} valós számokra ∑_{j=1}^{k} x_{j}Z_{j} = K valamilyen

K (determinisztikus) valós számra egy valószínűséggel, akkor x_{1} = ⋯ = x_{k} = 0.

Megjegyzés: Ez az állítás annak a valószínűségi változókról szóló egyszerű eredménynek több-dimenziós megfelelője, amely szerint egy valószínűségi változó szórásnégyzete nem negatív szám. Továbbá azt is tudjuk, hogy egy valószínűségi változó szórásnégyzete szigorúan pozitív, ha ez a valószínűségi változó nem egyenlő egy konstanssal egy valószínűséggel. Ennek a ténynek a megfelelője a tétel végén kimondott állítás, amely szerint egy véletlen vektor kovariancia mátrixa pozitúv definit, ha nincs a véletlen vektor koordinátáinak olyan lineáris kombinációja, amelyik egy valószínűséggel megegyezik egy számmal. Ugyanis a nem negatív számoknak a pozitív szemidefinit mátrixok a pozitív számoknak pedig a pozitív definit mátrixok felelnek meg magasabb dimenzióban. Magának a tételnek a bizonyítása egy alább megfogalmazandó nem triviális lineűáaris algebrai eredményen alapul, amelyik azt mondja ki, hogy egy pozitív szemidefinit mátrix felírható, mint egy alkalmas mátrix nényzete. Ez az állítás annnak a ténynek a többdimenziós megfelelője, amely szerint pozitív számokból lehet négyzetgyököt vonni. Jegyezzük meg, hogy a pozitív szemidefinit mátrixokból vont négyzetgyók nem egyértelműen meghatározott, mint ahogy a valós számok között is csak akkor egyértelmű a gyökvonás, ha csak a pozitív gyököt tekintjük. leírni.

Tétel a lineáris algebrából. Legyen D pozitív szemidefinit mátrix. Ekkor létezik olyan A mátrix, amelyre érvényes a D = A^{∗}A azonosság, ahol A^{∗} az A mátrix transzponáltját jelöli. Sőt, olyan A mátrixot is választhatunk, amelyre az A mátrix önadjungált és szemidefinit, és D = A^{2}. Eme megszorítás esetén az D = A^{∗}A = AA egyenlet megoldása egyértelmű. (Egy A = (a_{j,l}) k ×k méretű mátrix transzponáltja az A^{∗} = (a_{l,j}), illetve az általános komplex számokat is tartalmazó mátrixok esetében az A^{∗} = (ā_{l,j}) k ×k méretű mátrix, ahol z̄ a z komplex szám konjugáltja.)

A tétel bizonyítása a lineáris algebráról kimondott tétel segítségével. Tekintsünk először egy Z = (Z_{1}, …, Z_{k}) egy k-dimenziós véletlen vektort és annak D = (d_{j,l}), d_{j,l} = Cov (Z_{j}, Z_{l}), 1 ≤ j, l ≤ k, kovariancia mátrixát. Ekkor D szimmetrikus mátrix, mert d_{j,l} = d_{l,j}, azaz Cov (Z_{j}, Z_{l}) = Cov (Z_{l}, Z_{j}). Másrészt tetszőleges x = (x_{1}, …, x_{k}) k-dimenziós vektorra

Var (∑_{j=1}^{k} x_{j}Z_{j}) = ∑_{j=1}^{k} ∑_{l=1}^{k} E (x_{j}x_{l}(Z_{j}Z_{l} − EZ_{j}EZ_{l})) = ∑_{j=1}^{k} ∑_{l=1}^{k} x_{j}x_{l}Cov (Z_{j}, Z_{l})

= ∑_{j=1}^{k} ∑_{l=1}^{k} x_{j}x_{l}d_{j,l} = xDx^{∗},

és Var ( ∑_{j=1}^{k} x_{j}Z_{j}) ≥ 0. Innen következik, hogy xDx^{∗} ≥ 0 tetszőleges x = (x_{1}, …, x_{k})

k-dimenziós vektorra, azaz D szimmetrikus pozitív szemidefinit mátrix.

Megfordítva, legyen D pozitív szemidefinit mátrix, és Y = (Y_{1}, …, Y_{k}) olyan véletlen vektor, amelynek a kovariancia mátrixa az identitás mátrix, azaz Var Y_{j} = 1, 1 ≤ j ≤ k, Cov (Y_{j}, Y_{l}) = 0, ha 1 ≤ j, l ≤ k, és j ≠ l. A kimondott lineáris algebrai eredmény szerint létezik olyan A = (a_{j,l}), 1 ≤ j, l ≤ k k × k méretű mátrix, amelyre D = A^{∗}A. Azt állítom, hogy a Z = (Z_{1}, …, Z_{k}) = Y A, azaz a Z = (Z_{1}, …, Z_{k}), Z_{j} =

∑_{p=1}^{k} a_{p,j}Y_{p}, 1 ≤ j ≤ k, véletlen vektor kovariancia mátrixa a D mátrix. Innen következik

a feladat második állítása is. Viszont Cov (Z_{j}, Z_{l}) = Cov ( ∑_{p=1}^{k} a_{p,j}Y_{p}, ∑_{q=1}^{k} a_{q,l}Y_{q}), ezért

Cov (Z_{j}, Z_{l}) = ∑_{p=1}^{k} ∑_{q=1}^{k} a_{p,j}a_{q,l}Cov (Y_{p}, Y_{q}), ahonnan mivel Cov (Y_{p}, Y_{q}) = 0, ha p ≠ q,

és Cov (Y_{p}, Y_{p}) = 1, Cov (Z_{j}, Z_{l}) = ∑_{p=1}^{k} a_{p,j}a_{p,l} = d_{j,l}, ahol d_{j,l} a D = A^{∗}A mátrix j-ik

sorában és l-ik oszlopában szereplő konstans.

Végül a D kovariancia mátrix akkor és csak akkor (szigorúan pozitív definit, ha

xDx^{∗} > 0, azaz Var ( ∑_{j=1}^{k} x_{j}ξ_{j}) > 0, azaz ∑_{j=1}^{k} x_{j}ξ_{j} ≠ K valamilyen konstanssal minden

nem azonosan nulla (x_{1}, …, x_{k}) ≠ 0 vektorra.

Ezután be tudjuk vezetni a több-dimenziós normális eloszlásfüggvények fogalmát, és meg tudjuk fogalmazni a több-dimenziós centrális határeloszlástételt.

Több-dimenziós normális eloszlások definiciója. Definiáljuk először a több-di-menziós standard normális eloszlást. Azt mondjuk, hogy egy (ξ_{1}, …, ξ_{k}) véletlen vektor eloszlása a k-dimenziós standard normális eloszlás, ha a ξ_{1}, …, ξ_{k} valószínűségi változók függetlenek, és mindegyik ξ_{j} valószínűségi változó, 1 ≤ j ≤ k, standard normális eloszlású. Ekvivalens megfogalmazásban azt mondhatjuk, hogy egy (ξ_{1}, …, ξ_{k}) véletlen vektor eloszlása a k-dimenziós standard normális eloszlás, ha e véletlen vektornak létezik

sűrűségfüggvénye, és az az f(u_{1}, …, u_{k}) = \frac{1}{(2π)^{k/2}} exp \{−\frac{1}{2} ∑_{j=1}^{k} u_{j}^{2}\} függvény.

Egy (η_{1}, …, η_{k}) k dimenziós véletlen vektor k dimenziós normális eloszlású vektor nulla várható értékkel, ha e véletlen vektor eloszlása megegyezik valamely (η̄_{1}, …, η̄_{k}) = (ξ_{1}, …, ξ_{k})A k-dimenziós vektor eloszlásával, ahol A egy k × k méretű mátrix, továbbá (ξ_{1}, …, ξ_{k}) egy k-dimenziós standard normális eloszlású véletlen vektor.

Egy (ζ_{1}, …, ζ_{k}) véletlen vektor k-dimenziós normális eloszlású vektor, ha eloszlása megegyezik egy (η_{1}, …, η_{k}) + (m_{1}, …, m_{k}) véletlen vektor eloszlásával, ahol (η_{1}, …, η_{k}) egy k-dimenziós normális eloszlású véletlen vektor, amelynek a várható értéke nulla, és (m_{1}, …, m_{k}) k-dimenziós determinisztikus vektor.

Később meg fogjuk adni a több-dimenziós normális eloszlás más ekvivalens jellemzését. Először azonban megfogalmazunk egy a több-dimenziós centrális eloszlástétel kimondásához szükséges később bizonyítandó eredményt.

Tétel a több-dimenziós normális eloszlás tulajdonságairól. Tekintsünk egy kdimenziós (η_{1}, …, η_{k}) = (ξ_{1}, …, ξ_{k})A + (m_{1}, …, m_{k}) normális eloszlású valószínűségi változót, ahol A egy k × k méretű mátrix, m = (m_{1}, …, m_{k}) k-dimenziós (véletlentől nem függő) vektor és (ξ_{1}, …, ξ_{k}) egy k-dimenziós standard normális eloszlású véletlen vektor. Akkor (η_{1}, …, η_{k}) m = (m_{1}, …, m_{k}) várható értékű és D = A^{∗}A kovariancia mátrixú véletlen vektor. Továbbá egy k-dimenziós normális eloszlású valószínűségi változó eloszlását meghatározza annak m várható értéke és D kovariancia mátrixa.

Jegyezzük meg, hogy rögzített D (szimmetrikus és pozitív szemidefinit) mátrixra az A^{∗}A = D egyenletnek nem egyértelmű a megoldása. Tekintsünk két különböző A és B mátrixot, amelyre A^{∗}A = B^{∗}B. A fenti tétel szerint, ha tekintünk egy kdimenziós standard normális eloszlású (ξ_{1}, …, ξ_{k}) vektort, illetve a segítségével definiált (ξ_{1}, …, ξ_{k})A és (ξ_{1}, …, ξ_{k})B véletlen vektorokat, akkor bár ez az utóbbi két véletlen vektor különböző, eloszlásuk megegyezik. Ugyanis mind a két (normális eloszlású) vektor nulla várható értékű és A^{∗}A = B^{∗}B kovariancia mátrixú. Ez a tulajdonság erősen kihasználja azt, hogy normális eloszlású valószínűségi változókról van szó. Ennek további fontos következményei vannak, amelyeket később tárgyalni fogunk.

A több-dimenziós normális eloszlás tulajdonságairól szóló valamint a kovariancia mátrixok jellemzéséről szóló tételekből következik, hogy bármely (ξ_{1}, …, ξ_{k}) kdimenziós valószínűségi változó esetén létezik olyan k-dimenziós normális eloszlású valószínűségi változó, amelynek kovariancia mátrixa és várható értéke megegyezik ennek a (ξ_{1}, …, ξ_{k}) valószínűségi változónak a kovariancia mátrixával és várható értékével. Továbbá ennek a k-dimenziós normális eloszlású valószínűségi változónak az eloszlását meghatározza a (ξ_{1}, …, ξ_{k}) valószínűségi változó kovariancia mátrixa és várható értéke. Erre az észrevételre szükségünk van ahhoz, hogy lássuk: Az alább megfogalmazott többdimenziós centrális határeloszlás értelmes állítás.

A több-dimenziós centrális határeloszlástétel. Legyenek ξ^{(j)} = (ξ_{1}^{(j)}, …, ξ_{k}^{(j)}), j = 1, 2, …, független, egyforma eloszlású k-dimenziós valószínűségi változók, amelyekre teljesül az Eξ_{l}^{(1)}^{2} < ∞, 1 ≤ l ≤ k feltétel. Legyen a ξ^{(1)} = (ξ_{1}^{(1)}, …, ξ_{k}^{(1)}) vektor várható

értéke Eξ^{(1)} = (Eξ_{1}^{(1)}, …, Eξ_{k}^{(1)}), kovariancia mátrixa pedig egy D k×k méretű mátrix.

Definiáljuk az S^{(n)} = (S_{1}^{(n)}, …, S_{k}^{(n)}) = ∑_{j=1}^{n} ξ^{(j)} = ( ∑_{j=1}^{n} ξ_{1}^{(j)}, …, ∑_{j=1}^{n} ξ_{k}^{(j)}) összegeket,

n = 1, 2, . . .. Ekkor minden (x_{1}, …, x_{k}) k-dimenziós vektorra érvényes a

lim_{n→∞} P (\frac{1}{\sqrt{n}} (S_{1}^{(n)} − ES_{1}^{(n)}) < x_{1}, …, \frac{1}{\sqrt{n}} (S_{k}^{(n)} − ES_{k}^{(n)}) < x_{k}) = Φ_{D}(x_{1}, …, x_{k})

azonosság, ahol Φ_{D}(x_{1}, …, x_{k}) a k-dimenziós nulla várható értékű D kovariancia mátrixú normális eloszlásfüggvény értéke az (x_{1}, …, x_{k}) pontban.

Megjegyezzük, hogy az egydimenziós esethez hasonlóan, a több-dimenziós centrális határeloszlástételnek is létezik általánosítása független nem feltétlenül egyforma eloszlású véletlen vektorok normalizált összegeinek határeloszlására nagyon általános feltételek mellett. Ezzel a kérdéssel azonban itt nem foglalkozunk.

A több-dimenziós centrális határeloszlástétel bizonyítása hasonló a klasszikus egydimenziós esethez. Az ott bevezetett fogalmaknak és eredményeknek megadhatóak a több-dimenziós általánosításaik, és a megfelelő eredmények hasonlóan bizonyíthatóak. Ezért csak a fogalmakat és az eredményeket fogom ismertetni. Külön érdemes hangsúlyozni, hogy a vizsgálatok során bevezetjük a több-dimenziós karakterisztikus függvény fogalmát, és a több-dimenziós karakterisztikus függvények vizsgálata nagy segítséget jelent a több-dimenziós normális eloszlások viselkedésének megértésében is.

Több-dimenziós eloszlásfüggvények eloszlásban való konvergenciájának a definiciója. Legyen F_{n}(x_{1}, …, x_{k}), n = 1, 2, …, k-dimenziós eloszlásfüggvények sorozata. Azt mondjuk, hogy az F_{n}(x_{1}, …, x_{k}) eloszlásfüggvények eloszlásban konvergálnak egy kdimenziós F (x_{1}, …, x_{k}) eloszlásfüggvényhez, ha lim_{n→∞} F_{n}(x_{1}, …, x_{k}) = F (x_{1}, …, x_{k}) az F (·) (határ)eloszlásfüggvény minden (x_{1}, …, x_{k}) folytonossági pontjában.

Tétel az eloszlásban való konvergencia jellemzéséről folytonos függvények segítségével. F_{n}(u_{1}, …, u_{k}), n = 1, 2, … k-dimenziós eloszlásfüggvények sorozata akkor és csak akkor konvergál eloszlásban egy F (u_{1}, …, u_{k}) k-dimenziós eloszlásfüggvényhez, ha minden a k-dimenziós téren értelmezett folytonos, korlátos g(u_{1}, …, u_{k}) függvényre teljesül a

lim_{n→∞} ∫ g(u_{1}, …, u_{k}) F_{n}( du_{1}, …, du_{k}) = ∫ g(u_{1}, …, u_{k}) F ( du_{1}, …, du_{k})

azonosság.

Megjegyzés: Mivel minden több-dimenziós normális eloszlás eloszlásfüggvénye folytonos, (bár nem feltétlenül van sűrűségfüggvénye) ezért a több-dimenziós centrális határeloszlástétel azt mondja ki, hogy az ott tekintett normalizált összegek eloszlásban konvergálnak egy nulla várható értékű és megfelelő kovariancia mátrixú normális eloszláshoz. Jegyezzük meg, hogy a tekintett normalizált összegek várható értéke és kovarianciamátrixa megegyezik egy a határeloszlással rendelkező véletlen vektor várható értékével és kovariancia mátrixával.

Az egydimenziós esethez hasonlóan a fenti tétel és Weierstrass második approximációs tétele (pontosabban annak több-dimenziós általánosítása) segítségével eloszlásfüggvények konvergenciáját jól lehet vizsgálni a karakterisztikus függvények alább bevezetett több-dimenziós általánosításának a segítségével.

Több-dimenziós valószínűségi változók karakterisztikus függvényének a definiciója. Legyen ξ = (ξ_{1}, …, ξ_{k}) k-dimenziós valószínűségi változó valamely (Ω, A, P) valószínűségi mezőn, és jelölje F (u_{1}, …, u_{k}) = P (ξ_{1} < u_{1}, …, ξ_{k} < u_{k}), −∞ < u_{j} < ∞, 1 ≤ j ≤ k, a ξ = (ξ_{1}, …, ξ_{k}) véletlen vektor eloszlásfüggvényét. A ξ = (ξ_{1}, …, ξ_{k}) k-dimenziós ξ valószínűségi változónak a karakterisztikus függvénye a

φ(t_{1}, …, t_{k}) = Ee^{i(t_{1}ξ_{1}+···+t_{k}ξ_{k})} = ∫_{−∞}^{∞} ⋯ ∫_{−∞}^{∞} e^{i(t_{1}u_{1}+···+t_{k}u_{k})}F ( du_{1}, …, du_{k}),
− ∞ < t_{j} < ∞, 1 ≤ j ≤ k,

függvény. Adva egy F (u_{1}, …, u_{k}) k-dimenziós eloszlásfüggvény az F eloszlásfüggvény karakterisztikus függvényét is definiálni fogjuk mint egy F eloszlású ξ = (ξ_{1}, …, ξ_{k}) kdimenziós valószínűségi változó karakterisztikus függvényét. (Mivel a karakterisztikus függvényt a (ξ_{1}, …, ξ_{k}) valószínűségi változó eloszlásfüggvényének a segítségével ki lehet számolni, ezért jogunk van egy eloszlásfüggvény karakterisztikus függvényéről beszélni.)

Tétel. Legyen F (x_{1}, …, x_{k}) és G(x_{1}, …, x_{k}) két eloszlásfüggvéy, amelyek karakterisztikus függvényei megegyeznek. Ekkor F (x_{1}, …, x_{k}) = G(x_{1}, …, x_{k}) minden k-dimen-ziós (x_{1}, …, x_{k}) vektorra.

Megfogalmazzuk az eloszlásfüggvények és azok karakterisztikus függvényei konvergenciája közötti kapcsolatot leíró Alaptételnek nevezett állítás több-dimenziós változatát.

Az eloszlások konvergenciájáról szóló Alaptétel több-dimenziós változata. Legyen F_{n}(u_{1}, …, u_{k}), −∞ < u_{j} < ∞, 1 ≤ j ≤ k, k-dimenziós eloszlásfüggvények egy sorozata φ_{n}(t_{1}, …, t_{k}) = ∫ e^{i(t_{1}u_{1}+···+t_{k}u_{k})}F_{n}( du_{1}, …, du_{k}) karakterisztikus függvényekkel, n = 1, 2, . . .. Ha a φ_{0}(t_{1}, …, t_{k}) = lim_{n→∞} φ_{n}(t_{1}, …, t_{k}) határérték létezik minden −∞ < t_{j} < ∞, 1 ≤ j ≤ k, számra, és a φ_{0}(t_{1}, …, t_{k}) limeszfüggvény folytonos az origóban, akkor létezik olyan F_{0}(u_{1}, …, u_{k}) eloszlásfüggvény a k-dimenziós térben, amelynek a φ_{0}(t_{1}, …, t_{k}) függvény a karakterisztikus függvénye. Továbbá e feltétel teljesülése esetén az F_{n}(u_{1}, …, u_{k}) eloszlásfüggvények eloszlásban konvergálnak ehhez az F_{0}(u_{1}, …, u_{k}) eloszlásfüggvényhez.

Megfordítva, ha F_{n}(u_{1}, …, u_{k}), n = 1, 2, …, eloszlásfüggvényeknek egy olyan sorozata, amely egy F_{0}(u_{1}, …, u_{k}) eloszlásfüggvényhez konvergál eloszlásban, φ_{n}(t_{1}, …, t_{k}), n = 1, 2, …, jelöli az F_{n}(u_{1}, …, u_{k}), φ_{0}(t_{1}, …, t_{k}) pedig az F_{0}(u_{1}, …, u_{k}) eloszlásfüggvény karakterisztikus függvényét, akkor φ_{0}(t_{1}, …, t_{k}) = lim_{n→∞} φ_{n}(t_{1}, …, t_{k}) minden −∞ < t_{j} < ∞, 1 ≤ j ≤ k, számra. Továbbá, ez a konvergencia egyenletes minden véges intervallumban.

Ahhoz, hogy a fenti eredményeket használni tudjuk a több-dimenziós centrális határeloszlástétel bizonyításában ismernünk kell a több-dimenziós normális eloszlások karakterisztikus függvényeit. Erről szól a következő eredmény.

Tétel a több-dimenziós normális eloszású valószínűségi változók karakterisztikus függvényéről. Legyen η = (η_{1}, …, η_{k}) = (ξ_{1}, …, ξ_{k})A + (m_{1}, …, m_{k}) egy k-dimenziós normális eloszlású valószínűségi változó, ahol m = (m_{1}, …, m_{k}) kdimenziós (determinisztikus) vektor, A = (a_{j,l}), 1 ≤ j, l ≤ k, k × k méretű mátrix, továbbá ξ = (ξ_{1}, …, ξ_{k}) k-dimenziós standard normális eloszlású véletlen vektor. Ekkor az (η_{1}, …, η_{k}) véletlen vektor karakterisztikus függvénye a

Ee^{i(t,η)} = Ee^{i(t_{1}η_{1}+···+t_{k}η_{k})} = e^{i(t,m)−tA^{∗}At^{∗}/2} = exp \{i ∑_{j=1}^{k} t_{j}m_{j} − \frac{1}{2} ∑_{j=1}^{k} ∑_{l=1}^{k} d_{j,l}t_{j}t_{l}\}

függvény, ahol (x, y) jelöli az x = (x_{1}, …, x_{k}) és y = (y_{1}, …, y_{k}) vektorok (x, y) =

∑_{j=1}^{k} x_{j}y_{j} skalárszorzatát, t = (t_{1}, …, t_{k}), d_{j,l} az A^{∗}A kovariancia mátrixának j-ik so-

rában, és l-ik oszlopában szereplő konstans. A D = A^{∗}A mátrix megegyezik az η = (η_{1}, …, η_{k}) véletlen vektor kovariancia mátrixával.

Bizonyítás:

Ee^{i(t,η)} = Ee^{i(t,Aξ+m)} = e^{i(t,m)}Ee^{i(tA^{∗},ξ)} = e^{i(t,m)}e^{−tA^{∗}At^{∗}/2} = e^{i(t,m)−tA^{∗}At^{∗}/2},

mert, ha tA^{∗} = t̄ = (t̄_{1}, …, t̄_{k}), akkor Ee^{i(tA^{∗},ξ)} = Ee^{i(t̄_{1}ξ_{1}+···+t̄_{k}ξ_{k})} = ∏_{j=1}^{k} Ee^{it̄_{j}ξ_{j}} =

∏_{j=1}^{k} e^{−t̄_{j}^{2}/2} = e^{−(t̄,t̄)/2} = e^{−tA^{∗}At^{∗}/2}.

Az η véletlen vektor D = (d_{j,l}) kovariancia mátrixában a j-ik sor l-ik eleme d_{j,l} =

Cov (η_{j}, η_{l}) = Cov ( ∑_{p=1}^{k} a_{p,j}ξ_{p}, ∑_{q=1}^{k} a_{q,l}ξ_{q}) = ∑_{p=1}^{k} a_{p,j}a_{p,l}Eξ_{p}^{2} = ∑_{p=1}^{k} a_{p,j}a_{p,l}, és ez az A^{∗}A

mátrix j-ik sorában és l-ik oszlopában álló elem. Ezért az η véletlen vektor kovariancia mátrixa a D = A^{∗}A mátrix. Az nyílvánvaló, hogy az η véletlen vektor várható értéke m.

Annak, hogy a több-dimenziós normális eloszlásfüggvény karakterisztikus függvényének ilyen az alakja van néhány mind a valószínűségszámításban mind a matematikai statisztikában nagyon fontos következménye. Ennek kifejtése az utolsó előadás témája lesz.

Végül leírjuk egy több-dimenziós normális eloszlású valószínűségi változó sűrűségfüggvényét, illetve megadjuk, hogy mikor létezik ilyen sűrűségfüggvény.

Tétel a több-dimenziós normális eloszlásfüggvények alakjáról. Legyen adva egy η = (η_{1}, …, η_{k}) k-dimenziós normális eloszlású valószínűségi változó, amelynek m = (m_{1}, …, m_{k}) = (Eη_{1}, …, Eη_{k}) a várható értéke és D = (d_{j,l}), d_{j,l} = Cov (η_{j}, η_{l}), 1 ≤ j, l ≤ k, a kovariancia mátrixa. Az η k-dimenziós valószínűségi változónak akkor és csak akkor van sűrűségfüggvénye, ha a D kovariancia mátrix invertálható. Ha a D kovariancia mátrix invertálható, akkor az η = (η_{1}, …, η_{k}) véletlen vektor sűrűségfüggvénye az a következő alakú:

f(x) = f(x_{1}, …, x_{k}) = \frac{1}{(2π)^{k/2} det D^{1/2}} exp \{−(x − m)D^{−1}(x − m)^{∗}/2\} ,

ahol x = (x_{1}, …, x_{k}) ∈ R^{k} k-dimenziós vektor.

Bizonyítás: Az η = (η_{1}, …, η_{k}) véletlen vektor eloszlása megegyezik egy olyan η̄ = (η̄_{1}, …, η̄_{k}) = (ξ_{1}, …, ξ_{k})A+(m_{1}, …, m_{k}) véletlen vektornak az eloszlásával, amelyikre ξ_{j}, 1 ≤ j ≤ k, független standard normális eloszlású valószínűségi változók, és D = A^{∗}A. Jegyezzük meg, hogy a lineáris algebra standard eredményei szerint az A és A^{∗} mátrixok egyszerre invertálhatóak vagy nem invertálhatóak, és a D = A^{∗}A mátrix akkor és csak akkor invertálható, ha az A mátrix invertálható. Ezért, ha a D mátrix nem invertálható, akkor az η vektornak nincs sűrűségfüggvénye, ha pedig a D mátrix invertálható, akkor a következő módon számolhatunk:

Alkalmazva az x = yA + m transzformációt ξ = (ξ_{1}, …, ξ_{k}), x = (x_{1}, …, x_{k}),

y = (y_{1}, …, y_{k}) és φ(y) = φ(y_{1}, …, y_{k}) = \frac{1}{(2π)^{k/2}} e^{−(y_{1}^{2}+···+y_{k}^{2})/2} jelöléssel kapjuk, hogy

tetszőleges mérhető B ⊂ R^{k} halmazra

P (η̄ ∈ B) = P (η ∈ B) = P (ξ ∈ (B − m)A^{−1}) = ∫_{(y_{1},...,y_{k})∈(B−m)A^{−1}} φ(y) dy

= \frac{1}{| det A|} ∫_{(x_{1},...,x_{k})∈B} φ ((x − M)A^{−1}) dx

alakú, ahol | det A| az x = yA + M leképezés Jacobian-ja.

E formulából kiolvasható, hogy a vizsgált normális eloszlású valószínűségi változó

sűrűségfüggvénye a \frac{1}{| det A|}φ ((x − m)A^{−1}) függvény. Annak érdekében, hogy bebizo-

nyítsuk a tételt vegyük észre, hogy mivel D = A^{∗}A, ezért det D = det A^{∗} det A = det A^{2}, ezért | det A| = det D^{1/2}, és

φ ((x − m)A^{−1}) = \frac{1}{(2π)^{k/2}} exp \{−\frac{((x − m)A^{−1}, (x − m)A^{−1})}{2}\}

= \frac{1}{(2π)^{k/2}} exp \{−\frac{(x − m)A^{−1} (A^{−1})^{∗} (x − m)^{∗}}{2} \}

= \frac{1}{(2π)^{k/2}} exp \{−\frac{(x − m)(A^{∗}A)^{−1}(x − m)^{∗}}{2} \}

= \frac{1}{(2π)^{k/2}} exp \{−\frac{(x − m)D^{−1}(x − m)^{∗}}{2} \} ,

mert A^{−1} (A^{−1})^{∗} = A^{−1} (A^{∗})^{−1} = (A^{∗}A)^{−1}. Innen következik a Tétel állítása.

Megjegyzés: Egy több-dimenziós normális eloszlású valószínűségi változó karakterisztikus függvényét megadó képletben a kovariancia mátrix szerepel, míg a sűrűségfüggvényét megadó képletben a kovariancia mátrix inverze. Mivel a karakterisztikus függvény kiszámolásában nem kell invertálni a kovariancia mátrixot, ezért a karakterisztikus függvény segítségével könnyebb vizsgálni a normális eloszlásfüggvények tulajdonságait.