Az november 23-i szeminárium témája Rövid összefoglaló

Miért fontos számunkra az előző gyakorlaton tárgyalt lineáris algebrai ismeretek felfrissítése?

Tekintsünk ξ_{1}, …, ξ_{k} valószínűségi változókat, melyekre Eξ_{p}^{2} < ∞, 1 ≤ p ≤ k. Megjegyezzük, hogy ekkor E|ξ_{p}ξ_{q}| < ∞ minden 1 ≤ p, q ≤ k esetén, mert ekkor (E|ξ_{p}ξ_{q}|)^{2} < Eξ_{p}^{2}Eξ_{q}^{2} < ∞ a Cauchy–Schwarz egyenlőtlenség alapján. Statisztika előadáson szerepelt egy k-dimenziós véletlen vektor kovariancia mátrixának a fogalma. A (ξ_{1}, …, ξ_{k}) véletlen vektor kovariancia mátrixa az a k×k mátrix, melynek p-ik sorának és q oszlopának a metszetében a Cov (ξ_{p}, ξ_{q}) = E(ξ_{p} −Eξ_{p})(ξ_{q} −Eξ_{q}) = Eξ_{p}ξ_{q} −Eξ_{p}Eξ_{q} elem áll. Jellemezni akarjuk a különböző véletlen vektorokhoz tartozó kovariancia mátrixokat. (A kovariancia mátrix fogalma tulajdonképpen a szórásnégyzet természetes több-dimenziós általánosítása.) Be fogjuk látni, hogy egy kovariancia mátrix szimmetrikus pozítiv definit mátrix. Továbbá igaz ennek az állításnak a megfordítása. Nevezetesen, minden k × k-as szimmetrikus pozitív definit mátrixhoz létezik olyan k-dimenziós véletlen vektor, melynek ez a kovariancia mátrixa. Ez utóbbi állítás a most tárgyalandó eredmények közül a legnehezebb, viszont erre az eredményre lesz szükségünk a több-dimenziós normális eloszlások vizsgálatában. Annak érdekében, hogy a fenti kijelentések értelmét megértsük fel kell idéznünk a lineáris algebrában tanultakat.

A (x_{1}, …, x_{k}) k hosszúságú sorozatokból álló sorozatok terét tekinthetjük euklideszi térnek, ha egyrészt bevezetjük a természetes (koordinátánként végzett) össze-

adást és (valós) számmal való szorzást, definiáljuk az (x, y) = ∑_{p=1}^{k} x_{p}y_{p} skalárszorzatot.

Ennek az euklideszi térnek egy (természetes) ortogonális bázisa az

e_{p} = (0, ⋯, 0, 1, 0, ⋯, 0), 1 ≤ p ≤ k,

vektorokból álló bázis,ahol az e_{p} vektor p-ik koordinátája 1, az összes többi koordinátája pedig nulla. Adva egy (ξ_{1}, …, ξ_{k}) k-dimenziós valószínűségi vektor, mely elemeire teljesülnek az Eξ_{p} = 0, Eξ_{p}^{2} < ∞, 1 ≤ p ≤ k relációk vezessük be a D(p, q) = Eξ_{p}ξ_{q} mennyiségeket, és definiáljuk a következő bilineáris függvényt a fenti euklideszi téren:

A(x, y) = E (∑_{p=1}^{k} x_{p}ξ_{k}) (∑_{q=1}^{k} y_{q}ξ_{q}) = ∑_{p=1}^{k} ∑_{q=1}^{k} D(p, q)x_{p}y_{q},

ahol x = (x_{1}, …, x_{k}), y = (y_{1}, …, y_{k}). Az A bilineáris függvény önadjungált és pozitív

szemidefinit, ugyanis A(x, y) = A(y, x), és A(x, x) = E ( ∑_{p=1}^{k} x_{p}ξ_{k})^{2} ≥ 0. Továbbá

a fent definiált bilineáris függvény szoros kapcsolatban van az (ξ_{1}, …, ξ_{k}) k-dimenziós véletlen vektor D = (D(p, q)), 1 ≤ p, q ≤ k, D(p, q) = A(e_{p}, e_{q}), kovariancia mátrixával. Valóban, A(x, y) = xDy^{∗}, ahol x = (x_{1}, …, x_{k}), y = (y_{1}, …, y_{k}).

A lineáris algebrában, ha rögzítjük egy k-dimenziós euklideszi tér egy (e_{1}, …, e_{k}) ortonormált bázisát akkor természetes kapcsolatot tudunk teremteni a bilineáris függvények, lineáris transzformációk és mátrixok között. Nevezetesen, legyen A(x, y) bilineáris függvény, és feleltessük meg neki az D = D(p, q), 1 ≤ p, q ≤ n, mátrixot, illetve az ebben a koordinátarendszerben az e mátrix által meghatározott lineáris operátort. Jegyezzük meg, hogy az ahogy az előző paragrafusban a kovariancia mátrix definicióját megadtuk egy bilineáris függvény segítségével ezt a konstrukciós módszert követi.

Egy bilineáris függvény által meghatározott mátrix függ a választott ortonormált bázistól, de be lehet látni, hogy az általa meghatározott operátor nem. Ezért a fenti konstrukció kölcsönösen egyértelmű lineáris operátorok és (rögzített ortogonális bázis esetén) k × k-as mátrixok között. Ezért ha bevezetjük egy bilineáris operátor adjungáltját, az önadjungált, pozitív definit önadjungált, unitér operátorok fogalmát, akkor beszélhetünk a neki megfelelő lineáris operátorok adjungáltjáról, továbbá (pozitív definit) önadjungált és unitér tulajdonságáról. (Emlékeztetőül: Ha A bilineáris függvény, akkor ennek A^{∗} adjungáltját az (xA, y) = (x, yA^{∗}) azonosság minden x és y vektorra formula határozza meg. Továbbá A önadjungált, ha A = A^{∗}, unitér, ha AA^{∗} = A^{∗}A = I. Egy A önadjungált operátor pozitív definit, ha (Ax, x) > 0 minden x ≠ 0 vektorra.) Nem magától értendő, hogy van értelme arról beszélni, hogy egy mátrix önadjungált vagy unitér. Ugyanis, különböző bilineáris függvényeknek ugyanaz a mátrix felelhet meg, ha más ortonormált bázisban írjuk fel a mátrixukat, tehát tisztázni kell azt, hogy a fenti fogalmak nem függnek attól, hogy melyik ortonormált bázisban dolgozunk. Be lehet látni, hogy van értelme mátrixok adjungáltjáról, (pozitív definit) öndjungált vagy unitér voltáról beszélni, csak ehhez kissé jobban meg kell értenünk a lineáris algebra néhány eredményét és fogalmát. Be lehet látni (nem nehéz a bizonyítás), hogy ha egy A bilineáris függvénynek egy D = D(p, q), 1 ≤ p, q ≤ k, mátrix felel meg, akkor az A^{∗} adjungáltjának megfelelő D^{∗} = D^{∗}(p, q) mátrixra D^{∗}(p, q) = D(q, p), tehát a D^{∗} mátrix kiszámítható a D mátrix segítségével. A D mátrix akkor és csak akkor önadjungált, ha D = D^{∗}, unitér, ha DD^{∗} = D^{∗}D = I, ahol a szokásos mátrix szorzást tekintjük, a D önadjungált mátrix akkor és csak akkor pozitív (szemi)definit, ha xDx^{∗} ≥ 0 minden x vektorra.

A fenti eredményekből látható, hogy egy (ξ_{1}, …, ξ_{k}) véletlen vektor D = (D(p, q)), 1 ≤ p, q ≤ k, kovariancia mátrixa pozitív (szemi)definit mátrix, (és ennek az állításnak van értelme.) Be akarjuk látni, hogy tetszőleges D pozitív szemidefinit mátrix előáll mint alkalmas véletlen mátrix kovarianciamátrixa. Ehhez vegyük észre, hogy ha (ξ_{1}, …, ξ_{k}) koordinátái függetlenek, (általában korrelálatlanok), Var ξ_{p} = 1, 1 ≤ p ≤ k, akkor ennek a vektornak a kovarianciamátrixa az I identitás mátrix, továbba, ha A tetszőleges (k × k-as mátrix), akkor az (η_{1}, …, η_{k}) = (ξ_{1}, …, ξ_{k})A véletlen vektor kovariancia mátrixa az A^{∗}A mátrix. Valóban, ha (a_{p,q}), 1 ≤ p, q ≤ k, jelöli az A mátrixot, akkor

Cov (η_{p}, η_{q}) = Cov ( ∑_{u=1}^{k} a_{u,p}ξ_{u}, ∑_{v=1}^{k} a_{v,q}ξ_{v}) = ∑_{u=1}^{k} a_{u,p}a_{u,q}, mivel Cov(ξ_{u}, ξ_{u}) = 1 és

Cov(ξ_{u}, ξ_{v}) = 0, ha u ≠ v. Ez a ∑_{u=1}^{k} a_{u,p}a_{u,q} kifejezés viszont megegyezik az A^{∗}A

mátrix p-ik p-ik sorában és q-ik oszlopában álló elemmel.

Ezért a kívánt állítás következik a következő (nem triviális) lineáris algebrai eredményből.

Lemma. Tetszőleges A k × k-as mátrixra a D = A^{∗}A mátrix k × k-as szimmetrikus pozitív szemidefinit mátrix. Megfordítva, tetszőleges D k × k-as pozitív szemidefinit mátrixhoz létezik olyan A k × k-as mátrix, melyre D = A^{∗}A. Sőt létezik olyan k × k-as önadjungált pozitív szemidefinit A mátrix, melyre D = AA = A^{∗}A.

Megjegyzés: A D mátrix fenti előállítása nem egyértelmű, azaz a D = A^{∗}A egyenlet nem határozza meg egyértelműen az A mátrixot. Valóban, ha D = A^{∗}A, U unitér mátrix és Ā = UA, akkor Ā^{∗}Ā = (UA)^{∗}UA = A^{∗}U^{∗}UA = AA^{∗} = D.

A lemma első (kevésbé fontos) állítása egyszerűen bizonyítható. Ugyanis, (A^{∗}A)^{∗} = A^{∗} (A^{∗})^{∗} = A^{∗}A, azaz A^{∗}A önadjungált mátrix, és (xA^{∗}A, x) = (xA^{∗}, xA^{∗}) ≥ 0, tehát D pozitív szemidefinit mátrix. A Lemma második, tartalmasabb állítása egyszerűen bizonyítható, abban a speciális esetben, ha a D mátrix diagonális, azaz a diagonálisban (λ_{1}, …, λ_{k}) elemek vannak, és a mátrix összes többi eleme zéró. Ekkor ugyanis az, hogy a D mátrix pozitív szemidefinit ekvivalens azzal, hogy λ_{p} ≥ 0 minden 1 ≤ p ≤ k számra. Ezért definiálhatjuk azt a pozitív szemidefinit diagonális A mátrixot, melynek diagonális elemei a (\sqrt{λ_{1}}, …, \sqrt{λ_{k}}) számok. Ekkor nyílvánvaló módon D = AA = A^{∗}A.

Az általános eset visszavezethető erre az egyszerűbb speciális esetre a lineáris algebra azon alapvető eredménye alapján, mely szerint tetszőleges önadjungált lineáris operátor diagonizálható, azaz alkalmas ortonormált bázisban az operátor mátrixa diagonális. Itt az analízis egy alapvető és nagyon természetes gondolatát alkalmazzuk. Nevezetesen azt, hogy a megoldandó problémát tekintsük olyan koordinátarendszerben, melyben az a lehető legegyszerűbb alakú. Annak érdekében, hogy ezt jobban megértsük, tárgyaljuk meg ezt a diagonalizálási módszert a Lemmában megfogalmazott eredmény bizonyításában részletesebben.

Az idézett diagonalizálhatósági eredmény egyik lehetséges, leggyakrabban megfogalmazott alakja a következő: Egy k × k-as A önadjungált mátrixnak létezik k darab ē_{1}, …, ē_{k} sajátvektora λ_{1}, …, λ_{k} sajátértékkel, azaz ē_{p}A = λ_{p}ē_{p}, 1 ≤ p ≤ k. Továbbá a sajátértékek valósak és a sajátvektorok ortongonálisak. (A teljesség kedvéért jegyezzük meg, hogy abban az esetben, ha többszörös sajátértékek vannak, akkor a többszörös sajátértékekhez tartozó sajátvektorok megválasztása nem egyértelmű, és ekkor jól kell definiálni ezeket a sajátvektorokat.) Ez azt jelenti, hogy ha az önadjungált operátort ebben a koordinátarendszerben írjuk fel, akkor az diagonális, ezért a fenti diagonális mátrixokra vonatkozó érvelés elegendő a feladat bizonyításához.

A fenti módszer korrekt bizonyítást ad, ha világosan kidolgozzuk azokat a részleteket, melyek lehetővé teszik, hogy mátrixok helyett a nekik megfelelő és koordinátarendszertől független bilineáris függvényekkel illetve lineáris operátorokkal dolgozhassunk. Mégis tanulságos lehet végiggondolni azt, hogy hogyan lehet ezt a módszert az eredeti koordinátarendszerben alkalmazni.

Legyen ē_{1}, …, ē_{k} egy D önadjungált mátrix sajátvektorokból álló ortonormált bázisa, és tekintsük az euklideszi tér eredeti e_{1}, …, e_{k} ortonormált bázisát. Legyenek λ_{1}, …, λ_{k} az ē_{1}, …, ē_{k} sajátvektorokhoz tartozó sajátértékek, továbbá Λ az a diagonális mátrix, melynek diagonálisában a λ_{1}, …, λ_{k} számok állnak. Definiáljuk az U lineáris mátrixot az ē_{p}U = e_{p}, 1 ≤ p ≤ k, relációval. Vegyük észre, hogy U unitér operátor, és annak U^{∗} adjungáltját az e_{p}U^{∗} = ē_{p}, 1 ≤ p ≤ k, reláció definiálja. (Érdemes megérteni az unitér operátorok geometriai tartalmát. Az, hogy U unitér operátor, az geometriailag azt jelenti, hogy távolság és szögtartó leképezés, tehát forgatás és esetleg utána egy tengelyre való tükrözés alkalmazása. Be lehet látni, hogy U akkor és csak akkor unitér, ha egy rögzített ortonormált bázist egy (általában) másik ortonormált bázisba visz.) Ennek az állításnak a formális bizonyítása azon múlik, hogy (ē_{p}U, e_{q}) = (ē_{p}, e_{q}U^{∗}) minden 1 ≤ p, q ≤ k indexre, mert az azonosság mind a két oldala nulla vagy egy, attól függően, hogy p ≠ q vagy p = q, 1 ≤ p, q ≤ k. Innen következik, hogy a definiált U^{∗} leképezés valóban az U adjungáltja. Végül UU^{∗} = U^{∗}U = I, mert ē_{p}UU^{∗} = e_{p}U^{∗} = ē_{p}, és hasonlóan e_{p}U^{∗}U = e_{p} minden 1 ≤ p ≤ k indexre. Végül mutassuk meg, hogy a fenti jelölésekkel D = UΛU^{∗}. Ez a reláció ekvivalens a U^{∗}DU = Λ azonossággal, vagy az (e_{p}U^{∗}DU, e_{q}) = (e_{p}Λ, e_{q}), minden 1 ≤ p, q ≤ k azonossággal. Viszont (e_{p}U^{∗}DU, e_{q}) = (e_{p}U^{∗}D, e_{q}U^{∗}) = (ē_{p}D, ē_{q}) = λ_{p}(ē_{p}, ē_{q}) = λ_{p}δ_{p,q}, ahol δ_{p,q} = 1, ha p = q, és δ_{p,q} = 0, ha p ≠ q. Az (e_{p}Λ, e_{q}) = λ_{p}δ_{p,q} azonosság nyílvánvaló.

A fenti azonosság lehetővé teszi a Lemma egyszerű bizonyítását. Ha D pozitív szemidefinit mátrix, akkor tekintsük annak a fenti D = UΛU^{∗} előállítását. Legyen \sqrt{Λ} az a diagonális mátrix, melynek koordinátáiban a λ_{p} sajátértékek \sqrt{λ_{p}} négyzetgyökei vannak, 1 ≤ p ≤ q. Ekkor az A = U\sqrt{Λ}U^{∗} mátrixra A = A^{∗} és AA = U\sqrt{Λ}U^{∗}U\sqrt{Λ}U^{∗} = UΛU^{∗} = D, és ezt kellett bizonyítanunk.

A fenti eredmények segítségével beláthatjuk, hogy a normális eloszlású valószínűségi változók alább megadandó három lehetséges definiciója ekvivalens. A definiciók kimondása előtt idézzük fel, hogy a korábban tárgyalt eredmények alapján független egyforma eloszlású nulla várható értékű véletlen vektorok normalizált részletösszegei egy olyan eloszlás, melynek karakterisztikus függvénye a (t_{1}, …, t_{k}) pontban a

φ(t_{1}, …, t_{k}) = exp {− ∑_{p=1}^{k} ∑_{q=1}^{l} D(p, q)t_{p}t_{q}/ 2}

függvény, ahol a D(p, q) számok a tekintett véletlen vektorok kovariancia mátrixának megfelelő elemei. A több-dimenziós normális eloszlás különböző egymással ekvivalens definiciója az ilyen karakterisztikus függvénnyel rendelkező valószínűségi vektorokat írja le, ha esetleg még egy konstans vektort adunk hozzá.

Normális eloszlású valószínűségi vektorok fogalma I.: A (ξ_{1}, …, ξ_{k}) valószínű-

ségi vektor akkor normális eloszlású, ha a ∑_{p=1}^{k} a_{p}ξ_{p} egydimenziós valószínűségi változó

normális eloszlású tetszőleges a_{1}, …, a_{k} valós számokkal.

Normális eloszlású valószínűségi vektorok fogalma II.: A (ξ_{1}, …, ξ_{k}) valószínűségi vektor akkor normális eloszlású, ha annak karakterisztikus függvénye

φ(t_{1}, …, t_{k}) = Ee^{i(t_{1}ξ_{1}+···+ξ_{k})} = exp \{−\frac{1}{2} ∑_{p=1}^{k} ∑_{q=1}^{k} D(p, q)t_{p}t_{q} + i ∑_{p=1}^{k} m_{p}t_{p}\}

alakú, ahol D(p, q), 1 ≤ p, q ≤ k, pozitív szemidefinit szimmetrikus mátrix, és m_{p}, 1 ≤ p ≤ k, tetszőleges valós számok. Ekkor D(p, q) = Cov (ξ_{p} − Eξ_{p})(ξ_{q} − Eξ_{q}), 1 ≤ p, q ≤ k, és m_{p} = Eξ_{p}, 1 ≤ p ≤ k.

Normális eloszlású valószínűségi vektorok fogalma III.: A (ξ_{1}, …, ξ_{k}) valószínűségi vektor akkor normális eloszlású, ha létezik olyan független (η_{1}, …, η_{k}) standard normális eloszlású valószínűségi változókból álló véletlen vektor, valamint A = a(p, q), 1 ≤ p, q ≤ k, k × k mátrix és (m_{1}, …, m_{k}) k-dimenziós valós számokból álló vektor,

melyekre az (η_{1}, …, η_{k})A + (m_{1}, …, m_{k}) azaz a (ζ_{1}, …, ζ_{k}), ζ_{p} = ∑_{q=1}^{k} a(q, p)η_{q} + m_{p},

1 ≤ p ≤ k vektor eloszlása megegyezik a (ξ_{1}, …, ξ_{k}) véletlen vektor eloszlásával. Jelölje ebben az esetben D(p, q) az A^{∗}A mátrix p-ik sorának q-ik elemét. Ekkor Ekkor D(p, q) = Cov (ξ_{p} − Eξ_{p})(ξ_{q} − Eξ_{q}), és 1 ≤ p, q ≤ k, m_{p} = Eξ_{p}, 1 ≤ p ≤ k.

Lássuk be először az alábbi definiciók ekvivalenciája közül a legnehezebbet, a Definició II. ⇒ Definició III. állítást.

A Definició II.-ben szereplő D(p, q) számok által meghatározott D = (D(p, q)), 1 ≤ p, q ≤ q k × k-as mátrix önadjungált és pozitív szemidefinit. Ezért az ezen gyakorlaton tárgyalt lemma alapján felírható D = A^{∗}A alakban. Ekkor a (ξ_{1}, …, ξ_{k}) = (η_{1}, …, η_{k})A + (m_{1}, …, m_{k}) k-dimenziós vektor, ahol (η_{1}, …, η_{k}) független standard normális eloszlású valószínűségi változók, olyan véletlen vektor, melynek a karakterisztikus függvényét a Definició II. képletben megadott képlet adja meg. Ugyanis tetszőleges t_{1}, …, t_{k} valós számokra a t_{1}ξ_{1} + ⋯ + t_{k}ξ_{k} valószínűségi változó normális eloszlású (emlékeztetőül: független (egydimenziós) normális eloszlású valószínűségi változók line-

áris kombinációja is normális eloszlású) Var (t_{1}ξ_{1} +⋯+t_{k}ξ_{k}) = ∑_{p=1}^{k} ∑_{q=1}^{k} t_{p}t_{q}Cov (ξ_{p}ξ_{q}) =

tA^{∗}At^{∗} = tDt^{∗} szórásnégyzettel, ahol t = (t_{1}, …, t_{k}) és ∑_{p=1}^{k} m_{p}t_{p} várható értékkel.

Mivel egy valószínűségi vektor eloszlását meghatározza annak karakterisztikus függvénye, ez azt jelenti, hogy a fenti reprezentáció egy a harmadik definicióban szereplő valószínűségi vektorral azonos eloszlású valószínűségi vektort állít elő, azaz teljesíti a harmadik definiciót.

A Definició III. ⇒ Definició I. állítás bizonyítása egyszerű. Ha a (ξ_{1}, …, ξ_{k}) véletlen vektor eloszlása megegyezik egy a Definició III.-ban megadott független standard eloszlású valószínűségi változók lineáris transzformációjával (plusz egy determinisztikus vektor), akkor a (ξ_{1}, …, ξ_{k}) véletlen vektor valamilyen lineáris transzformációjának az eloszlása megegyezik független normális eloszlású valószínűségi változók (általában egy másik) lineáris transzformációjával, ezért az is normális eloszlású.

A Definició I. ⇒ Definició II. állítás bizonyítása is egyszerű. Ha a (ξ_{1}, …, ξ_{k}) véletlen vektor teljesíti a Definició I. állítását, akkor tetszőleges t_{1}ξ_{1} + ⋯ + t_{k}ξ_{k} valószínűségi változó normális eloszlású, melynek ki tudjuk számítani a várható értékét és szórásnégyzetét. Innen látható, hogy a (ξ_{1}, …, ξ_{k}) véletlen vektor karakterisztikus függvénye olyan, mint azt a Definició II.-ben megadtuk.