A április 24-i előadáshoz kapcsolódó gyakorlat feladatai

1. Lásssuk be a következő állítást:

Legyenek Z^{(j)} = (Z_{1}^{(j)}, …, Z_{k}^{(j)}), 1 ≤ j ≤ n, véletlen k-dimenziós vektorok

ugyanazon az (Ω, A, P) valószínűségi mezőn. Ekkor a Z^{(1)} + ⋯ + Z^{(n)} összeg várható értéke megegyezik a Z^{(j)} vektorok várható értékeinek az összegével, azaz

E (Z^{(1)} + ⋯ + Z^{(n)}) = EZ^{(1)} + ⋯ + EZ^{(n)}.

Ha a Z^{(j)}, 1 ≤ j ≤ n, véletlen vektorok függetlenek, akkor a kovariancia mátrix is additív, azaz, ha a Z^{(j)} mátrix kovariancia mátrixa a D_{j} mátrix, 1 ≤ j ≤ n, akkor a Z_{(1)} + ⋯ + Z^{(n)} véletlen összeg kovariancia mátrixa a D_{1} + ⋯ + D_{n} mátrix. Ha egy Z = (Z_{1}, …, Z_{k}), véletlen vektor várható értéke M = (M_{1}, …, M_{k}), kovariancia mátrixa a D k × k méretű mátrix, a tetszőleges valós szám, akkor az aZ = (aZ_{1}, …, aZ_{k}), véletlen vektor várható értéke aM, kovariancia mátrixa pedig az a^{2}D kovariancia mátrix. Legyen továbbá x = (x_{1}, …, x_{k} tetszőleges k-dimenziós vektor. Ekkor E(Z + x) = EZ + x, a Z + x vektor kovariancia mátrixa pedig megegyezik a Z vektor kovariancia mátrixával. Megoldás: A feladatban kimondott állítások következnek az egy-dimenziós esetben bizonyított állításokból. Az egy-dimenziós várható érték additivitából következik, hogy E (Z^{(1)} + ⋯ + Z^{(n)}) = EZ^{(1)} +⋯+EZ^{(n)}. Ha a Z^{(j)} vektorok függetlenek, akkor tetszőleges j és k indexre,

Cov (∑_{p=1}^{n} Z_{j}^{(p)}, ∑_{q=1}^{n} Z_{k}^{(q)}) = E (∑_{p=1}^{n} (Z_{j}^{(p)} − EZ_{j}^{(p)}) ∑_{q=1}^{n} (Z_{k}^{(q)} − EZ_{k}^{(q)}))

= E (∑_{p=1}^{n} (Z_{j}^{(p)} − EZ_{j}^{(p)}) (Z_{k}^{(p)} − Z_{k}^{(p)})) = ∑_{p=1}^{n} Cov (Z^{(p)}, Z^{(q)}) ,

mert E (Z_{j}^{(p)} − EZ_{j}^{(p)}) (Z_{k}^{(q)} − Z_{k}^{(q)}) = E (Z_{j}^{(p)} − EZ_{j}^{(p)}) E (Z_{k}^{(q)} − Z_{k}^{(q)}) = 0, ha p ≠ q a függetlenség miatt. Ez az azonosság pedig azt jelenti, hogy független véletlen vektorok kovariancia mátrixa additív. Az, hogy E(Z + x) = EZ + x, EaZ = aEZ, Cov (Z_{p} + x, Z_{q} + y) = Cov (Z_{p}, Z_{q}), Cov (aZ_{p}, aZ_{q}) = a^{2}Cov (Z_{p}, Z_{q}), tetszőleges Z = (Z_{1}, …, Z_{k}) vektorra és 1 ≤ p, q ≤ k indexekre következik az egydimenziós esetben már bizonyított állításokból. Ezek az azonosságok tartalmazzák a feladat korábban nem bizonyított állításait.

2. Mutassunk példát két korrelálatlan ξ és η valószínűségi változóra, melyek nem függetlenek. Megoldás: Sok egyszerű példát adhatunk. Tekintsük például a következő példát: Legyen ξ egyenletes eloszlású valószínűségi változó a [−\frac{1}{2}, \frac{1}{2}] intervallumban, Ekkor a ξ és η = ξ^{2} valószínűségi változók korrelálatlanok, de nem függetlenek. Valóban,

Eξ = 0, Eη = Eξ^{2} = \frac{1}{12}, Eξη = Eξ^{3} = 0, Cov (ξ, η) = Eξη − EξEη = 0. Másrészt

ξ és η nem függetlenek, sőt az η valószínűségi változó a ξ valószínűségi változó determinisztikus függvénye. Megoldás: Egy lehetséges formális indoklása annak, hogy ξ és η nem független a következő: Legyen 0 < a < 1 tetszőleges szám. Ekkor {ω: η < a^{2}} = {ω: |ξ| < a}. Ezért P (ξ < a, η < a^{2}) = P (ξ < a), azaz P (ξ < a, η < a^{2}) ≠ P (ξ < a)P (η < a^{2}).

3. A (ξ_{1}, …, ξ_{k}) valószínűségi vektor akkor és csak akkor normális eloszlású, ha a

∑_{p=1}^{k} a_{p}ξ_{p} egydimenziós valószínűségi változó normális eloszlású tetszőleges a_{1}, …, a_{k}

valós számokkal. Megoldás: Ha (ξ_{1}, …, ξ_{k}) normális eloszlású valószínűségi változó, φ(t_{1}, …, t_{k}) =

Ee^{it_{1}ξ_{1}+···+t_{k}ξ_{k}} = e^{i(t,m)−tDt^{∗}/2} karakterisztikus függvénnyel, akkor a ∑_{p=1}^{k} a_{p}ξ_{p} va-

lószínűségi változó karakterisztikus függvénye a

ψ(t) = φ(a_{1}t, …, a_{k}t) = Ee^{i(a_{1}tξ_{1}+···+a_{k}tξ_{k})} = e^{it(a,m)−aDa^{∗}t^{2}/2}

függvény, ahol a = (a_{1}, …, a_{k}), −∞ < t < ∞, tetszőleges valós szám. Innen

következik, hogy ∑_{p=1}^{k} a_{p}ξ_{p} normális eloszlású valószínűségi változó aDa^{∗} szórás-

négyzettel és (a, m) várható értékkel.

Megfordítva, ha tetszőleges a_{1}, …, a_{k} számokra a ∑_{p=1}^{k} a_{p}ξ_{p} valószínűségi változó

normális eloszlású, akkor Eξ_{j}^{2} < ∞ minden 1 ≤ j ≤ k számra, és létezik a (ξ_{1}, …, ξ_{k}) véletlen vektornak valamilyen m = (m_{1}, …, m_{k}) várható értéke és

D = (d_{j,l}), 1 ≤ j, l ≤ k, d_{j,l} = Cov (ξ_{j}, ξ_{l}) kovariancia mátrixa. Ekkor a ∑_{p=1}^{k} a_{p}ξ_{p}

összeg várható értéke ∑_{j=1}^{k} a_{j}m_{j} = (a, m), szórásnégyzete aDa^{∗}, a = (a_{1}, …, a_{k}),

kovarianciafüggvénye pedig ψ_{a_{1},...,a_{k}}(s) = e^{is(a,m)−aDa^{∗}s^{2}/2}. Innen következik, hogy a (ξ_{1}, …, ξ_{k}) véletlen vektor karakterisztikus függvénye a φ(t_{1}, …, t_{k}) = ψ_{t_{1},...,t_{k}}(1) = e^{i(t,m)−tDt^{∗}/2}. Ezért (ξ_{1}, …, ξ_{k}) normális eloszlású valószínűségi változó.

4. Legyen η = (η_{1}, …, η_{k}) k-dimenziós, normális eloszlású valószínűségi változó m = (m_{1}, …, m_{k}) várható értékkel és D kovariancia mátrix-szal, és legyen B valamely k×k méretű mátrix. Mutassuk meg, hogy az ηB = (η_{1}, …, η_{k})B véletlen vektor kdimenziós, normális eloszlású valószínűségi változó mB várható értékkel és B^{∗}DB kovariancia mátrix-szal. Megoldás: Egy lehetséges bizonyítás: Az η véletlen vektor eloszlása megegyezik egy ξA + m = (ξ_{1}, …, ξ_{k})A + (m_{1}, …, m_{k}) véletlen vektor eloszlásával, ahol ξ_{j}, 1 ≤ j ≤ k, független, standard normális eloszlású valószínűségi változók, és A olyan k × k méretű mátrix, melyre D = A^{∗}A. Ezért ηB eloszlása megegyezik a ξAB + mB véletlen vektor eloszlásával. Ez viszont egy k dimenziós normális eloszlású valószínűségi változó, melynek várható értéke mB, kovariancia mátrixa pedig (AB)^{∗}AB = B^{∗}A^{∗}AB = B^{∗}DB.

5. Legyen ξ = (ξ_{1}, …, ξ_{k}) k-dimenziós normális eloszlású valószínűségi változó, B pedig egy k × p méretű, (azaz nem feltétlenül négyzetes) mátrix. Ekkor az η = (η_{1}, …, η_{p}) = ξB véletlen vektor p-dimenziós normális eloszlású valószínűségi változó. Megoldás: Írjuk fel az η véletlen vektor karakterisztikus függvényét, ha a ξ vektor karakterisztikus függvénye a φ(t) = φ(t_{1}, …, t_{k}) = e^{i(m,t)−tDt^{∗}/2} alkalmas m kdimenziós vektorral és D k×k méretű pozitív szemidefinit mátix. Ekkor tetszőleges t = (t_{1}, …, t_{p}) vektorra

Ee^{i(t,η)} = Ee^{i((t,ξB)} = Ee^{i(tB^{∗},ξ)} = e^{i(tB^{∗},m)−tB^{∗}DBt^{∗}/2} = e^{i(t,m̄)−tD̄t^{∗}/2},

m̄ = mB és D̄ = B^{∗}DB választással. Innen következik a feladat állítása, mert ez azt jelenti, hogy η karakterisztikus függvénye egy normális eloszlású valószínűségi változó karakterisztikus függvénye. (Hogyan lehet látni, hogy D̄ = B^{∗}DB is pozitív szemidefinit mátrix?)

6. Definiáljuk a következő (Ω, B, P) valószínűségi mezőt: Ω = [0, 1], B a Borel σalgebra [0, 1]-en, és P a Lebesgue mérték. Definiáljuk a következő ξ és η valószínűségi változókat ezen a mezőn: ξ(x) = Φ^{−1}(x),

η(x) = \{ \begin{matrix}ξ(1 − x) & ha 0 ≤ x < \frac{1}{2} \\ ξ (x − \frac{1}{2}) & ha \frac{1}{2} ≤ x ≤ 1 \end{matrix} .

Lássuk be, hogy ξ és η normális eloszlású valószínűségi változók, de a (ξ, η) vektor nem normális eloszlású valószínűségi vektor. Megoldás: A ξ és η valószínűségi változók azonos eloszlásúak. Továbbá,

P (ξ > x) = λ(Φ(x), 1]) = 1 − Φ(x) .

Az, hogy (ξ, η) vektor nem normális eloszlású következik például a P (ξ+η = 0) = \frac{1}{2} azonosságból. Miért?

7. Legyenek ξ_{1}, …, ξ_{n} független a [−\frac{1}{2}, \frac{1}{2}] intervallumban egyenletes eloszlású va-

lószínűségi változók. Mutassuk meg, hogy a ∑_{j=1}^{n} ξ_{j} és ∑_{j=1}^{n} ξ_{j}^{2} összegek normali-

záltjainak azaz az \sqrt{\frac{12}{n}} ∑_{j=1}^{n} ξ_{j} és \sqrt{\frac{180}{n}} ∑_{j=1}^{n} (ξ_{j}^{2} − \frac{1}{12}) valószínűségi változóknak

az együttes eloszlása a két-dimenziós standard normális eloszláshoz konvergál, ha n → ∞.

Megoldás: Eξ = 0, Eξ^{2} = \frac{1}{12}, Var ξ = \frac{1}{12}, Var ξ^{2} = Eξ^{4} − (Eξ^{2})^{2} = \frac{1}{80} − \frac{1}{144} =

\frac{1}{180}. Továbbá Cov (ξ, ξ^{2}) = Eξ^{3}−EξEξ^{2} = 0. Ezért a (\sqrt{12}ξ_{j}, \sqrt{180} (ξ_{j}^{2} − \frac{1}{12})),

j = 1, 2, …, véletlen vektorok függetlenek, nulla várható értékkel és az identitás kovariancia mátrix-szal. Innen, és a több-dimenziós centrális határeloszlástételből következik a feladat állítása.

8. Legyen (ξ, η) normális eloszlású vektor m = (m_{1}, m_{2}) = (Eξ, Eη) várható értékkel

és

( \begin{matrix}σ_{1,1}, & σ_{1,2} \\ σ_{2,1}, & σ_{1,1} \end{matrix} ) = ( \begin{matrix}Eξ^{2} − (Eξ)^{2}, & Eξη − EξEη \\ Eξη − EξEη, & Eη^{2} − (Eη)^{2} \end{matrix} )

kovarianciamátrix-szal. Ekkor létezik a ξ valószínűségi változónak ξ = aη + ζ alakú előállítása alkalmas a konstanssal, és az η valószínűségi változótól független ζ normális eloszlású valószínűségi változóval. Ez azt jelenti, hogy ha (ξ, η) két-dimen-ziós normális eloszlású valószínűségi változó, akkor az első koordináta kifejezhető mint a második kooordináta konstansszorosának és egy a második koordinátától független normális eloszlású valószínűségi változó összege. A kívánt a konstanst explicit módon megadhatjuk az a = \frac{σ_{1,2}}{σ_{2,2}} képlet segítségével.

Hogy általánosítható a fenti állítás abban az esetben, ha ξ és η vektorváltozók is lehetnek? Megoldás: A ζ = ξ − \frac{σ_{1,2}}{σ_{1,1}} η valószínűségi változó független az η valószínűségi

változótól. Ehhez a több-dimenziós normális eloszlás tulajdonságai alapján elég ellenőrizni, hogy Cov (ζ, η) = 0. Innen következik a feladat állítása. Az az eset, amikor ξ = (ξ_{1}, …, ξ_{s}), η = (η_{1}, …, η_{p}), és (ξ_{1}, …, ξ_{s}, η_{1}, …, η_{p}) egy s + p dimenziós normális eloszlású valószínűségi változó hasonlóan tárgyalható. Lássuk be, hogy létezik olyan A mátrix, melyre η és ξ − ηA függetlenek. Ennek érdekében lássuk be először, hogy létezik olyan U unitér mátrix melyre ηU = (η̄_{1}, …, η̄_{p}) = η̄ vektor koordinátái függetlenek. Ugyanis, ha az η véletlen vektor D kovarianciamátrixát D = U^{∗}ΛU alakban írjuk, ahol U unitér Λ pedig diagonális mátrix, akkor az η̄ = ηU véletlen normális eloszlású vektor kovarianciamátrixa Λ, ahonnan következik, hogy az η̄ mátrix koordinátái függetlenek. Legyen ξ̄_{r} =

ξ_{r} − ∑_{k=1}^{p} \frac{Eξ_{r}η̄_{k}}{Eη̄_{k}^{2}} η̄_{k}, r = 1, …, s. Ezt mátrixjełöléssel írjuk ξ̄ = ξ − η̄B formában.

Ekkor (ξ − η̄B, η̄) olyan p + s dimenziós normális eloszlású valószínűségi változó, melynek első s és utolsó p koordinátája korrelálatlan, ezért független. Mivel a ξ − η̄B és η̄ vektorok függetlenek, ezért ζ = ξ − η̄B = ξ − ηUB független az η = η̄U^{∗} vektortól.