A május 13.-i előadáshoz kapcsolódó gyakorlat feladatai

1. Lásssuk be a következő állítást:

Legyenek Z^{(j)} = (Z_{1}^{(j)}, …, Z_{k}^{(j)}), 1 ≤ j ≤ n, véletlen k-dimenziós vektorok

ugyanazon az (Ω, A, P) valószínűségi mezőn. Ekkor a Z^{(1)} + ⋯ + Z^{(n)} összeg várható értéke megegyezik a Z^{(j)} vektorok várható értékeinek az összegével, azaz

E (Z^{(1)} + ⋯ + Z^{(n)}) = EZ^{(1)} + ⋯ + EZ^{(n)}.

Ha a Z^{(j)}, 1 ≤ j ≤ n, véletlen vektorok függetlenek, akkor a kovariancia mátrix is additív, azaz, ha a Z^{(j)} mátrix kovariancia mátrixa a D_{j} mátrix, 1 ≤ j ≤ n, akkor a Z_{(1)} + ⋯ + Z^{(n)} véletlen összeg kovariancia mátrixa a D_{1} + ⋯ + D_{n} mátrix. Ha egy Z = (Z_{1}, …, Z_{k}), véletlen vektor várható értéke M = (M_{1}, …, M_{k}), kovariancia mátrixa a D k × k méretű mátrix, a tetszőleges valós szám, akkor az aZ = (aZ_{1}, …, aZ_{k}), véletlen vektor várható értéke aM, kovariancia mátrixa pedig az a^{2}D kovariancia mátrix. Legyen továbbá x = (x_{1}, …, x_{k} tetszőleges k-dimenziós vektor. Ekkor E(Z + x) = EZ + x, a Z + x vektor kovariancia mátrixa pedig megegyezik a Z vektor kovariancia mátrixával. Megoldás: A feladatban kimondott állítások következnek az egy-dimenziós esetben bizonyított állításokból. Az egy-dimenziós várható érték additivitából következik, hogy E (Z^{(1)} + ⋯ + Z^{(n)}) = EZ^{(1)} +⋯+EZ^{(n)}. Ha a Z^{(j)} vektorok függetlenek, akkor tetszőleges j és k indexre,

Cov (∑_{p=1}^{n} Z_{j}^{(p)}, ∑_{q=1}^{n} Z_{k}^{(q)}) = E (∑_{p=1}^{n} (Z_{j}^{(p)} − EZ_{j}^{(p)}) ∑_{q=1}^{n} (Z_{k}^{(q)} − EZ_{k}^{(q)}))

= E (∑_{p=1}^{n} (Z_{j}^{(p)} − EZ_{j}^{(p)}) (Z_{k}^{(p)} − Z_{k}^{(p)})) = ∑_{p=1}^{n} Cov (Z^{(p)}, Z^{(q)}) ,

mert E (Z_{j}^{(p)} − EZ_{j}^{(p)}) (Z_{k}^{(q)} − Z_{k}^{(q)}) = E (Z_{j}^{(p)} − EZ_{j}^{(p)}) E (Z_{k}^{(q)} − Z_{k}^{(q)}) = 0, ha p ≠ q a függetlenség miatt. Ez az azonosság pedig azt jelenti, hogy független véletlen vektorok kovariancia mátrixa additív. Az, hogy E(Z + x) = EZ + x, EaZ = aEZ, Cov (Z_{p} + x, Z_{q} + y) = Cov (Z_{p}, Z_{q}), Cov (aZ_{p}, aZ_{q}) = a^{2}Cov (Z_{p}, Z_{q}), tetszőleges Z = (Z_{1}, …, Z_{k}) vektorra és 1 ≤ p, q ≤ k indexekre következik az egydimenziós esetben már bizonyított állításokból. Ezek az azonosságok tartalmazzák a feladat korábban nem bizonyított állításait.

2. Mutassunk példát két korrelálatlan ξ és η valószínűségi változóra, amelyek nem függetlenek. Megoldás: Sok egyszerű példát adhatunk. Tekintsük például a következő példát: Legyen ξ egyenletes eloszlású valószínűségi változó a [−\frac{1}{2}, \frac{1}{2}] intervallumban, Ekkor a ξ és η = ξ^{2} valószínűségi változók korrelálatlanok, de nem függetlenek. Valóban,

Eξ = 0, Eη = Eξ^{2} = \frac{1}{12}, Eξη = Eξ^{3} = 0, Cov (ξ, η) = Eξη − EξEη = 0. Másrészt

ξ és η nem függetlenek, sőt az η valószínűségi változó a ξ valószínűségi változó determinisztikus függvénye. a felhasznált azonosságok ellenőrzését egyszerűsítheti az az észrevétel, hogy ξ valószínűségi változó sűrűségfüggvénye páros függvény. Viszont, ha egy valószínűségi változó sűrűségfüggvénye egy páros f(x), függvény, akkor Eξ = ∫ xf(x) dx = 0, Eξ^{3} = ∫ x^{3}f(x) dx. Egy lehetséges formális indoklása annak, hogy ξ és η nem független a következő: Legyen 0 < a < 1 tetszőleges szám. Ekkor {ω: η < a^{2}} = {ω: |ξ| < a}. Ezért P (ξ < a, η < a^{2}) = P (ξ < a), azaz P (ξ < a, η < a^{2}) ≠ P (ξ < a)P (η < a^{2}).

3. Legyen η = (η_{1}, …, η_{k}) k-dimenziós, valószínűségi változó m = (m_{1}, …, m_{k}) várható értékkel és D = (d_{j,l}), 1 ≤ j, l ≤ k, kovariancia mátrix-szal. Legyen B = (b_{j,l}), 1 ≤ j, l ≤ k, valamely k × k méretű mátrix. Mutassuk meg, hogy az ηB = (η_{1}, …, η_{k})B k-dimenziós véletlen vektor várható érték vektora mB és kovariancia mátrixa B^{∗}DB. Megoldás: Az EηB vektor r-ik eleme

E (∑_{j=1}^{k} η_{j}b_{j,r}) = (∑_{j=1}^{k} b_{j,r}Eη_{j}) = (∑_{j=1}^{k} m_{j}b_{j,r}) ,

és ez az mB vektor r-ik eleme. Az ηB vektor kovariancia mátrixának r-ik sorában és s-ik oszlopában álló elem

f_{r,s} = Cov (∑_{j=1}^{k} η_{j}b_{j,r}, ∑_{l=1}^{k} η_{l}b_{l,s}) = E (∑_{j=1}^{k}(η_{j} − Eη_{j})b_{j,r} ∑_{l=1}^{k}(η_{l} − Eη_{l})b_{l,s})

= ∑_{j=1}^{k} ∑_{l=1}^{k} b_{j,r}b_{l,s}E(η_{j} − Eη_{j})(η_{l} − Eη_{l})) = ∑_{j=1}^{k} ∑_{l=1}^{k} b_{j,r}b_{l,s}Cov (η_{j}, η_{l})

= ∑_{j=1}^{k} ∑_{l=1}^{k} Eb_{j,r}b_{l,s}d_{j,l} = ∑_{j=1}^{k} ∑_{l=1}^{k} Eb_{r,j}^{∗}d_{j,l}b_{l,s},

ahol b^{∗}(r, j) = b_{j,r}. Ez a kifejezés viszont megegyezik a B^{∗}DB mátrix r-ik sorában és s-ik oszlopában álló elemmel.

4. Definiáljuk a következő (Ω, B, P) valószínűségi mezőt: Ω = [0, 1], B a Borel σalgebra [0, 1]-en, és P a Lebesgue mérték. Definiáljuk a következő ξ és η valószínűségi változókat ezen a mezőn: ξ(x) = Φ^{−1}(x),

η(x) = \{ \begin{matrix}ξ(1 − x) & ha 0 ≤ x < \frac{1}{2} \\ ξ (x − \frac{1}{2}) & ha \frac{1}{2} ≤ x ≤ 1 \end{matrix} .

Lássuk be, hogy ξ és η normális eloszlású valószínűségi változók, de a (ξ, η) vektor nem normális eloszlású valószínűségi vektor. Megoldás: A ξ és η valószínűségi változók azonos eloszlásúak. Továbbá,

P (ξ > x) = λ(Φ(x), 1]) = 1 − Φ(x) .

Az, hogy (ξ, η) vektor nem normális eloszlású következik például a P (ξ+η = 0) = \frac{1}{2} azonosságból. Miért?

5. Legyenek ξ_{1}, …, ξ_{n} független a [−\frac{1}{2}, \frac{1}{2}] intervallumban egyenletes eloszlású va-

lószínűségi változók. Mutassuk meg, hogy a ∑_{j=1}^{n} ξ_{j} és ∑_{j=1}^{n} ξ_{j}^{2} összegek normali-

záltjainak azaz az \sqrt{\frac{12}{n}} ∑_{j=1}^{n} ξ_{j} és \sqrt{\frac{180}{n}} ∑_{j=1}^{n} (ξ_{j}^{2} − \frac{1}{12}) valószínűségi változóknak

az együttes eloszlása a két-dimenziós standard normális eloszláshoz konvergál, ha n → ∞.

Megoldás: Eξ = 0, Eξ^{2} = \frac{1}{12}, Var ξ = \frac{1}{12}, Var ξ^{2} = Eξ^{4} − (Eξ^{2})^{2} = \frac{1}{80} − \frac{1}{144} =

\frac{1}{180}. Továbbá Cov (ξ, ξ^{2}) = Eξ^{3}−EξEξ^{2} = 0. Ezért a (\sqrt{12}ξ_{j}, \sqrt{180} (ξ_{j}^{2} − \frac{1}{12})),

j = 1, 2, …, véletlen vektorok függetlenek, nulla várható értékkel és az identitás kovariancia mátrix-szal. Innen, és a több-dimenziós centrális határeloszlástételből következik a feladat állítása.

6. Legyen (ξ, η) normális eloszlású vektor m = (m_{1}, m_{2}) = (Eξ, Eη) várható értékkel

és

( \begin{matrix}σ_{1,1}, & σ_{1,2} \\ σ_{2,1}, & σ_{1,1} \end{matrix} ) = ( \begin{matrix}Eξ^{2} − (Eξ)^{2}, & Eξη − EξEη \\ Eξη − EξEη, & Eη^{2} − (Eη)^{2} \end{matrix} )

kovarianciamátrix-szal. Ekkor létezik a ξ valószínűségi változónak ξ = aη + ζ alakú előállítása alkalmas a konstanssal, és az η valószínűségi változótól független ζ normális eloszlású valószínűségi változóval. Ez azt jelenti, hogy ha (ξ, η) két-dimen-ziós normális eloszlású valószínűségi változó, akkor az első koordináta kifejezhető mint a második kooordináta konstansszorosának és egy a második koordinátától független normális eloszlású valószínűségi változó összege. A kívánt a konstanst explicit módon megadhatjuk az a = \frac{σ_{1,2}}{σ_{2,2}} képlet segítségével.

Hogy általánosítható a fenti állítás abban az esetben, ha ξ és η vektorváltozók is lehetnek? Megoldás: A ζ = ξ − \frac{σ_{1,2}}{σ_{1,1}} η valószínűségi változó független az η valószínűségi

változótól. Ehhez a több-dimenziós normális eloszlás tulajdonságai alapján elég ellenőrizni, hogy Cov (ζ, η) = 0. Innen következik a feladat állítása. Az az eset, amikor ξ = (ξ_{1}, …, ξ_{s}), η = (η_{1}, …, η_{p}), és (ξ_{1}, …, ξ_{s}, η_{1}, …, η_{p}) egy s + p dimenziós normális eloszlású valószínűségi változó hasonlóan tárgyalható. Lássuk be, hogy létezik olyan A mátrix, amelyre η és ξ − ηA függetlenek. Ennek érdekében lássuk be először, hogy létezik olyan U unitér mátrix amelyre ηU = (η̄_{1}, …, η̄_{p}) = η̄ vektor koordinátái függetlenek. Ugyanis, ha az η véletlen vektor D kovarianciamátrixát D = U^{∗}ΛU alakban írjuk, ahol U unitér Λ pedig diagonális mátrix, akkor az η̄ = ηU véletlen normális eloszlású vektor kovarianciamátrixa Λ, ahonnan következik, hogy az η̄ mátrix koordinátái függetlenek. Legyen ξ̄_{r} =

ξ_{r} − ∑_{k=1}^{p} \frac{Eξ_{r}η̄_{k}}{Eη̄_{k}^{2}} η̄_{k}, r = 1, …, s. Ezt mátrixjełöléssel írjuk ξ̄ = ξ − η̄B formában.

Ekkor (ξ − η̄B, η̄) olyan p + s dimenziós normális eloszlású valószínűségi változó, amelynek első s és utolsó p koordinátája korrelálatlan, ezért független. Mivel a ξ − η̄B és η̄ vektorok függetlenek, ezért ζ = ξ − η̄B = ξ − ηUB független az η = η̄U^{∗} vektortól.

7. Legyen ξ normális eloszlású valószínűségi változó 1 szórásnégyzettel és 2 várható

értékkel, azaz legyen ξ sűrűségfüggvénye f(x) = \frac{1}{\sqrt{2π}} e^{−(x−2)^{2}/2}. Számítsuk ki az

Ee^{tξ} várható értéket tetszőleges t valós számra. Első megoldás: Vezessük be az η = ξ − 2 valószínűségi változót. Ekkor η standard normális eloszlású valószínűségi változó, és korábban láttuk (április 22.-i gyakorlat,

6. feladat), hogy egy ilyen valószínűségi változóra Ee^{tη} = e^{t^{2}/2}. Innen következik, hogy ξ = η + 2, Ee^{tξ} = Ee^{t(η+2)} = e^{2t}Ee^{tη} = e^{2t}e^{t^{2}/2} = e^{t^{2}/2+2t}. Második megoldás: Számolhatunk hasonlóan, mint tettük azt a standard normális eloszlás esetében.

Ee^{tξ} = ∫_{−∞}^{∞} e^{tu} \frac{1}{\sqrt{2π}} e^{−(u−2)^{2}/2} du = ∫_{−∞}^{∞} \frac{1}{\sqrt{2π}} e^{2t+t(u−2)−(u−2)^{2}/2−t^{2}/2+t^{2}/2} du

= e^{2t+t^{2}/2} ∫_{−∞}^{∞} \frac{1}{\sqrt{2π}} e^{−(t−(u−2))^{2}/2} du = e^{2t+t^{2}/2} ∫_{−∞}^{∞} \frac{1}{\sqrt{2π}} e^{−u^{2}/2} du = e^{2t+t^{2}/2}.

8. Legyenek ξ_{1}, ξ_{2}, …, független egyforma eloszlású valószínűségi változók, amelyekre

Eξ_{1} = 0 és Eξ_{1}^{2} < ∞. Legyen S_{n} = ∑_{k=1}^{n} ξ_{k}, n = 1, 2, . . .. Ekkor pozitív valós számok

valamely a_{n} sorozatára a \frac{S_{n}}{a_{n}} valószínűségi változók akkor és csak akkor tartanak

sztochasztikusan nullához n → ∞ esetén, ha lim_{n→∞} \frac{a_{n}}{\sqrt{n}} = ∞.

Megoldás: Ha lim_{n→∞} \frac{a_{n}}{\sqrt{n}} = ∞, akkor

P (\frac{|S_{n}|}{a_{n}} > ε) = P (\frac{|S_{n}|}{\sqrt{nVar ξ_{1}}} > \frac{εa_{n}}{\sqrt{nVar ξ_{1}}} ) ≤ P (\frac{|S_{n}|}{\sqrt{nVar ξ_{1}}} > K)

tetszőleges ε > 0 és K > 0 számra, ha n ≥ n_{0}(ε, K). Ezért a centrális határ-

eloszlástétel alapján P (\frac{|S_{n}|}{a_{n}} > ε) ≤ δ, ha n ≥ n_{0} = n_{0}(ε, δ), azaz az \frac{S_{n}}{a_{n}} sorozat

sztochasztikusan tart nullához. Megfordíta, ha az \frac{a_{n}}{\sqrt{n}} sorozat nem tart végtelenhez, akkor létezik a természetes

számoknak olyan n_{k} → ∞ részsorozata, amelyre lim sup_{k→∞} \frac{a_{n_{k}}}{\sqrt{n_{k}}} ≤ L, ezért

lim inf_{k→∞} P (\frac{|S_{n_{k}}|}{a_{n_{k}}} > 1) = lim inf_{k→∞} P (\frac{|S_{n_{k}}|}{\sqrt{n_{k}Var ξ_{1}}} > \frac{a_{n_{k}}}{\sqrt{n_{k}Var ξ_{1}}} )

≥ lim inf_{k→∞} P (\frac{|S_{n_{k}}|}{\sqrt{nVar ξ_{1}}} > \frac{L}{\sqrt{Var ξ_{1}}} ) > 0

a centrális határeloszlástétel alapján. Ezért ebben az esetben az \frac{S_{n}}{a_{n}} sorozat nem tar sztochasztikusan nullához.