Az október 12-i szeminárium témája Rövid összefoglaló

Először a következő problémát tárgyaljuk:

1. Tekintsünk egy végtelen független, szabályos pénzfeldobás eredményeként keletkező végtelen fej-írás sorozatot. Azt az eseményt akarjuk vizsgálni, hogy mi annak a valószínűsége, hogy a fej-dobások relativ gyakorisága tart valamilyen c számhoz, ha a dobásszám tart végtelenhez. (A legérdekesebb eset az, ha c = \frac{1}{2}.) Először azt akarjuk tisztázni, hogy ez a kérdés értelmes, a valószínűségszámítás keretein belül tárgyalható. Azaz azt állítjuk, hogy ennek az eseménynek van valószínűsége. Ennek az állításnak az igazolásához azt kell belátnunk, hogy egy olyan (Ω, A, P) valószínűségi mezőn, ahol mérhetőek azok az események, hogy az n-ik dobás eredménye fej vagy írás, n = 1, 2, …, — azaz ezek az események elemei az A σ-algebrának — az az esemény, hogy a fej-dobások relativ gyakoriságának van határértéke, és ez a határérték egy előírt c szám szintén mérhető, azaz szintén eleme az A σ-algebrának. Ez az állítás megfogalmazható a következő ekvivalens módon. Tekintsük (független) valószínűségi változók ξ_{1}, ξ_{2}, …, olyan sorozatát valamely (Ω, A, P) valószínűségi mezőn, melyekre P (ξ_{j} = 0) = P (ξ_{j} = 1) = \frac{1}{2}, 1 ≤ j ≤ n. Valójában csak azt fogjuk kihasználni, hogy a ξ_{j} valószínűségi változók mérhetőek, és két értéket vesznek fel, az egy és nulla értéket. Mutassuk meg, hogy van értelme arról beszélni, hogy a +1-ek relativ gyakorisága c, ahol 0 ≤ c ≤ 1 tetszőleges szám. Formálisan megfogalmazva: Lássuk be, hogy az

A = A(c)

= \{ω : lim_{n→∞} \frac{azon j indexek száma, melyekre ξ_{j}(ω) = 1, és 1 ≤ j ≤ n}{n} = c\}

esemény eleme az A σ-algebrának. Tehát van értelme arról beszélni, hogy mi annak a valószínűsége, hogy a fej dobások relativ gyakoriságának limesze c (például \frac{1}{2}), ha a dobásszám tart a végtelenhez.

A vizsgálandő A(c) esemény átírható, mint

A(c) = \{ω : lim_{n→∞} \frac{ξ_{1}(ω) + ⋯ + ξ_{n}(ω)}{n} = c\}

Először megtárgyaltuk azt az állítást, hogy a \{ω : \frac{ξ_{1}(ω) + ⋯ + ξ_{n}(ω)}{n} ∈ B\} esemény

mérhető minden rögzített n számra és a számegyenes (mérhető) B halmazára. Ennek bizonyításához először azt mutatjuk meg, hogy teszőleges x számra az

\{ω : \frac{ξ_{1}(ω) + ⋯ + ξ_{n}(ω)}{n} = x\}

esemény mérhető. Valóban ez az esemény üres, ha x ≠ kn valamely egész 0 ≤ k ≤ n számmal, ha pedig x = \frac{k}{n}, akkor ez az esemény felírható mint véges sok (pontosabban \binom{n}{k}) mérhető halmaz uniója. Nevezetesen egy ilyen esemény olyan események uniója, melyekben előírjuk minden ξ_{j}(ω), 1 ≤ j ≤ n értékét, mégpedig úgy, hogy pontosan k ξ_{j}(ω) értéke 1 és n − k ξ_{j}(ω) értéke 0.

Megjegyezzük, hogy a fent tárgyalt állításnak érvényes a következő általánosítása is, melyet gyakran használnak. Ha ξ_{1}, …, ξ_{n} valószínűségi változók, azaz mérhető függvények az (Ω, A, P) téren, g(x_{1}, …, x_{n}) (Borel) mérhető függvény az R^{n} n-dimen-ziós Euklidesi térben, akkor g(ξ_{1}, …, ξ_{n}) is valószínűségi változó, azaz mérhető függvény az (Ω, A, P) téren. Speciálisan g(x_{1}, …, x_{n}) = \frac{x_{1}+···+x_{n}}{n} választással kapjuk meg innen az előbb tárgyalt állítást (kissé általánosabb formában).

Az 1. feladat megoldásának érdekében vegyük észre, hogy

A(c) = ⋂_{k=1}^{∞} \{lim sup_{n→∞} \frac{ξ_{1} + ⋯ + ξ_{n}}{n} < c + \frac{1}{k} \} ∩ ⋂_{k=1}^{∞} \{lim inf_{n→∞} \frac{ξ_{1} + ⋯ + ξ_{n}}{n} > c − \frac{1}{k} \} .

Továbbá,

\{lim sup_{n→∞} \frac{ξ_{1} + ⋯ + ξ_{n}}{n} < c + \frac{1}{k} \} = ⋂_{N=1}^{∞} \{ sup_{n>N} \frac{ξ_{1} + ⋯ + ξ_{n}}{n} < c + \frac{1}{k} \}

= ⋂_{N=1}^{∞} \{ ⋃_{j=1}^{∞} sup_{n>N} \frac{ξ_{1} + ⋯ + ξ_{n}}{n} ≤ c + \frac{1}{k} − \frac{1}{j}\}

= ⋂_{N=1}^{∞} ( ⋃_{j=1}^{∞} ( ⋂_{n≥N} \{\frac{ξ_{1} + ⋯ + ξ_{n}}{n} < c + \frac{1}{k} − \frac{1}{j}\})) ∈ A,

és hasonlóan

\{lim inf_{n→∞} \frac{ξ_{1} + ⋯ + ξ_{n}}{n} > c − \frac{1}{k} \}

= ⋂_{N=1}^{∞} ( ⋃_{j=1}^{∞} ( ⋂_{n≥N} \{\frac{ξ_{1} + ⋯ + ξ_{n}}{n} > c − \frac{1}{k} + \frac{1}{j}\})) ∈ A,

Kitűzött feladat: (Nem kötelező)

Legyen ξ_{1}, ξ_{2}, … valószínűségi változók sorozata egy (Ω, A, P) valószínűségi mezőn. Ekkor az

A = A(a) = {ω: lim sup_{n→∞} ξ_{n}(ω) = a}

esemény eleme a A σ-algebrának, tehát létezik a P (A) valószínűség.

Nagy számok gyenge és erős törvénye

Legyen ξ_{1}, ξ_{2}, …, független egyforma eloszlású valószínűségi változók sorozata egy

(Ω, A, P) valószínűségi mezőn. Definiáljuk az S_{n} = ∑_{k=1}^{m} ξ_{k}, n = 1, 2, …, összegeket.

Definició 1. Azt mondjuk, hogy az előbb tekintett valószínűségi változók sorozata tel-

jesíti a nagy számok gyenge törvényét, ha az \frac{S_{n}}{n} átlagok sztochasztikusan tartanak alkalmas a valós számhoz, azaz minden ε > 0 számra

lim_{n→∞} P (|\frac{S_{n}}{n} − a| > ε) = 0

Definició 2. Azt mondjuk, hogy az előbb tekintett valószínűségi változók sorozata tel-

jesíti a nagy számok erős törvényét, ha az \frac{S_{n}}{n} átlagok egy valószínűséggel tartanak alkalmas a valós számhoz, azaz

P (ω: lim_{n→∞} \frac{S_{n}(ω)}{n} = a) = 1.

Ez a reláció azt jelenti, hogy azon ω ∈ Ω elemi események halmaza, melyekre étezik

a lim_{n→∞} \frac{S_{n}(ω)}{n} limesz, és ez a limesz megegyezik egy az ω elemi eseménytől független a számtól egy 1 valószínűségű halmaz, azaz ez az állítás egy null mértékű halmaz kivételével minden ω ∈ Ω elemi eseményre érvényes.

A továbbiakban megmutatjuk, hogy alkalmas eléggé általános feltételek mellett érvényes a nagy számok gyenge és erős törvénye, továbbá megtárgyaljuk a nagy számok gyenge és erős törvényében szereplő sztochasztikus és egy valószínűségi konvergencia kapcsolatát.

A nagy számok gyenge törvényének vizsgálatában hasznos az alábbi Chebisev egyenlőtlenség:

Chebishev egyenlőtlenség: Ha a ξ valószínűségi változó második momentuma Eξ^{2} = m^{2}, akkor tetszőleges x > 0 számra

P (|ξ| > x) ≤ \frac{m_{2}}{x^{2}} .

Innen következik, ha ezt az egyenlőtlenséget a ξ̄ = ξ − Eξ valószínűségi változóra alkalmazzuk, hogy

P (|ξ − Eξ| > x) ≤ \frac{Var ξ}{x^{2}} ,

Megjegyzés: A Chebishev egyenlőtlenség a Markov egyenlőtlenség következménye, mely

szerint P (|ξ| > x) ≤ \frac{E|ξ|}{x}. Alkalmazva ezt az állítást a ξ^{2} valószínűségi változóra kapjuk a Chebishev egyenlőtlenséget. Hasonló módon, alkalmazva a Markov egyenlőtlenséget a ξ^{2k} valószínűségi változóra, ahol k tetszőleges pozitív egész szám, x > 0, kapjuk, hogy

P (|ξ| > x) ≤ \frac{Eξ^{2k}}{x^{2k}}

Vizsgáljuk meg, hogy milyen becslést adnak a fenti eredmények független, egyforma eloszlású valószínűségi változók átlagának eltérésére a változók várható értékétől. Legyenek ξ_{1}, ξ_{2}, …, független, egyforma eloszlású valószínűségi változók, S_{n} = ξ_{1}+⋯+ ξ_{n}. Tegyük fel, hogy Eξ_{1} = 0, és vizsgáljuk az

E (\frac{S_{n}}{n} )^{2} , E (\frac{S_{n}}{n} )^{4} és P (\frac{|S_{n}|}{n} > ε) = P (|\frac{S_{n}}{n} − Eξ_{1}| > ε) , ε > 0

kifejezéseket. Az utolsó valószínűség vizsgálatában nem jelent megszorítást az Eξ = 0 feltétel, mert helyettesítve a ξ valószínűségi változót a ξ − Eξ valószínűségi változóval az általános esetet erre a speciális esetre redukálhatjuk.

Var \frac{S_{n}}{n} = \frac{1}{n^{2}} Var S_{n} = \frac{n}{n^{2}} Var ξ_{1} = \frac{1}{n}Var ξ_{1}, P (|\frac{S_{n}}{n} | > ε) ≤ \frac{Var ξ_{1}}{nε^{2}} .

Innen következik, hogy lim_{n→∞} P (|\frac{S_{n}}{n} | > ε) = 0, tehát érvényes a nagy számok gyenge

törvénye.

E (\frac{S_{n}}{n} )^{4} = \frac{1}{n^{4}} E(ξ_{1} + ⋯ + ξ_{n})^{4},

E(ξ_{1} + ⋯ + ξ_{n})^{4} = ∑_{k=1}^{n} Eξ_{k}^{4} + 6 ∑_{\begin{matrix}1≤j,k≤n \\ j≠k \end{matrix}} Eξ_{j}^{2}Eξ_{k}^{2} + 4 ∑_{\begin{matrix}1≤j,k≤n \\ j≠k \end{matrix}} \underbrace{Eξ_{j}^{3}Eξ_{k}}_{=0}

+ 4 ∑_{1≤j,k,l≤n j,k,l különböző számok} \underbrace{Eξ_{j}^{2}Eξ_{k}Eξ_{l}}_{=0}

+ ∑_{1≤j,k,l,m≤n j,k,l,m különböző számok} \underbrace{Eξ_{j}Eξ_{k}Eξ_{l}Eξ_{m}}_{=0}

= nEξ_{1}^{4} + 6n(n − 1)(Eξ_{1}^{2})^{2},

ezért

P (|\frac{S_{n}}{n} | > ε) ≤ \frac{\frac{1}{n}Eξ_{1}^{4} + 6 (1 − \frac{1}{n})(Eξ_{1})^{2})}{n^{2}ε^{4}} ≤ \frac{const.}{n^{2}ε^{4}} .

Innen következik, hogy ∑_{n=1}^{∞} P (|\frac{S_{n}}{n} | > ε) < ∞ minden ε > 0 számra, és a Borel–

Cantelli lemma (könnyebbik feléből) következik, hogy minden ε > 0 számra és majdnem minden ω ∈ Ω pontban teljesül, hogy |\frac{S_{n}(ω)}{n}| ≤ ε, ha n ≥ n_{0}(ω). Alkalmazva ezt a

relációt minden ε = \frac{1}{k} számra k = 1, 2, …, kapjuk a nagy számok erős törvényét.

Valójában a nagy számok erős törvényét csak abban az esetben láttuk be, ha teljesül az Eξ_{1}^{4} < ∞ feltétel. Finomabb vizsgálatok szükségesek a nagy számok erős törvényének bizonyításához, ha nem akarunk a tétel feltételei között elhagyható feltételeket is szerpeltetni. Annak érdekében, hogy belássuk az Eξ_{1}^{4} < ∞ feltétel nem teljesül automatikusan, oldjuk meg a következő feladatot.

Konstruáljunk olyan ξ valószínűségi változót alkalmas (Ω, A, P) valószínűségi mezőn, melyre Eξ^{2} < ∞, de Eξ^{4} = ∞.

Röviden megemlítjük milyen jellegű vizsgálatokat kell tenni akkor, ha a nagy számok törvényének élesebb, gyengébb feltételek mellett is érvényes változatát akarjuk bizonyítani. Egyrészt érdemes észrevenni, hogy tipikusan |S_{m} −S_{n}| ≪ |S_{n}|, ha |m−n| ≪

n, ezért érdemes azt bizonyítani, hogy az átlagok egy alkalmas \frac{S_{n_{k}}(ω)}{n_{k}} részorozata

konvergál egy valószínűséggel egy a számhoz, azután azt mutatni meg, hogy majdnem

minden ω ∈ Ω-ra az \frac{S_{m}(ω)}{m} átlagok olyan keveset fluktuálnak az n_{k−1} < m ≤ n_{k} intervallumokban, hogy innen következik a nagy számok erős törvénye. Másrészt, érdemes az előbbi érvelésben felhasznált valószínűségi egyenlőtlenségek helyett élesebb, jobban használható egyenlőtlenséget bizonyítani. Jobb eredményeket lehet bizonyítani, ha független valószínűségi változóknak nemcsak részletösszegeire, hanem ezen részletösszegek maximumára is jó becslést tudunk bizonyítani. Vannak ilyen becslések a valószínűségszámításban, és ezek közül külön kiemelendő a Kolmogorov egyenlőtlenség. Ha ξ_{1}, ξ_{2}, …, független nulla várható értékű valószínűségi változók, és S_{n} = ξ_{1} + ⋯ + ξ_{n}, n = 1, 2, …, jelöli ezen valószínűségi változók részletösszegeit, akkor a Kolmogorov

egyenlőtlenség ugyanazt a felső becslést adja a P ( max_{1≤m≤n} |S_{m}| > x) valószínűségre,

mint a Chebishev egyenlőtlenség a P (|S_{n}| > x) valószínűségre.

Érdemes megvizsgálni, hogy milyen pontos becslést ad a Chebishev egyenlőtlenség bizonyos konkrét esetekben. Tekintsük egy szabályos pénzdarab feldobását 10 000 alkalommal. Ekkor tudjuk, hogy nagy valószínűséggel körülbelül 5000 fej és 5000 írás lesz a dobássorozat eredménye. De mit tekinthetünk ettől az átlagtól való szignifikáns eltérésnek? A Chebishev egyenlőtlenség segítségével felső becslést kaphatunk arra, hogy milyen valószínűséggel tér el a fejdobások aktuális száma egy adott számnál jobban a várható 5000 értéktől. De ez csak egy felső becslés, és érdekes lehet összehasonlítani ezt a becslést a pontos értékkel. Ezt a pontos értéket közelítőleg meghatározhatjuk a centrális határeloszlás segítségével. Ilyen összehasonlítást teszünk a következő feladatban.

Tekintsünk egy szabályos pénzdarab egymás utáni (független) feldobásából származó 10 000 hosszúságú fej-írás sorozatot. Adjunk becslést a Chebishev egyenlőtlenség segítségével annak valószínűségére, hogy a fej-dobások számának eltérése a várt 5000 számtól legalább 100-zal, illetve legalább 200-zal eltér! Milyen becslést ad ezekre a valószínűségekre a centrális határeloszlástétel? (Használjunk normális eloszlás függvény táblázatot! Ilyen táblázat található például Rényi Alfréd Valószínűségszámítás című könyvének a végén, de valószínűleg a statisztika jegyzet is tartalmaz ilyen táblázatot.)

Kiegészítés

Az első kitűzött feladat megoldása.

A feladat:

Adott egy urna, és abban 7 piros és 3 fehér golyó. Egymás után húzunk ebből az urnából. Minden húzás után a kihúzott golyót visszadobjuk egy másik azonos színű golyóval együtt. Mi az első tíz húzás során kihúzott piros golyók számának a.) várható értéke, b.) szórásnégyzete.

Jelölje ξ_{j}, j = 1, …, 10, a j-ik húzás eredményének a hozadékát a vizsgált összeghez, azaz legyen ξ_{j} = 1, ha a j-ik húzás eredménye piros, és ξ_{j} = 0, ha a j-ik húzás eredménye fehér. Ekkor a kihúzott piros golyók száma S = ξ_{1} + ⋯ + ξ_{10}, ezért

ES = Eξ_{1} + ⋯ + Eξ_{10}
Var S = Var ξ_{1} + ⋯ Var ξ_{10} + 2 ∑_{i=1}^{9} ∑_{j=i+1}^{10} Cov (ξ_{i}, ξ_{j})

= ∑_{j=1}^{10}(Eξ_{j}^{2} − (Eξ_{j})^{2}) + 2 ∑_{i=1}^{9} ∑_{j=i+1}^{10}(Eξ_{i}ξ_{j} − Eξ_{i}Eξ_{j}).

Másrészt, mint azt egy korábbi gyakorlaton megbeszéltük, az 1, …, 10 indexek tetszőleges (π(1), …, π(10)) permutációjára és tetszőleges ε_{j} = 0 vagy ε_{j} = 1, j = 1, …, 10 sorozatra P (ξ_{1} = ε_{1}, …, ξ_{10} = ε_{10}) = P (ξ_{π(1)} = ε_{1}, …, ξ_{π(10)} = ε_{10}). Ebből következik, hogy Eξ_{i} = Eξ_{1}, Eξ_{i}^{2} = Eξ_{i}^{2} = Eξ_{1}^{2} minden 1 ≤ i ≤ 10 indexre, valamint Eξ_{i}ξ_{j} = Eξ_{1}ξ_{2}, ha 1 ≤ i < j ≤ 10. Mivel Eξ_{1} = Eξ_{1}^{2} = \frac{7}{10}, Eξ_{1}ξ_{2} = \frac{7}{10} \frac{8}{11}, innen következik, hogy

ES = 10Eξ_{1} = 10 · \frac{7}{10} = 7,

és

Var S = 10(Eξ_{1} − (Eξ_{1})^{2}) + 90(Eξ_{1}ξ_{2} − Eξ_{1}Eξ_{2})

= 10 (\frac{7}{10} − \frac{49}{100}) + 90 (\frac{7}{10} · \frac{8}{11} − \frac{49}{100}) = \frac{42}{11}.