A Valószínűségszámítás II. előadássorozat tízenegyedik előadása. 2002. november 26.

A nagy számok törvényéről. Első rész.

Ezen előadás témája a nagy számok (erős és gyenge) törvénye. Ez a matematikai eredmény olyan jelenségeket kíván megmagyarázni, mint például az a tapasztalati tény, hogy minden évben a születendő gyerekek körülbelül fele fiú és fele lány. Ezt és hasonló jelenségeket azzal magyaráznak, hogy a sok független hatás (az egyes születendő gyerek neme) kiegyenlíti egymást, és azok átlaga lényegében nem függ az egyes véletlen hatásoktól, hanem egy (determinisztikus) számhoz konvergál. Célunk ennek az állításnak pontos megfogalmazása és bebizonyítása. Azt fogjuk megmutatni, hogy független és egyforma eloszlású valószínűségi változók átlaga nagyon általános feltételek esetén egy (determinisztikus) konstanshoz konvergál. A ,,nagyon általános feltételek esetén” kitétel jelen esetben azt jelenti, hogy a valószínűségi változók eloszlásfüggvénye nagyon általános családból származhat. Általában az a szám, amelyikhez a független valószínűségi változók átlagai konvergálnak az átlagban szereplő valószínűségi változók várható értékei. De mivel olyan esetet is tárgyalni kívánunk, amikor ez a várható érték nem létezik, ezért nem mondjuk azt, hogy a tekintett valószínűségi változók átlagának a limesze e valószínűségi változók várható értéke. (Mint a vizsgálatokból ki fog derülni a tipikus esetekben, amikor a várható érték létezik, akkor a határérték várakozásainknak megfelelően ez a szám.)

Ahhoz, hogy vizsgálatainkat elkezdjük, először tisztázni kell, mit értünk azon, hogy a valószínűségi változók átlaga konvergál. Ez a fogalom magyarázatra szorul, mivel a valószínűségi változók egy valószínűségi mezón értelmezett függvények, és függvények konvergenciájánek több különböző lehetséges definiciója van.

Jelen kontextusban két olyan kitüntetett konvergencia fogalom van, amelyiket érdemes tárgyalni. Ezek egyike az egy valószínűséggel való konvergencia, a másik pedig a sztochasztikus konvergencia. Mind a két konvergenciafogalom szerinti konvergenciát vizsgálni fogjuk. A két konvergenciafogalom nem esik egybe, és ez az oka annak, hogy beszélünk a nagy számok gyenge és erős törvényéről is. Mint látni fogjuk, a két különböző törvény között az a különbség, hogy az átlag egy valószínűségi vagy sztochasztikus konvergenciáját vizsgáljuk.

Ahhoz, hogy ezt a programot végrehajthassuk, először meg kell adnunk a szükséges konvergencia definiciókat és meg kell beszélnünk kapcsolatukat egymással. Felidézem az eloszlásban való konvergencia fogalmát is, annak érdekében, hogy ezt is összehasonlíthassuk a fenti két konvergenciafogalommal.

Az egy valószínűségű konvergencia definiciója: Valószínűségi változók ξ_{n}, n = 1, 2, …, sorozata akkor konvergál egy valószínűséggel egy ξ valószínűségi változóhoz, ha (egyrészt ezek a valószínűségi változók ugyanazon az (Ω, A, P) valószínűségi mezőn vannak definiálva, másrészt)

P (ω: lim_{n→∞} ξ_{n}(ω) = ξ(ω)) = 1.

Megjegyzés: Az egy valószínűségi konvergencia fogalmát a mértékelméletben is használják, de ott azt majdnem mindenütt való konvergenciának is hívják. (Az angol nyelvű irodalomban az almost sure convegence, almost everywhere convergence vagy convergence with probability one kifejezések használatosak.)

A sztochasztikus konvergencia definiciója: Valószínűségi változók ξ_{n}, n = 1, 2, …, sorozata akkor konvergál sztochasztikusan egy ξ valószínűségi változóhoz, ha (egyrészt ezek a valószínűségi változók ugyanazon az (Ω, A, P) valószínűségi mezőn vannak definiálva, másrészt) minden ε > 0 számra

lim_{n→∞} P (|ξ_{n}(ω) − ξ(ω)| > ε) = 0.

Megjegyzés: A mértékelméletben előforduló kifejezések közül a mértékben való konvergencia felel meg ennek a fogalomnak. Az egyetlen apró különbség a mértékelmélet és valószínűségszámítás szóhasználata között abban vam, hogy a mértékelméletben nem csak valószínűségi (azaz egyre normált mértékeket tekintenek).

Az eloszlásban való konvergencia definiciója: Valószínűségi változók ξ_{n}, n = 1, 2, …, sorozata akkor konvergál eloszlásban egy F (u) eloszlásfüggvényhez vagy az ezen eloszlásfüggvény által meghatározott eloszláshoz, ha lim_{n→∞} P (ξ_{n} < u) = F (u) minden olyan u számra, ahol az F (·) eloszlásfüggvény függvény folytonos. (Azt mondjuk, hogy a ξ_{n}, n = 1, 2, …, valószínűségi változók sorozata eloszlásban konvergál egy ξ valószínűségi változóhoz, ha ez a sorozat eloszlásban konvergál az F (u) = P (ξ < u) eloszlásfüggvényhez.)

A következő kapcsolat érvényes a fenti konvergenciafogalmak között.

Egy valószínűségi konvergencia ⇒ Sztochasztikus konvergencia ⇒ Eloszlásban való konvergencia.

Először megtárgyalom az egy valószínűségi és sztochasztikus konvergencia kapcsolatát.

Ha ξ_{n}(ω) → ξ(ω) egy valószínűséggel, akkor definiálva az

A_{n} = A_{n}(ε) = {ω: sup_{k≥n} |ξ_{k}(ω) − ξ(ω)| < ε}

halmazokat kapjuk, hogy az egymásba skatulyázott A_{n} halmazokra, (azaz A_{1}(ω) ⊂

A_{2} ⊂ ⋯), P ( ⋃_{n=1}^{∞} A_{n}) = 1. Ezért lim_{n→∞} P (A_{n}) = 1. Mivel {ω: |ξ_{n}(ω) − ξ(ω)| <

ε} ⊃ A_{n}, P (|ξ_{n}(ω) − ξ(ω)| < ε) → 1, azaz P (|ξ_{n}(ω) − ξ(ω)| ≥ ε) → 0, ha n → ∞. Ez azt jelenti, hogy az egy valószínűségű konvergenciából következik a sztochasztikus konvergencia.

Megfogalmazom az alábbi állítást, melyet nem nehéz bebizonyítani. De mivel nem lesz rá később szükségünk, azért elhagyom a bizonyítást.

Állítás: Valószínűségi változók ξ_{n}, n = 1, 2, …, sorozata, akkor és csak akkor konvergál egy valószínűséggel egy ξ valószínűségi változóhoz, ha az η_{n} = sup_{k≥n} |ξ_{k} − ξ| valószínűségi

változók sorozata sztochasztikusan konvergál nullához, azaz minden ε > 0 számra

lim_{n→∞} P (sup_{k≥n} |ξ_{k} − ξ| > ε) = 0.

Lássunk példát arra, hogy lehetséges olyan ξ_{n}, n = 1, 2, …, és ξ valószínűségi változókat konstruálni, melyekre a ξ_{n}, n = 1, 2, …, sorozat sztochasztikusan tart ξ-hez, de a ξ_{n} sorozat nem konvergál egy valószínűséggel a ξ valószínűségi változóhoz.

Tekintsük a következő (Ω, A, P) valószínűségi mezőt: Ω a [0, 1] intervallum, A a Borel mérhető halmazok σ-algebrája a [0, 1] intervallumon, a P valószínűségi mérték a Lebesgue mérték. Legyen

ξ_{n}(x) = \{ \begin{matrix}1 ha x ∈ [(n − 2^{k})2^{−k}, (n + 1 − 2^{k})2^{−k}] \\ 0 ha x ∉ [(n − 2^{k})2^{−k}, (n + 1 − 2^{k})2^{−k}] \end{matrix}
akkor ha 2^{k} ≤ n < 2^{k+1}, k = 1, 2, …,

és ξ(x) = 0 minden 0 ≤ x ≤ 1 számra. Ekkor P (|ξ_{n} − ξ| > ε) = 2^{−k} minden 1 > ε > 0 számra, ha 2^{k} ≤ n < 2^{k+1}. Tehát a ξ_{n}, n = 1, 2, …, sorozat sztochasztikusan konvergál a ξ valószínűségi változóhoz. Viszont mivel lim sup_{n→∞} ξ_{n}(x) = 1 minden 0 ≤ x ≤ 1 számra,

ezért a ξ_{n} sorozat nem konvergál egy valószínűséggel a ξ valószínűségi változóhoz. Másrészt a Borel-Cantelli lemmából következik, hogy amennyiben minden ε > 0

számra ∑_{n=1}^{∞} P (|ξ_{n} − ξ| > ε) < ∞, akkor a ξ_{n} sorozat egy valószínűséggel konvergál a ξ

valószínűségi változóhoz. Miért?

A sztochasztikus konvergencia és eloszlában való konvergencia közötti kapcsolatra érvényesek a következő állítások.

1. Álllítás: Ha ξ_{n}, n = 1, 2, …, valószínűségi változók sztochasztikusan konvergálnak egy ξ valószínűségi változóhoz, akkor a ξ_{n} valószínűségi változók eloszlásban is konvergálnak ehhez a ξ valószínűségi változóhoz.

Indoklás: Legyen x folytonossági pontja a ξ valószínűségi változó F (·) eloszlásfüggvényének, és rögzítve egy ε > 0 számot válasszunk olyan δ = δ(ε) > 0 számot, melyre F (x) − \frac{ε}{2} ≤ F (x − δ) ≤ F (x + δ) < F (x) + \frac{ε}{2}. Ezután válasszunk olyan n_{0} = n_{0}(ε, δ) számot, melyre P (|ξ_{n} − ξ| ≥ δ) < \frac{ε}{2}. Ekkor P (ξ_{n} < x) < P (ξ < x + δ) + P (|ξ_{n} − ξ| ≥ δ) ≤ F (x + δ) + \frac{ε}{2} ≤ F (x) + ε. Másrészt P (ξ_{n} > x) < P (ξ > x − δ) + P (|ξ_{n} − ξ| ≥ δ) ≤ 1 − F (x − δ) + \frac{ε}{2} ≤ 1 − F (x) + ε, ha n ≥ n_{0}. Innen F (x) − ε ≤ P (ξ_{n} < x) ≤ F (x) + ε n ≥ n_{0} esetén. Mivel minden ε > 0 esetén érvényes egy ilyen becslés, innen következik a megfogalmazott állítás.

Természetesen lehetséges, hogy ξ_{n} valószínűségi változók sorozata eloszlásban konvergáljon egy ξ valószínűségi változóhoz, de sztochasztikusan ne konvergáljon. Erre példa az az eset, ha a ξ_{n} valószínűségi változók függetlenek és azonos eloszlásúak. Ekkor az eloazlásban való konvergencia nyílván teljesül, de ha a ξ_{n} valószínűségi változók eloszlása nem elfajult, azaz a ξ_{n} valószínűségi változók nem egyenlőek egy konstanssal egy valószínűséggel, akkor e valószínűségi változók nem konvergálnak sztochasztikusan. Viszont abban az esetben, ha a limesz konstans akkor igaz a következő állítás:

2. Állítás: Ha ξ_{n}, n = 1, 2, …, valószínűségi változók eloszlásban konvergálnak egy a konstanshoz, (azaz egy olyan valószínűségi változóhoz, mely egy valószínűséggel az a konstanst veszi fel, akkor a ξ_{n}, n = 1, 2, …, sorozat sztochasztikusan is konvergál ehhez az a konstanshoz.

Indoklás: A határ valószínűségi változó eloszlásfüggvénye az az F (x) eloszlás, melyre F (x) = 0, ha x ≤ a, és F (x) = 1 ha x > a. Ennek a függvénynek az x = a pontot kivéve minden pontja folytonossági pontja. Ezért minden ε > 0 számra lim_{n→∞} P (ξ_{n} < x+ε) = 1, lim_{n→∞} P (ξ_{n} < x−ε) = 0. Innen következik, hogy lim_{n→∞} P (|ξ_{n}−ξ| < ε) = lim_{n→∞} P (|ξ_{n}−a| <

ε) = lim_{n→∞} (P (ξ_{n} < x + ε) − P (ξ_{n} < x − ε)) = 1. Innen következik a 2. Állítás.

Ezután megfogalmazom a nagy számok gyenge és erős törvényét.

Nagy számok gyenge törvényének a definiciója. Legyen ξ_{n}, n = 1, 2, …, független, egyforma eloszlású valószínűségi változók sorozata egy valószínűségi mezőn, S_{n} =

∑_{k=1}^{n} ξ_{k}, k = 1, 2, . . .. Azt mondjuk, hogy ezek a ξ_{n}, n = 1, 2, …, valószínűségi változók

teljesítik a nagy számok gyenge törvényét, ha létezik olyan E szám, melyre teljesül, hogy

az \frac{S_{n}}{n}, n = 1, 2, …, valószínűségi változók sztochasztikusan konvergálnak az E számhoz, azaz ahhoz a valószínűségi változóhoz, mely egy valószínűséggel az E konstanssal egyenlő.

Nagy számok erős törvényének a definiciója. Legyen ξ_{n}, n = 1, 2, …, független,

egyforma eloszlású valószínűségi változók sorozata egy valószínűségi mezőn, S_{n} = ∑_{k=1}^{n} ξ_{k},

k = 1, 2, . . .. Azt mondjuk, hogy ezek a ξ_{n}, n = 1, 2, …, valószínűségi változók teljesítik

a nagy számok erős törvényét, ha létezik olyan E szám, melyre teljesül, hogy az \frac{S_{n}}{n}, n = 1, 2, …, valószínűségi változók egy valószínűséggel konvergálnak az E számhoz, azaz ahhoz a valószínűségi változóhoz, mely egy valószínűséggel az E konstanssal egyenlő.

Megjegyzés: Általában a nagy számok gyenge és erős törvénye az E = Eξ_{1} számmal teljesül. Sőt, mint látni fogjuk a nagy számok erős törvénye mindig ezzel a konstanssal teljesül. De a nagy számok gyenge törvénye teljesülhet olyan esetben is, amikor a ξ_{1} valószínűségi változónak nincs várható értéke. A fenti definiciót azért fogalmaztuk meg a fenti módon, hogy a lehető legáltalánosabb feltételek mellett fogalmazhassuk meg a nagy számok törvényét.

Először bebizonyítjuk a nagy számok gyenge és erős törvényét bizonyítását alkalmas feltételek mellett. Ezeknek az eredményeknek a bizonyítása egyszerű, viszont ezek megfogalmazásában még nem törekszünk a lehető legáltalánosabb eredmény bizonyítására.

A nagy számok gyenge törvénye egyszerűen bebizonyítható a Csebisev egyenlőtlenség segítségével, melyet felidézek.

Csebisev egyenlőtlenség: Ha a ξ valószínűségi változó második momentuma Eξ^{2} = m_{2}, akkor tetszőleges x > 0 számra

P (|ξ| > x) ≤ \frac{m_{2}}{x^{2}} .

Innen következik, ha ezt az egyenlőtlenséget a ξ̄ = ξ − Eξ valószínűségi változóra alkalmazzuk, hogy

P (|ξ − Eξ| > x) ≤ \frac{Var ξ}{x^{2}} ,

Megjegyzés: A Csebisev egyenlőtlenség a Markov egyenlőtlenség következménye, mely

szerint P (|ξ| > x) ≤ \frac{E|ξ|}{x}. Alkalmazva ezt az állítást a ξ^{2} valószínűségi változóra kapjuk a Csebisev egyenlőtlenséget. Hasonló módon, alkalmazva a Markov egyenlőtlenséget a ξ^{2k} valószínűségi változóra, ahol k tetszőleges pozitív egész szám, x > 0, kapjuk, hogy

P (|ξ| > x) ≤ \frac{Eξ^{2k}}{x^{2k}}

Tétel a nagy számok gyenge törvényéről. Legyen ξ_{n}, n = 1, 2, …, független, egyforma eloszlású valószínűségi változók sorozata, melyekre teljesül az Eξ_{1}^{2} < ∞ tulajdonság. Ezek a valószínűségi változók teljesítik a nagy számok gyenge törvényét az E = Eξ_{1} konstanssal.

Bizonyítás: Az adott feltételek mellett

P (|\frac{1}{n} ∑_{j=1}^{n} ξ_{j} − Eξ_{1}| > ε) ≤ \frac{Var ( ∑_{j=1}^{n} ξ_{j})}{n^{2}ε^{2}} = \frac{Var ξ_{1}}{nε^{2}}

minden ε > 0 számra, mert Var ( ∑_{j=1}^{n} ξ_{j}) = ∑_{j=1}^{n} Var ξ_{j} = nVar ξ_{1}. Mivel lim_{n→∞} \frac{Var ξ_{1}}{nε^{2}} =

0, innen következik a Tétel állítása.

Megjegyzés: A fenti állítás bizonyítását ki lehetett volna olvasni a centrális határeloszlástételből is. Valóban a tétel feltételeinek teljesülése esetén teljesülnek a centrális határeloszlástétel feltételei, ezért tetszőleges kis ε > 0 és nagy K > 0 számra felírhatjuk n ≥ n_{0} = n_{0}(ε, K) esetében, hogy

P (|\frac{1}{n} ∑_{j=1}^{n} ξ_{j} − Eξ_{1}| > ε) ≤ P (|\frac{1}{\sqrt{n}} ∑_{j=1}^{n} ξ_{j} − Eξ_{1}| > K) ≤ 3(1 − Φ(K)),

ahol Φ(·) a standard normális eloszlásfüggvényt jelöli. A jobboldal viszont tetszőlegesen kicsivé tehető a K konstans alkalmas megválasztásával. Érdemes észrevenni, hogy a nagy számok gyenge és mint látni fogjuk a nagy számok erős törvényének a bizonyítása is azon múlik, hogy olyan jó egyenlőtlenségeket kell bizonyítunk, melyek független valószínűségi változók összegeinek a viselkedését írják le.

Megmutatom, hogyan lehet a nagy számok gyenge törvényének fenti, a Csebisev egyenlőtlenségen alapuló bizonyítását finomítva a nagy számok erős törvényét is bebizonyítani alkalmas feltételek mellett. Az alábbi érvelésben valójában a tétel bizonyítása érdekében a szükségesnél sokkal erősebb kikötéseket teszek.

A nagy számok gyenge törvényét úgy bizonyítottuk be, hogy megvizsgáltuk milyen becslést ad a Csebisev egyenlőtlenség annak valószínűségére, hogy független, egyforma eloszlású valószínűségi változók átlaga legalább ε-nal eltér e változók várható értékétől. Idézzük fel ezt a számolást, illetve ezzel párhuzamosan vizsgáljuk meg azt is, milyen becslést kapunk, ha továbbra is azt a valószínűségi változót vizsgáljuk, melyet úgy kapunk, hogy független, egyforma eloszlású valószínűségi változók átlaga minusz azok várható értékét vesszük, de most ennek a valószínűségi változónak nemcsak a második momentumát számoljuk ki, mint tettük a Csebisev egyenlőtlenség alkalmazásában, hanem a negyediket is. Látni fogjuk, hogy ekkor érdekes új eredményeket kapunk.

Vezessük be a következő jelöléseket. Legyenek ξ_{1}, ξ_{2}, …, független, egyforma eloszlású valószínűségi változók, S_{n} = ξ_{1} + ⋯ + ξ_{n}. Tegyük fel, hogy Eξ_{1} = 0, és vizsgáljuk az

E (\frac{S_{n}}{n} )^{2} , E (\frac{S_{n}}{n} )^{4} és P (\frac{|S_{n}|}{n} > ε) = P (|\frac{S_{n}}{n} − Eξ_{1}| > ε) , ε > 0

kifejezéseket. Az utolsó valószínűség vizsgálatában nem jelent megszorítást az Eξ_{1} = 0 feltétel, mert a ξ_{j} valószínűségi változókat a ξ_{j} − Eξ_{j} valószínűségi változókkal helyettesítve az általános esetet erre a speciális esetre redukálhatjuk.

Var \frac{S_{n}}{n} = \frac{1}{n^{2}} Var S_{n} = \frac{n}{n^{2}} Var ξ_{1} = \frac{1}{n}Var ξ_{1}, P (|\frac{S_{n}}{n} | > ε) ≤ \frac{Var ξ_{1}}{nε^{2}} .

Innen következik, hogy lim_{n→∞} P (|\frac{S_{n}}{n} | > ε) = 0, tehát érvényes a nagy számok gyenge

törvénye.

E (\frac{S_{n}}{n} )^{4} = \frac{1}{n^{4}} E(ξ_{1} + ⋯ + ξ_{n})^{4},

E(ξ_{1} + ⋯ + ξ_{n})^{4} = ∑_{k=1}^{n} Eξ_{k}^{4} + 6 ∑_{1≤j<k≤n} Eξ_{j}^{2}Eξ_{k}^{2} + 4 ∑_{\begin{matrix}1≤j,k≤n \\ j≠k \end{matrix}} \underbrace{Eξ_{j}^{3}Eξ_{k}}_{=0}

+ 12 ∑_{\begin{matrix}1≤k<l≤n 1≤j≤n \\ j≠k, j≠l \end{matrix}} \underbrace{Eξ_{j}^{2}Eξ_{k}Eξ_{l}}_{=0}

+ 24 ∑_{1≤j,k,l,m≤n} \underbrace{Eξ_{j}Eξ_{k}Eξ_{l}Eξ_{m}}_{=0}

= nEξ_{1}^{4} + 3n(n − 1)(Eξ_{1}^{2})^{2},

ezért

P (|\frac{S_{n}}{n} | > ε) ≤ \frac{\frac{1}{n}Eξ_{1}^{4} + 3 (1 − \frac{1}{n})(Eξ_{1})^{2})}{n^{2}ε^{4}} ≤ \frac{const.}{n^{2}ε^{4}} .

De a fenti becslés csak akkor érvényes, ha Eξ_{1}^{4} < ∞. Ebből a becslésbő következik, hogy

∑_{n=1}^{∞} P (|\frac{S_{n}}{n} | > ε) < ∞ minden ε > 0 számra, és a Borel–Cantelli lemma (könnyebbik

feléből) következik, hogy minden ε > 0 számra és majdnem minden ω ∈ Ω pontban

teljesül, hogy |\frac{S_{n}(ω)}{n}| ≤ ε, ha n ≥ n_{0}(ω). Alkalmazva ezt a relációt minden ε = \frac{1}{k}

számra k = 1, 2, …, kapjuk a nagy számok erős törvényét, melyet az alábbi tételben fogalmazunk meg.

A nagy számok erős törvényéről szóló tétel gyenge formája: Legyen ξ_{1}, ξ_{2}, …, független egyforma eloszláaú valószínűségi változók sorozata egy (Ω, A, P) valószínűségi

mezőn, melyekre teljesül az Eξ_{1}^{4} < ∞ feltétel, és vezessük be az S_{n} = ∑_{j=1}^{n} ξ_{j} valószínűségi

változókat. Ekkor az \frac{S_{n}(ω)}{n} valószínűségi változók majdnem minden ω ∈ Ω-ra konvergálnak ez Eξ_{1}, számhoz, azaz ezek a valószínűségi változók teljesítik a nagy számok gyenge törvényét.

Most megfogalmazom a nagy számok erős és gyenge törvényét kimondó tételt eredeti, éles formájában. A bizonyításokat csak később ismertetem.

A nagy számok erős törvényét kimondó tétel éles alakja. Legyen ξ_{1}, ξ_{2}, …, független egyforma eloszlású valószínűségi változók sorozata, és definiáljuk az S_{n} =

∑_{k=1}^{n} ξ_{k}, n = 1, 2, …, részletösszegeket. Az \frac{S_{n}(ω)}{n}, n = 1, 2, …, sorozat akkor és csak

akkor konvergál pozitív valószínűséggel, ha E|ξ_{1}| < ∞. Ha E|ξ_{1}| < ∞, akkor ez a sorozat teljesíti a nagy számok erős törvényét, azaz

lim_{n→∞} \frac{S_{n}(ω)}{n} = Eξ_{1} majdnem minden ω ∈ Ω-ra.

A nagy számok gyenge törvényét kimondó tétel éles alakja. Legyen ξ_{k}, k = 1, 2, …, független, egyforma eloszlású valószínűségi változók sorozata F eloszlásfüggvénnyel. Ezek a valószínűségi változók akkor és csak akkor teljesítik a nagy számok

gyenge törvényét, azaz a \frac{1}{n} ∑_{k=1}^{n} ξ_{k} átlag akkor és csak akkor konvergál sztochasztikusan

n → ∞ esetében egy a számhoz, −∞ < a < ∞, ha

lim_{x→∞} x [F (−x) + (1 − F (x))] = 0, és lim_{u→∞} ∫_{−u}^{u} xF ( dx) = a.

Annak érdekében, hogy jobban megértsük a nagy számok erős és gyenge törvényét lássunk néhány példát. Először példát mutatok olyan független egyforma eloszlású valószínűségi változókra, melyek teljesítik a nagy számok gyenge törvényét, de nem teljesítik a nagy számok erős törvényét. Az indoklásban hivatkozhatnánk az előbb kimondott tételekre, de tanulságosabb lehet közvetlen bizonyítást adni. Utána példát mutatok olyan független egyforma eloszlású valószínűségi változókra, melyek a nagy számok gyenge törvényét sem teljesítik.

1. példa: Legyen ξ_{k}, k = 1, 2, …, független, egyforma eloszlású valószínűségi változók

sorozata, az f(u) = \frac{C}{u^{2} log |u|}, ha |x| > 3, f(u) = 0, ha |u| ≤ 3, képlettel megadott

sűrűségfüggvénnyel. (A C konstanst a ∫_{|u|>3} \frac{C du}{u^{2} log |u|} = 1 határozza meg.) Definiáljuk

az S_{n} = ∑_{k=1}^{m} ξ_{k}, n = 1, 2, …, részletösszegeket. Ekkor E|ξ_{1}| = ∞, ezért ezek a

valószínűségi változók nem teljesítik a nagy számok erős törvényét. Másrészt az \frac{S_{n}}{n}

átlagok sztochasztikusan tartanak nullához, azaz minden ε > 0 számra P (|\frac{S_{n}}{n} | > ε) →

0, ha n → ∞. Ez azt jelenti, hogy ez a sorozat teljesíti a nagy számok gyenge törvényét.

Indoklás: Ezekre a valószínűségi változókra E|ξ_{1}| = ∫ uf(u) du = ∫_{3}^{∞} \frac{2C}{u log u} du = ∞,

mert ∫_{3}^{x} \frac{1}{u log u} du = [log log u]_{3}^{x}, és lim_{x→∞} log log x = ∞. Látni fogjuk, hogy az E|ξ_{1}| =

∞ relációból és a Borel–Cantelli lemmából következik, hogy nem teljesül a nagy számok gyenge törvénye. Ennek indoklását később ismertetem. Annak érdekében, hogy bebizonyítsuk a nagy számok gyenge törvényét erre a sorozatra, definiáljuk a következő valószínűségi változókat: Legyen ξ̄_{k} = ξ̄_{k}^{(n)} = ξ_{k}I (|ξ_{k}| ≤ n), ¯ ξ̄_{k} = ¯ ξ̄_{k}^{(n)} = ξ_{k}I (|ξ_{k}| > n),

és S̄_{n} = ∑_{k=1}^{n} ξ̄_{k}, ¯ S̄_{n} = ∑_{k=1}^{n} ¯ ξ̄_{k}. Ekkor P (|S_{n}| > εn) ≤ P (|S̄_{n}| > \frac{ε}{2}n) + P (|¯S̄_{n}| > \frac{ε}{2}n) ≤

\frac{Var S̄_{n}}{\frac{ε^{2}}{4} n^{2}} + nP ( ¯ξ̄_{1} ≠ 0). Adjunk jó becslést a Var ξ̄_{1} kifejezésre. Var ξ̄_{1} = ∫_{3}^{n} \frac{2C du}{log u} ≤

\frac{const. n}{log n}, mert ∫_{√\overline{n}}^{n} \frac{2C du}{log u} ≤ \frac{const. n}{log n} és ∫_{3}^{√\overline{n}} \frac{2C du}{log u} ≤ const. \sqrt{n}. Innen a fenti

egyenlőtlenség jobboldalán szereplő első tagot úgy becsülhetjük felülről, hogy \frac{Var S̄_{n}}{\frac{ε^{2}}{4} n^{2}} ≤

\frac{Var ξ̄_{1}}{\frac{ε^{2}}{4} n} ≤ \frac{const.}{ε^{2} log n}. A második tag becslése érdekében vegyük észre, hogy P ( ¯ξ̄_{1} ≠ 0) =

∫_{n}^{∞} \frac{2C}{u^{2} log u} ≤ \frac{2C}{log n} ∫_{n}^{∞} \frac{du}{u^{2}} ≤ \frac{const.}{n log n}. Innen nP ( ¯ξ̄_{1} ≠ 0) ≤ \frac{const.}{log n} . A fenti

egyenlőtlenségekből következik, hogy lim_{n→∞} P (|S_{n}| > εn) = 0, és ezt akartuk megmutatni.

A következő példa megtárgyalása érdekében bevezetjük a következő úgynevezett Cauchy eloszlásokat.

A Cauchy eloszlás definiciója. Egy eloszlást a paraméterű Cauchy eloszlásnak

nevezünk, ha sűróségfüggvénye f(u) = \frac{1}{π} \frac{a}{1 + a^{2}u^{2}} alakú, −∞ < u < ∞.

Megjegyzés: A Cauchy eloszlással találkozhattak a gyakorlaton is. Ott szerepelt az egyik példában, hogy két független standard normális eloszlású valószínűségi változó hányadosa (a = 1 paraméterű) Cauchy eloszlású valószínűségi változó.

Nem nehéz belátni, hogy független Cauchy eloszlású valószínűségi sorozata változók (ugyanazzal az a paraméterrel) nem teljesíti a nagy számok gyenge törvényét, mert (például a = 1 választással a G(x) Cauchy eloszlásra a

lim_{x→∞} x(1 − G(x)) = lim_{x→∞} x ∫_{x}^{∞} \frac{1}{π} \frac{du}{1 + 2u^{2}} = \frac{1}{π}

reláció teljesül. Valóban x ∫_{x}^{∞} \frac{du}{1 + u^{2}} ≥ x ∫_{x}^{∞} \frac{du}{u^{2}} = 1 minden x ≥ 0-ra, és

x ∫_{x}^{∞} \frac{du}{1 + u^{2}} ≤ x ∫_{x}^{∞} \frac{(1 + ε) du}{u^{2}} = 1 + ε, ha x ≥ x(ε).

Független Cauchy eloszlású valószínűségi változók összegének viselkedéséről többet is mondhatunk. Azok teljesítik a következő rendkívül figyelemre méltó tulajdonságot.

Tétel. Legyen ξ és η két független Cauchy eloszlású valószínűségi változó, a > 0 és b > 0 paraméterrel. Ekkor ξ + η is Cauchy eloszlású a + b paraméterrel. Speciálisan n független a paraméterű Cauchy eloszlású valószínűségi változó összege na paraméterű Cauchy eloszlású valószínűségi változó, átlaga pedig a paraméterű Cauchy eloszlású valószínűségi változó. Tehát független azonos paraméterű Cauchy eloszlású valószínűségi változók átlagának az eloszlása megegyezik az összeadandók eloszlásával.

Magyarázat: Nem végzem el az állítás bizonyítását. Ki lehetne számolni független Cauchy eloszlású valószínűségi változók összegének a sűrűségfüggvényét konvolució segítségével, és így be lehet bizonyítani a Tételt. Ez meglehetősen kellemetlen, de (parciális törtekre bontás segítségével) kiszámolható integrálokhoz vezetne. Lényegesen egyszerűbben célhoz érünk, ha tudjuk a Cauchy eloszlás karakterisztikus függvényét. Az a = 1 paraméterű Cauchy eloszlás karakterisztikus függvénye φ(t) = e^{−|t|}, ahonnan az a paraméterű Cauchy eloszlás karakterisztikus függvénye φ_{a}(t) = e^{−a|t|}. Innen látszik, hogy φ_{a}(t)φ_{b}(t) = φ_{a+b}(t), ahonnan a tételben megfogalmazott állítások azonnal láthatóak. Természetesen ez az indoklás csak úgy teljes, ha ki tudjuk számítani a Cauchy eloszlás karakterisztikus függvényét. Ezt a kiegészítésben megteszem. Azok számára, akik tanultak komplex függvénytant és megértették a reziduumszámítást, ez egyszerű feladat.

2. példa. Legyen ξ_{1}, ξ_{2}, …, független egyforma eloszlású valószínűségi változók soro-

zata f(u) = \frac{1}{π} \frac{1}{1 + u^{2}} , −∞ < u < ∞ sűrűségfüggvénnyel. Ezek a valószínűségi változók

nem teljesítik a nagy számok gyenge törvényét, azaz az \frac{1}{n} ∑_{k=1}^{n} ξ_{k} valószínűségi változók

nem konvergálnak sztochasztikusan egy konstanshoz.

3. példa. Legyen ξ_{1}, ξ_{2}, …, független egyforma eloszlású valószínűségi változók soro-

zata f(u) = \frac{C}{u^{2} log^{2} u}, ha |u| ≥ 3, és f(u) = 0, ha |u| < 3 sűrűségfüggvénnyel. (A

C konstanst az ∫_{|u|>3} \frac{C du}{u^{2} log^{2} u} = 1, képlet határozza meg.) Ekkor E|ξ_{1}| < ∞, ezért

a fent kimondott tétel alapján ezek a valószínűségi változók teljesítik a nagy számok

erős törvényét, azaz az \frac{1}{n} ∑_{k=1}^{n} ξ_{k} valószínűségi változók egy valószínűséggel konvergálnak

nullához.

Indoklás: Elegendő ellenőrízni, hogy E|xi_{1} = ∫_{3}^{∞} \frac{2C du}{u log^{2} u} = [−\frac{2C}{log u}]_{3}^{∞} < ∞. Ezért

alkalmazható a nagy számok erős törvénye, és szimmetria meggondolások alapján Eξ_{1} = 0.

A fenti pélák hasonlítottak egymáshoz abban, hogy mindegyikben a sűrűségfüggvény a plusz-minusz végtelen környezetében aszimptotikusan úgy viselkedett, mint \frac{1}{u^{2}} szorozva egy logaritmus hatvány rendű korrekciós taggal. Ez a korrekciós tag befolyásolta, hogy bízonyos integrálok konvergensek vagy divergensek, és ettől függött, hogy teljesül-e a nagy számok erős vagy gyenge törvénye. Láttuk, hogy a nagy számok különböző törvényeit kimondó tételekben és példákban az játszott fontos szerepet, hogy az összeadandók eloszlásfüggvényei hogyan viselkednek a ±∞-ben, milyen gyorsan tartanak ottan az eloszlásfüggvények egyhez illetve nullához. Ettől függ ugyanis, hogy az ott szereplő integrálok konvergensek vagy divergensek. Hasonló képpel találkoztunk a centrális határeloszástétel vizsgálatában. Ott a Lindeberg feltétel jelent meg, mint a centrális határeloszlástétel elégséges (és bizonyos értelemben) szükséges feltétele, és ez is hasonló jellegű feltételt fejezett ki, nevezetesen azt, hogy az egyes összeadandók F_{n} eloszlásaiból képzett ∫_{|u|≥D_{n}} u^{2}F_{n}( du) integrálok viszonylag kicsik. Ez is olyan jellegű feltétel, amelyik azt fejezi ki, hogy az egyes összeadandók csak viszonlag kis valószínűséggel vesznek fel nagy értékeket. Kissé pongyolán, de talán a lényeget jól kifejezően azt mondhatjuk, hogy a valószínűségszámítás független valószínűségi változók összegeiről szóló tételei olyan feltételek mellett érvényesek, melyek azt biztosítják, hogy tipikus esetekben az egyes összeadandók rendkívül nagy értékei nem zavarják meg az összeg viselkedését.

A nagy számok törvényének vizsgálatában szükségünk van egy olyan eredményre, mely az összeadandók abszolut értékének véges várható értékét az itt szükséges vizsgálatokban jobban kezelhető módon fejezi ki. Ez a tartalma a következő lemmának.

Lemma. Egy ξ valószínűségi változó abszolut értékének akkor és csak akkor van véges várható értéke, ha ∑_{n=1}^{∞} P (|ξ| > n) < ∞.

Megjegyzem, hogy ennek az állításnak igaz a következő általánosítása, amelyiket hasonlóan lehet bizonyítani. De mivel erre nem lesz szükségünk, ennek bizonyítását elhagyom.

A lemma általánosítása. Egy ξ valószínűségi változó akkor és csak akkor teljesíti az

E|ξ|^{r} < ∞ momentum feltételt valamely ≥ 1 számra, ha ∑_{n=1}^{∞} n^{r−1}P (|ξ| > n) < ∞.

A lemma bizonyítása. Vezessük be a következő ξ̃ valószínűségi változót: ξ̃ = j, ha j − 1 < |ξ| ≤ j, j = 1, 2, . . .. Ekkor P (0 ≤ |ξ| − ξ̃ ≤ 1) = 1, ezért a |ξ| és ξ̃ valószínűségi

változók várható értéke egyszerre véges vagy végtelen. Viszont Eξ̃ = ∑_{j=1}^{∞} jP (ξ̃ = j) =

∑_{j=1}^{∞} jP (j − 1 < |ξ| ≤ j), ezért ennek az összegnek a konvergenciáját vagy divergenciáját

kell vizsgálnunk.

Felírhatjuk, hogy ∑_{j=1}^{∞} jP (j − 1 < |ξ| ≤ j) = ∑_{j=1}^{∞} j(P (|ξ| > j − 1) − P (|ξ| > j)).

Rendezzük át a fenti összeget a következő módon. Tetszőleges N számra

∑_{j=1}^{N} jP (j − 1 < |ξ| ≤ j) = ∑_{j=1}^{N} j(P (|ξ| > j − 1) − P (|ξ| > j))

= ∑_{j=1}^{N−1} P (|ξ| > j)((j + 1) − j) − NP (|ξ| > N). = ∑_{j=1}^{N−1} P (|ξ| > j) − NP (|ξ| > N).

Megmutatjuk, hogy N → ∞ határátmenettel a fenti relációból következik a Lemma állítása. Valóban, ha E|ξ| < ∞, akkor létezik olyan K < ∞ szám, melyre NP (|ξ| >

N) ≤ ∑_{j=N+1}^{∞} jP (j − 1 < |ξ| ≤ j) ≤ ∑_{j=1}^{∞} jP (j − 1 < |ξ| ≤ j) ≤ K, ahol a K konstans

független az N számtól. Így ebben az esetben az előző becslés alapján léteznek olyan univerzáslis L és K számok, melyekre

L ≥ ∑_{j=1}^{N−1} P (|ξ| > j) − K minden L = 1, 2, … számra,

ahonnan ∑_{N=1}^{∞} P (|ξ| > j) < ∞).

Ha E|ξ| = ∞, akkor ∑_{N=1}^{∞} P (|ξ| > j) = ∞, mert ekkor

∑_{j=1}^{N−1} P (|ξ| > j) ≥ ∑_{j=1}^{N} jP (j − 1 < |ξ| ≤ j),

és lim_{N→∞} ∑_{j=1}^{N} jP (j − 1 < |ξ| ≤ j) = ∞.

Megjegyzés: Az összegnek a fenti számolásban történt átrendezését Abel féle átrendezésnek nevezik, és ez sokszor hasznos. Az Abel féle átrendezés egyébként az integrálszámításban alkalmazott parciális integrálás diszkrét megfelelője.

Megfogalmazom a fenti lemma egy számunkra fontos következményét.

A Lemma következménye. Legyenek ξ_{1}, ξ_{2}, …, független, egyforma eloszlású valószínűségi változók. Ha E|ξ_{1}| = ∞, akkor e valószínűségi változók nem teljesítik a nagy számok erős törvényét. Pontosabban azt állíthatjuk, hogy ebben az esetben az S_{n}(ω) =

∑_{j=1}^{n} ξ_{j}(ω), n = 1, 2, …, összegekre az \frac{S_{n}(ω)}{n} kifejezés majdnem minden ω ∈ Ω pontban

nem konvergens.

Bizonyítás. Ebben az esetben a Lemma alapján a ξ_{j} valószínűségi változók azonos

eloszlása miatt az E|ξ_{1}| = ∞ feltételből következik, hogy ∑_{n=1}^{∞} P (|ξ_{1}| > n) = ∑_{n=1}^{∞} P (|ξ_{n}| >

n) = ∞. A ξ_{n} valószínűségi változók függetlensége miatt az {ω: |ξ_{n}(ω)| > n} események is függetlenek. Ezért a Borel–Cantelli lemmából következik, hogy majdnem minden ω ∈ Ω-ra |ξ_{n}(ω)| > n végtelen sok az (ω elemi eseménytől függő) n indexre. Te-

kintsünk egy olyan ω ∈ Ω elemi eseményt, melyre lim_{n→∞} \frac{S_{n}(ω)}{n} = a valamilyen véges a számra, melynek értéke függhet ettől az ω elemi eseménytől. Ilyen ω pontokban a

lim_{n→∞} \frac{S_{n−1}(ω)}{n} = a reláció is teljesül. Ezért lim_{n→∞} (\frac{S_{n}(ω)}{n} − \frac{S_{n−1}(ω)}{n}) = lim_{n→∞} \frac{ξ_{n}(ω)}{n} =

0. Ez a reláció viszont, mint láttuk csak egy nulla valószínűségi halmazon teljesülhet.

A Cauchy eloszlás karakterisztikus függvényének a kiszámítása.

Legyen ξCauchy eloszlású valószínűségi változó a = 1 paraméterrel . Ekkor

Ee^{itξ} = ∫_{−∞}^{∞} \frac{1}{π} \frac{e^{itu}}{1 + u^{2}} du.

Ezt az integrált a komplex függvénytan reziduum tétele segítségével ki tudjuk számítani.

Vegyük észre, hogy a g(z) = g(z, t) = \frac{e^{itz}}{π(1 + z^{2})} függvény analitikus a komplex

számsíkon, két pólusa van a z = ±i pontokban. A g(z) függvény reziduuma az i pontban e^{−t} a −i pontban e^{t}. Tekintsük a következő körintegrált. A g(z) = g(z, t) függvényt integráljuk a [−R, R] szakaszon, majd a a |z| = R Im z ≥ 0 félkörön, ha t ≥ 0 és a |z| = R, Im z ≤ 0 félkörön, ha t ≤ 0. Ekkor ennek a körintegrálnak az értéke a g(z) függvény i pontbeli reziduumával egyenlő t > 0 és a −i pontbeli reziduumával a t < 0 esetben. Másrészt az integrál megszorítása az R sugarú félkörre nullához tart, ha R → 0. Innen következik, hogy Ee^{itξ} = ∫_{−∞}^{∞} g(t, u) du = e^{−t}, ha t > 0, és Ee^{itξ} = ∫_{−∞}^{∞} g(t, u) du = e^{t}, ha t < 0. Egységes jelöléssel azt írhatjuk, hogy Ee^{itξ} = e^{|t|}.