A Valószínűségszámítás II. előadássorozat negyedik témája.

A NAGY SZÁMOK TÖRVÉNYE

Ezen előadás témája a nagy számok (erős és gyenge) törvénye. Kissé leegyszerűsítve fogalmazva a nagy számok törvénye azt mondja ki, hogy ha vesszük n független és egyforma eloszlású valószínűségi változó átlagát, akkor ez az átlag nagyon általános feltételek mellett egy konstanshoz tart n → ∞ esetén. A részletesebb tárgyalásban meg kell érteni, hogy milyen értelemben tartanak ezek az átlagok konstanshoz, illetve hogy milyen feltételeket kell teljesítenie a valószínűségi változók eloszlásának ahhoz, hogy egy ilyen konvergencia érvényes legyen. Ezenkívül szeretnénk meghatározni a limeszben megjelenő konstans értékét is. Mint látni fogjuk ez a szám nagyon általános esetben azon valószínűségi változók várható értékével egyenlő, amelyeknek az átlagát tekintettük.

Független valószínűségi változók konvergenciájának a fogalmát több különböző módon definiálhatjuk, és e definiciók mindegyike értelmes. Ebben az előadásban a nagy számok erős és gyenge törvényét ismertetem, amelyek a majdnem mindenütt és a sztochasztikus konvergenciával kapcsolatosak. A nagy számok erős törvénye annak adja meg a szükséges és elégséges feltételét, hogy független, egyforma eloszlású valószínűségi változók átlagai egy valószínűséggel tartsanak egy számhoz, a nagy számok gyenge törvénye pedig annak, hogy ez a konvergencia sztochasztikus értelemben teljesüljön. Mint látni fogjuk mind a nagy számok erős mind a nagy számok gyenge törvénye bizonyos momentum jellegű feltételek teljesülése esetén érvényes. Ezek a feltételek azt követelik meg, hogy a tekintett átlagban résztvevő valószínűségi változók csak viszonylag kis valószínűséggel vegyenek fel nagy értékeket. Ez összhangban van a centrális határeloszlástételről tanultakkal. A centrális határeloszlástétel akkor érvényes, ha teljesül a Lindeberg feltétel. Ez szintén olyan megkötést jelent, hogy a tekintett valószínűségi változók csak kis valószínűséggel vesznek fel nagyon nagy értékeket.

Az eredmények jobb megértése érdekében először áttekintem az eredményekben megjelenő konvergencia fogalmak közötti kapcsolatot. Felidézek több korábban tanult eredményt. Ugyancsak ismertetem a nagy számok erős és gyenge törvényének olyan korábban tanult, egyszerűsített változatát, amelyekben ezeket az eredményeket a szükségesnél erősebb feltételek teljesülése esetén bizonyítottam be. E bizonyítások összehasonlítása az eredeti eredmények bizonyításával érthetőbbé teszi bizonyos érvelések szerepét és bizonyos részeredmények jelentőségét.

A bizonyítások során néhány önmagában is érdekes eredmény is megjelenik. Ilyen eredmény a Kolmogorov egyenlőtlenség, amely független valószínűségi változók részletösszegeinek maximumáról ad olyan becslést, mint amilyet a Csebisev egyenlőtlenség ad akkor, ha csak e szuprémum utolsó tagját becsüljük. Ezenkívül bebizonyítok néhány olyan eredményt, amelyek bizonyítása az itt tárgyalt módszerek segítségével történik. Ilyen a Kolmogorov-féle három sor tétel, amely megadja annak szükséges és elégséges feltételét, hogy végtelen sok független valószínűségi változó összege egy valószínűséggel konvergáljon. Egy másik fontos tárgyalandó eredmény az úgynevezett Kolmogorovféle nulla–egy törvény, amely arra ad magyarázatot, hogy miért találkozunk független valószínűségi változók tulajdonságainak a vizsgálatánál gyakran olyan eseményekkel, amelyeknek a valószínűsége bizonyos esetekben nulla más esetekben egy, de sohasem valamely e két szám közötti érték.

Ahhoz, hogy a nagy számok erős és gyenge törvényét megfogalmazhassuk, először meg kell adnunk az ezen eredményekben használt konvergenciák definicióját és tisztáznunk kell ezek kapcsolatát egymással. Ezenkívül felidézem az eloszlásban való konvergencia fogalmát is annak érdekében, hogy ezt is összehasonlíthassuk a fenti két konvergenciafogalommal.

Az egy valószínűségű konvergencia definiciója: Valószínűségi változók ξ_{n}, n = 1, 2, …, sorozata akkor konvergál egy valószínűséggel egy ξ valószínűségi változóhoz, ha (egyrészt ezek a valószínűségi változók ugyanazon az (Ω, A, P) valószínűségi mezőn vannak definiálva, másrészt)

P (ω: lim_{n→∞} ξ_{n}(ω) = ξ(ω)) = 1.

Megjegyzés: Az egy valószínűségi konvergencia fogalmát a mértékelméletben is használják, de ott azt majdnem mindenütt való konvergenciának is hívják. (Az angol nyelvű irodalomban az almost sure convegence, almost everywhere convergence vagy convergence with probability one kifejezések használatosak.)

A sztochasztikus konvergencia definiciója: Valószínűségi változók ξ_{n}, n = 1, 2, …, sorozata akkor konvergál sztochasztikusan egy ξ valószínűségi változóhoz, ha (egyrészt ezek a valószínűségi változók ugyanazon az (Ω, A, P) valószínűségi mezőn vannak definiálva, másrészt) minden ε > 0 számra

lim_{n→∞} P (|ξ_{n}(ω) − ξ(ω)| > ε) = 0.

Megjegyzés: A mértékelméletben előforduló kifejezések közül a mértékben való konvergencia felel meg ennek a fogalomnak. Az egyetlen apró különbség a mértékelmélet és valószínűségszámítás szóhasználata között abban van, hogy a mértékelméletben véges, de nem feltétlenül valószínűségi (azaz egyre normált) mértékeket tekintenek.

Az eloszlásban való konvergencia definiciója: Valószínűségi változók ξ_{n}, n = 1, 2, …, sorozata akkor konvergál eloszlásban egy F (u) eloszlásfüggvényhez vagy az ezen eloszlásfüggvény által meghatározott eloszláshoz, ha lim_{n→∞} P (ξ_{n} < u) = F (u) minden olyan u számra, ahol az F (·) eloszlásfüggvény függvény folytonos. (Azt mondjuk, hogy a ξ_{n}, n = 1, 2, …, valószínűségi változók sorozata eloszlásban konvergál egy ξ valószínűségi változóhoz, ha ez a sorozat eloszlásban konvergál az F (u) = P (ξ < u) eloszlásfüggvényhez.)

A következő kapcsolat érvényes a fenti konvergenciafogalmak között.

Egy valószínűségi konvergencia ⇒ Sztochasztikus konvergencia ⇒ Eloszlásban való konvergencia.

Először megtárgyalom az egy valószínűségi és sztochasztikus konvergencia kapcsolatát.

Ha ξ_{n}(ω) → ξ(ω) egy valószínűséggel, akkor definiálva az

A_{n} = A_{n}(ε) = {ω: sup_{k≥n} |ξ_{k}(ω) − ξ(ω)| < ε}

halmazokat kapjuk, hogy az egymásba skatulyázott A_{n} halmazokra, (azaz A_{1}(ω) ⊂

A_{2} ⊂ ⋯), P ( ⋃_{n=1}^{∞} A_{n}) = 1. Ezért lim_{n→∞} P (A_{n}) = 1. Mivel {ω: |ξ_{n}(ω) − ξ(ω)| <

ε} ⊃ A_{n}, P (|ξ_{n}(ω) − ξ(ω)| < ε) → 1, azaz P (|ξ_{n}(ω) − ξ(ω)| ≥ ε) → 0, ha n → ∞. Ez azt jelenti, hogy az egy valószínűségű konvergenciából következik a sztochasztikus konvergencia.

Megfogalmazom az alábbi állítást, amelyet nem nehéz bebizonyítani. De mivel nem lesz rá később szükségünk, azért elhagyom a bizonyítást.

Állítás: Valószínűségi változók ξ_{n}, n = 1, 2, …, sorozata, akkor és csak akkor konvergál egy valószínűséggel egy ξ valószínűségi változóhoz, ha az η_{n} = sup_{k≥n} |ξ_{k} − ξ| valószínűségi

változók sorozata sztochasztikusan konvergál nullához, azaz minden ε > 0 számra

lim_{n→∞} P (sup_{k≥n} |ξ_{k} − ξ| > ε) = 0.

Lássunk példát arra, hogy lehetséges olyan ξ_{n}, n = 1, 2, …, és ξ valószínűségi változókat konstruálni, amelyekre a ξ_{n}, n = 1, 2, …, sorozat sztochasztikusan tart ξhez, de a ξ_{n} sorozat nem konvergál egy valószínűséggel a ξ valószínűségi változóhoz.

Tekintsük a következő (Ω, A, P) valószínűségi mezőt: Ω a [0, 1] intervallum, A a Borel mérhető halmazok σ-algebrája a [0, 1] intervallumon, a P valószínűségi mérték a Lebesgue mérték. Legyen

ξ_{n}(x) = \{ \begin{matrix}1 ha x ∈ [(n − 2^{k})2^{−k}, (n + 1 − 2^{k})2^{−k}] \\ 0 ha x ∉ [(n − 2^{k})2^{−k}, (n + 1 − 2^{k})2^{−k}] \end{matrix}
akkor ha 2^{k} ≤ n < 2^{k+1}, k = 1, 2, …,

és ξ(x) = 0 minden 0 ≤ x ≤ 1 számra. Ekkor P (|ξ_{n} − ξ| > ε) = 2^{−k} minden 1 > ε > 0 számra, ha 2^{k} ≤ n < 2^{k+1}. Tehát a ξ_{n}, n = 1, 2, …, sorozat sztochasztikusan konvergál a ξ valószínűségi változóhoz. Viszont mivel lim sup_{n→∞} ξ_{n}(x) = 1 minden 0 ≤ x ≤ 1 számra,

ezért a ξ_{n} sorozat nem konvergál egy valószínűséggel a ξ valószínűségi változóhoz.

Másrészt tekintsünk egy ξ valószínűségi változót és ξ_{n}, n = 1, 2, …, valószínűségi

változók olyan sorozatát, amelyre ∑_{n=1}^{∞} P (|ξ_{n} −ξ| > ε) < ∞ minden ε > 0 számra. Ekkor a Borel–Cantelli lemmából következik, hogy a ξ_{n} sorozat egy valószínűséggel konvergál a ξ valószínűségi változóhoz. Ez azt jelenti, hogy egyrészt mint az előző példa mutatja a lim_{n→∞} P (|ξ_{n} − ξ| > ε) reláció teljesülése minden ε > 0 számra elegendő a sztochasztikus, de nem elegendő az egy valószínűséggel való konvergenciához. Másrészt az erősebb

∑_{n=1}^{∞} P (|ξ_{n} − ξ| > ε) < ∞ reláció teljesülése minden ε > 0 számra elegendő az egy

valószínűségi konvergenciához is.

A sztochasztikus konvergencia és eloszlásban való konvergencia közötti kapcsolatra érvényesek a következő állítások.

1. álllítás sztochasztikus és eloszlásban való konvergencia kapcsolatáról. Ha valamely ξ_{n}, n = 1, 2, …, valószínűségi változók sztochasztikusan konvergálnak egy ξ valószínűségi változóhoz, akkor ezek a ξ_{n} valószínűségi változók eloszlásban is konvergálnak ehhez a ξ valószínűségi változóhoz.

Indoklás: Legyen x folytonossági pontja a ξ valószínűségi változó F (·) eloszlásfüggvényének, és rögzítve egy ε > 0 számot válasszunk olyan δ = δ(ε) > 0 számot, melyre F (x) − \frac{ε}{2} ≤ F (x − δ) ≤ F (x + δ) < F (x) + \frac{ε}{2}. Ezután válasszunk olyan n_{0} = n_{0}(ε, δ) számot, amelyre P (|ξ_{n} − ξ| ≥ δ) < \frac{ε}{2}. Ekkor P (ξ_{n} < x) < P (ξ < x + δ) + P (|ξ_{n} − ξ| ≥ δ) ≤ F (x + δ) + \frac{ε}{2} ≤ F (x) + ε. Másrészt P (ξ_{n} > x) < P (ξ > x − δ) + P (|ξ_{n} − ξ| ≥ δ) ≤ 1 − F (x − δ) + \frac{ε}{2} ≤ 1 − F (x) + ε, ha n ≥ n_{0}. Innen F (x) − ε ≤ P (ξ_{n} < x) ≤ F (x) + ε n ≥ n_{0} esetén. Mivel minden ε > 0 esetén érvényes egy ilyen becslés, innen következik a megfogalmazott állítás.

Természetesen lehetséges, hogy ξ_{n} valószínűségi változók egy sorozata eloszlásban konvergál egy ξ valószínűségi változóhoz, de sztochasztikusan nem konvergál. Erre példa az az eset, amikor a ξ_{n} valószínűségi változók függetlenek, és azonos eloszlásúak. Ekkor az eloszlásban való konvergencia nyílván teljesül, de ha a ξ_{n} valószínűségi változók eloszlása nem elfajult, azaz a ξ_{n} valószínűségi változók nem egyenlőek egy konstanssal egy valószínűséggel, akkor e valószínűségi változók nem konvergálnak sztochasztikusan. Viszont abban az esetben, ha a limesz konstans akkor igaz a következő állítás:

2. állítás sztochasztikus és eloszlásban való konvergencia kapcsolatáról. Ha valamely ξ_{n}, n = 1, 2, …, valószínűségi változók egy a konstanshoz konvergálnak eloszlásban, (azaz egy olyan valószínűségi változóhoz, amelynek értéke egy valószínűséggel ez az a konstans, akkor a ξ_{n}, n = 1, 2, …, valószínűségi változók sorozata sztochasztikusan is konvergál ehhez az a konstanshoz.

Indoklás: A limeszként megjelenő valószínűségi változó eloszlásfüggvénye az az F (x) eloszlás, amelyre F (x) = 0, ha x ≤ a, és F (x) = 1 ha x > a. Az F (x) függvénynek az x = a pontot kivéve minden pont folytonossági pontja. Ezért minden ε > 0 számra lim_{n→∞} P (ξ_{n} < a + ε) = 1, lim_{n→∞} P (ξ_{n} < a − ε) = 0. Innen következik, hogy lim_{n→∞} P (|ξ_{n} −

ξ| < ε) = lim_{n→∞} P (|ξ_{n} − a| < ε) = lim_{n→∞} (P (ξ_{n} < a + ε) − P (ξ_{n} ≤ a − ε)) = 1. Innen

következik a 2. állítás eredménye.

Ezután megfogalmazom pontosan, hogy mikor mondjuk, hogy teljesül a nagy számok gyenge és erős törvénye, és megfogalmazok két tételt, amelyek megadják e két törvény teljesülésének a szükséges és elégséges feltételét. Ezt a két eredményt összehasonlítom.

Nagy számok gyenge törvényének a definiciója. Legyen ξ_{n}, n = 1, 2, …, független, egyforma eloszlású valószínűségi változók sorozata egy valószínűségi mezőn, S_{n} =

∑_{k=1}^{n} ξ_{k}, k = 1, 2, . . .. Azt mondjuk, hogy ezek a ξ_{n}, n = 1, 2, …, valószínűségi változók

teljesítik a nagy számok gyenge törvényét, ha létezik olyan E szám, amelyre teljesül, hogy az \frac{S_{n}}{n}, n = 1, 2, …, valószínűségi változók sztochasztikusan konvergálnak az E számhoz, azaz ahhoz a valószínűségi változóhoz, amely egy valószínűséggel az E konstanssal egyenlő.

Nagy számok erős törvényének a definiciója. Legyen ξ_{n}, n = 1, 2, …, független,

egyforma eloszlású valószínűségi változók sorozata egy valószínűségi mezőn, S_{n} = ∑_{k=1}^{n} ξ_{k},

k = 1, 2, . . .. Azt mondjuk, hogy ezek a ξ_{n}, n = 1, 2, …, valószínűségi változók teljesítik a nagy számok erős törvényét, ha létezik olyan E szám, melyre teljesül, hogy az \frac{S_{n}}{n}, n = 1, 2, …, valószínűségi változók egy valószínűséggel konvergálnak az E számhoz, azaz ahhoz a valószínűségi változóhoz, amely egy valószínűséggel az E konstanssal egyenlő.

Tétel a nagy számok erős törvényéről. Legyen ξ_{1}, ξ_{2}, …, független, egyforma

eloszlású valószínűségi változók sorozata, és definiáljuk e sorozat S_{n} = ∑_{k=1}^{n} ξ_{k}, n =

1, 2, …, részletösszegeit. Ha E|ξ_{1}| = ∞, akkor az \frac{S_{n}(ω)}{n}, n = 1, 2, …, sorozat egy valószínűséggel divergens. Ha E|ξ_{1}| < ∞, akkor a ξ_{1}, ξ_{2}, … sorozat teljesíti a nagy számok erős törvényét E = Eξ_{1} konstanssal, azaz ebben az esetben

lim_{n→∞} \frac{S_{n}(ω)}{n} = Eξ_{1} majdnem minden ω ∈ Ω-ra.

Tétel a nagy számok gyenge törvényéről. Legyen ξ_{k}, k = 1, 2, …, független, egyforma eloszlású valószínűségi változók sorozata valamely F eloszlásfüggvénnyel. Ezen

valószínűségi változók \frac{1}{n} ∑_{k=1}^{n} ξ_{k}, n = 1, 2, …, átlagai akkor és csak akkor teljesítik a

nagy számok gyenge törvényét, azaz akkor és csak akkor konvergálnak sztochasztikusan n → ∞ esetében valamely a, −∞ < a < ∞, számhoz, ha teljesülnek a

lim_{x→∞} x [F (−x) + (1 − F (x))] = 0, és lim_{u→∞} ∫_{−u}^{u} xF ( dx) = a

relációk. A lim_{u→∞} ∫_{−u}^{u} xF ( dx) = a feltételben szereplő a szám, megegyezik azzal az a

számmal ahová az \frac{1}{n} ∑_{k=1}^{n} ξ_{k}, n = 1, 2, …, átlagok konvergálnak.

A fenti két tétel összehasonlításából következik, hogy ha teljesülnek a nagy számok erős törvényéről szóló tétel feltételei, akkor a nagy számok gyenge törvényéről szóló tétel feltételeinek is teljesülniük kell. Lássuk be közvetlenül ezt az állítást.

A Lebesgue tételből és az E|ξ| < ∞ relációból következik, hogy lim_{u→∞} ∫_{−u}^{u} xF ( dx) =

∫_{−∞}^{∞} xF ( dx) = Eξ_{1}. Másrészt x(1 − F (x)) ≤ ∫_{x}^{∞} uF ( du), és lim_{x→∞} ∫_{x}^{∞} uF ( du) = 0

szintén a Lebesgue tétel szerint. Tehát lim_{x→∞} x(1 − F (x)) = 0, ha E|ξ_{1}| < ∞. Hasonlóan lim_{x→∞} xF (−x) = 0 ebben az esetben.

Annak érdekében, hogy a nagy számok gyenge és erős törvényének a kapcsolatát jobban megértsük tekintsünk néhány példát.

1. példa. Tekintsük független, egyforma eloszlású valószínűségi változók olyan ξ_{1}, ξ_{2}, …, sorozatát, amelyeknek van sűrűségfüggvényük, és az f(x) = C|x|^{−α}, ha |x| ≥ 1, f(x) = 0, ha |x| < 1 alakú, ahol α > 1, és a C = C(α) konstans úgy van választva, hogy ∫_{−∞}^{∞} f(x) dx = 1, azaz f(x) sűrűségfüggvény. Ha α > 2, akkor E|ξ_{1}| = ∫_{−∞}^{∞} |x|f(x) dx < ∞, és érvényes a nagy számok erős törvénye. Ha α = 2, akkor E|ξ_{1}| = ∫_{−∞}^{∞} |x|f(x) dx = ∞, és a nagy számok erős törvénye nem teljesül. Sőt, ebben az esetben F (x) = C ∫_{x}^{∞} \frac{1}{x^{2}} dx = Cx^{−1}, ha x > 1, ezért lim_{x→∞} xF (x) = C > 0, és a nagy számok gyenge törvénye sem teljesül. Ha 1 < α < 2, akkor szintén sem a nagy számok erős sem a nagy számok gyenge törvénye nem teljesül.

2. példa. Tekintsünk független, egyforma, Cauchy eloszlású ξ_{1}, ξ_{2}, …, valószínűségi változókat, azaz olyan valószínűségi változókat, amelyeknek f(x) = \frac{1}{π} \frac{1}{1+x^{2}} , −∞ < x < ∞, alakú sűrűségfüggvényük van. Az első példa érvelése (az α = 2 esetben) mutatja, hogy ezek a valószínűségi változók sem teljesítik a nagy számok gyenge törvényét. Sőt, mint később látni fogjuk, ennek a sorozatnak a következő nevezetes tulajdonsága is

megvan. E valószínűségi változók \frac{1}{n} ∑_{k=1}^{n} ξ_{n} átlagainak az eloszlása minden n számra

ugyanaz a Cauchy eloszlás, mint a ξ_{1} valószínűségi változó eloszlása.

3. példa: Legyen ξ_{k}, k = 1, 2, …, független, egyforma eloszlású valószínűségi változók sorozata, az f(u) = \frac{C}{u^{2} log |u|}, ha |u| > 3, f(u) = 0, ha |u| ≤ 3, képlettel megadott sűrűségfüggvénnyel. (A C konstanst az ∫_{|u|>3} \frac{C du}{u^{2} log |u|} = 1 reláció határozza meg.)

Definiáljuk az S_{n} = ∑_{k=1}^{m} ξ_{k}, n = 1, 2, …, részletösszegeket. Ekkor E|ξ_{1}| = ∞, ezért ezek

a valószínűségi változók nem teljesítik a nagy számok erős törvényét. Másrészt az \frac{S_{n}}{n} átlagok sztochasztikusan tartanak nullához, azaz minden ε > 0 számra P (|\frac{S_{n}}{n} | > ε) → 0, ha n → ∞. Ez azt jelenti, hogy ez a sorozat teljesíti a nagy számok gyenge törvényét.

A 3. példa indoklása: E valószínűségi változókra E|ξ_{1}| = ∫ uf(u) du = ∫_{3}^{∞} \frac{2C}{u log u} du = ∞, mert ∫_{3}^{x} \frac{1}{u log u} du = [log log u]_{3}^{x}, és lim_{x→∞} log log x = ∞. (Ez például onnan látható,

hogy az \frac{1}{x log x} primitív függvénye a log log x függvény.) Ez azt jelenti, hogy ez a sorozat nem teljesíti a nagy számok erős törvényét. Mivel a ξ_{n} valószínűségi változók sűrűségfüggvénye páros függvény, annak megmutatása érdekében, hogy az \frac{S_{n}}{n} = \frac{1}{n} ∑_{k=1}^{n} ξ_{k}

valószínűségi változók sztochasztikusan tartanak nullához a nagy számok gyenge törvényéről szóló tétel alapján elég megmutatni azt, hogy

lim_{x→∞} x[(1 − F (x)) + F (−x)] = lim_{x→∞} x ∫_{x}^{∞} \frac{2C}{u^{2} log log u} du = 0.  (a)

Mivel minden ε > 0 számhoz létezik olyan x = x(ε) küszöbindex, amelyre \frac{2C}{u^{2} log log u} ≤ \frac{ε}{u^{2}} , ha u ≥ x, ezért x ∫_{x}^{∞} \frac{2C}{u^{2} log log u} du ≤ εx ∫_{x}^{∞} u^{−2} du = ε, ha x ≥ x(ε). Mivel ez az egyenlőtlenség minden ε > 0 számra érvényes, innen következik az (a) formulában megfogalmazott reláció.

Később, a gyakorlaton megtárgyalom, hogyan lehet a 3. példa állítását közvetlenül, a nagy számok gyenge törvényéről szóló tétel felhasználása nélkül bebizonyítani.

A fenti példák hasonlítottak egymáshoz abban, hogy mindegyikben a sűrűségfüggvény a plusz-minusz végtelen környezetében aszimptotikusan úgy viselkedett, mint \frac{1}{u^{2}} szorozva egy logaritmus hatvány rendű korrekciós taggal. E korrekciós tag nagysága befolyásolta, hogy bízonyos integrálok konvergensek-e vagy divergensek, és ettől függött, hogy teljesül-e a nagy számok erős vagy gyenge törvénye. Láttuk, hogy a nagy számok különböző törvényeit kimondó tételekben és példákban az játszott fontos szerepet, hogy az összeadandók eloszlásfüggvényei hogyan viselkednek a ±∞ környezetében, milyen gyorsan tartanak ott az eloszlásfüggvények egyhez illetve nullához. Ettől függ ugyanis, hogy az ott szereplő integrálok konvergensek vagy divergensek.

Rátérek a nagy számok erős törvényének a bizonyítására. A bizonyításban hasznos az alábbi lemma, amely azt a tulajdonságot, hogy egy valószínűségi változó abszolut értékének a várható értéke véges ekvivalens módon fejezi ki a valószínűségi változó eloszlásfüggvényének a segítségével.

Lemma annak jellemzéséről, hogy egy valószínűségi változó abszolut értékének a várható értéke mikor véges. Egy ξ valószínűségi változó abszolut értékének

E|ξ| várható értéke akkor és csak akkor véges, ha ∑_{n=1}^{∞} P (|ξ| > n) < ∞.

A lemma bizonyítása. Vezessük be a következő ξ̃ valószínűségi változót: ξ̃ = j, ha j − 1 < |ξ| ≤ j, j = 1, 2, . . .. Ekkor P (0 ≤ |ξ| − ξ̃ ≤ 1) = 1, ezért a |ξ| és ξ̃ valószínűségi

változók várható értéke egyszerre véges vagy végtelen. Másrészt Eξ̃ = ∑_{j=1}^{∞} jP (ξ̃ = j) =

∑_{j=1}^{∞} jP (j − 1 < |ξ| ≤ j), ezért ennek az összegnek a konvergenciáját vagy divergenciáját

kell vizsgálnunk.

Felírhatjuk, hogy ∑_{j=1}^{∞} jP (j − 1 < |ξ| ≤ j) = ∑_{j=1}^{∞} j(P (|ξ| > j − 1) − P (|ξ| > j)).

Rendezzük át a fenti összeget a következő módon. Tetszőleges N számra

∑_{j=1}^{N} jP (j − 1 < |ξ| ≤ j) = ∑_{j=1}^{N} j(P (|ξ| > j − 1) − P (|ξ| > j))

= ∑_{j=1}^{N−1} P (|ξ| > j)((j + 1) − j) − NP (|ξ| > N) = ∑_{j=1}^{N−1} P (|ξ| > j) − NP (|ξ| > N).

Megmutatom, hogy N → ∞ határátmenettel a fenti relációból következik a Lemma állítása. Valóban, ha E|ξ| < ∞, akkor választható egy K < ∞ szám úgy, hogy

tetszőleges N ≥ 1 egész számra NP (|ξ| > N) ≤ ∑_{j=N+1}^{∞} jP (j − 1 < |ξ| ≤ j) ≤

∑_{j=1}^{∞} jP (j − 1 < |ξ| ≤ j) ≤ K. Ebben a becslésben a K konstans nem függ az N

számtól. Így az előző becslés alapján az E|ξ_{1}| < ∞ esetben léteznek olyan univerzális L és K számok, amelyekre

L ≥ ∑_{j=1}^{N−1} P (|ξ| > j) − K minden N = 1, 2, … számra,

és innen ∑_{j=1}^{∞} P (|ξ| > j) < ∞).

Ha E|ξ| = ∞, akkor ∑_{N=1}^{∞} P (|ξ| > j) = ∞, mert ekkor

∑_{j=1}^{N−1} P (|ξ| > j) ≥ ∑_{j=1}^{N} jP (j − 1 < |ξ| ≤ j),

és lim_{N→∞} ∑_{j=1}^{N} jP (j − 1 < |ξ| ≤ j) = ∞.

Megjegyzés: Az összegnek a fenti számolásban történt átrendezését Abel-féle átrendezésnek nevezik, és ez sokszor hasznos. Az Abel-féle átrendezés egyébként az integrálszámításban alkalmazott parciális integrálás diszkrét megfelelője.

Megjegyzem, hogy ennek a fenti lemmának igaz a következő általánosítása, amelyet hasonlóan lehet bizonyítani. De mivel erre nem lesz szükségünk, ennek bizonyítását elhagyom.

A várható érték létezéséről szóló lemma általánosítása. Egy ξ valószínűségi változó akkor és csak akkor teljesíti az E|ξ|^{r} < ∞ momentum feltételt valamely r ≥ 1

számra, ha ∑_{n=1}^{∞} n^{r−1}P (|ξ| > n) < ∞.

A nagy számok erős törvényének először a negatív felét bizonyítom be. A nagy számok erős törvényéről szóló tételnek ezt a részét az alábbi lemma tartalmazza.

Lemma független, egyforma eloszlású nem integrálható valószínűségi változók átlagának a viselkedéséről. Ha ξ_{1}, ξ_{2}, … független, egyforma eloszlású való-

színűségi változók, és E|ξ_{1}| = ∞, akkor az \frac{S_{n}(ω)}{n} = \frac{1}{n} ∑_{k=1}^{n} ξ_{k}(ω), n = 1, 2, …, átlagok

sorozata majdnem minden ω ∈ Ω elemi eseményre divergens.

A lemma bizonyítása. Felhasznájuk azt a lemmát, amely azt jellemzi, hogy egy valószínűségi változó abszolut értékének a várható értéke mikor véges. Ezen eredmény, az E|ξ_{1}| = ∞ reláció és a ξ_{j} valószínűségi változók azonos eloszlása miatt érvényes

a ∑_{n=1}^{∞} P (|ξ_{1}| > n) = ∑_{n=1}^{∞} P (|ξ_{n}| > n) = ∞ reláció. A ξ_{n} valószínűségi változók

függetlensége miatt az {ω: |ξ_{n}(ω)| > n} események is függetlenek. Ezért a Borel– Cantelli lemmából következik, hogy majdnem minden ω ∈ Ω-ra |ξ_{n}(ω)| > n végtelen sok az (ω elemi eseménytől függő) n indexre. Tekintsünk egy olyan ω ∈ Ω elemi eseményt, amelyre lim_{n→∞} \frac{S_{n}(ω)}{n} = a valamilyen véges a számra. (Ez az a szám függhet

az ω elemi eseménytől.) Ilyen ω pontokban a lim_{n→∞} \frac{S_{n−1}(ω)}{n} = a reláció is teljesül. Ezért

lim_{n→∞} (\frac{S_{n}(ω)}{n} − \frac{S_{n−1}(ω)}{n}) = lim_{n→∞} \frac{ξ_{n}(ω)}{n} = 0. Ez a reláció viszont, mint láttuk, csak egy nulla valószínűségi halmazon teljesülhet.

A nagy számok erős törvényéről szóló tétel konvergencia részének bizonyítása megfelelő becslések alkalmazását igényli. Annak érdekében, hogy a bizonyításban felmerülő problémákat és gondolatokat jobban megértsük, felidézem e tétel azon gyengébb változatának a bizonyítását, amelyet a bevezető valószínűségszámítás előadáson ismertettem.

A nagy számok erős törvényéről szóló tétel egy gyengébb változata. Legyen ξ_{1}, ξ_{2}, …, független, egyforma eloszlású valószínűségi változók sorozata egy (Ω, A, P) valószínűségi mezőn, amelyekre teljesül az Eξ_{1}^{4} < ∞ feltétel, és vezessük be az S_{n} =

∑_{j=1}^{n} ξ_{j} valószínűségi változókat. Ekkor az \frac{S_{n}(ω)}{n} valószínűségi változók majdnem min-

den ω ∈ Ω-ra konvergálnak az Eξ_{1}, számhoz, azaz ezen valószínűségi változók sorozata teljesíti a nagy számok erős törvényét az E = Eξ konstanssal.

A tétel bizonyítása. Bevezetve a ξ̄_{j} = ξ_{j} − Eξ_{j}, j = 1, 2, …, valószínűségi változókat olyan független, egyforma eloszlású valószínűségi változókat kapunk, amelyeknek a vár-

ható értéke nulla, és Eξ̄^{4} < 0. Ezenkívül ∑_{j=1}^{n} ξ_{j} = ∑_{j=1}^{n} ξ̄_{j} + nEξ_{1}. Ezért elég belátni a

tétel állítását nulla várható értékű valószínűségi változók átlagára.

Tekintsük ezt az esetet, és számoljuk ki az

E (\frac{S_{n}}{n} )^{4} = \frac{1}{n^{4}} E(ξ_{1} + ⋯ + ξ_{n})^{4}

várható értékeket.

ES_{n}^{4} = E(ξ_{1} + ⋯ + ξ_{n})^{4} = ∑_{k=1}^{n} Eξ_{k}^{4} + 6 ∑_{1≤j<k≤n} Eξ_{j}^{2}Eξ_{k}^{2} + 4 ∑_{\begin{matrix}1≤j,k≤n \\ j≠k \end{matrix}} \underbrace{Eξ_{j}^{3}Eξ_{k}}_{=0}

+ 12 ∑_{\begin{matrix}1≤k<l≤n 1≤j≤n \\ j≠k, j≠l \end{matrix}} \underbrace{Eξ_{j}^{2}Eξ_{k}Eξ_{l}}_{=0}

+ 24 ∑_{1≤j<k<l<m≤n} \underbrace{Eξ_{j}Eξ_{k}Eξ_{l}Eξ_{m}}_{=0}

= nEξ_{1}^{4} + 3n(n − 1)(Eξ_{1}^{2})^{2},

ezért

P (|\frac{S_{n}}{n} | > ε) = P (|\frac{S_{n}}{n} |^{4} > ε^{4}) ≤ \frac{1}{ε^{4}} E (\frac{S_{n}}{n} )^{4} = \frac{ES_{n}^{4}}{n^{4}ε^{4}}

= \frac{\frac{1}{n}Eξ_{1}^{4} + 3 (1 − \frac{1}{n})(Eξ_{1})^{2})}{n^{2}ε^{4}} ≤ \frac{const.}{n^{2}ε^{4}} .

Ebből a becslésből következik, hogy ∑_{n=1}^{∞} P (|\frac{S_{n}}{n} | > ε) < ∞ minden ε > 0 számra, és a

Borel–Cantelli lemma (könnyebbik feléből) következik, hogy minden ε > 0 számra és majdnem minden ω ∈ Ω pontban teljesül, hogy |\frac{S_{n}(ω)}{n} | ≤ ε, ha n ≥ n_{0}(ω). Alkalmazva

ezt a relációt minden ε = \frac{1}{k} számra k = 1, 2, …, megkapjuk a nagy számok erős törvényét.

A bizonyításban független, nulla várható értékű egyforma eloszlású valószínűségi változók átlagának a negyedik momentumára adtunk jó becslést, és ebből a becslésből következett a nagy számok törvénye. Ahhoz azonban, hogy ezt a becslést végre tudjuk hajtani, szükség volt arra a feltételre, hogy a tekintett valószínűségi változóknak létezik negyedik momentuma. Felmerül a kérdés, hogyan lehet a fenti érvelést úgy módosítani, hogy az megadja a nagy számok törvényét jóval gyengébb momentum feltételek esetén is.

Ha a tekintett valószínűségi változóknak létezik második momentuma, de ennél erősebb momentumfeltételt nem teszünk fel, akkor az előző módszer megfelelője a Csebisev egyenlőtlenség alkalmazása lenne független, egyforma eloszlású valószínűségi változók átlagára. Felidézem a Csebisev egyenlőtlenséget.

Csebisev egyenlőtlenség: Ha egy ξ valószínűségi változó második momentuma Eξ^{2} = m_{2}, akkor tetszőleges x > 0 számra

P (|ξ| > x) ≤ \frac{m_{2}}{x^{2}} .

Innen következik, ha ezt az egyenlőtlenséget a ξ̄ = ξ − Eξ valószínűségi változóra alkalmazzuk, hogy

P (|ξ − Eξ| > x) ≤ \frac{Var ξ}{x^{2}} ,

Független, nulla várható értékű és véges második momentummal rendelkező ξ_{1}, ξ_{2},

…, valószínűségi változók S_{n} = ∑_{j=1}^{n} ξ_{j} összegének eloszlására a Csebisev egyenlőtlenség

a következő becslést adja.

P (|S_{n}| > x) = P (|∑_{j=1}^{n} ξ_{j}| > x) ≤ \frac{Var S_{n}}{x^{2}} = \frac{∑_{j=1}^{n} Var ξ_{j}}{x^{2}}

Ha független, egyforma eloszlású nulla várható értékű valószínűségi változók átlagát tekintjük, akkor a fenti egyenlőtlenség a

P (|\frac{S_{n}}{n} | > nε) ≤ \frac{∑_{j=1}^{n} Eξ_{j}^{2}}{ε^{2}n^{2}} = \frac{Eξ_{1}^{2}}{nε^{2}}

becslést adja. Ebből a becslésből következik a nagy számok gyenge törvénye, de nem következik a nagy számok erős törvénye. Viszont az alább ismertetendő Kolmogorov egyenlőtlenség segítségével, amely tekinthető a független valószínűségi változók összegének eloszlásáról szóló Csebisev egyenlőtlenség élesítésének is, be lehet bizonyítani a nagy számok törvényét az általános esetben. Ismertetem ezt az eredményt.

Kolmogorov egyenlőtlenség. Legyenek ξ_{1}, …, ξ_{n} független, (nem feltétlenül egy-

forma eloszlású) valószínűségi változók, Eξ_{k} = 0, Eξ_{k}^{2} = Var ξ_{k} = σ_{k}^{2}, S_{k} = ∑_{p=1}^{k} ξ_{p},

k = 1, …, n. Ekkor

P ( sup_{1≤k≤n} |S_{k}| ≥ x) ≤ \frac{ES_{n}^{2}}{x^{2}} = \frac{∑_{k=1}^{n} σ_{k}^{2}}{x^{2}}

minden x > 0-ra.

Tekintsük független, nulla várható értékű, véges második momentummal rendelkező valószínűségi változók sorozatát, és legyen S_{n} az első n tag részletösszege. Nyilvánvaló, hogy sup_{1≤k≤n} |S_{k}(ω)| ≥ |S_{n}(ω)|. Viszont vannak a valószínűségszámításnak olyan eredmé-

nyei, amelyek azt fejezik ki, hogy a tekintett sup_{1≤k≤n} |S_{k}(ω)| kifejezés nem sokkal nagyobb,

mint az ebben a szuprémumban szereplő utolsó |S_{n}(ω)| tag. Ezekben az eredményekben annak a valószínűségét hasonlítják össze, hogy e két kifejezés értéke nagyobb, mint valamilyen x > 0 szám, és ezek bizonyos értelemben azonos nagyságrendűek.

A Kolmogorov egyenlőtlenség is tekinthető ilyen jellegű eredménynek. Ez az egyen-

lőtlenség ugyanazt a felső becslést adja a P ( sup_{1≤k≤n} |S_{k}(ω)| > x) valószínűségre, mint

amit a Csebisev egyenlőtlenség ad a P (|S_{n}(ω)| > x) valószínűségre. A Kolmogorov egyenlőtlenség bizonyítása előtt megmutatom, hogyan lehet ezen egyenlőtlenség és az alább megfogalmazott (nem valószínűségszámítás jellegű eredményt tartalmazó) Kronecker lemma segítségével bebizonyítani a nagy számok erős törvényét az általános esetben. A Kronecker lemma bizonyítását is későbbre halasztom.

Kronecker lemma: Ha az a_{n} és q_{n}, n = 1, 2, …, valós számoknak olyan sorozatai,

amelyekre ∑_{n=1}^{∞} a_{n} összeg konvergens, a q_{n} sorozat monoton nő és lim_{n→∞} q_{n} = ∞, akkor

lim_{n→∞} \frac{1}{q_{n}} ∑_{k=1}^{n} a_{k}q_{k} = 0.

Érdemes a Kronecker lemma következményeként megfogalmazni annak alábbi speciális esetét, amelyet a_{n} = \frac{x_{n}}{n} és q_{n} = n választással kapunk.

Kronecker lemma következménye. Legyen x_{n}, n = 1, 2, …, valós számok olyan

sorozata, amelyre a ∑_{n=1}^{∞} \frac{x_{n}}{n} összeg konvergens. Ekkor lim_{n→∞} \frac{1}{n} ∑_{k=1}^{n} x_{k} = 0.

A nagy számok erős törvényét a fenti eredmények segítségével fogom bebizonyítani az általános esetben. A bizonyításban alkalmas csonkítást fogunk alkalmazni, amely lehetővé teszi, hogy véges második momentummal rendelkező valószínűségi változókkal dolgozzunk.

A nagy számok törvényéről szóló tétel konvergens részének a bizonyítása a fenti eredmények segítségével. Azt kell megmutatni, hogy amennyiben ξ_{1}, ξ_{2}, …, független, egyforma

eloszlású valószínűségi változók, és E|ξ_{1}| < ∞, akkor \frac{1}{n} ∑_{k=1}^{n} Eξ_{k}(ω) → Eξ_{1} 1 valószínű-

séggel. Bevezetve a ξ̄_{n} = ξ_{n} − Eξ_{n}, n = 1, 2, …, valószínűségi változókat nem nehéz belátni, hogy az állítást elegendő belátni nulla várható értékű valószínűségi változók átlagára. Ezért a továbbiakban felteszem, hogy Eξ_{1} = 0.

Vezessük be a ξ_{n} valószínűségi változó ξ_{n} = ξ′_{n} + ξ′′_{n}, ξ′_{n} = ξ_{n}I(|ξ_{n}| ≤ n), ξ′′_{n} = ξ_{n}I(|ξ_{n}| > n) alakú felbontását, ahol I(A) az A halmaz indikátorfüggvényét jelöli. Felhasználva a lemmát annak jellemzéséről, hogy egy valószínűségi változó abszolut értékének a várható értéke mikor véges kapjuk, hogy

∑_{k=1}^{∞} P (ξ′′_{k} ≠ 0) = ∑_{k=1}^{∞} P (|ξ_{k}| > k) < ∞.

Ezért a Borel–Cantelli lemma alapján egy valószínűséggel csak véges sok k indexre tel-

jesül a ξ′′_{k}(ω) ≠ 0 reláció, és \frac{1}{n} ∑_{k=1}^{n} ξ′′_{k}(ω) → 0 egy valószínűséggel. A tétel bizonyításához azt kell belátni, hogy a \frac{1}{n} ∑_{k=1}^{n} ξ′_{k}(ω) → 0 egy valószínűséggel reláció szintén teljesül.

Ezelőtt azt mutatom meg, hogy \frac{1}{n} ∑_{k=1}^{n} Eξ′_{k}(ω) → 0. Valóban,

|\frac{1}{n} ∑_{k=1}^{n} Eξ′_{k}| = |−\frac{1}{n} ∑_{k=1}^{n} Eξ′′_{k}| ≤ \frac{1}{n} ∑_{k=1}^{n} E|ξ_{1}|I(|ξ_{1}| ≥ k) → 0,

ha n → ∞, mert az E|ξ_{1}| < ∞ relációból következik, hogy E|ξ_{1}|I(|ξ_{1}| ≥ k) → 0, ha k → ∞.

Ezen össszefüggés alapján a tétel bizonyításához azt kell igazolni, hogy

\frac{1}{n} ∑_{k=1}^{n}(ξ′_{k}(ω) − Eξ′_{k}(ω)) → 0 egy valószínűséggel.

Ennek érdekében először azt mutatom meg, hogy

∑_{k=1}^{∞} \frac{1}{k^{2}} Var ξ′_{k} ≤ ∑_{k=1}^{∞} \frac{1}{k^{2}} Eξ′_{k}^{2} < ∞.

Ezen állítás igazolásának céljából írjuk fel az

\frac{1}{k^{2}} Eξ′_{k}^{2} ≤ \frac{1}{k^{2}} ∑_{j=1}^{∞} j^{2}P (j − 1 ≤ |ξ′_{k}| < j) = \frac{1}{k^{2}} ∑_{j=1}^{k} j^{2}P (j − 1 ≤ |ξ_{1}| < j)

egyenlőtlenséget, és összegezzük ezt minden k = 1, 2, … indexre. Azt kapjuk, hogy

∑_{k=1}^{∞} \frac{1}{k^{2}} Eξ′_{k}^{2} ≤ ∑_{k=1}^{∞} \frac{1}{k^{2}} ∑_{j=1}^{k} j^{2}P (j − 1 ≤ |ξ_{1}| < j) = ∑_{j=1}^{∞} j^{2}P (j − 1 ≤ |ξ_{1}| < j) (∑_{k=j}^{∞} \frac{1}{k^{2}} )

≤ const. ∑_{j=1}^{∞} jP (j − 1 ≤ |ξ_{1}| < j) ≤ const. (E|ξ_{1}| + 1) < ∞,

amint állítottam.

Az előző egyenlőtlenség és a Kolmogorov egyenlőtlenség segítségével belátom, hogy

a ∑_{k=1}^{∞} \frac{ξ′_{k}(ω) − Eξ′_{k}(ω)}{k} végtelen összeg 1 valószínűséggel konvergens.  (b)

Ehhez elég azt megmutatni, hogy a T_{n}(ω) = ∑_{k=1}^{n} \frac{ξ′_{k}(ω)−Eξ′_{k}(ω)}{k}, n = 1, 2, …, sorozat egy

valószínűséggel Cauchy sorozat. Viszont a Kolmogorov egyenlőtlenség alapján

P ( sup_{n≤k<∞} |T_{k} − T_{n}| > ε) = lim_{N→∞} P ( sup_{n≤k<N} |T_{k} − T_{n}| > ε)

= lim_{N→∞} P ( sup_{n≤k<N} |∑_{j=n}^{k} \frac{1}{j}(ξ′_{j} − Eξ′_{j})| > ε)

≤ \frac{1}{ε^{2}} ∑_{j=n}^{∞} \frac{1}{j^{2}} E(ξ′_{j} − Eξ′_{j})^{2} ≤ \frac{1}{ε^{2}} ∑_{j=n}^{∞} \frac{1}{j^{2}} Eξ′_{j}^{2}

minden n-re és ε > 0-ra. Ezért

P ( sup_{n≤k,l<∞} |T_{k}(ω) − T_{l}(ω)| > 2ε) ≤ P ( sup_{n≤k<∞} |T_{k}(ω) − T_{n}(ω)| > ε)

+ P ( sup_{n≤l<∞} |T_{l}(ω) − T_{n}(ω)| > ε) ≤ \frac{2}{ε^{2}} ∑_{j=n}^{∞} \frac{1}{j^{2}} Eξ′_{j}^{2}.

Vezessük be az A_{n} = A_{n}(ε) = {ω: sup_{n≤k,l<∞} |T_{k}(ω) − T_{l}(ω)| > 2ε}, n = 1, 2, … halma-

zokat. Mivel lim_{n→∞} ∑_{j=n}^{∞} \frac{1}{j^{2}} Eξ′_{j}^{2} = 0, az utolsó becslésből következik, hogy lim_{n→∞} P (A_{n}) =

0. Mivel az A_{n} halmazok egymásba skatulyázottak, A_{1} ⊃ A_{2} ⊃ A_{3} ⊃ ⋯ ezért ez a reláció azt jelenti, hogy majdnem minden ω-hoz létezik olyan n = n(ω, ε) index, amelyre ω ∉ A_{n}, azaz sup_{n≤k,l<∞} |T_{k}(ω) − T_{l}(ω)| ≥ 2ε. Mivel ez minden ε > 0 számra igaz,

innen következik, hogy a T_{n}(ω) sorozat Cauchy sorozat majdnem minden ω ∈ Ω elemi eseményre, és a (b) reláció érvényes.

A Kronecker lemma következménye és a (b) reláció alapján \frac{1}{n} ∑_{k=1}^{n}(ξ′_{k} − Eξ′_{k}) → 0

egy valószínűséggel. A tétel bizonyítását befejeztük.

Be kell még bizonyítani a Kolmogorov egyenlőtlenséget és a Kronecker lemmát.

A Kolmogorov egyenlőtlenség bizonyítása: Definiáljuk a

τ(ω) = min{k: k ≤ n; |S_{k}(ω)| ≥ x}

valószínűségi változót. (τ(ω) = n ha S_{k}(ω) < x minden k ≤ n-re.) Azt állítom, hogy

ES_{τ(ω)}^{2} ≤ ES_{n}^{2} .  (c)

Az utolsó egyenlőtlenség és a Csebisev egyenlőtlenség alapján

P (max_{k≤n} |S_{k}| > x) = P (|S_{τ(ω)}| > x) ≤ \frac{ES_{τ(ω)}^{2}}{x^{2}} ≤ \frac{ES_{n}^{2}}{x^{2}} ,

és ez a Kolmogorov egyenlőtlenség. A kívánt egyenlőtlenség bebizonyításának érdekében vegyük észre, hogy

\begin{aligned}ES_{n}^{2} − ES_{τ(ω)}^{2} & = ∑_{k=1}^{n} E(S_{n} − S_{k})(S_{n} − S_{k} + 2S_{k})I(\{τ(ω) = k\}) \\ & = ∑_{k=1}^{n} E(S_{n} − S_{k})^{2}I(\{τ(ω) = k\}) + 2 ∑_{k=1}^{n} E(S_{n} − S_{k})S_{k}I(\{τ(ω) = k\}). \end{aligned}

(d)

Mivel az S_{n} − S_{k} és S_{k}I({τ(ω) = k}) valószínűségi változók függetlenek, (az S_{n} − S_{k} a ξ_{l}, l = k + 1, …, n, az S_{k}I({τ(ω) = k}) az ξ_{l}, l = 1, …, k valószínűségi változóktól függ,) és E(S_{n} − S_{k}) = 0, ezért

E(S_{n} − S_{k})S_{k}I({τ(ω) = k}) = E(S_{n} − S_{k})ES_{k}I({τ(ω) = k}) = 0.

Innen következik, hogy a (d) azonosság jobboldalának a második tagja nulla. Mivel az első tag egy nem negatív valószínűségi változók várható értékének az összege, ezért a (d) azonosságból következik az (c) reláció. A Kolmogorov egyenlőtlenséget bebizonyítottuk.

A Kronecker lemma bizonyítása. A bizonyítás az un. Abel féle átrendezés módszerén

alapul. Vezessük be az s_{n} = ∑_{k=n}^{∞} a_{k} mennyiségeket. Legyen q_{0} = 0. Ekkor

\frac{1}{q_{n}} ∑_{k=1}^{n} a_{k}q_{k} = \frac{1}{q_{n}} ∑_{k=1}^{n}(s_{k} − s_{k+1})q_{k} = \frac{1}{q_{n}} (−s_{n+1}q_{n} + ∑_{k=1}^{n} s_{k}(q_{k} − q_{k−1})) .

Rögzítve egy tetszőlegesen kis ε > 0 számot válasszunk egy olyan N = N(ε) küszöbindexet, amelyre igaz, hogy |s_{k}| < ε ha k > N. (Ez lehetséges, mert lim_{n→∞} s_{n} = 0.) Mivel q_{k} − q_{k−1} ≥ 0 minden k indexre a q_{k} sorozat monotonitása miatt, ezért

|\frac{1}{q_{n}} ∑_{k=N}^{n} s_{k}(q_{k} − q_{k−1})| ≤ \frac{ε(q_{n} − q_{N−1})}{q_{n}} ≤ ε.

Másrészt, mivel lim_{n→∞} q_{n} = ∞ és lim_{n→∞} s_{n} = 0

lim_{n→∞} \frac{1}{q_{n}} (−s_{n+1}q_{n} + ∑_{k=1}^{N−1} s_{k}(q_{k} − q_{k−1})) = 0.

A fenti becslésekből következik, hogy

lim sup_{n→∞} |\frac{1}{q_{n}} ∑_{k=1}^{n} a_{k}q_{k}| ≤ ε.

Mivel ez az állítás tetszőleges ε > 0-ra igaz, innen következik a Kronecker lemma.

A nagy számok erős törvényének bizonyításának fontos része volt azon (b) formulában megfogalmazott állítás igazolása a Kolmogorov egyenlőtlenség segítségével,

amely szerint a ∑_{k=1}^{∞} \frac{ξ′_{k}−Eξ′_{k}}{k} összeg konvergens. Természetes módon felmerül az az

általánosabb kérdés, hogy végtelen sok független valószínűségi változó összege mikor konvergens. A Kolmogorov egyenlőtlenség segítségével erre a kérdésre is kielégítő választ lehet adni. Ismertetek két ilyen jellegű eredményt. Az első eredmény, amelyet Kolmogorov-féle egy-sor tételnek is neveznek az irodalomban egy gyakran jól használható, egyszerűen ellenőrizhető feltételt ad a konvergencia teljesülésére. A második, az irodalomban Kolmogorov-féle három sor tételnek hívott eredmény, amely ennek élesítése, megadja annak szükséges és elégséges feltételét, hogy végtelen sok független valószínűségi változó összege egy valószínűséggel konvergáljon. Ismertetem ezt a két eredményt.

Kolmogorov-féle egy sor tétel. Legyenek ξ_{1}, ξ_{2}, …, független valószínűségi változók, amelyeknek léteznek véges Eξ_{k}^{2} < ∞ második momentumai minden k = 1, 2, … számra,

és Eξ_{k} = 0 minden k = 1, 2, … indexre. Ha ∑_{k=1}^{∞} Var ξ_{k} < ∞, akkor a ∑_{k=1}^{∞} ξ_{k} sorozat egy

valószínűséggel konvergál.

Kolmogorov-féle három sor tétel. Legyenek ξ_{1}, ξ_{2}, …, független valószínűségi változók. Rögzítsünk valamely C > 0 számot, és definiáljuk a ξ′_{k} = ξ_{k}I({|ξ_{k}| < C}) való-

színűségi változókat, k = 1, 2, …, ahol I(A) az A halmaz indikátorfüggvénye. A ∑_{k=1}^{∞} ξ_{k}

véletlen összeg akkor és csak akkor konvergens egy valószínűséggel, ha a ξ_{k}, k = 1, 2, …, valószínűségi változók sorozata teljesíti a következő feltételeket:

(i) ∑_{k=1}^{∞} P (ξ_{k} ≠ ξ′_{k}) = ∑_{k=1}^{∞} P (|ξ_{k}| ≥ C) < ∞,

(ii) A ∑_{k=1}^{∞} Eξ′_{k} összeg konvergens.

(iii) ∑_{k=1}^{∞} Var ξ′_{k} < ∞.

1. megjegyzés: A Kolmogorov-féle három sor tétel eredménye speciálisan azt is jelenti, hogy ha a benne szereplő (i), (ii) és (iii) feltétel teljesül valamilyen C > 0 számra, akkor az minden C > 0 számra teljesül. Ezt nem nehéz közvetlenül belátni, de ennek bizonyításától eltekintek. Viszont megmutatom, hogy amennyiben független valószínűségi változók sorozata teljesíti a Kolmogorov-féle egy sor tétel feltételeit, akkor teljesíti a Kolmogorov-féle három sor tétel feltételeit is. Ez speciálisan azt is jelenti, hogy a Kolmogorov-féle egy sor tétel bizonyítását elhagyhatjuk, elég a Kolmogorov-féle három sor tételt bebizonyítani.

Ha független ξ_{1}, ξ_{2}, …, valószínűségi változók sorozata teljesíti a Kolmogorov-féle

egy sor tételét, azaz Eξ_{k}^{2} < ∞, Eξ_{k} = 0 minden k = 1, 2, … indexre, és ∑_{k=1}^{∞} Eξ_{k}^{2} < ∞, akkor ezek a valószínűségi változók teljesítik a Kolmogorov-féle három sor tétel feltételeit is.

Az (i) feltétel teljesül, mert a Csebisev egyenlőtlenség alapján P (ξ_{k} ≠ ξ′_{k}) =

P (|ξ_{k}| ≥ C) ≤ \frac{1}{C^{2}} Eξ_{k}^{2}, ezért ∑_{k=1}^{∞} P (ξ_{k} ≠ ξ′_{k}) =≤ \frac{1}{C^{2}} ∑_{k=1}^{∞} Eξ_{k}^{2} < ∞. Érvényes a

(ii) feltétel alábbi élesebb változata is: ∑_{k=1}^{∞} |Eξ′_{k}| < ∞. Valóban, mivel Eξ_{k} = 0,

ezért |Eξ′_{k}| = |Eξ_{k}I(|ξ_{k}| > C)| ≤ \frac{1}{C} Eξ_{k}^{2}I(|ξ_{k}| > C) ≤ \frac{1}{C} Eξ_{k}^{2}, és innen ∑_{k=1}^{∞} |Eξ′_{k}| ≤

\frac{1}{C} ∑_{k=1}^{∞} Eξ_{k}^{2} < ∞. Végül a (iii) reláció is teljesül, mert ∑_{k=1}^{∞} Var ξ′_{k} ≤ ∑_{k=1}^{∞} Eξ_{k}^{2} < ∞.

2. megjegyzés: A Kolomogorov-féle három sor tétel annak adja meg a szükséges és elégséges feltételét, hogy független valószínűségi változók összege egy valószínűséggel konvergáljon. Érdemes megjegyezni, hogy amennyiben e feltételek valamelyike nem teljesül, és a tekintett összeg nem konvergál egy valószínűséggel, akkor az csak nulla valószínűséggel konvergálhat. Közbülső eset nincsen. Tehát nem lehetséges megadni például olyan független valószínűségi változókat, amelyek összege mondjuk 1/2 valószínűséggel konvergál és 1/2 valószínűséggel divergál. Ez következik a valószínűségszámítás egyik alapvető eredményéből, az úgynevezett 0–1 törvényből, amelyet a három sor tétel bizonyítása után fogok tárgyalni.

A Kolmogorov-féle három sor tételnek itt csak az elégséges részét bizonyítom be, a feltételek szükségességének bizonyítását a kiegészítésben teszem meg. Ennek az az oka, hogy egyrészt alkalmazásokban az elégségesség a Tétel fontos része, másrészt a szükségesség bizonyítása az itteni tárgyalástól eltérő módszert igényel. Láttuk ugyanis, hogyan lehet független valószínűségi változók szőrásnégyzeteinek az ismeretében e változók összegeit megbecsülni. De, ha a független valószínűségi változók összegének a konvergenciájából a valószínűségi változók szórásnégyzeteinek összegére akarunk következtetni, akkor ez új gondolatokat igényel.

A Kolmogorov-féle három sor tétel elégségesség részének bizonyítása. Azt akarjuk megmutatni, hogy amennyiben a független ξ_{n} valószínűségi változók teljesítik az (i), (ii)

és (iii) feltételeket, akkor a T_{n} = ∑_{k=1}^{n} ξ_{k}(ω), n = 1, 2, …, valószínűségi változók egy

valószínűséggel konvergensek. Hasonlóan érvelve, mint amikor a nagy számok erős törvényének a konvergencia részét bizonyítottuk, megmutathatjuk, hogy elég belátni azt, hogy tetszőleges ε > 0 számra

lim_{n→∞} P ( sup_{m≥n} |∑_{k=n}^{m} ξ_{k}| > ε) → 0.

Vegyük észre, hogy

P ( sup_{m≥n} |∑_{k=n}^{m} ξ_{k}| > ε) ≤ ∑_{k=n}^{∞} P (ξ_{k} ≠ ξ′_{k}) + P ( sup_{m≥n} |∑_{k=n}^{m} ξ′_{k}| > ε)

≤ ∑_{k=n}^{∞} P (ξ_{k} ≠ ξ′_{k}) + P ( sup_{m≥n} |∑_{k=n}^{m}(ξ′_{k} − Eξ′_{k})| > ε − sup_{m≥n} |∑_{k=n}^{m} Eξ′_{k}|) ,

továbbá ∑_{k=n}^{∞} P (ξ_{k} ≠ ξ′_{k}) → 0 n → ∞ esetén az (i) feltétel miatt, és sup_{n≥m} | ∑_{k=n}^{m} Eξ′_{k}| < \frac{ε}{2},

ha n > n(ε) a (ii) feltétel miatt. Végül a Kolmogorov egyenlőtlenség alapján

P ( sup_{m≥n} |∑_{k=n}^{m}(ξ′_{k} − Eξ′_{k})| > \frac{ε}{2}) ≤ 4\frac{∑_{k=n}^{∞} Var ξ′_{k}}{ε^{2}} → 0, ha n → ∞

a (iii) tulajdonság miatt. Ezekből az egyenlőtlenségekből következik a Kolmogorov-féle három sor tételben megfogalmazott konvergencia, ha teljesülnek az (i)–(iii) feltételek.

Következő lépésben az úgynevezett Kolmogorov-féle nulla egy törvényt tárgyalom, amely informálisan és kissé pongyolán megfogalmazva azt mondja ki, hogy egy olyan eseménynek, amely független valószínűségi változók sorozatának csak a ‘végtelen távoli tagjaitól’ függ vagy nulla vagy egy a valószínűsége. Kissé pontosabban, olyan eseményeket tekintünk, amelyekre igaz az, hogy bármely n indexre azok bekövetkezése vagy be nem következése nem függ a ξ_{1}(ω), …, ξ_{n}(ω) valószínűségi változók értékeitől. Annak érdekében, hogy a tételt pontosan meg tudjam fogalmazni először bevezetem a farok σ-algebra fogalmát.

Valószínűségi változók sorozata által meghatározott farok σ-algebra definiciója. Legyen ξ_{1}, ξ_{2}, …, valószínűségi változók sorozata valamely (Ω, A, P) valószínűségi mezőn. E valószínűségi változók sorozata által meghatározott F_{∞} farok σ-algebrát

az F_{∞} = ⋂_{n=1}^{∞} F_{n} képlet határozza meg, ahol F_{n} = B(ξ_{n}, ξ_{n+1}, …) a legszűkebb olyan

σ-algebra, amelyre nézve a ξ_{n}, ξ_{n+1}, … valószínűségi változók mindegyike mérhető.

Ezután megfogalmazom a Kolmogorov-féle nulla egy törvényt.

Kolmogorov-féle nulla egy törvény. Legyen ξ_{1}, ξ_{2}, …, független valószínűségi változók sorozata egy (Ω, A, P) valószínűségi mezőn, és tekintsük e sorozat által meghatározott F_{∞} farok σ-algebrát. Ha egy A eseményre A ∈ F_{∞}, akkor vagy P (A) = 0 vagy P (A) = 1.

A tétel bizonyítása. Tekintsünk egy A ∈ F_{∞} eseményt, és jelölje B az A eseménytől független eseményekből álló rendszert, azaz B ∈ B akkor és csak akkor, ha P (A ∩ B) = P (A)P (B). Azt állítom, hogy F_{1} ⊂ B, ahol F_{1} = B(ξ_{1}, ξ_{2}, …) a legszűkebb olyan σalgebra, amelyre nézve a ξ_{1}, ξ_{2}, … valószínűségi változók mindegyike mérhető. Valóban, tetszőleges n = 1, 2, … számra minden B ∈ B(ξ_{1}, …, ξ_{n}), esemény független az A eseménytől, mert A ∈ F_{∞} ⊂ F_{n+1}, és a F_{n+1} = B(ξ_{n+1}, ξ_{n+2}, …) és B(ξ_{1}, …, ξ_{n}) σ-algebra elemei egymástól független események.

Vezessük be a μ_{1}(B) = P (A ∩ B) és μ_{2}(B) = P (A)P (B) halmazfüggvényeket min-

den B ∈ A halmazra. Láttuk, hogy μ_{1}(B) = μ_{2}(B) minden B ∈ F = ⋃_{n=1}^{∞} B(ξ_{1}, …, ξ_{n}) halmazra. Ezenkívül, mind μ_{1} mind μ_{2} mérték az A σ-algebrán. Továbbá az előbb definiált F halmazrendszer algebra, és az F algebrát tartalmazó legszűkebb σ-algebra a F_{1} σ-algebra. Mivel egy mérték kiterjesztése egy algebráról az őt tartalmazó legszűkebb σ-algebrára egyértelmű, innen következik, hogy μ_{1}(B) = μ_{2}(B), azaz P (A ∩ B) = P (A)P (B) minden B ∈ F_{1} halmazra, mint állítottam.

A bebizonyított állításból speciálisan az is következik, hogy minden A ∈ F_{∞} esemény független önmagától, azaz P (A) = P (A)^{2}. Ez az összefüggés úgy is felírható, hogy P (A)(1 − P (A)) = 0, azaz vagy P (A) = 0 vagy P (A) = 1, és ezt kellett belátni.

Nem nehéz belátni, hogy annak az eseménynek a bekövetkezése, hogy független

ξ_{1}, ξ_{2}, … valószínűségi változók ∑_{k=1}^{∞} ξ_{k}(ω) összege konvergál nem függ az első néhány

ξ_{k} valószínűségi változó értékétől, ezért ez az esemény eleme az F_{∞} σ-algebrának. Így ennek az eseménynek a valószínűsége vagy nulla vagy 1 a Kolmogorov-féle nulla egy törvény alapján. Hasonlóan, annak a valószínűsége, hogy független valószínűségi

változók T_{n}(ω) = \frac{1}{n} ∑_{k=1}^{n} ξ_{k}(ω) átlagai Cauchy sorozatot alkotnak, azaz konvergensek,

vagy nulla vagy egy a Kolmogorov-féle nulla egy törvény alapján. Annak a valószínűsége, hogy a < lim inf_{n} T_{n} ≤ lim sup_{n} T_{n}(ω) < b szintén vagy nulla vagy egy tetszőleges a és b

számokra. Ezen észrevétel segítségével be lehet látni, hogy a T_{n} valószínűségi változók sorozata vagy 1 valószínűséggel divergens, vagy létezik egy olyan −∞ < a < ∞ szám, hogy a T_{n} sorozat egy valószínűséggel ehhez az a számhoz konvergál. A Kolmogorov féle nulla-egy törvény segítségével az is látható, hogy tetszőleges q_{n} → ∞, ha n → ∞

sorozatra P (lim sup_{n} \frac{1}{q_{n}} ∑_{k=1}^{n} ξ_{k} = A) = 1 valamely −∞ ≤ A ≤ ∞ számra. (Az, hogy

A = ∞ vagy A = −∞ szintén lehetséges ebben a relációban.) Hasonló állítás érvényes akkor is, ha lim sup helyett lim inf-et tekintünk.

Rátérek a nagy számok gyenge törvényének a tárgyalására. Nem nehéz belátni ezt az állítást a Csebisev egyenlőtlenség segítségével független, egyforma eloszlású véges második momentummal rendelkező valószínűségi változók átlagaira. De, mint láttuk, ha független, egyforma eloszlású valószínűségi változók abszolut értékének véges a várható értéke akkor ezek átlagai teljesítik a nagy számok erős és ezért a nagy számok gyenge törvényét is. Ez azt jelenti, hogy a véges második momentumok követelése túl erős feltétele a nagy számok gyenge törvényének. Megfogalmaztam egy eredményt, amely megadja annak szükséges és elégséges feltételét, hogy teljesüljön a nagy számok gyenge törvénye. Ez a feltétel kissé gyengébb követelményt ír elő annál, hogy az átlagban résztvevő valószínűségi változók abszolut értékének legyen véges a várható értéke. Alább megfogalmazok majd bebizonyítok egy tételt, amely a nagy számok gyenge törvényének feltételeit megadó eredmény élesítésének tekinthető.

Tétel független, egyforma eloszlású valószínűségi változók átlagainak sztochasztikus konvergenciájáról. Legyen ξ_{1}, ξ_{2}, …, független, egyforma eloszlású valószínűségi változók sorozata, és jelölje F (x) e valószínűségi változók eloszlásfüggvényét. Akkor és csak akkor létezik valós számok olyan A_{n}, n = 1, 2, …, sorozata, amelyre a T_{n} = \frac{1}{n} ∑_{k=1}^{n} ξ_{k} − A_{n}, n = 1, 2, …, sorozat sztochasztikusan nullához tart, ha teljesül a

lim_{x→∞} x(1−F (x)+F (−x)) = 0 feltétel. Ha létezik valós számok ilyen A_{n} sorozata, akkor

az választható, mint A_{n} = ∫_{−n}^{n} xF ( dx), n = 1, 2, . . ..

Az előző tétel alapján a nagy számok gyenge törvénye akkor és csak akkor teljesül valamely a konstanssal, ha lim_{x→∞} x(1 − F (x) + F (−x)) = 0, és lim_{n→∞} ∫_{−n}^{n} xF ( dx) = a. Ahhoz, hogy belássuk ezen eredmény segítségével a a nagy számok gyenge törvényéről szóló tételt, elegendő megmutatni, hogy az adott feltételek mellett a lim_{u→∞} ∫_{−u}^{u} xF ( dx) = a reláció érvényes valós u (és nemcsak egész n) számokra. Ez következik a

lim_{u→∞} |∫_{[u]≤|x|≤u} xF (dx)| ≤ lim_{u→∞}([u] + 1)(1 − F ([u]) + F (−[u]) = 0

becslésből, ahol [u] az u szám egész részét jelöli. Ez a becslés a lim_{x→∞} x(1 − F (x) + F (−x)) = 0 reláció következménye.

Az előadás fő részében a független, egyforma eloszlású valószínűségi változók átlagainak sztochasztikus konvergenciájáról szóló tételnek csak az elégségesség részét bizonyítom. A szükségességről szóló rész bizonyítását a kiegészítésben ismertetem.

A független, egyforma eloszlású valószínűségi változók átlagainak sztochasztikus konvergenciájáról szóló tétel elégségesség részének a bizonyítása. Tegyük fel, hogy a ξ_{k} valószínűségi változók F (x) eloszlásai teljesítik a lim_{x→∞} x(1−F (x)+F (−x)) = 0 feltételt.

Adott n egész számra definiáljuk a ξ̄_{k} = ξ̄_{k}^{(n)} = ξ_{k}I(|ξ_{k}| ≤ n) és ¯ ξ̄_{k} = ¯ ξ̄_{k}^{(n)} = ξ_{k} − ξ̄_{k},

1 ≤ k ≤ n, valószínűségi változókat. Ekkor \frac{1}{n} ∑_{k=1}^{n} ξ_{k} = \frac{1}{n} ∑_{k=1}^{n} ξ̄_{k} + \frac{1}{n} ∑_{k=1}^{n} ¯ ξ̄_{k}, ezért

elegendő azt megmutatni, hogy \frac{1}{n} ∑_{k=1}^{n}(ξ̄_{k} − A_{n}) ⇒ 0 és \frac{1}{n} ∑_{k=1}^{n} ¯ ξ̄_{k} ⇒ 0, ahol ⇒ szto-

chasztikus konvergenciát jelöl. A második reláció következik a tétel feltételeiből, mert

P (\frac{1}{n} ∑_{k=1}^{n} ¯ ξ̄_{k} ≠ 0) ≤ ∑_{k=1}^{n} P (|ξ_{k}| ≥ n) = n [F (−n) + (1 − F (n))] → 0, ha n → ∞. Az

első reláció a Csebisev egyenlőtlenség segítségével bizonyítható, mert minden ε > 0 számra

P (|\frac{1}{n} ∑_{k=1}^{n}(ξ̄_{k} − A_{n})| > ε) = P (|\frac{1}{n} ∑_{k=1}^{n}(ξ̄_{k} − Eξ̄_{k})| > ε) ≤ \frac{nVar ξ̄_{1}}{n^{2}ε} = \frac{Var ξ̄_{1}}{nε} .

Ezért a bizonyítás befejezéséhez elég azt megmutatni, hogy lim_{n→∞} \frac{Var ξ̄_{1}^{(n)}}{n} = 0. Mivel

Var ξ̄_{1} ≤ Eξ̄_{1}^{2} = ∫_{−n}^{n} u^{2}F ( du) = ∫_{−L}^{L} u^{2}F ( du) + ∫_{L≤|u|≤n} u^{2}F ( du)

tetszőleges L > 0 számra, és az utolsó összeg első tagja rögzített L számra nem függ az n számtól, ezért elegendő azt megmutatni, hogy minden ε > 0 számra létezik olyan L = L(ε) szám, amelyre \frac{1}{n} ∫_{L}^{n} u^{2}F ( du) ≤ ε és \frac{1}{n} ∫_{−n}^{−L} u^{2}F ( du) ≤ ε minden n > L számra. A tétel feltételei alapján létezik olyan L = L(ε) szám, amelyre x ≥ L esetén x(1 − F (x)) ≤ \frac{ε}{4} és xF (−x) ≤ \frac{ε}{4}. Ezért parciális integrálással kapjuk, hogy ilyen L-re \frac{1}{n} ∫_{L}^{n} u^{2}F ( du) = \frac{−1}{n} ∫_{L}^{n} u^{2} (d(1 − F u)) = \frac{1}{n} ∫_{L}^{n} 2u(1 − F (u)) du − \frac{1}{n} [u^{2}(1 − F (u)]_{L}^{n} ≤ \frac{ε}{2n} ∫_{L}^{n} 1 du + \frac{ε}{2} ≤ ε. A másik egyenlőtlenség hasonlóan bizonyítható.

A nagy számok gyenge törvényének ismertetése után a 2. példában megemlítettem, hogy független, Cauchy eloszlású valószínűségi változók átlagai nem teljesítik a nagy számok gyenge törvényét, sőt a Cauchy eloszlású valószínűségi változóknak van egy alább ismertetett nevezetes tulajdonságuk, amely kizárja, hogy teljesítsék a nagy számok gyenge törvényét. Emlékezetetek, hogy egy olyan ξ valószínűségi változót neveztünk Cauchy eloszlásúnak, amelynek sűrűségfüggvénye f(x) = \frac{1}{π} \frac{1}{1+x^{2}} , −∞ < x < ∞, alakú. A továbbiakban az ilyen valószínűségi változókat 1 paraméterű Cauchy eloszlású valószínűségi változóknak nevezem. Ezenkívül definiálom az a paraméterű, 0 < a < ∞, paraméterű Cauchy eloszlású valószínűségi változókat, mint olyan valószínűségi változókat, amelyek sűrűségfüggvénye f(x) = \frac{a}{π} \frac{1}{a^{2}+x^{2}} , −∞ < x < ∞, alakú. Ez azt jelenti, hogy ha ξ 1 paraméterű Cauchy eloszlású valószínűségi változó, akkor aξ, a > 0, a paraméterű Cauchy eloszlású valószínűségi változó. Független Cauchy eloszlású valószínűségi változók összegének eloszlásáról szól az alábbi tétel.

Tétel független Cauchy eloszlású valószínűségi változók összegének az eloszlásáról. Legyen ξ és η két független Cauchy eloszlású valószínűségi változó, a > 0 és b > 0 paraméterekkel. Ekkor ξ + η Cauchy eloszlású a + b paraméterrel.

Következmény. Tekintsük n független a paraméterű Cauchy eloszlású valószínűségi változó összegét és átlagát. Az összeg na paraméterű, az átlag pedig a paraméterű Cauchy eloszlású valószínűségi változó. Tehát független, azonos paraméterű Cauchy eloszlású valószínűségi változók átlagának az eloszlása megegyezik az összeadandók eloszlásával.

A következmény indoklása. Ha ξ_{1}, …, ξ_{n} Cauchy eloszlású valószínűségi változók a = 1

paraméterrel, akkor S_{n} = ∑_{k=1}^{n} ξ_{k} sűrűségfüggvénye g_{n}(x) = \frac{n}{π} \frac{1}{n^{2}+x^{2}} . Másrészt, ha egy S

valószínűségi változó sűrűségfüggvénye g(x), akkor \frac{S}{n} sűrűségfüggvénye ng(nx). Ezért \frac{S_{n}}{n} sűrűségfüggvénye \frac{n^{2}}{n} \frac{1}{n^{2}+(nx)^{2}} = \frac{1}{π} \frac{1}{1+x^{2}} , amint állítottuk.

A tételt be lehet bizonyítani úgy, hogy kiszámoljuk független Cauchy eloszlású valószínűségi változók összegének a sűrűségfüggvényét konvolució segítségével. Ez meglehetősen kellemetlen, de (parciális törtekre bontás segítségével) kiszámolható integrálokhoz vezetne. Lényegesen egyszerűbben célhoz érünk, ha tudjuk a Cauchy eloszlás karakterisztikus függvényét. Az a = 1 paraméterű Cauchy eloszlás karakterisztikus függvénye φ(t) = e^{−|t|}, ahonnan az a paraméterű Cauchy eloszlás karakterisztikus függvénye φ_{a}(t) = e^{−a|t|}. Innen látszik, hogy φ_{a}(t)φ_{b}(t) = φ_{a+b}(t), ahonnan a tétel állítása azonnal látható. Természetesen ez az indoklás csak úgy teljes, ha ki tudjuk számítani a Cauchy eloszlás karakterisztikus függvényét.

Megmutatom, hogyan lehet ezt a karakterisztikus függvényt kiszámolni. A számolás a komplex függvénytan egyik legfontosabb módszerének, a reziduumszámításnak az alkalmazásán alapul.

Tétel Cauchy eloszlású valószínűségi változók karakterisztikus függvényéről. Legyen ξ Cauchy eloszlású valószínűségi változó a = 1 paraméterrel . Ekkor

Ee^{itξ} = ∫_{−∞}^{∞} \frac{1}{π} \frac{e^{itu}}{1 + u^{2}} du = e^{−|t|}.

Bizonyítás. Ezt az integrált a komplex függvénytan reziduum tétele segítségével ki tudjuk számítani.

Vegyük észre, hogy a g(z) = g_{t}(z) = \frac{e^{itz}}{π(1+z^{2})} függvény analitikus a komplex számsíkon, két pólusa van a z = ±i pontokban. A g(z) függvény reziduuma az i pontban e^{−t} a −i pontban e^{t}. Tekintsük a következő körintegrált. A g(z) = g_{t}(z) függvényt integráljuk a [−R, R] szakaszon, majd a a |z| = R Im z ≥ 0 félkörön, ha t ≥ 0 és a |z| = R, Im z ≤ 0 félkörön, ha t ≤ 0. Ekkor ennek a körintegrálnak az értéke a g(z) függvény i pontbeli reziduumával egyenlő t > 0 és a −i pontbeli reziduumával a t < 0 esetben. Másrészt az integrál megszorítása az R sugarú félkörre nullához tart, ha R → ∞. Innen következik, hogy Ee^{itξ} = ∫_{−∞}^{∞} g_{t}(u) du = e^{−t}, ha t > 0, és Ee^{itξ} = ∫_{−∞}^{∞} g_{t}(u) du = e^{t}, ha t < 0. Egységes jelöléssel azt írhatjuk, hogy Ee^{itξ} = e^{−|t|}.

Végül megfogalmazom a valószínűségszámítás egyik híres eredményét, az úgynevezett iterált logaritmus tételt.

Iterált logaritmus tétel. Legyenek ξ_{1}(ω), ξ_{2}(ω), … olyan független, egyforma eloszlású valószínűségi változók egy (Ω, A, P) valószínűségi mezőn, amelyekre Eξ_{1}(ω) = 0, Var ξ_{1}(ω) = σ^{2} < ∞. Ekkor

lim sup_{n→∞} \frac{ξ_{1}(ω) + ⋯ + ξ_{n}(ω)}{\sqrt{2nσ^{2} log log n}} = 1, majdnem minden ω ∈ Ω elemi eseményre,

és

lim inf_{n→∞} \frac{ξ_{1}(ω) + ⋯ + ξ_{n}(ω)}{\sqrt{2nσ^{2} log log n}} = −1, majdnem minden ω ∈ Ω elemi eseményre.

Kiegészítés.

Bebizonyítom mind a Kolmogorov-féle három sor tételnek mind a független, egyforma eloszlású valószínűségi változók átlagainak sztochasztikus konvergenciájáról szóló tételnek a szükségesség részét. Mind a két bizonyításban fontos szerepet játszik egy a karakterisztikus függvények tulajdonságain alapuló érv.

A három sor tétel szükségesség felének a bizonyítása. Ha a ∑_{k=1}^{∞} ξ_{k}(ω) összeg egy va-

lószínűséggel konvergens, akkor a |ξ_{k}(ω)| > C esemény csak véges sok k indexre teljesül. Ezenkívül ezek az események különböző k indexre függetlenek, ezért, ha az

alábbi sorozat konvergál, akkor a Borel–Cantelli lemma alapján ∑_{k=1}^{∞} P (|ξ_{k}| > C) < ∞,

azaz az (i) tulajdonság teljesül. Továbbá a Borel-Cantelli lemma másik fele alapján

a ∑_{k=1}^{∞}(ξ_{k}(ω) − ξ′_{k}(ω)), így a ∑_{k=1}^{∞} ξ′_{k}(ω)) összeg is egy valószínűséggel konvergens, ahol

ξ′_{k}(ω) = ξ_{k}(ω)I(|ξ_{k}(ω)| < C). A bizonyítás következő lépésében egy más problémák megoldásában is hasznos módszert, az un. szimmetrizálást alkalmazom. Legyen ξ′′_{k} független valószínűségi változók sorozata, melyek a ξ′_{k} sorozattól is függetlenek, és ξ′′_{k} ugyanolyan eloszlású mint a ξ′_{k} valószínűségi változó. Legyen ξ̃_{k} = ξ′_{k} − ξ′′_{k}. Ekkor ξ̃_{k}, k = 1, 2, …, független, szimmetrikus, azaz olyan eloszlású valószínűségi változók

sorozata, melyekre P (ξ̃_{k} > x) = P (ξ̃_{k}− < x) minden x számra, és a ∑_{k=1}^{∞} ξ̃_{k} sorozat egy

valószínűséggel konvergens. Be fogom látni az alábbi lemmát.

Lemma független, korlátos valószínűségi változók összegének a szórásnégyzetéről. Ha ξ_{1}, ξ_{2}, …, független, szimmetrikus eloszlású, korlátos valószínűségi változók, azaz olyanok, amelyekhez létezik olyan K > 0 szám, hogy P (|ξ_{k}| ≤ K) minden

k = 1, 2, … indexre, és a ∑_{k=1}^{∞} ξ_{k}(ω) összegek egy valószínűséggel konvergálnak, akkor

∑_{k=1}^{∞} Var ξ_{k} < ∞.

Először befejezem a három sor tétel szükségesség felének a bizonyítását e lemma se-

gítségével. E lemma alapján tudjuk, hogy ∑_{k=1}^{∞} Var ξ̃_{k} < ∞, és mivel Var ξ̃_{k} = 2Var ξ′_{k}

innen következik a (iii) tulajdonság. A ξ′_{k} − Eξ′_{k} sorozatra ∑_{k=1}^{∞} E(ξ′_{k} − Eξ′_{k})^{2} < ∞,

és E(ξ′_{k} − Eξ′_{k}) = 0 minden k = 1, 2, … számra, ezért a Kolmogorov-féle egy sor

tétel alapján a ∑_{k=1}^{∞}(ξ′_{k} − Eξ′_{k}) sorozat egy valószínűséggel konvergál. Tehát mind a

∑_{k=1}^{∞}(ξ′_{k} − Eξ′_{k}) mind a ∑_{k=1}^{∞} ξ′_{k} összegek konvergensek egy valószínűséggel. Ezért a és

∑_{k=1}^{∞} Eξ′_{k} = ∑_{k=1}^{∞} ξ′_{k} − ∑_{k=1}^{∞}(ξ′_{k} − Eξ′_{k}) összeg is konvergens, és a (ii) tulajdonság is teljesül.

A lemma bizonyítása. Jelölje a ξ_{k} valószínűségi változó eloszlásfüggvényét F_{k}(x), és karakterisztikus függvényét φ_{k}(t). Először azt mutatom meg, hogy elég kis t indexre a

∑_{k=1}^{∞}(1 − φ_{k}(t)) összeg is konvergens, sőt abszolut konvergens. Valóban, a ∑_{k=1}^{∞} ξ_{k}(ω) egy

valószínűséggel való konvergenciájából következik, hogy e véletlen összegek eloszlásban

is konvergálnak, ezért a ∏_{k=1}^{n} φ_{k}(t) függvények konvergálnak egy folytonos φ(t) (karakte-

risztikus) függvényhez. A φ_{k}(t) karakterisztikus függvények a ξ_{k} valószínűségi változók szimmetrikus eloszlásai miatt valós értékűek, és 1-nél kisebbek. E kifejezés logaritmusát

véve azt kapjuk, hogy a ∑_{k=1}^{∞} log φ_{k}(t) abszolut konvergens, és kis t számra ennek az

összegnek az abszolut értéke kisebb, mint ε. (Azt használjuk ki ebben a lépésben, hogy a φ(t) határfüggvény a nullában folytonos, és φ(0) = 1.) Tekintve a log(1 + x) függvény Taylor sorát nulla kis környezetében x = 1 − φ_{k}(t) választással kapjuk, hogy

1 − φ_{k}(t) ≤ −2 log φ_{k}(t) elég kis t-re minden k indexre, és ∑_{k=1}^{∞}(1 − φ_{k}(t)) < ∞, amint

állítottam.

Legyen ξ olyan valószínűségi változó, amelyre P (|ξ| ≤ K) = 1, és jelölje φ(t) ξ karakterisztikus, és F (x) ξ eloszlás függvényét. Azt állítom, hogy ha t > 0 olyan szám, melyre tK ≤ 1, akkor \frac{t^{2}}{4} Var ξ ≤ Re Var φ(t). Valóban ekkor

Re (1 − φ(t)) = ∫_{−K}^{K}(1 − cos tx)F ( dx) ≥ ∫_{−K}^{K} \frac{t^{2}x^{2}}{4} F ( dx) = \frac{t^{2}}{4} Eξ^{2} ≥ \frac{t^{2}}{4} Var ξ,

mivel |tx| ≤ |tK| ≤ 1 esetén 1 − cos tx > \frac{(tx)^{2}}{4} .

A fenti két állításból következik, hogy esetünkben ∑_{k=1}^{∞} Var ξ_{k} ≤ \frac{4}{t^{2}} ∑_{k=1}^{∞}(1 − φ_{k}(t)) <

∞ egy elég kis t > 0 számmal.

Független, egyforma eloszlású valószínűségi változók átlagainak sztochasztikus konvergenciájáról szóló tétel szükségesség felének a bizonyítása. Jelölje φ(t) a ξ_{1} valószínűségi

változó karakterisztikus függvényét. Abból, hogy a \frac{1}{n} ∑_{k=1}^{n}(ξ_{k} − A_{n}) átlagok sztochaszti-

kusan nullához tartanak, következik, hogy eloszlásban is nullához tartanak, ezért karakterisztikus függvényük a nullába koncentrált mérték karakterisztikus függvényéhez tart, azaz φ (\frac{t}{n})^{n} e^{−iA_{n}t} → 1, ahonnan lim_{n→∞} |φ (\frac{t}{n})|^{n} = 1, és lim_{n→∞} nRe log φ (\frac{t}{n}) = 0 minden t valós számra. Továbbá az előbb felírt konvergenciák egyenletesek, ha a t változó egy rögzített véges intervallumban van.

Innen az is következik, hogy lim_{n→∞} n (1 − Re φ (\frac{t}{n})) = 0, és ez a konvergencia is egyenletes a t változóban minden véges intervallumban. Valóban, alkalmazva a log(1 + u) = u + O(u^{2}) közelítést kis u számokra, az u = log Re φ (\frac{t}{n}) − 1 választással kapjuk ezt az állítást. Innen az is adódik, hogy lim_{x→∞} x (1 − Re φ (\frac{1}{x})) = 0, azaz

lim_{u→0} \frac{1}{u} (1 − Re φ(u)) = 0. Valóban, egyrészt 1 − Re φ (\frac{1}{x}) ≥ 0. Másrészt véve min-

den x ≥ 1 számhoz azt a k = k(x) egész számot, amelyre 2^{k} ≤ x < 2^{k+1}, és definiálva az n = n(x) = 2^{k+1}, és t = t(x) = \frac{2^{k+1}}{x} számokat, azt kapjuk, hogy

1 ≤ t ≤ 2, és x (1 − Re φ (\frac{1}{x})) ≤ n (1 − Re φ (\frac{t}{n})), ahonnan lim_{x→∞} x (1 − Re φ (\frac{1}{x})) ≤

lim_{n→∞} sup_{1≤t≤2} n (1 − φ (Re \frac{t}{n})) = 0.

A fentiek alapján tetszőleges ε > 0 számhoz létezik olyan x = x(ε) küszöbindex, amelyre |Re [1 − φ(u)]| < εu < \frac{ε}{x}, ha 0 ≤ u < \frac{1}{x}, és x > x(ε). Ezért minden x ≥ x(ε) számra

ε > x^{2} ∫_{0}^{1/x} Re [1 − φ(u)] du = ∫_{0}^{1/x} ∫_{−∞}^{∞} x^{2}(1 − cos ut)F ( dt) du

= ∫_{−∞}^{∞} ∫_{0}^{1/x} x^{2}(1 − cos ut) duF ( dt) = ∫_{−∞}^{∞} (x − \frac{x^{2} sin \frac{t}{x}}{t} ) F ( dt)

= x ∫_{−∞}^{∞} (1 − \frac{sin \frac{t}{x}}{\frac{t}{x}} ) F ( dt) ≥ \frac{x}{2} ∫_{\{|t|>2x\}} F ( dt) = \frac{x}{2} [(1 − F (2x)) + F (−2x)] .

Mivel ez az egyenlőtlenség minden ε > 0 számra érvényes, innen következik, hogy lim_{x→∞} x[(1 − F (x) + F (−x)] = 0, amint állítottam.