A nagy számok erős törvényének bizonyításában fontos szerepet játszik a következő

Kolmogorov egyenlőtlenség. Legyenek ξ_{1}, …, ξ_{n} független, (nem feltétlenül egy-

forma eloszlású) valószínűségi változók, Eξ_{k} = 0, Eξ_{k}^{2} = σ_{k}^{2}, S_{k} = ∑_{p=1}^{k} ξ_{p}, k = 1, …, n.

Ekkor

P ( sup_{1≤k≤n} |S_{k}| ≥ x) ≤ \frac{ES_{n}^{2}}{x^{2}} = \frac{∑_{k=1}^{n} σ_{k}^{2}}{x^{2}}

minden x > 0-ra.

Érdemes megjegyezni, hogy a Kolmogorov egyenlőtlenség ugyanazt a felső becslést adja annak valószínűségére, hogy az S_{k} részletösszegek szuprémuma nagyobb mint valamilyen x > 0 szám, mint amit a Csebisev egyenlőtlenség ad annak az eseménynek a valószínűségére, hogy az utolsó tag S_{n} nagyobb, mint x.

A Kolmogorov egyenlőtlenség bizonyítása. Definiáljuk a

τ(ω) = min{k: k ≤ n; |S_{k}(ω)| ≥ x}

valószínűségi változót. (τ(ω) = n ha S_{k}(ω) < x minden k ≤ n-re.) Azt állítjuk, hogy

ES_{τ(ω)}^{2} ≤ ES_{n}^{2} .  (a)

Az utolsó egyenlőtlenség és a Csebisev egyenlőtlenség alapján

P (max_{k≤n} |S_{k}| > x) = P (|S_{τ(ω)}| > x) ≤ \frac{ES_{τ(ω)}^{2}}{x^{2}} ≤ \frac{ES_{n}^{2}}{x^{2}} ,

és ez a Kolmogorov egyenlőtlenség. A kívánt egyenlőtlenség bebizonyításához vegyük észre, hogy

\begin{aligned}ES_{n}^{2} − ES_{τ(ω)}^{2} & = ∑_{k=1}^{n} E(S_{n} − S_{k})(S_{n} − S_{k} + 2S_{k})I(\{τ(ω) = k\}) \\ & = ∑_{k=1}^{n} E(S_{n} − S_{k})^{2}I(\{τ(ω) = k\}) + 2 ∑_{k=1}^{n} E(S_{n} − S_{k})S_{k}I(\{τ(ω) = k\}) . \end{aligned}

(b)

Mivel az S_{n} − S_{k} és S_{k}I({τ(ω) = k}) valószínűségi változók függetlenek, (az S_{n} − S_{k} a ξ_{l}, l = k + 1, …, n, az S_{k}I({τ(ω) = k}) az ξ_{l}, l = 1, …, k valószínűségi változóktól függ,) és E(S_{n} − S_{k}) = 0, ezért

E(S_{n} − S_{k})S_{k}I({τ(ω) = k}) = E(S_{n} − S_{k})ES_{k}I({τ(ω) = k}) = 0 .

Innen következik, hogy az (b) azonosság jobboldalának a második tagja nulla. Mivel az első tag egy nem negatív valószínűségi változó várható értéke, ezért az (b) azonosságból következik az (a) reláció. Így bebizonyítottuk a Kolmogorov egyenlőtlenséget.

A Kolmogorov egyenlőtlenség bizonyítását azért vettem bele ebbe az előadássorozatba, hogy példát mutassak arra, hogy a véletlen játékokkal való foglalkozás és azok törvényszerűségeinek megértése komoly segítségéget jelent bizonyos fontos tisztán elméleti eredmények bizonyításában is. Durván szólva a Kolmogorov tétel bizonyításának fő gondolata az, hogy egy előnyös játékot nem érdemes túl korán befejezni.

Pontosabban fogalmazva, a Kolmogorov egyenlőtlenség bizonyításának hátterében a következő észrevétel áll. Tekintsünk egy olyan megállási szabályt, mely szerint már az n-ik lépés előtt egy k-ik lépésben megállunk, 1 ≤ k ≤ n, ha a k-ik lépésben tekintett részletösszeg négyzete, azaz S_{k}^{2} túllép egy bizonyos x^{2} számot. Azt látjuk be, hogy az S_{k} részletösszeg négyzetének a várható értéke e megállási időpontban kisebb, mint akkor, ha megvárjuk az n-ik időpontot. Ezen állításnak a következő szemléletes magyarázata van. Ha olyan játékot játszunk, melynek k-ik lépése után a nyereményünk S_{k}^{2}, azaz a k-ik lépésben S_{k}^{2} − S_{k−1}^{2} összeget nyerünk, akkor ennek a játéknak minden lépésében várhatóan nyerünk. Ezért ez a játék előnyös, és nyereményünk várható értéke annál nagyobb minél tovább játszhatunk.

E gondolatmenet kiaknázásán alapul a valószínűségszámítás egyik fontos fejezete az úgynevezett martingalok elmélete. Ennek részleteire azonban nem térek ki.

Tekintsük a következő játékot. Feldobnak egy szabályos pénzdarabot egymástól függetlenül egymás után. Amennyiben a dobás eredménye fej, akkor a feltett tét dupláját kapjuk, ha írás, akkor a tét \frac{2}{3} részét elveszítjük, és csak \frac{1}{3} részét őrizhetjük meg. Mivel ez a játék előnyös, ezért feltesszük minden játékban minden pénzünket. Lássuk be, hogy amennyiben A volt a vagyonunk a játék kezdete előtt, és Z_{n} jelöli vagyonunkat az n-ik játék után, akkor

a) EZ_{n} = A (\frac{7}{6})^{n}, azaz vagyonunk várható értéke exponenciális gyorsan nő.

b) Z_{n} egy valószínűséggel tart nullához, ha n → ∞, azaz ha sokáig játszunk, akkor egy valószínűséggel majdnem minden pénzünket elveszítjük.

c) Értsük meg, hogy ez a két állítás nem mond egymásnak ellent.

Megoldás: Vezessük be a következő ξ_{j} valószínűségi változókat: ξ_{j} = 2, ha a j-ik dobás

eredménye fej, ξ_{j} = \frac{1}{3}, ha a j-ik dobás eredménye írás. Ekkor ξ_{1}, ξ_{2}, …, független

valószínűségi változók, P (ξ_{j} = 2) = P (ξ_{j} = \frac{1}{3}) = \frac{1}{2}, és ezenkívül Z_{n} = Aξ_{1}ξ_{2} ⋯ ξ_{n}.

Ezért Eξ_{j} = \frac{1}{2} (2 + \frac{1}{3}) = \frac{7}{6}, és EZ_{n} = EAξ_{1}ξ_{2} ⋯ ξ_{n} = AEξ_{1}Eξ_{2} ⋯ Eξ_{n} = A (\frac{7}{6})^{n}.

Ez a feladat a) állítása.

A Z_{n} = Aξ_{1}ξ_{2} ⋯ ξ_{n} relációból következik, hogy \frac{1}{n} log Z_{n} = \frac{log A}{n} + \frac{1}{n} ∑_{j=1}^{n} log ξ_{j}.

Továbbá, E log ξ_{j} = \frac{1}{2} (log 2 + log \frac{1}{3}) = −\frac{1}{2} log \frac{3}{2}. Ezért a nagy számok (erős) törvénye szerint \frac{1}{n} log Z_{n} egy valószínűséggel konvergál a negatív −\frac{1}{2} log \frac{3}{2} számhoz. Innen következik, hogy Z_{n} → 0 egy valószínűséggel, és ez a feladat b) állítása.

Az a) rész bizonyítása azon alapult, hogy Eξ_{j} > 1, a b) részé pedig azon, hogy E log ξ_{j} < 0. Ez a két egyenlőtlenség teljesülhet egyszerre, mert a várható érték és a logaritmus egymással nem felcserélhető. Igaz az Ee^{η} ≥ e^{Eη} egyenlőtlenség (ez a konvex függvényekre vonatkozó úgynevezett Jensen egyenlőtlenség speciális esete), ahonnan ξ = log η választással Eξ ≥ e^{log Eξ}, de egyenlőség nem írható a fenti egyenlőtlenség helyett. Jegyezzük meg, hogy hasonló, de egyszerűbben érthető példát mutat a feladat a) és b) állításának egyszerre való teljesülésére a következő modell. Olyan játékot játszunk, melyben \frac{1}{2} valószínűséggel elveszítjük, \frac{1}{2} valószínűséggel pedig megháromszorozzuk a pénzünket. Az egyes játékok egymástól függetlenek, és minden időpontban minden pénzünket feltesszük. Ekkor annak a valószínűsége, hogy az n-ik játék után minden pénzünket elveszítjük, 1 − (\frac{1}{2})^{n}, ami rendkívül gyorsan tart egyhez, és pénzünk várható értéke 3^{n} (\frac{1}{2})^{n}, ami exponenciális gyorsan nő az n függvényében. Hasonló, csak kissé rejtettebb eset történik az általunk tárgyalt feladatban is. Tekintsük a feladatban tekintett játék nyereményét sok játék után. Azt állíthatjuk, hogy nagy n indexre az n-ik játék után nagy valószínűséggel alig marad pénzünk. Viszont kis valószínűséggel nagyon sok pénzt nyerünk, és ezért nyereményünk várható értéke nagy. Ez az oka annak, hogy nemcsak a b), hanem az a) állítás is teljesül.

Tekintsük az előző feladatban tekintett játékot azzal a különbséggel, hogy a játék minden egyes fordulójában vagyonunk u-ad részét, 0 ≤ u ≤ 1, tesszük fel tétként. Jelölje Z_{n}(u)

vagyonunkat a játék n-ik lépése után. Ekkor az \frac{1}{n} log Z_{n}(u) valószínűségi változók egy valószínűséggel konvergálnak egy B(u) számhoz. Határozzuk meg a legjobb ū számot, amelyikre B(ū) = sup_{0≤u≤1} B(u). Lássuk be, hogy B(ū) > 0.

Tekintsük általánosabban a következő problémát. Olyan játékot játszhatunk, melyben az n-ik fordulóban A feltett tét esetén nyereményünk Aξ_{j} lesz, ahol ξ_{1}, ξ_{2}, …, független egyforma eloszlású valószínűségi változók, melyekre Eξ_{j} > 1. Lássuk, be, hogy meg lehet adni olyan 0 < u < 1 számot, melyre igaz, hogy amennyiben a játék minden lépésében vagyonunk u-szorosát tesszük fel, akkor vagyonunk egy valószínűséggel exponenciális sebességgel nőni fog.

Megoldás: Vezessük be a ξ_{j} = ξ_{j}(u), j = 1, 2, …, valószínűségi változókat, melyekre

ξ_{j} = 1 + u, ha a j-ik dobás eredménye fej, és ξ_{j} = ξ_{j}(u) = 1 − \frac{2u}{3}, ha a j-ik dobás eredménye írás. Ekkor az n-ik lépésben a vagyonunk Z_{n} = Aξ_{1} ⋯ ξ_{n}, a ξ_{j}, j = 1, 2, …,

valószínűségi változók függetlenek és egyforma eloszlásúak, ezért \frac{1}{n} log Z_{n} = \frac{log A}{n} +

\frac{1}{n} ∑_{j=1}^{n} log ξ_{j}, és a nagy számok (erős) törvénye szerint az \frac{1}{n} log Z_{n} valószínűségi változók

egy valószínűséggel konvergálnak a

B(u) = E log ξ_{1} = \frac{1}{2} (log(1 + u) + log (1 − \frac{2u}{3})) = \frac{1}{2} log(1 + u) (1 − \frac{2u}{3})

számhoz. A B(u) függvény a maximumát az ū = \frac{1}{4} helyen veszi fel, és B(ū) =

\frac{1}{2} log \frac{25}{24} > 1.

Az általános esetben tekintsük minden u, 0 ≤ u ≤ 1 számra az η_{j}(u) = (1−u)+uξ_{j} valószínűségi változókat, j = 1, 2, …, és az M(u) = E log η_{j}(u) = E log((1 − u) + uξ_{j}) várható értéket. Ha a játék minden lépésében vagyonunk u-ad részét tesszük fel, akkor n lépés után vagyonunk Z_{n} = Aη_{1}(u) … η_{n}(u) lesz. Megint a nagy számok (erős)

törvényét alkalmazva kapjuk, hogy lim_{n→∞} \frac{1}{n} log Z_{n} = E log Eη_{1}(u) = M(u). Azt kell tehát belátnunk, hogy az u alkalmas választásával elérhetjük, hogy M(u) > 0, ahol szigorú egyenlőtlenség teljesül.

Viszont M(0) = 0. Ezért elegendő azt belátni, hogy az M(·) függvény a nullában szigorúan nő, és ehhez elég azt megmutuatni, hogy az M(u) függvény deriváltja a

nullában pozitív. Viszont \frac{dM(u)}{du} = E \frac{ξ_{j} − 1}{(1 − u) + uξ_{j}}, ahonnan

\frac{dM(u)}{du}|_{u=0} = Eξ_{j} − 1 > 0

az Eξ_{j} > 1 feltétel alapján.