A december 4-i gyakorlat témája Rövid összefoglaló

Ezen a gyakorlaton is elsősorban azzal foglalkozunk, hogy hogyan lehet megérteni annak a jegyzetnek néhány eredményét, mely a vizsgan kérdezett anyagot tartalmazza.

Néhány további megjegyzés a centrális határeloszlástételhez.

A 8. fejezet két legfontosabb eredménye a 8.1 és 8.2 tétel. Ezek jobb megértése érdekében teszek néhány megjegyzést. Emlékezzünk, hogy F_{n} eloszlások akkor és csak akkor konvergálnak egy F eloszláshoz, ha ∫ g(u)F_{n}( du) → ∫ g(u)F ( du) minden folytonos és korlátos g(·) függvényre. A 8.1 tétel ilyen állítást fogalmaz meg. (Jegyezzük meg, hogy (Eg(S̃_{n}) = ∫ g(u)F_{n}( du), ha F_{n} jelöli S̃_{n} eloszlását). De ebben az eredményben a g(·) függvényről többet követeltünk meg, azt hogy legyen háromszor folytonosan differenciálható. A 8.2 tétel arról szól, hogy bizonyos standard, de technikailag meglehetősen nehéz és fárasztó simítási eljárással hogyan lehet az általános folytonos függvények esetét erre a speciális esetre redukálni. Erre nem térek ki. Akinek nincs ideje, energiája azt áttanulmányozni, és a vizsgán ezt kérdezik tőle, hivatkozzon arra, hogy én azt mondtam, hogy ez fölösleges. Ha tudjuk azt az eredményt, hogy eloszlásfüggvények karakterisztikus függvényeinek konvergenciájából egy eloszlásfüggvény karakterisztikus függvényéhez következik maguknak az eloszlásfüggvényeknek a konvergenciája is, akkor alkalmazva a 8.1 tételt a g(x) = g_{t}(x) = e^{itx}, −∞ < t < ∞, függvényekre megkapjuk a centrális határeloszlástétel Lindeberg féle alakját.

A 8.1 tétel bizonyítása sem egyszerű. Megpróbálok némi fogódzót adni hozzá. Felhasználjuk azt a gyakorlaton is tárgyalt eredményt, hogy független normális eloszlású valószínűségi változók összege is normális eloszlású. Tekintjük a bizonyításban definiált ξ̃_{n,k} illetve η̃_{n,k} (37. oldal alja) valószínűségi változókat, illetve a belölük definiált

S̃_{n} = ∑_{k=1}^{n} ξ̃_{n,k} és T̃_{n} = ∑_{k=1}^{n} η̃_{n,k} összegeket. Azt kell belátni, hogy Eg(S̃_{n}) − Eg(T̃_{n})

kicsi. Ezt úgy látjuk be, hogy egymásután egyenként a ξ̃_{n,k} valószínűségi változókat kicseréljük az η̃_{n,k} változókkal és becsüljük a csere előtti és utáni valószínűségi változók g(·) függvényének a várható értékét. Ez történik tulajdonképpen az U_{n,l} valószínűségi változók illetve a Δ_{n,l} számok bevezetésével. A 8.1 Tétel bizonyításának a lényege az, hogy jó becslést adunk a Δ_{n,l} mennyiségekre. Ez hasonlóan a gyakorlaton tárgyalt hasonló, (egyszerűbb) feladatokhoz Taylor sorfejtéssel történhet. Kissé talán rejtve, de ez történik az R(x, y) függvények bevezetésénél. Továbbá hasonlóan a gyakorlaton tárgyalt bizonyításhoz más tagszámú sorfejtést érdemes alkalmazni, ha |ξ̃_{n,l}| < ε és |ξ̃_{n,l}| ≥ ε, illetve ugyanez mondható a η̃_{n,l} függvényekre.

A több-dimenziós normális eloszlásról.

Az első kérdés, ami e fogalom kapcsán felmerül az, hogy miért fontos ez a fogalom. A természetes válasz az, hogy a centrális határeloszlástétel, illetve annak több-dimenziós változata indokolja e fogalom bevezetését. A centrális határeloszlástétel azt mondja, hogy független valószínűségi változók normalizált összegeinek a határeloszlása nagyon általános feltételek mellett mindig ugyanaz a normális eloszlás. Felmerül az a kérdés, hogy érvényes-e ennek az eredménynek egy olyan alkalmas megfelelője, amelyik vektor értékű független valószínűségi változók normalizált összegeiről szól.

Erre a kérdésre pozitív választ lehet adni, és ez fontos szerepet játszik néhány olyan fontos kérdés vizsgálatában mint a chi-négyzet próba. Az eredmény illetve a több-dimenziós normális eloszlásfüggvény fogalmának a megértéséhez szükséges először megérteni a várható érték illetve a szórásnégyzet fogalmának több-dimenziós megfelelőjét. A nehezebb és tárgyalandó feladat a szórásnégyzet több-dimenziós megfelelőjének, a kovarianciamátrixnak a definiciója.

A kovarianciamátrix definiciója. Legyen ξ = (ξ_{1}, …, ξ_{k}) egy k-dimenziós véletlen vektor, melynek minden koordinátájára teljesül az Eξ_{j}^{2} < ∞, 1 ≤ j ≤ k, feltétel. Ekkor a ξ k-dimenziós valószínűségi változó D kovarianciamátrixa az a k × k mátrix, melynek j-ik sorában és l-ik oszlopában a Cov (ξ_{j}, ξ_{l}) = Eξ_{j}ξ_{l} − Eξ_{j}Eξ_{l}, 1 ≤ j, l ≤ k, szám áll.

A kovarianciamátrix hasonlóan viselkedik mint annak egy dimenziós megfelelője, a szórásnégyzet. Így például független vektorok összegének a kovarianciamátrixa megegyezik az összeadandók kovarianciamátrixának az összegével, ha egy vektort megszorzunk egy c számmal, akkor annak kovarianciamátrixa a c^{2} számmal szorzódik meg. Ezenkívül fontos a következő eredmény.

Tétel a kovarianciamátrix jellemzéséről. Egy k-dimenziós véletlen vektor kovarianciamátrixa k × k méretű szimmetrikus pozitív szemidefinit mátrix. Egy szimmetrikus D = (d_{j,l}), 1 ≤ j, l ≤ k k × k méretű mátrixot pozitív szemidefinitnek nevezünk, ha

minden x = (x_{1}, …, x_{k}) k-dimeziós vektorra xDx^{∗} = ∑_{j=1}^{k} ∑_{l=1}^{k} x_{j}x_{l}d_{j,l} ≥ 0. Megfordítva,

minden D k × k méretű pozitív definit mátrixhoz és m k–dimenziós vektorhoz létezik olyan k–dimenziós normális eloszlású véletlen vektor, melynek a várható értéke m, kovarianciamátrixa pedig D. Sőt az is igaz, hogy egy több-dimenziós normális eloszlású véletlen vektor eloszlását egyértelműen meghatározza annak várható értéke és kovarianciamátrixa.

Annak érdekében, hogy ezt az eredményt megértsük fel kell idéznünk a többdimenziós normális eloszlású valószínűségi változó fogalmát.

A több-dimenziós normális eloszlású valószínűségi változó definiciója. Ha ξ_{1}, …, ξ_{k} független, standard normális eloszlású valószínűségi változók, akkor a segítségükkel definiált ξ = (ξ_{1}, …, ξ_{k}) véletlen vektort k-dimenziós standard normális eloszlású valószínűségi változónak nevezzük. Ha ξ k-dimenziós standard normális eloszlású valószínűségi változó, A tetszőleges k×k méretű mátrix m k-dimenziós véletlen vektor, akkor η = ξA + m k-dimenziós normális eloszlású vektor. Akkor nevezünk egy véletlen vektort k-dimenziós normális eloszlású véletlen vektornak, ha annak eloszlása megegyezik egy előbb definiált η = ξA + m alakú k-dimenziós normális eloszlású vektor eloszlásával.

Be lehet látni, hogy igaz a következő eredmény.

Tétel. Az előbb definiált η = ξA + m alakú k-dimenziós normális eloszlású vektor várható értéke m kovarianciamátrixa pedig a D = AA^{∗} mátrix. Karakterisztikus függvénye a

φ(t) = φ(t_{1}, …, t_{k}) = Ee^{i(t,η)} = Ee^{i(t_{1}η_{1}+···+t_{k}η_{k})} = e^{i(t,m)−tDt^{∗}/2}

függvény, ahol t = (t_{1}, …, t_{k}), (·, ·) skalárszorzatot ^{∗} pedig transzponáltat jelöl. Ez utobbi formula azért hasznos, mert egy (több-dimenziós) eloszlást meghatároz annak karakterisztikus függvénye.

Az, hogy tetszőleges valószínűségi vektor kovarianciamátrixa pozitív (szemi)definit viszonylag egyszerűen látható. Tekintsünk ugyanis egy (ξ_{1}, …, ξ_{k}) véletlen vektort, és jelölje Σ ennek kovarianciamátrixát. Vegyünk tetszőleges α = (α_{1}, …, α_{k}) valós

számokból álló vektort, és definiáljuk az η = η(α) = ∑_{j=1}^{k} α_{j}ξ_{j} valószínűségi változót.

Tudjuk, hogy Var η ≥ 0. Be lehet látni, hogy Var η = αΣα^{∗}. Ezért αΣα^{∗} ≥ 0 minden α vektorra, és ez jelenti azt, hogy Σ pozitív szemidefinit.

Annak bizonyítása, hogy tetszőleges D pozitív szermidefinit mátrix megjelenik mint alkalmas normális eloszlású valószínűségi vektor kovarianciamátrixa már nehezebb. Ez következik egyrészt az előbb kimondott tételből, továbbá a következő lineáris algebrai eredményből.

Tétel. Egy szimmetrikus D pozitív szemidefinit mátrixból lehet ”négyzetgyököt vonni”, azaz a D = AA^{∗} egyenletnek van megoldása. Ez a megoldás nem egyértelmű. Valóban, ha U unitér mátrix, azaz UU^{∗} = U^{∗}U = I, akkor az Ā = AU mátrixra is igaz, hogy ĀĀ^{∗} = D, ha D = AA^{∗}.

Ezek az eredmények azt is jelentik, hogy bár egy előírt eloszlású normális eloszlású véletlen vektor η = ξA + m reprezentációjában az A mátrix megadása nem egyértelmű, mégis a D kovarianciamátrix és m várható érték meghatározza a véletlen vektor eloszlását, mert meghatározza annak karakterisztikus függvényét. Annak, hogy egy normális eloszlású véletlen vektor eloszlását meghatározza annak várható értéke és kovarianciamátrixa az alábbi fontos következménye is van. (Lásd a 10.5 következményt a jegyzetben.)

Tétel. Legyen ξ = (ξ_{1}, …, ξ_{k}) normális eloszlású véletlen vektor, melynek első l és utolsó k−l koordinátája korrelálatlan valamely 1 ≤ l < k számra, azaz Eξ_{p}ξ_{q} = Eξ_{p}Eξ_{q}, ha 1 ≤ p ≤ l < q ≤ k. Ekkor a (ξ_{1}, …, ξ_{l}) illetve (ξ_{l+1}, …, ξ_{k}) vektorok függetlenek.

Ez utóbbi eredmény kiolvasható abból a tényből, hogy az adott feltétel mellett a ξ véletlen vektor karakterisztikus függvénye faktorizálódik. Jegyezzük meg, hogy független valószínűségi változók mindig korrelálatlanok, de az állítás megfordítása nem igaz. Léteznek olyan valószínűségi változók, melyek korrelálatlanok, de nem függetlenek. Ez a tény rámutat a normális eloszlású valószínűségi vektorok egyik különleges tulajdonságára; arra, hogy ebben a speciális esetben a koordináták korrelálatlanságából következik azok függetlensége is.

Végül a teljesség kedvéért fogalmazzuk meg a több-dimenziós centrális határeloszlástételt független egyforma eloszlású véletlen vektorok összegére.

Több dimenziós centrális határeloszlástétel. Legyenek ξ^{(j)} = (ξ_{1}^{(j)}, …, ξ_{k}^{(j)}), j = 1, 2, …, független egyforma eloszlású k-dimenziós véletlen vektorok

M = (Eξ_{1}^{(j)}, …, Eξ_{k}^{(j)})

várható értékkel és Σ kovarianciamátrix-szal. Legyen S_{n} = ∑_{j=1}^{n} ξ^{(j)}. Ekkor az \frac{S_{n} − nM}{\sqrt{n}}

véletlen vektorok eloszlásban konvergálnak egy nulla várható értékű és Σ kovarianciamátrixú nomális eloszlású véletlen vektorhoz.

Megjegyzések a függetlenség és Kolmogorov 0–1 törvénye fejezethez.

Először értsék meg σ-algebráknak a 2.1 definicióban megadott függetlenségét. Itt szerepel események illetve valószínűségi változók függetlensége is. Én ez utóbbiakat tételnek nevezném. Nevezetesen arról van szó, hogy a korábban tanult σ-algebrák fogalma nélkül definiált függetlenség definiciója megegyezik az itt megadottal. E fejezet megértéséhez elengedhetetlen a farok σ-algebra 2.2 definiciója. A legérdekesebb eset, és gyakorlatilag az összes tekintett példa olyan, amelyikben bizonyos valószínűségi változók által generált σ-algebrát tekintünk. Ekkor a farok σ-algebra szemléletes tartalma az, hogy ez azon eseményekből áll, melyek be vagy be nem következtét meg tudjuk állapítani akkor is, ha ezen valószínűségi változók közül néhánynak az értékét nem ismerjük. Például az az esemény, hogy valószínűségi változók átlaga kisebb mint egy rögzített x szám nem függ véges sok az átlagban résztvevő valószínűségi változó értékétől. A fejezet fő eredménye a 2.6 Tétel, a Kolmogorov féle 0–1 törvény. Ez azt mondja ki, hogy független σ-algebrák, speciálisan független valószínűségi változók által generált σalgebrák farok σ-algebrája olyan eseményekből áll, melyeknek valószínűsége nulla vagy egy. A bizonyítás eszméje a következő: Tekintünk egy rögzített A eseményt a farok σ-algebrában, és keresünk olyan (halmaz) algebrákat illetve σ-algebrákat, melyeknek elemei függetlenek ettől az A halmaztól. Belátjuk bizonyos analízis segítségével, hogy a farok σ-algebra eseményei ilyenek. Az állítás bizonyításában kulcsszerepet játszik mértékek kiterjeszteésének egyértelműsége algebráról az általa generált σ-algebrára. Ez azt jelenti speciálisan, hogy az A halmaz önmagától is független, azaz P (A) = P (A)^{2}, és innen következik a kívánt állítás. Feltétlenül javaslom, hogy nézzék át a fejezetben szereplő példákat is. A fejezetben szereplő Borel–Cantelli lemma megegyezik a bevezető valószínűségszámításban szereplő hasonló nevű eredménnyel.

Konvergenciafogalmak a valószínűségszámításban. A nagy számok erős és gyenge törvénye.

Először idézzük fel e fogalmak definicióit. Megjegyzem, hogy az egy valószínűségű konvergenciát majdnem mindenütt való a sztochasztikus konvergenciát pedig mértékben való konvergenciának is hívják.

Az egy valószínűségű konvergencia definiciója: Valószínűségi változók ξ_{n}, n = 1, 2, …, sorozata akkor konvergál egy valószínűséggel egy ξ valószínűségi változóhoz, ha (egyrészt ezek a valószínűségi változók ugyanazon az (Ω, A, P) valószínűségi mezőn vannak definiálva, másrészt)

P (ω: lim_{n→∞} ξ_{n}(ω) = ξ(ω)) = 1.

A sztochasztikus konvergencia definiciója: Valószínűségi változók ξ_{n}, n = 1, 2, …, sorozata akkor konvergál sztochasztikusan egy ξ valószínűségi változóhoz, ha (egyrészt ezek a valószínűségi változók ugyanazon az (Ω, A, P) valószínűségi mezőn vannak definiálva, másrészt) minden ε > 0 számra

lim_{n→∞} P (|ξ_{n}(ω) − ξ(ω)| > ε) = 0.

Az eloszlásban való konvergencia definiciója: Valószínűségi változók ξ_{n}, n = 1, 2, …, sorozata akkor konvergál eloszlásban egy F (u) eloszlásfüggvényhez vagy az ezen eloszlásfüggvény által meghatározott eloszláshoz, ha lim_{n→∞} P (ξ_{n} < u) = F (u) minden olyan u számra, ahol az F (·) eloszlásfüggvény függvény folytonos. (Azt mondjuk, hogy a ξ_{n}, n = 1, 2, …, valószínűségi változók sorozata eloszlásban konvergál egy ξ valószínűségi változóhoz, ha ez a sorozat eloszlásban konvergál az F (u) = P (ξ < u) eloszlásfüggvényhez.)

Eloszlásfüggvények F_{n}(u) sorozata akkor és csak akkor konvergál egy F (u) eloszlásfüggvényhez, ha valószínűségi változók olyan ξ_{n}, n = 1, 2, …, sorozata, melyekre ξ_{n} eloszlása F_{n}(u) eloszlásban konvergálnak az F (u) eloszlásfüggvényhez. Más szavakkal ez azt jelenti, hogy lim_{n→∞} F_{n}(u) = F (u) az F (·) függvény minden folytonossági pontjában.

Igaz a következő kapcsolat: Egy valószínűségi konvergencia ⇒ Sztochasztikus konvergencia ⇒ Eloszlásban való konvergencia.

Megmutatjuk hogy, ha ξ_{n}(ω) → ξ(ω) egy valószínűséggel, akkor definiálva az

A_{n} = A_{n}(ε) = {ω: sup_{k≥n} |ξ_{k}(ω) − ξ(ω)| < ε} halmazokat kapjuk, hogy az egymásba

skatulyázott A_{n} halmazokra, (azaz A_{1}(ω) ⊂ A_{2} ⊂ ⋯), P ( ⋃_{n=1}^{∞} A_{n}) = 1. Ezért

lim_{n→∞} P (A_{n}) = 1. Mivel {|ξ_{n}(ω) − ξ(ω)| < ε} ⊃ A_{n}, P (|ξ_{n}(ω) − ξ(ω)| < ε) → 1, azaz

P (|ξ_{n}(ω)−ξ(ω)| ≥ ε) → 0, ha n → ∞. Ez azt jelenti, hogy az egy valószínűségű konvergenciából következik a sztochasztikus konvergencia. A jegyzet tartalmazza a következő eredményt is (Lemma 5.7 (i):

Valószínűségi változók ξ_{n}, n = 1, 2, …, sorozata, akkor és csak akkor konvergál egy valószínűséggel egy ξ valószínűségi változóhoz, ha az η_{n} = sup_{k≥n} |ξ_{k} − ξ| valószínűségi változók sorozata sztochasztikusan konvergál nullához, azaz minden ε > 0 számra

P ( lim_{n→∞} sup_{k≥n} |ξ_{k} − ξ| > ε) = 0.

Lássunk példát arra, hogy lehetséges olyan ξ_{n}, n = 1, 2, …, és ξ valószínűségi változókat konstruálni, melyekre a ξ_{n}, n = 1, 2, …, sorozat sztochasztikusan tart ξ-hez, de a ξ_{n} sorozat nem konvergál egy valószínűséggel a ξ valószínűséggel a ξ valószínűségi változóhoz.

Tekintsük a következő (Ω, A, P) valószínűségi mezőt: Ω a [0, 1] intervallum, A a Borel mérhető halmazok σ-algebrája a [0.1] intervallumon, a P valószínűségi mérték a Lebesgue mérték. Legyen

ξ_{n}(x) = \{ \begin{matrix}1 ha x ∈ [(n − 2^{k})2^{−k}, (n + 1 − 2^{k})2^{−k}] \\ 1 ha x ∈ [(n − 2^{k})2^{−k}, (n + 1 − 2^{k})2^{−k}] \end{matrix}
akkor ha 2^{k} ≤ n < 2^{k+1}, k = 1, 2, …,

és ξ(x) = 0 minden 0 ≤ x ≤ 1 számra. Ekkor P (|ξ_{n} − ξ| > ε) = 2^{−k} minden ε > 0 számra, ha 2^{k} ≤ n < 2^{k+1}. Tehát a ξ_{n}, n = 1, 2, …, sorozat sztochasztikusan konvergál a ξ valószínűségi változóhoz. Viszont mivel lim sup_{n→∞} ξ_{n}(x) = 0 minden 0 ≤ x ≤ 1 számra,

ezért a ξ_{n} sorozat nem konvergál egy valószínűséggel a ξ valószínűségi változóhoz.

Azt mondjuk, hogy ξ_{1}, ξ_{2}, …, független egyforma eloszlású valószínűségi változók

teljesítik a nagy számok gyenge törvényét, ha ezek S_{n} = ξ_{1} + · + ξ_{n} összegeire \frac{S_{n}}{n} →

Eξ_{1} sztochasztikusan, teljesítik a nagy számok erős törvényét, ha \frac{S_{n}}{n} → Eξ_{1} egy valószínűséggel, ha n → ∞. Valójában, olyan becsléseket bizonyítanak, melyek független (esetleg csak korrelálatlan), de nem feltétlenül egyforma eloszlású valószínűségi változók normalizált összegéről szólnak.

Az 5.1 illetve 5.2 Tétel tartalmazza a nagy számok gyenge törvényének a bizonyítását. A bizonyítás lényege a Csebisev egyenlőtlenség.

Az itt szereplő eredményekben fontos szerepet játszik az, hogy milyen momentum feltételek teljesülnek az egyes valószínűségi változókra. Az, hogy egy valószínűségi változónak léteznek a magas momentumai azt jelenti, hogy viszonylag kis valószínűséggel vesz fel nagyon nagy értékeket, ezért nem kell attól tartani, hogy néhány tag extrém viselkedése rontja el a nagy számok erős törvényének az érvényességét. Így az 5.5 Tételben négy momentum létezése van feltéve. A nagy számok törvényének az igazán éles és nehezebben bizonyítható alakja a nagy számok Kolmogorov féle erős törvénye, 5.11 tétel. Eszerint az eredmény szerint a nagy számok erős törvényének szükséges és elégséges feltétele az, hogy a valószínűségi változók abszolut értékének legyen véges várható értéke. A bizonyításban szereplő elégségesség bizonyításának alaplépése a Kolmogorov egyenlőtlenség. Ez az egyenlőtlenség ugyanazt a becslést adja arra, hogy független egyforma eloszlású valószínűségi változók részletösszegeinek maximuma nagyobb mint egy x szám, mint amit a Csebisev egyenlőtlenség ad arra, hogy a maximumban résztvevő összegek közül az utolsó nagyobb mint ez az x szám. Egy másik fontos technikai lépés a bizonyításban a (nem valószínűségszámítás tartalmú) Kronecker Lemma ((5.9) Lemma). Ennek bizonyításában az úgynevezett Abel féle átrendezés játszik fontos szerepet, melyet a jegyzetben “parciális szummázás”-nak neveznek.

Érdemes röviden elmagyarázni azt, hogy a nagy számok erős törvényének miért szükséges feltétele az, hogy az összeadandók abszolut értékének legyen véges várható értéke. Azaz tegyük fel, hogy ξ_{1}, ξ_{2}, …, független egyforma eloszlású valószínűségi

változók, S_{n} = ξ_{1} + ⋯ + ξ_{n}. Azt állítjuk, hogy amennyiben lim_{n→∞} \frac{S_{n}}{n} → c valamilyen konstanshoz (vagy valamilyen valószínűségi változóhoz), akkor E|ξ_{1}| < ∞.

Be lehet látni, hogy E|ξ| < ∞ akkor és csak akkor, ha ∑_{n=0}^{∞} P (|ξ| > n) < ∞. Jelölje

ugyanis F (·) a ξ valószínűségi változó eloszlásfüggvényét. Ezzel a jelöléssel E|ξ| < ∞ akkor és csak akkor, ha ∫ |u| dF (u) < ∞. Továbbá ez az integrál akkor és csak akkor

véges, ha ∑_{n=0}^{∞} nP (n < |ξ| ≤ n + 1) < ∞. (Miért?) Ezt az összeget átrendezve

∑_{n=0}^{∞} nP (n < |ξ| ≤ n + 1)) = ∑_{n=0}^{∞} n (P (|ξ| > n) − P (|ξ| > n + 1))

= ∑_{n=0}^{∞} P (|ξ| > n)[(n + 1) − n] = ∑_{n=0}^{∞} P (|ξ| > n)

Innen következik az állítás.

Belátjuk az előző eredmény és a Borel–Cantelli lemma segítségével, hogy ha a ξ_{1}, ξ_{2}, …, független egyforma eloszlású valószínűségi változók sorozata olyan, hogy

E|ξ_{1}| = ∞, akkor az \frac{S_{n}(ω)}{n} sorozat egy valószínűséggel divergens, ahol S_{n} = ∑_{k=1}^{∞} ξ_{k}. Ez

azt jelenti, hogy ebben az esetben nem teljesül a nagy számok erős törvénye.

Valóban, ha E|ξ_{1}| = ∞, akkor ∑_{n=0}^{∞} P (|ξ_{n}| > n) = ∑_{n=0}^{∞} P (|ξ_{1}| > n) = ∞. Továbbá az

{ω: |ξ_{n}(ω)| > n} események függetlenek, ezért a Borel-Cantelli lemma szerint majdnem minden ω ∈ Ω esetén |ξ_{n}(ω)| > n végtelen sok n indexre.

Ha ω ∈ Ω olyan pont, melyben az \frac{S_{n}(ω)}{n}, n = 1, 2, …, sorozat konvergens, akkor

ebben az ω pontban sup_{1≤n<∞} |\frac{S_{n}(ω)}{n}| < K(ω), és lim_{n→∞} (\frac{S_{n+1}(ω)}{n + 1} − \frac{S_{n}(ω)}{n}) = 0. Vi-

szont, \frac{S_{n+1}(ω)}{n + 1} − \frac{S_{n}(ω)}{n} = \frac{ξ_{n+1}(ω)}{n + 1} + \frac{S_{n}(ω)}{n(n + 1)}, és \frac{S_{n}(ω)}{n(n + 1)} → 0, |ξ_{n+1}(ω)| < n + 1

minden n = 1, 2, … számra, ha az \frac{S_{n}(ω)}{n} sorozat konvergál. Ez viszont csak nulla valószínűségű ω ∈ Ω halmazra érvényes. Megfogalmazom bizonyítás nélkül, hogy érvényes ennek az állításnak a megfordítása is, nevezetesen a következő tétel, amelyik szerepel a jegyzetben.

Tétel. Legyen ξ_{1}, ξ_{2}, …, független egyforma eloszlású valószínűségi változók sorozata,

és definiáljuk az S_{n} = ∑_{k=1}^{n} ξ_{k}, n = 1, 2, …, részletösszegeket. Az \frac{S_{n}(ω)}{n}, n = 1, 2, …,

sorozat akkor és csak akkor konvergál pozitív valószínűséggel, ha E|ξ_{1}| < ∞. Ha E|ξ_{1}| < ∞, akkor ez a sorozat teljesíti a nagy számok erős törvényét, azaz

lim_{n→∞} \frac{S_{n}(ω)}{n} = Eξ_{1} majdnem minden ω ∈ Ω-ra.

Az iterált logaritmus tétel.

Ez az eredmény felfogható úgy mint a nagy számok erős törvényének az élesítése. Ez pontosabban kifejezi azt, hogy független, egyforma eloszlású valószínűségi változók összegeinek a lim sup-ja mekkora. Ez akkor érvényes, ha a valószínűségi változóknak létezik második momentuma. Az iterát logaritmustétel a következőt mondja ki:

Iterált logaritmus tétel. Legyenek ξ_{1}(ω), ξ_{2}(ω), …, független, egyforma eloszlású valószínűségi változók valamilyen (Ω, A, P) valószínűségi mezőn, melyekre Eξ_{1}(ω) = 0, Var ξ_{1}(ω) = σ^{2} < ∞. Ekkor

lim sup_{n→∞} \frac{ξ_{1}(ω) + ⋯ + ξ_{n}(ω)}{\sqrt{2nσ^{2} log log n}} = 1, majdnem minden ω ∈ Ω elemi eseményre,

és

lim inf_{n→∞} \frac{ξ_{1}(ω) + ⋯ + ξ_{n}(ω)}{\sqrt{2nσ^{2} log log n}} = −1, majdnem minden ω ∈ Ω elemi eseményre,

sőt igaz a következő némileg élesebb állítás is: A \frac{ξ_{1}(ω) + ⋯ + ξ_{n}(ω)}{\sqrt{2nσ^{2} log log n}}, n = 1, 2, …,

sorozat torlodási pontjainak halmaza a [−1, 1] intervallum egy valószínűséggel.

Nem nehéz belátni a Csebisev egyenlőtlenség vagy a centrális határeloszlástétel segítségével, hogy tetszőleges α(n) → ∞, ha n → ∞ esetén

lim_{n→∞} P (\frac{|ξ_{1}(ω) + ⋯ + ξ_{n}(ω)|}{\sqrt{n}α(n)} < ε) = 1 minden ε > 0 számra,

azaz a \frac{ξ_{1}(ω) + ⋯ + ξ_{n}(ω)}{\sqrt{n}α(n)} valószínűségi változók sztochaszikusan konvergálnak nullá-

hoz.

A jegyzetben az állítás csak normális valószínűségi változók összegére van bizonyítva. Az bizonyos fokig standard, de meglehetősen fárasztó lépéseken alapul. Egyrészt a normális eloszlásfüggvény végtelenben való viselkedését kell leírni, (Lemma (6.2) ezután részben a Borel–Cantelli lemmát alkalmzzuk illetve a

P (\frac{ξ_{1}(ω) + ⋯ + ξ_{n}(ω)}{\sqrt{2nσ^{2} log log n}} > x)

és

P ( sup_{1≤k≤n} \frac{ξ_{1}(ω) + ⋯ + ξ_{k}(ω)}{\sqrt{2nσ^{2} log log n}} > x)

alakú eseményekre kell jó becslést adni. Ez utóbbi célból szerepel a bizonyításban a tükrözési elv (Lemma 6.3).