Az november 2-i szeminárium témája Rövid összefoglaló

A sztochasztikus és eloszlásban való konvergencia közötti kapcsolat.

Tárgyaljuk a sztochasztikus és eloszlásban való konvergencia kapcsolatát. Egyszerű példa mutatja, hogy lehetséges az, hogy ξ_{n}, n = 1, 2, …, sorozat eloszlásban konvergál, de sztochasztikusan nem. Ha ξ_{1}, ξ_{2}, …, független egyforma eloszlású valószínűségi változók sorozata, nem elfajuló eloszlással, akkor ezen valószínűségi változók eloszlásban konvergálnak, de sztochasztikusan nem. Belátjuk, hogy ha valószínűségi változók sorozata sztochasztikusan konvergál, akkor eloszlásban is konvergál.

Tegyük fel, hogy valószínűségi változók ξ_{n}, n = 1, 2, …, sorozata sztochasztikusan konvergál egy ξ valószínűségi változóhoz, és jelölje F (u) a ξ valószínűségi változó eloszlását. Legyen x pont az F (·) függvény folytonossági pontja. Ekkor tetszőleges ε > 0 számra létezik olyan δ = δ(ε) > 0 szám, melyre F (x) − \frac{ε}{2} < F (x − δ) ≤ F (x) ≤ F (x + δ) < F (x) + \frac{ε}{2}, és n_{0} = n_{0}(ε, δ) küszöbindex, melyre P (|ξ_{n} − ξ| > δ) < \frac{ε}{2}, ha n ≥ n_{0}. Ekkor P (ξ_{n} < x) ≤ P (ξ < x + δ) + P (|ξ_{n} − ξ| > δ) ≤ F (x + δ) + \frac{ε}{2} ≤ F (x) + ε. Hasonlóan mutatható meg, hogy P (ξ_{n} > x) ≤ P (ξ > x − δ) + \frac{ε}{2} ≤ 1 − F (x) − ε, azaz P (ξ_{n} < x) > F (x) − ε. Mivel ezek az állítások minden ε > 0 és n ≥ n_{0} számra igazak valamilyen n = n_{0}(ε) küszöbindex-szel, innen következik az állítás.

Bár az eloszlásban való konvergenciából nem következik a sztochasztikus konvergencia, igaz a következő gyengébb állítás: Ha a ξ_{n}, n = 1, 2, …, valószínűségi változók eloszlásban konvergálnak az a pontba koncentrált eloszláshoz valamilyen −∞ < a < ∞ számmal, azaz konvergálnak ahhoz az F (u) = F_{a}(u) eloszlásfüggvényhez, melyre F (u) = 0, ha u ≤ a, és F (u) = 1, ha u > a, akkor a ξ_{n}, n = 1, 2, …, valószínűségi változók sztochasztikusan konvergálnak a ξ(ω) ≡ a valószínűségi változóhoz. Valóban, ekkor P (|ξ_{n} − a| < ε) = F_{n}(a + ε) − F_{n}(a − ε + 0) = 1 + (F_{n}(a + ε) − F (a + ε)) − (F_{n}(a − ε + 0) − F (a − ε + 0)), ahol F_{n}(u), n = 1, 2, …, a ξ_{n} valószínűségi változó eloszlásfüggvénye, G(u + 0) = lim_{ε: ε>0,ε→0} G(u + ε) egy G(u) eloszlásfüggvényre, és

F (u) = F_{a}(u) az előbb definiált eloszlásfüggvény. Ekkor lim_{n→∞}(F_{n}(a+ε)−F (a+ε)) = 0, és lim_{n→∞}(F_{n}(a − ε + 0) − F (a − ε + 0)) = 0 az eloszlásban való konvergencia miatt, ezért lim_{n→∞} P (|ξ_{n} − a| < ε), azaz teljesül a sztochasztikus konvergencia is.

Miért csak a határeloszlás folytonossági pontjaiban követeltük meg a konvergenciát az eloszlásban való konvergencia definiciójában?

Amikor eloszlásfüggvényeket vizsgálunk, akkor sokszor érdemes az eloszlásfüggvény helyett az általuk meghatározott valószínűségi mértéket tekinteni. Azaz, adva valamilyen F (·) eloszlásfüggvény, definiáljuk azt a μ = μ_{F} valószínűségi mértéket a számegyenesen, melyre μ([a, b)) = F (b) − F (a). A mértékelmélet eredményeiből következik, hogy létezik ilyen valószínűségi mérték, és azt egyértelműen meghatározza az F eloszlásfüggvény. Ezt a valószínűségi mértéket szemléletesen úgy képzelhetjük el, mint egy tömegeloszlást a számegyenesen, melyre a teljes számegyenes tömege (súlya) 1, és a számegyenes egy részhalmazának a valószínűsége megegyezik a halmaz súlyával. Az, hogy F_{n} eloszlásfüggvények sorozata konvergál valamely F eloszláshoz valójában azt jelenti, hogy az általuk meghatározott μ_{F_{n}} tömegeloszlások konvergálnak a μ_{F} tömegeloszláshoz.

Tekintsük a következő egyszerű példát: Legyen a_{n} olyan monoton növekedő számsorozat, melyre lim_{n→∞} a_{n} = a valamely −∞ < a < ∞ számra. Legyen μ_{n} az a valószínűségi mérték, mely az a_{n} pontba van koncentrálva, n = 1, 2, …, azaz μ_{n}(B) = 1, ha a_{n} ∈ B, és μ_{n}(B) = 0, ha a_{n} ∉ B a számegyenes tetszőleges mérhető részhalmazára. Hasonlóan, legyen μ az a pontba koncentrált mérték. Természetes azt várni, hogy ha alkalmasan definiáltuk az eloszlásban való konvergencia fogalmát, akkor a μ_{n} eloszlások konvergálnak a μ mértékhez. A μ_{n} mérték által meghatározott eloszlásfüggvény, azaz egy olyan ξ_{n} valószínűségi változónak az eloszlásfüggvénye, melyre P (ξ_{n} = a_{n}) = 1, az az F_{n}(·) eloszlásfüggvény, melyre F_{n}(u) = 0, ha u ≤ a_{n}, és F_{n}(u) = 1, ha u > a_{n}. Hasonlóan, a μ mérték által meghatározott eloszlásfüggvény az az F (·) függvény, melyre F (u) = 0, ha u ≤ a, és F (u) = 1, ha u > a. Könnyű ellenőrizni, hogy lim_{n→∞} F_{n}(u) = F (u) minden u ≠ a számra ebben a példában, de ez a reláció az u = a számra nem teljesül. Tehát a μ_{n} mértékek eloszlásban konvergálnak ebben a példában, de ehhez szükséges volt az eloszlásban való konvergencia definiciójában azt a megszorítást tenni, hogy csak határeloszlásfüggvény folytonossági pontjaiban követeljük meg a konvergenciát.

A Φ(x) = ∫_{−∞}^{x} \frac{1}{\sqrt{2π}} e^{−u^{2}/2} du normális eloszlásfüggvény minden pontban folytonos,

ezért a centrális határeloszlástétel alkalmazásában nincs jelentősége annak, hogy az eloszlásban való konvergencia csak az eloszlásfüggvény folytonossági pontjaiban követelünk meg konvergenciát. Viszont olyan határeloszlástételben, melyben a határeloszlásnak van szakadási pontja (például a Poisson eloszlás vagy bármely diszkrét eloszlás ilyen) ez a megszorítás lényeges. Kimondunk bizonyítás nélkül egy eredményt, mely ekvivalens feltételt ad arra, hogy eloszlásfüggvények egy sorozata eloszlásban konvergáljon egy határeloszláshoz. Ennek az eredménynek fontos szerepe van a karakterisztikus függvény módszer alkalmazásában is.

Tétel. F_{n}(u), n = 1, 2, … eloszlásfüggvények sorozata akkor és csak akkor konvergál eloszlásban egy F (u) eloszlásfüggvényhez, ha minden a számegyenesen értelmezett folytonos, korlátos g(u) függvényre

lim_{n→∞} ∫ g(u) dF_{n}(u) = ∫ g(u) dF (u).

Eloszlásban való konvergencia és határeloszlástételek.

Vegyük észre, hogy mivel az f_{t}(x) = e^{itx}, −∞ < t < ∞, függvények folytonosak és korlátosak, ezért az eloszlásfüggvényeknek a fenti Tétel-ben kimondott jellemzése alapján eloszlások konvergenciájából következik, hogy lim_{n→∞} ∫ e^{itx}F_{n}( dx) = ∫ e^{itx}F ( dx), minden −∞ < t < ∞ számra, ha az F_{n} eloszlásfüggvények eloszlásban konvergálnak az F eloszlásfüggvényhez. Felmerül a kérdés: Igaz-e ennek az állításnak a megfordítása is, azaz, ha tudjuk, hogy a φ_{n}(t) = ε^{itx}F_{n}(dx) → φ(t) = ∫ e^{itx}F ( dx), ha n → ∞ reláció teljesül egy F_{n}(·), n = 1, 2, …, eloszlásfüggvénysorozatra valamint egy F eloszlásfüggvényre, akkor következik-e ebből az, hogy az F_{n} eloszlásfüggvények eloszlásban konvergálnak az F eloszlásfüggvényhez? Az előző formulában bevezetett φ(t) = ∫ e^{itx}F ( dx) függvényt nevezzük az F eloszlás karakterisztikus függvényének.

A valószínűségszámítás egyik alapvető fontosságú eredménye szerint a válasz erre a kérdésre igenlő. Jegyezzük meg, hogy ezen állításnak a bizonyításához szükséges egy olyan jellegű eredmény, mely azt mondja ki, hogy az e(t) = e^{itx} trigonometrikus függvények az összes folytonos és korlátos függvényekből álló halmaznak elég nagy részhalmaza. Ugyanis, ha lim_{n→∞} ∫ e^{itx}F_{n}( dx) = ∫ e^{itx}F ( dx) minden −∞ < t < ∞

számra, akkor teljesül a lim_{n→∞} ∫ ∑_{k=1}^{p} c_{k}e^{it_{k}x}F_{n}( dx) = ∫ ∑_{k=1}^{p} c_{k}e^{t_{k}x}F ( dx) reláció minden

véges lineáris kombinációra is, sőt bízonyos limeszeléssel eljutunk további olyan g(·) függvényekhez, melyekre lim_{n→∞} ∫ g(x)F_{n}( dx) = ∫ g(x)F ( dx). De eljutunk-e így minden folytonos és korlátos függvényhez. A valószínűségszámítás egyik mély eredménye szerint igen. (Egy lehetséges eredmény, melyet felhasználhatunk a bizonyításban Weierstrass második approximációs tétele, mely szerint minden 2π szerint periodikus folytonos függvény tetszőleges pontossággal egyenletesen közelíthető trigonometrikus polinomokkal.) Valójában a valószínűségszámítás előbb jelzett klasszikus eredménye egy még tartalmasabb állítás. Ugyanis a részletesebb vizsgálatokban gyakran találkozunk a következő kérdéssel: Tudjuk, hogy a φ_{n}(t) = ∫ e^{itx}F ( dx) karakterisztikus függvények konvergálnak valamely φ(t) függvényhez, de nem tudjuk ab ovo, hogy a φ(t) függvény előállítható-e, mint egy alkalmas eloszlásfüggvény karakterisztikus függvénye. Az alább megfogalmazott fundamentális jelentőségű eredmény az ilyen esetek vizsgálatát is lehetővé teszi.

Eloszlások konvergenciájáról szóló alaptétel. Legyen ξ_{n}, n = 1, 2, …, F_{n} eloszlású valószínűségi változók sorozata φ_{n}(t) = Ee^{itξ_{n}} = ∫ e^{itx}F_{n}(dx) karakterisztikus függvénnyel. Ha a φ_{n}(t) függvények minden −∞ < t < ∞ számra konvergálnak egy φ(t) függvényhez, mely az origóban folytonos függvény, akkor ez a φ(t) limeszfüggvény is karakterisztikus függvény, azaz létezik olyan (egyértelműen meghatározott) F (x) eloszlásfüggvény, melyre φ(t) = ∫ e^{itx}F ( dx). Továbbá, az F_{n} eloszlásfüggvények eloszlásban konvergálnak ehhez az F eloszlásfüggvényhez.

Megfordítva, ha F_{n} eloszlások, n = 1, 2, …, sorozata eloszlásban konvergál egy F eloszláshoz, akkor minden −∞ < t < ∞ számra a φ_{n}(t) = ∫ e^{itx}F_{n}(dx) karakterisztikus függvények konvergálnak a φ(t) = ∫ e^{itx}F (dx) karakterisztikus függvényhez, ha t → ∞. Továbbá ez a konvergencia egyenletes minden véges intervallumban.

Talán érdemes lett volna ennek az eredménynek a megfogalmazása előtt kimondani a következő tételt.

Tétel. Egy F eloszlásfüggvényt meghatároz annak φ(t) = ∫ e^{itx}F ( dx) karakterisztikus függvénye.

A következő állítás bizonyítása házi feladat.

Egy F (x) eloszlásfüggvény φ(t) = ∫ e^{itx} dF (x) karakterisztikus függvénye, −∞ < t < ∞, folytonos, sőt egyenletesen folytonos függvény a számegyenesen.

Lássunk példát arra, hogy lehetséges az, hogy F_{n}, n = 1, 2, …, eloszlásfüggvények sorozatának a karakterisztikus függvényei egy az origóban nem folytonos függvényhez konvergálnak. Ebben az esetben az F_{n} eloszlásfüggvények nem konvergálnak eloszlásban egy eloszlásfüggvényhez. Ez a példa megmutatja, hogy a fent kimondott tételben az a megkötés, hogy a φ_{n}(·) karakterisztikus függvények φ(·) határfüggvénye az origóban folytonos függvény, nem elhagyható feltétel.

Legyen az F_{n}(·) eloszlásfüggvény a [−n, n] intervallumben egyenletes eloszlás, azaz

legyen a sűrűségfüggvénye f_{n}(x) = \frac{1}{2n}, és f_{n}(x) = 0, ha |x| > n. Ekkor ezek az F_{n}, n = 1, 2, …, eloszlásfüggvények eloszlásban nem konvergálnak egy határeloszláshoz, mert az általuk meghatározott tömegeloszlás “kifolyik a végtelenben.” A karakterisztikus

függvények a φ_{n}(t) = ∫ e^{itx}F_{n}(dx) = ∫_{−n}^{n} \frac{e^{itx}}{2n} dx = \frac{e^{itn} − e^{−itn}}{2int} függvények, t ≠ 0,

φ_{n}(0) = 1, n = 1, 2, . . .. Ezért lim_{n→∞} φ_{n}(t) = 0, ha t ≠ 0, és lim_{n→∞} φ_{n}(0) = 1.

A karakterisztikus függvény másik folytonos tulajdonsága, mely hasznossá teszi határeloszlástételek vizsgálatában az, hogy független valószínűségi változók összegének a karakterisztikus függvénye megegyezik az egyes valószínűségi változók karakterisztikus függvényeinek szorzatával. Képletben kifejezve: Legyenek ξ_{1}, …, ξ_{n} független valószínűségi változók. Ekkor

Ee^{it(ξ_{1}+···+ξ_{n})} = E (e^{itξ_{1}}e^{itξ_{2}} ⋯ e^{itξ_{n}}) = Ee^{itξ_{1}}Ee^{itξ_{2}} ⋯ Ee^{itξ_{n}}.

Továbbá, ha egy ξ valószínűségi változó karakterisztikus függvénye a φ(t) = Ee^{itX} függvény, akkor az AX + B karakterisztikus függvénye a

ψ(t) = Ee^{it(AX+B)} = e^{itB}Ee^{i(At)ξ} = e^{itB}φ(At).

E két képlet felhasználásával kifejezhetjük független valószínűségi változók normalizált részletösszegeinek karakterisztikus függvényét az egyes valószínűségi változók karakterisztikus függvényeinek segítségével. Egy ilyen formula valamint az Alaptételnek nevezett eredmény lehetővé teszi azt, hogy független valószínűségi változók normalizált részletösszegeire szóló határeloszlástételeket bizonyítsunk.

Egy példa: (Valójában a legfontosabb alkalmazás:) Legyen ξ_{k}, k = 1, 2, …, független egyforma eloszlású valószínűségi változók sorozata, melyekre Eξ_{1} = 0, Eξ_{1}^{2} =

1. Ekkor az \frac{S_{n}}{\sqrt{n}} valószínűségi változók teljesítik a centrális határeloszlástételt. En-

nek bizonyítása érdekében számoljuk ki a \frac{S_{n}}{\sqrt{n}} valószínűségi változó karakterisztikus

függvényét. Jelölje a ξ_{1} valószínűségi változó eloszlásfüggvényét F, karakterisztikus függvényét pedig φ(t). Ekkor S_{n} karakterisztikus függvénye φ^{n}(t), és \frac{S_{n}}{\sqrt{n}} karakte-

risztikus függvénye φ^{n} (\frac{t}{\sqrt{n}}). Tehát annak bizonyításához, hogy e normalizált részlet-

összegeknek létezik határeloszlása azt kell belátni, hogy minden t számra létezik a ψ(t) =

lim_{n→∞} φ^{n} (\frac{t}{\sqrt{n}}) határérték, és ez a ψ(t) függvény folytonos az origóban. E vizsgálathoz

arra van szükség, hogy φ(t) értékét jól tudjuk becsülni kis t számokra. A karakterisz-

tikus függvény egyik fontos tulajdonsága, hogy φ(0) = 1, és \frac{d^{k}φ(t)}{dt^{k}} |_{t=0} = i^{k}Eξ^{k}, ha

E|ξ|^{k} = 0. Ezt onnan láthatjuk, hogy a φ(t) = ∫ e^{itx} dF (x) formulát k-szor szukcesszive

deriválva kapjuk, hogy \frac{d^{k}φ(t)}{dt^{k}} = ∫ i^{k}e^{itx} dF (x) képletet, és behelyettesítjük a t = 0

számot ebbe a formulába. Az E|ξ^{k}| < ∞ feltétel azt biztosította, hogy a fenti számolás jogos, fel lehet cserélni az integrálást és differenciálást.

Ezért, ha Eξ_{1} = 0, Eξ_{1}^{2} = 1, akkor a Taylor sorfejtés alapján φ(t) = Ee^{itξ_{1}} =

1 − \frac{t^{2}}{2} + o(t^{2}), φ (\frac{t}{\sqrt{n}}) = 1 − \frac{t^{2}}{2n} + o (\frac{t^{2}}{n} ), lim_{n→∞} φ^{n} (\frac{t}{\sqrt{n}}) = (1 − \frac{t^{2}}{2n} + o (\frac{t^{2}}{n} ))^{n} =

e^{−t^{2}/2}. Ezért létezik a határeloszlás, melynek karakterisztikus függvénye e^{−t^{2}/2}. Ez a standard normális eloszlás karakterisztikus függvénye, és ez adja a centrális határeloszlástételt.

Kis kitérő: A nagy számok gyenge törvénye

Láttuk, hogy az hogy X_{n} valószínűségi változók sorozata sztochasztikusan egy (determinisztikus) a konstanshoz tart ekvivalens azzal, hogy e valószínűségi változók sorozata eloszlásban tart a számegyenes a pontjába koncentrált mértékhez. Ez pedig az Alaptétel szerint azzal ekvivalens, hogy ezek a valószínűségi változók ψ_{n}(t) = Ee^{itX_{n}} karakterisztikus függvényei az a pontba koncentrált mérték karakterisztikus függvényéhez, azaz az e^{ita} függvényhez tartanak.

Legyenek ξ_{k}, k = 1, 2, …, független egyforma eloszlású valószínűségi változók

sorozata, S_{n} = ∑_{k=1}^{n} ξ_{k}, n = 1, 2, …, jelölje ezek részletösszegeit, és φ(t) = Ee^{itξ_{1}} a

ξ_{1} karakterisztikus függvényét. E sorozat akkor és csak akkor teljesíti a nagy számok

gyenge törvényét, azaz az \frac{S_{n}}{n} átlagok akkor és csak akkor tartanak sztochasztikusan

egy −∞ < a < ∞ számhoz, ha teljesül az lim_{n→∞} φ (\frac{t}{n}) = e^{ita} minden t számra. Némi

számolással belátható, hogy ez ekvivalens azzal, hogy a karakterisztikus függvény a nullában deriválható, és ez a differenciálhányados φ′(0) = ia. Ez az eredmény azonban nem teljesen kielégítő, ugyanis általában nem a karakterisztikus függvényt, hanem az eloszlásfüggvényt ismerjük. Ezért hasznosabb a következő a Fourier transzormáció tulajdonságain alapuló tétel.

Tétel. Legyenek ξ_{k}, k = 1, 2, …, független, F eloszlású valószínűségi változók sorozata.

Ez akkor és csak akkor teljesíti a nagy számok gyenge törvényét, azaz a \frac{1}{n} ∑_{k=1}^{n} ξ_{k} átlag

akkor és csak akkor konvergál sztochasztikusan n → ∞ esetében egy a számhoz, −∞ < a < ∞, ami ekvivalens azzal, hogy a φ(t) = Ee^{itξ_{1}} karakterikus függvény deriválható az origóban, és φ′(0) = ia, ha

lim_{x→∞} x [F (−x) + (1 − F (x))] = 0, és lim_{u→∞} ∫_{−u}^{u} xF ( dx) = a.

Ez az eredmény és a múlt alkalommal tárgyalt eredmény a nagy számok erős törvényéről lehetőséget ad olyan példa konstruálására, mely teljesíti a nagy számok gyenge törvényét, de nem teljesíti a nagy számok erős törvényét. Valóban, legyen ξ_{k}, k = 1, 2, …, független, egyforma eloszlású valószínűségi változók sorozata melyeknek

létezik f(x) sűrűségfüggvénye, melyet a következő képlet ad meg. f(x) = \frac{C}{x^{2} log |x|}, ha

|x| > 2. f(x) = 0, ha |x| ≤ 2, a C konstanst pedig úgy választjuk, hogy ∫ f(x) dx = 1. Ekkor E|ξ_{1}| = ∫ |x|f(x) dx = ∞, (Miért?) ezért nem teljesül a nagy számok erős törvénye. Az előbb kimondott, de nem bizonyított tételből következik, hogy ez a sorozat teljesíti a nagy számok gyenge törvényét. De ezt az állítást be lehet látni közvetlenül is. Erről szól a következő (nem kötelező) házi feladat.

Legyen ξ_{k}, k = 1, 2, …, független, egyforma eloszlású valószínűségi változók soro-

zata, az f(x) = \frac{C}{x^{2} log |x|}, ha |x| > 2. f(x) = 0, ha |x| ≤ 2, képlettel megadott

sűrűségfüggvénnyel. (∫_{|x|>2} \frac{C dx}{|x| log |x|} = 1.) Definiáljuk az S_{n} = ∑_{k=1}^{m} ξ_{k}, n =

1, 2, …, részletösszegeket. Lássuk be, hogy az \frac{S_{n}}{n} átlagok sztochasztikusan tar-

tanak nullához, azaz minden ε > 0 számra P (|\frac{S_{n}}{n} | > ε) → 0, ha n → ∞.

Segítség: Legyen ξ̄_{k} = ξ̄_{k}^{(n)} = ξ_{k}I (|ξ_{k}| ≤ a_{n}), ¯ ξ̄_{k} = ¯ ξ̄_{k}^{(n)} = ξ_{k}I (|ξ_{k}| > a_{n}), és S̄_{n} =

∑_{k=1}^{n} ξ̄_{k}, ¯ S̄_{n} = ∑_{k=1}^{n} ¯ ξ̄_{k}. Ekkor P (|S_{n}| > εn) ≤ P (|S̄_{n}| > \frac{ε}{2}n) + P (|¯S̄_{n}| > \frac{ε}{2}n) ≤

\frac{Var S̄_{n}}{\frac{ε^{2}}{4} n^{2}} + nP ( ¯ξ̄_{1} ≠ 0). Adjunk az a_{n} konstans alkalmas megválasztásával (például

a_{n} = n) jó becslést a P (|S_{n}| > nε) valószínűségre.