Az október 10-i gyakorlat témája Rövid összefoglaló

Ki tudjuk számolni tetszőleges független egész értékű valószínűségi változók összegének az eloszlását az adott valószínűségi változók eloszlásának a segítségével. E számolás megfogalmazásánának érdekében vezették be diszkrét eloszlások konvoluciójának a fogalmát.

Diszkrét eloszlások konvoluciójának a definiciója. Legyen P = p(k) és Q = q(k), k = 0, ±1, ±2, …, két eloszlás az egész számokon, azaz teljesüljenek a p(k) ≥ 0, q(k) ≥

0, k = 0, ±1, ±2, …, ∑_{k=−∞}^{∞} p(k) = 1, ∑_{k=−∞}^{∞} q(k) = 1 feltételek. Ekkor e két eloszlás

konvoluciója a

P ∗ Q(k) = ∑_{j=−∞}^{∞} p(j)q(k − j), k = 0, ±1, ±2, …

eloszlás.

Tétel. Ha ξ és η két diszkrét egész értékeket felvevő független valószínűségi változó P és Q eloszlással akkor ξ + η eloszlása a P ∗ Q eloszlás.

1. Ha ξ és η két független, λ illetve μ paraméterű Poisson eloszlású valószínűségi változó, akkor ξ + η λ + μ paraméterű Poisson eloszlású valószínűségi változó. Megoldás:

P (ξ + η = k) = ∑_{j=0}^{k} P (ξ = j, η = k − j) = ∑_{j=0}^{k} P (ξ = j)P (η = k − j)

= ∑_{j=0}^{k} \frac{λ^{j}}{j!} e^{−λ} \frac{μ^{k−j}}{(k − j)!}e^{−μ} = \frac{e^{−(λ+μ)}}{k!} ∑_{j=0}^{k} \frac{k!}{j!(k − j)!}λ^{j}μ^{(k−j)}

= \frac{e^{−(λ+μ)}}{k!} (λ + μ)^{k}.

2. Legyen adva k darab urna, és ezekbe dobjunk be véletlen ξ számú golyót, ahol ξ Poisson eloszlású valószínűségi változó λ > 0 paraméterrel. Legyenek az egyes dobások eredményei egymástól és a ξ valószínűségi változótól függetlenek. Tegyük fel továbbá, hogy minden egyes dobásnál a golyó az j-ik urnába p_{j} ≥ 0 valószínű-

séggel esik, j = 1, …, k, ∑_{j=1}^{k} p_{j} = 1. Jelölje η_{j} a j-ik urnába eső golyók számát.

Ekkor az η_{j}, j = 1, …, k valószínűségi változók függetlenek, és η_{j} Poisson eloszlású λp_{j} paraméterrel, j = 1, …, k.

Megoldás:

P (η_{1} = l_{1}, …, η_{k} = l_{k}) = P (ξ = l_{1} + ⋯ + l_{k})\frac{(l_{1} + ⋯ + l_{k})!}{l_{1}! ⋯ l_{k}!}p_{1}^{l_{1}} ⋯ p_{k}^{l_{k}}

= \frac{λ^{(l_{1}+···+l_{k})}}{l_{1}! ⋯ l_{k}!} p_{1}^{l_{1}} ⋯ p_{k}^{l_{k}}e^{−λ}

= \frac{λ^{l_{1}} ⋯ λ^{l_{k}}}{l_{1}! ⋯ l_{k}!} p_{1}^{l_{1}} ⋯ p_{k}^{l_{k}}e^{−λ(p_{1}+···+p_{k})} = ∏_{j=1}^{k} \frac{(λp_{j})^{l_{j}}}{l_{j}!} e^{−λp_{j}}

tetszőleges l_{1} ≥ 0, …, l_{k} ≥ 0 egész számokra. Innen adódik az állítás.

Poisson mező konstrukciója.

Poisson mező definiciója. Legyen adva egy (X, A, μ) mértéktér. Azt mondjuk, hogy az ξ_{1}(ω), ξ_{2}(ω), ·, kijelölt pontok rendszere Poisson mező az (X, A) mértéktéren μ számlálómértékkel, ha véges μ mértékű A halmazba egy valószínűséggel véges sok kijelölt pont esik, és a pontok eloszlása Poisson eloszlású μ(A) paraméterrel, továbbá diszjunkt véges mértékű A_{1} ∈ A, …, A_{k} ∈ A halmazokba eső pontok száma független valószínűségi változók.

Megjegyzés: Az is lehetséges, hogy a kijelölt pontok száma véges, és az is hogy végtelen. Egy pontot többszürös multiplicitással is ki lehet jelölni.

3. Mutassuk meg, a 2. feladat eredményének segítségével, hogy ha (X, A) mérhető tér, μ véges mérték a A σ-algebrán, azaz μ(X) < ∞, akkor létezik az (X, A) téren μ számlálómértékű Poisson mező. Megoldás: Válasszunk ki véletlen számú pontot μ(X) paraméterű Poisson eloszlással, ezeket pedig dobjuk le az (X, A) térre egymástól és a pontok számától

függetlenül úgy, hogy egy pont \frac{μ(A)}{μ(X)} valószínűséggel essen egy A ⊂ X mérhető

halmazba. Az előző feladat eredménye alapján ez Poisson folyamat.

4. Ha (X, A) mérhető tér, μ rajta σ-véges mérték, azaz léteznek olyan (diszjunkt)

B_{1}, B_{2} …, mérhető halmazok, melyekre ⋃_{n=1}^{∞} B_{n} = X, és μ(B_{n}) < ∞, akkor létezik

az (X, A) téren μ számlálómértékű Poisson mező.

Indoklás: Legyenek B_{1}, B_{2} …, diszjunkt, mérhető halmazok, melyekre ⋃_{n=1}^{∞} B_{n} =

X, és μ(B_{n}) < ∞, n = 1, 2, . . .. Konstruáljunk az (X, A, μ) tér megszorításain minde mindegyik B_{n} halmazra Poisson mezőt μ számlálómértékkel egymástól függetlenül. Ezek egyesítése teljesíti a kívánt tulajdonságokat.

5.) Minden x > 0-ra

(\frac{1}{x} − \frac{1}{x^{3}} ) φ(x) < 1 − Φ(x) < \frac{1}{x}φ(x),

ahol Φ(x) és φ(x) a standard normális eloszlás és sűrűségfüggvény.

Megoldás: Parciális integrálással kapjuk, hogy hogy

∫_{x}^{∞} e^{−u^{2}/2} du = \frac{1}{x}e^{−x^{2}/2} − ∫_{x}^{∞} \frac{1}{u^{2}} e^{−u^{2}/2} du

= \frac{1}{x}e^{−x^{2}/2} − \frac{1}{x^{3}} e^{−x^{2}/2} + ∫_{x}^{∞} \frac{3}{u^{4}} e^{−u^{2}/2} du.

Ezen két azonosság alapján ∫_{x}^{∞} e^{−u^{2}/2} du < \frac{1}{x}e^{−x^{2}/2}, és

∫_{x}^{∞} e^{−u^{2}/2} du > \frac{1}{x}e^{−x^{2}/2} − \frac{1}{x^{3}} e^{−x^{2}/2},

ahonnan következik az állítás.

A sztochasztikus és eloszlásban való konvergencia közötti kapcsolat.

Tárgyaljuk a sztochasztikus és eloszlásban való konvergencia kapcsolatát. Egyszerű példa mutatja, hogy lehetséges az, hogy ξ_{n}, n = 1, 2, …, sorozat eloszlásban konvergál, de sztochasztikusan nem. Ha ξ_{1}, ξ_{2}, …, független egyforma eloszlású valószínűségi változók sorozata, nem elfajuló eloszlással, akkor ezen valószínűségi változók eloszlásban konvergálnak, de sztochasztikusan nem. Belátjuk, hogy ha valószínűségi változók sorozata sztochasztikusan konvergál, akkor eloszlásban is konvergál.

Tegyük fel, hogy valószínűségi változók ξ_{n}, n = 1, 2, …, sorozata sztochasztikusan konvergál egy ξ valószínűségi változóhoz, és jelölje F (u) a ξ valószínűségi változó eloszlását. Legyen x pont az F (·) függvény folytonossági pontja. Ekkor tetszőleges ε > 0 számra létezik olyan δ = δ(ε) > 0 szám, melyre F (x) − \frac{ε}{2} < F (x − δ) ≤ F (x) ≤ F (x + δ) < F (x) + \frac{ε}{2}, és n_{0} = n_{0}(ε, δ) küszöbindex, melyre P (|ξ_{n} − ξ| > δ) < \frac{ε}{2}, ha n ≥ n_{0}. Ekkor P (ξ_{n} < x) ≤ P (ξ < x + δ) + P (|ξ_{n} − ξ| > δ) ≤ F (x + δ) + \frac{ε}{2} ≤ F (x) + ε. Hasonlóan mutatható meg, hogy P (ξ_{n} > x) ≤ P (ξ > x − δ) + \frac{ε}{2} ≤ 1 − F (x) − ε, azaz P (ξ_{n} < x) > F (x) − ε. Mivel ezek az állítások minden ε > 0 és n ≥ n_{0} számra igazak valamilyen n = n_{0}(ε) küszöbindex-szel, innen következik az állítás.

Bár az eloszlásban való konvergenciából nem következik a sztochasztikus konvergencia, igaz a következő gyengébb állítás: Ha a ξ_{n}, n = 1, 2, …, valószínűségi változók eloszlásban konvergálnak az a pontba koncentrált eloszláshoz valamilyen −∞ < a < ∞ számmal, azaz konvergálnak ahhoz az F (u) = F_{a}(u) eloszlásfüggvényhez, melyre F (u) = 0, ha u ≤ a, és F (u) = 1, ha u > a, akkor a ξ_{n}, n = 1, 2, …, valószínűségi változók sztochasztikusan konvergálnak a ξ(ω) ≡ a valószínűségi változóhoz. Valóban, ekkor P (|ξ_{n} − a| < ε) = F_{n}(a + ε) − F_{n}(a − ε + 0) = 1 + (F_{n}(a + ε) − F (a + ε)) − (F_{n}(a − ε + 0) − F (a − ε + 0)), ahol F_{n}(u), n = 1, 2, …, a ξ_{n} valószínűségi változó eloszlásfüggvénye, G(u + 0) = lim_{ε: ε>0,ε→0} G(u + ε) egy G(u) eloszlásfüggvényre, és

F (u) = F_{a}(u) az előbb definiált eloszlásfüggvény. Ekkor lim_{n→∞}(F_{n}(a+ε)−F (a+ε)) = 0, és lim_{n→∞}(F_{n}(a − ε + 0) − F (a − ε + 0)) = 0 az eloszlásban való konvergencia miatt, ezért lim_{n→∞} P (|ξ_{n} − a| < ε), azaz teljesül a sztochasztikus konvergencia is.

Miért csak a határeloszlás folytonossági pontjaiban követeltük meg a konvergenciát az eloszlásban való konvergencia definiciójában?

Amikor eloszlásfüggvényeket vizsgálunk, akkor sokszor érdemes az eloszlásfüggvény helyett az általuk meghatározott valószínűségi mértéket tekinteni. Azaz, adva valamilyen F (·) eloszlásfüggvény, definiáljuk azt a μ = μ_{F} valószínűségi mértéket a számegyenesen, melyre μ([a, b)) = F (b) − F (a). A mértékelmélet eredményeiből következik, hogy létezik ilyen valószínűségi mérték, és azt egyértelműen meghatározza az F eloszlásfüggvény. Ezt a valószínűségi mértéket szemléletesen úgy képzelhetjük el, mint egy tömegeloszlást a számegyenesen, melyre a teljes számegyenes tömege (súlya) 1, és a számegyenes egy részhalmazának a valószínűsége megegyezik a halmaz súlyával. Az, hogy F_{n} eloszlásfüggvények sorozata konvergál valamely F eloszláshoz valójában azt jelenti, hogy az általuk meghatározott μ_{F_{n}} tömegeloszlások konvergálnak a μ_{F} tömegeloszláshoz.

Tekintsük a következő egyszerű példát: Legyen a_{n} olyan monoton növekedő számsorozat, melyre lim_{n→∞} a_{n} = a valamely −∞ < a < ∞ számra. Legyen μ_{n} az a valószínűségi mérték, mely az a_{n} pontba van koncentrálva, n = 1, 2, …, azaz μ_{n}(B) = 1, ha a_{n} ∈ B, és μ_{n}(B) = 0, ha a_{n} ∉ B a számegyenes tetszőleges mérhető részhalmazára. Hasonlóan, legyen μ az a pontba koncentrált mérték. Természetes azt várni, hogy ha alkalmasan definiáltuk az eloszlásban való konvergencia fogalmát, akkor a μ_{n} eloszlások konvergálnak a μ mértékhez. A μ_{n} mérték által meghatározott eloszlásfüggvény, azaz egy olyan ξ_{n} valószínűségi változónak az eloszlásfüggvénye, melyre P (ξ_{n} = a_{n}) = 1, az az F_{n}(·) eloszlásfüggvény, melyre F_{n}(u) = 0, ha u ≤ a_{n}, és F_{n}(u) = 1, ha u > a_{n}. Hasonlóan, a μ mérték által meghatározott eloszlásfüggvény az az F (·) függvény, melyre F (u) = 0, ha u ≤ a, és F (u) = 1, ha u > a. Könnyű ellenőrizni, hogy lim_{n→∞} F_{n}(u) = F (u) minden u ≠ a számra ebben a példában, de ez a reláció az u = a számra nem teljesül. Tehát a μ_{n} mértékek eloszlásban konvergálnak ebben a példában, de ehhez szükséges volt az eloszlásban való konvergencia definiciójában azt a megszorítást tenni, hogy csak határeloszlásfüggvény folytonossági pontjaiban követeljük meg a konvergenciát.

A Φ(x) = ∫_{−∞}^{x} \frac{1}{\sqrt{2π}} e^{−u^{2}/2} du normális eloszlásfüggvény minden pontban folytonos,

ezért a centrális határeloszlástétel alkalmazásában nincs jelentősége annak, hogy az eloszlásban való konvergencia csak az eloszlásfüggvény folytonossági pontjaiban követelünk meg konvergenciát. Viszont olyan határeloszlástételben, melyben a határeloszlásnak van szakadási pontja (például a Poisson eloszlás vagy bármely diszkrét eloszlás ilyen) ez a megszorítás lényeges. Kimondunk bizonyítás nélkül egy eredményt, mely ekvivalens feltételt ad arra, hogy eloszlásfüggvények egy sorozata eloszlásban konvergáljon egy határeloszláshoz. Ennek az eredménynek fontos szerepe van a karakterisztikus függvény módszer alkalmazásában is.

Tétel. F_{n}(u), n = 1, 2, … eloszlásfüggvények sorozata akkor és csak akkor konvergál eloszlásban egy F (u) eloszlásfüggvényhez, ha minden a számegyenesen értelmezett folytonos, korlátos g(u) függvényre

lim_{n→∞} ∫ g(u) dF_{n}(u) = ∫ g(u) dF (u).

Eloszlásban való konvergencia és határeloszlástételek.

Vegyük észre, hogy mivel az f_{t}(x) = e^{itx}, −∞ < t < ∞, függvények folytonosak és korlátosak, ezért az eloszlásfüggvényeknek a fenti Tétel-ben kimondott jellemzése alapján eloszlások konvergenciájából következik, hogy lim_{n→∞} ∫ e^{itx}F_{n}( dx) = ∫ e^{itx}F ( dx), minden −∞ < t < ∞ számra, ha az F_{n} eloszlásfüggvények eloszlásban konvergálnak az F eloszlásfüggvényhez. Felmerül a kérdés: Igaz-e ennek az állításnak a megfordítása is, azaz, ha tudjuk, hogy a φ_{n}(t) = ε^{itx}F_{n}(dx) → φ(t) = ∫ e^{itx}F ( dx), ha n → ∞ reláció teljesül egy F_{n}(·), n = 1, 2, …, eloszlásfüggvénysorozatra valamint egy F eloszlásfüggvényre, akkor következik-e ebből az, hogy az F_{n} eloszlásfüggvények eloszlásban konvergálnak az F eloszlásfüggvényhez? Az előző formulában bevezetett φ(t) = ∫ e^{itx}F ( dx) függvényt nevezzük az F eloszlás karakterisztikus függvényének.

A valószínűségszámítás egyik alapvető fontosságú eredménye szerint a válasz erre a kérdésre igenlő. Jegyezzük meg, hogy ezen állításnak a bizonyításához szükséges egy olyan jellegű eredmény, mely azt mondja ki, hogy az e(t) = e^{itx} trigonometrikus függvények az összes folytonos és korlátos függvényekből álló halmaznak elég nagy részhalmaza. Ugyanis, ha lim_{n→∞} ∫ e^{itx}F_{n}( dx) = ∫ e^{itx}F ( dx) minden −∞ < t < ∞

számra, akkor teljesül a lim_{n→∞} ∫ ∑_{k=1}^{p} c_{k}e^{it_{k}x}F_{n}( dx) = ∫ ∑_{k=1}^{p} c_{k}e^{t_{k}x}F ( dx) reláció minden

véges lineáris kombinációra is, sőt bízonyos limeszeléssel eljutunk további olyan g(·) függvényekhez, melyekre lim_{n→∞} ∫ g(x)F_{n}( dx) = ∫ g(x)F ( dx). De eljutunk-e így minden folytonos és korlátos függvényhez. A valószínűségszámítás egyik mély eredménye szerint igen. (Egy lehetséges eredmény, melyet felhasználhatunk a bizonyításban Weierstrass második approximációs tétele, mely szerint minden 2π szerint periodikus folytonos függvény tetszőleges pontossággal egyenletesen közelíthető trigonometrikus polinomokkal.) Valójában a valószínűségszámítás előbb jelzett klasszikus eredménye egy még tartalmasabb állítás. Ugyanis a részletesebb vizsgálatokban gyakran találkozunk a következő kérdéssel: Tudjuk, hogy a φ_{n}(t) = ∫ e^{itx}F ( dx) karakterisztikus függvények konvergálnak valamely φ(t) függvényhez, de nem tudjuk ab ovo, hogy a φ(t) függvény előállítható-e, mint egy alkalmas eloszlásfüggvény karakterisztikus függvénye. Az alább megfogalmazott fundamentális jelentőségű eredmény az ilyen esetek vizsgálatát is lehetővé teszi.

Eloszlások konvergenciájáról szóló alaptétel. Legyen ξ_{n}, n = 1, 2, …, F_{n} eloszlású valószínűségi változók sorozata φ_{n}(t) = Ee^{itξ_{n}} = ∫ e^{itx}F_{n}(dx) karakterisztikus függvénnyel. Ha a φ_{n}(t) függvények minden −∞ < t < ∞ számra konvergálnak egy φ(t) függvényhez, mely az origóban folytonos függvény, akkor ez a φ(t) limeszfüggvény is karakterisztikus függvény, azaz létezik olyan (egyértelműen meghatározott) F (x) eloszlásfüggvény, melyre φ(t) = ∫ e^{itx}F ( dx). Továbbá, az F_{n} eloszlásfüggvények eloszlásban konvergálnak ehhez az F eloszlásfüggvényhez.

Megfordítva, ha F_{n} eloszlások, n = 1, 2, …, sorozata eloszlásban konvergál egy F eloszláshoz, akkor minden −∞ < t < ∞ számra a φ_{n}(t) = ∫ e^{itx}F_{n}(dx) karakterisztikus függvények konvergálnak a φ(t) = ∫ e^{itx}F (dx) karakterisztikus függvényhez, ha t → ∞. Továbbá ez a konvergencia egyenletes minden véges intervallumban.

Talán érdemes lett volna ennek az eredménynek a megfogalmazása előtt kimondani a következő tételt.

Tétel. Egy F eloszlásfüggvényt meghatároz annak φ(t) = ∫ e^{itx}F ( dx) karakterisztikus függvénye.

A következő állítás bizonyítása házi feladat.

Házi feladat:

Egy F (x) eloszlásfüggvény φ(t) = ∫ e^{itx} dF (x) karakterisztikus függvénye, −∞ < t < ∞, folytonos, sőt egyenletesen folytonos függvény a számegyenesen.

Lássunk példát arra, hogy lehetséges az, hogy F_{n}, n = 1, 2, …, eloszlásfüggvények sorozatának a karakterisztikus függvényei egy az origóban nem folytonos függvényhez konvergálnak. Ebben az esetben az F_{n} eloszlásfüggvények nem konvergálnak eloszlásban egy eloszlásfüggvényhez. Ez a példa megmutatja, hogy a fent kimondott tételben az a megkötés, hogy a φ_{n}(·) karakterisztikus függvények φ(·) határfüggvénye az origóban folytonos függvény, nem elhagyható feltétel.

Legyen az F_{n}(·) eloszlásfüggvény a [−n, n] intervallumben egyenletes eloszlás, azaz

legyen a sűrűségfüggvénye f_{n}(x) = \frac{1}{2n}, és f_{n}(x) = 0, ha |x| > n. Ekkor ezek az F_{n}, n = 1, 2, …, eloszlásfüggvények eloszlásban nem konvergálnak egy határeloszláshoz, mert az általuk meghatározott tömegeloszlás “kifolyik a végtelenben.” A karakterisztikus

függvények a φ_{n}(t) = ∫ e^{itx}F_{n}(dx) = ∫_{−n}^{n} \frac{e^{itx}}{2n} dx = \frac{e^{itn} − e^{−itn}}{2int} függvények, t ≠ 0,

φ_{n}(0) = 1, n = 1, 2, . . .. Ezért lim_{n→∞} φ_{n}(t) = 0, ha t ≠ 0, és lim_{n→∞} φ_{n}(0) = 1.

A karakterisztikus függvény másik folytonos tulajdonsága, mely hasznossá teszi határeloszlástételek vizsgálatában az, hogy független valószínűségi változók összegének a karakterisztikus függvénye megegyezik az egyes valószínűségi változók karakterisztikus függvényeinek szorzatával. Képletben kifejezve: Legyenek ξ_{1}, …, ξ_{n} független valószínűségi változók. Ekkor

Ee^{it(ξ_{1}+···+ξ_{n})} = E (e^{itξ_{1}}e^{itξ_{2}} ⋯ e^{itξ_{n}}) = Ee^{itξ_{1}}Ee^{itξ_{2}} ⋯ Ee^{itξ_{n}}.

Továbbá, ha egy ξ valószínűségi változó karakterisztikus függvénye a φ(t) = Ee^{itX} függvény, akkor az AX + B karakterisztikus függvénye a

ψ(t) = Ee^{it(AX+B)} = e^{itB}Ee^{i(At)ξ} = e^{itB}φ(At).

E két képlet felhasználásával kifejezhetjük független valószínűségi változók normalizált részletösszegeinek karakterisztikus függvényét az egyes valószínűségi változók karakterisztikus függvényeinek segítségével. Egy ilyen formula valamint az Alaptételnek nevezett eredmény lehetővé teszi azt, hogy független valószínűségi változók normalizált részletösszegeire szóló határeloszlástételeket bizonyítsunk.