A Valószínűségszámítás I. előadássorozat tizenegyedik előadása. 2007. április 24.

Eloszlások konvergenciájáról.

A centrális határeloszlástétel azt állítja, hogy bizonyos valószínűségi változók eloszlásainak a sorozata konvergál a normális eloszlásfüggvényhez. E tétel teljes, részletes bizonyításával nem fogok foglalkozni, de beszélek néhány a bizonyítás során felmerülő fontos kérdésről.

Először a következő kérdéssel fogok kissé részletesebben foglalkozni. A centrális határeloszlástétel azt mondja ki, hogy bizonyos eloszlásfüggvények (független változók normalizált részletösszegeinek az eloszlásfüggvényei) eloszlásban konvergálnak a normális eloszlásfüggvényhez. De mit jelent az eloszlásban való konvergencia? Ez a kérdés korántsem olyan egyszerű, mint az első pillanatban gondolnánk. Viszont ennek tisztázása szükséges ahhoz, hogy jól megértsük a határeloszlástételek tartalmát. Először megadom a helyes definiciót, és utána elmagyarázom, miért ez a definició fejezi ki a minket érdeklő konvergenciát.

Eloszlásban való konvergencia definiciója. Legyen F_{n}(·), n = 1, 2, …, eloszlásfüggvények sorozata a számegyenesen. Azt mondjuk, hogy az F_{n}(·) eloszlásfüggvények eloszlásban konvergálnak egy F (·) eloszlásfüggvényhez, ha lim_{n→∞} F_{n}(x) = F (x) az F (·) (határ)eloszlásfüggvény minden folytonossági pontjában.

Legyen ξ_{n}, n = 1, 2, …, valószínűségi változók sorozata. Azt mondjuk, hogy a ξ_{n} valószínűségi változók eloszlásban konvergálnak egy F (·) eloszlásfüggvényhez, ha az F_{n}(x) = P (ξ_{n} < x), −∞ < x < ∞, eloszlásfüggvények eloszlásban konvergálnak az F (x) eloszlásfüggvényhez.

Legyen ξ_{n}, n = 1, 2, …, valószínűségi változók sorozata. Azt mondjuk, hogy a ξ_{n} valószínűségi változók eloszlásban konvergálnak egy ξ valószínűségi változóhoz, ha az F_{n}(x) = P (ξ_{n} < x), −∞ < x < ∞, eloszlásfüggvények eloszlásban konvergálnak az F (x) = P (ξ < x), −∞ < x < ∞ eloszlásfüggvényhez.

1. megjegyzés: A fenti definicióban van bizonyos önismétlés. Sokszor előfordul, hogy ugyanazt a fogalmat némileg eltérő szóhasználatban használják. Ezért egymás mellett felsoroltam a különböző lehetséges megfogalmazásokat. Tulajdonképpen csak arról van szó, hogy valószínűségi változók eloszlásban való konvergenciáján e valószínűségi változók eloszlásának az eloszlásban való konvergenciáját értjük. Továbbá azt mondhatjuk, hogy az eloszlásban való konvergencia limesze egy ξ valószínűségi változó, ha a limesz ennek a valószínűségi változónak az eloszlása.

2. megjegyzés: A normális eloszlásfüggvény minden pontban folytonos. Ezért a centrális határeloszlásfüggvény azt mondja ki, hogy független, egyforma eloszlású valószínűségi változók normalizáltjai eloszlásban konvergálnak a standard normális eloszlásfüggvényhez. Ebben az esetben nincs jelentősége annak, hogy a határeloszláslásfüggvény (jelen esetben nem létező) szakadási pontjaiban nem követeljük meg a konvergenciát.

Felmerül a kérdés, hogy miért van kitüntetett szerepe a határeloszlásfüggvény szakadási pontjainak az eloszlásfüggvény konvergenciájának definiciójában. Természetes-e, hogy ezekben a pontokban nem követeltük meg a konvergenciát? E kérdés megértésének érdekében a következő észrevételt teszem.

Egy a számegegyenesen megadott F eloszlásfüggvény indukál egy valószínűségi mértéket a számegyenesen. Ez az a Stieltjes mérték, amelyet μ_{F} -fel jelöltem. E mérték létezését csak kimondtam egy tételben, de az állítás bizonyítását elhagytam, mert az a mértékelmélet feladata. Az eloszlásban való konvergencia definiciójában valójában nem az F_{n} eloszlásfüggvények konvergenciáját követeljük meg az F eloszláshoz, hanem az F_{n} eloszlások által indukált μ_{F_{n}} Stieltjes mértékek konvergenciáját az F eloszlás által indukált μ_{F} mértékhez. Szemléletesen a μ_{F_{n}} mértékek úgy képzelhetők el, mint olyan tömegeloszlások a számegyenesen, amelyekben egy A ⊂ R halmaz ,,súlya” a μ_{F_{n}}(A) mérték. Az eloszlásban való konvergencia azt jelenti, hogy a μ_{F_{n}} tömegeloszlások nagy n indexre közel vannak a μ_{F} tömegeloszláshoz. A μ_{F_{n}} valószínűségi mérték közelsége a μ_{F} valószínűségi mértékhez szemléletesen azt jelenti, hogy a μ_{F_{n}} tömegeloszlás kis megmozgatásával elő lehet állítani a μ_{F} tömegeloszlást.

Az eloszlásban való konvergencia definiciójának jobb megértése érdekében tekintsük a következő egyszerű példát. Legyen x_{0} = 0, és x_{n}, n = 1, 2, …, olyan számsorozat, amelyre x_{n} < 0, n = 1, 2, …, és lim_{n→∞} x_{n} = 0. Legyen μ_{F_{n}}, n = 0, 1, 2, …, az a mérték, amely az x_{n} pontba van koncentrálva, azaz μ_{F_{n}}({x_{n}}) = 1, részletesebben μ_{F_{n}}(A) = 1, ha x_{n} ∈ A, és μ_{F_{n}}(A) = 0, ha x_{n} ∉ A. A μ_{F_{n}} eloszlás azon F_{n} eloszlásfüggvény által meghatározott Stieltjes mérték, amelyre F_{n}(x) = 0, ha x ≤ x_{n}, F_{n}(x) = 1, ha x > x_{n}. Természetes azt várni, hogy az eloszlásfüggvény alkalmas definiciója esetén a most definiált példában az F_{n} eloszlásfüggvények eloszlásban konvergálnak az F_{0} eloszláshoz. Másrészt vegyük észre, hogy lim_{n→∞} F_{n}(x) = F_{0}(x) minden x ≠ 0 számra. De az x = 0 pontban, azaz az F_{0} függvény szakadási pontjában ez a konvergencia nem teljesül, mert F_{n}(0) = 1, ha n ≥ 1, és F_{0}(0) = 0. Tehát az általunk megadott definició szerint az F_{n} eloszlások eloszlásban konvergálnak az F_{0} eloszláshoz. De ahhoz, hogy ez teljesüljön, szükség volt arra, hogy az eloszlásban való konvergencia definiciójában ne követeljük meg az eloszlásfüggvények konvergenciáját a határfüggvény szakadási pontjaiban.

Be lehet látni, hogy az eloszlásban való konvergencia kifejezi azt a szemléletes tartalmat, amelyet a tömegeloszlásokkal való reprezentáció sugall, ezt azonban nem tesszük. Ehelyett egy olyan eredményt fogalmazok meg, amely az eloszlásban való konvergencia egy ekvivalens jellemzését adja meg. Ezt az eredményt megfogalmazom itt, az előadás fő részében, de a bizonyítást csak a kiegészítésben adom meg. Az eredmény ismertetése után arról írok, hogy az miért hasznos határeloszlástételek vizsgálatában.

Tétel eloszlásban való konvergencia különböző lehetséges jellemzéséről. Eloszlásfüggvények egy F_{n}(u), n = 1, 2, …, sorozata akkor és csak akkor konvergál eloszlásban egy F (u) eloszlásfüggvényhez, ha minden a számegyenesen definiált folytonos és korlátos g(u) függvényre teljesül a

lim_{n→∞} ∫ g(u) dF_{n}(u) = ∫ g(u) dF (u)  (a)

azonosság.

1. megjegyzés: Az eloszlásban való konvergenciájának két jellemzését adtuk meg. Az egyik az eredeti definició, a másik a tételben megadott ekvivalens jellemzés. A tételben adott jellemzés azért hasznos, mert amikor eloszlások konvergenciáját akarjuk bizonyítani, akkor azt egyszerűbb úgy megtenni, hogy korlátos és folytonos függvények ezen eloszlások szerinti integráljának a konvergenciáját bizonyítjuk be. Viszont, mint a centrális határeloszlástételéhez kapcsolódó az előző előadásban tárgyalt példák is mutatják, a határeloszlástételek gyakorlati alkalmazásaiban általában eloszlásfüggvények konvergenciájának az eredeti definicióját használjuk.

2. megjegyzés: Az eloszlásban való konvergenciát szokás gyenge konvergenciának is nevezni. Érdemes megjegyezni, hogy a funkcionálanalízisben is szokás Banach terek funkcionáljainak gyenge konvergenciájáról beszélni, és az előbb kimondott tétel azt is jelenti, hogy a gyenge konvergenciának a valószínűségszámításban és funkcionálanalízisben használt értelmezése összhangban van egymással. Ugyanis egy a számegyenesen definiált μ (valószínűségi) mértéket fel lehet fogni, mint a korlátos és folytonos függvények Banach terén értelmezett (korlátos és lineáris) funkcionált. Nevezetesen a μ mérték az f(·) korlátos és folytonos függvényhez hozzárendeli a μ(f) = ∫ f(u)μ( du) számot. A funkcionálanalízisben definiált fogalomrendszer szerint a μ_{n} mértékek gyenge konvergenciája a μ mértékhez azt jelenti, hogy lim_{n→∞} ∫ f(u)μ_{n}( du) = ∫ f(u)μ( du) minden folytonos és korlátos függvény esetében, ez pedig a fent kimondott tétel szerint a μ_{n} mértékeknek, pontosabban az általuk meghatározott F_{n}(x) = μ_{n}({u: u < x}) eloszlásfüggvények gyenge (azaz eloszlásbeli) konvergenciáját jelenti a μ mértékhez, pontosabban az általa meghatározott F (x) = μ({u: u < x}) eloszlásfüggvényhez.

Sok vizsgálatban az eloszlásban való konvergenciának a tételben megadott jellemzése jobban használható mint az eredeti definició.

Megjegyzem, hogy a fenti tételnek van egy másik haszna is. Ez lehetőséget ad arra, hogy eloszlások konvergenciájának definicióját általánosabb terekben is bevezessük. Ilyen igény természetes módon felmerül, ha nemcsak valószínűségi változók viselkedését akarjuk vizsgálni, hanem véletlen folyamatokét is. Ebben az esetben az a probléma merül fel, hogy olyan valószínűségi változókkal kell dolgoznunk, amelyek értéküket nem a számegyenesen, hanem egy sokkal gazdagabb térben, például a számegyenesen értelmezett függvények terén veszik fel. Viszont az eloszlásfüggvények konvergenciájának eredeti definiciója nem általánosítható általános terekre, mert az erősen kötődik a számegyenes, (illetve a többdimenziós eloszlások definiciója esetében az euklidészi tér) geometriájához. Ha eloszlásfüggvények helyett valószínűségi mértékeket tekintünk, akkor ezek konvergenciájának a definicióját természetes módon tudjuk definiálni nagyon általános terekben is az (a) reláció általánosítása segítségével.

Ha eloszlásfüggvények konvergenciáját az (a) tulajdonság vizsgálatának segítségével akarjuk bebizonyítani, akkor természetes módon felmerül az a kérdés, hogy nem lehetséges-e ezt a feltételt gyengíteni, nem elegendő-e az (a) reláció teljesülését a folytonos és korlátos függvényeknek csak egy elég gazdag részosztályára ellenőrizni, és ennek segítségével eldönteni, hogy teljesül-e az eloszlásban való konvergencia. Természetesen a folytonos és korlátos függvények olyan részosztályát kívánjuk tekinteni, amelyikre ez a feltétel könnyebben ellenőrizhető. Kiderült, hogy erre a kérdésre igenlő választ lehet adni, elegendő csak a trigonometrikus függvényeket tekinteni, azaz az g_{t}(u) = e^{itu}, −∞ < t < ∞, alakú függvényeket. Megjegyzem, hogy ezek a függvények komplex és nem valós értékűek, de mindazok az eredmények, amelyek valós értékű valószínűségi változókra érvényesek, természetes módon általánosíthatók komplex szám értékű valószínűségi változókra is. Annak oka, hogy a trigonometrikus függvényeket jól tudjuk használni az, hogy minden −∞ < s, t < ∞, paraméterre teljesül a g_{s}(u)g_{t}(u) = e^{isu}e^{itu} = e^{i(s+t)u} = g_{s+t}(u) azonosság. Látni fogjuk, hogy ez az azonosság sok segítséget jelent, ha független valószínűségi változók összegeinek eloszlását vizsgáljuk. Megjegyzem, hogy az ilyen jellegű összefüggések alkalmazása nemcsak a valószínűségszámításban fontos. Ennek általánosításán alapul az algebra egy mély és fontos területe, a csoportreprezentációk elmélete.

A további vizsgálatokban hasznos a karakterisztikus függvények alább megadott definiciója.

Valószínűségi változó karakterisztikus függvényének a definiciója. Legyen ξ valószínűségi változó valamely (Ω, A, P) valószínűségi mezőn, és jelölje F (u) = P (ξ < u), −∞ < u < ∞, a ξ valószínűségi változó eloszlásfüggvényét. A ξ valószínűségi változónak a karakterisztikus függvénye a

φ(t) = Ee^{itξ} = ∫_{−∞}^{∞} e^{itu}F ( du), −∞ < t < ∞,

függvény. Adva egy F eloszlásfüggvény az F eloszlásfüggvény karakterisztikus függvényét is definiálni fogjuk mint egy F eloszlású ξ valószínűségi változó karakterisztikus függvényét. (Mivel a karakterisztikus függvényt a ξ valószínűségi változó eloszlásfüggvényének a segítségével ki lehet számolni, ezért jogunk van egy eloszlásfüggvény karakterisztikus függvényéről beszélni.)

A következő egyszerű állításokat azok fontosságuk miatt külön Lemma formájában mondom ki.

Lemma valószínűségi változók karakterisztikus függvényének viselkedéséről.

Legyenek ξ_{1}, …, ξ_{n} független valószínűségi változók, jelölje S_{n} = ∑_{j=1}^{n} ξ_{j} e valószínűségi

változók összegét és φ_{j}(t), 1 ≤ j ≤ n, a ξ_{j} valószínűségi változó karakterisztikus függ-

vényét. Ekkor az S_{n} összeg karakterisztikus függvénye a ψ_{n}(t) = Ee^{itS_{n}} = ∏_{j=1}^{n} φ_{j}(t),

−∞ < t < ∞ függvény. Ha A és B ≠ 0 valós számok, akkor a \frac{S_{n}−A}{B} valószínűségi változó karakterisztikus függvénye az

Ee^{it(S_{n}−A)/B} = e^{−itA/B}ψ_{n} (\frac{t}{B} ) = e^{−itA/B} ∏_{j=1}^{n} φ_{j} (\frac{t}{B} )

függvény.

Legyen ξ olyan valószínűségi változó F (·) eloszlásfüggvénnyel, amelyre teljesül az

E|ξ|^{k} = ∫_{−∞}^{∞} |u|^{k}F ( du) < ∞ egyenlőtlenség valamilyen k pozitív egész számra. Ekkor a ξ valószínűségi változó φ(t) karakterisztikus függvényének a deriváltjai megadhatók a

\frac{d^{j}}{dt^{j}} φ(t) = ∫_{−∞}^{∞} i^{j}u^{j}e^{itu}F ( du) képlettel minden 0 ≤ j ≤ k és −∞ < t < ∞ számra.

Speciálisan, t = 0 választással \frac{d^{j}φ(t)}{dt^{j}} |_{t=0} = ∫_{−∞}^{∞} i^{j}u^{j}F ( du) = i^{j}Eξ^{j} minden 0 ≤ j ≤ k

számra.

Bizonyítás:

Ee^{itS_{n}} = E^{it(ξ_{1}+···+ξ_{n})} = Ee^{itξ_{1}}e^{itξ_{2}} ⋯ e^{itξ_{n}} = Ee^{itξ_{1}}Ee^{itξ_{2}} ⋯ Ee^{itξ_{n}} = ∏_{j=1}^{n} φ_{j}(t)

a ξ_{j}, 1 ≤ j ≤ n, függetlensége miatt illetve az e^{itξ_{j}} valószínűségi változók ebből következő függetlensége miatt. Ezenkívül

Ee^{it(S_{n}−A)/B} = Ee^{i(t/B)S_{n}}e^{−itA/B} = e^{−itA/B}ψ_{n} (\frac{t}{B} ) ,

ha az S_{n} valószínűségi változó karakterisztikus függvénye ψ_{n}(t). Innen következnek a Lemma első paragrafusában kimondott állítások.

A Lemma második paragrafusában kimondott állítás bizonyítása érdekében írjuk

fel a φ(t) = Ee^{itξ} = ∫_{−∞}^{∞} e^{itu}F ( du) azonosságot, és differenciáljuk j, j ≤ k, alkalommal.

Be lehet látni, hogy az E|ξ|^{k} < ∞ feltétel teljesülése esetén az azonosság jobboldalán az integrálás és differenciálás sorrendje felcserélhető. Innen kapjuk, hogy \frac{d^{j}}{dt^{j}} φ(t) =

∫_{−∞}^{∞} i^{j}u^{j}e^{itu}F ( du). Alkalmazva a t = 0 helyettesítést megkapjuk a Lemma utolsó

állításának a bizonyítását is.

Megjegyzés: Legyenek ξ_{1}, ξ_{2}…., független, egyforma eloszlású valószínűségi változók, amelyekre Eξ_{1} = 0, és vezessük be a σ_{2} = Var ξ_{1}, valamint az Ee^{itξ_{1}} = φ(t), −∞ < t < ∞ (φ(t) a ξ_{1} valószínűségi változó karakterisztikus függvénye) jelöléseket. Legyen továbbá S_{n} = ∑_{k=1} ξ_{k} és S̄_{n} = \frac{S_{n}}{\sqrt{n}σ} az S_{n} valószínűségi változó normalizáltja. Ekkor

Ee^{itS_{n}} = φ(t)^{n}, Ee^{itS̄_{n}} = φ (\frac{t}{\sqrt{n}σ} )^{n}, és φ (\frac{t}{\sqrt{n}σ} ) ∼ 1 − \frac{t^{2}}{2nσ^{2}} . Ez a formula lehetővé

teszi, hogy viszonylag jó becslést adjunk a S̄_{n} valószínűségi változó karakterisztikus függvényére. Azt kívánjuk vizsgálni, lehetővé teszi-e ez a formula egy jó határeloszlástétel bizonyítását független, egyforma eloszlású valószínűségi változók normalizált összegeire.

Tekintsük először csak azt a speciális esetet, amikor olyan olyan ξ valószínűségi változó eloszlásfüggvényét tekintjük, amelyik csak egész értékeket vesz fel. Legyen

P (ξ = k) = p_{k}, k = 0, ±1, ±2, …, ∑_{k=−∞}^{∞} p_{k} = 1. Ekkor a ξ valószínűségi változó

karakterisztikus függvénye az φ(t) = Ee^{itξ} = ∑_{k=−∞}^{∞} e^{ikt}P (ξ = t) = ∑_{k=−∞}^{∞} p_{k}e^{ikt}, −∞ < t < ∞. Ekkor a φ(t) függvény 2π szerint periódikus, és tulajdonképpen egy Fourier sor, amelynek k-ik (azaz az e^{ikt} trigonometrikus függvényhez tartozó Fourier együtthatója) p_{k}. A Fourier sorok elméletének egy egyszerű, de nagyon fontos eredménye alapján

egy φ(t) = ∑_{k=−∞}^{∞} a_{k}e^{ikt}, −π < t ≤ π, függvény Fourier együtthatóit a φ(t) Fourier sor

ismeretében az

a_{k} = \frac{1}{2π} ∫_{−π}^{π} e^{−ikt}φ(t) dt  (∗)

képlet segítségével ki lehet számolni. Az előbb kimondott Lemma alapján független valószínűségi változók normalizált összegének a karakterisztikus függvényére viszonylag egyszerű és jó közelítést lehet adni. Ez és a (∗) formula azt is lehetővé teszi, hogy egész értékű valószínűségi változók esetében jó becslést adjunk arra, hogy független valószínűségi változók összegei egy adott értéket vesznek fel. Ez lehetővé teszi a centrális határeloszlástétel bizonyítását abban a speciális esetben, ha egész értékű valószínűségi változók összegét vizsgáljuk. Az általános eset vizsgálatának a vezérmotívuma tulajdonképpen az, hogy hogyan tudjuk ezt a módszert adaptálni az általános esetre, amikor nem áll rendelkezésünkre a (∗) képlethez hasonló viszonylag egyszerű ,,inverziós formula”. Az egész értékű valószínűségi változók vizsgálatának részleteit nem dolgozom ki. Viszont a kiegészítésben megmutatom, hogyan lehet ennek a módszernek a segítségével az analízis egyik fontos képletét, az előző előadásban megfogalmazott Stirling formulát bebizonyítani.

Ahhoz, hogy karakterisztikus függvényekkel jól tudjunk számolni, szükségünk van olyan eredményre, amely szerint a trigonometrikus polinomok a folytonos függvények egy elég gazdag részosztályát alkotják. Ilyen jellegű eredmény Weierstrass második approximációs tétele, amely azt mondja ki, hogy folytonos és periodikus függvényeket tetszőleges pontossággal lehet közelíteni a szuprémum normában trigonometrikus polinomokkal. (Weierstrass első approximációs tétele hasonló állítást fogalmaz meg véges intervallumban folytonos függvények polinomokkal való approximálhatóságáról.) Megfogalmazom ezt az eredményt, és (vázlatosan) bebizonyítom annak néhány számunkra fontos következményét.

Weierstrass második approximációs tétele. Tetszőleges folytonos és 2π szerint

periodikus f(t) függvényre és ε > 0 valós számra létezik olyan P_{n}(t) = ∑_{k=−n}^{n} a_{k}e^{ikt}

trigonometrikus polinom, amelyre

sup_{−∞<t<∞} |f(t) − P_{n}(t)| < ε.

Ahhoz, hogy eloszlásfüggvények karakterisztikus függvényeinek konvergenciájából következtetni tudjunk magunknak az eloszlásfüggvényeknek a konvergenciájára tudnunk kell azt, hogy az a karakterisztikus függvények meghatározzák az eloszlásfüggvényeket. Megfogalmazom ezt az eredményt, és megadom ennek bizonyítását Weierstrass második apprximációs tétele segítségével. Ezt a bizonyítást is csak a kiegészítésben ismertetem.

Tétel arról, hogy egy eloszlásfüggvényt meghatároz annak karakterisztikus függvénye. Legyen F (·) és G(·) két eloszlásfüggvéy, amelyek karakterisztikus függvénye megegyezik. Ekkor F (x) = G(x) minden −∞ < x < ∞ számra.

Az előző tétel bizonyítási módszerének finomítása segítségével lehet bebizonyítani a következő eredményt, amelyet fontossága miatt alaptételnek nevezünk. Ennek bizonyítása azonban a Fourier analízis más módszereit is felhasználja. Emiatt, illetve időhiány miatt a bizonyítást elhagyom.

Eloszlások konvergenciájáról szóló Alaptétel. Legyen F_{n}(u), −∞ < u < ∞, eloszlásfüggvények egy sorozata φ_{n}(t) = ∫ e^{itu}F_{n}( du) karakterisztikus függvényekkel, n = 1, 2, . . .. Ha a φ_{0}(t) = lim_{n→∞} φ_{n}(t) határérték létezik minden −∞ < t < ∞ számra, és a φ_{0}(t) limeszfüggvény folytonos az origóban, akkor létezik olyan F_{0}(u) eloszlásfüggvény, amelynek a φ_{0}(t) függvény a karakterisztikus függvénye. Továbbá e feltétel teljesülése esetén az F_{n}(u) eloszlásfüggvények eloszlásban konvergálnak az F_{0}(u) eloszlásfüggvényhez.

Megfordítva, ha F_{n}(u), n = 1, 2, …, eloszlásfüggvényeknek egy olyan sorozata, amely egy F_{0}(u) eloszlásfüggvényhez konvergál eloszlásban, φ_{n}(t), n = 1, 2, …, jelöli az F_{n}(u), φ_{0}(t) pedig az F_{0}(u) eloszlásfüggvény karakterisztikus függvényét, akkor φ_{0}(t) = lim_{n→∞} φ_{n}(t) minden −∞ < t < ∞ számra. Továbbá, ez a konvergencia egyenletes minden véges intervallumban.

A fent kimondott tétel a valószínűségszámítás rendkívül fontos eredménye, és az eloszlásbeli konvergencia vizsgálatában rendkívül fontos szerepet játszik. Ezért illik tudni ennek az eredménynek a pontos megfogalmazását. Viszont a minket érdeklő határeloszlástétel bizonyításához elegendő tudni e tétel alábbi gyengített változatát, amelynek bizonyítása egyszerűbb.

Eloszlások konvergenciájáról szóló Alaptétel gyengített változata. Legyen F_{n}(u), −∞ < u < ∞, eloszlásfüggvények egy sorozata φ_{n}(t) = ∫ e^{itu}F_{n}( du) karakterisztikus függvényekkel, n = 1, 2, …, és F_{0}(u), −∞ < u < ∞, eloszlásfüggvény φ_{0}(t) = ∫ e^{itu}F_{0}( du) karakterisztikus függvénnyel. Az F_{n} eloszlásfüggvények akkor és csak akkor konvergálnak eloszlásban az F_{0} eloszláshoz, ha a φ_{n}(t) karakterisztikus függvények konvergálnak a φ_{0}(t) karakterisztikus függvényhez minden −∞ < t < ∞ számra.

Megjegyzés: Az alaptétel illetve annak gyengített változatának fő jelentősége abban áll, hogy lehetővé teszik eloszlásfüggvények konvergenciájának bizonyítását azok karakterisztikus függvényeinek segítségével. A lényeges különbség az Alaptétel, illetve annak gyengített változata között az, hogy az Alaptétel segít a határeloszlás megtalálásában akkor is, ha azt nem ismerjük a kezdet kezdetén, illetve annak vizsgálatában, hogy létezik-e egyáltalán valamilyen határeloszlás. Ha eleve megvan a jelölt a határeloszlásra, és annak ki tudjuk számítani a karakterisztikus függvényét, (a centrális határeloszlástételben ez a helyzet), akkor a konvergencia bizonyításához elegendő az Alaptétel gyengített változatának a használata.

Az alaptétel, illetve annak gyengített változata alapján a centrális határeloszlástétel bizonyításához elég kiszámolni a standard normális eloszlásfüggvény karakterisztikus függvényét, és megmutatni, hogy ha vesszük független, egyforma eloszlású valószínűségi változók összegeinek a normalizáltjait, akkor ezek karakterisztikus függvényei a standard normális eloszlás karakterisztikus függvényéhez tartanak. Először a standard normális eloszlásfüggvény karakerisztikus függvényét számolom ki. Ez a számolás egyszerű, de fontos szerepet játszik benne a komplex függvénytan egyik alapvető eredménye arról, hogy úgynevezett analitikus függvények integrálásánál hogyan lehet áthelyezni az integrálási utat.

Tétel a standard normális eloszlásfüggvény karakterisztikus függvényéről. A φ(u) = \frac{1}{\sqrt{2π}} e^{−u^{2}/2}, −∞ < u < ∞, sűrűségfüggvénnyel rendelkező standard normális

eloszlásfüggvény karakterisztikus függvénye a g(t) = e^{−t^{2}/2} függvény, azaz

∫_{−∞}^{∞} e^{itu} \frac{1}{\sqrt{2π}} e^{−u^{2}/2} du = e^{−t^{2}/2}.

Magyarázat:

∫_{−∞}^{∞} e^{itu} \frac{1}{\sqrt{2π}} e^{−u^{2}/2} du = ∫_{−∞}^{∞} \frac{1}{\sqrt{2π}} e^{−(u−it)^{2}/2}e^{−t^{2}/2} du

= e^{−t^{2}/2} ∫_{−∞−it}^{∞−it} \frac{1}{\sqrt{2π}} e^{−u^{2}/2}e^{−t^{2}/2} du.

A fenti számolásban a szokásos technikát alkalmaztuk, az exponensben szereplő kvadratikus alakot teljes négyzetté alakítotuk át. Azt állítom, hogy

∫_{−∞−it}^{∞−it} \frac{1}{\sqrt{2π}} e^{−u^{2}/2}e^{−t^{2}/2} du = 1.

Ez az integrál abban különbözik a standard normális sűrűségfüggvény integráljától, hogy a normális sűrűségfüggvény integrálját nem a valós tengelyen, hanem egy vele párhuzamos egyenesen tekintjük. Azt állítom, hogy ez az integrál ugyanannyi, mintha a valós tengelyen integráltunk volna. Ezt nem nehéz belátni, ha szabad hivatkozni a komplex függvénytan talán legfontosabb eredményére, amely szerint egy analitikus függvény körintegrálja egy zárt görbén nulla. Azt kell kihasználni, hogy a g(x) = e^{−z^{2}/2} függvény analitikus az egész számsíkon, és ezenkívül a g(z) függvény olyan, hogy amennyiben a z argumentum imaginárius részének az abszolut értéke kisebb mint valamely fix K szám reális részének az abszolut értéke pedig nagyon nagy, akkor a g(z) függvény nagyon kicsi. Mivel ez a bizonyítás a komplex függvénytani ismeretek felhasználása segítségével egyszerűen végrehajtható, viszont ez a komplex függvénytani rész, amelyet nem tanult mindenki elengedhetetlen a bizonyításban, ezért a részletek kidolgozását elhagyom.

Vázlatosan ismertetem, hogyan lehet a fenti eredmányek segítségével belátni a centrális határeloszlástételt. Legyenek ξ_{1}, …, ξ_{n} független, egyforma eloszlású, nulla várható értékű és 1 szórásnégyzetű valószínűségi változók φ(t) karakterisztikus függ-

vénnyel. Azt kell belátni, hogy az \frac{S_{n}}{\sqrt{n}} = \frac{1}{\sqrt{n}} ∑_{k=1}^{n} ξ_{k} normalizált összegek karakterisztikus

függvényei konvergálnak a standard normális eloszlásfüggvény e^{−t^{2}/2} karakterisztikus függvényéhez, ha n → ∞. Viszont a valószínűségi változók karakterisztikus függvényének viselkedéséről szóló lemma alapján tudjuk, hogy az \frac{S_{n}}{\sqrt{n}} normalizált összeg karakter-

isztikus függvénye φ^{n} (\frac{t}{\sqrt{n}})^{n}, továbbá Taylor sorfejtés alapján φ (\frac{t}{\sqrt{n}}) ∼ 1 + i\frac{tEξ_{1}}{\sqrt{n}} −

\frac{t^{2}Eξ_{1}^{2}}{2n} = 1 − \frac{t^{2}}{2n}. Innen a vizsgált karakterisztikus függvények értékei φ^{n} (\frac{t}{\sqrt{n}})^{n} ∼

(1 − \frac{t^{2}}{2n})^{n} ∼ e^{−t^{2}/2}. A teljes bizonyítás kidolgozásához azt kell megmutatni, hogy a felhasznált aszimptotikus azonosságok elég jó közelítést adnak.

Feladat:

Mutassuk meg, a karakterisztikus függvények segítségével, hogy amennyiben ξ és η két független, normális eloszlású valószínűségi változó m_{1} és m_{2} várható értékkel, σ_{1}^{2} és σ_{2}^{2} szórásnégyzettel, akkor ξ + η normális eloszlású valószínűségi változó m_{1} + m_{2} várható értékkel, és σ_{1}^{2} + σ_{2}^{2} szórásnégyzettel. Megoldás: Írjuk fel a ξ valószínűségi változó φ_{1}(t) = Ee^{itξ} az η valószínűségi változó φ_{2}(t) = Ee^{itη} és a ζ = ξ+η valószínűségi változó φ_{3}(t) = Ee^{it(ξ+η)} karakterisztikus függvényét. Azt kapjuk, hogy φ_{1}(t) = e^{itm_{1}−σ_{1}^{2}t^{2}/2}, mert ξ = σ_{1}ξ̄ + m_{1}, ahol ξ_{1} standard normális eloszlású valószínűségi változó, ahonnan φ_{1}(t) = Ee^{it(σ_{1}ξ̄+m_{1})} = e^{itm_{1}}Ee^{i(tσ_{1})ξ̄} = e^{itm_{1}}e^{−(tσ_{1})^{2}/2}. Hasonlóan, φ_{2}(t) = e^{itm_{2}−σ_{2}^{2}t^{2}/2}. Ezért φ_{3}(t) = φ_{1}(t)φ_{2}(t) = e^{it(m_{1}+m_{2})−(σ_{1}^{2}+σ_{2}^{2})t^{2}/2}, ahonnan következik, hogy ζ normális eloszlású valószínűségi változó m_{1} + m_{2} várható értékkel és σ_{1}^{2} + σ_{2}^{2} szórásnégyzettel.

Néhány további feladat:

1.) Legyen ξ és η két független egyforma eloszlású valószínűségi változó valamely [a, a+ 1] illetve [b, b+1] intervallumon. Számítsuk ki a ξ +η és ξ −η valószínűségi változók sűrűségfüggvényét. Megoldás: A feladatot meg lehet oldani megfelelő konvoluciók kiszámításának a segítségével. De mivel ezt a feladatot már megoldottuk egy speciális esetben a 9. előadás 6. feladatában, egyszerűbb a feladat megoldását visszavezetni erre a speciális esetre. Ennek érdekében vezessünk be két független ξ_{0} és η_{0} a [−\frac{1}{2}, \frac{1}{2}] intervallumon egyenletes eloszlású valószínűségi változót. Feltehetjük, hogy ξ = ξ_{0} +a+ \frac{1}{2} és η = η_{0} +b+ \frac{1}{2}. Ekkor ξ +η = ξ_{0} +η_{0} +a+b+1, ξ −η = ξ_{0} −η_{0} +a−b. Ezenkívül ξ_{0} + η_{0} és ξ_{0} − η_{0} sűrűségfüggvénye megegyezik, és ez az említett feladat eredménye szerint g(x) = 1 − |x|, ha −1 ≤ x ≤ 1, g(x) = 0, ha x < −1 vagy x > 1. Innen x + η sűrűségfüggvénye g(x − a − b − 1) = 1 − |x − a − b − 1|, ha |x−a−b−1| ≤ 1, g(x−a−b−1) = 0, ha |x−a−b−1| > 1, ξ −η sűrűségfüggvénye g(x − a + b) = 1 − |x − a + b|, ha |x − a + b| ≤ 1, g(x − a + b) = 0, ha |x − a + b| > 1.

2.) Egy egységnyi oldalú négyzet két átellenes oldalán találomra választunk egy-egy pontot. Mekkora annak a valószínűsége, hogy ezek távolsága α-nál kisebb (1 ≤ α < \sqrt{2})?

Megoldás: Jelölje ξ a négyzet egyik, η a négyzet átellenes oldalára ledobott pont értékét. A két ledobott pont távolsága (a Pitagorasz-tétel szerint) \sqrt{(ξ − η)^{2} + 1}, ezért minket a P (\sqrt{(ξ − η)^{2} + 1} < α) = P (|ξ − η| < \sqrt{α^{2} − 1}) valószínűség értéke érdekel. ξ és η két független a [0, 1 intervallumon egyenletes eloszlású valószínűségi változó. A feladatot egyrészt megoldhatjuk a geometriai valószínűségek módszerével. Ekkor azt használjuk, ki, hogy a (ξ, η) véletlen vektor az egységnégyzet egy véletlen pontja, és a keresett valószínűség az \{(u, v): 0 ≤ u, v ≤ 1, −\sqrt{α^{2} − 1} < u − v < \sqrt{α^{2} − 1}\} halmaz területe, ami 1 − (1 − \sqrt{α^{2} − 1})^{2} = 2\sqrt{α^{2} − 1} − (α^{2} − 1). Másrészt a minket érdeklő valószínűséget kiszámolhatjuk az előző feladat segítségével is. E feladat eredménye szerint ugyanis ismerjük a ξ − η valószínűségi változó g(x) sűrűségfüggvényét, ahonnan tetszőleges 0 ≤ u ≤ 1 számra P (|ξ − η| < u) = ∫_{−u}^{u} g(x) dx = 2 ∫_{0}^{u}(1 − x) dx = 2u − u^{2} Innen u = \sqrt{α^{2} − 1} választással a keresett valószínűség 2α − α^{2} = 2\sqrt{α^{2} − 1} − (α^{2} − 1).

3.) A [0, 1] intervallumon találomra felveszünk két pontot. Mennyi annak a valószínűsége, hogy a két felvett pont távolsága kisebb, mint a 0 pontnak a hozzá közelebb eső ponttól való távolsága? Megoldás: Ezt a feladatot legegyszerűbben a geometriai valószínűségek módszerével tudjuk megoldani. Egyszerűbb először a feladatban kérdezett esemény komplementerének a valószínűségét kiszámolni. Legyen ξ az első, η a második ledobott pont értéke, és vezessük be az A = {ω: ξ(ω) > 2η(ω)} és B = {ω: η(ω) > 2ξ(ω)} eseményeket. Ekkor a minket érdeklő esemény komplementere az A ∪ B esemény. Továbbá, az A és B események diszjunktak, P (A) = P (B), ezért P (A∪B) = 2P (A). A (ξ, η) véletlen vektor egyenletes eloszlású az egységnégyzeten, és az A esemény azt jelenti, hogy ez a pont az {(u, v): 0 < 2v < u ≤ 1} halmazba esik. Ennek valószínűsége \frac{1}{4}. Ezért P (A ∪ B) = \frac{1}{2}, és a keresett valószínűség 1 − \frac{1}{2} = \frac{1}{2}. Megjegyzem, hogy az előbb tekintett P (A) eseményt a következőképp számolhatjuk ki általános elvek segítségével. A (ξ, η) véletlen vektor sűrűségfüggvényét ismerjük. Ez a ξ és η valószínűségi változók függetlensége miatt g(u, v) = f(u)f(v), ahol f(u) = 1, ha 0 ≤ u ≤ 1, f(u) = 0, ha u < 0 vagy u > 1 a ξ és η valószínűségi változók sűrűségfüggvénye. Innen,

P (A) = ∫_{{(x,y): x>2y}} g(x, y) dx dy = ∫_{{(x,y): x>2y}} f(x)f(y) dx dy

= ∫_{\{(x,y): 1≥x>2y>0\}} dx dy = ∫_{0}^{1} (∫_{0}^{x/2} dy) dx = ∫_{0}^{1} \frac{x}{2} dx = [\frac{x^{2}}{4} ]_{0}^{1} = \frac{1}{4}.

4.) Legyen ξ és η két független standard normális eloszlású valószínűségi változó. Számítsuk ki a \frac{η}{ξ} hányados eloszlás és sűrűségfüggvényét. Megoldás: Tegyünk először egy általános megjegyzést. Ha adva van két valószínűségi változó ξ és η, amelyek (együttes sűrűségfüggvénye egy ismert f(u, v) sűrűségfüggvény, akkor az \frac{η}{ξ} hányados eloszlásfüggvényét a következő módon számolhatjuk ki: Vezessük be a g(u, v) = g_{x}(u, v) függvényt, amely a síkon az \{(u, v): \frac{v}{u} < x\} halmaz indikátorfüggvénye, azaz g(u, v) = 1, ha \frac{v}{u} < x, és g(u, v) = 0, ha \frac{v}{u} ≥ x.

Ekkor

P (\frac{η}{ξ} < x) = Eg(ξ, η) = ∫ ∫ g(u, v)f(u, v) du dv = ∫ ∫_{\{(u,v): \frac{v}{u} <x\}} f(u, v) du dv.

Látni fogjuk, hogy az ebben a feladatban vizsgálandó integrál viszonylag egyszerű, könnyebben kezelhető. A feladatban vizsgálandó hányados eloszlásfüggvénye

F (x) = P (\frac{η}{ξ} < x) = ∫∫_{v<xu} \frac{1}{2π} e^{−(u^{2}+v^{2})/2} du dv

= 2\frac{1}{2π} ∫_{− \frac{π}{2} <φ<arctan x} ∫_{0}^{∞} re^{−r^{2}/2} dr dφ = \frac{1}{2} + \frac{1}{π} arctan x.

Ebben a számolásban a felírt integrált átírtuk u = r cos φ, v = r sin φ transzformációval polárkoordinátarendszerben. E számolás során az integrandusban megjelenik az r Jacobian mint szorzó faktor. Ezután azt vegyük észre, hogy a belső r változó szerinti integrál ∫_{0}^{∞} re^{−r^{2}/2} dr = [−e^{−r^{2}/2}]_{0}^{∞} = 1.

Kiszámoltuk a keresett valószínűségi változó eloszlásfüggvényét. E valószínűségi változó sűrűségfüggvénye az eloszlásfüggvény deriváltja, azaz az f(x) = \frac{dF (x)}{dx} = \frac{1}{π(1+x^{2})} függvény.

Második megoldás. A (ξ, η) vektor sűrűségfüggvénye \frac{1}{2π} e^{−(x^{2}+y^{2})/2}, ami forgatásinvariáns függvény. Innen következik, hogy annak valószínűsége, hogy a (ξ, η) vektor egy origóból kiinduló α szögű szögtartományba esik, \frac{α}{2π}. Ezért

P (\frac{η}{ξ} < x) = P ((ξ, η) ∈ [−\frac{π}{2} , arctan x) ∪ [\frac{π}{2} , arctan x + π) szögtartományban)
= \frac{1}{2π} 2 (arctan x + \frac{π}{2} ) = \frac{1}{2} + \frac{1}{π} arctan x.

5.) Tegyük fel, hogy a következő játékot játszhatjuk: Feldobnak egy szabályos pénzdarabot egymástól függetlenül egymás után. Amennyiben fej a dobás eredménye, akkor a feltett tét dupláját kapjuk, ha írás, akkor a tét \frac{2}{3} részét elveszítjük, és csak \frac{1}{3} részét őrizhetjük meg. Mivel ez a játék előnyös, ezért feltesszük minden játékban minden pénzünket. Lássuk be, hogy amennyiben A volt a vagyonunk a játék kezdete előtt, és Z_{n} jelöli vagyonunkat az n-ik játék után, akkor

a) EZ_{n} = A (\frac{7}{6})^{n}, azaz vagyonunk várható értéke exponenciálisan nő.

b) Z_{n} sztochasztikusan tart nullához, azaz ha sokáig játszunk akkor közel egy valószínűséggel majdnem minden pénzünket elveszítjük. (Valójában Z_{n} egy valószínűséggel is tart nullához, csak ennek indoklásához szükséges az előadáson eddig nem tárgyalt nagy számok erős törvénye is.)

c) Értsük meg, hogy ez a két állítás nem mond egymásnak ellent.

Megoldás: Vezessük be a következő ξ_{j} valószínűségi változókat: ξ_{j} = 2, ha a j-ik dobás eredménye fej, ξ_{j} = \frac{1}{3}, ha a j-ik dobás eredménye írás. Ekkor ξ_{1}, ξ_{2}, …, független valószínűségi változók, P (ξ_{j} = 2) = P (ξ_{j} = \frac{1}{3}) = \frac{1}{2}, és ezenkívül Z_{n} = Aξ_{1}ξ_{2} ⋯ ξ_{n}. Ezért Eξ_{j} = \frac{1}{2} (2 + \frac{1}{3}) = \frac{7}{6}, és EZ_{n} = EAξ_{1}ξ_{2} ⋯ ξ_{n} = AEξ_{1}Eξ_{2} ⋯ Eξ_{n} = A (\frac{7}{6})^{n}. Ez a feladat a) állítása.

A Z_{n} = Aξ_{1}ξ_{2} ⋯ ξ_{n} relációból következik, hogy \frac{1}{n} log Z_{n} = \frac{log A}{n} + \frac{1}{n} ∑_{j=1}^{n} log ξ_{j}. Továb-

bá, E log ξ_{j} = \frac{1}{2} (log 2 + log \frac{1}{3}) = −\frac{1}{2} log \frac{3}{2}. Ezért a nagy számok (gyenge) törvénye szerint \frac{1}{n} log Z_{n} sztochasztikusan konvergál a negatív −\frac{1}{2} log \frac{3}{2} számhoz. Innen tetszőleges

ε > 0 számra P (Z_{n} > ε) = P (\frac{1}{n} log Z_{n} > \frac{log ε}{n}), és ez a valószínűség nullához tart, ha

n → ∞. Valóban, a nagy számok gyenge törvénye, és a −\frac{1}{10} > −\frac{1}{2} log \frac{3}{2} egyenlőtlenség miatt lim_{n→∞} P (\frac{1}{n} log Z_{n} < −\frac{1}{10}) = 1. Mivel lim_{n→∞} \frac{log ε}{n} = 0 innen következik a feladat b) állítása.

Az a) rész bizonyítása azon alapult, hogy Eξ_{j} > 1, a b) részé pedig azon, hogy E log ξ_{j} < 0. Ez a két egyenlőtlenség teljesülhet egyszerre, mert a várható érték és a logaritmus egymással nem felcserélhető. Igaz az Ee^{η} ≥ e^{Eη} egyenlőtlenség (ez a konvex függvényekre vonatkozó úgynevezett Jensen egyenlőtlenség speciális esete), ahonnan ξ = log η választással Eξ ≥ e^{log Eξ}, de egyenlőség nem írható a fenti egyenlőtlenség helyett. Jegyezzük meg, hogy hasonló, de egyszerűbben érthető példát mutat a feladat a) és b) állításának egyszerre való teljesülésére a következő modell. Olyan játékot játszunk, amelyben \frac{1}{2} valószínűséggel elveszítjük, \frac{1}{2} valószínűséggel pedig megháromszorozzuk a pénzünket. Az egyes játékok egymástól függetlenek, és minden időpontban minden pénzünket feltesszük. Ekkor annak a valószínűsége, hogy az n-ik játék után minden pénzünket elveszítjük, 1 − (\frac{1}{2})^{n}, ami rendkívül gyorsan tart egyhez, és pénzünk várható értéke 3^{n} (\frac{1}{2})^{n}, ami exponenciálisan gyorsan nő az n függvényében. Hasonló, csak kissé rejtettebb eset történik az általunk tárgyalt feladatban is. Tekintsük a feladatban vizsgált játék nyereményét sok játék után. Azt állíthatjuk, hogy nagy n indexre az n-ik játék után nagy valószínűséggel alig marad pénzünk. Viszont kis valószínűséggel nagyon sok pénzt nyerünk, és ezért nyereményünk várható értéke nagy. Ez az oka annak, hogy nemcsak a b), hanem az a) állítás is teljesül.

Észrevétel az ötödik feladathoz:

Tekintsük az előző feladatban tekintett játékot azzal a különbséggel, hogy a játék minden egyes fordulójában vagyonunk u-ad részét, 0 ≤ u ≤ 1, tesszük fel tétként. Jelölje Z_{n}(u) vagyonunkat a játék n-ik lépése után. Ekkor az \frac{1}{n} log Z_{n}(u) valószínűségi változók sztochasztikusan konvergálnak egy B(u) számhoz. Határozzuk meg a legjobb ū számot, amelyikre B(ū) = sup_{0≤u≤1} B(u). Lássuk be, hogy B(ū) > 0.

Megoldás: Vezessük be a ξ_{j} = ξ_{j}(u), j = 1, 2, …, valószínűségi változókat, melyekre ξ_{j} = 1 + u, ha a j-ik dobás eredménye fej, és ξ_{j} = ξ_{j}(u) = 1 − \frac{2u}{3}, ha a j-ik dobás eredménye írás. Ekkor az n-ik lépésben a vagyonunk Z_{n} = Aξ_{1} ⋯ ξ_{n}, a ξ_{j}, j = 1, 2, …, valószínűségi változók függetlenek és egyforma eloszlásúak, ezért \frac{1}{n} log Z_{n} = \frac{log A}{n} +

\frac{1}{n} ∑_{j=1}^{n} log ξ_{j}, és a nagy számok gyenge törvénye szerint az \frac{1}{n} log Z_{n} valószínűségi változók sztochasztikusan konvergálnak a B(u) = E log ξ_{1} = \frac{1}{2} (log(1 + u) + log (1 − \frac{2u}{3})) = \frac{1}{2} log(1 + u) (1 − \frac{2u}{3}) számhoz. A B(u) függvény a maximumát az ū = \frac{1}{4} helyen veszi fel, és B(ū) = \frac{1}{2} log \frac{25}{24} > 1.

Néhány az eloszlások konvergenciájával kapcsolatos eredmény bizonyítása.

Az eloszlásban való konvergencia különböző lehetséges jellemzéséről szóló tétel bizonyítása. Tegyük fel először azt, hogy az F_{n} eloszlásfüggvények eloszlásban konvergálnak egy F eloszlásfüggvényhez, és tekintsünk egy folytonos és korlátos g(·) függvényt a számegyenesen. Ekkor a g függvény folytonossága és az F illetve F_{n} eloszlásfüggvények viselkedése miatt ±∞ pontok környezetében minden ε > 0 számhoz létezik olyan elég nagy K = K(ε) > 0, amelyre ∫_{u: |u|>K} |g(u)| dF_{n}(u) < ε minden n = 1, 2, … indexre, és ez az állítás érvényes akkor is, ha az F_{n} eloszlásfüggvényt az F eloszlásfüggvénnyel helyettesítjük. Továbbá a folytonos g(·) függvény a [−K, K] intervallumban egyenletesen folytonos. Ennek az észrevételnek és annak a ténynek a segítségével, hogy lim_{n→∞} F_{n}(x) = F (x) az F (·) minden folytonossági pontjában be lehet látni, véve a [−K, K] intervallumnak egy olyan elég finom felosztását, amelynek az osztópontjai az F függvény folytonossági pontjai, hogy

|∫_{u: |u|≤K} g(u) dF_{n}(u) − ∫_{u: |u|≤K} g(u) dF (u)| < ε, ha n ≥ n_{0}(ε).

(E lépésben kihasználjuk azt, hogy egy monoton függvénynek csak megszámlálható sok szakadási pontja van. Miért?) Innen ε → 0 határátmenettel megkapjuk az (a) állítás bizonyítását.

Megfordítva tegyük fel, hogy teljesül az (a) reláció, és legyen x az F függvény folytonossági pontja. Rögzítve egy kis ε > 0 számot definiáljuk a következő g^{±}(u) = g_{x,ε}^{±}(u), −∞ < u < ∞ folytonos és korlátos függvényeket: g^{+}(u) = 0, ha u ≥ x + ε, g^{+}(u) = 1, ha u ≤ x, g^{+}(u) = \frac{x+ε−u}{ε}, ha x ≤ u ≤ x+ε, g^{−}(u) = 0, ha u ≥ x, g^{−}u) = 1, ha u ≤ x − ε, g^{−}(u) = \frac{x−u}{ε}, ha x − ε ≤ u ≤ x. Alkalmazva az (a) állítást kapjuk, hogy

F (x − ε) ≤ ∫ g_{ε,x}^{−}(u)F ( du) = lim_{n→∞} ∫ g_{ε,x}^{−}(u)F_{n}( du) ≤ lim inf_{n→∞} F_{n}(x)

≤ lim sup_{n→∞} F_{n}(x) ≤ lim_{n→∞} ∫ g_{ε,x}^{+}(u)F_{n}( du) = ∫ g_{ε,x}^{+}(u)F ( du) ≤ F (x + ε),

és véve az ε → 0 határátmenetet kapjuk, hogy lim_{n→∞} F_{n}(x) = F (x), feltéve, hogy az x pont az F függvény folytonossági pontja.

Annak bizonyítása, hogy egy eloszlásfüggvényt meghatároz a karakterisztikus függvénye. Vegyük észre, hogy Weierstrass második approximációs tételéből következik, hogy tetszőleges K > 0 és ε > 0 számokra és a K szám szerint periodikus h(·) függvényre igaz,

hogy létezik olyan P_{n}(t) = ∑_{j=−n}^{n} a_{j}e^{2πijt/K} trigonometrikus polinom, amelyre teljesül a sup_{−∞<t<∞} |P_{n}(t) − h(t)| ≤ ε becslés. Integrálva a h(·) és a P_{n}(·) függvényt a F és G

eloszlásfüggvény szerint, a fenti approximációból kapjuk, hogy ∫ |h(u)−P_{n}(u)|F ( du) ≤ ε és ∫ |h(u) − P_{n}(u)|G( du) ≤ ε. Ezért |∫ h(u)F ( du) − ∫ h(u)G( du)| ≤ 2ε. Mivel ez minden ε > 0 számra igaz, ezért ∫ h(u)F ( du) = ∫ h(u)G( du). Továbbá, innen következik az is, hogy ha h(·) kompakt tartójú, folytonos függvény, azaz ha létezik olyan A szám, amelyre h(u) = 0, ha |u| ≥ A, akkor ∫ h(u)F ( du) = ∫ h(u)G( du). Valóban, definiáljuk minden K > A számra azt a h_{K}(·) függvényt, amely a h(·) függvény [−K, K] intervallumra vett megszorításának a 2K szerinti periodikus kiterjesztése, azaz h_{K}(u) = h(u − 2lK), ahol l olyan egész szám, amelyre −K ≤ u < K. Ekkor ∫ h(u)F ( du) =

lim_{K→∞} ∫ h_{K}(u)F ( du) = lim_{K→∞} ∫ h_{K}(u)G( du) = ∫ h(u)G( du).

Legyenek −∞ < x < y < ∞ olyan számok a számegyenesen, amelyek folytonossági pontjai mind az F mind a G eloszlásfüggvénynek. Belátjuk a fenti reláció segítségével, hogy F (y) − F (x) = G(y) − G(x). Valóban, rögzítsünk egy ε > 0 számot, és definiáljuk a következő h(·) = h_{ε}(·)függvényt: h(u) = 1, ha x ≤ u ≤ y, h(u) = 0, ha y + ε ≤ u vagy u ≤ x−ε, h(u) = \frac{y+ε−u}{ε}, ha y ≤ u ≤ y+ε, h(u) = \frac{u−x+ε}{ε}, ha x−ε ≤ u ≤ x. Felhasználva az ∫ h_{ε}^{±}(u)F ( du) = ∫ h_{ε}^{±}(u)G( du) azonosságot, és azt hogy lim_{ε→0} ∫ h_{ε}(u)F ( du) = F (y)−

F (x), lim_{ε→0} ∫ h_{ε}(u)G( du) = G(y) − G(x), ha x és y az F és G függvény folytonossági

pontjai, ε → 0 határátmenettel kapjuk az F (y) − F (x) = G(y) − G(x) azonosságot.

Ez utóbbi azonosságot felhasználva és alkalmazva az x → −∞ határátmenetet kapjuk, hogy F (y) = G(y), ha y mind az F (·) mind a G(·) eloszlásfüggvénynek folytonossági pontja. Mivel az F és G eloszlásfüggvénynek csak megszámlálható sok szakadási pontja van, és mind a két függvény balról folytonos, innen következik, hogy az F és G eloszlásfüggvények megegyeznek.

Stirling formula:

n! ∼ \sqrt{2πn} (\frac{n}{e})^{n} ,

A Stirling formula bizonyítása: Először azt mutatom meg, hogy

n! = (\frac{n}{e})^{n} \frac{2π}{∫_{−π}^{π} e^{n(e^{it}−1−it)} dt}.  (a)

Tekintsünk egy ξ Poisson eloszlású valószínűségi változót λ = n paraméterrel, legyen azaz P (ξ = k) = \frac{n^{k}}{k!} e^{−n}, k = 0, 1, 2, . . .. Számítsuk ki a ξ valószínűségi változó P (t) = Ee^{itξ} karakterisztikus függvényét. Ez a következő P_{n}(t) Fourier sor:

P_{n}(t) = ∑_{k=0}^{∞} P (ξ = k)e^{itk} = ∑_{k=0}^{∞} \frac{n^{k}}{k!} e^{−n+ikt} = e^{−n} ∑_{k=0}^{∞} \frac{(ne^{it})^{k}}{k!} = e^{−n+ne^{it}}.

Innen, illetve a (∗) formulából k = n választással kapjuk, hogy

P (ξ = n) = \frac{n^{n}}{n!} e^{−n} = \frac{1}{2π} ∫_{−π}^{π} e^{−int}P_{n}(t) dt = \frac{1}{2π} ∫_{−π}^{π} e^{−int−n+ne^{it}}) dt.

Ez a formula ekvivalens az (a) formulával.

Az (a) formula alapján a Stirling formula bizonyításához elég megmutatni azt, hogy

lim_{n→∞} \begin{matrix}√ & \overline{n} \\ √ & \overline{2π} \end{matrix} ∫_{−π}^{π} e^{n(e^{it}−1−it)} dt = 1,

amit úgyis írhatunk, hogy

lim_{n→∞} \frac{∫_{−π}^{π} e^{n(e^{it}−1−it)} dt}{∫_{−∞}^{∞} e^{−nt^{2}/2} dt} = 1.

Viszont tekintve az e^{it} függvény Taylor sorát kapjuk, hogy

n(e^{it} − 1 − it) = −n (\frac{t^{2}}{2} + α(t)t^{3}) = −\frac{nt^{2}}{2} + β(t)n^{−1/8},

alkalmas |α(t)| ≤ const. és |β(t)| ≤ const. együtthatókkal, ha |t| ≤ n^{3/8}, ahonnan e^{n(e^{it}−1−it)} = e^{−nt^{2}/2}e^{β(t)n^{−1/8}} = e^{−nt^{2}/2} (1 + γ(t)n^{−1/8}), |γ(t)| ≤ const. , ha t ≤ n^{3/8}, és

lim_{n→∞} \frac{∫_{−n^{−3/8}}^{n^{−3/8}} e^{n(e^{it}−1−it)} dt}{∫_{−n^{−3/8}}^{n^{−3/8}} e^{−nt^{2}/2} dt} = 1.

Továbbá nem nehéz belátni, hogy

lim_{n→∞} \frac{∫_{−n^{−3/8}}^{n^{−3/8}} e^{−nt^{2}/2} dt}{∫_{−∞}^{∞} e^{−nt^{2}/2} dt} = 1,

ezért elég megmutatni, hogy az ∫_{−π}^{−n^{−3/8}} e^{n(e^{it}−1−it)} dt és ∫_{n^{−3/8}}^{π} e^{n(e^{it}−1−it)} dt integrálok elég kicsik. Ennek bizonyításához jegyezzük viszont meg, hogy |e^{z}| = e^{Re z} tetszőleges z komplex számra, ahol Re z a z szám valós részét jelöli. Innen

|e^{n(e^{it}−1−it)}| = e^{n(cos t−1)} ≤ e^{−const. n^{1/4}},

ha n^{3/8} ≤ |t| ≤ π, ahonnan következik a kívánt becslés.