A Valószínűségszámítás I. előadássorozat kilencedik témája.

Centrális határeloszlástétel.

Megfogalmazom a valószínűségszámítás talán legfontosabb eredményét, a centrális határeloszlástételt, és megmutatom néhány alkalmazását. A tétel bizonyítása és egy ehhez kapcsolódó kérdés vizsgálata, amely arról szól, hogy mit jelent eloszlásfüggvények konvergenciája az általános esetben, és hogyan lehet ilyen konvergenciát bizonyítani az előadássorozat következő témája lesz.

A centrális határeloszlástétel megfogalmazása előtt felidézek néhány korábbi fogalmat és eredményt. Egy ξ valószínűségi változó standard normális eloszlású, ha sűrűségfüggvénye φ(x) = \frac{1}{\sqrt{2π}} e^{−x^{2}/2}, −∞ < x < ∞, alakú. Ha ξ standard normális eloszlású valószínűségi változó, akkor Eξ = 0, Var ξ = Eξ^{2} = 1. Ebben az esetben σξ + m egy m várható értékű és σ^{2} szórásnégyzetű valószínűségi változó, és az ilyen módon előállítható valószínűségi változókat nevezzük m várható értékű és σ^{2} szórásnégyztű normális eloszlású valószínűségi változóknak. Be lehet látni, hogy egy ξ valószínűségi változó akkor és csak akkor normális eloszlású m várható értékkel és σ^{2} szórásnégyzettel, ha sűrűségfüggvénye a g(x) = \frac{1}{\sqrt{2π}σ} e^{−(x−m)^{2}/2σ^{2}}, −∞ < x < ∞, függvény. Ezt a tényt fogalmazom meg a következő észrevételben.

Észrevétel: Egy η valószínűségi változó akkor és csak akkor m várható értékű és σ^{2} szórásnégyzetű normális eloszlású valószínűségi változó, ha sűrűségfüggvénye a g(x) = \frac{1}{\sqrt{2π}σ} e^{−(x−m)^{2}/2σ^{2}}, −∞ < x < ∞ függvény.

Indoklás: Ha η = σξ+m, ahol ξ standard normális eloszlású valószínűségi változó, akkor η sűrűségfüggvénye g(x) = \frac{1}{σ} φ (\frac{x−m}{σ}) = \frac{1}{\sqrt{2π}σ} e^{−(x−m)^{2}/2σ^{2}}, ahogy azt állítottuk. Megfordítva, ha η sűrűségfüggvénye az adott alakú, akkor a ξ = \frac{η−m}{σ} valószínűségi változó sűrűségfüggvénye f(x) = σg (σx + m) = φ(x), azaz ez standard normális eloszlású valószínűségi változó, és η = σξ + m.

Feladat:

Legyen η_{1} és η_{2} két független, normális eloszlású valószínűségi változó m_{1} illetve m_{2} várható értékkel, σ_{1}^{2} és σ_{2}^{2} szórásnégyzettel. Lássuk be, hogy az η_{1} + η_{2} összeg m_{1} + m_{2} várható értékú és σ_{1}^{2} + σ_{2}^{2} szórásnégyzetű normális eloszlású valószínűségi változó.

A feladat megoldása előtt érdemes megjegyezni, hogy

∫_{−∞}^{∞} e^{−(x−A)^{2}/B} dx = \sqrt{Bπ}.

Ez y = \sqrt{2}\frac{x−A}{\sqrt{B}} helyettesítéssel következik abból a tényből, hogy a φ(y) = \frac{1}{\sqrt{2π}} e^{−y^{2}/2}

függvény sűrűségfüggvény, azaz \frac{1}{\sqrt{2π}} ∫_{−∞}^{∞} e^{−y^{2}/2} dy = 1. Ez az észrevétel azért hasznos, mert segítségével ki tudunk számolni egy olyan az egész számegyenesen vett integrált, ahol az integrandus egy (felülről korlátos) kvadratikus alak exponenciális függvénye.

Az integrál kiszámolása érdekében az inegrandusban szereplő kvadratikus alakot teljes négyzetté alakítjuk. Ez a gondolata a most tárgyalt feladat megoldásának is.

Megoldás: Az η_{1} + η_{2} valószínűségi változó sűrűségfüggvénye

f(x) = ∫_{−∞}^{∞} \frac{1}{2πσ_{1}σ_{2}} e^{−(u−m_{1})^{2}/2σ_{1}^{2}}e^{−(x−u−m_{2})^{2}/2σ_{2}^{2}} du

= ∫_{−∞}^{∞} \frac{1}{2πσ_{1}σ_{2}} exp\{−u^{2} (\frac{1}{2σ_{1}^{2}} + \frac{1}{2σ_{2}^{2}} ) + u (\frac{m_{1}}{σ_{1}^{2}} + \frac{x − m_{2}}{σ_{2}^{2}} )

− \frac{m_{1}^{2}}{2σ_{1}^{2}} − \frac{(x − m_{2})^{2}}{2σ_{2}^{2}} \} du

= ∫_{−∞}^{∞} \frac{1}{2πσ_{1}σ_{2}} exp\{−\frac{σ_{1}^{2} + σ_{2}^{2}}{2σ_{1}^{2}σ_{2}^{2}} (u − \frac{m_{1}σ_{2}^{2} + (x − m_{2})σ_{1}^{2}}{σ_{1}^{2} + σ_{2}^{2}} )^{2}

+ \frac{(m_{1}σ_{2}^{2} + (x − m_{2})σ_{1}^{2})^{2}}{2σ_{1}^{2}σ_{2}^{2}(σ_{1}^{2} + σ_{2}^{2})} − \frac{m_{1}^{2}}{2σ_{1}^{2}} − \frac{(x − m_{2})^{2}}{2σ_{2}^{2}} \} du

= ∫_{−∞}^{∞} \frac{1}{2πσ_{1}σ_{2}} exp \{−\frac{σ_{1}^{2} + σ_{2}^{2}}{2σ_{1}^{2}σ_{2}^{2}} u^{2}\} du

exp \{\frac{(m_{1}σ_{2}^{2} + (x − m_{2})σ_{1}^{2})^{2}}{2σ_{1}^{2}σ_{2}^{2}(σ_{1}^{2} + σ_{2}^{2})} − \frac{m_{1}^{2}}{2σ_{1}^{2}} − \frac{(x − m_{2})^{2}}{2σ_{2}^{2}} \}

= \frac{1}{\sqrt{2π(σ_{1}^{2} + σ_{2}^{2})}} exp \{\frac{(m_{1}σ_{2}^{2} + (x − m_{2})σ_{1}^{2})^{2}}{2σ_{1}^{2}σ_{2}^{2}(σ_{1}^{2} + σ_{2}^{2})} − \frac{m_{1}^{2}σ_{2}^{2} + (x − m_{2})^{2}σ_{1}^{2}}{2σ_{1}^{2}σ_{2}^{2}} \}

= \frac{1}{\sqrt{2π(σ_{1}^{2} + σ_{2}^{2})}} exp \{\frac{−m_{1}^{2}σ_{1}^{2}σ_{2}^{2} − (x − m_{2})^{2}σ_{1}^{2}σ_{2}^{2} + 2m_{1}(x − m_{2})σ_{1}^{2}σ_{2}^{2}}{2σ_{1}^{2}σ_{2}^{2}(σ_{1}^{2} + σ_{2}^{2})} \}

= \frac{1}{\sqrt{2π(σ_{1}^{2} + σ_{2}^{2})}} exp \{−\frac{m_{1}^{2} + (x − m_{2})^{2} − 2m_{1}(x − m_{2})}{2(σ_{1}^{2} + σ_{2}^{2})}\}

= \frac{1}{\sqrt{2π(σ_{1}^{2} + σ_{2}^{2})}} exp \{−\frac{(x − m_{1} − m_{2})^{2}}{2(σ_{1}^{2} + σ_{2}^{2})} \} .

Megjegyzés: A fenti számolás meglehetősen kényelmetlen, de bizonyos általános elvek segíthetnek megérteni, hogy miért ezt az eredményt kaptuk. A felírt konvolució alakjából következik, hogy a végeredmény egy olyan kifejezés, amelynek exponensében egy kvadratikus alak szerepel, és ez meg van szorozva valamilyen konstanssal. Továbbá, a végeredmény egy sűrűségfüggvény, mivel két sűrűségfüggvény konvoluciója ismét sűrűségfüggvény. Ezért a végeredmény szükségszerűen normális sűrűségfüggvény. Ezenkívül, mivel független valószínűségi változók összegének a várható értéke és szórásnǵyzete egyenlő az összeadandók várható értékének illetve szórásnégyzetének az összegével, ezért a végeredmény egy olyan (normális eloszású) valószínűségi változó sűrűségfüggvénye, amelynek várható értéke m_{1} + m_{2} szórásnégyzete pedig σ_{1}^{2} + σ_{2}^{2}.

Később megmutatom, hogy hogyan lehet a most tárgyalt azonosságot bizonyos eddig még nem tárgyalt eredmények segítségével egyszerűbben megkapni.

A centrális határeloszlástétel.

A centrális határeloszlástétel a valószínűségszámítás egyik legfontosabb eredménye. Azt mondja ki, hogy ha sok független valószínűségi változót összegezünk, és az összeget alkalmasan normalizáljuk, akkor nagyon általános feltételek teljesülése esetén a normalizált összeg eloszlása közelítőleg a standard normális eloszlás. A tétel megfogalmazása előtt vezessünk be egy az irodalomban gyakran használt fogalmat.

Egy valószínűségi változó normalizáltjának a fogalma. Legyen ξ olyan valószínűségi változó, amelyre Eξ^{2} < ∞. A ξ valószínűségi változó normalizáltja a ξ̄ = \frac{ξ−Eξ}{\sqrt{Var ξ}}

valószínűségi változó, Ez a ξ valószínűségi változónak olyan lineáris transzformáltja, amelynek várható értéke nulla, szórásnégyzete pedig 1.

Jegyezzük meg, hogy ha ξ_{1}, …, ξ_{n} független valószínűségi változók, amelyekre

Eξ_{j}^{2} < ∞ minden 1 ≤ j ≤ n indexre, akkor az S = ∑_{j=1}^{n} ξ_{j} összeg normalizáltja az

S̄ = \frac{∑_{j=1}^{n} ξ_{j} − ∑_{j=1}^{n} Eξ_{j}}{\sqrt{∑_{j=1}^{n} Var ξ_{j}}}

kifejezés.

Centrális határeloszlástétel. Legyenek ξ_{1}, ξ_{2}, …, független, egyforma eloszlású va-

lószínűségi változók, jelölje S_{n} = ∑_{j=1}^{n} ξ_{j}, n = 1, 2, …, e valószínűségi változók részlet-

összegeit. Ekkor az S_{n} valószínűségi változók \frac{S_{n}−ES_{n}}{\sqrt{Var S_{n}}} = \frac{∑_{j=1}^{n} ξ_{j}−∑_{j=1}^{n} Eξ_{j}}{\sqrt{∑_{j=1}^{n} Var ξ_{j}}} normalizáltjai

teljesítik a

lim_{n→∞} P (\frac{S_{n} − ES_{n}}{\sqrt{Var S_{n}}} < x) = Φ(x), minden − ∞ < x < ∞ számra

relációt, ahol Φ(x) = ∫_{−∞}^{x} \frac{1}{\sqrt{2π}} e^{−u^{2}/2} du, a standard normális eloszásfüggvény.

1. megjegyzés. Az előbb kimondott tétel valójában speciális esete az általános centrális határeloszlástételnek, amely hasonló eredményt mond ki független, de nem feltétlenül azonos eloszlású valószínűségi változók normalizált részletösszegeire nagyon általános feltételek mellett. A centrális határeloszlástétel általános alakjának az ismertetése a következő félév anyaga lesz.

2. megjegyzés. Láttuk, hogy független normális eloszlású valószínűségi változók részletösszegeinek normalizáltja standard normális eloszlású valószínűségi változó. Ez következik az előadás elején tárgyalt feladat eredményéből, amely szerint független, normális eloszlású valószínűségi változók összege is normális eloszlású. A centrális határeloszlástétel azt állítja, hogy sok független, de nem feltétlenül normális eloszlású valószínűségi változó összegének a normalizáltja nemcsak nulla várható értékű és egy szórásnégyzetű valószínűségi változó, hanem ezenkívül közelítőleg normális eloszlású is. Ez azt jelenti, hogy sok összeadandó esetén az összeg eloszlása ,,elfelejti” az ”osszeadandók eloszlását, és eloszlásfüggvénye közelítőleg a standard normális eloszlásfüggvény. Bár ezt az eredményt be lehet bizonyítani, az mégis rendkívül meglepő. A centrális határeloszlástételt tekinthetjük a valószínűségszámítás legnagyobb misztériumának.

3. megjegyzés. A műszaki tudományokban beszélnek egy olyan megfigyelésről, amelyet hibatörvénynek neveznek. Gyakran előfordul, hogy egy műszaki feladatban egy kisérletet többször egymástól függetlenül elvégeznek, azok eredményeit többször megmérik, de az egyes mérések pontatlanok. A tapasztalat azt mutatja, hogy a mért eredmények diagramja majdnem mindig egy az igazi érték körüli úgynevezett haranggörbét rajzol ki. A meglepő tény az, hogy a legkülönbözőbb feladatokban mindig ugyanaz a görbe jelenik meg. E tény hátterében valójában a centrális határeloszlástétel rejlik. A jelenség oka az, hogy a hiba sok kis apró egymástól független hiba összegeként keletkezik. Ezért a centrális határeloszlástétel szerint a hiba normális eloszlású, és a ,,hibatörvényben” megjelenő haranggörbe valójában a normális sűrűségfüggvény görbéje.

4. megjegyzés. Ha a ξ_{1}, ξ_{2}, … független valószínűségi változók normalizált részletösszegei teljesítik a centrális határeloszlástételt, akkor minden −∞ < x < y < ∞ számra teljesül a

lim_{n→∞} P (x < \frac{S_{n} − ES_{n}}{\sqrt{Var S_{n}}} < y) = Φ(y) − Φ(x)

azonosság, mert

P (x < \frac{S_{n} − ES_{n}}{\sqrt{Var S_{n}}} < y) = P (\frac{S_{n} − ES_{n}}{\sqrt{Var S_{n}}} < y) − P (\frac{S_{n} − ES_{n}}{\sqrt{Var S_{n}}} ≤ x) .

Jegyezzük meg továbbá, hogy Φ(−y) = 1 − Φ(y) minden −∞ < y < ∞ számra, mivel a Φ(·) eloszlásfüggvény φ(·) sűrűségfüggvénye páros függvény. Valóban, Φ(−y) = ∫_{−∞}^{−y} φ(u) du = 1 − ∫_{−y}^{∞} φ(u) du = 1 − ∫_{−∞}^{y} φ(−u) du = 1 − ∫_{−∞}^{y} φ(u) du = 1 − Φ(y). Ezen eredmény miatt elegendő megadni a normális eloszlásfüggvény értékeit pozitív argumentumokra.

5. megjegyzés. Természetesen felvetődik a kérdés, hogy létezik-e a centrális határeloszlástételnek többdimenziós változata, amelyben független többdimenziós véletlen vektorok összegeinek alkalmas normalizáltjának eloszlásai teljesítenek valamilyen határeloszlástételt nagyon általános feltételek mellett. Ezenkívül érdekel minket a lehetséges határeloszlások konkrét alakja is. Ezt a kérdést, amelynek fontos jelentősége van mind a valószínűségszámításban mind a matematikai statisztikában, megválaszolták.

Ezek a vizsgálatok vezettek a többdimenziós normális eloszlások bevezetéséhez. A centrális határeloszlástétel többdimenziós általánosításával a következő félévben fogunk foglalkozni.

Tekintsük a következő két példát, amelyek némi információt nyújtanak a centrális határeloszlástétel gyakorlati következményeiről. Ezután a centrális határeloszlástétel további alkalmazásaira is mutatok példát.

Első példa:

A 2000. évi elnökválasztáson az Egyesült Államok Florida államában rendkívül szoros eredmény született. 5 000 000 választó választott két párt, a republikánus és demokrata párt jelöltjei között. A két jelölt által szerzett szavazatok száma (egy adott időpontbeli felmérés szerint) mindössze 300 volt. Tegyük fel, hogy a választók egymástól függetlenül \frac{1}{2} valószínűséggel választották valamelyik párt jelöltjét. E feltevés teljesülése esetén mennyi annak a valószínűsége, hogy a két jelölt által összegyüjtött szavazatok különbsége nem haladja meg a háromszázat?

Megoldás: Vezessük be a következő ξ_{j}, 1 ≤ j ≤ 5 000 000, valószínűségi változókat: ξ_{j} = 1, ha a j-ik választó a demokrata, ξ_{j} = 0, ha a j-ik választó a republikánus

jelöltre szavaz. Ekkor S = ∑_{j=1}^{5 000 000} ξ_{j} a demokrata és 5 000 000 − S a republikánus

jelöltre leadott szavazatok száma. Minket a P (|2S − 5 000 000| ≤ 300) valószínűség nagysága érdekel. Vegyük észre, hogy a ξ_{j} valószínűségi változók függetlenek, Eξ_{j} = \frac{1}{2},

Var ξ_{j} = \frac{1}{4}, ezért ES = 2 500 000, Var S = \frac{1}{4} · 5 000 000, és a P (|_{\frac{S−2 500 000}{\sqrt{\frac{1}{4} ·5 000 000}}} | < x)

valószínűségek kiszámítására alkalmazhatjuk a centrális határeloszlástételt. Ennek alapján

P (|2S − 5 000 000| ≤ 300) = P (|\frac{S − ES}{\sqrt{Var S}} | ≤ \frac{150}{\sqrt{\frac{1}{4} · 5 000 000}})

= P (−\frac{150}{\sqrt{\frac{1}{4} · 5 000 000}} ≤ \frac{S − ES}{\sqrt{Var S}} ≤ \frac{150}{\sqrt{\frac{1}{4} · 5 000 000}})

∼ Φ (\frac{150}{\sqrt{\frac{1}{4} · 5000000}}) − Φ (−\frac{150}{\sqrt{\frac{1}{4} · 5000000}})

= 2Φ (\frac{6\sqrt{5}}{100}) − 1 ∼ 2Φ(0.124) − 1 ∼ 0.1.

Megjegyzés: Valójában a feladatban tárgyalt modell némileg irreális. Általában különböző körzetek vannak, ahol a jelöltek népszerűsége eltérő. Egy jobb, a valóságot jobban közelítő modellben például azt tételezhetjük fel, hogy különböző körzetek vannak, az egyes körzetekben az egyes vélemények függetlenek, de az, hogy milyen valószínűséggel választja egy választó valamelyik jelöltet attól is függ, hogy mely körzetben lakik. Ez a modell is vizsgálható a centrális határeloszlástétel segítségével, de itt már a centrális határeloszlástétel általánosabb, független, de nem feltétlenül egyforma eloszlású valószínűségi változók összegének határeloszlását leíró alakjára van szükség.

Az előző feladat azt mutatja, hogy annak valószínűsége, hogy független valószínűségi változók viszonylag közel vannak a várható értékükhöz elég nagy. Nem irreális például feltételezni, hogy 5 000 000 szavazó által egy jelöltre leadott szavazatok száma mindössze 150-nel különbözik annak várható értékétől. A következő feladatban hasonló problémát tekintünk. Egy szabályos pénzdarabot 10 000 alkalommal feldobunk, és azt akarjuk tudni, mi annak a valószínűsége, hogy a fej-dobások száma mindössze 100-zal vagy 200-zal tér el annak várható értékétől. Ezt a valószínűséget kiszámoljuk pontosan a centrális határeloszlátétel segítségével. Másrészt megvizsgáljuk milyen becslést ad a 7. téma ismertetésében (a 9. oldalon) bizonyított Csebisev egyenlőtlenség, illetve annak a szintén a 7. téma ismertetésében tekintett alkalmazása független valószínűségi változók összegére (20.–21. oldal). Ilyen módon információt kapunk arról is, hogy bizonyos esetekben milyen jó becslést ad a Csebisev egyenlőtlenség.

Második példa:

Tekintsünk egy szabályos pénzdarab 10 000 egymás utáni (független) feldobásából származó fej-írás sorozatot. Adjunk becslést a Csebisev egyenlőtlenség segítségével annak valószínűségére, hogy a fej-dobások számának eltérése a várt 5000 számtól legalább 100-zal, illetve legalább 200-zal eltér! Milyen becslést ad ezekre a valószínűségekre a centrális határeloszlástétel?

Megoldás: Vezessük be a következő ξ_{j}, 1 ≤ j ≤ 10 000, valószínűségi változókat, amelyekre ξ_{j} = 1, ha a j-ik dobás eredménye fej, ξ_{j} = 0, ha a j-ik dobás eredménye írás. Ekkor ξ_{j}, 1 ≤ j ≤ 10 000 független valószínűségi változók, Eξ_{j} = \frac{1}{2}, Var ξ_{j} = \frac{1}{4},

és a P (| ∑_{j=1}^{10000}(ξ_{j} − Eξ_{j})| > 100) és P (| ∑_{j=1}^{10000}(ξ_{j} − Eξ_{j})| > 200) valószínűségekre kell

becslést adnunk. A Csebisev egyenlőtlenség az első valószínűségre a

P (| ∑_{j=1}^{10000}(ξ_{j} − Eξ_{j})| > 100) ≤ \frac{10000 · Var ξ_{1}}{100^{2}} = \frac{1}{4},

a második valószínűségre pedig a

P (| ∑_{j=1}^{10000}(ξ_{j} − Eξ_{j})| > 200) ≤ \frac{10000 · Var ξ_{1}}{200^{2}} = \frac{1}{16}

becslést adja.

A centrális határeloszlástétel szerint P (^{\frac{∑_{j=1}^{10000}(ξ_{j}−Eξ_{j})}{\sqrt{10000· \frac{1}{4}}}} > u) ∼ 1 − Φ(u). Innen azt

kapjuk, hogy az első valószínűséget a

P (| ∑_{j=1}^{10000}(ξ_{j} − Eξ_{j})| > 100) = 1 − P (−2 ≤ \frac{∑_{j=1}^{10000}(ξ_{j} − Eξ_{j})}{∑_{j=1}^{10000} Var ξ_{j}} ≤ 2) ∼ Φ(2) − Φ(−2)

számolás segítségével becsülhetjük meg. Ezért ez a valószínűség közelítőleg (1−Φ(2))+ Φ(−2) = 2(1 − Φ(2)) ∼ 2(1 − 0.97720) = 0.0456. A második valószínűség hasonlóan körülbelül 2(1 − Φ(4)) ∼ 0, (az első 4 tizedesjegy 0). (A Csebisev egyenlőtlenség 0.25 illetve 0.0625 felső becslést adott ezekre a valószínűségekre.)

A továbbiakban más olyan feladatokat fogok tárgyalni, amelyeket a centrális határeloszlástétel segítségével lehet megoldani.

1.) Egy szabályos dobókockát feldobunk 1200 alkalommal egymástól függetlenül, és összeadjuk a páros értékű dobások eredményét. Adjunk jó közelítő becslést a centrális határeloszlástétel és egy normális eloszlástáblázat segítségével arra, hogy ez az összeg 2280 és 2500 közé esik. Megoldás: Vezessük be a következő ξ_{j}, 1 ≤ j ≤ 1200, valószínűségi változókat: ξ_{j} = 2, ha a j-ik dobás eredménye 2, ξ_{j} = 4, ha a j-ik dobás eredménye 4, ξ_{j} = 6, ha a j-ik dobás eredménye 6, ξ_{j} = 0, ha a j-ik dobás eredménye 1, 3 vagy 5. Ekkor

a P (2280 ≤ ∑_{j=1}^{1200} ξ_{j} ≤ 2500) valószínűséget kell jól megbecsülnünk. Vegyük észre,

hogy Eξ_{j} = \frac{1}{6}(2 + 4 + 6) = 2, Var ξ_{j} = \frac{1}{6}(4 + 16 + 36) − 4 = \frac{16}{3}. Innen a centrális határeloszlástétel alapján

P (2280 ≤ ∑_{j=1}^{1200} ξ_{j} ≤ 2500) = P (\frac{−120}{\sqrt{1200\frac{16}{3}}} ≤ \frac{∑_{j=1}^{1200} ξ_{j} − ∑_{j=1}^{1200} Eξ_{j}}{\sqrt{∑_{j=1}^{1200} Var ξ_{j}}} ≤ \frac{100}{\sqrt{1200\frac{16}{3}}} )

∼ Φ(1.25) − Φ(−1.5) ∼ 0.8944 + 0.9322 − 1 = 0.8266.

2.) Vegyünk egy olyan pénzdarabot, amely \frac{2}{3} valószínűséggel esik a fej és \frac{1}{3} valószínűséggel az írás oldalra. Ezt a pénzdarabot addig dobjuk fel egymás után, ameddig megjelenik 1200 fej dobás. Mi annak a valószínűsége, hogy az elvégzett dobások száma 1680 1830 közé esik? Adjunk erre a valószínűségre jó közelítő becslést. Megoldás: Az elvégzett dobások száma egy η negatív binomiális eloszlású valószínűségi változó n = 1200 és p = \frac{2}{3} paraméterekkel, azaz P (η = k + n) = \binom{n+k−1}{n−1}(1 − p)^{k}p^{n}, p = \frac{2}{3}, és n = 1200 paraméterrel. Ez az eredmény, amelyet tanultunk a negatív binomiális eloszlás tárgyalásakor elvileg lehetőséget ad arra, hogy a kívánt valószínűséget meghatározzuk egy bonyolult összeg kiszámításának a segítségével. Ennél hasznosabb becslést kapunk a következő érvelés segítségével, amelyben a keresett valószínűséget a centrális határeloszlástétel segítségével számoljuk ki jó pontossággal.

Jelölje ξ_{j}, 2 ≤ j ≤ 1200, a j − 1-ik és j-ik fejdobás közötti dobások számát (a j-ik fejdobást beleszámítjuk a j − 1-iket viszont nem számítjuk bele e dobások közé), és legyen ξ_{1} az első fejdobásig (ezt is beleszámítva) elvégzett dobások száma. Ekkor a ξ_{j} valószínűségi változók függetlenek, negatív binomiális eloszlásúak n = 1, p = \frac{2}{3} paraméterekkel, és minket a P (1680 < ξ_{1} +⋯+ξ_{1200} < 1830) valószínűség érdekel. A 6. előadás 5. feladatában kiszámoltam ezt a várható értéket és szórásnégyzetet. Innen következik, hogy Eξ_{j} = \frac{1}{p} = \frac{3}{2}, Var ξ_{j} = \frac{1−p}{p^{2}} = \frac{3}{4}. Ezért a centrális határeloszlástétel alapján η = ξ_{1} + ⋯ + ξ_{1200} jelöléssel minket a

P (−4 < \frac{η − 1200Eξ_{1}}{\sqrt{1200Var ξ_{1}}} < 1)

valószínűség érdekel. A centrális határeloszlástétel alapján

P (−4 < \frac{η − 1200Eξ_{1}}{\sqrt{1200Var ξ_{1}}} < 1) ∼ Φ (1) + Φ(4) − 1 ∼ Φ(1).

3.) Egy szabályos dobókockát és egy szabályos érmét feldobunk 3300 alkalommal egymástól függetlenül. (Az érme és kockadobások eredményei is függetlenek egymástól.) Ha a kockadobás eredménye páros és az érme a fej oldalra esett, akkor annyi forintot nyerünk, amennyi a kockadobás eredménye. Ha az érme az írás oldalra esett vagy a kockadobás eredménye páratlan szám, akkor nem nyerünk, és nem is vesztünk semmit. Mi a valószínűsége annak, hogy az össznyereményünk 3190 és 3520 forint közé esik? Adjunk erre jó közelítő becslést a centrális határeloszlástétel és egy normális eloszlástáblázat segítségével.

Megoldás: Vezessük be a következő ξ_{j} és η_{j}, 1 ≤ j ≤ 3300, valószínűségi változókat: ξ_{j} = 2, ha a j-ik kockadobás eredménye 2, ξ_{j} = 4, ha a j-ik kockadobás eredménye 4, ξ_{j} = 6, ha a j-ik kockadobás eredménye 6, ξ_{j} = 0, ha a j-ik kockadobás eredménye 1, 3 vagy 5. Legyen η_{j} = 1, ha a j-ik érmedobás eredménye fej, és η_{j} = 0, ha a j-ik érmedobás írás. Legyen ζ_{j} = ξ_{j}η_{j}. Ekkor a j-ik dobásnál a nyereményünk

ζ_{j} lesz, 1 ≤ j ≤ 3300, és a P (3190 ≤ ∑_{j=1}^{3300} ζ_{j} ≤ 3520) valószínűséget kell jól meg-

becsülnünk. Ennek érdekében számoljuk ki a független ζ_{j} valószínűségi változók várható értékét és szórásnégyzetét. Eζ_{j} = Eξ_{j}η_{j} = Eξ_{j}Eη_{j} = \frac{1}{6}(2 + 4 + 6) · \frac{1}{2} = 1, Eζ_{j}^{2} = Eξ_{j}^{2}Eη_{j}^{2} = \frac{1}{6}(4 + 16 + 36) · \frac{1}{2} = \frac{14}{3}, Var ζ_{j}^{2} = Eζ_{j}^{2} − (Eζ_{j})^{2} = \frac{11}{3}. Innen a centrális határeloszlástétel alapján

P (3190 ≤ ∑_{j=1}^{3300} ζ_{j} ≤ 3520) = P (\frac{−110}{\sqrt{3300\frac{11}{3}}} ≤ \frac{∑_{j=1}^{3300} ζ_{j} − ∑_{j=1}^{3300} Eζ_{j}}{\sqrt{∑_{j=1}^{3300} Var ξ_{j}}} ≤ \frac{220}{\sqrt{3300\frac{11}{3}}} )

∼ Φ(2) − Φ(−1) = 0.9772 + 0.8413 − 1 = 0.9285.

4.) Legyen birtokunkban 100 lámpa, amelyek mindegyike egymástól független időtartamig működik, élettartamuk pedig exponenciális eloszlású λ = \frac{1}{10} paraméterrel. (A lámpák élettartamának exponenciális eloszlása természetes feltételezés.) Egy termet bevilágítunk ezen lámpák valamelyikével, majd amikor az kiégett, új lámpát használunk fel. Adjunk jó becslést arra, hogy a lámpák összélettartama legalább 1150 óra. Megoldás: Jelölje ξ_{j} a j-ik lámpa éléttartamát, 1 ≤ j ≤ 100. Ekkor a P (ξ_{1} + ⋯ + ξ_{100} > 1150) valószínűségre kell jó becslést adnunk, ahol az összegben független exponenciális eloszlású valószínűségi változók szerepelnek λ = \frac{1}{10} paraméterrel. Vezessük be az η = ξ_{1} + ⋯ + ξ_{100} jelölést. Kiszámoltuk a 8. előadás 7. feladatában egy exponenciális eloszlású valószínűségi változó momentumait. Ennek alapján jelen esetben Eη = mEξ_{1} = \frac{m}{λ} = 1000, Var η = \frac{m}{λ^{2}} = 10000 (m = 100 és λ = \frac{1}{10} választással). Ezért a centrális határeloszlástétel szerint \frac{η−Eη}{\sqrt{Var η}} = \frac{η−1000}{100} jó közelítéssel standard normális eloszlású

valószínűségi változó, és P (ξ_{1}+⋯+ξ_{100} > 1150) = P (\frac{η−Eη}{\sqrt{Var η}} > 1.5) ∼ 1−Φ(1.5).

A centrális határeloszlástétel nagy segítséget ad a matematikai statisztika két fontos problémakörében, a becsléselméletben és a hipotézisvizsgálatban. A becsléselméletben a következő problémákhoz hasonló kérdésekkel foglalkozunk. Mennyi egy lámpa várható élettartama, mennyi a valószínűsége annak, hogy egy kocka a hatos oldalra esik, mi a valószínűsége, annak, hogy egy (életbiztosítást kötni akaró ember) megéli a hetvenedik évet? Általában a kérdés a következő: Egy esemény eloszlása függ valamilyen ismeretlen paraméter(ek)től, és ez(eke)t a paraméter(eke)t akarjuk megbecsülni. Ennek érdekében kisérleteket végzünk, és valamilyen jó módszer segítségével próbáljuk megbecsülni az ismeretlen paramétert e kisérletek eredményének a függvényében.

A hipotézisvizsgálatban a feladat az, hogy bizonyos hipotézisünk van arról, hogy mennyi az élettartama egy lámpának, mennyire népszerű egy vélemény a választók között, hogy egy gyógyszer hatásosabb, mint egy másik. Általában, valamilyen hasonló problémáról van egy ellenőrizendő feltételezésünk. Annak érdekében, hogy eldöntsük, helyes-e a hipotézisünk kisérleteket végzünk. Ha kisérleteink eredménye nagyon valószínűtlen hipotézisünk teljesülése esetén, akkor hipotézisünket elutasítjuk, ha pedig valószínű, akkor elfogadjuk azt. De mikor tekintjük a bekövetkezett eredményt valószínűnek és mikor valószínűtlennek? E kérdés eldöntésében sokszor a centrális határeloszlástétel segít. Erre mutatok néhány példát. E példák tárgyalása előtt bevezetem a matematikai statisztika néhány egyszerű és természetes fogalmát. Jelen előadássorozatban csak a hipotézisvizsgálattal foglalkozom, és az ehhez kapcsolódó fogalmakat vezetem be.

Azt a feltételezést, amelyet ellenőrizni akarunk nevezik null-hipotézisnek, annak ellenkezőjét pedig ellenhipotézisnek. Vannak olyan feladatok, amelyekben a null-hipotézis egyetlen elemből áll, például, ha azt tételezzük fel, hogy egy dobókocka szabályos. Az ilyen hipotéziseket nevezik egyszerű hipotézisnek. Vannak olyan feladatok, amelyekben a null-hipotézis több elemból áll, például az a feltételezés, hogy egy javaslatot az emberek legalább fele támogat. Az ilyen hipotéziseket hívják összetett hipotézisnek. Két fajta hibát követhetünk el. Az egyik hiba az, hogy a hipotézis teljesül, mi mégis elutasítjuk azt. Ezt nevezik elsőfajú hibának. Azt, hogy a hipotézis nem teljesül, és mi mégis úgy döntünk, hogy az teljesül, másodfajú hibának nevezik. Az elsőfajú hiba csökkentése érdekében minél többször kell elfogadni, a másodfajú hipotézis csökkentése érdekében pedig minél többször kell elutasítani a hipotézist. A gyakorlatban általában úgy szokták a feladatokat megfogalmazni, hogy az elsőfajú hibára előírunk egy felső korlátot, és eme feltétel mellett próbáljuk a másodfajú hibát minél kisebbé tenni. Az elsőfajú hibára adott felső korlát összetett null-hipotézis esetén azt jelenti, hogy az elsőfajú hiba minden a null-hipotézis teljesülése esetén előfordulható eloszlás esetén legyen kisebb, mint az előírt felső korlát.

5.) Egy pénzdarabról ellenőrizni akarjuk, hogy igaz-e az a hipotézis, amely szerint ez az érme legalább \frac{3}{4} valószínűséggel esik a fej és legfeljebb \frac{1}{4} valószínűséggel az írás oldalára. Ennek érdekében feldobjuk a pénzdarabot 30 000 alkalommal, és a következő döntési szabályt hozzuk. Választunk egy k számot, és akkor fogadjuk el a hipotézist helyesnek, ha legalább k fejdobás történt. Legalább mekkorának kell választanunk ezt a k számot, ha azt akarjuk, hogy egy a hipotézist teljesítő pénzdarab esetén legalább 0.9 valószínűséggel döntsünk úgy, hogy a hipotézis teljesül? Megoldás: Vezessük be a következő valószínűségi változókat: ξ_{j} = 1, ha a j-ik dobás eredménye fej, ξ_{j} = 0, ha a j-ik dobás eredménye írás, 1 ≤ j ≤ 30 000,

S = S_{30000} = ∑_{j=1}^{30 000} ξ_{j}. Ha a fejdobás eredményének valószínűsége pontosan \frac{3}{4},

akkor Eξ_{j} = \frac{3}{4}, Eξ_{j}^{2} = \frac{3}{4}, Var ξ_{j} = Eξ_{j}^{2} − (Eξ_{j})^{2} = \frac{3}{16}, ES = 30 000Eξ_{j} = 22 500, Var S = 30 000Var ξ_{j} = 5625 = 75^{2}. Innen és a centrális határeloszlástételből,

P (S > k) = P (\frac{S − ES}{\sqrt{Var S}} > \frac{k − 22 500}{75}) = 1 − P (\frac{S − ES}{\sqrt{Var S}} ≤ \frac{k − 22 500}{75})

∼ 1 − Φ (\frac{k − 22 500}{75}) .

Válasszuk a k számot úgy, hogy a fenti valószínűség körülbelül 0.9 legyen. Ekkor a Φ (\frac{k−22 500}{75}) = 0.1 vagy ami ezzel ekvivalens, a Φ (\frac{22 500−k}{75} ) = 0.9 egyenletet kell kielégítenünk. A normális eloszlás-táblázat alapján \frac{22 500−k}{75} ∼ 1.28, ami azt jelenti, hogy k = 22 500 − 75 · 1.28 és p = \frac{3}{4} esetén annak valószínűsége, hogy a fejdobások száma nagyobb mint k = 22 500 − 75 · 1.28 = 22 212 és p = \frac{3}{4} esetében annak valószínűsége, hogy legalább ennyi fejdobás történik körülbelül 0.9. Ha p ≥ \frac{3}{4}, akkor ez a valószínűség nagyobb. Ezért a k = 22 212 helyes választás.

6.) Ledobunk egymástól függetlenül 24 000 pontot a [0, 2] intervalumra egyenletes eloszlással, (azaz annak a valószínűsége, hogy egy ledobott pont értéke x-nél kisebb \frac{x}{2}-vel egyenlő, ha 0 ≤ x ≤ 2, eggyel egyenlő, ha x ≥ 2, és nulla, ha x ≤ 0.) Őrizzük meg azokat a ledobott pontokat, melyek értéke 1-nél kisebb, és hagyjuk el azokat, melyek értéke, nagyobb mint egy. Mi annak a valószínűsége, hogy a megőrzött pontok értékeinek az összege 5900 és 6075 közé esik? Adjunk erre a valószínűségre jó közelítő becslést egy normális eloszlástáblázat segítségével. Megoldás: Vezessük be a következő ξ_{j}, 1 ≤ j ≤ 24 000, valószínűségi változókat: ξ_{j} = x, ha a j-ik ledobott pont értéke x, és 0 ≤ x ≤ 1, és ξ_{j} = 0, ha a jik ledobott pont értéke az (1, 2] intervallumba esik. Ekkor a megőrzött pontok

összege S = ∑_{j=1}^{24 000} ξ_{j}, továbbá a ξ_{j} valószínűségi változók függetlenek és egyforma

eloszlásúak. Ezért a centrális határeloszástétel segítségével jó becslést tudunk adni a minket érdeklő P (5900 < S < 6075) valószínűségre. Ennek érdekében ki kell számolnunk a ξ_{1} valószínűségi változó várható értékét és szórásnégyzetét. Vegyük észre, hogy ugyan a ξ_{1} valószínűségi változónak nincs sűrűségfüggvénye, és nem diszkrét eloszlású, viszont F eloszlásfüggvénye felírható F (x) = F_{1}(x) + F_{2}(x) alakban, ahol F_{1}(x) nek van sűrűségfüggvénye, ami az f(x) = \frac{1}{2} függvény a [0, 1] intervallumon, és f(x) = 0, ha x < 0 vagy x > 1, és F_{2}(x) olyan mértéket határoz meg, amelyik a nullába van koncentrálva, és a nulla mértéke \frac{1}{2}. Pontosabban, tetszőleges A halmaz valószínűsége P (A) = ∫_{A} F ( dx) = ∫_{A} F_{1}( dx) + ∫_{A} F_{2}( dx) = ∫_{A∩[0,1]} \frac{1}{2} dx + ∫_{A} F_{2}( dx), ahol ∫_{A} F_{2}( dx) = \frac{1}{2}, ha 0 ∈ A, és ∫_{A} F_{2}( dx) = 0, ha 0 ∉ A. Ekkor tetszőleges h(x) függvényre Eh(ξ) = ∫ h(x)F ( dx) = ∫ h(x)F_{1}( dx) + ∫ h(x)F_{2}( dx) = ∫_{0}^{1} \frac{1}{2}h(x) dx + \frac{1}{2}h(0). Ezért

Eξ_{1} = \frac{1}{2} ∫_{0}^{1} x dx = \frac{1}{4}, Eξ_{1}^{2} = \frac{1}{2} ∫_{0}^{1} x^{2} dx = \frac{1}{6}, Var ξ_{1} = \frac{1}{6} − \frac{1}{16} = \frac{5}{48},

és ES = 6000, Var S = 2500. Innen

P (5900 < S < 6075) = P (−2 < \frac{S − ES}{\sqrt{Var S}} < 1.5)
∼ Φ(1.5) − Φ(−2) = Φ(1.5) + Φ(2) − 1.

A ξ_{j} valószínűségi változók várható érékét és szórásnégyzetét hagyományos módon (Stieltjes integrálok használata nélkül) is kiszámolhattuk volna a következőképpen. Legyen η_{j}, a j-ik ledobott pont értéke, h(x) az a függvény a [0, 2] intervallumon, amelyre h(x) = x, ha 0 ≤ x ≤ 1, és h(x) = 0, ha 1 < x ≤ 2. Ekkor ξ_{j} = h(η_{j}), és innen az η_{j} sűrűségfüggvényének az ismeretében fel tudjuk írni, hogy Eξ_{j} = Eh(η_{j}) = ∫_{0}^{2} h(x)\frac{1}{2} dx = ∫_{0}^{1} \frac{1}{2}x dx = \frac{1}{4}, és Eξ_{j}^{2} = Eh^{2}(η_{j}) = ∫_{0}^{2} h^{2}(x)\frac{1}{2} dx = ∫_{0}^{1} \frac{1}{2}x^{2} dx = \frac{1}{6}.

A centrális határeloszlástétel egy fontos speciális esete a binomiális eloszlásfüggvény közelítéséről szól a normális eloszlásfüggvény segítségével. Történetileg is ez az eredmény született meg először. Ismertetem ezt az irodalomban Moivre–Laplace formula néven tárgyalt eredményt. Valójában ez az eredmény kissé más jellegű, mint a klasszikus centrális határeloszlástétel. Ez úgynevezett lokális centrális határeloszlástétel, amely annak valószínűségére ad jó becslést, hogy egy n és p paraméterű B(n, p) binomiális eloszlású valószínűségi változó egy előírt ‘tipikus’ értéket vesz fel.

Emlékeztetek arra, hogy ha elvégzünk n független kisérletet, amelyek mindegyike egymástól függetlenül p valószínűséggel sikeres, akkor a sikeres kisérletek száma egy B(n, p), n és p paraméterű binomiális eloszlású valószínűségi változó. Ezt a következőképpen is megfogalmazhatjuk. Vezessük be a ξ_{j}, 1 ≤ j ≤ n, valószínűségi változókat, amelyekre ξ_{j} = 1, ha a j-ik kisérlet sikeres és ξ_{j} = 0, ha a j-ik kisérlet sikertelen volt. Ekkor P (ξ_{j} = 1) = 1 − P (ξ_{j} = 0) = p minden 1 ≤ j ≤ n indexre, a ξ_{j} valószínűségi

változók függetlenek, és az S_{n} = ∑_{j=1}^{n} ξ_{j} valószínűségi változó n és p paraméterű bi-

nomiális eloszlású valószínűségi változó. A Moivre–Laplace formula a P (S_{n} = k) valószínűségekre ad jó közelítést. Vegyük észre, hogy ezeket a valószínűségeket explicit módon is fel tudjuk írni. Nevezetesen, P (S_{n} = k) = \binom{n}{k}p^{k}(1 − p)^{n−k}. A Moivre–Laplace formula valójában egy analízisbeli eredmény, amely erre a kifejezésre ad jó aszimptotikát. Bizonyításában kulcsszerepet játszik az alábbi Stirling formulának nevezett híres eredmény, amely az n! mennyiség egy jó közelítését írja le. A következő előadáson ismertetni fogom a Stirling formulának egy olyan bizonyítását, amely részben valószínűségszámítási gondolatokon alapul.

Stirling formula.

n! ∼ \sqrt{2πn} (\frac{n}{e})^{n} ,

azaz az első n egész szám n! = 1 · 2 · 3 ⋯ n szorzata teljesíti a következő relációt:

lim_{n→∞} \frac{\sqrt{2πn} (\frac{n}{e})^{n}}{n!} = 1.

A Stirling formula és alkalmas Taylor sorfejtés segítségével bizonyítható az alábbi

Moivre–Laplace formula. Legyen S_{n} binomiális eloszlású valószínűségi változó valamely n és p paraméterekkel, n = 1, 2, …, 0 < p < 1. Rögzítsünk egy A > 0 számot. Ekkor

P (S_{n} = k) = \binom{n}{k}p^{k}(1 − p)^{n−k} = \frac{1}{\sqrt{2πnp(1 − p)}} exp \{−\frac{(k − np)^{2}}{2np(1 − p)}\} + ε_{k,n},

ha |k − np| < A\sqrt{np(1 − p)}. A formulában szereplő ε_{k,n} hibatag teljesíti a lim_{n→∞} \frac{ε_{k,n}}{\sqrt{n}} = 0 becslést, és a limesz egyenletes a k = k(n) változóban, ha olyan k(n), n = 1, 2, …, sorozatokat tekintünk, amelyek teljesítik a |k(n) − np| < A\sqrt{np(1 − p)} egyenlőtlenséget minden n ≥ n_{0} indexre valamely rögzített n_{0} számmal.

Értsük meg a fenti közelítés jelentését. Az S_{n} valószínűségi változó várható értéke ES_{n} = np, szórásnégyzete Var S_{n} = np(1 − p). Ezért a a centrális határeloszlástétel

a P (\frac{S_{n}−np}{\sqrt{np(1−p)}} < x) = P (S_{n} < np + x\sqrt{np(1 − p)}) valószínűségekre ad jó becslést.

Vezessük be az x_{k} = x_{k}(n) = \frac{k−np}{\sqrt{np(1−p)}} mennyiségeket. Az \frac{S_{n}−np}{\sqrt{np(1−p)}} valószínűségi

változó az x_{k}, k = 0, ±1, ±2, …, értékeket veszi fel, amelyek egy \frac{1}{\sqrt{np(1−p)}} sűrűségű

rácson helyezkednek el. Ezért nagy n indexre egy a centrális határeloszlástétel differenciálásához hasonló formális számolás (egy differenciahányadost becsülünk meg a differenciálhányados helyett) azt sugallja, hogy

P (S_{n} = k) = P (\frac{S_{n} − np}{\sqrt{np(1 − p)}} = x_{k}) = P (\frac{S_{n} − np}{\sqrt{np(1 − p)}} ∈ [x_{k}, x_{k+1}))

∼ Φ(x_{k+1}) − Φ(x_{k}) ∼ φ(x_{k})(x_{k+1} − x_{k}) = \frac{φ(x_{k})}{\sqrt{np(1 − p)}} = \frac{e^{−x_{k}^{2}/2}}{\sqrt{2πnp(1 − p)}},

ahol Φ(x) a standard normális eloszlás eloszlás, φ(x) pedig a standard normális sűrűségfüggvényt jelöli. A Moivre–Laplace formula azt mondja ki, hogy az ezen heurisztikus módon levezetett közelítő azonosság két oldalán levő kifejezés hányadosa közel egy nagy n számokra és ‘tipikus’ x_{k} értékekre. Itt azokat az x_{k} = x_{k}(n) értékeket tekintjük tipikusnak, amelyek teljesítik az x_{k} < A becslést valamely elég nagy, de rögzített A konstanssal. Az a megszorítás, hogy a fenti valószínűsegeket csak tipikus x_{k} számokra tekintjük úgy is megfogalmazható, hogy csak az |S_{n} − np| < A\sqrt{np(1 − p)} halmaz által tartalmazott \frac{S_{n}−np}{\sqrt{np(1−p)}} = x_{k} események valószínűségét becsüljük meg. Ennek a

halmaznak a valószínűsége viszont majdnem 1 elég nagy A számokra. (Ez például a Csebisev egyenlőtlenségből egyszerűen levezethető.) Továbbá a ‘tipikus’ x_{k} ≤ A számokra a Moivre–Laplace formula jobboldalán levő kifejezés értékének nagyságrendje const. \frac{1}{\sqrt{n}}, tehát a kifejezés fő tagja lényegesen nagyobb, mint az ε_{k,n} hibatag, ezért a Moivre–Laplace formula tartalmas becslést ad.

Valójában a Moivre–Laplace formula az itt kimondottnál élesebb alakban is érvényes. Egyrészt az a k számokra előírt tartomány, ahol ez a formula érvényes jóval nagyobbnak is választható, másrészt az ε_{k,n} hibatagokra sokkal jobb becslés is adható. Számunkra azonban nem a Moivre–Laplace formula minél élesebb alakja, hanem az eredmény tartalmának a megértése érdekes elsősorban. Ez a P (S_{n} < x) eloszlásfüggvény helyett a P (S_{n} = x) valószínűségekre ad jó becslést, ezért nevezik ezt lokális centrális határeloszlástételnek. A lokális centrális határeloszlástétel (amely csak bizonyos extra kikötések esetén érvényes) valójában erősebb állítás, mint a centrális határeloszlástétel, mert függvénysorozatok differenciálhányadosainak vagy ‘majdnem’ differenciálhánydosainak a konvergenciája erősebb tulajdonság, mint a függvénysorozatok konvergenciája. A Moivre–Laplace formula ‘kiintegrálásának’ a segítségével le lehet vezetni a centrális határeloszlástételt binomiális eloszlásokra. Az ehhez szükséges számolások részleteinek kidolgozását azonban elhagyom.

A Moivre–Laplace formula bizonyítása. Felírhatuk a

P (S_{n} = k) = \binom{n}{k}p^{k}(1 − p)^{n−k} = \frac{n!}{k!(n − k)!}p^{k}(1 − p)^{n−k}

azonosságot, és az ebben az azonosságban szereplő n!, k! és (n − k)! kifejezésekre jó közelítést kaphatunk a Stirling formula segítségével. Azt kapjuk, hogy

P (S_{n} = k) ∼ \begin{matrix}\sqrt{2πn} & (\frac{n}{e}) & n \\ \sqrt{2πk} & (\frac{k}{e} ) & k & \sqrt{2π(n − k)} & (\frac{n−k}{e} ) & n−k \end{matrix} p^{k}(1 − p)^{n−k}

= \frac{1}{\sqrt{2πn\frac{k}{n}(1 − \frac{k}{n})}} (\frac{np}{k})^{k} (\frac{n(1 − p)}{n − k})^{n−k} ,

ahol ∼ azt jelenti, hogy a két kifejezés hányadosa 1-hez tart n → ∞ esetben. Sőt ez az 1-hez tartó konvergencia egyenletes, ha |k − np| ≤ A\sqrt{np(1 − p)}.

A P (S_{n} = k) valószínűségre adott utolsó kifejezés első tagjára a _{\frac{1}{\sqrt{2πn \frac{k}{n} (1− \frac{k}{n})}}} =

\frac{1}{\sqrt{2πnp(1−p)}} + O(n^{−1}) közelítés írható fel a |k − np| ≤ A\sqrt{np(1 − p)} esetben, a második

tag pedig

(\frac{np}{k})^{k} (\frac{n(1 − p)}{n − k})^{n−k} = exp \{k log (\frac{np}{k}) + (n − k) log (\frac{n(1 − p)}{n − k})\}

= exp \{k log (1 + \frac{(np − k)}{k}) + (n − k) log (1 + \frac{(k − np)}{n − k})\}

alakban írható. E kifejezés becslésében alkalmazzuk a log(1 + x) függvény Taylor sorfejtés közelítését a második tagig, és becsüljük meg e közelítés hibáját kis x számokra. Azaz, a log(1 + x) = x − \frac{x^{2}}{2} + O(x^{3}) közelítést alkalmazzuk x = \frac{np−k}{k} és x = \frac{k−np}{n−k} választással, és felhasználjuk, hogy mind \frac{np−k}{k}, mind \frac{k−np}{n−k} abszolut értéke kisebb, mint const. n^{−1/2}. Ekkor az utolsó formula segítségével azt kapjuk, hogy

(\frac{np}{k})^{k} (\frac{n(1 − p)}{n − k})^{n−k} = exp \{−\frac{(k − np)^{2}}{2k} − \frac{(k − np)^{2}}{2(n − k)} + O(n^{−1/2})\}

= exp \{−\frac{(k − np)^{2}}{2n\frac{k}{n} (1 − \frac{k}{n})} + O(n^{−1/2})\} .

(Itt kihasználtuk, hogy a Taylor sorfejtés első tagja kiesik.) Továbbá, mivel \frac{k}{n} (1 − \frac{k}{n}) = p(1 − p) + O(n^{−1/2}) és (k − np)^{2} = O(n) az utolsó relációból adódik, hogy

(\frac{np}{k})^{k} (\frac{n(1 − p)}{n − k})^{n−k} = exp \{−\frac{(k − np)^{2}}{2np(1 − p)} + O(n^{−1/2})\} .

A kapott becslések alapján

P (S_{n} = k) = \frac{1}{\sqrt{2πnp(1 − p)}} exp \{−\frac{(k − np)^{2}}{2np(1 − p)}\} (1 + o(1)).

A Moivre–Laplace formulát bebizonyítottuk.