Valószínűségi becslések, alapvető technikák

Legyen adva ξ_{1}, ξ_{2}, … ξ_{n} független egyforma eloszlású független valószínűségi változók sorozata. Kiváncsiak vagyunk az összeg eloszlásának aszimptotikus viselkedésére, arra hogy a ,,szép esetekben” milyen pontosságú becslést adhatunk erre. Át kívánjuk tekinteni azokat az alapvető technikákat, melyek segítségével erre a kérdésre választ tudunk adni, és melyik módszer mire alkalmas. Feltesszük, hogy a ξ valószínűségi változók eloszlása szép, Eξ_{1} = 0, Eξ_{1}^{2} = 1, az összes momentum létezik, és a ξ_{1} valószínűségi változó F (x) eloszlásfüggvényének létezik szép f(x) sűrűségfüggvénye.

Foglalkozzunk először az S_{n} = ∑_{k=1}^{n} ξ_{k}, f_{n}(x) = f^{∗(n)}(x), sűrűségfüggvényének az

aszimptotkus viselkedésével, ahol f^{∗(n)} az f függvény n-szeres konvolúcióját jelenti önmagával. Ezt ugyanis megadhatjuk a Fourier analízis néhány alapvető eredményének a segítségével. Az eloszlásfüggvény aszimptotikus viselkedését szintén megkaphatjuk e technika segítségével. Némi simítással, amennyiben az szükséges, elérhetjük, hogy olyan eloszlás konvolúcióját elég vizsgálni, melynek van sűrűségfüggvénye, és ha az összeg sűrűségfüggvényére van jó aszimptotika, akkor azt kiintegrálva, az eloszlásfüggvényre is jó aszimptotikát kapunk.

Idézzük fel a következő eredményeket: Ha f(x) tetszőleges integrálható függvény, amelyiknek a Fourier transzformáltja

f̃(t) = ∫_{−∞}^{∞} e^{itx}f(x) dx

is integrálható (ez f(x)-re simasági feltétel), akkor az inverz transzformáció a következő:

f(x) = \frac{1}{2π} ∫_{−∞}^{∞} e^{−itx}f̃(t) dt .

Feladat: Értsük meg és bizonyítsuk be a fenti formulát. Használjuk fel, hogy egy sima periódikus függvény egyenlő a Fourier sorával. Ezt a tényt kihasználva egy [−T, T] intervallumban, majd alkalmazva a T → ∞ határátmenetet bizonyítsuk be az állítást sima f függvényekre. Simítás segítségével szabaduljunk meg a simasági feltételtől. Érdemes a simítást konvolúció segítségével végezni.

Vezessük be a ∗ konvolúció operátort: f ∗ g(x) = ∫_{−∞}^{∞} f(y)g(x − y) dy. Ekkor f̃_{n}(t) = f̃^{n}(t), azaz függvények konvolúciójának a Fourier transzformáltja egyenlő a Fourier transzformáltak szorzatával, f̃(t) → 0, ha |t| → ∞, sőt f̃(t) = O(|t|^{−k}) vagy O(e^{−α|t|}), ha az f(x) sűrűségfüggvény elég sima, és sup_{|t|≥ε} |f̃(t)| < 1 minden ε > 0-ra.

Továbbá, \frac{d^{k}}{dt^{k}} f̃(t)|_{t=0} = i^{k}Eξ^{k}. Miért igazak ezek az állítások?

Ezért

f^{∗(n)}(x) = \frac{1}{2π} ∫ e^{−itx}f̃^{n}(t) dt

\frac{1}{\sqrt{n}}f^{∗(n)} (\frac{x}{\sqrt{n}}) = \frac{1}{2π} ∫ e^{−itx}f̃^{n} (\frac{t}{\sqrt{n}}) dt

Innen kiolvasható a centrális határeloszlástétel lokális alakja, (azaz a sűrűségfüggvény konvergenciája a normális sűrűségfüggvényhez), és meg lehet adni a konvergencia sebességét. Valóban,

f̃^{n} (\frac{t}{\sqrt{n}}) = (1 − \frac{t^{2}}{2n} + O (\frac{t^{3}}{n^{3/2}} ))^{n} = e^{−n(t^{2}n^{−1}+O(n^{−3/2}t^{3}))}

= e^{−t^{2}/2} (1 + O (\frac{t^{3}}{\sqrt{n}})) .

Ezért felhasználva a Fourier transzformált gyors eltünését a végtelenben kapjuk, hogy

\frac{1}{\sqrt{n}}f^{∗(n)} (\frac{x}{\sqrt{n}}) = \frac{1}{2π} ∫ e^{−itx}e^{−t^{2}/2} dt + O(n^{−1/2}) = \frac{1}{\sqrt{2π}} e^{−x^{2}/2} + O(n^{−1/2}).

1.) Dolgozzuk ki e bizonyítást alkalmas feltételek teljesülése esetén.

Lehet a pontosabb f̃(t) = 1− \frac{t^{2}}{2} + \frac{i^{3}m_{3}}{6} t^{3} +⋯+ \frac{i^{k}m_{k}}{k!} t^{k} +O(t^{k+1}) Taylor sorfejtést alkalmazni. Milyen pontosabb aszimptotikát adhatunk ennek segítségével? Bizonyítsuk be a következő állítást: 2.)

∫ e^{itx}t^{k}e^{−t^{2}/2} dt = \frac{i^{k}}{k!} \frac{1}{\sqrt{2π}} H_{k}(x)e^{−x^{2}/2},

ahol H_{k}(x) a k-ik Hermite polinom 1 főegyütthatóval. 3.) Bizonyítsuk be, (alkalmas feltevések mellett), hogy

\frac{1}{\sqrt{n}}f^{∗(n)} (\frac{x}{\sqrt{n}}) = \frac{1}{\sqrt{2π}} e^{−x^{2}/2}(1 + d_{3} \frac{H_{3}(x)}{n^{1/2}} + d_{4} \frac{H_{4}(x)}{n} + ⋯

+ d_{k} \frac{H_{k}(x)}{n^{(k−2)/2}} ) + O(n^{−(k−1)/2}),

ahol H_{k}(x) a k-ik Hermite polinom, és a d_{j} konstans a ξ valószínűségi változó első j momentumától függ minden 3 ≤ j ≤ k-ra.

4.) Tekintsük az f(x) = e^{−x}, ha x ≥ 0, f(x) = 0 ha x < 0 (az exponenciális eloszláshoz tartozó) sűrűségfüggvényt. Írjuk fel erre a (lokális) centrális határeloszlástételt, és ennek segítségével bizonyítsuk be a Stirling formulát, (ami n! aszimptotikus viselkedésének a leírása.) A (lokális) centrális határeloszlástételre adott sorfejtés segítségével adjunk sorfejtést a Stirling formulára is.

Ha a sűrűségfüggvény helyett az eloszlásfüggvény aszimptotikus viselkedését akarjuk vizsgálni, akkor némi simításra van szükség. Ehhez hasznos a következő feladat megoldása.

5.) Létezik olyan μ valószínűségi mérték, amelyiknek a φ(t) = ∫_{−∞}^{∞} e^{itx} μ(dx) Fourier transzformáltja (karakterisztikus függvénye) |t| > 1 re eltünik, azaz φ(t) = 0 ha |t| ≥ 1. Segítség: (Egy lehetséges konstrukció.) Ha f(x) szép, korlátos tartójú sűrűségfüggvény, akkor f ∗ f^{−}(x), f^{−}(x) = f(−x), is az. Továbbá ennek Fourier transzformáltja f̃ ∗ f^{−}(x) nem negatív valós függvény. Ennek a ténynek és az inverz Fourier transzformáltra adott formulának a segítségével mutassuk meg, hogy f̃ ∗ f^{−}(x) alkalmas lineáris transzformációja választható mint egy kívánt tulajdonságú μ sűrűségfüggvénye.

6.) Legyen F és G két eloszlásfüggvény (vagy általánosabban G olyan korlátos változású függvény, melyre lim_{t→−∞} G(t) = 0, lim_{t→∞} G(t) = 1), ω(x) az 5. feladat feltételeit

kielégítő μ mérték sűrűségfüggvénye, ω_{T} (x) = \frac{1}{T} ω (\frac{x}{T} ), F_{T} (x) = F ∗ ω_{T} (x), G_{T} (x) = G ∗ ω_{T} (x). Bizonyítsuk be, hogy

F_{T} (x) − G_{T} (x) = \frac{1}{2π} ∫_{−T}^{T} e^{−itx} \frac{F̃(t) − G̃(t)}{−it}ω̃_{T} (t) dt ,

Δ_{T} (x) = |F_{T} (x) − G_{T} (x)| ≤ \frac{1}{2π} ∫_{−T}^{T} \frac{|F̃(t) − G̃(t)|}{|t|} dt

ahol ˜ Fourier transzformációt jelöl.

Kérdések: A minket érdeklő esetekben (F független valószínűségi változok összegének sztandardizáltjának az eloszlásfüggvénye, G(x) a normális eloszlásfüggvény vagy a harmadik feladat jobboldalán szereplő függvény integrálja) miért nem zavar az, hogy a becslésben t-vel osztunk? Miért jobb ez a becslés annál, amit az F_{T} − G_{T} deriváltjának a kiintegrálásából a fent ismertetett becslések segítségével kapnánk?

7.) Ha jó becslésünk van Δ_{T} (x) = |F_{T} (x) − G_{T} (x)|-re viszonylag nagy T -vel, akkor hogyan tudunk jó becslést kapni a Δ(x) = |F (x) − G(x)| kifejezésre?

(A fent ismertett becslések a sűrűség és eloszlásfüggvényre csak az |x| ≤ const. \sqrt{log n} intervallumban hasznosak. Miért? Hogyan lehet jó aszimptotikát adni, ha x ≫ \sqrt{log n}? E probléma vizsgálatában hasznos a nyeregpont módszer.)