Az október 17-i szeminárium témája Rövid összefoglaló

Feltételes eloszlások

A feltételes valószínűség és feltételes várható érték nulla valószínűségi feltételek mellett is definiálják, de az így definiált fogalmak a valószínűségszámítás legnehezebb fogalmai közé tartoznak. Ahhoz, hogy e fogalmakat jobban megértsük, próbáljuk először megérteni azt, hogy milyen szemléletes képet akarunk ennek a definiciónak a segítségével megfogalmazni. Ennek érdekében tekintsük a következő példát.

Van tíz darab lámpánk, ezek élettartama egymástól független, (exponenciális eloszlással és) 25 óra várható értékkel. Egy foglalatba betesszük az első lámpát, hogy bevilágítson egy termet. Ha a lámpa kiégett azonnal kicseréljük a következő lámpára. Első kérdés: Mit várunk várunk, mennyi ideig elegendő a tíz lámpa együttesen a terem bevilágításához? A természetes válasz az, hogy ez a tíz lámpa együttes élettartamának a várható értéke, azaz 10×25=250 óra. A második kérdés a következő: Megfigyeljük, hogy melyik időpontban cseréljük ki a második lámpát. Mit várunk ennek az információnak az ismeretében a tíz lámpa együttes élettartamára? Ha ez a csere 48 óra 22 perc múlva történik meg, akkor a természetes becslés a 10 lámpa együttes élettartamára 48 óra 22 perc plusz 8×25 óra, azaz 248 óra 22 perc. Ha ez a csere 51 óra 19 perc múlva történik, akkor hasonlóan azt várjuk, hogy ez az időtartam 251 óra 19 perc.

A fenti példa nem önmaga miatt érdekes számunkra, hanem azért, mert rámutat arra, hogy természetes felvetni a következő kérdést. Adva egy esemény vagy egy valószínűségi változó, akkor érdekelhet minket ennek az eseménynek a valószínűsége vagy valószínűségi változónak várható értéke. Előfordulhat, hogy más eseményekenek bekövetkezését vagy be nem következését más valószínűségi változók felvett értékét meg tudjuk figyelni, és ezen plusz információ ismeretében akarjuk megbecsülni a minket érdeklő esemény valószínűségét vagy valószínűségi változó várható értékét. Ekkor természetes olyan becslést adni, amelyik ezeket a plusz információkat is figyelembe veszi. Az előző paragrafusban is ilyen kérdést fogalmaztunk meg. Ott meg akartuk becsülni tíz valószínűségi változó összegének a várható értékét azon feltétel mellett, hogy az első két változó összegének az értéke ismert. Ennek a kérdésnek a természetes általánosítása vezet a feltételes valószínűség és feltételes várható érték fogalmához.

Az előző példa azt sugallja, hogy egy A halmaz feltételes valószínűségét feltéve bizonyos ξ_{1}, …, ξ_{k} valószínűségi változók értékét úgy érdemes definiálni, mint a ξ_{1}, …, ξ_{k} valószínűségi változók alkalmas (Borel) mérhető függvényét, azaz P (A|ξ_{1} = x_{1}, …, ξ_{k} = x_{k}) = f_{A}(x_{1}, …, x_{k}), ahol f_{A}(x_{1}, …, x_{k}) Borel mérhető függvény az R^{k} k-dimenziós euklideszi térben, és azt méri mennyire valószínű az A esemény feltéve, hogy ξ_{1} = x_{1}, …, ξ_{k} = x_{k}. Ezt a valószínűséget implicit módon tudjuk definiálni. Azt várjuk, hogy

P ((ξ_{1}, …, ξ_{k}) ∈ [x_{1}, x_{1} + dx_{1}] × ⋯ × [x_{k}, x_{k} + dx_{k}] ∩ A)
= P ((ξ_{1}, …, ξ_{k}) ∈ [x_{1}, x_{1} + dx_{1}] × ⋯ × [x_{k}, x_{k} + dx_{k}])f_{A}(x_{1}, …, x_{k}) .

Ez az azonosság azonban semmitmondó, mert az azonosság mindkét oldala nulla. Viszont ez egy tartalmas állítássá válik, ha ezt az azonosságot kiintegráljuk. Ez azt sugallja, hogy teljesülnie kell a

P (A ∩ {(ξ_{1}, …, ξ_{k}) ∈ B})

= ∫_{(x_{1},...,x_{k})∈B} f_{A}(x_{1}, …, x_{k})P (ξ_{1} ∈ [x_{1}, x_{1} + dx_{1}], …, ξ_{k} ∈ [x_{k}, x_{k} + dx_{k}])

= ∫_{(x_{1},...,x_{k})∈B} f_{A}(x_{1}, …, x_{k})F ( dx_{1}, …, dx_{k})  (∗)

azonosságnak, ahol B az R^{k} k-dimenziós tér tetszőleges (Borel) mérhető halmaza, F (x_{1}, …, x_{k}) pedig a k-dimenziós (ξ_{1}, …, ξ_{k}) valószínűségi változó eloszlásfüggvénye. Az analízis egyik fontos eredményéből, a Radon–Nikodym tételből következik, hogy létezik olyan f_{A}(·, ·, ·) függvény mely teljesíti a (∗) azonosságot minden mérhető B halmazra, és ezek az azonosságok lényegében egyértelműen meghatározzák ezt az f_{A} feltételes valószínűség függvényt. Annak érdekében, hogy megértsük a lényegében egyértelműen kitétel értelmét jegyezzük meg, hogy ha egy f_{A} függvény teljesíti a (∗) azonosságok rendszerét, akkor megváltoztatva ezt az f_{A} függvényt egy a (ξ_{1}, …, ξ_{k}) valószínűségi változók F eloszlása által meghatározott mérték szerint null mértékű halmazon, akkor olyan új függvényt kapunk, mely szintén teljesíti a fenti egyenletrendszert. Az, hogy a (∗) azonosságot minden B halmazra teljesítő f_{A} függvény lényegében egyértelműen meg van határozva azt jelenti, hogy ha két f_{A} és f̄_{A} függvény teljesíti a (∗) azonosságot a k-dimenziós euklideszi tér minden B Borel mérhető halmazára, akkor f_{A}(x_{1}, …, x_{k}) = f̄_{A}(x_{1}, …, x_{k}) a (ξ_{1}, …, ξ_{k}) véletlen vektor F eloszlása szerint meghatározott mérték szerint majdnem minden (x_{1}, …, x_{k}) pontban.

Hasonló gondolatmenet segítségével kapjuk meg egy η valószínűségi változó, E|η| < ∞, g_{η}(x_{1}, …, x_{k}) = E(η|ξ_{1} = x_{1}, …, ξ_{k} = x_{k}) feltételes várható érték definicióját feltéve a ξ_{1} = x_{1}, …, ξ_{k} = x_{k} feltételeket. Ezt az

\begin{aligned}Eη(ω)I (\{ω: (ξ_{1}(ω), …, ξ_{k}(ω)) ∈ A\}) & = ∫_{\{ω: (ξ_{1}(ω),...,ξ_{k}(ω))∈A\}} η(ω) dP (ω) \\ & = ∫_{A} g_{η}(x_{1}, …, x_{k})F (dx_{1}, …, dx_{k}) \end{aligned} (∗∗)

relációk definiálják, ahol I(B) jelöli egy B ⊂ Ω halmaz indikátor függvényét, A a k-dimenziós R^{k} euklideszi tér tetszőleges Borel mérhető részhalmaza, F (x_{1}, …, x_{k}) a (ξ_{1}, …, ξ_{k}) véletlen vektor eloszlásfüggvénye. Azt, hogy ilyen g_{η}(x_{1}, …, x_{k}) függvény valóban létezik, és ez a g_{η} függvény az F (x_{1}, …, x_{k}) eloszlásfüggvény által meghatározott mérték szerint egy valószínűséggel meg van határozva szintén a Radon–Nikodym tétel segítségével láthatjuk be.

Mielőtt megtárgyalnánk a fent említett Radon–Nikodym tételt, megfogalmazzuk a feltételes valószínűség és várható érték fogalmát némileg általánosabb esetben. Előfordulhat ugyanis, hogy az előzetes információink, melyek alapján egy halmaz valószínűségére vagy egy valószínűségi változó értékére becslést akarunk adni nem tömöríthető véges sok valószínűségi változó megfigyelt értékébe. Ahhoz, hogy a feltételes valószínűség és feltételes várható érték fogalmát természetes módon meg tudjuk fogalmazni ebben az általánosabb esetben is, először azt kell tisztáznunk, hogy mit jelent az általános esetben az, hogy bizonyos megfigyelt események függvényéként akarunk valamit megbecsülni.

Ha meg tudunk figyelni megszámlálható sok eseményt, akkor meg tudjuk figyelni ezek unióját, metszetét, illetve mindegyik esemény komplementerét. Ez azt jelenti, hogy a megfigyelhető események σ-algebrát alkotnak. Ezért az általános kérdés úgy fogalmazható meg, hogy adva egy (Ω, A, P) valószínűségi mezőn egy F ⊂ A σ-algebra és egy A esemény vagy egy η valószínűségi változó, melyre E|η| < ∞, akkor definiáljuk a P (A|F)(ω) feltételes valószínűséget illetve E(η|F)(ω) feltételes várható értéket feltéve a F σ-algebrát. Az, hogy a F σ algebra ismeretében akarjuk megbecsülni az A halmaz valószínűségét illetve η valószínűségi változó értékét a P (A|F)(ω) és E(η|F)(ω) feltételes valószínűség definiciójában azt jelenti, hogy

i.) A P (A|F)(ω) feltételes valószínűség F mérhető függvény. i′). Az E(η|F)(ω) feltételes várható érték F mérhető függvény.

Az F σ-algebra szerinti feltételes valószínűség és feltételes várható érték definicióját a (∗) képlethez vezető érveléshez hasonlóan a következő módon próbáljuk definiálni a P (A|F)(ω) feltételes valószínűséget és E(η|F)(ω) feltételes várható értéket.

ii.) P (A ∩ B) = ∫_{B} P (A|F)(ω) dP (ω) minden F mérhető B halmazra.

ii.′) ∫_{B} η(ω) dP (ω) = ∫_{B} E(η|F)(ω) dP (ω) minden F mérhető B halmazra.

A feltételes valószínűség és feltételes várható érték definiciója. Legyen adva egy (Ω, A, P) valószínűségi mezőnek egy F ⊂ A rész-σ-algebrája. Legyen továbbá adva egy A ∈ A esemény vagy egy η(ω), E|η(ω)| < ∞ valószínűségi változó ezen a valószínűségi mezőn. Az A esemény P (A|F)(ω) feltételes valószínűsége feltéve a F σ-algebrát olyan valószínűségi változó mely teljesíti az i.) és ii.) tulajdonságokat. Az η(ω) valószínűségi változó E(η|F)(ω) feltételes várható értéke feltéve a F σ-algebrát olyan valószínűségi változó, mely teljesíti az i.′) és ii′.) tulajdonságokat.

Tisztázni kell, hogy a fenti definició tényleg meghatározza a P (A|F)(ω) feltételes valószínűséget és E(ξ|F)(ω) feltételes várható értéket. Ez az alább megfogalmazandó Radon–Nikodym tétel következménye. Ezenkívül meg kívánjuk érteni az általános esetben defininiált P (A|F) illetve E(η|F) feltételes valószínűség és feltételes várható érték kapcsolatát az előzőleg speciális esetben definiált P (A|ξ_{1} = x_{1}, …, ξ_{k} = x_{k}) és E(η|ξ_{1} = x_{1}, …, ξ_{k} = x_{k}) kifejezésekkel.

Annak érdekében, hogy a Radon–Nikodym tételt megfogalmazhassuk előbb be kell vezetni a következő definiciót.

Definició: Egy előjeles mérték abszolut folytonossága egy mérték szerint. Legyen μ véges (σ-additív) mérték és ν véges (σ-additív) előjeles mérték egy Ω téren értelmezett F σ-algebrán. Azt mondjuk, hogy a ν előjeles mérték abszolut folytonos a μ mérték szerint, ha minden olyan C ∈ F halmazra, melyre μ(C) = 0, a ν(C) = 0 reláció is teljesül.

Radon–Nikodym tétel. Legyen adva egy Ω tér, rajta egy F σ-algebra, továbbá ezen a F σ-algebrán egy μ (véges) mérték és ν (véges) előjeles mérték. Tegyük fel, hogy a ν előjeles mérték abszolut folytonos a μ mértékre nézve. Akkor létezik olyan az Ω téren definiált valós értékű F mérhető f(ω) függvény, melyre ∫ |f(ω)| dμ(ω) < ∞, és ∫_{C} f(ω) dμ(ω) < ∞ minden C ∈ F halmazra. Továbbá ez az f(ω) függvény egyértelmű a következő értelemben. Ha két f_{1}(ω) és f_{2}(ω) F mérhető függvény teljesíti a fenti relációt minden C ∈ F halmazra, akkor f_{1}(ω) = f_{2}(ω) a μ mérték szerint majdnem minden ω ∈ Ω pontban.

Megjegyzés: A Radon–Nikodym tétel tipikus existencia tétel. Az általános esetben nem ad módszert arra, hogyan lehet a keresett f(ω) Radon–Nikodym deriváltat effektive kiszámolni. Ez a probléma a feltételes eloszlás és feltételes várható érték fogalmában is megjelenik, és ez teszi a feltételes várható érték fogalmát nehézzé és népszerűtlenné. Szerencsére a legfontosabb statisztikai problémákban, ahol ez előkerül effektív módon tudunk vele számolni.

Jegyezzük meg, hogy az a kitétel, hogy a Radon–Nikodym tételben meghatározott f(ω) függvény csak μ majdnem mindenütt van meghatározva természetes. Ha egy f(ω) függvény teljesíti a Radon–Nikodym tételt, és a μ mérték szerint null mértékű halmazon megváltoztatjuk ezt a függvényt, akkor ez a megváltoztatott függvény is teljesíti a Radon–Nikodym tételben megkövetelt tulajdonságokat.

A Radon–Nikodym tételből egyszerűen következik a feltételes várható érték létezése. Valóban, ha adva van egy (Ω, A, P) valószínűségi mező, azon egy F ⊂ A σ-algebra valamint egy ξ(ω) valószínűségi változó, melyre E|ξ| < ∞, akkor alkalmazzuk a Radon– Nikodym tételt a következő választással: Legyen a μ mérték a P valószínűségi mérték, pontosabban annak megszorítása az F σ-algebrára, és definiáljuk a ν előjeles mértéket az F σ-algebrán a következő formula segítségével: ν(F) = ∫_{F} η(ω) dP (ω) minden F ∈ F halmazra. Ekkor a Radon–Nikodym tételt alkalmazhatjuk a μ mértékre és a ν előjeles mértékre, mert a ν előjeles mérték abszolut folytonos a μ mérték szerint. E tétel szerint létezik olyan f(ω) F mérhető függvény, melyre ν(F) = ∫_{F} f(ω)μ( dω) minden F ∈ F halmazra. Ez pedig azt jelenti, hogy a Radon–Nikodym tétel segítségével konstruált f(ω) függvény az E(η|F)(ω) feltételes várható érték.

A g_{η}(x_{1}, …, x_{k}) = E(η|ξ_{1} = x_{1}, …, ξ_{k} = x_{k}) feltételes várható értéket hasonlóan definiálhatjuk csak ekkor más μ mértékkel és ν előjeles mértékkel dolgozunk. Ekkor mind a μ mértéket mind a ν előjeles mértéket az R^{k} k-dimenziós euklideszi tér Borel mérhető halmazain definiáljuk. A μ mérték a (ξ_{1}, …, ξ_{k}) véletlen vektor eloszlása az R^{k} tér B ∈ B Borel mérhető részhalmazain, azaz μ(B) = P ((ξ_{1}, …, ξ_{k}) ∈ B), B ∈ B, és ν(B) = ∫_{{ω: (ξ_{1}(ω),...,ξ_{k}(ω))∈B}} η(ω) dP (ω) minden B ∈ B halmazra. A Radon–Nikodym tétel alapján létezik olyan g_{η}(x_{1}, …, x_{k}) Borel mérhető függvény a k-dimenziós euklideszi téren, melyre ν(B) = ∫_{B} g_{η}(x_{1}, …, x_{k})μ( dx_{1}, …, dx_{k}). Ekkor be lehet látni, hogy ez a g_{η} függvény a g_{η}(x_{1}, …, x_{k}) = E(η|ξ_{1} = x_{1}, …, ξ_{k} = x_{k}) feltételes várható érték.

A feltételes valószínűség fogalmával nem kell külön foglalkoznunk, mert a feltételes valószínűség és feltételes várható érték definiciójából következik, hogy tetszőleges mérhető A halmazra és annak I_{A}(ω) indikátor függvényére P (A|F)(ω) = E(I_{A}(ω)|F)(ω) és P (A|ξ_{1}(ω) = x_{1}, …, ξ_{k}(ω) = x_{k}) = E(χ_{A}(ω)|ξ_{1}(ω) = x_{1}, …, ξ_{k}(ω) = x_{k}). A továbbiakban egyrészt meg kívánjuk tárgyalni az E(η|F)(ω) és E(η|ξ_{1}(ω) = x_{1}, …, ξ_{k}(ω) = x_{k}) feltételes várható értékek közötti kapcsolatot abban az esetben, ha F = σ(ξ_{1}, …, ξ_{k}), a ξ_{1}, …, ξ_{k} valószínűségi változók által generált σ-algebra, azaz az a legszűkebb σ-algebra, melyben az összes ξ_{1}(ω), …, ξ_{k}(ω) valószínűségi változó mérhető függvény. Ezenkívül felsoroljuk a feltételes várható érték legfontosabb tulajdonságait, és azt, hogy hogyan lehet számolni a feltételes várható értékkel. Ez azért is fontos, mivel a feltételes várható értéket csak implicit módon (a Radon–Nikodym tétel segítségével) tudjuk definiálni. Ez a fő oka annak, hogy csak nehezebben tudunk a feltételes várható érték segítségével számolni.

Az első kérdés megértéséhez szükségünk van a következő (nem triviális) mértékelméleti eredményre.

Tétel. Legyen adva egy (Ω, A, P) valószínűségi mező, azon ξ_{1}(ω), …, ξ_{k}(ω) valószínűségi változók. Jelölje F a ξ_{1}(ω), …, ξ_{k}(ω) valószínűségi változók által generált σ-algebrát. Egy η valószínűségi változó akkor és csak akkor mérhető erre az F σ-algebrára, ha létezik a k-dimenziós R^{k} euklideszi térben olyan Borel mérhető f(x_{1}, …, x_{k}) függvény, melyre η(ω) = f(ξ_{1}(ω), …, ξ_{k}(ω)).

(Megjegyezzük, hogy a tételben tekintett f(x_{1}, …, x_{k}) Borel mérhető függvény nincs egyértelműen meghatározva.)

Legyen F egy ξ_{1}(ω), …, ξ_{k}(ω) valószínűségi változók által generált σ-algebra, és η(ω), E|η| < ∞ tetszőleges valószínűségi változó. Ekkor az E(η|F)(ω) F mérhető valószínűségi változó az előző tétel alapján felírható E(η(ω)|F) = g_{η}(ξ_{1}(ω), …, ξ_{k}(ω)) alakban, ahol g_{η}(x_{1}, …, x_{k}) k-változós Borel mérhető függvény. Azt állítjuk, hogy ekkor E(η|ξ_{1}(ω) = x_{1}, …, ξ_{k}(ω) = x_{k}) = g_{η}(x_{1}, …, x_{k}). Ehhez azt kell ellenőrizni integráltranszformáció segítségével, hogy a ii′.) relációból következik a (∗∗) reláció, ha a ii′.) relációban B = {ω: (ξ_{1}(ω), …, ξ_{k}(ω)) ∈ A} halmazt választunk. Hasonlóan be lehet látni, hogy ha E(η|ξ_{1}(ω) = x_{1}, …, ξ_{k}(ω) = x_{k}) = g_{η}(x_{1}, …, x_{k}), akkor E(η|F)(ω) = g_{η}(ξ_{1}(ω), …, ξ_{k}(ω)). Ehhez, azt kell észrevenni, hogy az előbb kimondott tétel alapján egy B ∈ F halmazra létezik olyan A Borel mérhető halmaz az R^{k} k-dimenziós téren, melyre B = {ω: (ξ_{1}(ω), …, ξ_{k}(ω)) ∈ A}. Ezután be lehet látni az integráltranszformáció segítségével, hogy a (∗∗) relációból következik a ii′.) relációból.

Felsoroljuk a feltételes várható érték legfontosabb tulajdonságait. Ezek bizonyítását, ami viszonylag egyszerű elhagyjuk. Ez valószínűleg szerepelt az előadáson. Rögzítsünk egy (Ω, A, P) valószínűségi mezőt. Az alábbi tulajdonságokban szereplő valószínűségi változók ezen a valószínűségi mezőn vannak értelmezve.

1. Ha ∑_{k=1}^{∞} |a_{k}|E|ξ_{k}| < ∞, F ⊂ A tetszőleges σ-algebra, akkor

E (∑_{k=1}^{∞} a_{k}ξ_{k}| F) (ω) = ∑_{k=1}^{∞} a_{k}E(ξ_{k}|F)(ω) majdnem minden ω ∈ Ω pontban.

2. Ha E|ξ| < ∞, G ⊂ F ⊂ A tetszőleges σ-algebrák, akkor E (E(ξ|F)|G) (ω) = E(ξ|G)(ω) majdnem minden ω ∈ Ω pontban. Speciálisan E (Eξ|F) = Eξ.

3. Ha ξ olyan valószínűségi változó, melyre P (a ≤ ξ ≤ b) = 1 alkalmas −∞ < a < b < ∞ számokkal, F ⊂ A σ-algebra, akkor a ≤ E(ξ|F)(ω) ≤ b majdnem minden ω ∈ Ω pontban.

4. E(ξ|A)(ω) = ξ(ω). Ha A_{0} jelöli a triviális σ-algebrát, amelyik csak az Ω és ∅ üres halmazból áll, akkor E(ξ|A_{0})(ω) = Eξ.

5. Ha E|ξ| < ∞, F ⊂ A, a ξ valószínűségi változó független az F σ-algebrától, azaz ha tetszőleges F ∈ F és a számegyenesen lévő Borel mérhető B ⊂ R^{1} halmazokra, P ({ω: ξ(ω) ∈ B} ∩ F) = P ({ω: ξ(ω) ∈ B})P (F), akkor E(ξ|F)(ω) = Eξ.

6. Ha Eξ^{2} < ∞, Eη^{2} < ∞, F ⊂ A, a ξ valószínűségi változó F σ-algebrára mérhető valószínűségi változó, azaz tetszőleges a számegyenesen lévő Borel mérhető B ⊂ R^{1} halmazra, {ω: ξ(ω) ∈ B} ∈ F, akkor E(ξη|F)(ω) = ξ(ω)E(η|F)(ω) majdnem minden ω ∈ Ω pontban.

A fenti állítások egyik érdekes következménye a következő tulajdonság. Tekintsünk egy ξ valószínűségi változót, melyre Eξ^{2} < ∞. Ekkor a

ξ(ω) = E(ξ|F)(ω) + (ξ(ω) − E(ξ|F)(ω))

felbontás olyan, hogy az összegben szereplő két valószínűségi változó egymásra merőleges az (Ω, A, P) téren négyzetesen integrálható függvények (Hilbert) terében, azaz

E(ξ|F)(ω) (ξ(ω) − E(ξ|F)(ω)) = 0.

Ebből a tényből, illetve a Hilbert terek néhány (egyszerű) alapvető tulajdonsága segítségével látható, hogy

7. E [ξ(ω) − E(ξ|F)(ω)]^{2} = inf_{η F mérhető valószínűségi változó, Eη^{2}<∞} E(ξ(ω) − η(ω))^{2}.

A hetedik pontban megfogalmazott tulajdonság fontos mind a valószínűségszámításban mind a statisztikában. Úgy lehet interpretálni, hogy az E(ξ|F)(ω) feltételes várható érték a ξ valószínűségi változó legjobb közelítése F mérhető valószínűségi változóval (az L_{2}(Ω, A, P) térben).

∗ ∗ ∗ Ez a rész egyelőre elhagyható. ∗ ∗ ∗

A következő tételnek a bizonyítását is elhagyjuk. Ennek a bizonyítása nehezebb, mint a fent felsorolt tulajdonságok bizonyítása. Ez az eredmény néhány finomabb vizsgálatban nagyon hasznos.

Tétel a feltételes reguláris eloszlás létezéséről. Legyen (ξ_{1}(ω), …, ξ_{k}(ω)) egy kdimenziós valószínűségi vektor egy (Ω, A, P) valószínűségi mezőn, F ⊂ A σ-algebra. Jelölje B a Borel σ-algebrát az R^{k} k-dimenziós euklideszi téren. A (ξ_{1}(ω), …, ξ_{k}(ω)) véletlen vektornak létezik az F σ-algebra szerinti reguláris feltételes eloszlása, azaz meg lehet adni egy olyan F (B, ω), F (B, ω): B × Ω → R^{1}, függvényt, melyre

i.) F (B, ·) minden B ∈ B halmazra F mérhető valószínűségi változó. ii.) F (·, ω) minden ω ∈ Ω pontra valószínűségi mérték az R^{k} k-dimenziós euklideszi

tér B σ-algebráján, azaz F (R^{k}, ω) = 1, 0 ≤ F (B, ω) ≤ 1 minden B ∈ B halmazra,

F ( ⋃_{k=1}^{∞} B_{k}, ω) = ∑_{k=1}^{∞} F (B_{k}, ω) minden diszjunkt B_{k} ∈ B, k = 1, 2, …, halmazokból

álló rendszerre. iii.) F (B, ω) = P ((ξ_{1}(ω), …, ξ_{k}(ω)) ∈ B|F) (ω) minden B ∈ B halmazra. Ez azt jelenti, hogy az F (B, ω) függvény tekinthető mint a csak majdnem minden ω ∈ Ω pontban meghatározott P ((ξ_{1}(ω), …, ξ_{k}(ω)) ∈ B|F) (ω) feltételes valószínűség egyik verziója.

Megjegyezzük, hogy az előző tétel bizonyítása nem triviális, nem elegendő pusztán a feltételes valószínűség definicióját kihasználni, hanem a bizonyításban fontos szerepe van az euklideszi tér szép topológiai tulajdonságainak is. A fő probléma az, hogy bár a feltételes várható érték 1.) pontban megfogalmazott tulajdonsága alapján a ii.) pontban megkövetelt σ-additivitás érvényes rögzített diszjunkt B_{n} ∈ B, n = 1, 2, …, halmazokra majdnem minden ω ∈ Ω pontban ahhoz, hogy a ii.) pontban megfogalmazott állítást belássuk szükségünk van kontinum sok ilyen feltételt biztosítani (majdnem) minden ω ∈ Ω pontban. Ez viszont sokkal erősebb állítás mint az 1.) pontban megfogalmazott tulajdonság.

Egy véletlen vektor függvényének a várható értékét ki lehet számolni mint ennek a függvénynek a véletlen vektor eloszlása szerinti integrált. A reguláris feltételes eloszlásról szóló tétel azért hasznos, mert lehetővé teszi ennek az eredménynek a természetes általánosítását a feltételes várható érték kiszámiításáról. Ez a tartalma a következő tételnek, melyet itt nem bizonyítunk, bár a bizonyítás, amelyik standard módon elvégezhető nem túl nehéz. Ebben az eredményben nagyon fontos az, hogy a reguláris feltételes eloszlás minden ω ∈ Ω pont esetén mérték, ezért minden ω ∈ Ω pontban definiálhatunk az F (·, ω) reguláris eloszlás szerinti Lebesgue integrálokat.

Tétel. Legyen adva egy (Ω, A, P) σ-algebra, azon egy F ⊂ A σ-algebra, egy ξ = (ξ_{1}, …, ξ_{k}) k-dimenziós és η = (η_{1}, …, η_{l}) l-dimenziós véletlen véletlen vektor. Legyen továbbá az (η_{1}, …, η_{k}) véletlen vektor F mérhető, és jelölje F (B, ω), B ⊂ R^{k} Borel mérhető függvény, ω ∈ Ω a (ξ_{1}, …, ξ_{k}) véletlen vektor reguláris feltételes eloszlása feltéve az F σ-algebrát. Legyen h(x_{1}, …, x_{k}, y_{1}, …, y_{l}) egy k + l változós Borel mérhető függvény, melyre E|h(ξ_{1}, …, ξ_{k}, η_{1}, …, η_{l})| < ∞. Az E (h(ξ_{1}, …, ξ_{k}, η_{1}, …, η_{l})|F) (ω) feltételes várható értéket ki lehet számítani a következő képlet segítségével:

E (h(ξ_{1}, …, ξ_{k}, η_{1}, …, η_{l})|F) (ω)
= [∫ h(x_{1}, …, x_{k}, y_{1}, …, y_{l})F (dx_{1}, …, dx_{k}, ω)]_{y_{1}=η_{1}(ω),...,y_{l}=η_{l}(ω)} .

∗ ∗ ∗

A matematikai statisztikában bizonyos vizsgálatokban szükség van feltételes eloszlásokkal való számolásra. Az itt felmerülő kérdések azonban egyszerűbbek. Olyan tipusú kérdések merülnek fel, melyekben adott egy (ξ_{1}, …, ξ_{k}, ξ_{k+1}, …, ξ_{k+l}) véletlen vektor, melynek létezik f(x_{1}, …, x_{k+l}) sűrűségfüggvénye, és ki akarjuk számítani a

(ξ_{1}, …, ξ_{k}, ξ_{k+1}, …, ξ_{k+l})

véletlen vektor egy h(ξ_{1}, …, ξ_{k}, ξ_{k+1}, …, ξ_{k+l}) függvényének feltételes várható értékét a ξ_{k+1} = x_{k+1}, …, ξ_{k+l} = x_{k+l} feltételek mellett. Ez azért egyszerűbb az előzőleg vizsgált kérdéseknél, mert ebben az esetben a felmerülő feltételes eloszlásokat explicit módon kiszámíthatjuk. Azt állítjuk, hogy ebben az esetben a (ξ_{1}, …, ξ_{k}) feltételes sűrűségfüggvénye feltéve a ξ_{k+1} = x_{k+1}, …, ξ_{k+l} = x_{k+l} feltételeket

f(x_{1}, …, x_{k}|x_{k+1}, …, x_{k+l}) = \frac{f(x_{1}, …, x_{k}, x_{k+1}, …, x_{k+l})}{g(x_{k+1}, …, x_{k+l})},

ahol

g(x_{k+1}, …, x_{k+l}) = ∫ f(x_{1}, …, x_{k}, x_{k+1}, …, x_{k+l}) dx_{1}, … dx_{k},

azaz a (ξ_{k+1}, …, ξ_{k+l}) véletlen vektor sűrűségfüggvénye. Ez azt jelenti, hogy tetszőleges Borel mérhető A ⊂ R^{k} halmazra

P ({ω: (ξ_{1}(ω), …, ξ_{k}(ω)) ∈ A}|ξ_{k+1}(ω) = x_{k+1}, …, ξ_{k+l}(ω) = x_{k+l})
= ∫_{A} f(x_{1}, …, x_{k}|x_{k+1}, …, x_{k+l}) dx_{1} … dx_{k}.

Illetve a (∗) formula alapján azt kell ellenőrizni, hogy minden A ⊂ R^{k} és B ∈ R^{l} Borel mérhető halmazpárra P ({ω: (ξ_{1}(ω), …, ξ_{k}(ω)) ∈ A} ∩ {ω: (ξ_{k+1}(ω), …, ξ_{k+l}(ω)) ∈ B})

= ∫_{B} [∫_{A} f(x_{1}, …, x_{k}|x_{k+1}, …, x_{k+l}) dx_{1} … dx_{k}] g(x_{k+1}, …, x_{k+l}) dx_{k+1} … dx_{k+l}.

Ez az azonosság viszont érvényes, mert

∫_{B} [∫_{A} f(x_{1}, …, x_{k}|x_{k+1}, …, x_{k+l}) dx_{1} … dx_{k}] g(x_{k+1}, …, x_{k+l}) dx_{k+1} … dx_{k+l}

= ∫_{A×B} f(x_{1}, …, x_{k}, x_{k+1}, …, x_{k+l}) dx_{1} … dx_{k} dx_{k+1} … dx_{k+l}
= P ({ω: (ξ_{1}(ω), …, ξ_{k}(ω)) ∈ A} ∩ {ω: (ξ_{k+1}(ω), …, ξ_{k+l}(ω)) ∈ B}) .

Be lehet látni, hogy egy h(x_{1}, …, x_{k}, x_{k+1}, …, x_{k+l}) függvényre h(ξ_{1}, …, ξ_{k}, ξ_{k+1}, …, ξ_{k+l})|ξ_{k+1} = x_{k+1}, …, ξ_{k+l} = x_{k+l})

= ∫ h(x_{1}, …, x_{k}, x_{k+1}, …, x_{k+l})\frac{f(x_{1}, …, x_{k}, x_{k+1}, …, x_{k+l})}{g(x_{k+1}, …, x_{k+l})} dx_{1} … dx_{k}.

Ennek a formulának a bizonyítását, mely úgy történhet, hogy azt előbb a legegyszerűbb alakú h függvényekre majd alkalmas határátmenettel általános függvényekre bizonyítjuk, elhagyjuk. A fent tárgyalt formulák segítségével be lehet bizonyítani néhány érdekes formulát a feltételes eloszlásokra, ezt azonban időhiány miatt nem tesszük.