A Valószínűségszámítás II. előadássorozat tízenharmadik előadása. 2002. december 10.

Feltételes valószínűség és várható érték (első rész)

A feltételes valószínűség és feltételes várható érték nulla valószínűségi feltételek mellett is definiálják, de az így definiált fogalmak a valószínűségszámítás legnehezebb fogalmai közé tartoznak. Ahhoz, hogy e fogalmakat jobban megértsük, próbáljuk először megérteni azt, hogy milyen szemléletes képet akarunk ennek a definiciónak a segítségével megfogalmazni. Ennek érdekében tekintsük a következő példát.

Van tíz darab lámpánk, ezek élettartama egymástól független, (exponenciális eloszlással és) 25 óra várható értékkel. Egy foglalatba betesszük az első lámpát, hogy bevilágítson egy termet. Ha a lámpa kiégett azonnal kicseréljük a következő lámpára. Első kérdés: Mit várunk várunk, mennyi ideig elegendő a tíz lámpa együttesen a terem bevilágításához? A természetes válasz az, hogy ez a tíz lámpa együttes élettartamának a várható értéke, azaz 10×25=250 óra. A második kérdés a következő: Megfigyeljük, hogy melyik időpontban cseréljük ki a második lámpát. Mit várunk ennek az információnak az ismeretében a tíz lámpa együttes élettartamára? Ha ez a csere 48 óra 22 perc múlva történik meg, akkor a természetes becslés a 10 lámpa együttes élettartamára 48 óra 22 perc plusz 8×25 óra, azaz 248 óra 22 perc. Ha ez a csere 51 óra 19 perc múlva történik, akkor hasonlóan azt várjuk, hogy ez az időtartam 251 óra 19 perc.

A fenti példa nem önmaga miatt érdekes számunkra, hanem azért, mert rámutat arra, hogy természetes felvetni a következő kérdést. Adva egy esemény vagy egy valószínűségi változó, akkor érdekelhet minket ennek az eseménynek a valószínűsége vagy valószínűségi változónak várható értéke. Előfordulhat, hogy más eseményekenek bekövetkezését vagy be nem következését más valószínűségi változók felvett értékét meg tudjuk figyelni, és ezen plusz információ ismeretében akarjuk megbecsülni a minket érdeklő esemény valószínűségét vagy valószínűségi változó várható értékét. Ekkor természetes olyan becslést adni, amelyik ezeket a plusz információkat is figyelembe veszi. Az előző paragrafusban is ilyen kérdést fogalmaztunk meg. Ott meg akartuk becsülni tíz valószínűségi változó összegének a várható értékét azon feltétel mellett, hogy az első két változó összegének az értéke ismert. Figyeljünk fel arra, hogy az első két lámpa összélettartama folytonos eloszlású valószínűségi változó, ezért nulla annak a valószínűsége, hogy egy előírt értéket vesz fel. Tehát a keresett valószínűségi változó feltételes várható értékére olyan feltétel mellett vagyunk kiváncsiak, hogy egy nulla valószínűségi esemény következett be. Viszont a bevezető valószínűség előadásban tárgyalt feltételes valószínűség (és feltételes várható érték) fogalma csak abban az esetben volt értelmes, ha a feltétel nem nulla valószínűségű. Szeretnénk a feltételes valószínűség és feltételes várható érték fogalmának olyan általánosítását adni, amelyik lehetővé teszi, hogy a feltételes valószínűségről és feltételes várható értékről beszélhessünk nulla valószínűségi feltételek mellett is, és a bevezetett fogalmak megfeleljenek szemléletes képünknek, melyet első pillanatban csak homályosan tudunk megfogalmazni. Lehetséges ilyen definiciót adni, de ehhez szükségünk van a mértékelmélet néhány mély eredményére. Mostani előadásom célja e feltételes valószínűség és várható érték fogalmának ismertetése az általános esetben, illetve legfontosabb tulajdonságainak tárgyalása.

Az előző példa azt sugallja, hogy egy A halmaz feltételes valószínűségét feltéve bizonyos ξ_{1}, …, ξ_{k} valószínűségi változók értékét úgy érdemes definiálni, mint a ξ_{1}, …, ξ_{k} valószínűségi változók alkalmas (Borel) mérhető függvényét, azaz P (A|ξ_{1} = x_{1}, …, ξ_{k} = x_{k}) = f_{A}(x_{1}, …, x_{k}), ahol f_{A}(x_{1}, …, x_{k}) Borel mérhető függvény az R^{k} k-dimenziós euklideszi térben, és azt méri mennyire valószínű az A esemény feltéve, hogy ξ_{1} = x_{1}, …, ξ_{k} = x_{k}. Ezt a valószínűséget implicit módon tudjuk definiálni. Azt várjuk a P (A ∩ B) = P (B)P (A|B) azonosság analógiájára (formálisan a

B = {ω: ξ_{1}(ω), …, ξ_{k}(ω)) ∈ [x_{1}, x_{1} + dx_{1}] × ⋯ × [x_{k}, x_{k} + dx_{k}]}

és az A halmaz választásával), hogy

P ((ξ_{1}, …, ξ_{k}) ∈ [x_{1}, x_{1} + dx_{1}] × ⋯ × [x_{k}, x_{k} + dx_{k}] ∩ A)
= P ((ξ_{1}, …, ξ_{k}) ∈ [x_{1}, x_{1} + dx_{1}] × ⋯ × [x_{k}, x_{k} + dx_{k}])f_{A}(x_{1}, …, x_{k}) .

Ez az azonosság azonban semmitmondó, mert az azonosság mindkét oldala nulla. Viszont ez egy tartalmas állítássá válik, ha ezt az azonosságot kiintegráljuk. Ez azt sugallja, hogy teljesülnie kell a

P (A ∩ {(ξ_{1}, …, ξ_{k}) ∈ B})

= ∫_{(x_{1},...,x_{k})∈B} f_{A}(x_{1}, …, x_{k})P (ξ_{1} ∈ [x_{1}, x_{1} + dx_{1}], …, ξ_{k} ∈ [x_{k}, x_{k} + dx_{k}])

= ∫_{(x_{1},...,x_{k})∈B} f_{A}(x_{1}, …, x_{k})F ( dx_{1}, …, dx_{k})  (∗)

azonosságnak, ahol B az R^{k} k-dimenziós tér tetszőleges (Borel) mérhető halmaza, F (x_{1}, …, x_{k}) pedig a k-dimenziós (ξ_{1}, …, ξ_{k}) valószínűségi változó eloszlásfüggvénye. Az analízis egyik fontos eredményéből, az alább ismertetendő Radon–Nikodym tételből következik, hogy létezik olyan f_{A}(·, ·, ·) függvény mely teljesíti a (∗) azonosságot minden mérhető B halmazra, és ezek az azonosságok lényegében egyértelműen meghatározzák ezt az f_{A} feltételes valószínűség függvényt. Annak érdekében, hogy megértsük a lényegében egyértelműen kitétel értelmét jegyezzük meg, hogy ha egy f_{A} függvény teljesíti a (∗) azonosságok rendszerét, akkor megváltoztatva ezt az f_{A} függvényt egy a (ξ_{1}, …, ξ_{k}) valószínűségi változók F eloszlása által meghatározott Lebesgue–Stieltjes mérték szerint null mértékű halmazon, akkor olyan új függvényt kapunk, mely szintén teljesíti a fenti egyenletrendszert. Az, hogy a (∗) azonosságot minden B halmazra teljesítő f_{A} függvény lényegében egyértelműen meg van határozva azt jelenti, hogy ha két f_{A} és f̄_{A} függvény teljesíti a (∗) azonosságot a k-dimenziós euklideszi tér minden B Borel mérhető halmazára, akkor f_{A}(x_{1}, …, x_{k}) = f̄_{A}(x_{1}, …, x_{k}) a (ξ_{1}, …, ξ_{k}) véletlen vektor F eloszlása szerint meghatározott Lebesgue–Stieltjes mérték szerint majdnem minden (x_{1}, …, x_{k}) pontban.

Hasonló gondolatmenet segítségével definiálhatjuk egy η, E|η| < ∞, valószínűségi változó g_{η}(x_{1}, …, x_{k}) = E(η|ξ_{1} = x_{1}, …, ξ_{k} = x_{k}) feltételes várható értékének a definicióját feltéve a ξ_{1} = x_{1}, …, ξ_{k} = x_{k} feltételeket. Ez olyan (Borel-mérhető) g_{η}(x_{1}, …, x_{k}) függvény, melyre az

\begin{aligned}Eη(ω)I (\{ω: (ξ_{1}(ω), …, ξ_{k}(ω)) ∈ A\}) & = ∫_{\{ω: (ξ_{1}(ω),...,ξ_{k}(ω))∈A\}} η(ω) dP (ω) \\ & = ∫_{A} g_{η}(x_{1}, …, x_{k})F (dx_{1}, …, dx_{k}) \end{aligned} (∗∗)

relációk teljesülnek a k-dimenziós R^{k} euklideszi tér tetszőleges A Borel mérhető részhalmazára, ahol I(B) jelöli egy B ⊂ Ω halmaz indikátor függvényét, és F (x_{1}, …, x_{k}) a (ξ_{1}, …, ξ_{k}) véletlen vektor eloszlásfüggvénye. Azt, hogy ilyen g_{η}(x_{1}, …, x_{k}) függvény valóban létezik, és ez a g_{η} függvény az F (x_{1}, …, x_{k}) eloszlásfüggvény által meghatározott Lebesgue–Stieltjes mérték szerint egy valószínűséggel meg van határozva szintén a Radon–Nikodym tétel segítségével láthatjuk be.

Mielőtt megtárgyalnánk a fent említett Radon–Nikodym tételt, megfogalmazzuk a feltételes valószínűség és várható érték fogalmát némileg általánosabb esetben. Előfordulhat ugyanis, hogy az előzetes információink, melyek alapján egy halmaz valószínűségére vagy egy valószínűségi változó értékére becslést akarunk adni nem tömöríthető véges sok valószínűségi változó megfigyelt értékébe. Ahhoz, hogy a feltételes valószínűség és feltételes várható érték fogalmát természetes módon meg tudjuk fogalmazni ebben az általánosabb esetben is, először azt kell tisztáznunk, hogy mit jelent az általános esetben az, hogy bizonyos megfigyelt események függvényéként akarunk valamit megbecsülni.

Ha meg tudunk figyelni megszámlálható sok eseményt, akkor meg tudjuk figyelni ezek unióját, metszetét, illetve mindegyik esemény komplementerét. Ez azt jelenti, hogy a megfigyelhető események σ-algebrát alkotnak. Ezért az általános kérdés úgy fogalmazható meg, hogy adva egy (Ω, A, P) valószínűségi mezőn egy F ⊂ A σ-algebra és egy A esemény vagy egy η valószínűségi változó, melyre E|η| < ∞, akkor hogyan definiáljuk a P (A|F)(ω) feltételes valószínűséget illetve E(η|F)(ω) feltételes várható értéket feltéve az F σ-algebrát. Az, hogy az F σ-algebra ismeretében akarjuk megbecsülni az A halmaz valószínűségét illetve η valószínűségi változó értékét a P (A|F)(ω) és E(η|F)(ω) feltételes valószínűség definiciójában azt jelenti, hogy

i.) A P (A|F)(ω) feltételes valószínűség F mérhető függvény. i′). Az E(η|F)(ω) feltételes várható érték F mérhető függvény.

Az F σ-algebra szerinti feltételes valószínűség és feltételes várható érték definicióját a (∗) képlethez vezető érveléshez hasonlóan a következő módon próbáljuk definiálni a P (A|F)(ω) feltételes valószínűséget és E(η|F)(ω) feltételes várható értéket.

ii.) P (A ∩ B) = ∫_{B} P (A|F)(ω) dP (ω) minden F mérhető B halmazra.

ii.′) ∫_{B} η(ω) dP (ω) = ∫_{B} E(η|F)(ω) dP (ω) minden F mérhető B halmazra.

A feltételes valószínűség és feltételes várható érték definiciója. Legyen adva egy (Ω, A, P) valószínűségi mezőnek egy F ⊂ A rész-σ-algebrája. Legyen továbbá adva egy A ∈ A esemény vagy egy η(ω), E|η(ω)| < ∞ valószínűségi változó ezen a valószínűségi mezőn. Az A esemény P (A|F)(ω) feltételes valószínűsége feltéve a F σ-algebrát olyan valószínűségi változó mely teljesíti az i.) és ii.) tulajdonságokat. Az η(ω) valószínűségi változó E(η|F)(ω) feltételes várható értéke feltéve a F σ-algebrát olyan valószínűségi változó, mely teljesíti az i.′) és ii′.) tulajdonságokat.

Tisztázni kell, hogy a fenti definició tényleg meghatározza a P (A|F)(ω) feltételes valószínűséget és E(ξ|F)(ω) feltételes várható értéket. Ez az alább megfogalmazandó Radon–Nikodym tétel következménye. Ezenkívül meg kívánjuk érteni az általános esetben defininiált P (A|F) illetve E(η|F) feltételes valószínűség és feltételes várható érték kapcsolatát az előzőleg speciális esetben definiált P (A|ξ_{1} = x_{1}, …, ξ_{k} = x_{k}) és E(η|ξ_{1} = x_{1}, …, ξ_{k} = x_{k}) kifejezésekkel.

Annak érdekében, hogy a Radon–Nikodym tételt megfogalmazhassuk előbb be kell vezetni a következő definiciót.

Definició: Egy előjeles mérték abszolut folytonossága egy mérték szerint. Legyen μ (esetleg σ)-véges (σ-additív) mérték és ν véges (σ-additív) előjeles mérték egy Ω téren értelmezett F σ-algebrán. Azt mondjuk, hogy a ν előjeles mérték abszolut folytonos a μ mérték szerint, ha minden olyan C ∈ F halmazra, melyre μ(C) = 0, a ν(C) = 0 reláció is teljesül.

Radon–Nikodym tétel. Legyen adva egy Ω tér, rajta egy F σ-algebra, továbbá ezen a F σ-algebrán egy μ (σ-véges) mérték és ν (véges) előjeles mérték. Tegyük fel, hogy a ν előjeles mérték abszolut folytonos a μ mértékre nézve. Akkor létezik olyan az Ω téren definiált valós értékű F mérhető f(ω) függvény, melyre ∫ |f(ω)| dμ(ω) < ∞, és ∫_{C} f(ω) dμ(ω) < ∞ minden C ∈ F halmazra. Továbbá ez az f(ω) függvény egyértelmű a következő értelemben. Ha két f_{1}(ω) és f_{2}(ω) F mérhető függvény teljesíti a fenti relációt minden C ∈ F halmazra, akkor f_{1}(ω) = f_{2}(ω) a μ mérték szerint majdnem minden ω ∈ Ω pontban.

1. megjegyzés: A Radon–Nikodym tétel tipikus egzisztencia tétel. Az általános esetben nem ad módszert arra, hogyan lehet a keresett f(ω) Radon–Nikodym deriváltat effektive kiszámolni. Ez a probléma a feltételes eloszlás és feltételes várható érték fogalmában is megjelenik, és ez teszi a feltételes várható érték fogalmát nehézzé és népszerűtlenné. Szerencsére a legfontosabb statisztikai problémákban, ahol ez előkerül effektív módon tudunk vele számolni. (Ehhez a kérdéshez később még visszatérünk.)

2. megjegyzés: Legyen adva egy (Ω, A) mérhető tér, azon egy (σ-additív μ mérték, és egy előjeles ν mérték. (Tegyük fel az egyszerűség kedvéért, hogy μ σ-véges és ν véges. Az az integrál tulajdonságaiból azonnal látszik, hogy amennyiben a ν mérték előáll a Radon–Nikodym tételben leírt módon, akkor az abszolut folytonos a μ mértékre nézve. Létezik a két mérték kapcsolatának részletesebb leírása is, mely arról az esetről is szól, amikor a ν mérték nem abszolut folytonos a μ mértékre nézve. Nevezetesen, mindig igaz, hogy az Ω halmaz felbontható Ω = B ∪ (Ω \ B) alakba, B ∈ A úgy, hogy μ(Ω \ B) = 0 és minden C ⊂ B halmazra ν(C) = 0, ha μ(C) = 0. Ez azt jelenti, hogy, ha a μ és ν mértéket, illetve előjeles mértéket megszorítjuk a B halmazra, akkor ott ν abszolut folytonos a μ mértékre, míg a komplementer halmaznak a μ mértéke nulla, míg a ν mértékre ez a tulajdonság nem feltétlenül teljesül. Ez azt jelenti, hogy be lehet vezetni a ν_{a} és ν_{sz} előjeles mértékeket a ν_{a}(A) = ν(A ∩ B és ν_{sz} = ν(A ∩ (Ω \ B)), A ∈ A képlettel. Ekkor ν = ν_{a} + ν_{sz}, a ν_{a} mérték abszolut folytonos a μ mértékre nézve, ezért alkalmazható rá a Radon–Nikodym tétel. A ν_{sz} mérték szinguláris a μ mértékre nézve, ami azt jelenti, hogy létezik egy olyan B ∈ A halmaz, melyre μ(B) = 0 viszont ν_{sz}(C) = 0 minden C ⊂ Ω \ B halmazra. Egy ν előjeles mérték felbontása egy abszolut folytonos és szinguláris komponensre egyértelmű.

Jegyezzük meg, hogy az a kitétel, hogy a Radon–Nikodym tételben meghatározott f(ω) függvény csak μ majdnem mindenütt van meghatározva természetes. Ha egy f(ω) függvény teljesíti a Radon–Nikodym tételt, és a μ mérték szerint null mértékű halmazon megváltoztatjuk ezt a függvényt, akkor ez a megváltoztatott függvény is teljesíti a Radon–Nikodym tételben megkövetelt tulajdonságokat.

Közbevetett megjegyzés: Annak érdekében, hogy jobban megértsük a Radon– Nikodym tételt, felidézek néhány eredményt, ami része a Mértékelmélet anyagának, és segíthet jobban megérteni ezt az eredményt. A tétel (klasszikus) bizonyítása, melyet nem dolgozunk ki az alábbi, az irodalomban Hahn-féle felbontási tételnek nevezett eredményen alapul. Ez olyan tényt fejez ki, hogy tetszőleges előjeles mértéknek van egy pozitív és negatív része, és az előjeles mérték ezek összegeként írható fel.

Hahn-féle felbontási tétel. Legyen adva egy (X, A) mértéktér, azaz egy X halmaz, és annak ,,mérhető” halmazai, melyek egy A σ-algebrát alkotnak, és egy ν σ-additív előjeles mérték az A σ-algebrárán. (Ez azt jelenti, hogy minden A ∈ A halmaz előállítható véges sok vagy megszámlálható sok A_{n} ∈ A halmaz uniójaként úgy, hogy A = ⋃ A_{n}, |ν(A_{n})| < ∞ és vagy ν(B) < ∞ vagy ν(C) > −∞ minden C ∈ A halmazra. Ekkor létezik olyan B ∈ A halmaz, melyre ν(C) ≥ 0 minden C ⊂ B, C ∈ A és ν(D) ≤ 0 minden D ⊂ X \ B, D ∈ A halmazra.

Megjegyzés. Tetszőleges A ∈ A halmazt felírhatunk A = (A ∩ B) ∪ (A \ B) alakban. Ekkor ν(A) = ν(A ∩ B) + ν(A \ B, ν(A ∩ B) ≥ 0 és ν(A \ B) ≤ 0. Ezért bevezethetjük a ν^{+}(A) = ν(A ∩ B) és ν^{−}(A) = ν(A \ B) mennyiségeket minden A ∈ A halmazra. A ν^{+} mértéket a ν előjeles mérték pozitív részének, a ν^{−} (negatív) mértéket pedig a ν előjeles mérték negatív részének nezezzük.

Legyen adva egy μ véges mérték és egy ν előjeles mérték ugyanazon az (X, A) mértéktéren. Tegyük fel, hogy ν abszolut folytonos a μ mértékre nézve. Hogyan tudjuk megtalálni a Banach–Hahn tételben szereplő a ν előjeles mértéknek a μ mérték szerinti Radon–Nikodym deriváltját? A ν mérték Hahn felbontása megadja, hol kell ezt a Radon–Nikodym deriváltat pozítívnak és hol kell negatívnak választani. Hasonlóan véve egy tetszőleges c valós számot, és tekintve a ν − cμ mérték Hahn-felbontását, meg tudjuk mondani, hol lesz a Radon–Nikodym derivált nagyobb vagy egyenlő, mint c. A bizonyítás ennek a gondolatnak a következetes végigviteléből áll. A fő probléma az, hogy a Hahn-felbontás csak egzisztecia tétel, ezért nem teszi lehetővé, hogy egyszerű módszert adjunk a Radon–Nikodym derivált kiszámítására.

Különösen érdekes, és a mértékelméletben külön vizsgált eset az, amikor a számegyenesen definiált ν mértékeket tekintjük, és a μ mérték a λ Lebesgue mérték. Ekkor egy ν abszolut folytonos előjeles mérték előállítható ν([a, b]) = ∫_{a}^{b} f(u) du alakban, és csak az abszolut folytonos mértékek írhatóak ilyen alakban. Ha egy ν mérték felírható a fenti alakban, akkor érvényes az ∫ g(u)ν( du) = ∫ g(u)f(u) du azonosság is minden mérhető g(·) függvényre. (Ez az azonosság úgy értendő, hogy a két oldalon szereplő integrál egyszerre létezik vagy nem létezik.) Tekintsünk a továbbiakban olyan előjeles mértékeket a számegyenesen, melyeknek mind a negatív mind a pozitív része véges. Jegyezzük meg, hogy ezen megszorítás után kölcsönösen egyértelmű megfeleletetés létesíthető a számegyenesen értelmezett ν előjeles mértékek és a számegyenesen definiált korlátos változású G(·) függvények között, ha azonosítunk két olyan függvényt, melyek különbsége konstans. (Ezt a megfeletetést megkaphatjuk, hogy egy függvényhez hozzárendeljük az általa meghatározott Lebesgue–Stieltjes mértéket, egy ν mértékhez pedig a G(x) = ν([−∞, x)) függvényt rendeljük hozzá. Igaz az a tétel is, mely szerint egy függvény akkor és csak akkor korlátos változású, ha előáll két korlátos monoton függvény különbségeként. Ez az eredmény megfelel a számegyenesen definiált előjeles mértékek Hahn-féle felbontásának.) Egy (korlátos változású) függvényt akkor és csak akkor nevezünk abszolut folytonosnak, ha az általa definiált előjeles mérték abszolut folytonos. Természetes módon felmerül a kívánság, hogy adjunk lehetőleg minél áttekinthetőbb jellemzést az abszolut folytonos mértékekről (függvényekről) a számegyenesen, és jellemezzük a különböző lehetséges tulajdonságú mértékeket.

Be lehet látni, hogy egy G korlátos változású függvény akkor és csak akkor abszolut folytonos, ha minden ε > 0 intervallumra létezik olyan δ > 0 szám, melyre igaz, hogy tetszőleges olyan diszjunkt [a_{k}, b_{k}) intervallumokra 1 ≤ k ≤ n, (az n szám tetszőleges),

melyekre ∑_{k=1}^{n}(b_{k} − a_{k}) < δ, teljesül a | ∑_{k=1}^{n}(G(b_{k}) − G(a_{k}))| < ε egyenlőtlenség is, vagy

ami ezzel ekvivalens, |ν_{G} ( ⋃_{k=1}^{n}([a_{k}, b_{k}))| < ε, ha λ ( ⋃_{k=1}^{n}([a_{k}, b_{k})) ε, ahol ν_{G} jelöli a

G függvény által indukált Lebesgue–Stieltjes mértéket. Egy előjeles mértéket diszkrétnek nevezzünk, ha véges vagy megszámlálható pontba van koncentrálva, azaz egy véges vagy megszámlálható halmaz komplementerének a mértéke nulla. Bevezetnek még egy harmadik fogalmat is: Egy előjeles mértéket szingulárisnak neveznek, ha minden pontjának a mértéke nulla, de van a számegyenesnek olyan mérhető részhalmaza, melynek előjeles mértéke nem nulla. Be lehet látni, hogy ilyen szinguláris előjeles mérték valóban létezik, sőt az is igaz, hogy tetszőleges előjeles mérték egyértelműen felbontható egy abszolut folytonos, egy diszkrét és egy abszolut folytonos előjeles mérték összegeként. A szinguláris mértékek létezése okozza, hogy általános problémák tárgyalásában szükséges Lebesgue-Stieltjes integrálokkal is számolni. Egy abszolut folytonos előjeles mérték szerinti integrál átírható mint alkalmas Lebesgue mérték szerinti integrál, a diszkrét mértékek szerinti integrálok valójában véges vagy megszámlálható összeget jelentenek, de egy szinguláris mérték szerinti integrál esetében nincsen hasonló egyszerűsítési lehetőség.

A Radon–Nikodym tételből egyszerűen következik a feltételes várható érték létezése. Valóban, ha adva van egy (Ω, A, P) valószínűségi mező, azon egy F ⊂ A σ-algebra valamint egy ξ(ω) valószínűségi változó, melyre E|ξ| < ∞, akkor alkalmazzuk a Radon– Nikodym tételt a következő választással: Legyen a μ mérték a P valószínűségi mérték, pontosabban annak megszorítása az F σ-algebrára, és definiáljuk a ν előjeles mértéket az F σ-algebrán a következő formula segítségével: ν(F) = ∫_{F} η(ω) dP (ω) minden F ∈ F halmazra. Ekkor alkalmazhatjuk a Radon–Nikodym tételt a μ mértékre és a ν előjeles mértékre, mert a ν előjeles mérték abszolut folytonos a μ mérték szerint. Ugyanis, μ(A) = P (A) = 0 esetén μ(A) = ∫_{A} η(ω)P ( dω) = 0. A Radon–Nikodym tétel szerint létezik olyan f(ω) F mérhető függvény, melyre ν(F) = ∫_{F} f(ω)μ( dω) minden F ∈ F halmazra. Ez pedig azt jelenti, hogy a Radon–Nikodym tétel segítségével konstruált f(ω) függvény az E(η|F)(ω) feltételes várható érték. (Az állítás jobb megértése érdekében jegyezzük meg, hogy az η(ω) valószínűségi változó azért nem választható mindig az f(ω) valószínűségi változónak, mert igaz ugyan, hogy ez a függvény teljesíti a kívánt azonosságot minden F ∈ F halmazra teljesíti, de nem feltétlenül F mérhető. (Eredetileg csak annyit tudunk, hogy η A mérhető, és F ⊂ A.)

Példa: Tekintsük a következő példát a definició jobb megértése érdekében: Legyen az (Ω, A, P) valószínűségi mező az Ω = [0, 1] × [0, 1] egyszégnégyzet, rajta a szokásos A Borel σ-algebra és P = λ a Lebesgue mérték az egységnégyzet Borel-mérhető részhalmazain. Legyen F az A × [0, 1] alakú halmazokból álló σ-algebra, ahol A ∈ B_{1}, és B_{1} a [0, 1] intervallumon generált σ-algebrát jelöli. Tekintsünk egy tetszőleges (mérhető és integrálható) f(x, y) függvényt az egységnégyzeten, (az (Ω, A, P) valószínűségi mezőn) és számoljuk ki az E(f(x, y)|F) valószínűégi mezőn. Ha az f(x, y) függvény valóban függ mind a két változójától, akkor nem F mérhető függvény. Viszont definiáljuk a g_{0}(x) = ∫_{0}^{1} f(x, y) dy és g(x, y) = g_{0}(x) függvényeket. (A g(x, y) függvény valójában nem függ az y koordinától, viszont tekinthető egy az (Ω, A, P) valószínűségi mezőn definiált valószínűségi változónak, és mivel nem függ az y koordinától (és mérhető), ezért F) mérhető. Azt állítom, hogy E(f(x, y)|F) = g(x, y). Ehhez azt kell még ellenőrizni, hogy ∫_{A×[0,1]} g(x, y) dx dy = ∫_{A×[0,1]} f(x, y) dx dy. Viszont

∫_{A×[0,1]} g(x, y) dx dy = ∫_{A} g_{0}(x) dx = ∫_{A} (∫_{0}^{1} f(x, y) dy) dx = ∫_{A×[0,1]} f(x, y) dx dy,

amint állítottuk.

A g_{η}(x_{1}, …, x_{k}) = E(η|ξ_{1} = x_{1}, …, ξ_{k} = x_{k}) feltételes várható értéket hasonlóan definiálhatjuk csak ekkor más μ mértékkel és ν előjeles mértékkel dolgozunk. Ekkor mind a μ mértéket mind a ν előjeles mértéket az R^{k} k-dimenziós euklideszi tér Borel mérhető halmazain definiáljuk. A μ mérték a (ξ_{1}, …, ξ_{k}) véletlen vektor eloszlása az R^{k} tér B ∈ B Borel mérhető részhalmazain, azaz μ(B) = P ((ξ_{1}, …, ξ_{k}) ∈ B), B ∈ B, és ν(B) = ∫_{{ω: (ξ_{1}(ω),...,ξ_{k}(ω))∈B}} η(ω) dP (ω) minden B ∈ B halmazra. A Radon–Nikodym tétel alapján létezik olyan g_{η}(x_{1}, …, x_{k}) Borel mérhető függvény a k-dimenziós euklideszi téren, melyre ν(B) = ∫_{B} g_{η}(x_{1}, …, x_{k})μ( dx_{1}, …, dx_{k}). Ekkor be lehet látni, hogy ez a g_{η} függvény a g_{η}(x_{1}, …, x_{k}) = E(η|ξ_{1} = x_{1}, …, ξ_{k} = x_{k}) feltételes várható érték.

A feltételes valószínűség fogalmával nem kell külön foglalkoznunk, mert a feltételes valószínűség és feltételes várható érték definiciójából következik, hogy tetszőleges mérhető A halmazra és annak I_{A}(ω) indikátor függvényére P (A|F)(ω) = E(I_{A}(ω)|F)(ω) és P (A|ξ_{1}(ω) = x_{1}, …, ξ_{k}(ω) = x_{k}) = E(I_{A}(ω)|ξ_{1}(ω) = x_{1}, …, ξ_{k}(ω) = x_{k}). A továbbiakban egyrészt meg kívánjuk tárgyalni az E(η|F)(ω) és E(η|ξ_{1}(ω) = x_{1}, …, ξ_{k}(ω) = x_{k}) feltételes várható értékek közötti kapcsolatot abban az esetben, ha F = σ(ξ_{1}, …, ξ_{k}), a ξ_{1}, …, ξ_{k} valószínűségi változók által generált σ-algebra, azaz az a legszűkebb σ-algebra, melyben az összes ξ_{1}(ω), …, ξ_{k}(ω) valószínűségi változó mérhető függvény. Ezenkívül felsoroljuk a feltételes várható érték legfontosabb tulajdonságait, és azt, hogy hogyan lehet számolni a feltételes várható értékkel. Ez azért is fontos, mivel a feltételes várható értéket csak implicit módon (a Radon–Nikodym tétel segítségével) tudjuk definiálni. Ez a fő oka annak, hogy csak nehezebben tudunk a feltételes várható érték segítségével számolni.

Az első kérdés megértéséhez szükségünk van a következő (nem triviális) mértékelméleti eredményre.

Tétel. Legyen adva egy (Ω, A, P) valószínűségi mező, azon ξ_{1}(ω), …, ξ_{k}(ω) valószínűségi változók. Jelölje F a ξ_{1}(ω), …, ξ_{k}(ω) valószínűségi változók által generált σ-algebrát. Egy η valószínűségi változó akkor és csak akkor mérhető erre az F σ-algebrára, ha létezik a k-dimenziós R^{k} euklideszi térben olyan Borel mérhető f(x_{1}, …, x_{k}) függvény, melyre η(ω) = f(ξ_{1}(ω), …, ξ_{k}(ω)).

Világos, hogy amennyiben adva van egy g(x_{1}, …, x_{k}) k változós függvény, és ξ_{1}, …, ξ_{k} valószínűségi változók egy valószínűségi mezőn, akkor ezek egyértelműen meghatározzák a η = g(ξ_{1}, …, ξ_{k}) valószínűségi változót. Megfordítva, ha adott egy a (ξ_{1}, …, ξ_{k}) valószínűségi változók által generált σ-algebra, és egy erre a σ-algebrára mérhető η valószínűségi változó, akkor az előbb megfogalmazott tétel szerint ez felírható η = g(ξ_{1}, …, ξ_{k}) alakban. Felmerül a kérdés, hogy az η valószínűségi változó meghatározza-e egyértelműen a g függvényt a fenti reprezentációban. Erre a kérdésre a válasz nyílván nemleges. Például, ha mindegyik ξ_{j} valószínűségi változó 0 és 1 közé esik, akkor a g(x_{1}, …, x_{k}) tetszőleges olyan (x_{1}, …, x_{k}) pontban megváltoztathatjuk, ahol legalább az egyik koordináta nagyobb mint 1 vagy kisebb mint nulla. De ez nem a teljes igazság. A g függvény ugyanis egyértelműen meg van határozva a következő gyengített értelemben. Jelölje F (x_{1}, …, x_{k}) a (x_{1}, …, x_{k} eloszlásfüggvényét, és jelölje μ_{F} az F (x_{1}, …, x_{k}) eloszlásfüggvény által meghatározott Lebesgue–Stieltjes mértéket. Ha g(x_{1}, …, x_{k}) és ḡ(x_{1}, …, x_{k}) két olyan függvény, melyre g(ξ_{1}, …, ξ_{k}) = ḡ(ξ_{1}, …, ξ_{k}), akkor a g és ḡ függvény a μ_{F} mérték szerint majdnem mindenütt megegyezik. Viszont a feltételes valószínűség és feltételes várható érték csak egy valószínűséggel van meghatározva, ezért mint látni fogjuk a g függvénynek a fenti értelemben vett egyértelműségére van szükségünk.

Legyen F egy ξ_{1}(ω), …, ξ_{k}(ω) valószínűségi változók által generált σ-algebra, és η(ω), E|η| < ∞ tetszőleges valószínűségi változó. Ekkor az E(η|F)(ω) F mérhető valószínűségi változó az előző tétel alapján felírható E(η(ω)|F) = g_{η}(ξ_{1}(ω), …, ξ_{k}(ω)) alakban, ahol g_{η}(x_{1}, …, x_{k}) k-változós Borel mérhető függvény. Azt állítjuk, hogy ekkor E(η|ξ_{1}(ω) = x_{1}, …, ξ_{k}(ω) = x_{k}) = g_{η}(x_{1}, …, x_{k}). Ehhez azt kell ellenőrizni integráltranszformáció segítségével, hogy a ii′.) relációból következik a (∗∗) reláció, ha a ii′.) relációban B = {ω: (ξ_{1}(ω), …, ξ_{k}(ω)) ∈ A} halmazt választunk. Hasonlóan be lehet látni, hogy ha E(η|ξ_{1}(ω) = x_{1}, …, ξ_{k}(ω) = x_{k}) = g_{η}(x_{1}, …, x_{k}), akkor E(η|F)(ω) = g_{η}(ξ_{1}(ω), …, ξ_{k}(ω)). Ehhez, azt kell észrevenni, hogy az előbb kimondott tétel alapján egy B ∈ F halmazra létezik olyan A Borel mérhető halmaz az R^{k} k-dimenziós téren, melyre B = {ω: (ξ_{1}(ω), …, ξ_{k}(ω)) ∈ A}. Ezután be lehet látni az integráltranszformációk tulajdonságainak ismeretében, hogy a (∗∗) reláció következik a ii′.) relációból.