A Valószínűségszámítás I. előadássorozat hetedik témája.

Valószínűségi változók eloszlása, várható értéke és függetlensége. Megbeszéltük, hogy egy ξ (valós értékű) valószínűségi változó egy (Ω, A, P) valószínűségi mezőn értelmezett (mérhető) függvény. De konkrét problémákban általában nem magukat a valószínűségi változókat adjuk meg (amihez előbb be kell vezetni azt a valószínűségi mezőt, ahol azok definiálva vannak), hanem azok alább definiált eloszlásfüggvényét, és kérdéseinket ezen eloszlásfüggvény segítségével fogalmazzuk meg.

Valószínűségi változó eloszlásfüggvényének a definiciója. Legyen adva egy ξ(ω) (valós értékű) valószínűségi változó egy (Ω, A, P) valószínűségi mezőn. Ennek F (x) eloszlásfüggvényén az F (x) = P ({ω: ξ(ω) < x}), −∞ < x < ∞, függvényt értjük.

E fogalom jobb megértésének érdekében tekintsük a következő példákat.

Feladatok:

1.) Tekintsük egy szabályos dobókocka feldobását, illetve azt a ξ valószínűségi változót, amely megadja, hogy mi a dobás eredménye. Mi a ξ valószínűségi változó F (x) eloszlásfüggvénye? Megoldás: A ξ valószínűségi változó az 1, 2, 3, 4, 5 és 6 értékek valamelyikét veszi fel, mindegyiket \frac{1}{6} valószínűséggel. Ezért annak a valószínűsége, hogy ξ(ω) < x nullával egyenlő, ha x < 1. Sőt x = 1 esetében is teljesül a P (ξ < 1) = 0 azonosság, mert annak valószínűségét nézzük, hogy a ξ valószínűségi változó szigorúan kisebb mint az x = 1 szám. Ezért F (x) = 0, ha −∞ < x ≤ 1. Ha 1 < x < 2, akkor az {ω: ξ(ω) < x} esemény azt jelenti, hogy a dobás eredménye 1. Ez az állítás igaz x = 2 esetében is. Ezért F (x) = \frac{1}{6}, ha 1 < x ≤ 2. Ha 2 < x ≤ 3, akkor az {ω: ξ(ω) < x} esemény azt jelenti, hogy a dobás eredménye 1 vagy 2. Ezért F (x) = \frac{2}{6}, ha 2 < x ≤ 3. Ezt a gondolatot végigkövetve kapjuk, hogy F (x) = 0, ha −∞ < x ≤ 1, F (x) = \frac{j}{6}, ha j < x ≤ j + 1, 1 ≤ j ≤ 5, és F (x) = 1, ha 6 < x < ∞,

2.) Feldobunk egy pénzdarabot, amely p valószínűséggel esik a fej, 1−p valószínűséggel az írás oldalra kétszer egymástól függetlenül. Jelölje ξ azt a valószínűségi változót, amely a fejdobások számát adja meg. Adjuk meg a ξ valószínűségi változó F (x) eloszlásfüggvényét. Megoldás: A ξ valószínűségi változó eloszlását a P (ξ = 0) = (1 − p)^{2}, P (ξ = 1) = 2p(1−p) és P (ξ = 2) = p^{2} képletek adják meg. Ez azt jelenti, hogy a ξ valószínűségi változó F (x) = P (ξ < x) eloszlásfüggvényére F (x) = 0, ha x ≤ 0, F (x) = (1 − p)^{2}, ha 0 < x ≤ 1, F (x) = P (ξ = 0) + P (ξ = 1) = (1 − p)^{2} + 2p(1 − p) = 1 − p^{2}, ha 1 < x ≤ 2, és F (x) = 1, ha x > 2.

3.) Ledobunk egy pontot véletlenül az egységintervallumra, azaz annak a valószínűsége, hogy a ledobott pont valamely [a, b] ⊂ [0, 1] intervallumba esik legyen b − a. Jelölje ξ a ledobott pont helyének a nagyságát. Adjuk meg a ξ valószínűségi változó eloszlásfüggvényét. Megoldás: Mivel P (ξ < x) = 0, ha x ≤ 0, P (ξ < x) = P (ξ ∈ [0, x)) = x, ha 0 ≤ x ≤ 1, és P (ξ < x) = 1, ha x > 1, ezért az F (x) = P (ξ < x) eloszlásfüggvényre F (x) = 0, ha x < 0, F (x) = x, ha 0 ≤ x ≤ 1, és F (x) = 1, ha x > 1.

4.) Ledobunk egy pontot véletlenül a [0, 2] intervallumra, azaz annak a valószínűsége, hogy a ledobott pont valamely [a, b] ⊂ [0, 2] intervallumba esik legyen \frac{b−a}{2}. Valaki felírja a ledobott pont helyét egy jegyzőkönyvbe, ha a ledobott pont a [0, 1] intervallumba esik, és a 0 értéket írja be, ha ez a pont az [1, 2] intervallumba esik. Jelölje η a jegyzőkönyvbe írt szám értékét. Adjuk meg az η valószínűségi változó eloszlásfüggvényét. Megoldás: Jelölje ξ a ledobott pont helyének az értékét. Ekkor P (η < 0) = 0, P (η = 0) = P (ξ ∈ [1, 2]) = \frac{1}{2}, P (η < x) = P (ξ < x) + P (ξ ∈ [1, 2]) = \frac{1}{2} + \frac{x}{2}, ha 0 ≤ x ≤ 1, és P (η < x) = 1, ha x > 1. Innen az η valószínűségi változó F (x) eloszlásfüggvénye a következő: F (x) = 0, ha x ≤ 0, F (x) = \frac{1}{2} + \frac{x}{2}, ha 0 ≤ x ≤ 1, és F (x) = 1, ha x ≥ 1.

Az első két példában egy diszkrét eloszlású valószínűségi változó eloszlásfüggvényét adtuk meg. A harmadik példában szereplő eloszlásfüggvény folytonos függvény volt. Az ilyen eloszlásokat folytonos eloszlásnak hívják az irodalomban. A negyedik példában szereplő eloszlásfüggvény nem volt folytonos, mert a nulla pontban ugrása van, és ugyancsak nem volt egy diszkrét eloszlású valószínűségi változó eloszlásfüggvénye.

Miért fontos az eloszlásfüggvény fogalma? Általában nem tudjuk, hogy milyen véletlen hatások eredményeként jelenik meg egy ξ(ω) valószínűségi változó értéke, csak azt, hogy milyen valószínűséggel vesz fel ez a valószínűségi változó bizonyos értékeket. Ezért természetes, hogy csak ezeket a valószínűségeket adjuk meg. Viszont a ξ(ω) valószínűségi változó F (x) eloszlásfüggvénye csak az {ω: ξ(ω) < x} alakú események valószínűségét adja meg. A következő kérdés az, hogy nem jelent-e ez megszorítást, hiszen minket az összes {ω: ξ(ω) ∈ B} alakú esemény valószínűsége érdekel, ahol B ,,szép” halmaz. De bizonyos mértékelméleti eredményekből következik, hogy az F (x) eloszlásfüggvény meghatározza az összes ilyen esemény valószínűségét. Az, hogy egy halmaz ,,szép” pontosabban megfogalmazva azt jelenti, hogy ez a halmaz Borel mérhető. Lássuk, hogyan lehet néhány ilyen esemény valószínűségét meghatározni az eloszlásfüggvény segítségével.

Mivel {ω: a ≤ ξ(ω) < b} = {ω: ξ(ω) < b} \ {ω: ξ(ω) < a}, ezért

P ({ω: a ≤ ξ(ω) < b}) = P ({ω: a ≤ ξ(ω) < b}) − P ({ω: ξ(ω) < a}) = F (b) − F (a).

Mivel \{ω: a ≤ ξ(ω) ≤ b\} = ⋂_{n=1}^{∞} \{ω: a ≤ ξ(ω) < b + \frac{1}{n}\}, és a valószínűség σ-additivitá-

sából következnek annak folytonossági tulajdonságai, ezért

P (\{ω: a ≤ ξ(ω) ≤ b\}) = lim_{n→∞} P (\{ω: a ≤ ξ(ω) < b + \frac{1}{n}\})

= lim_{n→∞} [F (b + \frac{1}{n}) − F (a)] .

Hasonlóan, ha adva van diszjunkt zárt [a_{k}, b_{k}], 1 ≤ k ≤ n, intervallumok halmaza, akkor

P ( ⋃_{k=1}^{n} \{ω: a_{k} ≤ ξ(ω) ≤ b_{k}\}) = ∑_{k=1}^{n} lim_{N→∞} [F (b_{k} + \frac{1}{N} ) − F (a_{k})] .

Feladat:

Legyen adva egy ξ(ω) valószínűségi változó F (x) eloszlásfüggvénye. Határozzuk meg ennek segítségével az {ω: a < ξ(ω) < b} alakú események, −∞ < a < b < ∞, valószínűségét, valamint annak valószínűségét, hogy ξ(ω) valamilyen páros egész értéket vesz fel. Megoldás:

P (\{ω: a < ξ(ω) < b\}) = lim_{n→∞} P (\{ω: a + \frac{1}{n} ≤ ξ(ω) < b\})

= lim_{n→∞} [F (b) − F (a + \frac{1}{n})] .

Egy tetszőleges u pontra P (ξ = u) = lim_{n→∞} [F (u + \frac{1}{n}) − F (u)]. Ezért annak valószínűsége, hogy a ξ valószínűségi változó valamely páros egész értéket vesz

fel ∑_{k=−∞}^{∞} lim_{n→∞} [F (2k + \frac{1}{n}) − F (2k)].

Megfogalmazom azokat eredményeket, amelyek segítségével jellemezni tudjuk az eloszlásfüggvényeket, illetve, amelyek kimondják, hogy az eloszásfüggvények meghatározzák a minket érdeklő valószínűségeket.

Lemma eloszlásfüggvények tulajdonságairól. Legyen ξ(ω) valószínűségi változó egy (Ω, A, P) valószínűségi mezőn, és legyen F (x) = P ({ω: ξ(ω) < x}), −∞ < x < ∞, e valószínűségi változó eloszlásfüggvénye. Az F (x) eloszlásfüggvény teljesíti a következő tulajdonságokat.

a) F (x) monoton növekvő függvény.

b) F (x) balról folytonos függvény, azaz lim_{h→0, h>0} F (x − h) = F (x) minden −∞ < x <

∞ számra.

c) lim_{x→∞} F (x) = 1.

d) lim_{x→−∞} F (x) = 0.

Tétel valószínűségi változók eloszlásának jellemzéséről. Ha egy F (x) függvény teljesíti az eloszlásfüggvények tulajdonságairól szóló lemmában megfogalmazott a)—d) tulajdonságokat, akkor az eloszlásfüggvény. Részletesebben megfogalmazva ez azt jelenti, hogy ha az F (x) függvény teljesíti az a)—d) feltételeket, akkor létezik egy (Ω, A, P) valószínűségi mező, és azon olyan ξ(ω) valószínűségi változó, amelynek az eloszlásfüggvénye ez az F (x) függvény.

A fent megfogalmazott Tétel bizonyítása felhasznál egy fontos mértékelméleti eredményt, amelyet megfogalmazok. De e mértékelméleti eredmény bizonyítása a mértékelmélet anyaga, ezért azt itt nem tárgyaljuk.

Tétel eloszlásfüggvények által meghatározott mértékekről. Ha egy F (x) függvény teljesíti az eloszlásfüggvények tulajdonságairól szóló lemmában megfogalmazott a)— d) tulajdonságokat akkor létezik egy olyan az F függvény által egyértelműen meghatározott μ_{F} (·) úgynevezett Stieltjes mérték, amely teljesíti a következő tulajdonságokat. a) A számegyenes minden B Borel halmazának létezik μ_{F} (B) Stieltjes mértéke.

b) A μ_{F} (·) halmazfüggvény σ-additív a számegyenes Borel-halmazaiból álló (Borel) σ-algebrán, és μ_{F} (R^{1}) = 1.

c) μ_{F} ([a, b)) = F (b)−F (a) minden −∞ < a < b < ∞ számra. Innen az is következik, hogy μ_{F} ((−∞, b)) = F (b) minden −∞ < b < ∞ számra.

Az eloszlásfüggvények által meghatározott mértékekről szóló tételből és a mértékelmélet egy fontos eredményéből, a második téma leírásának 2. kiegészítésében ismertetett Carathéodory-féle kiterjesztési tételből az is következik, hogy az F (x) eloszlásfüggvény egyértelműen meghatározza a P ({ω: ξ(ω) ∈ B}) = F_{μ}(B) valószínűségeket minden Borel–mérhető B halmazra.

Az eloszlásfüggvények tulajdonságairól szóló lemma bizonyítása: Mivel {ω: ξ(ω) < a} ⊂ {ω: ξ(ω) < b}, ha a < b, ezért P ({ω: ξ(ω) < a}) ≤ P ({ω: ξ(ω) < b}) ebben az esetben, és ez az a) tulajdonság.

Az a) tulajdonság érvényessége miatt a b) tulajdonság bizonyítása érdekében elég megmutatni azt, hogy ha h_{n}, n = 1, 2, …, olyan monoton csökkenő sorozat, amelyre lim_{n→∞} h_{n} = 0, akkor lim_{n→∞} F (x − h_{n}) = lim_{n→∞} P ({ω: ξ(ω) < x − h_{n}}) = F (x) =

P ({ω: ξ(ω) < x}). Ez viszont következik az ⋃_{n=1}^{∞}{ω: ξ(ω) < x − h_{n}} = {ω: ξ(ω) < x}

relációból és a valószínűségi mérték folytonosságából. A c) és d) tulajdonság bizonyítása hasonló.

A valószínűségi változók eloszlásának jellemzéséről szóló tétel bizonyítása az eloszlásfüggvények által meghatározott mértékekről szóló tétel segítségével. Tekintsük a következő (Ω, A, P) valószínűségi mezőt: Ω = R^{1}, a számegyenes, A = B, a számegyenes Borel mérhető halmazainak σ-algebrája, P = μ_{F}, a Borel mérhető halmazok σ-algebráján az F függvény által definiált Stieltjes mérték, amelynek létezését az eloszlásfüggvények által meghatározott mértékekről szóló tétel állítása fogalmazza meg. Legyen ξ(x) = x, azaz jelen példában az ω elemi események az x valós számok, és a ξ(x) valószínűségi változó az x helyen az x számmal egyenlő. Ekkor P ({ω: ξ(ω) < x}) = μ_{F} (u: u < x) = F (x) minden x számra. Ez azt jelenti, hogy a definiált ξ(ω) valószínűségi változó eloszlása az F (x) eloszlásfüggvény.

1. megjegyzés. Az előző bizonyítás egyetlen nehezebb lépése annak igazolása, hogy a konstruált μ_{F} halmazfüggvény (valószínűségi) mérték, azaz σ-additív. Megjegyzem, hogy ennek az állításnak a bizonyítása elkerülhetetlen. Ugyanis az eloszlásfüggvények által meghatározott mértékekről szóló tétel állítása könnyen levezethető az előző tétel eredményéből.

2. megjegyzés. Felmerülhet a kérdés, hogy mi a jelentősége számunkra a valószínűségi változók eloszlásának jellemzéséről szóló tételnek. Ezen eredmény fontosságának oka a következő. Gyakran megfogalmazunk olyan feladatot, amelyben egy olyan valószínűségi változóról akarunk tudni valamit, amelyiknek az eloszlásfüggvényét egy képlettel megadtuk. Felmerülhet a kérdés, hogy értelmes feladatot fogalmaztunk-e meg, azaz létezik-e ilyen eloszlású valószínűségi változó. A valószínűségi változók eloszlásának jellemzéséről szóló tétel azt állítja, hogy amennyiben az általunk megadott képlet teljesít néhány olyan feltételt, amelyet minden eloszlásfüggvénynek teljesítenie kell, akkor ilyen valószínűségi változó létezik.

Feladat:

Lássuk be, hogy létezik olyan diszkrét eloszlású ξ valószínűségi változó, amelynek F (x) = P (ξ < x) eloszlásfüggvényére igaz, hogy minden −∞ < a < b < ∞ számpárra F (a) < F (b) szigorú egyenlőtlenséggel. Megoldás: Egy lehetséges konstrukció a következő. Legyen r_{1}, r_{2}, …, a racionális számok sorozata valamilyen sorrendben felsorolva. Definiáljunk olyan ξ valószínűségi változót, amelyre P (ξ = r_{j}) = 2^{−j}, j = 1, 2, . . .. Ekkor ξ diszkrét eloszlású valószínűségi változó, és ennek F (x) eloszlására F (b) − F (a) = P (a < ξ < b) > 0, mert P (a < ξ < b) > P (ξ = r_{j}) > 0, ahol r_{j} egy az [a, b] intervallum belsejében lévő racionális szám.

A következő témánk valószínűségi változók várható értékének a definiciója és legfontosabb tulajdonságai az általános esetben.

Valószínűségi változók várható értéke.

A valószínűségszámítás egy nagyon fontos fogalma a valószínűségi változók várható értéke. Ezt a fogalmat részletesen tárgyaltuk diszkrét eloszlású valószínűségi változók esetében. Az általános eset tárgyalása visszavezethető erre a speciális esetre alkalmas határátmenet segítségével. Ezt a határátmenet eljárást kissé általánosabb formában elvégezték a mértékelméletben az úgynevezett Lebesgue integrál bevezetésénél. A valószínűségszámítás tárgyalásában a várható érték vizsgálatát egyszerűen és gyorsan el tudják végezni, ha szabad használni a Lebesgue integrál fogalmát.

Ebben az előadásban a következő köztes megoldást választom. Elmagyarázom azt a képet, amely természetessé teszi a használt Lebesgue mérték definicióját, és szemléletesen megmutatom, hogy miért érvényesek a legfontosabb eredmények. A formális részletek kidolgozása viszont nem ennek az előadásnak a témája.

Valószínűségi változó várható értékének formális definiciója. Legyen ξ(ω) valószínűségi változó egy (Ω, A, P) valószínűségi mezőn. E valószínűségi változó várható értékét úgy definiáljuk, mint a ξ(ω) függvénynek az

Eξ(ω) = ∫ ξ(ω)dP (ω)

Lebesgue integrálját a P valószínűségi mérték szerint, feltéve, hogy ∫ |ξ(ω)|dP (ω) < ∞. Ha ez a feltétel nem teljesül, akkor nem definiáljuk a ξ valószínűségi változó várható értékét.

A következő eredmény lehetővé teszi egy valószínűségi változó várható értékének kiszámítását csak a valószínűségi változó eloszlásfüggvényének az ismeretében.

Tétel várható érték kiszámításáról az eloszlásfüggvény segítségével. Legyen ξ(ω) valószínűségi változó egy (Ω, A, P) valószínűségi mezőn egy F (x) = P (ξ < x), −∞ < x < ∞, eloszlásfüggvénnyel. Ekkor

Eξ(ω) = ∫_{−∞}^{∞} xF ( dx),

ahol a fenti integrál Lebesgue–Stieltjes integrált jelöl az F eloszlás által meghatározott μ_{F} Stieltjes mérték szerint. Ez a formula akkor érvényes, ha ∫_{−∞}^{∞} |x|F ( dx) < ∞. Ellenkező esetben az Eξ várható értéket nem definiáltuk.

Sőt, igaz a következő általánosítása a várható érték kiszámításáról szóló tételnek az eloszlásfüggvény segítségével.

A várható értéknek az eloszlásfüggvény segítségével való kiszámításáról szóló tétel általánosítása. Legyen ξ(ω) valószínűségi változó egy (Ω, A, P) valószínűségi mezőn, amelynek F (x) = P (ξ < x), −∞ < x < ∞, az eloszlásfüggvénye. Legyen g(x) tetszőleges (mérhető) függvény a számegyenesen, és definiáljuk az η(ω) = g(ξ(ω)) valószínűségi változót. Ekkor

Eη(ω) = Eg(ξ(ω)) = ∫_{−∞}^{∞} g(x)F ( dx),

ahol a fenti integrál Lebesgue–Stieltjes integrált jelöl az F eloszlás által meghatározott μ_{F} Stieltjes mérték szerint. Ez a formula akkor érvényes, ha ∫_{−∞}^{∞} |g(x)|F ( dx) < ∞. Ellenkező esetben az Eη várható értéket nem definiáltuk.

1. megjegyzés: Az előbb megfogalmazott eredményekben szerepelt az ∫_{−∞}^{∞} |x|F ( dx) < ∞, illetve ∫_{−∞}^{∞} |g(x)|F ( dx) < ∞ feltétel. E feltételek természetes megfelelői annak a diszkrét valószínűségi változók esetében szereplő feltételnek, hogy egy diszkrét valószínűségi változó várható értékét definiáló összeg legyen abszolut konvergens.

2. megjegyzés: Ismertettem egy modellt, amelyben egy adott F (x) eloszlásfüggvényhez konstruáltunk egy (Ω, A, P) valószínűségi mezőt és azon megadtunk egy olyan ξ valószínűségi változót, amelynek F (x) az eloszlásfüggvénye. Az (Ω, A, P) valószínűségi mező az (R^{1}, B, μ_{F}) rendszer volt ebben a modellben, és a ξ(x) = x képlet adta meg a kívánt tulajdonságú valószínűségi változót, ahol R^{1} a számegyenes, B a Borel σ-algebra és μ_{F} az F eloszlás által indukált Stieltjes mérték. Ebben a modellben az előző két a várható érték kiszámításáról szóló tétel következik a várható érték definiciójából. A tételek tartalma az, hogy a fenti azonosságok modell függetlenek, azaz tetszőleges (Ω, A, P) valószínűségi mezőn definiált F (x) eloszlású ξ valószínűségi változóra érvényesek.

A várható érték definiciójában szerepelt a Lebesgue integrál fogalma. Ennek a fogalomnak a jelentése némi magyarázatra szorul. Számunkra elég lesz egy olyan kép magyarázatként, amelyik szemléletesen megmutatja ennek értelmét. Ilyen magyarázatot adok a jegyzet végén egy rövid kiegészítésben. Ott azonban nem törekszem teljességre. Külön érdemes megjegyezni, hogy maga az ∫ ξ(ω) P ( dω) integrál azon a valószínűségi mezőn van definiálva, ahol a ξ(ω) valószínűségi változó, (emlékezzünk, hogy egy valószínűségi változó egy valószínűségi mezőn értelmezett (mérhető) függvény), és magát az integrálást is ugyanezen a mezőn hajtjuk végre. Mégis a várható értéknek az eloszlásfüggvény segítségével történő kiszámításáról szóló tételben, illetve annak általánosításában olyan eredményt fogalmaztam meg, amely lehetővé teszi egy ilyen integrál kiszámolását anélkül, hogy explicite megadnánk azt a valószínűségi mezőt, ahol dolgozunk. A tétel talán legfontosabb állítása az, hogy elég tudnunk a valószínűségi változó eloszlásfüggvényét, és akkor ki tudjuk számolni a valószínűségi változó, sőt a valószínűségi változó egy tetszőleges függvényének a várható értékét.

Az itt szereplő integrál általánosabb, mint az analízisben tanult Riemann illetve Riemann–Stieltjes integrál. Viszont, ha az utóbbiak léteznek, akkor azok megegyeznek a minket érdeklő integrállal. Végül megjegyzem, hogy tanultuk korábban, hogyan lehet kiszámolni diszkrét eloszlású valószínűségi változók, illetve azok függvényeinek várható értékét. Ezt érdemes ideírni, hogy lássuk hasonlóságukat a várható érték kiszámításáról szóló tétellel az eloszlásfüggvény segítségével, illetve ezen ezen eredmény általánosításával. Valójában a diszkrét eloszlású valószínűségi változók várható értékének kiszámításáról szóló eredmények természetes megfelelőit fogalmaztam meg a fenti állításokban.

Legyen ξ diszkrét értékű valószínűségi változó, amely valamely x_{1}, x_{2}, …, valós értékeket vesznek fel. Ekkor

Eξ = ∑_{i} x_{i}P (ξ = x_{i})
Eg(ξ) = ∑_{i} g(x_{i})P (ξ = x_{i}),

feltéve, hogy a jobboldalon szereplő összegek abszolut konvergensek.

A Lebesgue integrál teljesíti a Riemann integrálra érvényes additivitási tulajdonság következő természetes általánosítását:

∫ (c_{1}ξ_{1}(ω) + c_{2}ξ_{2}(ω)) dP (ω) = c_{1} ∫ ξ_{1}(ω)dP (ω) + c_{2} ∫ ξ_{2}(ω)dP (ω)

minden (integrálható) ξ_{1} és ξ_{2} valószínűségi változóra és valós c_{1}, c_{2} számra. Ennek az azonosságnak a következménye (valójában átfogalmazása) a következő

Tétel a várható érték additivitásáról. Ha két ξ_{1}, ξ_{2} valószínűségi változónak (amelyek ugyanazon a valószínűségi mezőn vannak definiálva) létezik várható értéke, c_{1} és c_{2} két valós szám, akkor a c_{1}ξ_{1} + c_{2}ξ_{2} valószínűségi változónak is létezik várható értéke, és

E (c_{1}ξ_{1} + c_{2}ξ_{2}) = c_{1}Eξ_{1} + c_{2}Eξ_{2}.

Megjegyzés: Ez az eredmény azt állítja, hogy az általános esetben is érvényes az a diszkrét valószínűségi változókról szóló eredmény, amely véletlen összegek várható értékének additivitását fejezi ki. Ebben az esetben sem kell megkövetelni a valószínűségi változók (általános esetben még nem tárgyalt) függetlenségét. A fenti eredmény a várható értéknek eredeti definiciójából adódott, amely a várható értéket mint egy “absztrakt” Lebesgue integrált adta meg. Sokszor hasznosabb a várható érték eredeti definicója helyett azt az eredményt használni, amely lehetővé teszi egy valószínűségi változó várható értékének kiszámítását akkor is, ha csak a valószínűségi változó eloszlásfüggvényét ismerjük. Mégis, mint a fenti eredmény mutatja, néha érdemes a várható érté eredeti definiciójára hivatkozni.

A várható érték (Lebesgue integrál formájában megadott definiciójából) könnyen látható, hogy ha egy ξ(ω) valószínűségi változóra teljesül a P (ξ(ω) ≥ 0) = 1 feltétel, akkor Eξ(ω) ≥ 0. Innen következik, hogy amennyiben két ξ(ω) és η(ω) valószínűségi változóra teljesül, hogy P (ξ(ω) ≥ η(ω)) = 1, akkor Eξ(ω) ≥ Eη(ω). Valóban, ekkor Eξ(ω) − Eη(ω) = E (ξ(ω) − η(ω)) ≥ 0. Ennek az észrevételnek egyik következménye az alábbi Markov egyenlőtlenségnek nevezett állítás.

Markov egyenlőtlenség. Ha ξ(ω) nem negatív valószínűségi változó, azaz ha P (ξ(ω) ≥ 0) = 1 akkor

P (ξ(ω) ≥ x) ≤ \frac{Eξ(ω)}{x} minden x > 0 számra.

Bizonyítás: Definiáljuk a ξ valószínűségi változó alábbi η(ω) függvényét:

η(ω) = \{ \begin{matrix}x & ha ξ(ω) ≥ x \\ 0 & ha 0 ≤ ξ(ω) < x \end{matrix}

Ekkor P (ξ(ω) ≥ η(ω)) = 1, ezért Eξ(ω) ≥ Eη(ω) = xP (η(ω) ≥ x) = xP (ξ(ω) ≥ x), ahonnan következik az állítás.

Definiáljuk általános esetben is valószínűségi változók szórásnégyzetét.

Szórásnégyzet definiciója. Legyen ξ olyan valószínűségi változó, amelyre Eξ^{2} < ∞. Ekkor e valószínűségi változó szórásnégyzete

Var ξ = E (ξ − Eξ)^{2}

(Ha Eξ^{2} = ∞, akkor vagy nem definiáljuk a ξ valószínűségi változó szórásnégyzetét, vagy azt mondjuk, hogy Var ξ(ω) = ∞.

Lemma.

Var ξ = Eξ^{2} − (Eξ)^{2} .

Bizonyítás:

Var ξ = E (ξ − Eξ)^{2} = E (ξ^{2} − 2ξEξ + (Eξ)^{2}) = Eξ^{2} −2EξEξ +(Eξ)^{2} = Eξ^{2} −(Eξ)^{2} .

Megjegyzés: Az előző lemmából és a Var ξ ≥ 0 egyenlőtlenségből következik, hogy (Eξ)^{2} ≤ Eξ^{2}. Ennek az állításnak igaz a következő Cauchy–Schwarz egyenlőtlenségnek nevezett egyenlőtlenség: (Eξη)^{2} ≤ Eξ^{2}Eη^{2}. Sőt, ez az állítás érvényesebb az alábbi élesebb formában is: Adva egy (X, A, μ) mértéktér, azon két (mérhető) f(x) és g(x) függvény, x ∈ X, akkor (∫ f(x)g(x)μ( dx))^{2} ≤ ∫ f(x)^{2}μ( dx) ∫ g(x)^{2}μ( dx). Ez azt jelenti, hogy a fenti egyenlőtlenség érvényes tetszőleges (σ-véges) és nemcsak egyre normált, azaz valószínűségi mérték szerinti integrálra.

Bár a fenti egyenlőtlenségre nem lesz szükségünk később, és annak bizonyítását nem kell tudni a valószínűségszámítás vizsgán, mégis ismertetem annak bizonyítását, mivel az tanulságos. Ezt a bizonyítást megkaphatjuk az előző egyenlőtlenség bizonyításának a finomításával. Nevezetesen, tetszőleges λ valós számra felírhatjuk, hogy 0 ≤ ∫ (f(x) + λg(x))^{2}μ( dx) = λ^{2} ∫ g(x)^{2}μ( dx) + 2λ ∫ f(x)g(x)μ( dx) + ∫ f(x)^{2}μ( dx). Válasszuk a λ

számot a fenti egyenlőtlenségben, mint λ = −^{\frac{∫ f(x)g(x)μ( dx)}{∫ g(x)^{2}μ( dx)}}. (Jegyezzük meg, hogy az

általánosság megszorítása nélkül feltehetjük, hogy ∫ g(x)^{2}μ( dx) > 0. Ellenkező esetben ugyanis ∫ g(x)^{2}μ( dx) = 0, ahonnan g(x) = 0 (majdnem) minden x ∈ X számra (a μ mérték szerint). A λ szám fenti választása nagyon természetes, mivel λ-nak egy olyan másodfokú polinomját tekintettük, amely minden λ paraméterre pozitív, és mi azt a paramétert választottuk, ahol ez a másodfokú polinom felveszi a minimumát.) Ezzel a választással azt kapjuk, hogy

−\frac{(∫ f(x)g(x)μ( dx))^{2}}{∫ g(x)^{2}μ( dx)} + ∫ f(x)^{2}μ( dx) ≥ 0,

ami ekvivalens a Cauchy–Schwarz egyenlőtlenséggel.

Általában a szórásnégyzet tulajdonságainak a bizonyítása csak a várható érték tulajdonságait használja. Ezért a diszkrét valószínűségi változók esetében érvényes

Var (aξ + b) = a^{2}Var ξ

azonosságot hasonlóan lehet bizonyítani az általános esetben.

Feladat:

Általános valószínűségi változók esetében is érvényes a

inf_{−∞<M<∞} E(ξ − M)^{2} = Var ξ

azonosság.

Megoldás: Az ötödik téma ismertetésének 1. feladatában bebizonyítottuk ezt az állítást diszkrét eloszlású valószínűségi változókra. Az ott ismertetett megoldás változatás nélkül alkalmazható a most tárgyalt általános esetben is.

Megfogalmazom és bebizonyítom az alábbi Csebisev egyenlőtlenségnek nevezett állítást.

Csebisev egyenlőtlenség. Minden ξ valószínűségi változóra, amelyre Eξ^{2} < ∞

P (|ξ − Eξ| ≥ x) ≤ \frac{Var ξ}{x^{2}} minden x ≥ 0 számra.

Bizonyítás:

P (|ξ − Eξ| ≥ x) = P ((ξ − Eξ)^{2} ≥ x^{2}) ≤ \frac{E(ξ − Eξ)^{2}}{x^{2}} = \frac{Var ξ}{x^{2}}

a Markov egyenlőtlenség alapján.

Megjegyzés: A Csebisev egyenlőtlenség azért hasznos, mert a benne szereplő szórásnégyzet sok érdekes esetben könnyen kiszámolható. Felmerülhet az a kérdés, hogy a Csebisev egyenlőtlenség mennyire éles. Erre a kérdésre később még visszatérek.

Többváltozós eloszlásfüggvények, és valószínűségi változók függetlensége.

Megtárgyaljuk az eloszlásfüggvény többdimenziós változatát. E fogalom bevezetése után lehet természetes módon definiálni valószínűségi változók függetlenségét. Az itt szereplő fogalmak és bizonyítások hasonlóak az egydimenziós esethez. Ezen eredmények bizonyítását csak vázlatosan ismertetem. Megfogalmazom azokat a mértékelméleti eredményeket, amelyeket a bizonyítások felhasználnak. Elsősorban a fogalmak és eredmények tisztességes leírására fogok törekedni.

Többdimenziós eloszlásfüggvény definiciója. Legyen adva k valós értékű ξ_{1}, …, ξ_{k} valószínűségi változó egy (Ω, A, P) valószínűségi mezőn. Ezek (együttes) eloszlásfüggvénye az

F (x_{1}, …, x_{k}) = P (ξ_{1} < x_{1}, …, ξ_{k} < x_{k}),

k változós függvény, ahol −∞ < x_{j} < ∞ minden 1 ≤ j ≤ k indexre.

Megfogalmaztam az egydimenziós eloszlásfüggvények jellemzését egy tételben és az azt megelőző lemmában. Érvényes ezeknek az eredményeknek a természetes többdimenziós változata is. A többváltozós eloszlásfüggvényeket jellemző eredmény megfogalmazásához a következő kérdést kell tisztázni. Az előbb említett lemmában felsoroltuk az egyváltozós függvényeknek a tulajdonságait. Mik e tulajdonságok többváltozós megfelelői? Többek között meg kell találnunk a Lemma eloszlásfüggvények tulajdonságairól eredményben szereplő az eloszlásfüggvény monotonítását kimondó a) feltételnek a többdimenziós megfelelőjét.

Ezt a következőképp találhatjuk meg. Azt, hogy az F (x) eloszlásfüggvény monoton az egyvátozós esetben, azaz F (b) ≥ F (a), ha b > a úgy is megfogalmazható, hogy P (ξ ∈ [a, b) = F (b) − F (a) ≥ 0. Ennek a tulajdonságnak a többváltozós megfelelője azt a tényt fejezi ki, hogy egy véletlen vektor nem negatív valószńűséggel esik egy téglatestbe. Ezen állításnak az eloszlásfüggvények segítségével való megfogalmazása érdekében vezessük be a következő jelöléseket.

Tekintsünk egy tetszőleges K = [a_{1}, b_{1}) × ⋯ × [a_{k}, b_{k}) alakú téglatestet, −∞ < a_{j} < b_{j} < ∞, j = 1, …, k, a k dimenziós térben. Világos, hogy tetszőleges (ξ_{1}, …, ξ_{k}) k-dimenziós valószínűségi változóra teljesül a

P ((ξ_{1}(ω), …, ξ_{k}(ω)) ∈ K) = P ( ⋂_{j=1}^{k}{ω: a_{j} ≤ ξ_{j}(ω) < b_{j}}) ≥ 0

tulajdonság. Azt állítom, hogy az ilyen alakú események valószínűsége viszonylag egyszerűen kifejezhető a (ξ_{1}, …, ξ_{k}) véletlen vektor F (x_{1}, …, x_{k}) = P (ξ_{1} < x_{1}, …, ξ_{k} < x_{k}) eloszlásfüggvényének a segítségével, és az így kapott kifejezés nem-negatív volta az eloszlásfüggvények monotonitásáról szóló a) feltétel megfelelője a többdimenziós esetben.

Annak érdekében, hogy ezt a feltételt megfogalmazzuk, a következő állítást kell igazolni. Tekintsük egy K = [a_{1}, b_{1})×⋯×[a_{k}, b_{k}) alakú téglatestet, és ennek csúcspontjait, azaz az olyan (u_{1}, …, u_{k}) pontokat, amelyek koordinátái az a_{j} vagy b_{j} számok, 1 ≤ j ≤ k. Annak valószínűsége, hogy egy F (x_{1}, …, x_{k}) eloszlású (ξ_{1}, …, ξ_{k}) véletlen vektor a K = [a_{1}, b_{1})×⋯×[a_{k}, b_{k}) téglatestbe esik kifejezhető mint az F (·) eloszlásfüggvénynek a téglatest csúcspontjaiban felvett értékeinek alkalmas lineáris kombinációja. Pontosabban,

P ((ξ_{1}, …, ξ_{k}) ∈ K) = ∑_{\begin{matrix}u_{j}= a_{j} vagy b_{j} \\ j=1,...,k \end{matrix}}(−1)^{χ(u_{1},...,u_{k})}F (u_{1}, …, u_{k}),

ahol χ(u_{1}, …, u_{k}) jelöli az a_{j}-k számát az u_{1}, …, u_{k} sorozatban. Az F (·) függvény monotonitásának az többdimenziós esetben az felel meg, hogy a fent felírt azonosság jobboldalán szereplő kifejezés nem-negatív. A jobb megértés érdekében ellenőrizzük ezt az azonosságot előszőr a k = 2 speciális esetben.

Ekkor azt kell megmutatni, hogy P (a_{1} ≤ ξ_{1} < b_{1}, a_{2} ≤ ξ_{2} < b_{2}) = F (b_{1}, b_{2}) − F (b_{1}, a_{2}) − F (a_{1}, b_{2}) + F (a_{1}, a_{2}). Viszont F (b_{1}, b_{2}) − F (b_{1}, a_{2}) = P (ξ_{1} < b_{1}, a_{2} ≤ ξ_{2} < b_{2}), és F (a_{1}, b_{2}) − F (a_{1}, a_{2}) = P (ξ_{1} < a_{1}, a_{2} ≤ ξ_{2} < b_{2}). Ezt a két azonosságot kivonva egymásból megkapjuk a kívánt állítást.

Feladat:

11.) Legyen egy (ξ_{1}, ξ_{2}) véletlen vektor eloszlása az F (x_{1}, x_{2}) = P (ξ_{1} < x_{1}, ξ_{2} < x_{2}) függvény, −∞ < a_{1} < b_{1} < ∞, −∞ < a_{2} < b_{2} < ∞ valós számok. Fejezzük ki az F (x_{1}, x_{2}) eloszlásfüggvény segítségével a P (a_{1} ≤ ξ_{1} < b_{1}, a_{2} ≤ ξ_{2} < b_{2}), a P (a_{1} ≤ ξ_{1} ≤ b_{1}, a_{2} ≤ ξ_{2} ≤ b_{2}) és a P (a_{1} < ξ_{1} < b_{1}, a_{2} < ξ_{2} < b_{2}) valószínűségeket. Megoldás: Először azt megmutatjuk meg, hogy P (a_{1} ≤ ξ_{1} < b_{1}, a_{2} ≤ ξ_{2} < b_{2}) = F (b_{1}, b_{2})−F (b_{1}, a_{2})−F (a_{1}, b_{2})+F (a_{1}, a_{2}). Valóban, F (b_{1}, b_{2})−F (b_{1}, a_{2}) = P (ξ_{1} < b_{1}, a_{2} ≤ ξ_{2} < b_{2}), és F (a_{1}, b_{2}) − F (a_{1}, a_{2}) = P (ξ_{1} < a_{1}, a_{2} ≤ ξ_{2} < b_{2}). Ezt a két azonosságot kivonva egymásból megkapjuk a kívánt állítást.

P (a_{1} ≤ ξ_{1} ≤ b_{1}, a_{2} ≤ ξ_{2} ≤ b_{2}) = lim_{n→∞} P (a_{1} ≤ ξ_{1} < b_{1} + \frac{1}{n}, a_{2} ≤ ξ_{2} < b_{2} + \frac{1}{n})

= lim_{n→∞}(F (b_{1} + \frac{1}{n}, b_{2} + \frac{1}{n}) − F (b_{1} + \frac{1}{n}, a_{2}) − F (a_{1}, b_{2} + \frac{1}{n}) + F (a_{1}, a_{2}))

= lim_{n→∞} F (b_{1} + \frac{1}{n}, b_{2} + \frac{1}{n}) − lim_{n→∞} F (b_{1} + \frac{1}{n}, a_{2})

− lim_{n→∞} F (a_{1}, b_{2} + \frac{1}{n}) + F (a_{1}, a_{2}).

Megjegyzem, hogy az eloszlásfüggvény tulajdonságaiból következik, hogy a felírt határértékek, például a lim_{n→∞} F (b_{1} + \frac{1}{n}, b_{2} + \frac{1}{n}) kifejezés valóban létezik. Hasonlán,

P (a_{1} < ξ_{1} < b_{1}, a_{2} < ξ_{2} < b_{2}) = lim_{n→∞} P (a_{1} + \frac{1}{n} ≤ ξ_{1} < b_{1}, a_{2} + \frac{1}{n} ≤ ξ_{2} < b_{2})

= lim_{n→∞} F (b_{1}, b_{2}) − F (b_{1}, a_{2} + \frac{1}{n})

− lim_{n→∞} F (a_{1} + \frac{1}{n}, b_{2}) + lim_{n→∞} F (a_{1} + \frac{1}{n}, a_{2} + \frac{1}{n}) .

Feladat:

12.) Legyen az F (x_{1}, …, x_{k}) = P (ξ_{1} < x_{1}, …, ξ_{k} < x_{k}) függvény a (ξ_{1}, …, ξ_{k}) véletlen vektor eloszlásfüggvénye. Mutassuk meg, hogy

I({ω: a_{j} ≤ ξ_{j}(ω) < b_{j}, 1 ≤ j ≤ k})

= ∑_{\begin{matrix}u_{j}= a_{j} vagy b_{j} \\ j=1,...,k \end{matrix}}(−1)^{χ(u_{1},...,u_{k})}I(\{ω: ξ_{1}(ω) < u_{1}, …, ξ_{k}(ω) < u_{k}\}),

(a_{j}, b_{k}), j = 1, …, k számpárok minden k-asára, ezért a várható érték additívitásából következik, hogy

P ((a_{j} ≤ ξ_{j} < b_{j}, 1 ≤ j ≤ k) = ∑_{\begin{matrix}u_{j}= a_{j} vagy b_{j} \\ j=1,...,k \end{matrix}}(−1)^{χ(u_{1},...,u_{k})}F (u_{1}, …, u_{k}).

A fenti formulákban χ(u_{1}, …, u_{k}) jelöli az a_{j}-k számát az u_{1}, …, u_{k} sorozatban, I(A), A ⊂ Ω pedig egy A halmaz indikátorfüggvénye, azaz I(A)(ω) = 1, ha ω ∈ A, és I(A)(ω) = 0, ha ω ∉ A. Megoldás: Adva valamely u_{1}, …, u_{k} számok, definiáljuk a

B(u_{1}, …, u_{k}) = {(ω: ξ_{j}(ω) < u_{j}, 1 ≤ j ≤ k} ⊂ Ω

eseményt, és legyen I(B(u_{1}, …, u_{k}))(ω) ezen esemény indikátorfüggvénye. Legyen továbbá I(K)(ω) a K = {ω: a_{j} ≤ ξ_{j} < b_{j}, 1 ≤ j ≤ k} halmaz indikátorfüggvénye. Elég megmutatni, hogy

I(K)(ω) = ∑_{\begin{matrix}u_{j}= a_{j} vagy b_{j} \\ j=1,...,k \end{matrix}}(−1)^{χ(u_{1},...,u_{k})}I(B(u_{1}, …, u_{k}))(ω),

mert véve ezután mind a két oldal várható értékét megkapjuk a kívánt azonosságot. Az is világos, hogy {ω: a_{j} ≤ ξ_{j} < b_{j}, 1 ≤ j ≤ k} esetében a bizonyítandó azonosság mind a két oldala 1-gyel egyenlő. Azt kell észrevenni, hogy ekkor a jobboldalon az I(B(b_{1}, …, b_{k}))(ω) tag 1, és a jobboldal összes többi tagja nulla. Ha ω ∈ Ω olyan, hogy az a_{j} ≤ ξ_{j}(ω) < b_{j} egyenlőtlenségek nem teljesülnek minden 1 ≤ j ≤ k indexre, akkor a baloldal nulla. Azt kell belátni, hogy ugyanez érvényes a jobboldalon is. Világos, hogy a jobboldal nulla, ha ξ_{j}(ω) ≥ b_{j} valamilyen j indexre. Azt az esetet kell még nézni, amikor ξ_{j}(ω) < b_{j} minden 1 ≤ j ≤ k indexre, bizonyos j indexekre a_{j} ≤ ξ_{j} < b_{j}, de létezik legalább egy olyan l index, amelyre ξ_{l} < a_{l}. Legyen L a legkisebb ilyen index. Ha párosítjuk az olyan (−1)^{χ(u_{1},...,u_{k})}I(B(u_{1}, …, u_{k}))(ω) kifejezéseket, amelyeknek u_{j} koordinátátái megegyeznek j ≠ L esetben, de u_{L} = a_{L} a pár egyik és u_{L} = b_{L} a pár másik tagjára, akkor az összes ilyen pár hozadéka zéró. Ezért az azonosság ekkor is érvényes, mert mind a bal mind a jobboldal zéró ebben az esetben.

Be lehet látni, hogy az egyváltozós valószínűségi változók eloszlásának jellemzéséről szóló tételnek és az azt megelőző lemmának igaz a következő többdimenziós általánosítása.

Tétel többváltozós valószínűségi változók eloszlásának jellemzéséről. Egy F (u_{1}, …, u_{k}) függvény akkor és csak akkor eloszlásfüggvénye alkalmas ξ_{1}, …, ξ_{k} valószínűségi változóknak valamely (Ω, A, P) valószínűségi mezőn, ha ez az F függvény teljesíti a következő (i)—(iv) tulajdonságokat.

(i) F (u_{1}, …, u_{k}) minden változójának balról folytonos függvénye. (ii) lim_{u_{j}→∞ minden j=1,...,k indexre} F (u_{1}, …, u_{k}) = 1.

(iii) lim_{u_{j}→−∞ valamely 1≤j≤k indexre} F (u_{1}, …, u_{k}) = 0. (Ez úgy értendő, hogy az összes u_{s},

1 ≤ s ≤ k, s ≠ j koordinátát rögzítjük, és u_{j} → −∞.)

Végül definiáljuk egy az R^{k} téren definiált F függvényre és egy K = [a_{1}, b_{1}) × ⋯ × [a_{k}, b_{k}) téglatestre a

μ(K) = μ_{F} (K) = ∑_{\begin{matrix}u_{j}= a_{j} vagy b_{j} \\ j=1,...,k \end{matrix}}(−1)^{χ(u_{1},...,u_{k})}F (u_{1}, …, u_{k})

mennyiséget, ahol χ(u_{1}, …, u_{k}) jelöli az a_{j}-k számát az u_{1}, …, u_{k} sorozatban. Ekkor

(iv) μ_{F} (K) ≥ 0 minden K téglatestre.

A fenti tétel bizonyításának legnehezebb része annak megmutatása, hogy ha az F (x_{1}, …, x_{k}) függvény teljesíti az (i)–(iv) tulajdonságokat, akkor léteznek olyan ξ_{1}, …, ξ_{k} valószínűségi változók alkalmas (Ω, A, P) valószínűségi mezőn, amelyek (együttes) eloszlásfüggvénye az F (x_{1}, …, x_{k}) függvény. Ennek bizonyítása az egyváltozós esetben bizonyított az eloszlásfüggvények által meghatározott mértékekről szóló tétel következő többváltozós általánosításán alapul.

Az eloszlásfüggvények által meghatározott mértékekről szóló tétel többváltozós általánosítása. Legyen F (x_{1}, …, x_{k}) olyan k változós függvény, amely teljesíti az (i)–(iv) tulajdonságokat. Ekkor létezik és egyértelműen meghatározott egy olyan μ_{F} Stieltjes mérték az R^{k} k-dimenziós tér Borel mérhetó halmazainak B^{k} σ-algebráján, amelyik nem negatív σ-additiv halmazfüggvény ezen a σ-algebrán, μ_{F} (R^{k}) = 1, és

μ_{F} ({u_{1}, …, u_{k}}: u_{j} < x_{j}, 1 ≤ j ≤ k}) = F (x_{1}, …, x_{k})

minden x_{1}, …, x_{k} valós számra.

E tétel segítségével a következő módon konstruálhatunk F (x_{1}, …, x_{k}) eloszlásfüggvénnyel rendelkező valószínűségi változókat. Legyen (Ω, A, P) = (R^{k}, B^{k}, μ_{F}), ahol B^{k} jelöli a Borel σ-algebrát az R^{k} k-dimenziós térben, és μ_{F} az előző tételben jellemzett az F eloszlásfüggvény által meghatározott Stieltjes mérték. Ebben a valószínűségi mezőben az (x_{1}, …, x_{k}) ∈ R^{k} pontok alkotják az ω elemi eseményeket. A (ξ_{1}, …, ξ_{k}) valószínűségi változókat a következő módon definiáljuk. Legyen ξ_{j}(x_{1}, …, x_{k}) = x_{j}, 1 ≤ j ≤ k. Ezen valószínűségi változók együttes eloszlása az F (x_{1}, …, x_{k}) függvény.

Érvényes továbbá a várható értéknek az eloszlásfüggvény segítségével kiszámításáról szóló eredmény alábbi többdimenziós változata, amely segít akkor, ha véletlen vektorok függvényeinek a várható értékét kívánjuk kiszámolni.

Tétel véletlen vektorok várható értékének kiszámításáról e vektor eloszlásfüggvényének a segítségével. Legyenek ξ_{1}(ω), …, ξ_{k}(ω) valószínűségi változók egy (Ω, A, P) valószínűségi mezőn, amelyeknek F (x_{1}, …, x_{k}) = P (ξ_{1}(ω) < x_{1}, …, ξ_{k}(ω) < x_{k}) az eloszlásfüggvénye. Legyen g(x_{1}, …, x_{k}) tetszőleges (mérhető) k-változós függvény, és definiáljuk az η(ω) = g(ξ_{1}(ω), …, ξ_{k}(ω)) valószínűségi változót. Ekkor

Eη(ω) = Eg(ξ_{1}(ω), …, ξ_{k}(ω)) = ∫ g(x_{1}, …, x_{k})μ_{F} ( dx_{1}, …, dx_{k}),

ahol a fenti integrál Lebesgue–Stieltjes integrált jelöl az F függvény által meghatározott μ_{F} Stieltjes mérték szerint. Ez a formula akkor érvényes, ha

∫ |g(x_{1}, …, x_{k})|μ_{F} ( dx_{1}, …, dx_{k}) < ∞.

Ellenkező esetben az Eη várható értéket nem definiáltuk.

Független valószínűségi változók és szorzatuk várható értéke.

Valószínűségi változók függetlenségének a definiciója. Legyenek ξ_{1}, …, ξ_{n} valószínűségi változók egy (Ω, A, P) valószínűségi mezőn. Azt mondjuk, hogy ezek a valószínűségi változók függetlenek, ha minden x_{1}, …, x_{n} valós számra

P (ξ_{1} < x_{1}, …, ξ_{n} < x_{n}) = P (ξ_{1} < x_{1}) ⋯ P (ξ_{n} < x_{n}).

A teljesség kedvéért megadom e fogalom definicióját általánosabb, vektorértékű valószínűségi változókra is, bár valószínűleg ebben az előadássorozatban nem jutunk el addig a pontig, ahol erre a fogalomra szükség van. (Mindenekelőtt a többváltozós centrális határeloszlástételre gondolok, mint olyan témakörre, ahol ez a fogalom megjelenik.)

Vektorértékű valószínűségi változók függetlenségének a definiciója. Legyenek ξ^{(1)} = (ξ_{1,1}, …, ξ_{1,k}), …, ξ^{(n)} = (ξ_{n,1}, …, ξ_{n,k}), értékeiket az R^{k} k-dimenziós euklideszi térben felvevő valószínűségi változók (vektorok) egy (Ω, A, P) valószínűségi mezőn. Azt mondjuk, hogy ezek a valószínűségi vektorok függetlenek, ha minden x^{(1)} = (x_{1,1}, …, x_{1,k}), …, x^{(n)} = (x_{n,1}, …, x_{n,k}), k-dimenziós vektorra

P (ξ_{1,1} < x_{1,1}, …, ξ_{1,k} < x_{1,k}, …, ξ_{n,1} < x_{n,1}, …, ξ_{n,k} < x_{n,k})
= P (ξ_{1,1} < x_{1,1}, …, ξ_{1,k} < x_{1,k}) ⋯ P (ξ_{n,1} < x_{n,1}, …, ξ_{n,k} < x_{n,k}) .

Megjegyzés: Vektorértékű valószínűségi változók függetlenségének a definiciójában semmilyen függetlenségi feltevést nem tettünk az egyes ξ^{(j)} = (ξ_{j,1}, …, ξ_{j,k}), 1 ≤ j ≤ k, vektorok koordinátái között. Ezzel a definicióval egyelőre nem foglalkozunk.

Független valószínűségi változókkal való számolást megkönnyíti a mértékelmélet egyik alapvető eredménye, az alább ismertetendő Fubini tétel. Ennek megfogalmazása előtt teszek néhány megjegyzést.

A Fubini tétel a következő, a területi (Riemann-)integrálról szóló eredménynek az általánosítása Lebesgue integrálokra:

∫ ∫ f(x, y) dx dy = ∫ (∫ f(x, y) dx) dy  (1)

minden integrálható f(·, ·) függvényre. Ez az eredmény azt jelenti, hogy egy kétváltozós függvény területi integrálját úgy is kiszámolhatjuk, hogy először rögzítjük az egyik paramétert, (amelyet itt y-nal jelöltünk,) és kiszámítjuk az így kapott egyváltozós integrált. Ezután az első lépésben rögzített paraméter szerint integrálva az így kapott függvényt, megkapjuk a területi integrál értékét. Ez azt jelenti, hogy a területi integrál kiszámítható két egyszeres integrál szukcessziv alkalmazásának a segítségével. Érdemes megfogalmazni ezt az eredményt abban a speciális esetben, amikor az f(x, y) függvény f(x, y) = g_{1}(x)g_{2}(y) alakú. Ekkor az (1) formula a következő alakú:

∫ ∫ g_{1}(x)g_{2}(y) dx dy = ∫ g_{1}(x) dx ∫ g_{2}(y) dy.

Valóban, az (1) képlet jobboldala ebben az esetben így írható fel:

∫ (∫ g_{1}(x)g_{2}(y) dx) dy = ∫ g_{2}(y) (∫ g_{1}(x) dx) dy = ∫ g_{1}(x) dx ∫ g_{2}(y) dy.

A Fubini tétel az (1) formulában megfogalmazott azonosság általánosítása arra az esetre, amikor (a Lebesgue mérték szerinti) Riemann integrál helyett általános szorzat mértékek szerinti Lebesgue integrálokat tekintünk. Továbbá nem csak kétváltozós, hanem tetszőleges k, k ≥ 2, változós integrálokat vizsgálunk. Ennek ismertetése előtt megfogalmazom a következő eredményt.

Legyenek F_{1}(·), …, F_{k}(·) eloszlásfüggvények a számegyenesen, és definiáljuk az

F (x_{1}, …, x_{k}) = F_{1}(x_{1}) ⋯ F_{k}(x_{k})

függvényt. Az így definiált F (x_{1}, …, x_{k}) függvény egy k-változós eloszlásfüggvény.

Részletesebben kifejtve ez a következőt jelenti. E jegyzetben megadtam annak szükséges és elégséges feltételét, hogy egy egy illetve egy többváltozós függvény eloszlásfüggvény legyen. A fenti állítás tartalma az, hogy ha az F_{j}(·), 1 ≤ j ≤ k, függvények teljesítik az (egyváltozós) eloszlásfüggvény jellemzését leíró tulajdonságokat, akkor az F (x_{1}, …, x_{k}) = F_{1}(x_{1}) ⋯ F_{k}(x_{k}) függvény teljesíti a többváltozós eloszlásfüggvény eloszlását leíró tulajdonságokat.

Nem nehéz belátni, hogy a fenti állításban az összes ellenőrizendő feltétel teljesül. Mivel e részletek kidolgozása egyszerű, és ennek különösebb tanulságai nincsenek, ezért ezt elhagyom.

Ha F_{j}(·), 1 ≤ j ≤ k, egydimenziós eloszlásfüggvények, akkor tekinthetjük az F (x_{1}, …, x_{k}) = F_{1}(x_{1}) ⋯ F_{k}(x_{k}) k-változós eloszlásfüggvényt, illetve az általa meghatározott μ_{F} = μ_{(F_{1},...,F_{k})} Stieltjes mértéket a k-dimenziós téren. Egy F (x_{1}, …, x_{k}) = F_{1}(x_{1}) ⋯ F_{k}(x_{k}) szorzat alakú k-változós eloszlásfüggvény által meghatározott Stieltjes mértéket szorzatmértéknek szokás nevezni. Ez ugyanis rendelkezik a következő tulajdonsággal. Tetszőleges A = A_{1} × A_{2} × ⋯ × A_{k} alakú halmazra (azaz 1-dimenziós halmazok direkt szorzatára) μ_{F} (A) = μ_{F_{1}}(A_{1})μ_{F_{2}}(A_{2}) ⋯ μ_{F_{k}}(A_{k}). Az alább megfogalmazandó Fubini tétel azt mondja ki, hogy az ilyen szorzatmértékek szerinti integrál a területi integrálhoz hasonló módon kiszámolható megfelelő szukcessziv integrálás segítségével. Független valószínűségi változók függvényeinek várható értékéről szóló legfontosabb eredmények megkaphatóak a Fubini tétel egyszerű következményeként, ha a vizsgált várható értéket kifejezzük az eloszlás (pontosabban az eloszlás által meghatározott Stieltjes mérték) szerinti Lebesgue integrálként. Ez a Tétel véletlen vektorok várható értékének kiszámításáról e vektor eloszlásfüggvényének a segítségével eredménye alapján lehetséges.

Az irodalomban általános szokás, hogy az előbb definiált μ_{F} k-dimenziós téren értelmezett mérték szerinti integrált F_{1}( dx_{1}) … F_{k}(dx_{k}) vagy dF_{1}(x_{1}) … dF_{k}(x_{k})-val jelölik, azaz

∫ g(x_{1}, …, x_{k})μ_{F} ( dx_{1}, …, dx_{k}) = ∫ g(x_{1}, …, x_{k})μ_{(F_{1},...,F_{k})}( dx_{1}, …, dx_{k})

=^{jel.} ∫ g(x_{1}, …, x_{k})F_{1}( dx_{1}) … F_{k}( dx_{k}) = ∫ g(x_{1}, …, x_{k}) dF_{1}(x_{1}) … dF_{k}(x_{k})

tetszőleges integrálható g(x_{1}, …, x_{k}) (integrálható) fügvényre, ahol ,,jel.” a jelölés szó rövidítése. A továbbiakban mi is ezt a jelölést követjük.

Fubini tétel. Legyenek F_{j}(·), 1 ≤ j ≤ k, eloszlásfüggvények a számegyenesen, és legyen g(x_{1}, …, x_{k}) (mérhető) k-változós függvény. Ekkor

∫ g(x_{1}, x_{2}, …, x_{k})F_{1}( dx_{1})F_{2}( dx_{2}) … F_{k}( dx_{k})
= (∫ … (∫ (∫ g(x_{1}, …, x_{k})F_{1}( dx_{1})) F_{2}( dx_{2})) … F_{k}( dx_{k})) .

Ez az azonosság úgy értendő, hogy az azonosság két oldalán lévő integrál illetve szukcessziv integrál egyszerre létezik.

Érdemes külön megfogalmazni ennek az azonosságnak a következő fontos speciális esetét. Ha g(x_{1}, …, x_{k}) = g_{1}(x_{1}) ⋯ g_{k}(x_{k}) alakú speciális függvények integrálját tekintjük, akkor a következő azonosságot írhatjuk fel:

∫ g_{1}(x_{1})g_{2}(x_{2}) ⋯ g_{k}(x_{k})F_{1}( dx_{1})F_{2}( dx_{2}) … F_{k}( dx_{k})

= ∫ g(x_{1})F_{1}( dx_{1}) ∫ g_{2}(x_{2})F_{2}( dx_{2}) ⋯ ∫ g_{k}(x_{k})F_{k}( dx_{k}) = ∏_{j=1}^{k} ∫ g_{j}(x)F_{j}( dx).

1. megjegyzés. A Fubini tétel valójában egy általánosabb eredmény, mint a most kimondott tétel. A Fubini tétel az itt megfogalmazottakhoz hasonló eredményt mond ki általános (és nemcsak az Euklideszi terekben definiált) szorzatmértékek szerinti integrálokra. Számunkra viszont elegendő csak a fent leírt speciális esetet tekinteni.

2. megjegyzés. Az előbb kimondott tétel és a további eredmények röviden, informálisan úgy foglalhatók össze, hogy mindazok az eredmények, amelyeket független, diszkrét eloszlású valószínűségi változókról tanultunk, érvényesek általános, nem feltétlenül diszkrét eloszlású valószínűségi változókra is.

Az alábbiakban a Fubini tételt fogjuk használni, és azokat a eredményeket, amelyek lehetővé teszik, hogy valószínűségi változók függvényeinek várható értékét kiszámoljuk e valószínűségi változók eloszlásfüggvényének a segítségével. Ezen eredmények felhasználásával bebizonyítok néhány alapvető eredményt független valószínűségi változókról. Ezelőtt egy megjegyzést teszek az itt követett tárgyalásmódról.

3. megjegyzés. Az alábbiakban független valószínűségi változók legfontosabb tulajdonságait ismertetem. Ezeket a tulajdonságokat meg lehet fogalmazni az eloszlások nyelvén is. Íly módon kiderül, hogy ezek a tulajdonságok ekvivalensek valamilyen integrálokra megfogalmazható azonosságokkal, és ezen azonosságok mindegyike a Fubinitétel következményeként kezelhető.

Tétel független valószínűségi változók szorzatának a várható értékéről. Legyenek ξ_{1}, …, ξ_{k} független valószínűségi változók, amelyek mindegyikének létezik várható értéke, azaz E|ξ_{j}| < ∞. Ekkor a ξ_{1} ⋯ ξ_{k} szorzatnak is létezik várható értéke, és

Eξ_{1} ⋯ ξ_{k} = Eξ_{1} ⋯ Eξ_{k}.

Megjegyzés: Ezt az eredményt már tárgyaltam az 4. téma ismertetésében a Tétel független valószínűségi változók szorzatáról eredményében, de ott csak diszkrét eloszlású valószínűségi változók szorzatát tekintettem.

A tétel bizonyítása. Jelölje F_{j}(·), 1 ≤ j ≤ k, a ξ_{j} valószínűségi változó eloszlásfüggvényét, és vezessük be a g(x_{1}, …, x_{k}) = x_{1} … x_{k} függvényt. Ekkor

Eξ_{1} ⋯ ξ_{k} = Eg(ξ_{1}, …, ξ_{k}) = ∫ x_{1} ⋯ x_{k}F_{1}( dx_{1}) … F_{k}( dx_{k}).

Továbbá a Fubini tétel szerint

∫ x_{1} ⋯ x_{k}F_{1}( dx_{1}) … F_{k}( dx_{k}) = ∏_{j=1}^{k} ∫ xF_{j}( dx).

Mivel Eξ_{j} = ∫ xF_{j}(x), ez az azonosság azt jelenti, hogy Eξ_{1} ⋯ ξ_{k} = Eξ_{1} ⋯ Eξ_{k}. Ezenkívül azt is állíthatjuk (felhasználva azt a tényt, hogy a Fubini tétel két oldalán szereplő kifejezés egyszerre értelmes), hogy a Tételben szereplő azonosság két oldala egyszerre értelmes.

Tétel független valószínűségi változók együttes eloszlásáról. Legyenek ξ_{1}, …, ξ_{k} független valószínűségi változók, B_{1}, …, B_{k} a számegyenes Borel mérhető részhalmazai. Ekkor

P (ξ_{1} ∈ B_{1}, …, ξ_{k} ∈ B_{k}) = P (ξ_{1} ∈ B_{1}) ⋯ P (ξ_{k} ∈ B_{k}).

Megjegyzés: A függetlenség definiciója csak azt követeli meg, hogy a tételben kimondott azonosság teljesüljön speciális B_{j} = (−∞, x_{j}) alakú halmazokra. A tétel azt állítja, hogy ha ez az azonosság teljesül ezekre a speciális alakú halmazokra, akkor az teljesül minden ,,szép” azaz Borel mérhető halmazra. E tételnek, illetve e tételnek a 4. téma ismertetésében tárgyalt Lemma független, diszkrét eloszlású valószínűségi változók tulajdonságairól néven megfogalmazott megfelelőjének egyik következménye az, hogy a diszkrét, valós szám értékű valószínűségi változók függetlenségének korábban ismertetett definiciója megegyezik a függetlenség általános definiciójával ebben a speciális esetben.

Bizonyítás: Legyen g_{j}(·) a B_{j} halmaz indikátorfüggvénye, 1 ≤ j ≤ k, azaz legyen g_{j}(x) = 1, ha x ∈ B_{j}, és g_{j}(x) = 0, ha x ∉ B_{j}. Definiáljuk a g(x_{1}, …, x_{k}) = g_{1}(x_{1}) ⋯ g_{k}(x_{k}) függvényt a k-dimenziós téren. Ekkor a Fubini tétel alapján

P (ξ_{1} ∈ B_{1}, …, ξ_{k} ∈ B_{k}) = Eg(ξ_{1}, …, ξ_{k}) = Eg_{1}(ξ_{1}) ⋯ Eg_{k}(ξ_{k})
= P (ξ_{1} ∈ B_{1}) ⋯ P (ξ_{k} ∈ B_{k}).

Feladat:

Legyenek ξ_{1}, …, ξ_{n}, ξ_{n+1}, …, ξ_{n+m} független valószínűségi változók, g(x_{1}, …, x_{n}) n-változós (mérhető) függvény, η = g(ξ_{1}, …, ξ_{n}). Mutassuk meg a Fubini tétel segítségével, hogy η, ξ_{n+1}, …, ξ_{n+m} független valószínűségi változók. Megoldás: Rögzítsünk valamilyen x_{0}, x_{1}, …, x_{m} számokat. Definiáljuk ezek segítségével a h_{j}(u) = 1, ha u < x_{j}, h_{j}(u) = 0, ha u ≥ x, 1 ≤ j ≤ m, függvényeket, valamint legyen h_{0}(u_{1}, …, u_{n}) = 1, ha g(u_{1}, …, u_{n}) < x_{0}, h_{0}(u_{1}, …, u_{n}) = 0, ha g(u_{1}, …, u_{n}) ≥ x_{0}. Jelölje F_{j}(·) a ξ_{j} valószínűségi változó eloszlásfüggvényét, 1 ≤ j ≤ n + m. Ekkor a Fubini tétel alapján

P (η < x_{0}, ξ_{n+1} < x_{n+1}, …, ξ_{n+m} < x_{n+m})

= ∫ h_{0}(u_{1}, …, u_{n})h_{n+1}(u_{n+1}) … h_{n+m}(u_{n+m})F_{1}( du_{1}) … F_{n+m}( du_{n+m})

= ∫ h_{0}(u_{1}, …, u_{n})F_{1}( du_{1}) … F_{n}( du_{n})
∫ h_{n+1}(u_{n+1})F_{n+1}( du_{1}) ⋯ ∫ h_{n+m}(u_{n+m})F_{n+m}( du_{n+m})
= P (η < x_{0})P (ξ_{n+1} < x_{n+1}) ⋯ P (ξ_{n+m} < x_{n+m}),

ahonnan következik a feladat állítása.

Független valószínűségi változók összegének a szórásnégyzete. A diszkrét valószínűségi változókhoz hasonlóan defiálhatjuk általános, nem feltétlenül diszkrét eloszlású valószínűségi változók szórásnégyzetét, (ezt már megtettük), kovarianciáját. Általános valószínűségi változók összegének szórásnégyzetére hasonló formula érvényes mint a diszkrét esetben. Röviden leírom a bizonyítást, bár azt akár el is hagyhatnám arra hivatkozva, hogy e tulajdonságok bizonyításában a diszkrét valószínűségi változók esetében is csak olyan összefüggéseket használtunk, amelyek általános valószínűségi változókra is érvényesek.

Valószínűségi változók kovarianciájának a definiciója. Legyen ξ és η két valószínűségi változó ugyanazon a valószínűségi mezőn, (amelyekre teljesül az Eξ^{2} < ∞, Eη^{2} < ∞ feltétel.) A ξ és η valószínűségi változók kovarianciafüggvénye

Cov (ξ, η) = E[(ξ − Eξ)(η − Eη)].

Lemma.

Cov (ξ, η) = Eξη − EξEη.

Ha ξ és η független valószínűségi változók, akkor Cov (ξ, η) = 0.

Bizonyítás:

Cov (ξ, η) = E[(ξ − Eξ)(η − Eη)] = E(ξη − ξEη − ηEξ + EξEη)
= Eξη − EξEη − EξEη + EξEη = Eξη − EξEη.

Ha ξ és η független valószínűségi változók, akkor Eξη = EξEη, ezért Cov (ξ, η) = 0.

Tétel valószínűségi változók összegének szórásnégyzetéről. Legyenek ξ_{j}, 1 ≤ j ≤ k, valószínűségi változók ugyanazon a valószínűségi mezőn, amelyekre teljesül Eξ_{j}^{2} < ∞ feltétel. Ekkor

Var (∑_{j=1}^{k} ξ_{j}) = ∑_{j=1}^{k} Var ξ_{j} + ∑_{\begin{matrix}1≤j,l≤k \\ j≠l \end{matrix}} Cov (ξ_{j}, ξ_{l}) = ∑_{j=1}^{k} Var ξ_{j} + 2 ∑_{j=1}^{k−1} ∑_{l=j+1}^{k} Cov (ξ_{j}, ξ_{l}).

Speciálisan, ha a ξ_{j} valószínűségi változók függetlenek, akkor

Var (∑_{j=1}^{k} ξ_{j}) = ∑_{j=1}^{k} Var ξ_{j}.

Bizonyítás. Vezessük be a ξ̄_{j} = ξ_{j} − Eξ_{j} valószínűségi változókat. Ekkor

Var (∑_{j=1}^{k} ξ_{j}) = E (∑_{j=1}^{k} ξ̄_{j})^{2} = E (∑_{j=1}^{k} ξ̄_{j}^{2} + ∑_{\begin{matrix}1≤j,l≤k \\ j≠l \end{matrix}} ξ̄_{j}, ξ̄_{l})

= ∑_{j=1}^{k} Eξ̄_{j}^{2} + ∑_{\begin{matrix}1≤j,l≤k \\ j≠l \end{matrix}} Eξ̄_{j}ξ̄_{l} = ∑_{j=1}^{k} Var ξ_{j} + ∑_{\begin{matrix}1≤j,l≤k \\ j≠l \end{matrix}} Cov (ξ_{j}, ξ_{l}).

Ha a ξ_{j} valószínűségi változók függetlenek, akkor Cov (ξ_{j}, ξ_{l}) = 0, ezért

Var (∑_{j=1}^{k} ξ_{j}) = ∑_{j=1}^{k} Var ξ_{j}.

Következmény. Legyenek ξ_{j}, 1 ≤ j ≤ k, valószínűségi változók ugyanazon a valószínűségi mezőn, amelyekre teljesül Eξ_{j}^{2} < ∞ feltétel, és legyenek c_{1}, …, c_{n} tetszőleges valós számok. Ekkor

Var (∑_{j=1}^{k} c_{j}ξ_{j}) = ∑_{j=1}^{k} c_{j}^{2}Var ξ_{j} + ∑_{\begin{matrix}1≤j,l≤k \\ j≠l \end{matrix}} c_{j}c_{l}Cov (ξ_{j}, ξ_{l})

= ∑_{j=1}^{k} c_{j}^{2}Var ξ_{j} + 2 ∑_{j=1}^{k−1} ∑_{l=j+1}^{k} c_{j}c_{l}Cov (ξ_{j}, ξ_{l}).

Legyenek ξ_{j}, j = 1, 2, …, független, egyforma eloszlású valószínűségi változók, és legyen Eξ_{1}^{2} < ∞. Becsüljük meg a Csebisev egyenlőtlenség segítségével a

P (|\frac{1}{n} ∑_{j=1}^{n}(ξ_{j} − Eξ_{j})| > ε)

valószínűségeket minden n = 1, 2, … és ε > 0 számra. Látni fogjuk, hogy ebből a becslésből adódik a valószínűségszámítás egyik fontos eredménye, a nagy számok (gyenge) törvénye.

P (|\frac{1}{n} ∑_{j=1}^{n}(ξ_{j} − Eξ_{j})| > ε) = P (|\frac{1}{n} ∑_{j=1}^{n}(ξ_{j} − Eξ_{j})| > ε)

= P ((∑_{j=1}^{n}(ξ_{j} − Eξ_{j}))^{2} > n^{2}ε^{2}) ≤ \frac{E ( ∑_{j=1}^{n}(ξ_{j} − Eξ_{j}))^{2}}{n^{2}ε^{2}}

= \frac{Var ( ∑_{j=1}^{n} ξ_{j})}{n^{2}ε^{2}} = \frac{∑_{j=1}^{n} Var ξ_{j}}{n^{2}ε^{2}} = \frac{Var ξ_{1}}{nε^{2}} .

Kiegészítés: A Lebesgue integrál fogalmáról. A Lebesgue integrál természetes definiciójában ezt az integrált először a legegyszerűbb függvények esetében definiáljuk természetes módon, majd ezt a definiciót kiterjesztjük általános függvényekre folytonossági meggondolások alapján. Ezt a következőképp tehetjük. Legyen adva egy (X, A, μ) mértéktér, azaz egy X alaphalmaz, kijelöljük annak bizonyos részhalmazait, amelyek σ-algebrát alkotnak, és μ σ-véges mérték az A σ-algebrán. (Egy mérték, azaz egy nem negatív értékű σ-additív halmazfüggvény akkor

σ-véges, ha létezik az X alaphalmaz X = ⋃_{j=1}^{∞} B_{j}, felbontása megszámlálhatóan sok olyan

B_{j} halmazra uniójára, amelyekre μ(B_{j}) < ∞.) Az (X, A, μ) téren értelmezett (mérhető) f(·) függvényeknek akkor definiáljuk a μ mérték szerinti integrálját, ha azok teljesítenek bizonyos feltételeket, és ezeket az integrálokat ∫ f(x)μ( dx) formában jelöljük. Jegyezzük meg, hogy egy valószínűségi mező speciális (X, A, μ) mértéktér. Bizonyos vizsgálatokban hasznos, ha figyelmünket nem korlátozzuk a valószínűségi mezőkön definiált függvények (azaz valószínűségi változók) integráljára.

Egy f(·) függvényt elemi függvénynek nevezünk, ha csak véges sok különböző

értéket vesz fel, azaz létezik véges sok olyan z_{1}, x_{2}, …, z_{k} szám úgy, hogy ⋃_{j=1}^{k}{x: f(x) =

z} = Ω. Ennek az elemi függvénynek az integrálját az

∫ f(x)μ( dx) = ∑_{j=1}^{k} z_{j}μ ({x: f(x) = z_{j}})

összeg definiálja. (Ez hasonló a diszkrét eloszlású függvények integráljának definiciójához. Az egyetlen különbség az, hogy itt csak véges sok értékeket felvevő függvényeket tekintünk, míg ott megengedtük azt is, hogy egy függvény megszámlálhatóan sok értéket vegyen fel. Definiálhattuk volna az elemi függvényeket is általánosbban, megengedhettük volna, hogy azok megszámlálható sok értéket vegyenek fel, de az itt tekintett definició technikailag kényelmesebb, és ennek használatával semmit sem veszítünk.) Ha adva van egy nem-negatív f(x) függvény az az (X, A, μ) mértéktéren, akkor azt közelíthetjük elemi f_{n}(x) elemi függvényekkel például a következő módon. Legyen f_{n}(x) = k2^{−n}, ha k2^{−n} ≤ x ≤ (k + 1)2^{−n}, k = 0, 1, …, 2^{2n}, és definiáljuk az f(x) függvény integrálját, az ∫ f(x)μ( dx) = lim_{n→∞} ∫ f_{n}(x)μ( dx) képlet segítségével. Egy általános (mérhető) f(x) függvény esetében definiáljuk annak pozitív és negatív részét, mint f_{+}(x) = max(0, f(x)), f_{−}(x) = min(0, f(x)), és ∫ f(x)μ( dx) = ∫ f_{+}(x)μ( dx) − ∫ (−f_{−}(x))μ( dx). Be lehet látni, hogy az előbb definiált integrál értelmes (például a felírt limesz valóban létezik, ha ∫ |f(x)|μ( dx) < ∞).

Felmerülhet a kérdés, hogy mi a kapcsolat az így definiált integrál és az analízisben tanult Riemann és Riemann–Stieltjes integrál között, és mik a Lebesgue integrál legfontosabb tulajdonságai.

A hagyományos analízis oktatásban az úgynevezett Riemann integrált vezetik be először. Egy [a, b] intervallumon értelmezett f(u) függvény ∫_{a}^{b} f(u) du integrálját úgy definiálják, hogy először alkalmas közelítő összegeket vezetnek be a következő módon. Felosztják az [a, b] intervallumot a = x_{0} < x_{1} < ⋯ < x_{n} = b osztópontok segítségével, amelyekre sup_{1≤k≤n}(x_{k} − x_{k−1}) kicsi, mindegyik [x_{k−1}, x_{k}] intervallumban kijelölnek egy

ξ_{k} ∈ [x_{k−1}, x_{k}] pontot, és a ∑_{k=1}^{n} f(ξ_{k})(x_{k} − x_{k−1}) közelítő összegeket tekintik. Az

∫_{a}^{b} f(u) du integrált úgy definiálják mint ezen integrálközelítő összegek határértékét, ha sup_{1≤k≤n}(x_{k} − x_{k−1}) nullához tart.

Egy f függvénynek valamely az [a, b] intervallumon megadott F (u) függvény szerinti ∫_{a}^{b} f(u)F ( du) Riemann–Stieltjes intergrálját hasonlóan definiálják. A különbség az, hogy most a közelítő összegekben az x_{k} − x_{k−1} megváltozásokat az F (·) függvény

F (x_{k}) − F (x_{k−1}) megváltozásaival helyettesítik, azaz a ∑_{k=1}^{n} f(ξ_{k}) (F (x_{k}) − F (x_{k−1}))

közelítőösszegeket, illetve azok határértékét tekintik. Ha az F (x) függvény nem folytonos, akkor bizonyos technikai problémákat részletesebben tisztázni kell a fenti közelítő összegek definiciójában, ezek kidolgozásától azonban itt eltekintek.

A fenti definiciót a következő módon is interpretálhatjuk. Nevezzünk egy az [a, b] intervallumon értelmezett f(x) függvényt egyszerű vagy lépcsős függvénynek, ha létezik az [a, b] intervallumnak olyan a = x_{0} < x_{1} < ⋯ < x_{n} = b felosztása, amelyre az f(x) függvény konstans minden egyes [x_{k}, x_{k+1}) intervallumon, 0 ≤ k < n. Az ilyen

lépcsős függvények integrálját az ∫_{a}^{b} f(x) dx = ∑_{k=1}^{n} f(x_{k})(x_{k} −x_{k−1}), és ∫_{a}^{b} f(x)F ( dx) =

∑_{k=1}^{n} f(x_{k}) (F (x_{k}) − F (x_{k−1})) képletekkel definiáljuk. Az általánosabb függvények integrálját úgy definiáljuk, hogy közelítjük őket a fent leírt módon lépcsős függvényekkel, és a függvény integrálja a megfelelő lépcsős függvények integráljainak a limesze.

Tekintsük a számegyenest, rajta a B Borel σ-algebrát, és azon a Lebesque mértéket. Vegyük észre, hogy mind a Riemann mind a Lebesue integrál esetében először bizonyos elemi függvényeknek definiáljuk az integrálját alkalmas közelítő összegek segítségével, majd a definiciókat alkalmas határátmenet segítségével kiterjesztjük. Ezért nem meglepő, hogy abban az esetben, amikor mind a két integrál létezik, akkor azok megegyeznek.

Legyen F valamely monoton növekvő függvény az [a, b) intervallumon. A Lebesgue integrálhoz hasonlóan az ∫_{a}^{b} f(u)F ( du) Riemann–Stieltjes integrálnak megfelelő Lebesgue–Stieltjes integrált is definiálhatunk. Ebben az esetben is az (X, A, μ) teret úgy definiáljuk, hogy az X halmaz a számegyenes, (vagy esetleg annak egy részintervalluma), A a számegyenesen vagy az intervallumon bevezetett Borel σ-algebra. A definició teljessé tételéhez definiálni kell a μ mértéket is. Ezt az [a, b) intervallumon vagy számegyenesen definiált F monoton növekvő függvény határozza meg.

A mértékelmélet egyik eredménye szerint az F függvény egyértelműen meghatároz az [a, b) intervallum Borel–mérhető halmazainak σ-algebráján egy olyan σ-additív μ_{F} az F függvény Stieltjes mértékének nevezett halmazfüggvényt, amelyre μ_{F} ([u, v)) = F (v) − F (u) minden a ≤ u < v ≤ b (u, v) rárra. (Egy részletesebb tárgyalásban ezen állítás megfogalmazásában figyelmesebbnek kell lennünk. Külön vizsgálni kell azt az esetet, amikor az F (·) függvény a tekintett [u, v) intervallum u vagy v végpontjában nem folytonos, azaz lim_{u_{n}→u−0} F (u_{n}) ≠ lim_{u_{n}→u+0} F (u_{n}), illetve, ha a v pontban teljesül

hasonló reláció. Kiderült, hogy elég csak balról folytonos (monoton) függvényeket tekintenünk, azaz olyan F (·) függvényeket, amelyekre lim_{x_{n}→x−0} F_{n}(x_{n}) = F (x) minden x

számra. Az eloszlásfüggvények teljesítik ezt a tulajdonságot. Ezen megszorítás esetén minden (u, v), u < v, párra érvényes az μ_{F} ([u, v)) = F (v) − F (u) azonosság.) A Lebesgue–Stieltjes integrál definiciójának legnehezebb lépése annak megmutatása, hogy ilyen módon egy mértéket azaz egy σ-additív μ_{F} halmazfüggvényt definiálunk. Az ∫_{a}^{b} f(u)F ( du) Lebesue–Stieltjes integrál az ∫ f(x)μ( dx) Lebesgue integrál, ha az [a, b] intervallumon és a rajta tekintett Borel σ-algebrán az F függvény által meghatározott μ_{F} mértéket választjuk μ a mértéknek. A Riemann-Stieltjes és Lebesgue–Stieltjes integrálok megegyznek, ha mind a két integrál létezik.

Láttuk, hogy a Lebesgue és Riemann integrálok definiciójának a logikája nagyon hasonló. Mind a két esetben először szép, egyszerű esetekben definiáljuk az integrált, majd határátmenet segítségével ezt a definiciót kiterjesztjük. A Lebesgue integrál definicióját nem nehezebb megérteni mint a Riemann integrálét. Annak fő oka, hogy az oktatásban a Riemann integrálok tárgyalására helyezik a hangsúlyt — bizonyos tudománytörténeti okokon kívül — az, hogy a Lebesgue integrálok felépítése szükségessé teszi σ-additív mértékek használatát, és ez elkerülhetetlenné tesz bizonyos nem-triviális mértékelméleti vizsgálatokat. A Lebesgue integrálok definiciójában, amikor egy halmaz nívóhalmazait tekintjük nem követeljük meg, hogy ezeknek a nívóhalmazoknak szép geometriai struktúrájuk legyen. Ennek következtében sokkal gazdagabb azon függvények osztálya amelyeknek definiálni tudjuk a Lebesgue integrálját. Ugyanis az integrál definiciójában szükséges határátmeneteketet a Lebesgue integrál definiciójában könnyebb végrehajtani mint a Riemann integráléban. Sőt a Lebesgue integrál definiciója — szemben a Riemann integráléval — nem kötődik a számegyenes geometriájához.

A Lebesgue integrál rendelkezik a Riemann integrálról tanult legfontosabb tulajdonságokkal. Így például lineáris operátor az integrálható függvények terén, azaz tetszőleges f és g (integrálható) függvényre valamint a és b számokra

∫ (af(x) + bg(x))μ( dx) = a ∫ f(x)μ( dx) + b ∫ g(x)μ( dx).

Bizonyos fontos, itt nem ismertetett eredmények (Lebesgue tétel, Beppo–Levy tétel Fatou lemma) arról szólnak, hogy konvergens függvénysorok esetén mikor cserélhető fel a limesz és integrálás sorrendje, azaz milyen feltételek mellett érvényes a

lim ∫ f_{n}(x)μ( dx) = ∫ lim f_{n}(x)μ( dx)

azonosság. A Lebesgue integrálok egy fontos tulajdonsága az ebben a jegyzetben is megfogalmazott Fubini tétel, amely szerint egy szorzatmérték szerinti kétváltozós függvény integrálja szukcesszív integrálással is kiszámolható. Láttuk, hogy ez fontos szerepet játszik független valószínűségi változók vizsgálatában.

Végül megjegyzem, hogy a várható értéknek az eloszlásfüggvény segítségével való kiszámolásáról szóló tételnek illetve ezen eredmény általánosításának a bizonyítása viszonylag egyszerű, ha jól megértjük a Lebesgue integrál definicióját. A Fontos Tétel állítása szemléletesen, de kissé pongyolán fogalmazva azt jelenti, hogy egy (Ω, A, P) valószínűségi mezőn definiált ∫ g(ξ(ω)) dP (ω) integrál ‘átmásolható’ egy ∫ g(x)μ_{F} ( dx) integrállá az (R^{1}, B, μ_{F}) valószínűségi mezőn, ahol μ_{F} a ξ valószínűségi változó eloszlása által meghatározott μ_{F} Lebesgue–Stieltjes mérték. Ez az állítás könnyen látható g(x) lépcsősfüggvények esetében. Általános (mérhető) g(x) függvények jól közelíthetőek lépcsős függvényekkel, és ilyen módon az ∫ g(ξ(ω)) dP (ω) Lebesgue integrál olyan közelítő összegeit kapjuk, amelyek kifejezhetőek a ξ valószínűségi változó F (x) eloszlásfüggvényét tartalmazó összegek segítségével. Ez utóbbi összegek természetes közelítőösszegei az ∫ g(x)F ( dx) Lebesque–Stieltjes integrálnak. Ezután alkalmas határátmenet segítségével megkaphatjuk az említett tételnek, illetve általánosításának a bizonyítását.