A Valószínűségszámítás I. előadássorozat hetedik előadása. 2007. március 20.

Első témánk a Poisson eloszlás tulajdonságainak további vizsgálata.

Láttuk az előző előadáson, hogy ha binomiális eloszlású S_{n}, n = 1, 2, …, valószínűségi változókat tekintünk n és p_{n} paraméterekkel, azaz S_{n} eloszlása megegyezik egy

∑_{j=1}^{n} ξ_{j}^{(n)} összeg eloszlásával, ahol a ξ_{j}^{(n)} valószínűségi változók függetlenek, és

P (ξ_{j}^{(n)} = 1) = 1 − P (ξ_{j}^{(n)} = 0) = p_{n}, 1 ≤ j ≤ n,

továbbá teljesül a lim_{n→∞} np_{n} = λ feltétel valamely λ > 0 számmal, akkor lim_{n→∞} P (S_{n} =

k) = \frac{λ^{k}}{k!} e^{−λ} minden k egész számra.

Az előző előadás eredményeiből az is következik, hogy olyan T_{n} = ∑_{j=1}^{n} η_{j}^{(n)} alakú

n = 1, 2, …, véletlen összegekre, amelyekben rögzített n számra az η_{j}^{(n)} valószínűségi változók függetlenek és Poisson eloszlásúak \frac{λ_{n}}{n} paraméterrel, és lim_{n→∞} λ_{n} = λ > 0 szintén

teljesül a lim_{n→∞} P (T_{n} = k) = \frac{λ^{k}}{k!} e^{−λ} reláció minden k egész számra. Ekkor ugyanis T_{n} Poisson eloszlású λ_{n} paraméterrel.

Belátok egy olyan eredményt, amelynek a fent tekintett két példa speciális esete. Azután megtárgyalom ennek az eredménynek az alapján azt, hogy miért fontos a Poisson eloszlás, miért természetes feltenni, bizonyos véletlen jelenségeket Poisson eloszlású valószínűségi változók írnak le.

Határeloszlástétel Poisson határeloszlással. Legyen adva minden rögzített n = 1, 2, … számra ξ_{1}^{(n)}, …, ξ_{n}^{(n)} független egyforma eloszlású, nem negatív egész értékeket felvevő valószínűségi változók olyan sorozata, mely sorozatok teljesítik a következő feltételeket:

a) lim_{n→∞} nP (ξ_{1}^{(n)} = 1) = λ > 0.

b) lim_{n→∞} nP (ξ_{1}^{(n)} ≥ 2) = 0.

Ekkor az S_{n} = ∑_{j=1}^{n} ξ_{j}^{(n)}, n = 1, 2, …, véletlen összegekre teljesül a

lim_{n→∞} P (S_{n} = k) = \frac{λ^{k}}{k!} e^{−λ}

reláció minden k nem negatív egész számra.

Megjegyzés: Érvényes e tétel állításának megfelelő általánosítása. Alkalmas feltételek mellett független nem negatív egész értékű, de nem feltétlenül azonos eloszlású valószínűségi változók összegének az eloszlása konvergál egy Poisson eloszláshoz. Egy ilyen a fenti tételhez hasonlóan bizonyítható állítást megfogalmazok nem kötelező házi feladat formájában.

Ennek az eredménynek több különböző bizonyítása ismeretes. Az egyik tanulságos bizonyítás a generátorfüggvények módszerén alapul. Itt ezt a bizonyítást fogom ismertetni.

A tétel bizonyításának gondolata: Tekintsük az S_{n} valószínűségi változók

G_{n}(x) = ∑_{j=0}^{∞} P (S_{n} = j)x^{j}, n = 1, 2, …,

generátorfüggvényeit. A generátorfüggvény módszer azt sugallja, hogy lássuk be a lim_{n→∞} G_{n}(x) = G(x) relációt valamilyen −A < x < A, A > 0, intervallumban, ahol

G(x) = e^{λ(x−1)}, a λ paraméterű Poisson eloszlás generátorfüggvénye. Ugyanis, mivel hatványsorok konvergenciájából következik a hatványsorok deriváltjainak a konvergenciája is, és hatványsorokat szabad tagonként deriválni, e relációból következik a

lim_{n→∞} \frac{d^{k}G_{n}(x)}{dx^{k}} |_{x=0} = \frac{dG^{k}(x)}{dx^{k}} |_{x=0} = λ^{k}e^{−λ} összefüggés minden k = 0, 1, 2, … számra.

(Ebben a lépésben felhasználtam az analízis néhány alapvető, de nem triviális eredményét.) Azaz k! lim_{n→∞} P (S_{n} = k) = k!\frac{λ^{k}}{k!} e^{−λ} minden k = 0, 1, … számra. A bizonyítandó reláció igazolásának érdekében vegyük észre, hogy a G_{n}(x) függvényt felírhatjuk (a generátorfüggvények tulajdonságai miatt) a következő alakban: G_{n}(x) = g_{n}^{n}(x) min-

den −1 < x < 1 számra, ahol g_{n}(x) = ∑_{j=0}^{∞} P (ξ_{1}^{(n)} = j)x^{j}, a ξ_{1}^{(n)} valószínűségi változó

generátorfüggvénye.

A fenti azonosságot felhasználva, majd a bizonyítandó relációban logaritmust véve elég megmutatni azt, hogy lim_{n→∞} n log g_{n}(x) = λ(x − 1). Továbbá, mivel P (ξ_{1}^{(n)} = 0) =

1 − P (ξ_{1}^{(n)} = 1) − ∑_{j=2}^{∞} P (ξ_{1}^{(n)} = j), ezért

g_{n}(x) = 1 + P (ξ_{1}^{(n)} = 1) (x − 1) + ∑_{j=2}^{∞} P (ξ_{1}^{(n)} = j) (x^{j} − 1) .

Ezért az a) és b) feltételek miatt azt várjuk, hogy a g_{n}(x) ∼ 1 + \frac{λ}{n} (x − 1) formula jó közelítés. Mivel log(1 + u) ∼ u kis u számokra, ezért természetes azt várni, hogy log g_{n}(x) ∼ \frac{λ}{n} (x − 1) jó közelítés, és lim_{n→∞} log g_{n}(x) = λ (x − 1), ahonnan következik a Tétel állítása. A Tétel bizonyítását befejezzük, ha igazoljuk a fenti közelítések jogosságát.

A Tétel bizonyításának befejezése. Vegyük észre, hogy minden ε > 0 számra létezik olyan n_{0} = n_{0}(ε) küszöbindex, amelyre |g_{n}(x) − (1 + \frac{λ}{n}(x − 1))| < \frac{ε}{n}, ha n ≥ n_{0} és |x| <

1. Valóban a g_{n}(x) = 1 + P (ξ_{1}^{(n)} = 1) (x − 1) + ∑_{j=2}^{∞} P (ξ_{1}^{(n)} = j) (x^{j} − 1) azonosság

teljesül. Ezenkívül a b) relációból következik, hogy

|∑_{j=2}^{∞} P (ξ_{1}^{(n)} = j) (x^{j} − 1)| ≤ 2 ∑_{j=2}^{∞} P (ξ_{1}^{(n)} = j) = 2P (ξ_{1}^{(n)} ≥ 2) ≤ \frac{ε}{2n},

és az a) relációból pedig az, hogy |P (ξ_{1}^{(n)} = 1) (x − 1) − \frac{λ}{n}(x − 1)| < \frac{ε}{2n}, ha n ≥ n_{0} és |x| < 1. Ezért igaz a fenti azonosság.

Továbbá, mivel mint azt például a log(1 + x) függvény Taylor sorfejtéséből lehet látni, | log(1 + u) − u| < u^{2}, ha |u| < \frac{1}{2}, ezért a fenti egyenlőtlenségből u = g_{n}(x) − 1

választással kapjuk, hogy |log g_{n}(x) − (g_{n}(x) − 1)| < \frac{2ε}{n}, és |log g_{n}(x) − \frac{λ(x−1)}{n} | < \frac{3ε}{n}, ha n ≥ n_{1}, és |x| ≤ 1 alkalmas n_{1} = n_{1}(ε) küszöbindexre. Mivel ez az állítás igaz minden ε > 0 számra, ezért lim_{n→∞} n log g_{n}(x) = λ(x − 1), lim_{n→∞} g_{n}(x)^{n} = e^{λ(x−1)}, ha x < 1. Viszont láttuk, hogy innen következik a Tétel állítása.

Nem kötelező házi feladat.

Legyen

ξ_{1,1} …, ξ_{1,n_{1}}
⋮  ⋮
ξ_{k,1} …, ξ_{k,n_{k}}
⋮  ⋮

szériasorozat, azaz tegyük fel, hogy az egy sorban álló valószínűségi változók függetlenek. Tegyük fel továbbá, hogy e valószínűségi változók teljesítik a következő feltételeket:

1.) A ξ_{k,j} valószínűségi változók nem negatív egész értékeket vesznek fel.

2.) P (ξ_{k,j} = 1) = λ_{k,j}, lim_{k→∞} ∑_{j=1}^{n_{k}} λ_{k,j} = λ > 0.

3.) sup_{1≤j≤n_{k}} λ_{k,j} → 0, ha k → ∞, és ∑_{j=1}^{n_{k}} P (ξ_{k,j} ≥ 2) → 0, ha k → ∞.

Ekkor az S_{k} = ∑_{j=1}^{n_{k}} ξ_{k,j} valószínűségi változók eloszlásban konvergálnak a λ para-

méterű Poisson eloszláshoz, ha k → ∞, azaz lim_{k→∞} P (S_{k} = l) = \frac{λ^{l}}{l!} e^{−λ} minden l = 0, 1, 2, … számra.

A Határeloszlástétel szemléletes tartalma: Tekintsük például a csillaghullást. Hány hullócsillagot látunk egy adott időintervallumban, (mondjuk egy óra alatt) egy nyár éjszakai megfigyelésen? Szeretnénk tudni, hogy a lehullott csillagok (véletlen száma) milyen valószínűségi törvényeknek tesz eleget. Ezt megértendő, osszuk fel az egy óra időintervallumot rövid ΔT hosszúságú időintervallumokra. A lehullott csillagok száma e rövid ΔT időintervallumokban lehullott csillagok számának az összege. Feltehetjük, hogy diszjunkt időintervallumokban lehullott csillagok száma egymástól független, és a különböző rövid intervallumokban lehulló csillagok száma hasonló valószínűségi törvényeket teljesít. Annak a valószínűsége, hogy egy rövid időintervallumban lehull egy csillag nagyon kicsi, és arányos az időintervallum hosszával. Annak a valószínűsége, hogy egy kis időintervallumban kettő vagy még több csillag is lehull, még ehhez képest is elhanyagolható. Ez azt jelenti, hogy természetes feltenni, hogy teljesülnek az előbb megfogalmazott tétel feltételei. Ezért az alkalmazható, és innen következik, hogy egy adott időintervallumban lehullott csillagok száma Poisson eloszlású. Hasonló érvelés alkalmazható sok más hasonló esetben. Ez magyarázza meg, hogy miért különösen fontos a Poisson eloszlás.

A diszkrét eloszlású valószínűségi változókról szóló ismertetést egy a hipergeometrikus eloszlással kapcsolatos statisztikai problémával zárom. Ez a példa azért is érdekes lehet, mert természetes módon megismertet minket a matematikai statisztika néhány olyan fontos fogalmával, mint a becslés vagy a konfidenciaintervallum.

Egy a hipergeometrikus eloszlással kapcsolatos statisztikai problémáról.

Tekintsük először a következő problémát:

Feladat:

Egy tóban 3000 hal van. Véletlenül kihalásznak belőle 1000 darabot, és ezekre piros pöttyöt festenek és visszaengedik őket. Ezután ismét kifognak véletlenül 1000 halat. Mi annak a valószínűsége, hogy a kifogott halak között 100 megfestett van?

Megoldás: \binom{1000}{100}\binom{2000}{900} \binom{3000}{1000}, mert ennyi annak a valószínűsége, hogy 1000 hal kiválasztása

esetén az 1000 megfestett halból 100-at a 2000 meg nem festett halból pedig 900 halat választunk.

Megjegyzés: A gyakorlatban előforduló kérdés ennek a fordítottja. Elvégezzük a fenti kisérletet, megszámoljuk a második fogásban kifogott megfestett halak számát, és ebből próbálunk a tóban levő halak ismeretlen számára következtetni. Milyen eljárás segítségével tudjuk ezt jól megtenni?

Érdemes ezt a problémát részletesebben megtárgyalni. Nem tudjuk, hogy hány hal van a tóban. De ennek megbecslése érdekében a következő eljárást alkalmazhatjuk:

Végezzünk két fogást, az első fogásban kifogott halakat jelöljuk meg, és számoljuk meg, hogy a második fogásban hány megjelölt és megjelöletlen halat fogtunk. Ennek alapján meg akarjuk állapítani, hogy hány hal lehet összesen a tóban. Ezt természetesen csak bizonyos (véletlentől függő) pontossággal tudjuk meghatározni. Az ilyen tipusú feladatok tipikusak a matematikai statisztikában, az ilyen problémák vizsgálatát nevezik becsléselméletnek. Világos, hogy a feladatban szereplő adatok esetén nem valószínű, hogy 1000-nél alig több hal van a tóban, mert akkor sokkal több megjelölt hal lenne a második fogásban. Az hogy rengeteg, mondjuk 1 000 000 hal lenne a tóban szintén nem túl valószínű, mert akkor sokkal kevesebb megjelölt hal lenne a második fogásban. A matematikai statisztikában kidolgoztak egy általános elvet, egy maximum likelihood módszernek nevezett eljárást, amely nagyon általános feltételek mellett jó módszert ad a minket érdeklő mennyiség becslésére. Megtárgyaljuk, hogy milyen eredményt ad ez a jelen esetben is alkalmazható módszer. Tekintsünk egy kissé általánosabb problémát. Vezessük be a következő jelöléseket:

x jelöli a tóban lévő halak (ismeretlen) számát.

n jelöli az első fogásban kifogott (és megjelölt) halak számát.

r jelöli a második fogásban kifogott halak számát.

k jelöli a második fogásban kifogott, előzöleg megjelölt halak számát.

Annak valószínűsége, hogy adott (ismeretlen) x és n, r számok esetén pontosan k megjelölt halat fogunk ki

q_{k}(x, n, r) = \begin{matrix}\binom{n}{k} & \binom{x−n}{r−k} \\ ( & {x \atop r} & ) \end{matrix}.

Tekintsük az ismeretlen x szám (maximum likelihood) becslésének azt az x számot, amelyre a q_{k}(x, n, r) mennyiség (rögzített n, k és r számok mellett) maximális.

Határozzuk meg a fenti feladatban a maximum likelihood becslést.

Némi számolás mutatja, hogy

\frac{q_{k}(x, n, r)}{q_{k}(x − 1, n, r)} = \frac{x − n}{x − n − r + k} · \frac{x − r}{x} = \frac{x^{2} − rx − nx + rn}{x^{2} − rx − nx + kx}.

Ez a tört kisebb mint egy, ha rn < kx, nagyobb mint egy, ha rn > kx. Ezért a becslés rn = kx, azaz x = \frac{rn}{k}, pontosabban az e számot közrefogó egész számok valamelyike. Valóban x < \frac{rn}{k} esetében a q_{k}(x, n, r) függvény (mint az x változó függvénye rögzített k, n és r paraméterekkel) monoton nő, x > \frac{rn}{k} esetében pedig a q_{k}(x, n, r) függvény monoton csökken.

Természetes kérdés az, hogy az így kapott becslés valóban jó-e. Azt nem várhatjuk, hogy az adott becslés teljesen pontos. A természetes elvárás az, hogy meg tudjuk adni az x pontnak viszonylag egy kis környezetét, egy olyan [x − a, x + a] intervallumot, amelyre igaz, hogy annak valószínűsége, hogy a halak valódi száma ebbe az intervallumba esik nagyobb, mint egy előírt egyhez közeli szám. A matematikai statisztikában az adott tulajdonsággal rendelkező (véletlen) intervallumot konfidencia (megbízhatósági) intervallumnak hívják.

Ahhoz, hogy ilyen konfidenciaintervallumot tudjunk szerkeszteni szükség van bizonyos valószínűségi változók eloszlásának jobb ismeretére, és ez a valószínűségszámítás egyik alapvető feladata. Jegyezzük meg, hogy a most vizsgált feladatban, ha a tóban x számú hal van, és az első fogásban n, a második fogásban pedig r halat fogunk ki, akkor a második fogásban kifogott véletlen k számú megjelölt hal számának a várható értéke Ek = \frac{rn}{x}. Ahhoz, hogy vizsgálni tudjuk mennyire jó a becslés, hogyan lehet jó konfidenciaintervallumot konstruálni, azt kell megértenünk, hogy mekkora az ingadozása a k valószínűségi változónak a várható értéke körül. Ezért érdemes egy hipergeometrikus eloszlás szórásnégyzetét kiszámolni. További értékes információkat nyerhetünk, ha tételeket bizonyítunk hipergeometrikus eloszlások aszimptotikus eloszlására, ha a benne szereplő paraméterek nagyok. Bár ezzel a kérdéssel nem fogunk foglalkozni, hasonló problémákat fogunk tárgyalni, amelyek vizsgálatában ilyen jellegű kérdések megoldása hasznos.

Általános valószínűségi változók, és velük kapcsolatos alapvető fogalmak. Megbeszéltük, hogy egy ξ (valós értékű) valószínűségi változó egy (Ω, A, P) valószínűségi mezőn értelmezett (mérhető) függvény. Általában, nem a valószínűségi változókat adjuk meg, hanem azoknak alább definiált eloszlásfüggvényét.

Valószínűségi változó eloszlásfüggvényének a definiciója. Legyen adva egy ξ(ω) (valós értékű) valószínűségi változó egy (Ω, A, P) valószínűségi mezőn. Ennek F (x) eloszlásfüggvényén az F (x) = P ({ω: ξ(ω) < x}), −∞ < x < ∞, függvényt értjük.

E fogalmak jobb megértésének érdekében tekintsük a következő példákat.

Feladatok:

1.) Tekintsük egy szabályos dobókocka feldobását, illetve azt a ξ valószínűségi változót, amely megadja, hogy mi a dobás eredménye. Mi a ξ valószínűségi változó F (x) eloszlásfüggvénye? Megoldás: A ξ valószínűségi változó az 1, 2, 3, 4, 5 és 6 értékek valamelyikét veszi fel, mindegyiket \frac{1}{6} valószínűséggel. Ezért annak a valószínűsége, hogy ξ(ω) < x nullával egyenlő, ha x < 1. Sőt x = 1 esetében is teljesül a P (ξ < 1) = 0 azonosság, mert annak valószínűségét nézzük, hogy a ξ valószínűségi változó szigorúan kisebb mint az x szám. Ezért F (x) = 0, ha −∞ < x ≤ 1. Ha 1 < x < 2, akkor az {ω: ξ(ω) < x} esemény azt jelenti, hogy a dobás eredménye 1. Ez az állítás igaz x = 2 esetében is. Ezért F (x) = \frac{1}{6}, ha 1 < x ≤ 2. Ha 2 < x ≤ 3, akkor az {ω: : ξ(ω) < x} esemény azt jelenti, hogy a dobás eredménye 1 vagy 2. Ezért F (x) = \frac{2}{6}, ha 2 < x ≤ 3. Ezt a gondolatot végigkövetve kapjuk, hogy F (x) = 0, ha −∞ < x ≤ 1, F (x) = \frac{j}{6}, ha j < x ≤ j + 1, 1 ≤ j ≤ 5, és F (x) = 1, ha 6 < x < ∞,

2.) Feldobunk egy pénzdarabot, amely p valószínűséggel esik a fej, 1−p valószínűséggel az írás oldalra kétszer egymástól függetlenül. Jelölje ξ azt a valószínűségi változót, amely a fejdobások számát adja meg. Adjuk meg a ξ valószínűségi változó F (x) eloszlásfüggvényét. Megoldás: A ξ valószínűségi változó eloszlását a P (ξ = 0) = (1 − p)^{2}, P (ξ = 1) = 2p(1−p) és P (ξ = 2) = p^{2} képletek adják meg. Ez azt jelenti, hogy a ξ valószínűségi változó F (x) = P (ξ < x) eloszlásfüggvényére F (x) = 0, ha x ≤ 0, F (x) = (1 − p)^{2}, ha 0 < x ≤ 1, F (x) = P (ξ = 0) + P (ξ = 1) = (1 − p)^{2} + 2p(1 − p) = 1 − p^{2}, ha 1 < x ≤ 2, és F (x) = 1, ha x ≥ 2.

3.) Ledobunk egy pontot véletlenül az egységintervallumra, azaz annak a valószínűsége, hogy a ledobott pont valamely [a, b] ⊂ [0, 1] intervallumba esik legyen b − a. Jelölje ξ a ledobott pont helyének a nagyságát. Adjuk meg a ξ valószínűségi változó eloszlásfüggvényét. Megoldás: Mivel P (ξ < x) = 0, ha x ≤ 0, P (ξ < x) = P (ξ ∈ [0, x)) = x, ha 0 ≤ x ≤ 1, és P (ξ < x) = 1, ha x > 1, ezért az F (x) = P (ξ < x) eloszlásfüggvényre F (x) = 0, ha x < 0, F (x) = x, ha 0 ≤ x ≤ 1, és F (x) = 1, ha x > 1.

4.) Ledobunk egy pontot véletlenül a [0, 2] intervallumra, azaz annak a valószínűsége, hogy a ledobott pont valamely [a, b] ⊂ [0, 2] intervallumba esik legyen \frac{b−a}{2}. Valaki felírja a ledobott pont helyét egy jegyzőkönyvbe, ha a ledobott pont a [0, 1] intervallumba esik, és a 0 értéket írja be, ha ez a pont az [1, 2] intervallumba esik. Jelölje η a jegyzőkönyvbe írt szám értékét. Adjuk meg az η valószínűségi változó eloszlásfüggvényét. Megoldás: Jelölje ξ a ledobott pont helyének az értékét. Ekkor P (η < 0) = 0), P (η = 0) = P (ξ ∈ [1, 2]) = \frac{1}{2}, P (η < x) = P (ξ < x) + P (ξ ∈ [1, 2]) = \frac{1}{2} + \frac{x}{2}, ha 0 ≤ x ≤ 1, és P (η < x) = 1, ha x > 1. Innen az η valószínűségi változó F (x) eloszlásfüggvénye a következő: F (x) = 0, ha x ≤ 0, F (x) = \frac{1}{2} + \frac{x}{2}, ha 0 ≤ x ≤ 1, és F (x) = 1, ha x ≥ 1.

Az első két példában egy diszkrét eloszlású valószínűségi változó eloszlásfüggvényét adtuk meg. A harmadik példában szereplő eloszlásfüggvény folytonos függvény volt. Az ilyen eloszlásokat folytonos eloszlásnak hívják az irodalomban. A negyedik példában szereplő eloszlásfüggvény nem volt folytonos, mert a nulla pontban ugrása van, és ugyancsak nem volt egy diszkrét eloszlású valószínűségi változó eloszlásfüggvénye.

Miért fontos az eloszlásfüggvény fogalma? Általában nem tudjuk, hogy milyen véletlen hatások eredményeként jelenik meg egy ξ(ω) valószínűségi változó értéke, csak azt, hogy milyen valószínűséggel vesz fel ez a valószínűségi változó bizonyos értékeket. Ezért természetes, hogy csak ezeket a valószínűségeket adjuk meg. A ξ(ω) valószínűségi változó F (x) eloszlásfüggvénye csak az {ω: ξ(ω) < x} alakú események valószínűségét adja meg. A következő kérdés az, hogy nem jelent-e ez megszorítást, hiszen minket az összes {ω: ξ(ω) ∈ B} alakú esemény valószínűsége érdekel, ahol B ,,szép” halmaz. Viszont bizonyos mértékelméleti eredményekből következik, hogy az F (x) eloszlásfüggvény meghatározza az összes ilyen esemény valószínűségét. Az, hogy egy halmaz ,,szép” pontosan azt jelenti, hogy ez a halmaz Borel mérhető. Lássuk, hogyan lehet néhány ilyen esemény valószínűségét meghatározni.

Mivel {ω: a ≤ ξ(ω) < b} = {ω: ξ(ω) < b} \ {ω: ξ(ω) < a}, ezért

P ({ω: a ≤ ξ(ω) < b}) = P ({ω: a ≤ ξ(ω) < b}) − P ({ω: ξ(ω) < a}) = F (b) − F (a).

Mivel \{ω: a ≤ ξ(ω) ≤ b\} = ⋂_{n=1}^{∞} \{ω: a ≤ ξ(ω) < b + \frac{1}{n}\}, és a valószínűség σ-additivitá-

sából következnek annak folytonossági tulajdonságai, ezért

P (\{ω: a ≤ ξ(ω) ≤ b\}) = lim_{n→∞} P (\{ω: a ≤ ξ(ω) < b + \frac{1}{n}\})

= lim_{n→∞} [F (b + \frac{1}{n}) − F (a)] .

Hasonlóan, ha adva van diszjunkt zárt [a_{k}, b_{k}], 1 ≤ k ≤ n, intervallumok halmaza, akkor

P ( ⋃_{k=1}^{n} \{ω: a_{k} ≤ ξ(ω) ≤ b_{k}\}) = ∑_{k=1}^{n} lim_{N→∞} [F (b_{k} + \frac{1}{N} ) − F (a_{k})] .

Feladat:

Legyen adva egy ξ(ω) valószínűségi változó F (x) eloszlásfüggvénye. Határozzuk meg ennek segítségével az {ω: a < ξ(ω) < b} alakú események, −∞ < a < b < ∞, valószínűségét, valamint annak valószínűségét, hogy ξ(ω) valamilyen páros egész értéket vesz fel. Megoldás:

P (\{ω: a < ξ(ω) < b\}) = lim_{n→∞} P (\{ω: a + \frac{1}{n} ≥ ξ(ω) < b\})

= lim_{n→∞} [F (b) − F (a + \frac{1}{n})] .

Egy tetszőleges u pontra P (ξ = u) = lim_{n→∞} [F (u + \frac{1}{n}) − F (u)]. Ezért annak valószínűsége, hogy a ξ valószínűségi változó valamely páros egész értéket vesz

fel ∑_{k=−∞}^{∞} lim_{n→∞} [F (2k + \frac{1}{n}) − F (2k)].

Megfogalmazom azokat eredményeket, amelyek segítségével jellemezni tudjuk az eloszlásfüggvényeket, illetve, amelyek kimondják, hogy az eloszásfüggvények meghatározzák a minket érdeklő valószínűségeket.

Lemma eloszlásfüggvények tulajdonságairól. Legyen ξ(ω) valószínűségi változó egy (Ω, A, P) valószínűségi mezőn, és legyen F (x) = P ({ω: ξ(ω) < x}), −∞ < x < ∞, e valószínűségi változó eloszlásfüggvénye. Az F (x) eloszlásfüggvény teljesíti a következő tulajdonságokat.

a) F (x) monoton növekvő függvény.

b) F (x) balról folytonos függvény, azaz lim_{h→0, h>0} F (x − h) = F (x) minden −∞ < x <

∞ számra.

c) lim_{x→∞} F (x) = 1.

d) lim_{x→−∞} F (x) = 0.

Tétel valószínűségi változók eloszlásának jellemzéséről. Ha egy F (x) függvény teljesíti az előző lemmában megfogalmazott a)—d) tulajdonságokat, akkor az eloszlásfüggvény. Részletesebben megfogalmazva ez azt jelenti, hogy ha az F (x) függvény teljesíti az a)—d) feltételeket, akkor létezik egy (Ω, A, P) valószínűségi mező, és azon olyan ξ(ω) valószínűségi változó, amelynek az eloszlásfüggvénye ez az F (x) függvény.

A fent megfogalmazott Tétel felhasznál egy fontos mértékelméleti eredményt, amelyet megfogalmazok. De e tétel bizonyítása a mértékelmélet anyaga, ezért azt itt nem tárgyaljuk.

Tétel B. Ha egy F (x) függvény teljesíti az előző lemmában megfogalmazott a)—d) tulajdonságokat akkor létezik egy olyan úgynevezett μ_{F} (·) az F függvény által meghatározott Stieltjes mérték, amely teljesíti a következő tulajdonságokat. a) A számegyenes minden B Borel halmazának létezik μ_{F} (B) Stieltjes mértéke.

b) A μ_{F} (·) halmazfüggvény σ-additív a számegyenes Borel-halmazaiból álló (Borel) σ-algebrán, és μ_{F} (R^{1}) = 1.

c) μ_{F} ([a, b)) = F (b) − F (a) minden −∞ ≤ a < b ≤ ∞ számra. Speciálisan, μ_{F} ((−∞, b)) = F (b) minden −∞ < b < ∞ számra.

Egy az előző lemma a)—d) tulajdonságait teljesítő F (x) függvény egyértelműen meghatározza azokat az μ_{F} (B) számokat minden Borel mérhető B halmazra, amelyekre teljesül, hogy μ_{F} ((−∞, b)) = F (b) minden −∞ < b < ∞ számra, és μ_{F} (·) σ-additív halmazfüggvény a számegyenes Borel σ-algebráján.

Az előbb megfogalmazott Tétel B-ből és a mértékelmélet egy fontos eredményéből, a második előadás kiegészítésében ismertetett Carathéodory-féle kiterjesztési tételből az is következik, hogy az F (x) eloszlásfüggvény meghatározza a P ({ω: ξ(ω) ∈ B}) = F_{μ}(B) valószínűségeket minden Borel–mérhető B halmazra.

A Lemma bizonyítása: Mivel {ω: ξ(ω) < a} ⊂ {ω: ξ(ω) < b}, ha a < b, ezért P ({ω: ξ(ω) < a}) ≤ P ({ω: ξ(ω) < b}) ebben az esetben, és ez az a) tulajdonság.

Az a) tulajdonság érvényessége miatt a b) tulajdonság bizonyítása érdekében elég megmutatni azt, hogy ha h_{n}, n = 1, 2, …, olyan monoton csökkenő sorozat, amelyre lim_{n→∞} h_{n} = 0, akkor lim_{n→∞} F (x − h_{n}) = lim_{n→∞} P ({ω: ξ(ω) < x − h_{n}}) = F (x) =

P ({ω: ξ(ω) < x}). Ez viszont következik az ⋃_{n=1}^{∞}{ω: ξ(ω) < x − h_{n}} = {ω: ξ(ω) < x}

relációból és a valószínűségi mérték folytonosságából. A c) és d) tulajdonság bizonyítása hasonló.

A valószínűségi változók eloszlásának jellemzéséről szóló tétel bizonyítása a Tétel B segítségével: Tekintsük a következő (Ω, A, P) valószínűségi mezőt, Ω = R^{1}, a számegyenes, A = B, a számegyenes Borel mérhető halmazainak σ-algebrája, P = μ_{F}, a Borel mérhető halmazok σ-algebráján az F függvény által definiált Stieltjes mérték, amelynek létezését a Tétel B állítása fogalmazza meg. Legyen ξ(x) = x, azaz jelen példában az ω elemi események az x valós számok, és a ξ(x) valószínűségi változó az x helyen az x számmal egyenlő. Ekkor P ({ω: ξ(ω) < x}) = μ_{F} (u: u < x) = F (x) minden x számra. Ez azt jelenti, hogy a definiált ξ(ω) valószínűségi változó eloszlása az F (x) eloszlásfüggvény.

1. megjegyzés. Az előző bizonyítás egyetlen nehezebb lépése annak igazolása, hogy a konstruált μ_{F} halmazfüggvény (valószínűségi) mérték, azaz σ-additív. Megjegyzem, hogy ennek az állításnak a bizonyítása elkerülhetetlen. Ugyanis a Tétel B állítása könnyen levezethető a bizonyított eredményből.

2. megjegyzés. Felmerülhet a kérdés, hogy mi a jelentősége számunkra a valószínűségi változók eloszlásának jellemzéséről szóló tételnek. Ezen eredmény fontosságának oka a következő. Gyakran megfogalmazunk olyan feladatot, amelyben egy olyan valószínűségi változóról akarunk tudni valamit, amelyiknek az eloszlásfüggvényét egy képlettel megadtuk. Felmerülhet a kérdés, hogy értelmes feladatot fogalmaztunk-e meg, azaz létezik-e ilyen eloszlású valószínűségi változó. A valószínűségi változók eloszlásának jellemzéséről szóló tétel azt állítja, hogy amennyiben az általunk megadott képlet teljesít néhány olyan feltételt, amelyet minden eloszlásfüggvénynek teljesítenie kell, akkor ilyen valószínűségi változó létezik.

Feladat:

Lássuk be, hogy létezik olyan diszkrét eloszlású ξ valószínűségi változó, amelynek F (x) = P (ξ < x) eloszlásfüggvényére igaz, hogy minden −∞ < a < b < ∞ számpárra F (a) < F (b) szigorú egyenlőtlenséggel. Megoldás: Egy lehetséges konstrukció a következő. Legyen r_{1}, r_{2}, …, a racionális számok sorozata valamilyen sorrendben felsorolva. Definiáljunk olyan ξ valószínűségi változót, amelyre P (ξ = r_{j}) = 2^{−j}, j = 1, 2, . . .. Ekkor ξ diszkrét eloszlású valószínűségi változó, és ennek F (x) eloszlására F (b) − F (a) = P (a < ξ < b) > 0, mert P (a < ξ < b) > P (ξ = r_{j}) > 0, ahol r_{j} egy az [a, b] intervallum belsejében lévő racionális szám.

A következő témánk valószínűségi változók várható értékének a definiciója és legfontosabb tulajdonságai az általános esetben.

Valószínűségi változók várható értéke.

A valószínűségszámítás egy nagyon fontos fogalma a valószínűségi változók várható értéke. Ezt a fogalmat részletesen tárgyaltuk diszkrét eloszlású valószínűségi változók esetében. Az általános eset tárgyalása visszavezethető erre a speciális esetre alkalmas határátmenet segítségével. Ezt a határátmenet eljárást kissé általánosabb formában elvégezték a mértékelméletben az úgynevezett Lebesgue integrál bevezetésénél. A valószínűségszámítás tárgyalásában a várható érték vizsgálatát egyszerűen és gyorsan el tudják végezni, ha szabad használni a Lebesgue integrál fogalmát.

Ebben az előadásban a következő köztes megoldást választom. Elmagyarázom azt a képet, amely természetessé teszi a használt Lebesgue mérték definicióját, és szemléletesen megmutatom, hogy miért érvényesek a legfontosabb eredmények. A formális részletek kidolgozása viszont nem ennek az előadásnak a témája.

Valószínűségi változó várható értékének formális definiciója. Legyen ξ(ω) valószínűségi változó egy (Ω, A, P) valószínűségi mezőn. E valószínűségi változó várható értékét úgy definiáljuk, mint a ξ(ω) függvénynek az

Eξ(ω) = ∫ ξ(ω)dP (ω)

Lebesgue integrálját a P valószínűségi mérték szerint, feltéve, hogy ∫ |ξ(ω)|dP (ω) < ∞. Ha ez a feltétel nem teljesül, akkor nem definiáljuk a ξ valószínűségi változó várható értékét.

A következő Fontos Tétel-nek nevezett eredmény lehetővé teszi egy valószínűségi változó várható értékének kiszámítását csak a valószínűségi változó eloszlásfüggvényének az ismeretében.

Fontos Tétel. Legyen ξ(ω) valószínűségi változó egy (Ω, A, P) valószínűségi mezőn, amelynek F (x) az F (x) = P (ξ < x), −∞ < x < ∞, eloszlásfüggvénye. Ekkor

Eξ(ω) = ∫_{−∞}^{∞} xF ( dx),

ahol a fenti integrál Lebesgue–Stieltjes integrált jelöl az F mérték szerint. Ez a formula akkor érvényes, ha ∫_{−∞}^{∞} |x|F ( dx) < ∞. Ellenkező esetben az Eξ várható értéket nem definiáltuk.

Sőt, igaz a Fontos Tétel következő általánosítása.

A Fontos Tétel általánosítása. Legyen ξ(ω) valószínűségi változó egy (Ω, A, P) valószínűségi mezőn, amelynek F (x) az F (x) = P (ξ < x), −∞ < x < ∞, eloszlásfüggvénye. Legyen g(x) tetszőleges (mérhető) függvény a számegyenesen, és definiáljuk az η(ω) = g(ξ(ω)) valószínűségi változót. Ekkor

Eη(ω) = Eg(ξ(ω)) = ∫_{−∞}^{∞} g(x)F ( dx),

ahol a fenti integrál Lebesgue–Stieltjes integrált jelöl az F mérték szerint. Ez a formula akkor érvényes, ha ∫_{−∞}^{∞} |g(x)|F ( dx) < ∞. Ellenkező esetben az Eη várható értéket nem definiáltuk.

Megjegyzés: Az előbb megfogalmazott eredményekben szerepelt az ∫_{−∞}^{∞} |x|F ( dx) < ∞, illetve ∫_{−∞}^{∞} |g(x)|F ( dx) < ∞ feltétel. E feltételek természetes megfelelői annak a diszkrét valószínűségi változók esetében szereplő feltételnek, hogy egy diszkrét valószínűségi változó várható értékét definiáló összeg legyen abszolut konvergens.

A várható érték definiciójában szerepelt a Lebesgue integrál fogalma. Ennek a fogalomnak a jelentése némi magyarázatra szorul. Számunkra elég lesz egy olyan kép magyarázatként, amelyik szemléletesen megmutatja ennek értelmét. Ilyen magyarázatot adok az alábbiakban egy rövid kiegészítésben, amelyben nem törekszem teljességre. Külön érdemes megjegyezni, hogy maga az ∫ ξ(ω) P ( dω) integrál azon a valószínűségi mezőn van definiálva, ahol a ξ(ω) valószínűségi változó, (emlékezzünk, hogy egy valószínűségi változó egy valószínűségi mezőn értelmezett (mérhető) függvény) és maga az integrálás is az ezen a mezőn értelmezett téren létezik. Mégis a Fontos tételben, illetve annak általánosításában olyan eredményt fogalmaztam meg, amely lehetővé teszi egy ilyen integrál kiszámolását anélkül, hogy explicite megadnánk azt a valószínűségi mezőt, ahol dolgozunk. A tétel talán legfontosabb állítása az, hogy elég tudnunk a valószínűségi változó eloszlásfüggvényét, és akkor ki tudjuk számolni mind a valószínűségi változó, mind a valószínűségi változó egy tetszőleges függvényének a várható értékét.

Az itt szereplő integrál általánosabb, mint az analízisben tanult Riemann illetve Riemann–Stieltjes integrál. Viszont, ha az utóbbiak léteznek, akkor azok megegyeznek a minket érdeklő integrállal. Végül megjegyzem, hogy tanultuk korábban, hogyan lehet kiszámolni diszkrét eloszlású valószínűségi változók, illetve azok függvényeinek várható értékét. Ezt érdemes ideírni, hogy lássuk hasonlóságukat a Fontos Tétellel, illetve annak általánosításával. Valójában a korábban megfogalmazott állítások ezeknek az eredményeknek az általánosításai.

Legyen ξ diszkrét értékű valószínűségi változó, amely valamely x_{1}, x_{2}, …, valós értékeket vesznek fel. Ekkor

Eξ = ∑_{i} x_{i}P (ξ = x_{i})
Eg(ξ) = ∑_{i} g(x_{i})P (ξ = x_{i}),

feltéve, hogy a jobboldalon szereplő összegek abszolut konvergensek.

A Lebesgue integrál teljesíti a Riemann integrálra érvényes additivitási tulajdonság következő természetes általánosítását:

∫ (c_{1}ξ_{1}(ω) + c_{2}ξ_{2}(ω)) dP (ω) = c_{1} ∫ ξ_{1}(ω)dP (ω) + c_{2} ∫ ξ_{2}(ω)dP (ω)

minden (integrálható) ξ_{1} és ξ_{2} valószínűségi változóra és valós c_{1}, c_{2} számra. Ennek az azonosságnak a következménye (valójában átfogalmazása) a következő

Tétel. Ha két ξ_{1}, ξ_{2} valószínűségi változónak (amelyek ugyanazon a valószínűségi mezőn vannak definiálva) létezik várható értéke, c_{1} és c_{2} két valós szám, akkor a c_{1}ξ_{1} + c_{2}ξ_{2} kifejezésnek is létezik várható értéke, és

E (c_{1}ξ_{1} + c_{2}ξ_{2}) = c_{1}Eξ_{1} + c_{2}Eξ_{2}.

Megjegyzés: Ez az eredmény azt állítja, hogy az általános esetben is érvényes a diszkrét valószínűségi változókról szóló eredmény, amely véletlen összegek várható értékének additivitását fejezi ki. Ebben az esetben sem kell megkövetelni a valószínűségi változók (általános esetben még nem tárgyalt) függetlenségét. A fenti eredmény a várható értéknek eredeti definiciójából adódott, amely a várható értéket mint egy “absztrakt” Lebesgue integrált adta meg. Sokszor hasznosabb a várható érték eredeti definicója helyett azt a Fontos Tételnek nevezett eredményt, illetve annak általánosítását alkalmazni, amely lehetővé teszi egy valószínűségi változó várható értékének kiszámítását akkor is, ha csak a valószínűségi változó eloszlásfüggvényét ismerjük. Mégis, mint a fenti eredmény mutatja, néha érdemes az eredeti definicióra hivatkozni.

A várható érték (Lebesgue integrál formájában megadott definiciójából) könnyen látható, hogy ha egy ξ(ω) valószínűségi változóra teljesül a P (ξ(ω) ≥ 0) = 1 feltétel, akkor Eξ(ω) ≥ 0. Innen következik, hogy amennyiben két ξ(ω) és η(ω) valószínűségi változóra teljesül, hogy P (ξ(ω) ≥ η(ω)) ≥ 0, akkor Eξ(ω) ≥ Eη(ω). Valóban, ekkor Eξ(ω) − Eη(ω) = E (ξ(ω) − η(ω)) ≥ 0. Ennek az észrevételnek egyik következménye az alábbi Markov egyenlőtlenségnek nevezett állítás.

Markov egyenlőtlenség. Ha ξ(ω) nem negatív valószínűségi változó, azaz ha P (ξ(ω) ≥ 0) = 1, akkor

P (ξ(ω) ≥ x) ≤ \frac{Eξ(ω)}{x} minden x > 0 számra.

Bizonyítás: Definiáljuk a ξ valószínűségi változó alábbi η(ω) transzformáltját:

η(ω) = \{ \begin{matrix}x & ha ξ(ω) ≥ x \\ 0 & ha 0 ≤ ξ(ω) < x \end{matrix}

Ekkor P (ξ(ω) ≥ η(ω)) = 1, ezért Eξ(ω) ≥ Eη(ω) = xP (η(ω) ≥ x) = xP (ξ(ω) ≥ x), ahonnan következik az állítás.

Definiáljuk általános esetben is valószínűségi változók szórásnégyzetét.

Szórásnégyzet definiciója. Legyen ξ olyan valószínűségi változó, amelyre Eξ^{2} < ∞. Ekkor e valószínűségi változó szórásnégyzete

Var ξ = E (ξ − Eξ)^{2}

(Ha Eξ^{2} = ∞, akkor vagy nem definiáljuk a ξ valószínűségi változó szórásnégyzetét, vagy azt mondjuk, hogy Var ξ(ω) = ∞.

Lemma.

Var ξ = Eξ^{2} − (Eξ)^{2} .

Bizonyítás:

Var ξ = E (ξ − Eξ)^{2} = E (ξ^{2} − 2ξEξ + (Eξ)^{2}) = Eξ^{2} −2EξEξ +(Eξ)^{2} = Eξ^{2} −(Eξ)^{2} .

Megjegyzés: Az előző lemmából és a Var ξ ≥ 0 egyenlőtlenségből következik, hogy (Eξ)^{2} ≤ Eξ^{2}. Ennek az állításnak igaz a következő Cauchy–Schwarz egyenlőtlenségnek nevezett egyenlőtlenség: (Eξη)^{2} ≤ Eξ^{2}Eη^{2}. Sőt, ez az állítás érvényesebb az alábbi élesebb formában is: Adva egy (X, A, μ) mértéktér, azon két (mérhető) f(x) és g(x) függvény, x ∈ X, akkor (∫ f(x)g(x)μ( dx))^{2} ≤ ∫ f(x)^{2}μ( dx) ∫ g(x)^{2}μ( dx). Ez azt jelenti, hogy a fenti egyenlőtlenség érvényes tetszőleges (σ-véges) és nemcsak egyre normált, azaz valószínűségi mérték szerinti integrálra.

Bár a fenti egyenlőtlenségre nem lesz szükségünk később, és annak bizonyítását nem kell tudni a valószínűségszámítás vizsgán, mégis ismertetem annak bizonyítását, mivel az tanulságos. Ezt a bizonyítást megkaphatjuk az előző egyenlőtlenség bizonyításának a finomításával. Nevezetesen, tetszőleges λ valós számra felírhatjuk, hogy 0 ≤ ∫ (f(x) + λg(x))^{2}μ( dx) = λ^{2} ∫ g(x)^{2}μ( dx) + 2λ ∫ f(x)g(x)μ( dx) + ∫ f(x)^{2}μ( dx). Válasszuk a λ számot a fenti egyenlőtlenségben, mint λ = −^{\frac{∫ f(x)g(x)μ( dx)}{∫ g(x)^{2}μ( dx)}}. (Jegyezzük meg, hogy az

általánosság megszorítása nélkül feltehetjük, hogy ∫ g(x)^{2}μ( dx) > 0. Ellenkező esetben ugyanis ∫ g(x)^{2}μ( dx) = 0, ahonnan g(x) = 0 (majdnem) minden x ∈ X számra (a μ mérték szerint). A λ szám fenti választása nagyon természetes, mivel egy minden λ paraméterre érvényes, és mi azt a paramétert választottuk, ahol a tekintett másodfokú polinom felveszi a minimumát.) Ezzel a választással azt kapjuk, hogy

−\frac{(∫ f(x)g(x)μ( dx))^{2}}{∫ g(x)^{2}μ( dx)} + ∫ f(x)^{2}μ( dx) ≥ 0,

ami ekvivalens a Cauchy–Schwarz egyenlőtlenséggel.

Általában, a szórásnégyzet tulajdonságainak a bizonyítása csak a várható érték tulajdonságait használja. Ezért a diszkrét valószínűségi változók esetében érvényes

Var (aξ + b) = a^{2}Var ξ

azonosságot hasonlóan lehet bizonyítani az általános esetben.

Feladat:

Általános valószínűségi változók esetében is érvényes a

inf_{−∞<M<∞} E(ξ − M)^{2} = Var ξ

azonosság.

Megoldás: Az ötödik előadás 2. feladatában bebizonyítottuk ezt az állítást diszkrét eloszlású valószínűségi változókra. Az ott ismertetett megoldás változatás nélkül alkalmazható a most tárgyalt általános esetben is.

Megfogalmazom és bebizonyítom az alábbi Csebisev egyenlőtlenségnek nevezett állítást.

Csebisev egyenlőtlenség. Minden ξ valószínűségi változóra, amelyre Eξ^{2} < ∞

P (|ξ − Eξ| ≥ x) ≤ \frac{Var ξ}{x^{2}} minden x ≥ 0 számra.

Bizonyítás:

P (|ξ − Eξ| ≥ x) = P ((ξ − Eξ)^{2} ≥ x^{2}) ≤ \frac{E(ξ − Eξ)^{2}}{x^{2}} = \frac{Var ξ}{x^{2}}

a Markov egyenlőtlenség alapján.

Megjegyzés: A Csebisev egyenlőtlenség azért hasznos, mert a benne szereplő szórásnégyzet sok érdekes esetben könnyen kiszámolható. Felmerülhet az a kérdés, hogy a Csebisev egyenlőtlenség mennyire éles. Erre a kérdésre később még visszatérek.

A Fontos Tételnek nevezett eredményből, illetve annak általánosításából következik, hogy egy valószínűségi változónak, illetve egy valószínűségi változó függvényének a várható értékét ki lehet számítani csak a valószínűségi változó eloszlásfüggvényének az ismeretében.

Gyakorlati szempontból, annak érdekében, hogy a leggyakrabban előforduló esetekben jobban tudjunk számolni, érdemes bevezetni egy eloszlásfüggvény sűrűségfüggvényének a definicióját. Ez lehetővé teszi, hogy a problémákban felmerülő és sokszor kényelmetlenül kezelhető Lebesgue integrálokat átírjuk mint (közönséges) Riemann integrálokat. Ez lesz a következő előadás első témája. Ennek megértése érdekében érdemes feleleveníteni az analízisben tárgyalt Newton–Leibniz formuláról tanultakat.

Kiegészítés: A Lebesgue integrál fogalmáról

A Lebesgue integrál természetes definiciójában ezt az integrált először a legegyszerűbb függvények esetében definiáljuk természetes módon, majd ezt a definiciót kiterjesztjük általános függvényekre folytonossági meggondolások alapján. Ezt a következőképp tehetjük. Legyen adva egy (X, A, μ) mértéktér, azaz egy X alaphalmaz, kijelöljük annak bizonyos részhalmazait, amelyek σ-algebrát alkotnak, és μ σ-véges mérték az A σ-algebrán. (Egy mérték, azaz σ-additív halmazfüggvény akkor σ-véges,

ha létezik az X alaphalmaz X = ⋃_{j=1}^{∞} B_{j}, felbontása megszámlálhatóan sok olyan B_{j} hal-

mazra uniójára, amelyekre μ(B_{j}) < ∞.) Az (X, A, μ) téren értelmezett (mérhető) f(·) függvényeknek akkor definiáljuk a μ mérték szerinti integrálját, ha azok teljesítenek bizonyos feltételeket, és ezeket az integrálokat ∫ f(x)μ( dx) formában jelöljük. Jegyezzük meg, hogy egy valószínűségi mező speciális (X, A, μ) mértéktér. Bizonyos vizsgálatokban hasznos, ha figyelmünket nem korlátozzuk a valószínűségi mezőkön definiált függvények (azaz valószínűségi változók) integráljára.

Egy f(·) függvényt elemi függvénynek nevezünk, ha csak véges sok különböző

értéket vesz fel, azaz létezik véges sok olyan z_{1}, x_{2}, …, z_{k} szám úgy, hogy ⋃_{j=1}^{k}{x: f(x) =

z} = Ω. Ennek az elemi függvénynek az integrálját az

∫ f(x)μ( dx) = ∑_{j=1}^{k} z_{j}μ ({x: f(x) = z_{j}})

összeg definiálja. (Ez hasonló a diszkrét eloszlású függvények integráljának definiciójához. Az egyetlen különbség az, hogy itt csak véges sok értékeket felvevő függvényeket tekintünk, míg ott megengedtük azt is, hogy egy függvény megszámlálhatóan sok értéket vegyen fel. Definiálhattuk volna az elemi függvényeket is általánosbban, megengedhettük volna, hogy azok megszámlálható sok értéket vegyenek fel, de az itt tekintett definició technikailag kényelmesebb, és ennek használatával semmit sem veszítünk.) Ha adva van egy nem-negatív f(x) függvény az az (X, A, μ) mértéktéren, akkor azt közelíthetjük elemi f_{n}(x) elemi függvényekkel például a következő módon. Legyen f_{n}(x) = k2^{−n}, ha k2^{−n} ≤ x ≤ (k + 1)2^{−n}, k = 0, 1, …, 2^{2n}, és definiáljuk az f(x) függvény integrálját, az ∫ f(x)μ( dx) = lim_{n→∞} ∫ f_{n}(x)μ( dx) képlet segítségével. Egy általános (mérhető) f(x) függvény esetében definiáljuk annak pozitív és negatív részét, mint f_{+}(x) = max(0, f(x)), f_{−}(x) = min(0, f(x)), és ∫ f(x)μ( dx) = ∫ f_{+}(x)μ( dx) − ∫ (−f_{−}(x))μ( dx). Be lehet látni, hogy az előbb definiált integrál értelmes (például a felírt limesz valóban létezik, ha ∫ |f(x)|μ( dx) < ∞).

Felmerülhet a kérdés, mi a kapcsolat az így definiált integrál és az analízisben tanult Riemann és Riemann–Stieltjes integrál között, mik a Lebesgue integrál legfontosabb tulajdonságai.

A hagyományos analízis oktatásban az úgynevezett Riemann integrált vezetik be először. Egy [a, b] intervallumon értelmezett f(u) függvény ∫_{a}^{b} f(u) du integrálját úgy definiálják, hogy először alkalmas közelítő összegeket vezetnek be a következő módon. Felosztják az [a, b] intervallumot a = x_{0} < x_{1} < ⋯ < x_{n} = b osztópontok segítségével, amelyekre sup_{1≤k≤n}(x_{k} − x_{k−1}) kicsi, mindegyik [x_{k−1}, x_{k}] intervallumban kijelölnek egy

ξ_{k} ∈ [x_{k−1}, x_{k}] pontot, és a ∑_{k=1}^{n} f(ξ_{k})(x_{k} − x_{k−1}) közelítő összegeket tekintik. Az

∫_{a}^{b} f(u) du integrált úgy definiálják mint ezen integrálközelítő összegek határértékét, ha sup_{1≤k≤n}(x_{k} − x_{k−1}) nullához tart.

Egy f függvénynek valamely az [a, b] intervallumon megadott F (u) függvény szerinti ∫_{a}^{b} f(u)F ( du) Riemann–Stieltjes intergrálját hasonlóan definiálják. A különbség az, hogy most a közelítő összegekben az x_{k} − x_{k−1} megváltozásokat az F (·) függvény

F (x_{k}) − F (x_{k−1}) megváltozásaival helyettesítik, azaz a ∑_{k=1}^{n} f(ξ_{k}) (F (x_{k}) − F (x_{k−1}))

közelítőösszegeket, illetve azok határértékét tekintik. Kényelmi okok miatt egyszerűbb csak olyan felosztásokat tekinteni, amelyekben minden x_{k} osztópont az F (·) függvény folytonossági pontja.

A fenti definiciót a következő módon is interpretálhatjuk. Nevezzünk egy az [a, b] intervallumon értelmezett f(x) függvényt egyszerű vagy lépcsős függvénynek, ha létezik az [a, b] intervallumnak olyan a = x_{0} < x_{1} < ⋯ < x_{n} = b felosztása, amelyre az f(x) függvény konstans minden egyes [x_{k}, x_{k+1}) intervallumon, 0 ≤ k < n. Az ilyen

lépcsős függvények integrálját az ∫_{a}^{b} f(x) dx = ∑_{k=1}^{n} f(x_{k})(x_{k} −x_{k−1}), és ∫_{a}^{b} f(x)F ( dx) =

∑_{k=1}^{n} f(x_{k}) (F (x_{k}) − F (x_{k−1})) képletekkel definiáljuk. Az általánosabb függvények in-

tegrálját úgy definiáljuk, hogy közelítjük őket a fent leírt módon lépcsős függvényekkel, és a függvény integrálja a megfelelő lépcsős függvények integráljainak a limesze.

Tekintsük a számegyenest, rajta a B Borel σ-algebrát, és azon a Lebesque mértéket. Vegyük észre, hogy mind a Riemann mind a Lebesue integrál esetében először bizonyos elemi függvényeknek definiáljuk az integrálját alkalmas közelítő összegek segítségével, majd a definiciókat alkalmas határátmenet segítségével kiterjesztjük. Ezért nem meglepő, hogy abban az esetben, amikor mind a két integrál létezik, akkor azok megegyeznek.

Legyen F valamely monoton növekvő függvény az [a, b) intervallumon. A Lebesgue integrálhoz hasonlóan az ∫_{a}^{b} f(u)F ( du) Riemann–Stieltjes integrálnak megfelelő Lebesgue–Stieltjes integrált is definiálhatunk. Ebben az esetben is az (X, A, μ) teret úgy definiáljuk, hogy az X halmaz a számegyenes, (vagy esetleg annak egy részintervalluma, A a számegyenesen vagy az intervallumon bevezetett Borel σ-algebra. A definició teljessé tételéhez definiálni kell a μ mértéket. Ezt az [a, b) intervallumon vagy számegyenesen definiált F monoton növekvő függvény határozza meg.

A mértékelmélet egyik eredménye szerint az F függvény egyértelműen meghatároz az [a, b) intervallum Borel–mérhető halmazainak σ-algebráján egy olyan σ-additív μ_{F} az F függvény Stieltjes mértékének nevezett halmazfüggvényt, amelyre μ_{F} ([u, v)) = F (v) − F (u) minden a ≤ u < v ≤ b. A Lebesgue–Stieltjes integrál definiciójának legnehezebb lépése annak megmutatása, hogy ilyen módon egy mértéket azaz egy σadditív μ_{F} halmazfüggvényt definiálunk. Az ∫_{a}^{b} f(u)F ( du) Lebesue–Stieltjes integrál az ∫ f(x)μ( dx) Lebesgue integrál, ha az [a, b] intervallumon és a rajta tekintett Borel σ-algebrán az F függvény által meghatározott μ_{F} mértéket választjuk μ a mértéknek. A Riemann-Stieltjes és Lebesgue–Stieltjes integrálok megegyznek, ha mind a két integrál létezik.

Láttuk, hogy a Lebesgue és Riemann integrálok definiciójának a szelleme nagyon hasonló. Mind a két esetben először szép, egyszerű esetekben definiáljuk az integrált, majd határátmenet segítségével ezt a definiciót kiterjesztjük. A Lebesgue integrál definicióját nem nehezebb megérteni mint a Riemann integrálét. Annak fő oka, hogy az oktatásban a Riemann integrálok tárgyalására helyezik a hangsúlyt — bizonyos tudománytörténeti okokon kívül — az, hogy a Lebesgue integrálok felépítése szükségessé teszi σ-additív mértékek használatát, és ez elkerülhetetlenné tesz bizonyos nem-triviális mértékelméleti vizsgálatokat. A Lebesgue integrálok definiciójában, amikor egy halmaz nívóhalmazait tekintjük nem követeljük meg, hogy ezeknek a nívóhalmazoknak szép geometriai struktúrájuk legyen. Ennek következtében sokkal gazdagabb azon függvények osztálya amelyeknek definiálni tudjuk a Lebesgue integrálját. Ugyanis az integrál definiciójában szükséges határátmeneteketet a Lebesgue integrál definiciójában könnyebb végrehajtani mint a Riemann integráléban. Sőt a Lebesgue integrál definiciója — szemben a Riemann integráléval — nem kötődik a számegyenes geometriájához.

A Lebesgue integrál rendelkezik a Riemann integrálról tanult legfontosabb tulajdonságokkal. Így például lineáris operátor az integrálható függvények terén, azaz tetszőleges f és g (integrálható) függvényre valamint a és b számokra

∫ (af(x) + bg(x))μ( dx) = a ∫ f(x)μ( dx) + b ∫ g(x)μ( dx).

Bizonyos fontos, itt nem ismertetett eredmények (Lebesgue tétel, Beppo–Levy tétel Fatou lemma) arról szólnak, hogy konvergens függvénysorok esetén mikor cserélhető fel a limesz és integrálás sorrendje, azaz a lim ∫ f_{n}(x)μ( dx) = ∫ lim f_{n}(x)μ( dx) azonosság milyen feltételek mellett érvényes. A következő előadásban és általánosabban független valószínűségi változók vizsgálatában fontos szerepet játszik a következő alkalommal ismertetendő Fubini tétel, amely szerint egy szorzatmérték szerinti kétváltozós függvény integrálja szukcesszív integrálással is kiszámolható.

Végül megjegyzem, hogy a Fontos Tételnek illetve ezen eredmény általánosításának a bizonyítása viszonylag egyszerű, ha jól megértjük a Lebesgue integrál definicióját. A Fontos Tétel állítása szemléletesen, de kissé pongyolán fogalmazva azt jelenti, hogy egy (Ω, A, P) téren definiált ∫ g(ξ(ω)) dP (ω) integrál ‘átmásolható’ egy ∫ g(x)μ_{F} ( dx) integrállá az (R^{1}, B, μ_{F}) valószínűségi mezőn, ahol μ_{F} a ξ valószínűségi változó eloszlása által meghatározott μ_{F} Lebesgue–Stieltjes mérték. Ez az állítás könnyen látható g(x) lépcsősfüggvények esetében. Általános (mérhető) g(x) függvények jól közelíthetőek lépcsős függvényekkel, és ilyen módon az ∫ g(ξ(ω)) dP (ω) Lebesgue integrál olyan közelítő összegeit kapjuk, amelyek kifejezhetőek a ξ valószínűségi változó F (x) eloszlásfüggvényét tartalmazó összegek segítségével. Ez utóbbi összegek természetes közelítőösszegei az ∫ g(x)F ( dx) Lebesque–Stieltjes integrálnak. Ezután alkalmas határátmenet segítségével megkaphatjuk a Fontos Tétel általánosításának a bizonyítását.