További kiegészítő ismeretek.

Először felidézek egy eredményt arról, hogy hogyan lehet kiszámolni több diszkrét eloszlású valószínűségi változó függvényének a várható értékét. Ez hasznos lehet kovariancia (és korreláció) kiszámolásánál.

Tétel két valószínűségi változó függvényének a várható értékéről és annak kiszámolásáról. Legyen adva két ξ és η diszkrét eloszlású valószínűségi változó, amelyeknek ismerjük az együttes eloszlásfüggvényét. Nevezetesen vegyenek fel a ξ és η valószínűségi változók valamely x_{1}, …, x_{m} illetve y_{1}, …, y_{n} értékeket, és legyen P (ξ =

x_{j}, η = y_{k}) = p_{j,k}, 1 ≤ j ≤ m, 1 ≤ k ≤ n, ∑_{j=1}^{m} ∑_{k=1}^{n} p_{j,k} = 1. Legyen adva valamely két

változós f(x, y) függvény, és tekintsük az f(ξ, η) valószínűségi változó várható értékét. Az

Ef(ξ, η) = ∑_{j=1}^{m} ∑_{k=1}^{n} f(x_{j}, y_{k})P (ξ = x_{j}, η = y_{k})

azonosság érvényes. Speciálisan, ha a ξ és η valószínűségi változók által felvett x_{1}, …, x_{m} és y_{1}, …, y_{n} értékek valós számok, akkor

Eξη = ∑_{j=1}^{m} ∑_{k=1}^{n} x_{j}y_{k}P (ξ = x_{j}, η = y_{k}).

(Hasonló képlet érvényes több valószínűségi változó függvényének a várható értékéről is, de ezt nem fogalmazom meg, mert nem lesz rá szükségünk.)

Fontos megtanulni, hogyan lehet kiszámítani általános valószínűségi változók várható értékét és szórásnégyzetét. Ilyen jellegű feladatokat fogunk tárgyalni. De ennek érdekében először meg kell értenünk néhány fontos fogalmat illetve néhány fontos eredmény jelentését. Ezért felelevenítek bizonyos az előadáson már tárgyalt fontos ismeretet. A várható érték tárgyalása előtt meg kell ismernünk az eloszlásfüggvény fogalmát. Meg kell értenünk azt, hogy hogyan tudjuk kiszámolni a várható értéket az eloszlásfüggvény segítségével. Később rátérünk a sűrűségfüggvény fogalmának ismertetésére is, és arra, hogy hogyan tudjuk kiszámolni a várható értéket a sűrűségfüggvény ismeretében.

Valószínűségi változó eloszlásfüggvényének a definiciója. Legyen adva egy ξ(ω) (valós értékű) valószínűségi változó egy (Ω, A, P) valószínűségi mezőn. Ennek F (x) eloszlásfüggvényén az F (x) = P ({ω: ξ(ω) < x}), −∞ < x < ∞, függvényt értjük.

Tétel. Legyen ξ(ω) valószínűségi változó egy (Ω, A, P) valószínűségi mezőn, és legyen F (x) = P ({ω: ξ(ω) < x}), −∞ < x < ∞, e valószínűségi változó eloszlásfüggvénye. Az F (x) eloszlásfüggvény teljesíti a következő tulajdonságokat.

a) F (x) monoton növekvő függvény.

b) F (x) balról folytonos függvény, azaz lim_{h→0, h>0} F (x − h) = F (x) minden −∞ < x <

∞ számra.

c) lim_{x→∞} F (x) = 1.

d) lim_{x→−∞} F (x) = 0.

Megfordítva, ha egy F (x) függvény teljesíti az előbb megfogalmazott a)—d) tulajdonságokat, akkor az eloszlásfüggvény. Részletesebben megfogalmazva ez azt jelenti, hogy ha az F (x) függvény teljesíti az a)—d) feltételeket, akkor létezik egy (Ω, A, P) valószínűségi mező, és azon olyan ξ(ω) valószínűségi változó, amelynek az eloszlásfüggvénye ez az F (x) függvény.

Megjegyzés. Egy ξ valószínűségi változó F (x) = P (ξ < x) eloszlásfüggvénye meghatározza sok egyéb esemény valószínűségét is. Így például P (a ≤ ξ < b) = P (ξ < b)−P (ξ <

a) = F (b) − F (a), P (a ≤ ξ ≤ b) = lim_{ε→0} P (a ≤ ξ ≤ b + ε) = lim_{ε→0} F (b + ε) − F (a) =

F (b+0)−F (a). Be lehet látni, hogy a számegyenes minden szép (azaz Borel mérhető) B részhalmazára a ξ valószínűségi változó F (x) eloszlásfüggvényemeghatározza a P (ξ ∈ B) valószínűséget. Ezt a tényt úgy is interpretálhatjuk, hogy egy valószínűségi változó eloszlásfüggvénye teljes információt ad a valószínűségi változó viselkedéséről.

Valószínűségi változó várható értékének formális definiciója. Legyen ξ(ω) valószínűségi változó egy (Ω, A, P) valószínűségi mezőn. E valószínűségi változó várható értékét úgy definiáljuk, mint a ξ(ω) függvénynek az

Eξ(ω) = ∫ ξ(ω)dP (ω)

Lebesgue integrálját a P valószínűségi mérték szerint, feltéve, hogy ∫ |ξ(ω)|dP (ω) < ∞. Ha ez a feltétel nem teljesül, akkor nem definiáljuk a ξ valószínűségi változó várható értékét.

A Lebesgue integrál fogalmának pontos ismerete nem szükséges a továbbiak megértéséhez és a tárgyalt feladatok megoldásához. Érdemes megjegyezni, hogy ez egy a valószínűségi mezőn értelmezett függvénynek azaz valószínűségi változónak a valószínűségi mezőn definiált valószínűségi mérték szerinti integrálja. Ez az integrálfogalom hasonló a tanult Lebesgue integrál fogalmához. Először egyszerű (véges sok értéket felvevő) függvények integrálát definiáljuk természetes módon, majd természetes határátmenet segítségével ezt az integrált értelmezzük általános függvények esetén is. A defició fogalmilag nem nehéz, de a részletes elmélet kidolgozása mély mértékelméleti eredmények ismeretét igényli. Erre nem lesz szükségünk, viszont nagyon fontos tudni, hogy noha a várható érték fogalmát a valószínűségi mező és a rajta definiált valószínűségi változó és valószínűségi mérték segítségével definiáltuk, ahhoz, hogy kiszámoljuk elegendő a valószínűségi változó eloszlásának az ismerete. Ezt az alábbi jelentősége miatt fontos tételnek nevezett eredmény segítségével tehetjük meg.

Fontos Tétel. Legyen ξ(ω) valószínűségi változó egy (Ω, A, P) valószínűségi mezőn, amelynek F (x) az F (x) = P (ξ < x), −∞ < x < ∞, eloszlásfüggvénye. Ekkor

Eξ(ω) = ∫_{−∞}^{∞} xF ( dx),

ahol a fenti integrál Lebesgue–Stieltjes integrált jelöl az F mérték szerint. Ez a formula akkor érvényes, ha ∫_{−∞}^{∞} |x|F ( dx) < ∞. Ellenkező esetben az Eξ várható értéket nem definiáltuk.

Sőt, igaz a Fontos Tétel következő általánosítása.

A Fontos Tétel általánosítása. Legyen ξ(ω) valószínűségi változó egy (Ω, A, P) valószínűségi mezőn, amelynek F (x) az F (x) = P (ξ < x), −∞ < x < ∞, eloszlásfüggvénye. Legyen g(x) tetszőleges (mérhető) függvény a számegyenesen, és definiáljuk az η(ω) = g(ξ(ω)) valószínűségi változót. Ekkor

Eη(ω) = Eg(ξ(ω)) = ∫_{−∞}^{∞} g(x)F ( dx),

ahol a fenti integrál Lebesgue–Stieltjes integrált jelöl az F mérték szerint. Ez a formula akkor érvényes, ha ∫_{−∞}^{∞} |g(x)|F ( dx) < ∞. Ellenkező esetben az Eη várható értéket nem definiáltuk.

Tétel. Ha két ξ_{1}, ξ_{2} valószínűségi változónak (amelyek ugyanazon a valószínűségi mezőn vannak definiálva) létezik várható értéke, c_{1} és c_{2} két valós szám, akkor a c_{1}ξ_{1} + c_{2}ξ_{2} kifejezésnek is létezik várható értéke, és

E (c_{1}ξ_{1} + c_{2}ξ_{2}) = c_{1}Eξ_{1} + c_{2}Eξ_{2}.

Szórásnégyzet definiciója. Legyen ξ olyan valószínűségi változó, amelyre Eξ^{2} < ∞. Ekkor e valószínűségi változó szórásnégyzete

Var ξ = E (ξ − Eξ)^{2}

(Ha Eξ^{2} = ∞, akkor vagy nem definiáljuk a ξ valószínűségi változó szórásnégyzetét, vagy azt mondjuk, hogy Var ξ(ω) = ∞.)

Lemma.

Var ξ = Eξ^{2} − (Eξ)^{2} .

Sűrűségfüggvény definiciója. Egy F (x) eloszlásfüggvénynek az f(u), −∞ < u < ∞, függvény sűrűségfüggvénye, ha minden −∞ < x < ∞ számra teljesül az

F (x) = ∫_{−∞}^{x} f(u) du

azonosság.

Megjegyzés: Többször fogunk beszélni egy valószínűségi változó sűrűségfüggvényéről is. Ez azt jelenti, hogy e valószínűségi változó eloszlásfüggvényének a sűrűségfüggvényét tekintjük. Sok érdekes és fontos eloszlásfüggvénynek létezik sűrűségfüggvénye, de nem mindegyiknek. Például egy diszkrét eloszlású valószínűségi változónak nincs sűrűségfüggvénye.

Tétel. Ha egy F (x) eloszlásfüggvénynek létezik f(u) sűrűségfüggvénye, akkor ez teljesíti minden g(·) függvényre a következő azonosságot:

∫_{−∞}^{∞} g(u)F ( du) = ∫_{−∞}^{∞} g(u)f(u) du.

Newton–Leibniz formula. Legyen F (x) folytonos függvény egy [a, b] véges intervallumon, amely véges sok pont kivételével folytonosan deriválható. Legyen f(u) =

\frac{dF (x)}{dx}|_{x=u} minden pontban, ahol az F (·) differenciálható. Ekkor F (x) − F (a) =

∫_{a}^{x} f(u) du minden a ≤ x ≤ b számra. Továbbá, ha a fenti feltétel teljesül minden véges [a, b] intervallumban, és létezik a F (−∞) = lim_{x→−∞} F (x) határérték, akkor

F (x) − F (−∞) = ∫_{−∞}^{x} f(u) du minden −∞ < x < ∞ számra.

Megfordítva, ha f(u), (pontosabban annak abszolut értéke) integrálható függvény

egy [a, b] intervallumban, és F (x) = ∫_{a}^{x} f(u) du, a ≤ x ≤ b, akkor f(u) = \frac{dF (x)}{dx}|_{x=u}

(majdnem) minden a ≤ u ≤ b pontban. Ha az f(u) függvény integrálható az egész számegyenesen, akkor a fenti állítás igaz a = −∞ választással is.

Megjegyzés: A Newton–Leibniz formula jelentősége számunkra az, hogy eszerint az eredmény szerint a sűrűségfüggvény (feltéve, hogy az létezik) egyenlő az eloszlásfüggvény deriváltjával. Megfordítva, a sűrűségfüggvény ismeretében meg tudjuk határozni az eloszlásfüggvényt. Annak értéke az x pontban megegyezik a sűrűségfüggvény integráljával a [−∞, x] intervallumban.

Számunkra a Newton–Leibniz formulának az alábbi következménye lesz fontos.

Newton–Leibniz formula következménye. Legyen ξ olyan valószínűségi változó, amelynek nemcsak F (x) eloszlás hanem f(x) sűrűségfüggvénye is létezik. Ha ismerjük az F (x) eloszlás f(x) és sűrűségfüggvény egyikét, akkor a másik a következő képlet segítségével számolható ki.

f(x) = \frac{dF (x)}{dx},  F (x) = ∫_{−∞}^{x} f(u) du,  −∞ < x < ∞.

Ha a ξ valószínűségi változó eloszlásfüggvénye minden pontban folytonos, és esetleg véges sok pont kivételével deriválható is, akkor a ξ valószínűségi változónak létezik sűrűségfüggvénye is.

Tétel. Egy f(·) (mérhető) függvény akkor és csak akkor sűrűségfüggvénye egy alkalmas eloszlásfüggvénynek, ha f(u) ≥ 0 majdnem minden −∞ < u < ∞ számra, és ∫_{−∞}^{∞} f(u) du = 1.

Tétel. Jelölje F (·) illetve f(·) egy ξ valószínűségi változó eloszlás illetve sűrűségfüggvényét. Legyen g(·) mérhető függvény a számegyenesen. Ekkor

Eξ = ∫_{−∞}^{∞} uF ( du) = ∫_{−∞}^{∞} uf(u) du

és

Eg(ξ) = ∫_{−∞}^{∞} g(u)F ( du) = ∫_{−∞}^{∞} g(u)f(u) du.

Néhány fontos folytonos eloszlás.

a.) Normális eloszlásfüggvény.

Bevezetjük a standard normális eloszlásfüggvény definicióját. Későbbi eredményekből fog kiderülni, hogy ez az eloszlás miért játszik fontos szerepet a valószínűségszámításban.

A standard normális eloszlás definiciója. A Φ(x) standard normális eloszlás az az eloszlás, amelynek sűrűségfüggvénye a φ(u) = \frac{1}{\sqrt{2π}} e^{−u^{2}/2}, −∞ < u < ∞, függvény.

E definició helyességének igazolásához meg kell mutatni, hogy a fent definiált φ(·) függvény valóban sűrűségfüggvény. Ennek érdekében be kell bizonyítani a következő eredményt.

Tétel.

∫_{−∞}^{∞} \frac{1}{\sqrt{2π}} e^{−u^{2}/2} du = 1.

Normális eloszlásfüggvény definiciója: Legyen ξ standard normális eloszlású valószínűségi változó. Ekkor az η = σξ + m valószínűségi változó, (illetve egy vele azonos eloszlású valószínűségi változó) normális eloszlású valószínűségi változó m és σ^{2} paraméterrel. (Később meg fogjuk tárgyalni, hogy m az η valószínűségi változó várható értéke és σ^{2} a szórásnégyzete.)

Egyenletes eloszlásfüggvény definiciója. Egy ξ valószínűségi változó egyenletes eloszlású egy [a, b] intervallumban, −∞ < a < b < ∞, ha sűrűségfüggvénye f(u) = \frac{1}{b−a}, ha a ≤ u ≤ b, és f(u) = 0 egyébként.

Exponenciális eloszlásfüggvény definiciója. Egy ξ valószínűségi változó exponenciális eloszlású λ paraméterrel, λ > 0, ha eloszlásfüggvénye, F (x) = P (ξ < x) = 1 − e^{−λx}, ha x ≥ 0, és F (x) = P (ξ < x) = 0, ha x < 0. Ezzel ekvivalens jellemzés: Egy valószínűségi változó exponenciális eloszlású λ > 0 paraméterrel, ha létezik f(u) sűrűségfüggvénye, és az f(u) = λe^{−λu}, ha u ≥ 0, f(u) = 0, ha u ≤ 0 alakú.

Többdimenziós eloszlásfüggvény definiciója. Legyen adva k valós értékű ξ_{1}, …, ξ_{k} valószínűségi változó egy (Ω, A, P) valószínűségi mezőn. Ezek (együttes) eloszlásfüggvénye az

F (x_{1}, …, x_{k}) = P (ξ_{1} < x_{1}, …, ξ_{k} < x_{k}),

k változós függvény, ahol −∞ < x_{j} < ∞ minden 1 ≤ j ≤ k indexre.

Hasonlóan az egyváltozós eloszlásfüggvényekhez hasonlóan lehet jellemezni a többdimenziós eloszlásfüggvényeket is. Erről szól a következő tétel.

Tétel. Egy F (u_{1}, …, u_{k}) függvény akkor és csak akkor eloszlásfüggvénye alkalmas ξ_{1}, …, ξ_{k} valószínűségi változóknak valamely (Ω, A, P) valószínűségi mezőn, ha ez az F függvény teljesíti a következő (i)—(iv) tulajdonságokat.

(i) F (u_{1}, …, u_{k}) minden változójának balról folytonos függvénye.

(ii) lim_{u_{j}→∞ minden j=1,...,k számra} F (u_{1}, …, u_{k}) = 1.

(iii) lim_{u_{j}→−∞ valamely 1≤j≤k számrra} F (u_{1}, …, u_{k}) = 0. (Ez úgy értendő, hogy az összes u_{s},

1 ≤ s ≤ k, s ≠ j koordinátát rögzítjük, és u_{j} → −∞.)

Végül definiáljuk egy az R^{k} téren definiált F függvényre és egy K = [a_{1}, b_{1}) × ⋯ × [a_{k}, b_{k}) téglatestre a

μ(K) = μ_{F} (K) = ∑_{\begin{matrix}u_{j}= a_{j} vagy b_{j} \\ j=1,...,k \end{matrix}}(−1)^{χ(u_{1},...,u_{k})}F (u_{1}, …, u_{k})

mennyiséget, ahol χ(u_{1}, …, u_{k}) jelöli az a_{j}-k számát az u_{1}, …, u_{k} sorozatban. Ekkor

(iv) μ_{F} (K) ≥ 0 minden K téglatestre.

Hasonlóan az egydimenziós eloszlás sűrűségfüggvényéhez definiálhatjuk a többdimenziós eloszlás sűrűségfüggvényét is. Az egyváltozós esethez hasonlóan ennek is megadhatjuk a jellemzését. Erről szól az alábbi definició és tétel.

Több-dimenziós eloszlásfüggvény sűrűségfüggvényének definiciója. Azt mondjuk, hogy egy F (x_{1}, …, x_{k}) többváltozós eloszlásfüggvénynek létezik f(u_{1}, …, u_{k}) sűrűségfüggvénye, ha teljesül az

F (x_{1}, …, x_{k}) = ∫_{−∞}^{x_{1}} ⋯ ∫_{−∞}^{x_{k}} f(u_{1}, …, u_{k}) du_{1} … du_{k}

azonosság minden −∞ < x_{j} < ∞, 1 ≤ j ≤ k számra.

Tétel. Egy k-változós f(u_{1}, …, u_{k}) függvény akkor és csak akkor sűrűségfüggvénye egy alkalmas k-dimenziós eloszlásfüggvénynek, ha f(u_{1}, …, u_{k}) ≥ 0 majdnem minden (u_{1}, …, u_{k}) pontban, és

∫_{−∞}^{∞} ⋯ ∫_{−∞}^{∞} f(u_{1}, …, u_{k}) du_{1} … du_{k} = 1.

A többdimenziós eloszlásfüggvény fogalmának a segítségével definiálhatjuk valószínűségi változók függetlenségét az általános esetben is. Kimondok egy a független valószínűségi változók fontos tulajdonságát kimondó tételt. Hangsúlyozom, hogy korábban csak diszkrét eloszlású valószínűségi változók függetlenségéről beszéltünk. Hasznos megérteni a két fogalom kapcsolatát is. Ebben is segít az alább ismertetett tétel.

Valószínűségi változók függetlenségének a definiciója. Legyenek ξ_{1}, …, ξ_{n} valószínűségi változók egy (Ω, A, P) valószínűségi mezőn. Azt mondjuk, hogy ezek a valószínűségi változók függetlenek, ha minden x_{1}, …, x_{n} valós számra

P (ξ_{1} < x_{1}, …, ξ_{n} < x_{n}) = P (ξ_{1} < x_{1}) ⋯ P (ξ_{n} < x_{n}).

Tétel. Legyenek ξ_{1}, …, ξ_{k} független valószínűségi változók, B_{1}, …, B_{k} a számegyenes Borel mérhető részhalmazai. Ekkor

P (ξ_{1} ∈ B_{1}, …, ξ_{k} ∈ B_{k}) = P (ξ_{1} ∈ B_{1}) ⋯ P (ξ_{k} ∈ B_{k}).

Ugyancsak fontos a következő eredmény, amely független valószínűségi változók szorzatának a várható értékéről szól. Korábban ennek az eredménynek csak a független, diszkrét eloszlású valószínűségi változók szorzatáról szóló speciális esetét tárgyaltuk.

Tétel. Legyenek ξ_{1}, …, ξ_{k} független valószínűségi változók, amelyek mindegyikének létezik várható értéke, azaz E|ξ_{j}| < ∞. Ekkor a ξ_{1} ⋯ ξ_{k} szorzatnak is létezik várható értéke, és

Eξ_{1} ⋯ ξ_{k} = Eξ_{1} ⋯ Eξ_{k}.

További hasznos eredmények:

Tétel. Ha ξ_{1}, …, ξ_{k} független valószínűségi változók, h_{1}(x), …, h_{k}(x) tetszőleges (mérhető) függvények, akkor η_{1} = h_{1}(ξ_{1}), …, η_{k} = h_{k}(ξ_{k}) szintén független valószínűségi változók.

Tétel. Ha ξ_{1}, …, ξ_{k} független valószínűségi változók, c_{1}, …, c_{k} tetszőleges valós számok, akkor

Var (c_{1}ξ_{1} + ⋯ + c_{k}ξ_{k}) = c_{1}^{2}Var ξ_{1} + ⋯ + c_{k}^{2}Var ξ_{k}.

Tétel. Legyenek ξ_{j}, 1 ≤ j ≤ k, valószínűségi változók ugyanazon a valószínűségi mezőn, amelyekre teljesül Eξ_{j}^{2} < ∞ feltétel. Ekkor

Var (∑_{j=1}^{k} ξ_{j}) = ∑_{j=1}^{k} Var ξ_{j} + ∑_{\begin{matrix}1≤j,l≤k \\ j≠l \end{matrix}} Cov (ξ_{j}, ξ_{l}) = ∑_{j=1}^{k} Var ξ_{j} + 2 ∑_{j=1}^{k−1} ∑_{l=j+1}^{k} Cov (ξ_{j}, ξ_{l}).

Speciálisan, ha a ξ_{j} valószínűségi változók függetlenek, akkor

Var (∑_{j=1}^{k} ξ_{j}) = ∑_{j=1}^{k} Var ξ_{j}.

Az alábbi eredmény szintén fontos a valószínűségszámításban, de időhiány miatt valószínűleg nem tudjuk tárgyalni, és lehet, hogy ugyancsak időhiány miatt az előadáson sem kerül sor ennek tárgyalására. A biztonság kedvéért mégis közlöm.

Tétel független valószínűségi változók összegének a sűrűségfüggvényéről. Legyen ξ és η két független valószínűségi változó f(·) és g(·) sűrűségfüggvénnyel. Ekkor a ξ + η összegnek is létezik sűrűségfüggvénye, és az az

f ∗ g(x) = ∫_{−∞}^{∞} f(u)g(x − u) du, −∞ < x < ∞,

függvény.