A gyakorlaton tárgyalt feladatok elméleti hátteréről.

A gyakorlaton tárgyalt feladatok vizsgálatában nagyon fontos a függetlenség fogalmának, (mind az események mind a valószínűségi változók függetlenségének) az ismerete, illetve az e fogalmakhoz kapcsolódó eredmények használata. Ugyancsak fontos a várható érték és szórásnégyzet fogalmának az ismerete, illetve az, hogy az e mennyiségek kiszámításához szükséges eredményeket tudjuk jól használni. Valószínűségi változók függetlenéségét valamint ezek várható értékét és szórásnégyzetét egyszerűbb először diszkrét eloszlású valószínűségi változók esetén tárgyalni és csak azután térni rá az általános esetre. (Ezt a tárgyalási módot követi Fazekas István jegyzete is.) Egy másik, rövidebb tárgyalási mód, rögtön az általános eset ismertetése. Ezzel sok ismétlést el lehet kerülni. Ezt a hozzáállást követi az előadás is. Ugyanakkor fontos megérteni e tárgyalási mód esetén is at, hogy mit mondanak ki az általános eredmények abban a speciális esetben, ha diszkrét eloszlású valószínűségi változókat tekintünk. Az alábbiakban ismertetem a legfontosabb tudnivalókat.

Két esemény függetlenségének a definiciója. Azt mondjuk, hogy egy A és B esemény független, ha P (A ∩ B) = P (A)P (B).

Ez a definició azonban önmagában nem kielégítő számunkra. Beszélni akarunk több esemény függetlenségéről is. Ezért a következő definiciót is bevezetjűk.

Több esemény függetlenségének definiciója: Az A_{1}, …, A_{n} események akkor (teljesen) függetlenek, ha az {1, …, n} indexhalmaz minden {j_{1}, …, j_{k}} ⊂ {1, …, n} részhalmazára

P (A_{j_{1}} ∩ ⋯ ∩ A_{j_{k}}) = P (A_{j_{1}}) ⋯ P (A_{j_{k}}).

Események végtelen A_{1}, A_{2}, … sorozata akkor és csak akkor független, ha tetszőleges pozitív n egész számra az A_{1}, …, A_{n} események függetlenek.

Speciálisan n = 3 esetben ez a definició a következőt jelenti: Az A, B és C események akkor függetlenek, ha a következő azonosságok mindegyike teljesül:

P (A ∩ B) = P (A)P (B)
P (A ∩ C) = P (A)P (C)
P (B ∩ C) = P (B)P (C)
P (A ∩ B ∩ C) = P (A)P (B)P (C).

Bizonyos alkalmazásokban fontos a következő eredmény.

Lemma. Ha A_{1}, …, A_{n} független események, és bevezetjük az A_{j}^{1} = A_{j} és A_{j}^{−1} = Ω\A_{j} jelöléseket, akkor tetszőleges ε_{j} = ±1, 1 ≤ j ≤ n, sorozatra az A_{1}^{ε_{1}}, …, A_{n}^{ε_{n}} események függetlenek.

Vezessük be először diszkrét eloszlású valószínűségi változók fogalmát, majd azok eloszlását, függetlenségét.

Először felidézek néhány fontos eredményt (diszkrét eloszlású) valószínűségi változók illetve ilyen valószínűségi változók összegének a várható értékéről és szórásnégyzetéről.

Valószínűségi változó fogalma: Legyen adva egy (Ω, A, P) valószínűségi mező. Egy ezen a téren értelmezett valós értékű (mérhető) ξ(ω) függvényt valószínűségi változónak fogunk nevezni. Azaz ξ az Ω → R^{1} leképezés. Az a megkötés, hogy a függvény legyen mérhető azt jelenti, hogy minden x valós számra az {ω: ξ(ω) < x} ∈ A feltétel teljesül.

Időnként hasznos nemcsak valós értékű valószínűségi változóról beszélni, hanem kissé általánosabban olyan valószínűségi változókat definiálni, amelyek értékeiket egy általános téren veszik fel. (Például bizonyos esetekben érdemes olyan valószínűségi változókat tekinteni, amelyek értéke komplex szám, vagy nem egyetlen szám, hanem egy szám-n-es. Az ilyen valószínűségi változókat vektor értékűnek szokták hívni.) Annak érdekében, hogy ezt megtehessük tekintsünk valamilyen X halmazt, és e halmaz kitüntetett részhalmazainak X osztályát, amelyek σ-algebrát alkotnak. Egy az (Ω, A, P) valószínűségi mezőn definiált X térbeli értékeket felvevő (mérhető) függvényt X-tér értékű valószínűségi változónak nevezünk. Az, hogy ez a függvény mérhető azt jelenti, hogy minden Y ∈ X halmazra az {ω: ξ(ω) ∈ Y } ∈ A feltétel teljesül.

Diszkrét eloszlású valószínűségi változók és azok eloszlása. Egy ξ valószínűségi változót egy (Ω, A, P) valószínűségi mezőn diszkrétnek vagy diszkrét eloszlásúnak hívunk, ha megadható egy véges vagy megszámlálhatóan végtelen számosságú x_{1}, x_{2}, ⋯, halmaz úgy, hogy az {ω, ξ(ω) = x_{n}}, n = 1, 2, …, halmazok teljes eseményrendszert alkotnak. Egy diszkrét eloszlású valószínűségi változó eloszlását meghatározzák azok az x_{1}, x_{2}, …, értékek amelyeket az felvesz és a p_{n} = P (ξ = x_{n}) valószínűségek. (Jegyezzük meg, hogy

∑_{n} P (ξ = x_{n}) = 1.)

Legyenek ξ_{1}, …, ξ_{k} diszkrét eloszlású valószínűségi változók ugyanazon az (Ω, A, P) valószínűségi mezőn, amelyek valamilyen x_{1}, x_{2}, … értékeket vesznek fel. Ezek együttes eloszlását meghatározzák a P (ξ_{1} = x_{j_{1}}, ξ_{2} = x_{j_{2}}, …, ξ_{k} = x_{j_{k}}), j_{s} = 1, 2, …, 1 ≤ s ≤ k, valószínűségek.

Diszkrét eloszlású valószínűségi változók függetlensége. Legyenek ξ_{1}, …, ξ_{k} diszkrét eloszlású valószínűségi változók ugyanazon az (Ω, A, P) valószínűségi mezőn, amelyek valamilyen x_{1}, x_{2}, … értékeket vesznek fel. Azt mondjuk, hogy ezek az ξ_{1}, ξ_{2}, …, ξ_{k} valószínűségi változók függetlenek, ha

P (ξ_{1} = x_{j_{1}}, ξ_{2} = x_{j_{2}}, …, ξ_{k} = x_{j_{k}}) = P (ξ_{1} = x_{j_{1}}) P (ξ_{2} = x_{j_{2}}) ⋯ P (ξ_{k} = x_{j_{k}})

minden j_{s} = 1, 2, …, 1 ≤ s ≤ k, indexre.

Igazak a következő eredmények.

Lemma: Legyenek adva ξ_{1}, …, ξ_{k} független, diszkrét eloszlású valószínűségi változók egy (Ω, A, P) valószínűségi mezőn, amelyek valamilyen x_{1}, x_{2}, … értékeket vesznek fel. Legyenek A_{1} ⊂ {x_{1}, x_{2}, … }, A_{2} ⊂ {x_{1}, x_{2}, … }, …, A_{k} ⊂ {x_{1}, x_{2}, … } tetszőleges halmazok. Ekkor

P (ξ_{1} ∈ A_{1}, ξ_{2} ∈ A_{2}, …, ξ_{k} ∈ A_{k}) = P (ξ_{1} ∈ A_{1}) P (ξ_{2} ∈ A_{2}) ⋯ P (ξ_{k} ∈ A_{k}) .

Speciálisan, ekkor tetszőleges {j_{1}, …, j_{s}} ⊂ {1, …, k} indexhalmazra a ξ_{j_{1}}, …, ξ_{j_{s}} valószínűségi változók függetlenek.

Tétel: Legyenek adva ξ_{1}, …, ξ_{k} független, diszkrét eloszlású valószínűségi változók egy (Ω, A, P) valószínűségi mezőn, és legyenek h(x_{1}), …, h(x_{k}) tetszőleges függvények, amelyek a ξ_{1}, …, ξ_{k} valószínűségi változók értékkészletén vannak definiálva, ezért lehet az η_{1} = g_{1}(ξ_{1}), …, η_{k} = g_{k}(ξ_{k}) valószínűségi változókról beszélni. Ekkor η_{1}, …, η_{k} független valószínűségi változók.

Halmaz indikátorfüggvényének a definiciója. Legyen adva egy A ∈ A esemény egy (Ω, A, P) valószínűségi mezőn. Az A halmaz indikátorfüggvényén azt a χ_{A}(ω) valószínűségi változót értjük, amelyre χ_{A}(ω) = 1, ha ω ∈ A, és χ_{A}(ω) = 0, ha ω ∉ A.

Ezzel a jelöléssel a következő kapcsolatot létesíthetjük események és (diszkrét eloszlású) valószínűségi változók függetlensége között.

Lemma. Legyenek A_{1}, …, A_{k} események egy (Ω, A, P) valószínűségi mezőn. Az A_{1}, …, A_{k} események akkor és csak akkor függetlenek, ha azok χ_{A_{1}}(ω), …, χ_{A_{k}}(ω) indikátorfüggvényei függetlenek.

Rátérek a várható érték és szórásnégyzet tárgyalására.

Diszkrét eloszlású valószínűségi változó várható értéke. Legyen ξ diszkrét eloszlású valószínűségi változó, amely x_{1}, x_{2}, … értékeket vesz fel p_{k} = P (ξ = x_{k}) való-

színűséggel, k = 1, 2, …, ∑_{k=1}^{∞} P (ξ = x_{k}) = 1. A ξ valószínűségi változó várható értéke az

Eξ = ∑_{k=1}^{∞} x_{k}P (ξ = x_{k})

összeg, feltéve hogy ez az összeg abszolut konvergens. Ha ez az összeg nem abszolut konvergens, akkor nem definiáljuk az Eξ várható értéket.

Tétel. Legyenek ξ_{1}, ξ_{2} (diszkrét eloszlású) valószínűségi változók, amelyeknek létezik várható értékük. Ekkor a ξ_{1} + ξ_{2} összegnek is létezik várható értéke, és

E(ξ_{1} + ξ_{2}) = Eξ_{1} + Eξ_{2}.

Következmény. Legyenek adva ξ_{1}, ξ_{2}, …, ξ_{k} (diszkrét eloszlású) valószínűségi változók, amelyeknek létezik várható értékük, és legyenek c_{1}, …, c_{k} valós számok. Ekkor a c_{1}ξ_{1} + c_{2}ξ_{2} + ⋯ + c_{k}ξ_{k} valószínűségi változónak is létezik várható értéke, és

E (c_{1}ξ_{1} + c_{2}ξ_{2} + ⋯ + c_{k}ξ_{k}) = c_{1}Eξ_{1} + c_{2}Eξ_{2} + ⋯ + c_{k}Eξ_{k}.

Megjegyzés: A fenti tétel, illetve annak következménye érvényes általános, nem feltétlenül diszkrét eloszlású valószínűségi változók esetében is.

Fontos észrevétel: A fenti tételbem, illetve annak következményében nem tettük fel, hogy az összegben szereplő valószínűségi változók függetlenek. Ez azt jelenti, hogy valószínűségi változók összegének a várható értékét ki tudjuk számítani akkor is, ha csak az egyes összeadandók várható értékét tudjuk kiszámolni. Az, hogy az egyes összeadandók függetlenek-e vagy erősen függnek-e egymástól, nem befolyásolja összegük várható értékének a nagyságát.

Tétel. Legyen ξ diszkrét eloszlású valószínűségi változó, amely bizonyos x_{1}, x_{2}, … értéket vesz fel és g(x) valós függvény. Ekkor

Eg(ξ) = ∑_{j=1}^{∞} g(x_{j})P (ξ = x_{j}),

feltéve, hogy a ∑_{j=1}^{∞} g(x_{j})P (ξ = x_{j}) összeg abszolut konvergens.

Tétel. Legyenek ξ_{1}, ξ_{2}, …, ξ_{n} független, diszkrét eloszlású valószínűségi változók, amelyek mindegyikére létezik az Eξ_{j}, 1 ≤ j ≤ n, várható érték. Ekkor az Eξ_{1}ξ_{2} ⋯ ξ_{n} várható érték is létezik, és

Eξ_{1}ξ_{2} ⋯ ξ_{n} = Eξ_{1}Eξ_{2} ⋯ Eξ_{n}.

A szórásnégyzet definiciója: Legyen ξ olyan valószínűségi változó, amelyre Eξ^{2} < ∞. Ekkor a ξ valószínűségi változó szórásnégyzetét a

Var ξ = E (ξ − Eξ)^{2}

képlet definiálja. Ha Eξ^{2} = ∞ akkor a Var ξ szórásnégyzetet nem definiáljuk vagy azt mondjuk, hogy Var ξ = ∞.

Lemma.

Var ξ = Eξ^{2} − (Eξ)^{2}.

Lemma. Minden a és b valós számra

Var (aξ + b) = a^{2}Var ξ.

Tétel. Ha ξ_{1}, ξ_{2}, …, ξ_{n} független valószínűségi változók, akkor

Var (ξ_{1} + ξ_{2} + ⋯ + ξ_{n}) = Var ξ_{1} + Var ξ_{2} + ⋯ + Var ξ_{n}.

Megjegyzés: A fenti tétel fontos feltétele volt, hogy a tekintett összeg tagjai független valószínűségi változók. Ezt a feltételt lehet gyengíteni, de teljesen elhagyni nem lehet.

A kovarianciafüggvény definiciója. Legyen ξ és η két valószínűségi változó, amelyek mindegyikének létezik szórásnégyzete, azaz Eξ^{2} < ∞ és Eη^{2} < ∞. Ekkor a ξ és η kovariancifüggvényét Cov (ξ, η)-t a

Cov (ξ, η) = E [(ξ − Eξ)(η − Eη)]

kifejezés definiálja. Ha a Eξ^{2} < ∞ és Eη^{2} < ∞ feltételek valamelyike nem teljesül, akkor nem definiáljuk a Cov (ξ, η) kovariancifüggvényt.

Lemma.

Cov (ξ, η) = Eξη − EξEη.

Tétel. Ha ξ_{1}, …, ξ_{n} valószínűségi változók ugyanazon a valószínűségi mezőn, amelyek mindegyikének létezik szórásnégyzete, akkor

Var (∑_{j=1}^{n} ξ_{j}) = ∑_{j=1}^{n} Var ξ_{j} + 2 ∑_{1≤j<k≤n}(Eξ_{j}ξ_{k} − Eξ_{j}Eξ_{k})

= ∑_{j=1}^{n} Var ξ_{j} + 2 ∑_{1≤j<k≤n}(Cov (ξ_{j}, ξ_{k})

= ∑_{j=1}^{n} Var ξ_{j} + ∑_{1≤j,k≤n, j≠k}(Cov (ξ_{j}, ξ_{k}).

Bizonyítás.

Var (∑_{j=1}^{n} ξ_{j}) = E (∑_{j=1}^{n} ξ_{j})^{2}− (E ∑_{j=1}^{n} ξ_{j})^{2}= E (∑_{j=1}^{m} ∑_{k=1}^{n} ξ_{j}ξ_{k}) − (∑_{j=1}^{m} ∑_{k=1}^{n} Eξ_{j}Eξ_{k})

= (∑_{j=1}^{m} ∑_{k=1}^{n} Eξ_{j}ξ_{k}) − (∑_{j=1}^{m} ∑_{k=1}^{n} Eξ_{j}Eξ_{k})

= ∑_{j=1}^{n} (Eξ_{j}^{2} − (Eξ_{j})^{2}) + 2 ∑_{1≤j<k≤n}(Eξ_{j}ξ_{k} − Eξ_{j}Eξ_{k}).

és Eξ_{j}^{2} − (Eξ_{j})^{2} = Var ξ_{j}, Eξ_{j}ξ_{k} − Eξ_{j}Eξ_{k} = Cov (ξ_{j}, ξ_{k}).