A szeptember 26-i gyakorlat témája Rövid összefoglaló

Először felidéztünk néhány fontos tényt valószínűségi változók függetlenségével kapcsolatban:

1. Tétel. Ha ξ_{1}, …, ξ_{n} független valószínűségi változók, akkor szorzatuk várható értéke megegyezik az egyes változók várható értékének szorzatával. Azaz, képletben kifejezve

Eξ_{1}ξ_{2} ⋯ ξ_{n} = Eξ_{1} Eξ_{2} ⋯ Eξ_{n}

Valójában némi megszorítást kell tennünk a fenti tételben. Tegyük fel, hogy E|ξ_{s}| < ∞ minden 1 ≤ s ≤ n esetén. Ez a feltétel biztosítja, hogy nem lép fel konvergencia (értelmezési) probléma az 1. tételben.

2. Tétel. Ha ξ_{1}, …, ξ_{n} független valószínűségi változók, g_{1}(x), …, g_{n}(x) (mérhető) függvények, akkor az η_{1} = g(ξ_{1}), …, η_{n} = g(ξ_{n}) valószínűségi változók is függetlenek.

Kissé általánosabban: Legyenek

ξ_{1}, …, ξ_{l_{1}}, ξ_{l_{1}+1} …, ξ_{l_{1}+l_{2}} …, ξ_{l_{1}+···+l_{k−1}+1}, …, ξ_{l_{1}+···+l_{k}}

független valószínűségi változók, ahol l_{1}, …, l_{k} pozitív egész számok. Ha g_{s}(x_{1}, …, x_{l_{s}}), 1 ≤ s ≤ k (mérhető) az R^{l_{s}} l_{s} dimenziós Euklidesi téren értelmezett függvények, akkor az η_{s} = g_{s}(ξ_{l_{s−1}+1}, …, ξ_{l_{s}}), 1 ≤ s ≤ k, (l_{0} = 0) valószínűségi változók függetlenek.

Következmény: Ha ξ_{1}, …, ξ_{n} független valószínűségi változók, és g_{1}(x), …, g_{n}(x) (mérhető) függvények a számegyenesen, akkor

Eg_{1}(ξ_{1}) ⋯ g_{n}(ξ_{n}) = Eg_{1}(ξ_{1}) ⋯ Eg_{n}(ξ_{n}).

Valóban, a 2. tétel eredménye alapján az η_{s} = g(ξ_{s}), 1 ≤ s ≤ k valószínűségi változók függetlenek, és a 2. tételt alkalmazva az η_{s}, 1 ≤ s ≤ k valószínűségi változókra megkapjuk a Következmény állítását.

Adva egy A esemény (azaz halmaz) egy (Ω, A, P) valószínűségi mezőn, vezessük be ennek az A halmaznak χ_{A} = χ_{A}(ω) indikátor függvényét a

χ_{A} = χ_{A}(ω) = \{ \begin{matrix}1, & ha ω ∈ A \\ 0, & ha ω ∉ A \end{matrix}

képlet segítségével.

Állítás: Legyenek adva valamilyen A_{1}, …, A_{n} események egy (Ω, A, P) valószínűségi mezőn. Az A_{1}, …, A_{n} események akkor és csak akkor függetlenek, ha ezek χ_{A_{1}}, …, χ_{A_{n}} indikátor függvényei független valószínűségi változók.

Tétel. Legyen adva egy F (x) = P (ξ < x) eloszásfüggvényű ξ valószínűségi változó, g(x) egy valós értékű függvény. Ekkor a g(ξ) valószínűségi változő Eg(ξ) várható értéke kiszámítható az

Eg(ξ) = ∫ g(x)F ( dx) = ∫ g(x)f(x) dx ha ξ-nek létezik f(x) sűrűségfüggvénye.

képlet segítségével. Ha a ξ valószínűségi változó diszkrét eloszlású, azaz létezik legfeljebb

megszámlálható sok x_{1}, x_{2}, … pont úgy, hogy ∑_{k=1}^{∞} P (ξ = x_{k}) = 1, akkor

Eg(ξ) = ∑_{k=1}^{∞} g(x_{k})P (ξ = x_{k}).

Számoljuk ki a fenti képlet segítségével néhány fontos eloszlás momentumait. A

standard normális eloszlás az az eloszlás, melynek sűrűségfüggvénye f(x) = \frac{1}{\sqrt{2π}} e^{−x^{2}/2}.

E definició helyességéhez tudnuk kell, hogy

Tétel.

∫_{−∞}^{∞} \frac{1}{\sqrt{2π}} e^{−x^{2}/2} dx = 1.

Emlékeztetőül, ennek oka, ha I = ∫_{−∞}^{∞} \frac{1}{\sqrt{2π}} e^{−x^{2}/2} dx, akkor

I^{2} = ∫_{−∞}^{∞} ∫_{−∞}^{∞} \frac{1}{2π} e^{−(x^{2}+y^{2})/2} dx dy

= ∫_{0}^{2π} ∫_{0}^{∞} \frac{1}{2π} re^{−r^{2}} dr dφ = ∫_{0}^{∞} re^{−r^{2}/2} dr = [e^{−r^{2}/2}] = 1.

1. Lássuk be, hogy egy standard normális eloszlás ξ valószínűségi változó szórásnégyzete 1. Bizonyítás: Eξ = 0, mert ξ sűrűségfüggvénye páros. Ezenkívül parciális integrá-

lással kapjuk f(x) = x és g′(x) = \frac{1}{\sqrt{2π}} xe^{−x^{2}/2} választással, hogy

Eξ^{2} = ∫_{−∞}^{∞} \frac{1}{\sqrt{2π}} x^{2}e^{−x^{2}/2} dx = [−\frac{x}{\sqrt{2π}} e^{−x^{2}/2}]_{−∞}^{∞} + ∫_{−∞}^{∞} \frac{1}{\sqrt{2π}} e^{−x^{2}/2} dx = 1.

Házi feladat:

Ha ξ standard normális eloszlású valószínűségi változó, akkor Eξ^{2k} = 1 · 3 ⋯ (2k − 1).

Definicó. Azt mondjuk, hogy egy ξ valószínűségi változó exponenciális eloszlású λ paraméterrel, λ > 0, ha eloszlásfüggvénye, F (x) = P (ξ < x) = 1 − e^{−λx}, ha x ≥ 0, és F (x) = P (ξ < x) = 0, ha x < 0. Ezzel ekvivalens jellemzés: Egy λ > 0 paraméterű exponenciális eloszlású valószínűségi változó F (x) eloszlásfüggvényének létezik f(x) sűrűségfüggvénye, és az f(x) = λe^{−λx}, ha x ≥ 0, f(x) = 0, ha x ≤ 0 alakú.

2. Számoljuk ki egy λ paraméterű ξ exponenciális eloszlású valószínűségi változó várható értékét és szórásnégyzetét. Megoldás: Parciális integrálással kapjuk, hogy

Eξ = ∫_{0}^{∞} xλe^{−λx} dx = [−xe^{−λx}]_{0}^{∞} + ∫_{0}^{∞} e^{−λx} dx = \frac{1}{λ},

Eξ^{2} = ∫_{0}^{∞} x^{2}λe^{−λx} dx = [x^{2}e^{−λx}]_{0}^{∞} + ∫_{0}^{∞} 2xe^{−λx} dx = \frac{2}{λ^{2}} .

Ezért Var ξ = Eξ^{2} − (Eξ)^{2} = \frac{2}{λ^{2}} − \frac{1}{λ^{2}} = \frac{1}{λ^{2}} .

Foglalkozzunk azzal a kérdéssel, hogyan lehet kiszámolni valószínűségi vektorok függvényének az eloszlását. Különösen fontos számunkra az az eset, amikor a valószínűségi vektorok komponensei függetlenek, ezen belül az a speciális kérdés, amikor független valószínűségi változók összegének az eloszlás vagy sűrűségfüggvényét vizsgáljuk. Ez vezet a konvolució fogalmának a bevezetéséhez. Először vezessük be a legfontosabb fogalmakat és eredményeket. Általában nem a valószínűségi változókat, hanem azok eloszlását ismerjük. Ezért fontos az (esetleg többdimenziós) eloszlásfüggvények definiciójának megadása, illetve azok az eredmények, melyek leírják, hogy egy megadott függvény mikor tekinthető eloszlásfüggvénynek.

Először megbeszéljük az eloszlásfüggvény tulajdonságait. Adva egy ξ valószínűségi változó, akkor ennek eloszlása az F (x) = P (ξ < x), −∞ < x < ∞, függvény. Ez teljesíti az alábbi tulajdonságokat.

Ha F (x) eloszlásfüggvény, akkor

(i) F (x) monoton növekvő függvény (ii) lim_{x→−∞} F (x) = 0, lim_{x→∞} F (x) = 1,

(iii) F (x) minden −∞ < x < ∞ számra balról folytonos, és létezik jobboldali határértéke (mert monoton növekvő függvény), azaz lim_{t→x−0} F (t) = F (x), és

létezik a lim_{t→x+0} F (t) határérték is.

lim_{t→x−0}-val azt jelöljük, hogy olyan t_{n} számsorozatot tekintünk, melyre egyrészt

t_{n} → x, másrészt t_{n} ≤ x minden n indexre. Hasonlóan lim_{t→x+0}-val azt jelöljük,

hogy olyan t_{n} számsorozatot tekintünk, melyre egyrészt t_{n} → x, másrészt t_{n} ≥ x minden n indexre.

Ha f(x) sűrűségfüggvény, akkor f(x) ≥ 0 minden x számra, és ∫_{−∞}^{∞} f(x) dx = 1.

Valóban, ha F (x) egy ξ valószínűségi változó eloszlásfüggvénye, akkor F (x) = P (ξ < x) ≤ P (ξ < y) = F (y) az x < y esetben, mert {ω: ξ(ω) < x} ⊂

{ω: ξ(ω) < y}. Továbbá, lim_{t→x−0} F (t) = lim_{t→x−0} P (ξ < t) = P (ξ < x) = F (x)

a valószínűség (σ-additivitás miatt teljesülő) múlt gyakorlaton megbeszélt tulajdonsága miatt. (A jobboldali határérték létezik az eloszlásfüggvény monotonitása miatt.) Ugyancsak ezen tulajdonság miatt lim_{x→−∞} F (x) = lim_{x→−∞} P (ξ < x) = 0,

lim_{x→∞} F (x) = lim_{x→∞} P (ξ < x) = 1. lim_{x→∞} F (x) = 1,

Mivel egy f(x) sűrűségfüggvény egy fenti tulajdonságokkal rendelkező eloszlásfüggvény deriváltja (amelyik azt a plusz feltételt is teljesíti, hogy előáll mint egy f(·) függvény integrálja, ezért mint azt nem nehéz belátni, egy sűrűségfüggvény teljesíti a fenti feltételeket.

Megjegyzés: Be lehet bizonyítani, hogy egy a fenti tulajdonságokkal rendelkező F (x) illetve f(x) függvényhez létezik olyan (Ω, A, P) valószínűségi mező, és azon egy ξ valószínűségi változó, melynek ez az F (x) függvény az eloszlásfüggvénye, illetve ez az f(x) függvény a sűrűségfüggvénye.

Az eloszlásfüggvény azért rendkívül fontos fogalma a valószínűségszámításnak, mert általában nem tudjuk, hogy melyek azok a véletlen körülmények, melyek meghatározzák egy valószínűségi változó értékét, csak azt hogy milyen valószínűséggel vesz fel különböző értékeket. Ahhoz, hogy ezeket a valószínűségeket meg tudjuk határozni ismernünk kell az eloszlásfüggvényt. Ugyancsak fontos fogalom az eloszlásfüggvény többdimenziós változata, amely megadja több valószínűségi változó együttes eloszlását.

Többdimenziós eloszlásfüggvény definiciója. Legyen adva k valós értékű ξ_{1}, …, ξ_{k} valószínűségi változó egy (Ω, A, P) valószínűségi mezőn. Ezek eloszlásfüggvénye az

F (x_{1}, …, x_{k}) = P (ξ_{1} < x_{1}, …, ξ_{k} < x_{k}),

k változós függvény, ahol −∞ < x_{j} < ∞ minden 1 ≤ j ≤ k indexre.

Azt mondjuk, hogy egy F (x_{1}, …, x_{k}) eloszlásfüggvénynek létezik f(x_{1}, …, x_{k}) sűrűségfüggvénye, ha

F (x_{1}, …, x_{k}) = ∫_{−∞}^{x_{1}} ⋯ ∫_{−∞}^{x_{k}} f(u_{1}, …, u_{k}) du_{1} … du_{k}

minden −∞ < x_{j} < ∞, 1 ≤ j ≤ k számra.

A valószínűségszámítás problémái arról szólnak, hogy ha adva van valószínűségi változók egy sorozata, melynek ismerjük az együttes eloszlását mondhatunk ezekről, ezek különböző függvényei milyen valószínűséggel jelennek meg. Részletesebb tárgyalás és bizonyítás nélkül megadjuk a többdimenziós eloszlásfüggvény tulajdonságait. Csak annyit jegyezünk meg, hogy a kissé bonyolultabb (iv) tulajdonság azt fejezi ki az eloszlásfüggvény segítségével, hogy annak valószínűsége, hogy olyan (ξ_{1}, …, ξ_{k}) valószínűségi változók, melyek eloszlása az (ξ_{1}, …, ξ_{k}) eloszlásfüggvény, nem negatív valószínűséggel esik egy K téglatestbe, azaz P (a_{j} ≤ ξ_{j} < b_{j}, minden 1 ≤ j ≤ k indexre) ≥ 0.

Tétel. Az alábbi (i)—(iv) tulajdonságokkal rendelkező F (x_{1}, …, x_{k}) függvényhez létezik k valószínűségi változó, melyeknek ez az eloszlásfüggvénye, azaz az F (u_{1}, …, u_{k}) függvény akkor és csak akkor eloszlásfüggvény, ha teljesíti a következő négy tulajdonságot.

(i) F (u_{1}, …, u_{k}) minden változójának balról folytonos függvénye.

(ii) lim_{u_{j}→∞ minden j=1,...,k számra} F (u_{1}, …, u_{k}) = 1.

(iii) lim_{u_{j}→−∞ valamely 1≤j≤k számrra} F (u_{1}, …, u_{k}) = 0.

Végül definiáljuk egy az R^{k} téren definiált F függvényre és egy K = [a_{1}, b_{1}) × ⋯ × [a_{k}, b_{k}) téglatestre a

μ(K) = μ_{F} (K) = ∑_{\begin{matrix}u_{j}= a_{j} vagy b_{j} \\ j=1,...,k \end{matrix}}(−1)^{χ(u_{1},...,u_{k})}F (u_{1}, …, u_{k})

mennyiséget, ahol χ(u_{1}, …, u_{k}) jelöli az a_{j}-k számát az u_{1}, …, u_{k} sorozatban. Ekkor

(iv) μ_{F} (K) ≥ 0 minden K téglatestre.

Következmény. Egy k változós f(x_{1}, …, x_{k}) akkor és csak akkor sűrűségfüggvénye egy alkalmas (ξ_{1}, …, ξ_{k}) valószínűségi vektornak, ha teljesíti az f(x_{1}, …, x_{k}) ≥ 0 minden (x_{1}, …, x_{k}) ∈ R^{k} pontban, és

∫_{−∞}^{∞} ⋯ ∫_{−∞}^{∞} f(x_{1}, …, x_{k}) dx_{1} … dx_{k} = 1.

Adva egy F (x_{1}, …, x_{k}) eloszlású (ξ_{1}, …, ξ_{k}) valószínűségi vektor, akkor annak valószínűsége, hogy ez a véletlen vektor beleesik egy B ⊂ R^{k} (mérhető) halmazban

P ((ξ_{1}, …, ξ_{k}) ∈ B) = ∫_{B} F ( dx_{1}, …, dx_{k}).

Ha az F (x_{1}, …, x_{k}) eloszlásfüggvénynek létezik f(x_{1}, …, x_{k}) sűrűségfüggvénye, akkor

P ((ξ_{1}, …, ξ_{k}) ∈ B) = ∫_{B} f(x_{1}, …, x_{k}) dx_{1} … dx_{k}.

Speciálisan, ha ξ és η két független valószínűségi változó F (x) és G(y) eloszlásfüggvénnyel, (f(x) és g(y) sűrűségfüggvénnyel) akkor a (ξ, η) vektornak az eloszlásfüggvénye F (x)G(y), (sűrűségfüggvénye pedig f(x)g(y)). Ezért a fentiek alapján a ξ + η összeg eloszlásfüggvénye

P (ξ + η < x) = ∫ ∫_{(u,v),u+v<x} F ( du)G( dv) és ha létezik sűrűségfüggvény
= ∫ ∫_{(u,v),u+v<x} f(u)g(v) du dv minden x ∈ R számra.

Ennek alapján meg tudjuk érteni, hogy független valószínűségi változók összegének sűrűségfüggvényét hogyan lehet kiszámítani az eredeti valószínűségi változók sűrűségfüggvényei konvoluciójának a segítségével. Ha ξ és η két független valószínűségi változó

f·) és g(·) sűrűségfüggvénnyel, akkor a ξ+η összeg sűrűségfüggvénye h(x) = \frac{d}{dx}P (ξ+η < x) a következő módon számolható ki:

h(x) = \frac{d}{dx}P (ξ + η < x) = \frac{d}{dx} ∫ ∫_{\{(u,v) : u+v<x\}} f(u)g(v) du dv

= \frac{d}{dx} ∫_{−∞}^{x} [∫_{−∞}^{∞} f(ū)g(v̄ − ū) dū] dv̄ = ∫_{−∞}^{∞} f(u)g(x − u) du

A fenti számolások első azonosságában egy integráltranszformációt alkalmaztunk v̄ = u + v, ū = u helyettesítéssel (majd később ū és v̄ helyett ismét u és v változót írtunk.) Felhasználtuk, hogy e transzformáció során az {(u, v): u + v < x} tartomány a {(ū, v̄): v̄ < x, −∞ < ū < ∞} tartományba megy át, és a fenti (lineáris) transzformáció

Jakobiánja azonosan 1. Az utolsó azonosságban a \frac{d}{dx} ∫_{−∞}^{x} H(v) dv = H(x) azonosságot

alkalmaztuk H(v) = ∫_{−∞}^{∞} f(u)g(v − u) du választással.

3. Legyenek ξ_{1} és ξ_{2} független exponenciális eloszlású valószínűségi változók, azaz legyen sűrűségfüggvényük f(x) = λe^{−λx} ha x ≥ 0, és f(x) = 0, ha x > 0. Számítsuk ki ξ_{1} +ξ_{2} sűrűségfüggvényét. Általánosabban, legyenek ξ_{1}, … ξ_{m} független exponenciális eloszlású valószínűségi változók λ > 0 paraméterrel. Számítsuk ki ξ_{1} + ⋯ + ξ_{m} sűrűségfüggvényét. Ki kell számolnunk az f ∗ f(x) illetve \underbrace{f ∗ ⋯ ∗ f}_{m−szer}(x) konvoluciókat a fenti f(x)

sűrűségfüggvénnyel. Mivel f(x) = 0, ha x ≤ 0, a konvoluciót meghatározó integrálban szereplő f(y)f(x − y) integrandus nulla, ha y ≤ 0 vagy x − y ≤ 0. Innen a konvoluciót definiáló integrál csak x ≥ 0 esetén lehet nulla, az x ≤ 0 esetben f(y)f(x − y) > 0 minden y-ra nulla, és x ≥ 0 esetén az f(y)f(x − y) > 0 integrandus csak 0 ≤ y ≤ x esetén nem nulla. Innen a ξ_{1} + ξ_{2} valószínűségi változó sűrűségfüggvénye f_{2}(x) = f ∗ f(x) x < 0-ra f_{2}(x) = 0, és

f_{2}(x) = f ∗ f(x) = ∫_{−∞}^{∞} f(y)f(x − y) dy = ∫_{0}^{x} λe^{−λy}λe^{−λ(x−y)} dy
= ∫_{0}^{x} λ^{2}e^{−λx} dy = λ^{2}xe^{−λx}, ha x ≥ 0.

Hasonlóan, ha f_{m}(x) = \underbrace{f ∗ ⋯ ∗ f}_{m−szer}(x) jelöli ξ_{1} + ⋯ ξ_{m} sűrűségfüggvényét, akkor

f_{m}(x) = 0 minden m ≥ 1 számra, ha x < 0. Azt állítjuk, hogy f_{m}(x) =

\frac{λ^{m}x^{m−1}}{(m − 1)!} e^{−λx}, ha x ≥ 0. Ezen állítás bizonyításához elég belátni teljes indukcióval azt, hogy f_{m−1} ∗ f(x) = f_{m}(x) a fent definiált f_{m} függvényekkel. Viszont

f_{m−1} ∗ f(x) = ∫_{−∞}^{∞} f_{m−1}(y)f(x − y) dy = ∫_{0}^{x} λ^{m−1} \frac{y^{m−2}}{(m − 2)!}λe^{−λy}e^{−λ(x−y)} dy

= λ^{m}e^{−λx} ∫_{0}^{x} \frac{y^{m−2}}{(m − 2)!} dy = e^{−λx} \frac{λ^{m}x^{m−1}}{(m − 1)!} , ha x ≥ 0.

Ki tudjuk számolni tetszőleges független egész értékű valószínűségi változók összegének az eloszlását az adott valószínűségi változók eloszlásának a segítségével. E számolás megfogalmazásánának érdekében vezették be diszkrét eloszlások konvoluciójának a fogalmát.

Diszkrét eloszlások konvoluciójának a definiciója. Legyen P = p(k) és Q = q(k), k = 0, ±1, ±2, …, két eloszlás az egész számokon, azaz teljesüljenek a p(k) ≥ 0, q(k) ≥

0, k = 0, ±1, ±2, …, ∑_{k=−∞}^{∞} p(k) = 1, ∑_{k=−∞}^{∞} q(k) = 1 feltételek. Ekkor e két eloszlás

konvoluciója a

P ∗ Q(k) = ∑_{j=−∞}^{∞} p(j)q(k − j), k = 0, ±1, ±2, …

eloszlás.

Tétel. Ha ξ és η két diszkrét egész értékeket felvevő független valószínűségi változó P és Q eloszlással akkor ξ + η eloszlása a P ∗ Q eloszlás.