A december 5-i gyakorlat témája

Tekintsük a következő statisztikai feladatot. Adott egy dobókocka, és el akarjuk dönteni, hogy az szabályos-e. Ennek érdekében feldobjuk a kockát n alkalommal, és megjegyezzük, hány alkalommal volt a dobás eredménye j, 1 ≤ j ≤ 6. Jelölje ν_{n}(j), 1 ≤ j ≤ 6, ezeket a (véletlen) számokat. Ha a ν_{n}(j) ∼ \frac{n}{6} reláció teljesül minden 1 ≤ j ≤ 6 számra akkor a kockát szabályosnak tekinthetjük, ellenkező esetben pedig szabálytalannak. Meg kell pontosabban fogalmazni, mit jelentenek a fenti aszimptotikus relációk. Egy jó eljárást akarunk kidolgozni annak mérésére, hogy a ν_{n}(j) − \frac{n}{6}, 1 ≤ j ≤ 6, számhatossal jellemzett ingadozás mikor tekinthető túlságosan nagynak és mikor tekinthető viszonylag kicsinek. Az eljárás kidolgozásába beletartozik annak a kérdésnek a tisztázása is, hogy hogyan érdemes mérni a ν_{n}(j) − \frac{n}{6}, 1 ≤ j ≤ 6, számhatossal jellemzett ingadozás nagyságát.

E feladat egy egyszerűbb változatával már találkoztunk, amikor azt a feltevés próbáltuk ellenőrizni sok kisérlet eredményének a segítségével, hogy egy pénzdarab szabályos-e. Megállapítottuk, hogy ezt az ellenőrzést a centrális határeloszlástétel segítségével lehet jól végrehajtani. Jelen esetben a centrális határeloszlástétel egy több-di-menziós általánosítása segítségével lehet jó módszert kidolgozni. Érdemes a dobókocka szabályosságának ellenőrzése helyett e probléma egy természetes általánosítását vizsgálni, és annak kapcsán tárgyalni a több-dimenziós centrális határeloszlástételt, illetve annak alkalmazását.

Az általánosított probléma a következő: Legyen adva k urna, és ellenőrizni akarjuk azt a feltételezést, mely szerint ha egy golyót véletlenül bedobunk ezen urnák valame-

lyikébe, akkor az p_{j}, p_{j} > 0, valószínűséggel esik a j-ik urnába, ∑_{j=1}^{k} p_{j} = 1. Ennek a

feltételezésnek az ellenőrzése érdekében dobjunk egymástól függetlenül n golyót ezekbe az urnákba, és jelölje ν_{n}(j) a j-ik urnába eső golyók számát. A ν_{n} = (ν_{n}(1), …, ν_{n}(k)) véletlen vektor viselkedésének megértése érdekében — mely vektor megadja, hogy az egyes urnákba hány golyó esett — érdemes bevezetni az alábbi X_{j} = (X_{j}(1), …, X_{j}(k)), 1 ≤ j ≤ n, véletlen vektorokat. Mindegyik X_{j} vektornak k − 1 koordinátája 0-val és 1 (véletlenül választott) koordinátája 1-gyel egyenlő. Ha a j-ik dobás eredményeként az l-ik urnába esett a j-ik golyó, akkor legyen az l-ik koordináta értéke 1, azaz X_{j}(l) = 1

(és a többi koordináta értéke 0). Ekkor ν_{n} = ∑_{j=1}^{n} X_{j}, és ha bevezetjük az

X̄_{j} = (X_{j}(1) − EX_{j}(1), …, X_{j}(k) − EX_{j}(k)) = (X_{j}(1) − p_{1}, …, X_{j}(k) − p_{k})

valamint

ν̄_{n} = (ν_{n}(1) − Eν_{n}(1), …, ν_{n}(k) − Eν_{n}(k)) = (ν_{n}(1) − np_{1}, …, ν_{n}(k) − np_{k})

normalizált valószínűségi változókat, akkor felírhatjuk a ∑_{j=1}^{n} X̄_{j} = ν̄_{n} azonosságot is.

Tekintsük független, egyforma eloszlású vektor értékű X_{j} = (X_{j}(1), …, X_{j}(k)), 1 ≤ j ≤ n, valószínűségi változók sorozatát (az X_{1}, …, X_{n} véletlen vektorok függetlenek egymástól, de az egyes X_{j} vektorok X_{j}(1), …, X_{j}(k)) koordinátái függhetnek egymástól). A több-dimenziós centrális határeloszlástétel azt állítja, hogy a véletlen S_{n} = \frac{1}{\sqrt{n}} ∑_{j=1} X̄_{j} összegek eloszlásban konvergálnak egy alkalmas eloszláshoz a k-dimenziós

téren, ha n → ∞, és megadja explicit módon ezt az eloszlást. Jelen tárgyalásban nem adom meg a határeloszlás pontos leírását, mert arra nem lesz szükségünk, hanem megelégszem az eredmény azon következményének a leírásával, amelyet a továbbiakban használni fogunk. (Az ilyen határeloszlástételben megjelenő határeloszlásokat nevezik több-dimenziós normális eloszlásnak.) Vegyük észre, hogy a több-dimenziós centrális határeloszlástétel leírja \frac{1}{\sqrt{n}} ν̄_{n} eloszlását nagy n számokra jó közelítéssel. Ez van az alább ismertetendő χ-négyzet (ejtsd: khi-négyzet) próba, illetve az azt megalapozó határeloszlástétel hátterében. Ennek megfogalmazása érdekében vezessük be először a χ-négyzet eloszlás fogalmát.

A k szabadságfokú χ-négyzet eloszlás definiciója. Legyenek X_{1}, …, X_{k} független standard normális eloszlású valószínűségi változók. Ekkor a Z_{k} = X_{1}^{2} + X_{2}^{2} + ⋯ + X_{k}^{2} valószínűségi változó, illetve minden a Z_{k} valószínűségi változóval megegyező eloszlású valószínűségi változó eloszlása a k szabadságfokú χ-négyzet eloszlás.

Tétel. Legyen adva k urna, és dobjunk be ezek valamelyikébe véletlenül n golyót egymástól függetlenül úgy, hogy mindegyik golyó p_{j}, p_{j} > 0, valószínűséggel esik a j-ik

urnába, ∑_{j=1}^{k} p_{j} = 1. Jelölje ν_{n}(j) a j-ik urnába eső golyók számát, 1 ≤ j ≤ k. A

Z_{n} = ∑_{j=1}^{k} \frac{(ν_{n}(j) − np_{j})^{2}}{np_{j}} valószínűségi változóknak létezik határeloszlása n → ∞ esetén,

és ez a k − 1 szabadságfokú χ-négyzet eloszlás, ahol k az urnák száma.

A következő feladat, amelyet a mobiDIÁK könyvtár Feladatok a hipotézisvizsgálat témaköréből jegyzetből vettem (2.19 Példa) példát mutat a fenti tétel alkalmazására.

1.) Egy újonnan kifejlesztett müzli ötféle magot (A, B, C, D és E) tartalmaz, melyek százalékos megoszlása a terméken levő tájékoztató szerint 35%, 25%, 20%, 10% illetve 10%. Egy véletlenül kiválasztott zacskóban az alábbi mennyiségi megoszlást találtuk: A tipusú mag 184, B tipusú mag 145, C tipusú mag 100, D tipusú mag 68, E tipusú mag 63. Döntsünk 90%-os szinten arról, hogy a minta összetétele megfelel-e a csomagoláson feltüntetetteknek. Megoldás: Jelen feladatban a H_{0} null-hipotézis azt jelenti, hogy az összetétel megfelel a csomagoláson feltüntetetteknek a H_{1} ellenhipotézis pedig azt, hogy nem felel meg. Olyan döntési eljárást keresünk, amelynek elsőfajú hibája α = 0.1. A kisérletben egy n = 560 = 184 + 145 + 100 + 68 + 63 elemű mintát vettünk, amelynek a null-hipotézis szerint minden eleme 0.35 valószínűséggel az A osztályba, 0.25 valószínűséggel a B osztályba, 0.2 valószínűséggel a C osztályba, 0.1 valószínűséggel a D osztályba és 0.1 valószínűséggel az E osztályba esik. A megfigyelt értékek k_{1} = 184, k_{2} = 145, k_{3} = 100, k_{4} = 68 és k_{5} = 63. A null-hipotézis teljesülése

esetén a χ^{2} = ∑_{l=1}^{5} \frac{(k_{l}−np_{l})^{2}}{np_{l}} valószínűségi változó eloszlása a 4 szabadságfokú χ-

négyzet eloszlás, amely a 0.9 értéket a 7.779 pontban veszi fel. Mivel a jelen mért értékek esetén a statisztika értéke 5.6454, ezért elfogadjuk a null-hipotézist, azaz azt, hogy a terméken megadott tájékoztató helyes.

Tétel független valószínűségi változók összegének a sűrűségfüggvényéről. Legyen ξ és η két független valószínűségi változó f(·) és g(·) sűrűségfüggvénnyel. Ekkor a ξ + η összegnek is létezik sűrűségfüggvénye, és az az

f ∗ g(x) = ∫_{−∞}^{∞} f(u)g(x − u) du, −∞ < x < ∞

függvény. (A fenti képletben definiált f ∗ g kifejezést az f és g függvény konvoluciójának nevezik az irodalomban.)

2.) Legyenek ξ_{1} és ξ_{2} független exponenciális eloszlású valószínűségi változók λ paraméterrel, azaz legyen sűrűségfüggvényük f(x) = λe^{−λx} ha x ≥ 0, és f(x) = 0, ha x > 0. Számítsuk ki ξ_{1} + ξ_{2} sűrűségfüggvényét. Általánosabban, legyenek ξ_{1}, … ξ_{m} független exponenciális eloszlású valószínűségi változók λ > 0 paraméterrel. Számítsuk ki ξ_{1} + ⋯ + ξ_{m} sűrűségfüggvényét. Megoldás: Ki kell számolnunk az f ∗ f(x) illetve \underbrace{f ∗ ⋯ ∗ f}_{m−szer}(x) konvoluciókat a fenti

f(x) sűrűségfüggvénnyel. Mivel f(x) = 0, ha x ≤ 0, a konvoluciót meghatározó integrálban szereplő f(y)f(x − y) integrandus nulla, ha y ≤ 0 vagy x − y ≤ 0. Innen a konvoluciót definiáló integrál csak x ≥ 0 esetén lehet nulla, az x ≤ 0 esetben f(y)f(x − y) > 0 minden y-ra nulla, és x ≥ 0 esetén az f(y)f(x − y) > 0 integrandus csak 0 ≤ y ≤ x esetén nem nulla. Innen a ξ_{1} + ξ_{2} valószínűségi változó sűrűségfüggvénye f_{2}(x) = f ∗ f(x) x < 0-ra f_{2}(x) = 0, és

f_{2}(x) = f ∗ f(x) = ∫_{−∞}^{∞} f(y)f(x − y) dy = ∫_{0}^{x} λe^{−λy}λe^{−λ(x−y)} dy
= ∫_{0}^{x} λ^{2}e^{−λx} dy = λ^{2}xe^{−λx}, ha x ≥ 0.

Hasonlóan, ha f_{m}(x) = \underbrace{f ∗ ⋯ ∗ f}_{m−szer}(x) jelöli ξ_{1} + ⋯ ξ_{m} sűrűségfüggvényét, akkor

f_{m}(x) = 0 minden m ≥ 1 számra, ha x < 0. Azt állítjuk, hogy f_{m}(x) =

\frac{λ^{m}x^{m−1}}{(m − 1)!} e^{−λx}, ha x ≥ 0. Ezen állítás bizonyításához elég belátni teljes indukcióval

azt, hogy f_{m−1} ∗ f(x) = f_{m}(x) a fent definiált f_{m} függvényekkel. Viszont

f_{m−1} ∗ f(x) = ∫_{−∞}^{∞} f_{m−1}(y)f(x − y) dy = ∫_{0}^{x} λ^{m−1} \frac{y^{m−2}}{(m − 2)!}λe^{−λy}e^{−λ(x−y)} dy

= λ^{m}e^{−λx} ∫_{0}^{x} \frac{y^{m−2}}{(m − 2)!} dy = e^{−λx} \frac{λ^{m}x^{m−1}}{(m − 1)!} , ha x ≥ 0.

Másrészt f_{m}(x) = 0, ha x ≤ 0. 3.) Legyen ξ és η két független valószínűségi változó, mind a kettő f(x) = \frac{1}{2}e^{−|x|},

−∞ < x < ∞, sűrűségfüggvénnyel. Lássuk be először, hogy f(x) valóban sűrűségfüggvény. Számítsuk ki a ξ + η valószínűségi változó g(x) sűrűségfüggvényét. Megoldás: Az f(x) függvény minden pontban nem negatív. Annak ellenőrzéséhez, hogy f(x) sűrűségfüggvény azt kell megmutatnunk, hogy ∫_{−∞}^{∞} f(x) dx = 1. Viszont ∫_{−∞}^{∞} f(x) dx = \frac{1}{2} ∫_{−∞}^{0} e^{x} dx + \frac{1}{2} ∫_{0}^{∞} e^{−x} dx = \frac{1}{2} [e^{x}]_{−∞}^{0} + \frac{1}{2} [−e^{−x}]_{0}^{∞} = 1.

A ξ + η valószínűségi változó g(x) sűrűségfüggvényét a g(x) = ∫_{−∞}^{∞} f(y)f(x − y) dy formula segítségével számíthatjuk ki. Számítsuk ki ezt az integrált. Tekintsük először azt az esetet, amikor x ≥ 0. Az integrált számítsuk ki úgy, hogy nézzük mind a négy (elvileg) lehetséges esetet, amikor

a) y ≥ 0 és x − y ≥ 0,

b) y ≥ 0 és x − y < 0,

c) y < 0, x − y ≥ 0,

d) y < 0, x − y < 0. Számítsuk ki mind a négy esetben azt, hogy milyen tartományban veszi fel értékét az y változó, és mi az integrandus illetve az integrál értéke ebben a tartományban.

Az a) esetben 0 ≤ y ≤ x, az integrandus f(y)f(x − y) = \frac{1}{4}e^{−y}e^{−(x−y)} = \frac{e^{−x}}{4} , az integrál pedig \frac{xe^{−x}}{4} .

A b) esetben y > x és f(y)f(x − y) = \frac{e^{−y}e^{x−y}}{4} = \frac{e^{x−2y}}{4} az integrál pedig \frac{1}{4} ∫_{x}^{∞} e^{x−2y} dy = \frac{e^{−x}}{8} .

A c) esetben y < 0 és f(y)f(x − y) = \frac{1}{4}e^{y}e^{−(x−y)} = \frac{e^{2y−x}}{4} , az integrál pedig \frac{1}{4} ∫_{−∞}^{0} e^{2y−x} dy = \frac{e^{−x}}{8} . A d) eset nem lehetséges, mert ekkor egyrészt az y < 0 másrészt az y > x ≥ 0 feltételeknek kellene teljesülniük.

Innen azt kapjuk, hogy g(x) = \frac{(x+1)e^{−x}}{4} , ha x > 0. Mivel f szimmetrikus függvény, ezért mint nem nehéz megmutatni, f(x) is az. Tehát g(−x) = g(x), és g(x) = \frac{(|x|+1)e^{−|x|}}{4} .

4.) Legyenek ξ és η független valószínűségi változók f(x) és g(x) sűrűségfüggvénnyel. Mutassuk meg, hogy ξ−η sűrűségfüggvénye a h(x) = ∫_{−∞}^{∞} f(x+y)g(y) dy függvény. Értsük meg e formula szemléletes tartalmát is. Megoldás Legyen η̄ = −η. Ekkor η̄ sűrűségfüggvénye g(−x), ξ és η̄ függetlenek és ξ − η = ξ + η̄. Innen ξ − η sűrűségfüggvénye h(x) = ∫_{−∞}^{∞} f(x − y)g(−y) dy, és elvégezve az ȳ = −y helyettesítést az integrálban megkapjuk a kívánt állítást. Szemléletes (nem precíz) magyarázat: Annak valószínűsége, hogy a ξ − η valószínűségi változó az [x, x + dx] intervallumba esik h(x) dx. Ez úgy következhet be, hogy az a ξ valószínűségi változó valamely az [x + y, x + y + dx] intervallumbeli értéket vesz fel, az η pedig az [y, y + dy] intervallumba esik. Ennek valószínűsége rögzített y számra f(x+y)g(y) dx dy. Ezt a kifejezést az összes lehetséges y értékre összegezni, illetve mivel y kontinum sok értéket vehet fel, integrálni kell. Ez azt jelenti, hogy h(x) dx = (∫ f(x + y)g(y) dy) dx. Hasonló módon megmagyarázható a konvolució formula is.)

Azon képlet segítségével, amely lehetővé teszi, hogy kiszámoljuk két független valószínűségi változó összegének a sűrűségfüggvényét be lehet látni a következő lemmát.

Lemma. Legyen η_{1} és η_{2} két független normális eloszlású valószínűségi változó m_{1} illetve m_{2} várható értékkel, σ_{1}^{2} és σ_{2}^{2} szórásnégyzettel. Az η_{1} + η_{2} összeg m_{1} + m_{2} várható értékú és σ_{1}^{2} + σ_{2}^{2} szórásnégyzetű normális eloszlású valószínűségi változó.

A lemma igazolásának érdekében érdemes megjegyezni, hogy

∫_{−∞}^{∞} e^{−(x−A)^{2}/B} dx = \sqrt{Bπ}.

Ezt láthatjuk például az y = \sqrt{2}\frac{x − A}{\sqrt{B}} helyettesítéssel, és abból a tényből, hogy a

φ(y) = \frac{1}{\sqrt{2π}} e^{−y^{2}/2} függvény sűrűségfüggvény. Ez az észrevétel azért hasznos, mert ez lehetővé teszi, hogy amennyiben olyan integrált kell kiszámolni, amelyben az integrandus exponensében egy kvadratikus alak szerepel, akkor az inegrandusban szereplő kifejezést teljes négyzetté alakítva ki tudjuk számolni az integrált. Ez a gondolata a lemma igazolásának is.

A lemma igazolása: Az η_{1} + η_{2} valószínűségi változó sűrűségfüggvénye

f(x) = ∫_{−∞}^{∞} \frac{1}{2πσ_{1}σ_{2}} e^{−(u−m_{1})^{2}/2σ_{1}^{2}}e^{−(x−u−m_{2})^{2}/2σ_{2}^{2}} du

= ∫_{−∞}^{∞} \frac{1}{2πσ_{1}σ_{2}} exp\{−u^{2} (\frac{1}{2σ_{1}^{2}} + \frac{1}{2σ_{2}^{2}} ) + u (\frac{m_{1}}{σ_{1}^{2}} + \frac{x − m_{2}}{σ_{2}^{2}} )

− \frac{m_{1}^{2}}{2σ_{1}^{2}} − \frac{(x − m_{2})^{2}}{2σ_{2}^{2}} \} du

= ∫_{−∞}^{∞} \frac{1}{2πσ_{1}σ_{2}} exp\{−\frac{σ_{1}^{2} + σ_{2}^{2}}{2σ_{1}^{2}σ_{2}^{2}} (u − \frac{m_{1}σ_{2}^{2} + (x − m_{2})σ_{1}^{2}}{σ_{1}^{2} + σ_{2}^{2}} )^{2}

+ \frac{(m_{1}σ_{2}^{2} + (x − m_{2})σ_{1}^{2})^{2}}{2σ_{1}^{2}σ_{2}^{2}(σ_{1}^{2} + σ_{2}^{2})} − \frac{m_{1}^{2}}{2σ_{1}^{2}} − \frac{(x − m_{2})^{2}}{2σ_{2}^{2}} \} du

= ∫_{−∞}^{∞} \frac{1}{2πσ_{1}σ_{2}} exp \{−\frac{σ_{1}^{2} + σ_{2}^{2}}{2σ_{1}^{2}σ_{2}^{2}} u^{2}\} du

exp \{\frac{(m_{1}σ_{2}^{2} + (x − m_{2})σ_{1}^{2})^{2}}{2σ_{1}^{2}σ_{2}^{2}(σ_{1}^{2} + σ_{2}^{2})} − \frac{m_{1}^{2}}{2σ_{1}^{2}} − \frac{(x − m_{2})^{2}}{2σ_{2}^{2}} \}

= \frac{1}{\sqrt{2π(σ_{1}^{2} + σ_{2}^{2})}} exp \{\frac{(m_{1}σ_{2}^{2} + (x − m_{2})σ_{1}^{2})^{2}}{2σ_{1}^{2}σ_{2}^{2}(σ_{1}^{2} + σ_{2}^{2})} − \frac{m_{1}^{2}}{2σ_{1}^{2}} − \frac{(x − m_{2})^{2}}{2σ_{2}^{2}} \}

= \frac{1}{\sqrt{2π(σ_{1}^{2} + σ_{2}^{2})}} exp \{−\frac{(x − m_{1} − m_{2})^{2}}{2(σ_{1}^{2} + σ_{2}^{2})} \} .

5.) Legyen ξ egyenletes eloszlású valószínűségi változó a [−1, 1] intervallumon, azaz legyen sűrűségfüggvénye f(x) = \frac{1}{2}, ha −1 ≤ x ≤ 1, és f(x) = 0, ha x > 1 vagy x < −1. Számoljuk ki a ξ^{4} valószínűségi változó várható értékét és szórásnégyzetét.

Megoldás: Eξ^{4} = ∫_{−1}^{2} \frac{1}{2}x^{4} dx = \frac{1}{10} [x^{5}]_{−1}^{1} = \frac{1}{5}. Var ξ^{4} = E(ξ^{4})^{2} − (Eξ^{4})^{2} =

Eξ^{8} − (Eξ^{4})^{2} = ∫_{−1}^{1} \frac{1}{2}x^{8} dx − (∫ \frac{1}{2}x^{4} dx)^{2} = \frac{1}{9} − (\frac{1}{5})^{2} = \frac{16}{225}.

Második megoldás. Számoljuk ki ξ^{4} F (x) eloszlás és f(x) sűrűségfüggvényét.

F (x) = P (ξ^{4} < x) = P (−x^{1/4} < ξ < x^{1/4}) = x^{1/4}, ha 0 ≤ x ≤ 1,

F (x) = 0, ha x ≤ 0 és F (x) = 1, ha x ≥ 1. Innen f(x) = \frac{1}{4}x^{−3/4}, ha 0 ≤ x ≤ 1, f(x) = 0 egyébként. Ezért Eξ = ∫ xf(x) dx = ∫_{0}^{1} \frac{1}{4}x^{1/4} dx = \frac{1}{4} · \frac{4}{5} = \frac{1}{5}, Eξ^{2} = ∫ x^{2}f(x) dx = ∫_{0}^{1} \frac{1}{4}x^{5/4} dx = \frac{1}{4} · \frac{4}{9} = \frac{1}{9}, Var ξ = Eξ^{2} − (Eξ)^{2} = \frac{1}{9} − (\frac{1}{5})^{2} = \frac{16}{225}.