A november 28-i gyakorlat témája

Az előadáson szerepelt az az állítás, hogy a standard normális eloszlás sűrűségfüggvénynek nevezett \frac{1}{\sqrt{2π}} e^{−x^{2}/2} függvény valóban sűrűségfüggvény, tehát

∫_{−∞}^{∞} \frac{1}{\sqrt{2π}} e^{−x^{2}/2} dx = 1.

Lássuk be (e tény felhasználásával),

1.) Egy standard normális eloszlású ξ valószínűségi változó, azaz egy \frac{1}{\sqrt{2π}} e^{−x^{2}/2} sűrűségfüggvénnyel rendelkező valószínűségi változó várható értéke nulla és szórásnégyzete 1. Megoldás:

Eξ = ∫_{−∞}^{∞} x\frac{1}{\sqrt{2π}} e^{−x^{2}/2} dx = 0,

mert az x\frac{1}{\sqrt{2π}} e^{−x^{2}/2} integrandus páratlan függvény. Ezért Var ξ = Eξ^{2}, és parci-

ális integrálással f(x) = x és g(x) = x\frac{1}{\sqrt{2π}} e^{−x^{2}/2} = \frac{d}{dx} (−\frac{1}{\sqrt{2π}} e^{−x^{2}/2}) választással kapjuk, hogy

Eξ^{2} = ∫_{−∞}^{∞} x^{2} \frac{1}{\sqrt{2π}} e^{−x^{2}/2} dx = ∫_{−∞}^{∞} −x\frac{d}{dx} (\frac{1}{\sqrt{2π}} e^{−x^{2}/2}) dx

= [−x\frac{1}{\sqrt{2π}} e^{−x^{2}/2}]_{−∞}^{∞} + ∫_{−∞}^{∞} \frac{1}{\sqrt{2π}} e^{−x^{2}/2} dx = 1.

2.) Egy szabályos dobókockát és egy szabályos érmét feldobunk 3300 alkalommal egymástól függetlenül. (Az érme és kockadobások eredményei is függetlenek egymástól.) Ha a kockadobás eredménye páros és az érme a fej oldalra esett, akkor annyi forintot nyerünk, amennyi a kockadobás eredménye. Ha az érme az írás oldalra esett vagy a kockadobás eredménye páratlan szám, akkor nem nyerünk, és nem is vesztünk semmit. Mi a valószínűsége annak, hogy az össznyereményünk 3190 és 3520 forint közé esik? Adjunk erre jó közelítő becslést a centrális határeloszlástétel és egy normális eloszlástáblázat segítségével. Megoldás: Vezessük be a következő ξ_{j}, és η_{j} 1 ≤ j ≤ 3300, valószínűségi változókat: ξ_{j} = 2, ha a j-ik kockadobás eredménye 2, ξ_{j} = 4, ha a j-ik kockadobás eredménye 4, ξ_{j} = 6, ha a j-ik kockadobás eredménye 6, ξ_{j} = 0, ha a j-ik kockadobás eredménye 1, 3 vagy 5. Legyen η_{j} = 1, ha a j-ik érmedobás eredménye fej, és η_{j} = 0, ha a j-ik érmedobás írás. Legyen ζ_{j} = ξ_{j}η_{j}. Ekkor a j-ik dobásnál a nyereményünk

ζ_{j} lesz, 1 ≤ j ≤ 3300, és a P (3190 ≤ ∑_{j=1}^{3300} ζ_{j} ≤ 3520) valószínűséget kell jól meg-

becsülnünk. Ennek érdekében számoljuk ki a független ζ_{j} valószínűségi változók várható értékét és szórásnégyzetét. Eζ_{j} = Eξ_{j}η_{j} = Eξ_{j}Eη_{j} = \frac{1}{6}(2 + 4 + 6)\frac{1}{2} = 1, Eζ_{j}^{2} = Eξ_{j}^{2}Eη_{j}^{2} = \frac{1}{6}(4 + 16 + 36) · \frac{1}{2} = \frac{14}{3}, Var ζ_{j}^{2} = Eζ_{j}^{2} − (Eζ_{j})^{2} = \frac{11}{3}. Innen a centrális határeloszlástétel alapján

P (3190 ≤ ∑_{j=1}^{3300} ζ_{j} ≤ 3520) = P (\frac{−110}{\sqrt{3300\frac{11}{3}}} ≤ \frac{∑_{j=1}^{3300} ζ_{j} − ∑_{j=1}^{3300} Eζ_{j}}{\sqrt{∑_{j=1}^{3300} Var ξ_{j}}} ≤ \frac{220}{\sqrt{3300\frac{11}{3}}} )

∼ Φ(2) − Φ(−1) = 0.9772 + 0.8413 − 1 = 0.9285.

3.) Egy pénzdarabról ellenőrizni akarjuk, hogy igaz-e az a hipotézis, amely szerint ez az érme legalább \frac{3}{4} valószínűséggel esik a fej és legfeljebb \frac{1}{4} valószínűséggel az írás oldalára. Ennek érdekében feldobjuk a pénzdarabot 30 000 alkalommal, és a következő döntési szabályt hozzuk. Választunk egy k számot, és akkor fogadjuk el a hipotézist helyesnek, ha legalább k fejdobás történt. Legalább mekkorának kell válassztanunk ezt a k számot, ha azt akarjuk, hogy egy a hipotézist teljesítő pénzdarab esetén legalább 0.9 valószínűséggel döntsünk úgy, hogy a hipotézis teljesül? Megoldás: Vezessük be a következő valószínűségi változókat: ξ_{j} = 1, ha a j-ik dobás eredménye fej, ξ_{j} = 0, ha a j-ik dobás eredménye írás, 1 ≤ j ≤ 30 000,

S = S_{30000} = ∑_{j=1}^{30 000} ξ_{j}. Ha a fejdobás eredményének valószínűsége pontosan \frac{3}{4},

Eξ_{j} = \frac{3}{4}, Eξ_{j}^{2} = \frac{3}{4}, Var ξ_{j} = Eξ_{j}^{2} − (Eξ_{j})^{2} = \frac{3}{16}, ES = 30 000Eξ_{j} = 22 500, Var S = 30 000Var ξ_{j} = 5625 = 75^{2}. Innen és a centrális határeloszlástételből,

P (S > k) = P (\frac{S − ES}{\sqrt{Var S}} > \frac{k − 22 500}{75}) = 1 − P (\frac{S − ES}{\sqrt{Var S}} ≤ \frac{k − 22 500}{75})

∼ 1 − Φ (\frac{k − 22 500}{75}) .

Válasszuk a k számot úgy, hogy a fenti valószínűség körülbelül 0.9 legyen. Ekkor a Φ (\frac{k−22 500}{75}) = 0.1 vagy ami ezzel ekvivalens, a Φ (\frac{22 500−k}{75} ) = 0.9 egyenletet kell kielégítenünk. A normális eloszlás-táblázat alapján \frac{22 500−k}{75} ∼ 1.28, ami azt jelenti, hogy k = 22 500 − 75 × 1.28 és p = \frac{3}{4} esetén annak valószínűsége, hogy a fejdobások száma nagyobb mint k = 22 500 − 75 × 1.28 = 22 212 és p = \frac{3}{4} esetében annak valószínűsége, hogy legalább ennyi fejdobás történik körülbelül 0.9. Ha p ≥ \frac{3}{4}, akkor ez a valószínűség nagyobb. Ezért a k = 22 212 helyes választás.

4.) Ledobunk egymástól függetlenül 24 000 pontot a [0, 2] intervallumra egyenletes eloszlással, (azaz annak a valószínűsége, hogy egy ledobott pont értéke x-nél kisebb \frac{x}{2}-vel egyenlő, ha 0 ≤ x ≤ 2, eggyel egyenlő, ha x ≥ 2, és nulla, ha x ≤ 0.) Őrizzük meg azokat a ledobott pontokat, melyek értéke 1-nél kisebb, és hagyjuk el azokat, melyek értéke, nagyobb mint egy. Mi annak a valószínűsége, hogy a megőrzött pontok értékeinek az összege 5900 és 6075 közé esik? Adjunk erre a valószínűségre jó közelítő becslést a mellékelt normális eloszlástáblázat segítségével.

Megoldás: Vezessük be a következő ξ_{j}, 1 ≤ j ≤ 24 000, valószínűségi változókat: ξ_{j} = x, ha a j-ik ledobott pont értéke x, és 0 ≤ x ≤ 1, és ξ_{j} = 0, ha a jik ledobott pont értéke az (1, 2] intervallumba esik. Ekkor a megőrzött pontok

összege S = ∑_{j=1}^{24 000} ξ_{j}, továbbá a ξ_{j} valószínűségi változók függetlenek és egyforma

eloszlásúak. Ezért a centrális határeloszástétel segítségével jó becslést tudunk adni a minket érdeklő P (5900 < S < 6075) valószínűségre. Ennek érdekében ki kell számolnunk a ξ_{1} valószínűségi változó várható értékét és szórásnégyzetét. A ξ_{1} valószínűségi változó várható értékének és szórásnégyzetének a kiszámolása érdekében vezessük be az η_{1} valószínűségi változót, amelyik megegyezik az első ledobott pont értékével, és a következő h(x) függvényt a [0, 2] intervallumon: Legyen h(x) = x, ha 0 ≤ x ≤ 1, és h(x) = 0, ha 1 ≤ x ≤ 2. Ekkor ξ_{1} = h(η_{1}), és η_{1} sűrűségfüggvénye f(x) = \frac{1}{2}, ha 0 ≤ x ≤ 2, f(x) = 0, ha x < 0, és x > 2. Innen Eξ_{1} = Eh(η_{1}) = ∫ h(x) dx = ∫_{0}^{1} x\frac{1}{2} dx = \frac{1}{4}, Eξ_{1}^{2} = Eh(η_{1})^{2} = ∫_{0}^{1} x^{2} \frac{1}{2} dx = \frac{1}{6}, és Var ξ_{1} = Eξ_{1}^{2} − (Eξ_{1})^{2} = \frac{1}{6} − \frac{1}{16} = \frac{5}{48}. Ezért ES = 6000, Var S = 2500. Innen

P (5900 < S < 6075) = P (−2 < \frac{S − ES}{\sqrt{Var S}} < 1.5)
∼ Φ(1.5) − Φ(−2) = Φ(1.5) + Φ(2) − 1.

A matematikai statisztika fontos feladata a paraméter becslés, a hipotézisvizsgálat és a konfidencia intervallum becslés. Az ilyen jellegű, a gyakorlatban előforduló feladatok szoros kapcsolatban vannak a centrális határeloszlástétellel. Ennek tárgyalása érdekében először értsük meg e fogalmakat.

Statisztikai becslés fogalma. Adott eloszlásfüggvények egy valamely (ismeretlen λ paramétertől függő) F (x, λ) családja. (Van amikor nem az F (x, λ) eloszlás függvényt, hanem annak f(x, λ) sűrűségfüggvényét adják meg. Az egyszerűség kedvééert egy λ paraméterről beszéltem. De vannak olyan fontos problémák, amikor több ismeretlen λ_{1}, …, λ_{k} paramétertől függ az eloszlás. Ebben az esetben is beszélhetünk egy λ = (λ_{1}, …, λ_{k}) vektor értékű paraméterről.) Legyen adva n darab ξ_{1}, …, ξ_{n} F (x, λ) eloszlású független valószínűségi változó, amelyeket általában n kisérlet eredményeként kapunk meg. A becslés feladata azt jelenti, hogy adjunk ezen valószínűségi változók (megfigyelések) segítségével egy jó közelítő értéket az ismeretlen λ paraméterre, azaz definiáljunk olyan λ̂ = T (ξ_{1}, …, ξ_{n}) a ξ_{1}, …, ξ_{n} valószínűségi változóktól függő valószínűségi változót, amely (nagy valószínűséggel) közel van a becsülendő λ paraméterhez, bármi is volt a λ értéke.

Szokás bevezetni a következő terminológiát.

Minta fogalma. Legyen adva eloszlások egy F (x, λ), λ ∈ Λ, eloszláscsalád. Független F (x, λ) (az ismeretlen becsülendő λ eloszlású valószínűségi paramétertől függő) ξ_{1}, …, ξ_{n} valószínűségi változók sorozatát n elemű mintának nevezik.

Valamilyen értelemben a becslésnek jónak kell lennie. Ilyen természetes a becslés jóságát megkövetelő tulajdonságot fejez ki a következő definició.

(Aszimptotikusan) torzítatlan becslés fogalma. Legyen adva egy F (x, λ) eloszlás függvény, és ξ_{1}, …, ξ_{n} F (x, λ) eloszlású n elemű minta. Egy λ̂ = T (ξ_{1}, …, ξ_{n}) becslést torzítatlannak nevezünk, ha λ = Eλ̂_{n} = E(T (ξ_{1}, …, ξ_{n})). Adjunk meg egy olyan az n paramétertől függő T_{n}(x_{1}, …, x_{n}) függvényt minden n = 1, 2, … számra, amelyre

λ = lim_{n→∞} Eλ̂_{n} = lim_{n→∞} E(T_{n}(ξ_{1}, …, ξ_{n}))

egy n elemű ξ_{1}, …, ξ_{n} mintára minden λ paraméterre. Az ilyen tulajdonságú λ̂_{n} = T_{n}(ξ_{1}, …, ξ_{n}) becsléseket aszimptotikusan torzítatlan becsléseknek nevezzük.

A becsléselmélet feladata a λ paraméter olyan torzítatlan (vagy ha az nem lehetséges aszimptotikusan torzítatlan) T_{n}(ξ_{1}, …, ξ_{n} becslését adni, amelyre

lim_{n→∞} Var T_{n}(ξ_{1}, …, ξ_{n}) = 0.

5.) Legyen adva egy F (x, λ) eloszláscsalád, és egy n-elemű ξ_{1}, …, ξ_{n} mintától függő T_{n}(ξ_{1}, …, ξ_{n}) becsléssorozat, n = 1, 2, . . .. Mutassuk meg, hogy

lim_{n→∞} E(T_{n}(ξ_{1}, …, ξ_{n}) − λ)^{2} = 0

akkor és csak akkor, ha a T_{n}(ξ_{1}, …, ξ_{n}) becslés aszimptotikusan torzítatlan, és

lim_{n→∞} Var T_{n}(ξ_{1}, …, ξ_{n}) = 0.

Megoldás:

E(T_{n}(ξ_{1}, …, ξ_{n}) − λ)^{2}
= E ([T_{n}(ξ_{1}, …, ξ_{n}) − E(T_{n}(ξ_{1}, …, ξ_{n})]^{2}) + [λ − E(T_{n}(ξ_{1}, …, ξ_{n})]^{2}
= Var T_{n}(ξ_{1}, …, ξ_{n}) + [λ − E(T_{n}(ξ_{1}, …, ξ_{n})]^{2}.

Ebből az azonosságból könnyen kiolvasható a feladat állítása.

A leggyakoribb becsléselméleti feladat egy valószínűségi változó várható értékének vagy szórásnégyzetének a becslése. Formálisan ez a feladat csak az előbb megfogalmazott becslési feladat egy általánosabb megfogalmazásaként tárgyalható, mert az összes lehetséges eloszlást tekintjük, és az összes eloszlásfüggvényt tartalmazó függvénycsalád nem paraméterezhető véges sok paraméter segítségével. Továbbá nem kívánjuk magát az eloszlást meghatározni, csak annak egy fontos paraméterét. Az ilyen feladatokat nem paraméteres becsléseknek nevezik az irodalomban. De ilyenkor is beszélhetünk a paraméter torzítatlan vagy aszimptotikusan torzítatlan becsléséről, amit az előzőekhez hasonlóan definiálunk.

6.) Legyen adva független F (x) eloszlású valószínűségi változók ξ_{1}, …, xi_{n} sorozata

Mutassuk meg, hogy az ξ̄ = \frac{1}{n} ∑_{k=1}^{n} ξ_{k} átlag a várható érték torzítatlan becslése. Ha

ismerjük a ξ valószínűségi változók μ várható értékét, akkor az S̄_{n}^{2} = \frac{1}{n} ∑_{j=1}^{n}(ξ_{j} −μ)^{2}

kifejezés felírható, és ez a szórásnégyzet torzítatlan becslése. Megoldás: A várható érték tulajdonsága alapján

Eξ̄ = E (\frac{1}{n} ∑_{k=1}^{n} ξ_{k}) = \frac{1}{n} ∑_{k=1}^{n} Eξ_{k} = Eξ_{1},

és ES̄_{n}^{2} = E (\frac{1}{n} ∑_{j=1}^{n}(ξ_{j} − μ)^{2}) = \frac{1}{n} ∑_{j=1}^{n} E(ξ_{j} − μ)^{2} = E(ξ_{1} − μ)^{2} = Var ξ_{1}. Ezt

kellett belátnunk. 7.) Legyen adva független F (x) eloszlású valószínűségi változók ξ_{1}, …, ξ_{n} sorozata

Mutassuk meg, hogy az S_{n}^{2} = \frac{1}{n−1} ∑_{j=1}^{n}(ξ_{j} − ξ̄)^{2} kifejezés, ahol ξ̄ = \frac{1}{n} ∑_{k=1}^{n} ξ_{k}, a

szórásnégyzet torzítatlan becslése. Megoldás: Írjuk át az S_{n}^{2} kifejezést számunkra alkalmasabb alakban.

S_{n}^{2} = \frac{1}{n − 1} ∑_{j=1}^{n}(ξ_{j} − ξ̄)^{2} = \frac{1}{n − 1} ∑_{j=1}^{n}(ξ_{j}^{2} + ξ̄^{2} − 2ξ̄ξ_{j})

= \frac{1}{n − 1} (∑_{j=1}^{n} ξ_{j}^{2} − nξ̄^{2}) = \frac{1}{n − 1} ∑_{j=1}^{n} ξ_{j}^{2} − \frac{1}{(n − 1)n} (∑_{j=1}^{n} ξ_{j})^{2} .

Továbbá, E ∑_{j=1}^{n} ξ_{j}^{2} = nEξ_{1}^{2}, E ( ∑_{j=1}^{n} ξ_{j})^{2} = ∑_{j=1}^{n} Eξ_{j}^{2} + 2 ∑_{1≤j<k≤n} Eξ_{j}ξ_{k} = nEξ_{1}^{2} +

n(n − 1)Eξ_{1}ξ_{2} = nEξ_{1}^{2} + n(n − 1)(Eξ_{1})^{2}. Innen ES_{n}^{2} = \frac{1}{n−1}nEξ_{1}^{2} − \frac{1}{n−1}Eξ_{1}^{2} − (Eξ_{1})^{2} = Eξ_{1}^{2} − (Eξ_{1})^{2} = Var ξ_{1}.

A hipotézisvizsgálat azzal a kérdéssel foglalkozik, hogy azt a hipotézist (feltételezést), mely szerint egy véletlen mennyiség valamilyen előírt eloszlású vagy vagy valamely előírt eloszlások családjába tartozik hogyan ellenőzízzük bizonyos megfigyelések alapján. E kérdés tárgyalásakor érdemes bevezetni a következő fogalmakat.

Nullhipotézis és ellenhipotézis, egyszerű és összetett hipotézis fogalma. A hipotézisvizsgálat feladata a következő: Adott eloszlásfüggvények egy Λ_{0} és Λ_{1} családja. Egy véletlen mennyiség ismeretlen F (x) eloszlása vagy a Λ_{0} vagy a Λ_{1} eloszlásfügggvény családba tartozik, (más lehetőség nincsen.) Azt akarjuk eldönteni független F (x) eloszlású valószínűségi változók megfigyelése alaján, melyik eset áll fenn. Az a feltevésünk, hogy F ∈ Λ_{0}. Ezt a feltevést null-hipotézisnek, az F ∈ Λ_{1} feltevést ellenhipotézisnak nevezik. Ha Λ_{0} egyetlen eloszlásból áll, akkor a null-hipotézist egyszerűnek, ha több elemből áll, akkor összetettnek nevezik. Hasonló terminológiát lehet használni a Λ_{1} ellenhipotézisre is.

A hipotézisvizsgálat alapfeladata, első és másodfajú hiba fogalma. Legyen adva a null-hipotézisek Λ_{0} és ellenhipotézisek Λ_{1} családja, valamint ismert független F (x) eloszlású valószínűségi változók ξ_{1}, …, ξ_{n} sorozata. Definiáljuk az R^{n} Euklideszi tér valamely alkalmasan definiált A ⊂ R^{n} részhalmazát, és hozzuk a következő döntést. Ha (ξ_{1}, …, ξ_{n}) ∈ A akkor a null-hipotézist fogadjuk el, ha (ξ_{1}, …, ξ_{n}) ∉ A akkor az ellenhipotézist fogadjuk el. Elsőfajú hibának a

sup_{F ∈Λ_{0}} P_{F} ((ξ_{1}, …, ξ_{n}) ∉ A)

másodfajú hibának a

sup_{F ∈Λ_{1}} P_{F} ((ξ_{1}, …, ξ_{n}) ∈ A)

mennyiséget nevezzük, ahol P_{F} ((ξ_{1}, …, ξ_{n}) ∈ A) annak a valószínűségét jelöli, hogy ξ_{1}, …, ξ_{n} független, F eloszlású valószínűségi változók sorozata az A halmazba esik. Az elsőfajú hiba a null-hipotézis elutasításának a valószínűségét jelenti abban a legkellemetlenebb esetben, amikor azt el kellene fogadni. A másodfajú hiba a null-hipotézis elfogadását jelenti a legkellemetlenebb esetben, amikor azt el kellene utasítani. A hipotézisvizsgálat feladata a követező. Rögzítsünk egy ε > 0 számot, és keressünk olyan döntési eljárást, amelyben az elsőfajú hiba kisebb vagy egyenlő, mint ε, és minimalizáljuk eme feltétel mellett a másodfajú hibát.

Röviden ismertetem a konfidencia intervallum (konfidencia=megbízhatóság) problémáját is, ami a becsléselmélet problémájának természetes folytatása.

Konfidencia intervallum konstrukciójának a feladata. Legyen adva F (x, λ) eloszlásfüggvények egy családja, független F (x, λ_{0}) eloszlású ξ_{1}, …, ξ_{n} valószínűségi változók egy sorozata. Legyen adva a λ_{0} paraméter egy jó λ̂_{0} = T (ξ_{1}, …, ξ_{n}) becslése. Rögzítsünk egy kis ε > 0 pozitív számot. A konfidencia intervallum konstrukciójá olyan a ξ_{1}, …, ξ_{n} megfigyelésektől függő lehetőleg kicsi λ̃_{0,1,n} = U_{1}(ξ_{1}, …, ξ_{n}) és λ̃_{0,2,n} = U_{2}(ξ_{1}, …, ξ_{n}) végpontú véletlen [λ̃_{0,1,n}, λ̃_{0,2,n}] intervallum konstrukcióját jelenti, amelyre

P (λ_{0} ∈ [λ̃_{0,1,n}, λ̃_{0,2,n}] ≥ 1 − ε.

Azaz olyan intervallumot keresünk, amelybe az ismeretlen paraméter majdnem biztos, hogy beleesik, pontosabban ennek valószínűsége legalább 1 − ε.