\magnification=\magstep1
\input amstex
\hsize=16truecm
 
\parskip=3pt plus 1pt
\define\A{{\bold A}}
\define\BB{{\bold B}}
\define\DD{{\bold D}}
\define\T{{\bold T}}
\define\U{{\bold U}}
\define\({\left(}
\define\){\right)}
\define\[{\left[}
\define\]{\right]}
\define\e{\varepsilon}
\define\oo{\omega}
\define\const{\text{\rm const.}\,}
\define\Var{\text{\rm Var}\,}
\define\supp {\sup\limits}
\define\inff{\inf\limits}
\define\summ{\sum\limits}
\define\prodd{\prod\limits}
\define\limm{\lim\limits}
\define\limsupp{\limsup\limits}
\define\liminff{\liminf\limits}
\define\bigcapp{\bigcap\limits}
\define\bigcupp{\bigcup\limits}
 
%\nopagenumbers
 
 
\noindent{\bf A december 5-i szemin\'arium t\'em\'aja}
\hfill\break {\it R\"ovid \"osszefoglal\'o} \bigskip\noindent
 
A matematikai statisztika rendk\'{\i}v\"ul fontos t\'em\'ai a
becsl\'eselm\'elet, a hi\-po\-t\'e\-zis\-vizs\-g\'a\-lat \'es
konfidenica intervallumok meghat\'aroz\'asa. A gyakorlat utols\'o
k\'et \'or\'aj\'an ezzekkel a t\'em\'akkal foglalkozunk. Ennek a
gyakorlatnak a t\'em\'aja a becsl\'eselm\'elet. A tipikus
becsl\'eselm\'eleti probl\'em\'ak a k\"ovetkez\H{o} jelleg\H{u}ek.
 
\item{} Adott f\"uggetlen, egyforma eloszl\'as\'u
val\'osz\'{\i}n\H{u}s\'egi v\'altoz\'ok egy $\xi_1,\dots,\xi_n$
sorozata, melyek eloszl\'asa valamely $F_\vartheta(\cdot)$
el\-osz\-l\'as\-f\"ugg\-v\'eny valamilyen ismeretlen $\vartheta$
pa\-ra\-m\'e\-ter\-rel. Becs\"ulj\"uk meg ezt a $\vartheta$
param\'etert, azaz az $F_\vartheta(\cdot)$ eloszl\'asf\"uggv\'enyt
min\'el jobban. Form\'alisan, defini\'aljunk olyan $T_n(x_1,\dots,x_n)$
$n$-v\'altoz\'os f\"uggv\'enyt, melyre a megfigyelt
v\'eletlen $\xi_1,\dots,\xi_n$ sorozat seg\'{\i}ts\'eg\'evel
kisz\'am\'{\i}that\'o $\hat\vartheta_n=T_n(\xi_1,\dots,\xi_n)$
val\'osz\'{\i}n\H{u}s\'egi v\'altoz\'o valamilyen \'ertelemben j\'ol
k\"ozel\'{\i}ti az ismeretlen $\vartheta$ param\'etert.
 
\item{} Vizsg\'alhatjuk azt az \'altal\'anosabb probl\'em\'at, amikor
az ismeretlen $F_{\vartheta_1,\dots,\vartheta_k}(\cdot)$
el\-osz\-l\'as\-f\"ugg\-v\'eny $k$ ismeretlen
$\vartheta_1,\dots,\vartheta_k$ pa\-ra\-m\'e\-te\-r\-t\H{o}l f\"ugg,
(ahol $k$ valamely r\"ogz\'{\i}tett eg\'esz sz\'am,) \'es
becs\"ulj\"uk meg az \"osszes $\vartheta_1,\dots,\vartheta_k$
param\'etert. El\H{o}fordulhat olyan eset is, amikor ezen ismeretlen
param\'eterek k\"oz\"ul csak n\'eh\'anyat akarunk megbecs\"ulni, de
nem mindegyiket. Az ilyen jelleg\H{u} probl\'em\'akat nevezz\"uk
pa\-ra\-m\'e\-te\-res becs\-l\'e\-si prob\-l\'e\-m\'a\-nak.
El\H{o}fordulhat, hogy a k\"ovetkez\H{o} probl\'em\'aval foglalkozunk.
Adott f\"uggetlen, egyforma eloszl\'as\'u val\'osz\'{\i}n\H{u}s\'egi
v\'altoz\'ok egy $\xi_1,\dots,\xi_n$ sorozata, melyek eloszl\'asa
valamely ismeretlen $F(\cdot)$ eloszl\'asf\"uggv\'eny. Jelen
esetben nem tudunk semmit az ismeretlen eloszl\'asf\"uggv\'enyr\H{o}l.
Becs\"ulj\"uk meg a $\xi_k$ val\'osz\'{\i}n\H{u}s\'egi
v\'altoz\'ok v\'ar\-ha\-t\'o \'er\-t\'e\-k\'et,
sz\'o\-r\'as\-n\'egy\-ze\-t\'et vagy az eloszl\'as\'at. Az ilyen
probl\'em\'akat h\'{\i}vj\'ak nem param\'eteres
becsl\'esprobl\'em\'anak.
 
El\H{o}sz\"or tekint\"unk n\'eh\'any p\'eld\'at.
 
\item{1.} Egy p\'enzdarabot sokszor egym\'as ut\'an feldobunk.
Becs\"ulj\"uk meg annak a va\-l\'o\-sz\'{\i}\-n\H{u}\-s\'e\-g\'et,
hogy a p\'enzdarab a fej-oldalra esik.
 
\item{} \'Irjunk 1-t fejdob\'as \'es 0-t \'{\i}r\'asdob\'as eset\'en.
Ekkor a probl\'ema  form\'alisan a k\"ovetkez\H{o} m\'odon
fogalmazhat\'o meg: Adott f\"uggetlen $B(1,p)$ eloszl\'as\'u
(binomi\'alis eloszl\'as\'u, 1 \'es $p$ param\'eterekkel),
val\'osz\'{\i}n\H{u}s\'egi v\'altoz\'ok $\xi_1,\dots,\xi_n$ sorozata
(az egyes dob\'asok eredm\'enyei), ahol a $p$ param\'eter ismeretlen.
Becs\"ulj\"uk meg ezt az ismeretlen $p$ pa\-ra\-m\'e\-tert.
 
\item{} A term\'eszetes becsl\'es, $\hat p_n=\dfrac1n
\summ_{k=1}^n\xi_k$, azaz
$T_n(x_1,\dots,x_n)=\dfrac1n\summ_{k=1}^nx_k$. Ekkor
$$
\hat p_n=T_n(\xi_1,\dots,\xi_n)=\dfrac1n\summ_{k=1}^n\xi_k=
\dfrac{\text{A fejdob\'asok sz\'ama}}n.
$$
A nagy sz\'amok t\"orv\'enye szerint $\hat p_n\Rightarrow p$, ahol
$\Rightarrow$ sztochasztikus konvergenci\'at jel\"ol, azaz
$\limm_{n\to\infty}P(|\hat p_n-p|>\e)\to0$ minden $\e>0$ sz\'amra.
\item{2.} Arra vagyunk kiv\'ancsiak, hogy egy dob\'okocka milyen
val\'osz\'{\i}n\H{u}s\'eggel esik k\"u\-l\"on\-b\"o\-z\H{o} oldalaira.
Ennek meghat\'aroz\'asa \'erdek\'eben a dob\'okock\'at feldobjuk
sokszor, \'es megjegyezz\"uk, hogy a k\"ul\"onb\"oz\H{o} dob\'asok
sor\'an melyik oldal\'ara esett a kocka.
\item{} Form\'alisan megfogalmazva a probl\'ema a k\"ovetkez\H{o}:
Adott $F_{p_1,\dots,p_6}$ eloszl\'assorozat, (ez az eloszl\'ascsal\'ad
val\'oj\'aban csak 5 param\'etert\H{o}l f\"ugg, mert a
$p_1+\cdots+p_6=1$ rel\'aci\'o teljes\"ul.) \'ugy, hogy egy
$F_{p_1,\dots,p_6}$ eloszl\'as\'u $\xi$ val\'osz\'{\i}n\H{u}s\'egi
v\'altoz\'ora $P(\xi=j)=p_j$, $j=1,2,\dots,6$. Becs\"ulj\"uk meg az
ismeretlen $p_j$ param\'etereket. A term\'eszetes becsl\'es a
k\"ovetkez\H{o}:
$$
\hat p_j=\frac{\text{A $j$ eredm\'eny\H{u} dob\'asok sz\'ama}}n,
\quad 1\le j\le6.
$$
Form\'alisan, $\hat p_j=T_j(\xi_1,\dots,\xi_n)$, $1\le j\le n$, ahol
$$
T_j(x_1,\dots,x_n)=\dfrac{\text{ a $j$ \'ert\'ekek sz\'ama az
$x_1,\dots,x_n$ sorozatban}}n.
$$
A nagy sz\'amok t\"orv\'enye alapj\'an
\'erv\'enyes a $\hat p_j \Rightarrow p_j$, $1\le j\le 6$ rel\'aci\'o,
ahol $\Rightarrow$ sztochasztikus konvergenci\'at jel\"ol.
\item{} E feladat egy m\'odos\'{\i}tott v\'altozata: Az el\H{o}z\H{o}
probl\'em\'at tekintj\"uk, de minket csak az \'erdekel, hogy milyen
val\'osz\'{\i}n\H{u}s\'eggel esik a kocka a hatos oldalra. Ez egy
term\'eszetes p\'elda arra, amikor egy t\"obb param\'etert\H{o}l
f\"ugg\H{o} eloszl\'ascsal\'adot figyel\"unk meg, de minket csak
n\'eh\'any, (jelen esetben egy) param\'eter \'ert\'eke \'erdekel.
\item{3.} Ledobunk egym\'ast\'ol f\"uggetlen\"ul $n$ pontot, melyek
egy $[\vartheta,\vartheta+1]$ intervallumba esnek egyenletes
eloszl\'assal, azaz annak val\'osz\'{\i}n\H{u}s\'ege, hogy egy pont a
$[\vartheta,\vartheta+1]$ egy r\'eszintervallum\'aba esik megegyezik
ennek az intervallumnak a hossz\'aval. Jel\"olje $\xi_1,\dots,\xi_n$
a ledobott pontok hely\'et. Becs\"ulj\"uk meg ezek ismeret\'eben az
ismeretlen $\vartheta$ param\'etert.
\item{} Err\H{o}l a feladatr\'ol m\'ar volt sz\'o a november 14-i
gyakorlaton. Megbesz\'elt\"uk, hogy k\'et term\'eszetes becsl\'es
jelenik meg. Az egyik: $\tilde
\vartheta_n=\dfrac{\xi_1+\cdots+\xi_n}n-\dfrac12$, a m\'asik
$\hat \vartheta_n=\dfrac{\xi^*_1+\xi^*_n}n-\dfrac12$, ahol
$\xi_1^*<\xi_2^*<\cdots<\xi_n^*$, a $\xi_1,\dots,\xi_n$ (v\'eletlen)
sz\'amok nagys\'ag szerinti sorrendbe rakva. (Ezt h\'{\i}vj\'ak az
irodalomban rendezett mint\'anak.) L\'attuk, hogy mind a k\'et
becsl\'es j\'o, de a m\'asodik becsl\'es jobb az els\H{o}n\'el a
k\"ovetkez\H{o} \'ertelemben: $E\tilde\vartheta_n=\vartheta$, \'es
$E\hat\vartheta_n=\vartheta$, azaz mind a k\'et becsl\'es v\'arhat\'o
\'ert\'eke megegyezik a keresett param\'eterrel. Viszont a v\'arhat\'o
\'ert\'ek k\"or\"uli ingadoz\'ast term\'eszetes m\'odon m\'er\H{o}
sz\'or\'asn\'egyzetekre a k\"ovetkez\H{o} rel\'aci\'o \'erv\'enyes:
$\Var\tilde\vartheta_n=\dfrac1{12n}$, \'es
$\Var\hat\vartheta_n=\dfrac1{2(n+1)(n+2)}$. Ez\'ert
$\Var\tilde\vartheta_n\ge\Var\hat\vartheta_n$ minden $n\ge2$ sz\'amra.
\item{4.} Legyen egy l\'ampa \'elettartama exponenci\'alis
eloszl\'as\'u val\'osz\'{\i}n\H{u}s\'egi v\'altoz\'o is\-me\-ret\-len
$\lambda$ param\'eterrel, azaz $f(x)=\lambda e^{-\lambda x}$, ha
$x\ge0$, \'es $f(x)=0$, ha $x\le 0$. Megvizsg\'aljuk $n$ l\'ampa
\'elettertam\'at. Ezek (egym\'ast\'ol f\"uggetlen) $\xi_1,\dots,\xi_n$
exponenci\'alis eloszl\'as\'u val\'osz\'{\i}n\H{u}s\'egi v\'altoz\'ok
$\lambda$ param\'eterrel. Becs\"ulj\"uk meg a $\lambda$ param\'etert.
 
\item{} Els\H{o} r\'an\'ez\'esre nem tudunk kital\'alni egy
term\'eszetes becsl\'est erre a $\lambda$ param\'eterre.
Term\'eszetes k\'{\i}v\'ans\'ag egy olyan \'altal\'anos elv
megfogalmaz\'asa, mely az \'altal\'anos esetben, p\'eld\'aul erre a
probl\'em\'ara is egy j\'o m\'odszert ad egy ismeretlen param\'eter
becsl\'es\'ere. Ilyen m\'odszer az al\'abb ismertetett maximum
likelihood m\'odszer. Ez \'altal\'anos elvet fogalmaz meg ismeretlen
param\'eter(ek) becsl\'es\'ere. M\'asik j\'o tulajdons\'aga
a maximum likelihood m\'odszernek az, hogy bizonyos itt nem
ismertetett eredm\'enyek azt mondj\'ak ki, hogy  a maximum likelihood
m\'odszer \'altal\'anos fel\-t\'e\-te\-lek eset\'en nagy
mintaelemsz\'am eset\'en aszimptotikusan optim\'alis elj\'ar\'ast
ny\'ujt. \medskip \noindent
{\bf Maximum likelihood m\'odszer.} {\it Legyen adva
eloszl\'asf\"uggv\'enyeknek egy $\lambda$ vagy v\'eges sok
$(\lambda_1,\dots,\lambda_k)$ val\'os sz\'amal param\'eterezett csal\'adja,
melyeknek van
$$
f_\lambda(x)=f(\lambda,x) \quad\text{vagy}\quad
f_{\lambda_1,\dots,\lambda_k}(x)=f(\lambda_1,\dots,\lambda_k,x),\quad
-\infty<x<\infty,
$$
alak\'u s\H{u}r\H{u}s\'egf\"uggv\'eny\"uk. Legyen
$\xi_1,\dots,\xi_n$ f\"uggetlen, egyforma eloszl\'as\'u
va\-l\'o\-sz\'{\i}\-n\H{u}\-s\'e\-gi v\'altoz\'ok sorozata ezzel az
$f_\lambda(x)=f(\lambda,x)$ vagy $f(\lambda_1,\dots,\lambda_k,x)$
s\H{u}r\H{u}s\'egf\"uggv\'ennyel az ismeretlen $\lambda$ param\'eterrel
vagy ismeretlen $(\lambda_1,\dots,\lambda_k)$ param\'etercsal\'addal.
Ekkor a $\xi_1,\dots,\xi_n$ sorozat egy\"uttes
s\H{u}r\H{u}s\'egf\"uggv\'enye az $f(\lambda,x_1,\dots,x_n)=
\prodd_{j=1}^nf(\lambda,x_j)$ illetve az
$f(\lambda_1,\dots,\lambda_k,x_1,\dots,x_n)=
\prodd_{j=1}^nf(\lambda_1,\dots,\lambda_k,x_j)$ $n$-dimenzi\'os
s\H{u}r\H{u}s\'egf\"uggv\'eny. Helyettes\'{\i}ts\"uk be ebbe a
param\'eterekt\H{o}l f\"ugg\H{o} s\H{u}r\H{u}s\'egf\"uggv\'enybe a
megfigyelt $\xi_1,\dots,\xi_n$ val\'osz\'{\i}n\H{u}s\'egi
v\'altoz\'okat, azaz tekints\"uk az
$$
f(\lambda_1,\dots,\lambda_k,\xi_1,\dots,\xi_n)\quad\text{illetve
az}\quad f(\lambda_1,\dots,\lambda_k,\xi_1,\dots,\xi_n)
$$
val\'osz\'{\i}n\H{u}s\'egi v\'altoz\'ot. Azt mondjuk, hogy a $\hat
\lambda(\xi_1,\dots,\xi_n)$ (v\'eletlen) sz\'am maximum likelihood
becsl\'ese a $\lambda$ param\'eternek, a
$\hat\lambda_j(\xi_1,\dots,\xi_n)$, $1\le j\le k$, (v\'eletlen) $k$
dimenzi\'os vektor maximum likelihood becsl\'ese a
$(\lambda_1,\dots,\lambda_k)$ vektornak, ha ez a sz\'am illetve
vektor (lok\'alis) maximuma az $f(\lambda,\xi_1,\dots,\xi_n)$ illetve
az $f(\lambda_1,\dots,\lambda_k,\xi_1,\dots,\xi_n)$ f\"uggv\'enynek
r\"ogz\'{\i}tett $\xi_1,\dots,\xi_n$ sz\'amra.} \medskip \noindent
{\bf Megjegyz\'es:} {\it A maximum likelihood becsl\'esben lehet a
s\H{u}r\H{u}s\'egf\"uggv\'eny maximuma helyett annak logaritmus\'at
vizsg\'alni, azaz a $\log f(\lambda,\xi_1,\dots,\xi_n)=
\summ_{j=1}^n\log f(\lambda,\xi_j)$, illetve a
$\log f(\lambda_1,\dots,\lambda_k,\xi_1,\dots,\xi_n)=
\summ_{j=1}^n \log f(\lambda_1,\dots,\lambda_k,\xi_j)$ f\"uggv\'eny
maximum\'at keresni. Ez a
$$
\summ_{j=1}^n\frac{d\log f(\lambda,\xi_j)}{d\lambda}=0
$$
egyenlethez, illetve az
$$
\summ_{j=1}^n\frac{\log f(\lambda_1,\dots,\lambda_k,\xi_j)}{\partial
\lambda_j}=0,\quad 1\le j\le k,
$$
egyenletrendszerhez vezet.} \medskip\noindent
{\bf 2.~Megjegyz\'es:} {\it A maximum likelihood becsl\'es m\'odszer
term\'eszetes m\'odon megfogalmazhat\'o abban az esetben is, amikor a
vizsg\'alt eloszl\'asf\"uggv\'enycsal\'ad
el\-osz\-l\'as\-f\"ugg\-v\'e\-nyei\-nek nincs
s\H{u}r\H{u}s\'egf\"uggv\'eny\"uk, hanem p\'eld\'aul r\'acsos
eloszl\'as\'uak. Ebben az esetben, ha az eloszl\'asok bizonyos $m$
\'ert\'ekeket vehetnek fel $p_\lambda(m)=p(\lambda,m)$ vagy
$p_{\lambda_1,\dots,\lambda_k}(m)=p(\lambda_1,\dots,\lambda_k, m)$
val\'osz\'{\i}n\H{u}s\'eggel, ($\summ_m p(\lambda,m)=1$, illetve
$\summ_m p(\lambda_1,\dots,\lambda_k, m)=1$.) Megfigyel\"unk
egym\'ast\'ol f\"uggetlen $\xi_j=m_j$, $1\le j\le n$, \'ert\'ekeket,
\'es a maximum likelihood elv alapj\'an a $\prodd_{j=1}^n
p(\lambda,m_j)$, illetve $\prodd_{j=1}^n
p(\lambda_1,\dots,\lambda_k,,m_j)$ kifejez\'es maximum\'at ad\'o
$\hat\lambda$ illetve $\hat\lambda_j$, $1\le j\le k$, \'ert\'ekek
adj\'ak meg a maximum likelihood becsl\'est.} \medskip
Sz\'am\'{\i}tsuk ki, hogy milyen becsl\'est sugall a maximum
likelihood m\'odszer a most vizsg\'alt probl\'ema eset\'eben.
 
Jelen esetben a $(\xi_1,\dots,\xi_n)$ vektor  
s\H{u}r\H{u}s\'egf\"uggv\'enye a 
$$
\prodd_{j=1}^n\lambda
e^{-\lambda x_j}= \lambda^n \exp\left\{-\lambda\summ_{k=1}^n
x_j\right\}
$$ 
f\"uggv\'eny. Ennek logaritmusa az
$n\log\lambda-\lambda\summ_{k=1}^n x_j$ f\"uggv\'eny.
Ez\'ert a maximum likelihood m\'odszer az
$\dfrac n{\hat\lambda_n}=\summ_{j=1}^n \xi_j$ egyenlethez \'es a
$\hat\lambda_n=\dfrac n{\summ_{j=1}^n \xi_j}$ becsl\'eshez vezet.
Jegyezz\"uk meg, hogy egy $\lambda$ param\'eter\H{u} exponenci\'alis
eloszl\'as\'u val\'osz\'{\i}n\H{u}s\'egi v\'altoz\'o v\'arhat\'o
\'ert\'eke $\dfrac1\lambda$. Ez\'ert a nagy sz\'amok t\"orv\'enye azt
adja, hogy  $\hat\lambda_n\Rightarrow \lambda$.
\medskip
N\'ezz\"uk meg milyen becsl\'est sugall a maximum likelihood
m\'odszer a kor\'abban t\'argyalt probl\'em\'akban. Az els\H{o}
feladatban, amikor egy p\'enzdarab fej oldal\'ara val\'o es\'ese\'enek
a val\'osz\'{\i}n\H{u}s\'eg\'et kell becs\"uln\"unk, jel\"olj\"uk
$k$-val a fejdob\'asok (v\'eletlen) sz\'am\'at $n$ dob\'as eset\'en.
Ekkor $p$ param\'eter eset\'en annak a val\'osz\'{\i}n\H{u}s\'ege,
hogy pontosan $k$ fej\-do\-b\'as k\"ovetkezett be $P_p(k)=\dbinom
nkp^k(1-p)^{n-k}$, ennek logaritmusa pedig
$\log P_p(k)=\const \(k\log p+(n-k)\log(1-p)\)$, ahol a $\const$
f\"ugghet a $k$ sz\'amt\'ol, de nem f\"ugg az ismeretlen $p$
param\'etert\H{o}l. Ez\'ert a maximum likelihood m\'odszer \'altal
sugallt a $p$ param\'eter szerinti deriv\'al\'as a $\dfrac k{\hat
p_n}-\dfrac{n-k}{1-\hat p_n}=0$ egyenlethez, \'es a
$\hat p_n=\dfrac kn$ becsl\'eshez vezet. Ez az eredetileg megadott
becsl\'es.
 
A m\'asodik feladatban hasonl\'o a helyzet. Annak a
val\'osz\'{\i}n\H{u}s\'ege, hogy $k_j$ $j$-es dob\'as k\"ovetkezik be
$n$ kis\'erletben, $1\le j\le 6$, $k_1+\cdots+k_6=n$, $p_j$, $1\le
j\le 6$ eset\'eben
$$
P_{p_1,\dots,p_6}=\dfrac{n!}{k_1!\cdots k_6!} p_1^{k_1}\cdots p_6^{k_6}
=\dfrac{n!}{k_1!\cdots k_6!} p_1^{k_1}\cdots
p_5^{k_5}(1-p_1-\cdots-p_5)^{k_6}.
$$
E kifejez\'esben logaritmust v\'eve, majd az \'{\i}gy kapott
kifejez\'esnek v\'eve a parci\'alis deriv\'altj\'at a $p_1,\cdots,p_5$
v\'altoz\'ok szerint kapjuk a
$$
\dfrac {k_j}{\hat p_{j,n}}=\frac{k_6}{1-\hat p_{1,n}-\cdots-\hat
p_{5,n}},\quad 1\le j\le 5,
$$
egyenleteket. Ezeket az egyenleteket \"osszehasonl\'{\i}tva (\'es
felhaszn\'alva, hogy az egyenletek jobboldala nem f\"ugg a $j$
indext\H{o}l) kapjuk, hogy $\dfrac{\hat p_{j,n}}{\hat
p_{s,n}}=\dfrac{k_j}{k_s}$ minden $1\le j,s\le 6$ sz\'amra, azaz
$C\hat p_{j,n}=k_j$, $1\le j\le 5$, valamilyen ismeretlen $C$
konstanssal. Ezt be\'{\i}rva az egyenletekbe kapjuk, hogy
$k_6=C-(k_1+\cdots+k_5)$, ahonnan mivel $\summ_{j=1}^6 k_j=n$, $C=n$,
\'es $\hat p_{j,n}=\dfrac{k_j}n$. Azaz a maximum likelihood m\'odszer
ebben az esetben is az eredetileg javasolt becsl\'est adja.
Megjegyezz\"uk, hogy a fenti sz\'els\H{o}\'ert\'ek feladatot
egyszer\H{u}bben kisz\'am\'{\i}thattuk volna a felt\'eteles
sz\'els\H{o}\'ert\'ek kisz\'am\'{\i}t\'as\'ara kidolgozott Lagrange
f\'ele multiplik\'ator m\'odszerrel.
 
A harmadik feladatban a $\(\xi_1,\dots,\xi_n\)$ v\'eletlen vektor
s\H{u}r\H{u}s\'egf\"uggv\'enye 1, ha mindegyik $(\xi_1,\dots,\xi_n)$
pont a $[\vartheta,\vartheta+1]$ intervallum belsej\'eben van, azaz
$\vartheta\le \xi_1^*<\xi_n^*\le \vartheta+1$, egy\'ebk\'ent pedig
z\'er\'o. Ez\'ert a vizsg\'aland\'o f\"uggv\'enynek nincs szigor\'u
maximuma. Vi\-szont szimmetriaokokb\'ol term\'eszetes azt a
becsl\'est tekinteni, melyre a $[\hat\vartheta_n,\hat\vartheta_n+1]$
intervallum a $[\xi^*_1,\xi^*_n]$ intervallumot k\"oz\'epen
tartalmazza, \'es ez a tekintett
$\hat\vartheta_n=\dfrac{\xi_1^*+\xi_n^*}2-\dfrac12$ becsl\'es.
\medskip
\item{5.} Tekints\"uk a k\"ovetkez\H{o} feladatot. Megfigyel\"unk
$\xi_1,\dots,\xi_n$ f\"uggetlen, azonos el\-osz\-l\'a\-s\'u
val\'osz\'{\i}n\H{u}s\'egi v\'altoz\'okat ismeretlen
$F(x)$ eloszl\'asf\"uggv\'ennyel. Becs\"ulj\"uk meg:
\itemitem{a.} Az ismeretlen $F(x)$ eloszl\'asf\"uggv\'enyt,
\itemitem{b.} A $\xi_j$ val\'osz\'{\i}n\H{u}s\'egi v\'altoz\'ok
v\'arhat\'o \'ert\'eket,
\itemitem{c.} A $\xi_j$ val\'osz\'{\i}n\H{u}s\'egi
sz\'or\'asn\'egyzet\'et.
\item{} Ezek a feladatok tipikus p\'eld\'ai az \'ugynevezett nem
parametrikus becsl\'eselm\'eletnek. Ugyanis nem lehet az \"osszes
lehets\'eges eloszl\'asf\"uggv\'enyt term\'eszetes m\'odon
v\'eges sok param\'eterrel param\'eterezni.
\item{a.} Az a.) esetben, az $F(x)$ eloszl\'asf\"uggv\'eny becsl\'ese
eset\'en term\'eszetes becsl\'es az \'ugynevezett empirikus
eloszl\'asf\"uggv\'eny, azaz
$$
\align
F_n(x)=F_n(x,\xi_1,\dots,\xi_n)&=\dfrac{\text{Azon $1\le k\le n$
indexek sz\'ama, melyekre $\xi_k<x$}}n,\\
&\qquad -\infty<x<\infty.
\endalign
$$
Be lehet l\'atni, hogy
$\supp_{-\infty<x<\infty}|F_n(x)-F(x)|\Rightarrow0$, ha
$n\to\infty$ minden $F$ el\-osz\-l\'as\-f\"ugg\-v\'eny eset\'en. Ez
az \'or\'an is t\'argyalt eredm\'eny azt a t\'enyt fejezi ki, hogy
az empirikus eloszl\'asf\"uggv\'eny val\'oban j\'o becsl\'ese az
eloszl\'asf\"uggv\'enynek.
\itemitem{b.} A v\'arhat\'o \'ert\'ek term\'eszetes becsl\'ese
$M_n=M_n(\xi_1,\dots,\xi_n)=\dfrac1n\summ_{k=1}^n\xi_k$. Nem neh\'ez
bel\'atni, hogy $EM_n(\xi_1,\dots,\xi_n)=E\xi_1$. Tov\'abb\'a, a nagy
sz\'amok t\"orv\'enye alapj\'an $M_n(\xi_1,\dots,\xi_n)\Rightarrow
E\xi_1$, ahol $\Rightarrow$ sztochasztikus konvergenci\'at jel\"ol.
\itemitem{c.} A Sz\'or\'asn\'egyzet szok\'asos becsl\'ese a
k\"ovetkez\H{o} becsl\'es: $D_n^2=D^2_n(\xi_1,\dots,\xi_n)
=\dfrac1{n-1}\summ_{k=1}^n\(\xi_k-M_n\)^2$, ahol az
$M_n=M_n(\xi_1,\dots,\xi_n)$ sz\'amot az el\H{o}z\H{o}ekben
defini\'altuk. Tal\'an meglep\H{o}, hogy ebben a k\'epletben $n-1$-gyel
osztottunk \'es nem $n$-nel. Ennek egy\'ebk\'ent nagy $n$
mintaelemsz\'am eset\'en kicsi a jelent\H{o}s\'ege. Ennek
oka az, hogy mint azt n\'emi (nem neh\'ez) sz\'amol\'as mutatja, ezzel
a v\'alaszt\'assal $ED^2_n(\xi_1,\dots,\xi_n)=\Var\xi_1$. N\'emi
tov\'abbi sz\'amol\'as azt is mutatja, hogy $\limm_{n\to\infty}\Var
D^2_n(\xi_1,\dots,\xi_n)=0$. Ezekb\H{o}l az eredm\'enyekb\H{o}l,
illetve a Csebisev egyenl\H{o}tlens\'egb\H{o}l kapjuk, hogy
$D^2_n(\xi_1,\dots,\xi_n)\Rightarrow\Var\xi_1$, ahol $\Rightarrow$
sztochasztikus konvergenci\'at jel\"ol.
\medskip
V\'eg\"ul megfogalmazunk n\'eh\'any fontos fogalmat, elvet, melyek
fontosak a becs\-l\'es\-el\-m\'e\-let\-ben.
 
Legyen adva $F_\lambda(x)$, val\'osz\'{\i}n\H{u}s\'egi eloszl\'asok
egy csal\'adja, \'es adott $n$-re $\xi_1,\dots,\xi_n$ f\"uggetlen,
egyforma eloszl\'as\'u val\'osz\'{\i}n\H{u}s\'egi v\'altoz\'ok
sorozata, $F_\lambda$ eloszl\'assal, ahol $\lambda$ ismeretlen
param\'eter. Azt mondjuk, hogy egy $n$-v\'altoz\'os
$T(x_1,\dots,x_n)=T_n(x_1,\dots,x_n)$ f\"uggv\'eny becsl\'est ad az
ismeretlen $\lambda$ param\'eterre, ha az ismeretlen $\lambda$
param\'etert a $\hat\lambda_n=\hat\lambda_n(\xi_1,\dots,\xi_n)
=T_n(\xi_1,\dots,\xi_n)$ val\'osz\'{\i}n\H{u}s\'egi v\'altoz\'o
seg\'{\i}ts\'eg\'evel becs\"ulj\"uk meg. A $\hat\lambda_n$, illetve
e val\'osz\'{\i}n\H{u}s\'egi v\'altoz\'o f\"uggv\'enyeinek
eloszl\'asa f\"ugg az $F_\lambda$ eloszl\'ast\'ol, ez\'ert a
$\lambda$ param\'etert\H{o}l. Ezt jel\"olend\H{o}, a tov\'abbiakban
$P_\lambda$-val fogjuk jel\"olni azokat a
val\'osz\'{\i}n\H{u}s\'egeket, melyek az $F_\lambda(\cdot)$
eloszl\'as\'u $\xi_1,\dots,\xi_n$ val\'osz\'{\i}n\H{u}s\'egi
v\'altoz\'okt\'ol f\"ugg. \medskip\noindent
{\bf Becsl\'esek konzisztenci\'aja.} {\it Az el\H{o}bb bevezetett
jel\"ol\'eseket haszn\'alva azt mondjuk, hogy a $T_n(x_1,\dots,x_n)$,
$n=1,2,\dots$, becsl\H{o}f\"uggv\'enyek konzisztens becsl\'est adnak,
ha
$$
\hat\lambda_n=T_n(\xi_1,\dots,\xi_n)\Rightarrow \lambda \quad
\text{minden }\lambda \text{ param\'eterre,}
$$
ahol $\Rightarrow$ sztochasztikus konvergenci\'at jel\"ol, azaz
$\limm_{n\to\infty} P_\lambda\(|\hat\lambda_n-\lambda|>\e\)=0$
minden lehets\'eges $\lambda$ param\'eterre \'es $\e>0$ sz\'amra.}
\medskip\noindent
{\bf Becsl\'es torz\'{\i}tatlans\'ag\'anak definici\'oja.} {\it
Az el\H{o}bb bevezetett jel\"ol\'eseket haszn\'alva azt mondjuk, hogy
a $\hat\lambda_n=\hat\lambda_n(\xi_1,\dots,\xi_n)=T_n(x_1,\dots,x_n)$
becsl\'es torz\'{\i}tatlan, ha
$$
E_{\lambda}\lambda_n(\xi_1,\dots,\xi_n)=\lambda\quad \text{minden }
\lambda \text{ param\'eterre.}
$$
A
$\hat\lambda_n=\hat\lambda_n(\xi_1,\dots,\xi_n)=T_n(x_1,\dots,x_n)$
becsl\'essorozat, $n=1,2,\dots$, aszimptotikusan torz\'{\i}tatlan, ha
$$
\limm_{n\to\infty} E_\lambda \lambda_n(\xi_1,\dots,\xi_n)=\lambda
\quad \text{minden } \lambda \text{ param\'eterre.}
$$
} \medskip
 
A becsl\'eselm\'eletben gyakran keresnek olyan torz\'{\i}tatlan
$\hat\lambda_n=\hat\lambda_n(\xi_1,\dots,\xi_n)$ becs\-l\'est,
melyre a $D_n(\lambda)=\Var_\lambda \hat\lambda_n(\xi_1,\dots,\xi_n)$
sz\'or\'asn\'egyzet min\'el kisebb. Azt mondjuk, hogy egy
torz\'{\i}tatlan $\hat\lambda_n$ becsl\'es optim\'alis, ha
$\Var_\lambda \hat\lambda_n(\xi_1,\dots,\xi_n)\le
\Var_\lambda \tilde\lambda_n(\xi_1,\dots,\xi_n)$ minden
torz\'{\i}tatlan $\tilde\lambda_n(\xi_1,\dots,\xi_n)$ becsl\'esre
\'es $\lambda$ param\'eterre. Sok \'erdekes esetben van
torz\'{\i}tatlan optim\'alis becsl\'es. Jegyezz\"uk meg, hogy a
Csebisev egyenl\H{o}tlens\'eg alapj\'an, ha egy
$\hat\lambda_n=\hat\lambda_n(\xi_1,\dots,\xi_n)$, $n=1,2,\dots$,
becsl\'essorozat aszimptotikusan torz\'{\i}tatlan, \'es
$\limm_{n\to\infty}\Var_\lambda \hat\lambda_n(\xi_1,\dots,\xi_n)=0$
minden $\lambda$ param\'eterre, akkor ez a becsl\'es konzisztens.
(Mi\'ert?) A maximum likelihood becsl\'es nagyon \'altal\'anos
felt\'etelek mellett teljes\'{\i}ti ezeket a tulajdons\'agokat.
 
 \bye
