\magnification=\magstep1
\hsize=16truecm
\input amstex
\TagsOnRight
\parindent=20pt
\parskip=3pt plus 1pt
\define\A{{\bold A}}
\define\BB{{\bold B}}
\define\DD{{\bold D}}
\define\T{{\bold T}}
\define\U{{\bold U}}
\define\({\left(}
\define\){\right)}
\define\[{\left[}
\define\]{\right]}
\define\e{\varepsilon}
\define\oo{\omega}
\define\const{\text{\rm const.}\,}
\define\supp {\sup\limits}
\define\inff{\inf\limits}
\define\summ{\sum\limits}
\define\prodd{\prod\limits}
\define\limm{\lim\limits}
\define\limsupp{\limsup\limits}
\define\liminff{\liminf\limits}
\define\bigcapp{\bigcap\limits}
\define\bigcupp{\bigcup\limits}
 
\beginsection  Nagy elt\'er\'esek elm\'elete. A Szanov t\'etel.

Egy el\H{o}z\H{o} feladatsorban, a {\it Nagy elt\'er\'esek elm\'elete;
F\"uggetlen, val\'os \'ert\'ek\H{u} val\'osz\'{\i}n\H{u}s\'egi
v\'altoz\'ok}\/ feladatsorban annak az esem\'enynek a 
val\'osz\'{\i}n\H{u}s\'eg\'et vizsg\'altuk, hogy f\"uggetlen, 
egyforma el\-osz\-l\'a\-s\'u val\'oszin\H{u}s\'egi v\'altoz\'ok 
\'atlaga egy a v\'arhat\'o \'ert\'ekn\'el nagyobb sz\'amot vesz 
fel. Az ottani eredm\'enyekb\H{o}l k\"ovetkezik, hogy ha $\xi_k$, 
$k=1,2,\dots$, f\"uggetlen, egyforma eloszl\'as\'u 
val\'osz\'{\i}n\H{u}s\'egi v\'altoz\'ok,
$S_n=\summ_{k=1}^n\xi_k$, akkor az $\frac{S_n}n$ \'atlag
$F_n(y|x)=P\left.\(\frac{S_n}n\ge y\right|\frac{S_n}n\ge x\)$
felt\'eteles el\-osz\-l\'a\-sa $y>x>E\xi_1$ eset\'en teljes\'{\i}ti a
$\limm_{n\to\infty}F_n(y|x)=0$ tulajdons\'agot. Ezt \'ugy is
interpret\'alhatjuk, hogy ha az \'atlag nagyobb mint $x$, akkor az
ezen felt\'etel mellett majdnem egy val\'osz\'{\i}n\H{u}s\'eggel az
$x$ pont kis k\"ornyezet\'ebe van koncentr\'alva. Teh\'at eme
felt\'etel mellett az \'atlag eloszl\'asa er\H{o}sen lokaliz\'alt.
 
Egy enn\'el er\H{o}sebb lokaliz\'aci\'os tulajdons\'agot k\'{\i}v\'anunk
megfogalmazni \'es be\-bi\-zo\-ny\'{\i}\-ta\-ni. Ez azt a t\'enyt
fejezi ki, hogy alkalmas \'es nagyon \'altal\'anos felt\'etelek mellett
nemcsak az \'atlag, hanem az \"osszeadand\'ok, azaz a
$(\xi_1,\dots,\xi_n)$ vektor egy\"uttes felt\'eteles eloszl\'asa is
er\H{o}sen lokaliz\'alt az adott felt\'etelek mellett.
Ezt az \'all\'{\i}t\'ast akarjuk pontosan megfogalmazni, \'es annak
n\'eh\'any \'erdekes k\"ovetkezm\'eny\'et
levezetni. Ennek \'erdek\'eben bevezetj\"uk a k\"ovetkez\H{o} fogalmat.
Ha $(\xi_1,\dots,\xi_n)$ va\-l\'o\-sz\'{\i}\-n\H{u}\-s\'e\-gi
v\'altoz\'ok
egy v\'eges sorozata, akkor defini\'aljuk ezek $\mu_n$ empirikus
eloszl\'as\'at a k\"ovetkez\H{o} m\'odon: A
$(\xi_1(\oo),\dots,\xi_n(\oo))$ val\'osz\'{\i}n\H{u}s\'egi v\'altoz\'ok
\'altal meghat\'arozott  $\mu_n=\mu_n(\oo)$ empririkus eloszl\'as
(v\'eletlen) val\'osz\'{\i}n\H{u}s\'egi m\'ert\'ek a sz\'amegyenesen.
Tetsz\H{o}leges m\'erhet\H{o} $\A\subset R^1$ halmazra
$\mu_n(\A)=\frac1n\cdot\#\{j\colon\; 1\le j\le n,\;\xi_j\in\A\}$.

Tekints\"uk a $(\xi_1,\dots,\xi_n)$ vektor empirikus el\-osz\-l\'asok
a felt\'eteles el\-osz\-l\'a\-s\'at bizonyos felt\'etelek mellett.
(P\'eld\'aul az $S_n=\summ_{k=1}^n\xi_k>nx$ felt\'etel mellett.)
``Tipikus esetekben" ez a (v\'eletlen) felt\'eteles eloszl\'as
egy el\H{o}\'{\i}rt eloszl\'as k\"ozel\'eben koncentr\'al\'odik 
nagy val\'osz\'{\i}n\H{u}s\'eggel. Ezt az eloszl\'ast annak az 
\'eszrev\'etelnek a seg\'{\i}ts\'eg\'evel tal\'alhatjuk meg,  
hogy az adott felt\'etel mellett az empirikus eloszl\'as ennek 
az eloszl\'asnak a k\"ozel\'ebe esik a legnagyobb
va\-l\'o\-sz\'{\i}\-n\H{u}\-s\'eg\-gel. \'Igy azt meg lehet hat\'arozni
egy vari\'aci\'os probl\'ema megold\'as\'anak a seg\'{\i}ts\'eg\'evel.
Ilyen m\'odon is lehet vizsg\'alni a nagy elt\'er\'esek elm\'elet\'et,
s\H{o}t bizonyos probl\'em\'ak vizsg\'alat\'aban ez a m\'odszer
hat\'asosabb mint a {\it Nagy elt\'er\'esek elm\'elete;
F\"uggetlen, val\'os \'ert\'ek\H{u} val\'osz\'{\i}n\H{u}s\'egi
v\'altoz\'ok}\/ feladatsor m\'odszere. Viszont e m\'odszer
alkalmaz\'as\'ahoz sz\"uks\'eg van a (bizony\'{\i}tand\'o) nagy
elt\'er\'es t\'etel megfogalmaz\'as\'ara \'altal\'anosabb terekben.
A nagy elt\'er\'es t\'etelt csak olyan t\'erben tudjuk megfogalmazni,
ahol van \'ertelme k\"ozels\'egr\H{o}l besz\'elni. Ez\'ert
term\'eszetes lenne metrikus terekben dolgozni. De \'erdemes a nagy 
elt\'er\'es t\'etelt \'altal\'anosabb k\"or\"ulm\'enyek k\"ozott, 
topol\'ogikus terekben megfogalmazni \'es vizsg\'alni, mivel ilyen 
m\'odon n\'eh\'any fontos eset\-ben sokkal tartalmasabb ered\-m\'enyt 
kapunk.

\medskip \noindent
{\bf Nagy elt\'er\'es t\'etel megfogalmaz\'asa topol\'ogikus terekben.}  
{\it
Legyen adva egy $(X,\Cal X)$ topol\'ogikus t\'er, \'es legyen $\Cal A$
a topol\'ogia \'altal defini\'alt $\sigma$-algebra. Tegy\"uk fel, hogy
az $(X,\Cal X)$ t\'er \'ugynevezett $T_3$ t\'er, azaz tetsz\H{o}leges
$x\in X$ pontra \'es olyan z\'art $\bold F$ halmazra, amelyre
$x\notin\bold F$ l\'eteznek olyan diszjunkt ny\'{\i}lt $\bold G_1$ \'es
$\bold G_2$ halmazok, amelyekre $x\in \bold G_1$ \'es $\bold F\subset
\bold G_2$. Legyen $\mu_n$, $n=1,2,\dots$, val\'osz\'{\i}n\H{u}s\'egi
m\'ert\'ekek sorozata az $(X,\Cal A)$ t\'eren. Azt mondjuk, hogy az
$(X,\Cal X)$ t\'eren \'ertelmezett $\mu_n$, $n=1,2,\dots$,
val\'osz\'{\i}n\H{u}s\'egi m\'ert\'ekek sorozata teljes\'{\i}ti a nagy
elt\'er\'es t\'etelt egy $I(x)$, $x\in X$, f\"uggv\'ennyel,
amely\-re $I(x)\ge0$,
(\'es $I(x)$ felveheti a $\infty$ \'ert\'eket is), ha

\item{i.)} Az $I(\cdot)$ f\"uggv\'eny alulr\'ol f\'elig folytonos,
azaz minden $\e>0$ sz\'amra \'es $x\in X$ pontra az 
$\{y\colon\;I(y)>I(x)-\e\}$  halmaz az $x$ pont ny\'{\i}lt k\"ornyezete.
\item{ii.)} $\limsup\limits_{n\to\infty}-\frac1n \log \mu_n(\bold
G)\le \inff_{x\in \bold G} I(x)$ minden ny\'{\i}lt $\bold G\subset X$
halmazra.
\item{iii.)} $\liminf\limits_{n\to\infty}-\frac1n \log \mu_n(\bold
F)\ge \inff_{x\in \bold F} I(x)$ minden z\'art $\bold F\subset X$
halmazra.} 

\medskip
B\'ar a nagy elt\'er\'es t\'etelt \'altal\'anos topol\'ogikus terekben
fogalmaztuk meg, r\'esz\-le\-te\-seb\-ben csak azzal az esettel fogunk
foglalkozni, amikor a tekintett t\'er egy m\'erhet\H{o} t\'eren
\'ertelmezett val\'osz\'{\i}n\H{u}s\'egi m\'ert\'ekek tere al\-kal\-mas
topol\'ogi\'aval. A minket legink\'abb \'erdekl\H{o} eset az, amikor
valamilyen t\'eren (p\'eld\'aul a sz\'amegyenesen) defini\'alt
f\"uggetlen egyforma eloszl\'as\'u val\'osz\'{\i}n\H{u}s\'egi
v\'altoz\'okb\'ol k\'esz\'{\i}tett empirikus eloszl\'asokat
tekintj\"uk, az adott t\'eren lev\H{o} val\'osz\'{\i}n\H{u}s\'egi
m\'ert\'ekeket ell\'atjuk alkalmas topol\'ogi\'aval, \'es azt akarjuk
bel\'atni, hogy az empirikus eloszl\'asok, mint ezen t\'er
val\'osz\'{\i}n\H{u}s\'egi m\'ert\'ekein \'er\-tel\-me\-zett v\'eletlen
m\'ert\'ekek, (azaz megadjuk annak a val\'osz\'{\i}n\H{u}s\'eg\'et,
hogy az empirikus eloszl\'as val\'osz\'{\i}n\H{u}s\'egi m\'ert\'ekek
egy csal\'adj\'aba esik) teljes\'{\i}tik a fent defini\'alt nagy
elt\'er\'es t\'etelt. Ezenk\'{\i}v\"ul bizonyos feladatok arr\'ol
sz\'olnak, hogy f\"uggetlen val\'o\-sz\'{\i}\-n\H{u}\-s\'egi
v\'altoz\'ok r\'esz\-let\-\"ossze\-gei teljes\'{\i}tik a nagy
elt\'er\'es t\'etelt az ebben a feladatsorban defini\'alt
\'er\-te\-lem\-ben is.

Az els\H{o} feladatban megmutatjuk, hogy a nagy elt\'er\'es
t\'etelben szerepl\H{o} $I(x)$ f\"ugg\-v\'enyt a $\mu_n$ m\'ert\'ekek
egy\'ertelm\H{u}en meghat\'arozz\'ak.

\medskip
\item{1.)} Teljes\'{\i}ts\'ek a $\mu_n$ val\'osz\'\i{}n\H{u}s\'egi
m\'ert\'ekek a nagy elt\'er\'es t\'etelt valamilyen $I(x)$ alulr\'ol
folytonos  f\"ugg\-v\'ennyel egy $(X,\Cal X)$ $T_3$ tulajdons\'ag\'u  
topol\'ogikus t\'erben. Minden $x\in X$-re teljes\"ulnek a 
k\"ovetkez\H{o} rel\'aci\'ok:
$$ \allowdisplaybreaks
\align
I(x)&=\sup\Sb \bold G\colon\; \bold G\text{ ny\'{\i}lt halmaz}\\ x\in\bold
G\endSb \limsup_{n\to\infty}-\frac1n\log \mu_n(\bold G)\\
I(x)&=\sup\Sb \bold F\colon\; \bold F\text{ z\'art halmaz}\\ x\in
\text{Int}\,\bold F
\endSb \liminf_{n\to\infty}-\frac1n\log \mu_n(\bold F).
\endalign
$$

\medskip
A k\"ovetkez\H{o} k\'et feladat, illetve az el\H{o}tt\"uk megfogalmazott
megjegyz\'es nem kap\-cso\-l\'o\-dik szorosan a feladatsorhoz. Viszont
az elm\'elet tov\'abbi, itt nem t\'argyalt
fi\-no\-m\'\i{}\-t\'a\-s\'a\-ban nagyon hasznos.
 
A nagy elt\'er\'es t\'etel megfogalmaz\'as\'aban term\'eszetes, hogy a
z\'art halmazok eset\'eben a iii.) tulajdons\'agban $\limsup$  \'es nem
$\lim$  a ny\'\i{}lt halmazok eset\'en pedig a ii.) tulajdons\'agban
$\liminf$ \'es nem $\lim$ szerepel. Z\'art halmazok eset\'en
p\'eld\'aul az egy pontb\'ol \'all\'o halmazok \'es
s\H{u}r\H{u}s\'egf\"uggv\'ennyel rendelkez\H{o} f\"uggetlen egyforma
eloszl\'as\'u val\'osz\'\i{}n\H{u}s\'egi v\'altoz\'ok \'atlagainak
eloszl\'asai mutatnak p\'eld\'at arra, hogy mi\'ert csak a iii.)-ban
megfogalmazott gyeng\'ebb \'all\'\i{}t\'ast \'erdemes megk\"ovetelni.
Az, hogy a nagy elt\'er\'es t\'etel teljes\"ul\'ese eset\'en
ii.) tulajdons\'agban  nem mindig \'\i{}rhat\'o limesz p\'eld\'aul a
feladatsor 8. feladat\'anak eredm\'eny\'eb\H{o}l k\"ovetkezik. 

A nagy elt\'er\'es t\'etel ii.) \'es iii.) tulajdons\'ag\'aban 
az\'ert nem \'\i{}rhatunk limeszt, mert egy halmaz
indik\'atorf\"uggv\'eny\'enek a hat\'ara er\H{o}sen
befoly\'asolhatja a halmaz $\mu_n$ m\'ert\'ekeinek a viselked\'es\'et.
Ilyen jelleg\H{u} probl\'em\'ak az anal\'\i{}zis m\'as ter\"ulet\'en is
megjelennek. Ilyenkor term\'eszetes az \'all\'\i{}t\'as
\'atfogalmaz\'asa halmazok indik\'atorf\"uggv\'enyei helyett folytonos
f\"uggv\'enyek seg\'\i{}ts\'eg\'evel. Ez t\"ort\'enik a k\"ovetkez\H{o},
az irodalomban Varadhan lemm\'anak nevezett \'all\'\i{}t\'asban.
Az\-ut\'an bel\'atjuk ennek az \'all\'{\i}t\'asnak egy
megford\'{\i}t\'as\'at. De ebben a megford\'{\i}t\'asban a nagy
elt\'er\'es t\'etelnek csak egy gyeng\'{\i}tett v\'altozat\'at l\'atjuk
be, ahol a iii.) tulajdons\'agot z\'art halmazok helyett csak kompakt
halmazokra fogalmazzuk meg. Annak bizony\'{\i}t\'asa, hogy konkr\'et
esetekben a nagy elt\'er\'es t\'etel iii.) tulajdons\'aga z\'art nem
kompakt halmazokra is \'erv\'enyes tov\'abbi finom \'ervel\'est
ig\'enyel. \'Igy p\'eld\'aul az ebben a feladatsorban t\'argyalt Szanov
t\'etel bizony\'{\i}t\'as\'aban ez az egyik f\H{o} neh\'ezs\'eg.

\medskip
\item{2.)} Teljes\'\i{}tse egy $\mu_n$, $n=1,2,\dots$,
val\'osz\'{\i}n\H{u}s\'egi m\'ert\'eksorozat egy $(X,\Cal X)$
topol\'ogikus t\'er Borel $\sigma$-algebr\'aj\'an a nagy elt\'er\'es
t\'etelt egy  $I(x)$, $x\in X$, alulr\'ol f\'elig folytonos
f\"uggv\'ennyel. Ekkor tetsz\H{o}leges folytonos,
korl\'atos $g(x)$ f\"uggv\'enyre
$$
\lim_{n\to\infty}\frac 1n\log\int e^{ng(x)}\mu_n(dx)=\sup_{x\in X}
\{g(x)-I(x)\}
$$

\item{3.)} Teljes\'{\i}tse egy $\mu_n$, $n=1,2,\dots$, 
val\'osz\'{\i}n\H{u}s\'egi m\'ert\'eksorozat a 2. feladatban 
fel\'{\i}rt azonoss\'agot valamilyen alulr\'ol folytonos, nem 
negat\'{\i}v $I(\cdot)$ f\"uggv\'ennyel minden folytonos \'es 
kor\-l\'a\-tos $g(\cdot)$ f\"uggv\'enyre egy $(X,\Cal X)$ 
topol\'ogikus t\'erben. Tegy\"uk fel tov\'abb\'a, hogy az 
$(X,\Cal X)$ t\'er \'ugynevezett $T_{\rho}$ t\'er, azaz 
tetsz\H{o}leges $x\in X$ pontra \'es $\bold F\subset X$ 
z\'art halmazra, amelyekre $x\notin\bold F$ l\'etezik olyan 
folytonos, kor\-l\'a\-tos $h(\cdot)$ f\"uggv\'eny, amelyre 
$h(x)=1$, \'es $h(u)=0$ $u\in \bold F$-re. Ekkor a $\mu_n$
m\'ert\'eksorozat teljes\'{\i}ti a nagy elt\'er\'es t\'etel ii.) 
\'es k\"ovetkez\H{o} iii$'$.) tulajdons\'ag\'at:
\item{iii$'$.)} $\liminf\limits_{n\to\infty}-\frac1n \log \mu_n(\bold
K)\ge \inff_{x\in \bold K} I(x)$ minden kompakt $\bold K\subset X$
halmazra.

\medskip
A k\"ovetkez\H{o} 4.--8. feladatokban megmutatjuk, hogy a
{\it Nagy elt\'er\'esek elm\'elete; F\"uggetlen, val\'os \'ert\'ek\H{u}
val\'osz\'{\i}n\H{u}s\'egi v\'altoz\'ok}\/ feladatsorban vizsg\'alt
f\"uggetlen egyforma eloszl\'as\'u val\'osz\'{\i}n\H{u}s\'egi
v\'altoz\'ok \'atlagainak eloszl\'asai teljes\'{\i}tik a nagy
elt\'er\'es t\'etelnek azt a form\'aj\'at is, amelyet ennek a
feladatsornak az elej\'en fogalmaztunk meg.

\medskip
\item{4.)} Legyen $\xi$ olyan val\'osz\'{\i}n\H{u}s\'egi v\'altoz\'o,
amelyre $R(t)=Ee^{t\xi}<\infty$ el\'eg kis  $t>0$-ra, \'es defini\'aljuk
az $I(x)=\supp_{t\ge 0}(tx-\log R(t))$ f\"uggv\'enyt minden $x\ge E\xi$
sz\'amra. ($R(t)=\infty$, ha $e^{t\xi}$ nem integr\'alhat\'o.) E 
halmazon az $I(x)$ f\"uggv\'eny monoton n\H{o}, azaz $I(x)\le I(y)$, 
ha $E\xi<y<x$, ($E\xi=-\infty$ is megengedett). Ha $I(x)<\infty$, 
akkor $I(y)<I(x)$, azaz ebben az esetben szigor\'u 
egyenl\H{o}tlens\'eg is \'erv\'enyes. Tov\'abb\'a, ha $I(x)<\infty$ 
\'es $E\xi<x$, akkor $\limm_{y<x,\,y\to x} I(y)=I(x)$. Az $I(x)$ 
f\"uggv\'eny konvex. Ez\'ert tetsz\H{o}leges olyan $x$
sz\'amra, amelyre $I(x+\e)<\infty$ el\'eg kis $\e>0$-ra
$\limm_{y>x,\,y\to x} I(y)=I(x)$.

\medskip\noindent
{\it Megjegyz\'es:}\/ Defini\'aljuk az $L=\sup\{x\colon\;
I(x)<\infty\}$ sz\'amot. ($L=\infty$ lehets\'eges.) Az el\H{o}z\H{o}
feladat szerint az $I(x)$ f\"uggv\'eny az $[E\xi,L)$ intervallumon
folytonos, konvex \'es szigor\'uan monoton n\H{o},
s\H{o}t mint az al\'abbi \'ervel\'es seg\'{\i}ts\'eg\'evel l\'athat\'o,
ez az \'all\'{\i}t\'as \'erv\'enyes ennek az intervallumnak $[E\xi,L]$
lez\'artj\'an is. Tov\'abb\'a, ha $x>L$, akkor $I(x)=\infty$. K\"onnyen
bizony\'{\i}that\'o az is, hogy $L<\infty$ akkor \'es csak akkor,
ha a $\xi$ val\'osz\'{\i}n\H{u}s\'egi v\'altoz\'o egy val\'osz\'{\i}n\H
us\'eggel fel\"ulr\H{o}l 
korl\'atos. Ha ugyanis $P(\xi>x)=A(x)>0$ minden $x>0$ sz\'amra, akkor
$$
P\(\summ_{k=1}^n \xi_k>nx\)\ge e^{n\log A(x)}\quad\text{minden $n$-re,}
$$
ahol $\xi_k$, $k=1,2,\dots$, f\"uggetlenek \'es a $\xi$
val\'osz\'{\i}n\H{u}s\'egi v\'altoz\'okkal azonos
el\-osz\-l\'a\-s\'u\-ak. Innen az erre az \"osszegre kapott fels\H{o}
becsl\'es alapj\'an  $I(x)\le-\log A(x)<\infty$. Ha viszont a $\xi$
val\'osz\'{\i}n\H{u}s\'egi v\'altoz\'o fel\"ulr\H{o}l korl\'atos, akkor
az $R(t)=Ee^{t\xi}$ momentumgener\'al\'o f\"uggv\'eny v\'eges minden
$t\ge0$-ra, \'es $\limm_{t\to\infty}[\log R(t)]'<\infty$. Ekkor azonban
(ld.\ p\'eld\'aul a {\it Nagy elt\'er\'esek elm\'elete;
F\"uggetlen, val\'os \'ert\'ek\H{u} val\'osz\'{\i}n\H{u}s\'egi
v\'altoz\'ok}\/ feladatsor 12. feladat\'anak eredm\'eny\'et)
$I(x)=\infty$ el\'eg nagy $x$-re. 

\medskip
\item{5.)} Legyenek $\xi_n$, $n=1,2,\dots$, f\"uggetlen, egyforma
eloszl\'as\'u val\'osz\'{\i}n\H{u}s\'egi v\'altoz\'ok a sz\'amegyenesen
$R(t)=Ee^{t\xi_1}$ momentumgener\'al\'o f\"uggv\'ennyel ($R(t)=\infty$,
ha $e^{t\xi_1}$ nem integr\'alhat\'o), \'es jel\"olje $\mu_n$ a $\frac
{S_n}n=\frac{\summ_{k=1}^n \xi_k}n$ val\'osz\'{\i}n\H{u}s\'egi
v\'altoz\'o eloszl\'as\'at. Az egyszer\H{u}s\'eg kedv\'e\'ert
ebben a feladatban csak azt az esetet tekints\"uk, amikor az
$Ee^{t\xi_1}$ momentumgener\'al\'o f\"uggv\'eny v\'eges az orig\'o
egy kis k\"ornyezet\'eben. A $\mu_n$ m\'ert\'ekek teljes\'{\i}tik a
nagy elt\'er\'es t\'etelt az $I(\cdot)$ f\"uggv\'ennyel, ahol
$I(x)=\supp_{t\ge 0}(tx-\log R(t))$, ha $x\ge E\xi_1$, \'es
$I(x)=\supp_{t\le 0}(tx-\log R(t))$, ha $x\le E\xi_1$.

\item{6.)} L\'assuk be a nagy elt\'er\'es t\'etelnek az ebben a
feladatsorban megfogalmazott alakj\'at f\"uggetlen,
egyforma eloszl\'as\'u val\'osz\'{\i}n\H{u}s\'egek \'at\-la\-g\'a\-nak
eloszl\'asaira az \'altal\'anos eset\-ben. Az \'altal\'anos esetben
$I(x)=\supp_{t\ge 0}(tx-\log R(t))$ ha $x\ge E\xi_1$, \'es
$I(x)=\supp_{t\le 0}(tx-\log R(t))$, ha $x\le E\xi_1$. Ha a $\xi_1$
val\'osz\'{\i}n\H{u}s\'egi v\'altoz\'onak nincs v\'arhat\'o \'ert\'eke
(azaz a pozit\'{\i}v r\'esz v\'arhat\'o \'ert\'eke v\'egtelen, a
negat\'{\i}v r\'esz v\'arhat\'o \'ert\'eke minusz v\'egtelen), akkor
$I(x)=0\;(=\supp_t (tx-\log R(t))=-R(0))$ minden~$x$ sz\'amrea.

\item{7.)} Ha a $\xi$ val\'osz\'{\i}n\H{u}s\'egi v\'altoz\'o
$R(t)=Ee^{t\xi}$ momentumgener\'al\'o f\"uggv\'enye el\'eg kis
$t>0$-ra v\'eges, \'es $E\xi_1=-\infty$, akkor
$\limm_{x\to-\infty}I(x)=\limm_{x\to-\infty}\supp_{t\ge 0}(tx-\log R(t))=0$.

\item{8.)} F\"uggetlen, egyforma eloszl\'as\'u 
val\'osz\'{\i}n\H{u}s\'egi v\'altoz\'ok \'atlag\'anak az 
eloszl\'asa teljes\'{\i}ti a
nagy elt\'er\'es t\'etel ii) tulajdons\'ag\'anak k\"ovetkez\H{o}
\'elesebb form\'aj\'at is:
\itemitem{ii$'$.)} $\limm_{n\to\infty}-\frac1n \log
\mu_n(G)=\inff_{x\in G} I(x)$ minden ny\'{\i}lt halmazra.
\item{} Adjunk p\'eld\'at val\'osz\'{\i}n\H{u}s\'egi m\'ert\'ekek
$\mu_n$ sorozat\'ara a sz\'amegyenesen, amely teljes\'{\i}ti a
nagy elt\'er\'es t\'etelt, de nem teljes\'{\i}ti a ii$'$.)
tulajdons\'agot.
 
Az $I(x)$ f\"uggv\'enyt $I(x)=\supp_{-\infty<t<\infty}(tx-\log R(t))$
alakban is megadhatjuk a {\it Nagy elt\'er\'esek elm\'elete;
F\"uggetlen, val\'os \'ert\'ek\H{u} val\'osz\'{\i}n\H{u}s\'egi
v\'altoz\'ok}\/ feladatsor 18a.) feladat\'anak eredm\'enye alapj\'an.

\medskip
A k\"ovetkez\H{o} feladatokban az empirikus eloszl\'asf\"uggv\'eny
viselked\'es\'er\H{o}l adunk nagy elt\'er\'es tipus\'u becsl\'eseket,
\'es ezekb\H{o}l vezetj\"uk le a {\it Nagy elt\'er\'esek elm\'elete;
F\"uggetlen, val\'os \'ert\'ek\H{u} val\'osz\'{\i}n\H{u}s\'egi
v\'altoz\'ok}\/ feladatsorban bebizony\'{\i}tott nagy elt\'er\'es
t\'etel (nehezebben bizony\'{\i}that\'o) als\'o becsl\'es\'et
f\"uggetlen, egyforma eloszl\'as\'u va\-l\'o\-sz\'{\i}\-n\H{u}\-s\'e\-gi
v\'al\-to\-z\'ok \'atlag\'ara. Annak val\'osz\'{\i}n\H{u}s\'eg\'ere
adunk j\'o becsl\'est, hogy f\"uggetlen $F$ eloszl\'as\'u
va\-l\'o\-sz\'{\i}\-n\H{u}\-s\'e\-gi v\'altoz\'ok empirikus
eloszl\'asf\"uggv\'enye egy $G$, $G\neq F$ eloszl\'asf\"uggv\'eny
k\"ozel\'eben van, \'es ennek seg\'{\i}ts\'eg\'evel adunk becsl\'est
a $\xi_k$ val\'osz\'{\i}n\H{u}s\'egi v\'altoz\'ok \'atlag\'anak
eloszl\'as\'ara. Ennek a m\'odszernek az az el\H{o}nye,
hogy nem k\"ot\H{o}dik er\H{o}sen a sz\'amegyenes geometri\'aj\'ahoz.
Ez\'ert \'al\-ta\-l\'a\-no\-sabb esetekben is al\-kal\-maz\-hat\'o,
p\'eld\'aul olyankor, amikor az \"osszeadand\'ok egy  az Euklideszi
t\'ern\'el sokkal gazdagabb t\'erben veszik fel \'ert\'ekeiket.
Ezekben a vizsg\'alatokban nagyon fontos az al\'abbiakban bevezetett
$I$-divergencia fogalma.

\medskip\noindent 
{\bf Az $I$-divergencia definici\'oja.} {\it Legyen $F$ \'es $G$ k\'et
eloszl\'as a sz\'amegyenesen. (Az \'altal\'anos esetben legyen $\mu$
\'es $\nu$ k\'et val\'osz\'{\i}n\H{u}s\'egi m\'ert\'ek ugyanazon az
$(Y,\Cal B)$ t\'eren.)
 
A $G$ eloszl\'asnak az $F$ eloszl\'as szerinti $I(G\|F)$ 
$I$-divergenci\'at a k\"ovetkez\H{o} m\'odon defini\'aljuk:
$$
I(G\|F)=\int_{\left\{u\colon\;\frac{dG}{dF}(u)>0\right\}}
\log\frac {dG}{dF}(u) \,dG(u),
$$
ha az $G$ eloszl\'as \'altal induk\'alt m\'ert\'ek abszol\'ut 
folytonos az $F(x)$ \'altal induk\'alt m\'ert\'ekre, \'es 
$I(G\|F)=\infty$, ha az nem abszol\'ut folytonos.
 
\'Altal\'anosabban, egy $\nu$ val\'osz\'{\i}n\H{u}s\'egi 
m\'ert\'eknek egy $\mu$ val\'osz\'{\i}n\H{u}s\'egi m\'ert\'ek szerinti
$I(\nu\|\mu)$ $I$-divergenci\'aj\'at az
$$
I(\nu\|\mu)=\int \log \frac{d\nu}{d\mu}(y) \,d\nu(y)
$$
k\'eplettel defini\'aljuk, ha $\nu$ abszol\'ut folytonos a $\mu$ 
m\'ert\'ekre n\'ezve, \'es
$I(\nu\|\mu)=\infty$ ha $\nu$ nem abszol\'ut folytonos a $\mu$ 
m\'ert\'ekre n\'ezve. A fenti integr\'al
\'ugy \'ertend\H{o}, hogy a $\BB=\left\{y\colon\;
\frac{d\nu}{d\mu}(y)=0\right\}$ halmazon, ahol $\log
\frac{d\nu}{d\mu}(y)=-\infty$ \'es $\nu(\BB)=0$,
$\nu(\BB)\cdot (-\infty)=0\cdot(-\infty)=0$.}

\medskip
A k\'es\H{o}bbiekben tekinteni fogunk egy r\"ogz\'{\i}tett $\mu$
m\'ert\'eket valamilyen m\'ert\'ekt\'eren vagy abban a speci\'alis
esetben, ha a sz\'amegyenesen dolgozunk egy r\"ogz\'{\i}tett
$F$ el\-osz\-l\'as\-f\"ugg\-v\'enyt a sz\'amegyenesen. Ha adva van 
egy $\xi_k(\oo)$, $k=1,2,\dots$, f\"uggetlen $\mu$ eloszl\'as\'u
va\-l\'o\-sz\'{\i}\-n\H{u}\-s\'e\-gi v\'altoz\'okb\'ol \'all\'o 
sorozat, akkor elk\'esz\'{\i}tj\"uk e sorozat \'altal meghat\'arozott
$\mu_n=\mu_n(\oo)$ empirikus m\'ert\'ekek sorozatat\'at. Be fogjuk
l\'atni, hogy (ha alkalmas topol\'ogi\'at vezet\"unk be a
val\'osz\'{\i}n\H{u}s\'egi m\'ert\'ekek ter\'en), akkor az empirikus
m\'ert\'ekek teljes\'{\i}tik a nagy elt\'er\'es t\'etelt az
$I(\cdot)=I(\cdot\|\mu)$ divergencia f\"uggv\'ennyel.
 
Tekints\"uk azt az esetet, amikor egy $F$ eloszl\'asf\"uggv\'eny van
adva a sz\'amegyenesen, \'es $\xi_1,\xi_2,\dots$ f\"uggetlen $F$
eloszl\'as\'u val\'osz\'{\i}n\H{u}s\'egi v\'altoz\'ok sorozata,
$S_n(\oo)=\summ_{k=1}^n\xi_k(\oo)$, \'es $F_n(\oo,u)$ a
$\xi_1(\oo),\dots,\xi_n(\oo))$ sorozat empirikus
eloszl\'asf\"uggv\'enye. Vegy\"uk \'eszre, hogy
$\frac {S_n(\oo)}n=\int u\,F_n(\oo\,du)$, teh\'at az
$$
A_n(x)=\left\{\oo\colon\; \frac{S_n(\oo)}n>x\right\} \quad \text{\'es}
\quad \bar A_n(x)=\left\{\oo\colon\; \int u\,F_n(\oo,du)>x\right\}
$$
halmazok megegyeznek. Mivel az $x>E\xi_1$ esetben az $A_n(x)$ illetve
$\bar A_n(x)$ esem\'enyek val\'osz\'{\i}n\H{u}s\'eg\'et a nagy
elt\'er\'es t\'etel felhaszn\'al\'as\'aval az
$I(\cdot)=\supp_{t\ge0}(tx-\log R(t))$, -- ahol $R(t)=E^{t\xi_1}$, -- 
illetve az $\bar I(\cdot)=I(\cdot\|F)$ divergencia f\"uggv\'eny
seg\'{\i}ts\'eg\'evel becs\"ulhetjuk meg, ez\'ert a fenti \'ervel\'es
sugallja az al\'abbi, a 9.~feladat (a)~formul\'aj\'aban megfogalmazott 
azonoss\'agot.
 
A k\"ovetkez\H{o} 9. \'es 10. feladatban ezt az azonoss\'agot l\'atjuk
be. A 9. feladatban azt az egyszer\H{u}bb esetet tekintj\"uk, amikor a
$[\log R(t)]'=x$ egyenlet megoldhat\'o. Ekkor explicit m\'odon
megadhat\'o az, hogy az azonoss\'ag k\'et oldal\'an szerepl\H{o}
kifejez\'es hol veszi fel a sz\'els\H{o}\'ert\'ek\'et. A 10.\ feladat
az \'altal\'anos esettel foglalkozik. Ekkor az $I$-divergencia
kisz\'am\'{\i}t\'as\'aban hasonl\'o probl\'em\'ak \'es gondolatok
jelennek meg, mint a {\it Nagy elt\'er\'esek elm\'ele: F\"uggetlen,
val\'os \'ert\'ek\H{u} val\'osz\'{\i}n\H{u}s\'egi v\'altoz\'ok}\/
feladatsor megfelel\H{o} r\'esz\'eben.

\medskip
\item{9.)} Legyen $\mu$ \'es $\nu$ k\'et val\'osz\'{\i}n\H{u}s\'egi
m\'ert\'ek egy $(Y,\Cal B)$ t\'eren. Ekkor $I(\nu\|\mu)\ge0$, \'es
egyenl\H{o}s\'eg csak $\mu=\nu$ eset\'en lehets\'eges.
\item{} Legyen adva egy $F$ m\'ert\'ek a sz\'amegyenesen, \'es
legyen $x\ge m=\int u\,dF(u)$. (Nincs ilyen $x$~sz\'am, ha $\int
u\,dF(u)=\infty$, \'es tetsz\H{o}leges $x$ sz\'amot tekinthet\"unk,
ha az $\int u\,dF(u)$ nem l\'etezik.) Legyen $G$ egy m\'asik m\'ert\'ek
a sz\'amegyenesen. Ha az $R(t)=\int e^{tu}F(\,du)$
momentumgener\'al\'o f\"uggv\'eny v\'eges valamely $t>0$-ra, \'es
$\int uG(\,du)=x$, akkor $I(G\|F)\ge tx-\log R(t)$. L\'assuk be ennek
az egyen\-l\H{o}t\-len\-s\'eg\-nek egy b\'{\i}zonyos \'ertelm\H{u}
megford\'{\i}t\'as\'at el\H{o}sz\"or abban a speci\'alis esetben,
amikor a $[\log R(t)]'=x$ egyenlet megoldhat\'o, \'es a megold\'as az
$R(t)$ f\"uggv\'eny \'ertelmez\'esi tartom\'any\'anak belsej\'eben
van, ahol $R(t)=\int_{-\infty}^\infty e^{tu} F(\,du)$. Azaz,
mutassuk meg, hogy e felt\'etelek mellett
$$
\inf_{G\colon\;\int u\,dG(u)\ge x} I(G\|F)=\sup_{t\ge0}\( tx-\log R(t)\),\quad
\text{ahol } R(t)=\int e^{tu}F(\,du) \tag a
$$
Ebben az esetben az (a) formula baloldal\'an az infimum, a
jobboldal\'an pedig az az szupr\'emum felv\'etetik. A baloldalon az
infimum a $G(du)=F_t(u)=\frac{e^{tu}\,dF(u)}{R(t)}$
val\'osz\'\i{}n\H{u}s\'egi m\'ert\'ekn\'el, a baloldalon a szupr\'emum
a $[\log R(t)]'=x$ megold\'as\'an\'al \'eretik el.

\item{10.)} L\'assuk be a 9. feladat (a) formul\'aj\'at tetsz\H{o}leges
$F$ eloszl\'asra \'es $x\ge m=\int u\,dF(u)$ sz\'amra. Azt a
speci\'alis esetet kiv\'eve, amikor az $R(t)$ f\"uggv\'eny minden
$t\ge0$-ra \'ertelmezve van, \'es $\limm_{t\to\infty}[\log R(t)]'=x$
minden $\e>0$ sz\'amra l\'etezik olyan $G$ eloszl\'as, amelyre 
$x<\int u\, dG(u)<x+\e$ szigor\'u egyenl\H{o}tlens\'eggel az 
el\H{o}z\H{o} rel\'aci\'o mindk\'et oldal\'an, \'es 
$I(G\|F)<\supp_{t\ge0} (tx-\log R(t))+\e$. 

\medskip
Legyen $F(x)$ \'es $G(x)$ k\'et k\"ul\"onb\"oz\H{o}
eloszl\'asf\"uggv\'eny a sz\'amegyenesen. Legyenek $\xi_1,\dots,\xi_n$
f\"uggetlen $F(x)$ eloszl\'as\'u val\'osz\'\i{}n\H{u}s\'egi
v\'altoz\'ok, $F_n(x)=\frac1n\#\{k\colon\; \xi_k<x, 1\le k\le n\}$, a
$\xi_k$, $k=1,\dots,n$ sorozathoz tartoz\'o empirikus
eloszl\'asf\"uggv\'eny. A va\-l\'o\-sz\'\i{}\-n\H
u\-s\'eg\-sz\'a\-m\'{\i}\-t\'as egy
klasszikus t\'etele, a Glivenko--Cantelli t\'etel szerint az $F_n(x)$
empirikus el\-osz\-l\'as\-f\"ugg\-v\'eny egy val\'osz\'\i{}n\H{u}s\'eggel
konverg\'al szupr\'emum norm\'aban az $F(x)$
el\-osz\-l\'as\-f\"ugg\-v\'eny\-hez. Be fogjuk l\'atni, hogy
annak val\'osz\'\i{}n\H{u}s\'ege, hogy az $F_n(x)$ empirikus
eloszl\'asf\"uggv\'eny a $G(x)$  el\-osz\-l\'as\-f\"ugg\-v\'eny
k\"ozel\'eben van, $F\neq G$, (az $n$ v\'altoz\'oban) exponenci\'alisan
kicsi. Pontosabban,
$$
\lim_{\e\to0}\limsup_{n\to\infty}-\frac 1n\log
P\(\sup_x|F_n(x)-G(x)|<\e\)=I(G\|F), \tag +1
$$
\'es
$$
\lim_{\e\to0}\liminf_{n\to\infty}-\frac 1n\log
P\(\sup_x|F_n(x)-G(x)|<\e\)=I(G\|F), \tag +2
$$
Ezt az \'all\'{\i}t\'ast direkt m\'odon fogjuk bel\'atni, noha az
egyszer\H{u}en k\"ovetkezik a k\'es\H{o}bb t\'argyalt Szanov t\'etelnek
nevezett nagy elt\'er\'es t\'etelb\H{o}l.

A k\"ovetkez\H{o} feladatban ezt az \'all\'{\i}t\'ast abban a
speci\'alis esetben l\'atjuk be, amikor az $F$ \'es $G$ eloszl\'asok
\'altal meghat\'arozott $\mu_F$ \'es $\mu_G$ m\'ert\'ekek v\'eges sok
pontba vannak kon\-cent\-r\'al\-va.

\item{11.)} Legyen $\mu$ \'es $\nu$ k\'et val\'osz\'{\i}n\H{u}s\'egi
m\'ert\'ek egy v\'eges $X=\{x_1,\dots,x_k\}$ halmazon.
Vezess\"uk be a $\mu(\{x_l\})=p_l$, $\nu(\{x_l\})=q_l$, $l=1,\dots,k$,
$\summ_{l=1}^kp_l=\summ_{l=1}^kq_l=1$ jel\"ol\'est. Tegy\"uk fel,
hogy $p_l>0$ minden $1\le l\le k$-ra. Tekints\"uk az $X$ t\'er 
$X^n=\{x_1,\dots,x_k\}^n$ $n$-szeres direkt szorzat\'at, \'es
vezess\"uk be az $y=(y_1,\dots,y_n)\in X^n$ sorozatok ter\'en a
$\mu$ m\'ert\'ek $\mu^{(n)}$ direkt szorzat\'at, azaz legyen 
$\mu^{(n)}(y)=\prodd_{j=1}^n\mu(y_j)$ minden $y=(y_1,\dots,y_n)\in X^n$
sorozatra. Defini\'aljuk tov\'abb\'a a
$$
\chi_n=\chi_n(y,l)=\chi_n(y_1,\dots, y_n,l)=\frac1n\times\#\{s\colon\; 
1\le s\le n,\; y_s=x_l\},
$$ 
sz\'amokat minden $y=(y_1,\dots,y_n)\in X^n$
sorozatra \'es $l=1,\dots,k$ indexre, azaz legyen $\chi_n(y,l)$
az $x_l$ sz\'amok relat\'{\i}v gyakoris\'aga az $y=(y_1,\dots,y_n)$ 
sorozatban. Ekkor tetsz\H{o}leges $\e>0$ sz\'amra \'es
$n>n_0(\e,\nu,\mu)$ indexre
$$
\aligned
\exp&\left\{-n\(\sum_{l=1}^k q_l\log\frac{q_l}{p_l}+C\e\)\right\}\\
&\qquad\le \quad\mu^{(n)}\( |\chi_n(y,l)-q_l|<\e\;\text {minden } 1\le
l\le k\text{ indexre}\)\\
&\qquad\qquad\quad\le \exp\left\{-n\(\sum_{l=1}^k q_l\log\frac
{q_l}{p_l}-C\e\)\right\}
\endaligned \tag3
$$
alkalmas $C=C(\mu,\nu)$ 
%$C(\e)>0$ 
sz\'ammal. 
%amelyre $C(\e)\to0$, ha $\e\to0$.
A fenti formula \'ugy \'ertend\H{o}, hogy a benne szerepl\H{o}
$q_l\log\frac{q_l}{p_l}$ \"osszeadand\'o null\'aval egyenl\H{o}, ha
$q_l=0$. 

\item{} Bizony\'{\i}tsuk be ennek az egyenl\H{o}tlens\'egnek a
seg\'{\i}ts\'eg\'evel a (+1) \'es (+2) \'all\'{\i}t\'ast abban a
speci\'alis esetben, ha az $F$ \'es $G$ eloszl\'as \'altal
meghat\'arozott m\'ert\'ekek v\'eges sok pontba vannak koncentr\'alva.

\medskip
Be akarjuk l\'atni a (+1) \'es (+2) \'all\'{\i}t\'asokat tetsz\H{o}leges
$F$ \'es $G$ eloszl\'asokra. Ehhez el\H{o}sz\"or bel\'atjuk, hogy az
$F$ \'es $G$ eloszl\'asok el\'eg finom v\'eges $F'$ \'es $G'$
diszkretiz\'aci\'oj\'aval el\'erhet\H{o}, hogy $I(G'\|F')$ j\'ol
k\"ozel\'{\i}tse az $I(G\|F)$ $I$-divergenci\'at. Ezt az
\'all\'{\i}t\'ast is k\'et r\'eszletben fogjuk bizony\'{\i}tani.
El\H{o}sz\"or egy speci\'alis partici\'ot tekint\"unk, azt\'an ennek
se\-g\'{\i}t\-s\'e\-g\'e\-vel bebizony\'{\i}tjuk az
\'all\'{\i}t\'ast tetsz\H{o}leges finom partici\'ora. Ezeket az
\'all\'{\i}t\'asokat \'altal\'anosabb m\'ert\'ekterekben fogjuk
bebizony\'{\i}tani. Azt mondjuk, hogy halmazoknak egy
$\Cal C=(\bold C_1,\dots,\bold C_k)$ rendszere, ahol $\bold C_r$ az
$Y$ halmaz m\'erhet\H{o} r\'eszhalmaza, $1\le r\le k$, egy $(Y,\Cal B)$
t\'er (v\'eges) partici\'oja, ha $\bold C_1,\dots,\bold C_k$ diszjunkt
halmazok, \'es $\bigcup\limits_{r=1}^k\bold C_r=Y$.
 
Legyen adva egy $(Y,\Cal B)$  m\'erhet\H{o} t\'er, \'es annak v\'eges
$\Cal C$ partici\'oja. A $\Cal C$ partici\'ohoz v\'alasszunk egy
$(x_1,\dots,x_k)$,  $x_r\in \bold C_r$, $r=1,\dots,k$, (csak a $\Cal C$
partici\'ot\'ol f\"ugg\H{o}) pont\-rend\-szert. Egy az $(Y,\Cal B)$
t\'eren \'ertelmezett $\mu$ val\'osz\'{\i}n\H{u}s\'egi m\'ert\'ek
$\mu_{\Cal C}$ vet\"ulet\'et a $\Cal C$ partici\'ora \'ugy defini\'aljuk, 
mint azt a $\mu_{\Cal C}$ m\'ert\'eket, amely az $x_r$, $1\le r\le k$,
pontokba van koncentr\'alva, \'es $\mu_{\Cal C}(\{x_r\})=\mu(\bold
C_r)$, $r=1,\dots,k$. 

\medskip
\item{12.)} Legyen adva k\'et $\mu$ \'es $\nu$ val\'osz\'{\i}n\H{u}s\'egi
m\'ert\'ek egy $(Y,\Cal B)$ t\'eren, valamint az $(Y,\Cal B)$ t\'er
egy  $\Cal C$ v\'eges partici\'oja. Mutassuk meg, hogy $I\(\nu_{\Cal
C}\|\mu_{\Cal C}\)\le I(\nu\|\mu)$. Adva egy $\e>0$ konstru\'aljunk
olyan $\Cal C$ v\'eges partici\'ot, amelyre $I\(\nu_{\Cal C}\|\mu_{\Cal C}\)\ge
I(\nu\|\mu)-\e$, ha $I(\nu\|\mu)<\infty$, \'es $I\(\nu_{\Cal
C}\|\mu_{\Cal C}\)\ge \e^{-1}$, ha $I(\nu\|\mu)=\infty$. 

\medskip
\'Erdemes megfogalmazni a 12. feladat eredm\'eny al\'abbi 
k\"ovetkezm\'eny\'et:
$$
I(\nu\|\mu)=\supp_{\Cal C\text{ az } (Y,\Cal B) \text{ t\'er v\'eges
partici\'oja}} I\(\nu_{\Cal C}\|\mu_{\Cal C}\)
$$
 
Be akarjuk l\'atni, hogy az $I(\nu\|\mu)$ $I$-divergenci\'at nemcsak
egy speci\'alis hanem minden el\'eg finom partici\'o
seg\'{\i}ts\'eg\'evel j\'ol lehet approxim\'alni. Ehhez azonban
bizonyos megszor\'{\i}t\'ast kell tenni, nevezetesen azt, hogy a
tekintett t\'er $\Cal B$ $\sigma$-algebr\'aja j\'ol
k\"ozel\'{\i}thet\H{o} v\'eges partici\'okkal.  El\H{o}sz\"or
bizony\'{\i}tsunk be egy technikai jelleg\H{u} m\'ert\'ekelm\'eleti
app\-ro\-xi\-m\'a\-ci\-\'os lemm\'at, amely hasznos a bizony\'{\i}tand\'o
\'all\'{\i}t\'as igazol\'as\'aban.

\medskip
\item{13.)} Legyen $(X,\Cal A)$ egy m\'erhet\H{o} t\'er, legyenek azon
adva $\mu_1,\dots,\mu_k$ val\'osz\'{\i}n\H{u}s\'egi m\'er\-t\'e\-kek,
\'es legyen $\Cal A_1\subset \Cal A_2\subset\cdots$ egym\'asba
skatuly\'azott $\sigma$-algebr\'ak sorozata, amely\-re 
$\Cal A=\sigma\(\bigcup\limits_{l=1}^\infty \Cal A_l\)$, azaz 
$\Cal A$ az $\Cal A_l$ $\sigma$-algebr\'ak uni\'oja \'altal gener\'alt
legsz\"ukebb $\sigma$-algebra. Ekkor minden $\A\in \Cal A$ halmazra  
\'es $\e>0$ sz\'amra l\'etezik olyan $n=n(\e,\bold A)\ge1$ index, \'es 
$\BB=\BB(\e)\in \Cal A_n$ halmaz, amelyekre 
$\mu_j(\A\Delta\BB)\le \e$, minden $j=1,\dots,k$ sz\'amra,
ahol $\A\Delta\BB=(\A\setminus\BB)\cup(\BB\setminus\A)$.

\item{14.)} Legyen adva egy $(Y,\Cal B)$ m\'erhet\H{o} t\'er \'es
azon egym\'asba skatuly\'azott v\'eges elemsz\'am\'u partici\'ok
$\Cal A_1\subset\Cal A_2\subset\cdots$ sorozata. Az $(Y,\Cal B)$  
t\'er $\Cal A_l$ par\-ti\-ci\'oj\'at azo\-no\-s\'{\i}t\-suk azzal a 
(v\'eges elem\-sz\'am\'u) $\sigma$-algebr\'aval 
amely azokb\'ol a halmazokb\'ol \'all, amelyek 
el\H{o}\'all\'{\i}that\'oak, mint a $\Cal A_l$ partici\'o 
bizonyos ele\-me\-i\-nek az uni\'oja. Teljes\"ulj\"on a 
$\Cal B=\sigma\(\bigcup\limits_{l=1}^\infty\Cal A_l\)$ felt\'etel. 
(Innen k\"ovetkezik az is, hogy az $(Y,\Cal B)$ t\'er $\Cal B$ 
$\sigma$-algebr\'aj\'at megsz\'aml\'alhat\'o sok halmazzal lehet 
gener\'alni.) Ekkor tetsz\H{o}leges az $(Y,\Cal B)$ t\'eren 
defini\'alt $\mu$ \'es $\nu$  val\'osz\'{\i}n\H{u}s\'egi 
m\'ert\'ekp\'arra 
$\limm_{l\to\infty}I(\nu_{\Cal A_l}\|\mu_{\Cal A_l})=I(\nu\|\mu)$.

\item{15.)} L\'assuk be  a 14. feladat eredm\'eny\'enek a
seg\'{\i}ts\'eg\'evel a (+1) \'es (+2) \'all\'{\i}t\'asokat tet\-sz\H
o\-le\-ges $F$ \'es $G$ eloszl\'asf\"uggv\'enyekre.

\medskip
Be szeretn\'enk l\'atni a 9. --- 15. feladatok eredm\'enyeinek
seg\'{\i}ts\'eg\'evel az e fel\-adat\-sorban megfogalmazott nagy
elt\'er\'es t\'etel fels\H{o} becsl\'es\'et, (azaz, a
$P\(\frac{S_n}n\in [a,b]\)$ val\'osz\'{\i}n\H{u}s\'egre akarunk \'eles
als\'o becsl\'est adni). Ez tu\-laj\-don\-k\'eppen a nagy
elt\'er\'es t\'etel \'all\'{\i}t\'as\'anak neh\'ez fele. A gondolat a
k\"ovetkez\H{o}: Ha a $\xi_1,\dots,\xi_n$ val\'osz\'{\i}n\H{u}s\'egi
v\'altoz\'ok empirikus eloszl\'asf\"uggv\'enye $F_n(x)$, \"osszege
$S_n$, akkor $\frac{S_n}n=\int u\,dF_n(u)$. Azt v\'arjuk, hogy ez az
\'atlag k\"ozel van az $\int u\,dG(u)$ integr\'alhoz, ha az $F_n$
empirikus eloszl\'asf\"uggv\'eny k\"ozel van a $G$ 
eloszl\'asf\"uggv\'enyhez. M\'asr\'eszt ennek az esem\'enynek 
a val\'osz\'{\i}n\H{u}s\'eg\'et j\'ol tudjuk becs\"ulni. \'Ily 
m\'odon a $G$ eloszl\'asf\"uggv\'eny alkalmas v\'alaszt\'as\'aval 
j\'o als\'o becsl\'est kapunk. E becsl\'esben az $I(G\|F)$ 
$I$-divergencia jelenik meg, de a 10.~fel\-adat eredm\'eny\'enek 
se\-g\'{\i}t\-s\'e\-g\'e\-vel meg tudjuk adni a
$\supp_{t\ge0}(tx-\log R(t))$ kifejez\'est\H{o}l f\"ugg\H{o} als\'o
becsl\'est a vizsg\'alt val\'osz\'{\i}n\H{u}s\'egre.
 
Ez az \'erv alkalmazhat\'o, de csak bizonyos finom\'{\i}t\'assal. A
probl\'ema a k\"ovetkez\H{o}: Ha n\'eh\'any $\xi_k$ val\'osz\'{\i}n\H
us\'egi v\'altoz\'o abszol\'ut \'ert\'eke rendk\'{\i}v\"ul nagy, akkor
ezek alig m\'odos\'{\i}tj\'ak az $F_n$ empirikus
eloszl\'asf\"uggv\'enyt, de nagyon befoly\'asolhatj\'ak az
$\frac{S_n}n$ \'atlag \'ert\'ek\'et. E neh\'ezs\'eg lek\"uzd\'ese
\'erdek\'eben olyan $G$ eloszl\'asf\"uggv\'eny kis k\"ornyezet\'enek
a val\'osz\'{\i}n\H{u}s\'eg\'ere adunk als\'o becsl\'est, amely egy
v\'eges intervallumba koncentr\'alt m\'ert\'eket hat\'aroz meg.
L\'atni fogjuk, hogy a $G$ eloszl\'as v\'alaszt\'as\'ara tett
megszor\'{\i}t\'as nem okoz komoly probl\'em\'at. A k\"ovetkez\H{o}
feladatban bebizony\'{\i}tjuk a k\'{\i}v\'ant \'all\'{\i}t\'ast a fent
v\'azolt \'ervel\'es r\'eszletesebb kidolgoz\'as\'aval. 

\medskip
\item{16.)} Legyenek $\xi_1(\omega),\xi_2(\omega),\dots$ f\"uggetlen
$F$ eloszl\'as\'u val\'osz\'{\i}n\H{u}s\'egi v\'altoz\'ok, \'es $G
\neq F$ egy m\'asik eloszl\'asf\"uggv\'eny, amelyik egy v\'eges
intervallumba van koncentr\'alva, azaz l\'etezik olyan $K>0$ sz\'am,
amelyre $G(K)=1$, $G(-K)=0$. L\'assuk be, hogy tetsz\H{o}leges
$\e>0$ sz\'amra l\'etezik olyan $L=L(\e)>0$ sz\'am, amelyre $L(\e)\to\infty$,
ha $\e\to0$, \'es az $\bar F(x)=\bar F_{L(\e)}(x)=P(\xi_1<x|\,|\xi_1|\le
L)$ felt\'eteles el\-osz\-l\'as\-f\"ugg\-v\'eny teljes\'{\i}ti a
$\supp_x|F(x)-\bar F(x)|\le \e$ \'es $|IG\|F)-I(G\|\bar F)|\le\e$
tulajdons\'agokat. Tov\'abb\'a van olyan $C(\eta,\e)$ f\"uggv\'eny,
amelyre $C(\eta,\e)\to0$, ha $\eta\to0$ minden $\e>0$-ra, \'es
$$   \allowdisplaybreaks
\align
P\(\left.\omega\colon\;\sup_x |F_n(x,\omega)-G(x)|\le \eta\right|
|\xi_k(\omega)|\le L,\;1\le k\le n\)&\ge e^{-nI(G\|\bar F)
-nC(\eta,\e)}\\
\ge &e^{-n(I(G\|F)+C(\eta,\e)+\e)},
\endalign
$$
ha $I(G\|F)<\infty$. L\'assuk be e t\'eny seg\'{\i}ts\'eg\'evel a
nagy elt\'er\'es t\'etel fels\H{o} becsl\'es\'et, azaz azt az
\'all\'{\i}t\'ast, hogy $E\xi_1\le a<b$ eset\'en
$\limsupp_{n\to\infty}-\frac1n\log P\(\frac{S_n}n\in[a,b]\)\le
\supp_{t\ge0}(ta-\log R(t))$. (Ha $E\xi_1$ nem l\'etezik, akkor
b\'armilyen $a<b$ sz\'amp\'art te\-kint\-he\-t\"unk.)

\medskip
Meg k\'{\i}v\'anjuk fogalmazni \'es be akarjuk bizony\'{\i}tani a
feladatsor elej\'en megfogalmazott nagy elt\'er\'es t\'etelt f\"uggetlen
val\'osz\'{\i}n\H{u}s\'egi v\'altoz\'ok empirikus
eloszl\'asf\"uggv\'eny\'ere. Az eloszl\'asf\"uggv\'enyek
ter\'eben fogunk dolgozni. A nagy elt\'er\'es t\'etel
megfogalmaz\'as\'ahoz be kell vezetni egy topol\'ogi\'at az
eloszl\'asok ter\'eben. Igyeksz\"unk a nagy elt\'er\'es t\'etelt min\'el
gazdagabb  topol\'ogi\'aval ell\'atott t\'erben bebizony\'{\i}tani, mert
\'{\i}gy t\"obb esetben tudunk als\'o vagy fels\H{o} becsl\'est adni az
empirikus m\'ert\'eknek egy el\H{o}\'{\i}rt halmazba es\'e\-s\'e\-nek a
val\'osz\'{\i}n\H{u}s\'eg\'ere. B\'ar minket els\H{o}sorban val\'os
\'ert\'ek\H{u} val\'osz\'{\i}n\H{u}s\'egi v\'altoz\'ok \'erdekelnek, nem
jelent neh\'ezs\'eget, s\H{o}t egyszer\H{u}bb terminol\'ogi\'at tesz
lehet\H{o}v\'e, ha \'al\-ta\-l\'a\-no\-sabb m\'erhet\H{o} t\'erbeli
\'ert\'eket felvev\H{o} val\'osz\'{\i}n\H{u}s\'egi v\'altoz\'okat
tekint\"unk. Az al\'ab\-bi\-ak\-ban defini\'alt, \'ugynevezett 
$\tau$-topol\'ogi\'at fogjuk tekinteni.

\medskip\noindent
{\bf A $\tau$-topol\'ogia definici\'oja.} {\it Legyen adva egy 
$(Y,\Cal B)$ m\'erhet\H{o} t\'er, \'es jel\"olje $X$ az ezen a 
t\'eren \'ertelmezett (el\H{o}jeles) m\'ert\'ekek halmaz\'at
vagy annak egy r\'eszhalmaz\'at. A $\tau$ topol\'ogi\'at az $X$
t\'eren defini\'aljuk. A $\tau$-topol\'ogi\'aban a ny\'{\i}lt
halmazokat a $\{\mu\colon\; \mu\in X,\,\mu(\BB_1)\in \bold G_1,
\dots,\mu(\BB_k)\in \bold G_k\}$ alak\'u halmazok gener\'alj\'ak,
ahol $k$ tetsz\H{o}leges ter\-m\'e\-sze\-tes sz\'am, 
$\BB_1,\dots,\BB_k$ az $(Y,\Cal B)$ t\'er m\'erhet\H{o} halmazai, 
\'es  $\bold G_1,\dots,\bold G_k$ a sz\'amegyenes ny\'{\i}lt 
r\'eszhalmazai.}

\medskip\noindent
{\it Megjegyz\'es:}\/ Ugyanezen $\tau$ topol\'ogia ny\'{\i}lt
halmazainak a b\'azis\'at  gener\'alj\'ak a 
$\{\mu\colon\; \mu\in X,\,\mu(\BB_1)\in \bold G_1,\dots,
\mu(\BB_k)\in \bold G_k\}$ alak\'u halmazok, ahol 
$\{\BB_1,\dots,\BB_k\}$ az $(Y,\Cal B)$ t\'er v\'eges partici\'oi,
\'es  $\bold G_1,\dots,\bold G_k$ a sz\'amegyenes ny\'{\i}lt 
r\'eszhalmazai. Ezt a t\'enyt fel fogjuk haszn\'alni n\'eh\'any
bizony\'{\i}t\'asban.
 
\medskip\noindent
{\bf Nagy elt\'er\'es t\'etel empirikus m\'ert\'ekekre.}\/ {\it  
Legyen adva egy $(Y,\Cal B)$ m\'erhet\H{o} t\'er, azon egy $\mu$
val\'osz\'{\i}n\H{u}s\'egi m\'ert\'ek, \'es legyen 
$\xi_1(\oo),\xi_2(\oo),\dots$, f\"uggetlen, $(Y,\Cal B)$ 
\'ert\'ek\H{u}, $\mu$ eloszl\'as\'u 
va\-l\'o\-sz\'{\i}\-n\H{u}\-s\'egi v\'altoz\'ok sorozata 
egy $(\Omega, \Cal D, P)$ val\'osz\'{\i}n\H{u}s\'egi mez\H{o}n,
azaz legyen $P(\xi_n\in \BB)=\mu(\BB)$ minden $\BB\in \Cal B$ 
halmazra, $n=1,2,\dots$. Jel\"olje $(X,\Cal X)$ az $(Y,\Cal B)$ 
t\'eren lev\H{o} va\-l\'o\-sz\'{\i}\-n\H{u}\-s\'e\-gi 
m\'ert\'ekek ter\'et az $\Cal X$-topol\'ogi\'aval. Jel\"olje 
$\Cal A$ az $\Cal X$ topol\'ogia \'altal gener\'alt 
$\sigma$-algebr\'at az $X$ t\'eren. A 
($\xi_1(\oo),\dots,\xi_n(\oo))$ val\'osz\'{\i}n\H{u}s\'egi
v\'altoz\'ok \'altal meg\-ha\-t\'a\-ro\-zott (v\'eletlen) 
$\mu_n(\oo)$ em\-pi\-ri\-kus m\'ert\'eket a 
k\"ovetkez\H{o}k\'epp defini\'aljuk:
$$
\mu_n(\oo)(\BB)=\frac1n\#\{k\colon\; 1\le k\le n,\;
\xi_k(\oo)\in\BB\}\quad\text{minden } \BB\in \Cal B\text{-re}.
$$
Ekkor $\mu_n(\oo)$, $\oo\in\Omega$, tekinthet\H{o} \'ugy, mint egy
$(X,\Cal X)$ t\'erbeli \'ert\'eket felvev\H{o} val\'osz\'{\i}n\H{u}s\'egi
v\'altoz\'o. Jel\"olje $\mu^{(n)}$ a $\mu_n(\oo)$ empirikus m\'ert\'ek 
el\-osz\-l\'a\-s\'at az $(X,\Cal X)$ t\'eren, azaz legyen 
$\mu^{(n)}(\A)=P(\oo\colon\;\mu_n(\oo)\in \A)$, ahol $\A\subset\Cal A$,
m\'erhet\H{o} halmaz az $(X,\Cal X)$ t\'erben. A $\mu^{(n)}$, 
$n=1,2,\dots$,  m\'ert\'ekek sorozata teljes\'{\i}ti a nagy 
elt\'er\'es t\'etelt az $(X,\Cal X)$ topol\'ogikus t\'eren az 
$I(\nu)=I(\nu\|\mu)$,  $\nu\in X$, f\"uggv\'ennyel, ahol  
$I(\nu\|\mu)$ a $\nu$ m\'ert\'ek $\mu$ m\'ert\'ek szerinti 
$I$-divergenci\'aj\'at jel\"oli.}

\medskip
Be fogjuk tov\'abb\'a l\'atni a nagy elt\'er\'es t\'etel i.), ii.)
\'es iii.) tulajdons\'ag\'at \'es ezenk\'{\i}v\"ul azt, hogy az el\H{o}bb
defini\'alt $\tau$ topol\'ogia teljes\'{\i}ti a $T_3$ tulajdons\'agot,
amelynek fogalm\'at felid\'ezt\"uk a nagy elt\'er\'es t\'etel
definici\'oj\'aban. 

\medskip
Az el\H{o}bb kimondott t\'etelnek, amelyet az irodalomban Szanov
t\'etelnek h\'{\i}vnak, fenti megfogalmaz\'asa kiss\'e pontatlan. 
Nem teljes\"ul ugyanis felt\'etlen\"ul az a tu\-laj\-don\-s\'ag, 
hogy a $\mu_n$ empirikus m\'er\-t\'ek val\'osz\'{\i}n\H{u}s\'egi 
v\'altoz\'o, azaz m\'erhet\H{o} f\"uggv\'eny. S\H{o}t, a $\tau$ 
topol\'ogia el\'eg gazdag ahhoz, hogy a legterm\'eszetesebb 
esetekben is, p\'eld\'aul amikor sz\'amegyenesen defini\'alt 
val\'osz\'{\i}n\H{u}s\'egi v\'altoz\'okat tekint\"unk, nem lehet 
az $(X,\Cal X)$ t\'er tetsz\H{o}leges ny\'{\i}lt vagy z\'art 
halmaza eset\'en annak val\'osz\'{\i}n\H{u}s\'eg\'er\H{o}l
besz\'elni, hogy az empirikus m\'ert\'ek ebbe a halmazba esik. Erre a
26. feladatban p\'eld\'at is fogunk l\'atni. Viszont a Szanov t\'etel
\'erv\'enyben marad, ha a nagy elt\'er\'es ii.) tulajdons\'ag\'aban
(annak val\'osz\'{\i}n\H{u}s\'ege, hogy az empirikus m\'ert\'ek
ny\'{\i}lt halmazba esik) bels\H{o} m\'ert\'ekr\H{o}l a iii.)
tulajdons\'ag\'aban pedig (annak val\'osz\'{\i}n\H{u}s\'ege, hogy az
empirikus m\'ert\'ek z\'art halmazba esik) k\"uls\H{o} m\'ert\'ekr\H{o}l
besz\'el\"unk. \'Igy a 19. feladatban $\mu^{(n)}$ bels\H{o}
m\'ert\'eket, a 22., 23. \'es 24. feladatban pedig k\"uls\H{o}
m\'ert\'eket jel\"ol. Egy halmaz bels\H{o} m\'ert\'eke az \'altala
tartalmazott m\'erhet\H{o} halmazok m\'ert\'ek\'enek a szupr\'emuma,
k\"uls\H{o} m\'ert\'eke pedig az \H{o}t tartalmaz\'o halmazok
m\'ert\'ek\'enek az infimuma. 

A k\"ovetkez\H{o} ok miatt \'erdemes bevezetni a Szanov t\'etel 
megfogalmaz\'as\'aban k\"uls\H{o} \'es bels\H{o} m\'ert\'ekeket. 
Jel\"olje $\Cal A_0$ az $X$ halmaz 
$\{\mu\colon\; \mu\in X,\,\mu(\BB_1)\in \bold
G_1,\dots,\mu(\BB_k)\in \bold G_k\}\subset X$ alak\'u 
r\'eszhalmazai \'altal gener\'alt $\sigma$-algebr\'at, ahol $k$ 
tetsz\H{o}leges ter\-m\'e\-sze\-tes sz\'am, 
$\BB_1,\dots,\BB_k$ az $(Y,\Cal B)$ t\'er m\'erhet\H{o} halmazai, 
\'es  $\bold G_1,\dots,\bold G_k$ a sz\'amegyenes ny\'{\i}lt 
r\'eszhalmazai. Be lehet l\'atni, hogy tetsz\H{o}leges 
$A\in\Cal A_0$ halmazra \'es $n=1,2,\dots$ sz\'amra az 
$\{\oo\colon\;\mu_n(\oo)\in A\}$ alak\'u halmazok az 
$(\Omega,\Cal D,P)$ val\'osz\'{\i}n\H{u}s\'egi mez\H{o} $\Cal D$ 
m\'erhet\H{o} halmazai, ez\'ert l\'etezik
val\'osz\'{\i}n\H{u}s\'eg\"uk. A Szanov t\'etel azt \'all\'{\i}tja,
hogy az $\Cal A_0$ $\sigma$-algebr\'aban l\'ev\H{o} z\'art \'es 
ny\'{\i}lt halmazokra \'erv\'enyesek a nagy elt\'er\'es t\'etel
becsl\'esei a t\'etelben defini\'alt $I(\cdot)$ f\"uggv\'ennyel. De 
az $(X,\Cal A)$ t\'erben defini\'alt $\Cal A$ $\sigma$-algebr\'at 
nem csak az $\Cal A_0$ $\sigma$-algebra
definici\'oj\'aban szerepl\H{o} halmazok, hanem az \"osszes ny\'{\i}lt
halmaz gener\'alja, ez\'ert ez a $\sigma$-algebra sokkal nagyobb, mint
$\Cal A_0$. A 26. feladatban, --- kihaszn\'alva, hogy kontinum sok 
ny\'{\i}lt halmaz uni\'oja is ny\'{\i}lt --- p\'eld\'at mutatunk
olyan $G$ ny\'{\i}lt halmazra az $(X,\Cal X)$ t\'erben, amely nem 
eleme az $\Cal A_0$ $\sigma$-algebr\'anak, \'es nem lehet defini\'alni
a $\mu_n(G)=P(\oo\colon\;\mu_n(\oo)\in G)$ val\'osz\'{\i}n\H{u}s\'eget. 
De lehet defini\'alni a $\mu_n(G)$ bels\H{o} \'es $\mu_n(F)$ k\"uls\H{o}
m\'ert\'ekeket ny\'{\i}lt~$G$, illetve z\'art~$F$ halmazokra, \'es a 
Szanov t\'etel \'erv\'enyben marad ilyen halmazokra is, ha a fent 
eml\'{\i}tett m\'odon bels\H{o} \'es k\"uls\H{o} m\'ert\'ekekkel 
dolgozunk.

\medskip
\item{17.)} Legyen $(X,\Cal X)$ egy $(Y,\Cal B)$ m\'erhet\H{o} t\'eren
defini\'alt val\'osz\'{\i}n\H{u}s\'egi m\'ert\'ekek tere a $\tau$
topol\'ogi\'aval. Bizony\'{\i}tsuk be, hogy ez a topol\'ogikus t\'er
$T_3$ t\'er, azaz tetsz\H{o}leges $\mu\in X$ pontra \'es z\'art $\bold
F\subset X$ halmazra, amelyre $\mu\notin \bold F$, l\'etezik k\'et
diszjunkt $\bold G_1$ \'es $\bold G_2$ ny\'{\i}lt halmaz, amelyekre
$\mu\in \bold G_1$ \'es $\bold F\subset\bold G_2$. Tov\'abb\'a az
($X,\Cal X)$ t\'er teljes\'{\i}ti a k\"ovetkez\H{o} $T_1$ tulajdons\'agot
is: Minden egy elem\H{u}, $\{\mu\}$, $\mu\in X$ halmaz z\'art.

\item{18.)} Legyen $(Y,\Cal B)$ m\'erhet\H{o} t\'er, $(X,\Cal X)$
pedig az $(Y,\Cal B)$ t\'eren defini\'alt val\'osz\'{\i}n\H{u}s\'egi
m\'er\-t\'e\-kek tere a $\tau$ topol\'ogi\'aval ell\'atva.
R\"ogz\'{\i}ts\"unk egy $\mu\in X$ val\'osz\'{\i}n\H{u}s\'egi
m\'ert\'eket. Ekkor az  $I(\nu\|\mu)$ $I$-divergencia  mint a 
$\nu\in X$ v\'altoz\'o f\"uggv\'enye alulr\'ol f\'elig foly\-to\-nos.

\item{} Tekints\"uk azt a speci\'alis esetet, amikor 
$(Y,\Cal B)=(R^1,\Cal B)$, a sz\'amegyenes a Borel 
$\sigma$-algebr\'aval. Vegy\"uk az $(R^1,\Cal B)$ t\'eren
defini\'alt val\'osz\'{\i}n\H{u}s\'egi m\'ert\'ekek $X$ halmaz\'an 
azt a ($\tau$-topol\'ogi\'an\'al durv\'abb) $\tau_0$ topol\'ogi\'at, 
amelynek b\'azis\'at alkotj\'ak a
$\{\mu\colon\; \mu\in X,\,\mu(\BB_1)\in \bold G_1,\dots,
\mu(\BB_k)\in \bold G_k\}$ alak\'u halmazok, ahol $\BB_1$,\dots, $\BB_k$
szakaszok vagy f\'elegyenesek a sz\'amegyenesen, \'es $\bold G_1$,\dots 
$\bold G_k$ ny\'{\i}lt halmazok. Az $I(\nu\|\mu)$ $I$-divergencia  mint a 
$\nu\in X$ v\'altoz\'o f\"uggv\'enye egy r\"ogz\'{\i}tett $\mu$
m\'ert\'ekkal a $\tau_0$ topol\'ogia szerint is alulr\'ol f\'elig 
foly\-to\-nos.

\item{19.)} Legyen adva egy $(Y,\Cal B)$ m\'erhet\H{o} t\'er, \'es
legyen $(X,\Cal A)$ az $(Y,\Cal B)$ t\'eren defini\'alt
val\'osz\'{\i}n\H{u}s\'egi m\'ert\'ekek tere a $\tau$
topo\-l\'o\-gi\'a\-val illetve az \'altala defini\'alt
$\sigma$-algebr\'aval. R\"ogz\'{\i}ts\"unk egy $\mu\in X$
val\'osz\'{\i}n\H{u}s\'egi m\'ert\'eket, \'es legyenek
$\xi_1,\xi_2,\dots$, f\"uggetlen egyforma eloszl\'as\'u $(Y,\Cal
B)$ \'ert\'ek\H{u} val\'osz\'{\i}n\H{u}s\'egi v\'altoz\'ok  $\mu$
eloszl\'assal. Jel\"olje $\mu^{(n)}$, $n=1,2,\dots$, a
$\xi_1(\oo),\dots,\xi_n(\oo)$ val\'osz\'{\i}n\H{u}s\'egi v\'altoz\'ok
empirikus eloszl\'as\'anak (mint $(X,\Cal A)$ \'ert\'ek\H{u}
va\-l\'o\-sz\'{\i}\-n\H{u}\-s\'egi v\'altoz\'onak) az
eloszl\'as\'at az $(X,\Cal A)$ t\'eren. Ekkor a $\mu^{(n)}$ m\'ert\'ekek
teljes\'{\i}tik a nagy elt\'er\'es t\'etel ii.) tulajdons\'ag\'at is
az $I(\cdot\|\mu)$ $I$-di\-ver\-gen\-ci\'a\-val, azaz tetsz\H{o}leges
ny\'{\i}lt $\bold G\subset X$ halmazra
$$
\limsup\limits_{n\to\infty}-\frac1n \log \mu^{(n)}(\bold
G)\le \inff_{\nu\in \bold G} I(\nu\|\mu).
$$

\medskip
A nagy elt\'er\'es utols\'o felt\'etel\'enek a bizony\'{\i}t\'asa, ---
z\'art halmazok val\'osz\'{\i}n\H{u}s\'eg\'enek a fels\H{o} becsl\'ese,
--- finomabb \'ervel\'est ig\'enyel. A probl\'em\'at az okozza,
hogy hi\'aba tudunk a ,,nagyon nem tipikus" pontok kis
k\"ornyezeteinek a val\'osz\'{\i}n\H{u}s\'eg\'ere j\'o becsl\'est adni,
ezek uni\'oj\'anak a val\'osz\'{\i}n\H{u}s\'eg\'ere az ilyen becsl\'esek
\"onmagukban nem elegend\H{o}ek. Term\'eszetes gondolat valamilyen j\'o
approxim\'aci\'oval \'es v\'eges fed\'essel megpr\'ob\'alni ezt a
probl\'em\'at megoldani. Ez a m\'odszer akkor m\H{u}k\"odik, ha a
becs\"ulend\H{o} halmaz nemcsak z\'art, hanem kompakt is. A 20.
feladatban el\'egs\'eges felt\'etelt adunk arra, hogy egy z\'art
halmaz kompakt legyen. Ezut\'an bebizony\'{\i}tjuk a nagy elt\'er\'es
t\'etel iii.) tulajdons\'ag\'at kompakt halmazokra, illetve
megmutatjuk, hogy  \'altal\'anos z\'art halmazok val\'osz\'{\i}n\H
us\'eg\'enek a becsl\'ese visszavezethet\H{o} egy minimax t\'etelre.
V\'eg\"ul ezt a minimax t\'etelt bizony\'{\i}tjuk be.

\item{20.)} Legyen $(Y,\Cal B)$ m\'erhet\H{o} t\'er, $(X,\Cal X)$ az
$(Y,\Cal B)$ t\'eren defini\'alt val\'osz\'{\i}n\H{u}s\'egi m\'ert\'ekek
tere  a $\tau$ topol\'ogi\'aval. Legyen $\mu\in X$ tetsz\H{o}leges
val\'osz\'{\i}n\H{u}s\'egi m\'ert\'ek, $R>0$ pozit\'{\i}v val\'os
sz\'am. Ekkor a $\{\nu\colon\;\nu\in X,\,I(\nu\|\mu)\le R\}$ halmaz kompakt.

\item{21.)} Az $(X,\Cal X)$ t\'er a $\tau$ topol\'ogi\'aval $T_{\rho}$
t\'er. (E fogalom definici\'oj\'at  felid\'ezt\"uk a 3. feladat
definici\'oj\'aban.) 

\medskip
A 21. feladat \'all\'{\i}t\'as\'ara nem lesz a tov\'abbiakban 
sz\"uks\'eg\"unk. E feladat c\'elja az volt, hogy megmutassuk: 
eset\"unkben is alkalmazhat\'o a 3. feladat eredm\'enye. A 
bizony\'{\i}t\'as n\'eh\'any alapvet\H{o} topol\'ogiai
 eredm\'enyb\H{o}l \'es egy az el\H{o}z\H{o} feladatban is 
alkalmazott konstrukci\'ob\'ol k\"o\-vet\-ke\-zik.

\medskip
A k\"ovetkez\H{o} feladatban a nagy elt\'er\'es t\'etel iii)
tulajdons\'ag\'anak egy gyen\-g\'{\i}\-tett v\'altozat\'at 
bizony\'{\i}tjuk be. Ebben z\'art halmazok helyett csak 
kompakt halmazokat te\-kin\-t\"unk. El\H{o}\-sz\"or egy 
\'altal\'anosabb \'all\'{\i}t\'ast bizony\'{\i}tunk be arr\'ol, 
hogy ez a rel\'aci\'o teljes\"ul $\bold Q_n$ m\'ert\'ekek egy 
sorozat\'ara az $(X,\Cal A)$ t\'eren egy $I(\nu)$, $\nu\in X$, 
f\"uggv\'ennyel alkalmas felt\'etelek teljes\"ul\'es eset\'en.
Azt\'an megmutatjuk, hogy ezek a felt\'etelek teljes\"ulnek
a mi eset\"unkben is.

\medskip
\item{22.)} Legyen $(Y,\Cal B)$ egy m\'erhet\H{o} t\'er, $(X, \Cal X)$
az $(Y,\Cal B)$ t\'eren \'ertelmezett val\'osz\'{\i}n\H{u}s\'egi
m\'ert\'ekek tere a $\tau$ topol\'ogi\'aval, $\Cal A$ az $\Cal X$
topol\'ogia \'altal gener\'alt $\sigma$-algebra az $X$ t\'eren. Legyen
$\bold Q_n$, $n=1,2,\dots$, val\'osz\'{\i}n\H{u}s\'egi m\'ert\'ekek egy
sorozata az $(X,\Cal A)$ t\'eren, \'es $I(\cdot)$ alkalmasan v\'alasztott
nem negat\'{\i}v f\"uggv\'eny  $(X,\Cal X)$-en, amely a $+\infty$
\'ert\'eket is felveheti. Tegy\"uk fel, hogy minden $\nu\in X$
m\'ert\'ekre \'es $\e>0$ sz\'amra l\'etezik a $\nu$ pontnak olyan  
$\bold G(\nu,\e)$ ny\'{\i}lt k\"ornyezete, amelyre 
$\liminff_{n\to\infty}-\frac1n\log\bold Q_n(\bold G(\nu,\e))>I(\nu)-\e$, 
ha $I(\nu)<\infty$ \'es $\liminff_{n\to\infty}-\frac1n\log 
\bold Q_n(\bold G(\nu,\e))>\frac1\e$, ha $I(\nu)=\infty$. Ekkor a 
$\bold Q_n$ m\'ert\'eksorozat \'es az $I(\cdot)$ f\"uggv\'eny 
teljes\'{\i}ti a nagy elt\'er\'es t\'etel iii.) tulajdons\'ag\'anak 
k\"ovetkez\H{o} gyeng\'{\i}tett alakj\'at:

\itemitem{iii$'$.)} $\liminf\limits_{n\to\infty}-\frac1n \log \bold Q
_n(\bold K)\ge \inff_{\nu\in \bold K} I(\nu)$ minden kompakt $\bold
K\subset X$ halmazra.

\item{} Legyen $\bold Q_n$ $n$ f\"uggetlen $\mu$ eloszl\'as\'u
val\'oszin\H{u}s\'egi v\'altoz\'ob\'ol k\'esz\'{\i}tett
$\mu_n=\mu_n(\oo)$ empirikus m\'er\-t\'ek $\mu^{(n)}$ eloszl\'asa 
az $(X,\Cal A)$ t\'eren, \'es $I(\cdot)=I(\cdot\|\mu)$. Ezzel 
a v\'a\-lasz\-t\'as\-sal alkalmazhatjuk a feladat els\H{o}
r\'esz\'enek az eredm\'eny\'et, mert teljes\"ulnek az ott 
el\H{o}\'{\i}rt felt\'etelek. 

\medskip
A nagy elt\'er\'es t\'etel bizony\'{\i}t\'asa z\'art, de
nem kompakt halmazokra nehezebb. Ez a probl\'ema a nagy elt\'er\'es
t\'etel bizony\'{\i}t\'as\'anak egyik legnehezebb pontja az
\'altal\'anos (nem felt\'etlen\"ul f\"uggetlen minta empirikus
eloszl\'as\'at vizsg\'al\'o) esetben is. A k\"ovetkez\H{o} k\'et
feladat c\'elja ennek a probl\'em\'anak a megold\'asa. Az els\H{o}
feladat egy viszonylag egyszer\H{u}, term\'eszetes m\'odon
bizony\'{\i}that\'o becsl\'est ad a minket \'erdekl\H{o} kifejez\'esre
al\-kal\-mas ``diszkretiz\'aci\'o" seg\'{\i}ts\'eg\'evel.
K\"ozvetlen\"ul nem annak a val\'osz\'{\i}n\H{u}s\'eg\'et vizsg\'aljuk,
hogy a tekintett empirikus eloszl\'as beleesik-e egy (esetleg bonyolult)
z\'art halmazba. Ehelyett az empirikus m\'ert\'ek vet\"uleteit
tekintj\"uk v\'eges partici\'okra, \'es azt becs\"ulj\"uk, hogy ezek
a vet\"uletek milyen val\'osz\'{\i}n\H{u}s\'eggel esnek bizonyos a
feladat jelleg\'eb\H{o}l kifoly\'olag term\'eszetes m\'odon defini\'alt
halmazokba. Ez l\'enyegesen egyszer\H{u}bb fel\-adat, (val\'oj\'aban a
12. fel\-adat eredm\'eny\'et kell alkalmaznunk), \'es ez az elj\'ar\'as
vezet a 23. fel\-adat\-ban megadott becsl\'eshez. Annak megmutat\'asa,
hogy az \'{\i}gy kapott becsl\'es lehet\H{o}v\'e teszi a nagy
elt\'er\'es t\'etelben  szerepl\H{o} iii.) tulajdons\'ag
bizony\'{\i}t\'as\'at l\'enyegesen nehezebb probl\'ema. Ez egy minimax
jelleg\H{u} eredm\'enyb\H{o}l k\"ovetkezik, amelyiket a 24. feladat
megold\'as\'aban bizony\'{\i}tunk be. 

\medskip
\item{23.)} Legyen $(Y,\Cal B)$ m\'erhet\H{o} t\'er, $(X,\Cal X)$ az
$(Y,\Cal B)$ t\'eren \'ertelmezett val\'osz\'{\i}n\H{u}s\'egi
m\'er\-t\'e\-kek tere a $\tau$ topol\'ogi\'aval, $\Cal A$ az ezen
topol\'ogia \'altal gener\'alt $\sigma$-algebra az $X$ t\'eren.
Legyen $\mu\in X$ val\'osz\'{\i}n\H{u}s\'egi m\'ert\'ek, $\mu^{(n)}$ e
m\'ert\'ek $n$-szeres direkt szorzata \"on\-ma\-g\'a\-val,
$\mu_n=\mu_n(\oo)\in X$, $n=1,2,\dots$, $n$ darab f\"uggetlen $\mu$
eloszl\'as\'u val\'osz\'{\i}n\H{u}s\'egi v\'al\-to\-z\'o empirikus
eloszl\'asa, $\bold F\subset X$ az $(X,\Cal A)$ t\'er z\'art
r\'eszhalmaza. Ekkor
$$
\liminf_{n\to\infty}-\frac1n\log \mu^{(n)}(\mu_n\in \bold F)\ge
\sup_{\Cal C\in\Cal C^*}\inf_{\nu_{\Cal C}\in \[\bold F_{\Cal
C}\]}I\(\nu_{\Cal C} \|\mu_{\Cal C}\),
$$
ahol $\Cal C^*$ jel\"oli az $(Y,\Cal B)$ t\'er \"osszes 
$\Cal C=\{\bold C_1,\dots,\bold C_k\}$ v\'eges (m\'erhet\H{o}) 
partici\'oj\'at.
A $\nu_{\Cal C}$ illetve a $\mu_{\Cal C}$ m\'ert\'ek egy $\nu\in X$ 
illetve a kezdetben r\"ogz\'{\i}tett $\mu\in X$ m\'ert\'ek \'es egy 
$\Cal C=\{\bold C_1,\dots,\bold C_k\}\in\Cal C^*$ partici\'o eset\'en 
az a m\'ert\'ek (egy v\'eges $\{x_1\dots,x_k\}$ halmazon), amelyre 
$\nu_{\Cal C}(\{x_j\})=\nu(\bold C_j)$, illetve 
$\mu_{\Cal C}(\{x_j\})=\mu(\bold C_j)$, 
\'es $x_j\in \bold C_j$, $j=1,\dots,k$,
egy a $\Cal C$ partici\'ohoz r\"ogz\'{\i}tett pontrendszer. Egy 
$\bold F\subset X$ halmaz $\bold F_{\Cal C}$ vet\"ulete egy $\Cal C$
partici\'ora a $\nu_{\Cal C}$ m\'ert\'ekekekb\H{o}l \'all\'o halmaz
az $Y_{\Cal C}=\{x_1,\dots,x_k\}$ (v\'eges) halmazon, ahol 
$\nu\in\bold F$, \'es $x_j\in \bold C_j$, $j=1,\dots,k$, a 
$\Cal C=\{\bold C_1,\dots,\bold C_k\}$ halmazhoz kijel\"olt pontrendszer. 
Az $\[\bold F_{\Cal C}\]$ halmaz az $\bold F_{\Cal C}$ halmaz lez\'artja
az $(X_{\Cal C},\Cal X_{\Cal C})$ t\'eren. Az $(X_{\Cal C},\Cal X_{\Cal C})$ 
t\'er az $(Y_{\Cal C},\Cal B_{\Cal C})$, ($\Cal B_{\Cal C}$ jel\"oli 
a diszkr\'et topol\'ogi\'at) m\'erhet\H{o} t\'eren \'ertelmezett
va\-l\'o\-sz\'{\i}\-n\H{u}\-s\'egi m\'er\-t\'e\-kek tere a $\tau$
topol\'ogi\'aval.

\item{24.)} Az el\H{o}z\H{o} feladat jel\"ol\'es\'evel
$$
\sup_{\Cal C\in\Cal C^*}\inf_{\nu_{\Cal C}\in \[\bold F_{\Cal
C}\]}I\(\nu_{\Cal C} \|\mu_{\Cal C}\)\ge \inf_{\nu\in \bold F}\sup_{\Cal
C\in\Cal C^*}I\(\nu_{\Cal C}\|\mu_{\Cal C}\)=\inf_{\nu\in \bold
F}I(\nu\|\mu). \tag4
$$
Bizony\'{\i}tsuk be e formula seg\'{\i}ts\'eg\'evel a Szanov 
t\'etelben megfogalmazott nagy e\-lt\'e\-r\'es t\'etel
 iii.) tu\-laj\-don\-s\'a\-g\'at.

\medskip
Az el\H{o}z\H{o} feladatokban egy z\'art $\bold F$ halmaz $\bold F_{\Cal
C}$ vet\"ulet\'et vett\"uk egy $\Cal C$ partici\'ora, majd annak
$\[\bold F_{\Cal C}\]$ lez\'artj\'at tekintett\"uk. B\'ar erre a
bizony\'{\i}t\'as helyess\'eg\'enek igazol\'as\'ahoz nincs
sz\"uks\'eg, \'erdemes p\'eld\'at l\'atni arra, hogy ez a lez\'ar\'as
val\'odi oper\'aci\'o, azaz lehets\'eges, hogy $\bold F$ z\'art,
de $\bold F_{\Cal C}$ nem z\'art halmaz.

\item{25.)} Konstru\'aljunk $(Y,\Cal B)$ m\'erhet\H{o} teret, az
$(Y,\Cal B)$ t\'eren \'ertelmezett val\'osz\'{\i}n\H{u}s\'egi
m\'er\-t\'e\-kek $(X,\Cal X)$ ter\'en a $\tau$ topol\'ogi\'aval egy
z\'art $\bold F$ halmazt \'es egy $\Cal C$ v\'eges partici\'ot az
$(Y,\Cal B)$ t\'eren, amelyre az $\bold F_{\Cal C}$ halmaz nem
z\'art. (A 23. feladatban bevezetett fogalmakat haszn\'aljuk.)
Mutassuk meg, hogy a k\"ovetkez\H{o} p\'elda teljes\'{\i}ti ezeket a
felt\'eteleket: $(Y,\Cal B)$ a $[0,1]$ intervallum a Borel
$\sigma$-algebr\'aval, $\bold F=\{\nu_k,\;k=2,3,\dots\}$, ahol a
$\nu_k$ m\'ert\'ek a k\"ovetkez\H{o}:
$\nu_k\(\left\{\frac1k\right\}\)=1-\frac1k$,
$\nu_k\(\left\{\frac34\right\}\)=\frac1k$; $\Cal C=\{\bold C_1,\bold
C_2\}$, $\bold C_1=\[0,\frac12\]$, $\bold C_2=\(\frac12,1\]$ 
v\'alaszt\'assal.

\item{26.)} Legyen $(Y,\Cal B)$ m\'erhet\H{o} t\'er, $(X,\Cal X)$ az
ezen a t\'eren \'ertelmezett val\'osz\'{\i}n\H{u}s\'egi m\'er\-t\'e\-kek
tere a $\tau$ topol\'ogi\'aval. Legyenek $\xi_1(\oo),\dots,\xi_n(\oo)$
f\"uggetlen, egyforma eloszl\'as\'u $Y$ \'er\-t\'e\-k\H{u}
val\'osz\'{\i}n\H{u}s\'egi v\'altoz\'ok egy $(\Omega,\Cal D,P)$
val\'osz\'{\i}n\H{u}s\'eg mez\H{o}n.  Ha
$$
\{\xi_1(\oo),\dots,\xi_n(\oo)\}=\{y_1,\dots,y_n\}\in Y^n,
$$
akkor jel\"olje $\mu_n(\oo)=\mu_n(y_1,\dots,y_n)$ ezeknek a
val\'osz\'{\i}n\H{u}s\'egi v\'altoz\'oknak az
 empirikus eloszl\'asf\"uggv\'eny\'et az $\oo\in \Omega$ pontban.
Tetsz\H{o}leges $\BB\subset Y$
(nem felt\'etlen\"ul m\'erhet\H{o}) halmaz \'es $n$ pozit\'{\i}v eg\'esz
sz\'am eset\'en lehet defini\'alni olyan $\bold G=\bold G(\BB,n)$
ny\'{\i}lt halmazt az $(X,\Cal X)$ t\'erben, amelyre az
$\{\oo\colon\;\mu_n(\oo)\in \bold G\}$ \'es az
$$
\{\oo\colon\;\xi_k(\oo)\in \BB,\text{ minden }k=1,\dots,n\}
$$
esem\'enyek megegyeznek. Ennek az \'eszrev\'etelnek a
seg\'{\i}ts\'eg\'evel mutassunk p\'eld\'at arra, hogy az
$\{\oo\colon\; \mu_n(\oo)\in \bold G\}$ esem\'enynek nem 
minden (a $\tau$ topol\'ogia szerint) ny\'{\i}lt $\bold G$ 
halmazra van va\-l\'o\-sz\'{\i}\-n\H{u}\-s\'e\-ge.

\item{27.)} Bizony\'{\i}tsuk be a 15. feladat \'all\'{\i}t\'as\'at
(a ($+1$) \'es ($+2$) rel\'aci\'okat) a Szanov t\'etel 
seg\'{\i}ts\'eg\'evel.

\beginsection Megold\'asok.

\item{1.)} Tekints\"unk el\H{o}sz\"or egy olyan $x\in X$ pontot, amelyre
$I(x)<\infty$. Az $I(\cdot)$ alulr\'ol f\'elig folytonoss\'aga miatt
$\supp_{\bold G\colon\; x\in \bold G,\; \bold G\text { ny\'{\i}lt}}
\inff_{y\in \bold G}I(y)=I(x)$. Tov\'abb\'a azt \'all\'{\i}tom, hogy 
mivel a topol\'ogia $T_3$ tipus\'u, ez\'ert $\supp_{\bold F\colon\; x\in
\text{Int}\,\bold F,\; \bold F\text{z\'art}}\inff_{y\in
\bold F}I(y)=I(x)$. Val\'oban, tet\-sz\H{o}\-le\-ges $\e>0$ sz\'amhoz
l\'etezik olyan ny\'{\i}lt $\bold G$, $x\in\bold G$, 
halmaz, amelyre $\inff_{y\in \bold G}I(y)\ge I(x)-\e$. Tov\'abb\'a
a topol\'ogia $T_3$ tulajdons\'aga miatt l\'etezik olyan z\'art
$\bold F_0$ halmaz, amelyre $x\in \text{Int\,}\bold F_0\subset \bold
F_0\subset \bold G$. Val\'oban, a $T_3$ tulajdons\'ag miatt l\'eteznek
olyan diszjunkt, ny\'{\i}lt $\bold G_1$ \'es $\bold G_2$ halmazok,
amelyekre $x\in \bold G_1$, \'es $X\setminus \bold G\subset
\bold G_2$. Ekkor $\bold F_0=X\setminus \bold G_2$ teljes\'{\i}ti a
k\'{\i}v\'ant tulajdons\'agokat. Ez\'ert $\supp_{\bold F\colon\; x\in
\text{Int}\,\bold F,\;\bold F\text{ z\'art}}\inff_{y\in \bold
F}I(y)\ge \inff_{y\in \bold F_0}I(x)\ge I(x)-\e$. A m\'asik
\'{\i}r\'any\'u becsl\'es ny\'{\i}lv\'anval\'o.
\item{} Ezekb\H{o}l a rel\'aci\'okb\'ol \'es a nagy elt\'er\'es
t\'etelb\H{o}l k\"ovetkezik, hogy
$$
\align
\sup\Sb \bold G\colon\; \bold G\text{ ny\'{\i}lt halmaz}\\ x\in\bold G\endSb
\limsup_{n\to\infty}-\frac1n\log \mu_n(\bold G)&\le I(x)\\
\sup\Sb \bold F\colon\; \bold F\text{ z\'art halmaz}\\ x\in \text{Int}\,\bold
F \endSb \liminf_{n\to\infty}-\frac1n\log \mu_n(\bold F)&\ge I(x).
\endalign
$$
R\"ogz\'{\i}ts\"unk egy kis $\e>0$ sz\'amot. Legyen $\bold F$,
$x\in\text{Int}\,\bold F$, olyan z\'art halmaz, amelyre
$\liminff_{n\to\infty}-\frac1n\log\mu_n(\bold F)\ge I(x)-\e$.
Ekkor egy $x\in\bold G\subset\text{int}\,\bold F$ halmazra
$\limsupp_{n\to\infty}-\frac1n\log\mu_n(\bold G)\ge
\liminff_{n\to\infty}-\frac1n\log\mu_n(\bold F)\ge I(x)-\e$. Mivel
ez az \'all\'{\i}t\'as tet\-sz\H{o}\-le\-ges $\e>0$ sz\'amra 
\'es alkalmas $\bold G$ ny\'{\i}lt halmazra igaz, a fenti 
becsl\'esekb\H{o}l k\"ovetkezik a
bizony\'{\i}tand\'o \'all\'{\i}t\'asok els\H{o} fele. Az
\'all\'{\i}t\'as m\'asik fele hasonl\'oan bizony\'{\i}that\'o.
L\'etezik olyan $\bold G$, $x\in \bold G$ ny\'{\i}lt halmaz, amelyre
$\limsupp_{n\to\infty}-\frac1n\log \mu_n(\bold G)\le I(x)+\e$.
Legyen $\bold F$ a $\bold G$ halmaz lez\'artja. Ekkor 
$x\in\text{Int}\, \bold F$, \'es
$$
\liminff_{n\to\infty} -\frac1n\log \mu_n(\bold F)\le
\limsupp_{n\to\infty} -\frac1n\log\mu_n(\bold F)\le I(x)+\e.
$$
Innen k\"ovetkezik a feladat m\'asik \'all\'{\i}t\'asa.
\item{} Az $I(x)=\infty$ eset az el\H{o}z\H{o} esethez hasonl\'oan
n\'eh\'any term\'eszetes v\'altoztat\'assal bizony\'{\i}that\'o.

\item{2.)} L\'assuk be el\H{o}sz\"or az als\'o becsl\'est.
R\"ogz\'\i{}tett $\e>0$ sz\'amhoz v\'alasszunk olyan $x_0\in X$ pontot,
amelyre $g(x_0)-I(x_0)>\supp_{x\in X}\{g(x)-I(x)\}-\e$. Mivel 
%az $I(\cdot)$ f\"uggv\'eny alulr\'ol f\'elig folytonos, 
a $g(x)$
f\"uggv\'eny folytonos, l\'etezik az $x_0$ pontnak olyan $\bold
G\subset X$ ny\'\i{}lt k\"ornyezete, amelyre $g(x)>g(x_0)-\e$, 
%\'es $I(x)>I(x_0)-\e$, 
ha $x\in \bold G$. 
Ezen egyen\H{o}tlens\'egb\H{o}l, az $x_0\in\bold G$ rel\'aci\'ob\'ol
\'es a nagy elt\'er\'es t\'etel definici\'oj\'anak ii) 
rel\'aci\'oj\'ab\'ol k\"ovetkezik, hogy minden $\e>0$ sz\'amhoz
l\'etezik olyan $n_0=n_0(\e)$ k\"usz\"obindex, amelyre 
$\mu_n(\bold G)>\supp_{x\in \bold G}e^{-n(I(x)-\e)}>e^{-n(I(x_0)-\e)}$, 
\'es
$$ 
\align
\int e^{ng(x)}\,d\mu_n(x)&\ge
\int_{\bold G} e^{ng(x)}\,d\mu_n(x)\ge e^{n(g(x_0)-\e)}\mu_n(\bold G)\\
&\ge e^{n(g(x_0)-I(x_0)-2\e)}\ge\sup_{x\in X} e^{n(g(x)-I(x)-3\e)},
\endalign
$$
ha $n\ge n_0(\e)$. Mivel $\e>0$ tetsz\H{o}leges, innen k\"ovetkezik, hogy
$$
\liminf\frac1n \log\int e^{ng(x)}\,d\mu_n(x)\ge
\supp_{x\in X}\{g(x)-I(x)\}.
$$
A fels\H{o} becsl\'es bizony\'\i{}t\'asa \'erdek\'eben
r\"ogz\'\i{}ts\"unk egy el\'eg kis $\e>0$ sz\'amot, \'es defini\'aljuk
az  $\bold F(k)=\bold F(k,\e)$
$$
\bold F(k)=\{x\colon\; x\in X,\; k\e\le g(x)\le (k+1)\e\}
$$
halmazokat, $-\frac1\e\sup|g(x)|\le k<\frac1\e\sup|g(x)|$ indexekre. 
Az $\bold F(k)$ halmazok z\'artak,  \'es $x\in\bold F_k$ eset\'en 
$-I(x)=g(x)-I(x)-g(x)\le
\supp_{x\in X}\{g(x)-I(x)\}-k\e$. Ez\'ert el\'eg nagy $n$-re
$$
\align
\int_{\bold F(k)} e^{ng(x)}\,d\mu_n(x)&\le e^{n(k+1)\e}\mu_n(\bold F(k))\\
&\le \exp\left\{n\[(k+1)\e
+\supp_{x\in X}\{g(x)-I(x)\}-k\e+\e\]\right\} \\
&=\exp\left\{n\[\supp_{x\in X}\{g(x)-I(x)\}+2\e\]\right\}.
\endalign
$$
Ezeket az egyenl\H{o}tlens\'egeket \"osszeadva az \"osszes (v\'eges
sok) $k$-ra, \'es kihaszn\'alva, hogy $\e>0$ tetsz\H{o}leges, megkapjuk
a k\'\i{}v\'ant fels\H{o} becsl\'est.

\item{3.)} A ii.) tulajdons\'ag bel\'at\'asa \'erdek\'eben egy $\bold
G\subset X$ ny\'{\i}lt halmaz eset\'eben tetsz\H{o}leges $\e>0$-hoz
tekints\"unk olyan $x\in \bold G$ pontot, amelyre $I(x)<\inff_{u\in\bold
G}I(u)+\e$, \'es legyen $g(\cdot)$ olyan folytonos f\"uggv\'eny az $X$
t\'eren, amelyre
$g(x)=0$, $g(u)=-\frac1\e$, ha $u\notin \bold G$, \'es $g(u)\le 0$
minden $u\in X$-re. Ilyen $g(\cdot)$ f\"uggv\'eny val\'oban l\'etezik,
mert v\'eve egy $h(\cdot)$ f\"uggv\'enyt, amelyre $h(x)=0$, 
$h(u)\ge0$ minden $u\in X$ pontban, $h(u)=1$, ha
$u\notin \bold G$, akkor defini\'aljuk a $h_1(u)=\min\{h(u),1\}$,
$g(u)=-\frac1\e h_1(u)$ f\"uggv\'enyeket. Ez a $g(\cdot)$ f\"uggv\'eny
teljes\'{\i}ti a k\'{\i}v\'ant felt\'eteleket. Ekkor 
$$
\mu_n(\bold G)
\ge\int_X e^{ng(u)}\mu_n(\,du)
-\int_{X\setminus\bold G}e^{ng(u)}\mu_n(\,du)
\ge\int_X e^{ng(u)}\mu_n(\,du)-e^{-n/\e},
$$
ez\'ert
$$
-\frac1n\log\mu_n(\bold G)\le-\frac1n\log\[\int e^{ng(u)}\,\mu_n(du)
-e^{-n/\e}\].
$$

\item{}
Legyen $A=\inff_{u\in G}I(u)$. Ha $A=\infty$, akkor
$\limsup-\frac1n\log\mu_n(\bold G)\le\infty=\inff_{x\in G}I(x)$.
Ha $A<\infty$, akkor
$$
\int e^{ng(u)}\,\mu_n(du)\ge\exp\left\{n\(\supp_{u\in \bold
G} (g(u)-I(u))-\e\)\right\}\ge e^{n(g(x)-I(x)-\e)}\ge e^{-n(A+2\e)}
$$
el\'eg nagy $n$-re. Ez\'ert
$$
\align
&\limsup-\frac1n\log\mu_n(\bold G)\le\limsup -\frac1n\log
\{e^{-n(A+2\e)}-e^{n/\e}\} \\
&\qquad \le \limsup-\frac1n\log e^{-n(A+2\e)}+\limsup-\frac1n\log
(1-e^{-n/\e+n(A+2\e})=A+2\e
\endalign
$$
minden el\'eg kis $\e>0$ sz\'amra. Innen 
$\limsup-\frac1n\log\mu_n(\bold G)\le A=\inff_{x\in G}I(x)$.

\item{} A iii$'$.) tulajdons\'ag bizony\'{\i}t\'asa \'erdek\'eben
minden $x\in \bold K$ ponthoz \'es $\e>0$ sz\'amhoz defini\'alunk egy
alkalmas $g_{x,\e}=g_{x,\e}(u)$ folytonos \'es korl\'atos f\"uggv\'enyt
az $(X,\Cal X)$ t\'eren. Minden $x\in \bold K$ pontra defini\'aljuk az
$\bold F(x)=\{z\colon\; I(z)\le I(x)-\e\}$, ha $I(x)<\infty$, \'es 
$\bold F(x)=\{z\colon\; I(z)\le \e^{-1}\}$, ha $I(x)=\infty$ halmazokat.
Mivel az $I(\cdot)$ f\"uggv\'eny alulr\'ol f\'elig folytonos, ez\'ert
az $\bold F(x)$ halmazok z\'artak. Ez\'ert l\'etezik olyan folytonos
$g_{x,\e}$ f\"uggv\'eny az $(X,\,\Cal X)$ t\'eren, amelyre
$g_{x,\e}(x)=\e$, $g_{x,\e}(u)=-I(x)$ az $u\in \bold F(x)$ pontokban,
ha $I(x)<\infty$, \'es az $I(x)=\infty$ esetben $g_{x,\e}(x)=\e$, 
$g_{x,\e}(u)=-\frac2\e$, ha $u\in \bold F(x)$. Tov\'abb\'a
$g_{x,\e}(u)\le \e$ minden $u\in X$-re. (Ilyen f\"uggv\'enyek 
konstrukci\'oja az\'ert lehets\'eges, mert az $(X,\Cal X)$ t\'er 
$T_\rho$ t\'er.) Defini\'aljuk az $x$ pont 
$\bold U(x)=\bold U(x,\e)=\{z\colon\; g_{x,\e}(z)>0\}$ 
ny\'{\i}lt k\"ornyezet\'et. Mivel az $\bold U(x)$ halmazok a 
$\bold K$ kompakt halmaz fed\'es\'et adj\'ak, l\'etezik v\'eges sok 
$x_1,\dots,x_k$ pont, amelyekre a $\bold U(x_j)$, $j=1,\dots,k$ 
halmazok lefedik a $\bold K$ halmazt. Legyen $g_j(u)=g_{x_j,\e}(u)$, 
$j=1,\dots,k$. Ekkor
$$
\mu_n(\bold K)
\le\sum_{j=1}^k \mu_n(\bold U(x_j))
\le\sum_{j=1}^k \int_{\bold U(x_j)} e^{ng_j(u)}\,\mu_n(du)
\le\sum_{j=1}^k \int e^{ng_j(u)}\,\mu_n(du).
$$
Tov\'abb\'a el\'eg nagy $n$-re
$$
\align
\int e^{ng_j(u)}\,\mu_n(du) &\le
\exp\left\{n\(\sup_{u\in X} [g_j(u)-I(u)]+\e\)\right\}  \\
&\le e^{n(3\e-I(x_j))} \quad\text{ha } I(x_j)<\infty,
\endalign
$$
mert $u\in\bold F(x_j)$-re $g_j(u)-I(u)\le -I(x_j)-I(u)\le -I(x_j)$,
\'es  $u\notin\bold F(x_j)$-re 
$g_j(u)-I(u)\le g_j(u)-[I(x_j)-\e]\le 2\e-I(x_j)$.
Hasonl\'oan,
$$
\int e^{ng_j(u)}\,\mu_n(du) \le
e^{n(2\e-1/\e)},\quad\text{ha } I(x_j)=\infty.
$$
Ez\'ert
$$
\frac1n\log\mu_n(\bold K)\le\frac{\const}n-
\min\(\frac1\e,\min_{I(x_j)<\infty}I(x_j)\)+3\e\le-\min\(\frac1\e,
\inf_{u\in \bold K} I(u)\)+4\e
$$
el\'eg nagy $n$-re. Innen k\"ovetkezik a iii$'$.) tulajdons\'ag.

\item{4.)} Az $I(x)$ f\"uggv\'eny definici\'oj\'ab\'ol k\"ovetkezik,
hogy az monoton n\H{o}. Tov\'abb\'a, ha $I(z)<\infty$, $E\xi<z$, akkor
minden kis $\e>0$ sz\'amra l\'etezik olyan $t>0$ sz\'am, amelyre 
$I(z)<tz-\log R(t)+\e$, \'es l\'etezik egy $\e$-t\'ol f\"uggetlen
$\delta=\delta(z)$ sz\'am \'ugy, hogy az el\H{o}z\H{o} 
egyen\-l\H{o}t\-len\-s\'e\-get kiel\'eg\'{\i}t\H{o} $(\e,t)$ 
p\'arra $t>\delta$. Val\'oban, mivel $z>E\xi_1$, $I(z)>\eta$ 
alkalmas $\eta>0$ sz\'amra, \'es ha $\e<\frac\eta2$, akkor a 
$tz-\log R(t)>\frac\eta2$ felt\'etelnek teljes\"ulnie kell. De
 mivel $\limm_{t\to0}(tz-\log R(t))=0$ ez csak \'ugy lehets\'eges, 
ha $t>\delta$ alkalmas $\delta=\delta(z)$ sz\'ammal. Adva egy 
$(y,x)$ p\'ar, amelyre $E\xi<y<x$  v\'alasszunk egy 
$\e<(x-y)\delta$, $\delta=\delta(y)$ sz\'amot, amelyre l\'etezik 
olyan $t>\delta$ sz\'am, hogy $I(y)<ty-\log R(t)+\e$. Ekkor 
$I(y)<tx-\log R(t)-t(x-y)+\e\le I(x)+\e-\delta(x-y)<I(x)$. Az 
$I(\cdot)$ f\"uggv\'eny baloldali folytonoss\'ag\'anak 
bizony\'{\i}t\'asa \'erdek\'eben egy olyan $x$ sz\'amra, amelyre 
$I(x)<\infty$, $x>E\xi$ egy el\'eg kis $\e>0$-ra v\'alasszunk 
olyan $t$ sz\'amot, melyre $I(x)<tx-\log R(t)+\e$. Legyen $y$ 
olyan sz\'am, amelyre $y<x$ \'es $x-y<\frac\e t$. Ekkor 
$I(x)\ge I(y)\ge t(y-x)+tx-\log R(t)\ge I(x)-\e-t(x-y)\ge I(x)-2\e$. 
Innen k\"ovetkezik a k\'{\i}v\'ant folytonoss\'ag. V\'eg\"ul, 
mivel a $tx-\log R(t)$ f\"uggv\'eny minden r\"ogz\'{\i}tett 
$t$-re konvex (s\H{o}t l\'{\i}ne\'aris) f\"uggv\'eny, ez\'ert 
$I(x)=\supp_{t\ge 0}(tx-\log R(t))$ is konvex f\"uggv\'eny.
Innen k\"ovetkezik az $I(x)$ f\"uggv\'eny jobbr\'ol val\'o
folytonoss\'aga az adott felt\'etelek mellett. Ha ugyanis
$I(x)<I(x+0)<\infty$ lenne valamely $x\ge E\xi$-re, akkor a szigor\'u
$\limm_{\e\to0}I(x+\e)>\limm_{\e\to0}\frac{I(x)+I(x+2\e)}2$
egyenl\H{o}tlens\'eg teljes\"ulne, \'es ez ellentmond az $I(\cdot)$
f\"uggv\'eny konkvexit\'as\'anak.

\item{5.)} A nagy elt\'er\'es t\'etel i.) tulajdons\'aga, az hogy az
$I(\cdot)$ f\"uggv\'eny alulr\'ol f\'elig folytonos k\"ozvetlen\"ul
kiolvashat\'o az el\H{o}z\H{o} feladat eredm\'eny\'eb\H{o}l.
\item{} Ha $G$ ny\'{\i}lt halmaz, v\'alasszunk tetsz\H{o}leges
$\e>0$-ra olyan $z\in G$ pontot, amelyre $I(z)<\inff_{x\in G} I(x)+\e$,
\'es legyen $h>0$ olyan sz\'am, amelyre $[z,z+h]\in G$ ha $z\ge
E\xi_1$, \'es $[z-h,z]\in G$, ha $z<E\xi_1$. Ekkor
$$
\limsup\limits_{n\to\infty}\frac1n\log P\(\frac{S_n}n\in G\)
\ge\limsup\limits_{n\to\infty}\frac1n\log P\(\frac{S_n}n\in [z,z\pm
h]\)=I(z).
$$
Az utols\'o azonoss\'ag bel\'at\'as\'ahoz el\'eg bebizony\'{\i}tani
azt, hogy $I(z)<I(z+h)$, ha $z\ge E\xi_1$ \'es $I(z)<\infty$, \'es
$I(z)<I(z-h)$, ha $z<E\xi_1$ \'es $I(z)<\infty$. Ezt az
\'all\'{\i}t\'ast viszont az $x>E\xi_1$ bel\'attuk a 4. feladatban.
Az $x<E\xi_1$ hasonl\'oan bizony\'{\i}that\'o, vagy k\"ovetkezik az
el\H{o}z\H{o} esetb\H{o}l, azt alkalmazva a $-\xi_1$ val\'osz\'{\i}n\H
us\'egi v\'altoz\'ora. Ez\'ert igaz a nagy elt\'er\'es t\'etelben
szerepl\H{o} ii.) tulajdons\'ag.
\item{} Egy $F$ z\'art halmazt \'{\i}rjunk fel $F=F_1\cup F_2$
alakban, ahol $F_1=F\cap \{x\ge E\xi_1\}$, $F_2=F\cap \{x\le E\xi_1\}$.
\item{} A iii.) \'all\'{\i}t\'ast el\'eg bel\'atni az $F_1$ \'es $F_2$
halmazokra. Legyen $z=\min\{x\colon\; x\in F_1\}$. Ekkor a {\it Nagy
elt\'er\'esek elm\'elete; F\"uggetlen, val\'os \'ert\'ek\H{u}
val\'osz\'{\i}n\H{u}s\'egi v\'altoz\'ok}\/ feladatsor
19. feladata alapj\'an
$$
\liminf\limits_{n\to\infty}-\frac1n\log P\(\frac{S_n}n\in
F_1\)\ge \liminf_{n\to\infty}-\frac1n\log P\(S_n\ge z\)=I(z).
$$
Viszont $I(z)=\inff_{x\in F} I(x)$, mert az $I(x)$ f\"uggv\'eny monoton
n\H{o}.

\item{6.)} Tekints\"uk el\H{o}sz\"or csak azt az esetet, amikor a
$\xi_1$ val\'osz\'{\i}n\H{u}s\'egi v\'altoz\'onak l\'etezik v\'arhat\'o
\'ert\'eke. El\H{o}sz\"or azt l\'atjuk be, hogy az $I(x)$ f\"uggv\'eny
alulr\'ol f\'elig folytonos. Ha $Ee^{t\xi}<\infty$ alkalmas $t>0$-val,
akkor a 4. feladat eredm\'eny\'eb\H{o}l k\"ovetkezik ez az
\'all\'{\i}t\'as $x\ge E\xi_1$-re. Tov\'abb\'a $\limm_{x\to
E\xi_1}I(x)=0$. Alkalmazva ezt az eredm\'enyt a $-\xi_1$
val\'osz\'{\i}n\H{u}s\'egi v\'altoz\'ora, kapjuk az anal\'og
\'all\'{\i}t\'ast $x\le E\xi_1$ eset\'en, ha $Ee^{t\xi_1}<\infty$
alkalmas $t<0$-ra. Mivel a t\"obbi esetben $I(x)=0$, ezekb\H{o}l az
\'all\'{\i}t\'asokb\'ol k\"ovetkezik a nagy elt\'er\'es t\'etel i.)
tulajdons\'aga.

\item{} Tekints\"uk a ii.) tulajdons\'agot el\H{o}sz\"or olyan $G$
ny\'{\i}lt halmazokra, amelyek tartalmazz\'ak a (v\'eges) $E\xi_1$
v\'arhat\'o \'ert\'eket. Ebben az esetben a nagy sz\'amok
t\"orv\'enye alapj\'an $P\(\frac{S_n}n\in G\)\to1$, ez\'ert a ii.)
tulajdons\'ag teljes\"ul. Ha $E\xi\notin G$, akkor $\e>0$-ra
l\'etezik olyan $u\in G$ \'es $[a,b]\subset G$ intervallum, amelyre
$I(u)\le \inff_{x\in G} I(x)+\e$, $u\in [a,b]$ \'es $[a,b]\subset
(E\xi_1,\infty)$ vagy $[a,b]\subset (-\infty,E\xi_1)$. El\'eg az
els\H{o} esetet vizsg\'alni, mert a m\'asodik eset a $-\xi_k$
val\'osz\'{\i}n\H{u}s\'egi v\'altoz\'ok bevezet\'es\'evel
visszavezethet\H{o} erre az esetre. Ha $Ee^{t\xi_1}<\infty$ alkalmas
$t>0$-ra, akkor ez k\"ovetkezik az $I(x)$ f\"uggv\'eny 4. feladatban
bel\'atott szigor\'u monoton\'{\i}t\'as\'ab\'ol. Ha pedig ez a
tulajdons\'ag nem teljes\"ul, akkor a a {\it Nagy elt\'er\'esek
elm\'elete; F\"uggetlen, val\'os \'ert\'ek\H{u} val\'osz\'{\i}n\H{u}s\'egi
 v\'altoz\'ok}\/ feladatsor 15. feladat\'anak eredm\'enye alapj\'an
$\frac 1n\log P\(\frac{S_n}n\in [a,b]\)\to0$, ha $n\to\infty$, \'es
innen k\"ovetkezik az \'all\'{\i}t\'as az adott esetben.
\item{} Hasonl\'oan az el\H{o}z\H{o} feladat \'ervel\'es\'ehez, el\'eg
a iii.) tulajdons\'agot abban az esetben bel\'atni, ha az $F$ z\'art
halmaz teljes\'{\i}ti az $F\subset [E\xi_1, \infty)$ vagy az anal\'og
m\'odon t\'argyalhat\'o $F\subset (-\infty, E\xi_1]$ tulajdons\'agot.
Ha $Ee^{t\xi_1}<\infty$ alkalmas $t>0$-ra, akkor ez az
\'all\'{\i}t\'as az el\H{o}z\H{o} feladat bizony\'{\i}t\'as\'ab\'ol
kiolvashat\'o, viszont ha ez a tulajdons\'ag nem teljes\"ul, akkor
az \'all\'{\i}t\'as ny\'{\i}lv\'anval\'o, mert ekkor
$I(x)=0$ minden $x\ge E\xi_1$-re.

\item{} V\'eg\"ul, ha a $\xi_1$ val\'osz\'{\i}n\H{u}s\'egi
v\'altoz\'onak nincs v\'arhat\'o \'ert\'eke, akkor $I(x)=0$ minden
$x$-re. Ez\'ert a i.) \'es iii.) tulajdons\'ag ebben az esetben
ny\'{\i}lv\'anval\'o. A ii.) tulajdons\'ag pedig k\"ovetkezik a
 {\it Nagy elt\'er\'esek elm\'elete;
F\"uggetlen. val\'os \'ert\'ek\H{u} val\'osz\'{\i}n\H{u}s\'egi
v\'altoz\'ok}\/ feladatsor 15. feladat\'anak eredm\'eny\'eb\H{o}l.

\item{7.)} Az adott felt\'etelek mellett a {\it Nagy elt\'er\'esek
elm\'elete; F\"uggetlen, val\'os \'ert\'ek\H{u} 
va\-l\'o\-sz\'{\i}\-n\H{u}\-s\'e\-gi v\'altoz\'ok}\/ 
feladatsor 8.~feladata alapj\'an
$[\log R(0)]'=-\infty$. Tov\'abb\'a a $\log R(t)$ konvexit\'asa \'es
folytonoss\'aga valamint a $\log R(0)=0$ rel\'aci\'o miatt minden
$\e>0$-ra l\'etezik olyan 
$t_0=\delta(\e).)$ sz\'am, hogy $\log R(t)>-\e$, ha $0\le t_0\le t_0$,
\'es $\log R(t)\ge \log R(t_0)+(t-t_0)[\log R(t_0)]'\ge -\e-K(\e)t$,
ha $t\ge t_0$ alkalmas $K(\e)$ sz\'ammal.
%$K=K(\e)>0$, amelyre $\log R(t)>-\e-Kt$ minden
%$t\ge0$-ra. Val\'oban, $\log R(t)-\e<0$, ha $t\le \delta(\e)$, \'es
%$[\log R(t)]'\le-K(\e)$, ha $0<t\le \delta(\e)$, \'es innen k\"ovetkezik
%az \'all\'{\i}t\'as. 
Ez\'ert, ha $x<-K(\e)$, akkor $tx-\log R(t)<\e$
minden $t\ge 0$ eset\'en. Mivel ez az egyenl\H{o}tlens\'eg igaz minden
$\e>0$-ra, \'es $\log R(0)=0$, \'{\i}gy $t=0$-ra $tx-\log R(t)=\log R(0)$
minden $x$ sz\'amra innen k\"ovetkezik a feladat \'all\'{\i}t\'asa.

\item{8.)} A 6. feladat eredm\'eny\'enek felhaszn\'al\'asa ut\'an
azt kell bel\'atni, hogy 
$$
\liminff_{n\to\infty}-\frac1n\log\mu_n(G)\ge\inff_{x\in G}I(x)
$$ 
minden 
ny\'{\i}lt $G$ halmazra, ahol $\mu_n$ egy $\xi_k$, $k=1,2,\dots$,
f\"uggetlen, egyforma eloszl\'as\'u val\'osz\'{\i}n\H{u}s\'egi
v\'altoz\'okb\'ol \'all\'o sorozat els\H{o} $n$ elem\'eb\H{o}l
k\'esz\'{\i}tett \'atlag eloszl\'asa, \'es $I(\cdot)$ a $\mu_n$,
$n=1,2,\dots$, m\'ert\'eksorozatra \'erv\'enyes nagy elt\'er\'es
t\'etel  $I(\cdot)$ f\"uggv\'enye. Ha $E\xi_1\in G$, akkor a
bizony\'{\i}tand\'o egyenl\H{o}tlens\'eg \'erv\'enyes, mert ekkor
$\inff_{x\in G}I(x)=0$. Ez\'ert el\'eg azt a k\'et esetet n\'ezni,
amikor $G\in (-\infty, E\xi_1)$ vagy $G\in (\xi_1,\infty)$.
Mivel az $I(\cdot)$ f\"uggv\'eny mind a k\'et f\'elegyenesen monoton
f\"uggv\'eny, ez\'ert mind a k\'et esetben teljes\"ulnek a $G\subset
G'=(x',x'')$ \'es $\inff_{x\in G}I(x)=\inff_{x\in G'}I(x)$
rel\'aci\'ok, ahol $x'=\inf\{x\colon\; x\in G\}$ \'es 
$x''=\sup\{x\colon\;x\in G\}$.
Ez\'ert a k\'{\i}v\'ant \'all\'{\i}t\'ast el\'eg ilyen $G'$
ny\'{\i}lt intervallumra bel\'atni (esetleg $\pm\infty$
v\'egpontokkal). Ez viszont kiolvashat\'o a nagy
elt\'er\'es t\'etel alakj\'ab\'ol f\"uggetlen egyforma eloszl\'as\'u
val\'osz\'{\i}n\H{u}s\'egi v\'altoz\'ok \"osszeg\'ere.

\item{} Defini\'aljuk az ellenp\'eld\'at a
k\"ovetkez\H{o} m\'odon:
$$
\mu_n{(0)}=2^{-1},\qquad \mu_n\(
j{2^{-n^2}}\)=2^{-(n+1)},\quad j=1,2\dots,2^n,
$$
\'es legyen $I(0)=0$, \'es $I(x)=\infty$, ha $x\neq0$. Ekkor $I(x)$
alulr\'ol f\'elig folytonos f\"uggv\'eny, teh\'at teljes\"ul az
i.) rel\'aci\'o. A iii.) rel\'aci\'o is teljes\"ul, mert egy z\'art $F$
halmazra vagy $0\in F$, amely esetben
$\limsupp_{n\to\infty}-\frac1n\log\mu_n(F)=0$ vagy $F$ nem tartalmazza
a 0 egy kis k\"ornyezet\'et, \'es ekkor $\mu_n(F)=0$ el\'eg nagy
$n$-re. A ii) rel\'aci\'o teljes\"ul tetsz\H{o}leges (nem
felt\'etlen\"ul ny\'{\i}lt) $G$ halmazra, mert vagy $0\in G$, amely
esetben $\mu_n(G)\ge\frac12$ minden $n$-re vagy $0\notin G$, \'es
ekkor $\inff_{x\in G}I(x)=\infty$. V\'eg\"ul a ii.) rel\'aci\'oban nem
lehet azonoss\'agot \'{\i}rni, mert a ny\'{\i}lt $G=R^1-\{0\}$
halmazra $\mu_n(G)=\frac12$, teh\'at
$\liminff_{n\to\infty}-\frac1n\log \mu_n(G)=0$.

\item{9.)} Mivel $\log(1+v)\le v$, $0\le v\le 1$ esetben, \'es
egyenl\H{o}s\'eg csak $v=0$ eset\'en van,
$$
\align
I(\nu\|\mu)&=-\int\log \frac{d\mu}{d\nu}(u)\,d\nu(u)\ge
-\int\frac{d(\mu-\nu)}{d\nu}(u)\,d\nu(u) \\
&=\int d\mu(u)-\int d\nu(u)=0,
\endalign
$$
ha $\nu$ abszol\'ut folytonos a $\mu$ m\'ert\'ekre n\'ezve, \'es egyenl\H
os\'eg csak $\nu=\mu$ esetben \'all fenn. Ha $\nu$ nem abszol\'ut
folytonos, akkor ez az \'all\'\i{}t\'as ny\'\i{}lv\'anval\'o.
\item{} Ha az $R(t)=\int e^{tu}\,dF(u)$ integr\'al v\'eges, akkor
defini\'aljuk az $F_t(du)=\frac{e^{tu}F(du)}{R(t)}$ val\'osz\'\i{}n\H
us\'egi m\'ert\'eket. Ekkor $\int u\,dG(u)=x$ eset\'en
$$
I(G\|F)=\int \log \frac{dF_t(u)}{dF(u)}\,dG(u)+\int
\log\frac{dG(u)}{dF_t(u)}\,dG(u)=tx-\log R(t)+I(G\|F_t),
$$
ahonnan $I(G\|F)\ge tx-\log R(t)$, \'es egyenl\H{o}s\'eg csak $G=F_t$
eset\'en \'all fenn. Innen k\"ovetkezik, hogy a bizony\'\i{}tand\'o (a)
azonoss\'ag bal\-ol\-dala mindig nagyobb vagy egyenl\H{o} mint a
jobboldal. Tov\'abb\'a, mivel $\int u\,dF_t(u)=[\log R(t)]'$
a $[\log R(t)]'=x$ megoldhat\'os\'aga eset\'en mind a bal mind a
jobboldal felveszi a sz\'els\H{o}\'ert\'eket a fel\-adat\-ban le\'{\i}rt
esetben \'es a k\'et kifejez\'es egyenl\H{o}.

\item{10.)} Be kell l\'atni az (a) azonoss\'ag m\'eg hi\'anyz\'o
fel\'et, azaz az $\inff_{G\colon\; \int u\,dG(u)\ge
x}I(G\|F)\le\supp_{t\ge0} (tx-\log R(t))+\e$ egyenl\H{o}tlens\'eget
minden $\e>0$ sz\'amra abban az esetben, ha a $[\log R(t)]'=x$ egyenlet
nem oldhat\'o meg. Az $R(t)$ momentumgener\'al\'o f\"uggv\'eny
vizsg\'alat\'aban, (a {\it Nagy elt\'er\'esek elm\'elete;
F\"uggetlen, val\'os \'ert\'ek\H{u} val\'osz\'{\i}n\H{u}s\'egi
v\'altoz\'ok}\/ feladatsor (8., 12., 14. \'es 15. feladatainak)
eredm\'enyeib\H{o}l k\"ovetkezik, hogy a k\"ovetkez\H{o} eseteket kell
vizsg\'alni: a.) Az $R(t)$ momentumgener\'al\'o f\"uggv\'eny egy
v\'eges jobbr\'ol z\'art  $[0,T]$ intervallumban van defini\'alva,
\'es $[\log R(T)]'=m_T\le x$, b.) Az $R(t)$ f\"uggv\'eny \'ertelmezve
van az eg\'esz $[0,\infty]$ f\'elegyenesen, de
$\limm_{t\to\infty}[\log R(t)]'=m\le x$. c.) Minden $t>0$ eset\'en
$R(t)=\infty$.

\item{} Az a.) esetben az (a) azonoss\'ag jobboldala $t=T$ pontban
veszi fel a szupr\'emum\'at. El\'eg bel\'atni, hogy ha $x>m_T$,
akkor tetsz\H{o}leges $\e>0$-ra l\'etezik olyan $G$ eloszl\'as, amelyre
$x+\e\ge \int u\,dG(u)\ge x$, \'es $I(G\|F_T)<\e$, ahol $m_T=\int
u\,dF_T(u)$. Ekkor ugyan\-is $I(G\|F)=T\int u\,dG(u)-\log R(T)
+I(G\|F_T)\le T(x+\e)-\log R(T)+\e$. Teljes\"ul tov\'abb\'a az
$\int e^{tu}dF_T(u)=\infty$ felt\'etel minden $t>0$ eset\'en, \'es a
$G$ eloszl\'asf\"uggv\'eny konstrukci\'oj\'aban az $F_T$ eloszl\'asnak
ezt a tulajdons\'ag\'at fogjuk haszn\'alni. Ez\'ert az a.) \'es c.)
esetet, ahol ugyanezt az egyenl\H{o}tlens\'eget kell bizony\'{\i}tani
$T=0$ v\'alaszt\'assal, egyszerre vizsg\'alhatjuk. Feltehetj\"uk, hogy a
szigor\'u egyenl\H{o}tlens\'eg $x>m_T$, illetve $x>m$ teljes\"ul,
($m_T=\int u\,dF_T(u)$, $m=\int u\,dF(u)$,) mert $x=m_T$, illetve $x=m$
eset\'en $G=F_T$ \'es $G=F$ kiel\'eg\'{\i}ti a k\'{\i}v\'ant
egyen\-l\H{o}t\-len\-s\'e\-get. A konstrukci\'o megad\'asa \'erdek\'eben
az $x>m_T$ \'es $x>m$ esetben vegy\"uk \'eszre, hogy az a.) esetben
minden el\'eg kis $\e'>0$ sz\'amra l\'eteznek olyan $K_1>0$ \'es
$K_2>0$ sz\'amok, amelyekre
$\mu_1=\mu([-K_1,K_2])=F_T(K_2)-F_T(-K_1)>1-\e'$,
$\int_{-K_1}^{K_2} u\,dF_T(u)<m_T<x\mu_1$, \'es hasonl\'o
\'all\'{\i}t\'as \'erv\'enyes a c.) esetben is. Val\'oban, $K_1>0$-t
\'es $K_2>0$-t el\'eg nagynak v\'alasztva teljes\'{\i}thetj\"uk az
els\H{o} felt\'etelt, \'es mivel $1-F_T(K_2)>0$, a $K_1>0$ konstansot
m\'eg nagyobbra v\'alasztva, ha
sz\"uks\'eges az $\int u\,dF_T(u)=m_T<x$ felt\'etel miatt a m\'asodik
felt\'etelt is teljes\'{\i}teni tudjuk. Tov\'abb\'a, mivel az $F_T$
eloszl\'ashoz tartoz\'o $R_T(t)$ momentumgener\'al\'o f\"uggv\'eny
v\'egtelen tetsz\H{o}leges $t>0$ eset\'en, tetsz\H{o}leges $\delta>0$
sz\'amhoz v\'egtelen sok pozit\'{\i}v $p$ eg\'esz sz\'am van,
amelyekre, $\mu_2=\mu_2^{(p)}=F_T(2^{p+1})-F_T(2^p)>e^{-\delta 2^p}$.
Hasonl\'o \'all\'{\i}t\'as \'erv\'enyes a c.) esetben is.
\item{} Defini\'aljuk a $\bar\mu_1$ \'es $\bar\mu_2$ val\'osz\'{\i}n\H
us\'egi m\'ert\'ekeket, mint
$$
\align
\bar\mu_1(\A)&=\frac1{\mu_1}\int _{\A\cap [-K_1,K_2]}
\,dF_T(u),\\
\bar\mu_2(\A)&=\bar\mu_2^{(p)}(\A)=\frac1{\mu_2^{(p)}}\int
_{\A\cap [2^p,2^{p+1}]} \,dF_T(u),
\endalign
$$
ahol $\mu_1$, $K_1$, $K_2$ $\mu_2^{(p)}$ az el\H{o}z\H{o}
megjegyz\'esben szerepl\H{o} mennyis\'egek, \'es a $p$ pa\-ra\-m\'e\-tert
a $\bar\mu_2^{(p)}$ m\'ert\'ek definici\'oj\'aban alkalmasan v\'alasztjuk.
Defini\'aljuk a $ G= G^{(p)}$ m\'er\-t\'e\-ket, mint az $G=\alpha \bar
\mu_1+(1-\alpha)\bar\mu_2^{(p)}$ line\'aris
kombin\'aci\'ot, ahol az $\alpha$ sz\'amot az $\int u\,dG(u)=x$
felt\'etel hat\'arozza meg. Azt \'all\'{\i}tjuk, hogy el\'eg kis
$\e'>0$, $\delta=\delta(\e')>0$ \'es el\'eg nagy $p=p(\delta)>0$
v\'alaszt\'as eset\'en $G$ val\'osz\'{\i}n\H{u}s\'egi m\'ert\'ek, \'es
$I(G\|F_T)<\e$. Ennek bizony\'{\i}t\'as\'ahoz vegy\"uk \'eszre, hogy
$$
I(G\|F_T)=\alpha I(\bar \mu_1\|F_T) +(1-\alpha) I(\bar
\mu_2\|F_T)=-\alpha\log \mu_1-(1-\alpha)\log \mu_2^{(p)},
$$
\'es mivel $\int u \,d\bar\mu_1(u)<x$, \'es $2^p\le\int u
\,d\bar\mu_2^{(p)}(u)\le 2^{(p+1)}$, el\'eg nagy $p$-re
$0<1-\alpha<\const 2^{-p}$. Innen $-\alpha\log \mu_1<-\log\mu_1
<-\log(1-\e')$, \'es $-(1-\alpha)\log \mu_2^{(p)}<\delta 2^{p}\const
2^{-p}=\const\delta$. Innen k\"ovetkezik, hogy az $\e'$, $\delta$
\'es $p$ alkalmas v\'alaszt\'as\'aval $I(G\|F_T)<\e$ el\'erhet\H{o}.
Az $I(G\|F)<\e$ egyenl\H{o}tlens\'eg alkalmas konstrukci\'oval a c.)
esetben hasonl\'oan bizony\'{\i}that\'o.

\item{} A b.) eset k\"onnyen k\"ovetkezik a  {\it Nagy elt\'er\'esek
elm\'elete; F\"uggetlen, val\'os \'ert\'ek\H{u} val\'osz\'{\i}n\H{u}s\'egi
v\'altoz\'ok}\/ feladatsor 13. feladat\'anak eredm\'eny\'eb\H{o}l.
El\'eg azt az esetet n\'ezni, ha $x=\limm_{t\to\infty}[\log R(t)]'$,
mert $x>\limm_{t\to\infty}[\log R(t)]'$ eset\'en $\supp_{t\ge0}(tx-\log
R(t))=\infty$. A vizsg\'aland\'o esetben v\'alasszuk a $G$
m\'ert\'eket, mint az $x$ pontba koncentr\'alt m\'ert\'eket. Ekkor
$I(G\|F)=-\log\mu_F({x})$, ahol $\mu_F$ jel\"oli az $F$ m\'ert\'ek
\'altal induk\'alt m\'ert\'eket, azaz a jobboldalon az $x$ pont $\mu_F$
m\'ert\'eke van. Az eml\'{\i}tett feladatsor 13. feladat\'anak
eredm\'enye alapj\'an ez meg\-egye\-zik az (a) formula
baloldal\'an szerepl\H{o} szupr\'emummal.

\item{} A feladat utols\'o \'all\'{\i}t\'as\'at, azt hogy
$I(G\|F)<\supp_{t\ge0}(tx-\log R(t))+\e$ el\'erhet\H{o} szigor\'u
egyenl\H{o}tlens\'eggel, ha az $x$ sz\'amot kiss\'e n\"ovelj\"uk,
kiolvashat\'o a konstrukci\'ok ellen\H{o}rz\'es\'evel. De ez
k\"ovetkezik a 4. feladat eredm\'eny\'eb\H{o}l \'es az ut\'ana
k\"ovetkez\H{o} megjegyz\'esb\H{o}l is. Ezek szerint ugyanis
$I(x)<\infty$ a tekintett esetben, \'es az $I(x)$ f\"uggv\'eny
folytonoss\'agi tulajdons\'agai alapj\'an megkapjuk a k\'{\i}v\'ant
eredm\'enyt, ha az ebben a feladatban bebizony\'{\i}tott
\'all\'{\i}t\'asokat $x$ helyett $x+\e$-ra alkalmazzuk el\'eg kis
$\e>0$ sz\'ammal.

\item{11.)} Tegy\"uk fel el\H{o}sz\"or, hogy $q_l>0$ minden $1\le l \le
k$-ra. R\"og\-z\'{\i}t\-s\"unk egy $x_{j_1},\dots,x_{j_n}$ sorozatot,
$x_{j_s}\in X$, $1\le s\le n$, \'es legyen $m(l)=m(l,x_{j_1},\dots,
x_{j_n})=\#\{s\colon\; 1\le s\le n,\; x_{j_s}=x_l\}$, $1\le l\le k$. Ekkor
$\chi_n(l)=\chi_n(l,x_{j_1},\dots,x_{j_n})=\frac {m(l)}n$, \'es
$$
\mu^{(n)}\(x_{j_1},\dots,x_{j_n}\)=\prod_{s=1}^n p_{j_s}
=\prod_{l=1}^kp_l^{m(l)}
=\prod_{l=1}^k\frac{p_l^{m(l)}}{q^{m(l)}}\cdot\prod_{l=1}^k
q_l^{m(l)}.
$$
Jel\"olje $\nu^{(n)}$ a $\nu$ m\'ert\'ek $n$-szeres direkt szorzat\'at
\"onmag\'aval az $\{x_1,\dots,x_k\}^n$ szor\-zat\-t\'e\-ren.
Ekkor \"ossze\-gez\-ve az utols\'o formul\'at az \"osszes olyan
$x_{j_1},\dots,x_{j_n}$ sorozatra, amelyre $n_n\chi(l)=m(l)$,
$l=1,\dots,k$, valamilyen el\H{o}\'{\i}rt $m(l)$, $l=1,\dots,k$,
sz\'amokkal, azt kapjuk, hogy
$$
\frac{\mu^{(n)}\(n\chi_n(1)=m(1),\dots,n\chi_n(k)=m(k)\)}
{\nu^{(n)}\(n\chi_n(1)=m(1),\dots,n\chi_n(k)=m(k)\)}
=\prod_{l=1}^k\(\frac{p_l}{q_l}\)^{m(l)}.
$$
Ez\'ert,
$$ \allowdisplaybreaks
\align
&\prod_{l=1}^k \frac{p_l^{n(q_l+\e)}}{q_l^{n(q_l-\e)}} \\
&\qquad \le\frac{\mu^{(n)}
(((q_1-\e)<\chi_n(1)<(q_1+\e),\dots,(q_k-\e)<\chi_n(k)<(q_k+\e))} 
{\nu^{(n)} ((q_1-\e)<\chi_n(1)<(q_1+\e),\dots,
(q_k-\e)<\chi_n(k)<(q_k+\e))} \\
&\qquad\qquad\qquad\le \prod_{l=1}^k
\frac{p_l^{n(q_l-\e)}}{q_l^{n(q-l+\e)}}.
\endalign
$$
Mivel a nagy sz\'amok t\"orv\'enye alapj\'an
$$
\frac12\le \nu^{(n)}\((q_1-\e)<\chi_n(1)<(q_1+\e),\dots,(q_k-\e)
<\chi_n(k) <(q_k+\e)\)\le 1
$$
el\'eg nagy $n$-re, az el\H{o}z\H{o} becsl\'esb\H{o}l
k\"ovetkezik, hogy
$$
\align
&\frac12\prod_{l=1}^k\frac{p_l^{\e n}}{q_l^{-\e n}}
\prod_{l=1}^k\(\frac{p_l}{q_l}\)^{nq_l} \\
&\qquad=\mu^{(n)}\( |\chi_n(l)-q_l|<\e\;\text {minden } 1\le
l\le k\text{ indexre}\)\\
&\qquad= \mu^{(n)}\((q_1-\e)<\chi_n(1)<(q_1+\e),\dots,
(q_k-\e)<\chi_n(k)<(q_k+\e)\) \\ 
&\qquad\qquad\qquad\qquad\le
\prod_{l=1}^k\frac{p_l^{-\e n}}{q_l^{\e n}}
\prod_{l=1}^k\(\frac{p_l}{q_l}\)^{nq_l}
\endalign
$$
el\'eg nagy $n$-re. Mivel 
$\prodd_{l=1}^k\(\frac{p_l}{q_l}\)^{nq_l}
=\exp\left\{-n\summ_{l=1}^kq_l\log\frac{q_l}{p_l}\right\}$,
a fenti egyen\-l\H{o}t\-len\-s\'eg\-b\H{o}l k\"ovetkezik a feladatban
megfogalmazott (3)~formula, ha $q_l>0$ minden $l$ indexre.

\item{} Ha $q_l=0$ valamilyen $l$-re, akkor a fenti becsl\'es
v\'egrehajthat\'o azzal a m\'odos\'{\i}t\'assal, hogy csak
az $l\in K$, $K\subset\{1,\dots k\}$, indexeket vessz\"unk 
figyelembe a fenti sz\'a\-mo\-l\'as\-ban, ahol $l\in K$ akkor \'es 
csak  akkor, ha $q_l>0$. A (3)~egyenl\H{o}tlens\'egsorozat bal 
\'es jobboldala nem v\'altozik, ha az $l\in\{1,\dots,k\}$ helyett 
$l\in K$-ra \"osszegez\"unk. A k\"oz\'epen \'all\'o kifejez\'es 
\'ert\'eke n\H{o}, ha az $1\le l\le k$  indexek helyett csak az 
$l\in K$ indexeket tekintj\"uk. M\'asr\'eszt
$\mu^{(n)}( |\chi_n(y,l)-q_l|<\frac\e k\;\text {minden } 1\le
l\le k\text{ indexre})\le
\mu^{(n)}( |\chi_n(y,l)-q_l|<\e\;\text {minden } l\in K\text{ indexre})$,
mert a $\summ_{l\in\{1,\dots,k\}\setminus K}q_l=1$ 
\'es $q_l=0$, ha $l\in K$ rel\'aci\'okb\'ol k\"ovetkezik, 
hogy a baloldalon olyan halmaz m\'ert\'ek\'et vett\"uk, 
amely r\'esze a jobboldalon tekintett halmaznak. Innen 
k\"ovetkezik a (3)~rel\'aci\'o.

\item{} R\'at\'erek az (1) \'es (2)~rel\'aci\'ok
igazol\'as\'ara. Ha $F$ \'es $G$ k\'et v\'eges sok pontba 
koncentr\'alt eloszl\'as eloszl\'asf\"uggv\'enye, akkor 
legyen $X=\{x_1,\dots,x_k\}\subset R^1$ az a legkisebb halmaz, 
amelyre mind az $F$ \'altal meghat\'arozott $\mu_F$ mind a 
$G$ \'altal meghat\'arozott $\mu_G$ m\'ert\'ekre 
$\mu_F(X)=1$, $\mu_G(X)=1$. Legyen $\mu_F(\{x_l\})=p_l$, 
$\nu_l(\{x_l\})=q_l$, $1\le l\le k$. Ha l\'etezik olyan $l$
index, amelyre $p_l=0$ (\'es $q_l>0$), akkor
$I(G\|F)=\infty$ \'es el\'eg kis $\e>0$ sz\'amra
$P(\supp_x|F_n(x)-G(x)|<\e)=0$, mert $P(\supp_x|F_n(x)-G(x)|<\e)\le
P(F_n(x+0)-F_n(x-0)-q>-2\e)$. Ha $p_l>0$ minden $1\le l\le k$-ra, 
akkor vegy\"uk \'eszre, hogy a feladatban bizony\'\i{}tott 
egyenl\H{o}tlens\'eg bal \'es jobboldal\'an $e^{-n(I(G\|F)\pm C(\e))}$
szerepel. Ez\'ert
$$
\align
e^{-n(I(G\|F)+C(\e/k))}&\le
P\(|\chi_n(l)-q_l|<\frac\e k,\;\text{minden }1\le l\le k\text{-ra}\) \\
&\le P\(\sup_{-\infty<x<\infty}|F_n(x)-G(x)|<\e\)\\
&\le P\(|\chi_n(l)-q_l|<2\e,\;\text{minden }1\le l\le k\text{-ra}\) \\
&\le e^{-n(I(G\|F)-C(2\e))}
\endalign
$$
el\'eg nagy $n$-re. Innen k\"ovetkezik a (+1) \'es (+2)
\'all\'\i{}t\'as.

\item{12.)} A k\'{\i}v\'ant egyenl\H{o}tlens\'eg
bizony\'{\i}t\'as\'ahoz el\'eg bel\'atni, hogy minden $r=1,\dots,k$-ra
$$
\int_{\bold C_r} \log\frac{d\nu}{d\mu}(u)\,d\nu(u)\ge
\log\frac{\nu(\bold C_r)}{\mu(\bold C_r)} \nu(\bold C_r),
$$
\"Osszegezve ugyanis ezeket az egyenl\H{o}tlens\'egeket 
$k=1,\dots,r$-re megkapjuk a k\'{\i}v\'ant egyenl\H{o}tlens\'eget. 
Vi\-szont az el\H{o}bb fel\'{\i}rt egyenl\H{o}tlens\'eg a
val\'osz\'{\i}n\H{u}s\'egi m\'ert\'ekek alkalmas v\'alaszt\'as\'aval
k\"ovetkezik a 9. feladatban bebizony\'{\i}tott $I(\nu\|\mu)\ge0$
egyen\-l\H{o}t\-len\-s\'eg\-b\H{o}l. Bevezetve ugyanis a
$\mu_{r}(\BB)=\frac{\mu(\bold C_r\cap\BB)}{\mu(\bold C_r)}$
\'es $\nu_{r}(\BB)=\frac{\nu(\bold C_r\cap\BB)}{\nu(\bold C_r)}$
m\'ert\'ekeket, a bizony\'{\i}tand\'o egyen\-l\H
ot\-len\-s\'eget megkapjuk a 9. feladatban bebizony\'{\i}tott $I(\nu
\|\mu)\ge0$ \'all\'{\i}t\'asb\'ol, ha $\nu$-t $\nu_r$-rel \'es $\mu$-t
$\mu_r$-rel helyettes\'{\i}tj\"uk. Ugyanis 
$\log\frac{d\nu_r}{d\mu_r}
=\log\frac{d\nu}{d\mu}-\log\frac{\nu(\bold C_r)}{\mu(\bold C_r)}$
a $\bold C_r$ halmazon, \'es integr\'alva ezt az azonoss\'agot
a $\nu_r$ m\'ert\'ek szerint azt kapjuk, hogy
$0\le\int\log\frac{d\nu_r}{d\mu_r}\,d\nu_r
=\frac1{\nu(\bold C_r)}\int\log\frac{d\nu}{d\mu}\,d\nu
-\log\frac{\nu(\bold C_r)}{\mu(\bold C_r)}$, \'es ez ekvivalens
a bizony\'{\i}tand\'o \'all\'{\i}t\'assal.

\item{} Ha $\nu$ nem abszol\'ut folytonos a $\mu$ m\'ert\'ekre n\'ezve,
tekints\"uk az $\Cal C=(\bold C_1,\bold C_2)$,
$\bold C_1=\left\{u\colon\;\frac{d\mu}{d\nu}(u)=0\right\}$, $\bold
C_2=Y\setminus\bold C_1$
partici\'ot. Ekkor $\nu_{\Cal C}$ sem abszol\'ut folytonos a $\mu_{\Cal
C}$ m\'ert\'ekre, \'es $I(\nu_{\Cal C}\| \mu_{\Cal C})=\infty$.
Tekints\"uk
ezut\'an azt az esetet, amikor $I(\nu\|\mu)<\infty$. Ekkor valamilyen
$K_2>1>K_1>0$ \'es $N$ param\'eterek seg\'{\i}ts\'eg\'evel
defini\'aljuk a k\"ovetkez\H{o} 
$\Cal C=\{\bold C_1,\dots,\bold C_{N+2}\}$ partici\'ot:
$$
\bold C_l=\left\{u\colon\;K_1+\frac{(K_2-K_1)(l-1)}N\le\frac{d\nu}{d\mu}(u)
<K_1+\frac{(K_2-K_1)l}N\right\},\quad l=1,\dots,N
$$
$\bold C_{N+1}=\left\{u\colon\;\frac{d\nu}{d\mu}(u)\ge K_2\right\}$,
$\bold C_{N+2}=\left\{u\colon\;\frac{d\nu}{d\mu}(u)< K_1\right\}$.
(Pontosabban fogalmazva, azokat a $\bold C_l$ halmazokat vessz\"uk,
amelyekre $\mu(\bold C_l)>0$.)
Megmutatjuk, hogy al\-kal\-mas $K_1$, $K_2$ \'es $N$ v\'alaszt\'assal
$\left| I(\nu\|\mu)-I(\nu_{\Cal C}\|\mu_{\Cal C})\right|\le\e$.

\item{} Ha $K_2>1$-t el\'eg nagynak, $1>K_1>0$-t el\'eg kicsinek
v\'alasztjuk az $I(\nu\|\mu)$ v\'egess\'ege miatt el\'erhetj\"uk, hogy
$\left|\int_{\bold C_{N+i}}\log\frac
{d\nu}{d\mu}(u)\nu(\,du)\right|\le\frac \e4$ legyen,
$i=1,2$. Ve\-gy\"uk \'eszre, hogy ha a $\bold C\subset Y$ halmaz 
olyan, hogy $a\le \frac{d\nu}{d\mu}(u)\le b$ minden $u\in \bold C$ 
pontban, $-\infty\le a<b\le\infty$, akkor 
$a\le \frac{\nu(\bold C)}{\mu(\bold C)}\le b$. Val\'oban, mivel 
$\nu(\bold C)=\int_{\bold C}
\frac{d\nu}{d\mu}(u)\,d\mu(u)$, $\int_{\bold C}
a \,d\mu(u)\le \nu(\bold C)\le \int_{\bold C}b\,d\mu(u)$, ahonnan
k\"ovetkezik ez az \'all\'{\i}t\'as.

\item{} A feladat elej\'en szerepl\H{o} egyenl\H{o}tlens\'eg alapj\'an
$$
\frac\e4\ge\int_{\bold C_{N+1}}\log
\frac{d\nu}{d\mu}(u)\nu(\,du)\
\ge\log \frac{\nu(\bold C_{N+1})}{\mu(\bold C_{N+1})}\nu(\bold
C_{N+1})\ge0,
$$
tov\'abb\'a
$$
\frac\e4\ge-\int_{\bold C_{N+2}}
\log\frac{d\nu}{d\mu}(u)\nu(\,du)\ge0,
$$
\'es mivel $\limm_{u\to0} u\log u=0$, \'es
$\log\frac{\nu(\bold C_{N+2})}{\mu(\bold C_{N+2})}<0$, ez\'ert
$$
\align
0\ge \nu(\bold C_{N+2})\log \frac{\nu(\bold C_{N+2})}
{\mu(\bold C_{N+2})}
&=\mu(\bold C_{N+2}) 
\frac{\nu(\bold C_{N+2})}{\mu(\bold C_{N+2})}
\log \frac{\nu(\bold C_{N+2})}{\mu(\bold C_{N+2})} \\
&\ge \frac{\nu(\bold C_{N+2})}{\mu(\bold C_{N+2})}
\log\frac{\nu(\bold C_{N+2})}{\mu(\bold C_{N+2})} \ge-\frac\e4,
\endalign
$$
ha $K_1>0$-t el\'eg kicsinek, \'es $K_2>0$-t el\'eg nagynak
v\'alasztjuk. Ez\'ert a bizony\'{\i}t\'as befejez\'es\'ehez
ebben az esetben el\'eg azt megmutatni, hogy el\'eg nagy 
$N=N(K_1,K_2)$ sz\'amra
$$
\sum_{l=1}^N\int_{\bold C_l}\left|\log\frac
{d\mu}{d\nu}(u)-\log\frac{\mu(\bold C_l)}{\nu(\bold
C_l)}\right|\,d\nu(u)\le \frac\e2.
$$
Ez viszont k\"ovetkezik abb\'ol a t\'enyb\H{o}l, hogy el\'eg nagy
$N$ sz\'amra
$$
\left|\log\frac{d\mu}{d\nu}(u)-\log\frac{\mu(\bold C_l)}{\nu(\bold
C_l)}\right|\le \frac\e2, \quad\text{ha } u\in \bold C_l.
$$
V\'eg\"ul tekints\"uk azt az esetet, amikor $I(\nu\|\mu)=\infty$, de a
$\nu$ m\'ert\'ek abszol\'ut folytonos
a $\mu$ m\'ert\'ekre. Ez az eset hasonl\'oan
t\'argyalhat\'o az el\H{o}z\H{o} esethez. Mivel $I(\nu\|\mu)=\infty$
v\'alaszthatunk olyan $\bold C_1$, $\bold C_2$, $\bold C_3$ halmazokat,
$\bold C_1=\left\{u\colon\;\frac{d\nu}{d\mu}(u)<K_1\right\}$,
$\bold C_2=\left\{u\colon\;K_1\le\frac{d\nu}{d\mu}(u)\le K_2\right\}$,
$\bold C_3=\left\{u\colon\;\frac{d\nu}{d\mu}(u)>K_2\right\}$
alkalmas $K_i=K_i(\e)$-nal, $i=1,2$, amelyekre
$\nu(\bold C_1)\ge\frac12$, $\int_{\bold
C_2}\frac{d\nu}{d\mu}(u)\,d\nu(u)\ge\frac2\e$, 
\'es $\log\frac{d\nu}{d\mu}(u)>1$, ha $u\in \bold C_3$. Ekkor
$\int_{\bold C_1\cup\bold C_3}\log\frac{d\nu}{d\mu}(u)\,d\nu(u)>-\log 2$. 
Az $I(\nu\|\mu)<\infty$
esetben t\'argyalt konstrukci\'o \'ervel\'es\'ehez hasonl\'oan kapjuk,
hogy a $\bold C_2$ halmaznak l\'etezik olyan $\bold
C_2=\bigcup\limits_{l=1}^N \BB_l$ partici\'oja, amelyre
$$
\summ_{l=1}^N\log\frac{\nu(\BB_l)}{\mu(\BB_l)}\nu(\BB_l)
\ge\frac1\e+\log2.
$$
Ez\'ert az $\Cal C=\{\bold C_1,\bold C_3,\BB_1,\dots,\BB_N\}$ rendszer
az  $(Y,\Cal B)$ t\'er olyan partici\'oja, amelyre  $I\(\nu_{\Cal
C}\|\mu_{\Cal C}\)\ge\frac1\e$. Innen k\"ovetkezik a feladat
\'all\'{\i}t\'asa ebben az esetben is.

\item{13.)} Tekints\"uk az \"osszes olyan $\A$ halmazt, amelyre
teljes\"ul a fenti approxim\'aci\'os \'all\'{\i}t\'as. Ny\'{\i}lv\'an
az $\Cal A^0=\bigcup\limits_{l=1}^{\infty}\Cal A_l$ uni\'o elemei ilyen
halmazok. Tov\'abb\'a $\Cal A^0$ halmazalgebra. Ez\'ert el\'eg 
azt bel\'atni, hogy az adott tulajdons\'ag\'u
halmazok $\sigma$-algebr\'at alkotnak. Ezt az \'all\'{\i}t\'ast
k\"ozvetlen\"ul is lehet ellen\H{o}r\'{\i}zni. P\'eld\'aul, ha az
$\A_l$, $l=1,2,\dots$, halmazok mindegyike teljes\'{\i}ti ezt a
tulajdons\'agot, akkor  az $\A=\bigcup\limits_{l=1}^\infty\A_l$
uni\'o is teljes\'{\i}ti azt. Ugyanis, minden $\e>0$-hoz l\'etezik
olyan $N=N(\e)$, amelyre
$\mu_j\(\bigcup\limits_{l=1}^\infty\A_l\setminus
\bigcup\limits_{l=1}^N\A_l\)\le \frac\e2$, $j=1,\dots,k$, \'es minden
$\A_l$, $l=1,\dots,N$ halmazhoz l\'etezik olyan $\BB_l\in\Cal A^0$ 
halmaz, amelyre
$\mu_j(\A_l\Delta\BB_l)\le\frac\e{2N}$, $j=1,\dots,k$. Ekkor a
$\BB=\bigcup\limits_{l=1}^N \BB_l\in\Cal A^0$ halmazra 
$\mu_j(\A\Delta\BB)\le\e$ minden $j=1,\dots,k$-ra. Tov\'abb\'a
az is nyilv\'anval\'o, hogy ha egy $\A$ halmazra teljes\"ul az
approxim\'aci\'os tulajdons\'ag, akkor az $X\setminus\A$ halmazra
is teljes\"ul.

\item{14.)} Tekints\"uk el\H{o}sz\"or azt az esetet, amikor a $\nu$
m\'ert\'ek abszol\'ut folytonos a $\mu$ m\'ert\'ekre n\'ezve. A 
12.~feladat eredm\'enyei alapj\'an tetsz\H{o}leges $\e>0$-ra 
l\'etezik olyan $\Cal B$ v\'eges partici\'o, amelyre
$$
I(\nu\|\mu)\ge I(\nu_{\Cal B}\|\mu_{\Cal B}) >I(\nu\|\mu)-\e,\;\quad\text
{ha } I(\nu\|\mu)<\infty,
$$
\'es
$$
I(\nu_{\Cal B}\|\mu_{\Cal B})\ge \frac1\e,\;\quad\text
{ha } I(\nu\|\mu)=\infty.
$$
Tov\'abb\'a az $I(\nu_{\Cal A_n}\|\mu_{\Cal A_n})$ sorozat monoton
n\H{o}, \'es a limesze kisebb vagy egyenl\H{o} mint $I(\nu\|\mu)$.
Ez\'ert el\'eg bel\'atni, hogy el\'eg nagy $n$-re \'es egy
az $Y$ halmaz egy v\'eges m\'erhet\H{o} $\Cal B=\{\BB_1,\dots,\BB_r\}$
partici\'oj\'ara
$$
I\(\nu_{\Cal A_n}\|\mu_{\Cal A_n}\)\ge I(\nu_{\Cal B}\|\mu_{\Cal
B})-\frac\e2.
$$
Legyen $\Cal B=\{\BB_1,\dots,\BB_r\}$ az $Y$ halmaz olyan v\'eges
m\'erhet\H{o} partici\'oja, amelyre $\mu(\BB_l)>0$ minden 
$1\le l\le r$ indexre. A 13. feladat eredm\'enye
seg\'{\i}ts\'eg\'evel be fogjuk l\'atni, hogy tetsz\H{o}leges
$\delta>0$-ra \'es $n>n(\delta)$-ra az 
$\Cal A_n=\{\A_1,\dots,\A_{p(n)}\}$ partici\'o ele\-meit $r$ 
oszt\'alyba lehet
sorolni \'ugy, hogy a $j$-ik, $j=1,\dots,r$, oszt\'alyba tartoz\'o
$\A^{(j)}_{j(1)},\dots,\A^{(j)}_{j(s))}$, $s=s(n,j)$, halmazok
$\A_{(j)}=\A_{n,(j)}=\bigcup\limits_{l=1}^{s}\A^{(j)}_{j(l)}$
uni\'oja teljes\'{\i}ti a $\mu(\A_{(j)}\Delta \BB_j)\le \delta$
\'es $\nu(\A_{(j)}\Delta \BB_j)\le \delta$, $j=1,\dots,r$,
egyenl\H{o}tlens\'egeket. El\'eg kis $\delta$ sz\'am v\'alaszt\'as\'aval
e t\'eny seg\'{\i}ts\'eg\'evel fogjuk bizony\'{\i}tani a k\'{\i}v\'ant 
egyen\-l\H{o}t\-len\-s\'e\-get.

\item{} A 13. feladat eredm\'enye alapj\'an
minden el\'eg nagy $n$-re \'es $\BB_j\in\Cal B$-re l\'etezik olyan
$\bar{\A}_{(j)}\in \Cal A_n$ halmaz, ($\Cal A_n$-val jel\"olj\"uk az  
$\Cal A_n$ partici\'o elemeinek uni\'ojaib\'ol \'all\'o 
$\sigma$-algebr\'at is,) amelyre 
$\mu(\bar{\A}_j\Delta\BB_j)\le\frac\delta{4r}$,
$\nu(\bar{\A}_j\Delta\BB_j)\le\frac\delta{4r}$, $j=1,\dots,r$.
Ezek az $\bar{\A}_{(j)}$ halmazok nem felt\'etlen\"ul diszjunktak,
\'es az uni\'ojuk nem mindig adja ki az eg\'esz teret, de mivel a $\BB_j$,
$j=1,\dots,r$, halmazok diszjunktak, \'es az uni\'ojuk az eg\'esz
$Y$ t\'er, ez\'ert
$\mu\(\bigcup\limits_{j=1}^r\bar{\A}_{(j)}\)\ge1-\frac\delta4$,
$\nu\(\bigcup\limits_{j=1}^r\bar{\A}_{(j)}\)\ge1-\frac\delta4$,
$\mu(\bar{\A}_{(j)}\Delta\bar{\A}_{(j')})\le\frac \delta{2r}$ \'es
$\nu(\bar{\A}_{(j)}\Delta\bar{\A}_{(j')})\le\frac \delta{2r}$, ha 
$j\neq j'$. Defini\'aljuk az $\A_{(j)}=\bar{\A}_{(j)}\setminus
\bigcup\limits_{l=1}^{j-1}\bar{\A}_{(l)}$, $j=1,\dots,r-1$, \'es
$\A_r=Y\setminus \bigcupp_{l=1}^{r-1}\A_l$ halmazokat. Ezek az
$\A_{(j)}$ halmazok teljes\'{\i}tik a k\'{\i}v\'ant felt\'eteleket.

\item{} R\"ogz\'{\i}ts\"unk egy el\'eg kis $\delta>0$ sz\'amot,
\'es el\'eg nagy $n$-re vezess\"uk be a $\Cal A_n$ partici\'o
$\bar{\Cal A}_n =\{\A_{(1)},\dots,\A_{(s)}\}
=\{\A_{n,(1)},\dots,\A_{n,(s)}\}$ durv\'{\i}t\'as\'at, ahol az
$\A_{(j)}$ halmazok a $\BB_j$ halmazok el\H{o}z\H{o}ekben defini\'alt
approxim\'aci\'oi. Ekkor $I(\nu_{\bar{\Cal A}_n}\|\mu_{\bar{\Cal
A}_n})\le I(\nu_{\Cal A}\|\mu_{\Cal A})$, \'es mivel az $\A_{(j)}$
\'es $\BB_{(j)}$, $j=1,\dots,r$ halmazok $\mu$ \'es $\nu$
m\'ert\'eke csak $\delta$-val t\'erhet el, ez\'ert
$\left|I(\nu_{\bar{\Cal A}_n}\|\mu_{\bar{\Cal A}_n})-I(\nu_{\Cal
B}\|\mu_{\Cal B})\right| \le\frac\e2$, ha $\delta$-t el\'eg kicsinek
v\'alasztjuk. Innen k\"ovetkezik a feladat \'all\'{\i}t\'asa abban az
esetben, ha a $\nu$ m\'ert\'ek abszol\'ut folytonos a $\mu$
m\'ert\'ekre.

\item{} Az az eset, amikor a $\nu$ m\'ert\'ek nem abszol\'ut folytonos
a $\mu$ m\'ert\'ekre hasonl\'oan t\'argyalhat\'o, de
egyszer\H{u}bb. Defini\'aljuk a $\Cal B=(\BB_1,\BB_2)$ partici\'ot,
ahol
$$
\BB_1=\left\{u\colon\; \frac{d\mu}{d\nu}(u)=0\right\},\quad
\BB_2=\left\{u\colon\; \frac{d\mu}{d\nu}(u)>0\right\}.
$$
Ekkor tetsz\H{o}leges $\delta>0$-ra \'es $n\ge n(\delta)$-ra az
$\Cal A_n$ partici\'onak van olyan $\bar{\Cal
A}=\{\bar{\A}_1,\bar{\A}_2\}$ durv\'{\i}t\'asa, amelyre
$\nu(\bar{\A}_1)\ge\nu(\BB_1)-\delta$ \'es
$\mu(\bar{\A}_1)\le\delta$. Innen k\"o\-vet\-ke\-zik, hogy
$I(\nu_{\Cal A}\|\mu_{\Cal A})\ge I(\nu_{\bar{\Cal
A}_n}\|\mu_{\bar{\Cal A}_n})$, \'es
$$
I(\nu_{\bar{\Cal A}}\|\mu_{\bar{\Cal A}})=
\log\frac{\nu(\bar{\A}_1)}{\mu(\bar{\A}_1)}\nu(\bar{\A}_1)+
\log\frac{1-\nu(\bar{\A}_1)}{1-\mu(\bar{\A}_1)}
(1-\nu(\bar{\A}_1))\ge\frac1\e,
$$
ha $\delta>0$ el\'eg kicsi. Innen ad\'odik a feladat
\'all\'{\i}t\'asa ebben az esetben is.

\item{15.)} R\"ogz\'{\i}ts\"unk egy $\delta_n\to0$ sorozatot. Az
$R^1$ sz\'amegyenes olyan egym\'asba skatuly\'azott (ny\'{\i}lt)
intervallumokb\'ol, egyelem\H{u} halmazokb\'ol \'es
k\'et f\'elegyenesb\H{o}l \'all\'o egym\'asba skatuly\'azott v\'eges
$\Cal A_n$ partici\'oit tekintj\"uk, amelyekre az $\Cal A_n$
partici\'oban tartalmazott intervallumoknak \'es f\'elegyeneseknek a
$G$ eloszl\'as \'altal meghat\'aroztott m\'ert\'eke kisebb mint
$\delta_n$.

\item{} L\'assuk be el\H{o}sz\"or, hogy ilyen partici\'ok
val\'oban l\'eteznek. Az $\Cal A_n$ partici\'o
meg\-konst\-ru\'a\-l\'a\-sa \'erdek\'eben tekints\"unk egy $(-\infty,
a)$, \'es $(b,\infty)$ f\'elegyenest, amelyeknek a $G$ eloszl\'as
\'altal induk\'alt $\mu_G$ m\'ert\'eke kisebb mint $\delta_n$, \'es
legyenek $y_1,\dots,y_k$ azok a pontok amelyekre $\mu_G(y_j)\ge
\delta_n$. Defini\'aljuk a a $\bar \mu_G$ m\'ert\'eket a 
$\bar\mu_G(\A)=\mu_G((\A\cap[a,b])\setminus\{y_1,\dots,y_k\})$ 
k\'eplettel. Ekkor minden $x\in R^1$ pontnak van olyan 
$(x-\eta(x), x+\eta(x))$ k\"ornyezete, amelyre 
$\bar\mu_G\((x-\eta(x), x+\eta(x))\)<\delta$.
Ezek lefedik a (kompakt) $[a,b]$ intervallumot, ez\'ert
kiv\'alaszthat\'o ezen intervallumok k\"oz\"ul v\'eges sok, amelyek
szint\'en lefedik az $[a,b]$ intervallumot. Tekints\"uk a
sz\'amegyenesnek azt a partici\'oj\'at v\'eges szakaszokra, azok
v\'egpontjaira (mint egyelem\H{u} halmazra) \'es k\'et f\'elegyenesre,
amelyet ezen intervallumok v\'egpontjai \'es az $y_1,\dots,y_k$ pontok
hat\'aroznak meg. Az \'{\i}gy defini\'alt $\bar{\Cal A}_n$ partici\'o
nem egy pontb\'ol \'all\'o elemeinek a $\mu_G$ m\'ert\'ekes kisebb
mint $\delta$. Legyen $\Cal A_n$ a $\bar{\Cal A}_k$, $k=1,\dots n$,
partici\'ok k\"oz\"os finom\'{\i}t\'asa. Ez teljes\'{\i}ti a
k\'{\i}v\'ant felt\'eteleket.

\item{} A 14. feladat eredm\'enye alapj\'an teh\'at tetsz\H{o}leges
$\e>0$ sz\'amra l\'etezik a sz\'am\-egye\-nes\-nek olyan egyelem\H{u}
halmazokb\'ol, ny\'{\i}lt intervallumokb\'ol \'es k\'et
f\'elegyenesb\H{o}l \'all\'o $\Cal A$ partici\'oja, amelyre
$$
\align
&\left|I(G_{\Cal A}\|F_{\Cal A})-I(G\|F)\right|\le\frac\e2
\quad\text {ha } I(G\|F)<\infty \\
&I(G_{\Cal A}\|F_{\Cal A})>\frac2{\e}\quad \text{ha }
I(G\|F)=\infty,
\endalign
$$
\'es $\mu_G(\A)\le\frac\e2$, ha $\A\in\Cal A$, \'es $\A$ nem egy
pontb\'ol \'all. (Eml\'ekeztet\H{o}\"ul, ha $\Cal
A=\{\A_1,\dots,\A_k\}$, akkor minden minden $\A_l\in \Cal A$,
$l=1,\dots,k$, elemnek kijel\"olj\"uk egy $x_l$ pontj\'at, \'es
az $F_{\Cal A}$ illetve $G_{\Cal A}$ eloszl\'asf\"uggv\'enyt azok az
eloszl\'asok \'altal meghat\'arozott eloszl\'asf\"uggv\'enyek, amelyek
az $x_l$ \'ert\'eket $p_l=\mu_F(\A_l)$ illetve $q_l=\mu_G(\A_l)$
val\'osz\'{\i}n\H{u}s\'eggel veszik fel.) Legyenek $\xi_1,\xi_2,\dots,$
f\"uggetlen $F$ eloszl\'as\'u va\-l\'o\-sz\'{\i}\-n\H{u}\-s\'egi
v\'altoz\'ok. Ezek meg\-ha\-t\'a\-roz\-z\'ak az
$F_n(x)=\frac1n\summ_{j=1}^n I(\xi_j\le x)$ empirikus
el\-osz\-l\'as\-f\"ugg\-v\'enyt. Defini\'aljuk a $\bar\xi_j$,
$j=1,2,\dots$, val\'osz\'{\i}n\H{u}s\'egi v\'altoz\'okat a
k\"ovetkez\H{o} m\'odon: Ha $\xi_j\in \A_l\in\Cal A$, akkor
$\bar\xi_j=x_l$. Ekkor $\bar\xi_1,\bar\xi_2,\dots$ f\"uggetlen
$F_{\Cal A}$ eloszl\'as\'u val\'osz\'{\i}n\H{u}s\'egi v\'altoz\'ok,
\'es a $\bar\xi_j$ val\'osz\'{\i}n\H{u}s\'egi v\'altoz\'ok
konstrukci\'oj\'ab\'ol k\"ovetkezik, hogy a bel\H{o}l\"uk
elk\'esz\'{\i}tett $\bar F_n=\bar F_{n,\Cal A}$ empirikus
eloszl\'asf\"uggv\'eny teljes\'{\i}ti az $F_n(x)=\bar F_n(x)$,
$F_n(x-0)=\bar F_n(x-0)$ azonoss\'agot minden olyan $x$ pontban,
amely az $\Cal A$ partici\'oban szerepl\H{o} intervallumok
valamelyik\'enek v\'egpontja. Innen, \'es a $\Cal A$ elemeinek
$\mu_G$ m\'ert\'ek\'ere adott becsl\'esb\H{o}l k\"ovetkezik, hogy
$$
\sup_x|F_n(x)-G(x)|-\e\le \sup_x\left|\bar F_n(x)-G_{\Cal A}(x)\right|
\le\sup_x|F_n(x)-G(x)|+\e.
$$
Viszont a 12. feladat eredm\'enye alapj\'an
$$
-I\(G_{\Cal A}\|F_{\Cal A}\)-C\e
\le\frac1n \log P\(\sup_x\left|\bar F_n(x)-G_{\Cal A}(x)\right|>\e\)\le
-I\(G_{\Cal A}\|F_{\Cal A}\)+C\e,
$$
alkalmas $C$ sz\'ammal, ha $n>n(\e,F,G)$. 
Az utols\'o  k\'et egyenl\H{o}tlens\'egb\H{o}l \'es abb\'ol
a t\'enyb\H{o}l, hogy  $I(G_{\Cal A}\|F_{\Cal A})$ j\'ol approxim\'alja
az $I(G\|F)$ $I$-divergenci\'at, k\"ovetkezik a feladat
\'all\'{\i}t\'asa.

\item{16.)} Az $L=L(\e)$ sz\'amot el\'eg nagyra v\'alasztva
el\'erhetj\"uk, hogy az
$$
\bar F(x)=P(\xi_1\le x|\,\,|\xi_1|\le L)
$$
eloszl\'asf\"uggv\'eny teljes\'{\i}tse a $\supp_x|\bar F(x)-F(x)|\le\e$
\'es az $|I(G\|\bar F)-I(G\|F)|\le \e$ egyenl\H{o}tlens\'egeket. (Az
ut\'obbi egyenl\H{o}tlens\'eg teljes\"ul\'es\'ehez kell az a
felt\'etel, hogy a $G$ eloszl\'as egy v\'eges intervallumba van
koncentr\'alva.) Ez\'ert a 15. fel\-adat eredm\'eny\'eb\H{o}l ezzel a
$\bar F$ el\-osz\-l\'as\-f\"ugg\-v\'eny v\'alaszt\'as\'aval
k\"ovetkezik az ebben a fel\-adat\-ban fel\'{\i}rt becsl\'es az
$\supp_x|F_n(x)-G(x)|\le\eta$ esem\'eny felt\'eteles val\'osz\'{\i}n\H
us\'eg\'ere a $\{|\xi_k|\le L,\;1\le k\le n\}$ felt\'etel mellett.
\item{} A 10. feladat eredm\'enye alapj\'an a nagy elt\'er\'es t\'etel
fels\H{o} becsl\'es\'enek a bi\-zo\-ny\'{\i}\-t\'a\-s\'a\-hoz el\'eg
megmutatni, hogy minden $\e>0$-ra \'es olyan  $G$ eloszl\'asra,
amelyre $a<\int u\,dG(u)<a+\e$ \'es $I(G\|F)<\inff_{t\ge 0}(ta- \log
R(t))+\e$ teljes\"ul a
$$
-\frac1n \log P\(\frac{S_n}n\in[a,b]\)\le I(G\|F)+2\e
$$
egyenl\H{o}tlens\'eg.
L\'etezik ugyanis olyan $G$ eloszl\'as, amelyre $a<\int u\,dG(u)<a+\e$,
\'es $I(G\|F)<\inff_{t\ge0}(ta-\log R(t)+\e$. S\H{o}t, feltehetj\"uk,
hogy ez a $G$ eloszl\'as v\'eges intervallumba van koncentr\'alva, mert
egy el\'eg nagy $K>0$ sz\'amot v\'alasztva \'es a $G$ f\"uggv\'enyt a
$\bar G(x)=\frac{G(x)-G(-K)}{G(K)-G(-K)}$, $-K\le x\le K$,
helyettes\'{\i}tve olyan f\"uggv\'enyt kapunk, amelyik szint\'en
teljes\'{\i}ti a fenti egyen\-l\H{o}t\-len\-s\'e\-ge\-ket.
(Pontosabban, a 10. fel\-adat\-ban felhaszn\'alt eredm\'eny nem
alkalmazhat\'o abban a speci\'alis (elfajult) esetben, amikor az
$R(t)=Ee^{t\xi_1}$ minden $t\ge0$-ra \'ertelmezve van, \'es
$\limm_{t\to\infty}[\log R(t)]'=a$. De ezt az esetet, amikor
$P(\xi_1\le a)=1$ re\-l\'a\-ci\'o is teljes\"ul, a
{\it Nagy elt\'er\'esek elm\'elete; F\"uggetlen, val\'os \'ert\'ek\H{u}
val\'osz\'{\i}n\H{u}s\'egi v\'altoz\'ok}\/ feladatsor 13.
fel\-adat\'anak eredm\'enye le\'{\i}rja, \'es ezzel itt nem
foglalkozunk. Feltehetj\"uk tov\'abb\'a, hogy $I(G\|F)<\infty$, mert
k\"ul\"onben az \'all\'{\i}t\'as ny\'{\i}lv\'anval\'o.)
Alkalmazzuk a fel\-adat els\H{o} \'all\'{\i}t\'as\'at ezt az
\'all\'{\i}t\'ast kiel\'eg\'{\i}t\H{o} $G$ \'es $\bar F$
eloszl\'assal, $\e$ helyett $\e'=\frac12\(\int u\,dG(u)-a\)$
param\'eter v\'alaszt\'assal. Ekkor $\e'\le \e$, \'es ha $\e>0$ el\'eg
kicsi, akkor az $\e'\le\frac 12\(b-\int u\,dG(u)\)$ egyenl\H
otlens\'eg is teljes\"ul. Azt kapjuk, hogy
$$
P\(\left.\omega\colon\; |F_n(x,\omega)-G(x)|\le \eta\right| \,
|\xi_k(\omega)|\le L,\;1\le k\le n\)\ge e^{-nI(G\|\bar F)
-nC(\eta,\e')},
$$
$|IG(\|F)-I(G\|\bar F)|\le\e'$. Ez\'ert a k\'{\i}v\'ant
\'all\'{\i}t\'as bizony\'{\i}t\'as\'ahoz el\'eg megmutatni azt,
hogy el\'eg kis $\eta=\eta(L)>0$ sz\'amra
$$
\left\{\omega\colon\; \supp_x |F_n(x,\omega)-
G(x)|\le \eta\right\}\cap \A_n \subset\left\{\omega\colon\;
\frac{S_n(\omega)}n\in [a,b]\right\},
$$
ahol $\A_n=\A_n(L)=\{\omega\colon\;|\xi_k(\omega)| \le L,\;1\le k\le n\}$,
\'es $L>0$ ugyanaz a sz\'am, amely az el\H{o}bb tekintett felt\'eteles
val\'osz\'{\i}n\H{u}s\'eg felt\'etel\'eben szerepel. Innen ugyanis
k\"ovetkezik, hogy
$$
\align
P\(\frac{S_n(\omega)}n\in [a,b]\)&\ge
P\(\left.|F_n(x,\omega)-G(x)|\le \eta \,\right|
|\xi_k(\omega)|\le L,\;1\le k\le n\)P(\A_n)\\
&\ge e^{-nI(G\|\bar F)-nC(\eta,\e')}P(|\xi_1|\le L)^n
\ge e^{-nI(G\|\bar F)-n \bar C(\eta,\e)},
\endalign
$$
ahol $\bar C(\e)\to0$, ha $\e\to\infty$. Parci\'alis integr\'al\'assal
kapjuk, hogy $\omega\in A_n$ \'es $\left\{\omega\colon\;\supp_x
|F_n(x,\omega)-G(x)|\le \eta\right\}$ eset\'en
$$
\align
\left|\frac{S_n(\omega)}n-\int u\,dG(u)\right|&=\left|\int
u\,dF_n(u,\omega)-\,dG(u)\right| \\
&\le \int_{-L}^L |F_n(u,\omega)-G(u)|\, du\le L\eta.
\endalign
$$
Viszont el\'eg kis $\eta>0$-ra $L\eta\le\int u\,dG(u)-a$ \'es
$L\eta\le b-\int u\,dG(u)$. Innen k\"ovetkezik a feladat
\'all\'{\i}t\'asa.

\item{17.)} Mivel $\mu\notin\bold F$, \'es $\bold F$ z\'art, azaz
$X\setminus \bold F$ ny\'{\i}lt halmaz, ez\'ert l\'etezik az $\mu\in X$
pontnak az $\bold F$ halmazt\'ol diszjunkt $\bold
U=\{\nu\colon\;|\nu(\BB_l)-\mu(\BB_l)|<\e,\;1\le l\le k\}$
ny\'{\i}lt k\"ornyezete, ahol $\BB_l$ az $(Y,\Cal B)$ t\'er 
m\'erhet\H{o} r\'eszhalmazai. Legyen Defini\'aljuk a $\bold
G_1=\{\nu\colon\;|\nu(\BB_l)-\mu(\BB_l)|<\e/4,\;1\le l\le k\}$ \'es
$\bold G_2=X\setminus\{\nu\colon\;|\nu(\BB_l)-\mu(\BB_l)|\le\e/2,
\;1\le l\le k\}=\{\nu\colon\;|\nu(\BB_l)-\mu(\BB_l)|>\e/2 
\text{ valamely } \;1\le l\le k \text{ indexre.}\}$
halmazokat. Ezek a $\bold G_1$, $\bold G_2$ ny\'{\i}lt
halmazok teljes\'{\i}tik
a $T_3$ tulajdons\'agban szerepl\H{o} felt\'eteleket.

\item{} A $\bold K=\bold K(\BB,\e)=\{\nu\colon\;|\nu(\BB)-\mu(\BB)|\le\e\}$
halmaz, ahol $\BB$ az $(Y,\Cal B)$ t\'er m\'erhet\H{o} r\'eszhalmaza,
a $\mu$ pontot tartalmaz\'o z\'art halmaz. Az \"osszes ilyen halmaz
metszete szint\'en z\'art, \'es egyed\"ul a $\mu$ pontot tartalmazza.
Ez\'ert a $\{\mu\}$ halmaz z\'art.

\item{18.)} Tekints\"uk az $Y$ t\'er egy v\'eges 
$\Cal D=\{\bold D_1,\dots,\bold D_k\}$ v\'eges partici\'oj\'at, 
\'es adva k\'et $\mu$ \'es $\nu$ m\'ert\'ek az $(X,\Cal X)$
t\'eren, legyen $\mu_{\Cal D}$ \'es $\nu_{\Cal D}$ e 
m\'ert\'ek vet\"ulete a $\Cal D$ partici\'ora, \'es
$I(\nu_{\Cal D}\|\mu_{\Cal D})=
\summ_{l=1}^k\log\frac{\nu(\bold D_l)}{\mu(\bold D_l)} \nu(\bold D_l)$ 
ezen vet\"uletm\'ert\'ekek $I$-divergenci\'aja.
A $I(\nu_{\Cal D}\|\mu_{\Cal D})$ f\"uggv\'eny r\"ogz\'{\i}tett $\mu$
m\'ert\'ekkel mint a $\nu$ m\'ert\'ek f\"uggv\'enye alulr\'ol 
f\'elig folytonos a $\tau$ topol\'ogia szerint. Ugyanis azon
$\nu$ m\'ert\'ekek halmaza, amelyekre
$I(\nu_{\Cal D}\|\mu_{\Cal D})=\infty$ ny\'{\i}lt halmaz, (megegyezik
azon $\nu$ m\'ert\'ekek halmaz\'aval, amelyekre l\'etezik a $\Cal D$ 
partici\'onak olyan $\bold D_j$ eleme, amelyre $\mu(\bold D_j)=0$, 
\'es $\nu(\bold D_j)>0$),), a komplementer z\'art halmazon pedig 
folytonos. Viszont a 14. feladat eredm\'enye alapj\'an
v\'alaszthatunk $\Cal D_n$ partici\'oknak olyan sorozat\'at,
amelyekre $\limm_{n\to\infty}I(\nu_{\Cal D_n}\|\mu_{\Cal D_n})=
\supp_n I(\nu_{\Cal D_n}\|\mu_{\Cal D_n})= I(\nu_{\Cal D}\|\mu_{\Cal D})$. 
Mivel alulr\'ol f\'elig folytonos f\"uggv\'enyek
szupr\'emuma alulr\'ol f\'elig folytonos, innen k\"o\-vet\-ke\-zik 
a feladat els\H{o} \'all\'{\i}t\'asa.

\item{} A feladat m\'asodik \'all\'{\i}t\'as\'anak 
bizony\'{\i}t\'asa \'erdek\'eben vegy\"uk a sz\'amegyenes olyan 
intervallumokb\'ol \'es f\'elegyenesekb\H{o}l \'all\'o  
$\Cal D_n=\{\bold D_{1,n},\dots,\bold D_{k(n),n}\}$ n\"ovekv\H{o} 
v\'eges partici\'ob\'ol \'all\'o sorozat\'at, $n=1,2,\dots$, 
amelyre a $\bigcup \Cal D_n$ halmazrendszer gener\'alja a $\Cal B$ 
Borel $\sigma$-algebr\'at. Ekkor alkalmazva az els\H{o} r\'esz 
bizony\'{\i}t\'as\'at az $I(\nu_{\Cal D_n}\|\mu_{\Cal D_n})$,  
$n=1,2,\dots$, $I$-divergenci\'ak sorozat\'ara a 14. feladat 
eredm\'eny\'enek seg\'{\i}ts\'eg\'evel $n\to\infty$ 
hat\'ar\'atmenettel megkapjuk a k\'{\i}v\'ant \'all\'{\i}t\'ast.


\item{19.)} Tekints\"unk egy olyan $\nu\in \bold G$ m\'ert\'eket,
amelyre $I(\nu\|\mu)\le\inff_{\chi\in \bold G}I(\chi\|\mu)+\e$, \'es
te\-kint\-s\"uk ennek olyan $\bold U$ k\"ornyezet\'et, amelyre $\bold
U\subset\bold G$, \'es $\bold U$ a k\"ovetkez\H{o} alak\'u: $\bold
U=\{\chi\colon\;\chi\in X, |\chi(\BB_1)-\nu(\BB_l)|<\e, \;l=1,2,\dots,k\}$
alkalmas $\e>0$ sz\'ammal \'es $\Cal B=\{\BB_1,\dots,\BB_l\}$ az $Y$
t\'er alkalmas partici\'oja. Tekints\"uk a $\mu$ \'es $\nu$ m\'ert\'ekek
vet\"ulet\'et ezekre a partici\'okra. Jel\"olj\"uk ezeket $\mu_{\Cal B}$
\'es $\nu_{\Cal B}$-vel, \'es vizsg\'aljuk ezek $I$-divergenci\'aj\'at.
A 12. feladat eredm\'enye alapj\'an
$I(\nu_{\Cal B}\|\mu_{\Cal B})=\summ_{l=1}^p \log
\frac{\nu(\bold B_l)}{\mu(\bold B_l)}\nu(\bold B_l)\le I(\nu\|\mu)$.
Ez\'ert a 11. feladat eredm\'eny\'et felhaszn\'alva kapjuk, hogy
$I(\nu_{\Cal B}\|\mu_{\Cal B})\le\inff_{\chi\in\bold
G} I(\chi\|\mu)+\e$, \'es $\mu_n(\bold G)\ge\mu_n(\bold U)\ge
e^{-n(I(\nu_{\Cal B}\|\mu_{\Cal B})-C\e)}$, alkalmas $>0$
sz\'ammal, ha $n\ge n(\e)$. Ez\'ert
$$
\mu_n(\bold G)\ge \inff_{\chi\in\bold G}
e^{-n(I(\chi\|\mu)-\e-C\e)},\quad\text{ha }n\ge n(\e),
$$
Innen k\"ovetkezik a feladat \'all\'{\i}t\'asa.

\item{20.)} A feladat \'all\'{\i}t\'asa kapcsol\'odik a
funkcion\'alanal\'{\i}zis egyik klasszikus eredm\'eny\'ehez, amely
szerint egy Banach t\'er du\'alis ter\'enek  z\'art egys\'egg\"ombje a
gyenge to\-po\-l\'o\-gi\'a\-ban kompakt. Term\'eszetesebbnek 
t\H{u}nik viszont e
t\'etelre val\'o hivatkoz\'as helyett a bizony\'{\i}t\'as m\'odszer\'et
adapt\'alni. Ez a Tyihonov t\'etel alkalmaz\'asa, a topol\'ogikus t\'er
ter\-m\'e\-sze\-tes be\'agyaz\'asa a $[0,1]$ intervallum (a szok\'asos
topol\'ogi\'aval) nagy sz\'a\-mos\-s\'a\-g\'u p\'el\-d\'a\-ny\'a\-nak
direkt szorzat\'aba. Ez ut\'obbi t\'er kompakt a Tyihonov t\'etel
szerint.

\item{} Tekints\"unk az $(Y,\Cal B)$ minden m\'erhet\H{o} $\BB\subset
\Cal B$ r\'eszhalmaz\'ara egy $(Z_{\BB}, \Cal C_{\BB})$ teret, amely
a $[0,1]$ intervallum a szok\'asos topol\'ogi\'aval. Legyen ezek
direkt szorzata a szorzattopol\'ogi\'aval $(\bold Z,\Cal
C)=\prodd_{\BB\in \Cal B}(Z_{\BB},\Cal C_{\BB})$.  A $\bold Z$
t\'er felfoghat\'o mint azokb\'ol a f\"uggv\'enyekb\H{o}l \'all\'o
halmaz, amelyek az $Y$ t\'er $\Cal B$ m\'erhet\H{o} halmazait k\'epezik
le a $[0,1]$ intervallumra. A $\Cal C$ topol\'ogia ny\'{\i}lt
halmazait pedig ezen a t\'eren a $\{z_{\BB_1}\in \bold
G_1,\dots,z_{\BB_k}\in\bold G_k\}$ halmazok gener\'alj\'ak, ahol
$k=1,2,\dots,$, $\BB_1,\dots,\BB_k$ az $Y$ halmaz m\'erhet\H{o}
halmazai, $\bold G_1,\dots,\bold G_k$ pedig a $[0,1]$ intervallum ny\'{\i}lt
r\'eszhalmazai. Vegy\"uk \'eszre, hogy $X\subset \bold Z$, \'es az $X$
t\'eren bevezetett $\Cal X$ $\tau$ topol\'ogia a $\bold Z$ t\'eren
defini\'alt $\Cal C$ topol\'ogia megszor\'{\i}t\'asa az $X$ t\'erre.
\'Igy az $(X,\Cal X)$ teret be\'agyaztuk egy kompakt topol\'ogikus
t\'erbe. Tudjuk, hogy egy kompakt halmaz z\'art r\'eszhalmazai szint\'en
kompaktak. Ezenk\'{\i}v\"ul azt is tudjuk (a 18. feladat eredm\'enye),
hogy minden $\mu\in X$-re az $I(\cdot\|\mu)$ $I$-divergencia alulr\'ol
f\'elig folytonos f\"uggv\'eny az $(X,\Cal X)$ t\'eren. Egy alulr\'ol
f\'elig folytonos $I(\cdot)$ f\"uggv\'eny $\{x\colon\; I(x)\le R\}$ tipus\'u
n\'{\i}v\'ohalmazai z\'artak. Ezen t\'enyek alapj\'an pr\'ob\'aljuk
meg bebizony\'{\i}tani a feladat \'all\'{\i}t\'as\'at. A probl\'em\'at
az okozza, hogy az $I$-divergencia a $(\bold Z,\Cal C)$ kompakt 
t\'ernek csak az $X$
r\'eszhalmaz\'an van \'ertelmezve, \'es ennek topol\'ogiai
tulajdons\'agair\'ol semmit sem tudunk. E neh\'ezs\'egen \'ugy
seg\'{\i}t\"unk, hogy az $X$ teret be\'agyazzuk a $\bold Z$ t\'er egy
$\bold Z_0$ z\'art r\'eszhalmaz\'aba (ez a $\bold Z_0$ halmaz
val\'oj\'aban az $X$ t\'er lez\'artja, de erre a t\'enyre nincs
sz\"uks\'eg\"unk), \'es az $I$-divergencia f\"uggv\'enyt
kiterjesztj\"uk az $X$ halmazr\'ol a kompakt $\bold Z_0$ halmazra
\'ugy, hogy a kiterjesztett f\"uggv\'eny is alulr\'ol f\'elig
folytonos. R\'aad\'asul a kiterjesztett f\"uggv\'eny \'ert\'eke a
$\bold Z_0\setminus X$ halmazon $\infty$. E t\'enyek
seg\'{\i}ts\'eg\'evel nem lesz neh\'ez bizony\'{\i}tani a feladat
\'all\'{\i}t\'as\'at.

\item{} Defini\'aljuk a $\bold Z_0\subset \bold Z$ halmazt mint a
k\"ovetkez\H{o} metszetet: $\bold Z_0=\bigcapp_{\Cal U} \bold Z_{\Cal
U}$, ahol az $\Cal U$ indexhalmaz jel\"oli az $Y$ halmaz \"osszes
v\'eges partici\'oj\'at m\'erhet\H{o} halmazokra, \'es az $Y$ t\'er egy
$\Cal U=\{\BB_1,\dots,\BB_k\}$, $\BB_l\in \Cal B$, $l=1,\dots, k$
v\'eges partici\'oj\'ara legyen
$$
\bold Z_{\Cal U}=\left\{z\colon\; z\in \bold Z,\;\summ_{l=1}^k z_{\bold
B_l}=1\right\}.
$$
Ekkor $\bold Z_0$ a $\bold Z$ halmaz z\'art r\'eszhalmaza, mivel
a z\'art $\bold Z_{\Cal U}$ halmazok metszete. A $\bold Z_0$ halmaz az
$(Y,\Cal B)$ t\'er m\'erhet\H{o} halmazain \'ertelmezett v\'egesen
additiv nem negat\'{\i}v \'ert\'ek\H{u} 1-re norm\'alt
halmazf\"uggv\'enyeib\H{o}l \'all, ez\'ert $X\subset \bold Z_0$.
\item{} Az $I$-divergencia kiterjeszt\'es\'enek \'es
tulajdons\'againak bizony\'{\i}t\'asa \'erdek\'eben jegyezz\"uk meg,
hogy ha $\nu$ \'es $\mu$ k\'et val\'osz\'{\i}n\H{u}s\'egi m\'ert\'ek,
akkor
$$
I(\nu\|\mu)=\sup_{\Cal U} I(\nu_{\Cal
U}\|\mu_{\Cal U})=\supp_{\{\BB_1,\dots,\BB_k\}}\summ_{l=1}^k\log
\frac{\nu(\BB_l)}{\mu(\BB_l)}\nu(\BB_l), \quad\Cal
U=\{\BB_1,\dots,\BB_k\}
$$
ahol a szupr\'emum az $Y$ t\'er $\Cal U=\{\BB_1,\dots,\BB_l\}$ v\'eges
(m\'erhet\H{o}) partici\'oj\'ara v\'etetik. (Ez k\"ovetkezik a 12.
feladat eredm\'eny\'eb\H{o}l.) Defini\'aljuk az $I(\nu\|\mu)$
f\"uggv\'enyt (r\"ogz\'{\i}tett $\mu$ m\'ert\'ekkel) minden $\nu\in
\bold Z_0$-re, azaz akkor is, ha $\nu$ addit\'{\i}v, de nem
$\sigma$-addit\'{\i}v halmazf\"uggv\'eny az el\H{o}bb fel\'{\i}rt
szupr\'emum seg\'{\i}ts\'eg\'evel. Ekkor $I(\cdot\|\mu)$ alulr\'ol
f\'elig folytonos, mert alulr\'ol f\'elig folytonos f\"uggv\'enyek
szupr\'emuma. Be\-l\'at\-juk, hogy az \'{\i}gy kiterjesztett
$I$-divergenci\'ara $I(\nu\|\mu)=\infty$, ha $\nu\in \bold Z_0\setminus
X$ (\'es $\mu\in X$). Ugyanis az, hogy a pozit\'{\i}v \'ert\'ek\H{u},
addit\'{\i}v $\mu$ halmazf\"uggv\'eny $\sigma$-addit\'{\i}v azzal
ekvivalens, hogy  tetsz\H{o}leges $\bold B_n\in \Cal B$
halmazsorozatra, amelyre $\BB_n\supset \BB_{n+1}$, $n=1,2,\dots$,
\'es $\bigcapp_{n=1}^\infty \BB_n=\emptyset$,
$\limm_{n\to\infty}\mu(\BB_n)=0$. Mivel $\mu\in X$, \'es $\nu\in \bold
Z_0\setminus X$, l\'etezik olyan lesz\'all\'o $\BB_n\in \Cal B$ az
\"ures halmazhoz tart\'o $\BB_n$ halmazsorozat, amelyre
$\limm_{n\to\infty}\mu(\BB_n)=0$ \'es
$\limm_{n\to\infty}\nu(\BB_n)=\alpha>0$. Ez\'ert tekintve az $\Cal
U_n=\{\BB_n,Y\setminus\BB_n\}$ partici\'okat
$I(\nu\|\mu)\ge\limm_{n\to\infty}I(\nu_{\Cal U_n}\|\mu_{\Cal
U_n})=\infty$.

\item{} A fentiek alapj\'an k\"onnyen bizony\'{\i}that\'o a feladat
\'all\'{\i}t\'asa.  Tudjuk, hogy $\bold Z_0$ a $(\bold Z,\Cal C)$ 
t\'er z\'art r\'esz\-hal\-ma\-za, \'es a $\bold Z_0$-ra 
kiterjesztett $I(\cdot\|\mu)$ halmaz alulr\'ol f\'elig folytonos 
a $(\bold Z_0,\Cal C_0)$ t\'eren, ahol $\Cal C_0$ a $\Cal C$ 
topol\'ogia megszor\'{\i}t\'asa a $\Cal Z_0$  halmazra. Ez\'ert az 
$\A(R)=\{\nu\colon\; \nu\in \bold Z_0,\,I(\nu\|\mu)\le R\}$ halmaz 
a $(\bold Z_0,\Cal C_0)$ t\'er z\'art, k\"ovetkez\'esk\'epp kompakt 
r\'eszhalmaza minden $0\le R<\infty$ sz\'amra. Viszont 
$\A(R)\subset X$. Ez\'ert $\A(R)=A(R)\cap X$ nemcsak a 
$(\bold Z_0,\Cal C_0)$ t\'eren, hanem annak megszor\'{\i}t\'as\'an, 
az $(X,\Cal X)$ t\'eren is kompakt.

\item{21.)} Mint az el\H{o}z\H{o} feladatban l\'attuk, az $(X,\Cal X)$
t\'er be\'agyazhat\'o egy kompakt $T_2$  t\'erbe. (A $[0,1]$ t\'er
\"onmag\'aval vett nagy p\'eld\'anysz\'am\'u direkt szorzat\'aba.) A
topol\'ogia standard eredm\'enyei alapj\'an egy kompakt $T_2$ t\'er
$T_4$ t\'er. (Tetsz\H{o}leges k\'et diszjunkt z\'art halmaznak l\'etezik
diszjunkt ny\'{\i}lt k\"ornyezete.) Egy $T_4$ t\'er egyben $T_\rho$
t\'er, \'es annak tetsz\H{o}leges altere, teh\'at p\'eld\'aul az
$(X,\Cal X)$ t\'er is $T_\rho$ t\'er.

\item{22.)} R\"ogz\'{\i}ts\"unk egy $L=L(\e)>\inff_{\nu\in\bold K}I(\nu)-\e$
sz\'amot, ha ez az infimum v\'eges, \'es $L=L(\e)=\frac1\e$, ha
ez az infimum v\'egtelen. V\'alasszunk minden $\nu\in\bold K$ 
m\'ert\'eknek egy olyan $\bold G(\nu,\e)$ ny\'{\i}lt
k\"or\-nye\-ze\-t\'et, amelyre $\liminff_{n\to\infty}-\frac1n\log
\bold Q_n(\bold G(\nu,\e))>L-\e$. Ezen halmazok lefedik a $\bold K$ 
halmazt.
Vegy\"uk a $\bold K$ halmaznak egy ilyen halmazokb\'ol \'all\'o v\'eges
$\bold G_1=\bold G (\nu_1,\e)$,\dots, $\bold G_m=\bold G(\nu_m,\e)$ 
fed\'es\'et. Ekkor el\'eg nagy $n$ indexre
$$
\bold Q_n(\bold K)\le \summ_{l=1}^m\bold Q_n(\bold G_l)\le
\const\supp_{1\le k\le m} e^{-n(L-\e)}
\le \const \supp_{\nu\in\bold K}e^{-n(I(\nu)-2\e)}.
$$
Innen k\"ovetkezik a (iii$'$) tulajdons\'ag.

\item{} L\'assuk be, hogy az $I(\cdot\|\mu)$ f\"uggv\'eny \'es a
$Q_n=\mu^{(n)}$ m\'ert\'ekek, ahol $\mu^{(n)}$ a $\mu_n$ empirikus
m\'ert\'ek eloszl\'asa, teljes\'{\i}tik a feladat felt\'eteleit. 
Te\-kint\-s\"uk az $Y$ t\'er egy alkalmas v\'eges 
$\Cal C=\{\bold C_1,\dots,\bold C_k\}$ partici\'oj\'at, vegy\"unk  
egy kis $\delta>0$ sz\'amot, \'es defini\'aljuk egy $\nu\in X$  
pont alkalmas ny\'{\i}lt k\"ornyezet\'et a k\"ovetkez\H{o} 
m\'odon: $\bold G(\nu,\e)=\{\chi\colon\; \chi\in X,
|\chi(\bold C_j)-\nu(\bold C_j)|<\delta,\;j=1,\dots k\}$,
$\delta=\delta(\e)$. A 12. fel\-adat eredm\'enye alapj\'an
alkalmas $\Cal C$ partici\'o v\'alaszt\'as\'aval
el\'erhet\H{o}, hogy az $I(\nu_{\Cal C}\|\mu_{\Cal C})\ge
I(\nu\|\mu)-\frac \e2$ ha $I(\nu\|\mu)<\infty$, \'es $I(\nu_{\Cal
C}\|\mu_{\Cal C})>\frac1\e$, ha $I\nu\|\mu)=\infty$
egyenl\H{o}tlens\'egek teljes\"uljenek. M\'asr\'eszt
a 11. fel\-adat\-ban bizony\'{\i}tott (3) egyenl\H{o}tlens\'eg
jobb\-ol\-da\-la alapj\'an $\bold Q_n(\bold G(\nu,\e))
<e^{-n(I(\nu_{\Cal C}\|\mu_{\Cal C})-\e/2)}$, ha a
$\delta=\delta(\e)>0$ sz\'amot el\'eg kicsinek v\'alasztjuk, \'es
$n\ge n(\delta)$. (Jelen esetben a (3) formul\'at\'ol elt\'er\H{o}
jel\"ol\'est haszn\'alunk. A $\bold Q_n(\bold G(\nu,\e))$ kifejez\'es
j\'atssza a (3) formul\'aban szerepl\H{o} $\mu^{(n)}(\cdot)$
val\'osz\'{\i}n\H{u}s\'eg sze\-re\-p\'et, \'es ott $\delta=\delta(\e)$-t
\'{\i}runk $\e$ helyett. Tov\'abb\'a a $\mu^{(n)}(\cdot)$
val\'osz\'{\i}n\H{u}s\'egre a (3)~for\-mu\-l\'a\-ban adott fels\H{o}
becsl\'es a mostani jel\"ol\'esben a $e^{-nI(\nu\|\mu)-nC(\delta)}$
kifejez\'essel egyenl\H{o}.) Ez\'ert
$\liminff_{n\to\infty}-\frac1n\log \bold Q_n(\bold G(\nu,\e))\ge
I(\nu\|\mu)-\e$, ha $I(\nu\|\mu)<\infty$, \'es na\-gyobb mint
$\frac1\e$, ha $I(\nu\|\mu)=\infty$.

\item{23.)} Tetsz\H{o}leges $\Cal C\in \Cal C^*$-ra, $\e\ge0$-ra
$$
\mu^{(n)}(\mu_n\in \bold F)\le \mu^{(n)}\({\mu_n}_{\Cal C}\in \bold
F_{\Cal C}\)\le \mu^{(n)}\({\mu_n}_{\Cal C}\in\[\bold F_{\Cal C}\]\)
\le\sup_{\nu\in \[\bold F_{\Cal C}\]} e^{-n(I(\nu_{\Cal C}\|\mu_{\Cal
C})-\e)},
$$
ha $n>n(\e,\Cal C)$. Ez p\'eld\'aul k\"ovetkezik a 22. feladat
eredm\'eny\'eb\H{o}l, \'es abb\'ol a t\'enyb\H{o}l, hogy 
$\[\bold F_{\Cal C}\]$ kompakt halmaz az $(X_{\Cal C},\Cal A_{\Cal C})$ 
t\'eren. Itt felhaszn\'altuk, hogy egy v\'eges halmazon defini\'alt
val\'osz\'{\i}n\H{u}s\'egi m\'ert\'ekeknek egy a $\tau$ topol\'ogia szerint
z\'art r\'eszhalmaza egyben kompakt is ezen topol\'ogia szerint.
(Egy\'ebk\'ent ez az egyen\-l\H{o}t\-len\-s\'eg elemien is 
levezethet\H{o}.) Innen logaritmust v\'eve kapjuk, hogy
$$
\liminf_{n\to\infty}-\frac1n \log\mu^{(n)}(\mu_n\in \bold F)\ge
\inf_{\nu\in \[\bold F_{\Cal C}\]} I\(\nu_{\Cal C}\|\mu_{\Cal C}\).
$$
Szupr\'emumot v\'eve $\Cal C\in \Cal C^*$-re kapjuk a k\'{\i}v\'ant
\'all\'{\i}t\'ast.

\item{24.)} Tekints\"unk egy $L> \supp_{\Cal C\in\Cal
C^*}\inff_{\nu_{\Cal C}\in \[\bold F_{\Cal C}\]}I\(\nu_{\Cal C}
\|\mu_{\Cal C}\)$ sz\'amot. A (4) formul\'aban szerepl\H{o}
egyenl\H{o}tlens\'eg bizony\'{\i}t\'as\'ahoz azt kell bel\'atni, 
hogy ez az $L$ sz\'am fels\H{o} becsl\'es az egyenl\H{o}tlens\'eg
jobboldal\'an szerepl\H{o} kifejez\'esre is. Ennek \'erdek\'eben 
el\H{o}sz\"or l\'assuk be azt, hogy l\'etezik olyan 
$\nu\in (X,\Cal A)$ m\'ert\'ek, amelyre 
$\nu_{\Cal C}\in\[\bold F_{\Cal C}\]$ minden $\Cal C\in \Cal C^*$
v\'eges partici\'ora, \'es $I(\nu\|\mu)\le L$. Viszont nem 
\'all\'{\i}tjuk, --- legal\'abbis egyel\H{o}re, --- hogy a 
$\nu\in\bold F$ rel\'aci\'o is teljes\"ul.

\item{} A $\bold D_{\Cal C}=\left\{\nu\colon\; \nu\in X,\; 
\nu_{\Cal C}\in\[\bold F_{\Cal C}\],\; I(\nu \|\mu)\le L\right\}$ 
halmaz kompakt minden $\Cal C\in\Cal C^*$ v\'eges partici\'ora, 
mivel a 20. feladat alapj\'an egy kompakt \'es egy z\'art 
halmaz metszete. (A 
$\{\nu\colon\;\nu\in X, \nu_{\Cal C}\in \[\bold F_{\Cal C}\]\}$ 
halmaz z\'art. Ez k\"ovetkezik abb\'ol, hogy a $\nu\to\nu_{\Cal C}$ 
lek\'epez\'es folytonos.) Tov\'abb\'a a $\bold D_{\Cal C}$ halmaz 
nem \"ures, mivel l\'etezik olyan $\nu_{\Cal C}\in \[\bold F_{\Cal C}\]$
m\'ert\'ek, amelyre $I(\nu_{\Cal C}\|\mu_{\Cal C})\le
L$, \'es arra a $\nu\in X$ m\'ert\'ekre, amelyet a $\nu(\bold
D)=\frac{\mu(\bold D)}{\mu(\bold C_l)}\nu_{\Cal C}(x_l)$,
$l=1,\dots,k$, k\'eplet defini\'al, ha $\bold D\subset \bold C_l$,
ahol $\Cal C=\{\bold C_1,\dots,\bold C_k\}$, \'es $x_l$ a 
$\bold C_l$-hez rendelt pont, 
$I(\nu\|\mu)=I(\nu_{\Cal C}\|\mu_{\Cal C})\le L$. A 
$I(\nu\|\mu)=I(\nu_{\Cal C}\|\mu_{\Cal C})$ azonoss\'ag az\'ert igaz,
mert $\frac{d\nu}{d\mu}(y)=\frac{\nu(\bold C_j)}{\mu(\bold C_j)}$
minden $y\in\bold C_j$ pontban. 
Tov\'abb\'a az \'{\i}gy defini\'alt $\nu$ m\'ert\'ek ,,vet\"ulete"
a $\Cal C$ partici\'ora a fenti $\nu_{\Cal C}$ m\'ert\'ek, amely
eleme az $\[\bold F_{\Cal C}\]$ halmaznak. Azt akarjuk bel\'atni, hogy
$\bigcapp_{\Cal C\in \Cal C^*} \bold D_{\Cal C}\neq \emptyset$. A
$\bold D_{\Cal C}$ halmazok kompakts\'aga miatt el\'eg azt bel\'atni,
hogy v\'eges sok $\bold D_{\Cal C_1}$,\dots, $\bold D_{\Cal C_p}$
halmaz metszete nem \"ures. Legyen $\bar {\Cal C}$ olyan v\'eges
partici\'o, amely finomabb mint a $\Cal C_1,\dots,\Cal C_p$ partici\'ok
mindegyike, \'es legyen $\nu\in\bold D_{\bar{\Cal C}}$. Azt
\'all\'{\i}tjuk, hogy ekkor $\nu\in\bold D_{\Cal C_l}$ minden
$l=1,\dots,p$-re. Ehhez azt kell bel\'atni, hogy mivel $\Cal C_l$
durv\'{\i}t\'asa a $\bar {\Cal C}$ partici\'onak, ha $\nu_{\bar{\Cal
C}}\in\[\bold F_{\bar{\Cal C}}\]$, akkor $\nu_{\Cal C_l}\in\[\bold
F_{\Cal C_l}\]$. Ez ut\'obbi \'all\'{\i}t\'as bizony\'{\i}t\'asa
\'erdek\'eben vegy\"uk \'eszre, hogy ha $\nu_{\bar{\Cal C}}\in\[\bold
F_{\bar{\Cal C}}\]$, akkor l\'etezik olyan $\nu^{(n)}\in X$,
$n=1,2,\dots$, m\'ert\'eksorozat, amelyre $\nu^{(n)}_{\bar{\Cal C}}
\in \bold F_{\bar{\Cal C}}$, azaz $\nu^{(n)}_{\bar{\Cal C}}$ eleme a
$\bold F_{\bar{\Cal C}}$ halmaznak \'es nemcsak annak lez\'artj\'anak,
\'es $\limm_{n\to\infty}\nu^{(n)}_{\bar{\Cal C}}(x_m)
=\nu_{\bar{\Cal C}}(x_m)$ minden $m=1,\dots,p$-re, ahol 
$\bar{\Cal C}=\{\bar{\bold C}_1,\dots,\bar{\bold C}_p\}$, \'es $x_m$ 
a $\bar{\bold C}_m$ halmazhoz
rendelt pont. Mivel a $\Cal C_l$ partici\'o elemei ilyen (diszjunkt)
$\bar{\bold C}_m$ halmazok uni\'oi, innen k\"ovetkezik, hogy
$\nu^{(n)}_{\Cal C_l}\in \bold F_{\Cal C_l}$, \'es
$\limm_{n\to\infty}\nu^{(n)}_{\Cal C_l}=\nu_{\Cal C_l}$. Ez\'ert
$\nu_{\Cal C_l}\in\[\bold F_{\Cal C_l}\]$.

\item{} Legyen $\nu\in \bold D_{\Cal C}$ minden $\Cal C\in \Cal C^*$
partici\'ora. Ekkor, mivel $\nu_{\Cal C}\in\[\bold F_{\Cal C}\]$ minden 
$\Cal C\in \Cal C^*$ partici\'ora, \'es $\bold F$ z\'art halmaz, 
ez\'ert $\nu\in \bold F$. Val\'oban, ha $\nu\notin \bold F$ lenne, 
akkor mint a 17. feladat megold\'as\'aban, az $(X,\Cal X)$ t\'er 
$T_3$ tulajdons\'ag\'anak bizony\'{\i}t\'as\'aban l\'attuk, l\'etezne 
olyan $\Cal C=\{\bold C_1,\dots,\bold C_k\}\in\Cal C^*$ partici\'o, 
\'es $\e>0$ sz\'am, amelyekre az 
$\bold U=\{\chi\colon\;\chi\in X,\,|\chi(\bold C_l)-\nu(\bold C_l)|
<\e\text { minden }1\le l\le k\text{-ra}\}$ halmaz a $\nu\in X$ 
pontnak, a $\bold V=\{\chi\colon\;\chi\in X,\,|\chi(\bold C_l)
-\nu(\bold C_l)|>2\e\text { valamely }1\le l\le k\text{-ra}\}$
halmaz az $\bold F$ z\'art halmaznak a ny\'{\i}lt k\"ornyezete, \'es
$\bold U\cap\bold V=\emptyset$. Ez viszont ellentmond 
annak, hogy $\nu_{\Cal C}\in \[\bold F_{\Cal C}\]$ 
a $\Cal C=\{\bold C_1,\dots,\bold C_k\}$ partici\'oval. 
 
\item{}A bizony\'{\i}tand\'o egyenl\H{o}tlens\'eg jobboldal\'an
szerepl\H{o} kifejez\'es fel\"ulr\H{o}l becs\"ulhet\H{o} a 
$\supp_{\Cal C\in \Cal C^*}I\(\nu_{\Cal C}\|\mu_{\Cal C}\)$ mennyis\'eggel, 
ahol egy olyan alkalmasan v\'alasztott  $\nu\in \bold F$ 
m\'ert\'eket vesz\"unk, amelyre $\nu\in \bold D_{\Cal C}$ minden
 $\Cal C\in \Cal C^*$ partici\'ora. Mivel erre a $\nu$ m\'ert\'ekre 
$\supp_{\Cal C\in \Cal C^*}I\(\nu_{\Cal C}\|\mu_{\Cal C}\)\le 
I(\nu\|\mu)\le L$  minden $\Cal C\in \Cal C^*$ partici\'ora, 
innen k\"ovetkezik a (4) formul\'aban fel\'{\i}rt 
egyen\-l\H{o}t\-len\-s\'eg. V\'eg\"ul a (4) formul\'aban 
fel\'{\i}rt azonoss\'ag a 12.~feladat k\"ovetkezm\'enye.

\item{} A 23. feladat eredm\'eny\'eb\H{o}l  \'es a 24. feladatban 
m\'ar bebizony\'{\i}tott (4) formul\'aj\'ab\'ol k\"ovetkezik a  
nagy elt\'er\'es t\'etel iii.) tulajdons\'aga a Szanov t\'etel
felt\'eteleinek teljes\"ul\'ese eset\'en.

\item{25.)} Mutassuk meg el\H{o}sz\"or azt, hogy a feladatban 
defini\'alt $\bold F$ halmaz z\'art, azaz, ha  $\nu\notin \bold F$, 
akkor l\'etezik a $\nu$ pontnak
olyan $\bold U(\nu)$ k\"ornyezete, amelyre $\bold U(\nu)\cap \bold
F=\emptyset$.  Minden  $\nu\in X$ m\'ert\'ekre l\'etezik olyan 
$\e>0$ sz\'am, amelyre
$\nu(\{(0,\e)\})\le\frac13$. Ez\'ert az $\bold F$ halmaz \'es a $\nu\in
X$ pont $\bold U_1(\nu)=\left\{\chi\colon\;
\left|\chi(\{(0,\e)\})-\nu(\{(0,\e)\})\right|<\frac13\right\}$
k\"ornyezet\'enek a metszete v\'eges. Legyen $N=[\e^{-1}]$,
ahol $[\cdot]$ eg\'esz r\'eszt jelent. Ekkor $k>N$ indexre
$\nu_k\notin\bold U_1(\nu)$. Ha $\nu\notin F$ akkor v\'alasszunk 
minden $k\le N$ indexre olyan $\e_k>0$ sz\'amot, amelyre vagy
$\left|\nu\(\left\{\frac1k\right\}\)-
\nu_k\(\left\{\frac1k\right\}\)\right|>\e_k$ vagy
$\left|\nu\(\left\{\frac34\right\}\)-
\nu_k\(\left\{\frac34\right\}\)\right|>\e_k$. Mivel $\nu\neq\nu_k$, ez
lehets\'eges. Legyen $\e=\min\limits_{k\le N}\e_k$, \'es defini\'aljuk
az
$$  \allowdisplaybreaks
\align
U_2(\nu)&=\left\{\chi\colon\; \left|\chi\(\left\{k^{-1}\right\}\)-
\nu\(\left\{k^{-1}\right\}\)\right|>\e,\;\text {ha }k\le N\right\}
\intertext {\quad \  \  \   \'es}
U_3(\nu)&=\left\{\chi\colon\;\left|\chi\(\left\{\frac34\right\}\)-
\nu\(\left\{\frac34\right\}\)\right|>\e\right\}
\endalign
$$
halmazokat. Ekkor az $U(\nu)=U_1(\nu)\cap U_2(\nu)\cap U_3(\nu)$ halmaz
a $\nu$ m\'ert\'eknek az $\bold F$ halmazt\'ol diszjunkt k\"ornyezete.
Teh\'at az $\bold F$ halmaz z\'art.

\item{} Az $\bold F_{\Cal C}$ halmaz a k\"ovetkez\H{o} $\bar \nu_k$
m\'ert\'ekekb\H{o}l \'all: $\bar\nu_k(\{x_1\})=1-\frac1k$,
$\bar\nu_k(\{x_2\})=\frac1k$. Ezek a m\'ert\'ekek konverg\'alnak 
ahhoz a $\bar\nu$ m\'ert\'ekhez, amelyre $\bar\nu(\{x_1\})=1$, 
\'es ez nem szerepel a $\bar\nu_k$ m\'ert\'ekek k\"oz\"ott. 
Innen k\"ovetkezik, hogy az $\bold F_{\Cal C}$ halmaz nem z\'art.

\item{26.)} Tetsz\H{o}leges $y_1,\dots, y_k$, $y_j\in Y$, $j=1,\dots,k$
pontokra, $1\le k\le n$, \'es $j_1,\dots,j_k$, $\summ_{p=1}^k j_p=n$,
pozit\'{\i}v eg\'esz sz\'amokra defini\'aljuk a
$$
\align
\bold G(y_1,\dots,y_k,j_1,\dots,j_k)&=\bold
G(y_1,\dots,y_k,j_1,\dots,j_k,n)\\
&=\left\{\mu\colon\; \mu\in X, \;
\left|\mu(\{y_p\})-\frac{j_p}n\right|<\frac1n\right\}
\endalign
$$
halmazokat. Adva egy $\BB\subset Y$ halmaz, defini\'aljuk a
$$
\bold G=\bigcup_{k=1}^n\bigcupp_{((y_1,\dots,y_k),(j_1,\dots,j_k))\colon\;
y_l\in \BB,\;1\le l\le k} 
\bold G(y_1,\dots,y_k,j_1,\dots,j_k)
$$
halmazt. Ez a halmaz ny\'{\i}lt, mert minden $\bold
G(y_1,\dots,y_k,j_1,\dots,j_k)$ halmaz ny\'{\i}lt.
Tov\'abb\'a a $\xi_1,\dots,\xi_n$ minta \'altal meghat\'arozott $\mu_n$
empirikus m\'ert\'ekre, $\mu_n\in\bold G$ akkor \'es csak akkor, ha az
\"osszes $\xi_j$ val\'osz\'{\i}n\H{u}s\'egi v\'altoz\'o \'ert\'eke a
$\BB$ halmazban van. Ugyanis $\mu_n(\{y\})=\frac jn$, $0\le j\le n$
minden $y\in Y$-ra, \'es az \"osszes $\xi_j$ akkor \'es csak akkor esik
az $\A$ halmazba, ha az \'altala meghat\'arozott $\mu_n$ m\'ert\'ek
eleme valamelyik a $\bold G$ definici\'oj\'aban szerepl\H{o} $\bold
G(y_1,\dots,y_k,j_1,\dots,j_k)$ halmazban.

\item{} Legyenek $\xi_1,\cdots,\xi_n$ f\"uggetlen, a $[0,1]$
intervallumon egyenletes eloszl\'as\'u va\-l\'o\-sz\'{\i}\-n\H
u\-s\'e\-gi v\'altoz\'ok. Jel\"olje $\mu_n$ azt az empirikus
m\'ert\'eket, amelyet ezek a val\'osz\'{\i}n\H{u}s\'egi v\'altoz\'ok
hat\'aroznak meg. Legyen $\BB\subset [0,1]$ nem m\'erhet\H{o}, 0 bels\H
o \'es 1 k\"uls\H{o} m\'ert\'ek\H{u} halmaz. Ekkor az az esem\'eny, hogy
mindegyik $\xi_j$, $1\le j\le n$, val\'osz\'{\i}n\H{u}s\'egi v\'altoz\'o
ebbe a halmazba esik nem m\'erhet\H{o}, \'es ennek az esem\'enynek nincs
va\-l\'o\-sz\'{\i}\-n\H{u}\-s\'e\-ge. Viszont az el\H{o}bbi \'ervel\'esben
megmutattuk, hogy l\'etezik olyan  ny\'{\i}lt $\bold G$ halmaz a
val\'osz\'{\i}n\H{u}s\'egi m\'ert\'ekek ter\'en, amelyre ez az esem\'eny
megegyezik a $\{\mu_n\in\bold G\}$ esem\'ennyel.

\item{27.)} Az egyszer\H{u}s\'eg miatt tekints\"uk el\H{o}sz\"or csak 
az $I(\mu_G\|\mu_F)<\infty$ esetet. Mivel $I(\cdot\|\mu_F)$ alulr\'ol 
f\'elig folytonos f\"uggv\'eny a 18.~feladat eredm\'enye szerint, ez\'ert
$$
\bold H=\bold H(\eta)=\{\mu_H\colon\;I(\mu_H\|\mu_F)>I(\mu_G\|\mu_F)-\eta\}
$$ 
ny\'{\i}lt halmaz a val\'osz\'{\i}n\H{u}s\'egi m\'ert\'ekek
ter\'eben minden $\eta>0$ sz\'amra mind a $\tau$  mind a $\tau_0$ 
topol\'ogia szerint, \'es $\mu_G\in\bold H$. (Itt azt a jel\"ol\'est 
haszn\'altuk, hogy $\mu_H$ a $H$ eloszl\'asf\"uggv\'eny \'altal 
induk\'alt Stieltjes m\'ert\'ek a sz\'amegyenesen.) 

\item{} Bel\'atjuk, hogy alkalmas $\e_0=\e_0(\eta)>0$ k\"usz\"obindexre 
igaz, hogy minden $0<\e<\e_0$ sz\'amra l\'etezik olyan $\bold G_\e$ 
ny\'{\i}lt \'es $\bold F_\e$ z\'art halmaz, amelyekre 
$\mu_G\in \bold G_\e$, 
$\bold G_\e\subset \bold K_\e\subset\bold H(\eta)$, \'es 
$\bold K_\e\subset \bold F_\e \subset\bold H(\eta)$, ahol
$\bold K_\e=\{H\colon\; \supp_x|H(x)-G(x)|<\e\}$. (A $\bold K_\e$
halmaz definici\'oj\'aban azonos\'{\i}tottam a $H$ \'es $G$ 
eloszl\'asf\"uggv\'enyt az \'altaluk meghat\'arozott $\mu_H$ \'es 
$\mu_G$ Stieltjes m\'ert\'ekkel.) Innen k\"ovetkezik a fel\-adat 
\'all\'{\i}t\'asa. 

\item{} Ennek megmutat\'asa \'erdek\'eben vegy\"uk \'eszre, hogy
$\bold G_\e\subset \bold K_\e$ miatt 
$$
\limsup\limits_{n\to\infty}-\frac1n\log\mu^{(n)}(\bold G_\e)
\ge\limsup\limits_{n\to\infty}-\frac1n\log\mu^{(n)}(\bold K_\e),
$$
\'es $I(\mu_G\|\mu_F)\ge
\limsup\limits_{n\to\infty}-\frac1n\log\mu^{(n)}(\bold G_\e)$
a nagy elt\'er\'es t\'etel ii.) tulajdons\'aga \'es a 
$\mu_G\in\bold G_\e$ rel\'aci\'o miatt. Innen
$$
I(\mu_G\|\mu_F)\ge
\limsup\limits_{n\to\infty}-\frac1n\log\mu^{(n)}(\bold K_\e).
$$
Hasonl\'oan, $\bold K_\e\subset \bold F_\e$ miatt 
$$
\liminf\limits_{n\to\infty}-\frac1n\log\mu^{(n)}(\bold K_\e)
\ge\liminf\limits_{n\to\infty}-\frac1n\log\mu^{(n)}(\bold F_\e),
$$
\'es $I(\mu_G\|\mu_F)-\eta\le
\liminf\limits_{n\to\infty}-\frac1n\log\mu^{(n)}(\bold F_\e)$
a nagy elt\'er\'es t\'etel iii.) tulajdons\'aga \'es az
$\bold F_\e\subset\bold H(\eta)$ rel\'aci\'o miatt. Innen
$$
I(\mu_G\|\mu_F)-\eta\le
\liminf\limits_{n\to\infty}-\frac1n\log\mu^{(n)}(\bold K_\e).
$$
Teh\'at
$$
\align
I(\mu_G\|\mu_F)
&\ge \limsup\limits_{n\to\infty}-\frac1n\log\mu^{(n)}(\bold K_\e) \\
&\ge\liminf\limits_{n\to\infty}-\frac1n\log\mu^{(n)}(\bold K_\e)\ge
I(\mu_G\|\mu_F)-\eta.
\endalign
$$
Mivel $F_n\in\bold K_\e$ egy $F_n$ $n$-elem\H{u} empirikus 
eloszl\'asf\"uggv\'enyre akkor \'es csak akkor, ha $\supp_x|F_n(x)-G(x)|<\e$,
val\'oj\'aban azt l\'attuk be, hogy
$$
\align
I(\mu_G\|\mu_F)
&\ge \limsup\limits_{n\to\infty}-\frac1n\log P\(\supp_x|F_n(x)-G(x)|<\e\)\\
&\ge\liminf\limits_{n\to\infty}-\frac1n\log
P\(\supp_x|F_n(x)-G(x)|<\e\) \ge I(\mu_G\|\mu_F)-\eta.
\endalign
$$
Innen $\e\to0$ majd $\eta\to0$ hat\'ar\'atmenetet alkalmazva megkapjuk
a k\'{\i}v\'ant \'all\'{\i}t\'ast.

\item{} Be kell m\'eg l\'atnunk a felhaszn\'alt tartalmaz\'asi
tulajdons\'agokat. El\H{o}sz\"or azt mutatjuk meg, hogy 
$\bold K_\e\subset\bold H(\eta)$, ha $\e<\e_0(\eta)$. A 
bizony\'{\i}t\'asban azt haszn\'aljuk fel, hogy $\bold H(\eta)$
ny\'{\i}lt halmaz a $\tau_0$ topol\'ogi\'aban, \'es 
$\mu_G\in\bold H(\eta)$. Innen k\"ovetkezik, hogy l\'etezik olyan
$\bold S\subset\bold H(\eta)$, $\mu_G\in\bold S$ halmaz, amely
$\bold S=\bigcapp_j \{\mu_H\colon\; |\mu_H(B_j)-\mu_G(B_j)|<\bar\eta\}$,
alakban \'{\i}rhat\'o, ahol egy v\'eges metszetet vett\"unk, a 
metszetben szerepl\H{o} minden $B_j$ halmaz alkalmas 
intervallum vagy f\'elegyenes, \'es $\bar\eta>0$ el\'eg kis 
pozit\'{\i}v sz\'am. Itt azt haszn\'altuk ki, hogy milyen b\'azis
seg\'{\i}ts\'eg\'evel adtuk meg a $\tau_0$ topol\'ogi\'at.

\item{} Viszont k\"onnyen l\'athat\'o, hogy
$\{\mu_H\colon\;\supp_x|H(x)-G(x)|<\e\}\subset\bold S$, 
azaz, $\bold K_\e\subset\bold S\subset\bold H(\eta)$,  ha 
$\e\le\frac{\bar\eta}2$, mert $|\mu_H(B_j)-\mu_G(B_j)|<2\e$, ha
$\supp_x|H(x)-G(x)|<\e$. S\H{o}t innen az is k\"ovetkezik, 
hogy $\bold K_\e\subset \bold F_\e \subset\bold H(\eta)$,
ahol $\bold K_\e=\{\mu_H\colon\;\supp_x|H(x)-G(x)|<\e\}$. Tov\'abb\'a
$\bold K_\e$ z\'art halmaz a $\tau_0$ vagy $\tau$ topol\'ogi\'aban,
mert a $\bold K_\e$ halmaz  a $\{\mu_H\colon\;|H(x)-G(x)|\le\e\}$ 
z\'art halmazok metszete minden $-\infty<x<\infty$ sz\'amra. 
Be kell m\'eg l\'atni, hogy minden $\e>0$ sz\'amra l\'etezik 
olyan $\bold G_\e$ ny\'{\i}lt halmaz, amelyre 
$\mu_G\in\bold G_\e\subset\bold K_\e$.

\item{} Itt hivatkozunk a 15. feladat megold\'as\'anak elej\'en 
elv\'egzett konstrukci\'ora, amely szerint minden $\delta>0$ 
sz\'amra l\'etezik a sz\'amegyenesnesnek olyan v\'eges partici\'oja 
$B_j$ halmazokra, amelyre minden $B_j$ halmaz vagy egy pont vagy egy
olyan ny\'{\i}lt intervallum, esetleg f\'elegyenes, amelyre
$\mu_G(B_j)<\delta$. Alkalmazzuk ezt az eredm\'enyt a 
$\delta=\frac\e2$ sz\'amra. Ekkor nem neh\'ez bel\'atni, hogy
el\'eg kis $\bar\eta=\bar\eta(\e)>0$ sz\'amra a 
$\bold G_\e=\bigcapp_J\{\mu_H\colon\;|\mu_H(B_j)-\mu_G(B_j)|<\eta\}$
halmaz teljes\'{\i}ti a k\'{\i}v\'ant felt\'eteleket.

\item{} Az $I(\mu_G\|\mu_F)=\infty$ eset hasonl\'oan t\'argyalhat\'o,
b\'ar az kiss\'e egyszer\H{u}bb.

\beginsection Felhaszn\'alt topol\'ogiai ismeretek.

Egy $(X,\Cal U)$ topol\'ogikus t\'er egy $X$ halmazb\'ol \'es annak 
$\Cal U$ ny\'{\i}lt r\'eszhalmazaib\'ol \'all\'o rendszer.
A ny\'{\i}lt halmazok $\Cal U$ rendszere teljes\'{\i}ti a k\"ovetkez\H{o}
tulajdons\'agokat:

\medskip
\item{1.)} Az $\emptyset$  \"ures, \'es az $X$ teljes halmaz ny\'{\i}lt
halmaz.

\item{2.)} V\'eges sok ny\'{\i}lt halmaz metszete ny\'{\i}lt.

\item{3.)} Ny\'{\i}lt halmazok uni\'oja mindig ny\'{\i}lt halmaz.

\medskip
Egy ny\'{\i}lt halmaz komplementer\'et z\'art halmaznak nevezik.

\medskip
Egy topol\'ogikus t\'er definici\'oj\'aban a ny\'{\i}lt halmazok 
$\Cal U$ rendszer\'et gyakran nem k\"ozvetlen\"ul defini\'alj\'ak, 
hanem megadj\'ak annak egy b\'azis\'at. Ismertetem ennek 
de\-fi\-ni\-ci\'o\-j\'at.

\medskip\noindent
{\bf Topol\'ogikus t\'er b\'azis\'anak a definici\'oja.} {\it Egy 
$(X,\Cal U)$ topologikus t\'ernek akkor \'es csak akkor b\'azisa 
egy az $X$ halmaz bizonyos r\'eszhalmazaib\'ol \'all\'o $\Cal B$ 
halmazrendszer, ha $\Cal B\subset\Cal U$, \'es minden $U\in\Cal U$ 
ny\'{\i}lt halmazhoz \'es $x\in U$ ponthoz, l\'etezik egy olyan 
$B\in\Cal B$ halmaz, amelyre $x\in B$, \'es $B\subset U$.}

\medskip
Be lehet l\'atni, hogy egy $(X,\Cal U)$ topol\'ogikus t\'er $\Cal B$ 
b\'azisa  egy\'ertelm\H{u}en meghat\'arozza a $\Cal U$ topol\'ogi\'at,
(a $\Cal B$-beli halmazok uni\'oi a ny\'{\i}lt halmazok). Egy
$X$ t\'er r\'eszhalmazaib\'ol \'all\'o $\Cal B$ rendszer akkor \'es
csak akkor lehet egy $(X,\Cal U)$ topol\'ogikus t\'er b\'azisa valamely
alkalmas $\Cal U$ topol\'ogi\'aval, ha
minden $B_1,B_2\in\Cal B$ halmazp\'arhoz, \'es $x\in B_1\cap B_2$
ponthoz l\'etezik olyan $B\in\Cal B$ halmaz, amelyre 
$x\in B\subset B_1\cap B_2$.

\medskip
Be szokt\'ak vezetni az \'ugynevezett $\bold T_1$, $\bold T_2$, 
$\bold T_3$, $\bold T_\rho$ \'es $\bold T_4$ tulajdons\'ag\'u 
topol\'ogikus tereket. Ezek a tulajdons\'agok azt fejezik ki, 
hogy egy $\Cal U$ topol\'ogia  mennyire tud 
sz\'et\-v\'a\-lasz\-ta\-ni bizonyos tulajdons\'ag\'u 
diszjunkt halmazokat.

\medskip\noindent
{\bf $\bold T_1$, $\bold T_2$, $\bold T_3$, $\bold T_\rho$, \'es 
$\bold T_4$ tulajdons\'ag\'u topol\'ogikus terek definici\'oja.} 
{\it Legyen adva egy $(X,\Cal U)$ topol\'ogikus t\'er. Az ebben 
szerepl\H{o} $\Cal U$ topol\'ogia $\bold T_1$ tulajdons\'ag\'u, 
ha minden $x\in X$ pontra az $\{x\}$ halmaz z\'art. Az $\Cal U$ 
topol\'ogia $\bold T_2$ tulajdons\'ag\'u, ha minden $x,y\in X$,
$x\neq y$ pontp\'arra l\'etezik olyan $G$ \'es $H$ ny\'{\i}lt halmaz
az $\Cal U$ topol\'ogi\'aban, amelyre $x\in G$, $y\in H$, \'es 
$G\cap H=\emptyset$. (A $\bold T_2$ tulajdons\'ag\'u tereket
Hausdorff tereknek is nevezik az irodalomban.) 

A tov\'abbi definici\'okban feltessz\"uk, hogy $\bold T_1$ terekkel
foglalkozunk, azaz olyan to\-po\-l\'o\-gi\-kus terekkel, amelyekben 
minden egy pontb\'ol \'all\'o halmaz z\'art. Az $\Cal U$ topol\'ogia 
$\bold T_3$ tulajdons\'ag\'u, ha minden $F$ z\'art halmazra \'es 
$x\notin F$ pontra l\'etezik olyan $G$ \'es $H$ ny\'{\i}lt halmaz, 
amelyekre $F\subset G$, $x\in H$,
\'es $G\cap H=\emptyset$. Az $\Cal U$ topol\'ogia $\bold T_\rho$ 
tulajdons\'ag\'u, ha minden $F$ z\'art halmazra, \'es $x\notin F$ 
pontra l\'etezik olyan folytonos $f(\cdot)$ f\"uggv\'eny az 
$(X,\Cal U)$ t\'eren, amelyre $f(u)=0$, ha $u\in F$, \'es $f(x)=1$.
Az $\Cal U$ topol\'ogia $\bold T_4$ tulajdons\'ag\'u, ha minden 
olyan  $F_1$ \'es $F_2$ z\'art halmazp\'arra, amelyre 
$F_1\cap F_2=\emptyset$  l\'etezik olyan $G$ \'es $H$ ny\'{\i}lt 
halmaz, amelyekre $F_1\subset G$, $F_2\subset H$ \'es 
$G\cap H=\emptyset$.}

\medskip
A fenti definici\'oban az egym\'ast k\"ovet\H{o} fogalmak a 
megel\H{o}z\H{o} fogalmakn\'al (szi\-go\-r\'u\-an) er\H{o}sebb 
megk\"ot\'est tartalmaznak.

\medskip
A topol\'ogia egyik fontos fogalma a kompakt halmaz. Ennek 
definici\'oj\'at, illetve a kompakt halmazok legfontosabb
tulajdons\'agait ismertetem az al\'abbiakban. K\"ul\"on\"osen 
fontos lesz sz\'amunkra az al\'abb megfogalmazand\'o Tyihonov 
t\'etel.

\medskip
Egy $(X,\Cal U)$ topol\'ogikus t\'er $A\subset X$ halmaza kompakt, 
ha az $A$ halmaz minden ny\'{\i}lt halmazokkal t\"ort\'en\H{o} 
fed\'es\'eb\H{o}l kiv\'alaszthat\'o egy v\'eges fed\'es, azaz ha 
$G_t$, $t\in T$, valamely $T$ indexhalmazzal ny\'{\i}lt 
halmazoknak egy olyan rendszere, amelyre 
$A\subset \bigcupp_{t\in T} G_t$, akkor l\'etezik a $T$ 
indexhalmaznak olyan $\{t_1,\dots,t_n\}\subset T$ v\'eges 
r\'eszhalmaza, amelyre $A\subset\bigcupp_{j=1}^nG_{t_j}$. Egy 
$(X,\Cal U)$ topol\'ogikus t\'er kompakt, ha az $X$ halmaz 
kompakt a benne szerepl\H{o} $\Cal U$ topol\'ogia szerint.

Egy $\bold T_2$ topol\'ogikus t\'er minden kompakt halmaza
z\'art. Kompakt halmaz z\'art r\'esz\-hal\-ma\-zai kompaktak. 
Szeml\'eletesen mondva, a kompakt halmazok a kis z\'art halmazok.

A topol\'ogia egyik fontos eredm\'enye a Tyihonov t\'etel,
amely szerint kompakt to\-po\-l\'o\-gi\-kus terek (Descartes) 
szorzata szint\'en kompakt topol\'ogikus t\'er. E t\'etel 
megfogalmaz\'asa  \'erdek\'eben  
defini\'aljuk topol\'ogikus terek (Descartes)  szorzat\'at.

El\H{o}sz\"or $X_t$, $t\in T$, halmazok $\prodd_{t\in T}X_t$ 
Descartes szorzat\'at defini\'aljuk az \'altal\'anos esetben, 
amikor a $T$ indexhalmaz nem felt\'etlen\"ul v\'eges vagy 
megsz\'aml\'alhat\'o.  $\prodd_{t\in T}X_t$ az \"osszes 
olyan $x(t)$, $t\in T$, f\"uggv\'enyb\H{o}l \'all, 
amelyekre $x(t)\in X_t$ minden $t\in T$ pontban.

Legyen adva topol\'ogikus tereknek egy$(X_t,\Cal U_t)$, $t\in T$, 
halmaza.  Ezek Descartes szorzata az az $(X,\Cal U)$ topol\'ogikus 
t\'er, amelyre $X=\prodd_{t\in T}X_t$, \'es a ny\'{\i}lt
halmazok $\Cal U$ halmaz\'anak egy $\Cal B$ b\'azis\'at a  
k\"ovetkez\H{o} m\'odon defini\'aljuk. $V\in\Cal B$ akkor \'es
csak akkor, ha l\'etezik olyan v\'eges $S=\{t_1,\dots,t_n\}\subset T$
halmaz, \'es $U_{t_j}j\in\Cal U_{t_j}$,  az $(X_{t_j},\Cal U_{t_j})$ 
t\'erben ny\'{\i}lt halmazok rendszere, $1\le j\le n$, 
amelyekre $V=\prodd_{t\in T}Y_t$, ahol $Y_t=U_t$, ha $t\in S$,
\'es $Y_t=X_t$, ha $t\in T\setminus S$. Ezut\'an megfogalmazom
a Tyihonov t\'etelt.

\medskip\noindent
{\bf Tyihonov t\'etel.} {\it Legyen adva kompakt topol\'ogikus 
tereknek egy $(X_t,\Cal U_t)$, $t\in T$, halmaza.  Ezek Descartes 
szorzata szint\'en kompakt topol\'ogikus t\'er.}

%\medskip
M\'eg egy eredm\'enyre lesz sz\"uks\'eg\"unk. Ez a k\"ovetkez\H{o}
\'all\'{\i}t\'as. Ha $(X,\Cal U)$ kompakt topol\'ogikus t\'er, \'es
azonk\'{\i}v\"ul m\'eg $\bold T_2$ t\'er is, akkor egyben $\bold T_4$
t\'er is.

%\medskip
\noindent
{\it Bizony\'{\i}t\'asv\'azlat.} El\H{o}sz\"or azt l\'atjuk be, hogy
$(X,\Cal U)$ $\bold T_3$ t\'er. Legyen $F\subset X$ z\'art, ez\'ert 
kompakt halmaz, \'es $x\in X\setminus F$. Akkor minden $y\in F$ ponthoz
lehet tal\'alni olyan $G_y$ \'es $H_y$ ny\'{\i}lt halmazokb\'ol \'all\'o 
p\'art, amelyre $G_y\cap H_y=\emptyset$, $y\in G_y$, \'es $x\in H_y$.
A $G_y$ halmazok uni\'oja lefedi az $F$ kompakt halmazt, ez\'ert
l\'etezik v\'eges sok $G_{y_1},\dots,G_{y_k}$ halmaz, amelyre 
$G=\bigcupp_{j=1}^kG_{y_j}$ ny\'{\i}lt halmaz, \'es $F\subset G$.
M\'asr\'eszt $H=\bigcapp_{j=1}^k H_{y_j}$ is ny\'{\i}lt halmaz, $x\in H$,
\'es $G\cap H=\emptyset$. Innen k\"ovetkezik a $\bold T_3$ tulajdons\'ag.

Az $(X,\Cal U)$ t\'er $\bold T_4$ tulajdons\'aga hasonl\'oan l\'athat\'o
be annak $\bold T_3$ tu\-laj\-don\-s\'aga alap\-j\'an. K\'et 
diszjunkt z\'art $F_1$ \'es $F_2$ halmazt kell venni, \'es az 
$F_1=F$ v\'alaszt\'assal \'es az $F_2$ halmazzal \'ugy \'ervelve, 
mint kor\'abban az $x$ ponttal kapjuk a k\'{\i}v\'ant \'all\'{\i}t\'ast.








\bye
