Nagy eltérések elmélete. A Szanov tétel.

Egy előző feladatsorban, a Nagy eltérések elmélete; Független, valós értékű valószínűségi változók feladatsorban annak az eseménynek a valószínűségét vizsgáltuk, hogy független, egyforma eloszlású valószinűségi változók átlaga egy a várható értéknél nagyobb számot vesz fel. Az ottani eredményekből következik, hogy ha ξ_{k}, k = 1, 2, …, független,

egyforma eloszlású valószínűségi változók, S_{n} = ∑_{k=1}^{n} ξ_{k}, akkor az \frac{S_{n}}{n} átlag F_{n}(y|x) =

P (\frac{S_{n}}{n} ≥ y| \frac{S_{n}}{n} ≥ x) feltételes eloszlása y > x > Eξ_{1} esetén teljesíti a lim_{n→∞} F_{n}(y|x) = 0 tulajdonságot. Ezt úgy is interpretálhatjuk, hogy ha az átlag nagyobb mint x, akkor az ezen feltétel mellett majdnem egy valószínűséggel az x pont kis környezetébe van koncentrálva. Tehát eme feltétel mellett az átlag eloszlása erősen lokalizált.

Egy ennél erősebb lokalizációs tulajdonságot kívánunk megfogalmazni és bebizonyítani. Ez azt a tényt fejezi ki, hogy alkalmas és nagyon általános feltételek mellett nemcsak az átlag, hanem az összeadandók, azaz a (ξ_{1}, …, ξ_{n}) vektor együttes feltételes eloszlása is erősen lokalizált az adott feltételek mellett. Ezt az állítást akarjuk pontosan megfogalmazni, és annak néhány érdekes következményét levezetni. Ennek érdekében bevezetjük a következő fogalmat. Ha (ξ_{1}, …, ξ_{n}) valószínűségi változók egy véges sorozata, akkor definiáljuk ezek μ_{n} empirikus eloszlását a következő módon: A (ξ_{1}(ω), …, ξ_{n}(ω)) valószínűségi változók által meghatározott μ_{n} = μ_{n}(ω) empririkus eloszlás (véletlen) valószínűségi mérték a számegyenesen. Tetszőleges mérhető A ⊂ R^{1} halmazra μ_{n}(A) = \frac{1}{n} · #\{j: 1 ≤ j ≤ n, ξ_{j} ∈ A\}.

Tekintsük a (ξ_{1}, …, ξ_{n}) vektor empirikus eloszlások a feltételes eloszlását bizonyos

feltételek mellett. (Például az S_{n} = ∑_{k=1}^{n} ξ_{k} > nx feltétel mellett.) “Tipikus esetek-

ben” ez a (véletlen) feltételes eloszlás egy előírt eloszlás közelében koncentrálódik nagy valószínűséggel. Ezt az eloszlást annak az észrevételnek a segítségével találhatjuk meg, hogy az adott feltétel mellett az empirikus eloszlás ennek az eloszlásnak a közelébe esik a legnagyobb valószínűséggel. Így azt meg lehet határozni egy variációs probléma megoldásának a segítségével. Ilyen módon is lehet vizsgálni a nagy eltérések elméletét, sőt bizonyos problémák vizsgálatában ez a módszer hatásosabb mint a Nagy eltérések elmélete; Független, valós értékű valószínűségi változók feladatsor módszere. Viszont e módszer alkalmazásához szükség van a (bizonyítandó) nagy eltérés tétel megfogalmazására általánosabb terekben. A nagy eltérés tételt csak olyan térben tudjuk megfogalmazni, ahol van értelme közelségről beszélni. Ezért természetes lenne metrikus terekben dolgozni. De érdemes a nagy eltérés tételt általánosabb körülmények közott, topológikus terekben megfogalmazni és vizsgálni, mivel ilyen módon néhány fontos esetben sokkal tartalmasabb eredményt kapunk.

Nagy eltérés tétel megfogalmazása topológikus terekben. Legyen adva egy (X, X) topológikus tér, és legyen A a topológia által definiált σ-algebra. Tegyük fel, hogy az (X, X) tér úgynevezett T_{3} tér, azaz tetszőleges x ∈ X pontra és olyan zárt F halmazra, amelyre x ∉ F léteznek olyan diszjunkt nyílt G_{1} és G_{2} halmazok, amelyekre x ∈ G_{1} és F ⊂ G_{2}. Legyen μ_{n}, n = 1, 2, …, valószínűségi mértékek sorozata az (X, A) téren. Azt mondjuk, hogy az (X, X) téren értelmezett μ_{n}, n = 1, 2, …, valószínűségi mértékek sorozata teljesíti a nagy eltérés tételt egy I(x), x ∈ X, függvénnyel, amelyre I(x) ≥ 0, (és I(x) felveheti a ∞ értéket is), ha i.) Az I(·) függvény alulról félig folytonos, azaz minden ε > 0 számra és x ∈ X pontra

az {y: I(y) > I(x) − ε} halmaz az x pont nyílt környezete. ii.) lim sup_{n→∞} −\frac{1}{n} log μ_{n}(G) ≤ inf_{x∈G} I(x) minden nyílt G ⊂ X halmazra.

iii.) lim inf_{n→∞} −\frac{1}{n} log μ_{n}(F) ≥ inf_{x∈F} I(x) minden zárt F ⊂ X halmazra.

Bár a nagy eltérés tételt általános topológikus terekben fogalmaztuk meg, részletesebben csak azzal az esettel fogunk foglalkozni, amikor a tekintett tér egy mérhető téren értelmezett valószínűségi mértékek tere alkalmas topológiával. A minket leginkább érdeklő eset az, amikor valamilyen téren (például a számegyenesen) definiált független egyforma eloszlású valószínűségi változókból készített empirikus eloszlásokat tekintjük, az adott téren levő valószínűségi mértékeket ellátjuk alkalmas topológiával, és azt akarjuk belátni, hogy az empirikus eloszlások, mint ezen tér valószínűségi mértékein értelmezett véletlen mértékek, (azaz megadjuk annak a valószínűségét, hogy az empirikus eloszlás valószínűségi mértékek egy családjába esik) teljesítik a fent definiált nagy eltérés tételt. Ezenkívül bizonyos feladatok arról szólnak, hogy független valószínűségi változók részletösszegei teljesítik a nagy eltérés tételt az ebben a feladatsorban definiált értelemben is.

Az első feladatban megmutatjuk, hogy a nagy eltérés tételben szereplő I(x) függvényt a μ_{n} mértékek egyértelműen meghatározzák.

1.) Teljesítsék a μ_{n} valószínűségi mértékek a nagy eltérés tételt valamilyen I(x) alulról folytonos függvénnyel egy (X, X) T_{3} tulajdonságú topológikus térben. Minden x ∈ X-re teljesülnek a következő relációk:

I(x) = sup_{G: G nyílt halmaz x∈G} lim sup_{n→∞} −\frac{1}{n} log μ_{n}(G)

I(x) = sup_{F: F zárt halmaz x∈Int F} lim inf_{n→∞} −\frac{1}{n} log μ_{n}(F).

A következő két feladat, illetve az előttük megfogalmazott megjegyzés nem kapcsolódik szorosan a feladatsorhoz. Viszont az elmélet további, itt nem tárgyalt finomításában nagyon hasznos.

A nagy eltérés tétel megfogalmazásában természetes, hogy a zárt halmazok esetében a iii.) tulajdonságban lim sup és nem lim a nyílt halmazok esetén pedig a ii.) tulajdonságban lim inf és nem lim szerepel. Zárt halmazok esetén például az egy pontból álló halmazok és sűrűségfüggvénnyel rendelkező független egyforma eloszlású valószínűségi változók átlagainak eloszlásai mutatnak példát arra, hogy miért csak a iii.)-ban megfogalmazott gyengébb állítást érdemes megkövetelni. Az, hogy a nagy eltérés tétel teljesülése esetén ii.) tulajdonságban nem mindig írható limesz például a feladatsor 8. feladatának eredményéből következik.

A nagy eltérés tétel ii.) és iii.) tulajdonságában azért nem írhatunk limeszt, mert egy halmaz indikátorfüggvényének a határa erősen befolyásolhatja a halmaz μ_{n} mértékeinek a viselkedését. Ilyen jellegű problémák az analízis más területén is megjelennek. Ilyenkor természetes az állítás átfogalmazása halmazok indikátorfüggvényei helyett folytonos függvények segítségével. Ez történik a következő, az irodalomban Varadhan lemmának nevezett állításban. Azután belátjuk ennek az állításnak egy megfordítását. De ebben a megfordításban a nagy eltérés tételnek csak egy gyengített változatát látjuk be, ahol a iii.) tulajdonságot zárt halmazok helyett csak kompakt halmazokra fogalmazzuk meg. Annak bizonyítása, hogy konkrét esetekben a nagy eltérés tétel iii.) tulajdonsága zárt nem kompakt halmazokra is érvényes további finom érvelést igényel. Így például az ebben a feladatsorban tárgyalt Szanov tétel bizonyításában ez az egyik fő nehézség.

2.) Teljesítse egy μ_{n}, n = 1, 2, …, valószínűségi mértéksorozat egy (X, X) topológikus tér Borel σ-algebráján a nagy eltérés tételt egy I(x), x ∈ X, alulról félig folytonos függvénnyel. Ekkor tetszőleges folytonos, korlátos g(x) függvényre

lim_{n→∞} \frac{1}{n} log ∫ e^{ng(x)}μ_{n}(dx) = sup_{x∈X}\{g(x) − I(x)\}

3.) Teljesítse egy μ_{n}, n = 1, 2, …, valószínűségi mértéksorozat a 2. feladatban felírt azonosságot valamilyen alulról folytonos, nem negatív I(·) függvénnyel minden folytonos és korlátos g(·) függvényre egy (X, X) topológikus térben. Tegyük fel továbbá, hogy az (X, X) tér úgynevezett T_{ρ} tér, azaz tetszőleges x ∈ X pontra és F ⊂ X zárt halmazra, amelyekre x ∉ F létezik olyan folytonos, korlátos h(·) függvény, amelyre h(x) = 1, és h(u) = 0 u ∈ F-re. Ekkor a μ_{n} mértéksorozat teljesíti a nagy eltérés tétel ii.) és következő iii′.) tulajdonságát:

iii′.) lim inf_{n→∞} −\frac{1}{n} log μ_{n}(K) ≥ inf_{x∈K} I(x) minden kompakt K ⊂ X halmazra.

A következő 4.–8. feladatokban megmutatjuk, hogy a Nagy eltérések elmélete; Független, valós értékű valószínűségi változók feladatsorban vizsgált független egyforma eloszlású valószínűségi változók átlagainak eloszlásai teljesítik a nagy eltérés tételnek azt a formáját is, amelyet ennek a feladatsornak az elején fogalmaztunk meg.

4.) Legyen ξ olyan valószínűségi változó, amelyre R(t) = Ee^{tξ} < ∞ elég kis t > 0ra, és definiáljuk az I(x) = sup_{t≥0}(tx − log R(t)) függvényt minden x ≥ Eξ számra.

(R(t) = ∞, ha e^{tξ} nem integrálható.) E halmazon az I(x) függvény monoton nő, azaz I(x) ≤ I(y), ha Eξ < y < x, (Eξ = −∞ is megengedett). Ha I(x) < ∞, akkor I(y) < I(x), azaz ebben az esetben szigorú egyenlőtlenség is érvényes. Továbbá, ha I(x) < ∞ és Eξ < x, akkor lim_{y<x, y→x} I(y) = I(x). Az I(x) függvény konvex. Ezért

tetszőleges olyan x számra, amelyre I(x + ε) < ∞ elég kis ε > 0-ra lim_{y>x, y→x} I(y) =

I(x).

Megjegyzés: Definiáljuk az L = sup{x: I(x) < ∞} számot. (L = ∞ lehetséges.) Az előző feladat szerint az I(x) függvény az [Eξ, L) intervallumon folytonos, konvex és szigorúan monoton nő, sőt mint az alábbi érvelés segítségével látható, ez az állítás érvényes ennek az intervallumnak [Eξ, L] lezártján is. Továbbá, ha x > L, akkor I(x) = ∞. Könnyen bizonyítható az is, hogy L < ∞ akkor és csak akkor, ha a ξ valószínűségi változó egy valószínűséggel felülről korlátos. Ha ugyanis P (ξ > x) = A(x) > 0 minden x > 0 számra, akkor

P (∑_{k=1}^{n} ξ_{k} > nx) ≥ e^{n log A(x)} minden n-re,

ahol ξ_{k}, k = 1, 2, …, függetlenek és a ξ valószínűségi változókkal azonos eloszlásúak. Innen az erre az összegre kapott felső becslés alapján I(x) ≤ − log A(x) < ∞. Ha viszont a ξ valószínűségi változó felülről korlátos, akkor az R(t) = Ee^{tξ} momentumgeneráló függvény véges minden t ≥ 0-ra, és lim_{t→∞}[log R(t)]′ < ∞. Ekkor azonban (ld. például a Nagy eltérések elmélete; Független, valós értékű valószínűségi változók feladatsor 12. feladatának eredményét) I(x) = ∞ elég nagy x-re.

5.) Legyenek ξ_{n}, n = 1, 2, …, független, egyforma eloszlású valószínűségi változók a számegyenesen R(t) = Ee^{tξ_{1}} momentumgeneráló függvénnyel (R(t) = ∞, ha e^{tξ_{1}}

nem integrálható), és jelölje μ_{n} a \frac{S_{n}}{n} = ^{\frac{∑_{k=1}^{n} ξ_{k}}{n}} valószínűségi változó eloszlását. Az egyszerűség kedvéért ebben a feladatban csak azt az esetet tekintsük, amikor az Ee^{tξ_{1}} momentumgeneráló függvény véges az origó egy kis környezetében. A μ_{n} mértékek teljesítik a nagy eltérés tételt az I(·) függvénnyel, ahol I(x) = sup_{t≥0}(tx −

log R(t)), ha x ≥ Eξ_{1}, és I(x) = sup_{t≤0}(tx − log R(t)), ha x ≤ Eξ_{1}.

6.) Lássuk be a nagy eltérés tételnek az ebben a feladatsorban megfogalmazott alakját független, egyforma eloszlású valószínűségek átlagának eloszlásaira az általános esetben. Az általános esetben I(x) = sup_{t≥0}(tx − log R(t)) ha x ≥ Eξ_{1}, és I(x) =

sup_{t≤0}(tx − log R(t)), ha x ≤ Eξ_{1}. Ha a ξ_{1} valószínűségi változónak nincs várható

értéke (azaz a pozitív rész várható értéke végtelen, a negatív rész várható értéke minusz végtelen), akkor I(x) = 0 (= sup_{t}(tx − log R(t)) = −R(0)) minden x számrea.

7.) Ha a ξ valószínűségi változó R(t) = Ee^{tξ} momentumgeneráló függvénye elég kis t > 0-ra véges, és Eξ_{1} = −∞, akkor lim_{x→−∞} I(x) = lim_{x→−∞} sup_{t≥0}(tx − log R(t)) = 0.

8.) Független, egyforma eloszlású valószínűségi változók átlagának az eloszlása teljesíti a nagy eltérés tétel ii) tulajdonságának következő élesebb formáját is: ii′.) lim_{n→∞} −\frac{1}{n} log μ_{n}(G) = inf_{x∈G} I(x) minden nyílt halmazra.

Adjunk példát valószínűségi mértékek μ_{n} sorozatára a számegyenesen, amely teljesíti a nagy eltérés tételt, de nem teljesíti a ii′.) tulajdonságot. Az I(x) függvényt I(x) = sup_{−∞<t<∞}(tx − log R(t)) alakban is megadhatjuk a Nagy eltérések elmélete; Független, valós értékű valószínűségi változók feladatsor 18a.) feladatának eredménye alapján.

A következő feladatokban az empirikus eloszlásfüggvény viselkedéséről adunk nagy eltérés tipusú becsléseket, és ezekből vezetjük le a Nagy eltérések elmélete; Független, valós értékű valószínűségi változók feladatsorban bebizonyított nagy eltérés tétel (nehezebben bizonyítható) alsó becslését független, egyforma eloszlású valószínűségi változók átlagára. Annak valószínűségére adunk jó becslést, hogy független F eloszlású valószínűségi változók empirikus eloszlásfüggvénye egy G, G ≠ F eloszlásfüggvény közelében van, és ennek segítségével adunk becslést a ξ_{k} valószínűségi változók átlagának eloszlására. Ennek a módszernek az az előnye, hogy nem kötődik erősen a számegyenes geometriájához. Ezért általánosabb esetekben is alkalmazható, például olyankor, amikor az összeadandók egy az Euklideszi térnél sokkal gazdagabb térben veszik fel értékeiket. Ezekben a vizsgálatokban nagyon fontos az alábbiakban bevezetett I-divergencia fogalma.

Az I-divergencia definiciója. Legyen F és G két eloszlás a számegyenesen. (Az általános esetben legyen μ és ν két valószínűségi mérték ugyanazon az (Y, B) téren.)

A G eloszlásnak az F eloszlás szerinti I(G∥F) I-divergenciát a következő módon definiáljuk:

I(G∥F) = ∫_{\{u: \frac{dG}{dF} (u)>0\}} log \frac{dG}{dF}(u) dG(u),

ha az G eloszlás által indukált mérték abszolút folytonos az F (x) által indukált mértékre, és I(G∥F) = ∞, ha az nem abszolút folytonos.

Általánosabban, egy ν valószínűségi mértéknek egy μ valószínűségi mérték szerinti I(ν∥μ) I-divergenciáját az

I(ν∥μ) = ∫ log \frac{dν}{dμ}(y) dν(y)

képlettel definiáljuk, ha ν abszolút folytonos a μ mértékre nézve, és I(ν∥μ) = ∞ ha ν nem abszolút folytonos a μ mértékre nézve. A fenti integrál úgy értendő, hogy a B = \{y: \frac{dν}{dμ}(y) = 0\} halmazon, ahol log \frac{dν}{dμ}(y) = −∞ és ν(B) = 0, ν(B) · (−∞) = 0 · (−∞) = 0.

A későbbiekben tekinteni fogunk egy rögzített μ mértéket valamilyen mértéktéren vagy abban a speciális esetben, ha a számegyenesen dolgozunk egy rögzített F eloszlásfüggvényt a számegyenesen. Ha adva van egy ξ_{k}(ω), k = 1, 2, …, független μ eloszlású valószínűségi változókból álló sorozat, akkor elkészítjük e sorozat által meghatározott μ_{n} = μ_{n}(ω) empirikus mértékek sorozatatát. Be fogjuk látni, hogy (ha alkalmas topológiát vezetünk be a valószínűségi mértékek terén), akkor az empirikus mértékek teljesítik a nagy eltérés tételt az I(·) = I(·∥μ) divergencia függvénnyel.

Tekintsük azt az esetet, amikor egy F eloszlásfüggvény van adva a számegyenesen,

és ξ_{1}, ξ_{2}, … független F eloszlású valószínűségi változók sorozata, S_{n}(ω) = ∑_{k=1}^{n} ξ_{k}(ω), és F_{n}(ω, u) a ξ_{1}(ω), …, ξ_{n}(ω)) sorozat empirikus eloszlásfüggvénye. Vegyük észre, hogy \frac{S_{n}(ω)}{n} = ∫ u F_{n}(ω du), tehát az

A_{n}(x) = \{ω: \frac{S_{n}(ω)}{n} > x\} és Ā_{n}(x) = \{ω: ∫ u F_{n}(ω, du) > x\}

halmazok megegyeznek. Mivel az x > Eξ_{1} esetben az A_{n}(x) illetve Ā_{n}(x) események valószínűségét a nagy eltérés tétel felhasználásával az I(·) = sup_{t≥0}(tx − log R(t)), – ahol

R(t) = E^{tξ_{1}}, – illetve az Ī(·) = I(·∥F) divergencia függvény segítségével becsülhetjuk meg, ezért a fenti érvelés sugallja az alábbi, a 9. feladat (a) formulájában megfogalmazott azonosságot.

A következő 9. és 10. feladatban ezt az azonosságot látjuk be. A 9. feladatban azt az egyszerűbb esetet tekintjük, amikor a [log R(t)]′ = x egyenlet megoldható. Ekkor explicit módon megadható az, hogy az azonosság két oldalán szereplő kifejezés hol veszi fel a szélsőértékét. A 10. feladat az általános esettel foglalkozik. Ekkor az I-divergencia kiszámításában hasonló problémák és gondolatok jelennek meg, mint a Nagy eltérések elméle: Független, valós értékű valószínűségi változók feladatsor megfelelő részében.

9.) Legyen μ és ν két valószínűségi mérték egy (Y, B) téren. Ekkor I(ν∥μ) ≥ 0, és egyenlőség csak μ = ν esetén lehetséges. Legyen adva egy F mérték a számegyenesen, és legyen x ≥ m = ∫ u dF (u). (Nincs ilyen x szám, ha ∫ u dF (u) = ∞, és tetszőleges x számot tekinthetünk, ha az ∫ u dF (u) nem létezik.) Legyen G egy másik mérték a számegyenesen. Ha az R(t) = ∫ e^{tu}F ( du) momentumgeneráló függvény véges valamely t > 0-ra, és ∫ uG( du) = x, akkor I(G∥F) ≥ tx − log R(t). Lássuk be ennek az egyenlőtlenségnek egy bízonyos értelmű megfordítását először abban a speciális esetben, amikor a [log R(t)]′ = x egyenlet megoldható, és a megoldás az R(t) függvény értelmezési tartományának belsejében van, ahol R(t) = ∫_{−∞}^{∞} e^{tu}F ( du). Azaz, mutassuk meg, hogy e feltételek mellett

inf ; G: ∫ u dG(u)≥x I(G∥F) = sup_{t≥0} (tx − log R(t)) , ahol R(t) = ∫ e^{tu}F ( du) (a)

Ebben az esetben az (a) formula baloldalán az infimum, a jobboldalán pedig az az szuprémum felvétetik. A baloldalon az infimum a G(du) = F_{t}(u) = \frac{e^{tu} dF (u)}{R(t)} valószínűségi mértéknél, a baloldalon a szuprémum a [log R(t)]′ = x megoldásánál éretik el.

10.) Lássuk be a 9. feladat (a) formuláját tetszőleges F eloszlásra és x ≥ m = ∫ u dF (u) számra. Azt a speciális esetet kivéve, amikor az R(t) függvény minden t ≥ 0-ra értelmezve van, és lim_{t→∞}[log R(t)]′ = x minden ε > 0 számra létezik olyan G eloszlás,

amelyre x < ∫ u dG(u) < x + ε szigorú egyenlőtlenséggel az előző reláció mindkét oldalán, és I(G∥F) < sup_{t≥0}(tx − log R(t)) + ε.

Legyen F (x) és G(x) két különböző eloszlásfüggvény a számegyenesen. Legyenek ξ_{1}, …, ξ_{n} független F (x) eloszlású valószínűségi változók, F_{n}(x) = \frac{1}{n}#\{k: ξ_{k} < x, 1 ≤ k ≤ n}, a ξ_{k}, k = 1, …, n sorozathoz tartozó empirikus eloszlásfüggvény. A valószínűségszámítás egy klasszikus tétele, a Glivenko–Cantelli tétel szerint az F_{n}(x) empirikus eloszlásfüggvény egy valószínűséggel konvergál szuprémum normában az F (x) eloszlásfüggvényhez. Be fogjuk látni, hogy annak valószínűsége, hogy az F_{n}(x) empirikus eloszlásfüggvény a G(x) eloszlásfüggvény közelében van, F ≠ G, (az n változóban) exponenciálisan kicsi. Pontosabban,

lim_{ε→0} lim sup_{n→∞} −\frac{1}{n} log P (sup_{x} |F_{n}(x) − G(x)| < ε) = I(G∥F),  (+1)

és

lim_{ε→0} lim inf_{n→∞} −\frac{1}{n} log P (sup_{x} |F_{n}(x) − G(x)| < ε) = I(G∥F),  (+2)

Ezt az állítást direkt módon fogjuk belátni, noha az egyszerűen következik a később tárgyalt Szanov tételnek nevezett nagy eltérés tételből.

A következő feladatban ezt az állítást abban a speciális esetben látjuk be, amikor az F és G eloszlások által meghatározott μ_{F} és μ_{G} mértékek véges sok pontba vannak koncentrálva. 11.) Legyen μ és ν két valószínűségi mérték egy véges X = {x_{1}, …, x_{k}} halmazon.

Vezessük be a μ({x_{l}}) = p_{l}, ν({x_{l}}) = q_{l}, l = 1, …, k, ∑_{l=1}^{k} p_{l} = ∑_{l=1}^{k} q_{l} = 1

jelölést. Tegyük fel, hogy p_{l} > 0 minden 1 ≤ l ≤ k-ra. Tekintsük az X tér X^{n} = {x_{1}, …, x_{k}}^{n} n-szeres direkt szorzatát, és vezessük be az y = (y_{1}, …, y_{n}) ∈ X^{n}

sorozatok terén a μ mérték μ^{(n)} direkt szorzatát, azaz legyen μ^{(n)}(y) = ∏_{j=1}^{n} μ(y_{j})

minden y = (y_{1}, …, y_{n}) ∈ X^{n} sorozatra. Definiáljuk továbbá a

χ_{n} = χ_{n}(y, l) = χ_{n}(y_{1}, …, y_{n}, l) = \frac{1}{n} × #\{s: 1 ≤ s ≤ n, y_{s} = x_{l}\},

számokat minden y = (y_{1}, …, y_{n}) ∈ X^{n} sorozatra és l = 1, …, k indexre, azaz legyen χ_{n}(y, l) az x_{l} számok relatív gyakorisága az y = (y_{1}, …, y_{n}) sorozatban. Ekkor tetszőleges ε > 0 számra és n > n_{0}(ε, ν, μ) indexre

exp \{−n (∑_{l=1}^{k} q_{l} log \frac{q_{l}}{p_{l}} + Cε)\}
≤ μ^{(n)} (|χ_{n}(y, l) − q_{l}| < ε minden 1 ≤ l ≤ k indexre)

≤ exp \{−n (∑_{l=1}^{k} q_{l} log \frac{q_{l}}{p_{l}} − Cε)\}

(3)

alkalmas C = C(μ, ν) számmal. A fenti formula úgy értendő, hogy a benne szereplő q_{l} log \frac{q_{l}}{p_{l}} összeadandó nullával egyenlő, ha q_{l} = 0.

Bizonyítsuk be ennek az egyenlőtlenségnek a segítségével a (+1) és (+2) állítást abban a speciális esetben, ha az F és G eloszlás által meghatározott mértékek véges sok pontba vannak koncentrálva.

Be akarjuk látni a (+1) és (+2) állításokat tetszőleges F és G eloszlásokra. Ehhez először belátjuk, hogy az F és G eloszlások elég finom véges F′ és G′ diszkretizációjával elérhető, hogy I(G′∥F′) jól közelítse az I(G∥F) I-divergenciát. Ezt az állítást is két részletben fogjuk bizonyítani. Először egy speciális particiót tekintünk, aztán ennek segítségével bebizonyítjuk az állítást tetszőleges finom particióra. Ezeket az állításokat általánosabb mértékterekben fogjuk bebizonyítani. Azt mondjuk, hogy halmazoknak egy C = (C_{1}, …, C_{k}) rendszere, ahol C_{r} az Y halmaz mérhető részhalmaza, 1 ≤ r ≤ k,

egy (Y, B) tér (véges) particiója, ha C_{1}, …, C_{k} diszjunkt halmazok, és ⋃_{r=1}^{k} C_{r} = Y.

Legyen adva egy (Y, B) mérhető tér, és annak véges C particiója. A C particióhoz válasszunk egy (x_{1}, …, x_{k}), x_{r} ∈ C_{r}, r = 1, …, k, (csak a C particiótól függő) pontrendszert. Egy az (Y, B) téren értelmezett μ valószínűségi mérték μ_{C} vetületét a C particióra úgy definiáljuk, mint azt a μ_{C} mértéket, amely az x_{r}, 1 ≤ r ≤ k, pontokba van koncentrálva, és μ_{C}({x_{r}}) = μ(C_{r}), r = 1, …, k.

12.) Legyen adva két μ és ν valószínűségi mérték egy (Y, B) téren, valamint az (Y, B) tér egy C véges particiója. Mutassuk meg, hogy I (ν_{C}∥μ_{C}) ≤ I(ν∥μ). Adva egy ε > 0 konstruáljunk olyan C véges particiót, amelyre I (ν_{C}∥μ_{C}) ≥ I(ν∥μ) − ε, ha I(ν∥μ) < ∞, és I (ν_{C}∥μ_{C}) ≥ ε^{−1}, ha I(ν∥μ) = ∞.

Érdemes megfogalmazni a 12. feladat eredmény alábbi következményét:

I(ν∥μ) = sup_{C az (Y,B) tér véges particiója} I (ν_{C}∥μ_{C})

Be akarjuk látni, hogy az I(ν∥μ) I-divergenciát nemcsak egy speciális hanem minden elég finom partició segítségével jól lehet approximálni. Ehhez azonban bizonyos megszorítást kell tenni, nevezetesen azt, hogy a tekintett tér B σ-algebrája jól közelíthető véges particiókkal. Először bizonyítsunk be egy technikai jellegű mértékelméleti approximációs lemmát, amely hasznos a bizonyítandó állítás igazolásában.

13.) Legyen (X, A) egy mérhető tér, legyenek azon adva μ_{1}, …, μ_{k} valószínűségi mértékek, és legyen A_{1} ⊂ A_{2} ⊂ ⋯ egymásba skatulyázott σ-algebrák sorozata, amely-

re A = σ ( ⋃_{l=1}^{∞} A_{l}), azaz A az A_{l} σ-algebrák uniója által generált legszükebb σ-

algebra. Ekkor minden A ∈ A halmazra és ε > 0 számra létezik olyan n = n(ε, A) ≥ 1 index, és B = B(ε) ∈ A_{n} halmaz, amelyekre μ_{j}(AΔB) ≤ ε, minden j = 1, …, k számra, ahol AΔB = (A \ B) ∪ (B \ A).

14.) Legyen adva egy (Y, B) mérhető tér és azon egymásba skatulyázott véges elemszámú particiók A_{1} ⊂ A_{2} ⊂ ⋯ sorozata. Az (Y, B) tér A_{l} particióját azonosítsuk azzal a (véges elemszámú) σ-algebrával amely azokból a halmazokból áll, amelyek előállíthatóak, mint a A_{l} partició bizonyos elemeinek az uniója. Teljesüljön a

B = σ ( ⋃_{l=1}^{∞} A_{l}) feltétel. (Innen következik az is, hogy az (Y, B) tér B σ-algebráját

megszámlálható sok halmazzal lehet generálni.) Ekkor tetszőleges az (Y, B) téren definiált μ és ν valószínűségi mértékpárra lim_{l→∞} I(ν_{A_{l}}∥μ_{A_{l}}) = I(ν∥μ).

15.) Lássuk be a 14. feladat eredményének a segítségével a (+1) és (+2) állításokat tetszőleges F és G eloszlásfüggvényekre.

Be szeretnénk látni a 9. — 15. feladatok eredményeinek segítségével az e feladatsorban megfogalmazott nagy eltérés tétel felső becslését, (azaz, a P (\frac{S_{n}}{n} ∈ [a, b]) valószínűségre akarunk éles alsó becslést adni). Ez tulajdonképpen a nagy eltérés tétel állításának nehéz fele. A gondolat a következő: Ha a ξ_{1}, …, ξ_{n} valószínűségi változók empirikus eloszlásfüggvénye F_{n}(x), összege S_{n}, akkor \frac{S_{n}}{n} = ∫ u dF_{n}(u). Azt várjuk, hogy ez az átlag közel van az ∫ u dG(u) integrálhoz, ha az F_{n} empirikus eloszlásfüggvény közel van a G eloszlásfüggvényhez. Másrészt ennek az eseménynek a valószínűségét jól tudjuk becsülni. Íly módon a G eloszlásfüggvény alkalmas választásával jó alsó becslést kapunk. E becslésben az I(G∥F) I-divergencia jelenik meg, de a 10. feladat eredményének segítségével meg tudjuk adni a sup_{t≥0}(tx − log R(t)) kifejezéstől függő alsó

becslést a vizsgált valószínűségre.

Ez az érv alkalmazható, de csak bizonyos finomítással. A probléma a következő: Ha néhány ξ_{k} valószínűségi változó abszolút értéke rendkívül nagy, akkor ezek alig módosítják az F_{n} empirikus eloszlásfüggvényt, de nagyon befolyásolhatják az \frac{S_{n}}{n} átlag értékét. E nehézség leküzdése érdekében olyan G eloszlásfüggvény kis környezetének a valószínűségére adunk alsó becslést, amely egy véges intervallumba koncentrált mértéket határoz meg. Látni fogjuk, hogy a G eloszlás választására tett megszorítás nem okoz komoly problémát. A következő feladatban bebizonyítjuk a kívánt állítást a fent vázolt érvelés részletesebb kidolgozásával.

16.) Legyenek ξ_{1}(ω), ξ_{2}(ω), … független F eloszlású valószínűségi változók, és G ≠ F egy másik eloszlásfüggvény, amelyik egy véges intervallumba van koncentrálva, azaz létezik olyan K > 0 szám, amelyre G(K) = 1, G(−K) = 0. Lássuk be, hogy tetszőleges ε > 0 számra létezik olyan L = L(ε) > 0 szám, amelyre L(ε) → ∞, ha ε → 0, és az F̄(x) = F̄_{L(ε)}(x) = P (ξ_{1} < x| |ξ_{1}| ≤ L) feltételes eloszlásfüggvény teljesíti a sup_{x} |F (x)−F̄(x)| ≤ ε és |IG∥F)−I(G∥F̄)| ≤ ε tulajdonságokat. Továbbá

van olyan C(η, ε) függvény, amelyre C(η, ε) → 0, ha η → 0 minden ε > 0-ra, és

P (ω: sup_{x} |F_{n}(x, ω) − G(x)| ≤ η| |ξ_{k}(ω)| ≤ L, 1 ≤ k ≤ n) ≥ e^{−nI(G∥F̄)−nC(η,ε)}
≥e^{−n(I(G∥F)+C(η,ε)+ε)},

ha I(G∥F) < ∞. Lássuk be e tény segítségével a nagy eltérés tétel felső becslését, azaz azt az állítást, hogy Eξ_{1} ≤ a < b esetén lim sup_{n→∞} −\frac{1}{n} log P (\frac{S_{n}}{n} ∈ [a, b]) ≤ sup_{t≥0}(ta − log R(t)). (Ha Eξ_{1} nem létezik, akkor bármilyen a < b számpárt tekint-

hetünk.)

Meg kívánjuk fogalmazni és be akarjuk bizonyítani a feladatsor elején megfogalmazott nagy eltérés tételt független valószínűségi változók empirikus eloszlásfüggvényére. Az eloszlásfüggvények terében fogunk dolgozni. A nagy eltérés tétel megfogalmazásához be kell vezetni egy topológiát az eloszlások terében. Igyekszünk a nagy eltérés tételt minél gazdagabb topológiával ellátott térben bebizonyítani, mert így több esetben tudunk alsó vagy felső becslést adni az empirikus mértéknek egy előírt halmazba esésének a valószínűségére. Bár minket elsősorban valós értékű valószínűségi változók érdekelnek, nem jelent nehézséget, sőt egyszerűbb terminológiát tesz lehetővé, ha általánosabb mérhető térbeli értéket felvevő valószínűségi változókat tekintünk. Az alábbiakban definiált, úgynevezett τ-topológiát fogjuk tekinteni.

A τ-topológia definiciója. Legyen adva egy (Y, B) mérhető tér, és jelölje X az ezen a téren értelmezett (előjeles) mértékek halmazát vagy annak egy részhalmazát. A τ topológiát az X téren definiáljuk. A τ-topológiában a nyílt halmazokat a {μ: μ ∈ X, μ(B_{1}) ∈ G_{1}, …, μ(B_{k}) ∈ G_{k}} alakú halmazok generálják, ahol k tetszőleges természetes szám, B_{1}, …, B_{k} az (Y, B) tér mérhető halmazai, és G_{1}, …, G_{k} a számegyenes nyílt részhalmazai.

Megjegyzés: Ugyanezen τ topológia nyílt halmazainak a bázisát generálják a {μ: μ ∈ X, μ(B_{1}) ∈ G_{1}, …, μ(B_{k}) ∈ G_{k}} alakú halmazok, ahol {B_{1}, …, B_{k}} az (Y, B) tér véges particiói, és G_{1}, …, G_{k} a számegyenes nyílt részhalmazai. Ezt a tényt fel fogjuk használni néhány bizonyításban.

Nagy eltérés tétel empirikus mértékekre. Legyen adva egy (Y, B) mérhető tér, azon egy μ valószínűségi mérték, és legyen ξ_{1}(ω), ξ_{2}(ω), …, független, (Y, B) értékű, μ eloszlású valószínűségi változók sorozata egy (Ω, D, P) valószínűségi mezőn, azaz legyen P (ξ_{n} ∈ B) = μ(B) minden B ∈ B halmazra, n = 1, 2, . . .. Jelölje (X, X) az (Y, B) téren levő valószínűségi mértékek terét az X -topológiával. Jelölje A az X topológia által generált σ-algebrát az X téren. A (ξ_{1}(ω), …, ξ_{n}(ω)) valószínűségi változók által meghatározott (véletlen) μ_{n}(ω) empirikus mértéket a következőképp definiáljuk:

μ_{n}(ω)(B) = \frac{1}{n}#\{k: 1 ≤ k ≤ n, ξ_{k}(ω) ∈ B\} minden B ∈ B-re.

Ekkor μ_{n}(ω), ω ∈ Ω, tekinthető úgy, mint egy (X, X) térbeli értéket felvevő valószínűségi változó. Jelölje μ^{(n)} a μ_{n}(ω) empirikus mérték eloszlását az (X, X) téren, azaz legyen μ^{(n)}(A) = P (ω: μ_{n}(ω) ∈ A), ahol A ⊂ A, mérhető halmaz az (X, X) térben. A μ^{(n)}, n = 1, 2, …, mértékek sorozata teljesíti a nagy eltérés tételt az (X, X) topológikus téren az I(ν) = I(ν∥μ), ν ∈ X, függvénnyel, ahol I(ν∥μ) a ν mérték μ mérték szerinti I-divergenciáját jelöli.

Be fogjuk továbbá látni a nagy eltérés tétel i.), ii.) és iii.) tulajdonságát és ezenkívül azt, hogy az előbb definiált τ topológia teljesíti a T_{3} tulajdonságot, amelynek fogalmát felidéztük a nagy eltérés tétel definiciójában.

Az előbb kimondott tételnek, amelyet az irodalomban Szanov tételnek hívnak, fenti megfogalmazása kissé pontatlan. Nem teljesül ugyanis feltétlenül az a tulajdonság, hogy a μ_{n} empirikus mérték valószínűségi változó, azaz mérhető függvény. Sőt, a τ topológia elég gazdag ahhoz, hogy a legtermészetesebb esetekben is, például amikor számegyenesen definiált valószínűségi változókat tekintünk, nem lehet az (X, X) tér tetszőleges nyílt vagy zárt halmaza esetén annak valószínűségéről beszélni, hogy az empirikus mérték ebbe a halmazba esik. Erre a 26. feladatban példát is fogunk látni. Viszont a Szanov tétel érvényben marad, ha a nagy eltérés ii.) tulajdonságában (annak valószínűsége, hogy az empirikus mérték nyílt halmazba esik) belső mértékről a iii.) tulajdonságában pedig (annak valószínűsége, hogy az empirikus mérték zárt halmazba esik) külső mértékről beszélünk. Így a 19. feladatban μ^{(n)} belső mértéket, a 22., 23. és 24. feladatban pedig külső mértéket jelöl. Egy halmaz belső mértéke az általa tartalmazott mérhető halmazok mértékének a szuprémuma, külső mértéke pedig az őt tartalmazó halmazok mértékének az infimuma.

A következő ok miatt érdemes bevezetni a Szanov tétel megfogalmazásában külső és belső mértékeket. Jelölje A_{0} az X halmaz {μ: μ ∈ X, μ(B_{1}) ∈ G_{1}, …, μ(B_{k}) ∈ G_{k}} ⊂ X alakú részhalmazai által generált σ-algebrát, ahol k tetszőleges természetes szám, B_{1}, …, B_{k} az (Y, B) tér mérhető halmazai, és G_{1}, …, G_{k} a számegyenes nyílt részhalmazai. Be lehet látni, hogy tetszőleges A ∈ A_{0} halmazra és n = 1, 2, … számra az {ω: μ_{n}(ω) ∈ A} alakú halmazok az (Ω, D, P) valószínűségi mező D mérhető halmazai, ezért létezik valószínűségük. A Szanov tétel azt állítja, hogy az A_{0} σ-algebrában lévő zárt és nyílt halmazokra érvényesek a nagy eltérés tétel becslései a tételben definiált I(·) függvénnyel. De az (X, A) térben definiált A σ-algebrát nem csak az A_{0} σ-algebra definiciójában szereplő halmazok, hanem az összes nyílt halmaz generálja, ezért ez a σalgebra sokkal nagyobb, mint A_{0}. A 26. feladatban, — kihasználva, hogy kontinum sok nyílt halmaz uniója is nyílt — példát mutatunk olyan G nyílt halmazra az (X, X) térben, amely nem eleme az A_{0} σ-algebrának, és nem lehet definiálni a μ_{n}(G) = P (ω: μ_{n}(ω) ∈ G) valószínűséget. De lehet definiálni a μ_{n}(G) belső és μ_{n}(F) külső mértékeket nyílt G, illetve zárt F halmazokra, és a Szanov tétel érvényben marad ilyen halmazokra is, ha a fent említett módon belső és külső mértékekkel dolgozunk.

17.) Legyen (X, X) egy (Y, B) mérhető téren definiált valószínűségi mértékek tere a τ topológiával. Bizonyítsuk be, hogy ez a topológikus tér T_{3} tér, azaz tetszőleges μ ∈ X pontra és zárt F ⊂ X halmazra, amelyre μ ∉ F, létezik két diszjunkt G_{1} és G_{2} nyílt halmaz, amelyekre μ ∈ G_{1} és F ⊂ G_{2}. Továbbá az (X, X) tér teljesíti a következő T_{1} tulajdonságot is: Minden egy elemű, {μ}, μ ∈ X halmaz zárt.

18.) Legyen (Y, B) mérhető tér, (X, X) pedig az (Y, B) téren definiált valószínűségi mértékek tere a τ topológiával ellátva. Rögzítsünk egy μ ∈ X valószínűségi mértéket. Ekkor az I(ν∥μ) I-divergencia mint a ν ∈ X változó függvénye alulról félig folytonos.

Tekintsük azt a speciális esetet, amikor (Y, B) = (R^{1}, B), a számegyenes a Borel σ-algebrával. Vegyük az (R^{1}, B) téren definiált valószínűségi mértékek X halmazán azt a (τ-topológiánál durvább) τ_{0} topológiát, amelynek bázisát alkotják a {μ: μ ∈ X, μ(B_{1}) ∈ G_{1}, …, μ(B_{k}) ∈ G_{k}} alakú halmazok, ahol B_{1}, …, B_{k} szakaszok vagy félegyenesek a számegyenesen, és G_{1}, … G_{k} nyílt halmazok. Az I(ν∥μ) Idivergencia mint a ν ∈ X változó függvénye egy rögzített μ mértékkal a τ_{0} topológia szerint is alulról félig folytonos.

19.) Legyen adva egy (Y, B) mérhető tér, és legyen (X, A) az (Y, B) téren definiált valószínűségi mértékek tere a τ topológiával illetve az általa definiált σ-algebrával. Rögzítsünk egy μ ∈ X valószínűségi mértéket, és legyenek ξ_{1}, ξ_{2}, …, független egyforma eloszlású (Y, B) értékű valószínűségi változók μ eloszlással. Jelölje μ^{(n)}, n = 1, 2, …, a ξ_{1}(ω), …, ξ_{n}(ω) valószínűségi változók empirikus eloszlásának (mint (X, A) értékű valószínűségi változónak) az eloszlását az (X, A) téren. Ekkor a μ^{(n)} mértékek teljesítik a nagy eltérés tétel ii.) tulajdonságát is az I(·∥μ) I-divergenciá-val, azaz tetszőleges nyílt G ⊂ X halmazra

lim sup_{n→∞} −\frac{1}{n} log μ^{(n)}(G) ≤ inf_{ν∈G} I(ν∥μ).

A nagy eltérés utolsó feltételének a bizonyítása, — zárt halmazok valószínűségének a felső becslése, — finomabb érvelést igényel. A problémát az okozza, hogy hiába tudunk a ,,nagyon nem tipikus” pontok kis környezeteinek a valószínűségére jó becslést adni, ezek uniójának a valószínűségére az ilyen becslések önmagukban nem elegendőek. Természetes gondolat valamilyen jó approximációval és véges fedéssel megpróbálni ezt a problémát megoldani. Ez a módszer akkor működik, ha a becsülendő halmaz nemcsak zárt, hanem kompakt is. A 20. feladatban elégséges feltételt adunk arra, hogy egy zárt halmaz kompakt legyen. Ezután bebizonyítjuk a nagy eltérés tétel iii.) tulajdonságát kompakt halmazokra, illetve megmutatjuk, hogy általános zárt halmazok valószínűségének a becslése visszavezethető egy minimax tételre. Végül ezt a minimax tételt bizonyítjuk be.

20.) Legyen (Y, B) mérhető tér, (X, X) az (Y, B) téren definiált valószínűségi mértékek tere a τ topológiával. Legyen μ ∈ X tetszőleges valószínűségi mérték, R > 0 pozitív valós szám. Ekkor a {ν: ν ∈ X, I(ν∥μ) ≤ R} halmaz kompakt.

21.) Az (X, X) tér a τ topológiával T_{ρ} tér. (E fogalom definicióját felidéztük a 3. feladat definiciójában.)

A 21. feladat állítására nem lesz a továbbiakban szükségünk. E feladat célja az volt, hogy megmutassuk: esetünkben is alkalmazható a 3. feladat eredménye. A bizonyítás néhány alapvető topológiai eredményből és egy az előző feladatban is alkalmazott konstrukcióból következik.

A következő feladatban a nagy eltérés tétel iii) tulajdonságának egy gyengített változatát bizonyítjuk be. Ebben zárt halmazok helyett csak kompakt halmazokat tekintünk. Először egy általánosabb állítást bizonyítunk be arról, hogy ez a reláció teljesül Q_{n} mértékek egy sorozatára az (X, A) téren egy I(ν), ν ∈ X, függvénnyel alkalmas feltételek teljesülés esetén. Aztán megmutatjuk, hogy ezek a feltételek teljesülnek a mi esetünkben is.

22.) Legyen (Y, B) egy mérhető tér, (X, X) az (Y, B) téren értelmezett valószínűségi mértékek tere a τ topológiával, A az X topológia által generált σ-algebra az X téren. Legyen Q_{n}, n = 1, 2, …, valószínűségi mértékek egy sorozata az (X, A) téren, és I(·) alkalmasan választott nem negatív függvény (X, X)-en, amely a +∞ értéket is felveheti. Tegyük fel, hogy minden ν ∈ X mértékre és ε > 0 számra létezik a ν pontnak olyan G(ν, ε) nyílt környezete, amelyre lim inf_{n→∞} −\frac{1}{n} log Q_{n}(G(ν, ε)) >

I(ν)−ε, ha I(ν) < ∞ és lim inf_{n→∞} −\frac{1}{n} log Q_{n}(G(ν, ε)) > \frac{1}{ε}, ha I(ν) = ∞. Ekkor a Q_{n} mértéksorozat és az I(·) függvény teljesíti a nagy eltérés tétel iii.) tulajdonságának következő gyengített alakját: iii′.) lim inf_{n→∞} −\frac{1}{n} log Q_{n}(K) ≥ inf_{ν∈K} I(ν) minden kompakt K ⊂ X halmazra.

Legyen Q_{n} n független μ eloszlású valószinűségi változóból készített μ_{n} = μ_{n}(ω) empirikus mérték μ^{(n)} eloszlása az (X, A) téren, és I(·) = I(·∥μ). Ezzel a választással alkalmazhatjuk a feladat első részének az eredményét, mert teljesülnek az ott előírt feltételek.

A nagy eltérés tétel bizonyítása zárt, de nem kompakt halmazokra nehezebb. Ez a probléma a nagy eltérés tétel bizonyításának egyik legnehezebb pontja az általános (nem feltétlenül független minta empirikus eloszlását vizsgáló) esetben is. A következő két feladat célja ennek a problémának a megoldása. Az első feladat egy viszonylag egyszerű, természetes módon bizonyítható becslést ad a minket érdeklő kifejezésre alkalmas “diszkretizáció” segítségével. Közvetlenül nem annak a valószínűségét vizsgáljuk, hogy a tekintett empirikus eloszlás beleesik-e egy (esetleg bonyolult) zárt halmazba. Ehelyett az empirikus mérték vetületeit tekintjük véges particiókra, és azt becsüljük, hogy ezek a vetületek milyen valószínűséggel esnek bizonyos a feladat jellegéből kifolyólag természetes módon definiált halmazokba. Ez lényegesen egyszerűbb feladat, (valójában a 12. feladat eredményét kell alkalmaznunk), és ez az eljárás vezet a 23. feladatban megadott becsléshez. Annak megmutatása, hogy az így kapott becslés lehetővé teszi a nagy eltérés tételben szereplő iii.) tulajdonság bizonyítását lényegesen nehezebb probléma. Ez egy minimax jellegű eredményből következik, amelyiket a 24. feladat megoldásában bizonyítunk be.

23.) Legyen (Y, B) mérhető tér, (X, X) az (Y, B) téren értelmezett valószínűségi mértékek tere a τ topológiával, A az ezen topológia által generált σ-algebra az X téren. Legyen μ ∈ X valószínűségi mérték, μ^{(n)} e mérték n-szeres direkt szorzata önmagával, μ_{n} = μ_{n}(ω) ∈ X, n = 1, 2, …, n darab független μ eloszlású valószínűségi változó empirikus eloszlása, F ⊂ X az (X, A) tér zárt részhalmaza. Ekkor

lim inf_{n→∞} −\frac{1}{n} log μ^{(n)}(μ_{n} ∈ F) ≥ sup_{C∈C^{∗}} inf_{ν_{C}∈[F_{C}]} I (ν_{C}∥μ_{C}) ,

ahol C^{∗} jelöli az (Y, B) tér összes C = {C_{1}, …, C_{k}} véges (mérhető) particióját. A ν_{C} illetve a μ_{C} mérték egy ν ∈ X illetve a kezdetben rögzített μ ∈ X mérték és egy C = {C_{1}, …, C_{k}} ∈ C^{∗} partició esetén az a mérték (egy véges {x_{1} …, x_{k}} halmazon), amelyre ν_{C}({x_{j}}) = ν(C_{j}), illetve μ_{C}({x_{j}}) = μ(C_{j}), és x_{j} ∈ C_{j}, j = 1, …, k, egy a C particióhoz rögzített pontrendszer. Egy F ⊂ X halmaz F_{C} vetülete egy C particióra a ν_{C} mértékekekből álló halmaz az Y_{C} = {x_{1}, …, x_{k}} (véges) halmazon, ahol ν ∈ F, és x_{j} ∈ C_{j}, j = 1, …, k, a C = {C_{1}, …, C_{k}} halmazhoz kijelölt pontrendszer. Az [F_{C}] halmaz az F_{C} halmaz lezártja az (X_{C}, X_{C}) téren. Az (X_{C}, X_{C}) tér az (Y_{C}, B_{C}), (B_{C} jelöli a diszkrét topológiát) mérhető téren értelmezett valószínűségi mértékek tere a τ topológiával.

24.) Az előző feladat jelölésével

sup_{C∈C^{∗}} inf_{ν_{C}∈[F_{C}]} I (ν_{C}∥μ_{C}) ≥ inf_{ν∈F} sup_{C∈C^{∗}} I (ν_{C}∥μ_{C}) = inf_{ν∈F} I(ν∥μ).  (4)

Bizonyítsuk be e formula segítségével a Szanov tételben megfogalmazott nagy eltérés tétel iii.) tulajdonságát.

Az előző feladatokban egy zárt F halmaz F_{C} vetületét vettük egy C particióra, majd annak [F_{C}] lezártját tekintettük. Bár erre a bizonyítás helyességének igazolásához nincs szükség, érdemes példát látni arra, hogy ez a lezárás valódi operáció, azaz lehetséges, hogy F zárt, de F_{C} nem zárt halmaz. 25.) Konstruáljunk (Y, B) mérhető teret, az (Y, B) téren értelmezett valószínűségi mér-

tékek (X, X) terén a τ topológiával egy zárt F halmazt és egy C véges particiót az (Y, B) téren, amelyre az F_{C} halmaz nem zárt. (A 23. feladatban bevezetett fogalmakat használjuk.) Mutassuk meg, hogy a következő példa teljesíti ezeket a feltételeket: (Y, B) a [0, 1] intervallum a Borel σ-algebrával, F = {ν_{k}, k = 2, 3, … }, ahol a ν_{k} mérték a következő: ν_{k} (\{\frac{1}{k} \}) = 1 − \frac{1}{k}, ν_{k} (\{\frac{3}{4}\}) = \frac{1}{k}; C = \{C_{1}, C_{2}\}, C_{1} = [0, \frac{1}{2}], C_{2} = (\frac{1}{2}, 1] választással.

26.) Legyen (Y, B) mérhető tér, (X, X) az ezen a téren értelmezett valószínűségi mértékek tere a τ topológiával. Legyenek ξ_{1}(ω), …, ξ_{n}(ω) független, egyforma eloszlású Y értékű valószínűségi változók egy (Ω, D, P) valószínűség mezőn. Ha

{ξ_{1}(ω), …, ξ_{n}(ω)} = {y_{1}, …, y_{n}} ∈ Y^{n},

akkor jelölje μ_{n}(ω) = μ_{n}(y_{1}, …, y_{n}) ezeknek a valószínűségi változóknak az empirikus eloszlásfüggvényét az ω ∈ Ω pontban. Tetszőleges B ⊂ Y (nem feltétlenül mérhető) halmaz és n pozitív egész szám esetén lehet definiálni olyan G = G(B, n) nyílt halmazt az (X, X) térben, amelyre az {ω: μ_{n}(ω) ∈ G} és az

{ω: ξ_{k}(ω) ∈ B, minden k = 1, …, n}

események megegyeznek. Ennek az észrevételnek a segítségével mutassunk példát arra, hogy az {ω: μ_{n}(ω) ∈ G} eseménynek nem minden (a τ topológia szerint) nyílt G halmazra van valószínűsége.

27.) Bizonyítsuk be a 15. feladat állítását (a (+1) és (+2) relációkat) a Szanov tétel segítségével.

Megoldások.

1.) Tekintsünk először egy olyan x ∈ X pontot, amelyre I(x) < ∞. Az I(·) alulról félig folytonossága miatt sup_{G: x∈G, G nyílt} inf_{y∈G} I(y) = I(x). Továbbá azt állítom, hogy

mivel a topológia T_{3} tipusú, ezért sup_{F: x∈Int F, Fzárt} inf_{y∈F} I(y) = I(x). Valóban, tetsző-

leges ε > 0 számhoz létezik olyan nyílt G, x ∈ G, halmaz, amelyre inf_{y∈G} I(y) ≥

I(x) − ε. Továbbá a topológia T_{3} tulajdonsága miatt létezik olyan zárt F_{0} halmaz, amelyre x ∈ Int F_{0} ⊂ F_{0} ⊂ G. Valóban, a T_{3} tulajdonság miatt léteznek olyan diszjunkt, nyílt G_{1} és G_{2} halmazok, amelyekre x ∈ G_{1}, és X \ G ⊂ G_{2}. Ekkor F_{0} = X \ G_{2} teljesíti a kívánt tulajdonságokat. Ezért sup_{F: x∈Int F, F zárt} inf_{y∈F} I(y) ≥

inf_{y∈F_{0}} I(x) ≥ I(x) − ε. A másik írányú becslés nyílvánvaló.

Ezekből a relációkból és a nagy eltérés tételből következik, hogy

sup_{G: G nyílt halmaz x∈G} lim sup_{n→∞} −\frac{1}{n} log μ_{n}(G) ≤ I(x)

sup_{F: F zárt halmaz x∈Int F} lim inf_{n→∞} −\frac{1}{n} log μ_{n}(F) ≥ I(x).

Rögzítsünk egy kis ε > 0 számot. Legyen F, x ∈ Int F, olyan zárt halmaz, amelyre lim inf_{n→∞} −\frac{1}{n} log μ_{n}(F) ≥ I(x) − ε. Ekkor egy x ∈ G ⊂ int F halmazra

lim sup_{n→∞} −\frac{1}{n} log μ_{n}(G) ≥ lim inf_{n→∞} −\frac{1}{n} log μ_{n}(F) ≥ I(x)−ε. Mivel ez az állítás tetszőle-

ges ε > 0 számra és alkalmas G nyílt halmazra igaz, a fenti becslésekből következik a bizonyítandó állítások első fele. Az állítás másik fele hasonlóan bizonyítható. Létezik olyan G, x ∈ G nyílt halmaz, amelyre lim sup_{n→∞} −\frac{1}{n} log μ_{n}(G) ≤ I(x) + ε.

Legyen F a G halmaz lezártja. Ekkor x ∈ Int F, és

lim inf_{n→∞} −\frac{1}{n} log μ_{n}(F) ≤ lim sup_{n→∞} −\frac{1}{n} log μ_{n}(F) ≤ I(x) + ε.

Innen következik a feladat másik állítása. Az I(x) = ∞ eset az előző esethez hasonlóan néhány természetes változtatással bizonyítható.

2.) Lássuk be először az alsó becslést. Rögzített ε > 0 számhoz válasszunk olyan x_{0} ∈ X pontot, amelyre g(x_{0}) − I(x_{0}) > sup_{x∈X}{g(x) − I(x)} − ε. Mivel a g(x)

függvény folytonos, létezik az x_{0} pontnak olyan G ⊂ X nyílt környezete, amelyre g(x) > g(x_{0}) − ε, ha x ∈ G. Ezen egyenőtlenségből, az x_{0} ∈ G relációból és a nagy eltérés tétel definiciójának ii) relációjából következik, hogy minden ε > 0 számhoz létezik olyan n_{0} = n_{0}(ε) küszöbindex, amelyre μ_{n}(G) > sup_{x∈G} e^{−n(I(x)−ε)} > e^{−n(I(x_{0})−ε)}, és

∫ e^{ng(x)} dμ_{n}(x) ≥ ∫_{G} e^{ng(x)} dμ_{n}(x) ≥ e^{n(g(x_{0})−ε)}μ_{n}(G)

≥ e^{n(g(x_{0})−I(x_{0})−2ε)} ≥ sup_{x∈X} e^{n(g(x)−I(x)−3ε)},

ha n ≥ n_{0}(ε). Mivel ε > 0 tetszőleges, innen következik, hogy

lim inf \frac{1}{n} log ∫ e^{ng(x)} dμ_{n}(x) ≥ sup_{x∈X}\{g(x) − I(x)\}.

A felső becslés bizonyítása érdekében rögzítsünk egy elég kis ε > 0 számot, és definiáljuk az F(k) = F(k, ε)

F(k) = {x: x ∈ X, kε ≤ g(x) ≤ (k + 1)ε}

halmazokat, −\frac{1}{ε} sup |g(x)| ≤ k < \frac{1}{ε} sup |g(x)| indexekre. Az F(k) halmazok zártak, és x ∈ F_{k} esetén −I(x) = g(x) − I(x) − g(x) ≤ sup_{x∈X}{g(x) − I(x)} − kε. Ezért elég nagy n-re

∫_{F(k)} e^{ng(x)} dμ_{n}(x) ≤ e^{n(k+1)ε}μ_{n}(F(k))

≤ exp {n [(k + 1)ε + sup_{x∈X}{g(x) − I(x)} − kε + ε]}

= exp {n [sup_{x∈X}{g(x) − I(x)} + 2ε]} .

Ezeket az egyenlőtlenségeket összeadva az összes (véges sok) k-ra, és kihasználva, hogy ε > 0 tetszőleges, megkapjuk a kívánt felső becslést.

3.) A ii.) tulajdonság belátása érdekében egy G ⊂ X nyílt halmaz esetében tetszőleges ε > 0-hoz tekintsünk olyan x ∈ G pontot, amelyre I(x) < inf_{u∈G} I(u) + ε, és legyen

g(·) olyan folytonos függvény az X téren, amelyre g(x) = 0, g(u) = −\frac{1}{ε}, ha u ∉ G, és g(u) ≤ 0 minden u ∈ X-re. Ilyen g(·) függvény valóban létezik, mert véve egy h(·) függvényt, amelyre h(x) = 0, h(u) ≥ 0 minden u ∈ X pontban, h(u) = 1, ha u ∉ G, akkor definiáljuk a h_{1}(u) = min\{h(u), 1\}, g(u) = −\frac{1}{ε}h_{1}(u) függvényeket. Ez a g(·) függvény teljesíti a kívánt feltételeket. Ekkor

μ_{n}(G) ≥ ∫_{X} e^{ng(u)}μ_{n}( du) − ∫_{X\G} e^{ng(u)}μ_{n}( du) ≥ ∫_{X} e^{ng(u)}μ_{n}( du) − e^{−n/ε},

ezért

−\frac{1}{n} log μ_{n}(G) ≤ −\frac{1}{n} log [∫ e^{ng(u)} μ_{n}(du) − e^{−n/ε}] .

Legyen A = inf_{u∈G} I(u). Ha A = ∞, akkor lim sup −\frac{1}{n} log μ_{n}(G) ≤ ∞ = inf_{x∈G} I(x).

Ha A < ∞, akkor

∫ e^{ng(u)} μ_{n}(du) ≥ exp {n (sup_{u∈G}(g(u) − I(u)) − ε)} ≥ e^{n(g(x)−I(x)−ε)} ≥ e^{−n(A+2ε)}

elég nagy n-re. Ezért

lim sup −\frac{1}{n} log μ_{n}(G) ≤ lim sup −\frac{1}{n} log\{e^{−n(A+2ε)} − e^{n/ε}\}

≤ lim sup −\frac{1}{n} log e^{−n(A+2ε)} + lim sup −\frac{1}{n} log(1 − e^{−n/ε+n(A+2ε}) = A + 2ε

minden elég kis ε > 0 számra. Innen lim sup −\frac{1}{n} log μ_{n}(G) ≤ A = inf_{x∈G} I(x).

A iii′.) tulajdonság bizonyítása érdekében minden x ∈ K ponthoz és ε > 0 számhoz definiálunk egy alkalmas g_{x,ε} = g_{x,ε}(u) folytonos és korlátos függvényt az (X, X) téren. Minden x ∈ K pontra definiáljuk az F(x) = {z: I(z) ≤ I(x) − ε}, ha I(x) < ∞, és F(x) = {z: I(z) ≤ ε^{−1}}, ha I(x) = ∞ halmazokat. Mivel az I(·) függvény alulról félig folytonos, ezért az F(x) halmazok zártak. Ezért létezik olyan folytonos g_{x,ε} függvény az (X, X) téren, amelyre g_{x,ε}(x) = ε, g_{x,ε}(u) = −I(x) az u ∈ F(x) pontokban, ha I(x) < ∞, és az I(x) = ∞ esetben g_{x,ε}(x) = ε, g_{x,ε}(u) = −\frac{2}{ε}, ha u ∈ F(x). Továbbá g_{x,ε}(u) ≤ ε minden u ∈ X-re. (Ilyen függvények konstrukciója azért lehetséges, mert az (X, X) tér T_{ρ} tér.) Definiáljuk az x pont U(x) = U(x, ε) = {z: g_{x,ε}(z) > 0} nyílt környezetét. Mivel az U(x) halmazok a K kompakt halmaz fedését adják, létezik véges sok x_{1}, …, x_{k} pont, amelyekre a U(x_{j}), j = 1, …, k halmazok lefedik a K halmazt. Legyen g_{j}(u) = g_{x_{j},ε}(u), j = 1, …, k. Ekkor

μ_{n}(K) ≤ ∑_{j=1}^{k} μ_{n}(U(x_{j})) ≤ ∑_{j=1}^{k} ∫_{U(x_{j})} e^{ng_{j}(u)} μ_{n}(du) ≤ ∑_{j=1}^{k} ∫ e^{ng_{j}(u)} μ_{n}(du).

Továbbá elég nagy n-re

∫ e^{ng_{j}(u)} μ_{n}(du) ≤ exp {n (sup_{u∈X}[g_{j}(u) − I(u)] + ε)}
≤ e^{n(3ε−I(x_{j}))} ha I(x_{j}) < ∞,

mert u ∈ F(x_{j})-re g_{j}(u) − I(u) ≤ −I(x_{j}) − I(u) ≤ −I(x_{j}), és u ∉ F(x_{j})-re g_{j}(u) − I(u) ≤ g_{j}(u) − [I(x_{j}) − ε] ≤ 2ε − I(x_{j}). Hasonlóan,

∫ e^{ng_{j}(u)} μ_{n}(du) ≤ e^{n(2ε−1/ε)}, ha I(x_{j}) = ∞.

Ezért

\frac{1}{n} log μ_{n}(K) ≤ \frac{const.}{n} − min (\frac{1}{ε}, min_{I(x_{j})<∞} I(x_{j})) + 3ε ≤ − min (\frac{1}{ε}, inf_{u∈K} I(u)) + 4ε

elég nagy n-re. Innen következik a iii′.) tulajdonság. 4.) Az I(x) függvény definiciójából következik, hogy az monoton nő. Továbbá, ha

I(z) < ∞, Eξ < z, akkor minden kis ε > 0 számra létezik olyan t > 0 szám, amelyre I(z) < tz − log R(t) + ε, és létezik egy ε-tól független δ = δ(z) szám úgy, hogy az előző egyenlőtlenséget kielégítő (ε, t) párra t > δ. Valóban, mivel z > Eξ_{1}, I(z) > η alkalmas η > 0 számra, és ha ε < \frac{η}{2} , akkor a tz −log R(t) > \frac{η}{2} feltételnek teljesülnie kell. De mivel lim_{t→0}(tz − log R(t)) = 0 ez csak úgy lehetséges, ha t > δ alkalmas δ =

δ(z) számmal. Adva egy (y, x) pár, amelyre Eξ < y < x válasszunk egy ε < (x−y)δ, δ = δ(y) számot, amelyre létezik olyan t > δ szám, hogy I(y) < ty − log R(t) + ε. Ekkor I(y) < tx − log R(t) − t(x − y) + ε ≤ I(x) + ε − δ(x − y) < I(x). Az I(·) függvény baloldali folytonosságának bizonyítása érdekében egy olyan x számra, amelyre I(x) < ∞, x > Eξ egy elég kis ε > 0-ra válasszunk olyan t számot, melyre I(x) < tx − log R(t) + ε. Legyen y olyan szám, amelyre y < x és x − y < \frac{ε}{t}. Ekkor I(x) ≥ I(y) ≥ t(y − x) + tx − log R(t) ≥ I(x) − ε − t(x − y) ≥ I(x) − 2ε. Innen következik a kívánt folytonosság. Végül, mivel a tx − log R(t) függvény minden rögzített t-re konvex (sőt líneáris) függvény, ezért I(x) = sup_{t≥0}(tx − log R(t)) is

konvex függvény. Innen következik az I(x) függvény jobbról való folytonossága az adott feltételek mellett. Ha ugyanis I(x) < I(x + 0) < ∞ lenne valamely x ≥ Eξre, akkor a szigorú lim_{ε→0} I(x + ε) > lim_{ε→0} \frac{I(x)+I(x+2ε)}{2} egyenlőtlenség teljesülne, és ez

ellentmond az I(·) függvény konkvexitásának. 5.) A nagy eltérés tétel i.) tulajdonsága, az hogy az I(·) függvény alulról félig folytonos

közvetlenül kiolvasható az előző feladat eredményéből. Ha G nyílt halmaz, válasszunk tetszőleges ε > 0-ra olyan z ∈ G pontot, amelyre I(z) < inf_{x∈G} I(x) + ε, és legyen h > 0 olyan szám, amelyre [z, z + h] ∈ G ha z ≥ Eξ_{1},

és [z − h, z] ∈ G, ha z < Eξ_{1}. Ekkor

lim sup_{n→∞} \frac{1}{n} log P (\frac{S_{n}}{n} ∈ G) ≥ lim sup_{n→∞} \frac{1}{n} log P (\frac{S_{n}}{n} ∈ [z, z ± h]) = I(z).

Az utolsó azonosság belátásához elég bebizonyítani azt, hogy I(z) < I(z + h), ha z ≥ Eξ_{1} és I(z) < ∞, és I(z) < I(z − h), ha z < Eξ_{1} és I(z) < ∞. Ezt az állítást viszont az x > Eξ_{1} beláttuk a 4. feladatban. Az x < Eξ_{1} hasonlóan bizonyítható, vagy következik az előző esetből, azt alkalmazva a −ξ_{1} valószínűségi változóra. Ezért igaz a nagy eltérés tételben szereplő ii.) tulajdonság. Egy F zárt halmazt írjunk fel F = F_{1} ∪ F_{2} alakban, ahol F_{1} = F ∩ {x ≥ Eξ_{1}}, F_{2} = F ∩ {x ≤ Eξ_{1}}. A iii.) állítást elég belátni az F_{1} és F_{2} halmazokra. Legyen z = min{x: x ∈ F_{1}}. Ekkor a Nagy eltérések elmélete; Független, valós értékű valószínűségi változók feladatsor 19. feladata alapján

lim inf_{n→∞} −\frac{1}{n} log P (\frac{S_{n}}{n} ∈ F_{1}) ≥ lim inf_{n→∞} −\frac{1}{n} log P (S_{n} ≥ z) = I(z).

Viszont I(z) = inf_{x∈F} I(x), mert az I(x) függvény monoton nő.

6.) Tekintsük először csak azt az esetet, amikor a ξ_{1} valószínűségi változónak létezik várható értéke. Először azt látjuk be, hogy az I(x) függvény alulról félig folytonos. Ha Ee^{tξ} < ∞ alkalmas t > 0-val, akkor a 4. feladat eredményéből következik ez az állítás x ≥ Eξ_{1}-re. Továbbá lim_{x→Eξ_{1}} I(x) = 0. Alkalmazva ezt az eredményt a

−ξ_{1} valószínűségi változóra, kapjuk az analóg állítást x ≤ Eξ_{1} esetén, ha Ee^{tξ_{1}} < ∞ alkalmas t < 0-ra. Mivel a többi esetben I(x) = 0, ezekből az állításokból következik a nagy eltérés tétel i.) tulajdonsága. Tekintsük a ii.) tulajdonságot először olyan G nyílt halmazokra, amelyek tartalmazzák a (véges) Eξ_{1} várható értéket. Ebben az esetben a nagy számok törvénye alapján P (\frac{S_{n}}{n} ∈ G) → 1, ezért a ii.) tulajdonság teljesül. Ha Eξ ∉ G, akkor ε > 0-ra létezik olyan u ∈ G és [a, b] ⊂ G intervallum, amelyre I(u) ≤ inf_{x∈G} I(x) + ε,

u ∈ [a, b] és [a, b] ⊂ (Eξ_{1}, ∞) vagy [a, b] ⊂ (−∞, Eξ_{1}). Elég az első esetet vizsgálni, mert a második eset a −ξ_{k} valószínűségi változók bevezetésével visszavezethető erre az esetre. Ha Ee^{tξ_{1}} < ∞ alkalmas t > 0-ra, akkor ez következik az I(x) függvény 4. feladatban belátott szigorú monotonításából. Ha pedig ez a tulajdonság nem teljesül, akkor a a Nagy eltérések elmélete; Független, valós értékű valószínűségi változók feladatsor 15. feladatának eredménye alapján \frac{1}{n} log P (\frac{S_{n}}{n} ∈ [a, b]) → 0, ha n → ∞, és innen következik az állítás az adott esetben. Hasonlóan az előző feladat érveléséhez, elég a iii.) tulajdonságot abban az esetben belátni, ha az F zárt halmaz teljesíti az F ⊂ [Eξ_{1}, ∞) vagy az analóg módon tárgyalható F ⊂ (−∞, Eξ_{1}] tulajdonságot. Ha Ee^{tξ_{1}} < ∞ alkalmas t > 0-ra, akkor ez az állítás az előző feladat bizonyításából kiolvasható, viszont ha ez a tulajdonság nem teljesül, akkor az állítás nyílvánvaló, mert ekkor I(x) = 0 minden x ≥ Eξ_{1}-re. Végül, ha a ξ_{1} valószínűségi változónak nincs várható értéke, akkor I(x) = 0 minden x-re. Ezért a i.) és iii.) tulajdonság ebben az esetben nyílvánvaló. A ii.) tulajdonság pedig következik a Nagy eltérések elmélete; Független. valós értékű valószínűségi változók feladatsor 15. feladatának eredményéből.

7.) Az adott feltételek mellett a Nagy eltérések elmélete; Független, valós értékű valószínűségi változók feladatsor 8. feladata alapján [log R(0)]′ = −∞. Továbbá a log R(t) konvexitása és folytonossága valamint a log R(0) = 0 reláció miatt minden ε > 0-ra létezik olyan t_{0} = δ(ε).) szám, hogy log R(t) > −ε, ha 0 ≤ t_{0} ≤ t_{0}, és log R(t) ≥ log R(t_{0}) + (t − t_{0})[log R(t_{0})]′ ≥ −ε − K(ε)t, ha t ≥ t_{0} alkalmas K(ε) számmal. Ezért, ha x < −K(ε), akkor tx − log R(t) < ε minden t ≥ 0 esetén. Mivel ez az egyenlőtlenség igaz minden ε > 0-ra, és log R(0) = 0, így t = 0-ra tx − log R(t) = log R(0) minden x számra innen következik a feladat állítása.

8.) A 6. feladat eredményének felhasználása után azt kell belátni, hogy

lim inf_{n→∞} −\frac{1}{n} log μ_{n}(G) ≥ inf_{x∈G} I(x)

minden nyílt G halmazra, ahol μ_{n} egy ξ_{k}, k = 1, 2, …, független, egyforma eloszlású valószínűségi változókból álló sorozat első n eleméből készített átlag eloszlása, és I(·) a μ_{n}, n = 1, 2, …, mértéksorozatra érvényes nagy eltérés tétel I(·) függvénye. Ha Eξ_{1} ∈ G, akkor a bizonyítandó egyenlőtlenség érvényes, mert ekkor inf_{x∈G} I(x) =

0. Ezért elég azt a két esetet nézni, amikor G ∈ (−∞, Eξ_{1}) vagy G ∈ (ξ_{1}, ∞). Mivel az I(·) függvény mind a két félegyenesen monoton függvény, ezért mind a két esetben teljesülnek a G ⊂ G′ = (x′, x′′) és inf_{x∈G} I(x) = inf_{x∈G′} I(x) relációk, ahol

x′ = inf{x: x ∈ G} és x′′ = sup{x: x ∈ G}. Ezért a kívánt állítást elég ilyen G′ nyílt intervallumra belátni (esetleg ±∞ végpontokkal). Ez viszont kiolvasható a nagy eltérés tétel alakjából független egyforma eloszlású valószínűségi változók összegére. Definiáljuk az ellenpéldát a következő módon:

μ_{n}(0) = 2^{−1}, μ_{n} (j2^{−n^{2}}) = 2^{−(n+1)}, j = 1, 2 …, 2^{n},

és legyen I(0) = 0, és I(x) = ∞, ha x ≠ 0. Ekkor I(x) alulról félig folytonos függvény, tehát teljesül az i.) reláció. A iii.) reláció is teljesül, mert egy zárt F halmazra vagy 0 ∈ F, amely esetben lim sup_{n→∞} −\frac{1}{n} log μ_{n}(F) = 0 vagy F nem

tartalmazza a 0 egy kis környezetét, és ekkor μ_{n}(F) = 0 elég nagy n-re. A ii) reláció teljesül tetszőleges (nem feltétlenül nyílt) G halmazra, mert vagy 0 ∈ G, amely esetben μ_{n}(G) ≥ \frac{1}{2} minden n-re vagy 0 ∉ G, és ekkor inf_{x∈G} I(x) = ∞. Végül

a ii.) relációban nem lehet azonosságot írni, mert a nyílt G = R^{1} − {0} halmazra μ_{n}(G) = \frac{1}{2}, tehát lim inf_{n→∞} −\frac{1}{n} log μ_{n}(G) = 0.

9.) Mivel log(1 + v) ≤ v, 0 ≤ v ≤ 1 esetben, és egyenlőség csak v = 0 esetén van,

I(ν∥μ) = − ∫ log \frac{dμ}{dν}(u) dν(u) ≥ − ∫ \frac{d(μ − ν)}{dν}(u) dν(u)
= ∫ dμ(u) − ∫ dν(u) = 0,

ha ν abszolút folytonos a μ mértékre nézve, és egyenlőség csak ν = μ esetben áll fenn. Ha ν nem abszolút folytonos, akkor ez az állítás nyílvánvaló.

Ha az R(t) = ∫ e^{tu} dF (u) integrál véges, akkor definiáljuk az F_{t}(du) = \frac{e^{tu}F (du)}{R(t)} valószínűségi mértéket. Ekkor ∫ u dG(u) = x esetén

I(G∥F) = ∫ log \frac{dF_{t}(u)}{dF (u)} dG(u) + ∫ log \frac{dG(u)}{dF_{t}(u)} dG(u) = tx − log R(t) + I(G∥F_{t}),

ahonnan I(G∥F) ≥ tx − log R(t), és egyenlőség csak G = F_{t} esetén áll fenn. Innen következik, hogy a bizonyítandó (a) azonosság baloldala mindig nagyobb vagy egyenlő mint a jobboldal. Továbbá, mivel ∫ u dF_{t}(u) = [log R(t)]′ a [log R(t)]′ = x megoldhatósága esetén mind a bal mind a jobboldal felveszi a szélsőértéket a feladatban leírt esetben és a két kifejezés egyenlő.

10.) Be kell látni az (a) azonosság még hiányzó felét, azaz az inf ; G: ∫ u dG(u)≥x I(G∥F) ≤

sup_{t≥0}(tx − log R(t)) + ε egyenlőtlenséget minden ε > 0 számra abban az esetben, ha

a [log R(t)]′ = x egyenlet nem oldható meg. Az R(t) momentumgeneráló függvény vizsgálatában, (a Nagy eltérések elmélete; Független, valós értékű valószínűségi változók feladatsor (8., 12., 14. és 15. feladatainak) eredményeiből következik, hogy a következő eseteket kell vizsgálni: a.) Az R(t) momentumgeneráló függvény egy véges jobbról zárt [0, T] intervallumban van definiálva, és [log R(T)]′ = m_{T} ≤ x, b.) Az R(t) függvény értelmezve van az egész [0, ∞] félegyenesen, de lim_{t→∞}[log R(t)]′ = m ≤ x. c.) Minden t > 0 esetén R(t) = ∞. Az a.) esetben az (a) azonosság jobboldala t = T pontban veszi fel a szuprémumát. Elég belátni, hogy ha x > m_{T}, akkor tetszőleges ε > 0-ra létezik olyan G eloszlás, amelyre x + ε ≥ ∫ u dG(u) ≥ x, és I(G∥F_{T}) < ε, ahol m_{T} = ∫ u dF_{T} (u). Ekkor ugyanis I(G∥F) = T ∫ u dG(u) − log R(T) + I(G∥F_{T}) ≤ T (x + ε) − log R(T) + ε. Teljesül továbbá az ∫ e^{tu}dF_{T} (u) = ∞ feltétel minden t > 0 esetén, és a G eloszlásfüggvény konstrukciójában az F_{T} eloszlásnak ezt a tulajdonságát fogjuk használni. Ezért az a.) és c.) esetet, ahol ugyanezt az egyenlőtlenséget kell bizonyítani T = 0 választással, egyszerre vizsgálhatjuk. Feltehetjük, hogy a szigorú egyenlőtlenség x > m_{T}, illetve x > m teljesül, (m_{T} = ∫ u dF_{T} (u), m = ∫ u dF (u),) mert x = m_{T}, illetve x = m esetén G = F_{T} és G = F kielégíti a kívánt egyenlőtlenséget. A konstrukció megadása érdekében az x > m_{T} és x > m esetben vegyük észre, hogy az a.) esetben minden elég kis ε′ > 0 számra léteznek olyan K_{1} > 0 és K_{2} > 0 számok, amelyekre μ_{1} = μ([−K_{1}, K_{2}]) = F_{T} (K_{2}) − F_{T} (−K_{1}) > 1 − ε′, ∫_{−K_{1}}^{K_{2}} u dF_{T} (u) < m_{T} < xμ_{1}, és hasonló állítás érvényes a c.) esetben is. Valóban, K_{1} > 0-t és K_{2} > 0-t elég nagynak választva teljesíthetjük az első feltételt, és mivel 1 − F_{T} (K_{2}) > 0, a K_{1} > 0 konstansot még nagyobbra választva, ha szükséges az ∫ u dF_{T} (u) = m_{T} < x feltétel miatt a második feltételt is teljesíteni tudjuk. Továbbá, mivel az F_{T} eloszláshoz tartozó R_{T} (t) momentumgeneráló függvény végtelen tetszőleges t > 0 esetén, tetszőleges δ > 0 számhoz végtelen sok pozitív p egész szám van, amelyekre, μ_{2} = μ_{2}^{(p)} = F_{T} (2^{p+1})−F_{T} (2^{p}) > e^{−δ2^{p}}. Hasonló állítás érvényes a c.) esetben is. Definiáljuk a μ̄_{1} és μ̄_{2} valószínűségi mértékeket, mint

μ̄_{1}(A) = \frac{1}{μ_{1}} ∫_{A∩[−K_{1},K_{2}]} dF_{T} (u),
μ̄_{2}(A) = μ̄_{2}^{(p)}(A) = \frac{1}{μ_{2}^{(p)}} ∫_{A∩[2^{p},2^{p+1}]} dF_{T} (u),

ahol μ_{1}, K_{1}, K_{2} μ_{2}^{(p)} az előző megjegyzésben szereplő mennyiségek, és a p paramétert a μ̄_{2}^{(p)} mérték definiciójában alkalmasan választjuk. Definiáljuk a G = G^{(p)} mértéket, mint az G = αμ̄_{1} + (1 − α)μ̄_{2}^{(p)} lineáris kombinációt, ahol az α számot az ∫ u dG(u) = x feltétel határozza meg. Azt állítjuk, hogy elég kis ε′ > 0, δ = δ(ε′) > 0 és elég nagy p = p(δ) > 0 választás esetén G valószínűségi mérték, és I(G∥F_{T}) < ε. Ennek bizonyításához vegyük észre, hogy

I(G∥F_{T}) = αI(μ̄_{1}∥F_{T}) + (1 − α)I(μ̄_{2}∥F_{T}) = −α log μ_{1} − (1 − α) log μ_{2}^{(p)},

és mivel ∫ u dμ̄_{1}(u) < x, és 2^{p} ≤ ∫ u dμ̄_{2}^{(p)}(u) ≤ 2^{(p+1)}, elég nagy p-re 0 < 1 − α < const. 2^{−p}. Innen −α log μ_{1} < − log μ_{1} < − log(1 − ε′), és −(1 − α) log μ_{2}^{(p)} < δ2^{p}const. 2^{−p} = const. δ. Innen következik, hogy az ε′, δ és p alkalmas választásával I(G∥F_{T}) < ε elérhető. Az I(G∥F) < ε egyenlőtlenség alkalmas konstrukcióval a c.) esetben hasonlóan bizonyítható. A b.) eset könnyen következik a Nagy eltérések elmélete; Független, valós értékű valószínűségi változók feladatsor 13. feladatának eredményéből. Elég azt az esetet nézni, ha x = lim_{t→∞}[log R(t)]′, mert x > lim_{t→∞}[log R(t)]′ esetén sup_{t≥0}(tx − log R(t)) =

∞. A vizsgálandó esetben válasszuk a G mértéket, mint az x pontba koncentrált mértéket. Ekkor I(G∥F) = − log μ_{F} (x), ahol μ_{F} jelöli az F mérték által indukált mértéket, azaz a jobboldalon az x pont μ_{F} mértéke van. Az említett feladatsor 13. feladatának eredménye alapján ez megegyezik az (a) formula baloldalán szereplő szuprémummal. A feladat utolsó állítását, azt hogy I(G∥F) < sup_{t≥0}(tx − log R(t)) + ε elérhető

szigorú egyenlőtlenséggel, ha az x számot kissé növeljük, kiolvasható a konstrukciók ellenőrzésével. De ez következik a 4. feladat eredményéből és az utána következő megjegyzésből is. Ezek szerint ugyanis I(x) < ∞ a tekintett esetben, és az I(x) függvény folytonossági tulajdonságai alapján megkapjuk a kívánt eredményt, ha az ebben a feladatban bebizonyított állításokat x helyett x + ε-ra alkalmazzuk elég kis ε > 0 számmal.

11.) Tegyük fel először, hogy q_{l} > 0 minden 1 ≤ l ≤ k-ra. Rögzítsünk egy x_{j_{1}}, …, x_{j_{n}} sorozatot, x_{j_{s}} ∈ X, 1 ≤ s ≤ n, és legyen m(l) = m(l, x_{j_{1}}, …, x_{j_{n}}) = #{s: 1 ≤ s ≤ n, x_{j_{s}} = x_{l}\}, 1 ≤ l ≤ k. Ekkor χ_{n}(l) = χ_{n}(l, x_{j_{1}}, …, x_{j_{n}}) = \frac{m(l)}{n}, és

μ^{(n)} (x_{j_{1}}, …, x_{j_{n}}) = ∏_{s=1}^{n} p_{j_{s}} = ∏_{l=1}^{k} p_{l}^{m(l)} = ∏_{l=1}^{k} \frac{p_{l}^{m(l)}}{q^{m(l)}} · ∏_{l=1}^{k} q_{l}^{m(l)}.

Jelölje ν^{(n)} a ν mérték n-szeres direkt szorzatát önmagával az {x_{1}, …, x_{k}}^{n} szorzattéren. Ekkor összegezve az utolsó formulát az összes olyan x_{j_{1}}, …, x_{j_{n}} sorozatra, amelyre n_{n}χ(l) = m(l), l = 1, …, k, valamilyen előírt m(l), l = 1, …, k, számokkal, azt kapjuk, hogy

\frac{μ^{(n)} (nχ_{n}(1) = m(1), …, nχ_{n}(k) = m(k))}{ν^{(n)} (nχ_{n}(1) = m(1), …, nχ_{n}(k) = m(k))} = ∏_{l=1}^{k} (\frac{p_{l}}{q_{l}} )^{m(l)} .

Ezért,

∏_{l=1}^{k} \frac{p_{l}^{n(q_{l}+ε)}}{q_{l}^{n(q_{l}−ε)}}

≤ \frac{μ^{(n)}(((q_{1} − ε) < χ_{n}(1) < (q_{1} + ε), …, (q_{k} − ε) < χ_{n}(k) < (q_{k} + ε))}{ν^{(n)}((q_{1} − ε) < χ_{n}(1) < (q_{1} + ε), …, (q_{k} − ε) < χ_{n}(k) < (q_{k} + ε))}

≤ ∏_{l=1}^{k} \frac{p_{l}^{n(q_{l}−ε)}}{q_{l}^{n(q−l+ε)}} .

Mivel a nagy számok törvénye alapján

\frac{1}{2} ≤ ν^{(n)} ((q_{1} − ε) < χ_{n}(1) < (q_{1} + ε), …, (q_{k} − ε) < χ_{n}(k) < (q_{k} + ε)) ≤ 1

elég nagy n-re, az előző becslésből következik, hogy

\frac{1}{2} ∏_{l=1}^{k} \frac{p_{l}^{εn}}{q_{l}^{−εn}} ∏_{l=1}^{k} (\frac{p_{l}}{q_{l}} )^{nq_{l}}
= μ^{(n)} (|χ_{n}(l) − q_{l}| < ε minden 1 ≤ l ≤ k indexre)
= μ^{(n)} ((q_{1} − ε) < χ_{n}(1) < (q_{1} + ε), …, (q_{k} − ε) < χ_{n}(k) < (q_{k} + ε))

≤ ∏_{l=1}^{k} \frac{p_{l}^{−εn}}{q_{l}^{εn}} ∏_{l=1}^{k} (\frac{p_{l}}{q_{l}} )^{nq_{l}}

elég nagy n-re. Mivel ∏_{l=1}^{k} (\frac{p_{l}}{q_{l}} )^{nq_{l}} = exp \{−n ∑_{l=1}^{k} q_{l} log \frac{q_{l}}{p_{l}} \}, a fenti egyenlőtlenségből

következik a feladatban megfogalmazott (3) formula, ha q_{l} > 0 minden l indexre. Ha q_{l} = 0 valamilyen l-re, akkor a fenti becslés végrehajtható azzal a módosítással, hogy csak az l ∈ K, K ⊂ {1, … k}, indexeket vesszünk figyelembe a fenti számolásban, ahol l ∈ K akkor és csak akkor, ha q_{l} > 0. A (3) egyenlőtlenségsorozat bal és jobboldala nem változik, ha az l ∈ {1, …, k} helyett l ∈ K-ra összegezünk. A középen álló kifejezés értéke nő, ha az 1 ≤ l ≤ k indexek helyett csak az l ∈ K indexeket tekintjük. Másrészt μ^{(n)}(|χ_{n}(y, l) − q_{l}| < \frac{ε}{k} minden 1 ≤ l ≤ k indexre) ≤

μ^{(n)}(|χ_{n}(y, l) − q_{l}| < ε minden l ∈ K indexre), mert a ∑_{l∈{1,...,k}\K} q_{l} = 1 és q_{l} = 0,

ha l ∈ K relációkból következik, hogy a baloldalon olyan halmaz mértékét vettük, amely része a jobboldalon tekintett halmaznak. Innen következik a (3) reláció. Rátérek az (1) és (2) relációk igazolására. Ha F és G két véges sok pontba koncentrált eloszlás eloszlásfüggvénye, akkor legyen X = {x_{1}, …, x_{k}} ⊂ R^{1} az a legkisebb halmaz, amelyre mind az F által meghatározott μ_{F} mind a G által meghatározott μ_{G} mértékre μ_{F} (X) = 1, μ_{G}(X) = 1. Legyen μ_{F} ({x_{l}}) = p_{l}, ν_{l}({x_{l}}) = q_{l}, 1 ≤ l ≤ k. Ha létezik olyan l index, amelyre p_{l} = 0 (és q_{l} > 0), akkor I(G∥F) = ∞ és elég kis ε > 0 számra P (sup_{x} |F_{n}(x) − G(x)| < ε) = 0, mert

P (sup_{x} |F_{n}(x)−G(x)| < ε) ≤ P (F_{n}(x+0)−F_{n}(x−0)−q > −2ε). Ha p_{l} > 0 minden

1 ≤ l ≤ k-ra, akkor vegyük észre, hogy a feladatban bizonyított egyenlőtlenség bal és jobboldalán e^{−n(I(G∥F)±C(ε))} szerepel. Ezért

e^{−n(I(G∥F)+C(ε/k))} ≤ P (|χ_{n}(l) − q_{l}| < \frac{ε}{k} , minden 1 ≤ l ≤ k-ra)

≤ P ( sup_{−∞<x<∞} |F_{n}(x) − G(x)| < ε)

≤ P (|χ_{n}(l) − q_{l}| < 2ε, minden 1 ≤ l ≤ k-ra) ≤ e^{−n(I(G∥F)−C(2ε))}

elég nagy n-re. Innen következik a (+1) és (+2) állítás. 12.) A kívánt egyenlőtlenség bizonyításához elég belátni, hogy minden r = 1, …, k-ra

∫_{C_{r}} log \frac{dν}{dμ}(u) dν(u) ≥ log \frac{ν(C_{r})}{μ(C_{r})}ν(C_{r}),

Összegezve ugyanis ezeket az egyenlőtlenségeket k = 1, …, r-re megkapjuk a kívánt egyenlőtlenséget. Viszont az előbb felírt egyenlőtlenség a valószínűségi mértékek alkalmas választásával következik a 9. feladatban bebizonyított I(ν∥μ) ≥ 0 egyenlőtlenségből. Bevezetve ugyanis a μ_{r}(B) = \frac{μ(C_{r}∩B)}{μ(C_{r})} és ν_{r}(B) = \frac{ν(C_{r}∩B)}{ν(C_{r})} mértékeket, a bizonyítandó egyenlőtlenséget megkapjuk a 9. feladatban bebizonyított I(ν∥μ) ≥ 0 állításból, ha ν-t ν_{r}-rel és μ-t μ_{r}-rel helyettesítjük. Ugyanis log \frac{dν_{r}}{dμ_{r}} = log \frac{dν}{dμ} − log \frac{ν(C_{r})}{μ(C_{r})} a C_{r} halmazon, és integrálva ezt az azonosságot a ν_{r} mérték szerint azt kapjuk, hogy 0 ≤ ∫ log \frac{dν_{r}}{dμ_{r}} dν_{r} = \frac{1}{ν(C_{r})} ∫ log \frac{dν}{dμ} dν − log \frac{ν(C_{r})}{μ(C_{r})}, és ez ekvivalens a bizonyítandó állítással. Ha ν nem abszolút folytonos a μ mértékre nézve, tekintsük az C = (C_{1}, C_{2}), C_{1} = \{u: \frac{dμ}{dν}(u) = 0\}, C_{2} = Y \ C_{1} particiót. Ekkor ν_{C} sem abszolút folytonos a μ_{C} mértékre, és I(ν_{C}∥μ_{C}) = ∞. Tekintsük ezután azt az esetet, amikor I(ν∥μ) < ∞. Ekkor valamilyen K_{2} > 1 > K_{1} > 0 és N paraméterek segítségével definiáljuk a következő C = {C_{1}, …, C_{N+2}} particiót:

C_{l} = \{u: K_{1} + \frac{(K_{2} − K_{1})(l − 1)}{N} ≤ \frac{dν}{dμ}(u) < K_{1} + \frac{(K_{2} − K_{1})l}{N} \} , l = 1, …, N

C_{N+1} = \{u: \frac{dν}{dμ}(u) ≥ K_{2}\}, C_{N+2} = \{u: \frac{dν}{dμ}(u) < K_{1}\}. (Pontosabban fogalmazva, azokat a C_{l} halmazokat vesszük, amelyekre μ(C_{l}) > 0.) Megmutatjuk, hogy alkalmas K_{1}, K_{2} és N választással |I(ν∥μ) − I(ν_{C}∥μ_{C})| ≤ ε. Ha K_{2} > 1-t elég nagynak, 1 > K_{1} > 0-t elég kicsinek választjuk az I(ν∥μ) végessége miatt elérhetjük, hogy |∫_{C_{N+i}} log \frac{dν}{dμ}(u)ν( du)| ≤ \frac{ε}{4} legyen, i = 1, 2. Vegyük észre, hogy ha a C ⊂ Y halmaz olyan, hogy a ≤ \frac{dν}{dμ}(u) ≤ b minden u ∈ C pontban, −∞ ≤ a < b ≤ ∞, akkor a ≤ \frac{ν(C)}{μ(C)} ≤ b. Valóban, mivel ν(C) = ∫_{C} \frac{dν}{dμ}(u) dμ(u), ∫_{C} a dμ(u) ≤ ν(C) ≤ ∫_{C} b dμ(u), ahonnan következik ez az állítás.

A feladat elején szereplő egyenlőtlenség alapján

\frac{ε}{4} ≥ ∫_{C_{N+1}} log \frac{dν}{dμ}(u)ν( du) ≥ log \frac{ν(C_{N+1})}{μ(C_{N+1})}ν(C_{N+1}) ≥ 0,

továbbá

\frac{ε}{4} ≥ − ∫_{C_{N+2}} log \frac{dν}{dμ}(u)ν( du) ≥ 0,

és mivel lim_{u→0} u log u = 0, és log \frac{ν(C_{N+2})}{μ(C_{N+2})} < 0, ezért

0 ≥ ν(C_{N+2}) log \frac{ν(C_{N+2})}{μ(C_{N+2})} = μ(C_{N+2})\frac{ν(C_{N+2})}{μ(C_{N+2})} log \frac{ν(C_{N+2})}{μ(C_{N+2})}

≥ \frac{ν(C_{N+2})}{μ(C_{N+2})} log \frac{ν(C_{N+2})}{μ(C_{N+2})} ≥ −\frac{ε}{4},

ha K_{1} > 0-t elég kicsinek, és K_{2} > 0-t elég nagynak választjuk. Ezért a bizonyítás befejezéséhez ebben az esetben elég azt megmutatni, hogy elég nagy N = N(K_{1}, K_{2}) számra

∑_{l=1}^{N} ∫_{C_{l}} |log \frac{dμ}{dν}(u) − log \frac{μ(C_{l})}{ν(C_{l})}| dν(u) ≤ \frac{ε}{2}.

Ez viszont következik abból a tényből, hogy elég nagy N számra

|log \frac{dμ}{dν}(u) − log \frac{μ(C_{l})}{ν(C_{l})}| ≤ \frac{ε}{2}, ha u ∈ C_{l}.

Végül tekintsük azt az esetet, amikor I(ν∥μ) = ∞, de a ν mérték abszolút folytonos a μ mértékre. Ez az eset hasonlóan tárgyalható az előző esethez. Mivel I(ν∥μ) = ∞ választhatunk olyan C_{1}, C_{2}, C_{3} halmazokat, C_{1} = \{u: \frac{dν}{dμ}(u) < K_{1}\}, C_{2} =

\{u: K_{1} ≤ \frac{dν}{dμ}(u) ≤ K_{2}\}, C_{3} = \{u: \frac{dν}{dμ}(u) > K_{2}\} alkalmas K_{i} = K_{i}(ε)-nal, i =

1, 2, amelyekre ν(C_{1}) ≥ \frac{1}{2}, ∫_{C_{2}} \frac{dν}{dμ}(u) dν(u) ≥ \frac{2}{ε}, és log \frac{dν}{dμ}(u) > 1, ha u ∈ C_{3}. Ekkor ∫_{C_{1}∪C_{3}} log \frac{dν}{dμ}(u) dν(u) > − log 2. Az I(ν∥μ) < ∞ esetben tárgyalt konstrukció érveléséhez hasonlóan kapjuk, hogy a C_{2} halmaznak létezik olyan C_{2} =

⋃_{l=1}^{N} B_{l} particiója, amelyre

∑_{l=1}^{N} log \frac{ν(B_{l})}{μ(B_{l})}ν(B_{l}) ≥ \frac{1}{ε} + log 2.

Ezért az C = {C_{1}, C_{3}, B_{1}, …, B_{N}} rendszer az (Y, B) tér olyan particiója, amelyre I (ν_{C}∥μ_{C}) ≥ \frac{1}{ε}. Innen következik a feladat állítása ebben az esetben is.

13.) Tekintsük az összes olyan A halmazt, amelyre teljesül a fenti approximációs állítás.

Nyílván az A^{0} = ⋃_{l=1}^{∞} A_{l} unió elemei ilyen halmazok. Továbbá A^{0} halmazalgebra.

Ezért elég azt belátni, hogy az adott tulajdonságú halmazok σ-algebrát alkotnak. Ezt az állítást közvetlenül is lehet ellenőrízni. Például, ha az A_{l}, l = 1, 2, …,

halmazok mindegyike teljesíti ezt a tulajdonságot, akkor az A = ⋃_{l=1}^{∞} A_{l} unió

is teljesíti azt. Ugyanis, minden ε > 0-hoz létezik olyan N = N(ε), amelyre

μ_{j} ( ⋃_{l=1}^{∞} A_{l} \ ⋃_{l=1}^{N} A_{l}) ≤ \frac{ε}{2}, j = 1, …, k, és minden A_{l}, l = 1, …, N halmazhoz

létezik olyan B_{l} ∈ A^{0} halmaz, amelyre μ_{j}(A_{l}ΔB_{l}) ≤ \frac{ε}{2N}, j = 1, …, k. Ekkor a

B = ⋃_{l=1}^{N} B_{l} ∈ A^{0} halmazra μ_{j}(AΔB) ≤ ε minden j = 1, …, k-ra. Továbbá az is

nyilvánvaló, hogy ha egy A halmazra teljesül az approximációs tulajdonság, akkor az X \ A halmazra is teljesül.

14.) Tekintsük először azt az esetet, amikor a ν mérték abszolút folytonos a μ mértékre nézve. A 12. feladat eredményei alapján tetszőleges ε > 0-ra létezik olyan B véges partició, amelyre

I(ν∥μ) ≥ I(ν_{B}∥μ_{B}) > I(ν∥μ) − ε, ha I(ν∥μ) < ∞,

és

I(ν_{B}∥μ_{B}) ≥ \frac{1}{ε}, ha I(ν∥μ) = ∞.

Továbbá az I(ν_{A_{n}}∥μ_{A_{n}}) sorozat monoton nő, és a limesze kisebb vagy egyenlő mint I(ν∥μ). Ezért elég belátni, hogy elég nagy n-re és egy az Y halmaz egy véges mérhető B = {B_{1}, …, B_{r}} particiójára

I (ν_{A_{n}}∥μ_{A_{n}}) ≥ I(ν_{B}∥μ_{B}) − \frac{ε}{2}.

Legyen B = {B_{1}, …, B_{r}} az Y halmaz olyan véges mérhető particiója, amelyre μ(B_{l}) > 0 minden 1 ≤ l ≤ r indexre. A 13. feladat eredménye segítségével be fogjuk látni, hogy tetszőleges δ > 0-ra és n > n(δ)-ra az A_{n} = {A_{1}, …, A_{p(n)}} partició elemeit r osztályba lehet sorolni úgy, hogy a j-ik, j = 1, …, r, osztályba

tartozó A_{j(1)}^{(j)}, …, A_{j(s))}^{(j)}, s = s(n, j), halmazok A_{(j)} = A_{n,(j)} = ⋃_{l=1}^{s} A_{j(l)}^{(j)} uniója

teljesíti a μ(A_{(j)}ΔB_{j}) ≤ δ és ν(A_{(j)}ΔB_{j}) ≤ δ, j = 1, …, r, egyenlőtlenségeket. Elég kis δ szám választásával e tény segítségével fogjuk bizonyítani a kívánt egyenlőtlenséget. A 13. feladat eredménye alapján minden elég nagy n-re és B_{j} ∈ B-re létezik olyan Ā_{(j)} ∈ A_{n} halmaz, (A_{n}-val jelöljük az A_{n} partició elemeinek uniójaiból álló σalgebrát is,) amelyre μ(Ā_{j}ΔB_{j}) ≤ \frac{δ}{4r}, ν(Ā_{j}ΔB_{j}) ≤ \frac{δ}{4r}, j = 1, …, r. Ezek az Ā_{(j)} halmazok nem feltétlenül diszjunktak, és az uniójuk nem mindig adja ki az egész teret, de mivel a B_{j}, j = 1, …, r, halmazok diszjunktak, és az uniójuk az egész

Y tér, ezért μ ( ⋃_{j=1}^{r} Ā_{(j)}) ≥ 1 − \frac{δ}{4}, ν ( ⋃_{j=1}^{r} Ā_{(j)}) ≥ 1 − \frac{δ}{4}, μ(Ā_{(j)}ΔĀ_{(j′)}) ≤ \frac{δ}{2r}

és ν(Ā_{(j)}ΔĀ_{(j′)}) ≤ \frac{δ}{2r}, ha j ≠ j′. Definiáljuk az A_{(j)} = Ā_{(j)} \ ⋃_{l=1}^{j−1} Ā_{(l)}, j =

1, …, r − 1, és A_{r} = Y \ ⋃_{l=1}^{r−1} A_{l} halmazokat. Ezek az A_{(j)} halmazok teljesítik a

kívánt feltételeket. Rögzítsünk egy elég kis δ > 0 számot, és elég nagy n-re vezessük be a A_{n} partició Ā_{n} = {A_{(1)}, …, A_{(s)}} = {A_{n,(1)}, …, A_{n,(s)}} durvítását, ahol az A_{(j)} halmazok a B_{j} halmazok előzőekben definiált approximációi. Ekkor I(νĀ_{n}∥μĀ_{n}) ≤ I(ν_{A}∥μ_{A}), és mivel az A_{(j)} és B_{(j)}, j = 1, …, r halmazok μ és ν mértéke csak δ-val térhet el, ezért |I(νĀ_{n}∥μĀ_{n}) − I(ν_{B}∥μ_{B})| ≤ \frac{ε}{2}, ha δ-t elég kicsinek választjuk. Innen következik a feladat állítása abban az esetben, ha a ν mérték abszolút folytonos a μ mértékre. Az az eset, amikor a ν mérték nem abszolút folytonos a μ mértékre hasonlóan tárgyalható, de egyszerűbb. Definiáljuk a B = (B_{1}, B_{2}) particiót, ahol

B_{1} = \{u: \frac{dμ}{dν}(u) = 0\} , B_{2} = \{u: \frac{dμ}{dν}(u) > 0\} .

Ekkor tetszőleges δ > 0-ra és n ≥ n(δ)-ra az A_{n} particiónak van olyan Ā = {Ā_{1}, Ā_{2}} durvítása, amelyre ν(Ā_{1}) ≥ ν(B_{1}) − δ és μ(Ā_{1}) ≤ δ. Innen következik, hogy I(ν_{A}∥μ_{A}) ≥ I(νĀ_{n}∥μĀ_{n}), és

I(νĀ∥μĀ) = log \frac{ν(Ā_{1})}{μ(Ā_{1})}ν(Ā_{1}) + log \frac{1 − ν(Ā_{1})}{1 − μ(Ā_{1})}(1 − ν(Ā_{1})) ≥ \frac{1}{ε},

ha δ > 0 elég kicsi. Innen adódik a feladat állítása ebben az esetben is. 15.) Rögzítsünk egy δ_{n} → 0 sorozatot. Az R^{1} számegyenes olyan egymásba skatulyázott

(nyílt) intervallumokból, egyelemű halmazokból és két félegyenesből álló egymásba skatulyázott véges A_{n} particióit tekintjük, amelyekre az A_{n} particióban tartalmazott intervallumoknak és félegyeneseknek a G eloszlás által meghatároztott mértéke kisebb mint δ_{n}. Lássuk be először, hogy ilyen particiók valóban léteznek. Az A_{n} partició megkonstruálása érdekében tekintsünk egy (−∞, a), és (b, ∞) félegyenest, amelyeknek a G eloszlás által indukált μ_{G} mértéke kisebb mint δ_{n}, és legyenek y_{1}, …, y_{k} azok a pontok amelyekre μ_{G}(y_{j}) ≥ δ_{n}. Definiáljuk a a μ̄_{G} mértéket a μ̄_{G}(A) = μ_{G}((A ∩ [a, b]) \ {y_{1}, …, y_{k}}) képlettel. Ekkor minden x ∈ R^{1} pontnak van olyan (x − η(x), x + η(x)) környezete, amelyre μ̄_{G} ((x − η(x), x + η(x))) < δ. Ezek lefedik a (kompakt) [a, b] intervallumot, ezért kiválasztható ezen intervallumok közül véges sok, amelyek szintén lefedik az [a, b] intervallumot. Tekintsük a számegyenesnek azt a particióját véges szakaszokra, azok végpontjaira (mint egyelemű halmazra) és két félegyenesre, amelyet ezen intervallumok végpontjai és az y_{1}, …, y_{k} pontok határoznak meg. Az így definiált Ā_{n} partició nem egy pontból álló elemeinek a μ_{G} mértékes kisebb mint δ. Legyen A_{n} a Ā_{k}, k = 1, … n, particiók közös finomítása. Ez teljesíti a kívánt feltételeket. A 14. feladat eredménye alapján tehát tetszőleges ε > 0 számra létezik a számegyenesnek olyan egyelemű halmazokból, nyílt intervallumokból és két félegyenesből álló A particiója, amelyre

|I(G_{A}∥F_{A}) − I(G∥F)| ≤ \frac{ε}{2} ha I(G∥F) < ∞

I(G_{A}∥F_{A}) > \frac{2}{ε} ha I(G∥F) = ∞,

és μ_{G}(A) ≤ \frac{ε}{2}, ha A ∈ A, és A nem egy pontból áll. (Emlékeztetőül, ha A = {A_{1}, …, A_{k}}, akkor minden minden A_{l} ∈ A, l = 1, …, k, elemnek kijelöljük egy x_{l} pontját, és az F_{A} illetve G_{A} eloszlásfüggvényt azok az eloszlások által meghatározott eloszlásfüggvények, amelyek az x_{l} értéket p_{l} = μ_{F} (A_{l}) illetve q_{l} = μ_{G}(A_{l}) valószínűséggel veszik fel.) Legyenek ξ_{1}, ξ_{2}, …, független F eloszlású való-

színűségi változók. Ezek meghatározzák az F_{n}(x) = \frac{1}{n} ∑_{j=1}^{n} I(ξ_{j} ≤ x) empirikus el-

oszlásfüggvényt. Definiáljuk a ξ̄_{j}, j = 1, 2, …, valószínűségi változókat a következő módon: Ha ξ_{j} ∈ A_{l} ∈ A, akkor ξ̄_{j} = x_{l}. Ekkor ξ̄_{1}, ξ̄_{2}, … független F_{A} eloszlású valószínűségi változók, és a ξ̄_{j} valószínűségi változók konstrukciójából következik, hogy a belőlük elkészített F̄_{n} = F̄_{n,A} empirikus eloszlásfüggvény teljesíti az F_{n}(x) = F̄_{n}(x), F_{n}(x−0) = F̄_{n}(x−0) azonosságot minden olyan x pontban, amely az A particióban szereplő intervallumok valamelyikének végpontja. Innen, és a A elemeinek μ_{G} mértékére adott becslésből következik, hogy

sup_{x} |F_{n}(x) − G(x)| − ε ≤ sup_{x} |F̄_{n}(x) − G_{A}(x)| ≤ sup_{x} |F_{n}(x) − G(x)| + ε.

Viszont a 12. feladat eredménye alapján

−I (G_{A}∥F_{A}) − Cε ≤ \frac{1}{n} log P (sup_{x} |F̄_{n}(x) − G_{A}(x)| > ε) ≤ −I (G_{A}∥F_{A}) + Cε,

alkalmas C számmal, ha n > n(ε, F, G). Az utolsó két egyenlőtlenségből és abból a tényből, hogy I(G_{A}∥F_{A}) jól approximálja az I(G∥F) I-divergenciát, következik a feladat állítása.

16.) Az L = L(ε) számot elég nagyra választva elérhetjük, hogy az

F̄(x) = P (ξ_{1} ≤ x| |ξ_{1}| ≤ L)

eloszlásfüggvény teljesítse a sup_{x} |F̄(x) − F (x)| ≤ ε és az |I(G∥F̄) − I(G∥F)| ≤

ε egyenlőtlenségeket. (Az utóbbi egyenlőtlenség teljesüléséhez kell az a feltétel, hogy a G eloszlás egy véges intervallumba van koncentrálva.) Ezért a 15. feladat eredményéből ezzel a F̄ eloszlásfüggvény választásával következik az ebben a feladatban felírt becslés az sup_{x} |F_{n}(x) − G(x)| ≤ η esemény feltételes valószínűségére

a {|ξ_{k}| ≤ L, 1 ≤ k ≤ n} feltétel mellett.

A 10. feladat eredménye alapján a nagy eltérés tétel felső becslésének a bizonyításához elég megmutatni, hogy minden ε > 0-ra és olyan G eloszlásra, amelyre a < ∫ u dG(u) < a + ε és I(G∥F) < inf_{t≥0}(ta − log R(t)) + ε teljesül a

−\frac{1}{n} log P (\frac{S_{n}}{n} ∈ [a, b]) ≤ I(G∥F) + 2ε

egyenlőtlenség. Létezik ugyanis olyan G eloszlás, amelyre a < ∫ u dG(u) < a + ε, és I(G∥F) < inf_{t≥0}(ta − log R(t) + ε. Sőt, feltehetjük, hogy ez a G eloszlás véges

intervallumba van koncentrálva, mert egy elég nagy K > 0 számot választva és a G függvényt a Ḡ(x) = \frac{G(x)−G(−K)}{G(K)−G(−K)}, −K ≤ x ≤ K, helyettesítve olyan függvényt kapunk, amelyik szintén teljesíti a fenti egyenlőtlenségeket. (Pontosabban, a 10. feladatban felhasznált eredmény nem alkalmazható abban a speciális (elfajult) esetben, amikor az R(t) = Ee^{tξ_{1}} minden t ≥ 0-ra értelmezve van, és lim_{t→∞}[log R(t)]′ = a. De ezt az esetet, amikor P (ξ_{1} ≤ a) = 1 reláció is teljesül, a Nagy eltérések elmélete; Független, valós értékű valószínűségi változók feladatsor 13. feladatának eredménye leírja, és ezzel itt nem foglalkozunk. Feltehetjük továbbá, hogy I(G∥F) < ∞, mert különben az állítás nyílvánvaló.) Alkalmazzuk a feladat első állítását ezt az állítást kielégítő G és F̄ eloszlással, ε helyett ε′ = \frac{1}{2} (∫ u dG(u) − a) paraméter választással. Ekkor ε′ ≤ ε, és ha ε > 0 elég kicsi, akkor az ε′ ≤ \frac{1}{2} (b − ∫ u dG(u)) egyenlőtlenség is teljesül. Azt kapjuk, hogy

P (ω: |F_{n}(x, ω) − G(x)| ≤ η| |ξ_{k}(ω)| ≤ L, 1 ≤ k ≤ n) ≥ e^{−nI(G∥F̄)−nC(η,ε′)},

|IG(∥F) − I(G∥F̄)| ≤ ε′. Ezért a kívánt állítás bizonyításához elég megmutatni azt, hogy elég kis η = η(L) > 0 számra

\{ω: sup_{x} |F_{n}(x, ω) − G(x)| ≤ η\} ∩ A_{n} ⊂ \{ω: \frac{S_{n}(ω)}{n} ∈ [a, b]\} ,

ahol A_{n} = A_{n}(L) = {ω: |ξ_{k}(ω)| ≤ L, 1 ≤ k ≤ n}, és L > 0 ugyanaz a szám, amely az előbb tekintett feltételes valószínűség feltételében szerepel. Innen ugyanis következik, hogy

P (\frac{S_{n}(ω)}{n} ∈ [a, b]) ≥ P (|F_{n}(x, ω) − G(x)| ≤ η | |ξ_{k}(ω)| ≤ L, 1 ≤ k ≤ n) P (A_{n})
≥ e^{−nI(G∥F̄)−nC(η,ε′)}P (|ξ_{1}| ≤ L)^{n} ≥ e^{−nI(G∥F̄)−nC̄(η,ε)},

ahol C̄(ε) → 0, ha ε → ∞. Parciális integrálással kapjuk, hogy ω ∈ A_{n} és

{ω: sup_{x} |F_{n}(x, ω) − G(x)| ≤ η} esetén

|\frac{S_{n}(ω)}{n} − ∫ u dG(u)| = |∫ u dF_{n}(u, ω) − dG(u)|
≤ ∫_{−L}^{L} |F_{n}(u, ω) − G(u)| du ≤ Lη.

Viszont elég kis η > 0-ra Lη ≤ ∫ u dG(u) − a és Lη ≤ b − ∫ u dG(u). Innen következik a feladat állítása.

17.) Mivel μ ∉ F, és F zárt, azaz X\F nyílt halmaz, ezért létezik az μ ∈ X pontnak az F halmaztól diszjunkt U = {ν: |ν(B_{l})−μ(B_{l})| < ε, 1 ≤ l ≤ k} nyílt környezete, ahol B_{l} az (Y, B) tér mérhető részhalmazai. Legyen Definiáljuk a G_{1} = {ν: |ν(B_{l}) − μ(B_{l})| < ε/4, 1 ≤ l ≤ k} és G_{2} = X \ {ν: |ν(B_{l}) − μ(B_{l})| ≤ ε/2, 1 ≤ l ≤ k} = {ν: |ν(B_{l}) − μ(B_{l})| > ε/2 valamely 1 ≤ l ≤ k indexre.} halmazokat. Ezek a G_{1}, G_{2} nyílt halmazok teljesítik a T_{3} tulajdonságban szereplő feltételeket. A K = K(B, ε) = {ν: |ν(B) − μ(B)| ≤ ε} halmaz, ahol B az (Y, B) tér mérhető részhalmaza, a μ pontot tartalmazó zárt halmaz. Az összes ilyen halmaz metszete szintén zárt, és egyedül a μ pontot tartalmazza. Ezért a {μ} halmaz zárt.

18.) Tekintsük az Y tér egy véges D = {D_{1}, …, D_{k}} véges particióját, és adva két μ és ν mérték az (X, X) téren, legyen μ_{D} és ν_{D} e mérték vetülete a D particióra, és

I(ν_{D}∥μ_{D}) = ∑_{l=1}^{k} log \frac{ν(D_{l})}{μ(D_{l})}ν(D_{l}) ezen vetületmértékek I-divergenciája. A I(ν_{D}∥μ_{D})

függvény rögzített μ mértékkel mint a ν mérték függvénye alulról félig folytonos a τ topológia szerint. Ugyanis azon ν mértékek halmaza, amelyekre I(ν_{D}∥μ_{D}) = ∞ nyílt halmaz, (megegyezik azon ν mértékek halmazával, amelyekre létezik a D particiónak olyan D_{j} eleme, amelyre μ(D_{j}) = 0, és ν(D_{j}) > 0),), a komplementer zárt halmazon pedig folytonos. Viszont a 14. feladat eredménye alapján választhatunk D_{n} particióknak olyan sorozatát, amelyekre lim_{n→∞} I(ν_{D_{n}}∥μ_{D_{n}}) = sup_{n} I(ν_{D_{n}}∥μ_{D_{n}}) = I(ν_{D}∥μ_{D}). Mivel alulról félig folytonos függvények szuprémuma

alulról félig folytonos, innen következik a feladat első állítása. A feladat második állításának bizonyítása érdekében vegyük a számegyenes olyan intervallumokból és félegyenesekből álló D_{n} = {D_{1,n}, …, D_{k(n),n}} növekvő véges particióból álló sorozatát, n = 1, 2, …, amelyre a ⋃ D_{n} halmazrendszer generálja a B Borel σ-algebrát. Ekkor alkalmazva az első rész bizonyítását az I(ν_{D_{n}}∥μ_{D_{n}}), n = 1, 2, …, I-divergenciák sorozatára a 14. feladat eredményének segítségével n → ∞ határátmenettel megkapjuk a kívánt állítást.

19.) Tekintsünk egy olyan ν ∈ G mértéket, amelyre I(ν∥μ) ≤ inf_{χ∈G} I(χ∥μ) + ε, és te-

kintsük ennek olyan U környezetét, amelyre U ⊂ G, és U a következő alakú: U = {χ: χ ∈ X, |χ(B_{1}) − ν(B_{l})| < ε, l = 1, 2, …, k} alkalmas ε > 0 számmal és B = {B_{1}, …, B_{l}} az Y tér alkalmas particiója. Tekintsük a μ és ν mértékek vetületét ezekre a particiókra. Jelöljük ezeket μ_{B} és ν_{B}-vel, és vizsgáljuk ezek I-

divergenciáját. A 12. feladat eredménye alapján I(ν_{B}∥μ_{B}) = ∑_{l=1}^{p} log \frac{ν(B_{l})}{μ(B_{l})}ν(B_{l}) ≤

I(ν∥μ). Ezért a 11. feladat eredményét felhasználva kapjuk, hogy I(ν_{B}∥μ_{B}) ≤ inf_{χ∈G} I(χ∥μ) + ε, és μ_{n}(G) ≥ μ_{n}(U) ≥ e^{−n(I(ν_{B}∥μ_{B})−Cε)}, alkalmas > 0 számmal, ha

n ≥ n(ε). Ezért

μ_{n}(G) ≥ inf_{χ∈G} e^{−n(I(χ∥μ)−ε−Cε)}, ha n ≥ n(ε),

Innen következik a feladat állítása.

20.) A feladat állítása kapcsolódik a funkcionálanalízis egyik klasszikus eredményéhez, amely szerint egy Banach tér duális terének zárt egységgömbje a gyenge topológiában kompakt. Természetesebbnek tűnik viszont e tételre való hivatkozás helyett a bizonyítás módszerét adaptálni. Ez a Tyihonov tétel alkalmazása, a topológikus tér természetes beágyazása a [0, 1] intervallum (a szokásos topológiával) nagy számosságú példányának direkt szorzatába. Ez utóbbi tér kompakt a Tyihonov tétel szerint.

Tekintsünk az (Y, B) minden mérhető B ⊂ B részhalmazára egy (Z_{B}, C_{B}) teret, amely a [0, 1] intervallum a szokásos topológiával. Legyen ezek direkt szorzata a szorzattopológiával (Z, C) = ∏_{B∈B}(Z_{B}, C_{B}). A Z tér felfogható mint azokból a

függvényekből álló halmaz, amelyek az Y tér B mérhető halmazait képezik le a [0, 1] intervallumra. A C topológia nyílt halmazait pedig ezen a téren a {z_{B_{1}} ∈ G_{1}, …, z_{B_{k}} ∈ G_{k}} halmazok generálják, ahol k = 1, 2, …,, B_{1}, …, B_{k} az Y halmaz mérhető halmazai, G_{1}, …, G_{k} pedig a [0, 1] intervallum nyílt részhalmazai. Vegyük észre, hogy X ⊂ Z, és az X téren bevezetett X τ topológia a Z téren definiált C topológia megszorítása az X térre. Így az (X, X) teret beágyaztuk egy kompakt topológikus térbe. Tudjuk, hogy egy kompakt halmaz zárt részhalmazai szintén kompaktak. Ezenkívül azt is tudjuk (a 18. feladat eredménye), hogy minden μ ∈ X-re az I(·∥μ) I-divergencia alulról félig folytonos függvény az (X, X) téren. Egy alulról félig folytonos I(·) függvény {x: I(x) ≤ R} tipusú nívóhalmazai zártak. Ezen tények alapján próbáljuk meg bebizonyítani a feladat állítását. A problémát az okozza, hogy az I-divergencia a (Z, C) kompakt térnek csak az X részhalmazán van értelmezve, és ennek topológiai tulajdonságairól semmit sem tudunk. E nehézségen úgy segítünk, hogy az X teret beágyazzuk a Z tér egy Z_{0} zárt részhalmazába (ez a Z_{0} halmaz valójában az X tér lezártja, de erre a tényre nincs szükségünk), és az I-divergencia függvényt kiterjesztjük az X halmazról a kompakt Z_{0} halmazra úgy, hogy a kiterjesztett függvény is alulról félig folytonos. Ráadásul a kiterjesztett függvény értéke a Z_{0} \ X halmazon ∞. E tények segítségével nem lesz nehéz bizonyítani a feladat állítását.

Definiáljuk a Z_{0} ⊂ Z halmazt mint a következő metszetet: Z_{0} = ⋂_{U} Z_{U}, ahol az U

indexhalmaz jelöli az Y halmaz összes véges particióját mérhető halmazokra, és az Y tér egy U = {B_{1}, …, B_{k}}, B_{l} ∈ B, l = 1, …, k véges particiójára legyen

Z_{U} = {z: z ∈ Z, ∑_{l=1}^{k} z_{B_{l}} = 1} .

Ekkor Z_{0} a Z halmaz zárt részhalmaza, mivel a zárt Z_{U} halmazok metszete. A Z_{0} halmaz az (Y, B) tér mérhető halmazain értelmezett végesen additiv nem negatív értékű 1-re normált halmazfüggvényeiből áll, ezért X ⊂ Z_{0}. Az I-divergencia kiterjesztésének és tulajdonságainak bizonyítása érdekében jegyezzük meg, hogy ha ν és μ két valószínűségi mérték, akkor

I(ν∥μ) = sup_{U} I(ν_{U}∥μ_{U}) = sup_{\{B_{1},...,B_{k}\}} ∑_{l=1}^{k} log \frac{ν(B_{l})}{μ(B_{l})}ν(B_{l}), U = \{B_{1}, …, B_{k}\}

ahol a szuprémum az Y tér U = {B_{1}, …, B_{l}} véges (mérhető) particiójára vétetik. (Ez következik a 12. feladat eredményéből.) Definiáljuk az I(ν∥μ) függvényt (rögzített μ mértékkel) minden ν ∈ Z_{0}-re, azaz akkor is, ha ν additív, de nem σ-additív halmazfüggvény az előbb felírt szuprémum segítségével. Ekkor I(·∥μ) alulról félig folytonos, mert alulról félig folytonos függvények szuprémuma. Belátjuk, hogy az így kiterjesztett I-divergenciára I(ν∥μ) = ∞, ha ν ∈ Z_{0} \ X (és μ ∈ X). Ugyanis az, hogy a pozitív értékű, additív μ halmazfüggvény σ-additív azzal ekvivalens, hogy tetszőleges B_{n} ∈ B halmazsorozatra, amelyre B_{n} ⊃ B_{n+1},

n = 1, 2, …, és ⋂_{n=1}^{∞} B_{n} = ∅, lim_{n→∞} μ(B_{n}) = 0. Mivel μ ∈ X, és ν ∈ Z_{0} \ X,

létezik olyan leszálló B_{n} ∈ B az üres halmazhoz tartó B_{n} halmazsorozat, amelyre lim_{n→∞} μ(B_{n}) = 0 és lim_{n→∞} ν(B_{n}) = α > 0. Ezért tekintve az U_{n} = {B_{n}, Y \ B_{n}} particiókat I(ν∥μ) ≥ lim_{n→∞} I(ν_{U_{n}}∥μ_{U_{n}}) = ∞.

A fentiek alapján könnyen bizonyítható a feladat állítása. Tudjuk, hogy Z_{0} a (Z, C) tér zárt részhalmaza, és a Z_{0}-ra kiterjesztett I(·∥μ) halmaz alulról félig folytonos a (Z_{0}, C_{0}) téren, ahol C_{0} a C topológia megszorítása a Z_{0} halmazra. Ezért az A(R) = {ν: ν ∈ Z_{0}, I(ν∥μ) ≤ R} halmaz a (Z_{0}, C_{0}) tér zárt, következésképp kompakt részhalmaza minden 0 ≤ R < ∞ számra. Viszont A(R) ⊂ X. Ezért A(R) = A(R)∩X nemcsak a (Z_{0}, C_{0}) téren, hanem annak megszorításán, az (X, X) téren is kompakt.

21.) Mint az előző feladatban láttuk, az (X, X) tér beágyazható egy kompakt T_{2} térbe. (A [0, 1] tér önmagával vett nagy példányszámú direkt szorzatába.) A topológia standard eredményei alapján egy kompakt T_{2} tér T_{4} tér. (Tetszőleges két diszjunkt zárt halmaznak létezik diszjunkt nyílt környezete.) Egy T_{4} tér egyben T_{ρ} tér, és annak tetszőleges altere, tehát például az (X, X) tér is T_{ρ} tér.

22.) Rögzítsünk egy L = L(ε) > inf_{ν∈K} I(ν) − ε számot, ha ez az infimum véges, és

L = L(ε) = \frac{1}{ε}, ha ez az infimum végtelen. Válasszunk minden ν ∈ K mértéknek egy olyan G(ν, ε) nyílt környezetét, amelyre lim inf_{n→∞} −\frac{1}{n} log Q_{n}(G(ν, ε)) > L − ε.

Ezen halmazok lefedik a K halmazt. Vegyük a K halmaznak egy ilyen halmazokból álló véges G_{1} = G(ν_{1}, ε), …, G_{m} = G(ν_{m}, ε) fedését. Ekkor elég nagy n indexre

Q_{n}(K) ≤ ∑_{l=1}^{m} Q_{n}(G_{l}) ≤ const. sup_{1≤k≤m} e^{−n(L−ε)} ≤ const. sup_{ν∈K} e^{−n(I(ν)−2ε)}.

Innen következik a (iii′) tulajdonság. Lássuk be, hogy az I(·∥μ) függvény és a Q_{n} = μ^{(n)} mértékek, ahol μ^{(n)} a μ_{n} empirikus mérték eloszlása, teljesítik a feladat feltételeit. Tekintsük az Y tér egy alkalmas véges C = {C_{1}, …, C_{k}} particióját, vegyünk egy kis δ > 0 számot, és definiáljuk egy ν ∈ X pont alkalmas nyílt környezetét a következő módon: G(ν, ε) = {χ: χ ∈ X, |χ(C_{j}) − ν(C_{j})| < δ, j = 1, … k}, δ = δ(ε). A 12. feladat eredménye alapján alkalmas C partició választásával elérhető, hogy az I(ν_{C}∥μ_{C}) ≥ I(ν∥μ) − \frac{ε}{2} ha I(ν∥μ) < ∞, és I(ν_{C}∥μ_{C}) > \frac{1}{ε}, ha Iν∥μ) = ∞ egyenlőtlenségek teljesüljenek. Másrészt a 11. feladatban bizonyított (3) egyenlőtlenség jobboldala alapján Q_{n}(G(ν, ε)) < e^{−n(I(ν_{C}∥μ_{C})−ε/2)}, ha a δ = δ(ε) > 0 számot elég kicsinek választjuk, és n ≥ n(δ). (Jelen esetben a (3) formulától eltérő jelölést használunk. A Q_{n}(G(ν, ε)) kifejezés játssza a (3) formulában szereplő μ^{(n)}(·) valószínűség szerepét, és ott δ = δ(ε)-t írunk ε helyett. Továbbá a μ^{(n)}(·) valószínűségre a (3) formulában adott felső becslés a mostani jelölésben a e^{−nI(ν∥μ)−nC(δ)} kifejezéssel egyenlő.) Ezért lim inf_{n→∞} −\frac{1}{n} log Q_{n}(G(ν, ε)) ≥ I(ν∥μ) − ε, ha I(ν∥μ) < ∞, és nagyobb mint

\frac{1}{ε}, ha I(ν∥μ) = ∞. 23.) Tetszőleges C ∈ C^{∗}-ra, ε ≥ 0-ra

μ^{(n)}(μ_{n} ∈ F) ≤ μ^{(n)} (μ_{n}_{C} ∈ F_{C}) ≤ μ^{(n)} (μ_{n}_{C} ∈ [F_{C}]) ≤ sup_{ν∈[F_{C}]} e^{−n(I(ν_{C}∥μ_{C})−ε)},

ha n > n(ε, C). Ez például következik a 22. feladat eredményéből, és abból a tényből, hogy [F_{C}] kompakt halmaz az (X_{C}, A_{C}) téren. Itt felhasználtuk, hogy egy véges halmazon definiált valószínűségi mértékeknek egy a τ topológia szerint zárt részhalmaza egyben kompakt is ezen topológia szerint. (Egyébként ez az egyenlőtlenség elemien is levezethető.) Innen logaritmust véve kapjuk, hogy

lim inf_{n→∞} −\frac{1}{n} log μ^{(n)}(μ_{n} ∈ F) ≥ inf_{ν∈[F_{C}]} I (ν_{C}∥μ_{C}) .

Szuprémumot véve C ∈ C^{∗}-re kapjuk a kívánt állítást. 24.) Tekintsünk egy L > sup_{C∈C^{∗}} inf_{ν_{C}∈[F_{C}]} I (ν_{C}∥μ_{C}) számot. A (4) formulában szereplő

egyenlőtlenség bizonyításához azt kell belátni, hogy ez az L szám felső becslés az egyenlőtlenség jobboldalán szereplő kifejezésre is. Ennek érdekében először lássuk be azt, hogy létezik olyan ν ∈ (X, A) mérték, amelyre ν_{C} ∈ [F_{C}] minden C ∈ C^{∗} véges particióra, és I(ν∥μ) ≤ L. Viszont nem állítjuk, — legalábbis egyelőre, — hogy a ν ∈ F reláció is teljesül.

A D_{C} = {ν: ν ∈ X, ν_{C} ∈ [F_{C}] , I(ν∥μ) ≤ L} halmaz kompakt minden C ∈ C^{∗} véges particióra, mivel a 20. feladat alapján egy kompakt és egy zárt halmaz metszete. (A {ν: ν ∈ X, ν_{C} ∈ [F_{C}]} halmaz zárt. Ez következik abból, hogy a ν → ν_{C} leképezés folytonos.) Továbbá a D_{C} halmaz nem üres, mivel létezik olyan ν_{C} ∈ [F_{C}] mérték, amelyre I(ν_{C}∥μ_{C}) ≤ L, és arra a ν ∈ X mértékre, amelyet a ν(D) = \frac{μ(D)}{μ(C_{l})}ν_{C}(x_{l}), l = 1, …, k, képlet definiál, ha D ⊂ C_{l}, ahol C = {C_{1}, …, C_{k}}, és x_{l} a C_{l}-hez rendelt pont, I(ν∥μ) = I(ν_{C}∥μ_{C}) ≤ L. A I(ν∥μ) = I(ν_{C}∥μ_{C}) azonosság azért igaz, mert \frac{dν}{dμ}(y) = \frac{ν(C_{j})}{μ(C_{j})} minden y ∈ C_{j} pontban. Továbbá az így definiált ν mérték ,,vetülete” a C particióra a fenti ν_{C} mérték, amely eleme az [F_{C}] halmaznak. Azt akarjuk belátni, hogy ⋂_{C∈C^{∗}} D_{C} ≠ ∅. A D_{C} halmazok kompaktsága miatt elég azt

belátni, hogy véges sok D_{C_{1}}, …, D_{C_{p}} halmaz metszete nem üres. Legyen C̄ olyan véges partició, amely finomabb mint a C_{1}, …, C_{p} particiók mindegyike, és legyen ν ∈ DC̄. Azt állítjuk, hogy ekkor ν ∈ D_{C_{l}} minden l = 1, …, p-re. Ehhez azt kell belátni, hogy mivel C_{l} durvítása a C̄ particiónak, ha νC̄ ∈ [FC̄], akkor ν_{C_{l}} ∈ [F_{C_{l}}]. Ez utóbbi állítás bizonyítása érdekében vegyük észre, hogy ha νC̄ ∈ [FC̄], akkor létezik olyan ν^{(n)} ∈ X, n = 1, 2, …, mértéksorozat, amelyre ν(n) ; C̄ ∈ FC̄, azaz ν(n) ; C̄ eleme a FC̄ halmaznak és nemcsak annak lezártjának, és lim_{n→∞} ν(n) ; C̄(x_{m}) = νC̄(x_{m}) minden

m = 1, …, p-re, ahol C̄ = {C̄_{1}, …, C̄_{p}}, és x_{m} a C̄_{m} halmazhoz rendelt pont. Mivel a C_{l} partició elemei ilyen (diszjunkt) C̄_{m} halmazok uniói, innen következik,

hogy ν_{C_{l}}^{(n)} ∈ F_{C_{l}}, és lim_{n→∞} ν_{C_{l}}^{(n)} = ν_{C_{l}}. Ezért ν_{C_{l}} ∈ [F_{C_{l}}].

Legyen ν ∈ D_{C} minden C ∈ C^{∗} particióra. Ekkor, mivel ν_{C} ∈ [F_{C}] minden C ∈ C^{∗} particióra, és F zárt halmaz, ezért ν ∈ F. Valóban, ha ν ∉ F lenne, akkor mint a 17. feladat megoldásában, az (X, X) tér T_{3} tulajdonságának bizonyításában láttuk, létezne olyan C = {C_{1}, …, C_{k}} ∈ C^{∗} partició, és ε > 0 szám, amelyekre az U = {χ: χ ∈ X, |χ(C_{l}) − ν(C_{l})| < ε minden 1 ≤ l ≤ k-ra} halmaz a ν ∈ X pontnak, a V = {χ: χ ∈ X, |χ(C_{l}) − ν(C_{l})| > 2ε valamely 1 ≤ l ≤ k-ra} halmaz az F zárt halmaznak a nyílt környezete, és U ∩ V = ∅. Ez viszont ellentmond annak, hogy ν_{C} ∈ [F_{C}] a C = {C_{1}, …, C_{k}} particióval.

A bizonyítandó egyenlőtlenség jobboldalán szereplő kifejezés felülről becsülhető a sup_{C∈C^{∗}} I (ν_{C}∥μ_{C}) mennyiséggel, ahol egy olyan alkalmasan választott ν ∈ F mértéket

veszünk, amelyre ν ∈ D_{C} minden C ∈ C^{∗} particióra. Mivel erre a ν mértékre sup_{C∈C^{∗}} I (ν_{C}∥μ_{C}) ≤ I(ν∥μ) ≤ L minden C ∈ C^{∗} particióra, innen következik a (4) for-

mulában felírt egyenlőtlenség. Végül a (4) formulában felírt azonosság a 12. feladat következménye.

A 23. feladat eredményéből és a 24. feladatban már bebizonyított (4) formulájából következik a nagy eltérés tétel iii.) tulajdonsága a Szanov tétel feltételeinek teljesülése esetén.

25.) Mutassuk meg először azt, hogy a feladatban definiált F halmaz zárt, azaz, ha ν ∉ F, akkor létezik a ν pontnak olyan U(ν) környezete, amelyre U(ν) ∩ F = ∅. Minden ν ∈ X mértékre létezik olyan ε > 0 szám, amelyre ν(\{(0, ε)\}) ≤ \frac{1}{3}.

Ezért az F halmaz és a ν ∈ X pont U_{1}(ν) = \{χ: |χ(\{(0, ε)\}) − ν(\{(0, ε)\})| < \frac{1}{3}\} környezetének a metszete véges. Legyen N = [ε^{−1}], ahol [·] egész részt jelent. Ekkor k > N indexre ν_{k} ∉ U_{1}(ν). Ha ν ∉ F akkor válasszunk minden k ≤ N indexre olyan ε_{k} > 0 számot, amelyre vagy |ν (\{\frac{1}{k} \}) − ν_{k} (\{\frac{1}{k} \})| > ε_{k} vagy |ν (\{\frac{3}{4}\}) − ν_{k} (\{\frac{3}{4}\})| > ε_{k}. Mivel ν ≠ ν_{k}, ez lehetséges. Legyen ε = min_{k≤N} ε_{k}, és

definiáljuk az

U_{2}(ν) = {χ: |χ ({k^{−1}}) − ν ({k^{−1}})| > ε, ha k ≤ N}

és

U_{3}(ν) = \{χ: |χ (\{\frac{3}{4}\}) − ν (\{\frac{3}{4}\})| > ε\}

halmazokat. Ekkor az U(ν) = U_{1}(ν) ∩ U_{2}(ν) ∩ U_{3}(ν) halmaz a ν mértéknek az F halmaztól diszjunkt környezete. Tehát az F halmaz zárt. Az F_{C} halmaz a következő ν̄_{k} mértékekből áll: ν̄_{k}(\{x_{1}\}) = 1 − \frac{1}{k}, ν̄_{k}(\{x_{2}\}) = \frac{1}{k}. Ezek a mértékek konvergálnak ahhoz a ν̄ mértékhez, amelyre ν̄({x_{1}}) = 1, és ez nem szerepel a ν̄_{k} mértékek között. Innen következik, hogy az F_{C} halmaz nem zárt.

26.) Tetszőleges y_{1}, …, y_{k}, y_{j} ∈ Y, j = 1, …, k pontokra, 1 ≤ k ≤ n, és j_{1}, …, j_{k},

∑_{p=1}^{k} j_{p} = n, pozitív egész számokra definiáljuk a

G(y_{1}, …, y_{k}, j_{1}, …, j_{k}) = G(y_{1}, …, y_{k}, j_{1}, …, j_{k}, n)

= \{μ: μ ∈ X, |μ(\{y_{p}\}) − \frac{j_{p}}{n} | < \frac{1}{n}\}

halmazokat. Adva egy B ⊂ Y halmaz, definiáljuk a

G = ⋃_{k=1}^{n} ⋃_{((y_{1},...,y_{k}),(j_{1},...,j_{k})): y_{l}∈B, 1≤l≤k} G(y_{1}, …, y_{k}, j_{1}, …, j_{k})

halmazt. Ez a halmaz nyílt, mert minden G(y_{1}, …, y_{k}, j_{1}, …, j_{k}) halmaz nyílt. Továbbá a ξ_{1}, …, ξ_{n} minta által meghatározott μ_{n} empirikus mértékre, μ_{n} ∈ G akkor és csak akkor, ha az összes ξ_{j} valószínűségi változó értéke a B halmazban van. Ugyanis μ_{n}(\{y\}) = \frac{j}{n}, 0 ≤ j ≤ n minden y ∈ Y -ra, és az összes ξ_{j} akkor és csak akkor esik az A halmazba, ha az általa meghatározott μ_{n} mérték eleme valamelyik a G definiciójában szereplő G(y_{1}, …, y_{k}, j_{1}, …, j_{k}) halmazban. Legyenek ξ_{1}, ⋯, ξ_{n} független, a [0, 1] intervallumon egyenletes eloszlású valószínűségi változók. Jelölje μ_{n} azt az empirikus mértéket, amelyet ezek a valószínűségi változók határoznak meg. Legyen B ⊂ [0, 1] nem mérhető, 0 belső és 1 külső mértékű halmaz. Ekkor az az esemény, hogy mindegyik ξ_{j}, 1 ≤ j ≤ n, valószínűségi változó ebbe a halmazba esik nem mérhető, és ennek az eseménynek nincs valószínűsége. Viszont az előbbi érvelésben megmutattuk, hogy létezik olyan nyílt G halmaz a valószínűségi mértékek terén, amelyre ez az esemény megegyezik a {μ_{n} ∈ G} eseménnyel.

27.) Az egyszerűség miatt tekintsük először csak az I(μ_{G}∥μ_{F}) < ∞ esetet. Mivel I(·∥μ_{F}) alulról félig folytonos függvény a 18. feladat eredménye szerint, ezért

H = H(η) = {μ_{H}: I(μ_{H}∥μ_{F}) > I(μ_{G}∥μ_{F}) − η}

nyílt halmaz a valószínűségi mértékek terében minden η > 0 számra mind a τ mind a τ_{0} topológia szerint, és μ_{G} ∈ H. (Itt azt a jelölést használtuk, hogy μ_{H} a H eloszlásfüggvény által indukált Stieltjes mérték a számegyenesen.) Belátjuk, hogy alkalmas ε_{0} = ε_{0}(η) > 0 küszöbindexre igaz, hogy minden 0 < ε < ε_{0} számra létezik olyan G_{ε} nyílt és F_{ε} zárt halmaz, amelyekre μ_{G} ∈ G_{ε}, G_{ε} ⊂ K_{ε} ⊂ H(η), és K_{ε} ⊂ F_{ε} ⊂ H(η), ahol K_{ε} = {H: sup_{x} |H(x) − G(x)| < ε}.

(A K_{ε} halmaz definiciójában azonosítottam a H és G eloszlásfüggvényt az általuk meghatározott μ_{H} és μ_{G} Stieltjes mértékkel.) Innen következik a feladat állítása. Ennek megmutatása érdekében vegyük észre, hogy G_{ε} ⊂ K_{ε} miatt

lim sup_{n→∞} −\frac{1}{n} log μ^{(n)}(G_{ε}) ≥ lim sup_{n→∞} −\frac{1}{n} log μ^{(n)}(K_{ε}),

és I(μ_{G}∥μ_{F}) ≥ lim sup_{n→∞} −\frac{1}{n} log μ^{(n)}(G_{ε}) a nagy eltérés tétel ii.) tulajdonsága és a

μ_{G} ∈ G_{ε} reláció miatt. Innen

I(μ_{G}∥μ_{F}) ≥ lim sup_{n→∞} −\frac{1}{n} log μ^{(n)}(K_{ε}).

Hasonlóan, K_{ε} ⊂ F_{ε} miatt

lim inf_{n→∞} −\frac{1}{n} log μ^{(n)}(K_{ε}) ≥ lim inf_{n→∞} −\frac{1}{n} log μ^{(n)}(F_{ε}),

és I(μ_{G}∥μ_{F}) − η ≤ lim inf_{n→∞} −\frac{1}{n} log μ^{(n)}(F_{ε}) a nagy eltérés tétel iii.) tulajdonsága és az F_{ε} ⊂ H(η) reláció miatt. Innen

I(μ_{G}∥μ_{F}) − η ≤ lim inf_{n→∞} −\frac{1}{n} log μ^{(n)}(K_{ε}).

Tehát

I(μ_{G}∥μ_{F}) ≥ lim sup_{n→∞} −\frac{1}{n} log μ^{(n)}(K_{ε})

≥ lim inf_{n→∞} −\frac{1}{n} log μ^{(n)}(K_{ε}) ≥ I(μ_{G}∥μ_{F}) − η.

Mivel F_{n} ∈ K_{ε} egy F_{n} n-elemű empirikus eloszlásfüggvényre akkor és csak akkor, ha sup_{x} |F_{n}(x) − G(x)| < ε, valójában azt láttuk be, hogy

I(μ_{G}∥μ_{F}) ≥ lim sup_{n→∞} −\frac{1}{n} log P (sup_{x} |F_{n}(x) − G(x)| < ε)

≥ lim inf_{n→∞} −\frac{1}{n} log P (sup_{x} |F_{n}(x) − G(x)| < ε) ≥ I(μ_{G}∥μ_{F}) − η.

Innen ε → 0 majd η → 0 határátmenetet alkalmazva megkapjuk a kívánt állítást.

Be kell még látnunk a felhasznált tartalmazási tulajdonságokat. Először azt mutatjuk meg, hogy K_{ε} ⊂ H(η), ha ε < ε_{0}(η). A bizonyításban azt használjuk fel, hogy H(η) nyílt halmaz a τ_{0} topológiában, és μ_{G} ∈ H(η). Innen következik, hogy létezik olyan S ⊂ H(η), μ_{G} ∈ S halmaz, amely S = ⋂_{j}{μ_{H}: |μ_{H}(B_{j}) − μ_{G}(B_{j})| <

η̄}, alakban írható, ahol egy véges metszetet vettünk, a metszetben szereplő minden B_{j} halmaz alkalmas intervallum vagy félegyenes, és η̄ > 0 elég kis pozitív szám. Itt azt használtuk ki, hogy milyen bázis segítségével adtuk meg a τ_{0} topológiát.

Viszont könnyen látható, hogy {μ_{H}: sup_{x} |H(x) − G(x)| < ε} ⊂ S, azaz, K_{ε} ⊂ S ⊂

H(η), ha ε ≤ \frac{η̄}{2}, mert |μ_{H}(B_{j})−μ_{G}(B_{j})| < 2ε, ha sup_{x} |H(x)−G(x)| < ε. Sőt innen

az is következik, hogy K_{ε} ⊂ F_{ε} ⊂ H(η), ahol K_{ε} = {μ_{H}: sup_{x} |H(x) − G(x)| <

ε}. Továbbá K_{ε} zárt halmaz a τ_{0} vagy τ topológiában, mert a K_{ε} halmaz a {μ_{H}: |H(x) − G(x)| ≤ ε} zárt halmazok metszete minden −∞ < x < ∞ számra. Be kell még látni, hogy minden ε > 0 számra létezik olyan G_{ε} nyílt halmaz, amelyre μ_{G} ∈ G_{ε} ⊂ K_{ε}.

Itt hivatkozunk a 15. feladat megoldásának elején elvégzett konstrukcióra, amely szerint minden δ > 0 számra létezik a számegyenesnesnek olyan véges particiója B_{j} halmazokra, amelyre minden B_{j} halmaz vagy egy pont vagy egy olyan nyílt intervallum, esetleg félegyenes, amelyre μ_{G}(B_{j}) < δ. Alkalmazzuk ezt az eredményt a δ = \frac{ε}{2} számra. Ekkor nem nehéz belátni, hogy elég kis η̄ = η̄(ε) > 0 számra a G_{ε} = ⋂_{J}{μ_{H}: |μ_{H}(B_{j}) − μ_{G}(B_{j})| < η} halmaz teljesíti a kívánt feltételeket.

Az I(μ_{G}∥μ_{F}) = ∞ eset hasonlóan tárgyalható, bár az kissé egyszerűbb.

Felhasznált topológiai ismeretek.

Egy (X, U) topológikus tér egy X halmazból és annak U nyílt részhalmazaiból álló rendszer. A nyílt halmazok U rendszere teljesíti a következő tulajdonságokat:

1.) Az ∅ üres, és az X teljes halmaz nyílt halmaz. 2.) Véges sok nyílt halmaz metszete nyílt. 3.) Nyílt halmazok uniója mindig nyílt halmaz.

Egy nyílt halmaz komplementerét zárt halmaznak nevezik.

Egy topológikus tér definiciójában a nyílt halmazok U rendszerét gyakran nem közvetlenül definiálják, hanem megadják annak egy bázisát. Ismertetem ennek definicióját.

Topológikus tér bázisának a definiciója. Egy (X, U) topologikus térnek akkor és csak akkor bázisa egy az X halmaz bizonyos részhalmazaiból álló B halmazrendszer, ha B ⊂ U, és minden U ∈ U nyílt halmazhoz és x ∈ U ponthoz, létezik egy olyan B ∈ B halmaz, amelyre x ∈ B, és B ⊂ U.

Be lehet látni, hogy egy (X, U) topológikus tér B bázisa egyértelműen meghatározza a U topológiát, (a B-beli halmazok uniói a nyílt halmazok). Egy X tér részhalmazaiból álló B rendszer akkor és csak akkor lehet egy (X, U) topológikus tér bázisa valamely alkalmas U topológiával, ha minden B_{1}, B_{2} ∈ B halmazpárhoz, és x ∈ B_{1} ∩ B_{2} ponthoz létezik olyan B ∈ B halmaz, amelyre x ∈ B ⊂ B_{1} ∩ B_{2}.

Be szokták vezetni az úgynevezett T_{1}, T_{2}, T_{3}, T_{ρ} és T_{4} tulajdonságú topológikus tereket. Ezek a tulajdonságok azt fejezik ki, hogy egy U topológia mennyire tud szétválasztani bizonyos tulajdonságú diszjunkt halmazokat.

T_{1}, T_{2}, T_{3}, T_{ρ}, és T_{4} tulajdonságú topológikus terek definiciója. Legyen adva egy (X, U) topológikus tér. Az ebben szereplő U topológia T_{1} tulajdonságú, ha minden x ∈ X pontra az {x} halmaz zárt. Az U topológia T_{2} tulajdonságú, ha minden x, y ∈ X, x ≠ y pontpárra létezik olyan G és H nyílt halmaz az U topológiában, amelyre x ∈ G, y ∈ H, és G ∩ H = ∅. (A T_{2} tulajdonságú tereket Hausdorff tereknek is nevezik az irodalomban.)

A további definiciókban feltesszük, hogy T_{1} terekkel foglalkozunk, azaz olyan topológikus terekkel, amelyekben minden egy pontból álló halmaz zárt. Az U topológia T_{3} tulajdonságú, ha minden F zárt halmazra és x ∉ F pontra létezik olyan G és H nyílt halmaz, amelyekre F ⊂ G, x ∈ H, és G ∩ H = ∅. Az U topológia T_{ρ} tulajdonságú, ha minden F zárt halmazra, és x ∉ F pontra létezik olyan folytonos f(·) függvény az (X, U) téren, amelyre f(u) = 0, ha u ∈ F, és f(x) = 1. Az U topológia T_{4} tulajdonságú, ha minden olyan F_{1} és F_{2} zárt halmazpárra, amelyre F_{1} ∩ F_{2} = ∅ létezik olyan G és H nyílt halmaz, amelyekre F_{1} ⊂ G, F_{2} ⊂ H és G ∩ H = ∅.

A fenti definicióban az egymást követő fogalmak a megelőző fogalmaknál (szigorúan) erősebb megkötést tartalmaznak.

A topológia egyik fontos fogalma a kompakt halmaz. Ennek definicióját, illetve a kompakt halmazok legfontosabb tulajdonságait ismertetem az alábbiakban. Különösen fontos lesz számunkra az alább megfogalmazandó Tyihonov tétel.

Egy (X, U) topológikus tér A ⊂ X halmaza kompakt, ha az A halmaz minden nyílt halmazokkal történő fedéséből kiválasztható egy véges fedés, azaz ha G_{t}, t ∈ T, valamely T indexhalmazzal nyílt halmazoknak egy olyan rendszere, amelyre A ⊂ ⋃_{t∈T} G_{t},

akkor létezik a T indexhalmaznak olyan {t_{1}, …, t_{n}} ⊂ T véges részhalmaza, amelyre

A ⊂ ⋃_{j=1}^{n} G_{t_{j}}. Egy (X, U) topológikus tér kompakt, ha az X halmaz kompakt a benne

szereplő U topológia szerint.

Egy T_{2} topológikus tér minden kompakt halmaza zárt. Kompakt halmaz zárt részhalmazai kompaktak. Szemléletesen mondva, a kompakt halmazok a kis zárt halmazok.

A topológia egyik fontos eredménye a Tyihonov tétel, amely szerint kompakt topológikus terek (Descartes) szorzata szintén kompakt topológikus tér. E tétel megfogalmazása érdekében definiáljuk topológikus terek (Descartes) szorzatát.

Először X_{t}, t ∈ T, halmazok ∏_{t∈T} X_{t} Descartes szorzatát definiáljuk az általános

esetben, amikor a T indexhalmaz nem feltétlenül véges vagy megszámlálható. ∏_{t∈T} X_{t} az

összes olyan x(t), t ∈ T, függvényből áll, amelyekre x(t) ∈ X_{t} minden t ∈ T pontban.

Legyen adva topológikus tereknek egy(X_{t}, U_{t}), t ∈ T, halmaza. Ezek Descartes szorzata az az (X, U) topológikus tér, amelyre X = ∏_{t∈T} X_{t}, és a nyílt halmazok U

halmazának egy B bázisát a következő módon definiáljuk. V ∈ B akkor és csak akkor, ha létezik olyan véges S = {t_{1}, …, t_{n}} ⊂ T halmaz, és U_{t_{j}}j ∈ U_{t_{j}}, az (X_{t_{j}}, U_{t_{j}}) térben nyílt halmazok rendszere, 1 ≤ j ≤ n, amelyekre V = ∏_{t∈T} Y_{t}, ahol Y_{t} = U_{t}, ha t ∈ S, és

Y_{t} = X_{t}, ha t ∈ T \ S. Ezután megfogalmazom a Tyihonov tételt.

Tyihonov tétel. Legyen adva kompakt topológikus tereknek egy (X_{t}, U_{t}), t ∈ T, halmaza. Ezek Descartes szorzata szintén kompakt topológikus tér.

Még egy eredményre lesz szükségünk. Ez a következő állítás. Ha (X, U) kompakt topológikus tér, és azonkívül még T_{2} tér is, akkor egyben T_{4} tér is. Bizonyításvázlat. Először azt látjuk be, hogy (X, U) T_{3} tér. Legyen F ⊂ X zárt, ezért kompakt halmaz, és x ∈ X \ F. Akkor minden y ∈ F ponthoz lehet találni olyan G_{y} és H_{y} nyílt halmazokból álló párt, amelyre G_{y} ∩ H_{y} = ∅, y ∈ G_{y}, és x ∈ H_{y}. A G_{y} halmazok uniója lefedi az F kompakt halmazt, ezért létezik véges sok G_{y_{1}}, …, G_{y_{k}}

halmaz, amelyre G = ⋃_{j=1}^{k} G_{y_{j}} nyílt halmaz, és F ⊂ G. Másrészt H = ⋂_{j=1}^{k} H_{y_{j}} is nyílt

halmaz, x ∈ H, és G ∩ H = ∅. Innen következik a T_{3} tulajdonság.

Az (X, U) tér T_{4} tulajdonsága hasonlóan látható be annak T_{3} tulajdonsága alapján. Két diszjunkt zárt F_{1} és F_{2} halmazt kell venni, és az F_{1} = F választással és az F_{2} halmazzal úgy érvelve, mint korábban az x ponttal kapjuk a kívánt állítást.