Néhány alapvető eredmény a χ^{2} statisztikáról

Tekintsük a következő statisztikai feladatot. Adott egy dobókocka, és el akarjuk dönteni, hogy az szabályos-e. Ennek érdekében feldobjuk a kockát n alkalommal, és megjegyezzük, hány alkalommal volt a dobás eredménye j, 1 ≤ j ≤ 6. Jelölje ν_{n}(j), 1 ≤ j ≤ 6, ezeket a (véletlen) számokat. Ha a ν_{n}(j) ∼ \frac{n}{6} reláció teljesül minden 1 ≤ j ≤ 6 számra akkor a kockát szabályosnak tekinthetjük, ellenkező esetben pedig szabálytalannak. Meg kell pontosabban fogalmazni, mit jelentenek a fenti aszimptotikus relációk. En-

nek érdekében tekintsük a \frac{1}{n} ∑_{j=1}^{6} (ν_{n}(j) − \frac{n}{6})^{2} valószínűségi változókat. Be lehet látni,

hogy amennyiben a kocka szabályos, azaz minden oldalára \frac{1}{6} valószínűséggel esik, akkor ennek a kifejezésnek létezik határeloszlása n → ∞ esetében, és ez a határeloszlás explicit módon megadható. Ez lehetővé teszi egy olyan természetes teszt megadását, amelyben egy szabályos dobókockát előírt p valószínűséggel tekintünk szabályosnak, és egy szabálytalan dobókockát nagy n kisérletszám esetén majdnem egy valószínűséggel fogunk szabálytalannak tekinteni.

A fenti problémát természetes módon általánosíthatjuk, és az új probléma megoldását megadhatjuk a fent említett határeloszlástétel egy általánosítása segítségével. Az általánosított feladat a következő: Legyen adva k urna, és ellenőrizni akarjuk azt a feltételezést, amely szerint ha egy golyót véletlenül bedobunk ezen urnák valamelyikébe,

akkor az p_{j}, p_{j} > 0, valószínűséggel esik a j-ik urnába, ∑_{j=1}^{k} p_{j} = 1. Ennek a feltételezés-

nek az ellenőrzése érdekében dobjunk egymástól függetlenül n golyót ezekbe az urnákba, és jelölje ν_{n}(j) a j-ik urnába eső golyók számát. Be lehet látni, hogy feltételezésünk

teljesülése esetén a ∑_{j=1}^{k} \frac{(ν_{n}(j)−np_{j})^{2}}{np_{j}} valószínűségi változóknak létezik határeloszlása n →

∞ esetén, és ezt a határeloszlást meg tudjuk adni. Ezt a határeloszlástételt írjuk le a 2. feladatban. E határeloszlástétel segítségével a kocka szabályosságának ellenőrzéséhez hasonlóan ellenőrizni tudjuk feltételezésünk helyességét.

E hatéreloszlástétel bizonyítása azon alapul, hogy egyrészt meg tudjuk adni a \{\frac{ν_{n}(j)−np_{j}}{\sqrt{np_{j}}} , j = 1, …, k\} véletlen vektorok határeloszlását a több-dimenziós centrális

határeloszlástétel segítségével, másrészt, ha valamely (η_{1}^{(n)}, …, η_{k}^{(n)}) véletlen vektorok eloszlásban konvergálnak egy (η_{1}, …, η_{k}) véletlen vektorhoz n → ∞ esetében, és f(x_{1}, …, x_{k}) folytonos k-változós függvény, akkor az f (η_{1}^{(n)}, …, η_{k}^{(n)}) , n = 1, 2, …, valószínűségi változók eloszlásban konvergálnak az f(η_{1}, …, η_{k}) valószínűségi változóhoz. Ez lehetővé teszi a minket érdeklő statisztikák határeloszlásának megadását. De ezt a határeloszlást egyszerűbb, jobban áttekinthető alakban akarjuk megadni. Ez lehetséges némi lineáris algebra segítségével. A számolás során felhasználjuk azt, hogy ha (η_{1}, …, η_{k}) k-dimenziós nulla várható értékű D kovarianciamátrixú normális eloszlású véletlen vektor, A egy k × k-as mátrix akkor (η_{1}, …, η_{k})A k-dimenziós nulla várható értékű A^{∗}DA kovarianciamátrixú normális eloszlású véletlen vektor. A minket érdeklő határeloszlástétel bizonyítását megkönnyíti az alábbi önmagában is érdekes első feladat. Ezután fogalmazzuk meg a 2. feladatban a χ^{2} próba alapját képező statisztikai állítást.

1.) Legyen η = (η_{1}, …, η_{k}) k-dimenziós normális eloszlású valószínűségi változó nulla várható értékkel és D kovariancia mátrix-szal. Legyenek a λ_{1}, …, λ_{k} számok a D mátrix sajátértékei (multiplicitással). Bizonyítsuk be (alapvető lineáris algebrai is-

meretek felhasználásával), hogy a ∑_{j=1}^{k} η_{j}^{2} valószínűségi változó eloszlása megegyezik

egy ∑_{j=1}^{k} λ_{j}ξ_{j}^{2} valószínűségi változó eloszlásával, ahol ξ_{1}, …, ξ_{k} független standard

normális eloszlású valószínűségi változók.

2.) Adott k darab urna, amelyekbe bedobunk egymástól függetlenül n golyót úgy,

hogy mindegyik golyó p_{j} valószínűséggel esik a j-ik urnába, 1 ≤ j ≤ k, ∑_{j=1}^{k} p_{j} = 1.

Jelölje ν_{n}(j) a j-ik urnába eső golyók számát. Lássuk be, hogy a ∑_{j=1}^{k} \frac{(ν_{n}(j) − np_{j})^{2}}{np_{j}}

valószínűségi változók eloszlásban konvergálnak a k − 1 szabadságfokú χ^{2}(k − 1) eloszláshoz, ha n → ∞, (a k szám rögzített), azaz egy olyan ζ_{k−1} valószínűségi változó eloszlásához, amelyet úgy kapunk, hogy tekintünk k − 1 darab független standard normális eloszlású ξ_{1}, …, ξ_{k−1} valószínűségi változót és elkészítjük segít-

ségükkel a ζ_{k−1} = ∑_{j=1}^{k−1} ξ_{j}^{2} valószínűségi változót.

A 2. feladatban szereplő határeloszlás csak az urnák k számától függ, de nem függ a p_{j}, 1 ≤ j ≤ k, valószínűségektől. Ez jelzi azt, hogy természetes statisztikát vettünk, olyat amelyben a különböző urnákban levő golyók számának az eltérése annak várható értékétől egyforma fontos szerepet játszik. Az, hogy a határeloszlás a χ^{2}(k − 1) eloszlás azzal függ össze, hogy bár k véletlen szám súlyozott négyzetösszegét tekintettük, (az egyes urnákba eső golyók számának eltérését tekintettük azok várható értékétől), de ezek között van egy determinisztikus összefüggés. Nevezetesen az, hogy az összes urnába eső golyók száma minusz azok várható értéke nullával egyenlő. A 2. feladat eredményét informálisan úgy szokták interpretálni, hogy k − 1 szabadsági fokkal rendelkező véletlen vektorok koordinátáinak a négyzetösszegét tekintettük, illetve azok határeloszlását. Ilyen esetben a határeloszlást olyan véletlen összeg adja meg, amelyben mindegyik szabadsági foknak egy összeadandó felel meg, amelyik független a többi összeadandótól, és az egy standard normális eloszlású valószínűségi változó négyzete. A 4. illetve 4.′ feladatban a 2. feladat egy olyan általánosítását fogalmazzuk meg, mint amilyent a 2. feladat fenti heurisztikus interpretációja sugall. Ezelőtt azonban a 3. feladatban egy a 4. és 4.′ feladat bizonyításában hasznos technikai jellegű állítást tárgyalunk.

3.) Legyenek X_{1}, …, X_{k} független standard normális eloszlású valószínűségi változók,

p_{j} ≥ 0, 1 ≤ j ≤ k, tetszőleges nem negatív számok, amelyekre ∑_{j=1}^{k} p_{j} = 1. Ekkor az

X_{1}^{2} +⋯+X_{k}^{2} −(\sqrt{p_{1}}X_{1} + ⋯ + \sqrt{p_{k}}X_{k})^{2} valószínűségi változó χ^{2}(k −1) eloszlású,

és független a standard normális eloszlású ∑_{j=1}^{k} \sqrt{p_{j}}X_{j} valószínűségi változótól.

Tekintsük a következő modellt. Adva vannak urnák, amelyekbe egymástól függetlenül bedobunk n golyót, amelyek a j-ik urnába p_{j} valószínűséggel esnek. Tekintsük először azt az esetet, amikor bizonyos urnákat nem tudunk megkülönböztetni egymástöl, csak azt tudjuk megfigyelni, hogy rögzítve urnák k csoportját, a golyók az urnák melyik csoportjába esnek. Illetve annak valószínűségét is tudjuk, hogy az egyes golyók az urnák valamelyik csoportjába esnek. Ebben az esetben alkalmazhatjuk a 2. feladat eredményét, amely megadja az egyes urnacsoportokba eső golyók számának egy olyan függvényét, amelynek van határeloszlása n → ∞ esetében, és az a χ^{2}(k −1) eloszlás. Ha meg tudjuk figyelni az egyes urnákba eső golyók számát is, és annak valószínűségét is ismerjük, hogy a golyók az egyes urnákba esnek, akkor ebben az esetben is alkalmazhatjuk a 2. feladat eredményét. Ezen eredmény szerint az egyes urnákba eső golyók számának egy alkalmas függvényét véve, annak van határeloszlása, és az χ^{2} eloszlású. Ha ezt a két statisztikát egyidejűleg nézzük, akkor ezek együttesének is van határeloszlása az n → ∞ esetben, és ez az együttes eloszlás olyan, mint amilyet a 2. feladat utáni heurisztikus érvelés sugall. Nevezetesen, a durvább megfigyeléshez tartozó statisztika határeloszlása megegyezik k − 1 független standard normális eloszlású valószínűségi változó négyzetösszegének az eloszlásával. Ha az egyes urnákat is meg tudjuk különböztetni, és a durvább és pontosabb megfigyelésekhez tartozó statisztikák együttes határeloszlását akarjuk megadni, akkor a durvább megfigyeléseken alapuló statisztika határeloszlását leíró valószínűségi változóhoz hozzá kell adni annyi független standard normális eloszlású valószínűségi változónak a négyzetét, amennyivel a modell szabadságfoka nő a pontosabb megfigyelések által. E két valószínűségi változó együttes eloszlása adja meg a két statisztika együttes határeloszlását. Ezt az eredményt fogalmazzuk meg pontosabban a 4. feladatban, a 4.′ feladat pedig a 4. feladat eredményének egy természetes általánosítása.

4.) Legyen adva urnáknak k csoportja, és az urnák j-ik csoportjában legyen l_{j}, l_{j} ≥ 1, urna, 1 ≤ j ≤ k. Dobjunk le n golyót egymástól függetlenül az urnákba úgy, hogy mindegyik golyó a j-ik csoport s-ik urnájába p_{j,s} > 0 valószínűséggel esik, és jelölje

ν_{n}(j, s) az ebbe az urnába eső golyók számát, 1 ≤ j ≤ k, 1 ≤ s ≤ l_{j}, ∑_{j=1}^{k} ∑_{s=1}^{l_{j}} p_{j,s} =

1. Legyen továbbá p_{j} = ∑_{s=1}^{l_{j}} p_{j,s}, ν_{n}(j) = ∑_{s=1}^{l_{j}} ν_{n}(j, s), 1 ≤ j ≤ k, azaz azon

golyók száma, amelyek a j-ik csoportban levő urnák valamelyikébe esnek. Vezessük

be továbbá az L = ∑_{j=1}^{k} l_{j} jelölést, és tekintsük az U_{n}^{(0)} = ∑_{j=1}^{k} ∑_{s=1}^{l_{j}} \frac{(ν_{n}(j,s)−np_{j,s})^{2}}{np_{j,s}}

valamint az U_{n}^{(1)} = ∑_{j=1}^{k} \frac{(ν_{n}(j)−np_{j})^{2}}{np_{j}} valószínűségi változókat. Ekkor a 2. feladat

eredménye alapján tudjuk, hogy az U_{n}^{(0)} valószínűségi változók a χ^{2}(L − 1), az U_{n}^{(1)} valószínűségi változók pedig a χ^{2}(k − 1) eloszláshoz konvergálnak, ha n → ∞. Az ebből a két valószínűségi változóból álló (U_{n}^{(0)}, U_{n}^{(1)}) véletlen vektornak is van határeloszlása n → ∞ esetén, és ez a következő módon jellemezhető: Tekintsünk L − 1 független ξ_{1}, …, ξ_{L−1} standard normális eloszlású valószínűségi változót, és tekintsük azt az U = (U_{0}, U_{1}) véletlen vektort, amelynek az első koordinátája az összes ξ_{j} valószínűségi változó négyzetösszege, a második koordináta

pedig csak az első k − 1 ξ_{j} valószínűségi változó négyzetösszege, azaz U_{0} = ∑_{j=1}^{L−1} ξ_{j}^{2},

U_{1} = ∑_{j=1}^{k−1} ξ_{j}^{2}. Ekkor az (U_{n}^{(0)}, U_{n}^{(1)}) véletlen vektorok az U = (U_{0}, U_{1}) véletlen

vektorhoz konvergálnak eloszlásban n → ∞ esetén.

4.′) Tekintsük az {1, …, k} halmaz egymásba skatulyázott A_{1} ⊃ A_{2} ⊃ ⋯ ⊃ A_{t} par-

ticióit, A_{j} = {A_{j,1}, …, A_{j,l_{j}}}, 1 ≤ j ≤ t, ⋃_{s=1}^{l_{j}} A_{j,s} = {1, …, k}, A_{j,s} ∩ A_{j,s′} = ∅,

ha 1 ≤ s, s′ ≤ l_{j}, és s ≠ s′. (Az A_{j} ⊃ A_{j+1}, 1 ≤ j < t, reláció azt jelenti, hogy minden A_{j+1,s}, 1 ≤ s ≤ l_{j+1}, halmazhoz létezik egy azt tartalmazó A_{j,u} ⊃ A_{j+1,s}, 1 ≤ u ≤ l_{j} halmaz.) Rendeljünk hozzá minden 1 ≤ r ≤ k ponthoz valamilyen

p_{r} > 0 súlyt úgy, hogy ∑_{r=1}^{k} p_{r} = 1, és rendeljük hozzá az A_{j} partició A_{j,s} eleméhez

a p_{s}^{(j)} = ∑_{r∈A_{j,s}} p_{r} súlyt, 1 ≤ j ≤ t, 1 ≤ s ≤ l_{j}. Dobjunk le n golyót k urnába

egymástól függetlenül úgy, hogy mindegyik golyó p_{r} valószínűséggel esik az r-ik urnába, 1 ≤ r ≤ k, és jelölje ν_{n}(r) az r-ik urnába eső golyók számát. Az A_{j} partició segítségével definiáljuk a ν_{n}^{(j)}(s) = ∑_{r∈A_{j,s}} ν_{n}(r), 1 ≤ s ≤ l_{j}, számokat, azaz

számoljuk meg azt, hogy hány golyó esik azon urnák valamelyikébe, amelyek indexei

az A_{j,s} halmazban vannak. Definiáljuk az U_{j}^{(n)} = ∑_{s=1}^{l_{j}} \frac{(ν_{n}^{(j)}(s)−np_{s}^{(j)})^{2}}{np_{s}^{(j)}} valószínűségi

változókat, 1 ≤ j ≤ t. Ekkor az (U_{1}^{(n)}, …, U_{t}^{(n)}) véletlen vektorok eloszlásban konvergálnak egy (U_{1}, …, U_{t}) véletlen vektorhoz, ha n → ∞, amelyet a következő módon definiálhatunk. Legyen ξ_{1}, …, ξ_{k−1} k−1 darab független standard normális

eloszlású valószínűségi változó, és U_{j} = ∑_{s=1}^{l_{j}−1} ξ_{s}^{2}, 1 ≤ j ≤ t.

A következő feladat statisztikai jelentősége az, hogy segít megérteni azt, hogy a χ^{2} statisztika miért jelenik meg természetes módon bizonyos statisztikai feladatokban, amikor konfidencia tartományokat akarunk konstruálni.

Legyen adva k urna, és dobjunk be ezekbe n golyót egymástól függetlenül úgy,

hogy mindegyik golyó p_{j}, p_{j} > 0, ∑_{j=1}^{k} p_{j} = 1, valószínűséggel esik a j-ik urnába,

1 ≤ j ≤ k. Ha az egyes urnákba m_{j}, 1 ≤ j ≤ k, golyó esik, akkor a természetes becslés a p_{j} valószínűségekre a p̂_{j} = \frac{m_{j}}{n} kifejezés, 1 ≤ j ≤ k. Ez egyben a p_{j}, 1 ≤ j ≤ k, paraméterek maximum likelihood becslése is. A matematikai statisztika egyik fontos feladata konfidencia-tartomány konstrukciója, amely jelen esetben a következő problémát jelenti. Rögzítsünk egy 0 < u < 1 számot, és az m_{1}, …, m_{k} megfigyelések segítségével adjunk egy viszonylag kis (véletlen) U_{n}(m_{1}, …, m_{k}) tartományt úgy, hogy az igazi (p_{1}, …, p_{k}) paraméterek u valószínűséggel vannak ebben az U_{n}(m_{1}, …, m_{k}) tartományban, azaz formálisan,

P ((p_{1}, …, p_{k}) ∈ U_{n}(m_{1}, …, m_{k})) = u.

Az alább ismertetendő 5. feladat eredménye a következő (aszimptotikus) módszert sugallja ezen kérdés megoldására: Adva egy 0 < u < 1 szám, definiáljuk azt az x = x(u) számot, amelyre egy χ^{2}(k−1) eloszlású ζ valószínűségi változóra P (ζ < 2x) = u. Ezután definiáljuk a következő (véletlen) Ū_{n}(m_{1}, …, m_{k}) és U_{n}(m_{1}, …, m_{k}) ellipszoidokat:

Ū_{n}(m_{1}, …, m_{k}) = \{(u_{1}, …, u_{k}): ∑_{j=1}^{k} \frac{(m_{j} − nu_{j})^{2}}{np̂_{j}} ≤ x\} ,

(ebben a formulában np̂_{j} = m_{j}, 1 ≤ j ≤ k), és

U_{n}(m_{1}, …, m_{k}) = Ū_{n}(m_{1}, …, m_{k}) ∩ {(u_{1}, …, u_{k}): ∑_{j=1}^{k} u_{j} = 1} .

Ekkor a 2. feladat és alább megfogalmazandó 5. feladat eredménye alapján a

lim_{n→∞} P ((p_{1}, …, p_{k}) ∈ U_{n}(m_{1}, …, m_{k})) = u,

reláció érvényes, és a maximum likelihood módszer ennek a relációnak az alkalmazását sugallja, ha a konfidenciatartományt akarjuk meghatározni a fenti problémában.

5.) Legyen adva k urna, és dobjunk ezekbe n golyót egymástól függetlenül úgy, hogy

mindegyik golyó p_{j} valószínűséggel esik a j-ik urnába, 1 ≤ j ≤ k, ∑_{j=1}^{k} p_{j} = 1. Jelölje

m_{1}, …, m_{k} az egyes urnákba eső golyók számát, ∑_{j=1}^{k} m_{j} = n. Tekintsük a likelihood

függvény L_{n}(p_{1}, …, p_{k}, m_{1}, …, m_{k}) logaritmusát, ∑_{j=1}^{k} p_{j} = 1, ∑_{j=1}^{k} m_{j} = n, p_{j} ≥ 0,

m_{j} ≥ 0, 1 ≤ j ≤ k, azaz tekintsük azon esemény valószínűségét, hogy az egyes urnákba m_{1}, …, m_{k} golyó esik abban az esetben, ha annak valószínűsége, hogy a golyók a megfelelő urnába esnek az p_{1}, …, p_{k} számokkal egyenlőek, majd vegyük ennek a valószínűségnek a logaritmusát. Ekkor

L_{n}(p_{1}, …, p_{k}, m_{1}, …, m_{k}) = log \frac{n!}{m_{1}! ⋯ m_{k}!} + ∑_{j=1}^{k} m_{j} log p_{j},

és az L_{n}(p_{1}, …, p_{k}, m_{1}, …, m_{k}) függvény maximuma rögzített m_{1}, …, m_{k} számokra a p_{j} = p̂_{j} = \frac{m_{j}}{n}, 1 ≤ j ≤ k, pontban vétetik fel. Azaz ez a p_{1}, …, p_{k} paraméterek maximum likelihood becslése. Tekintsük a maximum likelihood függvény logaritmusának különbségét a becsült p̂_{j} = \frac{m_{j}}{n}, 1 ≤ j ≤ k, és a valódi p_{1}, …, p_{k} paraméterek között, azaz vegyük az

B_{p_{1},...,p_{k}}^{(n)}(m_{1}, …, m_{k})

= L_{n} (\frac{m_{1}}{n} , …, \frac{m_{k}}{n} , m_{1}, …, m_{k}) − L_{n} (p_{1}, …, p_{k}, m_{1}, …, m_{k})

különbséget. Ez a különbség a (\frac{m_{1}}{n} , …, \frac{m_{k}}{n} ) és (p_{1}, …, p_{k}) eloszlások közötti Idivergencia szorozva n-nel, azaz

B_{p_{1},...,p_{k}}^{(n)}(m_{1}, …, m_{k}) = nI ((\frac{m_{1}}{n} , …, \frac{m_{k}}{n} )∥ (p_{1}, …, p_{k})) = n ∑_{j=1}^{k} \frac{m_{j}}{n} log \frac{\frac{m_{j}}{n}}{p_{j}} .

A B_{p_{1},...,p_{k}}^{(n)}(m_{1}, …, m_{k}) valószínűségi változók aszimptotikusan megegyeznek a χ^{2} próbában szereplő statisztikának felével. Ez azt jelenti, hogy ha a

C_{n}(m_{1}, …, m_{k}) = ∑_{j=1}^{k} \frac{(m_{j} − np_{j})^{2}}{np_{j}}

statisztikát tekintjük, akkor \frac{1}{2}C_{n}(m_{1}, …, m_{k}) − B_{p_{1},...,p_{k}}^{(n)}(m_{1}, …, m_{k}) ⇒ 0 az n → ∞ esetben, ahol ⇒ sztochasztikus konvergenciát jelöl. Igaz ennek az állításnak a következő változata is: A fenti állítás érvényben marad, ha a C_{n}((m_{1}, …, m_{k}) kifejezésben np_{j}-t az np̂_{j} = m_{j} számmal helyettesítjük, azaz

\frac{1}{2}C̄_{n}(m_{1}, …, m_{k}) − B_{p_{1},...,p_{k}}^{(n)}(m_{1}, …, m_{k}) ⇒ 0, ha n → ∞,

ahol

C̄_{n}(m_{1}, …, m_{k}) = ∑_{j=1}^{k} \frac{(m_{j} − np_{j})^{2}}{m_{j}} .

Az 5.) feladatnak megfogalmazhatjuk az alábbi következményét. Definiáljuk minden (m_{1}, …, m_{k}) paraméterre és x számra az alábbi ellipszoidot.

D((u_{1}, …, u_{k})|m_{1}, …, m_{k}, x) = \{(u_{1}, …, u_{k}): ∑_{j=1}^{k} \frac{(m_{j} − nu_{j})^{2}}{m_{j}} < x\}

Ekkor a következőt mondhatjuk. Dobjunk n pontot egymástól függetlenül k urna valamelyikábe, és legyen p_{j}, 1 ≤ j ≤ k, ∑_{j=1}^{k} p_{j} = 1, annak valószínűsége, hogy egy golyó a j-ik urnába esik. Ekkor

lim_{n→∞} P ((p_{1}, …, p_{k}) ∈ D((u_{1}, …, u_{k})|m_{1}, …, m_{k}, x) = 1 − F_{k}(x),  (1)

ahol F_{k}(x) a k − 1 paraméterű χ^{2} eloszlásfüggvény. Ez azt jelenti, hogy ha az n dobásszám nagy, és az egyes urnákba eső dobások száma m_{1}, …, m_{k}, akkor ezen pontok segítségével tudtunk definiáli egy olyan véletlen D((u_{1}, …, u_{k})|m_{1}, …, m_{k}, x) halmazt, amelyre teljesül az (1) reláció. Ez a tény hasznos, mind a statisztikai ellenőrzésben mind a konfidencia tartományok konstrukciójában.

Megoldások:

1.) A D mátrix felírható D = UΛU^{∗} alakban, ahol U unitér, Λ pedig olyan diagonális mátrix, amelynek átlójában a D mátrix λ_{j} sajátértékei vannak. (Az U mátrix is felírható explicit módon a D nátrix sajátvektorainak segítségével, de erre a tényre itt nincs szükségünk.) Az η = (η_{1}, …, η_{k}) véletlen vektor eloszlása megegyezik egy η̄ = (η̄_{1}, …, η̄_{k}) = ξΛ^{1/2}U^{∗} = (ξ_{1}, …, ξ_{k})Λ^{1/2}U^{∗} véletlen vektor eloszlásával, ahol a ξ = (ξ_{1}, …, ξ_{k}) véletlen vektor standard normális eloszlású. Valóban η̄ normális eloszlású véletlen vektor, amelynek várható értéke nulla és kovariancia mátrixa a (Λ^{1/2}U^{∗})^{∗}Λ^{1/2}U^{∗} = UΛ^{1/2}Λ^{1/2}U^{∗} = UΛU^{∗} = D mátrix. Ezért a

∑_{j=1}^{k} η_{j}^{2} valószínűségi változó eloszlása megegyezik a ∑_{j=1}^{k} η̄_{j}^{2} valószínűségi változó

eloszlásával. Vegyük észre, hogy az η̃ = (η̃_{1}, …, η̃_{k}) = η̄U = (η̄_{1}, …, η̄_{k})U vektorra

teljesül a ∑_{j=1}^{k} η̄_{j}^{2} = ∑_{j=1}^{k} η̃_{j}^{2} azonosság, mert U unitér, tehát távolságtartó transz-

formáció. Viszont η̃ = η̄U = ξΛ^{1/2}U^{∗}U = ξΛ^{1/2}. Ez azt jelenti, hogy a ∑_{j=1}^{k} η_{j}^{2}

valószínűségi változó eloszlása megegyezik a ∑_{j=1}^{k}(λ_{j}^{1/2}ξ_{j})^{2} = ∑_{j=1}^{k} λ_{j}ξ_{j}^{2} valószínűségi

változó eloszlásával, és ez a feladat állítása.

2.) A többdimenziós centrális határeloszlástétel alapján a

(\frac{ν_{n}(1) − np_{1}}{\sqrt{np_{1}}} , …, \frac{ν_{n}(k) − np_{k}}{\sqrt{np_{k}}} )

véletlen vektorok eloszlásban konvergálnak n → ∞ esetén egy olyan (η_{1}, …, η_{k}) kdimenziós normális eloszlású véletlen vektorhoz, amelyre Var η_{j} = (1−p_{j}), Eη_{j} = 0, 1 ≤ j ≤ k, és Cov (η_{j}, η_{l}) = −\sqrt{p_{j}p_{l}}, ha 1 ≤ j, l ≤ k, és j ≠ l. Ezért elegendő belátni, hogy egy nulla várható értékű és a fenti kovarianciafüggvénnyel ren-

delkező normális eloszlású (η_{1}, …, η_{k}) véletlen vektorra a ∑_{j=1}^{l} η_{j}^{2} kifejezés χ^{2}(k − 1)

eloszlású valószínűségi változó, mivel a ∑_{j=1}^{k} \frac{(ν_{n}(j)−np_{j})^{2}}{np_{j}} valószínűségi változók ehhez

a valószínűségi változóhoz konvergálnak eloszlásban.

Ennek belátása érdekében tekintsük az (η_{1}, …, η_{k}) véletlen vektor D = (d_{j,l}), 1 ≤ j, l ≤ k, kovarianciamátrixát, amelyre d_{j,j} = 1 − p_{j}, 1 ≤ j ≤ k, d_{j,l} = −\sqrt{p_{j}p_{l}}, ha 1 ≤ j, l ≤ k, és j ≠ l, és értsük meg a D kovarianciamátrixnak a szerkezetét. Azt állítjuk, hogy az u = (\sqrt{p_{1}}, …, \sqrt{p_{k}}) vektor sajátvektora a D kovarianciamátrixnak nulla sajátértékkel és emellett, ha egy x = (x_{1}, …, x_{k}) vektor merőleges erre az u

vektorra, azaz ∑_{j=1}^{k} x_{j}\sqrt{p_{j}} = 0, akkor az x vektor a D mátrixnak sajátvektora 1

sajátértékkel.

Valóban, tetszőleges 1 ≤ j ≤ k számra

∑_{l: l≠j} \sqrt{p_{l}}d_{j,l} = −\sqrt{p_{j}} ∑_{l: l≠j} p_{l} = −\sqrt{p_{j}}(1 − p_{j}) = −\sqrt{p_{j}}d_{j,j},

ahonnan ∑_{l=1}^{k} \sqrt{p_{l}}d_{j,l} = 0, és ez azt jelenti, hogy az u vektor a D mátrix sajátvektora

nulla sajátértékkel.

Ha ∑_{j=1}^{k} x_{j}\sqrt{p_{j}} = 0, akkor minden 1 ≤ j ≤ k számra

∑_{l: l≠j} d_{j,l}x_{l} = −\sqrt{p_{j}} ∑_{l: l≠j} \sqrt{p_{l}}x_{l} = \sqrt{p_{j}}\sqrt{p_{j}}x_{j} = p_{j}x_{j},

ahonnan ∑_{l=1}^{k} d_{j,l}x_{l} = x_{j}p_{j} + x_{j}(1 − p_{j}) = x_{j}, és ez azt jelenti, hogy az x vektor a D

mátrix sajátvektora egy sajátértékkel. Ez azt jelenti, hogy a D kovariancia mátrixnak létezik egy nulla és k − 1 1 sajátértékkel rendelkező ortogonális sajátvektora. Valóban, az u = (\sqrt{p_{1}}, …, \sqrt{p_{k}}) vektor és a rá merőleges altér tetszőleges k − 1 vektorból álló ortogonális bázisa alkalmas választás. Ezért a bizonyítandó állítás következik az első feladat eredményéből. Ekkor ugyanis a sajátértékek rendszere az 1 számból áll k − 1 multiplicitással és a nulla számból egy multiplicitással.

3.) Vezessük be a Z_{j} = X_{j} − \sqrt{p_{j}} ∑_{l=1}^{k} \sqrt{p_{l}}X_{l}, 1 ≤ l ≤ k, és U = ∑_{l=1}^{k} \sqrt{p_{l}}X_{l} valószínűségi

változókat. Ekkor (Z_{1}, …, Z_{k}, U) k + 1 dimenziós normális eloszlású valószínűségi vektor. Továbbá, EZ_{j}U = 0 minden 1 ≤ j ≤ k számra, és EU^{2} = 1. Innen, és a többdimenziós normális eloszlású valószínűségi változók tulajdonságai-

ból következik, hogy az U = ∑_{l=1}^{k} \sqrt{p_{l}}X_{l} standard normális eloszlású valószínűsé-

gi változó független a (Z_{1}, …, Z_{k}) véletlen vektortól. Továbbá egyszerű algebrai

számolás adja, hogy ∑_{j=1}^{k} Z_{j}^{2} = X_{1}^{2} + ⋯ + X_{k}^{2} − (\sqrt{p_{1}}X_{1} + ⋯ + \sqrt{p_{k}}X_{k})^{2}. Ezért

a bizonyítás befejezéséhez elég megmutatni azt, hogy ∑_{j=1}^{k} Z_{j}^{2}, χ^{2}(k − 1) eloszlású

valószínűségi változó. Viszont egyszerű számolás adja, hogy EZ_{j} = 0, EZ_{j}^{2} = 1−p_{j}, 1 ≤ j ≤ k, EZ_{j}Z_{l} = −\sqrt{p_{j}p_{l}}, ha 1 ≤ j, l ≤ k, és j ≠ l. Másrészt az előző feladatban bebizonyítottuk (ez volt a bizonyítás lényege), hogy egy ilyen kovariancia mátrixú, nulla várható értékű (Z_{1}, …, Z_{k}) normális eloszlású véletlen vektorra a

∑_{j=1}^{k} Z_{j}^{2} valószínűségi változó χ^{2}(k − 1) eloszlású.

4.) Tekintsük a Z_{j,s,n} = \frac{ν_{n}(j,s)−np_{j,s}}{\sqrt{np_{j,s}}}, 1 ≤ j ≤ k, 1 ≤ s ≤ l_{j}, illetve a a Z_{j,n} = \frac{ν_{n}(j)−np_{j}}{\sqrt{np_{j}}}, 1 ≤ j ≤ k valószínűségi változókat. A többdimenziós centrális határeloszlástétel alapján ezen valószínűségi változók együttes eloszlása konvergál egy nulla várható értékű és alkalmas kovarianciájú Z_{j,s}, 1 ≤ j ≤ k, 1 ≤ s ≤ l_{j}, és Z_{j}, 1 ≤ j ≤ k, koordinátákból álló véletlen normális eloszlású vektorhoz. Innen következik, hogy az (U_{n}^{(0)}, U_{n}^{(1)}) vektoroknak van határeloszlása. Abból a célból, hogy ezt a határeloszlást megadjuk, először definiálunk olyan Z_{j,s}, és Z_{j} koordinátákból álló többdimenziós normális eloszlású vektort, amelynek eloszlása megegyezik a Z_{j,s,n} és Z_{j,n} koordinátájú véletlen vektorok határeloszlásával. Legyenek X_{j,s}, 1 ≤ j ≤ k, 1 ≤ s ≤ l_{j}, független standard normális eloszlású valószínűségi változók, és definiáljuk segítségükkel az

X_{j} = \frac{1}{\sqrt{p_{j}}} ∑_{s=1}^{l_{j}} \sqrt{p_{j,s}}X_{j,s}, X = ∑_{j=1}^{k} \sqrt{p_{j}}X_{j} = ∑_{j=1}^{k} ∑_{s=1}^{l_{j}} \sqrt{p_{j,s}}X_{j,s},

Z_{j,s} = X_{j,s} − \sqrt{p_{j,s}}X,

továbbá a

Z_{j} = \frac{1}{\sqrt{p_{j}}} ∑_{s=1}^{l_{j}} \sqrt{p_{j,s}}Z_{j,s} = \frac{1}{\sqrt{p_{j}}} ∑_{j=1}^{l_{j}} \sqrt{p_{j,k}}X_{j,k} − \frac{p_{j}X}{\sqrt{p_{j}}} = X_{j} − \sqrt{p_{j}}X

valószínűségi változókat. A Z_{j,s}, 1 ≤ j ≤ k, 1 ≤ s ≤ l_{j} koordinátákból álló vektor eloszlása megegyezik a Z_{j,s,n} = \frac{ν_{n}(j,s)−np_{j,s}}{\sqrt{np_{j,s}}}, 1 ≤ j ≤ k, 1 ≤ s ≤ l_{j}, koordinátákat tartalmazó véletlen vektor határeloszlásával n → ∞ esetén, mert ez olyan normális eloszlású vektor, amelyre EZ_{j,s} = 0, Var Z_{j,s} = 1 − p_{j,s}, 1 ≤ j ≤ k, 1 ≤ s ≤ l_{j}, és Cov (Z_{j,s}, Z_{j′,s′}) = −\sqrt{p_{j,s}p_{j′,s′}}, ha 1 ≤ j, j′ ≤ k, 1 ≤ s ≤ l_{j}, 1 ≤ s′ ≤ l_{j′}, és (j, s) ≠ (j′, s′). Továbbá, ha ezeket a vektorokat kiegészítjük a Z_{j}, 1 ≤ j ≤ k koordinátákkal akkor ezen vektorok eloszlása megegyezik azon vektorok határeloszlásával n → ∞ esetében, amelyeket úgy kapunk, hogy a Z_{j,s,n} koordinátákból álló vektort kiegészítjük a Z_{j,n},

1 ≤ j ≤ k koordinátákkal. Ehhez elég észrevenni, hogy Z_{j,n} = \frac{1}{\sqrt{p_{j}}} ∑_{s=1}^{l_{j}} \sqrt{p_{j,s}}Z_{j,s,n},

és hasonló reláció érvényes a Z_{j} és Z_{j,s} vektorokra is.

A fentiek alapján az (U_{n}^{(0)}, U_{n}^{(1)}) vektorok határeloszlása megegyezik az U^{(0)} =

∑_{j=1}^{k} ∑_{s=1}^{l_{j}} Z_{j,s}^{2} és U^{(1)} = ∑_{j=1}^{k} Z_{j}^{2} valószínűségi változókból álló (U^{(0)}, U^{(1)}) véletlen

vektor eloszlásával.

Azt állítjuk, hogy ∑_{s=1}^{l_{j}} Z_{j,s}^{2}−Z_{j}^{2} = ∑_{s=1}^{l_{j}} X_{j,s}^{2}−X_{j}^{2} minden 1 ≤ j ≤ k számra. Valóban,

∑_{s=1}^{l_{j}} Z_{j,s}^{2} = ∑_{s=1}^{k_{j}} (X_{j,s} − \sqrt{p_{j,s}}X)^{2} = ∑_{s=1}^{l_{j}} X_{j,s}^{2} + p_{j}X^{2} − 2\sqrt{p_{j}}XX_{j}, és Z_{j}^{2} = X_{j}^{2} +

p_{j}X^{2} − 2\sqrt{p_{j}}XX_{j}. E két azonosságot kivonva egymásból kapjuk a kívánt állítást.

Vezessük be a V_{j} = ∑_{s=1}^{l_{j}} Z_{j,s}^{2} − Z_{j}^{2}, 1 ≤ j ≤ k valószínűségi változókat. A fenti

azonosságból és a 3. feladat eredményéből következik, hogy a (V_{j}, X_{j}) vektor koordinátái függetlenek egymástól, V_{j} χ^{2}(l_{j} − 1), X_{j} pedig standard normális eloszlású valószínűségi változó minden 1 ≤ j ≤ k indexre. Valóban, rögzítsünk egy 1 ≤ j ≤ k indexet, vezessük be a q_{s} = \frac{p_{j,s}}{p_{j}} számokat, és használjuk fel a

∑_{s=1}^{l_{j}} Z_{j,s}^{2} − Z_{j}^{2} = ∑_{s=1}^{l_{j}} X_{j,s}^{2} − X_{j}^{2} azonosságot. Ekkor X_{j} = ∑_{s=1}^{l_{j}} \sqrt{q_{s}}X_{j,s}, és bevezetve

az Y_{j,s} = X_{j,s} − \sqrt{q_{s}}X_{j} valószínűségi változókat, felírhatjuk, hogy ∑_{s=1}^{l_{j}} Y_{j,s}^{2} =

∑_{s=1}^{l_{j}} X_{j,s}^{2} − X_{j}^{2}. Ezért a 3.) feladat eredménye a benne szereplő változók alkalmas

választásával megadja a kívánt eredeményt. Továbbá a (V_{j}, X_{j}), 1 ≤ j ≤ k, vektorok függetlenek egymástól, mert a (V_{j}, X_{j}) vektor az X_{j,s}, 1 ≤ s ≤ l_{j}, valószínűségi változók függvénye. Vegyük továbbá észre,

hogy a V = ∑_{j=1}^{k} X_{j}^{2} − X^{2} vektorra V = ∑_{j=1}^{k} Z_{j}^{2}, (mellesleg a V vektor független az

X vektortól, de erre a tényre nem lesz szükségünk), és V χ^{2}(k − 1) eloszlású vektor. Továbbá a konstrukció szerkezetéből és a V_{j}, X_{j}, 1 ≤ j ≤ k, valószínűségi változók függetlenségéből következik, hogy a V_{j}, 1 ≤ j ≤ k, és V véletlen vek-

torok függetlenek egymástól. Ezért a V és ∑_{j=1}^{k} V_{j} valószínűségi változók egymástól

függetlenek χ^{2}(k − 1) és χ^{2}(L − k) eloszlással. Ezenkívül az U = (U_{0}, U_{1}) véletlen

vektor megegyezik a (V + ∑_{j=1}^{k} V_{j}, V ) vektorral. Innen következik a feladat állítása.

Megjegyzés: A bizonyítás módszere jobban érthető, ha felidézzük azt, hogy az egyes urnákba eső pontok számának alkalmas normalizáltjainak határeloszlása kifejezhető mint egy Brown bridge növekményeinek az eloszlása alkalmas intervallumokon. Továbbá egy Brown bridge-t elő lehet állítani, B(t) = W (t) − tW (1) alakban, ahol W (t), 0 ≤ t ≤ 1, Wiener folyamat, és Wiener folyamattal egyszerűbb számolni mint Brown bridge-zsel, mert az független növekményű folyamat. A bizonyításban szereplő konstrukció hátterében ez az észrevétel áll. Jegyezzük meg, hogy ha a Brown bridge-t B(t) = W (t) − tW (1), 0 ≤ t ≤ 1, alakban reprezentáljuk egy Wiener folyamat segítségével, akkor ez a B(·) Brown bridge független a W (1) valószínűségi változótól. Ez tény felel meg a 3. feladat állításának az X_{1}^{2}+⋯+X_{k}^{2}−

(\sqrt{p_{1}}X_{1} + ⋯ + \sqrt{p_{k}}X_{k})^{2} és ∑_{j=1}^{k} \sqrt{p_{j}}X_{j} valószínűségi változók függetlenségéről.

4.′) Először konstruálunk olyan Z_{s}^{(j)}, 1 ≤ j ≤ t, 1 ≤ s ≤ l_{j} koordinátákból álló normális

eloszlású véletlen vektort, amelynek eloszlása a Z_{n,s}^{(j)} = \frac{ν_{n}^{(j)}(s)−np_{s}^{(j)}}{\sqrt{np_{s}^{(j)}}} , 1 ≤ j ≤ t,

1 ≤ s ≤ l_{j} koordinátákból álló véletlen vektoroknak, határeloszlása n → ∞ esetben, és amelyekkel viszonylag egyszerű számolni. Ennek érdekében tekintsünk X_{r}, 1 ≤ r ≤ k, független standard normális eloszlású valószínűségi változókat, és definiáljuk segítségükkel az

X_{s}^{(j)} = \frac{1}{\sqrt{p_{s}^{(j)}}} ∑_{r: r∈A_{j,s}} \sqrt{p_{r}}X_{r},  1 ≤ j ≤ t, 1 ≤ s ≤ l_{j},

X = ∑_{s=1}^{l_{j}} \sqrt{p_{s}^{(j)}}X_{s}^{(j)} = ∑_{r=1}^{k} \sqrt{p_{r}}X_{r},

Z_{s}^{(j)} = X_{s}^{(j)} − \sqrt{p_{s}^{(j)}}X,  1 ≤ j ≤ t, 1 ≤ s ≤ l_{j},

valószínűségi változókat. Jegyezzük meg, hogy az X valószínűségi változó definiciója korrekt volt, azaz X valóban nem függ az első felírásában szereplő j indextől. Továbbá minden 1 ≤ j′ ≤ j ≤ t és 1 ≤ s ≤ l_{j′} számpárra érvényes az alábbi azonosság:

Z_{s}^{(j′)} = \frac{1}{\sqrt{p_{s}^{(j′)}}} ∑_{u: A_{j,u}⊂A_{j′,s}} \sqrt{p_{u}^{(j)}}Z_{u}^{(j)}.

Azt állítjuk, hogy a fent definiált Z_{s}^{(j)}, 1 ≤ j ≤ t, 1 ≤ s ≤ l_{j}, koordinátákból álló véletlen vektor eloszlása megegyezik a Z_{n,s}^{(j)} 1 ≤ j ≤ t, 1 ≤ s ≤ l_{j}, koordinátákból álló véletlen vektorok határeloszlásával, ha n → ∞. Ennek megmutatása érdekében tekintsük először a legfinomabb particiót, azaz a j = t esetet és vegyük észre, hogy

mivel EZ_{s}^{(t)} = 0, Var Z_{s}^{(t)} = 1 − p_{s}^{(t)}, 1 ≤ s ≤ l_{t}, Cov (Z_{s}^{(t)}Z_{s′}^{(t)}) = −\sqrt{p_{s}^{(t)}p_{s′}^{(t)}}, ha

1 ≤ s, s′ ≤ l_{t}, és s ≠ s′, ezért a a Z_{n,s}^{(t)}, 1 ≤ s ≤ l_{t}, koordinátákból álló vektorok eloszlásban konvergálnak a Z_{s}^{(t)}, 1 ≤ s ≤ l_{t}, vektorokból álló véletlen vektorhoz, ha n → ∞. Mivel

Z_{n,s}^{(j)} = \frac{1}{\sqrt{p_{s}^{(j)}}} ∑_{u: A_{t,u}⊂A_{j,s}} \sqrt{p_{u}^{(t)}}Z_{n,u}^{(j)},

minden 1 ≤ j ≤ t és 1 ≤ s ≤ l_{j} számra, és hasonló reláció érvényes a Z_{s}^{(j)} valószínűségi változókra, ezért az előző állításból következik a kívánt határeloszlás érvényessége. A 4. feladatban végrehajtott számoláshoz hasonlóan kapjuk, hogy minden 1 < j ≤ t, és 1 ≤ s ≤ l_{j−1} számokra érvényes a

V_{j−1,s} = ∑_{r: A_{j,r}⊂A_{j−1,s}} Z_{r}^{(j)}^{2} − Z_{s}^{(j−1)}^{2} = ∑_{r: A_{j,r}⊂A_{j−1,s}} X_{r}^{(j)}^{2} − X_{s}^{(j−1)}^{2}

= ∑_{r: A_{j,r}⊂A_{j−1,s}} (X_{r}^{(j)} − \begin{matrix}√ & \overline{p_{r}^{(j)}} \\ √ & \overline{p_{s}^{(j−1)}} \end{matrix} X_{s}^{(j−1)})^{2}

azonosság. Továbbá, EX_{s}^{(j−1)} (X_{r}^{(j)} − \begin{matrix}√ & \overline{p_{r}^{(j)}} \\ √ & \overline{p_{s}^{(j−1)}} \end{matrix} X_{s}^{(j−1)}) = 0 minden 1 ≤ s ≤ l_{j−1}

számra és olyan r indexre, amelyre A_{j,r} ⊂ A_{j−1,s}. Ezért a többdimenziós normális eloszlású valószínűségi változók tulajdonságaiból következik, hogy az X_{s}^{(j−1)} va-

lószínűségi változó független az (X_{r}^{(j)} − \begin{matrix}√ & \overline{p_{r}^{(j)}} \\ √ & \overline{p_{s}^{(j−1)}} \end{matrix} X_{s}^{(j−1)}, r ∈ A_{j−1,s}) véletlen vek-

tortól. Innen, és a V_{j−1,s} valószínűségi változók definiciójából következik, hogy az X_{s}^{(j−1)} és V_{j−1,s} valószínűségi változók függetlenek egymástól. Továbbá, mivel az X_{s}^{(j−1)} és V_{j−1,s} valószínűségi változók kifejezhetőek mint azon X_{u} valószínűségi változók függvényei, amelyekre u ∈ A_{j−1,s}, ezért az (X_{s}^{(j−1)}, V_{j−1}, s), 1 ≤ s ≤ l_{j−1}, véletlen vektorok függetlenek. A fenti állításokból következik, hogy az X_{s}^{(j−1)}, V_{j−1,s} valószínűségi változók, 1 ≤ s ≤ l_{j−1}, függetlenek egymástól.

Vezessük be az U_{j} = ∑_{s=1}^{l_{j}} Z_{s}^{(j)}^{2} valószínűségi változókat, 1 ≤ j ≤ t. A V_{j−1,s}

valószínűségi változókra bebizonyított azonosságokat összeadva kapjuk, hogy U_{j} −

U_{j−1} = ∑_{s=1}^{l_{j−1}} V_{j−1,s}. A V_{j−1,s}, 1 ≤ s ≤ l_{j−1} valószínűségi változók függetlenek,

továbbá a 3. feladat eredménye szerint V_{j−1,s} χ^{2}(m(j − 1, s) − 1) eloszlású, ahol m(j − 1, s) az A_{j−1,s} halmaz számosságát jelöli. Ezért U_{j} − U_{j−1} χ^{2}(l_{j} − l_{j−1}) eloszlású. Továbbá az előző paragrafusban bizonyított függetlenségi relációból

következik, hogy az U_{j} − U_{j−1} = ∑_{s=1}^{l_{j−1}} V_{j−1,s} valószínűségi változó minden 1 < j ≤ t

számra független az {X_{s}^{(j−1)}, 1 ≤ s ≤ l_{j−1}} véletlen vektortól. Ezek az állítások a j = 1 esetben is igazak, ha az U_{0} = 0 és l_{0} = 1 definiciót alkalmazzuk. (A j = 1 esetben az X vektor játszhatja az U_{1} − U_{0} valószínűségi változótól független vektorok rendszerét, de erre az észrevételre nincs szükségünk.)

Az U_{m} −U_{m−1}, 1 ≤ m < j, valószínűségi változók az {X_{s}^{(j−1)}, 1 ≤ s ≤ l_{j}} véletlen vektor függvényeként is kifejezhetőek. Ezért az U_{j} − U_{j−1} valószínűségi változó független az {U_{m} − U_{m−1}, 1 ≤ m ≤ j − 1} véletlen vektortól. A fenti állításokból kapjuk, hogy az U_{j} −U_{j−1}, 1 ≤ j ≤ t, valószínűségi változók függetlenek egymástól, és χ^{2}(l_{j} − l_{j−1}) eloszlásúak. Innen, és a U_{j} valószínűségi változók definiciójából következik a feladat állítása.

5.) Ha a golyók az egyes urnákba p_{1}, …, p_{k} valószínűséggel esnek, akkor annak valószínűsége, hogy az első urnába m_{1} a második urnába m_{2}, …, a k-ik urnába m_{k} golyó esik \frac{n!}{m_{1}!···m_{k}!}p_{1}^{m_{1}} ⋯ p_{k}^{m_{k}}. Innen egyszerű számolással kapjuk az

L_{n}(p_{1}, …, p_{k}, m_{1}, …, m_{k})

függvényre felírt kifejezést. Ennek szélsőértékét rögzített m_{1}, …, m_{k} értékek ese-

tén a Lagrange féle multiplikátor módszer segítségével (A ∑_{j=1}^{k} p_{j} = 1 feltétel miatt érdemes alkalmazni a Lagrange féle multiplikátor módszert) a következő egyenletrendszer segítségével határozhatjuk meg: A Lagrange féle multiplikátor módszer

szerint a ∑_{j=1}^{k} m_{j} log p_{j} − λ(p_{1} + ⋯ + p_{k}) függvény parciális deriváltjai a _{j} változó

szerint nulla, és a k + 1-ik egyenlet a p_{1} + ⋯ + p_{k} = 1 reláció. Innen \frac{m_{j}}{p̂_{j}} − λ = 0, 1 ≤ j ≤ k. Az m_{j} = λp_{j} egyenleteket összeadva kapjuk hogy λ = n, ahonnan p̂_{j} = \frac{m_{j}}{n}, 1 ≤ j ≤ k, a maximum likelihood becslés a p_{1}, …, p_{k} paraméterekre. Innen egyszerű számolással kapjuk a B_{p_{1},...,p_{k}}^{(n)}(m_{1}, …, m_{k}) kifejezésre megadott formulát. A B_{p_{1},...,p_{k}}^{(n)}(m_{1}, …, m_{k}) kifejezés aszimptotkájanak meghatározása érdekében írjuk fel a Taylor sorfejtés segítségével, hogy

n\frac{m_{j}}{n} log \frac{\frac{m_{j}}{n}}{p_{j}} = −n\frac{m_{j}}{n} log (1 + \frac{p_{j} − \frac{m_{j}}{n}}{\frac{m_{j}}{n}} )

= −n (p_{j} − \frac{m_{j}}{n} ) + \frac{1}{2} \frac{(m_{j} − np_{j})^{2}}{n\frac{m_{j}}{n}} + ε_{j}(n)

= −n (p_{j} − \frac{m_{j}}{n} ) + \frac{1}{2} \frac{(m_{j} − np_{j})^{2}}{np_{j}} + ε̄_{j}(n)

minden 1 ≤ j ≤ k számra, ahol ε_{j}(n) ⇒ 0, ε̄_{j}(n) ⇒ 0, ha n → ∞, és ⇒ sztochasztikus konvergenciát jelöl. Az ε_{j}(n) ⇒ 0 összefüggés azért teljesül, mert felhasználva azt, hogy az (\frac{m_{j}}{n} − p_{j})^{3} n^{3/2} valószínűségi változó sztochasztikusan korlátos kapjuk, hogy a fenti Taylor sorban a harmadik tag hozadéka elhanyagolhatóan kicsi. Az itt használt érvelésekben felhasználjuk, hogy a centrális határeloszlástétel szerint \frac{m_{j}−np_{j}}{\sqrt{np_{j}(1−p_{j})}} eloszlásban konvergál a standard normális eloszláshoz.

Ezután az \frac{m_{j}}{np_{j}} ⇒ 1 reláció és az \frac{(m_{j}−np_{j})^{2}}{n \frac{m_{j}}{n}} kifejezés sztochasztikus korlátossága miatt a fenti aszimptotikában a második sorozat helyettesíthető a harmadik sorral. A fenti relációkat összegezve minden j = 1, …, k-ra kapjuk, hogy, érvényes a

B_{p_{1},...,p_{k}}^{(n)}(m_{1}, …, m_{k}) = −n ∑_{j=1}^{k} (p_{j} − \frac{m_{j}}{n} ) + \frac{1}{2} ∑_{j=1}^{k} \frac{(m_{j} − np_{j})^{2}}{np_{j}} + ε(n)

= \frac{1}{2} ∑_{j=1}^{k} \frac{(m_{j} − np_{j})^{2}}{np_{j}} + ε(n)

reláció, ahol ε(n) ⇒ 0, mivel ∑_{j=1}^{k} (p_{j} − \frac{m_{j}}{n} ) = 0. Ezért

\frac{1}{2}C_{n}(m_{1}, …, m_{k}) − B_{p_{1},...,p_{k}}^{(n)}(m_{1}, …, m_{k}) ⇒ 0, ha n → ∞.

Továbbá, mivel minden 1 ≤ j ≤ k számra \frac{m_{j}}{n} ⇒ p_{j}, ha n → ∞, és az \frac{(m_{j}−np_{j})^{2}}{np_{j}} valószínűségi változók sztochasztikusan korlátosak ezért

C_{n}(m_{1}, …, m_{k}) − C̄_{n}(m_{1}, …, m_{k}) ⇒ 0, ha n → ∞.

Innen következik, hogy az utolsó relációban a C_{n} valószínűségi változót helyettesíthetjük a C̄_{n} valószínűségi változóval. Ezzel beláttuk a 5. feladat összes állítását.