\documentclass[12pt]{article}
\usepackage[utf8]{inputenc}

\begin{document}

\begin{center}
{\bf Vektor \'ert\'ek\H{u} norm\'alis eloszl\'as\'u 
valószínűségi változók \'es Wishart mátrixok.}
\end{center}

\medskip\noindent
E jegyzet témája a Bolla--Krámli könyv ötödik fejezete, amely
a többváltozós normális eloszlásokkal kapcsolatos statisztikai
problémákkal foglalkozik. E probl\'em\'ak szorosan kapcsolódnak az 
úgynevezett Wishart mátrixokhoz. A  könyvben kidolgozott 
bizonyítások sok technikai részlet\'et elhagyom, el\-ső\-sor\-ban 
arra koncentrálok, hogy a bizonyítások hátterét, és azokat a 
rész\-le\-te\-it magyarázzam el, amelyek rész\-le\-te\-sebb 
kifejtést érdemelnek.

Először felidézek néhány olyan eredményt a vektor értékű normális 
el\-osz\-lá\-sok\-ról és a lineáris algebrából, amelyeket használni 
fogunk.

Egy normális eloszlású véletlen vektor eloszlását meghatározza 
vár\-ha\-tó érték vektora és kovarianciamátrixa. A 
kovarianciamátrix mindig po\-zi\-tív szemidefinit, és akkor és 
csak akkor van  egy normális eloszlású véletlen vektornak 
sűrűségfüggvénye, ha a kovarianciamátrixa szigorúan pozitív 
definit, vagy ami ezzel ekvivalens, in\-ver\-tál\-ha\-tó. 
Ebben a jegyzetben csak in\-ver\-tál\-ha\-tó kovarianciamátrixú 
normális eloszlás\'u véletlen vektorokkal fogunk 
fog\-lal\-koz\-ni. Emlékeztetek arra is, hogy ha egy normális 
eloszlású véletlen vektor koordinátái korrelálatlanok,
akkor függetlenek is. (Ennél valamivel élesebb állítás is igaz, 
amely a koordináták részhalmazai által indexelt vektorokra 
ál\-lít\-ja ugyanezt.) Ugyancsak felidézem azt a tényt, hogy ha 
egy normális eloszlású véletlen vektort megszorzunk egy 
mátrixszal, akkor megint normális eloszlású véletlen vektort 
kapunk. Ez akkor is igaz, ha téglalap alakú mátrix\-szal szorzunk.
Egyébként a könyvhöz hasonlóan ${\cal N}_p(\mathbf{m},\mathbf{C})$-vel 
fogjuk jelölni a $p$ dimenziós normális eloszlást $\mathbf{m}$ 
várható érték vektorral és $\mathbf{C}$ kovarianciamátrixszal.

Alkalmazkodva a könyv jelöléséhez ebben a jegyzetben 
oszlopvektorokkal fogok dolgozni. A mátrixokkal kapcsolatban 
először azt az eredményt idézem fel, hogy egy $\mathbf{A}$ 
szimmetrikus mátrixnak van úgynevezett spektrál felbontása, azaz 
$\mathbf{A}=\mathbf{U}^T\mathbf{\Lambda U}$ alak\'u 
elő\-állí\-tá\-sa, ahol $\mathbf{\Lambda}$ diagonális 
$\mathbf{U}$ pedig ortogonális mátrix. A $\mathbf{\Lambda}$  
diagonális mátrixban az  $\mathbf{A}$ mátrix sajátértékei, az 
$\mathbf{U}$ ortogonális mátrixban pedig az $\mathbf{A}$ 
m\'atrix hozzájuk tartozó 1 normájú sajátvektorai vannak.

Felmerül a kérdés, hogy mennyire egyértelmű szimmetrikus mátrixok 
spek\-trál\-fel\-bon\-tá\-sa. A $\mathbf{\Lambda}$ mátrix egyértelműen
meghat\'arozott, eltekintve a mátrix dia\-go\-ná\-li\-sá\-ban levő 
$\lambda_j$ sajátértékek sorrendjétől. Ezt rögzíthetjük például 
úgy, hogy a sajátértékeket monoton csökkenő sorrendben soroljuk 
fel a diagonálisban. Ha a sajátértékek között vannak megegyezőek, 
akkor az $\mathbf{U}$ ortogonális mátrix megadása nem egyértelmű. Ha az 
összes sajátérték különböző, akkor az $\mathbf{U}$ mátrix előállítása 
lényegében egyértelmű. Annyi sza\-bad\-sá\-gunk van, hogy a benne 
szereplő sajátvektorokat beszorozhatjuk $\pm1$-gyel.

Fogunk dolgozni mátrixok nyomával (trace). Egy négyzetes, nem 
fel\-tét\-le\-nül szimmetrikus $\mathbf{A}$ mátrixnak defini\'aljuk a 
nyom\'at, amit úgy jelölünk, hogy  $\textrm{tr}\, \mathbf{A}$. Ez 
egyenlő a mátrix diagonálisában levő elemek összegével. Egy 
mátrixok nyomáról szóló fontos azonosság az, hogy mátrixok 
szorzatának a nyoma nem változik, ha a a mátrixokat
ciklikusan eltoljuk, azaz ha adva van $n$ darab 
$\mathbf{A}_1,\dots \mathbf{A}_n$ mátrix, akkor
$$
\textrm{tr}\,(\mathbf{A}_1 \mathbf{A}_2\cdots \mathbf{A}_n)
=\textrm{tr}\,(\mathbf{A}_k \mathbf{A}_{k+1}\cdots \mathbf{A}_n 
\mathbf{A}_1\cdots \mathbf{A}_{k-1})
$$
minden $k=1,\dots, n$ indexre. Ebben az azonosságban téglalap
alakú mát\-ri\-xok is szerepelhetnek, az egyetlen megkötés az, hogy
a mátrixok mérete olyan, hogy a szorzatuknak van értelme, és az
összes mátrix szorzata négyzet alakú m\'atrix. Tehát az $\mathbf{A}_j$ 
mátrix mérete $N_{j}\times N_{j+1}$, $1\le j \le n$, és $N_{n+1}= N_1$.

A fenti azonosság egyik következménye az, hogy szimmetrikus
mátrix nyoma megegyezik a sajátértékei összegével, mert véve egy
$\mathbf{A}$ szimmetrikus mátrix spektrálfelbontását azt kapjuk, hogy
$$
\textrm{tr}\,\mathbf{A}=\textrm{tr}\,(\mathbf{U}^T\mathbf{\Lambda U}) 
=\textrm{tr}\, (\mathbf{UU}^T\mathbf{\Lambda}) =\textrm{tr}\,\mathbf{\Lambda}.
$$

Felidézek még néhány eredményt (négyzetes) mátrixok 
determinánsáról is. A könyv jelölését követve egy $\mathbf{A}$
mátrix determinánsát úgy fogom jelölni, hogy $|\mathbf{A}|$.
Egy fontos azonosság az, hogy $|\mathbf{AB}|=|\mathbf{A}||\mathbf{B}|$.  
Ezenkívül 
$|\mathbf{I}|=1$, ahol $\mathbf{I}$ az identitás mátrix, és 
$|\mathbf{A}^T|=|\mathbf{A}|$. Innen $|\mathbf{U}|=\pm1$ egy 
ortogonális mátrixra, mert $|\mathbf{U}|^2=|\mathbf{UU}^T|=|\mathbf{I}|=1$. 
Egy $\mathbf{A}$ szimmetrikus m\'atrixra
$\mathbf{A}=\mathbf{U}^T\mathbf{\Lambda U}$ spektr\'alfelbont\'assal 
$|\mathbf{A}|=|\mathbf{\Lambda}|=\lambda_1\cdots \lambda_n$, ahol 
$\lambda_j$, $1\le j\le n$, az $\mathbf{A}$ mátrix sajátértékei.

Legyen adva egy $\mathbf{A}=(\mathbf{a}_{i,j})$, $1\le i,j\le n$,
 $n\times n$ m\'eret\H{u} mátrix. Vezessük be a könyv jelöléséhez 
hasonlóan az $\mathbf{A}$ mátrix $\textrm{adj}\,(\mathbf{A})$ 
adjungáltját, amit úgy definiálunk, hogy 
$\textrm{adj}\,(\mathbf{A})=((-1)^{i+j}|\mathbf{A}_{j,i}|)$, $1\le i,j\le n$,
ahol $|\mathbf{A}_{i,j}|$ annak az $(n-1)\times (n-1)$ méretű mátrixnak a
determinánsa, amelyet úgy kapunk, hogy az $\mathbf{A}$ mátrixnak
elhagyjuk az $i$-edik sorát és $j$-edik oszlopát.
Ismeretes, hogy 
\begin{equation}
|\mathbf{A}|=\sum_{j=1}^n a_{i,j}(-1)^{(i+j)}|\mathbf{A}_{i,j}| \quad 
\textrm{minden } i=1,\dots,n \textrm{ indexre.} \label1
\end{equation}
Ezenk\'iv\"ul
$$
0=\sum_{j=1}^n a_{i',j}(-1)^{(i+j)}|\mathbf{A}_{i',j}| \quad \textrm{ha } i\neq i'.
$$
Innen nem nehéz belátni, hogy
$$
\mathbf{A}^{-1}=\frac1{|\mathbf{A}|}\textrm{adj}\,(\mathbf{A}).
$$

Tekintsük az $|\mathbf{A}|$ determinánst, mint $n^2$ változós függvényt 
$a_{i,j}$, $1\le i,j\le n$, argumentumokkal. Szükségünk lesz a következő
eredményre is.
$$
\frac{\partial|\mathbf{A}|}{\partial a_{i,j}}=(-1)^{(i+j)}|\mathbf{A}_{i,j}|.
$$
Ez az azonosság egyszerűen következik az (\ref{1}) formulából.

\medskip
Használni fogjuk azt a tényt is, hogy ha $\mathbf{C}$ pozitív szemidefinit 
mátrix, akkor létezik olyan (egyértelműen meghatározott) pozitív 
szemidefinit $\mathbf{C}^{1/2}$ mátrix, amelyre 
$(\mathbf{\mathbf{C}}^{1/2})^2=\mathbf{C}$. Adva egy $\mathbf{X}$ 
${\cal N}_p(\mathbf{m},\mathbf{C})$ eloszlású $p$-dimenziós 
v\'eletlen vektor invert\'alhat\'o $\mathbf{C}$ m\'atrixszal, 
definiáljuk az $\mathbf{Y}=(\mathbf{C}^{1/2})^{-1}(\mathbf{X}-\mathbf{m})$
véletlen vektort. Ez az $\mathbf{Y}$ vektor $
{\cal N}_p(\mathbf{0},\mathbf{I})$, azaz standard 
norm\'alis  el\-osz\-lá\-sú. Ezt felhasználva nem nehéz belátni a
az 5. fejezet alább megfogalmazott 1.3 Tételét.

\medskip\noindent
{\bf 1.3 T\'etel.}  {\it Ha $\mathbf{X}$ 
${\cal N}_p(\mathbf{m},\mathbf{C})$ eloszlású véletlen 
vektor, és $\mathbf{C}$ invertálható mátrix, akkor az 
$(\mathbf{X}-\mathbf{m})^{T} \mathbf{C}^{-1}(\mathbf{X}-\mathbf{m})$  
valószínűségi változó eloszlása $\chi^2(p)$.}

\medskip
Meg akarjuk tal\'alni az egydimenzi\'os norm\'alis eloszl\'asok 
statisztikai vizs\-g\'a\-la\-t\'a\-ban haszn\'alt eredm\'enyek 
t\"obbdimenzi\'os meg\-fe\-le\-l\H{o}\-it. Az egyik fontos 
egy\-di\-men\-zi\-\'os eredm\'eny a k\"ovetkez\H{o}. Legyenek 
$X_1,\dots,X_n$ f\"uggetlen nor\-m\'a\-lis eloszl\'as\'u 
val\'osz\'in\H{u}s\'egi v\'altoz\'ok $m$ v\'arhat\'o 
\'ert\'ekkel \'es $\sigma^2$ sz\'o\-r\'as\-n\'egy\-zet\-tel.
Ekkor az $\bar X=\frac1n\sum_{j=1}^n X_j$ \'atlag \'es
$\frac{S}{n-1}=\frac1{n-1}\sum_{j=1}^n(X_j-\bar X)^2$ empirikus 
sz\'or\'asn\'egyzet f\"uggetlen val\'osz\'in\H{u}s\'egi 
v\'altoz\'ok, $\frac{\sqrt n}\sigma(\bar X-m)$ standard 
nor\-m\'a\-lis, $\frac{S}{\sigma^2}$ pedig $\chi^2(n-1)$ 
eloszl\'as\'u val\'osz\'in\H{u}s\'egi v\'altoz\'o.

Ezen eredm\'eny t\"obbdimenzi\'os megfelel\H{o}j\'eben 
f\"uggetlen ${\cal N}_p(\mathbf{m},\mathbf{C})$ 
el\-osz\-l\'a\-s\'u $\mathbf{X}_1,\dots,\mathbf{X}_n$
v\'eletlen vektorokat tekint\"unk. Seg\'its\'eg\"ukkel 
defini\'aljuk az 
\begin{equation}
\bar \mathbf{X}=\frac1n\sum_{j=1}^n \mathbf{X}_j \label2
\end{equation}
v\'eletlen vektort \'es
\begin{equation}
\mathbf{S}=\sum_{j=1}^n(\mathbf{X}_j
-\bar \mathbf{X})(\mathbf{X}_j-\bar \mathbf{X})^T \label3
\end{equation}
v\'eletlen m\'atrixot, \'es meg akarjuk hat\'arozni ezek egy\"uttes 
eloszl\'as\'at. Az egy\"uttes eloszl\'as megad\'as\'aban 
megjelennek a Wishart m\'atrixok. Ezek el\-osz\-l\'a\-sai veszik 
\'at a $\chi^2$ eloszl\'asok szerep\'et a t\"obbv\'altoz\'os 
eredm\'enyekben. 

\medskip\noindent
{\bf Wishart m\'atrix definici\'oja.} {\it A $p\times p$ m\'eret\H{u}
v\'eletlen m\'atrixot $p$ dimenzi\'os $n$ szabads\'agfok\'u Wishart
m\'atrixnak nevez\"unk $\mathbf{C}$ (m\'atrix)param\'eterrel, ha az 
el\H{o}\'all $\mathbf{W}=\mathbf{X X}^T$ alakban, ahol $\mathbf{X}$ 
olyan $p\times n$ m\'eret\H{u} v\'eletlen m\'atrix, amely\-nek oszlopai
f\"uggetlen ${\cal N}_p(\mathbf{0},\mathbf{C})$ v\'eletlen vektorok. 
E $\mathbf{W}$ vektor eloszl\'as\'at $p$-dimenzi\'os $n$ 
szabads\'agfok\'u Wi\-shart eloszl\'asnak h\'ivjuk $\mathbf{C}$ 
param\'eterrel, \'es  \'ugy jel\"olj\"uk, 
hogy ${\cal W}_p(n,\mathbf{C})$. A ${\cal W}_p(n,\mathbf{I}_p)$ 
eloszl\'ast, ahol $\mathbf{I}_p$ a $p$-dimenzi\'os identit\'as 
m\'atrix $p$-dimenzi\'os $n$ 
sza\-bad\-s\'ag\-fo\-k\'u standard Wishart eloszl\'asnak nevezz\"uk.}

\medskip\noindent
{\it Megjegyz\'es.}\/ Ha egy Wishart m\'atrix $\mathbf{W}=\mathbf{XX}^T$ 
alakban van megadva, ahol $\mathbf{X}=(\mathbf{X}_1,\dots,\mathbf{X}_n)$, 
\'es $\mathbf{X}_1,\dots,\mathbf{X}_n$ f\"uggetlen
${\cal N}_p(\mathbf{0},\mathbf{C})$ eloszl\'as\'u v\'eletlen vektorok, 
akkor $\mathbf{W}$ fel\'irhat\'o 
$\mathbf{W}=\sum_{j=1}^n\mathbf{X}_j\mathbf{X}_j^T$ 
alakban is. E k\'eplet alapj\'an tekinthetj\"uk a Wishart eloszl\'asokat 
a $\chi^2(\cdot)$ eloszl\'asok term\'eszetes t\"obb\-di\-men\-zi\'os 
\'altal\'anos\'it\'asainak. 

\medskip
Nem nehéz az 1.3 Tételhez hasonlóan belátni a következő a könyv
5. fejezetének 4.1 tételében megfogalmazott eredményt.

\medskip\noindent
{\bf 4.1 T\'etel.} {\it Legyen a $\mathbf{C}$ mátrix szigorúan 
pozitív definit. Egy $\mathbf{W}$ véletlen mátrix eloszlása akkor 
és csak akkor ${\cal W}_p(\mathbf{0},\mathbf{C})$, ha 
$\mathbf{C}^{-1/2}\mathbf{WC}^{-1/2}$ eloszlása
${\cal W}_p(\mathbf{0},\mathbf{I}_p)$.}

\medskip
Az alábbi a könyv 5. fejezet 4.3 tétele tartalmazza az előbb
említett egy dimenziós állítás többdimenziós megfelelőjét.

\medskip\noindent
{\bf 4.3 Tétel.} {\it Legyenek $\mathbf{X}_1,\dots. \mathbf{X}_n$ független 
véletlen vektorok ${\cal N}_p(\mathbf{m},\mathbf{C})$ el\-osz\-lás\-sal, 
és definiáljuk segítségükkel a (\ref{2}) képletben szereplő 
$\bar \mathbf{X}$ v\'eletlen vektort és a (\ref{3}) képletben 
szereplő $\mathbf{S}$ véletlen mátrixot. 
Az alábbi állítások érvényesek.

\medskip
\begin{description}
\item[{\rm (1)}] $\bar \mathbf{X}$ 
${\cal N}_p\left(\mathbf{m},\frac 1n\mathbf{C}\right)$ 
eloszlású véletlen vektor.
\item[{\rm (2)}] $\mathbf{S}$ ${\cal W}_p(n-1,\mathbf{C})$ 
eloszlású véletlen mátrix.
\item[{\rm (3)}]  $\bar \mathbf{X}$ és $\mathbf{S}$ függetlenek egymástól.
\end{description}
}

\medskip
A 4.3 tétel bizonyítása hasonló az egydimenziós esethez. Egy olyan
$n\times n$ méretű ortogonális $\mathbf{Q}$ mátrixot veszünk amelynek utolsó 
sora az $\left(\frac1{\sqrt n},\cdots,\frac1{\sqrt n}\right)$
vektor, és tekintjük az 
$(\mathbf{Y}_1,\dots,\mathbf{Y}_n)^T
=\mathbf{Q}(\mathbf{X}_1,\dots,\mathbf{X}_n)^T$ véletlen 
mátrixot. E véletlen mátrix $\mathbf{Y}_1,\dots,\mathbf{Y}_n$
oszlopvektorainak a tulajdonságait vizs\-gál\-juk. El\H{o}sz\"or 
meghat\'arozzuk e vektorok eloszl\'asait.

Némi számolás mutatja, hogy az $\mathbf{Y}_1,\dots,\mathbf{Y}_n$ 
vektorok független normális eloszlású véletlen vektorok $\mathbf{C}$ 
kovarianciamátrixszal, a várható értékükre pedig teljesül az 
$E\mathbf{Y}_j=\mathbf{0}$, ha $j\neq n$, 
és $E\mathbf{Y}_n=\sqrt n \mathbf{m}$ azonoss\'ag. Ezen állítások 
igazolásában felhasználjuk, hogy a normális eloszlású vektorok 
tulajdonságai miatt elég ellenőrízni a korrelálatlanságot a függetlenség 
biz\-o\-nyí\-tá\-sá\-hoz. Azokat a k\"onybben megtal\'alhat\'o 
sz\'amol\'asokat kell elv\'egezni, amelyek szerint
$E(\mathbf{Y}_i-E\mathbf{Y}_i)(\mathbf{Y}_i-E\mathbf{Y}_i)^T=\mathbf{C}$,
$E(\mathbf{Y}_i-E\mathbf{Y}_i)(\mathbf{Y}_i-E\mathbf{Y}_i)^T=\mathbf{0}$,
ha $i\neq j$, 
$E\mathbf{Y}_i=\mathbf{0}$, ha $1\le i\le n-1$,
$E\mathbf{Y}_n=\sqrt n\mathbf{m}$.

Továbbá, $\mathbf{Y}_n=\sqrt n\bar \mathbf{X}$, és 
$\mathbf{S}=\sum_{j=1}^{n-1}\mathbf{Y}_j\mathbf{Y}_j^T$.  Az 
utóbbi állítás az\'ert igaz, mert 
\begin{eqnarray*}
\sum_{j=1}^n \mathbf{Y}_j\mathbf{Y}_j^T&=&(\mathbf{Y}_1,\dots,\mathbf{Y}_n)
(\mathbf{Y}_1,\dots,\mathbf{Y}_n)^T \\
&=&(\mathbf{X}_1,\dots,\mathbf{X}_n)\mathbf{Q}^T\mathbf{Q}
(\mathbf{X}_1,\dots,\mathbf{X}_n)^T \\
&=&(\mathbf{X}_1,\dots,\mathbf{X}_n)(\mathbf{X}_1,\dots,\mathbf{X}_n)^T
=\sum_{j=1}^n\mathbf{X}_j\mathbf{X}_j^T.
\end{eqnarray*}
Innen
\begin{eqnarray*}
\sum_{j=1}^{n-1} \mathbf{Y}_j\mathbf{Y}_j^T
&=&\sum_{j=1}^n\mathbf{X}^jX_j^T-\mathbf{Y}_n\mathbf{Y}_n^T
=\sum_{j=1}^nX^j\mathbf{X}_j^T-n\bar \mathbf{X}\bar \mathbf{X}^T \\
&=&\sum_{j=1}^n(\mathbf{X}_j-\bar \mathbf{X})
(\mathbf{X}_j^T-\bar\mathbf{X}^T)=\mathbf{S}.
\end{eqnarray*}

A fenti relációk segítségével nem nehéz belátni a 4.3 tételt. 

\medskip
Ezután a könyv a várható érték és a kovarianciamátrix maximum
likeli\-hood becslését határozza meg. Azt a feladatot vizsgálja,
hogy adva egy $(\mathbf{X}_1,\dots,\mathbf{X}_n)$ minta 
${\cal N}_p(\mathbf{m},\mathbf{C})$ eloszlással 
hogyan számoljuk ki az $\mathbf{m}$ várható érték vektor és $\mathbf{C}$ 
kovarianciamátrix maximum likelihood becslését, ha mindkett\H{o} 
ismeretlen. A következő eredményt bizonyítja be.

\medskip\noindent

{\bf 5.1 T\'etel.} {\it Legyenek $\mathbf{X}_1,\dots,\mathbf{X}_n$ 
független ${\cal N}_p(\mathbf{m},\mathbf{C})$ eloszlású véletlen 
vektorok. Tegyük fel, hogy a $\mathbf{C}$ mátrix szigorúan pozitív 
definit, és $n>p$. Az ismeretlen $\mathbf{m}$ várható érték vektor 
és $\mathbf{C}$ kovarianciamátrix maximum likelihood becslése e minta 
alapján
$$
\hat \mathbf{m}=\bar \mathbf{X}, \quad \textrm{és} \quad  
\hat \mathbf{C}=\frac1n \mathbf{S},
$$
ahol $\bar \mathbf{X}$ a (\ref{2}) és $\mathbf{S}$ a (\ref{3}) képletben van 
definiálva.}

\medskip
E tétel bizonyításának csak a vázlatát ismertetem. 

Első lépésben felírjuk a ${\cal N}_p(\mathbf{m},\mathbf{C})$ eloszlás\'u
$(\mathbf{X}_1,\dots,\mathbf{X}_n)$ minta 
$$
f_{\mathbf{m},\mathbf{C}}(\mathbf{X}_1,\dots,\mathbf{X}_n), \quad 
\mathbf{X}_j\in R^p, \;\; 1\le j\le n,
$$ 
sűrűségfüggvényét számunkra alkalmasabb alakban. 
A sűrűségfüggvény eredeti alakja 
\begin{equation}
f_{\mathbf{m},\mathbf{C}}(\mathbf{X}_1,\dots,\mathbf{X}_n)
=\frac1{(2\pi)^{np/2}|\mathbf{C}|^{n/2}} 
\exp\left\{-\frac12\sum_{j=1}^n (\mathbf{X}_j-\mathbf{m})^T \mathbf{C}^{-1} 
(\mathbf{X}_j-\mathbf{m})\right\} \label4  
\end{equation}
Belátjuk, hogy ez 
\begin{eqnarray}
&&f_{\mathbf{m},\mathbf{C}}(\mathbf{X}_1,\dots,\mathbf{X}_n)
=\frac1{(2\pi)^{np/2}|\mathbf{C}|^{n/2}} \label5 \\ 
&&\qquad \qquad \exp\left\{-\frac12\textrm{tr}\, 
(\mathbf{C}^{-1}\mathbf{S})\right\}
\exp\left\{-\frac12n(\bar \mathbf{X}-\mathbf{m})^T \mathbf{C}^{-1}
(\bar \mathbf{X}-\mathbf{m})\right\} 
\nonumber
\end{eqnarray}
alakban írható. Ez k\"ovetkezik az al\'abbi sz\'amol\'asb\'ol.
\begin{eqnarray*}
&&\sum_{j=1}^n (\mathbf{X}_j-\mathbf{m})^T
\mathbf{C}^{-1}(\mathbf{X}_j-\mathbf{m}) \\
&&\qquad=\sum_{j=1}^n (\mathbf{X}_j
-\bar \mathbf{X})^T \mathbf{C}^{-1}(\mathbf{X}_j-\bar \mathbf{X})
+n(\bar \mathbf{X}-\mathbf{m})^T\mathbf{C}^{-1}(\bar \mathbf{X}-\mathbf{m}) \\
&&\qquad=\sum_{j=1}^n 
\textrm{tr}\,(\mathbf{X}_j-\bar \mathbf{X})^T \mathbf{C}^{-1}
(\mathbf{X}_j-\bar \mathbf{X})
+n(\bar \mathbf{X}-\mathbf{m})^T\mathbf{C}^{-1}(\bar \mathbf{X}-\mathbf{m}) \\
&&\qquad=\sum_{j=1}^n \textrm{tr}\,\mathbf{C}^{-1}
(\mathbf{X}_j-\bar \mathbf{X})(\mathbf{X}_j-\bar  \mathbf{X})^T 
+n(\bar \mathbf{X}-\mathbf{m})^T\mathbf{C}^{-1}(\bar \mathbf{X}-\mathbf{m}) \\
&&\qquad=\textrm{tr}\,\mathbf{C}^{-1}
\left(\sum_{j=1}^n (\mathbf{X}_j-\bar \mathbf{X})
(\mathbf{X}_j-\bar  \mathbf{X})^T\right) 
+n(\bar \mathbf{X}-\mathbf{m})^T\mathbf{C}^{-1}(\bar \mathbf{X}-\mathbf{m}) \\
&&\qquad=\textrm{tr}\, \mathbf{C}^{-1}\mathbf{S}
+n(\bar \mathbf{X}-\mathbf{m})^T\mathbf{C}^{-1}
(\bar \mathbf{X}-\mathbf{m)}.
\end{eqnarray*}
Megjegyzem, hogy a sűrűségfüggvényt ebben a
képletben a $\bar \mathbf{X}$ véletlen vektor és $\mathbf{S}$ véletlen 
mátrix által alkotott elégséges statisztika segítségével fejeztük ki.

A (\ref{5}) formula segítségével nem nehéz belátni, hogy az 
$\mathbf{m}$ várható 
érték ma\-xi\-mum likelihood becslése a $\hat \mathbf{m}=\bar \mathbf{X}$ 
kifejezés. Ez 
nem függ a  $\mathbf{C}$ mát\-rix érték\'etől. Ezt a kifejezést 
behelyettesítjük 
a sűrűségfüggvénybe, és a ma\-xi\-mum likelihood becslésben ennek 
a maximumát keressük a $\mathbf{C}^{-1}$ mát\-rix koordinátáinak a 
függvényében.

Jelölje  $c_{i,j}$ a $\mathbf{C}$, \'es $c^{i,j}$ az inverz 
$\mathbf{C}^{-1}$  mátrix $i$-ik sorának $j$-ik elemét, és legyen  
$\mathbf{S}=(s_{i,j})$, $1\le i,j\le p$, a (\ref{3}) formul\'aban 
defini\'alt m\'atrix. A $\mathbf{C}$ mátrix maximum likelihood 
becslésében azzal a sűrűségfüggvénnyel kell dolgoznunk, amelyet 
úgy kapunk, hogy az $f_{\mathbf{m},\mathbf{C}}$ sűrűségfüggvényében
elvégezzük az $\mathbf{m}=\hat \mathbf{m}$ helyettesítést. Ez 
a következő alakú.
$$
f_{\hat \mathbf{m},\mathbf{C}}(\mathbf{X}_1,\dots,\mathbf{X}_n)
=\frac1{(2\pi)^{np/2}|\mathbf{C}|^{n/2}}  
\exp\left\{-\frac12\textrm{tr}\, (\mathbf{C}^{-1}\mathbf{S})\right\}.
$$
Felírva e sűrűségfüggvény logaritmusát, és azt deriválva a 
$c^{i,j}$ argumentumok szerint azt kapjuk, hogy a maximum 
likelihood egyenlet az $c^{i,j}$ változókra a következő.
$$
n\frac{\partial\log |\mathbf{C}^{-1}|}{\partial c^{i,j}}=s_{i,j}, \quad 
1\le i,j\le p.
$$

Másrészt,
$$
\frac{\partial\log |\mathbf{C}^{-1}|}{\partial c^{i,j}}
=\frac1{|\mathbf{C}^{-1}|}(-1)^{(i+j)}|\mathbf{C}^{-1}_{i,j}|,
$$
ahol $\mathbf{C}^{-1}_{i,j}$ az a mátrix, amelyet úgy kapunk, hogy tekint\"uk 
a $\mathbf{C}^{-1}$ mátrixot, \'es elhagyjuk annak az $i$-ik sorát és 
$j$-ik oszlopát. Továbbá, felhasználva, hogy $\mathbf{C}$ a $\mathbf{C}^{-1}$
 mátrix inverze ki tudjuk fejezni a $\mathbf{C}$ mátrix $c_{j,i}$ elemét 
az inverziós formula segítségével azt kapjuk, hogy  
$$
c_{j,i}=\frac1{|\mathbf{C}^{-1}|}(-1)^{(i+j)}|\mathbf{C}^{-1}_{i,j}|
=\frac{\partial\log |\mathbf{C}^{-1}|}{\partial c^{i,j}}.
$$
Innen a maximum likelihood egyenlet $nc_{j,i}=s_{i,j}$, ahonnan
a becsl\H{o}f\"uggv\'eny $\hat c_{j,i}=\frac{s_{i,j}}n=\frac{s_{j,i}}n$. 
Innen következik a tétel állítása. Megjegyzem, hogy a be\-csü\-len\-dő 
paraméterek a $\mathbf{C}^{-1}$ inverz mátrix $c^{i,j}$ koordinátái voltak, 
de ezzel ekvivalens $\mathbf{C}$ mátrix $c_{i,j}$ koordinátáinak a maximum 
likelihood becslése.

\'Erdemes n\'eh\'any megjegyz\'est tenni az el\H{o}z\H{o} 
sz\'amol\'asokkal kapcsolatban. A k\"ovetkez\H{o} feladatot oldottuk 
meg. Tekints\"uk a $p\times p$ m\'eret\H{u} pozit\'iv 
determin\'ans\'u $\mathbf{C}$ m\'atrixokat, \'es ezek k\"oz\"ott 
hat\'arozzuk meg 
a $\mathbf{C}$ m\'atrix egy megadott
f\"uggv\'eny\'enek a maximum\'at. Ezt, mint egy $p^2$ v\'altoz\'os
f\"uggv\'eny maximum\'at tal\'altuk meg parci\'alis deriv\'al\'asok
seg\'its\'eg\'evel. A v\'altoz\'ok pa\-ra\-m\'e\-te\-rei az $(i,j)$, 
$1\le i,j\le p$, p\'arok. Kider\"ult, hogy a megold\'as speci\'alis
tulajdons\'agokkal rendelkezik. Az egy 
szim\-met\-ri\-kus (\'es pozit\'iv definit) m\'atrix, amelynek 
koordin\'at\'aira 
$\hat c_{i,j}=\hat c_{j,i}$. Ilyen m\'odon megtal\'altuk a megold\'ast
a minket \'erdekl\H{o} feladatra is, amelyikben az optimumot a 
szimmetrikus (\'es pozit\'iv definit) m\'atrixok ter\'eben keress\"uk, 
ami egy $\frac{p(p+1)}2$ dimenzi\'os t\'er. Ha a szimmetrikus m\'atrixok
ter\'eben dolgozn\'ank, akkor kiss\'e m\'as\-k\'ep\-pen kellene 
sz\'amolnunk. (P\'eld\'aul a determin\'ans deriv\'al\'as\'ar\'ol 
sz\'ol\'o k\'eplet meg\-v\'al\-to\-zik.)

\medskip
A könyv 5. fejezetének a következő két tételét csak kimondom, mert
a bizonyítás meglehetősen nehéz, és az eredmények nem tartoznak
szorosan a könyv témaköréhez. Ezek az eredmények a Wishart mátrix
sű\-rű\-ség\-f\"ugg\-vé\-nyé\-ről szólnak, illetve a Wishart 
mátrix sajátértékeinek az eloszlásáról. Megjegyzem, hogy Lalley

https://galton.uchicago.edu/~lalley/Courses/386/ClassicalEnsembles.pdf

interneten elérhető jegyzetében e téma részletesebb kifejtése található,
és hivatkozni fogok e jegyzet bizonyos eredményeire.

\medskip\noindent
{\bf 5.2 T\'etel.} {\it Legyenek 
$\mathbf{X}_1,\dots,\mathbf{X}_n$ ${\cal N}_p(\mathbf{0},\mathbf{I})$,
azaz $p$  dimenziós standard nor\-má\-lis eloszlású véletlen 
vektorok, \'es definiáljuk  az 
$\mathbf{X}=(\mathbf{X}_1,\dots,\mathbf{X}_n)$  $p\times n$ 
méretű véletlen m\'atrixot és $\mathbf{W}=\mathbf{X} \mathbf{X}^T$  
$p$-dimenzi\'os, $n$ 
szabadságfokú standard Wishart eloszlású véletlen mátrixot. 
Ennek sűrűségfüggvénye
$$
c_{n,p}|\mathbf{W}|^{(n-p-1)/2}\exp\left\{-\frac{\textrm{tr}\,\mathbf{W}}2\right\},
$$
ha $n\ge p$, ahol $c_{n,p}$ egy csak az $n$ és $p$ paraméterektől
függő normalizáló konstans.}

\medskip\noindent
{\it Megjegyz\'es.}\,
A Lalley jegyzet kissé élesebb eredményét fogalmaztam meg. Ez az 
$n\ge p$ és nem az $n>p$ feltétel mellett mondta ki ezt az állítást.
 Az $n\ge p$ feltétel szükséges, mert különben $p$-dimenziós, $n<p$
vagy kisebb rangú, tehát szinguláris mátrixokra lenne koncentrálva
a standard Wishart mérték.

\medskip\noindent
{\it Kiegészítés az 5.2 tétel jelentéséről.}
Az 5.2 Tételben szereplő $p$-dimenzi\'os, $n$ szabads\'agfok\'u 
standard Wis\-hart eloszlású mátrixok úgy tekintendőek, mint 
olyan valószínűségi változók, amelyek értékeiket a $p\times p$ 
m\'eret\H{u} szimmetrikus mátrixok terén veszik fel.
Egy $\mathbf{A}=(a_{i,j})$, $1\le i,j\le p$, $p\times p$   méretű szimmetrikus 
mátrix érték\'et meghatározzák az $a_{i,j}$, $1\le i\le j\le p$,
koordinát\'ai. Ennek alapján azt mondjuk, hogy egy véletlen 
$\mathbf{A}=(a_{(i,j})$, $1\le i,j\le p$, szimmetrikus
$p\times p$ m\'eret\H{u} mátrixnak van  
$g(x_{(i,j)}, \;1\le i\le j\le p),$ sűrűségfüggvénye, ha az 
$a_{(i,j)}$, $1\le i\le j\le p$  koordinátáknak van 
$g(x_{(i,j)}, \;1\le i\le j\le p)$, együttes
sűrűségfüggvénye a Lebesgue mérték szerint a $p(p+1)/2$ 
dimenziós Euklideszi térben, amelynek koordinátáit az $(i,j)$,
$1\le i\le j\le p$, számpárokkal indexeljük.

\medskip
A következő 5.4 tétel megadja egy standard Wishart mátrix
sa\-ját\-ér\-té\-kei\-nek az eloszlását.

\medskip\noindent
{\bf 5.4 Tétel.} {\it Legyen $\mathbf{W}$ egy $p$ dimenzi\'os $n$ 
szabadságfokú standard Wishart mátrix, $n\ge p$.
E véletlen mátrix $\lambda_1>\lambda_2>\cdots>\lambda_p>0$ 
sajátértékeinek az eloszlása
$$
\kappa_{n,p} \left(\prod_{j=1}^p \lambda_j\right)^{(n-p-1)/2}
\exp\left\{-\frac12\sum_{j=1}^p\lambda_j\right\} 
\prod_{1\le j<k\le p}(\lambda_j-\lambda_k),
$$
ahol $\kappa_{n,p}$ alkalmas csak az $n$ \'es $p$ param\'eterekt\H{o}l
f\"ugg\H{o} normáló konstans.}

\medskip
Megjegyzem, hogy az 5.2 tétel alapj\'an  egy $p$ dimenzi\'os $n$ 
szabadságfokú, $n\ge p$, $\mathbf{W}$ standard Wishart mátrix sűrűségfüggvényét
a következő módon lehet felírni a $\mathbf{W}$ mátrix 
$\lambda_1>\lambda_2>\cdots>\lambda_p>0$ sajátértékeinek 
a se\-gít\-sé\-gé\-vel.
$$
g(\lambda_1,\dots,\lambda_p)=c_{n,p} 
\left(\prod_{j=1}^p \lambda_j\right)^{(n-p-1)/2}
\exp\left\{-\frac12\sum_{j=1}^p\lambda_j\right\}.
$$ 
A Lalley jegyzet Theorem 1 eredménye ismerteti az úgynevezett Weyl
integrációs formulát, amely megadja egy véletlen ortogonális mátrix
sa\-ját\-ér\-téke\-i\-nek az eloszlását abban az esetben, ha e
véletlen mátrix el\-osz\-l\'a\-s\'a\-nak van 
sű\-rű\-ség\-függ\-vé\-nye, és az kifejezhető, mint a 
sajátértékek szim\-met\-ri\-kus függvénye. Az 5.2~tétel alapján 
e tétel feltételei teljesülnek a standard Wishart mátrixokra, és 
az 5.4 tétel a Weyl integrációs formula kö\-vet\-kez\-mé\-nye.

Érdemes megfogalmazni az 5.4 tétel alábbi következményét.

\medskip\noindent
{\bf Következmény.} {\it Egy $p$ dimenzi\'os $n$ szabadságfokú $\mathbf{W}$ 
standard Wishart mátrix az $n\ge p$ esetben 1 valószínűséggel
invertálható.}

\medskip
Valóban, az 5.4 tétel szerint ebben az esetben a $\mathbf{W}$ mátrixnak 
1 va\-ló\-szí\-nű\-ség\-gel nincs 0 sajátértéke. Innen következik 
a Következmény állítása. Ha $n<p$, akkor $\mathbf{W}$ 1 valószínűséggel 
nem invertálható, mert ekkor $\mathbf{W}$ egy $p$ dimenziós mátrix, 
amelynek rangja kisebb vagy egyenlő, mint $n\le p$. 
Meg\-jegy\-zem, hogy az $n\ge p$ esetben a $\mathbf{W}$ standard Wishart
m\'atrix saj\'at\'ert\'ekei k\"ul\"onb\"oz\H{o}ek.

\medskip
Az 5. fejezet befejező része többdimenziós normális eloszlással
kapcsolatos hipotézisvizsgálati problémákkal foglalkozik. Ezekben
fontos szerepet játszik az alábbi 6.1 tétel. Ez az úgynevezett 
Hotteling-féle  $T^2$ eloszlásoknak adja meg az explicit alakj\'at.
A tétel megfogalmazása előtt először a Hotteling eloszl\'as 
fogalm\'at ismertetem.  

\medskip\noindent
{\bf Hotteling-f\'ele $T^2$ eloszl\'as definici\'oja.} {\it
Legyen adva egy ${\cal W}_p(n,\mathbf{C})$ Wishart m\'atrix, $n\ge p$,
és egy tőle független $\xi=(\xi_1,\dots,\xi_p)^T$ 
${\cal N}_p(\mathbf{m},\mathbf{C})$
eloszlású véletlen vektor. E vektor $\mathbf{C}$ kovarianciamátrixa és
a Wishart mátrix $\mathbf{C}$ pa\-ra\-mé\-te\-re megegyezik. Ekkor a
$$
T^2=\xi^T\mathbf{W}^{-1}\xi
$$
valószínűségi változót Hotteling eloszlásúnak nevezzük $n$, $p$,
$\mathbf{C}$ és $\mathbf{m}$ pa\-ra\-mé\-te\-rek\-kel. Az $n$ paramétert a 
Hotelling eloszlás szabadsági fokának nevezzük.}

\medskip
Érvényes a következő eredmény.

\medskip\noindent
{\bf 6.1 Tétel.} {\it Ha $\mathbf{m}=\mathbf{0}$, akkor az $n$, $p$ 
és $\mathbf{C}$ paraméterű 
$T^2$ eloszlás meg\-egye\-zik az ${\cal F}(p,n-p+1)$ Fisher eloszlással, 
azaz egy olyan valószínűségi változó eloszlásával, amelyet \'ugy 
kapunk, hogy egy $\chi^2(p)$ eloszlású valószínűségi vál\-to\-zót 
elosztunk egy tőle független $\chi^2(n-p+1)$ eloszlású valószínűségi 
vál\-to\-zó\-val.}

\medskip
A 6.1 t\'etel a k\"ovetkez\H{o} k\'et eredm\'eny seg\'its\'eg\'evel
bizony\'ithat\'o.

\medskip\noindent
{\bf 6.2 Lemma.} {\it Legyen $\mathbf{X}$ $p\times n$ m\'eret\H{u}
m\'atrix, amelynek $X_{i,j}$, $1\le i\le p$, $1\le j\le n$, elemei 
f\"uggetlen, standard norm\'alis eloszl\'as\'u 
val\'osz\'in\H{u}s\'egi v\'altoz\'ok. Legyen $\mathbf{Q}$ az $\mathbf{X}$ 
m\'atrixt\'ol f\"uggetlen v\'eletlen ortogon\'alis $n\times n$
m\'eret\H{u} m\'atrix. Ekkor az $\mathbf{X}\mathbf{Q}$ \'es 
$\mathbf{X}$ m\'atrix eloszl\'asa megegyezik, \'es az 
$\mathbf{X}\mathbf{Q}$ m\'atrix is f\"ug\-get\-len $\mathbf{Q}$-t\'ol.}

\medskip\noindent
{\bf 6.3 Lemma.} {\it Legyen az $\mathbf{X}$ $p\times n$, $p\le n$,
ugyanaz a v\'eletlen m\'atrix, mint a 6.2 lemm\'aban. 
Defini\'aljuk az $\mathbf{S}=\mathbf{X}\mathbf{X}^T$ Wishart m\'atrixot, 
\'es jel\"olje $\mathbf{S}_1$ azt a m\'atrixot, amelyet \'ugy kapunk, hogy 
vessz\"uk az $\mathbf{S}$ m\'atrixot, \'es elhagyjuk annak utols\'o sor\'at 
\'es utols\'o oszlop\'at. Ekkor az $\frac{|\mathbf{S}|}{|\mathbf{S}_1|}$ 
val\'osz\'in\H{u}s\'egi v\'altoz\'o eloszl\'asa $\chi^2(n-p+1)$.}

\medskip
A 6.2 lemma bizonyítása egyszerű. Azt kell kihasználni, hogy
tetszőleges $i$ indexre az 
$\mathbf{X}_i=(X_{i,1},\dots,X_{i,n})^T$ vektor 
eloszlásának sűrűségfüggvénye csak az $\mathbf{X}_i$ vektor hosszától 
függ, ezért minden $\mathbf{Q}$ ortogonális m\'atrixra $\mathbf{X}_i$ és 
$\mathbf{X}_i\mathbf{Q}$ eloszlása megegyezik. Innen következik, hogy ha a 
$\mathbf{Q}$ v\'eletlen
ortogonális mátrix független az $\mathbf{X}$ mátrixtól, akkor az 
$\mathbf{X}\mathbf{Q}$ m\'atrix feltételes eloszlása
feltéve $\mathbf{Q}$ értékét megegyezik az $\mathbf{X}$ mátrix eloszlásával. 
Ebből következik a 6.2 lemma.

A 6.3 lemma bizonyítása bonyolultabb. Csak a bizonyítás vázát
\'irom le, illetve egy megjegyzést teszek arr\'ol, hogy hol 
kellett volna a könyvben részletesebb indoklást adni.

A bizonyítás lényeges része egy olyan indukciós állítás bizonyítása,
amely szerint az $\frac{|\mathbf{S}|}{|\mathbf{S}_1|}$ tört 
eloszlása megegyezik akkor, ha $\mathbf{X}$ $p\times n$ m\'atrix és 
ha alkalmasan defini\'alt $(p-1)\times(n-1)$ méretű m\'atrix. Ennek 
érdekében konstruálunk olyan az $(X_{1,1},\dots,X_{1,n})$ 
koordinátáktól függő $\mathbf{Q}$  ortogonális mátrixot, amelyre
$(X_{1,1},\dots,X_{1,n})\mathbf{Q}=(R,0,\dots,0)$, ahol 
$R^2=\sum_{j=1}^nX_{1,j}^2$.  
Ekkor $(\mathbf{X}\mathbf{Q})(\mathbf{X}\mathbf{Q})^T
=\mathbf{X}\mathbf{X}^T=\mathbf{S}$. 
Jelölje $\mathbf{X}^*$  azt a $(p-1)\times(n-1)$ méretű mátrixot, 
amelyet úgy kapunk, hogy az $\mathbf{X}\mathbf{Q}$ mátrixnak elhagyjuk 
az első sorát és első oszlopát. A könyv megmutatja, hogy az 
$\mathbf{X}$ és $\mathbf{X}^*$ mátrix segítségével kiszámított 
$\frac{|\mathbf{\mathbf{S}}|}{|\mathbf{\mathbf{S}}_1|}$ hányados 
egyenlő. Ebből akarjuk levezetni az indukciós állítást. Ez lehetséges, 
de ehhez azt is észre kell venni, hogy a 6.2 lemma és a konstrukció 
alapján az $\mathbf{X}^*$ mátrix koordinátái független, standard normális 
eloszlású valószínűségi változók. (Ez a lépés hiányzik a könyv 
magyarázatából.)

A bizonyítás befejezéséhez még meg kell mutatni, hogy a $p=2$ 
esetben, ha $\mathbf{X}$ $2\times n$ m\'eret\H{u} m\'atrix az 
$\frac{|\mathbf{S}|}{|\mathbf{S}_1|}$ hányados $\chi^2(n-1)$ 
eloszlású. (Ez az indukció kezdő lépése.) Ez hasonlóan történik 
az indukciós lépés bizonyításához. A  technikai részleteket elhagyom.

\medskip
A 6.1 t\'etel bizony\'it\'asa azon alapszik, hogy alkalmas
transzform\'aci\'okkal a $T^2=\xi^T\mathbf{W}^{-1}\xi$ kifejez\'est,
ahol $\mathbf{W}=\mathbf{X} \mathbf{X}^T$, olyan alakra hozzuk, amely 
lehet\H{o}v\'e teszi, 
hogy meghat\'arozzuk az eloszl\'as\'at a 6.1 \'es 6.2 lemma
se\-g\'it\-s\'e\-g\'e\-vel.

El\H{o}sz\"or az 1.3 T\'etel bizony\'it\'as\'ahoz hasonl\'o
$\mathbf{C}^{-1/2}$ transzform\'aci\'ot al\-kal\-maz\-va mind a 
$\xi$ vektorra, 
mind az $\mathbf{X}$ m\'atrixra a t\'etelt reduk\'aljuk arra a 
speci\'alis esetre, amikor $\mathbf{C}=\mathbf{I}_p$, a $p$ 
dimenzi\'os identit\'as m\'atrix. Ezut\'an vesz\"unk egy olyan 
a $\xi$ vektort\'ol f\"ugg\H{o} $\mathbf{Q}$ v\'eletlen
$p\times p$ m\'eret\H{u} ortogon\'alis m\'atrixot, amelyre 
$\xi^T\mathbf{Q}=(\xi_1,\dots,\xi_p)\mathbf{Q}=(0,\dots,0,t)$
ahol $t^2=\sum_{j=1}^p\xi^2_j$. Ekkor mivel 
$\mathbf{Q}^T\mathbf{Q}=\mathbf{I}_p$
$$
T^2=(\xi^T\mathbf{Q})(\mathbf{Q}^T\mathbf{W}^{-1}\mathbf{Q})
(\mathbf{Q}^T\xi)
=(0,\dots,0,t)(\mathbf{Q}^T\mathbf{W}^{-1}\mathbf{Q})(0,\dots,0,t)^T,
$$
ami egyenl\H{o} $t^2$ szorozva a $\mathbf{Q}^T\mathbf{W}^{-1}\mathbf{Q}$ 
m\'atrix $p$-edik 
sor\'aban \'es $p$-ik oszlop\'aban \'all\'o taggal. Jel\"olj\"uk
ezt $Z_p$-v\'el. Tov\'abb\'a
$t^2$ $\chi^2(p)$ eloszl\'as\'u val\'osz\'in\H{u}s\'egi v\'altoz\'o, \'es
$$
\mathbf{Q}^T\mathbf{W}^{-1}\mathbf{Q}=(\mathbf{Q}^T\mathbf{W}\mathbf{Q})^{-1}
=(\mathbf{Q}^T\mathbf{X}\mathbf{X}^T\mathbf{Q})^{-1}
=((\mathbf{Q}^T\mathbf{X})(\mathbf{Q}^T\mathbf{X})^T)^{-1},
$$
\'es $\mathbf{Q}^T\mathbf{X}$ olyan $p\times n$ m\'eret\H{u} m\'atrix 
amelynek elemei standard norm\'alis elosz\'as\'u val\'osz\'in\H{u}s\'egi
v\'altoz\'ok, \'es a 6.2 lemma n\'emi \'eles\'it\'ese azt adja,
hogy a $\mathbf{Q}^T\mathbf{X}$ m\'atrix f\"uggetlen a $t^2$ 
val\'osz\'in\H{u}s\'egi v\'altoz\'ot\'ol. Azt kell \'eszrevenni,
hogy a $\mathbf{Q}^T\mathbf{X}$ m\'atrix felt\'eteles eloszl\'asa az 
$\mathbf{X}$ m\'atrix
eloszl\'as\'aval egyenl\H{o} akkor is, ha a a $\xi$ vektor 
\'ert\'ek\'et \'es a (t\H{o}le f\"ugg\H{o}) $\mathbf{Q}$ m\'atrixot
r\"ogz\'itj\"uk a felt\'etelben. Ez azt jelenti,hogy $Z_p$ 
f\"uggetlen a $t^2$ val\'osz\'in\H{u}s\'egi v\'altoz\'ot\'ol, 
\'es egy $p$-dimenzi\'os $n$ szabads\'agfok\'u standard 
Wishart m\'atrix inverz\'enek a $p$-ik sor\'aban \'es 
$p$-ik osz\-lo\-p\'a\-ban lev\H{o} elem. Ez\'ert a m\'atrixok 
inverz\'enek kisz\'am\'it\'as\'ar\'ol sz\'ol\'o formula
\'es a 6.3 lemma azt adja, hogy $\frac1{Z_p}$ eloszl\'asa  
$\chi^2(n-p+1)$. Innen k\"ovetkezik a 6.1~t\'etel.

\medskip
Az 5. fejezet utolsó témája annak tesztelése egy minta alapján,
hogy egy többváltozós normális eloszlású vektor várható értéke 
egy feltételezett $\mathbf{m}_0$ vektor-e, illetve annak tesztelése, hogy két 
többváltozós normális eloszlású vektornak, amelyek mindegyikéről 
egy mintával rendelkezünk, és ame\-lyek\-nek megegyezik a
kovariancamátrixuk megegyezik-e a várható értékük is. Külön 
vizsgálják azt az esetet, amikor a vizsgált véletlen vektor(ok) 
ko\-va\-ri\-an\-cia\-mát\-ri\-xá\-nak az értékét ismerjük, 
és amikor nem ismerjük azt. A feladat ismert 
kovarianciamátrixok esetén lényegesen egyszerűbb. Ennek 
tárgyalását, ami a könyvben megtalálható, elhagyom. Viszont
ismertetem r\"oviden az eredm\'enyeket, majd
\"osszehasonl\'itom \H{o}ket azokkal az ezut\'an t\'argyalt
ered\-m\'e\-nyek\-kel, amelyeket akkor kapunk, ha e feladatok
azon analogonjait te\-kint\-j\"uk, amelyekben a
kovarianciam\'atrix ismeretlen.

Az $\mathbf{m}=\mathbf{m}_0$ nullhipot\'ezist az 
$n((\bar \mathbf{X}-\mathbf{m}_0)^T\mathbf{C}^{-1}
(\bar \mathbf{X}-\mathbf{m}_0)$
statisztika se\-g\'{\i}t\-s\'e\-g\'e\-vel vizsg\'aljuk, amely
a nullhipot\'ezis teljes\"ul\'ese eset\'en $\chi^2(p)$
eloszl\'as\'u. Akkor fogadjuk el a nullhipot\'ezist, ha
e statisztika \'ert\'eke egy az $\varepsilon$ els\H{o}faj\'u
hib\'at\'ol f\"ugg\H{o} sz\'amn\'al kisebb. L\'atni
fogjuk, hogy ismeretlen ko\-va\-ri\-an\-cia\-m\'at\-rix ese\-t\'en
hasonl\'o eredm\'eny \'erv\'enyes, csak ekkor a felhaszn\'alt
statisztik\'at meg\-ad\'o k\'epletben a $\mathbf{C}$ 
kovarianciam\'atrixot annak $\frac {\mathbf{S}}n$ maximum likelihood 
becsl\'es\'evel helyettes\'itj\"uk, \'es ez a statisztika 
Hotteling eloszl\'as\'u alkalmas param\'eterekkel.

A m\'asik feladat az, hogy ha adva van k\'et f\"uggetlen 
$p$-dimenzi\'os norm\'alis eloszl\'as\'u vektorokb\'ol 
\'all\'o minta $n$ \'es $m$ elemsz\'ammal, mind a kett\H{o} 
ismert $\mathbf{C}$ kovarianciam\'atrixszal, akkor hogyan 
ellen\H{o}r\'izz\"uk azt a nullhipot\'ezist, hogy a k\'et 
minta elemeinek ugyanaz a v\'arhat\'o \'ert\'eke. Ezt a 
k\"ovetkez\H{o} statisztika seg\'its\'eg\'evel \'erdemes megtenni.
$$
\frac{nm}{n+m}(\bar \mathbf{X}-\bar \mathbf{Y})^T\mathbf{C}^{-1}
(\bar \mathbf{X}-\bar \mathbf{Y}),
$$
ahol $\bar \mathbf{X}$ \'es $\bar \mathbf{Y}$ a k\'et minta \'atlaga. 
Ez a statisztika
$\chi^2(p)$ eloszl\'as\'u a nullhipot\'ezis teljes\"ul\'ese eset\'en.
Ha a kovarianciam\'atrixot nem ismerj\"uk, akkor olyan statisztik\'at
vesz\"unk amelyben a $\mathbf{C}$ kovarianciam\'atrixot annak 
ter\-m\'e\-sze\-tes becsl\'es\'evel helyettes\'itj\"uk, \'es ez 
a m\'odos\'itott statisztika Hotteling eloszl\'as\'u.

\medskip
Lényegesen nehezebb a feladat akkor, ha a kovarianciamátrixot
nem ismerjük. Ismertetem annak a feladatnak a vizsgálatát, hogy
hogyan el\-len\-őriz\-zük egy $n$ elemű minta segítségével azt, 
hogy egy  ismeretlen kovarianciájú több\-vál\-to\-zós normális 
eloszlású vektor várható értéke egy előírt $\mathbf{m}_0$ vektor-e. 
Először arról írok, hogy milyen matematikai feladatot kell megoldani 
egy j\'o ellen\-őr\-zé\-si eljárás kidolgozásához.

\medskip
A következő feladatot tekintjük. Vegyünk egy független $p$-dimenziós 
normális el\-osz\-lá\-sú vektorokból álló 
$\mathbf{X}_1,\dots,\mathbf{X}_n$ sorozatot $\mathbf{m}$ 
várható értékkel és $\mathbf{C}$ kovarianciamátrixszal, \'es 
tekintsük e sorozatnak az 
$f_{\mathbf{m},\mathbf{C}}(\mathbf{X}_1,\dots,\mathbf{X}_n)$ 
sű\-rű\-ség\-függ\-vé\-nyét. 
Ezt érdemes az (\ref{5}) formában megadni.

Az \'ugynevezett likelihood h\'anyados pr\'ob\'at alkalmazzuk. 
Ez a k\"ovetkez\H{o}t jelenti.

Tekintsük az $f_{\mathbf{m},\mathbf{C}}(\mathbf{X}_1,\dots,\mathbf{X}_n)$ 
sű\-rű\-ség\-függ\-vé\-ny maximumát 
az $\mathbf{m}=\mathbf{m}_0$ esetben, mint a $\mathbf{C}$ 
kovarianciafüggvény maximumát, azaz az
$$
L^*_0=L^*_0(\mathbf{X}_1,\dots,\mathbf{X}_n)
=\sup_\mathbf{C} f_{\mathbf{m}_0,\mathbf{C}}(\mathbf{X}_1,\dots,\mathbf{X}_n)
$$
f\"uggv\'enyt, ahol a maximum a $\mathbf{C}$ kovarianciamátrixokra 
van véve. Definiáljuk hasonlóan az
$$
L^*_1=L^*_1(\mathbf{X}_1,\dots,\mathbf{X}_n)
=\sup_{\mathbf{m},\mathbf{C}} f_{\mathbf{m},\mathbf{C}}
(\mathbf{X}_1,\dots,\mathbf{X}_n)
$$
f\"uggv\'enyt, ahol a maximum az $\mathbf{m}$ várható érték vektorra és 
$\mathbf{C}$ kovariancia mátrixokra van véve.

Számoljuk ki az $L^*_0(\mathbf{X}_1,\dots,\mathbf{X}_n)$ és 
$L^*_1(\mathbf{X}_1,\dots,\mathbf{X}_n)$
függvények értékét, és vegyük ezek 
$$
\lambda_n=\lambda_n(\mathbf{X}_1,\dots,\mathbf{X}_n)
=\frac{L^*_0(\mathbf{X}_1,\dots,\mathbf{X}_n)}
{L^*_1(\mathbf{X}_1,\dots,\mathbf{X}_n)}
$$
hányadosát. Határozzuk meg a 
$\lambda_n(\mathbf{X}_1,\dots,\mathbf{X}_n)$ valószínűségi 
változó el\-osz\-lá\-sát. Az $\mathbf{m}=\mathbf{m}_0$ 
nullhipot\'ezist akkor fogadjuk
el, ha $\lambda_n>B(\varepsilon)$, ahol a $B(\varepsilon)$ számot
úgy választjuk, hogy az elsőfajú hiba $\varepsilon$ legyen. Ahhoz, 
hogy ezt az eljárást végrehajtsuk, ismernünk kell a $\lambda_n$ 
valószínűségi változó eloszlását. Ezen eloszlás kiszámítását 
ismertetem.

Először meg kell határozni az  
$L^*_0(\mathbf{X}_1,\dots,\mathbf{X}_n)$
és
$L^*_1(\mathbf{X}_1,\dots,\mathbf{X}_n)$
va\-ló\-szí\-nű\-sé\-gi változók értékét. Ezt a k\"onyv megadja.
Azt \'all\'itja, hogy
$$
L_0^*=(2\pi)^{-np/2}\left|\frac1n\sum_{j=1}^n
(\mathbf{X}_j-\mathbf{m}_0)(\mathbf{X}_j-\mathbf{m}_0)^T\right|^{-n/2} e^{-np/2},
$$
\'es
$$
L_1^*=(2\pi)^{-np/2}\left|\frac1n \mathbf{S}\right|^{-n/2} e^{-np/2}.
$$
Az $L^*_1$-re adott k\'eplet egyszer\H{u}en k\"ovetkezik a kor\'abbi 
sz\'amol\'asokb\'ol, de az $L^*_0$ mennyis\'egre adott k\'eplet 
magyar\'azatra szorul.

El\H{o}sz\"or azt kell \'eszrevenni, hogy a kor\'abbi esethez hasonl\'o
sz\'amol\'assal kapjuk a s\H{u}r\H{u}s\'egf\"uggv\'enyre (\ref{4}) 
formul\'aban megadott k\'eplet seg\'its\'eg\'evel, hogy az 
$\mathbf{m}=\mathbf{m}_0$
esetben a maximum a $\hat \mathbf{C}=\frac1n\sum_{j=1}^n 
(\mathbf{X}_j-\mathbf{m}_0)(\mathbf{X}_j-\mathbf{m}_0)^T$
helyen v\'etetik fel. Ezut\'an az $L^*_0$-ra adott formula k\"onnyen
kisz\'am\'ithat\'o a k\"ovetkez\H{o} \'eszrev\'etel seg\'its\'eg\'evel.
\begin{eqnarray*}
&&\sum_{j=1}^n (\mathbf{X}_j-\mathbf{m}_0)^T\hat \mathbf{C}^{-1}
(\mathbf{X}_j-\mathbf{m}_0)
=\sum_{j=1}^n \textrm{tr}\,(\mathbf{X}_j-\mathbf{m}_0)^T
\hat \mathbf{C}^{-1}(\mathbf{X}_j-\mathbf{m}_0) \\
&&\qquad=\sum_{j=1}^n \textrm{tr}\,
\hat \mathbf{C}^{-1}(\mathbf{X}_j-\mathbf{m}_0)(\mathbf{X}_j-\mathbf{m}_0)^T \\
&&\qquad 
=\textrm{tr}\,\hat \mathbf{C}^{-1}\left(\sum_{j=1}^n(\mathbf{X}_j-\mathbf{m}_0)
(\mathbf{X}_j-\mathbf{m}_0)^T\right) 
=\textrm{tr}\,\hat \mathbf{C}^{-1}(n\hat \mathbf{C})
=n\textrm{tr}\, \mathbf{I}_p=np.
\end{eqnarray*}

 A következő számolások segítségével tudjuk meghatározni $\lambda_n$
eloszlását.
\begin{eqnarray*}
\frac1{\lambda_n}&=&\frac{L^*_1}{L^*_0}=\left(\frac{|\mathbf{S}|}
{\left|\sum_{j=1}^n(\mathbf{X}_j-\mathbf{m}_0)
(\mathbf{X}_j-\mathbf{m}_0)^T\right|}\right)^{-n/2} \\
&=&\left|\mathbf{S}^{-1}\sum_{j=1}^n(\mathbf{X}_j-\mathbf{m}_0)
(\mathbf{X}_j-\mathbf{m}_0)^T\right|^{n/2}\\
&=&\left|\mathbf{S}^{-1}\left[\sum_{j=1}^n
(\mathbf{X}_j-\bar \mathbf{X})(\mathbf{X}_j-\bar \mathbf{X})^T
+n (\bar \mathbf{X}-\mathbf{m}_0)(\bar \mathbf{X}
-\mathbf{m}_0)^T\right]\right|^{n/2}\\
&=&\left| \mathbf{S}^{-1}\left[\mathbf{S}+
n(\bar \mathbf{X}-\mathbf{m}_0)(\bar \mathbf{X}
-\mathbf{m}_0)^T\right]\right|^{n/2}\\
&=&\left |\mathbf{I}_p+n\mathbf{S}^{-1}(\bar \mathbf{X}-\mathbf{m}_0)
(\bar \mathbf{X}-\mathbf{m}_0)^T\right|^{n/2}.
\end{eqnarray*}

Vegyük észre, hogy e formula utolsó sorában egy olyan mátrix
determinánsa van, amelynek egy kivételével az összes sajátértéke 1,
mivel az 
$\mathbf{S}^{-1}(\bar \mathbf{X}-\mathbf{m}_0)
(\bar \mathbf{X}-\mathbf{m}_0)^T$ 
m\'atrix rangja 1. Ezen 1 rangú mátrixnak a nem nulla sajátértéke
$\textrm{tr}\,\mathbf{S}^{-1}(\bar \mathbf{X}-\mathbf{m}_0)
(\bar \mathbf{X}-\mathbf{m}_0)^T
=\textrm{tr}\,(\bar \mathbf{X}-\mathbf{m}_0)^T 
\mathbf{S}^{-1}(\bar \mathbf{X}-\mathbf{m}_0)
=(\bar \mathbf{X}-\mathbf{m}_0)^T \mathbf{S}^{-1}
(\bar \mathbf{X}-\mathbf{m}_0)$. Innen
$$
\frac1{\lambda_n}=\left[1+n(\bar \mathbf{X}-\mathbf{m}_0)^T \mathbf{S}^{-1}
(\bar \mathbf{X}-\mathbf{m}_0)\right]^{n/2}.
$$
A 4.3 t\'etelb\H{o}l k\"ovetkezik, hogy az 
$n(\bar \mathbf{X}-\mathbf{m}_0)^T \mathbf{S}^{-1}
(\bar \mathbf{X}-\mathbf{m}_0)$  
kifejezés tel\-je\-sí\-ti a 6.1 tétel feltételeit $n-1$ és $p$ 
paraméterrel. Ezért az ${\cal F}(p,n-p)$ el\-osz\-lá\-sú. Ezen  
észrevétel segítségével a $\lambda_n$ valószínűségi változó 
eloszlását is ki tudjuk számolni. Tov\'abb\'a a $\lambda_n$-t az 
$(\bar \mathbf{X}-\mathbf{m}_0)^T \mathbf{S}^{-1}
(\bar \mathbf{X}-\mathbf{m}_0)$
val\'osz\'in\H{u}s\'egi v\'altoz\'o monoton cs\"okken\H{o}
f\"uggv\'enyek\'ent fejezt\"uk ki, ez\'ert a javasolt teszt elj\'ar\'ast
\'igy is megadhatjuk: Akkor fogadjuk el az  
$\mathbf{m}=\mathbf{m}_0$ nullhipot\'ezist,
ha $(\bar \mathbf{X}-\mathbf{m}_0)^T \mathbf{S}^{-1}
(\bar \mathbf{X}-\mathbf{m}_0)<C(\varepsilon)$, 
alkalmas az $\varepsilon$ els\H{o}faj\'u hib\'at\'ol f\"ugg\H{o} 
$C(\varepsilon)$ konstanssal. 

\medskip
A k\"onyv megeml\'iti az 5. fejezet v\'eg\'en azt a probl\'em\'at,
hogy hogyan ellen\H{o}rizz\"uk azt a hipot\'ezist, hogy k\'et
k\"ul\"onb\"oz\H{o} ${\cal N}_p(\mathbf{m},\mathbf{C})$ eloszl\'as\'u 
f\"ug\-get\-len val\'osz\'in\H{u}s\'egi v\'altoz\'okb\'ol \'all\'o 
minta elemeinek a v\'arhat\'o \'ert\'eke meg\-egye\-zik, felt\'eve, 
hogy azok kovarianciam\'atrixa egyenl\H{o}. A feladat teh\'at a 
k\"ovetkez\H{o}. Legyen adva f\"uggetlen 
${\cal N}_p(\mathbf{m}_0,\mathbf{C})$ eloszl\'as\'u val\'osz\'in\H{u}s\'egi 
v\'altoz\'ok $\mathbf{X}_1,\dots,\mathbf{X}_n$ sorozata \'es 
f\"uggetlen ${\cal N}_p(\mathbf{m}_1,\mathbf{C})$ eloszl\'as\'u
val\'osz\'in\H{u}s\'egi v\'altoz\'ok $\mathbf{Y}_1,\dots,\mathbf{Y}_m$ 
sorozata \'ugy, hogy ez a k\'et sorozat egym\'ast\'ol is f\"uggetlen. 
Ellen\-\H{o}riz\-z\"uk eme mint\'ak alapj\'an az 
$\mathbf{m}_0=\mathbf{m}_1$ nullhipot\'ezist.

A k\"onyv megadja e feladat megold\'as\'at bizony\'it\'as n\'elk\"ul. 
A k\"ovetkez\H{o} elj\'ar\'ast javasolja.  Legyen
$$
\mathbf{S}=\mathbf{S}_1+\mathbf{S}_2=
\sum_{j=1}^n(\mathbf{X}_j-\bar \mathbf{X})(\mathbf{X}_j-\bar 
\mathbf{X})^T+\sum_{j=1}^m(\mathbf{Y}_j-\bar \mathbf{Y})
(\mathbf{Y}_j-\bar \mathbf{Y})^T.
$$
Be lehet l\'atni, hogy a nullhipot\'ezis teljes\"ul\'ese eset\'en
$$
T^2=\frac{nm}{n+m} (\bar \mathbf{X}-\bar \mathbf{Y})\mathbf{S}^{-1}
(\bar \mathbf{X}-\bar \mathbf{Y})^T
$$
Hotteling eloszl\'as\'u $p$, $n+m-2$ \'es $\mathbf{C}$ param\'eterekkel, 
ez\'ert Fisher-f\'ele ${\cal F}(p,n+m-p-1)$ eloszl\'as\'u. Ennek
alapj\'an a null-hipot\'ezist elfogadjuk, ha $T^2<C(\varepsilon)$
alkalmas az $\varepsilon$ els\H{o}faj\'u hib\'at\'ol f\"ugg\H{o}
konstanssal, amit a Fisher-f\'ele ${\cal F}(p,n+m-p-1)$ 
eloszl\'as seg\'its\'eg\'evel hat\'arozunk meg.

A fent le\'irt m\'odszer megalapoz\'as\'at ny\'ujt\'o elm\'elet 
t\'argyal\'as\'at elhagyom. Az megtal\'alhat\'o Giri N. (1977) 
Multivariate Statistical inference. Acad. Press, New York. 
k\"onyv\'eben.





\end{document}
