Kumulánsgeneráló függvény

A kumulánsok a valószínűségszámításban és statisztikában a valószínűségi változókhoz rendelt mennyiségek. Független valószínűségi változók esetén egyszerű velük számolni. Sorozatuk a várható értékkel és a szórásnégyzettel kezdődik.

Definíció

Ha az $X$ valószínűségi változó momentumgeneráló függvénye $M_X(t)$, azaz

$M_X(t)=E(e^{tX})$

akkor a

$g_X(t)=\ln M_X(t)=\ln E(e^{tX})$

függvény az $X$ kumulánsgeneráló függvénye.

Az $n$-edik kumulánst ${\kappa }_n$ jelöli, és definíciója

${\kappa }_n=\frac{{\partial }^n}{\partial t^n}{g}_X(t){|}_{t=0}$.

A karakterisztikus függvény segítségével is definiálhatók:

${\kappa }_n=\frac{1}{i^n}\frac{{\partial }^n}{\partial t^n}\ln G_X(t){|}_{t=0}$

ahol $G_X(t)=E(e^{itX})$ a karakterisztikus függvény.

Tulajdonságok

Eltolásinvariancia

A kumulánsokat a $p(x)$ sűrűségfüggvény szemiinvariánsainak is tekintik, azaz ${\kappa }_1$ kivételével nem változnak a várható érték eltolásával együtt. Kegyen $X$ valószínűségi változó, ekkor tetszőleges $c\in ℝ$ konstansra:

${\kappa }_1(X+c)={\kappa }_1(X)+c$

${\kappa }_n(X+c)={\kappa }_n(X)\text{ ha }n\ge 2$

Homogenitás

Az $n$-edik kumuláns $n$-edfokban homogén, azaz ha $c$ tetszőleges konstans, akkor:

${\kappa }_n(cX)=c^n{\kappa }_n(X)$

Additivitás

Legyenek $X_1$ és $X_2$ független valószínűségi változók, ekkor az $Y=X_1+X_2$ valószínűségi változóra:

${\kappa }_n(Y)={\kappa }_n(X_1)+{\kappa }_n(X_2)$

Független valószínűségi változók esetén a karakterisztikus függvények szorzódnak,

$G_Y(k)=G_{X_1}(k)\cdot G_{X_2}(k)$

ebből a logaritmus összeget csinál:

$\ln G_Y(t)=\ln G_{X_1}(t)+\ln G_{X_2}(t)=\sum _{n=1}^{\mathrm{\infty }}\frac{(\mathrm{i}t{)}^n}{n!}[{\kappa }_n(X_1)+{\kappa }_n(X_2)]=\sum _{n=1}^{\mathrm{\infty }}\frac{(\mathrm{i}t{)}^n}{n!}{\kappa }_n(Y)$

Ha a független valószínűségi változók száma $N$, és a valószínűségi változók $X_1,X_2,\dots ,X_N$, akkor

${\kappa }_n(Y)=\sum _{i=1}^N{\kappa }_n(X_i)$

Normális eloszlás

Tekintsünk egy normális eloszlást, aminek várható értéke $\mu$, szórásnégyzete ${\sigma }^2$! Ekkor karakterisztikus függvénye $G(t)=\exp (\mathrm{i}\mu t-{\sigma }^2{t}^2/2)$, így kumulánsai:

${\kappa }_1=\mu ;{\kappa }_2={\sigma }^2;{\kappa }_n=0$ für $n\ge 3$.

Minden 2-nél nagyobb rendű kumuláns nulla. Ez azonosítja a normális eloszlást.

Megmutatható, hogy:

• vagy az első két kumulánst követő összes többi nulla
• vagy pedig végtelen sok nem nulla kumuláns van.

Másként, az $\ln G(k)$ kumulánsgeneráló függvény nem lehet 2-nél magasabb fokú polinom.

Kumulánsok és momentumok

Kumulánsok mint a momentumok függvényei

Jelölje egy $X$ valószínűségi változó $n$-edik momentumát $m_n$! $G(k)$-val kifejezhető $m_n$, mint

$m_n=\frac{1}{i^n}\frac{{\partial }^n}{\partial t^n}G(t){|}_{t=0}$

Az első néhány kumuláns a momentumok segítségével:

${\kappa }_1=m_1$

${\kappa }_2=m_2-m_1^2$

${\kappa }_3=m_3-3m_2{m}_1+2m_1^3$

${\kappa }_4=m_4-4m_3{m}_1-3m_2^2+12m_2{m}_1^2-6m_1^4$

${\kappa }_5=m_5+5m_1(6m_2^2-m_4)-10m_3{m}_2+20m_3{m}_1^2-60m_2{m}_1^3+24m_1^5$

Általában, az összefüggés a következő rekurzióval fejezhető ki:

${\kappa }_n=m_n-\sum _{k=1}^{n-1}(\genfrac{}{}{0ex}{}{n-1}{k-1}){\kappa }_k{m}_{n-k}$

Egy alternatív kifejezési mód Faà di Bruno képlete, ami a momentumok mellett a $B_{n,k}$ Bell-polinomokat is felhasználja:

${\kappa }_n=\sum _{k=1}^n(k-1)!(-1{)}^{k+1}{B}_{n,k}(m_1,\dots ,m_{n-k+1})$.

A ${\mu }_n$ centrális momentumokkal a képletek egyszerűbbek:

${\kappa }_1=m_1$

${\kappa }_2={\mu }_2$

${\kappa }_3={\mu }_3$

${\kappa }_4={\mu }_4-3{\mu }_2^2$

${\kappa }_5={\mu }_5-10{\mu }_3{\mu }_2$

${\kappa }_6={\mu }_6-15{\mu }_4{\mu }_2-10{\mu }_3^2+30{\mu }_2^3$

Az első két kumuláns külön jelentéssel bír: ${\kappa }_1$ a várható érték, ${\kappa }_2$ a szórásnégyzet. A negyediktől kezdve a kumulánsok és a momentumok nem esnek többé egybe.

A kumulánsok levezetése

Az $\ln G(t)$ függvényt $G(t)=1$ körül hatványsorba fejtjük:

$\ln G(t)=\sum _{n=1}^{\mathrm{\infty }}(-1{)}^{n+1}\frac{(G(t)-1{)}^n}{n}=(G(t)-1)-\frac{(G(t)-1{)}^2}{2}+\frac{(G(t)-1{)}^3}{3}\mp \cdots$

Ebbe helyettesítjük $G(k)$ hatványsorát:

$G(t)=\sum _{n=0}^{\mathrm{\infty }}\frac{(\mathrm{i}t{)}^n}{n!}{m}_n=1+\mathrm{i}t{m}_1+\frac{(it{)}^2}{2}{m}_2+\frac{(it{)}^3}{6}{m}_3+\cdots$

A helyettesítést elvégezve:

$\begin{array}{cc}\ln G(t)=& [\mathrm{i}t{m}_1+\frac{(it{)}^2}{2}{m}_2+\frac{(it{)}^3}{6}{m}_3+\cdots ]\\ & -\frac{1}{2}{[\mathrm{i}t{m}_1+\frac{(it{)}^2}{2}{m}_2+\cdots ]}^2\\ & +\frac{1}{3}{[\mathrm{i}t{m}_1+\frac{(it{)}^2}{2}{m}_2+\cdots ]}^3\mp \cdots \\ =& [\mathrm{i}t{m}_1+\frac{(it{)}^2}{2}{m}_2+\frac{(it{)}^3}{6}{m}_3+\cdots ]\\ & -\frac{1}{2}[(\mathrm{i}t{)}^2{m}_1^2+2\frac{(it{)}^3}{2}{m}_1{m}_2+\frac{(it{)}^4}{4}{m}_2^2+\cdots ]\\ & +\frac{1}{3}[(\mathrm{i}t{)}^3{m}_1^3+2\frac{(it{)}^4}{2}{m}_1^2{m}_2+2\frac{(it{)}^5}{4}{m}_1{m}_2^2+\frac{(it{)}^6}{8}{m}_2^3+\cdots ]\mp \cdots \end{array}$

A $t$ hatványai szerint rendezve kapjuk a kumulánsokat:

$\ln G(t)=\mathrm{i}t\underset{{\kappa }_1}{\underbrace{\left[m_1\right]}}+\frac{(it{)}^2}{2}\underset{{\kappa }_2}{\underbrace{[m_2-m_1^2]}}+\frac{(it{)}^3}{6}\underset{{\kappa }_3}{\underbrace{[m_3-3m_1{m}_2+2m_1^3]}}+\cdots$

Momentumok kifejezése kumulánsokkal

Az $n$-edik momentum az első $n$ kumuláns $n$-edfokú polinomja. Az első hat momentum:

$m_1={\kappa }_1$

$m_2={\kappa }_2+{\kappa }_1^2$

$m_3={\kappa }_3+3{\kappa }_2{\kappa }_1+{\kappa }_1^3$

$m_4={\kappa }_4+4{\kappa }_3{\kappa }_1+3{\kappa }_2^2+6{\kappa }_2{\kappa }_1^2+{\kappa }_1^4$

$m_5={\kappa }_5+5{\kappa }_4{\kappa }_1+10{\kappa }_3{\kappa }_2+10{\kappa }_3{\kappa }_1^2+15{\kappa }_2^2{\kappa }_1+10{\kappa }_2{\kappa }_1^3+{\kappa }_1^5$

$m_6={\kappa }_6+6{\kappa }_5{\kappa }_1+15{\kappa }_4{\kappa }_2+15{\kappa }_4{\kappa }_1^2+10{\kappa }_3^2+60{\kappa }_3{\kappa }_2{\kappa }_1+20{\kappa }_3{\kappa }_1^3+15{\kappa }_2^3+45{\kappa }_2^2{\kappa }_1^2+15{\kappa }_2{\kappa }_1^4+{\kappa }_1^6.$

Az együtthatókat Faà di Bruno képlete adja meg. Általában, az $n$-edik momentum a $B_n$ teljes Bell-polinom értéke az ${\kappa }_1,\dots ,{\kappa }_n$ helyen:

$m_n=B_n({\kappa }_1,\dots ,{\kappa }_n)$.

A centrális momentumok kifejezéséhez a ${\kappa }_1$ kumuláns nullának tekintendő:

${\mu }_1=0$

${\mu }_2={\kappa }_2$

${\mu }_3={\kappa }_3$

${\mu }_4={\kappa }_4+3{\kappa }_2^2$

${\mu }_5={\kappa }_5+10{\kappa }_3{\kappa }_2$

${\mu }_6={\kappa }_6+15{\kappa }_4{\kappa }_2+10{\kappa }_3^2+15{\kappa }_2^3.$

Kumulánsok és partíciók

A momentumokat a kumulánsok segítségével kifejező polinomok kombinatoikailag is értelmezhetők: együtthatóik halmazpartíciókat számlálnak. A polinomok általános képlete

$m_n=\sum _{\pi \in \mathrm{\Pi }}\prod _{B\in \pi }{\kappa }_{\left|B\right|}$

ahol:

• $\pi$ befutja egy $n$ elemű halmaz partícióit;
• "$B\in \pi$" azt jelenti, hogy $B$ a partíció egy blokkja
• $|B|$ a $B$ blokk mérete

Több dimenzióban

Az X₁, ..., X_n valószínűségi változók közös kumulánsai szintén kumulánsgeneráló függvénnyel generálhatók:

$K(t_1,t_2,\dots ,t_n)=\log E({\mathrm{e}}^{\sum _{j=1}^n{t}_j{X}_j}).$

Az egy dimenziós esethez hasonlóan ennek is van kombinatorikai jelentése:

${\kappa }_n(X_1,\dots ,X_n)=\sum _{\pi }(|\pi |-1)!(-1{)}^{|\pi |-1}\prod _{B\in \pi }E\left(\prod _{i\in B}{X}_i\right)$

ahol:

• $\pi$ befutja egy $n$ elemű halmaz partícióit;
• "$B\in \pi$" azt jelenti, hogy $B$ a partíció egy blokkja
• $|B|$ a $B$ blokk mérete

Például

${\kappa }_3(X,Y,Z)=E(XYZ)-E(XY)E(Z)-E(XZ)E(Y)-E(YZ)E(X)+2E(X)E(Y)E(Z).$

Ez a kombinatorikai összefüggés a kumulánsok és momentumok között egyszerűbb alakot nyer, hogyha a momentumokat kumulánsokkal fejezzük ki:

$E(X_1\cdots X_n)=\sum _{\pi }\prod _{B\in \pi }\kappa (X_i:i\in B).$

Ekkor például:

$E(XYZ)=\kappa (X,Y,Z)+\kappa (X,Y)\kappa (Z)+\kappa (X,Z)\kappa (Y)+\kappa (Y,Z)\kappa (X)+\kappa (X)\kappa (Y)\kappa (Z).$

Az első kumuláns a várható érték, két valószínűségi változó közös második kumulánsa a kovarianciájuk. Független valószínűségi változók vegyes kumulánsai eltűnnek. Ha a valószínűségi változók ugyanazok, akkor a ${\kappa }_n(X,\dots ,X)$ kumuláns ugyanaz, mint $X$ közönséges ${\kappa }_n$ kumulánsa.

További fontos tulajdonság a multilinearitás a valószínűségi változókban:

${\kappa }_n(X+Y,Z_1,Z_2,\dots )={\kappa }_n(X,Z_1,Z_2,\dots )+{\kappa }_n(Y,Z_1,Z_2,\dots ).$

Szabad kumulánsok

A fenti kombinatorikus

$E(X_1\cdots X_n)=\sum _{\pi }\prod _{B\in \pi }\kappa (X_i:i\in B)$

momentum-kumuláns képlet végigfut az $\{1,\dots ,n\}$ halmaz partícióin. Ha ehelyett csak a nem keresztező partíciókat számoljuk, akkor a szabad kumulánsokhoz jutunk. Roland Speicher vezette be őket.

Alkalmazások

A továbbiakban adva legyenek $X_1,X_2,\dots ,X_N$ független, azonos eloszlású valószínűségi változók!

Centrális határeloszlás-tétel

Az $Y=\frac{1}{\sqrt{N}}(X_1+X_2+\cdots +X_N)$ valószínűségi változóra a homogenitás és additivitás felhasználásával a következő kumulánsok adódnak:

${\kappa }_n(Y)=\frac{1}{{\sqrt{N}}^n}\sum _{i=1}^N{\kappa }_n(X_i)\approx 𝒪(N^{1-n/2})$

Mivel a rend az egyenkénti rendek összege, adódik az $𝒪(N)$ nagyságrend. Az első kumulánsok nagyságrendjei:

${\kappa }_1(Y)=𝒪(N^{1/2}),{\kappa }_2(Y)=𝒪(N^0),{\kappa }_3(Y)=𝒪(N^{-1/2}),{\kappa }_4(Y)=𝒪(N^{-1})$

$n\ge 3$ esetén az $N$ rendje negatív kitevőt kap, így a határérték végtelen sok valószínűségi változóra:

$\underset{N\to \mathrm{\infty }}{\lim }{\kappa }_n(Y)=0\text{ha}n\ge 3$

Azaz csak az első két kumuláns marad, ami éppen a normális eloszlásra jellemző. Emiatt tetszőleges valószínűségi változók összege osztva a tagok számának négyzetgyökével normális eloszláshoz tart. Ez a centrális határeloszlás-tétel. A bizonyítás befejezéséhez még fel kell használni a karakterisztikus függvény néhány tulajdonságát is.

A centrális határeloszlás tétele miatt a normális eloszlás szerepe különleges, mivel ha valamire sok, független, egyenként kevés hatással bíró hatás működik, akkor a hatások összessége normális eloszlással közelíthető.

Speciális esetben $X_i=X$, várható értéke nulla, szórásnégyzete ${\sigma }^2$, magasabb momentumai tetszőlegesek. Ekkor

${\kappa }_1(Y)=\frac{1}{\sqrt{N}}\sum _{i=1}^{N}0=0,{\kappa }_2(Y)=\frac{1}{N}\sum _{i=1}^N{\sigma }^2={\sigma }^2,{\kappa }_3(Y)=\frac{1}{{\sqrt{N}}^3}\sum _{i=1}^N{\kappa }_3(X)=\frac{{\kappa }_3(X)}{\sqrt{N}}\underset{N\to \mathrm{\infty }}{⟶}0$

A $Z$

$Z:=Y-E(Y)=\frac{1}{\sqrt{N}}(X_1-E(X_1)+X_2-E(X_2)+\cdots +X_N-E(X_N))$

valószínűségi változóra alkalmazható a magasabb momentumok eltolásinvarianciája, ami csak a várható értékre hat. A különbség az, hogy $Z$ várható értéke nulla, még akkor is, ha az $X_i$ várható értéke nem tűnik el.

$\begin{array}{cc}{\kappa }_1(Z)& =\frac{1}{\sqrt{N}}\sum _{i=1}^N\underset{E(X_i)-E(X_i)}{\underbrace{{\kappa }_1(X_i-E(X_i))}}=0\\ {\kappa }_2(Z)& =\frac{1}{N}\sum _{i=1}^N{\kappa }_2(X_i-E(X_i))=\frac{1}{N}\sum _{i=1}^N{\kappa }_2(X_i)={\kappa }_2(Y)=\frac{1}{N}\sum _{i=1}^N{\sigma }_i^2\stackrel{\text{ Spezialfall }}{\underset{{\sigma }_i=\sigma ,\mathrm{\forall }i}{=}}{\sigma }^2\\ {\kappa }_3(Z)& =\frac{1}{{\sqrt{N}}^3}\sum _{i=1}^N{\kappa }_3(X_i-E(X_i))=\frac{1}{{\sqrt{N}}^3}\sum _{i=1}^N{\kappa }_3(X_i)={\kappa }_3(Y)\underset{N\to \mathrm{\infty }}{⟶}0\end{array}$

Nagy számok tétele

Az

$Y=\frac{1}{N}(X_1+X_2+\cdots +X_N)$

valószínűségi változóra a homogenitás és additivitás felhasználásával a követklező kumulánsok adódnak:

${\kappa }_n(Y)=\frac{1}{N^n}\sum _{i=1}^N{\kappa }_n(X_i)\approx 𝒪(N^{1-n})$

A $\sum _{i=1}^N{\kappa }_n$ kumulánsok nagyságrendjei rendre $𝒪(N)$ lesznek. Az első kumulánsok nagyságrendjei:

${\kappa }_1(Y)=𝒪(N^0),{\kappa }_2(Y)=𝒪(N^{-1}),{\kappa }_3(Y)=𝒪(N^{-2}),{\kappa }_4(Y)=𝒪(N^{-3})$

$n\ge 2$ esetén az $N$ rend nagy negatív kitevőt kap, így határértékben:

$\underset{N\to \mathrm{\infty }}{\lim }{\kappa }_n(Y)=0\text{ha}n\ge 2$

Csak az első kumuláns, illetve momentum marad. Növekvő $N$-nel normális eloszlást közelít, aminek várható értéke:

${\kappa }_1(Y)=\frac{1}{N}\sum _{i=1}^N{\kappa }_1(X_i)$

ahol a szélesség $N^{-1}$ rendű, és $N\to \mathrm{\infty }$ esetén elfajult eloszlást jelent ${\kappa }_1$-nél.

Legyen például $X_i=X$ valószínűségi változó $\mu$ várható értékkel, ${\sigma }^2$ szórásnégyzettel és tetszőleges további momentumokkal.

${\kappa }_1(Y)=\frac{1}{N}\sum _{i=1}^{N}m=m,{\kappa }_2(Y)=\frac{1}{N^2}\sum _{i=1}^N{\sigma }^2=\frac{{\sigma }^2}{N}\underset{N\to \mathrm{\infty }}{⟶}0,{\kappa }_3(Y)=\frac{1}{N^3}\sum _{i=1}^N{\kappa }_3(X)=\frac{{\kappa }_3(X)}{N^2}\underset{N\to \mathrm{\infty }}{⟶}0$

Ezzel az $Y$ valószínűségi változó várható értéke ugyanaz, mint az $X$ valószínűségi változóé, azaz $Y$ az $X$ várható értékben hű becslése. A növekvő $N$-re csökkenő szórás értéke ${\sigma }_Y={\sigma }_X/\sqrt{N}$.

Története

A kumulánsokat először Thorvald Nicolai Thiele dán matematikus írta le egy 1889-ben dánul megjelent könyvben. Habár a könyvet a Jahrbuch über die Fortschritte der Mathematik is hivatkozta, az eredményekre nem figyeltek fel. Így Felix Hausdorff 1901-ben újra bevezette őket.

A szabad valószínűségszámításban hasonló szerepet töltenek be, mint a közönséges kumulánsok a közönséges valószínűségszámításban. Például a szabad valószínűségi változók összegének szabad kumulánsai is összegződnek. A normális eloszlás szerepét a Wigner-féle félköreloszlás veszi át, ennek csak a második szabad kumulánsa különbözik nullától.

Források

• Jörg Bewersdorff: Statistik – wie und warum sie funktioniert. Ein mathematisches Lesebuch. Vieweg+Teubner Verlag 2011, Sablon:ISBN, Sablon:Doi, S. 68–70.
• Crispin W. Gardiner: Stochastic methods: a handbook for the natural and social sciences. Springer, 2009. Sablon:ISBN, S. 33–35.
• M. Abramowitz, I. A. Stegun: Handbook of Mathematical Functions with Formulas, Graphs, and Mathematical Tables. Dover, 1965. Sablon:ISBN