Valószínűséggeneráló függvény

A valószínűséggeneráló függvény a valószínűségszámításban a diszkrét valószínűségi változók eloszlásait jellemző függvény. Minden természetes számokat értékként felvevő eloszláshoz hozzárendelhető valószínűséggeneráló függvény, és minden valószínűséggeneráló függvényhez egyértelműen tartozik természetes számokat értékül adó eloszlás.

A hozzárendelés alapján a valószínűséggeneráló függvény segítségével lehet következtetni a valószínűségi változó tulajdonságaira. A valószínűségi változókon végzett műveleteknek megfelelnek a valószínűséggeneráló függvényeken végzett műveletek. Így kapcsolatban állnak a valószínűséggeneráló függvény deriváltjai és az eloszlás várható értéke, szórásnégyzete és további momentumai. A független változók összeadása az eloszlások konvolúciójának és a valószínűséggeneráló függvények szorzásának. A fontos műveletek egyszerűsítése lehetővé teszi olyan bonyolult sztochasztikus objektumok vizsgálatát, mint a Galton-Watson-folyamat.

Definíció

A valószínűséggeneráló függvény kétféleképpen is definiálható, ezek azonban ekvivalensek. Az egyik a valószínűségeloszláson, a másik a valószínűségi változón alapul. Mindkét definícióban teljesül a $0^0:=1$ összefüggés. A továbbiakban ${\mathbb{N}}_0$ jelöli a természetes számokat, beleértve a nullát, avagy a nemnegatív egész számokat.

Valószínűségeloszlásokra

Legyen $P$ valószínűségeloszlás az $({\mathbb{N}}_0,𝒫({\mathbb{N}}_0))$ halmazon, és valószínűségi függvénye $f_P(k)=P(\{k\})$! Ekkor az $m_P:[0,1]\to [0,1]$ függvény, aminek definíciója

$m_P(t)=\sum _{k=0}^{\mathrm{\infty }}{f}_P(k)t^k$

$P$, illetve $f_P$ valószínűséggeneráló függvénye.

Valószínűségi változókra

Ha az $X$ valószínűségi változó értékei ${\mathbb{N}}_0$-ból valók, akkor a valószínűséggeneráló függvény egy $m_X:[0,1]\to [0,1]$ függvény, aminek definíciója

$m_X(t):=m_{P\circ X^{-1}}(t)=\sum _{k=0}^{\mathrm{\infty }}{t}^{k}P[X=k]$.

Ez $X$, illetve $P_X$ valószínűséggeneráló függvénye.

Ezzel egy valószínűségi változó valószínűséggeneráló függvénye megegyezik eloszlásának valószínűséggeneráló függvényével. Alternatívan, a várható érték segítségével is definiálható:

$m_X(t):=\mathrm{E}\left[t^X\right]$.

Elemi példák

Adva legyen egy Bernoulli-eloszlású $X$ valószínűségi változó, azaz $X\sim \mathrm{Ber}(p)$. Ekkor $P(X=0)=1-p$ és $P(X=1)=p$. Formálisan, $X$ értékeit ${\mathbb{N}}_0$-ból veszi fel, de $P(X=n)=0$ minden $n\ge 2$ számra. Ekkor

$m_X(t)=\sum _{k=0}^{\mathrm{\infty }}{t}^{k}P[X=k]=pt+1-p$.

Ha $X$ binomiális eloszlású az $n$ és $p$ paraméterekkel, azaz $X\sim {\mathrm{Bin}}_{n,p}$, akkor $k\le n$ esetén a valószínűségek

$P(X=k)=(\genfrac{}{}{0ex}{}{n}{k})p^k(1-p{)}^{n-k}$

és $P(X=k)=0$, ha $k>n$. A valószínűséggeneráló függvény a binomiális tétel miatt

$m_X(t)=\sum _{k=0}^n(\genfrac{}{}{0ex}{}{n}{k})(pt{)}^k(1-p{)}^{n-k}=(pt+1-p{)}^n$.

Tulajdonságai

Függvénytulajdonságok

A valószínűséggeneráló függvény hatványsor, aminek konvergenciasugara nagyobb, mint 1, azaz konvergens minden $t\in [0,1]$ esetén. Ehhez szükséges, hogy az együtthatók ne legyenek negatívak, és összegük 1 legyen. Ekkor $\sum _{k=0}^{\mathrm{\infty }}|t^{k}P[X=k]|\le 1$ minden $t\in [-1,1]$ esetén. Ekkor a vizsgált $[0,1]$ szakaszon is teljesülnek a hatványsorok tulajdonságai: folytonosak, sőt végtelen sokszor differenciálhatók a $[0,1)$ intervallumon.

Mivel minden $x^k$ monom konvex és monoton növő, és ezek a tulajdonságok kúp kombinációkra is megmaradnak, azért a valószínűséggeneráló függvények is konvexek és monoton növők.

Megfordíthatóság

Nemcsak az eloszlásoknak van egyértelműen valószínűséggeneráló függvénye, hanem megfordítva, a valószínűséggeneráló függvény is egyértelműen meghatározza az eloszlást. Formálisan, ha $X$ és $Y$ ${\mathbb{N}}_0$ értékű valószínűségi változók, és $m_X(t)=m_Y(t)$ minden $t\in [0,c]$ esetén, ahol $c>0$, akkor $P[X=k]=P[Y=k]$ minden $k\in {\mathbb{N}}_0$ esetén.

Ugyanis a Taylor-képlet szerint minden $k\in {\mathbb{N}}_0$ esetén

$P[X=k]=\frac{m_X^{(k)}(0)}{k!}=\frac{m_Y^{(k)}(0)}{k!}=P[Y=k]$.

Ez az összefüggés mutatja, hogy $m_X$ generálja a $P[X=k]$ valószínűségeket, és a valószínűségi függvény rekonstruálható a valószínűséggeneráló függvényből.

Valószínűségi változók összege és eloszlások konvolúciója

Ha $X$ és $Y$ független valószínűségi változók, melyek értéküket ${\mathbb{N}}_0$-ból veszik fel, akkor az $X+Y$ valószínűségi változó valószínűséggeneráló függvénye

$m_{X+Y}(t)=\mathrm{E}(t^{X+Y})=\mathrm{E}(t^X\cdot t^Y)=\mathrm{E}(t^X)\cdot \mathrm{E}(t^Y)=m_X(t)\cdot m_Y(t)$,

mivel $X$ és $Y$ függetlensége miatt $t^X$ és $t^Y$ is független.

Ez az eredmény általánosítható véges összegre is: Ha $X_1,\dots ,X_n$ független valószínűségi változók, és értékük ${\mathbb{N}}_0$-beli, akkor az $S_n=\sum _{i=1}^n{X}_i$ valószínűségi változóra

$m_{S_n}(t)=\prod _{i=1}^n{m}_{X_i}(t)$.

Következik, hogy ha $P,Q$ valószínűségi mértékek, akkor konvolúciójuk, $P*Q$ valószínűséggeneráló függvénye

$m_{P*Q}(t)=m_P(t)m_Q(t)$.

Példa:

Legyen $X_1,X_2$ független Bernoulli-eloszlású valószínűségi változó, ugyanazzal a $p$ paraméterrel. Ekkor összegük binomiális eloszlás a $2$ és $p$ paraméterekkel, tehát $X_1+X_2\sim {\mathrm{Bin}}_{2,p}$. A Bernoulli-eloszlások és a binomiális eloszlás valószínűséggeneráló függvénye

$m_{X_1}(t)\cdot m_{X2}(t)=(1-p+pt{)}^2=m_{{\mathrm{Bin}}_{2,p}}(t)=m_{X_1+X_2}(t)$.

Momentumgenerálás

Egy ${\mathbb{N}}_0$ értékű $X$ valószínűségi változóra és $k\in {\mathbb{N}}_0$-ra teljesül, hogy

$\mathrm{E}\left[(\genfrac{}{}{0ex}{}{X}{k})\right]=\frac{\underset{t\uparrow 1}{\lim }{m}_X^{(k)}(t)}{k!}$

illetve

$\mathrm{E}[X(X-1)\dots (X-k+1)]=\underset{t\uparrow 1}{\lim }{m}_X^{(k)}(t)$.

Az egyenlőségek két oldala véges, ha $\mathrm{E}\left[X^k\right]$ véges.

Eszerint egy ${\mathbb{N}}_0$ értékű valószínűségi változó várható értéke és szórásnégyzete:

$\mathrm{E}\left[X\right]=\underset{t\uparrow 1}{\lim }{m_X}^{\prime }(t)$,

$\mathrm{Var}\left[X\right]=\mathrm{E}[X(X-1)]+\mathrm{E}\left[X\right]-\mathrm{E}{\left[X\right]}^2=\underset{t\uparrow 1}{\lim }({m_X}^{″}(t)+{m_X}^{\prime }(t)-{m_X}^{\prime }(t{)}^2)$.

Lényeges, hogy itt a bal oldali határértéket vegyük figyelembe, mivel a hatványsorok nem feltétlenül differenciálhatók a peremen.

Példa:

Legyen $X$ binomiális eloszlású valószínűségi változó, azaz $X\sim {\mathrm{Bin}}_{n,p}$. Ekkor

$m_X(t)=(pt+1-p{)}^n,m{\text{'}}_X(t)=np(pt+1-p{)}^{n-1}\text{ és }{m}^{\prime }{\text{'}}_X(t)=n(n-1)p^2(pt+1-p{)}^{n-2}$

Mindkét derivált polinom, így kiértékelhetők a $t=1$ helyen, ami megegyezik a bal határértékkel. Ezzel

$m{\text{'}}_X(1)=np\text{ és }{m}^{\prime }{\text{'}}_X(1)=n(n-1)p^2$.

A fenti eredményekkel

$\mathrm{E}(X)=m{\text{'}}_X(1)=np,\mathrm{Var}(X)={m_X}^{″}(1)+{m_X}^{\prime }(1)-{m_X}^{\prime }(1{)}^2=np(1-p)$.

Valószínűségi változók lineáris transzformációja

A lineáris transzformációk hatása a valószínűséggenerátor függvényre:

$m_{aX+b}(t)=t^b{m}_X(t^a)$. Így több diszkrét valószínűségi változó helyett is vizsgálható egész értékűre transzformált formája.

Példa:

Ha $X$ Bernoulli-eloszlású valószínűségi változó, azaz $X\sim \mathrm{Ber}(p)$, akkor $a,b\in \mathbb{N}$ esetén az $Y=aX+b$ valószínűségi változó eloszlása kétpontos, értékkészlete $\{a,a+b\}$. Valószínűséggeneráló függvénye

$m_Y(t)=m_{aX+b}(t)=t^b{m}_X(t^a)=t^b\cdot (1-p+p{t}^a)=(1-p)t^b+p{t}^{a+b}$.

Konvergencia

A valószínűséggeneráló függvény pontonkénti konvergenciája közvetlenül kapcsolatba hozható a valószínűségbeli konvergenciával:

Legyenek $X,X_1,X_2,X_3,\dots$ valószínűségi változók, és valószínűséggeneráló függvényeik $m,m_1,m_2,m_3,\dots$! Ekkor az $X_n$-ek pontosan akkor konvergálnak eloszlásban egy $X$ valószínűségi változóhoz, ha az $m_n$ valószínűséggeneráló függvények pontonként konvergálnak egy $m$ valószínűséggeneráló függvényhez minden $t\in [0,\epsilon )$ esetén, ahol $\epsilon \in (0,1)$.

Hasonló teljesül a valószínűségeloszlások gyenge konvergenciájára és a valószínűséggeneráló függvények pontonként konvergenciájára.

Véletlen összegek valószínűséggeneráló függvényei

Véletlen darabszámú összeg is kiszámítható valószínűséggeneráló függvénnyel. Legyenek $(X_i{)}_{i\in \mathbb{N}}$ független, azonos eloszlású valószínűségi változók ${\mathbb{N}}_0$ értékekkel, és legyen $T$ szintén ${\mathbb{N}}_0$ értékű, az $(X_i{)}_{i\in \mathbb{N}}$ valószínűségi változóltól független valószínűségi változó! Ekkor az $Z=\sum _{i=1}^T{X}_i$ valószínűségi változó valószínűséggeneráló függvénye

$m_Z(t)=m_T(m_{X_1}(t))$.

Ez az összefüggés hasznos például a Galton-Watson-folyamat elemzésére. A fenti összefüggések alapján a várható érték láncszabállyal számítható:

$\mathrm{E}(Z)=\mathrm{E}(T)\cdot \mathrm{E}(X_1)$,

ami megfelel a Wald-formulának.

A szórásra teljesül, hogy:

$\mathrm{Var}(Z)=\mathrm{Var}(T)\mathrm{E}(X_1{)}^2+\mathrm{E}(T)\mathrm{Var}(X_1)$,

ami a Blackwell-Girshick-egyenlőség. A szorzásszabállyal és a fenti eredmények felhasználásával következik.

Magasabb dimenzióban

Ha $X=(X_1,\dots ,X_k)$ $k$ dimenziós valószínűségi vektorváltozó, ami értékeit ${\mathbb{N}}_0^k$-ból veszi fel, akkor valószínűséggeneráló függvénye

$m_X(t):=m_X(t_1,\dots ,t_k)=\mathrm{E}\left(\prod _{i=1}^k{t}_i^{X_i}\right)=\sum _{x_1,\dots ,x_k=0}^{\mathrm{\infty }}{f}_P(x_1,\dots ,x_k)t_1^{x_1}\dots t_k^{x_k}$

ahol $f_P(x_1,\dots ,x_k)=P(X_1=x_1,\dots ,X_k=x_k)$.

Várható érték, szórásnégyzet, kovariancia

Az egydimenziós esethez hasonlóan

$\mathrm{E}(X_i)=\frac{\partial m_X}{\partial t_i}(1,\dots ,1)\mathrm{\forall }i\in \{1,\dots ,k\}$

és

$\mathrm{Var}(X_i)=\frac{{\partial }^2{m}_X}{{\partial t_i}^2}(1,\dots ,1)+\frac{\partial m_X}{\partial t_i}(1,\dots ,1)(1-\frac{\partial m_X}{\partial t_i}(1,\dots ,1))\mathrm{\forall }i\in \{1,\dots ,k\}$

továbbá

$\mathrm{Cov}(X_i,X_j)=\frac{{\partial }^2{m}_X}{\partial t_i\partial t_j}(1,\dots ,1)-\frac{\partial m_X}{\partial t_i}(1,\dots ,1)\cdot \frac{\partial m_X}{\partial t_j}(1,\dots ,1)\mathrm{\forall }i,j\in \{1,\dots ,k\}$

Példák

A táblázatban bemutatjuk a leggyakrabban használt diszkrét eloszlások valószínűséggeneráló függvényeit. Jegyezzük meg, hogy a binomiális eloszlás generátorfüggvénye a Bernoulli-eloszlás hatványa, mivel a binomiális eloszlás előáll független Bernoulli-eloszlások összegeként. Ugyanez teljesül a geometriai eloszlásra és a negatív binomiális eloszlásra is.

Eloszlás	Valószínűséggeneráló függvény, $m_X(t)$
Bernoulli-eloszlás	$m_X(t)=1-p+pt$
Kétpontos eloszlás	$m_X(t)=(1-p)t^a+p{t}^b$
Binomiális eloszlás $B(n,p)$	$m_X(t)=(1-p+pt{)}^n$
Geometriai eloszlás $G(p)$	$m_X(t)=\frac{p}{1-(1-p)t}$
Negatív binomiális eloszlás $NB(r,p)$	$m_X(t)={\left(\frac{p}{1-(1-p)t}\right)}^r$
Diszkrét egyenletes eloszlás $\{1,\dots ,n\}$-en	$m_X(t)=\sum _{k=1}^n\frac{1}{n}{t}^k=\frac{t^{n+1}-t}{n(t-1)}$
Logaritmikus eloszlás	$m_X(t)=\frac{\ln (1-pt)}{\ln (1-p)}$
Poisson-eloszlás $P_{\lambda }$	$m_X(t)={\mathrm{e}}^{\lambda (t-1)}$
Általánosított binomiális eloszlás $GB(p)$	$m_X(t)=\prod _{j=1}^n(1-p_j+p_{j}t)$
Többváltozós eloszlás
Multinomiális eloszlás	$m_X(t)=(\sum _{i=1}^k{p}_i{t}_i{)}^n$

Kapcsolat más generátorfüggvényekkel

A $p$ valószínűségi függvényű $X$ valószínűségi változó valószínűséggeneráló függvénye a generátorfüggvény speciális esete, ahol $a_i=p\left(i\right)$ minden $i\in {\mathbb{N}}_0$ esetén. A valószínűségszámításban további három generátorfüggvényt használnak nemcsak diszkrét valószínűségi változókra.

A momentumgeneráló függvény definíciója $M_X\left(t\right):=\mathrm{E}\left(e^{tX}\right)$. Eszerint $m_X\left(e^t\right)=M_X\left(t\right)$.

A karakterisztikus függvényt úgy értelmezik, mint ${\phi }_X\left(t\right):=\mathrm{E}\left(e^{itX}\right)$. Eszerint $m_X\left(e^{it}\right)={\phi }_X\left(t\right)$.

A momentumgeneráló függvény logaritmusa a kumulánsgeneráló függvény, amiből a kumuláns fogalmát származtatják.

Források

• Klaus D. Schmidt: Maß und Wahrscheinlichkeit. Springer, Berlin Heidelberg 2009, Sablon:ISBN, S. 370 ff.
• Sablon:Cite book
• Sablon:Cite book
• Sablon:Cite book
• Sablon:Cite book