خانواده نمایی

در آمار و احتمال، خانواده نمایی گروه مهمی از توزیع‌های احتمالی است که دارای ویژگی‌های مشترکی هستند و در قالب خاصی قرار می‌گیرند. این قالب مشترک برای سهولت در اعمال ریاضی، درک بهتر و کلیت بخشیدن به مسائل مفید است. ایدهٔ خانواده نمایی اولین بار توسط پیتمن، دارمویس و کوپمن در ۱۹۳۵ میلادی ارائه شد.

گاهی به جای خانواده نمایی عبارت رسته نمایی یا کلاس نمایی نیز استفاده می‌شود. بسیاری از توزیع‌های معروف در گروه خانواده نمایی قرار می‌گیرند. توزیع‌های نرمال، نمایی، گاما، مربع-کای، بتا، دریخله، برنولی، دوجمله‌ای، چندجمله‌ای، پواسون و بسیاری دیگر از این گروهند. از معروفترین توزیع‌هایی که در این خانواده قرار نمی‌گیرند می‌توان از توزیع یکنواخت، کوشی و تی-استودنت نام برد. با توجه به این گستردگی، می‌توان چهارچوبی برای انتخاب گونه‌ای دیگر از پارامترسازی برای توزیع‌ها در نظر گرفت که به عنوان پارامتر طبیعی مطرح می‌شود و در ادامه شرح داده می‌شود.

تعریف

حالت پارامتر عددی

خانواده نمایی یک متغیره، دسته‌ای از توزیع‌های احتمال هستند که تابع چگالی احتمال آن‌ها (یا تابع جرم احتمال آن‌ها در حالت گسسته) دارای قالبی به صورت زیر باشد:

$f_{X}(x|\theta )=h(x)\exp(\eta (\theta )T(x)\ -\ A(\theta ))$

که $T(x)$، $h(x)$، $\eta (\theta )$، و$A(\theta )$ توابع شناخته شده‌ای هستند.

عبارت هم ارز به صورت زیر نیز گاهی متداول است:

$f_{X}(x|\theta )=h(x)g(\theta )\exp(\eta (\theta )T(x))\,$

مقدار $\theta$ پارامتر خانواده نامیده می‌شود.

باید توجه نمود که $x$ معمولاً برداری از مقادیر مشاهدات است، در این حالت $T(x)$، یک آماره یعنی تابعی از از فضای نمونه به مقادیر ممکن $x$ در اعداد حقیقی است به این معنی که تناسبهای درست نمایی دو داده $x$ و $y$ نسبت به دو پارامتر $\theta _{1}$و $\theta _{2}$ یکسان است اگر تابع $T(\cdot )$ برای هر دو داده یکسان باشد یعنی ${\frac {f(x;\theta _{1})}{f(x;\theta _{2})}}={\frac {f(y;\theta _{1})}{f(y;\theta _{2})}}$ اگر $T(x)=T(y)$.

حالت پارامتر برداری

تعریف ارائه شده برای حالت یک متغیره را می‌توان به حالتی که با برداری از پارامتر ${\boldsymbol {\theta }}=(\theta _{1},\theta _{2},\ldots ,\theta _{d})^{T}$ مواجه هستیم نیز گسترش داد. یک خانواده از توزیع‌ها در خانواده نمایی چند متغیره قرار می‌گیرد اگر بتوان تابع چگالی (یا جرم) احتمال آن را در قالب زیر قرار داد:

$f_{X}(x|{\boldsymbol {\theta }})=h(x)\exp \left(\sum _{i=1}^{s}\eta _{i}({\boldsymbol {\theta }})T_{i}(x)-A({\boldsymbol {\theta }})\right)\,\!$

با استفاده از ضرب برداری می‌توان رابطهٔ بالا را به صورت زیر نیز نوشت:

$f_{X}(x|{\boldsymbol {\theta }})=h(x)\exp \left({\boldsymbol {\eta }}({\boldsymbol {\theta }})\cdot \mathbf {T} (x)-A({\boldsymbol {\theta }})\right)\,\!$

حالت هم ارز و متداول نیز به صورت زیر است:

$f_{X}(x|{\boldsymbol {\theta }})=h(x)g({\boldsymbol {\theta }})\exp \left({\boldsymbol {\eta }}({\boldsymbol {\theta }})\cdot \mathbf {T} (x)\right)\,\!$

حالت پارامتر و متغیر برداری

متغیر $x$ می‌تواند برداری باشد $\mathbf {x} =\{x_{1},x_{2},\ldots ,x_{k}\}$. توجه کنید که در این حالت لزومی ندارد که بعد بردار متغیر با بعد بردار پارامتر یکسان باشد. در این حالت شکل کلی خانواده نمایی به صورت زیر است:

$f_{X}(\mathbf {x} |{\boldsymbol {\theta }})=h(\mathbf {x} )\exp \left(\sum _{i=1}^{s}\eta _{i}({\boldsymbol {\theta }})T_{i}(\mathbf {x} )-A({\boldsymbol {\theta }})\right)\,\!$

که به صورت زیر ساده می‌شود:

$f_{X}(\mathbf {x} |{\boldsymbol {\theta }})=h(\mathbf {x} )\exp \left({\boldsymbol {\eta }}({\boldsymbol {\theta }})\cdot \mathbf {T} (\mathbf {x} )-A({\boldsymbol {\theta }})\right)\,\!$

و با عبارت زیر هم ارز است:

$f_{X}(\mathbf {x} |{\boldsymbol {\theta }})=h(\mathbf {x} )g({\boldsymbol {\theta }})\exp \left({\boldsymbol {\eta }}({\boldsymbol {\theta }})\cdot \mathbf {T} (\mathbf {x} )\right)\,\!$

مثال: توزیع نرمال با واریانس معلوم

توزیع نرمال با واریانس معلوم به صورت $f_{\sigma }(x;\mu )={\frac {1}{{\sqrt {2\pi }}|\sigma |}}e^{-(x-\mu )^{2}/2\sigma ^{2}}.$ است که می‌توان توابع زیر را در قالب خانواده نمایی قرار داد:

$h_{\sigma }(x)=e^{-x^{2}/2\sigma ^{2}}/{\sqrt {2\pi }}|\sigma |$

$T_{\sigma }(x)=x/\sigma \!\,$

$A_{\sigma }(\mu )=\mu ^{2}/2\sigma ^{2}\!\,$

$\eta _{\sigma }(\mu )=\mu /\sigma .\!\,$

بنابراین توزیع نرمال با واریانس معلوم به خانواده نمایی با پارامتر $\mu$ تعلق دارد.

منابع

• Lehmann, E. L. (1998). Theory of Point Estimation. pp. 2nd ed. , sec. 1.5. 
• Keener, Robert W. (2006). Statistical Theory: Notes for a Course in Theoretical Statistics. Springer. pp. 27–28, 32–33.