خانواده نمایی

در آمار و احتمال، خانواده نمایی گروه مهمی از توزیع‌های احتمالی است که دارای ویژگی‌های مشترکی هستند و در قالب خاصی قرار می‌گیرند. این قالب مشترک برای سهولت در اعمال ریاضی، درک بهتر و کلیت بخشیدن به مسائل مفید است. ایدهٔ خانواده نمایی اولین بار توسط پیتمن، دارمویس و کوپمن در ۱۹۳۵ میلادی ارائه شد.

گاهی به جای خانواده نمایی عبارت رسته نمایی یا کلاس نمایی نیز استفاده می‌شود. بسیاری از توزیع های معروف در گروه خانواده نمایی قرار می‌گیرند. توزیع‌های نرمال، نمایی، گاما، مربع-کای، بتا، دریخله، برنولی، دوجمله‌ای، چندجمله‌ای، پواسون و بسیاری دیگر از این گروهند. از معروفترین توزیع‌هایی که در این خانواده قرار نمی‌گیرند می‌توان از توزیع یکنواخت، کوشی و تی-استودنت نام برد. با توجه به این گستردگی، می‌توان چهارچوبی برای انتخاب گونه‌ای دیگر از پارامترسازی برای توزیع‌ها در نظر گرفت که به عنوان پارامتر طبیعی مطرح می‌شود و در ادامه شرح داده می‌شود.

تعریف

حالت پارامتر عددی

خانواده نمایی یک متغیره، دسته‌ای از توزیع‌های احتمال هستند که تابع چگالی احتمال آنها (یا تابع جرم احتمال آنها در حالت گسسته) دارای قالبی بصورت زیر باشد:

$f_X(x|\theta) = h(x) \exp(\eta(\theta) T(x)\ -\ A(\theta))$

که $T(x)$، $h(x)$، $\eta(\theta)$، و$A(\theta)$ توابع شناخته شده‌ای هستند.

عبارت هم ارز بصورت زیر نیز گاهی متداول است:

$f_X(x|\theta) = h(x) g(\theta) \exp(\eta(\theta) T(x))\,$

مقدار $\theta$ پارامتر خانواده نامیده می‌شود.

باید توجه نمود که $x$ معمولاً برداری از مقادیر مشاهدات است، در این حالت $T(x)$، یک آماره یعنی تابعی از از فضای نمونه به مقادیر ممکن $x$ در اعداد حقیقی است.

حالت پارامتر برداری

تعریف ارائه شده برای حالت یک متغیره را می‌توان به حالتی که با برداری از پارامتر ${\boldsymbol \theta} = (\theta_1, \theta_2, \ldots, \theta_d)^T$ مواجه هستیم نیز گسترش داد. یک خانواده از توزیع‌ها در خانواده نمایی چند متغیره قرار می‌گیرد اگر بتوان تابع چگالی (یا جرم) احتمال آن را در قالب زیر قرار داد:

$f_X(x|\boldsymbol \theta) = h(x) \exp\left(\sum_{i=1}^s \eta_i({\boldsymbol \theta}) T_i(x) - A({\boldsymbol \theta}) \right) \,\!$

با استفاده از ضرب برداری می‌توان رابطهٔ بالا را بصورت زیر نیز نوشت:

$f_X(x|\boldsymbol \theta) = h(x) \exp\left(\boldsymbol\eta({\boldsymbol \theta}) \cdot \mathbf{T}(x) - A({\boldsymbol \theta}) \right) \,\!$

حالت هم ارز و متداول نیز بصورت زیر است:

$f_X(x|\boldsymbol \theta) = h(x) g(\boldsymbol \theta) \exp\left(\boldsymbol\eta({\boldsymbol \theta}) \cdot \mathbf{T}(x)\right) \,\!$

حالت پارامتر و متغیر برداری

متغیر $x$ می‌تواند برداری باشد $\mathbf{x} = \{x_1, x_2, \ldots, x_k\}$. توجه کنید که در این حالت لزومی ندارد که بعد بردار متغیر با بعد بردار پارامتر یکسان باشد. در این حالت شکل کلی خانواده نمایی بصورت زیر است:

$f_X(\mathbf{x}|\boldsymbol \theta) = h(\mathbf{x}) \exp\left(\sum_{i=1}^s \eta_i({\boldsymbol \theta}) T_i(\mathbf{x}) - A({\boldsymbol \theta}) \right) \,\!$

که بصورت زیر ساده می‌شود:

$f_X(\mathbf{x}|\boldsymbol \theta) = h(\mathbf{x}) \exp\left(\boldsymbol\eta({\boldsymbol \theta}) \cdot \mathbf{T}(\mathbf{x}) - A({\boldsymbol \theta}) \right) \,\!$

و با عبارت زیر هم ارز است:

$f_X(\mathbf{x}|\boldsymbol \theta) = h(\mathbf{x}) g(\boldsymbol \theta) \exp\left(\boldsymbol\eta({\boldsymbol \theta}) \cdot \mathbf{T}(\mathbf{x}) \right) \,\!$

مثال: توزیع نرمال با واریانس معلوم

توزیع نرمال با واریانس معلوم به صورت $f_\sigma(x;\mu) = \frac{1}{\sqrt{2 \pi}|\sigma|} e^{-(x-\mu)^2/2\sigma^2}.$ است که می‌توان توابع زیر را در قالب خانواده نمایی قرار داد:

$h_\sigma(x) = e^{-x^2/2\sigma^2}/\sqrt{2\pi}|\sigma|$

$T_\sigma(x) = x/\sigma\!\,$

$A_\sigma(\mu) = \mu^2/2\sigma^2\!\,$

$\eta_\sigma(\mu) = \mu/\sigma. \!\,$

بنابراین توزیع نرمال با واریانس معلوم به خانواده نمایی با پارامتر μ تعلق دارد.

منابع

• Lehmann, E. L.; Casella, G. (1998). Theory of Point Estimation. pp. 2nd ed. , sec. 1.5. 
• Keener, Robert W. (2006). Statistical Theory: Notes for a Course in Theoretical Statistics. Springer. pp. 27–28, 32–33.