خانواده نمایی

از ویکی‌پدیا، دانشنامهٔ آزاد
پرش به ناوبری پرش به جستجو

در آمار و احتمال، خانواده نمایی گروه مهمی از توزیع‌های احتمالی است که دارای ویژگی‌های مشترکی هستند و در قالب خاصی قرار می‌گیرند. این قالب مشترک برای سهولت در اعمال ریاضی، درک بهتر و کلیت بخشیدن به مسائل مفید است. ایدهٔ خانواده نمایی اولین بار توسط پیتمن،[۱] دارمویس[۲] و کوپمن[۳] در ۱۹۳۵ میلادی ارائه شد.

گاهی به جای خانواده نمایی عبارت رسته نمایی یا کلاس نمایی نیز استفاده می‌شود. بسیاری از توزیع‌های معروف در گروه خانواده نمایی قرار می‌گیرند. توزیع‌های نرمال، نمایی، گاما، مربع-کای، بتا، دریخله، برنولی، دوجمله‌ای، چندجمله‌ای، پواسون و بسیاری دیگر از این گروهند. از معروفترین توزیع‌هایی که در این خانواده قرار نمی‌گیرند می‌توان از توزیع یکنواخت، کوشی و تی-استودنت نام برد. با توجه به این گستردگی، می‌توان چهارچوبی برای انتخاب گونه‌ای دیگر از پارامترسازی برای توزیع‌ها در نظر گرفت که به عنوان پارامتر طبیعی مطرح می‌شود و در ادامه شرح داده می‌شود.

تعریف[ویرایش]

حالت پارامتر عددی[ویرایش]

خانواده نمایی یک متغیره، دسته‌ای از توزیع‌های احتمال هستند که تابع چگالی احتمال آن‌ها (یا تابع جرم احتمال آن‌ها در حالت گسسته) دارای قالبی به صورت زیر باشد:

که ، ، ، و توابع شناخته شده‌ای هستند.

عبارت هم ارز به صورت زیر نیز گاهی متداول است:

مقدار پارامتر خانواده نامیده می‌شود.

باید توجه نمود که معمولاً برداری از مقادیر مشاهدات است، در این حالت ، یک آماره یعنی تابعی از از فضای نمونه به مقادیر ممکن در اعداد حقیقی است به این معنی که تناسبهای درست نمایی دو داده و نسبت به دو پارامتر و یکسان است اگر تابع برای هر دو داده یکسان باشد یعنی اگر .

حالت پارامتر برداری[ویرایش]

تعریف ارائه شده برای حالت یک متغیره را می‌توان به حالتی که با برداری از پارامتر مواجه هستیم نیز گسترش داد. یک خانواده از توزیع‌ها در خانواده نمایی چند متغیره قرار می‌گیرد اگر بتوان تابع چگالی (یا جرم) احتمال آن را در قالب زیر قرار داد:

با استفاده از ضرب برداری می‌توان رابطهٔ بالا را به صورت زیر نیز نوشت:

حالت هم ارز و متداول نیز به صورت زیر است:

حالت پارامتر و متغیر برداری[ویرایش]

متغیر می‌تواند برداری باشد . توجه کنید که در این حالت لزومی ندارد که بعد بردار متغیر با بعد بردار پارامتر یکسان باشد. در این حالت شکل کلی خانواده نمایی به صورت زیر است:

که به صورت زیر ساده می‌شود:

و با عبارت زیر هم ارز است:

مثال: توزیع نرمال با واریانس معلوم[ویرایش]

توزیع نرمال با واریانس معلوم به صورت است که می‌توان توابع زیر را در قالب خانواده نمایی قرار داد:

بنابراین توزیع نرمال با واریانس معلوم به خانواده نمایی با پارامتر تعلق دارد.


مثال: توزیع دو جمله‌ای[ویرایش]

تابع چگالی احتمال برای آزمایش برنولی برابر است با:

این تابع را می‌توان به شکل پایین نوشت که نشان می‌دهد توزیع دوجمله‌ای به خانواده نمایی تعلق دارد، در این معادله :

جدول توزیع‌های معروف خانواده نمایی[ویرایش]

توزیع تابع پارامتر معکوس
Bernoulli distribution p
binomial distribution
with known number of trials n
p
Poisson distribution λ
negative binomial distribution
with known number of failures r
p
exponential distribution λ
Pareto distribution
with known minimum value xm
α
Weibull distribution
with known shape k
λ
Laplace distribution
with known mean μ
b
chi-squared distribution ν
normal distribution
known variance
μ
normal distribution μ,σ2
lognormal distribution μ,σ2
inverse Gaussian distribution μ,λ
gamma distribution α,β
k, θ
inverse gamma distribution α,β
scaled inverse chi-squared distribution ν,σ2
beta distribution α,β
multivariate normal distribution μ,Σ
categorical distribution p1,...,pk

where


where
  • is the Iverson bracket (1 if , 0 otherwise).
categorical distribution p1,...,pk

where

where

  • is the Iverson bracket (1 if , 0 otherwise).
categorical distribution p1,...,pk

where




  • is the Iverson bracket (1 if , 0 otherwise).
multinomial distribution
with known number of trials n
p1,...,pk

where


where
multinomial distribution
with known number of trials n
p1,...,pk

where

where

multinomial distribution
with known number of trials n
p1,...,pk

where




Dirichlet distribution α1,...,αk
Wishart distribution V,n

      


      

inverse Wishart distribution Ψ,m
normal-gamma distribution α,β,μ,λ

      

منابع[ویرایش]

  1. Pitman, E.; Wishart, J. (1936). "Sufficient statistics and intrinsic accuracy". Mathematical Proceedings of the Cambridge Philosophical Society. 32 (4): 567–579. Bibcode:1936PCPS...32..567P. doi:10.1017/S0305004100019307.
  2. Darmois, G. (1935). "Sur les lois de probabilites a estimation exhaustive". C. R. Acad. Sci. Paris (به French). 200: 1265–1266.
  3. Koopman, B (1936). "On distribution admitting a sufficient statistic". Transactions of the American Mathematical Society. Transactions of the American Mathematical Society, Vol. 39, No. 3. 39 (3): 399–409. doi:10.2307/1989758. JSTOR 1989758. MR 1501854.
  • Lehmann, E. L. (1998). Theory of Point Estimation. pp. 2nd ed., sec. 1.5. Unknown parameter |coauthors= ignored (|author= suggested) (help)
  • Keener, Robert W. (2006). Statistical Theory: Notes for a Course in Theoretical Statistics. Springer. pp. 27–28, 32–33.