استنباط بیزی

تخمین بیزین یا استنباط بیزی (به انگلیسی: Bayesian inference)‏ یک استخوان بندی برای فرمول بندی مشکلات استنباطی آماری است که یک روش«جمع پذیر» است، از تبدیل ریاضی و تخصیص ضرایب مختلف به داده‌ها استفاده می‌کند.

درایتون(Drayton). (1978) در مقدمه‌ای که به منظور معرفی استفاده از روش بیزین در فراتحلیل برای مسائل علوم انسانی نوشته‌است، می‌گوید که دستیابی به روابط علت و معلولی عام، مستلزم تکرار آزمایش‌های مکرر است. از آن جا که چنین فعالیت‌هایی مستلزم طرح ریزی اولیه و هماهنگی بین محققان مختلف هستند و اجرای این هماهنگی تقریباً غیر ممکن است، درایتون پیشنهاد می‌کند که برای حصول به هدف بحث شده، از روش‌های ترکیبی استفاده شود.

مرحله‌ها

در روش بیزین سه مرحله به شرح زیر است:

الف) در مرحله اول، محقق باید باور خود را از واقعیت بیان کند و آن را از فیلتر آماری میانگین مورد انتظار، واریانس مورد انتظار و قدرت اعتقادات در باور اولیه، عبور دهد. این سه ملاک می‌توانند براساس تجربه پیشین، تحقیقات گذشته یا ترکیبی از آنها باشند. در صورتی که تجارب گذشته به صورت میانیگین، انحراف استاندارد و حجم نمونهٔ فرضی بیان شوند، چیزی وجود ندارد که مانع مراجعه به تحقیقات گذشته شود.

ب) مرحله دوم، جمع آوری نتایج آزمایش‌ها یا مشاهدات است. این مرحله را می توان از طریق کسب خلاصه آمارهایی که مشابه آنهایی هستند که از قبل تعیین شده‌اند، انجام داد.

ج) مرحله سوم عبارت است از ترکیب درست نمایی و اعتقاد اولیه و شکل دادن اطلاعات پسین (به انگلیسی: posterior)‏.

اطلاعات پسین می‌توانند جدید و بیشتر از اطلاعات اولیه آگاه کننده باشند. ترکیب اطلاعات پسین با تحقیقات دیگر، درست نمایی جدیدی را به وجود می‌آورد. در این روش‌ها به همین ترتیب تکرار می‌شوند، و در نتیجه به مطالعه جدیدی منجر شده و در نهایت به ویژگی‌های خاص خود تبدیل می‌شوند. همان طور که درایتون خاطرنشان ساخته‌است نمونه گیری می‌تواند تا زمانی که تمام جامعه را تحت پوشش قرار دهد یا تا وقتی که آخرین مغایرت‌ها توجیه شوند، ادامه داشته باشد. این روش در استفاده از ضرایب متفاوت و تبدیل‌های ریاضی، انعطاف پذیر است. نظریه بیزین به اندازه نمونه (n) حساس است.

این روش در تخمین یک متغیر تصادفی بر اساس مشاهدات سیگنال ورودی,فلسفه بیزین بر پایه ترکیب کردن مشاهدات سیگنال ورودی با توزیع احتمال فرایند است.

تخمین‌ها

روش بیزین شامل تخمین‌های کلاسیک مثل روش‌های:

• ماکیسمم معلول به علت رسیده(MAP)
• ماکسیمم احتمال (ML)
• مینیمم متوسط مجذور خطا(MMSE)
• مینیمم متوسط اندازه خطا (MAVE)به عنوان حالت خاص در نظر گرفت.

مدل مخفی مارکف ,به طور وسیع در پردازش آماری سیگنال استفاده شده که یک نمونه‌ای از مدل بیزین است.

استنباط بیزین بر پایه مینیمم کردن تابع ریسک بیزین است, که بااستفاده از مدل‌های گفته شده و با استفاده از مشاهدات و ارزش تابع خطا بدست می‌اید.

تئوری تخمین بیزین

تئوری تخمین مربوط است به تعیین بهترین تخمین از پارامترهای نامشخص با مشاهده سیگنال‌های مربوطه و یا بهبودی از یک سیگنال هنگامی که با نویز (noise)ترکیب شده‌است. برای مثال یک سیگنال سینوسی نویزی داده شده‌است و ما علاقمندیم که پارامترهای اساسی ان را (دامنه و فرکانس و فاز و....)بدست آوریم یا اینکه خود سیگنال را به دست اوریم. تخمین زن به عنوان ورودی مجموعه‌ای مشاهدات نویزی خود را در دسترس دارد و با استفاده از مدل‌های پویا و یا مدل‌های آماری ,تخمینی از پارامترهای نا مشخص بدست می‌اورد. دقت تخمین به داده‌ها در دسترس و کارامدی تخمین زن بستگی دارد.

مدل بیزی داده‌های از سیگنال مشاهده و تجمعی از احتمالات قبلی از فرایند را به کار می‌گیرد. حال می‌خواهیم تخمینی از متغیر تصادفی θ را بر اساس متغیر تصادفی y. طبق قانون بیز تابع چگالی θ به شرط y به صورت زیر است:

f_θ|y (θ|y)={f_y|θ (y│θ)/f_θ (θ)}* f_y (y

که برای مشاهده داده شده که در ان y را داریم ,(f_y (y یک ثابت است و فقط اثر ضریبی دارد. دو تابع چگالی دیگر در فرمول بیز وجود دارد یکی (f_y|θ (y│θ که احتمال مشاهده y به شرط رخ دادن θ است و دیگری تابع چگالی احتمال θ است.

اثری که تابع چگالی (f_y|θ (y│θو (f_θ (θروی(f_θ|y (θ|y دارد به شکل تابع وابسته‌است. یعنی هر چه پیک (peak)بیش تر داشته باشد تاثیر بیش تری خواهد گذاشت و اگر تابع ثابت باشد تاثیری نمی‌گذارد.

فرمول‌های تخمین بیزی

تخمین بیزی پارامتر O براساس مینیمم کردن تابع ریسک بیزی است که بر اساس تابع متوسط ارزش خطا تعریف می‌شود:

[R(Ô)=E[C(O,Ô