استنباط بیزی

تخمین بیزین یک استخوان بندی برای فرمول بندی مشکلات استنباطی اماری است. در تخمین یک متغیر تصادفی بر اساس مشاهدات سیگنال ورودی,فلسفه بیزین بر پایه ترکیب کردن مشاهدات سیگنال ورودی با توزیع احتمال فرایند است.

روش بیزین شامل تخمین‌های کلاسیک مثل روش‌های:ماکیسمم معلول به علت رسیده(MAP) و ماکسیمم احتمال (ML)و مینیمم متوسط مجذور خطا(MMSE)ومینیمم متوسط اندازه خطا (MAVE)به عنوان حالت خاص در نظر گرفت. مدل مخفی مارکف ,به طور وسیع در پردازش اماری سیگنال استفاده شده که یک نمونه‌ای از مدل بیزین است. استنباط بیزین بر پایه مینیمم کردن تابع ریسک بیزین است, که بااستفاده از مدل‌های گفته شده و با استفاده از مشاهدات و ارزش تابع خطا بدست می‌اید.

1. تئوری تخمین بیزین:تعاریف پایه

تئوری تخمین مربوط است به تعیین بهترین تخمین از پارامترهای نامشخص با مشاهده سیگنال‌های مربوطه ویا بهبودی از یک سیگنال هنگامی که با نویز (noise)ترکیب شده‌است. برای مثال یک سیگنال سینوسی نویزی داده شده‌است و ما علاقمندیم که پارامترهای اساسی ان را (دامنه و فرکانس و فاز و....)بدست اوریم یا اینکه خود سیگنال را به دست اوریم. تخمین زن به عنوان ورودی مجموعه‌ای مشاهدات نویزی خود را در دسترس دارد و با استفاده از مدل‌های پویا و یا مدل‌های اماری ,تخمینی از پارامترهای نا مشخص بدست می‌اورد. دقت تخمین به داده‌ها در دسترس و کارامدی تخمین زن بستگی دارد.

مدل بیزی داده‌های از سیگنال مشاهده و تجمعی از احتمالات قبلی از فرایند را به کار می‌گیرد. حال می‌خواهیم تخمینی از متغیر تصادفی θ را بر اساس متغیر تصادفی y. طبق قانون بیز تابع چگالی θ به شرط y به صورت زیر است: f_θ|y (θ|y)={f_y|θ (y│θ)/f_θ (θ)}* f_y (y

که برای مشاهده داده شده که در ان y را داریم ,(f_y (y یک ثابت است و فقط اثر ضریبی دارد. دو تابع چگالی دیگر در فرمول بیز وجود دارد یکی (f_y|θ (y│θ که احتمال مشاهده y به شرط رخ دادن θ است و دیگری تابع چگالی احتمال θ است.

اثری که تابع چگالی (f_y|θ (y│θو (f_θ (θروی(f_θ|y (θ|y دارد به شکل تابع وابسته‌است. یعنی هر چه پیک (peak)بیش تر داشته باشد تاثیر بیش تری خواهد گذاشت و اگر تابع ثابت باشد تاثیری نمی‌گذارد.

1. 1. فرمول های تخمین بیزی:

تخمین بیزی پارامتر O براساس مینیمم کردن تابع ریسک بیزی است که بر اساس تابع متوسط ارزش خطا تعریف می شود:

[R(Ô)=E[C(O,Ô