مدل‌های گرافیکی

یک مدل گرافیکی یا  مدل گرافیکی احتمالاتی(PGM)  یک مدل احتمالاتی است که بیانگر ساختار [conditional dependancy وابستگی شرطی] بین متغیرهای تصادفی توسط یک گراف است  . مدل های گرافیکی معمولا در آمار و احتمال ( به طور دقیق تر در آمار بیزی ) و یادگیری ماشین استفاده می شوند.

یک مثال از یک مدل گرافیکی. هر پیکان یک وابستگی را نشان می دهد . در این مثال: D  به A وابسته است , D به B وابسته است , D به C وابسته است , C به B وابسته است و C به D وابسته است.

انواع مدل های گرافیکی

به طور کلی مدل های گرافیکی احتمالی از یک نمایش مبتنی بر گراف  به عنوان پایه و اساس برای رمزگذاری کامل توزیع بیش از یک و چند بعدی در فضا است و یک گراف  که  نمایش فاکتور سازی شده مجموعه ای از عدم وابستگی ها  در توزیع خاص است استفاده می کند. دو شاخه از نمایش های گرافیکی از توزیع ها معمولا استفاده می شوند, که شبکه های بیزی و مارکوف در شبکه های نام دارند. هر دو خانواده شامل خواص فاکتور سازی و عدم وابستگی هستند , اما آنها در مجموعه ای از عدم وابستگی از توزیع که می توانند رمز و فاکتور سازی کنند تفاوت دارند.

شبکه بیزی

اگر ساختار شبکه از مدل گراف جهت دار بدون دور باشد, مدل نشان دهنده  فاکتور سازی احتمال مشترک ( joint probability ) از تمام متغیرهای تصادفی است.به بیان دقیق تر اگر واقعه های ${\displaystyle }$ باشند سپس  احتمال مشترک به صورت‌ :

${\displaystyle }$

که در آن ${\displaystyle }$ مجموعه ای والد های گره ${\displaystyle }$ است. به عبارت دیگر توزیع مشترک به صورت ضرب توزیع های شرطی فاکتور می شود. برای مثال مدل گرافیکی که در شکل بالا نشان داده شده است (که در واقع  یک گراف جهت دار بدون دور نیست و یک گراف اجدادی است) متشکل از متغیرهای تصادفی ${\displaystyle }$ با یک تابع چگالی احتمال مشترک است که به صورت زیر فاکتور می شود:

${\displaystyle }$

هر دو گره با داشتن مقادیر والد های خود به صورت مستقل شرطی هستند . در کل  اگر معیار d-separation در گراف موجود باشد هر دو مجموعه از گره ها با داشتن هر مجموعه سومی  مستقل شرطی هستند . عدم وابستگی محلی و کلی در شبکه های بیز یکسان هستند.

این نوع از مدل گرافیکی به نام مدل گرافیکی جهت دار , شبکه بیز و یا شبکه های باور شناخته شده اند. روش های یادگیری ماشین کلاسیک مانند  مدل پنهان مارکوف و شبکه های عصبی و مدل های جدیدتر مانند مدل variable-order Markov می توانند به عنوان موارد خاص از شبکه های بیزی در نظر گرفته بشوند.

میدان تصادفی مارکوف

یک میدان تصادفی مارکوف, که به صورت شبکه مارکوف نیز شناخته شده است, یک مدل روی یک گراف بدون جهت است. یک مدل گرافیکی با بسیاری زیر ساختار های تکرار شونده که با plate notation نشان داده می شود.

انواع دیگر

• یک گراف فاکتور یک گراف بدون جهت دو بخشی است که متغیر ها و فاکتور ها را متصل می کند. هر فاکتور نشان دهنده یک تابع روی متغیرهایی است که به آن متصل است. گراف فاکتور یک نمایش مفید برای فهمیدن و پیاده سازی Belief propagation می باشد.
• یک درخت کلیک ( clique tree ) یا درخت اتصال یک درخت از کلیک ها می باشد که برای الگوریتم اتصال درخت ( junction tree algorithm‌ ) استفاده می شود.
• یک زنجیره گراف یک گراف است که ممکن است یال های بدون جهت و جهت دار داشته باشد , اما هیچ دور جهت داری ندارد (به عنوان مثال اگر ما از یک راس شروع کرده و در  جهت یال ها حرکت کنیم نتوانیم با عبور از یک یال جهت دار به راس اولیه برگردیم). هر دو گراف جهت دار بدون دور و گراف بدون جهت حالت خاصی از گراف زنجیره  هستند که یک راه برای تعمیم و گسترش شبکه های بیز و مارکوف است.
• گراف اجدادی یک ویژگی اضافه تر دارد و دارای  یال های جهت دار , دو جهته و بدون جهت است .
• یک مدیان تصادفی شرطی یک مدل متمایز دهنده است که با استفاده از گراف بدون جهت نشان داده می شود.
• یک ماشین بولتزمان محدود شده  یک مدل مولد دوبخشی است که با استفاده از  یک گراف بدون جهت دو بخشی نشان داده می شود.

کاربرد ها

چارچوب مدل ,  الگوریتم هایی برای شناخت و تجزیه و تحلیل ساختار ها در توزیع های پیچیده برای توصیف آنها به صورت خلاصه و استخراج اطلاعات بدون ساختار ارائه می دهد , که به آنها اجازه می دهد تا به صورت موثر ساخته و بهینه سازی شوند . کاربردهای مدل های گرافیکی شامل استخراج اطلاعات , تشخیص گفتار, بینایی ماشین , رمز گشایی از کد های  بررسی توازن کم چگالی ,مدل سازی شبکه تنظیم ژن , پیدا کردن ژن ها و تشخیص بیماری ها , و مدل های گرافیکی برای ساختار پروتئین است.

See also

• Belief propagation
• مدل معادلات ساختاری

Tutorial

• 
  
• Probabilistic Graphical Models taught by Eric Xing at CMU

References and further reading

Books and book chapters

• Bishop, Christopher M. (2006). "Chapter 8. Graphical Models" (PDF). Pattern Recognition and Machine Learning. Springer. pp. 359–422. ISBN 0-387-31073-8. MR 2247587.
• Cowell, Robert G.; Dawid, A. Philip; Lauritzen, Steffen L.; Spiegelhalter, David J. (1999). Probabilistic networks and expert systems. Berlin: Springer. ISBN 0-387-98767-3. MR 1697175. A more advanced and statistically oriented book
• Jensen, Finn (1996). An introduction to Bayesian networks. Berlin: Springer. ISBN 0-387-91502-8.
• Koller, D.; Friedman, N. (2009). Probabilistic Graphical Models. Massachusetts: MIT Press. p. 1208. ISBN 0-262-01319-3. {{cite book}}: External link in |title= (help)
• Pearl, Judea (1988). Probabilistic Reasoning in Intelligent Systems (2nd revised ed.). San Mateo, CA: Morgan Kaufmann. ISBN 1-55860-479-0. MR 0965765. A computational reasoning approach, where the relationships between graphs and probabilities were formally introduced.

Journal articles

• Edoardo M. Airoldi (2007). "Getting Started in Probabilistic Graphical Models". PLoS Computational Biology. 3 (12): e252. doi:10.1371/journal.pcbi.0030252. PMC 2134967. PMID 18069887.
• Jordan, M. I. (2004). "Graphical Models". Statistical Science. 19: 140–155. doi:10.1214/088342304000000026.

Other

• Heckerman's Bayes Net Learning Tutorial
• A Brief Introduction to Graphical Models and Bayesian Networks
• Sargur Srihari's lecture slides on probabilistic graphical models