دسته‌بندی‌کننده بیز ساده: تفاوت میان نسخه‌ها

محتوای حذف‌شده محتوای افزوده‌شده

درخط

نسخهٔ ‏۱۸ نوامبر ۲۰۱۸، ساعت ۲۲:۵۴

دسته‌بندی‌کننده بیز ساده در یادگیری ماشین به گروهی از دسته‌بندی‌کننده‌های ساده بر پایه احتمالات گفته می‌شود که با متغیرهای تصادفی مستقل ساده مفروض میان حالت‌های مختلف و براساس قضیه بیز کاربردی است. به‌طور ساده روش بیز روشی برای دسته‌بندی پدیده‌ها، بر پایه احتمال وقوع یا عدم وقوع یک پدیده‌است.

براساس ویژگی‌های ذاتی احتمال (به ویژه اشتراک احتمال) دسته‌بندی‌کننده بیز ساده (به انگلیسی: Naive Bayes classifier) با دریافت تمرین اولیه نتایج خوبی ارائه خواهد کرد. شیوه یادگیری در روش نایو بیز از نوع یادگیری با ناظر (به انگلیسی: Supervised learning) است.

برای نمونه یک میوه ممکن است پرتقال باشد. اگر نارنجی و کروی با شعاع حدود ده سانتی‌متر باشد. اگر این احتمالات به درستی به همدیگر وابسته باشند نایو بیز در تشخیص اینکه این میوه پرتقال است یا نه بدرستی عمل خواهد کرد.

برنامه‌های کاربردی بسیاری هستند که پارامترهای نایو بیز را تخمین می‌زنند، بنابراین افراد بدون سروکار داشتن با تئوری بیز می‌توانند از این امکان به منظور حل مسایل مورد نظر بهره ببرند. با وجود مسایل طراحی و پیش فرض‌هایی که در خصوص روش بیز وجود دارد، این روش برای طبقه‌بندی کردن بیشتر مسایل در جهان واقعی، مناسب است.

مدل‌سازی احتمالی

اگر $n$ متغیر ورودی داشته باشیم یعنی $\mathbf {x} =(x_{1},\dots ,x_{n})$ و خروجی $\mathbf {y}$ از یک مجموعه $K$ عضوی باشد، هدف از مدل سازی پیدا کردن احتمال مشروط هر کدام از این $K$ کلاس است یعنی $p(C_{k}\mid x_{1},\dots ,x_{n})\,$ ^[۱]. طبق قانون بیز این احتمال برابر است با

$p(C_{k}\mid \mathbf {x} )={\frac {p(C_{k})\ p(\mathbf {x} \mid C_{k})}{p(\mathbf {x} )}}\,$

مزایا

تحقیقاتی در سال ۲۰۰۴ دلایل نظریه‌ای برای رفتارهای غیر منطقی بیز مطرح کرد و همچنین در سال ۲۰۰۶ مشاهدات فراگیری به منظور مقایسه این روش با سایر روش‌های طبقه‌بندی مانند boosted trees و random forests انجام شد که بر کارا بودن این روش صحه گذاشتند.

بزرگترین ویژگی این روش این است که حجم آموزش اندکی برای شروع کار و تخمین پارامترها نیاز دارد.

منابع

↑ Narasimha Murty, M.; Susheela Devi, V. (2011). Pattern Recognition: An Algorithmic Approach. ISBN 0857294946.

مشارکت‌کنندگان ویکی‌پدیا. «Naive Bayes classifier». در دانشنامهٔ ویکی‌پدیای انگلیسی، بازبینی‌شده در ۱ ژوئن ۲۰۱۲.
Book Chapter: Naive Bayes text classification, Introduction to Information Retrieval
Naive Bayes for Text Classification with Unbalanced Classes
Benchmark results of Naive Bayes implementations
Hierarchical Naive Bayes Classifiers for uncertain data (an extension of the Naive Bayes classifier).

[1] Narasimha Murty, M.; Susheela Devi, V. (2011). Pattern Recognition: An Algorithmic Approach. ISBN 0857294946.

[۱]

@@ خط ۸: / خط ۸: @@
 برنامه‌های کاربردی بسیاری هستند که پارامترهای نایو بیز را تخمین می‌زنند، بنابراین افراد بدون سروکار داشتن با [[تئوری بیز]] می‌توانند از این امکان به منظور حل مسایل مورد نظر بهره ببرند. با وجود مسایل طراحی و پیش فرض‌هایی که در خصوص روش بیز وجود دارد، این روش برای [[طبقه‌بندی]] کردن بیشتر مسایل در جهان واقعی، مناسب است.
+== مدل‌سازی احتمالی ==
+اگر <math>n</math> متغیر ورودی داشته باشیم یعنی <math>\mathbf{x} = (x_1, \dots, x_n)</math> و خروجی <math>\mathbf{y}</math> از یک مجموعه ''<math>K</math>'' عضوی باشد، هدف از مدل سازی پیدا کردن احتمال مشروط هر کدام از این <math>K</math> کلاس است یعنی <math>p(C_k \mid x_1, \dots, x_n)\,</math><ref>{{cite book|title=Pattern Recognition: An Algorithmic Approach|last1=Narasimha Murty|first1=M.|last2=Susheela Devi|first2=V.|year=2011|isbn=0857294946}}</ref>. طبق قانون بیز این احتمال برابر است با
+<math>p(C_k \mid \mathbf{x}) = \frac{p(C_k) \ p(\mathbf{x} \mid C_k)}{p(\mathbf{x})} \,</math>
+:
+:
 == مزایا ==