نیکویی برازش

پس از تخمین یک مدل خطی خاص، سوالی که مطرح می‌شود این است که : خط وایازش تخمین زده شده چه میزان با مشاهدات واقعی تطابق دارد؟ یک معیار سنجش مناسب برای نیکویی برازش (یا برازندگی)، نسبت واریانس نمونه ای y است که بوسیلهٔ مدل توضیح داده می‌شود. این متغیر $\mathbb {R} ^{2}\,$ نامیده شده و بصورت زیر تعریف می‌شود : رابطه (۱-۱) $\mathbb {R} ^{2}\,={\dfrac {{\hat {V}}({\hat {y}}_{i})}{{\hat {V}}(y_{i})}}={\dfrac {1/(N-1)\sum _{i=1}^{N}({\hat {y}}_{i}-{\bar {y}})^{2}}{1/(N-1)\sum _{i=1}^{N}(y_{i}-{\bar {y}})^{2}}},$ که در این رابطه ${\hat {y}}_{i}=x_{i}\ b$ است و ${\bar {y}}=(1/N)\sum y_{i}$ بیانگر میانگین نمونه ای $y_{i}$ می‌باشد . توجه داشته باشید که ${\bar {y}}$ مساوی میانگین نمونه ای ${\hat {y}}_{i}\,$ است .از شرط مرتبه اول داریم : $\sum _{i=1}^{N}e_{i}\ x_{ik}=0,k=1,...,K$ در نتیجه می توانیم $y_{i}$ را به صورت زیر تعریف نماییم : $y_{i}={\hat {y}}_{i}\ +e_{i},$ که در آن $\sum e_{i}{\hat {y}}_{i}=0$ است. در بسیاری از مدل‌های مشابه که شامل عرض از مبدا هستند رابطه زیر برقرار است : رابطه (2-1) ${\hat {V}}(y_{i})={\hat {V}}({\hat {y}}_{i})+{\hat {V}}(e_{i}),$ که ${\hat {V}}(e_{i})=s^{2},$ است.با استفاده از این رابطه می‌توان $R^{2}$ را به صورت زیر بازنویسی کرد : رابطه(۳-۱) $\mathbb {R} ^{2}\,=1-{\dfrac {{\hat {V}}(e_{i})}{{\hat {V}}(y_{i})}}=1-{\dfrac {1/(N-1)\sum _{i=1}^{N}e_{i}^{2}}{1/(N-1)\sum _{i=1}^{N}(y_{i}-{\bar {y}})^{2}}}$ فوق نشان می‌دهد که واریانس نمونه ای $y_{i}$ را می‌توان به صورت حاصل جمع واریانس‌های نمونه ای دو جزء متعامد تجزیه نمود : تخمین زن ${\hat {y}}_{i}$ و $e_{i}$ )residual) . بنابراین $\mathbb {R} ^{2}\,$ بیان می‌کند که چه نسبتی از تغییرات نمونه در $y_{i}$ توسط مدل توضیح داده می‌شود. اگر مدل مورد مطالعه شامل عرض از مبدا باشد دو عبارت فوق برای تعیین $\mathbb {R} ^{2}\,$ معادلند.علاوه بر این در این مورد می‌توان نشان داد که مقدار $\mathbb {R} ^{2}\,$ همواره بین صفر و یک قرار دارد.تنها اگر تمام $e_{i}=0$ باشند $\mathbb {R} ^{2}\,$ مساوی یک خواهد بود و مقدار صفر $\mathbb {R} ^{2}\,$ نشان می‌دهد که مدل به جزمیانگین نمونه ای $y_{i}$ هیچ چیز دیگری را توضیح نمی‌دهد. در یک مورد استثنایی که مدل شامل عرض از مبدا نیست دو عبارت مطرح شده برای $\mathbb {R} ^{2}\,$ معادل نیستند و این بدین دلیل است که رابطهٔ (۲-۱)نقض می‌شود زیرا $\sum _{i=1}^{N}e_{i}$ دیگر معادل صفر نمی‌باشد. در این وضعیت ممکن است مقدار $\mathbb {R} ^{2}\,$ محاسبه شده از رابطه ی(3-1) منفی گردد. یک روش اندازه گیری جایگزین که به‌طور معمول به وسیلهٔ نرم‌افزارها مورد استفاده قرار می‌گیرد اگر عرض از مبدا وجود نداشته باشد $uncentred\mathbb {R} ^{2}$ است که طبق رابطهٔ زیر تعریف می گردد و مقدار آن بزرگتر از $\mathbb {R} ^{2},$ استاندارد است : رابطه (۴-۱) $uncentred\mathbb {R} ^{2}={\dfrac {\sum _{i=1}^{N}{\hat {y}}_{i}^{2}}{\sum _{i=1}^{N}\ y_{i}^{2}}}=1-{\dfrac {\sum _{i=1}^{N}\ e_{i}^{2}}{\sum _{i=1}^{N}\ y_{i}^{2}}}$ از آنجا که $\mathbb {R} ^{2}\,$ تغییرات توضیح داده شده در $y_{i}$ را توضیح می‌دهد نسبت به تغییر این متغیر حساس است . بنابراین در مدلهایی که مصرف را توضیح می دهند، تغییرات در مصرف یا رشد مصرف الزاماً توسط مقادیر $\mathbb {R} ^{2}\,$ شان قابل مقایسه با هم نمی‌باشند.به عنوان مثال تغییر در مصرف کل برای یک کشور مورد نظر معمولاً آسان تر از توضیح تغییرات cross-sectional مصرف در سطح خانوار هاست.در نتیجه معیار قطعی برای اینکه یک مقدار $\mathbb {R} ^{2}\,$ کم یا زیاد تلقی شود وجود نداردمثلا مقدار ۰.۲ ممکن است در کارکرد خاص بزرگ و در سایر موارد کم تلقی شود و حتی مقدار ۰.۹۵ ممکن است در یک مورد خاص کم به شمار آید گاهی اوقات $\mathbb {R} ^{2}\,$ به عنوان معیاری برای کیفیت مدل آماری تفسیر می‌شود که در این حالت چیزی به جز کیفیت تقریب خطی را اندازه گیری نمی‌نماید هنگامی که رویکردOLS برای بدست آوردن بهترین تقریب خطی توسعه داده شود، صرف نظر از درستی مدل و اعتبار فرضیاتش، تخمین مدل خطی به وسیلهٔ OLS بهترین $\mathbb {R} ^{2}\,$ ممکن را بدست می‌دهد. هر روش تخمین دیگر اگرچه دارای تخمین زن با مشخصات آماری بهتر تحت فرضیاتش باشد، منجر به $\mathbb {R} ^{2}\,$ کمتر ی خواهد شد.هنگامی که مدل توسط OLS تخمین زده نشود دو رابطهٔ (۱-۱) و (۲-۱)معادل نیستند و روشن نیست $\mathbb {R} ^{2}\,$ چگونه باید تعریف شود . برای استفاده‌های بعدی ما تعریف جایگزینی برای $\mathbb {R} ^{2}\,$ ارائه می نماییم که برای OLS معادل روابط(۱-۱) و (۲-۱)و برای هر تخمین زن دیگری بین صفر و یک خواهد بود. رابطه(۵-۱) $\mathbb {R} ^{2}=corr^{2}(y_{i},{\hat {y}}_{i})={\dfrac {(\sum (y_{i}-{\bar {y}})({\hat {y}}_{i}-{\bar {y}}))^{2}}{(\sum (y_{i}-{\bar {y}})^{2})(\sum ({\hat {y}}_{i}-{\bar {y}})^{2})}}$ که بیانگر مجذور ضریب همبستگی بین مقدار واقعی و fitted value هاست .در نتیجه $\mathbb {R} ^{2}\,$ مهم‌ترین جنبه از نتایج تخمین ما به شمار نمی‌آید.مشکل دیگر $\mathbb {R} ^{2}\,$ این است که مقدار ان با افزایش تعداد متغیرهای توضیح دهنده کاهش نمی‌یابد.یک راه معمول برای حل این مشکل تصحیح واریانس تخمین زده شده برای درجات آزادی است. این امر $adjusted\mathbb {R} ^{2}\,$ یا ${\bar {R^{2}}}$ را نتیجه می‌دهد که طبق رابطهٔ زیر تعریف می‌شود : رابطه(۶-۱) ${\bar {R^{2}}}=1-{\dfrac {1/(N-K)\sum _{i=1}^{N}e_{i}^{2}}{1/(N-1)\sum _{i=1}^{N}(y_{i}-{\bar {y}})^{2}}}$ این روش محاسبهٔ نیکویی برازش مقداری جریمه برای افزایش تعداد متغیرهای توضیح دهنده در مدل در نظر می‌گیرد و بنابراین هنگامی که متغیرهای توضیح دهنده به مدل اضافه می‌شوند افزایش نخواهند یافت. در حقیقت آن ممکن است با اضافه شدن یک متغیر به جمع متغیرهای توضیح دهنده کاهش یابد. توجه کنید که در بسیاری از موارد ${\bar {R^{2}}}$ ممکن است مقداری منفی باشد و همچنین مقدار آن کوچکتر از $\mathbb {R} ^{2}\,$ خواهد بود مگر اینکه مدل تنها شامل جزء ثابت بوده و هر دو مقدار مساوی صفر گردند.