نیکویی برازش

پس از تخمین یک مدل خطی خاص، سوالی که مطرح می‌شود این است که : خط وایازش تخمین زده شده چه میزان با مشاهدات واقعی تطابق دارد؟ یک معیار سنجش مناسب برای نیکویی برازش (یا برازندگی)، نسبت واریانس نمونه ای y است که بوسیله ی مدل توضیح داده می شود. این متغیر $\mathbb {R} ^{2}\,$ نامیده شده و بصورت زیر تعریف می‌شود : رابطه (۱-۱) $\mathbb {R} ^{2}\,={\dfrac {{\hat {V}}({\hat {y}}_{i})}{{\hat {V}}(y_{i})}}={\dfrac {1/(N-1)\sum _{i=1}^{N}({\hat {y}}_{i}-{\bar {y}})^{2}}{1/(N-1)\sum _{i=1}^{N}(y_{i}-{\bar {y}})^{2}}},$ که در این رابطه ${\hat {y}}_{i}=x_{i}\ b$ است و ${\bar {y}}=(1/N)\sum y_{i}$ بیانگر میانگین نمونه ای $y_{i}$ می باشد. توجه داشته باشید که ${\bar {y}}$ مساوی میانگین نمونه ای ${\hat {y}}_{i}\,$ است .از شرط مرتبه اول داریم : $\sum _{i=1}^{N}e_{i}\ x_{ik}=0,k=1,...,K$ در نتیجه می توانیم $y_{i}$ را به صورت زیر تعریف نماییم : $y_{i}={\hat {y}}_{i}\ +e_{i},$ که در آن $\sum e_{i}{\hat {y}}_{i}=0$ است. در بسیاری از مدل های مشابه که شامل عرض از مبدا هستند رابطه زیر برقرار است : رابطه (2-1) ${\hat {V}}(y_{i})={\hat {V}}({\hat {y}}_{i})+{\hat {V}}(e_{i}),$ که ${\hat {V}}(e_{i})=s^{2},$ است.با استفاده از این رابطه می توان $R^{2}$ را به صورت زیر باز نویسی کرد : رابطه(۳-۱) $\mathbb {R} ^{2}\,=1-{\dfrac {{\hat {V}}(e_{i})}{{\hat {V}}(y_{i})}}=1-{\dfrac {1/(N-1)\sum _{i=1}^{N}e_{i}^{2}}{1/(N-1)\sum _{i=1}^{N}(y_{i}-{\bar {y}})^{2}}}$ فوق نشان می دهد که واریانس نمونه ای $y_{i}$ را می توان به صورت حاصل جمع واریانس های نمونه ای دو جزء متعامد تجزیه نمود : تخمین زن ${\hat {y}}_{i}$ و $e_{i}$ )residual) . بنابراین $\mathbb {R} ^{2}\,$ بیان می کند که چه نسبتی از تغییرات نمونه در $y_{i}$ توسط مدل توضیح داده می شود. اگر مدل مورد مطالعه شامل عرض از مبدا باشد دو عبارت فوق برای تعیین $\mathbb {R} ^{2}\,$ معادلند.علاوه بر این در این مورد می توان نشان داد که مقدار $\mathbb {R} ^{2}\,$ همواره بین صفر و یک قرار دارد.تنها اگر تمام $e_{i}=0$ باشند $\mathbb {R} ^{2}\,$ مساوی یک خواهد بود و مقدار صفر $\mathbb {R} ^{2}\,$ نشان می دهد که مدل به جزمیانگین نمونه ای $y_{i}$ هیچ چیز دیگری را توضیح نمی‌دهد. در یک مورد استثنایی که مدل شامل عرض از مبدا نیست دو عبارت مطرح شده برای $\mathbb {R} ^{2}\,$ معادل نیستند و این بدین دلیل است که رابطه ی (۲-۱)نقض می‌شود زیرا $\sum _{i=1}^{N}e_{i}$ دیگر معادل صفر نمی‌باشد. در این وضعیت ممکن است مقدار $\mathbb {R} ^{2}\,$ محاسبه شده از رابطه ی(3-1) منفی گردد. یک روش اندازه گیری جایگزین که به طور معمول به وسیله ی نرم‌افزار ها مورد استفاده قرار می گیرد اگر عرض از مبدا وجود نداشته باشد $uncentred\mathbb {R} ^{2}$ است که طبق رابطه ی زیر تعریف می گردد و مقدار آن بزرگتر از $\mathbb {R} ^{2},$ استاندارد است : رابطه (۴-۱) $uncentred\mathbb {R} ^{2}={\dfrac {\sum _{i=1}^{N}{\hat {y}}_{i}^{2}}{\sum _{i=1}^{N}\ y_{i}^{2}}}=1-{\dfrac {\sum _{i=1}^{N}\ e_{i}^{2}}{\sum _{i=1}^{N}\ y_{i}^{2}}}$ از آنجا که $\mathbb {R} ^{2}\,$ تغییرات توضیح داده شده در $y_{i}$ را توضیح می دهد نسبت به تغییر این متغیر حساس است . بنابراین در مدلهایی که مصرف را توضیح می دهند، تغییرات در مصرف یا رشد مصرف الزاماً توسط مقادیر $\mathbb {R} ^{2}\,$ شان قابل مقایسه با هم نمی‌باشند.به عنوان مثال تغییر در مصرف کل برای یک کشور مورد نظر معمولاً آسان تر از توضیح تغییرات cross-sectional مصرف در سطح خانوار هاست.درنتیجه معیار قطعی برای اینکه یک مقدار $\mathbb {R} ^{2}\,$ کم یا زیاد تلقی شود وجود نداردمثلا مقدار ۰.۲ ممکن است در کارکرد خاص بزرگ و در سایر موارد کم تلقی شود و حتی مقدار ۰.۹۵ ممکن است در یک مورد خاص کم به شمار آید گاهی اوقات $\mathbb {R} ^{2}\,$ به عنوان معیاری برای کیفیت مدل آماری تفسیر می‌شود که در این حالت چیزی به جز کیفیت تقریب خطی را اندازه گیری نمی‌نماید هنگامی که رویکردOLS برای بدست آوردن بهترین تقریب خطی توسعه داده شود، صرف نظر از درستی مدل و اعتبار فرضیاتش، تخمین مدل خطی به وسیله ی OLS بهترین $\mathbb {R} ^{2}\,$ ممکن را بدست می دهد. هر روش تخمین دیگر اگرچه دارای تخمین زن با مشخصات آماری بهتر تحت فرضیاتش باشد، منجر به $\mathbb {R} ^{2}\,$ کمتر ی خواهد شد.هنگامی که مدل توسط OLS تخمین زده نشود دو رابطه ی (۱-۱) و (۲-۱)معادل نیستند و روشن نیست $\mathbb {R} ^{2}\,$ چگونه باید تعریف شود . برای استفاده های بعدی ما تعریف جایگزینی برای $\mathbb {R} ^{2}\,$ ارائه می نماییم که برای OLS معادل روابط(۱-۱) و (۲-۱)و برای هر تخمین زن دیگری بین صفر و یک خواهد بود. رابطه(۵-۱) $\mathbb {R} ^{2}=corr^{2}(y_{i},{\hat {y}}_{i})={\dfrac {(\sum (y_{i}-{\bar {y}})({\hat {y}}_{i}-{\bar {y}}))^{2}}{(\sum (y_{i}-{\bar {y}})^{2})(\sum ({\hat {y}}_{i}-{\bar {y}})^{2})}}$ که بیانگر مجذور ضریب همبستگی بین مقدار واقعی و fitted value هاست .در نتیجه $\mathbb {R} ^{2}\,$ مهم ترین جنبه از نتایج تخمین ما به شمار نمی‌آید.مشکل دیگر $\mathbb {R} ^{2}\,$ این است که مقدار ان با افزایش تعداد متغیر های توضیح دهنده کاهش نمی‌یابد.یک راه معمول برای حل این مشکل تصحیح واریانس تخمین زده شده برای درجات آزادی است. این امر $adjusted\mathbb {R} ^{2}\,$ یا ${\bar {R^{2}}}$ را نتیجه می دهد که طبق رابطه ی زیر تعریف می‌شود : رابطه(۶-۱) ${\bar {R^{2}}}=1-{\dfrac {1/(N-K)\sum _{i=1}^{N}e_{i}^{2}}{1/(N-1)\sum _{i=1}^{N}(y_{i}-{\bar {y}})^{2}}}$ این روش محاسبه ی نیکویی برازش مقداری جریمه برای افزایش تعداد متغیر های توضیح دهنده در مدل در نظر می گیرد و بنابر این هنگامی که متغیر های توضیح دهنده به مدل اضافه می شوند افزایش نخواهند یافت. در حقیقت آن ممکن است با اضافه شدن یک متغیر به جمع متغیر های توضیح دهنده کاهش یابد. توجه کنید که در بسیاری از موارد ${\bar {R^{2}}}$ ممکن است مقداری منفی باشد و همچنین مقدار آن کوچکتر از $\mathbb {R} ^{2}\,$ خواهد بود مگر اینکه مدل تنها شامل جزء ثابت بوده و هر دو مقدار مساوی صفر گردند.