تحلیل رگرسیون

از ویکی‌پدیا، دانشنامهٔ آزاد
پرش به: ناوبری، جستجو

در مدل های آماری،تحلیل رگرسیون یک فرآیند آماری برای تخمین روابط بین متغیرها می باشد.این روش شامل تکنیک های زیادی برای مدل سازی و تحلیل متغیرهای خاص و منحصر بفرد است وقتی که تمرکز روی روابط بین متغیر وابسته و یک یا چند متغیر مستقل باشد. تحلیل رگرسیون خصوصا کمک می کند در تشخیص چگونگی تغییر مقدار متغیر وابسته در زمان مقدار هر متغیر مستقل با ثابت بودن دیگر متغیرهای مستقل تغییر می کند.بیشترین کاربر تحلیل رگرسیون تخمین امید ریاضی شرطی متغیر وابسته را از متغیرهای مستقل میعن است که معادل مقدار متوسط متغیر وابسته می باشد وقتی که مقادیر مستقل ثابت است.کمترین کاربر آن تمرکز روی نقاط برش مجموعه های برابر است یا پارامتر مکانی توزیع شرطی متغیر وابسته از متغیر مستقل معین است.در همه موارد هدف تخمین یک تابع از متغیرهای مستقل که تابع رگرسیون نامیده شده است.در تحلیل رگرسیون تعیین پراکندگی متغییر وابسته اطراف تابع رگرسیون مورد توجه است که می تواند توسط یک توزیع احتمال توضیح داده می شود.

تحلیل رگرسیون به صورت گسترده برای پیش بینی استفاده شده است.تحلیل رگرسیون همچنین برای شناخت ارتباط میان متغیر مستقل و وابسته و شکل این روابط استفاده شده است.در شرایط خاصی این تحلیل برای استنتاج روابط علی بین متغیرهای مستقل و وابسته میتواند استفاده شده باشد.هرچند این موجب روابط اشتباه یا باطل می تواند باشد بنابراین احتیاط قابل توصیه است.

تکنیک های زیادی برای انجام تحلیل رگرسیون توسعه داده شده است. روش های آشنایی همچون رگرسیون خطی و حداقل مربعات متداول پارامتریک هستند، در آن تابع رگرسیون تحت یک تعداد محدودی پارامترهای ناشناخته که از داده ها تخمین زده شده است. رگرسیون غیر پارامتریک به روش های اشاره می کند که به توابع رگرسیون اجازه می دهد تا در یک مجموعه مشخص از توابع با احتمال پارامترهای نامحدود قرار گیرند.


تحلیل رگرسیونی یا تحلیل وایازشی[۱] فن و تکنیکی آماری برای بررسی و مدل‌سازی ارتباط بین متغیرها است. رگرسیون تقریباً در هر زمینه‌ای از جمله مهندسی، فیزیک، اقتصاد، مدیریت، علوم زیستی، بیولوژی و علوم اجتماعی برای برآورد و پیش‌بینی مورد نیاز است.


تعریف لغوی[ویرایش]

واژه رگرسیون(Regression) را از لحاظ لغوی در فرهنگ لغت به معنی پسروی، برگشت و بازگشت است. اما از دید آمار و ریاضیات به مفهوم بازگشت به یک مقدار متوسط یا میانگین به‌کار‌می‌رود. بدین معنی که برخی پدیده‌ها به مرور زمان از نظر کمی به طرف یک مقدار متوسط میل می‌کنند.

تاریخچه[ویرایش]

در سال ۱۸۷۷ فرانسیس گالتون (به انگلیسی: Francis Galton) در مقاله‌ای که درباره بازگشت به میانگین منتشر کرده‌بود. اظهار داشت که متوسط قد پسران دارای پدران قدبلند، کمتر از قد پدرانشان می‌باشد. به نحو مشابه متوسط قد پسران دارای پدران کوتاه‌قد نیز، بیشتر از قد پدرانشان گزارش شده‌است. به این ترتیب گالتون پدیده بازگشت به طرف میانگین را در داده‌هایش مورد تأکید قرارداد. برای گالتون رگرسیون مفهومی زیست‌شناختی داشت، اما کارهای او توسط کارل پیرسون (به انگلیسی: Karl Pearson) برای مفاهیم آماری توسعه داده‌شد. گرچه گالتون برای تأکید بر پدیده «بازگشت به سمت مقدار متوسط» از تحلیل رگرسیون استفاده کرد، اما به هر حال امروزه واژه تحلیل رگرسیون جهت اشاره به مطالعات مربوط به روابط بین متغیرها به کار برده‌می‌شود.

مدل های رگرسیون[ویرایش]

مدل های رگرسیون شامل متغیرهای زیر است:

  • پارامترهای ناشناخته،با \beta مشخص می شود و یک مقیاس یا بردار نمایش می دهد.
  • متغیرهای مستقل X
  • متغیر وابسته Y

در رمینه های مختلفی از کاربرد،اصطلاحات مختلفی به جای متغیرهای مستقل و وابسته استفاده شده است.

یک مدل رگرسیون Y را به یک تابع از X و \beta مرتبط می کند.

Y \approx f(X,\beta)

نشان تقریب معمولت به عنوان E(Y|X)=f(X,\beta) معرفی شده است.برای انجام تحلیل رگرسیون،شکل تابع f باید مشخص شده باشد. گاهی اوقات شکل این تابع بر اساس دانشی درباره روابط بین Y و X که بر روی داده تکیه ندارد.

فرض کنونی بردار پارامترهای ناشناخته \beta به طول k است. برای اجرای یک تحلیل رگرسیون کاربر باید اطلاعاتی در مورد متغیر وابسته Y فراهم کند:

  • اگر N نقطه داده از (Y,X)مشاهده شده باشد وقتی N<k است دیدگاه های بسیار کلاسیک برای این تحلیل نمی تواند استفاده شود از آنجایی که سیستم معادلات تعریف شده برای مدل رگرسیون قابل تخمین نیست و داده کافی برای بازیابی \beta وجود ندارد.
  • اگر تعداد نقاط N=k مشاهده شده است و تابع f خطی است،معادلات Y=f(X,\beta) دقیق حل شود.این تعداد محاسبات به یک مجموعه N معادلات با N پارامتر ناشناخته(همان عناصر \beta)کاهش می دهد و یک راه حل یکتا دارد آنچنان که X متغیرهای مستقل خطی هستند. چندین راه حل شاید وجود داشته باشداگر f غیرخطی است.
  • وضعیت بسیار مشترک N>k است. در این صورت اطلاعات کافی در داده ها برای تخمین مقدار یکتا برای \beta وجود دارد.

در مورد آخر، تحلیل رگرسیون ابزاری فراهم می کند:

  1. یافتن یک راه حل برای پارمترهای ناشناخته \beta، برای نمونه فاصله بین مقادیر پیش بینی و اندازه گیری شده از متغیر مستقل Y حداقل کند(حداقل مربعات)
  2. تحت فرض های آماری خاص، تحلیل رگرسیون اطلاعات زیادی برای تعیین اطلاعات آماری درباره پارامترهای ناشناخته \beta و مقادیر پیش بینی از متغیر تصادفی Y استفاده می کند.

رگرسیون کاذب[ویرایش]

رگرسیون کاذب (به انگلیسی: regression) با فرض اینکه متغیرهای y_t و x_t مانا می‌باشند تخمین‌های ما از پارامترها و تست‌های Tو Fدرست می‌باشد. برای نشان‌دادن سازگاری تخمین‌های حداقل مربعات معمولی، ما از این نتایج زمانی که اندازه نمونه افزایش می‌یابد و واریانس نمونه به واریانس جامعه همگرا می‌شود، استفاده می‌کنیم. متأسفانه وقتی سری نامانا باشد واریانس خوش تعریف نیست، زیرا حول یک میانگین ثابت نوسان نمی‌کند. برای توضیح بیشتر دو متغیر y_t و x_t را در نظر بگیرید که بوسیله یک فرآیند گام تصادفی تعریف می‌شود.

  1. y_t=  y_t-1 +\epsilon_1t,\quad t=1,\dots,N\!
  2. x_t=  x_t-1 +\epsilon_2t,\quad t=1,\dots,N\!

که \epsilon_2t و \epsilon_1t دارای توزیع مستقل می‌باشد.هیچ دلیلی برای ارتباط بین y_t و x_t وجود ندارد. یک محقق اگراثر y_t را روی x_t و یک جزء ثابت رگرس کند و رگرسیون زیر را انجام دهد :

خط راست: y_i=\beta_0 +\beta_1 x_t +\epsilon_t,\quad t=1,\dots,N\!

نتایج این رگرسیون ممکن است بوسیله r^۲ بالا و خود همبستگی بالا بین باقیمانده‌ها و هم‌جنین دارای ارزش معنی‌داری برای پارامتر beta_1 باشد. این پدیده به رگرسیون کاذب معروف است. در این گونه از موارد دو سری نامانا ارتباط کاذبی دارند به این علت که که هر دوی آنها در طول زمان تغییر می‌کنند و تابعی از زمانند. هماطور که گراجر و نی یو بلد بیان کردند در این حالت رگرسیون دارای r^۲ بالا؛ و آماره دوربین واتسون پایین خواهدبود و تست‌های Tو F ممکن است خیلی گمراه‌کننده باشند. دلیل آن نیز این است که توزیع‌های آماره‌های تست‌های سنتی خیلی متفاوت از نتایجی که تحت فرض مانایی گرفته‌می‌شود، می‌باشد. بخصوص همانطور که فلیپس (۱۹۸۷)نشان داد؛ همانطور که اندازه نمونه افزایش می‌یابد نمی‌توان به معنی‌داری تخمین زن حداقل مربعات معمولی و آماره‌های تست‌های Tو F و آماره دوربین واتسون اعتماد کرد. دلیل آن این است که y_t و x_t متغیرهای I(1) می‌باشد و جزء خطا نیز یک متغیر ناماناI(1) می‌باشد.

اگر ارزش‌های گذشته هر دو متغیر وابسته و مستقل را در رگرسیون وارد کنیم مشکل رگرسیون کاذب حل می‌شود. در این حالت تخمین‌های حداقل مربعات معمولی برای همه پارامترها سازگار می‌باشد.

شیوه‌ها[ویرایش]

شیوه‌های مهم تحلیل‌های رگرسیونی به شرج زیر هستند.

این تنوع باعث شده‌است که بتوان به راحتی هر نوع داده‌ای (اغلب از نوع داده‌های پیوسته) را تحلیل کرد و به راحتی نتیجه‌گیری نمود.

محاسبه[ویرایش]

برای انجام یک تحلیل رگرسیونی ابتدا تحلیل‌گر حدس می‌زند که بین دو متغیر، نوعی ارتباط وجود دارد، در حقیقت حدس می‌زند که یک رابطه به شکل یک خط بین دو متغیر وجود دارد و سپس به جمع‌آوری اطلاعات کمی از دو متغیر می‌پردازد و این داده‌ها را به صورت نقاطی در یک نمودار دو بعدی رسم می‌کند.

نرم افزارها[ویرایش]

نرم افزارهای بسیاری هستند که قابلیت محاسبه رگرسیون را دارند و مشهورترین آنها عبارتند از:

جستارهای وابسته[ویرایش]

منابع[ویرایش]

  1. «تحلیل وایازشی» [ریاضی] هم‌ارزِ «regression analysis» (انگلیسی)؛ منبع: گروه واژه‌گزینی و زیر نظر حسن حبیبی، «فارسی»، در (۱۳۷۶-۱۳۸۵)، فرهنگ واژه‌های مصوب فرهنگستان، تهران: انتشارات فرهنگستان زبان و ادب فارسی، شابک ‎۹۷۸-۹۶۴-۷۵۳۱-۷۷-۱ (ذیل سرواژهٔ تحلیل وایازشی)