در مدل‌های آماری، تحلیل رگرسیون یا تحلیل ارتباط یک فرایند آماری برای تخمین روابط بین متغیرها می‌باشد. این روش شامل تکنیک‌های زیادی برای مدل‌سازی و تحلیل متغیرهای خاص و منحصر بفرد، با تمرکز بر رابطه بین متغیر وابسته و یک یا چند متغیر مستقل، می‌باشد. تحلیل رگرسیون خصوصاً کمک می‌کند در فهم اینکه چگونه مقدار متغیر وابسته با تغییر هرکدام از متغیرهای مستقل و با ثابت بودن دیگر متغیرهای مستقل تغییر می‌کند. بیشترین کاربرد تحلیل رگرسیون تخمین امید ریاضی شرطی متغیر وابسته از متغیرهای مستقل معین است که معادل مقدار متوسط متغیر وابسته است وقتی که متغیرهای مستقل ثابت هستند. کمترین کاربرد آن تمرکز روی چندک یا پارامتر مکانی توزیع شرطی متغیر وابسته از متغیر مستقل معین است. در همه موارد هدف تخمین یک تابع از متغیرهای مستقل است که تابع رگرسیون نامیده شده‌است. در تحلیل رگرسیون تعیین پراکندگی متغیر وابسته اطراف تابع رگرسیون مورد توجه است که می‌تواند توسط یک توزیع احتمال توضیح داده شود.

تحلیل رگرسیون به صورت گسترده برای پیش‌بینی استفاده شده‌است. تحلیل رگرسیون همچنین برای شناخت ارتباط میان متغیر مستقل و وابسته و شکل این روابط استفاده شده‌است. در شرایط خاصی این تحلیل برای استنتاج روابط عالی بین متغیرهای مستقل و وابسته می‌تواند استفاده شود. هرچند این می‌تواند موجب روابط اشتباه یا باطل شود بنابراین احتیاط قابل توصیه است.

تکنیک‌های زیادی برای انجام تحلیل رگرسیون توسعه داده شده‌است. روش‌های آشنا همچون رگرسیون خطی و حداقل مربعات که پارامتری هستند، در واقع در آن تابع رگرسیون تحت یک تعداد محدودی از پارامترهای ناشناخته از داده‌ها تخمین زده شده‌است. رگرسیون غیر پارامتری به روش‌هایی اشاره می‌کند که به توابع رگرسیون اجازه می‌دهد تا در یک مجموعه مشخص از توابع با احتمال پارامترهای نامحدود قرار گیرند.

تحلیل رگرسیونی یا تحلیل وایازشی فن و تکنیکی آماری برای بررسی و مدل‌سازی ارتباط بین متغیرها است. رگرسیون تقریباً در هر زمینه‌ای از جمله مهندسی، فیزیک، اقتصاد، مدیریت، علوم زیستی، بیولوژی و علوم اجتماعی برای برآورد و پیش‌بینی مورد نیاز است.

فهرست مطالب:

مقدمه

مسئله تخمین

مدل سه متغیره (نمادها و فروض)

تفسیر معادله رگرسیونی چند متغیره (مرکب)

مفهوم ضرایب جزئی رگرسیون

تخمین OLS و ML از ضرایب جزئی رگرسیون

واریانس و خطاهای معیار تخمین مدلهای OLS

ویژگیهای تخمین‎ زن ‎های OLS

تخمین ‎زننده های حداکثر راستنمایی

ضریب تعیین چندگانه (مرکب) R2 و ضریب همبستگی چندگانه (مرکب) r

رگرسیون ساده در چارچوب رگرسیون چند متغیره (مرکب)

R2 و R2 تعدیل شده

مقایسه R2 ها

تفسیر ضرایب ساده و جزئی همبستگی

روابط بین R2 و ضرایب ساده و جزئی همبستگی

مدلهای رگرسیونی چند جمله‎ ای

مسئله استنتاج آماری

بررسی مجدد مفهوم فرض نرمال بودن (داشتن توزیع نرمال)

آماره t مربوط به پارامترها

آزمون فرضیه درباره ضرائب جزئی رگرسیون

آزمون معنی ‎دار بودن کلی رگرسیون نمونه

روش آنالیز واریانس برای آزمون معنادار بودن کلی رگرسیون چند متغیره (مرکب) مشاهده شده: آزمون F

مدل رگرسیون K متغیره

جدول AOV بر حسب R2

آزمون معنی ‎دار بودن کلی رگرسیون مرکب برحسب R2

اثر (سهم) «نموی» یا «نهایی» یک متغیر توضیحی

جدول AOV برای ارزیابی اثر (سهم) نموی یک متغیر (یا متغیرهای) اضافی

چه وقت متغیر جدیدی را اضافه کنیم؟

آزمون برابری دو ضریب یک رگرسیون

و…