Regresi Linier

Regresi linier adalah metode statistik yang digunakan untuk memodelkan hubungan antara satu variabel dependen dan satu atau lebih variabel independen dengan menggunakan fungsi linier. Metode ini merupakan salah satu teknik yang paling umum dalam analisis regresi dan digunakan secara luas dalam berbagai disiplin ilmu seperti ekonomi, ilmu sosial, dan ilmu teknik.

Konsep Dasar

Regresi linier bertujuan untuk menemukan garis terbaik yang meminimalkan jumlah kuadrat selisih antara nilai yang diamati dan nilai yang diprediksi oleh model. Garis regresi dinyatakan dalam bentuk persamaan: $Y = β_{0} + β_{1} X + ε$ Di mana Y adalah variabel dependen, X adalah variabel independen, \beta₀ adalah intercept, \beta₁ adalah koefisien regresi, dan \varepsilon adalah kesalahan (error).

Jenis Regresi Linier

Regresi linier sederhana: hanya melibatkan satu variabel independen.
Regresi linier berganda: melibatkan dua atau lebih variabel independen.
Regresi linier multivariat: memodelkan beberapa variabel dependen secara bersamaan.

Asumsi dalam Regresi Linier

Regresi linier memiliki beberapa asumsi penting, antara lain: hubungan antara variabel adalah linier, kesalahan terdistribusi normal, varians kesalahan bersifat homogen (homoskedastisitas), dan tidak terdapat multikolinearitas yang tinggi di antara variabel independen.

Estimasi Parameter

Parameter \beta₀ dan \beta₁ biasanya diestimasi menggunakan metode kuadrat terkecil (ordinary least squares, OLS). Metode ini meminimalkan jumlah kuadrat residual: $\min \sum_{i = 1}^{n} (Y_{i} - (β_{0} + β_{1} X_{i}))^{2}$

Analisis Hasil

Hasil regresi linier biasanya disajikan dalam bentuk tabel yang berisi koefisien, nilai t, p-value, dan R². Nilai R² menunjukkan proporsi variansi Y yang dijelaskan oleh model. Semakin tinggi R², semakin baik model menjelaskan data.

Uji Signifikansi

Uji F digunakan untuk menguji signifikansi keseluruhan model, sedangkan uji t digunakan untuk menguji signifikansi masing-masing koefisien. Jika p-value dari koefisien lebih kecil dari tingkat signifikansi, maka koefisien tersebut dianggap signifikan.

Aplikasi Regresi Linier

Regresi linier digunakan untuk peramalan, prediksi tren, dan analisis hubungan sebab-akibat. Contohnya dalam ekonomi, regresi linier dapat digunakan untuk memprediksi pengaruh tingkat pendidikan terhadap pendapatan.

Keterbatasan

Meskipun regresi linier sederhana diterapkan secara luas, model ini memiliki keterbatasan seperti ketidakmampuan menangkap hubungan nonlinier, sensitivitas terhadap pencilan (outlier), dan ketergantungan pada asumsi distribusi.

Pengembangan

Berbagai pengembangan regresi linier telah dilakukan, seperti regresi ridge, regresi lasso, dan regresi robust, untuk mengatasi masalah multikolinearitas dan pencilan.