Lasso regression: Perbedaan antara revisi

Baris 9:

dengan:

~~'''~~ <math>y_i</math> : nilai target pada observasi ke-''i''

* <math>y_i</math> : nilai target pada observasi ke-''i''

~~'''~~ <math>x_{ij}</math> : nilai fitur ke-''j'' pada observasi ke-''i''

* <math>x_{ij}</math> : nilai fitur ke-''j'' pada observasi ke-''i''

~~'''~~ <math>\beta_0</math> : intercept

* <math>\beta_0</math> : intercept

~~'''~~ <math>\beta_j</math> : koefisien regresi untuk fitur ke-''j''

* <math>\beta_j</math> : koefisien regresi untuk fitur ke-''j''

~~'''~~ <math>\lambda \geq 0</math> : parameter regularisasi

* <math>\lambda \geq 0</math> : parameter regularisasi

~~'''~~ <math>\sum_{j=1}^p |\beta_j|</math> : penalti regularisasi L1

* <math>\sum_{j=1}^p |\beta_j|</math> : penalti regularisasi L1

Berbeda dengan ''ridge regression'' yang menggunakan penalti L2, Lasso regression cenderung menghasilkan solusi dengan banyak koefisien tepat sama dengan nol. Hal ini membuat Lasso berguna untuk ''feature selection'' (pemilihan variabel).

== Perbedaan dengan Ridge Regression ==

Perbedaan utama antara Lasso dan Ridge regression terletak pada jenis penalti yang digunakan. Ridge menggunakan penalti L2 (kuadrat dari koefisien), sedangkan Lasso menggunakan penalti L1 (nilai absolut koefisien). Penalti L1 dalam Lasso cenderung menghasilkan model yang lebih jarang ('''sparse'''), karena dapat membuat koefisien menjadi tepat nol.

@@ Baris 9: / Baris 9: @@
 dengan:
-''' <math>y_i</math> : nilai target pada observasi ke-''i''
+* <math>y_i</math> : nilai target pada observasi ke-''i''
-''' <math>x_{ij}</math> : nilai fitur ke-''j'' pada observasi ke-''i''
+* <math>x_{ij}</math> : nilai fitur ke-''j'' pada observasi ke-''i''
-''' <math>\beta_0</math> : intercept
+* <math>\beta_0</math> : intercept
-''' <math>\beta_j</math> : koefisien regresi untuk fitur ke-''j''
+* <math>\beta_j</math> : koefisien regresi untuk fitur ke-''j''
-''' <math>\lambda \geq 0</math> : parameter regularisasi
+* <math>\lambda \geq 0</math> : parameter regularisasi
-''' <math>\sum_{j=1}^p |\beta_j|</math> : penalti regularisasi L1
+* <math>\sum_{j=1}^p |\beta_j|</math> : penalti regularisasi L1
 Berbeda dengan ''ridge regression'' yang menggunakan penalti L2, Lasso regression cenderung menghasilkan solusi dengan banyak koefisien tepat sama dengan nol. Hal ini membuat Lasso berguna untuk ''feature selection'' (pemilihan variabel).
 == Perbedaan dengan Ridge Regression ==
 Perbedaan utama antara Lasso dan Ridge regression terletak pada jenis penalti yang digunakan. Ridge menggunakan penalti L2 (kuadrat dari koefisien), sedangkan Lasso menggunakan penalti L1 (nilai absolut koefisien). Penalti L1 dalam Lasso cenderung menghasilkan model yang lebih jarang ('''sparse'''), karena dapat membuat koefisien menjadi tepat nol.