Flashcards : Régression Lasso et Elastic Net — 11 cartes

Les variables explicatives ont moyenne nulle et variance unitaire.

$\hat\beta_{MCO}=(X^TX)^{-1}X^TY$

La norme $\|z\|_1$ doit être inférieure à un seuil $t>0$.

Minimiser $G_\lambda(z)=\|Y - Xz\|_2^2 + \lambda \|z\|_1$ avec $\lambda > 0$.

Y = Xβ + ε

$(XᵀX)^{-1}XᵀY$

Variables centrées et réduites, Y centrée

Minimise ||Y−XZ||² + λ||z||₁

Lasso sélectionne, Ridge rétrécit

Variables entrent lorsque λ diminue

Choix de variable max corrélation |ρ_k|