Lassoul efectuează contracția astfel încât să existe „colțuri” în constrângere, care în două dimensiuni corespunde unui romb. Dacă suma pătratelor „locește” pe unul dintre aceste colțuri, apoi coeficientul corespunzător axei este micșorat la zero. … Prin urmare, lassoul efectuează contracția și (efectiv) selecția subsetului.
De ce lasoul dă coeficienți zero?
Lassoul efectuează contracția astfel încât să existe „colțuri” în constrângere, care în două dimensiuni corespunde unui romb. Dacă suma pătratelor „locește” pe unul dintre aceste colțuri, apoi coeficientul corespunzător axei este micșorat la zero.
De ce lasso se micșorează la zero, dar nu Ridge?
Se spune că, deoarece forma constrângerii în LASSO este un diamant, soluția celor mai mici pătrate obținută ar putea atinge colțul diamantului, astfel încât să conducă la o contracție a unei variabile. Cu toate acestea, în regresia crestei, deoarece este un cerc, adesea nu va atinge axa
De ce regresia crestei micsoreaza coeficientii?
Regresia creastă reduce toți coeficienții de regresie la zero; lasoul tinde să dea un set de coeficienți de regresie zero și duce la o soluție rară. Rețineți că atât pentru regresia crestei, cât și pentru lasso, coeficienții de regresie se pot muta de la valori pozitive la valori negative, deoarece acestea sunt micșorate spre zero.
Coeficienții lasso sunt părtinși?
…contracția cu lazo face ca estimările coeficienților diferite de zero să fie părtinitoare spre zero și, în general, nu sunt consecvente [Notă adăugată: aceasta înseamnă că, deoarece dimensiunea eșantionului crește, estimările coeficientului nu converg].
