【G検定対策】Lasso

G検定

正則化にはL1正則化であるLasso正則化と、L2正則化であるRidge正則化の二種類が存在する。L1正則化を使用するとスパースになる。

スパースモデリングのモデルを評価する~LASSO推定値の評価方法
本連載は「これから機械学習に取り組みたい」「ディープラーニングや機械学習を使った経験がある」といったエンジニアに向けて、データ量が少なくても分析が実現できる「スパースモデリング」という手法を紹介します。今回は、スパースモデリングのモデルの評...

LASSO (Least absolute shrinkage and selection operator) (Tibshirani, 1996) は、スパース推定を実現する手法の一つである。モデルのパラメーターを最小二乗法で推定するとき、データのサンプル数が少なかったり、あるいは互いに相関が高い説明変数が複数存在したりする場合は、最小二乗推定量が存在しない。このとき、パラメーターに対して L1 ノルムとよばれる制約条件を与えることで、最小二乗推定量に近い値が推定されるようになる。L1 ノルムを制約条件として用いた場合のパラメーター推定を LASSO とよぶ。

LASSO | L1 正則化を使用したパラメーターのスパース推定
タイトルとURLをコピーしました