ガウス過程回帰を用いたハイパーパラメータチューニング - Qiita

ガウス過程回帰を用いたハイパーパラメータチューニング - Qiita

ハイパーパラメータチューニングにあたっては，一般的にグリッドサーチなどの方法が用いられます．しか...概要を表示 ハイパーパラメータチューニングにあたっては，一般的にグリッドサーチなどの方法が用いられます．しかし，一回の学習に時間がかかるようなモデルにおいては，より効率的なハイパーパラメータ探索が求められます． 今回はガウス過程回帰を利用することによって，より効率的なハイパーパラメータチューニングを目指します． ガウス過程回帰によるハイパーパラメータ調整 獲得関数をUCB(Upper Confidence Bound)とし，ガウス過程回帰に基づいたハイパーパラメータチューニングの方法をまとめます． アルゴリズムの構築にあたっては，以下の大変面白い記事を参照しています． 問題設定 訓練データ$(X_{\rm train}, {\bf y}_{\rm train})$を用いてモデルを作成し，テストデータの入力$X _ {\rm test}$に対して出力${\bf y} _ {\rm test}$を予測する