2016-10-01から1ヶ月間の記事一覧
はじめに 7月18日にブログを始めたので、もう3ヶ月も経ちました。3ヶ月を過ぎ壁にぶちあったっています。リフレッシュします。 おおまかな内容 壁は3つあります。 1.ボクが忙しいこと 夏は暇だけど、秋は忙しい。冬支度でとってもいそがしいのです。 2…
はじめに 自己符号化器(AutoEncoder)にスパース項を導入して、スパース正則化を行ってみます。 おおまかな内容 スパース正則化とは、訓練サンプルをより少ないユニット(:ニューロン:当ブログではノード)で再現できるようにパラメータを決定していくこと…
はじめに 自己符号化器(AutoEncoder)の学習中にハイパーパラメータである「学習率」を変えて学習結果がどのように変化するのか実験します。 実はAdamという勾配降下法の最適化アルゴリズムを実装していました。ボク的にはちゃんと作っているつもりで、「それ…