いよいよCNNによるおなじみの画像分類である。 学び： - 原則としてCNNでは、情報を漏れなく拾ったうえで寄与が大きい特徴を抽出したいので、「ストライドなしの畳み込み」→「最大プーリング」を使ったほうがよい。 - Rescaling層の存在 PythonとKerasによる…

機械学習における基本的なテクニックを確認する。 ここでの学び： 過学習を防ぐための方策 データを増やす ネットワークの層数・サイズを小さくする 正則化 ドロップアウト 正則化について、コスト…？と思ってたけどイメージが分かった（損失関数の誤差をと…

Boston Housingデータセットを用いた住宅価格予測を行う。 ここでの学び データの正規化（入力データ行列の列ごとに平均を引く＆標準偏差で割る→中心０，標準偏差１） 小さいネットワークを使ったほうが、過学習を抑制できる。訓練データが少ない＝過学習に…

ロイターデータセットを使った、記事の多クラス分類を行う。 ここでの学び： 分類タスクで使う損失関数「交差エントロピー」は、学習モデルにによって出力される確率分布と、ラベルの真の確率分布の距離を表すものである。 ディープラーニングの肝は中間層で…

IMDbデータセットを使用した二値分類を行う。 ここでの学び： データ前処理（one-hot化） model.fitの戻り値historyオブジェクトによるスコア確認 PythonとKerasによるディープラーニング作者:Francois Cholletマイナビ出版Amazon github.com

第2章 予習：ニューラルネットワークの数学的要素 ここでは例として、定番のMNISTの画像分類モデルの学習を行うとともに、ディープラーニングの重み調整アルゴリズムの詳細（確率的勾配降下法とか）について説明しています。 PythonとKerasによるディープラ…

ディープラーニングの基礎というのはもう散々こすられているネタであり、ネットの記事も豊富にあって必要に応じてググって見に行くんだけれども、まあわかんなかったらググればいいか、という認識でいるせいで「あれ？そもそも損失関数って何してるんだ？」…

前回1-3の転移学習でおこなった画像分類を、今度はファインチューニングで行う。 ファインチューニングとは、1-3で述べたとおり、学習済みモデルの出力層に近い部分だけでなく、全パラメータを再学習させることである。 ただし、入力層に近い部分のパラメー…

前回に引き続いて、転移学習についての学習メモ。 なお、ここで書く内容は処理の概説となるが、無料公開されているサンプルコードからも十分読み取れる内容に対するメモという位置づけで書きすすめる。 万が一こんな場所を見ている人がいたら本買った方がい…