PythonとKerasによるディープラーニング 第1章 メモ

ディープラーニングの基礎というのはもう散々こすられているネタであり、ネットの記事も豊富にあって必要に応じてググって見に行くんだけれども、まあわかんなかったらググればいいか、という認識でいるせいで「あれ？そもそも損失関数って何してるんだ？」みたいなのが永遠に発生し続けており、いい加減嫌になったのでいったんここでディープラーニングの基礎の基礎をまとめておく。

Qiitaとかでは1億回書かれてることだし、もっと良記事がネットの海にはごまんとあるが、ここは私の勉強記録スペースなので好きに使う！

PythonとKerasによるディープラーニング

github.com

PyTorchによる発展ディープラーニング 第１章 1-5 ファインチューニングの実装 メモ

前回1-3の転移学習でおこなった画像分類を、今度はファインチューニングで行う。

ファインチューニングとは、1-3で述べたとおり、学習済みモデルの出力層に近い部分だけでなく、全パラメータを再学習させることである。

ただし、入力層に近い部分のパラメータは学習率を小さく設定し、出力層に近い部分のパラメータは学習率を大きく設定する。

流れは1-3と基本的に同じ。

1. DatasetとDataLoaderの作成

2. ネットワークモデルの作成

3. 損失関数の定義

4. 最適化手法の定義

5. 学習・検証の実施

PyTorchによる発展ディープラーニング 第１章 1-3 転移学習の実装 メモ

前回に引き続いて、転移学習についての学習メモ。

なお、ここで書く内容は処理の概説となるが、無料公開されているサンプルコードからも十分読み取れる内容に対するメモという位置づけで書きすすめる。

万が一こんな場所を見ている人がいたら本買った方がいいので本を買ってください。↓

つくりながら学ぶ! PyTorchによる発展ディープラーニング

サンプルコード

github.com

PyTorchによる発展ディープラーニング 第１章 1-1 メモ

kaggleのRSNAコンペをやろうとしたのだけど、PyTorchを自分で理解して書けているか微妙な気がしたので、復習。

 去年夏ごろに買って物体認識のところのみやってみたが、何がなんだかよくわからず断念した本だった。今読んだら当時より分かるようにはなっていたので若干の進歩を感じる。

つくりながら学ぶ！PyTorchによる発展ディープラーニング

サンプルコードはこちら。

github.com