エポックとイテレーション

トレーニングデータセット全体がニューラルネットワークを1回通過することを指します。エポックの数だけ、ネットワークはデータセットを通過します。エポックが多すぎると、過学習のリスクが高まる可能性があります。

「世代」や「年代」という意味も持っているので、「全体のデータセットが一世代を終える」と覚えると良いです。

ミニバッチごとの前方および後方の伝播を指します。例: 10,000のサンプルを持つトレーニングデータと、ミニバッチのサイズが100の場合、1エポックあたり100回のイテレーションが必要です。

「反復」という意味なので、データセットの一部を「繰り返し」学習することとして覚えると良いです。

想像してみてください。ある本があり、その本は全体のトレーニングデータセットとします。 1エポックはその本を一度最初から最後まで読むことを指します。しかし、一度に全てのページを読むのではなく、ある数のページ（ミニバッチ）を一度に読むことをイテレーションと呼びます。