Ганичев А.А. - Нейронные сети в научных исследованиях - 7. Улучшение сходимости нейросетей
Улучшение сходимости нейросетей и борьба с переобучением
0:00:17 1. Нормализация входных данных
0:05:24 2. Инициализация весов
0:15:00 3. Инициализация весов в Pytorch
0:23:41 4. Затухание градиента
0:35:59 5. Советы по использованию BatchNormalization
0:38:36 6. Другие Normalization
0:41:00 7. Регуляризация
0:50:02 8. Обзор популярных оптимизаторов
1:01:05 9. Режимы обучения
Ссылка на плейлист: