Занятие №8 «Рекуррентные нейронные сети (RNN)»

01:54:3601:35:4601:11:4300:49:3600:28:4600:27:54Восьмое занятие на курсе «Классическое машинное обучение» для группы НС214. Преподаватель: Александр Пославский Таймкоды: 00:00:06 Особенности 00:03:12 Примеры задач 00:16:02 Базовый RNN блок 00:17:57 RNNCell 00:19:54 RNN блок в Pytorch 00:26:03 Пример обработки временного ряда 00:27:54 Шкалирование данных 00:28:46 Формирование ансамблей данных 00:29:41 Разобьем на train и test 00:30:58 Обучение 00:35:41 Посимвольная генерация текстов 00:39:04 Подготовка данных 00:39:39 Выравнивание данных (Padding) 00:40:45 Разбиение данных 00:41:05 Кодирование 00:42:42 One-hot encoding 00:46:11 Создание и обучение модели 00:47:37 LSTM 00:49:18 Gates (Врата) 00:49:36 Forget gate 00:50:27 Input gate 00:50:58 Обновляем C 00:51:15 Output gate 00:56:58 LSTMCell 01:00:28 Модификации LSTM 01:01:14 GRU (Gated reccurent unit) 01:02:34 Sequence-to-Sequence with RNNs 01:08:21 Attention 01:11:43 Sequence-to-Sequence with RNNs and Attention mechanism 01:22:00 Проблема attention 01:23:3