ИИ, нейросети, лекция-4: библиотека автоматического дифференцирования TensorFlow

- Матчасть: производная и теория вероятностей - раньше; линейная алгебра, операции над матрицами - сейчас - Библиотеки автоматического дифференцирования: Theano, TensorFlow, PyTorch и т.п. - TensorFlow 1.4 vs 2.x - Реализуем рассмотренные ранее модели на TensorFlow: линейный нейрон, нейрон с активацией-сигмоидой, нейросеть из 3-х элементов - Реализация линейного нейрона: двоичная классификация, объекты с единственным признаком -- Объекты-плейсхолдеры (заглушки) - обучающая выборка и истинные метки -- Инициализация весовых коэффициентов -- Шаблон для функции активации - матричные операции с тензорами -- Шаблон для функции потерь -- Градиент функции потерь (волшебство автоматического дифференцирования любой сложной функции в одной строчке) -- Инициализация и запуск сессии -- Спуск по градиенту (обучение) по эпохам: передача данных в сессию, выполнение шаблона функции спуска внутри сессии, получение данных из сессии (смотрим значение ошибки на каждом шаге) -- Результат обучения: ошибка уменьшается на каждой эпох