Распознавание образов и машинное обучение. Чтение 23. Нейросети. Композиция линейных моделей

Обобщающие способности линейных моделей регрессии и классификации ограничены заранее зафиксированным набором базисных функций (функций характеристик), из линейной комбинации которых и строятся эти модели. Можно попробовать увеличить обобщающие способности линейных моделей, либо адаптируя набор базисных функций к данным в процессе обучения, либо адаптируя сами базисные функции к данным в процессе обучения. Во втором подходе в качестве таких адаптивных базисных функций для линейной модели можно использовать другие линейные модели. Это естественным образом приводит нас к конструкции многослойной нейросети. Конструируем многослойные нейросети как композицию различных элементарных линейных моделей. Делаем акцент на отличии нейросети от перспетрона. Обсуждаем симметрии в пространстве параметров. #теорвер #machinelearning #нейросети