RL#10: Deep Learning At Scale

Advanced Topics in Reinforcement Learning На лекции Александр Панин рассказывает как ускорять обучение нейросетей на большом количестве видеокарт. В меню - общие подходы, современные алгоритмы, тонкости allreduce и две совершенно безумных статьи которые нужно слушать под чай или что покрепче. Cсылки на разобранные статьи: Accurate, Large Minibatch SGD: Training ImageNet in 1 Hour () HOGWILD!: A Lock-Free Approach to Parallelizing SGD (http