Разбор алгоритмов и идей DeepMind AlphaFold2 с позиции ML-инженерии - Boris Burkov

Целеполагание ключевых модулей системы, а также ряд инженерных приемов: - Исходные данные и общий поток информации в системе: выравнивания, hmmer, uniprot/mgnify/BFD, pdb, шаблоны структур. - Архитектура нейросетевой части с высоты птичьего полета: Evoformer и структурный модуль. - Evoformer: дистограммы из выравнивания через внешнее произведение и gated self-attention, условная оптимизация и соблюдения неравенств треугольника с помощью triangle self-attention - Структурный модуль: механика постепенного сворачивания белка, Invariant Point Attention (IPA), SE(3)-эквивариантность - Frame Aligned Point Error (FAPE) и дополнительные лоссы - recylcing и самодистилляция 📈 Слайды 📢 Подписывайся на наше сообщество в telegram, чтобы быть в курсе мероприятий 🗨 Обсудить доклады можно в нашем чатике I believe that DeepMind AlphaFold2 and Github Co-pilot were among the most prolific advances of technology made in 2021. Two years after their initial breakthrough, DeepMind released the second version of their revolutionary system for protein 3D structure prediction. This time they basically solved the 3D structure prediction problem that held for more than 50 years. These are the notes from my detailed talk on the DeepMind AlphaFold2 system. You can turn on english subtitles here