Лекция №10 “Explainability“

Десятое занятие на курсе «Нейронные сети и их применение в научных исследованиях» для группы НС242 пятого потока обучения. Преподаватель: Любовь Антюфриева Дата: 00:00 Начало 00:22 Оценка важности признаков для простых моделей 04:50 Оценка важности признака для линейных моделей 06:15 Оценка важности признака для дерева 09:24 Методы, изучающие отклик модели на изменение входных данных 09:45 ICE (Individual Conditional Expectation) 12:19 LIME (Local Interpretable Model-agnostic Explanations) 31:59 SHAP (SHapley Additive exPlanations) 47:04 Градиентные методы 47:49 Vanilla Gradient 52:46 SmoothGrad 54:56 Integrated Gradients 57:49 SHAP Deep Explainer 01:02:27 Grad-CAM 01:07:03 Критика градиентных методов 01:11:04 Методы, специфичные для трансформеров 01:18:59 Attention rollout 01:19:53 Attention Flow 01:21:19 Gradient-weighted Attention Rollout 01:21:46 Заключение Материалы лекции: Открыть в Colab: