Захар Понимаш, Виктор Носко - Библиотека ExplainitAll

Библиотека ExplainitAll. Как интерпретируемый ИИ объясняет генерацию трансформеров Захар Понимаш и Виктор Носко из проекта FractalGPT () рассказывают о библиотеке ExplainitAll. Библиотека ExplainitAll предназначена для интерпретации выходов нейросетей трансформер. Основным преимуществом реализуемого в библиотеке подхода является то, что интерпретация будет работать и для сетей-эмбеддеров, и для генеративных задач в сеттинге QA (Вопросно-ответных систем). Результат работы может быть сгруппирован и обобщен на семантические кластеры. Также разработчики и пользователи ExplainitAll смогут использовать готовые метрики надежности ответов трансформеров, а также создавать свои собственные, с визуализацией внимания. Telegram Reliable ML: Data Fest 2023: Трек “Reliable ML “: Наши соц.сети: Telegram: Вконтакте: