От T9 до ChatGPT/ ML-инженер о том, как работают языковые модели и мифах вокруг AI

На Highload после доклада о языковых моделях к Ире выстроилась огромная очередь желающих задать вопросы. Кажется, в 2023 все только и говорили о ChatGPT, но никто так и не разобрался что у LLM под капотом. Поймали Иру в студии kotelov podcast, чтобы поболтать о её приключениях в мире Data Science — узнали как она файнтюнит AI, разобрали в каких вопросах можно доверять ChatGPT и узнали как взломать языковую модель Валерий Котелов пригласил в гости Ирину Николаеву — лид ML-направления в Raft, где она интегрирует LLM-модели в реальные продукты Подписаться на невероятные новости, супервакансии и стажировки KOTELOV Обсудить проект KOTELOV Оцифровываем корпорации Отправить CV hr@ или Работа в KOTELOV Магазин мерча Мерч | KOTELOV Телега Иры - @pansy_77 Блог компании Рафт на Хабр (вроде я на него ссылалась в конце тоже, но не увидела этого) - Raft, Ярославль / Статьи Тг-канал Рафт про AI - Евгений Кокуйкин - Raft LMSys Chatbot Arena Leaderboard - a Hugging Face Space by lmsys Внутри: 00:00 Начало 01:23 Как изменились языковые модели: От Т9 до ChatGPT 06:49 Откуда тренд на языковые модели LLM 11:37 Может ли нейросеть быть врачом? 17:11 Преимущества языковых моделей больших языковых моделей перед другими технологиями 20:22 Тест Тьюринга: как понять, что ты общаешься с нейронкой 22:56 Как персональные данные могут утечь из языковой модели 27:46 Тюнинг языковой модели: какие фичи можно прикрутить к LLM 29:19 Как один дата-сайентист может собрать свой колл-центр из нейронок 46:15 Переход с ChatGPT и Llama: разница промтинга языковых моделей 49:12 В чем разница ChatGPT и Llama 50:04 Бенчмарки для языковых моделей. Как понять какая LLM-модель лучше 51:37 Защита данных с помощью LLM-модели 54:47 Про файнтюнинг LLM 56:32 Может ChatGPT слить данные? 58:57 Внедрение LLM в реальное производство 01:09:38 Оптимизация существующих языковых моделей 01:17:02 Какое образование у Иры 01:19:23 Нужно ли образование дата-сайентисту?