AI, API или Open-source? Open Talks с мощным составом AI-практиков из крупных компаний

Обсудили, на чем сегодня строятся ML-продукты мощным составом AI-практиков из Яндекса, Cloud. ru, Selectel и других компаний. Получился масштабный разговор о продакшне ИИ: от архитектуры и инфраструктуры до команд, безопасности и бизнес-эффективности. ▪️Open Talks – Открытый митап с AI-экспертами, подписывайся на нас в Telegram, чтобы смотреть выпуски в прямом эфире и задавать вопросы экспертам: Магистратура «Искусственный интеллект»: Магистратура «AI-Product»: Чат для поступающих: Таймкоды: 00:03 Введение и представление гостей 14:04 Выбор между API и собственной моделью 14:50 Риски использования чужих моделей 17:03 Финансовые аспекты 20:16 Альтернативные решения 21:32 Риски и задачи 23:55 Правило трёх 25:46 Подходы к расчёту проектов 26:27 Выбор GPU для задач ИИ 27:23 Альтернативные чипы для ИИ 28:21 Этап POC и оптимизация 30:20 Тестирование и масштабирование 31:59 Облачные вычисления и приватные инстансы 33:40 Мотивация команд 36:21 Безопасность решений 37:29 Мотивация в организационном развитии 38:23 Командные цели 39:16 Оптимизация затрат 42:01 Edge-устройства 45:07 Развитие больших языковых моделей 46:03 Концепция LLM Action Mode 55:01 Юридические аспекты хранения данных 57:25 Этические аспекты использования ИИ 01:02:15 Сравнение опенсорсных и проприетарных моделей 01:07:12 Введение в Edge Core 01:18:49 Метрика гуд пут 01:20:33 Гибридная инфраструктура 01:22:25 Производительность китайских видеокарт 01:27:59 Галлюцинации в LLM 01:32:31 Инвестиции в технологии 01:34:48 Советы для джунов в работе с LLM Спикеры: ▪️Сергей Скородумов — руководит службой поисковых сервисов в Яндексе, оптимизирует обучение на GPU и создает ИИ-агентов. ▪️Дмитрий Юдин — управляет AI-департаментом в , создает POC-агентов и мультиагентные системы. Ведет канал: ▪️Антон Чунаев — развивает портфель ML-продуктов Selectel, основатель сообщества: , ведет канал: ▪️Ян Анисимов — руководит отделом разработки в телеком-компании, ментор AI Talent Hub ▪️Борис Каптелов — ex-CEO Delivery Club, основал консалтинговую практику Каптелова, экспертиза на стыке стратегии, финансов и IT. Ведет канал: Ведущий: Павел Подкорытов — CEO Napoleon IT и сооснователь AI Talent Hub