Евгений Кокуйкин — Анализ атак на LLM, техники промпт-инъекций и защиты от них

Ближайшая конференция SafeCode: #safecode #appsec #безопасностьприложений #IT #conference #jugrugroup Рекомендации по практическому подходу к защите прикладных решений в 2024 году. Изучим, в чем причина уязвимости приложений на основе LLM, как это связано с устройством моделей и как работает safety layer. Обсудим классификацию рисков безопасности по фреймворку OWASP, разберем основные классы угроз. Предоставлю дополнительную информацию для самостоятельного изучения. В практической части доклада сфокусируемся на анализе промпт-инъекций и джейлбрейков в LLM, рассмотрим различные виды атак и обсудим техники защиты приложений. Скачать презентацию с сайта —