Обзор API GigaChat от СБЕР

Всем привет. Тестировал тут API GigaChat от СБЕР и решил для вас небольшой обзор сделать (видео 2,5 минутки ☺). Ещё на SmartDev2023 я с ребятами из GigaChat общался, у них был основной посыл, что можно внедрять их нейронку в бизнесы. Я зарегался Прочитал Лицензионное Соглашение Изучил документацию по API Написал 2 простых скрипта (для получения токена и непосредственно для общения с GigaChat). Накидал простой графический интерфейс (GUI) специально для этого обзора. Чтобы для вас нагляднее было 🤗 Бесплатная версия 1млн. токенов, для тестов подходит. Платная версия 20 копеек за 1000 токенов. Дороговато. Например, API GPT-3.5 стоит 9 копеек за input и 18 копеек за output, за те же 1000 токенов. А Giga пока ещё и по уровню отстаёт от GPT-3.5. Тезисно: На контент который вы получаете с использованием GigaChat вы предоставляете СБЕРУ простую (неисключительную) безотзывную, безвозмездную лицензию. Помните об этом. При тестировании обнаружил низкую толерантность к ошибке у их модели. Уже написал об этом им в поддержку. Модель не настраиваемая, даже температура не регулируется. Нет seed’ов. Диалог нужно весь передавать каждый раз... Выводы: На данной стадии прямо внедрять в боевой проект, ну я не уверен. На сайте есть инфа, что цитата “возможность дообучения обсуждается индивидуально“, тогда как openai делает это возможным просто в открытую... Проблемы с толерантностью к ошибкам могут оказать негативные последствия от вашего внедрения. И юридически Сбер всю ответственность перекладывает на вас (в отличии от openai, который заявили, что юридические риски будут брать на себя). Из плюсов для РФ: Российское решение. Работает за российские рубли. Ну и всё из этого вытекающее: не нужен VPN, тех.поддержка на русском языке, нет проблемы оплачивать с РФ счетов и карт. Быстро работает