А знаете ли вы, что вы насчитали? Автоматическая проверка точности численных расчётов / Игорь Нетай

Крупнейшая профессиональная конференция для разработчиков высоконагруженных систем Highload 2023 Презентация и тезисы: Существуют проблемы, возникающие при вычислениях со значениями с плавающей точкой: все операции имеют погрешности, которые накапливаются. При достаточно большом накоплении ошибок под сомнением могут оказаться все результаты вычислений... -------- Нашли ошибку в видео? Пишите нам на support@
Back to Top