«Украсить» число, округлив ошибочные цифры надлежащим образом.

Я не думаю, что это возможно сделать с самим результатом, и точность не имеет к этому никакого отношения.

Рассмотрим этот ввод: (1+3)/2^3 . Вы можете «украсить» его, показывая результат как sin(30) или cos(60) или 1/2 и множество других интерпретаций. Выбор неправильного «украшения» может ввести пользователей в заблуждение, заставив их думать, что их функция как-то связана с sin(x).

Если ваш калькулятор сохраняет все исходные данные в виде переменных, вы можете отложить все операции до тех пор, пока вам не понадобится результат, а затем убедитесь, что вы упростили результат, пока он не будет соответствовать вашим потребностям. И вам нужно подумать об использовании рациональных чисел, с e, Pi и другими иррациональными числами может быть не так просто иметь дело.

Лучшее решение этой проблемы — сохранить каждый бит, который вы можете получить во время вычислений, и оставить формат отображения на усмотрение конечного пользователя. Пользователь должен иметь некоторое представление о том, сколько значащих цифр имеет смысл в его ситуации, учитывая как характер вычислений, так и использование результата.

По умолчанию используйте разумное количество значащих цифр для нескольких вычислений в формате с плавающей запятой, который вы используете внутри — около 12, если вы используете двойное число. Если пользователь изменит формат, немедленно отобразится в новом формате.

Лучшее решение — использовать произвольная-точность и/или символическая арифметика, хотя это приводит к гораздо более сложному коду и более медленной скорости. Но поскольку производительность для калькулятора не важна (в случае калькулятора с кнопками, а не того, для расчета которого вы вводите выражения), вы можете использовать их без проблем.

В любом случае есть хороший компромисс: использовать десятичное число с плавающей запятой. Вам нужно будет ограничить точность ввода/вывода, но использовать более высокую точность для внутреннего представления, чтобы вы могли отбрасывать значения, очень близкие к нулю, как в случае с грехом выше. Для лучших результатов вы можете обнаружить некоторые крайние случаи, такие как синус/косинус кратных 45 градусов... и напрямую вернуть точный результат.

Изменить: только что нашел хорошее решение, но не имел возможности попробовать.

Держу пари, вот о чем вы никогда не задумывались, и не зря: как числа с плавающей запятой отображаются в виде текстовых строк? Это удивительно сложная проблема, но примерно с 1990 года она считается по существу решенной.

До публикации Стила и Уайта Как правильно печатать числа с плавающей запятой, реализации printf и подобные функции рендеринга делали все возможное для рендеринга чисел с плавающей запятой, но их поведение сильно различалось. Например, такое число, как 1,3, может быть воспроизведено как 1,29999999, или если число было помещено в цикл обратной связи, заключающийся в записи и считывании его письменного представления, каждый последующий результат может отдаляться все дальше и дальше от оригинала.

...

В 2010 году Флориан Лойч опубликовал замечательную статью на языке PLDI: вычисляет быстро и точно с помощью целых чисел, что представляет собой самый большой шаг в этой области за 20 лет: он в основном понял, как использовать машинные целые числа для точного рендеринга! Почему я говорю в основном? Потому что, хотя алгоритм Лойча Grisu3 очень быстр, он отказывается примерно от 0,5% чисел, и в этом случае вам придется вернуться к Dragon4 или его производным.

А вот и драконы: успехи в решении проблем, о которых вы даже не подозревали