Вопросы по теме 'floating-accuracy'

php intval() и floor() возвращают слишком низкое значение?
Поскольку тип данных float в PHP неточен, а FLOAT в MySQL занимает больше места, чем INT (и является неточным), я всегда сохраняю цены как INT, умножая их на 100 перед сохранением, чтобы гарантировать, что у нас есть ровно 2 десятичных знака точности....
10527 просмотров
php floating-accuracy rounding-error
schedule 01.03.2023
Почему я не получаю ноль, когда вычитаю из себя одно и то же число с плавающей запятой в Perl?
Возможные дубликаты: Почему плавающий точечная арифметика в C # неточна? Почему ghci говорит, что 1.1 + 1.1 + 1.1› 3.3 верно? #!/usr/bin/perl $l1 =...
2255 просмотров
floating-point perl floating-accuracy
schedule 04.01.2023
Запрос SQLite, где предложение с числами с плавающей запятой терпит неудачу?
Я помещаю поплавок в базу данных SQLite на базе Android, например: private static final String DATABASE_CREATE = "create table " + DATABASE_TABLE + " (" + KEY_ID + " integer primary key autoincrement, "...
7265 просмотров
sqlite where-clause floating-point floating-accuracy
schedule 29.08.2022
Сложение и вычитание при потере значимости с плавающей запятой
При изучении точности в арифметике с плавающей запятой и различных методах ее предотвращения (использование сопряженных чисел, рядов Тейлора и т. д.) в книгах часто упоминается вычитание двух очень похожих чисел или одного большого и одного маленького...
2291 просмотров
precision floating-point floating-accuracy numerical-analysis
schedule 26.09.2022
Почему операции над значениями двойной точности не дают ожидаемых результатов?
System.out.println(2.14656); 2.14656 System.out.println(2.14656%2); 0.14656000000000002 ВТФ?
1292 просмотров
double floating-point floating-accuracy ieee-754
schedule 16.11.2023
отрицательный ноль в питоне
Я обнаружил отрицательный ноль в выводе Python; он создается, например, следующим образом: k = 0.0 print(-k) На выходе будет -0.0 . Однако, когда я сравниваю -k с 0,0 на равенство, получается True. Есть ли разница между 0.0 и -0.0...
33400 просмотров
python floating-point zero floating-accuracy
schedule 02.09.2022
Невоспроизводимость сравнения с плавающей запятой
Я и моя докторская степень. студент столкнулся с проблемой в контексте анализа физических данных, и мне может пригодиться некоторое понимание. У нас есть код, который анализирует данные одного из экспериментов на БАК и дает невоспроизводимые...
709 просмотров
c++ floating-accuracy
schedule 15.03.2022
pyinterval с примером trvial с плавающей запятой, похоже, не работает
Вероятно, здесь есть сотни вопросов об ошибках округления с плавающей запятой, и предполагается, что решением является интервальная арифметика, которая помогает отслеживать их. Поскольку я хотел бы поэкспериментировать с этим, я попытался установить...
210 просмотров
python floating-point intervals floating-accuracy
schedule 28.07.2022
Изменение встроенной в Python функции round() между 2.4 и 2.7
Изменилась ли встроенная функция round() в Python между 2.4 и 2.7? Питон 2.4: Python 2.4.6 (#1, Feb 12 2009, 14:52:44) [GCC 3.4.6 20060404 (Red Hat 3.4.6-8)] on linux2 Type "help", "copyright", "credits" or "license" for more information....
2990 просмотров
python python-2.7 floating-point floating-accuracy python-2.4
schedule 13.11.2022
Деление числа с плавающей запятой на 10
Возможный дубликат: Почему не могут ли десятичные числа быть точно представлены в двоичном формате? Я разрабатываю довольно простой алгоритм использования математики на C ++. И у меня есть переменная с плавающей запятой с именем...
2338 просмотров
c++ floating-point floating-accuracy inexact-arithmetic
schedule 09.09.2022
С# неправильное вычитание? 12,345 - 12 = 0,345000000000001
Я новичок в С#, и я работаю с числами с плавающей запятой. Мне нужно сделать вычитание между этими двумя числами, но это не работает. Я знаю, что это вызвано числом с плавающей запятой, но как я могу это исправить, пожалуйста, и если вы так хороши,...
17527 просмотров
c# numbers subtraction floating-point floating-accuracy
schedule 02.07.2023
Как правильно разделить крошечные числа с двойной точностью без ошибок точности?
Я пытаюсь диагностировать и исправить ошибку, которая сводится к тому, что X/Y дает нестабильный результат, когда X и Y малы: В этом случае и cx, и patharea плавно увеличиваются. Их отношение представляет собой гладкую асимптоту при больших...
1820 просмотров
double floating-point division floating-accuracy actionscript-3
schedule 07.02.2023
Вычисление с плавающей запятой дает разные результаты с float, чем с double
У меня есть следующая строка кода. hero->onBeingHit(ENEMY_ATTACK_POINT * (1.0 - hero->getDefensePercent())); Метод void onBeingHit(int decHP) принимает целое число и обновляет очки здоровья. float getDefensePercent() — это...
4915 просмотров
c++ double floating-point floating-accuracy
schedule 29.04.2023
Почему parseFloat() в JavaScript дает согласованные, но унифицированные результаты?
Предоставляя ответ на вопрос о добавлении метода, который увеличивает значение с плавающей запятой в html input , я наткнулся на то, что я know — это общая проблема с математикой с плавающей запятой IEEE . Это пример (с демо ) того, что я вижу:...
501 просмотров
javascript floating-accuracy
schedule 16.04.2022
Проверка правильности аргументов с плавающей запятой
Я хочу написать класс, представляющий цепь Маркова (назовем его MC ). У него есть конструктор, который принимает матрицу перехода состояний (то есть vector<vector<double>> . Я полагаю, неплохо проверить, действительно ли это матрица...
108 просмотров
c++ constructor floating-point floating-accuracy
schedule 21.12.2022
Почему тип long double переменной производит абсурдный вывод, в то время как тип float и double работает нормально?
Все, что я хочу, чтобы следующая программа делала, это печатала произведение всех положительных чисел меньше 30 (как в экспоненциальной, так и в неэкспоненциальной формах). Он отлично работает, когда переменная product объявлена ​​как float или...
371 просмотров
c double floating-point floating-accuracy long-double
schedule 08.08.2022
MATLAB: команда сохранения не работает
Я пытаюсь сохранить некоторые переменные в разные моменты времени в цикле while, используя команду «сохранить». Он работал в других программах, которые я написал ранее. Это первый раз, когда не сохраняется. Я пробовал много вещей, таких как...
200 просмотров
matlab while-loop save floating-accuracy
schedule 29.01.2023
F# — как сравнивать числа с плавающей запятой
В фа#. Как эффективно сравнивать поплавки на равенство, которые почти равны? Он должен работать и для очень больших, и для очень маленьких значений. Я думаю сначала сравнить экспоненту, а затем мантиссу (мантисса), игнорируя последние 4 бита из 52...
2102 просмотров
f# floating-point floating-accuracy
schedule 16.07.2022
«Украсить» число, округлив ошибочные цифры надлежащим образом.
Я хочу свой торт и съесть его. Я хочу украсить (округлить) числа в максимально возможной степени, не ставя под угрозу точность других вычислений. Я использую двойники в С# (также с некоторыми манипуляциями с преобразованием строк). Вот в чем...
219 просмотров
c# double floating-point calculator floating-accuracy
schedule 13.07.2023
Увеличение значения в цикле дает другое (неправильное) значение?
Я потратил почти весь день, пытаясь выяснить, почему это происходит, у меня был код, который увеличивал число с плавающей запятой, если оно не было целым числом, пока оно не стало целым числом, я запускал его, увеличивая значение на 0,01 и цикл...
230 просмотров
java loops floating-accuracy
schedule 01.02.2023