Вопросы по теме 'floating-point-precision'
80-битная арифметика с плавающей запятой в C/C++
Предположим, что a, b являются _int64 переменными. Необходимо вычислить sqrt((long double)a)*sqrt((long double)b) в высокоточной 80-битной плавающей запятой.
Пример. (__int64)(sqrt((long double)a)*sqrt((long double)a) + 0.5) != a во...
2226 просмотров
schedule
04.07.2022
Межмашинная несогласованность в преобразовании WKT для пространственных типов SQL
Я наблюдаю непоследовательное поведение на разных машинах при преобразовании пространственных типов в общеизвестный текст (WKT) в SQL Server 2008. Похоже, что данные сохраняются одинаково, но обратное преобразование в WKT действует по-разному в...
325 просмотров
schedule
20.07.2023
Сравнение констант с плавающей запятой
При сравнении двойных чисел на равенство нам нужно указать уровень допуска, потому что вычисления с плавающей запятой могут привести к ошибкам. Например:
double x;
double y;
x = f();
y = g();
if (fabs(x-y)<epsilon) {
// they are equal!
}...
1764 просмотров
schedule
17.12.2022
Страдают ли двойники от переполнения?
Возможно ли иметь переполнение (обтекание) с двойным или поплавком? Что произойдет, если максимальное (или минимальное) значение будет достигнуто на оборудовании x86 или x64?
301 просмотров
schedule
26.10.2022
Множественная точность для Visual Studio 2010
Может ли кто-нибудь предложить библиотеку с множественной точностью, которая поставляется с предварительно созданными двоичными файлами Windows. Мне нужно использовать его с существующим проектом Visual Studio 2010 (или где я могу получить готовые...
1009 просмотров
schedule
13.06.2022
Непоследовательное суммирование в C
Когда я запускаю следующую программу:
#include <stdio.h>
#include <math.h>
int main()
{
double sum, increase;
long amount, j;
printf("sum = ");
scanf("%lf", &sum);
printf("increase = ");
scanf("%lf",...
157 просмотров
schedule
02.06.2023
Каков хороший способ округлить значения с двойной точностью до (несколько) более низкой точности?
Моя проблема в том, что я должен использовать стороннюю функцию / алгоритм, который принимает в качестве входных данных массив значений двойной -точности, но, по-видимому, может быть чувствителен к очень небольшим изменениям входных данных. Однако...
3658 просмотров
schedule
28.12.2022
C ++ Как избежать арифметической ошибки с плавающей запятой
Я пишу цикл, который увеличивается с плавающей запятой, но я столкнулся с арифметической проблемой с плавающей запятой, показанной в следующем примере:
for(float value = -2.0; value <= 2.0; value += 0.2)
std::cout << value <<...
25047 просмотров
schedule
18.10.2022
Точность C++ - поведение setprecision
Насколько я понимаю, функция setprecision указывает минимальную точность, но когда я запускаю следующий код, я получаю только 3 числа после запятой:
int main()
{
double a = 123.4567890;
double b = 123.4000000;
std::cout <<...
724 просмотров
schedule
20.06.2022
разная точность с плавающей запятой с использованием random на python 2.6 и python 2.7
Почему существует разная точность при использовании Random.random() в Python 2.6 и Python 2.7
пример:
import random
import sys
rng = random.Random(0)
print sys.version
for i in range(10):
print repr(rng.random())
2.6.6...
549 просмотров
schedule
22.04.2022
В Java, когда число с плавающей запятой равно нулю?
Для каких значений x проверка (x == 0) возвращает истину? Есть ли какой-то запас или тест возвращает true тогда и только тогда, когда значение x = 0?
24313 просмотров
schedule
30.05.2023
C# Math.pow() возвращает бесконечность?
у меня есть проблемы с Math.pow в С#, возвращающем бесконечность, например:
double a=65;
double b=331;
Console.Write(Math.Pow(a,b));
//but return infinty
но калькулятор для моего компьютера не возвращает 65 ^ 331 бесконечность, есть...
2404 просмотров
schedule
04.05.2023
Неверное округление с плавающей запятой
В gcc 4.7.3 моя функция fegetround() возвращает FE_TONEAREST . Согласно справочнику по C++ , это означает округление от нуля. По сути, это означает сохранение последнего бита, который был смещен при настройке точности мантиссы после умножения...
431 просмотров
schedule
12.09.2022
Javascript предотвращает автоматическое округление
Мне было интересно, есть ли способ предотвратить автоматическое округление javascript моих чисел. Я сделал программу для вычисления числа пи, используя ряд Грегори-Лейбница. Он идет только до определенного количества десятичных знаков. Вот мой код:...
4419 просмотров
schedule
22.03.2022
Почему раунд неверен в CCL?
Изучаю Common Lisp 2 месяца, встречаю головоломку, вот код:
CL-USER> (round 33.6)
34
-0.40000153
кто-нибудь объяснит? Спасибо
219 просмотров
schedule
25.04.2022
Вывести __float128 без использования quadmath_snprintf
В моем вопросе об анализе точности float/double в 32 десятичных цифрах , в одном ответе было сказано взглянуть на __float128 .
Я его использовал и компилятор смог его найти, но распечатать не могу, так как компилятор не может найти заголовок...
1978 просмотров
schedule
21.10.2022
простые числа с плавающей запятой теряют точность
Я использую Delphi XE2 Update 3. Существуют проблемы с точностью даже для самых простых чисел с плавающей запятой (например, 3.7 ). Учитывая этот код (32-битное консольное приложение):
program Project1;
{$APPTYPE CONSOLE}
{$R *.res}
uses...
2842 просмотров
schedule
11.06.2022
Точность вычисления чисел с плавающей запятой: деление против умножения
Я наткнулся на эту реализацию векторного / скалярного деления:
public static Vector2 operator /(Vector2 value1, float divider)
{
float factor = 1 / divider;
value1.X *= factor;
value1.Y *= factor;
return value1;
}
Я пробовал...
834 просмотров
schedule
16.03.2023
ошибки округления инверсии матрицы numpy
Я получаю очень странное значение для моей записи (1,1) для моей матрицы BinvA Я просто пытаюсь инвертировать матрицу B и выполнить умножение (B^-1)A.
Я понимаю, что когда я выполняю расчет вручную, мой (1,1) должен быть равен 0, но вместо этого я...
4733 просмотров
schedule
06.05.2024
C++ Builder — это StrToFloat(), то же самое, что и .ToDouble().
Я работаю над проектом XE6, но это может относиться и к другой версии компоновщика.
Я смотрю на имя функции, которое, я думаю, может вводить в заблуждение. Мне любопытно, возвращает ли StrToFloat() float или возвращает double . Я нашел...
5817 просмотров
schedule
18.03.2024
