Вопросы по теме 'ieee-754'

Двойное форматирование для вывода в C #
Проведение быстрого эксперимента, связанного с Нарушено ли двойное умножение в .NET? и чтением пару статей о форматировании строк C #, я подумал, что это: { double i = 10 * 0.69; Console.WriteLine(i);...
126062 просмотров
c# formatting floating-point ieee-754
schedule 14.04.2022
Что можно и чего нельзя делать для арифметики с плавающей запятой?
Что можно и чего нельзя делать для арифметики с плавающей запятой (IEEE754 на случай путаницы), чтобы обеспечить хорошую числовую стабильность и высокую точность результатов? Я знаю некоторых, например, не вычитать количества одинаковой величины,...
1562 просмотров
c floating-point ieee-754
schedule 21.04.2023
Почему этот цикл никогда не заканчивается?
Возможное дублирование: проблема при сравнении двойных значений в C # Я читал это в другом месте, но действительно забыл ответ, поэтому я спрашиваю здесь снова. Кажется, что этот цикл никогда не закончится, независимо от того,...
1077 просмотров
floating-point ieee-754
schedule 05.08.2022
Гарантируется ли для любого конечного значения с плавающей запятой, что x - x == 0?
Значения с плавающей запятой неточны, поэтому нам редко следует использовать строгое числовое равенство при сравнениях. Например, в Java это печатает false ( как показано на ideone.com ): System.out.println(.1 + .2 == .3); // false...
764 просмотров
precision floating-point language-agnostic ieee-754 signedness
schedule 18.09.2022
Почему операции над значениями двойной точности не дают ожидаемых результатов?
System.out.println(2.14656); 2.14656 System.out.println(2.14656%2); 0.14656000000000002 ВТФ?
1292 просмотров
double floating-point floating-accuracy ieee-754
schedule 16.11.2023
Как получить двоичное представление IEEE 754 числа с плавающей запятой в С#
У меня есть несколько поплавков с одинарной и двойной точностью, которые я хочу записывать и читать из байта []. Есть ли что-нибудь в .Net, которое я могу использовать для преобразования их в 32- и 64-битные представления IEEE 754 и обратно?
15025 просмотров
c# binary floating-point ieee-754
schedule 14.03.2022
Чтение / запись байтов с плавающей запятой в JS
Есть ли способ прочитать байты значения с плавающей запятой в JS? Мне нужно записать необработанное значение FLOAT или DOUBLE в некоторый двоичный формат, который мне нужно создать, так есть ли способ получить побайтовое представление IEEE 754? И,...
22865 просмотров
javascript serialization floating-point math ieee-754
schedule 01.03.2023
MATLAB: преобразование значения uint32 (4 байта) в соответствующую форму с плавающей запятой одинарной точности IEEE
В MATLAB (r2009b) у меня есть переменная uint32, содержащая значение 2147484101. Это число (его 4 байта) было извлечено из цифровой камеры машинного зрения в процессе захвата. Насколько я понимаю, он содержит форму выдержки камеры с одинарной...
13485 просмотров
matlab binary floating-point ieee-754 double-precision
schedule 04.04.2024
Представление IEEE с плавающей запятой
Я создал следующую программу, чтобы найти битовую комбинацию чисел с плавающей запятой. но у меня получилось иначе, чем я рассчитал: #include<stdio.h> int main(void){ float f = 1.234; char *ch; ch = (char *)(&f);...
780 просмотров
c floating-point ieee-754
schedule 28.11.2023
Чтение 32-битных подписанных ieee 754 с плавающей запятой из двоичного файла с помощью python?
У меня есть двоичный файл, который представляет собой простой список подписанных 32-битных чисел с плавающей запятой ieee754. Они ничем не разделены, а просто появляются друг за другом до EOF. Как мне читать из этого файла и правильно...
22778 просмотров
python parsing floating-point binaryfiles ieee-754
schedule 20.04.2023
субнормальная поддержка чисел с плавающей запятой IEEE 754 на устройствах iOS ARM (iPhone 4)
При переносе приложения с Linux x86 на iOS ARM (iPhone 4) я обнаружил разницу в поведении арифметики с плавающей запятой и малых значений. 64-битные числа с плавающей запятой (двойные) меньше, чем [+ / -] 2.2250738585072014E-308 в IEEE 754-1985...
3857 просмотров
ios c arm floating-point ieee-754
schedule 07.02.2022
Поддерживает ли JVM только правильное подмножество необходимых функций IEEE 754?
По следующим ссылкам: http://sonic.net/~jddarcy/Борнео/ http://www.cs.berkeley.edu/~wkahan/JAVAhurt.pdf Java поддерживает только правильное подмножество стандартов IEEE 754. Означает ли это, что это относится ко всем языкам JVM?...
189 просмотров
java jvm ieee-754
schedule 25.06.2022
Как рассчитать значение числа с плавающей запятой для хранения в памяти, используя IEEE 754, 32-битное число с плавающей запятой?
У меня возник следующий вопрос: Вы хотите вычислить значение числа с плавающей запятой для сохранения в памяти, используя IEEE 754, 32-битное число с плавающей запятой. Какое именно значение вы получите от 1011111000100000000000000000000001 ?...
2626 просмотров
floating-point ieee-754
schedule 24.10.2022
Как я могу преобразовать 4 байта, хранящие число с плавающей запятой IEEE 754, в значение с плавающей запятой в C?
Моя программа считывает в 4 байта число с плавающей запятой IEEE 754 из файла. Мне нужно преобразовать эти байты в плавающий тип компилятора C. Другими словами, мне нужна функция с прототипом float IEEE_754_to_float(uint8_t raw_value[4]) для моей...
7260 просмотров
c floating-point ieee-754
schedule 13.11.2023
Особенности округления в JavaScript или IEEE-754?
Я столкнулся с любопытной проблемой в одном из моих модульных тестов, когда я получаю неожиданные результаты округления в JavaScript: (2.005).toFixed(2) // produces "2.00" (2.00501).toFixed(2) // produces "2.01" Первоначально я подозревал,...
1623 просмотров
javascript math ieee-754
schedule 26.10.2022
Точность сравнения с плавающей запятой
Учитывая 3 числа с плавающей запятой IEEE-754 a, b, c, которые не являются +/-INF и не NaN, и a ‹ b, можно ли предположить, что a - c ‹ b - c? Или вы можете привести пример, когда это неправильно?
854 просмотров
c c++ floating-point ieee-754
schedule 25.01.2024
Math.pow с отрицательными числами и нецелыми степенями
Спецификация ECMAScript для Math.pow имеет следующее специфическое правило: Если x ‹0 и x конечно, y конечно и y не является целым числом, результатом будет NaN. ( http://es5.github.com/#x15.8.2.13 ) В результате Math.pow(-8,...
8196 просмотров
javascript floating-point ecmascript-5 ieee-754 ecma262
schedule 14.02.2023
Понимание округления IEEE Floating PointNumber
Я пишу схему округления для сумматора с плавающей запятой. Я не знаю, что происходит для нескольких значений, я пытался читать руководство, но не могу понять. Для кодирования я могу придумать оператор if .. else или case , но есть ли лучший способ...
1142 просмотров
rounding floating-point verilog ieee-754
schedule 14.12.2022
$отобразить число с плавающей запятой в консоли
Я пытаюсь отобразить число с плавающей запятой одинарной точности IEEE 754 во время моделирования. Я использую $display() и пытаюсь напечатать число как в ModelSim, так и в своей консоли (используя Icarus Verilog на Mac). Моя лучшая попытка на...
6889 просмотров
floating-point verilog ieee-754
schedule 25.08.2023
Что должно возвращать frexp(FLT_MAX, )?
Каким должен быть результат следующей программы? #include <stdio.h> #include <math.h> #include <float.h> int main() { int exp; float mant = frexp(FLT_MAX, &exp); printf("frexp(%a) = {%f, %d}\n", FLT_MAX, mant,...
371 просмотров
c floating-point ieee-754
schedule 01.07.2022