Вопросы по теме 'single-precision'
большое целое число с плавающей запятой
Я пытаюсь преобразовать большое целое число в 32-битное число с плавающей запятой одинарной точности, но я не могу решить эту проблему, с которой столкнулся. Что, если двоичное представление большого целого числа больше, чем 23-битная мантисса....
69 просмотров
schedule
13.10.2022
вычитание двойной точности из одинарной точности дает мне 0. не то, что я хочу
я пытаюсь изучить ошибку округления, связанную с sin (x), используя Octave. Я получаю эти числа:
>> single(sin(10))
ans = -0.544021129608154
>> sin(10)
ans = -0.544021110889370
>> (single(sin(10))) - (sin(10))
ans = 0...
232 просмотров
schedule
26.06.2022
Как работает преобразование float в double?
double может представлять каждое значение, которое может представлять число с плавающей запятой.
Преобразование float в double просто расширяет мантисса, добавляя 0, и расширяет часть экспоненты, заполняя знаковые биты?
Я проверил некоторые...
123 просмотров
schedule
23.08.2022
Как определить, сколько целых чисел находится в наборе S всех 32-битных значений с плавающей запятой IEEE [дубликаты]
Может ли кто-нибудь объяснить мне, что именно он заявляет? Я знаю, что это в основном означает, что это одинарная точность с 1-битным знаком, 8-битными экспонентами и 23-битной мантиссой. Разве ответ не должен быть просто 2 * 2 ^ 8-2 * 2 ^ 23?...
1536 просмотров
schedule
22.11.2022