Вопросы по теме 'single-precision'

большое целое число с плавающей запятой
Я пытаюсь преобразовать большое целое число в 32-битное число с плавающей запятой одинарной точности, но я не могу решить эту проблему, с которой столкнулся. Что, если двоичное представление большого целого числа больше, чем 23-битная мантисса....
69 просмотров

вычитание двойной точности из одинарной точности дает мне 0. не то, что я хочу
я пытаюсь изучить ошибку округления, связанную с sin (x), используя Octave. Я получаю эти числа: >> single(sin(10)) ans = -0.544021129608154 >> sin(10) ans = -0.544021110889370 >> (single(sin(10))) - (sin(10)) ans = 0...
232 просмотров
schedule 26.06.2022

Как работает преобразование float в double?
double может представлять каждое значение, которое может представлять число с плавающей запятой. Преобразование float в double просто расширяет мантисса, добавляя 0, и расширяет часть экспоненты, заполняя знаковые биты? Я проверил некоторые...
123 просмотров

Как определить, сколько целых чисел находится в наборе S всех 32-битных значений с плавающей запятой IEEE [дубликаты]
Может ли кто-нибудь объяснить мне, что именно он заявляет? Я знаю, что это в основном означает, что это одинарная точность с 1-битным знаком, 8-битными экспонентами и 23-битной мантиссой. Разве ответ не должен быть просто 2 * 2 ^ 8-2 * 2 ^ 23?...
1536 просмотров