Вопросы по теме 'fixed-point'

Oracle Floats vs Number
Я вижу противоречивые ссылки в документации Oracles . Есть ли разница между тем, как десятичные дроби хранятся в типах FLOAT и NUMBER в базе данных? Как я помню из C и др., Float имеет ограничения точности, которых нет у int. Например, для...
65681 просмотров
types oracle numbers floating-point fixed-point
schedule 08.03.2023
Как использовать выражение для float?
Я знаю, что это действительно глупый вопрос, но я не знаю, как это сделать в bash: 20 / 30 * 100 Должно быть 66.67 , но expr говорит 0 , потому что не поддерживает float. Какая команда в Linux может заменить expr и выполнить это уравнение?
54571 просмотров
bash rounding floating-point fixed-point
schedule 24.06.2023
Алгоритмы с плавающей запятой в C
Недавно я думал о том, как математика с плавающей запятой работает на компьютерах, и мне трудно понять все технические детали, стоящие за формулами. Мне нужно было бы понять основы сложения, вычитания, умножения, деления и остатка. С ними я смогу...
2147 просмотров
floating-point math fixed-point
schedule 28.05.2022
Умножение/деление с фиксированной точкой для чисел 15,16
Я ищу алгоритм для умножения и деления чисел с фиксированной точкой 15.16. У меня уже есть сложение и вычитание. Это было легко — простое 32-битное сложение и вычитание. С умножением и делением я также могу добавить множество тригонометрических и...
6273 просмотров
fixed-point
schedule 14.12.2022
Как представить -0 в двоичном формате
Этот вопрос касается преобразования числа с плавающей запятой, меньшего, чем abs(1) и отрицательного, в формат 32,32, например: -0,1234. Когда это преобразуется в 32,32, целая часть и дробная часть разделяются на старшие и младшие 32-битные слова...
1691 просмотров
binary fixed-point negative-number
schedule 31.01.2023
Сдвиг бит для арифметики с фиксированной запятой для чисел с плавающей запятой в C
Я написал следующий тестовый код для проверки арифметики с фиксированной запятой и сдвига битов. void main(){ float x = 2; float y = 3; float z = 1; unsigned int * px = (unsigned int *) (& x); unsigned int * py = (unsigned...
6465 просмотров
c floating-point bit-shift fixed-point
schedule 13.02.2024
Представление с фиксированной точкой двойного типа
Я пытаюсь преобразовать тип double в представление фиксированного типа. В зависимости от выбранного ввода мои необработанные значения могут быть, например, 0,00996, 989,15, 1600,25, 89,72 и так далее. Дело в том, что все мои входные значения всегда...
2074 просмотров
c# fixed-point
schedule 15.01.2023
Битовая позиция числа во время компиляции
Я реализую математику с фиксированной точкой во встроенной системе, используя C. Для удобства чтения я указываю знаменатель как степень числа 2: #define Fixed_Point_Base 4096U Однако, когда я конвертирую в математику с фиксированной точкой...
643 просмотров
c embedded c-preprocessor compile-time fixed-point
schedule 15.09.2023
Умножение std_logic_vector с плавающей запятой
У меня есть 32-битный сигнал std_logic_vector, и я хочу умножить его на число с плавающей запятой. e.g signal Input : std_logic_vector (31 downto 0 ); signal number = 0.2 ; signal Output: std_logic_vector (31 downto 0 );...
2496 просмотров
floating-point vhdl fixed-point
schedule 10.12.2023
арифметика с фиксированной точкой в ​​современных системах
Я хотел бы начать с того, что речь идет не об оптимизации, поэтому, пожалуйста, воздержитесь от перетаскивания этой темы по этому пути. Моя цель использования арифметики с фиксированной запятой заключается в том, что я хочу контролировать точность...
542 просмотров
c fixed-point
schedule 02.03.2022
Фиксированная и плавающая точка в Verilog
Я родом из фона VHDL. А в VHDL есть пакеты IEEE для выполнения операций с фиксированной и плавающей запятой. Иногда они не поддаются синтезу, но очень полезны, когда дело доходит до тестирования. Мой вопрос: есть ли у Verilog библиотека для...
878 просмотров
floating-point verilog fixed-point
schedule 07.01.2023
lerp для целых чисел или математики с фиксированной точкой
Есть ли элегантный способ линейной интерполяции с использованием целых чисел? (Для усреднения измерений АЦП в микроконтроллере измерения АЦП являются 12-битными, микроконтроллер отлично работает с 32-битными целыми числами). Коэффициент f находится...
2319 просмотров
math fixed-point
schedule 13.07.2023
Синтезируемые фиксированные/плавающие точки в библиотеке VHDL IEEE
Я создаю проект VHDL (Xilinx ISE для Spartan-6), который потребуется для использования десятичных чисел «реального стиля» либо с фиксированной, либо с плавающей запятой (я надеюсь, что фиксированной точки будет достаточно). Будучи новичком в VHDL,...
5061 просмотров
ieee vhdl ieee-754 fixed-point synthesis
schedule 12.02.2023
Типы чисел с фиксированной точкой в ​​Postgres?
База данных Postgres, которой я управляю, содержит множество столбцов, содержащих числа от 0 до 100, с фиксированным (никогда не более 3, обычно 2) количеством знаков после запятой. Большинство этих чисел группируются вокруг своих соответствующих...
873 просмотров
postgresql fixed-point
schedule 10.06.2023
Какой лучший алгоритм умножения для фиксированной точки, где необходима точность
Я знаю, я знаю, люди, вероятно, скажут «просто переключитесь на плавающую точку», но в настоящее время это не вариант из-за характера проекта, над которым я работаю. Я помогаю писать язык программирования на C ++, и в настоящее время мне сложно...
613 просмотров
c++ algorithm multiplication fixed-point
schedule 20.05.2022
Показать значение фиксированной точки в vivado
Допустим, у меня есть значение с фиксированной точкой в ​​моем VHDL-коде, который определяется как std_logic_vector. Я знаю, что мои последние 4 бита - это десятичные дроби. Когда я использую симулятор, он, конечно, не увидит последние 4 бита как...
1021 просмотров
vivado vhdl fixed-point test-bench
schedule 01.01.2023
Дифференциация различных типов фиксированной точки Qx?
Как вы различаете различные типы Qx с фиксированной точкой в ​​вашем коде? Будет ли приемлемо что-то вроде этого: typedef int32_t q31; typedef int32_t q25; typedef int32_t q23; typedef int32_t q15; а затем (пример использования): q23...
61 просмотров
c signal-processing fixed-point
schedule 24.03.2023
Заполнить QDoubleSpinBox из фиксированной точки
У меня есть некоторые данные, доступные в фиксированной точке 16.16, которые я хотел бы изменить с помощью QDoubleSpinbox. Проблема в том, что всякий раз, когда я конвертирую свою фиксированную точку в двойную, возникает неизбежная проблема с...
142 просмотров
qt floating-point fixed-point
schedule 18.05.2022
Эффективный метод вычисления логарифмической базы 2 числа от 1 до 2.
Я работаю на платформе с фиксированной запятой (арифметика с плавающей запятой не поддерживается). Я представляю любое рациональное число q как минимальное значение q * (1 << precision) . Мне нужен эффективный метод для вычисления базы...
599 просмотров
c optimization performance logarithm fixed-point
schedule 20.02.2024
Двойное приведение Matlab из Uint64
Я перевожу 64-битное число с фиксированной запятой в число с плавающей запятой. Как это сделать в Matlab? Следующий код дает разные результаты. В чем разница между typecast и double(x) temp = 2^32*uint64(MSB) + uint64(LSB); out_0(1, 1) =...
865 просмотров
matlab floating-point fixed-point
schedule 27.01.2024