умножение по float/double константа, тест:
(калибровка на показания на честотомер)
Код за потвърждение:
uint32_t x = 1000000019;
x *= 0.99995054110188271487660581812017; // 999950560
x = 1000000019;
x *= 0.99995054110188271487660581812017f; // 999950528
x = 1000000019;
x *= (double)0.99995054110188271487660581812017; // 999950560
// calculator - 999950560,10094299581237740077551
По подразбиране константа с десетична точка е в double
PS. за теста оптимизацията е изключена, иначе дебъгерът направо скача на последното изчисление.
Влез
Регистрация
Въпроси/Отговори
Търсене
.