Warning: Cannot use a scalar value as an array in /home/admin/public_html/forum/include/fm.class.php on line 757
Warning: Invalid argument supplied for foreach() in /home/admin/public_html/forum/include/fm.class.php on line 770
Warning: Invalid argument supplied for foreach() in /home/admin/public_html/forum/topic.php on line 737 Форумы портала PHP.SU :: ошибки в простых математических вычислениях
ну вот откуда взялось 0.120000000001 ведь должно быть 0.12 ???
в общем может у меня денвер глючит (на это вся надежда)
но если нет то как это можно избежать?
JustUserR
Отправлено: 12 Декабря, 2010 - 19:25:59
Активный участник
Покинул форум
Сообщений всего: 8715
Дата рег-ции: Июнь 2009
Помог: 17 раз(а)
DlTA пишет:
Ну вот откуда взялось 0.120000000001 ведь должно быть 0.12 ???
Описанный вами результат осуществление операции получения дробного остатка для заданных чисел информационого типа с плавающей точкой одиночной точности - является следствием неустранимой погрешности обеспечиваеомй хранением числового элемента в конечной ячейке памяти - для устраненя данного эффекта необходимо прозводить выбор величины EPS представляющей предельную допустимую точность расчета
Реальноая величина EPS для фиксированного формата представления данных с плавающей точкой может выражаться как число с минимальной мантиссой и порядком - в частности представление EPS-величины float-числа со смещенной характеристикой может быть указано следующим образом 0 00000000 00000000000000000000001 - в данном случае величина порядка является смещенной на величину 127 для обеспечения функционирования алгоримта приведения порядков с исключиельно положительными величинами в прямом коде
----- Сделать можно все что угодно - нужно только старание, терпение и хороший поисковик
Безлимитный web-хостинг от 15 рублей за 40 МБ дискового пространства - http://ihost[dot]oks71[dot]ru/
Все гости форума могут просматривать этот раздел. Только зарегистрированные пользователи могут создавать новые темы в этом разделе. Только зарегистрированные пользователи могут отвечать на сообщения в этом разделе.