PHP.SU

Программирование на PHP, MySQL и другие веб-технологии

PHP.SU Портал

Главная

Помощь

Поиск

Поиск Яндекс Вакансии

Пользователи

Здравствуйте, Гость

( Вход · Регистрация · Правила форума )

Забыли пароль?

floor и ceil

Форумы портала PHP.SU » PHP » SQL и Архитектура БД (Модератор: SAD)

Страниц (1): [1]

Без описания

Поиск в теме | Версия для печати

SAD	Отправлено: 06 Августа, 2013 - 14:34:21
Постоянный участник Покинул форум Сообщений всего: 2508 Дата рег-ции: Май 2009 Откуда: Днепропетровск, Украина Помог: 75 раз(а)	Есть проблемка с дробными значениями чисел, хранящимися в БД. БД firebird - что не суть - то и важно. Есть поле в табличке с типом double precision. Допустим, я записал в поле значение 38.95. Потом делаю некоторые необходимые манипуляции с этим числом. К примеру: ceil(38.95 * 100). В итоге 3896 =) Почему так происходит, я думаю нет смысла объяснять, но все же. Число, к которому применяется функция ceil имеет уже вид примерно 3895.0000...001. Вот как это дело полечить?)

EuGen	Отправлено: 06 Августа, 2013 - 14:42:59
Профессионал Покинул форум Сообщений всего: 9095 Дата рег-ции: Июнь 2007 Откуда: Berlin Помог: 707 раз(а)	Самое простое - отталкиваться от базовой точности чисел с плавающей точкой на Вашей системе. Приведу пример для положительных чисел: PHP: скопировать код в буфер обмена $fData = 3895 + 1E-12; $fDelta= 1E-12; var_dump($fData, min(ceil($fData), ceil($fData-$fDelta))); ----- Есть в мире две бесконечные вещи - это Вселенная и человеческая глупость. Но насчет первой .. я не уверен.

SAD	Отправлено: 06 Августа, 2013 - 17:09:48
Постоянный участник Покинул форум Сообщений всего: 2508 Дата рег-ции: Май 2009 Откуда: Днепропетровск, Украина Помог: 75 раз(а)	Опять же поправочка. $fData = 3895 + 1E-12; на самом деле 3895.0000...001 + 1E-12

EuGen	Отправлено: 06 Августа, 2013 - 17:11:43
Профессионал Покинул форум Сообщений всего: 9095 Дата рег-ции: Июнь 2007 Откуда: Berlin Помог: 707 раз(а)	Поскольку речь идёт о ceil положительного числа, то нужно делать вычитание, а не сложение (см. пример выше). В моём примере $fData - это как раз-таки эмуляция .00000..1 (то есть второй раз прибавлять ничего не нужно) ----- Есть в мире две бесконечные вещи - это Вселенная и человеческая глупость. Но насчет первой .. я не уверен.

SAD	Отправлено: 07 Августа, 2013 - 10:06:29
Постоянный участник Покинул форум Сообщений всего: 2508 Дата рег-ции: Май 2009 Откуда: Днепропетровск, Украина Помог: 75 раз(а)	А если число имеет вид 3894.9999999999999a ~ 3895 как показывает практика, вместо a может быть любое число. И нужно взять floor и в итоге должно быть 3895.

EuGen	Отправлено: 07 Августа, 2013 - 10:15:35
Профессионал Покинул форум Сообщений всего: 9095 Дата рег-ции: Июнь 2007 Откуда: Berlin Помог: 707 раз(а)	SAD Очевидно тогда нужно понимать, не является ли текущее вещественное число на самом деле целым. Сделать это можно так: PHP: скопировать код в буфер обмена function getFloatInt($fData, $fPrecision = 1E-12) { return abs((int)$fData - $fData)<$fPrecision?(int)$fData:$fData; } $fGt = 100 + 1E-13; $fLt = 100 - 1E-13; var_dump(getFloatInt($fGt), getFloatInt($fLt)); Проблема с упомянутым a решается выбором соответствующей точности ($fPrecision) ----- Есть в мире две бесконечные вещи - это Вселенная и человеческая глупость. Но насчет первой .. я не уверен.

SAD	Отправлено: 07 Августа, 2013 - 10:19:52
Постоянный участник Покинул форум Сообщений всего: 2508 Дата рег-ции: Май 2009 Откуда: Днепропетровск, Украина Помог: 75 раз(а)	выбор точности зависит от того под windows ли я сижу или под unix подобными? тем более эти действия будут происходить в процедуре БД firebird.

EuGen	Отправлено: 07 Августа, 2013 - 10:23:28
Профессионал Покинул форум Сообщений всего: 9095 Дата рег-ции: Июнь 2007 Откуда: Berlin Помог: 707 раз(а)	SAD Зависит от точности представления чисел с плавающей точкой в целевой системе. В Firebird это, если я не ошибаюсь, стандартная точность 1E-14 (то есть следует выбрать 1E-13 в качестве точности). ----- Есть в мире две бесконечные вещи - это Вселенная и человеческая глупость. Но насчет первой .. я не уверен.

SAD	Отправлено: 07 Августа, 2013 - 10:25:49
Постоянный участник Покинул форум Сообщений всего: 2508 Дата рег-ции: Май 2009 Откуда: Днепропетровск, Украина Помог: 75 раз(а)	EuGen, спасибо большое за помощь. Буду колдовать, но аккуратно. А то работа с деньгами =)

EuGen	Отправлено: 07 Августа, 2013 - 10:27:08
Профессионал Покинул форум Сообщений всего: 9095 Дата рег-ции: Июнь 2007 Откуда: Berlin Помог: 707 раз(а)	Работа с деньгами? Использовать строго тип DECIMAL ----- Есть в мире две бесконечные вещи - это Вселенная и человеческая глупость. Но насчет первой .. я не уверен.

SAD	Отправлено: 07 Августа, 2013 - 10:30:20
Постоянный участник Покинул форум Сообщений всего: 2508 Дата рег-ции: Май 2009 Откуда: Днепропетровск, Украина Помог: 75 раз(а)	Знаю, что нужно. Но в наследие досталось double precision и ничего с этим уже нельзя сделать. Разве что с нуля все переписать. А это огогогогого.... даже думать страшно. (Добавление) Коллега писал кассу для магазина: намучался с 1 копейкой, пока не пришел к типу decimal.

Поиск в теме | Версия для печати

Страниц (1): [1]

Сейчас эту тему просматривают: 0 (гостей: 0, зарегистрированных: 0)

« SQL и Архитектура БД »

Все гости форума могут просматривать этот раздел.
Только зарегистрированные пользователи могут создавать новые темы в этом разделе.
Только зарегистрированные пользователи могут отвечать на сообщения в этом разделе.