При загрузке из Excel число 5.39 преобразуется в 5.38999999 и т.д. Кто-нибудь знает в чём подвох?
Найденные решения
Остальные ответы
Подписаться на ответы
Инфостарт бот
Сортировка:
Древо развёрнутое
Свернуть все
(17)Вот так сюрприз. А я уже думал что всё порешали.
Погодите поторопился. Так Вы считаете что причина не в том "что вещественные числа в экселе - это числа с плавающей запятой, то есть число хранится в форме мантиссы и показателя степени двойки". То что я меняю представление чисел в экселе изменяя формат - я понимаю, но не совсем могу понять, как это может повлиять на мою ситуацию. Вы имеете в виду что можно задать такой формат что можно будет видеть число в экселе изначально в виде 5,3899999?
Погодите поторопился. Так Вы считаете что причина не в том "что вещественные числа в экселе - это числа с плавающей запятой, то есть число хранится в форме мантиссы и показателя степени двойки". То что я меняю представление чисел в экселе изменяя формат - я понимаю, но не совсем могу понять, как это может повлиять на мою ситуацию. Вы имеете в виду что можно задать такой формат что можно будет видеть число в экселе изначально в виде 5,3899999?
(19) Да но при этом в значении excel отображает истинное значение а не .text (смотрите вложение)
А в моём случае excel отображал и имел значение 5.39. А при получении этого числа в 1С я имел значение 5.38999999.
Т.е. как я понял в excel число 5,39 хранится в форме мантиссы и показателя степени двойки ((1,39 / 4) * (2^23)). А при передаче в 1С оно преобразуется обратно, и мы получаем 5,389999866485595703125. Как-то так и да при первом же округлении этого числа даже до 6 знаков после запятой мы тут же получаем 5,39. Возможно я неправильно понял. Поправьте меня пожалуйста если так.
А в моём случае excel отображал и имел значение 5.39. А при получении этого числа в 1С я имел значение 5.38999999.
Т.е. как я понял в excel число 5,39 хранится в форме мантиссы и показателя степени двойки ((1,39 / 4) * (2^23)). А при передаче в 1С оно преобразуется обратно, и мы получаем 5,389999866485595703125. Как-то так и да при первом же округлении этого числа даже до 6 знаков после запятой мы тут же получаем 5,39. Возможно я неправильно понял. Поправьте меня пожалуйста если так.
Прикрепленные файлы:
(21) Послушайте Максим. Если Я чего-то неправильно понял и Вы всё же правда мне хотите помочь то я Вас прошу. Укажи те на то место где я всё же не правильно понял причину данного преобразования при получении числа с excel. Получив сообщение с форматированием от Вас, я не только посмотрел я ещё и попробовал обыграть такую же ситуацию в excel. Но больше убедился в правоте Slava Kron. Т.к. у меня в значении всегда отображалось 5,39 и ничего больше и я говорю сейчас не о ячейке где можно применить форматирование и получить разные варианты а о строке формул где выводится реальное значение ячейки. Это видно в последней картинке. Т.е. я в ячейке имею значение 5,39 и никакого другого. Но передается оно как 5,3899999. И форматирование никак не влияет на это в моём случае. Так куда я должен посмотреть что бы осознать что я не понял Вас правильно? Можете мне пояснить как Остапу ;). Дабы меня опять не унесло в неверном направлении )))
(4)
Ок, давайте разложим 5.39 на мантиссу и порядок для числа одинарной точности (32 бит / Float / single):
Сначала найдём какое максимальное (2^х) умещается в нашем числе. Для 5.39 - это 4.
В мантиссе у нас зашифрован как бы остаток от (5.39 - 4). Это 1.39. Чтобы узнать чему равна мантисса в десятичной с/с, надо наш нормализованный остаток умножить на 2^23. нормализованный остаток = 1,39 / 4.
Мантисса = (1,39 / 4) * (2^23) = 2915041,28. Округлённо = 2915041.
Так вот в памяти хранятся только знак числа, экспонента и мантисса, а когда нужно вернуть его представление, получаем:
2915041 / 2^23 * 4 + 4 = 5,389999866485595703125
Калькулятор в помощь
Другой вопрос, почему, например, 3,39 отображается нормально. Предположу, что после вычисления приближенного значения происходит округление до определенного знака и для 3.9 приближенное значение ближе к оригиналу, чем для 5.39
Ок, давайте разложим 5.39 на мантиссу и порядок для числа одинарной точности (32 бит / Float / single):
Сначала найдём какое максимальное (2^х) умещается в нашем числе. Для 5.39 - это 4.
В мантиссе у нас зашифрован как бы остаток от (5.39 - 4). Это 1.39. Чтобы узнать чему равна мантисса в десятичной с/с, надо наш нормализованный остаток умножить на 2^23. нормализованный остаток = 1,39 / 4.
Мантисса = (1,39 / 4) * (2^23) = 2915041,28. Округлённо = 2915041.
Так вот в памяти хранятся только знак числа, экспонента и мантисса, а когда нужно вернуть его представление, получаем:
2915041 / 2^23 * 4 + 4 = 5,389999866485595703125
Калькулятор в помощь
Другой вопрос, почему, например, 3,39 отображается нормально. Предположу, что после вычисления приближенного значения происходит округление до определенного знака и для 3.9 приближенное значение ближе к оригиналу, чем для 5.39
(8) Спасибо за помощь уже гораздо понятнее. И если пользоваться этим калькулятором то можно заметить что
5,39 = 5.389999866485595703125E0
4,39 = 4.389999866485595703125E0
3,39 = 3.3900001049041748046875E0
хотя у меня 5,39 = 5,38999999999999
Тоже немного не сходится
5,39 = 5.389999866485595703125E0
4,39 = 4.389999866485595703125E0
3,39 = 3.3900001049041748046875E0
хотя у меня 5,39 = 5,38999999999999
Тоже немного не сходится
s = 0
For i = 0 To 100
s = s + 0.01
Debug.Print s
Next 0,79
0,8
0,810000000000001
0,820000000000001
0,830000000000001
0,840000000000001
0,850000000000001
0,860000000000001
0,870000000000001
0,880000000000001
0,890000000000001
0,900000000000001
0,910000000000001
0,920000000000001
0,930000000000001
0,940000000000001
0,950000000000001
0,960000000000001
0,970000000000001
0,980000000000001
0,990000000000001
1
1,01
Показать0,8
0,810000000000001
0,820000000000001
0,830000000000001
0,840000000000001
0,850000000000001
0,860000000000001
0,870000000000001
0,880000000000001
0,890000000000001
0,900000000000001
0,910000000000001
0,920000000000001
0,930000000000001
0,940000000000001
0,950000000000001
0,960000000000001
0,970000000000001
0,980000000000001
0,990000000000001
1
1,01
К этому надо привыкнуть или использовать языки программирования с более точной математикой.
(13)Мне правда интересно как так? Колонка числом и была, только количество знаков после запятой не указывал. Сначала поставил 5 знаков после запятой и получил внимание 5,39000. Попробовал и 2 знака тоже 5,39. Хотя UsedRange.Cells(row,7).Value = 5.38999999999999. Результат округления. Если ставить 15 знаков после запятой то 5.38999999999999 )))
Для получения уведомлений об ответах подключите телеграм бот:
Инфостарт бот