Здравсвуйте,
При вычисления выражения в запросе, получается разный результат, не могу понять почему, вот запрос:

ВЫБРАТЬ
    Док.Сумма / (Док.Количество * Док.Коэффициент / Док.Номенклатура.ЕдиницаХраненияОстатков.Коэффициент) * 1 * &Курс / &Кратность КАК Сумма,
    Док.Сумма / (Док.Количество * Док.Коэффициент / Док.Номенклатура.ЕдиницаХраненияОстатков.Коэффициент) * 1 * &Курс КАК Поле1,
    Док.Сумма * &Курс КАК Поле2
ИЗ
    (ВЫБРАТЬ
        Реализация.Номенклатура КАК Номенклатура,
        Реализация.Коэффициент КАК Коэффициент,
        СУММА(Реализация.Количество) КАК Количество,
        СУММА(Реализация.Сумма) КАК Сумма
    ИЗ
        Документ.РеализацияТоваровУслуг.Товары КАК Реализация
    ГДЕ
        Реализация.Ссылка = &ДокументСсылка
    
    СГРУППИРОВАТЬ ПО
        Реализация.Номенклатура,
        Реализация.Коэффициент) КАК Док


Результат:

Сумма        Поле1        Поле2
554,855      554,85500001     554,855000007
554,855      554,85500001     554,855000007


Исходные данные:
Курс 36,029545455
Кратность 1,000000000
Док.Сумма = 15,4
Док.Количество=Док.Коэффициент=Док.Номенклатура.ЕдиницаХраненияОстатков.Коэффициент=1

Платформа 8.3.5.1486
Конфа УТ 103.
База серверная ms sql

есть при вычислениях числе с плавающей запятой подобные явления, связаны с переводом из двоичной в 10тичную систему счисления

И не нужно считать стружки от копеек )

(3) Что и до какого знака округлять чтобы избежать подобной неодназначности?

(0) Компьютеры считают не точно. Вы об этом не знали?

(5) Не точно или м.б. получен разное значений одного и того же выражения?

Курс 36,029545455

какой-то запредельно точный

(6) Может быть. Если считать по-разному, то и результат приближенных вычислений будет разный. Чего тут удивительного?

надо смотреть план запроса SQL
врзможно движок 1С приводит результаты к разной точности NUMERIC

кстати 554,855000007 точное значение

(7) В типовой УТ 10.3 есть такая строчка

КурсОплаты                 = ?(Выборка.СуммаВзаиморасчетов = 0, 0, Выборка.СуммаРегл/Выборка.СуммаВзаиморасчетов);

Далее этот курс без округления передается в запрос. Используется для печати т12

база какая?

(8) Ок допустим не удивительно, вопрос, как уйти от недоназначности

(11)

Платформа 8.3.5.1486
Конфа УТ 103.
База серверная ms sql

(12) Округлять.

http://habrahabr.ru/post/205938/

оберни все выражения в ВЫРАЗИТЬ(... КАК ЧИСЛО(18,Точность))

(14) До какого знака, и что

(17) Точность = 2 . Округляй финальный результат.

(17) До любого, результат.

(18) А почему именно 2?

(20) потому что деньги в РФ принято округлять до копеек

(21) Может у него все поля цена/сумма в базе имеют точность 10  знаков. %)

У меня задача посчитать погрешность округления при по строчном вычислении сумм в накладной

это вы себестоимость одного шурупа при комплектации не считали...

(24) Думается мне , тут такой задачи и близко не стоит.

(23) А в накладной сколько знаков точность? С чем сравнивать собрался?!

(25) Вопрос же не про копейки. Почему решили что при окгруглении до 2-х знаков результат в общем случае будет одинаковый, а при округлении до 9 знаков разный?

(16) при если все выражени обернуть в ВЫРАЗИТЬ( как ЧИСЛО(18, 9)) - результат такой же как в (0)

(27) внимательно прочитай (15)

(26)(27)
Короче , тебе заняться нечем , да?

точность 18 прокатывает при двух операндах

(28) пошел читать

тебе нужно не каждый в 18 приводить, а вложенно, типа Выразить(Выразить(Выразить(аб как число(18,8))в как число(18,8))...)

(26) Приближенные вычисления производятся с определенной точностью. Эта точность практически (!) всегда больше двух знаков.

(32) Ок, спасибо, буду пробовать и осмысливать статью. А на файловой интересно базе, исходя из (15) такого быть не должно?

(33) точность результата зависит от точности исходных данных. У ТС поле Сумма округлена до 3х знаков, значит и в результате мы можем доверять только 3м знакам после запятой, остальные цифры случайные, мусор. У ТС так и есть Поле1 = Поле2 = 554,855

(35) это не совсем так, при умножении точность результата равна сумме точностей множителей

интересно, эта особенность видимо сильно зависит от СУБД и не является универсальной

(35) Поле сумма не округлена до 3-х знаков. Тип реквзита сумма РТиУ  число 15.2

(36) Берем пример:  2.5 * 2.5 = 6.25

так так числа приближенные, с точностью 0.1, Значит в реальности они могут принимать любые значения от 2.45 до 2.55. То есть произведение будет в диапазоне 2.45*2.45 и 2.55*2.55.

получаем 6.0025 <= Результат <= 6.5025

то есть точность вычисления (6.5 - 6) / 2 = 0,25

(38) значит вы и третье цифре не можете доверять. ОТвет тогда 554,86

(0) а "* 1 * " в выражении - это какая-то личная фишка?

(41) ТС затейник тот еще.