Правила записи чисел по СТ СЭВ 543 - 77

1. Значащие цифры данного числа - все цифры от первой слева, не равной нулю, до последней справа. При этом нули, следующие из множителя 10, не учитывают.

Примеры:

а) Число 12,0 имеет три значащие цифры.

б) Число 30 имеет две значащие цифры.

в) Число 120 . 10 имеет три значащие цифры.

г) 0,514 . 10 имеет три значащие цифры.

д) 0,0056 имеет две значащие цифры.

2. Если необходимо указать, что число является точным, после числа указывают слово "точно" или последнюю значащую цифру печатают жирным шрифтом. Например, в печатном тексте: 1 кВт . ч = 3600 Дж (точно).

3. Различают записи приближенных чисел по количеству значащих цифр.

Примеры.

а) Различают числа 2,4 и 2,40. Запись 2,4 означает, что верны только целые и десятые доли, истинное значение числа может быть, например, 2,43 и 2,38. Запись 2,40 означает, что верны и сотые доли: истинное значение числа может быть 2,403 и 2,398, но не 2,41 и не 2,382.

б) Запись 382 означает, что все цифры верны: если за последнюю цифру ручаться нельзя, то число должно быть записано 3,8 . 10 .

в) Если в числе 4720 верны лишь две первые цифры, оно должно быть быть записано 47 * 10 или 4,7 * 10 .

4. Число, для которого указывают допустимое отклонение, должно иметь последнюю значащую цифру того же разряда, как и последняя значащая цифра отклонения.

Примеры.

а) Правильно: 17,0 + 0,2. Неправильно: 17 + 0,2 или 17,00 + 0,2.

б) Правильно: 12,13 + 0,17. Неправильно: 12,13 + 0,2.

в) Правильно: 46,40 + 0,15. Неправильно: 46,4 + 0,15 или 46,402 + 0,15.

5. Числовые значения величины и её погрешности (отклонения) целесообразно записывать с указанием одной и той же единицы величины.

Например: (80,555 + 0,002) кг.

6. Интервалы между числовыми значениями величин целесообразно записывать:

от 60 до 100, свыше 120 до 150.

Правила округления чисел по СТ СЭВ 543 - 77

1. Округление числа представляет собой отбрасывание значащих цифр справа до определенного разряда с возможным изменением цифры этого разряда.

2. В случае, если первая из отбрасываемых цифр (считая слева направо) менее 5, то последнюю сохраняемую цифру не меняют.

Пример: Округление числа 12,23 до трех значащих цифр дает 12,2.

3. В случае, если первая из отбрасываемых цифр (считая слева направо) равна 5, то последнюю сохраняемую цифру увеличивают на единицу.

Пример: Округление числа 0,145 до двух цифр дает 0,15.

Примечание. В тех случаях, когда следует учитывать результаты предыдущих округлений, поступают следующим образом.

Если отбрасываемая цифра получена в результате округления в меньшую сторону, то последнюю оставшуюся цифру увеличивают на единицу (с переходом при необходимости в следующие разряды).

Пример: Округление числа 0,25 (полученного в результате предыдущего округления числа 0,252) дает 0,3 .

4. В случае, если первая из отбрасываемых цифр (считая слева направо) более 5, то последнюю сохраняемую цифру увеличивают на единицу.

Пример: Округление числа 0,156 до двух значащих цифр дает 0,16.

1. Округление выполняют сразу до желаемого количества значащих цифр, а не по этапам.

Пример: Округление числа 565,46 до трех значащих цифр дает 565.

6. Целые числа округляют по тем же правилам , что и дробные.

3

Пример: Округление числа 23456 до двух значащих цифр дает 23* 10 .

Из книги Л.И. Любимов, И.Д. Форсилова, Е.З. Шапиро

«Поверка средств электрических измерений. Справочная книга».

Ленинград, Энергоатомиздат, Ленинградское отделение, 1987 год

стр. 47 ... 2.7. Правила округления и записи результатов измерений

Погрешность результата измерений позволяет определить те цифры результата, которые являются достоверными. Нецелесообразно удерживать в выражении для измеренного значения физической величины большое число цифр, т.к. цифры младших разрядов могут оказаться недостоверными.

Существуют определенные правила округления.

1. В выражении погрешности удерживается не более двух значащих цифр, причем последняя цифра обычно округляется до нуля или пяти. Две цифры следует обязательно удерживать в том случае, когда цифра старшего разряда менее 3.

2 . Числовое значение результата измерения должно оканчиваться цифрой того же разряда, что и значение погрешности.

Пример. 235,732 + 0,15 округляется до 235,73 + 0,15, но не до 235,7 + 0,15.

При промежуточных вычислениях целесообразно, чтобы используемые числа содержали на одну значащую цифру больше, чем будет в окончательном результате. Это позволяет уменьшить погрешность от округления.

3. Если первая из отбрасываемых цифр (считая слева направо) меньше пяти, то остающиеся цифры не меняются.

Пример.442,749 + 0,4 округляется до 442,7 + 0,4.

4. Если первая из отбрасываемых цифр больше или равна пяти, то последняя сохраняемая цифра увеличивается на единицу.

Пример.37,268 + 0,5 округляется до 37,3 + 0,5; 37,253 + 0,5 округляется до 37,3 + 0,5.

5. Округление следует выполнять сразу до желаемого числа значащих цифр, поэтапное округление может привести к ошибкам.

Пример. Поэтапное округление результата измерения 220,46 + 4 дает на первом этапе 220,5 + 4 и на втором 221 + 4, в то время как правильный результат округления 220 + 4.

Особенно внимательно нужно относиться к записи результата измерения без указания погрешности (что в общем случае крайне нежелательно). В этом случае в записываемом числе оставляются только те цифры, за достоверность которых можно ручаться, т.е. все значащие цифры записанного числа должны быть достоверными. Значащими цифрами числа считаются все цифры от первой слева, не равной нулю, до последней записанной справа цифры, при этом нули, записанные в виде множителя 10 в степени п, не учитываются. Поэтому записи 2,4 х 10 В в степени 3 и 2400 В не являются тождественными. Первая запись означает, что верны цифры тысяч и сотен вольт и истинное значение может быть, например, 2,42 или 2,38 кВ. Запись 2400 В означает, что верны и единицы вольт, истинное значение может быть 2400,2 или 2390,8 В, но не 2420 или 2380 В.

Из книги П.В. Новицкий и И.А. Зограф

"Оценка погрешностей результатов измерений"

Ленинград, Энергоатомиздат, Ленинградское отделение, 1991 год

стр. 25 1 - 4. ПРАВИЛА ОКРУГЛЕНИЯ ЗНАЧЕНИЙ ПОГРЕШНОСТИ И РЕЗУЛЬТАТА ИЗМЕРЕНИЙ

Рассчитывая значения погрешности, особенно при пользовании электронным калькулятором, значения погрешностей получают с большим числом знаков. Однако исходными данными для расчета являются нормируемые значения погрешности средств измерения, которые указываются всего с одной или двумя значащими цифрами. Вследствие этого и в окончательном значении рассчитанной погрешности должны быть оставлены только первые одна - две значащие цифры. При этом приходится учитывать следующее. Если полученное число начинается с цифр 1 или 2, то отбрасывание второго знака приводит к очень большой ошибке (до 30 - 50 %), что недопустимо. Если же полученное число начинается, например, с цифры 9, то сохранение второго знака, т. е. указание погрешности, например, 0,94 вместо 0,9, является дезинформацией, так как исходные данные не обеспечивают такой точности.

Исходя из этого на практике установилось такое правило: если полученное число начинается с цифры, равной или большей 3, то в нем сохраняется лишь один знак; если же оно начинается с цифр, меньших 3, т. е. с цифр 1 и 2, то в нем сохраняют два знака. В соответствии с этим правилом установлены и нормируемые значения погрешностей средств измерений: в числах 1,5 и 2,5 % указываются два знака, но в числах 0,5; 4; 6 % указывается

лишь один знак.

В итоге можно сформулировать три правила округления рассчитанного значения погрешности и полученного экспериментального результата измерения.

1 . Погрешность результата измерения указывается двумя значащими цифрами, если первая из них равна 1 или 2, и одной, - если первая есть 3 и более.

2 . Результат измерения округляется до того же десятичного разряда, которым оканчивается округленное значение абсолютной погрешности.

3 . Округление производится лишь в окончательном ответе, а все предварительные вычисления проводят с одним - двумя лишними знаками.

Пример . На вольтметре класса точности 2,5 с пределом измерений 300 В был получен отсчет измеряемого напряжения Х = 267,5 В.

Расчет погрешности удобнее вести в следующем порядке: сперва необходимо найти абсолютную погрешность, а затем - относительную. Абсолютная погрешность /\ (Х) = jo Xк /100; при jo = 2,5 % и Х к = 300 В это даёт /\ (Х) = 2,5 х 300 / 100 = 7,5 В ~ 8 В; относительная

jo = /\ o x 100 / X = 7,5 x 100 / 267,5 = 2,81 % ~ 2,8 % .

Так как первая значащая цифра значения абсолютной погрешности (7,5 В) больше трех, то это значение должно быть округлено по обычным правилам округления до 8 В, но в значении относительной погрешности (2,81 %) первая значащая цифра меньше 3, поэтому здесь должны быть сохранены в ответе два десятичных разряда и указано j (x) = 2,8 %. Полученное значение Х = 267,5 В должно быть округлено до того же десятичного разряда, которым оканчивается округленное значение абсолютной погрешности , т. е. до целых единиц вольт.

Таким образом, в окончательном ответе должно быть сообщено: "Измерение произведено с относительной погрешностью j (x) = 2,8 % . Измеренное напряжение Х = (268 + 8) В или Х = 268 В + 8 В.

При этом более наглядно указать пределы интервала неопределенности измеренной величины в виде Х = (260 - 276) В или 260 В < X < 276 В.

Наряду с изложенными правилами округления значений погрешностей результатов измерения иногда предлагаются более обоснованные, но и более сложные правила. Недостаток изложенных правил состоит в том, что относительная погрешность от округления изменяется скачком при переходе, например, от числа 0,29, когда она составляет (0,30 - 0,29) / 0,30 = 3 %, к числу 0,3, когда она будет (0,4 - 0,3) / 0,3 = 30 %. Для устранения столь резкого скачка относительной погрешности округления предлагается каждую декаду возможных значений округляемой погрешности делить на три части: от 0,1 до 0,2, от 0,2 до

0,5 и от 0,5 до 1,0, и в каждой из этих частей использовать свой шаг округления, соответственно равный 0,02, 0,05 и 0,1. Тогда ряд разрешенных к употреблению округленных значений погрешностей получает вид: 0,10 - 0,12 - 0,14 - 0,16 - 0,18 - 0,20 - 0,25 - 0,30 - 0,35 - 0,40 - 0,45 - 0,5 - 0,6 - 0,7 - 0,8 - 0,9 - 1,0. Бесспорное преимущество такого ряда состоит в том, что погрешность от округления на границах участков изменяется лишь от 5 до 10 % . Однако при использовании такого правила округления погрешности последние цифры результата, оставляемые после округления, также должны соответствовать приведенному ряду.

Из книги В.А.Кузнецова и Г.В.Ялунина " МЕТРОЛОГИЯ

теоретические, прикладные и законодательные основы "

Москва, Изд - во стандартов, 1998 г.

стр. 215 7.6 Рекомендуемые правила по округлению результатов измерений

Результаты измерений следует округлять по сложившимся правилам. В основе этих правил лежит следующее положение: числовое значение результата измерений представляется так, чтобы оно оканчивалось десятичным знаком того же разряда, какой имеет погрешность этого результата.

Правила округления результата измерений для случаев обычных измерений, не связанных с необходимостью получения высокоточных результатов:

1) погрешность результата измерений представляется с одной или двумя значащими цифрами. Две значащие цифры приводятся в случае выполнения точных измерений;

2) результат измерений округляется так, чтобы он оканчивался цифрой того же разряда, что и значение погрешности. Если числовое значение результата измерения представляется десятичной дробью, оканчивающейся нулями, то нули отбрасываются только до того разряда, который соответствует разряду числового значения погрешности;

3) если цифра старшего из отбрасываемых разрядов меньше 5, то остающиеся цифры в

числе не изменяют. Если эта цифра равна или больше 5, то последнюю оставляемую цифру увеличивают на единицу. Лишние цифры в целых числах заменяют нулями, а в десятичных дробях отбрасывают. Например, числовое значение результата измерения составляет 25,458 при погрешности результата, выраженной пределами + 0 ,02; округление результата будет 25,46. Если пределы погрешности имеют + 0,002, то числовое значение результата сохраняется полностью. Числовое значение результата измерений 105553 получено с погрешностью + 0,0005. В нем сохраняются четыре значащие цифры и округление даст число 105600; если числовое значение результата 105,553, то при тех же условиях округление дает число 105,6;

4) если отбрасываемая цифра равна пяти, а следующие за ней цифры неизвестны (отсутствуют) или нули, то последнюю сохраняемую цифру числа не изменяют, если она четная, и увеличивают на единицу, если она нечетная. Число 105,5 при сохранении трех значащих цифр округляют до 106;

5) правила, изложенные в п.1...4, применяются только при округлении окончательных результатов. Все промежуточные результаты целесообразно представлять тем числом разрядов, которые удается получить

5. Классы точности средств измерений.

Что означает класс точности измерительного прибора

Класс точности измерительного прибора — это обобщенная характеристика, определяемая пределами допускаемых основных и дополнительных погрешностей, а также другими свойствами, влияющими на точность, значения которых установлены в стандартах на отдельные виды средств измерений. Класс точности средств измерений характеризует их свойства в отношении точности, но не является непосредственным показателем точности измерений, выполняемых при помощи этих средств. Для того чтобы заранее оценить погрешность, которую внесет данное средство измерений в результат, пользуютсянормированными значениями погрешности. Под ними понимают предельные для данного типа средства измерений погрешности. Погрешности отдельных измерительных приборов данного типа могут быть различными, иметь отличающиеся друг от друга систематические и случайные составляющие, но в целом погрешность данного измерительного прибора не должна превосходить нормированного значения. Границы основной погрешности и коэффициентов влияния заносят в паспорт каждого измерительного прибора. Основные способы нормирования допускаемых погрешностей и обозначения классов точности средств измерений установлены ГОСТ. На шкале измерительного прибора маркируют значение класса точности измерительного прибора в виде числа, указывающего нормированное значение погрешности. Выраженное в процентах, оно может иметь значения 6; 4; 2,5; 1,5; 1,0; 0,5; 0,2; 0,1; 0,05; 0,02; 0,01; 0,005; 0,002; 0,001 и т. д. Если обозначаемое на шкале значение класса точности обведено кружком, например 1,5, это означает, что погрешность чувствительностиδs=1,5%. Так нормируют погрешности масштабных преобразователей (делителей напряжения, измерительных шунтов, измерительных трансформаторов тока и напряжения и т. п.). Это означает, что для данного измерительного прибора погрешность чувствительности δs=dx/x — постоянная величина при любом значении х. Граница относительной погрешности δ(х) постоянна и при любом значении х просто равна значению δs, а абсолютная погрешность результата измерений определяется какdx=δsx Для таких измерительных приборов всегда указывают границы рабочего диапазона, в которых такая оценка справедлива. Если на шкале измерительного прибора цифра класса точности не подчеркнута, например 0,5, это означает, что прибор нормируется приведенной погрешностью нуля δо=0,5 %. У таких приборов для любых значений х границаабсолютной погрешности нуля dx=dо=const, а δо=dо/хн. При равномерной или степенной шкале измерительного прибора и нулевой отметке на краю шкалы или вне ее за хн принимают верхний предел диапазона измерений. Если нулевая отметка находится посредине шкалы, то хн равно протяженности диапазона измерений, например для миллиамперметра со шкалой от -3 до +3 мА, хн= 3 - (-3)=6 А. Однако будет грубейшей ошибкой полагать, что амперметр класса точности 0,5 обеспечивает во всем диапазоне измерений погрешность результатов измерений ±0,5 %. Значение погрешности δо увеличивается обратно пропорционально х, то есть относительная погрешность δ(х) равна классу точности измерительного прибора лишь на последней отметке шкалы (при х = хк). При х = 0,1хк она в 10 раз больше класса точности. При приближении х к нулю δ(х) стремится к бесконечности, то есть такими приборами делать измерения в начальной части шкалы недопустимо. На измерительных приборах с резко неравномерной шкалой (например на омметрах) класс точности указывают в долях от длины шкалы и обозначают как 1,5 с обозначением ниже цифр знака "угол". Если обозначение класса точности на шкале измерительного прибора дано в виде дроби (например 0,02/0,01), это указывает на то, что приведенная погрешность в конце диапазона измерений δпрк = ±0,02 %, а в нуле диапазонаδпрк = -0,01 %. К таким измерительным приборам относятся высокоточные цифровые вольтметры, потенциометры постоянного тока и другие высокоточные приборы. В этом случае δ(х) = δк + δн (хк/х - 1), где хк - верхний предел измерений (конечное значение шкалы прибора), х — измеряемое значение.

6. Исключение систематических погрешностей из результатов наблюдений.