Нормирование погрешностей при измерении сопротивлений

Частота сигнала	Пределы измерения	Разрешение ЕМР	Абсолютная погрешность измерения	Примечание
120 Гц	20 Ом	1 мОм	± (2 % Rизм + 8ЕМР)	После калибровки КЗ
200 Ом	10 мОм	± (0,5 % Rизм + 5ЕМР)
2 кОм	100 мОм	± (0,5 % Rизм + 3ЕМР)	_
20 кОм	1 Ом	± (0,5 % Rизм + 3ЕМР)
200 кОм	10 Ом	± (0,5 % Rизм+ 3ЕМР)
2 МОм	100 Ом	± (0,8 % Rизм + 5ЕМР)	После калибровки ХХ
10 МОм	1 кОм	± (1,2 % Rизм + 8ЕМР)
1 кГц	20 Ом	1 мОм	± (2 % Rизм + 8ЕМР)	После калибровки КЗ
200 Ом	10 мОм	± (0,5 % Rизм + 5ЕМР)
2 кОм	100 мОм	± (0,5 % Rизм + 3ЕМР)	_
20 кОм	1 Ом
200 кОм	10 Ом
2 МОм	100 Ом	± (0,8 % Rизм + 5ЕМР)	После калибровки ХХ
10 МОм	1 кОм	± (1,2 % Rизм + 8ЕМР)

ЕМР – единица младшего разряда

Таблица П2

Погрешности измерения емкостей и тангенса угла потерь

Частота сигнала	Пределы измерения	Разрешение ЕМР	Абсолютная погрешность измерения	Примечание
120 Гц	20 нФ	1 пФ	C	± (1 % Cизм + 5ЕМР)	После калибровки ХХ
D	± (2 % Dизм +100/Cx +5ЕМР)
200 нФ	10 пФ	C	± (0,7 % Cизм + 5ЕМР)
D	± (0,7 % Dизм + 100/Cx +5ЕМР)
2000 нФ 20 мкФ 200 мкФ	100 пФ 1 нФ 10 нФ	С	± (0,7 % Cизм + 3ЕМР)	_
D	± (0,7 % Dизм + 100/Cx +5ЕМР)
2000 мкФ	100 нФ	С	± (1 % Cизм + 5ЕМР)	После калибровки КЗ
D	± (2 % Dизм + 100/Cx +5ЕМР)
20 мФ	1 мкФ	C	± (5 % Cизм + 5ЕМР)
D	± (10 % Dизм + 100/Cx +5ЕМР)
1 кГц	2000 пФ	0,1 пФ	C	± (1 % Cизм + 5ЕМР)	После калибровки ХХ
D	± (2 % Dизм + 100/Cx +5ЕМР)
20 нФ 200 нФ	1 пФ 10 пФ	C	± (0,7 % Cизм + 5ЕМР)
D	± (0,7 % Dизм + 100/Cx +5ЕМР)
2000 нФ 20 мкФ	100 пФ 1 нФ	C	± (0,7 % Cизм + 3ЕМР)	_
D	± (0,7 % Dизм + 100/Cx +5ЕМР)
200 мкФ	10 нФ	C	± (1% Cизм + 3ЕМР)	После калибровки КЗ
D	± (2 % Dизм + 100/Cx +5ЕМР)
2000 мкФ	100 нФ	C	± (5 % Cизм + 5ЕМР)
D	± (10 % Dизм + 100/Cx +5ЕМР)

Примечания:

1. Погрешности нормируются для тангенса угла потерь D < 0,1. _____

2. Если D > 0,1 , погрешности дополнительно умножаются на Ö 1+D² .

3. C_изми D_изм- значения емкости и тангенса угла, отображаемые на ЖКИ с учетом единиц измерения.

4. С_х – цифровое безразмерное значение отображаемой величины без учета десятичной точки. Например: на ЖКИ отображается величина 18,888 мкФ; тогда, С_изм=18,888 мкФ, С_х =18888.

Таблица П3

Погрешности измерения индуктивности и тангенса угла потерь

Частота сигнала	Пределы измерения	Разрешение ЕМР	Абсолютная погрешность измерения	Примечание
	22304 5мГн	1 мкГн	L	± (2 % Lизм +Lx/10000+ 5ЕМР)	После кали-бровки КЗ
D	± (10 % Dизм +100/Lx +5ЕМР)
200 мГн	10 мкГн	L	± (1 % Lизм + Lx/10000+5ЕМР)
D	± (3 % Dизм + 100/Lx +5ЕМР)

Окончание табл. П3

120 гЦ	2000 мГн 20 Гн 200 Гн	100 мкГн 1 мГн 10 мГн	L	± (0,7 % Lизм + Lx/10000+ЕМР)	_
D	± (1,2 % Dизм + 100/Lx +5ЕМР)
2000 Гн	100 мГн	L	± (1 % Lизм +Lx/10000+ 5ЕМР)	После кали-бровки ХХ
D	± (2 % Dизм + 100/Lx +5ЕМР)
20000 Гн	1 Гн	L	Не нормируется	_
D	Не нормируется
1 кГц	2000 мкГн	0,1 мкГн	L	± (1 % Lизм + 5ЕМР)	После кали-бровки КЗ
D	± (2 % Dизм + 100/Lx +5ЕМР)
20 мГн	1 мкГн	L	± (0,7 % Lизм + 5ЕМР)
D	± (0,7 % Dизм + 100/Lx +5ЕМР)
200 мГн 2000 мГн 20 Гн	10 мкГн 100 мкГн 1 мГн	L	± (0,7 % Lизм + 3ЕМР)	_
D	± (0,7 % Dизм + 100/Lx +5ЕМР)
200 Гн	10 мГн	L	± (1 % Lизм + 3ЕМР)	После кали-бровки ХХ
D	± (2 % Dизм + 100/Lx +5ЕМР)
2000 Гн	100 мГн	L	Не нормируется	_
D	Не нормируется

Примечания:

1. Погрешности нормируются для тангенса угла потерь D < 0,5.
2. L_изм и D_изм - значения индуктивности и тангенса, отображаемые на ЖКИ с учетом единиц измерения.

3. L_x - цифровое безразмерное значение отображаемой величины без учета десятичной точки. Например: на ЖКИ отображается величина 18,888 мГн; тогда, L_изм=18,888 мГн, L_x=18888.

ПРИЛОЖЕНИЕ 2

ПРИМЕРЫ РАСЧЕТА ПОГРЕШНОСТЕЙ

Пример 1.

На пределе измерения сопротивления 20 Ом при частоте сигнала 120 Гц прибор индицирует 1,8362 Ом. Из табл. п.1 видно, что на этом пределе разрешение 1 мОм, значит, 5 ЕМР равно 0,005 Ом. Определяем, что абсолютная погрешность измерения составит

D = ± (0,02 × 1,8362 + 0,005) = ±0,041724 Ом » ± 0, 042 Ом.

Относительная погрешность равна

d = ±( 0,42/ 1,8362) × 100 % = ± 2,3 %

Пример 2.

Измерение сопротивления кабеля дало значение R_к = 0,035 Ом. Тогда, с учетом поправки на сопротивление кабеля результат измерения составит

R_попр = 1,8362 - 0,035 = 1,8012 Ом.

Итак, R_попр » (1,800 ± 0, 042) Ом.

Пример 3.

На пределе измерения емкости 2000 пФ при частоте сигнала 1000 Гц прибор индицирует 1218,5 pF. Из табл. п.2 определяем, что на этом пределе разрешение 0,1 pF , значит, 5 ЕМР равно 0,5 pF. Абсолютная погрешность измерения составит

D = ± (0,01 × 1218,5 + 0,5) = ±12,685 pF » ± 13 pF.

Относительная погрешность равна

d = ±(13/ 1218,5) × 100 % = ± 1,1 %

Пример 4.

Измерение емкости кабеля дало значение C_к = 23 pF. Тогда, с учетом поправки на C_к = 23 pF результат измерения: C_попр= 1218 -23 = (95 ± 13) F.

Пример 5.

Получены следующие результаты при измерении емкости на частоте 1000 Гц:

· Для последовательной схемы замещения:

С_s =2,152 мкФ, R_s = 82,81 Ом, Q =0,8918, D = 1,121;

· Для параллельной схемы замещения:

С_p = 0,954 мкФ, R_p =148,6 Ом, Q =0,8918, D = 1,121.

Проверим соотношения 5 и 6:

R_s =R_p/(1+ Q²) = 148,6 / (1+0,8918²) = 82,77 Ом,

C_s = C_p (1 + 1/Q²) = 0,954 (1+ 1/0,8918²) = 2,153 мкФ.

В соответствии с табл. п.2

DС = ±(0,007×2,152 мкФ + 3×0,001) = ±0,018 мкФ,

DD = ±(0,007×1,121 +100/2152+5×0,001) = ± 0,059.

Из оценки погрешностей измерения C_s видно, что соотношения 5 и 6выполняются в пределах допустимых погрешностей.