Представление аналитических данных. Значащие цифры

Самое слабое звено во всей цепи операций любого анализа – то измерение, которое выполняется с наименьшей точностью. Бессмысленно стремиться проводить другие измерения с большей точностью, чем лимитриующее. Число значащих цифр, необходимое для представления результата измерения с соответствующей точностью, называется числом значащих цифр.Поскольку неопределенность (неточность) любого измерения составляет по меньшей мере ±1 в последней значащей цифре, следует оставлять все цифры, которые известны точно, плюс одну нелостоверную. Последняя цифра результата измерения имеет неопределенное значение. Не следует писать после нее дополнительный цифры.

Правила округления

Если за первой недостоверной цифрой следует цифра меньше 5, округляемую цифру оставляют без изменения (округление с уменьшением), а если больше 5, округляемую цифру увеличивают на единицу (округление с увеличением).

Несколько сложнее правила округления, когда за последней округляемой цифрой стоит 5. Если за этой цифрой 5 нет более никаких цифр, то округляют до четной цифры.

Если за цифрой 5 имеется еще какая–либо отличная от нуля цифра, то округляют с увеличением, однако если 5 получено уже в результате округления, то округляют с уменьшением, т.е. 5 просто отбрасывают.

Обращение с нулями.Нуль в числах может быть значим и незначим. Нули, стоящие в начале числа, всегда незначимы и служат лишь для указания места запятой в десятичной дроби. Например, число 0,01 содержит лишь одну значащую цифру. Нули, стоящие между цифрами, всегда значимы. Например, в числе 0,508 три значащие цифры. Нули в конце числа могут быть значимы и незначимы. Нули, стоящие после запятой в десятичной дроби, считаются значимыми. Например, в числе 200,0 четыре значащие цифры.

Нули же в конце целого числа могут означать значащую цифру, а могут просто указывать порядок величины. Например, в числе 200 значащих цифр может быть: одна (2), две (2 и 0), три (2, 0 и 0). Чтобы избежать неопределенности, рекомендуется в таких случаях представить число в виде произведения числа, содержащего только значащие цифры, на 10n. Например, если в числе 200 одна значащая цифра, то следует изобразить его как 2·102, если две значащие цифры — 2,0·102, если три значащие цифры — 2,00·102.

Пример. Укажите, сколько значащих цифр содержат числа, записанные в приведенной ниже форме. Укажите нули, являющиеся значащими.

0,216; 90,7; 800,0; 0,0670

Решение:

0,216……три значащие цифры

90,7; ……три значащие цифры, нуль значащий

800,0; …..четыре значащие цифры, все нули значащие

0,0670…..три значащие цифры, только последний нуль является значащим.

Сложение и вычитание.Значимость суммы или разности определяется значимостью числа с наименьшим числом десятичных знаков. Например, при сложении чисел 50,1 + 2 + 0,55 значимость определяется недостоверностью числа 2 и, следовательно, сумму чисел 52,65 следует округлить до 53.

Если при сложении и вычитании используют числа, содержащие положительные или отрицательные показатели степени, то эти числа следует преобразовывать таким образом, чтобы показатели степени у всех них были одинаковы.

Например, при сложении чисел 4·10-5, 3,00·10-2 и 1,5·10-4 нужно представить их следующим образом: 0,004·10-2, 3,00·10-2 и 0,015·10-2. Пользуясь правилом значимости суммы, получаем 3,02·10-2, поскольку значимость суммы определяется значимостью числа 3,00·10-2, имеющего наименьшее число десятичных знаков.

Пример.Приведите результаты вычисления молярной массы HNO3 по значениям относительных атомных масс, представленных в таблице 1.1, представив только значащие цифры, и укажите, какой из участников арифметических действий лимитирует точность результата.

Решение:

а) М(HNO3) = 1,00797 + 14,0067 +47,9982 = 63,01287 г/моль.

значимость суммы или разности определяется значимостью числа с наименьшим числом десятичных знаков; в данном примере точность лимитирует число 14,0067 (число десятичных знаков четыре), поэтому результат следует записывать 4-мя знаками после запятой: 63,0129.

Умножение и деление.Для оценки значимости произведения (или частного) часто пользуются следующим правилом: значимость произведения (или частного) определяется значимостью сомножителя с наименьшим числом значащих цифр. Например, перемножение чисел 1,5 и 2,35 дает произведение, содержащее две значащие цифры, т.е. 3,5.

Пример.Приведите результат вычисления молярной концентрации раствора HNO3, имеющего плотность ρ=1,413 (кг/дм3), если массовая доля раствора в процентах составляет ω=70 % с наибольшим возможным числом значащих цифр и укажите, какой из участников арифметических действий лимитирует точность результата.

Решение:

Представление аналитических данных. Значащие цифры - student2.ru

Значимость произведения (или частного) определяется значимостью сомножителя с наименьшим числом значащих цифр; в данном примере точность лимитирует число 0,70(две значащие цифры, т.к. нуль в начале цифры не является значимым), поэтому результат записываем двумя значащими цифрами. Ответ: c(HNO)3 =16 моль/дм3.

Более строгий подход основан на сравнении относительных недостоверностей сомножителей и произведения (или частного). Относительная недостоверность равна отношению абсолютной недостоверности числа к самому числу. Относительная недостоверность произведения (или частного) равна сумме относительных недостоверностей сомножителей. Например, нужно найти частное 98 : 87,25. Относительные недостоверности составляют (приближенно): 1:98 = 1·10-2 и 0,01:87,25 = 1·10-4. Следовательно, относительная недостоверность частного 0,01 +0,0001 = 1·10-2. При делении чисел с помощью калькулятора получаем число 1,1232... Поскольку недостоверна вторая цифра после запятой, частное следует округлить до 1,12.

Возведение в степень.При возведении числа в степень относительная недостоверность результата увеличивается в число раз, равное степени. Например, при возведении в квадрат она удваивается.

Извлечение квадратного корня.Относительная недостоверность результата извлечения корня вдвое меньше относительной недостоверности подкоренного числа, поэтому в некоторых случаях после извлечения корня число значащих цифр увеличивается.

Например, Представление аналитических данных. Значащие цифры - student2.ru = 1,000, так как относительная недостоверность числа 1,00 равна 1·10-2, а результат извлечения корня 0,005, т. е. неопределенность заключена в третьем знаке после запятой.

Логарифмирование. При логарифмировании число цифр мантиссы логарифма равночислу значащих цифр исходной величины (мантисса - дробная часть логарифма).

Пример. Чему равно значение рН для раствора 1,9·10-2 М раствора HNO3?

рН = -lg[H+] = -lg[1,9·10-2] = 1,7212 = 1,72

При вычисление антилогарифмовчисло значащих цифр результата равно числу десятичных цифр мантиссы исходной величины

Пример. Чему равна концентрация Н+ для раствора с рН 4,75?

[H+] = 10-4,75 = 1,7782·10-5 ≈1,8·10-5 моль/дм3

Контрольное задание №3

Приведите результаты вычислений молярной массы (М) соединения (Х) и молярной концентрацию его раствора с наибольшим возможным числом значащих цифр и укажите какой из участников арифметических действий лимитирует точность результата. Плотность раствора ρ (кг/дм3), массовая доля раствора в процентах (ω) приведены в таблице 2.

Таблица 2- Относительные атомные массы элементов, рассматриваемых в контрольном задании № 3

Название Символ Относительная атомная масса
Азот N 14,0067
Барий Ba 137,34
Бром Br 79,909
Водород H 1,00797
Железо Fe 55,847
Иод J 126,9044
Калий K 39,102
Кальций Ca 40,08
Кислород O 15,9994
Магний Mg 24,312
Марганец Ma 54,9381
Медь Cu 63,54
Натрий Na 22,98977
Сера S 32,064
Хлор Cl 35,453
Углерод С 12,011

Таблица 3- Исходные данные по контрольному заданию № 3

Вариант № Химическая формула соединения Х Значение ρ, кг/дм3 Значение ω, %
HNO3 1,385 63,72
HCl 1,035 7,464
H2SO4 1,065 9,843
Na2CO3 1,090 8,82
NaOH 1,210 19,16
KOH 1,09 9,96
HClO4 1,190 28,05
HNO3 1,110 19,19
HCl 1,075 15,48
H2SO4 1,025 4,000
HNO3 1,025 4,883
HCl 1,030 6,433
H2SO4 1,005 0,9856
Na2CO3 1,085 8,35
NaOH 1,19 17,34
KOH 1,005 0,743
HClO4 1,120 18,88
HNO3 1,385 63,72
HCl 1,080 16,47
H2SO4 1,835 95,72
NH3 0,906 25,33
NH3 0,998 0,0465
CH3COOH 1,005 4,64
CH3COOH 1,065 61,4
HBr 1,486 46,85

Наши рекомендации