Правила работы с приближенными числами

Большинство физических величин выражаются приближенными числовыми значениями. При работе с такими числами следует соблюдать следующие правила.

1. Значащими (которые можно считать достоверными) называются все цифры, начиная с первой слева, отличной от нуля.

Например: число 0,003010 = 3,010 × 10 3; значащие цифры 3010, т. е. четыре значащие цифры.

2. При сложении и вычитании более точное число должно быть округлено до менее точного.

Например: 2,3 + 1,077 = 2,3 + 1,1 = 2,4.

3. При умножении и делении в результате оставляется столько значащих цифр, сколько в множителе с наименьшим числом значащих цифр.

Например: 2,881 × 2,4 = 6,9.

4. При a < 0,1 с точностью до процента можно использовать приближенные формулы:

(1 + a)n = 1 + n a;

ea = 1 + a;

ln (1 + a) = a – a2 / 2;

sin a = a (a – в радианах);

cos a = 1.

Справочные таблицы

Таблица 1

Основные физические постоянные (округленные значения)

Физическая постоянная Обозначение Значение
Ускорение свободного падения g 9,81 м/с2
Гравитационная постоянная G 6,67∙10 11 м3/(кг∙с2)
Число Авогадро NA 6,02∙1023 моль 1
Универсальная газовая постоянная R 8,31 Дж/(моль∙К)
Постоянная Больцмана k 1,38∙10 23 Дж/К
Элементарный заряд e 1,6∙10 19 Кл
Скорость света в вакууме c 3,00∙108 м/с
Постоянная Стефана-Больцмана s 5,67∙10 8 Вт/(м2∙К4)
Постоянная смещения Вина b 2,90∙10 3 м∙К
Постоянная Планка h 6,63∙10 34 Дж∙с
Постоянная Планка, деленная на Правила работы с приближенными числами - student2.ru Правила работы с приближенными числами - student2.ru 1,05∙10 34 Дж∙с
Постоянная Ридберга (для водорода) R 1,097∙107 м 1
Радиус первой Боровской орбиты A 0,529∙10 10 м
Комптоновская длина волны электрона lk 2,43∙10 12 м
Энергия ионизации атома водорода Ei 2,18∙10 18 Дж
Атомная единица массы a.е.м. 1,660∙10 27 кг
Электрическая постоянная e0 8,85∙10 12 Ф/м
Магнитная постоянная m0 4p∙10 7 Гн/м

Таблица 2

Плотность твердых тел

Твердое тело Плотность, 103 кг/м3 Твердое тело Плотность, 103 кг/м3
Алюминий 2,70 Медь 8,93
Барий 3,50 Никель 8,90
Ванадий 6,02 Свинец 11,3
Висмут 9,80 Серебро 10,5
Железо 7,88 Цезий 1,90
Литий 0,53 Цинк 7,15

Таблица 3

Плотность жидкостей

Жидкость Плотность, 103 кг/м3 Жидкость Плотность, 103 кг/м3
Вода 1,00 Спирт 0,80
Глицерин 1,26 Сероуглерод 1,26
Ртуть 13,6    

Таблица 4

Плотность газов (при нормальных условиях)

Газ Плотность, кг/м3 Газ Плотность, кг/м3
Водород 0,09 Гелий 0,18
Воздух 1,29 Кислород 1,43


Таблица 5

Поверхностное натяжение жидкостей

Жидкость Поверхностное натяжение, мН/м Жидкость Поверхностное натяжение, мН/м
Вода Ртуть
Мыльная вода Спирт

Таблица 6

Эффективный диаметр молекулы

Газ Диаметр, 10 10 м Газ Диаметр, 10 10 м
Азот 3,0 Гелий 1,9
Водород 2,3 Кислород 2,7

Таблица 7

Диэлектрическая проницаемость

Вещество Проницаемость Вещество Проницаемость
Парафин 2,0 Вода
Стекло 7,0 Масло трансформаторное 2,2

Таблица 8

Удельное сопротивление металлов

Металл Удельное сопротивление, 10 8 Ом∙м Металл Удельное сопротивление, 10 8 Ом∙м
Железо 9,8 Медь 1,27
Нихром Серебро 1,6

Таблица 9

Энергия ионизации

Вещество Ei , 10 18 Дж Ei , эВ
Водород 2,18 13,6
Гелий 3,94 24,6
Ртуть 1,66 10,4
Литий 12,1 75,6

Таблица 10

Показатель преломления

Вещество Показатель преломления Вещество Показатель преломления
Вода 1,33 Стекло 1,5
Глицерин 1,47 Алмаз 2,42

Таблица 11

Работа выхода электронов

Металл 10 19 Дж эВ
Калий 3,5 2,2
Литий 3,7 2,3
Платина 6,3
Рубидий 3,4 2,1
Серебро 7,5 4,7
Цезий 3,2 2,0
Цинк 6,4 4,0

Таблица 12

Относительные атомные массы (атомные веса) А
и порядковые номера некоторых элементов

Элемент Символ A Z Элемент Символ A Z
Азот N Медь Cu
Алюминий Al Молибден Mo
Аргон Ar Натрий Na
Водород H Неон Ne
Вольфрам W Никель Ni
Гелий He Олово Sn
Железо Fe Платина Pt
Золото Au Ртуть Hg
Калий K Сера S
Кальций Ca Серебро Ag
Кислород O Уран U
Магний Mg Углерод C
Марганец Mn Хлор Cl

Таблица 13

Массы атомов легких изотопов

Изотоп Символ Масса, а.е.м. Изотоп Символ Масса, а.е.м.
Нейтрон Правила работы с приближенными числами - student2.ru 1,00867 Бор Правила работы с приближенными числами - student2.ru 10,01294
Правила работы с приближенными числами - student2.ru 11,00930
Водород Правила работы с приближенными числами - student2.ru 1,00783 Углерод Правила работы с приближенными числами - student2.ru 12,00000
Правила работы с приближенными числами - student2.ru 2,01410 Правила работы с приближенными числами - student2.ru 13,00335
Правила работы с приближенными числами - student2.ru 3,01605 Правила работы с приближенными числами - student2.ru 14,00324
Гелий Правила работы с приближенными числами - student2.ru 3,01603 Азот Правила работы с приближенными числами - student2.ru 14,00307
Правила работы с приближенными числами - student2.ru 4,00260
Литий Правила работы с приближенными числами - student2.ru 6,01513 Кислород Правила работы с приближенными числами - student2.ru 15,99491
Правила работы с приближенными числами - student2.ru 7,01601 Правила работы с приближенными числами - student2.ru 16,99913
Берилий Правила работы с приближенными числами - student2.ru 7,01693      
Правила работы с приближенными числами - student2.ru 9,01219

Таблица 14

Периоды полураспада радиоактивных изотопов

Изотоп Символ Период полураспада Изотоп Символ Период полураспада
Магний Правила работы с приближенными числами - student2.ru 10 мин Церий Правила работы с приближенными числами - student2.ru 285 сут
Фосфор Правила работы с приближенными числами - student2.ru 14,3 сут Радон Правила работы с приближенными числами - student2.ru 3,8 сут
Кобальт Правила работы с приближенными числами - student2.ru 5,3 года Радий Правила работы с приближенными числами - student2.ru 1620 лет
Стронций Правила работы с приближенными числами - student2.ru 27 лет Актиний Правила работы с приближенными числами - student2.ru 10 сут
Йод Правила работы с приближенными числами - student2.ru 8 сут      

Таблица 15

Масса и энергия покоя некоторых частиц

Частица 10 27 кг а.е.м. 10 10 Дж МэВ
Электрон 0,00055 0,000816 0,511
Протон 1,672 1,00728 1,50
Нейтрон 1,675 1,00867 1,5
Дейтрон 3,35 2,01355 3,00
a-частица 6,64 4,00149 5,96
Нейтральный p-мезон 0,241 0,14498 0,216

Таблица 16

Множители и приставки для образования десятичных кратных
и дольных единиц и их наименований

Приставка Множи-тель Приставка Множи-тель
наименование обозначение наименование обозначение
экса пета тера гига мега кило деци Э П Т Г М к д 1018 1015 1012 109 106 103 10 1 санти милли микро нано пико фемта атто с м мк н п ф а 10 2 10 3 10 6 10 9 10 12 10 15 10 18

Учебное издание

Наши рекомендации