Пример обработки результатов продольного нивелирования
| № станции | № точки | Отсчеты по рейке, мм | Превышение, мм | Среднее превышение, мм | Горизонт инструмента, м | Отметки, м | ||
| задней | передней | промежуточной | ||||||
| R07 ПКО | +1354 +1356 | -2 +1355 | 122,477 123,830 | |||||
| ПКО +42 +64 Л+20 П+20 ПК1 | -613 -615 | -2 -614 | 124,373 | 123,830 121,796 122,925 121,439 122,508 123,214 | ||||
| ПК1 +20 +50 +80 ПК2 | -1004 -1007 | -1,5 -1005,5 | 124,020 | 123,214 121,886 123,034 123,298 122,207 | ||||
| ПК2 RP8 | +203 +204 | -1,5 +203,5 | 122,207 122,409 | |||||
| å=27853 | å= 27975 | å=-122 | å= -61 |
= -0,061 - (122,409 - 122,477) = +0,007м = + 7 мм
Графа 1 - номер станции, станция - это место установки нивелира.
Графа 2 - номер точки, на которую становилась рейка и по рейке брался отсчет в мм.
Графа 3 - отсчеты (первый - по черной стороне рейки, второй - по красной) по рейке, установленной на связующей точке и находящейся сзади исполнителя.
Графа 4 - отсчеты (первый по черной стороне рейки, второй - по красной) по рейке, установленной на связующей точке и находящейся впереди наблюдателя.
Графа 5 - отсчеты по черной стороне рейки, установленной между пикетами на промежуточных точках.
Графа 6. В этой графе записываются превышения между связующими точками. Превышения вычисляются как разность между отсчетом на точках, находящихся сзади и впереди исполнителя.
Графа 7. Среднее превышение находится как среднее арифметическое значение из двух превышений, полученных в графе 6, при условии, что разность этих превышений не превышает 5 мм. Если эта разность превышает 5 мм, то следует выполнить повторное измерение или найти ошибку в вычислениях.
Так как отсчеты берутся по черной и красной сторонам реек, то в графе 6 будет два значения превышения между связующими точками.
4.3.2.4 .Вычисление отметок пикетов
и промежуточных точек
Правильность вычислений превышений и средних превышений контролируется следующим образом. Подсчитываются суммы отсчетов отдельно в третьей, четвертой графах (å3 и å4 ) и алгебраические суммы в шестой и седьмой графах (å6 и å7 ) (см. табл. 2).
При отсутствии ошибок в вычислениях должно соблюдаться равенство (см. пример на обработку журнала продольного нивелирования в табл. 2):
.
Затем вычисляется невязка по формуле
,
где åh = Σ7 - алгебраическая сумма средних превышений (см. графу 7 табл. 2);
HRp8 и HRp7 - отметки реперов № 8 и 7.
Полученную фактическую невязку в мм сравнивают с допустимой, вычисленной по формуле
,
где L - длина нивелирного хода в км.
Если 
, то приступают к увязке нивелирного хода, которая заключается в равномерном распределении невязки fh на все превышения. Поправкам придается знак, обратный знаку невязки.
В графе 7 над средними превышениями красным цветом подписываются величины поправок.
После того как превышения увязаны, приступают к вычислению отметок связующих точек, т.е. пикетов ПК0, ПК1, ПК2, по формуле
, 
где Hn+1 - вычисляемая отметка;
Нn - отметка предыдущей точки (пикета);
hn- (n+1) - увязанное превышение между n и (n+1) точками (пикетами).
После вычисления отметок пикетов (см. графу 9 табл. 2) приступают к вычислению горизонтов инструмента для тех станций, на которых имеются промежуточные точки и поперечники. В табл. 2 такими станциями являются № 2 и № 3.
Горизонт инструмента вычисляют по формуле
,
где Hn - отметка пикета, установленного сзади исполнителя;
- отсчет по черной стороне рейки, установленной на заднем пикете.
Отметку промежуточной точки находят по формуле
,
где Опр - отсчет по рейке, установленной на промежуточной точке.
4.3.2.5. Построение продольного и поперечного
профилей трассы
На листе миллиметровой бумаги проводят линию условного горизонта и подписывают её. Ниже этой линии размещают профильную сетку (рис. 49). При построении профиля обычно вертикальный масштаб принимается в 10 раз крупнее горизонтального.
В разделе профильной сетки "Расстояния" размечают все пикеты, промежуточные точки и записывают расстояния между промежуточными точками. Против каждого пикета и промежуточной точки выписывают из журнала нивелирования их отметки в раздел сетки "Черные отметки". Отметки округляют до сотых долей метра (см. рис. 49).
По середине раздела сетки "План полосы отвода" красной тушью проводят прямую линию, которая является выпрямленной осью трассы. Слева и справа линии наносят ситуацию черной тушью согласно пикетажной книжке (см. рис. 47).
В разделе профильной сетки "План прямых и кривых" красным цветом показывают прямые участки трассы и участки, которые проходят по закруглениям. Начало "НК" и конец "КК" кривой привязывают к ближайшим пикетам.
От верхней линии профильной сетки против пикетных и промежуточных точек в принятом вертикальном масштабе проводят ординаты высотой, равной разности между черными отметками и отметкой верхней линии сетки. Условная отметка верхней линии сетки выбирается с таким расчетом, чтобы между самой низкой точкой профиля и линией сетки было не менее 8 - 10 см.
Концы проведенных ординат соединяют и получают черный профиль. Ординаты и профиль вычерчивают черной тушью.
4.3.2.6.Проектирование красного профиля
После построения черного профиля приступают к нанесению проектной (красной) линии.
В разделе профильной сетки "Уклоны" в виде диагонали красного цвета показывается направление уклона. Над диагональю записывается красной тушью величина проектного уклона, равного +0,007.
Под диагональю записывается горизонтальное расстояние, на которое распространяется красный уклон.
Отметки пикетов проектной линии вычисляются по формуле
Нn+1 = Hn +i×d,
где Hn+1 - красная отметка последующей точки;
Hn - красная отметка предыдущей точки;
i - уклон линии;
d - горизонтальное расстояние между последующей и предыдущей точками.
Например, красная отметка плюсовой точки ПК1 + 22,9 будет равна
Н = 138,27 + 0,007×122,9 = 139,13 м,
а отметка плюсовой точки ПК2 + 40,0 составит:
Н = 138,27 + 0,007×240,0 = 139,95 м.
В разделе сетки "Красные отметки" красной тушью выписываются вычисленные по приведенной выше формуле красные отметки.