Анализ и обработка навигационных измерений

АНАЛИЗ И ОБРАБОТКА 
НАВИГАЦИОННЫХ 
ИЗМЕРЕНИЙ

Москва
ВУЗОВСКИЙ УЧЕБНИК
ИНФРА-М
2020

УЧЕБНОЕ ПОСОБИЕ

Л.Е. КУРОЧКИН

Севастопольский 
государственный 
университет

Курочкин Л.Е.
Анализ и обработка навигационных измерений: учебное пособие / 
Л.Е. Курочкин. — Москва : Вузовский учебник: ИНФРА-М, 2020. — 128 с.

ISBN 978-5-9558-0564-1 (Вузовский учебник)
ISBN 978-5-16-012793-4 (ИНФРА-М, print)
ISBN 978-5-16-102543-7 (ИНФРА-М, online)

Основные задачи судовождения решаются навигационными методами, сущность которых состоит в непрерывной оценке положения судна на местности и 
в определении вектора его скорости, а основой процесса судовождения являются 
измерения навигационных элементов, обработка и анализ их результатов. В этом 
процессе крайне важен человеческий фактор: высокий уровень профессиональной компетентности судоводителей, умение на основе математического анализа 
навигационной информации и творческого его применения оценивать точность 
места и степень навигационной безопасности судна.
Теоретическую основу оценки точности решения навигационных задач составляют вероятностно-статистические методы, опирающиеся на выводы теории 
вероятностей, математической статистики и корреляционной теории.
В учебном пособии излагаются математические методы расчета точности навигационных измерений и оценки их надежности, приводятся примеры расчетов. 
Пособие ориентировано на практическое применение в судовождении методов 
математической обработки и анализа навигационных измерений и будет полезно 
студентам морских специальностей, а также судоводителям при проведении навигационных расчетов.

Р е ц е н з е н т ы :
Е.В. Никитин, д-р техн. наук, профессор;
А.В. Холопцев, д-р техн. наук, профессор 

Н а у ч н ы й  р е д а к т о р :
В.И. Истомин, д-р техн. наук, профессор

ФЗ 
№ 436-ФЗ
Издание не подлежит маркировке 
в соответствии с п.1 ч. 2 ст.1
УДК  629.5.05(075.8)
ББК  39.471.1
К93

© Вузовский учебник, 2016

ISBN 978-5-9558-0564-1 (Вузовский учебник)
ISBN 978-5-16-012793-4 (ИНФРА-М, print)
ISBN 978-5-16-102543-7 (ИНФРА-М, online)

УДК  629.5.05(075.8)
ББК  39.471.1

К93

Подписано в печать 24.09.2019. Формат 6090/16. Гарнитура Newton 
Печать цифровая. Усл. печ. л. 8. ППТ12. Заказ № 00000
Цена свободная

TK 651521-1062518-310317

Издательский Дом «Вузовский учебник»
127247, Москва, ул. С. Ковалевской, д. 1, стр. 52
www.vuzbook.ru

Отпечатано в типографии ООО «Научно-издательский центр ИНФРА-М»
127214, Москва, ул. Полярная, д. 31В, стр. 1
Тел.: +7(495) 280-15-96, 280-33-86.     Факс: +7(495) 280-36-29

ВВЕДЕНИЕ

Международная морская организация на основе анализа навигационной аварийности считает, что основное направление снижения аварийности морских судов связано с человеческим фактором, как самым 
весомым источником причин навигационных аварий и происшествий 
(75–80%). Стремительный рост оснащенности судов современными 
навигационными системами и комплексами и автоматизация процесса судовождения не решают проблему, уровень навигационной аварийности не снижается. Проблема повышения безопасности мореплавания 
остается актуальной. Продолжают иметь место факты, когда в результате сбоев в работе высокоточных спутниковых и радионавигационных 
систем или неумелого их использования суда оказывались в аварийных 
ситуациях. Нельзя исключать и возможные случаи обесточивания судна, когда высокоточные технические средства навигации могут оказаться бесполезными.
Основные задачи судовождения решаются навигационными методами, сущность которых состоит в непрерывной оценке положения судна 
на местности и в определении вектора его скорости, а основой процесса судовождения являются измерения навигационных элементов, обработка и анализ их результатов. В этом процессе крайне важен человеческий фактор: высокий уровень профессиональной компетентности 
судоводителей, умение на основе математического анализа навигационной информации и творческого его применения оценивать точность 
места и степень навигационной безопасности судна.
Теоретическую основу оценки точности решения навигационных 
задач составляют вероятностно-статистические методы, опирающиеся на выводы теории вероятностей, математической статистики и корреляционной теории.
В учебном пособии излагаются математические методы расчета точности навигационных измерений и оценки их надежности. Пособие 
ориентировано на практическое применение в судовождении методов 
математической обработки и анализа навигационных измерений. Приводятся примеры расчетов.

Глава 1 
ПРЕДВАРИТЕЛЬНЫЕ РАСЧЕТЫ И АНАЛИЗ 
НАВИГАЦИОННЫХ ИЗМЕРЕНИЙ, 
ОБЕСПЕЧИВАЮЩИХ БЕЗОПАСНОСТЬ 
ПЛАВАНИЯ СУДНА

1.1 
Погрешности навигационных измерений

Основой процесса судовождения являются измерения навигационных элементов, обработка и анализ их результатов. Навигационные измерения классифицируются:
• по виду измерений: непосредственные и косвенные;
• по относительной точности: равноточные и неравноточные;
• по составу: однородные и разнородные;
• по степени полноты: необходимые и избыточные;
• по степени взаимозависимости: независимые и взаимозависимые;
• по характеру измерений: дискретные и непрерывные.
Прямые измерения — измерения, непосредственным результатом которых являются значения определяемой величины (измерение пеленга с помощью пеленгатора, высоты светила с помощью секстана и т.д.).
Косвенные измерения — измерения величин, функционально связанных с определяемой (расстояние до ориентира по вертикальному 
углу и т.п.).
Равноточные измерения — измерения, выполненные в одинаковых 
условиях, т.е. операторами одинаковой квалификации, приборами одинакового класса точности и при одинаковых внешних условиях.
Неравноточные измерения характеризуются различными величинами показателя точности или условиями выполнения (измерение высот 
светил операторами с различными практическими навыками, измерение радиопеленга днем и ночью и т.п.).
Однородные измерения — измерения одного и того же навигационного элемента, выполненные с помощью одного и того же прибора (системы).
Разнородные измерения — измерения, выполненные с помощью различных приборов (курс по гирокомпасу и по магнитному компасу, пеленг и расстояние и т.д.)
Необходимые измерения — минимальное количество измерений 
для определения искомой величины (две изолинии для определения 
места судна).

Избыточные измерения — выполняемые сверх необходимых, но улучшающие результат (повышение точности, надежности и т.д.).
Независимые измерения — измерения, которые подвержены воздействию различных факторов, и их результаты отягощены различными погрешностями.
Взаимозависимые измерения — измерения, результаты которых искажены воздействием общих случайных факторов, и их результат содержит общие случайные погрешности (погрешность поправки гирокомпаса в пеленгах, поправки лага в пройденном расстоянии и т.п.).
Дискретные измерения выполняются через определенные интервалы времени. Если эти интервалы одинаковые, измерения называют 
ритмичными.
Непрерывные измерения выполняются непрерывно в течение некоторого интервала времени (запись курса на ленте курсографа, эхолота и т.п.).
Основной характеристикой измерений является точность результата, определяемая содержащейся в нем погрешностью.
Разница между истинным и измеренным значениями навигационного элемента — погрешность измерения

 = U – U0,                                                    (1.1)

где U — результат измерения;
U0 — истинное значение навигационного элемента.
Погрешность, нормированная результатом измерения, называется 
относительной:

0
0
отн
1
;
U
U
U

U
U
U

−
Δ
Δ
=
=
= −
                                    (1.2)

0
отн%
100
1
100.
U

U
U

⎛
⎞
Δ
Δ
=
=
−
⎜
⎟
⎝
⎠

                                    (1.3)

Погрешность с обратным знаком — поправка:

U = –= U0 – U;                                            (1.4)

0
%
100.
U
U
U
U

−
Δ
=
                                            (1.5)

Относительной поправкой исправляются результаты измерений навигационных элементов, точность которых зависит от их величины (разность отсчетов лага, радиолокационное расстояние и т.п.).

Основные причины погрешностей измерений навигационных элементов:
1. Несовершенство измерительных приборов (систем): нестабильность технических параметров, технологические погрешности в изготовлении, недостаточная чувствительность и т.п.
2. Несовершенство метода или физического принципа измерения. 
Например, определение горизонтального угла между двумя ориентирами по разности пеленгов на них, а не измерение этого угла секстаном.
3. Несовершенство органов чувств или психофизическая усталость 
оператора (острота зрения при визуальном пеленговании, утомление 
длительностью напряженной работы без достаточного отдыха и т.д.).
4. Состояние внешней среды: атмосферные осадки, качка, атмосферные помехи, искажение электромагнитного поля и т.п.
Измеренные навигационные элементы, как правило, исправляются 
приборными и методическими поправками или служат исходными для 
расчета других навигационных элементов, т.е. подвергаются дополнительной обработке, которая также отягощена погрешностями. Следовательно, полная погрешность навигационного элемента содержит погрешности измерения изм и обработки об:

П
изм
об
Δ
= Δ
+ Δ .                                          (1.6)

Погрешности измерения навигационных элементов являются следствием воздействия как потенциальных или закономерно изменяющихся, так и случайных факторов. В зависимости от степени влияния каждого из этих факторов могут иметь место систематические и случайные 
погрешности.
Систематические погрешности — погрешности, остающиеся для всех 
измерений данной группы навигационных элементов постоянными или 
закономерно изменяющимися. Исключаются из результатов измерений вводом поправок или применением компенсационных устройств.
Случайные погрешности — погрешности, величина и знак которых изменяется случайно в данной серии измерений. Появляются в результате воздействия случайных факторов. Поэтому учесть их можно только 
в вероятностном смысле на основе определенного закона распределения, позволяющего рассчитать вероятность появления случайной погрешности, не выходящей по величине за определенный предел.
Случайная погрешность может проявляться и как систематическая. 
Например, случайная погрешность поправки компаса войдет во все исправленные этой поправкой компасные пеленга. Такие погрешности называют повторяющимися или общими. 
Случайные погрешности навигационных измерений подчиняются 
нормальному закону распределения, описываемого определенным интегралом вероятностей или функцией Лапласа. 

Для определения вероятности появления случайной погрешности, 
не превышающей определенной величины, рассчитывается нормированная погрешность Z, т.е. заданная случайная погрешность, выраженная в долях средней квадратической погрешности:

Z = з / .

Случайные погрешности отсчета по шкале прибора и округления навигационных величин подчиняются закону равномерного распределения. 
Сущность этого закона состоит в следующем: все случайные погрешности распределены в пределах определенного интервала от 0 до ± l; появление погрешности, выходящей за пределы этого интервала, невозможно, но в его пределах любая погрешность равновероятна. Средняя 
квадратическая погрешность для этого закона

σ = /
3.
l

Вероятность погрешности, не превышающей среднюю квадратическую:

 0,576(57,6%).
=
=1/
3
P

Вероятность погрешности, не превышающей заданного предела 
з
Δ :

з
= Δ / .
P
l

Например, отсчет компасного пеленга снимается по шкале репитера с делениями через 1,0 (2l = 1,0). Определить, с какой вероятностью снятие отсчета компасного пеленга не будет превышать 
з
Δ = 0,2.
Решение:

l = 0,5;   Р = з / l = 0,2 / 0,5 = 0,4 (40%).

Средняя квадратическая погрешность навигационной величины () 
является вероятностным показателем точности измерений, погрешности которых подчиняются нормальному закону. В практике судовождения истинное значение навигационных величин, как правило, неизвестно. Поэтому средняя квадратическая погрешность заменяется ее статистической оценкой m. Чем больше количество измерений, тем точнее 
эта оценка, т.е. тем больше m приближается к .
При расчете m используется разность измеренных и средних арифметических значений навигационной величины. Расчет производится 
по формуле

(
)
(
)
ср

2 /
1 ,

n

i
m
V
V
n
=
−
−
∑

где Vi, Vср — единичное и среднее арифметическое значения измеряемой величины;
n — количество измерений.
Промахи или грубые ошибки значительно превышают погрешности, 
возможные при данном комплексе условий. Проявляются не во всей серии измерений, а лишь в нескольких измерениях (одно-два). Эти ошибки 
можно предупредить только путем контроля операций измерений и их 
обработки. При нормальном распределении случайных погрешностей 
за предельную погрешность, как правило, принимает величину 3 или 
3m. Вероятность появления случайных погрешностей, превышающих 
3m, составляет 0,3%. Поэтому погрешность, превышающую предельную (3m), считают грубой и квалифицируют как промах.
Если на навигационные величины воздействуют одновременно частные и общие случайные факторы, то между ними возникает корреляционная взаимосвязь. Наиболее распространенным источником взаимосвязи являются погрешности общих поправок, вводимых во все навигационные величины данной серии измерений. В этом случае полная 
погрешность (mП), измеренной величины будет состоять из квадратической суммы частной (mi) и общей (mо) погрешностей, т.е.

П
o
=
+
2
2 .
i
m
m
m

Количественным показателем корреляционной зависимости навигационных величин является коэффициент корреляции (r), который показывает степень их взаимозависимости. Величина r определяется главным образом значением общей погрешности mо. Если навигационные 
элементы независимы (mо = 0), то r = 0. Если отсутствуют частные случайные погрешности измерений (mi = 0), то r = 1.
При r = 1 (mi = 0, mо = mП) точность оценки навигационной величины не зависит от количества измерений. Средняя квадратическая погрешность вероятнейшего значения навигационной величины в этом 
случае равна средней квадратической погрешности общей поправки.
При r = 0 (mо = 0, mi = mП) точность оценки навигационной величины определяется точностью и количеством измерений и рассчитывается по формуле

нв
/
.
i
m
m
n
=

Погрешности счисления пути судна обусловлены погрешностями 
определения курса и скорости судна, учитываемого дрейфа и сноса те

чением. Главным фактором, формирующим погрешность счисления, 
является неточное значение элементов течения из-за их изменчивости 
во времени и пространстве и недостаточной изученности. Поэтому судоводитель обязан систематически определять направление и скорость 
течения, например по точным обсервациям [5].
Погрешности счисления пути судна распределяются по круговому 
закону распределения Релея. Расчет погрешности счисления производится по формулам:
• при интервале счисления до 2 часов (tc ≤ 2 ч)

Mc(t) = 0,7 Kc·tc;

• при интервале счисления более 2 часов (tc > 2 ч)

( )
c
c
c,
M
t
K
t
=

где Kc — коэффициент точности счисления, мили/час;
tc — интервал счисления, часы.
Коэффициент точности счисления (Kc) показывает скорость нарастания средней квадратической погрешности счисления пути судна. 
Количественное значение Kc зависит от степени оснащенности судна техническими средствами навигации и гидрометеорологических 
условий плавания. Для судов, оснащенных относительными лагами, 
Kc  0,7–1,8 мили/час [3].
В [3] для судов с гидроакустическими лагами указывается Kc = 0,4 
мили/час.
При современном оснащении судов техническими средствами навигации высокой точности коэффициент точности счисления можно надежно определить по невязкам. В [3] указывается, что при определении 
места судна с помощью спутниковой навигационной системы, при интервале счисления tc < 6 часов можно радиальную среднюю квадратическую погрешность счисления рассчитывать по формуле

Mc (t) = Kc · tc.

Эллиптическая погрешность обсервованного места судна определяется средним квадратическим (стандартным) эллипсом. Его элементами являются полуоси а (большая), b (малая) и угол ориентировки относительно меридиана . Векторные погрешности места, концы которых 
лежат на линии эллипса, обладают одинаковой вероятностью. Вероятность эллиптический погрешности можно рассчитать по МТ-2000, принимая за X величину С 2/2. По этой величине выбирается число, которое вычитается из единицы. Разность — искомая вероятность эллиптической погрешности.

Например, принимаем С = 2, т.е. полуоси заданного эллипса увеличены относительно стандартных в 2 раза. Определить вероятность эллиптической погрешности. 
Решение: X = С 2/2 = 4/2 = 2.

Из МТ-2000 по Х = 2,0 выбирается число 0,135. Это число вычитается из единицы: 1 – 0,135 = 0,865, т.е. вероятность того, что место судна находится в пределах эллипса с полуосями 2а и 2b, составляет 86,5%.
Ручной расчет полуосей стандартного эллипса представляет определенную трудность. При расчете обсервованных координат с помощью 
специализированных ЭВМ угол ориентировки и величины полуосей 
стандартного эллипса могут быть вызваны на индикацию.
Радиальная средняя квадратическая погрешность обсервованного места (Мо) — круг, в пределах которого может находиться место судна. Центром круга является обсервованное (вероятнейшее) место. Показателем 
точности места является радиус Мо круга, равный геометрической сумме полуосей стандартного эллипса:

о
2
2 .
а
М
b
=
+

Если подставить в эту формулу значения а и b, то величина радиальной средней квадратической погрешности (РСКП) обсервованного места по двум линиям положения определится формулой

(
)

2
2
лп1
лп2
о 2л
л
лп
п
п1
2
2
cos
/ sin ,
m
m
rm
М
m
+
−
⋅
⋅
θ
θ
=

где  — острый угол пересечения линий положения;
mлп1, mлп2 — полные средние квадратические погрешности линий положения (mп), т.е. их смещения вследствие погрешностей измерения навигационных параметров;
r — коэффициент корреляции навигационных параметров.
Средняя квадратическая погрешность линии положения рассчитывается по формуле
mлп = mU / g,

где mU — полная средняя погрешность навигационного параметра;
g — градиент навигационного параметра.
Градиент навигационного параметра определяет изменение его величины при смещении линии положения параллельно самой себе на единицу длины. При определении места по независимым навигационным 
параметрам (r = 0)

(
)
лп1
лп2
о 2лп
2
2
/ sin .
М
m
m
+
θ
=