Методология аналитических исследований при мониторинге окружающей среды

МИНИСТЕРСТВО НАУКИ И ВЫСШЕГО ОБРАЗОВАНИЯ

РОССИЙСКОЙ ФЕДЕРАЦИИ

Федеральное государственное автономное

образовательное учреждение высшего образования
«ЮЖНЫЙ ФЕДЕРАЛЬНЫЙ УНИВЕРСИТЕТ»

Инженерно-технологическая академия

Б. И. МАРЧЕНКО

МЕТОДОЛОГИЯ АНАЛИТИЧЕСКИХ

ИССЛЕДОВАНИЙ ПРИ МОНИТОРИНГЕ

ОКРУЖАЮЩЕЙ СРЕДЫ

Учебное пособие

Ростов-на-Дону – Таганрог

Издательство Южного федерального университета

2023

Оглавление

2

УДК 502.7:519.22(075.8)+577.4(075.8)
ББК  20.1я73+20.18я73

М30

Печатается по решению кафедры техносферной безопасности и химии

Института нанотехнологий, электроники и приборостроения

Южного Федерального университета (протокол № 11 от 22 мая 2023 г.)

Рецензенты:

доктор медицинских наук, заведующий лабораторией санитарной
микробиологии водных объектов и микробной экологии человека
Ростовского научно-исследовательского института микробиологии 

и паразитологии П. В. Журавлев

доктор медицинских наук, профессор, заведующий кафедрой 

дерматовенерологии Ростовского государственного медицинского

университета, главный врач ГБУ РО «КВД» В. Е. Темников

Марченко, Б. И.

М30
Методология аналитических исследований при мониторинге 

окружающей среды : учебное пособие / Б. И. Марченко ; Южный федеральный 
университет. – Ростов-на-Дону ; Таганрог : Издательство 
Южного федерального университета, 2023. – 157 с.

ISBN 978-5-9275-4562-9
В учебном пособии рассматривается методология аналитических исследо-

ваний эпидемиологического типа при динамическом наблюдении за окружающей 
средой, включая методы анализа уровня (интенсивности), структуры, многолетней 
и годовой (помесячной) динамики, пространственной характеристики исследуемых 
свойств объектов, явлений и процессов. Подробно изложены алгоритм 
авторского метода оценки реального (эпидемиологического) риска здоровью 
населения, обусловленного воздействием вредных факторов среды обитания,
принципы содержательной интерпретации полученных результатов. Умение проводить 
аналитические исследования при ведении экологического мониторинга 
является необходимой компетенцией и навыком, который потребуется обучающимся 
при проведении научных исследований и разработок, выполнении проектных 
заданий и подготовке выпускных квалификационных работ.

Данное учебное пособие предназначено для студентов специальности 

20.03.01 «Техносферная безопасность».

УДК 502.7:519.22(075.8)+577.4(075.8)

ББК 20.1я73+20.18я73

ISBN 978-5-9275-4562-9

© Южный федеральный университет, 2023
© Марченко Б. И., 2023
© Оформление. Макет. Издательство

Южного федерального университета, 2023

ОГЛАВЛЕНИЕ

ВВЕДЕНИЕ ……………………………………………………………….
6

1. СТАТИСТИЧЕСКИЕ МЕТОДЫ ИЗУЧЕНИЯ
И КРИТЕРИИ ДЛЯ ОЦЕНКИ УРОВНЯ
ПРИ ЭКОЛОГИЧЕСКОМ МОНИТОРИНГЕ …………………………
8

1.1. Сопоставление абсолютных величин изучаемого свойства или
его производных с соответствующими данными за аналогичный по 
продолжительности временной период по той же территории ...……
11

1.2. Сопоставление абсолютных величин изучаемого свойства или 
его производных на какой-либо территории с соответствующими 
данными за аналогичный по продолжительности временной период 
для другой территории или территориального образования ………...
12

1.3. Оценка абсолютных величин или относительных показателей
частоты изучаемых характеристик окружающей среды с применением 
параметрических критериев – средних арифметических и 
среднеквадратических (стандартных) отклонений …………………...
13

1.4. Оценка абсолютных величин или относительных показателей
частоты изучаемых характеристик окружающей среды с применением 
непараметрических критериев – медиан и их доверительных 
границ …………………………………………………………………...
18

2. СТАТИСТИЧЕСКИЕ МЕТОДЫ ИЗУЧЕНИЯ 
И КРИТЕРИИ ДЛЯ ОЦЕНКИ СТРУКТУРЫ 
ПРИ ЭКОЛОГИЧЕСКОМ МОНИТОРИНГЕ …………………………
21

3. СТАТИСТИЧЕСКИЕ МЕТОДЫ ИЗУЧЕНИЯ
И КРИТЕРИИ ДЛЯ ОЦЕНКИ ДИНАМИКИ
ПРИ ЭКОЛОГИЧЕСКОМ МОНИТОРИНГЕ …………………………
28

3.1. Анализ многолетней динамики ……………………………………
30

3.1.1. Подготовка исходных динамических рядов для анализа многолетней 
динамики …………………………………………………………...
37

3.1.2. Визуальная оценка графика многолетней динамики …………..
37

3.1.3. Ориентировочная оценка тенденции с применением простейших 
методов сглаживания динамического ряда …………............
38

Оглавление

4

3.1.4. Выявление и замена в изучаемом динамическом ряду резко 
отличающихся («аномальных», «выскакивающих») уровней ряда. 
Расчет среднемноголетних уровней и их доверительных границ ….
40

3.1.5. Оценка влияния длительно действующих факторов, участвующих 
в формировании прямолинейной тенденции многолетней 
динамики (парабола первого порядка) ……………………….................
46

3.1.6. Расчет основных количественных показателей многолетней 
динамики, характеризующих скорость изменения динамического 
ряда ………………………………………………………………………
49

3.1.7. Оценка длительно действующих факторов, формирующих 
криволинейную тенденцию многолетней динамики ……………..........
55

3.1.8. Оценка цикличности в многолетней динамике …………………
62

3.1.9. Анализ нерегулярных колебаний в многолетней динамике ……
65

3.1.10. Прогнозирование при анализе многолетней динамики ………
66

3.2. Анализ годовой (помесячной) динамики …………………………
68

3.2.1. Подготовка исходных данных для проведения анализа годовой (
помесячной) динамики ……………………………………..................
70

3.2.2. Простейшие статистические методы изучения годовой 
(помесячной) динамики ……………………………………………………...
72

3.2.3. Анализ годовой (помесячной) динамики с характеристикой
круглогодичной, сезонной и внесезонной форм ее проявления ………
79

4. ОЦЕНКА РЕАЛЬНОГО (ЭПИДЕМИОЛОГИЧЕСКОГО) РИСКА 
ЗДОРОВЬЮ НАСЕЛЕНИЯ НА ПОПУЛЯЦИОННОМ УРОВНЕ …
94

4.1. Методологические принципы оценки реального (эпидемиологического) 
риска здоровью на популяционном уровне ………………
96

4.2. Расчет фоновых уровней для показателей здоровья населения 
на популяционном уровне ……………………………………………...
101

4.3. Расчет показателей реального (эпидемиологического) риска
здоровью населения на популяционном уровнем …………………….
119

4.4. Комплексная оценка реального (эпидемиологического) риска
здоровью населения на популяционном уровне ……………………...
127

ЗАКЛЮЧЕНИЕ …………………………………………………………..
132

ПРИЛОЖЕНИЯ 
(ОСНОВНЫЕ СТАТИСТИЧЕСКИЕ ТАБЛИЦЫ) ……………………
133

Оглавление

5

Приложение 1. Критические значения двустороннего t-критерия 
Стьюдента ……………………………………………………………….
133

Приложение 2. Значения критерия Шовене (коэффициента Uт) для 
выявления аномальных (резко отличающихся, «выскакивающих») 
показателей ……………………………………………………………..
139

Приложение 3. Верхняя и нижняя границы доверительного интервала 
медианы ……………………………………………………………
140

Приложение 4. Критические значения одностороннего F-критерия 
Фишера (для проверки направленных гипотез при p = 0,05) ………..
143

Приложение 5. Критические значения одностороннего F-критерия 
Фишера (для проверки направленных гипотез при p = 0,01) ………..
148

Приложение 6. Величины угла φ (в радианах) для разных процентных 
долей ………………………………………………………………..
153

СПИСОК ЛИТЕРАТУРЫ ……………………………………………….
156

Оглавление

6

ВВЕДЕНИЕ

Учебное пособие «Методология аналитических исследований при 

мониторинге окружающей среды» ориентировано на углубленную подготовку 
студентов специальности 20.03.01 «Техносферная безопасность» в 
области аналитических исследований и профильной интерпретации сведений 
о компонентах окружающей среды, собираемых при ведении экологического 
мониторинга. Подобранные, адаптированные и реализованные 
методы аналитических исследований, базирующиеся на практическом 
применении математической статистики, обеспечат достоверную информацию 
об изучаемых свойствах объектов, явлениях и процессах.

В Российской Федерации в настоящее время параллельно реализу-

ются две взаимосвязанные государственные системы динамического 
наблюдения, анализа, оценки и прогнозирования состояния окружающей 
природной среды, включая среду обитания человека, а также здоровья 
населения – экологический мониторинг и социально-гигиенический мониторинг. 
Единая государственная система экологического мониторинга
служит важнейшим инструментом охраны окружающей среды, что обусловлено 
актуальностью проблемы предупреждения неблагоприятного 
воздействия на её компоненты факторов различного генезиса, как природных, 
так и антропогенной техногенной нагрузки. В обширную номенклатуру 
объектов экологического мониторинга как приоритетные включены 
атмосферный воздух, водные объекты (поверхностные и подземные воды), 
почва, экологические системы в целом и источники их загрязнения. К задачам 
системы экологического мониторинга относятся: наблюдение за источниками 
и факторами антропогенного техногенного воздействия на 
окружающую природную среду; оценка состояния окружающей природной 
среды и динамическое наблюдение за происходящими в ней процессами 
под влиянием антропогенной техногенной нагрузки; прогноз изменений 
и оценка прогнозируемого состояния окружающей природной среды. 
Соответственно этапами ведения мониторинга окружающей среды являются 
сбор данных, статистическая обработка и анализ информации, моделирование 
и прогноз с выходом на разработку оптимизационных управленческих 
решений. Социально-гигиенический мониторинг представляет 
собой государственную систему перманентных наблюдений и анализа
состояния здоровья населения и среды обитания. Основными задачами, решаемыми 
при ведении социально-гигиенического мониторинга, являются: 

Введение

7

оценка, выявление изменений и прогноз состояния здоровья населения и 
среды обитания; определение причинно-следственных связей между состоянием 
здоровья населения и воздействием факторов среды обитания; установление 
вредного воздействия на человека факторов среды обитания и 
разработка управленческих решений в целях его устранения. Таким образом, 
к ключевым целям систем экологического и социально-гигиенического 
мониторинга относится максимальное снижение влияния фактора неопределенности, 
повышение эффективности и целенаправленности разрабатываемых 
управленческих решений в условиях относительного дефицита 
исходной информации. Одной из приоритетных задач в условиях 
накопления значительных объемов информации о компонентах системы 
«окружающая среда – здоровье населения» является совершенствование и 
унификация информационно-аналитических технологий, включая: критерии 
для оценки состояния среды обитания и здоровья населения на популяционном 
уровне, оценку потенциального и реального (эпидемиологического) 
риска здоровью населения.

При деятельности по выявлению и количественной характеристике 

причинно-следственных связей между комплексом неблагоприятных факторов 
окружающей среды и состоянием здоровья населения теоретическим 
базисом являются экологическая эпидемиология (Environmental 
Epidemiology) и эпидемиология неинфекционных заболеваний (Epide-
miology of Noninfectious Diseases), а методологическим – исследования 
эпидемиологического типа (Studies of the Epidemiological Type), включая 
ретроспективный, оперативный и проспективный (прогнозирование) анализ, 
а также анализ по факторам риска.

В настоящем учебном пособии представлены основы аналитических 

исследований эпидемиологического типа, включая методы анализа уровня, 
структуры, многолетней и годовой (помесячной) динамики, пространственной 
характеристики исследуемых свойств объектов, явлений и процессов. 
Подробно изложены алгоритм авторского метода оценки реального (
эпидемиологического) риска здоровью населения, принципы интерпретации 
результатов. Умение проводить аналитические исследования 
данных экологического мониторинга является компетенцией и навыком, 
который потребуется обучающимся при проведении научных исследований 
и разработок, выполнении проектных заданий и подготовке выпускных 
квалификационных работ [1, 3, 5, 7, 8].

1. Статистические методы изучения и критерии для оценки уровня при экологическом...

8

1. СТАТИСТИЧЕСКИЕ МЕТОДЫ ИЗУЧЕНИЯ

И КРИТЕРИИ ДЛЯ ОЦЕНКИ УРОВНЯ

ПРИ ЭКОЛОГИЧЕСКОМ МОНИТОРИНГЕ

Методологические подходы к оценке уровней (интенсивности) изу-

чаемых характеристик окружающей среды, чаще всего измеряемых в метрической 
абсолютной шкале (шкале отношений), достаточно универсальны. 
Исходными данными при этом являются сведения, представленные в 
виде вариационных или динамических рядов. 

Вариационный ряд представляет собой статистический ряд, демон-

стрирующий распределение изучаемого свойства (явления, процесса) по 
величине какого-либо количественного признака, отдельные значения которого, 
расположенные в порядке возрастания или убывания, называются 
вариантами. 

Динамический (временной) ряд – это ряд однородных величин

(числовых значений изучаемого свойства, явления или процесса), расположенных 
в хронологическом порядке и демонстрирующих их изменение
по времени. Формирующие динамический ряд числовые значения называются 
уровнями ряда. 

Варианты вариационных рядов и уровни ряда для динамических ря-

дов при оценке уровней (интенсивности) изучаемых характеристик окружающей 
среды могут представлять собой: 

• дискретные или непрерывные абсолютные величины (Absolute 

value, AV) изучаемого свойства (явления, процесса), например, измеренные 
концентрации загрязнителей в атмосферном воздухе, воде или почве;

• относительные показатели частоты (интенсивные показатели, 

Relative Frequency Indicators, RFI) – показатели уровня (интенсивности) 
изучаемого свойства (явления, процесса), совершающегося в определенной 
среде, которая его продуцирует. При этом свойство (явление, процесс) 
и продуцирующая его среда являются генетически связанными друг 
с другом разнородными массами, например, интенсивные показатели заболеваемости 
экологически зависимой нозологической формой, выявляемые 
среди жителей какого-либо города, сельского района или региона 
(области или края). Относительные показатели частоты применяются: 
во-первых, для определения уровня (интенсивности) свойства (явления, 

1. Статистические методы изучения и критерии для оценки уровня при экологическом...

9

процесса); во-вторых, для сопоставления уровней (интенсивности) свойства (
явления, процесса) в различных совокупностях и, в-третьих, для 
изучения изменений уровня (интенсивности) свойства (явления, процесса) 
в динамике. Вычисление интенсивного показателя производится с 
применением формулы (1):

.
(1)

В качестве величины основания интенсивного показателя использу-

ется целое число – 100 (проценты, %), 1000 (промилле, о/оо), 10000 (проде-
цимилле, о/ооо) или 100000 (просантимилле, о/оооо) 

При ведении мониторинга окружающей среды и социально-гиги-

енического мониторинга изучение причинно-следственных связей между 
опасными и вредными факторами окружающей среды и состоянием здоровья 
населения относится к предметному полю экологической эпидемиологии (
Environmental Epidemiology). Результаты анализа различных индикаторов (
маркеров) здоровья на популяционном уровне (например, общие и 
специальные показатели смертности, заболеваемость экологически обусловленными 
и экологически зависимыми нозологическими формами) позволяют 
идентифицировать и оценить долевое участие различных вредных и 
опасных факторов среды обитания. К интенсивным показателям состояния 
здоровья относятся, например, рассчитываемые на 100 тыс. населения изучаемой 
территории по формуле (2) интенсивный показатель заболеваемости 
злокачественными новообразованиями (Incidence Rate, IR) и по 
формуле (3) интенсивный показатель распространенности злокачественных 
новообразований (Prevalence Rate, PR):

;
(2)

; (3)

1. Статистические методы изучения и критерии для оценки уровня при экологическом...

10

•
среднее арифметическое (Mx) представляет собой сумму значений 

всех вариант (уровней ряда) вариационного (динамического) ряда, деленную 
на число суммированных вариант (уровней ряда) – абсолютных величин 
или относительных показателей частоты изучаемого свойства (явления, 
процесса). Среднее арифметическое рассчитывается по формуле (4):

,
(4)

где Mx – среднее арифметическое вариационного (динамического) ряда;
Xi – варианты (уровни ряда) вариационного (динамического) ряда; N –
число вариант (уровней ряда) в вариационном (динамическом) ряду.

Средняя ошибка среднего арифметического, определяющая пре-

делы колебания размеров вычисленного среднего арифметического под 
влиянием комплекса случайных причин рассчитывается путем деления 
среднеквадратического (стандартного) отклонения () на квадратный корень 
от числа наблюдений в выборке (N) по формуле (5):

.
(5)

При работе с малой выборкой (N < 30) рекомендуется при расчете 

средней ошибки уменьшать число наблюдений на единицу – (N – 1).

Заключение об уровне (интенсивности) изучаемого свойства, явле-

ния или процесса может быть получено при использовании различных 
критериев оценки, к числу которых относятся:

• процедура сопоставления абсолютных величин изучаемого свой-

ства (явления, процесса) или его производных (относительных показателей 
частоты, средних арифметических) с соответствующими данными за 
аналогичный по продолжительности временной период по той же территории (
например, сравнение с предыдущим календарным годом, кварталом 
или месяцем);

• процедура сопоставления абсолютных величин изучаемого свой-

ства (явления, процесса) или его производных (относительных показателей 
частоты, средних арифметических) на какой-либо территории с соответствующими 
данными за аналогичный по продолжительности временной 
период для другой территории или территориального образования (например, 
сравнение с данными по другому населенному пункту или по области);

1.1. Сопоставление абсолютных величин изучаемого свойства или его производных...

11

• процедура оценки абсолютных величин или относительных показа-

телей частоты изучаемых характеристик окружающей среды с применением 
параметрических критериев – средних арифметических и среднеквадратических (
стандартных) отклонений;

• процедура оценки абсолютных величин или относительных показа-

телей частоты изучаемых характеристик окружающей среды с применением 
непараметрических критериев – медиан и их доверительных границ.

1.1. Сопоставление абсолютных величин 
изучаемого свойства или его производных 

с соответствующими данными

за аналогичный по продолжительности 
временной период по той же территории

Сопоставление абсолютных величин изучаемого свойства (явления, 

процесса) или его производных (относительных показателей частоты, 
средних арифметических) с соответствующими данными за аналогичный 
по продолжительности временной период по той же территории может 
применяться лишь в целях сугубо ориентировочной оценки тенденции. 
Чаще всего при этом производится сопоставление данных за оцениваемый
период (например, за месяц, с нарастающим итогом, за квартал или год) с
данными за аналогичный по продолжительности временной период по той 
же территории. Характер тенденций определяется по направленности и 
статистической достоверности различий сопоставляемых величин (рост, 
снижение или стабилизация), а также ее количественных критериев (абсолютный 
рост или снижение, темп прироста и кратность различий).

Необходимо учитывать, что подобная изолированная оценка уров-

ней (интенсивности) изучаемых характеристик окружающей среды по результатам 
их сопоставления с данными за аналогичный по продолжительности 
временной период по той же территории методологически слабо 
обоснована. Рассматриваемая процедура фактически не выходит за рамки 
сравнения двух случайных величин, произвольно взятых из бесконечной совокупности 
реализаций случайного процесса. Вычисление, на сколько 
процентов сопоставляемые величины отличаются друг от друга, нередко 

1. Статистические методы изучения и критерии для оценки уровня при экологическом...

12

порождает ошибочные представления об истинной динамике изучаемого 
свойства (явления, процесса), которые могут, например, формировать 
ошибочные суждения об эффективности реализуемых оптимизационных 
мероприятий профилактической и оздоровительной направленности.

1.2. Сопоставление абсолютных величин 
изучаемого свойства или его производных

на какой-либо территории с соответствующими 
данными за аналогичный по продолжительности

временной период для другой территории

или территориального образования

Позволяет ориентировочно оценить относительную интенсивность и 

степень сопряженности тенденций изучаемых свойств (явлений, процессов) 
на сопоставляемых однотипных территориях или в сравнении с территориальным 
образованием. Следует отметить, что обеспечение обоснованности 
подобной процедуры требует, чтобы сопоставляемые территории 
были бы достаточно близки по своим основным характеристикам. 

Так, например, методологически правильным является сопоставле-

ние данных по городу с данными по другому городу или по городам региона (
области, края), а данных по сельскому району – с данными по другому 
сельскому району или по сельским районам региона (области, края). 

В тех случаях, когда необходимо провести сравнение показателей 

здоровья населения на территориях с контрастно различающимися уровнями 
антропогенной техногенной нагрузки на окружающую среду (например, 
заболеваемости экологически зависимыми нозологическими формами) использование 
обычных интенсивных показателей частоты данных заболеваний 
может привести к ошибочным выводам. Объективность результатов 
сравнительного анализа заболеваемости обеспечивается применением, во-
первых, специальных показателей, рассчитываемых для однозначных воз-
растно-половых и социально-профессиональных групп населения или, во-
вторых, стандартизованных показателей, нивелирующих различия в воз-
растно-половой и социально-профессиональной структуре населения сопоставляемых 
территорий (территориальных образований).

1.3. Оценка абсолютных величин или относительных показателей частоты...

13

1.3. Оценка абсолютных величин или относительных 

показателей частоты изучаемых характеристик 

окружающей среды с применением параметрических 

критериев – средних арифметических

и среднеквадратических (стандартных) отклонений

Является надежной базой для оценки уровня (интенсивности) изуча-

емых характеристик окружающей среды в тех случаях, когда в их многолетней 
динамике отсутствуют выраженные тенденции (рост или снижение) 
и периодические колебания (цикличность). 

В качестве обычных уровней (интенсивности) для различных харак-

теристик окружающей среды при ведении экологического мониторинга
принимаются их среднемноголетние значения, которые рассчитываются
как средние арифметические (М) за достаточно продолжительный период 
времени (например, за период 10 и более календарных лет). Так как расчет 
средних арифметических допускается только в отношении наборов данных, 
соответствующих закону нормального (симметричного) распределения 
Гаусса–Ляпунова, перед расчетом среднемноголетних уровней для характеристик 
окружающей среды обязательна проверка исходных динамических 
рядов на наличие резко отличающихся («аномальных», «выскакивающих») 
величин, которые при их обнаружении подлежат исключению. 
Для идентификации таких, резко отличающихся величин в динамических 
или вариационных рядах из результатов измерений характеристик окружающей 
среды, применяются специальные математические критерии, в 
том числе критерий Шовене (рис. 1; прил. 2).

Оцениваемые абсолютные величины или относительные показатели

частоты сравниваются со значениями их средних арифметических, которые 
рассчитываются за многолетний период, определяются величины и 
статистическая достоверность различий между ними. 

При наличии выраженной цикличности изучаемой характеристики

окружающей среды подобная оценка должна проводиться с учетом результатов 
анализа многолетней динамики. В подобных случаях необходимо 
производить расчеты среднемноголетних уровней раздельно для периодов 
высокого и низкого уровня (интенсивности) изучаемых характеристик 
окружающей среды.