Математическая обработка результатов эксперимента

М. А. ФАДДЕЕВ 
МАТЕМАТИЧЕСКАЯ ОБРАБОТКА 
РЕЗУЛЬТАТОВ ЭКСПЕРИМЕНТА 
Учебное пособие 
Москва    Вологда 
«Инфра-Инженерия» 
2024 

УДК 519.24 
ББК 22.161 
Ф15 
 
 
 
Рецензенты: 
доктор физико-математических наук, заведующий кафедрой теоретической 
физики физического факультета Нижегородского государственного 
университета им. Н. И. Лобачевского Бурдов Владимир Анатольевич; 
доктор педагогических наук, заведующая кафедрой педагогики и управления 
образовательными системами физического факультета Нижегородского 
государственного университета им. Н. И. Лобачевского  
Масленникова Юлия Владимировна 
 
 
 
 
 
Фаддеев, М. А. 
Ф15   Математическая обработка результатов эксперимента : учебное пособие / М. А. Фаддеев. - Москва ; Вологда : Инфра-Инженерия, 2024. - 
100 с. : ил., табл. 
ISBN 978-5-9729-2135-5 
 
Изложены методики расчета погрешностей результатов измерений, построения 
доверительных интервалов для измеряемой величины, исследования линейной корреляции переменных величин, различные варианты расчета параметров линейных аппроксимирующих функций методом наименьших квадратов, а также содержатся 
краткие сведения об основных понятиях теории вероятностей. Прилагаются таблицы 
коэффициентов Стьюдента и функции Лапласа, которые часто применяются при обработке результатов эксперимента. 
Для студентов естественно-научных и технических высших учебных заведений, 
начинающих осваивать методы математической обработки экспериментальных результатов. Методы, изложенные в пособии, с успехом применяют для повторения магистранты и аспиранты в своей научной работе. Отдельные разделы могут быть использованы школьниками старших классов, занимающимися научной работой в рамках НОУ. 
 
УДК 519.24 
ББК 22.161 
 
 
 
ISBN 978-5-9729-2135-5 
” Фаддеев М. А., 2024 
 
” Издательство «Инфра-Инженерия», 2024 
 
” Оформление. Издательство «Инфра-Инженерия», 2024 

ОГЛАВЛЕНИЕ 
 
ПРЕДИСЛОВИЕ  
......................................................................................................... 4 
ГЛАВА 1. Измерение и погрешность результата  ................................................... 6 
ГЛАВА 2. Прямые измерения  
................................................................................. 10 
† 2.1. Систематические погрешности или поправки  .................................... 10 
† 2.2. Случайные погрешности прямых измерений  
...................................... 11 
† 2.3. Учет приборной погрешности ............................................................... 14  
† 2.4. Абсолютная и относительная погрешности 
......................................... 16 
† 2.5. Анализ промахов  .................................................................................... 18 
ГЛАВА 3. Косвенные измерения  
............................................................................ 22 
† 3.1. Расчет абсолютной погрешности косвенных измерений  
................... 22 
† 3.2. Использование относительных погрешностей  ................................... 24 
ГЛАВА 4. Неравноточные измерения 
..................................................................... 31 
ГЛАВА 5. Метод наименьших квадратов  
.............................................................. 34 
† 5.1. Принцип метода  ..................................................................................... 34 
† 5.2. Линейная аппроксимация  
...................................................................... 37 
† 5.3. Доверительные интервалы для линейной аппроксимации  
................ 40 
† 5.4. Линейная аппроксимация при повторных измерениях  
...................... 45 
† 5.5. Доверительные интервалы в случае повторных измерений  
.............. 48 
† 5.6. Приведение зависимостей к линейному виду  
..................................... 52 
† 5.7. Примеры использования метода наименьших квадратов  
.................. 55 
ГЛАВА 6. Линейная корреляция  ............................................................................ 64 
† 6.1. Функциональные и стохастические зависимости  
............................... 64 
† 6.2. Расчет коэффициента корреляции  
........................................................ 65 
† 6.3. Доверительный интервал для коэффициента корреляции  
................. 70 
ПРИЛОЖЕНИЕ 1. Некоторые сведения из теории вероятностей  ...................... 74 
1. Вероятность случайного события  .............................................................. 74 
2. Случайные величины  
................................................................................... 76 
3. Основные характеристики случайных величин  
........................................ 80 
4. Центральная предельная теорема и эмпирические распределения ......... 83 
5. Основные характеристики эмпирических распределений ....................... 86 
ПРИЛОЖЕНИЕ 2. Значащие числа  
........................................................................ 89 
ПРИЛОЖЕНИЕ 3. Распределение Стьюдента  
...................................................... 91 
ПРИЛОЖЕНИЕ 4. Значения функции Лапласа  .................................................... 94 
ЛИТЕРАТУРА  .......................................................................................................... 95 
 
 
3 

Математика, подобно жернову, перемалывает то, что под 
него засыпают, и как, засыпав лебеду, вы не получите пшеничной муки, так, исписав целые страницы формулами, вы 
не получите истины из ложных предпосылок. 
Томас Гексли, естествоиспытатель. 
 
 
ПРЕДИСЛОВИЕ 
 
Работа физика-экспериментатора обязательно содержит этап математической обработки результатов проведенных измерений. Современная научноисследовательская аппаратура имеет встроенные процессоры и сопряжение  
с персональными компьютерами, что позволяет автоматизировать определенные этапы математической обработки получаемой информации. Этот процесс 
облегчает технику вычислений, но требует от исследователя принципиального 
знания используемых методов, их достоинств, недостатков и границ их применимости.  
Несмотря на имеющуюся обширную библиотеку специальной литературы 
по математической обработке результатов экспериментов, студенты, приступающие к изучению университетского курса физики, находятся в сложном положении. С первых дней обучения они вынуждены серьезно заниматься экспериментальной физикой в учебных лабораториях. В то же время современная 
средняя школа не дает специальных знаний по прикладной математике, достаточных для грамотной обработки результатов измерений. Серьезные учебные 
пособия требуют предварительной подготовки по разделам высшей математики 
в пределах нескольких семестров университетского курса. Строгое математическое обоснование методов обработки результатов измерений базируется на теоремах математического анализа, на теории вероятностей и других разделах 
высшей математики, которые студенты изучают не только на первом, но и на 
втором и третьем курсах. В последние годы стали широко доступными специализированные программные пакеты для обработки экспериментальных результатов. Однако эти программные средства также предполагают определенный 
уровень начальной математической подготовки пользователя. 
С другой стороны, существует множество «методичек», которые наполнены огромным количеством формул, без объяснений и выводов. Подобная литература предполагает бессмысленное зазубривание, в результате читатели часто 
используют формулы в тех условиях, когда они неприменимы.  
Сложившаяся ситуация привела к необходимости создания определенной 
концепции обучения студентов первого курса методике элементарной обработки экспериментальных результатов. Многие положения должны излагаться без 
доказательств, но в таких формулировках, чтобы впоследствии не возникали 
противоречия с выводами разделов высшей математики, изучаемых в следующих семестрах. 
Основная его цель данного пособия - дать возможность студентам с первой недели лабораторного практикума проводить корректную математическую 
4 

обработку результатов измерений физических величин. Учебное пособие содержит описание методик расчета погрешностей измеряемых величин, метода 
наименьших квадратов, анализа корреляции переменных величин. Отсутствие 
доказательств используемых теорем автор пытался (хотя бы частично) скомпенсировать строгой последовательностью изложения материала. Кроме того,  
в приложениях приведены элементарные сведения, необходимые для понимания описанных методов, и таблицы значений специальных функций, часто 
применяемых при обработке экспериментальных результатов. 
Многолетний опыт преподавания экспериментальной физики привел автора к необходимости включения в пособие приложения о значащих цифрах. Ещё 
одно приложение о распределении Стьюдента предназначено в полном объеме 
для студентов второго и более старших курсов. В результате предлагаемое 
учебное пособие, по мнению автора и его коллег, станет полезным даже студентам старших курсов, магистрантам и аспирантам любых естественнонаучных специальностей при проведении экспериментальных исследований. 
Автор в течение многих лет руководит работой научного общества учащихся, которое функционирует при физическом факультете Нижегородского 
государственного университета им. Н. И. Лобачевского. Выяснилось, что 
школьникам, начинающим проводить самостоятельные экспериментальные исследования, требуются знания по элементарной методике вычисления погрешностей результатов, с которой они могут ознакомиться по данному учебному 
пособию. 
Автор искренне благодарит всех сотрудников физического факультета 
Нижегородского госуниверситета, кто своими советами и рекомендациями способствовал появлению этого учебного пособия. Особую признательность автор 
выражает доцентам Андрееву П. В. и Гажулиной А. П.  
 
 
5 

ГЛАВА 1. ИЗМЕРЕНИЕ И ПОГРЕШНОСТЬ РЕЗУЛЬТАТА 
 
Физика представляет собой важнейшую часть естествознания и по своей 
сути является наукой экспериментальной. Это значит, что физика основную 
информацию получает путем измерений. 
Процесс измерения всегда представляет собой сравнение измеряемой величины с эталоном. Эталоном является некоторая другая величина (такой же 
размерности), принимаемая за единицу измерения. Сравнение редко осуществляется непосредственным наложением эталона на исследуемый объект, чаще 
используется какой-либо прибор. 
Пример 1. Необходимо измерить массу груза, который используется в лабораторной работе «Машина Атвуда». Измерительным прибором являются рычажные весы. Масса груза сравнивается с эталонами массы, которые называются гирями. 
Пример 2. В лабораторной работе «Изучение упругих свойств твердых тел» 
необходимо измерить диаметр проволоки. В качестве измерительного прибора 
используется штангенциркуль. Диаметр проволоки сравнивается с миллиметровой 
шкалой, снабженной нониусом. Эталонами в этом случае являются деления 
шкалы, т. е. расстояния между рисками. 
Обратим внимание на то, что измеряемая величина в принципе не выражается точно целым количеством эталонных значений. Рассмотрим более тщательно измерение длины металлического стержня, используемого в лабораторной работе «Физический маятник». Еще до проведения измерений мы знаем, 
что длина стержня есть физическая величина, имеющая определенное положительное скалярное значение L0, но оно нам неизвестно.  
В качестве эталона можно взять мерную ленту с делениями, равными 1 см. 
Если в длине стержня уложилось 51 сантиметровое эталонное значение, то мы 
говорим, что результат измерения равен L1 = 51 см. Можно ли утверждать, что 
значение длины стержня L0 равно точно 51 см"  
При более внимательном рассмотрении оказывается, что длина стержня не 
совсем точно совпадает с отрезком длиной 51 см. Значит L0 z L1 , хотя L1 | L0. 
Мы получили приближенный результат. 
Для уточнения результата необходимо взять другой измерительный прибор, например, рулетку с миллиметровыми делениями. Пусть измерение длины 
стержня рулеткой дает результат L2 = 513 мм. Похоже, что мы получили более 
точное значение измеряемой величины. 
Но вновь возникает вопрос: действительно ли значение 513 мм является 
истинной длиной стержня" Если мы возьмем еще один прибор - какой-нибудь 
лазерный интерферометр - и получим значение длины стержня в микронах, то 
новый результат будет ближе к истинному значению L0" Кажется, что да. Будет ли полученный результат измерения абсолютно точно совпадать с истинным значением измеряемой величины" Возможно, нет. 
Таким образом, мы пришли к проблеме точности измерения или, более 
корректно говоря, к проблеме определения погрешности результата проведенного измерения.  
6 

Сначала зададим два важных вопроса:  
1.Можно ли абсолютно точно измерить исследуемую физическую величину"  
2.И нужно ли нам это" 
На первый вопрос ответим отрицательно. Так как любой эталон всегда 
имеет конечный размер, то нет оснований полагать, что в измеряемой величине 
всегда точно укладывается целое число эталонов. 
Можно сформулировать следующее общее утверждение: 
Измерение физической величины не может быть выполнено абсолютно точно. Любое измерение дает приближенный результат, иначе говоря, 
содержит погрешность измерения. 
Погрешностью измерения называется разность между истинным значением измеряемой величины A и результатом измерения ai  
 
 
А  аi.  
(1.1) 
 
На второй вопрос ответим также отрицательно. Абсолютная точность - 
понятие идеальное, а в экспериментальной физике - бесполезное. 
Нет смысла в лабораторной работе «Машина Атвуда» проводить измерение массы перегрузка с точностью до одного микрограмма. Измерять диаметр 
проволоки в лабораторной работе «Изучение упругих свойств твердых тел» достаточно с точностью до сотой доли миллиметра. 
Экспериментальная физика удовлетворяется приближенными результатами измерения. Но при этом необходимо знать величину погрешности результата измерения.  
Обратим внимание, что выражение (1.1) нельзя использовать для расчета 
погрешности, т. к. сама измеряемая величина A нам неизвестна. 
Прежде всего заметим, что погрешность результата зависит от используемого измерительного прибора. Многие приборы имеют шкалу с делениями. 
Разность значений, выражаемых соседними делениями, называется ценой 
наименьшего деления (ЦНД). У землемерной ленты ЦНД = 1 см, у плотницкой рулетки ЦНД = 1мм, у микрометра ЦНД = 0,01 мм и т. д.  
Цена наименьшего деления не обязательно является длиной. Электроизмерительные приборы имеют ЦНД, выраженную в единицах силы тока, электрического напряжения и т. д. Например, ЦНД может быть равна 0,1 А; 1 мA; 
5 мкА; 0,05 В и т. п. Если прибор не стрелочный, а имеет цифровое табло, то 
ценой наименьшего деления является единица младшего разряда табло (т. е. 
минимальная разность отображаемых значений).  
Следует помнить, что измерять величину, меньшую, чем цена наименьшего деления прибора, данным прибором некорректно С помощью линейки 
с ЦНД = 1 см нельзя определить количество миллиметров, содержащихся в измеряемом отрезке. Для этого необходимо взять вторую линейку с ЦНД = 1 мм.  
Из вышеприведенного описания процесса измерения можно сделать вывод, что разность (А – аi) не может превышать ЦНД. Значит, чем меньше ЦНД, 
тем точнее прибор и тем меньше погрешность результата. 
7 

Может быть, в качестве погрешности взять ЦНД" Тогда мы получим верхнюю границу возможной погрешности. Кажется, что для уменьшения погрешности результата достаточно взять более точный прибор, т. е. прибор с меньшей 
ЦНД. 
К сожалению, проблема является более сложной. 
Оказывается (вы в этом убедились при выполнении лабораторных работ), 
что если один и тот же человек повторит измерения одной и той же величины 
одним и тем же прибором в одних и тех же условиях, то могут получиться разные результаты.  
Так, например, в лабораторной работе «Машина Атвуда» время падения 
груза измеряется с помощью электронного секундомера, ЦНД которого 0,02 с. 
При выполнении работы 5 раз измерялось в одинаковых условиях время падения одного и того же груза с одной и той же высоты. Были получены следующие результаты: 5,08; 5,04; 5,06; 5,06; 5,04 с. Некоторые числа из этой серии 
измерений отличаются друг от друга на величину бyльшую, чем 0,02 с, поэтому 
их расхождение нельзя объяснить погрешностью прибора.  
Дело в том, что «неизменность (идентичность) условий эксперимента» - 
понятие идеализированное и, строго говоря, нереальное. Мы живем в мире, 
наполненном огромным множеством взаимодействий между объектами. Причем интенсивность этих взаимодействий почти всегда изменяется со временем. 
В приведенном выше примере на время падения груза влияют движение 
воздуха (дуновения ветра), флуктуации плотности воздуха, пыль, вибрация 
установки, вызванная движением окружающих тел и т. д.  
Кроме этого, на результат измерения влияют процессы внутри прибора. 
Даже если прибор - простая деревянная линейка, расстояния между делениями 
несколько изменяются с повышением температуры окружающего воздуха 
вследствие теплового расширения или из-за изменения влажности. Если прибор 
электронный, то его показания зависят от наводок и скачков напряжения в сети 
питания, несмотря на встроенный блок стабилизации. 
Наиболее важными являются два обстоятельства: 
1. Причин, искажающих результат измерения, очень много. Хотя каждая 
причина мало влияет на результат, их совокупное действие может привести к 
сильному отличию величин А и аi, т. е. к большой погрешности.  
2. Самое печальное, что подобные погрешности невозможно устранить и 
величины этих погрешностей невозможно заранее вычислить. Поэтому такие 
погрешности называют случайными. 
Случайная погрешность всегда присутствует в результате измерения, поэтому можно сделать важный вывод: 
Результат измерения является случайной величиной. 
На практике это утверждение означает, что при повторении в идентичных 
условиях измерений исследуемой физической величины А, вообще говоря, получаются неодинаковые числовые значения a1, a2, ..., аi. 
Одной из важнейших задач данного учебного пособия является количественный учет случайных погрешностей. 
8 

Прежде чем приступить к изложению конкретных методик, следует подразделить всевозможные измерения на прямые и косвенные. При прямых измерениях определяемая величина сравнивается с единицей измерения непосредственно с помощью измерительного прибора, который имеет шкалу, проградуированную в соответствующих единицах измерения. Значение физической величины считывается по шкале прибора.  
Примерами прямых измерений являются: измерение длины линейкой, времени секундомером и т. п. При определении массы с помощью рычажных весов 
подсчитывается сумма масс всех разновесов. 
При косвенных измерениях определяемая величина вычисляется по результатам прямых измерений других величин, с которыми она связана функциональной зависимостью. 
Примеры: 
1. Измерение периода колебаний T математического маятника. Для измерения T необходимо измерить время t, в течение которого совершается n колебаний. Затем следует вычислить период по формуле T = t / n. 
2. Измерение объёма цилиндра V. Для определения объёма цилиндра необходимо выполнить прямые измерения диаметра цилиндра d и высоты h,  
а затем вычислить объём по формуле V = Sd2h/4.  
3. Измерение массы электрона. Очевидно, что на чашку рычажных весов 
электрон положить не удастся. Неизвестно, что брать в качестве гирь - соответствующих эталонов массы. Ясно, что прямые методы при решении данной проблемы в принципе невозможны. Некоторые косвенные методы определения 
массы электрона базируются на измерениях отклонения пучков ускоренных 
электронов в электрических и магнитных полях. 
Следует подчеркнуть, что в косвенных измерениях определяемая величина 
вычисляется по результатам измерений других величин с помощью формул или 
других алгоритмов, полученных теоретическим путем. Именно методы теоретической физики делают возможными исследования очень малых и очень 
больших объектов природы (атомов, звезд и т. д.).  
Современная наука занимается в основном косвенными измерениями. Физиков интересуют, например, массы элементарных частиц и размеры галактик, 
измерить которые посредством прямого сравнения с эталоном невозможно, как 
невозможно и изготовление подходящих эталонов.  
 
 
9 

ГЛАВА 2. ПРЯМЫЕ ИЗМЕРЕНИЯ 
 
Погрешности прямых измерений целесообразно разделить на систематические, случайные и промахи. 
 
† 2.1. Систематические погрешности или поправки 
 
Систематические погрешности вызываются факторами, действующими 
либо одинаковым образом при повторных измерениях, либо изменяющимися 
по определённому закону. 
Систематические погрешности возникают из-за неправильного выбора метода измерения, неправильной установки прибора (например, «сбит» ноль, 
прибор установлен в горизонтальное положение вместо вертикального) и т. п. 
Систематическими являются ошибки при округлении математических и физических констант (например, таких, как число S, гравитационная постоянная, 
элементарный заряд и т. п.). Как правило, источники систематических погрешностей тщательно анализируются, выявляются причины этих ошибок, затем, по 
возможности, они устраняются. 
Иногда возможно изменить методику эксперимента так, что некоторая систематическая погрешность исчезает. Например, в лабораторной работе «Математический маятник» при определении ускорения свободного падения требуется измерить длину математического маятника. Для устранения систематической погрешности измерения длины часто используется разностный метод. Периоды колебаний T1 и T2 вычисляются для двух разных значений длины L1 и L2 
соответственно. Записав формулу периода математического маятника для двух 
длин, нетрудно получить следующее выражение для вычисления ускорения 
свободного падения: 

S
 
, (L1 z L2). 
2
1
2
4
T
T
L
L
g

2
2
2
1
В этой формуле систематические погрешности измерения длины маятника 
уничтожаются вычитанием. 
Заметим, что предложенный прием исключения систематической погрешности требует значительного отличия величин L1 и L2 и, следовательно, величин T1 и T2. Как будет показано в главе 3, при близких значениях L1 и L2 (а значит, T1 и T2) резко возрастает случайная погрешность результата, в данном случае искомой величины g. 
В других случаях систематические погрешности учитываются в виде поправок. Например, при измерении длины может быть рассчитана поправка  
на удлинение, вызванное изменением температуры. Можно вычислить поправку на выталкивающую силу воздуха при определении массы тела взвешиванием 
и т. п. 
10