Расчет погрешностей результатов измерений в табличных процессорах

Министерство образования и науки Российской Федерации

Уральский федеральный университет 

имени первого Президента России Б. Н. Ельцина

А. В. Столбовский, Е. П. Фарафонтова

Расчет погрешностей  
результатов измерений 
в табличных процессорах

Учебное пособие

Рекомендовано методическим советом  
Уральского федерального университета  
для студентов вуза, обучающихся по направлениям 
22.04.01 «Материаловедение и технологии материалов», 
22.04.02 «Металлургия», 12.04.02 «Оптотехника», 
08.04.01 «Строительство», 18.04.01 «Химическая технология»

Екатеринбург
Издательство Уральского университета
2017

УДК 004.4:528.088(075.8)
ББК 32.972.131.4я73+30.104я73
         С81

Рецензенты: лаборатория диффузии Института физики металлов УрО РАН (зав. лабораторией — д‑р техн. наук В. В. Попов); 
доц., канд. техн. наук Ю. В. Худорожкова (руководитель отдела 
содействия научным исследованиям Института машиноведения УрО РАН)

Научный редактор — проф., д‑р техн. наук М. Л. Лобанов

С81

Столбовский, А. В.
Расчет погрешностей результатов измерений в табличных процессорах : учебное пособие / А. В. Столбовский, 
Е. П. Фарафонтова.  — Екатеринбург : Изд‑во Урал.  
ун‑та, 2017. — 86 с.
ISBN 978‑5‑7996‑2095‑0

В пособии обсуждаются основные методы расчета погрешностей 

измерений экспериментальных данных в табличных процессорах 
применительно к техническим специальностям университета.

Пособие предназначено для обучающихся по программам магистратуры направлений 22.04.01 «Материаловедение и технологии 
материалов», 22.04.02 «Металлургия», 18.04.01 «Химическая технология», 08.04.01 «Строительство», 12.04.02 «Оптотехника».

Библиогр.: 15 назв. Рис. 15. Табл. 4.

УДК 004.4:528.088(075.8)
ББК 32.972.131.4я73+30.104я73

ISBN 978‑5‑7996‑2095‑0
© Уральский федеральный 
      университет, 2017

ПРЕДИСЛОВИЕ

Проводя любое измерение, следует помнить, что никакое 

измерение не может быть выполнено абсолютно точно. Результат всегда будет содержать некоторую ошибку. Измерения, 
которые были произведены при сравнении измерительных инструментов и приборов с эталонами, также содержат ошибку. 
Очевидно, что, измеряя с помощью такого инструмента некоторую величину, как правило, невозможно сделать ошибку 
измерения меньшей, чем та, которая определяется погрешностью измерительного устройства [1]. Соответственно, величина ошибки должна быть неотъемлемой частью представляемых 
экспериментальных данных.

Зачастую студенты пренебрегают в своих работах вычислением погрешностей, считая их несущественными, а если возникает необходимость, то сталкиваются с трудностями как 
в понимании методик оценки, так и в вычислениях погрешностей эксперимента, поскольку представляемые в литературе 
методики оценки погрешностей не ориентированы на использование современного программного обеспечения, которое 
имеется в компьютерных классах.

Настоящее пособие имеет целью ознакомить читателя с методиками расчета погрешностей в широко используемом программном пакете MS Excel, а также свободно распространяемых аналогах, таких как OpenOffice/LibreOffice Calc.
Учебное пособие составлено таким образом, чтобы читатель 

смог не только ознакомиться с конечными формулами, но и ра

Расчет погРешностей Результатов измеРений в табличных пРоцессоРах

зобраться, почему использование именно такой формулы необходимо, проанализировать вывод формулы, чтобы понять суть 
предлагаемых методик. Разделы, посвященные применению 
методик в табличных процессорах, позволят повысить уровень 
владения пакетами и освоить разработанные авторами методики расчета, которые помогут значительно упростить процесс 
расчета, сделать его наглядным и универсальным.

1. ТОЧНОСТЬ ИЗМЕРЕНИЯ.  
ТИПЫ ОШИБОК

Возникающие при измерении физических величин ошибки 

могут иметь различную природу, не только зависеть от погрешности прибора, заложенной его производителем, но и обуславливаться, например, некорректным считыванием показаний 
оператором с прибора или какими‑либо другими факторами, 
о которых порой невозможно даже предположить.

Очевидно, что оценивать ошибки необходимо еще потому, 

что, не зная каковы они, нельзя сделать достаточно точных 
выводов из эксперимента. Поэтому необходимо каким‑либо 
образом указать, насколько полученный результат может быть 
близок к истинному значению, иными словами указать, какова 
точность измерения [2].

Таким образом, в задачу измерений входит не только нахождение непосредственно самой величины, но также и оценка 
допущенной при измерении погрешности.

Ошибки измерения делят [1; 2] на систематические и случайные. Так, систематические ошибки вызываются факторами, действующими одинаковым образом при многократном 
повторении одних и тех же измерений. А случайные ошибки 
носят название случайных, потому что они имеют различия 
в отдельных измерениях, и эти различия обусловлены случайной, неизвестной нам составляющей, или по‑другому, действием случайного фактора. Также существует третий тип ошибок, с которыми приходится иметь дело — грубые ошибки, или 

Расчет погРешностей Результатов измеРений в табличных пРоцессоРах

промахи. Под промахом понимается ошибка, сделанная вследствие неверной записи показаний прибора, неправильно прочитанного отсчета и т. п.

Выделим три типа ошибок [1]:
1) систематические, величина которых одинакова во всех 

измерениях, проводящихся одним и тем же методом с помощью одних и тех же измерительных приборов;

2) случайные, величина их различна даже для измерений, 

выполненных одинаковым образом. Случайные ошибки обязаны своим происхождением ряду причин, действие которых 
неодинаково в каждом опыте и не может быть учтено;

3) промахи. Где, как правило, источником ошибок является недостаток внимания экспериментатора.

1.1. Систематические ошибки

Исключение систематических ошибок, которые в ряде случаев могут быть так велики, что полностью искажают результаты эксперимента, является одной из важнейших задач при 
проведении измерений. Систематические ошибки делят на четыре группы [1]:

1. Ошибки, природа которых известна и величина может 

быть достаточно точно определена. Такие ошибки могут быть 
устранены введением соответствующих поправок.

2. Ошибки известного происхождения, но неизвестной величины. К их числу можно отнести погрешность измерительных приборов. Очевидно, что нет никакого смысла пытаться 
с помощью приборов, где известна погрешность измерения, 
точнее измерять этим прибором, не прибегая к дополнительным методикам, повышающим точность измерения.

Систематические ошибки данного типа в общем не могут 

быть исключены, но их наибольшее значение, как правило, 

1. Точность измерения. Типы ошибок 

7

известно и его можно учитывать должным образом в дальнейшем.

3. Третья группа систематических ошибок — это ошибки, 

о существовании которых мы не подозреваем, хотя величина 
их может быть очень значительна. Сюда также можно отнести 
группу систематических ошибок, которые, хотя и не связаны непосредственно с измерительными операциями, могут 
существенным образом искажать результат измерений — это 
ошибки, например, обусловленные свойствами измеряемого объекта. Учет таких систематических ошибок, по рекомендациям в литературе, следует производить аналогично 
случайным ошибкам [1], если нет возможности доработать 
методику измерения, т. е. представлять их как случайную погрешность.

1.2. Вероятностные оценки ошибок.  
Законы распределения ошибок

При измерениях физических величин в тех случаях, когда 

основную роль играют случайные ошибки, все оценки точности измерения можно сделать только с некоторой вероятностью [1; 3]. Предполагается, что случайные ошибки образуются 
в результате совокупности ряда мелких, неучитываемых причин, каждая из которых вносит незначительный вклад в общую 
ошибку. Следует считать, что часть из этих ошибок положительна, часть — отрицательна. Общая ошибка, которая образуется в результате сложения таких элементарных ошибок, 
может иметь различные значения, но каждому из них будет соответствовать разная вероятность появления.
Теория вероятностей дает возможность оценить, какова будет вероятность появления ошибок той или иной величины.
Для того чтобы выявить случайную ошибку измерений, 

Расчет погРешностей Результатов измеРений в табличных пРоцессоРах

необходимо повторить измерение несколько раз. Если каждое 
измерение дает заметно отличающиеся от других измерений 
результаты, имеют дело с ситуацией, когда случайная ошибка 
играет существенную роль.
За наиболее вероятное значение измеряемой величины 
обычно принимают ее среднее арифметическое значение, 
вычисленное из всего ряда измеренных значений [1]. Это, 
соответственно, требует от экспериментатора проведения 
многократных измерений с накоплением достаточного для 
измерения с желаемой точностью массива данных, который 
в дальнейшем будет обработан.

1.3. Первичная обработка  
экспериментальных данных в Excel

Поскольку эксперимент, как правило, не состоит из одного отдельного измерения, то накопленный массив данных 
уже может дать экспериментатору важную информацию об измеряемой величине. Так, отложив по оси абсцисс величину 
«ошибок» (отклонение от среднего значения), а по оси ординат — количество появлений данного значения, получим ступенчатую кривую, называемую гистограммой (рис. 1.1). Это 
наиболее простой способ первичной обработки измерений, 
позволяющий на взгляд оценить точность измерений, возможное наличие промахов и другие признаки. Так, если увеличивать число наблюдений, а интервал стремить к нулю, то гистограмма переходит в пределе в непрерывную кривую, которая 
носит название кривой распределения ошибок [1].

Такую гистограмму легко построить в табличном процессоре MS Excel, однако стоит помнить, что гистограмма представляет собой визуализацию группированных данных, т. е. группирование необходимо произвести заранее.

1. Точность измерения. Типы ошибок 

9

Рис. 1.1. Гистограмма

Перед построением следует определить границы варьирования величины. В указанном примере (рис. 1.2) данные 
представлены в диапазоне (А2:А201). С помощью функций 
МИН(A2:A201) и МАКС(A2:A201) можно определить соответственно минимальное и максимальное значение диапазона. 
Определив размер диапазона как разницу между минимальным и максимальным значением, можно определить шаг, 
поделив массив на количество необходимых поддиапазонов. 
Например, формула для расчета размера поддиапазона в 1/7 
(гистограмма будет состоять из семи поддиапазонов) примет 
следующий вид =(МАКС(A2:A201)-МИН(A2:A201))/7. Границы рассчитанных поддиапазонов проще всего записать