Теоретические основы информационных процессов и систем

В. К. Душин
ТЕОРЕТИЧЕСКИЕ ОСНОВЫ
ИНФОРМАЦИОННЫХ
ПРОЦЕССОВ И СИСТЕМ
Учебник
5е издание
Москва
Издательскоторговая корпорация «Дашков и К°»
2018

УДК 32.81
ББК 621.391
Д86
Рецензенты:
В. П. Павлов — кандидат технических наук, профессор;
Н. Н. Прокопенко — доктор технических наук, профессор;
В. Е. Мешков — кандидат технических наук, профессор.
Д86
Душин В. К.
Теоретические основы информационных процессов и
систем: Учебник / В. К. Душин. — 5е изд. — М.: Издатель
скоторговая корпорация «Дашков и К°», 2018. — 348 с.
ISBN 9785394017483
В учебнике изложены основные разделы теории сигналов и тео
рии информации, необходимые для изучения информационных про
цессов и систем.
Для студентов вузов и специалистов, занимающихся проекти
рованием информационных систем.
УДК 32.81
ББК 621.391
ISBN 9785394017483
©    Душин В. К., 2008

ВВЕДЕНИЕ
Бурное развитие науки и промышленности в XX веке,
неудержимый рост объемов поступающей информации привели к тому, что человек оказался не в состоянии воспринимать и перерабатывать все, ему предназначенное. Возникла
необходимость классифицировать поступления по темам, организовать их хранение и доступ к ним, понять закономерности
движения информации и т. д.
Это обстоятельство накладывает определенный отпечаток на всю информатику как науку об организации компьютерных информационных систем — такие системы могут использоваться в самых разных предметных областях, привнося в них свои “правила игры”, свои закономерности и ограничения и, вместе с тем, новые возможности организации
бизнеса, которые были бы немыслимы без информатики и связанного с ней компьютера. В этом плане невозможно переоценить такие свойства информации, как доступность, своевременность получения, коммерческая ценность, надежность.
Информационные ресурсы в современном обществе играют не меньшую, а нередко и большую роль, чем ресурсы
материальные. Знание о том, кому, когда и где продать товар,
может цениться не меньше, чем собственно товар. В этом плане
динамика развития общества свидетельствует о том, что на
“весах” материальных и информационных ресурсов последние
начинают преобладать, причем тем сильнее, чем более открыто
общество, чем более развиты в нем средства коммуникаций,
чем большей информацией оно располагает.
С позиций рынка информация давно уже стала товаром,
и это обстоятельство требует интенсивного развития теории
3

и практики компьютеризации общества. Компьютер как информационная среда не только позволил совершить качественный скачок в области промышленности, науки и рынка, но он
и определил новые, самостоятельные области производства:
вычислительную технику, телекоммуникации, программные
продукты.
Тенденции компьютеризации общества связаны с появлением новых профессий, связанных с вычислительной техникой, и различных категорий пользователей ЭВМ. Если в
60—70-е годы в этой среде доминировали специалисты по вычислительной технике (инженеры и программисты), создававшие новые средства вычислительной техники и новые пакеты прикладных программ, то сегодня интенсивно расширяется категория пользователей ЭВМ — представителей самых
разных областей знаний, не являющихся специалистами по
компьютерам в узком смысле, но умеющих использовать их
для решения своих специфических задач.
Пользователь ЭВМ (или конечный пользователь) должен
знать общие принципы организации информационных процессов в компьютерной среде, уметь выбирать нужные ему информационные системы и технические средства и быстро осваивать их применительно к своей предметной области. Учитывая интенсивное развитие вычислительной техники и во
многом насыщенность рынка программных продуктов, два
последних качества приобретают особое значение.
Минимум знаний по организации компьютерных систем
обычно называют компьютерной грамотностью. Не существует
строго ограниченных рамок, определяющих это понятие, —
каждый пользователь определяет их для себя сам, но вместе
с тем отсутствие такой грамотности делает сегодня невозможным доступ ко многим профессиям, на первый взгляд, весьма
далеким от компьютера.
Целью настоящего учебника является изложение основных фундаментальных вопросов теории передачи и обработки информации, построения информационных систем, необходимых для того, чтобы “…достичь заветной цели — слия4

ния технологий не только локальных и глобальных сетей, но
и технологий любых информационных сетей — вычислительных, телефонных, телевизионных и т. п.”1
В основу учебника положены лекционные курсы, которые прочитаны автором в течение последних семи лет на кафедре “Электроника и электронные информационные системы” Московского государственного университета сервиса для
студентов специальностей и специализаций “Информационные системы и технологии”, “Информационный сервис”.
Материалы учебника могут быть использованы при изучении последующих специальных дисциплин: “Информационные сети”, “Проектирование информационных систем”,
“Электронные информационные системы и организация каналов связи”, “Офисная техника” и т. д.
Автор выражает благодарность доктору технических наук,
проф. Н. А. Феоктистову и кандидату технических наук, доц.
И. И. Князеву за помощь и ценные советы, высказанные при
обсуждении рукописи данной книги, а также благодарит всех
сотрудников кафедры, принимавших участие в оформлении
и подготовке учебника к изданию.
1 
См.: Олифер В. Г., Олифер Н. А. Компьютерные сети. СПб: Питер, 2001.

Ã Ë À  À  1
ОСНОВНЫЕ ПОНЯТИЯ
И ОПРЕДЕЛЕНИЯ
1.1. Основные задачи изучения
дисциплины
Объектом изучения теории информационных систем является информация — понятие во многом абстрактное, существующее “само по себе”, вне связи с конкретной областью
знания, в которой она используется.
Вообще, существует несколько взглядов на то, что принято считать информацией. Один взгляд, и его, по-видимому,
придерживается большая часть специалистов и неспециалистов, сводится к тому, что существует как бы два сорта информации:
1. Информация техническая, которая передается по каналам связи и отображается на экранах дисплеев. Количество такой информации может быть точно вычислено, и процессы, происходящие с такой информацией, подчиняются физическим законам.
2. Информация семантическая, т. е. смысловая. Это та самая информация, которая содержится, к примеру, в литературном произведении. Для такой оценки информации предлагаются различные количественные оценки и даже строятся
математические теории. Но общее мнение скорее сводится к
6

тому, что оценки здесь весьма условны и приблизительны, и
алгеброй гармонию все-таки не проверишь.
Второй взгляд состоит в том, что информация — это физическая величина, такая же, как, например, температура или
скорость. Определенным образом и в определенных условиях
информация равным образом описывает как процессы, происходящие в естественных физических системах, так и процессы в системах, искусственно созданных.
Как всегда, при наличии двух резко противоположных
мнений существует и третье, примиряющее. Сторонники третьего подхода считают, что информация едина, но вот количественные оценки должны быть разными. Отдельно нужно
измерять количество информации, причем количество информации — строгая оценка, относительно которой можно развивать единую строгую теорию. Кроме количества информации
следует измерять еще и ценность. А вот с ценностью информации происходит то же самое, что и с понятием семантической
информации. С одной стороны, вроде, ее можно вычислить, а
с другой стороны, все эти вычисления справедливы лишь в
ограниченном числе случаев. И, вообще, кто может точно вычислить, скажем, ценность крупного научного открытия?
Введем основные определения:
1. Информационный процесс — это любой процесс, в
котором присутствует хотя бы один из элементов: передача информации, ее прием, хранение, обработка, выдача пользователю.
2. Информационная система — это любая система,
реализующая или поддерживающая информационный
процесс.
При таком подходе становится очевидным, что теория информационных систем является естественным развитием общей теории связи, которая включает в себя следующие основные разделы: теорию сигналов, теорию помехоустойчивости и теорию информации.
Начало общей теории связи было заложено в работе
В. А. Котельникова “О пропускной способности “эфира” и
7

проволоки” (1933 г.), в которой была сформулирована и доказана теорема отсчетов, и в работе Р. Хартли “Передача информации” (1928 г.), где была введена логарифмическая мера
информации. Следующим шагом явились работы В. А. Котельникова по потенциальной помехоустойчивости (1946 г.) и
К. Шеннона по теории информации (1948 г.).
Дальнейшее развитие теория получила в трудах А. А. Харкевича, А. Н. Колмогорова, Н. Винера, Р. Фано, Л. М. Финка и
многих других отечественных и зарубежных ученых.
1.2. Система передачи и обработки
информации
Объектом передачи в любой системе передачи информации является сообщение, несущее какую-либо информацию.
Каждый из нас неоднократно употреблял выражение “масса
информации”, однако немногие знают, что можно измерять
информацию количественно. Прежде чем вводить систему
формул и чисел, рассмотрим пример. Пусть 10 июня мы услышали сообщение бюро прогнозов: “Осадков в виде снега
завтра в Москве не будет”. За последние 100 лет 10 июля в
Москве снега, вероятно, ни разу не было; поэтому услышанное нами сообщение содержит в себе очень мало нового —
мало информации. Если бы, однако, мы, зная, что работа бюро
прогнозов надежна, услышали, что “завтра будут осадки в
виде снега”, то в этом сообщении для нас содержалось бы
гораздо больше информации, чем в предыдущем. Таким образом, сообщение о том, что произойдет событие, которое должно произойти почти наверняка, содержит в себе очень мало
информации. Напротив, сообщение о том, что произойдет событие, которое почти наверняка произойти не должно, содержит много информации. Сообщение о некотором событии содержит тем больше информации, чем больше изменяется вероятность этого события после приема сообщения о нем, по
сравнению с вероятностью того же события до того, как было
принято соответствующее сообщение. В общем случае ме8

рой количества информации в сообщениях должна служить величина, измеряющая изменение вероятности
события под действием сообщения.
Любое сообщение может быть непрерывным (речь, музыка) или дискретным (письменный текст, цифровые данные).
Функциональная схема системы передачи информации
представлена на рис. 1.1.
x(t) 
v(t) 
s(t) 
u(t) 
• • • • • • • •  
• • • • • • • • •  
• • • • • • • • • •   
• • • • •  
• • • • • • • •   
• • • • • • • • • • •  
• • • • • • • • •  
w(t) 
• • • • • • • •  
• • • • •  
Рис. 1.1. Функциональная схема системы передачи информации
Источником информации является отправитель сообщения, а потребителем — ее получатель. В одних системах передачи информации источником и потребителем информации
может быть человек, а в других — различного рода автоматические устройства, ЭВМ и т. д.
Поступающее от источника сообщение u(t) в передатчике
обрабатывается определенным образом, и формируется сигнал s(t), удобный для передачи по линии связи.
В телефонии, например, эта операция сводится просто к
преобразованию звукового давления в пропорционально изменяющийся электрический ток микрофона. В телеграфии производится кодирование, в результате которого последовательность элементов сообщения (букв, цифр) преобразовывается
в последовательность кодовых символов (0,
 1, точка, тире).
Линией связи называется среда, используемая для передачи сигналов от передатчика к приемнику. В системах электрической связи — это пара проводов, кабель или волновод; в
системах радиосвязи — область пространства, в которой распространяются электромагнитные волны от передатчика к
приемнику; в системах оптической связи — оптическое волокно (ВОЛС).
9

При передаче сигнал может искажаться, и на него могут
воздействовать помехи 
)
t
(
w
. Приемник обрабатывает принятый сигнал 
)
t
(
x
, искаженный помехой, и восстанавливает по
нему переданное сообщение 
)
t
(
u
. Обычно в приемнике выполняются операции, обратные тем, которые были осуществлены в передатчике.
Каналом связи принято называть совокупность технических средств, служащих для передачи сообщения от источника к потребителю. Этими средствами являются передатчик, линия связи и приемник.
Канал связи вместе с источником и потребителем образуют систему передачи и обработки информации. Различают системы передачи дискретных сообщений (например, система телеграфной связи, система передачи цифровых данных) и системы передачи непрерывных сообщений
(системы радиовещания, телевидения и т. д.).
Система передачи информации называется многоканальной, если она обеспечивает взаимонезависимую передачу нескольких сообщений по одному общему каналу связи.
1.3. Сообщение и сигнал.
Канал связи
Под информацией понимают сведения о каком-либо явлении, событии, объекте. Информация, выраженная в определенной форме, представляет собой сообщение, иначе говоря, сообщение — это то, что подлежит передаче. Сигнал является материальным носителем сообщения.
В качестве сигнала можно использовать любой физический процесс, изменяющийся в соответствии с передаваемым сообщением. Существенно то, что сигналом является не сам физический процесс, а изменение
отдельных параметров этого процесса. Указанные изменения определяются тем сообщением, которое несет данный
сигнал. Правила этих изменений — код — обычно задаются
10