Интеллектуальные информационные системы
Покупка
Тематика:
Системы автоматического моделирования
Издательство:
Издательский Дом НИТУ «МИСиС»
Автор:
Танцов Петр Николаевич
Год издания: 2015
Кол-во страниц: 86
Дополнительно
Вид издания:
Учебное пособие
Уровень образования:
ВО - Бакалавриат
ISBN: 978-5-87623-898-6
Артикул: 753116.01.99
Включает семь лабораторных работ, раскрывающих классический подход к моделированию нейронных сетей У. Маккалоха и У. Питтса, парадигму квантового нейрокомпьютера В.Д. Цыганкова, а также подход к моделированию нечетких экспертных систем. Содержит описание и ход выполнения практических заданий, блок-схемы алгоритмов выполнения лабораторных работ, библиографические списки к каждой лабораторной работе. Предназначен для студентов, обучающихся по направлению подготовки 09.03.02 «Информационные системы и технологии».
Скопировать запись
Фрагмент текстового слоя документа размещен для индексирующих роботов
МИНИСТЕРСТВО ОБРАЗОВАНИЯ И НАУКИ РФ ФЕДЕРАЛЬНОЕ ГОСУДАРСТВЕННОЕ АВТОНОМНОЕ ОБРАЗОВАТЕЛЬНОЕ УЧРЕЖДЕНИЕ ВЫСШЕГО ПРОФЕССИОНАЛЬНОГО ОБРАЗОВАНИЯ «НАЦИОНАЛЬНЫЙ ИССЛЕДОВАТЕЛЬСКИЙ ТЕХНОЛОГИЧЕСКИЙ УНИВЕРСИТЕТ «МИСиС» № 2455 Кафедра электротехники и информационно-измерительных систем П.Н. Танцов Интеллектуальные информационные системы Лабораторный практикум Рекомендовано редакционно-издательским советом университета Москва 2015
УДК 004.896 Т18 Р е ц е н з е н т канд. техн. наук, доц. А.О. Аристов Танцов П.Н. Т18 Интеллектуальные информационные системы : лаб. практикум / П.Н. Танцов. – М. : Изд. Дом МИСиС, 2015. – 86 с. ISBN 978-5-87623-898-6 Включает семь лабораторных работ, раскрывающих классический подход к моделированию нейронных сетей У. Маккалоха и У. Питтса, парадигму квантового нейрокомпьютера В.Д. Цыганкова, а также подход к моделированию нечетких экспертных систем. Содержит описание и ход выполнения практических заданий, блок-схемы алгоритмов выполнения лабораторных работ, библиографические списки к каждой лабораторной работе. Предназначен для студентов, обучающихся по направлению подготовки 09.03.02 «Информационные системы и технологии». УДК 004.896 ISBN 978-5-87623-898-6 © П.Н. Танцов, 2015
СОДЕРЖАНИЕ Предисловие..........................................................................................4 Лабораторная работа 1. Настройка параметров нейрона с пороговой функцией активации .......................................................5 Лабораторная работа 2. Распознавание образов посредством нейронных сетей с использованием метода обратного распространения ошибки...................................................................14 Лабораторная работа 3. Обучение нейронной сети в условиях шума (продолжение лабораторной работы 2)..................................21 Лабораторная работа 4. Обучение мышки в Т-лабиринте..............24 Лабораторная работа 5. Моделирование виртуальных нейронных сетей.................................................................................31 Лабораторная работа 6. Распознавание образов средствами нейрокомпьютера ...............................................................................37 Лабораторная работа 7. Построение нечеткой экспертной системы................................................................................................45 Приложения .................................................................... 52
Предисловие В настоящее время существует потребность в создании систем, способных решать задачи, не имеющие четкого алгоритма решения, такие, например, как задачи распознавания, классификации, анализа, логико-лингвистические задачи. В качестве инструмента для решения подобных задач целесообразно применять искусственные нейронные сети, а также алгоритмы нечеткого ввода-вывода. Лабораторный практикум предназначен для приобретения студентами навыков работы с искусственными нейронными сетями в целях дальнейшего применения их в научно-практической деятельности. Лабораторные работы 1−3 содержат указания по применению на практике классических искусственных нейронных сетей, построенных на простейшей математической модели нейрона мозга человека Маккалоха − Питтса. В качестве примеров даны задачи «адекватного реагирования» и распознавания зрительных образов. В лабораторных работах 4−6 рассматривается применение нейросетевой парадигмы, разработанной российским ученым В.Д. Цыганковым. Как и классические нейронные сети, основанные на парадигме Маккалоха − Питтса, подход В.Д. Цыганкова также успешно применяется в науке и технике. Лабораторная работа 7 включает рекомендации по созданию нечетких экспертных систем, применение которых целесообразно, например, при решении задач анализа, прогнозирования, управления различными объектами или процессами. Лабораторные работы 1−6 целесообразно выполнять на языке программирования высокого уровня, что даст возможность студентам лучше понять технологию применения нейросетевых алгоритмов. Выполнение лабораторной работы 7 возможно как на языке программирования, так и в среде «МатЛаб». В приложениях приведены блок-схемы алгоритмов выполнения лабораторных работ 1−7. Автор выражает благодарность В.Д. Цыганкову и И.В. Степаняну за помощь в предоставлении материалов для лабораторных работ.
Лабораторная работа 1 НАСТРОЙКА ПАРАМЕТРОВ НЕЙРОНА С ПОРОГОВОЙ ФУНКЦИЕЙ АКТИВАЦИИ (2 + 2 часа) 1.1. Цель работы Ознакомоление с правилами настройки параметров нейрона по алгоритму Розенблатта. 1.2. Теоретическая часть Человеческий мозг содержит свыше тысячи миллиардов вычислительных элементов, называемых нейронами. Превышая по количеству число звезд в Млечном пути, эти нейроны связаны сотнями триллионов нервных нитей, называемых аксонами. Эта сеть нейронов отвечает за мысли, эмоции, процесс познания, а также за совершение мириадов сенсомоторных и автономных функций. Пока не вполне понятно, каким образом все это происходит, но уже есть результаты исследований многих вопросов, касающихся физиологической структуры мозга, и определенные функциональные участки мозга постепенно изучаются исследователями. Биологический нейрон Нейрон является основным строительным блоком нервной системы. Он является клеткой, подобной всем другим клеткам тела, однако определенные существенные отличия позволяют ему выполнять все вычислительные функции и функции связи внутри мозга. Как показано на рис. 1.1, нейрон состоит из трех частей: тела клетки, дендритов и аксона; каждая часть обладает индивидуальными, но взаимосвязанными функциями. Дендриты идут от тела нервной клетки к другим нейронам, где они принимают сигналы в точках соединения, называемых синапсами. Принятые синапсом входные сигналы подводятся к телу нейрона. Здесь они суммируются, причем одни входы стремятся возбудить нейрон, другие – воспрепятствовать его возбуждению. Когда суммарное возбуждение в теле нейрона пре
вышает некоторый порог, нейрон возбуждается, посылая по аксону сигнал другим нейронам. У этой основной функциональной схемы много усложнений и исключений, тем не менее большинство искусственных нейронных сетей моделируют лишь эти простые свойства. Рис. 1.1. Строение нейрона Искусственный нейрон Стремясь воспроизвести функции человеческого мозга, исследователи создали простые аппаратные (а позже программные) модели биологического нейрона и системы его соединений. Когда нейрофизиологи достигли более глубокого уровня понимания нервной системы человека, эти ранние попытки стали восприниматься как весьма грубые аппроксимации. Тем не менее на этом пути были достигнуты впечатляющие результаты, стимулировавшие дальнейшие исследования, в результате которых были созданы более изощренные сети.
Σ x1 x2 xn w1 w2 wn . . . Порог Y Рис. 1.2. Схема искусственного нейрона Первое систематическое изучение искусственных нейронных сетей было предпринято Маккалохом и Питтсом в 1943 г. [1]. Позднее они исследовали сетевые парадигмы для распознавания изображений, подвергаемых сдвигам и поворотам [2]. Простая нейронная модель, показанная на рис. 1.2, использовалась в их работе. Элемент Σ умножает каждый вход х на вес w и суммирует взвешенные входы. Если эта сумма больше заданного порогового значения, выход Y равен единице, в противном случае – нулю. Эти системы (и множество им подобных) получили название персептронов. Они состоят из одного слоя искусственных нейронов, соединенных с помощью весовых коэффициентов с множеством входов, хотя в принципе описываются и более сложные системы. В 1960-е годы изучение персептронов вызвало большой интерес и внушило опеределенный оптимизм по поводу возможности создания систем, имитирующих мыслительную деятельность человека. Розенблатт [3] доказал замечательную теорему об обучении персептронов. Доказательство этой теоремы показало, что персептрон способен научиться всему, что он может представлять. Важно при этом уметь различать представляемость и обучаемость. Понятие представляемости относится к способности персептрона (или другой сети) моделировать определенную функцию. Обучаемость же требует наличия систематической процедуры настройки весов сети для реализации этой функции. Математическая модель искусственного нейрона На вход искусственного нейрона поступает некоторое множество сигналов, каждый из которых является выходом другого нейрона. Каждый вход умножается на соответствующий вес, аналогичный синаптической силе, все произведения суммируются, и эта сумма определяет уровень активации нейрона. На рис. 1.3 представлена модель,
реализующая эту идею. Хотя сетевые парадигмы весьма разнообразны, в основе почти всех из них лежит такая конфигурация. Здесь множество входных сигналов, обозначенных x1, x2,…, xn, поступает на искусственный нейрон. Эти входные сигналы, в совокупности обозначаемые вектором X, соответствуют сигналам, приходящим в синапсы биологического нейрона. Каждый сигнал умножается на соответствующий вес w1, w2,…, wn и поступает на суммирующий блок, обозначенный как Σ. Каждый вес соответствует «силе» одной биологической синаптической связи. Множество весов в совокупности обозначается вектором W. Суммирующий блок, соответствующий телу биологического элемента, складывает взвешенные входы алгебраически, создавая выход, который мы будем называть S. В векторных обозначениях это может быть компактно записано следующим образом: S = XW. Σ x1 x2 xn w1 w2 wn . . . S = XW W X Рис. 1.3. Схема работы суммирующего блока искусственного нейрона Активационная функция Сигнал S далее, как правило, преобразуется активационной функцией F(S) и дает выходной нейронный сигнал Y (рис. 1.4). Активационная функция может быть обычной линейной функцией вида Y = kS, где k – постоянная, пороговой функцией Y = 1, если S > τ, Y = 0 в остальных случаях,
где τ – некоторая постоянная пороговая величина, или же функцией, более точно моделирующей нелинейную передаточную характеристику биологического нейрона и предоставляющей нейронной сети большие возможности. Σ x1 x2 xn w1 w2 wn . . . F Y = F(S) S Искусственный нейрон Рис. 1.4. Схема искусственного нейрона с активационной функцией На рис. 1.4 блок, обозначенный как F, принимает сигнал S и выдает сигнал Y. Если блок F сужает диапазон изменения величины S так, что при любых значениях S значения Y принадлежат некоторому конечному интервалу, то F называется «сжимающей» функцией. В качестве «сжимающей» функции часто используется логистическая, или сигмоидальная (S-образная), функция, показанная на рис. 1.5. Эта функция математически выражается как 1 1 S Y e−α = + . Рис. 1.5. Сигмоидальная логистическая функция