Нейрокомпьютинг и его применения в экономике и бизнесе

Нейрокомпьютинг и его применения в экономике и
бизнесе

2-е издание, исправленное

Ежов А.А.
Шумский С.А.

Национальный Открытый Университет “ИНТУИТ”
2016

2

Нейрокомпьютинг и его применения в экономике и бизнесе/ А.А. Ежов, С.А. Шумский - М.:
Национальный Открытый Университет “ИНТУИТ”, 2016

В этом курсе лекций, прочитанном авторами в Финансово-Аналитическом Колледже МИФИ, мы
знакомим читателя с основами нейросетевой обработки данных и примерами типовых применений,
преимущественно в области финансов и бизнеса.
Опыт авторов свидетельствует, что главным препятствием к широкому практическому применению
нейрокомпьютинга служит недостаточное понимание его основ. Этот курс писался с целью
восполнить этот пробел. Поэтому основное внимание здесь уделяется описанию принципов
нейросетевой обработки данных, их потенциальных возможностей и преимуществ, а также
подробному разбору нескольких конкретных применений. Упор делается на концептуальной стороне
дела, а не на описании конкретных алгоритмов. Предполагается, что в случае необходимости
читатель сможет воспользоваться одним из многочисленных коммерческих нейро-эмуляторов, а не
возьмется программировать нейросети “с нуля” на С++. Главная задача курса - научить читателя
“видеть” нейросетевые постановки задач в его повседневной работе, помочь ему автоматизировать
рутинную обработку сложной многофакторной информации с помощью современного
математического аппарата - искусственных нейронных сетей. Хотя авторы старались избегать
математических выкладок и, по возможности, упростить изложение, хотелось бы заранее
предупредить, что материал этого курса рассчитан на достаточно подготовленного читателя - как
минимум студента старших курсов. “Идеальный” читатель - студент, научный работник, финансовый
аналитик, консультант, брокер или просто бизнесмен, желающий повысить эффективность своего
бизнеса путем более вдумчивой работы с доступной ему информацией.

(c) ООО “ИНТУИТ.РУ”, 2006-2016
(c) Ежов А.А., Шумский С.А., 2006-2016

3

Введение. Компьютеры и Мозг

Нейрокомпьютеры попадают в заголовки газет. Что отличает обработку информации в
мозге и в современных компьютерах? Символьная и образная информация.
Перспективы нейрокомпьютинга.

Мы наблюдаем удивительное явление: из такого безусловно пустого, абсолютно
безличного материала как цифровая машина, удалось, благодаря специальным
программам, сконструировать настоящие личности 
 С.Лем ” Non serviam”

Правый мозг любит сладкое больше, чем левый. И где же тут парадокс? - спросил я,
стараясь как можно незаметнее оттолкнуть левую руку, которая опять совала мне
пряник в рот. С.Лем, “Мир на Земле”

Для чего и для кого написана эта книга

В этой книге, основанной на курсе лекций, прочитанном авторами в ФинансовоАналитическом Колледже МИФИ, мы знакомим читателя с основами нейросетевой
обработки данных и примерами типовых применений, преимущественно в области
финансов и бизнеса.

Наш опыт свидетельствует, что главным препятствием к широкому практическому
применению нейрокомпьютинга служит недостаточное понимание его основ. Эта
книга писалась с целью восполнить этот пробел. Поэтому основное внимание здесь
уделяется описанию принципов нейросетевой обработки данных, их потенциальных
возможностей и преимуществ, а также подробному разбору нескольких конкретных
применений. Упор делается на концептуальной стороне дела, а не на описании
конкретных алгоритмов. Предполагается, что в случае необходимости читатель сможет
воспользоваться одним из многочисленных коммерческих нейро-эмуляторов, а не
возьмется программировать нейросети “с нуля” на С++. Главная задача книги - научить
читателя “видеть” нейросетевые постановки задач в его повседневной работе, помочь
ему автоматизировать рутинную обработку сложной многофакторной информации с
помощью современного математического аппарата - искусственных нейронных сетей.

Хотя мы старались избегать математических выкладок и, по возможности, упростить
изложение, хотелось бы заранее предупредить, что материал этой книги рассчитан на
достаточно подготовленного читателя - как минимум студента старших курсов. Наш
“идеальный” читатель - студент, научный работник, финансовый аналитик,
консультант, брокер или просто бизнесмен, желающий повысить эффективность своего
бизнеса путем более вдумчивой работы с доступной ему информацией.

Нейрокомпьютеры в заголовках газет

Одной из характерных черт нейрокомпьютинга является обучение на примерах.
Поэтому и мы начнем с серии примеров, которые лучше любых описаний наметят

4

возможные области практических приложений нейросетей и подкрепят решимость
читателя заняться их изучением. В последнее время в прессе все чаще стали мелькать
сообщения, где так или иначе упоминаются искусственные нейронные сети. Вот только
несколько выдержек, иллюстрирующих возможные области применений нейросетей:

Автопилотируемый гиперзвуковой самолет-разведчик. Названный LoFLYTE (LowObservable Flight Test Experiment) реактивный беспилотный самолет длиной 2,5 м был
разработан для NASA и Air Force фирмой Accurate Automation Corp., Chattanooga, TN в
рамках программы поддержки малого инновационного бизнеса. Это
экспериментальная разработка для исследования новых принципов пилотирования,
включая нейронные сети, позволяющие автопилоту обучаться, копируя приемы
пилотирования летчика. Со временем нейросети перенимают опыт управления, а
скорость обработки информации позволит быстро находить выход в экстремальных и
аварийных ситуациях. LoFLYTE предназначен для полетов со скоростью 4-5 Махов,
когда скорости реакции пилота может не хватить для адекватного реагирования на
изменения режима полета. (Пресс-релиз NASA №96-154 от 2 августа 1996 г. )

Системы безопасности в аэропортах. Американская фирма SAIC (Science Application
International Corporation) использовала нейронные сети в своем проекте TNA. TNA
представляет собой ящик стоимостью $750.000, который способен обнаруживать
пластиковую взрывчатку в запакованном багаже. TNA бомбардирует багаж
медленными нейтронами, вызывающими вторичное гамма-излучение, спектр которого
анализируется нейронной сетью. Система обнаруживает взрывчатку с вероятностью
выше 97% и просматривает 10 мест багажа в минуту (для Международного Аэропорта
Лос-Анжелеса потребуется 10 таких систем общей стоимостью около $8 млн). SAIC
получила контракт на разработку TNA от Федерального Управления по Авиации (FAA)
в 1986 г и вначале пыталась для классификации спектров реализовать линейнодискриминантный метод. Такой подход, однако, требовал крайне нежелательной
предварительной сортировки багажа по габаритам. SAIC регулярно получала
финансирование от FAA, близился день демонстрации … И тогда корпорация решила
использовать нейронные сети. В итоге система с требуемыми параметрами была
доработана в кратчайший срок.

Нейросети на финансовых рынках.Американский Citibank использует нейросетевые
предсказания с 1990 года. В 1992 году, по свидетельству журнала The Economist,
автоматический дилинг показывал доходность 25% годовых, что намного превышает
показатели большинства брокеров. Chemical Bank использует нейро-систему фирмы
Neural Data для предварительной обработки транзакций на валютных биржах 23 стран,
фильтруя “подозрительные” сделки. Fidelity of Boston использует нейросети при
управлении портфелями с суммарным объемом $3 миллиарда. Полностью
автоматизированные системы ведения портфелей с использованием нейросетей
применяют, например, Deere & Co - на сумму $100 млн и LBS Capital - на сумму $400
млн. В последнем случае экспертная система объединяется с примерно 900
нейросетями. Труды лишь одного семинара “Искусственный интеллект на Уолл-стрит”
составляют шесть увесистых томов.

Распознавание краденных кредитных карт. В 1986 году известный конструктор
нейрокомпьютеров профессор Роберт Хехт-Нильсен основал компанию HNC.

5

Переключившись в 1990 году с призводства нейрокомпьютеров на предоставление
конкретных решений в различных областях, HNC Software Corp. является сейчас
лидером на рынке контроля транзакций по пластиковым картам. Ее основной продукт
Falcon (Сокол), выпущенный в сентябре 1992 г., контролирует сейчас более 220 млн
карточных счетов, выявляя и предотвращая в реальном времени подозрительные
сделки по, возможно, краденным кредитным/дебетным картам. Искусственные
нейросети обучаются типичному поведению клиентов, различая резкую смену
характера покупок, сигнализирующую о возможной краже. Ежегодные потери крупных
банков от подобных краж измеряются десятками миллионов долларов, и когда в 1994 г.
впервые за всю историю пластиковых карт эти потери пошли на убыль, этот прогресс
пресса связывала с успешным внедрением системы Falcon. Клиентами HNC Software
являются 16 из 25 крупнейших в мире эмитентов пластиковых карт. (Пресс-релиз HNC
Software ссылка: http://www.hnc.com - http://www.hnc.com)

Активная реклама в Internet.Нейросетевой продукт SelectCast фирмы Aptex Software
Inc. (дочерней фирмы HNC Software Corp.) выявляет профили интересов пользователей
Internet и предлагает им соответствующим образом отфильтрованную рекламу. В июле
1997 года один из лидеров поискового рынка Internet - Excite, Inc. лицензировала
SelectCast для использования на своих поисковых серверах. После установки на
серверах Excite и Infoseek, нейросетевая реклама охватит около трети всех
пользователей Internet. Согласно проведенным исследованиям, установлено, что
отклик на такую активную рекламу в среднем вдвое выше, чем на обычную рекламу,
размещаемую в Сети. А на отдельные виды рекламы отклик возрос впятеро. Заметим,
что рекламный сектор Internet переживает сейчас период бурного развития. Результаты
первого полугодия 1997 года свидетельствуют о годовом темпе роста 250%, что в
денежном выражении составит в 1997 году $400 млн. (Scientific American, Dec 1997,
“On-line Advertising goes one-on-one”.)

Мониторинг и персонализированная рассылка новостей. Распознавание темы
текстовых сообщений - другой пример успешного использования искусственных
нейросетей. Сервер новостей Convectis (продукт все той же Aptex Software Inc. ссылка:
http://www.aptex.com - http://www.hnc.com выбран в июне 1997г. лидером
персонализированной доставки новостей в Internet - PointCast Inc. - для автоматической
рубрикации сообщений по категориям. Сверяя значения слов по контексту, Convectis
способен в реальном масштабе времени распознавать тематику и рубрицировать
огромные потоки текстовых сообщений, передаваемых по сетям Reuters, NBC, CBS и
др. Так, например, информационное агентство Scoop, специализирующееся на поставке
бизнес-новостей и также лицензировавшее Convectis в июле 1997г., использует свыше
1600 источников информации. После анализа сообщения Convectis генерирует
аннотацию, список ключевых слов и список рубрик, к которым относится данное
сообщение. Существуют и другие электронные агентства новостей, использующие
нейросети для рубрикации и персонализации информации (см., например, ссылка:
http://www.wisewire-corp.com - http://www.hnc.com)

Приведенные выше примеры свидетельствуют о том, что нейросетевая обработка
данных постепенно становится неотъемлемой компонентой высоких технологий,
определяющих жизнь современного мира. На них будут опираться новые военные
доктрины, они будут контролировать нашу безопасность и торговать на электронных

6

биржах, на них основываются нарождающиеся масс-медиа в глобальной сети Internet.
Интерфейс с этой глобальной Сетью, постепенно превращающейся в единый
распределенный компьютер, также, по-видимому, будет основываться на нейросетевых
обучаемых агентах - представителях пользователя в Сети.

Что же это такое - искусственные нейронные сети? Какое отношение имеют
искусственные нейросети к естественным? Чем отличается нейрокомпьютинг от
обычных методов компьютерного моделирования? Каковы его “экологические ниши” в
мире информационных технологий и перспективы на будущее? Этим вопросам и будет
посвящена данная, вводная, лекция нашего курса.

Для начала попробуем описать особенности обработки информации мозгом.
Посмотрим, что из того, на что способен мозг, еще по большей части недоступно
современным системам обработки информации.

Как мозг обрабатывает информацию

Из чего построен мозг

Мозг построен из клеток двух типов: глиальных и нейронов. И хотя роль глии в его
работе, видимо, довольно значительна, большинство исследователей полагает, что в
основном понимание работы мозга может быть достигнуто при изучении нейронов,
объединенных в единую связанную сеть. Эта парадигма и используется при
построении, изучении и применении искусственных нейронных сетей, которым
посвящена эта книга.

Следует, однако, заметить, что имеются и другие точки зрения. В частности, такие
ученые как Пенроуз и Хамерофф считают, что главные события происходят не в
нейронной сети, а в самих клетках, а именно в их цитоскелетоне, в так называемых
микротрубочках. Согласно их точке зрения, и память, и даже сознание определяются
конформационными изменениями белков во внутриклеточных структурах и
связанными с ними квантовыми эффектами.

Количество нейронов в мозге оценивается величиной 1010-1011. Типичные нейроны
имеют тело клетки (сому), множество ветвящихся коротких отростков - дендритов и
единственный длинный и тонкий отросток - аксон. На конце аксон также разветвляется
и образует контакты с дендритами других нейронов - синапсы рис. 1.1.

7

Рис. 1.1.  Схема нейрона и межнейронного взаимодействия

Внутриклеточное пространство нейрона имеет отрицательный электрический
потенциал по отношению к внеклеточному (-70 mV), то есть клетка в целом
поляризована. Поляризация возникает за счет избирательной проницаемости клеточной
мембраны для ионов натрия и калия, приводящей к разнице их концентраций внутри и
вне клетки. Однако, если внешним образом достаточно сильно изменить потенциал
мембраны одного нейрона (передатчика) вблизи выхода аксона из его клеточного тела,
то проницаемость мембраны меняется и перераспределение ионов во внутриклеточном
и внеклеточном пространстве аксона приводит к распространению по нему волны
кратковременной деполяризации. Электрический импульс, распространившись по всем
ветвлениям окончания аксона со скоростью около 100 м/с, достигает синапсов,
расположенных в местах его контакта с дендритами или сомой других клеток. Под
воздействием этого импульса в синапсах выделяются специальные химические
вещества - нейромедиаторы, которые, пересекая синаптическую щель,
взаимодействуют с мембраной нейрона-приемника и изменяют ее потенциал. Таким
образом воздействие передается от одного нейрона к другим. Заметим, что это
воздействие может являться как возбуждающим - способствующим дальнейшей
генерации волны деполяризации в нейроне-приемнике, так и ингибирующим препятствующим такой генерации. Тип воздействия определяется химической
природой нейромедиатора, выделяющегося в синапсе.

После генерации импульса нейрон некоторое время (период рефрактерности) не может
активироваться. Поэтому частота, с которой нейрон может генерировать импульсы
ограничивается примерно 100 Гц.

Каждый из нейронов устанавливает синаптические связи в среднем с 104 другими
нейронами. Поэтому число связей в мозге оценивается в 1014 -1015. Очень грубо
можно считать, что нейроны мозга могут находиться в двух состояниях возбужденном (когда они предают свое воздействие другим нейронам) и покоящемся
(когда такой передачи нет).

До сих пор неизвестно, каким кодом пользуется нервная система для передачи
взаимодействия. Может быть, он является бинарным, и значение имеют указанные
состояния нейронов. Возможно, важна частота электрической активности нейронов,
кодирующая интенсивность сигнала. Например, у нейронов коры эта частота может

8

быть пропорциональна вероятности некоторого события. Наконец, информация может
содержаться не в импульсных процессах, а в более медленных изменениях потенциала
мембраны, которые не всегда активируют клетку (т.е. не превышают порога
активации). Однако при любом предположении модель сети взаимодействующих
нейронов оказывается исключительно богатой и обладающей свойствами, которые
можно сопоставить с реальными возможностями мозга.

Структура и функции мозга

Мозг управляет организмом в целом, его восприятием окружения, движением,
поддержанием важнейших функций жизнедеятельности, оперативно реагируя на
всевозможные изменения среды. Генетическая программа организма, конечно, тоже
способна адаптироваться к изменяющимся условиям, но очень медленно, за счет
крайне редких полезных мутаций. Если использовать только этот способ, то
необходимо производить огромное потомство, только малая часть которого выживает.
Этим методом пользуются низшие формы жизни - такие как бактерии и вирусы.
Высшие же формы в ходе эволюции выработали у себя способность к изменению и
адаптации в течение жизни - благодаря особому свойству своей нервной системы пластичности. Поэтому у высших животных потомство немногочисленно, зато мозг
сильно развит.

Объем накопленной в мозге информации вначале дополнял, а затем и превзошел (у
рептилий и млекопитающих) объем наследственной информации, закодированной в
ДНК (см. рис. 1.2 ). Можно сказать, что генетическая информация у высших
организмов исполняет роль ракеты-носителя, направляя процесс построения
организма. Затем управление передается адаптирующейся к внешнему миру нервной
системе, вершиной которой и является мозг.

Рис. 1.2.  Сравнение наследственной и приобретенной информации для различных
видов организмов

В строении мозга как на фотографии запечатлен весь эволюционный путь его развития.
Так, мозг человека фактически включает в себя три больших отдела, управляющие
наиболее древней структурой (нейрошасси), доставшейся нам еще от рыб и амфибий, и

9

ответственной за поддержание жизнедеятельности и размножение. Первый отдел рептильный комплекс - возник несколько сот миллионов лет назад и помогает нам
ориентироваться в пространстве. Второй отдел - лимбическая система - образовался
около ста пятидесяти миллионов лет назад. Благодаря ей мы обладаем эмоциями.
Наконец, последнее достижение - новая кора, особо развитая у человека, позволяет нам
говорить и логически мыслить.

В фантастических романах прошлого человек будущего (или инопланетный гуманоид)
иногда изображался как хилое существо с огромным мозгом. На самом деле, и при
нынешних его размерах (примерно 5% от общего веса тела) мозг человека потребляет
около 20% кислорода и, следовательно, энергии. При этом он обычно не задействован
“на полную мощность”: одновременно активны в нем лишь 2-3% нейронов . Благодаря
такой избыточности, мозг человека обладает огромным запасом прочности,
позволяющим ему работать даже несмотря на серьезные повреждения и утраты. Этой
способности лишены современные компьютеры.

Известны случаи, когда человек продолжал сознательную жизнь после удаления
большей части коры головного мозга. В одном из них, молодой человек, получивший в
автокатастрофе травмы черепа, оцененные как несовместимые с жизнью, выжил, и,
несмотря на удаление в ходе многочисленных операций большой части тканей мозга
(включая обе лобных доли!), возвратился к работе директором коммерческого буфета.
Известный пример проявления компенсаторных возможностей дает мозг Ленина. Для
него были характерны многочисленные поражения коры левого полушария,
отягощенные колоссальной нагрузкой (при письме) на управляемую им правую руку, и
обращающие на себя внимание хорошо развитые слои клеток в правом полушарии.

Восприятие

В дополнение к эволюционному разделению частей мозга, о котором мы говорили
выше, в нервной системе явно различаются три типа нейронных структур: сенсорные,
внутренние и эффекторные. Первые связывают наш мозг с внешним миром и
обеспечивают поступление в него зрительной, слуховой, вкусовой, обонятельной и
осязательной информации. Есть у нас и шестое чувство - чувство равновесия, за
которое отвечает вестибулярный аппарат. Его особенность заключается в том, что он
не вынесен наружу. Эффекторные нейроны управляют мышцами, внутренними
органами, стенками сосудов и пр. Мозг таким образом контролирует работу сердца,
дыхание, кровяное давление, температуру, поддерживает нужное содержание
кислорода в крови, осуществляет гормональную регуляцию и пр. Промежуточные
нейроны обрабатывают информацию, получаемую от сенсорных и передаваемую
эффекторным нейронам.

Существующие компьютерные системы позволяют вводить в них изображения,
звуковую и другие виды информации. Однако, в отличие от компьютера, снабженного
сканером, телекамерой и микрофоном, мозг обладает вниманием, свойством, которое
позволяет ему сосредотачиваться на важной в данный момент информации и
игнорировать несущественную. Эффективные системы предобработки сенсорной
информации, вырабатываемые в течение жизни путем обучения, позволяют мозгу

10