Модели и проблемы интеллектуальных систем

МОДЕЛИ И ПРОБЛЕМЫ 
ИНТЕЛЛЕКТУАЛЬНЫХ 

СИСТЕМ

Б.Е. ОДИНЦОВ

Москва
ИНФРА-М

2020

МОНОГРАФИЯ

УДК 004.89(075.4)
ББК 32.813
 
О42

Одинцов Б.Е.
О42  
Модели и проблемы интеллектуальных систем : монография / 
Б.Е. Одинцов. — Москва : ИНФРА-М, 2020. — 219 с. — (Научная 
мысль). — DOI 10.12737/1060845.

ISBN 978-5-16-015839-6 (print)
ISBN 978-5-16-108509-7 (online)
Монография состоит из трех глав, в первой из которых излагаются теоретические основы создания интеллектуальных информационных систем. Особое 
внимание уделяется раскрытию понятия «модель», так как от вкладываемого 
в него смысла зависит понимание всего материала. Вводятся и анализируются 
такие новые понятия, как ассоциативные и интуитивные знания, которые пока 
в создании интеллектуальных информационных систем не используются. 
Вторая глава содержит анализ проблем разработки искусственного интеллекта (ИИ), развиваемого в двух направлениях: классическом и статистическом. Рассматриваются трудности в развитии классического подхода, связанные с выявлением смысла слова, фразы, текста, а также формулированием 
мысли. Дается анализ проблем, возникающих в процессе воспроизведения воображения и инсайта, машинного понимания естественно-языковых текстов, 
воспроизведения вербализации и рефлексии. 
Третья глава содержит примеры разработок интеллектуальных информационных си стем и технологий в практике управления экономическими объектами. Излагаются теоретические основы построения информационных роботов, предназначенных для поддержки целевой иерархической модели базы 
знаний и формирования управляющих предписаний. Представлена технология их создания и применения в управлении эффективностью бизнеса предприятия в целом, бизнес-процессами и его инвестиционной деятельностью. 
Ориентирована на исследователей и разработчиков ИИ и интеллектуальных информационных систем, а также на аспирантов, студентов и преподавателей соответствующих учебных дисциплин. 

УДК 004.89(075.4) 
ББК 32.813

ISBN 978-5-16-015839-6 (print)
ISBN 978-5-16-108509-7 (online)
© Одинцов Б.Е., 2020

Р е ц е н з е н т ы:
Уринцов А.И., доктор экономических наук, профессор, заведующий 
кафедрой прикладной информатики в менеджменте и управлении знаниями Российского экономического университета имени Г.В. Плеханова, почетный работник высшего образования Российской Федерации;
Чистов Д.В., доктор экономических наук, профессор Департамента 
анализа данных, принятия решений и финансовых технологий Финансового университета при Правительстве Российской Федерации

Всякая истина рождается как ересь 
и умирает как предрассудок.
Томас Генри Гексли

Введение

Тотальное завоевание искусственным интеллектом (ИИ) большинства сфер человеческой деятельности, согласно закону «необходимого разнообразия» У.Р. Эшби [140], неизбежно, поскольку 
устанавливает следующее: управляющая система, предназначенная 
для решения некоторого круга проблем, должна обладать большей 
мощностью (сложностью) имеющихся у нее для этого средств, 
в сравнении с мощностью (сложностью) управляемого объекта. 
Иначе говоря, мощность методов и механизмов управления обществом, предприятием, банком, фирмой, цехом, станком должна 
быть выше мощности (сложности) управляемого объекта. 
Сегодня сложность многих, особенно высокотехнологичных 
сфер деятельности, настолько высока, что человек уже не в состоянии справиться с их управлением без специально создаваемых инструментов. Именно поэтому особые надежды возлагаются 
на постоянно развивающийся ИИ, который, усиливая интеллектуальные возможности человека, создает то «необходимое разнообразие» в управлении, требуемое обществом.
Постоянно распеваемая мантра о возможном «выходе из-под 
контроля» ИИ — сегодня, как и пятьдесят лет назад, вновь обретает статус красивой погремушки-страшилки, предназначенной, 
в основном, для рекламы и поддержки интереса общества к данной 
теме. Развенчанию мистического ореола и разъяснению беспочвенности страхов, возбуждаемых как определенными персоналиями 
около научных сообществ, так и заинтересованными авторами фантастических произведений, посвящен раздел 2.2 (Проблемы и пути 
развития интеллектуальных информационных систем) данной 
монографии. Ниже во введении пойдет речь об отчете Конгресса 
США, где говорится о разрушительной силе ИИ, но это уже иной 
аспект проблемы, то есть не «выход из-под контроля».
Если отделить фантастику от реалий, то уже сегодня становится очевидной проблема духовной деградации некоторой части 
общества под воздействием высоких технологий, внедрения роботизации не только в производстве, но и в организационном управлении, а также безответственного распространения производителями ИИ не до конца проверенных интеллектуальных систем 

в практике управления. А опасность «выхода из-под контроля» 
машин и механизмов существовала всегда, например, ситуация, 
когда водитель не справился с управлением автомобиля. 
Проблема деградации носит фундаментальный характер. Появилась она давно в результате научно-технического прогресса, многократно увеличивающего физическую, а в последние десятилетия 
и мыслительную мощь человека. В результате разделения труда 
между машиной и человеком его творческий компонент постепенно 
исключается, а работник стал обычным «придатком машины». 
На ее важность в свое время указывал К. Маркс — безусловный 
авторитет в области политической экономии и социологии по сей 
день. Еще задолго до появления компьютеров в своей речи 
на юбилее чартистской «Народной газеты» 14 апреля 1856 года 
он предупреждал: «Все наши открытия и весь наш прогресс как 
бы приводят к тому, что материальные силы наделяются интеллектуальной жизнью, а человеческая жизнь, лишенная своей интеллектуальной стороны, низводится до степени простой материальной 
силы» [72, с. 4]. 
Сегодня это приводит к прогрессирующему дисбалансу между 
научно-техническими достижениями общества, с одной стороны, 
и духовно-нравственным обнищанием человека, выразившемся 
в отсутствии веры в создание справедливого и высокогуманного 
общества, — с другой. Если техническое могущество растет, а отношения между людьми регулируются моральными нормами прошедших эпох, то неизбежно без соблюдения равновесия между 
уровнем машинизации и уровнем культурных и моральных принципов общество не может существовать. 
Меры, позволяющие предотвратить перекосы такого рода, рассматриваются в работе [164, с. 131], где формулируется закон «эволюционных корреляций». На наш взгляд, развивая его, в духе данного закона необходимо: а) создать систему образования, способную 
восполнять «отобранную» научно-техническим прогрессом часть 
интеллекта человека; б) обеспечить более углубленное (активное) 
развитие этических и эстетических основ общества, заключающееся 
в создании системы новых моральных ценностей и убеждений, 
противостоящих тому, чтобы «Вся творческая энергия человека 
уходила на изобретение и построение автомобилей и аэропланов, 
на изобретение способов ускорения передвижения» [156, с. 12]. 
Недостаток интереса у мирового научного сообщества к данной 
проблеме, возможно, объясняется тем, что наша цивилизация относится к естественным системам, и, потому, развивается в соответствии с неизвестными законами, что вовсе не значит, что она 
не ставит перед собой глобальные земные цели, согласно которым, 
как она считает, следует развиваться. Однако члены Римского 

клуба, к сожалению, не видят надобности в решении проблемы 
«эволюционных корреляций», ибо среди своих задач: рост населения, рост промышленного производства, рост производства продовольствия и т.д., разработке моральных норм, соответствующих 
современному уровню научно-технического прогресса, этой проблеме места не нашлось [168]. Президент клуба Р. Диц-Хохляйтнер 
(сегодня экс-президент), в одном из своих докладов даже не упоминает о ней: «...Нас обвиняют в предсказаниях безысходности и даже 
конца света. Но именно в этом и состоит наша роль и славная 
миссия, хотя мотив обреченности отнюдь не является для нас самоцелью. Это лишь необходимая прелюдия к выходу из состояния 
обреченности» [169].
Источником крайнего пессимизма, демонстрируемого президентом клуба, возможно, с одной стороны, является несовпадение 
целей, согласно которым должно развиваться мировое сообщество 
(по моделям Римского клуба), и, с другой, объясняется неизвестными ему законами, согласно которым природа планеты развивается миллионы лет. Главная задача Римского клуба, на наш 
взгляд, должна состоять в приведении мира к глобальному равновесию, что обеспечит его выживание. Поэтому возникает вопрос, 
насколько эта идея соответствует целям естественного развития 
мирового сообщества и насколько разработанные антропоморфные 
модели ему адекватны.
Выше уже приводился закон «необходимого разнообразия» 
У.Р. Эшби. Нам представляется, что на фоне критического состояния современного общества и пессимистичных прогнозов 
на его будущее, закон «эволюционных корреляций» должен звучать 
в более требовательной форме, например, так: темпы моральноэтической эволюции человечества должны быть выше темпов научно-технического прогресса.
Доказательством несоблюдения данного закона может служить 
перечень последствий, приведенный в работе [162]. Приведем некоторые из них:
• развивается системный кризис, охвативший три важнейших 
сферы духовной жизни общества — науку, религию и образование, что ведет к снижению уровня нравственности и деградация духовности;
• уничтожение всякой индивидуальности как внешней, так 
и внутренней жизни человека;
• изоляция личности, так как люди общаются, как правило, опосредованно через интернет, который не сближает, как ожидалось, а разобщает;
• разрушается облагораживающая функция кино, театра, эстрады, 
литературы, живописи, музыки, так как сегодня задачей все 

большей части служителей искусства становится пробуждение 
низких животных инстинктов: агрессии, эгоизма, вседозволенности;
• популяризуется тотальная погоня за материальными благами 
и прочими наслаждениями, что ведет к потере веры, совести 
и страха;
• падение уровня нравственности, порождающее инфантильность 
и бездушие и т.д.
Неизбежность пагубного влияния машин и, в частности компьютеров, на общество в целом, вовсе не значит, что сегодня они 
не могут быть эффективными помощниками в принятии решений. 
Здесь интересно будет привести противоположную точку зрения 
Рэя Далио, одного из влиятельных людей в мире бизнеса, который в своей книге [177], излагая принципы, согласно которым 
он смог добиться невероятных результатов, считает, что со временем человек не сможет принимать решения без машинных 
помощников. Машины будут узнавать нас и смогут предлагать 
нам индивидуальные решения и советы. Совсем скоро наши машинные помощники будут общаться с машинными помощниками 
других людей и сотрудничать с ними. И далее он восторгается чудесной комбинаций человека и машины, утверждая, что «процесс 
сотрудничества человеческого разума с технологиями возвышает 
его». 
Для того, чтобы разобраться насколько он его возвышает, рассмотрим более детально последствия массового внедрения интеллектуальных систем в процесс образования, который уже сегодня 
дает пагубные результаты. Надежда на то, что полученное свободное 
время, ранее траченное на выполнение рутинных учебных расчетов, 
студент сможет направить на творческие поиски, не оправдалась, 
что особенно бросается в глаза в процессе выполнения студентами 
лабораторных работ в компьютерных классах. Компьютер, как 
правило, не способствует осмыслению учебного материала, в большинстве случаев он подавляет инициативу студентов. В результате 
на занятиях они перестают быть личностью, так как «низводятся 
до степени простой материальной силы». 
Угрозы, которые несут образованию компьютеры, осознали 
в США уже давно. И лучше всего это осознают сотрудники, работающие в Силиконовой долине. На первой странице Приложения к газете Нью-Йорк Таймс 23 октября 2011 года была 
опубликована статья с заголовком: A Silicon Valley School That 
Doesn’t Computer («Школа без компьютеров в Силиконовой Долине») [136], в которой говорится о том, что по всей стране школы 
торопятся оснастить свои классы компьютерами, а многие политики заявляют, что не делать этого — просто глупо. 

Однако противоположная точка зрения, которая исходит от родителей, работающих в Силиконовой долине, и получившая широкую огласку в эпицентре разработок высоких технологий, заключается в следующем: школа и компьютеры несовместимы. Каким 
образом можно улучшить положение дел в высшей школе, рассмотрено нами в [84]. 
Проблема роботизации не только производства, но и организационного управления, неминуемо приведет к духовному обнищанию и тотальной безработице. Пока информационные роботы 
(инфоботы) ориентируются, в основном, на выполнение рутинной 
физической и умственной работы, но такое положение временное, 
так как прогресс в данной сфере неминуем. Частично будущий 
итог уже предвидел К. Маркс, в упомянутой ранее работе. Но тогда 
не было компьютеров, поэтому сегодня можно его цитату уточнить следующим образом: будущее положение общества гораздо 
хуже, так как неизбежно будет сокращаться потребность не только 
в «простой материальной силе», но и в умственной. В результате 
общество неизбежно столкнется с тотальной безработицей и дальнейшим духовным упадком, о чем необходимо озаботиться уже сегодня.
Сегодня оно сталкивается с поспешным и, иногда, безответственным распространением не до конца проверенных интеллектуальных систем в практике управления. Трагедии, произошедшие, 
например, с пассажирскими самолетами, и заявление, сделанное 
по этому поводу руководством компании Boeing [41] можно расценивать как сигнал-предостережение и призыв к повышению ответственности специалистов, занимающихся формализацией знаний 
человека. Формализация знаний, то есть их моделирование, — 
это важнейший этап создания ИИ, и именно он является одним 
их предметов рассмотрения в настоящей монографии. 
Сигналом-предостережением можно считать статистику несчастных случаев произошедших во вине роботов, приведенную 
в работе [183]. Первый произошел на заводе Ford в 1979 году, 
когда робот, извлекающий запчасти из хранилища, сломавшись, 
затем внезапно заработал и разбил человеку голову. В 1981 году 
инженер на заводе Kawasaki в Японии, пытаясь починить робота, 
нечаянно ударил его по переключателю. В результате гидравлическая рука робота убила его. Третий несчастный случай произошел 
в Германии во время обучения робота, подающего запчасти на заводе Volkswagen. С участием роботов-хирургов за период 2000–
2013 годов было зарегистрировано 144 смертельных случая и 1391 
травма во время операций, так как они самопроизвольно включались, ломались, неконтролируемо действовали и т.д. Именно в этом 
заключается истинная угроза от искусственного интеллекта.

В обзоре, сделанном от редакции журнала «Онтология проектирования» в [17], прослеживается растущая озабоченность в подкомитете по информационным технологиям Конгресса США, касающихся ИИ. В отчете «Восстание машин: искусственный интеллект 
и его растущее влияние на политику США [144, 143], в частности 
говорится «ИИ имеет потенциал, чтобы разрушить слои общества 
как ожидаемым, так и непредвиденным образом». Возможно, авторы отчета имели в виду тот факт, что в условиях быстрого прогресса науки и техники и повсеместного внедрения ИИ, духовной 
сфере общества пока отводится второстепенная роль. В результате 
утрачиваются моральные ценности, что серьезным образом отражается на нравственности человека.
Последствия создания ИИ вызывают опасение и в нашей стране. 
В «Национальной стратегии развития искусственного интеллекта 
до 2030 года» [187, с. 5] в разделе II «Развитие искусственного интеллекта в России и в мире» обращается внимание на то, что «Решение 
этой проблемы может привести не только к позитивным изменениям в ключевых сферах жизнедеятельности, но и к негативным последствиям, вызванным социальными и технологическими изменениями, которые сопутствуют развитию технологий искусственного 
интеллекта». Именно поэтому в разделе III «Основные принципы 
развития и использования технологий искусственного интеллекта» 
перечислены следующие принципы его создания:
а) защита прав и свобод человека;
б) безопасность; 
в) прозрачность и т.д.
В уже упомянутом обзоре [17] ИИ делится на два направления: 
узкий и общий; первый ориентирован на решение специализированных задач (машинный перевод, управление транспортом, распознавание образов), а второй — направлен на решение задач 
с параллельным обучением на основе рассуждений. Такое деление 
не ново, так как было известно, уже на протяжении последних пятидесяти лет. В настоящей монографии автор также пользуется им, 
но с применением современной терминологии, а именно: классический и статистический (ранее названный коннекционистским). 
Первый преследует цель воспроизведения мыслительного процесса 
человека на базе содержательной обработки входной информации 
(текста, образа, звука и т.д.), а второй — решения задач на базе статистических методов машинного обучения. Разница между ними 
такая же, как и обучение двух учеников — один обучается, рассуждая и вникая в смысл, а второй — зубрит, не пытаясь разобраться 
в содержании учебного материала.
В отличие от известного уже современного деления ИИ 
на «слабый» и «сильный» в настоящей монографии предлагается 

последний детализировать, добавив «средний». Продиктовано это 
необходимостью более четкого размежевания возможного и невозможного. Если А. Тьюринг считал под «сильным» ИИ систему, 
способную воспроизводить антропоморфное сознание и процесс 
мышления [160], то «слабый» — позволяет решать задачи без ориентации на когнитивные способности человека. В результате получена путаница, «сильный» ИИ — это миф, так «антропоморфное сознание» воспроизвести невозможно, а с другой в рамках «слабого» 
существует собственная градация, так одни системы способны 
определять и обрабатывать смысл, а другие нет, хоть и воспроизводят ряд антропоморфных функций. Для того чтобы отмежеваться от «сильного» ИИ, как несбыточного, и опираясь на уровни 
формирования (распознавания) смысла, детально изложенные 
Д.А. Поспеловым в работе [45], в монографии предложено добавить «средний» ИИ. Одним из признаков такого разделения может 
служить «антропоморфное сознание», наличие которого у «сильного» ИИ является лишь мечтой, но в то же время «средний», 
обращающийся к смысловой обработке информации, вполне реален. Он может сколько угодно совершенствоваться в формировании и обработке смысла, но никогда не сможет достигнуть 
уровня «антропоморфного сознания». Определена также разница 
между «средним» и «слабым» ИИ: первый оперирует смыслом, полученным самостоятельно в результате обработки семантической 
структуры выражения, а второй — пользуется уже готовым смыслом, заложенным в модели баз знаний человеком. 
Изложенный в монографии материал должен подвести читателя 
к следующему выводу: классическая комбинаторная семантика 
и статистические модели порознь вряд ли смогут существенно помочь в создании общей теории интеллектуальных систем. Каж дая 
из теорий имеет положительные стороны, и пока еще непреодолимые недостатки. Интеграция обоих направлений позволит сделать серьезный шаг к разгадке «инсайта» гештальттеории [13], воссозданию процесса вербализации, моделированию воображения, 
фантазии, интуиции, инстинктов и эмоций. Пока это не произойдет, 
совре менные компьютеры останутся хорошими инструментами, 
спо собными воспроизводить лишь рутинную часть мыслительных 
способностей человека. 
Прочитав предлагаемую монографию и проанализировав особенно ту часть, которая касается проблем создания ИИ, читатель 
наверняка, как и авторы работы [39], придет к следующим выводам: 
пока современные цифровые компьютеры, работают в булевом 
пространстве (дискретном), невозможно смоделировать и воспроизвести такие фундаментальные процессы, происходящие в естественном интеллекте как:

• получение системного эффекта (эмерджентности), заключающегося в том, что: целое больше суммы своих частей; 
• получение синергетического эффекта путем слияния отдельных 
частей в единую систему (за счет системного эффекта);
• осуществление индуктивного вывода;
• осуществление полного и правильного машинного понимания 
текстов на естественном языке;
• обеспечение самоорганизации и рефлексии;
• использование ассоциативных и интуитивных знаний;
• развитие творческих способностей в литературе, поэзии, музыке, науке.
Вполне вероятно, что для этого потребуются новая математика 
и новые физико-химические процессы, обеспечивающие перечисленные когнитивные акты [39]. Вполне вероятно, что дальнейшее 
развитие искусственных систем будет строиться на синтезе классического и статистического подходов, что позволит ставить и решать 
перечисленные задачи. 
Актуальность поиска такого рода идей подчеркивается в «Национальной стратегии развития искусственного интеллекта 
до 2030 года», утвержденной Президентом РФ 10 октября 2019 года 
[187]. Возможно, что дальнейшее развитие искусственных систем 
будет строиться на синтезе классического и статистического подходов, что позволит ставить и решать перечисленные задачи. При 
этом в любом случае необходимо определиться с базовым понятием «мысль», на котором будет создаваться хоть «сильный», 
хоть «средний» или иной ИИ. Здесь имеется два несовместимых 
взгляда на его содержание: первый — мысль идеальна, а второй — 
материальна. Первый восходит к античным временам, развиваясь 
в новейшие времена западной цивилизацией, а также классиками 
марксизма-ленинизма. В его основу положена убежденность в том, 
что человек двойственен по своей природе: в нем присутствует одновременно два начала, духовное и животное (материальное). Объясняется это тем, что когда человек представляет в своем сознании, 
например, дом, то в нем возникает не материальный объект, а его 
идеальный образ. И тогда полагают, что мысль — это идеальное отражение действительности.
Современная же философия настаивает на двух формах существования материи — вещество и поле. Кроме вещественных 
микро- и макрообъектов, она обладает единым информационноэнергетическим полем. С этой точки зрения мысль — это синтез информации и энергии, что указывает на то, что мысль материальна 
[188].
Читатель в процессе ознакомления с данным материалом обнаружит, что автор в попытках поиска направлений решения не