Модели поведения, восприятия и мышления

Модели поведения, восприятия и мышления

2-е издание, исправленное

Шамис А.Л.

Национальный Открытый Университет “ИНТУИТ”
2016

2

УДК [004.81:159.93/.95](076.6)
ББК 38
Ш19
Модели поведения, восприятия и мышления / Шамис А.Л. - M.: Национальный Открытый
Университет “ИНТУИТ”, 2016 (Основы информационных технологий)
ISBN 978-5-9963-0249-9

В курсе с общих позиций рассматривается широкий круг вопросов, касающихся проблем
моделирования поведения, восприятия и мышления.
Наряду с общими вопросами рассматриваются модели целенаправленного поведения, восприятия с
“пониманием” и активных нейронных механизмов мозга, а также качественные модели
репродуктивного и творческого мышления. В основе этих моделей лежит “принцип устойчивого
неравновесия”, принцип maxT и системные принципы целостности, целенаправленности и
активности. Описывается также применение принципов целостности, целенаправленности и
активности в системах распознавания рукописных текстов Графит, FineReader-рукопись и
FormReader.

(c) ООО “ИНТУИТ.РУ”, 2009-2016
(c) Шамис А.Л., 2009-2016

3

Введение

В данной лекции мы затронем вопрос об определении мышления и будем возвращаться
к этому вопросу еще много раз на протяжении всего курса.

Тайны и загадки мира

Мышление - это одна из многих интереснейших загадок мира. В начале XX века среди
физиков было распространено мнение, что все физические законы уже известны и в
научных исследованиях речь может идти лишь о количественных уточнениях. После
этого появились теория относительности, квантовая механика, атомная энергетика и
многое другое. Сейчас опять иногда начинают говорить о том, что мы почти все уже
знаем и близки к построению “окончательной теории”, объясняющей все в нашем
мире. Это заблуждение. Мы практически ничего не знаем о важнейших вещах,
касающихся устройства мира. Мы не знаем, что такое электричество, внутриатомные
взаимодействия, гравитация, магнетизм и распространяющееся в пустом пространстве
поле. Мы ничего не знаем об общем устройстве мира и действующих в нем процессах
управления и организации, заменяя иногда это знание упрощенными, не требующими
доказательства или проверки религиозными представлениями. Мы не понимаем, что
такое бесконечность и вечность, и, соответственно, не знаем, ч то такое пространство и
время. Вполне возможно, что мы ничего не знаем об очень многих вещах, не
взаимодействующих с известными нам физическими объектами и потому никак не
проявляющих себя в нашем мире.

В ряду этих вопросов стоят загадки жизни и разума. При этом неизвестно, являются ли
существующие на земле жизнь и разум чем-то общим, проявляющимся и значимом во
всем мире, или это частные феномены, имеющие значение только для окружающей
Землю мельчайшей части бесконечного мира.

В любом случае загадки о жизни и разуме очень интересны. Они не просто интересны,
они еще и актуальны. Актуальность проблемы определяется не только перспективой
практического использования, но и существующими предпосылками к ее решению. О
предпосылках к решению проблемы мышления мы и будем говорить.

Может ли машина мыслить?

Мы будем говорить о том, что такое мышление и можно ли его реализовать вне мозга,
т. е. техническими или программными средствами. В связи с этим нас в первую
очередь будут интересовать различия между живым и неживым и вопрос, являются ли
эти различия принципиальными. К ответу нас может подтолкнуть рассмотрение
некоторых моделей поведения, восприятия и процесса мышления, а также модели
некоторых нейронных механизмов мозга. К сожалению, в большинстве случаев мы
вынуждены будем ограничиваться качественным (неформальным) уровнем
рассмотрения проблем. Это может затруднять понимание, делая его неоднозначным. С
другой стороны, неоднозначность может быть полезна, оставляя простор для
воображения и фантазии. Многое из того, о чем мы будем говорить, является не

4

устоявшимися признанными фактами, а гипотезами. Будет хорошо, если эти гипотезы
подвергнутся вашей критике или вызовут у вас вопросы.

Определенные сведения по рассматриваемым проблемам вы уже получили после того,
как прослушали лекции по интеллектуальным системам, распознаванию образов и
нейронным сетям. О моделировании интеллекта написаны тысячи книг, с некоторыми
из них вы уже знакомились и, может быть, изучали. В частности, возможно, вы
знакомились с вышедшей на русском языке книгой Тьюринга “Может ли машина
мыслить?”.

В середине прошлого века на фоне бурного начального этапа развития вычислительной
техники и программирования в средствах массовой информации, в популярных
научных и околонаучных изданиях горячо обсуждался вопрос: может ли машина
мыслить? Спорящие разделились на два лагеря - физиков и лириков. Физики - это те,
кто на вопрос, может ли машина мыслить, отвечали “да”, лирики - те, кто отвечали
“нет”. За ответом “да” следовали обвинения в грубом механицизме, за ответом “нет” -
в идеализме. Спорящие были уверены в своей правоте, хотя серьезной доказательной
аргументации ни в первом, ни во втором случае не было. Так, аргументы лириков в
основном опирались на утверждение о несводимости психологического уровня
рассмотрения к физиологическому, а физиологического - к техническому, поскольку
мышление и жизнь - это особые формы движения материи. (Помните Чехова: “Не
может быть потому, что не может быть никогда”.) Аргументы физиков сводились в
основном к проповеди материализма и отрицанию идеализма. Все это особого смысла
не имело, поскольку не был определен предмет спора. Правильным был бы ответ “не
знаю” или напрашивающийся встречный вопрос: а что такое мышление? Последнее
равносильно ответу “не знаю”. Вообще-то неплохо было бы ответить и на вопрос: что
такое машина, или: что такое не машина, т. е. жизнь? Ответ также не очевиден.

Сократ. Круги знания

Плохо ли отвечать “не знаю”? Нет, не плохо. Плохо - это абсолютная уверенность.
Существует рассказ о Сократе и его ученике. Говорят, что ученик как-то сказал
Сократу: учитель, почему вы так часто говорите “не знаю”? Я, ваш ученик, говорю “не
знаю” гораздо реже. В ответ Сократ нарисовал два круга - большой и маленький и
сказал: “Внутри большого круга то, что знаю я, внутри маленького - то, что знаешь ты.
На границе большого круга - то, чего не знаю я, на границе малого круга - то, что не
знаешь ты. Как видишь, я не знаю гораздо больше, чем ты”.

К кругам Сократа можно добавить следующую интерпретацию. Внутри круга знания
обладающего мозгом субъекта находится в основном целостная субъективная модель
его мира. Модель строится в процессе прямого эксперимента, т. е. она отражает опыт
взаимодействия с окружающей средой. Кроме того, если субъект - это человек, то
значительная часть субъективной модели мира строится на основе уже имеющейся у
него модели с добавлением информации, приобретаемой из книг, а также с помощью
других людей, в том числе учителей или проповедников. Информация, лежащая в
круге знания, всегда неполна, неточна и субъективна. Поэтому этот круг можно
назвать кругом субъективного относительного знания.

5

На границе круга знания лежит область относительного или актуального незнания. Это
то, о чем можно сформулировать какие-то вопросы с использованием имеющегося
знания. За пределами области актуального незнания лежит область абсолютного
незнания, содержащая неизвестно что.

Пример. Электричество во времена Пушкина у всех людей лежало в области
абсолютного незнания. Сейчас у студента физтеха электричество частично лежит в
области знания и частично в области актуального незнания. Правда, возможно, что для
получения полной разгадки тайны электричества нужно заглянуть в область
абсолютного незнания. Можно допустить, что в области абсолютного незнания может
существовать что-то вполне материальное, но не просто пока еще неизвестное, а
принципиально человеком непознаваемое. Такое допущение может отчасти примирить
материалистов и идеалистов.

Пример. Может ли кролик получить хоть какое-то представление о поэмах Гомера?
Нет, не может. Модель мира кролика (круг знания) не имеет и не может иметь никаких
пространственных и смысловых пересечений с поэмами Гомера, лежащими для
кролика в области абсолютного незнания и в подобласти “непознаваемое”.

Подходы к определению мышления

На интуитивном бытовом уровне слова “мышление” и “жизнь” всем понятны, однако
четких и полных определений не существует. Есть надежда, что для человека
проблемы “жизнь” и “мышление” лежат в области актуального (относительного)
незнания. Поэтому сегодня точное исчерпывающее определение этих понятий и в
первую очередь мышления невозможно, но станет возможным в будущем. Тем не
менее, занимаясь исследованием и моделированием мышления или только оценкой
перспективности этих исследований, нужно хотя бы в каком-то приближении дать
определение мышления. Иначе не будет понятно, о чем идет речь.

Предлагалось много разных преимущественно индуктивных определений, строящихся
на перечислении признаков или характеристик явления. Обычно важными
характеристиками мышления считаются: память, обучение, наличие семантической
модели проблемной среды, индуктивный вывод, дедуктивный вывод, ассоциации по
сходству, ассоциации по смежности во времени, интуиция, инсайт (озарение),
способность решения неалгоритмических творческих задач, сознание. Этот список,
получаемый на основе психологических экспериментов или самоанализа, можно
расширять, например, добавляя воображение, умозрительное конструирование,
активность; можно и сокращать, поскольку неизвестно, какие характеристики
мышления являются необходимыми. В любом случае такое определение может быть
лишь очень приблизительным, поскольку входящие в перечень характеристики в свою
очередь не являются строгими понятиями и чаще всего сами нуждаются в
определении. Перечисленные и другие аналогичные характеристики, выявляемые
методами нейрофизиологии или психологии, не давая точного определения мышления,
безусловно, полезны, указывая направления возможных теоретических и
экспериментальных работ.

6

Тест Тьюринга

Итак, ответ на вопрос, что такое мышление, неизвестен. Общего точного определения
не существует, поэтому можно давать разные ответы. Можно и не давать никаких
ответов, а просто использовать тест Тьюринга для определения, мыслит или нет
конкретная программа или машина. В соответствии с этим тестом важен только
результат процесса мышления и не важно, как он достигается. Тест состоит в
следующем. Есть образец - мышление человека, с которым сравнивается мышление
машины. Конкретная программа (машина) мыслит, если человек, ведя с ней диалог, не
может определить, с кем он общается - с машиной или с человеком.

Может ли компьютерная программа, созданная в рамках алгоритмического подхода,
развиваемого в направлении “Искусственный интеллект”, пройти тест Тьюринга?
Такую программу написать можно. Трудности будут состоять в том, что человек,
пытаясь “разоблачить” машину, будет ориентироваться не только на содержание
ответов и вопросов, но и на сложность фраз, экспрессию, эмоциональную окраску
текста, чувство юмора и т. п. Но эти трудности преодолимы. Иногда говорят, что с
момента, когда машины начнут проходить тест Тьюринга, начнется соперничество и
борьба за выживание между машиной и человеком (называется близкий срок: 2015-
2030 годы). Будут ли машины (программы), прошедшие тест Тьюринга, соперничать с
человеком и стремиться к его подчинению? Нет, не будут, если они останутся чисто
алгоритмическими пассивными системами, не имеющими потребностей, целей,
желаний и эмоций. Например, не станут системами, которые не только умеют
выигрывать в шахматы у человека, но и хотят это делать. В этом аспекте нужно
говорить не о перспективах создания искусственного разума, а о перспективах
создания искусственной жизни.

Тест Тьюринга не является определением мышления. Делающаяся оценка,
основывающаяся на внешнем сравнении результатов “мышления” машины и человека,
может быть лишь очень приблизительной, поскольку никак не очерчивается круг
тестовых задач (вопросов). Кроме того, возможно, что мышление - это не столько
умение решать задачи, сколько способ решения. Нужно также подчеркнуть, что тест
Тьюринга направлен на то, чтобы установить, обладает ли конкретная машина
“человеческим” мышлением, то есть точно таким мышлением, каким обладает человек.
При этом остается вопрос, является ли мышление человека единственным вариантом.
И наконец, тест Тьюринга ровным счетом ничего не дает для ориентации исследований
в области моделирования мышления.

Предварительное определение мышления

Не являются удовлетворительными и упоминавшиеся ранее индуктивные определения,
хотя в отличие от теста Тьюринга такие определения, безусловно, полезны для общего
понимания проблемы и могут использоваться при планировании необходимых
направлений исследований.

Может быть, к ответу на вопрос, что такое мышление, полезно идти от анализа задач,
для решения которых возник и эволюционно развивался мозг. Живым организмам, в

7

том числе и человеку, для организации эффективного целенаправленного поведения и
в конечном счете для выживания необходимо приобретение и использование знаний о
своей среде обитания. Приобретаемые знания формируют в мозге активную модель
окружающего мира. Эта модель используется для восприятия среды, управления
поведением в среде и для наращивания самой модели. Строя в мозге модель мира,
обладающий мозгом субъект отражает в модели выявляемые причинно-следственные
связи между объектами и явлениями мира, включая и самого себя как объект мира,
строит иерархии обобщений по линии частное-общее и укрупнений по линии часть-
целое. Подчеркнем, что в основе построения модели мира лежит эксперимент,
определяющий связи между причинами и следствиями. Средство для построения
модели мира - это мыслящий мозг, конструирующий эксперимент по выявлению
причинно-следственных связей в мире и отражающий в себе результаты эксперимента.
Интересно понять, как работает это средство и что с его помощью можно узнать о
мире.

Таким образом, будем считать, что мышление - это функция мыслящего мозга,
строящего на основе эксперимента активную модель окружающего мира и
использующего эту модель для активного восприятия мира и активного управления
поведением. Это очень общее предварительное определение. В дальнейшем мы
постараемся его конкретизировать и приблизиться к ответу на вопрос “Что такое
мышление?”. Я думаю, что ответ на этот вопрос для человека лежит частично в
области знания и частично в области актуального (относительного) незнания. Правда,
есть и вероятность того, что полный ответ находится в области абсолютного незнания
или даже в области непознаваемости.

Мышление - это сложный многоплановый процесс, имеющий свою специфику в
зависимости от решаемой мозгом задачи. Мы будем говорить о различных видах
мышления, таких как:

перцептивное мышление,
когнитивное мышление,
практическое (поведенческое),
абстрактное,
образное,
словесно-логическое или понятийное,
репродуктивное простое,
репродуктивное творческое,
креативное творческое мышление.

8

О работах в области моделирования мышления

В данной лекции мы попробуем сделать краткий обзор направлений работ, имеющих
отношение к моделированию мышления, дать общие оценки тому, что сделано, и
перспективам дальнейшего продвижения в направлении понимания и моделирования
мышления.

Кибернетика

Работы, направлявшиеся на понимание и автоматизацию (имитацию) мышления,
велись под разными флагами. Первым и самым большим из этих флагов была
кибернетика - наука об управлении в технике, природе и обществе. Кибернетика не
стала наукой. Слово “кибернетика” сейчас чаще всего используется как родовое
понятие для разных научных направлений, объединяемых тем, что они занимаются
получением, обработкой, передачей, хранением и использованием информации.
Кибернетика как новая наука была предложена Норбертом Винером в 1948 г.
Содержательная часть кибернетики состояла в попытке обобщения понятия
управления и в провозглашении единства (схожести) принципов и процессов
управления в технике, живой природе и обществе. Утверждалось, что в живой природе
реализуются те же принципы управления, что и в технике, а именно управление по
отклонению на основе отрицательных обратных связей и управление по возмущению
- схема стимул-реакция (т. е. рефлексы).

Эти представления прекрасно сочетаются со сформулированным русским физиологом
И.П. Павловым (задолго до возникновения кибернетики) общим принципом поведения
живых организмов, звучащим как “уравновешивание со средой”. Эти же представления
легли в основу концепции гомеостаза и гомеостата (Эшби), а также в основу
многочисленных как теоретических, так и технических моделей поведения и
мышления, строящихся по схеме стимул-реакция. Об этом еще будем подробно
говорить в дальнейшем.

Провозглашение общих принципов кибернетики имело как положительное, так и
отрицательное значение. Положительное значение состояло в том, что кибернетика
подтолкнула ученых, и в первую очередь представителей точных наук, к исследованию
и моделированию информационных процессов, связанных с поведением, восприятием
и мышлением. Математики и инженеры стали интересоваться физиологией и
психологией. Начались попытки проведения комплексных междисциплинарных
исследований.

Отрицательное значение общих принципов кибернетики состояло в том, что на этой
основе часто упрощались (и даже примитивизировались) представления о живом и в
особенности представления о поведении животных. Подчеркивалась общность, и
отодвигалось на задний план принципиальное различие между живым и неживым.
Излишнее внимание уделялось (а часто уделяется и сейчас) гомеостазу, обратным
связям, схеме стимул-реакция, проблеме “уравновешивания со средой”. В то же время
недостаточное внимание уделялось аспектам активности и целенаправленности. (Об
этом мы подробно будем говорить в дальнейшем.)

9

Кроме того, на первых порах с энтузиазмом обсуждался вопрос о сходстве между
устройством мозга и устройством вычислительной машины. Появлялась масса статей и
книг, таких как, например, “Мозг как вычислительная машина” (Джордж),
“Конструкция мозга” (Эшби), “Алгоритмы разума” (Амосов).

В начале работ по кибернетике часто в разных аспектах проводились неправомочные
прямые параллели между мозгом и вычислительной машиной. Так, очень часто,
сравнивая мозг и вычислительную машину, в качестве важного различия говорили, а
иногда и сейчас говорят, о том, что ЭВМ - это последовательный вычислитель, а мозг -
огромный, включающий 14 млрд. нейронов, параллельный. Однако уже давно
совершенно очевидна неправильность такого поверхностного сравнения. Говорить о
том, что мозг - это мощный вычислитель, и сопоставлять операции, которые выполняет
человеческий мозг, с операциями вычислительной машины нельзя. Это совершенно
разные операции.

Человек, несмотря на якобы параллельную организацию своего “вычислителя”, не
может делать 100 тысяч сложений в секунду. Он, как правило, и одного сложения за
секунду сделать не может. При этом человеку удается решать некоторые задачи,
которые машина при всей своей вычислительной мощности решать не может либо
решает долго, на основе перебора. И дело здесь не в том, что машина - это
последовательный вычислитель, а мозг - параллельное “устройство”. Просто мозг и
вычислительная машина решают свои задачи совсем по-разному. Тем не менее до сих
пор иногда возникают работы, в которых говорится (как об открытии) о том, что мозг и
вычислительная машина работают совершенно по-разному, хотя в этом уже давно
можно не сомневаться.

В дальнейшем мы постараемся более или менее подробно обосновать, что, говоря о
работе мозга, не следует использовать термины “алгоритм” и “программа”, поскольку
то, что управляет работой мозга в процессе мышления, ни алгоритмом в строгом
смысле, ни программой, по-видимому, не является. Не является то, что происходит в
мозге, и вычислениями.

Бионика

Так называемая интеллектуализация машин велась под разными флагами. Один из них
назывался бионика. Бионика инициировалась кибернетикой, и общая цель бионики
формулировалась как перенос в технику “изобретений” природы. Под этим флагом
открывались многочисленные лаборатории, часто объединявшие инженеров и
физиологов. Например, многочисленные лаборатории в различных организациях
Министерства радиопромышленности, НИИ нейрокибернетики РГУ, студенческие
группы в РГУ, которым в равном объеме читались физиология и математика, группы с
бионическим уклоном на физфаке МГУ и т. п.

Одной из наиболее важных задач бионики считалось использование в вычислительной
технике знаний из области нейрофизиологии мозга. Однако достаточно быстро
выяснилось, что переносить из нейрофизиологии в вычислительную технику нечего,
при этом не только потому, что физиология не располагает достаточной

10