Введение в искусственный интеллект
Покупка
Новинка
Основная коллекция
Тематика:
Кибернетика
Издательство:
Инфра-Инженерия
Автор:
Кричевский Михаил Лейзерович
Год издания: 2026
Кол-во страниц: 288
Возрастное ограничение: 12+
Дополнительно
Вид издания:
Учебник
Уровень образования:
ВО - Магистратура
ISBN: 978-5-9729-3022-7
Артикул: 895753.01.99
Приведены сведения о становлении и развитии искусственного интеллекта, проанализированы модели глубокого обучения, представлены методы векторного представления слов, описаны механизм внимания и архитектура трансформера, рассмотрены вопросы генеративного моделирования, указаны принципы создания и работы больших языковых моделей.
Адресован студентам, обучающимся по специальностям и направлениям подготовки высшего образования 09.04.01 «Информатика и вычислительная техника» и смежным направлениям подготовки. Кроме того, учебник окажется полезным преподавателям, которые ведут занятия по дисциплинам учебного плана, ориентированным на искусственный интеллект, аспирантам и лицам, заинтересованным в углублении своих знаний в области искусственного интеллекта.
Скопировать запись
Фрагмент текстового слоя документа размещен для индексирующих роботов
М. Л. Кричевский ВВЕДЕНИЕ В ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ Учебник Москва Вологда «Инфра-Инженерия» 2026
УДК 004.8 ББК 32.813 К82 Рецензенты: доктор экономических наук, профессор Гильденгерш М. Г. (Санкт-Петербургский государственный экономический университет); доктор педагогических наук, профессор Степанов А. Г. (Санкт-Петербургский государственный университет аэрокосмического приборостроения) Кричевский, М. Л. К82 Введение в искусственный интеллект : учебник / М. Л. Кричевский. – Москва ; Вологда : Инфра-Инженерия, 2026. – 288 с. : ил., табл. ISBN 978-5-9729-3022-7 Приведены сведения о становлении и развитии искусственного интеллекта, проанализированы модели глубокого обучения, представлены методы векторного представления слов, описаны механизм внимания и архитектура трансформера, рассмотрены вопросы генеративного моделирования, указаны принципы создания и работы больших языковых моделей. Адресован студентам, обучающимся по специальностям и направлениям подготовки высшего образования 09.04.01 «Информатика и вычислительная техника» и смеж- ным направлениям подготовки. Кроме того, учебник окажется полезным препода- вателям, которые ведут занятия по дисциплинам учебного плана, ориентированным на искусственный интеллект, аспирантам и лицам, заинтересованным в углублении своих знаний в области искусственного интеллекта. УДК 004.8 ББК 32.813 ISBN 978-5-9729-3022-7 Кричевский М. Л., 2026 Издательство «Инфра-Инженерия», 2026 Оформление. Издательство «Инфра-Инженерия», 2026
ÎÃËÀÂËÅÍÈÅ Список сокращений .................................................................................................. 5 Введение ...................................................................................................................... 7 Глава 1. ИСТОРИЯ РАЗВИТИЯ СОВРЕМЕННОГО ИСКУССТВЕННОГО ИНТЕЛЛЕКТА .......................... 14 1.1. Определение искусственного интеллекта .................................................... 14 1.2. Зарождение искусственного интеллекта – 1940–1960 гг. ........................... 16 1.3. Ранние годы: 1960–1980 гг. ........................................................................... 25 1.4. Рождение нового интеллекта: 1980–2000 гг. ............................................... 41 1.5. Трансформер – новая парадигма: 2000–2020 гг. ......................................... 53 Контрольные вопросы ........................................................................................... 63 Дополнительные источники .................................................................................. 64 Глава 2. МОДЕЛИ ГЛУБОКОГО ОБУЧЕНИЯ ............................................... 65 2.1. Классификация моделей глубокого обучения ............................................. 65 2.2. Многослойный персептрон ............................................................................ 67 2.3. Сверточные нейронные сети ......................................................................... 73 2.4. Остаточные сети .............................................................................................. 80 2.5. Рекуррентные нейронные сети ...................................................................... 83 2.6. Долгая краткосрочная память ........................................................................ 89 2.7. Управляемый рекуррентный блок ................................................................. 94 Краткие итоги главы .............................................................................................. 96 Контрольные вопросы ........................................................................................... 97 Дополнительные источники .................................................................................. 97 Глава 3. ВЕКТОРНОЕ ПРЕДСТАВЛЕНИЕ СЛОВ ......................................... 99 3.1. Основы векторизации слов ............................................................................ 99 3.2. Модели на основе частоты слов .................................................................. 107 3.3. Статические плотные эмбеддинги ............................................................... 121 3.4. Контекстные эмбеддинги ............................................................................. 129 Краткие итоги главы ............................................................................................ 134 Контрольные вопросы ......................................................................................... 135 Дополнительные источники ................................................................................ 135 Глава 4. ТРАНСФОРМЕР – НОВАЯ ПАРАДИГМА НЕЙРОСЕТЕЙ ....... 137 4.1. Механизм внимания в рекуррентных нейронных сетях ........................... 137 4.2. Эволюция механизма внимания .................................................................. 141 4.3. Принцип действия механизма внимания .................................................... 148 4.4. Архитектура Transformer .............................................................................. 162 Краткие итоги главы ............................................................................................ 169 Контрольные вопросы ......................................................................................... 170 Дополнительные источники ................................................................................ 171
Глава 5. ОСНОВЫ ГЕНЕРАТИВНОГО ИСКУССТВЕННОГО ИНТЕЛЛЕКТА ............................................................. 173 5.1. От искусственного интеллекта к генеративному искусственному интеллекту .................................................. 173 5.2. Генеративное моделирование ...................................................................... 185 5.3. Генеративно-состязательная сеть ................................................................ 196 5.4. Вариационный автоэнкодер ......................................................................... 201 5.5. Диффузионные модели ................................................................................. 208 5.6. Нормализующие потоки ............................................................................... 217 Краткие итоги главы ............................................................................................ 221 Контрольные вопросы ......................................................................................... 222 Дополнительные источники ................................................................................ 222 Глава 6. БОЛЬШИЕ ЯЗЫКОВЫЕ МОДЕЛИ ................................................. 225 6.1. История развития больших языковых моделей ......................................... 225 6.2. Архитектуры больших языковых моделей ................................................. 230 6.3. Семейства больших языковых моделей ...................................................... 233 6.4. Предварительное обучение .......................................................................... 244 6.5. Тонкая настройка – инструкции .................................................................. 253 6.6. Тонкая настройка – выравнивание .............................................................. 260 6.7. Адаптация модели с помощью параметров ................................................ 267 6.8. Генерация с дополненной выборкой ........................................................... 275 Краткие итоги главы ............................................................................................ 280 Контрольные вопросы ......................................................................................... 281 Дополнительные источники ................................................................................ 282 Заключение ............................................................................................................. 285
CÏÈÑÎÊ ÑÎÊÐÀÙÅÍÈÉ БЯМ – большая языковая машина ИИ – искусственный интеллект МО – машинное обучение КА – конечный автомат НС – нейронная сеть ПВ – плотность вероятности ADALINE – Adaptive Linear Neuron (Адаптивный линейный нейрон) AE – AutoЕncoder (Автоэнкодер) AGI – Artificial General Intelligence (Сильный ИИ) ANI – Artificial Narrow Intelligence (Слабый ИИ) API – Application Programming Interface (Интерфейс программирования приложения) ASI – Artificial Superintelligence (Суперсильный ИИ) AutoML – Auto Machine Learning (Автоматическое машинное обучение) BoW – Bag of Words (Мешок слов) BCE – Binary Cross-Entropy (Бинарная кросс-энтропия) BPE – Back Propagation Error (Обратное распространение ошибки) BERT – Bidirectional Encoder Representations from Transformers (Модель двунаправленного энкодера с трансформерами) BРTT – Backpropagation Through Time (Обратное распространение через время) CBOW – Continuous Bag-Of-Words (Модель непрерывного мешка слов) CNN – Convolutional Neural Network (Сверточная нейронная сеть) CPU – Central Processor Unit (Стандартный центральный процессор) DDPM – Denoising Diffusion Probabilistic Model (Вероятностная модель диффузии с шумоподавлением) DGM – Deep Generative Model (Глубокая генеративная модель) DL – Deep Learning (Глубокое обучение) DM – Diffusion Model (Диффузионная модель) DNN – Deep Neural Networks (Глубокие нейронные сети) DPA – Dot-product attention (Скалярное произведение) DPM – Diffusion Probabilistic Model (Диффузионная вероятностная модель) ELBO – Evidence Lower Bound (Нижняя граница доказательства) FBM – Flow-based Model (Потоковая модель) FID – Frechet Inception Distance (Начальное расстояние по Фреше) FT – Fine-Tuning (Тонкая настройка) GAN – Generative Adversarial Network (Генеративно-состязательная сеть) GloVe – Global Vectors (Глобальные векторы) GPT – Generative Pre-trained Transformers (Генеративные предварительно обученные трансформеры)
GRU – Gated Recurrent Unit (Управляемый рекуррентный блок) GUI – Graphical User Interface (Графический пользовательский интерфейс) IСL – In-Context Learning (Контекстное обучение) IR – Information Retrieval (Извлечение информации) LDM – Latent Diffusion Model (Модель латентной диффузии) LLM – Large Language Model (Большая языковая модель) LM – Language Modeling (Языковое моделирование) LoRA – Low-Rank Adaptation (Низко-ранговая адаптация) LSTM – Long Short-Term Memory (Сеть с долгой краткосрочной памятью) MLM – Masked Language Model (Предсказание маскированных слов) ML – Machine Learning (Машинное обучение) MLP – Multi-Layer Perceptron (Многослойный персептрон) NSP – Next Sentence Prediction (Предсказание следующего предложения) NLM – Neural Language Models (Нейронные языковые модели) NLP – Natural Language Processing (Обработка естественного языка) NMT – Neural Machine Translation (Нейронный машинный перевод) PCA – Principal Component Analysis (Метод главных компонентов) РЕ – Prompt Engineering (Разработка подсказок) PLM – Pre-trained Language Models (Предварительно обученные языковые модели) RAG – Retrieval-Augmented Generation (Генерация с дополненной выборкой) RBM – Restricted Boltzmann Machine (Ограниченная машина Больцмана) ResNet – Residual Network (Остаточные сети) RE – Relation Extraction (Извлечение информации) RL – Reinforcement Learning (Усиленное обучение) RLHF – Reinforcement Learning With Human Feedback (Обучение с подкреплением и обратной связью от человека) RM – Reward Model (Модель вознаграждения) RNN – Recurrent Neural Network (Рекуррентная нейронная сеть) SG – Skip-Gram (скип-грамма) SFT – Supervised Fine-Tuning (Контролируемая тонкая настройка) SLM – Statistical Language Models (Статистические языковые модели) TF-IDF – Term Frequency – Inverse Document Frequency (Частота слова – обратная частота документа) VAE – Variational Autoencoder (Вариационный автоэнкодер) WE – Word Embedding (Встраивание, эмбеддинг)
ÂÂÅÄÅÍÈÅ Искусственный интеллект (ИИ) – это отрасль науки, которая помогает машинам находить решения сложных проблем так же, как это делает человек. Обычно это связано с заимствованием характеристик человеческого интеллекта и применение их в качестве алгоритмов в удобном для компьютера способе. ИИ – чрезвычайно широкое и трудно формализуемое понятие, которое связано с представлением знаний, их извлечением и последующими манипуляциями над ними. ИИ проникает в различные сферы деятельности человека, дополняя и даже заменяя его естественный интеллект. ИИ возник из информатики и компьютерных наук, но на эту область оказали сильное влияние и другие дисциплины, в частности, философия, когнитивная наука, нейробиология и экономика. Учитывая междисциплинарный характер этой области, среди исследователей ИИ мало согласия об общем определении и понимании ИИ. В настоящее время тематика ИИ охватывает огромный перечень научных направлений, начиная с таких задач общего характера, как обучение и восприятие, и заканчивая такими специальными задачами, как игра в шахматы, доказательство математических теорем, сочинение поэтических произведений, создание программных кодов, диагностика заболеваний. В ИИ систематизируются и автоматизируются интеллектуальные задачи, поэтому эта область касается любой сферы интеллектуальной деятельности человека. В этом смысле ИИ является поистине универсальной научной областью. Искусственный интеллект нацелен на то, чтобы создать следующую волну цифрового прорыва, и компании должны быть готовы к этому сейчас. Уже видна реальная выгода для фирм, внедряющих ИИ на раннем этапе, что заставляет другие корпорации ускорить цифровую трансформацию. Утверждений о пер- спективах и опасностях ИИ много, и их становится все больше. Искусственный интеллект позволяет машинам демонстрировать человеческое мышление, управ- ляет нашими автомобилями, повышает производительность корпораций. Методы ИИ могут заменить рабочих на повторяющихся или опасных операциях, но также могут лишить их средств к существованию. История ИИ изобилует взлетами и падениями, экстравагантными обещаниями и неприятными разочарованиями. Анализ развития ИИ предполагает, что эта область науки наконец-то начинает приносить реальную пользу. Мощность компьютеров значительно растет, алгоритмов становится все больше, они становятся все более сложными, и, возможно, самое главное – мир производит огромное количество топлива, питающее ИИ: это данные. Миллиарды гигабайт каждый день. Но, тем не менее, разработчики больших языковых машин (БЯМ) столкнулись с неожиданной трудностью при их обучении: нехватка данных. Разработка и обучение ИИ-систем требуют использования больших объемов дан- ных – как высококачественных (статьи, диссертации, исследования, мировая художественная литература), так и более низкого качества (публикации в ин-
тернете и др.). Исследователи прогнозируют нехватку данных первого типа, высококачественных данных, к 2026 г., визуальных данных – к 2030–2060 гг. Здесь приемлемым выходом может быть использование синтетических данных. Напомним, что ИИ принято разделять с учетом возможностей технологий на три категории: слабый (узкий) ИИ (Artificial Narrow Intelligence, ANI), сильный (широкий) ИИ (Artificial General Intelligence, AGI) и суперсильный ИИ (Artificial Superintelligence, ASI). При этом слабый ИИ определяется как набор алгоритмов, ориентированный на решение узкоспециализированных прикладных задач. Сильный ИИ представляет собой гипотетическую концепцию системы ИИ, способной к решению любого класса задач, которые могут быть выполнены человеком. Суперсильный ИИ – концепция, выделяемая некоторыми исследователями и описывающая возможность создания в отдаленной перспективе систем ИИ, которые будут существенно превосходить разум человека. Такое предположение о появлении суперсильного ИИ является неопределенным, а контуры и смысловое содержание этой концепции пока еще не сформированы. ИИ освобождает людей от ограничений по времени, обеспечивая им возможность облегчать утомительную или неприятную механическую работу, помогает выявлять регулярности на микроскопическом и макроскопическом уров- нях, которые люди от природы не очень хорошо приспособлены воспринимать. Он может предсказывать проблемы и исправлять ошибки. ИИ может экономить деньги, время и даже жизни. ИИ должен быть инструментом, которым нужно владеть, а не линзой, через которую мы смотрим на мир. Для управления таким мощным инструментом мы должны быть вооружены знаниями, чтобы понимать его, не разрушая человеческие качества наших человеческих систем. Хотя большинство привыкло делить всех на физиков и лириков, на гуманитариев и технарей, в работе с ИИ есть много возможностей реализовать творческий потенциал. Задачи, которые приходится решать специалистам, как правило, не имеют единственного верного решения. Так что здесь на первый план выходит не столько конвергентное мышление, знакомое нам по урокам математики, а дивергентное, с которым мы чаще сталкиваемся на уроках литературы. Конвергентное мышление направлено на поиск единственно верного ответа. Дивергентное мышление нужно тогда, когда правильных ответов может быть несколько либо их нет вовсе. Все же деление на технарей и гуманитариев очень условное. Все зависит от мотивации. Если человеку интересно заниматься какой-либо задачей, он будет это делать. Не все работодатели до конца понимают, кто такой датасайентист (Data Science – Обработка данных). Эксперты предложили рассматривать дата-сайентиста с позиции трех составляющих: знаний математики, программирования и предметной области. Конечно, настолько универсальных солдат не существует. Есть люди с разными долями компетенций в этих сферах. Знание предметной области бывает не менее важным, чем знание алгоритмов.
Сейчас порог входа в машинное обучение, которое является составной частью ИИ, с точки зрения программирования достаточно низкий. В настоящее время есть масса библиотек с подробной документацией решений, которые позволяют заниматься разработкой без написания кода, активно развивается направление AutoML (Автоматическое машинное обучение) и пр. Гуманитарии могут обладать знаниями в предметной области, которые недоступны исключительно технарю. Гуманитарий может преобразовывать знания предметной области в полезные признаки и пр. Так, ряд звезд соревнований на Kaggle.com отмечают, что основной вклад в улучшение результатов модели приносит, как правило, добавление новых признаков, специфичных для конкретной предметной области. Например, для создания языковых моделей привлекаются филологи, чтобы они могли внедрить в модель свои знания. Сообщество Data Science очень открыто. Есть комьюнити, которое даже называется Open Data Science. Также существует множество площадок, подобных Kaggle.com, где люди со всего мира соревнуются друг с другом, решают различные задачи. Когда соревнования завершаются, топовые решения выкладываются в открытый доступ. Можно посмотреть не только результаты, но и их объяснения, и даже задать вопрос автору. И этим нужно пользоваться. Очень мала вероятность того, что вам как гуманитарию достанется задача, которую никто не решал ранее. В Data Science нужно быть максимально готовым к поиску новой информации и постоянному обучению. И не важно, гуманитарий вы или технарь. Цифровая жизнь расширяет возможности человека и нарушает многовековую человеческую деятельность. Системы, управляемые кодом, распространились на более чем половину жителей мира в области информации и возможностей подключения, предлагая ранее невообразимые возможности и беспрецедентные угрозы. По мере того, как ИИ, управляемый алгоритмами, продолжает распространяться, будут ли люди жить лучше, чем сегодня" Эксперты предсказали, что сетевой ИИ повысит эффективность работы человека, но также поставит под угрозу автономию, свободу действий и возможности человека. Они говорили о широких возможностях: компьютеры могут соответствовать или даже превосходить человеческий интеллект и возможности в таких задачах, как принятие сложных решений, рассуждения и обучение, сложная аналитика и распознавание образов, острота зрения, распознавание речи и языковой перевод. Они сказали, что «умные» системы в сообществах, в транспортных средствах, в зданиях и коммунальных службах, на фермах и в бизнес-процессах сэкономят время, деньги и жизни и предоставят людям возможность наслаждаться более индивидуальным будущим. Недавние быстрые достижения в области ИИ, возможно, являются наиболее важным аспектом прогресса человечества на сегодняшний день. Как представители человеческой расы, т. е. homo sapiens, мы определяемся нашей способностью к познанию. До сих пор люди были единственным видом, способным к более высоким когнитивным функциям. Но сегодня ИИ продвинулся до такой степени, что во многих задачах, связанных с познанием, он может сравниться
и даже превзойти производительность людей. ИИ также в настоящее время достигает чрезвычайно высокой эффективности в практических приложениях, таких как распознавание речи и объектов, самоуправляемые автомобили, интеллектуальные системы обучения, эффективные системы поддержки принятия решений, а также в способности обнаруживать закономерности в больших данных и в построении точных моделей социального поведения. Развитие ИИ активно поддерживается промышленностью. ИИ может радикально сократить расходы для промышленности и корпораций за счет сокращения оплачиваемой занятости людей. ИИ также может повысить качество продуктов и услуг, позволяя расширять масштабы деятельности и помогая в разработке новых продуктов и услуг. Используя ИИ, люди потенциально могут, с одной стороны, решить некоторые из наших самых сложных практических проблем и в то же время обеспечить рабочую силу, чтобы заменить людей на скучных работах. С другой стороны, ИИ может достичь уровней интеллекта, которые никогда ранее не были достижимы для человечества. Параллельно с развитием и поддержкой ИИ со стороны промышленности в последнее время также обсуждается вопрос о том, может ли ИИ стать причиной уничтожения человечества. Потенциальная опасность ИИ стала одной из ключевых тем общественного обсуждения после публикации в январе 2015 г. письма, инициированного Стивеном Хокингом и Илоном Маском и подписанного многими известными исследователями ИИ. В беседе Маск назвал исследования ИИ «вызовом демона», а Хокинг предупредил, что развитие ИИ может «означать конец человеческой расы». Развитие ИИ может пойти по радикально иному пути, который можно назвать ориентированным на человека ИИ. Такой ИИ фокусируется на сотрудничестве с людьми, расширении человеческих возможностей и расширении возможностей людей для лучшего достижения своих целей. Другими словами, благополучие людей является главной целью развития ИИ. При позитивном сценарии результаты выйдут за рамки прямой экстра- поляции предыдущего опыта и позволят внести фундаментальные изменения. Таким образом, можно будет разработать решения для радикально новых ситуаций. Этот сценарий произойдет, если ИИ будет использоваться для улучшения человеческого интеллекта, а не для его замены. Самый катастрофический «темный» сценарий, предполагающий апокалипсис ИИ, – это создание сверхразума, превосходящего человеческий, который будет быстро развиваться благодаря доступу к большим данным, сверхсильным алгоритмам обучения и петлям положительной обратной связи, созданным самосовершенствующейся архитектурой ИИ. Как только ИИ значительно превосходит человеческий интеллект, он становится естественной конкуренцией человечеству. Особенности продвинутых систем ИИ в соответствии с этим сценарием, вероятно, приведут к реализации такого мрачного исхода. Принцип самосохранения привел бы к разработке защитных стратегий со стороны ИИ и, следовательно, к конкурентному поведению и быстрому физиче-