Война в век разумных машин

ВОЙНА
ВОЙНА
в эпоху разумных машин
в эпоху разумных машин

Мануэль 
ДЕ ЛАНДА

Москва
Институт общегуманитарных
исследований

2016

Электронное издание

УДК 159.9
ББК 87
Л13

Л13
Де Ланда, М.

Война в век разумных машин [Электронный ресурс] / М. Де Ланда ; 
[Пер. с англ.]. — Эл. изд. — Электрон. текстовые дан. (1 файл pdf : 340 с.). — 
М. : Институт общегуманитарных исследований, 2016. — Систем. требования: Adobe Reader XI либо Adobe Digital Editions 4.5 ; экран 10".

ISBN 978-5-94193-832-2
Книга американского философа, профессора Колумбийского университета 
Мануэля Деланды (р. 1952) посвящена истории развития военных технологий, 
военной теории, военного планирования и штабных игр.

УДК 159.9 
ББК 87

Деривативное электронное издание на основе печатного издания: Война в век разумных 
машин / М. Де Ланда ; [Пер. с англ.]. — М. : Институт общегуманитарных исследований, 
2014. — 340 c. — ISBN 978-5-88230-311-1.

В соответствии со ст. 1299 и 1301 ГК РФ при устранении ограничений, установленных 
техническими средствами защиты авторских прав, правообладатель вправе требовать 
от нарушителя возмещения убытков или выплаты компенсации.

ISBN 978-5-94193-832-2
© Институт общегуманитарных исследований, 2014

Я хотел бы посвятить эту книгу моему брату Карлосу ДеЛанда, в 
тесном сотрудничестве с которым я разрабатывал свои идеи. Также я хотел 
бы выразить признательность моим редакторам в издательстве «Zone 
Books» за их критический вклад — Сэнфорду Квинтеру, Джонатану Крэри, 
Ренни Чилдресс, а за подборку изображений — Мейган Гэйл. Наконец, 
я должен выразить свои самые теплые чувства тем людям, с которыми 
я годами обсуждал эти идеи, — Джоан Брадерман, Джеймсу Кэллэнену, 
Кевину Пархэму, Эми Таубин и Грэму Вейнбрену.

Введение

О
браз «робота-убийцы» некогда принадлежал исключительно 
миру научной фантастики. Пока в общем-то ничего не изменилось, но лишь в том случае, если иметь в виду человекоподобное 
механическое устройство, вынашивающее планы завоевания планеты. Новейшие системы вооружений, спроектированные Пентагоном, не являются, однако, антропоморфными машинами со «способностями хищника», — это беспилотные летательные аппараты и 
танки с автоматическим управлением, достаточно «умные», чтобы 
отбирать и уничтожать свои цели. Хотя существующие прототипы 
роботизированного оружия, такие как PROWLER или BRAVE 3000, 
еще не являются по-настоящему автономными, эти новые виды вооружения демонстрируют: хотя в настоящее время искусственный 
интеллект еще недостаточно совершенен для создания настоящих 
«роботов-убийц», когда на планете действительно появится синтезированный интеллект, роль хищника будет уже приготовлена для 
него.
Так, PROWLER — это небольшой наземный вооруженный аппарат, оснащенный примитивной формой «машинного зрения» (способностью анализировать содержание видеокадра), позволяющего ему маневрировать на поле боя и отличать друзей от врагов. По 
крайней мере, такую цель поставили проектировщики этого робота. На самом деле PROWLER пока испытывает трудности с резкими 
поворотами и с передвижением по пересеченной местности, а его 
способности различать друзей и врагов слабы. По этим причинам 
он использовался только для выполнения простых задач — например, патрулирования военной базы по заранее намеченному маршруту. Мы не знаем, открывал ли он когда-нибудь огонь по нарушителю без контроля со стороны человека, но едва ли этому роботу в 
том виде, в котором он сейчас разработан, предоставлялось право 
самостоятельно убивать людей. Скорее всего, телекамера, работающая в качестве визуального датчика, соединена с оператором, и 
умные способности робота используются на «совещательном», а не 
на «распорядительном» уровне. Пока робот лишь упрощает работу 

ВОЙНА В ЭПОХУ РАЗУМНЫХ МАШИН

своего удаленного наводчика-человека, самостоятельно осуществляя предварительную обработку части информации или даже выполняя и передавая предварительную оценку событий, происходящих в его зоне обзора.
Но именно различие между совещательными и распорядительными (исполнительными) способностями стирается в других вариантах применения искусственного интеллекта (ИИ) в военных целях. Возможно, самый лучший пример исчезающего различия между чисто совещательной и распорядительной ролью компьютеров 
можно найти в области военных игр. В военных играх недавнего 
прошлого компьютеры исполняли роль умных ассистентов: игроки 
сами принимали решения, отражающиеся на передвижениях и действиях «войск» в игре, тогда как компьютеры подсчитывали эффективность данной атаки, используя такие понятия, как «показатель 
поражающего действия», скорости продвижения тактических единиц, относительная сила данной оборонной позиции или эффективность отдельного наступательного маневра.
С момента их изобретения в начале XIX века военные игры давали своим участникам возможность сделать стратегические выводы, а офицерам — приобрести «боевой опыт» в отсутствие реальной войны. Эта функция стала еще более важной в случае ядерной войны, то есть войны, которая никогда не велась и для которой 
возможна лишь такая подготовка. Но во время игр личный состав 
снова и снова не решался переступить черту ядерной войны. Как 
правило, люди сначала стремятся перебрать все возможности переговоров, прежде чем нажимать на роковую кнопку. Это привело 
разработчиков военных игр к созданию новых вариантов этой технологии, в которых автоматы полностью заменяют личный состав 
игроков: СЭМ <SAM> и ИВАН <IVAN>, как зовут этих роботов, не 
мешкают с развязыванием Третьей мировой войны. Поскольку выводы, полученные из наблюдений за смоделированными армагеддонами, устроенными боевыми роботами, попали даже в стратегические доктрины и планы чрезвычайных ситуаций, можно сказать, что эти «роботизированные события» уже начали размывать 
границу между чисто совещательной и распорядительной ролью 
умных машин.
Теперь робототехнический интеллект прокладывает разные 
пути в военные технологии, продвигаясь по ним с разной скоростью. Традиционное применение компьютерных технологий в военных целях (радиолокационные системы, радиосети для контроля, 

Мануэль Де Ланда

управления и коммуникаций, навигационные и наводящие устройства для ракет) становятся «умнее» с каждым новым прорывом в 
сфере искусственного интеллекта. Механический разум снова совершит «миграцию» в наступательное и оборонительное вооружения, когда искусственный интеллект даст машинам новые возможности, позволяющие им «обучаться» на своем собственном опыте, 
планировать стратегии для решения задач разной степени сложности и даже приобретать некоторый «здравый смысл», помогающий 
исключать из рассуждения не относящиеся к делу детали. Но не 
нужно воображать себе полноценных человекоподобных роботов, 
заменяющих солдат на поле боя, или командующих-роботов, которые заменят человеческий разум в планировании и ведении военных действий. Две этих технологии (автономные вооружения и системы управления боевыми действиями) и в самом деле были объявлены Пентагоном ключевыми целями в военных исследованиях 1980-х и 1990-х годов. Но это заявление, сделанное в документе 
1984 года под названием «Стратегические компьютерные системы», 
было не только маневром в области связей с общественностью, но и 
указанием на то, какую роль однажды суждено сыграть ИИ.
Если мы на время отстранимся от того факта, что роботизированный интеллект, вероятно, не пойдет по пути антропоморфного 
развития, подготовленного для него научной фантастикой, мы сможем без особого труда представить будущее поколение роботовубийц, посвятивших себя осмыслению своего исторического происхождения. Мы даже можем вообразить специализированных 
«роботов-историков», занятых отслеживанием различных линий 
технологического развития, давших рождение их виду. И мы можем 
представить, что такой робот-историк напишет совсем не ту историю, что историк-человек. Если историк-человек, возможно, попытается понять, каким образом люди создали часовой механизм, моторы и другие физические приспособления, историк-робот будет 
уделять больше внимания тому, как машины влияли на развитие 
человека. Робот подчеркнул бы, например, следующее: когда часовые механизмы были ведущей технологией на планете, люди представляли себе, будто мир является системой винтиков и колесиков, 
похожей на часы. Так, Солнечная система вплоть до XIX столетия 
изображалась в виде часового механизма, то есть как система без 
двигателя, извне приводимая Богом в движение. Позднее, когда появились двигатели, люди стали осознавать, что многие естественные системы ведут себя скорее как моторы: они работают на внеш

ВОЙНА В ЭПОХУ РАЗУМНЫХ МАШИН

нем резервуаре ресурсов и эксплуатируют работу, выполняемую 
циркулирующими потоками материи и энергии. 
Конечно, историка-робота едва ли будет волновать тот факт, что 
именно человек собрал первый мотор, ведь роль людей будет рассматриваться всего лишь как роль трудолюбивых насекомых, опыляющих независимый вид машин-цветов, которые на каком-то этапе эволюции еще лишены собственных репродуктивных органов. 
Точно так же, когда эти роботы-историки обратятся к эволюции армий, чтобы проследить историю собственного вооружения, люди 
будут рассматриваться ими в качестве всего лишь деталей большой военно-промышленной машины, то есть военной машины. На 
сборку этих машин, с такой точки зрения, должны были повлиять 
преобладавшие в тот момент «машинные парадигмы». Армии Фридриха Великого, таким образом, могут быть представлены как один 
гигантский «часовой» механизм, использующий наемников в качестве винтиков и колесиков. Сходным образом армии Наполеона 
могли бы рассматриваться как «мотор», питаемый из резервуара народов и националистических чувств.
Точно так же роботам-историкам не понадобится приписывать 
основную роль великим полководцам, поскольку последние могут 
считаться всего лишь катализаторами для самосборки военных машин. На такую сборку, скажет робот-историк, отдельные индивиды 
влияют не больше, чем коллективные силы — такие, как демографическая турбулентность, вызываемая миграцией, крестовыми походами и нашествиями. Более того, наш историк заметит, что некоторые из этих «машинных предков» — например, конусовидная пуля 
XIX века — противились контролю со стороны человека в течение 
столетия. Именно столько времени потребовалось военачальникам для того, чтобы встроить силу огнестрельного оружия в четкую тактическую доктрину. С тех пор, конечно, конусовидная пуля 
стала жить собственной жизнью, показав себя в качестве одного из 
наиболее опасных обитателей поля боя. В этом смысле можно сказать, что технологическое развитие обладает собственной движущей силой, поскольку очевидно, что оно не всегда руководствуется потребностями человека. Как показывает простой случай конусовидной пули, конкретная технология может даже заставить людей по-новому сформулировать свои потребности: точность новой 
пули заставила военачальников отказаться от полного контроля за 
своими людьми, из-за которого они были вынуждены сражаться 
сплоченными соединениями, и заменить этот контроль более гиб

Мануэль Де Ланда

кими, «ориентированными на решение задачи» тактиками, благодаря которым заранее оговаривается только цель, а небольшой отряд солдат (взвод) берет на себя инициативу, чтобы найти средства 
для ее достижения.
Когда наш робот-историк переключит свое внимание с вооружений на компьютеры, он, конечно, также будет стремиться к тому, 
чтобы подчеркнуть роль нечеловеческого фактора в их развитии. 
Он, например, признает, что логические структуры компьютерного 
аппаратного обеспечения (или «железа») когда-то были воплощены в человеческом теле в форме эмпирических рецептов для решения задач. Совокупность этих рецептов известна как «эвристика» 
(от греческого слова, означающего «открытие» и родственного слову «эврика») — к ним относятся эмпирические правила и кратчайшие пути, открытые методом проб и ошибок, полезные умственные привычки, приобретенные из опыта, а также профессиональные секреты, передававшиеся от одного поколения практиков другому. Некоторые из ценных догадок, воплощенные в эвристических 
ноу-хау или практических знаниях, затем могут фиксироваться в 
обобщенном, «безотказном» рецепте решения задачи (известном 
как «алгоритм»). Когда это происходит, мы можем сказать, что логические структуры «мигрировали» из человеческого тела в правила, образующие логическую систему формул (силлогизма, исчисления классов), а оттуда — к электромеханическим переключателям 
и схемам. С точки зрения робота, важна именно эта миграция, а 
не люди, которые участвовали в ее реализации. Таким образом, робот подчеркнет роль и других таких миграций, в том числе и миграций через разные физические уровни, которые перенесли логические структуры от вакуумных трубок к транзисторам, а затем к интегрированным микросхемам со все увеличивающейся емкостью и 
постоянно уменьшающимися размерами. Эти две миграции стали 
бы основной составляющей истории тела робота или, если использовать более подходящие для данного случая термины, его аппаратного обеспечения.
Далее я буду прослеживать, насколько это возможно, историю 
нескольких применений ИИ в военных целях с точки зрения нашего гипотетического робота-историка. Иными словами, я попытаюсь сделать это в таком ракурсе, который подчеркивает воздействие технологии на военную сферу, которая и сама здесь понимается как упорядоченная машина «высокого уровня» — машина, которая на самом деле соединяет в себе людей, аппараты и вооруже

ВОЙНА В ЭПОХУ РАЗУМНЫХ МАШИН

ние, рассматривая их в качестве своих составляющих. В первой главе будут рассматриваться шесть различных областей военной машины, на которых сказалось появление компьютеров, — (крылатые) ракеты, радары, сети управления, командования и коммуникаций, военные игры, а также системы числового программного 
управления и компьютеризированной логистики. Эти системы, однако, будут представлены не столько в плане технических деталей, 
сколько с точки зрения их роли в функциональной организации армии. Я попытаюсь поместить эти технологии в контекст истории 
ведения войны, чтобы понять, какие военные функции они однажды смогут на себя взять.
Иными словами, мы можем представить военный институт как 
«машину», состоящую из нескольких разных уровней, каждый из 
которых с древних времен был неотъемлемым компонентом армии: 
это уровень вооружения и военного аппаратного обеспечения; уровень тактики, на котором люди и вооружения интегрированы в соединения; уровень стратегии, на котором эти соединения сражаются, получая общую политическую цель; и, наконец, уровень логистики, сетей снабжения и поставок, на котором ведение войны связывается с сельскохозяйственными и промышленными ресурсами, 
которые его питают. Эти отличные друг от друга уровни военной 
машины развивались своими собственными темпами, хотя и зачастую взаимодействовали друг с другом. Анализ упорядоченной 
истории их развития даст нам ключ к пониманию того, что поставлено на карту в процессе их компьютеризации.
Компьютеризированный радар, например, можно лучше понять, 
если поместить его в контекст истории оборонной технологии, вернувшись, по меньшей мере, в Средние века. В этом контексте электромагнитные завесы радара могут рассматриваться как современная мутация старых крепостных стен, строившихся из земли и камня. Понимание умонастроений осажденной цитадели и связанных 
с осадой проблем в организации и логистике имеет первоочередное 
значение для анализа того, что происходит со страной, когда старые крепостные стены при помощи радаров расширяются до континентальных размеров. Точно так же роль систем радиосвязи может быть полностью оценена только в историческом контексте, то 
есть благодаря истории тактики и передачи информации в тактических формированиях от греческой фаланги до современного взвода. Военные игры также должны изучаться как часть истории стратегической военной мысли, то есть как часть исторических про

Мануэль Де Ланда

цессов, благодаря которым армии приобрели институциональный 
«мозг» (генеральный штаб), который затем был дополнен его современной разновидностью — современным аналитическим центром 
<think tank>. Таким образом, первая глава касается не столько компьютеров, сколько внутреннего функционирования разных уровней военной машины в ходе ее развития, начиная с XVI века.
Но если достижения в компьютерной технологии оказали влияние на военную сферу, обратное тоже верно, и это будет изучаться во второй главе. Первые современные компьютеры были собраны в горниле второй мировой войны, в пылу нескольких военных 
соревнований: с одной стороны, криптографического соревнования с шифровальными машинами нацистской Германии и Японии, 
а с другой — состязании с немецкими учеными в том, кто быстрее 
создаст атомную бомбу. Война не только породила новые машины, 
но и создала новые связи между научным и военным сообществами. Никогда еще наука не применялась в столь больших масштабах 
и к настолько разнообразным видам военных задач. Результат этого сотрудничества, дисциплина, известная как «исследование операций» <Operations Research>, эволюционировала в руках участников холодной войны и аналитических центров в более общую «науку управления» (или системный анализ), которая, по сути, переносит контрольные и командные структуры военной логистики на 
всё остальное общество и экономику. Действительно, вооруженные 
силы вышли из войны полноценными «институциональными предпринимателями». В этой новой роли они поощряли развитие ключевых компонентов компьютерной техники (например транзисторов и интегральных схем) и, что еще важнее, навязали крайне специфический путь развития этой технологической области.
Ясно, однако, что военные — не единственный институт, заинтересованный в том, чтобы контролировать будущее компьютеров. 
Военизированные структуры — такие, как ЦРУ и Агентство национальной безопасности (АНБ) — также делают высокие ставки в 
этой игре. В третьей и последней главе книги два других применения ИИ — машинное зрение и машинный перевод — будут представлены в контексте их использования для надзора и наблюдения. 
Некоторые компоненты разведывательных учреждений не являются по-настоящему военными, но образуют, как я покажу, новый 
вид «религиозного ордена», в котором преклоняются перед секретностью как таковой. Поскольку ЦРУ и АНБ разделяют свои роли 
в соответствии с той частью электромагнитного спектра, за кото