Использование метода конечных элементов в геотехнике

Р. В. Мельников 
ИСПОЛЬЗОВАНИЕ МЕТОДА КОНЕЧНЫХ  
ЭЛЕМЕНТОВ В ГЕОТЕХНИКЕ 
Учебное пособие 
Москва  
Вологда 
«Инфра-Инженерия» 
2021 
1 

УДК 624.131 
ББК 26.3 
М48 
Рецензент: 
доктор технических наук, профессор, 
профессор кафедры строительного производства  
Тюменского индустриального университета Пронозин Яков Александрович 
Мельников, Р. В.  
М48   
Использование метода конечных элементов в геотехнике : учебное  
пособие / Р. В. Мельников.  Москва ; Вологда : Инфра-Инженерия,  
2021. – 188 с. : ил., табл. 
ISBN 978-5-9729-0697-0 
Рассматриваются этапы, необходимые для подготовки численной модели 
и её последующего решения. Содержится основная информация, необходимая 
для обоснованного выбора подходящей модели сплошной среды при решении 
конкретной геотехнической задачи. Рассмотрены принципы моделирования подземных вод и проводимые при этом расчёты. Приведено краткое описание основных типов конечных элементов и их применения, их достоинства и недостатки. Рассмотрены общие вопросы геотехнического проектирования по предельным состояниям, а также инструменты проверки качества расчётной модели 
и точности её результатов.  
Для специалистов научных, проектных и строительных организаций. Может быть полезно студентам, аспирантам и преподавателям строительных 
направлений подготовки. 
УДК 624.131 
ББК 26.3 
ISBN 978-5-9729-0697-0 
” Мельников Р. В., 2021 
” Издательство «Инфра-Инженерия», 2021 
” Оформление. Издательство «Инфра-Инженерия», 2021 
2 

СОДЕРЖАНИЕ 
СОДЕРЖАНИЕ ........................................................................................................... 3 
ПРЕДИСЛОВИЕ 
.......................................................................................................... 6 
ВВЕДЕНИЕ .................................................................................................................. 8 
ГЛАВА 1. ПРИМЕНЕНИЕ МКЭ ДЛЯ ГЕОТЕХНИЧЕСКИХ ЗАДАЧ ............... 12 
1.1. ПЛАНИРОВАНИЕ РАСЧЁТА МКЭ 
............................................................... 12 
1.1.1. ОПРЕДЕЛЕНИЕ НЕОБХОДИМОСТИ РАСЧЁТА ...................................................... 12 
1.1.2. ЦЕЛИ РАСЧЁТА 
.................................................................................................. 13 
1.1.3. ИСХОДНЫЕ ДАННЫЕ ДЛЯ РАСЧЁТА 
................................................................... 14 
1.1.4. ВЫБОР ПРОГРАММНОГО ОБЕСПЕЧЕНИЯ 
............................................................ 17 
1.1.5. РАСЧЁТ И РАЗРАБОТКА ПРОЕКТА ...................................................................... 17 
1.2. ГЕОМЕТРИЯ 
..................................................................................................... 20 
1.2.1. ПЛОСКАЯ (2D) И ПРОСТРАНСТВЕННАЯ (3D) МОДЕЛЬ ...................................... 20 
1.2.2. ПОДРОБНОСТЬ ГЕОМЕТРИИ 
............................................................................... 25 
1.2.3. ОПРЕДЕЛЕНИЕ ГРАНИЦ МОДЕЛИ 
....................................................................... 29 
1.2.4. ОГРАНИЧЕНИЯ НА ГРАНИЦАХ МОДЕЛИ ............................................................ 33 
1.3. СЕТКА КОНЕЧНЫХ ЭЛЕМЕНТОВ .............................................................. 33 
1.3.1. ТИПЫ ЭЛЕМЕНТОВ ............................................................................................ 33 
1.3.2. КАЧЕСТВО СЕТКИ КОНЕЧНЫХ ЭЛЕМЕНТОВ 
....................................................... 35 
1.4. СТАДИИ РАСЧЁТА ......................................................................................... 39 
1.4.1. НАЧАЛЬНОЕ НАПРЯЖЁННОЕ СОСТОЯНИЕ ......................................................... 39 
1.4.2. СТАДИИ РАСЧЕТА ............................................................................................. 42 
1.4.3. НАСТРОЙКИ РАСЧЁТА ....................................................................................... 46 
1.5. МОДЕЛИ СПЛОШНОЙ СРЕДЫ ............................................................................... 50 
1.6. ПОДЗЕМНЫЕ ВОДЫ И ПОВЕДЕНИЕ ГРУНТА ......................................... 50 
1.6.1. ВЛИЯНИЕ ПОДЗЕМНЫХ ВОД .............................................................................. 50 
1.6.2. ТИПЫ ПОВЕДЕНИЯ ГРУНТА ............................................................................... 51 
ГЛАВА 2. ВЫБОР МОДЕЛИ СПЛОШНОЙ СРЕДЫ ........................................... 52 
2.1. ОБЩАЯ ИНФОРМАЦИЯ ................................................................................ 52 
2.1.1. МОДЕЛЬ СПЛОШНОЙ СРЕДЫ ............................................................................. 52 
2.1.2. ВАЖНОСТЬ ВЫБОРА МОДЕЛИ СПЛОШНОЙ СРЕДЫ 
............................................. 53 
2.1.3. ВЫБОР ПОДХОДЯЩЕЙ МОДЕЛИ СПЛОШНОЙ СРЕДЫ 
.......................................... 53 
2.2. СВОЙСТВА МОДЕЛИРУЕМОГО ГРУНТА ................................................. 54 
2.2.1. СУЩЕСТВЕННЫЕ СВОЙСТВА ГРУНТА 
................................................................ 54 
2.2.2. СУЩЕСТВЕННЫЕ СВОЙСТВА ГОРНЫХ ПОРОД ................................................... 60 
2.2.3. МОДЕЛИРОВАНИЕ ГОРНЫХ ПОРОД ................................................................... 61 
3 

2.3. ОСНОВНЫЕ ТИПЫ МОДЕЛЕЙ СПЛОШНОЙ СРЕДЫ ............................. 63 
2.3.1. МОДЕЛЬ СПЛОШНОЙ СРЕДЫ И ПОВЕДЕНИЕ ГРУНТА ......................................... 63 
2.3.2. ПЛАСТИЧЕСКОЕ ПОВЕДЕНИЕ ГРУНТА ............................................................... 66 
2.3.3. МОДЕЛЬ СПЛОШНОЙ СРЕДЫ И ПОВЕДЕНИЕ ГОРНЫХ ПОРОД 
............................. 77 
2.4. ОСНОВНЫЕ ТИПЫ ГЕОТЕХНИЧЕСКИХ ЗАДАЧ 
..................................... 79 
ГЛАВА 3. ПОДЗЕМНАЯ ВОДА В МКЭ 
................................................................ 83 
3.1. ВСТУПЛЕНИЕ 
.................................................................................................. 83 
3.1.1. МОДЕЛИРОВАНИЕ ГРУНТОВ РАЗЛИЧНОЙ СТЕПЕНИ ВОДОНАСЫЩЕНИЯ 
............ 83 
3.1.2. ВИДЫ ПОРОВОГО ДАВЛЕНИЯ ............................................................................ 84 
3.2. ДРЕНИРОВАННОЕ И НЕДРЕННИРОВАННОЕ ПОВЕДЕНИЕ ................ 86 
3.2.1. ДРЕНИРОВАНИЕ И НЕДРЕНИРОВАНИЕ 
............................................................... 86 
3.2.2. ИСПОЛЬЗОВАНИЕ ДРЕНИРОВАННОГО И НЕДРЕНИРОВАННОГО ПОВЕДЕНИЯ ..... 87 
3.2.3. РАСЧЁТ В СТАБИЛИЗИРОВАННОМ СОСТОЯНИИ  
(ДРЕНИРОВАННЫЙ РАСЧЁТ) ......................................................................................... 92 
3.2.4. РАСЧЁТ В НЕСТАБИЛИЗИРОВАННОМ СОСТОЯНИИ  
(НЕДРЕНИРОВАННЫЙ РАСЧЁТ) ..................................................................................... 93 
3.2.5. ИСПОЛЬЗОВАНИЕ НЕДРЕНИРОВАННОЙ ПРОЧНОСТИ В РАСЧЁТЕ  
ПО МЕТОДУ А 
............................................................................................................... 96 
3.3. РАСЧЁТ ФИЛЬТРАЦИИ ................................................................................. 98 
3.3.1. ВИДЫ РАСЧЁТА ФИЛЬТРАЦИИ 
........................................................................... 98 
3.3.2. СВОБОДНОЕ (БЕЗНАПОРНОЕ) ТЕЧЕНИЕ ПОДЗЕМНЫХ ВОД 
................................. 99 
3.3.3. ГИДРАВЛИЧЕСКИЕ ГРАНИЧНЫЕ УСЛОВИЯ ...................................................... 100 
3.4. РАСЧЁТ КОНСОЛИДАЦИИ ........................................................................ 103 
3.4.1. НЕОБХОДИМОСТЬ РАСЧЁТА КОНСОЛИДАЦИИ 
................................................. 103 
3.4.2. СВЯЗНЫЙ РАСЧЁТ КОНСОЛИДАЦИИ ................................................................ 104 
3.4.3. НАГРУЖЕНИЕ И КОНСОЛИДАЦИЯ НА ОДНОЙ СТАДИИ .................................... 105 
ГЛАВА 4. МОДЕЛИРОВАНИЕ КОНСТРУКЦИЙ ............................................. 106 
4.1. ГЕОМЕТРИЯ КОНСТРУКЦИЙ 
.................................................................... 106 
4.1.1. ОСНОВНЫЕ ТИПЫ КОНЕЧНЫХ ЭЛЕМЕНТОВ .................................................... 106 
4.1.2. СПОСОБЫ ПРЕДСТАВЛЕНИЯ КОНСТРУКЦИЙ ................................................... 112 
4.1.3. ИНТЕРФЕЙСНЫЕ ЭЛЕМЕНТЫ ........................................................................... 116 
4.1.4. ОСОБЕННОСТИ МОДЕЛИРОВАНИЯ ОСНОВНЫХ ТИПОВ КОНСТРУКЦИЙ ........... 119 
4.1.5. МОДЕЛИРОВАНИЕ КОНСТРУКЦИЙ В 2D РАСЧЁТЕ ........................................... 127 
4.1.6. ГЕОМЕТРИЧЕСКАЯ АНИЗОТРОПИЯ КОНСТРУКЦИЙ 
.......................................... 135 
4.1.7. МОДЕЛИРОВАНИЕ СОПРЯЖЕНИЯ КОНСТРУКЦИЙ 
............................................ 136 
4.1.8. РАСПРЕДЕЛЁННЫЕ НАГРУЗКИ ......................................................................... 137 
4.2. МАТЕРИАЛ КОНСТРУКЦИЙ 
...................................................................... 138 
4 
 

4.2.1. ЛИНЕЙНАЯ УПРУГАЯ МОДЕЛЬ ДЛЯ БЕТОННЫХ И ГРУНТОБЕТОННЫХ 
КОНСТРУКЦИЙ 
............................................................................................................ 138 
4.2.2. ЛИНЕЙНАЯ УПРУГАЯ МОДЕЛЬ ДЛЯ СТАЛЬНЫХ КОНСТРУКЦИЙ 
....................... 141 
4.3. ВЗАИМОДЕЙСТВИЕ ГРУНТА И СООРУЖЕНИЯ ................................... 142 
4.3.1. ВЛИЯНИЕ ЖЁСТКОСТИ СООРУЖЕНИЯ ............................................................. 142 
4.3.2. КОЭФФИЦИЕНТ ПОСТЕЛИ ............................................................................... 145 
ГЛАВА 5. МКЭ И ГРУППЫ ПРЕДЕЛЬНЫХ СОСТОЯНИЙ 
............................ 147 
5.1. ВСТУПЛЕНИЕ 
................................................................................................ 147 
5.1.1. «ТРАДИЦИОННЫЕ» МЕТОДЫ ПРОЕКТИРОВАНИЯ И МКЭ ............................... 147 
5.1.2. ДОПОЛНИТЕЛЬНЫЕ ВЛИЯНИЯ НА ПРЕДЕЛЬНОЕ СОСТОЯНИЕ .......................... 148 
5.1.3. НАДЕЖНОСТЬ ПРОЕКТНЫХ РЕШЕНИЙ 
............................................................. 151 
5.2. ВТОРАЯ ГРУППА ПРЕДЕЛЬНЫХ СОСТОЯНИЙ .................................... 152 
5.3. ПЕРВАЯ ГРУППА ПРЕДЕЛЬНЫХ СОСТОЯНИЙ .................................... 153 
5.3.1. ИСПОЛЬЗОВАНИЕ МКЭ .................................................................................. 153 
5.3.2. ПРИМЕНЕНИЕ КОЭФФИЦИЕНТОВ НАДЁЖНОСТИ  
(ИСПОЛЬЗОВАНИЕ ПАРАМЕТРОВ 1 Г.П.С.) ................................................................ 158 
5.3.3. КОЭФФИЦИЕНТЫ НАДЁЖНОСТИ ..................................................................... 160 
5.3.4. ЖЁСТКОСТЬ И ПРОЧНОСТЬ ГРУНТА 
................................................................. 161 
5.3.5. ПРОЦЕДУРА СНИЖЕНИЯ ПРОЧНОСТНЫХ ХАРАКТЕРИСТИК 
............................. 161 
5.3.6. НЕСУЩАЯ СПОСОБНОСТЬ ............................................................................... 163 
5.3.7. КОЭФФИЦИЕНТ НАДЁЖНОСТИ НЕДРЕНИРОВАННОЙ ПРОЧНОСТИ ................... 164 
5.3.8. ПРЕДЕЛЬНЫЕ СОСТОЯНИЯ ГОРНЫХ ПОРОД 
..................................................... 164 
5.4. ПРЕДЕЛЬНЫЕ СОСТОЯНИЯ КОНСТРУКЦИЙ........................................ 165 
ГЛАВА 6. ОЦЕНКА ТОЧНОСТИ РЕЗУЛЬТАТОВ РАСЧЁТА 
......................... 167 
6.1. ВСТУПЛЕНИЕ 
................................................................................................ 167 
6.1.1. НЕОБХОДИМОСТЬ ПРОВЕРКИ ТОЧНОСТИ РАСЧЁТА ......................................... 167 
6.1.2. ОТВЕТСТВЕННЫЕ ЗА ТОЧНОСТЬ РАСЧЁТА 
....................................................... 167 
6.1.3. ВОЗМОЖНЫЕ ИСТОЧНИКИ ОШИБОК 
................................................................ 169 
6.2. ОЦЕНКА ТОЧНОСТИ РАСЧЁТА ................................................................ 173 
6.2.1. ВЕРИФИКАЦИЯ И ВАЛИДАЦИЯ ........................................................................ 173 
6.2.2. ПРОВЕРКА ТОЧНОСТИ РЕЗУЛЬТАТОВ РАСЧЁТА ............................................... 174 
6.3. УПРАВЛЕНИЕ ТОЧНОСТЬЮ РАСЧЁТА .................................................. 177 
6.3.1. ПОВЫШЕНИЕ ТОЧНОСТИ РАСЧЁТА ................................................................. 177 
6.3.2. АНАЛИЗ ЧУВСТВИТЕЛЬНОСТИ И ПАРАМЕТРИЧЕСКОЕ ИССЛЕДОВАНИЕ .......... 178 
6.3.3. ДИАПАЗОН ПАРАМЕТРИЧЕСКОГО ИССЛЕДОВАНИЯ 
......................................... 178 
6.3.4. НАБЛЮДАТЕЛЬНЫЙ МЕТОД ............................................................................ 179 
СПИСОК ЛИТЕРАТУРЫ ....................................................................................... 180 
5 
 

ПРЕДИСЛОВИЕ 
 
Для выполнения расчётов и проектирования геотехнических объектов широко используются численные методы, в частности метод конечных элементов 
(МКЭ). 
В отличии от других областей строительства, где также используется 
МКЭ, специалистов, способных решать геотехнические задачи при его помощи 
гораздо меньше. 
Для решения геотехнических задач МКЭ предъявляются высокие требования к квалификации и компетентности проектировщика, требуется глубокое изучение как конкретной компьютерной программы, так и принципов и особенностей численного моделирования, корректности применения моделей сплошной 
среды для грунта и достоверности определения её параметров. Достижение такой квалификации и компетентности требует очень много времени. 
Однако, узкоспециализированная работа, связанная исключительно с геотехническим проектированием, в нашей стране ещё является редкостью. В основном для проектировщика работа связана не только с геотехническими расчётами, но и с другими разделами строительного проектирования. 
Поэтому для проектировщиков присутствует очевидная потребность в 
справочном руководстве для пользователей геотехнического программного 
обеспечения, использующего МКЭ, чтобы узнать и восстановить знания о его 
применении. Именно на это в первую очередь нацелена данная книга. 
При знакомстве с книгой следует учитывать, что: 
x читатель должен быть подготовленным специалистом, обладающим необходимыми базовыми знаниями по механике грунтов, инженерным 
изысканиям, основаниям и фундаментам, основам метода конечных элементов и технологии строительства; 
x в книге не описывается работа конкретной компьютерной программы и 
её преимуществ перед аналогами; 
x в книге для краткости будет часто встречаться слово расчёт. Следует 
понимать, что в данном случае имеется в виду именно процесс численного моделирования с применением МКЭ с учетом его подготовительного этапа и расчётных стадий, а также анализа; 
x в книге будет часто встречаться слово жёсткость грунта, взамен деформируемости. Хотя использование словосочетания жёсткость грунта не 
часто используется в отечественной геотехники, однако оно традици6 
 

онно при рассмотрении сплошного тела, подверженного силовым воздействиям; 
x в книге не освещаются вопросы проведения расчётов связанных с температурным и динамическим воздействиями на грунты. 
Книга основывается на работе Andrew Lees [1], а также других авторов:  
Rahman и Can Ülker [2], Potts и Zdravkovic [3], Wood [4], З. Г. Тер-Мартиросяна, 
Д. М. Шапиро, К. В. Королёва, Р. А. Мангушева, О. А. Шулятьева. 
Отчетливо осознаю недостатки этого труда. Ни один автор не свободен от 
этого чувства. 
Сделал, что смог. 
Мельников Р. В. 
Автор 
 
 
 
 
7 
 

ВВЕДЕНИЕ 
 
Идея метода численного решения дифференциальных уравнений с частными производными для выполнения инженерных задач была предложена инженером-конструктором Ray W. Clough в 1956 году [3] и затем, совместно с Edward 
L. Wilson [4] в 1962 году была развита и превращена в известный сейчас метод 
конечных элементов (МКЭ, FEM). МКЭ навсегда изменил инженерные расчёты 
и в настоящее время используется во всех инженерных дисциплинах. Это относится и к расчётам геотехнических объектов, таких как фундаменты, земляные 
сооружения, туннели, подпорные стенки и другие конструкции, взаимодействующие с грунтовым основание (рис. 1). 
а) 
б) 
в) 
г) 
д) 
е) 
ж) 
з) 
и) 
 
Рис. 1. Основные геотехнические объекты: 
а – фундамент мелкого заложения, б – плитный фундамент, в – свайный 
фундамент, г – подпорная стенка, д – консольная шпунтовая стенка, 
 е – закрепленная консольная шпунтовая стена, ж – искусственный или 
 естественный склон, з – котлован или траншея, и – трубопровод  
или туннель 
8 
 

Если кратко выразить цель использования МКЭ для расчётов различных 
инженерных объектов, то она заключается в том, чтобы предсказать (прогнозировать) его поведение, обеспечивающее надежность и безопасность, при различных сценариях развития событий (различных внешних воздействиях или различных параметрах самого объекта). 
Это достигается путём разработки модели для физического объекта, предназначенной для изучения поведения оригинала в тех или иных условиях, в которых проявляются указанные свойства (то есть моделирование). Суть этого заключается в прогнозировании реакции модели на набор внешних воздействий 
(то есть сил), получаемую путём сопоставления исходных данных (как внешние 
силы так и параметры системы) с набором данных, являющихся результатом моделирования. Общее представление этого процесса для геотехнических объектов 
(рис. 1), представлено на рис. 2. 
 
Силы 
Результат 
Физический 
объект 
Моделирование 
Исходные данные 
Результаты расчёта 
Математическая модель 
Симуляция 
 
Рис. 2. Моделирование и симуляция физического объекта 
 
Моделирование и прогнозирование поведения физического объекта включает в себя следующие этапы (рис. 3): 
1. Идеализация реального физического объекта его моделью, обладающей 
подобием свойств, позволяющих имитировать поведение оригинала и 
прогнозировать его реакцию на те или иные воздействия. 
2. Формулирование математической модели, изображающей поведения 
оригинала, в терминах математических символов и операций, в основе 
которой:  
9 
 

x представление о некоторых элементарных объектах, образующих 
структуру оригинала; 
x представление о характере взаимодействия между этими элементарными объектами. 
3. Способность оценить результаты путем:  
x разработки решения уравнений математической модели; 
x вычисления результатов расчёта по алгоритмам компьютерной программы; 
x графического представления и визуализации результатов. 
Все три этапа необходимы при разработке численных моделей в области 
геотехники. 
 
Внешнее воздействие (силы) 
Физический 
объект 
Идеализация 
Идеализированная система 
(определены законы и условия) 
Формулировка 
Набор уравнений 
Вычисление и визуализация 
Результаты 
 
Рис. 3. Этапы математического моделирования 
 
10