Л. А. Усольцев

ПРИКЛАДНАЯ МАТЕМАТИКА

Учебное пособие

Омск●2008

1

Федеральное агентство по образованию Сибирская государственная автомобильно-дорожная академия

( СибАДИ )

Л.А. Усольцев

ПРИКЛАДНАЯ МАТЕМАТИКА

Учебное пособие

Омск Издательство СибАДИ

2008

2

УДК 519. 853 ББК 22.182.4 У 76

Рецензенты: д-р техн.наук, проф. В.А Алексашенко (Центральный Научно-

исследовательский радиотехнический институт); доц. Т. В. Гаранина (Зав. Кафедрой математики Омского танкового

института)

Работа одобрена редакционно-издательским советом академии в качестве учебного пособия по дисциплине “Прикладная математика” для очной формы обучения студентов

Усольцев Л.А. У 76 Прикладная математика: Учебное пособие. –Омск: Изд-

во СибАДИ, 2008. – 68с. ISBN 978-5-93204-402-5

Рассмотрены вопросы общей постановки задачи математического программирования, её геометрической интерпретации, состава задач данного класса, а также математическая постановка задачи нелинейного программирования и методы её решения. В частности, в работе уделено внимание безградиентным и градиентным методам поиска экстремума одномерных и многомерных функций. Кроме того, отдельная глава посвящена составу и области применения аналитических методов поиска экстремумов, а более подробно рассмотрены методы, основанные на классическом математическом анализе и метод неопределённых множителей Лагранжа. Изложение материала ведётся на конкретных примерах решения прикладных инженерных задач.

Табл. 7. Ил.16 . Библиогр.: 6 назв.

ISBN 978-5-93204-402-5 ©Л.А.Усольцев, 2008

3

ВВЕДЕНИЕ

В эпоху глобализации мировой экономики и усиления без того жесткой конкурентной борьбы на мировом экономическом пространстве становятся актуальными вопросы резкого повышения экономичности и эффективности планирования и управления в различных сферах хозяйственной деятельности нашей страны. Эти вопросы становятся первостепенными и особенно насущными накануне вступления России во Всемирную торговую организацию (ВТО), которая потребует на основе объективно сложившейся мировой практики конкурентноспособных товаров и услуг, если мы хотим оставаться активным игроком мирового рынка.

Эффективное решение этих неотложных, насущных вопросов тесно связано сегодня с масштабным техническим переоснащением различных отраслей промышленности и с широкой математизацией знаний как подготовительного этапа к повсеместному использованию информационно-компьютерных технологий для целей оптимизации, в первую очередь работы соответствующих систем.

Настоящее учебное пособие посвящено вопросам математического программирования, в частности нелинейному программированию, а также рассматриваются методы, основанные на классическом математическом анализе, и метод неопределённых множителей Лагранжа в рамках аналитических методов поиска экстремумов.

В первой главе уделено внимание математической постановке, геометрической интерпретации и составу задач математического программирования, дана краткая характеристика линейного и нелинейного программирования и выпуклости функций и множеств. В частности, при рассмотрении задач линейного программирования изложены аспекты целочисленного и частично-целочисленного линейного программирования, типы инженерных задач этого класса и методы их решения. Кроме того, приведен состав задач нелинейного программирования и методы их решения, в частности безградиентные и градиентные методы, а также кратко изложено динамическое программирование и принцип оптимальности Беллмана.

Во второй главе рассматриваются безградиентные методы решения задач нелинейного программирования для одномерных и многомерных функций, излагаются методы сканирования, локализации экстремума, золотого сечения и метод с использованием чисел Фибоначчи для одномерных функций, а также

4

детерминированные методы и методы случайного поиска, предназначенные для многомерных функций. При этом дана сравнительная точность поиска указанными методами.

Третья глава посвящена градиентным методам, в частности методам градиента, релаксаций и крутого восхождения (спуска). Приведены методики и алгоритмы решения задач нелинейного программирования рассматриваемыми методами, обращено внимание на детализацию и основные отличительные особенности.

В главе четвёртой рассматриваются аналитические методы поиска экстремумов одномерных и многомерных функций. Здесь приведен состав указанных методов и более подробно изложены методы, основанные на классическом математическом анализе, уделено внимание необходимым и достаточным условиям существования экстремумов указанных функций и метод неопределённых множителей Лагранжа.

Рассмотрение излагаемых методов сопровождается соответствующими графиками и примерами, демонстрирующими решение конкретных инженерных проблем, которые в работе предлагаются в качестве типовых расчётов. В конце каждой главы приведен перечень вопросов для самоконтроля знаний студентов при закреплении изучаемого материала и подготовке к аттестации. Весь вспомогательный материал для удобства использования вынесен в приложения.

Автор благодарен своим коллегам по кафедре “Информационные технологии” Сибирской государственной автомобильно-дорожной академии за замечания и подготовку рукописи к изданию.

5

Глава 1. МАТЕМАТИЧЕСКОЕ ПРОГРАММИРОВАНИЕ

Математическое программирование – это раздел прикладной математики, занимающийся изучением задач отыскания экстремумов функций на некотором множестве и разработкой методов решения этих задач. Предметом изучения математического программирования является решение многомерных экстремальных задач. В инженерной практике математическое программирование представляет собой область определения оптимальных условий (оптимальных параметров) функционирования технических систем.

Первыми исследованиями по математическому программированию следует считать работы французского математика Ж.Л. Лагранжа (1736–1813 гг.), посвященные отысканию условного экстремума функции.

1.1. Постановка задачи математического программирования

В общем виде задача математического программирования имеет

следующую постановку. Пусть будет задана целевая функция

R(x1, x2, х3, …, хi, … ,хn) → max(min) (1) и система ограничений

f (x1, x2, x3, … хi, …, хn)

0. (2)

Необходимо определить оптимальные величины неизвестных х1, х2, х3,…, хi, …, хn функции (1) при условии выполнения системы ограничений (2). Рассмотрим конкретный пример.

Заданы целевые функции R(x) = x1 ∙ x2 → max ; (3)

R(х) = 2х1+4х2max (3а) и ограничения

0,8 – х1 < 0; (4) 0,8 – х2 < 0; (5)

6

х12 + х2

2 = 1; (6) х1 0; х2 0. (7)

Представим рассматриваемую задачу графически (рис. 1). При построении графиков необходимы следующие пояснения. Рассматриваемая задача представляется на плоскости x1 х2. Градация по осям выбирается из расчета, чтобы при построении всех графиков независимые переменные не вышли за пределы выбранных величин. Анализируя соотношения (3)–(7), можно утверждать, что величины х1 и х2 не будут более 1,5.

Приняв, исходя из этого, градуировку по осям х1 и х2 от 0 до 1,5, строим графики: из соотношения (4) имеем х1<0,8. Чтобы определить, в какой полуплоскости от прямой линии х1=0,8 лежит область допустимых решений, выбираем произвольно точку по одну сторону линии х1=0,8. Если эта точка удовлетворяет требованию соотношения (4), то область, в которой лежит выбранная точка, относится к области допустимых решений, в противном случае область допустимых решений расположена на противоположной полуплоскости. Это общее правило определения области допустимых решений. Берем точку х1=0, подставляем ее значение в соотношение (4) и получаем 0<0,8.

Поскольку соотношение (4) выполняется, а точка х1=0 лежит слева от прямой х1=0,8, то и область допустимых решений лежит слева от этой прямой, т.е. на левой полуплоскости.

Аналогичным образом строим прямую х2=0,8 (5) и определяем изложенным способом, что область допустимых решений лежит ниже прямой х2=0,8. Соотношение (6) – это окружность с единичным радиусом и с центром в начале координат. Причем область допустимых решений может лежать только на окружности, которая построена по соотношению (6).

Особо следует остановиться на целевой функции (3). Кривая, которой может быть представлено соотношение (3), – это гипербола Fi, а вернее, семейство гипербол F1, F2 и т.д. в зависимости от оптимальных значений х1 и х2, симметричных относительно биссектрисы прямого угла с вершиной в начале координат. Иначе говоря, это совокупность гипербол, нанизанных, как на шампур, в виде биссектрисы прямого угла I квадранта декартовой системы координат.

Ограничения (7) (х1=0; х2=0) проходят по осям координат. Все изложенные обозначения и основные точки нанесены на график

7

(см. рис. 1).

Рис. 1. Геометрическая интерпретация задачи математического

программирования

1.2. Состав задач математического программирования

В зависимости от вида целевых функций (3), (3а) и ограничений (4) – (7) в математическом программировании различают следующие задачи.

I.Задача линейного программирования возникает тогда, когда целевая функция и ограничения – линейные соотношения в виде равенств либо неравенств. Для того чтобы на рассматриваемом примере продемонстрировать задачу линейного программирования, предположим, что целевая функция имеет вид (3а).

Построим прямую линию, соответствующую целевой функции (3а). Для этого (3а) приравняем к цифре 3, иначе 342 21 xx . Эта величина здесь выбрана исходя из того, что при построении рассматриваемой прямой мы не должны выйти за пределы градаций по осям координат. Построение осуществляем по двум точкам,

8

которые затем соединяем прямой линией. Если x1=0, то x2=0,75 , а при x2=0 x1=1,5. Точки (x1=1,5; x2=0) и (x1=0; x2=0,75) наносим на график и

соединяем прямой линией '1F , как показано на рис.1. Совокупность

целевой функции (3а) и соотношений (4), (5) и (7) составляют типичную задачу линейного программирования. Причем, как это видно на рис.1, область допустимых решений ограничена в этом случае квадратом АВСО.

При поиске максимума на графике для определения решения рассматриваемой задачи линию '

1F , соответствующую целевой функции (3а), необходимо максимально удалить от начала координат, не меняя ее углов наклона в пространстве (прямая '

0F ). Если следовать этому правилу, то решением задач (3а), (4), (5) и (7) будет точка В, координаты которой х1=х2=0,8, величина целевой функции, согласно (3а), будет R(х)=2 0,8+40,8=4,8.

II.Задача нелинейного программирования возникает в том случае, когда целевая функция, либо одно или несколько ограничений, либо все одновременно представляют собой нелинейные соотношения.

Если в рассматриваемом примере целевая функция будет задана в виде соотношения (3), а ограничения выражены соотношениями (4) – (7), то это будет типичная задача нелинейного программирования. Графическое решение этой задачи будет располагаться в точке G . Эта точка образована пересечением окружности (6) на ее участке MN, который лежит в области допустимых решений АВСО с целевой функцией (3), соответствующей гиперболе F '

0 (см. рис. 1). Иначе говоря, на гиперболе, максимально удаленной от начала координат и имеющей одну-единственную общую точку с областью допустимых решений (точка G). В рассматриваемой задаче область допустимых решений лежит на дуге MN окружности (6), ограниченной квадратом АВСО. Математически координаты точки G можно определить из соотношения (6): х 2

1 +х 22 =1, тогда х 2

1 =х 22 =1, отсюда 2х 2

1 =1, х 21 =0,5 и,

наконец, х01 =х 0

2 = 5,0 =0,7. Оптимальное значение целевой функции (3) имеем

R(x)=x 01 x 0

2 =0,70,7=0,490,5.

9

1.3. Выпуклые и невыпуклые множества и выпуклые функции

В математическом программировании значительное место

уделяется понятию выпуклости функции. Функция называется выпуклой, если она располагается по одну сторону от линии, соединяющей две произвольно выбранные на ней точки.

Важным понятием математического программирования является понятие выпуклости множества. Множество называется выпуклым, если две произвольно взятые на нем точки, соединенные между собой прямой линией, принадлежат рассматриваемому множеству. На рис. 2 в качестве примеров приведены выпуклые (а) и невыпуклые (б) множества.

Рис. 2. Примеры выпуклых (а) и невыпуклых (б) множеств

На рис. 3,а изображен пример функции, выпуклой вверх,

поскольку ее график расположен выше линии, соединяющей две ее произвольно выбранные точки. На рис. 3, б изображена функция, выпуклая вниз, определение которой аналогично функции, выпуклой вверх, но отличается тем, что функция располагается ниже линии, соединяющей две ее произвольно выбранные точки.

Рис. 3. Выпуклые и невыпуклые функции

10

На рис. 3, в изображена невыпуклая функция. Если функция выпуклая, то ее max (M) или min (m) является глобальным, как показано на рис. 3,а (точка М) и рис.3,б (точка m). При этом условием отыскания max функции является ее выпуклость вверх, а min - выпуклость вниз. Невыпуклые функции обладают многоэкстремальностью, т.е. одновременным наличием нескольких max и min (см. рис. 3, в, точки М1, М2, m1 и т.д.), что значительно осложняет решение подобных задач. Условие выпуклости используется во многих вычислительных аспектах математического программирования.

1.4. Линейное и нелинейное программирование

Как уже отмечалось выше, в состав задач математического программирования входят задачи линейного и нелинейного программирования, причем нелинейному программированию в настоящем учебном пособии будет отведено несколько глав. В них кратко будут рассмотрены экономико-математические постановки и основные методы их решения. Кроме того, будут освещены вопросы использования градиентных и безградиентных методов поиска экстремумов (определения оптимальных значений параметров) одномерных и многомерных функций в рамках задач нелинейного программирования. В этой же главе мы сосредоточим внимание на разновидностях этих двух классов задач математического программирования.

Линейное программирование является наиболее развитой и законченной областью математического программирования. К этому классу задач относятся также и задачи целочисленного (дискретного) линейного программирования. Задача линейного программирования является не полностью целочисленной, если ограничение целочисленности касается лишь части переменных. В целочисленном линейном программировании можно выделить несколько характерных задач, из которых в инженерной практике нашли наиболее широкое применение задачи с неделимостями, переменные которых представляют собой физически неделимые величины. Действительно, при решении, например, транспортной задачи, если за единицу измерения однородного продукта принят вагон, контейнер и т.п., при решении задачи о назначениях в качестве исполнителей приняты самолеты, автобусы и другие машины и механизмы, то решение должно быть только целочисленным (дискретным).

11

Общие методы линейного программирования к задачам целочисленного программирования применять нельзя, так как в большинстве случаев они дают дробные решения. Округление компонент целочисленного решения до ближайших целых чисел может не только увести от оптимального целочисленного решения, но и вывести за пределы области допустимых решений. Существует класс задач целочисленного программирования, среди оптимальных решений которых всегда имеется целочисленное. К этому классу относятся, например, транспортная задача, сетевая транспортная задача, задача о назначениях, задача о кратчайшем пути и некоторые другие. Но этот класс узок и почти исчерпывается перечисленными проблемами. Поэтому возникла необходимость в разработке специальных методов решения задач целочисленного программирования.

Американскими учеными Дж. Данцигом, Д. Фалкерсоном и С. Джонсоном была предложена идея метода отсечения для решения задач линейного целочисленного программирования. Вначале задача решается без ограничений целочисленности. Если полученное решение целочисленно, то оно является оптимальным решением задачи целочисленного программирования. В противном случае к условиям исходной задачи добавляется линейное ограничение, которому удовлетворяют все целочисленные решения исходной задачи, но не удовлетворяет полученное положительное решение. Описанная процедура отсечения продолжается вплоть до получения на некотором шаге целочисленного оптимального решения либо до выявления неразрешимости задачи. Таким образом, решение задачи целочисленного программирования сводится к решению последовательности задач линейного программирования. Впервые правило формирования дополнительных ограничений для полностью целочисленных, а затем и частично целочисленных линейных задач было разработано американским ученым Р.Гомори в 1958 г. Метод Гомори при достаточно естественных предположениях о задаче приводит к оптимальному целочисленному решению за конечное число шагов. Известны и другие методы, использующие идею отсечения.

Важным и наиболее известным из комбинаторных методов является метод ветвей и границ и различные его модификации, использующие специфические особенности задачи в процессе решения. Методы случайного поиска применяются к задачам целочисленного программирования при их большой размерности, для

12

которых точные методы малоэффективны. Нелинейное программирование – это совокупность нескольких

принципиально различных групп задач, для каждой из которых характерен свой набор отличительных особенностей и способов их решения. Так, если критерий оптимальности (3) или ограничения (4) – (6) являются квадратичными функциями, то задача называется задачей квадратичного программирования. Примером задачи квадратичного программирования является задача (3) – (6). Как самостоятельная группа задач в математическом программировании существует динамическое программирование, разработанное в 50-е г.г. XX столетия американским математиком Р. Беллманом и его учениками. В основе решения задачи динамического программирования лежит принцип оптимальности Беллмана. Его концепция сводится к следующему: имеется физическая система, характеризуемая на любом шаге параметрами состояния; на каждом шаге поиска решения принимается одно из допустимого множества решений, результатом чего является преобразование параметров состояния системы; предыстория системы не имеет никакого значения при определении будущих действий.

Любое правило для поиска решения, которое дает допустимую последовательность решения, называется поведением (политикой). Целью процесса является оптимизация некоторой функции параметров состояния и политики - функции критерия (дохода). Поведение, оптимизирующее функцию критерия, называется оптимальным поведением. Математическая формулировка этого принципа приводит к уравнениям, решение которых определяет оптимальное поведение и оптимальный доход.

Методы решения задач нелинейного программирования делятся на безградиентные и градиентные. В свою очередь безградиентные методы подразделяются на детерминированные и случайные. Если в детерминированных методах направление поиска заранее известно, то в случайных методах это направление выбирается случайно.

В градиентных методах движение по поверхности отклика осуществляется по кратчайшему направлению, которое принято называть градиентом.

13

Вопросы для самоконтроля

1. Сформулируйте математическую постановку задачи математического программирования.

2. Дайте определение геометрической интерпретации задачи математического программирования.

3. Какова постановка задачи линейного программирования? 4. Каковы особенности задачи целочисленного линейного

программирования? 5. В чём заключается идея метода Гомори? 6. Какова сущность метода ветвей и границ? 7. Сформулируйте задачу нелинейного программирования. 8. Перечислите безградиентные методы поиска экстремума. 9. Перечислите градиентные методы поиска экстремума? 10.Дайте краткую характеристику динамического

пограммирования. 11.В чём заключается идея принципа оптимальности Беллмана?

14

Глава 2. БЕЗГРАДИЕНТНЫЕ МЕТОДЫ ПОИСКА ЭКСТРЕМУМА

Типичная постановка задачи нелинейного программирования

сводится к тому, что заданы целевая функция

max(min)),...,( 21 nxxxR (8) и система ограничений

),...,,( 21 nj xxx 0. (9)

Если нельзя целевую функцию выразить непосредственно через все неизвестные или ограничения системы (9) являются весьма сложными выражениями, то данную задачу нельзя решить иначе как методом непосредственного подбора неизвестных, доставляющих экстремум целевой функции. Эта группа методов объединена единым наименованием – нелинейным программированием. Эффективность использования методов нелинейного программирования связана с применением компьютера, поскольку они требуют значительного объема вычислений.

В составе нелинейного программирования можно выделить две группы поисковых методов: безградиентные и градиентные.

Для более подробного рассмотрения этих методов введем некоторые термины, характерные для поисковых задач. Наименьшая величина из всех имеющихся минимумов называется глобальным минимумом рассматриваемой целевой функции. Наибольшее из всех имеющихся величин называется глобальным максимумом.

Поисковые методы связаны с осуществлением пробных движений. Величина пробного движения носит название шага поиска. В результате поиска определяется направление уменьшения (либо возрастания) целевой функции для того, чтобы определить, каким образом следует изменять независимые переменные хi от начальных значений ),...,,( 00

201 kxxx , чтобы приблизиться к экстремуму

рассматриваемой функции. Безградиентные методы поиска экстремума имеют в своем

составе методы детерминированного и случайного поиска. Если в детерминированных методах направление поиска заранее известно, то в методах случайного поиска это направление избирается самым

15

случайным образом.

2.1. Методы поиска экстремума одномерных функций

К детерминированным методам поиска экстремума одномерных функций относятся следующие:

метод сканирования; метод локализации экстремума; метод золотого сечения; метод с использованием чисел Фибоначчи.

2.1.1. Метод сканирования

Сущность этого метода заключается в том, что весь рассматриваемый интервал (Хmin – Xmax) разбивается на n одинаковых подынтервалов (рис. 4). На концах интервала и в точках его разбиения вычисляются значения целевой функции. Затем производится сравнение полученных величин друг с другом и из них выбирается наибольшее значение, если определяется max, и наименьшее, если min.

Рис. 4. Геометрическая интерпретация метода сканирования Точность поиска методом сканирования равна подынтервалу

разбиения, т.е.

n

xxΔ minmax . (10)

x

R(x)

R(x0)

xmin xmax x0

x

16

Для того чтобы можно было сравнивать различные методы между собой по точности поиска, возьмем для них одинаковое число точек, в которых необходимо вычисление величины целевой функции. Допустим, S=21, тогда

050201 ,

minmax

xxΔ .

2.1.2. Метод локализации экстремума

На первом этапе решения весь интересующий нас диапазон

изменения неизвестной разбивается на крупные подынтервалы (рис. 5, точки х1, х2, х3). Затем вычисляют значение целевой функции на концах рассматриваемого отрезка и в точках его разбиения и выбирают из них экстремальное, т.е. наибольшее при поиске max и наименьшее при определении min.

Рис. 5. Геометрическая интерпретация метода локализации экстремума

В рассматриваемом примере определяется минимум целевой

функции, а это будет соответствовать точке х1. Интересующую нас точку, имеющую экстремальную величину функции цели, окружают прилегающими подынтервалами таким образом, что рассмотренный интервал сужается до xminx2, а остальную часть x2xmax в рассмотрение не берут. Новый интервал xminx2 разбивают вновь на подынтервалы. Вычисляют значение целевой функции в новых точках разбиения 1 и 2. С учетом значений целевой функции, вычисленных для точек xmin, x1, x2, определенных на предыдущем шаге, находят экстремальное значение функции из всех точек разбиения интервала xminx2 . Это будет точка 1. Далее точку,

xmin

R(x)

x

1 2 x2 x3 xmax x1

17

имеющую экстремальное значение целевой функции, окружают новыми подынтервалами, которые образуют новый отрезок [x1-x2]. При этом отрезок (xmin – x1) исключается из поля зрения исследователя.

Рассмотренная шаговая процедура повторяется до тех пор, пока не будет найден с заданной точностью поиска экстремум. На практике это означает, что деление отрезков продолжается до тех пор, пока на очередном шаге длина подынтервала не станет меньше или равна заданной точности поиска. В таком случае говорят, что экстремум рассматриваемой функции локализован с заданной точностью поиска. При этом точность поиска определяется по формуле

Δ 21

2

S

xx )( minmax , (11)

где S – количество точек, в которых вычисляется значение целевой функции.

Предположим, что S=21, тогда относительная ошибка определения экстремума рассматриваемой функции составит

00102 10

minmax,

xxΔ

.

Метод локализации экстремума при равных условиях обеспечивает более высокую относительную точность поиска по сравнению с методом сканирования. Практически наилучшие результаты при использовании метода локализации экстремума получаются, если исходный отрезок делится на четыре равных части, а затем прилегающие к экстремальной точке подынтервалы делятся пополам.

2.1.3. Метод золотого сечения

В основе этого метода лежит геометрическое соотношение или закон золотого сечения. Если весь отрезок обозначить через а, большую его часть - b, меньшую - с, то закон золотого сечения устанавливает следующую связь:

cb

ba . (12)

Иначе b2 = ас. (13)

18

Определим, при каких условиях возможно выполнение соотношения (13). Для этого рассмотрим отрезок единичной длины (рис. 6) .

Z 1Z

Рис. 6. Деление отрезка по закону золотого сечения

Большую его часть обозначим через Z, а меньшую (1-Z); исходя

из этого, имеем согласно соотношению (12) 1 – Z=Z2

или Z2+ Z–1=0; (14)

2411

21

,Z . (15)

Отсюда получаем Z=0,618. Сущность метода золотого сечения состоит в том, что

рассматриваемый отрезок делится по закону геометрического соотношения, который называется золотым сечением.

При этом выдерживаются следующие соотношения: а=XmaxХmin ; (16)

Х1=Хmin+Z a; (17)

Х2 =Хmin+Z2 a, (18)

где а – длина рассматриваемого интервала. На рис. 7 дана геометрическая интерпретация рассматриваемого

метода. Далее определяется величина целевой функции на концах отрезка и в точках разбиения. Полученные результаты сравниваются между собой и из них выбирается наилучшая точка, соответствующая экстремальному значению критерия оптимальности, которую окружают прилегающими подынтервалами. Скажем, в рассматриваемом примере пусть будут точками разбиения точки Х1 и Х2 и в точке Х2 функция достигает своего наименьшего значения. Тогда отрезок (Х1Xmax) исключается из дальнейшего рассмотрения. Таким образом, рассматриваемый участок будет (Xmin–Х1), который

19

вновь разбивается по закону золотого сечения с использованием формул (16) – (18).

Рис. 7. Геометрическая интерпретация метода золотого сечения

При этом нетрудно видеть, что новый участок в рассматриваемом примере (Xmin–Х1)=Za, отсюда необходимо дополнительно определить координаты только одной точки и величину функции отклика при ней. Шаговый метод повторяется до тех пор, пока величина интервала не будет меньше или равной заданной точности поиска.

Метод золотого сечения обеспечивает следующую точность поиска:

,minmax3

215

2

SXXΔ (19)

где S – количество точек, в которых вычисляется целевая функция. Для сравнения данного метода с методом локализации

экстремума предположим, что число точек, в которых вычисляется целевая функция, S=21, тогда точность поиска составит

418

minmax109062050

,,,

xxΔ .

На этой основе можно сделать вывод: метод золотого сечения обеспечивает более высокую точность поиска по сравнению с методом локализации экстремума.

R(x)

x

Xmax Х1 Хmin Х2

20

2.1.4. Метод с использованием чисел Фибоначчи

Последовательность чисел, подчиняющаяся рекуррентному соотношению

21 SSS FFF (20)

называется последовательностью чисел Фибоначчи. Другими словами, каждое последующее число Фибоначчи равно сумме двух предыдущих чисел. При этом нулевое число Фибоначчи равно единице, т.е.

F0=1. (21) В табл.1 приводится последовательность чисел Фибоначчи для

практически используемого диапазона. Установлена последовательность поиска экстремума

рассматриваемой функции методом с использованием чисел Фибоначчи, заключающаяся в выполнении таких операций (методика расчета).

Таблица 1

Последовательность чисел Фибоначчи

S 0 1 2 3 4 5 6 7 8 9 10 11 12 SF 1 1 2 3 5 8 13 21 34 55 89 144 233

1. Определяется вспомогательное число N по заданной точности поиска и диапазону исследования )X(X minmax , которое рассчитывается по формуле

minmax XXN . (22)

2. Из последовательности чисел Фибоначчи (см. табл. 1) находят такое, чтобы

S1S FNF . (23) 3. Определяется минимальный шаг поиска hmin по формуле

SFXX

h minmaxmin

. (24)

4. Определяется первая искомая координата 21 SFhXX minmin . (25)

Вычисляется значение целевой функции для точек Хmin и Х1. Пошаговая процедура в этом методе сводится к следующему:

21

определяем координату новой точки, затем вычисляем величины целевой функции в точке, откуда шагаем, и в точке, куда шагаем, которые сравниваем между собой. Если функция улучшилась, т.е. увеличилась при поиске максимума либо уменьшилась при определении минимума, то следующий шаг осуществляют из последней удачной точки в том же направлении, иначе говоря, в направлении последнего шага, уменьшая число Фибоначчи на единицу. Допустим, если на предыдущем шаге использовали F7=21, то на текущем шаге будет F6=13. Если же предыдущий шаг оказался неудачным, т.е. целевая функция в новой точке не улучшилась, то следующий шаг осуществляется из последней удачной точки (т.е. из той точки, из которой осуществляли шаг), но в сторону, обратную предыдущему шагу. Исключение здесь составляет лишь тот случай, когда мы шагаем из точки Хmin (т.е. из крайней левой точки) и шаг оказался неудачным. По изложенному правилу мы должны бы на следующем шаге переместиться влево от точки Хmin, т.е. за пределы рассматриваемого отрезка Хmin–Хmax. Поэтому в этом случае движение осуществляется из точки Хmin в направлении предыдущего шага (т.е. вправо от точки Хmin).

Возвращаясь к рассматриваемому примеру, получим (рис. 8) R(Xmin)<R(X1). Поскольку здесь определяется минимум целевой функции, то шаг оказался неудачным. Но в этом случае следующий шаг мы будем делать также вправо из точки Хmin, уменьшив номер числа Фибоначчи на единицу.

5. Производится вычисление второй координаты: 32 SFhXX min . (26)

Вычисляется значение целевой функции R(Х2). Шаг выбран удачно, т.к. R(Х2)<R(Хmin) при поиске min, поэтому

осуществляют третий шаг, рассчитывая соответствующую координату по формуле

4min23 SFhxx . (27) Если бы предыдущий шаг оказался неудачным, т.е. R(Х2)>R(Х1)

при поиске min, то третий шаг осуществлялся бы из исходного положения в обратную сторону, т.е.

5min23 SFhxx . (28) Шаговая процедура продолжается до тех пор, пока не будут

исчерпаны в убывающей последовательности все числа Фибоначчи. Геометрическая интерпретация этого метода приведена на рис. 8.

Данный метод обеспечивает следующую точность поиска:

22

SFXX minmax , (29)

где FS – выбранное число Фибоначчи. Для того чтобы можно было сравнить рассматриваемые методы

по точности поиска, принимаем S=21. Тогда точность поиска составит

4

21105601

,

minmax FXX.

Рис. 8. Геометрическая интерпретация метода с использованием чисел

Фибоначчи

Из этого следует, что метод с использованием чисел Фибоначчи обеспечивает наибольшую среди рассматриваемых методов точность поиска.

2.2 Безградиентные методы поиска экстремума многомерных функций

Безградиентные методы поиска экстремума многомерных

функций подразделяются на методы детерминированного и случайного поиска. Детерминированные методы поиска экстремумов многомерных функций базируются на том, что всю интересующую нас область покрывают сеткой, допустим, разбивают по методу

R(x)

R(x1)

R(x3)

R(xmin)

R(x2)

2 3

4 5

x5 xmin

R(x4)

x2 x3 x1 xmax x4

1

23

сканирования с шагом (заданная точность поиска), а затем в узловых точках сетки определяют величины откликов и из них выбирают наилучший по заданному критерию.

При использовании случайных методов поиска экстремумов многомерных функций в исходной точке поиска направления пробных движений выбирают случайно; если шаг оказался удачным, то из последней удачной точки вновь выбирают случайное направление и продолжают движение. Несколько более успешным является метод случайных направлений с обратным шагом. Здесь, если случайным образом выбранное направление движения в исходной точке оказалось неудачным, следующий шаг осуществляется из последней удачной точки, но в сторону, обратную предыдущему неудачному шагу, который должен указать удачное направление поиска.

Расчеты с использованием любого из этих методов заканчиваются, если шаг поиска будет равен заданной точности поиска по осям и очередные пробные движения по всем осям не приводят к успеху. Тогда последняя удачная точка является решением задачи.

2.3. Типовой расчет "Безградиентные методы поиска экстремума одномерных функций"

2.3.1. Задание

Допустим, в результате исследования объекта получена следующая функция в общем виде

min)(

dxxc

bxaxxR3

4 . (30)

Используя исходные данные (прил. 1), где заданы коэффициенты a, b, с, d (столбцы 2–5) для 31 различного варианта, необходимо:

1. Определить экстремум функции (30) методом с использования чисел Фибоначчи для указанного варианта с заданной точностью поиска в заданном диапазоне maxmin xx (см. столбцы 6 – 7).

2. Определить экстремум функции (30) (см. столбцы 2 – 5) методами сканирования, локализации экстремума и золотого сечения (см. столбец 9) в указанном диапазоне maxmin , xx (см. столбцы 6 – 7) с предложенной точностью поиска (см. столбец 8).

24

2.3.2. Образец выполнения работы

Текст задания записать в соответствии с подразд. 2.3.1 в отчет. Числовые значения по заданному варианту свести в табл. 2. Для примера рассмотрим выполнение настоящей работы по варианту 31 со следующими исходными данными (см. табл. 2).

Таблица 2

Исходные данные № вар. a b с d minx maxx

31 10 8 4 19 0 2 0,1

На основе исходных данных (см. табл. 2) и формулы (30) имеем исходную функцию

min194810)(

34

x

xxxxR ,

которую необходимо согласно заданию исследовать на минимум четырьмя методами.

1. Метод с использованием чисел Фибоначчи. Решение задачи методом с использованием чисел Фибоначчи

осуществляем в такой последовательности: 1.1.Вычисляем вспомогательное число N согласно (22):

.201,00,2minmax

Δxx

N

1.2.Из последовательности чисел Фибоначчи, которую создайте сами, определяем число S, соответствующее величине N по соотношению (23). Имеем 21;7 7 FS .

1.3.Определяем минимальный шаг поиска согласно (24):

1,021

0,2minmax

SF

xxh .

1.4.Определяем первую искомую координату согласно (25): 8,081,002min1 SFhxx .

Вычисляем 38,128,0198,04)8,0(8)8,0(10)8,0(

34

R . Поскольку

0)0()( min RxR , то шаг сделан удачным, так как величина функции уменьшилась при перемещении из точки minx в точку 1x , т.е.

0> –12,38.

25

1.5.Определяем вторую координату по формуле (26), двигаясь в том же направлении:

1,350,10,8Fhxx 3S12 ; 65,2)3,1( R .

Шаг сделан неудачно, поскольку )()( 12 xRxR , т.е. –2,65 > –12,38, следовательно, третий шаг будет осуществлен из последней удачной точки 1x в направлении, обратном ко второму шагу, т.е. справа налево.

1.6.Третью координату определяем по формуле 5031080 ,,,Fhxx 4S13 ;

16,9)5,0( R ; )8,0()5,0( RR , т.е. –9,16 > –12,38 (шаг неудачный).

1.7. Находим 012080 ,,,Fhxx 5S14 ;

R(1)= – 11,67; R(1) > R(0,8), т.е. – 11,67 > –12,38 (шаг неудачный) 1.8.Находим 7011080615 ,,,Fhxx S ;

R(0,7)= – 11,73; R(0,7) > R(0,8), т.е. – 11,73 > –12,38 (шаг неудачный)

1.9.Находим 9,011,08,0716 SFhxx ; R(0,9)= – 12,42. Поскольку 12,42<12,38, то шаг оказался удачным.

При этом исчерпаны в убывающей последовательности все числа Фибоначчи, а поэтому поиск закончен.

Ответ: 48,12)1,09,0(min RR . 2. Метод локализации экстремума. I шаг. Весь диапазон от minx до maxx разбиваем на четыре равных

подынтервала.

Поскольку 0min x , а 2max x , то имеем

.67,100)0,2(;33,11)5,1(

;67,11)0,1(;16,9)5,0(

;0)0(

вычисляем

,2;5,1;0,1;5,0;0x

max

3

2

1

min

RRRRR

xxxx

На основе анализа имеем минимальное значение функции R(1,0)

26

= =– 11,67. Тогда рассматриваемый диапазон сужается до [0,5…1,5], т.е. берутся два прилегающих подынтервала к точке 2x , имеющей минимум целевой функции. Далее осуществляем второй шаг: в связи с этим делим прилегающие подынтервалы пополам.

II шаг.

.33,11)5,1(;59,5)25,1(;67,11)0,1(

;12,12)75,0(;16,9)5,0(

вычисляем

,5,1;25,1

;0,1;75,0;5,0x

max

3

2

1

min

RRRRR

xxxx

III шаг.

.67,11)0,1(;48,12)875,0(;12,12)75,0(

;93,10)625,0(;16,9)5,0(

вычисляем

,0,1;875,0

;75,0;625,0;5,0x

max

3

2

1

min

RRRRR

xxxx

Поскольку на третьем шаге подынтервал разбиения еще не достиг заданной точности поиска, т.е. 0,125 > 0,1 (см. табл. 2), то осуществляем следующий шаг, выбирая в качестве наилучшей точки точку 3x , при которой )( 3xR =R(0,875) = 12,48. Тогда рассматриваемый интервал сузится до величины [0,75 – 1,0], а [0,5 – 0,75) отбрасываем.

1V шаг.

.67,11)0,1(;24,12)9375,0(;48,12)875,0(;43,12)8125,0(

;12,12)75,0(

вычисляем

,0,1;9375,0

;875,0;8125,0;75,0x

max

3

2

1

min

RRRRR

xxxx

Поскольку на четвертом шаге подынтервал разбиения оказался меньше заданной точности поиска (см. табл. 2), т.е. 0,0625 < 0,1, то расчеты заканчиваются. В качестве решения задачи принимаем наименьшую величину целевой функции на последнем шаге поиска.

Ответ: 48,12)1,0875,0(min RR .

27

3. Метод золотого сечения. На первом шаге весь диапазон изменения неизвестной от minx =0

до maxx =2 разбиваем на три подынтервала следующим образом: a= maxx – minx =2 – 0=2;

azxx 2min1 =0 + 0,38 2 = 0,76;

azxx min2 =0 + 0,62 2 = 1,24. Определяем величины откликов на концах интервала ( minx и

maxx ) и в точках разбиения ( 1x и 2x ).

.100)0,2(;14,5)24,1(

;19,12)76,0(;0)0(

вычисляем

,0,2;24,1;76,0;0x

max

2

1

min

RRRR

xxx

Наименьшая величина отклика в точке 1x = 0,76, а R(0,76) = –12,19. Окружаем эту точку прилегающими подынтервалами (0 – 0,76) и (0,76 – 1,24), а остальное (1,24 – 2) из рассмотрения исключаем. Тогда рассматриваемый интервал будет от 0 до 1,24, т.е. a = 1,24. В этом случае получаем новые точки разбиения.

azxx 2min3 =0 + 0,38 1,24 = 0,471;

azxx min4 =0 + 0,62 1,24 = 0,76.

.44,5)24,1(;19,12)76,0(;69,8)471,0(

;0)0(

вычисляем

,24,1;76,0;471,0

;0x

2

4

3

min

RRRR

xxx

Наименьшая величина отклика в точке разбиения 4x =0,76, а R(0,76)=-12,19.

Согласно вышеизложенной методике рассматриваемый интервал сужается до 3x – 2x . Тогда имеем a = 3x – 2x = 1,24 – 0,471 = 0,769.

Отсюда

azxx 235 =0,471 + 0,38 0,769 = 0,471 + 0,292 = 0,76;

azxx 36 =0,471 + 0,62 0,769 =0,471 + 0,476 = 0,948.

На новом шаге получим

28

.44,5)24,1(;16,12)948,0(

;19,12)76,0(;69,8)471,0(

вычисляем

,24,1;948,0

;76,0;471,0x

3

6

5

2

RRRR

xxx

Наилучшая точка здесь 5x = 0,76, а R(0,76) = –12,19. Тогда a = =0,948 – 0,471 = 0,477.

Отсюда 7x =0,471 + 0,38 0,477 = 0,471 + 0,181 = 0,65;

8x =0,471 + 0,62 0,477 =0,76 . Имеем новое разбиение:

.16,12)948,0(;19,12)76,0(;22,11)65,0(;69,8)471,0(

вычисляем

,948,0;76,0;65,0

;471,0x

3

8

7

2

RRRR

xxx

Наилучшая точка 8x = 0,76, а R(0,76) = –12,19. Тогда a = 0,948 – – 0,65 = 0,298.

Отсюда 9x =0,65 + 0,38 0,298 =0,76;

10x =0,65 + 0,62 0,298 =0,835.

Имеем новое разбиение:

.16,12)948,0(;48,12)836,0(

;19,12)76,0(;22,11)65,0(

вычисляем

,948,0;836,0

;76,0;65,0x

6

10

9

7

RRRR

xxx

Наилучшая точка 10x = 0,835, а R(0,835) = –12,48. Тогда a = 0,948

– – 0,76 = 0,188. Отсюда

11x =0,76 + 0,38 0,188 =0,835; 12x =0,76 + 0,62 0,188 =0,876;

Имеем новое разбиение:

29

.16,12)948,0(;48,12)876,0(;48,12)835,0(

;19,12)76,0(

вычисляем

,948,0;876,0;835,0

;76,0x

6

12

11

9

RRRR

xxx

Наилучших две точки: R(0,835)=R(0,876)= –12,48. Поскольку на последнем шаге наибольший подынтервал

разбиения равен (0,948 – 0,876=0,072) и он меньше заданной точности поиска (0,1), то на этом расчеты прекращаются.

Ответ: R(0,8760,1)= –12,48. 4. Метод сканирования. Весь диапазон изменения неизвестной от minx =0 до maxx =2

разбиваем с шагом, равным = 0,1 на 20 одинаковых подынтервалов и определяем величины откликов на концах интервала ( minx и maxx ) и в точках разбиения. Имеем следующие результаты:

R(0) = 0; R(0,7) = – 11,73; R(1,4) =3,37; R(0,1) = – 1,9; R(0,8) = – 12,38; R(1,5) =11,33; R(0,2) = – 3,8; R(0,9) = – 12,48; R(1,6) =23,89; R(0,3) = – 5,67; R(1,0) = – 11,67; R(1,7) =34,14; R(0,4) = – 7,48; R(1,1) = – 9,93; R(1,8) =49,58; R(0,5) = – 9,16; R(1,2) = – 7,00; R(1,9) =68,09; R(0,6) = – 10,39; R(1,3) = – 2,65; R(2,0) =100,67.

Выбираем наименьшую величину отклика, которая и будет решением задачи.

Ответ: R(0,90,1) = – 12,48. Отчет о работе оформляется в произвольной форме с

обязательным обоснованием всех действий, подтвержденных расчетами, при этом он не должен вызывать затруднений при чтении.

Вопросы для самоконтроля

1. Дать перечень безградиентных методов поиска экстремума одномерных функций.

2. Сформулировать сущность метода сканирования. 3. Определить оптимум целевой функции методом локализации

экстремума. 4. Какова последовательность вычислений при использовании

метода золотого сечения? 5. Записать формулу рекуррентного соотношения, положенного в

основу последовательности чисел Фибоначчи.

30

6. Вычислить оптимум целевой функции методом с использованием чисел Фибоначчи.

7. Сформулировать закон золотого сечения.

31

Глава 3. ГРАДИЕНТНЫЕ МЕТОДЫ ПОИСКА ЭКСТРЕМУМА

В математике известна методика определения производной от

рассматриваемой функции по заданному направлению. Так, если через l обозначить вектор заданного направления, то производная функции по этому направлению определяется по формуле

i1

x

) R(x l

) R(x n

i i

ii cos

,

где R(xi) – рассматриваемая функция, зависящая от n неизвестных x1, x2, … xi, …, xn ; i – угол наклона l - го вектора к i -й оси координат.

3.1. Понятие градиента

Производная функции по направлению представляет собой скорость изменения этой функции по рассматриваемому направлению. Наибольшее практическое применение нашло направление максимального изменения функции, которое принято называть градиентом.

Градиент функции имеет следующее обозначение ) R(x g igrad . (31)

Для функции многих переменных градиент определяется по следующей формуле:

222

2

2

1

n

i

i

iiii

x) R(x...

x) R(x...

x) R(x

x) R(x

g ) R(x , (32)

где i

i x

) R(x

– координата вектора-градиента по i -й оси.

Градиент обладает ценным свойством: он всегда направлен по нормали к линиям одинакового уровня и совпадает с наикратчайшим путем от рассматриваемой точки до «почти стационарной области». На этом свойстве построены поисковые методы, объединенные единым названием, – градиентные методы. Существует множество методов, основанных на использовании идеи градиента. Однако концепции их сводятся в основном к следующим трем методам: метод градиента, метод релаксаций и метод наискорейшего спуска (подъема), которые мы кратко рассмотрим ниже.

32

3.2. Метод градиента

Сущность этого метода сводится к выполнению следующих

операций: 1. В исходной точке определяется градиент рассматриваемой

функции. 2. В направлении градиента осуществляют рабочий шаг. Здесь необходимо особо отметить пошаговую процедуру поиска,

которая заключается обычно в следующем: а) определяются точки, откуда шагаем и куда шагаем; б) сравниваются отклики в этих точках и шаг считается удачным,

если величина целевой функции улучшилась, т.е. увеличилась при поиске максимума (max) и уменьшилась при определении минимума (min).

В каждой новой точке вычисляется величина целевой функции. Алгоритм поиска следующий:

x ji

ii

ji

ji X

R h X x1

1

, (33)

где i – номер текущей переменной; j – номер шага; hi – фактор шага по i - й переменной, который принимается постоянным,равным заданной точности поиска, если поиск ведется в стационарной области. При большом удалении от оптимума величина шага принимается пропорционально величине первой производной по каждой координате.

Движение по изложенному алгоритму осуществляется до тех пор, пока не будет достигнут глобальный экстремум с заданной точностью поиска. Иначе говоря, расчеты заканчиваются только в том случае, когда движение из последней удачной точки не приводит к улучшению целевой функции. При этом последняя удачная точка поиска считается глобальным экстремумом рассматриваемой функции. Основным недостатком данного метода является большой объем вычислений.

3.3. Метод релаксаций

Метод релаксаций заключается в следующем: а) определяют частные производные рассматриваемой функции

по всем координатным осям, т.е.

33

nxR; . . . ;

xR;

xR

21; (34)

б) из всех вычисленных производных определяют наибольшую; в) в направлении наибольшей производной осуществляется

первый шаг и если он оказался удачным, то величину последующего шага удваивают и осуществляют в этом же направлении еще один шаг. Если и он оказался удачным, то предыдущий шаг вновь удваивают. Эта последовательность применяется до тех пор, пока не будет произведен неудачный шаг. При неудачном шаге величина шага или фактор шага уменьшается в два раза и шаг осуществляется из последней удачной точки.

Допустим, снова шаг оказался неудачным, тогда осуществляют вновь деление предыдущего шага пополам до тех пор, пока последний шаг не будет меньше или равен заданной точности поиска.

В этой точке определяют вновь частные производные по осям координат от рассматриваемой функции, из которых выбирают наибольшую. Предположим, что это направление будет по оси х2, по которой продолжают движение по вышеизложенному алгоритму до следующего экстремума по заданному направлению и т.д.

Алгоритм поиска следующий:

jiXi

ij

ij

i xR ε h xx

1 , (35)

при этом

.minесли,1

min);max если 0,

max; если ,1

i

i

i

xR

(xR

xR

(36)

Движение по вышеизложенному методу осуществляется до тех пор, пока не будет достигнут экстремум с заданной точностью поиска. Иначе, при очередном изменении направления движения первый шаг окажется неудачным. Тогда последняя удачная точка является результатом решения рассматриваемой задачи.

34

3.4. Метод крутого восхождения

Метод крутого восхождения (наискорейшего спуска) вобрал в себя все лучшее предыдущих методов и сводится к следующему:

а) определяется градиент в исходной точке; б) в направлении градиента осуществляется не один шаг, как в

методе градиента, а несколько шагов, пока не будет достигнут экстремум в данном направлении. Причем, каждый последующий шаг удваивается после того, как предыдущий шаг окажется удачным. Шаг считается удачным, если в результате движения функция улучшается, т.е. увеличивается при поиске максимума и уменьшается при определении минимума;

в) как только очередной шаг окажется неудачным, величина последующего шага уменьшается в два раза и движение осуществляется из последней удачной точки. Уменьшение шага происходит до тех пор, пока его величина не будет равна заданной точности поиска ;

г) в последней удачной точке вновь определяется градиент и движение по новому направлению продолжается;

д) расчеты по заданному алгоритму продолжаются до тех, пока не будет определен экстремум с заданной степенью точности. Практически расчеты прекращаются в том случае, когда определен градиент в последней удачной точке и первый шаг из этой точки в направлении градиента оказался неудачным. При этом последняя удачная точка считается оптимальным решением рассматриваемой функции.

Результаты решения по всем рассмотренным методам записываются в следующем виде (образец ответа):

Ответ: R (x1 ; x2 ;Δ …, xn ;Δ ) = A, (37)

где А – численное значение функции в точке экстремума (x1 ; x2 ;Δ …, xn Δ ), определенное с заданной точностью поиска .

35

3.5. ТИПОВОЙ РАСЧЁТ «ГРАДИЕНТНЫЕ МЕТОДЫ ПОИСКА ЭКСТРЕМУМА»

3.5.1.Задание

Имеется целевая функция, в общем виде

R(x) = 2122

21 x cx bx ax , (А)

коэффициенты а, b и c которой для 31 различного варианта заданы в прил. 2 (см. столбцы 2 – 4). Используя целевую функцию (А) и исходные данные (см. прил. 2), необходимо:

1. Определить минимум целевой функции (А) методом градиента при условии, что координаты начальной точки равны 1 0

201 xx и

задана точность поиска = 0,01. 2. Определить минимум целевой функции (А) методами

релаксаций и крутого восхождения из исходной точки и 02

01 xx (см.

прил.2, столбцы 5 и 6) с заданной точностью поиска (см. прил. 2, столбец 7).

3.5.2.Образец выполнения работы

Текст задания записать в отчет. Причем, числовые значения

свести в табл. 3. Для примера рассмотрим выполнение настоящей работы по варианту №31, который дает следующие исходные данные (см. прил. 2).

Таблица 3

Исходные данные

№ варианта a b c 01x 0

2x 31 1 2 1 2 2 0,01

На основе исходных данных и формулы (А) имеем следующие

исходную функцию:

2122

21 x x 2x xR(x) ,

которую необходимо, согласно заданию, исследовать на минимум тремя методами:

36

1) методом градиента; 2) методом релаксаций; 3) методом крутого восхождения.

Метод градиента. Решение задачи методом градиента осуществляем в такой

последовательности: I шаг.

1. Определяем частные производные по осям координат от заданной функции 21

22

21 2 xxxxxR i )( :

122

211

42 xxx

xR; x xx

xR

)()(

.

2. Вычисляем величины первых производных в начальной точке, т.е. при 10

201 x x :

5302

201

1

xxxR;

xxxR )()( .

3. Вычисляем величину целевой функции в исходной (начальной) точке

42)( 2122

21

02

01 xxxx, xxR .

4. Осуществляем первый шаг из начальной точки с координатами и 0

201 xx по формуле (33). Здесь следует заметить, что при поиске

минимума движение осуществляется по антиградиенту, т.е. в направлении, противоположном направлению градиента, – направлению наиболее быстрого уменьшения целевой функции. Фактор шага h принимаем равным заданной точности поиска, т.е.

h = = 0,1;

.505101)(

;7,03101)(

02

2

02

12

01

1

01

11

,,xx

xR - h x x

,xx

xR - h x x

Вычисляем величину целевой функции в точках и 12

11 xx :

34,15,07,0)5,0(2)7,0(),( 22'2

'1 xxR .

Формат: Список

37

Результаты расчетов сводим в табл. 4. Таблица 4

Результаты расчетов Номер шага х1 х2 R(x1, x2)

0 1 1 4,0 1 0,7 0,5 1,34 2 0,51 0,23 0,48 3 0,385 0,087 0,196 4 0,3 0,017 0,095 5 0,24 -0,019 0,053 6 0,15 -0,049 0,02 7 0,05 -0,074 0,011 8 0,04 -0,176 0,053

II шаг. Вычисляем значения первых производных по осям координат в

точках 7011 ,x и 501

2 ,x :

.72705044

;91507022

122

211

,,,xxx

R(x)

,,,xxx

R(x)

X

X

Осуществляем второй шаг поиска:

.230721050

;510911070

12

2

12

22

11

1

11

21

,,,,x

R(x)h x x

,,,,x

R(x)h x x

X

X

Вычисляем величину целевой функции на втором шаге: 480 x 2

221 ,),( xR

III шаг.

Вычисляем значения

2Xi

ixxR

в точках х1

2=0,51 и х22=0,23:

;251230021

21

1,,,

xR(x)

X

38

.43151092022

2,,,

xR(x)

X

Осуществляем третий шаг: 3850251105103

1 ,,,, x ;

08704311023032 ,,,,x .

Вычисляем значение целевой функции на третьем шаге:

19600335001520148032

31 ,,,,),xR(x .

IV шаг.

31

1

)(

XxxR

= 0,857;

32

2

)(

XxxR

= 0,733;

х14 = 0,3; х2

4 = 0,017. Расчеты по изложенной методике продолжаем до тех пор, пока

целевая функция будет изменяться желательным образом, т.е. при поиске минимума функция должна уменьшаться.

Результатами вычислений на 5, 6,7 и 8-м шагах пополняем табл. 4.

Наконец, на последнем 8-м шаге целевая функция увеличилась по сравнению с ее величиной на 7-м шаге, поэтому оптимальным будет решение

;1,0074,0;1,005,0

72min2

71min1

xxxx

R(x)min = 0,011.

Таким образом, окончательно имеем, используя (37), ответ. Ответ: 1,0074,0;1,005,0( R )=0,011. Метод релаксаций. Имеем согласно исходным данным следующую целевую

функцию:

R(xi) = x12 + 2x2

2 + x1x2.

Исходная точка х10 = х2

0 =2 (см. табл. 3). 1. Вычисляем величины первой производной по осям координат

39

01

1

)(

X

ixxR

= 2 х1 + х2 = 6 2 2 2 ;

02

2

)(

X

ixxR

= 4х2 + х1 = 10 2 2 4 .

На этом основании движение осуществляем по оси х2, фиксируя х1

0 = 2, т.е. по направлению наибольшей производной. 2. Вычисляем значение целевой функции в исходной точках

х10=2; х2

0=2:

R(xi) = x12 + 2x2

2 + 21 xx = 22 + 2 2 2 + 22 = 16.

3. Осуществляем первый шаг поиска из точки х10 = х2

0=2 в точку 2 1

1 x , новую координату 2 12 x необходимо вычислить с

использованием формулы (35):

02

2

022

X

ix

)R(x h ε xx

,

где ε = –1, поскольку движение осуществляется по антиградиенту (определяем минимум целевой функции), a h = Δ, т.е. h = 0,01.

Таким образом, имеем 1,9 0,1-2 10 0,01 - 2 12 x .

4. Вычисляем значение целевой функции в новой точке 2 1

1 x ; 1,9 12 x :

02,159,129,121,9 2 2)( 222 ixR .

5. Сопоставляя величины целевой функции в точке, откуда шагаем (х1

0=2; х20=2), с точкой, куда шагаем ( 2 1

1 x ; 1,9 12 x ), имеем

R(2; 2) = =16; R(2; 1,9) = 15,02; R(х10=2; х2

0=2) > R( 2 11 x ; 1,9 1

2 x ), т.е. 16 > 15,02. Шаг оказался удачным, поэтому следующий (второй) шаг осуществляем из последней удачной точки (2; 1,9) и при этом увеличиваем фактор шага вдвое: h = Δ 2 = 0,02.

6. Вычисляем х22 на 2-м шаге:

12

2

12

22 2

X

ix

)R(x h х х

.

40

При этом величина 12 X

ix

)R(x

определяется при х11 = 2 и х2

1 = 1,9.

Имеем 12 X

ix

)R(x

= 4 х2 + х1 = 2 1,9 4 = 9,6.

Отсюда х2

2 = 1,9 – 0,02 9,6 = 1,708. 7. Вычисляем величину целевой функции на 2-м шаге при х1

2=2 и х2

2=1,708. 251370812708122 22 ,,),()( ixR .

8. Сопоставляя величины целевой функции в точке, откуда шагали (15,02), с точкой, куда шагали (13,25), делаем вывод о том, что шаг оказался удачным.

Теперь по рассмотренному алгоритму продолжаем движение до тех пор, пока функция будет уменьшаться (т.е. изменяться желательным образом), а результаты этих расчетов для краткости изложения материала заносим в табл. 5.

Таким образом, удваивая фактор шага, дошли до 7-го шага, когда целевая функция возросла (3,579). Шаг оказался неудачным. Условимся неудачные шаги обозначать со штрихом (этот шаг будет 7'), чтобы отличить их от шагов удачных. Последним удачным был 6-й шаг (х1

6 = 2; х26 = –0,627). Уменьшаем фактор шага в два раза

(вместо 0,64 берем 0,32) и осуществляем очередной шаг из 6-й точки. Имеем х1

7 = 2; х27 = –0,464; R(xi) = 3,502. На 6-м шаге R(x) = 3,532. Это

значит, что шаг оказался удачным. Обозначаем его как шаг 7 и продолжаем движение. Уменьшаем фактор шага еще в два раза (0,16) и осуществляем очередную попытку движения из 7-й точки (х1

8=2; х2

8=–0,484). При этом целевая функция равна 3,5, а в 7-й точке R(xi)=3,502. Значит, шаг удачный. Уменьшаем еще в два раза фактор шага (0,08) и осуществляем движение из последней (8-й) удачной точки. Девятая точка будет иметь координаты х1

9 = 2; х29 = –0,489

R(2; –0,489) = 3,5, R(2; –0,489) = 3,5. Целевая функция не ухудшилась. Как видно из результатов расчетов (см. табл. 5), последующее уменьшение фактора шага в два раза (0,04) не дало желаемого результата – функция по сравнению с точкой 9 (3,5) не уменьшилась (3,5). Поэтому определяем частные производные по осям, чтобы выбрать новое направление движения в последней удачной точке – точке 10 (2; –0,49).

41

Отсюда имеем 513490222 211

,),()(

xx

xxR i ;

040249044 122

,),()(

xx

xxR i .

Таблица 5 Результаты расчетов (метод релаксаций)

Номер шага х1 х2 R(х1; х2) Фактор шага 0

1 2 3 4 5 6

7' 7 8 9

10

11 12 13

14

15 16 17 18' 18 19 20 21 22 23 24 25 26 27 28 29 30' 30 31 32

2 2 2 2 2 2 2 2 2 2 2 2

1,965 1,896 1,763 1,52 1,112 0,557 0,157 0,382 0,205 0,206 0,206 0,206 0,206 0,206 0,206 0,206 0,206 0,206 0,206 0,206 0,206 0,202 0,195 0,181

2 1,9

1,708 1,354 0,76

-0,046 -0,627 -0,301 -0,464 -0,484 -0,489 -0,49 -0,49 -0,49 -0,49 -0,49 -0,49 -0,49 -0,49 -0,49 -0,49 -0,49 -0,49 -0,472 -0,438 -0,376 -0,272 -0,13 0,029 -0,074 -0,045 0,043 -0,043 -0,043 -0,043 -0,043

16 15,02 13,25 10,375 6,675 3,912 3,532 3,579 3,502 3,5 3,5 3,5

3,379 3,145 2,725 2,04

1,171 0,517 0,427 0,439 0,422 0,421 0,421 0,39

0,385 0,246 0,114 0,049 0,048 0,037 0,037 0,037 0,037 0,036 0,033 0,028

0,01 0,02 0,04 0,08 0,16 0,32 0,64 0,32 0,16 0,08 0,04 0,01 0,02 0,04 0,08 0,16 0,32 0,64 1,28 0,64 0,01 0,02 0,01 0,02 0,04 0,08 0,16 0,32 0,32 0,16 0,08 0,01 0,01 0,02 004 0,32

42

Окончание таблицы 5 Номер шага х1 х2 R(х1; х2) Фактор шага

33 34 35 36' 36 37' 37'' 38'

0,079 0,042 0,028 0,028 0,028 0,028 0,028 0,0295

-0,043 -0,043 -0,043 -0,066 -0,024 -0,038 -0,041 -0,041

0,006 0,003 0,003 0,007 0,0012 0,0026 0,0026 0,003

0,32 0,32 0,16 0,08 0,04 0,01 0,01

Наибольшая производная — по оси х1 (3,51), поэтому выбираем

новое направление движения по координате х1, а х2 фиксируем на уровне –0,49 и продолжаем вычисления.

х111 = х1

10 - h 96515130102101

1,,,

x)R(x

X

i

,

R(1,965; -0,49) = 3,379. Поскольку на 10-м шаге R(x1)=3,5, то шаг оказался удачным.

Удваивая фактор шага, мы доходим до шага 18, при котором исследуемая функция увеличилась по сравнению с предыдущим (17-м) шагом (0,439>0,427). Обозначаем неудачный шаг номером 18', уменьшаем фактор шага вдвое (вместо 1,28 берем 0,64) и продолжаем движение из последней удачной точки (т. 17). Шаг оказался удачным (0,427>0,422). Из точки 18 осуществляем 19 и 20-й шаги с фактором шага 0,02 и 0,01 соответственно. Поскольку шаги 19 и 20 дали одинаковые отклики (0,421), а фактор шага 20 был равен заданной точности поиска (0,01), то в точке 20 вновь определяем частные производные по осям координат:

0780490206022 211

,),(,)(

xx

xxR i ;

7541206049044 122

,,),()(

xxxxR i .

На этом основании фиксируем координату х1=0,206 и продолжаем движение из точки 20 с фактором шага h==0,01, который удваиваем на каждом шаге. Доходим до 26-го шага, затем уменьшаем фактор шага, начиная с 27-го шага до 30-го. Точки 27, 28, 29 и 30 имеют одинаковые отклики (0,037) при факторе шага в точке 30 h==0,01.

В точке 30 вновь определяем частные производные по осям:

43

.034,0206,0)043,0(44)(

;369,0)043,0(206,022)(

122

211

xxxxR

xxxxR

i

i

Считаем точку реверса (т. 30) как неудачную, присваиваем ей номер 30' и движемся далее, вначале увеличивая, а с 35-го шага уменьшая фактор шага. Последний удачный шаг 36, R(xi)=0,0012. Изменение фактора шага и направления движения (шаги 37', 37'', 38') не дает желаемого результата, поэтому в качестве решения принимается последняя удачная точка (точка 36).

Ответ: R(0,0280,01; -0,0240,01)=0,0012. Метод крутого восхождения. Сущность этого метода сводится к следующему. 1. Вычисляем величины первой производной по осям в исходной

точке, т.е. при х10 = х2

0 = 2 (см. табл. 6).

;62222 2101

xx

xR(x)

X

.10224)(02

Xx

xR

2. Вычисляем соотношение первых производных по осям

.6,0106

)(

)(

02

1

01

1

X

X

xxR

xxR

3. Вычисляем значение целевой функции в исходной точке

16222 22 )( ixR .

Принимаем шаг по оси х2 равным Δ х2 = 0,5 (по мере приближения к оптимуму величины производных будут уменьшаться, а поэтому будем уменьшать шаги поиска), тогда Δ х1 = 3,06,05,0 .

4. Осуществляем первый шаг, т.е. вычисляем координаты 12

11 xи x ;

44

.51502;71302

202

12

101

11

,,Δxxх,,Δxxx

5. Вычисляем величину целевой функции в новой точке

94,97,15,1)5,1(2)7,1() x,( 2221

11 xR .

Дальнейшие вычисления заносим в табл. 6. Движение осуществляем до локального минимума, т.е. до минимальной величины функции на данном направлении. Исходя из этого, на 7-м шаге наблюдается увеличение целевой функции (см. табл. 6), поэтому возвращаемся к данным шага 6 и вычисляем вновь первые производные для х1

5 = 0,5 и х25 = –0,5. Имеем

5051

1,)(

XxxR ;

5,1)(52

2

XxxR

;

отношение 31

52

51

)()(

xRxR , т.е. изменение величин по осям как 1: 3.

Здесь следует учесть, что 5152

2,)(

XxxR , т.е. имеем отрицательный

знак, значит, Δх2 будем суммировать с х2 в отличие от предыдущего направления, где эта величина вычиталась.

Принимаем Δ х2 = –0,3, тогда Δ х1 = 0,1. Присваиваем неудачному шагу 7 штриховой индекс (так мы условились обозначать неудачные шаги) и движемся дальше по вышеизложенной методике, занося результаты расчетов в табл. 6. Как видно из табл. 6, 9-й шаг оказался неудачным, поскольку 0,44> 0,4.

Рассчитываем первые производные в последней удачной точке, т.е. в точке 8:

7,0)(71

XxxR ; 7,0)(

72

XxxR .

45

Таблица 6 Результаты расчетов методом наискорейшего спуска (подъема)

Номер шага х1 х2 R(x)

1 2 3 4 5 6 7'

7 8 9' 9 10 11 12 13' 13 14 15' 15 16 17 18 19 20

2 1,7 1,1 0,8 0,5 0,4 0,2 0,3 0,25 0,2 0,2 0,15 0,1 0,09 0,05 0,08 0,07 0,06 0,06 0,05 0,04 0,03 0,02 0,01

2 1,5 0,5 0

-0,5 -0,2 -1,0 0,1 0,45 0,4 0 -0,05 -0,1 -0,07 -0,15 -0,04 -0,01 -0,02 -0,012 -0,014 -0,016 -0,018 -0,02 -0,022

16 9,94 2,26 0,64 0,5

0,46 1,84 0,4 0,0775 0,44 0,04 0,02 0,02 0,0116 0,04 0,0064 0,0044 0,0296 0,003 0,002 0,00146 0,001 0,0008 0,00084

На этой основе приращения по осям принимаем равными, т.е.

Δх1=Δх2=0,05, и продолжаем движение из точки [х18, х2

8], занося результаты вычислений в табл. 6. Согласно табл. 6 очевидно, что следующий неудачный шаг – шаг 13.

Вычисляем первые производные в последней удачной точке (точке 12)

1,01,01,022)(21

111

1

xx

xxR

X;

3010104112

1,,),()(

XxxR .

46

Соотношение производных равно 31

. Принимаем Δ х2 = –0,03,

тогда Δх1=0,01 и продолжаем движение (см. табл. 6.) На шаге 15 функция возросла (0,0296>0,0044). Определяем вновь частные производные в точке 14 по осям координат.

.03,007,0)01,0(42)(

;13,001,007,022)(

122

211

xxxxR

xxxxR

i

i

Соотношение производных 13:3. Принимаем х1=0,01, тогда .,, 002013

30102 Δx Поскольку обе производные положительные, то х1 и х2 будут вычитаться из соответствующих координат. Поскольку наибольший шаг поиска равен заданной точности поиска, т.е. Δх2=0,01=Δ, продолжаем движение до локального минимума, т.е. до возрастания целевой функции, и предыдущую удачную точку считаем решением задачи.

На шаге 20 наблюдается увеличение функции при поиске минимума. Поэтому оптимальным решением считаем точку

;,02019min 1 x ;,02019

min 2 x .,);(min 00080192

191 xxR

Используя формулу (37), запишем ответ. Ответ: R(0,02 0,010,02- 010 ;, ) = 0,0008.

Вопросы для самоконтроля

1. Дайте понятие градиента. 2. Сформулируйте метод градиента. 3. Что такое метод релаксаций? 4. Сформулируйте метод крутого восхождения.

47

Глава 4. АНАЛИТИЧЕСКИЕ МЕТОДЫ ПОИСКА ЭКСТРЕМУМА

4.1. Состав аналитических методов

Основным условием использования аналитических методов оптимизации является задание функции в аналитическом виде и её дифференцируемость. Существуют несколько методов отыскания экстремумов аналитических функций, в частности:

1. Методы, основанные на классическом математическом анализе.

2. Метод множителей Лагранжа. 3. Вариационные методы. 4. Принцип максимума Понтрягина. У каждого из этих методов есть свои условия применения.

Скажем, методы, основанные на классическом математическом анализе, предполагают наличие дифференцируемости функции. Если ограничения задачи заданы в виде равенств, то используется метод неопределенных множителей Лагранжа. Вариационные методы применяются в тех случаях, когда функция цели задана в виде функционала, в частности, при решении уравнений Эйлера. Принцип максимума Понтрягина разработан сравнительно недавно группой российских ученых во главе с академиком Понтрягиным (1958 г.), но уже нашел широкое применение как у нас в стране, так и за рубежом, особенно при решении задач управления. Здесь особо следует отметить то обстоятельство, что аналитические методы связаны с большим объемом вычислений. Поэтому на пути их применения стоит барьер многомерности. Кроме того, значительное увеличение объема вычислений связано с использованием ограничений. Практически эти методы применяются для двух-трех переменных при небольшом числе ограничений.

4.2. Необходимые и достаточные условия существования

экстремумов одномерных функций В основе этих методов лежит классическое учение

математического анализа об экстремумах функций. Принято понимать, что функция R(х), определенная на участке [a,b], имеет в

48

точке х=х0 максимум или минимум, а в самом общем случае – экстремум- предельное значение, если её можно окружить -окрестностью, заключенной в рассматриваемый отрезок [a,b] таким образом, что

R( x )>R(x0) (38) либо

R( x )<R(x0), (39) для всех случаев, где х x0.

В таком случае (38) определяет минимум функции (m), а (39) - максимум (М). Существуют условия определения экстремума одномерных функций. Необходимым условием существования экстремума функции одной переменной является равенство нулю либо отсутствие её первой производной. Это условие действительно является необходимым, но не достаточным. Возможны случаи, когда это условие выполняется, а тем не менее функция не имеет ни максимума, ни минимума. В подтверждение этого на рис. 9 приведены случаи, когда необходимые условия выполняются, однако экстремум отсутствует.

Рис. 9. Геометрическая интерпретация частных случаев

выполнения необходимых условий существования экстремума одномерной функции и его фактическое

отсутствие

На рис. 9, а,б производные функции в точках х=x0 равны нулю, а экстремума однако в этих точках не существует, поскольку это точки перегиба кривых, изображающих рассматриваемые функции. В точке

x x xx x x

R(x) R(x) R(x)

а) б) в)

49

х=x0 на рис. 9, в производная функции не существует, но экстремума здесь тоже нет.

Таким образом, необходимые условия существования экстремума функции используются для определения так называемых “подозрительных” или стационарных точек. Для того чтобы определить, существует ли в “подозрительной” точке экстремум и какой именно, т.е. максимум или минимум, необходимо воспользоваться одним из трех достаточных условий существования экстремума.

Достаточные условия существования экстремума функции для одной переменной следующие:

1. Если рассматриваемую точку окружить -окрестностью, такой, что

R(x+) < R(x0), a R(x-)<R(x0), (40) то в данной точке существует локальный максимум, как показано на рис. 10, а, а если

R(x) > R(x0), (41) то в рассматриваемой точке существует локальный минимум

(рис. 10, б).

Рис. 10. Первое достаточное условие существования экстремума одномерных функций

Когда проще вычислить первую производную, чем функцию, то

применяют второе достаточное условие существования экстремума. 2. Если при переходе стационарной точки первая производная

изменяет свой знак, то в данной точке существует экстремум. Здесь

а) б)

x0-

R(x0)

R(x)

x0 x0+

R(x0)

x0-

R(x0Е)

R(x)

x0 x0+

R(x0)

50

x x

R(x)

x0- x0 x0+

R(x)

x0 x0+ x0- а) б)

следует заметить, что если касательная проходит через первый и третий квадранты, то она положительная, а если через II и IV – отрицательная, как показано на рис. 11.

II I III IV

Рис. 11. Геометрическая интерпретация определения знака первой производной от рассматриваемой функции

Рис.12. Второе достаточное условие существования экстремума одномерных

функций Для определения типа экстремума используют следующее правило:

если при переходе через “подозрительную” на экстремум точку первая производная меняет свой знак с плюса на минус, то в рассматриваемой точке x=x0 существует локальный максимум, как показано на рис. 12, а, и

51

имеет минимум, если наблюдается обратное чередование знаков первой производной при переходе “стационарной” точки (рис. 12, б). Если проще вычислить более высокие частные производные то применяют третье достаточное условие.

3. Если вторая производная в “подозрительной” на экстремум точке x=x0 имеет знак плюс, то в рассматриваемой точке x=x0 существует локальный минимум (рис. 13, а), а если эта величина отрицательная, т.е. имеет знак минус, то – локальный максимум (рис.13, б). В обобщенном виде это правило формулируется следующим образом: если первая отличающаяся от нуля производная нечетная, т.е. первая, третья, пятая и т.д., то в рассматриваемой точке экстремума нет, а если эта производная четная, то в рассматриваемой точке максимум, если она отрицательная, и минимум при её положительном значении.

Рис. 13. Третье достаточное условие существования экстремума одномерной

функции

Для более прочного запоминания этого правила целесообразно привести следующий механический аналог: если на пути вертикального потока дождя встречается вогнутая поверхность, то в ней вода накапливается и её присутствие в емкости можно обозначить знаком плюс, а если при прочих равных условиях капли дождя попадают на выпуклую поверхность, то они с неё скатываются, не задерживаясь на поверхности.

Этот факт – отсутствие воды на поверхности емкости, ориентированной выпуклостью вверх, – можно условно обозначить знаком минус. На основе этой аналогии третье достаточное условие

R(x) R(x)

x0 x0 x x

а) б)

52

экстремальности одномерных функций получило название “правило дождя”.

4.3. Необходимые и достаточные условия существования

экстремумов многомерных функций

Необходимым условием существования экстремума многомерных функций является равенство нулю её частных производных, т.е.

;),....(

0 1

21

x

xxxR n ;0

),....(

2

21

x

xxxR n ...... .0

),....( 21

n

n

xxxxR (42)

Для того чтобы определить, существуют ли в стационарных точках экстремумы, используют матрицу Гесса – матрицу, составленную из вторых смешанных частных производных рассматриваемой функции, которая в общем виде записывается следующим образом:

23

2

2

2

1

2

2

2

22

2

12

21

2

21

2

21

2

2

2

)(

)(

)(

)(

)(

)(

)(

)(

)(

xxR

xxxR

xxxR

xxxR

xxR

xxxR

xxxR

xxxR

xxR

xR(x)

nn

n

n

n

при 0XX . (43)

Определяющими здесь служат главные миноры матрицы Гесса. Главным минором матрицы называется определитель, составленный из К первых строк. Допустим, матрица

2221

1211

bbbb

A , (44)

то главный минор первого порядка М1=b11, второго порядка

211222112221

12112 bbbb

bbbb

M . (45)

Если главные миноры матрицы Гесса имеют чередующиеся знаки

с минуса на плюс, то в рассматриваемой точке – локальный максимум, если главные миноры положительны, то в

53

рассматриваемой точке – минимум. Если знаки главных миноров чередуются с плюса на минус, то в

рассматриваемой точке располагается седло, как показано на рис. 14. Причем, по оси Х1 имеем минимум, а по оси Х2 – максимум. Если же чередование знаков главных миноров матрицы Гесса отличается от указанных, то в рассматриваемой точке нет экстремума.

Рис. 14. Геометрическая интерпретация седловой точки

4.4. Метод неопределенных множителей Лагранжа Пусть задана функция цели

.,,3,2,1 max(min),),....,,...,( 21 nixxxxR ni (46)

Необходимо определить экстремум функции цели (46) в рамках

следующих ограничений:

.),...,,...,,(. . . . . . . . . . . . . . . . . . .;),...,,...,,(. . . . . . . . . . . . . . . . . . .;),...,,...,,(;),...,,...,,(

21

21

2212

1211

mnim

inii

ni

ni

bxxxxg

bxxxxg

bxxxxgbxxxxg

(47)

54

Необходимо определить значения неизвестных xi, при которых целевая функция достигает экстремума. Подобная задача встречается в инженерной практике при распределении исходных ресурсов по производствам. Задача определения экстремума функции (46) при условии выполнения системы ограничений (47), заданных в виде равенств, называется задачей на условный экстремум.

Если через n обозначить число неизвестных системы (46) – (47), а через m – количество ограничений (47), то их разность n-т дает так называемую степень свободы решаемой задачи. Обычно в подобных случаях n > m и решение осуществляют в такой последовательности.

Первые m неизвестных выражают через n-т остальных неизвестных, иначе

),...,,( 21 nmmkk xxxfX . (48) Затем kX подставляют в целевую функцию (46) и определяют

величины неизвестных nmm xxx ,...,, 21 .

После чего оптимальное значение этих неизвестных подставляют в соотношение (47) и определяют остальные m неизвестных. Таким образом, задача решена.

В действительности на практике часто бывает невозможно выразить m первых неизвестных через остальные, т.е. получить соотношение (48). Потому задача на условный экстремум решается с использованием метода множителей Лагранжа, сущность которого сводится к следующему.

Пусть будет задана целевая функция max(min)),....,...( 21 ni xxxxR (49)

и следующие ограничения: .,...,3,2,1 ,),...,,...,,( 21 mjbxxxxg jnij (50)

Здесь используют следующий прием: задача на условный экстремум сводится к классической за счет суммирования всех ограничений, умноженных на соответствующие коэффициенты, с функцией цели, т.е.

max(min)),...(),....,,...,()( 2121 njjj

jni xxxqbxxxxRxL . (51)

Как видно из соотношения (51), функция цели от этой операции не изменяется, поскольку с ней суммируются нулевые члены, умноженные на соответствующие коэффициенты. Вновь вводимые коэффициенты называются множителями Лагранжа. Функция, приведенная в формуле (51), называется функцией Лагранжа.

55

Далее задача решается классическим методом, т.е. определяем первую производную от рассматриваемой функции по всем неизвестным и по всем множителям Лагранжа:

mjnixLxxL

ji

,...,2,1 ,,...,2,1 ,0

)( и 0

)(

. (52)

В результате решения системы уравнений (52) находим “подозрительные” на экстремум или “стационарные” точки. Число уравнений в системе (52) будет m+n неизвестных, из которых определяют неизвестные хi и не определяют множители Лагранжа, если в этом нет необходимости.

Вид экстремума определяется на основе достаточных условий. Множители Лагранжа показывают чувствительность функции цели к константам ограничений, т.е. j имеет выражение

jj b

xR

)( . (53)

В этом соотношении выражается интерпретация множителя Лагранжа. Исходя из этого, если j =0, это значит, что bj не оказывает существенного влияния на функцию цели. Чем больше j, тем больше j-я константа влияет на целевую функцию.

В практике решения задач методом неопределенных множителей Лагранжа принята такая последовательность:

1. Ограничения (50) приводятся к виду, имеющему 0 справа. 2. Составляется функция Лагранжа. При этом на каждое

ограничение вводится по множителю Лагранжа. 3. Берут частные производные по всем неизвестным и всем

множителям от функции Лагранжа, в результате чего получают m+n уравнений. Решая совместно m+n уравнений, определяют оптимальные величины неизвестных, после чего задача считается решенной.

Чаще всего этим методом решаются производственные задачи в рамках ограничений в виде равенств, также его используют при определении оптимальных геометрических размеров фигур.

56

4.5. Типовой расчет «Аналитические методы поиска экстремума»

4.5.1. Задание Используя исходные данные для заданного варианта,

помещенные в прил. 3, необходимо: 1. Определить экстремум следующей одномерной функции:

86427531

aaaa xaxaxaxaxR )( (B)

(величины констант 81 aa указаны в прил. 3, столбцы 2–9). Всего приведен 31 вариант заданий.

2. Определить экстремум следующей многомерной функции 224

2132211210 xbxbxbxbxxbxR )( (C)

(величины констант 40 bb указаны в прил. 3 столбцы 10 –14). 3. Из квадратного листа жести размером 5b (в метрах)

изготовить емкость максимального объема в виде бака прямоугольной формы без крышки. При этом b5=30+N+6, где N – порядковый номер студента в списке группы; – последняя цифра номера группы.

4.5.2. Образец выполнения работы

Текст задания записать в соответствии с подразд. 4.5.1 в отчет. Числовые значения по заданному варианту (см. прил. 3) свести в табл. 7. Рассмотрим выполнение настоящей работы по варианту 31 со следующими исходными данными.

По образцу функции (В) составляем одномерную функцию. Согласно заданию имеем

23 482 xxxR )( .

Таблица 7

Исходные данные №

вар. а 1 а2 а3 а4 а5 а6 а7 а8 b0 b1 b2 b3 b4 b5

31 2 3 -48 2 – – – – 2 4 -8 -3 -4 4

57

Определяем 0966 2 xxxR )(' , отсюда x(6x–96)=0, тогда x1=0 первая точка, "подозрительная" на экстремум. Исследуем -окрестность точки x1=0. Определяем характер экстремума по первому достаточному условию существования экстремума одномерных функций. Для этого окружаем точку 01 x -окрестностью, равной 1. Подставляем значения x1=0; x1=+1 и x1=–1 в целевую функцию (В), имеем

004802)0( 30 xR ;

50)1(48)1(2)1( 23 xR ; 4614812)1( 23 xR .

Поскольку величина функции в точке, "подозрительной" на экстремум ( 001 )(xR ), больше, чем в -окрестности ( 50)1( xR , а )46)1( xR , то в точке x1=0 существует локальный максимум. Проверяем характер экстремума в точке x1=0 по второму достаточному условию экстремальности одномерных функций. Берем =1 и

)(')(' 11 RxR ; )(')(' 11 RxR . Производим вычисления

102196161 2 )()()('R ; 90196161 2 )()()('R . Поскольку при переходе через "подозрительную" точку x1=0

первая производная изменяет знак с плюса на минус, то в рассматриваемой точке имеем максимум.

Проверим по "правилу дождя". Это третье достаточное условие существования экстремума одномерных функций. Для этого возьмем вторую производную от заданной функции 9612 xxR )(" . При x1=0 имеем 961 )(" xR . Поскольку производная четная и отрицательная, то в рассматриваемой точке существует локальный максимум, т.е. выводы всех трех проверок совпадают. Таким образом, в первой точке x1=0 существует максимум.

Определяем вторую точку, "подозрительную" на экстремум: 6x=96. Отсюда x2=16.

Исследуем по вышеизложенной методике теперь уже без дополнительных пояснений эту точку:

I. Выбираем единичную -окрестность. R(16–1)=4050; R(16)=4096; R(16+1)=4046. Поскольку в точке, "подозрительной" на экстремум (x2=16),

58

величина целевой функции (B) меньше, чем в (x2)=(161), то в точке x2=16 существует локальный минимум.

II. R'(15)=90; R'(17)=+102. Поскольку при переходе через точку x2=16 первая производная

меняет знак с на , то в точке x2=16 существует локальный минимум.

III. R''(x)=12x; R''(x2=16)=192. Поскольку вторая производная в рассматриваемой точке

имеет знак, то в точке x2=16 существует локальный минимум. Проверки по всем трем достаточным условиям для точки x2=16

совпали. Отчет о работе необходимо сопроводить примерным графиком рассматриваемой функции, как показано на рис. 15.

Составляем многомерную функцию на основе задания: 22

21212121 43842 xxxxxxxxR )( (C)

Определяем первые частные производные по переменным 1x и 2x и приравниваем их к нулю:

0642),(12

1

21

xxx

xxR ;

0882 212

21

xxx

xxR ),( .

Рис. 15. Геометрическая интерпретация экстремумов рассматриваемой функции в точках x1=0 и x2=16

Решаем систему. Вычитаем из первого уравнения второе

59

0426 21 xx0882 21 xx

4

0822 1 x

Отсюда 114

1 x , подставляем значение 1x во второе уравнение,

тогда имеем

0881142 2 x ;

1180

11888 2 x ;

1110

2 x .

Точка с координатами х1=4/11 и х2=10/11 “подозрительная” на

экстремум. Для уточнения вида экстремума воспользуемся достаточным условием существования экстремума многомерных функций.

С этой целью вычисляем вторые смешанные частные производные:

6),(21

212

x

xxR ; 2),(

21

212

xx

xxR ;

822

212

x

xxR ),( ; 212

212

xxxxR ),( .

На этой основе составляем матрицу Гесса по аналогии с матрицей (43)

8226

221

2

x

xxR ),( .

Вычисляем главные миноры матрица Гесса по формуле (45): 61 M ; 442 M . Поскольку главные миноры матрицы Гесса

меняют знак с минуса на плюс, то в рассматриваемых точках 114

1 x и

1110

2 x имеем локальный максимум.

Определение оптимальных размеров бака. Решение задачи начинаем с раскроя предложенного листа жести размером 44 м. (см. табл. 7, столбец 5b ) на предмет получения заготовки будущего бака прямоугольной формы без крышки, как показано на рис. 16. Целью решения задачи является получение максимального объема будущего бака.

60

Отсюда имеем следующую целевую функцию: max)( 321 xxxxR (D)

Достижение максимума функции (D) будет ограничено размерами предложенного листа жести (44м). Поэтому

;42 31 xx (E) ,42 32 xx (F)

где х1 и х2 – размеры основания; х3 – высота бака. При этом

,;; 0 0 0 321 xxx (G) поскольку это размеры будущего бака и если хотя бы один из них будет равен нулю, то и R(x) будет равна нулю, что недопустимо по условиям решения задачи.

Рис. 16. Схема раскроя заготовки с целью получения бака

По образцу функции Лагранжа составляем функцию как сумму критерия R(x) и ограничений, приведенных к виду с нулем справа и умноженных на множители Лагранжа j.

max)()()( 4242 322311321 xxxxxxxxL .(H)

Находим частные производные по неизвестным и множителям

X3

X1 4

м

4 м

X2

61

Лагранжа от функции Лагранжа и приравниваем их к нулю:

01321

xx

xxL )( ; 042 31

1

xxxL

)( ;

02312

xx

xxL )( ; 042 32

2

xxxL

)( .

022 12213

xx

xxL )( ;

Решаем полученную систему уравнений совместно: 042 31 xx 022 3131

21 xxxxx ;

042 32 xx 022 3311 )( xxxx ; 021 xx 04 31 xx .

21 xx ; 13 41 xx .

В результате имеем

321 4xxx или 4241

11 xx ; 451 1 x, ;

66221 , xx ; 6704662

3 ,,x .

Проверка: 42 31 xx ; 46702662 ,, . Искомый объем 3м76,467,066,266,2 V . Студенту предлагается найти наиболее разумное решение

рассматриваемой задачи, направленное на увеличение объема уже полученного бака за счет использования остатков жести, вырезанных по углам заготовки при раскрое (см. рис. 16).

Отчет о проделанной работе оформляется в произвольной форме с обязательным указанием исходных данных в соответствии с заданным вариантом, с изложением хода рассуждений и расчетов в соответствии с приведенным примером (без нумерации формул), четких выводов и их обоснованием.

Если сделан вывод о характере экстремума функций в рассматриваемой точке, то необходимо доказать правомерность этого вывода, подтверждая его расчетом и ссылкой на теорию. При этом отчёт не должен вызывать затруднений при чтении.

62

Вопросы для самоконтроля

1. Перечислить аналитические методы поиска экстремума. 2. Перечислить необходимые и достаточные условия

существования экстремума одномерных функций. 3. Как формулируются необходимые и достаточные условия

существования экстремума многомерных функций? 4. Указать структуру и записать функцию Лагранжа. 5. Дать методику решения задачи методом множителей Лагранжа.

63

Приложение 1 Исходные данные к типовому расчету “Безградиентные методы поиска

экстремума одномерных функций”

Параметры целевой функции № вар. a b c d

minx maxx

1 1 1 3 1 0 2 0,1 2 2 2 3 2 -1 2 0,2 3 3 3 6 4 0 5 0,2 4 4 5 9 6 0 8 0,3 5 5 7 11 8 0 10 0,5 6 6 9 5 10 -1 3 0,2 7 7 11 5 12 0 4 0,2 8 8 13 7 14 0 6 0,3 9 9 15 8 16 0 7 0,3 10 11 12 2 18 -1 1 0,1 11 12 1 3 1 0 2 0,1 12 13 2 3 2 -1 2 0,2 13 14 3 6 4 0 5 0,2 14 15 5 9 6 0 8 0,3 15 16 7 11 8 0 10 0,5 16 17 9 5 10 -1 3 0,2 17 18 11 5 12 0 4 0,2 18 19 13 7 14 0 6 0,3 19 20 15 8 16 0 7 0,3 20 21 12 2 18 -1 1 0,1 21 22 1 3 1 0 2 0,1 22 23 2 3 2 -1 2 0,2 23 24 3 6 4 0 5 0,2 24 25 5 9 6 0 8 0,3 25 26 7 11 8 0 10 0,5 26 27 9 5 10 -1 3 0,2 27 28 11 5 12 0 4 0,2 28 29 13 7 14 0 6 0,3 29 30 15 8 16 0 7 0,3 30 31 12 2 18 -1 1 0,1 31 10 8 4 19 0 2 0,1

64

Приложение 2 Исходные данные к типовому расчету “Градиентные методы поиска

экстремума”

№ вар. a b c 0

1x 02x

1 2,0 1,0 1,0 1,0 1,0 0,2 2 2,0 2,0 1,0 1,0 1,0 0,1 3 1,0 1,0 2,0 1,5 1,5 0,3 4 2,0 1,0 2,0 1,5 1,5 0,4 5 1,0 2,0 2,0 2,0 2,0 0,5 6 1,5 2,0 1,0 1,5 1,5 0,1 7 1,5 1,0 2,0 2,0 2,0 0,2 8 1,5 2,0 2,0 1,5 2,0 0,3 9 1,5 1,5 2,0 2,0 1,5 0,4 10 1,5 1,5 1,5 1,5 1,5 0,5 11 2,0 2,0 2,0 2,0 2,5 0,1 12 1,5 2,0 1,5 1,5 2,5 0,2 13 2,0 1,5 2,0 3,0 2,5 0,3 14 2,0 1,5 1,5 2,5 3,0 0,4 15 1,0 1,5 2,0 2,5 2,5 0,05 16 1,5 1,0 2,0 2,0 2,0 0,01 17 2,0 1,5 1,0 2,1 2,1 0,01 18 1,0 1,0 2,5 2,5 2,5 0,02 19 2,5 1,0 1,0 2,7 2,7 0,03 20 2,5 1,5 1,5 2,8 2,8 0,04 21 1,5 2,5 1,5 3,0 3,0 0,05 22 1,5 1,5 2,5 2,0 2,1 0,04 23 2,5 1,5 2,5 2,5 2,0 0,02 24 2,7 1,0 2,7 2,0 2,5 0,03 25 1,0 2,7 2,7 1,5 3,0 0,04 26 2,7 2,7 1,0 3,0 1,5 0,05 27 1,0 1,0 2,7 1,5 2,0 0,01 28 2,7 2,7 1,0 2,0 1,5 0,02 29 2,0 1,5 1,0 3,0 3,0 0,03 30 1,0 2,0 1,5 2,8 2,7 0,04 31 1,0 2,0 1,0 2,0 2,0 0,01

65

Приложение 3 Исходные данные к типовому расчету “Аналитические методы поиска

экстремума”

№ вар. 1a 2a 3a 4a 5a 6a 7a 8a 0b 1b 2b 3b 4b

1 10 2 1 -1 - - - - 4 7 10 6 12 2 20 3 2 2 -64 1 - - 6 -8 11 -6 12 3 30 3 3 3 -62 2 -67 1 8 9 12 6 12 4 40 4 4 4 -48 3 -51 2 10 -10 13 -6 12 5 40 2 5 1 - - - - 12 -7 14 6 12 6 10 3 6 2 -46 1 - - 14 8 15 -6 -12 7 20 3 7 3 -44 2 -47 1 16 -9 16 6 -12 8 30 4 8 4 -42 3 -41 2 18 10 17 -6 -12 9 30 2 9 1 - - - - 20 7 18 6 -12 10 40 3 10 2 -40 1 - - 22 8 19 -6 -12 11 10 3 11 3 -36 2 -37 1 24 9 20 6 -12 12 20 4 12 4 -34 3 -31 2 26 10 21 -6 -12 13 5 2 13 1 - - - - 28 -7 22 6 -12 14 6 3 14 2 -32 1 - - 30 -8 23 -6 12 15 7 3 15 3 -30 2 -27 1 32 -9 24 6 12 16 8 4 16 4 -28 3 -21 2 36 -10 -10 -6 12 17 9 2 17 1 - - - - 38 -7 -11 6 12 18 4 3 18 2 -26 1 - - 40 8 -12 -6 14 19 3 3 19 3 -24 2 -17 1 42 -9 -12 6 14 20 12 4 20 4 -22 3 -11 2 44 10 -14 -6 14 21 11 2 21 1 - - - - 46 7 -15 6 14 22 13 3 22 2 -20 1 - - 48 -8 -16 -6 -14 23 14 3 23 3 -18 2 7 1 50 9 -17 6 -14 24 15 4 24 4 -16 3 1 2 52 -10 -18 -6 -14 25 16 2 25 1 - - - - 54 -7 -19 6 -14 26 17 3 26 2 -14 1 - - 56 -8 -20 -6 -14 27 18 3 27 3 -12 2 67 1 58 9 -21 6 -14 28 19 4 28 4 -10 3 61 2 60 10 -22 -6 5 29 21 3 29 2 8 1 - - 62 7 -23 6 -7 30 10 2 30 1 - - - - 64 -8 -24 -6 9 31 2 3 -48 2 - - - - 2 4 -8 -3 -4

66

Библиографический список

1. Автоматизированные информационные технологии в экономике: Учебник

для вузов Под ред. Г.А. Титоренко. – М.: Компьютер, ЮНИТИ, 1999.

2. Алтунин А.Е., Семухин М.В. Модели и алгоритмы принятия решений в

нечетких условиях. – Тюмень: Изд-во ТюмГУ, 2000.

3. Гончаров Е.Н., Кочетков Ю.А. Вероятностный поиск с запретами для

дискретных задач безусловной оптимизации // Дискретный анализ и

исследование операций. – 2002. – Серия 2. – Т.9. –№2.

4. Демьянов В.Ф., Васильев Л.В. Недифференцируемая оптимизация. – М.:

Наука, 1981.

5. Jzhutkin V.S., Sushenzov A.A., Study of Methods of Nonlinear Optimization

Using Computer Means // Operation research proceeding (OR 2000), 2001.

6. Попков В.К. Математические модели связности: В 3ч. – Новосибирск,

2000–2002.

67

ОГЛАВЛЕНИЕ ВВЕДЕНИЕ _______________________________________________________3 Глава 1. МАТЕМАТИЧЕСКОЕ ПРОГРАММИРОВАНИЕ_______________ 5

1.1. ПОСТАНОВКА ЗАДАЧИ МАТЕМАТИЧЕСКОГО ПРОГРАММИРОВАНИЯ ________________ 5 1.2. СОСТАВ ЗАДАЧ МАТЕМАТИЧЕСКОГО ПРОГРАММИРОВАНИЯ _____________________ 7 1.3. ВЫПУКЛЫЕ И НЕВЫПУКЛЫЕ МНОЖЕСТВА И ВЫПУКЛЫЕ ФУНКЦИИ________________ 9 1.4. ЛИНЕЙНОЕ И НЕЛИНЕЙНОЕ ПРОГРАММИРОВАНИЕ ____________________________ 10 ВОПРОСЫ ДЛЯ САМОКОНТРОЛЯ ______________________________________________ 13

Глава 2. БЕЗГРАДИЕНТНЫЕ МЕТОДЫ ПОИСКА ЭКСТРЕМУМА ____ 14 2.1. МЕТОДЫ ПОИСКА ЭКСТРЕМУМА ОДНОМЕРНЫХ ФУНКЦИЙ _____________________ 15

2.1.1. Метод сканирования_______________________________________________ 15 2.1.2. Метод локализации экстремума _____________________________________ 16 2.1.3. Метод золотого сечения____________________________________________ 17 2.1.4. Метод с использованием чисел Фибоначчи____________________________ 20

2.2 БЕЗГРАДИЕНТНЫЕ МЕТОДЫ ПОИСКА ЭКСТРЕМУМА МНОГОМЕРНЫХ ФУНКЦИЙ ______ 22 2.3. ТИПОВОЙ РАСЧЕТ "БЕЗГРАДИЕНТНЫЕ МЕТОДЫ ПОИСКА ЭКСТРЕМУМА ОДНОМЕРНЫХ ФУНКЦИЙ" ______________________________________________________________ 23

2.3.1. Задание__________________________________________________________ 23 2.3.2. Образец выполнения работы ________________________________________ 24

ВОПРОСЫ ДЛЯ САМОКОНТРОЛЯ ______________________________________________ 29 Глава 3. ГРАДИЕНТНЫЕ МЕТОДЫ ПОИСКА ЭКСТРЕМУМА _______ 31

3.1. ПОНЯТИЕ ГРАДИЕНТА __________________________________________________ 31 3.2. МЕТОД ГРАДИЕНТА ____________________________________________________ 32 3.3. МЕТОД РЕЛАКСАЦИЙ___________________________________________________ 32 3.4. МЕТОД КРУТОГО ВОСХОЖДЕНИЯ _________________________________________ 34 3.5. ТИПОВОЙ РАСЧЕТ «ГРАДИЕНТНЫЕ МЕТОДЫ ПОИСКА ЭКСТРЕМУМА» _____________ 35

3.5.1.Задание __________________________________________________________ 35 3.5.2.Образец выполнения работы ________________________________________ 35

ВОПРОСЫ ДЛЯ САМОКОНТРОЛЯ ______________________________________________ 46 Глава 4. АНАЛИТИЧЕСКИЕ МЕТОДЫ ПОИСКА ЭКСТРЕМУМА_____ 47

4.1. СОСТАВ АНАЛИТИЧЕСКИХ МЕТОДОВ ______________________________________ 47 4.2. НЕОБХОДИМЫЕ И ДОСТАТОЧНЫЕ УСЛОВИЯ СУЩЕСТВОВАНИЯ ЭКСТРЕМУМОВ ОДНОМЕРНЫХ ФУНКЦИЙ ___________________________________________________ 47 4.3. НЕОБХОДИМЫЕ И ДОСТАТОЧНЫЕ УСЛОВИЯ СУЩЕСТВОВАНИЯ ЭКСТРЕМУМОВ МНОГОМЕРНЫХ ФУНКЦИЙ __________________________________________________ 52 4.4. МЕТОД НЕОПРЕДЕЛЕННЫХ МНОЖИТЕЛЕЙ ЛАГРАНЖА _________________________ 53 4.5. ТИПОВОЙ РАСЧЕТ «АНАЛИТИЧЕСКИЕ МЕТОДЫ ПОИСКА ЭКСТРЕМУМА»___________ 56

4.5.1. Задание__________________________________________________________ 56 4.5.2. Образец выполнения работы ________________________________________ 56

ВОПРОСЫ ДЛЯ САМОКОНТРОЛЯ ______________________________________________ 62 ПРИЛОЖЕНИЕ 1 __________________________________________________________ 63 ПРИЛОЖЕНИЕ 2 __________________________________________________________ 64 ПРИЛОЖЕНИЕ 3 __________________________________________________________ 65

Библиографический список__________________________________________66

68

Учебное издание

Леонид Алексеевич Усольцев

ПРИКЛАДНАЯ МАТЕМАТИКА

Учебное пособие

Редактор И.Г.Кузнецова

Подписано к печати Формат 60х90 1/ 16. Бумага писчая.

Оперативный способ печати Гарнитура Times New Roman

Усл. п. л. , уч. -изд. л. Тираж 150 экз. Заказ №

Цена договорная

Издательство СибАДИ 644099, Омск, ул. П.Некрасова, 10

Отпечатано в ПЦ издательства СибАДИ

644099, Омск, ул. П.Некрасова,10