Методы решения нелинейных задач МП. Содержательное истолкование градиентных методов

Методы нелинейного программирования могут быть охарактеризованы как многошаговые методы или методы последующего улучшения исходного решения. Нельзя сказать, какое число шагов гарантирует нахождение оптимального значения с заданной степенью точности. Выбор величины шага представляет серьезную проблему, от успешного решения которой во многом зависит эффективность применения того или иного метода. Разнообразие методов решения задач нелинейного программирования объясняется стремлением найти оптимальное решение за наименьшее число шагов.

Большинство методов нелинейного программирования используют идею движения в n-мерном пространстве в направлении оптимума. При этом из некоторого исходного или промежуточного состояния U^k осуществляется переход в следующее состояние U^k+1 изменением вектора U^kна величину DU^k, называемую шагом , т.е. U^k+1=U^k+DU^k

Шаг ,т.е. его величина и направление определяется как некоторая функция состояния U^k: DU^k=f(U^k)

Функция исходного состояния U^k: U^k+1=U^k+f(U^k)

DU^K=f(U^k) ,U^k-1...,U^k-2 U^k+1=U^k+f(U^k),U^k-1...,U^k-2

Выбор метода определяется сложностью объекта и решаемой задачей оптимизации.

Градиентные методы, в основе которых лежит свойство градиента функции в точке (вектора частных производных, вычисленного в точке) как указателя направления наибольшего роста функции в окрестности точки. В основу градиентных методов поиска оптимума положены вычисления и анализ производных целевой функции R(U). Если аналитический вид R(U) известен, то вычисление производных dR/dU_j чаще всего не составляет особого труда. В противном случае единственным способом определения производных являютсячисленные методы.

где DU_j -величина приращения независимой переменной U_j. Точность приближения зависит от величины приращения DU_j.

Процесс поискаоптимума в методе градиента также осуществляется в два этапа. На первом находятся значения частных производных по всем независимым переменным, которое и определяет направление градиента в рассматриваемой точке. На втором этапе осуществляется шаг в направлении, обратном направлению градиента, т.е. в направлении наискорейшего убывания целевой функции. Алгоритм градиентного поиска:

Применяется нормализованный вектор градиента, указывающий лишь направление наискорейшего изменения целевой функции, но он не указывает скорости изменения по этому направлению. При этом шаг поиска определяется величиной h^k, стратегию изменения кот м\о строить независимо от абс. вел-ны градиента.

Недостатком градиентного методаявляется то, что при его использовании можно обнаружить только локальный минимум. Для того, чтобы найти у функции другие локальные минимумы, необходимо проводить поиск из других начальных точек. Таким образом, с помощью метода градиента каждый локальный минимум целевой функции можно охарактеризовать некоторой областью "притяжения", обладающей тем свойством, что при задании начального состояния U⁰ в границах этой области метод градиента всегда приводит в один и тот же локальный минимум.

Содержание общей проблемы оценки надежности решений задач МП. Понятие областей устойчивости.