Быстрота сходимости процесса Ньютона

Если выполнимы все четыре условия теоремы 1, то для последовательных приближений , справедливо неравенство:

где - искомое решение, а

При сходимость метода - сверхбыстрая.

Единственность решения

Если выполнимы все четыре условия, в области

то содержится единственное решение системы

Выбор начального условия

Если выполнимы все четыре условия и , то процесс сходится к единственному решению в основной области при любом выборе начального условия из области

Модифицированный метод Ньютона

При использовании метода Ньютона наиболее трудоёмким является процесс вычисления обратной матрицы Якоби.

Если матрица невырождённая для некоторого приближения , и достаточно близко к (искомому решению), то можно использовать модифицированный метод Ньютона.

Метод итераций

Дана система нелинейных уравнений:

или

(1)

Допустим, что систему 1 можно привести к виду:

(2)

Введём обозначения:

, ,

Можно систему уравнений 2 переписать в виде:

Приведённое матричное уравнение и есть формула метода итераций

Необходимое и достаточное условие сходимости процесса итерации

Пусть функции и непрерывны в области , причём в области выполнимо неравенство:

где - некоторая константа.

Если последовательные приближения

,

не выходят из области , то этот процесс сходится к единственному решению системы.

Следствие:

оценка пиближённо

На практике лучше всего рассматривать матрицу с элементами

Для сходимости должно выполнятся условие

1)

2)

3)

Метод скорейшего спуска (градиентный метод)

Дана система линейных уравнений:

(1)

В матричном виде

Считаем, что действительны и непрерывно дифференцируемы в их общей области определения.

Рассмотрим функцию

(2)

Очевидно, что если мы найдём решение системы уравнений 1 , то это решение является и решением системы уравнений 2 и наоборот.

Предполагаем, что система 1 имеет лишь одно изолированное решение, представляющего собой точку строго минимум функции . Таким образом задача сводится к нахождению минимум функции в -мерном пространстве.

Берём точку - нулевое приближение. Через точку проходит поверхность уровня и . Если близка , то поверхность = будет похожа на элипсоид.

Из точки движемся по нормали к поверхности до тех пор, пока эта нормаль не коснётся другой поверхности:

И так далее.

Так как , то двигаясь таким образом, мы быстро приближаемся к точке с минимальным значением , которая соответствует некоему корню .

Градиент функции U

- набла или grad - есть вектор приложенный к точке , имеющий направление нормали. Из векторных произведений

, (3)

Как определить ? Для этого рассматривают скалярную функцию :

Уравнение 3 можно преобразовать так, чтобы не было явного выражения градиента. Введем обозначения , тогда итерационная формула градиентного метода будет иметь вид:

,

где

Вычисления производятся до тех пор, пока не станет справедливым следующее неравенство:

e,

где e - заданная точность вычисления.

Пример. Дана система нелинейных уравнений:

Найти решение системы градиентным методом с точностью e=0,01

Определим начальное приближение как:

Вектор-функция имеет вид:

Якобиан, или матрица частных производных имеет вид:

1 итерация

2 итерация

Решение системы нелинейных уравнений представлено в таблице:

K	x	½Dx½	y	½Dy½	z	½Dz½
	0.000	0,100	0.000	0,200	0.000	0,300
	0.100	0,030	-0.200	0,250	0.300	0,250
	0,130	0,095	0,050	0,251	0,050	0,209
	0,035	0,018	-0,201	0,016	0,259	0,013
	0,017	0,003	-0,185	0,007	0,246	0,001
	0,014		-0,178		0,245

Таким образом, решение системы уравнений имеет вид: