Метод регуляризации А.Н.Тихонова

Основы общей теории.

Метод регуляризации А.Н.Тихоновавключает в себя большую группу схем решения задачи (1), отличительной особенностью которых является использование стабилизирующего функционала.

Наличие погрешности Метод регуляризации А.Н.Тихонова - student2.ru в наблюдаемой Метод регуляризации А.Н.Тихонова - student2.ru делает естественным выбор искомого решения х среди элементов, удовлетворяющих неравенству:

Метод регуляризации А.Н.Тихонова - student2.ru . (4.15)

Для устойчивого выделения единственного элемента из допустимых, с точки зрения (15), следует ввести принцип отбора. В качестве такого можно принять требование минимума заданного функционала Метод регуляризации А.Н.Тихонова - student2.ru . Задача нахождения приближенного решения (1) оказывается, таким образом, следующей:

Метод регуляризации А.Н.Тихонова - student2.ru (4.16)

Если оператор А, функционал Метод регуляризации А.Н.Тихонова - student2.ru таковы, что приемлем принцип Лагранжа, то из (16) получаем:

Метод регуляризации А.Н.Тихонова - student2.ru , (4.17)

где Метод регуляризации А.Н.Тихонова - student2.ru – параметр, который надо выбрать, например, из требования того, чтобы для найденной экстремали Метод регуляризации А.Н.Тихонова - student2.ru для (17) выполнялось неравенство:

Метод регуляризации А.Н.Тихонова - student2.ru .

Функционал Метод регуляризации А.Н.Тихонова - student2.ru называют стабилизирующим, поскольку его назначение - обеспечить устойчивость нахождения решения задачи Метод регуляризации А.Н.Тихонова - student2.ru .

Если, например, в качестве оператора А выступает интеграл Пуассона (задача редукции с ядром 1 из (3)), то принципом отбора решений из класса допустимых может служить требование наибольшей гладкости решения.

В содержательной записи (15) , если Метод регуляризации А.Н.Тихонова - student2.ru , для этого случая примет вид:

Метод регуляризации А.Н.Тихонова - student2.ru (4.18)

Неравенству (18) удовлетворяют как гладкие, так и резко осциллирующие функции Метод регуляризации А.Н.Тихонова - student2.ru . Отбор среди них более гладких можно формализовать критерием:

Метод регуляризации А.Н.Тихонова - student2.ru ,

Что и служит примером для (16).

Постановка (17) как способ регуляризации может быть получена и с других позиций. Предположим, что множество М, среди элементов которого ищется приближенное решение задачи

Метод регуляризации А.Н.Тихонова - student2.ru (4.19)

описано так:

Метод регуляризации А.Н.Тихонова - student2.ru

Даже в том случае, если правая часть в (19) известна точно, в силу того, что решение (19) множеству М не принадлежит, решение задачи Метод регуляризации А.Н.Тихонова - student2.ru ; Метод регуляризации А.Н.Тихонова - student2.ru , вообще говоря, не существует. Поэтому переформулируем ее так:

Метод регуляризации А.Н.Тихонова - student2.ru (4.20)

Если оператор А и функционал Метод регуляризации А.Н.Тихонова - student2.ru таковы, что к (20) приемлемо правило Лагранжа, то от (20) переходим к (17) с некоторым Метод регуляризации А.Н.Тихонова - student2.ru .

Таким образом, к задаче (17) приводит как требование минимизации стабилизирующего функционала при заданном уровне невязки, так и минимизации невязки при заданном уровне значения стабилизирующего функционала Метод регуляризации А.Н.Тихонова - student2.ru , определяющего множество (например, компактное), на котором ищется решение (19).

В приведенных рассуждениях ничего не меняется, если вместо точного оператора А задано его приближение Метод регуляризации А.Н.Тихонова - student2.ru .

Обозначим Метод регуляризации А.Н.Тихонова - student2.ru - оператор из Метод регуляризации А.Н.Тихонова - student2.ru , который доставляет решение задаче (17) Метод регуляризации А.Н.Тихонова - student2.ru . Метод регуляризации А.Н.Тихонова состоит в таком выборе функционала Метод регуляризации А.Н.Тихонова - student2.ru и правила нахождения Метод регуляризации А.Н.Тихонова - student2.ru , в зависимости от Метод регуляризации А.Н.Тихонова - student2.ru , чтобы Метод регуляризации А.Н.Тихонова - student2.ru было регуляризирующим семейством операторов для (19). Способов такого выбора много. Приведем некоторые, наиболее характерные из них.

Пусть, как и ранее, точечные данные задачи (19) - Метод регуляризации А.Н.Тихонова - student2.ru приближенные Метод регуляризации А.Н.Тихонова - student2.ru ; L- линейный оператор, действующий из банахова пространства Х в банахово пространство V, и для некоторого Метод регуляризации А.Н.Тихонова - student2.ru и всех Метод регуляризации А.Н.Тихонова - student2.ru , выполнено неравенство:

Метод регуляризации А.Н.Тихонова - student2.ru . (4.21)

В качестве метода регуляризации рассмотрим оператор Метод регуляризации А.Н.Тихонова - student2.ru , доставляющий данным Метод регуляризации А.Н.Тихонова - student2.ru решение задачи:

Метод регуляризации А.Н.Тихонова - student2.ru (4.22)

где p, q- целые положительные числа и Метод регуляризации А.Н.Тихонова - student2.ru .

Следующий результат характеризует алгоритм (22) как регуляризующий.

Если А, Метод регуляризации А.Н.Тихонова - student2.ru ,L- линейные, замкнутые операторы; Х,Y - рефлексивные пространства; V -равномерно выпукло, выполнено условие (21) для оператора L, и (Аhδ) - приближенные данные, то (22) разрешимо единственным образом, а последовательность решений этой задачи- экстремальных Метод регуляризации А.Н.Тихонова - student2.ru - сходится к решению задачи Метод регуляризации А.Н.Тихонова - student2.ru с точными данными (А, Метод регуляризации А.Н.Тихонова - student2.ru предполагаются взаимно-однозначными) по норме Метод регуляризации А.Н.Тихонова - student2.ru при связи α с ∆ такой, что:

Метод регуляризации А.Н.Тихонова - student2.ru . (4.23)

Таким образом, алгоритм (22) определяет семейство регуляризующих операторов для задачи Метод регуляризации А.Н.Тихонова - student2.ru при выборе Метод регуляризации А.Н.Тихонова - student2.ru по правилу, обеспечивающему выполнение требование (23).

Требования, наложенные на оператор, L будут, например, выполнены, если L=I и Х=L2 либо Метод регуляризации А.Н.Тихонова - student2.ru . Смысл этих требований состоит в том, что оператор L, действующий из Х в V, должен иметь ограниченный обратный из V в Х. Однако оказывается, что алгоритм (22) является регуляризирующим и тогда, когда требование (21) не выполнено, но множество:

Метод регуляризации А.Н.Тихонова - student2.ru

компактно в Х.

Действительно, обращаясь к постановке (20), приходим к необходимости решить задачу:

Метод регуляризации А.Н.Тихонова - student2.ru (4.24)

где М - выпуклый компакт. Если А - линеен, взаимно-непрерывен, Y - равномерно выпукло (можно ослабить требования на Y), то задача (24) эквивалентна обращению оператора Метод регуляризации А.Н.Тихонова - student2.ru на образе компактного множества М при отображении Метод регуляризации А.Н.Тихонова - student2.ru . Но, по теореме о гомеоморфизме (прил.2), Аh-1 , будет непрерывным на Аh(М). Точнее, справедлив такой результат.

Пусть, как и ранее Метод регуляризации А.Н.Тихонова - student2.ru и Метод регуляризации А.Н.Тихонова - student2.ru - соответственно, точные и приближенные данные задачи (1). А, Метод регуляризации А.Н.Тихонова - student2.ru - линейные замкнутые операторы, имеющие обратные (т.е. взаимно-однозначные), Х - банахово пространство, Y и V – рефлексивны. Если линейный, взаимно-однозначный оператор L таков, что для любого Метод регуляризации А.Н.Тихонова - student2.ru множество Метод регуляризации А.Н.Тихонова - student2.ru компактно, то задача (22) разрешима единственным образом, и последовательность ее решений Метод регуляризации А.Н.Тихонова - student2.ru сходится к точному решению (1) по норме пространства Х при связи Метод регуляризации А.Н.Тихонова - student2.ru такой, что

Метод регуляризации А.Н.Тихонова - student2.ru . (4.25)

Условия (23) и (25) обеспечивают регуляризующие свойства алгоритма Метод регуляризации А.Н.Тихонова - student2.ru , определенного как решение (22), но еще не позволяют однозначно выбрать величину параметра регуляризации. Один из результатов, позволяющих это сделать, состоит в следующем.

Если все рассматриваемые пространства гильбертовы и Метод регуляризации А.Н.Тихонова - student2.ru в (22) линеен, взаимно-однозначен и вполне непрерывен, то при выборе Метод регуляризации А.Н.Тихонова - student2.ru в (22) из условия

Метод регуляризации А.Н.Тихонова - student2.ru , (4.26)

алгоритм Метод регуляризации А.Н.Тихонова - student2.ru (22) является оптимальным по порядку на множестве

Метод регуляризации А.Н.Тихонова - student2.ru .

Условия оптимальности существенно снижают произвол в выборе параметра регуляризации. Однако доказывать эти свойства можно лишь в относительно простых ситуациях. Выделение оптимальных (по точности) и оптимальных по порядку алгоритмов требует априорного формирования множества М, на котором выделяемый алгоритм является оптимальным. Однако конструкция этого множества в большинстве случаев такова (случаи, когда что-то удается доказать), что его введение в большей мере имеет формально-математический характер. Отсюда снижается и ценность самих принципов оптимальности, поскольку они гарантируют оптимальность на формально введенных множествах. Таким образом, оптимальность формальная, доказываемая, не является таковой по существу задачи. Поэтому требования оптимальности при конструкции способов выбора параметра регуляризации отходят на второй план, а на первый выступают физически содержательные принципы его работы. Простейший из них состоит в том, чтобы было выполнено равенство:

Метод регуляризации А.Н.Тихонова - student2.ru , (4.27)

где Метод регуляризации А.Н.Тихонова - student2.ru - решение задачи (22). По мере увеличения параметра регуляризации погрешность, получаемая по контролируемой (27) невязке, возрастает, но одновременно возрастает и требование регулярности, заложенное в стабилизирующем функционале. Необходимо добиться компромисса. Надо выделить наиболее устойчивое решение не выходящее за пределы допустимой невязки. Выбор α из этого условия называется принципом невязки. Алгоритмическое дело сводится к перебору значений параметра α от больших значений к меньшим на некотором множестве и выбору такого Метод регуляризации А.Н.Тихонова - student2.ru , когда впервые выполняется неравенство:

Метод регуляризации А.Н.Тихонова - student2.ru . (3.28)

Однако здесь не учитывается погрешность в задании самого оператора. Эта погрешность вводит свою дополнительную часть в суммарную невязку и эту часть также надо учитывать. В том случае, когда оператор А известен с ошибкой, т.е. задан Метод регуляризации А.Н.Тихонова - student2.ru , следует вместо (28) пользоваться правилом обобщенной невязки:

Метод регуляризации А.Н.Тихонова - student2.ru

Метод регуляризации А.Н.Тихонова - student2.ru ,

алгоритмически дело опять сводится к методу невязки, роль которой в данном случае играет не Метод регуляризации А.Н.Тихонова - student2.ru , а обобщенная невязка Метод регуляризации А.Н.Тихонова - student2.ru . Алгоритмически вопрос выбора оптимального параметра регуляризации решается перебором величины Метод регуляризации А.Н.Тихонова - student2.ru и получением соответствующих регуляризованных приближений от больших значений Метод регуляризации А.Н.Тихонова - student2.ru к меньшим и остановки тогда, когда впервые будет выполнено неравенство

Метод регуляризации А.Н.Тихонова - student2.ru (4.29)

Это значение принимается за оптимальное. В описанных алгоритмах для того, чтобы выбрать параметр регуляризации, требуется знать уровень погрешностей Метод регуляризации А.Н.Тихонова - student2.ru . Если эти погрешности неизвестны, то можно воспользоваться следующим приемом, основанном на рассмотрении “динамики” изменения решения в зависимости от параметра регуляризации.

Если Метод регуляризации А.Н.Тихонова - student2.ru есть решение задачи (22) при произвольном Метод регуляризации А.Н.Тихонова - student2.ru , то зависимость величины параметра регуляризации от погрешности можно считать такой, что при отсутствии погрешностей Метод регуляризации А.Н.Тихонова - student2.ru . Тогда точное решение есть Метод регуляризации А.Н.Тихонова - student2.ru . Разложим Метод регуляризации А.Н.Тихонова - student2.ru в окрестности Метод регуляризации А.Н.Тихонова - student2.ru по степеням Метод регуляризации А.Н.Тихонова - student2.ru

Метод регуляризации А.Н.Тихонова - student2.ru

Тогда Метод регуляризации А.Н.Тихонова - student2.ru характеризует линейную часть отличия точного решения от приближенного Метод регуляризации А.Н.Тихонова - student2.ru . Требуя, чтобы это отличие было минимальным, приходим к правилу выбора α:

Метод регуляризации А.Н.Тихонова - student2.ru . (4.30)

Это правило называется квазиоптимальным способом выбора параметра регуляризации.

Приведенные способы выбора параметра регуляризации являются, если так можно выразиться, эталонными. В каждой конкретной задаче их придется модифицировать, приспосабливать к условиям задачи. В некоторых случаях и параметр регуляризации и вид стабилизирующего функционала могут быть найдены из данных самой задачи. Типичный тому пример - Винеровская фильтрация.

Наши рекомендации