4. Понятие нормальной СЛАУ. Обоснование метода невязки
Пусть рассматривается система уравнений Ax=b, тогда u=b-Ax - невязка.
(Комментарий. 1. Нелинейный оператор F:X→Y непрерывен в точке x∈X, если 
вполне непрерывен, если он непрерывен ∀x∈Ω⊂X и ограниченные множества отображает в предкомпактные. В отличие от линейного случая непрерывность в точке не гарантирует непрерывности во всём пространстве и не связана с ограниченностью.
Нелинейный оператор F:X→Y дифференцируем по Фреше в точке x∈X, если существует линейный ограниченный оператор F'X:X→Y (производная Фреше в точке или сильная производная), такой, что F(x+h)-F(x)=F'X*h+v(x,h) причём 
Линейная часть приращения F'X*h - дифференциал Фреше.
Производная Фреше нелинейного оператора F:X→Y - это оператор F'X:→Y:X→Y, действующий как функция от х. В частном случае нелинейного функционала φ:X→R совокупность всех таких функционалов, определённых на X, образует сопряжённое пространство E*, поэтому производная Фреше φ'(x) функционала φ:X→R - это вектор из E*: φ(x+Δx)-φ(x)=(φ'(x),Δx)+0(||Δx||). Его называют градиентом Фреше: ∇φ(x)=gradφ(x).
Дифференциал Гато (слабый дифференциал) - это предел по норме 
Если этот предел линеен по h, то есть δF(x,h)=F'X*h, то оператор F'X называется производной Гато в точке x.
Производная Фреше в точке совпадает с производной Гато в точке x. Производная Гато в точке совпадает с производной Фреше в точке x, если производная Гато непрерывна по в этой точке.
2. Дифференцируемость всегда сводится к возможности линейной аппроксимации F(x+h)-F(x)=F'X*Δx+o(||Δx||). В одномерном случае F'X - обычная производная, в случае n переменных F'X - градиент, а F'Xdx - скалярное произведение, для оператора F(x)={F1(x),...,Fn(x)} F'X - матрица Якоби 
а F'X*Δx есть умножение матрицы на вектор. Скалярное произведение можно представить как функционал (функцию n переменных в конечномерном случае) и тогда дифференциал от неё dF=F'Xdx - тоже скалярное произведение. Например, в случае двумерного пространства 
Тогда полный дифференциал 
После несложных преобразований получим dφ(x)=((A+A*)x,dx). Дифференциал Фреше можно найти и сразу, как дифференциал от скалярного произведения: d(x,Ax)=(dx,AX)+(x,Adx)=(Ax,dx)+(A*x,dx)=((A+A*)x,dx).)
Введем понятие нормальной системы. Пусть f=||u||2=(b-Ax,b-Ax). Тогда, приравнивая дифференциал Фреше к нулю, получим df=2(-Adx,b-Ax)=-2(Adx,b-Ax)=-2(dx,A*b-A*Ax)=0. Тогда исходная система равносильна системе уравнений A*Ax=A*b.
Определение. Система уравнений A*Ax=A*b называется нормальной, а переход от заданного СЛАУ Ax=b к равносильной системе уравнений A*Ax=A*b называется нормализацией СЛАУ.
Очевидно, что нормальная СЛАУ минимизирует невязку, так как d2f=d(-2(dx,A*b-A*Ax))=(dx,A*Adx)=(Adx,Adx)=||Adx||2>0.
Таким образом, минимум невязки реализуется на решении нормального уравнения, метод наименьших квадратов просто один из вариантов метода невязки. Любое решение, минимизирующее невязку, называется псевдорешением. Если же оно получено нормализацией СЛАУ, оно называется нормальным псевдорешением.
|
ПОИСК:
|
При копировании материалов проекта обязательно ставить ссылку на страницу источник:
http://mathemlib.ru/ 'Математическая библиотека'