2. Вычисление норм невырожденных матриц

Рассмотрим для простоты преобразование двумерного пространства X в двумерное пространство Y оператором A, причём матрица линейного оператора A невырожденна и имеет вид

1. Рассмотрим преобразование R²₂→ R²₂, где точки M₁(x₁,x₂), M₂(x'₁,x'₂)∈ X, а точки N₁(y₁,y₂), N₂(y'₁,y'₂)∈Y. Тогда y₁=a₁₁x₁+a₁₂x₂, а y₂=a₂₁x₁+a₂₂x₂. Обозначим Δx₁+x₁-x'₁, Δx₂=x₂-x'₂. Тогда ρ²(N₁,N₂)=(a₁₁Δx₁+a₁₂ΔxΔ₂)²+(a₂₁Δx₁+a₂₂Δx₂)². Запишем это как скалярное произведение и воспользуемся неравенством Буняковского Коши. Тогда ρ(N₁,N₂)≤(a₁₁²+a₁₂²+a₂₁²+a₂₂²)^1/2ρ(M₁M₂), то есть а норма называется эвклидовой.

2. Рассмотрим преобразование R₁²→ R²₁.

ρ(N₁,N₁)=|y₁-y'₁|+|y₂-y'₂|=|Δy₁|+|Δy₂|=|a₁₁Δx₁+a₁₂Δx₂|+|a₂₁Δx₁+a₂₂Δx₂|≤(|a₁₁|+|a₂₁|)|Δx₁|+(|a₁₂|+|a₂₂|)|Δx₂|≤max{|a₁₁|+|a₂₁|,|a₁₂|+|a₂₂|}ρ(M₁,M₂), ||A||₁=max{|a₁₁|+|a₂₁|,|a₁₂|+|a₂₂|}. Такая норма называется столбиковой.

3. Рассмотрим преобразование R_∞²→ R²_∞.

Тогда ||A||_∞=max{|a₁₁|+|a₁₂|,|a₂₁|+|a₂₂|}.

Такая норма называется строчной.

Таким образом, нормы матриц согласованы (аффелированы) с нормами векторов в соответствующих пространствах. С конечномерным эвклидовым пространством аффелирована ещё одна норма, которая называется спектральной.

(Комментарий. Пусть непрерывный линейный оператор A определен в (вообще говоря, бесконечномерном) комплексном гильбертовом пространстве. Наряду с уравнением Ax=λx рассмотрим уравнение (A-λI)x=y. При этом в трактовке спектра возникают существенные отличия бесконечномерного случая от конечномерного. Если оператор (A-λI) не обратим, то есть оператор (A-λI)^-1 не существует, то в пространстве H существует ненулевой вектор x, такой, что Ax=λx. В таком случае число λ называют собственным значением оператора A, а вектор x - собственным вектором оператора A, отвечающим собственному значению λ. Совокупность всех собственных значений оператора A называют точечным спектром σ_p(A) оператора A. В конечномерном пространстве спектр оператора может быть только точечным, потому что если матрица A_m*n оператора (A-λI) обратима, то обратная к ней матрица задает оператор (A-λI)^-1 сразу во всем пространстве. Тогда оператор (A-λI)^-1, определенный во всем пространстве H, называется резольвентой оператора A и обозначается R_λ, а комплексное число λ называется регулярным значением оператора A. В бесконечномерном пространстве число λ называется регулярным значением оператора А, если резольвента (A-λI)^-1 существует, ограничена и определёна на всём пространстве. Совокупность всех комплексных чисел λ, не являющихся регулярными значениями оператора A, называется спектром σ_p(A) оператора A, то есть к спектру относятся все нерегулярные значения операторной резольвенты (A-λI)^-1. Теперь спектр и собственные значения - это не одно и то же. Не все из них соответствуют собственным значениям, определяемым уравнением Ax=λx. Интегральный оператор свертки вообще не имеет собственных значений, поскольку выходной сигнал динамической системы не повторяет входного. Спектр может быть непрерывным. В ряде случаев точечный спектр сгущается, имеют место предельные точки. Ясно, что если λ∈σ(A), то задача с уравнением (A-λI)x=y некорректна: она либо имеет неединственное решение, либо разрешима не для всякой правой части, либо у неё нет непрерывной зависимости от правой части.)

Теорема 1. Норма оператора

□Норма оператора где x={x₁,x₂,...,x_n}. Тогда эвклидова норма в пространстве Rⁿ₂ Теперь задача свелась к нахождению максимума функции f(x)=f(x₁,x₂,...,x_n}=x^TA^TAx при условии x₁²+x²₂+...+x²_n=1. Будем искать точку безусловного максимума функции Лагранжа L(x₁,x₂,...,x_n,λ)=f(x₁,x₂,...,x_n)-λ(x₁²+x₂²+...+x_n²-1)=x^TA^TAx-λ(x^Tx-1).

В точке безусловного максимума дифференциал функции равен нулю. Для функций x^TA^TAx и (x^Tx-1) дифференциал можно получить прямо по его определению, как главную линейную часть приращения функции (в главе VII будет развита другая техника):

Δf=f(x+Δx)-f(x)=(x+Δx)^TA^TA(x+Δx)-x^TA^TAx=2x^TA^TAΔx+Δx^TA^TAΔx=2x^TA^TAΔx+o(|Δx|).

Метод Лагранжа дает для любых Δx систему уравнений Или Это означает, что x - собственный вектор матрицы A^TA, имеющий единичную длину; λ - собственное число матрицы A^TA. Другими словами, максимум функции (Ax,Ax)=x^TA^TAx на единичной сфере (x,x)=x^Tx=1 достигается на одном из собственных векторов матрицы A^TA, и он равен корню из собственного числа λ этой матрицы. Поэтому, для отыскания спектральной нормы матрицы A, аффелированной с эвклидовой нормой в пространстве Rⁿ₂, следует найти все собственные числа λ_k матрицы A^TA, и корень из наибольшего из них является искомой нормой. Для действительных матриц A^TA=A*A. То есть норма оператора .

(Комментарий. Для любой вещественной матрицы A собственные числа матрицы A^TA неотрицательны, так как ||Ax||²=|Ax|²=(Ax)²=(Ax,Ax)=x^TA^TAx. Каждая вещественная квадратичная форма приводится к сумме квадратов, коэффициентами которых являются собственные числа симметричной части матрицы. Поэтому для неотрицательной квадратичной формы x^TA^TAx с симметричной матрицей A^TA собственные числа последней отрицательными быть не могут.)

Определение.Сингулярными числами матрицы A называются действительные неотрицательные числа обычно расположенные в порядке невозрастания.

Если матрица A^TA=A*A вырожденна и имеет ранг r<n, то μ₁≥μ₂≥μ₃...≥μ_r>μ_r+1=...μ_n=0, а если матрица A^TA невырожденна, то μ₁≥μ₂≥μ₃...≥μ_n>0

Теорема 2. Пусть самосопряжённый оператор A задан в пространстве Rⁿ₂. Тогда ||A||=|λ_max|.

□ Разложим x по базису собственных векторов Тогда x=∑a_iς_i и, по определению нормы,

С другой стороны, заменив вектор x на вектор ς_max, мы только уменьшим его, то есть То есть ||A||=|λ_max| - спектральная норма.□

(Комментарий. Если A - самосопряжённый оператор, то матрица вещественна и симметрична. Самосопряжённый вполне непрерывный оператор А имеет хотя бы одно собственное значение, причём в Н можно выбрать полную ортогональную систему элементов, состоящую из собственных функций оператора А. Тогда, по теореме о приведении квадратичной формы каноническому виду, в ортонормированном базисе из собственных векторов симметричная матрица имеет диагональный вид, причем на диагонали стоят ее собственные числа. То есть норма симметричной вещественной матрицы равна максимуму из модулей её собственных чисел.)

Теорема 3. Собственные значения матрицы A^-1 обратны собственным значениям матрицы , а собственные векторы этих матриц совпадают.

□ Равенство Aς_i=λ_iς_i умножим слева на A^-1: Это заодно показывает, что собственные векторы совпадают.□

Теперь condA самосопряжённого оператора можно вычислить из теоремы 2, так как и сразу

(Комментарий. Можно показать, что:

Если A - квадратная невырожденная матрица, то для нахождения condA вместо собственных значений используются сингулярные числа μ:)

Пример. Рассмотрим систему 1. Найти эвклидову, столбиковую, строчную и спектральную нормы.

2. Во всех случаях найти condA=||A||*||A^-1||. Матрица оператора , тогда Эвклидова норма: condA=7.

Строчная норма:

||A||=max{2,3}=3, ||A^-1||=max{3,2}=3, condA=9.

Столбиковая норма:

||A||=max{2,3}=3, ||A^-1||=max{3,2}=3, condA=9.

Спектральная норма: тогда