Разложения

Задача 1

Записать в параметрическом виде общую формулу решения системы линейных уравнений

{[x+y-z,=,1],[2*y-3*z,=,2],[x-y+2*z,=,-1])

Решение

([1,1,-1],[0,2,-3],[1,-1,2])≡([1,1,-1],[0,-2,3],[0,2,-3])≡([1,1,-1],[0,1,-3/2],[0,0,0])≡([1,0,1/2],[0,1,-3/2])

Получаем что rank(A)=2 , что меньше ее размерности, значит точного(единственного) решения не существует.

Для того что бы найти все существующие решения воспользуемся формулой общего решения через псеводобратную матрицу: 𝓍=(A^+)*𝒷-((A^+)*A-E)*𝓎 .

Найдем (A^+)=(FG_^+)=(G^+)*(F^+) . Матрица G уже была посчитана в начале решения. Матрица F=([1,1],[0,2],[1,-1]) для такой матрицы G .

(F^+)=((F^∗)*F)(-1)⋅(F^∗)

(F^∗)*F=([1,0,1],[1,2,-1])*([1,1],[0,2],[1,-1])=([2,0],[0,6]),((F^∗)*F)(-1)=1/12*([6,0],[0,2])

(G^+)=(G^∗)⋅(G*(G^∗))(-1)

G*(G^∗)=([1,0,1/2],[0,1,-3/2])*([1,0],[0,1],[1/2,-3/2])=([5/4,-3/4],[-3/4,13/4]),(G*(G^∗))(-1)=16/56*([13/4,3/4],[3/4,5/4])

(F^+)=1/12*([6,0],[0,2])*([1,0,1],[1,2,-1])=1/12*([6,0,6],[2,4,-2])=1/6*([3,0,3],[1,2,-1])

(G^+)=16/56*([1,0],[0,1],[1/2,-3/2])*([13/4,3/4],[3/4,5/4])=2/7*([13/4,3/4],[3/4,5/4],[4/8,-3/2])=1/14*([13,3],[3,5],[2,-6])

(A^+)=(G^+)*(F^+)=1/86*([13,3],[3,5],[2,-6])*([3,0,3],[1,2,-1])=1/86*([42,6,36],[14,10,4],[0,-12,12])

=1/42*([21,3,18],[7,5,2],[0,-6,6])

(A^+)*𝒷=1/42*([21,3,18],[7,5,2],[0,-6,6])*([1],[2],[-1])=1/42*([9],[15],[-18])

(A^+)*A-E=1/42*([21,3,18],[7,5,2],[0,-6,6])*([1,1,-1],[0,2,-3],[1,-1,2])-E=1/42*([39,9,6],[9,15,-18],[6,-18,30])-

-42/42*E=1/42*([-3,9,6],[9,-27,-18],[6,-18,-12])=1/14*([-1,3,2],[3,-9,-6],[2,-6,-4])

Итого получаем следующую формулу общего решения системы:

([(𝓍_1)],[(𝓍_2)],[(𝓍_3)])=1/42*([9],[15],[-18])-1/14*([-1,3,2],[3,-9,-6],[2,-6,-4])*([(𝓎_1)],[(𝓎_2)],[(𝓎_3)])

Задача 2

Найти LU разложение для матрицы

A=([2,3,4],[-1,-2,-3],[0,0,1])

т.е. представить ее в виде произведения L*U для нижнетреугольной матрицы L с единицами на диагонали и верхнетреугольной матрицы U. Решить с помощью этого разложения систему уравнений:

A*𝓍=([1],[-1],[1])

Решение

Так как матрица A квадратная, и не вырожденная(легко видеть что 3 строка независима с первыми двумя, а они, в свою очередь, не пропорциональны друг другу), а так же ее угловые миноры не вырождены, то для нее существует L*U разложение.

([2,3,4],[-1,-2,-3],[0,0,1])=A=L*U=([1,0,0],[(l_21),1,0],[(l_31),(l_32),1])*([(u_11),(u_12),(u_13)],[0,(u_22),(u_23)],[0,0,(u_24)])

Из этого равенства выпишем все соотношения для элементов (l_⋅⋅) и (u_⋅⋅)

(u_11)=2;(u_12)=3;(u_13)=4 - первая строчка матрицы A

(u_11)*(l_21)=-1⇔2*(l_21)=-1⇔(l_21)=-1/2

(u_12)*(l_21)+(u_22)=-2⇔-3/2+(u_22)=-2⇔(u_22)=-1/2

(u_13)*(l_21)+(u_23)=-3⇔-4/2+(u_23)=-3⇔(u_23)=-1

Заполнили 2 строчку матрицы A

(u_11)*(l_31)=0⇔2*(l_31)=0⇔(l_31)=0

(u_12)*(l_31)+(u_22)*(l_32)=0⇔3⋅0-1/2*(l_32)=0⇔(l_32)=0

(u_13)*(l_31)+(u_23)*(l_32)+(u_24)=1⇔4⋅0-0+(u_24)=1⇔(u_24)=1

Заполнили 3 строку и всю матрицу A. Можно записать результат:

A=([1,0,0],[-1/2,1,0],[0,0,1])*([2,3,4],[0,-1/2,-1],[0,0,1])

Теперь решим при помощи этого систему A*𝓍=𝒷

A*𝓍=L*U*𝓍=𝒷⇔L*𝓎=𝒷,где 𝓎=U*𝓍

L*𝓎=𝒷⇔([1,0,0],[-1/2,1,0],[0,0,1])*([(𝓎_1)],[(𝓎_2)],[(𝓎_3)])=([1],[-1],[1])

{[(𝓎_1),=,1],[-1/2*(𝓎_1)+(𝓎_2),=,-1],[(𝓎_3),=,1])⇔([(𝓎_3)],[(𝓎_2)],[(𝓎_1)])=([1],[-1/2],[1])

Теперь зная это решение, решим систему U*𝓍=𝓎

U*𝓍=𝓎⇔([2,3,4],[0,-1/2,-1],[0,0,1])*([(𝓍_1)],[(𝓍_2)],[(𝓍_3)])=([1],[-1/2],[1])

{[2*(𝓍_1)+3*(𝓍_2)+4*(𝓍_3),=,1],[-1/2*(𝓍_2)-(𝓍_3),=,-1/2],[(𝓍_3),=,1])⇔{[(𝓍_1),=,0],[(𝓍_2),=,-1],[(𝓍_3),=,1])⇔([(𝓍_1)],[(𝓍_2)],[(𝓍_3)])=([0],[-1],[1])

Задача 3

Убедиться, что следующая матрица эрмитова с неотрицательными собственными значениями, и найти ее разложение Холецкого(вида (R^*)*R, где R верхнетреугольная матрица с неотрицательными собственными значениями) для матрицы

A=([1,3],[3,25])

Решение

Так как матрица A∈Mat(ℝ) то она эрмитова ⇔ она симетрична. Так как (a_12)=3=(a_21) для матрицы A это верно.

Так как матрица эрмитова, то ее положительная определенность равносильна тому что все собственные вектора положительны. Проверить положительную определенность можно через критерий сильвестра:

|1|=1

|[1,3],[3,25]|=25-9=16

Критерий Сильвестра выполнен, а значит все собственные значения положительны. Теперь найдем разложение Холецкого.

([1,3],[3,25])=A=(R^*)*R=([(r_11),0],[(r_21),(r_22)])*([(r_11),(r_21)],[0,(r_22)])

Из этого соотношения имеем:

(r_11)2=1⇒(r_11)=1

(r_11)*(r_21)=3⇔(r_21)=3

Мы заполнили 1 строчку матрицы

(r_21)*(r_11)=3 ⇔3=3 - верно

(r_21)2+(r_22)2=25⇔9+(r_22)2=25⇔(r_22)2=16⇒(r_22)=4

Мы заполнили 2 строку матрицы. Теперь можно составить полное выражение:

A=

Задача 4

Найти QR-разложение следующей матрицы:

A=([1,-1,5],[-2,0,-3],[2,-1,-7])

(где матрица Q - ортогональная, а R - верхнетреугольная)

Решение

Так как матрица A квадратная, то матрица Q будет унитарной, в следствии этого. Это упростит вычисление матрицы R.

Что бы найти матрицу Q, для начала ортогонализируем столбцы матрицы A. Для этого применим процесс ортогонализации Грамма-Шмидта:

(A_1)=([1],[-2],[2]),(A_2)=([-1],[0],[-1]),(A_3)=([5],[-3],[-7])

‖(A_1)‖=√(,9)=3,‖(A_2)‖=√(,2),‖(A_3)‖=√(,83)

(E_1)=(A_1)/‖(A_1)‖=1/3*([1],[-2],[2])

(B_2)=(A_2)-(proj_(B_1))((A_2))=([-1],[0],[-1])-<(A_2),(B_1)>/(‖(B_1)‖2)*(B_1)=([-1],[0],[-1])-(-3)/9*([1],[-2],[2])=

=([-1],[0],[-1])+1/3*([1],[-2],[2])=([-2/3],[-2/3],[-1/3]);‖(B_2)‖=√(,1)=1⇒(E_2)=(B_2)

(B_3)=(A_3)-(proj_(B_1))((A_3))-(proj_(B_2))((A_3))=([5],[-3],[-7])-<(A_3),(B_1)>/(‖(B_1)‖2)*(B_1)-<(A_3),(B_2)>/(‖(B_2)‖2)*(B_2)=

=([5],[-3],[-7])-(-3)/9*([1],[-2],[2])-1/3*([-2],[-2],[1])=1/3*(([15],[-9],[-21])+([1],[-2],[2])+([2],[2],[1]))=1/3*([18],[-9],[-18])=

=([6],[-3],[-6]);‖(B_3)‖=√(,81)=9⇒(E_3)=([2/3],[-1/3],[-2/3])

Теперь из полученных столбцов можно составить ортогональную матрицу Q:

Q=1/3*([1,-2,2],[-2,-2,-1],[2,-1,-2])⇒(Q^*)=Q- так как матрица Q симметрична и действительна

Так как Q - унитарная матрица, то A=Q*R⇒R=Q(-1)*A=(Q^*)*A

R=(Q^*)*A=1/3*([1,-2,2],[-2,-2,-1],[2,-1,-2])*([1,-1,5],[-2,0,-3],[2,-1,-7])=1/3*([9,-3,-3],[0,3,3],[0,0,27])=([3,-1,-1],[0,1,1],[0,0,9])

Можно записать разложение в финальной форме:

A=Q*R=1/3*([1,-2,2],[-2,-2,-1],[2,-1,-2])*([3,-1,-1],[0,1,1],[0,0,9])

Задача 5

Убедиться что следующая матрица эрмитова и найти ее спектральное разложение:

A=([1,1+𝑖,0],[1-𝑖,2,0],[0,0,3])

Найти обратную матрицу при помощи спектрального разложения

Решение

Матрица эрмитова ⇔ (A^*)=(A^T)=A. Проверим это для данной матрицы:

(A^*)=([1,1+𝑖,0],[1-𝑖,2,0],[0,0,3])=A

Так как матрица эрмитова, то она нормально а значит для нее существует спектральное разложение, и при этом матрица перехода к диагональному базису унитарна.

Найдем собственные значения оператора 𝒜:

det(t*E-A)=det(([t-1,-1-𝑖,0],[𝑖-1,t-2,0],[0,0,t-3]))=(t-3)⋅|[t-1,-1-𝑖],[𝑖-1,t-2]|=

=(t-3)*((t-1)*(t-2)+(𝑖+1)*(𝑖-1))=(t-3)*(t2-3*t+2-2)=

=t*(t-3)2⇒Собственными значениями оператора 𝒜являются: σ(𝒜)={0,3},причем 3 имеет алгебраическую кратность равную 2.Теперь найдем собственные вектора оператора:

(A-(λ_1)*E)*𝓍=0 ⇔(A-0*E)*𝓍=0⇔A*𝓍=0

([1,1+𝑖,0],[1-𝑖,2,0],[0,0,3])≡([1,1+𝑖,0],[0,0,0],[0,0,1])≡([1,1+𝑖,0],[0,0,1])

(Φ_(λ_1))(([1,1+𝑖,0],[0,0,1]))={([-2],[1-𝑖],[0])}

(A-(λ_2)*E)*𝓍=0⇔(A-3*E)*𝓍=0⇔([-2,1+𝑖,0],[1-𝑖,-1,0],[0,0,0])*𝓍=0

([-2,1+𝑖,0],[1-𝑖,-1,0],[0,0,0])≡([-2,1+𝑖,0],[2,-1-𝑖,0])≡([-2,1+𝑖,0])

(Φ_(λ_2))(([-2,1+𝑖,0]))={([0],[0],[1]),([1],[1-𝑖],[0])}

Так как для каждого собственного значения оператора 𝒜 его алегбраическая кратность равна геометрической кратности, то матрицу можно диагонализировать.

Выберем один из диагональных базисов для матрицы A. Сама матрица будет выглядеть как:Σ=([3,0,0],[0,3,0],[0,0,0]). Тогда матрица перехода к этому базису будет записана так: V=([0,1,-2],[0,1-𝑖,1-𝑖],[1,0,0])

Вспомним, что матрица A эрмитова. Это значит что собственные пространства - натянутые на собственные вектора, ортогональны друг другу: <(Φ_(λ_1))>⟂<(Φ_(λ_2))>. Но так как у нас есть собственное значение (λ_2)=3, геометрическая кратность которого равна 2, нужно проверить что полученные базисные вектора пространства (Φ_(λ_2)) ортогональны друг другу:

<([0],[0],[1]),([1],[1-𝑖],[0])>=0. В силу устройства 1 вектора это довольно очевидно, а значит базис из вектор-столбцов матрицы V ортогональный, поэтому можно пропустить процесс ортогонализации и сразу нормировать столбцы матрицы V

(E_1)=(V_1)/‖(V_1)‖=([0],[0],[1]);(E_2)=(V_2)/‖(V_2)‖=1/√(,3)*([1],[1-𝑖],[0]);(E_3)=(V_3)/‖(V_3)‖=1/√(,6)*([-2],[1-𝑖],[0])

Запишем унитарную матрицу U:

U=1/√(,6)*([0,√(,2),-2],[0,√(,2)-√(,2)*𝑖,1-𝑖],[√(,6),0,0])⇒(U^*)=1/√(,6)*([0,0,√(,6)],[√(,2),√(,2)√(,2)*𝑖,0],[-2,1+𝑖,0])

Теперь запишем окончательный вид разложения:

A=U*Σ*(U^*)=1/2*([0,√(,2),-2],[0,√(,2)-√(,2)*𝑖,1-𝑖],[√(,6),0,0])*([1,0,0],[0,1,0],[0,0,0])*([0,0,√(,6)],[√(,2),√(,2)+√(,2)*𝑖,0],[-2,1*𝑖,0])

Так как rank(A)=2(в этом мы убедились когда находили один из 3 собственных векторов), то возможно найти только лишь псевдообратную матрицу.

Из свойств спектрального разложения: (A^+)=(U*Σ*(U^*))+=U*(Σ^+)*(U^*) - так как сопряжение элемента в группе уважает степени. Но найти псевдообратную матрицу для диагональной легко:

(Σ^+)=([1,0,0],[0,1,0],[0,0,0]) - это просто обратные числа для всех не нулевых диагональных элементов

Задача 6

Найти сингулярное разложение матрицы A

A=([1,1],[2,2],[3,3])

Вычислить псевдообратную матрицу к A используя сингулярное разложение

Решение

Для начала найдем сингулярные числа матрицы A. По определению число 𝜎 называется сингулярным, если существуют вектора 𝓋 и 𝓊, такие что: A*𝓋=𝜎*𝓊 и (A^*)*𝓊=𝜎*𝓋. Тогда для матрицы (A^*)*A сингулярные числа это корни из собственных значений:

(A^*)*A*𝓋=(A^*)*(𝜎*𝓊)=𝜎*(A^*)*𝓊=𝜎*𝜎*𝓋=𝜎2*𝓋

(A^*)*A=([1,2,3],[1,2,3])*([1,1],[2,2],[3,3])=([14,14],[14,14])

det(([t-14,-14],[-14,t-14]))=(t-14)2-196=t2-28*t+196-196=t*(t-28)

Следовательно получим следующие собственные значения: (λ_1)=0,(λ_2)=28.

Соответственными сингулярными значениями будут: (𝜎_1)=0,(𝜎_2)=2√(,7)

Эти числа составляют диагональ матрицы Σ=([2√(,7),0,0],[0,0,0])

Что бы найти оставшиеся матрицы, нужно найти собственные векторы 𝓊 и 𝓋 для сингулярных чисел. Вектор 𝓊 называется левым сингулярным и входит в матрицу U, а вектор 𝓋 правым сингулярным и входит в матрицу V.

Найдем все правые сингулярные вектора. Исходя из того что (A^*)*A*𝓋=𝜎2*𝓋, правые сингулярные вектора являются собственными для матрицы (A^*)*A.

((A^*)*A-(λ_1)*E)*𝓋=0⇔((A^*)*A-0*E)*𝓋=0⇔(A^*)*A*𝓋=0

([14,14],[14,14])≡([1,1],[1,1])≡([1,1])⇒(Φ_(λ_1))(([1,1]))={([-1],[1])}

((A^*)*A-(λ_2)*E)*𝓋=0⇔((A^*)*A-28*E)*𝓋=0

([-14,14],[14,-14])≡([1,-1])⇒(Φ_(λ_2))(([1,-1]))={([1],[1])}

Что бы полученная из них матрица V была ортонормированной, нормируем вектора(они ортогональны тк из разных собственных пространств эрмитовой матрицы (A^*)*A)

(V_1)=1/√(,2)*([-1],[1]), (V_2)=1/√(,2)*([1],[1])

Теперь что бы найти левые сингулярные вектора воспользуемся соотношением(обратным к тому что выведено в начале задачи):

σ*A*𝓋=σ2*𝓊⇔A*𝓋=σ*𝓊. Если 𝜎≠0 то можно вектор 𝓊=(A*𝓋)/σ.

После этого дополним до ортонормированного базиса в пространстве векторов матрицы A те вектора которые мы смогли посчитать.

(U_)=(([1,1],[2,2],[3,3])*([1],[1]))/(2√(,7))=1/(2√(,7))*([2],[4],[6])=1/√(,7)*([1],[2],[3])*1; (U_1)=1/√(,14)*([1],[2],[3])

Теперь нам нужно дополнить базис пространства матрицы U еще 2 ортогональными векторами. Можно было бы взять стандартный базис и провести процесс ортогонализации Грамма-Шмидта, но здесь можно увидеть 2 подходящих базисных вектора:

(U_2)=1/√(,3)*([1],[1],[-1]) и (U_3) =1/√(,3⋅14)*([5],[-4],[1])

Теперь мы можем составить унитарную матрицу V и унитарную матрицу U

U=1/√(,42)*([√(,3),,],[2√(,3),,],[3√(,3),,])