Геометрическая кратность собственного значения как найти

15

ВОРОНЕЖСКИЙ
ГОСУДАРСТВЕННЫЙ УНИВЕРСИТЕТ

Руководство к решению задач по алгебре

Часть II Жорданова форма матрицы и жорданов базис

Практическое
пособие по курсу “Алгебра и геометрия”

для
студентов по специальности

Воронеж

2003

§1. Собственные векторы и собственные значения оператора.

Жорданова
форма матрицы и жорданов базис

Рассмотрим линейный оператор в пространстве и пусть – матрица этого оператора в некотором базисе .

Определение
1.

называется характеристическим
многочленом

матрицы

(

единичная матрица порядка

).

Определение
2.
Вектор

называется собственным вектором
оператора

,
если

,
а

– собственным значением оператора

,
соответствующим собственному вектору


.

    1. Алгоритм

      нахождения собственного значения и
      собственного вектора оператора

1)
Найдем все корни характеристического
многочлена

,
получим

– спектр оператора (множество всех
собственных значений);

2)
подставим

в систему


,

решим
ее и найдем все собственные векторы,
отвечающие собственному значению

,
затем подставим

и т.д.

1.2. Алгебраическая и геометрическая кратности собственного значения

Определение
3.
Кратность
корня

в характеристическом многочлене

называется алгебраической
кратностью собственного значения

.

Определение
4.
Геометрической
кратностью

собственного значения

называется размерность собственного
подпространства оператора


.

Утверждение.

,
где

– порядок матрицы оператора

.

Теорема.
Оператор

в базисе

имеет диагональную матрицу

в том и только том случае, когда базисные
векторы

– собственные, то есть

для всех

.

    1. Жорданова форма матрицы и жорданов базис

Определение
5.
Жордановой
клеткой

называется клетка вида


.
(1.1)

Теорема.
Для произвольного оператора

существует базис пространства

,
в котором матрица оператора имеет
клеточно-диагональный вид, причем на
главной диагонали стоят жордановы
клетки вида (1.1).

Этот
базис называется жордановым,
а данный канонический вид матрицы
называется жордановой
формой
.

Замечание.
Жорданова форма определяется однозначно
с точностью до порядка клеток (каждой
клетке с

соответствует один собственный вектор).

Алгоритм нахождения жорданова базиса для одной жордановой клетки

Рассмотрим
жорданову клетку вида (1.1). По определению
матрицы оператора в 1-м столбце стоит
вектор

,
разложенный по базису

:


,

поэтому


.

Во
2-м столбце матрицы находится вектор

,
разложенный по этому же базису и т.д.

Таким
образом, собственный вектор

находим как решение системы

,
присоединенный вектор

– как решение системы

.
Очевидно, что


.

Продолжая
аналогичные рассуждения, для вектора

получим

.

Определение
6.
Вектор

называется присоединенным
вектором высоты


.

Жорданов базис
состоит из собственных и присоединенных
к ним векторов.

Утверждение.
Алгебраическая кратность собственного
значения


равна сумме размеров жордановых клеток
с этим собственным значением.

Утверждение.
Геометрическая кратность

собственного значения

равна числу клеток в жордановой форме
с собственным значением

или числу линейно независимых собственных
векторов, соответствующих собственному
значению

.

Соседние файлы в предмете [НЕСОРТИРОВАННОЕ]

  • #
  • #
  • #
  • #
  • #
  • #
  • #
  • #
  • #
  • #
  • #

Свойства собственных векторов линейных операторов (преобразований)

1. Собственные векторы линейного преобразования, принадлежащие различным собственным значениям, линейно независимы.

Аналогичное утверждение было доказано для собственных векторов матрицы (см. свойство 1).

2. Все собственные векторы линейного преобразования mathcal{A}colon Vto V, принадлежащие одному собственному значению, совместно с нулевым вектором образуют линейное подпространство, инвариантное относительно преобразования mathcal{A}. Такое линейное подпространство называется собственным для преобразования mathcal{A}.

В самом деле, условие (9.5) можно записать в виде (mathcal{A}- lambdamathcal{E}) (boldsymbol{s})=boldsymbol{o}, где mathcal{E}colon Vto V — тождественное преобразование. Множество векторов boldsymbol{s}, удовлетворяющих последнему равенству, составляет ядро линейного преобразования (mathcal{A}-lambda mathcal{E}), т.е. является линейным подпространством ker (mathcal{A}-lambda mathcal{E})triangleleft V (собственное подпространство, отвечающее собственному значению lambda). Покажем, что это подпространство инвариантно относительно преобразования mathcal{A}. Действительно, любой вектор boldsymbol{s}in ker (mathcal{A}-lambdamathcal{E}) в силу равенств (mathcal{A}-lambda mathcal{E})(boldsymbol{s})=boldsymbol{o}~ Leftrightarrow~ mathcal{A} (boldsymbol{s})=lambda boldsymbol{s} отображается в коллинеарный ему вектор lambdacdot boldsymbol{s}, также принадлежащий ker  (mathcal{A}-lambdamathcal{E}).

3. Для собственного значения lambda линейного преобразования mathcal{A}colon Vto V существует цепочка инвариантных подпространств

{boldsymbol{o}}triangleleft boldsymbol{K}_{lambda}^1triangleleft boldsymbol{K}_{lambda}^2triangleleft ldotstriangleleft boldsymbol{K}_{lambda}^mtriangleleft V,

(9.8)

где boldsymbol{K}_{lambda}^1= ker (mathcal{A}-lambdamathcal{E}),~ boldsymbol{K}_{lambda}^2= ker (mathcal{A}-lambdamathcal{E})^2,~ldots,~ boldsymbol{K}_{lambda}^m= ker (mathcal{A}-lambdamathcal{E})^m; m — некоторое натуральное число (mleqslant n=dim{V}).

Все перечисленные в цепочке (9.8) множества boldsymbol{K}_{lambda}^k,~ k=1,ldots,m, являются линейными подпространствами по свойству ядра линейного преобразования. Каждое из подпространств boldsymbol{K}_{lambda}^k инвариантно относительно преобразования mathcal{A}, поскольку для любого вектора boldsymbol{v}in boldsymbol{K}_{lambda}^k его образ boldsymbol{w}= mathcal{A} (boldsymbol{v})in boldsymbol{K}_{lambda}^k, так как в силу перестановочности многочленов от одного и того же линейного преобразования (см. пункт 2 замечаний 9.3)

(mathcal{A}-lambdacdotmathcal{E})^k(boldsymbol{w})= (mathcal{A}-lambdacdot mathcal{E})^k mathcal{A}(boldsymbol{v})= mathcal{A}(mathcal{A}-lambdacdot mathcal{E})^k(boldsymbol{v})= mathcal{A}(boldsymbol{o})=boldsymbol{o},

так как (mathcal{A}-lambda mathcal{E})^k(boldsymbol{v})=boldsymbol{o}~ forall boldsymbol{v}in boldsymbol{K}_{lambda}^k согласно определения ядра оператора.

Докажем включение boldsymbol{K}_{lambda}^1triangleleft boldsymbol{K}_{lambda}^2. Если boldsymbol{v}in boldsymbol{K}_{lambda}^1, то (mathcal{A}-lambda mathcal{E}) (boldsymbol{v})=boldsymbol{o}, при этом очевидно, что

(mathcal{A}-lambdacdot mathcal{E})cdot (mathcal{A}- lambdacdot mathcal{E})(boldsymbol{v})= (mathcal{A}-lambdacdotmathcal{E}) (mathcal{o})= boldsymbol{0}, то есть boldsymbol{v}in boldsymbol{K}_{lambda}^2.

Остальные включения доказываются аналогично.

Из цепочки (9.8) “расширяющихся” подпространств следует, что их размерности не убывают

0leqslant dim boldsymbol{K}_{lambda}^1leqslant dim boldsymbol{K}_{lambda}^2 leqslant ldotsleqslant dim boldsymbol{K}_{lambda}^mleqslantdim{V},

поэтому в силу конечномерности пространства V существует такое m, что dim boldsymbol{K}_{lambda}^m=dim boldsymbol{K}_{lambda}^{m+1}, т.е. boldsymbol{K}_{lambda}^m= boldsymbol{K}_{lambda}^{m+1}. Покажем, что дальнейшего “увеличения” подпространств нет, т.е. boldsymbol{K}_{lambda}^m= boldsymbol{K}_{lambda}^{m+1}=ldots= boldsymbol{K}_{lambda}^{m+k} для любого натурального k. Предположим противное. Пусть boldsymbol{K}_{lambda}^m= boldsymbol{K}_{lambda}^{m+1} и для некоторого k>1 пространства не совпадают: boldsymbol{K}_{lambda}^{m+k}ne boldsymbol{K}_{lambda}^{m+k+1}, то есть существует вектор boldsymbol{v}in boldsymbol{K}_{lambda}^{m+k+1}, который не принадлежит пространству boldsymbol{K}_{lambda}^{m+k}. Обозначим boldsymbol{w}= (mathcal{A}-lambda mathcal{E})^k(boldsymbol{v}). Тогда, с одной стороны, boldsymbol{w}in boldsymbol{K}_{lambda}^{m+1}, так как (mathcal{A}- lambda mathcal{E})^{m+1}(boldsymbol{w})=(mathcal{A}-lambda mathcal{E})^{m+k+1}(boldsymbol{v})=boldsymbol{o}, поскольку boldsymbol{v}in boldsymbol{K}_{lambda}^{m+k+1}. С другой стороны, boldsymbol{w}notin boldsymbol{K}_{lambda}^m, так как (mathcal{A}- lambda mathcal{E})^m(boldsymbol{w})= (mathcal{A}- lambda mathcal{E})^{m+k} (boldsymbol{v})ne boldsymbol{o}, поскольку boldsymbol{v}notin boldsymbol{K}_{lambda}^{m+k}. Следовательно, и boldsymbol{w}in boldsymbol{K}_{lambda}^{m+1} и boldsymbol{w}notin boldsymbol{K}_{lambda}^m одновременно, что противоречит предположению boldsymbol{K}_{lambda}^m= boldsymbol{K}_{lambda}^{m+1}.

Таким образом, в цепочке (9.8) размерности пространств boldsymbol{K}_{lambda}^k,~ k=1,ldots,m, возрастают. Поэтому mleqslant n=dim{V}.

Корневым подпространством линейного преобразования mathcal{A} для собственного значения lambda называется линейное подпространство boldsymbol{K}_{lambda}^m= ker (mathcal{A}-lambda mathcal{E})^m с наименьшим натуральным показателем m, для которого boldsymbol{K}_{lambda}^m= boldsymbol{K}_{lambda}^{m+1}.

4. Если lambda — собственное значение линейного преобразования mathcal{A}colon Vto V, то пространство V можно представить в виде прямой суммы V= boldsymbol{K}_{lambda}^moplus L, где boldsymbol{K}_{lambda}^m — корневое подпространство, а L=operatorname{Lin} (mathcal{A}-lambdamathcal{E})^m — инвариантное относительно L подпространство, в котором нет собственных векторов, принадлежащих собственному значению lambda.

В самом деле, покажем, что пересечение этих подпространств есть нулевой вектор: boldsymbol{K}_{lambda}^m cap L={boldsymbol{o}}. Выберем вектор boldsymbol{e}in boldsymbol{K}_{lambda}^mcap L. Так как вектор boldsymbol{w}in L, то существует такой вектор boldsymbol{v}in V, что boldsymbol{w}=(mathcal{A}- lambdamathcal{E})^m (boldsymbol{v}). Поскольку boldsymbol{w}in boldsymbol{K}_{lambda}^m, то (mathcal{A}- lambda mathcal{E})^m (boldsymbol{w})= boldsymbol{o}. Тогда (mathcal{A}- lambdamathcal{E})^{2m}(boldsymbol{v})= (mathcal{A}- lambda mathcal{E})^m (boldsymbol{w})= boldsymbol{o}. Следовательно, вектор boldsymbol{v}in boldsymbol{K}_{lambda}^{2m}, но boldsymbol{K}_{lambda}^{2m}= boldsymbol{K}_{lambda}^m, так как boldsymbol{K}_{lambda}^m — корневое подпространство. Значит,

boldsymbol{v}in boldsymbol{K}_{lambda}^m~~Rightarrow~~ boldsymbol{w}= (mathcal{A}- lambda mathcal{E})^m (boldsymbol{v})= boldsymbol{o} то есть boldsymbol{K}_{lambda}^mcap L={boldsymbol{o}}

По теореме 9.1 о размерности ядра и образа получаем, что dim boldsymbol{K}_{lambda}^m+ dim{L}= dim{V}. Следовательно, пространство V можно представить в виде прямой суммы подпространств Vin boldsymbol{K}_{lambda}^m oplus L (см. признаки прямых сумм подпространств).

Докажем, что в L нет собственных векторов, принадлежащих собственному значению lambda. Действительно, пусть boldsymbol{s} — собственный вектор, соответствующий собственному значению lambda. Тогда boldsymbol{s}in boldsymbol{K}_{lambda}^1 и в силу (9.8) boldsymbol{}in boldsymbol{K}_{lambda}^m. Подпространство L имеет с boldsymbol{K}_{lambda}^m только один общий вектор (нулевой). Поэтому boldsymbol{s}notin L, так как boldsymbol{s}ne boldsymbol{o}. Инвариантность подпространства L следует из перестановочности операторов mathcal{A} и (mathcal{A}- lambda mathcal{E})^m (см. пункт 2 замечаний 9.3). В самом деле, для любого вектора boldsymbol{w}in L существует прообраз boldsymbol{v}in Vcolon boldsymbol{w}=(mathcal{A}- lambda mathcal{E})^m (boldsymbol{v}). Поэтому в силу перестановочности операторов

mathcal{A}(boldsymbol{w})= mathcal{A}(mathcal{A}- lambdacdot mathcal{E})^m (boldsymbol{v})= (mathcal{A}-lambdacdot mathcal{E})^m mathcal{A} (boldsymbol{v})in L,

поскольку mathcal{A}(boldsymbol{v})in V и L=operatorname{Lin} (mathcal{A}-lambda mathcal{E})^m. Таким образом, инвариантность подпространства Lдоказана, так как mathcal{A}(boldsymbol{w})in L~ forall boldsymbol{w}in L.


Теорема (9.5) о разложении пространства в сумму корневых подпространств

Если все различные корни lambda_1,ldots,lambda_2,lambda_k характеристического уравнения линейного преобразования mathcal{A}colon Vto V являются его собственными значениями, то пространство V можно разложить в прямую сумму инвариантных (корневых) подпространств:

V= boldsymbol{K}_{lambda_1}^{m_1}oplus boldsymbol{K}_{lambda_2}^{k_2} oplus ldotsoplus boldsymbol{K}_{lambda_k}^{m_k},

(9.9)

где boldsymbol{K}_{lambda_i}^{m_i}= ker (mathcal{A}- lambda_i mathcal{E})^{m_1} — корневое подпространство, соответствующее собственному значению lambda_1,~ i=1,2,ldots,k.

В самом деле, по свойству 4 можно “отщепить” корневое подпространство boldsymbol{K}_{lambda_1}^{m_1}, т.е. представить пространство V в виде прямой суммы инвариантных подпространств V= boldsymbol{K}_{lambda_1}^{m_1} oplus L_1, причем в L_1 нет собственных векторов, принадлежащих собственному значению lambda_1. В пространстве L_1 определено сужение mathcal{A}_{L_1}colon L_1to L_1 преобразования mathcal{A}. Применяя свойство 4 к сужению mathcal{A}_{L_1}colon L_1to L_1, аналогичным образом можно “отщепить” корневое подпространство boldsymbol{K}_{lambda_2}^{m_2}, т.е. представить пространство L_1 в виде прямой суммы инвариантных подпространств: L_1= boldsymbol{K}_{lambda_2}^{m_2} oplus L_2. Этот процесс следует продолжить до тех пор, пока не исчерпаются все корни характеристического уравнения.

Следствие. Если все различные корни lambda_1,lambda_2,ldots,lambda_k характеристического уравнения линейного преобразования mathcal{A}colon Vto V являются его собственными значениями, то существует базис пространства V, в котором матрица A линейного преобразования имеет блочно-диагональный вид

A= operatorname{diag}(A_1,A_2,ldots,A_k),

где A_1,A_2,ldots,A_k — матрицы сужений mathcal{A}_{boldsymbol{k}_i}colon boldsymbol{k}_i to boldsymbol{k}_i~ (boldsymbol{k}_i=boldsymbol{K}_{lambda_i}^{m_i},~ i=1,ldots,k), преобразования mathcal{A} на корневые подпространства.

Согласно следствию из теоремы 9.2, такой базис можно получить, записывая последовательно базисы корневых подпространств (9.9).


Алгебраическая и геометрическая кратности собственных значений

Алгебраической кратностью собственного значения lambda_1 линейного оператора (преобразования) mathcal{A}colon Vto V называется кратность корня lambda=lambda_1 характеристического многочлена Delta_{mathcal{A}} (lambda) (или, что то же самое, кратность корня характеристического уравнения Delta_{mathcal{A}}(lambda)).

Геометрической кратностью собственного значения lambda_1 линейного оператора (преобразования) mathcal{A}colon Vto V называется размерность собственного подпространства boldsymbol{K}_{lambda_1}^1= ker (mathcal{A}-lambda_1 mathcal{E}), соответствующего этому собственному значению.

Теорема 9.6 о кратностях собственных значений оператора. Геометрическая кратность собственного значения не превосходит его алгебраической кратности.

Представим пространство V в виде прямой суммы V=boldsymbol{K}_{lambda_1}^{m_1}oplus L (см. свойство 4) и обозначим r=dimboldsymbol{K}_{lambda_1}^{m_1}. Выбрав базис пространства boldsymbol{K}_{lambda_1}^{m_1}, дополним его до базиса всего пространства. В этом базисе, согласно следствию теоремы 9.5, матрица A преобразования mathcal{A} будет иметь блочно-диагональный вид A=operatorname{diag} (A_1,A_2), где квадратная матрица A_1 порядка r является матрицей сужения mathcal{A}_{boldsymbol{K}_{lambda_1}^{m_1}} преобразования mathcal{A} на подпространство boldsymbol{K}_{lambda_1}^{m_1}, а матрица A_2 является матрицей сужения mathcal{A}_L. Характеристический многочлен матрицы A имеет вид (см. определитель блочно-диагональной матрицы)

det(A-lambda E)= det(A_1-lambda E)cdot det(A_2-lambda E)= p_1(lambda)cdot p_2(lambda),

где p_1(lambda),,p_2(lambda) — многочлены степеней r и (n-r) соответственно. Так как сужение mathcal{A}_{boldsymbol{K}_{lambda_1}^{m_1}} не имеет собственных значений, отличных от lambda_1, то p_1(lambda)= (-r)^r(lambda-lambda_1)^r, в силу того, что p_1(lambda_1)=0 и основной теоремы алгебры. Поскольку сужение mathcal{A}_L не имеет собственных векторов, принадлежащих собственному значению lambda_1, то p_2(lambda_1)ne0. Следовательно, r -алгебраическая кратность собственного значения lambda_1. Тогда утверждение теоремы следует из включения (9.8): dim boldsymbol{K}_{lambda_1}^{1} leqslant dimboldsymbol{K}_{lambda_1}^{m_1}, так как boldsymbol{K}_{lambda_1}^{1}triangleleft boldsymbol{K}_{lambda_1}^{m_1}.

Математический форум (помощь с решением задач, обсуждение вопросов по математике).

Кнопка "Поделиться"

Если заметили ошибку, опечатку или есть предложения, напишите в комментариях.

Материал из Викиконспекты

Перейти к: навигация, поиск

Алгебраическая кратность

Определение:
Алгебраической кратностью , отвечающей собственному значению называется порядок нильпотентности оператора (нильпотентной добавки в спектральной компоненте )

NB: – кратность корня минимального полинома

NB2: – максимальный размер Жорданова блока в матрице

Геометрическая кратность

Определение:
Геометрической(спектральной) кратностью с.з называется размерность собственного подпространства, соответствующего этому с.з:

NB: равна числу Жордановых блоков в соответствующей матрице компоненты

Полная кратность

Определение:
Полной кратностью , соответствующей с.з. называется размерность ультраинвариантного подпространства, соответствующего этому с.з:

NB: – также кратность корня характеристического полинома

NB2: – также размер блока, соответствующего спектральной компоненте , т.е. размер матрицы

Теорема Гамильтона-Кэли

Теорема (Гамильтон, Кэли):

Для любого оператора общего вида выполняются три факта:

Полином является аннулирующим

выполняется

Доказательство:

;

; ; поделим одно на другое:

, т.е. второе утверждение верно

тогда характеристический полином получается из идеала соответствующего аннулирующего полинома и тождество Кэли сохраняется:

The characteristic polynomial of the matrix is $p_A(x) = det (xI-A)$. In your case, $A = begin{bmatrix} 1 & 4 \ 2 & 3end{bmatrix}$, so $p_A(x) = (x+1)(x-5)$. Hence it has two distinct eigenvalues and each occurs only once, so the algebraic multiplicity of both is one.

If $B=begin{bmatrix} 5 & 0 \ 0 & 5end{bmatrix}$, then $p_B(x) = (x-5)^2$, hence the eigenvalue $5$ has algebraic multiplicity $2$. Since $dim ker (5I-B) = 2$, the geometric multiplicity is also $2$.

If $C=begin{bmatrix} 5 &1 \ 0 & 5end{bmatrix}$, then $p_C(x) = (x-5)^2$ (same as $p_C$), hence the eigenvalue $5$ has algebraic multiplicity $2$. However, $dim ker (5I-C) = 1$, the geometric multiplicity is $1$.

Very loosely speaking, the matrix is ‘deficient’ in some sense when the two multiplicities do not match.

The algebraic multiplicity of an eigenvalue $lambda$ is the power $m$ of the term $(x-lambda)^m$ in the characteristic polynomial.

The geometric multiplicity is the number of linearly independent eigenvectors you can find for an eigenvalue.

Собственные числа и собственные векторы линейного оператора

Определение . Ненулевой вектор x называется собственным вектором оператора A , если оператор A переводит x в коллинеарный ему вектор, то есть A· x = λ· x . Число λ называется собственным значением или собственным числом оператора A, соответствующим собственному вектору x .
Отметим некоторые свойства собственных чисел и собственных векторов.
1. Любая линейная комбинация собственных векторов x 1, x 2, . x m оператора A , отвечающих одному и тому же собственному числу λ, является собственным вектором с тем же собственным числом.
2. Собственные векторы x 1, x 2, . x m оператора A с попарно различными собственными числами λ1, λ2, …, λm линейно независимы.
3. Если собственные числа λ12= λm= λ, то собственному числу λ соответствует не более m линейно независимых собственных векторов.

Итак, если имеется n линейно независимых собственных векторов x 1, x 2, . x n, соответствующих различным собственным числам λ1, λ2, …, λn, то они линейно независимы, следовательно, их можно принять за базис пространства Rn. Найдем вид матрицы линейного оператора A в базисе из его собственных векторов, для чего подействуем оператором A на базисные векторы: тогда .
Таким образом, матрица линейного оператора A в базисе из его собственных векторов имеет диагональный вид, причем по диагонали стоят собственные числа оператора A.
Существует ли другой базис, в котором матрица имеет диагональный вид? Ответ на поставленный вопрос дает следующая теорема.

Теорема. Матрица линейного оператора A в базисе < ε i> (i = 1..n) имеет диагональный вид тогда и только тогда, когда все векторы базиса – собственные векторы оператора A.

Правило отыскания собственных чисел и собственных векторов

Система (1) имеет ненулевое решение, если ее определитель D равен нулю

Пример №1 . Линейный оператор A действует в R3 по закону A· x =(x1-3x2+4x3, 4x1-7x2+8x3, 6x1-7x2+7x3), где x1, x2, . xn – координаты вектора x в базисе e 1=(1,0,0), e 2=(0,1,0), e 3=(0,0,1). Найти собственные числа и собственные векторы этого оператора.
Решение. Строим матрицу этого оператора:
A· e 1=(1,4,6)
A· e 2=(-3,-7,-7)
A· e 3=(4,8,7)
.
Составляем систему для определения координат собственных векторов:
(1-λ)x1-3x2+4x3=0
x1-(7+λ)x2+8x3=0
x1-7x2+(7-λ)x3=0
Составляем характеристическое уравнение и решаем его:

Пример №2 . Дана матрица .
1. Доказать, что вектор x =(1,8,-1) является собственным вектором матрицы A. Найти собственное число, соответствующее этому собственному вектору.
2. Найти базис, в котором матрица A имеет диагональный вид.

Решение находим с помощью калькулятора.
1. Если A· x =λ· x , то x – собственный вектор

Определение . Симметрической матрицей называется квадратная матрица, в которой элементы, симметричные относительно главной диагонали, равны, то есть в которой ai k =ak i .

Замечания .

  1. Все собственные числа симметрической матрицы вещественны.
  2. Собственные векторы симметрической матрицы, соответствующие попарно различным собственным числам, ортогональны.

В качестве одного из многочисленных приложений изученного аппарата, рассмотрим задачу об определении вида кривой второго порядка.

Свойства собственных векторов линейных операторов (преобразований)

1. Собственные векторы линейного преобразования, принадлежащие различным собственным значениям, линейно независимы.

Аналогичное утверждение было доказано для собственных векторов матрицы (см. свойство 1).

2. Все собственные векторы линейного преобразования , принадлежащие одному собственному значению, совместно с нулевым вектором образуют линейное подпространство, инвариантное относительно преобразования . Такое линейное подпространство называется собственным для преобразования .

В самом деле, условие (9.5) можно записать в виде , где — тождественное преобразование. Множество векторов , удовлетворяющих последнему равенству, составляет ядро линейного преобразования , т.е. является линейным подпространством (собственное подпространство, отвечающее собственному значению ). Покажем, что это подпространство инвариантно относительно преобразования . Действительно, любой вектор в силу равенств отображается в коллинеарный ему вектор , также принадлежащий .

3. Для собственного значения линейного преобразования существует цепочка инвариантных подпространств

где ; — некоторое натуральное число .

Все перечисленные в цепочке (9.8) множества , являются линейными подпространствами по свойству ядра линейного преобразования. Каждое из подпространств инвариантно относительно преобразования , поскольку для любого вектора его образ , так как в силу перестановочности многочленов от одного и того же линейного преобразования (см. пункт 2 замечаний 9.3)

так как согласно определения ядра оператора.

Докажем включение . Если , то , при этом очевидно, что

Остальные включения доказываются аналогично.

Из цепочки (9.8) “расширяющихся” подпространств следует, что их размерности не убывают

поэтому в силу конечномерности пространства существует такое , что , т.е. . Покажем, что дальнейшего “увеличения” подпространств нет, т.е. для любого натурального . Предположим противное. Пусть и для некоторого 1″ png;base64,iVBORw0KGgoAAAANSUhEUgAAAC8AAAAQCAMAAACx1dbmAAAAM1BMVEVHcEwAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAADbQS4qAAAAEHRSTlMAiXFYMbEhAcBBoPDQoeAQ0I3cqgAAALZJREFUKM+VktsSwyAIRDWKiFf+/2uLSZvEhkxaXnTGs7KsGvN3UYrwC+ffa3D8zCMlxo+QlyfcNmg7v7A/t7VBux/jzkOe54lJURw8ZrHvop0UdM8P+3axGc89aqQ7XuxbjzybMkEUqPLAIPP6/u0g1OYUHnMpTQs02KLxq/0p0Y1O0al+RvqOCcv51CeZF1UeJBjhacoT6PJehTd9k/R7gdgPul7ei3itcWeYPp/sqv4fRhnzAuOaBpbDogV3AAAAAElFTkSuQmCC” /> пространства не совпадают: , то есть существует вектор , который не принадлежит пространству . Обозначим . Тогда, с одной стороны, , так как , поскольку . С другой стороны, , так как , поскольку . Следовательно, и и одновременно, что противоречит предположению .

Таким образом, в цепочке (9.8) размерности пространств , возрастают. Поэтому .

Корневым подпространством линейного преобразования для собственного значения называется линейное подпространство с наименьшим натуральным показателем , для которого .

4. Если — собственное значение линейного преобразования , то пространство можно представить в виде прямой суммы , где — корневое подпространство, а — инвариантное относительно подпространство, в котором нет собственных векторов, принадлежащих собственному значению .

В самом деле, покажем, что пересечение этих подпространств есть нулевой вектор: . Выберем вектор . Так как вектор , то существует такой вектор , что . Поскольку , то . Тогда . Следовательно, вектор , но , так как — корневое подпространство. Значит,

По теореме 9.1 о размерности ядра и образа получаем, что . Следовательно, пространство можно представить в виде прямой суммы подпространств (см. признаки прямых сумм подпространств).

Докажем, что в нет собственных векторов, принадлежащих собственному значению . Действительно, пусть — собственный вектор, соответствующий собственному значению . Тогда и в силу (9.8) . Подпространство имеет с только один общий вектор (нулевой). Поэтому , так как . Инвариантность подпространства следует из перестановочности операторов и (см. пункт 2 замечаний 9.3). В самом деле, для любого вектора существует прообраз . Поэтому в силу перестановочности операторов

поскольку и . Таким образом, инвариантность подпространства доказана, так как .

Теорема (9.5) о разложении пространства в сумму корневых подпространств

Если все различные корни характеристического уравнения линейного преобразования являются его собственными значениями, то пространство можно разложить в прямую сумму инвариантных (корневых) подпространств:

где — корневое подпространство, соответствующее собственному значению .

В самом деле, по свойству 4 можно “отщепить” корневое подпространство , т.е. представить пространство в виде прямой суммы инвариантных подпространств , причем в нет собственных векторов, принадлежащих собственному значению . В пространстве определено сужение преобразования . Применяя свойство 4 к сужению , аналогичным образом можно “отщепить” корневое подпространство , т.е. представить пространство в виде прямой суммы инвариантных подпространств: . Этот процесс следует продолжить до тех пор, пока не исчерпаются все корни характеристического уравнения.

Следствие. Если все различные корни характеристического уравнения линейного преобразования являются его собственными значениями, то существует базис пространства , в котором матрица линейного преобразования имеет блочно-диагональный вид

где — матрицы сужений , преобразования на корневые подпространства.

Согласно следствию из теоремы 9.2, такой базис можно получить, записывая последовательно базисы корневых подпространств (9.9).

Алгебраическая и геометрическая кратности собственных значений

Алгебраической кратностью собственного значения линейного оператора (преобразования) называется кратность корня характеристического многочлена (или, что то же самое, кратность корня характеристического уравнения ).

Геометрической кратностью собственного значения линейного оператора (преобразования) называется размерность собственного подпространства , соответствующего этому собственному значению.

Теорема 9.6 о кратностях собственных значений оператора. Геометрическая кратность собственного значения не превосходит его алгебраической кратности.

Представим пространство в виде прямой суммы (см. свойство 4) и обозначим . Выбрав базис пространства , дополним его до базиса всего пространства. В этом базисе, согласно следствию теоремы 9.5, матрица преобразования будет иметь блочно-диагональный вид , где квадратная матрица порядка является матрицей сужения преобразования на подпространство , а матрица является матрицей сужения . Характеристический многочлен матрицы имеет вид (см. определитель блочно-диагональной матрицы)

где — многочлены степеней и соответственно. Так как сужение не имеет собственных значений, отличных от , то , в силу того, что и основной теоремы алгебры. Поскольку сужение не имеет собственных векторов, принадлежащих собственному значению , то . Следовательно, -алгебраическая кратность собственного значения . Тогда утверждение теоремы следует из включения (9.8): , так как .

Визуализация собственных значений и собственных векторов

Дата публикации Aug 24, 2019

Собственные значения и собственные векторы являются очень важной концепцией в линейной алгебре и машинном обучении в целом. В моем предыдущемстатьяЯ представлял эти концепции с точки зрения анализа основных компонентов, предоставляя практические примеры. В этой статье я подробнее остановлюсь на математике, лежащей в основе этих понятий, и предоставлю геометрическую интерпретацию того, что собираюсь объяснить.

Для этого я расскажу о следующей теме:

  • Линейное преобразование
  • Собственные значения и собственные векторы
  • Алгебраическая и геометрическая кратность

Итак, начнем с первой темы.

Линейное преобразование

Вообще говоря, преобразование – это любая функция, определенная в доменном пространстве V с выходами в кодомене W (где V и W – многомерные пространства, не обязательно евклидовы).

Преобразование, которое сохраняет операции сложения и скалярного умножения следующим образом:

Называется Linear Transformation, и теперь мы будем называть его T.

Давайте рассмотрим следующие два числовых примера, чтобы иметь это в виду. Представьте, что мы получили преобразование T, определенное в R2, с выходами в R:

Как видите, это преобразование не является линейным, поскольку не сохраняет аддитивности. А как насчет этого?

Как видите, аддитивность и умножение на скаляр сохраняются, следовательно, преобразование является линейным. Стоит отметить, что единственными линейными преобразованиями из R2 в R являются те, которые выглядят как w = ax + by, следовательно, линейные комбинации компонентов векторов области.

Очень важное свойство линейных систем задается теоремой о представлении, которая утверждает, что линейное преобразование может быть представлено следующим образом:

Где A – это так называемая матрица представления. Мы будем использовать эту формулу, поскольку она более компактна и удобна.

Теперь каждое преобразование может влиять на направление и расширение вектора (для более ясного объяснения формы векторов в многомерном пространстве вы можете прочитать мою предыдущую статьюВот). Однако, учитывая преобразование T, существует очень интересный класс векторов, на которые это преобразование влияет только с точки зрения расширения, поскольку направление остается неизменным. Общий векторvс этим свойством таково, что:

гделямбдаявляется фактором расширения. Эти векторы называются собственными векторами, а значениелямбдасвязанный с ними называется собственное значение.

Собственные значения и собственные векторы

Как и предполагалось, собственными векторами являются те векторы, направление которых остается неизменным после преобразования через фиксированный T, а собственными значениями являются те значения коэффициента расширения, которые связаны с ними.

Чтобы быть более точным, собственные векторы являются векторами, которые не являются тривиальными, следовательно, отличаются от0, Это потому, что равенство выше всегда имеет по крайней мере одно решение, которое является тривиальнымv = 0,

Как мы можем найти наши собственные векторы и собственные значения при условии, что эти первые отличаются от тривиального вектора? Для этого давайте переосмыслим нашу линейную систему с помощью теоремы о представлении:

Как и ожидалось, эта система имеет по крайней мере одно решение, которое является тривиальным. Следовательно, мы хотим найти те значения лямбды, для которых определитель матрицы (A-лямда* I) равно нулю (в противном случае это означало бы, что из-за теоремы Крамера система имеет 1 единственное решение).

Итак, давайте установим наше уравнение:

Это уравнение называется характеристическим уравнением, а его корнями являются собственные значения. Кроме того, из-за основной теоремы алгебры«Каждый многочлен степени n имеет n решений в C (множество комплексных чисел)»мы знаем, что степень характеристического уравнения будет числом собственных значений, связанных с этой системой.

Давайте рассмотрим следующий пример:

Из характеристического уравнения мы вывели два собственных значения 3 и -1. Чтобы привести числовой пример, я собираюсь найти векторы, называемые собственными векторами, связанными слямбда= 3 (то же самое верно длялямбда= -1). Быстрый ярлык для этой цели может быть полезен, если мы рассмотрим матрицу A. Действительно, поскольку мы просили неединственность решения, мы уже знаем, что определитель матрицы (A-lI) равен 0, следовательно, пока Решив получившуюся систему, мы можем напрямую избавиться от одного из двух ограничений:

Давайте визуализируем это:

По сути, все векторы, которые лежат на этой прямой линии, являются собственными векторами, связанными с собственным значением 3: после преобразования через T они будут только расширяться / сокращаться, но не изменяться в направлении. Рассмотрим, например, следующий вектор:

Теперь давайте изменим это:

Как видите, его величина теперь в 3 раза больше, но направление остается прежним

Теперь давайте перейдем к последней теме этой статьи – алгебраической и геометрической множественности, связанной с собственными значениями и собственными векторами.

Алгебраическая и геометрическая кратность

Теперь представьте, что у вас есть характерное уравнение степениNно вы найдете только один корень. Следовательно, поскольку степеньNэтот корень, как говорят, имеет алгебраическую кратностьN, Давайте рассмотрим два следующих примера:

В первом случае мы имеем одно собственное значение, равное -2, не имеет кратности (поскольку его мощность равна 1), в то время как собственное значение -1 (из многочлена 2-й степени) будет иметь кратность, равную 2.

Теперь вопрос: уважается ли эта множественность и с геометрической стороны проблемы? Другими словами, равняется ли количество раз, когда собственное значение появляется в решении, равному размерам / степеням свободы соответствующего собственного пространства (которое является набором связанных собственных векторов)?

Ответ не всегда. Всякий раз, когда у нас есть собственное значение с кратностью, равнойNи соответствующее собственное пространство с размерами меньшеNмы называем этот коэффициент лямбда нерегулярным (в противном случае собственные значения называются регулярными).

Давайте наглядно представим это на примере выше:

Как видите, даже если у нас есть собственное значение с кратностью 2, ассоциированное собственное пространство имеет только одно измерение, так как оно равно y = 0.

Вывод

Собственные значения и собственные векторы являются фундаментальными в науке о данных и построении модели в целом. Помимо их использования в PCA, они используются, в частности, в спектральной кластеризации и сжатии изображений. Следовательно, важно иметь в виду их геометрическую интерпретацию.

[spoiler title=”источники:”]

http://mathhelpplanet.com/static.php?p=svoistva-sobstvennykh-vektorov-linyeinykh-operatorov

http://www.machinelearningmastery.ru/visualizing-eigenvalues-and-eigenvectors-e2f9e3ac58d7/

[/spoiler]

Добавить комментарий