Собственные векторы и собственные значения

Собственные векторы и собственные значения — фундаментальные понятия линейной алгебры. Они описывают «инвариантные направления» линейного оператора и лежат в основе диагонализации матриц, а также применяются в квантовой механике, машинном обучении, теории колебаний и др.

Определения

Пусть $φ$ — линейный оператор с матрицей $A$ в некотором базисе (то есть $φ (\overline{x})$ в координатах есть $A \overline{x}$ ).

Определение. Ненулевой вектор $\overline{x} \neq = \overline{0}$ называется собственным вектором оператора $φ$ (матрицы $A$ ), если найдётся число $λ$ такое, что

A \overline{x} = λ \overline{x} .

Число $λ$ при этом называется собственным значением, соответствующим вектору $\overline{x}$ . Поле скаляров — $R$ или $C$ .

Геометрическая интерпретация

Собственный вектор задаёт направление, которое оператор не меняет, а лишь масштабирует в $λ$ раз. Если $λ = 1$ — вектор сохраняется, $λ = - 1$ — меняет направление на противоположное, $∣ λ ∣ > 1$ — растяжение, $∣ λ ∣ < 1$ — сжатие.

Характеристическое уравнение

Перепишем определение, перенеся всё в одну часть:

A \overline{x} = λ \overline{x} ⟺ (A - λ E) \overline{x} = \overline{0} .

Это однородная система $n \times n$ относительно координат $\overline{x}$ . Ненулевое решение (а собственный вектор по определению ненулевой) существует тогда и только тогда, когда определитель матрицы системы равен нулю:

det (A - λ E) = 0.

Определение. Многочлен $f (λ) = det (A - λ E)$ степени $n$ называется характеристическим многочленом, а уравнение $det (A - λ E) = 0$ — характеристическим уравнением. Его корни — собственные значения.

Теорема. Характеристический многочлен не зависит от выбора базиса (подобные матрицы $A$ и $C^{- 1} A C$ имеют одинаковый характеристический многочлен). Поэтому собственные значения — это характеристика самого оператора, а не его матрицы в конкретном базисе.

Алгоритм

Составить характеристическое уравнение $det (A - λ E) = 0$ и найти его корни $λ_{1}, \dots, λ_{k}$ — собственные значения.
Для каждого $λ_{i}$ решить однородную систему $(A - λ_{i} E) \overline{x} = \overline{0}$ — её ненулевые решения дают собственные векторы. Множество всех решений (вместе с нулевым) образует собственное подпространство $ker (A - λ_{i} E)$ , отвечающее значению $λ_{i}$ .

Пример

A = (4123) .

1. Собственные значения.

det (A - λ E) = 4 - λ 1 2 3 - λ = (4 - λ) (3 - λ) - 2 = λ^{2} - 7 λ + 10 = 0 \Rightarrow λ_{1} = 5, λ_{2} = 2.

(Проверка: сумма корней $5 + 2 = 7 = tr A$ , произведение $5 \cdot 2 = 10 = det A$ .)

2. Собственные векторы. Для $λ_{1} = 5$ : $(A - 5 E) \overline{x} = (- 1 1 2 - 2) \overline{x} = 0 \Rightarrow x_{1} = 2 x_{2}$ , откуда $\overline{v}_{1} = (21)$ .

Для $λ_{2} = 2$ : $(A - 2 E) \overline{x} = (2121) \overline{x} = 0 \Rightarrow x_{1} = - x_{2}$ , откуда $\overline{v}_{2} = (1 - 1)$ .

Диагонализация

Если у оператора в $n$ -мерном пространстве есть базис из собственных векторов, то в этом базисе его матрица диагональна, причём на диагонали стоят собственные значения. На языке матриц: составив матрицу $C$ из собственных векторов как столбцов, получаем

C^{- 1} A C = D = diag (λ_{1}, \dots, λ_{n}), A = C D C^{- 1} .

Для примера выше $C = (21 1 - 1)$ даёт $C^{- 1} A C = (5002)$ (ср. формулу $B = C^{- 1} A C$ ).

Свойства

Матрица $A \in R^{n \times n}$ имеет не более $n$ различных собственных значений (корней характеристического многочлена степени $n$ ).
Собственные векторы, отвечающие различным собственным значениям, линейно независимы. Если различных собственных значений ровно $n$ , оператор диагонализируем.
$det A = λ_{1} λ_{2} \dots λ_{n}$ и $tr A = λ_{1} + λ_{2} + \dots + λ_{n}$ (с учётом кратностей).
У симметрической матрицы все собственные значения вещественны, а собственные векторы, отвечающие различным значениям, ортогональны.