DS：数学的基礎 - 線形代数のバックアップ(No.6)

逆行列の求め方
- 行基本変形は行列のドット積で計算でき、変形の行列をドット積で纏めると逆行列になる。
- 逆行列は、当該行列とドット積で計算すると、単位行列（I）が得られる様な行列。
- 掃き出し法の拡大行列（？）の左側に対角線に1が並ぶように行基本変形すると右側が逆行列になる。
- ちなみに、2行2列の行列の逆行列なら公式で計算できる。

逆行列が存在しない場合がある。
これは、≒ 連立方程式の解が無い場合で、２以上のベクトル（＝行、横ベクトル）が並行で面積がゼロの場合
- 交点がなくて並行の場合（2つのベクトルが「平行」）
- 交点があって並行の場合（2つのベクトルが「同じ」か「長さが異なるダケ≒同じ」）

↑

行列式 †

行列式によって連立方程式の解の有無を判別できる。

行列式とは
- 一次方程式の可解性を判定する指標
- 正方行列で列をベクトルに見立てる。
- ｎ個のベクトルからなる面積・体積を考える。

行列式の特性
1. １つでも平行なベクトル、同じベクトルがあれば、面積・体積はゼロで解は無い。
2. １つのベクトルが*ｎされれば、行列式（≒面積・体積）全体がｎ倍される。
3. １つのベクトルが+ｗされれば、行列式（≒面積・体積）の足し算に展開される。
4. ベクトルを入れ替えると行列式はマイナスになる（が、コレは面積・体積の性質ではない。
  入れ替え前と後のベクトルを足し算すると2つの同じベクトルがある行列式（面積・体積＝０）になるので。

行列式の計算

たすき掛けの計算方法は3行3列の行列式までしか使えない。
```
=a11a22-a12a21
=a11a22a33+a12a23a31+a13a21a32-a13a22a31-a11a23a32-a12a21a33
```

3行3列以上の行列式は余因子展開でn-1行n-1列の行列式の計算に変換。
- この計算は、体積の計算を面積✕高さに変換する的な話らしい。
- この際、「行列式の特性（４）」を使用するので符号が切り替わる。

↑

固有値分解 †

ある正方行列Aを直交行列と対角行列の積に分解する計算
- 行列の特徴が見えやすくなり、A^nの計算がラク。
- ゼロに近い固有値は行列全体に与える影響が小さいため、
  この固有値を無視することで、高精度で近似計算できる。

Aが正方行列の場合、
```
A=┌ab┐
  └cd┘
```

Aの固有値・固有ベクトルは、
```
 →    →
Av = λv
```

具体例

┌1 4┐┌1┐ = ┌5┐ = 5┌1┐
└2 3┘└1┘   └5┘    └1┘

↑

固有値 †

λ

↑

固有ベクトル †

→
v  ≠ 0

↑

計算方法 †

以下を解くとｎ個の固有値λが求まる。

```
 →    →
Av = λv
```

```
       →   
(A-λI)v = 0
```

|A-λI|（行列式） = 0

固有値λの個数分、固有ベクトルが導かれる。
（固有ベクトルはxn間の比率が解りさえすれば良い）
```
┌ab┐┌x1┐=λ┌x1┐
└cd┘└x2┘   └x2┘
```
- ax1+bx2=λx1
- cx1+dx2=λx2

固有値分解

正方行列の対角線上にλを並べたもの。

   ┌λ1 0   0  ┐
Λ=│0   λ2 0
   └0   0   ...┘

固有ベクトルを並べたもの。
```
V=┌→ →    ┐
  └v1 v2 ...┘
```

AV = V∧
- AVV^-1 = A = V∧V^-1
- V^-1AV = ∧ = V^-1V∧

累乗計算が簡単になる

A^n = V ∧^n V^-1
・AA = V∧(V^-1V)∧V^-1 = V∧^2V^-1
・AAA = V∧(V^-1V)∧(V^-1V)∧V^-1 = V∧^3V^-1

∧^n = V^-1 A^n V
・∧∧ = V^-1A[VV^-1]AV
・∧∧∧ = V^-1A[VV^-1]A[VV^-1]AV

↑

特異値分解 †

ある長方行列を直交行列と対角行列の積に分解する計算

固有値分解では、Aは正方行列

特異値分解では、Mが長方行列だが
M^Tを掛けてMM^Tと正方行列化することで似たように処理する。

Mの特異値σ・特異ベクトルuvは、

 →       →
Mv    = σu

   →     →
M^Tu  = σv

固有値分解に対し特異値分解は

A = V∧V^-1
M = UＳV^T

↑

特異値 †

σ

↑

特異ベクトル †

右特異ベクトル
```
→
v
```

左特異ベクトル
```
→
u
```

それぞれ、
- 直交する。
- 単位ベクトル
  - 大きさを変えないため。
  - UV直交行列を単位行列にすると転置すると逆行列になる。

↑

計算方法 †

以下を解くとｎ個の特異値σが求まる。

```
 →       →
Mv    = σu
```

```
   →     →
M^Tu  = σv
```

特異値分解

正方行列の対角線上にσを並べたもの。

   ┌σ1 0   0  ┐
Ｓ=│0   σ2 0
   └0   0   ...┘

特異ベクトルを並べたもの。

右特異ベクトル
```
V=┌→ →    ┐
  └v1 v2 ...┘
```

左特異ベクトル
```
U=┌→ →    ┐
  └u1 u2 ...┘
```

MV = US
- MVV^T = M = USV^T
- VS^T = M^TU (VS^T = M^TMVS^T = MV = US= M^TUSS^T = M^TU)
- M^TUU^T = M^T = VS^TU^T
- MM^T（対称行列） = US[V^TV]S^TU^T = USS^TU^T

↑

参考 †

↑

DS：数学的基礎 - 線形代数 のバックアップ(No.6)

目次 †

概要 †

詳細 †

スカラ、ベクトル、行列 †

スカラ †

ベクトル †

行列 †

行列で連立方程式を解く。 †

行基本変形 †

逆行列 †

行列式 †

固有値分解 †

固有値 †

固有ベクトル †

計算方法 †

特異値分解 †

特異値 †

特異ベクトル †

計算方法 †

参考 †

NumPy †

DS：数学的基礎 - 線形代数のバックアップ(No.6)