- Determinant
- 本章综合视频18-20
必须是方阵才有行列式，需要行列式的重要原因就是求特征值！矩阵的行列式是一个数字，以
- 它告诉我们矩阵是否可逆，当行列式为0，矩阵不可逆
- 如果A可逆，那么
$A^{-1}$ 的行列式就是$1/ \det A$ - 实际上行列式可以得到一个公式，计算
$A^{-1}$ 的每一个元素
行列式的其中一个应用就是得到逆矩阵，主元，解 ad = bc,那么
行列式和主元也是有关联的,对于2-2矩阵,主元是 a和 d - (c/a)b,主元的乘积就是行列式
$$
a(d- \frac{c}{a} b) = ad - bc \quad \color{orange} \text{主元乘积=}\det A
$$
上述2-2矩阵,如果先行交换,那么主元变成 c 和 b- (a/c)d.这时候主元乘积是 bc-ad.行交换后行列式的符号改变了.
提前说明,n-n矩阵的行列式可以通过三种方法找到
- n个主元的乘积，再乘以1或-1: 这是主元公式(pivot formula)
- 把
n!个项加起来，再乘以1或-1: 这是大公式(big formula) - 组合
n个小的行列式，再乘以1或-1: 这是代数余子式公式(cofactor formula)
公式上都要乘以1或-1， 这时以为，n-n 矩阵有如下性质：当矩阵的两行或者两列放生交换，行列式改变正负号。
单位矩阵 I 的行列式是1,交换两行后的 P 的 det P = -1.再交换一次又变成 1 .一半的置换矩阵是偶次交换的(det P = 1),另外一半是奇次交换的( det P = -1).如下2-2的情况:
$$
\operatorname { det } \left[ \begin{array} { l l } 1 & 0 \ 0 & 1 \end{array} \right] = 1 \text { , }\quad \operatorname { det } \left[ \begin{array} { l l } 0 & 1 \ 1 & 0 \end{array} \right] = - 1
$$
另外一个至关重要的性质是线性(linearity),但首先警告,线性不意味着 det(A+B) = det A+detB,这是绝对错误的.就算 A = I 和 B=I 也是不对的.如果这是对的,那么 det(I+I) = det 2I = 2,实际上
我不打算从行列式的公式定义行列式,从性质开始是更好的，也就是
- 正负号转换
- 线性
这些性质是简单的,它们为公式的出现提供了准备.看完公式之后,我们将会学习行列式的3个应用
- 行列式给出了
$A^{-1}$ 和$A^{-1}b$ ,这个公式叫做克拉默法则 - 当一个箱子的边是A的行，那么它的体积就是
$|\det A|$ - 存在 n 个称为特征值的数值
$\lambda$ ，$A - \lambda I $ 的行列式是0。这在应用当中极其重要，<01-06>讲解
The Properties of Determinants
性质1-3是基础的,使用这3个性质，可以计算任何方阵的行列式。比如计算出2-2的A行列式是
性质1： n-n 单位矩阵的 I 的行列式是1
$$
\left| \begin{array} { l l } 1 & 0 \ 0 & 1 \end{array} \right| = 1 \quad \text { and } \quad \left| \begin{array} { l l l } 1 & & \ & \ddots & \ & & 1 \end{array} \right| = 1
$$
性质2： 当2行交换的时候，行列式改变正负号. 比如对于2-2矩阵，请验证： $\left| \begin{array} { l l } c & d \ a & b \end{array} \right| = - \left| \begin{array} { l l } a & b \ c & d \end{array} \right|$.
因为这个性质的存在，可求任何置换矩阵 P 的行列式： 一直交换行，直到 P 回到 I ,如果是偶数次交换，那么
性质3(linearity)： 行列式是关于矩阵每一行的==独立==线性函数(独立意味着：其它行保持不变).
注意这个性质只能在其他行把持不变的时候应用！注意如下示例，c,d不变！
- 第1行乘以
t,那么行列式乘以t： $\left| \begin{array} { c c } t a & t b \ c & d \end{array} \right| = t \left| \begin{array} { l l } a & b \ c & d \end{array} \right|$ - 把 A的行1 加到
A'的行1: $\left| \begin{array} { c c } a + a ^ { \prime } & b + b ^ { \prime } \ c & d \end{array} \right| = \left| \begin{array} { l l } a & b \ c & d \end{array} \right| + \left| \begin{array} { l l } a ^ { \prime } & b ^ { \prime } \ c & d \end{array} \right|$，可用2-2的公式验证一下，两边都是$ad + a'd - bc- b'c$ .
这个规则在 n - n也是适用的，需要 n-1 行保持不变。如下是 3-3 为例子 $$ \left| \begin{array} { l l l } 4 & 8 & 8 \ 0 & 1 & 1 \ 0 & 0 & 1 \end{array} \right| = 4 \left| \begin{array} { l l l } 1 & 2 & 2 \ 0 & 1 & 1 \ 0 & 0 & 1 \end{array} \right| ，\quad \left| \begin{array} { l l l } 4 & 8 & 8 \ 0 & 1 & 1 \ 0 & 0 & 1 \end{array} \right| = \left| \begin{array} { l l l } 4 & 0 & 0 \ 0 & 1 & 1 \ 0 & 0 & 1 \end{array} \right| + \left| \begin{array} { l l l } 0 & 8 & 8 \ 0 & 1 & 1 \ 0 & 0 & 1 \end{array} \right| $$ 性质3没有告诉行列式实际上是多少。但结合乘法和加法，我们得到1行的线性组合性质(其它行必须保持不变)，这个行可以是任何行，因为根据性质2，任何行可以切换到第一行，应用性质3，然后切换回来。
使用这个性质再看看一开始的 t,它的体积乘以
以上3个性质需要特别注意，它们可以完全确定一个矩阵行列式的值，从而我们可以得到 n - n矩阵的行列式公式，但我们还是先继续学习下面有性质1-3确定的性质，这些性质让行列式更好处理
性质4: 如果A的两行相等，那么
这是根据性质2得来的：假设2行相等，设
所以根据性质4，2行相等的矩阵，没有逆。但，就算没有相等的2行，矩阵也可能是奇异的，行列式为0，没有逆。
性质5: 将一行的数乘从另一行减去，$\det A$ 不变。 如前面消去
$$
\left| \begin{array} { c c } a & b \ c - \ell a & d - \ell b \end{array} \right| = \left| \begin{array} { l l } a & b \ c & d \end{array} \right| \quad \color{orange} \text{将 } r_1 的 \ell 倍从 r_2 减去
$$
仔细看看上式，可用性质3分解如下，后一项根据性质4为0，所以相等：
$$
\left| \begin{array} { c c } a & b \ c - \ell a & d - \ell b \end{array} \right| =
\left| \begin{array} { c c } a & b \ c & d \end{array} \right| -\ell \left| \begin{array} { c c } a & b \ a & b \end{array} \right|
$$
结论：如果没有行交换，常规的从A到U的消去，行列式不变，也就是
性质6：如果A的一行为0，那么
快速证明：加非0行加到0行上，根据性质5，行列式不变，此时2行相等，根据性质4，行列式为0.
性质7：如果A是三角矩阵，那么
- 对于下三角A,将下面行都减去上面行的数乘，消去非对角线元素
- 对于上三角A,将上面行都减去下面行的数乘，消去非对角线元素
根据性质5，以上行操作不改变行列式，最终产生一下对角矩阵：
$$
\text{Diagonal Matrix:} \quad \det \left[ \begin{array} { c c c c } a _ { 11 } & & & 0 \ & a _ { 22 } & & \ & & \ddots & \ 0 & & & a _ { n n } \end{array} \right] = a _ { 11 } a _ { 22 } \cdots a _ { n n }
$$
根据性质3，第一行提取 I 的行列式根据性质1，是1.
$$
\text{主元乘积:} \quad \operatorname { det } A = \pm \operatorname { det } U = \pm ( \text { product of the pivots } ) \tag{2}
$$
如果一个对角线元素
性质8：如果A是奇异的，那么
证明：消去可将A化为U
- 如果A是奇异，那么U有一个0行，从而
$\det A = \det U = 0$ - 如果A是可逆的，那么U的对角线元素就是主元，主元乘积，根据性质7，就是行列式，不为0.
性质9：AB的行列式就是A的行列式乘以B的行列式:$|AB|=|A||B|$
当
- 性质1：如果
A=I,那么D(A)是$|B|/|B| = |I| = 1$ - 性质2：当A的交换2行，AB的2行也交换，因此
$|AB|$ 正负号变换，最终 D(A) 正负号变换 - 性质3：
- 当A的行1乘以t，AB的行1也是，从而 |AB| 扩大 t 倍，从而 D(A) 扩大 t 倍，成立
- 当A的行1加上矩阵
A'的行1(A,A'只有行1不同)后，设为 $A^$,根据性质3行列式是 $\det A^ = \det A + \det A'$ ；另一方面，$A^*B$,相当于AB的行1加上了A'B的行1，也就是 $\det A^B = \det AB + \det A'B$,左式再除以 $\det B$，得到 $\det A = \det A + \det A'$.
结论: D(A) 有定义 |AB| = |A| |B| = 0
看看<01-02>学习的分解 PA = LU
- 如果偶数次行交换，那么
$\det P = 1$ ,奇数次行交换$\det P = -1$ . 从而$\det P = \pm 1$. - 而
$\det A = \pm \det U$ . - L是对角线元素都是1的下三角，$\det L = 1$.
所以 $$ PA =LU \quad \Rightarrow \det P \det A = \det L \det U \tag{3} $$
性质10：$A^T$ 的行列式等于 A 的行列式
因为，如果A是奇异的，那么 PA = LU 的分解,2边转置，得到
- 首先，$\det L = \det L^T = 1$,因为对角线都是1
- 其实，$\det U = \det U^T$,因为对角线元素相同
- 然后
$\det P = \det P^T$ ,因为置换矩阵$P^TP = I$ ，所以$|P^T||P| = 1$ ,所以，$p^T，P$ 同为1或者-1.
综上，$L,U,P$ 和
最后说明，以上所以适用于行的规则，也适用于列，因为
- 两列交换，行列式符号变换
- 一列为0，或者2列相等的行列式为0
- 如果一列乘以t，那么行列式也乘以t
- 行列式是关于每一列的独立的线性函数
- 行列式是通过
$\det I = 1,$ 符号变换和每一行的线性独立定义的，也就是性质1，2，3 - 消去后，$\det A = \pm (\text{product of pivots})$
- 当A不可逆，行列式为0
- 性质9，10特别值得注意
**1. ** 求矩阵M经过如下操作后的行列式
-
$a_{ij}$ 分别乘以$(-1)^{i+j}$ ,得到正负号交替出现的$M1$ - 行1，2，3分别减去行3，1，2，得到
$M_2$ - 行1，2，3分别加上行3，1，2，得到
$M_3$
如下是3个操作后的矩阵
$$
\left[ \begin{array} { r r r } a _ { 11 } & - a _ { 12 } & a _ { 13 } \ - a _ { 21 } & a _ { 22 } & - a _ { 23 } \ a _ { 31 } & - a _ { 32 } & a _ { 33 } \end{array} \right] \quad \left[ \begin{array} { l } \text { row } 1 - \operatorname { row } 3 \ \text { row } 2 - \operatorname { row } 1 \ \text { row } 3 - \operatorname { row } 2 \end{array} \right] \quad \left[ \begin{array} { l } \text { row } 1 + \operatorname { row } 3 \ \text { row } 2 + \text { row } 1 \ \text { row } 3 + \operatorname { row } 2 \end{array} \right]
$$
解：对于M1，其实就是：
$$
M _ { 1 } = \left[ \begin{array} { l l l } 1 & & \ & - 1 & \ & & 1 \end{array} \right] \left[ \begin{array} { l l l } a _ { 11 } & a _ { 12 } & a _ { 13 } \ a _ { 21 } & a _ { 22 } & a _ { 23 } \ a _ { 31 } & a _ { 32 } & a _ { 33 } \end{array} \right] \left[ \begin{array} { l l l } 1 & & \ & - 1 & \ & & 1 \end{array} \right]
$$
所以
**2. ** 解释一下，如下行列式如何求值？
$$
\operatorname { det } \left[ \begin{array} { c c c } 1 - a & 1 & 1 \ 1 & 1 - a & 1 \ 1 & 1 & 1 - a \end{array} \right]
$$
解：行1减去行3，行2再减去行3，得到
$$
\operatorname { det } \left[ \begin{array} { c c c } - a & 0 & a \ 0 & - a & a \ 1 & 1 & 1 - a \end{array} \right]
$$
现在，列3加上列1，列3再加上列2，变成
$$
\operatorname { det } \left[ \begin{array} { c c c } - a & 0 & 0 \ 0 & - a & 0 \ 1 & 1 & 3 - a \end{array} \right]
$$
所以行列式是
Permutations and Cofactors
- 计算机是通过主元公式求行列式的.而这一节介绍另外两种方法：
- 大公式使用的是
n!个排列 - 代数余子式公式使用的是
n-1大小的行列式
作为例子，参见如下A
$$
A = \left[ \begin{array} { r r r r } 2 & - 1 & 0 & 0 \ - 1 & 2 & - 1 & 0 \ 0 & - 1 & 2 & - 1 \ 0 & 0 & - 1 & 2 \end{array} \right] \quad \det A = 5
$$
参见例2，主元是
- 主元乘积是5
- 大公式有
4!=24个项，只有5项非0：$\det A = 16-4-4-4+1 = 5$,学习了 Eq(8) 之后，请独立找出这5个项 - 第1行的数字 2，-1，0，0，乘以来自其他行的代数余子式 4，3，2，1.得到 $24 - 13 = 5$.这些代数余子式都是3-3的行列式，是因为排除了第一行元素所在的行和列。在例6我们还会看见这个矩阵
The Pivot Formula
矩阵消去之后,U的对角线元素是
例1. 下面的A，经过1次行交换，产生主元4，2，1，因为秩交换1次，所以行列式乘以-1 $$ A = \left[ \begin{array} { l l l } 0 & 0 & 1 \ 0 & 2 & 3 \ 4 & 5 & 6 \end{array} \right] \quad P A = \left[ \begin{array} { l l l } 4 & 5 & 6 \ 0 & 2 & 3 \ 0 & 0 & 1 \end{array} \right] \quad \operatorname { det } A = - ( 4 ) ( 2 ) ( 1 ) = - 8 $$
例2没有行交换,主元可以得到行列式,我们也会看到，行列式怎么得到主元
例2. 如下三对角矩阵的主元是
\left[ \begin{array} { r r r r r } 1 & & & & \ - \frac { 1 } { 2 } & 1 & & & \ & - \frac { 2 } { 3 } & 1 & & \ & & \cdot & \cdot & \ & & & - \frac { n - 1 } { n } & 1 \end{array} \right]
\left[ \begin{array} { r r r r r } 2 & - 1 & & & \ & \frac { 3 } { 2 } & - 1 & & \ & & \frac { 4 } { 3 } & - 1 & \ & & & \cdot & \cdot \ & & & & \frac { n + 1 } { n } \end{array} \right] = LU
$$
主元在 U 的对角线上，所以，当A是 4-4 的，主元乘积=行列式=5，n-n 的时候就是 n+1.所以，3条对角线分别是 -1，2，-1 的矩阵A的行列式是
$$
\det A = 2 * \frac{3}{2} ...\frac{n+1}{n} = n+1
$$
关键(全部矩阵都可，而不仅仅是例2)： 如果没有行交换，那么第一个主元，只取决于原始矩阵 A 的左上角元素。更进一步，前 k 个主元，来自 A 的左上部分的子矩阵
- 1-1 的
$A_1$ 就恰恰包含第一个主元$d_1$ ，$\det A_1 = d1$ - 2-2 的
$A_2$ 有$\det A_2 = d_1d_2$
最终，n-n的
没有行交换，那么消去，就在处理整个矩阵的过程中，顺便处理了子矩阵
d _ { k } = \frac { d _ { 1 } d _ { 2 } \cdots d _ { k } } { d _ { 1 } d _ { 2 } \cdots d _ { k - 1 } } = \frac { \operatorname { det } A _ { k } } { \operatorname { det } A _ { k - 1 } }
\quad \color{orange} \text{= The kth pivot} \tag{3}
$$
在例2的-1，2，-1矩阵当中，这个比例给出了主元
update:完成习题31
The Big Formula for determinants
主元公式很好计算，但是矩阵的元素 n! 个项,一半项是负号，一半项是正号，如2-2是 ad -bc,3-3的是
$$
\left| \begin{array} { l l l } a _ { 11 } & a _ { 12 } & a _ { 13 } \ a _ { 21 } & a _ { 22 } & a _ { 23 } \ a _ { 31 } & a _ { 32 } & a _ { 33 } \end{array} \right| = \begin{array} { l } + a _ { 11 } a _ { 22 } a _ { 33 } + a _ { 12 } a _ { 23 } a _ { 31 } + a _ { 13 } a _ { 21 } a _ { 32 } \ - a _ { 11 } a _ { 23 } a _ { 32 } - a _ { 12 } a _ { 21 } a _ { 33 } - a _ { 13 } a _ { 22 } a _ { 31 } \end{array}
\quad \color{orange} \text{3 by 3 det，3!=6项}
\tag{4}
$$
注意模式,每一项里都有每一行和每一列的元素,行下标 1,2,3 是固定的,但是列下标是 1,2,3 的排列，也是为什么会有 n! 项的原因，而且这个排列会告诉我们此项的正负号。
我们从2-2的矩阵推导这个公式,使用线性化的性质
$$
\begin{aligned} \left| \begin{array} { l l } a & b \ c & d \end{array} \right| & = \left| \begin{array} { l l } a & 0 \ c & d \end{array} \right| + \left| \begin{array} { l l } 0 & b \ c & d \end{array} \right| \ & = \left| \begin{array} { l l } a & 0 \ c & 0 \end{array} \right| + \left| \begin{array} { l l } a & 0 \ 0 & d \end{array} \right| + \left| \begin{array} { l l } 0 & b \ c & 0 \end{array} \right| + \left| \begin{array} { l l } 0 & b \ 0 & d \end{array} \right| \end{aligned} \tag{5}
$$
最后会出现
再看看3-3的情况，对每一行使用线性化性质，一行可以拆分出3个行列式，其它2行不变，最终，$\det A$ 拆分成 $3^3 = 27 $ 个简单的行列式，但注意，其中一些行列式为0，比如，拆分$r_1$
$$
\left[\begin{matrix} a_{11} & 0 & 0\ & r_2 & \ & r_3 & \\end{matrix} \right],
\left[\begin{matrix} 0 & a_{12} & 0\ & r_2 & \ & r_3 & \\end{matrix} \right]，
\left[\begin{matrix} 0 & 0 & a_{13}\ & r_2 & \ & r_3 & \\end{matrix} \right]
$$
以上就是拆分完成第1行得到的3个矩阵，每一个拆分
如下是不为0的行列式， $$ \left| \begin{array} { l l l } a _ { 11 } & a _ { 12 } & a _ { 13 } \ a _ { 21 } & a _ { 22 } & a _ { 23 } \ a _ { 31 } & a _ { 32 } & a _ { 33 } \end{array} \right|
= \left| \begin{array} { c c c } a _ { 11 } & & \ & a _ { 22 } & \ & & a _ { 33 } \end{array} \right|
- \left| \begin{array} { c c c } & a_{12} & \ & & a_{23} \ a_{31} & & \end{array} \right|
- \left| \begin{array} { c c c } & & a_{13}\ a_{21} & & \ & a_{32} & \end{array} \right|
\[4ex]
= \left| \begin{array} { c c c } a _ { 11 } & & \ & & a_{23}\ & a_{32} & \end{array} \right|
- \left| \begin{array} { c c c } & a_{12} & \ a_{21} & & \ & & a_{33} \end{array} \right|
- \left| \begin{array} { c c c } & & a_{13}\ & a_{22} & \ a_{31} & & \end{array} \right|
\quad \color{orange} \text{6项}
$$
行列式不为0的列号都不相同，因为有 3!=6 种方式排列列号，所以有6项不为0.如下是列号的6种排列
$$
\text{Column numbers}= ( 1,2,3 ) , ( 2,3,1 ) , ( 3,1,2 ) , ( 1,3,2 ) , ( 2,1,3 ) , ( 3,2,1 ) \tag{6}
$$
注意这里的思想：如前所述，当把行号顺序固定为1,2,3.上述拆分的6项当中，其实就是对列号的排列，每个不同的列号排列，都是非0元素。 每一项，再根据线性化的性质提取除每行的元素，留下的都是置换矩阵。而置换矩阵变回I 需要行交换的次数，如果是奇数，称为奇排列，取-1,如果偶数，称为偶排列,取 +1。如下 Eq7) 当中，前3个是偶排列(0 or 2 exchanges)，后3个是奇排列(odd permutations,one exchange).当列号的序列是
其中 (1,2,3) 叫做单位排列(identity permutation),也就是列号和置换矩阵
= a_{11}a_{22}a_{33}\left| \begin{array} { c c c } 1 & & \ & 1 & \ & & 1 \end{array} \right|
- a_{12}a_{23}a_{31}\left| \begin{array} { c c c } & 1 & \ & & 1 \ 1 & & \end{array} \right|
- a_{13}a_{21}a_{32}\left| \begin{array} { c c c } & & 1 \ 1 & & \ & 1 & \end{array} \right|
\[4ex]
= a_{11}a_{23}a_{32}\left| \begin{array} { c c c } 1 & & \ & & 1\ & 1 & \end{array} \right|
- a_{12}a_{21}a_{33}\left| \begin{array} { c c c } & 1 & \ 1 & & \ & & 1 \end{array} \right|
- a_{13}a_{22}a_{31}\left| \begin{array} { c c c } & & 1\ & 1 & \ 1 & & \end{array} \right|
\tag{7}
$$
选择 det P = 1,后面3个奇排列是 det P = -1.这样我们就系统的证明了3-3矩阵的行列式公式
现在看看n-n的,列号有 n! 排列方式,一半是正号,一半是负号,A的行列式就是n个简单行列式的和，设
\tag{8} $$
sp：置换
$P = (\alpha,\beta...\omega)$ 的意思是，矩阵A分解后并提取每行元素的值之后，剩下的行列式，不为0元素都是1，而且这些为1的元素，列号顺序也和置换矩阵P相同。总感觉有点难以描述，自己理解把
例3.U的行列式 上三角的U的行列式根据大公式展开之后，n!项中，只有对角线1项不为0：$\det U = +u_{11} +...+ u_{nn}$,其他项的列号序号，最少有一个是对角线之下元素，所以是0
例4. 假设Z除了列3，其他和 I 一样，那么
$$
\det Z = \left| \begin{array} { l l l l } 1 & 0 & a & 0 \ 0 & 1 & b & 0 \ 0 & 0 & c & 0 \ 0 & 0 & d & 1 \end{array} \right| = c \tag{9}
$$
结果c这一项，来自于对角线的 +1*1*c*1。 还有另外23项都是0，这时因为，如果从列3选择a,b或者d，那么列3的列号就被使用了，从而行3进行选择的时候，c就不能选了，而这时候行3其他元素都是0。
还可以这样判断：如果c是0，那么Z存在1个零行，所以$\det Z = 0$.如果c不为0，那么其他行可以减去行3的数乘，从而消去a,b,d，Z变成了对角矩阵，$\det Z= c$
例5. 假设A仅在对角线之上和之下有1元素，这里$n = 4$ $$ A _ { 4 } = \left[ \begin{array} { l l l l } 0 & 1 & 0 & 0 \ 1 & 0 & 1 & 0 \ 0 & 1 & 0 & 1 \ 0 & 0 & 1 & 0 \end{array} \right] \quad \text { and } \quad P _ { 4 } = \left[ \begin{array} { l l l l } 0 & 1 & 0 & 0 \ 1 & 0 & 0 & 0 \ 0 & 0 & 0 & 1 \ 0 & 0 & 1 & 0 \end{array} \right] $$
- 第1行只有列2的非0元素可以选择
- 第4行只有列3的非0元素可以选择
所以行2，行3只能选择列1和列4，也就是说，$P_4$ 就是选择除 I，行列式是+1，所以$\det A_4 = +1$
Determinant By Cofactors
Eq(8)就是行列式的正式定义，一次性给出了你所有的信息，但比较复杂。但这个公式必须满足性质1，2，3,从而满足所有性质。性质1 $\det I =1 $ 很明显。对于线性化性质，如果我们提取出 2-2 的矩阵的行列式.那么沿着第一行展开,我们可以得到
$$
\det A= a_{11} C_{11} + a_{12} C_{12}+ a_{13} C_{13}
$$
明显,上述公式线性依赖与
$a_{11}$ 的代数余子式是 $C_{11}= a_{22} a_{33} − a_{23} a_{32}$ ,Eq(10) 的拆分如下：
$$
\left| \begin{array} { l l l } a _ { 11 } & a _ { 12 } & a _ { 13 } \ a _ { 21 } & a _ { 22 } & a _ { 23 } \ a _ { 31 } & a _ { 32 } & a _ { 33 } \end{array} \right|
\left| \begin{array} { l l l } a _ { 11 } & & \ & a _ { 22 } & a _ { 23 } \ & a _ { 32 } & a _ { 33 } \end{array} \right|
- \left| \begin{array} { l l l } & a _ { 12 } & \ a _ { 21 } & & a _ { 23 } \ a _ { 31 } & & a _ { 33 } \end{array} \right| +
\left| \begin{array} { l l } & & a _ { 13 } \ a _ { 21 } & a _ { 22 } & \ a _ { 31 } & a _ { 32 } & \end{array} \right|
$$
我们仍然是每一行每一列选出一个元素! 因为
$a_{11}$ 已经使用了第1行第1列,所以剩下一个2-2行列式作为代数余子式.
还需要确定一下正负号.如果沿着行 1 展开代数余子式公式，那么划去行1，列 j ，得到大小为 n-1 的子矩阵
n-n矩阵A沿着行1的展开的代数余子式分别是$C_{1j} = (-1)^{1+j} \det M_{1j}$ （正负号的是代数余子式，不带正负号的称为余子式）,其中$M_{1j}$ 是把A矩阵$a_{1j}$ 元素所在行，列去掉后产生的n-1个行列的矩阵,那么代数余子式展开公式是 $$ \det A= a_{11} C_{11} + a_{12} C_{12}+...+ a_{1n} C_{1n} \tag{11} $$
其实，Eq(11)就是 Eq(8),Eq(10)的另一种形式而已，都是沿着行1展开，然后计算剩下的代数余子式。注意，不仅仅而已沿着行1展开，任何行都可以。行 i 的元素 i列j 的子矩阵。
矩阵A的行列式，等于，任何行
i和沿着此行展开的代数余子式的点乘： $$ \det A= a_{i1} C_{i1} + a_{i2} C_{i2}+...+ a_{in} C_{in} \tag{12} \quad \color{orange} \text{Cofactor Formula} $$ 每个代数余子式$C_{ij}$ 都是去掉原始矩阵的行i列j的 n -1 阶的行列式$\det M_{ij}$ 乘以一个正负号： $$ C_{ij} = (-1)^{i+j} \det M_{ij} \quad \color{orange} \text{Cofactor} $$
所以，一个n阶的行列式是 n-1 阶行列式的组合,一直递归下去,n-1 阶行列式又是 n-2 阶行列式的组合，最终达到1阶行列式，我们定义 1 阶行列式
但我还是情愿用性质1-3定义行列式，而Eq(8,10,12)遵循这些公式。其中性质10是 j 列
$$
\text{Cofactors down column j} : \quad \text { det } A = a _ { 1 j } C _ { 1 j } + a _ { 2 j } C _ { 2 j } + \cdots + a _ { n j } C _ { n j } \tag{13}
$$
代数余子式在矩阵有很多0的时候特别好用，如下例
例6. 本节一开始的-1，2，-1矩阵A，第1行只有2个非0元素，所有只有2个代数余子式
-
$C_{11}$ 是小1阶的A矩阵，对角线和对角线之上，之下也是-1，2，1 - 对于
$C_{12}$ ,沿着第1列继续展开，只有$a_{11} =-1$ 一个非0元素，而且代数余子式是小2阶的A：对角线和对角线上下分别是-1，2，1
所以，任何 n 阶的 <math/01-04> 求解),和例2通过主元公式求得的一致。
例7. 如下矩阵除了最左上角元素是1，其他和例6一样
$$
B _ { 4 } = \left[ \begin{array} { r r r r } 1 & - 1 & & \ - 1 & 2 & - 1 & \ & - 1 & 2 & - 1 \ & & - 1 & 2 \end{array} \right]
$$
通过消去可得知主元都是1，从而行列式是1.再通过行1展开代数余子式，得到类似例6的式子
$$
\det B_4 = A_3 - A_2 = 4-3 = 1
$$
从而
- 如果没有行交换，那么
$\det A = 主元乘积$ ； 而且左上角的子矩阵$\det A_k = 前k个主元乘积$ - Eq(8)的每一项，使用了每一行每一列恰好1次，一共n!项，一般是正号，一半是负号
- 代数余子式
$C_{ij}$ 是$(-1)^{i+j}$ 乘以 去掉行 i 列 j 的小1阶的行列式。行列式可通过一行或者一列的代数余子式展开得到，所以如果矩阵很多0，那么只需要计算很少的项。
1. Hessenberg 矩阵是比下三角矩阵多一条对角线元素的矩阵，如下所示。使用代数余子式公式展开行1，证明 4-4的矩阵满足斐波那契额规则
2. 如果将矩阵的每个元素
解： i = 1,2...n 和除以了列号 j=1...n(虽然列号是顺序是被排列过)，所以单做作为一项的
换种方式，首先，每个元素都是乘以了行号 i,相当于被对角矩阵 D = diag(1:n) 左乘；然后每个元素除以列号 j，相当于右乘
- Cramer's Rule, Inverses, and Volumes
- 叉乘,和三重积,在
<calculus/01-12>也提到
这一节，通过代数方法，而不是消去，求解Ax= b. 而且我们会逆A，得到
克拉默法则可以给出 Ax = b 的解的分量. 把 I 的第一列换成x得到一个行列式是
\quad \color{orange} \text{Key idea}
\tag{1}
$$
如果我们每次只乘以一列,根据行列式性质9的乘法规则，可得：
$$
( \operatorname { det } A ) \left( x _ { 1 } \right) = \operatorname { det } B _ { 1 } \quad \text { or } \quad x _ { 1 } = \frac { \operatorname { det } B _ { 1 } } { \operatorname { det } A } \tag{2}
$$
这就是克拉默法则的关于x第一个分量的公式!,改变A的一列可以得到$B_1$ . 以同样的原理，为了求得 I 的第二列,这个矩阵的行列式是
Gramer's Rule
如果
$\det A$ 非0，那么 Ax = 0 可通过行列式求解 $$ x _ { 1 } = \frac {\det B _ { 1 } } { \det A } \quad x _ { 2 } = \frac {\det B _ { 2 } } { \det A } \quad \ldots \quad x _ { n } = \frac { \operatorname { det } B _ { n } } { \operatorname { det } A } \tag{4} $$ 其中矩阵$B_j$ 是A的第j列被向量b替换
例1. 求解
为了求解 n-n 的系统，克拉默法则需要计算 n+1 个行列式(1个A和n个B‘s),而每个行列式，根据大公式，都有 n! 项，从而，一共需要计算
例2. 可通过方程组是 d,-c,-b,a(它们都是代数余子式！)，那么
$$
x _ { 1 } = \frac { d } { | A | } , x _ { 2 } = \frac { - c } { | A | } , y _ { 1 } = \frac { - b } { | A | } , y _ { 2 } = \frac { a } { | A | } ,
\quad \Rightarrow A ^ { - 1 } = \frac { 1 } { a d - b c } \left[ \begin{array} { r r } d & - b \ - c & a \end{array} \right]
$$
2-2的例子虽然简单,但是可以把观点阐述清楚.关键是代数余子式的出现,当方程右侧的 b 向量 I 的列时,克拉默法则当中的每一个矩阵
\quad \color{orange} \text{Determinants = Cofactors of A} \tag{5}
$$
第1个行列式 (2,1) 位置的元素，不是(1,2)! 所以我们转置代数余子式矩阵,然后像往常一样除以det A
$A^{−1}$ 得i,j元素是代数余子式$C_{ji}$ (==不是==$C_{ij}$ ) 除以$\det A$ : $$ \left( A ^ { - 1 } \right) _ { i j } = \frac { C _ { j i } } { \operatorname { det } A } \quad \text { and } \quad A ^ { - 1 } = \frac {C^T} {\det A }\quad \color{orange} \text{Formula for }A^{-1}
\tag{6} $$
C称为代数余子式矩阵(cofactor matrix),转置得到
$C^T$ ,称为伴随矩阵
sp:理解一下。以Eq(5)为例，3个代数余子式分别是
$C_{11},C_{12}，C_{13}$ ，是第一行的，但这时候求解的是$A^{-1}$ 第一列的$x_1,x_2,x_3$ ！所以需要转置变成$C^T$ !
现在有了逆矩阵的公式
$A ^ { - 1 } = \frac {C^T} {\det A }$ ,我们在看看克拉默法则。$x = A^{-1}b$ ,也就是 $$ x = A ^ { - 1 }b = \frac {C^T} {\det A } b $$ 克拉默法则就是建立在这个原理之上的公式.方程的解总有行列式的出现.注意$C^Tb$,是代数余子式乘以向量b的各个分量,就是余子式乘以数字(就像是某个矩阵的行列式),所以也可以表示为矩阵,比如$C^T$第1行乘以b得到矩阵,那么 $$ x _ { 1 } = \frac {\det B _ { 1 } } { \det A } \quad x _ { 2 } = \frac {\det B _ { 2 } } { \det A } $$ 克拉默的高明之处在于,他发现了B矩阵的规律,我们先看看$B_1$,$B_1$的第一列是b,其他列就是A的2-n列,也就是把b换到矩阵A的第一列(沿第一列展开就可以看到行列式是$C^Tb$ ...最终得到$x_i= \frac {\det B_i } { \det A}$
用这个方法检查 (3,1) 元素,此元素位于 Eq(5) 的第3个行列式,恰好就是
总结:求解 b 都是 I 的列，使用克拉默法则，即得到Eq(6) 关于
还可以直接证明一下公式 $ A^{−1} = \frac { C ^ { \mathrm { T } } } { \operatorname { det } A }$ ：A乘以 A 相同，都是 (2,1) 位置。本例可以发现，三角矩阵的逆矩阵还是三角矩阵，代数余子式给出了理由。
Area of a triangle
三角形的面积公式是 1/2*底*高，非常简单,但这个公式没有告诉我们,如果知道了三角形的三个顶点
行列式计算面积就很方便,三角形的面积就是3-3行列式的一半,如果一个顶点在原点上,如
顶点是
$(x_1,y_1),(x_2,y_2),(x_3,y_3)$ 的三角形，面积是 $$ \text { Area } = \frac{1}{2} \left| \begin{array} { l l l } x _ { 1 } & y _ { 1 } & 1 \ x _ { 2 } & y _ { 2 } & 1 \ x _ { 3 } & y _ { 3 } & 1 \end{array} \right| ， \quad \text { 当 } \left( x _ { 3 } , y _ { 3 } \right) = ( 0,0 ) :\text{Area} =\frac { 1 } { 2 } \left| \begin{array} { l l } x _ { 1 } & y _ { 1 } \ x _ { 2 } & y _ { 2 } \end{array} \right| $$
sp:注意,这里定义的时候没有提到绝对值,但下面证明的时候可看出来,应该是本书的一个小错误。实应该是,先求行列式作为面积，如果是负数，再取绝对值。是先把“面积“定义为可为负数，最后如果是这个面积是负数，再取绝对值。
这些公式没有任何的平方根.而且，如Fig5.1的第3个三角形,其内部包含了原点,从而分解为3个有1个顶点在原点的三角形.所以上式3-3的行列式，可再分解为3个2-2行列式的和 $$ \text{列3展开代数余子式} \quad \text{Area}= \frac { 1 } { 2 } \left| \begin{array} { l l l } x _ { 1 } & y _ { 1 } & 1 \ x _ { 2 } & y _ { 2 } & 1 \ x _ { 3 } & y _ { 3 } & 1 \end{array} \right| = \begin{array} { l } + \frac { 1 } { 2 } \left( x _ { 1 } y _ { 2 } - x _ { 2 } y _ { 1 } \right) \ + \frac { 1 } { 2 } \left( x _ { 2 } y _ { 3 } - x _ { 3 } y _ { 2 } \right) \ + \frac { 1 } { 2 } \left( x _ { 3 } y _ { 1 } - x _ { 1 } y _ { 3 } \right) . \end{array} \tag{9} $$
sp:注意上式第3项,是 2,3元素展开的余子式,本来应该是
$-(x_1y_3 - x_3y_1)$ ,只是把负号丢进括号里面而已
如果 (0,0) 在三角形外面,和也是原始三角形的面积,只是可能2个拆分的三角形面积是负数.现在的问题是解释特殊的面积
为什么这个是三角形的面积?把 1/2 去掉,就变成平行四边形的面积.我们现在证明,,从原点开始的平行四边形,面积是行列式
有很多证明方法,但本书使用一个另辟蹊径的证明,而不是使用平面几何.我们证明这个面积具有行列式的性质1-3,所有面积就是一个行列式!记住,性质1-3定义了行列式,从而可得到其他性质.
- 当
A= I,平行四边形就是一个单位正方形,它的面积是$\det I = 1$ - 当行交换,行列式变换正负号,但其绝对值不变,而平行四边形形交换顶点后还是同一个平行四边形,面积也不变
- 如果行1乘以1,Fig5.1(a)展示面积也是乘以t; 再假设一个新的行
$(x_1',y_1')$ 被加到$(x_1,y_1)$ ,而行2不变,Fig5.3(b)展示了,2个实线平行四边形,面积加起来是虚线平行四边形的面积,因为上下2个三角形是全等的。(sp:注意Fig5.3(b)是二维图像，而不是三维图像)
sp:第3点可能有点困惑
- 其实平行四边形就是由3个点确定的啊,其中一个已经在原点,所以当Fig5.3(a)的
$(x_1,y_1)$ 乘以t,虽然第3个点不变,但是第4个点必须也跟着延伸- 乘以
t是等比例延伸,所以Fig5.3(a)可以直接延伸出去,而加上数字$x1',y1'$ 不是等比例,所以看上去是"横着"延伸，但注意还是二维图像！
这个证明有一个很大的亮点--对于n维也是成立的.从原点出发的n条边,作为一个n-n矩阵的行,Fig5.4展示了一个3-3的盒子,而且边之间的角度不是直角,体积等于A行列式的绝对值,证明还是检查体积满足行列式的三个性质.当其中一条边乘以一个因子 t,体积也扩大了 t倍.当边1加上了边1',新的物体的边1变成 边1+边1',体积是两个物体之和.
- 如果是单位正方形，那么体积=1，而
$\det I= 1$ - 行交换也就是盒子的边交换，盒子形状是不变的，所以体积的绝对值不变。而行列式改变正负号，指示边是右手系(right-handed triple,det A>0)或者左手系(left-handed triple，det A < 0).
所以体积满足行列式，所以体积=行列式的绝对值
例5. 起始点在原点的一个边是90度的矩形体，长宽高分别是 r,s,t，所以体积是
例6. 在微积分，为了积分一个圆形，我们变换到极坐标下 J 乘以 J = r 将会称为面积为分 r.J其实相当于一个伸缩因子。
sp:关于雅克比矩阵，参见
<calculus/01-15>
The Cross Product
叉乘是另外一种应用,特别是在三维下很有用.从向量 2-2 的代数余子式,我们会解释
Definition:Cross priduct
$u = (u_1,u_2,u_3),v = (v_1,v_2,v_3)$ 的叉乘是一个向量： $$ \boldsymbol { u } \times \boldsymbol { v } = \left| \begin{array} { c c c } \boldsymbol { i } & \boldsymbol { j } & \boldsymbol { k } \ u _ { 1 } & u _ { 2 } & u _ { 3 } \ v _ { 1 } & v _ { 2 } & v _ { 3 } \end{array} \right| =\left( u _ { 2 } v _ { 3 } - u _ { 3 } v _ { 2 } \right) \boldsymbol { i } + \left( u _ { 3 } v _ { 1 } - u _ { 1 } v _ { 3 } \right) \boldsymbol { j } + \left( u _ { 1 } v _ { 2 } - u _ { 2 } v _ { 1 } \right) \boldsymbol { k } \tag{10} $$ 叉乘得到的向量和 u,v 都垂直。而
$v \times u = -(u \times v)$
从3-3的行列式,我们可以快速的记住 i,j,k，其它行是数字。所以Eq(10)行列式的结果是一个向量。比如
下面我们列出叉乘的性质:
-
参见定义，$v \times u$ 交换了行列式的行2和行3，所以等于
$-(u \times v)$ -
$u \times v$ 和u，v都垂直，可直接通过点乘为0证明 $$ u \cdot ( u \times v ) = u _ { 1 } \left( u _ { 2 } v _ { 3 } - u _ { 3 } v _ { 2 } \right) + u _ { 2 } \left( u _ { 3 } v _ { 1 } - u _ { 1 } v _ { 3 } \right) + u _ { 3 } \left( u _ { 1 } v _ { 2 } - u _ { 2 } v _ { 1 } \right) = 0 \tag{11} $$ 观察 Eq(11),和Eq(10)比较一下，这时行列式的第一行相当于是$u$ 的3个分量，所以现在的行分别是 u,u,v，所以行列式为0。 -
任何向量和自身的叉乘都是0(参见定义，得到2个相等行的行列式)：
$u \times u = 0$
当u,v平行，叉乘为0，当u,v垂直，点乘为0，其中一个涉及到
例8. (1,-1,0) 和u,v都垂直,面积是
例9. u = (1,0,0),v = (0,1,0) 的叉乘遵循右手规则,这里u,v叉乘的结果是指向上方的,而不是下方
因此,i x j = k.而从右手规则,我们可以得到 j x k = i,k x i = j.注意这个顺序是循环的.如果反方向(逆循环)叉乘的话,我们得到 k x j = -i, i x k = -j, j x i = -k.你可以看到3-3行列式的3个正号和3个负号.
u x v 的定义可以基于向量,而不是它们的分量:
Definition: 叉乘的结果是一个向量，其长度是
$|u||v| |\sin \theta|$ ,其方向是 u,v 垂直，并且这个方向是根据右手规则确定的。
这个定义对物理学家更有吸引力,它们不喜欢选择坐标系和坐标轴.它们把 F 和 u 平行,那么 u x F = 0--没有任何的旋转力.叉乘 u x F 是旋转力或者扭转力(torque).它指向旋转轴(和u,F垂直),它的长度 |u| |F| sinθ 度量的是产生扭转的动动量("moment" that produces turning ).
Triple Product = Determinant= Volume
因为
- 原因1：
u x v和这个平面垂直,所以和w的点乘是0 - 原因2：在同平面的3个向量是非独立的,矩阵是奇异的,所以行列式0
- 原因3：当
u,v,w同一个平面,它们组成的盒子被的体积是0
<01-06> 我们学习奇异.
- 克拉默法则是这样求解Ax = b的:$x_1=|B_1 |/(|A|)=(|b;a_2…a_n |)/(|A|)$
- C是A的余子式矩阵(cofactor matrix),逆矩阵的公式是
$A^{−1}=C^T/\det A $ - 当盒子的边是A的行的时候,盒子的体积是
|det A| -
$R^3$ 下,u x v和u,v垂直
**1. ** 如果A是奇异的，那么 x = cofactors 的方式，求解 Ax = 0：
$$
A = \left[ \begin{array} { l l l } 1 & 4 & 7 \ 2 & 3 & 9 \ 2 & 2 & 8 \end{array} \right] \quad A = \left[ \begin{array} { l l l } 1 & 1 & 2 \ 1 & 1 & 1 \ 1 & 1 & 1 \end{array} \right]
$$
Ax =0 的解。因为A的秩为2，所以零空间最少有1个非0解。
解： 首先看第一个矩阵，第1行的代数余子式是
$$
\left| \begin{array} { l l } 3 & 9 \ 2 & 8 \end{array} \right| = 6 \quad - \left| \begin{array} { l l } 2 & 9 \ 2 & 8 \end{array} \right| = 2 \quad \left| \begin{array} { l l } 2 & 3 \ 2 & 2 \end{array} \right| = - 2
$$
所以向量 x= (6,2,-2) 就是求解 Ax = 0的解。而第2行的代数余子式是 (-18,-6,6)，其实就是第一行代数余子式的倍数而已，也在A的零空间里面。
第2个矩阵，第1行的代数余子式是0，当然 x=(0,0,0) 肯定是在零空间的，但这个不重要，第2行的代数余子式是 x=(1,-1,0)。这个是零空间的基。
对于任何 n-n 的的秩为n-1的矩阵，根据<EX 01-03 12>，我们最少可的大1个非0的代数余子式的向量作为零空间。但对于秩为n-2,所有的代数余子式都是0，所以这种方法行不通，我们只能找到 x = 0.
sp:上面的习题还没有做，以后补充，另外，为何秩=n-2的时候，只能找到x = 0呢？？
2. 对如下的Ax = b，使用克拉默法则的
解： b = (0,0,1) 是 I 的第3列。A其它行的代数余子式，除以 detA = 2，可以得到