线性代数学习笔记(1)

线性代数(Linear Algebra)学习笔记

向量(Vectors)

在空间中,向量可以表示为一个有方向有长短的箭头。(数学中的向量为自由向量,是没有起点的。在线性代数中,通常使向量的起点为原点,此图以二维为例)

向量

在运算时,因为线性代数中向量以原点为起点,所以用中括号扩起来的竖着写的坐标表示一个从原点指向终点(a,b)的向量。(以二维为例)

[ab]\begin{bmatrix} a\\ b \end{bmatrix}

这里的aabb也可以表示为从原点向xx轴正方向移动aa格,再向yy轴正方向移动bb格(多维向量同理)。

向量的基础运算

向量加法(Vector Addition)

两个向量之间的加法遵从三角形法则 ,即将一个向量u\vec{u}的起点移到另一个向量v\vec{v}的终点上。两向量只和的新向量的起点即为向量v\vec{v}的起点,新向量的终点即为向量u\vec{u}的终点,表示为u\vec{u} + v\vec{v} = w\vec{w}。(图中以二维为例)

或者,我们将u\vec{u}表示为[ab]\begin{bmatrix} a\\ b \end{bmatrix},将v\vec{v}表示为[cd]\begin{bmatrix} c\\ d \end{bmatrix}

因为向量可以表示为从起点向终点的移动,所以我们也可以把向量加法理解为先向xx轴正方向移动a+ca + c格,再向yy轴移动b+db + d格,所以w\vec{w}也可以表示为[a+cb+d]\begin{bmatrix} {a + c}\\ {b + d} \end{bmatrix}。则向量加法也可以表示为:

[ab]+[cd]=[a+cb+d]\begin{bmatrix} a\\ b \end{bmatrix} + \begin{bmatrix} c\\ d \end{bmatrix} = \begin{bmatrix} {a + c}\\ {b + d} \end{bmatrix}

向量数乘(Multiplication Of Vector By Scalar)

向量数乘表示向量与一个标量相乘。对于标量nnnun\vec{u}表示为将向量u\vec{u}的长度扩大n|n|倍,注意:当n<0n < 0时,应将向量反向,再扩大n|n|倍。这种使向量放大或缩小的操作称之为向量的缩放,用于缩放向量的量称之为标量(Scalars)。因为数字在线性代数中起到的主要作用是缩放向量,所以通常“标量”与“数字”两个词在这里可以互相替换。因为向量可以理解为起点到终点的移动,所以数乘也可以表示为移动格数的缩放:

n[xy]=[nxny]n·\begin{bmatrix} x\\ y \end{bmatrix} = \begin{bmatrix} {n x} \\ {n y} \end{bmatrix}

基向量

对于平面中的向量[32]\begin{bmatrix} 3\\ 2 \end{bmatrix},我们可以将它的两个坐标看作两个标量,也就是如何缩放两个向量。而在xOyxOy坐标系中,有两个特殊的向量:i^\hat{i}j^\hat{j}i^\hat{i}指向xx轴正方向,长度为1,或者称为xx方向的单位向量;j^\hat{j}指向yy轴正方向,长度为1,或者称为yy方向的单位向量。所以我们可以将[32]\begin{bmatrix} 3\\ 2 \end{bmatrix}的横纵坐标视为使i^\hat{i}放大3倍与使j^\hat{j}放大2倍的两个标量。被缩放的向量i^\hat{i}j^\hat{j}则称之为坐标系的基向量(Basis Vectors)。(基向量的严格定义——张成该空间的一个线形无关向量的集合,下文会讲线形无关。)

张成空间

所以我们可以用任意两个不共线的向量来表示一个坐标系。

我们选取向量u\vec{u}与向量v\vec{v},则有w=xu+yv\vec{w}=x\vec{u}+y\vec{v},而当u\vec{u}v\vec{v}不共线时可取到的w\vec{w}布满整个平面。当这两个向量恰好共线时,所产生的向量的终点被限制在这两个向量所在的线上;当这两个向量不幸都是零向量时,所产生的向量只能乖乖呆在原点上。在这里,所有可以表示为向量的线形组合的集合称为给定向量的张成空间(The Span Of Those Vectors)

线性组合

像上文中,两个向量数乘之和的结果被称之为向量的线形组合(Linear Combinations)。在三维空间中,两个不共线向量所张成的空间为一个平面,而我们再添加一个向量,如果这个向量在前两个向量所张成的平面内,它并不会改变张成空间的大小;可如果随机选择一个向量,它几乎不会落在前两个向量所张成的平面内,这时候由这三个向量所张成的空间就包含了所有的三维变量,如果我们操纵第三个向量的缩放,它就会操控着前两个向量所张成的平面扫过整个空间。

如果有一个向量w\vec{w}落在了向量u\vec{u}v\vec{v}所张成的平面中,则称w=au+bv\vec{w}=a\vec{u}+b\vec{v}线性相关(Linearly Dependent)

如果所有向量都使张开的空间增加了新的维度,则称wav\vec{w}\not=a\vec{v}线形无关(Linearly Independent)(a取所有值)。

线性变换

变换可以理解为更直观的、可视化的函数,我们可以想象一个向量的变换、一组向量终点的变换甚至一整个平面的变换。在线性代数中,变换限制在一种很特殊的类型中:线性变换(Linear Transformations)。如果一个变换满足如下两个性质,则称它是线形的:

  • 直线在变化后仍保持为直线,不能有所弯曲
  • 原点必须保持固定

线形变换是一种操纵空间的手段,我们也可以把线性变换看作是“保持网格线等距分布”的变换。

矩阵

矩阵的定义

因为平面中所有的向量均可以用基向量数乘的和来表示,所以我们只需要知道基向量i^\hat{i}j^\hat{j}变化后的落脚点即可推断出任意向量变化后的落脚点,而不必去观察变化本身是怎样的。例如:

i^\hat{i}变化后变为了[13]\begin{bmatrix} 1\\ 3 \end{bmatrix} j^\hat{j}变化后变为了[20]\begin{bmatrix} -2\\ 0 \end{bmatrix} 则向量[xy]\begin{bmatrix} x\\ y \end{bmatrix}的变换过程为:

[xy]x[13]+y[20]=[1x+(2)y3x+0y]\begin{bmatrix} x\\ y \end{bmatrix} \rightarrow x\begin{bmatrix} 1\\ 3 \end{bmatrix} + y\begin{bmatrix} -2\\ 0 \end{bmatrix} = \begin{bmatrix} {1x + (-2)y}\\ {3x + 0y} \end{bmatrix}

通过这个过程,我们可以将任意一个向量的变化计算出来,所以一个二维现象变换仅有四个数字就可以完全确定:变化后的基变量i^\hat{i} j^\hat{j}的坐标。

通常我们将它们变化后的坐标放入一个2×22\times2的格子中来描述这个变换,称它为**2×22\times2矩阵( 2×22\times2 Matrix )**,例如上面的[1230]\begin{bmatrix} 1 & {-2}\\ 3 & 0 \end{bmatrix}

矩阵向量乘法与变换

所以对于一个矩阵[abcd]\begin{bmatrix} a & b\\ c & d \end{bmatrix}与一个向量[xy]\begin{bmatrix} x\\ y \end{bmatrix},将变换应用于这个向量,结果应该是:(定义矩阵向量乘法)

[abcd][xy]=x[ac]+y[bd]=[ax+bycx+dy]\begin{bmatrix} a & b\\ c & d \end{bmatrix}\begin{bmatrix} x\\ y \end{bmatrix}=x\begin{bmatrix} a\\ c \end{bmatrix} + y\begin{bmatrix} b\\ d \end{bmatrix} = \begin{bmatrix} {ax + by}\\ {cx + dy} \end{bmatrix}

中间的部分直观的展示了向量的变化情况。

有一个有意思的变换,变换中 i^\hat{i} 保持不变[10]\begin{bmatrix} 1\\ 0 \end{bmatrix}j^\hat{j} 移动到了[11]\begin{bmatrix} 1\\ 1 \end{bmatrix},所以这个矩阵为[1101]\begin{bmatrix} 1 & 1\\ 0 & 1 \end{bmatrix},我们称这个变换为剪切(Shear)

如果变化后的i^\hat{i}j^\hat{j}是线形相关,线形变换会将平面压缩到它们所在的直线上,我们称这个矩阵列线性相关(Lineary Dependent Columns)

矩阵乘法与线形变换复合

矩阵乘法定义

有时我们想描述一个变化之后再进行另一个变化,这个新的线形变换就称为前两种变换的复合变换(Composition)。和一般的变换一样,我们也可以通过i^\hat{i}j^\hat{j}变化后的位置来完全描述这个复合变换,前两种变换的矩阵的乘积即为符合变换的矩阵(注意,在两个矩阵相乘中,应将变换从右往左描述,这样符合函数的嵌套)。对于任意两个矩阵相乘:

[abcd][efgh]=[????]\begin{bmatrix} a & b\\ c & d \end{bmatrix} \begin{bmatrix} e & f\\ g & h \end{bmatrix}=\begin{bmatrix} &?&&&?&\\ &?&&&?& \end{bmatrix}

因为矩阵第一列为变化后的  i^ \hat{i},第二列为变化后的 j^\hat{j} ,所以:

i^[abcd][eg]=e[ac]+g[bd]=[ae+bgce+dg]\hat{i}\rightarrow\begin{bmatrix}a & b\\ c & d \end{bmatrix} \begin{bmatrix}e\\ g\end{bmatrix}=e\begin{bmatrix}a\\c\end{bmatrix}+g\begin{bmatrix}b\\d\end{bmatrix}=\begin{bmatrix}ae+bg\\ce+dg\end{bmatrix}

j^[abcd][fh]=f[ac]+h[bd]=[af+bhcf+dh]\hat{j}\rightarrow\begin{bmatrix}a & b\\ c & d \end{bmatrix} \begin{bmatrix}f\\ h\end{bmatrix}=f\begin{bmatrix}a\\c\end{bmatrix}+h\begin{bmatrix}b\\d\end{bmatrix}=\begin{bmatrix}af+bh\\cf+dh\end{bmatrix}

所以两个矩阵的乘积为:

[abcd][efgh]=[ae+bgaf+bhce+dgcf+dh]\begin{bmatrix} a & b\\ c & d \end{bmatrix} \begin{bmatrix} e & f\\ g & h \end{bmatrix}=\begin{bmatrix} ae+bg&af+bh\\ ce+dg&cf+dh \end{bmatrix}

当两个变化相继发生时,变化发生的顺序影响最后的效果,所以矩阵相乘时,矩阵的先后顺序对结果有影响(M1M2M2M1M_1M_2\not=M_2M_1)。

矩阵乘法结合律(Associativity)

有矩阵A、B、C,问这三个矩阵相乘时是否能够在保证相互顺序不变的情况下进行结合[(AB)C=A(BC)(AB)C=A(BC)]?

如果分别设这三个矩阵为四个未知量进行计算,这个过程的计算量会相当的庞大并且只是无意义的计算,所以我们不妨用更巧妙的变换的思想来解决这个问题。通过对平面进行变换,我们可以发现这个矩阵乘法是满足结合律的,这个方法更加直观与简洁,而且这确实是一个实实在在的证明,并能解释为什么是正确的。

感谢支持,您的支持将是我原创的动力!