跳转至

1

习题1

现有一组图片数据集,任务目标是将这些图片分类。其中图片中包含的类别有:猫、狗、鹦鹉、人。

(1) 对于一张 \(32\times32\times3\) 的图像数据,我们可以如何表示?

(2) 对于4个类别,如何使用one-hot表示?

(3) 如果使用向量表示某一张图片,使用线性分类器对其进行分类,写出评分函数。

(4) 简述线性分类器中,评分函数、损失函数的含义。

(1) 3维向量

(2)

\[\begin{pmatrix}1\\ 0\\ 0\\ 0\end{pmatrix}, \begin{pmatrix}0\\ 1\\ 0\\ 0\end{pmatrix}, \begin{pmatrix}0\\ 0\\ 1\\ 0\end{pmatrix}, \begin{pmatrix}0\\ 0\\ 0\\ 1\end{pmatrix}\]

(3)

\[f(W,b;x_{i})=Wx_{i}+b\]

(4)

评分函数:用于生成模型的预测输出。

损失函数:用于评估预测输出与实际标签之间的差异,指导模型训练。

习题2

证明 \(\{t,\sin t,\cos 2t,\sin t \cos t\}(t\in\mathbb{R})\) 是定义在 \(\mathbb{R}\) 上的线性无关函数集。

假设存在 \(k_i, i\in\{1,\cdot\cdot\cdot,4\}\) 使得

\[k_{1}t+k_{2}\sin t+k_{3}\cos 2t+k_{4}\sin t \cos t=0\]

对所有 \(t \in \mathbb{R}\) 成立。分别取 \(t =0,2\pi,2\pi+\pi/2,\pi/4,\) 可得

\[\begin{cases}k_3=0 \\2\pi k_{1}&+k_{3}&=0\\ (2\pi+\pi/2)k_{1}&+k_{2}&-k_{3}&=0\\ (\pi/4)k_{1}&+(\sqrt{2}/2)k_{2}&+k_{4}&=0\end{cases}\]

可以推出只有当 \(k_{1}=k_{2}=k_{3}=k_{4}=0\) 成立时,上述方程组才成立。从而,可得它们是线性无关函数集。

习题3

\(H=\text{Span}\{\epsilon_{1},\epsilon_{2},\epsilon_{3}\}\), \(K=\text{Span}\{\beta_{1},\beta_{2},\beta_{3}\}\), \(\epsilon_1, \epsilon_2, \epsilon_3, \beta_{1}, \beta_{2}, \beta_{3}\) 是数域 \(\mathbb{R}\) 上的4维向量。其中

\[\epsilon_{1}=\begin{pmatrix}1\\ 2\\ 0\\ -1\end{pmatrix} \epsilon_{2}=\begin{pmatrix}0\\ 2\\ -1\\ 1\end{pmatrix} \epsilon_{3}=\begin{pmatrix}3\\ 4\\ 1\\ -4\end{pmatrix}, \beta_{1}=\begin{pmatrix}-2\\ -2\\ -1\\ 3\end{pmatrix}, \beta_{2}=\begin{pmatrix}2\\ 3\\ 2\\ -6\end{pmatrix} , \beta_{3}=\begin{pmatrix}-1\\ 4\\ 6\\ -2\end{pmatrix}\]

请求出 \(H,K, H+K\) 的一组基。

\(\epsilon_{3}=3\epsilon_{1}-\epsilon_{2}\),易知H的一组基为 \(\{\epsilon_{1},\epsilon_{2}\}\)。因为 \(\beta_{1},\beta_{2},\beta_{3}\) 是线性无关的,所以K的一组基为 \(\{\beta_{1},\beta_{2},\beta_{3}\}\)。令 \(A=[\epsilon_{1},\epsilon_{2},\epsilon_{3},\beta_{1},\beta_{2},\beta_{3}],\) 令依据 \(\text{rank}(A)=4,\) 可知 \(H+K\) 即为 \(\mathbb{R}^{4}\)。因此, \(\mathbb{R}^{4}\) 下的标准基即为 \(H+K\) 的一组基。

习题 4

考虑这样的多项式 \(p_{1}(t)=1+t\), \(p_{2}(t)=1-t\) 以及 \(p_{3}(t)=2\), \((t\in\mathbb{R})\)。判定 \(p_1,p_2\)\(p_3\) 之间的线性相关性,并求出 \(\text{Span}\{p_{1},p_{2},p_{3}\}\) 的一组基。

因为 \(p_{3}(t)=p_{1}(t)+p_{2}(t)\),因此这三个多项式是线性相关的。现考虑 \(p_1\)\(p_2\) 的相关性:假设存在 \(k_{1},k_{2}\) 使得

\[k_{1}p_{1}(t)+k_{2}p_{2}(t)=0\]

对所有 \(t \in \mathbb{R}\) 成立。将 \(p_{1}(t)=1+t,p_{2}(t)=1-t\) 代入上式,可得 \(k_{1}=k_{2}=0\) 因此, \(\{p_{1}(t),p_{2}(t)\}\) 为它的一组基。

习题 5

设一个线性映射 \(f:\mathbb{R}^{n}\rightarrow\mathbb{R}^{m}\) 如何计算(唯一)矩阵A,对每一个 \(x\in\mathbb{R}^{n}\) 都使 \(f(x)=Ax\) 成立?可以自己确定 \(f\) 在适当向量处的值表示。

\(\{e_{1},e_{2},...,e_{n}\}\)\(\mathbb{R}^{n}\) 的标准正交基,则对任意 \(x\in\mathbb{R}^{n}\),可以表示为:

\[x=x_{1}e_{1}+x_{2}e_{2}+\cdot\cdot\cdot+x_{n}e_{n}\]

利用线性映射的性质,可以写出:

\[f(x)=x_{1}f(e_{1})+x_{2}f(e_{2})+\cdot\cdot\cdot+x_{n}f(e_{n})\]

其中 \(f(e_{1}),f(e_{2}),...,f(e_{n})\)\(\mathbb{R}^{m}\) 中的向量。 该式可以进一步改写为矩阵形式:

\[f(x)=\begin{pmatrix}f(e_{1})&f(e_{2})&\cdot\cdot\cdot&f(e_{n})\end{pmatrix}\begin{pmatrix}x_{1}\\ x_{2}\\ \vdots\\ x_{n}\end{pmatrix}\]

因此,矩阵 \(A\) 即为:

\[A=\begin{pmatrix}f(e_{1})&f(e_{2})&\cdot\cdot\cdot&f(e_{n})\end{pmatrix}\]

习题 6

已知线性映射 \(\Phi:\mathbb{R}^{3}\rightarrow\mathbb{R}^{4}\)

\[\Phi\left(\begin{bmatrix}x_{1}\\ x_{2}\\ x_{3}\end{bmatrix}\right)=\begin{bmatrix}3x_{1}+2x_{2}+x_{3}\\ x_{1}+x_{2}+x_{3}\\ x_{1}-3x_{2}\\ 2x_{1}+3x_{2}+x_{3}\end{bmatrix}\]

考虑 \(\mathbb{R}^3\) 的基底为一组标准基 \(\{\mathbf{e}_1, \mathbf{e}_2, \mathbf{e}_3\}\)\(\mathbf{e}_i = (\ldots, \underset{i-1}{\underbrace{0}}, 1, \underset{3-i}{\underbrace{0}}, \ldots)^{\mathrm{T}}\)),\(\mathbb{R}^4\) 的基底为一组标准基 \(\{\hat{\mathbf{e}}_1, \hat{\mathbf{e}}_2, \hat{\mathbf{e}}_3, \hat{\mathbf{e}}_4\}\)\(\hat{\mathbf{e}}_i = (\ldots, \underset{i-1}{\underbrace{0}}, 1, \underset{4-i}{\underbrace{0}}, \ldots)^{\mathrm{T}}\))。

(1) 计算 \(A_{\Phi}\) (2) 计算 \(\text{rank}(A_{\Phi})\)

(1)

\[A_{\Phi}=\begin{pmatrix}3&2&1\\ 1&1&1\\ 1&-3&0\\ 2&3&1\end{pmatrix}\]

(2) 3

习题 7

考虑一个线性映射: \(\mathbb{R}^{3}\rightarrow\mathbb{R}^{4}\) 其在基 \(B=\left(\begin{pmatrix}1\\ 1\\ 0\end{pmatrix},\begin{pmatrix}0\\ 1\\ 1\end{pmatrix},\begin{pmatrix}1\\ 0\\ 1\end{pmatrix}\right),\) \(C=\left(\begin{pmatrix}1\\ 1\\ 0\\ 0\end{pmatrix},\begin{pmatrix}1\\ 0\\ 1\\ 0\end{pmatrix},\begin{pmatrix}0\\ 1\\ 0\\ 0\end{pmatrix},\begin{pmatrix}1\\ 0\\ 0\\ 1\end{pmatrix}\right)\) 下的变换矩阵为 \(\begin{pmatrix}-4&-4&-2\\ 6&0&0\\ 6&8&4\\ 1&6&3\end{pmatrix}\) 请寻找一个新的基下的 \(\Phi\) 变换矩阵。 令新的基分别为标准基 \(\tilde{B}=(e_{1},e_{2},e_{3})\), \(\tilde{C}=(\hat{e}_{1},\hat{e}_{2},\hat{e}_{3},\hat{e}_{4})\)

\[\begin{pmatrix}1&2&0\\ 0&2&2\\ 4&8&0\\ -1&2&4\end{pmatrix}\]

习题 8

求行列式 (1) \(\begin{vmatrix}\cos x&\sin x\\ -\sin x&\cos x\end{vmatrix}\), (2) \(\begin{vmatrix}3&1&1&3\\ 1&3&1&1\\ 1&1&3&1\\ 1&1&1&3\end{vmatrix}\), (3) \(\begin{vmatrix}x&3&4\\ -1&x&0\\ 0&x&1\end{vmatrix}\)

(1) \(\begin{vmatrix}\cos x&\sin x\\ -\sin x&\cos x\end{vmatrix}=1\), (2) \(\begin{vmatrix}3&1&1&3\\ 1&3&1&1\\ 1&1&3&1\\ 1&1&1&3\end{vmatrix}=40\),

(3) \(\begin{vmatrix}x&3&4\\ -1&x&0\\ 0&x&1\end{vmatrix}=x^{2}-4x+3\)

习题 9

给定矩阵 \(A=\begin{pmatrix}-2&1&1\\ 0&2&0\\ -4&1&3\end{pmatrix}\) \(B=\begin{pmatrix}0&1&0\\ 0&-1&2\\ 3&-9&7\end{pmatrix}\) 求矩阵A,B的所有特征值和对应的特征向量,并进行特征分解。

A: \(\lambda_{1}=-1\), \(\lambda_{2}=\lambda_{3}=2\) 对应 \(k_{1}(1,0,1)^{T}\), \(k_{2}(\frac{1}{4},1,0)^{T}\) \(k_{3}(\frac{1}{4},0,1)^{T}\)

\[P^{-1}=\frac{1}{3}\begin{pmatrix}4&-1&-1\\ 0&3&0\\ -4&1&4\end{pmatrix}\]

B: \(\lambda_{1}=1\), \(\lambda_{2}=2\), \(\lambda_{3}=3\) 对应 \(k_{1}(1,1,1)^{T}\), \(k_{2}(1,2,3)^{T}\), \(k_{3}(1,3,6)^{T}\)

\[P^{-1}=\begin{pmatrix}3&-3&1\\ -3&5&-2\\ 1&-2&1\end{pmatrix}\]