7

【1】下面的集合哪些是凸集？

1. 平板， 即形如 \(\left\{ x \in \mathbb { R } ^ { n } | \alpha \leq a ^ { T } x \leq \beta \right\}\) 的集合。

2. 矩形， 即形如 \(\{ x \in \mathbb { R } ^ { n } | \alpha _ { i } \leq x _ { i } \leq \beta _ { i } , i = 1 , \cdots , n \}\) 的集合。当 \(n > 2\) 时，矩形有时也称为超矩形。

3. 楔形，即 \(\left\{ x \in \mathbb { R } ^ { n } | a _ { 1 } ^ { T } x \leq b _ { 1 } , a _ { 2 } ^ { T } x \leq b _ { 2 } \right\} \mathrm { , }\) 。

4. 距离给定点比距离给定集合近的点构成的集合，即

\[ \left\{ \right.x \left| \right.\left|\left| x - x _ {0} \right|\right| _ {2} \leq \left|\left| x - y \right|\right| _ {2}, \forall y \in S \left. \right\} \]

其中 \(S \subseteq \mathbb { R } ^ { n }\)

【2】下面的函数哪些是凸函数? 请说明理由：

1. \(f ( x ) = e ^ { x } + 1 , x \in \mathbb { R }\)

2. \(f ( x ) = \operatorname* { m a x } \left( \| A x + b \| _ { 2 } , \left\| x ^ { T } A x \right\| _ { 1 } \right) , A \in \mathbb R ^ { m \times n }, x \in \mathbb R ^ { n },b \in \mathbb R ^ { m }\)

3. $ f ( x ) = - \cos x , x \in [ - \pi / 2 , \pi / 2 ]$

【3】证明 \(x ^ { * } = ( 1 , 0 . 5 , - 1 )\) 是如下优化问题的最优解：

\[ \min \quad \frac {1}{2} x ^ {T} P x + q ^ {T} x + r \]

\[ \begin{array}{r l} \text {s . t} & - 1 \leq x _ {i} \leq 1, i = 1, 2, 3 \end{array} \]

其中

\[ P = \left( \begin{array}{c c c} 1 3 & 1 2 & - 2 \\ 1 2 & 1 7 & 6 \\ - 2 & 6 & 1 2 \end{array} \right), q = \left( \begin{array}{c} - 2 2 \\ - 1 4. 5 \\ 1 3 \end{array} \right), r = 1 \]

【4】计算函数 \(f ( x )\) 的共轭函数，以及共轭函数的定义域：

1. \(f(x)=-logx\)
2. \(f(x)=e^x\)

【5】求解线性规划

\[ \min \qquad e ^ {T} x \]

\[ \begin{array}{l l} \text {s . t} & G x \leq h \end{array} \]

\[ A x = b \]

的对偶函数，给出对偶问题。

【6】证明：Gauss概率密度函数的累积分布函数

\[ \Phi (x) = \frac {1}{\sqrt {2 \pi}} \int_ {- \infty} ^ {x} e ^ {- \frac {u ^ {2}}{2}} d u \]

是对数-凹函数。即 \(\log ( \Phi ( x ) )\) 是凹函数。

【7】求优化问题 \(\begin{array} { r } { \arg \operatorname* { m i n } _ { x _ { 1 } , x _ { 2 } , x _ { 3 } } x _ { 1 } x _ { 2 } x _ { 3 } } \end{array}\) 当 \(x _ { 1 } , x _ { 2 } , x _ { 3 }\) 满足 \(x _ { 1 } ^ { 2 } + x _ { 2 } ^ { 2 } + x _ { 3 } ^ { 2 } = 1\) 的解

【8】已知矩阵 \(A \in \mathbb { R } ^ { p \times q },B \in \mathbb { R } ^ { p \times r }\) \(\operatorname { r a n k } ( A ) = \operatorname* { m i n } ( p , q )\) ，未知矩阵 \({ X } \in \mathbb { R } ^ { q \times r }\) ，求以下优化问题：

若 \(p < q\) ，求Frobenius范数最小的矩阵 \(X\) ，使得 \(A X = B\) ，也即优化问题为

\[ \min \quad f (X) = \frac {1}{2} | | X | | _ {F} ^ {2} \]

\[ \begin{array}{l l} \text {s.t.} & A X = B \end{array} \]

【9】给出优化问题 \(\mathrm { m i n } _ { x } ( x ^ { 3 } - a x )\) 使用牛顿法时的迭代格式。

【10】梯度下降法是最常用的优化方法之一。考虑优化问题

\[ \min f (x) = x _ {1} ^ {2} + x _ {2} ^ {2} + 2 x _ {3} ^ {2} \]

证明:在点 \({ \boldsymbol x } _ { 0 } = ( x _ { 1 } , x _ { 2 } , x _ { 3 } )\) 处沿负梯度方向迭代的最佳步⻓为

\[ \lambda = \frac {x _ {1} ^ {2} + x _ {2} ^ {2} + 4 x _ {3} ^ {2}}{2 x _ {1} ^ {2} + 2 x _ {2} ^ {2} + 1 6 x _ {3} ^ {2}} \]