光滑流形上的優化

Riemannian 梯度

Riemmannian 梯度是 Euclid 梯度在切空间上的投影．设 $𝑓$ 是 $𝑓$ 到环境空间的光滑延拓， ${Proj}_{T_{𝑥} ℳ︀}$ 为到切空间 $T_{𝑥} ℳ︀$ 的正交投影，则

grad 𝑓 (𝑥) = {Proj}_{T_{𝑥} ℳ︀} (grad 𝑓 (𝑥)) .

以幺正流形 $ℳ︀ = 𝒰︀ = 𝑈 (𝑛)$ 为例：切空间是反 Hermitian 方向

T_{𝑥} 𝒰︀ = {𝑥 𝑍 | 𝑍^{H} = - 𝑍}

（ $𝑍$ 取遍反 Hermitian 矩阵，是集合的哑元），法空间是 ${𝑥 𝐴 : 𝐴^{H} = 𝐴}$ ，于是投影给出

grad 𝑓 (𝑥) = 𝑥 skew (𝑥^{H} grad 𝑓 (𝑥)), skew (𝐴) = \frac{1}{2} (𝐴 - 𝐴^{H}) .

可见 $grad 𝑓 (𝑥)$ 形如 $𝑥 𝑍$ ，正是下面回撤所需的切向量输入．

回撤

Definition 1.

回撤映射

流形 $ℳ︀$ 上的回撤是光滑映射

T ℳ︀ ∋ (𝑥, 𝑣) \mapsto R_{𝑥} (𝑣) \in ℳ︀

使得任意曲线 $𝑐 (𝑡) = R_{𝑥} (𝑡 𝑣)$ 有

\begin{matrix} 𝑐 (0) = 𝑥 \\ 𝑐^{'} (0) = 𝑣 \end{matrix}

也就是说，回撤是指在流形 $ℳ︀$ 上的点 $𝑥$ 和切空间 $T_{𝑥} ℳ︀$ 上的点 $𝑣$ 到流形上的映射．但要保证切空间中自变量沿着 $𝑡 \mapsto 𝑡 𝑣$ 运动时，回撤到流形上的点 $𝑐 (𝑡) = R_{𝑥} (𝑡 𝑣)$ 在起点 $𝑡 = 0$ 处沿着 $𝑣$ 方向从 $𝑥$ 出发．从微分方程的角度来说，这是在满足初值条件的约束下的曲线．任意诱导出这样的曲线的映射都是回撤映射．

Example 3.

幺正流形上的指数回撤

幺正流形上的點 $𝑥 \in ℳ︀ = 𝒰︀ (𝑛)$ ．其切向量 $𝑣 \in T_{𝑥} ℳ︀$ ． $𝑈 (𝑛)$ 必形如 $𝑣 = 𝑥 Ω$ ，故

Ω ≔ 𝑥^{H} 𝑣 (Ω^{H} = - Ω)

是由 $𝑥, 𝑣$ 确定的常量反 Hermitian 矩阵（Riemannian 梯度 $grad 𝑓 (𝑥) = 𝑥 skew (𝑥^{H} grad 𝑓 (𝑥))$ 即是这样一个切向量的例子）．目标：构造以参数 $𝑡 \in ℝ$ 为唯一自变量、过 $𝑥$ 且初速为 $𝑣$ 的回撤曲线 $𝑐 (𝑡)$ ．

回撤只要求 $𝑐 (0) = 𝑥$ 、 $𝑐^{'} (0) = 𝑣 = 𝑐 (0) Ω$ ．自然的想法是不只在起点、而是处处令速度满足同一关系 $𝑐^{'} (𝑡) = 𝑐 (𝑡) Ω$ ．这便得到一个简单的常系数线性初值问题

{\begin{cases} 𝑐^{'} (𝑡) = 𝑐 (𝑡) Ω \\ 𝑐 (0) = 𝑥 \end{cases}

其唯一解为矩阵指数

𝑐 (𝑡) = 𝑥 exp (𝑡 Ω) .

还需验证曲线始终留在流形上．令 $𝑃 (𝑡) = {𝑐 (𝑡)}^{H} 𝑐 (𝑡)$ ，则

𝑃^{'} (𝑡) = 𝑐^{'} {(𝑡)}^{H} 𝑐 (𝑡) + {𝑐 (𝑡)}^{H} 𝑐^{'} (𝑡) = Ω^{H} 𝑃 + 𝑃 Ω,

在 $𝑃 = 𝐼$ 处 $Ω^{H} + Ω = 0$ ，故 $𝑃 \equiv 𝐼$ ，即 $𝑐 (𝑡)$ 全程幺正．

因此回撤为

R_{𝑥} (𝑥 Ω) = 𝑐 (1) = 𝑥 exp (Ω),

以切向量 $𝑣$ 为自变量即

R_{𝑥} (𝑣) = 𝑥 exp (𝑥^{H} 𝑣) .

上面这条曲线恰好也是 $𝒰︀$ 上的测地线．但把它当作回撤并不需要测地线性质：我们只用到“满足一阶初值条件”与“留在流形上”两点，测地线只是附带结论．

光滑流形上的優化

幺正流形

Riemannian 梯度

回撤

评论