von Mises-Fisher分布

一言でいうと: von Mises-Fisher分布は、超球面上の方向データを平均方向と集中度で表す確率分布であり、超球面VAEの近似事後分布として使える。

von Mises-Fisher分布は、単位ベクトル $z\in {\mathbb{S}}^{m-1}$ に対する分布である。 平均方向 $\mu$ と集中度 $\kappa$ により、どの方向へどれだけ集中するかを表す。

$$q(z|\mu ,\kappa )=C_m(\kappa )\exp (\kappa {\mu }^{T}z).$$

$\kappa =0$ のときは超球面上一様分布になり、$\kappa$ が大きいほど $\mu$ の周囲へ集中する。 そのため、ユークリッド空間のガウス分布に対する「球面上の対応物」として扱われることが多い。

HypersphericalVAEでは、vMF分布をVAEの近似事後分布に使う。 棄却サンプリングとHouseholder変換でサンプルを生成し、その過程に再パラメータ化勾配を通すことで、集中度 $\kappa$ も学習対象にする。

関連リンク

• HypersphericalVAE
• 超球面VAE
• VAE