ComplexOrlicz: Holomorphic Gradient Orthogonalization for Tail-Adaptive Uncertainty Beyond Gaussian Limits

@misc{Anonymous2025ComplexOrlicz,
  title = {ComplexOrlicz: Holomorphic Gradient Orthogonalization for Tail-Adaptive Uncertainty Beyond Gaussian Limits},
  author = {{Anonymous authors}},
  year = {2025},
  note = {Withdrawn preprint}
}

BibTeX sourceなし、書誌情報から自動生成（自動生成）。

一言でいうと: ComplexOrliczは、重尾ノイズ下の異分散回帰で平均勾配と分散勾配の干渉を減らすために、複素埋め込みとOrlicz型損失による勾配直交化を主張する撤回済みプレプリントである。

取扱注意

本ページは撤回済みプレプリントの索引である。 撤回理由は「LaTeXの書式設定と表示上の問題（参照の破損、浮動小数点間隔の不具合など）を修正するため」とされている。 ただし本文には “This paper.” 段落の重複、Table ?? などの未解決参照、表中の数値が forty-two のような語句に崩れる箇所、Appendix間の記法不整合が見られる。 そのため、以下は研究アイデアの記録であり、査読済み・再現確認済みの知見としては扱わない。

背景と目的 (Background & Objective)

このプレプリントは、異分散回帰における不確実性推定を対象にする。 標準的なガウス負対数尤度は、入力依存の平均 $\mu (x)$ と分散 ${\sigma }^2(x)$ を同時に学習するが、平均更新と分散更新が干渉しやすい。 特に外れ値や重尾ノイズがあると、分散の過大推定が平均学習を鈍らせたり、分散の崩壊が外れ値の影響を増幅したりする。

既存の対策として、$\beta$-NLL、stop-gradientを使う分離型学習、Huber損失、Student-$t$尤度などがある。 著者らは、これらは平均・分散勾配の厳密な直交性と、重尾分布への連続的な適応を同時に満たさないと主張する。

提案手法 (Proposed Method)

提案される ComplexOrlicz は、予測を複素平面に埋め込む。

$$z(x)=\mu (x)+i\chi \sigma (x)$$

ここで $\chi >0$ は虚軸方向のスケールで、本文では既定値として $\chi =\sqrt{\pi /2}$ が使われる。 実数ターゲット $y$ に対する複素残差半径は次で定義される。

$$r_i=|y_i-z_i|=\sqrt{(y_i-{\mu }_i{)}^2+{\chi }^2{\sigma }_i^2}.$$

損失は、形状パラメータ $\alpha \in (0,2]$ を持つOrlicz型ポテンシャルで定義される。

$$L_{\alpha }(\theta )=\frac{1}{N}\sum _{i=1}^N{\Psi }_{\alpha }(r_i),$$ $${\Psi }_{\alpha }(t)=\{\begin{array}{ll}\frac{(1+t^2{)}^{\alpha /2}-1}{\alpha },& 0<\alpha <2,\\ \frac{1}{2}{t}^2,& \alpha =2.\end{array}$$

本文の主張では、$\alpha =2$ がガウス的、$\alpha =1$ がラプラス的、$\alpha \downarrow 0$ がCauchy的な重尾挙動に対応する。 また、初期ウォームアップ後の残差尖度 $\hat{\kappa }$ から $\alpha (\hat{\kappa })$ を決め、$[0.7,1.8]$ にクランプする手順が示される。

平均・分散の勾配は半径 $r_i$ を通じて分解される。

$${\nabla }_{\mu }{L}_{\alpha }=-\frac{1}{N}\sum _{i=1}^N{\Psi }_{\alpha }^{\prime }(r_i)\frac{u_i}{r_i},u_i=y_i-{\mu }_i,$$ $${\nabla }_{\sigma }{L}_{\alpha }=\frac{1}{N}\sum _{i=1}^N{\Psi }_{\alpha }^{\prime }(r_i)\frac{{\chi }^2{\sigma }_i}{r_i}.$$

プレプリントは、この構成により予測空間で平均方向と分散方向の勾配が直交し、$⟨{\nabla }_{\mu }{L}_{\alpha },{\nabla }_{\sigma }{L}_{\alpha }⟩=0$ が成り立つと主張する。 ただし、本文中の証明説明は「Cauchy-Riemann条件」「radial and quadrature」などの記述に依存しており、実装上・高次元拡張上の厳密性は独立検証が必要である。

上図は、平均勾配と分散勾配の正規化内積の絶対値が、ComplexOrliczではほぼ0、Gaussian NLLや$\beta$-NLLでは非ゼロになるという本文中の主張を示す。 PDF内では画像オブジェクトではなくベクター描画だったため、該当図領域をレンダリングした。

実験と評価 (Experiments & Evaluation)

本文は、UCI系データセット、Bitcoin 1分足、Beijing PM2.5、NYC Taxi、合成重尾ノイズを使った評価を報告する。 比較対象として Gaussian NLL、$\beta$-NLL、Decoupled、Student-$t$ などが挙げられる。

代表的な主張は次の通りである。

評価設定	本文中の主張
UCIベンチマーク	近ガウス的なデータでもRMSEを維持し、ECEをおおむね半減する
Bitcoin 1-min	Gaussian NLL比でRMSEを28%低減する
Beijing PM2.5	RMSEを23%、ECEを78%低減する
NYC Taxi	RMSEを19%、ECEを62%低減する
極端な重尾・汚染ノイズ	Cauchyや10% impulse contaminationでECE改善を示す

ただし、これらの数値は撤回済み・匿名・未査読プレプリント内の報告であり、コード、データ分割、統計検定、再現性の確認が必要である。 本文には表番号や参照の破損が残っており、一部の表では値や説明の整合性にも注意が必要である。

貢献と限界点 (Contributions & Limitations)

主張される貢献は、実数の異分散回帰を複素平面の半径損失として捉え直し、平均と分散の勾配直交化と重尾適応を単一の損失族に統合しようとした点である。 これは、複素値ニューラルネットワークの信号処理向け応用とは異なり、複素数を確率的回帰の最適化幾何として使うアイデアである。

一方で、本文自身も、$\alpha$選択のヒューリスティック性、多変量出力への拡張、非凸最適化、ウォームアップ依存、離散・敵対的ノイズへの弱さを限界として挙げる。 さらに、撤回済みであること、LaTeX書式問題以外にもAI生成原稿らしい重複・未解決参照・記法不整合が観察されることから、現時点では「有望な着想のメモ」としてのみ参照すべきである。

検証時のチェックポイント

• $⟨{\nabla }_{\mu }{L}_{\alpha },{\nabla }_{\sigma }{L}_{\alpha }⟩=0$ の定義が、サンプルごとの予測空間、バッチ集約後、共有パラメータ $\theta$ 上の勾配のどれを指すのかを分離する。
• ${\Psi }_{\alpha }$ が本文の全箇所で一貫して定義されているかを確認する。
• $\alpha (\kappa )$ の導出における尖度、6次モーメント、Cauchy近傍の扱いを再計算する。
• UCI、Bitcoin、PM2.5、NYC Taxiの分割と前処理を再現し、ECEの定義を固定して比較する。
• 撤回後の改訂版が出た場合は、本文差分と撤回理由の解消範囲を確認する。

関連リンク

• ComplexOrlicz
• 異分散回帰
• 複素値Transformer
• 複素値Attention