情報理論的学習のための再生カーネルヒルベルト空間フレームワーク

この論文は、クロス情報ポテンシャル（CIP）として知られる対称非負定義カーネル関数によって一意に決定される再生カーネルヒルベルト空間（RKHS）をボトムアップで定義することにより、情報理論的学習（ITL）の機能解析の視点を提供します。CIPは、二つの確率密度関数の積の積分として、二つの確率過程の相似性を特徴づけます。ITL RKHSと平方可積分な確率密度関数によって張られるヒルベルト空間との間に一対一の同型写像の存在を証明します。したがって、元の情報理論的学習の定式化におけるすべての統計的記述子は、カーネル法で一般的に行われる推定量に機能的な見方を制限するのではなく、ITL RKHSにおける決定論的関数ベクトル上の代数的計算として書き換えることができます。プロジェクトデータの統計を定量化することに興味のあるカーネルアプローチとITL RKHSとの間の関連性も確立されます。