Deep learning 以外の機械学習の最近の進展が知りたい。クラス分類ではなくて高次元の実関数近似に使えるもの (連続量を吐き出せるもの) が気になるのだけれど、ニューラルネットワーク以外にどのようなものがあるんだろう。階層的な構造以外で次元の呪いを克服できる方法はあるのか。
そもそも階層な構造が次元の呪いを克服できる理由を知らない。
Universal Approximation Bounds for Superpositions of a Sigmoidal Function (未読)
とりあえずガウス過程 (とカーネルトリック) の式をちゃんと追ってみるのが良いのかな。
https://www.ism.ac.jp/~daichi/lectures/H26-GaussianProcess/gp-lecture2-daichi.pdf