202225702

深層学習の汎化に関する数理的研究の進展
ChainerでDeep Image Priorをやってみた - Qiita

おもしろい (流行り物が出るたびに野次馬する悪癖)。文献をぱらぱら眺めた感じ、汎化能力についてはまだまだ謎ながら、多層のニューラルネットが SGD で最適解に辿りつける理由は解明されつつあるらしい。

A Convergence Theory for Deep Learning via Over-Parameterization

簡単に読める感じではないな…。