Deep Boltzmann Machineの統計力学的研究 市川佑馬くんのDeep Boltzmann Machineの論文が掲載されました。Statistical-mechanical Study of Deep Boltzmann Machine Given Weight Parameters after Training by Singular Value DecompositionJ. Phys. Soc. Jpn. 91, 114001 (2022) https://doi.org/10.7566/JPSJ.91.114001 機械学習の理論的研究は昔から調べられていて、さまざまなアプローチがある。統計力学という物理学のアプローチも昔からある。例えば、H. Sompolinsky, N. Tishby, and H. S. Seung, Physical Review Letters  65, 1683 (1993)などである。もっと前からあるかもしれないし、E.Gardnerを挙げるべきかもしれない。いずれにしても、この方向性は、特定...

市川くんと長野くんの研究がそれぞれプレプリントとして公開しました。 Statistical-mechanical study of deep Boltzmann machine given weight parameters after training by singular value decompositionY Ichikawa, K HukushimaarXiv preprint arXiv:2205.01272深層ボルツマンマシンの統計力学的な研究です。すでに学習は終わっているとしたときに、重みが特異値分解で表されていると仮定しているところが特徴的です。その特異ベクトルをランダム化したときの典型的な性質をランダム系の統計力学を用いて相図を導きました。特異値はパラメータとして扱うので、…つづきは後ほど。 Phase transition in compressed sensing with horseshoe priorY Nagano, K HukushimaarXiv preprint arXiv:2205.08222馬蹄形事前分布を用いた線形回帰の統計力学...