Faster Matrix Multiplication: Unveiling Insights from Strassen to FBHHRBNRSSSHK, Continuing with KM, and Advancing to AIH 普段はプレプリントの段階ではあまり研究公開の話はしないのですが、今回だけはちょっと特別とします。たぶんプレスリリースとかもしないだろうし、でも滅多にない世界記録更新した研究なので、少し経緯をここで解説します。 現在、卒業研究で受け入れている荒井くんの研究成果をプレプリントとして公開しました。Adaptive Flip Graph Algorithm for Matrix MultiplicationYamato Arai, Yuma Ichikawa, Koji HukushimaarXiv:2312.16960 昨年、2022年10月に話題になったNature論文がこれです。Discovering faster matrix multiplication algorithms with reinforcement lea...

新年の挨拶もないままに１月が終わろうとしている。大学にいると一番忙しいのは１月な気がする。今年もいろいろ行事があって１月が終わろうとしている。 今日はこの記事を書こうと思ったのは、博士論文審査会の打ち上げがあったことがきっかけではある。 常々、何やってるかよくわからない研究室だなーと思いながら、一方で、理想とすべき研究室運営を追い求めているなれの果てがこれなんだなぁと思い、もうすぐくる研究室紹介の季節には説明に窮してしまう現状がここのところ続いている。自分も主催ができるのは残り１０年となっているにもかかわらず、型が決まらないこの有様はどうなんだと疑問に思うこともある。 一方で、研究室の定例会は面白くて、機械学習の話があると思えば、続いてクロマチンのモデリングの話がきて、言語モデルの話もあって、NP問題の議論になる。引いてみればどれもこれも多体問題であり、統計物理学の範疇である。こういう研究室は昔はたくさんあったように思う。自分が大学院生のころのすずます研はそうだったように思うし、誤解を恐れずに言えばきくち研やはたの研やいとうのぶ研とか自分から見れば偉大な先輩方の構え...

Deep Boltzmann Machineの統計力学的研究 市川佑馬くんのDeep Boltzmann Machineの論文が掲載されました。Statistical-mechanical Study of Deep Boltzmann Machine Given Weight Parameters after Training by Singular Value DecompositionJ. Phys. Soc. Jpn. 91, 114001 (2022) https://doi.org/10.7566/JPSJ.91.114001 機械学習の理論的研究は昔から調べられていて、さまざまなアプローチがある。統計力学という物理学のアプローチも昔からある。例えば、H. Sompolinsky, N. Tishby, and H. S. Seung, Physical Review Letters  65, 1683 (1993)などである。もっと前からあるかもしれないし、E.Gardnerを挙げるべきかもしれない。いずれにしても、この方向性は、特定...

物理学会が明日から始まります。研究室のラインナップはこんな感じです。シンポジウム以外は対面なので、たのしみです。 みんな、楽しげな研究内容です。ひとつひとつ解説しておきたい気分ではあるが、その時間はない。 私は３次元イジングスピングラス模型に関する情報を初出しします。 2022.9.10 （０日目）シンポジウムでの発表終了。世話人の糸井先生＠日大にはお世話になりました。話す機会を与えてもらって感謝します。25分発表時間で21:00話すのはちょっと長すぎた。右は最初の４ページ目。セッションには田畑さんや香取さんがいらっしゃったので、ちょっと緊張した。磁場中相転移は実験ではできるけど、それ以外は何をみればよいかを理論側から提示しないといけないですね。PCAなんかじゃだめです。帯磁率やスピングラス帯磁率が何かしらの実験的にモード分解できるといいな。。。平均場描像は完全ではない形で三次元に下りてきている予想はおつたえできたかと思います。講演では深く掘り下げることはできなかったのですが、磁場中相転移に関しては理論側から展開があって、必ずしもクリアに磁場中相転...

研究室訪問に来た学生さんが帰り際に上記の質問をしてきた。 「そんなものはなんにもないなー」 ちょっと考えて、そう答えた。学生さんからすれば、研究室を選ぶ段階では貴重な情報だし、素直な質問だと思う。ただ、意表をつかれた質問だったし、本当に何もない気がしたから、素直に回答したわけである。 実験の研究室なら、世界でここにしかできない実験はあるかもしれないし、理論の研究室でも、世界でこんな解析できるのはここしかないというのもあるかもしれない。それに相当するものは福島研にはない。研究室が一丸となって、なにかの問題を解決することはない。私がビッグイシューを提示して、それにみんなでアタックするということもない。私の研究テーマの一部分が学生のテーマになることもまずない。ただ、全員が「統計物理学」の研究を行っていて、互いに緩やかにつながっている。だから、福島研は「〇〇がめちゃくちゃ強い」ということはありえない。研究室の主宰としては失格なのかもしれないね。 □□をやるならA先生は強いねとか、△△の分野はB先生がいいねとか、いろいろとコメントはできる。でも、それって、研究室ではなく...

身近に速いコンピューターが溢れていて，比較的簡単に数値計算ができるようになって久しい．PythonやJuliaなどのスクリプト言語もライブラリーが充実していてソフトの発展も素晴らしい．こういう環境は自分が学生のときとは比べ物にならない．研究における数値計算の役割も変わってきているのかも知れない．その分析は自分の中では十分できていないが，自分自身がなぜ数値計算をするのかの理由は昔から変わっていない．一言では説明できないし，研究室紹介などで説明するのも面倒なので一度書き残しておこうと思う．昔話が多くなりそうだが，興味のある方は目を通してもらって，感想を聞かせてくれると嬉しい． はじめに動機を 「数値計算には興味はない．自分は解析的な研究をしたいです」という学生さんがよく現れる．自分の興味が明確になっていて素晴らしい．もう私から何もアドバイスもないので，それ以上話すことはない．興味の持ち方は人それぞれなので，私の興味を押し売りするつもりは毛頭ない．ただ，私の思考回路を少し覗いてもらうのも悪くはないかな．．．というのが，この投稿の動機の一つでもある． 「数値計算に興味あって...

市川くんと長野くんの研究がそれぞれプレプリントとして公開しました。 Statistical-mechanical study of deep Boltzmann machine given weight parameters after training by singular value decompositionY Ichikawa, K HukushimaarXiv preprint arXiv:2205.01272深層ボルツマンマシンの統計力学的な研究です。すでに学習は終わっているとしたときに、重みが特異値分解で表されていると仮定しているところが特徴的です。その特異ベクトルをランダム化したときの典型的な性質をランダム系の統計力学を用いて相図を導きました。特異値はパラメータとして扱うので、…つづきは後ほど。 Phase transition in compressed sensing with horseshoe priorY Nagano, K HukushimaarXiv preprint arXiv:2205.08222馬蹄形事前分布を用いた線形回帰の統計力学...