私は大勢の人とお話するのは正直苦手です。学会で多くの知り合いにお会いするときには精一杯愛嬌を振る舞います。基本的には自分の研究室でネチネチ考え事する方が好きだし、これは怒られるけど人に認められなくても自分できちんとした基準の元で研究はしてるし、人の判断なんかは必要ないとも思っています。研究するには、個人的に私一人にたっぷりの時間をくれて、私の欲するところで人の意見を聞けばありがたいと思っています。多くの研究者はそう思っていると私は思っています。ただ、実験研究で大型施設を動かす必要がある場合にはチームとしての共同活動は必要だし、そのチームの能力が個の能力を凌駕してすばらしい成果をあげることはとても認識しています。だけど、理論は別ですよ。チーム組んでなんかやるなんて気持ち悪いし、なんか集まってクソみたいなミーティングやってるのバカだと正直思っちゃいますよ(それは言い過ぎです)。
それは置いておいても、学会で人的交流は何にも代えがたい貴重なものです。私には役に立たなくて、周りを見ていると、このかけがえのない貴重な体験を奪うものがあるなら100%のエフォートで反対すると。。。あらためて今回の学会で思いました、まだ初日ですけど。もう50歳超えの体力を奪うに十分な情報のやり取りを楽しみました。とにかく学会は楽しい。しびれます。
それで、今回の学会レポートを簡単にします。
初日
初日は、情報統計力学のセッションにいました。まあ、口が悪い私なので許してほしいのですが、あっちもこっちもイジングマシーンで、ブラックボックス関数の最適化で、本当に楽しんでるのかねーって感じです。かなり言い過ぎです。最近はもの覚えが悪いので研究室のslackにそれぞれの講演に対するコメントをすると、OB・OGさんたちも含めて研究室メンバーがちゃんと反応してくれるので助かる。それで、
今日の午前中の一番は、東北大学の平間くん。二次計画問題をDantiz-なんとか緩和して、分枝限定法で計算する話で、SDPと比較して。。。うーん、夜にこれを書く段階ではテンションが落ちてるけど、聞いているときにはめっちゃくちゃテンションが上がった研究でした。なんちゅうか、分枝限定法縛りで、裏問題の精度が求解性能を決める構図はいろんなところにありそうで、性能評価がいろいろできそうな気がしますよ。なんならレプリカで典型評価できれば知見は…増えないかもしれないけど、面白いじゃないかという意味で午前一です。
他にも面白い話はいっぱいありましたよ。面白がって質問したのもあったし、遠慮したのもたくさんあった。彩色問題のグローバーの話もツッコミどころも聞きたいところもあった。。。東工大の荒井くんの話もなー、ちょっと本人捕まえて聞きたいことはあるぞ。というか、ほぼみんなにあるんだけど、ちょっと話しかけてきてほしい。。。(傲慢、自分)。これはちょっと手を掛けて典型評価をレプリカ法でやったみたいぞって話題がいくつかあった。ドメインウォール埋め込みとかもその典型です。ただ、本当にみなさんの研究を楽しんで聞いたので、議論したいことはいっぱいある。お昼休みにでも、議論したい。。。午後の最初にはネットワーク系でネットワークゲーム理論の話だけ聞きに行ったんだけど、面白そうだけどよくわからなかった。大きな頂点のグラフ上の問題でもナッシュ均衡求まったって言ってたけどmin-max形式ではないのかな。。。
さて、午後一は、手前味噌で恐縮だけど、西川トークだね。これは使える方法で、使える感がうまく伝わるといいのですけど、本人は控えめだからな。。。自分もいくつかの系で試しているので、身を持ってこれは使えると宣伝したい。なんでよいと思うかは。。。私がそう思うからでいいんじゃないか。今日は強調されなかったけど、自由エネルギーの評価方法としても意義がある。伊庭さんは知ってる方法だと思っていると西川くんとも共有していて、その事実はそのとおりなんだけど、伊庭さんからもnon-reversibleとかはやってないねーとのコメントはうれしいというかなんというか。そこはあんまり強調してなかった気もするし、私は学習のときにnon-reversibleの部分が効いているということに気づいていなかったというか、誤解してたので、そこは瞬時理解してたのはすごいね。。。
それで、まったく、どうでもいいし、今日のセッションで、何度かHukushima-Nemotoが引用されんだけど、まあ私は普通にいるんだけど、私の2つ前にNemotoがいるんだよね。。話してるみんなわかってる?ちょっとエモい。
午後セッションには、大島くんの発表がありました。直前まで悶々としてたみたいだけど、立派に発表しました。スピングラスのエンタングルメントエントロピーがどうなるかって話だけど、聴衆には西野さんもいらして、私は西野さんをずっと見てましたよ。絶対零度のエンタングルメントエントロピーを有限温度から見ていこうと思ったんだけど、それは無理筋ということをやってみてから気づいて、この状況はpaffianを計算してた井上さんには共鳴するところだったけど、井上さんはいなくなってたかな。それで、絶対零度の転送行列で計算に転じたんだけど、これは大島くんの能力の高さの結果で、普通のM1にはできんことでしょう。絶対零度の二次元スピングラス計算をやった尾関さんが会場にいたのもエモい(引用書いとくの忘れた。。。)。この筋書きは西野さんには当然見えてるわけで、まあ手のひらで遊んでるわけですが、IPRを計算して、その結果は非自明でしょう。。。と遠くからほくそえんでましたよ、私は。これをどこに連れていくかは考えどころですが、西野さんなのSDB本の問いかけには一歩進めているのではないかと思っています。
それで、恥ずかしながら自分の発表も初日の午後にあったのです。今回は、珍しく研究室で事前練習しました。11:26だったので、これはやり過ぎで、削らないといけない。一つスライドを削って、その代わりに描き下ろしスライドを入れました。研究室のメンバーにも当日楽しんでほしいという芸人魂が出た結果です。発表は、最後のスライドのところで、9:16だったので、余裕をかまして最後しゃべりすぎたのは悪かった。結果として、10:30になっちゃてて、これは反省点。渋めの話を、ギリギリまで情報を切り刻んだので、発表としてはどうだっただろうか?返って質問ポイントも消してしまってよくなかった気もする。伊庭さんの質問も半分は消しちゃったんだけど、結果としてはよい議論ができた気はする。田畑さんにも示野くんにも質問してもらってうれしかったです。グラフを見せるときに混乱して笑いを取ったのは計算済みだったのだよ、みんなわかってたかな。というわけで、自分のパフォーマンスとしては、ベストに近いです。数式が2つしかなくて、それも消そうかと思ったくらいで、大人になったなぁと思っています。4年生のときのゼミで、本当に理解していれば、式を出さずに説明できるはずと担当教員に言われたことを思い出す。その意味で、残されてた2つの式も消してもよかったかもしれない。というわけで、これ以上にうまい話ができるほど話術はないし、冷静に聞けばオタク的な話方だったなぁとも思います。根本さんはいなくなってたので、ゆっくり聞いてほしかったなぁ。
夜のミーティングで、電通大の寺澤くんに田畑さんのポスターセッションがすごかったと教えてもらった。聞きに行かなかったのは失態。非線形カイラル磁化率がちゃんと計測できるようになったらしい。二日目の田畑さんの講演も裏でかぶってて聞けない。。。というわけで、田畑さんにメールを送って、ランチしてもらうことにした。午後の裏にあった政岡さん@物工の動的臨界指数の下限の話もArxivにも出てて気になる話だったんだよね。
二日目
まあ、気を取り直して、二日目に挑みます。
今日も情報統計力学セッションに。最初の講演でサロゲートを用いたモンテカルロ法の話があって、これはいろんなところで行われてるんだけど、勾配ベクトルを合わせに学習してて、普通に面白かったけど、ガウス過程で応用例あるのか?って聞かれて…いや、もう普通に大規模データでベイズやるならそれだけで有効でしょって思ったですよ。SGDで勾配ベースでいいと思ってる人が多いとそう思われちゃうか…使いみちあると思ってます。
このセッションでは荒井くんがlocal balanced proposalを交換法に使う話をしました。笠松さんはわざわざこの講演を聞きに来てくれてたみたいで光栄です。ただ、10分で伝えるのは難しい気がする。自分も何やってるのか理解するのに時間がかかったし、local balanced proposalはおそらく物理学会初登場だと思います。もし交換しまく戦略がよいなら、そこは加速しますが、それで内側の緩和が促進するかは問題依存で調べてみないとわからない。ゆらぎで分布の端っこの配位が生成されたら、それをいち早く典型温度に連れて行くことはできるので、それがいい方向に行けばいい。少なくとも隣接ペアしか提案しなかった状況はこれで変わるとは思う。
次の都地さん@北大は、宮原さんから聞いていた一次元長距離相互作用する文脈依存モデルで、文脈依存パラメータを入れると相転移するという話。KTっぽいっていうので、秩序変数は出てるし、Binder parameterは交わってるし、磁化率は幅を持って発散しそうというけど、それはサイズが小さいだけって思って、「KTはありえん」とコメントしたら、slackで一次元長距離は秩序変数出るKT転移はあると教えてもらって、Kosterlitzの2016のレビューのSec.1.1に書いてあるらしく、慌てて読んだらそのとおりで、休み時間に謝りに行った。Binder parameterは測り方がよくないかもしれないので、そこは議論して、相関関数を見に行くのがよかろうかなと。この一次元長距離イジングは磁化の値そのものがユニバーサルジャンプになってるみたいで、これKT転移の認識後じゃないと普通に一次転移と思っちゃうやつだし、トポロジカル欠陥がなんだか見出すのは至難の技だと思う。その意味で、上のレビューはすばらしい。ただ、ポッツはどうなってるかわからないし、この非対称系でどうなってるかはさらに非自明。言語モデルで有限の幅で臨界になってる意味も大事な気はする。個人的には幅はなくても、進化というかSOC的なシナリオの方が面白いと思うけど。とにかく、私のコメントは大失態だったけど、いろいろ勉強になった。
そうこうしているうちに、午前中終了。お昼休みにオンラインで会議の司会しなくちゃいけなくて、後半は接続場所を探すために会場を脱出。ちょっともったいなかった。会議終了後にポスターセッションの覗きに行く。教室がゆったり使われててとてもよかっただけど、教室の数が多くて、目的を持たずにふらふらしてたら、「あれ、この部屋には入ったっけ?」と迷子になってしまう。
午後は、岡嶋くんが確率過程で発表。ブラウン素子で構成した回路での計算時間のスケーリングに関する発表で、有限のエネルギーを掛けないと指数時間かかってしまう例があることを数値計算で示しました。ブラウン回路のエネルギーコストについて、計算量の観点から限界を指摘したという意味で結構面白いと思うんだけど、一次元ランダムウォークの理論としては既知のことかもしれないという意味で本当に非自明なことなのかどうかがまだよくわかっていない。講演の質疑応答でややぶちギレ質問があったので、ぶちギレ返してやったのはちょっと大人気なかった。質問者の指摘はまったく正しかったんんです。ただ、「質問と回答が噛み合っていない」って質問者がいうかなーとも思って、学生を上からみてリスペクトを感じない言い方だったので、さらに上からかましてやりました。相変わらず大人気ないです>自分。講演後に、目の前に座ってた内海さんにちょっと話を聞いてもらって、あとから坂上さんにもメールで問い合わせた。お二人共、質問してくただいて大変ありがたかった。
その後に、岡島くん@樺島研の話は、量子スピングラス系での〇〇対称性(名前忘れた)を使った新しい議論と思った。そういえば、前日の原くん@樺島研も同じような話をしていた。ちょっと興味ある。。。奥山くん@大関研は来てなかったけど、静的近似が厳密になる奥山条件とはコンパチだと岡島くんに後から教えてもらった。後半は吉野研セッションがあり、その後に市川くんの話。これはVAEのエンコーダー部分の非線形化して、それによる影響を学習ダイナミクスで見ていました。これまでの線形VAEの結果(これとかこれ)と比べて、βVAEの最適なハイパーパラメータの値は変わらないものの、posterior collapseと呼ばれる失敗する領域は増えることがわかり、追加した非線形パラメータの項の初期値によっては、線形よりも早く収束する場合があることもわかりました。非凸な状況になって、初期条件によっては良いこともあるけど、失敗することも出てくるので、うまい調整が必要なことを明らかにしました。ありそうな結果ではありますが、これを明示的に示した結果はしらないので、思うてたことが本当に出てきたとても良い例かと思います。
西山くん@今泉研は二層系に動的平均場理論を適用して、学習ダイナミクスを追いかけた研究です。大域的最適解に勾配法が到達するかどうかがポイントの一つです。パラメータの数を大きくすると早く収束することを明示的に示す結果でした。その途中の状況もすべて見えるのですが、いくつかのポイントがあって、パラメータ数が少なすぎてだめなところと、大域解はあるけど凸凹になっててしんどそうなところで、どう見えるかというところですが、今回は何かしんどそうな振る舞いは見えるけど、定性的な違いを明確には見えなかった感じです。バッチサイズを変えた結果もあるのですが、それはまた今後の発表で。
それから石田さん@富士通の発表もありました。制限ボルツマンマシーンなどのエネルギーベースモデルに対するRatio divergenceを用いた新しい学習方法の提案です。通常、尤度計算が難しくて、forward KLとかその逆のreverse KLによる学習があるのですが、比をとろうという提案です。forwardもreverseもどちらもうまくいかない問題点があることがわかって…というか、石田さんに教えてもらって、いつの間にか比をとる作戦に行き着いていました。あまり良さが伝わらなかったかもしれないのですが、結構良いと思います。エネルギー関数が与えられた状況で、その設定をうまく活用する方法はあんまり知られていなかったようです。エネルギー関数を使って、その汎化ができていないと、その後でMCMCで生成するときに大失敗するんですよね。その問題をうまく回避できています。実は、講演の後で、伊庭さんから今日イチ発表はこれだって言ってもらいました。
最後に、永井さんのKANの話は勉強になりました。これでどこまで第一原理MD計算までいけるのかが気になりますね。夜は伊庭さんと斉藤さんと夜セッションしました。いろいろ貴重な話を聞いて勉強になりました。
三日目
さて、三日目。だんだん疲労が溜まってくる感じです。
朝は押川さんと続く戎さんの特別講演を聞く。ちょうど私の知識の頃合いの情報がなくて、はるか上を通り過ぎていってしまった。。。中川さんの講演を聞きにいくべきだったと後悔。。。後半はスキルミオンセッションに行って、勉強してきました。いくつかの疑問をslackで展開した後に、ちょうど正木さんを見つけたので、すべての疑問をぶつけて解消してもらいました。ポイントはLLG方程式を解く気持ちと熱平衡状態計算しない理由です。正木さんは朝一番の講演だったので、それを聞かずに失礼しました。そっち聞いとけばよかった。。。
それで、ランチは田畑さんと外でお弁当食べながら、スライドを見せてもらって議論。カイラルグラスは進んだんだね。谷口さんとの胸アツの話も聞かせてもらいました。後で、尾関さんにも寺澤くんの成果を聞かせてもらって、ほぼカイラルグラス説で確定みたいです。私はあまり貢献できなかったけど、まだ非平衡ダイナミクスに関しては不明なところもあるので、まだ仕事はあります。田畑さんの実験も指数を固めるためにはもう少し実験したいようで、ぜひ科研費が当たることを祈っています。これは日本初の研究だし、スピングラスの非線形磁化率測定には伝統も歴史もあって、最後に詰めるところを他に持っていかれないためにもお願いします、審査委員の皆様。私もちょっと田畑さんの解析したレプリコン指数を同じ手続きで数値計算してみたい気がしています。Orbach先生のグループが実験を続けてて、その解釈にカイラル描像が入っていないとの田畑さんの指摘もあり、そこを正しく解釈するためにも状況証拠を増やしていきたい気がします。
午後は、とあるシンポジウムに参加。ところが、初めの方の話がちょっとひどくて、耐え難くて久しぶりに講演中に退席しました。知らないことを勉強することは大事だけど、人前で話すときには理解したことだけを話すべきだねとは思います。休憩後に戻ってきたときに話された工学系の先生は、ご自身のわかっていることを力強く話という意味で意味で面白かったです。それで、出ていった後に行く場がなく、フラフラして飛び込んだ会場に長谷さんの発表がありました。共著者でしたが、ちゃんとプログラム見ていなくて失礼しました。しかし、講演を聞けたのはよかった。この話がどのくらいウケているかはわからないのですが、今後に標準的方法になるといいなぁと思います。質疑のときに、S(q)も合わせに行けばいいんじゃないかと言われて、それはまったくそのとおりなのですが、まずは熱測定、磁気測定をして、有効モデルを推定して、それを確かめるために中性子に行くというのはお金の掛け方としては真っ当で、でも、実験できたんだから統合解析しようというのはそのとおりというわけです。広い意味での実験計画にも関係していて、今後も議論すべき話題かと思います。
それで、セッションに戻る。坂田さんの講演はちょーと聴衆には難しかったかな。スパースモデリングの解法としてのL1の問題点を指摘してて、それでSCADの解法を示しています。その手順を示してくれればよかったかな。あとの実験の先生の話は面白かった。リザーバー計算機の物理実装の話で、私は時間スケールの観点からちょっと悲観的だけど、作れちゃえばどんどん早くすることはできるかもしれない。それよりも、できて面白いじゃないって言われたら、全くそのとおりで、物理計算機はその存在が面白い。スピングラス物質をリザーバーとしちゃえっていうのは、スピングラスが世の役に立つ最初(で最後)の例じゃないかと思って、興奮するよね。。。
夜は研究室でよるセッション。大関グループと合流して午前様。まだまだ若い。
四日目
と思ってたけど、疲れがどんどん溜まって、調子が悪くなる。いくら遅くまで◯んでも次の日の朝セッションは元気よく参加するという掟?に従い、朝イチから参加。もっとも中石くんの講演があるので、掟がなくても当然。というわけで、ニューラルネットワークセッションに参戦。中石くんの講演はLLMの相転移の研究です。物理学会だとスルッと受け入れられるんだね。。。物理学会だからこそ突っ込むべきところもあるような気もするけど。秩序変数はなにか?とかね。質問の中に、低温側で繰り返しはわかるけど、文法は正しいのか?とあって、確かに品詞の周期構造だけではわからない、文法構造の情報を取り入れるべきかどうかは論点になる気もする。一方で、今回の発表にはないが、日本語文章も同様な性質があって、そのときも文法的には読める文章だったような気がするので、ここは普遍的なんだよね。
午前のセッションには経路積分で拡散モデルという話はありそうで、どこかであったような気もするけど、彼らの仕事だったかもしれません。hの条件はKL最小化を見たいと後で話しました。摂動的に求めればいいと言われたけど、興味としては何かの期待値の条件で表されるはずなので、それが何かは摂動的になくても見えるのではないかということでした。そこは同意してもらった。住川くんのK体Hopfieldの話まで聞いて、古典統計セッションに移動。富田さんの話や、寺澤くんの話、諏訪さんの話を聞いて、勉強になりました。最後に北沢さんの話も面白くて、後でちょっと議論。Lee-Yang zeroの論文も書いてないな。。。でも留数定理を使う方法はその後提案されているようで、ちょっと取り分なくなっちゃったです。
これで、物理学会のプログラムは終了。お疲れ様でした。
久々の学会レポートでした。もうちょっと文章ちゃんと書けばいいのですが、この程度で許してください。