講演者:中石海(東京大学博士課程3年)
日時:9月11日 14時45分〜16時15分
場所:北海道大学 情報科学研究院棟 9階9-27
演題:大規模言語モデルにおける相転移と臨界現象
要旨:大規模言語モデルは,温度パラメータと呼ばれる,統計物理における温度と似たハイパーパラメータを持つ[1].生成される文章は,このパラメータを低く設定すると反復が多くなり,高く設定すると支離滅裂になる.本講演では, この変化を特徴づけるためにおこなった,代表的な大規模言語モデルであるGPT-2[2]が生成する文章の統計解析[3]について報告する.解析からは,温度パラメータによって引き起こされる文章の変化が相転移であることが示唆される.また,転移点で観察される臨界的性質は自然言語と多くの共通点を持つ.さらに,観察される現象は平衡統計力学系には見られないいくつかの特徴を持っており,このことから,大規模言語モデルが持つ平衡統計力学を超えた性質が現象に深く関わっていると考えられる.
世話人:宮原英之(北海道大学)miyahara@ist.hokudai.ac.jp
開催日時:令和6年9⽉15⽇(⽇)10時〜17時
開催場所:北⾒⼯業⼤学(北海道北⾒市公園町165)
参加対象者:北海道の⼤学等の教育機関に在籍する学⽣
競技内容:参加者が⾃作した移動ロボットにより,3つの課題からなるコースを⾛破するタイムレース (詳細はホームページ:http://bs.robot-triathlon.org/)
申込⽅法:学⽣のグループまたは個⼈が,次の期間にホームページから申し込む.
令和6年8⽉19⽇(月)~8⽉30⽇(金)
参加料:無料
表彰:「第1位」「第2位」「第3位」を表彰する
主催:ロボット・トライアスロン運営委員会
協賛(予定): (社)⽇本機械学会北海道⽀部,(社)計測⾃動制御学会北海道⽀部, (社)精密⼯学会北海道⽀部,(社)情報処理学会北海道⽀部
後援:(社)電⼦情報通信学会北海道⽀部
講演者:上野亮(株式会社ORGO 主席研究員)
日時:6月20日(木) 15:00~
場所:北海道大学 情報科学研究院棟
演題:人体バイオメカニクスにおける機械学習と筋骨格シミュレーション
要旨:機械学習分野が急速に進展する中、生理学・物理学・医学などの融合分野であり、ビジネス応用事例も少ないバイオメカニクス分野の進展は比較的ゆっくりであったと言える。しかし、近年の機械学習技術により、ヒトの運動情報がRGBカメラ一つで取得可能になり、筋骨格シミュレーションなどの技術にも注目が集まっている。筋骨格シミュレーションとは、運動中の筋の活動や張力などを、最適化手法を用いて推定する技術であり、リハビリ分野での患者の評価や治療シミュレーション、病態の理解などに用いられている。さらに有限要素法と組み合わせることで、運動中の靱帯や関節軟骨などの体内組織のストレスや応力をシミュレーションすることも可能である。 本演題では、バイオメカニクス分野で用いられる機械学習、主に姿勢推定技術や、筋骨格シミュレーションにおける最適化手法および有限要素法について紹介し、医療現場での応用例やビジネスとしての応用の可能性を例示する。しかし、患者特有の運動や筋活動、スポーツ分野でのダイナミックな運動など、現在の姿勢推定や筋骨格シミュレーションでは未だ再現が困難な課題は多く、さらなる議題として提示する。
主催:計測自動制御学会北海道支部
日時:令和6年3月7日(木)~8日(金)
会場:北海道大学およびZOOMでのハイブリッド開催
参加費:会員3,000円/非会員5,000円/学生員1,000円/一般学生3,000円 論文集(PDF形式のみ)を含みます
事前参加登録(peatix)が必要です。当日会場受付はありません.
参加登録・プログラム・会場に関する詳細は 当支部ホームページ(https://www.sice.or.jp/org/hokkaido/)を 参照願います.
問い合わせ先:
〒060-8628 札幌市北区北13条西8丁目
北海道大学大学院工学研究院 機械・宇宙航空工学部門
江丸 貴紀 (emaru@eng.hokudai.ac.jp)
講師:櫻沢 繁 氏(公立はこだて未来大学 教授)
日時:2024年3月2日(土)15:00〜16:00(変更になる場合があります)
演題:物質基盤知能と人工生命
概要:人工知能や人工生命は、そのプラットフォームを計算機とするが、生物の身体の中には計算機がない。生物における代謝は、一般的に身体への物質及びエネルギーの取り込みを担うと認識される一方で、代謝の化学反応経路が円環状であり、反応速度論的に非線形性がある事に留意すると、代謝反応は計算機として十分機能でき、知能的な振る舞いを実現できる事が示唆される。ここではその具体例として化学知能ロボットを紹介しながら物質基盤知能について考える。
世話人:奥野拓(公立はこだて未来大学)
講演者: 姫岡優介(東京大学)
日時: 2024/1/9(火) 13:00~
場所: 北海道大学 情報科学研究院棟 A13講義室
演題:大腸菌代謝動力学モデルの摂動応答性とモデル細胞死
要旨: 大腸菌などの微生物を対象としたシステム生物学はこの数十年で、富栄養環境下・指数関数増殖期にある細胞集団については、成長速度-リボソーム量関係式・フラックスバランス解析・細胞サイズコントロールなど、様々な数理的法則を見出してきた。 これらの数理的法則の背後には「細胞の代謝状態は定常状態にある」という仮定が存在する。しかし、1,000種類以上の化学物質・化学反応が複雑に相互作用する「細胞」という系において、定常状態の存在性や安定性はそれほど無批判に仮定して良いものなのだろうか。むしろ「どのような条件で安定な定常状態が存在できるのか」を問うことが、「生きている」という状態を理解するため極めて重要ではないだろうか。 また近年、ストレス環境下における細胞生理状態では遅いダイナミクスや記憶現象が生じており、それらの理解のためには定常性に拠って立つ理論アプローチでは不十分であることも指摘されるようになった。理論的関心としても実験からの需要としても、代謝の静力学を超えて動力学の理論フレームワークの発展が必要である。 そこで我々は大腸菌の代謝動力学を理解するための第一歩として、代謝ダイナミクスが代謝物質の濃度への摂動に対してどのように応答するかを複数のモデルを用いて調べた。その結果、大腸菌代謝反応動力学モデルは代謝のトイモデルに比べて、代謝物質の濃度への摂動に対して大きな応答を示すことが分かった。加えて、モデルによっては代謝物質濃度の摂動は「休眠状態」と呼ばれる大腸菌の成長停止状態の振る舞いと似た、非常に遅い緩和ダイナミクスを引き起こすことも明らかとなった。モデル縮約やネットワーク拡張などの手法を用いて代謝モデルを改変することにより、代謝モデルの持つ強力な応答性にはATPやADPといった補酵素や、代謝ネットワーク構造の構造が重要な役割を果たしていることが明らかになった。 また、より摂動を大きくしていった場合にいくつかのモデルは成長速度がゼロの「細胞死」に対応するような状態を示すことが分かった。我々はこのモデルの細胞死がどのような機構で生じているのかを明らかにし、また「ここから先ではどのように遺伝子発現状態を制御しても生き返ることは出来ない」というPoint of No Returnを数理モデル上において特定した。 本セミナーでは以上の内容を報告し、「細胞を一からつくることの難しさ」や、「生きている状態と死んでいる状態の本質的な違い」を理解するためにそれらをどのように役立てることができるのかを議論したい。
世話人:宮原英之(北海道大学)miyahara@ist.hokudai.ac.jp
講演者: 藤井海斗(NII)
日時: 2023/12/12(火) 16:30 - 18:00
場所: 北海道大学 情報科学研究院棟 A22講義室
演題:組合せ最適化における局所探索の近似保証
要旨:
局所探索は、組合せ最適化における基本的なアルゴリズム設計の技法であり、 さまざまな組合せ最適化問題に用いられている。本講演では、局所探索を 理論的に解析する手法(の一部)を概説し、劣モジュラ最適化および サンプリングとの関連について紹介する。また、講演者の研究成果である、 局所探索によって近似解が求まる条件と、そのスパース最適化への応用 についても述べる。
世話人:宮原英之(北海道大学)miyahara@ist.hokudai.ac.jp
講演者: 道下 佳寛 (理化学研究所)
日時: 10月13日 14時45分 ~
場所: 北海道大学 情報科学研究院棟 A22講義室
演題: 強化学習による理論解析手法の開拓〜AlphaZero For Physicsに向けて〜
要旨:
近年の機械学習分野の目覚ましい進展を受け、物理学(特に物性物理)の分野においてもその手法を取り入れ上手く適用しようという動きが出てきている。例えば、実験・数値シュミレーション結果の判断[1,2]や、ニューラルネットワークに量子状態を表現させエネルギー等について最小化して基底状態・定常状態を解く手法[3-5]や、これまでの実験データを学習データとし物性を予測させるマテリアルインフォマティクス[6,7]などがある。これらは、あくまで数値シュミレーションや実験分野への適用であり、理論解析手法の開拓に対する機械学習の応用の事例は皆無であった。
そこで本研究では、「物理の有用な理論解析手法の探索」を、グラフ理論の意味での木の表現を通じて、「ある種のゲームの最善戦略の探索」の問題にマッピングし、それを強化学習(特にAlpha Zero)のアルゴリズムを用いて解くフレームワークを提案する。また具体的な問題について適用し、実際に既に知られている解析手法を「発見」できる事を例示する。
本セミナーでは、まず、物理学の研究における基本的な問題意識と、特に量子多体系におけるいくつかのモデルとその理論解析の処方箋を、わかりやすい簡単な例を用いていくつか共有しする。さらに強化学習手法について説明した後に、物理の問題をどのようにして強化学習に解かせ、理論解析手法を開拓していくのかについて議論する予定である。
Reference
[1] J. Carrasquilla, et al, NPhys.: 13, 431-434(2017)
[2] V. Bapst, et al, NPhys.: 16, 448-454(2020)
[3] G. Carleo, et al,Science: 355, 602(2017)
[4] Y. Nomura, et al, PRB:96.205152(2017)
[5] N. Yoshioka, et al, PRB:91.214306(2019)
[6] A. O. Oliynyk, et, al,ACS: 28, 20, 7324-7331(2016)
[7] S. Wu, et al, Comp. Mat., 5, 66 (2019)
世話人:宮原英之(北海道大学)miyahara@ist.hokudai.ac.jp