Buku Deep Learning Berbasis Fisika

• Physics-based Deep Learning Book v0.3 adalah buku digital yang membahas simulasi fisika dan deep learning secara bersamaan, membantu pembaca mempelajari cara menggabungkan analisis numerik dan jaringan saraf melalui contoh yang dapat dijalankan
• Dalam GenAI edition, porsi pemodelan generatif diperbesar, mencakup denoising, flow-matching, autoregressive learning, physics-integrated constraints, dan diffusion-based graph network
• Cakupan pembelajaran dimulai dari supervised learning lalu meluas hingga physical loss constraints, simulasi diferensiabel, pendekatan diffusion, reinforcement learning, dan pemilihan arsitektur jaringan saraf
• Bab-bab yang diumumkan membahas contoh yang dekat dengan masalah fisika nyata, seperti prediksi aliran di sekitar airfoil, pembelajaran berbasis residual persamaan, inverse problem, dan cara memasukkan simulator ke dalam loop pelatihan
• Semua contoh kode berpusat pada Jupyter Notebook yang bisa dijalankan dan dimodifikasi di browser, sehingga pembaca tidak hanya membaca konsep tetapi juga bisa langsung bereksperimen

---

Buku pembelajaran deep learning untuk simulasi fisika

• Physics-based Deep Learning Book adalah panduan komprehensif berbasis praktik yang membahas deep learning di ranah simulasi fisika
• Dokumen ini menghubungkan penjelasan teori dengan Jupyter Notebook interaktif, sehingga setiap konsep bisa langsung dijalankan dan diverifikasi
• Topik utama yang dibahas adalah sebagai berikut
  • supervised learning tradisional
  • loss-constraints fisika
  • simulasi diferensiabel
  • pendekatan berbasis diffusion untuk AI generatif probabilistik
  • reinforcement learning
  • arsitektur jaringan saraf tingkat lanjut
• Tambahan utama pada GenAI edition v0.3 adalah bab tentang pemodelan generatif
  • denoising
  • flow-matching
  • autoregressive learning
  • physics-integrated constraints
  • diffusion-based graph networks
• Bagian khusus untuk neural architectures yang dirancang bagi simulasi fisika juga ditambahkan, dan semua contoh kode telah diperbarui agar memanfaatkan framework terbaru

Bab yang akan datang dan metode praktik

• Bab selanjutnya membahas cara memprediksi aliran fluida di sekitar airfoil dengan diffusion modeling
  • Pendekatan ini menyediakan surrogate model probabilistik yang dapat menggantikan dan melampaui simulator konvensional
• Juga dibahas metode melatih jaringan agar merepresentasikan solusi dengan menggunakan residual persamaan model
  • Constraint residual dapat ditingkatkan menggunakan simulasi diferensiabel
• Dibahas pula cara berinteraksi lebih erat dengan keseluruhan simulator untuk menyelesaikan inverse problem
  • Ditunjukkan contoh memasukkan simulator ke dalam loop pelatihan untuk menghindari masalah konvergensi pada teknik reinforcement learning standar
• Memilih arsitektur jaringan yang tepat juga menjadi topik utama
  • global interaction dan local interaction
  • continuous representation dan discrete representation
  • structured graph mesh dan unstructured graph mesh
• Pendekatan PBDL diperkenalkan dalam urutan dengan tingkat integrasi model fisika ke deep learning yang semakin tinggi
  • Kelebihan, kekurangan, dan skenario penggunaan yang cocok untuk tiap pendekatan juga dibahas
• Contoh kode berpusat pada Jupyter Notebook yang bisa langsung dijalankan di browser
  • Contoh dapat dijalankan dan dimodifikasi di Google Colab teaser notebook
• Buku ini dikelola oleh Physics-based Simulation Group di TUM, dan juga menyediakan koleksi tautan berisi makalah riset terbaru

[GN⁺]

Opini Hacker News

• Dalam presentasi ringkasan yang padat pada Oktober 2022, Chris Rackauckas memperkenalkan Scientific Machine Learning dengan contoh dari berbagai bidang seperti epidemi, gelombang gravitasi, farmakometri, simulasi laut, dan lainnya
  Ia juga membahas pustaka Julia open-source dan proprietary untuk SciML, jadi materinya sangat kaya informasi
  https://www.youtube.com/watch?v=yHiyJQdWBY8

  • Saya penasaran apakah ada yang tahu seperti apa pasar kerja untuk posisi seperti “insinyur ML simulasi fisika”

• Sepertinya judulnya memang perlu diganti secara tegas. Ini bukan buku tentang deep learning berbasis fisika
  Ini lebih mirip buku yang membahas pendekatan deep learning untuk masalah fisika yang dikembangkan oleh grup riset ini, dan menurut saya itu petunjuk yang sangat penting
  Selain itu, buku ini pada dasarnya juga dipakai untuk sangat mendorong framework simulasi mereka, Phi-Flow, jadi sulit menyebutnya sebagai buku yang menggambarkan keseluruhan bidang ini secara akurat

• Chris telah melakukan pekerjaan bagus di genre ini, dan paket persamaan diferensial Julia yang mendukung fisika atau Scientific ML juga cukup keren
  https://www.stochasticlifestyle.com/the-essential-tools-of-s...

• Saya tidak bisa menemukan cara mengunduh seluruh buku sebagai PDF. Tombol unduh di bagian atas tampaknya hanya mengunduh halaman per halaman
  Setahu saya ini dibuat dengan Jupyter Book, tetapi saya juga tidak menemukan hal terkait di dokumentasinya
  [1] https://jupyterbook.org/en/stable/intro.html

  • Lihat https://github.com/tum-pbs/pbdl-book/issues/1

• Sebagai materi tambahan yang bagus, ada ceramah matematika+ML dari YouTube CRUNCH group, playlist Physics Informed Machine Learning dari Steve Brunton, buku Steve Brunton “Data Driven Science and Engineering”, serta Deep Learning in Scientific Computation dari ETH Zurich
  YouTube CRUNCH group: https://m.youtube.com/channel/UC2ZZB80udkRvWQ4N3a8DOKQ
  Playlist Steve Brunton: https://m.youtube.com/playlist?list=PLMrJAkhIeNNQ0BaKuBKY43k...
  Kuliah ETH Zurich: https://m.youtube.com/playlist?list=PLJkYEExhe7rYY5HjpIJbgo-...

• Ada juga diskusi sebelumnya dari tahun 2021
  https://news.ycombinator.com/item?id=28500577